Erdman sa narodil v rodine pobaltských Nemcov a medzi moskovských divadelníkov ho priviedol jeho brat, scénograf Boris Erdman. Zoznámil ho so slávnym režisérom Mejercholdom, ktorému autor odovzdal v roku 1924 tragickú absurditu Mandát. Mejerchold okamžite spoznal Erdmanov výnimočný talent a inšpiroval ho písať čo najviac. Celkom výnimočnou v ruskej a sovietskej dramatickej tvorbe sa stal Samovrah (1928), ale v boji so sovietskymi cenzormi nemohol zvíťaziť. Snažili sa pomôcť aj hviezdy Vachtangovovho divadla, márne. Napokon sám Stanislavskij nabral odvahu a napísal list Stalinovi, v ktorom argumentoval napríklad aj Gorkého nadšením zo Samovraha. Inscenácia síce dostala "zelenú", ale večer pred premiérou ju stranícka komisia zakázala. Erdman ako divadelník skončil. Navyše, po istej oslave v Kremli herec Kočalov, zrejme čímsi podgurážený, predniesol Erdmanove satirické verše o Stalinovi. Erdmana zatkli. Stalo sa tak počas nakrúcania hudobnej komédie, oslavujúcej sovietske šťastie, voľnosť a raj na Zemi pod veľavravným názvom Celý svet sa smeje. Erdman putoval do vyhnanstva v Jenisejsku.
Po vypuknutí vojny Erdmana, ako odsúdenca, povolali do prvých vojnových línií. Paradoxne ho, vraj na Berijov príkaz, vyvliekli z transportu, odoslali do Moskvy a pridelili do umeleckého klubu NKVD. Tam sa stretol aj s režisérmi Jutkevičom a Ljubimovom, aj so skladateľom Dmitrijom Šostakovičom.
Po vojne Erdman znovu získal občianske práva a na objednávku Jozefa Vissarionoviča napísal scenár k filmu Smelí ľudia, za ktorý dostal v roku 1951 Stalinovu cenu.
Odvtedy márne túžil po divadle, a ako zabudnutý divadelný autor sa venoval písaniu rozprávkových filmových scenárov (Dvanásť mesiačikov, Snehová kráľovná...) Najznámejším a doteraz najmä na Vianoce v televíziách uvádzaným sa stal jeho posledný - Mrázik.
V roku 1989 Činohra SND uviedla Samovraha v réžii Vladimíra Strnisku.