Елисаветград
Арсений родился 25 июня 1907 года в Елисаветграде. Отец был народовольцем, сидел в тюрьме и ссылке, знал несколько языков и водил детей на поэтические вечера — маленький Арсений слышал Северянина, Бальмонта, Сологуба.
Старшего брата убили в 1919 году. Сам он в двадцать втором уехал в Москву, учился на Высших литературных курсах, подрабатывал в газете «Гудок», где писал стихотворные фельетоны на заданные темы.