Русский и советский поэт, учился в Харьковском коммерческом училище, курса не окончил.

В 1911 г. за участие в революционной деятельности сослан в Енисейскую губернию «на вечное поселение», откуда через несколько месяцев бежал в Китай. Побывал в Японии, Корее, Австралии, с 1917 года поселился в Харбине.

В начале 1920-х гг. активно участвовал в литературной жизни Владивостока и Харбина, примкнув к дальневосточным футуристистам. Печатался в местных газетах. Писал умеренно футуристические стихи и статьи, посвященные революции и Советской России. Занимался переводами старинной японской поэзии.

Во второй половине 1920-х гг. вернулся в СССР, был репрессирован, отбывал срок в Соловецких лагерях, потом был отправлен на строительство Беломорско-Балтийский канала. В исправительно-трудовом лагере С. Алымов редактировал газету для заключённых. Один из авторов книги «Канал имени Сталина» (1934).

После возвращения в Москву С. Алымов превратился из поэта-декадента в поэта-песенника, причем одного из самых востребованных в 1930-е гг. Он писал преимущественно тексты советских патриотических песен; главным потребителем этих стихов стал Краснознаменный ансамбль песни и пляски Советской Армии под руководством А.В. Александрова.

Самые известные песни на слова С. Алымова предвоенных лет: «Забайкальская» (1935), «Бейте с неба, самолеты» (1935), «Тучи стелются высоко» (1937), «На торпедных катерах» (1938), «Красной Армии сыны» (1938) и, конечно же, бессмертная «Вася-Василёк» (1940).

После начала Великой Отечественной войны поэт работает с удвоенной энергией. Еще в 1940 г. С. Алымов оказался на Военно-морском флоте в Севастополе, где пробыл до 1942 г. После освобождения Севастополя он участвовал в работе фронтовых бригад. Музыку на его «оборонные» песни пишут самые известные советские композиторы: П.С. Акуленко («Пойдут враги на дно», «Мы с тобой, Буденный»), В.А. Белый («Песня славы»), М.И. Блантер («Песня о казачке»), К.Я. Листов («Материнский наказ»), А.В. Мосолов («Донцы-молодцы»), В.И. Мурадели («Мы фашистов разобьем»), А.Г. Новиков («Самовары-самопалы», «Где орел раскинул крылья»), Т.Н. Хренников («Вороны фашистские будут перебиты»), Н.П. Чаплыгин («Черноморская-гвардейская»), Д.Д. Шостакович («Черное море»).

У поэта были все предпосылки, чтобы стать одним из главных официальных поэтических певцов Советской Армии на долгие годы, но его жизнь трагически оборвалась в автодорожном происшествии в 1948 г.

В его честь назван пароход «Сергей Алымов», ходивший по р. Волге.