Михаил Светлов родился в Екатеринославе (ныне Днепр) в семье ремесленника Арона Боруховича Шейнкмана и Рахили Ильевны Шейнкман. У него была сестра Елизавета. До 1922 года семья жила в доме Баранова на Гимнастической улице (дом № 7, после революции — улица Шмидта, дом № 23).
Публиковаться начал в 1917 году в екатеринославской газете «Голос солдата». Псевдоним «Светлов» появился в 1919 году.
В 1919 году был назначен заведующим отделом печати Екатеринославского губкома комсомола. В 1920 году вступил добровольцем в Красную армию, принимал активное участие в Гражданской войне. Недолгое время жил в Харькове, откуда в 1922 году переехал в Москву.
Первый сборник стихов «Рельсы» вышел в 1923 году в Харькове. В 1927—1928 годах учился в МГУ. Согласно документам НКВД, поддерживал Левую оппозицию, вместе с поэтами Михаилом Голодным и Иосифом Уткиным издавал нелегальную оппозиционную газету «Коммунист», приуроченную к 7 ноября 1927 года. Нелегальная типография, печатавшая газету, располагалась в доме у Светлова.
В 1927—1928 годах, по данным НКВД, Светлов вместе с Голодным устраивал в Харькове поэтические вечера, сбор с которых шёл на нужды оппозиционного нелегального Красного креста, и в дальнейшем оказывал материальную поддержку семьям арестованных оппозиционеров.
В 1934 году, когда создавался Союз писателей СССР, Светлов считал, что от этой организации «кроме пошлой официальщины, ждать нечего». По поводу Третьего Московского процесса Светлов высказался следующим образом: «Это не процесс, а организованные убийства, а чего, впрочем, можно от них ожидать? Коммунистической партии уже нет, она переродилась, ничего общего с пролетариатом она не имеет».Знаменитое стихотворение Михаила Светлова «Гренада», написанное в 1926 году, положили на музыку около 20 композиторов разных стран.
31 декабря 1926 года Марина Цветаева писала Борису Пастернаку: «Передай Светлову (Молодая Гвардия), что его Гренада — мой любимый — чуть не сказала: мой лучший — стих за все эти годы. У Есенина ни одного такого не было. Этого, впрочем, не говори, — пусть Есенину мирно спится».
Пьеса о колхозной жизни «Глубокая провинция» (1935) была раскритикована в «Правде» и снята со сцены. В годы Великой Отечественной войны Светлов был корреспондентом газеты «Красная звезда», затем работал во фронтовой печати 1-й ударной армии. Наиболее известное из военных стихотворений — «Итальянец» (1943).
За книгу «Стихи последних лет» Светлову посмертно была присуждена Ленинская премия. «Лирика Светлова, — пишет В. Казак, — всегда многопланова; многое в ней остаётся недосказанным и даёт волю фантазии читателя. Его стихотворения преимущественно предметны; конкретные предметы служат обозначениями чувств и мыслей».
С 1941 до 1945 года — военный корреспондент газеты «Красная Звезда» сначала на Ленинградском фронте, затем работал в газетах Первой ударной армии Северо-Западного фронта: «На разгром врага», «Героический штурм», в газете Тридцать четвёртой армии Первого Белорусского фронта.
За боевую работу в годы Великой Отечественной войны Михаил Аркадьевич Светлов был награждён двумя орденами Красной Звезды, медалями.
В 1931—1962 годах Михаил Светлов жил в «Доме писательского кооператива» в Камергерском переулке. На протяжении ряда лет преподавал в Литературном институте.
Михаил Светлов умер от рака лёгкого 28 сентября 1964 года. Похоронен в Москве на Новодевичьем кладбище.
