Родился Михаил Громов в Твери.  С 1916 по 1917 год он учился в Московском Высшем техническом училище, а в 1917 году окончил авиационные теоретические курсы. С этого дня жизнь Михаила Громова была связана с армией и с авиацией.

23 июня 1927 года Громов стал первым советским лётчиком, спасшимся на парашюте из аварийного самолёта.

В конце 20-х годов Михаил Громов становится ведущим лётчиком-испытателем Советского Союза. На его счету — рекорды дальности и беспосадочные полёты на тысячи километров.

Так, с 10 по 12 сентября 1934 года на самолёте АНТ-25 РД («Рекорд дальности») совершил за 75 часов рекордный по дальности и продолжительности перелёт по замкнутому маршруту Москва—Рязань—Харьков протяжённостью 12 411 километров.  За мужество и героизм, проявленные при выполнении этого перелёта, лётчику-испытателю Михаилу Громову 28 сентября 1934 года присвоено звание Героя Советского Союза.

А в 1937 году на АНТ-25-1 Громов совершил беспосадочный перелёт Москва — Северный полюс — Сан-Джасинто (Калифорния, США), установив два мировых авиационных рекорда дальности полёта. За этот перелёт он был награждён орденом Ленина.

Все эти полёты Громов совершал, работая в Центральном аэрогидродинамическом институте имени профессора Жуковского (с 1930 по 1941 год).

В марте 1941 года Михаил Громов стал первым начальником только что созданного Лётно-исследовательского института (ЛИИ). Он лично выбрал место для строительства, принимал участие в проектировании лётного поля и вспомогательных служб.

На историческом первом ангаре ЛИИ установлена мемориальная доска памяти Михаила Громова. Сейчас ЛИИ носит имя Михаила Громова.

Имя Михаила Громова в Жуковском носит не только ЛИИ, но и площадь, а также лицей № 14, в котором размещается школьный музей, посвящённый великому лётчику.