Николай Михайлович Харламов родился в 1892 году в городе Кадом Тамбовской губернии.
Служил начальником НТК УВВС. С 17 января 1932 года — Начальник Центрального аэрогидродинамического института им. проф. Н. Е. Жуковского.
Арестован 9 ноября 1937 г.
В оговоре Бабушкина Н. В., как бывшего секретаря парткомa ЦАГИ, был назван участником "антисоветской правотроцкистской организации" вместе со своим заместителем Некрасовым, главными конструкторами ЦАГИ Туполевым, Петляковым и еще 9-ю членами руководства ЦАГИ. Бабушкин "сообщил" следователям Кузнецову и Кондакову, что руководители антисоветской организации Харламов и Туполев имели целью проведение вредительской и подрывной работы в области самолетостроения.
Харламов Н. М. был включен главой НКВД Ежовым Н.В. в список 139 лиц высшего командного состава РККА, подлежащих расстрелу по первой категории (список подготовлен майором Шапиро). 26 июля 1938 года с короткой запиской Ежова список был подан на подпись лично Сталину, который собственной рукой поставил отметку "За разстрел всех 138 человек". Вторую расстрельную подпись поставил Молотов В.М. . Всё, о чём говорила записка Ежова: "Товарищу Сталину. Посылаю список арестованных, подлежащих суду Военной Коллегии по первой категории".