В годы Первой мировой войны воевал в составе 8-й армии генерала Алексея Брусилова на Юго-Западном фронте.

В декабре 1917 года вступил в Красную гвардию, был инженером красногвардейского полка в Могилеве-Подольском. С мая 1918-го – в РККА, участник Гражданской войны. Служил в штабе Северо-Кавказского военного округа, участвовал в обороне Царицына. Позднее занимался строительством укрепленных районов. В 1920 году на Южном фронте руководил инженерным обеспечением штурма Чонгара и Перекопа, успех которого окончательно решил исход Гражданской войны.

С 1926 года Карбышев преподавал в Военной академии РККА им. М.В. Фрунзе, где с 1934-го был начальником кафедры военно-инженерного дела.

В 1939-1940 годах вырабатывал рекомендации войскам по инженерному обеспечению прорыва линии Маннергейма во время советско-финской войны.

Великая Отечественная война застала Карбышева в штабе 3-й армии в Гродно, куда он прибыл для инспекции военных объектов. Гродненский укрепрайон считался одним из наиболее мощных в то время на западной границе СССР. Но к началу войны он так и не был достроен, и его оборонительные сооружения приняли удар врага уже в первый день войны – 22 июня 1941 года. Бои в направлении этого укрепрайона продолжались до 26 июня.

27 июня попал в окружение. Во время попытки выхода в августе 1941-го был тяжело контужен в бою в районе Днепра и в бессознательном состоянии попал в плен. Именно с этого момента и до 1945 года он числился как пропавший без вести…

Лишь после войны стало известно, что он содержался в концентрационных лагерях Замостье, Хаммельбург, Флоссенбург, Майданек, Освенцим, Заксенхаузен, где был одним из руководителей подполья.

Генерал Карбышев – автор более ста научных публикаций по военно-инженерному искусству и военной истории, по вопросам применения инженерных заграждений. Считалось, что в разработке вопросов применения инженерных заграждений и разрушений он был признанным пионером.

Дмитрий Карбышев имел звание генерал-лейтенанта инженерных войск. Был награждён орденами Святого Владимира IV степени, Святого Станислава II и III степеней, Святой Анны II, III, IV степеней с мечами, Красной Звезды и Красного Знамени.

Звание Героя Советского Союза Дмитрию Михайловичу Карбышеву присвоили посмертно 16 августа 1946 года.