1-й отдел — агентурно-оперативная работа в центральном аппарате Наркомата обороны (начальник — полковник ГБ, затем генерал-майор Горгонов Иван Иванович)
2-й отдел — работа среди военнопленных, проверка военнослужащих Красной Армии, бывших в плену (начальник — подполковник ГБ Карташев Сергей Николаевич)
3-й отдел — борьба с агентурой, забрасываемой в тыл Красной Армии (начальник — полковник ГБ Утехин Георгий Валентинович)
4-й отдел — работа на стороне противника для выявления агентов, забрасываемых в части Красной Армии (начальник — полковник ГБ Тимофеев Петр Петрович)
5-й отдел — руководство работой органов «Смерш» в военных округах (начальник — полковник ГБ Зеничев Дмитрий Семенович)
6-й отдел — следственный (начальник — подполковник ГБ Леонов Александр Георгиевич)
7-й отдел — оперативный учет и статистика, проверка военной номенклатуры ЦК ВКП(б), НКО, НКВМФ, шифрработников, допуск к совершенно секретной и секретной работе, проверка работников, командируемых за границу (начальник — полковник Сидоров А. Е. (назначен позднее, в приказе данные отсутствуют))
8-й отдел — оперативной техники (начальник — подполковник ГБ Шариков Михаил Петрович)
9-й отдел — обыски, аресты, наружное наблюдение (начальник — подполковник ГБ Кочетков Александр Евстафьевич)
10-й отдел — Отдел «С» — специальных заданий (начальник — майор ГБ Збраилов Александр Михайлович)
11-й отдел — шифровальный (начальник — полковник ГБ Чертов Иван Александрович)
Политотдел — полковник Сиденьков Никифор Матвеевич
Отдел кадров — полковник ГБ Врадий Иван Иванович
Административно-финансово-хозяйственный отдел — подполковник ГБ Половнев Сергей Андреевич
Секретариат — полковник Чернов Иван Александрович