В начале 1941 года руководством страны была начата масштабная реорганизация, в рамках которой Указом Президиума Верховного Совета СССР от 3 февраля НКВД СССР был разделен на Народный комиссариат внутренних дел и Народный комиссариат государственной безопасности, а постановлением Совета народных комиссаров СССР от 8 февраля 1941 года особые отделы были выделены из НКВД СССР и переданы в Наркомат обороны (в качестве 3-го Управления НКО СССР) и Наркомат военно-морского флота (в качестве 3-го Управления НКВМФ СССР).

В связи с нападением нацистской Германии на СССР реорганизация системы советских органов госбезопасности была прервана, в связи с чем, постановлением Государственного комитета обороны (ГКО) от 17 июля 1941 года на базе 3-го Управления НКО СССР создано Управление особых отделов (УОО) НКВД СССР. Третьи отделы и отделения фронтов, округов, армий, корпусов, дивизий были переименованы в особые отделы и подчинены УОО.

В условиях отступления Красной Армии под натиском немецко-фашистских войск главными задачами военной контрразведки являлись: борьба со шпионажем и предательством в частях Красной Армии, ликвидация дезертирства в прифронтовой полосе. Говоря иными словами – необходимо было выстоять, остановить хаотичное отступление, пресечь панику, спасти от развала армию, принявшую на себя удар колоссальной силы.

Сотрудники особых отделов с поставленными задачами справились в полном объеме.

После победы советских войск под Москвой, а затем и под Сталинградом обстановка на советско-германском фронте стабилизировалась. Изменившийся характер боевых действий, переход от обороны к наступлению требовал придания работе военной контрразведки активного, наступательного характера.

К этому времени особые отделы уже обладали достаточными сведениями о противнике. Был получен уникальный опыт проведения операций по внедрению агентуры в германские и финские разведывательные школы, проведены первые радиоигры. Именно эти направления работы должны были стать залогом успешной работы военной контрразведки в условиях изменения общей стратегической ситуации.

Кроме этого, огромное значение теперь приобретали оперативность поступления руководству страны объективной информации о боеспособности и боеготовности войск, оперативное принятие решений на высшем уровне по важнейшим стратегическим направлениям.

Впервые необходимость преобразований в работе военной контрразведки была озвучена в марте 1943 года на состоявшемся в Москве совещании начальников фронтовых и армейских особых отделов. По сути, это было первое подведение итогов деятельности военной контрразведки за первые годы войны.

2 апреля 1943 года И.В. Сталину был доложен проект постановления Совета Народных Комиссаров СССР, согласно которому все оперативно-чекистские управления и отделы выделялись из НКВД и на их базе образовывался самостоятельный Наркомат Госбезопасности. Управление особых отделов должно было функционировать в качестве одного из управлений контрразведки НКГБ под названием «Смеринш» (аббревиатура расшифровывалась как «Смерть иностранным шпионам»). Задачи и направления оперативной деятельности данного подразделения ничем не отличались от функций его предшественника.

Этот проект не прошёл.

19 апреля 1943 года И.В. Сталин утвердил постановление СНК СССР № 415-138сс, в соответствии с которым Управление особых отделов Народного Комиссариата Внутренних Дел СССР было изъято из ведения НКВД и передано в Народный Комиссариат Обороны. Образовано Главное управление контрразведки «Смерш» НКО СССР.

Начальником ГУКР «Смерш» НКО СССР и заместителем народного комиссара обороны был назначен комиссар госбезопасности 2-го ранга Абакумов В.С.

Основными задачами, которые возлагались на «Смерш», являлись: борьба со шпионской, диверсионной, террористической и иной подрывной деятельностью иностранных разведок; с предательством и изменой Родине;
с дезертирством и членовредительством на фронтах; с антисоветскими элементами, проникшими в части и учреждения Красной Армии.

Так накануне самого важного сражения Великой Отечественной войны – Курской битвы была создана спецслужба, позднее признанная самой эффективной в годы Второй мировой войны, не имевшая себе равных по размаху, результатам и интенсивности оперативно-разыскной деятельности.

Результаты не заставили себя долго ждать. Только в июне-июле 1943 года контрразведчики Центрального фронта обезвредили 15 разведывательно-диверсионных групп противника. В 1943 году ГУКР «Смерш» предотвращён теракт в отношении будущих маршалов Победы К.К. Рокоссовского и Л.А. Говорова, в 1944 году – в отношении И.В. Сталина.

Всего за годы войны советскими органами безопасности обезврежено более 30 тысяч шпионов, 3,5 тысячи диверсантов и 6 тысяч террористов.

Ни один стратегический план советского командования не стал достоянием немцев. Армия и Флот были надёжно ограждены от подрывной деятельности спецслужб нацистской Германии и её союзников.

По итогам войны Верховный главнокомандующий Вооруженных Сил СССР Иосиф Виссарионович Сталин объявил военным контрразведчикам благодарность за их вклад в приближение Победы.

Тысячи армейских чекистов были награждены правительственными наградами, в том числе орденами Ленина и Красного Знамени, полководческими орденами Суворова, Кутузова, Богдана Хмельницкого и Нахимова.