Название (аббревиатура от лозунга «Смерть шпионам!») новому подразделению дал сам Верховный Главнокомандующий И. В. Сталин, но изначально народный комиссар госбезопасности Всеволод Меркулов предложил Сталину назвать ее «СмерИнш» - «Смерть иностранным шпионам».
Создание нового органа, получившего название «СМЕРШ», шло под непосредственным контролем Верховного главнокомандующего Иосифа Сталина и было создано 19 апреля 1943 года постановлением Совета Народных Комиссаров СССР. Начальником Главного управления контрразведки (ГУКР) назначили Виктора Абакумова. Одновременно с армейской Смерш аналогичные организации были созданы на флоте - они подчинялись лично наркому Военно-морского флота Николаю Кузнецову.Впервые свою силу «СМЕРШ» продемонстрировал во время Курской битвы. Благодаря работе контрразведки, для гитлеровцев остались тайной планы советского военного командования, а диверсионная активность в тылу советских войск сведена до минимума. Организация, созданная самим Сталиным, носит репутацию лучшей военной контрразведки в мире. За годы войны контрразведчикам удалось обезвредить около 30 тысяч вражеских агентов, более 3500 диверсантов и 6000 террористов. В тылу противника, нейтрализуя деятельность его разведывательных органов, работало до 3000 агентов. Свои последние боевые задачи сотрудники Смерш выполняли в ходе Советско-японской войны.
В 1946 году контрразведка Смерш прекратила свое существование - ее сотрудники вошли в состав 3-го управления нового Министерства государственной безопасности (МГБ) СССР.