Сталинские репрессии против высшего военного состава Красной Армии в целом, и руководителей ГРУ в частности, привели к ослаблению всей разведывательной системы Советского Союза. В силу этого перед войной практически прекратилось поступление достоверных, стратегически важных сведений из самой Германии и оккупированных ею стран. 18 июля 1941 года ЦК ВКП(б) принял постановление Об организации борьбы в тылу германских войск . Перед внешней разведкой становились следующие задачи: наладить работу по выявлению военно-политических планов Германии и ее союзников во время войны; создать специальные отряды для ведения разведывательно-диверсионных операций; выявлять истинные планы и намерения США, Англии по вопросам ведения войны и послевоенного устройства; вести разведку в нейтральных странах с тем, чтобы не допустить их перехода на сторону стран оси ; осуществлять научно-техническую разведку в целях укрепления военной и экономической мощи СССР.
Для решения поставленных задач были усилены разведывательные подразделения органов безопасности. Основным разведывательным подразделением стало Первое управление НКГБ. В начале войны в нем было 10 отделов, в том числе территориальные:
- Центральноевропейский (с отделениями - Германии, Польши, Чехословакии, Венгрии, украинским);
- Балканский (Болгария, Румыния, Югославия, Греция);
- Западноевропейский (Франция, Италия, Швейцария, Бельгия, Португалия);
- Скандинавский (Финляндия, Швеция, Норвегия, Дания, Голландия);
- Англо-американский (Англия, США, Канада, южноамериканское отделение и отделение научно-технической разведки);
- 1-й дальневосточный (Япония, Маньчжурия);
- 2-й дальневосточный (Китай, Таиланд, Синьцзян);
- Средневосточный (Турция, Иран и арабские страны, Афганистан и Индия);
- Совколония.
Заметное место в структуре военной разведки занимали специальные разведывательные отряды, действовавшие в немецко-фашистском тылу. Так, активную разведывательную работу вел отряд Победители полковника Д.Н. Медведева. В его составе находился знаменитый разведчик Н.И. Кузнецов, который после тщательной подготовки в Первом управлении НКГБ, особенно в совершенствовании немецкого языка (предполагалось использовать Кузнецова в качестве нелегального резидента в самой Германии), был заброшен в тыл врага в район г.Ровно. С документами на имя офицера вермахта Пайля Зиберта он был вхож в различные круги гитлеровских оккупантов и использовал свои обширные знакомства для сбора интересующей Москву информации. За время своей работы среди гитлеровцев Пауль Зиберт добыл и передал в Центр сведения о готовящемся покушении германских спецслужб на участников Тегеранской конференции, планах командования вермахта на Курской дуге, иную важную информацию. Им были уничтожены главный нацистский судья на оккупированной Украине Функ, заместитель гауляйтера Украины генерал Кнут, вице-губернатор Галиции Бауэр. С помощью других партизан-разведчиков Кузннецов осуществил похищение командующего карательными войскам Германии на Украине генерала Ильгена. Кузнецов был убит украинскими националистами в 1944 г. За мужество и героизм ему было присвоено звание Героя Светского Союза.
Другой разведывательно-диверсионный отряд Форт , возглавляемый В.А. Молодцовым, действовал в Одессе и ее окрестностях. База Молодцова находилась в одесских катакомбах. Разведчики этого отряда смогли добыть важные сведения о немецких и румынских войсках и планах их командования. Молодцов погиб в результате предательства. Посмертно он стал Героем Советского Союза.
Накануне оккупации гитлеровскими войсками Киева внешняя разведка создала в нем нелегальную резидентуру во главе с разведчиком И.Д. Кудрей. Этой резидентуре удалось проникнуть в разведывательный центр гитлеровцев, который возглавлял опытный разведчик майор Миллер, он же Антон Мильчевский, перед войной немецкий агент в Киеве. Кудрей и его помощниками были добыты сведения о 87 агентах абвера и о ряде предателей. Кудря был выдан агентом гестапо и казнен. Посмертно он был удостоен звания Героя Советского Союза.
К 1943 г. практически во всех подразделениях абвера работали советские агенты. В общей сложности он передали в Центр информацию о 1260 германских разведчиках, работавших на территории Советского Союза или готовящихся к заброске в советский тыл.
Непосредственно в Германии богатыми информационными возможностями располагали руководители нелегальных антифашистских групп обер-лейтенант Шульце-Бойзен (Старшина), работавший в 5-м отделении оперативного отдела ВВС (он был внуком гросс-адмирала фон Тирпица), и один из руководящих сотрудников министерства экономики Германии Арвид Харнак (Корсиканец). Оба они еще в 30-е гг. создали подпольную антифашистскую группу для борьбы с нацизмом (берлинская группа Красной капеллы ), по своей инициативе установили контакт с советскими представителями и были привлечены внешней разведкой к секретному сотрудничеству. Старшина заведовал секретным отделением разведывательного отдела штаба ВВС (его непосредственным начальником был сам Геринг), куда поступали донесения военно-воздушных атташе Германии из всех стран. Он имел также доступ к секретным картам люфтваффе, на которых были указаны цели для бомбардировочный авиации.
Корсиканец располагал важными секретными данными по экономическим вопросам рейха. Информация Сташины и Корсиканца, поступавшая в Москву с октября 1940г. до лета 1942г., оказала советскому руководству большую помощь в раскрытии военных планов Германии в отношении СССР. В частности, помимо предупреждений о неизбежности нападения Германии на Советский Союз, от них весной 1942г. были получены сведения о том, что, несмотря на дезинформацию абвера, согласно которой немецкая армия будет вновь пытаться взять Москву, на самом деле главный удар будет наноситься в направлении Сталинграда и Кавказа. В августе 1942 г. германской разведке удалось запеленговать и затем захватить радиостанцию немецких подпольщиков-антифашистов и арестовать разведывательную группу Красной капеллы как в самой Германии, так и в Бельгии и во Франции. По делу Красной капеллы были привлечены к суду свыше 600 человек. Почти все казнены.
В том же 1942 г. в Германии трагически завершилась деятельность другого высокопоставленного сотрудника германского МИД, работавшего на советскую разведку, - Рудольфа фон Шелиа (Арийца), послужившего прототипом небезызвестного Штирлица. В отличае от кинематографического персонажа, рыцаря без страха и упрека советского образца, реальный Ариец был сыном крупного силезского помещика-дворянина, получил юридическое образование в Бреслау и Гейдельберге, после чего сделал карьеру в министерстве иностранных дел. Его отношение к нацистам было негаивными, однако это не помешало ему вступить в НСДАП в 1933 г., что впоследствии пригодилось для продвижения по служебной лестнице. Советский резидент в Берлине не видел какой-либо идеологической основы для привлечения Шелиа к сотрудничеству, поэтому без обиняков предложил за услуги денежное вознаграждение. Предложение было принято. Ко времени вербовки он имел ранг советника министерства и возглавлял группу под названием Отделы по территориальным секторам , куда входили области Централной и Восточной Европы. Для связи с Арийцем была направлена Ильзе Штебе (Альтта), профессиональная журналистка и убежденная антифашистка. Шелиа устроил ее на работу в МИД. Это дало возможность передавать ей секретные материалы прямо на службе.
Провал Арийца и Альты произошел после того, как германской разведке удалось перехватить радиограммы Москвы и расшифровать их. Практически сразу же была выявлена конспиративная квартира с передатчиком, затем была арестована Ильзе Штебе. Надо отдать ей должное: она не выдала никого, в том числе Арийца, о котором в гестапо не было никаких сведений. Следующий шаг гестапо был точным: по захваченной рации немцы направили в Москву от имени Альты просьбу выслать деньги и новые инструкции для ее агента в министерстве. Для связи с Арийцем были посланы два советских разведчика Генри и Вольф. Документы подтверждали их легенду о том, что они отпускники и направляются в Берлин повидаться с родными. Однако почти сразу после того, как они оказались на территории Германии, один из них был захвачен. К несчастью, при нем находилась копия старого чека на имя Рудольфа фон Шелиа. Она же служила вещественным поролем для установления с ним контакта.
В отличие от Ильзе Штебе, Ариец не запирался. Он рассказал гестапо все, что знал. В декабре 1942 г. Рудольф вон Шелиа и Ильзе Штебе были казнены.