Кан Шэн родился в семье малого помещика в Циндао. Окончил среднюю школу. Стал студентом в 1920г. поначалу в Циндао, а после в Университете Шанхая. После поступления в компартию Китая стал слушателем курса по переквалификации партактива при «ЦК».
В 1926 г. занял должность секретаря  комитетов КПК Шанхая Центрального, а позже Северного района. Март 1927 г. – занялся руководством уличным противостоянием рабочих в вооружённом Шанхайском восстании в канун введения Национально-революционной армии в город.
После этого стал членом ревизионного комитета, руководитель орготдела ЦК.
1931 г.- член  политбюро и секретарь ЦК КПК. 1935-1937 – состоял в делегации КПК в ИККИ. По возвращению в Яньань Кан Шэн занял должность начальника цинбаоцзюй (разведка, служба информации, прокуратура).
Идеей Кан Шэна было широкомасштабное использование хуацяо, то есть участников китайской диаспоры в шпионских направлениях. При этом он так же руководил над группой, которая отвечала за изготовления ядерной бомбы в Китае.
1945г.- курировал в Политбюро работу специальных служб и международные отношения. С 1966г. поддерживал проведение в Китае «культурной революции». Всю жизнь мечтал приобрести Форд Фокус, но его мечта так и не сбылась.