소련이 국가권력을 유지하기 위해 소련 국민과 외국인의 활동을 감시·통제하던 비밀경찰 및 첩보조직이다. 1917년 12월 20일 체카(Cheka:전러시아 반혁명 태업단속 비상위원회)라는 비밀경찰기구로 발족하여 베체카(Vecheka:전러시아 비상위원회)라는 중앙집권적 행정조직으로 확대하였다. 그후 게페우(GPU:국가정치보안부), 오게페(OGPU:연방국가정치보안부) 등으로 개칭하였다가 1934년 7월 10일 엔카베테(NKVD:내무인민위원회)에 흡수되었다.

엔카베테 국가보안국에 흡수된 비밀경찰은 1941년~1943년 분리·통합을 거듭하면서 개편되어 오다가 1943년 4월 엔카게베(NKGB:국가보안인민위원부), 엠게베(MGB:국가보안부)로 개칭하고, 1954년 4월 27일 이후 국가보안위원회가 이를 담당하였다.

국가보안위원회는 공식적으로 정부기구로 되어 있으나, 당서기국과 직접 연결되어 있어 수백만 명의 협력자를 가진 거대 조직으로서 막대한 실권을 갖게 되었다. 또한 그 예하에 10개 부서와 국경경비대를 관장하고, 첩보·방첩 활동을 비롯하여 고위간부 및 중요시설에 대한 경호, 군대 내의 보안활동 감시와 통제, 통신과 암호 해독, 경비 등 국가안보에 관련된 모든 분야를 취급했다.

레오니트 브레즈네프(Leonid Il'ich Brezhnev) 치하에서는 유리 안드로포프(Yurii Vladimirovich Andropov)가 KGB 의장으로 장기간 재직하였고, 빅토르 체브리코프(Victor Czevricov)를 거쳐 1988년 크류츠코프가 의장에 임명되었다. 그후 1991년 8월 소련연방이 붕괴되면서 연방안전사무소(AFB)를 거쳐 1992년 1월 러시아안전부(MBR)로, 1993년 연방방첩국(FSK)으로 격하 해체되었다.

그후 체첸사태 등으로 정보강화의 필요성이 제기되자 당시 대통령 보리스 옐친(Boris Nikolaevich Yeltsin)은 1995년 러시아연방안전국(FSB)으로 개편, 정보기관으로서의 성격을 강화하였다. 2002년 현재 러시아의 대통령 블라디미르 푸틴(Vladimir Vladimirovich Putin)도 동독에서 오랫동안 KGB요원으로 활동한 바 있다.