公安警察の前身は戦前戦中の特別高等警察(特高)で、終戦直後にGHQの指示により治安維持法廃止とともに解体された。
しかし米国は台頭する共産主義勢力排除のために、特高のノウハウを利用するために警察内部に後継組織として公安を設置した。

各都道府県の公安委員会が独立して存在するという「自治体警察」は骨抜きとなり、警視庁を中心とする国家警察となっているが、中でも公安警察は強固なピラミッド組織を形成している。

警察庁の警備局を頂点に、各都道府県警の警備部(警視庁のみ公安部が独立)、各警察署の警備課が一体となっている。

警視庁の警官4万5千人のうち2千人が公安部に所属しており、全国的には公安警察は1万2千人ほどと警官全体の5%を占めている。