L'OGPU è stata la polizia segreta dell'Unione Sovietica dal 1922 al 1934. Fu dopo la Cheka e prima della NKVD. Il suo nome ufficiale era il Direttorato Politico Congiunto di Stato.
L'OGPU doveva teoricamente operare con più moderazione rispetto all'originale polizia segreta bolscevica, la Cheka. I poteri dell'OGPU furono notevolmente aumentati nel 1926, quando il codice penale sovietico fu emendato per includere una sezione sul "terrorismo di Stato". La legge era scritta in modo vago e interpretata in modo molto ampio. Già prima di allora, istituiva tribunali per processare i casi più eccezionali di terrorismo, di solito senza chiamare testimoni. Con il tempo, i poteri dell'OGPU sono cresciuti ancora di più di quelli della Cheka.
Forse il suo successo più spettacolare è stato l'Operazione Trust del 1924-1925. Gli agenti dell'OGPU contattarono gli emigrati dell'Europa occidentale e fecero finta di far parte di un grande gruppo che lavorava per rovesciare il regime comunista, noto come "Trust". I russi esiliati diedero al Trust grandi somme di denaro e forniture, così come le agenzie di intelligence straniere. Il Trust riuscì finalmente ad attirare uno dei principali operatori anticomunisti, Sidney Reilly, in Russia per incontrare il Trust. Una volta in Russia, fu catturato e ucciso. Fu un grande successo di propaganda.
Dal 1927 al 1929, l'OGPU si impegnò in intense indagini su un colpo di Stato dell'opposizione. Stalin presto emanò un decreto pubblico secondo cui ogni e qualsiasi opinione dell'opposizione doveva essere considerata pericolosa e diede alla GPU l'autorità di cercare elementi ostili. Ci furono molti processi durante il Piano quinquennale di Stalin.
L'OGPU è stato responsabile della creazione del sistema Gulag. Divenne anche il braccio del governo sovietico per la persecuzione della Chiesa ortodossa russa, dei greco-cattolici, dei latino-cattolici, dell'Islam e di altre organizzazioni religiose. L'OGPU fu anche la principale agenzia di polizia segreta per l'individuazione, l'arresto e la liquidazione di anarchici e di altre fazioni di sinistra dissidenti nella prima Unione Sovietica.
Nel luglio 1934 l'OGPU è stato fuso nel nuovo Commissariato del Popolo per gli Affari Interni (NKVD), un organo di recente creazione. L'ultimo cambiamento è avvenuto nel più noto Comitato per la sicurezza dello Stato (KGB).