L'Unione Sovietica inviò gli atleti ai Giochi Olimpici per la prima volta nel 1952. Da allora hanno inviato squadre ai Giochi 18 simes. In sette delle sue nove volte alle Olimpiadi estive, la squadra si è classificata al primo posto nel numero totale di medaglie vinte. Si è classificata seconda alle altre due Olimpiadi. La squadra si è classificata prima nel conteggio delle medaglie sette volte e seconda due volte su nove volte che ha inviato squadre ai Giochi Olimpici Invernali.
Il Comitato Olimpico dell'URSS è stato creato il 21 aprile 1951. Fu accettato dal CIO il 7 maggio 1951.
Le Olimpiadi estive di Helsinki del 1952 furono i primi Giochi Olimpici per gli atleti sovietici. Il 20 luglio 1952, la prima medaglia d'oro olimpica del Paese fu vinta da Nina Romashkova nel lancio del disco femminile. Romashkova stabilì il nuovo record olimpico nell'evento. Le Olimpiadi invernali di Cortina d'Ampezzo del 1956 furono i primi Giochi Olimpici invernali per gli atleti sovietici. La prima medaglia d'oro olimpica invernale per l'Unione Sovietica fu vinta da Lyubov Kozyreva nella gara femminile di sci di fondo di 10 km.
L'URSS è stata la nazione ospitante delle Olimpiadi estive del 1980 a Mosca. Questi Giochi furono boicottati dagli Stati Uniti e da molti altri paesi. In seguito, l'URSS guidò il boicottaggio dei Giochi del 1984 a Los Angeles.
L'URSS si è conclusa il 26 dicembre 1991. Il Comitato Olimpico dell'URSS è terminato solo il 12 marzo 1992.
Nel 1992, 12 dei 15 paesi che avevano fatto parte dell'Unione Sovietica hanno partecipato ai Giochi come Squadra Unificata. Usarono la bandiera olimpica ai Giochi di Barcellona. La Squadra Unificata si classificò prima nella classifica delle medaglie. La Squadra Unificata ha anche partecipato ai Giochi invernali di Albertville all'inizio dell'anno. Solo sette dei dodici paesi hanno partecipato. Sono arrivati secondi nella classifica delle medaglie a quei Giochi.