Nel 1947 Leonard Chess comprò un'etichetta chiamata Aristocrat Records. Nel 1950 Leonard portò suo fratello Phil e rinominarono l'etichetta in Chess Records. La prima uscita fu "My Foolish Heart" b/n "Bless You" di Gene Ammon, che divenne un successo. Nel 1952 fondarono la Checker Records per la radio perché le stazioni suonavano solo un numero limitato di canzoni di una sola etichetta e nel dicembre 1955 fondarono la Argo Records per la musica jazz. Il primo LP fu prodotto nel 1958.
All'inizio Leonard Chess era il produttore, ma più tardi l'attività fu gestita da Ralph Bass per la sezione gospel e Willie Dixon per il blues. Dixon scrisse molte canzoni che divennero successi e suonò anche il basso in molte registrazioni. L'etichetta era anche famosa per i suoi musicisti di sessione che suonavano nella maggior parte delle registrazioni soul di Chicago della compagnia, come il batterista Maurice White e il bassista Louis Satterfield, entrambi in seguito formarono il gruppo funk Earth, Wind, & Fire, i chitarristi Pete Cosey, Gerald Sims e Phil Upchurch, il pianista Leonard Caston, in seguito produttore con la Motown e l'organista Sonny Thompson. Nel 1953 cominciarono a lavorare insieme alla Memphis Recording Service di Sam Phillips. Uno dei musicisti di Memphis era Howlin' Wolf, che fece molti successi per la Chess.
Nel 1969 l'etichetta fu venduta alla General Recorded Tape (GRT) e nel 1972 l'unica parte del business che ancora esisteva era lo studio di registrazione, i Ter-Mar Studios. A metà degli anni ottanta il catalogo della Chess Records fu venduto alla MCA Records. Il 50° anniversario della Chess Records fu celebrato da una serie di CD con grandi artisti che avevano registrato per la Chess. Negli anni 2000, l'etichetta di ristampe in edizione limitata della Universal, Hip-O Select ha iniziato a pubblicare una serie di cofanetti che celebrano il lavoro di artisti Chess come Muddy Waters, Little Walter, Bo Diddley e Chuck Berry.
