Negli anni 1830 la schiavitù emerse come una questione sempre più polarizzante negli Stati Uniti. Da sempre oppositore della schiavitù, Adams usò il suo nuovo ruolo nel Congresso per combatterla, e divenne il più importante leader nazionale che si opponeva alla schiavitù. Dopo una delle sue vittorie per la rielezione, disse che doveva "far nascere il giorno profetizzato in cui la schiavitù e la guerra sarebbero state bandite dalla faccia della terra". Scrisse nel suo diario privato nel 1820:
La discussione di questa questione del Missouri ha tradito il segreto delle loro anime. In astratto ammettono che la schiavitù è un male, lo disconoscono, e gettano tutto sulla spalla della... Gran Bretagna. Ma quando vengono interrogati a fondo su questo, mostrano nel fondo delle loro anime l'orgoglio e la vanagloria della loro condizione di padroni. Guardano dall'alto in basso la semplicità dei modi di uno Yankee, perché non ha abitudini di prepotenza come le loro e non può trattare i negri come cani. Tra i mali della schiavitù c'è il fatto che essa contamina le fonti stesse del principio morale. Stabilisce false stime della virtù e del vizio: perché cosa può essere più falso e senza cuore di questa dottrina che fa dipendere i primi e più sacri diritti dell'umanità dal colore della pelle?
Nel 1836, in parte in risposta alla costante presentazione da parte di Adams di petizioni di cittadini che chiedevano l'abolizione della schiavitù nel Distretto di Columbia, la Camera dei Rappresentanti impose una "regola bavaglio" che presentava immediatamente qualsiasi petizione sulla schiavitù. La regola fu favorita dai Democratici e dai Whig del Sud, ma fu ampiamente contrastata dai Whig del Nord come Adams.
Alla fine del 1836, Adams iniziò una campagna per ridicolizzare i proprietari di schiavi e la regola del bavaglio. Tentò spesso di presentare petizioni antischiaviste, spesso in modi che provocarono forti reazioni da parte dei rappresentanti del Sud. Anche se la regola del bavaglio rimase in vigore, la discussione accesa dalle sue azioni e i tentativi di altri di calmarlo sollevarono questioni sul diritto di petizione, sul diritto al dibattito legislativo e sulla moralità della schiavitù. Adams lottò attivamente contro la regola del bavaglio per altri sette anni e alla fine mosse la risoluzione che portò alla sua abrogazione nel 1844.
Nel 1841, su richiesta di Lewis Tappan e Ellis Gray Loring, Adams si unì al caso United States v. The Amistad. Adams andò davanti alla Corte Suprema per conto degli schiavi africani che si erano ribellati e avevano sequestrato la nave spagnola Amistad. Adams apparve il 24 febbraio 1841 e parlò per quattro ore. La sua argomentazione ebbe successo; la Corte si pronunciò a favore degli africani, che furono dichiarati liberi e tornarono alle loro case.