Leahy è stato eletto al Senato degli Stati Uniti per la prima volta nel 1974, succedendo al dimissionario George Aiken, in carica da 34 anni. A 34 anni, era il più giovane senatore nella storia del Vermont. Leahy fu quasi sconfitto nel 1980 dal repubblicano Stewart Ledbetter, vincendo per soli 2.700 voti in mezzo alla vittoria schiacciante di Ronald Reagan. Nel 1986, ha affrontato quello che sulla carta era uno sfidante ancora più forte nell'ex governatore Richard Snelling, ma Leahy ha respinto questa sfida, prendendo il 63% dei voti. Nel 1992, affrontò un altro avversario nel Segretario di Stato del Vermont Jim Douglas, vincendo per 11 punti.
Leahy fu il primo senatore non repubblicano del Vermont dal 1856. Ad oggi, è l'unico democratico mai eletto al Senato dal Vermont. È tecnicamente uno dei soli tre democratici a rappresentare il Vermont in entrambe le camere del Congresso dalla fine della guerra civile.
Carriera successiva
Marzo 2004, Leahy e Orrin Hatch hanno introdotto il Pirate Act sostenuto dalla RIAA. Nel luglio 2004, Leahy e Hatch hanno introdotto la legge INDUCE. Entrambi miravano a combattere la violazione del copyright.
Il 2 novembre 2004, Leahy sconfisse facilmente il suo avversario, l'uomo d'affari Jack McMullen, con il 70,6% dei voti. Il 5 gennaio 2005, Leahy ha prestato giuramento per il suo sesto mandato al Senato da Cheney.
Il 21 settembre 2005, Leahy ha annunciato il suo sostegno a John Roberts come giudice capo della Corte Suprema degli Stati Uniti. Il 19 gennaio 2006, Leahy ha annunciato che avrebbe votato contro il giudice Samuel Alito come giudice della Corte Suprema.
Il 18 gennaio 2007, Leahy ha ricevuto un'ampia copertura per il suo interrogatorio del procuratore generale Alberto Gonzales sul caso Maher Arar e la consegna straordinaria di Arar in Siria.
Presidente pro tempore
Alla morte del presidente pro tempore del Senato Daniel Inouye il 17 dicembre 2012, Leahy è diventato il senatore più anziano del partito di maggioranza ed è stato eletto come nuovo presidente pro tempore all'unanimità.
Il 3 gennaio 2015, Orrin Hatch è succeduto a Leahy come presidente pro tempore del Senato degli Stati Uniti. Poco dopo è stato onorato con il titolo di presidente pro tempore emerito.