Il 7 febbraio 2006, ha annunciato che avrebbe cercato la candidatura democratica per la corsa al Senato del 2006 contro il senatore in carica della Virginia George Allen.
Nelle primarie democratiche del 13 giugno 2006, Webb ha affrontato l'uomo d'affari e lobbista di lunga data Harris Miller. Webb ha vinto con il 53,5% dei voti, in una gara a bassa affluenza. Il 4 gennaio 2007, Webb ha prestato giuramento nel 110° Senato degli Stati Uniti, accompagnato dal senatore John Warner, R-Va, un collega ex segretario della Marina, e dall'ex senatore democratico della Virginia Chuck Robb, che ha tenuto lo stesso posto prima di perdere contro Allen.
Il 15 novembre 2006, il leader di maggioranza del Senato Harry Reid ha assegnato Webb a tre comitati: i comitati delle relazioni estere, degli affari dei veterani e dei servizi armati.
Il 23 gennaio 2007, Webb ha consegnato la risposta democratica al discorso sullo stato dell'Unione del presidente, concentrandosi sull'economia e sull'Iraq. Il discorso di Webb ha ottenuto recensioni positive ed è stato considerato come una delle risposte più forti allo Stato dell'Unione nella memoria recente. Webb, un veterano di guerra decorato, ha parlato del passato militare della sua famiglia, del suo appassionato attaccamento all'esercito e del modo in cui i precedenti presidenti avevano sempre cercato di assicurare che fossero state prese tutte le precauzioni quando si mandavano i giovani americani in pericolo.
Il 14 agosto 2009 Webb ha visitato il Myanmar (Birmania), vedendo il leader della sua giunta, il gen. Than Shwe, e anche la leader pro-democrazia Aung San Suu Kyi, che era agli arresti domiciliari. Durante la visita di Webb con Than Shwe, Webb ha negoziato il rilascio e l'espulsione di un americano imprigionato, John Yettaw.
Il 9 febbraio 2011, Webb ha annunciato che non avrebbe corso per la rielezione del suo seggio al Senato nel 2012.
