Ajax
Il 19 ottobre 2002, de Jong ha giocato per la prima volta nella prima squadra dell'Ajax. Ha segnato il suo primo gol il 18 febbraio 2003 in un pareggio per 1-1 contro l'Arsenal in UEFA Champions League. Ha iniziato a giocare spesso in prima squadra nella stagione successiva. In questa stagione l'Ajax ha vinto l'Eredivisie. Nel 2004-05, de Jong è stato nominato giocatore della stagione dell'Ajax. In seguito, dopo essere partito a centrocampo per un bel po', si è trovato a sedere in panchina più spesso che essere uno dei giocatori all'inizio di una partita. Il 7 dicembre 2005, è stato annunciato che de Jong non voleva rimanere con l'Ajax. Il suo contratto con l'Ajax doveva terminare nel luglio 2006.
Amburgo
Il 26 gennaio 2006, de Jong ha firmato un contratto di quattro anni e mezzo all'Amburgo, club della Bundesliga tedesca. Si è trasferito lì per circa 1 milione di euro. Ha giocato per l'Amburgo per la prima volta due giorni dopo. Nella partita, l'Amburgo ha perso 2-1 contro il Norimberga. Nel marzo 2006, de Jong ha segnato il gol vincente nella prima sconfitta in assoluto del Bayern Monaco all'Allianz Arena. La settimana dopo, ha ricevuto il suo primo cartellino rosso in una partita di Coppa UEFA contro il Rapid Bucarest. Ha dovuto smettere di giocare ad aprile perché ha dovuto essere operato per un problema al ginocchio. L'infortunio gli ha impedito di giocare per i Paesi Bassi ai Mondiali del 2006. Tuttavia, dopo essere tornato in forma, è stato messo in lista d'attesa.
Manchester City
Il 21 gennaio 2009, de Jong si è trasferito al Manchester City per circa 18 milioni di sterline. Ha firmato un contratto di quattro anni e mezzo. Ha giocato per la prima volta contro il Newcastle United il 28 gennaio 2009. Ha giocato sedici volte in Premier League.
De Jong era nella squadra titolare contro l'Arsenal il 12 settembre 2009. È stato nominato Man of the Match da Sky Sports dopo la vittoria del Manchester City contro il Chelsea per 2-1 il 5 dicembre 2009. Alla fine della stagione è piaciuto ai tifosi. È stato una delle prime scelte di Roberto Mancini come centrocampista difensivo quando la squadra ha mancato di poco la Champions League. De Jong ha segnato il suo primo gol per il Manchester City quando hanno vinto 2-1 contro il West Ham United il 1 maggio 2011.
Milano
Il 31 agosto 2012, de Jong si è unito al club italiano di Serie A Milan. Ha firmato un contratto triennale.