Nel 2001, a circa 5 anni, Leroy si è unito alla squadra giovanile del "SG Wattenscheid 09". Ha giocato lì fino a qualche tempo fa nel 2005, prima di entrare a far parte dell'accademia giovanile 'Schalke' ('Nachwuchsleistungszentrum') quell'anno. Successivamente, nel 2008, ha iniziato a giocare con la Bayer Leverkusen e nel 2011 è tornato allo 'Schalke 04'. Ha giocato per la sua squadra giovanile fino all'inizio del 2014. Ha iniziato la sua carriera di senior club con lo 'Schalke 04' il 21 marzo 2014, firmando un contratto triennale da professionista con il club. Il contratto è stato prorogato fino al 30 giugno 2017. Il suo debutto in Bundesliga è avvenuto il 20 aprile 2014. Ha segnato il suo primo gol della stagione il 13 dicembre 2014 contro il '1. FC Köln', e il suo primo gol in 'UEFA Champions League' è stato segnato contro il 'Real Madrid' l'11 marzo 2015. Ha poi firmato un contratto di 5 anni con il club 'Premier League' 'Manchester City' il 2 agosto 2016. Secondo quanto riferito, il compenso per il trasferimento è stato di 37 milioni di sterline, con aggiunte basate sulle prestazioni che potrebbero portare il compenso a circa 46,5 milioni di sterline.
Manchester City
Ha debuttato con il club il 10 settembre dello stesso anno, contro il "Manchester United" nel derby del "Manchester". Il 18 dicembre dello stesso anno, ha segnato il suo primo gol per il club durante la partita della 'Premier League' contro l'Arsenal. Non ha giocato nella 'FIFA Confederations Cup' del 2017, poiché ha dovuto sottoporsi a un intervento chirurgico correttivo per superare il suo problema di congestione nasale cronica. Leroy ha continuato a giocare bene nella stagione 2017-2018 e ha ricevuto il premio "Premier League Player of the Month" per l'ottobre 2017. Ha fatto parte della squadra del club durante la 'FA Cup' 2017-2018. La finale della 'EFL Cup' del 2018, che si è tenuta il 25 febbraio 2018 al 'Wembley Stadium', ha visto il 'Manchester City' aggiudicarsi il trofeo segnando 3-0 contro l'Arsenal. Leroy ha giocato 77 minuti nella partita prima di essere sostituito. Il titolo di 'PFA Young Player of the Year' è andato a lui nel 2017-2018, per il suo contributo nella vittoria del titolo di 'Premier League' 2017-2018 da parte del 'Manchester City'. Ha segnato il terzo titolo di 'Premier League' del club. Il suo primo gol nel derby del 'Manchester' è arrivato il 24 aprile 2019, con la vittoria per 2-0 del 'Manchester City' contro il 'Manchester United'. Ha sostenuto un ACL strappato durante la partita del 2019 'FA Community Shield' tra il 'Manchester City' e il 'Liverpool' il 4 agosto 2019. Ha così giocato per 13 minuti prima di essere sostituito. Il "Manchester City" è riuscito a difendere il trofeo, vincendo 5-4 ai rigori.
Bayern Monaco
Leroy Sane ha lasciato Man City e si è unito al Bayern Monaco di Baviera il 15 luglio 2020 per 49 m di euro.