La carriera di Schell iniziò nel 1955. Il suo film era Kinder, Mütter und ein General. Apparve poi in altri due film fino al ruolo di Hans Rolfe in Judgment at Nuremberg nel 1961. Il suo ruolo di Hans gli portò grande fama e successo. Vinse un Academy Award e un Golden Globe Award come miglior attore.
Schell apparve poi in altri film di grande formato che gli valsero la nomination all'Oscar. È stato nominato per il suo ruolo di Arthur Goldman in The Man in the Glass Booth, per il suo ruolo di Johann in Julia. Ha poi vinto un Golden Globe Award come miglior attore non protagonista nel 1992 per il suo ruolo di Vladimir Lenin nel film Stalin.
In seguito, Schell ha diretto un film per la televisione Candles in the Dark. Dopo la sua vittoria nel 1992, Schell è apparso in molti film per la televisione. Nel 1998, Schell è apparso nel ruolo di Jason Lerner nel film Deep Impact. Il suo ultimo ruolo è stato nel film commedia del 2008 The Brothers Bloom nel ruolo di Diamond Dog.