Nel 1947 torna in Germania dove inizia la sua carriera professionale cantando l'assolo di baritono nell'Ein Deutsches Requiem di Brahms senza alcuna prova. (Era un sostituto dell'ultimo minuto di un cantante malato). Nel corso dello stesso anno tenne il suo primo recital di Lieder a Lipsia.
Fin dall'inizio della sua carriera ha lavorato con i famosi soprani lirici Elisabeth Schwarzkopf e Irmgard Seefried, e con il produttore discografico Walter Legge, producendo album molto popolari di lieder di Franz Schubert e Hugo Wolf.
Nell'autunno del 1948 Fischer-Dieskau divenne il principale baritono lirico della Städtische Oper Berlin (Opera Municipale, Berlino Ovest), realizzando la sua prima rappresentazione operistica nel ruolo di Posa nel Don Carlos di Verdi sotto la direzione di Ferenc Fricsay. Questa compagnia, conosciuta dopo il 1961 come Deutsche Oper, sarà la sua casa d'arte fino al suo ritiro dalla scena lirica, nel 1978.
Fischer-Dieskau è stata ospite dei teatri dell'opera di Vienna e Monaco di Baviera. Dopo il 1949 ha fatto tournée in Olanda, Svizzera, Francia e Italia. Nel 1951 si esibì per la prima volta in un concerto al Festival di Salisburgo con i Lieder eines fahrenden Gesellen (Canti di un viandante) di Mahler sotto la guida di Wilhelm Furtwängler. Cominciava ad apparire in tutto il mondo: alla Royal Albert Hall, a Londra, Boston, nel Massachusetts e al Bayreuth Festival.
Come cantante lirica, Fischer-Dieskau si è esibita principalmente a Berlino e all'Opera di Stato bavarese di Monaco di Baviera. Ha inoltre partecipato come ospite all'Opera di Stato di Vienna, alla Royal Opera House, al Covent Garden di Londra, alla Staatsoper di Amburgo, in Giappone, e al King's Theatre di Edimburgo, durante l'Edinburgh Festival. La sua prima tournée negli Stati Uniti ha avuto luogo nel 1955, quando aveva 29 anni. Per i suoi recital è stato accompagnato da Gerald Moore. Ha registrato molti Lieder con Gerald Moore, e ha tenuto molti recital con lui fino al ritiro di Moore nel 1967. In seguito, però, hanno continuato a fare registrazioni. Le loro registrazioni dei cicli di canzoni di Schubert Die schöne Müllerin e Die Winterreise sono state molto apprezzate.
Fischer-Dieskau ha anche eseguito molte opere di compositori viventi tra cui Benjamin Britten, Samuel Barber, Hans Werner Henze, Karl Amadeus Hartmann, Ernst Krenek e Witold Lutosławski.
Fischer-Dieskau ha anche registrato molti ruoli famosi in opere italiane, ad esempio Rigoletto e Rodrigo di Verdi nel Don Carlos di Verdi, Scarpia nella Tosca di Giacomo Puccini. Si è ritirato dall'opera nel 1978.
La musicalità e la tecnica di Fischer-Dieskau sono sempre state perfette. Si ritirò dalla sala da concerto il giorno di Capodanno 1993, a 67 anni, e trascorse il suo tempo dirigendo, insegnando (soprattutto l'interpretazione dei Lieder), dipingendo e scrivendo libri.