La musica fu scritta da Haydn nel 1797 come inno dell'Austria. Si chiamava "Gott erhalte Franz den Kaiser" ("Dio protegga il nostro imperatore Franz"). Le parole che sono usate oggi furono scritte dal poeta August Heinrich Hoffman von Fallersleben nel 1841.
Oggi, la prima riga "Germania, soprattutto Germania" suona troppo forte per alcune persone, ed è spesso fraintesa. Fallersleben voleva una Germania unita quando la scrisse. A quel tempo, la Germania non era un solo paese, ma molti piccoli paesi. Quindi "La Germania prima di tutto" significava che la cosa più importante da fare era avere una Germania unificata. Inoltre, il poeta era a Helgoland, dove la gente parlava tedesco ma era governata dagli inglesi.
La musica di Fallersleben era molto popolare in Germania durante la seconda parte del XIX secolo. Questa canzone non era allora un inno nazionale, ma una canzone per le persone che amavano l'idea di una Germania forte e unita. Nel 1918, sostituì l'inno dell'impero tedesco "Heil Dir im Siegerkranz" ("Lode al vincitore della guerra"), quando l'imperatore GuglielmoII perse il potere alla fine della prima guerra mondiale. Nel 1921, una "quarta strofa", una nuova parte o verso, fu scritta dal poeta Albert Matthai con parole sulla difficile vita in Germania in quel momento. Non fu cantata molto spesso.
Durante il periodo di Hitler, solo la prima parte della canzone fu usata. Questa era spesso seguita da una canzone del partito nazista. Questa parte della canzone era difficile per alcune persone che non erano tedesche perché ha parole che descrivono la Germania come un paese che includeva terre che erano in altri paesi.
Dopo la seconda guerra mondiale, la Germania fu divisa in due paesi. Nel 1949, la nuova Germania occidentale cercò di ottenere una nuova canzone per l'inno nazionale. Fu scelta un'altra canzone, scritta dal poeta Rudolf Alexander Schröder. Non era molto popolare. Infine, la terza parte della canzone di Fallersleben divenne l'inno nazionale.
Nell'altra parte della Germania, la Germania orientale, le parole del poeta Johannes R. Becher ("Auferstanden aus Ruinen" - "Ricostruito dalle rovine") furono usate con una canzone scritta da Hanns Eisler. Non era molto popolare, e dagli anni '70 le parole non furono cantate, a causa del verso "Germania, [nostra] patria unificata".
Dopo che la Germania dell'Est e dell'Ovest si sono unite di nuovo nel 1990, la canzone Fallersleben è diventata di nuovo l'inno nazionale della Germania, ma solo la terza parte è usata. Oggi, la prima parte della canzone è popolare tra gli estremisti nazionalisti.