Atto 1
Il primo atto si svolge nella camera da letto della Marescialla. La Marescialla è una signora aristocratica di 32 anni. Ha un amante, un ragazzo di 17 anni chiamato Ottaviano. Quando l'opera inizia, sentiamo prima un prologo orchestrale. La musica suggerisce che la Marescialla e Ottaviano stanno facendo l'amore. Poi il sipario si apre e vediamo i due insieme. Sentono un rumore e la Marescialla pensa che suo marito stia arrivando, così Ottaviano si nasconde. Non è suo marito, ma suo cugino, il barone Ochs. Ochs è un uomo molto maleducato con cattive maniere. Marcia nella stanza della Marescialla anche se i servi gli hanno chiesto di aspettare. Octavian riesce a cambiarsi d'abito e appare vestito come una cameriera di nome Mariandel. Ochs pensa che "lei" sia carina e vuole che "lei" lo incontri. Poi dice alla Marescialla per cosa è venuto: vuole un giovane cavaliere che consegni la rosa d'argento alla sua sposa Sophie. Ha anche bisogno di un notaio che firmi i documenti legali del matrimonio. Ochs canta il divertimento di fare l'amore. Vorrebbe essere come Giove che è capace di travestirsi in molti modi.
Inizia la levée del mattino. Questo significa: la cerimonia dell'alzarsi della Marschallin. Entrano diverse persone. Tra queste: un tenore italiano che canta un'aria, due italiani chiamati Valzacchi e Annina, che spargono sempre pettegolezzi, e un notaio. Quando il notaio dice a Ochs che deve pagare una dote alla sua sposa e non il contrario, Ochs è molto arrabbiato.
Quando la Marescialla viene lasciata sola, canta una canzone su come sta perdendo il suo aspetto giovanile. Octavian ritorna e la rallegra un po', ma lei si sente triste quando lui la saluta in modo molto educato e formale, senza nemmeno baciarla. La Marescialla manda il suo piccolo paggio nero a corrergli dietro con la rosa d'argento.
Atto 2
La storia continua nella grande sala della casa di Herr von Faninal, il padre di Sophie che Ochs vuole sposare. Sophie sta aspettando che arrivi la rosa d'argento (la convenzione dell'epoca dice che suo padre non deve essere presente). Octavian entra e le dà la rosa. La musica in questo momento è molto bella e molto famosa. Le persone nella stanza stanno parlando, poi il barone Ochs entra maleducatamente. Sophie è scioccata dalle sue cattive maniere. Ochs canticchia il suo valzer preferito, poi va nella stanza accanto per firmare un contratto di matrimonio. Sophie sprofonda nelle braccia di Octavian. Quando Ochs torna, Octavian gli dice che Sophie non lo vuole, ma Ochs non lo ascolta. Alla fine Ochs prende la sua spada e inizia a combattere contro Octavian, che lo ferisce leggermente. Ochs è furioso, ma si calma un po' dopo che gli viene dato del vino.
Ottaviano si è innamorato di Sophie e Sophie di lui. Vuole usare Valzacchi e Annina per aiutarlo con un piano. Scrive un biglietto a Ochs, che si suppone sia della cameriera Mariandel, chiedendogli di incontrarla. Fa in modo che Annina porti il biglietto a Ochs, che si rallegra quando lo legge. Canta il suo valzer preferito.
Atto 3
La scena è una locanda vicino a Vienna. Valzacchi e Annina ora lavorano sia per Ottaviano che per Ochs. Preferiscono lavorare per Ottaviano perché li paga di più. Pianificano degli inganni per Ochs.
Ochs incontra Mariandel (Ottaviano vestito di nuovo da cameriera). Lui cerca di farla ubriacare, ma "lei" canta timidamente "Nein, nein! i' trink kein Wein." ("No, no, non bevo vino"). Ochs pensa che "lei" assomigli a Ottaviano. Poi appaiono strane figure di persone a una finestra. Poi entra Annina e dice di essere la moglie di Ochs che lui ha abbandonato. Poi entrano dei bambini e dicono che Ochs è il loro padre. Ochs è molto imbarazzato quando Faninal entra e dice che Mariandel è la sua fidanzata. Dice alla gente che non ha mai visto Faninal prima. Poi appare la Marescialla e anche la polizia. La serata è un disastro per Ochs. La Marescialla dice alla polizia che è solo uno scherzo. Manda via Ochs.
La Marschallin, Sophie e Octavian cantano un bel trio (usando parte della musica della canzone "Nein, nein, i' trink kein Wein"). Ottaviano è perdonato. Viene lasciato solo con Sophie e cantano un duetto insieme, poi se ne vanno mano nella mano. Lei ha lasciato un fazzoletto sul pavimento. Il piccolo paggio nero lo raccoglie e corre dietro di loro.
