Il primo compito di Hopetoun fu quello di scegliere un primo ministro per formare un governo, che sarebbe iniziato il 1° gennaio 1901. Le prime elezioni non si sarebbero tenute fino a marzo, quindi non poteva scegliere il leader del più grande partito politico nella Camera dei Rappresentanti. Invece, chiese a Sir William Lyne, il premier dello stato più grande, il New South Wales, di essere Primo Ministro
Mentre questa era una scelta ragionevole, Lyne si era opposto alla federazione ed era impopolare con i principali politici federalisti. Alfred Deakin e altri importanti politici dissero a Hopetoun che non avrebbero lavorato con Lyne. Hopetoun chiese allora a Edmund Barton, il leader del movimento federale e l'uomo che tutti pensavano dovesse essere il primo ministro. Questo divenne noto come "l'abbaglio di Hopetoun".
Ci furono presto altri problemi. Hopetoun aveva portato il suo segretario ufficiale, il capitano Edward William Wallington. Gli australiani non volevano che un inglese si occupasse degli affari ufficiali. Inoltre non amavano lo sfarzo regale e la cerimonia che Hopetoun usava nella sua posizione, e il denaro che questo costava. Si comportava come se governasse l'Australia con il primo ministro. Questo non era quello che gli scrittori della Costituzione avevano voluto.
Hopetoun divenne amico dell'anarchico e pioniere del sindacato di Melbourne, John 'Chummy' Fleming. Nel maggio 1901, Fleming protestò contro la disoccupazione a Melbourne precipitandosi sul Prince's Bridge per fermare la carrozza del governatore generale. Hopetoun ascoltò Fleming parlare dei problemi dei disoccupati. Secondo alcuni rapporti, Hopetoun fece in modo che il governo accelerasse i progetti di lavoro.
Infine, c'era un problema su quanto il governatore generale dovesse essere pagato per avere una casa sia a Sydney, la città più grande, che a Melbourne, la sede del governo australiano. Il Commonwealth e il parlamento vittoriano non volevano pagare Hopetoun più soldi. Hopetoun si dimise nel maggio 1902. Lui e la sua famiglia lasciarono l'Australia (da Brisbane) il 17 luglio 1902. Sapeva di aver fallito in un ruolo storico. Fu creato 1° marchese di Linlithgow il 27 ottobre 1902, mentre era ancora governatore generale. Il suo mandato terminò ufficialmente il 9 gennaio 1903. Fu nominato segretario per la Scozia nel 1905.
Morì improvvisamente il 29 febbraio 1908, a Pau, Pyrénées-Atlantiques, Francia.
