Albéniz iniziò a imparare il pianoforte a tre anni. Glielo insegnò sua sorella maggiore. Era un
bambino prodigio che si esibì per la prima volta all'età di quattro anni. A sette anni superò l'esame di ammissione per pianoforte al Conservatorio di Parigi, ma non gli fu dato un posto perché pensavano fosse troppo giovane. Un anno dopo suo padre perse il lavoro, così portò i suoi due figli in tournée in modo che potessero dare concerti e guadagnare un po' di soldi. Nel
1869 la famiglia si trasferì a
Madrid, ma Albéniz ebbe un'infanzia instabile. Scappò due volte da casa, dando concerti in vari posti e persino fuggendo come clandestino in
Sud America dove visitò l'
Argentina, l'
Uruguay, il
Brasile,
Cuba,
Porto Rico e poi gli
Stati Uniti. Tornò in Spagna nel 1873. All'età di quindici anni aveva già dato concerti in tutto il mondo. Dopo un breve soggiorno al Conservatorio di Lipsia, nel 1876 andò a studiare a Bruxelles. Nel 1880, andò a Budapest per studiare con
Franz Liszt, ma Liszt non c'era.
Nel 1874 sua sorella voleva diventare una cantante del Teatro de la Zarzuela. Quando non ottenne un posto lì, si suicidò.
Albéniz continuò a viaggiare in tutto il mondo. Nel 1883, incontrò il maestro e compositore Felipe Pedrell, che lo ispirò a scrivere musica spagnola come la Suite Española, Op. 47. Il quinto movimento di quella suite, chiamato Asturias (Leyenda), fu poi arrangiato per chitarra. È probabilmente il pezzo più famoso per chitarra classica. Il compositore Francisco Tárrega fece arrangiamenti per chitarra di molte altre opere pianistiche di Albéniz. Albéniz una volta disse che preferiva gli arrangiamenti per chitarra di Tárrega alle sue versioni originali per pianoforte.
Durante gli anni 1890 Albéniz visse a Londra e Parigi e scrisse principalmente opere teatrali. Nel 1900 cominciò a soffrire della malattia di Bright e iniziò a scrivere più musica per pianoforte. Tra il 1905 e il 1909 compose la sua opera più famosa, Iberia (1908), una suite di dodici "impressioni" per pianoforte.
Le sue opere orchestrali includono Rapsodia spagnola (1887) e Catalogna (1899).
Nel 1883, il compositore sposò la sua studentessa Rosina Jordana. Ebbero tre figli, Blanca (che morì nel 1886), Laura (una pittrice) e Alfonso (che giocò per il Real Madrid nei primi anni del 1900 prima di diventare un diplomatico).
Albéniz morì il 18 maggio 1909 all'età di 48 anni a Cambô-les-Bains ed è sepolto a Barcellona.