La famiglia di Mendelssohn aveva molti soldi. Erano anche molto interessati alla musica, alla letteratura, alla pittura ecc. Suo nonno Moses Mendelssohn era famoso nella letteratura nazionale tedesca. Suo padre era un banchiere e sua madre proveniva da una famiglia che possedeva molte fabbriche a Berlino. Il giovane Felix fu educato a casa dai suoi genitori. Anche se la famiglia era ebrea, i genitori fecero battezzare Felix e suo padre divenne cristiano qualche anno dopo. La famiglia Mendelssohn aggiunse in questo periodo il nome di Bartholdy.
Presto Felix fu istruito da insegnanti privati tra cui Ludwig Berger che gli insegnò il pianoforte. Imparò anche la teoria musicale e la composizione. Suonò il piano ad un concerto quando aveva nove anni, e cominciò a comporre piccole opere teatrali con musica (chiamate Singspiel in tedesco). Nel 1821 fu portato ad incontrare il famoso scrittore Goethe a Weimar. Sarebbe stata la prima di diverse visite e il modo di pensare di Goethe e le sue opere di letteratura tedesca ebbero una grande influenza sul giovane Mendelssohn. In questo periodo compose diverse opere tra cui Singspiels, sinfonie e musica da camera. Viaggiò con suo padre e incontrò molti musicisti famosi.
Nel 1825 la famiglia si trasferì a Berlino. Avevano concerti regolari la domenica mattina nella loro grande casa. Molte persone ricche e famose erano invitate ai loro concerti privati. Nell'ottobre del 1825 scrisse un Ottetto per archi (un pezzo per otto strumenti a corda) che è uno dei suoi migliori lavori. Studiò la musica di Johann Sebastian Bach (1685-1750) la cui musica la gente aveva quasi dimenticato. Trovò la musica della Passione di San Matteo di Bach e ne diresse un'esecuzione nel 1829. Fu un'esecuzione famosa nella storia della musica, perché la gente improvvisamente si rese conto di quanto fosse grande Bach. Da allora la musica di Bach non è più stata dimenticata.
Durante gli anni dal 1829 al 1835 Mendelssohn viaggiò in tutta Europa. Visitò Londra diverse volte e vi eseguì anche il Concerto dell'Imperatore di Beethoven. Viaggiò in Scozia dove si recò alla Grotta di Fingal nelle Ebridi Interne. Questo gli ispirò l'ouverture chiamata Le Ebridi. Al ritorno la diligenza ebbe un incidente e si ferì al ginocchio. Rimase con il compositore Thomas Attwood per qualche tempo prima di poter tornare a Berlino. Poi andò in Italia dove scrisse la Sinfonia Italiana. In Italia incontrò Hector Berlioz e sulla via del ritorno incontrò Chopin.
Passò un po' di tempo a Düsseldorf, dove eseguì diversi oratori di Handel e la sua musica. A Francoforte sul Meno si fermò presso una famiglia che aveva due figlie. Sposò una di loro, Cécile Charlotte Sophia Jeanrenaud, nel 1837. Ebbero un matrimonio felice ed ebbero cinque figli.
Felix e la sua giovane moglie andarono a vivere a Lipsia dove divenne il direttore della famosa OrchestraGewandhaus di Lipsia. Questo era uno dei più alti lavori musicali in Germania. Diresse molta musica di compositori del XVIII secolo che erano stati dimenticati. Diede anche la prima esecuzione della Sinfonia in Do maggiore di Schubert che era stata scoperta da Robert Schumann nove anni dopo la morte di Schubert. Mendelssohn fece venire a Lipsia alcuni dei musicisti più famosi per suonare con l'orchestra: Clara Schumann, Franz Liszt, Anton Rubinstein, il giovane violinista Joseph Joachim e il soprano svedese Jenny Lind. Mendelssohn migliorò l'esecuzione dell'orchestra, rendendola una delle migliori orchestre del mondo. Si assicurò anche che i musicisti fossero pagati bene.
Nei primi anni 1840 Mendelssohn trascorse un po' di tempo a Berlino. Il nuovo re, Friedrich Wilhelm IV, re di Prussia, era molto appassionato di musica e aveva molte idee su nuovi progetti di concerti. Voleva che Mendelssohn si occupasse di questo. Il re voleva vedere rappresentate opere greche e Mendelssohn doveva scrivere musica di scena per le rappresentazioni di Antigone.
Nel giugno 1842 Mendelssohn fu ricevuto due volte dalla regina Vittoria nel suo palazzo di Londra. Mendelssohn ringraziò la regina dedicandole la sua Sinfonia Scozzese. Continuò a dirigere a Lipsia e contribuì a rendere famosa la musica di Berlioz in Germania. Divenne direttore del nuovo Conservatorio di Lipsia. A Berlino il re gli chiese di fornire la musica di accompagnamento per l'opera di Shakespeare "Sogno di una notte di mezza estate". Aveva già scritto parte di questa musica 17 anni prima, ma ora la finì e la eseguì nel 1843.
Durante i suoi ultimi anni Mendelssohn soffrì di cattiva salute. Continuò a lavorare e a viaggiare il più possibile, ma dopo un ictus nel 1849 morì a Lipsia a 38 anni. Il suo corpo fu portato con un treno speciale a Berlino dove fu sepolto vicino alla tomba di sua sorella Fanny.