Negli anni '60 si è parlato di quelle che sono diventate note come nane brune. Furono proposti nomi alternativi per le nane brune, tra cui planetar e substar. Sono rimaste ipotetiche per decenni.
Le prime teorie suggerivano che un oggetto inferiore a 0,09 masse solari non sarebbe mai passato attraverso la normale evoluzione stellare. La scoperta della combustione del deuterio fino a 0,012 masse solari e l'impatto della formazione di polvere nelle atmosfere esterne fredde delle nane brune alla fine degli anni '80 ha messo in discussione queste teorie. Tuttavia, tali oggetti erano difficili da trovare perché non emettono quasi nessuna luce visibile. Le loro emissioni più forti sono nello spettro dell'infrarosso (IR), e i rivelatori IR a terra erano troppo imprecisi a quel tempo per identificare facilmente le nane brune.
Per molti anni, gli sforzi per scoprire le nane brune sono stati infruttuosi. Nel 1988, tuttavia, GD 165B è stata scoperta, mostrando nessuna delle caratteristiche che ci si aspettava da una stella nana rossa di bassa massa. Oggi, GD 165B è riconosciuta come il prototipo di una classe di oggetti ora chiamati "nane L". Anche se la scoperta della nana più fredda fu molto significativa all'epoca, si discusse se GD 165B dovesse essere classificata come una nana bruna o semplicemente come una stella di bassissima massa, perché osservativamente è molto difficile distinguere tra le due.
Poco dopo la scoperta di GD 165B, furono segnalate altre candidate nane brune. La maggior parte non è stata all'altezza della loro candidatura, tuttavia, perché l'assenza di litio ha dimostrato che si trattava di oggetti stellari. Le vere stelle bruciano il loro litio in poco più di 100 milioni di anni, mentre le nane brune non lo fanno. Confusamente, le nane brune hanno temperature e luminosità simili a quelle di alcune stelle vere. In altre parole, il rilevamento di litio nell'atmosfera di un oggetto significa che, se è più vecchio di 100 my, è una nana bruna.
Nel 1994/5 lo studio delle nane brune è cambiato con la scoperta di due oggetti substellari definiti (Teide 1 e Gliese 229B).
La prima nana bruna confermata è stata scoperta nel 1994. Chiamarono questo oggetto Teide 1 e fu trovato nell'ammasso aperto delle Pleiadi. Nature ha evidenziato "Nane brune scoperte, ufficiale" nella prima pagina di quel numero. La distanza, la composizione chimica e l'età di Teide 1 sono state stabilite perché si trova nel giovane ammasso stellare delle Pleiadi. La massa di Teide 1 è 55 volte quella di Giove, e chiaramente al di sotto del limite di massa stellare.
Più notevole era Gliese 229B, che si è scoperto avere una temperatura e una luminosità ben al di sotto della gamma stellare. In particolare, il suo spettro nel vicino infrarosso mostrava chiaramente una banda di assorbimento del metano a 2 micrometri, una caratteristica che era stata precedentemente osservata solo nell'atmosfera dei pianeti giganti e in quella della luna di Saturno Titano. Questa scoperta ha contribuito a stabilire un'altra classe spettrale ancora più fredda delle nane L, conosciuta come "nane T", di cui Gliese 229B è il prototipo.
Una nana bruna al di sotto delle 65 masse di Giove non è in grado di bruciare litio per fusione termonucleare in nessun momento della sua evoluzione. Dati spettrali di alta qualità hanno mostrato che Teide 1 aveva mantenuto la quantità iniziale di litio della nube molecolare originale da cui si sono formate le stelle delle Pleiadi. Questo ha dimostrato la mancanza di fusione termonucleare nel suo nucleo.
Teide 1 è stato considerato per qualche tempo l'oggetto più piccolo fuori dal sistema solare che fosse stato identificato tramite osservazione diretta. Da allora sono state identificate più di 1800 nane brune. Alcune sono molto vicine alla Terra come Epsilon Indi Ba e Bb, una coppia di nane brune legate gravitazionalmente ad una stella simile al Sole a circa 12 anni luce dal Sole, e WISE 1049-5319 un sistema binario di nane brune a circa 6,5 anni luce.
