Secondo la più antica fonte di informazioni, la biblioteca fu inizialmente organizzata da Demetrio di Falerone, uno studente di Aristotele, sotto il regno di Tolomeo I Soter (circa 367 a.C. - circa 283 a.C.).
La biblioteca comprendeva un peripatos (passeggiata), giardini, una sala da pranzo condivisa, una sala di lettura, aule e sale riunioni. Tuttavia, la disposizione esatta non è nota. L'influenza di questo modello può essere vista ancora oggi nella disposizione dei campus universitari. La biblioteca stessa è nota per avere avuto un dipartimento di acquisizioni (forse costruito vicino alle pile, o per utilità più vicino al porto), e un dipartimento di catalogazione. La sala conteneva scaffali per le collezioni di rotoli (dato che i libri erano a quel tempo su rotoli di papiro), conosciuti come bibliothekai (βιβλιοθῆκαι). Si diceva che incisa nel muro sopra gli scaffali, una famosa iscrizione recitava: Il luogo della cura dell'anima.
Fu la prima biblioteca conosciuta a raccogliere una seria collezione di libri da oltre i confini del suo paese. La Biblioteca fu incaricata di raccogliere tutto il sapere del mondo. Lo fece attraverso un mandato reale aggressivo e ben finanziato che comprendeva viaggi alle fiere del libro di Rodi e Atene e una politica di prelevare i libri da ogni nave che arrivava in porto. Conservarono i testi originali e ne fecero delle copie da rimandare ai loro proprietari. Alessandria, grazie al suo porto artificiale bidirezionale tra la terraferma e l'isola Pharos, accolse il commercio dall'Oriente e dall'Occidente, e presto si trovò ad essere il centro internazionale del commercio, nonché il principale produttore di papiro e, abbastanza presto, di libri.
La biblioteca ospitava anche una serie di studiosi internazionali. La biblioteca riempiva i suoi scaffali con nuove opere in matematica, astronomia, fisica, storia naturale e altre materie. Fu alla Biblioteca di Alessandria che il metodo scientifico fu concepito e messo in pratica per la prima volta, e i suoi standard empirici applicati in una seria critica testuale. Poiché lo stesso testo esisteva spesso in diverse versioni, la critica testuale comparativa era cruciale per assicurare la loro accuratezza. Una volta accertata, le copie venivano fatte per gli studiosi, i reali e i ricchi bibliofili di tutto il mondo, e questo commercio portava reddito alla biblioteca. I redattori della Biblioteca di Alessandria sono particolarmente noti per il loro lavoro sui testi omerici. I redattori più famosi generalmente avevano anche il titolo di capo bibliotecario. Questi includevano, tra gli altri,
- Zenodoto (inizio terzo secolo a.C.)
- Callimaco, (inizio del terzo secolo a.C.), il primo bibliografo e sviluppatore del Pinakes - il primo catalogo della biblioteca.
- Apollonio di Rodi (metà del terzo secolo a.C.)
- Eratostene (fine terzo secolo a.C.)
- Aristofane di Bisanzio (inizio secondo secolo a.C.)
- Aristarco di Samotracia (fine del secondo secolo a.C.).
- Euclide.
Già famosa nel mondo antico, la collezione della biblioteca divenne ancora più famosa negli anni successivi. I rotoli di papiro comprendevano la collezione, e anche se i codici di pergamena furono usati prevalentemente come materiale di scrittura più avanzato dopo il 300 a.C.
Un singolo pezzo di scrittura poteva occupare diversi rotoli. Si dice che il re Tolomeo II Filadelfo (309-246 a.C.) abbia fissato 500.000 rotoli come obiettivo per la biblioteca. Marco Antonio avrebbe dato a Cleopatra oltre 200.000 rotoli (presi dalla grande Biblioteca di Pergamo) per la biblioteca come regalo di nozze. Carl Sagan, nella sua serie Cosmos, afferma che la biblioteca conteneva quasi un milione di rotoli, anche se altri esperti hanno stimato un numero inferiore. Nessun indice della biblioteca sopravvive, e non è possibile sapere con certezza quanto grande e quanto varia possa essere stata la collezione.
Una storia forse esagerata riguarda il modo in cui la collezione della biblioteca è diventata così grande. Per decreto di Tolomeo III d'Egitto, tutti i visitatori della città erano tenuti a consegnare tutti i libri e i rotoli. Gli scrivani ufficiali copiarono rapidamente questi scritti, alcune copie si dimostrarono così precise che gli originali furono messi nella biblioteca e le copie consegnate agli ignari proprietari. Questo processo aiutò anche a creare una riserva di libri nella città relativamente nuova.
Secondo Galeno, Tolomeo III chiese il permesso agli ateniesi di prendere in prestito i copioni originali di Eschilo, Sofocle ed Euripide, per i quali gli ateniesi chiesero l'enorme somma di quindici talenti come garanzia. Tolomeo pagò volentieri la tassa, ma tenne i copioni originali per la biblioteca.
La Bibliotheca Alexandrina è stata inaugurata nel 2002 vicino al sito della vecchia biblioteca.