La maggior parte dei campi della fisica può essere divisa tra lavoro teorico e lavoro sperimentale, e la fisica atomica non fa eccezione. Di solito accade, ma non sempre, che il progresso vada a cicli alternati da un'osservazione sperimentale, attraverso una spiegazione teorica seguita da alcune previsioni che possono o non possono essere confermate dall'esperimento, e così via. Naturalmente, lo stato attuale della tecnologia in un dato momento può porre delle limitazioni su ciò che può essere raggiunto sperimentalmente e teoricamente, quindi può essere necessario un tempo considerevole per perfezionare la teoria.
Uno dei primi passi verso la fisica atomica fu il riconoscimento che la materia era composta da atomi, nel senso moderno di unità di base di un elemento chimico. Questa teoria fu sviluppata dal chimico e fisico britannico John Dalton nel XVIII secolo. In questa fase, non era chiaro cosa fossero gli atomi, anche se potevano essere descritti e classificati in base alle loro proprietà (in blocco) in una tabella periodica.
Il vero inizio della fisica atomica è segnato dalla scoperta delle linee spettrali e dai tentativi di descrivere il fenomeno, in particolare da Joseph von Fraunhofer. Lo studio di queste linee ha portato al modello dell'atomo di Bohr e alla nascita della meccanica quantistica. Cercando di spiegare gli spettri atomici si rivelò un modello matematico della materia completamente nuovo. Per quanto riguarda gli atomi e i loro gusci di elettroni, non solo si ottenne una migliore descrizione generale, cioè il modello degli orbitali atomici, ma anche una nuova base teorica per la chimica (chimica quantistica) e la spettroscopia.
Dalla seconda guerra mondiale, sia il campo teorico che quello sperimentale sono avanzati ad un ritmo rapido. Questo può essere attribuito al progresso della tecnologia informatica, che ha permesso modelli più grandi e sofisticati della struttura atomica e dei processi di collisione associati. Simili progressi tecnologici negli acceleratori, nei rivelatori, nella generazione di campi magnetici e nei laser hanno notevolmente assistito il lavoro sperimentale.