Hildesheim è una delle città più antiche della Germania settentrionale. La città potrebbe essere stata fondata quando il vescovo si trasferì da Elze al guado di Innerste, dove era un importante mercato sulla via commerciale Hellweg. L'insediamento si sviluppò presto in una città che nel 983 ottenne il diritto di mercato dal re Ottone III. Originariamente il mercato si svolgeva in una strada chiamata Mercato Vecchio (Alter Markt), che esiste ancora oggi. Il primo mercato fu allestito intorno alla chiesa di Sant'Andrea. Con la crescita della città, un mercato più grande divenne sempre più importante. L'attuale piazza del mercato di Hildesheim fu costruita all'inizio del 13° secolo, quando la città aveva una popolazione di circa 5.000 abitanti. Quando Hildesheim ottenne i diritti di città nel 1249, era una delle più grandi città della Germania settentrionale. Per quattro secoli il clero governò Hildesheim, prima che venisse costruito un municipio e i cittadini acquisissero una certa influenza e indipendenza. La costruzione dell'attuale municipio iniziò nel 1268, e nel 1367 Hildesheim divenne membro della Lega Anseatica. Una guerra tra i cittadini e il loro vescovo costò caro nel 1519-1523, quando si impegnarono in una faida. Hildesheim divenne protestante nel 1542, e solo la cattedrale e pochi altri edifici rimasero in mani imperiali (cattolici romani). Anche diversi villaggi intorno alla città rimasero cattolici. Nel 1813, dopo le guerre napoleoniche, la città entrò a far parte del Regno di Hannover, che fu annesso al Regno di Prussia dopo la guerra austro-prussiana del 1866 come provincia.
La città fu bombardata durante la seconda guerra mondiale, ma il bombardamento ebbe poca importanza nel corso della guerra. Il 28,5% delle case furono distrutte e il 44,7% danneggiate. Il 26,8% delle case non ha subito danni. Il centro, che fino ad allora aveva ancora il suo carattere medievale, è stato quasi raso al suolo. Come in molte città, come in molte città, la priorità fu data alla rapida costruzione di abitazioni di cui c'era bisogno, e le strutture in cemento prese il posto degli edifici distrutti. Fortunatamente, la maggior parte delle chiese più importanti, due delle quali oggi Patrimonio dell'Umanità dell'UNESCO, sono state ricostruite nello stile originale nell'immediato dopoguerra. Durante la guerra, materiali preziosi del patrimonio mondiale erano stati nascosti nei sotterranei delle mura della città. Nel 1978 è stata fondata l'Università di Hildesheim. Negli anni Ottanta iniziò la ricostruzione del centro storico. Alcuni dei nuovi edifici in cemento vicino alla piazza del mercato furono demoliti. Al loro posto furono costruite le repliche degli edifici originali.