I primi carri armati furono costruiti dalla Royal Navy britannica e dai produttori di automobili francesi durante la prima guerra mondiale come un modo per attaccare le trincee nemiche. Furono chiamati carri armati per ingannare i tedeschi a pensare che fossero portatori d'acqua per il teatro mediorientale della prima guerra mondiale. Il loro uso in un attacco a sorpresa nella battaglia della Somme causò paura tra i soldati tedeschi, ma il loro piccolo numero e la scarsa affidabilità impedirono loro di fare molta differenza.
I carri armati divennero un'arma principale durante la seconda guerra mondiale, dove furono combattute battaglie tra un gran numero di carri armati, specialmente tra i tedeschi e l'Unione Sovietica. La battaglia di Kursk fu la più grande. I più noti carri armati della Seconda Guerra Mondiale furono i tedeschi Panzer IV, Panther e Tiger I, i sovietici T-34 (prodotti nel maggior numero di carri armati della guerra e secondi in assoluto), i britannici Matilda, Churchill e Cromwell, e gli americani M4 Sherman (secondo carro armato più prodotto della guerra) e Stuart. C'erano stati anche piani per carri armati molto più grandi e pesantemente corazzati come il Maus, ma questi furono determinati a essere di scarsa utilità a causa del loro enorme peso, che li avrebbe resi molto difficili da spostare, e le enormi dimensioni, che li avrebbero resi facili bersagli dell'artiglieria pesante.
I vecchi carri armati sono spesso modificati per altri usi come il trasporto di soldati o attrezzature. Gli ingegneri di combattimento usano veicoli speciali basati su carri armati, per esempio carri armati dragamine o carri armati da ponte.
Il carro armato è una parte importante di tutti i grandi eserciti di oggi. I carri armati hanno sostituito ovunque la cavalleria e fanno le cose che i soldati a cavallo facevano in passato. La maggior parte dei carri armati moderni sono del tipo pesante o Main Battle Tank, in grado di combattere altri carri armati. Rispetto ai tipi più vecchi gli MBT sono molto pesanti (gli MBTS russi sono circa 40 tonnellate e gli occidentali circa 60 tonnellate) con un cannone di 120 mm (occidentale) e 125 mm (russo) e 2-3 mitragliatrici. I marines e altre forze specializzate usano anche alcuni carri armati leggeri.