La caratteristica più evidente di Ankylosaurus è la sua armatura, che consiste in massicce manopole e piastre di osso, note come osteodermi o scudi ossei, incorporati nella pelle. Gli osteodermi si trovano anche nella pelle di coccodrilli, armadilli e alcune lucertole. L'osso era probabilmente ricoperto da uno strato duro e corneo di cheratina.
Questi osteodermi variavano notevolmente in dimensioni, da piastre larghe e piatte a piccoli noduli rotondi. Le piastre erano allineate in regolari file orizzontali lungo il collo, la schiena e i fianchi dell'animale, con i molti noduli più piccoli che proteggevano le aree tra le grandi piastre. Piastre più piccole possono essere state disposte sugli arti e sulla coda. Rispetto al leggermente più antico anchilosauride Euoplocephalus, le piastre di Ankylosaurus erano di consistenza liscia, senza le alte chiglie trovate sull'armatura del contemporaneo nodosauro Edmontonia. Una fila di punte piatte e triangolari potrebbe essere spuntata lateralmente lungo ogni lato della coda. Scaglie dure e arrotondate proteggevano la parte superiore del cranio, mentre quattro grandi corna piramidali sporgevano dagli angoli posteriori.
Sotto era coperto da pelle normale, ma per raggiungerlo il carnivoro avrebbe dovuto rovesciare un animale che pesava fino a 6.000 kg.