Secondo l'antica tradizione locale, il 2 gennaio dell'anno 40 d.C., la Vergine Maria apparve a Giacomo sulla riva dell'Ebro a Caesaraugusta, mentre predicava il Vangelo in Spagna. Si suppone che sia apparsa su una colonna, Nuestra Señora del Pilar, e che tale colonna sia conservata e venerata all'interno dell'attuale Basilica di Nostra Signora del Pilastro, a Saragozza, in Spagna. Dopo quell'apparizione, San Giacomo tornò in Giudea, dove fu decapitato dal re Erode Agrippa I nell'anno 44.
La traduzione delle sue reliquie dalla Giudea alla Galizia, nel nord-ovest dell'Iberia, fu effettuata, nella leggenda, da una serie di eventi miracolosi: decapitato a Gerusalemme con una spada dallo stesso Erode Agrippa, il suo corpo fu preso dagli angeli, e navigò in una barca incustodita senza timone verso Iria Flavia in Spagna, dove un enorme scoglio si chiuse intorno alle sue reliquie, che furono poi portate a Compostela. La Historia Compostellana del XII secolo riassume la leggenda di San Giacomo come si credeva a Compostela. Due sono le idee centrali: la prima è che San Giacomo predicò il Vangelo in Spagna e in Terra Santa; la seconda è che dopo il suo martirio per mano di Erode Agrippa I i suoi discepoli portarono il suo corpo via mare in Spagna, dove sbarcarono a Padrón, sulla costa della Galizia, e lo portarono nell'entroterra per la sepoltura a Santiago de Compostela.
L'autenticità delle sacre reliquie di Compostela è stata affermata nella bolla di papa Leone XIII, "Omnipotens Deus", del 1° novembre 1884.
La tradizione di Compostela colloca la scoperta delle reliquie del santo ai tempi del re Alfonso II (791-842) e del vescovo Teodemir d'Iria. Queste tradizioni furono alla base del percorso di pellegrinaggio che iniziò ad affermarsi nel IX secolo, e il santuario dedicato a Giacomo a Santiago di Compostela, in Galizia in Spagna, divenne il luogo di pellegrinaggio più famoso del mondo cristiano. Il Cammino di Santiago è un albero di sentieri che attraversano l'Europa occidentale e arrivano a Santiago attraverso il nord della Spagna. Alla fine Giacomo divenne il patrono di Spagna.
Il nome "James" in inglese deriva da "Iacobus" (Giacobbe) in latino. Nella Spagna orientale, Giacobbe è diventato "Jacome" o "Jaime"; in Catalogna, è diventato Jaume, nella Spagna occidentale è diventato "Iago", e in Portogallo e Galizia è diventato Tiago. "San Giacomo" ("Sanctus Jacobus") divenne "Sant' Iago", che fu abbreviato in Santiago. L'emblema di Giacomo era la conchiglia di capasanta (o "conchiglia cockle shell"), e i pellegrini che si recavano al suo santuario spesso portavano questo simbolo sui loro cappelli o sui loro vestiti.