C'era una relazione duratura tra l'Albania caucasica e l'antica Roma. Nel 65 a.C., il generale romano Pompeo, che aveva appena sottomesso l'Armenia e l'Iberia e aveva conquistato la Colchide, entrò in Albania alla testa del suo esercito. Attraversando l'arida provincia di Cambysenē (Kambičan) - recentemente sottratta agli Armeni dagli Albanesi - si diresse in direzione del Mar Caspio.
Nel guadare il fiume Alazan, si scontrò con le forze di Oroezes, re di Albania, e alla fine li sconfisse. Pompeo si assicurò il controllo degli albanesi raggiungendo quasi il Mar Caspio prima di tornare in Anatolia.
Ma gli albanesi, influenzati dall'impero partico, non tardarono a ribellarsi contro Roma: nel 36 a.C. Marco Antonio si trovò costretto ad inviare uno dei suoi luogotenenti per porre fine alla loro ribellione. Zober, che allora era re d'Albania, capitolò e l'Albania divenne così - almeno di nome - un "protettorato romano", iniziando una condizione di vassallaggio che durò per quasi tre secoli.
Un re di Albania appare nella lista delle dinastie i cui ambasciatori furono ricevuti da Augusto.
Nel 35 d.C. il re Pharasmanes di Iberia e suo fratello Mitridate, con l'appoggio di Roma, affrontarono i Parti in Armenia: gli Albanesi si dimostrarono efficaci alleati, contribuendo alla sconfitta e alla temporanea eliminazione dei Parti.
L'imperatore Nerone preparò nel 67 d.C. una spedizione militare nel Caucaso: voleva sconfiggere i barbari Alani e conquistare per Roma tutte le rive settentrionali del Mar Nero dall'attuale Georgia-Azerbaigian a quella che oggi è la Romania-Moldavia, ma la sua morte la fermò.
Successivamente Vespasiano era determinato a ripristinare e rafforzare la piena autorità di Roma nel Caucaso fino al Caspio.
La presenza di un distaccamento della Legio XII Fulminata ad una distanza di alcuni chilometri dalle rive di quel mare (69 km a sud di Baku) è attestata da un'iscrizione redatta tra l'83 e il 96 d.C. sotto il regno di Domiziano.
Nel 75 d.C., XII Fulminata era nel Caucaso, dove l'imperatore Vespasiano aveva inviato la legione per sostenere i regni alleati di Iberia e Albania.
In Azerbaigian è stata trovata un'iscrizione che recita: IMP DOMITIANO CAESARE AVG GERMANICO LVCIVS IVLIVS MAXIMVS LEGIONIS XII FVL, Sotto imperatore Domiziano, Cesare, Augusto Germanico, Lucio Giulio Massimo, Legio XII Fulminata.
Alcuni storici sostengono che l'attuale insediamento di Ramana vicino a Baku fu forse fondato dalle truppe romane di Lucio Giulio Massimo della "Legio XII Fulminata" nel primo secolo dopo Cristo e deriva il suo nome dal latino Romana.
Tra i fatti che rafforzano questa ipotesi ci sono la mappa militare-topografica del Caucaso pubblicata nel 1903 dall'amministrazione russa che scrive il nome della città come "Romana", vari manufatti romani trovati nella regione di Absheron e anche vecchi abitanti che si riferiscono alla città come Romani.
Inoltre, Ramana è posizionato in una zona perfettamente adatta a un "castrum" romano per controllare il vicino porto di Baku, sulla rotta marittima commerciale (attraverso il Mar Caspio) tra il Caucaso e le pianure dell'Asia centrale.
Nonostante la crescita dell'influenza romana, l'Albania non cessò mai di rimanere in contatto commerciale e probabilmente anche culturale con la Persia, ma con Traiano nel 114 d.C. il controllo romano sull'Albania caucasica era quasi completo con i livelli sociali superiori completamente romanizzati.
Anche i principi delle tribù caucasiche, gli Albani, gli Iberi....o vi furono sottoposti (da Traiano)
Durante il regno dell'imperatore romano Adriano (117-138) l'Albania fu invasa dagli alani, un gruppo nomade iraniano.
Questa invasione promosse un'alleanza tra Roma e gli albanesi che fu rafforzata sotto Antonino Pio nel 140 d.C. I sasanidi occuparono l'area intorno al 240 d.C. ma dopo pochi anni l'Impero Romano riprese il controllo dell'Albania caucasica.
Nel 297 d.C. il trattato di Nisibis stabilì il ristabilimento del protettorato romano sull'Iberia caucasica e sull'Albania caucasica. Ma cinquant'anni dopo Roma perse l'area che da allora rimase parte integrante dell'impero sasanide per più di due secoli.
Alla fine del VI secolo il territorio dell'Albania divenne di nuovo un'arena di guerre tra la Persia sasanide e l'Impero romano bizantino/orientale. Durante la terza guerra persiano-turca, i Khazar (Gokturk) invasero l'Albania, e il loro capo Ziebel si dichiarò signore dell'Albania nel 627 d.C. sotto il dominio romano di Eraclio, imponendo una tassa sui mercanti e sui pescatori dei fiumi Kura e Araxes, che era "in accordo con il rilevamento delle terre del regno di Persia". I re albanesi mantennero il loro dominio pagando tributi alle potenze regionali.
L'Albania caucasica fu poi conquistata dagli arabi nel 643 d.C., durante la conquista islamica della Persia.