Orașul a fost cunoscut inițial în 

armeană ca Karno K'aghak' ( armeană : Կարնոյ քաղաք ), adică

orașul Karin , pentru a-l deosebi de districtul Karin ( Կարին ). [1] Se presupune că numele său a fost
derivat dintr-un trib local numit Karenitis. [5] O teorie alternativă susține că o familie domnească
locală, Kamsarakans , descendentul armean al familiei iraniene Kārin Pahlav , și-a împrumutat
numele locației care a devenit în cele din urmă orașul. [6]
În epoca romană, Erzurum a fost
numit Theodosiopolis ( latină : Theodosiopolis , greacă : Θεοδοσιούπολις ). După cucerirea arabă a
Armeniei în secolul al VII-lea, orașul a fost cunoscut de arabi ca Kālīkalā (adoptat din numele
original armenesc Karno K'aghak' ( armeană : Կարնոյ քաղաք ), însemnând „Orașul Karin”,
pentru a-l deosebi de districtul Karin ( Կարին ). [1]
Și-a primit numele actual după cucerirea de către turcii selgiucizi în urma bătăliei de la Manzikert din
1071. [1] În 1048/49, un oraș comercial vecin numit Artze (Arcn, Arzan; armeană: Արծն) a fost jefuit
puternic de selgiucizi. [1] [7] Locuitorii săi armeni , sirieni și alți creștini s-au mutat la Theodosiopolis, pe
care au început să-l numească „Artsn Rum” (însemnând Artze of the Rûm , adică , romani ) pentru
a-l deosebi de fosta lor reședință
Împrejurimile Erzurumului din perioada Urartiană aparțineau probabil lui Diauehi . [12] Mai târziu,
Erzurum a existat sub numele armenesc de Karin. În timpul
domniilor regilor Artaxiad și Arsacid ai Armeniei , Karin a servit drept capitală a cantonului
omonim Karin , în provincia Bardzr Hayk' (Armenia Superioară). [13] După împărțirea
Armeniei între Imperiul Roman de Răsărit și Persia Sasanida în 387 d.Hr., orașul a trecut în mâinile
romanilor. Au fortificat orașul și l-au redenumit Theodosiopolis, după împăratul Teodosie I. [14] Ca
fortăreață militară principală de-a lungul graniței de est a imperiului, Theodosiopolis deținea o locație
strategică extrem de importantă și a fost aspru contestată în războaiele dintre bizantini și
perși. Împărații Anastasius I și Justinian I au refortificat orașul și au construit noi apărări în timpul
domniei lor.