Erzurum hakkında bilinen en eski yazılı tarih kaynakları olarak kabul edilebilecek Hitit (Boğazköy) ve Mısır yazılı kaynaklarına göre, M.Ö. 2000 - 1200 yılları arasında Erzurum ve çevresi Orta Asya kökenli Hurrilerin hâkimiyeti altında bulunuyordu.

Hitit Boğazköy yazılı arşivlerinde, Erzurum'un Azzi Hayaşa hâkimiyeti altında bulunduğu sırada, biri M.Ö. 1375' de Hitit İmparatoru Şuppiluliuma, diğeri II. Murşil (M.Ö. 1334 - 1306); tarafından işgal edilmek istendiğine dair belgelere rastlanmıştır.

M.Ö. 1200 yıllarında, Avrupa'dan Ön Asya içlerine doğru oluşan ve Kavimler Göçü adı verilen göç hareketinden sonra, Muşkilerin Erzurum ve çevresine yerleştikleri bilinmektedir.

Urartular Döneminde Erzurum

M.Ö. IX. yüzyılda Van ve çevresinde yerleşmiş olan Hurri kökenli Urartular, M.Ö. VII. yüzyılda Erzurum'u da egemenlikleri altına aldılar. M.Ö.660 yıllarında ise güneyden Aras Havzasına doğru ilerleyen Asurlar Daieni ülkesi sınırları içerisinde olan Erzurum ve çevresini ele geçirdiler. Yine VII. yüzyılın sonlarında Urartu egemenliği altındaki topraklar, kuzeyden gelen İskitlerin saldırısına uğradı.

Asur saldırılarına zorda olsa karşı koyabilen Urartular, İskit saldırısından sonra tamamen tarihten silindiler. Urartu Krallığı'nın III. Rusan'ın ölümü (M.Ö. 585 ) ile ortadan kalkmasıyla da Ermeniler'in bölgede etkinlik kurması kolaylaştı. Bazı tarihçiler, Ermenilerin bölgede etkinlik kurması kolaylaştı. Bazı tarihçiler Ermeniler'in Kavimler Göçü sırasında Avrupa'dan Ön Asya'ya göç eden Friglerle Birlikte bölgeye gelmiş olduklarını ileri sürmektedirler

Medler Döneminde Erzurum

M.Ö. V. yüzyılda Asur egemenliğine son veren Medler, Keyaksar yönetiminde kuzeye doğru ilerleyerek Urartu topraklarını ele geçirmişlerdir. Medler, Muşki Frigler ve İskit bölgelerini de ele geçirdikten sonra, Kapadokya'ya doğru yönelmişlerdir.

Erzurum ve çevresinde bu yüzyılda Khalibler, Muşkiler ve Tibarenler'in yaşadıkları bölgenin yerel derebeylerinin egemenliği altında olduğu, ancak bunların Med Krallarının yetkilerini tanıdıkları bilinmektedir. Medlerin zayıflama döneminde ise, bu beyler Kral Astiyag'a direnerek, özerkliklerini ilan etmişlerdir.

Persler Döneminde Erzurum

Pers Kralı II. Kiros'un M.Ö. 555'de Med Krallığına son vermesi ile Erzurum'un doğusu Pers egemenliği altına girmiştir. Kiros'dan sonra gelen Pers Krallıklarından Büyük Darios zamanında, Erzurum çevresinde bir Ermeni satraplığı kurulmuştur. Pers İmparatorlarından Kserkses'in M.Ö. 480 de çıktığı Yunan seferinde, bu satraplıktan da asker toplanmıştı.

Ünlü tarihçi Heredot da bu seferden söz ederken, Ermenileri Frigyalı olarak tanımlanmıştır. Ermeni satraplığında o dönemde Muşki, Taberin ve Maerin topluluklarının yaşadıkları Heredot tarafından tespit edilmiştir.

M.Ö. III. yüzyılda bölgeye Selökidler ve II. yüzyılda Persler egemen olmuşlardır. II. yüzyıl ortalarından itibaren bölge Romalılarla Persler arsındaki yoğun mücadelelere sahne olmuştur. Romalılar, bölgeye yaptıkları seferler sonucunda geçici olarak egemenlik kurabilmişler, ancak sık sık bölge halkının direnişleriyle karşılaşmışlardır