Kemah’ın “ Tarih öncesi çağları hakkında kesin bilgilere sahip değiliz. Ancak,Erzurum çevresi gibi komşu yörelerde yapılan bazı araştırmalar, bölge tarihinin umumi manada, insanlık tarihinin en eski devirlerine, yani “Paleolitik Çağ”a (Yontma Taş Devri) kadar götürmektedir.
Müteakib devirlerde ise Kemah bölgesinin ön tarihi hakkında bilgilerimiz ilmi boyutlar kazanmaya başlar: “Son Kalkolitik” ve “İlk Tunç Çağ “ devrelerinde Doğu ve Güney-doğu Anadolu’da -Karaz türü çanak-çömlekleri adı ile tanımlanan- yaygın ve homojen, kendine has eserleriyle bir kültür gurubu ortaya çıkar. “Karaz-Kültürü” adının yanısıra, buluntu yerlerine göre çeşitli isimler altında tarif edilen bu kültür, gerçekte çok mühim bir tarihi hadiseyi ve gelişmeyi yansıtmaktadır. Adı geçen arkeolojik materyal Hurrilere ait olup, dil yapısı bakımından Ural-Altay dil ailesi ile yakınlık gösteren bu kavmin çeşitli kollar halinde Trans-Kafkasya, Kura-Aras yöresinden Doğu Anadolu ve komşu bölgeler üzerine yaptıkları göç ve yayılmaları belgelemektedir.
Erzincan yöresini de, bu kültürün gelişim bölgesi içinde zikrederler.“Tarihi Çağlar” da, Kemah ve çevresi hakkındaki aydınlatıcı bilgileri, Hittit ve Assur çivi yazılı kaynaklarından edinmekteyiz: M.Ö.III. bindeki Hurri kabilelerinin ve Urartular gibi akraba boyların göçlerini müteakib, M.Ö.II. binde Doğu Anadolu’da birtakım küçük feodal beyliklerin teşekkül ettiği görülür. Bunlardan birisi de Kemah yöresindeki beyliktir.
Hittit kaynaklarında, Erzurum ve Erzincan arasındaki bölge “Hayaşa/Hajaşa” olarak geçmektedir. Hititlerin amansız düşmanı olan Hayaşa beyliği’nin Kral I. Şuppiluliuma (M.Ö 1375-1345) devrinde bir çok çetin mücadelelerden sonra Hitit devletine tabi olduğu anlaşılmaktadır. Kaynaklara göre, bir ara durmuş olan Hitit-Hayaşa çekişmesi,Şuppiluliuma’nın ölümünden sonra tekrar alevlenmiştir .Bunun üzerine oğlu II. Murşillis, Hitit devletine karşı ayaklanan Hayaşalı’larla Kemah yakınlarında savaşmak zorunda kalmıştır. Anlaşıldığına göre Hititlerle mücadeleye devam eden Hayaşalılar, yeniden bağımsızlıklarını elde etmişlerdir.
M.Ö. XIII. yüzyılın ilk çeyreğinden itibaren Assur devletinin Ön Asya’da gittikçe kuvvetlenmesi üzerine Doğu Anadolu’nun siyasi durumunda büyük değişikliler görülür: Doğu Anadolu ile Assur arasında bir “ tampon devlet” niteliğinde olan Hurri-Mitanni (Hanigalbat) devletinin zayıflayarak tarih sahnesinden çekilmesini fırsat bilen Assur, Doğu Anadolu’ya amansız akınlar düzenlemeye başlamıştır. Bunun üzerine yukarıda zikrettiğimiz Hurri kökenli ve akraba Urartu kabilelerinin meydana getirdikleri Feodal beylikler, Assur’a karşı birleşirler. Böylece Doğu Anadolu’da, merkezi Van Gölü olmak üzere gelecekteki Urartu devletinin temelini oluşturan “ Uruatri” ve “Nairi” konfederasyonları, yeni bir politik güç olarak ortaya çıkar.
Hitit kaynaklarında “Hayaşa” adı altında tarif edilen Kemah bölgesi, Assur kaynaklarında zaman zaman Nairi konfederasyonunun hakim olduğu topraklar dahilinde zikredilmektedir. Bu feodal beylik, konfederasyonunun bir üyesidir.
M.Ö. IX. yüzyılın ikinci yarısında, Doğu Anadolu’ya yapılan Assur seferleri gittikçe yoğunlaşır. Bunun üzerine, Uriatri ve Nairi konfederasyonları, birleşerek Urartu devletini kurarlar. Bu sırada, Assur kralı III.Salmanassar’ın (M.Ö.848-824) Fırat’ın kaynaklarına kadar ulaşan seferleri sırasında Suhme bölgesini de fethederek yağmaladığı görülür. Urartu kralı II. Argişti (M.Ö. 714-685) devrinde, Kemah ve Erzincan yörelerinin Urartu devletine ilhak edilerek batı sınırında güçlü bir eyalet merkezi haline getirildiği anlaşılmaktadır.
Medleri takiben Perslerin Doğu Anadolu’ya hakim olmaları ile- Kemah-Erzincan yöresi dahil-Doğu Anadolu’nun büyük bir kısmı, Pers Kralı I. Dareiros’un yeniden organizasyonu sonucunda-o çağlardaki adı ile-”Armina/Arminyia” Satraplığına,yani XIII. Satraplık bölgesine dahil edilmiştir.
Bilahere Roma İmparatorluğu’nun hakimiyeti altına giren bu bölge, Roma, Part krallığı ve yerli krallık arasındaki mücadelelerde,bir kilit noktası teşkil etmiştir. Bölgede, Roma hakimiyetinin zayıflaması üzerine birçok yeni prenslikler kurulmuştur. Birbirleriyle sürekli mücadele halinde olan bu prenslikler zaman zaman Doğu Roma’nın veya İran’ın nüfuzu altına girmiştir.
Kemah, eski çağlarda “Ani” ismiyle de bilinmektedir. I.Theodosios (379-395) devrinde Kemah’ın bulunduğu bölgenin adı “Daranalis” olarak geçer. Yine onun zamanında şehire “Theodosiopolis” adı verilmiştir. Şehir daha sonraki devirde Anastasios tarafından yeniden kurulmuştur.
İslamiyetin zuhurundan kısa bir müddet sonra, bu bölge Arapların akınlarına maruz kaldı. Araplar, burasını evvela H. 59 (M.678/679)’da, sonra 710 senesinde, daha sonra H.105 (M.723/724)’de Mervan bin Muhammed kumandasında ve tekrar Mesleme bin Abdülmelik idaresinde zaptetmişlerdir. H.133 (M.750/751)’de Bizans İmparatoru Konstantin tarafından kuşatılması üzerine, Abbasi halifesi Ebu Ca’fer el-Mensur, şehri Bizanslılara karşı tahkim etti. Bununla beraber 754/755’de Kemah, tekrar Bizanslıların hakimiyeti altına girdi. Bundan sonra burası, halifeler ile Bizanslılar arasında birkaç defa daha elden ele geçti. Sonraki asırlarda Bizanslılara tabi kaldı.
