Harput ve yöresi, Anadolu'nun en eski yerleşme birimlerinden biridir. Nitekim, Fırat Irmağı'nın çizdiği büyük yay içinde, sulak ve verimli bir ova üzerinde bulunması, doğal kaya sığınakları, kara ve su hayvanlarının bolluğu nedeniyle yöre, Paleolotik (Yontma Taş Devri M.Ö. 10.000) dönemden beri, yerleşme alanıdır. Elazığ ve yöresinin yazılı tarihinin Hitit tabletlerindeki bilgilerle aydınlatıldığı görülmektedir. M.Ö. 2000'lerde yörenin İşuva adıyla anıldığı belirlenmiştir. M.Ö. 12. 7. yüzyıllar arasında yöreye merkezi Van (Tuşpa) olan Urartular hakim olmuştur.
Urartu dönemi ile ilgili olarak, Harput Kalesi başta olmak üzere, Altınova Norşuntepe'de ortaya çıkarılan Urartu yerleşmesi, Palu Kalesi, Karakoçan (Bağın) ve İzoli (Kuşsarayı)'ndaki çivi yazılı kitabeler yöredeki Urartu hakimiyetini açıkça ortaya koymuştur. Daha sonra bölgede Medler, Persler, Romalılar, Bizanslılar ve Arapların değişik dönemlerde egemen oldukları görülmektedir. Büyük Selçuklu hakimiyetinin Anadolu'ya kayması ile Harput'un Türk Yurdu olmasında en önemli savaşın Malazgirt Meydan Muharebesi olduğuna şüphe yoktur. 1085 yılında Çubuk Bey tarafından fethedilen Harput'ta Çubukoğulları Beyliği kurulmuştur. Türkler tarafından alınmasına kadar sadece müstahkem bir kale hüviyetinde kalan Harput, Türklerle beraber büyüyen bir şehir haline gelmiştir.
Çubukoğulları Beyliği'nin ömrü uzun sürmemiş, 1110 yılında Artuklu Belek Behram Harput ve yöresini ele geçirerek Artukoğulları dönemini başlatmıştır. Belek Gazi, Haçlı seferlerine karşı büyük mücadeleler vermiştir. Artuklu hanedanına, 1234 yılında I. Alaaddin Keykubad tarafından son verilmiş, Harput bu tarihten itibaren Türkiye Selçuklu Devleti'nin hakimiyeti altına girmiştir.
Kösedağ Savaşı'ndan sonra Harput, 1243'te İlhanlılar tarafından zaptedilmiş, 1363'te Dulkadiroğullarının, 1465'te Akkoyunluların ve nihayet Çaldıran Savaşı'ndan sonra 1516 yılında Osmanlıların eline geçmiştir. Coğrafi konumu itibariyle tarihin hemen her döneminde önemli bir yerleşim merkezi olan Harput, 1834'te doğu eyaletlerini ıslah etmek üzere görevlendirilen Reşid Mehmed Paşa, ovada yer alan Agavat Mezrası'nı merkez haline getirince, Elazığ Vilayeti'nin merkezi buraya taşınmıştır. Yeni kurulan şehir önceleri eyalet ve bilahare vilayet merkezi olmuş, bir ara Diyarbakır Vilayeti'ne bağlı bir sancak haline gelmiştir. 1875'te müstakil mutasarrıflık, 1879'da tekrar vilayet olmuştur. Osmanlı İmparatorluğu'nun son yıllarında Malatya ve Dersim sancakları da buraya bağlanmış, 1921'de bu iki sancak Elazığ'dan ayrılmıştır.
