Bulunduğu coğrafi konum itibariyle tarihsel olaylar karşısında daima tampon bölge olarak kalan Gümüşhane'de mimari eserlerin çoğu günümüzde ulaşamamıştır. Bunun bir sebebi de tabiat şartlarının yetersizliğiyle gelişememiş köy yerleşmesi olmasıdır. M.Ö. 2000 başlarında Mezopotamya'daki Asur devleti Anadolu'ya o güne değin rastlanmamış bir biçimde yayılmaya başladı. Silah gücüyle sahip olamadıkları bölgelere ise tüccarları vasıtasıyla ulaşmayı amaçlamışlardır. Kısa süre içerisinde Gümüşhane’nin de içinde bulunduğu Anadolu'nun çeşitli yerlerinde karumlar (pazar yerleri) kurarak yöreden çıkardıkları gümüşü ülkelerine götürüyorlardı.

Gümüşhane yöresinin Azzi ülkesi adıyla, güneyinden Suşehri'ne kadar uzanan toprakların ise Hayaşa ülkesi olarak anıldığı Hititler zamanında zenginlik kaynağı yine gümüştür. Hititler alışverişte değer ölçüsü olarak gümüşü kullanıyorlardı. Hititlerin para birimi 1/2 "Şekel" gümüştü. Ayrıca gümüş, levhalar biçiminde inceltilip kesiliyor ve üzerine çivi yazısı yazılıyordu.

Hititler zamanında Trabzon'da Tabaritler, güneybatı Kafkasya'da İbaritler ve Van bölgesinde Urartular hüküm sürüyordu.

Hitit imparatorluğu gerek batıdan gelen Friglerin ve gerekse kuzey komşuları Kaşkaların saldırıları sonucu zayıflayınca Urartular bölgeye hakim oldular. (M.Ö. 860) Asurların zayıflamasından da faydalanan Urartular bölgedeki nüfuzlarını arttırdılar. Aynı yıllarda Ege adalarında ticaretle uğraşan Argonotlar "Konuk kabul etmeyen hırçın deniz" diye tabir ettikleri Karadeniz'in madenleriyle ünlü yöresine koloniler kurdular. (M.Ö. 756) Böylece Gümüşhane yöresi madenleri de uygarlığa açılmıştır. Bu gelişmeyle birlikte Urartu kültürü ve maden işçiliği Argonotlar aracılığıyla Ege Adaları'na dek yayıldı.

Urartular’ın bu güçlü dönemleri Kafkaslardan gelen Kimmer ve İskitlerin saldırılarından etkilenerek zayıfladı. Yöre halkının büyük çoğunluğu yerini yurdunu bırakarak güneye ve batıya doğru göçe başladı.

Bu kargaşa Medler'in istilasına kadar sürdü. M.Ö. 560'lı yıllarda Medler Gümüşhane yöresini ele geçirdiler. Ancak Medler yine ayni sülaleden gelen II. Kiros (Kuraş)'ın başkaldırısı ile yıkılmış ve M.Ö. 550'de Pers Krallığı kurulmuştur. Gümüşhane de bu sınırlar içinde olup yılda 300 gümüş talen vergi ödemekle yükümlü tutulmuştur. Persler, Medlerden farklı olarak hakim oldukları yöre halklarını göçe mecbur etmeyip gelenek ve törelerini sürdürmelerine göz yummuşlardır. Köle sahiplerinden aldıkları toprakları kendi komutan ve rahiplerine dağıtmışlardır. Bu komutanlar da kendileri için kaleler yaptırmışlardır. Yöre halkı vergi veriyor; buna karşılık rahat yaşıyordu. Bu durum Pers kültür öğelerinin Anadolu'ya girmesine fırsat vermiştir. (Örneğin ateşe tapıcılık gibi)

Persler Yunanlılarla yaptıkları savaşlarda yöre insanını da kullanmış, nitekim Kserkes'in M.Ö. 480'de Yunanistan'a yaptığı sefere Khalip (Khaldi-Haldi=Gümüşhane, Trabzon ve çevresinde yaşadığı belirtilen halk) askerleri de katılmıştır. Heredot bu seferde Khaliplerin küçük kalkanlar, kısa mızraklar ve eğri kılıçlarla donandığını yazmaktadır. Bazı kaynaklar ise bu sefere Çoruh havzasında yaşayan Muşkilerin katıldığını kaydederler.

İmparator II. Artakserkses döneminde (M.Ö. 400) bölgeyi güneyden kuzeye dolaşmış olan tarihçi Ksenefon ise, Pers ordusunda paralel askerlik yapan Makedonyalıların Babil yöresinde Karduklar'a yenildiklerini, daha sonraki geri çekilme sırasında Gümüşhane yöresinden de geçtiklerini yazmaktadır.

M.Ö. 350'lerde zayıflamaya başlayan Pers İmparatorluğu'na Makedonya Kralı Büyük İskender son verdi. (M.Ö. 334 ve 331) İskender orduları Gümüşhane yörelerine kadar uzanamadılar. Yöre bu yüzden M.Ö. 4. yüzyıl başında siyasal bir boşluğun içine düştü. Büyük İskender’in hakimlerinden Flikos'un Gümüşhane'de gümüş madeni bulması üzerine buraya önem verdiği söylenir.

Ege Adaları'ndan biri olan Kios adasının tiranı Mitridates Ktistes doğuda İris (Yeşilırmak) ve Lykos (Kelkit) havzasına dek uzanan toprakları ele geçirdi. (M.Ö. 301)

Pontos Krallığı'nın kurucusu olan I. Mitridates öldükten sonra yerine oğulları geçti. Bu krallar zamanında Pontos Krallığı’nın sınırları Gümüşhane'ye kadar uzandı. Krallık tahtına Mitridates Evpatorun geçmesiyle (M.Ö. 169-120) devlet hızlı bir gelişmenin içine girdi. Pontus Krallığı'nın karşısındaki en önemli güç Romalılar oldu. Evpator döneminde gümüş ocakları işletilmeye devam edildi. Savunma üstünlüğünü korumak için yüzlerce kale yapıldı. Ordunun zor duruma düştüğü zamanlarda da bu dağlık bölgeye iyi bir saklanma yeri oluyordu. Pontos Krallığının üstünlüğü Kerona Savaşı'nda sarsılınca iç çalkantılar başlamış, Lykos (Kelkit) yakınlarındaki Kabira dolaylarında Romalılarla yapılan ikinci büyük savaşta da yenilince Gümüşhane dağlarına çekilmişlerdir. Pontoslar burada sakladıkları hazine ve silahlarıyla M.0. 66'ya kadar direnmişlerdir. Ancak M.0. 64'te Roma'ya bağlı bir yasal krallık olmayı kabul etmek zorunda kalmışlardır.

Yöredeki Roma hakimiyeti M.0. 20. yılda başlamış ve M.S. 395'Iere kadar devam etmiştir.

Kavimler göçü neticesinde Roma İmparatorluğu Doğu ve Batı Roma diye ikiye ayrılınca Gümüşhane yöresi Doğu Roma (Bizans) sınırları içinde kalmıştır.

Bizans İmparatoru Herakleios 625'te İran'daki Sasani Devleti üzerine bir sefer düzenlemiş, sefer sırasında Kelkit Vadisi'nden geçen imparator burada ordusunu Gürcüler ve Abazalar (Abazalar) gibi güçlü Kafkas oymaklarıyla ve Lazlarla güçlendirmiştir. Ancak geri direnişte Konstantinapolis (İstanbul)'un Avar tehlikesine maruz kaldığını öğrenmiş tehlikeyi savuşturmaya çalışırken de arkadan Sasanilerin baskınına maruz kalmıştır. Bizans İmparatoru bu baskıdan kurtulmak için Hazarlarla işbirliği içine girdi. O dönemde Gümüşhane yöresi de Bizans-Hazar askeri işbirliğinde rol oynayan topraklardan biriydi. Kral Jüstinyen zamanında Keçikale Kalesi (Kale bucağında) onarılmıştır.

Roma ve Bizans dönemlerinde yörede kurulu kente Argyropolis (Yunanca argyros: “gümüş” ve polis: "kent" demektir.) adi verilmiştir. Yöredeki savaşların asil sebepleri tarihi ipek Yolu üzerinde bulunması ve madenleriyle ün yapmış olmasıdır.

7.yüzyıl sonları ile 8. yüzyıl başlarında bölge Emevi-Bizans ve Abbasi-Bizans arasında birkaç defa el değiştirmiştir.

Halife Hz. Ömer zamanında (634644) Erzincan ve Erzurum Arapların eline geçince Gümüşhane’de bu egemenliği tanıdı. Ancak bu egemenlik fazla sürmeden bölgede yeniden Bizans egemenliği sağlandı. Halife Hz. Osman zamanında (644~656) Gümüşhane, Bayburt, Erzurum ve Erzincan Emir Habib Bin Mesleme tarafından Bizanslılardan geri alındı. Halife Hz. Ali zamanında (656-661), Muaviye ile olan mücadeleler ile iç isyanlarla uğraşılması sebebiyle bölgede yeniden Bizans egemenliği başladı.

Emevi Halifesi Abdülmelik zamanında (685-705) bölge tekrar Emevi yönetimi altına girdi. Ancak Halife Velid zamanında (705-715) Araplar ile Hazarlar arasındaki çatışmalarda Hazarlar başarı gösterince bölge yeniden bu durumdan istifade eden Bizanslıların eline geçti.

Abbasiler zamanında Bizans-Arap çatışmaları devam etmiştir. Bu dönemde Gümüşhane yöresi ile ilgili fazla bilgi bulunmamaktadır. Ancak Bayburt'un Bizans egemenliğinde kaldığı bilindiğine göre Gümüşhane de Bizans egemenliğinde kalmıştır diyebiliriz.

Çağrı Bey'in 1016 yılında Anadolu'ya yaptığı ilk akın sırasında Gümüşhane'ye kadar geldiği bilinmektedir. 1058'de Tuğrul Bey'in ordusu İbrahim Yinal komutasında Trabzon'a kadar akın yaparken Gümüşhane'yi de ekonomik yönden önem arzettiği için fethetmiştir.

Bu fetihten önce 1048 yılında Anadolu'ya daha önce büyük bir gift olayının başladığı görülür. Bir Ermeni müellifi bu konuyla ilgili olarak "1048 yılında Türk milletinin korkunç dalgaları Garin (Erzurum) ve Pasin Ovası'na döküldü. İnsan dalgaları sel gibi memleketin dört köşesini istila etti. Batıda Haldia (Gümüşhane ve Trabzon havalisi), kuzeyde ispir, güneyde Muş bölgesine ve Sisak (Ağri dolayları) taraflarına kadar yayıldı." demek suretiyle istilanın genişliğini dile getirmektedir.

Daha önce belirttiğimiz gibi bu Türkmen akınları olmadan önce Hazarlar ve Peçenekler ile Çepni Türk oymakları bölgeye yerleşmişlerdir. Çepniler 24 Oğuz boyundan biri olup Anadolu'nun fethi ve Türkleşmesinde önemli rol oynamışlardır.

13. yüzyılın ikinci yarısında Selçuklular Moğol istilası altında ezilirken Gümüşhane ve çevresinin müdafaası Çepni Türklerine kalmıştır. Rum vakayinamecisi (tarihçisi) Pataretos 14. yüzyılda Çepnilerin Tirebolu'ya vardıklarını söyler ki, bunlar Gümüşhane tarafından gelmişlerdir. Anadolu'nun fethinden sonra birçok imaret kurulmuştur. Gümüşhane ve Kelkit, Emir Mengücek Gazi tarafından kurulan Erzincan imaretine bağlanmıştır. 1164'te II. Kılıçarslan Mengücekli topraklarını Anadolu Selçuklu Devleti'ne bağladı. Anadolu Selçuklu Devleti'nde ticarete büyük önem verildiğinden tarihi İpek Yolu üzerinde bulunan Gümüşhane ve çevresi de önemini devam ettirmiştir.1243 Kösedağ Savaşı'nda İlhanlılar, Selçukluları yenerek buraları zaptettiler.

Anadolu, Moğolların nüfuzu altına girince Trabzon Rum İmparatorluğu bu defa Moğollara vergi vermeye başladı. Moğol nüfuzunun kırılması ve Türkmenlerin beylik kurmak için faaliyet göstermeleri neticesinde ve II. Yuannis devrinde (1280-1297) Türkmenler madenleriyle ünlü Halibya (Haldiya) kısımlarını istila ettikleri gibi Cenevizlilerle Venedikliler de İmparatorluk üzerinde iktisadi nüfuz vücuda getirmişlerdi.

İlhanlıların son hükümdarı Ebu Said'in ölümü üzerine 1335'te Bayburt, Erzurum ile Erzincan ve Gümüşhane Celayirlilerin eline geçmiştir. 1345'te Eretnaoğulları, 1430'da Karakoyunlu hakimiyetine geçen bölgeye 1467'de Akkoyunlular hakim olmuştur. Bölge sık sık Trabzon Rum İmparatorluğunun da eline geçmiştir.

Fatih Sultan Mehmet (1451-1481), Trabzon üzerine yürüdüğü sırada Trabzon Rum İmparatorluğunun sınırları Giresun'dan Batum'a kadar ve güney hudutlar da Bayburt ve Gümüşhane’nin kuzeyinden geçen dağ silsilesi ile çevriliydi. Osmanlılar’ın aleyhte hareketleri nedeniyle Trabzon Rum İmparatorluğu, Akkoyunlu hükümdarı Uzun Hasan'la işbirliği içine girmiştir.

1461 yılında Fatih Sultan Mehmet'in Trabzon Rum İmparatorluğuna son vermesiyle bölgede Osmanlı etkisi görülmeye başlanmıştır.

Gümüşhane, Trabzon Rum İmparatorluğunun fethedilmesinden sonra Osmanlı hakimiyetine girmiş ve bu hakimiyet 1461'den 1467'ye kadar sürmüştür. Bu tarihten sonra Gümüşhane Akkoyunluların hakimiyetine girmiştir. Bu hakimiyet 1473 yılında Fatih ile Uzun Hasan arasında vuku bulan Otlukbeli Savaşıyla sona ermiştir. Gümüşhane ilinin kuzeyindeki "Kharşit" ilk Osmanlı belgelerinde "Khas-Rudu çayı orta ve yukarılarındaki Torul ve Canıca (Gümüşhane'nin eski adi) kesiminde Akkoyunlular'a tabi (bağlı) Ortodoks-Apkazlı (Abaza) "Torul Beyliği" 1474'de (veya 1478) Fatih'in Amasya'dan gönderdigi bir ordu kolu tarafından fethedilmiştir.

Yavuz 1508'de Trabzon valisi iken Anadolu'da başlayan Şii ayaklanmaları yüzünden Trabzon'dan Bayburt'a kadar uzanan bir sefer yapmıştır. Bu bölgede Safeviler lehinde ayaklanma ve karışıklık çıkaranlar Çepni Türkleridir. 16. yüzyılda onlardan bir bölümü Halep Türkmenleri, muhim bir kümede Sivas, Tokat ve Amasya bölgesindeki Ulu Yörük arasında yaşadığı gibi yine bu boya mensup pek kalabalık bir topluluk da Trabzon, Gümüşhane, Bayburt, Giresun ve Canik (Ordu ve Samsun) bölgesinde oturuyordu. İşte Safevilerin hizmetindeki Çepniler de bu sayılan topluluk ve bölgeden idiler.

Bu karışık durumdan sonra bölgedeki sükunet ancak Şah İsmail ile Yavuz Sultan Selim (1512-1520) arasında meydana gelen Çaldıran Savaşıyla sona ermiştir. Bölge tamamen "Anadolu Türk Birliği"ne katılmıştır. (Ağustos 1514) Yavuz buraya vali olarak Bıyıklı Mehmet Paşayı bırakmıştır. Kanuni Sultan Süleyman (1520-1566) İran seferi sırasında Harşit Vadisi'nden geçerken gümüş madeninin bulunduğu Eski Gümüşhane yöresinin imar edilmesini emretmiş, böylece buraya ev ve Süleymaniye Camii yapılmıştır.

1647'de Gümüşhane'yi ziyaret eden Evliya Celebi, buralarda gümüş madeninin çok olduğunu, çalışır ve boşaltılmış durumda 70 kadar ocak bulunduğunu bildirir. Yine bu ocaklardan 7 koldan kurşunsuz gümüş cevheri çıkarıldığını ve bu şehirde Emin Mahallesinde darphane olduğunu yazarak üzerinde "Azze nasrahu daraba fi catha" (Canca'da basılmıştır) yazılı birkaç akçenin kendisinde olduğunu bildirir.

Gümüşhane'de doğan her çocuğun gümüşten kaşığının, çatalının ve tabağının olduğu rivayet edilir. Şehrin nüfusunun her geçen gün artmasında coğrafi konumunun, tarihi ipek Yolu üzerinde bulunmasının ve madenlerinin önemli rolü olmuştur.

Katip Çelebi, Cihannüma'sında "Kaza-i Urla" diye adlandırdığı Gümüşhane için "Urla bir güzel kazadır, yakınında gümüş olmağla Gümüşhane dahi derler" demektedir.

Maden ocakları IV. Murad zamanında (1623-1640) en canlı dönemini yaşamıştır. Bir ara kapanan ocaklar 1839 yılında yayınlanan bir hatt-ı hümayunla tekrar işletmeye açılmıştır. Ocaklar mülkü amirin tayini, padişahın onayı ile atanan ve Matah Efendi denilen kişilerce yönetilirdi.

Gümüşhane 19. yüzyılda Trabzon’a bağlı bir sancaktı. Doğu Karadeniz'in iç kesimlerinde yer alan Gümüşhane Sancağı kuzeyde Trabzon merkez sancağı, doğuda ve güneyde Erzurum Vilayeti, batıda Sivas Vilayeti ile çevriliydi. Sancağın merkezinde toplanan Rum nüfus özellikle gümüş işletmeciliğine katkıda bulunmaktaydı. 19. yüzyıla kadar rahat bir hayat sürdüren Gümüşhane yöresi, savaşlar nedeniyle tedirginlik içine düşmüş, madenlerin yeterince işletilmemesi sebebiyle de göçe başlamıştır. Böylece şehir harap olmaya ve nüfus azalmaya başlamıştır. 1829 ve 1877-1878 Osmanlı-Rus Savaşı ile 7 Temmuz 1916 tarihlerinde Rusların Doğu Anadolu ve Doğu Karadeniz'de yaptıkları işgaller ve bunun sonucundaki göçler Gümüşhane’de hayat bırakmamıştır.

Ruslar 16 Temmuz 1916'da Bayburt'u aldıktan sonra yollarına devam ederek 19 (20) Temmuz 1916 günü Gümüşhane’ye girmişlerdir. Türk birlikleri fazla karşı koyamayınca Ruslar ayni gün Torul'a girmişlerdir. Böylece Trabzon yolu Ruslarla açılmıştır.

22 Temmuz 1916 günü Kelkit üzerine yürüyen Rus ordusu akşama doğru burayı ele geçirmiştir.

Gümüşhane ve çevresi bu işgaller karşısında ve özellikle Ermeni zulmü altında ezilirken Rusya'da Bolşevik İhtilali'nin çıkması ve iç çalkantılar sebebiyle Ruslar 18 Aralık 1917'de Erzincan Mütarekesi'ni imzalamış ve ordularını geri çekmeyi kabul etmiştir. Ancak Ermeniler katliamlarına devam etmişlerdir. Bunun üzerine mütareke geçersiz sayılarak yeniden savaş başlatılmış ve bu suretle Torul 14 Şubat, Gümüşhane 15 Şubat ve Kelkit 17 5ubat 1918'de Rus işgalinden kurtarılmıştır.

Milli Mücadele yıllarında kıyı ile iç kesimler arasında olması sebebiyle coğrafi önem arz eden Gümüşhane, bu dönemde Trabzon Muhafaza-i Hukuk-u Milliye Cemiyeti'nin faaliyet alanı içinde bulunmuştur. Gümüşhane delegesi Kadirbeyzade Zeki Bey bu cemiyetin ikinci başkanlığına getirilmiştir. Cemiyetin amacı Trabzon ve havalisini Pontuscu Rum ve Ermeni katliamlarından korumak ve burada Pontus Rum Devleti kurulmasına engel olmaktı.

23 Temmuz 1919'da toplanan Erzurum Kongresi'ne Gümüşhane'den Kadirbeyzade Zeki Bey (Gümüşhane ve Torul mümessili olarak) Erzurum Kongresi'ne katildi. Kelkit'ten Müftü Osman Nuri Efendi, Şiran'dan Müftü Hasan Fahri (Polat) Efendi Erzurum Kongresi'nin açılış ve kapanış dualarını yapmıştır. Bu nedenle 9 Ağustos 1335 (1919)'da Mustafa Kemal, O'na yazdığı bir tezkere ile teşekkür etmiştir.

Osmanlı hakimiyetinin ilk zamanlarında Erzurum Eyaletine bağlı iken sonraları Trabzon'a bağlanan Gümüşhane sancağı 20 Nisan 1924 ve 491 sayılı kanunun 89.maddesinde "Vilayet" başlığı altındaki kanunla 1925 yılında il olmuştur.

1925-1926 tarihli Trabzon salnamesinde "Gümüşhane Vilayeti Merkez ilçe ile birlikte Bayburt, Kelkit, Torul ve Şiran olmak üzere beş ilçe, beş bucak ve 377 köyden oluştuğu, 16943 evde 101153 kişinin yaşadığı şehirde hastane olmadığı... vilayetin ticari durumunun Trabzon-Bayburt-Erzurum büyük yolu üzerinde ve İran transit yolu üzerinde bulunduğundan oldukça iyi olduğu, aslında tarım memleketi olan vilayetin bazı yerlerinde ürünleri yerel ihtiyacı karşılamadığından, halkın bir kısmının işçilik, meyvecilik ve katırcılıkla geçindiği" belirlenmektedir.

Gümüşhane'nin il olmasıyla birlikte Ahmet Durmuş (Evren-dilek) Bey vali olarak atanmıştır. Cumhuriyet d6neminin ilk Belediye Başkanı ise Osman Bey (Ataç) olup 1922-1934 tarihleri arasında görev yapmıştır. Bayburt'un 1989 tarihinde il olması ve ayrıca yeni ilçelerin oluşturulması ile idari taksimatta değişiklik meydana gelmiştir. 1988 yılında Köse, 1990 yılında Kürtün ilçe olmuştur.

Mustafa Kemal Atatürk'ün Cumhurbaşkanlığı döneminde Gümüşhane’de yol ve köprü yapımına önem verilmiş, tarım geliştirilmeye çalışılmıştır.

İsmet İnönü'nün Cumhurbaşkanlığı döneminde ise II. Dünya Savaşı patlak verdiğinden ilk dönemlerde hemen hiçbir yatırımın yapılmadığı Gümüşhane il merkezine 1948 yılında su getirilmiş, ertesi yıl da elektrik şebekesi kurulmuştur.

1950'den itibaren ekonomik bir kalkınma görülmeye başlanmış, ancak şehir gelişmeye elverişli olmadığından diş illere ve hatta Avrupa ülkelerine göç olayı başlamıştır.