Yapılan kazılardan elde edilen buluntulara göre Nevşehir’in M.Ö. 3.000 yıllarına kadar uzanan bir tarihi vardır. Buraları tarih öncesi çağlardan beri yerleşmeye sahne olmuştur. Eskiden yöreye Kapadokya da denirdi. Hititler önceleri Kızılırmak Nehri’nin çemberi içindeydi. Merkezleri Çorum yakınındaydı. Sonraları genişlediler ve Kızılırmak dışına taştılar. Nevşehir Kızılırmak’ın güneyindedir ve Hititler buralara M.Ö. 2000 yıllarından sonra yayıldılar.
Hitit İmparatorluğu M.Ö. 1150 yılında dağılınca Asurlular’ın etkisi Nevşehir’e kadar uzandı. M.Ö. 7. yüzyıla kadar bölge Asurlular ile Frigyalılar arasındaki sınırda kalıyor, bazen Asur, bazen Frigya egemenliği üstün geliyordu. Sonunda M.Ö. 6. yüzyılda bütün Anadolu gibi Pers İmparatorluğu’na katıldı.
M.Ö. 333 yılında Makedonya imparatoru Büyük İskender Pers İmparatorluğu’nu yıkıp bütün Anadolu gibi burasını da kendi topraklarına kattı. İskender’in ölümünden sonra bölge, İskender’in generallerinden Selevkos’un kurduğu devlete katıldı. Daha sonra Kapadokya Krallığı buraları aldı. Bu Krallık M.Ö. 1. yüzyılda Roma egemenliğini tanıdı.
395 yılında Roma İmparatorluğu Batı ve Doğu diye ikiye ayrılınca, Nevşehir Doğu Roma’nın (Bizans) payına düştü. Bizans egemenliği zamanında Hristiyanlık gizlilikten açıklığa çıkmıştı. Çevredeki kayalara oyulmuş tapınaklara yenileri eklendi. Adı Nyssa olan bugünkü Nevşehir’le Göreme, dinî merkezler oldu. Hristiyanlık tarihini canlandıran çok güzel ve çok dayanıklı resimlerle süslenen bu olağanüstü yapılar, insan elinin doğa ile birleşmesinin sonucudur. Bir ara Arapsaldırılarına da uğrayan bölge Bizans İmparatorluğu’ndan koparılamadı. Ancak 1071 Malazgirt Zaferi’nden sonra 1077’de Orta Anadolu’da Anadolu Selçuklu Devleti kurulunca bu topraklar da Orta Asya’dan gelen Türkler’in oldu.
Oğuz Türkleri’nin boyları (aşiretleri) buralara yerleşince Bizanslı Hristiyan halk çekildi, yerini yeni gelenlere bıraktı. Büyük Selçuklular’ın bir kolu olan Anadolu Selçuklu Devleti, zamanında Muşkara (Nevşehir) doğuya giden kervan yolu üzerinde Ürgüp kazasına bağlı bir köydü. Zaman zaman Danişmentliler ve Selçuklular arasında el değiştirdi. Çoğunlukla Anadolu Selçuklu Devleti’nde kaldı. Selçuklu hükümdarı II. Kılıç Arslan 1190’da ülkeyi 11 oğlu arasında paylaştırınca Muşkara, Ankara ile birlikte Sultan Mesut’un payına düştü. Fakat Tokat’ta hüküm süren kardeşi Rükneddin 1204’te şehri Mesut’tan aldı.
1308 yılında Anadolu Selçuklu Devleti yıkılınca Moğollar (İlhanlılar) Kırşehir ve yöresiyle birlikte Nevşehir’i de aldılar ve 1243’ten başlayarak Muşkara’yı askerî bir üs olarak kullandılar. Nureddin Caca adlı bir beyden sonra Eretna Devleti, daha sonra Karamanoğulları ve Dulkadiroğulları Beylikleri buralara egemen oldular. Bu dönemde bölgede Mevlevi ve Bektaşi tarikatlarının merkezleri kuruldu. Ahilik Ankara, Kırşehir gibi bu bölgede de yayıldı. Osmanlı Devleti, kuruluşundan birkaç yüzyıl sonra bölgeyi topraklarına kattı. 1515 yılında Yavuz Sultan Selim Dulkadiroğulları Beyliği’ne son verip eski Kapadokya’yı kesin olarak Osmanlı İmparatorluğu içine aldı.
Osmanlılar çağında Kırşehir’de önemli olaylar geçmedi. 17. yüzyılda Celâli İsyanları yüzünden bölgede karışıklıklar çıktı. Lâle Devri’nin ünlü sadrazamı Nevşehirli Damat İbrahim Paşa doğduğu köy olan Muşkara’yı imar etti. 1718-1730 yılları arasında sarayın mimar başısı Mehmet Ağa ve Bina Emini Seyit Mustafa Muşkara’ya gönderildi ve birçok eser yapıldı. Muşkara halkından vergi kaldırıldı. 1725’te kurulan medrese için Konevi Çelebi müderris (öğretmen)olarak seçildi. Padişah’ın emri uyarınca kadınlar Nevşehir’e yerleşti. Civardaki bütün mahkemeler Nevşehir’de toplandı. Davaların buralarda görülmeye başlaması ile Nevşehir’in nüfusu çoğaldı.
İbrahim Paşa, Lâle Devri sonunda çıkan Patrona İhtilâli’nde öldürülünce Nevşehir önemini kaybetti. Nevşehir Kırşehir’in bir ilçesiydi. Kırşehir de Karaman (Konya) Beylerbeyliği’ne bağlı bir vilayetti. Tanzimat’tan sonra 1902’yekadar Ankara’ya bağlanan Kırşehir’in ilçesi olarak kaldı.
Nevşehir, Birinci Dünya Savaşı’ndan sonra Kırşehir’de kurulan Müdafaa-i Hukuk Cemiyeti’ne üye göndererek Kurtuluş Savaşı’nı destekledi. Cumhuriyet döneminde Kırşehir iline bağlı bir ilçe idi. Ancak 20 Temmuz 1954’te Kırşehir ili ilçe hâline getirilirken Nevşehir ilçesi il oldu. Kırşehir’den aldığı Hacıbektaş, Avanos ve Mucurilçeleriyle sınırlarını genişletti. 1 Temmuz 1957’de Kırşehir tekrar il hâline getirilirken Nevşehir daha önce aldığı Mucur ilçesini Kırşehir’e verdi.