Kırşehir’in tarihi Hitit İmparatorluğu’na kadar uzanır. Anadolu birliğini gerçekleştiren bu devlet, Kırşehir’i de sınırları içine almıştır (M.Ö. 1810 yıllarında). Hititler’in yıkılması üzerine (M.Ö. 1150) yöre Asurlular’ın egemenliğine girdi. M.Ö. 6. yüzyılda bütün Anadolu ile birlikte Pers İmparatorluğu’nun eline geçti. M.Ö. 4. yüzyılda Makedonya İmparatorluğu’nun sınırları içine giren bölge, bu imparatorluğun parçalanmasından sonra Kapadokya Devleti’ninsınırları içinde kaldı. Daha sonra Roma İmparatorluğu’nun yönetimine giren Kırşehir, imparatorluğun ikiye bölünmesi üzerine Bizans’ın payına düştü.
İslamiyet’in hızla yayıldığı dönemlerde, İslam orduları Kırşehir yöresine kadar akınlar yaptılar (M.S. 7. yüzyıl). Ancak buralardaki Arap egemenliği sürekli olmadı. Malazgirt Zaferi’nden sonra Kutalmışoğlu Süleyman Şah tarafından bölge Anadolu’nun diğer yöreleri gibi Türk egemenliğine alındı. Bölge Selçuklular ve Danişmendoğulları gibi Türk devleti ve beyliği arasında zaman zaman el değiştirdi.
Kırşehir en parlak çağını 13. yüzyılın sonları ile 14. yüzyılın başlarında yaşamıştır. Bu çağlarda Selçuklular’ı kendisine bağlayan İlhanlılar’ın egemenliği görülmektedir. İlhanlı İmparatorlarından Mahmut Gazan ve Ebu Sait Bahadır kentte bir darphane kurarak adlarına gümüş paralar bastırdılar. Tarihî belgelerden anlaşıldığına göre şehir o çağlarda gerek ekonomik gerekse kültürel alanlarda oldukça önemli bir merkezdi.
Özellikle 14. yüzyılda tam anlamıyla gelişen Kırşehir, o çağların bilginleri ile ünlü kişilerinin yerleşim merkezi durumuna geldi. Orta Çağ Anadolu tarihinin çok önemli sosyal kuruluşlarından olan Ahilik’in kurucusu Ahi Evran (Avran) Kırşehir’de oturuyordu. Babailik tarikatının kurucusu İlyas Baba buraya yerleştiği gibi onun torunlarından ünlü din bilgini, şair Aşık Paşa da ömrünün sonuna kadar Kırşehir’de oturdu. O dönemde şehirde 18.000 ev vardı.
14. yüzyılın ikinci yarısında (Orhan Gazi zamanında) Osmanlı İmparatorluğu sınırları içine girdi. Aynı yüzyılın sonlarına doğru, Osmanlı Devleti’nin Rumeli Savaşları ile uğraştığı bir sırada, Kadı Burhaneddin Kırşehir’i alarak Eretnaoğulları’na bağladı. Şehrin surlarını güçlendirerek burayı elinde tutmak isteyen Kadı Burhaneddin’in, Akkoyunlubeyi Yülük Osman Bey tarafından öldürülmesi üzerine şehir yeniden Osmanlı sınırlarına girdi.
Ankara Savaşı’nda Yıldırım Bayezid’in yenilgisi üzerine Anadolu’yu ele geçiren Timur, Kırşehir’i Karamanoğulları’na verdi. Daha sonra geri alınan Kırşehir, zaman zaman Karamanoğulları ile Dulkadiroğulları’nınsaldırılarına uğrayarak harap oldu. Sonraki yıllarda Celali İsyanları ile defalarca yağmalanan şehrin nüfusu 19. yüzyılın başlarında 3.500 kişiye kadar düştü.
İl, Osmanlılar döneminde Karaman Eyaleti’ne bağlı bir sancak merkeziydi. 19. yüzyılın ikinci yarısında Ankara’ya bağlandı. Daha sonra bağımsız bir mutasarrıflık olan yöre, Cumhuriyet’ten sonra aynı adı taşıyan ili meydana getirdi. 1954 yılında ilçe olan Kırşehir, 1957 yılında yeniden il oldu.