Afyon Kocatepe Üniversitesi (AKÜ) Kütüphane ve Dokümantasyon Daire Başkanlığı, 1992 yılında yürürlüğe giren “3837 Sayılı Yükseköğretim Kurumları Teşkilatı Hakkında Kanun” ile kurulmuştur. Kütüphane hizmetleri, üniversitenin kurulduğu günden bugüne kadar değişik alanlarda sürdürülmüştür.

Başlangıçta henüz kampüs yapılaşmasının olmaması nedeniyle şehir merkezinde Üniversiteye bağlı faaliyet gösteren Atatürk Kültür Merkezi’nde büro olarak oluşturulmuş, daha sonra şehrin muhtelif yerlerinde faaliyet göstermiştir. 1999 yılında Ali Çetinkaya Kampüsü’nün kurulmasıyla kampüse taşınan kütüphane “Merkez Kütüphane” kimliği verilerek merkezileştirilmiştir. Akademik ve idari personel ile öğrencilerin kütüphane kaynaklarına erişimi de bu sayede ilk kez bir bütünlük içerisinde gerçekleştirilmeye başlanmıştır. 2000 yılında Rektörlük Binası D Blok, daha sonra 2004 yılında şu anda Enstitü Binası olarak kullanılmakta olan binaya taşınan Kütüphane ve Dokümantasyon Daire Başkanlığı, 2014 yılında halen bulunduğu binasına taşınmış ve hizmetlerini burada sürdürmeye devam etmektedir.

28.07.2020 tarih ve 2020/38 sayılı Senato Kararı ile Merkez Kütüphaneye, üniversite kurucu rektörü olan Prof. Dr. Şehabettin YİĞİTBAŞI’nın adı verilmiştir.