Büyük velilerden. Kastamonulu olup doğum tarihi bilinmemektedir. 997 (m. 1589)'da İskilip'te vefat etti. Kabri oradadır. Şaban-ı Veli Tekkesi'nde on bir yıl şeyhlik yaptı. İskilip'ten Acem Ali'si demekle tanınan akıllı, güçlü-kuvvetli, dindar ve şerefli bir kimsenin oğlu idi. Babasına Acem Ali'si denmesinin sebebini şöyle naklederler: Acem diyarından Anadolu'ya namlı bir pehlivan geldi. Çorum sancağında yenmedik pehlivan bırakmadı. Büyük gurura kapıldı. İstanbul'a gitmek üzere hazırlık yaparken, Abdülbaki Efendi'nin babası Ali Pehlivan'la güreştirdiler. Ali Pehlivan, Acem'i yendi ve ondan sonra Acem Ali'si diye anıldı. Oğlu Abdülbaki de kendisi gibi güçlü, kuvvetli olup pehlivanlık meziyetlerine sahip bir gençti. Fakat bunu güreşçilikte kullanmadı. Kendi nefsiyle güreşip dünya zevklerinden gönlünü ayırdı. İstanbul'a giderek tanınmış ilim adamlarından din ve fen ilimlerini tahsil etti. Bu sırada gözlerine bir hastalık gelerek bir gözü kör oldu. Abdülbaki Efendi zahirî ve batınî ilimlerde âlim derecesine varmasına rağmen kendisinde bir boşluk ve eksiklik hissediyordu. Kalbi aşk-ı ilahî ile yanıyor ve bir mürşidin eteğine tutunmak için can atıyordu. Bu sebeple kendisini tasavvuf yolunda ilerletebilecek bir mürşid-i kamil aramaya başladı. O ilahî aşkla yanıp kavrulduğu bu günlerinde Yunus Emre'nin şu sözlerini dilinden düşürmezdi:
Gel ey kardeş Hakk'ı bulayım dersen,
Bir kamil mürşide varmasan olmaz,
Resulün cemalin göreyim dersen,
Bir kamil mürşide varmasan olmaz.
Niceler gittiler mürşid arayı, Arayanlar buldu derde devayı, Bir kez okur isen akdan karayı, Bir kamil mürşide varmasan olmaz.
Rumeli'de Bali Efendi ve Anadolu'da Şeyh Şaban-ı Veli gibi herkesin sevdiği örnek insanların bulunduğunu öğrendi. Fakat hangisinin hizmetine varacağını bilemedi. Tereddüd halinde iken birkaç defa Şaban Efendi'ye gitmek için içinde ilahî bir his uyandı ve Şaban-ı Veli'ye gitmeye karar verdi. İstanbul'dan kalkarak Kastamonu yoluna düştü. Günler süren yorgunluk ve sıkıntı sonunda yürüyerek şehre geldi. Doğruca Hisarardı'ndaki Şaban-ı Veli'nin ikametgahına varıp ellerini öptü. O can tabibine halini arz etti. Şaban-ı Veli hazretleri isimlerini sorduklarında; “Abdülbaki.” cevabını verdi. Bunun üzerine Şeyh hazretleri: “İsmin sahibinin hâline tesiri vardır. İnşaallah süluk edip evliyalık makamlarında ilerleyip hakikaten Abdülbaki (Bakî olan Allah'ın kulu) olursun.” dedi.
Abdülbaki Efendi yıllarca Şaban-ı Veli hazretlerinin dergahında hizmet etti. Şeyhine karşı pek saygılı ve hürmetkar olup tasavvuf yolunda ileri derecelere kavuştu. Şaban-ı Veli hazretleri onun için: “Eğer bizim Abdülbaki'nin bir gözü daha olsaydı, ince mânâları mütalaa ederken, kitabı delip öte yana geçerdi.” demiştir. Yine; “Sen zahir ve batın gibi iki ilim ile âlim ve arif olacaksın. Yüksek makamlara çıkacaksın, balı yağa katacaksın!” diyerek Abdülbaki Efendi'nin kemal ehli olmasına işaret ettiler. Çok geçmeden de kendilerine şeyhlik payesini vererek Çorum halkına doğru yolu göstermek üzere gönderdiler. Abdülbaki Efendi yıllarca burada insanlara vaaz ve nasihat vermekle ve ders okutmakla meşgul oldu. Kıymetli halifeler yetiştirerek memleketin her tarafına gönderdi.
O insanlara doğru yolu göstermek için bütün gayretiyle çalışırken Kastamonu'da Şaban-ı Veli hazretlerinin vefatından sonra tekkeye şeyh olan Osman Efendi ile Hayrüddin Efendi de vefat etmişlerdi. Hayrüddin Efendi vefat edince dervişler bir araya geldiler. Abdülbaki Efendi'nin şeyhlik makamı için uygun olduğuna karar verdiler. Kendisine geldikleri zaman Abdülbaki Efendi onlara; “Bir gün hocam Şaban-ı Veli hazretlerine sizden sonra seccadeye kim gelir diye sormuşlardı. O da; “Osman gelir, sonra Hayrüddin gelir, sonra seccade sahibini bulur.” demişti. Elhamdülillah bu hizmete layık görüldük.” diyerek Kastamonu'ya geldi.
Şaban-ı Veli hazretlerinin tekkesinde İslamiyet'i yaymağa, halkı irşada başladığı zaman herkes can u gönülden ona dost ve talebe olmağa başladı. Cuma günleri, muteber tefsir kitaplarından alarak Kur'an-ı Kerim ayetlerini tefsir eder, hadis-i şerifler naklederdi. Böylece halkın büyük kısmını da tarikatin içerisine cezbetti. O kürsüde konuşurken herkes hayran hayran dinlerdi. Kastamonu ulemasının pek çoğu Abdülbaki Efendi'ye talebe oldu. Bu şevk içinde pek çok kamil insan yetişti ve etrafa hilafetle gönderildi. Şeyh Abdülbaki Efendi'nin pek çok kerameti görülmüştür. Ancak o kerametlerinin anlatılmasından hiç hoşlanmazdı. Sık sık etrafına bunu hatırlatır, ölümünden sonra bile söylenmesini istemezdi. Bu yüzden kendisine çok bağlı olan talebelerinden Ömerü'l-Fuadî Efendi yazdığı Menakıbname'de Abdülbaki Efendi'nin kerametlerinden bahsetmemiştir.