Harput'ta yetişen büyük velîlerden. 1198 (m. 1784) senesinde Harput'ta doğdu. 1291 (m. 1874) tarihinde Harput'ta vefat etti. Babası Hacı Mahmud Efendi namında bir zattır.
Küçük yaşta ilim öğrenmeye başlayan Ali Efendi, Zahriye Medresesinde ders gördü ve Müftü Hacı Yunus Efendi'den icazet aldı. Sonra Malatya'ya giderek meşhur Müderris Süleyman Efendi'den, daha sonra Antep'te Mustafa Sağir'den, daha sonra da İstanbul'a gelerek Harputlu Hacı Abdurahman Efendi'den ilim öğrenerek icazet aldı. Ayrıca hocası Abdurrahman Efendi'den Şazilî tarkikatında da icazet alarak kemale geldi.
İlim tahsilini tamamladıktan sonra Harput'a döndü. Ömeriye Medresesi müderrisliğine tayin edildi. Burada yüzlerce talebe yetiştirdi. Tanzimatın ilanından sonra çıkarılan kanun ve nizamların doğu vilayetlerinde tatbikine başlanıldığı sıralarda bir vergi meselesinden dolayı 1261 (m. 1845) senesinde Harput'un bazı ileri gelen âlimleri ile beraber Konya'ya sürgün edildi. Kısa zaman sonra tekrar memleketlerine dönmelerine izin verildi.
Hacı Ali Efendi'nin cenazesinde büyük bir kalabalık bulundu. Vefatından önce; “Benim için kazılan kabirden yuvarlak bir taş çıkacak, bu taşı mezar taşı yerine baş ucuma koyunuz.” diye vasiyette bulundu. Vefatından sonra mezar kazılırken böyle bir taş çıktı ve vasiyeti üzerine baş ucuna konuldu. Sara Hatun Camiinde namazı kılınarak Harput Akyol Mezarlığına defnedildi.
Harput Yollarında; (İshak Sungur) cilt-2, sh. 108