Son devir Anadolu velilerinden. Tokat’ın Erbaa ilçesi Holay köyünde 1294 (m. 1877) yılında doğdu. 1361 (m. 1942)’de aynı yerde vefat etti.
Doğduğu köyde tahsilini tamamladıktan sonra saatçilik yapmaya başladı. Bir gün Eksel köyünde (yeni ismi Kocak) oturan Eksel şeyhi olarak bilinen Behrullah Efendi’nin saati bozuldu. Talebelerine tamir edilmesini söyleyince, onlar; “Efendim, karşı Holay köyünden Ali Osman isminde birisi var, ona tamir ettirelim.” dediler. Talebelerinden biri Ali Osman Efendi ile Erbaa’da karşılaşınca, hocasının saatinden bahsetti. Ali Osman Efendi de Eksel köyüne gitti, saati tamir edip duvara astı. Behrullah Efendi’ye; “Tamam çalışıyor efendim.” dedi. Behrullah Efendi saate bakınca çalışan saat durdu. Ali Osman Efendi tekrar yapıp duvara astı. Behrullah Efendi saate bakınca saat yine durdu. Ali Efendi hayretler içinde tekrar yaptı. Yine Behrullah Efendi saate bakınca saat durdu. O zaman Ali Osman Efendi kendi kendine; “Bu zat evliya bir zattır. Şu an kalbimin saatini tamir edecek kalb ustasının huzurundayım.” dedi ve Behrullah Efendi’ye talebe oldu. Arapça, Farsça ve kalb ilimleri de dahil bütün ilimleri Behrullah Efendi’den öğrendi. Behrullah Efendi vefatına yakın; “Bende ne varsa Ali Osman Efendi aldı götürdü. Bende bir şey bırakmadı.” buyurdu.
Ali Osman Efendi insanlara doğru yolu anlatmak için köy köy dolaşırdı. İnsanlara doğru yolu anlatırken çok yumuşak, hatta arada nükteler yapardı. Siyaset ve devlet işlerine hiç karışmazdı. Sohbetinin ağırlığı, güzel ahlak üzerine olurdu. Güzel ahlakın bulunmaz bir hazine olduğunu anlatırdı. Fakat bazılarının gözü hep altında olduğundan bir gün onlara dönüp; “Altının kulpu burası, çok altın var.” diye bir yeri işaret etti. Bunu duyan altın düşkünleri sabaha kadar orayı kazdılar. Fakat hiçbir şey bulamadılar. Elleri boş Ali Osman Efendi’nin köyüne döndüler. Kimseye de hiçbir şey anlatmadılar. Ertesi gün onları gören Ali Osman Efendi; “Oğlum işaret ederler ama, düşkünlerine vermezler.” dedi.
Yine bir gün talebeleri ile Ladik’e ders vermek için gidiyordu. Talebelerinden birinin kalbine vesvese gelip hocası için; “Bu da insan biz de insanız.” gibi bir düşünce geldi. Yolları bir ormandan geçiyordu. Bu sırada bir kurt, Ali Osman Efendi’nin önüne gelip iki ön ayaklarını havaya kaldırıp, arka iki ayağı üzerine durunca; “Dağ ve taşlardaki hayvanlar inandı da bazıları hâlâ anlayamadı.” buyurdu. O talebe düşüncesinden dolayı hemen tövbe etti.
Dini vecibeleri yerine getirmenin yasak olduğu dönemde Ali Osman Efendi, Gümüşcakır köyünde sohbet ederken jandarmalar köyü bastı. Ali Osman Efendi tutuklanarak önce Vezirköprü, daha sonra da Samsun cezaevine gönderildi. Ali Osman Efendi Samsun’da bir hücreye kondu. Hücrede namaz kıldığını gördüklerinde, kılmaması için su vermediler. Bir süre sonra su olmamasına rağmen yine onu namaz kılarken gördüler. Mahkeme esnasında savcı, Ali Osman Efendi’ye akla gelmedik hakaretlerde bulundu. Duruşmada Ali Efendi sadece; “Savcı bey biz insanlara namaz kılın, ahirete hazırlanın dedik. Söylediklerimizin hepsi bu kadar.” dedi. Ertesi gün savcı kalp krizinden oldu. Bir süre sonra mahkeme, Ali Osman Efendi’yi serbest bıraktı.
Ali Osman Efendi tütün kullanırdı. Huzuruna gelen bir fakir dilenci onun tütün yaktığını görünce; “Siz sigara içiyor muydunuz?” diye sordu. Cevaben; “Biz içmiyoruz, yakıyoruz.” buyurdu. O fakir; “Peygamber Efendimiz hiç içmedi, sen niye içiyorsun?” diye sorduğunda, Ali Osman Efendi kızmadan; “Peygamber Efendimiz sırtında heybe, senin gibi dolaştı mı?” deyince, adam söyleyecek bir şey bulamadı.
Ali Osman Efendi, Erbaa zelzelesi olmadan önce atına binip, Erbaa’dan ayrıldı. O sırada herkesin Deli Mehmed diye bildiği bir meczup arkasından; “Tutun, yakalayın! Erbaa zelzelesini mühürledi gidiyor!” diye bağırdı. Deli diye kimse bu meczubun sözlerini dikkate almadı. Bir süre sonra Erbaa’da çok büyük zelzele oldu. Bu zelzelede Ali Osman Efendi’nin 14 yaşındaki bir kızı da hayatını kaybetti. Zelzeleden sonra Erbaa’ya dönen Ali Osman Efendi’ye kızının vefat ettiği söylenince; “Daha büyük bela gelmemesi için evladımızı kurban verdik. Halk, Deli Mehmed’in sözlerine deli zannettikleri için inanmadılar.” buyurdu.
Talebelerine sık sık şu nasihatı yapardı: “Hiç kimse ile münakaşa etmeyiniz. Söz dinleyiniz. Kim söz dinlerse, o benim öz oğlumdur. Birbirinizi sevin, beni sevmiş olursunuz. Aranızda dargınlık olmasın.”
Ali Osman Efendi bir gün dergahında namaz kılıyordu. Oğlu İbrahim babasının yanına girmek istedi. Babasının namaz kıldığını görünce, içeri girmedi. Birkaç kere baktığında babasını tehiyyatta oturur gördü. Sonra dayanamayarak içeri girdi. Babasının vefat ettiğini anladı. O esnada kapıda bulunan köpek koşarak uzaklaştı. Talebelerinin bulunduğu bütün köyleri dolaştı. Hepsi bunda bir iş var diyerek dergaha geldiler ve cenaze namazını kılıp Holay köyü kabristanlığına defnettiler.
Vefat ettiğinde, 63 yaşındaydı. Kabri ziyaret mahallidir.