Anadolu velilerinden. Bitlis’te doğup büyüdü. Doğum tarihi belli değildir. Hayatı hakkında fazla bir bilgi yoktur. İlim tahsil etmek için Sühreverd şehrine gidip Ebü’n-Necib Sühreverdî’nin sohbetlerinde bulundu ve ona talebe oldu. Sonra hocası ile Bağdat’a gitti. Tahsilini tamamladıktan sonra Bitlis’e yerleşip insanları doğru yola kavuşturmak için vaaz ve nasihatlerde bulundu. Büyük veli Necmeddin-i Kübra, Ammarı Yaser’in ders ve sohbetlerinde yetişti ve halifesi oldu. 650 (m. 1253) senesinde Bitlis’de vefat etti.
Bir gün Ammar-ı Yaser’e rüyasında bir zat; “Yarın git meyhanedekilere vaaz ve nasihat eyle, onlara doğru yolu göster.” dedi. Ammar-ı Yaser uyanıp istiğfar ve Allahü tealaya niyazla meşgul olduğu sırada, talebelerinden biri gelerek; “Hocam, kürsünüzü bugün meyhaneye mi koyalım, yoksa yerinde mi kalsın?” diye sordu. Ammar-ı Yaser hayretle; “Evladım! Bu sırrı nereden öğrendin?” diye sorunca talebe; “Size tenbih eden bize de söyledi.” dedi. Sonra kürsü meyhaneye kuruldu. Ammar-ı Yaser, meyhanedekilere vaaz etmeye başladı. Onlara aşk şarabının keyfiyet ve hikmetlerini anlatınca meyhanede bulunanlar tövbe ettiler.
Bu sırada bir genç, Ammar-ı Yaser’e; “Muhterem hocam! Allahü tealaya hamd ve şükür olsun ki bize bu lütfu ihsan etti. Zira hal ehli bir hoca zat, bir gün seni bulur, diye bana söylemişti.” diyerek, Ammar-ı Yaser’in elini öptü. O anda Allahü tealanın aşkı ile; “Duamız kabul oldu.” diyerek orada ruhunu teslim etti.
Şeyh Ammar, dergâhından ayrılarak bir köye gidip döndüğü sırada, talebelerinden biri, üzerine çöken vakar ve himmetten dolayı hocasının yaklaştığını anladı. Arkadaşlarına; “Haydi geliniz. Hocamız geliyor, onu karşılayalım!” dedi. Onlar nereden bildiğini sorunca; “Onun vakarı üzerime çöktü.” dedi. Arkadaşları bu cevaba alay edercesine güldüler. Ondaki ciddiliği görünce denemek için yola çıktılar. Şehrin dışına çıkar çıkmaz, Ammar-ı Yaser’in bir at üzerinde kendilerine doğru geldiğini gördüler. Talebeler bu durum karşısında pişman olup tövbe ettiler.