95’te (714), büyük bir ihtimalle Humeyme’de doğdu. Annesi Hennâde adlı Berberî asıllı bir câriye idi. Kaynaklarda hayatının Abbâsî ihtilâlinden önceki dönemi hakkında fazla bilgi yoktur. 129 yılında (746-47) İstahr’da Abdullah b. Muâviye ile Âmir b. Dubâre arasında vuku bulan savaşta İbn Dubâre tarafından esir alınmış, ancak İstahr’a İbn Muâviye’ye borcunu ödemek için geldiğini söyleyerek öldürülmekten kurtulmuş ve serbest bırakılmıştır. Abdullah daha çok Abbâsîler’in Emevîler’e karşı giriştikleri mücadelede kendini gösterdi ve son Emevî halifesi II. Mervân’ı Büyük Zap Suyu Savaşı’nda ağır bir yenilgiye uğrattı (11 Cemâziyelâhir 132 / 25 Ocak 750). Bazı tarihçilere göre o, Abbâsî ihtilâlinde kaynaklarda zikredilenlerden daha fazla rol oynamış, tecrübeli bir asker olduğu için, Ebû Ca‘fer el-Mansûr ve Ebû Müslim’e rağmen, çok tehlikeli bir iş olan Mervân’ı bertaraf etme görevi ona verilmiştir. Zira mücadelenin en tehlikeli safhasında Ebû Ca‘fer veya Ebû Müslim gibi önemli simaların kaybedilmesi Abbâsîler için korkunç bir felâket olabilirdi. Abdullah, Halife Ebü’l-Abbâs’ın emriyle Mervân’ı bir müddet takip ettikten sonra onun damadı Velîd b. Muâviye’nin idaresinde bulunan Dımaşk üzerine yürüdü. Birkaç günlük kuşatmadan sonra şehre girdi (25 Nisan 750) ve binlerce kişiyi kılıçtan geçirdi. İntikam duygusuyla Emevîler’in kökünü kazımak niyetindeydi. Dımaşk’ta iki hafta kaldıktan sonra Filistin’e hareket etti. Yafa şehri yakınlarındaki Ebûfutrus’ta düzenlediği bir ziyafet sırasında Emevîler’den seksen kişiyi öldürttü. Bununla da yetinmeyerek Dımaşk, Rusâfe, Kınnesrîn ve diğer yerlerdeki halife ve Emevî ileri gelenlerinin mezarlarını açtırıp kemiklerini yaktırdı. Onun bu vahşice hareketleri üzerine Muâviye’nin torunlarından Ebû Muhammed ile Emevîler’in Kınnesrîn Valisi Ebü’l-Verd b. Kevser’in Suriye’de başlattığı büyük bir isyan zorlukla bastırılabildi (Temmuz 751).

Abdullah b. Ali, Abbâsî Devleti’nin kurulması üzerine Suriye valiliğine tayin edildi. Aşırı ihtirasının sonucu olarak buradaki faaliyetleriyle devletin emniyetini tehdit eder hale geldikten başka Ebü’l-Abbas es-Seffâh’ın ölümü üzerine halifelik iddiasında bulundu. Halife Ebû Ca‘fer el-Mansûr’un biat isteğini reddederek ordusuyla Harran’a gitti. Bunun üzerine halife, Ebû Müslim’i onu itaat altına almakla görevlendirdi. Abdullah b. Ali de Suriye, el-Cezîre ve Horasanlı askerlerden meydana gelen ordusuyla savaşa hazırlandı. Ebû Müslim’e karşı savaşmayacaklarını tahmin ettiği 17.000 Horasanlı askerini öldürttü. Daha sonra devrin meşhur kumandanlarından Humeyd b. Kahtabe’yi ortadan kaldırmak üzere bir komplo hazırladı. Aleyhindeki tertipleri öğrenen Humeyd çok sayıda askeriyle Ebû Müslim’in saflarına katıldı. Nusaybin yakınlarında Ebû Müslim ile giriştiği savaşta mağlûp oldu ve savaş meydanını terkederek Basra valisi olan kardeşi Süleyman’ın yanına kaçtı (11 Aralık 754). Süleyman ile diğer kardeşi Îsâ, Halife Mansûr’dan onun affedilmesini istediler. Halife amcalarını kırmadı ve Abdullah’a istedikleri emanı vereceğini bildirdi. Bunun üzerine Îsâ, meşhur kâtibi İbnü’l-Mukaffa‘a hiçbir te’vile yer bırakmayacak şekilde bir emannâme yazmasını emretti. Ancak Halife Mansûr emannâmede kendini küçük düşüren ifadeler bulunduğunu söyleyerek İbnü’l-Mukaffa‘ı öldürttü. Abdullah b. Ali’yi de teslim alarak Hîre’de temeline tuz doldurulmuş bir eve hapsettirdi. Yaklaşık yedi yıl hapishanede kalan Abdullah, akıtılan suların tuzları eritmesiyle çöken binanın enkazı altında can verdi ve Bağdat’taki Bâbüşşam Mezarlığı’na defnedildi. Mes‘ûdî’ye göre ise Abdullah, Ebû Ca‘fer el-Mansûr’un emriyle Ebü’l-Azhar Mühelleb b. Ebû Îsâ tarafından bir câriyesiyle birlikte boğularak öldürülmüş, sonra da bulundukları ev üzerlerine yıkılıp enkaz altında kalarak öldükleri intibaı verilmek istenmiştir.

Cesur, yiğit ve heybetli bir kumandan olup Kureyş’in dâhilerinden biri kabul edilmektedir. Abbâsî ihtilâlinin başarıya ulaşmasında ve devletin sınırlarının genişlemesinde büyük rolü olmuştur.