1941 yılında Akka yakınlarındaki El-Berve’de doğmuştur. İlk şiirlerini Dîru’l-Esed’de, daha sonra Kifr Yâsîf köyündeki ilkokulda yazmaya başlamıştır. 1948 yılındaki Nekbe esnasında ailesiyle beraber Lübnan’a iltica etmek zorunda kalmıştır. 1949 yılında okulunu görmek için Filistin’e geri dönmüş ancak okulunu yıkılmış ve çevresini İsrail yerleşimleri ile dolu olarak bulmuştur. 1961 yılında İsrail Komünist Partisi Rakah içerisinde aktif bir siyasi olarak görev almış ve siyasi düşüncelerini şiirleri vasıtasıyla dile getirmiştir. Bu şiirlerin ilk derlemesi 1964’te yapılmıştır. Bir süreliğine Komünist Partiye bağlı İttihat gazetesinde editör olarak çalışmıştır. İsrail kuvvetleri tarafından birçok kez tutuklanmış ve ev hapsine maruz bırakılmıştır. Eğitim için 1970 yılında Moskova’ya geçmiş ancak bir sene sonra üniversiteyi terk ederek El-Ehram gazetesi için çalışacağı Mısır’a gitmiştir. 1970’lerin başında Beyrut’a geçmiş ve FKÖ ile beraber hareket ederek Filistin İşleri dergisinin editörü olarak görev almıştır. Bir süre sonra  bir kültür dergisi olan El-Kermel’in  editörü olarak çalışmıştır. 1975 yılında ise Beyrut’taki Filistin Araştırmaları Merkezi müdürü ve Filistinli Yazarlar ve Gazeteciler Genel Birliği başkanı olmuştur. FKÖ’nün 1982 yılında Lübnan’dan çekilmesinden sonra Kıbrıs’a yerleşmiştir. 1987 yılında FKÖ Yürütme Komitesi üyeliğine seçilmiş; bu görevinden, 1993 yılının Ağustos ayında, yapılan Oslo Anlaşmaları’nı protesto ederek ve FKÖ’nün karşılaştığı mali krizi gerekçe göstererek istifa etmiştir. 15 Kasım 1988 tarihinde Cezayir’de 19. toplantısını gerçekleştiren Filistin Ulusal Meclisinin imzaladığı “Filistin Bağımsızlık Bildirgesi”nin yazımına katkıda bulunmuştur. Paris ve Beyrut’ta yaşamış ve 24 yıl sürgünde kaldıktan sonra 1995 yılında Filistin’e dönüp Ramallah’a yerleşmiştir. 4 Ekim 1995’te 2. Oslo Anlaşması’nı reddeden bir bildiri imzalayan 9 FKÖ Yürütme Komitesi üyesinden biri de Mahmud Derviş’tir. 1997 yılında yayımı Ramallah’ta tekrar başlatılan El-Kermel dergisinin başeditörüydü. İsrail Eğitim Bakanı Yossi Sarid’in; Derviş’in ve diğer Filistinli şairlerin çalışmalarını İsrail liselerinde okuma listesine dahil etmeyi önermesi Mart 2000’de İsrail’de tartışmalara neden olmuştur. Yaklaşık 30 şiir ve düz yazı derlemesi neşretmiş ve bu çalışmaları 35 dile çevrilmiştir. Ayrıca pek çok edebiyat ödülü kazanmıştır. Bunlar arasında; Uluslararası Lotus Şiir Ödülü (1969), İbn Sina Ödülü (1982), Lenin Barış Ödülü (1983), Lannan Kültürel Özgürlük Ödülü (2001) vardır. 1997 yılında Fransız Televizyonu tarafından ünlü yönetmen Simone Bitton öncülüğünde hakkında bir belgesel çekilmiştir. Ramallah’taki Halil Sekakîni Kültür Merkezinin fahri üyesidir. Eserlerinden bazıları: Zeytin Yaprakları (1964), Kuşlar Celile’de Ölür (1964), Filistin’den Bir Aşık (1966), Filistin Yarasının Günleri (1969), Bu Resmi Bu da İntiharı Aşığın (1975), 11 Yıldız (1992), Neden Atı Yalnız Bıraktın? (1995), Garibin Yatağı (1999), Portre (2000), Kuşatmanın Durumu (2002), Yaptıklarından Özür Dileme (2004), Badem Çiçeği veya Daha Uzak (2005). Derviş, Filistin halkının kalbinde çok önemli bir yer tutmaktadır ve günümüzde en tanınmış Filistinli şairler arasındadır. 9 Ağustos 2008 tarihinde ABD’deki Teksas eyaletinin Houston şehrinde açık kalp ameliyatı esnasında hayata gözlerini yummuştur.