Edirne Sarayı'nda bir süre tahsil ve terbiye gördükten sonra 2. Mehmed'in tahta çıkışının ardından ocak ağalığı rütbesine nâil oldu ve İstanbul kuşatması sırasında pâdişâhın yanında bulundu.

Zağanos Mehmed Paşa'nın azledilmesinden sonra vezirlik makamına getirilmiş daha sonra da vezîr-i âzam olmuştur. Fâtih Sultan Mehmed'in bizzat çıktığı Mora, Amasra, Sinop ve Trabzon'a yönelik seferlerde, Eflak ve Bosna seferlerinde hep onun yanında bulunmuştur.

Bosna seferinde kendisine danışılmadan Bosna kralı ile anlaşma yaptığı için Fâtih, Mahmud Paşa'ya kızmıştı. Padişah, Mahmud Paşa'ya karşı olan kızgınlığını bir süre için dizginleyerek ona Karaman'dan İstanbul'a yapılacak göçleri düzenleme görevi verdi. Fakat bu faaliyet sırasında bir kısım kimseleri yerinde bırakması, hakkındaki dedikoduların çoğalmasına yol açtı ve vezîr-i âzamlıktan azledildi.

Fâtih'in de bizzat katıldığı Eğriboz adasının fethinde donanma kaptanı olarak gösterdiği başarı üzerine tekrar vezîr-i âzamlığa getirildi. Uzun Hasan ile yapılan Otlukbeli Meydan Savaşı'nda zaferin kazanılmasında pay sahibi olduysa da, rakipleri tarafından gözden düşürüldü ve görevden alındı.

Fâtih, genç yaşta esrarengiz bir şekilde vefât eden oğlu Karaman Vâlisi Şehzâde Mustafa'nın ölümüyle ilgili olarak Mahmud Paşa'dan şüpheleniyordu. Rakiplerinin de tahrikiyle Mahmud Paşa'yı îdam ettirdi. Îdamı özelikle ilim ve sanat erbabı arasında büyük üzüntü ile karşılanmıştır.

Halk tarafından çok sevilen, velâyetine hükmedilen, velî sıfatıyla anılan Mahmud Paşa kaynaklara göre hiçbir Osmanlı vezirinde bulunmayan özelliklere sahipti. Yaptırmış olduğu külliyesindeki türbede medfundur.