Adana’da doğdu. Babası Ramazanoğulları diye bilinen aileden Müctebâ Bey, annesi Ümmügülsüm Hanım’dır. Adana’da rüşdiye ve idâdîde okuduktan sonra İstanbul’a gidip Dârülfünun Hukuk Fakültesi’ne kaydoldu. Mezuniyetin ardından İstanbul’da askerlik hizmetini yaptığı dönemde Kelâmî Dergâhı şeyhi Esad Erbîlî’ye intisap etti. Seyrüsülûkünü tamamlayınca Esad Erbîlî tarafından kendisine Nakşibendî hilâfeti verildi (söz konusu icâzet, Erbîlî’nin 1922’de ilk baskısı yapılan Mektûbât’ı içinde yer aldığına göre [134. mektup] bu tarihten önce verilmiş olmalıdır). Ardından Adana’ya yerleşen Mahmut Sami Efendi birkaç yıl sonra irşad faaliyetiyle meşgul olmaya başladı. Tekkelerin kapatılması ve dönemin hassasiyeti sebebiyle faaliyetlerini daha ziyade özel sohbetler şeklinde sürdürdü. El emeğiyle çalışıp kazanmaya önem verdiği için bir ticarethanenin muhasebe defterlerini tutarak geçimini temin etti. 1946 yılında hacca gitti. 1950’de Adana Ulucamii’nde vaaz vermeye başladı. 1951’de gittiği İstanbul’da iki yıl kaldı. 1953’te ikinci hac dönüşü Şam’a yerleşmeye karar verdi. Buradaki Türk öğrencilere Rûḥu’l-beyân ve Mektûbât gibi eserleri okutarak tasavvuf sohbetleri yaptı. Ertesi yıl Şam’a yerleşme kararından vazgeçip İstanbul’a döndü. Erenköy’de Zihnipaşa Camii’nde vaaz verirken bir yandan da özel sohbetler yaparak irşad vazifesini sürdürdü. Bu dönemde de geçimini bir ticarethanenin muhasebe işlerinde çalışarak temin etti. 1979’da ailesiyle birlikte yerleştiği Medine’de 12 Şubat 1984’te vefat etti ve Cennetü’l-bakī‘a defnedildi.