Şeyh Aziz Er-Rufai, 1872'de doğmuştur. Babası Molla Mehmet Abdülhamid Efendi annesi Esma Hanım'dır. 93 Harbi esnasında ailesi ve dört çocuğu ile Trabzon’dan İstanbul'a gelip yerleşen babası Abdülhamid Efendi, muhtelif camilerde imamlık yapmıştır. Aziz Efendi, Hattat Filibeli Bakkal Arif Efendi 'den sülüs ve nesih meşk etmiştir. Karinabadlı Hasan Hüsnü Efendi 'den talik, Reis-ül Hattatin Muhsinzade Abdullah Hamdi Efendi'den icazet aldı. Hattat Sami Efendi’nin sohbetlerine devam ederek celi sülüs, celi talik yazılarını öğrendi. Özbekler Tekkesi Şeyhi Edhem Efendi’den ise ebru sanatını da öğrendi. Mutasavvıf Kenan Rifai'ye intisap ederek 1910 yılında ondan hilâfet almıştır.