Bugün de mevcut olan ev, Selâmsız semtinde (Selami Ali Mahallesi), Tekke Kapısı mevkiinde ve Selâmi Ali Efendi Caddesi ile Bülbüldere arasında uzanan Tekke İçi Sokağı üzerindedir. Bu sokağın ismi yakın tarihte değiştirilerek Kâtibim Aziz Bey Sokağı olmuştur. Evin tam karşısında semte ismini veren Selâmi Ali Efendi Tekkesi'nin harabesi ve mezarlığı bulunmaktadır. Aziz Bey'in bu hazîrede gömülü olduğu söylenir. Fakat kabir taşı yoktur. Aziz Mahmut Bey, Selâmi Ali Efendi Tekkesi'nin şeyhi Mahmut Efendi'nin oğludur. Büyük babası Abdullah Efendi de bu tekkenin şeyhi idi. Babaannesi Esma Hanım, amcası ise Ahmet Muhtar Efendi'dir. Aziz Bey'in oğlu Sadi Efendi de bu dergâhın şeyhlerinden idi. Kabrinin küçük hazîrede olduğu söylenir. Şeyh Mahmut Efendi, oğluna bağlı bulunduğu büyük mutasavvıf Aziz Mahmud Hüdâyî Hazretlerinin ismini vermiştir. Üsküdar İcra Dairesi Başkâtibi olan Aziz Mahmut Bey'in son derece yakışıklı ve iri yapılı olduğu ve elleri ile gözlerinin güzelliği ile ünlü olduğu söylenir. Başında Hafif eğik fesi, kolalı beyaz gömleği, setre pantolonu ve parlak rugan potinleri ile bu eski İstanbul Efendisi'nin çok canlar yaktığı rivayet edilir. Naciye, Esma, Seyyide Ayşe ve Fatma isimli hanımlarla evlenen Aziz Bey, 52 yaşında vefat etmiştir. Seyyide Ayşe Hanım'ın Hasan Rıza Paşa'nın cariyesi olduğu ve Paşa'nın vefatından sonra Aziz Bey ile evlendiği söylentisi halk arasında yaygındır. Meşhur Kâtibim türküsünü işte bu hanım, yapılan dedikodular üzerine yazmış ve bestelemiştir.