
Atas wasiat almarhum orang tuanya yaitu Tuan Guru H. M. Ramli yang mewasiatkan untuk lebih memajukan pelajaranpelajaran agama, juga atas nasehat dan petunjuk dari seorang gurunya KH. Abu Bakar Tambun, agar beliau mendirikan pondok pesantren. Maka pada tanggal 23 Oktober 1958 (8 Shafar 1378 H) didirikanlah sebuah pondok pesantren yang waktu itu dikenal dengan nama Pondok Hulu Kubur.
Nama Pondok Hulu Kubur tidak tertulis dipapan nama,hanya mendapat sebutan dilidah orang umum.
Nama Pondok Hulu Kubur tidak lama dipakai sebagai nama terhadap pesantren yang baru lahir ini, karena pendirinya yaitu KH. Mahfuz Amin telah mendapatkan sebuah nama pilihan yaitu “Ibnul Amin”. Nama Ibnul Amin tersebut dipilih sebagai penghormatan kepada almarhum kakek KH. Mahfuz Amin sendiri. Karena KH. Mahfuz Amin sebagai pendiri dan pendidik di pondok pesantren ini telah mendapatkan ilmu dari ayahnya yaitu Tuan Guru H. M. Ramli, sedangkan ayahnya juga belajar dari orang tuanya yaitu Tuan Guru H. M. Amin. Oleh karena itulah pesantren diberi nama Ibnul Amin yaitu sebagai peringatan terhadap kakeknya yang telah berjasa kepada orang tuanya dan KH. Mahfuz Amin sendiri.