Pondok Pesantren Nurul Iman dirintis pertama kali oleh Rahmat bin Jekalam dan K.H. Balian bin K.H. Sulaiman pada tahun 1379 H/1960 M. Rahmat bin Jekalam merupakan mertua K.H. Balian mewakafkan tanahnya untuk dibangun madrasah pada waktu itu. K.H. Balian adalah anak K.H. Sulaiman Bin K.H.
Abdurrahman Delamat salah seorang Wali Allah yang menyebarkan Islam di tanah Kabupaten Banyuasin, Musi Banyuasin, Kabupaten Muara Enim, Musi Rawas, Bengkulu dan sekitarnya, sepanjang aliran sungai Musi sampai Palembang.
Menurut K.H. Balian selaku pimpinan Pondok Pesantren menjelaskan bahwa pada waktu proses belajar mengajar di rumah K.H. Balian jumlah murid hanya 6 orang. Proses belajar mengajar ini terus berjalan hingga lebih kurang 10 tahun lamanya. Lambat laun masyarakat sekitar mulai mendaftarkan anaknya ke Pesantren Nurul Iman.
Pada tahun 1392 H/1973 M jumlah santri yang belajar ada 254 orang, hampir 80% berasal dari daerah lain. Pesantren Nurul Iman menerapkan kurikulum murni, pada masa itu Pesantren Nurul Iman menerapkan kurikulum murni, pada masa itu belum ada persamaan ujian. Bila muridnya akan mengikuti ujian, maka mereka ujian di sekolah umum lainnya. Selain kekurangan sumber daya guru, saranaprasarana juga kurang untuk menunjang kegiatan pembelajaran. Pada masa itu hanya ada kegiatan mengaji dan kitab kuning saja. Pada tahun 1412 H/1992 Pesantren Nurul Iman mendirikan Madrasah Tsanawiyah sebagai pendidikan penyetaraan. Tahun 1418 H/1998 didirikan tingkat Aliyah untuk menampung lulusan Pesantren tingkat Tsanawiyah.
Nama Pondok Pesantren “Nurul Iman” bermula ketika K.H. Balian menerima murid di pondok pesantren hanya ada 6 orang. Beliau mendapatkan inspirasi bahwa rukun iman itu ada enam, maka beliau ambil nama “Iman”, kemudian disempurnakan menjadi “Nurul Iman”. Pada tahun 1379 H/1960 M
ini juga menurut K.H. Balian bahwa desa Ujung Tanjung terjadi suatu gerakan yang biasa disebut penduduk setempat dengan “Gerombolan” yaitu sejenis geng yang bermarkas di dalam hutan dan sering berbuat onar serta merampok. Mereka sering melarang penduduk setempat untuk belajar ilmu agama. Hal ini tentu menjadi tantangan yang sangat sulit pada masa itu.