Didirikan pada tahun 1897 oleh Kiyai Imam Sanusi dari Begelan, Jawa Tengah. Sang pendiri dulu mondok dipondok pesantren di desa Patilaler.

Ada tokoh dari Desa Jajar Kabupaten Blitar Jawa Timur mencari orang untuk berjuang di desa tersebut, karena di Desa Jajar ada mushola, tetapi tidak ada yang meneruskan perjuangannya. Akhirnya para tokoh di desa tersebut bermusyawarah. Akhirnya, dalam musyawarah tersebut menghasilkan dua orang untuk berbagi tugas. Orang pertama Bernama Mbah Mat Senanwi memberikan tanah di sekitar mushola untuk ditempati penerus perjuangan. Sedangkan Mbah Joyo Karno datang dan meminta ke pengasuh pondok di Patilaleruntuk berjuang di Desa Jajar.Kahirnya yang ditugaskan lurah pondok/wakil pengasuh podok tersebut untuk di kirim ke Desa Jajar dan diikut beberapa santri. Kemudian mendirikan sebuah pondok di dekat mushola Desa Jajar.

Suatu Ketika Kiyai Imam Sanusi meninggal dunia, dan belum ada yang melanjutkan perjuangannya. Lambat laun pondok habis karena tidak ada yang meneruskan. Saat itu Kiyai Imam Ahmad anak dari Kiyai Imam Sanusi masih kecil.  Para santri kembali pulang ke asal mereka masing-masing dan dipondok tinggal bangunan saja.

Kemudian ketika Kiyai Imam Ahmad sudah besar, beliau meneruskan perjuang ayahnya. Aktivitas keagamaan diteruskan hanya saja tidak ada pondok. Tetapi, hanya pendidika Al-Quran secara tradisional.

Pada tahun 1974 diikrarkan mushola besar jadi masjid untuk jumatan. Mulai saaat itu Madrasah Diniyah mulai dibuka lagi. Lokasi belajar mengajar di rumah Kiyai.

Beberapa tahun kemudian pengajar mulai banyak yang nikah dan sibuk. Akhirnya santri/wati hanya belajar Al-Quran dan Tajwid saja.  Pada saat itu yang tenaga pengajar hanya dua, yaitu Imam Sobari dan Mohammad Jupri.

Mulai didirikan TPQ, kegiatan belajar mengajar dilaksanakan dimasjid dengan 2 tenaga pengajar. Kegiatan belajar mengajar dilaksanakan dimasjid. Sebelumnya belajar dan mengajar dilakukan di masjid menjadi ramai.

TPQ sudah berjalan dalam beberap tahun. Tenaga pengajar hanya 1 bernama Turliana. kemudian pengajar tersebut menikah dan ikut suaminya. Akhirnya dilanjutkan oleh seorag guru laki-laki bernama Sabro. Pada saat itu murid semakin hari semakin sedikit,

Pada tahun 1997 Drs. Hasim Ngadenan pulang dari Malang dan murid tinggal 6 tanpa pengajar. Akhirnya proses belajar mengajar dilanjutkan di rumah Muhammad Muwadjir (Ayah Drs. Hasim Ngadenan) kegiatan belajar mengajar terbagi menjadi dua. Siang untuk anak-anak dan malam hari untuk yang lebih besar. Saat itu sudah mulai didesain menjadi Madrasah Diniyah lagi. Kemudian proses belajar mengajar Kembali di masjid.

Beberapa tahun kemudian didirikan bangunan untuk Madrasah Diniyah. Nama Rahmatul Lil Alamin diberi nama oleh Kiyai Imam Sobari, Kiyai Imam Sobari berasal dari Jombang Jawa Timur. Mulai saat itu sistem dimodel Madrasah Diniyah yang berkelas-kelas. Pelajaran sudah mengacu pada kurikulum pondok pesantren. Pelajarann mulai fikih, Akhlaq, Aqidah, Tajwid, Bahasa Arab. Pernah mengunakan metode JMSA kemudian Toriqati, dan sekarang Wafa. Awalnya tenaga pengajar hanya dua, kemudian semakin berkembang akhirnya alumni juga ikut membantu mengajar.