Masjid ini didirikan pada tahun 1944 M, Masjid ini pada awalnya diberi nama "Kampung Sumber Rejo", Nama ini sesuai dengan nama Kampung(Kelurahan) pada waktu itu yaitu Sumber Rejo. Pembangunan masjid ini melalui iuran suka rela dari masyarakat untuk membeli tanah milik Asmala yang akan dijadikan lokasi pembangunan masjid, dihalaman depan masjid terdapat monumen berbentuk segitiga yang berarti masjid ini didirakan oleh tiga pemimpin yaitu : Suprat, Tarmudi, dan Misdi.