Masjid yang dibangun oleh Yayasan Amal Bhakti Muslim Pancasila ini dibangun diatas pasum PT Bumi Usaha Griya (BUG) pada tahun 1987 dan diresmikan penggunaannya pada tahun 1988. Pada awalnya, lokasi tersebut akan dibangun gereja, tetapi mendapatkan protes keras dari seluruh elemen masyarakat Pamulang, sehingga mereka bahu-membahu untuk mendirikan masjid di lokasi tersebut, sehingga masjid tersebut diberi nama "al -Mujahidin" yang berarti orang-orang yang berjuang.