Başlangıçta Beyt-i Makdis diye bilinen bu mâbedin ismi sonradan Mescid-i Aksâ olmuştur. Fazîleti bakımından üç büyük mescidden biri görülür. Bu üç mescidin birincisi Mescid-i Harâm (Kâbe), ikincisi Mescid-i Nebevî, üçüncüsü Mescid-i Aksâ. Bu mescidde, içinde mukaddes emânetlerin ve Tevrât levhaların bulunduğu Tâbût da vardı fakat Beyt-i Makdis, Süleymân -aleyhisselâm-’ın vefâtından sonra muhtelif zamanlarda birkaç kez tahrip olmuş. Nitekim, M.Ö. 586’lı yıllarda Buhtünnasr (Nabuketnazzar) Kudüs’e girdi ve şehri yakmış. Mescid-i Aksâ’nın mücevherlerini alıp Bâbil’e götürmüş. Beyt-i Makdis, uzun yıllar harâbe hâlinde kalmış.
Bâbillileri yenen persler yahudîlerin tekrar eski topraklarına dönmelerine ve mâbedi yeniden yapmalarına izin verir ve M.Ö. 515’te mâbed ikinci defa yapılır ancak M.S. 70 senesinde Romalılar mâbedi yakıp yıkarlar. Mâbedin yeri uzun süre boş kaldı. Ancak bu mübârek mekân yine de bir mâbed olarak bilinmekte ve kalıntıları korunmakta. Hazret-i Ömer -radıyallâhu anh-’ın Mîlâdî 637 yılında buraya bir mescid yaptırdığı rivâyet edilmekte. 691’de Emevî halifesi Abdülmelik, Peygamber Efendimiz’in Mîrâc’da ayağını bastığı yere “Kubbetü’s-sahrâ”yı, yanına da “Mescid-i Aksâ”yı yaptırmış ve inşaat, oğlu I. Velid zamanında tamamlanmış. Mescid-i Aksâ, günümüze gelene kadar pekçok tamirât ve tâdilât geçirmiş.
Mescid-i Aksa’nın önemi nedir diye soracak olursak kısaca şöyle anlatırız, tarihimizden bugüne İslam ülkeleri ve toplumu için büyük bir değere sahip olmaktadır. Tarihi ve manevi değeri yüksek bir şehir olan Mescid-i Aksa hiçbir zaman değerli bir şey kaybetmemiştir. Bu dönemde camiler arasındaki en uzak mesafede yer almaktadır. Bu nedenle tarihi malzemeler ona en uzak yer anlamına gelen Mescid-i Aksa adını verir. Mescid-i Aksa Hz. Muhammed döneminde Müslümanlara önemli şeyler getirdi. Çünkü göçün ilk yılında (MS 622) Medine’deki Müslümanlar yaklaşık 16 ay boyunca namaz kılarlar, Mescid-i Aksa’ya dönerek hac olarak kabul ederler.