M.Ö. 957 tarihinde Süleyman tapınağı Hz. Davut’un oğlu Hz. Süleyman hükümdarlığı zamanında tamamlanırken M.Ö. 586 yılında II. Nebukadnezar ise yapıyı tümüyle yıktırmış, Yahudileri esir alarak Babil şehrine götürmüştür. II. Kyros M.Ö. 538 yılında Yahudileri esaretten kurtarmış, Kudüs şehrine dönmelerine izin vermiş ve Süleyman tapınağını yeniden yapmalarına izin vermiştir. İkinci tapınak ilkine nazaran gösterişsiz olmasına karşın M.S. 70 yılında Romalılar tarafından yıkılmıştır. Günümüzde ise bu yapıdan yalnızca ağlama duvarı ismi verilen bölüm kalmıştır. El-Aksa camisinin ise ilk olarak Bizans İmparatoru I. Justinianos tarafından Hz. Süleyman tapınağı kalıntıları üzerine bazilika olarak inşa edildiği kabul edilmektedir. Zamanla yıpranan bazilikayı, Emevi Halifesi I. Velid baştan aşağı yenilemiş ve bu yapıya Mescid-i Aksa adını vermiştir.
