Ağlama duvarının ait olduğu kutsal tapınağın adı BEİT HAMİKDAŞ`tır.Tapınak M.Ö. 965 yılında Kral Salamon (Süleyman peygamber) tarafından Kudüs`te inşa ettirilmiştir.
Yahudilerin bu kutsal tapınakları BEİT HAMİKDAŞ M.S. 70 yılında yıktırılmıştır.İbret olsun diye de batı yönündeki duvarı bırakılmıştır. İşte batı tarafta kalan bu duvara zamanla AĞLAMA DUVARI adı verilmiştir.
Osmanlı ordusu 1516 yılında Mercidabık Savaşında Memlüklüleri yenmesiyle, Yavuz Sultan Selimin 30 Aralık 1516 yılında Kudüs`e girdi. Gördüğü manzara karşısında şaşırdı. Şehirde tam bir başıbozukluk hakimdi. Dinler arası savaş düzeyinde gerginlik hüküm sürüyordu.
Yavuz Sultan Selim ilk iş olarak bütün dinlere güvence verdi. Her dinden olan kişi ibadetini serbestçe yapabilecekti. Bu arada padişah Romalılar tarafından yıkılan tapınaktan geri kalan ağlama duvarının bulunmasını istedi.
Oğlu Süleyman ile şehrin içinde gezintiye çıktı. Bir ara başında koca bir sepet bulunan yaşlı bir Hıristiyan kadınla karşılaştı. Kadına sepette ne olduğunu sordu. Kadın da sepetin içinde çöp ve hayvan gübresi var diye yanıtladı. Padişah bunu duyunca çok şaşırdı.
Kadın sepettekileri, Yahudilerin kutsal mabedinin bulunduğu yere dökeceğini, böyle yapmasını Hıristiyan din adamları tarafından emredildiğini söyledi. Böylece de zaman içinde tapınağın tamamen yok edileceğini anlattı. Sonunda Kudüs`te Yahudi izlerinin silineceğini söyledi.
Sultan konunun doğru olduğunu öğrendi. Hemen altın ve gümüş sikkelerden oluşan keseleri çöp dağının değişik yerlerine gömdürdü. Fakir halka kova ve kürekler dağıttırdı. Para dolu keseleri bulmak amacıyla on bin kişi otuz günde dağı dümdüz etti. Sonuç olarak ağlama duvarı bugünkü haliyle ortaya çıktı.
