Keberangkatan seorang muslim untuk menunaikan ibadah haji tentulah sangat dinantikan tiap muslim. Tak hanya itu, keluarga yang ditinggal berangkat menunaikan ibadah haji juga pasti menantikan kepulangan ke tanah air dengan selamat. Keberangkatan haji biasanya identik dengan jamaah yang membawa pulang air zamzam dari tanah Arab.
Berdasarkan sejarah Islam, kemunculan air zamzam diawali oleh Siti Hajar yang gelisah karena putranya, Ismail tidak memiliki air minum. Kala itu ia ditinggalkan Nabi Ibrahim di tengah tanah tandus. Siti Hajar sampai harus berlari-lari kecil dari bukit Shafa ke bukit Marwah untuk mencari air dan meninggalkan putranya, hingga ia mendengar perintah agar menghampiri putranya yang sedang menangis.
Saat Siti Hajar datang, ia menemukan kaki Islami yang berhasil mengentak-entak ke tanah dan tanahnya pun mengeluarkan banyak sekali air. Spontan, Siti Hajar berteriak “zamzam” yang berarti berkumpullah. Akhirnya air itu pun berkumpul dan diberi nama air zamzam. Setelah berselang ribuan tahun dari kejadian tersebut, dikatakan bahwa sumur zamzam sempat ditutup karena tak ada yang merawatnya.
Kakek Rasulullah, Abdul Muthalib yang kemudian menggali lagi sumur tersebut. Ada dua penjelasan tentang hal tersebut. Pertama, ada penjelasan bahwa penggalian sumur zamzam merupakan nazar Abdul Muthalib jika ia dikaruniai banyak anak. Allah pun menganugerahkan 10 anak padanya.
Untuk melaksanakan nazarnya, Abdul Muthalib harus mengawalinya dengan menunjuk satu anaknya untuk dikurbankan. Akhirnya, hal tersebut diundi dan muncullah nama Abdullah, ayah Rasulullah. Abdul Muthalib makin ragu melakukannya karena Abdullah adalah anak yang paling disayang. Ada orang yang mengusulkan untuk mengundi nama Abdullah dengan unta.
Abdul Muthalib melakukannya, tetapi yang terus muncul adalah nama Abdullah, hingga mencapai 100 unta barulah nama unta yang muncul. Karena Allah lagi-lagi mewujudkan doanya, maka ia menjalankan nazarnya yaitu menggali sumur zamzam. Oleh karenanya sumur zamzam juga sering disebut sumur gali (dug water well).
Ada penjelasan lain yang menyebut bahwa Abdul Muthalib menggali sumur tersebut karena perintah yang ia dapatkan saat tertidur di Hijr Ismail.