يقع المسجد الحرام في قلب وادي مكة، في موضع ارتبط بالكعبة المشرفة منذ عهد النبي إبراهيم -عليه السلام- حين أمره الله تعالى أن يترك زوجته هاجر وابنه إسماعيل عليهما السلام في هذا المكان، كما جاء في قوله تعالى: (رَبَّنَا إِنِّي أَسْكَنْتُ مِنْ ذُرِّيَّتِي بِوَادٍ غَيْرِ ذِي زَرْعٍ عِندَ بَيْتِكَ الْمُحَرَّمِ)، في دلالة على طبيعة الموقع الذي نشأت فيه مكة المكرمة بين الجبال.
وتظهر مكة جغرافيًا كأنها ممر ضيق داخل وادٍ تحيط به المرتفعات، إذ يقع المسجد الحرام في نطاق وادي إبراهيم، ضمن جبال السروات، وفي منطقة منخفضة نسبيًا تحيط بها جبال بارزة، من بينها جبل أبي قبيس شرقًا، وجبل قعيقعان غربًا، إلى جانب جبل النور وجبل ثور.
وبحسب موسوعة المملكة العربية السعودية الصادرة عن مكتبة الملك عبدالعزيز العامة، تقع مكة ضمن نطاق الدرع العربي، وهو من أقدم التكوينات الجيولوجية في غرب الجزيرة العربية، ويتكوّن من صخور نارية قديمة، منها الجرانيت، ومع تشكّل هذا الوادي أصبح الموقع ممرًا طبيعيًا للقوافل التجارية التي كانت تعبر الجزيرة العربية قديمًا.
ويرتبط هذا الوصف الجغرافي بما ورد في القرآن الكريم من تسمية المكان بـ “بكّة” في قوله تعالى: (إِنَّ أَوَّلَ بَيْتٍ وُضِعَ لِلنَّاسِ لَلَّذِي بِبَكَّةَ مُبَارَكًا)، حيث ذكر عدد من علماء التفسير منهم -محمد بن جرير الطبري وإسماعيل بن كثير ومحمد بن أحمد القرطبي- أن تسميتها قد تعود إلى البكّ أي الزحام، في إشارة إلى ازدحام الناس حول البيت العتيق في هذا الوادي الضيق.