Pembangunan kabah jauh sebelum Nabi Adam di ciptakan. Setelah nabi Adam dan hawa turun ke bumi, mereka di perintahkan oleh Allah untuk membangun bangunan di sebuah lembah bernama bakkah. Namun bangunan tersebut hancur akibat air bah pada masa Nabi Nuh. Selama beberapa abad kemudian allah memerintahkan kepada Nabi Ibrahim dan putranya, Nabi ismail untuk membangun sebuah bangunan di tengah perempatan Kota Mekkah untuk dijadikan tempat beribadah.
Mereka berdualah yang pertama kali meletakkan Hajar Aswad dan membangun makam Ibrahim di sekitar Kabah. Sejak pembangunan tersebut, Kabah dan Masjidil Haram di jaga oleh para keturunan Nabi Ismail.
Sejarah perkembangannya di mulai pada masa Ibrahim al Khalil dan putranya Ismail di kota kelahiran Nabi Muhammad SAW, dan juga menjadi tempat pertama kalinya turunya wahyu. Dari sanalah cahaya islam bersinar. Pertama kali untuk manusia di muka bumi, berdasarkan firman Allah ta’ala :
إن أول بيت وضع للناس للذي ببكة مباركاً وهدى للعالمين (سورة آل عمران : 96)
“Sesungguhnya rumah yang mula-mula dibangun untuk (tempat beribadah) manusia, ialah Baitullah yang di Bakkah (Mekah) yang diberkahi dan menjadi petunjuk bagi semua manusia”. (QS. Ali Imran: 96).
Sepanjang sejarah, para khalifah dan penguasa Muslim yang bertanggung jawab atas Mekkah, kota paling suci bagi umat Muslim telah berusaha keras untuk menjaga, memperluas, dan merawat Masjidil Haram. Di masa lalu, para pemimpin juga memerintahkan sumur digali dan jalan beraspal untuk memudahkan perjalanan ke tempat suci bagi para peziarah, upaya mereka telah mencapai tingkatan yang baru.
Menurut sebuah laporan oleh presidensi umum untuk urusan dua masjid suci, Masjidil Haram di kelilingi oleh rumah-rumah dari zaman nabi Ibrahim hingga pemerintahan khalifah muslim kedua Umar bin Khattab. Umar bin khattab membeli bangunan di sekitar Kabah sehingga daerah peredaran dapat di perluas.
Umar bin Khattab juga memerintahkan pembangunan tembok setinggi 2 meter di Kabah. Seiring dengan meningkatnya jumlah jamaah, dibutuhkan lebih banyak ruang, dan masjid di perluas pada masa pemerintahan Utsman bin Affan, khalifah muslim ketiga pada tahun 647 M.
Jumlah orang yang menggunakan masjid terus bertambah dan 38 tahun kemudian. Sehinnga diperluas lagi oleh khalifah Abdullah bin al Zubayr. Dia juga yang membangun kembali Kabah setelah strukturnya rusak.
Bangunan Kabah yang merupakan kiblat umat Islam dari segala penjuru dunia terletak di tengag masjidil haram yang tingginya mencapai 15 meter seperti kamar besar yang berbentuk kubus dibangun oleh nabi Ibrahim melalui perintah allah sebagai berikut:
وَإِذْ بَوَّأْنَا لإِبْرَاهِيمَ مَكَانَ الْبَيْتِ أَنْ لا تُشْرِكْ بِي شَيْئًا وَطَهِّرْ بَيْتِيَ لِلطَّائِفِينَ وَالْقَائِمِينَ وَالرُّكَّعِ السُّجُودِ (سورة الحج: 26)
“Dan (ingatlah), ketika Kami memberikan tempat kepada Ibrahim di tempat Baitullah (dengan mengatakan): “Janganlah kamu memperserikatkan sesuatupun dengan Aku dan sucikanlah rumahKu ini bagi orang-orang yang thawaf, dan orang-orang yang beribadat dan orang-orang yang ruku` dan sujud”. (QS. al Hajj: 26)
Allah –subahanahu wa ta’ala- berfirman:
وإذا يرفع إبراهيم القواعد من البيت وإسماعيل (سورة البقرة : 127 )
“Dan (ingatlah), ketika Ibrahim meninggikan (membina) dasar-dasar Baitullah bersama Ismail “. (QS. Al Baqarah: 127)
Proyek ekspansi terbesar era ini di perintahkan sekitar tahun 783 oleh khalifah Abbasiyah ketiga, Muhammad al Mahdi yang memperluas Masjidil Haram setelah mengambil alih rumah penduduk dan membongkarnya. Ia meninggal pada 785, sebelum proyek itu selesai.
Sehingga putranya mengambil alih pengawasan proyek yang menambah luas masjid sebesae 12.512 meter persegi. Pada awal 1570-an kaisar Utsmaniyah Sultan Salim Khan dan putranya Murad Khan mengawasi pekerjaan renovasi dan restorasi yang mencakup penggantian atas kayu datar di masjid dengan kubah. Mereka juga memasang kolom tambahan untuk mendukung atas dan arcade batu ditambahkan, dan luas masjid menjadi 28.003 meter persegi.
Pada renovasi tersebut ditambahkan tiga menara tambahan sehingga keseluruhan menara menjadi tujuh. Marmer pelapis lantai pun diganti dengan yang baru, dan sejak saat itu arsitektur Masjidil Haram tak berubah hingga tiga abad.(*)