لم يتوان المسلمون يوما عن الحفاظ على ما أقامه سلفهم في القدس الشريف من عمران يشهد على عظم هذه الحضارة وبقائها‏،‏ خاصة العناية بالمسجد الأقصى وترميمه‏،‏ وليس صحيحا ما أشيع أن العباسيين لم يهتموا بالحرم الشريف وعمارته.
فقد تم ترميم المسجد الأقصى أكثر من مرة في عصرهم; فأعاد الخليفة المنصور عام 140 هـ بناء المسجد الأقصى وأنفق عليه نفقة كبيرة: بعضها منه وباقيها من ألواح الذهب التي كانت على الأبواب من قبل، ولما انتهى سار إلى بيت المقدس فصلى في المسجد، وشكر الله على إتمامه وكان ذلك عام 141هـ.
ولما تعرضت القدس لهزة أرضية عنيفة في عام 158هـ/ 774م أدت إلى تدمير معظم بناء المسجد الأقصى، أمر الخليفة المهدي بإعادة بنائه بعد أن تهدم وهجره الناس; فأعيد بناؤه على نحو أقوى وأضخم، وترك الجزء القديم فيه كجانب جمالي وأثري، وصار للمسجد ستة وعشرون بابا; سمي الباب الأوسط المواجه للمحراب -وهو الرئيس- بالباب النحاسي الكبير، وكان على يمينه سبعة أبواب وعلى يساره سبعة; أي أن الحائط الشمالي كان يحوي خمسة عشر بابا، وكانت الأبواب الباقية في الحائط الشرقي منه.

هذا وقد انتصبت فوق المحراب قبة من الخشب جلدت من الخارج بأفرخ من الرصاص، وكانت أعمدة المسجد كلها من البناء لا من الحجر الرخام، وبذلك أمكن التفريق بينها وبين الأعمدة القديمة، وبلغ طول المسجد حينذاك 103 أمتار وعرضه 69 متراً.

وفي عصر الخليفة هارون الرشيد اهتمت الدولة بمدينة القدس; حيث عامل النصارى أحسن المعاملة فسمح للإمبراطور شارلمان بترميم الكنائس وبناء كنيسة العذراء; في دلالة على تسامح الإسلام مع الآخر.
وفي مطلع القرن الثالث الهجري تعرض المسجد الأقصى لزلزال كبير; فأمر الخليفة المأمون أمراء الأطراف أن يتولى كل منهم بناء رواق من المسجد على نفقته، وجعل المشرف على ذلك عبد الله بن طاهر، فتم للمأمون ما أراد عام 210هـ.

وفي سنة 216هـ/831م زار الخليفة العباسي المأمون بيت المقدس، وكان قد أصاب قبة الصخرة شيء من الخراب فأمر بترميمه وإصلاحه، والأمر تطور على ما يبدو ليصبح مشروع ترميم ضخم اشتمل على قبة الصخرة المشرفة مما حدا بالمأمون أن يضرب فلسا يحمل اسم القدس لأول مرة في تاريخ مدينة القدس وذلك في سنة 217 هـ كذكرى لإنجاز ترميماته تلك.

وفي عهد الخليفة العباسي المقتدر بالله سنة 301 هـ/913م تمت أعمال ترميمات خشبية في قبة الصخرة اشتملت على إصلاح قسم من السقف وكذلك عمل أربعة أبواب خشبية مذهبة بأمر من أم الخليفة المقتدر.

وفي الفترة الفاطمية تعرضت فلسطين لهزات أرضية عنيفة سنة 407 هـ/1016م، وأدت إلى إصابة قبة الصخرة وإتلاف بعض أجزاء القبة الكبيرة; فبدئ بترميمها في عهد الخليفة الفاطمي الحاكم بأمر الله، واستكمل الترميم في عهد ولده الخليفة الظاهر لإعزاز دين الله، وقد اشتملت الترميمات على القبة وزخارفها وتمت على يدي علي بن أحمد في سنة 413 هـ/1022م.

وقد تعرض المسجد الأقصى لهزة أرضية أخرى حدثت سنة 425 هـ/1033م أدت إلى تدمير معظم ما عمر في عهد المهدي، حتى قام الخليفة الفاطمي الظاهر لإعزاز دين الله بترميمه في سنة 426 هـ/1034م: فقام باختصاره على شكله الحالي، وذلك عن طريق حذف أربعة أروقة من جهتيه الغربية والشرقية، كما قام بترميم القبة وزخارفها من الداخل.

وقد أشير لترميماته هذه من خلال نقشه التذكاري الموجود والذي جاء فيه ما نصه: بسم الله الرحمن الرحيم. نصر من الله لعبد الله ووليه أبي الحسن علي الإمام الظاهر لإعزاز دين الله أمير المؤمنين صلوات الله عليه وعلى آبائه الطاهرين وأبنائه الأكرمين. أمر بعمل هذه القبة وإذهابها سيدنا الوزير الأجل صفي أمير المؤمنين وخاصته أبو القاسم علي بن أحمد بن أحمد أيده الله ونصره وكمل جميع ذلك إلى سلخ ذي القعدة سنة ست وعشرين وأربعمائة. صنعة عبد الله بن الحسن المصري المزوق.

وقد أشاد الرحالة ناصر خسرو في كتابه سفر نامه بازدهار المدينة وكثرة النشاط فيها وأن فيها سوقا كبيرة وجميلة بها كثير من الصناع وأن أرضها مبلطة بالحجارة، كما ذكر أن بها مستشفى عظيما عليه أوقاف طائلة.
وبذلك بقيت القدس عامة والمسجد الأقصى وقبة الصخرة خاصة محط اهتمام الخلفاء والحكام والولاة طوال عهود الدولة الإسلامية، نسأل الله أن يهدي له من يكمل مهمتهم بتعميره والعناية المعمارية به وقبله بالصلاة فيه إلى أن يقضي الله بتحريره من أيدي غاصبيه.