قام المجلس الإسلامي الأعلى بتأسيس المتحف الإسلامي عام 1341هـ/1923م، وفي البداية كان مقر المتحف يقع في الرباط المنصوري بالقرب من باب الناظر، ومن ثم انتقل المتحف الى مقره الحالي الواقع في الجزء الجنوبي الغربي من المسجد الأقصى المبارك بالقرب من باب المغاربة.
ويتكون المتحف الإسلامي من قاعتين تشكلان زاوية قائمة، حيث كان مبنى القاعة الغربية يعرف قديما باسم مسجد المغاربة، بينما تشكل القاعة الجنوبية جزءا من مسجد النساء. وتضم معروضات المتحف مجموعة من أندر وأثمن المقتنيات التاريخية الإسلامية حيث تؤرخ هذه المعروضات لتاريخ المسجد الأقصى منذ الفتح العمري حتى الآن. كما يمتلك المتحف مجموعة من المخطوطات النادرة للقرآن الكريم والتي يرجع تاريخ أقدمها للقرن 2هـ/ 8م، إضافة إلى نسخة نادرة من القرآن الكريم أمر بتخطيطها السلطان المملوكي برسباي بين 825-840هـ/1422-1437م، وتعد أكبر نسخة من القرآن الكريم موجودة في فلسطين حيث تبلغ أبعادها 110سم X 170سم.