قام المجلس الإسلامي الأعلى بتأسيس المتحف الإسلامي عام 1341هـ/1923م، وفي البداية كان مقر المتحف يقع في الرباط المنصوري بالقرب من باب الناظر، ومن ثم انتقل المتحف الى مقره الحالي الواقع في الجزء الجنوبي الغربي من المسجد الأقصى المبارك بالقرب من باب المغاربة.