تتميز المساجد في الجزائر والتي يعود القليل منها لأوائل الفتح الاسلامي مع مطلع القرن الثامن الميلادي بالبساطة الشديدة. ولكن مع مسحة أخاذة من الجمال بعيدا عن البهرجة أو التكلف. وتكشف الحفريات وتنقيبات علماء الأثريات الحديثة عن بعض المساجد الصغيرة التي اندثرت بمرور الزمن ومع موجات الاحتلال الاستعماري المتتابعة مع نهاية القرن الثامن عشر. وقد ارتبطت نشأة هذه المساجدالصغيرة في معظم الأحيان بنشأة بعض المدن الصغيرة مثل مدينة عشير في القرن العاشر. كما تعد بعض المساجد الصغيرة التي تم التنقيب عنها من اقدم المساجد بمنطقة شمال افريقيا أو بلاد المغرب العربي المعروفة حاليا. ومن المساجد التي أقيمت في القرن الحادي عشر مسجد صغير يدعى «سيدي ابو مروان» أنشأه الزيريون في مدينة عنابة، ولكن تم تحويله لمستشفى أيام الاحتلال الفرنسي للمدينة ومن ثم تدهورت حالته المعمارية. ويذكر هذا المسجد الصغير ببعض تفاصيله اللطيفة بمسجد القرويين بفاس وتذكر قبته بتلك القبة في مسجد بين الخاوي بسوسة. أما المرابطون الذين قدموا من المغرب الأقصى فقد شيدوا العديد من المساجد منها بتلمسان وتميزت عمارة مسجدهم بادخال الأقواس المنكسرة التي لم نلحظها في أي من عمارة الم ساجد السابقة، ومنها انتقلت إلى الأندلس في مسجد قرطبة. لكن المرابطين لم يقتصروا على استعمال الأقواس الأندلسية ذات الخمس تقسيمات بل استعملوا أقواسا ذات سبعة وتسعة وإحدى عشرة تقسيمة في المساجد التي بنوها. وسار الموحدون بعدهم على نفس المنوال حيث استعمل أحد مهندسي الموحدين المشهورين علي ابو يوسف أقواساً في غاية الجمال رغم انها بسيطة للغاية. ومن أهم الابتكارات التي برع فيها مهندسو الموحدين هي الطريقة التي تم بها الانتقال من تاج العمود إلى القوس حيث أوجدوا ما يسمى «الزخرف الالتوائي». وكذلك كان المرابطون أول من أعطى المحراب شكله السداسي، بالإضافة إلى استعمالهم للقبة أعلى المحراب. وكذلك باستعمالهم لكوات ثلاثة ذات زخرفة زهرية في القسم الأوسط لمشكاة المحراب، بالإضافة إلى استعمالهم للخط الكوفي بكتابة آيات قرآنية أعلى المحراب. ونجد مثلا في مسجد تلمسان المتميز قبة صغيرة تعتبر من أجمل ما أبدعه المرابطون في عمارتهم بالمغرب، وهم أول من ادخل الزخرفة على القباب المستعملة في المساجد. وهكذا نجد ان هناك ثمة عناصر في عمارة المساجد قد أدخلت على يد المرابطين والموحدين بشمال المغرب العربي ومنها انتقل إلى بلاد الأندلس وبقية أنحاء العالم الاسلامي وأصبحت جزءا من العمارة المسجدية في الاسلام.