يقع مسجد أحمد بن طولون فوق ربوة صخرية كانت تعرف باسم «جبل يشكر»، نسبة إلى رجل صالح كان يدعى بذلك.. وتروي قصة أن جبل يشكر مشهور بإجابة الدعاء، لأن موسى عليه السلام ناجى ربه من عليه، فاختار ابن طولون هذا الوضع لبناء جامعه العظيم بمبانيه الواسعة ومنارته الفريدة الواقع في مدينة القطائع التي كانت عاصمة حكم ابن طولون وهو ثالث مسجد يبنى في القاهرة الإسلامية، كما يعد أقدم مسجد إسلامي في مصر باقيا على حالته الأصلية إلى الآن، وكان هذا المسجد يعرف باسم «المسجد الجديد» أيام أحمد بن طولون، تمييزا له عن مسجد عمرو بن العاص. بدأ بناء المسجد في سنة (263ه) اكتمل في رمضان (265ه) كما هو مدون على لوحة حجرية مثبتة على إحدى الدعامات في المسجد منقوشة بالخط الكوفي. هناك العديد من القصص التي يرويها المؤرخون بشأن ذلك المسجد الذي عمر في عهد الخليفة الفاطمي «المستنصر بالله»، بعد ما أصابه من خراب في عام 470ه، وقد أُلصقت به بعض الدعامات للصلاة، إحداها كان في عصر الملك الأفضل وزير المستنصر بالله سنة (487ه 1094م)، كما أمر السلطان «لاجين» بإقامة القبة التي تعلو المحراب والفسقية التي تتوسط الصحن من الجص. ويعتبر مسجد طولون أكثر مساجد القاهرة اتساعا، حيث يبلغ طول كل ضلع من أضلاعه 1062 مترا تقريبا، ويشغل مساحة قدرها ستة أفدنة ونصف الفدان، و يتكون من صحن تحيط به أربع مظلات أكبرها مظلة القبلة، ويحتوي رواق القبلة على خمسة صفوف من البوائك، والأروقة الأخرى تحتوى على صفين من البوائك. وفي المسجد ثلاث زيادات تحيط بجوانب المسجد طولها من الشرق إلى الغرب 122 مترا. أما الصحن فطول كل ضلع من أضلاعه 92 مترا تقريبا، ويتوسطه نافورة محاطة بجدران قائمة على قاعدة مستطيلة طولها 14 مترا، وعرضها 13 مترا تقريبا، وتحيط به مجنبتان في الشرق والغرب، وينقسم الرواقان الممتدان في مؤخرة المسجد إلى 17 مربعة، يحدها صفان من الدعامات بكل صف منها 16 دعامة، ويتوسط جدار القبلة محراب ابن طولون، وهو محراب مجوف يحف به من كل جانب عمودان متلاصقان. وللمسجد أبواب فتحت في جدرانه، لتيسير الدخول والخروج، أما المئذنة فتقع في الزيادة الشمالية، وتلتصق بجدارها في موضع يقابل ما بين البابين الثالث والرابع.