جامع الزيتونة هو ثاني الجوامع التي أقيمت بإفريقية بعد جامع عقبة بن نافع بالقيروان. وينسب أمر تشييده عام 116 ه إلى عبيد الله بن الحبحاب كما ينسب إلى حسّان بن النعمان فاتح تونس وقرطاجنة فيكون أمر بنائه لأول مرة سنة 79 ه ، وهذا هو الأرجح حسب أغلب المؤرخين لأنه لا يحتمل أن تكون مدينة تونس قد بقيت بدون جامع بين فتحها وبين سنة 116ه وبناء على هذا فإن عبيد الله بن الحبحاب يكون قد أتم فقط عمارة الجامع وزاد في ضخامته. لقد اختلفت الروايات حول تحديد من قام ببناء هذا الجامع الذي بات ذكر تونس مقترنا به ، ومكّن افريقية من سبق تأسيس أول جامعة علمية اسلامية.في التاريخ الاسلامي فالبكري في كتابه "المسالك والممالك" وابن خلدون في كتابه " العبر" وكذلك السرّاج صاحب "الحلل السندسيّة في تاريخ البلاد التونسيّة" وحسن حسني عبد الوهاب في كتابه "خلاصة تاريخ تونس" يرون أن باني الجامع هو عبيد الله ابن الحبحاب سنة (114 ه أو 116 ه / 731 م). أما المؤرخ التونسي أحمد بن أبي الضياف في كتابه "اتحاف أهل الزمان بأخبار ملوك تونس وعهد الأمان" فإنه يرى أن بانيه هو حسّان بن النعمان سنة (84 ه). وقد أصاب ابن أبي دينار في كتابه (المؤنس في تاريخ إفريقية وتونس) حين غزا تأسيس المسجد إلى حسان بن النعمان والزيادة في ضخامته إلى عبيد الله بن الحبحاب. وهناك من يرى أن حسّان بن النعمان قد بنى مجسدا صغيرا بالقرب من جامع الزيتونة ومن ثمّ فإنّ فكرة تأسيس المسجد يمكن أنّها كانت لحسّان لكن البناء لم يبدأ إلا في عهد عبيد الله. واختلف المؤرخون أيضا في تحديد سنة بناء الجامع ، فمنهم من قال ان ذلك كان سنة (114 ه) إلا أن البعض وبالرّجوع الى تاريخ دخول ابن الحبحاب الى افريقية واليا عليها (116 123 ه/736 742م) رجّح أن يكون تاريخ بناء جامع الزيتونة هو سنة (116 ه) وقد رجح ابن أبي الضياف في كتابه "الاتحاف" هذا الرأي الذي تؤكده جلّ المؤلفات المشرقية منها كتاب "الكامل" لابن الاثير. لكن الثابت والأكيد أن أمراء الدولة الاغلبية في القرن الثالث الهجري قد قاموا بتوسيعه وتحسين هندسته وزخرفته ومرافقه. يقول عنه السّراج في كتابه "الحلل السندسية" : "جامع الزيتونة مسجد اذا بدا لك تبلّج نوره اللامع أيقنت أنه الجامع المفرد والمفرد الجامع… ما سرح ناظر المؤمن في أثنائه الا امتلأ علما من بادرات ثنائه يحاكي بجماله أجمل عروس صيغ لها من معادن الطروس قائد حلق الدروس ، لا عيب فيه غير أنه غدا بين أقرانه بمرتبة الصدر واختص بأن يشرح لوارديه الصدر فما ضاق صدر مهموم ودخله إلاّ انفرج وانفتحت له بلطيف عنايته أبواب الفرج". من جهته ذكر العالم الطرابلسي محمد بن مصطفى الأزهري إثر زيارته الى تونس وقد أورده ابن دينار في كتابه "المؤنس" : "لو سئلت عن ثلاث لأجبت بلا ولو قطع رأسي لو قيل لي هل رأيت أسرّ من جامع الزيتونة لقلت لا وهل رأيت أصلح من الشيخ ابراهيم اللقاني لقلت لا وهل رأيت أكرم من حمودة باشا المرادي لقلت لا".