سنحت للأستاذ عبدالعزيز الرفاعي فكرة أدبية وثقافية مبسطة لكنها في الوقت نفسه عميقة الهدف والمعنى والمقصد ألا وهي إصدارات "المكتبة الصغيرة" وذلك عام 1389ه الموافق للعام 1969م، وكان أولها عنوانه "توثيق الارتباط بالتراث العربي" وهو أطروحة أو محاضرة ألقاها الأديب الرفاعي في مؤتمر أدباء العرب السابع المنعقد في بغداد في صفر 1389م ابريل 1969م، وبغض النظر عن هذا الظرف الثقافي إلا أن الفكرة الثقافية الكبيرة هي في إنشاء المكتبة الصغيرة المعتبرة بمعناها الكبير الذي استمر طويلاً حتى سنة رحيله رحمه الله سنة 1414ه. وكان الترتيب الموضوعي للمكتبة الصغيرة يسير على الكتابة والطرح حول أعلام الأمة الإسلامية والعربية أمثال الصحابي الأديب كعب بن مالك الذي كتب عنه الأستاذ نفسه في هذه السلسلة، وكان لاختياراته أهمية موضوعية في الثقافة والأدب والمعرفة، وقد فتح لذلك أبواب هذه المكتبة الصغيرة حجماً والعميقة هدفاً والكبرى موضوعاً كما قال الشيخ عبدالله عبدالغني خياط إمام وخطيب المسجد الحرام رحمه الله، عنها. من ذلك كتاب "من أجل الشباب" لمؤلفه الأستاذ أحمد محمد جمال، وله كذلك بنفس السلسلة كتاب "كرائم النساء" الذي يحوي تراجم مبسطة عن أمهات المؤمنين أمثال بعض عمات النبي وزوجاته عليهن السلام، وكان هذا الإصدار في شهر شعبان 1395ه- أغسطس 1975م. وهي مشاركات أدبية من قبل بعض أدبائنا وكتابنا ومنهم الأستاذ علي حافظ الذي كتب في هذه المكتبة عن "سوق عكاظ" في شهر رجب 1396ه - شهر يوليو 1976م. وصادف هذه الإصدارات أن الساحة الثقافية كانت بحاجة إليها وإلى أمثالها فأنعشت هذا الركود الأدبي، حيث إن إصدارات المكتبة الصغيرة تظهر في أول كل شهر عربي مبارك. وبذلك أدت رسالتها المعنوية والفكرية والمعرفية، وخذ مثلاً على ذلك هذه العناوين: "الحج في الأدب العربي" "ضرار بن الأزور" "سوق عكاظ" "كرائم النساء" "كعب بن مالك الصحابي الأديب" "الإمام الشافعي الفقيه الأديب" فإنها تدلك على موسوعية المعرفة والنشر والإصدار عند عبدالعزيز الرفاعي، الذي لم يأل جهداً خاصة وإن هذا المشروع الثقافي يأخذ منه الكثير مادياً ومعنوياً إلا أنه قد استمر وكافح في سبيل نشر المعرفة والثقافة والأدب إلى الرمق الأخير كما يقال في الأمثال. عبدالعزيز الرفاعي إن عبدالعزيز الرفاعي من كبار أدبائنا العرب الذين رفعوا الراية الثقافية عالية في سبيل نشر العلوم والآداب والفنون لا على المستوى المحلي فحسب ولكن على مستوى أكبر من ذلك من المحيط إلى الخليج، بل إلى ما وراء البحار إذا جاز التعبير. وهناك عوامل خلف هذا المشروع الثقافي أو قل إن ذلك المشروع يعود إلى شغف الأستاذ الرفاعي بالتاريخ وكتاباته وبالثقافة وموضوعاتها وبالأدب وعناصره، كل ذلك يتفق مع العشق التاريخي والشخصي عند الرفاعي، في كتابته لتاريخ التراث العربي والفكر الإسلامي، ونضرب مثلاً على ذلك العشق أنه رحمه الله محب لقاموس الأعلام لخير الدين الزركلي المكون في ثمانية أجزاء مجلدات، فكان يضع نسخة من هذا القاموس في كل من الرياضوجدة والأندلس، حيث يرى أهمية هذه الموسوعة التاريخية الحافلة بالعلم والمعرفة والثقافة والتاريخ والأدب والتراث على وجه عام، من هنا فهو يرجع إلى هذا الكتاب كلما سنح له الوقت أن يتتبع ترجمة شخصية لأديب أو مؤرخ أو علم من الأعلام. وهذا مثل وددت أن أضرب به على موسوعة "المكتبة الصغيرة" دائرة المعارف الثقافية الكبرى التي تحتوي على الإصدارات الأكثر عدداً والأعمق هدفاً، حيث تعد بالعشرات لوحدها سوى مشروعات الرفاعي الثقافية المتعددة، مثل: "السلسلة الشعرية" و "المصابيح" وسوى ذلك مما يدل على التعدد الثقافي والعلمي والأدبي والديني عند عبدالعزيز أحمد الرفاعي، وأن ذلك ينم عن سعة أفقه الثقافي والديني واطلاعه الواسع على التراث.. التراث الفكري للأمة الإسلامية والعربية وآدابها ومعارفها على أية حال. إن الرفاعي كان رجلاً يدرك بحدسه أبعاد التاريخ الإنساني والاجتماعي والأممي. مما جعله يفكر في أكثر من فكرة وفي المشاريع الثقافية فكرة خلف فكرة ومشروعا خلف مشروع، ومن هنا استطاع تجاوز الصعاب والعراقيل والمعوقات التي وقفت في طريقة إلا أنه استطاع بعزمه وتوفيق الله أن يكون هذه المكتبة التي تشكلت عبر العقود من السنين والأزمان. وعلى الرغم من ذلك فإن عبدالعزيز الرفاعي صاحب نظرات ورؤية نحو التاريخ هي فلسفته فيها، وكأنه بذلك قد تأثر بابن خلدون المؤرخ والمفكر خاصة في مقدمته المشهورة، ومن يريد أن يقف على ذلك فلينظر في مؤلفات الرفاعي، سواء التي في سلسلة المكتبة أو كناشاته التي ضمها بين دفتين، وفي مقدماته التي كتبها لاصدارات هذه المكتبة كذلك، حيث نشتم الرائحة التاريخية الخلدونية فيها. على أن التاريخ ليس أحداثاً وتعبيراً عنها فحسب وإنما هو سجل موضوعي وموسوعي شاسع وهذا يشكل فلسفة عبدالعزيز الرفاعي للتاريخ رحمه الله.