غياب الأمان في نموذج Google الاصطناعي

بعد أسابيع من إطلاق شركة التكنولوجيا الأمريكية قوقلأقوى نموذج ذكاء اصطناعي لديها حتى الآن، جيميني 2.5 برو، نشرت الشركة تقريرًا فنيًا يوضح نتائج تقييماتها الداخلية لعوامل السلامة والأمان في النموذج. ومع ذلك، يقول الخبراء إن التقرير يفتقر إلى التفاصيل، مما يُصعّب تحديد المخاطر التي قد يُشكّلها النموذج.
وأشار موقع تك كرانش المتخصص في موضوعات التكنولوجيا إلى أن التقارير الفنية للشركات عن نماذج الذكاء الاصطناعي الخاصة بها تقدم معلومات مفيدة - وإن كانت غير مُرضية أحيانًا ولا تعلن عنها الشركات دائمًا على نطاق واسع، في حين يرى مجتمع الذكاء الاصطناعي هذه التقارير جهودًا صادقة لدعم الأبحاث المستقلة وتقييمات السلامة.
ومع ذلك، أعرب العديد من الخبراء الذين تحدث معهم موقع «تك كرانش» عن خيبة أملهم من افتقاد تقرير نموذج الذكاء الاصطناعي جيمني 2.5 برو للكثير من التفاصيل المهمة، ومنها أنه لا يذكر إطار عمل السلامة من قوقلالذي قدمته الشركة في العام الماضي كمحاولة لتحديد قدرات الذكاء الاصطناعي المستقبلية، التي قد تُسبب «ضررًا جسيمًا».
وقال بيتر وايلدفورد، المؤسس المشارك لمعهد سياسات وإستراتيجيات الذكاء الاصطناعي: «هذا التقرير مشتت، ويحتوي على معلومات ضئيلة، وقد صدر بعد أسابيع من إتاحة النموذج للجمهور»، مضيفا أنه «من المستحيل التحقق مما إذا كانت قوقلتفي بالتزاماتها العامة، وبالتالي من المستحيل تقييم سلامة وأمن نماذجها».
وقال توماس وودسايد، المؤسس المشارك لمشروع سورس أيه.آي، إنه على الرغم من سعادته بنشر قوقلتقريرًا عن جيمني 2.5 برو، إلا أنه غير مقتنع بالتزام الشركة بتقديم تقييمات سلامة إضافية في الوقت المناسب. وأشار وودسايد إلى أن آخر مرة نشرت فيها قوقلنتائج اختبارات القدرات الخطيرة كانت في يونيو الماضي وكان خاصا بنموذج ذكاء اصطناعي أُعلن عنه في فبراير من العام نفسه.