8 ملايين زائر يعيشون السعادة في "موسم الرياض 2024"    إسرائيل تُدخل الجيش اللبناني في دائرة غاراتها    الاتحاد يعتلي صدارة الدوري السعودي للمحترفين عقب فوزه على الفتح    محافظ جدة يواسي آل كامل وآل يماني في فقيدتهما    حرفيون سعوديون يشكلون تاريخ وحكايات المدن على الجبس    وزير الثقافة يرعى حفل تكريم الفائزين بجائزة مجمع الملك سلمان العالمي للغة العربية في دورتها الثالثة    دمتم مترابطين مثل الجسد الواحد    السلفية والسلفية المعاصرة    الرياض يتعادل سلبياً مع الاتفاق في دوري روشن للمحترفين    أمير الرياض يفتتح المؤتمر العالمي للموهبة والإبداع في نسخته الثالثة    برنامج خادم الحرمين للعمرة والزيارة يقيم لقاءً علميًا عن مناسك العمرة    نائب وزير الخارجية يستقبل المبعوث الأمريكي الخاص للسودان    صلاح يقلب تأخر ليفربول أمام ساوثهامبتون ويقوده للتحليق في قمة الدوري الإنجليزي    بيولي: اعتدنا على ضغط المباريات وهذه الحالة الوحيدة لمشاركة رونالدو    موجة نزوح جديدة في غزة.. إسرائيل تهجر سكان «الشجاعية»    شتوية عبور" تجمع 300 طفل بأجواء ترفيهية وتعليمية بمناسبة اليوم العالمي للطفل    حلبة كورنيش جدة تستضيف برنامج فتيات    بعد أداء مميز في قطر والقصيم.. معاذ حريري يتأهب للمشاركة في رالي دبي    أمير الشرقية يرعى ملتقى "الممارسات الوقفية 2024"    انطلاق معسكر "إخاء الشتوي" تحت شعار "فنجال وعلوم رجال" في منطقة حائل    شفاعة ⁧‫أمير الحدود الشمالية‬⁩ تُثمر عن عتق رقبة مواطن من القصاص    شركة سناب تعزز حضورها في السعودية بافتتاح مكتب جديد وإطلاق «مجلس سناب لصناع المحتوى»    وكالة الفضاء السعودية تدشن "مركز مستقبل الفضاء"    مستشفى أبها للولادة والأطفال يُقيم فعالية "اليوم العالمي للإلتهاب الرئوي"    أمير الرياض يكلف الغملاس محافظا للمزاحمية    هل تؤثر ملاحقة نتنياهو على الحرب في غزة ولبنان؟    برنامج الغذاء العالمي: وصول قافلة مساعدات غذائية إلى مخيم زمزم للنازحين في دارفور    الجوال يتسبب في أكثر الحوادث المرورية بعسير    أمير القصيم يستقبل الرئيس التنفيذي لهيئة تطوير محمية الإمام تركي بن عبدالله الملكية    منتدى المحتوى المحلي يختتم أعماله بحضور أكثر من 6 آلاف زائر وتوقيع 44 اتفاقية    أمير الرياض يفتتح المؤتمر الدولي للتوائم الملتصقة    موقف توني من مواجهة الأهلي والعين    اكثر من مائة رياضيا يتنافسون في بطولة بادل بجازان    «هيئة الإحصاء»: ارتفاع الصادرات غير النفطية 22.8 % في سبتمبر 2024    "السجل العقاري" يبدأ تسجيل 90,804 قطع عقارية بمدينة الرياض والمدينة المنورة    التدريب التقني والمهني بجازان يفتح باب القبول الإلكتروني للفصل الثاني    تحت رعاية ولي العهد.. السعودية تستضيف غداً مؤتمر الاستثمار العالمي لعام 2024م في الرياض    أمر ملكي بتعيين 125 «مُلازم تحقيق» على سلك أعضاء النيابة العامة القضائي    التعليم تعلن عن تطوير إجراءات نقل المعلمين من خلال برنامج فرص    اقتصادي / الهيئة العامة للأمن الغذائي تسمح لشركات المطاحن المرخصة بتصدير الدقيق    الأرصاد: أمطار غزيرة على عدد من المناطق    لماذا رفعت «موديز» تصنيف السعودية المستقبلي إلى «مستقر» ؟    مسودة "كوب29" النهائية تقترح 300 مليار دولار سنويا للدول الفقيرة    «مجمع إرادة»: ارتباط وثيق بين «السكري» والصحة النفسية    محمية الأمير محمد بن سلمان تكتشف نوعاً جديداً من الخفافيش    «واتساب» يتيح التفريغ النصي للرسائل الصوتية    بحضور سمو وزير الثقافة.. «الأوركسترا السعودية» تتألق في طوكيو    القِبلة    تحفيزًا للإبداع في مختلف المسارات.. فتح التسجيل في الجائزة السنوية للمنتدى السعودي للإعلام    فعاليات متنوعة    "الحياة الفطرية" تطلق 26 كائنًا مهددًا بالانقراض في متنزه السودة    القبض على مقيم لاعتدائه بسلاح أبيض على آخر وسرقة مبلغ مالي بالرياض    فرع وزارة الصحة بجازان يطلق حزمة من البرامج التوعوية بالمنطقة    المدى السعودي بلا مدى    إبر التنحيف وأثرها على الاقتصاد    «سلمان للإغاثة» ينظم زيارة للتوائم الملتصقة وذويهم لمعرض ترشح المملكة لاستضافة كأس العالم 2034    قرار التعليم رسم البسمة على محيا المعلمين والمعلمات    وزير الدفاع يستعرض علاقات التعاون مع وزير الدولة بمكتب رئيس وزراء السويد    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



روبوتات الذكاء الاصطناعي تصطدم بكوارث الأمن والخصوصية
نشر في الوطن يوم 19 - 04 - 2023

تتسابق شركات التكنولوجيا لتضمين نماذج لغة الذكاء الاصطناعي في العديد من المنتجات لمساعدة الأشخاص على القيام بكل شيء بدءًا من حجز الرحلات إلى تنظيم التقويمات الخاصة بهم لتدوين الملاحظات في الاجتماعات.
لكن الطريقة التي تعمل بها هذه المنتجات - تلقي التعليمات من المستخدمين ثم البحث في الإنترنت عن إجابات - تخلق الكثير من المخاطر الجديدة. باستخدام الذكاء الاصطناعي، يمكن استخدامها في جميع أنواع المهام الخبيثة، بما في ذلك تسريب المعلومات الخاصة للأشخاص ومساعدة المجرمين في التصيد الاحتيالي والبريد العشوائي والاحتيال. يحذر الخبراء من أننا نتجه نحو «كارثة» تتعلق بالأمن والخصوصية.
بوت السناب
واجه مستخدمو «سناب شات» تحذيرات بشأن «بوت السناب» الذي أثار اهتمام مستخدمي التطبيق مؤخرا، ولاقى تفاعلا في مواقع التواصل الاجتماعي، حيث أضافت الشركة روبوت دردشة يعمل بالذكاء الاصطناعي «My AI»، ورأى العديد أنه سيضيف لهم المتعة من خلال الفضفضة والمحادثات فيما اعتبره آخرون مهددا للخصوصية.
تحميل إجباري
كشف راكان الروقي المهتم بأمن البيانات أن الروبوت كان في السابق إجباريا والآن لم يعد كذلك وبالإمكان حذفه من خلال الدخول على إعدادات الدردشة في السناب ومن ثم المسح من موجز الدردشة، والسبب في كونه لم يعد إجباريا هو تأثير الجمهور أو المستخدم أو العامة بشكل عام لأنهم هم بالأساس القوة ومن يقرر فهم من يزود الشركات بالمادة، بمعنى أنه لو لم يكن المستخدم موجودا بالتالي لا يمكن للشركات أن تستمر، لذلك رأوا أن يكون اختياريا خوفا على معلومات الأشخاص وأيضا وعيهم بالحفاظ على الخصوصية.
مخاطر عامة
أشار إلى أن تقنيات الذكاء الاصطناعي موجودة سابقا وليست بحديثة، وكانت تستخدم في التطبيقات التي نستخدمها في حياتنا اليومية، ونتعايش معها وأقرب مثال ظهور الإعلانات أو الصفحات المفضلة لنا، وهذه أمور قديمة فيما يتعلق بأنظمة الذكاء الاصطناعي، لكن دخول هذه الأنظمة والنماذج للعامة الآن بها مخاطر فعليا على الخصوصية. وفيما يتعلق بأنظمة روبورت السناب لو تم طرح أسئلة معينة عليه ستكون الإجابة بدعم أجندة خارجية وسياسات تضعها الشركات المسؤولة، بينما البيانات هذه ممكن أن يتم تسجيلها لدى الشركة ذاتها وهذه أخطر من روبورت السناب بمراحل خصوصا النماذج المتقدمة منها.
كسر الحماية
نماذج لغة الذكاء الاصطناعي التي تشغل روبوتات المحادثة مثل ChatGPT و Bard و Bing تنتج نصا يقرأ مثل شيء كتبه إنسان. إنهم يتبعون التعليمات أو «المطالبات» من المستخدم ثم يولدون جملة من خلال التنبؤ، على أساس بيانات التدريب الخاصة بهم، بالكلمة التي من المرجح أن تتبع كل كلمة سابقة. لكن الشيء الذي يجعل هذه النماذج جيدة جدًا - حقيقة أنها تستطيع اتباع التعليمات - يجعلها أيضًا عرضة لسوء الاستخدام. يمكن أن يحدث ذلك من خلال «الحقن الفوري»، حيث يستخدم شخص ما محفزات توجه نموذج اللغة لتجاهل الاتجاهات السابقة وحواجز الأمان.
المساعدة في الاحتيال والتصيد
هناك مشكلة أكبر بكثير من جيلبريك التي تنتظرنا. في أواخر مارس، أعلنت شركة OpenAI أنها تسمح للأشخاص بدمج ChatGPT في المنتجات التي تتصفح الإنترنت وتتفاعل معها. تستخدم الشركات الناشئة هذه الميزة بالفعل لتطوير مساعدين افتراضيين قادرين على اتخاذ إجراءات في العالم الحقيقي، مثل حجز الرحلات الجوية أو وضع الاجتماعات في تقاويم الأشخاص. يقول فلوريان ترامير، الأستاذ المساعد لعلوم الكمبيوتر في ETH Zürich الذي يعمل في أمن الكمبيوتر والخصوصية والتعلم الآلي: «أعتقد أن هذا سيكون كارثة إلى حد كبير من منظور الأمان والخصوصية». نظرا لأن المساعدين الافتراضيين المحسّنين بالذكاء الاصطناعي يكشطون النصوص والصور من الويب، فهم منفتحون على نوع من الهجوم يسمى الحقن الفوري غير المباشر، حيث يغير طرف ثالث موقع الويب عن طريق إضافة نص مخفي يهدف إلى تغيير سلوك الذكاء الاصطناعي. يمكن للمهاجمين استخدام وسائل التواصل الاجتماعي أو البريد الإلكتروني لتوجيه المستخدمين إلى مواقع الويب التي تحتوي على هذه المطالبات السرية. بمجرد حدوث ذلك، يمكن التلاعب بنظام الذكاء الاصطناعي للسماح للمهاجم بمحاولة استخراج معلومات بطاقة ائتمان الأشخاص، على سبيل المثال.
يمكن للجهات الخبيثة أيضًا إرسال بريد إلكتروني إلى شخص ما يحتوي على حقنة فورية مخفية فيه. إذا كان المتلقي يستخدم مساعدًا افتراضيًا للذكاء الاصطناعي، فقد يتمكن المهاجم من التلاعب به لإرسال معلومات شخصية للمهاجم من رسائل البريد الإلكتروني للضحية، أو حتى إرسال بريد إلكتروني إلى الأشخاص الموجودين في قائمة جهات اتصال الضحية نيابة عن المهاجم.
يقول أرفيند نارايانان، أستاذ علوم الكمبيوتر بجامعة برينستون: «بشكل أساسي، يمكن لأي نص على الويب، إذا تمت صياغته بالطريقة الصحيحة، أن يجعل هذه الروبوتات تسيء التصرف عندما تصادف ذلك النص».
تسمم البيانات
وجد باحثون أنه كان من الممكن تسميم مجموعة البيانات التي تدخل في تدريب نماذج الذكاء الاصطناعي الكبيرة. مقابل 60 دولارًا فقط، تمكنوا من شراء المجالات وملؤها بالصور التي يختارونها، والتي تم تجميعها بعد ذلك في مجموعات بيانات كبيرة. كانوا أيضًا قادرين على تحرير وإضافة جمل إلى إدخالات Wikipedia التي انتهى بها الأمر في مجموعة بيانات نموذج AI.
لجعل الأمور أسوأ، كلما تكرر شيء ما في بيانات التدريب لنموذج الذكاء الاصطناعي، كلما أصبحت الرابطة أقوى. يقول ترامير إنه من خلال تسميم مجموعة البيانات بأمثلة كافية، سيكون من الممكن التأثير على سلوك النموذج ومخرجاته إلى الأبد. لم يتمكن فريقه من العثور على أي دليل على هجمات تسمم البيانات، لكن ترامير يقول إنها مسألة وقت فقط، لأن إضافة روبوتات المحادثة إلى البحث عبر الإنترنت تخلق حافزًا اقتصاديًا قويًا للمهاجمين.
لا إصلاحات
تدرك شركات التكنولوجيا هذه المشاكل. لكن لا توجد حاليًا حلول جيدة، كما يقول سايمون ويليسون، الباحث المستقل ومطور البرامج، الذي درس الحقن الفوري.
رفض المتحدثون باسم Google و OpenAI التعليق عندما تم سؤالهم عن كيفية إصلاح هذه الثغرات الأمنية.
تقول Microsoft إنها تعمل مع مطوريها لمراقبة كيفية إساءة استخدام منتجاتهم والتخفيف من هذه المخاطر. لكنه يعترف أن المشكلة حقيقية، ويتابع كيف يمكن للمهاجمين المحتملين إساءة استخدام الأدوات.
يقول رام شانكار سيفا كومار، الذي يقود جهود مايكروسوفت الأمنية في مجال الذكاء الاصطناعي: «لا يوجد حل سحري في هذه المرحلة». ولم يعلق على ما إذا كان فريقه قد وجد أي دليل على الحقن الفوري غير المباشر قبل إطلاق Bing.


انقر هنا لقراءة الخبر من مصدره.