«الفيدرالي الأميركي» يخفض الفائدة 25 نقطة أساس    الاتحاد يهزم العروبة ويخطف الصدارة «مؤقتاً»    ضبط شخصين في جدة لترويجهما (2) كيلوجرام من مادة الحشيش المخدر    السعودية تؤكد ضرورة اتخاذ إجراءاتٍ فعّالة للقضاء على الجوع وتلبية الطلب المتزايد على الغذاء حول العالم    شرطة النماص تباشر «إطلاق نار» على مواطن نتج عنه وفاته    «السوق المالية»: إدانة 3 بمخالفة نظام السوق المالية ولوائحه التنفيذية ونظام الشركات وتغريمهم 3.95 مليون ريال وسجن أحدهم    وكيل أعمال سعود عبدالحميد يكشف حقيقة عودة موكله إلى «دوري روشن»    الاتفاق يختتم تحضيرات الهلال    الأولمبياد الخاص السعودي يستعد لاستضافة المجلس الإقليمي للاعبين القادة في جدة    وزير الداخلية يستقبل سفير فرنسا لدى المملكة    سقوط 46 قتيلا.. مجازر إسرائيل مستمرة في قطاع غزة    أستراليا تعتزم حظر استخدام وسائل التواصل الاجتماعي لمن هم تحت سن 16 عاما    «سلمان للإغاثة» يوزع 1.490 من السلال الغذائية والحقائب الصحية في محافظة إدلب    انطلاق أعمال مؤتمر النقد السينمائي الدولي في الرياض    إنطلاق أعمال المؤتمر العالمي لطب الأعصاب بمشاركة اكثر من 350 مختصاً    المربع الجديد يستعرض آفاق الابتكار الحضري المستدام في المؤتمر العالمي للمدن الذكية    جامعة الفيصل توقّع عقد إنشاء مبانٍ لكليتي الهندسة والقانون بقيمة 325 مليون ريال    "سلمان للإغاثة" يوزع 2.459 كرتون تمر في مديرية الوادي بمحافظة مأرب    أمير القصيم يرعى حفل تدشين 52 مشروعا صحيا بالمنطقة بتكلفة بلغت 456 مليون ريال    البنك الأهلي السعودي يطلق محفظة تمويلية بقيمة 3 مليارات ريال خلال بيبان24    حاكم الشارقة يفتتح الدورة ال 43 من معرض الشارقةالدولي للكتاب    فقيه للرعاية الصحية تحقق 195.3 مليون ريال صافي ربح في أول 9 أشهر من 2024 بنسبة نمو 49%    الأمير محمد بن عبدالعزيز يدشّن فعاليات مهرجان شتاء جازان 2025    بانسجام عالمي.. السعودية ملتقىً حيويًا لكل المقيمين فيها    "ماونتن ڤيو " المصرية تدخل السوق العقاري السعودي بالشراكة مع "مايا العقارية ".. وتستعد لإطلاق أول مشاريعها في الرياض    رحيل نيمار أزمة في الهلال    إيلون ماسك يحصل على "مفتاح البيت الأبيض" كيف سيستفيد من نفوذه؟    نائب أمير الشرقية يطلع على جهود اللجنة اللوجستية بغرفة الشرقية    مبادرة لتشجير مراكز إسعاف هيئة الهلال الأحمر السعودي بمحافظة حفر الباطن    أمانة الشرقية: إغلاق طريق الملك فهد الرئيسي بالاتجاهين وتحويل الحركة المرورية إلى الطريق المحلي    أمير الباحة يستقبل مساعد مدير الجوازات للموارد البشرية و عدد من القيادات    محافظ جدة يشرف أفراح آل بابلغوم وآل ناصر    السعودية بصدد إطلاق مبادرة للذكاء الاصطناعي ب 100 مليار دولار    هاريس تلقي خطاب هزيمتها وتحض على قبول النتائج    إصابة فلسطيني برصاص قوات الاحتلال الإسرائيلي خلال اقتحام بلدة اليامون    العام الثقافي السعودي الصيني 2025    المريد ماذا يريد؟    منتخب الطائرة يواجه تونس في ربع نهائي "عربي 23"    أربعينية قطّعت أمها أوصالاً ووضعتها على الشواية    «بنان».. سفير ثقافي لحِرف الأجداد    أمير تبوك يبحث الموضوعات المشتركة مع السفير الإندونيسي    ترمب.. صيّاد الفرص الضائعة!    ربَّ ضارة نافعة.. الألم والإجهاد مفيدان لهذا السبب    رينارد يعلن قائمة الأخضر لمواجهتي أستراليا وإندونيسيا في تصفيات مونديال 2026    الدراما والواقع    سيادة القانون ركيزة أساسية لازدهار الدول    التعاطي مع الواقع    ولي العهد يستقبل قائد الجيش الباكستاني وفريق عملية زراعة القلب بالروبوت    ليل عروس الشمال    التكامل الصحي وفوضى منصات التواصل    تقاعد وأنت بصحة جيدة    الأنشطة الرياضية «مضاد حيوي» ضد الجريمة    الداخلية: انخفاض وفيات حوادث الطرق بنسبة 50%    ولي العهد يستقبل قائد الجيش الباكستاني    تطوير الشرقية تشارك في المنتدى الحضري العالمي    فلسفة الألم (2)    سلام مزيف    همسات في آذان بعض الأزواج    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



روبوتات الذكاء الاصطناعي تصطدم بكوارث الأمن والخصوصية
نشر في الوطن يوم 19 - 04 - 2023

تتسابق شركات التكنولوجيا لتضمين نماذج لغة الذكاء الاصطناعي في العديد من المنتجات لمساعدة الأشخاص على القيام بكل شيء بدءًا من حجز الرحلات إلى تنظيم التقويمات الخاصة بهم لتدوين الملاحظات في الاجتماعات.
لكن الطريقة التي تعمل بها هذه المنتجات - تلقي التعليمات من المستخدمين ثم البحث في الإنترنت عن إجابات - تخلق الكثير من المخاطر الجديدة. باستخدام الذكاء الاصطناعي، يمكن استخدامها في جميع أنواع المهام الخبيثة، بما في ذلك تسريب المعلومات الخاصة للأشخاص ومساعدة المجرمين في التصيد الاحتيالي والبريد العشوائي والاحتيال. يحذر الخبراء من أننا نتجه نحو «كارثة» تتعلق بالأمن والخصوصية.
بوت السناب
واجه مستخدمو «سناب شات» تحذيرات بشأن «بوت السناب» الذي أثار اهتمام مستخدمي التطبيق مؤخرا، ولاقى تفاعلا في مواقع التواصل الاجتماعي، حيث أضافت الشركة روبوت دردشة يعمل بالذكاء الاصطناعي «My AI»، ورأى العديد أنه سيضيف لهم المتعة من خلال الفضفضة والمحادثات فيما اعتبره آخرون مهددا للخصوصية.
تحميل إجباري
كشف راكان الروقي المهتم بأمن البيانات أن الروبوت كان في السابق إجباريا والآن لم يعد كذلك وبالإمكان حذفه من خلال الدخول على إعدادات الدردشة في السناب ومن ثم المسح من موجز الدردشة، والسبب في كونه لم يعد إجباريا هو تأثير الجمهور أو المستخدم أو العامة بشكل عام لأنهم هم بالأساس القوة ومن يقرر فهم من يزود الشركات بالمادة، بمعنى أنه لو لم يكن المستخدم موجودا بالتالي لا يمكن للشركات أن تستمر، لذلك رأوا أن يكون اختياريا خوفا على معلومات الأشخاص وأيضا وعيهم بالحفاظ على الخصوصية.
مخاطر عامة
أشار إلى أن تقنيات الذكاء الاصطناعي موجودة سابقا وليست بحديثة، وكانت تستخدم في التطبيقات التي نستخدمها في حياتنا اليومية، ونتعايش معها وأقرب مثال ظهور الإعلانات أو الصفحات المفضلة لنا، وهذه أمور قديمة فيما يتعلق بأنظمة الذكاء الاصطناعي، لكن دخول هذه الأنظمة والنماذج للعامة الآن بها مخاطر فعليا على الخصوصية. وفيما يتعلق بأنظمة روبورت السناب لو تم طرح أسئلة معينة عليه ستكون الإجابة بدعم أجندة خارجية وسياسات تضعها الشركات المسؤولة، بينما البيانات هذه ممكن أن يتم تسجيلها لدى الشركة ذاتها وهذه أخطر من روبورت السناب بمراحل خصوصا النماذج المتقدمة منها.
كسر الحماية
نماذج لغة الذكاء الاصطناعي التي تشغل روبوتات المحادثة مثل ChatGPT و Bard و Bing تنتج نصا يقرأ مثل شيء كتبه إنسان. إنهم يتبعون التعليمات أو «المطالبات» من المستخدم ثم يولدون جملة من خلال التنبؤ، على أساس بيانات التدريب الخاصة بهم، بالكلمة التي من المرجح أن تتبع كل كلمة سابقة. لكن الشيء الذي يجعل هذه النماذج جيدة جدًا - حقيقة أنها تستطيع اتباع التعليمات - يجعلها أيضًا عرضة لسوء الاستخدام. يمكن أن يحدث ذلك من خلال «الحقن الفوري»، حيث يستخدم شخص ما محفزات توجه نموذج اللغة لتجاهل الاتجاهات السابقة وحواجز الأمان.
المساعدة في الاحتيال والتصيد
هناك مشكلة أكبر بكثير من جيلبريك التي تنتظرنا. في أواخر مارس، أعلنت شركة OpenAI أنها تسمح للأشخاص بدمج ChatGPT في المنتجات التي تتصفح الإنترنت وتتفاعل معها. تستخدم الشركات الناشئة هذه الميزة بالفعل لتطوير مساعدين افتراضيين قادرين على اتخاذ إجراءات في العالم الحقيقي، مثل حجز الرحلات الجوية أو وضع الاجتماعات في تقاويم الأشخاص. يقول فلوريان ترامير، الأستاذ المساعد لعلوم الكمبيوتر في ETH Zürich الذي يعمل في أمن الكمبيوتر والخصوصية والتعلم الآلي: «أعتقد أن هذا سيكون كارثة إلى حد كبير من منظور الأمان والخصوصية». نظرا لأن المساعدين الافتراضيين المحسّنين بالذكاء الاصطناعي يكشطون النصوص والصور من الويب، فهم منفتحون على نوع من الهجوم يسمى الحقن الفوري غير المباشر، حيث يغير طرف ثالث موقع الويب عن طريق إضافة نص مخفي يهدف إلى تغيير سلوك الذكاء الاصطناعي. يمكن للمهاجمين استخدام وسائل التواصل الاجتماعي أو البريد الإلكتروني لتوجيه المستخدمين إلى مواقع الويب التي تحتوي على هذه المطالبات السرية. بمجرد حدوث ذلك، يمكن التلاعب بنظام الذكاء الاصطناعي للسماح للمهاجم بمحاولة استخراج معلومات بطاقة ائتمان الأشخاص، على سبيل المثال.
يمكن للجهات الخبيثة أيضًا إرسال بريد إلكتروني إلى شخص ما يحتوي على حقنة فورية مخفية فيه. إذا كان المتلقي يستخدم مساعدًا افتراضيًا للذكاء الاصطناعي، فقد يتمكن المهاجم من التلاعب به لإرسال معلومات شخصية للمهاجم من رسائل البريد الإلكتروني للضحية، أو حتى إرسال بريد إلكتروني إلى الأشخاص الموجودين في قائمة جهات اتصال الضحية نيابة عن المهاجم.
يقول أرفيند نارايانان، أستاذ علوم الكمبيوتر بجامعة برينستون: «بشكل أساسي، يمكن لأي نص على الويب، إذا تمت صياغته بالطريقة الصحيحة، أن يجعل هذه الروبوتات تسيء التصرف عندما تصادف ذلك النص».
تسمم البيانات
وجد باحثون أنه كان من الممكن تسميم مجموعة البيانات التي تدخل في تدريب نماذج الذكاء الاصطناعي الكبيرة. مقابل 60 دولارًا فقط، تمكنوا من شراء المجالات وملؤها بالصور التي يختارونها، والتي تم تجميعها بعد ذلك في مجموعات بيانات كبيرة. كانوا أيضًا قادرين على تحرير وإضافة جمل إلى إدخالات Wikipedia التي انتهى بها الأمر في مجموعة بيانات نموذج AI.
لجعل الأمور أسوأ، كلما تكرر شيء ما في بيانات التدريب لنموذج الذكاء الاصطناعي، كلما أصبحت الرابطة أقوى. يقول ترامير إنه من خلال تسميم مجموعة البيانات بأمثلة كافية، سيكون من الممكن التأثير على سلوك النموذج ومخرجاته إلى الأبد. لم يتمكن فريقه من العثور على أي دليل على هجمات تسمم البيانات، لكن ترامير يقول إنها مسألة وقت فقط، لأن إضافة روبوتات المحادثة إلى البحث عبر الإنترنت تخلق حافزًا اقتصاديًا قويًا للمهاجمين.
لا إصلاحات
تدرك شركات التكنولوجيا هذه المشاكل. لكن لا توجد حاليًا حلول جيدة، كما يقول سايمون ويليسون، الباحث المستقل ومطور البرامج، الذي درس الحقن الفوري.
رفض المتحدثون باسم Google و OpenAI التعليق عندما تم سؤالهم عن كيفية إصلاح هذه الثغرات الأمنية.
تقول Microsoft إنها تعمل مع مطوريها لمراقبة كيفية إساءة استخدام منتجاتهم والتخفيف من هذه المخاطر. لكنه يعترف أن المشكلة حقيقية، ويتابع كيف يمكن للمهاجمين المحتملين إساءة استخدام الأدوات.
يقول رام شانكار سيفا كومار، الذي يقود جهود مايكروسوفت الأمنية في مجال الذكاء الاصطناعي: «لا يوجد حل سحري في هذه المرحلة». ولم يعلق على ما إذا كان فريقه قد وجد أي دليل على الحقن الفوري غير المباشر قبل إطلاق Bing.


انقر هنا لقراءة الخبر من مصدره.