العالم الاقتصادي- وكالات
قالت “أوبن إيه آي”: إن نظاماً آخر للذكاء الاصطناعي الوكيل، كان يخضع للتدريب في بيئة يُفترض أنها مؤمّنة ومعزولة عن الإنترنت، تمكّن من الوصول إلى الشبكة للتواصل مع روبوت محادثة خارجي تابع لجهة أخرى.
اكتُشفت الواقعة قبل أقل من أسبوع، وفقاً لتدوينة نُشرت يوم الجمعة على موقع “أوبن إيه آي”. وكان أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها يخضع للتدريب في بيئة اختبار معزولة، حين استغل “ثغرة” للوصول إلى الإنترنت العام، وباستخدام هذا الاتصال، أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة لم تُحدد هويتها وتتبع جهة أخرى، من بينها: “ما عاصمة فرنسا؟”، وفقاً لما أظهره التقرير.
وصفت “أوبن إيه آي” الخروج من البيئة المعزولة بأنه أول حادث أمني من نوعه منذ أن تمكنت مجموعة من النماذج من الوصول إلى الإنترنت خلال اختبارات داخلية، واخترقت من دون قصد نظام منصة الذكاء الاصطناعي “هاغينغ فيس” في يوليو.
وقالت مطوّرة الذكاء الاصطناعي: “يمنحنا ذلك مؤشراً مهماً إلى الموضع الذي ينبغي أن نركز عليه في المرحلة المقبلة من هذا العمل”. وأوضحت الشركة أنها قررت، عقب الحادث الأخير، تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرةً إلى حين إصلاح خلل البيئة المعزولة. وأضافت “أوبن إيه آي”: “لن نستأنف تدريب هذا النموذج بعينه”.
وأثارت الاختراقات التي نفذتها نماذج ذكاء اصطناعي طورتها “أوبن إيه آي” و”أنثروبيك” و”ديب مايند” التابعة لشركة “جوجل” و”ميتا بلاتفورمز” خلال الأشهر الأخيرة قلق خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي.
وكانت واقعة “هاغينغ فيس” من بين الأسباب التي ذكرها الرئيس التنفيذي لـ”أنثروبيك” داريو أمودي حين دعا قبل أسبوعين إلى إبطاء تطوير الذكاء الاصطناعي على مستوى القطاع. وأثارت دعوته، التي سرعان ما أيدها الرئيس التنفيذي لـ”أوبن إيه آي” سام ألتمان وإيلون ماسك وآخرون، نقاشاً عالمياً بشأن الحاجة إلى مزيد من تنظيم الذكاء الاصطناعي.
كشفت “أوبن إيه آي” عن أحدث إخفاق للبيئة المعزولة، بينما لا تزال تعمل على فهم الاضطراب الذي تسببت فيه أنظمة الذكاء الاصطناعي الوكيل التابعة لها عندما وصلت إلى الإنترنت في وقائع سابقة. وأكدت الشركة يوم الجمعة أن نماذجها وصلت إلى معلومات من مواقع حكومية أميركية، بينها مواقع مكتب الإحصاء وهيئة الأوراق المالية والبورصات، خلال التدريب والتقييم، وفقاً لما أوردته “بلومبرغ”.
قبل أيام فقط، كشفت “أوبن إيه آي” أن نماذجها عطّلت موقعاً إلكترونياً حكومياً أسترالياً في وقت سابق من هذا العام.
وكشف أحدث خروج من البيئة المعزولة أيضاً عن ثغرات في إجراءات التشغيل لدى “أوبن إيه آي”. فقد تلقى “مراجع بشري” تنبيهاً من نظام مراقبة داخلي وأقرّ باستلامه عبر برنامج “سلاك” خلال ثلاث دقائق، لكن دورة التدريب لم تتوقف تلقائياً كما كان متوقعاً، وفقاً للتدوينة. واستغرق الأمر أكثر من ساعتين حتى أوقفها أحدهم يدوياً، بحسب التقرير.
قالت سيدني فون آركس، مؤسسة منظمة “نايتنغيل” غير الربحية المعنية بسلامة الذكاء الاصطناعي: “من المؤسف أن نماذج أوبن إيه آي لا تزال قادرة على الوصول إلى الإنترنت من دون تصريح، حتى بعد أن عززت الشركة إجراءاتها الأمنية عقب واقعة هاغينغ فيس”.
وأضافت: “السؤال الكبير الآن هو ما إذا كانوا سيكتفون بحل مؤقت ويستأنفون التدريب في أسرع وقت ممكن، أم سيحددون السبب الجذري للمشكلة ويعالجونه”.
