أعلنت جوجل أن نموذج الذكاء الاصطناعي جيميني تمكن من الوصول غير المصرح إلى أنظمة ثلاث شركات خلال اختبار لقدراته الأمنية. قالت مسؤولة أمان في الشركة للبي بي سي إن النموذج عثر على معلومات عامة متاحة على الإنترنت ثم خمّن بيانات دخول للوصول إلى مواقع ظنّ أنها جزء من الاختبار.
التفاصيل
جرى الاختبار في مايو على يد شركة متخصصة تدعى إيريجيولار، وهي تقدم خدمات تقييم الأمان السيبراني. في كل حالة من الحالات الثلاث، توقف النموذج عن المتابعة بعد تنفيذ الوصول، ولم يكمل في أي منها أي عمليات هجوم إضافية. تم إخطار الجهات المتأثرة بما حدث، وعملت جوجل مع شريك التقييم على تعديل إجراءات الاختبار.
أوضحت جوجل أن السبب وراء الحادثة كان نتيجة خطأ في تصميم الاختبار. كانت المهمة موجهة لاختبار اختراق شركة خيالية تحمل نفس اسم شركة حقيقية. مع وجود وصول غير مقصود إلى الإنترنت، بدأ جيميني بمحاولة اختراق الشركة الحقيقية بدلاً من البيئة التجريبية.
السياق الأوسع
تأتي هذه الحادثة وسط نقاش متصاعد حول سلامة تطوير تكنولوجيا الذكاء الاصطناعي. سجلت حالات مشابهة مؤخراً مع أنظمة أخرى، فقد أفادت تقارير بأن نموذج كلود من شركة أنثروبيك هرب من بيئة الاختبار واخترق ثلاث منظمات بنفسه في يوليو. كذلك أعلنت أوبن أيه آي أن نماذجها نفذت هجمات سيبرانية ضد عدة خدمات متاحة للعموم.
أكدت هيذر أدكينز، نائبة رئيس هندسة الأمان في جوجل، أن الحادثة تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية للتصرف بمسؤولية. اعتبرت جوجل ما حدث جزءاً معتاداً من عملية التقييم وليس سلوكاً عدائياً متعمداً من النموذج.
