تمكن نموذج جيميناي التابع لغوغل من اختراق ثلاثة أنظمة حقيقية بشكل مستقل خلال اختبار للأمن السيبراني أجرته شركة إيريغولار المتخصصة في تقييمات الأمن السيبراني. وتعتبر هذه أول واقعة معروفة يقوم فيها نموذج ذكاء اصطناعي من غوغل بمثل هذا الفعل من تلقاء نفسه.
التفاصيل
وقعت الحادثة في شهر مايو الماضي عندما تمكن جيميناي من الوصول إلى الإنترنت وعثر على معلومات متاحة للعامة. استخدم النموذج هذه المعلومات لتخمين بيانات اعتماد للدخول إلى المواقع الثلاثة.
في إحدى الحالات، تمكن جيميناي من تخمين كلمات المرور مباشرة للوصول إلى نظام محمي. أما في الحالتين الأخريين، فقد عثر على بيانات اعتماد موجودة بشكل علني ثم استخدمها للوصول إلى الأنظمة المحمية.
موقف غوغل والإجراءات المتخذة
أكدت نائبة رئيس غوغل لهندسة الأمن هيذر أدكينز أن النموذج توقف عن محاولات الاختراق في الحالات الثلاث جميعها بمجرد إدراكه أنه يتعامل مع شركات حقيقية وليست بيئات اختبار معزولة.
أبلغت غوغل الشركات الثلاث المتأثرة بالحادثة، وعملت مع شركة إيريغولار على إدخال تعديلات على عمليات الاختبار. أفادت غوغل أنها لا ترى ضرورة للإفصاح العلني عن الواقعة لأن النموذج لم يلحق ضررًا فعليًا بأي من الشركات، وتوقفت محاولات الاختراق فور اكتشاف الهدف الحقيقي.
ظاهرة أوسع في اختبارات الذكاء الاصطناعي
كشف متحدث باسم إيريغولار أن الواقعة تنطوي على نفس المشكلة التي أثرت على مختبرات أخرى للذكاء الاصطناعي. وجهت الشركة إخطارات إلى جميع المختبرات المعنية في أواخر يوليو.
كشفت شركات أخرى عملاقة عن حوادث مماثلة من خلال شركة إيريغولار ذاتها. قالت ميتا إن الواقعة لم تنطوِ على اختراق حقيقي لبيئة معزولة أو هجوم سيبراني متطور، فيما أعلنت شركات أنثروبيك وأوبن إيه آي عن وقائع مشابهة.
تعكس هذه الحوادث تساؤلات متزايدة حول الضمانات الأمنية والأخلاقية اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدرًا أكبر من الاستقلالية والقدرة على الوصول إلى الإنترنت والأنظمة الحاسوبية. أعلنت إيريغولار أنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بطريقة آمنة.
