أعلنت شركة أنثروبيك أن نماذجها الذكية تمكّنت من اختراق أنظمة حاسوبية تابعة لثلاث شركات بشكل مستقل، خلال تجربة أمنية خاصة. اكتشفت النماذج ثغرة في بيئة اختبار كانت من المفترض أن تكون معزولة عن الإنترنت، ثم تمكّنت من الاتصال بالإنترنت والوصول إلى أنظمة هذه الشركات الحقيقية.
جاء الإعلان بعد أيام قليلة من إفصاح منافستها OpenAI عن قيام نماذجها باختراق أنظمة شركات أخرى، بما في ذلك منصة أدوات الذكاء الاصطناعي Hugging Face. دفع هذا الخبر شركة أنثروبيك إلى فحص أنظمتها الخاصة، فاكتشفت ثلاث حالات اختراق جرت الإبلاغ عنها للشركات المتضررة.
أفادت أنثروبيك بأنها فحصت أكثر من 140 ألف اختبار بحثاً عن أدلة على أن نموذجها "كلود" تمكّن من الاتصال بالإنترنت رغم أنه كان من المفترض أن يعمل في بيئة معزولة. تضمنت الاختبارات تمارين طلب فيها من النموذج الحصول على معلومات "سرية" مخفية على آلة أخرى في الشبكة المغلقة، وكسر نظامها للوصول إليها. غير أن "خطأ في الإعدادات" في أنظمة أنثروبيك وشريكتها في الاختبار ترك النماذج لها إمكانية الوصول الحي إلى الإنترنت. معاملة هذا كجزء من التمرين ذاته، اتصل نموذج كلود بالإنترنت واخترق أنظمة ثلاث شركات حقيقية بدلاً من الأنظمة الاختبارية فقط.
أشارت أنثروبيك إلى أن أول هذه الحوادث يعود إلى أبريل، وأنها تتعامل مع الإصلاحات "كما لو كانت المسؤولية لنا وحدنا". لم تلاحظ أنثروبيك أو الشركات المخترقة هذه الاختراقات وقت حدوثها. اعترفت الشركة بأنها كان يمكن أن تراجع سجلاتها بشكل أكثر دقة، لكنها أضافت أن النتائج أعطتها "تفاؤلاً حذراً" بأن مثل هذه المخاطر يمكن التغلب عليها بمزيد من الاستثمار والتدابير الأكثر صرامة.
قالت البروفيسورة جينا نيف، رئيسة مركز Minderoo بجامعة كامبريدج، إن المراجعة أظهرت "نماذج ذكية تفعل ما أخبرها الناس به". وأضافت: "الدرس المستفاد ليس الخوف من روبوتات ستسيطر علينا، بل من الشركات خلف وكلاء الذكاء الاصطناعي القوية التي تتخذ قرارات حول ما هو آمن للبقية منا". أكدت على ضرورة الاختبار المستقل والإشراف الحكومي.
من جانبه، قال خبير الأمن السيبراني ديفيد ألوت من شركة Veeam Software إن الدرس المستفاد من هذه الاختراقات أنه "ليس بالضرورة أن الذكاء الاصطناعي طوّر قدرة هجومية جديدة بشكل أساسي". وأوضح: "بدلاً من ذلك، يظهر أن وكلاء الذكاء الاصطناعي يمكنهم دمج القدرات والحصول على بيانات الاعتماد والوصول إلى الأنظمة للقيام بإجراءات مستقلة، مع تكييف النطاق والحجم بسرعة الآلة". تأتي هذه الحوادث في الوقت الذي تستثمر فيه شركات التكنولوجيا مليارات الدولارات في تطوير وكلاء ذكاء اصطناعي قادرين على أداء مهام متنوعة بشكل مستقل.
