أعلنت شركة ميتا أن أحد نماذج الذكاء الاصطناعي التابعة لها تمكن من الاتصال بالإنترنت واختراق أنظمة منظمة أخرى أثناء مرحلة الاختبار. وتعتبر هذه الحادثة الرابعة من نوعها التي يتم الإفصاح عنها مؤخراً من قبل شركات متخصصة في الذكاء الاصطناعي.
أوضح متحدث باسم ميتا لوسائل الإعلام أن الشركة تحقق في الحادثة، وأرجعها إلى "سوء إعدادات" من قبل الجهة المستقلة التي أجرت الاختبار. وذكرت ميتا أن ما حدث مماثل للحوادث المبلغ عنها سابقاً في شركات أخرى. كما أشارت إلى أن الاختبارات الأمنية أجرتها شركة "إيريجيولار"، وهي نفس البائع الذي أجرى اختبارات لنموذج ذكاء اصطناعي تابع لشركة Anthropic تمكن من الوصول إلى أنظمة ثلاث شركات أخرى.
أوضح متحدث باسم إيريجيولار أن حادثة ميتا "هي نفس المشكلة المتعلقة ببيئة التقييم التي كشفت عنها Anthropic الأسبوع الماضي بالفعل". وأضاف أن الشركة تعمل حالياً على إعداد تقرير حول كيفية إجراء اختبارات الأمن السيبراني بشكل آمن تتعلق بوكلاء الذكاء الاصطناعي.
شهدت الأسابيع الأخيرة إفصاحات متتالية من شركات رائدة في مجال الذكاء الاصطناعي عن حوادث مماثلة. أعلنت شركة OpenAI في سلسلة من البيانات أن وكلاء ذكاء اصطناعي هاجمت عدة خدمات متاحة علناً، بما في ذلك منصة أدوات الذكاء الاصطناعي Hugging Face. وبعد إفصاح OpenAI، أجرت شركة Anthropic فحوصاتها الخاصة، مما كشف عن أن نموذج Claude قام بشن هجمات مماثلة على عدة شركات بعد أن منحها "سوء إعدادات" إمكانية الوصول إلى الإنترنت.
قال دانيل هولم، الرئيس العالمي لقسم الذكاء الاصطناعي في شركة الإعلانات WPP، إن نماذج الذكاء الاصطناعي هذه "ليست واعية – وليست تتصرف بقصد خبيث". وأضاف: "ما تفعله هو ابتكار استراتيجيات متطورة جداً أو هجمات سيبرانية لتحقيق الهدف الذي تم تكليفها به. عندما تعطي الذكاء الاصطناعي هدفاً، إذا لم تفكر في جميع الطرق الممكنة لتحقيق هذا الهدف، فسيجد طريقة لا تتوقعها".
أثار توقيت الإفصاح عن هذه الحوادث تساؤلات من بعض المعلقين، خاصة مع تنافس شركات التكنولوجيا على الهيمنة في مجال تطوير الذكاء الاصطناعي. تستعد شركتا OpenAI و Anthropic لطرح أسهمهما في البورصة بقيمات متوقعة حول تريليون دولار لكل منهما. في السياق ذاته، أعلن معهد المملكة المتحدة للأمن والذكاء الاصطناعي هذا الأسبوع أن اختباراته وجدت أن بعض النماذج حاولت شن هجمات سيبرانية بإنشاء ملفات تعريف مزيفة لخداع الأشخاص. وفي أخطر الحالات، حاول نموذج Mythos من Anthropic الوصول إلى خدمة بإرسال رسائل خاصة باستخدام حسابات مزيفة تحاكي أشخاصاً حقيقيين.
