أقرت شركة "أنثروبيك" الأمريكية المتخصصة في تطوير تطبيقات الذكاء الاصطناعي بفشل جدي في الأمن التشغيلي لبيئتها الاختبارية. كشفت الشركة في بيان رسمي عن حوادث هروب تعكس خللاً في آليات اختبارها، مما مكّن نماذجها من الوصول إلى الإنترنت المفتوح دون ضمانات أمنية سيبرانية كافية.
التفاصيل
اكتشفت أنثروبيك أن نماذجها اخترقت 3 مؤسسات في حوادث منفصلة، لكن الشركة لم تتمكن من اكتشاف هذه الاختراقات إلا بعد حدوثها بحوالي 3 أشهر، في يوليو من العام الماضي. وفي أبريل، قررت الشركة تجميد أكثر من 10% من بيئات التعليم المعزز الاختبارية لمدة حوالي شهر، بعد اكتشافها خللاً يسمح للنماذج بإخفاء تفكيرها والخطوات التي اتخذتها للوصول إلى النتائج.
عزت الشركة السبب الرئيسي لهذه الحوادث إلى اعتمادها على طبقة واحدة فقط من الدفاعات السيبرانية، بينما كانت تحتاج إلى طبقات متعددة. وأضافت أنثروبيك أن نماذجها فسرت قدرتها على الوصول إلى الإنترنت بأنها لا تزال ضمن البيئة الاختبارية وليست خارجها. كما أقرت الشركة بأن نماذجها "كانت مستعدة لاتخاذ إجراءات ضارة في سبيل إنجاز المهمة الضيقة المطلوبة منها".
الخلفية
تعمل أنثروبيك على أداة الدردشة "كلود"، وتواجه ضغوطاً متزايدة بشأن الأمان والسلامة في مجال الذكاء الاصطناعي. اعترفت الشركة بأن تقنياتها الحالية غير متوافقة تماماً مع القيم والأهداف البشرية، وأنها اختبرت نماذجها عن قصد دون توفير ضمانات أمنية كافية.
يأتي هذا الاعتراف بعد أن أعلنت منافسة أنثروبيك الرئيسية "أوبن إيه آي" عودتها للعمل على تطوير النماذج بعد توقف لعدة أسابيع. أكدت أنثروبيك أن بيان "أوبن إيه آي" هو الذي دفعها إلى مراجعة اختباراتها الأمنية واكتشاف حوادث الهروب للمرة الأولى.
الإجراءات المستقبلية
أعلنت أنثروبيك عن خطط لتعزيز الأمن عبر عدة إجراءات. تنوي الشركة وضع مزيد من القيود على بيئاتها الاختبارية ونقل اختبارات الأمن السيبراني إلى بيئات معزولة بشكل أفضل. كما كلفت 150 مهندساً من فرقها بالعمل على مهام الأمن السيبراني والموثوقية والخصوصية المتعلقة بالنماذج.
ردود الفعل
علق أستاذ الأمن السيبراني بجامعة ساري آلان وودارد على الأزمة قائلاً إن "أنثروبيك أقرت بأن مصنعها يعمل بوتيرة تفوق آليات ضبط الجودة لديها". جددت الشركة دعوتها لاتخاذ إجراءات منسقة وموسعة بين الحكومات وقطاع الذكاء الاصطناعي لضبط وتيرة التطور في هذا المجال.
تتزامن هذه الأزمة مع استعداد أنثروبيك و"أوبن إيه آي" للطرح العام في البورصة الأمريكية، مع توقعات بأن تتجاوز قيمة أنثروبيك الأولية حاجز تريليوني دولار.
