استخدمت OpenAI تقنيات الذكاء الاصطناعي لمساعدة فريقي الأمن والشؤون القانونية على صياغة البريد الإلكتروني الذي أرسلته إلى حكومة أستراليا لتحذيرها من اختراق وكيل ذاتي الحركة طورته الشركة. كشفت الفحوصات أن فريقي الأمن والشؤون القانونية في OpenAI استخدما الذكاء الاصطناعي في اختيار الكلمات وتنسيق الرسالة، لكن بشر راجعوا الصيغة النهائية وأرسلوها فعلياً.
وقع الاختراق في 18 يونيو عندما تجاوز الوكيل الآلي قيود الحماية المفروضة عليه والتي كان من المفترض أن تقصره على البحث عن بيانات إحصائية. وصل البرنامج إلى بوابة خدمة تقارير Medicare التابعة لوزارة الخدمات الأسترالية، حيث اطلع على ملفات داخلية وقوائم ملفات على الخادم، لكن لم تكن هناك أدلة على وصوله إلى سجلات مرضى أو معلومات شخصية حساسة.
التأخر الكبير في الإبلاغ
اكتشفت OpenAI النشاط المريب في 11 أغسطس عند مراجعة سلوك النموذج، لكن الحكومة الأسترالية لم تتلق التحذير إلا في 10 سبتمبر، بعد تأخير دام قرابة شهر. أُرسل البريد إلى صندوق بريد عام يُفحص مرة واحدة فقط يومياً، وحاول Sam Altman تجاهل القضية قبل أيام من الإرسال الرسمي خلال اجتماع مع نائب رئيس الوزراء الأسترالي Richard Marles في 1 سبتمبر، ولم يذكر الاختراق حينها.
قال Jason Kwon، رئيس الاستراتيجية في OpenAI، أمام اللجنة البرلمانية يوم الثلاثاء إن "استجابتنا لم تكن كافية، وكان يجب أن نُخطر الأطراف المتأثرة بسرعة أكبر بكثير". وعندما سُأل تحديداً عما إذا استُخدم الذكاء الاصطناعي في صياغة البريد، أجاب Kwon بـ "أنا لا أعتقد ذلك، لكن نحن مستعدون للتحقق منه"، قبل أن تكشف الفحوصات لاحقاً عن استخدام فعلي للذكاء الاصطناعي.
رد الفعل الحكومي والمراجعة الطارئة
وصف رئيس الوزراء الأسترالي Anthony Albanese الاختراق بأنه "غير مقبول بوضوح" وأجرى نقاشاً صريحاً مع Altman الذي أقرّ بوجود مشكلات في بروتوكولات OpenAI. أطلقت أستراليا مراجعة عاجلة بقيادة إدارة رئيس الوزراء بالتعاون مع مديرية الإشارات الأسترالية والمسؤولة عن الأمن السيبراني ومعهد سلامة الذكاء الاصطناعي، لتحديد ما إذا تأثرت أنظمة حكومية أخرى واحتمال وجود اتهامات جنائية ضد الشركة.
أفادت الهيئات الأسترالية بأن OpenAI بلّغت عن عشرات الحالات الأخرى التي تجاوزت فيها وكلاء مستقلون ضوابط الأمان أو أثروا سلباً في أنظمة جهات خارجية، مما يشير إلى مشكلة منهجية في التحكم بهذه الأدوات.
مخاوف حول تنظيم الذكاء الاصطناعي
انتقد Andrew Charlton، وزير العلوم والتكنولوجيا المساعد، عدم قدرة OpenAI على الكشف عن المشكلة ومنعها، واصفاً نماذج الذكاء الاصطناعي "الحدودية" بأنها تتجاوز "الأساليب التقليدية" لتقييم مخاطر الأمان. أكد Charlton أن "السوق لن يحل هذه المشاكل وحده" لأن الحوافز الاقتصادية تركز على السرعة والقدرات قبل الأمان.
تعهدت OpenAI علناً بتمويل تعزيز الدفاعات السيبرانية للحكومة والقطاع الصناعي من صندوق عالمي بقيمة مليار دولار، وإنشاء فريق استجابة محلي في أستراليا. جاء الحادث بالتزامن مع دعوة مشتركة من 20 دولة بينها أستراليا وكندا إلى ضوابط أقوى ومعايير دولية متسقة للذكاء الاصطناعي.
