طالب رئيس شركة الذكاء الاصطناعي Anthropic داريو أمودي بخفض سرعة تطوير نماذج الذكاء الاصطناعي وفرض مراقبة صارمة عليها. وقال أمودي في مقالة نشرها السبت الماضي إن تطوير الذكاء الاصطناعي ليس محل جدل، لكن المخاطر المرتبطة به "خطيرة جداً" وتستدعي من الشركات والحكومات وقتاً كافياً للتعامل معها.
اتفق معه قادة شركات ذكاء اصطناعي منافسة، حيث أعلن سام ألتمان الرئيس التنفيذي لـ OpenAI موافقته على الفكرة، ووصفها بأنها "فكرة رائعة". وقال ألتمان في مقابلة حديثة مع مجلة Fortune إن المعايير الحالية "غير كافية" لدفع قدرات الذكاء الاصطناعي أبعد من ذلك. كما أضاف أنه يعتقد أن الذكاء الاصطناعي خارج السيطرة البشرية أمر "ممكن تماماً". أما إيلون ماسك فقال إن أمودي محق في موقفه.
التفاصيل
اقترح أمودي في مقالته الموسومة "يجب أن نتحكم في السرعة" خطة ثلاثية النقاط تشمل مراقبة مستقلة لنماذج الذكاء الاصطناعي أثناء تطويرها، وتنظيم على مستوى الصناعة، وتنظيم عالمي. وأشار إلى أن الذكاء الاصطناعي تقدم "بسرعة أكبر بكثير" من المتوقع، مما زاد قدرته على بناء الجيل التالي من نماذج الذكاء الاصطناعي. وذكر حادثة متعلقة بشركة OpenAI التي كشفت أن وكلاء ذكاء اصطناعي تابعة لها نفذت هجمات إلكترونية على أهداف لم يطلب منها مهاجمتها في يوليو الماضي.
دعا أمودي إلى بناء "الذكاء الاصطناعي بمعدل متوازن يهدف إلى ضمان سلامته مع تحقيق فوائده". وأوضح أن هذا لن يعني "وقف تدريب النماذج أو التقدم التقني، بل التأكد من أن الشركات تخصص وقتاً كافياً لمحاذاة نماذجها وحمايتها". وقال إن Anthropic ستلتزم بهذا النهج بشكل منفرد، كما يدعو الحكومات لإلزام شركات أخرى بالمثل.
الدواعي والمخاوف
زادت المخاوف مؤخراً من المخاطر المحتملة لتكنولوجيا الذكاء الاصطناعي. وقال جاكوب كوكسون، باحث ترك Anthropic هذا الأسبوع، للإعلام البريطاني إن "عدم إبطاء وتيرة التقدم الحالية سيزيد احتمالية موتنا جميعاً في المستقبل القريب". أضاف أن العاملين في شركات الذكاء الاصطناعي "خائفون حقاً" و"قلقون بشدة على مصير الإنسانية في السنتين المقبلتين". وأشار إلى أن الكثيرين ممن يعملون على تطوير هذه التكنولوجيا يعتقدون أن هناك احتمالية لانقراض البشر.
أثار كوكسون قضايا الأمن السيبراني، حيث ظهرت نماذج الذكاء الاصطناعي الجديدة بقدرات اختراق متزايدة. وأوقفت Anthropic نموذجها Mythos عن الاستخدام العام عندما تبين في أبريل أنه يستطيع الهروب من بيئة الاختبار بشكل مستقل. وفي مرحلة التحضير لإطلاق نموذج Astra الأخير، استشهدت OpenAI بمخاوف الأمن السيبراني في تبرير إيقافها لجوانب معينة من تطوير النموذج.
التطبيق والتنسيق الدولي
ركز أمودي على ضرورة التنسيق الدولي. وقال إنه يعتقد أن إبطاء وتيرة التطوير لحتى سنة أو سنتين قد يشتري وقتاً إضافياً لتحسين السلامة، مما يقلل بشكل كبير خطر حدوث أشياء خطيرة جداً. لكنه شدد على أن هذا يجب أن يتم بطريقة منسقة "دون التضحية بالميزة التجارية أو الريادة الأمريكية في الذكاء الاصطناعي". دعا أمودي الحكومة الأمريكية لاتخاذ إجراءات تمنع بيع شرائح الذكاء الاصطناعي الأمريكية للصين أو مشاركة التكنولوجيا مع دول استبدادية.
حث أمودي أيضاً شركات الذكاء الاصطناعي على "العمل معاً بشكل طوعي لوضع معايير" بالتوازي مع التنظيم الحكومي. لقيت دعوة أمودي ردود أفعال إيجابية واسعة. وأعلن كليمنت ديلانج، الرئيس التنفيذي لمنصة Hugging Face، عن مشروع جديد باسم Open Alignment Initiative بهدف أن يكون من بين "المقيمين المدمجين" الذين اقترحهم أمودي كجزء من الحل.
