حذّر إيفان هوبينجر، باحث بارز في مجال السلامة بشركة أنثروبيك، من تطور سريع ومقلق للذكاء الاصطناعي. أشار هوبينجر في منشور على منصة إكس إلى وجود احتمال يتجاوز 10 في المئة من أن تؤدي هذه التقنية إلى "القضاء على البشرية جمعاء" خلال العقد القادم. يعتقد هوبينجر أن المخاطر المرتبطة بالنماذج الحالية منخفضة نسبياً، لكنه يبدي قلقاً عميقاً من احتمال أن تطور التقنية نفسها وتتحسن قريباً لدرجة تشكل فيها خطراً وجودياً حقيقياً على الإنسانية.
الخلفية
تأتي تصريحات هوبينجر ضمن سلسلة متزايدة من التحذيرات الحادة بشأن الذكاء الاصطناعي. تطور النقاش بشكل ملحوظ من التساؤل حول ما إذا كان يشكل خطراً حقيقياً إلى مناقشة مدى جسامة هذا الخطر فعلاً. كان رؤساء شركات أوبن إيه آي وجوجل ديب مايند وأنثروبيك قد حذروا من المخاطر الأمنية لسنوات، لكن التحذيرات أصبحت أكثر حدة ووضوحاً في الأسابيع الأخيرة.
التفاصيل والمواقف المختلفة
جاءت مداخلة هوبينجر رداً على منشور من جاكوب كوكسون، باحث استقال مؤخراً من شركة أنثروبيك وعمل سابقاً في أوبن إيه آي. كتب كوكسون أن "لا توجد أي من الشركتين تتصرف بمسؤولية"، محذراً من أن هذه الأنظمة ستصبح قريباً ذات قدرات تفوق القدرات البشرية، حيث ستتمكن من اختراق أي شيء وإحداث ثورة في أي مجال واكتساب سلطة وموارد حقيقية.
أعربت ويندي هول، عالمة حاسوب تقدم المشورة للأمم المتحدة بشأن الذكاء الاصطناعي، عن صدمتها من تلك المنشورات. شكّكت هول في دوافع هذه التصريحات، مشيرة إلى أنها قد تندرج تحت بند "العلاقات العامة والتسويق" في ظل السباق بين شركتي أنثروبيك وأوبن إيه آي نحو طرح أسهمهما للاكتتاب العام. مع ذلك، طالبت المستثمرين بعدم الاستثمار في شركات تتبنى مثل هذه المنظومة من القيم.
تصعيد المخاطر والأحداث الأخيرة
أشار تقرير السلامة الصادر عن شركة أنثروبيك في أغسطس إلى وجود خطر ضئيل من عدم توافق النماذج مع رغبات منظمة قوية قد تستغل أنظمة الشركة. كما ذكرت الشركة خطراً ضئيلاً مماثلاً يتمثل في قدرة أنظمة الذكاء الاصطناعي فائقة القدرة على إجراء عمليات بحث وتطوير آلية قد تتسبب في "أضرار كارثية يبادر بها الذكاء الاصطناعي نفسه". لكن الشركة أعربت عن "ثقة أقل في هذا التقييم" مقارنة بما كانت عليه سابقاً، مشيرة إلى "بوادر أولية لتسارع محتمل".
كشفت شركات أوبن إيه آي وأنثروبيك وميتا هذا الصيف عن هجمات سيبرانية نفذتها أدوات الذكاء الاصطناعي المستقلة. أعرب جاكوب باتشوك، كبير العلماء في أوبن إيه آي، عن الحاجة لتوخي "أقصى درجات الحذر" تجاه التقدم في هذا المجال.
المطالبات الحالية
دعا داريو أمودي وجاريد كابلان، كبار المسؤولين في شركة أنثروبيك، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي خلال الأشهر الأخيرة. وقّع 1300 موظف يعملون في شركات الذكاء الاصطناعي رسالة مفتوحة طالبوا فيها الحكومة الأمريكية بـ "دعم الجهود الدولية الرامية إلى تطوير الأدوات التقنية وآليات الحوكمة اللازمة لضبط وتيرة تطوير الذكاء الاصطناعي بشكل مدروس".
