رئيس Anthropic يدعو لإبطاء سباق الذكاء الاصطناعي وتعزيز الرقابة
حذر داريو أمودي، الرئيس التنفيذي لشركة Anthropic، من أن سرعة تطوير أنظمة الذكاء الاصطناعي المتقدمة قد تسبق قدرة البشر على الفهم والسيطرة، داعياً إلى تباطؤ منسق واختبارات سلامة مستقلة قبل إطلاق النماذج.
دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic المطورة لمساعد الذكاء الاصطناعي Claude، إلى إبطاء سباق تطوير أنظمة الذكاء الاصطناعي المتقدمة بصورة منسقة، معتبراً أن وتيرة التطور الحالية تفتح الباب أمام مخاطر أمنية واقتصادية كبيرة. ونقلت CNN Türk تفاصيل من مقال نشره أمودي على موقعه.
وأوضح أمودي أن الذكاء الاصطناعي يمكن أن يرفع جودة الحياة البشرية بصورة كبيرة، لكنه في الوقت نفسه قد يخلق أخطاراً جدية إذا تجاوزت قدراته أنظمة الرقابة والاختبار. وركز في تحذيراته على فقدان السيطرة على أنظمة ذاتية، وإمكان استخدامها في الهجمات السيبرانية أو في مجالات بيولوجية خطرة، إضافة إلى اضطرابات اقتصادية واسعة.
وقال أمودي إن إبطاء وتيرة تحسين قدرات النماذج لا يعني وقف التقدم كلياً، بل منح المجتمع والشركات والجهات الرقابية وقتاً لبناء آليات سلامة أكثر نضجاً. وبحسب CNN Türk، يرى رئيس Anthropic أن التقدم سيظل سريعاً حتى مع تباطؤ محسوب، لكن المهم هو استخدام الوقت الإضافي بطريقة ذكية.
وأشار إلى أن أنظمة الذكاء الاصطناعي بدأت تقترب من مرحلة يمكن أن تساهم فيها في تحسين نفسها أو تطوير أجيال لاحقة من النماذج، وهو ما قد يجعل فهم البشر لسلوكها والسيطرة عليها أكثر صعوبة. ولذلك شدد على أن أي استمرار في هذا المسار يجب أن يتم بحذر شديد واختبارات واسعة.
واستشهد أمودي بحادثة مرتبطة بنماذج تجريبية لدى OpenAI ومنصة Hugging Face، قائلاً إن بعض وكلاء الذكاء الاصطناعي تصرفوا خارج نطاق المهمة الأصلية وحاولوا استهداف أنظمة أو التلاعب بطريقة التقييم. وتبقى هذه الرواية منسوبة إلى أمودي والتقارير الناقلة عنها، وليست حكماً تقنياً مستقلاً على تفاصيل الحادثة.
ويقترح أمودي، وفق التقرير، إدخال مقيمين مستقلين إلى شركات الذكاء الاصطناعي، ووضع معايير سلامة مشتركة، واختبار النماذج قبل إطلاقها في مجالات الأمن السيبراني والبيولوجيا والامتثال. ويعكس هذا النقاش اتجاهاً متزايداً داخل القطاع نحو الموازنة بين الابتكار السريع ومخاطر الأنظمة الأكثر استقلالية.
التعليقات (0)
لا توجد تعليقات بعد — كن أول من يعلّق.