زر قد يوقف الذكاء الاصطناعي.. مؤسس Anthropic يفتح باباً حساساً
قال أحد مؤسسي شركة Anthropic في تصريح لـBBC إن شركات الذكاء الاصطناعي قد تحتاج إلى زر إيقاف إلزامي يمكن لطرف ثالث مراقبته.
عاد نقاش أمان الذكاء الاصطناعي إلى الواجهة بعد تصريح لافت من أحد مؤسسي شركة Anthropic، تحدث فيه عن احتمال الحاجة إلى زر إيقاف إلزامي للأنظمة المتقدمة.
وبحسب TRT Haber نقلاً عن مقابلة مع BBC، قال المؤسس المشارك في إحدى أكبر شركات الذكاء الاصطناعي إن الشركات قد تحتاج إلى “زر إيقاف” يمكن لطرف ثالث مراقبته.
وتقوم الفكرة على وجود آلية واضحة للتدخل إذا ظهرت مخاطر كبيرة أو سلوك غير متوقع من أنظمة الذكاء الاصطناعي، خصوصاً مع توسع استخدامها في قطاعات حساسة.
ويكشف التصريح أن النقاش لم يعد مقتصراً على تطوير النماذج وقدراتها، بل بات يشمل من يملك حق إيقافها، وكيف يمكن ضمان رقابة مستقلة لا تخضع بالكامل للشركات المطورة.
ورغم أن الفكرة ما زالت في نطاق النقاش والتنظيم المحتمل، فإنها تعكس قلقاً متزايداً داخل الصناعة نفسها من أن السباق التقني يحتاج إلى ضوابط تشغيل واضحة قبل أن تتسع المخاطر.

التعليقات (0)
لا توجد تعليقات بعد — كن أول من يعلّق.