سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!
كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.
وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.
السعودية.. إطلاق "روبوت منارة الحرمين" لخدمة الحجاج بـ11 لغة!
وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.
وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.
وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.
يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.
المصدر: Naukatv.ru
إقرأ المزيد
روسيا.. الذكاء الاصطناعي يجتاز اختبارات الالتحاق بأكاديمية موسيقية
أعلنت أكاديمية "غنيسين" الحكومية للموسيقى أن نموذج الذكاء الاصطناعي GigaChat من تصنيع شركة "سبيربنك" الروسية قد اجتاز بنجاح اختبارات القبول لبرنامج "علم الموسيقى" في الأكاديمية.
"روبوت المرور" .. تجربة جديدة تنطلق في مصر (صورة)
ضمن خطواتها نحو التحول الرقمي وتبني الذكاء الاصطناعي، تعمل الداخلية المصرية على تطبيق أحدث تقنيات التكنولوجيا بقطاعاتها، خصوصا في إدارات المرور لتطوير المنظومة ومواكبة التطورات.
أول نزال للروبوتات في التاريخ
انطلقت فعالية عالمية فريدة من نوعها "بطولة ملاكمة الروبوتات الشبيهة بالبشر" في مدينة هانغتشو بمقاطعة تشجيانغ الصينية.
التعليقات