مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

37 خبر
  • المسار الدبلوماسي لحل الأزمة الأوكرانية
  • الجزائر تقطع علاقاتها مع الإمارات
  • رياضة
  • المسار الدبلوماسي لحل الأزمة الأوكرانية

    المسار الدبلوماسي لحل الأزمة الأوكرانية

  • الجزائر تقطع علاقاتها مع الإمارات

    الجزائر تقطع علاقاتها مع الإمارات

  • رياضة

    رياضة

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • حرب الخليج

    حرب الخليج

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

كاتس يوجه رسالة "تهديد غير مسبوق" للشرع من أعلى قمة جبل الشيخ المطلة على دمشق وقصر الرئاسة السورية

"أولي البأس".. تقرير عبري عن جماعة سورية غامضة تضرب إسرائيل وتتبع للإخوان المسلمين وحزب الله

هل يتدخل الناتو ويكرر "سيناريو غزو العراق" مع إيران بعد إحالة ملفها النووي إلى مجلس الأمن؟

"تصعيد نووي خطير".. الغرب يحيل الملف الإيراني لمجلس الأمن ومفاجأة بشأن المسؤول عن فشل الضمانات

تحذير روسي من خطر "داهم" يواجه السودان بسبب خطة بولس ويكشف سبب غضب مصر والسعودية من مبعوث ترامب

روسيا والصين وإيران ترفض قرار الوكالة الذرية بشأن النووي الإيراني وتعتبره "مسيسا" و"فاقدا للشرعية"

ترامب يهدد بضرب موقع "جبل الفأس" النووي في إيران ويحذر طهران من "التذاكي"

ترامب: بوتين يرغب في إبرام صفقة لتسوية الأزمة الأوكرانية

مفاجآت مدوية في قائمة المرشحين للكرة الذهبية 2026

بوتين يقبل خطة واشنطن دون تعديل.. هل تملك كييف "الحصانة" لرفض التسوية الأمريكية؟

"فارس": سماع دوي انفجارات متعددة في قشم وسيريك

كلينتون تهاجم ترامب: "بطل أولمبي في الكذب" ويضلل الأمريكيين بشأن الحرب