مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

10 خبر
  • نبض الملاعب
  • هدنة وحصار المضيق
  • شرط أمني يحدد موقف منتخب إيران من مونديال 2026
  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • ماذا بعد ترامب؟ سؤال زيلينسكي يكشف هشاشة مسار السلام الأوكراني

    ماذا بعد ترامب؟ سؤال زيلينسكي يكشف هشاشة مسار السلام الأوكراني

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

قالیباف: ترامب يريد طاولة استسلام ولا نقبل التفاوض تحت التهديد.. نستعد لكشف أوراق جديدة في المعركة

"حزب الله": سنسقط الخط الأصفر ولا أحد داخل لبنان أو خارجها يستطيع تجريدنا من السلاح

من غزة إلى أوكرانيا.. لافروف يكشف عن مخطط غربي لتفكيك العالم الإسلامي وإحياء النازية الأوروبية

لحظة بلحظة.. 24 ساعة على انتهاء الهدنة: مفاوضات طهران- واشنطن في عنق الزجاجة على وقع تصاعد التوتر

هل أراد ترامب استخدام الرموز النووية ضد إيران؟.. محلل سابق في الـ CIA يكشف الكواليس (فيديو)

مستشار المرشد الإيراني: أي خطأ في حسابات الخصم سنضغط على زناد "التأديب النهائي"

وزير خارجية بولندا: الجنود الإسرائيليون يعترفون بارتكاب جرائم حرب.. قتلوا مدنيين فلسطينيين ورهائنهم

مصادر لـCNN: فانس سيتوجه إلى باكستان للمشاركة في المحادثات مع إيران لكن الموقف لا يزال متقلبا

"تسنيم": قرار إيران بعدم المشاركة في المفاوضات لم يتغير وطهران مستعدة لمواجهة أمريكا ومعاقبتها مجددا

متى ستستأنف الحرب بين الولايات المتحدة وإيران؟

الدفاع الروسية: استهداف منشآت للصناعات العسكرية والبنية التحتية للنقل والمطارات في أوكرانيا

نتنياهو: طيارونا يسيطرون على سماء المنطقة