مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

28 خبر
  • رياضة
  • فيديوهات
  • العملية العسكرية الروسية في أوكرانيا
  • رياضة

    رياضة

  • فيديوهات

    فيديوهات

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • حرب الخليج

    حرب الخليج

  • وسائل إعلام إسرائيلية: كراهية المصريين "المجنونة" لنا امتدت إلى الرياضة 

    وسائل إعلام إسرائيلية: كراهية المصريين "المجنونة" لنا امتدت إلى الرياضة 

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

كشفت شركة "ميتا" أن أحد أنظمة الذكاء الاصطناعي التابعة لها تمكن من اختراق شركة أخرى أثناء مرحلة الاختبار.

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها
Gettyimages.ru

ويأتي هذا الإعلان بعد حوادث مماثلة وقعت في شركتي OpenAI، المطورة لـChatGPT، وAnthropic، المطورة لنموذج Claude، وهو ما يزيد المخاوف من أن الأنظمة الذكية المتطورة أصبحت تشن هجمات إلكترونية من دون علم مطوريها.

وبدأت القصة عندما كانت شركة خارجية تدعى "Irregular" (وظفتها "ميتا" لتقييم مدى أمان نماذج الذكاء الاصطناعي الخاصة به) تجري اختبارات أمنية لنماذج "ميتا".

وبسبب خطأ في الإعدادات، حصل نموذج الذكاء الاصطناعي على وصول غير مقصود إلى الإنترنت واستغل ثغرة أمنية في خدمة تابعة لشركة أخرى، وتسلل إلى أنظمتها الداخلية وعدل فيها.

وهذه ليست الحادثة الوحيدة من نوعها. فقد وقعت حوادث مشابهة مؤخرا في شركتي OpenAI، وAnthropic. وفي جميع هذه الحوادث، كانت المشكلة إما أخطاء في الإعدادات، أو استغلال الذكاء الاصطناعي لثغرات غير معروفة سابقا.

والنموذج المتورط في حادثة "ميتا" هو Muse Spark 1.1، والذي تروج له الشركة باعتباره نموذجها الأكثر قدرة على أداء مهام البرمجة والمهام الذكية في العالم.

لكن شركة Irregular أوضحت أن الحادث لم يكن معقدا أو خطيرا بالشكل الذي يبدو عليه، وأنه كان مجرد مشكلة في بيئة الاختبار نفسها، وليست عملية اختراق متطورة، وفقا لتصريح نقلته وكالة "رويترز".

ومع ذلك، أثارت هذه الحوادث قلق المشرعين في أمريكا، الذين يخشون من استخدام الذكاء الاصطناعي في شن هجمات إلكترونية في المستقبل. 

ومن جهته، دعا البيت الأبيض كبرى شركات الذكاء الاصطناعي، مثل "ميتا" وOpenAI و"غوغل"، للاجتماع ومناقشة وضع قواعد جديدة لاختبار سلامة هذه الأنظمة.

كما يدعو بعض الخبراء إلى إبطاء وتيرة تطوير الذكاء الاصطناعي حتى يتم وضع ضمانات أقوى، خوفا من أن تصبح هذه الأنظمة قادرة على التصرف بطرق لا يتوقعها حتى مطوروها.

المصدر: إندبندنت

التعليقات

"لدينا حرب يجب خوضها".. ترامب يطلب من الحاضرين خلال اجتماع لقطاع التعدين المغادرة سريعا (فيديو)

في رسالة بعد "اتفاق مكة المشترك".. رضائي: الاتفاق الورقي مع تركيا وباكستان لن يجلب الأمن للسعودية

رئيس الوزراء القطري الأسبق يعلق على "اتفاقية مكة للدفاع المشترك"

"رويترز": السعودية استخدمت نحو 86% من صواريخ "باتريوت" الاعتراضية من طراز "PAC-3"

شبكة "CNN": كبار قادة الجيش الأمريكي يبحثون عن "مخرج" من حرب إيران

"مواد تكفي لصنع 10 قنابل".. إعلام عبري: خمسة أشهر من الحرب لم توقف البرنامج النووي الإيراني

"المقاومة الإسلامية في العراق" تعلن تأجيل ردها العسكري على الضربات السعودية الأمريكية (فيديو)

البنتاغون يعفي قائد الفيلق الخامس المسؤول عن تنسيق الدعم لأوكرانيا من منصبه

الخارجية الأمريكية: واشنطن تتحرك لقطع شريان التمويل غير المشروع الذي تعتمد عليه إيران

بزشكيان يوضح بماذا تختلف إيران عن إسرائيل ويتحدث عن خلاف حكومته مع الحرس الثوري

أردوغان يؤدي صلاة الجمعة في مكة المكرمة مع ولي العهد السعودي ورئيس الوزراء الباكستاني (صور + فيديو)

الدفاع الروسية في حصاد الأسبوع: إصابة 34 سفينة يستخدمها الجيش الأوكراني وتحرير 8 بلدات

أردوغان: الاتفاقية مع السعودية وباكستان قائمة على مبدأ الردع الجماعي ولا تستهدف أي دولة بعينها

مجلس الأمن يدين الهجمات الصاروخية الحوثية على السعودية ويستنكر الرحلات الجوية غير المصرح بها لليمن

واشنطن بوست: اشتباك بين ترامب وهيغسيث في كامب ديفيد بسبب أزمة الذخائر والصواريخ والحرب مع إيران

هاميلتون: واشنطن تسحب صواريخ باتريوت اشتراها الأوروبيون لتعويض النقص في مخزونها

بيان الدول العربية والإسلامية خطوة على الطريق الصحيح ولكن...