مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

44 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • مونديال 2026
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • مونديال 2026

    مونديال 2026

  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • فيديوهات

    فيديوهات

  • جوليان ألفاريز يقترب من الانضمام إلى أحد أندية الدوري الإنجليزي

    جوليان ألفاريز يقترب من الانضمام إلى أحد أندية الدوري الإنجليزي

  • بصورتين.. وكيل أعمال محمد صلاح يثير الجدل

    بصورتين.. وكيل أعمال محمد صلاح يثير الجدل

  • برقم قياسي و27 ميدالية.. روسيا تهيمن على بطولة أوروبا للمصارعة للشباب

    برقم قياسي و27 ميدالية.. روسيا تهيمن على بطولة أوروبا للمصارعة للشباب

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

هجوم صاروخي إيراني يستهدف موقع وحدة الصواريخ التابعة للقوات البرية الأمريكية في الكويت (فيديو)

"الانتقام الإيراني".. ترامب ونتنياهو على رأس قائمة اغتيالات تضم 13 شخصا (صورة)

الجيش الكويتي: أضرار مادية وإصابة في هجوم على 3 مراكز حدودية شمال البلاد ومنصة نفطية

تحرك عاجل للجامعة العربية بعد الاعتداءات الإيرانية على عدد من دول الجوار

"لا يمكنني أن أموت الآن".. "أكسيوس" ينشر تفاصيل سعي غراهام لاتفاق تطبيع السعودية وإسرائيل قبل وفاته

وسائل إعلام: أنباء عن مقتل 3 جنود أمريكيين وإصابة آخرين في هجمات صاروخية على الكويت

"فوكس نيوز": الجولة الثالثة من الضربات على إيران تمت بتوجيهات ترامب

إعلام إيراني: نحو 10 قذائف أصابت أهدافا عسكرية في جزيرة قشم جنوبي إيران (فيديو)

القيادة المركزية الأمريكية تعلن شن هجمات جديدة ضد إيران والتلفزيون الرسمي يكشف تفاصيل الضربات

"الإهانات بدلا من الحكمة".. خطأ ترامب المُحرج نسف العفو عن نتنياهو

وزير الحرب الأمريكي: إيران تدفع الثمن

"يديعوت أحرونوت": الجيش الإسرائيلي يستعد لبقاء طويل في جنوب لبنان وحزب الله يعيد تنظيم صفوفه

الحرس الثوري الإيراني يعلن إغلاق مضيق هرمز "حتى إشعار آخر"