مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

11 خبر
  • العملية العسكرية الروسية في أوكرانيا
  • رياضة
  • رجلان يتحديان مياه الفيضانات في الفلبين لإنقاذ طفل من السيول الجارفة
  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • رياضة

    رياضة

  • رجلان يتحديان مياه الفيضانات في الفلبين لإنقاذ طفل من السيول الجارفة

    رجلان يتحديان مياه الفيضانات في الفلبين لإنقاذ طفل من السيول الجارفة

  • بزشكيان يحدد سببا "جديدا" لفشل أمريكا في زعزعة إيران.. ما علاقة الذكاء الاصطناعي والعملاء؟

    بزشكيان يحدد سببا "جديدا" لفشل أمريكا في زعزعة إيران.. ما علاقة الذكاء الاصطناعي والعملاء؟

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

كشفت شركة "ميتا" أن أحد أنظمة الذكاء الاصطناعي التابعة لها تمكن من اختراق شركة أخرى أثناء مرحلة الاختبار.

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها
Gettyimages.ru

ويأتي هذا الإعلان بعد حوادث مماثلة وقعت في شركتي OpenAI، المطورة لـChatGPT، وAnthropic، المطورة لنموذج Claude، وهو ما يزيد المخاوف من أن الأنظمة الذكية المتطورة أصبحت تشن هجمات إلكترونية من دون علم مطوريها.

وبدأت القصة عندما كانت شركة خارجية تدعى "Irregular" (وظفتها "ميتا" لتقييم مدى أمان نماذج الذكاء الاصطناعي الخاصة به) تجري اختبارات أمنية لنماذج "ميتا".

وبسبب خطأ في الإعدادات، حصل نموذج الذكاء الاصطناعي على وصول غير مقصود إلى الإنترنت واستغل ثغرة أمنية في خدمة تابعة لشركة أخرى، وتسلل إلى أنظمتها الداخلية وعدل فيها.

وهذه ليست الحادثة الوحيدة من نوعها. فقد وقعت حوادث مشابهة مؤخرا في شركتي OpenAI، وAnthropic. وفي جميع هذه الحوادث، كانت المشكلة إما أخطاء في الإعدادات، أو استغلال الذكاء الاصطناعي لثغرات غير معروفة سابقا.

والنموذج المتورط في حادثة "ميتا" هو Muse Spark 1.1، والذي تروج له الشركة باعتباره نموذجها الأكثر قدرة على أداء مهام البرمجة والمهام الذكية في العالم.

لكن شركة Irregular أوضحت أن الحادث لم يكن معقدا أو خطيرا بالشكل الذي يبدو عليه، وأنه كان مجرد مشكلة في بيئة الاختبار نفسها، وليست عملية اختراق متطورة، وفقا لتصريح نقلته وكالة "رويترز".

ومع ذلك، أثارت هذه الحوادث قلق المشرعين في أمريكا، الذين يخشون من استخدام الذكاء الاصطناعي في شن هجمات إلكترونية في المستقبل. 

ومن جهته، دعا البيت الأبيض كبرى شركات الذكاء الاصطناعي، مثل "ميتا" وOpenAI و"غوغل"، للاجتماع ومناقشة وضع قواعد جديدة لاختبار سلامة هذه الأنظمة.

كما يدعو بعض الخبراء إلى إبطاء وتيرة تطوير الذكاء الاصطناعي حتى يتم وضع ضمانات أقوى، خوفا من أن تصبح هذه الأنظمة قادرة على التصرف بطرق لا يتوقعها حتى مطوروها.

المصدر: إندبندنت

التعليقات

اليمن.. الحوثيون يبثون مشاهد استهداف "تحشيدات سعودية" في المخا بصواريخ باليستية ومسيرات (فيديو)

إعلام إيراني ينشر صورا جديدة توثق أضرارا طالت عددا من القواعد الأمريكية في غرب آسيا

وزير خارجية باكستان ينشر 7 نقاط توضيحية حول "اتفاقية مكة للدفاع المشترك" مع السعودية وتركيا

نيويورك تايمز: واشنطن قلقة من "تحرك" روسيا والصين إزاء استنزاف ترسانتها في إيران

الهوة بين واشنطن وتل أبيب تتسع.. ضغوط أمريكية لإنهاء القتال في الساحات الثلاث

سقوط طائرة بدون طيار أمريكية من طراز "MQ-9" في جيبوتي (فيديو)

مقاتلات "إف-16" تعترض طائرتين اخترقتا المجال الجوي المحظور قرب نادي ترامب للغولف في نيوجيرسي (فيديو)

إعلام: واشنطن تزود أوكرانيا ببيانات استخباراتية لضرب البنية التحتية للطاقة الروسية