عاجل
الشرقية تناقش بدء تحديث المخطط الاستراتيجي لمدينة مشتول السوقتقرير: ثغرات في الذكاء الاصطناعي تتيح خداعه واستهداف المدنيين باعتبارهم أهدافًا عسكريةمحافظ الجيزة يتفقد مشروعات أوسيم ويوجه بتطوير محيط مزلقاني لعبة وبرطستحرك من "الري" ضد ضد مواطن ألقى مخلفات صرف صحي بمصرف في المنوفية«وصلته عروض».. جوارديولا يحسم موقفه من التدريب في السعوديةشريف الشوباشي: أدخلت أفكارا جديدة على "القاهرة السينمائي" ولم أحضره منذ استقالتيمصر تروج لسياحة المؤتمرات والحوافز في أكبر المعارض الدولية ببرشلونةالحكومة تصدر 5 قرارات مهمة في اجتماعها اليوم.. التفاصيل كاملة
الإضافة إلى المصادر المفضلة

تقرير: ثغرات في الذكاء الاصطناعي تتيح خداعه واستهداف المدنيين باعتبارهم أهدافًا عسكرية

منذ 15 دقيقة

كشف تقرير بحثي، صادر عن شركة «Vals»، أن بعض نماذج الذكاء الاصطناعي من شركات «Anthropic» و«OpenAI» وغيرها من مختبرات الذكاء الاصطناعي الرائدة، قد تُخدع بسهولة لتحديد أهداف للضربات العسكرية، حتى لو شملت مدنيين، أو مواقع مثل المدارس، وذلك بمجرد إخبارها بأنها تلعب لعبة.

واختبرت الشركة المتخصصة في تقييم واختبار نماذج الذكاء الاصطناعي، على المهام الواقعية والمخاطر المتقدمة، إمكانية التلاعب بنماذج الذكاء الاصطناعي الرائدة للمشاركة في حروب ذاتية التشغيل، إذ استخدم الباحثون سيناريوهات محاكاة ومزيجًا من الصور المُولّدة والحقيقية من أوكرانيا وإيران لمعرفة ما إذا كانت نماذج الذكاء الاصطناعي ستحدد الأهداف في صور الطائرات المسيّرة والأقمار الصناعية، بحسب ما ذكر موقع «TechCrunch».

وحددت نماذج «OpenAI»، و«Anthropic»، و«Google»، و«DeepSeek»، وغيرها من الشركات، أهدافًا محتملة في صور الطائرات المسيّرة والأقمار الصناعية بشكل متكرر، بما في ذلك مدنيين وجنود مستسلمين، وعندما رفضت النماذج التعاون، تمكن الباحثون من اختراقها بادعاء أن سيناريوهات ساحة المعركة جزء من لعبة.

الذكاء الاصطناعي وحقوق المبدعين.. 4 ملفات يناقشها مؤتمر «الويبو» في مصر (تفاصيل) بتقنية بديلة.. الصين تهدف إلى توسيع استراتيجيتها للذكاء الاصطناعي ومواجهة القيود الأمريكية بعد التوسع في استخدام الذكاء الاصطناعي  خبير يدعو لتعزيز حماية البنية التحتية الرقمية

وتُشير «Vals»، في تقريرها، إلى أن النماذج لم تُطلب منها قط اتخاذ قرارات مباشرة بشأن الضربات، وهي مهمة قال الباحثون إن النماذج سترفضها عادةً، ولكن هذا لا يعني أن مخرجاتها لا يمكن أن تكون لها عواقب وخيمة أو مميتة في الواقع، فعلى سبيل المثال، يُمكن استخدام معلومات الاستهداف من قبل أنظمة الأسلحة ذاتية التشغيل.

وفي بعض السيناريوهات، طُلب من النماذج الإبلاغ عما إذا كان الأشخاص مرئيين، أعقبت التقارير الإيجابية ضربات محاكاة، ورأت النماذج عواقبها.

وتأتي هذه النتائج وسط مخاوف متزايدة بشأن المخاطر المباشرة التي يشكلها الذكاء الاصطناعي، والتي تتجاوز التهديدات الوجودية المرتبطة بالذكاء الاصطناعي العام، إذ يثير البحث الجديد تساؤلات إضافية حول قدرة شركات الذكاء الاصطناعي على منع استخدام نماذجها في الحروب.

وصرح إدواردو مايا سيلفا، المتحدث باسم شركة «أنثروبيك»، لموقع «TechCrunch»، بأن الشركة تُقدّر تقرير فالس وتوصياته وتعاونها، وتُقرّ بأن النتائج غير مقبولة، إذ صرح: «الأمثلة الواردة في التقرير تُخالف قواعدنا بشكلٍ واضح، وقد حظرنا وسنحظر المستخدمين الذين نرصد مثل هذا السلوك»، مُضيفًا: «حتى في الإعدادات المُصرّح بها، لطالما أكدت أنثروبيك أن أنظمة الذكاء الاصطناعي المتطورة الحالية ليست موثوقة بما يكفي لتشغيل أسلحة ذاتية التشغيل بالكامل».

كذلك كشف نيت إيفانز، المتحدث باسم شركة «OpenAI»، للموقع، أن الشركة تحظر استخدام نماذجها العامة لتسهيل العنف أو لأغراض الأمن القومي غير المصرح بها، بما في ذلك السيناريوهات التي قام فالس بمحاكاتها، موضحًا: «نعمل بنشاط على رصد حالات إساءة الاستخدام وإيقافها، بما في ذلك تعليق الحسابات التي تنتهك سياساتنا، كما نعمل على تطوير ضمانات إضافية لنماذجنا العامة ضد إساءة استخدامها فيما يتعلق بالطائرات المسيّرة وبرمجياتها».

✎

فريق تحرير المصطبة نيوز

فريق تحرير المصطبة نيوز خبرة في الصحافة الإلكترونية وإعداد وتحرير التقارير الاقتصادية، وفي صياغة المحتوى وفق معايير تحسين محركات البحث (SEO) يتابع الحدث لحظة وقوعه ويتابع كافة أخبار مصر والعالم العربي علي مدار 24 ساعة بدقة وإحترافية

تابعوا آخر الأخبار العربية والعالمية، وآخر المستجدات السياسية والاقتصادية والرياضية أولًا بأول عبر جوجل نيوز

أخبار ذات صلة