كشف تقرير بحثي، صادر عن شركة «Vals»، أن بعض نماذج الذكاء الاصطناعي من شركات «Anthropic» و«OpenAI» وغيرها من مختبرات الذكاء الاصطناعي الرائدة، قد تُخدع بسهولة لتحديد أهداف للضربات العسكرية، حتى لو شملت مدنيين، أو مواقع مثل المدارس، وذلك بمجرد إخبارها بأنها تلعب لعبة.
واختبرت الشركة المتخصصة في تقييم واختبار نماذج الذكاء الاصطناعي، على المهام الواقعية والمخاطر المتقدمة، إمكانية التلاعب بنماذج الذكاء الاصطناعي الرائدة للمشاركة في حروب ذاتية التشغيل، إذ استخدم الباحثون سيناريوهات محاكاة ومزيجًا من الصور المُولّدة والحقيقية من أوكرانيا وإيران لمعرفة ما إذا كانت نماذج الذكاء الاصطناعي ستحدد الأهداف في صور الطائرات المسيّرة والأقمار الصناعية، بحسب ما ذكر موقع «TechCrunch».
وحددت نماذج «OpenAI»، و«Anthropic»، و«Google»، و«DeepSeek»، وغيرها من الشركات، أهدافًا محتملة في صور الطائرات المسيّرة والأقمار الصناعية بشكل متكرر، بما في ذلك مدنيين وجنود مستسلمين، وعندما رفضت النماذج التعاون، تمكن الباحثون من اختراقها بادعاء أن سيناريوهات ساحة المعركة جزء من لعبة.
الذكاء الاصطناعي وحقوق المبدعين.. 4 ملفات يناقشها مؤتمر «الويبو» في مصر (تفاصيل) بتقنية بديلة.. الصين تهدف إلى توسيع استراتيجيتها للذكاء الاصطناعي ومواجهة القيود الأمريكية بعد التوسع في استخدام الذكاء الاصطناعي خبير يدعو لتعزيز حماية البنية التحتية الرقميةوتُشير «Vals»، في تقريرها، إلى أن النماذج لم تُطلب منها قط اتخاذ قرارات مباشرة بشأن الضربات، وهي مهمة قال الباحثون إن النماذج سترفضها عادةً، ولكن هذا لا يعني أن مخرجاتها لا يمكن أن تكون لها عواقب وخيمة أو مميتة في الواقع، فعلى سبيل المثال، يُمكن استخدام معلومات الاستهداف من قبل أنظمة الأسلحة ذاتية التشغيل.
وفي بعض السيناريوهات، طُلب من النماذج الإبلاغ عما إذا كان الأشخاص مرئيين، أعقبت التقارير الإيجابية ضربات محاكاة، ورأت النماذج عواقبها.
وتأتي هذه النتائج وسط مخاوف متزايدة بشأن المخاطر المباشرة التي يشكلها الذكاء الاصطناعي، والتي تتجاوز التهديدات الوجودية المرتبطة بالذكاء الاصطناعي العام، إذ يثير البحث الجديد تساؤلات إضافية حول قدرة شركات الذكاء الاصطناعي على منع استخدام نماذجها في الحروب.
وصرح إدواردو مايا سيلفا، المتحدث باسم شركة «أنثروبيك»، لموقع «TechCrunch»، بأن الشركة تُقدّر تقرير فالس وتوصياته وتعاونها، وتُقرّ بأن النتائج غير مقبولة، إذ صرح: «الأمثلة الواردة في التقرير تُخالف قواعدنا بشكلٍ واضح، وقد حظرنا وسنحظر المستخدمين الذين نرصد مثل هذا السلوك»، مُضيفًا: «حتى في الإعدادات المُصرّح بها، لطالما أكدت أنثروبيك أن أنظمة الذكاء الاصطناعي المتطورة الحالية ليست موثوقة بما يكفي لتشغيل أسلحة ذاتية التشغيل بالكامل».
كذلك كشف نيت إيفانز، المتحدث باسم شركة «OpenAI»، للموقع، أن الشركة تحظر استخدام نماذجها العامة لتسهيل العنف أو لأغراض الأمن القومي غير المصرح بها، بما في ذلك السيناريوهات التي قام فالس بمحاكاتها، موضحًا: «نعمل بنشاط على رصد حالات إساءة الاستخدام وإيقافها، بما في ذلك تعليق الحسابات التي تنتهك سياساتنا، كما نعمل على تطوير ضمانات إضافية لنماذجنا العامة ضد إساءة استخدامها فيما يتعلق بالطائرات المسيّرة وبرمجياتها».
- بعد التوسع في استخدام الذكاء الاصطناعي خبير يدعو لتعزيز حماية البنية التحتية الرقمية
- تقرير: تكاليف الذكاء الاصطناعي تخرج عن السيطرة و53% من المديرين قلقون
- أيمن أميري: الذكاء الاصطناعي يتوقع ما يريده العميل قبل طلبه ولكن يبقي الإنسان صمام الأمان
- انتقادات لـ«جوجل» بسبب خطتها لحرمان المدارس التي تحظر استخدام الذكاء الاصطناعي من الوصول إلى محرك البحث
- «الري»: استخدام الذكاء الاصطناعي لمتابعة المنظومة المائية






