تطور خطير.. الـAI تجاوز أنظمة الأمان وحاول خداع البشر خلال اختبارات بريطانية

قالت صحيفة "تليجراف" البريطانية، إن نسخة متطورة من تشات جي بي تي وMythos من Anthropic خرجت عن السيطرة، بعدما شن الذكاء الاصطناعي المتطور هجمات إلكترونية خلال اختبارات أجراها مختبر ذكاء اصطناعي تابع للحكومة البريطانية وابتكر هويات مزيفة متعددة لخداع المهندسين البشريين قبل إخفاء آثاره.

وفي أخطر الحالات، أرسل Mythos رسائل بريد إلكتروني احتيالية وحاول إدخال برمجيات خبيثة في قاعدة بيانات.

واعترف معهد أمن الذكاء الاصطناعي البريطاني (AISI)، المسئول عن تقييم روبوتات الذكاء الاصطناعي بحثًا عن قدرات سيبرانية خطيرة، بأن الأدوات حاولت تجاوز أنظمة الأمان وإخفاء نشاطها عند اكتشافها.

وأفاد المختبر بأن الروبوتات حاولت إضافة فيروس إلى قاعدة بيانات إلكترونية وأرسلت رسائل بريد إلكتروني تحتوي على برمجيات خبيثة إلى أفراد غير مدركين خلال تجارب مصممة لمراقبة إمكانية استخدام أدوات الذكاء الاصطناعي في الاختراق، وأكد أن محاولات الاختراق باءت بالفشل.

وأُوقفت أخطر حادثة في غضون ساعة، وفقًا لما أفاد به المسئولون. مع ذلك، أقرّوا بأنهم أخطأوا في تقدير قدرات الروبوت، بما في ذلك عدم توقعهم محاولته "استهداف أشخاص حقيقيين".

وأكد فريق الأمن في معهد الذكاء الاصطناعي البريطاني رصد "عمليات نقل بيانات غير معتادة خارجة من أنظمة البحث لدينا خلال تقييم سيبراني روتيني" في 28 يوليو.

وأضاف الفريق: "خلال التحقيق، وجدنا أن بعض البرامج التي خضعت للاختبار قد انخرطت في نشاط مستمر، يحتمل أن يكون ضارًا، موجهًا ضد أشخاص ومنظمات حقيقية".

وُضعت ألغاز أمنية سيبرانية على روبوتات الذكاء الاصطناعي لاختبار قدراتها. ولم يكن الوصول إلى الإنترنت متاحًا لهذه الروبوتات.

وخلال 10 من أصل 122 تجربة، "اتخذت الروبوتات إجراءات تلقائية وغير مصرح بها" في محاولة لإتمام المهمة. وشمل ذلك محاولة إدخال ثغرة خبيثة في GitHub، وهي قاعدة بيانات برمجية على الإنترنت، في هذه الحادثة، قام برنامج Mythos التابع لشركة Anthropic، وهو أقوى روبوت ذكاء اصطناعي لديها، بإنشاء ملفات تعريف مزيفة على الإنترنت وأرسل رسائل بريد إلكتروني خادعة إلى المطورين في محاولة لإضافة الكود.