الاتحاد الأوروبى يخضع منصة إكس للتحقيق بعد إنشاء 3 ملايين صورة جنسية على Grok

فتحت المفوضية الأوروبية تحقيقاً جديداً، اليوم الاثنين، في أعقاب انتشار واسع النطاق لمقاطع الفيديو الجنسية المزيفة التي تم إنشاؤها بواسطة روبوت الدردشة الذكي Grok على منصة إكس التى يرأسها إيلون ماسك.

وستقرر المفوضية ما إذا كانت شركة X قد استوفت متطلبات الاتحاد الأوروبي لحماية المستخدمين عندما قامت بدمج Grok في منصة التواصل الاجتماعي وخوارزميتها الأساسية.

 تغريم منصة إكس 120 مليون يورو 

وتخضع شركة X حاليًا للتحقيق على عدة جبهات بموجب قانون الخدمات الرقمية للاتحاد الأوروبي، الذي ينظم منصات التواصل الاجتماعي، وقد غرمت في ديسمبر بمبلغ 120 مليون يورو بسبب قصور في الشفافية،  ويمكن أن تصل الغرامات إلى 6% من إيرادات X العالمية السنوية.

وقالت اللجنة إن التحقيق الجديد سيبحث فيما إذا كانت الشركة قد قيمت بشكل صحيح مخاطر دمج Grok ،  لا سيما تلك المتعلقة بـالصور الجنسية الصريحة التي تم التلاعب بها، بما في ذلك بعض الصور التي "قد تصل إلى حد مواد الاعتداء الجنسي على الأطفال، لكن التحقيق أوسع بكثير من هذه الصور، كما قال مسؤول كبير في المفوضية خلال إحاطة إعلامية.

وتوصل تقدير أجرته منظمات المجتمع المدني إلى أن برنامج الدردشة الآلي ربما يكون قد أنشأ ما يصل إلى 3 ملايين صورة جنسية بدون موافقة، و20 ألف صورة اعتداء جنسي على الأطفال في الأيام الـ 11 التي سبقت إجراء تغييرات لوقف انتشار هذه الصور .

وبالإضافة إلى التحقيق الجديد، ستوسع المفوضية تحقيقًا أجري عام 2023 للنظر في تأثير قرار شركة X، الذي أعلن عنه الأسبوع الماضي، بتحويل خوارزمية منصة التواصل الاجتماعي الخاصة بها إلى نظام قائم على Grok.

وقالت المفوضية يوم الاثنين إنها قد تتخذ خطوات مؤقتة  على سبيل المثال، إصدار أمر لشركة X بتغيير خوارزمياتها أو إيقاف تشغيل برنامج الدردشة الآلي  في حالة عدم وجود تعديلات ذات مغزى على خدمة X ، وهو أمر تجنب الاتحاد الأوروبي القيام به حتى الآن لمنصة ماسك.

 المشرعون يطالبون بالصرامة مع تطبيقات تعدل الصور العارية

وانتشرت خاصية توليد الصور في تطبيق Grok انتشارًا واسعًا قبيل نهاية عام 2025، حيث طلب المستخدمون من برنامج الدردشة الآلي تعديل صور أشخاص حقيقيين،  وقد أثار هذا الأمر استنكارًا عالميًا، ودعا مشرعون أوروبيون إلى حظر تطبيقات الذكاء الاصطناعي التي تعدل الصور العارية، فضلًا عن اتخاذ إجراءات صارمة ضد Grok.

وقامت المنصة بتقييد قدرات برنامج الدردشة الآلي على إنشاء الصور في يناير، وذلك في البداية بحصرها على المشتركين المدفوعين في Grok. وقالت المفوضية حينها إنها بصدد تقييم ما إذا كانت التغييرات التي أدخلت على Grok كافية، فيما وجد مسؤولو الاتحاد الأوروبي أن التغييرات الأولية غير كافية، وأبدوا مخاوفهم للمنصة، التي اتخذت بدورها خطوات إضافية.