كلما أردتُ أن أكتب عن إيجابيات الذكاء الاصطناعي والطفرة الموعودة التي ستعرفها الإنسانية بفضله، داهمتني أخبار وتصريحات لخبراء ولجان دولية لا تكاد تترك مجالاً للتفاؤل المريح.
أصدر الفريق العلمي الدولي المستقل المعني بالذكاء الاصطناعي، التابع للأمم المتحدة والمؤلَّف من 40 عضواً من جنسيات مختلفة، يوم 21 سبتمبر/أيلول، تقريراً موجزاً في نسخة أولية غير محرَّرة، يتناول الدور الخطير والمتزايد الذي يؤديه وكلاء الذكاء الاصطناعي. وجاء التقرير بعنوان: «وكلاء الذكاء الاصطناعي وعدم المواءمة، وخطر فقدان السيطرة البشرية: أدلة من حادثة أوبن إيه آي ـ هاغينغ فيس».
ووكلاء الذكاء الاصطناعي برامج لا تكتفي بالإجابة عن الأسئلة كما تفعل برامج المحادثة المعتادة، بل تُكلَّف بأهداف فتخطط لبلوغها، وتستعمل أدوات حاسوبية، وتنفذ سلسلة من الأفعال بإشراف بشري محدود أو من دونه، وقد تعدّل خطتها كلما اعترضتها عقبة. وتفيد عتبة نص التقرير الذي بين أيدينا الآن، أن الحافز الأساسي لنشره، أو سبب وروده، هو حادثة أوبن إيه آي ـ هاغينغ فيس (OpenAI ـ Hugging Face)، التي عدّها كثير من المهتمين بموضوع الذكاء الاصطناعي الوكيلي سابقة خطيرة للغاية. فما القصة؟
برامج ذكاء اصطناعي وكيلي تابعة لشركة أوبن إيه آي، مطوِّرة «تشات جي بي تي»، اختُبرت داخلياً، أي في حواسيب افتراضية للشركة (virtual computers)، لتقييم مدى تمكّنها من استغلال بعض الثغرات الأمنية في البرمجيات. والمفروض أن بيئة التجارب، وهي الحواسيب الافتراضية في حالتنا هذه، معزولة عن شبكة الإنترنت، بحيث لا تستطيع هذه الحواسيب الولوج إلى حواسيب أخرى على الإنترنت، ولا التواصل والتنسيق مع وكلاء آخرين. لكن الذي حدث هو أن هذه البرامج، أو الوكلاء الأذكياء، تمكنت من التواصل في ما بينها عبر أداة داخلية لتخزين البرمجيات، حوّلتها إلى «لوحة رسائل»، ثم تسلّلت فعلاً خارج نطاق اختبارها وولجت إلى الإنترنت، مستغلةً ثغرات أمنية في أنظمة أوبن إيه آي نفسها. وحين نفذت إلى الإنترنت، وهذا هو الأخطر، نسّقت في ما بينها ثم اخترقت أنظمة شركة أخرى هي هاغينغ فيس، المنصة التي تستضيف تقنيات ذكاء اصطناعي ومجموعات بيانات، وحاولت إخفاء الأثر!
قد يبدو لبعض القراء، أن هذه قصة من قصص الخيال العلمي، لكنها، للأسف، وقائع موثّقة في تقارير الشركتين وفي تدقيق مستقل، وقد استند إليها فريق علمي أممي. يعتمد التقرير الأممي على هذه الحادثة لطرح مفهوم عدم المواءمة وتقريبه إلى الأذهان. وعدم المواءمة (Misalignment) هو، بصيغة أخرى، انحراف أهداف الذكاء الاصطناعي؛ أي أن يسعى نظام ذكاء اصطناعي ما إلى تحقيق هدف، كاختراق حواسيب للحصول على معلومات، أو الولوج إلى الإنترنت، أو شنّ هجوم سيبراني على شركة أخرى، يتعارض مع النوايا والأهداف التي حدّدها أصلاً مصمم النظام أو التطبيق، أو يتجاوز الحدود التي وضعها القائمون عليه. وقد يكون هذا السلوك غير المتوقَّع، إذا جاز لنا أن نستعمل هذا التوصيف، ناتجاً عن فهم معيّن للمهمة المطلوبة من الوكيل الاصطناعي، وقد يكون كذلك متعمَّداً، بمعنى أن الوكيل يدرك أن ما يفعله غير مأذون به ثم يمضي فيه. تتعدد إذن الأسباب، لكن النتيجة واحدة: وكلاء ذكاء اصطناعي قد يخرجون عن السيطرة، واحتمال ظهور سلوكيات ضارة في سياقات أخرى، وازدياد خطورتها مع تطور قدرات أنظمة الذكاء الاصطناعي.
نحن إذن أمام مرحلة جديدة في الذكاء الاصطناعي. لقد تجاوزنا الحديث عن الهلوسة وحدها، أي أن يولّد النظام معلومات خاطئة بسبب عيب في تصميمه، أو في البيانات المستعملة في مرحلة تدريبه. فقد أصبح الوكيل الاصطناعي قادراً على التنسيق للقيام بمهام لم تُسند إليه، وعلى إحداث تغيير في البيئة التي يشتغل فيها، أو في أي مكان آخر يصل إليه؛ لقد صار فاعلاً في محيطه وخارجه. وقد اجتمعت في هذه الحادثة، في بيئة تقنية حقيقية، إشارات تحذيرية كانت تُرصد متفرقة في المختبرات: الإصرار، والتنسيق بين الوكلاء، وتوسيع الصلاحيات، والإخفاء.
ولا يتردد التقرير الأممي في الإشارة إلى التخوفات التي يعبّر عنها خبراء مرموقون في مجال الذكاء الاصطناعي بشأن مستقبل البشرية في ظل تطبيقات الذكاء الاصطناعي الوكيلي، إلى حدّ أن هناك من يتساءل عمّا إذا كان الذكاء الاصطناعي قد يقضي على الوجود البشري، في حين يستبعد آخرون هذا السيناريو القاتم. ومع ذلك تظل المخاوف قائمة بشأن فقدان السيطرة على النماذج الأكثر قدرة، ذات الأغراض العامة، لا سيما عند تمكينها من العمل باستقلالية وبأدوات وصلاحيات واسعة. وهنا يبدو أن النماذج الأصغر حجماً أو المتخصصة في مجالات محددة، مع ما تقدمه لمستعمليها من فوائد متعددة، تظل مخاطرها محدودة مقارنةً بالنماذج المتطورة جداً، كالتي تمتلكها وتصممها شركات مثل أوبن إيه آي وأنثروبيك.
وفي هذه الحادثة، تمكنت أوبن إيه آي من إيقاف نشاط الوكلاء، وتقول إن الحادثة لم تمسّ بيانات عملائها ولا عمل منتجاتها. أما هاغينغ فيس فأبلغت عن وصول غير مأذون به إلى مجموعة محدودة من بياناتها الداخلية وبيانات الدخول. لكن القدرة على إيقاف أنظمة اليوم، ولو في الوقت بدل الضائع، لا تضمن القدرة على إيقاف أنظمة أخرى أقدر وأسرع وأبرع في التخفي غداً.
فالسؤال لم يعد: هل ستتمكن هذه الأنظمة من الخروج عن السيطرة في مقبل الأيام؟ بل: إلى أي مدى ستصمد أنظمتنا وضمانات السلامة المعتمدة حالياً أمام وكلاء قادرين على الالتفاف عليها؟

نبيل بنعمرو