أعلنت الحكومة الأسترالية، عن خطة لفرض معايير إلزامية للأمان والسلامة على الشركات المطورة لنماذج الذكاء الاصطناعي المتقدمة، وإنشاء جهة رقابية جديدة تتمتع بصلاحيات متابعة الالتزام بهذه المعايير، وفرض عقوبات على الشركات المخالفة، في أعقاب واقعة وصول غير مصرح به نفذها وكيل ذكاء اصطناعي تابع لشركة OpenAI إلى بوابة إحصاءات حكومية مرتبطة بنظام الرعاية الصحية Medicare.
وتستهدف ضوابط الذكاء الاصطناعي في أستراليا، تعزيز الرقابة على الأنظمة القادرة على تنفيذ مهام بصورة مستقلة، بعدما كشفت الواقعة عن تحديات تتعلق بأمن المواقع الحكومية وسرعة اكتشاف الحوادث والإبلاغ عنها، وتحديد المسؤولية القانونية للشركات المطورة لهذه الأنظمة.
وبحسب بيان رسمي صادر عن الحكومة الأسترالية، أكد رئيس الوزراء، أنتوني ألبانيزي، قبول الحكومة جميع التوصيات الثماني عشرة الصادرة عن مراجعة عاجلة للحادثة، مع بدء العمل على تنفيذها، بما يشمل تطوير قواعد الإبلاغ عن الحوادث وتعزيز الأمن السيبراني والنظر في تعديلات للتشريعات الجنائية.
رئيس المصرية للاتصالات: استراتيجية لتحويل مصر إلى ممر رقمي عالمي يربط آسيا وأفريقيا بأوروباو كان أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI، قد نفذ مهمة بحثية تتعلق بالإنفاق العام على الأدوية في أستراليا، ضمن عمليات تقييم لقدرات النموذج.
وخلال المهمة، تفاعل الوكيل مع عدد من المواقع الحكومية الأسترالية، بينها بوابة خدمة التقارير الإحصائية التابعة لنظام Medicare، التي تديرها هيئة الخدمات الأسترالية Services Australia.
وبعد رفض البوابة، تزويده ببعض المعلومات المطلوبة، اتخذ الوكيل خطوات غير مصرح بها للوصول إلى بيانات غير متاحة للعامة، في سلوك وصفته السلطات الأسترالية بأنه خروج عن الأهداف والحدود المحددة للنظام.
وأكدت الحكومة، أن المعلومات التي جرى الوصول إليها تضمنت إحصاءات صحية مجمعة، دون الوصول إلى البيانات الطبية الشخصية أو سجلات المرضى، مشددة على ضرورة التمييز بين بوابة الإحصاءات والنظام المسؤول عن معالجة مطالبات المرضى ومدفوعاتهم.
ووفقا لـ«رويترز»، قالت OpenAI، إنها لم تكتشف الحادثة إلا خلال أغسطس الماضي، قبل إخطار السلطات الأسترالية في سبتمبر، مؤكدة أن التصرفات التي نفذها الوكيل لم تكن مقصودة، وأن مراجعتها لم تجد دليلًا على الوصول إلى سجلات المرضى.
وأثار التأخر في الإبلاغ انتقادات حكومية، فيما اعتذرت الشركة عن الواقعة وعن طريقة تعاملها مع الإخطار.
تتضمن الخطة الأسترالية، إدراج متطلبات الأمان والسلامة ضمن تشريع جديد لمعايير الذكاء الاصطناعي، على أن تسري الالتزامات المقترحة على الشركات المطورة للنماذج الأكثر تقدمًا التي ترغب في العمل داخل البلاد.
وبحسب البيان المشترك لوزراء الحكومة الأسترالية، تلتزم الشركات بتطبيق ضوابط أمنية خلال مراحل تطوير النماذج ونشرها وتشغيلها، وتحديد المخاطر الجسيمة المرتبطة بقدراتها، ووضع آليات مناسبة لإدارتها.
كما تشمل المتطلبات السماح بإجراء تقييمات مستقلة للنماذج، والإبلاغ السريع والإلزامي عن الحوادث الأمنية والسلوكيات غير المتوقعة، إلى جانب إعداد أطر منشورة للسلامة والأمن والحوكمة وإدارة المخاطر.
وتعتزم الحكومة، إنشاء جهة تنظيمية متخصصة في سلامة الذكاء الاصطناعي، تتولى الإشراف على تنفيذ هذه الالتزامات بالتعاون مع المعهد الأسترالي لسلامة الذكاء الاصطناعي، الذي سيوفر الخبرة الفنية اللازمة للتقييم والرقابة.
وستتمتع الجهة المقترحة بصلاحيات فرض عقوبات مالية كبيرة على الشركات غير الملتزمة، وإن لم تعلن الحكومة حتى الآن قيمة هذه العقوبات أو تفاصيل آليات تطبيقها.
وتضمنت الإجراءات، بحث تعديلات على القانون الجنائي تسمح بمعالجة حالات المخالفات الجسيمة، بما في ذلك إمكانية استحداث جريمة مستقلة تتعلق بإخفاق الشركة في اتخاذ خطوات معقولة لمنع السلوك الضار الصادر عن نموذج طورته.
كما دعت المراجعة، إلى تعزيز تبادل المعلومات بين المؤسسات الحكومية والجهات المختصة بالأمن السيبراني، وتطوير قدرات العاملين على التعامل مع التهديدات الجديدة، وتقليص الأنظمة الحكومية المتصلة بالإنترنت دون ضرورة تشغيلية.
وشملت التوصيات، توسيع التعاون مع الشركات المطورة للذكاء الاصطناعي المتقدم، والاستفادة من الخبرات الدولية في تقييم النماذج، وتطوير أدوات دفاع سيبراني تستخدم الذكاء الاصطناعي في اكتشاف التهديدات والاستجابة للحوادث.
أكد رئيس الوزراء أنتوني ألبانيزي، أن التطور السريع للذكاء الاصطناعي يفرض تحديث الأطر القانونية والتنظيمية، مشددًا على ضرورة بقاء الإنسان مسيطرًا على التكنولوجيا، وعدم السماح للأنظمة المتقدمة بالعمل دون ضوابط تضمن سلامة المجتمع وأمن المعلومات.
وأوضح أن أستراليا تسعى إلى الاستفادة من الفرص الاقتصادية والإنتاجية التي يوفرها الذكاء الاصطناعي، بالتوازي مع حماية المصالح الوطنية وتعزيز الثقة في الشركات العاملة بالقطاع.
من جانبه، شدد وزير الداخلية والأمن السيبراني، توني بيرك، على أهمية تطوير التشريعات لمواكبة قدرة أنظمة الذكاء الاصطناعي على تنفيذ إجراءات قد تؤدي إلى أضرار فعلية، حتى عندما لا تكون هذه النتائج مقصودة من الجهة المطورة.
وتأتي الخطوة وسط نقاش أوسع بين الحكومة الأسترالية وشركات التكنولوجيا بشأن تنظيم نشاط الذكاء الاصطناعي، بما يشمل حقوق الملكية الفكرية والتزامات الإفصاح والمساءلة القانونية.
- الصين تفرض ضوابط لحماية الأطفال من الوقوع في حب روبوتات الدردشة بالذكاء الاصطناعي
- لماذا تعيد الشركات العالمية بناء فرقها المالية بالذكاء الاصطناعي؟
- الشركات الكبرى تراهن على نماذج عالمية في سباق الذكاء الفائق
- «جوجل» تطور معالجين جديدين للذكاء الاصطناعي
- هل يمكن للذكاء الاصطناعي أن يساعد في التحدث مع الحيوانات يوما ما؟
