أطلقت إنفيديا منصة أمنية مفتوحة تهدف إلى فرض قيود مباشرة على وكلاء الذكاء الاصطناعي وعزلهم سريعا إذا حاولوا تجاوز الصلاحيات الممنوحة لهم، مع ازدياد استخدام هذه الأنظمة في تنفيذ مهام حساسة بصورة شبه مستقلة.
وتحمل المنصة اسم NVIDIA Open Agent Safety Platform وتتكون أساسا من برنامج «اوبن شل» مفتوح المصدر ونظام مرجعي يسمى «سنتري» ويعمل «أوبن شيل» على مراقبة أفعال الوكيل وتطبيق السياسات أثناء التشغيل، بينما يستخدم «سنتري» مراقبة منفصلة على مستوى العتاد، ويمكنه وضع الوكيل في الحجر خلال أجزاء من الثانية عند خروجه عن الحدود المحددة.
وقالت إنفيديا ان أكثر من 100 جهة تشارك في تطوير المنظومة أو استخدامها، بينها أنثروبيك، مايكروسوفت، سيلزفورس، جيه بي مورغان تشيس، هاغينغ فيس وسبيس.أكس.ايه.أي كما يمكن تمديد «أوبن شيل» للعمل مع منصات حوسبة من شركات أخرى، بينها آرم وإنتل.
وترى الشركة أن أمن الوكلاء يحتاج إلى ضوابط تمتد عبر البرمجيات والعتاد، بدلا من الاعتماد على القيود الموضوعة داخل التطبيق وحدها.
- ما الذي يجب مراقبته في أول تقرير أرباح لشركة إنفيديا بعد استقالة هوانج؟
- استقالته تهز عمالقة التكنولوجيا.. 158 ألف شخص يطالبون بعودة رئيس إنفيديا
- خبير نظم معلومات: أزمة "إنفيديا" تتعلق بالحوكمة وتصدير الرقائق إلى الصين
- 33 عامًا من القيادة تنتهي بفضيحة.. القصة الكاملة لرحيل جنسن هوانج عن «إنفيديا»
- الرابحون والخاسرون من «زلزال إنفيديا».. كيف استفاد الصينيون من الأزمة؟






