لضبط سلوك الوكلاء المتمردين.. إنفيديا تطلق منصة برمجية كابحة
لضبط سلوك الوكلاء المتمرّدين، أطلقت شركة إنفيديا "منصة أمان الوكيل المفتوحة" (Open Agent Safety Platform)، وهي أداة برمجية جديدة مصممة لمساعدة المطورين على إحكام السيطرة على وكلاء الذكاء الاصطناعي ومنعهم من تجاوز القيود أو استغلال الثغرات، كما حدث في حوادث موثقة لوكلاء أنثروبيك وأوبن إيه آي وميتا وغوغل، حيث تمكنت نماذج من الخروج من بيئات الاختبار والاتصال بالإنترنت لمهاجمة مواقع خارجية. وتقول الشركة إن المنصة قادرة على إحباط هذه المحاولات ومنع الوكلاء من تجاوز الضوابط التي يحددها المطورون لهم.
وكان رئيس إنفيديا قد عارض الدعوات إلى إبطاء تطوير الذكاء الاصطناعي التي أطلقها داريو أمودي من أنثروبيك، وسام ألتمان من أوبن إيه آي، وإيلون ماسك بعد تطور إمكانات الوكلاء الذكائيين، معتبراً أن المشكلة هندسية وحلها هندسي، ويقدّم الآن أحد هذه الحلول بدل التعامل معها كظاهرة خطيرة تستدعي الذعر.
المنصة مكونة من جزأين، يعمل الجزء الأول من المنصة، OpenShell، كبيئة تشغيل معزولة تُحاصر الوكيل داخل نطاق محدد بدقة، بحيث لا يستطيع الوصول إلى النظام الحقيقي أو الشبكات أو الملفات إلا وفق صلاحيات ضيقة جداً. تعتمد هذه الطبقة على سياسات أمنية تُطبَّق على مستوى النظام، فتمنع تنفيذ الأوامر غير المصرّح بها، وتحدّ من قدرة الوكيل على إنشاء عمليات جديدة أو التواصل مع الخارج، ليظل محصوراً داخل “عالم صغير” لا يمكنه تجاوزه.
أما الجزء الثاني، NVIDIA Sentry، فهو طبقة مراقبة خارجية تعمل فوق OpenShell وتراقب سلوك الوكيل لحظة بلحظة. يتتبع أي محاولة لكسر القيود أو إنشاء وكلاء فرعيين أو فتح قنوات اتصال غير مصرح بها، وعند رصد نشاط خطير يتدخل فوراً ليقطع الاتصال ويوقف الوكيل ويسجّل الحادث للتحقيق، ما يمنع أي محاولة للهروب أو الوصول إلى أنظمة خارجية.
وتطلق إنفيديا المنصة مفتوحة المصدر جزئياً، مما يجعل من الممكن تطويرها وتخصيصها لكل شركة، وتصفها بأنها "تصميم مرجعي" يُبنى فوقه منتجات جاهزة للسوق. وسمّت إنفيديا كلاً من سيسكو، ومايكروسوفت، وأوراكل، وCoreWeave، وديل، وHPE، ولينوفو، وARM، وإنتل كشركاء لها، كما تعمل مع أنثروبيك لدمج الوكلاء المدارين سحابياً مع منصة OpenShell.
