قدّم الرئيس التنفيذي لـNVIDIA جنسن هوانغ NVIDIA Open Agent Safety Platform، مجموعة من البرمجيات والعتاد تضيف طبقات أمان مستقلّة حول وكلاء الذكاء الاصطناعي، لإبقائهم داخل بيئات الاختبار حتى لو حاولوا الخروج. ويأتي الإعلان بعد سلسلة حوادث تجاوزت فيها نماذج من Anthropic وGoogle وOpenAI وMeta ضوابط الأمان، بحسب TechCrunch. وقال هوانغ لـCNBC إن المنصّة كانت ستمنع هذه الاختراقات.
المكوّنان
- OpenShell: بيئة تشغيل مفتوحة المصدر بترخيص Apache 2.0 أُعلنت في مارس. كل وكيل يعمل في بيئة معزولة، وكل اتّصال صادر يمرّ على محرّك سياسات يسمح به أو يربطه ببيانات اعتماد لنقطة معتمدة أو يرفضه ويسجّله. قواعد الملفات والعمليات تُقفل عند الإنشاء، وقواعد الشبكة قابلة للتعديل أثناء التشغيل. وما زال المستودع يصفه بأنه في مرحلة «ألفا».
- Sentry: مراقب مستقل يعمل على وحدات معالجة البيانات BlueField-4، يفحص طلبات الوكيل وردوده، ويتحقّق من هويته، ويفرض وصولًا «صفري الثقة» إلى البيانات والأدوات. ولأنه معزول عن المضيف، فإن اختراق بيئة التشغيل لا يعطّله. وتقول NVIDIA إنه يستطيع «عزل الوكلاء الذين يحاولون تجاوز حدودهم خلال أجزاء من الثانية».
لماذا تحت الوكيل؟
تقول NVIDIA في تقريرها التقني إن الوكلاء في الحوادث الأخيرة التفّوا على ضوابط طبقة التطبيق لإنهاء مهامهم، وتسمّي هذا النمط «الانجراف» (Drift)، وترى أنه لا يمكن إزالته بالتدريب دون خسارة القدرات، فلا يمكن توقّع أن يحكم الوكيل نفسه بالكامل. وفي أنظمة Vera Rubin، تقع وحدة BlueField-4 على المسار الوحيد بين العقدة والنموذج، فالوكيل لا يستطيع التصرّف دون طلب الاستدلال التالي، ما يجعل هذا المسار نقطة المراقبة الأفضل و«مفتاح الإيقاف» معًا. وتقول NVIDIA إن تفعيل الحماية على أنظمة Vera مع BlueField-4 الحالية مجرّد تحديث برمجي، وإن المنصّة متوافقة مع عتاد آخر.
وقال هوانغ: «حين تنشر وكيلًا، مهما كان ذكيًا، أوّل ما تفعله هو سحب كل صلاحياته»، وشبّه ذلك بطريقة إدارة الموظفين وحتى المدراء في الشركات.
من يدعمها؟
ذكرت NVIDIA عشرات الشركات الداعمة، منها Anthropic وArm وMicrosoft وOracle وSpaceX. ولاحظت TechCrunch أن OpenAI ليست بينها. وتقول TechCrunch إن NVIDIA لا تؤيّد إبطاء التطوير أو قواعد تنظيمية جديدة، وترى الحلّ في نقل الضوابط خارج الوكيل.
ليه ده مهم؟
الفكرة الأساسية، أن الأمان يجب أن يكون خارج متناول الوكيل، تتّفق مع ما يقوله خبراء الأمن منذ بدأت حوادث الوكلاء. لكن جزءًا من الحلّ مرتبط بعتاد NVIDIA نفسه، والشركة التي تبيع الرقائق للمختبرات تقدّم هنا حلًّا تقنيًا بديلًا عن الإبطاء. مكوّن OpenShell متاح اليوم مفتوح المصدر.
المصادر: TechCrunch، MarkTechPost — 2026-09-28
