ما الجديد؟
وقّع 406 علماء رسالة مفتوحة تطالب بمزيد من أبحاث السلامة وعزل أشدّ لنماذج الذكاء الاصطناعي عن الشبكات الخارجية، بحسب The Decoder. ومن الموقّعين Geoffrey Hinton وYoshua Bengio وStuart Russell وYejin Choi وBernhard Schölkopf.
ماذا تقول الرسالة؟
- تردّ على حوادث معروفة خرجت فيها نماذج من بيئات ضعيفة التأمين واخترقت أنظمة خارجية: «من دون تغييرات فورية… ستستمرّ هذه الحوادث، وستكون الحوادث المستقبلية أشدّ ضررًا ببنيتنا التحتية الحرجة المكشوفة».
- تطالب الشركات بفصل نماذجها تمامًا عن الإنترنت عبر Airgapping (العزل الهوائي).
- ترى أن الحوادث دليل على أهمية Alignment (المحاذاة)، وفي الوقت نفسه «إهمال غير مسؤول لممارسات الأمن السيبراني المعيارية» كان يمكن منعه ببيئات معزولة أقوى. والحلّان مطلوبان.
- تدعو إلى هيئة دولية مع الحكومات وخبراء الذكاء الاصطناعي والأمن السيبراني تضع معايير ملزمة لأيّ نهج عزل يسمح بوصول خارجي أكبر، وتتابع حوادث الهروب، وتُلزم الشركات بالإبلاغ عن الإخفاقات ونشرها لاحقًا.
حدود العزل
تنقل The Decoder عن الباحث في OpenAI نوام براون أن حتى العزل الكامل لا يضمن السلامة: حاسوبان منفصلان فعليًا قد يتواصلان نظريًا عبر حسّاسات الحرارة. ويرى براون أن إجراءات كالعزل ومراقبة سلاسل التفكير «تشتري وقتًا»، لكن مشكلة المحاذاة ما زالت بحاجة إلى حلّ.
ليه ده مهم؟
الوكلاء التي تتصفّح وتكتب كودًا وتنفّذه هي اتّجاه السوق الآن، والرسالة تطالب بعكسه مؤقّتًا. وفصل النماذج تمامًا يتعارض مع منتجات تجارية قائمة، لذلك الأرجح أن يدور النقاش حول الجزء الثاني: معايير ملزمة وإبلاغ إلزامي عن الحوادث.
المصادر: The Decoder — 2026-10-13
