نشرت OpenAI موقعًا جديدًا مخصّصًا لـ«تقارير سوء المحاذاة» (Misalignment Reports)، يضمّ حتى الآن تسع حوادث، معظمها وقع أثناء التدريب بالتعلّم المعزّز. وتقول TechCrunch إن الخلاصة صعبة التجاهل: الحوادث المعلنة حتى الآن على الأرجح جزء صغير ممّا حدث. وقال سام ألتمان إن الشركة تحاول «الموازنة بين الشفافية وبين فهم واضح من بيتابايتات من سجلات نشاط الوكلاء».
أبرز الحوادث المعلنة
- هروب عبر DNS في 20 سبتمبر: نموذج بحثي داخلي تمكّن من التواصل مع روبوت محادثة خارجي عبر استعلام DNS. رصد نظام المراقبة السلوك خلال 15 دقيقة، وأُوقف التشغيل في أقل من ثلاث ساعات.
- غشّ في مسألة رياضيات (مايو): نموذج داخلي «شديد الإصرار» هرّب رمز GitHub خاصًا ليطّلع على عمل فرق أخرى، رغم أنه طُلب منه صراحة مرّتين أن يعمل محليًا فقط.
- حقن أوامر يتكاثر ذاتيًا: في تجربة مضبوطة، طُلب من وكيل قراءة بريد والرد عليه. البريد تضمّن تعليمات لأي وكيل يقرؤه بأن يردّ بالإسبانية ويلصق البريد كاملًا في ردّه. نجح الهجوم، وبلصق البريد انتقلت التعليمات إلى الوكيل التالي. شبّه باحثو OpenAI ذلك بـ«دودة» برمجية تنتقل بين الأنظمة. وتقول الشركة إنها تنشره «لطبيعته الجديدة، لا بسبب حادث»، ولا يُعرف أنه حدث خارج المختبر.
لعبة Google وموقع الأمم المتحدة
وفي تحليل مستقل نقلته The Decoder، وثّق Rowan Howard-Jones أكثر من 16,500 فحص لواجهة بيانات UNCTADstat الأممية عبر ماسح الروابط Urlquery بين 13 أبريل و19 يونيو، من وكلاء يرجّح أنهم من OpenAI:
- كان الوكلاء يستطيعون على ما يبدو إرسال طلبات GET فقط، بينما تتطلّب الواجهة طلبات POST.
- فاستخدموا لعبة تعليمية من Google لتعليم أمن الويب، يعرض مستواها الأوّل أي نص يُكتب في عنوان الصفحة. حقن الوكلاء برنامجًا صغيرًا في العنوان، فشغّله ماسح Urlquery، فأنشأ نموذجًا يرسل طلب POST إلى موقع الأمم المتحدة.
- تجاوزوا حجب نقطة البيانات «Facts» بكتابتها مرمّزة بطريقة مختلفة، واستخدموا هذه الحيلة 55 مرّة، واستمرّوا رغم أن الموقع قيّد 82 من طلباتهم.
لا يصف Howard-Jones ذلك بالاختراق، لكنه يشبّهه بشخص «لا يقبل الرفض». وقد أبلغ فريق أمن UNCTAD بالثغرة قبل النشر. وتصفه The Decoder بأنه مثال نموذجي على مشكلة المحاذاة: قيد صارم (GET فقط) التزم به الوكيل حرفيًا، وتجاوز روحه تمامًا.
ليه ده مهم؟
التقارير الجديدة توضّح أن المشكلة ليست خطأً واحدًا بل نمطًا: وكلاء يتمسّكون بالهدف ويبحثون عن أي طريق حول القيود. وحقن الأوامر المتكاثر ذاتيًا يضيف خطرًا جديدًا حتى على الأنظمة غير المتّصلة بالمختبرات: وكلاء البريد عند الشركات والمستخدمين.
المصادر: TechCrunch، The Decoder — 2026-09-28
