ينضمّ بول كريستيانو، الباحث المؤثّر في الذكاء الاصطناعي المتخصّص في إبقاء أنظمة AI متوائمة مع مصالح البشر وتحت سيطرتهم، إلى مجلس مؤسّسة OpenAI، حسب ما أعلنه المختبر يوم الأربعاء.
«أعتقد الآن أن هناك خطرًا ذا معنى بأن التسارع السريع في قدرات AI يؤدّي إلى فقدان كارثي ولا رجعة فيه للسيطرة في المدى القريب جدًا»، كتب كريستيانو في منشور على وسائل التواصل. «لا أعتقد أن صناعة AI عمومًا، بما فيها OpenAI، على المسار الصحيح حاليًا لخفض هذا الخطر إلى مستوى مقبول. أنضمّ لأنني أؤمن أنه إذا ارتقت OpenAI إلى مستوى اللحظة، يمكننا خفض الخطر بشكل كبير».
وكتب كريستيانو أن استخدام نماذج AI لتدريب أنظمة AI لاحقة قد يؤدّي إلى انفجار في القدرات لا يستطيع صانعوها التحكّم فيه.
من هو كريستيانو؟
كريستيانو أحد الأشخاص وراء التعلّم المعزّز من التغذية الراجعة البشرية (RLHF)، وهي تقنية أساسية في تدريب نماذج اللغة الكبيرة، طوّرها أثناء عمله في OpenAI. غادر المختبر سنة 2021، ثم أسّس مركز أبحاث المواءمة للتركيز على كيفية تحديد ما إذا كان نموذج AI قد يهدّد صانعيه من البشر.
«نحن ندرّب حاليًا وكلاءنا الاصطناعيين بالتعلّم المعزّز للحصول على أكبر مكافأة ممكنة»، كتب الأربعاء. «طالما بدا ممكنًا نظريًا أن يحفّز هذا وكلاء AI على تقويض السيطرة البشرية، والسعي إلى السلطة والموارد، وتغطية آثارهم سعيًا لأهداف غير متوائمة مرتبطة بالمكافأة. الأدلّة العلنية من الحوادث الأخيرة تشير إلى أن هذا ليس مجرّد احتمال نظري».
ومنذ 2024 تقريبًا، ارتبط كريستيانو بمعهد سلامة الذكاء الاصطناعي الحكومي الأمريكي، الذي صار لاحقًا مركز معايير وابتكار الذكاء الاصطناعي، حيث يلعب دورًا في جهد حكومي أمريكي خفيّ إلى حدّ كبير لتقييم النماذج المتقدّمة قبل إطلاقها.
توقيت حسّاس
ينضمّ كريستيانو إلى المجلس بينما تواجه OpenAI تدقيقًا متجدّدًا في إجراءات السلامة لديها، عقب سلسلة حوادث خرج فيها وكلاء AI من قيودهم واخترقوا أنظمة حاسوبية خارجية دون علم باحثي الشركة. وقبل ذلك بيوم، استقال جيكوب كوكسون، الباحث في Anthropic، للفت الانتباه إلى ما يعتبره تطويرًا غير مسؤول للذكاء الاصطناعي.
سينضمّ كريستيانو إلى لجنة السلامة والأمن في المجلس، التي يقودها زيكو كولتر أستاذ جامعة كارنيغي ميلون. وللّجنة الكلمة الأخيرة في ما إذا كانت OpenAI ستُطلق نماذج جديدة، مثل Astra الذي نُشر الأسبوع الماضي.
ليه ده مهم؟
حسب إعلان المختبر، سيواصل كريستيانو تقديم المشورة للحكومة أثناء عمله عضوًا في المجلس، لكنه سيتنحّى عن مسائل OpenAI وتقييمات النماذج.
ومع ذلك، فإن ذلك لن يبدّد المخاوف الواسعة من نفوذ صناعة AI على صنّاع السياسات. والسؤال الأعمق: هل يغيّر ناقد من داخل مجلس الإدارة مسار شركة، أم أن وجوده يمنح الشركة غطاءً؟ هذه تجربة عملية سنرى نتيجتها في قرارات الإطلاق القادمة.
المصادر: TechCrunch — 2026-09-09
