باختصار
Linear Probe (المسبار الخطّي) مصنّف خطّي صغير بتدرّبه على التنشيطات الداخلية لطبقة معيّنة في شبكة عصبية، عشان تسأل: هل المعلومة دي موجودة في الطبقة دي بشكل سهل تقراه؟
بالتفصيل
الشبكات العصبية سمعتها إنها «صناديق سودا». في ورقة سنة 2016، اقترح Guillaume Alain وYoshua Bengio إنك تراقب الخصائص في كل طبقة من النموذج وتقيس قد إيه هي مناسبة للتصنيف، باستخدام مصنّفات خطّية سمّوها «مسابير»، بتتدرّب بشكل مستقلّ تمامًا عن النموذج نفسه.
النقطة المهمّة: المسبار ما بيغيّرش النموذج. النموذج متجمّد، وإنت بس بتاخد التنشيطات اللي طلعت من طبقة معيّنة وتدرّب عليها مصنّف بسيط. لو المسبار نجح، يبقى المعلومة «مكتوبة» في الطبقة دي بشكل خطّي.
الباحثين طبّقوا الفكرة على نموذجين مشهورين للصور، Inception v3 وResNet-50، ولاحظوا إن قابلية الفصل الخطّي للخصائص بتزيد باستمرار كل ما تنزل أعمق في النموذج.
ليه «خطّي» بالذات؟ لأن المصنّف البسيط ما يقدرش «يحسب» المعلومة بنفسه. فلو نجح، يبقى النموذج هو اللي عمل الشغل، مش المسبار.
مثال عملي
شركة Goodfire بتستخدم مسابير على التنشيطات الداخلية لمراقبة الوكلاء. زي ما قال مديرها التنفيذي Eric Ho، المراقبات دي رخيصة لأنها بتعيد استخدام حسابات التمرير الأمامي اللي النموذج عملها أصلًا، وبعدين بتدرّب مصنّف عليها. في اختباراتهم على نموذج Kimi K3، مراقبة حوالي مليون تبادل كلّفت حوالي 185 دولار، مقابل حوالي 200 ألف دولار لو استخدمت نموذج من الصفّ الأوّل يقرا كل خطوة. والمسابير مسكت 93% من جلسات الاختراق الخبيثة.
يعني بدل ما تسأل نموذج تاني «الوكيل ده بيعمل حاجة غلط؟»، بتقرا «دماغ» الوكيل نفسه وهو بيفكّر.
مصطلحات مرتبطة
- Activations — التنشيطات.
- Interpretability — التفسيرية.
- Linear Classifier — المصنّف الخطّي.
- Forward Pass — التمرير الأمامي.
المصادر: arXiv — Alain & Bengio، TechCrunch — 2016-10-05, 2026-10-08
