باختصار
حجّة السلامة (Safety Case) هي حجّة منظّمة، مدعومة بمجموعة من الأدلة، بتقدّم إثبات مقنع ومفهوم إن نظام معيّن آمن لاستخدام محدّد في بيئة محدّدة.
بالتفصيل
التعريف ده جاي من معيار وزارة الدفاع البريطانية Defence Standard 00-56، والمفهوم مستخدم من زمان في صناعات زي الطيران والطاقة النووية. معهد أمن الذكاء الاصطناعي البريطاني (AISI) نقله لعالم الذكاء الاصطناعي بتعريف قريب: حجّة منظّمة إن النظام آمن في سياق تدريب أو نشر معيّن.
الفكرة الأساسية إن السلامة ما تتقالش كجملة عامة زي «نموذجنا آمن». لازم تتفكّك لادّعاءات محدّدة (Safety Claims)، وكل ادّعاء له دليل، والحجّة كلّها بتوضّح الافتراضات والشكوك والمخاطر اللي لسّه موجودة.
وبحسب المعهد، الأدلة ممكن تكون أنواع مختلفة: نتائج تجريبية، أو حجج رياضية ومفاهيمية لليه طريقة معيّنة بتشتغل، أو أدلة «سلبية» زي فشل فريق أحمر (Red Team) عنده كل الحوافز إنه يكسر الحماية، أو أدلة عن سياق النشر نفسه.
المعهد بيقول كمان إن الموضوع صعب: فهمنا لسلامة الذكاء الاصطناعي لسّه في بدايته، ومش ممكن حاليًا نكتب حجج سلامة كاملة لنماذج أقدر بكتير من نماذج النهارده، خصوصًا في مخاطر زي فقدان السيطرة. عشان كده بيشتغل على «مسوّدات» حجج سلامة كنقطة بداية.
مثال عملي
شركة عايزة تطلق نموذج قوي في البرمجة. حجّة السلامة ممكن تقول: «النموذج مش هيساعد بشكل ملموس في اختراق أنظمة حسّاسة»، وتدعم ده بـ3 أدلة: (1) نتائج تقييمات القدرات السيبرانية، (2) ضمانات بتمنع الطلبات الخطرة، (3) تقرير فريق خارجي حاول يكسر الضمانات دي وفشل. وبعدين تكتب بوضوح الافتراضات، زي إن المستخدم ما عندوش وصول مباشر للأوزان، والمخاطر المتبقّية.
مصطلحات مرتبطة
- Red Teaming — الفريق الأحمر.
- AI Safety Benchmark — معيار أمان الذكاء الاصطناعي.
- Alignment — المحاذاة.
المصادر: UK AI Security Institute
