مصطلحات

باختصار الـ Responsible AI (الذكاء الاصطناعي المسؤول) — مجموعة مبادئ وممارسات بتضمن إن أنظمة AI تتبني وتتستخدم بشكل أخلاقي وعادل — يعني تبقى شفّافة، مش منحازة، وبتحترم الخصوصية. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من التوظيف للقروض البنكية …

باختصار الـ Deepfake Detection (كشف التزييف العميق) — أدوات وتقنيات بتحاول تكتشف الفيديوهات والصور والأصوات المزيّفة بالـ AI — بتدوّر على تفاصيل صغيرة زي حركة العين أو تشوّهات في الخلفية. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من التوظيف …

باختصار الـ AI Watermarking (العلامة المائية للذكاء الاصطناعي) — تقنية بتحط علامة مخفية في المحتوى اللي بيولّده AI — مش بتبان للعين بس البرامج المتخصّصة بتقدر تكشفها وتعرف إن المحتوى ده AI عمله. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة …

باختصار الـ Data Poisoning (تسميم البيانات) — هجوم بيدسّ بيانات مغلوطة أو متلاعب فيها في مجموعة التدريب — النموذج بيتعلّم منها وبيطلع بسلوك غلط أو منحاز من غير ما حد ياخد باله. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — …

باختصار الـ Adversarial Attack (هجوم عدائي) — تغييرات صغيرة أوي في البيانات (زي بيكسلات في صورة) بتخدع نموذج AI وتخلّيه يغلط — العين البشرية مش بتلاحظ الفرق بس النموذج بيتلخبط تمامًا. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من …

باختصار الـ Prompt Injection (حقن الأوامر) — هجوم بيخبّي تعليمات جوّه نص عادي عشان يخدع نموذج AI ويخلّيه ينفّذ أوامر مش مطلوبة — زي ما حد يحط أمر مستخبّي في مستند والنموذج يمشي وراه. بالتفصيل مع القوة الكبيرة بتيجي مسؤولية كبيرة — وده بالظبط ليه أمان الـ AI مهم جدًا. مع انتشار الـ AI في قرارات حياتية مهمة — من …

باختصار الـ Jailbreak (كسر الحماية) — لما حد يستخدم حيل أو أوامر ذكية عشان يخلّي نموذج AI يتجاوز القيود الأمنية بتاعته — يعني يخلّيه يقول أو يعمل حاجة المفروض ممنوعة. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من التوظيف …

باختصار الـ Red Teaming (الفريق الأحمر) — عملية اختبار أمان نموذج AI عن طريق محاولة كسر حمايته واكتشاف نقاط ضعفه — فريق متخصّص بيحاول يخلّي النموذج يعمل حاجات مش المفروض يعملها. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من …

باختصار الـ Shadow AI (الذكاء الاصطناعي الظلّي) — استخدام أدوات AI داخل المؤسسات من غير علم أو موافقة قسم تكنولوجيا المعلومات — بيمثّل مخاطر أمنية وامتثالية. بالتفصيل زي ما السيارة محتاجة فرامل ونظام أمان مش بس محرّك قوي — الـ AI كمان محتاج ضوابط أمان. مع انتشار الـ AI في قرارات حياتية مهمة — من التوظيف للقروض البنكية للتشخيص الطبي …

باختصار الـ Constitutional AI (الذكاء الاصطناعي الدستوري) — أسلوب طوّرته Anthropic لتدريب AI على الالتزام بمبادئ محدّدة (“دستور”)، عن طريق التقييم الذاتي والتحسين بدل الاعتماد الكامل على تقييم بشري. بالتفصيل تخيّل إن عندك سلاح قوي جدًا — هتحب يكون فيه زر أمان ولا لأ؟ ده بالظبط أمان الذكاء الاصطناعي. مع انتشار الـ AI في قرارات حياتية مهمة — من التوظيف …