لماذا يحتاج الذكاء الاصطناعي إلى إرشادات أمن سيبراني خاصة؟ التجربة السعودية نموذجاً
لا يكفي تأمين تطبيق يستخدم الذكاء الاصطناعي بالطريقة نفسها التي تُحمى بها المواقع الإلكترونية أو قواعد البيانات التقليدية، لأن النظام الذكي لا يستقبل بيانات ثابتة فقط؛ بل يتعلم من البيانات، ويفسر أوامر المستخدم، ويستدعي أدوات خارجية، وقد ينفذ إجراءات أو ينتج شيفرات وقرارات تؤثر مباشرة في أعمال المؤسسة.
لهذا طرحت الهيئة الوطنية للأمن السيبراني في السعودية مشروع إرشادات الأمن السيبراني للذكاء الاصطناعي AICG-1:2026، بهدف الحد من المخاطر المرتبطة بأنظمة AI، وحماية مكوناتها خلال دورة حياتها الكاملة، من التصميم والتدريب والتطوير إلى التشغيل والتحديث وإنهاء الخدمة. وتخضع الوثيقة في مرحلتها الحالية لاستطلاع آراء العموم، وليست ضوابط نهائية ملزمة بعد.
وتوضح التجربة السعودية اتجاهاً أوسع في قطاع التقنية: كلما انتقل الذكاء الاصطناعي من أداة مساعدة إلى نظام يتعامل مع بيانات حساسة أو يشارك في اتخاذ القرارات، أصبح بحاجة إلى نموذج أمني يتعامل مع مخاطره الخاصة، لا إلى إضافة برنامج حماية تقليدي بعد اكتمال المشروع.
ما إرشادات الأمن السيبراني السعودية للذكاء الاصطناعي؟
أعلنت الهيئة الوطنية للأمن السيبراني في 5 تموز 2026 طرح مشروع الإرشادات لاستقبال المرئيات العامة حتى 5 آب 2026.
وتهدف الوثيقة إلى:
- تطبيق متطلبات الأمن السيبراني على أنظمة الذكاء الاصطناعي.
- تقليل المخاطر الناتجة عن تطوير تقنيات AI واستخدامها.
- حماية مكونات الأنظمة والبيانات المرتبطة بها.
- رفع قدرة الجهات على الاستجابة للحوادث واستعادة التشغيل.
- تعزيز الأمن السيبراني الوطني مع توسع تبني الذكاء الاصطناعي.
وتوصي الهيئة الجهات السعودية التي تستخدم أنظمة الذكاء الاصطناعي، أو تخطط لتبنيها، بالاستفادة من الإرشادات وتطبيق الحد الأدنى من الممارسات الواردة فيها. كما تشمل الوثيقة الذكاء الاصطناعي التوليدي والأنظمة الوكيلية القادرة على التخطيط واستخدام الأدوات واتخاذ بعض الإجراءات بدرجات مختلفة من الاستقلالية.
ويتضمن المشروع:
- 4 مكونات أساسية.
- 15 مكوناً فرعياً.
- 42 إرشاداً أمنياً.
وتغطي المكونات الرئيسية حوكمة الأمن السيبراني، وتعزيز الدفاع، والصمود واستمرارية الأعمال، والأمن السيبراني المتعلق بالأطراف الخارجية.
لماذا لا تكفي ضوابط الأمن السيبراني التقليدية؟
تبقى ضوابط مثل إدارة كلمات المرور وتحديث الأنظمة وتشفير البيانات واختبار الاختراق ضرورية، لكنها لا تغطي وحدها جميع المخاطر التي تظهر داخل أنظمة الذكاء الاصطناعي.
فالأنظمة التقليدية تنفذ تعليمات برمجية محددة مسبقاً، بينما تتعامل نماذج AI مع اللغة الطبيعية والبيانات غير المنظمة وتنتج مخرجات احتمالية قد تختلف من مرة إلى أخرى.
كما قد تتكون المنظومة الواحدة من نموذج أساسي، وبيانات تدريب، وقاعدة معرفة، ونظام استرجاع للمعلومات، وذاكرة، وأوامر داخلية، ووكلاء، وواجهات برمجة تطبيقات، ومكونات سحابية وخدمات تابعة لجهات خارجية.
ويخلق كل مكون من هذه المكونات نقطة دخول محتملة للمهاجم أو مصدراً لتسريب البيانات أو تغيير سلوك النظام. وتوضح الإرشادات السعودية أن حماية تطبيق AI تتطلب تأمين النموذج والبيانات والأوامر والأدوات والاتصالات والمخرجات، لا الخادم الذي يستضيف التطبيق فقط.
الأمر النصي يمكن أن يتحول إلى هجوم
في التطبيقات العادية، يكون النص الذي يكتبه المستخدم مجرد بيانات يعالجها النظام. أما في أنظمة الذكاء الاصطناعي التوليدي، فقد يفسر النموذج النص بوصفه تعليمات ينبغي تنفيذها.
وهنا يظهر هجوم حقن الأوامر Prompt Injection، إذ يحاول المهاجم كتابة أمر يدفع النموذج إلى تجاهل تعليماته الأصلية، أو تجاوز القيود، أو الكشف عن معلومات، أو استخدام أداة بطريقة غير مصرح بها.
وقد يكون الحقن مباشراً، عندما يكتب المستخدم التعليمات داخل المحادثة، أو غير مباشر، عندما يقرأ النموذج تعليمات خبيثة مخفية داخل مستند أو صفحة إلكترونية أو رسالة بريد أو قاعدة معرفة.
وتزداد الخطورة عندما يكون النموذج مرتبطاً بالبريد الإلكتروني أو الملفات أو قواعد بيانات العملاء أو أنظمة الدفع، لأن الهجوم لم يعد يستهدف جودة الإجابة فقط، بل قد يقود إلى تنفيذ إجراء داخل المؤسسة.
ولهذا تدعو الإرشادات السعودية إلى تدريب الموظفين على التصميم الآمن للأوامر، وعدم إدخال المعلومات الحساسة، والتعرف إلى حقن الأوامر، والتحقق من المخرجات قبل الاعتماد عليها
بيانات التدريب نفسها قد تصبح سلاحاً
تعتمد النماذج على البيانات لتعلم الأنماط وبناء استجاباتها. وإذا استطاع مهاجم إدخال بيانات مضللة أو خبيثة إلى مجموعة التدريب أو عملية التعلم المستمر، فقد يغيّر سلوك النموذج من الداخل.
يعرف ذلك باسم تسميم البيانات Data Poisoning، وقد يؤدي إلى:
- إنتاج إجابات غير دقيقة بصورة متعمدة.
- التمييز ضد فئة أو نوع معين من البيانات.
- إنشاء سلوك خفي لا يظهر إلا عند إدخال كلمات محددة.
- إضعاف أداء النموذج في مهمة حساسة.
- توجيه القرارات أو التوصيات نحو نتيجة يريدها المهاجم.
وقد لا يظهر أثر التسميم مباشرة، ما يجعل اكتشافه أصعب من اكتشاف ملف خبيث تقليدي.
ولهذا يحتاج النظام إلى التحقق من مصدر البيانات وسلامتها، وتوثيق مراحل جمعها وتنظيفها وتعديلها، ومراقبة التغيرات التي تطرأ عليها قبل التدريب وبعده.
وتتعامل الوثيقة السعودية مع بيانات التدريب والتقييم والأوامر والتضمينات والسجلات والسياقات والمخرجات وأوزان النموذج باعتبارها أصولاً معلوماتية تحتاج إلى تصنيف وحماية خلال التخزين والنقل والمعالجة.
النموذج نفسه أصل رقمي قابل للسرقة
لا تقتصر قيمة نظام الذكاء الاصطناعي على الشيفرة البرمجية. فقد تمثل أوزان النموذج وبيانات التدريب وأساليب الضبط الدقيق وقواعد المعرفة استثماراً مالياً وفكرياً كبيراً.
ويستطيع المهاجم في بعض الحالات إرسال أعداد كبيرة من الاستعلامات، ثم تحليل الإجابات بهدف استنتاج طريقة عمل النموذج أو بناء نسخة قريبة منه. ويُعرف ذلك باستخراج النموذج أو سرقته.
كما يمكن أن تكشف الاستعلامات المصممة بعناية معلومات عن البيانات التي تدرب عليها النموذج، أو تساعد على معرفة ما إذا كان سجل أو شخص معين موجوداً ضمن بيانات التدريب.
ولهذا تتضمن الإرشادات السعودية تطبيق ضوابط للصلاحيات، وتحديد معدل الطلبات، ووضع حدود للاستخدام، ومراقبة الأنماط غير الطبيعية، بهدف تقليل مخاطر استخراج النموذج وتسريب البيانات.
الذكاء الاصطناعي الوكيلي يوسّع سطح الهجوم
تستطيع الأنظمة الوكيلية Agentic AI تقسيم الهدف إلى مهام، والتخطيط، والاحتفاظ بذاكرة، واستخدام أدوات أو واجهات خارجية، وتنفيذ سلسلة من الإجراءات بدرجة متفاوتة من الاستقلالية.
فقد يُطلب من وكيل ذكي مثلاً قراءة بريد إلكتروني، واستخراج فاتورة، والتحقق من بيانات المورد، ثم إدخالها إلى النظام المالي.
هذه القدرة تجعل النظام أكثر إنتاجية، لكنها تمنح الخطأ أو الهجوم أثراً أكبر. فإذا تلقى الوكيل تعليمات خبيثة، أو امتلك صلاحيات أوسع من المطلوب، فقد ينفذ الإجراء قبل أن يراجعه موظف بشري.
ولهذا تتطلب الحماية:
- تطبيق مبدأ أقل قدر من الصلاحيات.
- الفصل بين مهام القراءة والتنفيذ.
- فرض موافقة بشرية على الإجراءات الحساسة.
- وضع حدود مالية وتشغيلية واضحة.
- تسجيل جميع الإجراءات التي يتخذها الوكيل.
- توفير آلية فورية لإيقاف التنفيذ.
- رفع استقلالية الوكيل بصورة تدريجية بعد الاختبار.
وتنص الإرشادات السعودية على تطبيق استقلالية الوكيل تدريجياً، مع استمرار الإشراف البشري على القرارات والإجراءات ذات الأثر الأمني.
المخرجات قد تكون خطرة حتى عندما لا يتعرض النظام للاختراق
قد ينتج النموذج معلومات خاطئة أو تعليمات غير آمنة أو شيفرات تحتوي على ثغرات، حتى من دون وجود مهاجم.
وتصبح المشكلة أمنية عندما ينسخ الموظف الشيفرة المولدة إلى نظام حقيقي، أو يعتمد على إجابة النموذج لمنح صلاحية، أو يرسل محتوى غير متحقق منه إلى عميل.
ولهذا يجب الفصل بين صحة صياغة الإجابة وصحة محتواها. فالنموذج يستطيع تقديم إجابة مقنعة لغوياً لكنها غير دقيقة تقنياً.
وتشدد الإرشادات السعودية على مراجعة البرمجيات المولدة بواسطة الذكاء الاصطناعي، وإجراء الاختبارات الأمنية اللازمة قبل استخدامها، وتوعية الموظفين بضرورة التحقق من المخرجات وعدم التعامل معها بوصفها نتائج موثوقة تلقائياً.
ما المخاطر الأساسية التي تستهدفها الإرشادات؟
تستعرض الوثيقة السعودية مجموعة من الهجمات والمخاطر المرتبطة بأنظمة الذكاء الاصطناعي، من أبرزها:
- تسميم بيانات التدريب.
- هجمات التهرب وخداع النموذج.
- حقن الأوامر.
- تسريب مدخلات المستخدمين.
- تسريب بيانات التدريب.
- استخراج أو سرقة النموذج.
- استنتاج معلومات عن البيانات المستخدمة في التدريب.
- التلاعب بذاكرة النظام أو قاعدة المعرفة.
- اختراق سلاسل التوريد والمكونات الخارجية.
- استغلال المخرجات لتنفيذ تعليمات خبيثة.
- إدخال أبواب خلفية إلى النموذج.
- كشف معلومات حساسة من خلال الإجابات.
ولا يعني ذلك أن جميع الأنظمة معرضة للمخاطر بالمستوى نفسه. فنظام يلخص مقالات عامة يختلف عن نموذج يطلع على ملفات طبية، أو وكيل يمتلك صلاحية تنفيذ عمليات مصرفية.
لذلك يبدأ الأمن الفعال بتصنيف النظام وفق حساسية البيانات، ودرجة استقلاليته، والقرارات التي يؤثر فيها، والخدمات التي يستطيع الوصول إليها.
المحور الأول: حوكمة الأمن السيبراني للذكاء الاصطناعي
تبدأ الإرشادات السعودية بالحوكمة، لأن حماية النظام لا يمكن أن تظل مسؤولية فريق التطوير وحده.
وتتضمن الحوكمة إدارة المخاطر خلال دورة حياة النظام، وإدخال الأمن في إدارة المشاريع التقنية، وتحديد أدوار الموظفين والمتعاقدين، وتنفيذ برامج توعية وتدريب متخصصة.
ومن أبرز التوجهات الواردة في هذا المحور:
الأمن منذ التصميم
يجب تحديد متطلبات الحماية قبل تدريب النموذج وربطه بالبيانات والأدوات، لا بعد دخوله إلى بيئة الإنتاج.
ويشمل ذلك فحص مصادر البيانات، وضبط إعدادات الأوامر، واختبار النموذج، ومراجعة الشيفرة المولدة، وتحديد إجراءات الإيقاف والتخلص الآمن من المكونات.
تصنيف الأنظمة حسب مستوى المخاطر
ينبغي تقييم كل نظام وفق أثره المحتمل، واحتمالية تعرضه للهجوم، وإمكانية التراجع عن قراراته.
وتحتاج الأنظمة ذات التأثير المرتفع إلى إجراءات موافقة واختبارات أوسع قبل تشغيلها.
تحديد المسؤوليات
ينبغي معرفة من يملك النموذج، ومن يراجع بياناته، ومن يمنح الصلاحيات، ومن يقرر إطلاقه أو إيقافه، ومن يتحمل مسؤولية الاستجابة للحادث.
تأهيل الموظفين
لا يكفي تدريب الفريق الأمني فقط. فالمطور والمستخدم ومدير المشروع ومسؤول المشتريات قد يتسبب كل منهم في إدخال خطر مختلف إلى النظام.
المحور الثاني: تعزيز الدفاع السيبراني
يغطي هذا المحور الإجراءات الفنية والتشغيلية التي تحمي مكونات أنظمة الذكاء الاصطناعي بصورة مباشرة.
وتشمل المجالات الفرعية:
- إدارة الأصول.
- إدارة الهوية والصلاحيات.
- أمن الشبكات.
- حماية البيانات والمعلومات.
- النسخ الاحتياطي والاستعادة.
- إدارة الثغرات.
- اختبار الاختراق.
- تسجيل الأحداث والمراقبة.
- حماية تطبيقات الويب والواجهات البرمجية.
جرد جميع مكونات النظام
توصي الوثيقة بإنشاء سجل دقيق ومحدث لجميع الأصول المرتبطة بالنظام، بما يشمل النماذج التجريبية والمستخدمة في الإنتاج، والبيانات، والخدمات، والإعدادات والأدوات.
ولا يمكن حماية مكون لا تعرف المؤسسة أنه مستخدم داخل المنظومة.
فصل الشبكات والمكونات
تدعو الإرشادات إلى عزل المكونات الداخلية عن الخارجية، وتقييد مسارات الاتصال والخروج إلى الإنترنت، وتقليل سطح الهجوم، ومراقبة الاتصالات غير الطبيعية.
ويصبح ذلك مهماً عندما يستطيع النموذج الاتصال بخدمات وأدوات متعددة تلقائياً.
حماية البيانات في جميع مراحلها
ينبغي حماية البيانات عند التخزين والنقل والمعالجة، مع تقييد الوصول إلى بيانات التدريب والأوامر والسجلات والمخرجات وأوزان النموذج.
كما ينبغي حماية الذاكرة وقواعد المعرفة من التعديل أو التسميم، ووضع حواجز تكشف المدخلات الخبيثة والإجراءات غير المصرح بها.
اختبارات مخصصة للذكاء الاصطناعي
لا ينبغي أن يقتصر اختبار الاختراق على الخادم والتطبيق، بل يجب اختبار النموذج ومخرجاته وقدرته على مقاومة المدخلات العدائية.
وتقترح الوثيقة استخدام اختبارات الفريق الأحمر، والتقييمات العدائية، والتحقق من آليات التدخل البشري، ومعالجة النتائج قبل النشر.
مراقبة سلوك النظام
ينبغي تسجيل عمليات الدخول، والوصول إلى البيانات، وتغيير الإعدادات، وتفعيل الأدوات، والبيانات التي جرى تحميلها أو تعديلها أو حذفها.
وتتيح هذه السجلات اكتشاف السلوك غير الطبيعي والتحقيق في الحوادث، خصوصاً عندما ينفذ الوكيل الذكي عدة إجراءات متتابعة.
المحور الثالث: صمود النظام واستمرارية الأعمال
قد ينجح المهاجم في تجاوز بعض وسائل الحماية، أو قد يفشل النظام بسبب خطأ في التحديث أو النموذج أو البيانات.
ولهذا لا يكفي منع الحوادث؛ بل يجب تجهيز المؤسسة للعمل عند وقوعها.
وتدعو الإرشادات السعودية إلى وضع إجراءات تسمح بالعودة إلى إصدار سابق من النظام، وتنفيذ إيقاف آمن، وتوفير بدائل تشغيلية عند حدوث حادث سيبراني.
ويعني ذلك عملياً أن المؤسسة يجب أن تستطيع:
- عزل النموذج المتأثر بسرعة.
- إيقاف الوكلاء عن تنفيذ الإجراءات.
- العودة إلى إصدار موثوق.
- استعادة البيانات والإعدادات.
- تشغيل إجراء يدوي أو نظام بديل مؤقتاً.
- تحديد القرارات التي اتخذها النظام خلال فترة الحادث.
- مراجعة المخرجات التي قد تكون تأثرت.
وتزداد أهمية هذه الإجراءات في القطاعات الصحية والمالية والحكومية، حيث يمكن أن يؤدي توقف النظام أو فساده إلى تعطيل خدمة أساسية.
المحور الرابع: أمن الأطراف الخارجية
نادراً ما تطور المؤسسة جميع مكونات نظام الذكاء الاصطناعي بنفسها. فقد تستخدم نموذجاً من مزود خارجي، ومنصة سحابية من شركة أخرى، وقاعدة بيانات أو إضافة أو واجهة برمجية من طرف ثالث.
وهذا يعني أن أمن النظام يعتمد على سلسلة كاملة من الموردين.
وتوصي الوثيقة السعودية بتقييم مخاطر الجهات الخارجية قبل الاستخدام وبصورة مستمرة، وإدراج متطلبات أمن الذكاء الاصطناعي داخل العقود، ومراقبة التزام الموردين، ووضع متطلبات واضحة لنقل المكونات أو حذفها أو إتلافها عند تغيير المزود أو إنهاء العقد.
ومن الأسئلة التي ينبغي طرحها على مزود الخدمة:
- أين تُخزن البيانات؟
- هل تُستخدم بيانات المؤسسة في تدريب النموذج؟
- من يستطيع الوصول إلى السجلات؟
- كيف يُبلغ المزود عن الحوادث؟
- ما آلية حذف البيانات؟
- هل يمكن نقل النموذج أو البيانات إلى مزود آخر؟
- كيف يجري تحديث النموذج؟
- ما المكونات المفتوحة المصدر المستخدمة؟
- ما الإجراءات المتاحة عند توقف الخدمة؟
ما الذي يميز النموذج السعودي؟
تكمن أهمية المشروع السعودي في أنه لا يتعامل مع الذكاء الاصطناعي بوصفه تطبيقاً منفصلاً عن منظومة الأمن السيبراني الوطنية.
فالوثيقة تربط بين إدارة المخاطر، ودورة حياة المشروع، والموارد البشرية، والأصول، والشبكات، والبيانات، والاختبارات، واستمرارية الأعمال، والموردين.
كما أنها تتناول صراحةً أنظمة الذكاء الاصطناعي التوليدي والوكيلي، وهي أنظمة تتجاوز وظيفة التنبؤ التقليدية إلى إنتاج المحتوى واستخدام الأدوات وتنفيذ المهام.
ويتقاطع هذا الاتجاه مع العمل الدولي على أطر متخصصة لمخاطر AI. فقد نشر المعهد الوطني الأميركي للمعايير والتكنولوجيا ملفاً لإدارة مخاطر الذكاء الاصطناعي التوليدي، بهدف مساعدة المؤسسات على تحديد المخاطر الخاصة بهذه التقنيات ودمجها ضمن عمليات التصميم والتطوير والاستخدام والتقييم.
لكن المشروع السعودي يقدم معالجة مرتبطة بالبيئة التنظيمية المحلية، ويمكن أن يصبح مرجعاً عملياً للجهات السعودية عند الانتقال من تجارب AI المحدودة إلى أنظمة تشغيلية واسعة.
هل الإرشادات ملزمة حالياً؟
لا تزال الوثيقة المنشورة مشروع إرشادات مطروحاً للاستطلاع العام، وليست حتى الآن إصداراً نهائياً ملزماً.
وقد دعت الهيئة الوطنية للأمن السيبراني الجهات والمتخصصين والعموم إلى إرسال ملاحظاتهم حتى 5 آب 2026، قبل استكمال الوثيقة واعتماد نسختها النهائية.
ولا يقلل ذلك من أهميتها، إذ توفر للجهات تصوراً مبكراً عن الاتجاه الذي تتبناه السعودية في حماية أنظمة الذكاء الاصطناعي، كما تساعد الشركات على الاستعداد قبل صدور المتطلبات النهائية.
ماذا ينبغي أن تفعل المؤسسات الآن؟
لا تحتاج المؤسسة إلى انتظار صدور ضوابط إلزامية حتى تبدأ حماية استخدامها للذكاء الاصطناعي.
ويمكن البدء بخطوات عملية:
- حصر جميع أدوات ونماذج AI المستخدمة داخل المؤسسة.
- تحديد البيانات التي ترسل إلى كل أداة.
- منع إدخال البيانات الحساسة إلى الخدمات غير المعتمدة.
- تصنيف الأنظمة حسب تأثيرها وصلاحياتها.
- وضع موافقة بشرية قبل الإجراءات الحساسة.
- تحديد صلاحيات مستقلة للوكلاء والحسابات الآلية.
- اختبار حقن الأوامر وتسريب البيانات.
- مراجعة الشيفرات والمحتوى المولد آلياً.
- تسجيل استخدام الأدوات والواجهات والبيانات.
- إعداد خطة إيقاف واستعادة وعودة إلى إصدار سابق.
- مراجعة عقود مزودي النماذج والخدمات السحابية.
- تدريب الموظفين على الاستخدام الآمن.
ماذا تعني التجربة السعودية للدول العربية؟
توضح الإرشادات السعودية أن بناء استراتيجية وطنية للذكاء الاصطناعي لا يكتمل بإطلاق المراكز والمنصات وتدريب الكفاءات فقط، بل يحتاج إلى طبقة أمنية وتنظيمية ترافق التبني.
فمع توسع استخدام AI في الخدمات الحكومية والمصارف والمستشفيات والاتصالات، قد يؤدي اختراق النموذج أو تسميم بياناته أو منحه صلاحيات خاطئة إلى أضرار تتجاوز تسريب ملف أو تعطيل موقع.
ويمكن للدول العربية الاستفادة من التجربة عبر:
- وضع معايير لحماية بيانات التدريب.
- تنظيم استخدام النماذج الخارجية.
- تحديد مسؤولية القرارات الآلية.
- إنشاء مختبرات لاختبار النماذج قبل التشغيل.
- تدريب فرق الأمن على الهجمات الخاصة بالذكاء الاصطناعي.
- تطوير ضوابط للأنظمة الوكيلية.
- إدراج AI ضمن خطط استمرارية الأعمال.
- بناء قدرات عربية لاختبار الأوامر والمخرجات واللهجات المحلية.
وبالنسبة إلى سوريا، يصبح هذا الملف مهماً بالتزامن مع توسع مشروعات الرقمنة الصحية والحكومية والمالية. فإضافة مساعد ذكي إلى منصة خدمية لا ينبغي أن تسبق تحديد البيانات التي يستطيع الوصول إليها، والصلاحيات التي يمتلكها، وآلية مراجعة قراراته وإيقافه عند الخطأ.
الذكاء الاصطناعي يغيّر تعريف الأصل الذي يجب حمايته
في الأمن السيبراني التقليدي، تركز المؤسسة على حماية الشبكة والخادم والتطبيق وقاعدة البيانات.
أما في عصر الذكاء الاصطناعي، فقد يصبح الأمر النصي أصلاً حساساً، وذاكرة النموذج هدفاً للتسميم، ووزن النموذج ملكية فكرية قابلة للسرقة، والمخرج البرمجي مصدراً لثغرة جديدة، والوكيل الآلي مستخدماً رقمياً يحتاج إلى هوية وصلاحيات ومراقبة.
وهذا هو جوهر التجربة السعودية: حماية الذكاء الاصطناعي لا تبدأ عند اكتشاف الاختراق، بل من تحديد البيانات التي يتعلم منها، والأدوات التي يستطيع استخدامها، والقرارات التي يُسمح له باتخاذها، والطريقة التي يمكن بها إيقافه واستعادة التشغيل عند الخطأ.
ومع تحول AI إلى جزء من الخدمات الحكومية والمالية والصحية والتجارية، لن يكون السؤال هل تحتاج المؤسسات إلى إرشادات خاصة لأمن الذكاء الاصطناعي، بل إلى أي مدى تستطيع تطبيقها قبل أن تتحول التجارب الذكية إلى بنية تشغيلية يصعب التحكم في مخاطرها.