ما يجب معرفته عن المبادئ التوجيهية السعودية للذكاء الاصطناعي التوليدي

1. مقدمة

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) دليلها الإرشادي للذكاء الاصطناعي التوليدي في نسختين: الأولى هي دليل الذكاء الاصطناعي التوليدي للجهات الحكومية، والموجهة إلى الجهات الحكومية وموظفيها (يناير 2024)، والثانية هي دليل الذكاء الاصطناعي التوليدي للجمهور ، والموجه إلى جميع المطورين والمستخدمين في المملكة، وهو الآن نسخة 2025. تتناول هذه المقالة النسخة العامة. والهدف الرئيسي من هذه الوثيقة هو مساعدة المؤسسات التي تُطوّر وتستخدم نماذج وأنظمة الذكاء الاصطناعي التوليدي على فهم المخاطر المختلفة المرتبطة عادةً بتطويرها وتصميمها ونشرها.

بالإضافة إلى ذلك، تتضمن الإرشادات نظرة شاملة على مختلف الجوانب المتعلقة باستخدام أدوات الذكاء الاصطناعي التوليدي، بما في ذلك تأثيرها المحتمل على مختلف القطاعات والخدمات. وتهدف إلى زيادة الوعي بأهمية هذه الأدوات ودورها في بناء مستقبل مستدام ومثمر عند استخدامها بمسؤولية.

إن هذه المبادئ التوجيهية غير ملزمة. وهي تتكامل مع القوانين الملزمة - ولا سيما قانون حماية البيانات الشخصية ، وقانون الملكية الفكرية، وقانون مكافحة الجرائم الإلكترونية - والتي تنطبق على استخدام الذكاء الاصطناعي العام بغض النظر عن هذه المبادئ التوجيهية.

تابع القراءة لمعرفة المزيد عن الإرشادات، بما في ذلك المخاطر الرئيسية التي تم تسليط الضوء عليها بالإضافة إلى أفضل الممارسات للتخفيف من كل منها.

2. أين تندرج هذه المبادئ التوجيهية ضمن إطار الذكاء الاصطناعي في المملكة العربية السعودية؟

لا يوجد في المملكة العربية السعودية قانون خاص بالذكاء الاصطناعي. وتنظم الهيئة السعودية للذكاء الاصطناعي (SDAIA) الذكاء الاصطناعي من خلال مجموعة من الصكوك القانونية غير الملزمة - حيث بلغ عددها عشر وثائق AI governance بحلول منتصف عام 2026 - بالإضافة إلى قانون حماية البيانات الشخصية (PDPL). وأهم هذه الصكوك هي:

• مبادئ أخلاقيات الذكاء الاصطناعي 2.0 (سبتمبر 2023): سبعة مبادئ ونهج متدرج للمخاطر ينطبق على جميع أنظمة الذكاء الاصطناعي.
• المبادئ التوجيهية للذكاء الاصطناعي التوليدي للحكومة (يناير 2024) وللجمهور (الإصدار الحالي 2025).
• إطار عمل تبني الذكاء الاصطناعي (2025): مستويات النضج والعوامل المساعدة للمؤسسات التي تتبنى الذكاء الاصطناعي.
• إرشادات التزييف العميق (الطبعة الأولى سبتمبر 2024؛ تم الإعلان عن الطبعة الجديدة في 8 مايو 2026): الموافقة، وحماية البيانات الشخصية، ووضع العلامات المائية، والتحقق من المصدر للوسائط الاصطناعية.
• مشروع قانون مركز الذكاء الاصطناعي العالمي (لجنة الاتصالات والفضاء والتكنولوجيا؛ استشارة أبريل - مايو 2025): إطار عمل لمراكز البيانات السيادية والتابعة للأجانب؛ لم يتم سنه وقت كتابة هذا التقرير.

للاطلاع على كيفية مقارنة هذه القواعد بقواعد الذكاء الاصطناعي في أماكن أخرى، راجع نظرتنا العامة للوائح الذكاء الاصطناعي حول العالم .

3. التزامات قانون حماية البيانات الشخصية التي تنطبق على الذكاء الاصطناعي العام

أصبح قانون حماية البيانات الشخصية قابلاً للتنفيذ بالكامل منذ 14 سبتمبر 2024، وأصدرت هيئة حماية البيانات الشخصية 48 قرارًا جزائيًا في عام 2025. وفي حال قيام أنظمة الذكاء الاصطناعي العام بمعالجة البيانات الشخصية، تسري الالتزامات الملزمة التالية:

• الأساس القانوني للتدريب والاستخدام: البيانات الشخصية المستخدمة لتدريب أو ضبط أو تحفيز نموذج ما تحتاج إلى أساس قانوني ويجب أن تقتصر على ما يتطلبه الغرض.
• القرارات الآلية: القرارات التي تستند فقط إلى المعالجة الآلية تتطلب موافقة صريحة، وتتطلب اللوائح التنفيذية إجراء تقييم لأثر حماية البيانات للتقنيات الجديدة واتخاذ القرارات الآلية.
• الإفصاح والتحويلات: يمكن أن يكون إدخال البيانات الشخصية في أداة GenAI تابعة لجهة خارجية بمثابة إفصاح، وعندما يقوم المزود بمعالجة البيانات في الخارج، يكون ذلك بمثابة تحويل يخضع للائحة نقل البيانات الشخصية خارج المملكة .
• إشعار الاختراق: يُعدّ الكشف عن البيانات الشخصية من خلال أداة GenAI اختراقًا يجب إخطار SDAIA به في غضون 72 ساعة حيث قد يتسبب في ضرر.
• حقوق أصحاب البيانات: يحتفظ الأفراد بحقوقهم في الحصول على المعلومات والوصول إلى البيانات الشخصية التي تعالجها أنظمة الذكاء الاصطناعي وتصحيحها وإتلافها.

4. لمن هذه الإرشادات

4.1 نطاق المواد

توفر هذه الوثيقة إرشادات كافية لكل من مطوري ومستخدمي نماذج وأنظمة الذكاء الاصطناعي التوليدي.

4.2 النطاق الإقليمي

ينطبق هذا الدليل على جميع الكيانات المشاركة في تصميم أو تطوير أو نشر أو تنفيذ أو استخدام أو بأي شكل من الأشكال المتأثرة بنماذج وأنظمة الذكاء الاصطناعي العام داخل المملكة العربية السعودية.

5. تعريفات المصطلحات الرئيسية

فيما يلي بعض التعريفات الرئيسية الواردة في الإرشادات:

5.1 الذكاء الاصطناعي التوليدي

يشير هذا إلى نموذج تعلّم آلي قادر على إنتاج أمثلة جديدة من مجموعة بيانات التدريب الخاصة به. يمكن أن تشمل هذه الأمثلة الجديدة نصوصًا وصورًا وأصواتًا ورموزًا ومقاطع فيديو وأنواعًا أخرى من الوسائط. تستطيع هذه النماذج أتمتة العديد من المهام البشرية التي تحاكي القدرات المعرفية، مثل الاستجابة للأوامر الشفهية أو الكتابية وصياغتها، والتعلم، وحل المشكلات.

5.2 المستخدمون

يشمل ذلك أي شخص طبيعي أو اعتباري يستخدم منتجات أو خدمات تقدمها أنظمة الذكاء الاصطناعي التوليدي. ويشمل ذلك جميع الجهات المعنية، مثل الشركات والمنظمات غير الحكومية والأفراد.

5.3 المطورون

يشير هذا إلى أي شخص طبيعي أو اعتباري يشارك في تطوير المنتجات أو الخدمات التي تقدمها أنظمة الذكاء الاصطناعي التوليدي. ويشمل ذلك مطوري الذكاء الاصطناعي وعلماء البيانات والباحثين.

6. إرشادات للمطورين والمستخدمين

عند التفاعل مع نماذج وأنظمة الذكاء الاصطناعي العام، يجب على المطورين والمستخدمين الالتزام بإرشادات محددة طوال دورة حياة النموذج أو النظام. ويؤدي ذلك إلى تعظيم الفوائد المحتملة وتقليل المخاطر المحتملة.

تم تطوير هذه الإرشادات كجزء من مبادئ أخلاقيات الذكاء الاصطناعي (الإصدار 2.0) التي أصدرتها جمعية الذكاء الاصطناعي والذكاء الاصطناعي في 14 سبتمبر 2023، والتي تنطبق على جميع أنظمة الذكاء الاصطناعي، وليس فقط على الجيل الأول من الذكاء الاصطناعي:

6.1 الإنصاف

يُطلب من جميع الجهات المعنية اتخاذ الإجراءات المناسبة للحد من التحيز والتمييز والوصم ضد الأفراد أو المجتمعات أو الجماعات في تصميم وتطوير ونشر واستخدام جميع أنظمة الذكاء الاصطناعي العام. ولضمان إنشاء أنظمة عادلة وممثلة، ينبغي تدريب جميع أنظمة الذكاء الاصطناعي العام على بيانات مُفلترة بدقة للتأكد من خلوها من التحيز، وتضم تمثيلاً كافياً للفئات المهمشة.

ولتحقيق هذه الغاية، يجب على المطورين والمستخدمين ما يلي:

• اختبر جميع نماذج GenAI للتأكد من عدم وجود أي تحيز مضمن في الكود أو الخوارزمية عن طريق استخدام مجموعات بيانات التدريب الخالية من أي تحيز من هذا القبيل فقط؛
• يجب أن يكون لديك فهم شامل لبيانات التدريب، بما في ذلك أصولها ومحتواها ومعايير اختيارها وكيفية إعدادها؛
• زيادة معرفتهم بالتحيز والتنوع والشمول ومكافحة العنصرية والقيم والأخلاق لتحسين قدرتهم على التعرف على المحتوى المتحيز أو التمييزي.

6.2 الموثوقية والسلامة

يجب على جميع الجهات المعنية ضمان التزام أنظمة الذكاء الاصطناعي العام بمجموعة من المواصفات المحددة مسبقًا، وأن تعمل بالطريقة المرجوة. ولا يقتصر ذلك على تعزيز موثوقية النظام فحسب، بل يضمن أيضًا عدم تشكيله أي خطر أو ضرر على المجتمع والأفراد.

ولتحقيق هذه الغاية، يجب على المطورين والمستخدمين ما يلي:

• تصميم وتطوير أنظمة قادرة على تحمل حالات عدم اليقين وعدم الاستقرار والتقلبات الواسعة التي قد تواجهها؛
• تطوير مجموعة مماثلة من المعايير والبروتوكولات التي تقيّم بشكل مناسب موثوقية نظام GenAI؛
• تتضمن الأنظمة آليات داخلية تؤدي إلى إشراف بشري في حالات الطوارئ؛
• القدرة على تحديد المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي لضمان قدرة المستخدمين على التحقق من جميع هذه المحتويات مقابل مصادر مستقلة؛
• ضمان الجودة المستمرة لمجموعة بيانات التدريب لضمان موثوقية جميع المحتويات المنتجة؛
• يرجى مراجعة جميع المحتويات للتأكد من دقتها وملاءمتها لمنع انتشار المعلومات المضللة.

6.3 الشفافية وقابلية التفسير

يجب على جميع الجهات المعنية ضمان تصميم أنظمة الذكاء الاصطناعي العام بطريقة قابلة للتفسير بشكل مناسب، وتوفير معلومات كافية حول كيفية اتخاذ القرارات الآلية. من شأن ذلك أن يسمح بالتدخل في الوقت المناسب إذا كانت القرارات الآلية دون المستوى الأمثل.

ولتحقيق هذه الغاية، يجب على المطورين والمستخدمين ما يلي:

• يجب إبلاغ الجمهور بوضوح عند استخدام قدرات الذكاء الاصطناعي العام؛
• إبلاغ الجمهور عندما يتم إنشاء المحتوى بواسطة الذكاء الاصطناعي؛
• توفير قنوات مناسبة للجمهور لاختيار بدائل لقنوات الاتصال الآلية؛
• قم بتطبيق أدوات تساعد الجمهور على تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، مثل العلامات المائية.

6.4 المساءلة والمسؤولية

يتحمل جميع أصحاب المصلحة المعنيين، كالمصممين والبائعين والمشترين والمطورين والمالكين والمقيّمين لأنظمة الذكاء الاصطناعي من الجيل الجديد، المسؤولية الأخلاقية والمساءلة القانونية عن القرارات التي تتخذها هذه الأنظمة والتي تؤثر سلبًا على الأفراد والمجتمعات. علاوة على ذلك، ينطوي تبني الذكاء الاصطناعي من الجيل الجديد على العديد من التداعيات القانونية والأخلاقية، مثل خطر انتهاك حقوق الملكية الفكرية، وانتهاكات حقوق الإنسان، والآثار المحتملة الأخرى. data privacy المخالفات. راجع شرحنا حول المساءلة .

ولتحقيق هذه الغاية، يجب على المطورين والمستخدمين ما يلي:

• ضمان الحصول على جميع بيانات التدريب وتصنيفها ومعالجتها وإتاحتها بشكل صحيح لتسهيل التدخل البشري عند الحاجة؛
• التزم بالثبات data quality عمليات التحقق من صحة البيانات؛
• ضمان التزام جميع أنظمة الذكاء الاصطناعي العام المطورة بشكل مناسب باللوائح ذات الصلة مثل قانون حماية البيانات الشخصية وقانون الملكية الفكرية؛
• استشر بانتظام متخصصين قانونيين لتقييم جميع المخاطر الرئيسية المرتبطة بنشر أنظمة الذكاء الاصطناعي من الجيل الأول والقضاء عليها.

6.5 الخصوصية والأمان

يجب على جميع الجهات المعنية ضمان حماية أنظمة الذكاء الاصطناعي العام التي يجري تطويرها لخصوصية البيانات التي تجمعها بشكل مناسب. ولا يمكن تحقيق ذلك إلا من خلال تطبيق تدابير أمنية كافية لحماية البيانات ومنع اختراقاتها التي قد تؤدي إلى أنواع مختلفة من الضرر.

ولتحقيق هذه الغاية، يجب على المطورين والمستخدمين ما يلي:

• اتخاذ تدابير الخصوصية والأمان المناسبة عند استخدام البيانات الحساسة أو المصنفة لتدريب أنظمة الذكاء الاصطناعي العام؛
• نشر آليات حماية البيانات وفقًا لما تقتضيه اللوائح ذات الصلة، بما في ذلك قانون حماية البيانات الشخصية؛
• تقييم جميع المخاطر التي ينطوي عليها استخدام أنظمة الذكاء الاصطناعي العام وفقًا لمبادئ أخلاقيات الذكاء الاصطناعي؛
• إجراء تقييمات منتظمة لأثر الخصوصية والمخاطر لإعادة تقييم الاعتبارات الاجتماعية والأخلاقية حسب الحاجة - انظر تقييمات أثر حماية البيانات ؛
• قم بتطبيق إطار عمل الخصوصية والأمان بالتصميم لحماية أي نظام ذكاء اصطناعي متطور من الهجمات الخبيثة.

6.6 الإنسانية

يجب على جميع الجهات المعنية ضمان تطبيق منهجية أخلاقية عند تطوير نماذج الذكاء الاصطناعي العام التي تُحدث أثراً إيجابياً على الأفراد والمجتمعات على المديين القريب والبعيد. وينبغي أن تتبنى هذه النماذج تصميماً يركز على الإنسان، مما يُسهّل خياراته وقراراته.

6.7 الفوائد الاجتماعية والبيئية

يجب أن تتضمن جميع نماذج الذكاء الاصطناعي من الجيل الجديد أولويات اجتماعية وبيئية تعود بالنفع على الأفراد والمجتمعات على حد سواء. ويجب ألا تتسبب أنظمة الذكاء الاصطناعي من الجيل الجديد في إلحاق الضرر بالبشر أو تسريعه، بل يجب أن تسهم في تمكين التقدم الاجتماعي والبيئي.

7. مخاطر الجيل الجديد من الذكاء الاصطناعي وتدابير التخفيف منها

يُقدّم الذكاء الاصطناعي العام فرصًا وتحديات للمطورين والمستخدمين على حدٍ سواء. فيما يلي بعض المخاطر الأكثر إلحاحًا ومباشرةً للذكاء الاصطناعي العام، بالإضافة إلى التدابير الوقائية المُوصى بها لكل منها:

7.2 التزييف العميق والتضليل

يمكن استغلال قدرات الذكاء الاصطناعي العام لأغراض خبيثة، مثل عمليات الاحتيال، والتزوير المالي، والابتزاز، وسرقة الهوية المعقدة. علاوة على ذلك، يمكن استخدام البيانات المتاحة رقميًا، كالفيديوهات والصور الشخصية، والتلاعب بها لإنشاء تمثيلات رقمية مزيفة (أي التزييف العميق). لا يقتصر ضرر هذه التقنية على الأفراد فحسب، بل قد يؤدي في بعض الحالات إلى اضطرابات سياسية واجتماعية. وقد أصدرت جمعية صناعة الذكاء الاصطناعي الرقمية (SDAIA) منذ ذلك الحين إرشادات خاصة بالتزييف العميق (إصدار جديد سيصدر في مايو 2026) تشترط الحصول على الموافقة، وحماية البيانات الشخصية، ووضع علامات مائية، والتحقق من المصدر.

تشمل أفضل الاستراتيجيات لمواجهة هذا التهديد ما يلي:

تطبيق العلامة المائية

يجب أن تحمل جميع المحتويات المُنشأة عبر نماذج وأنظمة الذكاء الاصطناعي العام علامة مائية تشير إلى ذلك. ويمكن بعد ذلك وضع علامة على هذه البيانات إذا استُخدمت في نماذج وأنظمة أخرى للذكاء الاصطناعي العام، والتعامل معها وفقًا للوائح ذات الصلة.

بروتوكولات اعرف عميلك

تتطلب معظم تقنيات التزييف العميق قدرة حاسوبية هائلة. لذا، ينبغي على المؤسسات التي توفر الأجهزة اللازمة لها، مثل وحدات معالجة الرسومات (GPUs) ووحدات معالجة الموترات (TPUs)، تطبيق عمليات تحقق مكثفة. سيسهل ذلك تتبع منشئي التزييف العميق المحتملين، ويصعّب على الجهات الخبيثة الوصول إلى هذه الأدوات من الأساس.

التحقق من المخرجات

يجب تحليل جميع المحتويات المُولّدة عبر نماذج وأنظمة الذكاء الاصطناعي العام تحليلاً دقيقاً للكشف عن أي محتوى صوتي أو مرئي غير لائق. كما يمكن إجراء فحوصات إضافية، مثل الكشف عن الاستخدام غير المصرح به لوجوه الشخصيات العامة وعينات أصواتهم.

تحسين المعرفة الرقمية والسلامة على الإنترنت

يتعين على المؤسسات العامة والخاصة اتخاذ تدابير استباقية لتوعية الجمهور وتثقيفه وإقناعه بالمخاطر المحتملة لتقنية التزييف العميق، فضلاً عن توضيح تدابير حماية البيانات التي يمكنهم اتخاذها للحد من احتمالية استخدام بياناتهم لإنتاج مثل هذا المحتوى. كما أن توفير معلومات حول كيفية مساعدة هذه المؤسسات في تحديد هذا المحتوى على الإنترنت سيسهم في الحد من انتشاره.

7.2 التهديدات الأمنية

يمكن استخدام أدوات الذكاء الاصطناعي العام لإنشاء محتوى متنوع. وبدون آليات ترشيح مناسبة، قد ينتج عنها محتوى يُستخدم لتهديد السلامة والأمن العام. ومن بين طرق مواجهة هذه التهديدات ما يلي:

مراقبة المحتوى وتصفيته

من الضروري ضمان توافق المحتوى المُنتَج بواسطة نماذج وأنظمة الذكاء الاصطناعي العام مع إرشادات المحتوى الخاصة بالجهة المُقدِّمة للخدمة. ينبغي تضمين آليات قادرة على الكشف عن أي محتوى ضار مُنتَج بواسطة هذه الأنظمة، والإشارة إليه، ومنع انتشاره. ومن أمثلة هذه الآليات، الترشيح الدقيق لكلٍّ من مُدخلات المستخدم والمخرجات المُنتَجة. كما ينبغي تحديث هذه الآليات بانتظام بناءً على ملاحظات العملاء واختبارات داخلية دقيقة.

تصفية مجموعة البيانات

وكما هو الحال مع المحتوى المُنشأ، يجب أيضًا تصفية جميع بيانات التدريب بدقة بحثًا عن أي معلومات موجودة يمكن استخدامها للتأثير على المخرجات المُنشأة بأي شكل من الأشكال.

نماذج الوصول المغلق

رغم أن النماذج والقنوات المفتوحة المصدر قد تُسهم في الحصول على العديد من مجموعات البيانات، إلا أنها قد تُثير مشاكلها الخاصة، إذ يكاد يكون من المستحيل التحقق من مصدر هذه النماذج ومجموعات البيانات. لذا، ينبغي، قدر الإمكان، السماح للمطورين باستخدام النماذج فقط بعد أن يتحققوا بأنفسهم من سلامتها ومن الأهداف المعلنة لاستخدامها.

7.3 المعلومات المضللة والهلوسة

يمكن استخدام نماذج وأنظمة الذكاء الاصطناعي العام لإنشاء معلومات زائفة تبدو وكأنها حقائق. كما يمكنها إنتاج مخرجات زائفة أو ملفقة من تلقاء نفسها، وتقديمها على أنها حقائق - وهو ما يُعرف بـ"وهم الذكاء الاصطناعي". ويُعد التلاعب المتعمد بالنموذج من خلال توجيهات مُصممة خصيصًا (حقن التوجيهات) خطرًا منفصلاً ومرتبطًا بهذا الخطر. ومن أفضل الطرق لمواجهة ذلك ما يلي:

التحقق من المحتوى والاستشهاد

على غرار البيانات الأكاديمية، ينبغي أن تتضمن جميع نماذج وأنظمة الذكاء الاصطناعي العام المتاحة للعموم آليات مدمجة لتقدير دقة المعلومات التي تقدمها. ومن خلال إلزام جميع هذه الأنظمة بعرض مصدر البيانات المستخدمة في إنشاء المحتوى، يمكن للمستخدمين التحقق بأنفسهم من دقة المحتوى المُنشأ. علاوة على ذلك، تتيح هذه الآلية مستوى أعلى من الدقة، فضلاً عن ضمان استخدام مصادر موثوقة لإنشاء المحتوى.

تصنيف المحتوى

يمكن الاستفادة من العلامات المائية في هذه الحالة أيضًا. يجب أن يحتوي كل محتوى يتم إنشاؤه بواسطة نماذج وأنظمة الذكاء الاصطناعي العام على ما يشير إلى أن هذه النماذج والأنظمة هي التي قامت بإنشائه. ويمكن تحديد هذه العلامات بناءً على نوع المحتوى الذي يتم إنشاؤه.

يقظة المستخدم

يجب على المستخدمين أن يبادروا بأنفسهم إلى التحقق من دقة المحتوى الذي تُنتجه تقنيات الذكاء الاصطناعي. ويُعدّ التدقيق في المعلومات، مثل تصنيف المحتوى أو مقارنتها بمصادر موثوقة على الإنترنت، بدايةً ممتازةً لذلك.

زيادة الوعي

ينبغي على المستخدمين إدراك التفاوت الكبير في دقة المخرجات التي تُنتجها نماذج وأنظمة الذكاء الاصطناعي العام. لذا، يجب تثقيفهم حول عمليات التحقق من الحقائق والمحتوى القياسية لمراجعة جميع المحتويات التي يُنتجها الذكاء الاصطناعي العام بأنفسهم.

7.4 اختراقات البيانات

في كثير من الأحيان، قد يُفصح المستخدمون دون قصد عن معلومات حساسة عبر الإنترنت. وينطبق الأمر نفسه عند استخدامهم أدوات الذكاء الاصطناعي العام. قد يُؤدي استخدام موظفي المؤسسة لهذه الأدوات إلى عواقب وخيمة على مؤسساتهم، إذ يُمكن أن تُكشف أي معلومات حساسة خاصة بالمؤسسة عبر هذه الأدوات لأطراف ثالثة، قد تكون منافسة أو، ما هو أسوأ، جهات خبيثة. وفي حال احتوت هذه المعلومات على بيانات شخصية، يُمكن أن يُشكل الكشف عنها إفصاحًا غير مصرح به بموجب قانون حماية البيانات الشخصية، ونقلًا خارج المملكة إذا كانت الأداة تُعالج البيانات في الخارج، وخرقًا يجب الإبلاغ عنه إلى الهيئة السعودية للذكاء الاصطناعي في غضون 72 ساعة. ولمواجهة ذلك، يُمكن للمؤسسات اتخاذ الخطوات التالية:

بروتوكولات الاستخدام

يجب على المؤسسات تطبيق موقف صارم وحاسم فيما يتعلق بإدخال الموظفين للمعلومات السرية في أي نماذج وأدوات ذكاء اصطناعي تابعة لجهات خارجية. من الأفضل وجود مجموعة من الإرشادات التي توجه جميع الموظفين بشأن أفضل ممارسات إنشاء المحتوى واستخدامه، بالإضافة إلى الخطوات التي يمكنهم اتخاذها لدعم الاستخدام الأخلاقي لهذه التقنية. إن تطبيق هذه الإرشادات بشكل مناسب سيقلل من احتمالية حدوث أي خلل في السياسة الداخلية قد يؤدي إلى اختراق كبير للبيانات .

تدريب الموظفين

يُعدّ تصميم سياسات الاستخدام وتطبيقها خطوة أولى جيدة. مع ذلك، يجب على المؤسسة اتخاذ جميع الخطوات اللازمة لضمان فهم موظفيها لأهمية هذه السياسات. وتُعتبر الدورات التدريبية وورش العمل التي تُغطي جوانب أخرى من نموذج الذكاء الاصطناعي العام واستخدام النظام، مثل المتطلبات القانونية الأوسع نطاقًا التي تشمل إدارة البيانات ، والأمن السيبراني، وتصنيف البيانات الحكومية، وحماية البيانات الشخصية، وحقوق الملكية الفكرية، وغيرها من المجالات القانونية أو السياسية ذات الصلة، أفضل السبل لتحقيق ذلك.

ضوابط الوصول

يجب أن يقتصر الوصول إلى المعلومات الحساسة على المستخدمين أو الموظفين المصرح لهم، مع منح الصلاحيات وفقًا لدورهم وحاجتهم المشروعة المتعلقة بمهامهم. وفي حال معالجة هذه المعلومات عبر خدمة الذكاء الاصطناعي العام، يجب على مزود الخدمة أيضًا تمكين المستخدمين من الموافقة على استخدام بياناتهم لتدريب نماذج الذكاء الاصطناعي أو رفضها، والسماح لهم، عند الطلب، بحذف سجل طلباتهم بالكامل، وفقًا للقوانين واللوائح المعمول بها.

7.5 تزوير الشهادات

في الأوساط الأكاديمية، يتزايد استخدام أنظمة ونماذج الذكاء الاصطناعي في عمليات منح الشهادات البشرية، مثل الامتحانات والتقييمات المهنية. قد يُقوّض هذا الأمر بشدة موثوقية هذه الامتحانات ومصداقيتها، ويُشكّل تهديدًا مجتمعيًا لصعوبة اكتشافه باستخدام أدوات مكافحة الانتحال القياسية المتوفرة في السوق. يمكن للمؤسسات اتخاذ الخطوات التالية لمواجهة هذا التحدي:

تقييمات أفضل

يمكن للجهات الخبيثة استغلال أدوات الذكاء الاصطناعي لتعزيز وتطوير أساليبها القائمة. وهذا يؤكد أهمية وجود عملية مراجعة شاملة لدى المؤسسات لجميع تقييماتها. وينبغي تعديل هذه التقييمات والآليات المستخدمة في إجرائها بما يتناسب مع القدرات والمنهجيات التكنولوجية المتطورة.

ولتحقيق هذه الغاية، يجب على المؤسسات ضمان امتلاك موظفيها للمهارات والمعرفة والوعي اللازمين لمواجهة أي إساءة استخدام محتملة لأدوات الذكاء الاصطناعي العام. ويمكن أن يساعد القيام بذلك بانتظام المؤسسات في الحفاظ على نزاهة وأمن هذه التقييمات.

التعليم والتدريب

يجب إجراء دورات تدريبية داخلية شاملة لتعزيز الاستخدام المسؤول لأدوات الذكاء الاصطناعي العام، مع الاستفادة منها أيضاً لتحديد السلوكيات المشبوهة المحتملة التي تشير إلى الاحتيال أو إساءة استخدام الأداة.

إتقان الاستعلام

ينبغي تدريب المطورين والمستخدمين على المطالبات وكيفية صياغة مطالبات يمكنها تقديم مخرجات مثالية دون التسبب في بعض المشكلات المتعلقة بالمحتوى التي نوقشت أعلاه.

إرشادات واضحة

يجب على كل منظمة أن تدرس وتضع مبادئ توجيهية مناسبة لاستخدام أدوات الذكاء الاصطناعي من الجيل الجديد بما يتماشى مع مبادئها الأخلاقية وقواعد السلوك الخاصة بها.

7.6 انتهاك الملكية الفكرية وحمايتها

تُدرَّب نماذج وأنظمة الذكاء الاصطناعي العام على مجموعة واسعة من المحتوى. وبطبيعة الحال، أدى ذلك إلى زيادة حالات الاستخدام غير المصرح به للمواد المحمية بحقوق الطبع والنشر أو الملكية الفكرية. يمكن للخطوات التالية أن تساعد في تقليل هذه الحالات:

ترخيص الملكية الفكرية والتحقق من صحة البيانات

يجب إلزام مطوري الذكاء الاصطناعي بالحصول على إذن وتراخيص قانونية لاستخدام أي ملكية فكرية في مجموعات بيانات التدريب لنماذج وأنظمة الذكاء الاصطناعي العام. من شأن ذلك أن يُرسي سلسلة من المساءلة تُسهم في الحد من استخدام المحتوى المحمي دون الحصول على الأذونات اللازمة. علاوة على ذلك، يجب منح المستخدمين فرصة طلب تأكيد ما إذا كانت أدوات الذكاء الاصطناعي العام التي يستخدمونها قد دُرِّبت باستخدام الملكية الفكرية.

أذونات المُنشئ

بموجب ترخيص الملكية الفكرية، يجب على مطوري نماذج أو أنظمة الذكاء الاصطناعي العام الحصول على إذن من صاحب الملكية الفكرية الأصلي قبل استخدام هذه البيانات ضمن مجموعات بياناتهم. وفي حال تعذر ذلك، يمكن للمطورين وضع آلية تعويض تضمن تعويضًا عادلًا للمبدعين الأصليين في كل مرة يُستخدم فيها محتواهم في مجموعات بيانات التدريب.

7.7 تباين المخرجات

بخلاف الخدمات القابلة للبرمجة التقليدية، لا تعتمد نماذج وأنظمة الذكاء الاصطناعي من الجيل الجديد (GenAI) كليًا على خوارزميات محددة مسبقًا لإنتاج المخرجات. علاوة على ذلك، يمكن لهذه الأدوات تغيير طريقة تطويرها وإنتاجها للمخرجات بناءً على التحديثات والتغييرات الداخلية. لذا، ولمواجهة أي مشكلات قد تنشأ عن هذه الحالات، يمكن للمؤسسات اتخاذ الخطوات التالية:

مؤشر واضح على الكود المُولّد بواسطة الذكاء الاصطناعي

ينبغي على المطورين المسؤولين عن تطوير البنية البرمجية الداخلية للمؤسسة تضمين شروحات تفصيلية ودقيقة ضمن الشيفرة المصدرية عند استخدامهم مساعدي البرمجة المدعومين بالذكاء الاصطناعي، وذلك للإشارة إلى أن هذه الشيفرة قد طُوّرت باستخدام هذه الأدوات. ولا يقتصر دور ذلك على تعزيز الشفافية فحسب، بل يضمن أيضاً الحفاظ على جودة الشيفرة بشكل عام.

التحقق والتحقق من الصحة

يجب التحقق بانتظام وبشكل شامل من جميع التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والمحتويات الأخرى ذات الصلة، وخاصة في الحالات التي تكون فيها الدقة ذات أهمية قصوى.

ابقَ على اطلاع

يجب على المطورين السعي باستمرار لمواكبة أحدث التطورات المتعلقة بنماذج وأنظمة الذكاء الاصطناعي العام. يساعدهم ذلك على البقاء على اطلاع دائم بأي تغييرات قد تطرأ على هذه الأدوات والتي تؤثر على طريقة استخدامهم لها وتفاعلهم معها.

بناء الخبرة

ينبغي على المطورين اكتساب فهم شامل وخبرة متعمقة في استخدام الذكاء الاصطناعي العام. ويمكن أن تكون هذه الخبرة بالغة الأهمية عند تقييم مدى صحة المخرجات التي يولدها الذكاء الاصطناعي.

8. كيف Securiti يمكن المساعدة

Securiti تُعدّ الشركة رائدةً في منصة قيادة DataAI، وهي منصة مركزية تُمكّن من الاستخدام الآمن للبيانات والذكاء الاصطناعي العام. توفر المنصة ذكاءً موحدًا للبيانات، وضوابط، وتنسيقًا عبر بيئات سحابية هجينة متعددة. وتعتمد عليها كبرى الشركات العالمية. Securiti منصة DataAI Command Platform الخاصة بـ DataAI لحلولها المتنوعة في مجال أمن البيانات والخصوصية والحوكمة والامتثال.

بفضل منصة DataAI Command Platform، ستتمكن المؤسسات من الوصول إلى العديد من الوحدات والحلول التي ستتيح التكامل السلس والامتثال للسياسات والتدابير المقترحة في هذا الدليل.

تعمل وحدة assessment automation على أتمتة تقارير سجلات المعالجة ( RoPA )، وتقييمات أثر الخصوصية، وتقييمات أثر حماية البيانات. وتوفر وحدة data quality معلومات فنية حول البيانات، بالإضافة إلى الاحتفاظ بقائمة بقواعد العمل المطبقة عليها. علاوة على ذلك، يتيح تصنيف البيانات الكشف عن الملفات الحساسة، مثل المستندات الطبية والمالية، مع وضع علامات تلقائية لتتبع سياسات الأمان الخاصة بهذه الملفات وتطبيقها.

بالنسبة للذكاء الاصطناعي تحديداً، Securiti تساعد هذه الميزة المؤسسات على اكتشاف النماذج والمساعدين والوكلاء المستخدمين، وتحديد أنشطة المعالجة والبيانات الشخصية التي تغذيها من خلال اكتشاف البيانات data mapping ، وتحديد الاستخدامات عالية المخاطر مثل القرارات الآلية، وفرض ضوابط الوصول باستخدام Data Security Posture Management ، وتوثيق البيانات المستخدمة ومكان استخدامها ومن قام باستخدامها - وهي ميزة "إدارة تغذية الذكاء الاصطناعي بالبيانات الشخصية" في حلنا لحماية البيانات الشخصية في المملكة العربية السعودية . تعرف على المزيد حول AI governance المؤسسي AI governance .

وبالمثل، يمكن الاستفادة من العديد من الوحدات الأخرى التي تُعد جزءًا من منصة قيادة DataAI لمواجهة المخاطر المحددة في هذا الدليل، بما في ذلك consent management وإدارة breach management . وللاطلاع على الصورة التنظيمية الأوسع، يُرجى قراءة أوراقنا البحثية data privacy والأمن السيبراني في المملكة العربية السعودية ومنطقة الشرق الأوسط .

اطلب عرضًا تجريبيًا اليوم وتعرف على المزيد حول كيفية Securiti يمكننا مساعدتك في الامتثال لأي لوائح متعلقة بالبيانات والذكاء الاصطناعي من المملكة العربية السعودية.