تاريخ النشر
|
فعال
تاريخ
|
غاية
|
موجه نحو
|
أهم النقاط للشركات
|
|
إرشادات الاستجابة للطوارئ لخدمات الذكاء الاصطناعي التوليدي
|
| 22 سبتمبر 2025 |
غير متوفر |
لتنفيذ "التدابير المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي" وتوجيه إنشاء إطار عمل موحد للاستجابة الأمنية الطارئة لخدمات الذكاء الاصطناعي التوليدي. |
مقدمو خدمات الذكاء الاصطناعي التوليدي، وشركاؤهم، والإدارات ذات الصلة المسؤولة عن إدارة أو الإشراف على أمن خدمات الذكاء الاصطناعي التوليدي. |
يشجع المنظمات على:
- تطبيق آليات الاستجابة الأمنية الطارئة بما يتماشى مع التدابير المؤقتة لخدمات الذكاء الاصطناعي التوليدي،
- إنشاء هياكل حوكمة قوية وفرق وآليات للاستجابة للحوادث،
- تعزيز سلامة دورة حياة المنتج بدءًا من أبحاث وتطوير الذكاء الاصطناعي وحتى نشره،
- تطبيق أنظمة المراقبة المستمرة والإنذار المبكر والتنبيهات الآلية للنماذج والبيانات والشبكات.
- تصنيف الحوادث الأمنية والاستجابة لها حسب النوع والخطورة،
- الإبلاغ عن الحوادث الكبرى على الفور واستعادة الخدمات بشكل آمن.
- إجراء مراجعات ما بعد الحادث، و
- الحماية من المحتوى غير القانوني أو المتحيز أو الكاذب أو الذي ينتهك الخصوصية/الملكية الفكرية، وانتهاكات البيانات، والهجمات الشبكية.
|
|
إطار حوكمة أمن الذكاء الاصطناعي (الإصدار 2.0)
|
| 15 سبتمبر 2025 |
غير متوفر |
توفير نهج شامل ومنظم لضمان التطوير والنشر والاستخدام الآمن والأخلاقي والمسؤول لتقنيات الذكاء الاصطناعي. |
مطورو الذكاء الاصطناعي، ومنفذوه، ومشغلوه |
يشجع المنظمات على:
- تطبيق إجراءات الحماية التكنولوجية،
- وضع تدابير حوكمة قوية،
- تعزيز سلامة دورة حياة المنتج من البحث والتطوير إلى النشر.
- تطبيق المبادئ الأخلاقية،
- إجراء تقييمات سلامة الذكاء الاصطناعي، و
- الحفاظ على إمكانية التتبع في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
|
|
تدابير لتصنيف المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي
|
| 7 مارس 2025 |
1 سبتمبر 2025 |
تعزيز الاستخدام المسؤول للذكاء الاصطناعي، وحماية حقوق المستخدمين، وضمان الشفافية في المحتوى عبر الإنترنت. |
مقدمو الخدمات عبر الإنترنت الذين يقدمون خدمات الذكاء الاصطناعي التوليدي، والتي تغطي النصوص والصور والصوت والفيديو والمشاهد الافتراضية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. |
تدابير لمقدمي الخدمات:
- قم بتصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي باستخدام:
- ملصقات صريحة (إشعارات مرئية، تنبيهات صوتية، أو علامات صور/فيديو تبقى عند مشاركتها أو تنزيلها).
- التصنيفات الضمنية (البيانات الوصفية مع السمات، وتفاصيل الموفر، وأرقام المرجع؛ يُشجع استخدام العلامات المائية الرقمية).
- احتفظ بالسجلات لمدة ستة أشهر إذا تم نشر المحتوى بدون تصنيفات صريحة.
- يحظر إزالة أو تغيير أو تزوير الملصقات.
- منع الأدوات التي تتجاوز متطلبات وضع العلامات.
- الالتزام بجميع القوانين واللوائح والمعايير ذات الصلة تحت إشراف الجهات التنظيمية.
علاوة على ذلك، ينبغي على مقدمي خدمات نقل المحتوى عبر الإنترنت ما يلي:
- الكشف عن المحتوى والبيانات الوصفية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتحقق منها.
- الرد على شكاوى المستخدمين بشأن سوء التسمية.
- توفير أدوات لتصنيف محتوى الذكاء الاصطناعي.
|
|
تكنولوجيا الأمن السيبراني - متطلبات الأمان الأساسية لخدمات الذكاء الاصطناعي التوليدي
|
| 25 أبريل 2025 |
1 نوفمبر 2025 |
توفير متطلبات أمنية أساسية لخدمات الذكاء الاصطناعي التوليدي، بما في ذلك أمن بيانات التدريب، وأمن النموذج، وإجراءات السلامة.
.
|
مقدمو الخدمات الذين يقومون بإجراء تقييمات السلامة.
كما أنها بمثابة مرجع للسلطات المختصة والمقيّمين الخارجيين.
|
متطلبات أمن بيانات التدريب
- أمن مصادر البيانات: يجب على مزودي الخدمة إجراء تقييمات أمنية عشوائية لمصادر البيانات قبل جمعها. إذا احتوت أكثر من 5% من البيانات على معلومات غير قانونية أو ضارة، فلا يجوز استخدامها لأغراض التدريب.
- إدارة محتوى البيانات: يجب تصفية جميع بيانات التدريب لإزالة المحتوى غير القانوني أو الضار قبل الاستخدام.
- حماية الملكية الفكرية: يجب أن يكون لدى مقدمي الخدمات استراتيجيات وقواعد لإدارة الملكية الفكرية لبيانات التدريب وإنشاء قنوات للإبلاغ عن المشكلات ذات الصلة وتحديثها.
- حماية المعلومات الشخصية: قبل استخدام بيانات التدريب التي تحتوي على معلومات شخصية، يجب على مقدمي الخدمات الحصول على موافقة الفرد أو الامتثال للمتطلبات القانونية الأخرى.
متطلبات الأمان النموذجية
- تطوير النماذج ونشرها: يجب على مقدمي الخدمات ضمان تطوير النماذج ونشرها بشكل آمن، مع اتخاذ تدابير لمنع الوصول غير المصرح به والتلاعب.
- تقييم النموذج : ينبغي إجراء تقييمات منتظمة لتقييم أداء النموذج وأمانه، بما في ذلك قدرته على التعامل مع المدخلات المختلفة بأمان.
- تحديثات النماذج: يجب إدارة تحديثات النماذج بشكل آمن لمنع إدخال الثغرات الأمنية.
تدابير السلامة
- أمن بيانات المستخدم: يجب على مقدمي الخدمات تنفيذ تدابير لحماية بيانات المستخدم، بما في ذلك التشفير وضوابط الوصول.
- الاستجابة للحوادث: وضع إجراءات للاستجابة للحوادث الأمنية، بما في ذلك الكشف والإبلاغ والتخفيف.
- الامتثال للقوانين واللوائح: يجب على مقدمي الخدمات الامتثال لقوانين ومعايير الأمن السيبراني وأمن البيانات وحماية المعلومات الشخصية ذات الصلة.
|
|
"مواصفات أمان التعليقات التوضيحية لبيانات الذكاء الاصطناعي التوليدي" (GB/T 45674—2025 )
|
| 25 أبريل 2025 |
1 نوفمبر 2025 |
يحدد متطلبات أمنية شاملة لعملية شرح البيانات* في أنظمة الذكاء الاصطناعي التوليدية.
*يُعدّ تصنيف البيانات نشاطًا بالغ الأهمية يؤثر بشكل مباشر على جودة وسلامة بيانات التدريب، وبالتالي على المحتوى المُنشأ.
|
المنظمات المشاركة في أنشطة شرح بيانات الذكاء الاصطناعي التوليدي. |
التدابير الأمنية
- أمن المنصات والأدوات: يجب على المؤسسات إجراء تقييمات أمنية دورية لمنصات أو أنظمة التعليقات التوضيحية لتحديد ومعالجة الثغرات الأمنية المحتملة. ينبغي للمنصات الاحتفاظ بسجلات مفصلة لعمليات المستخدمين وأنشطة النظام لتسهيل التحقيقات في حال وقوع حوادث أمنية.
- أمن القواعد: يجب وضع قواعد تعليق واضحة وآمنة لتوجيه عملية وضع العلامات، مما يضمن الاتساق والسلامة في البيانات التي تم إنشاؤها.
- متطلبات الموظفين: يجب أن يخضع الموظفون المشاركون في شرح البيانات لتدريب أمني وأن تتم إدارتهم بشكل فعال لمنع الوصول غير المصرح به وضمان الالتزام بالبروتوكولات الأمنية.
- متطلبات التحقق: ينبغي أن تكون هناك آليات قوية للتحقق من دقة وأمان البيانات المشروحة، بما في ذلك عمليات التحقق الوظيفي والأمني.
كما يحدد هذا الدليل أساليب تقييم أمن منصات التعليقات التوضيحية والقواعد والموظفين وعمليات التحقق لضمان الامتثال لمتطلبات الأمان المحددة.
|
|
تكنولوجيا الأمن السيبراني - مواصفات أمنية لبيانات التدريب المسبق والضبط الدقيق للذكاء الاصطناعي التوليدي
|
| 25 أبريل 2025 |
1 نوفمبر 2025 |
حدد متطلبات الأمان لأنشطة معالجة البيانات المتعلقة بالتدريب المسبق والضبط الدقيق لنماذج الذكاء الاصطناعي التوليدية. |
مقدمو خدمات الذكاء الاصطناعي الذين يقومون بمعالجة البيانات والتقييمات الذاتية الأمنية، بالإضافة إلى المؤسسات الخارجية التي تقوم بتقييم أمن البيانات. |
التدابير الأمنية العامة
- تطوير استراتيجيات إدارة الأمن للتدريب المسبق وضبط البيانات بدقة، بما في ذلك التصنيف وأمن معالجة البيانات والاستجابة للحوادث.
- قم بتطبيق تشفير البيانات أثناء التخزين والنقل لمنع الوصول غير المصرح به.
- ضمان إمكانية تتبع بيانات التدريب من خلال تحديد هوية البيانات بين الدفعات.
- الالتزام بالمعايير ذات الصلة بحماية المعلومات الشخصية وأمن معالجة البيانات.
تدابير أمنية لمعالجة البيانات قبل التدريب
- جمع البيانات: تقييم وتسجيل البيانات لضمان عدم تجاوز المحتوى الضار أو غير القانوني نسبة 5%.
- معالجة البيانات المسبقة: تنفيذ إجراءات لتنظيف البيانات وتطهيرها، وإزالة أي معلومات ضارة أو غير ذات صلة.
- استخدام البيانات: تأكد من أن البيانات المستخدمة في التدريب لا تضر بسلامة النموذج أو أمانه.
تدابير أمنية لتحسين معالجة البيانات
- جمع البيانات: اتبع بروتوكولات مماثلة لتلك المستخدمة في جمع بيانات ما قبل التدريب، مع ضمان data quality والشرعية.
- معالجة البيانات المسبقة: تطبيق تعديلات خاصة بالمجال مع الحفاظ على أمان البيانات.
- استخدام البيانات: مراقبة وتقييم تأثير ضبط البيانات بدقة على أداء النموذج وأمانه.
كما يحدد أساليب التقييم لجمع البيانات ومعالجتها المسبقة واستخدامها لضمان الشرعية والجودة والأمان والأداء طوال فترة التدريب المسبق والضبط الدقيق.
|
|
خطة عمل للحوكمة العالمية للذكاء الاصطناعي
|
| 26 يوليو 2025 |
|
إنشاء نظام بيئي للذكاء الاصطناعي يتمحور حول الإنسان، وآمن، وشامل، ويعود بالنفع على الجميع، ويسترشد بالتعاون والإنصاف والشفافية. |
أصحاب المصلحة المعنيون بنشر الذكاء الاصطناعي وتطويره وحوكمته. |
تتضمن خطة العمل النقاط الرئيسية التالية:
- التعاون والابتكار: يُحثّ الحكومات والصناعة والمؤسسات البحثية والمجتمع المدني على العمل معًا للنهوض بتكنولوجيا الذكاء الاصطناعي والبنية التحتية الرقمية والابتكار عبر الحدود.
- الذكاء الاصطناعي في مختلف القطاعات: من الرعاية الصحية والتعليم إلى المدن الذكية وحلول المناخ، يجب أن يمكّن الذكاء الاصطناعي كل قطاع مع دعم أهداف التنمية المستدامة.
- البيانات المفتوحة وعالية الجودة: تعزز مشاركة البيانات القانونية، وتطوير مجموعات البيانات العالمية، والضمانات المتعلقة بالخصوصية والتنوع.
- الاستدامة والكفاءة: تشجع الذكاء الاصطناعي الموفر للطاقة، والحوسبة الخضراء، ونماذج التنمية الصديقة للبيئة.
- المعايير والحوكمة العالمية: تعمل على تعزيز المعايير الدولية والمعايير التقنية وأطر إدارة المخاطر، مما يضمن أن يكون الذكاء الاصطناعي أخلاقياً وشفافاً وقابلاً للتشغيل البيني.
- بناء القدرات والشمول : يركز على دعم البلدان النامية، وسد الفجوة في مجال الذكاء الاصطناعي، وحماية الحقوق الرقمية للنساء والأطفال.
- إشراك أصحاب المصلحة المتعددين: يشجع المؤسسات والباحثين وصناع السياسات على التعاون في منصات الابتكار والسلامة والأخلاق والحوكمة العالمية.
|
