في 26 يوليو 2024، أصدرت وزارة التجارة الأمريكية مسودة إرشادات جديدة من المعهد الوطني للمعايير والتكنولوجيا (NIST) من معهد سلامة الذكاء الاصطناعي الأمريكي لمساعدة مطوري الذكاء الاصطناعي في تقييم وتخفيف المخاطر المرتبطة بنماذج الأساس ذات الاستخدام المزدوج والذكاء الاصطناعي التوليدي.
إليكم المزيد حول ورقة البيت الأبيض التي تتضمن الإجراءات التي اتخذتها الإدارة على مستوى البلاد بشأن الذكاء الاصطناعي.
خلفية التوجيهات الجديدة
في 20 أكتوبر 2023، أصدر الرئيس بايدن أمرًا تنفيذيًا رائدًا بشأن التطوير والاستخدام الآمن والموثوق للذكاء الاصطناعي، بهدف وضع الولايات المتحدة كقائدة في تسخير إمكانات الذكاء الاصطناعي وإدارة المخاطر المتطورة المرتبطة به.
لننتقل إلى اليوم. أصدر المعهد الوطني للمعايير والتكنولوجيا (NIST) التابع للوزارة ثلاث وثائق إرشادية نهائية، والتي تم إتاحتها لأول مرة للتعليق العام في أبريل ، إلى جانب مسودة وثيقة إرشادية من معهد سلامة الذكاء الاصطناعي الأمريكي للمساعدة في تخفيف المخاطر.
تعرف على المزيد حول الأمر التنفيذي التاريخي.
نظرة عامة على الإرشادات الجديدة
أعلنت وزارة التجارة الأمريكية عن توجيهات وأدوات جديدة، بمناسبة مرور 270 يومًا على الأمر التنفيذي الذي أصدره الرئيس بايدن. وتأتي هذه المبادرة ضمن الجهود المتواصلة لضمان التطوير الآمن والمسؤول لتقنيات الذكاء الاصطناعي. ومن أبرز النقاط ما يلي:
منشورات المعهد الوطني للمعايير والتكنولوجيا
أصدر المعهد الوطني للمعايير والتكنولوجيا (NIST) وثائق إرشادية جديدة حول الذكاء الاصطناعي تغطي جوانب مختلفة من تقنية الذكاء الاصطناعي. ومن بين الوثائق المنشورة حديثًا:
- مسودة وثيقة إرشادية من معهد سلامة الذكاء الاصطناعي الأمريكي لمساعدة المطورين على التخفيف من المخاطر الناجمة عن الذكاء الاصطناعي التوليدي ونماذج الأساس ذات الاستخدام المزدوج و
- منصة اختبار لقياس نقاط ضعف أنظمة الذكاء الاصطناعي أمام الهجمات.
أما الوثائق الثلاث المتبقية فهي نسخ نهائية من مسودات سبق نشرها:
- يقدم اثنان منها إرشادات لإدارة المخاطر المرتبطة بالذكاء الاصطناعي التوليدي، مكملين بذلك إطار إدارة مخاطر الذكاء الاصطناعي (AI RMF) وإطار تطوير البرمجيات الآمنة (SSDF) التابعين للمعهد الوطني للمعايير والتكنولوجيا (NIST).
- أما الثالث فيحدد خطة للتعاون العالمي بشأن معايير الذكاء الاصطناعي.
أصدر المعهد الوطني للمعايير والتكنولوجيا (NIST) حزمة برمجية لتقييم الآثار المحتملة للهجمات المعادية على وظائف أنظمة الذكاء الاصطناعي. تُمكّن هذه الحزمة مطوري الذكاء الاصطناعي من تحديد نقاط الضعف في نماذج الذكاء الاصطناعي والتخفيف من آثارها.
تحديثات مكتب براءات الاختراع والعلامات التجارية الأمريكي
عدّل مكتب براءات الاختراع والعلامات التجارية الأمريكي (USPTO) إرشاداته بشأن أهلية براءات الاختراع للذكاء الاصطناعي والتقنيات النامية الأخرى. ويساهم هذا التعديل في توضيح عملية مراجعة الأفكار المتعلقة بالذكاء الاصطناعي.
المعايير العالمية للذكاء الاصطناعي
تم توفير مسودة مقترح لأصحاب المصلحة في الولايات المتحدة للتعاون عالميًا بشأن معايير الذكاء الاصطناعي. وتتمثل الأهداف الرئيسية لهذه الاستراتيجية في تحسين الشفافية والاختبار والتقييم، ووضع معايير عالمية لتكنولوجيا الذكاء الاصطناعي.
تعلن NIST اليوم عن إصدارين جديدين لأول مرة:
الحماية من مخاطر سوء الاستخدام الناجمة عن نماذج المؤسسات ذات الاستخدام المزدوج
- مقدمة عن المبادئ التوجيهية : أصدر معهد السلامة للذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا المسودة العامة الأولية لمعيار NIST AI 800-1 .
- نطاق النماذج : تركز المبادئ التوجيهية على نماذج الأساسات ذات الاستخدام المزدوج والتي لديها إمكانية للتطبيقات المفيدة والضارة على حد سواء.
- الهدف : يهدف إلى توفير أفضل الممارسات الطوعية للمطورين لمنع إساءة استخدام أنظمة الذكاء الاصطناعي.
- الأساليب الرئيسية : يحدد مسودة التوجيه سبعة أساليب رئيسية للتخفيف من مخاطر سوء الاستخدام.
- التنفيذ والشفافية : يتضمن توصيات لتنفيذ أفضل الممارسات وضمان الشفافية.
- التهديدات المحددة التي تم تناولها : تهدف إلى منع استخدام نماذج الذكاء الاصطناعي في إنشاء أسلحة بيولوجية، وإجراء عمليات هجومية إلكترونية، وإنتاج محتوى ضار (مثل مواد الاعتداء الجنسي على الأطفال، والصور الحميمة غير الرضائية).
- الحماية المستهدفة : تركز على حماية الأفراد والسلامة العامة والأمن القومي من مخاطر إساءة استخدام الذكاء الاصطناعي.
اختبار كيفية استجابة أنظمة الذكاء الاصطناعي للهجمات
- نقطة الضعف الأساسية : تكمن نقطة الضعف الأساسية لأنظمة الذكاء الاصطناعي في النموذج، الذي يتخذ القرارات بناءً على بيانات تدريب كبيرة.
- التهديد العدائي : يمكن للخصوم تسميم بيانات التدريب، مما يتسبب في اتخاذ النماذج قرارات غير صحيحة (على سبيل المثال، تحديد علامات التوقف بشكل خاطئ على أنها علامات تحديد السرعة).
- مقدمة عن ديوبترا : ديوبترا عبارة عن حزمة برامج جديدة مصممة لاختبار قدرة برامج الذكاء الاصطناعي على الصمود في وجه الهجمات المعادية.
- التوفر كمصدر مفتوح : برنامج Dioptra مفتوح المصدر ومتاح للتنزيل مجانًا.
- دعم المجتمع : يدعم الوكالات الحكومية والشركات الصغيرة والمتوسطة الحجم في إجراء تقييمات الذكاء الاصطناعي.
- التحقق من الأداء : يُمكّن هذا المجتمع من التحقق من ادعاءات أداء مطوري الذكاء الاصطناعي.
- مساعدة اختبار النماذج : تساعد في تحديد أنواع الهجمات التي يمكن أن تؤدي إلى تدهور أداء نماذج الذكاء الاصطناعي.
- قياس انخفاض الأداء : يقوم برنامج Dioptra بقياس انخفاض الأداء، مما يوفر رؤى حول تكرار وظروف أعطال أنظمة الذكاء الاصطناعي.
بالإضافة إلى إصدارين أوليين، أنجز المعهد الوطني للمعايير والتكنولوجيا (NIST) ثلاثة وثائق:
تخفيف مخاطر الذكاء الاصطناعي التوليدي
يتضمن المنشور الأول تفاصيل ملف تعريف الذكاء الاصطناعي التوليدي NIST AI RMF ( NIST AI 600-1 ).
- الغرض من ملف تعريف الذكاء الاصطناعي التوليدي RMF : يساعد معيار NIST AI 600-1 المؤسسات على تحديد وإدارة المخاطر الفريدة المرتبطة بالذكاء الاصطناعي التوليدي.
- إدارة المخاطر الشاملة : يقترح أكثر من 200 إجراء لإدارة مخاطر الذكاء الاصطناعي التوليدي.
- مصاحب لإطار إدارة مخاطر الذكاء الاصطناعي : يعمل كمورد مصاحب لإطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (AI RMF).
- التركيز على مخاطر محددة : تماشياً مع أهداف المنظمة وأولوياتها، يركز هذا النهج على 12 خطراً محدداً. تشمل المخاطر الرئيسية انخفاض الحواجز أمام الهجمات الإلكترونية، وإنتاج المعلومات المضللة، والمعلومات الكاذبة، وخطاب الكراهية، والمحتوى الضار الآخر، وأنظمة الذكاء الاصطناعي التي تُنتج مخرجات خاطئة أو "وهمية".
- التوافق مع أهداف المنظمة : يضمن توافق إجراءات إدارة المخاطر مع أهداف المنظمة وأولوياتها.
الحد من التهديدات التي تواجه البيانات المستخدمة في تدريب أنظمة الذكاء الاصطناعي
يكمل المنشور النهائي الثاني، " ممارسات تطوير البرمجيات الآمنة للذكاء الاصطناعي التوليدي ونماذج الأساس ذات الاستخدام المزدوج" (منشور NIST الخاص 800-218A) ، إطار عمل تطوير البرمجيات الآمنة (SP 800-218) .
- الاهتمام المُركّز : يتناول هذا الموضوع تحديداً مشكلة تعرض أنظمة الذكاء الاصطناعي التوليدي للاختراق من خلال بيانات التدريب الخبيثة.
- النطاق : يركز على تدريب واستخدام أنظمة الذكاء الاصطناعي.
- تحديد المخاطر : يحدد عوامل الخطر المحتملة المرتبطة بتدريب الذكاء الاصطناعي واستخدامه.
- استراتيجيات التخفيف : توفر استراتيجيات للتخفيف من المخاطر المحددة.
- التوصيات الرئيسية : تحليل بيانات التدريب بحثًا عن علامات التسمم والتحيز والتجانس والتلاعب وضمان سلامة وأداء أنظمة الذكاء الاصطناعي.
- الهدف العام : تعزيز أمن وموثوقية الذكاء الاصطناعي التوليدي ونماذج الأساس ذات الاستخدام المزدوج من خلال ممارسات تطوير قوية.
المشاركة العالمية في معايير الذكاء الاصطناعي
يهدف المنشور النهائي الثالث، " خطة للمشاركة العالمية في معايير الذكاء الاصطناعي" (NIST AI 100-5) ، إلى تعزيز التطوير والتنفيذ العالمي لمعايير الإجماع المتعلقة بالذكاء الاصطناعي.
- مجالات التركيز : تعزيز التعاون بين أصحاب المصلحة الدوليين وتحسين التنسيق وتبادل المعلومات بين البلدان لضمان النشر الآمن والفعال لتقنيات الذكاء الاصطناعي.
- التوافق مع الخطط الحالية : يتوافق هذا الدليل مع الاستراتيجية الوطنية للمعايير للتكنولوجيا الحرجة والناشئة ويستند إلى الأولويات المحددة في خطة المعهد الوطني للمعايير والتكنولوجيا (NIST) للمشاركة الفيدرالية في معايير الذكاء الاصطناعي والأدوات ذات الصلة.
كيف Securiti يساعد
Securiti 's Data Command Center يمكّن المؤسسات من الامتثال لإطار إدارة مخاطر الذكاء الاصطناعي (AI RMF) التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST) من خلال تأمين بيانات المؤسسة، وتمكين المؤسسات من زيادة قيمة البيانات إلى أقصى حد، والوفاء بالتزامات المؤسسة فيما يتعلق بأمن البيانات ، data privacy ، وأمن الذكاء الاصطناعي وحوكمته ، والامتثال .
بالإضافة إلى ذلك، Securiti تُزيل مجموعة Genstack AI Suite من GenStack التعقيدات والمخاطر الكامنة في دورة حياة الذكاء الاصطناعي العام، مما يُمكّن المؤسسات من استخدام بياناتها المنظمة وغير المنظمة بسرعة وأمان في أي مكان مع أي نظام ذكاء اصطناعي وأنظمة إدارة التعلم. توفر المجموعة ميزات مثل استيعاب البيانات واستخراجها بشكل آمن، وإخفاء البيانات، وإخفاء الهوية، والتنقيح، بالإضافة إلى إمكانيات الفهرسة والاسترجاع. كما تُسهّل المجموعة تهيئة أنظمة إدارة التعلم للأسئلة والأجوبة، وضوابط البيانات المدمجة للحوكمة والخصوصية والأمان، وجدران الحماية لأنظمة إدارة التعلم لتمكين التبني الآمن للذكاء الاصطناعي العام.
اطلب عرضًا توضيحيًا لتشاهد بنفسك Securiti أثناء العمل.
