أصبحت كندا قوة رائدة في مجال الذكاء الاصطناعي التوليدي، من خلال تطويره بشكل مسؤول وأخلاقي، في ظل التطور السريع لهذا المجال. وقد مهدت البلاد الطريق لوضع ضوابط شاملة للذكاء الاصطناعي، مع التزامها الدائم بتعزيز الابتكار ودعم مبادئ الشفافية والنزاهة والمساءلة .
رغم ما تتمتع به تقنيات الذكاء الاصطناعي التوليدي من مزايا عديدة، إلا أنها أداة قوية تجذب جهات خبيثة لاستخدامها بشكل ضار أو غير لائق، مما يثير مخاوف جدية في القطاعين العام والخاص وبين كبار خبراء صناعة الذكاء الاصطناعي. ونتيجة لذلك، لا تكتفي الحكومة الكندية بوضع ضوابط طوعية في مجال الذكاء الاصطناعي التوليدي، بل تعمل على وضع معايير لأنظمة "عالية التأثير"، مثل قانون الذكاء الاصطناعي والبيانات (AIDA).
بالإضافة إلى ذلك، أصدرت وزارة الابتكار والعلوم والتنمية الاقتصادية الكندية (ISED)، وهي وزارة اتحادية تابعة لحكومة كندا مسؤولة عن العديد من الواجبات، بما في ذلك تنظيم الصناعة والتجارة، وتعزيز الابتكار والعلوم، والمساعدة في التنمية الاقتصادية، الضوابط الكندية للذكاء الاصطناعي التوليدي - مدونة قواعد الممارسة.
بموجب الوثيقة المقترحة، تسعى حكومة كندا إلى الحصول على تعليقات حول عناصر مدونة الممارسات المقترحة لأنظمة الذكاء الاصطناعي التوليدي. وسيستضيف المجلس الاستشاري للذكاء الاصطناعي التابع لحكومة كندا سلسلة من جلسات النقاش الافتراضية والمختلطة، بالإضافة إلى تقييمات الخبراء، كجزء من هذه العملية.
في هذه المدونة، سننطلق في رحلة لاستكشاف المشهد متعدد الأوجه للضوابط الكندية للذكاء الاصطناعي التوليدي، ولا سيما الضوابط الكندية للذكاء الاصطناعي التوليدي - مدونة قواعد الممارسة التي تم تقديمها مؤخرًا.
مدونة قواعد الممارسة – العناصر
منذ تقديم مشروع القانون C-27 في يونيو 2022، انخرطت حكومة كندا بنشاط مع أصحاب المصلحة فيما يتعلق بقانون المساعدة على الانتحار (AIDA).
تدرس حكومة كندا العناصر المقترحة التالية لمدونة قواعد الممارسة لأنظمة الذكاء الاصطناعي التوليدية للحصول على تعليقات بناءً على المدخلات الواردة حتى الآن من مجموعة واسعة من أصحاب المصلحة.
أمان
يجب مراعاة السلامة بشكل شامل طوال دورة حياة نظام الذكاء الاصطناعي، مع الأخذ في الاعتبار جميع الآثار المحتملة، لا سيما فيما يتعلق بإساءة الاستخدام. تتميز العديد من أنظمة الذكاء الاصطناعي التوليدي بتطبيقات متنوعة؛ لذا، يجب تقييم مخاطر السلامة الخاصة بها بشكل أكثر شمولاً من الأنظمة ذات التطبيقات المحدودة.
ينبغي على مطوري ومستخدمي أنظمة الذكاء الاصطناعي التوليدية إدراك إمكانية الاستخدام الضار للنظام، مثل استخدامه لانتحال شخصيات حقيقية أو شن هجمات صيد الأسماك بالرمح، واتخاذ تدابير لمنع حدوث ذلك.
ينبغي على مطوري ومستخدمي ومشغلي أنظمة الذكاء الاصطناعي التوليدي إدراك المخاطر المحتملة المرتبطة بالنظام، مثل استخدام نموذج لغوي ضخم لتقديم المشورة القانونية أو الطبية، واتخاذ الاحتياطات اللازمة لتجنبها. ومن هذه التدابير إعلام المستخدمين بقدرات النظام وحدوده.
العدالة والإنصاف
قد تؤثر أنظمة الذكاء الاصطناعي التوليدي سلبًا على العدالة والمساواة في المجتمع، وذلك من خلال، على سبيل المثال، ترسيخ التحيزات والأفكار المسبقة الضارة نتيجةً لضخامة مجموعات البيانات التي تُدرَّب عليها ونطاق تطبيقها الواسع. لذا، يُعدّ ضمان تدريب النماذج على بيانات ذات صلة وممثلة، وإنتاج مخرجات دقيقة وغير متحيزة وذات صلة، أمرًا بالغ الأهمية.
ينبغي لمطوري أنظمة الذكاء الاصطناعي التوليدي تقييم البيانات وتنقيحها لتجنب مجموعات البيانات المتحيزة أو منخفضة الجودة. من جهة أخرى، ينبغي لمطوري أنظمة الذكاء الاصطناعي التوليدي ومنفذيها ومشغليها تطبيق إجراءات لتقييم مخاطر المخرجات المتحيزة والحد منها (مثل الضبط الدقيق).
الشفافية
فيما يتعلق بأنظمة الذكاء الاصطناعي التوليدي، تُعدّ الشفافية تحديًا كبيرًا. فقد لا تُتاح بيانات التدريب وشفرات المصدر للجمهور، وقد يصعب فهم مخرجاتها أو تبريرها. لذا، من الضروري ضمان وعي الأفراد عند التعامل مع نظام ذكاء اصطناعي أو مخرجات أدواته، مع تطور أنظمة الذكاء الاصطناعي التوليدي وازدياد كفاءتها.
ينبغي لمطوري ومستخدمي أنظمة الذكاء الاصطناعي التوليدي توفير طريقة محايدة ومتاحة للجميع لتحديد المحتوى الذي ينتجه النظام (مثل وضع العلامات المائية)، وتقديم وصف شامل لعملية التطوير، بما في ذلك مصدر بيانات التدريب والخطوات المتخذة لتحديد المخاطر والتخفيف من حدتها. إضافةً إلى ذلك، ولمنع الخلط بين الأنظمة والبشر، يجب على مشغلي أنظمة الذكاء الاصطناعي التوليدي التأكد من تصنيفها بوضوح وجلاء.
الرقابة والمتابعة البشرية
يُعدّ الإشراف والمراقبة البشرية أمرًا بالغ الأهمية لضمان تطوير أنظمة الذكاء الاصطناعي وتطبيقها واستخدامها بمسؤولية. قبل إتاحة أنظمة الذكاء الاصطناعي التوليدية على نطاق واسع، يجب على المطورين والمشغلين اتخاذ تدابير محددة لضمان الإشراف البشري الكافي وآليات تحديد الآثار السلبية والإبلاغ عنها. ويعود ذلك إلى حجم النشر وتعدد الاستخدامات المحتملة لهذه الأنظمة، فضلًا عن إساءة استخدامها.
بالنظر إلى نطاق النشر، والطريقة التي يتم بها إتاحة النظام للاستخدام، وقاعدة مستخدميه، ينبغي على القائمين على نشر وتشغيل أنظمة الذكاء الاصطناعي التوليدي توفير إشراف بشري في نشر وتشغيل أنظمتهم.
ينبغي على مطوري ومنفذي ومشغلي أنظمة الذكاء الاصطناعي التوليدية وضع إجراءات لتمكين تحديد الآثار السلبية والإبلاغ عنها بمجرد نشر النظام (على سبيل المثال، الاحتفاظ بقاعدة بيانات للحوادث)، وينبغي عليهم الالتزام بإجراء تحسينات روتينية على النموذج بناءً على النتائج (على سبيل المثال، الضبط الدقيق).
الصلاحية والمتانة
يتطلب الاعتماد على أنظمة الذكاء الاصطناعي ضمان عملها على النحو المنشود وقدرتها على الصمود في مختلف الظروف التي قد تتعرض لها. ونظرًا لإمكانية استخدامها في سياقات متنوعة، واحتمالية تعرضها لسوء الاستخدام والهجمات، فقد باتت الثقة بنماذج الذكاء الاصطناعي التوليدي تحديًا متزايدًا. ورغم أن مرونة الذكاء الاصطناعي تجعله واعدًا، إلا أنه لا بد من تطبيق ضوابط صارمة واختبارات دقيقة لمنع إساءة استخدامه وتجنب العواقب غير المتوقعة.
لتقييم الأداء وتحديد نقاط الضعف، ينبغي لمطوري أنظمة الذكاء الاصطناعي التوليدي استخدام مجموعة واسعة من تقنيات الاختبار في مختلف الأنشطة والظروف، بما في ذلك الاختبارات المعادية (مثل اختبارات الفريق الأحمر). علاوة على ذلك، ولمنع أو كشف الهجمات المعادية على النظام (مثل تسميم البيانات)، ينبغي لمطوري أنظمة الذكاء الاصطناعي التوليدي ومشغليها ومنفذيها استخدام تدابير الأمن السيبراني المناسبة.
المساءلة
تتسم المخاطر المرتبطة بأنظمة الذكاء الاصطناعي التوليدي بالشمولية والتعقيد. وبينما تُعدّ آليات الحوكمة الداخلية أساسية لأي مؤسسة تُطوّر أو تنشر أو تُشغّل أنظمة الذكاء الاصطناعي، يجب إيلاء اهتمام وعناية خاصين لأنظمة الذكاء الاصطناعي التوليدي لضمان اتباع عملية إدارة مخاطر شاملة ومتعددة الجوانب، وأن يكون جميع الموظفين في سلسلة قيمة الذكاء الاصطناعي على دراية بمسؤولياتهم.
لضمان سلامة نظامهم، يجب على مطوري ومشغلي أنظمة الذكاء الاصطناعي التوليدية وضع خطوط متعددة من الضمانات، مثل إجراء عمليات تدقيق داخلية وخارجية (مستقلة) قبل وبعد تشغيل النظام، ووضع سياسات وإجراءات وتدريب لضمان تحديد الأدوار والمسؤوليات بوضوح وأن يكون الموظفون على دراية بواجباتهم وممارسات إدارة المخاطر في المنظمة.
خاتمة
ينبغي على المؤسسات الالتزام بهذه الإرشادات وغيرها من أفضل الممارسات العالمية في مجال الذكاء الاصطناعي لمنع أنظمة الذكاء الاصطناعي لديها من العمل بطرق قد تُعرّض الأفراد للخطر، مثل انتحال الشخصية أو إعطاء نتائج غير صحيحة. إضافةً إلى ذلك، يجب على المؤسسات استخدام أساليب مثل "الاختبارات التجريبية" لتحديد مشاكل النظام وإصلاحها، وتدريب أنظمة الذكاء الاصطناعي لديها على مجموعات بيانات نموذجية للحد من النتائج المتحيزة.
ينبغي على المؤسسات تصنيف المحتوى المُنشأ بواسطة الذكاء الاصطناعي بشكل واضح لتجنب تعارضه مع المحتوى البشري، وتزويد المستهلكين بالمعلومات اللازمة لاتخاذ القرارات. كما يُحثّ على مشاركة تفاصيل مهمة حول آلية عمل أنظمة الذكاء الاصطناعي الخاصة بها لتعزيز ثقة المستخدمين وفهمهم.
