مَشرُوع AI Governance – دليل شامل

يشير AI governance للمؤسسات إلى إطار استراتيجي يمكّن المؤسسات من نشر وتوسيع نطاق الذكاء الاصطناعي بشكل آمن ومسؤول.

على العكس من ذلك، إذا لم يكن هناك إطار حوكمة واضح، فقد تواجه المؤسسات زيادة في اختراقات البيانات، وفقدان ثقة العملاء، وتضرر السمعة، وتداعيات قانونية.

تابع القراءة حيث يناقش هذا الدليل الركائز الأساسية للمؤسسة AI governance ، والتحديات الجديدة التي يطرحها، وأفضل الممارسات لبناء وتوسيع نطاق الذكاء الاصطناعي الموثوق والمسؤول.

ما هي المؤسسة؟ AI Governance ؟

مَشرُوع AI governance يُعرَّف عادةً بأنه إطار عمل من العمليات والسياسات والضوابط التي تضمن استخدام الذكاء الاصطناعي بشكل آمن ومتوافق ومسؤول. وهو في الواقع جهد متعدد الوظائف، حيث تتغير الأهداف قليلاً لتلبية متطلبات مختلف الجهات المعنية.

على سبيل المثال، يقوم مسؤول البيانات الرئيسي (CDO) أو مسؤول الذكاء الاصطناعي الرئيسي (CAIO) عادةً بتقييم مستوى المخاطر، والامتثال التنظيمي، والعائد على الاستثمار لمبادرة الذكاء الاصطناعي عند النظر في إطار الحوكمة. وبالمثل، تُركز فرق الحوكمة وإدارة المخاطر والامتثال (GRC) بشكل أكبر على أطر إدارة المخاطر مثل معايير المعهد الوطني للمعايير والتكنولوجيا (NIST) ، وقابلية التدقيق، والضوابط اللازمة لنموذج الحوكمة.

يتمثل الهدف التجاري الأساسي لإطار AI governance في الاستفادة من الإمكانات غير المحدودة للذكاء الاصطناعي بشكل آمن ومتوافق مع القوانين، بدلاً من تقييده والتخلف عن المنافسين.

لماذا AI Governance مهم جدًا؟

بحسب شركة ماكينزي، تستخدم 88% من المؤسسات الذكاء الاصطناعي في وظيفة تجارية واحدة على الأقل، مقارنةً بـ 78% في عام 2024. ومع ذلك، يُظهر استطلاع آخر في القطاع أنه بينما تدّعي 90% من المؤسسات امتلاكها سياسات AI governance ، فإن 33% فقط منها قادرة على إثبات تطبيقها بشكل فعلي.

عندما يتم نشر الذكاء الاصطناعي بدون سياسات وضوابط حوكمة مناسبة، فإنه يعرض المؤسسات لمجموعة من المخاطر.

يُعدّ تسريب البيانات الحساسة، على سبيل المثال، أحد أكبر التهديدات التي تخشاها الشركات. فالبيانات التي تتدفق عبر نماذج الذكاء الاصطناعي للتدريب أو الضبط الدقيق دون ضوابط حوكمة قد تُسرّب إلى مستخدمين غير مصرح لهم، أو مزودي خدمات خارجيين، أو متعاقدين.

يُعدّ كلٌّ من الهلوسة والتحيّز من المخاطر الأخلاقية التي قد تُلحق الضرر ليس فقط بمبادرات الذكاء الاصطناعي نفسها، بل بالمجتمع ككل. ومن أبرز الأمثلة على الهلوسة في الذكاء الاصطناعي، برنامج دردشة آلي تابع لشركة طيران دولية، قدّم خصمًا خاصًا بحالات الوفاة لأحد الركاب، وهو خصم غير موجود أصلًا.

وبالمثل، تُعدّ الهجمات المُعادية، مثل الحقن الفوري ، وتسميم النماذج، وثغرات سلسلة التوريد، أمثلةً غير مسبوقة لا تستطيع نماذج الحوكمة التقليدية التعامل معها. فبدون ضوابط أمنية مُركّزة، يُمكن للنماذج أن تتصرف بطريقة فاسدة أو غير مقصودة، وأن تُعرّض بيانات التدريب للخطر، وفي حالة وكلاء الذكاء الاصطناعي ، أن تتجاوز صلاحيات الوصول.

تعرّف على المزيد حول قائمة OWASP لأهم 10 مخاطر أمنية لطلاب ماجستير القانون | قائمة OWASP لأهم 10 مخاطر أمنية لتطبيقات Agile

بالإضافة إلى، AI governance أصبح ذلك الآن ضرورة قانونية، مع وجود لوائح ومعايير صارمة مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي واللوائح القطاعية في الولايات المتحدة. فهو لا يساعد فقط في إثبات الامتثال أو تجنب العقوبات التنظيمية، بل يبني أيضاً الثقة من خلال الشفافية والممارسات الأخلاقية.

AI Governance التحديات

بناء قوي AI governance إن وضع إطار عمل ليس بالأمر السهل على الإطلاق. غالباً ما تواجه المنظمات العديد من العقبات عند تصميم وتنفيذ إطار عمل شامل.

• يتطور المشهد التنظيمي للذكاء الاصطناعي بالتوازي مع تطور التكنولوجيا نفسها. في الواقع، تختلف قوانين ومتطلبات الذكاء الاصطناعي من دولة لأخرى. فعلى سبيل المثال، يتبنى قانون الذكاء الاصطناعي في الاتحاد الأوروبي نهجًا هرميًا قائمًا على المخاطر للامتثال، حيث تخضع كل فئة لأحكام منفصلة. وبالمثل، لا تشترط قوانين الذكاء الاصطناعي في الولايات المتحدة نظام تصنيف مسبق، بل تتبنى نهجًا أكثر سياقية وتخصصًا لكل قطاع. ويتطلب اجتياز هذا التعقيد التنظيمي المتطور إطارًا مرنًا لضمان الامتثال المستمر.
• تميل أنظمة الذكاء الاصطناعي إلى اتخاذ قرارات أو ردود متحيزة. ففي نهاية المطاف، تُدرَّب هذه الأنظمة في الغالب على بيانات تاريخية، قد تحتوي على تحيزات مجتمعية. وقد يصبح هذا الأمر محفوفًا بالمخاطر عند استخدام التطبيق في حالات عالية المخاطر مثل التوظيف أو التأمين أو العدالة الجنائية. AI governance يجب أن تتوافق مع أطر إدارة مخاطر الذكاء الاصطناعي الحديثة للمؤسسات، مثل إطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST AI RMF) ومبادئ الذكاء الاصطناعي لمنظمة التعاون الاقتصادي والتنمية (OECD AI Principles )، والتي تؤكد على الإنصاف والشفافية والمساءلة.
• يُعد الذكاء الاصطناعي الخفي خطرًا بالغ الأهمية آخر يُقلق الجميع AI governance يُشكّل الذكاء الاصطناعي الخفي، وهو النسخة الحديثة والأكثر تعقيدًا من "تقنية المعلومات الخفية"، مخاطر جسيمة تتعلق بالأمن والخصوصية والامتثال. غالبًا ما تفشل أطر الحوكمة بسبب افتقار الفرق إلى الشفافية في ثلاثة جوانب حاسمة لاستخدام الذكاء الاصطناعي: من يستخدمه، ومتى يستخدمه، ولأي غرض. ولتوضيح الأمر، يستخدم 59% من الموظفين في الولايات المتحدة أدوات الذكاء الاصطناعي دون علم رؤسائهم. يتطلب تطبيق حوكمة فعّالة عملية اكتشاف دقيقة تكشف البيانات والذكاء الاصطناعي المصرح به وغير المصرح به في بيئة المؤسسة، مما يُحسّن الشفافية.

الركائز الأساسية للمؤسسة AI Governance

مؤسسة قوية AI governance تغطي الأطر دورة حياة تطوير الذكاء الاصطناعي بأكملها، بدءًا من الفكرة وصولًا إلى الإنتاج والنشر. وينبغي أن يشمل الإطار الركائز الأساسية التالية كما حددتها منظمة التعاون الاقتصادي والتنمية في صكها القانوني :

• ينبغي أن يراعي الإطار مبادئ عالمية كالقيم الديمقراطية وحقوق الإنسان لوضع مبادئ توجيهية أخلاقية. وهذا يضمن العدالة والخصوصية طوال دورة حياة الذكاء الاصطناعي. وبفضل السياسات والضوابط الفعّالة، تستطيع المؤسسات معالجة المخاطر المتعلقة بالتدخل البشري، وإساءة استخدام البيانات عمدًا أو عن غير قصد، والمعلومات المضللة، وغيرها من المخاطر.
• يُعد تحديد "الجهة المسؤولة" ووضع السياسات والضمانات المتعلقة بها جزءًا أساسيًا من هذا الإطار. فهو يسدّ فجوة المساءلة فيما يتعلق بملكية الذكاء الاصطناعي، وقابلية تفسيره، وإمكانية تتبعه، ومصدر معرفة الذكاء الاصطناعي.
• يجب على المؤسسات أيضاً مراعاة الشفافية وقابلية التفسير فيما يتعلق بدورة حياة الذكاء الاصطناعي. إذ يتعين عليها أن تكون شفافة بشأن جمع البيانات، وسياسات معالجة البيانات، والغرض من نماذج الذكاء الاصطناعي الخاصة بها وقدراتها، وحدودها.
• لا يمكن توسيع نطاق الذكاء الاصطناعي بكفاءة إلا إذا كان قويًا وآمنًا وموثوقًا. لذا، يجب تطبيق ضوابط أمنية تقنية للبيانات وضوابط أخلاقية لضمان عدم تسبب أنظمة الذكاء الاصطناعي في أي ضرر أو خطر على المستخدمين أو المستهلكين أو المجتمع ككل.

أفضل الممارسات للتنفيذ AI Governance في المنظمات

يتطلب تطبيق الحوكمة بنجاح استراتيجية محددة وبعض أفضل الممارسات. ضع في اعتبارك ما يلي لتجنب AI governance وضع العقبات وتطوير إطار عمل عملي.

• يُعدّ الهدف التجاري أهمّ ضرورة يجب مراعاتها قبل وضع إطار حوكمة. ينبغي تصميم هذا الإطار بما يتوافق مع الهدف التجاري ويحقق قيمته، بدلاً من خلق المزيد من العقبات. والأهم من ذلك، يمكن أن تكون السياسات والضوابط أكثر توافقاً وتحديداً عند تحديد الأهداف الاستراتيجية. على سبيل المثال، إذا كان هدف المؤسسة هو تحسين التكلفة الإجمالية للملكية، فينبغي أن يركز الإطار على مجالات رئيسية، مثل تحديد بيانات الذكاء الاصطناعي غير المستخدمة والبيانات الزائدة والقديمة وغير المهمة، والتخلص منها. وبالمثل، إذا كان الهدف هو تحقيق عائد استثمار أسرع من استثمارات مبادرات الذكاء الاصطناعي، فينبغي أن تهدف السياسات والضوابط إلى تقليل الوقت اللازم للانتقال من المرحلة التجريبية إلى مرحلة الإنتاج.

• تبدأ الحوكمة الفعّالة بتتبع ما تملكه المؤسسة في أنظمتها المحلية، أو السحابات العامة أو الخاصة، أو بيئات البرمجيات كخدمة (SaaS) . وسواءً أكانت البيانات أو أنظمة الذكاء الاصطناعي التي تستخدمها، تحتاج المؤسسات إلى رؤية شاملة لجميع أصولها لصياغة السياسات المناسبة والضمانات التقنية اللازمة.
  في مجال اكتشاف البيانات والذكاء الاصطناعي، من الضروري أن يعثر محرك الاكتشاف على جميع الأصول، بما في ذلك البيانات والذكاء الاصطناعي غير الرسميين. ولا يقتصر الأمر على ذلك، بل يجب أن يتجاوز ذلك ليشمل تحديد البيانات الوصفية للبيانات والنماذج، مثل الإصدارات والملكية والترخيص، وما إلى ذلك، لزيادة الشفافية.

• يجب ضمان الشفافية والوضوح في كيفية توصل أنظمة الذكاء الاصطناعي إلى استنتاجات أو قرارات محددة. يتطلب ذلك نهج حوكمة متعدد المستويات. تحتاج المؤسسات إلى تحديث سياسات الخصوصية الخاصة بها، بما في ذلك كيفية استخدامها لأنظمة الذكاء الاصطناعي، وكيفية تدريبها، وكيفية ضمان تحقيقها للنتائج المرجوة. إضافةً إلى ذلك، ينبغي أن توفر منصة الحوكمة رؤية شاملة لبيانات وبنية الذكاء الاصطناعي، مع سرد جميع النماذج في المؤسسة والبيانات التي ترتبط بها، بما في ذلك البيانات الحساسة والخاضعة للتنظيم. يلعب فهرسة البيانات دورًا حاسمًا هنا، حيث تُرشد نماذج الذكاء الاصطناعي إلى البيانات التي يجب استخدامها وتلك التي يجب تجنبها.

• ينبغي أن يحدد الإطار سياسات إدارة البيانات بشكل أدق لضمان أمن البيانات وخصوصيتها وحوكمتها وامتثالها للمعايير. ولتحقيق هذه الغاية، ينبغي على الفرق وضع سياسات للتعامل مع البيانات الحساسة طوال دورة حياتها، مع الاستفادة من إمكانيات مثل تصنيف البيانات وفهرستها ووضع العلامات عليها وعزلها وأتمتتها.
  إن استخدام حلول أمنية مثل data security posture management يمكن أن يعزز اكتشاف الثغرات الأمنية وتخفيف المخاطر من خلال ضوابط الوصول وسياسات منع فقدان البيانات والتشفير ، من بين تدابير أخرى.

كيف Securiti يمكن المساعدة

Securiti تأتي منصة DataAI Command مزودة بمجموعة واسعة من الإمكانيات، مثل البيانات والذكاء الاصطناعي، وذكاء الوصول، DSPM ، و AI governance مما يُمكّن المؤسسات من حماية بياناتها وتسريع تبني الذكاء الاصطناعي الآمن على نطاق واسع.

اطلب عرضًا تجريبيًا اليوم وتعرف على المزيد حول كيفية Securiti يمكن أن يساعد.

الأسئلة الشائعة (FAQs)