نحن نعيش في خضم ثورة الذكاء الاصطناعي التوليدي التي تُعيد تشكيل أساليبنا في إدارة الأعمال . من الضروري إدراك المخاطر المحتملة للذكاء الاصطناعي غير المُتحكم به، بينما نسعى إلى تسخير فوائده مع الحفاظ على السلامة والثقة. ولتحقيق ذلك، يجب على الشركات إعطاء الأولوية للشفافية والسلامة والأمان في نماذج الذكاء الاصطناعي الخاصة بها لضمان الامتثال الأخلاقي والقانوني، وتعزيز الثقة مع العملاء.
لماذا يُعدّ الذكاء الاصطناعي غير المنضبط وصفةً للمشاكل؟
يتطلب دمج خدمات الذكاء الاصطناعي في نماذج بيانات المؤسسات تحكمًا دقيقًا وإشرافًا شاملًا على دورة حياة الذكاء الاصطناعي بأكملها، بدءًا من الإنشاء وحتى النشر. وهذا أمر ضروري للحد من مخاطر الاختراقات الأمنية. data privacy والمخالفات القانونية، وتضرر ثقة العلامة التجارية. ومع ذلك، توجد فجوة مقلقة بين تبني هذه التقنيات وإدارتها. فقد أظهر استطلاع رأي أجراه مجلس المؤتمرات في سبتمبر 2023 أن أكثر من نصف العاملين في الولايات المتحدة (56%) يستخدمون تقنيات الذكاء الاصطناعي التوليدي في عملهم، بينما أشار استطلاع رأي أجرته جمعية ISACA إلى أن 10% فقط من المؤسسات لديها سياسة رسمية للذكاء الاصطناعي التوليدي.
وهكذا ندخل عصر الذكاء الاصطناعي غير الخاضع للرقابة، حيث تُصبح AI governance أولوية بالغة الأهمية للشركات التي ترغب في دمج نماذج الذكاء الاصطناعي بأمان وشفافية، مع تحقيق أثر إيجابي على أعمالها وتلبية المتطلبات القانونية والأخلاقية. فبدون الضوابط والإشراف المناسبين، تواجه المؤسسات سلسلة من المخاطر التي قد تُحوّل سعيها نحو الابتكار والكفاءة إلى كارثة أمنية والتزام بالمعايير. وفيما يلي بعض هذه المخاطر.
الذكاء الاصطناعي الخفي موجود بالفعل
في ظل هذا المناخ سريع التغير، باتت المنافسة على الابتكار أشدّ من أي وقت مضى، وتزايدت مخاطر الخصوصية والأمن. وبينما تسعى الشركات جاهدةً لتحقيق أهدافها التجارية عبر دمج الذكاء الاصطناعي بسرعة، لا تزال هذه المؤسسات نفسها بصدد تحديد استراتيجيتها في هذا المجال.
بدون رؤية شاملة لجميع أنظمة الذكاء الاصطناعي، سواءً كانت مُطبقة داخليًا أو عبر برمجيات كخدمة (SaaS)، تعمل النماذج الخفية بمخاطر غير معروفة قد تُؤدي إلى تكاليف باهظة لاحقًا. ومما يُفاقم المشكلة، أن الذكاء الاصطناعي الخفي يُظهر علامات على انتشاره بوتيرة أسرع من التحدي الموازي المتمثل في تكنولوجيا المعلومات الخفية التي تُؤرق فرق الأمن والحوكمة منذ عقود، ولا تزال تُؤرقها.
المخاطر غير المحددة تمهد الطريق لعواقب غير مرغوب فيها
لا تزال هناك الكثير من الأسئلة حول استخدام الذكاء الاصطناعي - والعديد منها ينطوي على تحديات لم تواجهها فرق أمن المؤسسات من قبل.
لأن نماذج الذكاء الاصطناعي لا تقتصر على كونها مجرد نتاج لرمز النموذج أو البيانات التي تمر عبره، بل تشمل أيضاً المنطق الذي "يتعلم" من تلك البيانات، فإن مخرجاتها أكثر عرضة للتغير المستمر مما اعتادت عليه العديد من المؤسسات. إن تجاهل المخاطر المحتملة كالتّحيّز والتمييز والاستجابات "الوهمية" قد يُسبب انتكاسات خطيرة لفرق الأمن والبيانات والامتثال، مما يزيد من احتمالية وقوع انتهاكات أخلاقية والإضرار بالسمعة. على سبيل المثال، تعرّض بنك Navy Federal Credit Union مؤخراً لدعوى قضائية بسبب مزاعم تحيّز عنصري في ممارساته المتعلقة بإقراض الرهن العقاري .
غموض البيانات يثير مخاوف بشأن الخصوصية
لطالما واجهت المنظمات تحديات تتعلق بشفافية البيانات في عالم الخصوصية والأمن - وتظهر نفس المشكلات في استخدام الذكاء الاصطناعي.
غالبًا ما تُحاط البيانات المُولّدة بواسطة نماذج الذكاء الاصطناعي بالغموض، مما يُثير تساؤلات حول مصدرها واستخدامها ودقتها. هذا الاستخدام غير الواضح للبيانات الكامنة في نماذج الذكاء الاصطناعي وقنواتها يُثير الشكوك حول الصلاحيات، ويعرض المعلومات الحساسة لخطر التسريب، مما يُعرقل جهود الامتثال ويُعرّض المؤسسات لثغرات أمنية غير مُكتشفة. على سبيل المثال، حظرت إحدى الشركات الرائدة في مجال الإلكترونيات الاستهلاكية استخدام ChatGPT بين موظفيها بعد تسريب شفرة برمجية حساسة.
النماذج غير الآمنة تخلق ثغرات أمنية
مع توسع استخدام الذكاء الاصطناعي، تزداد الحاجة إلى تطبيق ضوابط البيانات على مدخلات ومخرجات النموذج.
يجب أن تتوافق المعلومات الحساسة، سواءً تلك المُدخلة في نماذج الذكاء الاصطناعي أو المُستخرجة منها، مع معايير حماية البيانات والخصوصية. ويُعرّض غياب ضوابط الأمان نماذج الذكاء الاصطناعي للتلاعب وتسريب البيانات والهجمات الخبيثة. ولا تملك المؤسسات التي تسعى لتجنب حوادث اختراق البيانات ترف إهمال أمن الذكاء الاصطناعي ، إذ يُشكّل ذلك تهديدًا لسلامة المؤسسة ومصداقية علامتها التجارية.
التفاعلات غير المنضبطة تدعو إلى الإساءة
إن التنبيهات والوكلاء والمساعدين غير المحميين يفتحون الباب أمام تفاعلات ضارة، مما يهدد سلامة المستخدم والمبادئ الأخلاقية.
من الضروري فهم كيفية استخدام البيانات التي تولدها هذه النماذج، سواءً أكانت تُشارك عبر قناة سلاك، أو تُدمج في موقع ويب كبرنامج دردشة آلي، أو تُنشر عبر واجهة برمجة تطبيقات، أو تُدمج في تطبيق. علاوة على ذلك، تُصبح هذه البرامج، إلى جانب كونها قنوات للاستفسارات المشروعة، مسارات محتملة لأنواع جديدة من الهجمات على أنظمة الذكاء الاصطناعي.
مخاطر انتهاكات اللوائح التنظيمية: حقول ألغام أخلاقية وقانونية
على الصعيد العالمي، يولي صناع السياسات اهتماماً متزايداً ويتخذون إجراءات بشأن الاستخدام الآمن والموثوق للذكاء الاصطناعي. وكان الاتحاد الأوروبي أول من سنّ قانوناً شاملاً للذكاء الاصطناعي، وهو قانون الذكاء الاصطناعي، وسرعان ما حذت حذوه دول أخرى، حيث اقترحت الصين والمملكة المتحدة وكندا تشريعات خاصة بالذكاء الاصطناعي أو سنّتها. حتى أن إدارة بايدن-هاريس أصدرت أمراً تنفيذياً بهذا الشأن في أواخر عام 2023.
إن عدم مواكبة اللوائح العالمية مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي وإطار إدارة المخاطر التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST RMF) يضع المؤسسات في خلاف مع تطوير الذكاء الاصطناعي المسؤول والأخلاقي - ويعرضها للعقوبات المالية الكبيرة وتشويه سمعة العلامة التجارية التي يمكن أن تنتج عن عدم الامتثال.
خمس خطوات لـ AI Governance
لحسن الحظ، توجد طرقٌ تمكّن المؤسسات التي تسعى إلى تمكين الاستخدام الآمن للذكاء الاصطناعي من دمج نماذج الذكاء الاصطناعي في بيئة بياناتها مع الالتزام بالمتطلبات القانونية، والحفاظ على المعايير الأخلاقية، وتحقيق نتائج أعمال إيجابية. إليك كيفية دمج AI governance يُمكّن Data Command Center المركزي من الاستخدام الآمن للذكاء الاصطناعي:
1. اكتشف نماذج الذكاء الاصطناعي
تتمثل الخطوة الأولى في اكتشاف وتصنيف نماذج الذكاء الاصطناعي المستخدمة عبر السحابات العامة والسحابات الخاصة وتطبيقات SaaS.
2. تقييم المخاطر وتصنيف نماذج الذكاء الاصطناعي
تقييم المخاطر المتعلقة بالبيانات ونماذج الذكاء الاصطناعي وتصنيف نماذج الذكاء الاصطناعي وفقًا للمتطلبات التنظيمية العالمية.
3. رسم خرائط ورصد تدفقات البيانات والذكاء الاصطناعي
ربط النماذج بمصادر البيانات، ومسارات معالجة البيانات، والموردين، والمخاطر المحتملة، والتزامات الامتثال - ومراقبة تدفق البيانات باستمرار.
4. تطبيق ضوابط البيانات والذكاء الاصطناعي لضمان الخصوصية والأمان والامتثال
وضع ضوابط على البيانات المتعلقة بمدخلات ومخرجات النموذج، وتأمين أنظمة الذكاء الاصطناعي من الوصول غير المصرح به أو التلاعب بها.
5. الامتثال للوائح
إجراء تقييمات للامتثال لمعايير مثل NIST AI RMF وإنشاء تقارير AI ROPA وسجلات أحداث نظام الذكاء الاصطناعي.
وبعيدًا عن مجرد "التحكم" في البيانات، فإن الشركات ذات التفكير المستقبلي التي تسبق المخاطر التي يشكلها الذكاء الاصطناعي غير المنضبط لن تُمكّن فقط من الاستخدام الآمن للذكاء الاصطناعي من خلال حوكمة أفضل تدعم المعايير الأخلاقية والقانونية، بل ستطلق أيضًا قيمة لا تُحصى في أداء الأعمال، والرؤى، والابتكار، وسمعة العلامة التجارية.
اقرأ الورقة البيضاء "5 خطوات إلى AI Governance "للاطلاع على المزيد حول كل إجراء من الإجراءات المذكورة أعلاه التي يمكنك اتخاذها للبدء في ضمان الاستخدام الآمن والموثوق به والمتوافق مع المعايير للذكاء الاصطناعي."
