تشير الدراسات الاستقصائية العالمية إلى أن الإنفاق على الذكاء الاصطناعي في القطاع المالي سيشهد زيادة كبيرة، ومن المتوقع أن يصل إلى 97 مليار دولار بحلول عام 2027، وهو ارتفاع كبير مقارنة بـ 32 مليار دولار في عام 2023. وقد أحدثت هذه التقنية تغييراً جذرياً غير مسبوق في الصناعة من خلال إحداث ثورة في عمليات مثل إدارة المخاطر، والكشف عن الاحتيال، وبناء محافظ الاستثمار، والتصنيف الائتماني، ومبيعات العملاء.
رغم ما يوفره الذكاء الاصطناعي من فوائد جمة، فإنه يطرح أيضاً عدداً كبيراً من المخاطر والتحديات الأخلاقية. تابع القراءة في هذه المدونة التي تستكشف الدور المحوري للذكاء الاصطناعي الأخلاقي في القطاع المالي، والتحديات التي تواجهها المؤسسات في ضمان الاستخدام المسؤول للذكاء الاصطناعي، وأطر الحوكمة الأخلاقية العالمية.
ما هو الذكاء الاصطناعي الأخلاقي في مجال التمويل؟
الذكاء الاصطناعي الأخلاقي في مجال التمويل يعني مجموعة من المبادئ التوجيهية وأطر أفضل الممارسات والأدوات التي تعطي الأولوية للقيم الأخلاقية والتنظيمية والاجتماعية في تصميم وتطوير ونشر أنظمة وخدمات وتطبيقات الذكاء الاصطناعي في قطاعات الخدمات المصرفية والمالية والتأمين.
على الصعيد العالمي، يطالب المدافعون عن الخصوصية والهيئات التنظيمية والعملاء بضمانات بأن أنظمة وتطبيقات الذكاء الاصطناعي تعامل البشر بإنصاف وأمان. كما يطالبون بضمانات بأن القرارات التي تتخذها خوارزميات التعلم الآلي، على سبيل المثال، فيما يتعلق بتقييم الجدارة الائتمانية أو كشف الاحتيال، يجب أن تستند إلى مبادئ أخلاقية كالشفافية والعدالة والإنصاف وعدم الإضرار والمسؤولية والخصوصية.
تميل أنظمة الذكاء الاصطناعي التي تفتقر إلى الضوابط الأخلاقية إلى إنتاج نتائج غير دقيقة ومتحيزة وغير مفهومة، لا تشكل خطراً على الاقتصاد ككل فحسب، بل على رفاهية الإنسان أيضاً. خذ على سبيل المثال خوارزمية شركة يونايتد هيلث التي حققت فيها السلطات التنظيمية في نيويورك بتهمة التحيز العنصري. فقد تبين أن نموذج الرعاية الصحية هذا يقدم توصيات متحيزة، ويمنح الأفضلية للمرضى بناءً على لون بشرتهم.
مبادئ الذكاء الاصطناعي الأخلاقي في مجال التمويل
تشير الدراسات إلى أن 84% من المؤسسات تؤكد على ضرورة أن تكون القرارات التي تتخذها نماذج الذكاء الاصطناعي قابلة للتفسير. ومع ذلك، فإن 25% فقط من المؤسسات تعالج المخاوف الأخلاقية بشكل استباقي قبل الاستثمار في الذكاء الاصطناعي.
تُسلط هذه الأفكار الضوء على الحاجة الماسة إلى فهم المبادئ الأساسية للذكاء الاصطناعي الأخلاقي بشكل كامل، وإلى بناء إطار حوكمة أخلاقي قوي.
- الشفافية وقابلية التفسير : تُعزز الشفافية وقابلية التفسير الثقة في أنظمة الذكاء الاصطناعي. لذا، ينبغي أن تُقدم تطبيقات الذكاء الاصطناعي معلومات ذات مغزى، مثل بطاقات النماذج ، وتوضيحًا لأسباب وكيفية الوصول إلى نتائج معينة.
- العدالة وعدم التمييز : يُعدّ التحيز ضارًا بالشركات والمجتمعات على حد سواء. ولضمان أن تُقدّم النماذج مخرجات عادلة وغير تمييزية، يجب تقييم التحيز في كل خطوة من خطوات دورة حياة الذكاء الاصطناعي، وتطبيق السياسات والضوابط المناسبة.
- المساءلة والمسؤولية : يجب على المنظمات وضع سياسات مثلى للتدقيق المتكرر والإشراف البشري، مما يضمن المساءلة عن نتائج الذكاء الاصطناعي.
- الخصوصية وحماية البيانات : يجب أن تتوافق أنظمة الذكاء الاصطناعي مع المعايير العالمية. data privacy والأمن، ولوائح الذكاء الاصطناعي . لذا، ينبغي أن يضمن ذلك للعملاء data privacy ، والأحكام العابرة للحدود، ولوائح الاحتفاظ بالبيانات، وضوابط أمنية قوية.
- الشمولية وإمكانية الوصول : ينبغي أن توفر أنظمة وتطبيقات الذكاء الاصطناعي الشمولية لمختلف المستخدمين على مستوى العالم، مما يضمن سهولة الوصول ، حتى للمستخدمين الذين يعانون من صعوبات في الكلام أو القراءة والكتابة أو غيرها من الإعاقات.
- التدخل البشري والإشراف : سواء في مجال الرعاية الصحية أو التمويل أو أي قطاع آخر، يُعد التدخل البشري أمراً بالغ الأهمية. ففي نهاية المطاف، لا يمكن للذكاء الاصطناعي أن يحل محل الفهم البشري أو المشاعر أو الحكمة. لذا، من الضروري مراعاة الإشراف البشري أو دمج مبدأ مشاركة العنصر البشري في عملية اتخاذ القرار، لا سيما في القرارات المالية المصيرية.
مخاطر الذكاء الاصطناعي غير الأخلاقي في الخدمات المالية
يجب معالجة المخاطر والتحديات الأخلاقية التالية لبناء نظام بيئي مسؤول للذكاء الاصطناعي.
- قابلية التحيز : تُعدّ نماذج التعلم الآلي وخوارزميات الذكاء الاصطناعي عرضةً للتحيز التقني والبشري. ورغم إدراك المطورين لأهمية تصفية التحيز، إلا أن القضاء عليه تمامًا لا يزال يُمثّل تحديًا. غالبًا ما يتخذ هذا التحيز شكل ميلٍ نحو مجموعة بيانات مُحددة، وأحيانًا يكون تمييزيًا ضد فئات ديموغرافية مُعينة. في نهاية المطاف، يعتمد الأمر برمته على البيانات المُدخلة إلى النموذج.
- هجمات الذكاء الاصطناعي الجديدة : أدخلت نماذج الذكاء الاصطناعي هجمات وثغرات أمنية جديدة لا تستطيع تدابير الأمن السيبراني التقليدية التعامل معها. على سبيل المثال، تسميم البيانات، وعكس النموذج، وحجب الخدمات باستخدام النموذج، أو كشف البيانات الحساسة، كما ورد في قائمة OWASP لأهم 10 ثغرات أمنية لأنظمة التعلم الآلي. وتجدر الإشارة هنا أيضًا إلى المخاطر الأمنية للذكاء الاصطناعي الوكيل .
- التعقيد التنظيمي : تعتمد نماذج الذكاء الاصطناعي بشكل كبير على كميات هائلة من البيانات، ويثير جمع البيانات واستخدامها دائمًا مخاوف بشأن الحفاظ على الخصوصية فيما يتعلق بكيفية جمعها واستخدامها. وهذا يُبرز أهمية الالتزام بالإرشادات التنظيمية التي يجب على المطورين اتباعها من أجل تطوير الذكاء الاصطناعي واستخدامه بشكل مسؤول.
ضوابط التحيز من أجل الذكاء الاصطناعي الأخلاقي في مجال التمويل
تتطلب المؤسسات المالية نهجًا متعدد المستويات للتخفيف من التحيز وبالتالي ضمان اتخاذ قرارات الذكاء الاصطناعي بشكل عادل وشفاف وجدير بالثقة ومتوافق مع المعايير، كما هو الحال في منح الائتمان والكشف عن الاحتيال وما إلى ذلك.
- ضوابط مستوى البيانات : بما أن البيانات هي المكون الأساسي الذي يُشغّل أنظمة إدارة التعلم، فمن الضروري تطبيق ضوابط أمنية وأخلاقية مناسبة على بيانات التدريب. ويشمل ذلك إخفاء البيانات الحساسة وفقًا لمتطلبات PCI DSS وKYC وAML، لضمان data quality وإجراء عمليات تدقيق منتظمة للكشف عن التحيز.
- ضوابط على مستوى النموذج : من الضروري تصميم النماذج مع مراعاة المبادئ الأخلاقية. على سبيل المثال، ينبغي تطبيق سياسات وضوابط مناسبة، مثل مبدأ أقل الامتيازات، لتنظيم النماذج والتحكم بها وتقييدها.
- ضوابط مستوى العملية : يجب على المؤسسات المالية ضمان وجود هياكل إشراف مناسبة، والحفاظ على توثيق شامل، وإدراج مراجعة بشرية في القرارات ذات التأثير الكبير، مثل الموافقة على القروض أو التحقيقات في الاحتيال.
خاتمة
يمكن للمؤسسات العاملة في قطاع الخدمات المالية والمصرفية والتأمينية أن تتبنى ابتكارات الذكاء الاصطناعي وتسرعها بأمان من خلال Securiti مركز قيادة DataAI. استفد من منصة موحدة توفر اكتشاف البيانات والذكاء الاصطناعي الآلي، والتصنيف، وإدارة المخاطر، وتقليل ROT، وأتمتة الامتثال لتعزيز الابتكار، وتقليل مخاطر الأعمال، وتحسين التكاليف التشغيلية.
اطلب عرضًا تجريبيًا الآن لتشاهد Securiti .ai أثناء العمل.
الأسئلة الشائعة (FAQs)
