كيف Unstructured Data Governance يمكن أن يمنع الحوادث المكلفة في الذكاء الاصطناعي العام

قصة تحذيرية لشركة طيران كندا

كان خطأ شركة طيران كندا واضحاً تماماً. فقد قدّم برنامج الدردشة الآلي التابع للشركة معلومات لأحد العملاء حول أسعار تذاكر السفر في حالات الوفاة، ثم رفضت الشركة لاحقاً الالتزام برد البرنامج. واستندت طيران كندا في ذلك إلى معلومات متضاربة على موقعها الإلكتروني، مدعيةً أن الموقع هو المصدر الصحيح، ومؤكدةً أنها لا تملك السيطرة على مخرجات برنامج الدردشة الآلي.

لم توافق المحكمة الكندية على ذلك، وقضت بأن تتحمل شركة طيران كندا مسؤولية عملها المدعوم وأن تدعم تقنيتها. ورغم أن المبلغ المالي المتنازع عليه لم يكن كبيرًا (812 دولارًا كنديًا)، إلا أن التغطية الإعلامية كانت دون المستوى المطلوب. وعلى الرغم من عدم امتلاكي أي معلومات خاصة حول كيفية إدارة شركة طيران كندا لعملياتها الداخلية أو كيفية تطويرها لروبوت الدردشة الخاص بها، يبدو لي أن شركة طيران كندا أغفلت اعتبارين أساسيين في تبنيها لتقنيات الذكاء الاصطناعي التوليدي - وهما عنصران يمكن للشركات، بقليل من التخطيط والتفكير الاستباقي، استباقهما لتجنب الوقوع في مشكلة مماثلة.

1. تأكد من معرفة مصدر المحتوى الخاص بك وكيفية استخدامه.
   إحدى النقاط التي تناولتها الدعوى القضائية هي أن برنامج الدردشة الآلي استشهد بمحتوى مختلف عن محتوى الموقع الإلكتروني. هل كان هذا مجرد وهم ناتج عن الذكاء الاصطناعي، كما حدث مع أحد المحامين في نيويورك العام الماضي؟ أم أنه ناجم عن استخدام مجموعتين مختلفتين من المحتوى: إحداهما لتدريب برنامج الدردشة الآلي وإدارته، والأخرى للنشر على الموقع الإلكتروني؟ في كلتا الحالتين، بات بإمكان الشركات الآن تجنب هذه المشكلات من خلال تبني تقنيات تُمكّن من استخدام محتوى معروف ومعتمد، مع إمكانية تتبع مصادره واستجاباته بوضوح، ومن خلال دمج unstructured data governance في برامج الذكاء الاصطناعي للجيل القادم.
2. تجاوزوا الأدوات التقنية لإعطاء الأولوية للاستخدام المسؤول للذكاء الاصطناعي.
   بينما تتضمن الخطوات الأولى لبناء وتنفيذ برنامج ذكاء اصطناعي مسؤول إعداد ضوابط وضمانات تقنية - كالتأكد من أن البيانات المستخدمة من قِبل الذكاء الاصطناعي نظيفة ومرخصة، وقياس التحيز الخوارزمي والتحكم فيه، واختبار النتائج وفهمها - فإن الاستخدام الأخلاقي يتجاوز الجانب التقني. يُستمد جزء كبير مما يُشكّل برنامج ذكاء اصطناعي مسؤول من اعتبارات العمل والاعتبارات الأخلاقية التي تطرحها لجان من الأشخاص يجتمعون لمناقشة متطلبات الشركة الفريدة واتخاذ القرارات بشأنها. وسواءً كان ذلك من خلال إنشاء لجنة أخلاقيات الذكاء الاصطناعي أو هيكل تنظيمي رسمي، ينبغي إشراك جميع العاملين في الشركة في فهم هذه التقنية وتطبيقها. ومن أفضل الطرق لتحقيق ذلك تطبيق منصة مركزية موحدة لإدارة بيانات الذكاء الاصطناعي ، بحيث يمكن لجميع المشاركين في عملية اتخاذ القرار الاطلاع عليها لفهم كيفية تنفيذ الأنظمة والاتفاق عليها.

من المنطقي أن شركة طيران كندا ربما كانت لتتجنب الدعاية السلبية التي رافقت الدعوى القضائية المتعلقة ببرنامج الدردشة الآلي الخاص بها لو أنها وضعت برامج فعّالة لمعالجة النقطتين المذكورتين أعلاه: معرفة وفهم مصدر بيانات التدريب، بالإضافة إلى الاعتماد على توجيهات لجنة أخلاقيات الذكاء الاصطناعي المُطّلعة. على أي حال، يُعدّ تنفيذ برنامج الذكاء الاصطناعي ونشره وتشغيله عمليةً سهلةً ومباشرة. إنّ اتباع نهج منصة قيادة DataAI للذكاء الاصطناعي العام - وإنشاء لجنة أخلاقيات الذكاء الاصطناعي الخاصة بك - سيُهيّئك لممارسات ذكاء اصطناعي مسؤولة وأخلاقية ، ستنقل شركتك إلى آفاق مستقبلية واعدة. تواصل معنا للحصول على عرض توضيحي لتتعرف على كيفية ذلك. Securiti يمكن أن يساعد.