منذ أن أصبح الذكاء الاصطناعي شائع الاستخدام، شهدت هذه التقنية انتشارًا متواصلًا، مؤثرةً في مختلف القطاعات والأفراد على حد سواء. وفي قطاع الرعاية الصحية، يُحدث الذكاء الاصطناعي تحولًا في العمليات بوتيرة أسرع من قدرة معظم الأنظمة والقوانين على مواكبتها.
على الرغم من الإمكانيات الواعدة، لا تزال الثقة هي الحل المفقود. ويعود ذلك جزئياً إلى غياب حوكمة البيانات. AI governance يؤدي ذلك إلى زيادة مخاطر data privacy وأمنها ، مما يقوض ثقة المرضى وعملية صنع القرار الاستراتيجي للأعمال.
تُحدّ مخاطر الكشف غير المقصود عن البيانات من قدرة مؤسسات الرعاية الصحية على الاستفادة الكاملة من التكنولوجيا وتحقيق أقصى استفادة من إمكاناتها. ومما يزيد الأمر سوءًا هو عدم القدرة على التعامل مع هذه المخاطر وقلة الوعي بها. AI governance مما يثير التساؤل: ما هي AI governance ؟
ما هو AI Governance في مجال الرعاية الصحية؟
AI governance يشير مصطلح "الذكاء الاصطناعي في مجال الرعاية الصحية" إلى النهج الهرمي متعدد المستويات الذي تتبعه المؤسسة لتطوير ونشر ومراقبة استخدام تقنيات الذكاء الاصطناعي بشكل مسؤول داخل المؤسسة الصحية. ويهدف هذا النهج إلى ضمان أن تُعزز تقنيات الذكاء الاصطناعي العمليات المتعلقة بالصحة دون المساس بمعلومات المرضى الصحية المحمية .
AI governance يتضمن ذلك في مجال الرعاية الصحية سياسات استخدام الذكاء الاصطناعي المحددة جيدًا، والضوابط، ومبادرات الامتثال التي تضمن بقاء بيانات المرضى خاصة وآمنة من التهديدات الناشئة، ومعالجتها وتخزينها ومشاركتها بنزاهة ودرجة من المساءلة .
AI governance في مجال الرعاية الصحية، يكمن عادةً في قوة شخص متفانٍ AI governance فريق/أفراد تقع على عاتقهم المسؤولية الوحيدة لإدارة والإشراف على استخدام تقنيات الذكاء الاصطناعي داخل المؤسسة، ومواءمتها مع المتطلبات التنظيمية وتوقعات المرضى والتحسين السريري.
بحسب استطلاع فورستر لحالة الذكاء الاصطناعي لعام 2024 ، قال 79% من صناع القرار في مجال الذكاء الاصطناعي إن AI governance يُمكّن ذلك شركتهم من التكيف بسرعة مع تغيرات السوق والظروف التنظيمية.
المشهد التنظيمي: ركائز الامتثال الأساسية
لا مفر من الذكاء الاصطناعي، وتدرك المؤسسات الصحية أن العاملين في مجال الرعاية الصحية، وكذلك الفرق داخل المؤسسة، سيستخدمون تقنيات الذكاء الاصطناعي حتماً. ويكمن التحدي الرئيسي أمام هذه المؤسسات في تنظيم استخدام تقنيات الذكاء الاصطناعي، سواءً طُوّرت هذه الأدوات داخلياً أو استُقدمت من جهات خارجية.
تتطلب AI governance الركائز الأساسية التالية للامتثال:
أ. خصوصية بيانات صحة المريض
تحدد لوائح الرعاية الصحية مصير أدوات الذكاء الاصطناعي، ويكمن جوهر هذه اللوائح في سلامة بيانات المرضى الصحية. ولضمان استمرارية هذه اللوائح، يجب ضمان سلامة البيانات الصحية للمرضى. data privacy وأمن البيانات الصحية، يجب أن تخضع أنظمة الذكاء الاصطناعي لفحوصات صارمة للتأكد من أنها آمنة للاستخدام في بيئة الرعاية الصحية، ويمكن الاعتماد عليها بمعلومات دقيقة، وتحسين العمليات بدلاً من أن تشكل خطراً.
تنص قوانين data privacy الرعاية الصحية العالمية ، مثل قانون HIPAA في الولايات المتحدة وقانون GDPR في الاتحاد الأوروبي ، على إلزام المؤسسات بالتصديق على المعالجة القانونية لبيانات المرضى والحصول على الموافقة قبل معالجة البيانات ، وضمان وجود تدابير أمنية كافية للبيانات، وإجراء تقييمات أثر حماية البيانات (DPIAs)، والتأكيد على تقليل البيانات، وما إلى ذلك. ويمكن أن يؤدي عدم الامتثال إلى عقوبات باهظة.
ب. الشفافية الخوارزمية
لا يمكن الوثوق بنظام الذكاء الاصطناعي إن لم يكن جديراً بالثقة. يجب أن تضمن أدوات الذكاء الاصطناعي الشفافية من خلال التحقق من خلو نموذج الذكاء الاصطناعي من data quality الرديئة أو عدم فعاليته. إضافةً إلى ذلك، يجب أن يكون مستخدمو الذكاء الاصطناعي قادرين على فهم كيفية تشخيص خوارزمية الذكاء الاصطناعي للحالات.
لحسن الحظ، تلزم قوانين الذكاء الاصطناعي مطوري هذه الأنظمة بالكشف عن كيفية إصدار النموذج للحكم، مما يضمن الشفافية في عملية صنع القرار والمساءلة. وتفرض قوانين عالمية خاصة بالذكاء الاصطناعي، مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي ، والقانون الأساسي الكوري الجنوبي بشأن تطوير الذكاء الاصطناعي والثقة به، وغيرها، الأمر نفسه.
ج. أخلاقي وعادل وغير تمييزي
على عكس البشر، الذين قد يتعرضون للتحيز، يُتوقع من نماذج الذكاء الاصطناعي أن تكون خالية من الممارسات غير العادلة والتمييزية. يجب عليها ضمان عدم التمييز في التعامل مع البيانات الصحية لمختلف الفئات السكانية. ويتطلب ذلك نزاهة في الاختبارات وتضمين ضوابط أخلاقية ومعنوية دورية طوال دورة حياة نموذج الذكاء الاصطناعي.
د. الشفافية والمساءلة والمرونة
تُعدّ الشفافية والمساءلة والمرونة من أهمّ عناصر نموذج الذكاء الاصطناعي القوي. وتُعيق مجموعات بيانات التدريب غير المُفصح عنها، والتي تُحيط بها السرية، الثقة في نموذج الذكاء الاصطناعي، وتُؤدّي إلى تفاقم حالات عدم الامتثال. وتُطالب معظم أُطر AI governance بالشفافية في كيفية تطوير نموذج الذكاء الاصطناعي ونشره.
هذا بالإضافة إلى شرط وجود مجلس إشراف على الذكاء الاصطناعي يكون مسؤولاً عن سلوك النموذج ومخرجاته من خلال إجراء اختبارات الثغرات الأمنية وممارسات الكشف عن التهديدات الأخرى، وضمان عدم حدوث تسميم للبيانات أو التلاعب بالنموذج، والقدرة على تحمل التهديدات المتطورة التي قد تؤدي إلى كشف البيانات الصحية الحساسة.
هـ. المراقبة والتحسين المستمران
بعد التطوير والنشر، هناك حاجة ماسة للاحتفاظ بالإشراف البشري الذي يشارك في المراقبة المستمرة لرصد أي شذوذ أو أنماط تهديد، وإجراء تدقيق منتظم للنموذج، وتحسين النموذج باستمرار للتكيف مع المتطلبات الناشئة.
تفرض لوائح الذكاء الاصطناعي نفس المتطلبات، مما يُمكّن فرق الرقابة من ضمان الكشف المبكر عن أي انحراف أو تحيز أو مخاطر تتعلق بالسلامة في نماذج الذكاء الاصطناعي. وتحوّل الرقابة المستمرة الحوكمة من نقطة تفتيش ثابتة إلى نظام حيوي قائم على الثقة.
AI Governance السياسات والضوابط في مجال الرعاية الصحية
تتطلب الحوكمة تطبيق سياسات وضوابط صارمة لإدارة استخدام الذكاء الاصطناعي. وتشمل هذه ما يلي:
أ. وضع سياسة استخدام الذكاء الاصطناعي
تتمثل الخطوة الأولى والأهم في تحديد نطاق سياسة استخدام الذكاء الاصطناعي، والتي تُفصّل الاستخدام المسؤول لأدوات الذكاء الاصطناعي من قِبل الأفراد المُصرّح لهم. وتُبيّن هذه السياسة ماهية الذكاء الاصطناعي، والأدوات المُصرّح باستخدامها، والبيانات التي يُمكن تزويد نموذج الذكاء الاصطناعي بها، ودرجة موثوقيتها، والجهة المسؤولة عن الإشراف عليها، وغير ذلك. كما تُوضّح السياسة أن لكل نموذج أو أداة ذكاء اصطناعي، سواءً للاستخدام التشغيلي أو السريري، غرضًا مُعلنًا، ودرجة مخاطر، وإجراءات موافقة رسمية.
ب. حوكمة الذكاء الاصطناعي/البيانات و Privacy Policy
AI governance تتشابه حوكمة البيانات في طبيعتها، حيث تهدف الأولى إلى تنظيم التطوير والنشر والإدارة المسؤولة لأنظمة الذكاء الاصطناعي، بينما تضمن الثانية أن تكون البيانات آمنة وخاصة ودقيقة ومتاحة طوال دورة حياتها. وتتكامل مبادرتا الحوكمة هاتان مع... privacy policy تعزيز متطلبات الموافقة، وتقليل البيانات، والأمن، ونقل البيانات، وغيرها من المتطلبات، ووضع معايير موحدة. بالإضافة إلى ذلك، يُعدّ وضع سياسة للمساءلة أمرًا بالغ الأهمية لتحديد الجهة المسؤولة العليا وتعيين جهة رقابية رسمية على جميع الأنشطة المتعلقة بالذكاء الاصطناعي داخل المؤسسة الصحية.
توضح هذه السياسات أن أنظمة الذكاء الاصطناعي تضمن التعامل الأخلاقي والخاص والآمن مع بيانات المرضى الحساسة بما يتوافق مع لوائح data privacy واللوائح الخاصة بالذكاء الاصطناعي مثل HIPAA و GDPR و CCPA/CPRA وقانون الذكاء الاصطناعي للاتحاد الأوروبي، وما إلى ذلك. يجب على مؤسسات الرعاية الصحية إجراء تقييمات مختلفة (الاستعداد والمخاطر وتأثير الخصوصية والحماية وتأثير النقل عبر الحدود)، وتعزيز مبادئ تقليل البيانات وإخفاء الهوية، ووضع التزامات تعاقدية لموردي الذكاء الاصطناعي من الأطراف الثالثة لحماية بيانات المرضى.
د. سياسة السلامة السريرية وإدارة المخاطر
تُعطي هذه السياسة الأولوية لسلامة المرضى على حساب مخرجات الذكاء الاصطناعي، وذلك بدعم التقييم السريري وعدم استبداله بمخرجات خوارزمية الذكاء الاصطناعي القياسية. يجب تقييم أداة الذكاء الاصطناعي هذه بعناية من خلال إشراف يدوي دقيق، مع تمكين المشغلين من تجاوز أحكام الذكاء الاصطناعي في أي وقت يرتكب فيه النموذج خطأً. كما يؤكد هذا على الحاجة إلى أدوات ذكاء اصطناعي مُخصصة للرعاية الصحية، مصممة للتعامل مع الحالات عالية الخطورة دون التأثير على المريض أو بياناته الصحية.
هـ. سياسة إدارة مخاطر دورة حياة الذكاء الاصطناعي
تضمن هذه السياسة سلامة وموثوقية نماذج وأنظمة الذكاء الاصطناعي طوال دورة حياتها، بدءًا من التطوير وحتى النشر والاستخدام النهائي في بيئة الرعاية الصحية. يجب أن تخضع كل مرحلة من مراحل تطوير نموذج الذكاء الاصطناعي لإشراف يدوي وعملية موافقة صارمة تقضي على الأخطاء أو أوجه القصور أو المخاطر التي قد تؤثر على المرضى.
أتمتة AI Governance مع Securiti
تواجه المؤسسات الكبيرة التي تدير أنظمة الذكاء الاصطناعي من الجيل الجديد العديد من التحديات: معالجة مجموعات البيانات الضخمة المنظمة وغير المنظمة بشكل آمن، وحماية البيانات. data privacy ، وإدارة المعلومات الحساسة، وحماية نماذج الذكاء الاصطناعي العام من التهديدات مثل تسميم الذكاء الاصطناعي والحقن الفوري، وعمليات خط أنابيب الذكاء الاصطناعي العام غير القابلة للتوسع.
Securiti تعمل مجموعة Genstack AI Suite على إزالة التعقيدات والمخاطر الكامنة في دورة حياة GenAI، مما يمكّن المؤسسات من استخدام بياناتها المنظمة وغير المنظمة بسرعة وأمان في أي مكان مع أي ذكاء اصطناعي وأنظمة إدارة التعلم.
يُوفر هذا النظام ميزاتٍ مثل استيعاب البيانات واستخراجها بشكلٍ آمن، وإخفاء البيانات ، وإخفاء هوية البيانات، وتنقيحها، بالإضافة إلى إمكانيات الفهرسة والاسترجاع. كما يُسهّل إعداد أنظمة إدارة التعلم (LLMs) للأسئلة والأجوبة، وضوابط البيانات المدمجة للحوكمة والخصوصية والأمان، وجدران الحماية الخاصة بأنظمة إدارة التعلم لتمكين التبني الآمن للذكاء الاصطناعي من الجيل الأول (GenAI).
- اكتشاف نماذج الذكاء الاصطناعي - اكتشاف وتصنيف نماذج الذكاء الاصطناعي المستخدمة عبر السحابات العامة والسحابات الخاصة وتطبيقات SaaS.
- تقييم مخاطر الذكاء الاصطناعي - تقييم المخاطر المتعلقة بنماذج الذكاء الاصطناعي من IaaS و SaaS، وتصنيف نماذج الذكاء الاصطناعي وفقًا للمتطلبات التنظيمية العالمية.
- رسم خرائط البيانات والذكاء الاصطناعي – ربط نماذج الذكاء الاصطناعي بمصادر البيانات ومعالجتها والمخاطر المحتملة والتزامات الامتثال، ومراقبة تدفق البيانات.
- ضوابط البيانات والذكاء الاصطناعي – وضع ضوابط على استخدام البيانات والذكاء الاصطناعي.
- الامتثال التنظيمي – إجراء تقييمات للامتثال لمعايير مثل NIST AI RMF وقانون الذكاء الاصطناعي للاتحاد الأوروبي وأكثر من عشرين لائحة أخرى.
اطلب عرضًا توضيحيًا لمعرفة المزيد.
