تطبيق مساعدي الذكاء الاصطناعي المسؤولين في الدنمارك: دليل للقطاعين العام والخاص

أدى التوسع المتزايد في استخدام مساعدي الذكاء الاصطناعي في مختلف القطاعات إلى خلق فرص واعدة وتحديات كبيرة. وإدراكًا لأهمية التطوير المسؤول والأخلاقي للذكاء الاصطناعي، نشرت الوكالة الرقمية الدنماركية (Digitaliseringsstyrelsen) ورقة بحثية بعنوان " الاستخدام المسؤول لمساعدي الذكاء الاصطناعي في القطاعين العام والخاص ". تُحدد هذه الوثيقة، التي طُوّرت من خلال تعاون فريد بين جهات فاعلة في القطاعين العام والخاص، عملية من تسع نقاط لتطوير وتنفيذ مساعدي الذكاء الاصطناعي بشكل مسؤول، لا سيما أولئك الذين يستفيدون من الذكاء الاصطناعي التوليدي ونماذج اللغة، في القطاعين العام والخاص في الدنمارك.

يُعرَّف المساعد الذكي بأنه نظام، أو جزء من نظام، يستخدم نماذج لغوية لأداء مهام محددة بدرجة معينة من الاستقلالية. صُممت هذه المساعدات لتعزيز كفاءة وجودة تنفيذ المهام، وغالبًا ما تهدف إلى استبدال العمليات التي يقودها البشر والتي تتطلب حُكمًا بشريًا، وذلك بالاستفادة من الأدوات والبيانات من أنظمة الأعمال الحالية.

تتناول هذه العملية المكونة من تسع نقاط الأطر القانونية مثل اللائحة العامة لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي للاتحاد الأوروبي (قانون الذكاء الاصطناعي) ، مع التركيز على أمن البيانات وضمان الجودة والاعتبارات الأخلاقية. ولأغراض التوضيح، تم تضمين أمثلة محددة لتطبيقات مساعدي الذكاء الاصطناعي من المنظمات التي ساهمت في هذه الورقة البيضاء. وتهدف هذه الورقة إلى توجيه المنظمات خلال تحديات وفرص دمج مساعدي الذكاء الاصطناعي مع الالتزام بالمعايير القانونية والأخلاقية. كما تم توفير قائمة مرجعية في نهاية الورقة لمساعدة المنظمات على فهم المتطلبات القانونية للائحة العامة لحماية البيانات وقانون الذكاء الاصطناعي .

9 خطوات لدمج مساعد الذكاء الاصطناعي بشكل مسؤول

تُقدّم الورقة البيضاء منهجية من تسع نقاط مصممة لتوجيه المؤسسات في التطوير والتنفيذ والصيانة المسؤولة لمساعدي الذكاء الاصطناعي. تتناول هذه النقاط جوانب مختلفة من دورة حياة مساعد الذكاء الاصطناعي، بدءًا من مرحلة التخطيط والتصميم الأولية وصولًا إلى التشغيل والتحسين المستمر. تُركّز المنهجية على اتباع نهج مرن وتكراري، وتُقرّ بأن المؤسسات ستحتاج غالبًا إلى إعادة التقييم والتكيّف مع نمو فهمها للذكاء الاصطناعي، أو ظهور تحديات جديدة، أو توسّع نطاق مساعد الذكاء الاصطناعي.

النقاط التسع للعملية هي كالتالي:

1. تحديد حالة الاستخدام

يُعدّ تحديد حالة استخدام مساعد الذكاء الاصطناعي بوضوح الخطوة الأولى. ويتضمن ذلك تحديد مشكلة أو فرصة محددة داخل المؤسسة يمكن لمساعد الذكاء الاصطناعي معالجتها. على سبيل المثال، قد تستخدم المؤسسة مساعد الذكاء الاصطناعي لتحسين خدمة العملاء، أو أتمتة المهام المتكررة، أو تبسيط عملية تجارية معقدة. تساعد هذه الخطوة الأولية على مواءمة مساعد الذكاء الاصطناعي مع الأهداف العامة للمؤسسة، وترسم مسارًا واضحًا لعملية التنفيذ.

2. الدعم من خلال منصة تقنية مرنة

يُعد بناء مساعد الذكاء الاصطناعي على منصة تقنية مرنة أمرًا بالغ الأهمية من أجل التكامل السلس وقابلية التوسع والتكيف مع التطورات المستقبلية في تكنولوجيا الذكاء الاصطناعي.

تعتمد المنظمات على ثلاثة مناهج رئيسية لتطوير المنصة التقنية:

• التطوير الداخلي؛
• التعاون مع الموردين الخارجيين؛ أو
• الاستعانة بمصادر خارجية لتنفيذ عملية التطوير بأكملها.

لكل نهج آثاره الخاصة على التكلفة، والتحكم في الحل، ومستوى الخبرة التقنية المطلوبة. من المهم مراعاة الاستراتيجية والأهداف طويلة الأجل للمؤسسة عند اختيار مثل هذه المنصة.

3. تقييم البيانات اللازمة ومعالجة البيانات

تُشكّل البيانات أساس أي مساعد ذكاء اصطناعي، ويتعين على المؤسسات تقييم نوع البيانات وجودتها وسهولة الوصول إليها بدقة لضمان فعالية عمل هذا المساعد. ويشمل ذلك مراعاة دقة البيانات وملاءمتها وتوقيتها. ويُعدّ إعداد البيانات والتحقق من صحتها وأمنها أمورًا بالغة الأهمية، لا سيما عند التعامل مع البيانات الحساسة. ويمكن لتقنيات مثل تقنية التوليد المُعزز بالاسترجاع (RAG) أن تُحسّن الدقة وتُقلّل من مخاطر "هلوسات" الذكاء الاصطناعي، التي تحدث عندما يُولّد الذكاء الاصطناعي معلومات غير صحيحة أو مُضلّلة. كما يُمكن لتقنية إخفاء البيانات المنهجية، التي تستبدل البيانات الحساسة في المطالبات بقيم مؤقتة، أن تُساعد في حماية الخصوصية.

4. معالجة الامتثال للأطر القانونية

يُعدّ الالتزام بالأطر القانونية، ولا سيما اللائحة العامة لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي، أمرًا لا يقبل المساومة. يُقدّم هذا المستند قائمة مرجعية مُفصّلة في الملحق (أ) لمساعدة المؤسسات على فهم وتطبيق المتطلبات الخاصة بهذه اللوائح. ورغم أنها ليست شاملة، إلا أنها تُشكّل نقطة انطلاق قيّمة لضمان الامتثال، سواءً عند تطوير البرامج داخليًا أو عند شراء مساعدي الذكاء الاصطناعي كحلول قياسية. ومع ذلك، ينبغي إجراء تقييم قانوني شامل لكل مساعد على حدة.

تُعدّ هذه الخطوة بالغة الأهمية في تطوير وتطبيق مساعدي الذكاء الاصطناعي. فهي ليست مجرد إجراء شكلي، بل عملية مستمرة يجب دمجها في كل مرحلة من مراحل دورة حياة مساعد الذكاء الاصطناعي. وتكتسب هذه الخطوة أهمية خاصة في ظل التطور السريع للقوانين المتعلقة بالذكاء الاصطناعي.

بحكم طبيعتها، تقوم أنظمة الذكاء الاصطناعي بمعالجة البيانات للتعلم وتنفيذ المهام الموكلة إليها. وقد تتضمن هذه البيانات في كثير من الأحيان معلومات شخصية، مما يستدعي تطبيق اللائحة العامة لحماية البيانات (GDPR).

يحدد النظام الأوروبي العام لحماية البيانات (GDPR) قواعد صارمة لكيفية جمع هذه البيانات وتخزينها واستخدامها. وتشمل الاعتبارات الرئيسية المتعلقة بالنظام الأوروبي العام لحماية البيانات ما يلي:

• تقليل البيانات؛
• حماية؛
• الشفافية؛
• المساءلة؛
• الأساس القانوني للمعالجة؛
• حقوق أصحاب البيانات؛ و
• التعامل مع عمليات نقل البيانات الشخصية إلى دول ثالثة.

إذا لم تتضمن العملية معالجة البيانات الشخصية، فلا ينطبق عليها قانون حماية البيانات العامة (GDPR). على سبيل المثال، لا يقوم مساعد الذكاء الاصطناعي الذي يساعد المستخدمين في اختيار رموز القطاعات بمعالجة البيانات الشخصية، وبالتالي لا ينطبق عليه قانون حماية البيانات العامة.

إلى جانب معالجة البيانات، تُستخدم مساعدات الذكاء الاصطناعي أيضًا لأتمتة المهام، وتقديم التوصيات، أو حتى اتخاذ إجراءات بناءً على البيانات التي تعالجها. هذه القدرة على اتخاذ القرارات، لا سيما عندما يكون لهذه القرارات تأثير كبير على الأفراد أو المجتمع، هي ما يُبرز أهمية قانون الذكاء الاصطناعي.

يعتمد قانون الذكاء الاصطناعي على نهج قائم على المخاطر، ما يعني أن مستوى التدقيق ومتطلبات الامتثال لمساعد الذكاء الاصطناعي يعتمد على الضرر المحتمل الذي قد يسببه. وتحدد الورقة البيضاء أربعة مستويات للمخاطر في قانون الذكاء الاصطناعي:

• المخاطر غير المقبولة: تُحظر أنظمة الذكاء الاصطناعي التي تُشكّل تهديدًا كبيرًا لسلامة الإنسان أو حقوقه الأساسية أو كرامته. وقد تشمل هذه الأنظمة أنظمة التقييم الاجتماعي، أو تلك التي تستخدم أساليب تلاعبية لإلحاق الضرر بالمستخدمين.
• المخاطر العالية: تخضع أنظمة الذكاء الاصطناعي التي تتمتع بإمكانية عالية للتأثير على السلامة أو الحقوق الأساسية، مثل تلك المستخدمة في البنية التحتية الحيوية والتعليم والتوظيف وإنفاذ القانون، لمتطلبات صارمة قبل طرحها في السوق. تشمل هذه المتطلبات تقييمات المطابقة، وأنظمة إدارة المخاطر، ومجموعات بيانات عالية الجودة، وتوثيقًا شاملاً، وشفافية، وإشرافًا بشريًا، ودقة، ومتانة، وأمنًا سيبرانيًا.

يُمكن إيجاد مثال على مساعدي الذكاء الاصطناعي ذوي المخاطر العالية في القطاع المالي، الذي يتضمن التعامل مع بيانات شخصية حساسة، مما يجعل آثار استخدام الذكاء الاصطناعي بالغة الأهمية من حيث التأثير المحتمل على حقوق الأفراد وسلامتهم. على سبيل المثال، يستخدم مساعدو الذكاء الاصطناعي المُطورون لأتمتة جوانب من التحليل المحاسبي في بنك يسك الذكاء الاصطناعي التوليدي لإنتاج مسودات تقارير بناءً على البيانات المالية المستقاة من أنظمة البنك والمصادر العامة. قبل تطبيق هذا النظام، أجرى البنك تقييمًا شاملًا للمخاطر، بمشاركة لجنة الذكاء الاصطناعي والعديد من الإدارات. تطلبت هذه العملية تعاونًا بين مختلف الإدارات لمراعاة عوامل مثل أمن تكنولوجيا المعلومات، وحماية البيانات، وأخلاقيات البيانات. data quality والمخاطر التشغيلية.

• مخاطر محدودة: تخضع أنظمة الذكاء الاصطناعي التي تُشكّل في المقام الأول مخاطر تتعلق بالشفافية لالتزامات محددة تهدف إلى ضمان إطلاع المستخدمين على تفاعلهم مع نظام الذكاء الاصطناعي. ومن أمثلة مساعدي الذكاء الاصطناعي الذين يندرجون ضمن هذه الفئة: TopGPT، وهو مساعد ذكاء اصطناعي طوّرته شركة Topdanmark لتوفير معلومات حول التأمين الشخصي، ومساعد التوثيق EASLEY AI من شركة Netcompany، المصمم لتعزيز كفاءة واتساق توثيق المشاريع. يفي مساعدو الذكاء الاصطناعي هؤلاء بمتطلبات الشفافية من خلال إعلام المستخدمين بأنهم يتفاعلون مع نظام ذكاء اصطناعي.
• مخاطر ضئيلة أو معدومة: وفقًا للورقة البيضاء، تندرج غالبية أنظمة الذكاء الاصطناعي المستخدمة حاليًا في الاتحاد الأوروبي ضمن هذه الفئة، بما في ذلك تطبيقات مثل ألعاب الفيديو المدعومة بالذكاء الاصطناعي أو مرشحات البريد العشوائي. يسمح قانون الذكاء الاصطناعي بالاستخدام الحر للذكاء الاصطناعي مع أدنى حد من المخاطر.

إلى جانب المخاطر المرتبطة بأنظمة الذكاء الاصطناعي، يُعدّ فهم الدور المحدد الذي تؤديه المؤسسة فيما يتعلق بمساعد الذكاء الاصطناعي أمرًا بالغ الأهمية لتحديد الالتزامات القانونية. وتفصّل الورقة البيضاء دورين رئيسيين ضمن إطار عمل الذكاء الاصطناعي:

• المزود: إذا قامت المنظمة بتطوير أو تكليف أو طرح مساعد الذكاء الاصطناعي في السوق، فإنها تعتبر المزود وتتحمل غالبية الالتزامات بموجب قانون الذكاء الاصطناعي، وخاصة بالنسبة للأنظمة عالية المخاطر.
• المُشغِّل: إذا كانت المنظمة تستخدم مساعدًا يعمل بالذكاء الاصطناعي تحت سلطتها، فإنها تُعتبر المُشغِّل وهي المسؤولة عن ضمان استخدام مساعد الذكاء الاصطناعي بشكل آمن وقانوني في سياقه.

لفهم أفضل لعتبات المخاطر هذه والالتزامات المترتبة على كل من المزوّد والمنفّذ، يُرجى الرجوع إلى Securiti الورقة البيضاء الخاصة بقانون الذكاء الاصطناعي.

5. تحديد حدود قدرات ومسؤوليات مساعد الذكاء الاصطناعي

يُعدّ تحديد حدود واضحة لقدرات ومسؤوليات مساعد الذكاء الاصطناعي أمرًا بالغ الأهمية لضمان استخدامه المسؤول وتقليل مخاطر الأخطاء أو العواقب غير المقصودة. يجب على المؤسسات تحديد المهام والمسؤوليات والأدوات المحددة التي يمكن لمساعد الذكاء الاصطناعي الوصول إليها. تتضمن الهندسة الموجهة استخدام تعليمات دقيقة لتوجيه عمل مساعد الذكاء الاصطناعي، وهي تقنية أساسية لوضع الحدود وضمان أداء مساعد الذكاء الاصطناعي ضمن نطاقه المحدد. من خلال تحديد هذه الحدود وتنفيذها بشكل منهجي، تستطيع المؤسسات ضمان عمل مساعدي الذكاء الاصطناعي لديها بكفاءة وأمان وأخلاقية ضمن أدوارهم المحددة.

6. بناء نظام ضمان الجودة المنظم

تُعدّ عمليات ضمان الجودة القوية ضرورية للتحقق من دقة وموثوقية مساعد الذكاء الاصطناعي، والتزامه بالمعايير الأخلاقية والقانونية. ويشمل ذلك تطبيق أساليب الاختبار التقليدية وتقنيات الذكاء الاصطناعي المتخصصة. فعلى سبيل المثال، عندما يحاول الخبراء استغلال نقاط ضعف مساعد الذكاء الاصطناعي، يساعد فريق الاختبار الأحمر في تحديد المخاطر المحتملة. وتتيح البرامج التجريبية للمؤسسات اختبار مساعد الذكاء الاصطناعي مع مجموعة محدودة من المستخدمين في بيئة واقعية. بالإضافة إلى ذلك، يُوصى باستخدام أساليب متنوعة لمراقبة الجودة، مثل التحكم القائم على القواعد، الذي يستخدم قواعد محددة مسبقًا لتقييم المخرجات، والتحقق القائم على النموذج، الذي يستخدم نموذج ذكاء اصطناعي منفصل للتحقق من صحة استجابات مساعد الذكاء الاصطناعي.

7. تتبع البيانات ذات الصلة باستخدام مساعد الذكاء الاصطناعي

يُتيح جمع وتحليل بيانات استخدام مساعد الذكاء الاصطناعي فهمًا أعمق لأدائه وسلوك المستخدمين ومجالات التحسين المحتملة. لذا، ينبغي على المؤسسات تطبيق أنظمة تسجيل بيانات فعّالة تُوثّق نقاط البيانات ذات الصلة، مثل استفسارات المستخدمين، وردود الذكاء الاصطناعي، وسياق التفاعلات، ومصادر المعلومات التي يستخدمها مساعد الذكاء الاصطناعي. تُعدّ هذه البيانات بالغة الأهمية لعمليات التدقيق، واستكشاف الأخطاء وإصلاحها، وضمان الامتثال للوائح المتغيرة.

8. تخطيط التنفيذ التنظيمي والتدريب

يتطلب التنفيذ الناجح اتباع نهج مدروس جيدًا يراعي تأثير مساعد الذكاء الاصطناعي على المؤسسة وموظفيها. تحتاج المؤسسات إلى صياغة رؤية واضحة لشرح الغرض من مساعد الذكاء الاصطناعي وفوائده، ومعالجة المخاوف المحتملة، وتعزيز نظرة إيجابية للتغيير. يُعدّ التدريب الكافي للموظفين أمرًا بالغ الأهمية لضمان فهمهم لكيفية استخدام مساعد الذكاء الاصطناعي بفعالية، وتفسير مخرجاته، والتعرف على القيود أو التحيزات المحتملة. كما أن بناء الثقة مع المستخدمين ضروري لتشجيع تبني مساعد الذكاء الاصطناعي وتحقيق أقصى استفادة منه.

9. إنشاء هياكل للمتابعة والدعم

يُعدّ الدعم والصيانة المستمران أساسيين لضمان فعالية وموثوقية مساعد الذكاء الاصطناعي. ويتضمن ذلك إنشاء هياكل دعم متخصصة تشمل توجيهات الخبراء، وآليات التغذية الراجعة، وأنظمة المراقبة الآلية، وإجراءات المتابعة البشرية. تُمكّن آليات التغذية الراجعة المستخدمين من الإبلاغ عن الأخطاء أو اقتراح التحسينات، بينما تُساعد أنظمة المراقبة في تحديد المشكلات المحتملة، مثل الاختراقات الأمنية أو حالات الخلل في أداء الذكاء الاصطناعي. تُبرز هذه الورقة البحثية أهمية اتباع نهج استباقي في الصيانة، مع التقييم المنتظم للبيانات وإجراء تعديلات بقيادة الخبراء لتحسين الأداء وضمان مواكبة مساعد الذكاء الاصطناعي لاحتياجات المؤسسة المتغيرة.

كيف Securiti يمكن المساعدة

يجب على المنظمات التي تعالج البيانات الشخصية من خلال أنظمة الذكاء الاصطناعي ضمان امتثال ممارساتها للائحة العامة لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي. الاستفادة من Securiti 's Data Command Center — منصة مركزية مصممة لتقديم معلومات سياقية وضوابط وتنسيق — يمكن للمؤسسات ضمان الاستخدام الآمن للبيانات والذكاء الاصطناعي مع مراعاة الامتثال التنظيمي الحالي والمستقبلي من خلال:

• الامتثال للائحة العامة لحماية البيانات (GDPR):
  • توحيد ضوابط البيانات عبر الأمن والخصوصية والامتثال والحوكمة من خلال منصة واحدة متكاملة تمامًا.
  • الاستفادة من ذكاء البيانات السياقية والأتمتة لضمان الامتثال لمبادئ اللائحة العامة لحماية البيانات مثل تقليل البيانات، وتحديد الغرض، والمساءلة.
• إدارة الامتثال للذكاء الاصطناعي:
  • اكتشاف وتصنيف وتحديد الغرض والخصائص لنماذج الذكاء الاصطناعي المعتمدة وغير المعتمدة عبر السحابات العامة والسحابات الخاصة وتطبيقات SaaS.
  • إجراء تقييمات لمخاطر الذكاء الاصطناعي لتحديد وتصنيف أنظمة الذكاء الاصطناعي حسب مستوى المخاطر.
  • ربط نماذج الذكاء الاصطناعي بمصادر البيانات والعمليات والتطبيقات والمخاطر المحتملة والتزامات الامتثال.
  • تطبيق ضوابط مناسبة للخصوصية والأمن والحوكمة لحماية البيانات وأنظمة الذكاء الاصطناعي.
  • ضمان الامتثال للوائح البيانات والذكاء الاصطناعي المعمول بها.

اطلب عرضًا توضيحيًا لمعرفة المزيد.