ماذا يعني مفهوم "انعدام الثقة" من أنثروبيك لوكلاء الذكاء الاصطناعي بالنسبة لطبقة البيانات؟

تُسرع المؤسسات في نشر أنظمة الذكاء الاصطناعي المستقلة في بيئات الإنتاج بوتيرة أسرع من قدرتها على تأمينها، ولا تزال أفضل الممارسات لتأمين هذا المشهد الجديد المعقد قيد التطوير. يُعدّ منهج "انعدام الثقة" من أنثروبيك لأنظمة الذكاء الاصطناعي أحد أبرز المساهمات حتى الآن، إذ يُقدّم خارطة طريق واضحة وعملية لتعزيز قدرة النظام على مواجهة التهديدات المتغيرة أسبوعيًا. يستحق هذا المنهج قراءة متأنية. 

يركز هذا الإطار على الوكيل نفسه. وتستحق طبقة البيانات التي تحته نفس القدر من الاهتمام، وهناك مبرر قوي لمعالجتها مبكرًا. يبدأ تأمين أي وكيل بمعرفة ما يمكنه الوصول إليه، وتفترض الضوابط في كل طبقة أخرى، من الهوية والعزل أثناء التشغيل والمراقبة والاستجابة، معرفة مسبقة بالبيانات التي يمكن للوكيل الوصول إليها. إن أمن البيانات وحوكمتها هما ما يجعل هذا الافتراض صحيحًا. كما أنها نقطة تحكم بالغة الأهمية، لأن كل وكيل يعتمد على نفس البيانات الأساسية، لذا فإن إدارة هذه البيانات مرة واحدة تؤثر على جميع الوكلاء الأعلى منه. 

وهي الطبقة الوحيدة التي يمكن فيها جعل التحكم حتميًا. يتساءل إطار عمل أنثروبيك عما إذا كان أي تحكم يجعل الهجوم مستحيلاً أم مجرد أمر شاق، ويحذر من أن الاحتكاك وحده لا يكفي لمواجهة مهاجم مدعوم بالذكاء الاصطناعي يتمتع بصبر لا حدود له. تجيب ضوابط البيانات على هذا الاختبار بشكل جيد. سلوك الوكيل احتمالي بطبيعته، بينما ضوابط البيانات ليست كذلك. البيانات التي تم تقليلها ليست موجودة للتسريب، والوصول الذي تم إلغاؤه لا يمكن الوصول إليه، بغض النظر عن كيفية تحفيز الوكيل أو التلاعب به. مع فرض الجهات التنظيمية عقوبات ملموسة وتزايد عدم استعدادها لقبول الضمانات الاحتمالية، فإن هذا اليقين يمثل أساسًا جديرًا بالبناء عليه. 

لا يمكنك إدارة مؤسسة لا يمكنك رؤيتها

يفترض كل عنصر تحكم في هذا الإطار أنك تعرف بالفعل إجابة السؤال الأساسي: كم عدد نماذج الذكاء الاصطناعي، والمساعدين، والوكلاء الذين يتعاملون مع بياناتك بالفعل؟ 

بالنسبة لمعظم المؤسسات، الإجابة الصادقة هي لا. تأتي النماذج مُفعّلة مسبقًا داخل تطبيقات SaaS، ومُشغّلة داخل منتجات SaaS. تُنشئ الفرق مساعدين وطيارين دون إبلاغ قسم الأمن. تتصل البرامج الوسيطة بقواعد البيانات ومشاركات الملفات وواجهات برمجة التطبيقات بسرعة تفوق قدرة أي جهة على الرصد. هذا هو الذكاء الاصطناعي الخفي، وهو القاعدة وليس الاستثناء. 

يُعدّ سجلٌّ حيٌّ لكلّ نموذج، ووكيل، وخدمة ذكاء اصطناعي، والبيانات التي يمكن لكلّ منها الوصول إليها، بمثابة البوابة الرئيسية لكلّ شيء آخر. يفترض كلّ عنصر تحكّم في الإطار إمكانية رؤية ما يتمّ تأمينه. والاكتشاف هو ما يجعل هذا الافتراض صحيحًا. لا يمكنك فرض مبدأ أقلّ الامتيازات على وكلاء لا تعلم بوجودهم، أو حماية بيانات لم تقم بتحديدها مسبقًا. 

يمثل وجود وكيل واحد مشكلة تحكم. أما وجود أسطول فيمثل مشكلة معمارية.

يركز إطار عمل أنثروبيك ضوابطه على مستوى كل وكيل على حدة، بما في ذلك الهوية والصلاحيات والذاكرة والأدوات. وهو يعالج مسألة الوكلاء المتعددين، ولكن بشكل أساسي من منظور الثقة المتبادلة بينهم، وكيفية تفويض الوكيل للمهام إلى وكيل آخر أو وراثته منها، مع تطبيق الإصلاحات على وكيل واحد في كل مرة. وهذا هو المستوى الأمثل لتعزيز أمان الوكلاء، والإرشادات في هذا الصدد متينة. 

مع ذلك، لا يعتمد الإنتاج على وكيل واحد، بل على أسطول من الوكلاء. مساعد خدمة عملاء، ومساعد مالي، ووكيل بحث، ووكيل معرفة داخلية، بالإضافة إلى عشرات الوكلاء غير المعتمدين، جميعهم يتصلون بنفس الأنظمة الأساسية. طبقة الذكاء الاصطناعي ليست خدمة واحدة، بل هي متعددة، وستستمر في النمو. 

ما يربط هذه العوامل ببعضها هو طبقة البيانات التي تقع أسفلها. وصول عامل واحد إلى بيانات ذات صلاحيات زائدة يُعدّ خطرًا يمكن احتواؤه. أما مئة عامل يعتمدون على نفس البيانات ذات الصلاحيات الزائدة والتصنيف الضعيف، فيُشكّلون ثغرة أمنية مشتركة تتفاقم مع كل عامل جديد. لا يُمكن لأي قدر من التحصين على مستوى كل عامل أن يُغلق ثغرة كامنة في الطبقة التي تقع أسفلها جميعًا، لأن كل عامل جديد يرث ببساطة نفس الأساس الضعيف. 

لهذا السبب تتمتع طبقة البيانات بنفوذ كبير. قم بإدارة البنية التحتية المشتركة مرة واحدة، وسيرث كل وكيل تقوم بنشره فوقها هذا الوضع، بدلاً من حل إدارة البيانات لكل وكيل جديد. 

انعدام الثقة في أسطول وكلاء الذكاء الاصطناعي يمثل مشكلة بيانات

إذا نظرنا إلى مبادئ "انعدام الثقة" الثلاثة من منظور البيانات، فإنها تشير جميعها إلى نفس الأساس. 

لنفترض أن الاختراق أصبح مسألة نطاق التأثير. إذا سلمت بأن أحد عملائك سيُتلاعب به في نهاية المطاف، أو سيتمكن ببساطة من الوصول إلى مكان لم تكن تنوي الوصول إليه، فإن الهدف هو ضمان أن تكون البيانات التي يمكنه الوصول إليها عند حدوث ذلك في أصغر حجم ممكن. عليك تقليص نطاق التأثير قبل وقوع الاختراق، وليس بعده. 

يُصبح مبدأ أقل الامتيازات هو مبدأ أقل الصلاحيات المطبقة على البيانات. يُفرّق النموذج الأنثروبي بشكلٍ مفيد بين مبدأ أقل الامتيازات، أي ما يُمكن للكيان الوصول إليه، ومبدأ أقل الصلاحيات، أي ما يُسمح له بفعله. على مستوى البيانات، يعني هذا أنه ينبغي أن يكون بإمكان الوكيل الوصول فقط إلى البيانات المحددة التي تتطلبها مهمته، وبمستوى الحساسية الذي تتطلبه تلك المهمة، لا أكثر. 

لا تثق أبدًا، تحقق دائمًا، يصبح الأمر متعلقًا بمعرفة ما يمكن أن تصل إليه كل هوية. ليس فقط المستخدمين البشريين، بل حسابات الخدمة، والوكلاء، والهويات غير البشرية التي يفوق عددها عدد البشر بشكل متزايد في أي بيئة حديثة. التحقق الذي لا يمكنك ربطه بالوصول إلى البيانات هو تحقق من شيء خاطئ. 

أين Securiti يُفعّل الذكاء الاصطناعي أمن طبقة البيانات

إن تطبيق مبادئ انعدام الثقة هذه على مستوى طبقة البيانات هو ما Securiti يقوم الذكاء الاصطناعي بذلك، ويبدأ بالاكتشاف: جرد مستمر لنماذج الذكاء الاصطناعي والوكلاء في بيئتك والبيانات التي يتعامل معها، بما في ذلك الذكاء الاصطناعي الخفي. 

من هنا، يكمن جوهر الأمر في الوصول. تُجيد معظم الأدوات المتوفرة في السوق إظهار نطاق التأثير، حيث تُخبرك أن بإمكان عميل الوصول إلى ملايين السجلات الحساسة. لكن المعرفة وحدها لا تكفي، فالمهمة هي تقليص هذا النطاق، وهو ما يتطلب ممارسة فعّالة لا مجرد عرض معلومات على لوحة تحكم. Securiti تمنحك تقنيات الذكاء الاصطناعي رؤية واضحة لمن وما يمكنه الوصول إلى البيانات الحساسة، وتكشف عن الوصول المفرط في الصلاحيات والوصول غير النشط، والتركيبات الضارة التي تُشكل خطرًا حقيقيًا، وتُعيد توزيع هذه الصلاحيات وفقًا لمبدأ أقل الصلاحيات، وتُطبق تقنية إخفاء البيانات الديناميكية بحيث لا يرى المستخدم إلا ما يحق له رؤيته. والبيانات غير الضرورية هي الأكثر أمانًا: فتقليل البيانات الزائدة والقديمة والتافهة (ROT) يُقلص ما يمكن لأي جهة الوصول إليه قبل تقييم أي إذن. هذه أدوات احتواء تُطبق على البنية التحتية المشتركة، قبل أن تستخدمها أي جهة. 

يحيط بهذا النواة باقي طبقة البيانات. يوفر لك تتبع البيانات، ونشاط الوكلاء، وسياق البيانات والذكاء الاصطناعي الكامل، التتبع الجنائي والتفسير الذي يتطلبه كل من الاستجابة للحوادث والجهات التنظيمية: من تعامل مع أي بيانات، ولماذا، وبموجب أي سلطة، من المصدر إلى المخرجات. في مجال الكشف والاستجابة، لا نسعى عمدًا لأن نكون نظام إدارة معلومات الأمان والأحداث (SIEM) أو نظام أتمتة الاستجابة الأمنية (SOAR) أو مركز عمليات الأمن (SOC). بدلًا من ذلك، نزود هذه الأنظمة بسياق البيانات الذي لطالما افتقرت إليه، بحيث تحمل التنبيهات التي يحقق فيها فريقك بالفعل الحساسية، وإمكانية الوصول، وتتبع البيانات التي تحول الشذوذ العام إلى قرار فعلي بشأن المخاطر. 

تُطبَّق ضوابط الإدخال والإخراج الخاصة بالإطار هنا أيضًا، ولكن من منظور سلامة البيانات. فمخرجات أي نظام موثوقة بقدر موثوقية البيانات التي تُغذّيه. حتى لو كانت البيانات المصدرية مُشوَّهة أو قديمة أو مُعرَّضة بشكل مفرط، سيظل النظام قادرًا على تحليلها والتصرف بثقة. إن اكتشاف هذه البيانات وتصنيفها وتنظيفها من المصدر هو السبيل لكسب ثقة النظام. ولأن جزءًا كبيرًا من هذا يتعلق في نهاية المطاف باللوائح والامتثال، فإن الحوكمة تُشكّل جوهر كل ذلك. Securiti يعمل الذكاء الاصطناعي على تفعيل الخصوصية والامتثال للذكاء الاصطناعي، وربط أنظمة الذكاء الاصطناعي الخاصة بك باللائحة العامة لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي للاتحاد الأوروبي وإطار إدارة مخاطر الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتكنولوجيا (NIST) مع أدلة مستمدة من البيانات الحية بدلاً من الاستبيانات الثابتة، وأتمتة العمل من خلال وكلاء مصممين خصيصًا لهذا الغرض، مع إبقاء الذكاء الاصطناعي الخفي في الاعتبار كجزء من نفس العملية. 

طبقة البيانات وطبقة الوكيل في إطار عمل انعدام الثقة

يُطبَّق مبدأ انعدام الثقة للوكلاء عبر أكثر من طبقة، وتؤدي كل طبقة وظائف مختلفة. تتحكم طبقة الوكيل في الوكيل نفسه: هويته ومصادقته، وبيانات اعتماده ورموزه، وعزله أثناء التشغيل، والاستجابة الآلية التي تحصره عند حدوث أي خلل. يقع جزء كبير من ذلك ضمن منصة الوكيل ووقت تشغيله، حيث يقوم إطار عمل Anthropic وأدواته الخاصة بمعظم العمل، إلى جانب مجموعة عمليات الهوية والأمان التي تستخدمها بالفعل. 

تتحكم طبقة البيانات في ما يمكن لكل وكيل من هؤلاء الوصول إليه. فمهمة طبقة البيانات هي تحديد البيانات التي يمكن للهوية الوصول إليها، وما إذا كان هذا الوصول مناسبًا أو مقيدًا أو ملغيًا، وهذا هو دورها. Securiti يعمل الذكاء الاصطناعي. ويعزز كل منهما الآخر. لا قيمة لهوية الوكيل القوية إذا كانت البيانات التي تستند إليها مكشوفة بشكل مفرط، ولا قيمة لطبقة البيانات المُدارة جيدًا إذا كان بإمكان أي شخص انتحال شخصية الوكيل الذي يصل إليها. Securiti يُعدّ الذكاء الاصطناعي مكملاً للإطار الأساسي والبنية التحتية الحالية، وليس منافساً لأي منهما. أدِر طبقة البيانات بكفاءة، وسيستفيد كل عنصر أعلى منها من أساس أقوى. 

لماذا يُعد تأمين طبقة البيانات أمراً بالغ الأهمية الآن؟

تتزايد أعداد العملاء في المؤسسات بوتيرة أسرع من وتيرة الحوكمة المحيطة بهم. يُعدّ وجود عميل واحد يعمل على بيانات ذات صلاحيات مفرطة خطرًا محدودًا. أما وجود أسطول من العملاء على بيانات مجزأة وغير خاضعة للحوكمة، فهو أمر مختلف تمامًا: إذ يحوّل ثغرات حوكمة البيانات المتفرقة والمتسامح معها منذ فترة طويلة إلى مشكلة أمنية شاملة، لأن نفس البيانات الضعيفة موجودة تحت كل عميل في آن واحد. 

هنا أيضًا تكمن بعض أسرع المكاسب. يُعدّ تقليل انكشاف البيانات الحساسة ومنح صلاحيات وصول زائدة قبل ربط البرامج الوسيطة أحد أسرع الطرق لتقليص نطاق تأثيرها، وهو ما يعود بالنفع على جميع البرامج الوسيطة التي تتعامل مع تلك البيانات، وليس على برنامج واحد فقط. لا تُغني عمليات الاكتشاف والتصنيف وتقليل مخاطر الاختراق ومعلومات الوصول عن ضوابط الهوية والعزل والمراقبة والاستجابة في إطار عمل Anthropic، أو أنظمة SIEM وSOAR التي يستخدمها فريقك بالفعل. بل تُزوّد ​​هذه العمليات ضوابط البيانات بالسياق اللازم لضمان فعاليتها. 

أما في اللحظات التي يتسلل فيها شيء ما، فإن التعافي هو الملاذ الأخير. إن القدرة على استعادة بياناتك، والسياق الذي يعتمد عليه وكلاؤك، إلى حالة سليمة معروفة هي ما يميز الحادثة المحصورة عن الأزمة. هذا هو المكان الذي Securiti وتجتمع شركتا Veeam و Veeam، وهذا هو الجزء من وعد الافتراض والخرق الذي لا يزال الكثير من السوق يتجاهله. 

تتطور طبقة الوكلاء وطبقة البيانات معًا. ومع نمو أسطول الوكلاء، تُشكّل البيانات التي تدعمه الأساس الذي يجب أن يصمد. 

اقرأ عن كيفية دعم Veeams لإطار عمل Anthropic 

اطلب عرضًا تجريبيًا لترى ما يمكن لوكلائك الوصول إليه فعليًا. Securiti الذكاء الاصطناعي DSPM يرسم خرائط البيانات الحساسة والوصول إليها والتعرض لها عبر بيئتك، حتى تتمكن من تقليص نطاق التأثير قبل توسيع نطاق عامل واحد فوقها.