يُفصّل تقرير التهديدات العالمية لعام 2026 الصادر عن كراود سترايك كيف يُسرّع الذكاء الاصطناعي من وتيرة هجمات الخصوم ويُعيد تشكيل نطاقها. ووفقًا للتقرير، تتصاعد الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي بمعدل غير مسبوق بنسبة 89% سنويًا، حيث تسرق بيانات الاعتماد وتتجنب الكشف عنها.
مع تسارع وتيرة دمج المؤسسات للذكاء الاصطناعي في عملياتها التجارية الحيوية، من المتوقع أن تتسع رقعة الهجمات الإلكترونية، حيث تعجز الأطر القانونية والأمنية عن مواكبة هذا التطور. فالأطر التقليدية غير قابلة للتوسع، وتفتقر إلى القدرة على مواجهة التحديات الأمنية المتطورة، ولم تُصمم لمعالجة نقاط الضعف الفريدة لأنظمة الذكاء الاصطناعي الوكيل، والذكاء الاصطناعي التوليدي، وأنظمة التعلم الآلي الحالية.
تُراكم نماذج وأنظمة الذكاء الاصطناعي اليوم كميات هائلة من البيانات. وقد يؤدي ثغرة أمنية واحدة إلى كشف بيانات حساسة في مراحل المعالجة، مما ينتج عنه خسائر مالية وتشويه للسمعة. وهنا يأتي دور MITRE ATLAS الذي يوفر إطار عمل منظمًا لتحديد التهديدات وفهمها والتخفيف من آثارها طوال دورة حياة الذكاء الاصطناعي.
ما هو MITRE ATLAS؟
MITRE هي منظمة بحث وتطوير غير ربحية مقرها الولايات المتحدة الأمريكية، وتعمل بشكل وثيق مع الوكالات الحكومية في مجال التكنولوجيا والأمن والدفاع.
يُعد نظام MITRE Adversarial Threat Landscape for AI Systems (ATLAS) قاعدة معرفية حية يمكن الوصول إليها عالميًا لتكتيكات وتقنيات الخصوم بناءً على ملاحظات الهجمات في العالم الحقيقي والعروض التوضيحية الواقعية من فرق الذكاء الاصطناعي الحمراء ومجموعات الأمن.
يهدف مشروع ATLAS إلى رفع مستوى الوعي المجتمعي والاستعداد لمواجهة هذه التهديدات ونقاط الضعف والمخاطر الفريدة في مجال ضمان الذكاء الاصطناعي الأوسع. ويستند تصميم ATLAS إلى إطار عمل MITRE ATT&CK، وتُعدّ تكتيكاته وتقنياته وإجراءاته مكملة لتلك الواردة في ATT&CK.
لماذا يُعدّ مشروع MITRE ATLAS مهمًا لأمن الذكاء الاصطناعي؟
بخلاف الأنظمة القديمة، تُطرح أنظمة الذكاء الاصطناعي الحالية تحديات أمنية بالغة التعقيد. فالأدوات والأطر التقليدية غير مُجهزة للتعامل مع تحديات الذكاء الاصطناعي الحالية، مما يجعل ممارسات الأمن الحالية للمؤسسات غير كافية ومليئة بالثغرات الأمنية.
هنا يأتي دور MITRE ATLAS في توفير تكتيكات وتقنيات أساسية لمواجهة التهديدات، وذلك لإدارة أمن الذكاء الاصطناعي. ويتم ذلك من خلال:
أ. تقديم نظرة شاملة على مشهد الذكاء الاصطناعي
يوفر نظام ATLAS رؤية شاملة للفرق في جميع أنحاء المؤسسة فيما يتعلق بوضعها الأمني الحالي ومخاطر الذكاء الاصطناعي التي قد تكون عرضة لها. تفتقر ممارسات الأمان التقليدية إلى القدرة على توفير رؤى دقيقة، وتحديد نقاط الضعف، واكتشاف هجمات الخصوم مثل تسميم البيانات وسرقة النماذج، وما إلى ذلك.
ب. وضع خارطة طريق للتهديدات
يُعدّ تحديد التهديدات وتحليلها أساسيًا لمعالجة الثغرات الأمنية والتصدي للهجمات المستقبلية. يوفر نظام ATLAS خارطة طريق منظمة لمسار التهديد، حيث يمكن للفرق وضع خارطة طريق واضحة للمناطق المعرضة للخطر، سواء في مرحلة التطوير أو النشر. كما يُسلط الضوء على أنواع الهجمات التي قد تتعرض لها المؤسسة وأنواع التكتيكات التي قد يستخدمها المهاجمون.
تميل معظم الفرق إلى العمل بمعزل عن بعضها، مع تعاون محدود أو معدوم مع الفرق الأخرى، وغياب لغة موحدة تساعد في مواجهة الهجمات الإلكترونية. يعتمد نظام ATLAS على إطار عمل لغوي مشترك، مما يُمكّن الفرق من مختلف الأقسام من التعاون بفعالية أكبر.
د. دمج الأمن في جميع مراحل دورة حياة الذكاء الاصطناعي
يُعدّ أمن الذكاء الاصطناعي أمرًا بالغ الأهمية لتأمين دورة حياة الذكاء الاصطناعي بأكملها، وليس فقط مراحل التطوير الأولية. فهو يمتدّ إلى مرحلتي النشر وما بعد النشر، حيث تعمل أنظمة الذكاء الاصطناعي في بيئات واقعية. ويرتكز إطار عمل ATLAS القائم على المعرفة على مبدأ فهم التهديدات الخاصة بالذكاء الاصطناعي في العالم الحقيقي، واكتشافها، والتخفيف من آثارها.
هـ. تعزيز ثقافة الأمن الاستباقي للذكاء الاصطناعي
لا يمكن تحقيق أمن الذكاء الاصطناعي دون معرفة الجهة المسؤولة عن معالجة البيانات المُدخلة إلى النموذج (المساءلة)، ونوع البيانات المستخدمة (دقتها)، والتدخل البشري لضبط النموذج عند الضرورة (الإشراف المستمر). يُظهر الهيكل المنظم وضوحًا في العمل، مما يُعزز ثقافة الأمن الاستباقي بدلًا من النهج التفاعلي.
مكونات إطار عمل MITRE ATLAS
تم تصميم إطار عمل MITRE ATLAS لتمكين الفرق من فهم وتقييم التهديدات المتعلقة بالذكاء الاصطناعي بسهولة. تشمل المكونات الرئيسية لإطار عمل MITRE ATLAS ما يلي:
أ. التكتيكات
تُحدد التكتيكات الهدف النهائي للمهاجم، أي سبب قيامه بالهجوم (غايته). وهي تُفصّل رحلة المهاجم بأكملها من البداية وحتى إحداث الضرر الفعلي. وتشمل مراحل مثل الحصول على المعلومات الأولية، والوصول إلى النظام، وتجاوز بروتوكولات الكشف، ثم سرقة البيانات وإلحاق الضرر.
ب. التقنيات
تحدد التقنيات كيفية قيام المهاجمين بتنفيذ الهجوم. وهي توضح الخطوات التي يتخذها المهاجم، مثل خداع نموذج الذكاء الاصطناعي من خلال إعطاء مدخلات مضللة، وتسميم مجموعات البيانات المقدمة أثناء مرحلة التدريب، ونسخ رمز النموذج وتكراره، واستخراج البيانات الحساسة من مجموعة البيانات.
ج. دراسات الحالة
لدعم التكتيكات والتقنيات، يوفر نظام ATLAS دراسات حالة وأمثلة واقعية تُظهر سيناريوهات على أرض الواقع، مدعومة بوثائق بحثية تدعم النتائج. تُمكّن هذه التقارير والتحليلات الفرق من فهم طبيعة هجمات الذكاء الاصطناعي عمليًا، وليس نظريًا فقط.
د. إجراءات التخفيف
يُبنى هذا الإطار تدريجياً وصولاً إلى مرحلة التخفيف، حيث يُوصي نظام ATLAS بأساليب ونهج لحماية دورة حياة الذكاء الاصطناعي من التهديدات المتطورة. ويُحدد كيفية تمكّن الفرق من اكتشاف التهديدات الواردة بفعالية، وكذلك اكتشاف ما إذا كانت قد اخترقت الأنظمة بالفعل، والأهم من ذلك، كيفية الاستجابة لهذه التهديدات.
هـ. تغطية دورة حياة نظام الذكاء الاصطناعي
يُعد ATLAS دليلاً شاملاً يغطي الأمن من البداية إلى النهاية، مما يعني أنه يأخذ في الاعتبار دورة حياة الذكاء الاصطناعي بأكملها بدءًا من تطوير النموذج وحتى نشره، بالإضافة إلى البيانات التي يتم تغذيتها لتدريب نموذج الذكاء الاصطناعي، وصولاً إلى مخرجاته.
التهديدات الشائعة للذكاء الاصطناعي التي حددها مشروع MITRE ATLAS
على الرغم من أن إطار عمل MITRA ATLAS يحدد العديد من التهديدات المتعلقة بالذكاء الاصطناعي، إلا أن أكثر التهديدات شيوعًا التي حددها هذا الإطار تشمل ما يلي:
أ. تسميم البيانات
يُعدّ هذا النوع من الهجمات الإلكترونية من أكثر الأنواع شيوعًا، حيث يقوم المهاجم بالتلاعب ببيانات التدريب أو إتلافها، مما يجعل النموذج يتدرب على بيانات مضللة وغير دقيقة، وبالتالي يُسمّم مجموعة البيانات. وينتج عن ذلك تهديد للأمن وظهور نتائج غير دقيقة.
ب. أمثلة معادية
هنا يقوم المهاجم بإدخال بيانات مضللة لخداع نموذج الذكاء الاصطناعي. ورغم أن هذه البيانات قد تبدو غير ضارة وطبيعية لفريق الإشراف البشري، إلا أن النموذج يفسرها بشكل مختلف تماماً، مما يؤدي إلى اتخاذه قراراً خاطئاً عند تقديم المخرجات.
يستغل المهاجمون هذا الأسلوب لسرقة النموذج بالكامل من خلال الاستعلام عنه بشكل متكرر والتعلم من استجاباته. وبتحليل كيفية استجابة النموذج، يتمكنون من بناء نموذج مشابه، وبالتالي تحسينه ومنحه ميزة تنافسية على غيره.
د. عكس النموذج
يستغل المهاجمون واجهة برمجة التطبيقات (API) الخاصة بنموذج الذكاء الاصطناعي المدرب، ويقومون بهندسة عكسية، بدءًا من مخرجات النموذج وصولًا إلى مدخلاته. ويتم ذلك في محاولة لإعادة بناء البيانات الحساسة التي تم إدخالها خلال مرحلة التدريب أو التي جمعها النموذج خلال مرحلة إدخال البيانات.
هـ. هجمات المراوغة
تُنفَّذ هجمات التهرب لتجنب الكشف. في هذه الحالة، يقوم المهاجمون بتغيير بيانات الإدخال بشكل خفي بدلاً من استهداف النموذج بالكامل. هذه الطريقة الماكرة كافية لتجاوز بروتوكولات كشف الشذوذ مع تحقيق هدف خبيث في الوقت نفسه.
و- هجمات سلسلة التوريد
يبذل المهاجمون جهوداً إضافية ويبدأون باستهداف خدمات الطرف الثالث المعرضة للخطر والمرتبطة بالنموذج. وينتج عن ذلك حصول المهاجم على إمكانية الوصول إلى الخدمات التي تحتوي على مجموعات بيانات حساسة وبيانات تدريب النموذج، مما يؤثر على النظام ككل.
ز. تسريب البيانات
نظراً لأن نماذج الذكاء الاصطناعي تعالج كميات كبيرة من مجموعات البيانات وتتعامل مع عدد كبير من المطالبات، فإنها تميل إلى الكشف عن البيانات الحساسة عن غير قصد، مما يؤدي إلى تسرب البيانات من خلال مخرجات النموذج.
ح. هجوم حجب الخدمة (DoS)
يُحمّل المهاجمون نظام الذكاء الاصطناعي بأكمله بحركة مرور كثيفة، مما يؤدي إلى انهياره التام. وينتج عن ذلك تعطل النظام وتوقفه عن العمل، الأمر الذي قد يستغرق وقتًا طويلاً للتعافي. وفي هذه الأثناء، يستغل المهاجمون الثغرات الأمنية، مُلحقين المزيد من الضرر.
كيف Securiti يساعد المؤسسات على بناء وضع أمني وحوكمة مرن للذكاء الاصطناعي
يُعدّ إطار عمل MITRE ATLAS إطارًا متينًا يُسلّط الضوء على النطاق المتزايد للتهديدات والتكتيكات والهجمات التي تستهدف تقنيات الذكاء الاصطناعي بشكل متزايد. ويؤكد على أهمية تعزيز الحوكمة والرقابة مع تبنّي المؤسسات لأنظمة الذكاء الاصطناعي التوليدي، وأنظمة التعلم الآلي، وأنظمة الذكاء الاصطناعي الوكيل.
تزداد أنظمة الذكاء الاصطناعي استقلاليةً وقدرةً على اتخاذ قرارات مستقلة دون تدخل بشري. ويتطلب المشهد الجديد للتهديدات من المؤسسات تبني تدابير للحد من انكشاف البيانات الحساسة، وتنظيم سلوك الذكاء الاصطناعي، وضمان الامتثال للوائح والقوانين.
Securiti يساعد المؤسسات على بناء أمن بيانات مرن، وحماية الخصوصية، و AI governance يُعزز هذا النهج من خلال توفير رؤية موحدة وضوابط قائمة على السياسات عبر دورة حياة البيانات والذكاء الاصطناعي. فمن خلال الحوكمة المركزية، والضوابط الآنية، والضوابط الواعية بالسياق لبيانات المؤسسة، والمطالبات، والمدخلات، والمخرجات، وإجراءات الوكلاء، تستطيع المؤسسات تقليل المخاطر المتعلقة بالذكاء الاصطناعي مع الحفاظ على الامتثال والثقة والتحكم التشغيلي أثناء توسيع نطاق تبني الذكاء الاصطناعي.
اطلب عرضًا توضيحيًا لمعرفة المزيد.
