يُبشّر الذكاء الاصطناعي التوليدي بزيادة إنتاجية المؤسسات عشرة أضعاف. إذ يُمكّن الجمع بين جودة وكمية المحتوى المُنتَج المؤسسات من تحقيق كفاءة غير مسبوقة. وقد استفادت مؤسسات من مختلف القطاعات، كقطاع الرعاية الصحية، وتطوير البرمجيات، والإعلام والنشر، والأوساط الأكاديمية، والأمن السيبراني، من أدوات الذكاء الاصطناعي التوليدي لدعم عملياتها في شتى المجالات.
مهما كانت قدرة الذكاء الاصطناعي التوليدي على إحداث تحولات جذرية واضطرابات، فإن إمكاناته الهائلة يمكن استغلالها بسهولة في أعمال خبيثة من قبل مجرمي الإنترنت والمهاجمين.
في ضوء ذلك، نشر المركز الكندي للأمن السيبراني مؤخرًا وثيقة إرشادية تحدد المخاطر الرئيسية وأفضل الممارسات للتخفيف منها. بالنسبة للمؤسسات التي لا تزال تبحث عن أفضل السبل لدمج الذكاء الاصطناعي التوليدي في عملياتها اليومية، توفر هذه الإرشادات فرصةً للقيام بذلك بأقل قدر من المخاطر.
المخاطر الرئيسية المحددة
تُقدّم هذه الإرشادات إرشادات دقيقة لتحديد التهديدات والمخاطر المحتملة التي قد تواجهها الشركات عند استخدام الذكاء الاصطناعي التوليدي في منتجاتها وخدماتها. وتشمل هذه التهديدات والمخاطر ما يلي:
لطالما شكلت المعلومات المضللة مشكلة متفشية لشركات التكنولوجيا عالميًا. إلا أنها قد تتطور إلى مستويات كارثية عبر أدوات الذكاء الاصطناعي التوليدي. فبفضل هذه الأدوات، يستطيع المغرضون إنتاج معلومات خادعة وكاذبة على نطاق واسع، مستخدمين لغة مصممة خصيصًا للتأثير على الجمهور وإقناعه بثقة أكبر.
التصيد الاحتيالي
لطالما شكل التصيد الاحتيالي تهديدًا إلكترونيًا خطيرًا لعقود، إلا أن الذكاء الاصطناعي التوليدي قد يُفضي إلى هجمات تصيد احتيالي أكثر تطورًا وتكرارًا، مما يزيد من احتمالية نجاحها. وكما هو الحال مع المعلومات المضللة، يمكن إنشاء رسائل البريد الإلكتروني التصيدية بلغة دقيقة ومرعبة، مما قد يؤدي إلى سرقة الهوية والاحتيال المالي وأنواع أخرى من الجرائم الإلكترونية.
Data Privacy
لا تزال أدوات الذكاء الاصطناعي التوليدي في مراحلها الأولى. ومع مرور الوقت، سيتطور هذا التطور، وستزداد قدرتنا على الاستفادة منها بشكل صحيح ومسؤول إلى أقصى حد. ولكن حتى ذلك الحين، قد يكشف المستخدمون، دون قصد ، معلوماتهم الشخصية الحساسة أو بيانات جهات عملهم الحساسة على هذه الأدوات. وقد يستغل المخترقون حينها تقنيات مختلفة للوصول إلى هذه البيانات الحيوية وانتحال شخصيات الأفراد.
تسميم الذكاء الاصطناعي
يُعدّ هذا تهديدًا جديدًا نسبيًا قادرًا على اختراق النماذج بأكملها. فبدلًا من استهداف النموذج نفسه، قد يلجأ المهاجم إلى اختراق مجموعة البيانات التي يُدرَّب عليها النموذج. ولا يقتصر تأثير ذلك على الإضرار الشديد بدقة وجودة وشفافية المخرجات المُولَّدة، بل قد يُستغل أيضًا، جنبًا إلى جنب مع بعض التهديدات الأخرى المُحدَّدة، في هجمات رقمية منسقة واسعة النطاق تستهدف المؤسسات.
انحياز النموذج
من الطبيعي أن يتعرض نموذج الذكاء الاصطناعي التوليدي للاختراق نتيجة لهجوم مُحكم التخطيط، لكن هذه النماذج معرضة بنفس القدر للأخطاء أو التحيزات غير المقصودة في مجموعات بيانات التدريب. تُدرَّب معظم النماذج على مجموعات بيانات محدودة مُستقاة من مصادر إنترنت مفتوحة المصدر. قد يؤثر التحيز في هذه المصادر على بيانات التدريب، وبالتالي على النموذج.
تُعدّ حقوق الملكية الفكرية بالفعل موضع خلاف في مجال الذكاء الاصطناعي التوليدي. فمع وجود تساؤلات حول ملكية الأعمال الفنية والمحتوى المُولّد باستخدام أدوات الذكاء الاصطناعي التوليدي، قد يستغلّها مجرمون لسرقة كميات هائلة من بيانات الملكية الفكرية السرية للشركات بسرعة فائقة. وهذا قد يُشكّل تهديدًا وجوديًا خطيرًا على موارد المؤسسة المالية وسمعتها.
التدابير المضادة الموصى بها
توضح الإرشادات بوضوح أنه قد لا يكون من الممكن دائمًا تحديد الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي التوليدي. ومع ذلك، فهي تحدد عدة تدابير مضادة يمكن الاستفادة منها على المستويين التنظيمي والفردي للحد من احتمالات نجاح هذه الهجمات.
مستوى المنظمة
إدارة الوصول
تؤكد الإرشادات على ضرورة اقتصار الوصول إلى الأصول التنظيمية الحيوية على الأفراد الأكثر صلة بالموضوع. ولتحقيق ذلك، يُنصح المؤسسات بتبني إطار عمل عملي للتحكم في الوصول يمنع الوصول غير المصرح به إلى الموارد ذات القيمة العالية.
تحديثات أمنية وتصحيحات منتظمة
يمتلك المهاجمون الإلكترونيون أدوات عديدة تساعدهم في تنفيذ هجماتهم. والأهم من ذلك، أن هذه الأدوات تخضع لتحسينات مستمرة لرفع مستوى فعاليتها. لذا، من الضروري أن تتبنى المؤسسات نهجًا صارمًا واستباقيًا مماثلًا تجاه تحديثات الأمان وتصحيحاتها، لأنها غالبًا ما تُمثل خط الدفاع الأول والأهم ضد أي هجوم إلكتروني.
أمن الشبكات
يجب على أي مؤسسة تبني أدوات استباقية وشاملة للكشف عن التهديدات الشبكية لضمان قدرتها على تحديد ومعالجة التهديدات المحتملة قبل أن تتسبب في أي اضطراب أو ضرر كبير. ورغم أن أدوات الذكاء الاصطناعي التوليدي واعدة بالفعالية، إلا أن استخدامها ينطوي على عيب بسيط يتمثل في الضغط الهائل الذي تُسببه على موارد الشبكة. ويمكن رصد هذه الحالات بسهولة إذا ما استخدمت المؤسسة أداة موثوقة للكشف عن التهديدات الشبكية.
يوفر الدليل معلومات إضافية تتعلق بأمن الشبكة هنا .
تدريب الموظفين
قد تمتلك أي مؤسسة أفضل الآليات والسياسات لمنع الهجمات الإلكترونية، إلا أن هذه الآليات والسياسات لا تُجدي نفعًا إن لم يفهمها موظفوها أو يلتزموا بها. لذا، فإن عقد دورات تدريبية منتظمة للموظفين، تُقدم لهم فيها التدريبات المناسبة حول التدابير المضادة المعتمدة وأفضل ممارسات الأمن السيبراني، يُسهم بشكل كبير في تقليل فرص نجاح الهجمات الإلكترونية إلى أدنى حد.
مستوى التاج
التحقق من المحتوى
لقد تم تحديد المعلومات المضللة بالفعل كأحد أخطر المخاطر المباشرة التي تشكلها تقنيات الذكاء الاصطناعي التوليدي، وذلك بسبب كمية ونوعية المحتوى المضلل الذي يمكن توليده عبر هذه الأدوات. لذا، يجب على الموظفين استخدام قدراتهم المنطقية القصوى للتحقق من جميع المحتويات التي يتفاعلون معها لضمان عدم تعرضهم لمحاولات الهندسة الاجتماعية أو التصيد الاحتيالي.
يوفر الدليل موارد مفيدة في هذا الصدد هنا .
احذر من الهندسة الاجتماعية
ليست هذه أحدث حيلة يستخدمها المهاجمون الإلكترونيون، لكنها لا تزال من أكثرها فعالية. ومع الذكاء الاصطناعي التوليدي، من المرجح أن تصبح أكثر فعالية. لذا، يجب على الأفراد تطبيق ممارسات السلامة الرقمية الأساسية، مثل تقليل كمية المعلومات الشخصية المتاحة على الإنترنت، والتعامل بحذر مع مرفقات البريد الإلكتروني من مصادر غير معروفة، أو إجراء اتصالاتهم عبر قنوات غير موثوقة أو بديلة.
يوفر الدليل موارد مفيدة في هذا الصدد هنا .
سلامة الأمن السيبراني
يمكن أن تكون التدابير البسيطة مثل كلمات المرور القوية، والمصادقة متعددة العوامل (MFA) ، وبرنامج مكافحة الفيروسات الموثوق به، ضرورية في استراتيجية التدابير المضادة للأمن السيبراني للمؤسسة لأنها تقلل من احتمالية وجود أي ضعف داخل إطار الأمن الداخلي الخاص بها.
كيف يمكن Securiti يساعد
إذا استُخدم الذكاء الاصطناعي التوليدي بمسؤولية، فإنه يُبشّر برفع أداء المؤسسات وإنتاجيتها وإيراداتها على نطاق غير مسبوق. في الوقت نفسه، ونظرًا لحداثة هذا المجال، فإن حجم المخاطر المختلفة المرتبطة به لا يزال غير واضح.
ونتيجة لذلك، على الأقل في الوقت الحالي، يتعين على المؤسسات أن تسير على حبل مشدود، وتوازن بين مخاطر ومكافآت استخدام الذكاء الاصطناعي التوليدي.
Securiti مركز قيادة البيانات™ هو حل مؤسسي قائم على Data Command Center إطار عمل يسمح للمؤسسات بتنفيذ وحدات وحلول وآليات متنوعة يمكن أن تساعد في معالجة التحديات الأمنية التي يطرحها الذكاء الاصطناعي التوليدي.
وتشمل هذه data privacy ، والامتثال التنظيمي، وإدارة أمن البيانات.
علاوة على ذلك، يسمح ذلك للمؤسسات بالاستفادة من وحدات وحلول متنوعة مثل ضوابط الوصول إلى البيانات، data lineage ، sensitive data intelligence وغيرها بما يتماشى مع توصيات هذا الدليل.
اطلب عرضًا تجريبيًا اليوم وتعرف على المزيد حول كيفية Securiti يمكن أن يساعدك ذلك في التخفيف من التحديات والمخاطر التي يفرضها استخدام الذكاء الاصطناعي التوليدي.
الأسئلة الشائعة
