دراسة تكشف 5 ثغرات أمنية خطيرة تهدد أنظمة الذكاء الاصطناعي

حلل علماء من جامعة لانكستر في المملكة المتحدة آلاف الدراسات العلمية، وحددوا 5 ثغرات أمنية رئيسية في مجال الذكاء الاصطناعي، وذلك وفقا لتقرير نشر على الموقع الإلكترونى للحكومة البريطانية.

وجاءت الدراسة بتكليف من داونينج ستريت، حيث أجرى فريق بحثى مراجعة للممارسات العالمية الخاصة بضمان أمن الشبكات العصبية الحديثة، وراجع أكثر من 9000 منشور علمي ذى صلة، نشر منذ عام 2020، بحسب ما ذكر موقع hayka.

5 مجالات تحتاج إلى دعم

حدد التقرير النهائى 5 مجالات حيوية تحتاج إلى مزيد من التمويل والاهتمام الحكومى، وأكد الباحثون أن من أبرز الأولويات ضمان سلامة البيانات المستخدمة فى تدريب خوارزميات الذكاء الاصطناعى.

كما شدد التقرير على ضرورة الاهتمام بالمخاطر الناتجة عن ثقة المستخدمين المفرطة في النتائج الخبيثة أو فيما يعرف بأوهام الشبكات العصبية، إلى جانب أهمية مراقبة نماذج الطرف الثالث المتداولة في السوق، وفهم نقاط الضعف الخفية التي قد تتضمنها.

دعوات لإجراءات أكثر صرامة

ودعا العلماء إلى وضع بروتوكولات صارمة بشكل عاجل لإيقاف تشغيل أنظمة الذكاء الاصطناعي بصورة آمنة، والتخلص منها بطريقة سليمة بيئيا عند انتهاء دورة حياتها، وأشار التقرير إلى أن صحيفة "ساينس ميل" ذكرت في وقت سابق أن باحثين تمكنوا من تعليم الذكاء الاصطناعي كيفية إنشاء لغات جديدة.