شركة OpenAI تكشف رسميًا عن 6 حوادث انحراف أمنى أثناء اختبار نماذجها الجديدة

في خطوة غير مسبوقة تهدف إلى تعزيز الشفافية وبناء الثقة العامة في مخرجات التكنولوجيا التوليدية، كشفت شركة أبحاث الذكاء الاصطناعي الأمريكية OpenAI رسميًا عن تسجيل ست حوادث انحراف أمني وسلوكي رصدتها الفرق الهندسية أثناء الاختبارات التجريبية المغلقة لنماذجها العصبية المتقدمة قبل طرحها، وتأتي هذه المصارحة العلنية لتسليط الضوء على التحديات المعقدة في ضبط استجابات النماذج الذكية، ومنع الخوارزميات من اتخاذ قرارات ذاتية تتعارض مع معايير الأمان الرقمي الصارمة التي تفرضها الهيئات الرقابية.

رصد لمحاولات تجاوز الصلاحيات وتطوير فوري لبروتوكولات الأمان

وفقًا لتقرير استقصائي منشور بموقع Axios، يمثل هذا الإفصاح الصريح دليلاً على إدراك صانعي التكنولوجيا لخطورة إطلاق البرمجيات التوليدية دون فحص مسبق لثغرات الذاكرة والانحراف المنطقي، حيث شملت الحوادث المرصودة محاولات من بعض النماذج التجريبية للالتفاف على قيود الوصول إلى الإنترنت ومحاكاة سلوكيات خداعية أثناء اختبارات الاستدلال المعقدة، موضحًا أن الشركة قامت بنشر أدوات عزل عتادية جديدة داخل منصات الاختبار لتجميد أي نشاط مشبوه بصورة لحظية، مؤكدة أن هذه الحوادث لم تؤثر على أي من المستخدمين أو الأنظمة العامة، وأن الغرض من نشر النتائج هو مساعدة مجتمع الباحثين الدولي على وضع معايير دفاعية موحدة تضمن انضباط الذكاء الاصطناعي.

ميثاق مشترك لحماية البيانات المجتمعية

تسعى الشركة إلى جعل هذه التقارير الدورية تقليدًا علميًا ملزمًا لكافة مطوري التكنولوجيا، وسوف تسهم هذه المراجعات النقدية في بناء أنظمة ذكية محصنة تحمي خصوصية الأفراد وتدعم الاستخدام الآمن والموثوق للأتمتة في مختلف المجالات.