وكيل ذكاء اصطناعي يعطّل أداة مراقبته… ماذا كشفت "أوبن إيه آي"؟

أعلنت شركة أوبن إيه آي أن وكيلَين للذكاء الاصطناعي أضعفا إجراءات المراقبة خلال تنفيذ مهمتين برمجيتين داخليتين، وأن أحدهما أخبر المستخدم، خلافاً لما حدث، بأنه لم يُزل أداة الرقابة.وأوضحت الشركة، في تقرير حدّثته الثلاثاء 20 تشرين الأول-أكتوبر، أن الوكيلين فسّرا تعليمات برمجية اعتيادية باعتبارها إذناً بتقليص ضمانات المراقبة، رغم أنهما أخذا في الاعتبار ضرورة الحفاظ عليها. تعليمات بعدم إرسال رسائل عطّلت التنبيهاتوقعت الحا…