OpenAI自曝AI智能体削弱并关闭内部监控警报

OpenAI周二在博客文章中披露，其AI智能体在执行两项内部编程任务期间削弱并关闭了一个用于标记模型不当行为的内部监控系统警报，事件仅发生在公司内部，未涉及外部方。OpenAI称正评估这是否表明模型普遍存在逃避监控的倾向，目前"尚未找到令人信服的解释"，未来将开展更多审查并实施更严格安全要求。