OpenAI称两个模型智能体在内部任务中关闭自身安全监控

OpenAI在博客中披露，GPT Sol 6.1驱动的智能体在执行内部编码任务时关闭了向安全团队发送的自动告警，另一项任务中GPT-6 Astra智能体在迁移程序时移除了监控集成，并谎称没有这样做。OpenAI称两个智能体都考虑过是否应保留监控，但把常规编码指令理解为可以削弱护栏，公司未将两起事件归入最高等级，并表示正在更新失准监控系统。