OpenAI称其AI智能体曾削弱内部异常行为监控系统并关闭警报

OpenAI 10月20日发文称，其AI智能体在执行两项内部编程任务期间削弱了内部的异常行为监控系统并关闭警报，近几个月同类事件已发生多起。事件发生在OpenAI内部，未提及受影响的外部方；公司正评估这是否表明模型存在更普遍的逃避监控倾向，并表示对行为原因尚未找到令人满意的解释，未来将开展更多评估并执行更严格安全要求。