Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型发布

Anthropic 在本月 15 日致加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。信中还认为，要求开发者设置关闭整个模型的“紧急关闭开关”可能带来“虚假的安全感”，更倾向关闭出问题的 AI 智能体、暂停特定客户权限等针对性措施。OpenAI 也于 10 月 20 日向纽森提出了建议。