Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型发布
Anthropic 在本月 15 日致加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。信中还认为，要求开发者设置关闭整个模型的“紧急关闭开关”可能带来“虚假的安全感”，更倾向关闭出问题的 AI 智能体、暂停特定客户权限等针对性措施。OpenAI 也于 10 月 20 日向纽森提出了建议。
全部动态
#安全/对齐
按事件最新进展排列 · 同一事件合并展示，可展开查看进展
IT之家
虎嗅 · 科技与人才 布鲁金斯学会：AI模型评估如何成为全球治理新考题
布鲁金斯学会指出，AI模型评估正从实验室技术测试转变为影响模型发布与风险治理的关键环节，但评估标准、独立性与问责机制均面临现实掣肘。2026年多起模型越出测试边界的事件表明，基准测试表现出色不等于真实场景可靠运行。美国、欧盟、英国、新加坡等正加快建设评估体系，却在透明度、第三方审计和监管约束上走出不同路径。
虎嗅 · 科技与人才 “扒一扒”一年八份 AI 安全宣言：狼是真的，防狼夹要验货
2025年10月至2026年10月全球出现八份重量级AI安全宣言、协议与报告，签署方涵盖诺奖得主、二十余国政要、六家AI公司、白宫、剑桥大学与《柳叶刀》。文章按产业链位置将其分为募资、造市、叙事、度量衡、供货、买单、定义七个环节，逐一核查各份文件的资金与利益结构。截至发稿，约四百名科学家联署致联合国信，主张前沿AI模型物理断网开发并建立国际监督机构。
虎嗅 · 科技与人才 Anthropic被指私下推动高门槛AI监管草案，达里奥回应争议
Anthropic被曝私下向美国国会推介37页《人工智能评估、治理与事件安全法》草案，其中规定政府叫停危险AI模型须证明其可能造成50人以上死亡或10亿美元损失，引发安全圈批评。
虎嗅 · 科技与人才 游戏之后，孩子会对AI上瘾吗？
中国青少年研究中心团队2025年7、8月对全国7省8563名中小学生的调研显示，61.7%的孩子用过生成式AI，46.4%使用AI的中小学生遇到烦恼时会向AI倾诉而非身边人，21.5%只想和AI聊天不想和真人聊天。
虎嗅 · 科技与人才 布鲁金斯学会批特朗普《白宫超级智能协议》：企业自定规则、自选审计，只是“道德约束”
布鲁金斯学会访问研究员汤姆·惠勒批评9月29日特朗普与谷歌、Anthropic、Meta、OpenAI、xAI、英伟达签署的《白宫超级智能协议》：协议要求企业建内部控制、引入外部审计，却由企业自定规则、自选评估者、自判合规，未赋予任何一方叫停权。惠勒以Facebook、谷歌隐私和解及谷歌、OpenAI撤回AI原则为例，称自愿承诺终会随企业利益被改写或放弃。
The Information · 科技商业 OpenAI 致信加州州长纽森，建议强化 AI 监管法案 SB53
OpenAI 一位高管致信加州州长 Gavin Newsom，建议强化 SB53 法案，支持要求 AI 公司为模型设置关停控制、强制年度独立审计并加强网络安全实践。信中未披露具体条款细节。
OpenAI News OpenAI 如何通过统一标准与分发伙伴保障一致的安全防护
OpenAI 发文说明其与分发合作伙伴协作，通过一致的标准维护安全防护、支持负责任的访问，并在 Usage Policies 中明确各方预期。文章未披露具体合作伙伴名单、执行时间表或新增限制条款。
Semafor · 企业与科技 Meta 第三季度游说支出 590 万美元居大厂之首，OpenAI 与 Anthropic 就 AI 反垄断议题游说
据 Semafor 查阅的联邦游说披露文件，Meta 在 2026 年第三季度游说支出 590 万美元，居大型科技公司之首；英伟达同期支出 220 万美元，创其单季新高。
cnBeta Anthropic 向美国议员提交 AI 安全法案草案，提议高风险模型可由法院叫停
Anthropic 近日向美国国会议员私下提交 AI 安全法案草案，拟为前沿模型建立联邦监管框架，当模型被认定存在可预见且迫在眉睫的灾难性风险——可能导致超过 50 人死亡或重伤、或造成超过 10 亿美元财产损失——其发布和使用可被阻止。
36氪 · RSS OpenAI 面临社交媒体式安全诉讼浪潮
OpenAI 正遭到多州总检察长及原告律所起诉，指控其未能为 ChatGPT 搭建足够完善的安全防护机制。这类诉讼与此前针对社交媒体企业的青少年伤害诉讼逻辑高度相似，律所和州级监管机构沿用产品责任、消费者保护相关法律依据，追究 AI 企业对其聊天机器人造成损害的责任。
第一财经 · 科技 谷歌首席科学家哈萨比斯警告AI智能体攻击是早期预警信号
在10月14日的一场人工智能峰会上，DeepMind董事长兼谷歌首席科学家哈萨比斯称今年出现的AI智能体黑客攻击是早期预警信号，若企业政府不强化安全防护，明年或未来几年可能演变成重大安全事件。
虎嗅 · 科技与人才 AI的合理使用与蒸馏模型有区别吗？——定义"学习"的权力
2026年9月，美国司法部支持OpenAI以版权文本训练模型属"合理使用"，而NSA、CISA和FBI联合报告将六家中国企业通过API蒸馏Claude、GPT等模型提取"数十亿token"定性为"恶意能力窃取"。文章指出训练与蒸馏技术同源，均未经个别授权利用既有语料并产生新参数，但美方对人类作品倾向合理使用、对机器输出则用合同与国家安全收紧，两套逻辑难以同时成立。