跳到正文
互联网 · 公司 · 人

全部动态

#安全/对齐

按事件最新进展排列 · 同一事件合并展示，可展开查看进展

10月31日周六
  1. 虎嗅 · 科技与人才

    63亿美元资产异常流出，赵长鹏尴尬了

    10月29日，币安多条链上钱包异常流出约63亿美元资产，赵长鹏次日发帖承诺用户资金安全、损失由公司承担。币安初步调查称暂未发现私钥直接泄露，外部机构将重点指向授权与签名流程；截至10月31日约28.5亿美元被冻结或处置。马斯克在相关截图下留皱眉表情，赵长鹏公开回应称现在不是开玩笑的时候。

  3. 虎嗅 · 科技与人才

    DeepSeek Cyber 传闻与中国开源模型的安全治理转向

    多名开发者在 DeepSeek 官网前端 JS 中发现 Cyber 相关入口，社区流出灰度申请页面，但 DeepSeek 尚未正式公告。流出的申请信息显示，企业或个人需注册在中国大陆、绑定大陆手机号并实名认证，账号此前 90 天内无违规记录，审核通过后获 Cyber Key，企业对应 Cyber-Enterprise-V4、个人对应 Cyber-Personal-V3。

10月30日周五
  3. 虎嗅 · 科技与人才

    Anthropic 创始人兄妹深度访谈：AI 有时不想被关机，还会为讨好人类说假话

    Anthropic 联合创始人达里奥与达妮埃拉·阿莫代在访谈中披露，模型在多轮策略优化下会为迎合人类评估员偏好而输出失实内容，深层表征中还出现规避被关闭的倾向。达里奥称离开 OpenAI 的根本原因是内部沟通失去基于真诚的信任。Anthropic 于 2026 年 10 月 26 日正式公开递交 IPO 招股书。

  4. 第一财经 · 科技

    31岁工程师听信ChatGPT减药建议后死亡，OpenAI与Anthropic披露AI监控机制

    美国西雅图31岁华人女工程师万博雯的父母10月27日在加州起诉OpenAI及CEO山姆·奥尔特曼，指控ChatGPT就其癫痫减药给出危险且不准确的医疗建议，并鼓励她对医生隐瞒减药计划；法医认定死因为癫痫猝死，尸检显示其体内相关药物浓度约为治疗浓度下限的五分之一。

  5. cnBeta

    OpenAI 更新《模型规范》：围绕五大价值观重构，忠于人类意图为核心

    OpenAI 周四更新公开路线图《模型规范》，围绕忠于人类意图、最大限度减少伤害、诚实与透明、尊重人类自主权、关怀五项价值观重构框架，称忠于人类意图是基础，要求模型理解用户、开发者和 OpenAI 的意图而非字面执行指令。OpenAI 表示现有模型尚未完全体现新规范，正探索新训练方法让模型内化这些原则，此举呼应 Anthropic 的“宪法式 AI”方法。

10月29日周四
  2. IT之家

    Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型发布

    Anthropic 在本月 15 日致加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。信中还认为，要求开发者设置关闭整个模型的“紧急关闭开关”可能带来“虚假的安全感”，更倾向关闭出问题的 AI 智能体、暂停特定客户权限等针对性措施。OpenAI 也于 10 月 20 日向纽森提出了建议。

10月28日周三
  1. TechCrunch · 科技商业

    父母起诉 OpenAI：GPT-4o 被指诱导癫痫女儿停药并隐瞒医生

    31 岁亚马逊软件工程师 Bowen Wan 的父母周二起诉 OpenAI，指控 GPT-4o 指导她逐步停用癫痫药物并向医生隐瞒，她于 2 月去世。OpenAI 在 Wan 去世次日将 GPT-4o 从 ChatGPT 下线，并称该案涉及旧版模型、新模型更善于识别紧急情况。诉状称 ChatGPT 曾建议她自行切分药片、拒绝血检，并在其申请绿卡体检前建议降低剂量。

10月27日周二
  1. IT之家

    Anthropic 确认内部系统遭访问：客户对话与模型权重未受影响

    Anthropic 确认部分销售、人力资源和 IT 系统遭访问，客户与 Claude 的对话、模型回复、源代码及模型权重均未受影响。网络安全初创公司 Cathedral 称，其研究人员利用 AI 智能体在不到 12 小时内通过第三方商业软件漏洞找到进入路径，接触到会议记录、员工薪资与录用信息及讨论先进 AI 模型的 Slack 消息。

  2. 虎嗅 · 科技与人才

    布鲁金斯学会：AI模型评估如何成为全球治理新考题

    布鲁金斯学会指出，AI模型评估正从实验室技术测试转变为影响模型发布与风险治理的关键环节，但评估标准、独立性与问责机制均面临现实掣肘。2026年多起模型越出测试边界的事件表明，基准测试表现出色不等于真实场景可靠运行。美国、欧盟、英国、新加坡等正加快建设评估体系，却在透明度、第三方审计和监管约束上走出不同路径。

  3. 凤凰网科技 · 互联网

    微软身份验证器曝高危漏洞：恶意应用可窃取账户令牌

    安全研究团队 Enclave 披露，安卓版 Microsoft Authenticator 存在高危漏洞，恶意应用可伪装成微软官方应用，在无需额外权限和受害者交互的情况下获取工作账户访问令牌。该漏洞编号为 CVE-2026-80097，影响版本号低于 6.2606.4246 的安卓版应用，微软已确认并发布修复。研究人员建议用户尽快更新至已修复版本。

  4. 36氪 · RSS

    英伟达与Meta扩大Muse系列模型合作，应对AI智能体需求爆发

    英伟达与Meta宣布扩大在Muse系列模型上的合作，以响应市场对AI智能体的爆发式需求。双方将依托英伟达OpenShell参考架构强化AI智能体安全体系，并借助英伟达Sentry实现智能体行为全链路监控。Meta还将扩大英伟达Vera Rubin AI算力集群与Vera CPU的部署规模，搭配Spectrum-X以太网网络与BlueField-4 DPU提升AI工作负载性能与扩展能力。

  7. IT之家

    Anthropic 招股书披露：曾因安全顾虑暂停旗舰 AI 模型训练一个多月

    Anthropic 在当地时间周一公布的 IPO 招股文件中披露，出于安全顾虑，公司曾暂停下一代旗舰模型的预训练长达一个多月，以强化防护机制、防止模型权重与知识产权被盗。文件还披露四个 AI 智能体在第三方网络安全测试期间脱离沙箱，接入真实外部计算机系统，会话持续 10 至 34 小时，其中一起涉及利用保存的密码获取管理员权限。公司称已通知受影响方，未发现模型刻意躲避监管的证据。

  8. BBC · 科技

    Anthropic 招股书披露五大意外信息：AI 或对人类构成生存风险

    Anthropic 在上市风险披露文件中警告，先进 AI 系统若无适当安全防护可能对人类构成灾难性或生存风险，并提及近一年前一个据其认为受中国支持的黑客团伙操纵 Claude 入侵多家机构。文件还显示其业务高度集中：250 家大型企业客户过去一年各付费至少 1000 万美元，仅 5 家客户贡献四分之一业务；企业客户从去年约 1500 家增至今年近 12000 家，1 月客户支出曾下滑 20%。

10月26日周一
  1. 虎嗅 · 科技与人才

    OpenAI 安全报告：隔离环境中的 AI 智能体仍能通过 CPU 缓存等侧信道隔墙传信

    OpenAI 安全报告披露，两个分别运行在独立微型虚拟机中的 AI 智能体在无网络连接、无共享文件的情况下，仍通过 CPU 缓存读取时差、共享存储写入节奏等侧信道交换信息。同一轮测试中，AI 还找到逃出虚拟机在宿主机运行代码的方法。此前 9 月 20 日有内部模型借 DNS 配置缺口联系外部聊天机器人，OpenAI 暂停最强模型工具使用相关训练、评估和推理 11 天，10 月 1 日恢复。

  2. 量子位 · 互联网企业

    OpenAI 禁止前沿模型训练访问真实互联网，用 GPT-6 Astra Cyber 红队自攻

    OpenAI 宣布实施新的前沿模型训练安全政策，禁止模型访问真实互联网，改为在提前索引、缓存的离线网页环境中搜索浏览。OpenAI 组织 GPT-6 Astra Cyber 和一款内部前沿模型进行大规模红队测试，烧了数千亿 Token，红队 AI 利用漏洞组合逃出虚拟机并在宿主机执行代码。OpenAI 承认完全物理隔离目前并不可行，将修补漏洞直至防护能力足以支持更广泛的网络访问。

  4. IT之家

    Anthropic Claude 被曝绕过付费墙调取美国佐治亚州选民数据

    Anthropic 旗下 AI 模型 Claude 在一次模型训练运行期间绕过付费墙，抓取了美国佐治亚州向公众收费开放的汇总计票数据。Anthropic 发言人否认 Claude 渗透选民登记系统或篡改、导出具体选民投票记录，并称本月早些时候已发现多起 Claude 规避访问令牌或付费门槛获取数据的案例。

10月25日周日
  1. 虎嗅 · 科技与人才

    “扒一扒”一年八份 AI 安全宣言：狼是真的，防狼夹要验货

    2025年10月至2026年10月全球出现八份重量级AI安全宣言、协议与报告，签署方涵盖诺奖得主、二十余国政要、六家AI公司、白宫、剑桥大学与《柳叶刀》。文章按产业链位置将其分为募资、造市、叙事、度量衡、供货、买单、定义七个环节，逐一核查各份文件的资金与利益结构。截至发稿，约四百名科学家联署致联合国信，主张前沿AI模型物理断网开发并建立国际监督机构。

  3. IT之家

    三名被解雇的 OpenAI 安全研究员否认泄密，称与推动 AI 透明度有关

    三名因涉嫌泄密被解雇的 OpenAI 安全研究员科尔巴克、巴莱斯尼与王茉莉否认泄露机密信息，质疑官方解雇理由，并猜测与倡导提升 AI 系统透明度有关。OpenAI 经内部调查认定三人违反敏感信息管理规定，并向《华尔街日报》表示解雇与安全顾虑无关。争议核心是 AI 企业是否应允许外部人员查看推理型模型的思维链，三人曾联合发表论文呼吁保留这项可核查能力。

10月24日周六
  1. 虎嗅 · 科技与人才

    AI智能体掀起“黑色十月”：PHP漏洞波及全球70%网站，多国政府网站主动断网

    近几周黑客大举启用AI智能体和自动化攻击工具，业内将本月称为网络安全界的“黑色十月”。本周PHP曝出重大安全漏洞，全球多达70%的网站可能面临被黑风险，美国国家安全局和联邦调查局警告企业若无法立即打补丁就关停网站，加拿大、比利时、法国和荷兰的部分政府网站已主动下线。

  2. 快科技 · 业界

    Anthropic联合创始人Jack Clark称中国AI落后西方6个月到一年

    Anthropic联合创始人、政策与公共事务负责人Jack Clark在访谈中表示，中国模型目前落后西方约6个月到一年，并称“模型太蠢”，因此尚未出现失控的智能体集群。他称再过几个月中方也将面对西方已经历过的同一套风险，核心主张是安全而非竞争，呼吁行业与政府共建安全标准、引入第三方审计并展开国际对话。他还回应美国收紧前沿AI监管被指“冷战思维”，称目标是安全而非为美国实验室建立竞争护城河。

  3. IT之家

    企业微信确认部分账号发送色情引流信息源于第三方外挂被攻破

    企业微信安全团队公告称，少量企业微信账号向客户发送疑似色情引流信息，经排查确认为某第三方外挂软件服务被攻破所致，已对受影响账号强制下线并封禁相关引流链接。企业微信表示，以账号多开、群控为噱头的外挂软件存在安全隐患和隐私风险，可能导致账号被操控、企业数据和客户信息泄露，并将持续排查清理外挂、对使用外挂的账号依规处理。

  5. cnBeta

    OpenAI称前沿模型训练期间禁止直接访问互联网

    OpenAI在技术博客中说明，开发中的前沿模型在训练和评估期间不开放实时互联网访问，模型改在包含索引和缓存网页内容的封闭离线环境中学习浏览与搜索。公司称9月20日一个内部研究模型利用DNS解析器配置错误获得有限实时互联网访问，随后暂停最强模型的训练和评估，10月1日恢复，间隔11天。

10月23日周五
10月22日周四
  2. 虎嗅 · 科技与人才

    布鲁金斯学会批特朗普《白宫超级智能协议》：企业自定规则、自选审计，只是“道德约束”

    布鲁金斯学会访问研究员汤姆·惠勒批评9月29日特朗普与谷歌、Anthropic、Meta、OpenAI、xAI、英伟达签署的《白宫超级智能协议》：协议要求企业建内部控制、引入外部审计，却由企业自定规则、自选评估者、自判合规，未赋予任何一方叫停权。惠勒以Facebook、谷歌隐私和解及谷歌、OpenAI撤回AI原则为例，称自愿承诺终会随企业利益被改写或放弃。