Google AI 基建负责人谈 TPU 配比、十万卡集群与 Agent 对数据中心的改写

Google AI 基础设施负责人 Amin Vahdat 表示，Google 更看重扣除故障与等待后的有效吞吐（goodput），而非 FLOPS 理论值；十万加速器规模下每天可能多次故障，需近实时检测与恢复。他称 token 生成能力每六个月翻倍，至少一半提升来自软件优化，长时程 Agent 会同时推高加速器、CPU、网络和存储需求，推理已需单独建设基础设施。