京东广告联合华为鲲鹏使广告推理时延降15%
热点事件历史事件
京东广告联合华为鲲鹏使广告推理时延降15%
1 篇报道1 个报道来源7 天前更新
先了解这件事
AI 综述
京东广告与华为鲲鹏合作改造生成式推荐系统的推理架构，宣布广告端到端推理时延降低15%，并通过了618大促的考验。改造内容包括通过灵衢互联实现4K节点ScaleUp组网、KV Cache两级缓存（300TB共享内存池）和RPC通信优化，其中与局部KV Cache命中率相关的重复计算降低了百分之八九十。 目前该方案尚未覆盖京东全部搜广推业务，官方称产能仍需提升、推进没有那么快；核心业务场景已有5%的流量在鲲鹏集群上运行。背景是京东全链路时延预算为300毫秒，留给广告模型推理的只有20到100毫秒。
AI 根据报道生成 · 6 天前更新
最新进展10月26日 19:58
京东广告联合华为鲲鹏超节点，端到端推理时延降低15%报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- 钛媒体 · 公开RSS桥接京东广告联合华为鲲鹏超节点，端到端推理时延降低15%
京东广告与华为鲲鹏合作，通过灵衢互联实现4K节点ScaleUp组网、KV Cache两级缓存（300TB共享内存池）和RPC通信改造，使广告端到端推理时延降低15%。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 510月27日 20:00
- 近 24 小时变化
- –
0246
10月28日06:0012:0018:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。