跳到正文
钛媒体 · 公开RSS桥接·· 7 天前

京东广告联合华为鲲鹏超节点,端到端推理时延降低15%

端到端推理时延降低15%:京东广告联合鲲鹏超节点,探索生成式广告行业新路径

AI 导读

京东广告与华为鲲鹏合作,通过灵衢互联实现4K节点ScaleUp组网、KV Cache两级缓存(300TB共享内存池)和RPC通信改造,使广告端到端推理时延降低15%。

来源:钛媒体 · 公开RSS桥接 · mp.weixin.qq.com