跳到正文
TechNode · 中国企业快讯·· 12 天前

DeepSeek 开源推理框架 DeepInfer,支持英伟达与华为昇腾芯片

DeepSeek open-sources inference framework with support for Nvidia and Huawei chips

AI 导读

DeepSeek 于10月20日开源其大规模模型服务背后的推理框架 DeepInfer,支持英伟达 GPU 和华为昇腾处理器,提供分布式推理、投机解码和结构化输出等能力。

来源:TechNode · 中国企业快讯 · technode.com