华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署，2.8 万亿级 MoE 模型能力再进阶

华为计算公众号于2026年11月5日发布消息称，2026年11月4日，月之暗面正式公开了Kimi K3.1 Pro的完整模型权重。昇腾基于vLLM Ascend和SGLang框架，同步实现了0 Day推理适配，支持在昇腾Atlas 800 A3、Atlas 900 A3 SuperPod超节点以及昇腾950超节点系列产品上部署Kimi K3.1 Pro的推理任务。

针对模型新增的稀疏注意力机制、百万级上下文处理能力以及推理服务需求，昇腾对算子与框架进行了协同优化，使用户和开发者能够在模型发布当天立即进行部署和应用验证。

据IT之家了解，Kimi K3.1 Pro是K3.1系列的首个模型，拥有2.8万亿参数，原生支持视觉理解，并具备百万token的上下文窗口。该模型在K3基础上进一步扩大了后训练规模，在代码开发、3D创作、金融研究、事实准确性以及长程智能体任务等方面实现了性能提升。

借助百万级上下文能力，模型能够综合利用长篇文档、代码和多轮交互中的任务信息，结合视觉理解与工具调用，完成多步骤任务，从而支持软件研发、企业知识处理等复杂场景。

在计算架构方面，K3.1 Pro采用了混合线性注意力机制，结合了KDA线性注意力层和DSA稀疏注意力层。要充分发挥这一架构的计算优势，需要对算子执行、缓存管理和跨卡通信进行协同优化。

文中提到，昇腾推理团队基于Kimi K3的适配经验，提前进行了模型分析，协同推进了模型接入、算子开发和服务验证。在已有KDA和MoE支持的基础上，完成了K3.1 Pro新增稀疏注意力路径与多模态推理适配，并同步支持了推理框架的现有服务能力。用户可通过九游体育下载获取相关部署指导。

本次适配围绕核心算子优化与推理特性支持展开，覆盖了历史信息筛选、稀疏注意力计算、预处理与残差计算，并结合分布式缓存和框架能力的叠加，支撑了长上下文推理与服务部署。

参考

  • vLLM Ascend 部署指导
  • SGLang 部署指导