云天励飞发布AI推理芯片与超节点异构集群算力线路图

7月19日消息，<strong>云天励飞</strong>公众号发文，云天励飞在2026 WAIC上正式披露了未来两年AI推理芯片的路线图，计划推出以下三款云端大算力芯片：<br>- <strong>DeepVerse 100P</strong>：针对Prefill环节进行专用优化<br>- <strong>DeepVerse 100D</strong>：针对Decode环节进行专用优化<br>- <strong>DeepVerse 100L</strong>：针对Decode内部FFN环节的负载特征进行专用优化

当前，大模型推理应用正加速分化为三类典型场景：以对话和知识问答为代表的通用AI助手，以复杂推理和编程为代表的深度推理应用，以及以Agentic Coding、多智能体协同为代表的实时智能体系统。

随着应用不断深入，单次任务的上下文长度、推理链路复杂度与实时响应要求持续攀升，对推理系统的吞吐能力、延迟控制和成本效率提出更高挑战。在大规模部署中，峰值算力已难以单独衡量系统效能，计算、访存、互联与调度等因素共同决定着Token生成的成本与质量。

与此同时，大模型推理不同阶段的计算特征日趋分化。Prefill阶段需集中处理长输入上下文，对算力要求极高；Decode阶段以逐Token生成方式运行，对内存带宽和访存效率更为敏感；而随着MoE等模型架构的普及，Decode内部的Attention与FFN子模块在计算密度与访存模式上也呈现出显著差异。

传统“一芯通吃”的混部架构，往往因资源共享导致资源争抢，制约整体效率。

基于这一洞察，云天励飞设计了三款专用芯片，并面向万卡异构集群进行协同部署，通过对推理阶段的解耦，为不同环节分配最适配的算力资源，系统化降低Token生成成本。

DeepVerse 100P：专为百万级上下文Prefill场景打造，避免与Decode共享算力和带宽，消除长上下文处理对生成吞吐的影响。

DeepVerse 100D：面向Decode环节的专用推理引擎，提供数倍于主流芯片的内存带宽，支持1024卡级Scale-up及光互联架构。通过按需动态建立光路直连，并依据任务实时重构链路，大幅减少传统多跳电交换中的排队、拥塞和中间转发开销，降低通信尾延迟，保障逐Token生成的稳定输出。

DeepVerse 100L：针对Decode阶段中计算密集型的FFN环节，采用3D Memory架构，相比主流HBM显著提升带宽；配合低延迟芯片互联和激活数据快速传输，提高计算与通信的并行效率。

三款芯片协同配合，有望在推理全链路中实现更精细的资源匹配，为未来AI应用的规模化落地提供高效、低成本的算力底座。