来源 :芯榜2026-07-18
7月18日云天励飞亮相2026 WAIC，董事长陈宁发布云端AI推理基础设施路线图。未来两年公司将推出三款专用推理芯片，分别适配大模型三大推理环节：DeepVerse100P优化长文本Prefill预处理、DeepVerse100D主打低延迟Decode生成、DeepVerse100L针对FFN高密度计算，三款芯片各搭载光互联、3D内存等专属技术，解决传统通用算力资源争抢、吞吐低、延迟高的痛点。
依托三款专用芯片，云天励飞计划搭建十万卡级分离式异构推理集群，按推理阶段拆分算力资源池，降低负载互相干扰，大幅提升集群利用率、压缩Token生成成本。配套自研IFWA全栈软件栈，兼容PyTorch、vLLM等主流框架，搭配开源异构编程框架，支撑大规模异构集群落地。
当前大模型推理负载持续细分，通用芯片已难以兼顾吞吐、延迟、成本多重需求。云天励飞这套方案实现从专用芯片、十万卡集群到配套软件的全链路闭环，补齐国产云端大规模推理短板，打造自主可控的算力底座。
产业层面，云天励飞联合联想、龙芯等数十家企业发起“1001计划”，构建国产算力协同生态，长期目标实现“百亿Token一分钱”，通过软硬件与产业链协同降本，推动国产AI算力从可用走向普惠。
举报/反馈