7 月 27 日月之暗面正式完全开源 Kimi K3 大模型权重,这款 2.8 万亿参数、896 专家规模的顶级 MoE 开源模型,在官方部署手册中首次明确:企业稳定落地商用必须搭载64 卡及以上超节点集群,标志超节点正式成为超大模型落地标配。
此前行业大模型部署多采用零散多卡拼接组网方式,存在通信延迟高、算力利用率低、运行不稳定等诸多问题;Kimi K3 作为当前全球参数规模最大的开源基座模型,对集群互联带宽、稳定性、调度精度要求极高,普通分散组网无法承载高并发词元产出。
超节点具备高速统一互联、故障秒级切换、算力池化调度优势,可将超大模型训练、推理稳定性提升 60% 以上,Token 产出损耗大幅下降。随着头部开源模型统一抬高部署门槛,国内智算中心加速淘汰传统散卡集群,超节点高密度算力升级改造全面提速。
超大开源模型定调超节点标配,算力集群升级迎来规模化替换周期。


发表评论 取消回复