2026年下半年,国内算力市场需求结构迎来结构性巨变,传统大模型大规模训练算力需求增速放缓,AI智能体常态化推理、自主交互、持续迭代带来的轻量化算力需求迎来爆发式增长,开启万亿级全新增量市场。
不同于大模型训练需要超大规模万卡集群、超高功耗重型算力,AI智能体、行业Agent、智能客服、数字人、工业智能助手等应用,需要海量、低成本、高并发、低时延的轻量化推理算力,需求场景更分散、落地速度更快、市场体量更大。
过往行业资源过度集中于高端训练算力,导致高端GPU阶段性紧缺、闲置交替出现,而轻量化推理算力长期供给不足,大量中小企业、垂直行业AI应用面临算力成本高、资源难预约的问题。
随着全域智能体时代到来,个人终端、企业办公、工业生产、智慧城市、电商服务等全场景加速部署AI Agent,常态化实时推理算力需求呈几何级增长,彻底重构算力市场供需结构。
目前国内头部云厂商、算力运营商已快速调整布局,缩减部分高端训练算力盲目扩产计划,重点布局轻量化异构推理算力集群,适配多品类国产芯片,搭建高性价比推理算力服务平台。
业内预判,未来一年推理算力市场规模将远超训练算力,成为算力行业最确定的增长主线,适配智能体场景的低成本、高适配、低功耗国产算力将迎来大规模替代机遇。
智能体算力需求全面爆发,推理算力接棒成为行业新主线。


发表评论 取消回复