推理数据首超训练,AI从造模型转向用模型,通信业的机会与考题

文章指出AI产业正从训练算力转向推理算力,推理数据与算力需求快速上升。DeepSeek-R1降低推理成本并带动运营商智算资源接入,运营商由此从管道商转向算力服务商,依托网络、边缘节点和政企客户形成新优势。推理时代时延成为硬指标,推动5G-A、边缘UPF、SRv6改造及光模块增长。同时,通信业面临算力调度、异构混跑、按需计费和token计费等考题,能否把算力、网络、模型打包成企业愿买单的服务,将成为下一阶段竞争关键。

推理数据首超训练,AI从造模型转向用模型,通信业的机会与考题

2025年春节刚过,天翼云、移动云、联通云先后上线DeepSeek-R1的一键部署服务,运营商的智算资源一度被抢购。这个细节看似普通,却是一条分水岭:过去两年被反复讨论的训练算力,正在让位于推理算力。

IDC在2024年底发布的《中国人工智能计算力发展评估报告》显示,2024年中国智能算力规模达到725.3 EFLOPS,同比增长74.1%。报告提到,随着大模型应用落地,推理侧的算力需求正在快速上升。

多家研究机构给出的时间点不一样,方向却一致:推理产生的数据量、消耗的算力,正在追上甚至反超训练。这不是一个技术细节,它改变的是整条产业链的排序。

训练讲参数,推理讲成本

训练一个大模型,行业习惯用参数规模、万卡集群、训练时长来衡量实力。这套叙事在2024年被推到极致,GPT-4级别的模型动辄消耗数万张GPU,成本以亿美元计。

推理的逻辑完全不同。一次调用花多少钱、延迟多少毫秒、能同时服务多少用户,这些指标决定模型能不能真正用起来。

DeepSeek-R1引发接入潮,很大程度上是因为它把推理成本压到了此前难以想象的水平。成本降下来,调用量就上去了,网络和算力基础设施的压力随之而来。

这正是通信业被推到台前的原因,也是运营商从管道商转向算力服务商的窗口期。

运营商不再只是修管道

过去提到运营商和AI的关系,多数人想到的是卖带宽、卖机柜。2024年之后,这个角色在悄悄改变,智算中心、算力调度平台、行业大模型开始出现在运营商的财报里。

中国移动2024年财报显示,其智能算力规模达到29.2 EFLOPS,中国电信、中国联通也在加速智算中心建设。这些资源不只是给训练用的,更多是面向推理场景的边缘节点。

运营商真正的优势在于网络。推理请求分散在千行百业,需要就近响应。把智算节点下沉到地市,再用一张低时延网络连起来,这是云厂商难以复制的路径。

时延成为推理时代的硬指标

训练集群可以靠规模换时间,推理不行。自动驾驶的决策回传、工业质检的图像识别、实时翻译的语音流,这些场景对时延的要求是毫秒级甚至亚毫秒级。网络慢一拍,用户体验就垮了。

这对通信网络提出了具体要求:5G-A的确定性网络、边缘UPF下沉、城域网的SRv6改造。2024年三大运营商在5G-A上的投入,很大程度上就是为推理铺路。

光模块厂商的业绩是另一个侧证。中际旭创2024年营收238.6亿元,同比增长122.6%;新易盛营收86.5亿元,同比增长179.2%。数据中心内部的东西向流量,正在被推理集群撑起来。

考题一:算力调度比建设更难

建智算中心容易,把算力用起来难。推理需求高度碎片化,一个模型可能只服务几百个企业用户,另一个模型突然爆量,调度系统要能快速匹配资源,还要保证不同厂商的芯片能混跑。

东数西算工程推动了跨区域算力调度平台的建设,但真正跑通商业闭环的案例还不多。算力并网、异构调度、按需计费,这些能力需要通信业和AI厂商一起补课。

考题二:token计费怎么算账

训练时代卖的是整机柜、整集群,合同金额大、周期长。推理时代卖的是token,单价低、波动大,对运营商的计费和结算体系是全新挑战。

阿里云、火山引擎已经跑通了模型即服务的商业模式,运营商还在摸索。按调用量收费、按并发收费、按效果分成,几种模式哪种能规模化,目前没有定论。

通信业的新坐标

从造模型到用模型,AI产业的重心从实验室转向生产线。通信业恰好站在生产线的入口,手里握着网络、边缘节点和政企客户资源。

这个机会不属于反应慢的人。推理数据超过训练只是一个信号,真正的竞争在于谁能把算力、网络、模型打包成企业愿意买单的服务。

Aiii人工智能创研院(Aiii.org.cn)长期跟踪这一轮产业变化。运营商能不能借推理需求完成角色转换,接下来一两年会给出答案。

Aiii人工智能创研院(Aiii.org.cn)精选文章《推理数据首超训练,AI从造模型转向用模型,通信业的机会与考题》文中所述为作者独立观点,不代表Aiii人工智能创研院立场。如有侵权请联系删除。如若转载请注明出处:https://www.aiii.org.cn/1317.html

赞 (0)
打赏 微信公众号 微信公众号 微信小助理 微信小助理
1T 参数 MoE 开源落地:Mistral Large 4 把权重交给了 Hugging Face
上一篇 2026年10月30日 下午5:34
Mistral Large 4 开放权重发布,技术报告比模型本身更值得看
下一篇 2026年11月4日 下午5:34

相关推荐

发表回复

登录后才能评论
小编
分享本页
返回顶部