Agent拉爆算力？中国杀出新物种：日冲10万亿Token，还赚钱了

今年WAIC开幕当天，上海世博展区挤满了各种机器人、大模型和智能体。

但如果你问一圈做AI的人，2026年最让他们睡不着觉的事情是什么，答案出奇一致——

不是模型不够强，是算力不够用了。

过去一年，AI行业发生了一个根本性的切换：大模型从「陪聊」变成了「干活」。

这带来一个很直观的变化：Agent太能吃了。

这不是夸张。今年，密歇根大学、斯坦福等机构测算发现，在一组真实软件工程任务中，编码Agent每生成1个输出Token，背后平均要累计处理约154个输入Token。

更要命的是，这些Agent不是偶尔吃一顿，它们7×24小时不停地吃。行业里的共识是，今年AI推理的算力需求是去年的5倍到10倍。

与此同时，英伟达最新的高端卡今年很难大批进入国内，存量供给几乎没怎么增长。

需求暴涨，供给不动。怎么办？

就在今天，商汤在总部举办以「算创·无限」为主题的Agentic时代AI基础设施创新发展论坛。

本次论坛上，商汤给出了一个听起来有点反常识的答案：不造更强的卡，而是把比赛拆开，让不同的卡接力跑。

一场铁人三项的启示

要理解商汤在做的事情，得先搞清楚一个技术概念。

大模型每一次推理，其实可以拆成两道工序。第一道叫Prefill，就是「读题」：把用户扔过来的资料、文档、聊天记录、上下文全部读进去，理解清楚。第二道叫Decode，就是「答题」：在理解的基础上，一个字一个字地往外蹦答案。

这两道工序对硬件的要求完全不同。

读题拼的是计算吞吐量——你得一口气吞下海量信息，越快越好。答题拼的是显存带宽——你得一个字一个字地往外挤，快不了但不能卡。

过去大家的做法是一张卡从头干到尾，既读题又答题。这就好比让一个人独自跑完铁人三项——游泳、骑车、长跑全包了。能不能跑完？能。但一定不是最优解。

商汤的思路是：把铁人三项拆开，让三个运动员各跑自己最擅长的那段。

具体来说，就是让通用国产卡去做Prefill——它们的计算吞吐量不差，干这个活效率很高。把高端卡集中起来做Decode——这是它们的绝对强项。

这就是所谓的「异构混合推理」。说白了，不是逼国产卡去硬刚英伟达，而是让每一张卡都去干自己最擅长的事情。

听起来很美，但这事能落地吗？

这事可远不是「把卡插上去就能跑」那么简单。

你想想看，一台Decode节点要同时协调三十个Prefill节点，这三十台芯片还可能来自不同厂家、不同代际。

网络怎么不堵？请求怎么分？长文档和短对话怎么区别对待？某张卡突然掉线怎么办？缓存命中率怎么保证？

商汤首席科学家张行程说得很实在：纯英伟达方案4个Prefill对1个Decode就够了，换成国产方案变成30对1，网络复杂度、调度复杂度、容错复杂度全线飙升。

所以商汤这几年在底层做了海量的脏活累活——编译器、算子、网络、缓存、调度、容错，一层一层地打通。经过系统级调优，才能让这套复杂程度远高于英伟达方案的异构系统，实现长时间稳定运行，系统可靠性达到99.9%，真正实现大规模商用。

而且从2018年开始，商汤就在做多芯片适配，到今天形成了一整套方法论。

张行程说，这不单纯是技术上的方法论，更是一种组织上的方法论——商汤自己的研发团队、芯片原厂、高校和科研机构，有的深度绑定、有的灵活协作，拧在一起才啃得动这块骨头。

目前，这套方案已经在真实客户场景中跑通了。适配的模型包括GLM 5.2、DeepSeek V4、Kimi K2.7、MiniMax M3、SenseNova V6.7等主流大模型。

但光是「能跑」还不够。技术再漂亮，不赚钱就是玩具。接下来才是整个故事里最关键的一步。

国产算力，上桌吃饭

过去几年，国产算力的叙事基本上是这么个套路：自主可控很重要，供应链安全很紧迫，我们的芯片能跑了。然后呢？然后往往就没有然后了。

能跑，但是性价比不行。能用，但客户不买单。声音很大，账算不平。

商汤这次最让人意外的地方在于：国产芯片参与的混推集群，已经实现了可盈利。

这里的「可盈利」不是财务游戏，商汤科技联合创始⼈、⼤装置事业群总裁杨帆给了一个非常明确的定义：收入覆盖折旧、摊销、机柜租赁、电费和人员服务费之后，利润率为正。是真金白银地赚钱。

怎么做到的？

第一步，把国产卡的实际性能「榨」出来。商汤在三个不同厂牌的国产芯片上做定向优化，单卡MFU（可以理解为「有效利用率」）相比原厂出厂表现平均提升约一倍，最高的一款提升了152%。

第二步，通过异构混推，让同样成本产出更多Token。相比国产同构推理，异构混推的同成本Token产出规模扩大了2.5倍。简单说，同样花那么多钱买卡和建机房，产出的Token多了一倍多。

第三步，Token量跑起来了。年初日均4000亿Token，到7月底预计日均2.42万亿，年底目标是日均10万亿——全年预期增长25倍。账算得正是一回事，规模跑得起来才能证明这不是小打小闹。

这意味着，国产算力第一次不必等到单卡全面追平英伟达，就通过系统分工，提前进入了真实的商业市场。

不是等着领先了再上桌，而是找准了自己的位置先坐下来——还挣到钱了。

一座工厂最怕的事：五个老板管一条流水线

那为什么同样买国产卡，有些智算中心依然亏钱，商汤能把利润跑出来？

答案不在某一张卡，而在整座工厂的控制权。

杨帆说了一段特别犀利的话：很多自称算力服务商的公司，实际上是帮大厂代持机器、签长租约，本质上提供的是一种金融服务。

一座工厂的厂房、机器、流水线、仓库和销售分别归五家公司管——别说极致优化，光开会就能把利润开没。

商汤的做法是端到端控制：从机房物理层到服务器、网络架构、编译器、算子、框架、推理引擎、调度系统，再到最终客户的Token流量，整条链路尽可能由一个主体贯穿。

每一个环节单拎出来可能不是最长的板，但拼在一起就是平台型的优势——优化空间来自于系统级的联合调优，这是分层割裂的模式永远做不到的。

这里还有一个很有意思的闭环：Agent正在反过来帮助生产算力。

过去国产芯片适配是公认的苦活，每换一款芯片都要重新踩坑。但今年，商汤开始用Agent来辅助完成算子迁移、适配和优化。

杨帆说，今天大家都在用Agent去写算子适配。

当芯片、网络和业务流量被端到端打通之后，优化的触角自然会伸到一个过去大家不太关注的地方——电。

在临港数据中心，商汤跟宁德时代合作搞了储能系统，配合峰谷电价和算力预测做弹性调度。效果是单位电力成本Token产出提升约80%，电费比同地区IDC低约10%。

7月10号上海用电紧张的时候，国网发出需求响应，商汤临港数据中心两小时内释放了75%的容量，少用了4.6万度电。

这件事的意义不只是省电，它说明大型智算中心可以变成电网中的一块「虚拟电池」：高峰期主动降负荷给市政电网让路，低谷期开足马力跑推理。

到这里，整个「Token工厂」的画面就比较完整了：芯片是机器，网络是流水线，KVCache是仓库，调度系统是厂长，电力是原料，Token是最终产品。

从一座工厂到一张网

Token工厂跑通了，但一家公司的端到端再强，也撑不起整个国产AI基础设施的生态。

所以商汤在这次WAIC上同步发布了「银河计划」——联合近20家生态伙伴，从寒武纪、沐曦、昇腾、摩尔线程等国产芯片厂商，到硅基流动、基流科技、中科加禾等基础设施服务商，把上下游拢到一起搞共建。

目标是四个数字：1个Token工厂、5个万卡国产集群、10个共创技术方向、200+家AI初创组织。

为什么是5个万卡而不是1个10万卡？因为商汤面向的是第三方市场——大语言模型、视频生成、具身智能、世界模型、AI for Science，这些任务对硬件的要求完全不同。

在模型和芯片都还在高速演化的阶段，灵活组合比把单一模型再优化20%更重要。

科研端的合作同样在这次WAIC集中落地。商汤联合上海人工智能实验室、北京中关村学院、深圳河套学院、上海算法创新研究院、上海交通大学人工智能学院等五家科研机构，启动了科学发现平台战略合作。

主要就是，共同构建覆盖「算力基础—平台工具—模型能力—科研创新」的一体化科研服务体系，为生命科学、新材料、智能制造等重点领域提供高效、开放的AI科研支撑。

区域上，上海临港是核心枢纽，盐城是算电协同的区域试点，北京、天津、深圳、福州等节点逐步连成一张网，接入全国一体化算力网。

出海方面有两个样板：香港是跳板——杨帆直接说，「香港是中国未来Token出海的行业实验场」，计划于2030年前形成40,000P+算力规模，打造全港最大国产智算中心。

沙特是另一种模式——帮当地建智算中心、训练主权模型、培养人才，输出的不是一张卡，而是一整套「中国AI方案」。

国产化进程也在提速。临港AIDC的国产卡占比不断提升，预计进展顺利的话，明年可能超过50%。

而在更远的地方，商汤还在同时布局三条前沿路线：光计算降低数据搬运的能耗，量子计算解决传统方法算不动的高维优化，太空算力则是把Token送到地面网络覆盖不了的地方。

太空这条线值得多说两句。商汤已经签约国星宇航，计划今年四季度发射4颗「商汤号」系列算力卫星，完成首发并组网；2028年目标建成星地混合云商用骨干网；到2030年建成千颗级天地一体化AI算力星座。

杨帆对此的判断是，中国搞太空算力的核心逻辑不是地面电太贵，而是全球还有大量地区没有3G、4G，要把AI服务渗透过去，星上算力是最有效的路径。

地面的Token工厂解决「怎么生产得更便宜」，未来的星地一体算力网解决「怎么把Token送到更远的地方」。

下一代工厂长什么样？

过去几年，AI基础设施的竞争像一场军备竞赛：谁GPU多，谁峰值算力大，谁机房壮观。

到了Agent时代，这套玩法正在失效。

模型不关心你用了哪张卡，用户也不关心你机房里有多少P算力。他们只关心三件事：Token够不够快，够不够便宜，服务稳不稳。

所以未来的赢家，未必是拥有最多GPU的公司，而更可能是那家最懂得怎么把不同芯片、不同电价、不同模型和不同任务，组织成一条高效生产线的公司。

商汤这次在WAIC展示的，不只是一套国产异构混推方案。它其实是在提前回答一个更大的问题：

当AI真正进入大规模生产时代，下一代「工厂」究竟应该长什么样？

编辑：所罗门