中国AI Infra正在跨过一道“隐形门槛”

作者/  IT时报记者 贾天荣

编辑/  郝俊慧

郑州国际文化交流中心会场,大屏上,“曙光8000正式落成”的字样亮起,台下相机快门声此起彼伏。

7月10日,光合组织2026智能计算应用大会期间,中科曙光宣布中国首个全国产十万卡AI超集群——曙光8000(登峰)正式落成,并同步接入国家超算互联网。

这不是一次普通的产品发布,一个新的数字被写进中国AI基础设施(AI Infra)的历史:国产智算迈入十万卡时代。

过去几年,千卡、万卡集群不断刷新纪录,几乎每隔几个月就会有新的数字出现。但在业内人士看来,从万卡到十万卡,并不是简单地把数字乘以10。

“这是一个非线性的跨越。”中科曙光高级副总裁李斌在接受《IT时报》等媒体采访时直言,“从万卡到十万卡,最大的挑战来自规模扩大之后的性能和可靠性问题,它不是简单增加10倍设备。”

此前,曾有业内人士指出,十万卡以上的超大规模集群故障率非常高,很可能每20分钟就出现一次故障,对持续训练任务构成极大挑战,同时跨地域部署带来的长距离通信延迟、网络拥塞问题,以及多芯混训下的算力资源协调难题,都会对集群性能造成影响。

而当十万卡集群真正落地,一个更深层的问题也随之浮现:今日中国,为何需要十万卡?

某券商分析师认为,过去算力的主要消耗来自少数头部模型公司的训练需求,而未来,真正的增量将来自百万级企业和亿级用户的推理和微调需求,算力消费结构正从“少数巨头”走向“大众市场”,算力产业也将从一次性建设转向长期运营。

“未来十年,卖服务器的逻辑会逐渐变成卖算力服务、卖运营能力的逻辑。”上述分析师表示。

需求井喷一道新的门槛

AI产业对算力的需求正以指数级增长,全球计算联盟理事长、华中科技大学教授金海曾表示,我国AI算力需求正以年均300%的惊人速度增长。随着大模型参数从千亿走向万亿,智能体开始进入生产系统,科学智能(AI for Science)加速渗透到药物研发、新材料、气象预测、工业设计等领域。

越来越多的应用开始发现,万卡集群已不再是终点。“十万卡不再只是一个数字概念,而是下一代AI基础设施的重要入门能力。”业内人士如是评价。

在李斌看来,这一轮算力需求与过去最大的不同在于,需求并非来自单一的大模型训练,而是来自整个AI生态的全面爆发。“今年智能体加速落地后,算力需求大幅攀升。至少从当前来看,这并非泡沫。”他说。

这种变化正在重新定义算力基础设施。过去超算算力更多服务于科研和工程问题,任务以离线计算为主;而今天,越来越多业务要求实时响应,需要持续在线的推理服务。“超算算力的使用方式、服务对象和服务模式,都在快速发生变化。”李斌说。

十万卡集群并不仅仅是为了训练下一个更大的模型,而是为未来大规模AI应用提前修路。

十万卡不是“十倍的万卡”

在算力行业,打造一台单服务器并非难事,但构建一套超级计算系统却绝非易事,十万卡规模的算力集群更是难上加难。

李斌透露,在设计曙光8000时,团队曾希望能够支持真实大模型在十万卡集群上完成完整预训练,但现实情况是,目前没有任何一个模型能够完全利用十万卡资源。

究其根源,并非算力储备不足,而是相关工程适配能力没能跟上:“能用万卡训练的模型,即便给它十万卡,训练性能也很难提上去。”他说。十万卡的难点首先来自互连。当十万个计算单元同时协作训练一个模型时,任何一个节点的延迟、网络抖动甚至设计中的小短板,都可能让整个系统效率骤降。“我们面临的最大挑战是,能否让它跑出应有的性能与效率。”李斌说。

第二个难点则是可靠性。设备数量扩大十倍,元器件故障概率指数级增加。“数量多了10倍,故障率就提高了一个数量级。”李斌坦言。

因此,曙光8000在系统设计上大量采用了液冷、整机柜、高密度部署等技术。比如,一个机柜内集成640张加速卡,通过提高计算密度,尽可能采用可靠性更高的铜互联,而不是大规模光互联。“只要铜能解决,所有大厂都会优先用铜,因为成本更低、功耗更低、可靠性更高。”李斌说。

真正要“算”什么?

如果只是为了训练更大的语言模型,十万卡集群的重要性或许没有今天这么高。

真正让它成为下一代基础设施标准的,是AI for Science。曙光8000落地后,已在十万卡节点上完成了300余项超智融合应用优化,覆盖大模型、机器人、汽车、创新药、新材料、量子计算、天文气象等20多个领域。其中,超过70个应用实现了万卡规模扩展。李斌透露,一个让团队感到意外的数据是:目前重大科学工程中的大应用,有很多已经开始采用AI结合的方法。

因此,曙光8000并没有沿用传统超算和智算“分区部署”的思路,而是采用了“超智融合”的技术路线。所谓超智融合,并不是把超算和智算放在同一个机房,而是在同一个芯片、同一个计算单元中,同时具备科学计算和神经网络计算能力。支持FP64到INT8全精度计算,覆盖科学计算、大模型训练、AI推理、工业仿真等多种场景。

“AI for Science的方法太碎片化了,不同学科的算法、精度需求都不一样,所以天然需要一个通用的系统。”李斌说。在业内看来,这或许才是十万卡集群最重要的意义,它不是一个更大的GPU集群,而是服务科学发现的新型基础设施。

算力逻辑正在改变

过去几年,训练被认为是算力的核心需求。但今天,风向已经变了。“推理的算力需求比训练要多很多,这是明确的。”李斌表示。Token经济的出现,让整个产业开始重新衡量算力价值。

联想集团董事长兼CEO杨元庆曾判断,未来AI推理计算需求将占80%,训练需求仅占20%。

今年4月国家数据局发布的数据也显示,2025年,我国用于推理的数据量首超训练数据量,达 101.34EB,未来推理算力需求与训练算力需求之比或将达到 3:1,甚至更高水平。

过去算力按照“核时”“卡时”计费;今天,越来越多人开始关注Token吞吐能力。“Token这个度量衡在一定程度上统一了。”李斌说。这意味着,未来的AI基础设施竞争,不再只是比拼峰值性能,而是比拼单位成本下能够产生多少有效Token。

推理场景也对系统提出了全新要求。超长上下文、KV Cache、数据卸载(Offload)……这些过去并不起眼的技术,正在成为十万卡时代新的竞争焦点。

中科曙光北京公司总裁助理、分布式存储产品部总经理石静表示,在十万卡集群时代,存储已从幕后的辅助角色跃升为核心支撑能力。“对于性能、并发和时延的要求,比以前高了很多。”她说。为此,曙光打通了从CPU DRAM、GPU HBM、本地SSD到分布式存储的完整链路,并实现KV Cache全局池化和统一管理。

在推理时代,存储、网络和计算的边界正在逐渐消失。国泰海通证券计算机首席分析师杨林指出,十万卡集群中,网络、液冷、电力、机柜等基础设施投入占比已经首次超过GPU成本。能效与散热,正在从辅助系统升级为核心竞争壁垒。

华源证券分析师钟依浓认为,短期看,十万卡集群能够带动芯片、光互联、液冷、存储等环节的百亿元级订单;中期看,它完成了国产全栈技术的工程化验证;长期看,则将推动中国算力产业从单点突破走向完整生态。

算力会变成奢侈品吗?

今年以来,AI服务器产业链迎来新一轮涨价。这让不少人担心:算力会不会成为少数人的奢侈品?李斌的回答是否定的。“短期看成本会涨,但长期趋势一定是普惠。”他说。

他举了这样一个例子:几年前,人脸识别还是一项成本高昂的技术;如今,刷脸支付、刷脸认证已经普及到几乎没有使用门槛。大模型最终也将踏上同样的发展路径。“未来它会成为一种基础能力。”他说。

事实上,算力已经比很多人想象中更贴近普通人的生活。李斌透露,曙光8000目前已经有相当一部分资源接入手机App后端,为头部模型公司提供Token服务。“有可能大家使用某个手机应用时,后面的算力就是郑州的。”他说。

如果把过去十年中国数字基础设施的发展看作一场长跑,那么十万卡集群的出现,意味着比赛进入新的阶段:过去,我们探讨的是算力有没有;今天,我们关注的是算力够不够多、够不够强、够不够智能。

大会期间,曙光还与北京科学智能研究院达成战略合作,启动第二套全国产十万卡超智融合算力系统研制与建设。这意味着,十万卡集群不会仅仅停留在示范工程阶段。

过去的算力中心,服务的是科学家;未来的算力中心,将服务每一个普通人。

站在郑州会场的主题演讲台上,李斌说:“我觉得算力其实离大家更近了。”

或许,这正是十万卡集群最值得关注的意义,它不再只是一个庞大的数字,而是中国AI基础设施开始真正跨过那道走向生产力、走向产业深处、走向千家万户的“隐形门槛”。

排版/  孙妍

图片/  曙光 IT时报

来源/《IT时报》公众号vittimes

D