我国首个十万卡 AI 超集群真机亮相：「能装一个宇宙」到底装了什么

10 月 18 日，我国首个十万卡级 AI 超集群真机正式亮相，官方用「能装一个宇宙」来形容它。这句话不是纯营销话术，它指向的是集群能在显存中容纳的模型参数规模。

一、十万卡是什么概念

国内主流智算中心多在千卡到万卡量级，十万卡跨过了一个数量级门槛。按每卡 80GB 显存估算，总显存池超过 800 万 GB，约 8 个 PB。

换言之，一个千亿参数模型以 FP16 精度约需 2TB 显存，这个集群理论上能同时装载数千个千亿参数模型，或支撑数万亿参数级别的单体训练。

二、为什么需要这么大

• 大模型预训练：万亿参数 MoE 模型算力需求以十万卡日计
• 长上下文推理：百万 token 上下文推理时 KV Cache 吃掉海量显存
• 多模态与视频生成：数据吞吐远超纯文本

三、真实难点不在卡，在网络

互联带宽：多层 Fat-Tree 或 Dragonfly 拓扑，跨层流量一旦拥塞训练效率断崖下跌。业内经验是网络效率降 10%，训练时长可能增加 30% 以上。

故障率：十万卡规模下每天都会有卡挂掉，必须有自动检测、隔离、断点续训的完整链路，否则一次故障浪费几十小时进度。

能耗与散热：满载功耗百兆瓦量级，液冷几乎必选，PUE 控制不住电费就是天文数字。

四、对普通用户意味着什么

短期最直接的影响是推理成本下降，单位 token 成本被摊薄，长上下文、多模态能力更快普及到消费级产品。

中期看，国产 AI 芯片的软件栈会被逼着成熟。十万卡规模跑起来，CUDA 之外的生态（昇腾 CANN、寒武纪 BANG、燧原等）必须把编译、算子库、通信库全部打磨到位。

五、冷静一点看

真实可用算力取决于利用率。优秀集群 MFU 能到 40-50%，一般的只有 20-30%。也就是说十万卡的纸面算力，落地后可能只等效三四万卡的理想状态。

要判断真实成色，得看后续公布的 MFU 和稳定性数据。对开发者来说更值得关注的是：这些算力会不会以更便宜的价格开放。集群再大，不对外开放，和远处的电厂没区别。