英伟达给出的下一代方案里，有一个数字很扎眼：HBM容量只增加约百分之三。按过去的思路，这几乎等于没有升级，因为大模型训练长期被显存容量卡住。但官方给出的对比是，Rubin NVL72每美元智能体吞吐较GB300最高提升三十倍。容量几乎没动，产出却翻了几十倍，说明这一代的设计重点已经从"装得下"转向"算得动、搬得快"。
第一条路是精度压缩。NVFP4把权重和部分激活压到四位浮点，配合缩放因子与误差补偿，在保证效果的前提下把每次计算要搬运的字节数砍下来。对推理来说，显存带宽和容量往往比峰值算力更早成为瓶颈，把数据变小，等于在同一块HBM上塞进更多有效信息，也让单位成本的吞吐直接受益。当容量不再是唯一指标，软件栈的价值就被放大，同样的硬件在不同调度策略下可能差出几倍吞吐。
第二条路是把权重摊开。过去一张卡放不下的模型只能切分，切分就要频繁跨卡通信，效率掉得厉害。现在的做法是把权重分散到七十二张卡上，用高速互联把七十二条显存连成一个弹性的池子，单卡只负责自己那一段，调度器按层按专家分配任务。容量问题被转化成了网络问题，而网络恰好是这一代进步最快的地方。对硬件厂商而言，竞争从卖单卡变成卖整柜，交付的是一个包含供电、制冷和高速互联的完整系统。
第三条路是分层缓冲。Vera LPDDR被放在HBM旁边做"就近缓冲"，热数据留在HBM，温数据沉到LPDDR，冷数据再往下走。这个结构和计算机的缓存层次是同一个道理，只是尺度从KB级变成了TB级。它的价值在于，不必为峰值容量买单，也能让大多数请求在本地拿到数据，减少来回搬运的等待。这种转变也让中小客户更难自己拼装，因为把七十二张卡连成一个池子，需要的不只是预算，还有调优经验。
三条路合起来，其实是在回答"内存墙"这道老题：与其等HBM容量翻倍，不如压缩数据、分散权重、分层存放，再用软件把访问路径排好。这也意味着，未来比拼的不是谁买了更多HBM，而是谁能把HBM、LPDDR、互联和调度器捏成一个整体。硬件参数仍然重要，但决定吞吐的是系统设计。对模型公司而言，这意味着推理成本还能靠工程优化继续往下走，不必完全等待下一代芯片。
对国产算力来说，这套思路有直接参考价值。先进存储的产能和价格短期难以追平，靠堆容量拼参数并不现实，能做的是在封装、互联、压缩算法和集群调度上找空间。当单点器件受制于工艺，系统级协同就是唯一能自己决定的变量。谁能把七十二张卡连得像一张卡，谁就拿到了下一轮的入场资格。这套设计也改变了采购口径，客户不再只问一颗芯片配多少显存，而是问一个机柜能稳定跑出多少词元。
