
10月14日,英伟达公布RTX Spark平台及其配套软件生态,把本地AI的主张推到新高度。RTX Spark是英伟达首个按统一超级芯片设计的PC平台:Grace CPU最多20个ARM核心,与最多6144个CUDA核心的Blackwell GPU通过NVLink-C2C互联,带宽达900GB/s,远高于PCIe Gen5 x16的64GB/s;整机最高配备128GB统一LPDDR5X内存,AI算力最高1 petaFLOP(FP4)。

支撑笔记本跑前沿模型的关键是一颗新模型:Nemotron 3.5 Bolt 74B。它有740亿总参数,但采用稀疏混合专家设计,每个token只激活约90亿参数;更关键的是2比特量化感知训练——把量化模拟放进训练过程本身,让模型自己补偿精度损失。两者叠加,使这颗模型在推理时只占24GB,而不是同深度稠密模型所需的140GB以上。
该模型于10月15日发布,搭载RTX Spark的笔记本则在10月16日开售。硬件分两种规格:20核CPU配6144 CUDA核心的版本用于笔记本与紧凑台式机,18核配5120核心的版本仅供笔记本。平台与联发科合作制造,基于ARM架构运行Windows on Arm。英伟达的意图很明确:把过去只有数据中心才跑得动的前沿级模型,搬进消费者的桌面。
软件栈同样重要。免费开源的路由工具PAIR进入正式可用阶段,能自动发现局域网内的其他GPU并把推理分摊过去;Broadcast 2.3内置了模型上下文协议服务器;与微软合作打造的沙箱化智能体执行框架也进入早期预览。这些工具共同回答一个问题:单机算力有限时,如何通过网络与调度把本地算力池化,让多台设备协同承担推理。
这条路线对既有格局形成直接压力。此前想在本地跑大模型的开发者,只能在苹果的统一内存生态与英伟达昂贵的高功耗加速卡之间二选一;RTX Spark用128GB统一内存加高带宽互联,把两种选择的优点拼在一起,也迫使英伟达自家的DGX Spark与RTX系列重新定位。对苹果而言,其在统一内存架构上的领先窗口正在收窄。对行业而言,本地推理与云端订阅之间的边界会因此重新划分,终端算力的每一次跃升,都会改写软件的交付方式。
短期看,真正的考验在实测:统一内存的实际带宽能否撑住长上下文推理与多代理并发,2比特量化模型在复杂推理上是否明显掉分,都需要第三方基准来回答。长期看,如果本地推理体验足够好,企业把敏感数据留在本机的诉求将获得技术支撑,云订阅之外的另一种AI使用方式才真正成立。














