
IT时代网11月15日消息,此前搭建八卡 Tesla V100 私有 AI 服务器的一位律师完成了新一轮升级:内存从 256GB 扩到 1TB,补入一张英伟达 RTX 3090,并修好了由劣质电源引发的宕机问题,把 DeepSeek V4.1 Flash 的权重从约 2 bit 提升到接近 NVFP4 的 4 bit 精度。
升级后,这套系统可以承载 DeepSeek V4.1 Flash 约八成的运算。代价是代码生成速度从原先的 160 至 215 tokens/s 降到 150 至 180 tokens/s。原先一次只处理一个请求的限制也已解除,可同时响应多个请求。
软件侧由 Claude Code 编写内核并执行基准测试,Opus 5.5 与 Fable 5.2 承担了优化、自定义 Volta 内核与专家重量化工作,项目名从「Volta sPLIt」改为「Volta Max uPLIft」。八张 V100 仍依赖 R580 驱动分支,这是英伟达最后一个支持 Volta 的驱动版本。

编辑:林一舟















