DeepSeek V4.2传出新动向,Harness或首次推出企业版!(deepseek出问题了丨) szthrk.cn

智猩猩AI整理

编辑:林夕

近日,一份关于 DeepSeek 的行业访谈摘要在网上流传。

据摘要, DeepSeek V4.2 或与新版 Harness 同步发布,并推出 Harness 企业版,重点面向金融和医疗。摘要还谈到了 DeepSeek 的芯片采购、推理部署和模型训练。

今年 10 月,DeepSeek 发布 V4.1 Flash-1017 时,曾在同一条公告里建议用户升级 Harness。

在企业接入方面,目前已有一个公开案例。

腾讯云文档显示,用户可以在 DeepSeek Harness 中配置腾讯云 Token Plan 企业版的 API Key,再通过 Harness 调用套餐里的模型。

至于传闻中的 DeepSeek 自有 Harness 企业版,会怎么交付、首批开放哪些功能,目前还没有公开信息。

DeepSeek 产品部成员崔添翼近日提到,Harness 的跨会话长程记忆可能快有了,是否会随下一版上线还未明确。

关于算力,访谈摘要先提到了国产卡的供给。按摘要说法,寒武纪和昇腾的供货都有限,每增加一家芯片供应商,团队就要多做一套适配。

推理方面,摘要称,DeepSeek 在国内的推理已主要使用国产卡,其中昇腾约占 65% 至 70%。

以英伟达 H200 为参照,摘要给出的寒武纪思元 690 和昇腾 950PR 表现分别约为 70% 至 75%和 70%。摘要还提到,每秒生成的 Token 数仍落后约 30% 至 40%。

公开资料里,已经能找到国产卡部署 DeepSeek 的实例。

vLLM-Ascend 文档给出了在一台配有 8 张昇腾 950DT的服务器上部署 DeepSeek V4-Flash-0731的配置,也列出了适用于 950PR 和 950DT 的低比特量化方案。

DeepSeek 同时自己也公开了部分推理软件。

10 月 20 日,官方宣布开源自研推理框架 DeepInfer,称它已用于大规模运行 V4.1 Flash,后续模型的推理代码也会放进同一仓库。

当天一起开源的还有 deepseek-recipe,开发者自行部署模型时,可以沿用官方 API 的 Token 编解码逻辑。

到了训练端,摘要称,DeepSeek 手里的英伟达 B 系列芯片比对手少。

如果用 H200 集群补充算力,性能约为 GB300 集群的 45% 至 50%。按摘要所述条件,训练一个 6000 亿参数级模型可能多花 1.5 至 2 个月。

昇腾能否进入 DeepSeek 的预训练,此前也有报道。

知情人士称,DeepSeek 正在测试华为昇腾 950DT,最快可能在今年年底将其用于预训练,时间仍可能调整。报道还提到,双方的合作涉及后续 AI 芯片设计。

按华为公开的路线图,950DT 面向模型训练和推理解码,下一代 960DT计划于 2027 年第一季度推出。

至于 DeepSeek 何时把 950DT 用到正式预训练,目前仍没有公开时间表。