数万到十万Token/s，这是灵汐科技交出的异构推理吞吐成绩。近日，灵汐科技联合中移（苏州）软件技术有限公司、中国电子科技南湖研究院申报的“面向大模型高性能推理FFN加速类脑超节点”，入选2026世界互联网大会“互联网之光”博览会十大精品首发成果，为国产算力降本增效递上了一份新解。
先厘清一个背景。大模型推理为什么越来越贵？根源在于资源错配。以Transformer架构为例，每一层都包含Attention和FFN两个核心模块。前者忙着读KV Cache，吃的是显存容量和带宽；后者埋头加载权重做矩阵计算，要的是低延时的算力。两种需求塞进同一张GPU，谁也吃不好。
有人可能会问，这跟类脑芯片有什么关系？灵汐的思路就是把这两种活拆开干——GPU继续负责Attention，把FFN和MoE专家层的推理交给类脑芯片。说白了，就是给GPU装上一台涡轮增压器，让它专心干自己擅长的活。
类脑芯片凭什么能干FFN？灵汐自研的KA200采用12nm制程，核心是片上SRAM存算一体加事件驱动。传统GPU得在显存和计算单元之间反复搬运数据，KA200则把权重直接驻留在计算单元旁边，数据不必长途奔波；事件驱动机制又让计算按需调度，少做无用功。
数字最能说明问题。按照同等投入成本对比，GPU加类脑超节点的方案，推理吞吐和能效都实现一倍以上提升，综合业务运营成本下降超过40%。更早前，灵汐团队基于DeepSeek V4 Flash完成异构推理测试，在不低于32K长上下文条件下，3到6台A800 GPU服务器搭配3台类脑超节点，输出吞吐达到数万到十万Token/s。
有意思的是，这条路瞄准的其实是全球正在兴起的AFD路线——把Attention和FFN拆开部署。英伟达已经把Rubin GPU与Groq LPU组合，探索下一代异构推理架构；国内灵汐则依托自研类脑芯片，走出了一条中国特色的实现路径。
更大的想象力在于利旧。眼下不少智算中心堆了大量存量GPU，其中一部分性能已跟不上新一代高端产品。灵汐已经与天数智芯较早型号的GPU完成对接，推理输出和能效同样提升一倍以上。等于说，不用把旧卡全换掉，加个类脑超节点就能让它焕发第二春。
这套方案也已在头部电信运营商智算中心完成主流大模型商用验证。当然，从样机首发到标准化算力单元公开展示，国产AFD路线刚进入产业卡位阶段，离大规模铺开还有距离。但有一点已经很清晰：当大模型推理进入规模化应用，决定算力竞争力的，已经不只是单颗芯片的制程，更是硬件分工、数据搬运和跨架构调度这些系统级的功夫。
