企业把大模型用于长文档问答、智能客服和智能体任务之后，经常会遇到同一个问题：不同用户的请求包含大量相同背景材料，但模型仍反复处理这些内容。重复计算不仅增加等待时间，也持续占用昂贵的加速卡资源。如何让模型重复利用已有计算结果，成为推理基础设施优化的新方向。
重复计算发生在哪个环节？
大模型处理上下文时会产生KV Cache等中间结果。当不同请求或不同节点重复使用相似前缀内容，如果每次都重新计算，首Token响应时间便可能增长。让这类中间结果在适当条件下被保存与复用，可以减少相同内容的重复处理。
图1：中科曙光高端存储产品资料图，先进存储正从保存原始数据扩展到保存与复用推理中间结果。
ParaCache如何工作？
2026年8月28日，中科曙光发布ParaCache词元加速方案。其主要思路是统一管理GPU显存、CPU内存、固态硬盘与分布式存储，让已完成的计算结果按使用频率分层存放，并在满足条件的情况下跨请求、跨节点共享。该方案以ParaStor为基础，并结合FlashNexus存储能力。
据公司公布的测试，在约12万词元输入场景下，ParaCache可使模型开始回答前的等待时间最高降低98.5%；在高并发场景下，每秒处理的词元量最高达到原来的27倍。这是公司给出的特定实验条件下的结果，不能直接推断任何模型、任何业务系统都能达到相同表现。
图2：中科曙光NEBULA系列计算设备资料图；ParaCache目标是减少AI推理的重复计算开销。此图不表示ParaCa
从保存数据到保存计算成果
传统存储侧重文件、数据库和模型权重等内容，而ParaCache进一步关注模型执行过程中已经产生的可复用结果。在长文本、多轮对话和智能体服务中，如果能够减少重复计算，企业便可能用相同计算资源承接更多请求。
但缓存复用同时需要考虑正确性、失效策略、访问权限与数据隔离。真正有效的推理加速不仅要看速度，也应关注结果一致性和安全性。ParaCache提供了观察AI存储与计算深度融合的一条具体技术路径。
