DeepSeek DSpark:重点不是新模型,而是推理系统能力
12 分钟阅读
这篇文章从生产系统视角解读 DeepSeek DSpark:半自回归草稿生成、置信度调度验证、线上吞吐和单用户速度提升,以及为什么它应该被理解成推理服务能力,而不是模型能力升级。
共 2 篇文章
这篇文章从生产系统视角解读 DeepSeek DSpark:半自回归草稿生成、置信度调度验证、线上吞吐和单用户速度提升,以及为什么它应该被理解成推理服务能力,而不是模型能力升级。
这篇文章复盘 Orca 针对 DeepSeek Prefix Cache 的九轮缓存优化:从 budget hint 破坏 system prefix,到 volatile 上下文、wire 等价 token 计算、summary state、extractive compaction、remote summary 0% 命中,再到最后用真实 API 评测把主链路稳定到 99% 左右。