DeepSeek开源推理框架DeepInfer并配套DeepSeek Recipe，称一张算力卡日入6100元，KVCache管理等组件尚未完整开源

DeepSeek开源了推理框架DeepInfer，并配套发布DeepSeek Recipe用于统一Codex的Responses API、Claude Code的Messages API等各家接口与DeepSeek的交互格式，且同时适配华为和英伟达硬件。文章称按其公开的内部账本，手把手跟上的话一张卡一天能收米6100块，并对比称现在最贵的B300租一个小时也就不到60块（9刀）。技术细节方面：Confidence Head置信度预测头相比之前挨个核查减少了足足30%的工作量，提高了4%～7%的token吞吐；V4.1 Flash出厂时硬盘里的缓存占用压缩到了前代的八分之一，并采用SWA Bounded Replay（有界回放）技术使处理输入的计算量直接砍半；MTP多Token预测早在DeepSeek V3时引入，今年七月份发布DSpark批量生成草稿。DeepSeek在公告中说明，推理系统中的KVCache管理与负载均衡组件因与内部基础设施耦合较深，相关代码目前尚未完整开源；已开源代码更利好软件芯片厂商调试或中小企业私有化部署，对云服务大厂和直接竞争对手则不够用。

来源：快科技 · 2026/10/21 · 查看原始来源