当每百万tokens输出降至6元,大模型从“奢侈品”变为“日用品”的背后,是一场静默的推理效率革命。

2026年5月25日,DeepSeek宣布其旗舰模型V4-Pro的API价格永久下调至原价的25%,输出价格定格在每百万tokens仅6元人民币。与此同时,其轻量版DeepSeek-V4-Flash已成为全球调用量最高的AI大模型。这不是一次简单的价格战,而是模型架构与推理系统工程共同突破的结果。

本文将穿透降价新闻的表层,从MoE稀疏架构、KV Cache优化、投机性采样等推理加速技术,到模型蒸馏、量化和剪枝的轻量化路径,深度解析大模型推理成本逼近极限的技术逻辑,并探讨算力供需关系转变下的新经济模型。


一、价格屠刀背后的工程“三驾马车”

DeepSeek-V4-Pro能够将输出价格压至每百万tokens 6元,并非依靠亏本补贴,而是从推理链条的每一个环节“挤出水份”。其核心降本技术可归纳为三驾马车:MoE稀疏激活、KV Cache优化与投机性采样。

1.1 MoE(混合专家模型):用“随叫随到”替代“全员集结”

传统Dense模型(稠密模型)每次前向传播需要激活全部参数。以1750亿参数的GPT-3为例,每生成一个token都要计算1750亿次浮点运算——即便该token只涉及“是”或“否”这种简单逻辑。这好比每次家庭聚餐都让整个村子的人一起做饭,效率极低。

MoE架构则引入“路由器”机制。模型内部设有多个“专家”(Expert),每个专家擅长不同的知识领域。对于输入的token,路由器只激活Top-K个最相关的专家(通常是1-2个)。DeepSeek-V4-Pro采用MoE变体,总参数量可能超过万亿,但每次推理实际激活的参数仅占一小部分(例如10%-20%)。

工程价值:激活参数量的降低直接减少了浮点运算次数(FLOPs),从而降低计算成本。据DeepSeek公开技术报告,MoE架构相比同规模Dense模型,推理吞吐量可提升3-5倍,单次请求的成本下降70%以上。

1.2 KV Cache优化:不让历史成为负担

大模型生成文本时,每个新token都需要“回顾”之前所有token的键值对(Key-Value pairs)。如果不加优化,长度从100增长到1000,计算量将呈平方级增长。KV Cache技术本质上是“空间换时间”——将已计算的键值缓存起来,避免重复计算。

但KV Cache也带来新问题:长上下文场景下,缓存会占用大量显存。例如,一个100万上下文长度的模型,KV Cache可能占用数十GB显存,直接导致批处理大小(batch size)下降,单位成本上升。

DeepSeek的优化路径

  • 多头潜在注意力(MLA):DeepSeek自研的注意力变体,通过低秩压缩将KV Cache的体积压缩至原来的1/5-1/10。
  • 滑动窗口+稀疏注意力:只对局部窗口内的历史保持高密度缓存,远距离位置采用稀疏存储。

工程价值:KV Cache优化使得单卡H800(80GB显存)可支持更大批量的并发推理,每张GPU每小时处理的请求数大幅提升,摊薄固定成本。

1.3 投机性采样:用“草稿模型”抢跑

这是最具反直觉的技术之一。标准自回归生成中,模型每次只生成一个token,然后将其放回输入再生成下一个token——串行执行,无法利用GPU的并行计算能力。

投机性采样引入一个小型“草稿模型”(Draft Model),它比主模型快10-20倍,每次先“猜”出后续5-10个token。然后主模型一次性并行验证这些候选token是否正确。如果草稿猜对了大部分,主模型只需要一次前向传播就能确认多个token,从而实现“并行”效果。

工程价值:理论加速比可达2-3倍,尤其适用于高吞吐量的离线批处理场景。DeepSeek-V4-Pro的生产环境中,投机性采样贡献了约25%的推理性能提升。


二、轻量版的高调用量之谜:蒸馏、量化与剪枝的艺术

DeepSeek-V4-Flash(轻量版)调用量登顶全球,说明市场对“够用且便宜”的模型存在巨大需求。其背后是三道轻量化工序的协同作用。

2.1 模型蒸馏:从“大学教授”到“高效工程师”

蒸馏是一种知识迁移技术:用大模型(教师模型)指导小模型(学生模型)学习。具体而言,教师模型对每个输入输出一个概率分布(软标签),小模型不仅学习正确答案,还学习教师模型在错误答案上的“模糊判断”——这实际上蕴含了类别间的相似性知识。

DeepSeek-V4-Flash很可能是从V4-Pro蒸馏而来,参数量可能仅为后者的1/10到1/20。在数学推理、代码生成等任务上,蒸馏版可保留原版95%以上的性能,但推理速度快5-10倍。

2.2 量化:用“低精度”换“高效率”

传统模型参数使用FP16(16位浮点数)存储和计算。量化技术将参数转为INT8或INT4(4位整数)。以INT4为例,每个参数从16位压缩到4位,理论上显存占用降至1/4,且可以利用专用硬件加速(如NVIDIA的INT4 Tensor Core)。

代价与平衡:量化会带来精度损失。DeepSeek在Flash版中可能采用“混合量化”——敏感层(如注意力输出层)保持FP16或INT8,非敏感层使用INT4,并通过量化感知训练(QAT)微调恢复精度。

2.3 剪枝:删除“从不上场”的神经元

神经网络中存在大量冗余参数,某些神经元在训练后对任何输入的激活值都接近于零。剪枝技术将这些“无用”的神经元及连接删除。

结构化剪枝 vs. 非结构化剪枝:非结构化剪枝零散删除单个权重,但得到的稀疏矩阵难以加速;结构化剪枝按通道或整层删除,可直接利用现有硬件加速。DeepSeek-Flash更可能采用结构化剪枝,保留完整的MoE专家结构但减少每个专家的隐藏层维度。

工程价值:三者的组合可使模型体积压缩至1/10以下,推理延迟降至毫秒级,足以支撑实时聊天、在线客服等高并发场景——这解释了其全球第一的调用量。


三、从成本中心到利润中心:推理经济模型的重构

当DeepSeek将输出价格压至6元/百万tokens,而OpenAI同类模型仍在15-30元区间时,一个关键问题浮现:这究竟是自杀式价格战,还是可持续的商业模式?

3.1 算力供需关系的逆转

过去两年,算力市场的主旋律是“训练优先”。前沿模型参数量每年增长10倍,训练集群从千卡扩展到十万卡。但进入2026年,推理需求开始超过训练。原因有二:

  • 应用爆发:AI客服、代码助手、个性化推荐等场景的日活用户数以亿计,推理请求量呈指数增长。
  • 训练收敛:参数规模带来的边际收益递减,前沿模型不再盲目扩大参数量,而是转向更高效的架构(如MoE)。

甲骨文与OpenAI签署的5年3000亿美元推理算力订单,以及云厂商终结“只降不升”定价规则,都指向同一个结论:推理正在从买方市场转向卖方市场

3.2 DeepSeek的算力套利逻辑

DeepSeek敢于永久降价,其底层逻辑是:

  1. 闲置算力变现:DeepSeek自建训练集群在非训练时段有大量闲置算力,用于推理几乎是零边际成本。
  2. 架构优势带来的单位成本洼地:MoE+KV Cache优化+投机采样,使其推理成本本就低于行业平均30%-50%。
  3. 规模效应:低价吸引海量调用,进而积累更多反馈数据用于模型迭代,形成“更多调用→更多数据→更好模型→更低成本”的正向循环。

3.3 推理服务的利润中心可能性

传统观点认为,推理是纯成本中心——每服务一个请求都要消耗算力,规模越大亏得越多。但新经济模型正在改写这一认知:

  • 增值服务收费:基础推理低价甚至免费,但在更长的上下文、更高的一致性保证、私有化部署等增值服务上收费。
  • 数据飞轮:用户调用产生的偏好数据可用于模型微调、广告推荐,从而产生二次收益。
  • 算力期货:在算力闲置时低价出售推理服务,在高峰时优先满足高价值客户,实现类似电网的“峰谷定价”。

四、结论:成本极限远未到来

DeepSeek-V4-Pro以6元/百万tokens的价格重新定义了AI推理的成本基准。透过MoE稀疏激活、KV Cache优化、投机性采样等工程手段,以及蒸馏、量化、剪枝的轻量化路径,我们看到降价并非简单的“烧钱换市场”,而是技术红利的持续释放。

从经济模型看,推理服务正从成本中心向利润中心转变,算力供需关系的逆转赋予云厂商和模型提供商更多定价主动权。而更深远的趋势是:当推理成本趋近于零,AI将真正嵌入每一行代码、每一次搜索、每一通客服电话

到那时,底层的模型架构可能变得无关紧要,而上层的中间件、编排层和应用生态将成为新的战场。以金蝶天燕为代表的国产中间件厂商若能在这一轮基础设施变革中找准定位,或许能从“传统中间件”走向“AI中间件”,成为连接大模型与数字世界的“神经中枢”。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐