无审查 DeepSeek Flash API
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP —— 最低价位、262K 上下文、没有拒答层。它就是你拿去对付那种一天要跑一万次的任务的模型。
太长不看
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 是 Shannon AI 网关上 DeepSeek 家族的大批量档位。它跑在我们自己的 GPU 集群上,价格为每 100 万输入 token $0.50、每 100 万输出 token $2.00 —— 我们目录的地板价 —— 配 262,144 token 上下文、最多 16,384 输出 token、流式传输、工具调用、带 reasoning_effort 的推理,以及严格的 json_schema 结构化输出。这里没有拒答层,也不做输出过滤。它不是 DeepSeek-V4-Pro 的残废版:Pro 是一个大得多的基座被压到 3 比特,而 Flash 是一个更小的基座以保真度更高的 4 比特 AutoRound 量化承载。这是同一条曲线上的两个不同点,谁赢完全取决于你的任务。
大多数团队在评估大模型 API 时优化错了变量。他们拿自己能想到的最难的二十条提示词做基准测试,挑出赢家,然后六周后发现:自家 95% 的流量是又短、又结构化、又重复的活儿,用一个便宜到四分之一的模型处理起来毫无差别。DeepSeek-V4-Flash 正是为那 95% 而存在。这一页要讲的,就是怎么判断你身处其中 —— 以及什么时候你不在其中。
01你实际拿到的东西
| 属性 | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| 模型 id | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| 上下文 / 最大输出 | 262,144 tokens / 16,384 tokens |
| 每 100 万价格(输入 / 输出) | $0.50 / $2.00 |
| 流式 · 工具调用 · 推理 | 支持 —— 三种方言均可 |
| 结构化输出 | json_schema 与 response_format |
| 图像输入(视觉) | 不支持 —— 纯文本 |
| 拒答层 / 输出过滤 | 无 |
| 运行于 | Shannon 自己的 GPU 集群 |
三种 API 方言通向同一份权重:/v1/chat/completions(OpenAI 形态)、/v1/messages(Anthropic 形态)和 /v1/responses。三种都支持流式。完整参数参考见 API 文档。
02它从哪儿来:DeepSeek 的谱系
DeepSeek-AI 用五代模型执着于一件事:让前沿表现出自一个服务起来便宜、而不仅仅是训练起来便宜的模型。这条线上几乎每一个架构决策都能追溯到这一点,而重要的那些都公开发表了。有三项能解释你打这个接口时到底在调用什么。
DeepSeekMoE —— 细粒度专家外加一个共享专家
混合专家层把一个大的前馈网络换成许多小的,再加一个路由器为每个 token 挑出少数几个。DeepSeek 的变体把专家切得比常规的八专家布局更细,于是同样的激活算力买到了组合上具体得多的混合;同时它隔离出一个共享专家,让每个 token 都要经过它,这样常识就不必在每个专家内部被冗余地重新学一遍。DeepSeek-V3 把它实现为 256 个路由专家加 1 个共享专家,每 token 激活 8 个路由专家 —— 总参数 6710 亿,激活 370 亿 —— 并配上无辅助损失的负载均衡:不是靠一个会损害质量的惩罚项,而是在每一步根据某个专家是欠载还是过载,用一个逐专家偏置把它的路由得分往上或往下推。
MLA —— 装得进内存的注意力
服务成本问题的另一半是 KV 缓存,它随上下文线性增长,并在长序列下主导内存占用。多头潜在注意力(Multi-head Latent Attention)在 DeepSeek-V2 中被引入,它把键和值联合压缩成一个低秩潜在向量,缓存这个向量,再实时重建可用的 K/V。DeepSeek 公布的 V2 数据显示,相对他们早前的稠密模型 DeepSeek 67B,KV 缓存减少 93.3%、最大生成吞吐提高 5.76×。这就是为什么在这个家族里,262K token 的窗口是基本盘,而不是要加钱的选配。
稀疏注意力 —— 以及廉价 token 的先例
V3.2-Exp 加入了 DeepSeek 稀疏注意力:一个轻量索引器把上下文 token 对查询打分,选择器只保留得分最高的那些。有意思的是那张收据,而不是机制本身。DeepSeek 公布了与 V3.1-Terminus 的逐项对照:MMLU-Pro 持平于 85.0,AIME 2025 上升(88.4 → 89.3),SWE-bench Verified 略降(68.4 → 67.8)—— 质量基本持平 —— 而他们在同一天把 API 价格砍了一半以上。架构,被如实报告,直接变成价格。Flash 就是这个论证再往前迈的一步。
V4 这一代
V4 于 2026 年 4 月以 MIT 许可证放出预览,再次更换了注意力栈,改用压缩稀疏注意力与重压缩注意力的混合,用 Muon 优化器在超过 32T token 上训练,并保留了 V3 的多 token 预测目标 —— 这个目标同时充当投机解码,DeepSeek 在 V3 上测得第二个 token 的接受率为 85–90%,带来约 1.8× 的解码加速。V4 摘要报告称,V4-Pro 的单 token 推理浮点运算是 V3.2 的 27%、KV 缓存是它的 10%。这个家族对外暴露三档推理强度,也正是我们的 reasoning_effort 参数所映射的对象。
来源:DeepSeek-V2(arXiv 2405.04434)· DeepSeekMoE(arXiv 2401.06066)· DeepSeek-V3 技术报告(arXiv 2412.19437)· DeepSeek-V3.2-Exp 模型卡 · DeepSeek-V4(arXiv 2606.19348)。所有数字均为 DeepSeek 自报。
03"Flash"到底是什么意思
这是大多数对比搞错的地方,所以值得直说:DeepSeek 的 Flash 不是被量化、被剪枝或被蒸馏过的 Pro。它是一个单独训练的、更小的混合专家模型,有自己的预训练过程。V4 预览论文给出了两个尺寸:
数据出自 DeepSeek-V4 预览论文。我们实际提供的官方检查点 —— V4-Flash-0731 和 V4-Pro-0813 —— 在其模型卡上列出的总参数略大,分别是 3040 亿和 1.7 万亿;DeepSeek 没有为这两个构建重新给出激活参数。
这里起作用的是两个数字。总参数决定内存占用,它决定一份模型副本要占多少硬件。激活参数决定每 token 的算术量,它决定吞吐。Flash 在前一项上小约 5.6×,在后一项上小约 3.8× —— 而这个差距里有个值得注意的微妙之处:Flash 在 2840 亿参数中激活 130 亿,约 4.6%;而 Pro 在 16000 亿中激活 490 亿,约 3.1%。Flash 才是更不稀疏的那个模型。它并不是简单地把 Pro 的专家少开几个;它是一个更稠密、平衡方式不同的设计,为它产出的每一个 token 投入了自身更大的比例。这是一个真实的工程选择,不是降级。
DeepSeek 自己的数字怎么说
两张官方模型卡在同一批智能体与软件工程基准上公布了分数,这让对比异常干净 —— 同一个实验室、同一套评测装置、两个尺寸:
| 基准(DeepSeek 自报) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
每一行都是 Pro 赢。这是诚实的头条,我们宁愿你在这里读到,而不是在生产环境里发现。但请读一读那些差距,因为那才是你真正在买的东西。在 Terminal Bench 2.1 上,一个参数只有二十五分之一的模型只差 5.2 分;在工具使用上差 3.8 分。活儿越深,差距越大 —— DeepSWE 差 8.3 分,NL2Repo 差 7.3 分,这两项都奖励持续的多步代码推理。一张表就把这笔交易的形状说清楚了:在有边界的任务上 Flash 追平了大部分距离,在开放式任务上它让出阵地。
DeepSeek 自己的 Flash 模型卡把这一点说得更尖锐:尽管激活参数少得多,Flash-0731 在所列基准上胜过 V4-Pro 预览版。在这个领域里,更新的小模型打败更老的大模型是常态,这也正是"更高的档位"永远不该成为你的默认答案的原因。
关于上下文的一点说明
DeepSeek 为 V4 家族公布的是 100 万 token 上下文。Shannon AI 网关以 262,144 token 提供这个模型 —— 这是我们目录中全部十二个模型统一的窗口,也是你在 Pro 上拿到的同一个窗口。我们宁愿让列表里每个模型在上下文上表现一致,也不想让你为每个模型 id 背一个不同的上限。
04读懂后缀:W4A16-AUTOROUND-REAP
我们的模型 id 把压缩方案大声说出来,因为它是最影响输出质量、却几乎没人披露的东西。这一个可以拆成三项声明。
W4A16 —— 4 比特权重,16 比特激活
权重每个以 4 比特存储;激活以 16 比特精度流过。这是仅权重量化,它针对的是 token 生成中真正的瓶颈,也就是内存带宽而非算术。把激活也量化会再快一点,但会冒着精度大幅塌陷的风险;把它们留在 16 比特是保守而高保真的选择。这个记号是服务生态的简写 —— 量化文献里会把同一件事写成 W4 加一个分组大小。
AUTOROUND —— 学出来的舍入,而不是就近舍入
朴素量化把每个权重舍入到最近的可表示值。这显然不是最优的:把某个权重往"错误"方向舍入,可能抵消掉邻居引入的误差,而在数十亿权重的规模上,这些相互作用占主导。来自 Intel 的 AutoRound 把舍入决策本身当成可以学习的东西 —— 一个受限于 ±0.5 的可训练逐权重扰动,刚好足以翻转任意一次舍入决策而绝不更多,再加上可学习的截断范围,在一个小型校准集上以带符号梯度下降针对逐块输出重建目标优化。两百步,收工。
Intel 公布的对比显示,在 4 比特仅权重设置下,AutoRound 在 32 个测试场景中有 30 个胜过 GPTQ、27 个胜过 AWQ、29 个胜过 OmniQuant;在 2 比特下相对朴素的就近舍入有 6.9 到 33.2 个准确率百分点的提升。这一切在推理时不花任何代价:它只是一次离线做出的、更好的数值选择。
REAP —— 丢掉没人路由过去的专家
来自 Cerebras Systems 与卡尔加里大学的 REAP(Router-weighted Expert Activation Pruning)是面向 MoE 模型的一次性压缩。它按路由器门控到某个专家的强度与频率,乘以该专家输出的幅度来打分,然后把最不显著的专家直接删掉 —— 事后不做重新训练。
论文的核心发现才是有用的那个:在高压缩率下,剪掉专家优于合并专家。合并功能上各异的专家会造成作者所谓的功能子空间塌陷 —— 路由器失去了那种让 MoE 值得一建的、细粒度、依输入而变的控制力,只剩下在若干静态平均值之间打转。他们在 200 亿到 1 万亿参数模型上的数字是:在编码任务上以 25% 的专家压缩率,REAP 平均准确率损失 2.8%,而合并类基线损失超过 5%;在 50% 时,REAP 损失 8.0%,合并损失超过 20%。在 Qwen3-Coder-480B 上以 50% 剪枝率,下降为 1.4%,而朴素的按频率剪枝为 39.3%。Cerebras 已经为包括 DeepSeek 在内的多条产品线公布了 REAP 检查点。
为什么这里用 4 比特,Pro 上用 3 比特
两个档位都得装进同一类硬件并保持够快。Pro 带着 1.7 万亿参数,所以它必须接受更激进的 3 比特处理才装得下。Flash 带着大约 3000 亿,所以它不必 —— 省下来的那一个比特,被花在保真度上,而不是花在"塞得进去"上。
那多出来的一个比特,其意义比算术看上去更大,因为量化损伤不是线性的。在 AWQ 论文的 WikiText-2 测量中,Llama-2-7B 从 FP16 的 5.47 困惑度变为 4 比特下的 5.60 —— 2.4% 的代价 —— 但到 3 比特就是 6.24,14% 的代价。这大约是多压缩 25% 换来六倍的退化,同样的模式在 70B 上也成立。GPTQ 论文说得更不客气:在 3 比特下,朴素的就近舍入在 1750 亿级模型上直接崩溃,困惑度飙到几千,而在 4 比特下仍然完全可用。低于四比特,一个好的量化算法就不再是锦上添花,而是唯一还把模型撑住的东西。
所以对这两个后缀的诚实解读是:Flash 距离它自己的未压缩版本,比 Pro 距离它自己的更近。Pro 仍然是更强的模型 —— 上面那张基准表已经定了案。它只是为了走到这一步交出了更多,而你要为这份特权付钱。
来源:AutoRound ——《Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs》(arXiv 2309.05516),Intel,EMNLP 2024 Findings。REAP ——《REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression》(arXiv 2510.13999),Cerebras Systems。困惑度数字出自 AWQ(arXiv 2306.00978)与 GPTQ(arXiv 2210.17323)。
05接口层面的 Flash 与 Pro
第 03 节讲的是基座。下面是这两个档位作为我们网关上的产品长什么样:
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| 量化 | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| 权重精度 | 4 比特,学习式舍入 | 3 比特 |
| 基座(总参 / 激活) | ~304B / 13B | ~1.7T / 49B |
| 每 100 万输入 token | $0.50 | $1.95 |
| 每 100 万输出 token | $2.00 | $3.90 |
| 上下文 / 最大输出 | 262,144 / 16,384 | 262,144 / 16,384 |
| 工具 · 结构化输出 · 流式 | 支持 | 支持 |
| 视觉 | 不支持 | 不支持 |
| 拒答层 | 无 | 无 |
注意什么没有变:上下文、输出上限、工具调用、结构化输出,以及没有拒答层这一点,两者完全一致。会动的只有基座、量化和价格。这让在两者之间切换在代码里只是改一个字符串,在架构上则是一个纯粹的经济决策。
一次顶格调用要花多少钱
把整个 262,144 token 上下文填满,并取满 16,384 token 输出:
按标价计。Flash:输入 $0.131 + 输出 $0.033。Pro:$0.511 + $0.064。比值 3.51×。Flash 还与 MiniMax-M3、Laguna-S-2.1、MiMo-V2.5、MiMo-V2.5-Pro 和 Hy3 共享 $0.50 / $2.00 的地板价 —— 它们在视觉与结构化输出上的差别,见完整目录。
06把跑量的账算清楚
"便宜 3.9×"只在输入上成立。在输出上 Flash 便宜 1.95×。所以你真实的节省取决于你的输入输出比,而这个跨度大到足以改变设计决策。四种现实任务,每种 10 万次请求:
| 任务 | 每次调用输入 / 输出 | Flash | Pro | 节省 |
|---|---|---|---|---|
| 工单分类 | 1,200 / 120 | $84 | $281 | 3.3× |
| RAG 问答 | 8,000 / 600 | $520 | $1,794 | 3.4× |
| 长文档摘要 | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| 合成数据生成 | 500 / 2,000 | $425 | $878 | 2.1× |
规律是:你推进去的上下文越多、生成的文本越少,Flash 帮你省得越多。检索流水线、文档分拣、日志与转写分析、长上下文抽取是甜蜜点 —— 它们的输入量比输出量高出一个数量级,而输入正是 3.9× 折扣所在的地方。反过来,如果你的任务是一段短提示词产出几千 token 的散文,差距会收窄到大约 2×,而 Pro 的能力论据也相应变强。
还有一笔值得内化的算术:在每 100 万输入 token $0.50 的价格下,把整个 262,144 token 窗口填满只要 13.1 美分。在这个价位上,长上下文提示不再是预算问题,这有时意味着你可以干脆不建检索层,让上下文窗口去干这活儿 —— 在 token 节省之上再省一笔工程。
07这里说的"无审查",精确地讲是什么
这个词被用得很松,所以给出我们的定义,作为接口的一条属性来陈述:模型前面没有拒答分类器,输出也不施加内容过滤。没有东西会拦下一条提示词并回一句罐头式的婉拒;没有东西会检查补全内容并把它涂黑。对高吞吐的生产工作而言,这带来的后果没有这个词听上去那么戏剧化,但更有用:
- 无害流量上不会误报。带过滤的接口经常拒绝医学摘要、安全分析报告、法律证据开示、小说、减害材料,乃至内容审核工作本身 — 而这些恰恰是批处理任务在处理关于敏感话题的文本、而不是在产出任何有害之物的类别。在十万次请求上,1% 的误拒率就是一千行坏数据。
- 确定性的契约。你请求一个
json_schema响应,拿到的就是符合该 schema 的 JSON,而不是本该是对象的位置上出现一段道歉。你的解析器不需要拒答分支,你的重试逻辑也不必去区分传输失败和策略失败。 - 策略归你所有。这就是那笔交易。如果你的产品需要为终端用户设护栏,你就在自己那一层建,因为你了解你的用户和你的司法辖区,而不是继承供应商对这两者的猜测。你的账户仍受我们的《负责任使用政策》约束。
无审查不等于未对齐或不听话。模型仍然遵循指令,仍然尊重系统提示词。如果你希望它对你的用户拒绝某些类别,就在系统提示里说 —— 那条指令现在由你来写,而不是由我们来强加。
08能力与诚实的边界
对跑量工作来说,有两项能力承担了大部分分量。严格的 json_schema 输出把一次补全直接变成一行数据库记录,不需要解析层,也不需要拒答分支。三种方言中都可用的工具调用让 Flash 成为一个合理的引擎,去承担某个顶层规划者跑在更强模型上的智能体的廉价子步骤。再加上 reasoning_effort,让你只在需要的那一小部分流量上多花 token,以及一个与 Pro 完全相同的 262,144 token 上下文 —— 选便宜档位并不用交出上下文,这是不多见的。
边界同样具体:
- 没有视觉。Flash 是纯文本的,会拒绝消息中的图像部分。如果要在同样 $0.50 / $2.00 地板价的无审查模型上处理图像,MiniMax-M3 和 MiMo-V2.5 是具备视觉能力的选项;Kimi-K2.6 和 Kimi-K3 则是该档位之上更强的视觉模型。
- 不是梯子的顶端。DeepSeek 自己的数字让 Pro 在每一项公开的智能体基准上领先,而差距在持续的多步代码推理上最大。当一个错误答案的代价高过一千次廉价调用时,就多花那每 100 万的 $1.45 去用 DeepSeek-V4-Pro。
- 每次请求 16,384 输出 token。长篇生成必须跨调用分块。这是我们提供的每一个模型上相同的上限,而且它远在上下文窗口之前就先绑住你。
09怎么调用
把任何 OpenAI 兼容客户端指向网关,改掉模型字符串。你技术栈里的其他一切都不用动。
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
同一个模型 id 在 /v1/messages 和 /v1/responses 上原样可用,这是在不重写客户端的前提下、在既有集成底下 A/B 一个更便宜模型的最快办法。参数、流式事件形态、工具调用 schema 和速率限制都记录在 API 参考里;目录中的每个模型都列在 Shannon Research。
10常见问题
什么是无审查 DeepSeek Flash API?
它是 Shannon AI 网关上 DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP 的接口:DeepSeek 那个每 token 激活 130 亿参数的 V4-Flash 基座的 4 比特 AutoRound 构建,跑在我们自己的 GPU 集群上,没有拒答层,也不对输出做过滤,价格是每 100 万输入 token $0.50、每 100 万输出 token $2.00,上下文为 262,144 token。
DeepSeek V4 Flash 每 100 万 token 多少钱?
输入 $0.50、输出 $2.00,是 Shannon 网关上的最低价。DeepSeek-V4-Pro-0813 是 $1.95 和 $3.90,所以 Flash 的输入便宜 3.9 倍、输出便宜 1.95 倍。把整个 262,144 token 上下文填满,在 Flash 上约 $0.13,在 Pro 上约 $0.51。
我该用 DeepSeek V4 Flash 还是 DeepSeek V4 Pro?
当瓶颈是调用次数时用 Flash:分类、抽取、摘要、合成数据、RAG 问答、智能体子步骤。当瓶颈是单次调用的难度时用 Pro。Flash 不是被阉割的 Pro;它是一个更小的基座,配上保真度更高的 4 比特量化,而 Pro 是一个 1.7 万亿参数的基座配 3 比特量化。
DeepSeek-V4-Flash-0731 支持视觉和 JSON Schema 输出吗?
它支持严格的 json_schema 结构化输出和 response_format,另外还有工具调用、流式输出和 reasoning_effort。它不接受图像输入。如果你要在同样最低价位的无审查模型上处理图像,MiniMax-M3 和 MiMo-V2.5 是具备视觉能力的选项。
W4A16-AUTOROUND-REAP 是什么意思?
W4A16 指 4 比特权重配 16 比特激活。AutoRound 是 Intel 的学习式舍入方法,它用带符号梯度下降来优化舍入决策,而不是简单地就近取整。REAP 是 Cerebras Systems 面向混合专家模型的一次性专家剪枝方法,直接丢掉路由最少的专家,无需重新训练。
这个模型真的无审查、没有拒答层吗?
是的。模型前面没有拒答分类器,输出也不施加任何过滤,所以你拿到的是模型自身的分布。这同时意味着你自己承担产品的安全姿态,在你自己那一层构建护栏;账户仍受我们的《负责任使用政策》约束。
把你的量跑在 Flash 上
输入 $0.50、输出 $2.00,262K 上下文,不拒答。只改一个模型字符串。
阅读 API 文档 浏览全部 12 个模型Shannon Lab LLC · 美国新墨西哥州 · 受我们的《负责任使用政策》约束
来源:DeepSeek-V2(arXiv 2405.04434)· DeepSeekMoE(arXiv 2401.06066)· DeepSeek-V3 技术报告(arXiv 2412.19437)· DeepSeek-V4(arXiv 2606.19348)· DeepSeek-V4-Flash-0731 与 DeepSeek-V4-Pro-0813 模型卡 · AutoRound(arXiv 2309.05516,Intel)· REAP(arXiv 2510.13999,Cerebras Systems)· AWQ(arXiv 2306.00978)· GPTQ(arXiv 2210.17323)。所有基座与基准数字均按其各自作者所发布;Shannon AI 的价格与所提供的上下文是我们自己的标价值,截至 2026 年 9 月。