无审查 Nemotron API

大多数「开放」模型开放的只有权重，别的什么都没有 —— 一个参数压缩包、一份许可证，然后对这些数字从哪来闭口不谈。两年来，Nemotron 一直是那个稳定的例外：NVIDIA 把权重、后训练数据集、强化学习环境和配方一并放出。这一点对一个无审查接口的意义，很容易被忽略。一个对齐数据被公开的模型，它的拒答行为是可以推理的，而不是靠猜；而且第三方可以名正言顺地把它部署出来，不必在它嘴上再拴一层内容过滤器。

01什么是 Nemotron 3 Ultra？

Nemotron 3 Ultra 是 NVIDIA Nemotron 3 系列中体量最大的成员，于 2026 年 6 月 4 日发布到 Hugging Face。NVIDIA 的技术报告把它描述为「一个总参数 5500 亿、激活参数 550 亿的混合专家 Mamba-Attention 混合架构语言模型」—— 对任意一个 token 而言，大约只有 10% 的网络在工作，正是这一点才让一个半万亿参数级别的模型有可能被真正服务起来。

公布的结构是 108 层、模型维度 8,192，把 Mamba-2 状态空间层与少量完整注意力层交错排布，每个 MoE 层 512 个专家、top-22 路由。预训练在大约 20 万亿文本 token 上分两个阶段进行 —— 先偏多样性，再偏质量 —— 数据截止到 2025 年 9 月，覆盖 12 种自然语言和 43 种编程语言。后训练使用了 SFT、带可验证奖励的多环境强化学习，以及跨十余位专家教师的多教师在线策略蒸馏。它公开宣称的设计目标是长时间运行的智能体：那种要吃下大上下文、要调用几十次工具、跑得足够久以至于每 token 的经济性主导账单的会话。

02Nemotron 的血统，以及为什么这份履历重要

Nemotron 不是一次性产物。它是 NVIDIA 自 2024 年以来朝同一方向推进的研究计划的可见产出，而每一代都留下了现在这个模型仍在继承的东西。Nemotron-4 340B（2024 年 6 月）发布时附带了一整套开放的合成数据生成流水线、它的奖励模型和生成器，还有一个不寻常的披露：它的对齐数据绝大多数是模型自己生成的。把模型当作数据工厂而不是神谕 —— 这就是后来的 Nemotron 一直坚持把数据集与权重一起发布的原因。

Llama-Nemotron —— 可以关掉的推理

2025 年的 Llama-Nemotron 系列（LN-Nano 8B、LN-Super 49B、LN-Ultra 253B）贡献了两个经受住了时间考验的想法。第一个是架构上的：NVIDIA 的 Puzzle 神经架构搜索构建了一个逐块蒸馏的 Transformer 块库，再用混合整数规划把它们拼装起来，得到的模型里有些块干脆跳过注意力，或者用一个线性层取而代之；而 FFN Fusion 则把连续的前馈块折叠成更少、更宽、可并行的块 —— 削减的是串行深度，而不是参数量。LN-Ultra 可以装进单个 8×H100 节点，而按 NVIDIA 论文所述，它在 GPQA-Diamond 上超过了 DeepSeek-R1（76.0% 对 71.5%）。

第二个是行为上的：Llama-Nemotron 是第一个带动态推理开关的开放系列，训练数据在系统指令里被标注为 detailed thinking on 或 detailed thinking off，并用格式奖励在开启模式下强制生成 <think> 标签。一套权重，两种行为，推理时可选。Nemotron 3 的推理预算控制 —— 以及我们 API 上的 reasoning_effort 参数 —— 正是从这项工作直接继承下来的。

Nemotron 3 —— 转向混合架构

Nemotron 3 放弃了从 Llama 派生的做法，改为从零设计的混合架构，并加入了 LatentMoE（在路由前先压缩 token，NVIDIA 说这让「同样的推理成本可以支撑 4 倍数量的专家」）、多 token 预测，以及原生 NVFP4 预训练。NVIDIA 随权重一起发布了累计 5000 万条 SFT 样本、200 万个强化学习任务和 55 个强化学习环境 —— 你不必听厂商单方面讲这个模型被教了什么，因为教材本身就可以下载。

03混合架构究竟买来了什么

Transformer 的 KV 缓存随序列长度线性增长，这就是为什么长上下文推理往往先在显存上变贵，而不是在算力上。Mamba-2 层是状态空间模型，携带的是固定大小的循环状态，所以它每 token 的内存开销不随历史长度增长；它不擅长的是精确的联想式回忆。混合架构用 Mamba-2 承担序列处理的主体，再配上少数真正的注意力层来补上状态空间层做不好的回忆，同时用激进的 64 查询头 / 2 KV 头之比进一步压缩缓存。NVIDIA 报告在 100 万 token 长度下 RULER 达到 94.7% —— 这是一个专门用来抓那些「宣称了却用不了」的窗口的大海捞针基准。

结果体现在吞吐上：NVIDIA 宣称在精度持平的前提下推理吞吐最高约为同类模型的 6 倍，而 Artificial Analysis 独立测得 每秒 140.3 token、首 token 时间 1.33 秒 —— 在 89 个模型里排第 7。在一次 200 轮的智能体运行里，这就是「一个下午跑完」和「跑不完」的区别。

04老实说，「3BIT-REAP」到底是什么意思

这个后缀不是装饰 —— 它准确地告诉你，为了让基座装得下，我们对它做了什么。

REAP —— Router-weighted Expert Activation Pruning —— 来自 Cerebras Research，已被 ICLR 2026 接收。在稀疏 MoE 里，路由器会把每个 token 发给少数几个专家；在真实负载上，有些专家被不停命中，另一些几乎从不被用到。REAP 用一个显著性准则给每个专家打分，这个准则结合了路由器对它的门控强度和它输出贡献的大小，然后直接删掉最不显著的那些 —— Cerebras 报告在大到 1 万亿参数的模型上剪掉最多 50% 的专家，同时基本保住基线质量，并发现对代码这类生成式任务，剪枝优于合并。接着 3 比特量化再压缩幸存下来的部分。先剪枝、后量化，于是比特预算花在真正承担流量的专家上，而不是被摊薄到那些死掉的专家身上。

压缩不是免费的，我们也不打算装作它是：激进量化最先表现出来的，是在严格格式遵循和长链算术上的小幅退化，而不是肉眼可见的语无伦次。三个档位分别落在哪里：

后缀	它是什么	我们在哪里用它
3BIT-REAP	3 比特权重 + 专家剪枝	最大的基座，别的方案都没法兼顾装得下和跑得快
W4A16-AUTOROUND-REAP	4 比特权重 / 16 比特激活，AutoRound 学习式舍入，加剪枝	中等体量基座；AutoRound 相比朴素四舍五入能挽回精度
W8A16	8 比特权重 / 16 比特激活	保真度最高；基座本身够小，不需要激进压缩

5500 亿参数的 Nemotron 3 Ultra 稳稳落在第一类里。如果你的负载对长链上的精确数值输出格外敏感，研究索引里列出了 W8A16 档 —— MiMo-V2.5-Pro-W8A16 和 Hy3-W8A16 —— 价格在 $0.50/$2.00 的地板上。这是一次真实的取舍，不是漏斗话术：模型更小，压缩更少。

05在这个接口上，「无审查」意味着什么

具体地说：这里没有拒答层，也不对输出施加内容过滤。没有分类器去检查你的提示词然后返回一段套话式的婉拒，回复在进入你的流之前也不会被扫描一遍。你拿到的就是模型自己的行为。

这正是开放血统不再只是趣闻的地方。因为 NVIDIA 公开了后训练数据和强化学习环境，这个模型的倾向在原则上是可审计的，而不是道听途说。又因为 OpenMDW-1.1 是一份覆盖架构、参数、文档和软件的 Linux 基金会宽松许可证，独立运营方可以在自己的硬件上提供一个经过修改、未加过滤的部署，而不会被许可证卡住。很多「开放」模型的许可证并不允许这样做。这一份允许。这个差别会在「反射式拒答本身就是 bug、而不是安全特性」的场景里显现出来：

• 安全研究 —— 漏洞分析、利用链推理、恶意软件行为、红队工具，不用先争论这个问题该不该问。
• 化学、生物与药理学 —— 剂量计算、反应机理、毒理学、合成路线，这些在有过滤的接口上一碰到关键词就会被拒。
• 对抗性机器学习 —— 困难负样本、越狱语料和滥用分类体系，用来训练那些必须见过真东西的分类器。
• 临床、法律与法医文本 —— 本质上就很血腥的案件材料，也正因为如此而被拒答。

无审查不等于无需担责。你对自己生成的内容负责，账户受我们的《负责任使用政策》和《服务条款》约束。移除拒答层，移除的是一次对意图的猜测；它并不移除你在适用法律下的义务。

06理工科与推理：公开数字怎么说

自从 Llama-Nemotron 的后训练数据集就是围绕数学、代码、科学和指令遵循这四条轴构建以来，Nemotron 的训练重点一直是这些。NVIDIA 为 Nemotron 3 Ultra 基座报告的数字 —— 厂商在未压缩模型上报告的成绩，不是我们自己跑的：

有两条附注比数字本身更值钱。SWE-Bench Verified 那个成绩是一个区间 —— NVIDIA 报告 65.0% 到 70.4%，取决于用哪套智能体框架来跑（Pi、OpenHands、Hermes、OpenCode、Mini SWE Agent），仅仅脚手架不同就拉开五个百分点，足以说明智能体分数有多依赖框架而不是模型本身。另外，Artificial Analysis 把 Nemotron 3 Ultra 放在其智能指数的 48 分、89 个模型里第 9 —— 很强，但不是场上第一，而他们的独立测量是我们愿意比任何厂商 PPT 更看重的那一个。

关于上一代，NVIDIA 的 Llama-Nemotron 论文报告 LN-Ultra 在 GPQA-Diamond 上取得 76.0%，对比 DeepSeek-R1 的 71.5% 和 Llama-3.1-405B-Instruct 的 43.4%，另外 AIME 2024 为 80.8% —— 那是另一个模型，之所以列在这里，是因为研究生级科学和竞赛数学已经连续两代都是这个系列的目标。

基准数字来自 NVIDIA（2026 年 6 月）在未压缩 Nemotron 3 Ultra 上的公开发布，独立测量部分来自 Artificial Analysis。压缩构建可能有出入。我们不发布自己没有验证、也无法注明出处的基准数字。

07价格，以及关于啰嗦的那条注意事项

以每 100 万输入 token $0.75、每 100 万输出 token $3.30 计，Nemotron3Ultra 在我们目录里的输入价处于偏低的三分之一，输出价处于中段。举几个具体例子，因为「每百万」这种计价很难有直观感受：

调用形态	输入	输出	成本
典型 RAG 回合	50,000	4,000	$0.051
长文档分析	150,000	8,000	$0.139
最大尺寸调用	262,144	16,384	$0.251

一次填满上下文、输出也拉满的请求 —— 接口能接受的每一个 token，以及它会产出的每一个 token —— 大约花 25 美分。同样的形态放在 Kimi-K3-3BIT-REAP（我们最贵的模型，$3.83/$19.12）上，大约要 1.32 美元，是 5.3 倍。

现在说那条注意事项，它是真的。Artificial Analysis 在他们的基准套件上测得 Nemotron 3 Ultra 产出的输出 token 比同类中位数多 2.3 倍。推理模型是要按思考收费的，而这一个思考得很长；如果模型要多想三倍才走到同一个答案，每 token 的价格优势就会蒸发成每任务的劣势。缓解手段是内置的，我们的 API 也把它暴露出来：Nemotron 3 在后训练时就针对推理预算控制做过训练，这里支持 reasoning_effort —— NVIDIA 描述了一种低强度模式，思考 token 显著更少，代价是个位数的精度损失。在分类、抽取和路由这类任务上，把它调低，经济性会有实质变化；而在一个证明或一次跨文件重构上，把它调高，并且是有意识地为此付费。请自己测量每任务的 token 数，而不是看着价目表想当然。

08怎么调用：三种方言，同一个模型

网关上的每个模型都在三个流式 API 界面上应答，所以你可以把现有客户端直接指过来，而不用重写集成：/v1/chat/completions（OpenAI 方言）、/v1/messages（Anthropic 方言）和 /v1/responses。

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Nemotron3Ultra-3BIT-REAP",
    "reasoning_effort": "medium",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Derive the worst-case cache behavior of this loop nest."}
    ]
  }'

能力一览，免得你在集成时被意外绊住：

能力	Nemotron3Ultra · 3BIT-REAP
上下文窗口	262,144 token
每次请求最大输出	16,384 token
流式输出	支持
工具调用	支持
推理轨迹	支持
reasoning_effort	支持
json_schema（严格）	支持
response_format	支持
视觉 / 图像输入	不支持 —— 纯文本
拒答层	无

视觉那一行最容易让人栽跟头：Nemotron3Ultra 是纯文本的。如果你的流水线会发送图像，请用 $0.50/$2.00 的 MiniMax-M3-3BIT-REAP 或 MiMo-V2.5-W8A16，或者 $0.78/$3.67 的 Kimi-K2.6-W4A16-AUTOROUND-REAP —— 它们都具备视觉能力，都是无审查的，都在同样的 262,144 token 上下文上。完整参数参考见 API 文档。

09Nemotron3Ultra 在这十二个模型里的位置

整个目录是十二个无审查模型，共享同一个上下文窗口、同样的三种方言，以及同样没有拒答层；它们的区别在基座、价格和能力。Nemotron 的定位很具体：开放血统的推理主力 —— 不是最便宜的，也不是能力最强的，但它是行为背后有最多公开纸面记录的那个，而且朝理工科和智能体调得最狠。

模型	输入 / 1M	输出 / 1M	视觉	什么时候选它
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	支持	最便宜的具备视觉能力的选项
MiMo-V2.5-Pro · W8A16	$0.50	$2.00	不支持	保真度最高的量化档位
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	不支持	最便宜的大基座推理
Nemotron3Ultra · 3BIT-REAP	$0.75	$3.30	不支持	理工科、智能体、开放血统
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	支持	视觉 + AutoRound 保真度
DeepSeek-V4-Pro · 3BIT-REAP	$1.95	$3.90	不支持	深度单次分析
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	支持	能力上限的天花板

这里只列了十二个中的七个。完整目录 —— 包括 Laguna-S-2.1、inkling、DeepSeek-V4-Flash、MiMo-V2.5 和 Hy3 —— 在 API 文档里。注意 Laguna-S-2.1 不支持结构化输出，inkling 不支持 json_schema；Nemotron3Ultra 两者都支持。

价格上最近的邻居是 $0.73/$2.34 的 GLM-5.2-3BIT-REAP，老实的比较是这样：GLM-5.2 每 token 更便宜，输出上尤其如此。Nemotron 带来的是一份公开的训练语料、一个明确的推理预算旋钮，以及一段瞄准研究生级科学的家族史。大批量通用推理：跑更便宜的那个。理工科为主、智能体化，或者要面对一场追问「模型的行为是从哪来的」的审计：Nemotron 值这个差价。

10常见问题

---

来源：NVIDIA Nemotron 3 Ultra 技术报告 · NVIDIA 开发者博客（2026 年 6 月） · Nemotron 3 Super 架构说明 · Llama-Nemotron：高效推理模型 · Cerebras Research，REAP。基座基准数字若未注明来自 Artificial Analysis，则均为 NVIDIA 在未压缩模型上报告；压缩构建可能有出入。价格与能力截至 2026 年 9 月 5 日有效。