无审查 Hy3 模型 API

大多数「我该用哪个模型」的争论都是在比天花板：谁写的代码最好、谁解得了最难的数学、谁能在最长的智能体运行里胜出。结构化流水线不是这么回事。一份每天要从十万份文档里抽字段的工作，需要的不是一个偶尔惊艳的模型 —— 而是一个每次都以同样形状正确、并且永远不会在该出现 JSON 对象的地方给你一段散文的模型。Hy3-W8A16 存在的意义就是这个属性。

01Hy3 是什么，从哪来

Hy3 是腾讯混元团队的开源权重推理与智能体模型，于 2026 年 7 月 6 日以宽松许可完整发布，权重公开在 Hugging Face 上。它延续了腾讯早前 Hunyuan-Large 混合专家工作的血脉。架构上它是一个稀疏 MoE：总参数 2950 亿，其中约 210 亿在每个 token 上激活，通过 192 个专家中的 top-8 路由实现，主体是一个 80 层、采用分组查询注意力的 transformer，另有一个独立的 3.8B 多 token 预测层用于投机解码。原生上下文为 256K —— 恰好就是我们对外提供的 262,144 token，既不是从更大的窗口截下来的，也不是把更小的窗口用 rope 硬拉长的。

对任何按 token 付费的人来说，这个稀疏比才是关键数字：Hy3 装着一个 295B 模型的知识，而每次前向大致只做一个 21B 模型的算术量。这也正是我们付得起以 8 比特提供它、而不必压得更狠的原因 —— 这么稀疏的模型，8 比特版本仍然装得下，也仍然能在我们自己的 GPU 集群上跑得很快。

腾讯说它擅长什么

腾讯公布的评测表把 Hy3 的强项明确放在智能体搜索、工具编排和长上下文检索上，而不是纯粹的代码能力。他们报告的数字：

我们是故意把弱的那几条也画出来的。在腾讯自己的对比里，Hy3 在代码上落后于 GLM-5.2 —— SWE-bench Verified 上 78.0 对 84.2，DeepSWE 上 28.0 对 46.2。如果你的负载是自主的多文件软件工程，请先去看模型研究索引的其余部分。如果你的负载是读文本、产出结构，那这份画像近乎理想。

对流水线工作最要紧的那个数字是可靠性方面的：腾讯报告 Hy3 的幻觉率为 5.4%，较上一代的 12.5% 大幅下降，常识错误也从 25.4% 降到 12.7%。他们声明的训练原则 —— 有证据就作答，没有就直说 —— 正是你希望抽取模型具备的性情，否则它就会为一个原文根本没提到的字段编一个看着挺合理的值。

本节所有数字均为腾讯基于自家测试运行所报告；截至撰稿时，独立第三方验证仍未完成。请把它们当作方向性参考，而不是定论。

02W8A16 是什么意思，以及它为什么对结构化输出重要

网关上每个模型都带一个量化后缀。它不是装饰 —— 它告诉你被提供的权重离实验室发布的那份 checkpoint 有多远。

档位	它做了什么	保真度
3BIT-REAP	3 比特权重加 REAP —— 一种在量化前先删掉 MoE 中很少被路由到的专家的剪枝方法	压缩最狠
W4A16-AUTOROUND-REAP	4 比特权重 / 16 比特激活，用 AutoRound 量化 —— 一种学出来的舍入方式，相比朴素的就近取整能挽回精度 —— 再加上 REAP 剪枝	居中
W8A16	8 比特权重 / 16 比特激活。不剪枝，也不需要学出来的舍入去修补 —— 权重就是以两倍的精度直接承载	最高

量化漂移真正伤在哪里

REAP 和 AutoRound 挽回了朴素压缩丢掉的大部分东西 —— 但这句话里的「大部分」是有分量的，而剩下的那点残差并不均匀分布。低比特量化伤的是尾部：那些低概率、高特异性的决定。在散文里这几乎看不见；换一个形容词还是一个好句子。在结构化输出里，这就是全部，因为一份 schema 就是一长串必须每一步都精确正确的低概率决定：

• token 级语法。一个右花括号、一个逗号、一个引号。每一个都是一个 token，而一个 token 错了，整条响应就作废。
• 枚举纪律。你的 schema 规定 "status" 只能是 "open" | "closed" | "pending" 之一；漂移过的模型却返回 "Open" 或 "pending review" —— 语义上很接近，但两个都不合法。
• 类型纪律。一个 number 字段回来变成了 "1,240"，一个 boolean 变成了 "yes"。两个都会被解析成字符串，然后 schema 校验失败。
• 长尾字面量。冷门专有名词、零件编号、化学名称、非拉丁文字、精确日期 —— 恰恰就是低比特权重会抹糊的那片低概率区域。

这些都不等于 4 比特或 3 比特模型不好；对对话类工作而言，那点保真度差异往往不值那点价格差异。但当输出的消费者是一个校验器而不是一个人时，尾部精度会直接转化成解析成功率 —— 而解析成功率又转化成重试预算和 p99 延迟。W8A16 就是你不用再交这笔税的那一档。

03结构化输出：json_schema 与 response_format

Hy3 两半结构化输出接口都支持 —— 值得明说，因为这在整个目录里并不通用：

模型	response_format	json_schema
Hy3 · W8A16	支持	支持
MiMo-V2.5-Pro · W8A16	支持	支持
inkling · W4A16-AUTOROUND-REAP	支持	不支持
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	不支持	不支持

这两种机制之间的差别，比大家想的更重要。response_format: {"type": "json_object"} 只要求合法的 JSON，别的不管 —— 形状由模型自己挑，所以两次调用可能一次返回 {"name": ...}、一次返回 {"full_name": ...}，两次都算对。json_schema 则预先把形状交出去：字段名、类型、枚举、必填列表、嵌套结构。那是一份你可以写代码去依赖的契约。

在 OpenAI 兼容方言上的一个最小调用：

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

实践要点

• 把每个字段都设为必填，并允许 null。可选字段会诱发悄无声息的漏项；一个必填但可为空的字段，会强制模型明确表态「没有」，而这本身就是你可以据以行动的信息。
• 枚举胜过自由字符串。凡是能把取值集合封闭的地方就封闭它 —— 这是对一份 schema 的真实通过率杠杆最大的一项改动。
• 别越过 16,384 token 的输出上限。一个没有上界的数组会在某个对象中间被截断。给数组长度设上限，或者把输入分片。
• 别把系统消息省掉。schema 约束的是形状；语义仍然由提示词决定 —— 什么算「critical」、出现两个日期时以哪个为准、是否要统一单位。
• 该校验还是要校验。schema 支持提高的是通过率；它不能替代一个校验器和一条死信队列。

04为什么「无审查」是一项可靠性属性，而不只是内容属性

网关上的 Hy3 没有拒答层，也不过滤输出。通常的说法是关于内容的：你可以处理安全研究、恶意软件分析、漏洞利用文章、医学与法律语料、成人材料、减害文档或敌意用户的对话记录，而模型不会替你决定它宁可不干。

还有第二个更机械的理由。拒答就是一次 schema 违约。一个被过滤的模型在拒绝时，不会带着一个 "unavailable" 标记返回你的对象 —— 它返回的是散文。"I'm not able to help with that request." 那个字符串不是一个 incident 对象；它会让你的校验器失败，然后和真正的解析错误一起落进死信队列，而你现在还得把政策性拒答和真正的格式错误区分开。

更糟的是，拒答与内容相关，而不是随机分布的。如果你语料的 4% 是安全事件报告，而模型拒掉了其中大部分，你损失的不是均匀分布的 4% 吞吐 —— 你损失的是一整个类别，于是建立在这份数据上的看板会悄悄地低报它本来就是为了呈现的那件事。带类别形状的窟窿比均匀噪声代价更高，因为没有任何东西会为它告警。把拒答通路拿掉，剩下的东西 —— 格式错误、截断、语义含混的文本 —— 就与主题不相关了，因而是可测量的。

05上下文、输出上限，以及怎么给它们做预算

网关上每个模型都共享同一套限制：

上下文是一份共享预算：提示词加输出必须一起装进 262,144 之内，所以单次调用的实际输入上限大约是 245,000 token，非常粗略地折合约 18 万个英文单词。对结构化工作来说，16,384 token 的输出上限才是更硬的限制，也是最常让人意外的那个 —— 一份每条记录产出一个对象的 schema，早在窗口填满之前就会撞上它。有两种模式可以应对：

• 宽输入、窄输出。把整份合同、整份申报文件或整段日志窗口推进上下文，然后只要一个紧凑的对象。输入 token 的价格是输出 token 的四分之一，所以定价本身就在奖励「多读少写」。
• 按记录边界分块，而不是按字节数。在模型看得见接缝的地方切开。一条在句子中间被切断的记录，产出的会是一个自信而错误的对象，而不是一次显而易见的失败。

Hy3 报告的长上下文检索优势 —— AA-LCR 上 73.4，以及 MRCR 长对话召回从 42.9% 跃升到 75.1% —— 正是第一种模式所依赖的能力，而它和「写得好」是两种不同的本事。

06地板定价，以及一条真实流水线的算术

Hy3 位于每百万输入 token $0.50、每百万输出 token $2.00 —— 目录的地板价，与 MiMo-V2.5、MiMo-V2.5-Pro、DeepSeek-V4-Flash-0731 和 MiniMax-M3 相同。按几种有代表性的负载算一遍：

工作负载	每次调用输入	每次调用输出	每次调用成本	每 100 万次调用
字段抽取	1,200	300	$0.0012	$1,200
文档分类	3,000	120	$0.0018	$1,800
长文档摘要成 schema	40,000	900	$0.0218	$21,800
满窗口分析	240,000	2,000	$0.1240	$124,000

真正改变决策的数字不是标价，而是算上重试之后的有效费率。如果两个模型价格相同，其中一个有 6% 的调用通不过校验、另一个只有 1.5%，那么漂移大的那个大约要多跑 4.5% 的调用 —— 这还能忍。伤害在尾部：重试过的调用耗时翻倍，于是可见的一部分流量上 p99 延迟大致翻倍，而两次都失败的那些就变成人工活。在一天一百万次调用的规模上，那就是几千条需要有人去读的记录。

所以选择 8 比特档、且是地板价的理由就在这里：你在这里并没有为保真度付溢价，因此重试算术上省下的就是白赚的钱。如果 3 比特模型更便宜，那还真有一笔权衡要掂量 —— 但 Hy3 的价格和目录里最便宜的东西一模一样。

07三种 API 方言，一个模型

Hy3 在三种网关方言上都能访问，每一种都支持流式。同一个模型、同一份权重、同一套限制 —— 你手上是哪个 SDK 就用哪一种。

端点	方言	什么时候用
/v1/chat/completions	OpenAI	你手上是 OpenAI SDK、LangChain 或 LlamaIndex。把 base URL 指到这里，改一下模型 id 就行。
/v1/messages	Anthropic	你在用 Anthropic SDK，想直接用 content block，不加翻译层。
/v1/responses	Responses	你想要更新的请求形态，带类型化输出和服务端状态。

Hy3 还支持工具调用和推理，包括 reasoning_effort。对抽取类工作，通常有用的做法是把推理调低：在干净文本上跑一份写清楚的 schema 时，思考 token 就是你要付钱的输出 token 和你要等的延迟，而收益只是边际的。把 effort 预算花在真正含混的输入上。

完整的请求与响应参考、参数列表、流式语义和一个交互式 playground，都在 API 文档里。

08在三个 W8A16 模型之间怎么选

有三个模型位于最高保真档，而且都是地板价。选择主要取决于模态：

模型	视觉	json_schema	输入 / 输出价格	适合做什么
Hy3 · W8A16	不支持	支持	$0.50 / $2.00	纯文本结构化流水线、工具编排、长上下文检索
MiMo-V2.5-Pro · W8A16	不支持	支持	$0.50 / $2.00	纯文本工作，且你想要 MiMo 系列的 Pro 调校
MiMo-V2.5 · W8A16	支持	支持	$0.50 / $2.00	任何带图像的场景 —— 扫描文档、截图、照片

如果你的输入里有任何一部分是图像，选择就已经替你做好了：Hy3 是纯文本的 —— 扫描版 PDF、截图和照片请发给 MiMo-V2.5。当输入确实是文本时，Hy3 那套智能体工具使用、长上下文召回和低幻觉率的画像，最直接地对应流水线工作。既然三者价格相同，就拿你的 schema 在其中两个上跑几百条真实记录，比较解析通过率；那比任何一张表都更能定案，包括这一张。

09Hy3 在哪里立得住

• 大批量字段抽取。合同、申报文件、事件报告、转录稿、临床记录、法庭卷宗 —— 凡是交付物就是「每份文档一个类型化对象」、而且量大到重试很贵的地方。
• 规模化的分类与路由。封闭枚举输出，模型的全部价值就在于永远不发明第十九个类别。
• 安全与威胁情报语料。恶意软件分析文章、漏洞披露和钓鱼样本 —— 正是这些材料会把被过滤的模型逼进拒答，而带类别形状的窟窿会让整件事失去意义。
• 不能卡住的工具调用智能体。8 比特的参数保真度意味着交给你函数的 JSON 能解析；一次残缺的工具调用等于一个卡死的智能体，而不是一个稍差一点的答案。
• 把长文档分析成结构。整份申报文件进去，一个紧凑对象出来。
• 内容审核与政策研究。给被过滤模型拒绝阅读的材料打标签，是信任与安全领域长期存在的难题；一个不过滤、且带严格 schema 的模型可以直接解决它。

以及它不适合的地方：任何带图像的场景（请用 MiMo-V2.5），还有自主的多文件软件工程 —— 在腾讯自己的表里，Hy3 在 SWE-bench Verified 上落后于 GLM-5.2，在 DeepSWE 上更是落后不少。

基准数字均为腾讯所报告，包括其中的竞品数字；截至撰稿时独立验证仍未完成。成本数字由我们公布的 $0.50 / $2.00 费率算出。本页没有任何一个数字是 Shannon 自跑的基准或估算。

10常见问题

---

来源：腾讯混元模型卡 · Hy3 仓库 · Hunyuan-Large: An Open-Source MoE Model（arXiv 2411.02265） · VentureBeat 对 Hy3 发布的报道。基座基准数字为腾讯所报告，在独立验证完成前均为暂定。Shannon AI 由美国新墨西哥州的 Shannon Lab LLC 运营。