Shannon 2 Lite
Shannon 2的成本高效构建:FP8量化的Kimi K2.7,针对高吞吐量和每令牌低价格进行了调整 — 而不是放弃万亿参数的基础。
TL;DR
Shannon 2 Lite是Shannon 2的前沿蒸馏变体,来自Moonshot AI的Kimi K2.7,以FP8形式提供。它保持了与Shannon 2 Pro相同的256K上下文和相同的蒸馏行为,但成本和延迟更低 — 高容量聊天、检索、分类和长代理循环的默认选择。针对合法安全工作进行了最小审查调整,访问受限于经验证的专业人士,并持续进行审计。
大多数生产工作负载不需要模型在每次调用时的绝对天花板 — 他们需要以可扩展的价格和延迟保证一致的质量。Shannon 2 Lite正是为此而构建的:完整的前沿蒸馏 Shannon 2行为,量化为FP8,以便您可以将其部署到高流量产品和数十轮代理面前,而无需全精度前沿模型的成本。
01基础:Kimi K2.7
Shannon 2 Lite基于Kimi K2.7,Moonshot AI的开放权重旗舰(2026年6月12日发布):一个稀疏的混合专家模型,其中只有一小部分的万亿参数在每个令牌上激活,以远低于密集模型的服务成本提供frontier级别的质量。
因为权重是开放的,我们自己托管和量化模型,而不是租赁它 — 这正是使Lite的FP8经济学成为可能的原因。
02FP8量化 — Lite的核心
Shannon 2 Lite被量化为FP8:权重和激活的8位浮点。与全精度相比,FP8大约将内存带宽减半并显著增加每秒令牌数,而现代的每张量缩放在遵循指令的任务上保持小的质量损失。实际结果:
- 每令牌成本更低 — 高容量产品的最大杠杆。
- 较低的延迟 — 更快的首个令牌和更高的持续吞吐量。
- 更小的占用空间 — 每个副本所需的加速器更少。
- 相同的行为 — 与Pro完全相同的256K上下文和相同的蒸馏遵循指令。
03Frontier蒸馏
Lite和Pro共享一个后训练阶段:30,000个精选的、frontier级别的推理和指令示例。目标是锐化模型如何回答 — 更清晰的指令遵循、更一致的格式、更好的工具调用规律性,以及在合法专业工作中更少不必要的拒绝 — 而不是改变它所知道的。以完全相同的方式应用于两个构建,使它们在行为上保持一致。
04成本与性能,诚实地
Lite的标题是经济学。在列表API价格上,K2.7基础大约在输出令牌上比今天领先的闭源模型便宜6倍:
| 指标 | Shannon 2 Lite | Claude Opus 4.8 | GPT-5.5 |
|---|---|---|---|
| 输入/百万令牌 | $0.95 | $5.00 | $5.00 |
| 输出/百万令牌 | $4.00 | $25.00 | $30.00 |
| 开放权重 | 是 | 否 | 否 |
| 上下文窗口 | 256K | 1M | ~1M |
在能力方面,诚实的参考点是MCPMark Verified(真实世界的代理软件任务)— K2.7基础、Claude Opus 4.8和GPT-5.5都在同一测试上报告数字的唯一公共基准:
基础在代理任务上击败Claude Opus 4.8,在GPT-5.5后面 — 两者都以相当一部分的价格。对于高容量工作,这个价格到能力的比率就是Lite的全部要点。
上面的每个数字都是公开发布的。不要只相信我们的话 — 自己检查主要来源。
MCPMark Verified & 列表API价格,2026年6月。K2.7数字是Moonshot报告的;独立第三方基准待定。GPT-5.5和Claude Opus 4.8为参考。
05最小审查,最大责任
Shannon 2 Lite针对最小审查进行了调整:在合法的安全、红队和研究任务上,它保持直接而不是本能拒绝。它是一种专业工具 — 访问受限于经验证的专业人士,使用持续进行审计,模型在我们的负责任使用政策下运营。
06Lite的闪闪发光之处
- 高容量助手 — FP8经济学使其成为面向用户的、高流量功能的默认选择。
- 代理循环 — 足够便宜可以运行数十轮;256K上下文用于长轨迹。
- 侦察和分类 — 在安全工作流中进行快速、低成本的首遍分析。
- 检索和分类 — 管道和批处理作业的高吞吐量。
07常见问题
什么是Shannon 2 Lite?
Shannon 2的成本高效构建 — 前沿蒸馏 Kimi K2.7,以FP8提供,用于高吞吐量和低每令牌成本,具有256K上下文窗口。
便宜多少?
底层K2.7 API的列表价格为每百万令牌$0.95输入/$4.00输出 — 与列表价格上的Claude Opus 4.8或GPT-5.5相比,输出成本便宜约6倍。
FP8会损害质量吗?
遵循指令时的质量损失很小,具有每张量缩放;Lite运行与Pro相同的256K上下文和蒸馏行为。
Lite还是Pro?
Lite用于吞吐量和成本;Pro用于最高推理天花板和可见的思维链。
来源:Moonshot AI (Kimi K2.7) · K2.7 vs GPT-5.5 vs Claude Opus 4.8比较 · 独立K2.7定价分析。K2.7基准是Moonshot报告的,待独立验证。