無検閲のInklingモデルAPI

当社ゲートウェイの12モデルのうち、大半はテキスト専用です。そうでないものが4つあり、その4つの中でInklingは特定の位置を占めています。問題の難所が画像そのものにあるが、予算が最上位モデルまでは届かない — そのときに手を伸ばす画像認識モデルです。このカードでは、基盤がどこから来たのか、W4A16-AUTOROUND-REAPという接尾辞がそれに何をしたのか、APIの表面で何ができて何ができないのか、そして — 正直なところ — 同じカタログ内のより安いモデルのほうが適切なのはどんなときかを扱います。

01Inklingとは何で、誰が作ったのか

InklingはThinking Machines Labの初のオープンウェイトモデルで、2026年7月15日に公開されました。「オープン」を掲げる多くのリリースと違い、Hugging Faceでダウンロード可能な完全な重みとともに出荷され、transformers、SGLang、vLLM、llama.cppで初日からサポートされました — だからこそ当社のようなインフラで動かせるのです。Thinking Machines自身のリリース資料による主要数値は次のとおりです。

これはスパースなMixture-of-Experts構成です。隠れ次元6,144のデコーダ層が66層あり、最初の2層は密結合、残る64層が256個のルーティングエキスパートと2個の共有エキスパートを持ち、トークンあたり6個のルーティングエキスパートが活性します。任意のトークンで発火するのはパラメータのおよそ4%で、これが1兆に近いパラメータ規模のモデルを提供可能にしている要因です。

アーキテクチャ上の選択のうち2つは、名指しするに値するほど珍しいものです。アテンションは交互配置で、512トークン窓のスライディングウィンドウアテンション55層に対してグローバル層が11層、5対1の繰り返しパターンになっています。そしてInklingはRoPEを使いません。学習型で入力に依存する相対位置バイアスを用い、あわせてkey/value射影と残差分岐に短い因果畳み込みを入れています。Sebastian Raschkaのアーキテクチャ解説は、この2つを2026年の標準レシピからの実質的な逸脱として指摘しています。学習では大きな行列パラメータにMuon、それ以外にAdamを用い、事後学習では3,000万回を超える非同期RLロールアウトを回しています。

API利用者にとっての要点は、こうした豆知識ではありません。これが、テキスト・画像・音声・動画にまたがる45兆トークンで学習されたフロンティア規模でネイティブにマルチモーダルな基盤であって、後から画像アダプタを継ぎ足したテキストモデルではない、ということです。画像は40×40ピクセルのパッチとして4層の階層的MLPパッチ化器を通して符号化され、同じデコーダ内でテキストと一緒に処理されます。視覚的な理解は事前学習の目的関数に組み込まれていました。

02W4A16-AUTOROUND-REAPとは何を意味するのか

この接尾辞には3つの別々の技術が積み重なっており、それぞれ役割が違います。理解しておく価値があります。というのも、この接尾辞こそが、当社APIで呼び出すモデルとThinking Machinesが公開したチェックポイントとの最大の違いだからです。

REAP — 誰もルーティングしないエキスパートを枝刈りする

REAPはRouter-weighted Expert Activation Pruningの略で、Cerebras Researchによるものです（arXiv 2510.13999、ICLR 2026採択）。層あたり256エキスパートのMoEでは、ルーターは仕事を均等に配りません。常時叩かれるエキスパートもあれば、めったに発火せず、発火しても寄与が小さいものもあります。REAPは各エキスパートを、ルーターのゲート値と当該エキスパートの活性化ノルムの両方でスコア付けし — 選ばれる頻度は高くても寄与の大きさが小さいエキスパートは、その選択回数が示すほど重要ではない — 重要度の低いものを量子化の前にワンショットで落とします。

より流行りのエキスパートマージではなく枝刈りを使うのは、この2つがタスクの種類によって結果が分かれるからです。マージは識別系のベンチマークでは競争力があるように見えますが、生成系では崩れます。REAPの著者らは、枝刈りのほうが、人々がAPIを買う理由そのものであるワークロード — コード生成、ツール呼び出し、複数ターンの推論 — において品質をよりよく保つと報告しています。しかも圧縮率50%超で、200億から1兆パラメータのモデル全体にわたってです。マージはルーターの専門化を壊しますが、枝刈りは生き残ったエキスパートとその間のルーティングをそのまま残します。

AutoRound — どこに丸めるかを学習する

AutoRoundはIntelの事後学習量子化手法です（arXiv 2309.05516、SignRoundとして公開）。素朴な量子化は各重みを表現可能な最も近い4ビット値に丸めます — 妥当な既定値ですが、規模が大きくなると悪手です。丸め誤差は独立ではなく、66層のスタックを通じて蓄積するからです。AutoRoundは丸めの決定を最適化対象として扱います。符号付き勾配降下が数百ステップにわたって丸めの方向と重みのクリッピング範囲を同時に調整し、再学習なしで量子化認識学習の精度を借りてきます。Intelは極端な低ビット設定で最大の効果が出ること、INT4でも競争力のある優位があることを報告しています。

W4A16 — ビットをどこに配るか

W4A16は数値形式です。4ビットの重み、16ビットの活性化。9,750億パラメータのモデルでメモリを支配する重みはBF16でのメモリ使用量のおよそ4分の1に縮み、演算は16ビットのまま保たれます。この分け方は画像認識モデルにとって特に重要です。活性化を量子化する方式は、画像理解が依存する細かい数値処理 — 小さな軸ラベルを読む、図中の細い線を判別する、よく似た2つの陰影を分ける — をまさに直撃します。活性化を16ビットに保つことは帯域を消費しますが、画像ワークロードが違いに気づく箇所の精度を買い戻します。

3つを積み重ねると、最大級の基盤で使っている攻めた3BIT-REAP階層のような品質の崖なしに、収まって速いままのモデルが得られます。価格が反映しているのはそのトレードオフです。

03画像認識：拒否しない画像解析API

Inklingは当社カタログで画像認識に対応する4モデルの1つで、ほかにKimi-K3、Kimi-K2.6、MiniMax-M3があります。ベースモデルの公開された画像認識の結果は、Thinking MachinesのリリースによればMMMU Pro（Standard 10）で73.3%、CharXivの推論問題で78.1%で、モデルがチャートに対してPythonを実行できる場合は82.0%まで上がります。これらは量子化前のチェックポイントについての研究所自身の数値です。ファミリーの上限として扱うべきものであり、当社ビルドの実測値ではありません。

掘り下げる価値があるのはCharXivのほうです。人々がOCRサービスではなく画像認識APIを買う理由に対応しているからです。CharXivは科学的なチャートに対する推論を試します — 軸から値を読む、2つの系列を比較する、傾向の反転に気づく。「この画像にどんな文字があるか」ではなく「この図は何を主張していて、その主張は成り立つか」です。小さなキャプション生成器ではなく9,750億パラメータの推論モデルに画像を送ることを正当化するのは、そこです。

画像の送信はごく普通のOpenAI互換の作業です — /v1/chat/completionsではimage_urlのコンテンツパート、/v1/messagesではAnthropic形式のimageブロック、/v1/responsesではそれに相当するものを使います。3つの方言はいずれも同じ重みに届き、いずれもストリーミングします。既存のSDKが話せるものを選んでください。実例はセクション09にあります。

無検閲であることは、テキストよりも画像認識でこそ効いてきます。画像エンドポイントにおける拒否層は異様に大雑把です。というのも、たいていはモデルがリクエストについて推論する前に画像を分類してしまうからです。正当な仕事が絶えず引っかかります。臨床記録のパイプラインに入る創傷の写真、インシデント報告のフォレンジックなスクリーンショット、批評のために分析している映画の1フレーム、医用スキャン、たまたま氏名が写り込んだ書類の画像。当社ゲートウェイ上のInklingの前には、そうした分類器はありません。送られたものを見て、聞かれた質問に答えます。それが製品です。

04構造化出力：response_formatは可、json_schemaは不可

ここはInklingがカタログの大半より劣る唯一の箇所で、本番で発見するより先に織り込んでおくほうがよい点です。

機能	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
画像認識（画像入力）	対応	対応	対応	非対応
response_format	対応	対応	対応	非対応
json_schema	非対応	対応	対応	非対応
ツール呼び出し	対応	対応	対応	対応
推論努力度	対応	対応	対応	対応

response_format: {"type": "json_object"}は機能します — 構文的に妥当なJSONが返ります。得られないのは、自分で渡したスキーマに対する文法制約付きデコード、つまりサンプラーが構造に違反するトークンを物理的に出せなくなる仕組みです。フィールド名、列挙値の所属、必須キーの有無は、保証ではなくモデルの選択になります。

これと付き合う方法は3つあり、信頼性の低い順に並べると次のとおりです。

1. スキーマをプロンプトに入れて検証する。スキーマをリテラルなJSONとしてシステムプロンプトに置き、response_formatをjson_objectにして、応答を自分側で検証します。検証に失敗したらバリデータのエラーメッセージを付けて再試行します。安価で、機能し、再試行の予算が必要です。
2. ツール定義をスキーマとして使う。ツール呼び出しには対応していますし、関数のパラメータ定義はJSON Schemaそのものです。取り出したい抽出内容に合わせて名付けたツールを1つ宣言し、それを強制して、引数を読みます。これがInklingでは通常いちばん強い選択肢で、追加コストもかかりません。
3. 2つのモデルに仕事を分ける。Inklingに画像認識と推論を散文で行わせ、その散文を$0.50 / $2.00のMiMo-V2.5-W8A16に渡して、本物のjson_schemaで構造化のパスをやらせます。呼び出しは2回ですが、2回目は安く、形が決定的で、賢くある必要のあるモデルが画像を見たほうのモデルになります。

大量処理の抽出パイプラインには、選択肢3のパターンをお勧めします。プレミアムを払うのは、それを必要とする工程だけにしてください。

05価格の上乗せ分で何が買えるのか

100万トークンあたり入力$1.42 / 出力$6.07で、Inklingは意図的に当社カタログの中間に位置しています。12モデルのうち6つは$0.50 / $2.00の下限にあります。Kimi-K3 — 最上位で、こちらも画像認識対応 — は$3.83 / $19.12です。Inklingは出力で下限のおよそ3倍、最上位のおよそ3分の1にあたります。

出力価格、100万トークンあたり米ドル、Shannon AIゲートウェイの表示価格、2026年9月時点。バーの幅は価格に比例し、長いほど高価です。

そのプレミアムが元を取る場面と、取らない場面についての正直な見立ては次のとおりです。

ワークロード	Inklingを使うか	理由
チャート・図表の推論	使う	公開されているCharXivとMMMU Proの数値は、この基盤が最も強い領域を示しています。
スクリーンショット駆動のエージェント	使う	画像認識とツール呼び出しと262Kの履歴が1つのモデルに収まり、受け渡しが不要です。
図版を含む長い文書	使う	テキストと画像が1つのデコーダと1つのコンテキストウィンドウを共有します。
プレーンテキストの生成	使わない	$0.50 / $2.00の6モデルでできます。呼びもしない画像認識の経路に金を払うことになります。
大量のスキーマ抽出	使わない	json_schemaがありません。MiMo-V2.5のほうが安く、制約も効きます。
絶対的な上限性能	使わない	最上位はKimi-K3です。上限が制約なら3.1倍を払ってください。
可能な限り安い画像認識	使わない	MiniMax-M3が$0.50 / $2.00で画像認識に対応しています。そこから始めて、品質が要求するなら引き上げてください。

これはランキングではなくルーティングのルールとして読んでください。Inklingが適するのはマーケティングページが主張するよりも狭い帯域の仕事で、その帯域の中では価格面で負かしにくい存在です。その外側であれば、当社としてはより安いモデルを売って、お客様に留まってもらうほうを選びます。

06262Kコンテキストウィンドウと、実際に収まるもの

ゲートウェイ上の12モデルはすべて、入力コンテキスト262,144トークン、1リクエストあたり最大出力16,384トークンで提供されます。意図的に統一しています。コンテキストの扱いがコード内でモデルごとの分岐になるべきではありませんし、設定ファイルでinklingをMiniMax-M3に差し替えたときに、収まる量が黙って変わるべきでもありません。

公開されている基盤との差には留意してください。Thinking MachinesはInklingを1,048,576トークンと記載しており、当社はそのうち262Kを切り出して提供しています。本当に100万トークンを1リクエストで扱うワークロードがあるなら、当社はその用途のエンドポイントではありません。作り始める前に知っておくほうがよいでしょう。

262Kの規模感：図版込みの400ページの技術PDF、中規模のコードベース、数時間分の書き起こし、あるいは数十件のツール結果と数枚のスクリーンショットを抱えた長いエージェントセッション — それぞれが1リクエストに収まります。画像認識モデルでは、画像もコンテキストを消費することを忘れないでください。情報量の多いスクリーンショットは無料ではなく、フレームを流し込むセッションはテキスト専用のものより速く窓を埋めます。アーキテクチャはこれによく合っています。5対1のスライディングウィンドウ対グローバルのパターンにより、大半の層は512トークンの近傍内に注意を向け、グローバル層が定期的に長距離の構造を引き戻します。

07推論努力度：必要なときだけ思考に金を払う

Inklingは制御可能な推論努力度を公開しており、これはカタログの中でも有用なつまみの1つです。上流のモデルはnoneとminimalからlow、medium、high、xhighを経てmaxまでの水準を受け付け、3つの方言すべてで標準のreasoning_effortパラメータとして露出しています。

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

これは効き目のあるコストのてこです。推論トークンは100万あたり$6.07で出力トークンとして課金されるからです。Thinking Machinesは、Terminal Bench 2.1においてInklingがおよそ3分の1のトークン数でNemotron 3 Ultraに匹敵するスコアに達すると報告しています — トークン効率は努力度システムの明示的な設計目標であり、偶然ではありません。

実務では、キャプション生成、分類、素直な抽出のように答えが画像の中にあり推論の連鎖が不要な場合はlowかminimalで回してください。high以上は、チャートの推論、多段の視覚的比較、途中の一歩を間違えると高くつくエージェント的なターンのために取っておきましょう。多くのチームはこのパラメータを一度も設定せず、数倍の出力コスト差をそのまま取りこぼしています。

08ここでの「無検閲」の意味と、その意味しないこと

具体的には、当社はこのモデルを拒否層なし・出力へのフィルタなしで動かしています。プロンプトを読んでモデルが答えてよいかを判断する分類器はありませんし、ストリームに乗る前に応答を読む分類器もありません。モデルが不確かなときや知識が足りないときは、そう言います — それはポリシーではなくモデルの挙動です。得られないのは、一般消費者向け製品が立ち入り禁止として扱う話題に対する反射的な拒否です。

画像認識にとっては、これが価値提案のすべてです。画像認識APIの前に置かれる画像分類器は精度が粗く、その誤検知の負担は、その機能を最も必要とする専門的な仕事に最も重くのしかかります。セキュリティ研究、臨床の文脈、ジャーナリズムとフォレンジック、映画・美術の批評、そして自らが監視する対象を見なければならないモデレーションツール。カテゴリを理由に拒否するエンドポイントは、そのいずれにも確実に応えられません。

正直な注意点が2つ。第1に、Thinking Machinesは自社のリファレンス構成についての安全性評価を公開しています — FORTRESS adversarialで78.0%、FORTRESS benignで95.9%、StrongREJECTで98.6%。これらの数値は彼らのガードレールが入った彼らのスタックを説明するものです。当社のスタックを説明するものではありませんし、そうであるかのように引用するつもりもありません。当社はそれらの数値が部分的に測っている層を取り除いています。それが製品であり、責任の所在です。

第2に、「拒否層がない」ことは「ルールがない」ことではありません。Shannon Lab LLCは責任ある利用ポリシーと適用される米国法のもとで運営しています。分類器を取り除くことは判断をお客様側に移すことであって、判断をなくすことではありません。これを土台に何かを作るなら、規模を広げる前にポリシーを読んでください。

09使い始める

同じベースURL、同じキー、3つの方言。既存のコードがOpenAI、Anthropic、あるいはResponses APIを呼んでいるなら、モデル文字列を変えるだけで移行はたいてい完了します。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

完全なパラメータリファレンス、/v1/messagesと/v1/responsesの形、ストリーミングイベントの形式、そして実際に試せるプレイグラウンドはAPIドキュメントにあります。ほかの11モデルのモデルカードはShannon Researchにあります。

基盤の数値はThinking Machines Labが量子化前のInklingチェックポイントについて公開した数値であり、当社の量子化ビルドではなくファミリーの上限を示すものです。価格と機能フラグは2026年9月時点のShannon AIゲートウェイの表示値です。

10よくある質問

---

出典：Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes。基盤のベンチマークは量子化前のチェックポイントについて研究所が報告した値です。