API du modèle Inkling sans censure

La plupart des douze modèles de notre passerelle sont uniquement textuels. Quatre ne le sont pas, et parmi ces quatre Inkling occupe une position précise : le modèle de vision vers lequel on se tourne quand l'image est la partie difficile du problème mais que le budget ne va pas jusqu'à un modèle phare. Cette fiche couvre l'origine de la fondation, ce que le suffixe W4A16-AUTOROUND-REAP lui a fait, ce qu'il fera et ne fera pas au niveau de l'API, et — honnêtement — quand un modèle moins cher du même catalogue est le meilleur choix.

01Qu'est-ce qu'Inkling, et qui l'a construit ?

Inkling est le premier modèle à poids ouverts de Thinking Machines Lab, publié le 15 juillet 2026. Contrairement à la plupart des sorties présentées comme « ouvertes », il est arrivé avec des poids intégralement téléchargeables sur Hugging Face et une prise en charge dès le premier jour dans transformers, SGLang, vLLM et llama.cpp — c'est ce qui l'a rendu exécutable sur une infrastructure comme la nôtre. Les chiffres phares, tirés des documents de sortie de Thinking Machines :

C'est une disposition Mixture-of-Experts creuse : 66 couches de décodeur à 6,144 de taille cachée, les deux premières denses, les 64 restantes portant 256 experts routés plus 2 experts partagés, avec 6 experts routés actifs par token. Environ 4 % des paramètres s'activent sur un token donné — c'est ce qui rend servable un modèle de près de mille milliards de paramètres.

Deux choix architecturaux sont assez inhabituels pour être nommés. L'attention est entrelacée — 55 couches d'attention à fenêtre glissante sur une fenêtre de 512 tokens contre 11 couches globales, selon un motif répété de 5 pour 1. Et Inkling n'utilise pas RoPE : il emploie un biais de position relative appris et dépendant de l'entrée, aux côtés de courtes convolutions causales sur les projections clé/valeur et les branches résiduelles. Les notes d'architecture de Sebastian Raschka signalent les deux comme de véritables écarts par rapport à la recette standard de 2026. L'entraînement a utilisé Muon pour les grands paramètres matriciels et Adam pour le reste, puis plus de 30 millions de rollouts d'apprentissage par renforcement asynchrones en post-entraînement.

Pour qui consomme l'API, l'intérêt n'est pas l'anecdote. C'est qu'il s'agit d'une fondation d'échelle frontière, nativement multimodale, entraînée sur 45 mille milliards de tokens couvrant texte, images, audio et vidéo — pas d'un modèle textuel auquel on aurait boulonné un adaptateur de vision après coup. Les images sont encodées en patchs de 40×40 pixels via un patchifier MLP hiérarchique à quatre couches, puis traitées conjointement avec le texte dans le même décodeur. La compréhension visuelle faisait partie de l'objectif de pré-entraînement.

02Que signifie W4A16-AUTOROUND-REAP ?

Trois techniques distinctes sont empilées dans ce suffixe, et elles font des travaux différents. Cela vaut la peine de les comprendre, car ce suffixe constitue la plus grande différence entre le modèle que vous appelez sur notre API et le checkpoint publié par Thinking Machines.

REAP — élaguer les experts vers lesquels personne ne route

REAP signifie Router-weighted Expert Activation Pruning, de Cerebras Research (arXiv 2510.13999, accepté à ICLR 2026). Dans un MoE à 256 experts par couche, le routeur ne répartit pas le travail uniformément : certains experts sont sollicités en permanence, d'autres s'activent rarement et contribuent peu quand ils le font. REAP note chaque expert sur les deux signaux — les valeurs de la porte du routeur et les normes d'activation de l'expert : un expert souvent sélectionné mais qui n'apporte que des mises à jour de faible magnitude compte moins que son nombre de sélections ne le laisse croire — et retire ceux de faible saillance en une passe, avant la quantification.

La raison pour laquelle nous utilisons l'élagage plutôt que la fusion d'experts, plus à la mode, est que les deux divergent selon le type de tâche. La fusion paraît compétitive sur les benchmarks discriminatifs et s'effondre sur les génératifs. Les auteurs de REAP rapportent que l'élagage préserve mieux la qualité précisément sur les charges de travail pour lesquelles on achète une API — synthèse de code, appel d'outils, raisonnement multi-tours — à des taux de compression dépassant 50 %, sur des modèles de 20B à 1T de paramètres. La fusion détruit la spécialisation du routeur ; l'élagage laisse intacts les experts survivants et le routage entre eux.

AutoRound — apprendre où arrondir

AutoRound est la méthode de quantification post-entraînement d'Intel (arXiv 2309.05516, publiée sous le nom de SignRound). La quantification naïve arrondit chaque poids à la valeur 4 bits représentable la plus proche — une valeur par défaut raisonnable, et mauvaise à grande échelle, car les erreurs d'arrondi ne sont pas indépendantes et s'accumulent à travers une pile de 66 couches. AutoRound traite la décision d'arrondi comme quelque chose à optimiser : une descente de gradient signée règle conjointement le sens de l'arrondi et les plages d'écrêtage des poids sur quelques centaines d'étapes, empruntant la précision de l'entraînement conscient de la quantification sans réentraîner. Intel rapporte les gains les plus importants dans les réglages à très faible nombre de bits et un avantage compétitif en INT4.

W4A16 — où passent les bits

W4A16 est le format numérique : poids sur 4 bits, activations sur 16 bits. Les poids — qui dominent la mémoire dans un modèle de 975B — se réduisent à environ un quart d'une empreinte BF16, tandis que l'arithmétique reste sur 16 bits. Cette répartition compte particulièrement pour un modèle de vision : les schémas qui quantifient aussi les activations abîment exactement le travail numérique fin dont dépend la compréhension d'images — lire une petite étiquette d'axe, résoudre un trait fin dans un diagramme, séparer deux nuances proches. Garder les activations sur 16 bits coûte de la bande passante et rachète de la précision là où une charge de vision s'en aperçoit.

Empilées, les trois donnent un modèle qui tient en mémoire et reste rapide, sans la falaise de qualité du palier agressif 3BIT-REAP que nous employons sur les toutes plus grandes fondations. C'est l'arbitrage que reflète le prix.

03Vision : une API d'analyse d'images sans refus

Inkling est l'un des quatre modèles dotés de vision de notre catalogue, aux côtés de Kimi-K3, Kimi-K2.6 et MiniMax-M3. Les résultats de vision publiés pour le modèle de base, tirés de la sortie de Thinking Machines, sont de 73.3% sur MMMU Pro (Standard 10) et de 78.1% sur les questions de raisonnement CharXiv — jusqu'à 82.0% lorsque le modèle est autorisé à exécuter du Python sur le graphique. Ce sont les chiffres propres au laboratoire pour le checkpoint non quantifié ; considérez-les comme le plafond de la famille, pas comme une mesure de notre version.

CharXiv mérite qu'on s'y arrête, car il correspond aux raisons pour lesquelles on achète une API de vision plutôt qu'un service d'OCR. Il teste le raisonnement sur des graphiques scientifiques — lire une valeur sur un axe, comparer deux séries, repérer l'inversion d'une tendance. Non pas « quel texte figure dans cette image » mais « qu'affirme cette figure, et cette affirmation tient-elle ». C'est ce qui justifie d'envoyer une image à un modèle de raisonnement de 975B plutôt qu'à un petit générateur de légendes.

Envoyer une image relève du travail ordinaire compatible OpenAI — une partie de contenu image_url sur /v1/chat/completions, un bloc image de style Anthropic sur /v1/messages, ou l'équivalent sur /v1/responses. Les trois dialectes atteignent les mêmes poids et les trois diffusent en streaming ; prenez celui que votre SDK existant parle déjà. Un exemple complet figure en section 09.

La partie sans censure compte davantage pour la vision que pour le texte. Une couche de refus sur un point de terminaison de vision est particulièrement grossière, car elle classe généralement l'image avant que le modèle n'ait raisonné sur la demande. Du travail légitime se fait bloquer en permanence : une photographie de plaie dans un flux de notes cliniques, une capture d'écran médico-légale dans un compte rendu d'incident, un photogramme de film analysé pour un texte critique, un examen d'imagerie médicale, l'image d'un document qui contient un nom. Inkling sur notre passerelle n'a aucun classifieur de ce type devant lui. Il regarde ce que vous avez envoyé et répond à la question posée. C'est cela, le produit.

04Sortie structurée : response_format oui, json_schema non

C'est le seul point où Inkling est moins capable que la majorité du catalogue, et mieux vaut le prévoir que le découvrir en production.

Capacité	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Vision (entrée d'images)	Oui	Oui	Oui	Non
response_format	Oui	Oui	Oui	Non
json_schema	Non	Oui	Oui	Non
Appel d'outils	Oui	Oui	Oui	Oui
Effort de raisonnement	Oui	Oui	Oui	Oui

response_format: {"type": "json_object"} fonctionne — vous obtenez du JSON syntaxiquement valide. Ce que vous n'obtenez pas, c'est un décodage contraint par une grammaire à partir d'un schéma que vous fournissez, où l'échantillonneur est physiquement empêché d'émettre un token qui viole votre structure. Les noms de champs, l'appartenance aux énumérations et la présence des clés obligatoires relèvent du choix du modèle, pas d'une garantie.

Trois façons de vivre avec cela, par ordre croissant de fiabilité :

1. Mettez le schéma dans le prompt et validez. Placez le schéma dans le prompt système sous forme de JSON littéral, réglez response_format sur json_object, et validez la réponse de votre côté. Réessayez en cas d'échec de validation en joignant le message d'erreur du validateur. Bon marché, efficace, exige un budget de réessais.
2. Utilisez une définition d'outil comme schéma. L'appel d'outils est pris en charge, et la définition des paramètres d'une fonction est un JSON Schema. Déclarez un unique outil nommé d'après l'extraction voulue, forcez-le, et lisez les arguments. C'est généralement la meilleure option sur Inkling, et elle ne vous coûte rien de plus.
3. Répartissez le travail entre deux modèles. Laissez Inkling faire la vision et le raisonnement en prose, puis passez cette prose à MiMo-V2.5-W8A16 à 0,50 $ / 2,00 $ avec un vrai json_schema pour la passe de structuration. Deux appels, mais le second est bon marché, déterministe dans sa forme, et le modèle qui doit être intelligent est celui qui a vu l'image.

L'option 3 est le schéma que nous recommanderions pour tout pipeline d'extraction à fort volume. Ne payez le supplément que pour l'étape qui en a besoin.

05Qu'achète le supplément de prix ?

À 1,42 $ en entrée / 6,07 $ en sortie par million de tokens, Inkling se situe délibérément au milieu de notre catalogue. Six des douze modèles sont au plancher de 0,50 $ / 2,00 $. Kimi-K3 — le modèle phare, également doté de vision — est à 3,83 $ / 19,12 $. Inkling est environ trois fois le plancher en sortie et environ un tiers du modèle phare.

Prix de sortie, USD par 1M de tokens, tarifs catalogue de la passerelle Shannon AI, septembre 2026. La largeur des barres est proportionnelle au prix ; plus long signifie plus cher.

Voici la lecture honnête de là où ce supplément se justifie — et de là où il ne se justifie pas.

Charge de travail	Utiliser Inkling ?	Pourquoi
Raisonnement sur graphiques / diagrammes	Oui	Les chiffres publiés sur CharXiv et MMMU Pro sont le point fort de cette fondation.
Agents pilotés par captures d'écran	Oui	Vision, appel d'outils et 262K d'historique dans un seul modèle, sans transfert.
Longs documents avec figures	Oui	Texte et images partagent un même décodeur et une même fenêtre de contexte.
Génération de texte simple	Non	Six modèles à 0,50 $ / 2,00 $ le font. Vous payez un chemin de vision que vous n'appelez jamais.
Extraction de schémas en masse	Non	Pas de json_schema. MiMo-V2.5 est moins cher et contraint.
Plafond absolu de la frontière	Non	Kimi-K3 est le modèle phare. Payez le 3,1× si c'est le plafond qui vous contraint.
Vision au coût le plus bas possible	Non	MiniMax-M3 a la vision à 0,50 $ / 2,00 $. Commencez là, montez en gamme si la qualité l'impose.

Lisez cela comme une règle d'aiguillage, pas comme un classement. Inkling convient à une bande de travail plus étroite qu'une page marketing ne le prétendrait, et à l'intérieur de cette bande il est difficile à battre sur le prix. En dehors, nous préférons vous vendre le modèle moins cher et vous garder.

06La fenêtre de contexte de 262K, et ce qui y tient vraiment

Les douze modèles de la passerelle sont servis avec un contexte d'entrée de 262,144 tokens et une sortie maximale de 16,384 tokens par requête. Uniforme à dessein : la gestion du contexte ne devrait jamais devenir un embranchement par modèle dans votre code, et remplacer inkling par MiniMax-M3 dans un fichier de configuration ne devrait pas changer silencieusement ce qui tient.

Notez l'écart avec la fondation publiée : Thinking Machines documente Inkling à 1,048,576 tokens, et nous en servons une tranche de 262K. Si vous avez une véritable charge de travail à un million de tokens en une seule requête, nous ne sommes pas le point de terminaison qu'il vous faut, et mieux vaut le savoir avant de construire.

Pour l'échelle à 262K : un PDF technique de 400 pages avec ses figures, une base de code de taille moyenne, plusieurs heures de transcription, ou une longue session agentique portant des dizaines de résultats d'outils et une poignée de captures d'écran — chacun tient dans une seule requête. Sur un modèle de vision, rappelez-vous que les images consomment aussi du contexte ; une capture d'écran dense n'est pas gratuite, et une session qui diffuse des images remplit la fenêtre plus vite qu'une session purement textuelle. L'architecture s'y prête bien : le motif de 5 pour 1 entre fenêtre glissante et couches globales fait que la plupart des couches n'attendent que dans un voisinage de 512 tokens, les couches globales ramenant périodiquement la structure à longue portée.

07Effort de raisonnement : ne payer la réflexion que quand elle sert

Inkling expose un effort de raisonnement contrôlable — l'un des réglages les plus utiles du catalogue. Le modèle en amont accepte des niveaux allant de none et minimal à low, medium, high, xhigh, jusqu'à max, exposés sur les trois dialectes via le paramètre standard reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

C'est un levier de coût qui mord, car les tokens de raisonnement sont facturés comme des tokens de sortie à 6,07 $ par million. Thinking Machines rapporte que sur Terminal Bench 2.1, Inkling atteint des scores comparables à ceux de Nemotron 3 Ultra avec environ un tiers des tokens — l'efficacité en tokens est un objectif de conception déclaré du système d'effort, pas un accident.

En pratique : utilisez low ou minimal pour la légende d'images, la classification et l'extraction simple, là où la réponse est dans l'image et où aucune chaîne d'inférence n'est nécessaire. Réservez high et au-delà au raisonnement sur graphiques, à la comparaison visuelle multi-étapes et aux tours agentiques où une étape intermédiaire fausse coûte cher. La plupart des équipes ne règlent jamais ce paramètre et laissent sur la table un écart de coût de sortie d'un facteur plusieurs.

08Ce que « sans censure » veut dire ici — et ce que cela ne veut pas dire

Concrètement : nous faisons tourner ce modèle sans couche de refus et sans filtrage en sortie. Aucun classifieur ne lit votre prompt pour décider si le modèle a le droit de répondre, et aucun ne lit la réponse avant qu'elle ne soit diffusée. Quand le modèle est incertain ou manque de connaissances, il le dit — cela vient du modèle, pas d'une politique. Ce que vous n'obtiendrez pas, c'est un refus réflexe sur un sujet qu'un produit grand public traite comme interdit.

Pour la vision, c'est toute la proposition de valeur. Les classifieurs d'images placés devant les API de vision sont imprécis, et le taux de faux positifs frappe le plus durement le travail professionnel qui a le plus besoin de cette capacité : recherche en sécurité, contextes cliniques, journalisme et police scientifique, critique de cinéma et d'art, outillage de modération qui doit regarder ce qu'il modère. Un point de terminaison qui refuse sur la catégorie ne peut servir aucun de ces usages de façon fiable.

Deux réserves honnêtes. D'abord, Thinking Machines publie des évaluations de sécurité pour son déploiement de référence — 78.0% sur FORTRESS adversarial, 95.9% sur FORTRESS benign, 98.6% sur StrongREJECT. Ces chiffres décrivent leur pile avec leurs garde-fous en place. Ils ne décrivent pas la nôtre, et nous ne les citerons pas comme s'ils le faisaient. Nous avons retiré la couche que ces chiffres mesurent en partie ; c'est cela, le produit, et la responsabilité qui va avec.

Ensuite, « aucune couche de refus » ne veut pas dire « aucune règle ». Shannon Lab LLC opère sous une politique d'utilisation responsable et le droit américain applicable. Retirer un classifieur déplace le jugement vers vous, il ne le supprime pas. Si vous construisez là-dessus, lisez la politique avant de passer à l'échelle.

09Premiers pas

Même URL de base, même clé, trois dialectes. Si votre code appelle déjà OpenAI, Anthropic ou l'API Responses, changer la chaîne de modèle constitue généralement toute la migration.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

La référence complète des paramètres, les formes /v1/messages et /v1/responses, les formats d'événements de streaming et un bac à sable interactif se trouvent dans la documentation de l'API. Les fiches des onze autres modèles sont dans Shannon Research.

Les chiffres de la fondation sont ceux publiés par Thinking Machines Lab pour le checkpoint Inkling non quantifié et décrivent le plafond de la famille, pas notre version quantifiée. Les prix et les indicateurs de capacité sont les valeurs catalogue de la passerelle Shannon AI en septembre 2026.

10Questions fréquentes

---

Sources : Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — notes d'architecture et de benchmark sur Inkling. Les benchmarks de la fondation sont rapportés par le laboratoire pour le checkpoint non quantifié.