Sensuroimaton Inkling-malli API

Useimmat yhdyskäytävämme kahdestatoista mallista ovat pelkkää tekstiä. Neljä ei ole, ja noista neljästä Inklingillä on tarkka paikkansa: se on näkömalli johon tartut kun kuva on ongelman vaikein osa mutta budjetti ei veny lippulaivaan. Tämä kortti käy läpi mistä perusta tulee, mitä W4A16-AUTOROUND-REAP -pääte teki sille, mitä se tekee ja mitä se ei tee API-rajapinnassa, ja — rehellisesti — milloin halvempi malli samasta valikoimasta on parempi valinta.

01Mikä Inkling on, ja kuka sen rakensi?

Inkling on Thinking Machines Labin ensimmäinen avoinpainoinen malli, julkaistu 15. heinäkuuta 2026. Toisin kuin useimmat ”avoimiksi” asemoidut julkaisut, se toimitettiin täysin ladattavilla painoilla Hugging Facessa ja päivän nolla -tuella transformersiin, SGLangiin, vLLM:ään ja llama.cpp:hen — mikä on syy siihen että se on ylipäätään ajettavissa meidän kaltaisellamme infrastruktuurilla. Otsikkoluvut Thinking Machinesin omasta julkaisuaineistosta:

Kyseessä on harva Mixture-of-Experts-rakenne: 66 dekooderikerrosta piilodimensiolla 6 144, joista kaksi ensimmäistä tiheitä ja loput 64 kantavat 256 reititettyä asiantuntijaa plus 2 jaettua asiantuntijaa, 6 reititettyä asiantuntijaa aktiivisena tokenia kohti. Karkeasti 4 % parametreista laukeaa millä tahansa yksittäisellä tokenilla — juuri se tekee lähes biljoonan parametrin mallista ylipäätään tarjottavan.

Kaksi arkkitehtuurivalintaa on niin epätavallista että ne kannattaa nimetä. Huomio on lomitettua — 55 kerrosta liukuvan ikkunan huomiota 512 tokenin ikkunalla 11 globaalia kerrosta vastaan, 5:1 toistuvassa kuviossa. Eikä Inkling käytä RoPE:a: se käyttää opittua, syötteestä riippuvaa suhteellisen sijainnin harhaa, sekä lyhyitä kausaalisia konvoluutioita avain- ja arvoprojektioissa ja residuaalihaaroissa. Sebastian Raschkan arkkitehtuurimuistiinpanot merkitsevät molemmat aidoiksi poikkeamiksi vuoden 2026 vakioreseptistä. Koulutuksessa käytettiin Muonia suurille matriisiparametreille ja Adamia lopuille, ja jälkikoulutuksessa yli 30 miljoonaa asynkronista RL-ajoa.

API:n käyttäjälle olennaista ei ole trivia. Olennaista on että tämä on huippuluokan mittakaavan, natiivisti multimodaalinen perusta joka on koulutettu 45 biljoonalla tokenilla tekstiä, kuvia, ääntä ja videota — ei tekstimalli johon on myöhemmin pultattu näköadapteri. Kuvat koodataan 40×40 pikselin lohkoina neljäkerroksisen hierarkkisen MLP-lohkottimen läpi ja käsitellään yhdessä tekstin kanssa samassa dekooderissa. Visuaalinen ymmärrys oli mukana esikoulutuksen tavoitteessa.

02Mitä W4A16-AUTOROUND-REAP tarkoittaa?

Päätteeseen on pinottu kolme erillistä tekniikkaa, ja ne tekevät eri työn. Ne kannattaa ymmärtää, koska pääte on suurin yksittäinen ero sen mallin välillä jota kutsut API:ssamme ja sen tarkistuspisteen välillä jonka Thinking Machines julkaisi.

REAP — karsitaan asiantuntijat joille kukaan ei reititä

REAP on Router-weighted Expert Activation Pruning, Cerebras Researchilta (arXiv 2510.13999, hyväksytty ICLR 2026:een). MoE-mallissa jossa on 256 asiantuntijaa kerrosta kohti reititin ei jaa työtä tasaisesti: joihinkin asiantuntijoihin osutaan jatkuvasti, toiset laukeavat harvoin ja vaikuttavat vähän silloinkin. REAP pisteyttää jokaisen asiantuntijan sekä reitittimen porttiarvoilla että asiantuntijan aktivaationormeilla — usein valittu mutta pieniä muutoksia tuottava asiantuntija merkitsee vähemmän kuin sen valintamäärä antaa ymmärtää — ja pudottaa vähäisen merkitsevyyden asiantuntijat yhdellä kertaa, ennen kvantisointia.

Syy siihen että käytämme karsintaa emmekä muodikkaampaa asiantuntijoiden yhdistämistä on että nämä kaksi erkanevat tehtävätyypin mukaan. Yhdistäminen näyttää kilpailukykyiseltä erottelevissa vertailuissa ja hajoaa generatiivisissa. REAPin tekijät raportoivat että karsinta säilyttää laadun paremmin juuri niissä kuormissa joita varten API ostetaan — koodisynteesi, työkalukutsut, monivuoroinen päättely — yli 50 %:n pakkaussuhteilla, malleissa 20 miljardista biljoonaan parametriin. Yhdistäminen tuhoaa reitittimen erikoistumisen; karsinta jättää selviytyneet asiantuntijat ja niiden välisen reitityksen ehjäksi.

AutoRound — opitaan mihin pyöristetään

AutoRound on Intelin koulutuksen jälkeisen kvantisoinnin menetelmä (arXiv 2309.05516, julkaistu nimellä SignRound). Naiivi kvantisointi pyöristää jokaisen painon lähimpään esitettävissä olevaan 4-bittiseen arvoon — järkevä oletus ja huono sellainen mittakaavassa, koska pyöristysvirheet eivät ole riippumattomia ja ne kasautuvat 66 kerroksen pinon läpi. AutoRound käsittelee pyöristyspäätöstä optimoitavana asiana: merkkiperustainen gradienttilaskeutuminen virittää yhdessä pyöristyssuunnan ja painojen leikkausalueet parin sadan askeleen aikana, lainaten kvantisointitietoisen koulutuksen tarkkuuden ilman uudelleenkoulutusta. Intel raportoi suurimmat hyödyt äärimmäisen matalilla bittimäärillä ja kilpailukykyisen edun INT4:ssä.

W4A16 — mihin bitit menevät

W4A16 on numeerinen muoto: 4-bittiset painot, 16-bittiset aktivaatiot. Painot — jotka hallitsevat muistia 975 miljardin parametrin mallissa — kutistuvat noin neljäsosaan BF16-jalanjäljestä, kun laskenta pysyy 16 bitissä. Tuo jako merkitsee erityisesti näkömallille: aktivaatiot kvantisoivat menetelmät vahingoittavat juuri sitä hienojakoista numeerista työtä josta kuvan ymmärtäminen riippuu — pienen akselinimikkeen lukeminen, ohuen viivan erottaminen kaaviossa, kahden samankaltaisen sävyn erottaminen toisistaan. Aktivaatioiden pitäminen 16 bitissä maksaa kaistanleveyttä ja ostaa takaisin tarkkuutta siellä missä näkökuorma sen huomaa.

Pinottuina nämä kolme antavat mallin joka mahtuu ja pysyy nopeana ilman sitä laatujyrkännettä jonka aggressiivinen 3BIT-REAP -taso tuo — tasoa jota käytämme kaikkein suurimmilla perustoilla. Sitä vaihtokauppaa hinta heijastaa.

03Näkö: kuva-analyysin API ilman kieltäytymisiä

Inkling on yksi valikoimamme neljästä näkökykyisestä mallista, Kimi-K3:n, Kimi-K2.6:n ja MiniMax-M3:n rinnalla. Perusmallin julkaistut näkötulokset Thinking Machinesin julkaisusta ovat 73.3 % MMMU Pro:ssa (Standard 10) ja 78.1 % CharXivin päättelykysymyksissä — nousten 82.0 %:iin kun malli saa ajaa Pythonia kaaviota vasten. Nuo ovat laboratorion omat luvut kvantisoimattomalle tarkistuspisteelle; kohtele niitä perheen kattona äläkä meidän buildimme mittauksena.

CharXivin äärellä kannattaa viipyä, koska se osuu siihen miksi ihmiset ostavat näkö-API:n eivätkä OCR-palvelua. Se testaa päättelyä tieteellisistä kaavioista — arvon lukemista akselilta, kahden sarjan vertailua, trendin kääntymisen huomaamista. Ei ”mitä tekstiä tässä kuvassa on” vaan ”mitä tämä kuvio väittää, ja pitääkö väite paikkansa”. Juuri se oikeuttaa kuvan lähettämisen 975 miljardin parametrin päättelymallille pienen kuvatekstittäjän sijaan.

Kuvan lähettäminen on tavallista OpenAI-yhteensopivaa työtä — image_url-sisältöosa päätepisteessä /v1/chat/completions, Anthropic-tyylinen image-lohko päätepisteessä /v1/messages, tai vastaava päätepisteessä /v1/responses. Kaikki kolme murretta osuvat samoihin painoihin ja kaikki kolme suoratoistavat; valitse se jota nykyinen SDK:si jo puhuu. Työstetty esimerkki on osiossa 09.

Sensuroimattomuus merkitsee näössä enemmän kuin tekstissä. Kieltäytymiskerros näköpäätepisteen edessä on epätavallisen tylppä, koska se tyypillisesti luokittelee kuvan ennen kuin malli on päätellyt pyynnöstä mitään. Laillinen työ jää haaviin jatkuvasti: haavavalokuva kliinisten muistiinpanojen putkessa, forensinen kuvakaappaus poikkeamaraportissa, ruutu elokuvasta jota analysoidaan kritiikkiä varten, lääketieteellinen kuvantaminen, kuva asiakirjasta jossa sattuu olemaan nimi. Yhdyskäytävämme Inklingin edessä ei ole tällaista luokitinta. Se katsoo mitä lähetit ja vastaa kysymykseen jonka esitit. Se on tuote.

04Rakenteinen tuloste: response_format kyllä, json_schema ei

Tämä on ainoa kohta jossa Inkling on vähemmän kyvykäs kuin suurin osa valikoimasta, ja tämän kanssa on parempi suunnitella etukäteen kuin huomata se tuotannossa.

Ominaisuus	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Näkö (kuvasyöte)	Kyllä	Kyllä	Kyllä	Ei
response_format	Kyllä	Kyllä	Kyllä	Ei
json_schema	Ei	Kyllä	Kyllä	Ei
Työkalukutsut	Kyllä	Kyllä	Kyllä	Kyllä
Päättelyponnistus	Kyllä	Kyllä	Kyllä	Kyllä

response_format: {"type": "json_object"} toimii — saat syntaktisesti kelvollista JSONia. Mitä et saa on kieliopilla rajoitettua dekoodausta antamaasi skeemaa vasten, jossa näytteistin fyysisesti estetään tuottamasta tokenia joka rikkoo rakenteesi. Kenttien nimet, enum-jäsenyys ja pakollisten avainten läsnäolo ovat mallin valinta, eivät takuu.

Kolme tapaa elää sen kanssa, nousevassa luotettavuusjärjestyksessä:

1. Anna skeema kehotteessa ja validoi. Laita skeema järjestelmäkehotteeseen kirjaimellisena JSONina, aseta response_format arvoon json_object ja validoi vastaus omalla puolellasi. Yritä uudelleen validointivirheen sattuessa validaattorin virheviesti liitettynä mukaan. Halpaa, toimii, vaatii uudelleenyritysbudjetin.
2. Käytä työkalumäärittelyä skeemana. Työkalukutsut ovat tuettuja, ja funktion parametrimäärittely on JSON Schema. Määrittele yksi työkalu jonka nimi vastaa haluamaasi poimintaa, pakota se ja lue argumentit. Tämä on Inklingissä yleensä vahvin vaihtoehto eikä se maksa sinulle mitään ylimääräistä.
3. Jaa työ kahdelle mallille. Anna Inklingin tehdä näkö ja päättely proosana, ja anna se proosa sitten mallille MiMo-V2.5-W8A16 hintaan $0.50 / $2.00 aidolla json_schema-määrittelyllä rakenteistamisvaihetta varten. Kaksi kutsua, mutta jälkimmäinen on halpa ja muodoltaan deterministinen, ja se malli jonka pitää olla älykäs on se joka näki kuvan.

Vaihtoehto 3 on kuvio jota suosittelisimme mihin tahansa suuren volyymin poimintaputkeen. Maksa lisähintaa vain siitä vaiheesta joka sitä tarvitsee.

05Mitä hinnan lisä ostaa?

Hinnalla $1.42 sisään / $6.07 ulos miljoonalta tokenilta Inkling asettuu tarkoituksella valikoimamme keskelle. Kuusi kahdestatoista mallista on $0.50 / $2.00 hintalattialla. Kimi-K3 — lippulaiva, myös näkökykyinen — on $3.83 / $19.12. Inkling on karkeasti kolme kertaa lattia tulosteessa ja karkeasti kolmasosa lippulaivasta.

Tulosteen hinta, USD miljoonalta tokenilta, Shannon AI -yhdyskäytävän listahinnat, syyskuu 2026. Palkin leveys on suhteessa hintaan; pidempi on kalliimpi.

Tässä rehellinen luenta siitä missä tuo lisähinta ansaitsee paikkansa — ja missä ei.

Kuorma	Käytäkö Inklingiä?	Miksi
Kaavioiden ja diagrammien päättely	Kyllä	Julkaistut CharXiv- ja MMMU Pro -luvut ovat juuri sitä missä tämä perusta on vahvimmillaan.
Kuvakaappauksia käyttävät agentit	Kyllä	Näkö plus työkalukutsut plus 262K historiaa yhdessä mallissa, ilman luovutusta.
Pitkät dokumentit joissa on kuvioita	Kyllä	Teksti ja kuvat jakavat yhden dekooderin ja yhden konteksti-ikkunan.
Pelkän tekstin tuottaminen	Ei	Kuusi mallia hintaan $0.50 / $2.00 tekee tämän. Maksat näköpolusta jota et koskaan kutsu.
Massaskeemapoiminta	Ei	Ei json_schema-tukea. MiMo-V2.5 on halvempi ja rajoitettu.
Absoluuttinen huipputason katto	Ei	Kimi-K3 on lippulaiva. Maksa 3,1-kertainen hinta jos katto on rajoite.
Halvin mahdollinen näkö	Ei	MiniMax-M3:ssa on näkö hintaan $0.50 / $2.00. Aloita siitä, nouse ylöspäin jos laatu pakottaa.

Lue tuo reitityssääntönä, ei paremmuusjärjestyksenä. Inkling on oikea kapeammalle työn kaistalle kuin markkinointisivu väittäisi, ja sen kaistan sisällä sitä on vaikea päihittää hinnalla. Kaistan ulkopuolella myymme mieluummin halvemman mallin ja pidämme sinut asiakkaana.

06262K konteksti-ikkuna, ja mitä siihen oikeasti mahtuu

Kaikki kaksitoista yhdyskäytävän mallia tarjotaan 262 144 tokenin syötekontekstilla ja 16 384 tokenin tulosteen enimmäismäärällä pyyntöä kohti. Yhdenmukaisuus on tarkoituksellista: kontekstin käsittelystä ei pidä koskaan tulla mallikohtaista haaraa koodissasi, eikä inkling-tunnuksen vaihtamisen MiniMax-M3-tunnukseen konfiguraatiotiedostossa pidä hiljaisesti muuttaa sitä mitä mahtuu.

Huomaa ero julkaistuun perustaan: Thinking Machines dokumentoi Inklingin 1 048 576 tokeniin, ja me tarjoamme siitä 262K siivun. Jos sinulla on aito miljoonan tokenin yhden pyynnön kuorma, emme ole sen päätepiste, ja parempi että tiedät sen ennen kuin rakennat.

Mittakaavaa 262K:lle: 400-sivuinen tekninen PDF kuvioineen, keskikokoinen koodikanta, useita tunteja litterointia, tai pitkä agenttisessio joka kantaa kymmeniä työkalutuloksia ja kourallisen kuvakaappauksia — kukin mahtuu yhteen pyyntöön. Näkömallilla kannattaa muistaa että kuvat kuluttavat myös kontekstia; tiheä kuvakaappaus ei ole ilmainen, ja sessio joka syöttää ruutuja täyttää ikkunan nopeammin kuin pelkkää tekstiä käyttävä. Arkkitehtuuri sopii tähän hyvin: 5:1-suhde liukuvan ikkunan ja globaalien kerrosten välillä tarkoittaa että useimmat kerrokset huomioivat 512 tokenin naapurustossa, ja globaalit kerrokset vetävät pitkän kantaman rakenteen ajoittain takaisin mukaan.

07Päättelyponnistus: maksat ajattelusta vain kun tarvitset sitä

Inkling tarjoaa säädettävän päättelyponnistuksen — yksi valikoiman hyödyllisimmistä nupeista. Ylävirran malli hyväksyy tasot arvoista none ja minimal tasojen low, medium, high, xhigh kautta arvoon max, tarjottuina kaikilla kolmella murteella vakioparametrin reasoning_effort kautta.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Tämä on kustannusvipu jolla on hampaat, koska päättelytokenit laskutetaan tulostetokeneina hintaan $6.07 miljoonalta. Thinking Machines raportoi että Terminal Bench 2.1:ssä Inkling yltää Nemotron 3 Ultran kanssa vertailukelpoisiin pisteisiin noin kolmasosalla tokeneista — tokenitehokkuus on ponnistusjärjestelmän ilmoitettu suunnittelutavoite, ei sattuma.

Käytännössä: aja low tai minimal kuvatekstityksessä, luokittelussa ja suoraviivaisessa poiminnassa, joissa vastaus on kuvassa eikä päättelyketjua tarvita. Varaa high ja sitä ylemmät kaavioiden päättelyyn, monivaiheiseen visuaaliseen vertailuun ja agenttivuoroihin joissa väärä välivaihe on kallis. Useimmat tiimit eivät aseta parametria lainkaan, ja jättävät moninkertaisen tulostekustannuksen eron pöydälle.

08Mitä ”sensuroimaton” tässä tarkoittaa — ja mitä ei

Konkreettisesti: ajamme tätä mallia ilman kieltäytymiskerrosta ja ilman tulosteen suodatusta. Mikään luokitin ei lue kehotettasi ja päätä saako malli vastata, eikä mikään lue vastausta ennen kuin se suoratoistetaan. Kun malli on epävarma tai siltä puuttuu tieto, se sanoo niin — se on malli, ei käytäntö. Mitä et saa on refleksinomaista kieltäytymistä aiheesta jota yleiskuluttajatuote pitää rajojen ulkopuolisena.

Näössä tämä on koko arvolupaus. Kuvaluokittimet näkö-API:en edessä ovat epätarkkoja, ja väärien positiivisten osuus osuu kipeimmin juuri siihen ammattityöhön joka kyvykkyyttä eniten tarvitsee: tietoturvatutkimus, kliiniset yhteydet, journalismi ja forensiikka, elokuva- ja taidekritiikki, moderointityökalut joiden on katsottava sitä mitä ne moderoivat. Päätepiste joka kieltäytyy kategorian perusteella ei voi palvella mitään näistä luotettavasti.

Kaksi rehellistä varaumaa. Ensinnäkin Thinking Machines julkaisee turvallisuusarvioinnit omalle referenssitoteutukselleen — 78.0 % FORTRESS adversarialissa, 95.9 % FORTRESS benignissä, 98.6 % StrongREJECTissä. Nuo luvut kuvaavat heidän pinoaan heidän suojakaiteineen. Ne eivät kuvaa meidän pinoamme, emmekä lainaa niitä kuin kuvaisivat. Poistimme sen kerroksen jota nuo luvut osittain mittaavat; se on tuote, ja se on vastuu.

Toiseksi, ”ei kieltäytymiskerrosta” ei ole ”ei sääntöjä”. Shannon Lab LLC toimii vastuullisen käytön käytännön ja soveltuvan Yhdysvaltain lain alaisuudessa. Luokittimen poistaminen siirtää harkinnan sinulle, se ei poista sitä. Jos rakennat tämän päälle, lue käytäntö ennen kuin skaalaat.

09Näin pääset alkuun

Sama perus-URL, sama avain, kolme murretta. Jos koodisi jo kutsuu OpenAI:ta, Anthropicia tai Responses-API:a, mallimerkkijonon vaihtaminen on yleensä koko migraatio.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Täydellinen parametriviite, /v1/messages- ja /v1/responses-muodot, suoratoiston tapahtumamuodot ja live-leikkikenttä löytyvät API-dokumentaatiosta. Muiden yhdentoista mallin mallikortit ovat osoitteessa Shannon Research.

Perustan luvut ovat Thinking Machines Labin julkaisemia lukuja kvantisoimattomalle Inkling-tarkistuspisteelle ja kuvaavat perheen kattoa, eivät meidän kvantisoitua buildiamme. Hinnat ja ominaisuusliput ovat Shannon AI -yhdyskäytävän listahintoja syyskuulta 2026.

10Usein kysytyt kysymykset

---

Lähteet: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes. Perustan vertailuluvut ovat laboratorion raportoimia kvantisoimattomalle tarkistuspisteelle.