Óritskoðað Inkling API

Flest af tólf líkönunum á gáttinni okkar eru aðeins texti. Fjögur eru það ekki, og meðal þeirra fjögurra hefur Inkling ákveðna stöðu: sjónlíkanið sem þú grípur í þegar myndin er erfiði hluti vandamálsins en fjárhagurinn nær ekki upp í flaggskip. Þetta spjald fjallar um hvaðan grunnlíkanið kemur, hvað W4A16-AUTOROUND-REAP viðskeytið gerði við það, hvað það gerir og gerir ekki á API-fletinum, og — heiðarlega — hvenær ódýrara líkan í sömu skrá er betra val.

01Hvað er Inkling, og hver byggði það?

Inkling er fyrsta líkanið með opnum þyngdum frá Thinking Machines Lab, birt 15. júlí 2026. Ólíkt flestum útgáfum sem stilltar eru upp sem „opnar“ kom það með fullum niðurhalanlegum þyngdum á Hugging Face og stuðningi frá degi núll í transformers, SGLang, vLLM og llama.cpp — sem er ástæðan fyrir því að yfirhöfuð var hægt að keyra það á innviðum eins og okkar. Aðaltölurnar, úr útgáfuefni Thinking Machines sjálfs:

Þetta er strjált Mixture-of-Experts snið: 66 afkóðaralög með falinni vídd 6.144, þau tvö fyrstu þétt, hin 64 bera 256 beinda sérfræðinga auk 2 sameiginlegra, með 6 beinda sérfræðinga virka á hvert tákn. Gróflega 4% færibreytnanna kvikna á hverju tákni — og það er ástæðan fyrir því að hægt er að þjóna líkani með nærri billjón færibreyta yfirhöfuð.

Tvö byggingarval eru nógu óvenjuleg til að nefna. Athyglin er fléttuð — 55 lög af rennigluggaathygli yfir 512 tákna glugga á móti 11 heildarlögum, í 5:1 endurteknu mynstri. Og Inkling notar ekki RoPE: það notar lærðan, inntaksháðan afstæðan staðsetningarbjaga, ásamt stuttum orsakabundnum földunum á lykil- og gildisvörpunum og á leifagreinunum. Byggingarnótur Sebastians Raschka merkja hvort tveggja sem raunveruleg frávik frá staðaluppskrift ársins 2026. Þjálfunin notaði Muon fyrir stóru fylkjafæribreyturnar og Adam fyrir hitt, og svo yfir 30 milljónir ósamstilltra styrkingarnámskeyrslna í eftirþjálfun.

Aðalatriðið fyrir API-notanda er ekki fróðleikurinn. Það er að þetta er grunnlíkan í framlínustærð sem er innbyggt fjölþátta, þjálfað á 45 billjónum tákna sem spanna texta, myndir, hljóð og myndband — ekki textalíkan með sjónmillistykki skrúfað á síðar. Myndir eru kóðaðar sem 40×40 punkta bútar gegnum fjögurra laga stigskiptan MLP-bútara og unnar samhliða texta í sama afkóðara. Sjónskilningur var hluti af forþjálfunarmarkmiðinu.

02Hvað þýðir W4A16-AUTOROUND-REAP?

Þrjár aðskildar aðferðir eru staflaðar í því viðskeyti, og þær vinna ólík verk. Þess virði að skilja, því viðskeytið er stærsti einstaki munurinn á líkaninu sem þú kallar á hjá okkur og eftirlitsstöðunni sem Thinking Machines birti.

REAP — að grisja sérfræðingana sem enginn beinir til

REAP er Router-weighted Expert Activation Pruning, frá Cerebras Research (arXiv 2510.13999, samþykkt á ICLR 2026). Í MoE með 256 sérfræðinga á hvert lag dreifir beinirinn ekki vinnunni jafnt: stöðugt er kallað á suma, aðrir kvikna sjaldan og leggja lítið til þegar þeir gera það. REAP gefur hverjum sérfræðingi einkunn út frá bæði hliðgildum beinisins og virkjunarstöðlum sérfræðingsins — sérfræðingur sem er oft valinn en leggur til uppfærslur af lítilli stærð skiptir minna máli en valfjöldi hans gefur í skyn — og hendir þeim ómerkilegu í einu skoti, áður en þjappað er.

Ástæðan fyrir því að við notum grisjun frekar en hina tískulegri samsteypu sérfræðinga er að aðferðirnar tvær greinast eftir gerð verkefnis. Samsteypa lítur samkeppnishæf út á aðgreiningarviðmiðum og fellur um sjálfa sig á framleiðsluviðmiðum. Höfundar REAP greina frá því að grisjun varðveiti gæði betur einmitt á þeim vinnuálögum sem fólk kaupir API fyrir — kóðasmíði, verkfærakalli, margumferða rökhugsun — við þjöppunarhlutföll yfir 50%, yfir líkön frá 20B til 1T færibreytur. Samsteypa eyðileggur sérhæfingu beinisins; grisjun skilur eftir þá sérfræðinga sem lifa af og beininguna milli þeirra ósnerta.

AutoRound — að læra hvar á að námunda

AutoRound er eftirþjálfunarþjöppun Intel (arXiv 2309.05516, birt sem SignRound). Einföld þjöppun námundar hverja þyngd að næsta framsetjanlega 4 bita gildi — skynsamlegt sjálfgildi og slæmt í stórum stíl, því námundunarvillur eru ekki óháðar og safnast upp í gegnum 66 laga stafla. AutoRound meðhöndlar námundunarákvörðunina sem eitthvað sem á að besta: formerkt stigulsfall stillir í sameiningu námundunarstefnu og klippisvið þyngda yfir nokkur hundruð skref, og fær að láni nákvæmni þjálfunar sem tekur mið af þjöppun án endurþjálfunar. Intel greinir frá mestum ávinningi við mjög fáa bita og samkeppnisforskoti við INT4.

W4A16 — hvert bitarnir fara

W4A16 er talnasniðið: 4 bita þyngdir, 16 bita virkjanir. Þyngdirnar — sem ráða minnisnotkun í 975B líkani — skreppa saman í gróflega fjórðung af BF16 fótspori, á meðan reikningurinn helst á 16 bitum. Sú skipting skiptir máli sérstaklega fyrir sjónlíkan: aðferðir sem þjappa líka virkjunum skaða einmitt fínkorna talnavinnuna sem myndskilningur reiðir sig á — að lesa lítinn ásamerkimiða, greina þunna línu í skýringarmynd, aðgreina tvo svipaða litatóna. Að halda virkjunum á 16 bitum kostar bandbreidd og kaupir til baka nákvæmni þar sem sjónvinnuálag tekur eftir henni.

Staflað saman gefa þessi þrjú líkan sem kemst fyrir og helst hratt án gæðahrunsins sem fylgir harkalega 3BIT-REAP þrepinu sem við notum á allra stærstu grunnlíkönin. Það eru skiptin sem verðið endurspeglar.

03Sjón: API fyrir myndgreiningu án neitana

Inkling er eitt af fjórum líkönum með sjón í skránni okkar, ásamt Kimi-K3, Kimi-K2.6 og MiniMax-M3. Birtar sjónniðurstöður grunnlíkansins, úr útgáfu Thinking Machines, eru 73,3% á MMMU Pro (Standard 10) og 78,1% á rökhugsunarspurningum CharXiv — sem hækkar í 82,0% þegar líkanið fær að keyra Python á móti grafinu. Þetta eru tölur rannsóknarstofunnar sjálfrar fyrir óþjöppuðu eftirlitsstöðuna; líttu á þær sem þak fjölskyldunnar, ekki mælingu á okkar smíð.

CharXiv er sú sem er þess virði að staldra við, því hún varpast á það hvers vegna fólk kaupir sjón-API frekar en ljóslestrarþjónustu. Hún prófar rökhugsun um vísindaleg gröf — að lesa gildi af ás, bera saman tvær raðir, taka eftir því að þróun snýst við. Ekki „hvaða texti er á þessari mynd“ heldur „hvað fullyrðir þetta myndrit, og heldur fullyrðingin“. Það er það sem réttlætir að senda mynd til 975B rökhugsunarlíkans í stað lítils myndatextara.

Að senda mynd er venjuleg OpenAI-samhæfð vinna — image_url efnishluti á /v1/chat/completions, image blokk á Anthropic-sniði á /v1/messages, eða jafngildið á /v1/responses. Allar þrjár mállýskurnar hitta sömu þyngdir og allar þrjár streyma; veldu þá sem núverandi SDK-ið þitt talar nú þegar. Unnið dæmi er í kafla 09.

Óritskoðaði hlutinn skiptir meira máli fyrir sjón en fyrir texta. Neitunarlag á sjónendapunkti er óvenju gróft, því það flokkar yfirleitt myndina áður en líkanið hefur rökhugsað um beiðnina. Lögmæt vinna festist stöðugt í því: ljósmynd af sári í ferli fyrir klínískar nótur, réttarfræðileg skjámynd í atvikaskýrslu, rammi úr kvikmynd sem verið er að greina fyrir gagnrýni, læknisfræðileg skönnun, mynd af skjali sem inniheldur nafn. Inkling á gáttinni okkar hefur engan slíkan flokkara fyrir framan sig. Það horfir á það sem þú sendir og svarar spurningunni sem þú spurðir. Það er varan.

04Skipulagt úttak: response_format já, json_schema nei

Þetta er eini staðurinn þar sem Inkling er getuminna en flest í skránni, og betra er að skipuleggja fyrir því en að uppgötva það í rekstri.

Geta	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Sjón (myndinntak)	Já	Já	Já	Nei
response_format	Já	Já	Já	Nei
json_schema	Nei	Já	Já	Nei
Verkfærakall	Já	Já	Já	Já
Rökhugsunarþungi	Já	Já	Já	Já

response_format: {"type": "json_object"} virkar — þú færð setningafræðilega gilt JSON. Það sem þú færð ekki er afkóðun bundin af málfræði á móti skema sem þú lætur í té, þar sem sýnatakinu er líkamlega meinað að gefa frá sér tákn sem brýtur gegn byggingunni þinni. Nöfn reita, gild gildi í upptalningum og tilvist skyldulykla eru val líkansins, ekki trygging.

Þrjár leiðir til að lifa með því, í hækkandi röð eftir áreiðanleika:

1. Settu skemað í fyrirmælin og vottaðu. Settu skemað í kerfisfyrirmælin sem bókstaflegt JSON, stilltu response_format á json_object, og vottaðu svarið þín megin. Reyndu aftur við vottunarbrest með villuboðum vottarans viðbættum. Ódýrt, virkar, þarf heimild fyrir endurtekningar.
2. Notaðu verkfæraskilgreiningu sem skemað. Verkfærakall er stutt, og færibreytuskilgreining falls er JSON-skema. Skilgreindu eitt verkfæri sem heitir eftir útdrættinum sem þú vilt, þvingaðu það, og lestu viðföngin. Þetta er yfirleitt sterkasti kosturinn á Inkling og hann kostar þig ekkert aukalega.
3. Skiptu verkinu milli tveggja líkana. Láttu Inkling vinna sjónina og rökhugsunina í texta, og réttu svo þeim texta til MiMo-V2.5-W8A16 á $0.50 / $2.00 með raunverulegu json_schema fyrir umbreytinguna. Tvö köll, en það seinna er ódýrt, fyrirsjáanlegt í formi, og líkanið sem þarf að vera klárt er það sem sá myndina.

Kostur 3 er mynstrið sem við myndum mæla með fyrir hvaða útdráttarferli sem er í miklu magni. Borgaðu álagið aðeins fyrir skrefið sem þarf það.

05Hvað kaupir verðálagið?

Á $1.42 inn / $6.07 út á hverja milljón tákna situr Inkling vísvitandi í miðju skrárinnar okkar. Sex af tólf líkönum eru á $0.50 / $2.00 gólfinu. Kimi-K3 — flaggskipið, líka með sjón — er á $3.83 / $19.12. Inkling er gróflega þrefalt gólfið á úttaki og gróflega þriðjungur af flaggskipinu.

Úttaksverð, USD á 1M tákn, listaverð Shannon AI gáttarinnar, september 2026. Breidd súlunnar er í hlutfalli við verð; lengri er dýrari.

Hér er heiðarlegi lesturinn á því hvar það álag borgar sig — og hvar ekki.

Vinnuálag	Nota Inkling?	Hvers vegna
Rökhugsun um gröf og skýringarmyndir	Já	Birtu CharXiv og MMMU Pro tölurnar eru það sem þetta grunnlíkan er sterkast í.
Gerendur sem knúðir eru af skjámyndum	Já	Sjón plús verkfærakall plús 262K af sögu í einu líkani, engin afhending.
Löng skjöl með myndritum	Já	Texti og myndir deila einum afkóðara og einum samhengisglugga.
Framleiðsla á venjulegum texta	Nei	Sex líkön á $0.50 / $2.00 gera þetta. Þú ert að borga fyrir sjónleið sem þú kallar aldrei á.
Skemaútdráttur í miklu magni	Nei	Ekkert json_schema. MiMo-V2.5 er ódýrara og bundið.
Algjört framlínuþak	Nei	Kimi-K3 er flaggskipið. Borgaðu 3,1× ef þakið er takmörkunin.
Ódýrasta mögulega sjón	Nei	MiniMax-M3 er með sjón á $0.50 / $2.00. Byrjaðu þar, færðu þig upp ef gæðin krefjast þess.

Lestu það sem beiningarreglu, ekki röðun. Inkling hentar þrengra bili verkefna en auglýsingasíða myndi halda fram, og innan þess bils er erfitt að slá það út á verði. Utan þess viljum við frekar selja þér ódýrara líkanið og halda þér.

06262K samhengisglugginn, og hvað kemst raunverulega fyrir

Öll tólf líkönin á gáttinni eru keyrð með 262,144 tákna inntakssamhengi og 16,384 tákna hámarksúttaki á hverja beiðni. Samræmt af ásettu ráði: meðhöndlun samhengis á aldrei að verða grein í kóðanum þínum fyrir hvert líkan, og að skipta inkling út fyrir MiniMax-M3 í stillingaskrá á ekki að breyta hljóðlega því sem kemst fyrir.

Athugaðu bilið á móti birta grunnlíkaninu: Thinking Machines skjalfestir Inkling með 1.048.576 táknum, og við keyrum 262K sneið af því. Ef þú ert með raunverulegt vinnuálag með milljón táknum í einni beiðni erum við ekki endapunkturinn fyrir það, og betra að þú vitir það áður en þú byggir.

Til að setja 262K í samhengi: 400 síðna tæknilegt PDF með myndritum sínum, miðlungsstórt kóðasafn, nokkurra klukkustunda afrit, eða löng gerendalota sem ber tugi verkfæraniðurstaðna og handfylli skjámynda — hvert um sig kemst fyrir í einni beiðni. Á sjónlíkani skaltu muna að myndir taka líka samhengi; þétt skjámynd er ekki ókeypis, og lota sem streymir römmum fyllir gluggann hraðar en lota með texta einum saman. Byggingarlagið hentar þessu vel: 5:1 mynstrið milli renniglugga og heildarathygli þýðir að flest lög horfa innan 512 tákna nágrennis, á meðan heildarlögin draga langdræga byggingu reglulega inn aftur.

07Rökhugsunarþungi: að borga fyrir hugsun aðeins þegar þú þarft hana

Inkling býður upp á stýranlegan rökhugsunarþunga — einn gagnlegasta stillihnappinn í skránni. Líkanið hjá framleiðanda tekur við stigum frá none og minimal gegnum low, medium, high, xhigh, upp í max, aðgengilegt á öllum þremur mállýskum gegnum stöðluðu reasoning_effort færibreytuna.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Þetta er kostnaðarstýring með tennur, því rökhugsunartákn eru rukkuð sem úttakstákn á $6.07 á hverja milljón. Thinking Machines greinir frá því að á Terminal Bench 2.1 nái Inkling einkunnum sambærilegum við Nemotron 3 Ultra með gróflega þriðjungi táknanna — táknnýtni er yfirlýst hönnunarmarkmið þungakerfisins, ekki tilviljun.

Í reynd: keyrðu low eða minimal fyrir myndatexta, flokkun og einfaldan útdrátt, þar sem svarið er í myndinni og engrar ályktunarkeðju er þörf. Geymdu high og ofar fyrir rökhugsun um gröf, margþrepa sjónrænan samanburð og gerendaumferðir þar sem rangt millistig er dýrt. Flest teymi setja færibreytuna aldrei og skilja margfaldan mun á úttakskostnaði eftir á borðinu.

08Hvað „óritskoðað“ þýðir hér — og hvað það þýðir ekki

Áþreifanlega: við keyrum þetta líkan með engu neitunarlagi og engri síun á úttaki. Enginn flokkari les fyrirmælin þín og ákveður hvort líkanið megi svara, og enginn les svarið áður en það streymir. Þegar líkanið er óvisst eða skortir þekkinguna segir það það — það er líkanið, ekki stefna. Það sem þú færð ekki er sjálfvirk neitun um efni sem almenn neytendavara telur bannað.

Fyrir sjón er þetta öll verðmætatillagan. Myndflokkarar fyrir framan sjón-API eru ónákvæmir, og tíðni falskra viðvarana lendir harðast á faglegu vinnunni sem þarf getuna mest: öryggisrannsóknum, klínísku samhengi, blaðamennsku og réttarfræði, kvikmynda- og listgagnrýni, ritstýringarverkfærum sem verða að horfa á það sem þau ritstýra. Endapunktur sem neitar eftir flokki getur ekki þjónað neinu af þessu áreiðanlega.

Tveir heiðarlegir fyrirvarar. Í fyrsta lagi birtir Thinking Machines öryggismat fyrir sína viðmiðunaruppsetningu — 78,0% á FORTRESS adversarial, 95,9% á FORTRESS benign, 98,6% á StrongREJECT. Þessar tölur lýsa þeirra stafla með þeirra vörnum á sínum stað. Þær lýsa ekki okkar, og við ætlum ekki að vitna í þær eins og þær geri það. Við fjarlægðum lagið sem þessar tölur mæla að hluta; það er varan, og ábyrgðin.

Í öðru lagi er „ekkert neitunarlag“ ekki „engar reglur“. Shannon Lab LLC starfar samkvæmt stefnu um ábyrga notkun og gildandi bandarískum lögum. Að fjarlægja flokkara færir dómgreindina til þín, það eyðir henni ekki. Ef þú ert að byggja á þessu skaltu lesa stefnuna áður en þú stækkar.

09Að komast af stað

Sama grunnslóð, sami lykill, þrjár mállýskur. Ef kóðinn þinn kallar nú þegar á OpenAI, Anthropic eða Responses API-ið er það yfirleitt öll yfirfærslan að breyta líkanastrengnum.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Fullt yfirlit yfir færibreytur, form /v1/messages og /v1/responses, snið streymisatburða og lifandi leikvöllur eru í API-skjölunum. Líkanaspjöld fyrir hin ellefu líkönin eru í Shannon Research.

Tölur um grunnlíkanið eru birtar tölur Thinking Machines Lab fyrir óþjöppuðu Inkling eftirlitsstöðuna og lýsa þaki fjölskyldunnar, ekki okkar þjöppuðu smíð. Verð og getumerkingar eru listagildi Shannon AI gáttarinnar frá og með september 2026.

10Algengar spurningar

---

Heimildir: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — byggingar- og viðmiðanótur um Inkling. Viðmið grunnlíkansins eru frá rannsóknarstofunni fyrir óþjöppuðu eftirlitsstöðuna.