Zentsurarik gabeko Inkling ereduaren APIa

Gure atebideko hamabi ereduetatik gehienak testua soilik dira. Lau ez, eta lau horien artean Inkling-ek toki zehatza du: irudia arazoaren zatirik zailena denean baina aurrekontua buruzagi batera iristen ez denean jotzen duzun ikusmen-eredua. Gida honek oinarria nondik datorren, W4A16-AUTOROUND-REAP atzizkiak zer egin dion, APIaren azalean zer egiten duen eta zer ez, eta — zintzoki — katalogo bereko eredu merkeago bat noiz den aukera hobea lantzen ditu.

01Zer da Inkling, eta nork eraiki zuen?

Inkling Thinking Machines Lab-en lehen pisu irekiko eredua da, 2026ko uztailaren 15ean argitaratua. "Ireki" gisa aurkezten diren kaleratze gehienetatik ez bezala, Hugging Face-n guztiz deskargagarriak diren pisuekin eta transformers, SGLang, vLLM eta llama.cpp tresnetan lehen egunetik euskarriarekin iritsi zen — horrela bihurtu zen gurea bezalako azpiegituretan exekutagarri. Titularreko datuak, Thinking Machines-en beren kaleratze-materialetik:

Hori Mixture-of-Experts diseinu bakana da: 66 deskodetze-geruza 6,144ko tamaina ezkutuarekin, lehen biak trinkoak eta gainerako 64ek 256 aditu bideratu gehi 2 partekatu daramatzatela, token bakoitzeko 6 aditu bideratu aktibo direla. Parametroen %4 inguru pizten da token jakin bakoitzean — eta horrek egiten du ia bilioi bat parametroko eredu bat zerbitzagarri.

Bi erabaki arkitektoniko dira nahikoa ezohikoak izendatzeko. Arreta txandakatua da — 512 tokeneko leihoaren gaineko leiho irristakorreko 55 geruza 11 geruza globalen aurka, 5:1 eredu errepikakorrean. Eta Inkling-ek ez du RoPE erabiltzen: sarreraren araberako posizio erlatiboaren alborapen ikasia erabiltzen du, gako/balio proiekzioetan eta adar hondarrekoetan konboluzio kausal laburrekin batera. Sebastian Raschka-ren arkitektura-oharrek biak 2026ko errezeta estandarraren aldaketa erreal gisa nabarmentzen dituzte. Entrenamenduak Muon erabili zuen matrize handien parametroetarako eta Adam gainerakoetarako, eta gero 30 milioi RL exekuzio asinkrono baino gehiago entrenamendu ostean.

APIaren kontsumitzailearentzat kontua ez da xehetasun bitxia. Kontua da hau muga-eskalako, natiboki multimodala den oinarri bat dela, testua, irudiak, audioa eta bideoa hartzen dituzten 45 bilioi tokenekin entrenatua — ez geroago ikusmen-egokitzaile bat itsatsi zaion testu-eredu bat. Irudiak 40×40 pixeleko adabakitan kodetzen dira lau geruzako MLP adabaki-egile hierarkiko baten bidez eta testuarekin batera prozesatzen dira deskodetzaile berean. Ulermen bisuala aurre-entrenamenduaren helburuan zegoen.

02Zer esan nahi du W4A16-AUTOROUND-REAP-ek?

Hiru teknika bereizi pilatzen dira atzizki horretan, eta lan desberdinak egiten dituzte. Ulertzea merezi du, atzizkia baita gure APIan deitzen duzun ereduaren eta Thinking Machines-ek argitaratutako egiaztapen-puntuaren arteko alderik handiena.

REAP — inork bideratzen ez dituen adituak inaustea

REAP Router-weighted Expert Activation Pruning da, Cerebras Research-ena (arXiv 2510.13999, ICLR 2026-n onartua). Geruzako 256 aditu dituen MoE batean bideratzaileak ez du lana berdin banatzen: aditu batzuk etengabe jotzen dira, beste batzuk gutxitan pizten dira eta gutxi ekartzen dute pizten direnean. REAP-ek aditu bakoitza puntuatzen du bideratzailearen ate-balioengatik eta adituaren aktibazio-normengatik — sarritan hautatzen den baina magnitude txikiko eguneraketak ematen dituen adituak bere hautaketa-kopuruak iradokitzen duena baino gutxiago balio du — eta garrantzi gutxienekoak kentzen ditu kolpe bakarrean, kuantizazioaren aurretik.

Adituen batzea modakoagoa izanik ere inausketa erabiltzeko arrazoia da biak zeregin-motaren arabera aldentzen direla. Batzea lehiakorra dirudi benchmark diskriminatzaileetan eta desegin egiten da sortzaileetan. REAP-en egileek jakinarazten dute inausketak kalitatea hobeto gordetzen duela hain zuzen ere jendeak API bat erosteko dituen lan-kargetan — kode-sintesia, tresna-deiak, txanda anitzeko arrazoiketa — %50etik gorako konpresio-tasetan, 20B-tik 1T-ra bitarteko ereduetan. Batzeak bideratzailearen espezializazioa suntsitzen du; inausketak bizirik dirauten adituak eta haien arteko bideratzea osorik uzten ditu.

AutoRound — non biribildu ikastea

AutoRound Intel-en entrenamendu osteko kuantizazio-metodoa da (arXiv 2309.05516, SignRound gisa argitaratua). Kuantizazio inuxenteak pisu bakoitza adieraz daitekeen 4 biteko baliorik hurbilenera biribiltzen du — lehenetsi arrazoizkoa eta txarra eskalan, biribiltze-erroreak ez baitira independenteak eta 66 geruzako pilan metatzen baitira. AutoRound-ek biribiltze-erabakia optimizatzeko zerbait bezala tratatzen du: zeinu-gradientearen jaitsierak biribiltze-norabidea eta pisuen mozketa-tarteak batera doitzen ditu berrehun bat urratsetan, kuantizazioaz jabetutako entrenamenduaren zehaztasuna hartuz berrentrenatu gabe. Intel-ek irabazi handienak bit oso baxuko ezarpenetan eta INT4-n abantaila lehiakorra jakinarazten ditu.

W4A16 — nora doazen bitak

W4A16 formatu numerikoa da: 4 biteko pisuak, 16 biteko aktibazioak. Pisuak — 975B eredu batean memoria menderatzen dutenak — BF16 oinatzaren laurden ingurura txikitzen dira, aritmetika 16 bitean geratzen den bitartean. Banaketa hori bereziki garrantzitsua da ikusmen-eredu batean: aktibazioak ere kuantizatzen dituzten eskemek hain zuzen ere irudi-ulermenak behar duen lan numeriko xehea kaltetzen dute — ardatz-etiketa txiki bat irakurtzea, diagrama bateko marra mehe bat bereiztea, antzeko bi tonu banatzea. Aktibazioak 16 bitean mantentzeak banda-zabalera kostatzen du eta zehaztasuna berreskuratzen du ikusmen-lan-karga batek nabaritzen duen tokian.

Pilatuta, hirurek kabitzen eta azkar dirauen eredu bat ematen dute, oinarririk handienetan erabiltzen dugun 3BIT-REAP maila oldarkorraren kalitate-amildegirik gabe. Hori da prezioak islatzen duen trukea.

03Ikusmena: ukorik gabeko irudi-analisiaren APIa

Inkling gure katalogoko ikusmena duten lau ereduetako bat da, Kimi-K3, Kimi-K2.6 eta MiniMax-M3-rekin batera. Oinarrizko ereduaren ikusmen-emaitza argitaratuak, Thinking Machines-en kaleratzetik, %73.3 MMMU Pro-n (Standard 10) eta %78.1 CharXiv arrazoiketa-galderetan dira — %82.0ra igoz ereduari grafikoaren gainean Python exekutatzen uzten zaionean. Horiek laborategiaren beraren datuak dira kuantizatu gabeko egiaztapen-punturako; hartu itzazu familiaren sabai gisa, ez gure eraikuntzaren neurketa gisa.

CharXiv da luzatzea merezi duena, jendeak zergatik erosten duen ikusmen-API bat eta ez OCR zerbitzu bat azaltzen baitu. Grafiko zientifikoen gaineko arrazoiketa probatzen du — ardatz batetik balio bat irakurtzea, bi serie konparatzea, joera bat alderantzikatzen dela ohartzea. Ez "zer testu dago irudi honetan" baizik eta "zer dio irudi honek, eta baieztapena zuzena da". Horrek justifikatzen du irudi bat 975B arrazoiketa-eredu bati bidaltzea eta ez azpititulu-eredu txiki bati.

Irudi bat bidaltzea OpenAIrekin bateragarria den ohiko lana da — image_url eduki-zati bat /v1/chat/completions-en, Anthropic erako image bloke bat /v1/messages-en, edo baliokidea /v1/responses-en. Hiru dialektoek pisu berberak jotzen dituzte eta hiruek streaminga egiten dute; aukeratu zure SDKak dagoeneko hitz egiten duena. Adibide landu bat 09. atalean dago.

Zentsurarik gabeko zatia garrantzitsuagoa da ikusmenerako testurako baino. Ikusmen-amaiera-puntu bateko uko-geruza ezohiko zakarra da, normalean irudia sailkatzen baitu ereduak eskaerari buruz arrazoitu aurretik. Lan zilegia etengabe harrapatzen da: zauri baten argazkia ohar klinikoen kanalizazio batean, pantaila-argazki forentse bat intzidente-txosten batean, kritika baterako aztertzen ari den film-fotograma bat, eskaner mediko bat, izen bat duen dokumentu baten irudia. Gure atebideko Inkling-ek ez du horrelako sailkatzailerik aurrean. Bidali duzunari begiratzen dio eta egin duzun galderari erantzuten dio. Hori da produktua.

04Egituratutako irteera: response_format bai, json_schema ez

Hau da Inkling katalogoko gehienak baino gaitasun gutxiago duen toki bakarra, eta hobe da aurrez planifikatzea produkzioan aurkitzea baino.

Gaitasuna	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Ikusmena (irudi-sarrera)	Bai	Bai	Bai	Ez
response_format	Bai	Bai	Bai	Ez
json_schema	Ez	Bai	Bai	Ez
Tresna-deiak	Bai	Bai	Bai	Bai
Arrazoiketa-esfortzua	Bai	Bai	Bai	Bai

response_format: {"type": "json_object"} funtzionatzen du — sintaktikoki baliozko JSONa jasotzen duzu. Jasotzen ez duzuna da zuk ematen duzun eskemaren aurkako gramatikaz mugatutako deskodetzea, non lagintzaileari fisikoki eragozten zaion zure egitura hausten duen token bat igortzea. Eremuen izenak, enum-eko kidetza eta beharrezko gakoen presentzia ereduaren aukera dira, ez berme bat.

Horrekin bizitzeko hiru modu, fidagarritasun-ordena gorakorrean:

1. Eman eskema promptean eta balioztatu. Jarri eskema sistemako promptean JSON literal gisa, ezarri response_format json_object gisa, eta balioztatu erantzuna zure aldetik. Balioztatzeak huts egiten duenean, saiatu berriro balioztatzailearen errore-mezua erantsita. Merkea, funtzionatzen du, berriro saiatzeko aurrekontua behar du.
2. Erabili tresna-definizio bat eskema gisa. Tresna-deiak onartzen dira, eta funtzio baten parametro-definizioa JSON eskema bat da. Deklaratu nahi duzun erauzketarako izendatutako tresna bakar bat, behartu, eta irakurri argumentuak. Hau da normalean Inkling-eko aukerarik sendoena eta ez dizu ezer gehiago kostatzen.
3. Banatu lana bi ereduren artean. Utzi Inkling-i ikusmena eta arrazoiketa prosan egiten, eta gero eman prosa hori MiMo-V2.5-W8A16-ri $0.50 / $2.00 prezioan, egitura-pasaldirako benetako json_schema batekin. Bi dei, baina bigarrena merkea da, formaz determinista, eta azkarra izan behar duen eredua irudia ikusi duena da.

3. aukera da bolumen handiko edozein erauzketa-kanalizaziorako gomendatuko genukeen eredua. Ordaindu gainprezioa behar duen urratsagatik bakarrik.

05Zer erosten du prezio-gainprezioak?

Milioi bat tokeneko $1.42 sarreran / $6.07 irteeran, Inkling nahita dago gure katalogoaren erdian. Hamabi ereduetatik sei $0.50 / $2.00 zoruan daude. Kimi-K3 — buruzagia, ikusmena ere baduena — $3.83 / $19.12 da. Inkling irteeran zoruaren hiru halako inguru da eta buruzagiaren heren bat inguru.

Irteera-prezioa, USD 1M tokeneko, Shannon AI atebideko zerrenda-tarifak, 2026ko iraila. Barraren zabalera prezioarekiko proportzionala da; luzeagoa garestiagoa.

Hona hemen gainprezio horrek non irabazten duen bere lekua — eta non ez — irakurketa zintzoa.

Lan-karga	Inkling erabili?	Zergatik
Grafiko / diagrama arrazoiketa	Bai	Argitaratutako CharXiv eta MMMU Pro datuak dira oinarri honen indargune nagusia.
Pantaila-argazkietan oinarritutako agenteak	Bai	Ikusmena gehi tresna-deiak gehi 262K historia eredu bakarrean, eskualdaketarik gabe.
Irudidun dokumentu luzeak	Bai	Testuak eta irudiek deskodetzaile bat eta testuinguru-leiho bat partekatzen dituzte.
Testu soileko sorkuntza	Ez	$0.50 / $2.00ko sei ereduk egiten dute hau. Inoiz deitzen ez duzun ikusmen-bide baten truke ordaintzen ari zara.
Eskema-erauzketa masiboa	Ez	json_schema-rik ez. MiMo-V2.5 merkeagoa eta mugatua da.
Muga absolutuko sabaia	Ez	Kimi-K3 da buruzagia. Ordaindu 3.1 halakoa sabaia bada muga.
Ikusmenik merkeena	Ez	MiniMax-M3-k ikusmena du $0.50 / $2.00 prezioan. Hasi hortik, eta igo kalitateak behartzen bazaitu.

Irakur ezazu hori bideratze-arau gisa, ez sailkapen gisa. Inkling marketin-orri batek aldarrikatuko lukeena baino lan-banda estuagorako da egokia, eta banda horren barruan zaila da prezioan gainditzea. Handik kanpo, nahiago dugu eredu merkeagoa saldu eta zu mantendu.

06262K testuinguru-leihoa, eta zer kabitzen den benetan

Atebideko hamabi ereduak 262,144 tokeneko sarrera-testuinguruarekin eta eskaerako 16,384 tokeneko gehieneko irteerarekin zerbitzatzen dira. Uniformea da nahita: testuinguruaren kudeaketak ez luke inoiz zure kodean ereduko adar bat izan behar, eta konfigurazio-fitxategi batean inkling MiniMax-M3-gatik ordezkatzeak ez luke isilean aldatu behar zer kabitzen den.

Ohartu argitaratutako oinarriarekiko aldeaz: Thinking Machines-ek Inkling 1,048,576 tokenetan dokumentatzen du, eta guk horren 262K-ko zatia zerbitzatzen dugu. Benetan eskaera bakarreko milioi tokeneko lan-karga baduzu, gu ez gara horretarako amaiera-puntua, eta hobe duzu eraiki aurretik jakitea.

262K-ren eskala ulertzeko: 400 orrialdeko PDF tekniko bat bere irudiekin, tamaina ertaineko kode-base bat, hainbat orduko transkripzioa, edo dozenaka tresna-emaitza eta pantaila-argazki batzuk daramatzan saio agentiko luze bat — bakoitza eskaera bakar batean kabitzen da. Ikusmen-eredu batean, gogoratu irudiek ere testuingurua jaten dutela; pantaila-argazki trinko bat ez da doakoa, eta fotogramak bidaltzen dituen saio batek leihoa testu hutsezko batek baino azkarrago betetzen du. Arkitektura ondo egokitzen zaio horri: leiho irristakorraren eta globalaren arteko 5:1 ereduak esan nahi du geruza gehienek 512 tokeneko auzo baten barruan jartzen dutela arreta, eta geruza globalek noizean behin distantzia luzeko egitura berreskuratzen dutela.

07Arrazoiketa-esfortzua: pentsatzeagatik behar duzunean bakarrik ordaintzea

Inkling-ek kontrolagarria den arrazoiketa-esfortzua eskaintzen du — katalogoko kontrol erabilgarrienetako bat. Jatorrizko ereduak none eta minimal-etik low, medium, high, xhigh eta max-eraino onartzen ditu mailak, hiru dialektoetan reasoning_effort parametro estandarraren bidez.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Hortzak dituen kostu-palanka da hau, arrazoiketa-tokenak irteera-token gisa fakturatzen baitira, milioiko $6.07. Thinking Machines-ek jakinarazten du Terminal Bench 2.1-en Inkling-ek Nemotron 3 Ultra-ren parekoak diren puntuazioak lortzen dituela tokenen heren batekin gutxi gorabehera — tokenen efizientzia esfortzu-sistemaren diseinu-helburu adierazia da, ez ustekabekoa.

Praktikan: exekutatu low edo minimal azpitituluetarako, sailkapenerako eta erauzketa zuzenetarako, non erantzuna irudian dagoen eta ez baita inferentzia-katerik behar. Gorde high eta gorakoak grafikoen arrazoiketarako, urrats anitzeko konparazio bisualerako eta tarteko urrats oker bat garestia den txanda agentikoetarako. Talde gehienek ez dute parametroa inoiz ezartzen, eta hainbat halako irteera-kostuaren aldea mahai gainean uzten dute.

08Zer esan nahi duen hemen "zentsurarik gabe" — eta zer ez

Zehazki: eredu hau uko egiteko geruzarik eta irteeran iragazketarik gabe exekutatzen dugu. Ez dago sailkatzailerik zure prompta irakurri eta ereduak erantzun dezakeen erabakitzen, eta ez dago bat erantzuna streaming bidez bidali aurretik irakurtzen. Eredua ziur ez dagoenean edo ezagutza falta zaionean, hala esaten du — hori eredua da, ez politika bat. Jasoko ez duzuna kontsumo orokorreko produktu batek debekatutzat jotzen duen gai bati buruzko uko erreflexuzkoa da.

Ikusmenerako hori da balio-proposamen osoa. Ikusmen-APIen aurreko irudi-sailkatzaileak zehaztugabeak dira, eta faltsu positiboen tasak gogorren jotzen du gaitasun hori gehien behar duen lan profesionala: segurtasun-ikerketa, testuinguru klinikoak, kazetaritza eta forentsea, zinema- eta arte-kritika, moderatzen duenari begiratu behar dion moderazio-tresneria. Kategoriagatik uko egiten duen amaiera-puntu batek ezin die horietako bati ere modu fidagarrian zerbitzatu.

Bi ohar zintzo. Lehenik, Thinking Machines-ek segurtasun-ebaluazioak argitaratzen ditu bere erreferentzia-hedapenerako — %78.0 FORTRESS adbertsarioan, %95.9 FORTRESS onberan, %98.6 StrongREJECT-en. Datu horiek haien pila deskribatzen dute haien babesak jarrita. Ez dute gurea deskribatzen, eta ez ditugu aipatuko halakorik balitz bezala. Zenbaki horiek neurri batean neurtzen duten geruza kendu dugu; hori da produktua, eta erantzukizuna.

Bigarrenik, "uko egiteko geruzarik ez" ez da "araurik ez". Shannon Lab LLC-k Erabilera Arduratsuaren Politika baten eta AEBko lege aplikagarrien pean jarduten du. Sailkatzaile bat kentzeak judizioa zuregana pasatzen du, ez du ezabatzen. Honen gainean eraikitzen ari bazara, irakurri politika eskalatu aurretik.

09Nola hasi

Oinarrizko URL bera, gako bera, hiru dialekto. Zure kodea dagoeneko OpenAI, Anthropic edo Responses API deitzen ari bada, ereduaren katea aldatzea izan ohi da migrazio osoa.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Parametroen erreferentzia osoa, /v1/messages eta /v1/responses formak, streaming gertaeren formatuak eta proba-eremu bizi bat APIaren dokumentazioan daude. Beste hamaika ereduen gidak Shannon Research atalean daude.

Oinarriaren datuak Thinking Machines Lab-ek kuantizatu gabeko Inkling egiaztapen-punturako argitaratutakoak dira eta familiaren sabaia deskribatzen dute, ez gure eraikuntza kuantizatua. Prezioak eta gaitasun-banderak Shannon AI atebideko 2026ko iraileko zerrenda-balioak dira.

10Maiz egiten diren galderak

---

Iturriak: Thinking Machines Lab — Inkling-en aurkezpena · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling arkitektura- eta benchmark-oharrak. Oinarriaren benchmark-ak laborategiak jakinarazitakoak dira kuantizatu gabeko egiaztapen-punturako.