API Modail Inkling Gun Chaisgireachd

Tha a' mhòr-chuid den dà mhodail dheug air a' gheata againn teacsa a-mhàin. Chan eil ceathrar, agus am measg an ceathrar sin tha àite sònraichte aig Inkling: am modail lèirsinn air an ruig thu nuair as e an dealbh am pàirt duilich den duilgheadas ach nach sìn am buidseat gu brataich-riochdachaidh. Bidh a' chairt seo a' còmhdach cò às a thàinig am bunait, dè a rinn an t-iar-leasachan W4A16-AUTOROUND-REAP ris, dè nì e agus dè nach dèan e aig uachdar an API, agus — gu h-onarach — cuin as e modail nas saoire san aon chatalog an gairm nas fheàrr.

01Dè th' ann an Inkling, agus cò a thog e?

'S e a' chiad mhodail le cuideaman fosgailte aig Thinking Machines Lab a th' ann an Inkling, air fhoillseachadh 15 Iuchar 2026. Eu-coltach ris a' mhòr-chuid de sgaoilidhean air an suidheachadh mar "fosgailte," chaidh a chur a-mach le làn chuideaman so-luchdaichte air Hugging Face agus taic latha-neoni ann an transformers, SGLang, vLLM, agus llama.cpp — sin mar a dh'fhàs e comasach a ruith air bun-structar mar an fhear againn idir. Na h-àireamhan prìomh, à stuthan sgaoilidh Thinking Machines fhèin:

'S e cumadh Mixture-of-Experts fànaisdeach a tha sin: 66 sreath dì-chòdaiche aig meud falaichte 6,144, an dà chiad fhear dùmhail, agus an 64 a tha air fhàgail a' giùlan 256 eòlaiche stiùirichte a bharrachd air 2 eòlaiche co-roinnte, le 6 eòlaichean stiùirichte gnìomhach gach token. Bidh timcheall air 4% de na paramadairean a' losgadh air token sam bith — agus sin as coireach gum faod modail faisg air trillean-paramadair a bhith so-fhrithealaidh idir.

Tha dà cho-dhùnadh ailtireachd neo-àbhaisteach gu leòr airson ainmeachadh. Tha an aire eadar-fhighte — 55 sreath de dh'aire uinneag-shleamhnachaidh thairis air uinneag 512-token an aghaidh 11 sreath cho-fharsaing, ann am pàtran ath-fhillte 5:1. Agus cha chleachd Inkling RoPE: cleachdaidh e claonadh suidheachaidh-dhàimheach ionnsaichte, eisimeileach air an ionchur, còmhla ri co-thionalan cùis-adhbharach goirid air na proiseactan iuchair/luach agus na meuran iarmadach. Bidh notaichean ailtireachd Sebastian Raschka a' comharrachadh an dà chuid mar fhìor imeachd bhon reasabaidh àbhaisteach 2026. Chleachd trèanadh Muon airson na paramadairean matrix mòra agus Adam airson a' chòrr, an uairsin còrr air 30 millean rollout RL a-synchronach san iar-thrèanadh.

Chan e an fhìor-eòlas a' chnag airson neach-cleachdaidh API. 'S e gur e bunait ìre-toisich, ioma-mhodhach gu dùthchasach a tha seo, air a thrèanadh air 45 trillean token a' gabhail a-steach teacsa, dealbhan, fuaim agus bhidio — chan e modail teacsa le atharraichear lèirsinn ceangailte a bharrachd às a dhèidh. Thèid dealbhan a chòdachadh mar phìosan 40×40 piogsail tro phatchifier MLP ìre-cheumnach ceithir-shreathach agus an giollachd còmhla ri teacsa san aon dì-chòdaiche. Bha tuigse lèirsinneach anns an amas ro-thrèanaidh.

02Dè tha W4A16-AUTOROUND-REAP a' ciallachadh?

Tha trì dòighean fa leth air an cruachadh anns an iar-leasachan sin, agus bidh iad a' dèanamh obraichean eadar-dhealaichte. Is fhiach an tuigsinn, oir 's e an t-iar-leasachan an aon diofar as motha eadar am modail a ghairmeas tu air an API againn agus am puing-sgrùdaidh a dh'fhoillsich Thinking Machines.

REAP — a' bearradh nan eòlaichean nach stiùir duine thuca

'S e Router-weighted Expert Activation Pruning, o Cerebras Research (arXiv 2510.13999, air gabhail ri ICLR 2026), a th' ann an REAP. Ann an MoE le 256 eòlaiche gach sreath cha bhith an rianadair a' sgaoileadh obair gu co-ionann: bidh cuid de dh'eòlaichean air am bualadh gu cunbhalach, feadhainn eile a' losgadh ainneamh agus a' cur beag ris nuair a nì iad. Bidh REAP a' toirt sgòr do gach eòlaiche air an dà chomharra — luachan geata an rianadair agus norm gnìomhachaidh an eòlaiche — cha bhith eòlaiche a thèid a thaghadh gu tric ach a bheir ùrachaidhean beag-mheud cho cudromach 's a mholadh a chunntas taghaidh — agus a' toirt air falbh na feadhainn as lugha buaidh ann an aon char, mus tèid an cuantachadh.

'S e an t-adhbhar a chleachdas sinn bearradh seach measgachadh eòlaichean, a tha nas fhasanta, gun tèid an dithis air seachran a rèir seòrsa obrach. Bidh coltas farpaiseach air measgachadh air deuchainnean-coimeis leth-bhreithneach agus tuitidh e às a chèile air feadhainn ginidh. Bidh ùghdaran REAP ag aithris gum bi bearradh a' gleidheadh càileachd nas fheàrr dìreach air na h-uallaichean-obrach airson an ceannaicheas daoine API — co-chur còd, gairm-inneal, reusanachadh ioma-charach — aig co-mheasan teannachaidh os cionn 50%, thar modailean o 20B gu 1T paramadair. Bidh measgachadh a' sgrios speisealachadh an rianadair; fàgaidh bearradh na h-eòlaichean a thàinig beò agus an stiùireadh eatarra slàn.

AutoRound — ag ionnsachadh càite an cruinnich thu

'S e dòigh cuantachaidh iar-thrèanaidh aig Intel a th' ann an AutoRound (arXiv 2309.05516, air fhoillseachadh mar SignRound). Bidh cuantachadh sìmplidh a' cruinneachadh gach cuideim chun luach 4-bit so-riochdachaidh as fhaisge — bun-roghainn reusanta ach fear dona aig sgèile, oir chan eil mearachdan cruinneachaidh neo-eisimeileach agus bidh iad a' cruinneachadh thairis air cruach 66-sreath. Bidh AutoRound a' làimhseachadh a' cho-dhùnaidh cruinneachaidh mar rudeigin ri bharrachadh: bidh signed gradient descent a' gleusadh treòir cruinneachaidh agus raointean gearraidh cuideaman còmhla thairis air paidhir cheud ceum, a' faighinn iasad de chruinneas trèanadh mothachail air cuantachadh gun ath-thrèanadh. Bidh Intel ag aithris na buannachdan as motha aig suidheachaidhean bit-ìosal fìor agus oir farpaiseach aig INT4.

W4A16 — càite an tèid na bitean

'S e an cruth àireamhach a th' ann an W4A16: cuideaman 4-bit, gnìomhachaidhean 16-bit. Bidh na cuideaman — a bhios os cionn na cuimhne ann am modail 975B — a' crìonadh gu timcheall air cairteal de làrach BF16, fhad 's a dh'fhanas an àireamhachd aig 16 bit. Tha an sgaradh sin cudromach gu sònraichte do mhodail lèirsinn: bidh sgeamaichean cuantachadh-gnìomhachaidh a' dèanamh cron dìreach air an obair àireamhach mhion-ghràinneach air a bheil tuigse dhealbhan an urra — a' leughadh leubail beag air axis, a' rèiteachadh loidhne thana ann an diagram, a' sgaradh dà thuar coltach. Bidh cumail gnìomhachaidhean aig 16 bit a' cosg bann-leathann agus a' ceannach air ais mionaideachd far am mothaich uallach-obrach lèirsinn e.

Air an cruachadh, bheir an triùir modail a fhreagras a-steach agus a dh'fhanas luath gun chreig càileachd na h-ìre dàna 3BIT-REAP a chleachdas sinn air na bunaitean as motha uile. Sin an iomlaid a tha a' phrìs a' nochdadh.

03Lèirsinn: API mion-sgrùdadh dhealbhan gun diùltadh

'S e Inkling fear de cheathrar mhodail le comas lèirsinn sa chatalog againn, còmhla ri Kimi-K3, Kimi-K2.6, agus MiniMax-M3. 'S e toraidhean lèirsinn foillsichte a' bhun-mhodail, o sgaoileadh Thinking Machines, 73.3% air MMMU Pro (Standard 10) agus 78.1% air ceistean reusanachaidh CharXiv — ag èirigh gu 82.0% nuair a leigear leis a' mhodail Python a ruith an aghaidh a' chairt. 'S e àireamhan an obair-lann fhèin a th' annta airson a' phuing-sgrùdaidh neo-chuantaichte; gabh riutha mar mhullach an teaghlaich, chan e mar thomhas air an togail againn.

'S e CharXiv am fear as fhiach fuireach air, oir tha e a' mapadh gu carson a cheannaicheas daoine API lèirsinn seach seirbheis OCR. Bidh e a' dearbhadh reusanachadh thairis air cairtean saidheansail — a' leughadh luach far axis, a' coimeas dà shreath, a' mothachadh gluasad a' tionndadh air ais. Chan e "dè an teacsa a tha san dealbh seo" ach "dè tha am figear seo ag agairt, agus a bheil an t-agairt a' seasamh." Sin as coireach gum bi thu a' ceannach dealbh a chur gu modail reusanachaidh 975B seach fear beag tuairisgeulach.

'S e obair àbhaisteach co-chòrdail ri OpenAI a th' ann an cur dealbh — pìos susbaint image_url air /v1/chat/completions, bloca image ann an stoidhle Anthropic air /v1/messages, no an co-ionann air /v1/responses. Bidh na trì dualchainntean uile a' ruighinn nan aon chuideaman agus bidh na trì uile a' sruthadh; tagh ge b' e an tè a bhruidhneas an SDK a th' agad mu thràth. Tha eisimpleir obrachte ann an earrann 09.

Tha am pàirt gun chaisgireachd nas cudromaiche do lèirsinn na do theacsa. Tha sreath diùltaidh air oir-phuing lèirsinn neo-àbhaisteach maol, oir mar as trice bidh e a' seòrsachadh an deilbh mus do reusanaich am modail mun iarrtas. Bidh obair dhligheach air a glacadh gu cunbhalach: dealbh lot ann am pìob notaichean clionaigeach, glacadh-sgrìn forensaig ann an sgrìobhadh tuiteamais, frèam à film air a mhion-sgrùdadh airson pìos càineadh, sganadh meidigeach, dealbh de sgrìobhainn anns a bheil ainm gu tuiteamach. Chan eil seòrsaichear mar sin air beulaibh Inkling air a' gheata againn. Bidh e a' coimhead air na chuir thu agus a' freagairt na ceist a dh'fhaighnich thu. Sin am bathar.

04Toradh structarach: response_format tha, json_schema chan eil

Seo an aon àite far a bheil Inkling nas lugha comasach na a' mhòr-chuid den chatalog, agus 's fheàrr planadh air a shon na faighinn a-mach e ann an riochdachadh.

Comas	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Lèirsinn (ionchur dhealbhan)	Tha	Tha	Tha	Chan eil
response_format	Tha	Tha	Tha	Chan eil
json_schema	Chan eil	Tha	Tha	Chan eil
Gairm-inneal	Tha	Tha	Tha	Tha
Spàirn reusanachaidh	Tha	Tha	Tha	Tha

Bidh response_format: {"type": "json_object"} ag obair — gheibh thu JSON a tha dligheach a rèir gràmair. Na gheibh thu chan e dì-chòdadh fo smachd gràmair an aghaidh sgeama a bheir thu seachad, far a bheil an samplair fisigeach bacte o thoirt a-mach token a bhriseas an structar agad. 'S e roghainn a' mhodail a th' ann an ainmean raoin, ballrachd enum, agus làthaireachd iuchraichean riatanach, chan e barantas.

Trì dòighean air fuireach le sin, ann an òrdugh àrdachail earbsachd:

1. Sgrìobh an sgeama sa bhrosnachadh agus dearbh. Cuir an sgeama sa bhrosnachadh siostaim mar litreachail JSON, suidhich response_format gu json_object, agus dearbh am freagairt air do thaobh fhèin. Feuch a-rithist air fàilligeadh dearbhaidh le teachdaireachd mhearachd an dearbhaiche air a cur ris. Saor, obraichidh e, feumaidh e buidseat ath-fheuchainn.
2. Cleachd mìneachadh-inneil mar an sgeama. Tha taic aig gairm-inneal, agus 's e Sgeama JSON a th' ann am mìneachadh paramadair gnìomh. Ainmich aon inneal a-mhàin airson an às-tharraing a tha thu ag iarraidh, sparr e, agus leugh na h-argamaidean. Mar as trice 's e seo an roghainn as làidire air Inkling agus cha chosg e càil a bharrachd dhut.
3. Sgoilt an obair thairis air dà mhodail. Fàg aig Inkling an lèirsinn agus an reusanachadh a dhèanamh ann an rosg, an uairsin thoir an rosg sin do MiMo-V2.5-W8A16 aig $0.50 / $2.00 le fìor json_schema airson a' chair structarachaidh. Dà ghairm, ach tha an dàrna fear saor, cinnteach na chumadh, agus 's e am modail a dh'fheumas a bhith glic am fear a chunnaic an dealbh.

'S e roghainn 3 am pàtran a mholadh sinn airson pìob às-tharraing àrd-tomhais sam bith. Pàigh am barrachd prìse dìreach airson a' chàir a dh'fheumas e.

05Dè a cheannaicheas am barrachd prìse?

Aig $1.42 a-steach / $6.07 a-mach gach millean token, tha Inkling na shuidhe a dh'aon ghnothach ann am meadhan a' chatalog againn. Tha sianar den dà mhodail dheug aig an làr $0.50 / $2.00. Tha Kimi-K3 — am brataich-riochdachadh, cuideachd le comas lèirsinn — aig $3.83 / $19.12. Tha Inkling timcheall air trì thursan an làr air an a-mach agus timcheall air trian den bhrataich-riochdachadh.

Prìs toraidh, USD gach 1M token, ìrean liosta Geata Shannon AI, an t-Sultain 2026. Tha leud a' bhàr co-rèireach ris a' phrìs; is fhaide, is daoire.

Seo an leughadh onarach air càite an cosnaidh am barrachd prìse sin a àite — agus càite nach cosnaich.

Uallach-obrach	Cleachd Inkling?	Carson
Reusanachadh cairtean / dhiagraman	Tha	'S iad na h-àireamhan foillsichte CharXiv is MMMU Pro na tha am bunait seo as làidire ann.
Àidseantan air an stiùireadh le glacaidhean-sgrìn	Tha	Lèirsinn a bharrachd air gairm-inneal a bharrachd air 262K de dh'eachdraidh ann an aon mhodail, gun ghluasad-seachad.
Sgrìobhainnean fada le fiogairean	Tha	Bidh teacsa is dealbhan a' co-roinneadh aon dì-chòdaiche agus aon uinneag cho-theacsa.
Gineadh teacsa lom	Chan eil	Nì sianar mhodail aig $0.50 / $2.00 seo. Tha thu a' pàigheadh airson slighe lèirsinn nach gairm thu a-riamh.
Às-tharraing sgeama mòr	Chan eil	Gun json_schema. Tha MiMo-V2.5 nas saoire agus fo smachd.
Fìor mhullach ìre-toisich	Chan eil	'S e Kimi-K3 am brataich-riochdachadh. Pàigh an 3.1× ma 's e am mullach an cnap-starra.
An lèirsinn as saoire as urrainnear	Chan eil	Tha lèirsinn aig MiniMax-M3 aig $0.50 / $2.00. Tòisich an sin, àrdaich ma tha càileachd ga sparradh.

Leugh sin mar riaghailt stiùiridh, chan e mar rangachadh. Tha Inkling ceart airson bann obrach nas cumhainge na chanadh duilleag margaidheachd, agus am broinn a' bhanna sin tha e doirbh a bhualadh air prìs. An taobh a-muigh dheth, b' fheàrr leinn am modail nas saoire a reic riut agus do chumail.

06An uinneag cho-theacsa 262K, agus dè a fhreagras a-steach dha-rìribh

Tha an dà mhodail dheug uile air a' gheata air am frithealadh le co-theacsa a-steach de 262,144-token agus toradh as motha de 16,384-token gach iarrtas. Cunbhalach a dh'aon ghnothach: cha bu chòir làimhseachadh co-theacsa a-riamh a bhith na mheur gach modail sa chòd agad, agus cha bu chòir suidse inkling airson MiniMax-M3 ann am faidhle rèiteachaidh atharrachadh gu sàmhach dè a fhreagras a-steach.

Thoir an aire don bheàrn an aghaidh a' bhunait fhoillsichte: bidh Thinking Machines a' clàradh Inkling aig 1,048,576 token, agus bidh sinne a' frithealadh sliseag 262K dheth sin. Ma tha fìor uallach-obrach millean-token aon-iarrtais agad, chan e sinne an oir-phuing air a shon, agus 's fheàrr gum biodh fios agad mus tog thu.

Airson sgèile aig 262K: PDF theignigeach 400-duilleag le a fhiogairean, bunait-chòd meadhan-mheud, grunn uairean de thar-sgrìobhadh, no seisean àidseantach fada a' giùlan dusanan de thoraidhean-inneil agus dòrlach de ghlacaidhean-sgrìn — freagraidh gach fear a-steach ann an aon iarrtas. Air modail lèirsinn, cuimhnich gum bi dealbhan cuideachd a' caitheamh co-theacsa; chan eil glacadh-sgrìn dùmhail saor an-asgaidh, agus lìonaidh seisean a shruthas frèamaichean an uinneag nas luaithe na fear teacsa-a-mhàin. Tha an ailtireachd freagarrach airson seo: tha am pàtran uinneag-shleamhnachaidh-gu-cho-fharsaing 5:1 a' ciallachadh gum bi a' mhòr-chuid de shreathan a' frithealadh am broinn nàbaidheachd 512-token, le sreathan cho-fharsaing a' tarraing structar fad-astair air ais a-steach bho àm gu àm.

07Spàirn reusanachaidh: a' pàigheadh airson smaoineachadh dìreach nuair a dh'fheumas tu e

Bidh Inkling a' nochdadh spàirn-reusanachaidh a ghabhas smachdachadh — aon de na cnapan as feumaile sa chatalog. Gabhaidh am bun-mhodail ri ìrean o none agus minimal tro low, medium, high, xhigh, suas gu max, air an nochdadh air na trì dualchainntean tron pharamadair àbhaisteach reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

'S e luamhan cosgais le fiaclan a tha seo, oir thèid tokenan reusanachaidh a bhilleadh mar thokenan toraidh aig $6.07 gach millean. Bidh Thinking Machines ag aithris gun ruig Inkling sgòran coltach ri Nemotron 3 Ultra air Terminal Bench 2.1 aig timcheall air trian de na tokenan — 's e amas dealbhaidh a chaidh a ràdh den t-siostam spàirn a tha èifeachdas tokenan, chan e tubaist.

Ann an cleachdadh: ruith low no minimal airson fo-thiotalan, seòrsachadh, agus às-tharraing dhìreach, far a bheil am freagairt san dealbh agus gun fheum air slabhraidh cho-dhùnaidh. Glèidh high agus os a chionn airson reusanachadh chairtean, coimeas lèirsinneach ioma-cheumnach, agus cuairtean àidseantach far a bheil ceum meadhanach ceàrr daor. Cha shuidhich a' mhòr-chuid de sgiobaidhean am paramadair idir, agus fàgaidh iad diofar cosgais toraidh iomadh-fillte air a' bhòrd.

08Dè tha "gun chaisgireachd" a' ciallachadh an seo — agus dè nach eil

Gu cinnteach: bidh sinn a' ruith a' mhodail seo gun sreath diùltaidh agus gun sìoladh air an toradh. Chan eil seòrsaichear a' leughadh a' bhrosnachaidh agad agus a' co-dhùnadh am faod am modail freagairt, agus chan eil gin a' leughadh an fhreagairt mus sruth i. Nuair a tha am modail neo-chinnteach no dh'easbhaidh eòlas, canaidh e sin — 's e sin am modail, chan e poileasaidh. Na gheibh thu nach fhaigh 's e diùltadh mì-thoileach air cuspair a bhios bathar coitcheann-cleachdaiche a' làimhseachadh mar toirmisgte.

Airson lèirsinn 's e seo an tairgse luach gu lèir. Tha seòrsaichearan dealbh air beulaibh APIan lèirsinn neo-phongail, agus bidh an ìre dearbh-fhaoin a' tuiteam as truime air an obair phroifeiseanta as motha a dh'fheumas an comas: rannsachadh tèarainteachd, co-theacsan clionaigeach, naidheachdas is forensaigs, càineadh film is ealain, innealan maorsainneachd a dh'fheumas coimhead air an rud air a bheil iad a' maorsainneachd. Chan urrainn oir-phuing a dhiùltas a rèir roinn gin dhiubh sin a fhrithealadh gu earbsach.

Dà rabhadh onarach. An toiseach, bidh Thinking Machines a' foillseachadh measaidhean tèarainteachd airson an cur-an-gnìomh iomraidh aca fhèin — 78.0% air FORTRESS nàimhdeil, 95.9% air FORTRESS neo-chronail, 98.6% air StrongREJECT. Bidh na h-àireamhan sin a' mìneachadh an stac aca fhèin le an gàrraidhean-dìon fhèin nan àite. Cha mhìnich iad ar fear-ne, agus cha luaidh sinn iad mar gum b' e. Thug sinn air falbh an sreath a bhios na h-àireamhan sin gu ìre a' tomhas; sin am bathar, agus an t-uallach.

San dàrna àite, chan e "gun riaghailtean" a th' ann an "gun sreath diùltaidh." Bidh Shannon Lab LLC ag obair fo Phoileasaidh Cleachdaidh Cunntachail agus lagh iomchaidh nan SA. Bidh toirt air falbh seòrsaichear a' gluasad breithneachaidh gu ruige thusa, chan eil e ga sguabadh às. Ma tha thu a' togail air seo, leugh am poileasaidh mus àrdaich thu.

09A' tòiseachadh

An aon bhun-URL, an aon iuchair, trì dualchainntean. Ma tha an còd agad mu thràth a' gairm OpenAI, Anthropic, no an API Responses, mar as trice chan eil san ath-imrich air fad ach atharrachadh sreang a' mhodail.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "Dè a tha am figear seo a' sealltainn dha-rìribh?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Tha iomradh slàn air paramadairean, cumaidhean /v1/messages agus /v1/responses, cruthan tachartas-sruthaidh, agus raon-cluiche beò anns na sgrìobhainnean API. Tha cairtean-modail airson an aon mhodail deug eile ann an Rannsachadh Shannon AI.

'S e àireamhan foillsichte Thinking Machines Lab airson puing-sgrùdaidh Inkling neo-chuantaichte a th' ann an àireamhan a' bhunait agus tha iad a' mìneachadh mullach an teaghlaich, chan e an togail chuantaichte againn. 'S e luachan liosta Geata Shannon AI a th' ann am prìsean agus brataichean comais, mar a bha san t-Sultain 2026.

10Ceistean cumanta

---

Tùsan: Thinking Machines Lab — A' Toirt a-steach Inkling · Hugging Face — Fàilte Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — notaichean ailtireachd is deuchainn-choimeis Inkling. 'S e deuchainnean-coimeis air an aithris leis an obair-lann airson a' phuing-sgrùdaidh neo-chuantaichte a th' ann an deuchainnean-coimeis a' bhunait.