API Inkling aláìní ìhámọ́

Ọ̀pọ̀ jùlọ nínú àwòṣe méjìlá lórí ẹnu-ọ̀nà wa jẹ́ ọ̀rọ̀-nìkan. Mẹ́rin kì í ṣe bẹ́ẹ̀, àti láàrin àwọn mẹ́rin yẹn Inkling ní ipò pàtó kan: àwòṣe ìríran tí o ó lò nígbà tí àwòrán náà jẹ́ apá tí ó le jù nínú ìṣòro náà ṣùgbọ́n ìsúná kò ka àwòṣe aṣíwájú. Àkọsílẹ̀ yìí ń bo ibi tí ìpìlẹ̀ náà ti wá, ohun tí àfikún W4A16-AUTOROUND-REAP ṣe sí i, ohun tí yóò àti tí kò ní ṣe lórí ojú API náà, àti — ní òtítọ́ — ìgbà tí àwòṣe tí ó rọrùn jù nínú àkójọ kan náà jẹ́ àṣàyàn tí ó dára jù.

01Kí ni Inkling, ta sì ni ó kọ́ ọ?

Inkling ni àwòṣe àkọ́kọ́ pẹ̀lú ìwúwo ṣíṣí láti ọ̀dọ̀ Thinking Machines Lab, tí a tẹ̀ jáde ní July 15, 2026. Ní ìyàtọ̀ sí ọ̀pọ̀ àwọn ìtẹ̀jáde tí a pè ní "ṣíṣí," ó jáde pẹ̀lú ìwúwo kíkún tí a lè gbà sórí Hugging Face àti àtìlẹ́yìn ọjọ́-òdo nínú transformers, SGLang, vLLM, àti llama.cpp — ìyẹn nìkan ni ó jẹ́ kí ó ṣe é ṣiṣẹ́ lórí ohun amáyédẹrùn bí tiwa rárá. Àwọn nọ́mbà orí-àkọlé, láti inú àwọn ohun èlò ìtẹ̀jáde tirẹ̀ ti Thinking Machines:

Ìyẹn jẹ́ ìtòlẹ́sẹẹsẹ Àdàpọ̀ Àwọn Amòye tí ó fọn ká: ìpele decoder 66 ní ìwọ̀n fífarasin 6,144, méjì àkọ́kọ́ jẹ́ dídí, àwọn 64 tí ó ṣẹ́kù ń gbé amòye 256 tí a darí pẹ̀lú amòye 2 tí a pín, pẹ̀lú amòye 6 tí a darí tí ń ṣiṣẹ́ fún token kọ̀ọ̀kan. Nǹkan bí 4% ti àwọn párámítà ni ń ṣiṣẹ́ fún token kọ̀ọ̀kan — ìyẹn ni ohun tí ó jẹ́ kí àwòṣe tí ó fẹ́rẹ̀ẹ́ tó trílíọ̀nù kan párámítà ṣe é pèsè rárá.

Àṣàyàn ìhun-ìkọ́ méjì fani lọ́kàn mọ́ra tó láti dárúkọ. Àfiyèsí jẹ́ àdàpọ̀-pẹ̀lú-ara-wọn — ìpele 55 ti àfiyèsí fèrèsé-ìrìn-àyípoyí lórí fèrèsé token 512 lòdì sí ìpele àgbáyé 11, nínú ìlànà tí ń tún ara rẹ̀ ṣe ní 5:1. Inkling kì í sì lo RoPE: ó ń lo ìtẹ̀síwájú ipò-ìbátan tí a kọ́, tí ó gbára lé ìwọlé, pẹ̀lú àwọn ìsopọ̀ okùnfà kúkúrú lórí àwọn àpèjúwe key/value àti àwọn ẹ̀ka tí ó ṣẹ́kù. Àwọn àkọsílẹ̀ ìhun-ìkọ́ Sebastian Raschka fi àmì sí àwọn méjèèjì gẹ́gẹ́ bí ìyapa gidi kúrò lára ìlànà 2026 tí ó ṣàjọpín. Ìdálẹ́kọ̀ọ́ lo Muon fún àwọn párámítà matrix ńlá àti Adam fún àwọn tí ó kù, lẹ́yìn náà ó lo ju yíyí 30 mílíọ̀nù RL aláìṣọ̀kan lọ nínú ìdálẹ́kọ̀ọ́-lẹ́yìn.

Kókó náà fún alábàárà API kì í ṣe ìtàn kékeré. Ó ni pé èyí jẹ́ ìpìlẹ̀ ìwọ̀n-aṣíwájú, oníbùsọ̀-púpọ̀ ti ìbílẹ̀ tí a dálẹ́kọ̀ọ́ lórí token 45 trílíọ̀nù tí ó gba ọ̀rọ̀, àwòrán, ohun àti fídíò kárí — kì í ṣe àwòṣe ọ̀rọ̀ pẹ̀lú apá ìríran tí a fi kún un lẹ́yìn náà. A ń kó àwọn àwòrán sínú koodu gẹ́gẹ́ bí àwọn ẹyọ pixel 40×40 nípasẹ̀ olùṣèdá-ẹyọ MLP oní-ìpele-mẹ́rin, a sì ń ṣiṣẹ́ lórí wọn pọ̀ mọ́ ọ̀rọ̀ nínú decoder kan náà. Òye àwòrán wà nínú góńgó ìdálẹ́kọ̀ọ́-ṣáájú.

02Kí ni W4A16-AUTOROUND-REAP túmọ̀ sí?

Ọgbọ́n mẹ́ta ọ̀tọ̀ọ̀tọ̀ ni a kó jọ sínú àfikún yẹn, wọ́n sì ń ṣe iṣẹ́ tí ó yàtọ̀. Ó tọ́ láti yé ọ, nítorí àfikún náà ni ìyàtọ̀ tí ó tóbi jù láàrin àwòṣe tí o ń pè lórí API wa àti ààmì-ìdúró tí Thinking Machines tẹ̀ jáde.

REAP — gígé àwọn amòye tí ẹnikẹ́ni kò darí sí

REAP túmọ̀ sí Gígé Ìṣiṣẹ́ Amòye tí a fi Ìwọ̀n Olùdarí wọ̀n, láti ọ̀dọ̀ Cerebras Research (arXiv 2510.13999, tí a gbà sí ICLR 2026). Nínú MoE kan pẹ̀lú amòye 256 fún ìpele kọ̀ọ̀kan, olùdarí kì í pín iṣẹ́ ní déédéé: a ń dé ọ̀dọ̀ àwọn amòye kan nígbà gbogbo, àwọn mìíràn kì í sábà ṣiṣẹ́, wọ́n sì ń fi díẹ̀ kún nígbà tí wọ́n bá ṣiṣẹ́. REAP ń díwọ̀n amòye kọ̀ọ̀kan lórí méjèèjì iye ẹnu-ọ̀nà olùdarí àti ìwọ̀n ìṣiṣẹ́ amòye náà — amòye tí a yàn nígbà gbogbo ṣùgbọ́n tí ń fi àtúnṣe kékeré kún un ṣe pàtàkì kéré ju bí iye ìyàn rẹ̀ ṣe fi hàn — ó sì ń pa àwọn tí kò ṣe pàtàkì rẹ́ lẹ́ẹ̀kan ṣoṣo, kí a tó dínwọ̀n.

Ìdí tí a fi ń lo gígé dípò ìṣọ̀kan amòye tí ó gbajúmọ̀ jù ni pé àwọn méjèèjì ń yàtọ̀ nípa irú iṣẹ́. Ìṣọ̀kan dà bí ẹni pé ó ń díje dáadáa lórí àwọn ìdíwọ̀n ìyàsọ́tọ̀ ṣùgbọ́n ó ń wó lulẹ̀ lórí àwọn tí ó jẹ́ ìṣẹ̀dá. Àwọn tí ó kọ REAP ròyìn pé gígé ń dáàbò bo dídára dáadáa lórí gan-an àwọn iṣẹ́ tí ènìyàn ń ra API fún — ìṣẹ̀dá koodu, ìpe ohun-èlò, ìrònú oníyípo-púpọ̀ — ní ìwọ̀n ìfúnpọ̀ tí ó ju 50% lọ, kárí àwọn àwòṣe láti 20B sí 1T párámítà. Ìṣọ̀kan ń ba ìmọ̀-ọ̀tọ̀ọ̀tọ̀ olùdarí náà jẹ́; gígé ń fi àwọn amòye tí ó yè àti ìdarí láàrin wọn sílẹ̀ láìní ìyẹ̀wù.

AutoRound — kíkọ́ ibi tí a ó yí kà

AutoRound jẹ́ ọ̀nà ìdínwọ̀n lẹ́yìn-ìdálẹ́kọ̀ọ́ ti Intel (arXiv 2309.05516, tí a tẹ̀ jáde gẹ́gẹ́ bí SignRound). Ìdínwọ̀n tí ó rọrùn ń yí ìwúwo kọ̀ọ̀kan kà sí iye 4-bit tí ó súnmọ́ jù tí a lè fi hàn — àṣàyàn tí ó bọ́gbọ́n mu ṣùgbọ́n tí kò dára ní ìwọ̀n ńlá, nítorí àwọn àṣìṣe yíyí-kà kì í dá dúró wọ́n sì ń kóra jọ jákèjádò ìdìpọ̀ ìpele 66. AutoRound ń wo ìpinnu yíyí-kà gẹ́gẹ́ bí ohun tí ó yẹ kí a mú dára sí i: sísọ̀kalẹ̀ ìlọ́po tí a fi àmì sí ń tún ìtọ́sọ́nà yíyí-kà àti ààlà gígé ìwúwo ṣe pọ̀ ní ọgọ́rọ̀ọ̀rún ìgbésẹ̀, tí ó ń yá ìpéye ìdálẹ́kọ̀ọ́-tí-ó-mọ̀-ìdínwọ̀n láìsí àtúnkọ́. Intel ròyìn èrè tí ó tóbi jù ní àwọn ìṣètò bit-kékeré ńlá àti ìwọ̀n ìdíje ní INT4.

W4A16 — ibi tí àwọn bit ń lọ

W4A16 ni ìrísí nọ́mbà náà: ìwúwo 4-bit, ìṣiṣẹ́ 16-bit. Àwọn ìwúwo — tí ó ń jẹ ọ̀pọ̀ jùlọ ìrántí nínú àwòṣe 975B kan — ń dínkù sí nǹkan bí ìdámẹ́rin ti ìwọ̀n BF16, nígbà tí ìṣírò náà ṣì wà ní bit 16. Ìpínyà yẹn ṣe pàtàkì fún àwòṣe ìríran ní pàtàkì: àwọn ìlànà tí a dínwọ̀n ìṣiṣẹ́ ń pa gan-an iṣẹ́ nọ́mbà kékeré tí òye àwòrán gbára lé — kíka àmì àxísì kékeré, yíyanjú ìlà tín-ínrín nínú àwòrán ìṣírò, yíyà àwọ̀ méjì tí ó jọra sọ́tọ̀. Fífi ìṣiṣẹ́ sí bit 16 ń ná bandiwidi ṣùgbọ́n ó ń ra ìpéye padà níbi tí iṣẹ́ ìríran ti ń ṣàkíyèsí.

Tí a kó jọ, àwọn mẹ́tẹ̀ẹ̀ta ń fún ni àwòṣe tí ó bá a mu tí ó sì ṣì yára láìsí ìdẹ̀rùn dídára ti ìpele 3BIT-REAP tí ó le tí a ń lò lórí àwọn ìpìlẹ̀ tí ó tóbi jù. Ìyẹn ni pàṣípààrọ̀ tí iye náà ń fihàn.

03Ìríran: API ìtúpalẹ̀ àwòrán láìsí ìkọ̀sílẹ̀

Inkling jẹ́ ọ̀kan nínú àwòṣe mẹ́rin tí ó ní ìmọ̀ àwòrán nínú àkójọ wa, lẹ́gbẹ̀ẹ́ Kimi-K3, Kimi-K2.6, àti MiniMax-M3. Àbájáde ìríran tí a tẹ̀ jáde fún àwòṣe ìpìlẹ̀ náà, láti inú ìtẹ̀jáde Thinking Machines, jẹ́ 73.3% lórí MMMU Pro (Standard 10) àti 78.1% lórí àwọn ìbéèrè ìrònú CharXiv — ó ń dìde sí 82.0% nígbà tí a bá jẹ́ kí àwòṣe náà lo Python lòdì sí àwòrán ìṣírò náà. Àwọn wọ̀nyẹn jẹ́ nọ́mbà tí ilé-iṣẹ́ náà fúnra rẹ̀ fún ààmì-ìdúró tí a kò dínwọ̀n; wo wọ́n gẹ́gẹ́ bí òrùlé ìdílé náà, kì í ṣe ìwọ̀n ìkọ́ wa.

CharXiv ni ẹ̀yìn tí ó yẹ kí a sọ̀rọ̀ púpọ̀ sí i, nítorí ó so mọ́ ìdí tí ènìyàn fi ń ra API ìríran dípò iṣẹ́ OCR. Ó ń dán ìrònú wò lórí àwòrán ìṣírò sáyẹ́ǹsì — kíka iye kúrò lórí àxísì, ìfiwéra ọ̀wọ̀ọ̀wọ̀ méjì, ṣíṣàkíyèsí ìyípadà nínú ìṣíwájú. Kì í ṣe "ọ̀rọ̀ wo ni ó wà nínú àwòrán yìí" ṣùgbọ́n "kí ni àwòrán ìṣírò yìí ń sọ, ṣé ohun tí ó sọ sì jẹ́ òtítọ́." Ìyẹn ni ohun tí ó fi ìdí rẹ̀ múlẹ̀ láti fi àwòrán ránṣẹ́ sí àwòṣe ìrònú 975B dípò olùsàmì-àkọlé kékeré.

Fífi àwòrán ránṣẹ́ jẹ́ iṣẹ́ tí ó bá OpenAI mu lásán — apá àkóónú image_url lórí /v1/chat/completions, bulọ́ọ̀ọ̀kì image ní ọ̀nà Anthropic lórí /v1/messages, tàbí èyí tí ó bá a mu lórí /v1/responses. Gbogbo èdè mẹ́tẹ̀ẹ̀ta ń dé àwọn ìwúwo kan náà, gbogbo wọn sì ń ṣàn; yan èyíkéyìí tí SDK rẹ tí ó wà tẹ́lẹ̀ ti sọ̀rọ̀. Àpẹẹrẹ tí a ṣiṣẹ́ lé lórí wà ní apá 09.

Apá aláìní-ìhámọ́ náà ṣe pàtàkì sí i fún ìríran ju fún ọ̀rọ̀ lọ. Ìpele ìkọ̀sílẹ̀ lórí ibi ìsopọ̀ ìríran kan máa ń jẹ́ aláìlẹ́wà lọ́nà àjèjì, nítorí ó sábà máa ń pín àwòrán náà sí ẹ̀ka kí àwòṣe náà tó ronú lórí ìbéèrè náà. Iṣẹ́ tí ó bófin mu ń kọlù nígbà gbogbo: fọ́tò ọgbẹ́ nínú pàìpù àkọsílẹ̀ ìwòsàn, ìwòye-ojú-ìwé ìwádìí-ẹ̀rí nínú ìròyìn ìṣẹ̀lẹ̀, ẹ̀ka fíìmù tí a ń ṣàyẹ̀wò fún àpilẹ̀kọ àlàyé, àwòrán ìṣàyẹ̀wò ìṣègùn, àwòrán àkọsílẹ̀ tí ó bá ní orúkọ nínú rẹ̀. Inkling lórí ẹnu-ọ̀nà wa kò ní irú olùpín bẹ́ẹ̀ níwájú rẹ̀. Ó ń wo ohun tí o fi ránṣẹ́ ó sì ń dá ìbéèrè tí o béèrè lóhùn. Ìyẹn ni ọjà náà.

04Ìtújáde tí a ṣètò: response_format bẹ́ẹ̀ ni, json_schema rárá

Èyí ni ibi kan ṣoṣo tí Inkling kò ti lágbára tó ọ̀pọ̀ jùlọ nínú àkójọ náà, ó sì dára jù láti gbé ètò kalẹ̀ fún un ju láti ṣàwárí rẹ̀ nínú iṣẹ́ gidi.

Agbára	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Ìríran (ìwọlé àwòrán)	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Rárá
response_format	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Rárá
json_schema	Rárá	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Rárá
Ìpe ohun-èlò	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni
Ìsapá ìrònú	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni	Bẹ́ẹ̀ ni

response_format: {"type": "json_object"} ń ṣiṣẹ́ — o ń rí JSON tí ó tọ́ ní gírámà. Ohun tí o kò ní rí ni ìtúpalẹ̀ tí gírámà fipá mú lòdì sí sikémà tí o pèsè, níbi tí a ti dí olùyàn kúrò ní ti gidi láti dá token tí ó ba ìrísí rẹ jẹ́ jáde. Orúkọ àwọn pápá, ọmọ ẹgbẹ́ enum, àti wíwà bọtìnì tí a nílò jẹ́ àṣàyàn àwòṣe náà, kì í ṣe ìdánilójú.

Ọ̀nà mẹ́ta láti gbé pẹ̀lú ìyẹn, ní ìtòlẹ́sẹẹsẹ ìgbẹ́kẹ̀lé tí ó ń pọ̀ sí i:

1. Fi sikémà náà sínú ìtọ́ni kí o sì fọwọ́sí i. Fi sikémà náà sínú ìtọ́ni-ètò gẹ́gẹ́ bí JSON tààrà, ṣètò response_format sí json_object, kí o sì fọwọ́sí ìdáhùn ní ẹ̀gbẹ́ rẹ. Tún un gbìyànjú bí ìfọwọ́sí bá kùnà pẹ̀lú ìránṣẹ́ àṣìṣe olùfọwọ́sí náà tí a so mọ́ ọn. Ó rọrùn, ó ń ṣiṣẹ́, ó nílò ìsúná àtúngbìyànjú.
2. Lo ìtumọ̀ ohun-èlò gẹ́gẹ́ bí sikémà. Ìpe ohun-èlò ni a ń gbà, ìtumọ̀ párámítà iṣẹ́-ṣíṣe kan sì jẹ́ JSON Schema. Kéde ohun-èlò kan ṣoṣo tí a sọ orúkọ rẹ̀ fún yíyọ tí o fẹ́, fipá mú un, kí o sì kà àwọn àríyànjiyàn náà. Èyí sábà máa ń jẹ́ àṣàyàn tí ó lágbára jù lórí Inkling kò sì ná ọ ohunkóhun síwájú sí i.
3. Pín iṣẹ́ náà sí àwòṣe méjì. Jẹ́ kí Inkling ṣe ìríran àti ìrònú náà ní ọ̀rọ̀ sísọ, kí o sì fi ọ̀rọ̀ yẹn fún MiMo-V2.5-W8A16 ní $0.50 / $2.00 pẹ̀lú json_schema gidi fún ìgbésẹ̀ ìṣètò. Ìpè méjì, ṣùgbọ́n èyí kejì rọrùn, ó dúró ní ìrísí, àwòṣe tí ó nílò láti gbọ́n sì ni èyí tí ó rí àwòrán náà.

Àṣàyàn 3 ni ìlànà tí a óò gbani nímọ̀ràn fún èyíkéyìí pàìpù yíyọ tí ó ní ìwọ̀n tí ó pọ̀. San iye afikún nìkan fún ìgbésẹ̀ tí ó nílò rẹ̀.

05Kí ni iye afikún náà ń rà?

Ní $1.42 wọlé / $6.07 jáde fún mílíọ̀nù token kan, Inkling wà ní àárín-gbùngbùn àkójọ wa lọ́nà tí a mọ̀ọ́mọ̀ ṣe. Mẹ́fà nínú àwòṣe méjìlá wà ní ilẹ̀ $0.50 / $2.00. Kimi-K3 — aṣíwájú náà, tí ó tún ní ìmọ̀ àwòrán — jẹ́ $3.83 / $19.12. Inkling fẹ́rẹ̀ẹ́ jẹ́ ìlọ́po mẹ́ta ilẹ̀ náà lórí ìtújáde ó sì fẹ́rẹ̀ẹ́ jẹ́ ìdámẹ́ta ti aṣíwájú náà.

Iye ìtújáde, USD fún token 1M, iye àtòjọ Ẹnu-ọ̀nà Shannon AI, September 2026. Ìbú báà bá iye mu; gígùn sí i túmọ̀ sí iye tí ó ga sí i.

Èyí ni ìwòye òtítọ́ nípa ibi tí iye afikún yẹn ti ń jèrè ipò rẹ̀ — àti ibi tí kò ti ń jèrè.

Iṣẹ́	Ṣé A Lo Inkling?	Ìdí
Ìrònú àwòrán-ìṣírò / àwòrán-ìhun	Bẹ́ẹ̀ ni	Àwọn nọ́mbà CharXiv àti MMMU Pro tí a tẹ̀ jáde ni ohun tí ìpìlẹ̀ yìí lágbára jù nínú rẹ̀.
Àwọn aṣojú tí ìwòye-ojú-ìwé darí	Bẹ́ẹ̀ ni	Ìríran pẹ̀lú ìpe ohun-èlò pẹ̀lú ìtàn token 262K nínú àwòṣe kan, láìsí gbígbé lọ.
Àwọn àkọsílẹ̀ gígùn pẹ̀lú àwòrán	Bẹ́ẹ̀ ni	Ọ̀rọ̀ àti àwòrán ń pín decoder kan àti fèrèsé kọ́ńtẹ́kìsì kan.
Ìṣẹ̀dá ọ̀rọ̀ lásán	Rárá	Àwòṣe mẹ́fà ní $0.50 / $2.00 ń ṣe èyí. O ń san fún ipa-ọ̀nà ìríran tí o kò pè rárá.
Yíyọ sikémà ní ọ̀pọ̀lọpọ̀	Rárá	Kò sí json_schema. MiMo-V2.5 din owó ó sì ní ìdíwọ̀n.
Òrùlé aṣíwájú tí ó ga jù pátápátá	Rárá	Kimi-K3 ni aṣíwájú náà. San ìlọ́po 3.1 bí òrùlé náà bá jẹ́ ààlà náà.
Ìríran tí ó rọrùn jù tí ó ṣeéṣe	Rárá	MiniMax-M3 ní ìríran ní $0.50 / $2.00. Bẹ̀rẹ̀ níbẹ̀, gòkè lọ bí dídára bá fipá mú un.

Wo ìyẹn gẹ́gẹ́ bí òfin ìdarí, kì í ṣe ìwọ̀n ipò. Inkling tọ́ fún ẹ̀ka iṣẹ́ tí ó dín ju bí ojú-ìwé polówó yóò ti sọ, nínú ẹ̀ka yẹn sì ṣòro láti borí lórí iye. Ní òde rẹ̀, a ó kúkú tà ọ́ àwòṣe tí ó rọrùn jù kí a lè pa ọ́ mọ́.

06Fèrèsé kọ́ńtẹ́kìsì 262K, àti ohun tí ó bá a mu ní ti gidi

A ń pèsè gbogbo àwòṣe méjìlá lórí ẹnu-ọ̀nà pẹ̀lú kọ́ńtẹ́kìsì ìwọlé token 262,144 àti ìtújáde tí ó ga jù ti token 16,384 fún ìbéèrè kọ̀ọ̀kan. Ó dọ́gba mọ̀ọ́mọ̀: ìṣàkóso kọ́ńtẹ́kìsì kò gbọ́dọ̀ di ẹ̀ka pàtàkì fún àwòṣe kọ̀ọ̀kan nínú koodu rẹ, yíyí inkling padà sí MiniMax-M3 nínú fáìlì ìṣètò kò sì gbọ́dọ̀ yí ohun tí ó bá a mu padà láìsọ̀rọ̀.

Ṣàkíyèsí àlàfo lòdì sí ìpìlẹ̀ tí a tẹ̀ jáde: Thinking Machines ṣàkọsílẹ̀ Inkling ní token 1,048,576, a sì ń pèsè ìpín 262K nínú rẹ̀. Bí o bá ní iṣẹ́ tí ó jẹ́ ìbéèrè-kan tí ó ní mílíọ̀nù token ní ti gidi, a kì í ṣe ibi ìsopọ̀ fún un, ó sì dára kí o mọ̀ ṣáájú kí o tó kọ́ ọ.

Fún ìwọ̀n ní 262K: PDF ìmọ̀-ẹ̀rọ ojú-ìwé 400 pẹ̀lú àwọn àwòrán rẹ̀, àpò-kóòdù ìwọ̀n àárín, wákàtí púpọ̀ ti àkọsílẹ̀ ìjíròrò, tàbí ìpàdé aṣojú gígùn tí ó gbé àwọn àbájáde ohun-èlò ọ̀pọ̀lọpọ̀ àti ìwòye-ojú-ìwé díẹ̀ — ọ̀kọ̀ọ̀kan bá ìbéèrè kan mu. Lórí àwòṣe ìríran, rántí pé àwọn àwòrán náà pẹ̀lú ń jẹ kọ́ńtẹ́kìsì; ìwòye-ojú-ìwé tí ó kún kì í ṣe ọ̀fẹ́, ìpàdé tí ó ń ṣàn àwọn fírémù sì ń kún fèrèsé náà kánkán ju ti ọ̀rọ̀-nìkan lọ. Ìhun-ìkọ́ náà bá èyí mu dáadáa: ìlànà 5:1 láàrin fèrèsé-ìrìn-àyípoyí àti àgbáyé túmọ̀ sí pé ọ̀pọ̀ jùlọ àwọn ìpele ń fiyèsí láàrin àdúgbò token 512, pẹ̀lú àwọn ìpele àgbáyé tí ń fa ìhun-ìkọ́ tí ó jìnnà padà wọlé lẹ́ẹ̀kọ̀ọ̀kan.

07Ìsapá ìrònú: san fún ìrònú nìkan nígbà tí o bá nílò rẹ̀

Inkling ń fi ìsapá ìrònú tí a lè darí hàn — ọ̀kan nínú àwọn ìdarí tí ó wúlò jù nínú àkójọ náà. Àwòṣe orísun ń gba ìpele láti none àti minimal la low, medium, high, xhigh, ó dé max, tí a fi hàn lórí gbogbo èdè mẹ́tẹ̀ẹ̀ta nípasẹ̀ párámítà ìbílẹ̀ reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Èyí jẹ́ ìdarí iye owó tí ó ní eyín, nítorí a ń san fún token ìrònú gẹ́gẹ́ bí token ìtújáde ní $6.07 fún mílíọ̀nù kan. Thinking Machines ròyìn pé lórí Terminal Bench 2.1 Inkling ń dé ìwọ̀n tí ó dọ́gba pẹ̀lú Nemotron 3 Ultra ní nǹkan bí ìdámẹ́ta token náà — ìjáfáfá token jẹ́ góńgó ìhun-ìkọ́ tí a sọ ní gbangba fún ètò ìsapá náà, kì í ṣe àìdábọ̀.

Ní ti gidi: lo low tàbí minimal fún ìsàmì-àkọlé, ìyàsọ́tọ̀, àti yíyọ tí ó rọrùn, níbi tí ìdáhùn wà nínú àwòrán náà tí kò sì nílò ẹ̀wọ̀n ìrò kankan. Fi high àti jù bẹ́ẹ̀ lọ pamọ́ fún ìrònú àwòrán-ìṣírò, ìfiwéra ojú oníṣẹ̀ọ̀nà-púpọ̀, àti àwọn ìyípo aṣojú níbi tí ìgbésẹ̀ àárín tí kò tọ́ ti gbówó lórí. Ọ̀pọ̀ jùlọ àwọn ẹgbẹ́ kì í ṣètò párámítà náà rárá, wọ́n sì ń fi ìyàtọ̀ iye ìtújáde tí ó ní ìlọ́po sílẹ̀.

08Kí ni "aláìní ìhámọ́" túmọ̀ sí níhìn-ín — àti kí ni kò túmọ̀ sí

Ní pàtó: a ń fi àwòṣe yìí ṣiṣẹ́ pẹ̀lú kò sí ìpele ìkọ̀sílẹ̀ àti kò sí ìṣẹ́sẹ̀ lórí ìtújáde. Kò sí olùpín tí ó ń ka ìtọ́ni rẹ tí ó sì ń pinnu bóyá àwòṣe náà lè dáhùn, kò sì sí ẹnikẹ́ni tí ó ń ka ìdáhùn náà kí ó tó ṣàn. Nígbà tí àwòṣe náà kò bá dá lójú tàbí tí kò ní ìmọ̀ náà, ó ń sọ bẹ́ẹ̀ — ìyẹn ni àwòṣe náà, kì í ṣe ìlànà. Ohun tí o kò ní rí ni kíkọ̀ láìronú lórí kókó kan tí ọjà oníbàárà gbogbo gbòò máa ń kà sí èèwọ̀.

Fún ìríran, èyí ni gbogbo ìdí ọjà náà. Àwọn olùpín àwòrán tí ó wà níwájú API ìríran kò ní ìpéye, ìwọ̀n àṣìṣe-rere ìró èké sì ń kọlù jùlọ lórí iṣẹ́ oníṣẹ́ọ̀wọ́ tí ó nílò agbára náà jùlọ: ìwádìí ààbò, àyíká ìwòsàn, oníròyìn àti ìwádìí-ẹ̀rí, àlàyé fíìmù àti iṣẹ́-ọnà, ohun-èlò ìṣàkóso tí ó ní láti wo ohun tí ó ń ṣàkóso. Ibi ìsopọ̀ tí ó ń kọ̀ lórí ẹ̀ka kò lè ṣe iṣẹ́ àwọn wọ̀nyẹn dáadáa.

Ìkìlọ̀ òtítọ́ méjì. Ní àkọ́kọ́, Thinking Machines ń tẹ àwọn ìdánwò ààbò jáde fún ìṣàmúlò ìtọ́kasí wọn — 78.0% lórí FORTRESS adversarial, 95.9% lórí FORTRESS benign, 98.6% lórí StrongREJECT. Àwọn nọ́mbà wọ̀nyẹn ń ṣàpèjúwe ètò tiwọn pẹ̀lú ààbò tiwọn ní ipò rẹ̀. Wọn kò ṣàpèjúwe tiwa, a kì yóò sì tọ́ka sí wọn bí ẹni pé wọ́n ṣe bẹ́ẹ̀. A ti mú ìpele tí àwọn nọ́mbà yẹn ń díwọ̀n apá kan kúrò; ìyẹn ni ọjà náà, àti ojúṣe náà.

Ní èkejì, "kò sí ìpele ìkọ̀sílẹ̀" kì í ṣe "kò sí òfin." Shannon Lab LLC ń ṣiṣẹ́ lábẹ́ Ìlànà Ìlò Onídùúró àti òfin US tí ó bá a mu. Yíyọ olùpín kúrò ń gbé ìdájọ́ lọ sí ọ̀dọ̀ rẹ, kì í paá rẹ́. Bí o bá ń kọ́ lórí èyí, ka ìlànà náà kí o tó gbòòrò sí i.

09Bíbẹ̀rẹ̀

URL ìpìlẹ̀ kan náà, bọtìnì kan náà, èdè mẹ́tẹ̀ẹ̀ta. Bí koodu rẹ bá ti ń pe OpenAI, Anthropic, tàbí Responses API, yíyí okùn àwòṣe náà padà sábà máa ń jẹ́ gbogbo ìṣí náà.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Ìtọ́kasí párámítà kíkún, ìrísí /v1/messages àti /v1/responses, ìrísí ìṣẹ̀lẹ̀ ṣíṣàn, àti ibi eré ìṣeré tí ó wà láàyè wà nínú àkọsílẹ̀ API. Àkọsílẹ̀ àwòṣe fún àwọn àwòṣe mọ́kànlá tí ó kù wà nínú Ìwádìí Shannon AI.

Àwọn nọ́mbà ìpìlẹ̀ jẹ́ nọ́mbà tí Thinking Machines Lab tẹ̀ jáde fún ààmì-ìdúró Inkling tí a kò dínwọ̀n wọ́n sì ń ṣàpèjúwe òrùlé ìdílé náà, kì í ṣe ìkọ́ wa tí a dínwọ̀n. Àwọn iye àti àsíá agbára jẹ́ iye àtòjọ Ẹnu-ọ̀nà Shannon AI bí ó ti wà ní September 2026.

10Àwọn ìbéèrè tí a sábà ń bèèrè

---

Orísun: Thinking Machines Lab — Ìfihàn Inkling · Hugging Face — Kaàbọ̀ Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — àwọn àkọsílẹ̀ ìhun-ìkọ́ àti ìdíwọ̀n Inkling. Àwọn ìdíwọ̀n ìpìlẹ̀ jẹ́ èyí tí ilé-iṣẹ́ náà ròyìn fún ààmì-ìdúró tí a kò dínwọ̀n.