Ma hayno mana helno data isticmaaleyaal ah, mana suspend-gareyno xisaabaadka ilaa authority sharci ahi naga dalbato tallaabo.
Hagaha Moodalka · inkling · W4A16-AUTOROUND-REAP

API-ga Moodalka Inkling ee Aan La Faaruqin

Dhisme sawir-akhris leh oo aan la faaruqin oo ka mid ah aasaaska Mixture-of-Experts ee Inkling 975B ee Thinking Machines — context 262K, gelin sawir, lakab diidmo ma jiro.

Waa la cusboonaysiiyay 5 Sebtembar 2026Hagaha MoodalkaAasaaska: Inkling (Thinking Machines Lab)

Soo koobid

inkling-W4A16-AUTOROUND-REAP waa geyntayada Inkling, oo ah MoE miisaanno furan ah oo 975B parameter leh oo Thinking Machines Lab ay siideeyeen 15 Luuliyo 2026. Waa mid sawir-akhris leh, wuxuu sameeyaa wicitaan qalab iyo xakamaynta dadaalka fikirka, wuxuuna ku shaqeeyaa lakab diidmo la'aan iyo shaandhayn wax-soo-saar la'aan kooxdeenna GPU-yada u gaarka ah. Context-ku waa 262,144 token, wax-soo-saarkuna ilaa 16,384. Qiimuhu waa $1.42 gudaha / $6.07 dibadda milyan token kasta — heersare dhexdhexaad ah, oo ka sarreeya heerkayaga sagxadda $0.50 ka hoosayna calanka Kimi-K3. Hal digniin oo la qorsheeyo: wuxuu taageeraa response_format laakiin ma taageero json_schema.

Laba iyo tobanka moodal ee albaabkayaga ku jira intooda badan waa qoraal keliya. Afar maaha, afartaas dhexdoodana Inkling wuxuu haystaa boos gaar ah: waa moodalka sawir-akhriska ee aad u tagayso marka sawirku yahay qaybta adag ee dhibaatada laakiin miisaaniyaddu aanay gaadhayn calan. Hagahani wuxuu daboolayaa halka aasaasku ka yimid, waxa lifaaqa W4A16-AUTOROUND-REAP uu ku sameeyay, waxa uu samayn doono iyo waxa uusan samayn doonin dusha API-ga, iyo — si daacad ah — goorta moodal ka jaban oo isla kataloogga ku jira uu doorasho ka fiican yahay.

01Waa maxay Inkling, yaana dhisay?

Inkling waa moodalka ugu horreeya ee miisaanno furan ah ee Thinking Machines Lab, oo la daabacay 15 Luuliyo 2026. Si ka duwan siideynta intooda badan ee loo dhigo "furan," wuxuu la yimid miisaanno buuxa oo la soo dejin karo oo Hugging Face ku jira iyo taageero maalinta eber ah oo ku jirta transformers, SGLang, vLLM, iyo llama.cpp — taasoo ah sida uu gebi ahaanba ugu noqday mid lagu wadi karo kaabayaal sida keenna oo kale ah. Tirooyinka cinwaanka, oo ka yimid agabka siideynta ee Thinking Machines lafteeda:

975B
Parameter guud
41B
Firfircoon / token
256
Khubaro la marinayo
45T
Token tababbar-hore

Kaasi waa qaab Mixture-of-Experts firdhisan: 66 lakab koodh-fure ah oo cabbir qarsoon 6,144 ah, labada hore oo cufan, 64-ka hadhayna waxay sitaan 256 khabiir oo la marinayo oo lagu daray 2 khabiir oo la wadaago, iyadoo 6 khabiir oo la marinayo ay firfircoon yihiin token kasta. Qiyaastii 4% parameter-rada ayaa dhalaalaya token kasta — taasoo ah waxa ka dhigaysa moodal tirilyan ku dhow mid gebi ahaanba la bixin karo.

Laba doorasho oo qaab-dhismeed ah ayaa aan caadi ahayn oo mudan in la magacaabo. Fiirsashadu waa mid isku dhex yaal — 55 lakab oo fiirsasho daaqad shiraaqsan ah oo daaqad 512-token ah dul yaal marka loo eego 11 lakab oo guud, oo qaab ku celcelis ah oo 5:1 ah. Inkling-na ma isticmaalo RoPE: wuxuu isticmaalaa eexasho boos-isbarbardhig ah oo la bartay oo gelinta ku xidhan, oo lagu daray convolution sababeed oo gaagaaban oo lagu sameeyay saadaalinta fure/qiime iyo laamaha hadhaaga. Qoraallada qaab-dhismeedka ee Sebastian Raschka wuxuu labadaba u calaamadeeyaa ka bax dhab ah oo cuntada caadiga ah ee 2026. Tababbarku wuxuu isticmaalay Muon parameter-rada matoorada waaweyn iyo Adam inta kale, ka dibna in ka badan 30 milyan oo rollout RL ah oo aan is-waafaqsanayn tababbarka kadib.

Bartilmaameedka macmiilka API-ga ma aha xog-yaraha. Waa in kani yahay aasaas cabbir-hormuud ah, oo si dabiici ah multimodal u ah oo lagu tababbaray 45 tirilyan token oo daboolaya qoraal, sawirro, cod iyo fiidiyow — ee ma aha moodal qoraal oo lagu dhejiyay qabsade sawir-akhris ah goor dambe. Sawirrada waxaa loo koodhaa baraaco 40×40 pixel ah oo lagu maray patchifier MLP ah oo afar lakab kala sarreeya ah, waxaana lagula habeeyaa qoraalka isla koodh-furaha. Fahamka muuqaalku wuxuu ku jiray ujeeddada tababbarka-hore.

02Maxay W4A16-AUTOROUND-REAP ka dhigan tahay?

Saddex farsamo oo kala duwan ayaa lifaaqaas isku dul saaran, shaqooyin kala duwanna way qabtaan. Way mudan tahay in la fahmo, sababtoo ah lifaaqu waa faraqa keliya ee ugu weyn ee u dhexeeya moodalka aad ku wacdo API-gayaga iyo xaqiijiyaha uu Thinking Machines daabacay.

REAP — jaridda khubarada aan qofna u marin

REAP waa Router-weighted Expert Activation Pruning, oo ka timid Cerebras Research (arXiv 2510.13999, oo lagu aqbalay ICLR 2026). MoE leh 256 khabiir lakab kasta, router-ku shaqada si siman uma qaybiyo: khubaro qaar ayaa si joogto ah loo taabtaa, kuwo kalena dhif bay dhalaalaan wax yarna way ku darsadaan marka ay dhalaalaan. REAP waxay khabiir kasta ku dhibcaysaa labadaba qiimayaasha albaabka router-ka iyo cabbirrada firfircoonaanshaha khabiirka — khabiir marar badan la doorto laakiin ku darsanaya cusboonaysiin baaxad yar wuxuu ka muhiimsan yahay wax ka yar sida tiradiisa doorashadu tilmaamayso — waxayna hal mar tuurtaa kuwa muhiimadda hooseeya, ka hor quantization-ka.

Sababta aan u isticmaalno jaridda halkii aan u isticmaali lahayn isku darka khubarada ee ka caansan waa in labadu ay ku kala tagaan nooca hawsha. Isku darku wuxuu u muuqdaa mid tartan leh cabbir-tijaabooyinka kala-soocidda wuuna burburaa kuwa soo-saarista. Qorayaasha REAP waxay soo sheegayaan in jariddu tayada si fiican u ilaaliso si sax ah shaqooyinka dadku API u iibsadaan — abuurka koodhka, wicitaanka qalabka, fikirka marar badan — saamiyada cufidda ee 50% ka gudba, moodallada 20B ilaa 1T parameter ah oo dhan. Isku darku wuxuu burburiyaa takhasuska router-ka; jariddu waxay ka tagtaa khubarada hadhay iyo marinta u dhexeysa iyagoo taagan.

AutoRound — barashada meesha lagu wareejinayo

AutoRound waa habka quantization-ka tababbarka kadib ee Intel (arXiv 2309.05516, oo loo daabacay SignRound). Quantization fudud wuxuu miisaan kasta ku wareejiyaa qiimaha 4-bit ee ugu dhow ee la matali karo — caadi macquul ah oo mid xun cabbirka ballaadhan, sababtoo ah qaladaadka wareejintu ma aha kuwo madax-bannaan wayna ku ururaan taxane 66-lakab ah. AutoRound waxay go'aanka wareejinta u aragtaa wax la hagaajiyo: hoos-u-dhaca miilka calaamadaysan ayaa si wadajir ah u habeeya jihada wareejinta iyo xadadka goynta miisaanka dhowr boqol tallaabo, isagoo ka amaahanaya saxnaanta tababbarka quantization-ka ka war qaba isagoon dib u tababbarin. Intel waxay soo sheegaysaa horumarrada ugu waaweyn goobaha bit-hooseeya ee daran iyo cirif tartan leh INT4.

W4A16 — halka bit-yadu tagayaan

W4A16 waa qaabka tirada: miisaanno 4-bit ah, firfircoonaansho 16-bit ah. Miisaannada — kuwaas oo xusuusta ku badbada moodal 975B ah — waxay hoos ugu dhacaan qiyaastii rubuc raadka BF16, halka xisaabtu ku sii jirto 16 bit. Kala qaybintaasi waxay si gaar ah muhiim ugu tahay moodal sawir-akhris ah: qorshayaasha firfircoonaanshaha la quantize gareeyay waxay si sax ah u dhaawacaan shaqada tirada ee faahfaahsan ee fahamka sawirku ku tiirsan yahay — akhrinta calaamad dhidib oo yar, xallinta khad khafiif ah oo jaantus ku jira, kala saaridda laba midab oo isku eg. Ka tegidda firfircoonaanshaha 16 bit waxay ku kacaysaa baaxad waxayna dib u iibsanaysaa saxnaan meel ay shaqada sawir-akhrisku dareemayso.

Marka la isku dul saaro, saddexdu waxay bixiyaan moodal ku qalma degdegna ku sii ah isagoon lahayn jiifka tayada ee heerka xooggan 3BIT-REAP ee aan ku isticmaalno aasaasyada ugu waaweyn. Kaasi waa ganacsiga uu qiimuhu ka tarjumayo.

03Sawir-akhris: API falanqayn sawir oo aan diidmo lahayn

Inkling waa mid ka mid ah afar moodal oo sawir-akhris leh oo kataloogayaga ku jira, oo ay weheliyaan Kimi-K3, Kimi-K2.6, iyo MiniMax-M3. Natiijooyinka sawir-akhriska ee moodalka aasaasiga ah ee la daabacay, oo ka yimid siideynta Thinking Machines, waa 73.3% MMMU Pro (Standard 10) iyo 78.1% su'aalaha fikirka ee CharXiv — oo kor u kacaya 82.0% marka moodalka loo ogolaado inuu Python ku wado shaxanka. Kuwaasi waa tirooyinka shaybaarka lafteeda ee xaqiijiyaha aan la quantize gareyn; u qaado xadka qoyska, ee ha u qaadan cabbir dhismahayaga ah.

CharXiv waa kan mudan in lagu sii joogo, sababtoo ah wuxuu ku dul dhacayaa sababta dadku u iibsadaan API sawir-akhris ah halkii ay u iibsan lahaayeen adeeg OCR ah. Wuxuu tijaabiyaa fikirka shaxannada sayniska: qiimo dhidib laga akhrinayo, laba taxane oo la barbardhigayo, isbeddel isbeddelaya oo la dareemayo. Ma aha "waa maxay qoraalka sawirkan ku jira" laakiin waa "maxay jaantuskani sheeganayaa, sheegashaduna ma taagan tahay." Taasi waa waxa caddaynaya in sawir loo diro moodal fikir 975B ah halkii loo diri lahaa qoraal-samaye yar.

Dirista sawirku waa shaqo caadi ah oo OpenAI la jaanqaadaysa — qayb nuxur image_url ah /v1/chat/completions, baloog image ah oo qaab Anthropic ah /v1/messages, ama midda u dhiganta /v1/responses. Saddexda lahjadood oo dhan waxay gaadhaan isla miisaannada saddexduba way stream sameeyaan; dooro midda SDK-gaagu hore u hadlo. Tusaale la shaqeeyay wuxuu ku jiraa qaybta 09.

Qaybta aan la faaruqin ayaa sawir-akhriska uga muhiimsan qoraalka. Lakab diidmo oo ku yaal dhammaad sawir-akhris ah waa mid si aan caadi ahayn u toosan, sababtoo ah caadi ahaan wuxuu kala soocaa sawirka ka hor inta uusan moodalku ka fikirin codsiga. Shaqo sharci ah si joogto ah ayaa loo qabtaa: sawir nabar ah oo ku jira tuubbo qoraallo caafimaad ah, sawir-shaashadeed baadhitaan dembi ah oo ku jira qoraal dhacdo, sawir-qayb filim ah oo loo falanqaynayo qormo naqdin ah, iskaan caafimaad, sawir dukumenti ah oo ay dhacdo inuu magac ku jiro. Inkling albaabkayaga kuma laha kala-soociye caynkaas ah hortiisa. Wuxuu eegaa waxa aad dirtay wuxuuna ka jawaabaa su'aashaad waydiisay. Taasi waa alaabta.

04Wax-soo-saarka qaabaysan: response_format haa, json_schema maya

Tani waa meesha keliya ee Inkling uu ka awood yar yahay kataloogga inteeda badan, way ka fiican tahay in loo qorsheeyo halkii wax-soo-saarka lagu ogaan lahaa.

AwoodinklingKimi-K2.6MiMo-V2.5Laguna-S-2.1
Sawir-akhris (gelin sawir)HaaHaaHaaMaya
response_formatHaaHaaHaaMaya
json_schemaMayaHaaHaaMaya
Wicitaanka qalabkaHaaHaaHaaHaa
Dadaalka fikirkaHaaHaaHaaHaa

response_format: {"type": "json_object"} wuu shaqeeyaa — waxaad hesha JSON naxwe ahaan sax ah. Waxa aadan helayn waa koodh-furid naxwe ku xaddidan oo la barbardhigayo schema aad bixisay, halkaas oo muunad-qaaduhu si jidheed looga hor istaago inuu soo saaro token ku xadgudbaya qaab-dhismeedkaaga. Magacyada goobaha, xubinnimada enum, iyo joogitaanka furayaasha loo baahan yahay waa doorashada moodalka, ee ma aha dammaanad.

Saddex hab oo lagula noolaado taas, oo si kor u kaca isku hallayntooda loo kala horreysiiyay:

  1. Prompt-ka ku dhig schema-da oo xaqiiji. Schema-da ku dhig prompt-ka nidaamka isagoo JSON dhab ah ah, u dhig response_format inuu noqdo json_object, oo jawaabta dhinacaaga ku xaqiiji. Isku day mar kale marka xaqiijintu fashilanto adigoo ku lifaaqaya fariinta qaladka ee xaqiijiyaha. Jaban, wuu shaqeeyaa, wuxuu u baahan yahay miisaaniyad isku-day.
  2. Qeexid qalab u isticmaal schema ahaan. Wicitaanka qalabka waa la taageeraa, qeexidda parameter-ka ee shaqaduna waa JSON Schema. Ku dhawaaq hal qalab oo loogu magac daray soo-saaridda aad rabto, khasab ka dhig, oo akhri doodaha. Kani badiyaa waa doorashada ugu xoogga badan Inkling waxbana kuguma kordhinayo.
  3. Shaqada u kala qaybi laba moodal. Inkling ha sameeyo sawir-akhriska iyo fikirka qoraal ahaan, ka dibna qoraalkaas u dhiib MiMo-V2.5-W8A16 oo $0.50 / $2.00 ah adigoo leh json_schema dhab ah oo marinta qaabaynta ah. Laba wicitaan, laakiin midda labaad waa jaban, qaab ahaanna waa la saadaalin karaa, moodalka u baahan inuu caqli badan yahayna waa kan sawirka arkay.

Doorashada 3 waa qaabka aan ku talin lahayn tuubbo kasta oo soo-saarid mug badan ah. Heersaraha kaliya u bixi tallaabada u baahan.

05Maxuu heersaraha qiimuhu iibsanayaa?

$1.42 gudaha / $6.07 dibadda milyan token kasta, Inkling wuxuu si ula kac ah u fadhiyaa bartamaha kataloogayaga. Lix ka mid ah laba iyo tobanka moodal waxay ku jiraan sagxadda $0.50 / $2.00. Kimi-K3 — oo ah calanka, sidoo kale sawir-akhris leh — waa $3.83 / $19.12. Inkling wuxuu qiyaastii saddex jeer ka badan yahay sagxadda wax-soo-saarka wuxuuna qiyaastii saddex-meelood meel ka yahay calanka.

Kimi-K319.12
inkling6.07
DeepSeek-V4-Pro3.90
Kimi-K2.63.67
MiniMax-M32.00

Qiimaha wax-soo-saarka, USD 1M token kasta, heerarka liiska Albaabka Shannon AI, Sebtembar 2026. Ballaca xariiqdu wuxuu u dhigmaa qiimaha; dheeri waa qaali badan.

Halkan waa akhriska daacadda ah ee ku saabsan halka heersarahaasi uu naftiisa ku mutaysto — iyo halka uusan ku mutaysan.

ShaqoIsticmaal Inkling?Sababta
Fikirka shaxanka / jaantuskaHaaTirooyinka CharXiv iyo MMMU Pro ee la daabacay waa waxa aasaaskani ugu xoogga badan yahay.
Wakiillo sawir-shaashadeed waddaHaaSawir-akhris oo lagu daray wicitaan qalab oo lagu daray 262K taariikh ah hal moodal, wareejin ma jirto.
Dukumentiyo dhaadheer oo jaantusyo lehHaaQoraalka iyo sawirradu waxay wadaagaan hal koodh-fure iyo hal daaqad context ah.
Soo-saarista qoraal caadi ahMayaLix moodal oo $0.50 / $2.00 ah ayaa tan sameeya. Waxaad u bixinaysaa waddo sawir-akhris oo aadan waligaa wicin.
Soo-saarid schema oo mug badanMayajson_schema ma jiro. MiMo-V2.5 waa ka jaban waana la xaddiday.
Xadka hormuudka ugu sarreeyaMayaKimi-K3 waa calanka. Bixi 3.1× haddii xadku yahay xannibaadda.
Sawir-akhriska ugu jaban ee suurtogal ahMayaMiniMax-M3 wuxuu sawir-akhris ku leeyahay $0.50 / $2.00. Halkaas ka bilow, kor u qaad haddii tayadu ku khasabto.

Taas u akhri xeer marin, ee ha u akhrin liis darajayn ah. Inkling wuxuu u qalmaa xarig shaqo oo ka cidhiidhi ah sida bog xayaysiin uu sheegan lahaa, xariggaas gudihiisana way adag tahay in qiimo looga adkaado. Ka baxsan, waxaan doorbidnaa inaan kaa iibinno moodalka ka jaban oo aan ku haynno.

06Daaqadda context-ka 262K, iyo waxa dhab ahaan ku qalma

Laba iyo tobanka moodal ee albaabka ku jira dhammaantood waxaa lagu bixiyaa context gelin ah oo 262,144 token ah iyo wax-soo-saar ugu badan oo 16,384 token ah codsi kasta. Waa mid isku mid ah ula kac: habaynta context-ku waligeed waa inaanay noqon laan moodal-kasta oo koodhkaaga ku jirta, beddelidda inkling oo MiniMax-M3 lagu beddelo fayl habayn kuma beddeli karto si aamusan waxa ku qalma.

Ogow farqiga u dhexeeya aasaaska la daabacay: Thinking Machines waxay Inkling ku diiwaan gelisaa 1,048,576 token, annaguna waxaan bixinnaa qayb 262K ah oo taas ka mid ah. Haddii aad leedahay shaqo dhab ah oo hal codsi ah oo milyan token ah, annagu dhammaadka uma nihin, waana ka fiican tahay inaad ogaato ka hor intaadan dhisin.

Cabbirka 262K: PDF farsamo oo 400 bog ah oo ay jaantusyadiisu la socdaan, koodh-saldhig cabbir dhexdhexaad ah, dhowr saacadood oo qoraal cod ah, ama fadhi wakiilnimo dheer oo sida tobanaan natiijooyin qalab ah iyo dhowr sawir-shaashadeed — mid kastaa wuxuu ku qalmaa hal codsi. Moodal sawir-akhris ah, xasuuso in sawirraduna ay context isticmaalaan; sawir-shaashadeed cufan bilaash ma aha, fadhi sawir-qaybo stream sameeyaa wuxuu daaqadda ka buuxiyaa si ka dhaqso badan mid qoraal keliya ah. Qaab-dhismeedku si fiican buu tan ugu habboon yahay: qaabka 5:1 ee daaqadda-shiraaqsan ilaa guud macnaheedu waa in lakabbada intooda badan ay u fiirsadaan xaafad 512-token ah, iyadoo lakabbada guud ay xilli-xilli dib u soo celiyaan qaab-dhismeedka masaafada dheer.

07Dadaalka fikirka: fikirka u bixi oo keliya marka aad u baahan tahay

Inkling wuxuu soo bandhigaa dadaal fikir la xakamayn karo — mid ka mid ah xadhkaha ugu faa'iidada badan ee kataloogga. Moodalka kore wuxuu aqbalaa heerar laga bilaabo none iyo minimal oo dhex maraya low, medium, high, xhigh, ilaa max, oo saddexda lahjadood oo dhan lagaga soo saaray parameter-ka caadiga ah ee reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Kani waa xadhig kharash oo ilko leh, sababtoo ah token-nada fikirka waxaa lagu biiliyaa sida token wax-soo-saar ah $6.07 milyan kasta. Thinking Machines waxay soo sheegaysaa in Terminal Bench 2.1 Inkling uu gaadho dhibco la mid ah Nemotron 3 Ultra oo qiyaastii saddex-meelood meel token ah — waxtarka token-ku waa ujeeddo naqshadeyn oo la sheegay oo nidaamka dadaalka ah, ma aha shil.

Dhaqan ahaan: wad low ama minimal qoraal-samaynta, kala-soocidda, iyo soo-saaridda toosan, halkaas oo jawaabtu sawirka ku jirto oo aan silsilad fikir loo baahnayn. U kaydi high iyo wixii ka sarreeya fikirka shaxanka, isbarbardhigga muuqaalka ee tallaabooyinka badan, iyo marar wakiilnimo oo tallaabo dhexdhexaad ah oo qaldan ay qaali ku tahay. Kooxaha intooda badan waligood ma dejiyaan parameter-ka, waxayna miiska ku dhaafaan faraq kharash wax-soo-saar oo dhowr jeer ah.

08Waxa "aan la faaruqin" halkan ka dhigan yahay — iyo waxa aanay ka dhigan ahayn

Si cad: moodalkan waxaan ku wadnaa lakab diidmo la'aan iyo shaandhayn wax-soo-saar la'aan. Ma jiro kala-soociye akhriya prompt-kaaga oo go'aamiya in moodalku jawaabi karo, midna ma akhriyo jawaabta ka hor inta aanay stream noqon. Marka moodalku shaki qabo ama uu aqoontu ka maqan tahay, sidaas buu sheegaa — taasi waa moodalka, ma aha siyaasad. Waxa aadan helayn waa diidmo caadaysan oo ku saabsan mawduuc uu alaab macmiil-guud ah u aragto mid xaddidan.

Sawir-akhriska tani waa qiimaha oo dhan. Kala-soocayaasha sawirka ee hor fadhiya API-yada sawir-akhrisku waa kuwo aan sax ahayn, heerka been-abuurkuna wuxuu ugu culus yahay shaqada xirfadeed ee ugu baahan awoodda: cilmi-baarista amniga, xaaladaha caafimaadka, saxaafadda iyo baadhitaanka dembiga, naqdinta filimka iyo farshaxanka, qalabka edbinta ee ay tahay inuu eego waxa uu edbinayo. Dhammaad qaybta ku diida midkoodna si isku hallayn leh uma adeegi karo.

Laba digniin oo daacad ah. Marka hore, Thinking Machines waxay daabacdaa qiimaynta badbaadada ee geyntooda tixraaca ah — 78.0% FORTRESS adversarial, 95.9% FORTRESS benign, 98.6% StrongREJECT. Tirooyinkaasi waxay sharraxayaan taxanahooda iyaga oo ilaalintooda iyaga ay ku jirto. Kama sheekaynayaan kayaga, mana u soo xigan doonno sidii iyagoo sameeya. Waxaan ka saarnay lakabka ay tirooyinkaasi qayb ahaan cabbirayaan; taasi waa alaabta, iyo mas'uuliyadda.

Marka labaad, "lakab diidmo ma jiro" ma aha "xeerar ma jiraan." Shannon Lab LLC waxay ku shaqaysaa hoos yimaada Siyaasad Isticmaal Mas'uul ah iyo sharciga Mareykanka ee khuseeya. Ka saaridda kala-soociye waxay xukunka kuu wareejinaysaa, mana tirtirayso. Haddii aad tan wax ku dhisayso, akhri siyaasadda ka hor intaadan ballaadhin.

09Sida loo bilaabo

Isla base URL, isla fure, saddex lahjadood. Haddii koodhkaagu hore u waco OpenAI, Anthropic, ama API-ga Responses, beddelidda xadhigga moodalka badiyaa waa guuritaanka oo dhan.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Tixraaca parameter-ka oo dhammaystiran, qaababka /v1/messages iyo /v1/responses, qaababka dhacdooyinka streaming-ka, iyo goob ciyaareed toos ah waxay ku jiraan dukumentiga API-ga. Hagayaasha moodalka ee kow iyo tobanka moodal ee kale waxay ku jiraan Cilmi-baarista Shannon.

Daahfurnaan naqshadeed

Tiro kasta oo aasaas iyo hab ah oo kor ku xusan waxay ka timid il aasaasi ah oo dadweyne. Waxba halkan kuma jiraan cabbir-tijaabo Shannon cabbiray, sidaasna uma soo bandhigayno — hubi kuwa asalka ah.

Tirooyinka aasaasku waa tirooyinka uu Thinking Machines Lab u daabacay xaqiijiyaha Inkling ee aan la quantize gareyn waxayna sharraxayaan xadka qoyska, ee ma aha dhismahayaga la quantize gareeyay. Qiimayaasha iyo calaamadaha awoodda waa qiimayaal liis oo Albaabka Shannon AI ah oo hadda jira Sebtembar 2026.

10Su'aalaha inta badan la iswaydiiyo

Waa maxay API-ga moodalka Inkling ee aan la faaruqin?

Waa geynta Shannon AI ee Inkling, oo ah MoE miisaanno furan ah oo 975B parameter leh oo Thinking Machines Lab ay siideeyeen 15 Luuliyo 2026. Waxaan u bixinnaa inkling-W4A16-AUTOROUND-REAP isagoo leh context 262,144 token ah, gelin sawir, wicitaan qalab, iyo xakamaynta dadaalka fikirka, oo ku shaqeeya kooxdeenna GPU-yada u gaarka ah, isagoo aan lahayn lakab diidmo iyo shaandhayn wax-soo-saar midna.

Inkling ma taageeraa gelinta sawirka API-ga Shannon?

Haa — waa mid ka mid ah afar moodal oo sawir-akhris leh oo kataloogga ku jira. Dir qayb nuxur image_url ah /v1/chat/completions, ama baloog image ah /v1/messages. Iyadoo aan lakab diidmo jirin, wuxuu sharraxaa waxa sawirka ku jira halkii uu qaybta ku diidi lahaa.

Inkling ma taageeraa wax-soo-saarka qaabaysan ee json_schema?

Maya. response_format wuu u shaqeeyaa qaabka walaxda JSON; json_schema oo naxwe lagu adkeeyay ma shaqeeyo. Isticmaal Kimi-K2.6 ama MiMo-V2.5 haddii aad u baahan tahay, ama Inkling ku isticmaal qeexid qalab oo la khasbay inay schema-daadu noqoto oo dhinacaaga ku xaqiiji.

Maxay W4A16-AUTOROUND-REAP ka dhigan tahay?

Miisaanno 4-bit ah oo leh firfircoonaansho 16-bit ah; AutoRound (Intel) oo barta wareejinta iyo goynta iyadoo la adeegsanayo hoos-u-dhaca miilka calaamadaysan halkii lagu wareejin lahaa qiimaha ugu dhow; iyo REAP (Cerebras) oo hal mar jara khubarada MoE ee muhiimadda hooseeya oo lagu dhibcaynayo qiimayaasha albaabka router-ka iyo cabbirrada firfircoonaanshaha.

Intee ayuu ku kacayaa, heersarahana ma mudan yahay?

$1.42 gudaha / $6.07 dibadda milyan token kasta — qiyaastii 3× heerkayaga sagxadda iyo qiyaastii saddex-meelood meel calanka Kimi-K3. Wuu mudan yahay fikirka shaxanka, wakiillada sawir-shaashadeedka, iyo dukumentiyada jaantus badan leh. Ma mudna qoraal caadi ah ama soo-saarid schema oo mug badan.

Waa maxay daaqadda context-ka?

262,144 token oo gelin ah iyo 16,384 token oo wax-soo-saar ah codsi kasta, oo isku mid ah laba iyo tobanka moodal oo dhan. Aasaaska kore wuxuu diiwaan geliyaa 1,048,576 token; annagu waxaan bixinnaa qayb 262K ah si dhaqanka context-ku waligiis uusan u noqon xaalad gaar ah moodal-kasta.

Isku day API-ga Inkling ee aan la faaruqin

Sawir-akhris, context 262K, saddex lahjadood oo API ah, lakab diidmo ma jiro.

Akhri Dukumentiga API-ga Fiiri Dhammaan Hagayaasha Moodallada

Shannon Lab LLC · New Mexico, Mareykanka · waxaa lagu maamulaa Siyaasaddayada Isticmaalka Mas'uulka ah


Ilaha: Thinking Machines Lab — Soo bandhigidda Inkling · Hugging Face — Ku soo dhawoow Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — qoraallada qaab-dhismeedka iyo cabbir-tijaabada Inkling. Cabbir-tijaabooyinka aasaasku waa kuwo shaybaarku ka soo sheegay xaqiijiyaha aan la quantize gareyn.

Dhammaan research links