API ya Modela Inkling a Bê Sansûr
Avakirineke bê sansûr û bi kapasîteya dîtinê ya bingehê Mixture-of-Experts yê Inkling ê 975B yê Thinking Machines — contexta 262K, têketina wêneyan, tu tebeqeya redkirinê.
TL;DR
inkling-W4A16-AUTOROUND-REAP berdana me ya Inkling e, MoEya 975B-parametreyî ya bi giraniyên vekirî ku Thinking Machines Lab di 15ê Tîrmeha 2026 de berda. Ew bi kapasîteya dîtinê ye, bangkirina amûran û kontrola hewldana ramanê dike, û bi tu tebeqeya redkirinê û tu fîltrekirina derketinê li ser koma GPU ya me bi xwe dixebite. Context 262,144 token e, derketin heta 16,384. Biha $1.42 têketin / $6.07 derketin ji bo her mîlyon tokenan e — navîn-premium, li jorî asta me ya erdê ya $0.50 û baş li jêrî Kimi-K3 ya sereke. Hişyariyek ku divê tu li gorî wê plan bikî: ew piştgiriya response_format dike lê ne ya json_schema.
Piraniya diwazdeh modelên li ser dergehê me tenê nivîs in. Çar ne wisa ne, û di nav wan çaran de Inkling cihekî taybet digire: ew modela dîtinê ye ku tu destê xwe dirêjî wê dikî gava wêne beşa dijwar a pirsgirêkê be lê budce nagihîje modeleke sereke. Ev kart digire ka bingeh ji ku tê, paşgira W4A16-AUTOROUND-REAP çi pê kir, ew li rûyê API çi dike û çi nake, û — bi dilsozî — kengî modeleke erzantir a di heman katalogê de bijartina çêtir e.
01Inkling çi ye, û kê ew ava kir?
Inkling modela yekem a bi giraniyên vekirî ye ji Thinking Machines Lab, ku di 15ê Tîrmeha 2026 de hat weşandin. Berevajî piraniya berdanên ku wek «vekirî» tên danîn, ew bi giraniyên tam ên daxistbar li ser Hugging Face û bi piştgiriya roja-sifir a di transformers, SGLang, vLLM û llama.cpp de hat şandin — ku ev e sedema ku ew bi giştî li ser binesaziyeke wek ya me meşandbar bû. Jimarên sernavê, ji materyalên berdanê yên Thinking Machines bi xwe:
Ev avahiyeke Mixture-of-Experts a seyrek e: 66 tebeqeyên dekoderê li mezinahiya veşartî ya 6,144, du yên yekem dagirtî, 64 yên mayî 256 pisporên rêkirî plus 2 pisporên hevpar hildigirin, bi 6 pisporên rêkirî yên aktîv ji bo her tokenekê. Bi qasî 4% ya parametreyan li ser her tokenekê dişewitin — ku ev e ya ku modeleke nêzî trîlyon-parametreyî bi giştî xizmetkirî dike.
Du bijartinên mîmarî têra xwe ne asayî ne ku bên binavkirin. Bal li hev hûnandî ye — 55 tebeqeyên bala bi pencereya şemitok li ser pencereyeke 512-tokenî li hember 11 tebeqeyên giştî, di şablonekî dubarebûyî yê 5:1 de. Û Inkling RoPE bikar nayne: ew alîgiriyeke pozîsyona nisbî ya fêrbûyî û bi têketinê ve girêdayî bikar tîne, ligel konvolusyonên sedemî yên kurt li ser projeksiyonên bişkoj/nirxê û şaxên residual. Notên mîmariyê yên Sebastian Raschka her duyan wek dûrketinên rastîn ji recipeya standard a 2026an nîşan dikin. Perwerdehiyê Muon ji bo parametreyên matrîsên mezin û Adam ji bo mayînê bikar anî, paşê zêdetirî 30 mîlyon rolloutên RLê yên asenkron di piştî-perwerdehiyê de.
Xala girîng ji bo bikarhênerekî API ne ev agahiyên hûr in. Ew e ku ev bingehekê bi pîvana sînor û bi awayekî niştecih pir-modalî ye ku li ser 45 trîlyon tokenên ku nivîs, wêne, deng û vîdyoyê digirin hatiye perwerdekirin — ne modeleke nivîsê ku paşê adapterekî dîtinê pê ve hatiye zeliqandin. Wêne wek perçeyên 40×40 pîkselî bi rêya patchifierekî MLP yê hiyerarşîk ê çar-tebeqeyî tên kodkirin û bi nivîsê re di heman dekoderê de bi hev re tên pêvajokirin. Têgihiştina dîtbarî di armanca pêş-perwerdehiyê de bû.
02W4A16-AUTOROUND-REAP çi tê wateyê?
Sê teknîkên cuda di wê paşgirê de li hev hatine kom kirin, û ew karên cuda dikin. Hêjayî fêmkirinê ne, ji ber ku paşgir cudahiya herî mezin a yekane ye di navbera wê modela ku tu li ser API ya me bang dikî û wî checkpointê ku Thinking Machines weşand.
REAP — birrîna wan pisporan ku kes bo wan narê
REAP Router-weighted Expert Activation Pruning e, ji Cerebras Research (arXiv 2510.13999, ji bo ICLR 2026 hatiye qebûlkirin). Di MoEyekê de bi 256 pisporan ji bo her tebeqeyekê router karî bi awayekî wekhev dabeş nake: hin pispor bi berdewamî tên lêdan, yên din kêm dişewitin û gava dişewitin jî kêm beşdar dibin. REAP her pisporekî hem li ser nirxên dergehê routerê hem li ser normên aktîvasyona pisporî dinirxîne — pisporekî ku pir tê hilbijartin lê nûkirinên bi mezinahiya biçûk beşdar dike ji ya ku hejmara hilbijartina wî îma dike kêmtir girîng e — û yên bi berbiçavbûna nizm bi gavekê, berî quantizasyonê, davêje.
Sedema ku em birrînê bikar tînin ne tevlihevkirina pisporan a modatir ev e ku her du li gorî cureyê karî ji hev cuda dibin. Tevlihevkirin li ser benchmarkên cudakar hevrik xuya dike û li ser yên çêker perçe dibe. Nivîskarên REAP ragihînin ku birrîn kalîteyê tam li ser wan karan ku mirov ji bo wan API dikirin çêtir diparêze — sentezkirina kodê, bangkirina amûran, ramîna pir-dorî — li rêjeyên pêçandinê yên ji 50% wêdetir, li seranserê modelên ji 20B heta 1T parametreyan. Tevlihevkirin pisporbûna routerê hilweşîne; birrîn wan pisporên ku dimînin û rêkirina di navbera wan de sax dihêle.
AutoRound — fêrbûna wê ku li ku were gilorkirin
AutoRound rêbaza quantizasyona piştî-perwerdehiyê ya Intelê ye (arXiv 2309.05516, wek SignRound hatiye weşandin). Quantizasyona sade her giraniyekê bo nirxa 4-bit a nûnerî ya herî nêzîk gilor dike — vebijarkeke standard a maqûl û li pîvanê yeke xerab, ji ber ku çewtiyên gilorkirinê ne serbixwe ne û di stûneke 66-tebeqeyî de kom dibin. AutoRound biryara gilorkirinê wek tiştekî ku divê were optîmîze kirin dihesibîne: daketina gradyana bi îmze aliyê gilorkirinê û rêzikên birrîna giraniyan bi hev re li ser çend sed gavan eyar dike, û rasttiya perwerdehiya ji quantizasyonê haydar bêyî ji nû ve perwerdekirinê deyn digire. Intel qezencên herî mezin li mîhengên bit-nizm ên tund û serketineke hevrik li INT4 ragihîne.
W4A16 — bit li ku diçin
W4A16 formata hejmarî ye: giraniyên 4-bit, aktîvasyonên 16-bit. Giranî — ku di modeleke 975B de bîrê serdest dikin — bo bi qasî çaryeka şopeke BF16 biçûk dibin, dema ku aritmetîk li 16 bitan dimîne. Ew dabeşkirin bi taybetî ji bo modeleke dîtinê girîng e: şemayên bi aktîvasyonên quantizekirî tam wî karê hejmarî yê hûrgilî xerab dikin ku têgihiştina wêneyan pê ve girêdayî ye — xwendina etîketeke tewangê ya biçûk, çareserkirina xêzeke zirav di diagramekê de, veqetandina du siyên nêzî hev. Hiştina aktîvasyonan li 16 bitan firehiya bendê lêçûnek e û rasttiyê li cihê ku karekî dîtinê hîs dike vedigerîne.
Kom kirî, her sê modeleke didin ku cih digire û bilez dimîne bêyî wê zinara kalîteyê ya asta tund a 3BIT-REAP ku em li ser bingehên herî mezin bikar tînin. Ev ew bazar e ku biha wê nîşan dide.
03Dîtin: API yeke analîza wêneyan a bê redkirin
Inkling yek ji çar modelên bi kapasîteya dîtinê yên di katalogê me de ye, ligel Kimi-K3, Kimi-K2.6, û MiniMax-M3. Encamên dîtinê yên weşandî yên modela bingehîn, ji berdana Thinking Machines, 73.3% li ser MMMU Pro (Standard 10) û 78.1% li ser pirsên ramanê yên CharXiv in — ku bo 82.0% bilind dibin gava destûra modelê tê dayîn ku Pythonê li hember grafîkê bimeşîne. Ev jimarên laboratûwarê bi xwe ne ji bo checkpointê nequantizekirî; wan wek tavana malbatê bihesibîne, ne wek pîvandineke avakirina me.
CharXiv ya hêjayî sekinandinê ye, ji ber ku ew li ser wê tê nexşandin ka çima mirov API yeke dîtinê dikirin ne xizmeteke OCRê. Ew ramînê li ser grafîkên zanistî test dike — xwendina nirxekê ji tewangekê, berawirdkirina du rêzikan, dîtina wê ku meylek berevajî dibe. Ne «çi nivîs di vî wêneyî de heye» lê «ev şekil çi îdia dike, û ma îdia xwe digire». Ev tişt e ku şandina wêneyekî bo modeleke ramanê ya 975B li şûna kaptionerekî biçûk rewa dike.
Şandina wêneyekî karekî asayî yê bi OpenAI re lihevhatî ye — beşeke naverokê ya image_url li ser /v1/chat/completions, blokeke image ya bi şeklê Anthropic li ser /v1/messages, an hevbera wê li ser /v1/responses. Her sê zarava heman giraniyan digirin û her sê stream dikin; kîjan SDKya te jixwe diaxive hilbijêre. Nimûneyeke hesabkirî di beşa 09 de ye.
Beşa bê sansûr ji bo dîtinê ji nivîsê bêtir girîng e. Tebeqeyeke redkirinê li ser endpointekî dîtinê bi awayekî ne asayî kor e, ji ber ku ew bi gelemperî wêneyê berî ku model li ser daxwazê hizir bike klasîfîye dike. Karê meşrû bi berdewamî tê girtin: wêneyekî birînê di lûleyeke notên klînîkî de, screenshotekî adlî di nivîsa bûyerekê de, çarçoveyek ji fîlmekî ku ji bo nivîseke rexneyê tê analîzkirin, skeneke bijîşkî, wêneyekî belgeyekê ku tê de navek heye. Inkling li ser dergehê me tu klasîfîkerekî wisa li ber xwe nîne. Ew li tiştê ku te şandiye dinêre û bersiva wê pirsê dide ku te kiriye. Ev berhem e.
04Derketina strukturkirî: response_format erê, json_schema na
Ev cihê tenê ye ku Inkling ji piraniya katalogê kêmtir bikapasîte ye, û çêtir e tu ji bo wê plan bikî ne ku wê di hilberînê de kifş bikî.
| Kapasîte | inkling | Kimi-K2.6 | MiMo-V2.5 | Laguna-S-2.1 |
|---|---|---|---|---|
| Dîtin (têketina wêneyan) | Erê | Erê | Erê | Na |
response_format | Erê | Erê | Erê | Na |
json_schema | Na | Erê | Erê | Na |
| Bangkirina amûran | Erê | Erê | Erê | Erê |
| Hewldana ramanê | Erê | Erê | Erê | Erê |
response_format: {"type": "json_object"} dixebite — tu JSONa ji aliyê hevoksaziyê ve rast werdigirî. Tiştê ku tu werdigirî ne dekodkirina bi rêzimanê sînordar li hember şemayeke ku tu didî ye, ku tê de sampler bi awayekî fizîkî tê astengkirin ku tokenekê derxîne ku strukturên te binpê dike. Navên qadan, endamtiya enumê, û hebûna bişkojên pêwîst bijartina modelê ne, ne garantiyek.
Sê riyên jiyîna bi wê re, li gorî rêza pêbaweriya wan a hilkişandî:
- Şemayê bi promptê bide û verîfîye bike. Şemayê wek JSONa wek xwe di prompta pergalê de deyne,
response_formatlijson_objectsaz bike, û bersivê li aliyê xwe verîfîye bike. Li ser têkçûna verîfîkasyonê bi peyama çewtiyê ya verîfîkerî ve girêdayî dîsa biceribîne. Erzan e, dixebite, budceyeke dubarekirinê hewce dike. - Pênaseyeke amûrekê wek şemayê bikar bîne. Bangkirina amûran tê piştgirî kirin, û pênaseya parametreyên fonksiyonekê Şemayeke JSON e. Amûrekê yekane ku bi navê wê derxistinê ye ku tu dixwazî ragihîne, wê ferz bike, û argumanan bixwîne. Ev bi gelemperî vebijarka herî bihêz e li ser Inkling û ji te re tu tiştekî zêde lêçûnek nîne.
- Karî li ser du modelan dabeş bike. Bila Inkling dîtin û ramînê wek nivîsê bike, paşê wê nivîsê bide
MiMo-V2.5-W8A16bi $0.50 / $2.00 bijson_schemayeke rastîn ji bo derbasa strukturkirinê. Du bang, lê ya duyem erzan e, ji aliyê şeklî ve determînîstîk e, û ew modela ku divê jîr be ew e ku wêne dîtiye.
Vebijarka 3 ew şablon e ku em ê ji bo her lûleyeke derxistinê ya bi hejmara mezin pêşniyar bikin. Premiumê tenê ji bo wê gavê bide ku wê hewce dike.
05Premiuma bihayê çi dikire?
Bi $1.42 têketin / $6.07 derketin ji bo her mîlyon tokenan, Inkling bi mebest di navenda katalogê me de rûdine. Şeş ji diwazdeh modelan li erdê $0.50 / $2.00 ne. Kimi-K3 — ya sereke, ku ew jî bi kapasîteya dîtinê ye — $3.83 / $19.12 e. Inkling li ser derketinê bi qasî sê caran erdê ye û bi qasî sêyeka ya sereke ye.
Bihayê derketinê, USD ji bo her 1M tokenan, rêjeyên lîsteyê yên Dergehê Shannon AI, Îlona 2026. Firehiya darikê li gorî bihayê ye; dirêjtir bihatir e.
Li vir e xwendina dilsoz a wê ka ew premium li ku xwe rewa dike — û li ku nake.
| Kar | Inkling bikar bînim? | Çima |
|---|---|---|
| Ramîna grafîk / diagraman | Erê | Jimarên weşandî yên CharXiv û MMMU Pro ew tişt in ku ev bingeh tê de herî bihêz e. |
| Ajanên ku bi screenshotan dimeşin | Erê | Dîtin plus bangkirina amûran plus 262K dîrok di yek modelê de, tu radestkirin. |
| Belgeyên dirêj bi şeklan | Erê | Nivîs û wêne yek dekoder û yek pencereya contextê parve dikin. |
| Çêkirina nivîsa sade | Na | Şeş model li $0.50 / $2.00 vê dikin. Tu ji bo riyeke dîtinê ku tu carî bang nakî pere didî. |
| Derxistina şemayê ya komî | Na | Tu json_schema tune. MiMo-V2.5 erzantir û sînordar e. |
| Tavana sînor a mutleq | Na | Kimi-K3 ya sereke ye. Heke tavan asteng be 3.1× bide. |
| Dîtina herî erzan a mimkun | Na | MiniMax-M3 dîtinê li $0.50 / $2.00 heye. Li wir dest pê bike, heke kalîte te mecbûr bike bilind bibe. |
Wê wek qaîdeyeke rêkirinê bixwîne, ne wek rêzkirinekê. Inkling ji bo bendeke karî ya tengtir ji ya ku rûpeleke reklamê îdia bikira rast e, û di nav wê bendê de bi bihayê xwe dijwar e ku were têkbirin. Li derveyî wê, em tercîh dikin ku modela erzantir bi te bifiroşin û te bihêlin.
json_schema — sekna yekem a xwezayî berî ku tu bilind bibî. Ji bo wê ka her du di pratîkê de çawa cuda ne li karta modelê ya MiniMax-M3 ya bê sansûr binêre.
06Pencereya contextê ya 262K, û bi rastî çi tê de cih digire
Hemû diwazdeh modelên li ser dergehê bi contexteke têketinê ya 262,144-tokenî û derketineke herî zêde ya 16,384-tokenî ji bo her daxwazekê tên xizmet kirin. Bi mebest yekgirtî ne: divê birêvebirina contextê tu carî di koda te de nebe şaxekî her-modelî, û guhertina inkling bi MiniMax-M3 di fîleyeke konfigurasyonê de divê bi bêdengî neguherîne ka çi tê de cih digire.
Bala xwe bide valahiya li hember bingehê weşandî: Thinking Machines Inkling li 1,048,576 tokenan belge dike, û em perçeyekî 262K yê wê xizmet dikin. Heke karekî te yê rastîn ê mîlyon-tokenî yê daxwazeke yekane hebe, em ne endpointê wê ne, û çêtir e tu berî ku ava bikî zanibî.
Ji bo pîvanê li 262K: PDFeke teknîkî ya 400-rûpelî bi şeklên xwe, kodbaseyeke navîn, çend saetên transkrîptê, an danişîneke ajanî ya dirêj ku dehan encamên amûran û çend screenshotan hildigire — her yek di yek daxwazekê de cih digire. Li ser modeleke dîtinê, bîr bîne ku wêne jî contextê xerc dikin; screenshotekî dagirtî belaş nîne, û danişîneke ku çarçoveyan stream dike pencereyê ji yeke tenê-nivîsî zûtir tijî dike. Mîmarî ji bo vê baş guncaw e: şablona 5:1 ya pencereya şemitok bo giştî tê wateya ku piraniya tebeqeyan di taxeke 512-tokenî de bal didin, bi tebeqeyên giştî yên ku bi dorê strukturên dûr-mesafe ji nû ve dikişînin hundir.
07Hewldana ramanê: dayîna pereyê ji bo hizirkirinê tenê gava tu wê hewce dikî
Inkling hewldana ramanê ya kontrolkirbar eşkere dike — yek ji derenceyên herî bikêrhatî yên di katalogê de. Modela jorîn astan ji none û minimal derbasî low, medium, high, xhigh, heta max qebûl dike, ku li ser her sê zaravayan bi rêya parametreya standard a reasoning_effort tê nîşandan.
{
"model": "inkling-W4A16-AUTOROUND-REAP",
"reasoning_effort": "low",
"messages": [ ... ]
}Ev derenceyeke lêçûnê ya bi diran e, ji ber ku tokenên ramanê wek tokenên derketinê bi $6.07 ji bo her mîlyonê tên fatûre kirin. Thinking Machines ragihîne ku li ser Terminal Bench 2.1 Inkling digihîje nirxên berawird bi Nemotron 3 Ultra re bi qasî sêyeka tokenan — bandewahiya tokenan armanceke sêwiranê ya diyarkirî ya pergala hewldanê ye, ne tesadufek.
Di pratîkê de: low an minimal ji bo kaptionkirin, klasîfîkasyon, û derxistina sade bimeşîne, li cihê ku bersiv di wêneyî de ye û tu zincîra encamgirtinê hewce nîne. high û jorî wê ji bo ramîna grafîkan, berawirdkirina dîtbarî ya pir-gavî, û dorên ajanî yên ku tê de gaveke navber a xelet biha ye vebigire. Piraniya tîman qet parametreyê saz nakin, û cudahiyeke lêçûna derketinê ya çend-carî li ser masê dihêlin.
08«Bê sansûr» li vir çi tê wateyê — û çi nayê wateyê
Bi awayekî berbiçav: em vê modelê bi tu tebeqeya redkirinê û tu fîltrekirin li ser derketinê dimeşînin. Tu klasîfîker prompta te naxwîne û biryar nade ka model dikare bersivê bide, û tu yek bersivê berî ku stream bibe naxwîne. Gava model ne bawer e an zanîn tune, ew wisa dibêje — ew model e, ne polîtîkayek. Tiştê ku tu werdigirî ne redkirineke refleksî ye li ser mijarekê ku berhemeke ji bo temaşevanê giştî wê wek qedexe dihesibîne.
Ji bo dîtinê ev temamê pêşniyara nirxê ye. Klasîfîkerên wêneyan ên li ber API yên dîtinê ne rast in, û rêjeya pozîtîfên xelet herî giran li ser wî karê profesyonel dikeve ku herî zêde kapasîteyê hewce dike: lêkolîna ewlehiyê, contextên klînîkî, rojnamegerî û adlî, rexneya fîlm û hunerê, amûrên moderasyonê ku divê li wî tiştî binêrin ku moderasyon dikin. Endpointekî ku li ser kategoriyê red dike nikare bi pêbawerî xizmeta tu yekê ji van bike.
Du hişyariyên dilsoz. Ya yekem, Thinking Machines nirxandinên ewlehiyê ji bo berdana xwe ya referansê diweşîne — 78.0% li ser FORTRESS ya dijberî, 95.9% li ser FORTRESS ya bêziyan, 98.6% li ser StrongREJECT. Ew jimar stûna wan bi çeperên wan ên li cihê xwe şirove dikin. Ew ya me şirove nakin, û em ê wan wek ku wisa bikira binav nekin. Me ew tebeqe rakir ku ew jimar bi beşekî wê dipîvin; ev berhem e, û berpirsiyarî.
Ya duyem, «tu tebeqeya redkirinê» ne «tu qaîde» ye. Shannon Lab LLC di bin Polîtîkayeke Bikaranîna Berpirsiyar û qanûna DYA ya têkildar de dixebite. Rakirina klasîfîkerekî dîtinê davêje ser te, ew wê jê nabe. Heke tu li ser vê ava dikî, berî ku pîvan bikî polîtîkayê bixwîne.
09Dest pê kirin
Heman URLa bingehîn, heman bişkoj, sê zarava. Heke koda te jixwe bang li OpenAI, Anthropic, an API ya Responses dike, guhertina rêza modelê bi gelemperî temamê koçberiyê ye.
from openai import OpenAI
client = OpenAI(
base_url="https://api.shannon-ai.com/v1",
api_key=SHANNON_API_KEY,
)
stream = client.chat.completions.create(
model="inkling-W4A16-AUTOROUND-REAP",
messages=[{"role": "user", "content": [
{"type": "text", "text": "What does this figure actually show?"},
{"type": "image_url", "image_url": {"url": image_data_url}},
]}],
reasoning_effort="high",
max_tokens=4000,
stream=True,
)
for chunk in stream:
delta = chunk.choices[0].delta.content
if delta:
print(delta, end="")Referansa parametreyan a tam, şeklên /v1/messages û /v1/responses, formatên bûyerên streamingê, û playgroundeke zindî di belgekirina API de ne. Kartên modelan ji bo yanzdeh modelên din di Lêkolîna Shannon de ne.
Her jimareke bingehê û rêbazê ya jorîn ji çavkaniyeke seretayî ya giştî tê. Tiştek li vir benchmarkeke ku Shannon pîvandiye nîne, û em wê wek yekê pêşkêş nakin — orîjînalan kontrol bike.
Jimarên bingehê jimarên weşandî yên Thinking Machines Lab in ji bo checkpointê Inkling ê nequantizekirî û tavana malbatê şirove dikin, ne avakirina me ya quantizekirî. Biha û alayên kapasîteyê nirxên lîsteyê yên Dergehê Shannon AI ne heta Îlona 2026.
10Pirsên ku pir tên kirin
API ya modela Inkling a bê sansûr çi ye?
Berdana Shannon AI ya Inkling, MoEya 975B-parametreyî ya bi giraniyên vekirî ku Thinking Machines Lab di 15ê Tîrmeha 2026 de berda. Em wê wek inkling-W4A16-AUTOROUND-REAP bi contexteke 262,144-tokenî, têketina wêneyan, bangkirina amûran, û kontrola hewldana ramanê, li ser koma GPU ya me bi xwe, bêyî tebeqeyeke redkirinê û bêyî fîltrekirina derketinê xizmet dikin.
Ma Inkling li ser API ya Shannon piştgiriya têketina wêneyan dike?
Erê — yek ji çar modelên bi kapasîteya dîtinê yên di katalogê de. Beşeke naverokê ya image_url li ser /v1/chat/completions bişîne, an blokeke image li ser /v1/messages. Bi tu tebeqeya redkirinê, ew tiştê ku di çarçoveyê de heye şirove dike li şûna ku li ser kategoriyê red bike.
Ma Inkling piştgiriya derketina strukturkirî ya json_schema dike?
Na. response_format ji bo awayê objeya JSON dixebite; json_schema ya bi rêzimanê ferzkirî naxebite. Heke tu wê hewce dikî Kimi-K2.6 an MiMo-V2.5 bikar bîne, an li ser Inkling pênaseyeke amûrekê ya ferzkirî wek şemaya xwe bikar bîne û li aliyê xwe verîfîye bike.
W4A16-AUTOROUND-REAP çi tê wateyê?
Giraniyên 4-bit bi aktîvasyonên 16-bit; AutoRound (Intel) ku gilorkirin û birrînê bi daketina gradyana bi îmze fêr dibe li şûna gilorkirina ber bi ya nêzîk; û REAP (Cerebras) ku birrîna yek-gavî ya pisporên MoE yên bi berbiçavbûna nizm dike ku li ser nirxên dergehê routerê û normên aktîvasyonê hatine nirxandin.
Ew çiqas dike, û ma premium hêjayî ye?
$1.42 têketin / $6.07 derketin ji bo her mîlyon tokenan — bi qasî 3× asta me ya erdê û bi qasî sêyeka Kimi-K3 ya sereke. Ji bo ramîna grafîkan, ajanên screenshotan, û belgeyên bi şeklên gelek hêjayî ye. Ji bo nivîsa sade an derxistina şemayê ya komî ne hêjayî ye.
Pencereya contextê çi ye?
262,144 tokenên têketinê û 16,384 tokenên derketinê ji bo her daxwazekê, li seranserê hemû diwazdeh modelan wekhev. Bingehê jorîn 1,048,576 tokenan belge dike; em perçeyekî 262K xizmet dikin da ku tevgera contextê tu carî nebe dozeke taybet a her-modelî.
API ya Inkling a bê sansûr biceribîne
Dîtin, contexta 262K, sê zaravayên API, tu tebeqeya redkirinê.
Belgekirina API Bixwîne Li Hemû Kartên Modelan BigereShannon Lab LLC · New Mexico, DYA · di bin Polîtîkaya Bikaranîna Berpirsiyar a me de tê xebitandin
Çavkanî: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — notên mîmarî û benchmarkê yên Inkling. Benchmarkên bingehê ji aliyê laboratûwarê ve ji bo checkpointê nequantizekirî hatine ragihandin.