സെൻസർ ചെയ്യാത്ത Inkling മോഡൽ API

ഞങ്ങളുടെ ഗേറ്റ്‌വേയിലെ പന്ത്രണ്ട് മോഡലുകളിൽ മിക്കതും ടെക്സ്റ്റ്-മാത്രമാണ്. നാലെണ്ണം അല്ല, ആ നാലിൽ Inkling ഒരു പ്രത്യേക സ്ഥാനം വഹിക്കുന്നു: ചിത്രമാണ് പ്രശ്നത്തിന്റെ കടുപ്പമുള്ള ഭാഗം, പക്ഷേ ബജറ്റ് ഒരു മുൻനിര മോഡലിലേക്ക് നീണ്ടുപോകുന്നില്ല എന്നപ്പോൾ നിങ്ങൾ എത്തിപ്പിടിക്കുന്ന വിഷൻ മോഡൽ. ഈ കാർഡ് അടിത്തറ എവിടെ നിന്ന് വരുന്നു, W4A16-AUTOROUND-REAP ഉപസർഗ്ഗം അതിനോട് എന്ത് ചെയ്തു, API ഉപരിതലത്തിൽ അത് ചെയ്യുന്നതും ചെയ്യാത്തതും, — സത്യസന്ധമായി — അതേ കാറ്റലോഗിലെ ഒരു വിലകുറഞ്ഞ മോഡൽ മെച്ചപ്പെട്ട തിരഞ്ഞെടുപ്പാകുന്നത് എപ്പോൾ എന്നിവ ഉൾക്കൊള്ളുന്നു.

01എന്താണ് Inkling, ആരാണ് അത് നിർമ്മിച്ചത്?

Thinking Machines Lab-ൽ നിന്നുള്ള ആദ്യത്തെ ഓപ്പൺ-വെയ്റ്റ്സ് മോഡലാണ് Inkling, 2026 ജൂലൈ 15-ന് പ്രസിദ്ധീകരിച്ചത്. "ഓപ്പൺ" എന്ന് സ്ഥാനപ്പെടുത്തിയ മിക്ക റിലീസുകളിൽ നിന്നും വ്യത്യസ്തമായി, Hugging Face-ൽ പൂർണ്ണമായി ഡൗൺലോഡ് ചെയ്യാവുന്ന വെയ്റ്റുകളോടെയും transformers, SGLang, vLLM, llama.cpp എന്നിവയിൽ ദിവസം-പൂജ്യം പിന്തുണയോടെയും ഇത് അയച്ചു — ഞങ്ങളുടേത് പോലെയുള്ള ഇൻഫ്രാസ്ട്രക്ചറിൽ അത് ഓടിക്കാൻ കഴിയുന്നത് അതുകൊണ്ടാണ്. Thinking Machines-ന്റെ സ്വന്തം റിലീസ് വസ്തുക്കളിൽ നിന്നുള്ള ഹെഡ്‌ലൈൻ സംഖ്യകൾ:

അതൊരു സ്പാഴ്സ് Mixture-of-Experts ലേഔട്ടാണ്: 6,144 ഹിഡൻ വലുപ്പത്തിൽ 66 ഡീകോഡർ ലെയറുകൾ, ആദ്യ രണ്ടെണ്ണം ഡെൻസ്, ബാക്കി 64 എണ്ണത്തിൽ 256 റൂട്ട് ചെയ്ത എക്സ്പെർട്ടുകളും 2 പങ്കിട്ട എക്സ്പെർട്ടുകളും, ടോക്കണിന് 6 റൂട്ട് ചെയ്ത എക്സ്പെർട്ടുകൾ സജീവം. ഏകദേശം 4% പാരാമീറ്ററുകൾ മാത്രമേ ഏതൊരു ടോക്കണിലും വെടിവയ്ക്കുന്നുള്ളൂ — ഏകദേശം ഒരു ട്രില്യൺ പാരാമീറ്ററുള്ള ഒരു മോഡൽ നൽകാൻ കഴിയുന്നത് അതുകൊണ്ടാണ്.

പേരിടേണ്ടത്ര അസാധാരണമായ രണ്ട് ആർക്കിടെക്ചർ തിരഞ്ഞെടുപ്പുകൾ. അറ്റൻഷൻ ഇടകലർത്തിയതാണ് — 512-ടോക്കൺ ജാലകത്തിൽ 55 സ്ലൈഡിംഗ്-വിൻഡോ അറ്റൻഷൻ ലെയറുകൾ 11 ഗ്ലോബൽ ലെയറുകൾക്കെതിരെ, 5:1 ആവർത്തിക്കുന്ന പാറ്റേണിൽ. Inkling RoPE ഉപയോഗിക്കുന്നില്ല: അതിന് പകരം കീ/വാല്യൂ പ്രൊജക്ഷനുകളിലും റെസിഡ്യുവൽ ബ്രാഞ്ചുകളിലും ഹ്രസ്വ കോസൽ കൺവല്യൂഷനുകൾക്കൊപ്പം, ഒരു പഠിച്ചെടുത്ത, ഇൻപുട്ട്-ആശ്രിതമായ ആപേക്ഷിക-സ്ഥാന ബയാസ് ഉപയോഗിക്കുന്നു. Sebastian Raschka-യുടെ ആർക്കിടെക്ചർ കുറിപ്പുകൾ രണ്ടിനെയും 2026-ലെ സ്റ്റാൻഡേർഡ് പാചകക്കുറിപ്പിൽ നിന്നുള്ള യഥാർത്ഥ വ്യതിചലനങ്ങളായി അടയാളപ്പെടുത്തുന്നു. വലിയ മാട്രിക്സ് പാരാമീറ്ററുകൾക്ക് Muon-ഉം ബാക്കിയുള്ളവയ്ക്ക് Adam-ഉം ഉപയോഗിച്ചാണ് പരിശീലനം, പിന്നെ പോസ്റ്റ്-ട്രെയിനിംഗിൽ 30 ദശലക്ഷത്തിലധികം അസിൻക്രണസ് RL റോൾഔട്ടുകൾ.

ഒരു API ഉപഭോക്താവിന് പ്രധാനപ്പെട്ടത് നിസ്സാര വിവരങ്ങളല്ല. ഇത് ടെക്സ്റ്റ്, ഇമേജുകൾ, ഓഡിയോ, വീഡിയോ എന്നിവയിലുടനീളമുള്ള 45 ട്രില്യൺ ടോക്കണുകളിൽ പരിശീലിപ്പിച്ച ഫ്രോണ്ടിയർ-സ്കെയിൽ, നേറ്റീവായി മൾട്ടിമോഡൽ അടിത്തറയാണ് — പിന്നീട് ഒട്ടിച്ചുവച്ച ഒരു വിഷൻ അഡാപ്റ്ററുള്ള ടെക്സ്റ്റ് മോഡലല്ല. നാല്-ലെയർ ശ്രേണീകൃത MLP പാച്ചിഫയർ വഴി 40×40 പിക്സൽ പാച്ചുകളായി ഇമേജുകൾ എൻകോഡ് ചെയ്യപ്പെടുകയും അതേ ഡീകോഡറിൽ ടെക്സ്റ്റിനൊപ്പം സംയുക്തമായി പ്രോസസ്സ് ചെയ്യപ്പെടുകയും ചെയ്യുന്നു. ദൃശ്യ ഗ്രഹണം പ്രീട്രെയിനിംഗ് ലക്ഷ്യത്തിൽത്തന്നെ ഉണ്ടായിരുന്നു.

02W4A16-AUTOROUND-REAP എന്നാൽ എന്താണ്?

ആ ഉപസർഗ്ഗത്തിൽ മൂന്ന് വ്യത്യസ്ത ടെക്നിക്കുകൾ അട്ടിവച്ചിരിക്കുന്നു, അവ വ്യത്യസ്ത ജോലികളാണ് ചെയ്യുന്നത്. മനസ്സിലാക്കേണ്ടത് പ്രധാനമാണ്, കാരണം നിങ്ങൾ ഞങ്ങളുടെ API-യിൽ വിളിക്കുന്ന മോഡലും Thinking Machines പ്രസിദ്ധീകരിച്ച ചെക്ക്‌പോയിന്റും തമ്മിലുള്ള ഏറ്റവും വലിയ വ്യത്യാസമാണ് ആ ഉപസർഗ്ഗം.

REAP — ആരും റൂട്ട് ചെയ്യാത്ത എക്സ്പെർട്ടുകളെ പ്രൂൺ ചെയ്യൽ

Cerebras Research-ൽ നിന്നുള്ള (arXiv 2510.13999, ICLR 2026-ൽ അംഗീകരിച്ചത്) Router-weighted Expert Activation Pruning ആണ് REAP. ഒരു ലെയറിന് 256 എക്സ്പെർട്ടുകളുള്ള ഒരു MoE-യിൽ റൂട്ടർ ജോലി തുല്യമായി വിതരണം ചെയ്യുന്നില്ല: ചില എക്സ്പെർട്ടുകൾ തുടർച്ചയായി അടിക്കപ്പെടുന്നു, മറ്റുള്ളവ അപൂർവ്വമായി വെടിവയ്ക്കുകയും അങ്ങനെ ചെയ്യുമ്പോൾ കുറച്ച് സംഭാവന ചെയ്യുകയും ചെയ്യുന്നു. റൂട്ടറിന്റെ ഗേറ്റ് മൂല്യങ്ങളും എക്സ്പെർട്ടിന്റെ ആക്ടിവേഷൻ നോമുകളും രണ്ടും ഉപയോഗിച്ച് REAP ഓരോ എക്സ്പെർട്ടിനെയും സ്കോർ ചെയ്യുന്നു — പലപ്പോഴും തിരഞ്ഞെടുക്കപ്പെടുന്നതും പക്ഷേ ചെറിയ-വ്യാപ്തി അപ്ഡേറ്റുകൾ സംഭാവന ചെയ്യുന്നതുമായ ഒരു എക്സ്പെർട്ട്, അതിന്റെ തിരഞ്ഞെടുപ്പ് എണ്ണം സൂചിപ്പിക്കുന്നതിനെക്കാൾ കുറച്ച് പ്രധാനമാണ് — ക്വാണ്ടൈസേഷന് മുമ്പ്, ഒറ്റ ഷോട്ടിൽ കുറഞ്ഞ-പ്രാധാന്യമുള്ളവയെ ഒഴിവാക്കുന്നു.

കൂടുതൽ ഫാഷനബിളായ എക്സ്പെർട്ട് ലയനത്തിന് പകരം പ്രൂണിംഗ് ഞങ്ങൾ ഉപയോഗിക്കുന്ന കാരണം, രണ്ടും ജോലി തരമനുസരിച്ച് വ്യതിചലിക്കുന്നു എന്നതാണ്. ലയനം വിവേചന ബെഞ്ച്മാർക്കുകളിൽ മത്സരക്ഷമമായി കാണപ്പെടുകയും ജനറേറ്റീവ് ബെഞ്ച്മാർക്കുകളിൽ തകർന്നുവീഴുകയും ചെയ്യുന്നു. കോഡ് സിന്തസിസ്, ടൂൾ കോളിംഗ്, ബഹുഘട്ട യുക്തിചിന്ത എന്നിങ്ങനെ ആളുകൾ ഒരു API വാങ്ങുന്ന കൃത്യമായ ജോലിഭാരങ്ങളിൽ, 50%-ത്തിനപ്പുറമുള്ള കംപ്രഷൻ അനുപാതങ്ങളിൽ, 20B മുതൽ 1T പാരാമീറ്റർ വരെയുള്ള മോഡലുകളിലുടനീളം, പ്രൂണിംഗ് ഗുണനിലവാരം മെച്ചമായി നിലനിർത്തുന്നു എന്ന് REAP-ന്റെ രചയിതാക്കൾ റിപ്പോർട്ട് ചെയ്യുന്നു. ലയനം റൂട്ടറിന്റെ സ്പെഷ്യലൈസേഷൻ നശിപ്പിക്കുന്നു; പ്രൂണിംഗ് അതിജീവിക്കുന്ന എക്സ്പെർട്ടുകളെയും അവയ്ക്കിടയിലുള്ള റൂട്ടിംഗിനെയും കേടില്ലാതെ വിടുന്നു.

AutoRound — എവിടെ റൗണ്ട് ചെയ്യണം എന്ന് പഠിക്കൽ

Intel-ന്റെ പോസ്റ്റ്-ട്രെയിനിംഗ് ക്വാണ്ടൈസേഷൻ രീതിയാണ് AutoRound (arXiv 2309.05516, SignRound ആയി പ്രസിദ്ധീകരിച്ചത്). നിഷ്കളങ്കമായ ക്വാണ്ടൈസേഷൻ ഓരോ വെയ്റ്റിനെയും ഏറ്റവും അടുത്ത പ്രതിനിധാന 4-ബിറ്റ് മൂല്യത്തിലേക്ക് റൗണ്ട് ചെയ്യുന്നു — ഒരു ന്യായമായ സ്ഥിരസ്ഥിതിയും വലിയ തോതിൽ മോശമായതും, കാരണം റൗണ്ടിംഗ് പിശകുകൾ സ്വതന്ത്രമല്ല, 66-ലെയർ അടുക്കിലുടനീളം ശേഖരിക്കപ്പെടുന്നു. AutoRound റൗണ്ടിംഗ് തീരുമാനത്തെ ഒപ്റ്റിമൈസ് ചെയ്യേണ്ട ഒന്നായി കാണുന്നു: സൈൻഡ് ഗ്രേഡിയന്റ് ഡിസെന്റ് റൗണ്ടിംഗ് ദിശയും വെയ്റ്റ് ക്ലിപ്പിംഗ് പരിധികളും ഒരു ഇരുനൂറോളം സ്റ്റെപ്പുകളിലുടനീളം സംയുക്തമായി ട്യൂൺ ചെയ്യുന്നു, പുനഃപരിശീലനമില്ലാതെ ക്വാണ്ടൈസേഷൻ-അവെയർ ട്രെയിനിംഗിന്റെ കൃത്യത കടം വാങ്ങുന്നു. അതിതീവ്ര ലോ-ബിറ്റ് ക്രമീകരണങ്ങളിലാണ് ഏറ്റവും വലിയ നേട്ടങ്ങളെന്നും INT4-ൽ ഒരു മത്സരാധിഷ്ഠിത നേട്ടമുണ്ടെന്നും Intel റിപ്പോർട്ട് ചെയ്യുന്നു.

W4A16 — ബിറ്റുകൾ എവിടെ പോകുന്നു

സംഖ്യാ ഫോർമാറ്റാണ് W4A16: 4-ബിറ്റ് വെയ്റ്റുകൾ, 16-ബിറ്റ് ആക്ടിവേഷനുകൾ. 975B മോഡലിൽ മെമ്മറിയിൽ ആധിപത്യം സ്ഥാപിക്കുന്ന വെയ്റ്റുകൾ ഒരു BF16 ഫുട്‌പ്രിന്റിന്റെ ഏകദേശം കാൽ ഭാഗമായി ചുരുങ്ങുന്നു, ഗണിതം 16 ബിറ്റിൽ തുടരുന്നു. ആ വിഭജനം ഒരു വിഷൻ മോഡലിന് പ്രത്യേകം പ്രധാനമാണ്: ആക്ടിവേഷൻ-ക്വാണ്ടൈസ് ചെയ്ത സ്കീമുകൾ ഇമേജ് ഗ്രഹണം ആശ്രയിക്കുന്ന സൂക്ഷ്മതല സംഖ്യാ ജോലിയെ കൃത്യമായി ബാധിക്കുന്നു — ഒരു ചെറിയ ആക്സിസ് ലേബൽ വായിക്കൽ, ഒരു ഡയഗ്രമിലെ ഒരു നേർത്ത വരി പരിഹരിക്കൽ, സമാനമായ രണ്ട് ഷേഡുകൾ വേർതിരിക്കൽ. ആക്ടിവേഷനുകൾ 16 ബിറ്റിൽ നിലനിർത്തുന്നത് ബാൻഡ്‌വിഡ്ത്ത് ചെലവഴിക്കുന്നു, ഒരു വിഷൻ ജോലിഭാരം ശ്രദ്ധിക്കുന്നിടത്ത് കൃത്യത തിരികെ വാങ്ങുന്നു.

അട്ടിവച്ചാൽ, ഏറ്റവും വലിയ അടിത്തറകളിൽ ഞങ്ങൾ ഉപയോഗിക്കുന്ന ആക്രമണോത്സുകമായ 3BIT-REAP തട്ടിന്റെ ഗുണനിലവാര കൊക്കയില്ലാതെ ഒതുങ്ങുകയും വേഗതയോടെ നിൽക്കുകയും ചെയ്യുന്ന ഒരു മോഡൽ ഈ മൂന്നും നൽകുന്നു. അതാണ് വില പ്രതിഫലിപ്പിക്കുന്ന വ്യാപാരം.

03വിഷൻ: നിരസനമില്ലാത്ത ഒരു ഇമേജ് വിശകലന API

Kimi-K3, Kimi-K2.6, MiniMax-M3 എന്നിവയ്ക്കൊപ്പം ഞങ്ങളുടെ കാറ്റലോഗിലെ വിഷൻ ശേഷിയുള്ള നാല് മോഡലുകളിൽ ഒന്നാണ് Inkling. Thinking Machines-ന്റെ റിലീസിൽ നിന്നുള്ള ബേസ് മോഡലിന്റെ പ്രസിദ്ധീകരിച്ച വിഷൻ ഫലങ്ങൾ MMMU Pro (Standard 10)-ൽ 73.3%-ഉം CharXiv യുക്തിചിന്താ ചോദ്യങ്ങളിൽ 78.1%-ഉം ആണ് — ചാർട്ടിനെതിരെ Python പ്രവർത്തിപ്പിക്കാൻ മോഡലിനെ അനുവദിക്കുമ്പോൾ 82.0%-ലേക്ക് ഉയരുന്നു. ക്വാണ്ടൈസ് ചെയ്യാത്ത ചെക്ക്‌പോയിന്റിനുള്ള ലാബിന്റെ സ്വന്തം കണക്കുകളാണ് ഇവ; ഞങ്ങളുടെ ബിൽഡിന്റെ അളവായിട്ടല്ല, കുടുംബത്തിന്റെ പരിധിയായി ഇവയെ കാണുക.

CharXiv-ൽ ഊന്നിനിൽക്കേണ്ടതാണ്, കാരണം ഒരു OCR സേവനത്തിന് പകരം ആളുകൾ ഒരു വിഷൻ API വാങ്ങുന്നത് എന്തുകൊണ്ടെന്നതിലേക്ക് അത് മാപ്പ് ചെയ്യുന്നു. ശാസ്ത്രീയ ചാർട്ടുകൾക്ക് മേലുള്ള യുക്തിചിന്ത ഇത് പരീക്ഷിക്കുന്നു — ഒരു ആക്സിസിൽ നിന്ന് ഒരു മൂല്യം വായിക്കൽ, രണ്ട് സീരീസുകൾ താരതമ്യം ചെയ്യൽ, ഒരു ട്രെൻഡ് തിരിച്ചാകുന്നത് ശ്രദ്ധിക്കൽ. "ഈ ഇമേജിൽ എന്ത് ടെക്സ്റ്റാണുള്ളത്" അല്ല, "ഈ ചിത്രം എന്താണ് അവകാശപ്പെടുന്നത്, ആ അവകാശവാദം നിലനിൽക്കുമോ" എന്നതാണ്. ഒരു ചെറിയ ക്യാപ്ഷനറിന് പകരം 975B യുക്തിചിന്താ മോഡലിലേക്ക് ഒരു ചിത്രം അയയ്ക്കുന്നത് ന്യായീകരിക്കുന്നത് അതാണ്.

ഒരു ഇമേജ് അയയ്ക്കുന്നത് സാധാരണ OpenAI-അനുയോജ്യ ജോലിയാണ് — /v1/chat/completions-ൽ ഒരു image_url ഉള്ളടക്ക ഭാഗം, /v1/messages-ൽ ഒരു Anthropic-ശൈലി image ബ്ലോക്ക്, അല്ലെങ്കിൽ /v1/responses-ൽ തത്തുല്യമായത്. മൂന്ന് ഭാഷാഭേദങ്ങളും അതേ വെയ്റ്റുകളെ അഭിസംബോധന ചെയ്യുന്നു, മൂന്നും സ്ട്രീം ചെയ്യുന്നു; നിങ്ങളുടെ നിലവിലുള്ള SDK ഇതിനകം സംസാരിക്കുന്നത് ഏതാണോ അത് തിരഞ്ഞെടുക്കുക. 09-ാം വിഭാഗത്തിൽ ഒരു പ്രവർത്തിപ്പിച്ച ഉദാഹരണമുണ്ട്.

സെൻസർ ചെയ്യാത്ത ഭാഗം ടെക്സ്റ്റിനെക്കാൾ വിഷനിൽ പ്രധാനമാണ്. ഒരു വിഷൻ എൻഡ്‌പോയിന്റിലെ നിരസന പാളി അസാധാരണമായി മൂർച്ചയില്ലാത്തതാണ്, കാരണം അഭ്യർത്ഥനയെക്കുറിച്ച് മോഡൽ യുക്തിചിന്ത ചെയ്യുന്നതിന് മുമ്പ് അത് സാധാരണയായി ഇമേജിനെ വർഗ്ഗീകരിക്കുന്നു. നിയമാനുസൃതമായ ജോലി തുടർച്ചയായി അതിൽ കുടുങ്ങുന്നു: ഒരു ക്ലിനിക്കൽ-കുറിപ്പ് പൈപ്പ്‌ലൈനിലെ ഒരു മുറിവ് ഫോട്ടോഗ്രാഫ്, ഒരു സംഭവ റൈറ്റ്-അപ്പിലെ ഒരു ഫോറൻസിക് സ്ക്രീൻഷോട്ട്, ഒരു വിമർശന ലേഖനത്തിനായി വിശകലനം ചെയ്യുന്ന ഒരു ചലച്ചിത്രത്തിൽ നിന്നുള്ള ഒരു ഫ്രെയിം, ഒരു മെഡിക്കൽ സ്കാൻ, യാദൃച്ഛികമായി ഒരു പേര് അടങ്ങിയ ഒരു ഡോക്യുമെന്റിന്റെ ഇമേജ്. ഞങ്ങളുടെ ഗേറ്റ്‌വേയിലെ Inkling-ന് മുന്നിൽ അത്തരം ഒരു ക്ലാസിഫയറില്ല. നിങ്ങൾ അയച്ചത് അത് നോക്കുന്നു, നിങ്ങൾ ചോദിച്ച ചോദ്യത്തിന് ഉത്തരം നൽകുന്നു. അതാണ് ഉൽപ്പന്നം.

04ഘടനാപരമായ ഔട്ട്പുട്ട്: response_format ഉവ്വ്, json_schema ഇല്ല

കാറ്റലോഗിലെ മിക്കതിനെക്കാളും Inkling കുറച്ച് ശേഷിയുള്ള ഒരേയൊരു ഇടം ഇതാണ്, പ്രൊഡക്ഷനിൽ കണ്ടെത്തുന്നതിനെക്കാൾ ഇതിനായി ആസൂത്രണം ചെയ്യുന്നതാണ് മെച്ചം.

ശേഷി	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
വിഷൻ (ഇമേജ് ഇൻപുട്ട്)	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്	ഇല്ല
response_format	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്	ഇല്ല
json_schema	ഇല്ല	ഉവ്വ്	ഉവ്വ്	ഇല്ല
ടൂൾ കോളിംഗ്	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്
യുക്തിചിന്താ പരിശ്രമം	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്	ഉവ്വ്

response_format: {"type": "json_object"} പ്രവർത്തിക്കുന്നു — വ്യാകരണപരമായി സാധുവായ JSON നിങ്ങൾക്ക് ലഭിക്കുന്നു. നിങ്ങൾക്ക് ലഭിക്കാത്തത് നിങ്ങൾ നൽകുന്ന ഒരു സ്കീമയ്ക്കെതിരെ വ്യാകരണ-നിയന്ത്രിത ഡീകോഡിംഗ് ആണ്, അവിടെ നിങ്ങളുടെ ഘടന ലംഘിക്കുന്ന ഒരു ടോക്കൺ പുറപ്പെടുവിക്കുന്നതിൽ നിന്ന് സാംപ്ലർ ശാരീരികമായി തടയപ്പെടുന്നു. ഫീൽഡ് പേരുകൾ, enum അംഗത്വം, ആവശ്യമായ-കീ സാന്നിധ്യം എന്നിവ ഒരു ഗ്യാരണ്ടിയല്ല, മോഡലിന്റെ തിരഞ്ഞെടുപ്പാണ്.

അതിനോട് ജീവിക്കാൻ മൂന്ന് വഴികൾ, വിശ്വാസ്യതയുടെ ആരോഹണ ക്രമത്തിൽ:

1. സ്കീമ പ്രോംപ്റ്റ് ചെയ്ത് സാധൂകരിക്കുക. സ്കീമ സിസ്റ്റം പ്രോംപ്റ്റിൽ അക്ഷരാർത്ഥ JSON ആയി വയ്ക്കുക, response_format json_object ആയി സെറ്റ് ചെയ്യുക, നിങ്ങളുടെ വശത്ത് പ്രതികരണം സാധൂകരിക്കുക. സാധൂകരണ പരാജയത്തിൽ, വാലിഡേറ്ററിന്റെ പിശക് സന്ദേശം ചേർത്ത് വീണ്ടും ശ്രമിക്കുക. വിലകുറഞ്ഞത്, പ്രവർത്തിക്കുന്നത്, ഒരു റീട്രൈ ബജറ്റ് ആവശ്യമുള്ളത്.
2. സ്കീമയായി ഒരു ടൂൾ നിർവചനം ഉപയോഗിക്കുക. ടൂൾ കോളിംഗ് പിന്തുണയ്ക്കുന്നു, ഒരു ഫംഗ്ഷന്റെ പാരാമീറ്റർ നിർവചനം ഒരു JSON Schema ആണ്. നിങ്ങൾക്ക് വേണ്ട എക്സ്ട്രാക്ഷനുവേണ്ടി പേരിട്ട ഒരൊറ്റ ടൂൾ പ്രഖ്യാപിക്കുക, അത് നിർബന്ധിക്കുക, ആർഗ്യുമെന്റുകൾ വായിക്കുക. ഇത് സാധാരണയായി Inkling-ൽ ഏറ്റവും ശക്തമായ ഓപ്ഷനാണ്, അധിക ചെലവൊന്നും ഇത് വരുത്തുന്നില്ല.
3. ജോലി രണ്ട് മോഡലുകൾക്കായി വിഭജിക്കുക. വിഷനും യുക്തിചിന്തയും ഗദ്യത്തിൽ Inkling ചെയ്യട്ടെ, പിന്നെ ആ ഗദ്യം ഘടനാ ഘട്ടത്തിനായി യഥാർത്ഥ json_schema-യോടെ $0.50 / $2.00-ൽ MiMo-V2.5-W8A16-ന് കൈമാറുക. രണ്ട് കോളുകൾ, പക്ഷേ രണ്ടാമത്തേത് വിലകുറഞ്ഞതും ഘടനയിൽ നിർണ്ണായകവുമാണ്, ഇമേജ് കണ്ട മോഡലാണ് മിടുക്കനാകേണ്ടത്.

ഏതൊരു ഉയർന്ന-അളവ് എക്സ്ട്രാക്ഷൻ പൈപ്പ്‌ലൈനിനും ഞങ്ങൾ ശുപാർശ ചെയ്യുന്ന പാറ്റേണാണ് ഓപ്ഷൻ 3. ആവശ്യമുള്ള ഘട്ടത്തിന് മാത്രം പ്രീമിയം നൽകുക.

05വില പ്രീമിയം എന്താണ് വാങ്ങിത്തരുന്നത്?

ദശലക്ഷം ടോക്കണിന് $1.42 ഇൻ / $6.07 ഔട്ട്-ൽ, Inkling ബോധപൂർവം ഞങ്ങളുടെ കാറ്റലോഗിന്റെ മധ്യത്തിലാണ്. പന്ത്രണ്ട് മോഡലുകളിൽ ആറെണ്ണം $0.50 / $2.00 തറയിലാണ്. Kimi-K3 — മുൻനിര മോഡൽ, വിഷൻ ശേഷിയുമുള്ളത് — $3.83 / $19.12 ആണ്. Inkling ഔട്ട്പുട്ടിൽ ഏകദേശം തറയുടെ മൂന്നിരട്ടിയും മുൻനിര മോഡലിന്റെ ഏകദേശം മൂന്നിലൊന്നുമാണ്.

ഔട്ട്പുട്ട് വില, ദശലക്ഷം ടോക്കണിന് USD, Shannon AI ഗേറ്റ്‌വേ ലിസ്റ്റ് നിരക്കുകൾ, 2026 സെപ്റ്റംബർ. ബാർ വീതി വിലയ്ക്ക് ആനുപാതികമാണ്; നീളം കൂടുന്നത് ചെലവേറിയത്.

ആ പ്രീമിയം എവിടെ അതിന്റെ വില അർഹിക്കുന്നു — എവിടെ അർഹിക്കുന്നില്ല എന്നതിന്റെ സത്യസന്ധമായ വായന ഇതാ.

ജോലിഭാരം	Inkling ഉപയോഗിക്കണോ?	എന്തുകൊണ്ട്
ചാർട്ട് / ഡയഗ്രം യുക്തിചിന്ത	ഉവ്വ്	പ്രസിദ്ധീകരിച്ച CharXiv, MMMU Pro കണക്കുകളാണ് ഈ അടിത്തറ ഏറ്റവും ശക്തമായത്.
സ്ക്രീൻഷോട്ട്-നയിച്ച ഏജന്റുകൾ	ഉവ്വ്	ഒരു മോഡലിൽ വിഷനും ടൂൾ കോളിംഗും 262K ചരിത്രവും, കൈമാറ്റമില്ല.
ചിത്രങ്ങളുള്ള നീണ്ട ഡോക്യുമെന്റുകൾ	ഉവ്വ്	ടെക്സ്റ്റും ഇമേജുകളും ഒരു ഡീകോഡറും ഒരു സന്ദർഭ ജാലകവും പങ്കിടുന്നു.
സാധാരണ ടെക്സ്റ്റ് ജനറേഷൻ	ഇല്ല	$0.50 / $2.00-ൽ ആറ് മോഡലുകൾ ഇത് ചെയ്യുന്നു. നിങ്ങൾ ഒരിക്കലും വിളിക്കാത്ത ഒരു വിഷൻ പാതയ്ക്ക് നിങ്ങൾ പണം നൽകുകയാണ്.
ബൾക്ക് സ്കീമ എക്സ്ട്രാക്ഷൻ	ഇല്ല	json_schema ഇല്ല. MiMo-V2.5 വിലകുറഞ്ഞതും നിയന്ത്രിതവുമാണ്.
അബ്സൊല്യൂട്ട് ഫ്രോണ്ടിയർ പരിധി	ഇല്ല	Kimi-K3 ആണ് മുൻനിര മോഡൽ. പരിധിയാണ് പരിമിതിയെങ്കിൽ 3.1× നൽകുക.
ഏറ്റവും വിലകുറഞ്ഞ വിഷൻ	ഇല്ല	$0.50 / $2.00-ൽ MiniMax-M3-ന് വിഷനുണ്ട്. അവിടെ തുടങ്ങുക, ഗുണനിലവാരം നിർബന്ധിക്കുകയാണെങ്കിൽ ഉയർത്തുക.

അതൊരു റാങ്കിംഗ് ആയല്ല, ഒരു റൂട്ടിംഗ് നിയമമായി വായിക്കുക. ഒരു മാർക്കറ്റിംഗ് പേജ് അവകാശപ്പെടുന്നതിനെക്കാൾ ഇടുങ്ങിയ ജോലി ബാൻഡിന് Inkling ശരിയാണ്, ആ ബാൻഡിനുള്ളിൽ വിലയിൽ അതിനെ തോൽപ്പിക്കാൻ പ്രയാസമാണ്. അതിന് പുറത്ത്, നിങ്ങളെ നിലനിർത്താൻ ഞങ്ങൾ വിലകുറഞ്ഞ മോഡൽ വിൽക്കാനാണ് ഇഷ്ടപ്പെടുന്നത്.

06262K സന്ദർഭ ജാലക, യഥാർത്ഥത്തിൽ ഒതുങ്ങുന്നത് എന്ത്

ഗേറ്റ്‌വേയിലെ പന്ത്രണ്ട് മോഡലുകളും 262,144-ടോക്കൺ ഇൻപുട്ട് സന്ദർഭത്തിലും അഭ്യർത്ഥനയ്ക്ക് പരമാവധി 16,384-ടോക്കൺ ഔട്ട്പുട്ടിലുമാണ് നൽകുന്നത്. ബോധപൂർവം ഏകതാനം: സന്ദർഭ കൈകാര്യം ഒരിക്കലും നിങ്ങളുടെ കോഡിൽ ഒരു മോഡൽ-അനുസരിച്ചുള്ള ശാഖയാകരുത്, ഒരു കോൺഫിഗ് ഫയലിൽ inkling-ന് പകരം MiniMax-M3 വയ്ക്കുന്നത് നിശ്ശബ്ദമായി എന്ത് ഒതുങ്ങുന്നു എന്ന് മാറ്റരുത്.

പ്രസിദ്ധീകരിച്ച അടിത്തറയ്ക്കെതിരെയുള്ള വിടവ് ശ്രദ്ധിക്കുക: Thinking Machines Inkling-നെ 1,048,576 ടോക്കണിൽ രേഖപ്പെടുത്തുന്നു, ഞങ്ങൾ അതിന്റെ 262K ഭാഗം നൽകുന്നു. നിങ്ങൾക്ക് ഒരു യഥാർത്ഥ ദശലക്ഷം-ടോക്കൺ ഒറ്റ-അഭ്യർത്ഥന ജോലിഭാരമുണ്ടെങ്കിൽ, അതിനുള്ള എൻഡ്‌പോയിന്റ് ഞങ്ങളല്ല, നിർമ്മിക്കുന്നതിന് മുമ്പ് നിങ്ങൾ അത് അറിയുന്നതാണ് നല്ലത്.

262K-ൽ സ്കെയിലിന്: ചിത്രങ്ങളോടെ ഒരു 400-പേജ് സാങ്കേതിക PDF, ഒരു ഇടത്തരം കോഡ്ബേസ്, മണിക്കൂറുകളോളം ട്രാൻസ്ക്രിപ്റ്റ്, അല്ലെങ്കിൽ ഡസൻ കണക്കിന് ടൂൾ ഫലങ്ങളും ഏതാനും സ്ക്രീൻഷോട്ടുകളും വഹിക്കുന്ന ഒരു നീണ്ട ഏജന്റിക് സെഷൻ — ഓരോന്നും ഒരു അഭ്യർത്ഥനയിൽ ഒതുങ്ങുന്നു. ഒരു വിഷൻ മോഡലിൽ, ഇമേജുകളും സന്ദർഭം ഉപയോഗിക്കുന്നു എന്ന് ഓർക്കുക; ഒരു ഇടതൂർന്ന സ്ക്രീൻഷോട്ട് സൗജന്യമല്ല, ഫ്രെയിമുകൾ സ്ട്രീം ചെയ്യുന്ന ഒരു സെഷൻ ഒരു ടെക്സ്റ്റ്-മാത്രം സെഷനെക്കാൾ വേഗത്തിൽ ജാലക നിറയ്ക്കുന്നു. ആർക്കിടെക്ചർ ഇതിന് നന്നായി ചേരുന്നു: 5:1 സ്ലൈഡിംഗ്-വിൻഡോ-ടു-ഗ്ലോബൽ പാറ്റേൺ അർത്ഥമാക്കുന്നത് മിക്ക ലെയറുകളും ഒരു 512-ടോക്കൺ അയൽപക്കത്തിനുള്ളിൽ ശ്രദ്ധിക്കുന്നു, ഗ്ലോബൽ ലെയറുകൾ ഇടയ്ക്കിടെ ദീർഘ-ദൂര ഘടന തിരികെ വലിച്ചെടുക്കുന്നു എന്നാണ്.

07യുക്തിചിന്താ പരിശ്രമം: ആവശ്യമുള്ളപ്പോൾ മാത്രം ചിന്തയ്ക്ക് പണം നൽകൽ

Inkling നിയന്ത്രിക്കാവുന്ന യുക്തിചിന്താ പരിശ്രമം തുറന്നുനൽകുന്നു — കാറ്റലോഗിലെ കൂടുതൽ ഉപകാരപ്രദമായ നോബുകളിൽ ഒന്ന്. അപ്‌സ്ട്രീം മോഡൽ none, minimal മുതൽ low, medium, high, xhigh വരെയും max വരെയും തലങ്ങൾ സ്വീകരിക്കുന്നു, മൂന്ന് ഭാഷാഭേദങ്ങളിലും സ്റ്റാൻഡേർഡ് reasoning_effort പാരാമീറ്റർ വഴി തുറന്നുനൽകുന്നു.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ദശലക്ഷത്തിന് $6.07 നിരക്കിൽ യുക്തിചിന്താ ടോക്കണുകൾ ഔട്ട്പുട്ട് ടോക്കണുകളായി ബിൽ ചെയ്യപ്പെടുന്നതിനാൽ ഇത് പല്ലുള്ള ഒരു ചെലവ് ലിവറാണ്. Terminal Bench 2.1-ൽ Nemotron 3 Ultra-യുടെ ഏകദേശം മൂന്നിലൊന്ന് ടോക്കണുകളിൽ Inkling താരതമ്യപ്പെടുത്താവുന്ന സ്കോറുകളിലെത്തുന്നു എന്ന് Thinking Machines റിപ്പോർട്ട് ചെയ്യുന്നു — ടോക്കൺ കാര്യക്ഷമത പരിശ്രമ സംവിധാനത്തിന്റെ ഒരു പ്രസ്താവിത രൂപകൽപ്പന ലക്ഷ്യമാണ്, ഒരു യാദൃച്ഛികതയല്ല.

പ്രായോഗികമായി: ക്യാപ്ഷനിംഗ്, വർഗ്ഗീകരണം, ലളിതമായ എക്സ്ട്രാക്ഷൻ എന്നിവയ്ക്ക് low അല്ലെങ്കിൽ minimal പ്രവർത്തിപ്പിക്കുക, അവിടെ ഉത്തരം ഇമേജിലുണ്ട്, ഒരു അനുമാന ചങ്ങലയും ആവശ്യമില്ല. ചാർട്ട് യുക്തിചിന്ത, ബഹുഘട്ട ദൃശ്യ താരതമ്യം, ഒരു തെറ്റായ ഇടനില ഘട്ടം ചെലവേറിയതാകുന്ന ഏജന്റിക് ടേണുകൾ എന്നിവയ്ക്ക് high-ഉം അതിനുമുകളിലും കരുതിവയ്ക്കുക. മിക്ക ടീമുകളും ഈ പാരാമീറ്റർ ഒരിക്കലും സെറ്റ് ചെയ്യുന്നില്ല, മേശപ്പുറത്ത് പലമടങ്ങ് ഔട്ട്പുട്ട്-ചെലവ് വ്യത്യാസം ഉപേക്ഷിക്കുന്നു.

08ഇവിടെ "സെൻസർ ചെയ്യാത്തത്" എന്നാൽ എന്താണ് — എന്തല്ല

കൃത്യമായി പറഞ്ഞാൽ: നിരസന പാളിയോ ഔട്ട്പുട്ടിൽ ഫിൽട്ടറിംഗോ ഇല്ലാതെയാണ് ഞങ്ങൾ ഈ മോഡൽ പ്രവർത്തിപ്പിക്കുന്നത്. നിങ്ങളുടെ പ്രോംപ്റ്റ് വായിച്ച് മോഡലിന് ഉത്തരം നൽകാമോ എന്ന് ഒരു ക്ലാസിഫയറും തീരുമാനിക്കുന്നില്ല, സ്ട്രീം ചെയ്യുന്നതിന് മുമ്പ് പ്രതികരണം ഒന്നും വായിക്കുന്നില്ല. മോഡലിന് ഉറപ്പില്ലാത്തപ്പോഴോ അറിവില്ലാത്തപ്പോഴോ, അത് അങ്ങനെ പറയുന്നു — അതാണ് മോഡൽ, ഒരു നയമല്ല. ഒരു പൊതു-ഉപഭോക്തൃ ഉൽപ്പന്നം അതിർത്തിക്ക് പുറത്തായി കാണുന്ന ഒരു വിഷയത്തിൽ ഒരു റിഫ്ലെക്സീവ് നിരസനം നിങ്ങൾക്ക് ലഭിക്കില്ല.

വിഷനുവേണ്ടി ഇതാണ് മുഴുവൻ മൂല്യ നിർദ്ദേശവും. വിഷൻ API-കൾക്ക് മുന്നിലുള്ള ഇമേജ് ക്ലാസിഫയറുകൾ കൃത്യതയില്ലാത്തതാണ്, തെറ്റായ-പോസിറ്റീവ് നിരക്ക് ഏറ്റവും കൂടുതൽ ഈ ശേഷി ആവശ്യമുള്ള പ്രൊഫഷണൽ ജോലിയിലാണ് വീഴുന്നത്: സുരക്ഷാ ഗവേഷണം, ക്ലിനിക്കൽ സന്ദർഭങ്ങൾ, ജേണലിസവും ഫോറൻസിക്സും, ചലച്ചിത്ര, കലാ വിമർശനം, അത് മോഡറേറ്റ് ചെയ്യുന്ന കാര്യം നോക്കേണ്ട മോഡറേഷൻ ഉപകരണങ്ങൾ. വിഭാഗത്തിന്റെ പേരിൽ നിരസിക്കുന്ന ഒരു എൻഡ്‌പോയിന്റിന് ഇവയിലൊന്നും വിശ്വസ്തതയോടെ സേവിക്കാൻ കഴിയില്ല.

രണ്ട് സത്യസന്ധമായ മുന്നറിയിപ്പുകൾ. ഒന്നാമത്, Thinking Machines അവരുടെ റഫറൻസ് വിന്യാസത്തിന് സുരക്ഷാ മൂല്യനിർണ്ണയങ്ങൾ പ്രസിദ്ധീകരിക്കുന്നു — FORTRESS adversarial-ൽ 78.0%, FORTRESS benign-ൽ 95.9%, StrongREJECT-ൽ 98.6%. അവരുടെ ഗാർഡ്‌റെയിലുകൾ സ്ഥാപിച്ച അവരുടെ സ്റ്റാക്കിനെയാണ് ആ കണക്കുകൾ വിവരിക്കുന്നത്. അവ ഞങ്ങളുടേതിനെ വിവരിക്കുന്നില്ല, അങ്ങനെ ചെയ്യുന്നതുപോലെ ഞങ്ങൾ അവ ഉദ്ധരിക്കുകയുമില്ല. ആ സംഖ്യകൾ ഭാഗികമായി അളക്കുന്ന പാളി ഞങ്ങൾ നീക്കി; അതാണ് ഉൽപ്പന്നം, ഉത്തരവാദിത്തവും.

രണ്ടാമത്, "നിരസന പാളിയില്ല" എന്നത് "നിയമങ്ങളില്ല" എന്നല്ല. ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിനും ബാധകമായ യുഎസ് നിയമത്തിനും കീഴിലാണ് Shannon Lab LLC പ്രവർത്തിക്കുന്നത്. ഒരു ക്ലാസിഫയർ നീക്കുന്നത് വിവേചനം നിങ്ങളിലേക്ക് മാറ്റുന്നു, അത് ഇല്ലാതാക്കുന്നില്ല. ഇതിന്മേൽ നിർമ്മിക്കുകയാണെങ്കിൽ, സ്കെയിൽ ചെയ്യുന്നതിന് മുമ്പ് നയം വായിക്കുക.

09തുടങ്ങുന്നത്

അതേ ബേസ് URL, അതേ കീ, മൂന്ന് ഭാഷാഭേദങ്ങൾ. നിങ്ങളുടെ കോഡ് ഇതിനകം OpenAI-യെയോ Anthropic-നെയോ Responses API-യെയോ വിളിക്കുന്നുവെങ്കിൽ, മോഡൽ സ്ട്രിംഗ് മാറ്റുന്നത് സാധാരണയായി മുഴുവൻ മൈഗ്രേഷനുമാണ്.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

പൂർണ്ണ പാരാമീറ്റർ റഫറൻസ്, /v1/messages-ഉം /v1/responses-ഉം രൂപങ്ങൾ, സ്ട്രീമിംഗ് ഇവന്റ് ഫോർമാറ്റുകൾ, ഒരു ലൈവ് പ്ലേഗ്രൗണ്ട് എന്നിവ API ഡോക്യുമെന്റേഷനിൽ ഉണ്ട്. മറ്റ് പതിനൊന്ന് മോഡലുകൾക്കുള്ള മോഡൽ കാർഡുകൾ Shannon Research-ൽ ഉണ്ട്.

ക്വാണ്ടൈസ് ചെയ്യാത്ത Inkling ചെക്ക്‌പോയിന്റിന് Thinking Machines Lab പ്രസിദ്ധീകരിച്ച സംഖ്യകളാണ് അടിത്തറ കണക്കുകൾ, കുടുംബത്തിന്റെ പരിധി വിവരിക്കുന്നു, ഞങ്ങളുടെ ക്വാണ്ടൈസ് ചെയ്ത ബിൽഡിനെയല്ല. വിലകളും ശേഷി ഫ്ലാഗുകളും 2026 സെപ്റ്റംബർ വരെയുള്ള Shannon AI ഗേറ്റ്‌വേ ലിസ്റ്റ് മൂല്യങ്ങളാണ്.

10പതിവ് ചോദ്യങ്ങൾ

---

സ്രോതസ്സുകൾ: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling ആർക്കിടെക്ചറും ബെഞ്ച്മാർക്ക് കുറിപ്പുകളും. അടിത്തറ ബെഞ്ച്മാർക്കുകൾ ക്വാണ്ടൈസ് ചെയ്യാത്ത ചെക്ക്‌പോയിന്റിന് ലാബ്-റിപ്പോർട്ട് ചെയ്തതാണ്.