અનસેન્સર્ડ Inkling મોડેલ API

અમારા ગેટવે પરના બારમાંથી મોટાભાગના મોડેલ ફક્ત-ટેક્સ્ટ છે. ચાર નથી, અને એ ચારમાં Inkling ચોક્કસ સ્થાન ધરાવે છે: વિઝન મોડેલ જેના તરફ તમે વળો છો જ્યારે ચિત્ર સમસ્યાનો અઘરો ભાગ છે પણ બજેટ ફ્લેગશિપ સુધી ખેંચાતું નથી. આ કાર્ડ આવરી લે છે કે ફાઉન્ડેશન ક્યાંથી આવે છે, W4A16-AUTOROUND-REAP પ્રત્યયે તેની સાથે શું કર્યું, API સપાટી પર તે શું કરશે અને શું નહીં કરે, અને — પ્રામાણિકપણે — એ જ કેટલોગમાં ક્યારે સસ્તું મોડેલ વધુ સારો કૉલ છે.

01Inkling શું છે, અને તેને કોણે બનાવ્યું?

Inkling એ Thinking Machines Lab નું પહેલું ઓપન-વેઇટ્સ મોડેલ છે, 15 જુલાઈ, 2026 ના રોજ પ્રકાશિત. "ઓપન" તરીકે સ્થાન પામેલા મોટાભાગના રિલીઝથી વિપરીત, તે Hugging Face પર પૂરા ડાઉનલોડ કરી શકાય એવા વેઇટ્સ સાથે અને transformers, SGLang, vLLM, અને llama.cpp માં day-zero સમર્થન સાથે મોકલાયું — જે કારણ છે કે તે અમારા જેવા infrastructure પર બિલકુલ ચલાવી શકાય એવું બન્યું. Thinking Machines ની પોતાની રિલીઝ સામગ્રીમાંથી હેડલાઇન આંકડા:

એ sparse મિક્સ્ચર-ઓફ-એક્સપર્ટ્સ લેઆઉટ છે: 6,144 hidden size પર 66 ડિકોડર લેયર, પહેલા બે dense, બાકીના 64 લેયર દીઠ 256 રાઉટેડ એક્સપર્ટ વત્તા 2 શેર્ડ એક્સપર્ટ ધરાવે છે, ટોકન દીઠ 6 રાઉટેડ એક્સપર્ટ એક્ટિવ સાથે. કોઈપણ આપેલા ટોકન પર લગભગ 4% પેરામીટર ફાયર થાય છે — જે એક ટ્રિલિયનની નજીકના પેરામીટર ધરાવતા મોડેલને બિલકુલ સર્વ કરવા યોગ્ય બનાવે છે.

બે આર્કિટેક્ચરલ પસંદગીઓ નામ આપવા યોગ્ય એટલી અસામાન્ય છે. એટેન્શન ઇન્ટરલીવ્ડ છે — 512-ટોકન વિન્ડો પર 55 લેયર sliding-window એટેન્શન 11 ગ્લોબલ લેયર સામે, 5:1 પુનરાવર્તિત પેટર્નમાં. અને Inkling RoPE વાપરતું નથી: તે શીખેલું, ઇનપુટ-આધારિત relative-position bias વાપરે છે, key/value પ્રોજેક્શન અને residual branches પર ટૂંકા causal convolutions સાથે. Sebastian Raschka ની આર્કિટેક્ચર નોંધ બંનેને સ્ટાન્ડર્ડ 2026 રેસિપીથી ખરા વિચલન તરીકે ફ્લેગ કરે છે. તાલીમે મોટા matrix પેરામીટર માટે Muon અને બાકીના માટે Adam વાપર્યું, પછી પોસ્ટ-ટ્રેઇનિંગમાં 30 મિલિયન કરતાં વધુ અસુમેળ RL rollouts.

API ગ્રાહક માટે મુદ્દો trivia નથી. તે એ છે કે આ ફ્રન્ટિયર-સ્કેલનું, નેટિવલી મલ્ટિમોડલ ફાઉન્ડેશન છે જે ટેક્સ્ટ, ઇમેજ, ઑડિયો અને વિડિયો ફેલાયેલા 45 ટ્રિલિયન ટોકન પર તાલીમ પામ્યું — પછીથી બોલ્ટ-ઑન વિઝન adapter ધરાવતું ટેક્સ્ટ મોડેલ નહીં. ઇમેજ ચાર-લેયરના hierarchical MLP patchifier દ્વારા 40×40 pixel patch તરીકે એન્કોડ થાય છે અને એ જ ડિકોડરમાં ટેક્સ્ટ સાથે સંયુક્ત રીતે પ્રોસેસ થાય છે. વિઝ્યુઅલ સમજણ પ્રી-ટ્રેઇનિંગ ઉદ્દેશમાં હતી.

02W4A16-AUTOROUND-REAP નો શું અર્થ થાય છે?

એ પ્રત્યયમાં ત્રણ અલગ ટેકનિક ભેગી થયેલી છે, અને તેઓ અલગ જોબ કરે છે. સમજવા યોગ્ય, કારણ કે પ્રત્યય એ છે અમારા API પર તમે કૉલ કરો છો એ મોડેલ અને Thinking Machines એ પ્રકાશિત કરેલા checkpoint વચ્ચેનો સૌથી મોટો એક ફરક.

REAP — કોઈ રાઉટ ન કરે એવા એક્સપર્ટને પ્રુન કરવા

Cerebras Research (arXiv 2510.13999, ICLR 2026 માટે સ્વીકૃત) તરફથી REAP એ Router-weighted Expert Activation Pruning છે. લેયર દીઠ 256 એક્સપર્ટ ધરાવતા MoE માં રાઉટર કામ સમાનરૂપે વહેંચતું નથી: કેટલાક એક્સપર્ટ સતત હિટ થાય છે, બીજા ભાગ્યે જ ફાયર થાય છે અને ફાયર થાય ત્યારે થોડું યોગદાન આપે છે. REAP દરેક એક્સપર્ટને રાઉટરના gate value અને એક્સપર્ટના activation norm બંને પર સ્કોર કરે છે — વારંવાર પસંદ થતો પણ નાની-magnitude ના updates આપતો એક્સપર્ટ તેની પસંદગીની ગણતરી સૂચવે છે એના કરતાં ઓછો મહત્વનો છે — અને ક્વોન્ટાઇઝેશન પહેલાં એક જ શોટમાં ઓછી-saliency ને દૂર કરે છે.

અમે વધુ ફેશનેબલ એક્સપર્ટ મર્જિંગ ને બદલે પ્રુનિંગ વાપરવાનું કારણ એ છે કે બંને ટાસ્ક પ્રકાર પ્રમાણે અલગ પડે છે. મર્જિંગ discriminative બેન્ચમાર્ક પર સ્પર્ધાત્મક દેખાય છે અને generative પર તૂટી પડે છે. REAP ના લેખકો જણાવે છે કે પ્રુનિંગ બરાબર એ વર્કલોડ પર ગુણવત્તા વધુ સારી રીતે જાળવે છે જેના માટે લોકો API ખરીદે છે — કોડ સંશ્લેષણ, ટૂલ કૉલિંગ, મલ્ટિ-ટર્ન રિઝનિંગ — 50% પછીના કમ્પ્રેશન રેશિયો પર, 20B થી 1T પેરામીટર સુધીના મોડેલોમાં. મર્જિંગ રાઉટરની specialization નષ્ટ કરે છે; પ્રુનિંગ બચેલા એક્સપર્ટને અને તેમની વચ્ચેના રાઉટિંગને અકબંધ છોડે છે.

AutoRound — ક્યાં રાઉન્ડ કરવું એ શીખવું

AutoRound એ Intel ની post-training ક્વોન્ટાઇઝેશન પદ્ધતિ છે (arXiv 2309.05516, SignRound તરીકે પ્રકાશિત). નાઇવ ક્વોન્ટાઇઝેશન દરેક વેઇટને નજીકના representable 4-બિટ મૂલ્ય પર રાઉન્ડ કરે છે — વાજબી ડિફૉલ્ટ અને સ્કેલ પર ખરાબ, કારણ કે રાઉન્ડિંગ ભૂલો સ્વતંત્ર નથી અને 66-લેયર સ્ટેક દ્વારા ભેગી થાય છે. AutoRound રાઉન્ડિંગ નિર્ણયને ઑપ્ટિમાઇઝ કરવા યોગ્ય કંઈક તરીકે ટ્રીટ કરે છે: signed gradient descent થોડાસો પગલાં પર રાઉન્ડિંગ દિશા અને વેઇટ ક્લિપિંગ રેન્જને સંયુક્ત રીતે ટ્યુન કરે છે, પુનઃ-તાલીમના ખર્ચ વગર quantization-aware training ની ચોકસાઈ ઉધાર લે છે. Intel આત્યંતિક low-bit સેટિંગ પર સૌથી મોટા ફાયદા અને INT4 પર સ્પર્ધાત્મક ધાર જણાવે છે.

W4A16 — બિટ ક્યાં જાય છે

W4A16 એ numerical ફોર્મેટ છે: 4-બિટ વેઇટ્સ, 16-બિટ એક્ટિવેશન. વેઇટ્સ — જે 975B મોડેલમાં મેમરી પર પ્રભુત્વ ધરાવે છે — BF16 ફૂટપ્રિન્ટના લગભગ ચોથા ભાગ સુધી સંકોચાય છે, જ્યારે ગણિત 16 બિટ પર રહે છે. એ split ખાસ કરીને વિઝન મોડેલ માટે મહત્વનું છે: activation-quantized યોજનાઓ બરાબર એ ઝીણા numerical કામને નુકસાન કરે છે જેના પર ઇમેજ સમજણ આધારિત છે — નાનું axis label વાંચવું, ડાયાગ્રામમાં પાતળી લાઇન ઉકેલવી, બે સરખા shade ને અલગ પાડવા. એક્ટિવેશનને 16 બિટ પર રાખવું bandwidth ખર્ચે છે અને ત્યાં ચોકસાઈ પાછી ખરીદે છે જ્યાં વિઝન વર્કલોડ નોંધે છે.

ભેગા મળીને, ત્રણેય એવું મોડેલ આપે છે જે ફિટ થાય છે અને ઝડપી રહે છે, અમે સૌથી મોટા ફાઉન્ડેશન પર વાપરીએ છીએ એ આક્રમક 3BIT-REAP ટાયરના ગુણવત્તા ખાડા વગર. એ જ ટ્રેડ છે જે કિંમત પ્રતિબિંબિત કરે છે.

03વિઝન: ઇનકાર-વગરનું ઇમેજ વિશ્લેષણ API

Inkling અમારા કેટલોગમાં Kimi-K3, Kimi-K2.6, અને MiniMax-M3 ની સાથે ચાર વિઝન-સક્ષમ મોડેલોમાંનું એક છે. Thinking Machines ની રિલીઝમાંથી બેઝ મોડેલના પ્રકાશિત વિઝન પરિણામ MMMU Pro (Standard 10) પર 73.3% અને CharXiv રિઝનિંગ પ્રશ્નો પર 78.1% છે — જ્યારે મોડેલને ચાર્ટ સામે Python ચલાવવાની મંજૂરી અપાય છે ત્યારે 82.0% સુધી વધે છે. એ અનક્વોન્ટાઇઝ્ડ checkpoint માટે લેબના પોતાના આંકડા છે; તેમને પરિવારની સીલિંગ તરીકે ટ્રીટ કરો, અમારા બિલ્ડનું માપ નહીં.

CharXiv એ છે જેના પર ધ્યાન આપવા યોગ્ય છે, કારણ કે તે એ સાથે મેપ થાય છે કે લોકો OCR સર્વિસને બદલે વિઝન API કેમ ખરીદે છે. તે વૈજ્ઞાનિક ચાર્ટ પર રિઝનિંગ ટેસ્ટ કરે છે — axis પરથી મૂલ્ય વાંચવું, બે series ની સરખામણી કરવી, trend ઊલટો થતો નોંધવો. "આ ઇમેજમાં કયો ટેક્સ્ટ છે" નહીં પણ "આ figure શું દાવો કરે છે, અને શું દાવો ટકે છે." એ જ છે જે નાના captioner ને બદલે 975B રિઝનિંગ મોડેલને ચિત્ર મોકલવાનું justify કરે છે.

ઇમેજ મોકલવું સામાન્ય OpenAI-કમ્પેટિબલ કામ છે — /v1/chat/completions પર image_url content part, /v1/messages પર Anthropic-શૈલીનો image બ્લોક, કે /v1/responses પર સમકક્ષ. ત્રણેય ડાયલેક્ટ એ જ વેઇટ્સને હિટ કરે છે અને ત્રણેય stream કરે છે; તમારો હાલનો SDK પહેલેથી બોલે છે એ પસંદ કરો. ઉકેલેલું ઉદાહરણ સેક્શન 09 માં છે.

અનસેન્સર્ડ ભાગ ટેક્સ્ટ કરતાં વિઝન માટે વધુ મહત્વનો છે. વિઝન એન્ડપોઇન્ટ પર ઇનકાર સ્તર અસાધારણ રીતે blunt છે, કારણ કે તે સામાન્ય રીતે મોડેલે વિનંતી પર રિઝન કરે એ પહેલાં ઇમેજ ને વર્ગીકૃત કરે છે. કાયદેસર કામ સતત પકડાય છે: ક્લિનિકલ-નોટ્સ પાઇપલાઇનમાં ઈજાનો ફોટોગ્રાફ, incident write-up માં ફોરેન્સિક સ્ક્રીનશોટ, ટીકા માટે વિશ્લેષણ કરાતી ફિલ્મનો ફ્રેમ, મેડિકલ સ્કેન, નામ ધરાવતા ડોક્યુમેન્ટની ઇમેજ. અમારા ગેટવે પર Inkling ની આગળ એવું કોઈ ક્લાસિફાયર નથી. તે તમે મોકલેલું જુએ છે અને તમે પૂછેલા પ્રશ્નનો જવાબ આપે છે. એ જ પ્રોડક્ટ છે.

04સ્ટ્રક્ચર્ડ આઉટપુટ: response_format હા, json_schema ના

આ એકમાત્ર જગ્યા છે જ્યાં Inkling કેટલોગના મોટાભાગના ભાગ કરતાં ઓછું સક્ષમ છે, અને તેને પ્રોડક્શનમાં શોધવા કરતાં તેની યોજના બનાવવી વધુ સારું છે.

ક્ષમતા	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
વિઝન (ઇમેજ ઇનપુટ)	હા	હા	હા	ના
response_format	હા	હા	હા	ના
json_schema	ના	હા	હા	ના
ટૂલ કૉલિંગ	હા	હા	હા	હા
Reasoning effort	હા	હા	હા	હા

response_format: {"type": "json_object"} કામ કરે છે — તમને syntactically valid JSON મળે છે. તમને જે નથી મળતું એ છે તમે આપેલી સ્કીમા સામે grammar-constrained decoding, જ્યાં sampler ને તમારા structure નું ઉલ્લંઘન કરતો ટોકન ઉત્પન્ન કરવાથી ભૌતિક રીતે અટકાવાય. ફિલ્ડ નામ, enum સભ્યપદ, અને જરૂરી-કી હાજરી મોડેલની પસંદગી છે, ગેરંટી નહીં.

તેની સાથે જીવવાની ત્રણ રીતો, વિશ્વસનીયતાના ચડતા ક્રમમાં:

1. સ્કીમા prompt કરો અને વેલિડેટ કરો. સ્કીમાને system prompt માં literal JSON તરીકે મૂકો, response_format ને json_object સેટ કરો, અને તમારી બાજુ રિસ્પોન્સ વેલિડેટ કરો. validator ના error મેસેજ સાથે વેલિડેશન નિષ્ફળતા પર retry કરો. સસ્તું, કામ કરે છે, retry બજેટ જોઈએ.
2. ટૂલ ડેફિનેશનને સ્કીમા તરીકે વાપરો. ટૂલ કૉલિંગ સમર્થિત છે, અને function નું પેરામીટર ડેફિનેશન JSON Schema છે. તમને જોઈતા નિષ્કર્ષણ માટે નામ આપેલું એક ટૂલ declare કરો, તેને force કરો, અને arguments વાંચો. આ સામાન્ય રીતે Inkling પર સૌથી મજબૂત વિકલ્પ છે અને તે તમને વધારાનું કંઈ ખર્ચતું નથી.
3. જોબને બે મોડેલમાં વિભાજિત કરો. Inkling ને વિઝન અને રિઝનિંગ prose માં કરવા દો, પછી એ prose ને structuring પાસ માટે ખરી json_schema સાથે $0.50 / $2.00 પર MiMo-V2.5-W8A16 ને હેન્ડ કરો. બે કૉલ, પણ બીજો સસ્તો છે, આકારમાં નિર્ધારિત, અને જે મોડેલને હોંશિયાર હોવું જરૂરી છે એ જ ઇમેજ જોયું.

વિકલ્પ 3 એ પેટર્ન છે જે અમે કોઈપણ ઊંચા-વોલ્યુમના નિષ્કર્ષણ પાઇપલાઇન માટે ભલામણ કરીશું. ફક્ત એ સ્ટેપ માટે પ્રીમિયમ ચૂકવો જેને તેની જરૂર છે.

05કિંમત પ્રીમિયમ શું ખરીદે છે?

1 મિલિયન ટોકન દીઠ $1.42 ઇન / $6.07 આઉટ પર, Inkling ઇરાદાપૂર્વક અમારા કેટલોગની મધ્યમાં બેસે છે. બારમાંથી છ મોડેલ $0.50 / $2.00 તળિયે છે. Kimi-K3 — ફ્લેગશિપ, વિઝન-સક્ષમ પણ — $3.83 / $19.12 છે. Inkling આઉટપુટ પર તળિયાના લગભગ ત્રણ ગણું અને ફ્લેગશિપના લગભગ ત્રીજા ભાગનું છે.

આઉટપુટ કિંમત, USD 1M ટોકન દીઠ, Shannon AI ગેટવે યાદી દર, સપ્ટેમ્બર 2026. bar પહોળાઈ કિંમતના પ્રમાણમાં છે; લાંબું એટલે વધુ મોંઘું.

અહીં પ્રામાણિક વાચન છે એ પ્રીમિયમ ક્યાં પોતાની કિંમત કમાય છે — અને ક્યાં નથી કમાતું.

વર્કલોડ	Inkling વાપરવું?	શા માટે
ચાર્ટ / ડાયાગ્રામ રિઝનિંગ	હા	પ્રકાશિત CharXiv અને MMMU Pro આંકડા એ છે જેમાં આ ફાઉન્ડેશન સૌથી મજબૂત છે.
સ્ક્રીનશોટ-ડ્રિવન એજન્ટ	હા	એક જ મોડેલમાં વિઝન વત્તા ટૂલ કૉલિંગ વત્તા 262K ઇતિહાસ, કોઈ handoff નહીં.
Figure ધરાવતા લાંબા ડોક્યુમેન્ટ	હા	ટેક્સ્ટ અને ઇમેજ એક ડિકોડર અને એક કોન્ટેક્સ્ટ વિન્ડો શેર કરે છે.
સાદું ટેક્સ્ટ જનરેશન	ના	છ મોડેલ $0.50 / $2.00 પર આ કરે છે. તમે ક્યારેય કૉલ ન કરો એવા વિઝન પાથ માટે ચૂકવો છો.
બલ્ક સ્કીમા નિષ્કર્ષણ	ના	કોઈ json_schema નહીં. MiMo-V2.5 સસ્તું અને constrained છે.
સંપૂર્ણ ફ્રન્ટિયર સીલિંગ	ના	Kimi-K3 ફ્લેગશિપ છે. જો સીલિંગ મર્યાદા હોય તો 3.1x ચૂકવો.
સૌથી સસ્તું શક્ય વિઝન	ના	MiniMax-M3 $0.50 / $2.00 પર વિઝન ધરાવે છે. ત્યાંથી શરૂ કરો, ગુણવત્તા ફરજ પાડે તો escalate કરો.

તેને ranking તરીકે નહીં, routing નિયમ તરીકે વાંચો. Inkling માર્કેટિંગ પાનું દાવો કરે એના કરતાં કામની સાંકડી પટ્ટી માટે યોગ્ય છે, અને એ પટ્ટીની અંદર કિંમત પર તેને હરાવવું અઘરું છે. તેની બહાર, અમે તમને સસ્તું મોડેલ વેચવાનું અને તમને રાખવાનું પસંદ કરીશું.

06262K કોન્ટેક્સ્ટ વિન્ડો, અને ખરેખર શું ફિટ થાય છે

ગેટવે પરના બધા બાર મોડેલ 262,144-ટોકન ઇનપુટ કોન્ટેક્સ્ટ અને વિનંતી દીઠ 16,384-ટોકન મહત્તમ આઉટપુટ સાથે સર્વ થાય છે. ઇરાદાપૂર્વક એકસમાન: કોન્ટેક્સ્ટ હેન્ડલિંગ ક્યારેય તમારા કોડમાં પ્રતિ-મોડેલ branch ન બનવું જોઈએ, અને config ફાઇલમાં inkling ને MiniMax-M3 સાથે સ્વેપ કરવાથી શું ફિટ થાય છે એ ચૂપચાપ બદલાવું ન જોઈએ.

પ્રકાશિત ફાઉન્ડેશન સામેનો ગેપ નોંધો: Thinking Machines Inkling ને 1,048,576 ટોકન પર દસ્તાવેજીકૃત કરે છે, અને અમે તેનો 262K ટુકડો સર્વ કરીએ છીએ. જો તમારો ખરો મિલિયન-ટોકન સિંગલ-વિનંતી વર્કલોડ છે, તો અમે તેના માટે એન્ડપોઇન્ટ નથી, અને તમે બિલ્ડ કરો એ પહેલાં એ સારું જાણવું.

262K પર સ્કેલ માટે: તેના figure સાથે 400-પાનાનું ટેકનિકલ PDF, મધ્યમ-કદનો codebase, ઘણા કલાકોનો transcript, કે ડઝનેક ટૂલ પરિણામ અને મુઠ્ઠીભર સ્ક્રીનશોટ ધરાવતું લાંબું એજન્ટિક સેશન — દરેક એક વિનંતીમાં ફિટ થાય છે. વિઝન મોડેલ પર, યાદ રાખો કે ઇમેજ પણ કોન્ટેક્સ્ટ વાપરે છે; ગાઢ સ્ક્રીનશોટ મફત નથી, અને ફ્રેમ stream કરતું સેશન ફક્ત-ટેક્સ્ટ સેશન કરતાં વિન્ડોને ઝડપી ભરે છે. આર્કિટેક્ચર આને સારી રીતે અનુકૂળ છે: 5:1 sliding-window-to-global પેટર્નનો અર્થ છે કે મોટાભાગના લેયર 512-ટોકનના પડોશમાં ધ્યાન આપે છે, ગ્લોબલ લેયર સામયિક રીતે long-range structure પાછું ખેંચે છે.

07Reasoning effort: જ્યારે જરૂર હોય ત્યારે જ thinking માટે ચૂકવવું

Inkling નિયંત્રિત reasoning effort ખુલ્લું મૂકે છે — કેટલોગમાંનો એક વધુ ઉપયોગી knob. upstream મોડેલ none અને minimal થી low, medium, high, xhigh, max સુધીના સ્તર સ્વીકારે છે, ત્રણેય ડાયલેક્ટ પર સ્ટાન્ડર્ડ reasoning_effort પેરામીટર દ્વારા ખુલ્લા મૂકેલા.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

આ દાંત ધરાવતો ખર્ચ lever છે, કારણ કે reasoning ટોકન 1 મિલિયન દીઠ $6.07 પર આઉટપુટ ટોકન તરીકે બિલ થાય છે. Thinking Machines જણાવે છે કે Terminal Bench 2.1 પર Inkling લગભગ ત્રીજા ભાગના ટોકન પર Nemotron 3 Ultra ને તુલનાત્મક સ્કોર સુધી પહોંચે છે — ટોકન કાર્યક્ષમતા effort સિસ્ટમનું જણાવેલું ડિઝાઇન લક્ષ્ય છે, અકસ્માત નહીં.

વ્યવહારમાં: captioning, વર્ગીકરણ, અને સીધા નિષ્કર્ષણ માટે low કે minimal ચલાવો, જ્યાં જવાબ ઇમેજમાં જ છે અને inference ની કોઈ ચેઇનની જરૂર નથી. ચાર્ટ રિઝનિંગ, મલ્ટિ-સ્ટેપ વિઝ્યુઅલ સરખામણી, અને એજન્ટિક ટર્ન માટે high અને ઉપર અનામત રાખો જ્યાં ખોટું intermediate સ્ટેપ મોંઘું છે. મોટાભાગની ટીમો ક્યારેય પેરામીટર સેટ કરતી નથી, અને ટેબલ પર ઘણા ગણો આઉટપુટ-ખર્ચ ફરક છોડી દે છે.

08અહીં "અનસેન્સર્ડ" નો શું અર્થ થાય છે — અને શું નથી

ચોક્કસપણે: અમે આ મોડેલને કોઈ ઇનકાર સ્તર અને આઉટપુટ પર કોઈ ફિલ્ટરિંગ વગર ચલાવીએ છીએ. કોઈ ક્લાસિફાયર તમારો પ્રોમ્પ્ટ વાંચીને નક્કી કરતું નથી કે મોડેલ જવાબ આપી શકે કે નહીં, અને કોઈ તે stream થાય એ પહેલાં રિસ્પોન્સ વાંચતું નથી. જ્યારે મોડેલ અનિશ્ચિત હોય કે જ્ઞાનનો અભાવ હોય, ત્યારે તે એમ કહે છે — એ મોડેલ છે, પોલિસી નહીં. તમને જે નહીં મળે એ છે એવા વિષય પર reflexive ઇનકાર જેને સામાન્ય-ગ્રાહક પ્રોડક્ટ off-limits ટ્રીટ કરે છે.

વિઝન માટે આ આખો value proposition છે. વિઝન API ની આગળના ઇમેજ ક્લાસિફાયર imprecise છે, અને ખોટા-પોઝિટિવ દર એ વ્યાવસાયિક કામ પર સૌથી સખત ઊતરે છે જેને એ ક્ષમતાની સૌથી વધુ જરૂર છે: સિક્યુરિટી રિસર્ચ, ક્લિનિકલ સંદર્ભ, પત્રકારત્વ અને ફોરેન્સિક, ફિલ્મ અને આર્ટ ટીકા, મોડરેશન ટૂલિંગ જેને તે જે મોડરેટ કરે છે એ જોવું જ પડે. કેટેગરી પર ઇનકાર કરતું એન્ડપોઇન્ટ તેમાંથી કોઈને વિશ્વસનીય રીતે સર્વ કરી શકતું નથી.

બે પ્રામાણિક ચેતવણી. પહેલું, Thinking Machines તેમના reference ડિપ્લોયમેન્ટ માટે safety મૂલ્યાંકન પ્રકાશિત કરે છે — FORTRESS adversarial પર 78.0%, FORTRESS benign પર 95.9%, StrongREJECT પર 98.6%. એ આંકડા તેમના guardrail સ્થાને તેમના સ્ટેકનું વર્ણન કરે છે. તેઓ અમારાનું વર્ણન કરતા નથી, અને અમે તેમને એ રીતે ટાંકીશું નહીં જાણે તેઓ કરે. અમે એ સ્તર દૂર કર્યું જે એ આંકડા આંશિક રીતે માપે છે; એ જ પ્રોડક્ટ છે, અને જવાબદારી છે.

બીજું, "કોઈ ઇનકાર સ્તર નહીં" એટલે "કોઈ નિયમો નહીં" નથી. Shannon Lab LLC જવાબદાર ઉપયોગ નીતિ અને લાગુ US કાયદા હેઠળ કાર્ય કરે છે. ક્લાસિફાયર દૂર કરવાથી નિર્ણય તમારી તરફ ખસે છે, તે તેને ભૂંસી નાખતું નથી. જો તમે આના પર બિલ્ડ કરી રહ્યા છો, તો scale કરતા પહેલાં નીતિ વાંચો.

09શરૂઆત કરવી

એ જ base URL, એ જ key, ત્રણ ડાયલેક્ટ. જો તમારો કોડ પહેલેથી OpenAI, Anthropic, કે Responses API ને કૉલ કરે છે, તો model string બદલવું સામાન્ય રીતે આખું migration છે.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

પૂરો પેરામીટર સંદર્ભ, /v1/messages અને /v1/responses આકાર, સ્ટ્રીમિંગ ઇવેન્ટ ફોર્મેટ, અને લાઇવ પ્લેગ્રાઉન્ડ API ડોક્યુમેન્ટેશન માં છે. બીજા અગિયાર મોડેલ માટેના મોડેલ કાર્ડ Shannon Research માં છે.

ફાઉન્ડેશન આંકડા Thinking Machines Lab ના અનક્વોન્ટાઇઝ્ડ Inkling checkpoint માટેના પ્રકાશિત આંકડા છે અને પરિવારની સીલિંગ વર્ણવે છે, અમારા ક્વોન્ટાઇઝ્ડ બિલ્ડનું નહીં. કિંમત અને ક્ષમતા ફ્લેગ સપ્ટેમ્બર 2026 મુજબ Shannon AI ગેટવે યાદી મૂલ્યો છે.

10વારંવાર પુછાતા પ્રશ્નો

---

સોર્સ: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling આર્કિટેક્ચર અને બેન્ચમાર્ક નોંધ. ફાઉન્ડેશન બેન્ચમાર્ક અનક્વોન્ટાઇઝ્ડ checkpoint માટે લેબ-જણાવેલા છે.