ሳንሱር-አልባው የInkling ሞዴል API

በጌትዌያችን ላይ ካሉት አስራ ሁለት ሞዴሎች አብዛኞቹ ጽሑፍ-ብቻ ናቸው። አራቱ ግን አይደሉም፣ ከእነዚያ አራት መካከልም Inkling የተለየ ቦታ ይይዛል፦ ምስሉ የችግሩ ከባዱ ክፍል ሆኖ ግን በጀቱ ወደ ዋና ሞዴል የማይደርስበት ጊዜ የምትደርሱበት የእይታ ሞዴል ነው። ይህ ካርድ መሠረቱ ከየት እንደመጣ፣ W4A16-AUTOROUND-REAP ቅጥያው በእሱ ላይ ያደረገውን፣ በAPI ገጽታ ላይ የሚያደርገውንና የማያደርገውን፣ እና — ታማኝ ለመሆን — በተመሳሳዩ ካታሎግ ውስጥ ያለ ርካሽ ሞዴል የተሻለ ምርጫ የሚሆነውን ጊዜ ይሸፍናል።

01Inkling ምንድን ነው፣ ማንስ ገነባው?

Inkling ከThinking Machines Lab የመጣ የመጀመሪያው ክፍት-ክብደት ሞዴል ነው፣ በሐምሌ 15, 2026 የታተመ። እንደ ብዙዎቹ "ክፍት" ተብለው እንደተቀመጡ ልቀቶች ሳይሆን፣ ሙሉ ተውራጅ ክብደቶች በHugging Face ላይ እና ከመጀመሪያው ቀን ጀምሮ በtransformers, SGLang, vLLM እና llama.cpp ውስጥ ድጋፍ ይዞ ወጣ — በእኛ መሰል መሠረተ ልማት ላይ ጨርሶ ሊሮጥ የቻለውም በዚህ ነው። ዋና ዋና ቁጥሮቹ፣ ከThinking Machines ራሳቸው የልቀት ቁሳቁሶች፦

ያ ሳሳ የኤክስፐርቶች ድብልቅ አቀማመጥ ነው፦ 66 decoder ንብርብሮች በ6,144 ድብቅ መጠን፣ የመጀመሪያዎቹ ሁለቱ ጥቅጥቅ ያሉ፣ የቀሩት 64ቱ ደግሞ 256 የተመሩ ኤክስፐርቶችን ከ2 የጋራ ኤክስፐርቶች ጋር የሚይዙ፣ በአንድ ቶክን 6 የተመሩ ኤክስፐርቶች ንቁ ሆነው። በግምት 4% የመለኪያዎቹ በማንኛውም ቶክን ላይ ይነሳሉ — ይህም ወደ ትሪሊዮን የተጠጋ መለኪያ ያለውን ሞዴል ጨርሶ ለማገልገል ተግባራዊ የሚያደርገው ነው።

ለመሰየም የሚያንሱ ሁለት ሥነ ሕንጻዊ ምርጫዎች አሉ። ትኩረቱ የተጠላለፈ ነው — 55 ንብርብሮች sliding-window ትኩረት በ512-ቶክን መስኮት ላይ ከ11 ዓለም-አቀፍ ንብርብሮች ጋር፣ በ5:1 ተደጋጋሚ ዘይቤ። Inklingም RoPEን አይጠቀምም፦ የተማረ፣ ግብዓት-ጥገኛ የአንጻራዊ-ቦታ ዝንባሌን ይጠቀማል፣ ከkey/value projectionsና residual ቅርንጫፎች ላይ ካሉ አጭር causal convolutionsም ጋር። የSebastian Raschka ሥነ ሕንጻ ማስታወሻዎች ሁለቱንም ከመደበኛው 2026 የ2026 ቀመር እውነተኛ መውጣት ብለው ይለያሉ። ሥልጠናው ለትላልቅ ማትሪክስ መለኪያዎች Muonን፣ ለቀሩት ደግሞ Adamን ተጠቅሟል፣ ከዚያም በድህረ-ሥልጠና ውስጥ ከ30 ሚሊዮን በላይ asynchronous RL rollouts።

ለAPI ተጠቃሚ የሚያገለግለው ነጥብ ትሪቪያው አይደለም። ይልቁንም ይህ በ45 ትሪሊዮን ቶክኖች ላይ የሠለጠነ፣ ጽሑፍ፣ ምስሎች፣ ኦዲዮና ቪዲዮ የሚሸፍን frontier-ደረጃ፣ ተፈጥሮዊ ብዙ-ዘዴ መሠረት መሆኑ ነው — ኋላ ላይ የእይታ አስማሚ የተለጠፈበት የጽሑፍ ሞዴል አይደለም። ምስሎች በአራት-ንብርብር ተዋረዳዊ MLP patchifier በኩል እንደ 40×40 ፒክሰል ቁርጥራጮች ይኮድናሉ፣ ከጽሑፍ ጋርም በተመሳሳዩ decoder ውስጥ በአንድነት ይሠራሉ። የእይታ ግንዛቤ በቅድመ-ሥልጠናው ዓላማ ውስጥ ነበር።

02W4A16-AUTOROUND-REAP ማለት ምን ማለት ነው?

በዚያ ቅጥያ ውስጥ ሦስት የተለያዩ ዘዴዎች ተደራርበዋል፣ የተለያዩ ሥራዎችም ይሠራሉ። ማወቅ ተገቢ ነው፣ ምክንያቱም ይህ ቅጥያ በAPIያችን ላይ በምትጠሩት ሞዴልና Thinking Machines ባሳተመው checkpoint መካከል ያለው ትልቁ ልዩነት ስለሆነ።

REAP — ማንም ወዳልደረሰባቸው ኤክስፐርቶች መከርከም

REAP ከCerebras Research (arXiv 2510.13999, ለICLR 2026 የተቀበለ) የመጣ Router-weighted Expert Activation Pruning ነው። በ256 ኤክስፐርቶች በአንድ ንብርብር ውስጥ ባለ MoE ውስጥ መሪው ሥራውን በእኩል አይከፋፍልም፦ አንዳንድ ኤክስፐርቶች ያለማቋረጥ ይመታሉ፣ ሌሎቹ ግን እምብዛም ይነሳሉ፣ ሲነሱም ትንሽ አስተዋፅኦ ያደርጋሉ። REAP እያንዳንዱን ኤክስፐርት በሁለቱም በመሪው በር እሴቶችና በኤክስፐርቱ አክቲቬሽን ኖርሞች ላይ ያስመዘግባል — ብዙ ጊዜ የተመረጠ ግን ትንሽ-መጠን ያላቸው ዝማኔዎችን የሚያበረክት ኤክስፐርት፣ የመመረጡ ብዛት ከሚጠቁመው ያነሰ ዋጋ አለው — እና ከኳንታይዜሽን በፊት ዝቅተኛ-ጎላነት ያላቸውን በአንድ-ጥይት ይጥላል።

ከይበልጥ ተወዳጅ ከሆነው ኤክስፐርት ማዋሃድ ይልቅ መከርከምን የምንጠቀምበት ምክንያት ሁለቱ በሥራ ዓይነት ስለሚለያዩ ነው። ማዋሃድ በdiscriminative መለኪያዎች ላይ ተወዳዳሪ ይመስላል፣ በgenerative ላይ ግን ይፈርሳል። የREAP ደራሲዎች ትክክለኛ ሰዎች APIን ለሚገዙት ሥራ ዓይነት — የኮድ ውህደት፣ መሣሪያ መጥራት፣ ብዙ-ዙር ማመዛዘን — ከ50% በላይ የመጨመቅ ምጣኔዎች ላይ፣ ከ20B እስከ 1T መለኪያ ካላቸው ሞዴሎች ድረስ፣ መከርከም ጥራትን በተሻለ እንደሚጠብቅ ይዘግባሉ። ማዋሃድ የመሪውን ስፔሻላይዜሽን ያጠፋል፤ መከርከም ግን የተረፉትን ኤክስፐርቶችና በመካከላቸው ያለውን ራውቲንግ ሳይነካ ይተዋል።

AutoRound — የት ማጠጋጋት እንዳለበት መማር

AutoRound የIntel post-training ኳንታይዜሽን ዘዴ ነው (arXiv 2309.05516, እንደ SignRound የታተመ)። ዋህ ኳንታይዜሽን እያንዳንዱን ክብደት ወደ ቅርቡ ተወካይ 4-ቢት እሴት ያጠጋግጋል — ተገቢ ነባሪ ግን በመጠን ላይ መጥፎ ውሳኔ ነው፣ የማጠጋጋት ስህተቶች ራሳቸውን ችለው ስላልሆኑ በ66-ንብርብር ቁልል ውስጥ ስለሚከማቹ። AutoRound የማጠጋጋቱን ውሳኔ እንደ ማመቻቸት ነገር ይይዘዋል፦ signed gradient descent ያለ ድጋሚ ሥልጠና የquantization-aware training ትክክለኛነትን እየተዋሰ በጥቂት መቶ ደረጃዎች ላይ የማጠጋጋት አቅጣጫንና የክብደት መቁረጫ ወሰኖችን በአንድነት ያስተካክላል። Intel በጣም ትልቅ ትርፍ በጽንፍ ዝቅተኛ-ቢት ቅንብሮች ላይ፣ ተወዳዳሪ ጠርዝም በINT4 ላይ እንደሚመዘገብ ይዘግባል።

W4A16 — ቢቶቹ የት እንደሚሄዱ

W4A16 የቁጥር ቅርጹ ነው፦ 4-ቢት ክብደቶች፣ 16-ቢት አክቲቬሽኖች። በ975B ሞዴል ውስጥ ማህደረ ትውስታን የሚቆጣጠሩት ክብደቶች ወደ በግምት አንድ-አራተኛ የBF16 አሻራ ይቀንሳሉ፣ ስሌቱ ግን በ16 ቢት ይቀራል። ያ ክፍፍል ለእይታ ሞዴል በተለይ ይጠቅማል፦ አክቲቬሽን-ኳንታይዝ የተደረጉ ስልቶች የምስል ግንዛቤ በሚደገፍበት ጥቃቅን የቁጥር ሥራ ላይ በትክክል ይጎዳሉ — ትንሽ የዘንግ መለያ ማንበብ፣ በሥዕላዊ መግለጫ ውስጥ ቀጭን መስመር መፍታት፣ ሁለት ተመሳሳይ ጥላዎችን መለየት። አክቲቬሽኖችን በ16 ቢት ማቆየት bandwidth ያስከፍላል ግን የእይታ የሥራ ጫና በሚያስተውለው ቦታ ትክክለኛነትን ይመልሳል።

ተደራርበው፣ ሦስቱ ትልቁ መሠረት ላይ ከምንጠቀምበት ኃይለኛ 3BIT-REAP ደረጃ የጥራት ገደል ሳይኖረው የሚገጥምና ፈጣን ሆኖ የሚቆይ ሞዴል ይሰጣሉ። ዋጋው የሚያንጸባርቀው ያንን ልውውጥ ነው።

03እይታ፦ እምቢታ-የሌለው የምስል ትንተና API

Inkling ከKimi-K3, Kimi-K2.6 እና MiniMax-M3 ጎን በካታሎጋችን ውስጥ ካሉት አራት እይታ-ችሎታ ካላቸው ሞዴሎች አንዱ ነው። የመሠረቱ የታተመ የእይታ ውጤት፣ ከThinking Machines ልቀት፣ 73.3% በMMMU Pro (Standard 10) እና 78.1% በCharXiv ማመዛዘን ጥያቄዎች ነው — ሞዴሉ ገበታው ላይ Python እንዲያሮጥ ሲፈቀድለት ወደ 82.0% ይወጣል። እነዚያ ላብራቶሪው ራሱ ላልተኳንታይዝ checkpointው ያቀረባቸው ቁጥሮች ናቸው፤ የቤተሰቡን ጣሪያ እንደሆኑ ውሰዷቸው እንጂ የግንባታችንን መለኪያ አድርገው አትውሰዷቸው።

CharXiv ላይ መቆየት ተገቢ ነው፣ ምክንያቱም ሰዎች OCR አገልግሎት ሳይሆን የእይታ APIን የሚገዙበትን ምክንያት ስለሚያሳይ። በሳይንሳዊ ገበታዎች ላይ ማመዛዘንን ይፈትናል — ከዘንግ ላይ እሴት ማንበብ፣ ሁለት ተከታታዮችን ማነጻጸር፣ ዝንባሌ ተገልብጦ ማየት። "በዚህ ምስል ውስጥ ምን ጽሑፍ አለ" ሳይሆን "ይህ ሥዕላዊ መግለጫ ምን ይላል፣ ይህ ማለቱስ ይቆማል ወይ" ነው። ምስል ወደ ትንሽ captioner ከመላክ ይልቅ ወደ 975B ማመዛዘኛ ሞዴል መላክን የሚያጸድቀው ይህ ነው።

ምስል መላክ ተራ ከOpenAI ጋር ተኳሃኝ ሥራ ነው — በ/v1/chat/completions ላይ image_url ይዘት ክፍል፣ በ/v1/messages ላይ Anthropic-ዘይቤ image ብሎክ፣ ወይም ተመጣጣኙ በ/v1/responses ላይ። ሦስቱም ዘይቤዎች ወደ ተመሳሳዮቹ ክብደቶች ይደርሳሉ፣ ሦስቱም ስትሪም ያደርጋሉ፤ ነባሩ SDKያችሁ የሚናገረውን ውሰዱ። የተሠራ ምሳሌ በክፍል 09 ውስጥ ነው።

ሳንሱር-አልባው ክፍል ለእይታ ከጽሑፍ ይልቅ የበለጠ ትርጉም ይሰጣል። በእይታ የመዳረሻ ነጥብ ፊት ያለ የእምቢታ ንብርብር ያልተለመደ ግትር ነው፣ ምክንያቱም ብዙ ጊዜ ሞዴሉ ስለጥያቄው ከማመዛዘኑ በፊት ምስሉን ስለሚመድብ። ሕጋዊ ሥራ ያለማቋረጥ ይያዛል፦ በክሊኒካዊ ማስታወሻ ቧንቧ ውስጥ ያለ የቁስል ፎቶግራፍ፣ በክስተት ሪፖርት ውስጥ ያለ የፎረንሲክ ስክሪንሾት፣ ለትችት ጽሑፍ ትንተና እየተደረገ ያለ የፊልም ፍሬም፣ የሕክምና ስካን፣ ስም የያዘ የሰነድ ምስል። Inkling በጌትዌያችን ላይ ከፊቱ እንዲህ ያለ classifier የለውም። የላካችሁትን ተመልክቶ የጠየቃችሁትን ጥያቄ ይመልሳል። ያ ነው ምርቱ።

04የተዋቀረ ውጤት፦ response_format አዎ፣ json_schema አይደለም

Inkling ከካታሎጉ አብዛኛው ክፍል ያነሰ ችሎታ ያለበት ብቸኛ ቦታ ይህ ነው፣ ይህንንም በምርት ውስጥ ከማግኘት ይልቅ አስቀድሞ ማቀድ ይሻላል።

ችሎታ	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
እይታ (የምስል ግብዓት)	አለ	አለ	አለ	የለም
response_format	አለ	አለ	አለ	የለም
json_schema	የለም	አለ	አለ	የለም
መሣሪያ መጥራት	አለ	አለ	አለ	አለ
የማመዛዘን ጥረት	አለ	አለ	አለ	አለ

response_format: {"type": "json_object"} ይሠራል — በሰዋስው ትክክለኛ JSON ታገኛላችሁ። የማታገኙት ግን ራሳችሁ በምታቀርቡት schema ላይ grammar-የተገደበ decoding ነው፣ sampler ከመዋቅራችሁ ጋር የሚጋጭ ቶክን እንዳያመነጭ በአካል የሚከለከልበት። የመስክ ስሞች፣ የenum አባልነትና የተፈላጊ-ቁልፍ መገኘት የሞዴሉ ምርጫ ናቸው እንጂ ዋስትና አይደሉም።

ከዚያ ጋር ለመኖር ሦስት መንገዶች፣ በአስተማማኝነት ከፍ እያለ የተደረደሩ፦

1. schemaውን ጠይቁና አረጋግጡ። schemaውን በስርዓት ጥያቄው ውስጥ እንደ ቀጥተኛ JSON አስቀምጡ፣ response_formatን ወደ json_object አስተካክሉ፣ ውጤቱንም በራሳችሁ በኩል አረጋግጡ። ማረጋገጫ ሲወድቅ የማረጋገጫውን የስህተት መልእክት ጨምራችሁ ድጋሚ ሞክሩ። ርካሽ ነው፣ ይሠራል፣ የድጋሚ-ሙከራ በጀት ይፈልጋል።
2. የመሣሪያ ትርጓሜን እንደ schema ተጠቀሙ። መሣሪያ መጥራት የተደገፈ ነው፣ የተግባር parameter ትርጓሜም JSON Schema ነው። ለምትፈልጉት ማውጣት የተሰየመ አንድ መሣሪያ ግለጹ፣ አስገድዱት፣ argumentsውንም አንብቡ። ይህ በInkling ላይ አብዛኛውን ጊዜ በጣም ጠንካራው አማራጭ ነው፣ ምንም ተጨማሪ ዋጋም አያስከፍልም።
3. ሥራውን በሁለት ሞዴል ላይ ክፈሉ። Inkling እይታውንና ማመዛዘኑን በንባብ እንዲያደርግ አድርጉ፣ ከዚያም ያንን ንባብ ለመዋቀር ደረጃ ትክክለኛ json_schema ካለው MiMo-V2.5-W8A16 በ$0.50 / $2.00 ላይ አስተላልፉ። ሁለት ጥሪዎች ናቸው፣ ሁለተኛው ግን ርካሽ፣ በቅርጽ ትክክለኛ ነው፣ ብልህ መሆን የሚያስፈልገው ሞዴልም ምስሉን ያየው ነው።

አማራጭ 3 ለከፍተኛ-መጠን ማውጣት ቧንቧ መስመር የምንመክረው ንድፍ ነው። ተጨማሪ ዋጋውን የምትከፍሉት ለሚያስፈልገው ደረጃ ብቻ ነው።

05የዋጋ ተጨማሪው ምን ይገዛል?

በሚሊዮን ቶክን $1.42 ግብዓት / $6.07 ውጤት ላይ Inkling ሆን ተብሎ በካታሎጋችን መካከል ተቀምጧል። ከአስራ ሁለቱ ሞዴሎች ስድስቱ በ$0.50 / $2.00 ወለል ላይ ናቸው። Kimi-K3 — ዋና ሞዴሉ፣ እይታ-ችሎታም ያለው — $3.83 / $19.12 ነው። Inkling ከወለሉ በግምት ሦስት እጥፍ በውጤት ላይ ነው፣ ከዋና ሞዴሉም በግምት አንድ-ሦስተኛ ነው።

የውጤት ዋጋ፣ በ1M ቶክን USD፣ Shannon AI Gateway ወደ ዝርዝር ተመኖች፣ መስከረም 2026። የባር ስፋት ከዋጋ ጋር ተመጣጣኝ ነው፤ ረዘም ማለት ይበልጥ ውድ ማለት ነው።

ያ ተጨማሪ ዋጋ የት ራሱን እንደሚገዛ — እና የት እንደማይገዛ — ታማኝ ንባብ እነሆ።

የሥራ ጫና	Inklingን ተጠቀሙ?	ለምን
ገበታ / ሥዕላዊ መግለጫ ማመዛዘን	አዎ	የታተሙት CharXivና MMMU Pro ቁጥሮች ይህ መሠረት እጅግ የበረታበት ናቸው።
ስክሪንሾት-የሚነዱ ወኪሎች	አዎ	እይታ ከመሣሪያ መጥራትና ከ262K ታሪክ ጋር በአንድ ሞዴል ውስጥ፣ ያለ ርክክብ።
ሥዕላዊ መግለጫ ያላቸው ረጅም ሰነዶች	አዎ	ጽሑፍና ምስሎች አንድ decoderና አንድ የዐውድ መስኮት ይጋራሉ።
ተራ ጽሑፍ ማመንጨት	የለም	ስድስት ሞዴሎች በ$0.50 / $2.00 ይህን ያደርጋሉ። ፈጽሞ ለማትጠሩት የእይታ መንገድ እየከፈላችሁ ናችሁ።
ብዙ-መጠን የschema ማውጣት	የለም	የjson_schema የለውም። MiMo-V2.5 ርካሽና የተገደበ ነው።
ፍጹም የፊት-ጠፍጣፋ ጣሪያ	የለም	Kimi-K3 ዋና ሞዴሉ ነው። ጣሪያው ገደቡ ከሆነ 3.1×ውን ክፈሉ።
ርካሹ ሊገኝ የሚችል እይታ	የለም	MiniMax-M3 እይታ በ$0.50 / $2.00 አለው። ከዚያ ጀምሩ፣ ጥራት ካስፈለገ ግን ወደ ላይ ውጡ።

ያንን እንደ routing ደንብ ውሰዱት እንጂ እንደ ደረጃ አይደለም። Inkling ከግብይት ገጽ ከሚናገረው ይልቅ ጠባብ የሆነ የሥራ ንጣፍ ላይ ትክክለኛ ነው፣ በዚያ ንጣፍ ውስጥም በዋጋ ለማሸነፍ ይከብዳል። ውጪው ላይ ግን ርካሹን ሞዴል ልንሸጣችሁና እናንተንም ልናቆያችሁ እንመርጣለን።

06የ262K ዐውድ መስኮት፣ እና በእውነት የሚገባው

በጌትዌዩ ላይ ያሉት አስራ ሁለቱም ሞዴሎች የ262,144-ቶክን የግብዓት ዐውድና በአንድ ጥያቄ የ16,384-ቶክን ከፍተኛ ውጤት ይዘው ይቀርባሉ። በሆነ ምክንያት ወጥ ነው፦ የዐውድ አያያዝ በኮዳችሁ ውስጥ ፈጽሞ በሞዴል-ተኮር ቅርንጫፍ መሆን የለበትም፣ inklingን በMiniMax-M3 በኮንፊግ ፋይል ውስጥ መቀየርም የሚገባውን ነገር በጸጥታ መቀየር የለበትም።

ከታተመው መሠረት ጋር ያለውን ልዩነት ልብ በሉ፦ Thinking Machines Inklingን በ1,048,576 ቶክኖች ይመዘግባል፣ እኛ ደግሞ ከዚያ የ262K ቁራጭ እናገለግላለን። እውነተኛ የአንድ-ሚሊዮን-ቶክን ነጠላ-ጥያቄ የሥራ ጫና ካላችሁ፣ ለዚያ ትክክለኛው የመዳረሻ ነጥብ አይደለንም፣ ከመገንባታችሁ በፊት ብታውቁትም ይሻላል።

በ262K ልኬት፦ ከሥዕላዊ መግለጫዎቹ ጋር የ400-ገጽ ቴክኒካዊ PDF፣ መካከለኛ-መጠን ያለው codebase፣ ብዙ ሰዓት ትራንስክሪፕት፣ ወይም ደርዘን የመሣሪያ ውጤቶችንና ጥቂት ስክሪንሾቶችን የያዘ ረጅም የወኪልነት ክፍለ ጊዜ — እያንዳንዳቸው በአንድ ጥያቄ ውስጥ ይገባሉ። በእይታ ሞዴል ላይ፣ ምስሎችም ዐውድን እንደሚበሉ አስታውሱ፤ ጥቅጥቅ ያለ ስክሪንሾት ነጻ አይደለም፣ ፍሬሞችን የሚያስተላልፍ ክፍለ ጊዜም ጽሑፍ-ብቻ ከሆነው ይልቅ ፈጣኑን መስኮት ይሞላል። ሥነ ሕንጻው ለዚህ ጥሩ ነው፦ የ5:1 sliding-window-ወደ-ዓለም-አቀፍ ዘይቤ ማለት አብዛኞቹ ንብርብሮች በ512-ቶክን ጎረቤትነት ውስጥ ትኩረት ይሰጣሉ ማለት ነው፣ ዓለም-አቀፍ ንብርብሮችም በየጊዜው ረጅም-ርቀት አወቃቀርን መልሰው ይጎትታሉ።

07የማመዛዘን ጥረት፦ ስታስቡ ብቻ ስለማሰብ መክፈል

Inkling ሊቆጣጠሩት የሚችል የማመዛዘን ጥረትን ያጋልጣል — በካታሎጉ ውስጥ ካሉት የበለጠ ጠቃሚ መቆጣጠሪያዎች አንዱ። የላይኛው ሞዴል ከnone እና minimal ጀምሮ በlow፣ medium፣ high፣ xhigh በኩል እስከ max ድረስ ደረጃዎችን ይቀበላል፣ በሦስቱም ዘይቤዎች ላይም በመደበኛው reasoning_effort parameter በኩል ይታያል።

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ይህ ጥርስ ያለው የወጪ ማንሻ ነው፣ ምክንያቱም የማመዛዘን ቶክኖች እንደ ውጤት ቶክኖች በሚሊዮን $6.07 ስለሚከፈሉ። Thinking Machines በTerminal Bench 2.1 ላይ Inkling በግምት አንድ-ሦስተኛ ቶክኖች እየተጠቀመ ከNemotron 3 Ultra ጋር ተመጣጣኝ ውጤት እንደሚደርስ ይዘግባል — የቶክን ብቃት የጥረት ስርዓቱ የተነገረ ንድፍ ግብ ነው እንጂ አጋጣሚ አይደለም።

በተግባር፦ መልሱ በምስሉ ውስጥ ላለና ምንም ሰንሰለተ-ግምት ለማያስፈልገው መግለጫ ማድረግ፣ ምድብ ማድረግና ቀጥተኛ ማውጣት ላይ low ወይም minimal አሮጡ። highና ከዚያ በላይ ደግሞ ለገበታ ማመዛዘን፣ ለብዙ-ደረጃ የእይታ ንጽጽርና የተሳሳተ መካከለኛ ደረጃ ውድ ለሚሆንበት የወኪልነት ተራ ያዙት። አብዛኞቹ ቡድኖች parameterውን ፈጽሞ አያስተካክሉትም፣ ብዙ-እጥፍ የውጤት-ዋጋ ልዩነትንም ጠረጴዛው ላይ ይተዉታል።

08"ሳንሱር-አልባ" እዚህ ማለት ምን ማለት ነው — እና ምን ማለት እንዳልሆነ

በተጨባጭ፦ ይህን ሞዴል የእምቢታ ንብርብር ወይም በውጤት ላይ ማጣሪያ ሳይኖረው እናሮጣለን። ጥያቄያችሁን አንብቦ ሞዴሉ መልስ ይስጥ አይስጥ የሚወስን classifier የለም፣ ምላሹንም ከመፍሰሱ በፊት የሚያነብ የለም። ሞዴሉ እርግጠኛ ባልሆነበት ወይም እውቀት በጎደለው ጊዜ፣ ይህን ይናገራል — ያ የሞዴሉ ነው እንጂ የፖሊሲ አይደለም። የማታገኙት ግን ለተራ-ተጠቃሚ ምርት ገደብ-ውጪ ተብሎ በሚታሰብ ርዕስ ላይ ራስ-ገዝ ውድቅ ነው።

ለእይታ ይህ ሙሉው ዋጋ ነው። በእይታ APIዎች ፊት ያሉ የምስል classifierዎች ትክክለኛ አይደሉም፣ የሐሰት-አዎንታዊ መጠንም እጅግ ችሎታውን በሚያስፈልገው ሙያዊ ሥራ ላይ በጣም ይወድቃል፦ የደህንነት ምርምር፣ ክሊኒካዊ ዐውዶች፣ ጋዜጠኝነትና ፎረንሲክስ፣ የፊልምና የጥበብ ትችት፣ የሚቆጣጠረውን ነገር ማየት ያለበት የmoderation መሣሪያ። በምድብ የሚከለክል የመዳረሻ ነጥብ ከእነዚህ ውስጥ አንዱንም በአስተማማኝ ሁኔታ ማገልገል አይችልም።

ሁለት ታማኝ ማስጠንቀቂያዎች። መጀመሪያ፣ Thinking Machines ለራሱ ማጣቀሻ ማሰማራት የደህንነት ግምገማዎችን ያሳትማል — 78.0% በFORTRESS adversarial፣ 95.9% በFORTRESS benign፣ 98.6% በStrongREJECT። እነዚያ ቁጥሮች የእነሱን ቁልል ከእነሱ ጥበቃዎች ጋር ይገልጻሉ። የእኛን አይገልጹም፣ እንደዚያም አድርገን አንጠቅሳቸውም። እነዚያ ቁጥሮች በከፊል የሚለኩትን ንብርብር አውጥተነዋል፤ ያ ነው ምርቱ፣ እናም ኃላፊነቱ።

ሁለተኛ፣ "የእምቢታ ንብርብር የለም" ማለት "ደንብ የለም" ማለት አይደለም። Shannon Lab LLC በResponsible Use Policy እና በተፈጻሚው የአሜሪካ ሕግ ስር ይሠራል። classifierን ማውጣት ውሳኔን ወደ እናንተ ያዞራል እንጂ አያጠፋውም። በዚህ ላይ የምትገነቡ ከሆነ፣ ከመስፋፋታችሁ በፊት ፖሊሲውን አንብቡ።

09ለመጀመር

ተመሳሳይ base URL፣ ተመሳሳይ ቁልፍ፣ ሦስት ዘይቤዎች። ኮዳችሁ ቀድሞውኑ OpenAI, Anthropic ወይም Responses APIን የሚጠራ ከሆነ፣ የሞዴል ሕብረቁምፊውን መቀየር ብዙ ጊዜ ፍልሰቱ ሁሉ ነው።

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

ሙሉ parameter ማጣቀሻ፣ የ/v1/messages እና /v1/responses ቅርጾች፣ የስትሪሚንግ ክስተት ቅርጸቶች እና ቀጥታ playground በAPI ሰነዶች ውስጥ ናቸው። ለቀሩት አስራ አንድ ሞዴሎች ያሉ የሞዴል ካርዶች በShannon Research ውስጥ ናቸው።

የመሠረት ቁጥሮች ላልተኳንታይዝ Inkling checkpoint የThinking Machines Lab የታተሙ ቁጥሮች ናቸው፣ የቤተሰቡን ጣሪያ እንጂ የእኛን የኳንታይዝ ግንባታ አይገልጹም። ዋጋዎችና የችሎታ ባንዲራዎች የShannon AI Gateway ወደ ዝርዝር እሴቶች ናቸው እስከ መስከረም 2026።

10በተደጋጋሚ የሚጠየቁ ጥያቄዎች

---

ምንጮች፦ Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes። የመሠረት መለኪያዎች ላልተኳንታይዝ checkpoint የላብራቶሪ-ሪፖርት ናቸው።