ဆင်ဆာမဲ့ Inkling Model API
Thinking Machines ၏ 975B Inkling Mixture-of-Experts foundation ကို vision ရနိုင်သော၊ ဆင်ဆာမဲ့ build အဖြစ် — 262K context, ရုပ်ပုံ input, ငြင်းပယ်မှု အလွှာ မရှိ။
TL;DR
inkling-W4A16-AUTOROUND-REAP သည် Thinking Machines Lab က 2026 ခုနှစ် ဇူလိုင် 15 တွင် ထုတ်ပြန်ခဲ့သော parameter 975B ရှိ open-weights MoE ဖြစ်သည့် Inkling ကို ကျွန်ုပ်တို့ deploy လုပ်ထားခြင်း ဖြစ်သည်။ ၎င်းသည် vision ရနိုင်ပြီး tool calling နှင့် reasoning-effort ထိန်းချုပ်မှုကို လုပ်ဆောင်ကာ ကျွန်ုပ်တို့ ကိုယ်ပိုင် GPU ကလပ်စတာပေါ်တွင် ငြင်းပယ်မှု အလွှာနှင့် output filtering မရှိဘဲ လည်ပတ်သည်။ Context သည် 262,144 token၊ output token 16,384 အထိ ရနိုင်သည်။ ဈေးနှုန်းမှာ 1M token လျှင် $1.42 in / $6.07 out ဖြစ်ပြီး — ကျွန်ုပ်တို့ $0.50 အနိမ့်ဆုံးနှုန်း tier ထက် မြင့်ပြီး Kimi-K3 flagship ထက် အများကြီး နိမ့်သော mid-premium ဖြစ်သည်။ စီစဉ်ထားသင့်သည့် သတိပေးချက်တစ်ခု — response_format ကို ထောက်ပံ့သော်လည်း json_schema ကို မထောက်ပံ့ပါ။
ကျွန်ုပ်တို့ gateway ပေါ်ရှိ မော်ဒယ် တစ်ဆယ့်နှစ်ခုအနက် အများစုသည် စာသားသာ ဖြစ်သည်။ လေးခုကမူ ထိုသို့ မဟုတ်ပါ၊ ထို လေးခုအနက် Inkling သည် အထူးနေရာတစ်ခု ကိုင်ထားသည် — ပုံသည် ပြဿနာ၏ ခက်ခဲသောအပိုင်း ဖြစ်နေသော်လည်း budget သည် flagship တစ်ခုသို့ မရောက်နိုင်သည့်အခါ ရွေးချယ်ရမည့် vision မော်ဒယ် ဖြစ်သည်။ ဤ card တွင် foundation ဘယ်ကလာသလဲ၊ W4A16-AUTOROUND-REAP နောက်ဆက်တွဲက ၎င်းအား ဘာလုပ်ခဲ့သလဲ၊ API surface ၌ ဘာလုပ်ပေးမည်၊ ဘာလုပ်မပေးမည်၊ ရိုးသားစွာဆိုရလျှင် ကက်တလောက်တူတူထဲမှ ပိုစျေးသက်သာသော မော်ဒယ်တစ်ခုက ဘယ်အချိန် ပိုကောင်းသော ရွေးချယ်မှု ဖြစ်သလဲ တို့ကို ဖော်ပြထားသည်။
01Inkling ဆိုသည်မှာ ဘာလဲ၊ ဘယ်သူက တည်ဆောက်ခဲ့သလဲ။
Inkling သည် 2026 ခုနှစ် ဇူလိုင် 15 တွင် ထုတ်ဝေခဲ့သော Thinking Machines Lab ၏ ပထမဆုံး open-weights မော်ဒယ် ဖြစ်သည်။ "open" ဟု ဖော်ပြထားသော ထုတ်ပြန်ချက်များ အများစုနှင့် မတူဘဲ၊ ၎င်းသည် Hugging Face ပေါ်တွင် download လုပ်နိုင်သော weight အပြည့်အစုံနှင့် transformers, SGLang, vLLM နှင့် llama.cpp တို့တွင် day-zero support ဖြင့် ထုတ်ဝေခဲ့သည် — ၎င်းက ကျွန်ုပ်တို့ကဲ့သို့ infrastructure ပေါ်တွင် လည်ပတ်နိုင်စေခဲ့သော အကြောင်းရင်း ဖြစ်သည်။ Thinking Machines ၏ ကိုယ်ပိုင် ထုတ်ပြန်ချက် ပစ္စည်းများမှ headline ကိန်းဂဏန်းများ —
၎င်းသည် sparse Mixture-of-Experts layout တစ်ခု ဖြစ်သည် — decoder layer 66 ခု၊ hidden size 6,144၊ ပထမနှစ်ခုမှာ dense ဖြစ်ပြီး ကျန် 64 ခုတွင် routed expert 256 ခု ထပ် shared expert 2 ခု ပါဝင်ကာ token တစ်ခုလျှင် routed expert 6 ခု active ဖြစ်သည်။ parameter ခန့်မှန်း 4% သည် token တစ်ခုချင်းစီပေါ်တွင် fire လုပ်ပြီး — ၎င်းက parameter trillion နီးပါးရှိသော မော်ဒယ်တစ်ခုကို ဝန်ဆောင်မှုပေးနိုင်လောက်အောင် လုပ်ပေးသော အကြောင်းရင်း ဖြစ်သည်။
ဗိသုကာလက်ရာဆိုင်ရာ ဆုံးဖြတ်ချက် နှစ်ခုသည် အမည်တပ်ထိုက်လောက်အောင် ထူးခြားသည်။ Attention သည် interleave ပြုလုပ်ထားသည် — global layer 11 ခုနှင့် ယှဉ်လျှင် token 512 window ၌ sliding-window attention layer 55 ခုသည် 5:1 ထပ်ခါထပ်ခါ ပုံစံဖြစ်သည်။ Inkling သည် RoPE ကို အသုံးမပြုပါ — key/value projection များနှင့် residual branch များပေါ်ရှိ short causal convolution များနှင့်အတူ လေ့လာထားသော၊ input-dependent relative-position bias ကို အသုံးပြုသည်။ Sebastian Raschka ၏ ဗိသုကာလက်ရာ မှတ်ချက်များက ဤနှစ်ခုစလုံးကို 2026 ခုနှစ် standard recipe ၏ တကယ့်ခွဲထွက်မှုများအဖြစ် အမှတ်အသားပြုထားသည်။ Training သည် parameter matrix ကြီးများအတွက် Muon ကို၊ ကျန်သည်များအတွက် Adam ကို အသုံးပြုပြီး၊ post-training တွင် asynchronous RL rollout သန်း 30 ကျော် လုပ်ဆောင်ခဲ့သည်။
API သုံးစွဲသူတစ်ဦးအတွက် အရေးကြီးသည့်အချက်မှာ trivia မဟုတ်ပါ။ ၎င်းသည် စာသား၊ ရုပ်ပုံ၊ အသံနှင့် video ကို ဖြတ်သန်း token 45 trillion ဖြင့် လေ့ကျင့်ထားသော frontier-scale, native multimodal foundation တစ်ခု ဖြစ်ကြောင်းသာ ဖြစ်သည် — နောက်ပိုင်း ဆက်တွဲထည့်ထားသော vision adapter ပါသော စာသားမော်ဒယ်တစ်ခု မဟုတ်ပါ။ ရုပ်ပုံများကို layer လေးခုရှိ hierarchical MLP patchifier တစ်ခုမှတဆင့် 40×40 pixel patch များအဖြစ် encode လုပ်ပြီး decoder တစ်ခုတည်းထဲတွင် စာသားနှင့်အတူ တစ်ပြိုင်နက် တွက်ချက်သည်။ Visual နားလည်မှုသည် pretraining objective ထဲတွင် ရှိနေခဲ့သည်။
02W4A16-AUTOROUND-REAP ဆိုသည်မှာ ဘာကို ဆိုလိုသလဲ။
ထို နောက်ဆက်တွဲထဲတွင် သီးခြား နည်းပညာသုံးခု ပုံထပ်ထားသည်၊ ၎င်းတို့သည် အလုပ်ကွဲပြားစွာ လုပ်ဆောင်ကြသည်။ နားလည်ထားထိုက်သည် — အဘယ်ကြောင့်ဆိုသော် ဤ နောက်ဆက်တွဲသည် သင် ကျွန်ုပ်တို့ API ပေါ်တွင် ခေါ်ဆိုသော မော်ဒယ်နှင့် Thinking Machines ထုတ်ဝေခဲ့သော checkpoint ကြား အကြီးမားဆုံး ကွာဟချက် ဖြစ်သောကြောင့်ဖြစ်သည်။
REAP — ဘယ်သူမှ route မလုပ်တော့သော expert များကို ဖြုတ်ချခြင်း
Cerebras Research (arXiv 2510.13999, ICLR 2026 လက်ခံခြင်း) မှ REAP သည် Router-weighted Expert Activation Pruning ဖြစ်သည်။ layer တစ်ခုလျှင် expert 256 ခု ရှိသော MoE တစ်ခုတွင် router သည် အလုပ်ကို တညီတညွတ်တည်း ဖြန့်ဝေမပေးပါ — expert အချို့ကို အမြဲတမ်းနီးပါး ရွေးချယ်ပြီး အချို့ကမူ ရှားရှားပါးပါးသာ fire လုပ်ကာ fire လုပ်သောအခါလည်း အနည်းငယ်သာ ပါဝင်သည်။ REAP သည် expert တစ်ခုစီကို router ၏ gate value နှင့် expert ၏ activation norm နှစ်ခုစလုံးဖြင့် အမှတ်ပေးသည် — မကြာခဏ ရွေးချယ်ခံရသော်လည်း magnitude သေးငယ်သော update များသာ ပါဝင်ခဲ့သည့် expert တစ်ခုသည် ၎င်း၏ ရွေးချယ်ခံရသည့် အရေအတွက်က ညွှန်ပြသည်ထက် အရေးမကြီးပါ — ၎င်းနှင့် quantization မလုပ်မီ saliency အနည်းဆုံးများကို တစ်ကြိမ်တည်းဖြင့် ဖယ်ရှားသည်။
ပိုမို ခေတ်စားသော expert merging ထက် pruning ကို ကျွန်ုပ်တို့ သုံးရသည့် အကြောင်းရင်းမှာ ထိုနှစ်ခုသည် task အမျိုးအစားအလိုက် ကွဲထွက်သွားသောကြောင့် ဖြစ်သည်။ Merging သည် discriminative benchmark များပေါ်တွင် ယှဉ်ပြိုင်နိုင်လိုက်ကာ generative benchmark များပေါ်တွင် ပြိုကွဲသွားသည်။ REAP ရေးသားသူများက parameter 20B မှ 1T အထိ မော်ဒယ်များတစ်လျှောက် compression ratio 50% ကျော်တွင်ပင် လူများ API တစ်ခု ဝယ်ယူသည့် workload များတိတိကျကျ — code synthesis, tool calling, multi-turn reasoning — ၌ pruning က အရည်အသွေးကို ပိုကောင်းစွာ ထိန်းထားနိုင်ကြောင်း ဖော်ပြထားသည်။ Merging သည် router ၏ specialization ကို ဖျက်ဆီးသော်လည်း pruning ကမူ ကျန်ရှိသော expert များနှင့် ၎င်းတို့ကြားရှိ routing ကို မပျက်စီးစေဘဲ ချန်ထားသည်။
AutoRound — ဘယ်နေရာမှာ round လုပ်ရမည်ကို လေ့လာခြင်း
AutoRound သည် Intel ၏ post-training quantization method (arXiv 2309.05516, SignRound အဖြစ် ထုတ်ဝေထားသည်) ဖြစ်သည်။ Naive quantization သည် weight တစ်ခုစီကို ကိုယ်စားပြုနိုင်သော အနီးဆုံး 4-bit တန်ဖိုးသို့ round ချသည် — ၎င်းသည် ကျိုးကြောင်းညီသော default တစ်ခုဖြစ်သော်လည်း scale ကြီးလျှင် ညံ့ဖျင်းသော ရွေးချယ်မှုတစ်ခု ဖြစ်သည် — အဘယ်ကြောင့်ဆိုသော် rounding error များသည် သီးခြားစီ မဟုတ်ဘဲ layer 66 ခု stack တစ်လျှောက် စုစည်းလာသောကြောင့်ဖြစ်သည်။ AutoRound သည် rounding ဆုံးဖြတ်ချက်ကို optimize လုပ်ရမည့်အရာအဖြစ် ဆက်ဆံသည် — signed gradient descent သည် retraining မလုပ်ဘဲ quantization-aware training ၏ accuracy ကို ငှားယူ၍ step ရာနှင့်ချီ၌ rounding direction နှင့် weight clipping range များကို အတူတကွ ချိန်ညှိသည်။ Intel က extreme low-bit setting များတွင် အကြီးမားဆုံး တိုးတက်မှုကိုနှင့် INT4 ၌ ယှဉ်ပြိုင်နိုင်သော အားသာချက်တစ်ခုကို ဖော်ပြထားသည်။
W4A16 — bit များ ဘယ်ဆီသို့ ရောက်သွားသလဲ
W4A16 သည် ကိန်းဂဏန်း ပုံစံ ဖြစ်သည် — 4-bit weight, 16-bit activation။ parameter 975B ရှိသော မော်ဒယ်တစ်ခုတွင် memory ကို လွှမ်းမိုးသော weight များသည် BF16 footprint ၏ လေးပုံတစ်ပုံခန့်သို့ ကျဉ်းသွားသော်လည်း arithmetic သည် 16 bit ၌ ဆက်ရှိသည်။ ထို ခွဲထွက်မှုသည် vision မော်ဒယ်တစ်ခုအတွက် အထူးသဖြင့် အရေးကြီးသည် — activation-quantized scheme များသည် ရုပ်ပုံ နားလည်မှုက မှီခိုနေသော အသေးစားနက် ကိန်းဂဏန်းဆိုင်ရာ အလုပ် — axis label သေးငယ်တစ်ခု ဖတ်ခြင်း၊ diagram တစ်ခုရှိ လိုင်းပါးတစ်ခုကို ခွဲခြားခြင်း၊ အရောင်တူညီသော အရိပ်နှစ်ခုကို ခွဲခြားခြင်း — ကို ထိခိုက်စေသည်။ activation များကို 16 bit ၌ ထားခြင်းသည် bandwidth ကုန်ကျသော်လည်း vision workload တစ်ခုက သတိပြုမိသည့်နေရာ၌ တိကျမှုကို ပြန်ရရှိစေသည်။
သုံးမျိုးလုံး ပုံထပ်လိုက်လျှင် foundation အကြီးမားဆုံးများတွင် ကျွန်ုပ်တို့ သုံးသော ပြင်းထန်သော 3BIT-REAP tier ၏ အရည်အသွေး ပြိုကျမှု မရှိဘဲ ဝင်ကျပြီး မြန်ဆန်စွာ ဆက်ထားသော မော်ဒယ်တစ်ခု ရရှိသည်။ ၎င်းသည် ဈေးနှုန်း ရောင်ပြန်ဟပ်နေသော ကုန်သွယ်မှု ဖြစ်သည်။
03Vision — ငြင်းပယ်မှု မရှိသော ရုပ်ပုံ ခွဲခြမ်းစိတ်ဖြာမှု API
Inkling သည် Kimi-K3, Kimi-K2.6 နှင့် MiniMax-M3 တို့နှင့်အတူ ကျွန်ုပ်တို့ ကက်တလောက်ရှိ vision ရနိုင်သော မော်ဒယ် လေးခုအနက် တစ်ခု ဖြစ်သည်။ Thinking Machines ၏ ထုတ်ပြန်ချက်မှ base မော်ဒယ်၏ ထုတ်ဝေထားသော vision ရလဒ်များမှာ MMMU Pro (Standard 10) ၌ 73.3% နှင့် CharXiv reasoning မေးခွန်းများ ၌ 78.1% ဖြစ်ပြီး — မော်ဒယ်ကို chart ပေါ်တွင် Python run ခွင့်ပြုလျှင် 82.0% သို့ တက်လာသည်။ ၎င်းတို့သည် quantize မလုပ်ရသေးသော checkpoint အတွက် laboratory ၏ ကိုယ်ပိုင်ကိန်းများ ဖြစ်ပြီး ၎င်းတို့ကို မိသားစု၏ အမြင့်ဆုံးအဆင့်အဖြစ်သာ ယူပါ၊ ကျွန်ုပ်တို့ build ၏ တိုင်းတာမှုအဖြစ် မယူပါနှင့်။
CharXiv သည် အသေးစိတ် ဆင်ခြင်ထိုက်သည့်အချက် ဖြစ်သည် — အဘယ်ကြောင့်ဆိုသော် ၎င်းသည် OCR ဝန်ဆောင်မှုအစား vision API တစ်ခုကို လူများ ဝယ်ယူရသည့် အကြောင်းရင်းနှင့် ကိုက်ညီနေသောကြောင့်ဖြစ်သည်။ ၎င်းသည် သိပ္ပံဆိုင်ရာ chart များအပေါ် reasoning ကို စမ်းသပ်သည် — axis တစ်ခုမှ တန်ဖိုးတစ်ခု ဖတ်ခြင်း၊ series နှစ်ခုကို နှိုင်းယှဉ်ခြင်း၊ ခေတ်ရေစီးကြောင်း ပြောင်းပြန်ဖြစ်သွားခြင်းကို သတိပြုမိခြင်း။ "ဤရုပ်ပုံထဲတွင် ဘာစာသား ရှိသလဲ" မဟုတ်ဘဲ "ဤ figure က ဘာ claim ပြုသလဲ၊ ထို claim မှန်ကန်ပါသလား" ဖြစ်သည်။ ၎င်းသည် captioner သေးငယ်တစ်ခုအစား ပုံတစ်ခုကို parameter 975B ရှိ reasoning မော်ဒယ်တစ်ခုသို့ ပို့ခြင်းကို ခိုင်လုံစေသော အချက် ဖြစ်သည်။
ရုပ်ပုံတစ်ခု ပို့ခြင်းသည် ပုံမှန် OpenAI-compatible အလုပ် ဖြစ်သည် — /v1/chat/completions ပေါ်ရှိ image_url content part တစ်ခု၊ /v1/messages ပေါ်ရှိ Anthropic ပုံစံ image block တစ်ခု၊ သို့မဟုတ် /v1/responses ပေါ်ရှိ ညီမျှသောအရာ။ dialect သုံးမျိုးလုံးသည် weight တူတူကို ချိတ်ဆက်ပြီး သုံးမျိုးလုံး stream လုပ်နိုင်သည်; သင့်ရှိပြီးသား SDK က သိပြီးသားနည်းလမ်းကိုသာ ရွေးချယ်ပါ။ ဥပမာတစ်ခုကို section 09 တွင် တွေ့နိုင်သည်။
ဆင်ဆာမဲ့ ဖြစ်ခြင်းသည် စာသားထက် vision အတွက် ပိုအရေးကြီးသည်။ vision endpoint တစ်ခုပေါ်ရှိ ငြင်းပယ်မှု အလွှာတစ်ခုသည် ထူးထူးဆန်းဆန်း ရိုင်းသည် — အဘယ်ကြောင့်ဆိုသော် ၎င်းသည် ပုံမှန်အားဖြင့် မော်ဒယ်က တောင်းဆိုချက်ကို reasoning မလုပ်မီ ရုပ်ပုံကို classify လုပ်ချသောကြောင့် ဖြစ်သည်။ တရားဝင် အလုပ်များ အမြဲတမ်းနီးပါး ဖမ်းမိခံရသည် — ဆေးဘက်ဆိုင်ရာ မှတ်စု pipeline ရှိ ဒဏ်ရာ ဓာတ်ပုံ၊ incident write-up ရှိ forensic screenshot၊ ဝေဖန်ရေး ဆောင်းပါးတစ်ခုအတွက် ခွဲခြမ်းစိတ်ဖြာနေသော ရုပ်ရှင် frame တစ်ခု၊ ဆေးဘက်ဆိုင်ရာ scan တစ်ခု၊ အမည်တစ်ခု ပါဝင်နေသော document ၏ ရုပ်ပုံတစ်ခု။ ကျွန်ုပ်တို့ gateway ပေါ်ရှိ Inkling ၏ ရှေ့တွင် ထိုကဲ့သို့ classifier မရှိပါ။ သင်ပို့သောအရာကို ကြည့်ကာ သင်တောင်းဆိုသော မေးခွန်းကို ဖြေဆိုသည်။ ၎င်းသည်ကိုယ်တိုင် ထုတ်ကုန် ဖြစ်သည်။
04Structured output — response_format ရှိ၊ json_schema မရှိ
ဤသည်ကား Inkling သည် ကက်တလောက်အများစုထက် နည်းနည်း စွမ်းရည်နည်းသော တစ်ခုတည်းသော နေရာ ဖြစ်ပြီး production ထဲတွင် တွေ့ရှိမည့်အစား ၎င်းအတွက် စီစဉ်ထားရန် ပိုကောင်းသည်။
| Capability | inkling | Kimi-K2.6 | MiMo-V2.5 | Laguna-S-2.1 |
|---|---|---|---|---|
| Vision (ရုပ်ပုံ input) | ရှိသည် | ရှိသည် | ရှိသည် | မရှိပါ |
response_format | ရှိသည် | ရှိသည် | ရှိသည် | မရှိပါ |
json_schema | မရှိပါ | ရှိသည် | ရှိသည် | မရှိပါ |
| Tool calling | ရှိသည် | ရှိသည် | ရှိသည် | ရှိသည် |
| Reasoning effort | ရှိသည် | ရှိသည် | ရှိသည် | ရှိသည် |
response_format: {"type": "json_object"} က အလုပ်လုပ်သည် — syntactically မှန်ကန်သော JSON ကို ရရှိသည်။ သင် မရရှိသည့်အရာမှာ သင်ပေးအပ်ထားသော schema တစ်ခုနှင့် ဆန့်ကျင်သော token တစ်ခု ထုတ်ပေးခြင်းမှ sampler ကို ရုပ်ပိုင်းဆိုင်ရာ တားမြစ်ထားသော grammar-constrained decoding ဖြစ်သည်။ Field အမည်များ, enum membership နှင့် လိုအပ်သော key ရှိမှု သည် အာမခံချက် တစ်ခု မဟုတ်ဘဲ မော်ဒယ်၏ ရွေးချယ်မှု ဖြစ်သည်။
ယုံကြည်စိတ်ချရမှု အစဉ်လိုက် ၎င်းနှင့် ကိုယ်တိုင် ရင်ဆိုင်ရန် နည်းလမ်း သုံးခု —
- Schema ကို prompt ပေါ်တွင် ရေးပြီး validate လုပ်ပါ။ schema ကို system prompt ထဲတွင် literal JSON အဖြစ် ထည့်ပြီး
response_formatကိုjson_objectသို့ သတ်မှတ်ကာ response ကို သင့်ဘက်မှ validate လုပ်ပါ။ validation failure ဖြစ်လျှင် validator ၏ error message ကို ထပ်ပေါင်း၍ ပြန်စမ်းပါ။ ဈေးသက်သာပြီး အလုပ်လုပ်သည်၊ retry budget လိုအပ်သည်။ - Tool ဖော်ပြချက်တစ်ခုကို schema အဖြစ် သုံးပါ။ Tool calling ကို ထောက်ပံ့ထားပြီး function တစ်ခု၏ parameter ဖော်ပြချက်သည် JSON Schema တစ်ခု ဖြစ်သည်။ သင်လိုချင်သော extraction အတွက် tool တစ်ခုတည်းကို အမည်ပေးထားကာ force လုပ်ပြီး argument များကို ဖတ်ပါ။ ၎င်းသည် Inkling ပေါ်တွင် အားသာဆုံး ရွေးချယ်မှု ဖြစ်ပြီး ထပ်ဆောင်း ကုန်ကျစရိတ် မရှိပါ။
- အလုပ်ကို မော်ဒယ် နှစ်ခုအတွင်း ခွဲပါ။ Inkling ကို vision နှင့် reasoning ကို prose ဖြင့် လုပ်ခိုင်းပြီး ထို prose ကို structuring pass အတွက် တကယ့်
json_schemaပါသောMiMo-V2.5-W8A16ကို $0.50 / $2.00 ဖြင့် ပေးအပ်ပါ။ call နှစ်ခု ဖြစ်သော်လည်း ဒုတိယ call သည် ဈေးသက်သာပြီး ပုံစံ deterministic ဖြစ်ကာ ပုံကို မြင်ရသော မော်ဒယ်သည် လိမ္မာရမည့် တစ်ခုတည်းသော မော်ဒယ် ဖြစ်သည်။
ရွေးချယ်စရာ 3 သည် volume များသော extraction pipeline မည်သည်အတွက်မဆို ကျွန်ုပ်တို့ အကြံပြုလိုသော ပုံစံ ဖြစ်သည်။ လိုအပ်သော step အတွက်သာ premium ကို ပေးပါ။
05ဈေးနှုန်း premium သည် ဘာကို ဝယ်ပေးသနည်း။
1M token လျှင် $1.42 in / $6.07 out ၌ Inkling သည် ကျွန်ုပ်တို့ ကက်တလောက်၏ အလယ်တွင် တမင်ရှိနေသည်။ မော်ဒယ် တစ်ဆယ့်နှစ်ခုအနက် ခြောက်ခုသည် $0.50 / $2.00 အနိမ့်ဆုံးနှုန်း၌ ရှိသည်။ vision ရနိုင်သော flagship ဖြစ်သည့် Kimi-K3 သည် $3.83 / $19.12 ဖြစ်သည်။ Inkling သည် output ၌ အနိမ့်ဆုံးနှုန်း၏ ခန့်မှန်း သုံးဆနှင့် flagship ၏ ခန့်မှန်း သုံးပုံတစ်ပုံ ဖြစ်သည်။
Output ဈေးနှုန်း, 1M token လျှင် USD, Shannon AI Gateway list rate, 2026 စက်တင်ဘာ။ Bar အကျယ်သည် ဈေးနှုန်းနှင့် အချိုးကျသည်; ရှည်လေ ဈေးကြီးလေ ဖြစ်သည်။
ထို premium ဘယ်နေရာမှာ တန်ဖိုးရှိကြောင်းနှင့် မရှိကြောင်း ရိုးသားသော ဖတ်ရှုချက် ဤနေရာတွင် ရှိသည်။
| Workload | Inkling ကို သုံးလား။ | ဘာကြောင့် |
|---|---|---|
| Chart / diagram reasoning | ဟုတ်သည် | ထုတ်ဝေထားသော CharXiv နှင့် MMMU Pro ကိန်းများသည် ဤ foundation ၏ အားအကောင်းဆုံးနေရာ ဖြစ်သည်။ |
| Screenshot ဖြင့် ဆောင်ရွက်သော agent များ | ဟုတ်သည် | Vision ထပ် tool calling ထပ် history 262K ကို handoff မလိုဘဲ မော်ဒယ်တစ်ခုတည်းထဲ။ |
| Figure ပါသော document ရှည်များ | ဟုတ်သည် | စာသားနှင့် ရုပ်ပုံများသည် decoder တစ်ခုနှင့် context window တစ်ခုကို ဝေမျှသည်။ |
| ရိုးရိုးစာသား ထုတ်လုပ်ခြင်း | မဟုတ်ပါ | $0.50 / $2.00 ၌ ရှိသော မော်ဒယ် ခြောက်ခုက ဤအလုပ်ကို လုပ်ပေးသည်။ သင် ဘယ်တော့မှ မခေါ်ဆိုသော vision path အတွက် ငွေပေးနေခြင်း ဖြစ်သည်။ |
| Volume များသော schema extraction | မဟုတ်ပါ | json_schema မရှိ။ MiMo-V2.5 ပိုစျေးသက်သာပြီး constrained ဖြစ်သည်။ |
| လှေကားထစ် အမြင့်ဆုံးအဆင့် အကြွင်းမဲ့ | မဟုတ်ပါ | Kimi-K3 သည် flagship ဖြစ်သည်။ လှေကားထစ်ကသာ ကန့်သတ်ချက်ဖြစ်လျှင် 3.1× ကို ပေးပါ။ |
| ဖြစ်နိုင်သမျှ ဈေးအသက်သာဆုံး vision | မဟုတ်ပါ | MiniMax-M3 တွင် vision $0.50 / $2.00 ၌ ရှိသည်။ ထိုနေရာမှ စတင်ပြီး အရည်အသွေးက တွန်းအားပေးမှသာ တက်ပါ။ |
၎င်းကို routing rule တစ်ခုအဖြစ် ဖတ်ပါ၊ ranking တစ်ခုအဖြစ် မဟုတ်ပါ။ Inkling သည် marketing စာမျက်နှာတစ်ခုက ဆိုမည့်အရာထက် ကျဉ်းသော အလုပ် band တစ်ခုအတွက်သာ မှန်ကန်ပြီး ထို band အတွင်းတွင် ဈေးနှုန်းအရ အနိုင်ရရန် ခက်ခဲသည်။ ထိုအပြင်တွင် ကျွန်ုပ်တို့သည် ဈေးသက်သာသော မော်ဒယ်တစ်ခုကို ရောင်းချပြီး သင့်ကို ဆက်ထားလိုသည်။
json_schema ကို အပြည့်အဝ ထောက်ပံ့သည် — သင် အဆင့်တက်မီ သွားထိုက်သော သဘာဝကျသော ပထမနေရာ ဖြစ်သည်။ ဆင်ဆာမဲ့ MiniMax-M3 model card တွင် နှစ်ခု လက်တွေ့ ဘယ်လို ကွဲပြားသလဲ ကြည့်ရှုနိုင်သည်။
06262K context window နှင့် အမှန်တကယ် ဝင်ကျသည့်အရာ
gateway ပေါ်ရှိ မော်ဒယ် တစ်ဆယ့်နှစ်ခုလုံးကို 262,144-token input context နှင့် request တစ်ခုလျှင် 16,384-token output အများဆုံးဖြင့် ဝန်ဆောင်မှုပေးထားသည်။ တမင် တညီတည်းထားသည် — context ကိုင်တွယ်မှုသည် သင့် code ထဲတွင် မော်ဒယ်တစ်ခုချင်းစီအတွက် branch တစ်ခု ဘယ်တော့မှ မဖြစ်သင့်ပါ၊ config file တစ်ခုထဲရှိ inkling ကို MiniMax-M3 ဖြင့် အစားထိုးလိုက်ခြင်းက ဝင်ကျသည့်အရာကို တိတ်တဆိတ် ပြောင်းလဲသင့်ပါ။
ထုတ်ဝေထားသော foundation နှင့် ကွာဟချက်ကို သတိပြုပါ — Thinking Machines က Inkling ကို token 1,048,576 ဟု စာရွက်စာတမ်းပြုစုထားပြီး ကျွန်ုပ်တို့ ၎င်းမှ 262K slice ကိုသာ ဝန်ဆောင်မှုပေးသည်။ သင့်တွင် တကယ့် request တစ်ခုတည်း token သန်း ရှိသော workload ရှိလျှင် ကျွန်ုပ်တို့သည် ၎င်းအတွက် endpoint မဟုတ်ပါ၊ တည်ဆောက်မီ သိထားသည်က ပိုကောင်းသည်။
262K ၌ အကြမ်းအားဖြင့် ပမာဏ ခန့်မှန်းရလျှင် — figure ပါသော page 400 ရှိ နည်းပညာဆိုင်ရာ PDF တစ်ခု၊ အလတ်စား codebase တစ်ခု၊ transcript နာရီများစွာ၊ သို့မဟုတ် tool ရလဒ် ဆယ်ချီပြီး screenshot လက်ဆုပ်လက်ဝေးတစ်ခု သယ်ဆောင်ထားသော agentic session ရှည်တစ်ခု — တစ်ခုစီသည် request တစ်ခုအတွင်း ဝင်ကျသည်။ vision မော်ဒယ်တစ်ခုပေါ်တွင် ရုပ်ပုံများသည် context ကို ပါဝါစားသည်ကို သတိရပါ; screenshot dense တစ်ခုသည် အခမဲ့ မဟုတ်ပါ၊ frame များကို stream ပေးသော session တစ်ခုသည် စာသားသာ session တစ်ခုထက် window ကို ပိုမြန်စွာ ဖြည့်သည်။ ဗိသုကာလက်ရာသည် ၎င်းကို ကောင်းစွာ လိုက်လျောညီထွေ ဖြစ်စေသည် — 5:1 sliding-window-to-global ပုံစံသည် layer အများစုသည် token 512 neighborhood အတွင်း attend လုပ်ပြီး global layer များက ကာလကြာအောင် ဖွဲ့စည်းပုံကို ပုံမှန် ပြန်ဆွဲသွင်းသည်ဟု ဆိုလိုသည်။
07Reasoning effort — လိုအပ်ချိန်မှသာ တွေးခြင်းအတွက် ငွေပေးခြင်း
Inkling သည် ထိန်းချုပ်နိုင်သော reasoning effort ကို ပြသသည် — ကက်တလောက်ရှိ အသုံးဝင်ဆုံး knob များထဲမှ တစ်ခု ဖြစ်သည်။ upstream မော်ဒယ်သည် none နှင့် minimal မှစ၍ low, medium, high, xhigh ဖြတ်ကာ max အထိ level များကို လက်ခံပြီး dialect သုံးမျိုးလုံးတွင် standard reasoning_effort parameter မှတဆင့် ပေါ်လွင်စေသည်။
{
"model": "inkling-W4A16-AUTOROUND-REAP",
"reasoning_effort": "low",
"messages": [ ... ]
}ဤသည်ကား နက်နဲသော ကုန်ကျစရိတ် lever တစ်ခု ဖြစ်သည် — အဘယ်ကြောင့်ဆိုသော် reasoning token များကို 1M လျှင် $6.07 ၌ output token များအဖြစ် ဘေလ်ကုန်ကျစေသောကြောင့်ဖြစ်သည်။ Terminal Bench 2.1 ပေါ်တွင် Inkling သည် token ခန့်မှန်း သုံးပုံတစ်ပုံသာ သုံးလျက် Nemotron 3 Ultra နှင့် နှိုင်းယှဉ်နိုင်သော အမှတ်များ ရရှိကြောင်း Thinking Machines ဖော်ပြထားသည် — token ထိရောက်မှုသည် effort စနစ်၏ ဖော်ပြထားသော ဒီဇိုင်း ရည်မှန်းချက် တစ်ခုဖြစ်ပြီး မတော်တဆ ဖြစ်ရပ် မဟုတ်ပါ။
လက်တွေ့တွင် — အဖြေသည် ရုပ်ပုံထဲတွင် ရှိပြီး inference ကွင်းဆက် မလိုအပ်သည့် caption ချခြင်း, classification နှင့် ရိုးရှင်းသော extraction အတွက် low သို့မဟုတ် minimal ကို run ပါ။ chart reasoning, multi-step visual နှိုင်းယှဉ်ခြင်းနှင့် intermediate step တစ်ခု မှားလျှင် ကုန်ကျစရိတ်ကြီးသော agentic turn များအတွက် high နှင့် ထို့အထက်ကို ထားသိုပါ။ အဖွဲ့အများစုသည် ဤ parameter ကို လုံးဝ မသတ်မှတ်ဘဲ output-cost ကွာဟချက် အဆများစွာကို စားပွဲပေါ်တွင် ချန်ထားကြသည်။
08ဤနေရာတွင် "ဆင်ဆာမဲ့" ဆိုသည်မှာ ဘာကို ဆိုလိုသလဲ — ဘာကို မဆိုလိုသလဲ
တိကျစွာ ပြောရလျှင် — ကျွန်ုပ်တို့သည် ဤမော်ဒယ်ကို ငြင်းပယ်မှု အလွှာနှင့် output ပေါ်တွင် filtering မရှိဘဲ လည်ပတ်သည်။ classifier မည်သည်မျှ သင့် prompt ကို ဖတ်ပြီး မော်ဒယ်က အဖြေပေးခွင့် ရှိမရှိ ဆုံးဖြတ်ခြင်း မရှိပါ၊ response ကို stream မလုပ်မီ ဖတ်ခြင်းလည်း မရှိပါ။ မော်ဒယ်သည် မသေချာသည် သို့မဟုတ် အသိပညာ ကင်းမဲ့နေသည့်အခါ ၎င်းကို ပြောဆိုသည် — ၎င်းသည် မော်ဒယ်ဖြစ်ပြီး policy မဟုတ်ပါ။ သင် မရရှိမည့်အရာမှာ consumer ထုတ်ကုန်တစ်ခုက ကန့်သတ်ထားသော ခေါင်းစဉ်တစ်ခုပေါ်တွင် ပရိတ္တိကတ် ငြင်းပယ်ခြင်းသာ ဖြစ်သည်။
Vision အတွက် ၎င်းသည် တန်ဖိုးအလုံးစုံ ဖြစ်သည်။ vision API များ၏ ရှေ့တွင် ရှိသော ရုပ်ပုံ classifier များသည် တိကျမှုမရှိတတ်ပြီး false-positive rate သည် ထိုစွမ်းရည်ကို လိုအပ်ဆုံး ပရော်ဖက်ရှင်နယ် အလုပ်ပေါ်တွင် အပြင်းထန်ဆုံး ကျရောက်တတ်သည် — လုံခြုံရေး သုတေသန, ဆေးဘက်ဆိုင်ရာ context, journalism နှင့် forensics, ရုပ်ရှင်နှင့် အနုပညာ ဝေဖန်ရေး, moderate လုပ်နေသော အရာကို ကြည့်ရမည့် moderation tool။ အမျိုးအစားအလိုက် ငြင်းပယ်သော endpoint တစ်ခုသည် ၎င်းတို့ထဲမှ မည်သည်ကိုမျှ ယုံကြည်စိတ်ချစွာ ဝန်ဆောင်မှု မပေးနိုင်ပါ။
ရိုးသားသော သတိပေးချက် နှစ်ခု ရှိသည်။ ပထမအချက် — Thinking Machines သည် ၎င်းတို့၏ reference deployment အတွက် ဘေးကင်းရေး အကဲဖြတ်မှုများကို ထုတ်ဝေထားသည် — FORTRESS adversarial ၌ 78.0%, FORTRESS benign ၌ 95.9%, StrongREJECT ၌ 98.6%။ ထိုကိန်းများသည် ငြင်းပယ်ကာကွယ်စောင့်ရှောက်မှု ၎င်းတို့ ၏ stack ကို ဖော်ပြထားခြင်း ဖြစ်ပြီး ကျွန်ုပ်တို့၏ stack ကို ဖော်ပြထားခြင်း မဟုတ်ပါ၊ ကျွန်ုပ်တို့လည်း ၎င်းတို့ဖြစ်သကဲ့သို့ ကိုးကားမည် မဟုတ်ပါ။ ကျွန်ုပ်တို့သည် ထိုကိန်းများ တစ်စိတ်တပိုင်း တိုင်းတာသော အလွှာကို ဖယ်ရှားခဲ့ပြီး — ၎င်းသည် ထုတ်ကုန်ဖြစ်ပြီး တာဝန်လည်း ဖြစ်သည်။
ဒုတိယအချက် — "ငြင်းပယ်မှု အလွှာ မရှိ" ဆိုသည်မှာ "စည်းမျဉ်း မရှိ" ဟု မဆိုလိုပါ။ Shannon Lab LLC သည် Responsible Use Policy နှင့် သက်ဆိုင်ရာ US ဥပဒေအောက်တွင် လည်ပတ်သည်။ classifier တစ်ခု ဖယ်ရှားခြင်းသည် ဆုံးဖြတ်ချက်ချသည့်အခွင့်ကို သင့်ဆီသို့ ပြောင်းရွှေ့ခြင်းသာ ဖြစ်ပြီး ၎င်းကို ဖျက်ပစ်ခြင်း မဟုတ်ပါ။ ဤအရာပေါ်တွင် တည်ဆောက်နေလျှင် scale မတိုးမီ policy ကို ဖတ်ပါ။
09စတင်ခြင်း
base URL တူ၊ key တူ၊ dialect သုံးမျိုး။ သင့် code က OpenAI, Anthropic သို့မဟုတ် Responses API ကို ဆက်လက် ခေါ်ဆိုနေလျှင် model string ကို ပြောင်းလိုက်ခြင်းသည် ပုံမှန်အားဖြင့် migration တစ်ခုလုံး ဖြစ်သည်။
from openai import OpenAI
client = OpenAI(
base_url="https://api.shannon-ai.com/v1",
api_key=SHANNON_API_KEY,
)
stream = client.chat.completions.create(
model="inkling-W4A16-AUTOROUND-REAP",
messages=[{"role": "user", "content": [
{"type": "text", "text": "What does this figure actually show?"},
{"type": "image_url", "image_url": {"url": image_data_url}},
]}],
reasoning_effort="high",
max_tokens=4000,
stream=True,
)
for chunk in stream:
delta = chunk.choices[0].delta.content
if delta:
print(delta, end="")Parameter အပြည့်အစုံ အညွှန်း, /v1/messages နှင့် /v1/responses ပုံစံများ, streaming event format များနှင့် တိုက်ရိုက် playground တစ်ခုကို API documentation တွင် ကြည့်ရှုနိုင်သည်။ ကျန် မော်ဒယ် တစ်ဆယ့်တစ်ခု၏ model card များကို Shannon Research တွင် ကြည့်ရှုနိုင်သည်။
အထက်ပါ foundation နှင့် method ကိန်းဂဏန်းတိုင်းသည် အများသိ primary source တစ်ခုမှ ဖြစ်သည်။ ဤနေရာရှိ မည်သည့်အရာမှ Shannon-တိုင်းတာသော benchmark မဟုတ်ပါ၊ ကျွန်ုပ်တို့လည်း ၎င်းကဲ့သို့ ဖော်ပြမည် မဟုတ်ပါ — မူရင်းများကို စစ်ဆေးပါ။
Foundation ကိန်းဂဏန်းများသည် quantize မလုပ်ရသေးသော Inkling checkpoint အတွက် Thinking Machines Lab ၏ ထုတ်ဝေထားသော ကိန်းများ ဖြစ်ပြီး မိသားစု၏ အမြင့်ဆုံးအဆင့်ကို ဖော်ပြထားခြင်း ဖြစ်ကာ ကျွန်ုပ်တို့ quantize လုပ်ထားသော build အတွက် မဟုတ်ပါ။ ဈေးနှုန်းနှင့် capability flag များသည် 2026 စက်တင်ဘာအထိ Shannon AI Gateway list value များ ဖြစ်သည်။
10မေးလေ့ရှိသော မေးခွန်းများ
ဆင်ဆာမဲ့ Inkling model API ဆိုသည်မှာ ဘာလဲ။
Thinking Machines Lab က 2026 ခုနှစ် ဇူလိုင် 15 ရက်နေ့တွင် ထုတ်ပြန်ခဲ့သော parameter 975B ရှိသော open-weights MoE ဖြစ်သည့် Inkling ကို Shannon AI က deploy လုပ်ထားခြင်း ဖြစ်သည်။ ကျွန်ုပ်တို့သည် ၎င်းကို inkling-W4A16-AUTOROUND-REAP အဖြစ် ကိုယ်ပိုင် GPU ကလပ်စတာပေါ်တွင် 262,144-token context, ရုပ်ပုံ input, tool calling နှင့် reasoning effort ထိန်းချုပ်မှုတို့ဖြင့် ငြင်းပယ်မှု အလွှာနှင့် output filtering မရှိဘဲ ဝန်ဆောင်မှုပေးသည်။
Inkling သည် Shannon API ပေါ်တွင် ရုပ်ပုံ input ကို ထောက်ပံ့သလား။
ထောက်ပံ့သည် — ကက်တလောက်ရှိ vision ရနိုင်သော မော်ဒယ် လေးခုအနက် တစ်ခု ဖြစ်သည်။ /v1/chat/completions ပေါ်တွင် image_url content part တစ်ခု သို့မဟုတ် /v1/messages ပေါ်တွင် image block တစ်ခု ပို့ပါ။ ငြင်းပယ်မှု အလွှာ မရှိသောကြောင့် frame ထဲရှိအရာကို အမျိုးအစားအလိုက် ငြင်းပယ်မည့်အစား ဖော်ပြပေးသည်။
Inkling သည် json_schema structured output ကို ထောက်ပံ့သလား။
မထောက်ပံ့ပါ။ JSON-object mode အတွက် response_format က အလုပ်လုပ်သော်လည်း grammar-enforced json_schema ကမူ အလုပ်မလုပ်ပါ။ လိုအပ်လျှင် Kimi-K2.6 သို့မဟုတ် MiMo-V2.5 ကို သုံးပါ၊ သို့မဟုတ် Inkling ပေါ်တွင် forced tool ဖော်ပြချက်ကို သင့် schema အဖြစ် သုံး၍ သင့်ဘက်မှ validate လုပ်ပါ။
W4A16-AUTOROUND-REAP ဆိုသည်မှာ ဘာကို ဆိုလိုသလဲ။
4-bit weight များနှင့် 16-bit activation များ; AutoRound (Intel) သည် အနီးဆုံးတန်ဖိုးသို့ round လုပ်မည့်အစား signed gradient descent ဖြင့် rounding နှင့် clipping ကို လေ့လာသည်; REAP (Cerebras) သည် router gate value နှင့် activation norm ဖြင့် အမှတ်ပေးထားသော saliency နည်းသော MoE expert များကို one-shot pruning လုပ်သည်။
ဈေးနှုန်း မည်မျှ ကျပြီး premium သည် တန်ဖိုးရှိပါသလား။
1M token လျှင် $1.42 in / $6.07 out — ကျွန်ုပ်တို့ အနိမ့်ဆုံးနှုန်း tier ၏ ခန့်မှန်း 3× နှင့် Kimi-K3 flagship ၏ ခန့်မှန်း သုံးပုံတစ်ပုံ ဖြစ်သည်။ chart reasoning, screenshot agent များနှင့် figure များများပါသော document များအတွက် တန်ဖိုးရှိသည်။ ရိုးရိုးစာသား သို့မဟုတ် volume များသော schema extraction အတွက် တန်ဖိုးမရှိပါ။
Context window သည် ဘယ်လောက် ကြီးသလဲ။
request တစ်ခုလျှင် input token 262,144 နှင့် output token 16,384 ဖြစ်ပြီး မော်ဒယ် တစ်ဆယ့်နှစ်ခုလုံးတွင် တူညီသည်။ upstream foundation သည် token 1,048,576 ကို စာရွက်စာတမ်းပြုစုထားသော်လည်း ကျွန်ုပ်တို့ 262K slice ကိုသာ ဝန်ဆောင်မှုပေးသောကြောင့် context အပြုအမူသည် မော်ဒယ်တစ်ခုချင်းစီ၏ special case တစ်ခု လုံးဝ မဖြစ်ပါ။
ဆင်ဆာမဲ့ Inkling API ကို စမ်းသပ်ပါ
Vision, 262K context, API dialect သုံးမျိုး, ငြင်းပယ်မှု အလွှာ မရှိ။
API စာရွက်စာတမ်းများ ဖတ်ရှုရန် Model Card အားလုံးကို ကြည့်ရှုရန်Shannon Lab LLC · New Mexico, USA · ကျွန်ုပ်တို့ Responsible Use Policy အောက်တွင် လည်ပတ်ထားသည်
Sources: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes။ Foundation benchmark များသည် quantize မလုပ်ရသေးသော checkpoint အတွက် laboratory ဖော်ပြချက်များ ဖြစ်သည်။