API ໂມເດວ Inkling ບໍ່ເຊັນເຊີ

ໃນໂມເດວສິບສອງອັນເທິງ Shannon AI Gateway ຂອງພວກເຮົາ, ສ່ວນຫຼາຍເປັນຂໍ້ຄວາມຢ່າງດຽວ. ສີ່ອັນບໍ່ແມ່ນ, ແລະ ໃນບັນດາສີ່ອັນນັ້ນ Inkling ຢູ່ໃນຕຳແໜ່ງສະເພາະ: ໂມເດວການເບິ່ງເຫັນທີ່ທ່ານໃຊ້ເມື່ອຮູບພາບເປັນສ່ວນທີ່ຍາກຂອງບັນຫາ ແຕ່ງົບປະມານບໍ່ພໍສຳລັບເຮືອທຸງ. ບັດນີ້ຄອບຄຸມວ່າພື້ນຖານມາຈາກໃສ, ຄຳຕໍ່ທ້າຍ W4A16-AUTOROUND-REAP ເຮັດຫຍັງໃສ່ມັນ, ມັນເຮັດ ແລະ ບໍ່ເຮັດຫຍັງທີ່ໜ້າ API, ແລະ — ຢ່າງຊື່ສັດ — ເມື່ອໃດໂມເດວທີ່ຖືກກວ່າໃນແຄຕາລັອກດຽວກັນເປັນທາງເລືອກທີ່ດີກວ່າ.

01Inkling ຄືຫຍັງ, ແລະ ໃຜສ້າງມັນ?

Inkling ຄືໂມເດວນ້ຳໜັກເປີດອັນທຳອິດຈາກ Thinking Machines Lab, ເຜີຍແຜ່ວັນທີ 15 ກໍລະກົດ 2026. ຕ່າງຈາກການອອກຮຸ້ນສ່ວນຫຼາຍທີ່ວາງຕົວເປັນ "ເປີດ," ມັນມາພ້ອມນ້ຳໜັກເຕັມທີ່ດາວໂຫຼດໄດ້ເທິງ Hugging Face ແລະ ການຮອງຮັບຕັ້ງແຕ່ວັນທຳອິດໃນ transformers, SGLang, vLLM, ແລະ llama.cpp — ນັ້ນຄືເຫດຜົນທີ່ມັນສາມາດແລ່ນໄດ້ເທິງໂຄງລ່າງພື້ນຖານແບບຂອງພວກເຮົາເລີຍ. ຕົວເລກສຳຄັນ, ຈາກເອກະສານການອອກຮຸ້ນຂອງ Thinking Machines ເອງ:

ນັ້ນຄືໂຄງສ້າງ Mixture-of-Experts ແບບ sparse: 66 ຊັ້ນ decoder ຂະໜາດ hidden 6,144, ສອງຊັ້ນທຳອິດເປັນ dense, 64 ຊັ້ນທີ່ເຫຼືອມີຜູ້ຊ່ຽວຊານທີ່ຈັດເສັ້ນທາງ 256 ຄົນບວກຜູ້ຊ່ຽວຊານທີ່ໃຊ້ຮ່ວມກັນ 2 ຄົນ, ດ້ວຍຜູ້ຊ່ຽວຊານທີ່ຈັດເສັ້ນທາງ 6 ຄົນເປີດໃຊ້ຕໍ່ token. ປະມານ 4% ຂອງພາຣາມິເຕີເຮັດວຽກໃນແຕ່ລະ token — ນັ້ນຄືສິ່ງທີ່ເຮັດໃຫ້ໂມເດວທີ່ໃກ້ລ້ານລ້ານພາຣາມິເຕີສາມາດໃຫ້ບໍລິການໄດ້ຈິງ.

ການເລືອກໂຄງສ້າງສອງອັນແປກພຽງພໍທີ່ຈະກ່າວເຖິງ. Attention ຖືກສະຫຼັບກັນ — 55 ຊັ້ນຂອງ sliding-window attention ຄອບຄຸມໜ້າຕ່າງ 512 token ທຽບກັບ 11 ຊັ້ນ global, ໃນຮູບແບບຊ້ຳ 5:1. ແລະ Inkling ບໍ່ໃຊ້ RoPE: ມັນໃຊ້ relative-position bias ແບບຮຽນຮູ້ໄດ້ ແລະ ຂຶ້ນກັບ input, ຄຽງຄູ່ກັບ causal convolution ສັ້ນໆເທິງ key/value projection ແລະ residual branch. ບັນທຶກໂຄງສ້າງຂອງ Sebastian Raschka ຊີ້ໃຫ້ເຫັນທັງສອງຢ່າງເປັນການແຍກອອກຈາກສູດມາດຕະຖານປີ 2026 ຢ່າງແທ້ຈິງ. ການຝຶກໃຊ້ Muon ສຳລັບພາຣາມິເຕີ matrix ຂະໜາດໃຫຍ່ ແລະ Adam ສຳລັບສ່ວນທີ່ເຫຼືອ, ຈາກນັ້ນຕາມດ້ວຍ RL rollout ແບບບໍ່ຊິ້ງໂຄຣນັຍຫຼາຍກວ່າ 30 ລ້ານຄັ້ງໃນຂັ້ນຕອນ post-training.

ຈຸດສຳຄັນສຳລັບຜູ້ໃຊ້ API ບໍ່ແມ່ນເລື່ອງເລັກນ້ອຍພວກນີ້. ແຕ່ຄືວ່ານີ້ຄືພື້ນຖານຂະໜາດ frontier ທີ່ຫຼາຍໂໝດແບບໂດຍທຳມະຊາດ ຝຶກດ້ວຍ 45 ລ້ານລ້ານ token ຄອບຄຸມຂໍ້ຄວາມ, ຮູບພາບ, ສຽງ ແລະ ວິດີໂອ — ບໍ່ແມ່ນໂມເດວຂໍ້ຄວາມທີ່ຕິດ adapter ການເບິ່ງເຫັນເພີ່ມພາຍຫຼັງ. ຮູບພາບຖືກເຂົ້າລະຫັດເປັນ patch ຂະໜາດ 40×40 pixel ຜ່ານ patchifier MLP ແບບ hierarchical ສີ່ຊັ້ນ ແລະ ຖືກປະມວນຜົນຮ່ວມກັນກັບຂໍ້ຄວາມໃນ decoder ດຽວກັນ. ຄວາມເຂົ້າໃຈທາງສາຍຕາຢູ່ໃນເປົ້າໝາຍການຝຶກລ່ວງໜ້າ.

02W4A16-AUTOROUND-REAP ໝາຍຄວາມວ່າຫຍັງ?

ເຕັກນິກແຍກກັນສາມອັນຖືກປະສົມກັນຢູ່ໃນຄຳຕໍ່ທ້າຍນັ້ນ, ແລະ ແຕ່ລະອັນເຮັດວຽກທີ່ແຕກຕ່າງກັນ. ຄຸ້ມຄ່າທີ່ຈະເຂົ້າໃຈ, ເພາະຄຳຕໍ່ທ້າຍນີ້ຄືຄວາມແຕກຕ່າງທີ່ໃຫຍ່ທີ່ສຸດອັນດຽວລະຫວ່າງໂມເດວທີ່ທ່ານເອີ້ນຜ່ານ API ຂອງພວກເຮົາ ແລະ checkpoint ທີ່ Thinking Machines ເຜີຍແຜ່.

REAP — ການຕັດຜູ້ຊ່ຽວຊານທີ່ບໍ່ມີໃຜຈັດເສັ້ນທາງໄປຫາ

REAP ຄື Router-weighted Expert Activation Pruning, ຈາກ Cerebras Research (arXiv 2510.13999, ຖືກຮັບເຂົ້າ ICLR 2026). ໃນ MoE ທີ່ມີຜູ້ຊ່ຽວຊານ 256 ຄົນຕໍ່ຊັ້ນ router ບໍ່ໄດ້ແຈກຢາຍວຽກຢ່າງສະໝ່ຳສະເໝີ: ຜູ້ຊ່ຽວຊານບາງຄົນຖືກເອີ້ນຕະຫຼອດ, ບາງຄົນເຮັດວຽກໜ້ອຍ ແລະ ປະກອບສ່ວນໜ້ອຍເມື່ອຖືກເອີ້ນ. REAP ໃຫ້ຄະແນນຜູ້ຊ່ຽວຊານແຕ່ລະຄົນທັງຈາກຄ່າ gate ຂອງ router ແລະ ຄ່າ norm ຂອງ activation ຂອງຜູ້ຊ່ຽວຊານ — ຜູ້ຊ່ຽວຊານທີ່ຖືກເລືອກເລື້ອຍແຕ່ປະກອບສ່ວນການອັບເດດຂະໜາດນ້ອຍສຳຄັນໜ້ອຍກວ່າຈຳນວນຄັ້ງທີ່ຖືກເລືອກຈະບົ່ງບອກ — ແລະ ລຶບອັນທີ່ສຳຄັນໜ້ອຍອອກໃນຄັ້ງດຽວ, ກ່ອນ quantize.

ເຫດຜົນທີ່ພວກເຮົາໃຊ້ການຕັດແທນການລວມຜູ້ຊ່ຽວຊານທີ່ນິຍົມກວ່າ ຄືວ່າທັງສອງແຕກຕ່າງກັນຕາມປະເພດວຽກ. ການລວມເບິ່ງແຂ່ງຂັນໄດ້ໃນເບັນມາກ discriminative ແຕ່ລົ້ມເຫຼວໃນເບັນມາກ generative. ຜູ້ຂຽນ REAP ລາຍງານວ່າການຕັດຮັກສາຄຸນນະພາບໄດ້ດີກວ່າໃນວຽກທີ່ຄົນຊື້ API ໄປໃຊ້ພໍດີ — ການສ້າງໂຄດ, ການເອີ້ນເຄື່ອງມື, ການໃຫ້ເຫດຜົນຫຼາຍຮອບ — ທີ່ອັດຕາການບີບອັດເກີນ 50%, ຄອບຄຸມໂມເດວຕັ້ງແຕ່ 20B ຫາ 1T ພາຣາມິເຕີ. ການລວມທຳລາຍຄວາມຊ່ຽວຊານສະເພາະຂອງ router; ການຕັດຮັກສາຜູ້ຊ່ຽວຊານທີ່ເຫຼືອຢູ່ ແລະ ການຈັດເສັ້ນທາງລະຫວ່າງພວກມັນໄວ້ຄົງເດີມ.

AutoRound — ຮຽນຮູ້ວ່າຈະປັດເສດຢູ່ໃສ

AutoRound ຄືວິທີ quantize ຫຼັງການຝຶກຂອງ Intel (arXiv 2309.05516, ເຜີຍແຜ່ໃນຊື່ SignRound). ການ quantize ແບບທຳມະດາປັດເສດແຕ່ລະນ້ຳໜັກໄປຫາຄ່າ 4-bit ທີ່ໃກ້ທີ່ສຸດ — ຄ່າຕັ້ງຕົ້ນທີ່ສົມເຫດສົມຜົນແຕ່ບໍ່ດີໃນຂະໜາດໃຫຍ່, ເພາະຄວາມຜິດພາດຈາກການປັດເສດບໍ່ເປັນອິດສະຫຼະຈາກກັນ ແລະ ສະສົມຜ່ານ stack 66 ຊັ້ນ. AutoRound ຖືວ່າການຕັດສິນໃຈປັດເສດເປັນສິ່ງທີ່ຄວນ optimize: signed gradient descent ປັບທັງທິດທາງການປັດເສດ ແລະ ຂອບເຂດ clipping ຂອງນ້ຳໜັກຮ່ວມກັນຕະຫຼອດສອງສາມຮ້ອຍຂັ້ນຕອນ, ຢືມຄວາມແມ່ນຢຳຂອງການຝຶກທີ່ຮັບຮູ້ quantization ໂດຍບໍ່ຕ້ອງຝຶກໃໝ່. Intel ລາຍງານຜົນປະໂຫຍດທີ່ໃຫຍ່ທີ່ສຸດຢູ່ການຕັ້ງຄ່າ bit ຕ່ຳສຸດຂີດ ແລະ ຂໍ້ໄດ້ປຽບທີ່ແຂ່ງຂັນໄດ້ຢູ່ INT4.

W4A16 — bit ໄປຢູ່ໃສ

W4A16 ຄືຮູບແບບຕົວເລກ: ນ້ຳໜັກ 4-bit, ການເປີດໃຊ້ 16-bit. ນ້ຳໜັກ — ເຊິ່ງກິນໜ່ວຍຄວາມຈຳສ່ວນຫຼາຍໃນໂມເດວ 975B — ຫຼຸດລົງເຫຼືອປະມານໜຶ່ງສ່ວນສີ່ຂອງຂະໜາດ BF16, ໃນຂະນະທີ່ການຄິດໄລ່ຍັງຢູ່ທີ່ 16 bit. ການແບ່ງແບບນີ້ສຳຄັນສະເພາະສຳລັບໂມເດວການເບິ່ງເຫັນ: ຮູບແບບທີ່ quantize activation ທຳຮ້າຍພຽງແຕ່ວຽກຕົວເລກລະອຽດທີ່ຄວາມເຂົ້າໃຈຮູບພາບຕ້ອງອາໄສ — ການອ່ານປ້າຍແກນນ້ອຍໆ, ການແຍກແຍະເສັ້ນບາງໃນແຜນວາດ, ການແຍກສີທີ່ຄ້າຍກັນສອງສີ. ການຮັກສາ activation ໄວ້ທີ່ 16 bit ເສຍ bandwidth ແຕ່ໄດ້ຄວາມແມ່ນຢຳຄືນມາຢູ່ບ່ອນທີ່ວຽກການເບິ່ງເຫັນສັງເກດເຫັນ.

ເມື່ອປະສົມກັນ, ທັງສາມອັນໃຫ້ໂມເດວທີ່ພໍດີ ແລະ ໄວຢູ່ໂດຍບໍ່ຕົກລົງໜ້າຜາຄຸນນະພາບແບບລະດັບ 3BIT-REAP ທີ່ຮຸນແຮງກວ່າທີ່ພວກເຮົາໃຊ້ກັບພື້ນຖານທີ່ໃຫຍ່ທີ່ສຸດ. ນັ້ນຄືການແລກປ່ຽນທີ່ລາຄາສະທ້ອນອອກມາ.

03ການເບິ່ງເຫັນ: API ວິເຄາະຮູບພາບທີ່ບໍ່ມີການປະຕິເສດ

Inkling ຄືໜຶ່ງໃນສີ່ໂມເດວທີ່ມີການເບິ່ງເຫັນໃນແຄຕາລັອກຂອງພວກເຮົາ, ຄຽງຄູ່ກັບ Kimi-K3, Kimi-K2.6, ແລະ MiniMax-M3. ຜົນການເບິ່ງເຫັນທີ່ເຜີຍແຜ່ຂອງໂມເດວພື້ນຖານ, ຈາກການອອກຮຸ້ນຂອງ Thinking Machines, ຄື 73.3% ໃນ MMMU Pro (Standard 10) ແລະ 78.1% ໃນຄຳຖາມການໃຫ້ເຫດຜົນ CharXiv — ເພີ່ມຂຶ້ນເປັນ 82.0% ເມື່ອອະນຸຍາດໃຫ້ໂມເດວແລ່ນ Python ກັບແຜນວາດ. ຕົວເລກເຫຼົ່ານັ້ນຄືຕົວເລກຂອງຫ້ອງທົດລອງເອງສຳລັບ checkpoint ທີ່ບໍ່ quantize; ຖືວ່າມັນເປັນເພດານຂອງຕະກູນ, ບໍ່ແມ່ນການວັດແທກຮູບແບບຂອງພວກເຮົາ.

CharXiv ຄືອັນທີ່ຄຸ້ມຄ່າທີ່ຈະໃສ່ໃຈ, ເພາະມັນສະທ້ອນເຫດຜົນວ່າເປັນຫຍັງຄົນຊື້ API ການເບິ່ງເຫັນແທນທີ່ຈະໃຊ້ບໍລິການ OCR. ມັນທົດສອບການໃຫ້ເຫດຜົນເໜືອແຜນວາດວິທະຍາສາດ — ການອ່ານຄ່າຈາກແກນ, ການປຽບທຽບສອງຊຸດຂໍ້ມູນ, ການສັງເກດແນວໂນ້ມທີ່ປ່ຽນທິດ. ບໍ່ແມ່ນ "ຂໍ້ຄວາມຫຍັງຢູ່ໃນຮູບນີ້" ແຕ່ແມ່ນ "ຮູບນີ້ອ້າງວ່າຫຍັງ, ແລະ ຄຳອ້າງນັ້ນຖືກຕ້ອງບໍ." ນັ້ນຄືເຫດຜົນທີ່ສົມຄວນສົ່ງຮູບພາບໄປໃຫ້ໂມເດວການໃຫ້ເຫດຜົນຂະໜາດ 975B ແທນທີ່ຈະໃຊ້ຕົວໃສ່ຄຳບັນຍາຍນ້ອຍໆ.

ການສົ່ງຮູບພາບເປັນວຽກເຂົ້າກັນໄດ້ກັບ OpenAI ແບບທຳມະດາ — ສ່ວນເນື້ອຫາ image_url ເທິງ /v1/chat/completions, ບລັອກ image ແບບ Anthropic ເທິງ /v1/messages, ຫຼືທຽບເທົ່າເທິງ /v1/responses. ທັງສາມພາສານີ້ເອີ້ນນ້ຳໜັກດຽວກັນ ແລະ ທັງສາມສະຕຣີມໄດ້; ເລືອກອັນທີ່ SDK ຂອງທ່ານໃຊ້ຢູ່ແລ້ວ. ຕົວຢ່າງພາກປະຕິບັດຢູ່ໃນພາກ 09.

ສ່ວນທີ່ບໍ່ເຊັນເຊີສຳຄັນຫຼາຍກວ່າສຳລັບການເບິ່ງເຫັນທຽບກັບຂໍ້ຄວາມ. ຊັ້ນປະຕິເສດເທິງ endpoint ການເບິ່ງເຫັນຫຍາບຢ່າງຜິດປົກກະຕິ, ເພາະໂດຍທົ່ວໄປມັນຈັດປະເພດຮູບພາບກ່ອນທີ່ໂມເດວຈະໃຫ້ເຫດຜົນກ່ຽວກັບຄຳຂໍ. ວຽກທີ່ຖືກຕ້ອງຕາມກົດໝາຍຖືກຕິດກັບຢູ່ຕະຫຼອດ: ຮູບພາບບາດແຜໃນ pipeline ບັນທຶກທາງຄລີນິກ, ພາບໜ້າຈໍນິຕິວິທະຍາສາດໃນລາຍງານເຫດການ, ເຟຣມຈາກຮູບເງົາທີ່ຖືກວິເຄາະສຳລັບບົດວິຈານ, ພາບສະແກນທາງການແພດ, ຮູບພາບເອກະສານທີ່ບັງເອີນມີຊື່ຄົນຢູ່ໃນນັ້ນ. Inkling ເທິງ gateway ຂອງພວກເຮົາບໍ່ມີຕົວຈັດປະເພດແບບນັ້ນຢູ່ໜ້າມັນ. ມັນເບິ່ງສິ່ງທີ່ທ່ານສົ່ງມາ ແລະ ຕອບຄຳຖາມທີ່ທ່ານຖາມ. ນັ້ນຄືຜະລິດຕະພັນ.

04ຜົນຜະລິດແບບມີໂຄງສ້າງ: response_format ໃຊ້ໄດ້, json_schema ໃຊ້ບໍ່ໄດ້

ນີ້ຄືບ່ອນດຽວທີ່ Inkling ມີຄວາມສາມາດໜ້ອຍກວ່າແຄຕາລັອກສ່ວນຫຼາຍ, ແລະ ດີກວ່າທີ່ຈະວາງແຜນລ່ວງໜ້າແທນທີ່ຈະມາພົບໃນການໃຊ້ງານຈິງ.

ຄວາມສາມາດ	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ການເບິ່ງເຫັນ (ຮູບພາບເປັນ input)	ມີ	ມີ	ມີ	ບໍ່ມີ
response_format	ມີ	ມີ	ມີ	ບໍ່ມີ
json_schema	ບໍ່ມີ	ມີ	ມີ	ບໍ່ມີ
ການເອີ້ນເຄື່ອງມື	ມີ	ມີ	ມີ	ມີ
ຄວາມພະຍາຍາມການໃຫ້ເຫດຜົນ	ມີ	ມີ	ມີ	ມີ

response_format: {"type": "json_object"} ໃຊ້ໄດ້ — ທ່ານໄດ້ JSON ທີ່ຖືກຕ້ອງທາງໄວຍາກອນ. ສິ່ງທີ່ທ່ານບໍ່ໄດ້ຄື ການ decode ທີ່ຖືກບັງຄັບດ້ວຍໄວຍາກອນຕາມ schema ທີ່ທ່ານໃຫ້ມາ, ບ່ອນທີ່ sampler ຖືກຫ້າມທາງກາຍະພາບບໍ່ໃຫ້ອອກ token ທີ່ລະເມີດໂຄງສ້າງຂອງທ່ານ. ຊື່ field, ສະມາຊິກ enum, ແລະ ການມີຢູ່ຂອງ key ທີ່ຈຳເປັນ ເປັນທາງເລືອກຂອງໂມເດວ, ບໍ່ແມ່ນການຮັບປະກັນ.

ສາມວິທີທີ່ຈະຢູ່ກັບມັນ, ຮຽງຕາມຄວາມໜ້າເຊື່ອຖືທີ່ເພີ່ມຂຶ້ນ:

1. ໃສ່ schema ໃນ prompt ແລະ ກວດສອບ. ໃສ່ schema ໃນ system prompt ເປັນ JSON ຕົງໆ, ຕັ້ງ response_format ເປັນ json_object, ແລະ ກວດສອບຄຳຕອບຢູ່ຝັ່ງທ່ານ. ລອງໃໝ່ເມື່ອການກວດສອບລົ້ມເຫຼວ ໂດຍຕໍ່ທ້າຍຂໍ້ຄວາມ error ຈາກຕົວກວດສອບ. ຖືກ, ໃຊ້ໄດ້, ຕ້ອງການງົບການລອງໃໝ່.
2. ໃຊ້ definition ຂອງເຄື່ອງມືເປັນ schema. ການເອີ້ນເຄື່ອງມືຮອງຮັບ, ແລະ definition ພາຣາມິເຕີຂອງ function ກໍຄື JSON Schema. ປະກາດເຄື່ອງມືອັນດຽວທີ່ຕັ້ງຊື່ຕາມການດຶງຂໍ້ມູນທີ່ທ່ານຕ້ອງການ, ບັງຄັບໃຊ້ມັນ, ແລະ ອ່ານ arguments. ນີ້ໂດຍປົກກະຕິແລ້ວແມ່ນທາງເລືອກທີ່ແຂງແກ່ນທີ່ສຸດເທິງ Inkling ແລະ ບໍ່ເສຍຄ່າໃຊ້ຈ່າຍເພີ່ມເລີຍ.
3. ແບ່ງວຽກລະຫວ່າງໂມເດວສອງອັນ. ໃຫ້ Inkling ເຮັດການເບິ່ງເຫັນ ແລະ ການໃຫ້ເຫດຜົນເປັນ prose, ຈາກນັ້ນສົ່ງ prose ນັ້ນໄປໃຫ້ MiMo-V2.5-W8A16 ທີ່ $0.50 / $2.00 ດ້ວຍ json_schema ຈິງສຳລັບຂັ້ນຕອນຈັດໂຄງສ້າງ. ສອງການເອີ້ນ, ແຕ່ອັນທີສອງຖືກ, ຮູບຮ່າງແນ່ນອນ, ແລະ ໂມເດວທີ່ຕ້ອງສະຫຼາດຄືອັນທີ່ເຫັນຮູບພາບ.

ທາງເລືອກທີ 3 ຄືຮູບແບບທີ່ພວກເຮົາຈະແນະນຳສຳລັບ pipeline ການດຶງຂໍ້ມູນປະລິມານສູງໃດກໍຕາມ. ຈ່າຍພຣີເມຍມພຽງແຕ່ສຳລັບຂັ້ນຕອນທີ່ຕ້ອງການມັນ.

05ພຣີເມຍມລາຄາຊື້ຫຍັງໃຫ້ທ່ານ?

ທີ່ $1.42 ເຂົ້າ / $6.07 ອອກ ຕໍ່ລ້ານ token, Inkling ຖືກຈັດວາງໄວ້ຢູ່ກາງແຄຕາລັອກຂອງພວກເຮົາຢ່າງຕັ້ງໃຈ. ຫົກໃນສິບສອງໂມເດວຢູ່ທີ່ລະດັບພື້ນ $0.50 / $2.00. Kimi-K3 — ເຮືອທຸງ, ທີ່ມີການເບິ່ງເຫັນເຊັ່ນກັນ — ຄື $3.83 / $19.12. Inkling ຄືປະມານສາມເທົ່າຂອງລະດັບພື້ນໃນຜົນຜະລິດ ແລະ ປະມານໜຶ່ງສ່ວນສາມຂອງເຮືອທຸງ.

ລາຄາຜົນຜະລິດ, ໂດລາສະຫະລັດຕໍ່ 1M token, ອັດຕາລາຄາລາຍການ Shannon AI Gateway, ກັນຍາ 2026. ຄວາມກວ້າງຂອງແຖບເປັນສັດສ່ວນກັບລາຄາ; ຍາວກວ່າໝາຍເຖິງແພງກວ່າ.

ນີ້ຄືການອ່ານແບບຊື່ສັດວ່າພຣີເມຍມນັ້ນຄຸ້ມຄ່າຢູ່ໃສ — ແລະ ບໍ່ຄຸ້ມຄ່າຢູ່ໃສ.

ວຽກ	ໃຊ້ Inkling ບໍ?	ເປັນຫຍັງ
ການໃຫ້ເຫດຜົນແຜນວາດ / diagram	ໃຊ້	ຕົວເລກ CharXiv ແລະ MMMU Pro ທີ່ເຜີຍແຜ່ຄືສິ່ງທີ່ພື້ນຖານນີ້ເກັ່ງທີ່ສຸດ.
ຕົວແທນທີ່ຂັບເຄື່ອນດ້ວຍພາບໜ້າຈໍ	ໃຊ້	ການເບິ່ງເຫັນບວກການເອີ້ນເຄື່ອງມືບວກປະຫວັດ 262K ໃນໂມເດວດຽວ, ບໍ່ຕ້ອງສົ່ງຕໍ່.
ເອກະສານຍາວທີ່ມີແຜນວາດ	ໃຊ້	ຂໍ້ຄວາມ ແລະ ຮູບພາບໃຊ້ decoder ດຽວ ແລະ context window ດຽວກັນ.
ການສ້າງຂໍ້ຄວາມທຳມະດາ	ບໍ່ໃຊ້	ໂມເດວຫົກອັນທີ່ $0.50 / $2.00 ເຮັດແບບນີ້ໄດ້. ທ່ານກຳລັງຈ່າຍສຳລັບເສັ້ນທາງການເບິ່ງເຫັນທີ່ທ່ານບໍ່ເຄີຍເອີ້ນໃຊ້.
ການດຶງຂໍ້ມູນຕາມ schema ຈຳນວນຫຼວງຫຼາຍ	ບໍ່ໃຊ້	ບໍ່ມີ json_schema. MiMo-V2.5 ຖືກກວ່າ ແລະ ຖືກຈຳກັດ.
ເພດານຄວາມສາມາດສູງສຸດ	ບໍ່ໃຊ້	Kimi-K3 ຄືເຮືອທຸງ. ຈ່າຍ 3.1 ເທົ່າຖ້າເພດານຄືຂໍ້ຈຳກັດຂອງທ່ານ.
ການເບິ່ງເຫັນທີ່ຖືກທີ່ສຸດ	ບໍ່ໃຊ້	MiniMax-M3 ມີການເບິ່ງເຫັນທີ່ $0.50 / $2.00. ເລີ່ມທີ່ນັ້ນ, ຍົກລະດັບຖ້າຄຸນນະພາບບັງຄັບ.

ອ່ານມັນເປັນກົດການຈັດເສັ້ນທາງ, ບໍ່ແມ່ນການຈັດອັນດັບ. Inkling ເໝາະສົມກັບຂອບເຂດວຽກທີ່ແຄບກວ່າທີ່ໜ້າການຕະຫຼາດຈະອ້າງ, ແລະ ພາຍໃນຂອບເຂດນັ້ນມັນຍາກທີ່ຈະເອົາຊະນະໃນເລື່ອງລາຄາ. ນອກຂອບເຂດນັ້ນ, ພວກເຮົາຢາກຂາຍໂມເດວທີ່ຖືກກວ່າໃຫ້ທ່ານ ແລະ ຮັກສາທ່ານໄວ້ຫຼາຍກວ່າ.

06ໜ້າຕ່າງ context 262K, ແລະ ຫຍັງທີ່ພໍດີແທ້

ໂມເດວທັງສິບສອງອັນເທິງ gateway ໃຫ້ບໍລິການດ້ວຍ context ເຂົ້າ 262,144 token ແລະ ຜົນຜະລິດສູງສຸດ 16,384 token ຕໍ່ຄຳຂໍ. ເປັນມາດຕະຖານດຽວກັນຢ່າງຕັ້ງໃຈ: ການຈັດການ context ບໍ່ຄວນກາຍເປັນເງື່ອນໄຂແຍກຕາມໂມເດວໃນໂຄດຂອງທ່ານ, ແລະ ການປ່ຽນ inkling ເປັນ MiniMax-M3 ໃນໄຟລ໌ config ບໍ່ຄວນປ່ຽນສິ່ງທີ່ພໍດີໂດຍງຽບໆ.

ສັງເກດຊ່ອງຫ່າງທຽບກັບພື້ນຖານທີ່ເຜີຍແຜ່: Thinking Machines ບັນທຶກ Inkling ໄວ້ທີ່ 1,048,576 token, ແລະ ພວກເຮົາໃຫ້ບໍລິການພຽງແຕ່ 262K ຈາກນັ້ນ. ຖ້າທ່ານມີວຽກຄຳຂໍດຽວທີ່ຕ້ອງການລ້ານ token ແທ້ໆ, ພວກເຮົາບໍ່ແມ່ນ endpoint ສຳລັບມັນ, ແລະ ດີກວ່າທີ່ທ່ານຈະຮູ້ກ່ອນທີ່ຈະສ້າງ.

ສຳລັບຂະໜາດທີ່ 262K: PDF ດ້ານວິຊາການ 400 ໜ້າພ້ອມແຜນວາດຂອງມັນ, codebase ຂະໜາດກາງ, transcript ຫຼາຍຊົ່ວໂມງ, ຫຼືການແລ່ນຕົວແທນຍາວທີ່ບັນທຸກຜົນເຄື່ອງມືຫຼາຍສິບອັນ ແລະ ພາບໜ້າຈໍຈຳນວນໜ້ອຍໜຶ່ງ — ແຕ່ລະອັນພໍດີໃນຄຳຂໍດຽວ. ໃນໂມເດວການເບິ່ງເຫັນ, ຈື່ໄວ້ວ່າຮູບພາບກໍໃຊ້ context ເຊັ່ນກັນ; ພາບໜ້າຈໍທີ່ໜາແໜ້ນບໍ່ຟຣີ, ແລະ ການແລ່ນທີ່ສະຕຣີມເຟຣມເຕັມໜ້າຕ່າງໄວກວ່າແບບຂໍ້ຄວາມຢ່າງດຽວ. ໂຄງສ້າງເໝາະສົມກັບສິ່ງນີ້ດີ: ຮູບແບບ sliding-window ຕໍ່ global ອັດຕາສ່ວນ 5:1 ໝາຍຄວາມວ່າສ່ວນຫຼາຍຂອງຊັ້ນເບິ່ງພາຍໃນຂອບເຂດ 512 token, ດ້ວຍຊັ້ນ global ດຶງໂຄງສ້າງໄລຍະໄກກັບຄືນມາເປັນໄລຍະໆ.

07ຄວາມພະຍາຍາມການໃຫ້ເຫດຜົນ: ຈ່າຍສຳລັບການຄິດພຽງແຕ່ເມື່ອທ່ານຕ້ອງການ

Inkling ເປີດເຜີຍຄວາມພະຍາຍາມການໃຫ້ເຫດຜົນທີ່ຄວບຄຸມໄດ້ — ໜຶ່ງໃນຄັນຄວບຄຸມທີ່ເປັນປະໂຫຍດທີ່ສຸດໃນແຄຕາລັອກ. ໂມເດວຕົ້ນທາງຮັບລະດັບຕັ້ງແຕ່ none ແລະ minimal ຜ່ານ low, medium, high, xhigh, ຈົນຮອດ max, ເປີດເຜີຍຢູ່ທັງສາມພາສາຜ່ານພາຣາມິເຕີມາດຕະຖານ reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ນີ້ຄືຄັນຄວບຄຸມຄ່າໃຊ້ຈ່າຍທີ່ມີຜົນແທ້, ເພາະ token ການໃຫ້ເຫດຜົນຄິດເງິນເປັນ token ຜົນຜະລິດທີ່ $6.07 ຕໍ່ລ້ານ. Thinking Machines ລາຍງານວ່າໃນ Terminal Bench 2.1 Inkling ໄດ້ຄະແນນທຽບເທົ່າ Nemotron 3 Ultra ດ້ວຍ token ປະມານໜຶ່ງສ່ວນສາມ — ປະສິດທິພາບ token ຄືເປົ້າໝາຍການອອກແບບຂອງລະບົບຄວາມພະຍາຍາມທີ່ຖືກລະບຸໄວ້, ບໍ່ແມ່ນເລື່ອງບັງເອີນ.

ໃນພາກປະຕິບັດ: ໃຊ້ low ຫຼື minimal ສຳລັບການໃສ່ຄຳບັນຍາຍ, ການຈັດປະເພດ, ແລະ ການດຶງຂໍ້ມູນແບບກົງໄປກົງມາ, ບ່ອນທີ່ຄຳຕອບຢູ່ໃນຮູບພາບ ແລະ ບໍ່ຕ້ອງການຕ່ອງໂສ້ການອະນຸມານ. ສະຫງວນ high ຂຶ້ນໄປສຳລັບການໃຫ້ເຫດຜົນແຜນວາດ, ການປຽບທຽບທາງສາຍຕາຫຼາຍຂັ້ນຕອນ, ແລະ ຮອບຕົວແທນທີ່ຂັ້ນຕອນກາງທີ່ຜິດພາດມີລາຄາແພງ. ທີມສ່ວນຫຼາຍບໍ່ເຄີຍຕັ້ງພາຣາມິເຕີນີ້ເລີຍ, ແລະ ປ່ອຍໃຫ້ຄວາມແຕກຕ່າງຂອງຄ່າໃຊ້ຈ່າຍຜົນຜະລິດຫຼາຍເທົ່າຫຼຸດຫາຍໄປ.

08"ບໍ່ເຊັນເຊີ" ໝາຍຄວາມວ່າຫຍັງທີ່ນີ້ — ແລະ ບໍ່ໝາຍຄວາມວ່າຫຍັງ

ໂດຍລະອຽດ: ພວກເຮົາແລ່ນໂມເດວນີ້ດ້ວຍບໍ່ມີຊັ້ນປະຕິເສດ ແລະ ບໍ່ມີການກັ່ນຕອງຜົນຜະລິດ. ບໍ່ມີຕົວຈັດປະເພດອ່ານ prompt ຂອງທ່ານ ແລະ ຕັດສິນວ່າໂມເດວອະນຸຍາດໃຫ້ຕອບບໍ, ແລະ ບໍ່ມີຕົວໃດອ່ານຄຳຕອບກ່ອນມັນຈະສະຕຣີມອອກ. ເມື່ອໂມເດວບໍ່ແນ່ໃຈ ຫຼືຂາດຄວາມຮູ້, ມັນເວົ້າແບບນັ້ນ — ນັ້ນຄືໂມເດວ, ບໍ່ແມ່ນນະໂຍບາຍ. ສິ່ງທີ່ທ່ານຈະບໍ່ໄດ້ຮັບຄືການປະຕິເສດແບບອັດຕະໂນມັດຕໍ່ຫົວຂໍ້ທີ່ຜະລິດຕະພັນສຳລັບຜູ້ບໍລິໂພກທົ່ວໄປຖືວ່າຫ້າມ.

ສຳລັບການເບິ່ງເຫັນນີ້ຄືຄຸນຄ່າທັງໝົດ. ຕົວຈັດປະເພດຮູບພາບທີ່ຢູ່ໜ້າ API ການເບິ່ງເຫັນບໍ່ແມ່ນຢຳ, ແລະ ອັດຕາ false-positive ຕົກໜັກທີ່ສຸດຢູ່ວຽກທາງອາຊີບທີ່ຕ້ອງການຄວາມສາມາດນີ້ທີ່ສຸດ: ການຄົ້ນຄວ້າຄວາມປອດໄພ, ບໍລິບົດທາງຄລີນິກ, ວາລະສານສາດ ແລະ ນິຕິວິທະຍາສາດ, ການວິຈານຮູບເງົາ ແລະ ສິລະປະ, ເຄື່ອງມືການຄວບຄຸມທີ່ຕ້ອງເບິ່ງສິ່ງທີ່ມັນຄວບຄຸມ. Endpoint ທີ່ປະຕິເສດຕາມໝວດບໍ່ສາມາດໃຫ້ບໍລິການອັນໃດໃນນັ້ນໄດ້ຢ່າງໜ້າເຊື່ອຖື.

ຂໍ້ຄວນລະວັງທີ່ຊື່ສັດສອງອັນ. ອັນທຳອິດ, Thinking Machines ເຜີຍແຜ່ການປະເມີນຄວາມປອດໄພສຳລັບການໃຫ້ບໍລິການອ້າງອິງຂອງພວກເຂົາ — 78.0% ໃນ FORTRESS adversarial, 95.9% ໃນ FORTRESS benign, 98.6% ໃນ StrongREJECT. ຕົວເລກເຫຼົ່ານັ້ນອະທິບາຍ stack ຂອງພວກເຂົາ ດ້ວຍ guardrail ຂອງພວກເຂົາຢູ່ໃນທີ່. ພວກມັນບໍ່ໄດ້ອະທິບາຍຂອງພວກເຮົາ, ແລະ ພວກເຮົາຈະບໍ່ອ້າງອິງພວກມັນຄືກັບວ່າພວກມັນອະທິບາຍ. ພວກເຮົາເອົາຊັ້ນທີ່ຕົວເລກເຫຼົ່ານັ້ນວັດແທກສ່ວນໜຶ່ງອອກ; ນັ້ນຄືຜະລິດຕະພັນ, ແລະ ຄວາມຮັບຜິດຊອບ.

ອັນທີສອງ, "ບໍ່ມີຊັ້ນປະຕິເສດ" ບໍ່ແມ່ນ "ບໍ່ມີກົດລະບຽບ." Shannon Lab LLC ດຳເນີນງານພາຍໃຕ້ນະໂຍບາຍການໃຊ້ຢ່າງມີຄວາມຮັບຜິດຊອບ ແລະ ກົດໝາຍສະຫະລັດທີ່ກ່ຽວຂ້ອງ. ການເອົາຕົວຈັດປະເພດອອກຍ້າຍການຕັດສິນໃຈມາໃຫ້ທ່ານ, ບໍ່ໄດ້ລຶບມັນອອກ. ຖ້າທ່ານກຳລັງສ້າງເທິງນີ້, ອ່ານນະໂຍບາຍກ່ອນທ່ານຈະຂະຫຍາຍຂະໜາດ.

09ເລີ່ມຕົ້ນນຳໃຊ້

URL ພື້ນຖານດຽວກັນ, key ດຽວກັນ, ພາສາສາມແບບ. ຖ້າໂຄດຂອງທ່ານເອີ້ນ OpenAI, Anthropic, ຫຼື Responses API ຢູ່ແລ້ວ, ການປ່ຽນ string ຊື່ໂມເດວໂດຍປົກກະຕິແລ້ວຄືການເລື່ອນຍ້າຍທັງໝົດ.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

ເອກະສານອ້າງອິງພາຣາມິເຕີເຕັມ, ຮູບຮ່າງຂອງ /v1/messages ແລະ /v1/responses, ຮູບແບບ event ການສະຕຣີມ, ແລະ playground ຈິງຢູ່ໃນ ເອກະສານ API. ບັດໂມເດວສຳລັບໂມເດວອີກສິບເອັດອັນຢູ່ໃນ Shannon Research.

ຕົວເລກພື້ນຖານຄືຕົວເລກທີ່ Thinking Machines Lab ເຜີຍແຜ່ສຳລັບ checkpoint Inkling ທີ່ບໍ່ quantize ແລະ ອະທິບາຍເພດານຂອງຕະກູນ, ບໍ່ແມ່ນຮູບແບບທີ່ quantize ຂອງພວກເຮົາ. ລາຄາ ແລະ ທຸງຄວາມສາມາດຄືຄ່າໃນລາຍການ Shannon AI Gateway ນັບຮອດເດືອນກັນຍາ 2026.

10ຄຳຖາມທີ່ພົບເລື້ອຍ

---

ແຫຼ່ງຂໍ້ມູນ: Thinking Machines Lab — ນຳສະເໜີ Inkling · Hugging Face — ຍິນດີຕ້ອນຮັບ Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — ບັນທຶກໂຄງສ້າງ ແລະ ເບັນມາກ Inkling. ເບັນມາກພື້ນຖານຄືຂໍ້ມູນທີ່ຫ້ອງທົດລອງລາຍງານສຳລັບ checkpoint ທີ່ບໍ່ quantize.