API Inkling គ្មានសេនស័រ

ភាគច្រើននៃម៉ូដែលទាំង 12 នៅលើច្រកទ្វាររបស់យើងជាអត្ថបទតែប៉ុណ្ណោះ។ បួនមិនមែនដូច្នេះទេ ហើយក្នុងចំណោមបួននោះ Inkling កាន់តំណែងជាក់លាក់មួយ៖ ជាម៉ូដែលមើលឃើញដែលអ្នកនឹងប្រើនៅពេលរូបភាពជាផ្នែកពិបាកបំផុតនៃបញ្ហា ប៉ុន្តែថវិកាមិនអាចលាតសន្ធឹងដល់ទង់ជាតិ។ ប័ណ្ណនេះគ្របដណ្តប់ថាតើគ្រឹះមកពីណា អ្វីដែលបច្ច័យ W4A16-AUTOROUND-REAP បានធ្វើទៅលើវា អ្វីដែលវានឹងធ្វើ និងមិនធ្វើនៅផ្ទៃ API និង — ដោយស្មោះត្រង់ — ពេលណាដែលម៉ូដែលថោកជាងក្នុងកាតាឡុកតែមួយជាជម្រើសប្រសើរជាង។

01តើ Inkling ជាអ្វី ហើយអ្នកណាបានបង្កើតវា?

Inkling ជាម៉ូដែលទម្ងន់បើកចំហដំបូងគេពី Thinking Machines Lab ដែលបានផ្សព្វផ្សាយនៅថ្ងៃទី 15 ខែកក្កដា ឆ្នាំ 2026។ ខុសពីការចេញផ្សាយភាគច្រើនដែលដាក់ខ្លួនថា "បើកចំហ" វាមកជាមួយទម្ងន់ពេញលេញអាចទាញយកបានលើ Hugging Face និងគាំទ្រថ្ងៃទីសូន្យនៅក្នុង transformers, SGLang, vLLM និង llama.cpp — ដែលនោះជាមូលហេតុដែលវាអាចរត់បានលើហេដ្ឋារចនាសម្ព័ន្ធដូចរបស់យើងទាំងអស់។ លេខសំខាន់ៗ ពីសម្ភារៈចេញផ្សាយផ្ទាល់របស់ Thinking Machines៖

នោះជាប្លង់ Mixture-of-Experts រាយប៉ាយ៖ ស្រទាប់ decoder 66 លើវិមាត្រម៉ូដែល 6,144 ដោយពីរស្រទាប់ដំបូងក្រាស់ ហើយ 64 ស្រទាប់ដែលនៅសល់ផ្ទុកអ្នកជំនាញនាំផ្លូវ 256 បូកនឹងអ្នកជំនាញរួម 2 ជាមួយ អ្នកជំនាញនាំផ្លូវ 6 ធ្វើសកម្មភាពក្នុងមួយថូខឹន។ ប្រហែល 4% នៃប៉ារ៉ាម៉ែត្រធ្វើសកម្មភាពលើថូខឹនណាមួយ — នេះជាមូលហេតុដែលធ្វើឲ្យម៉ូដែលជិតលានលានប៉ារ៉ាម៉ែត្រអាចបម្រើបានទាំងអស់។

ការជ្រើសរើសស្ថាបត្យកម្មពីរគួរឲ្យលើកឡើង។ Attention ត្រូវបាន ឆ្លាស់គ្នា — ស្រទាប់ sliding-window attention 55 លើបង្អួច 512 ថូខឹន ធៀបនឹងស្រទាប់សកល 11 តាមលំនាំម្តងទៀត 5:1។ ហើយ Inkling មិនប្រើ RoPEទេ៖ វាប្រើភាពលម្អៀងទីតាំងទំនាក់ទំនងដែលបានរៀន និងអាស្រ័យលើទិន្នន័យបញ្ចូល រួមជាមួយ causal convolution ខ្លីៗលើ projection key/value និងសាខា residual។ កំណត់ត្រាស្ថាបត្យកម្មរបស់ Sebastian Raschka សម្គាល់ទាំងពីរនេះជាការចាកចេញពិតប្រាកដពីរូបមន្តស្តង់ដារឆ្នាំ 2026។ ការបណ្តុះបណ្តាលប្រើ Muon សម្រាប់ប៉ារ៉ាម៉ែត្រម៉ាទ្រីសធំ និង Adam សម្រាប់ផ្នែកនៅសល់ បន្ទាប់មករត់ RL rollout អសមកាលកម្មជាង 30 លាន ក្នុងការបណ្តុះបណ្តាលក្រោយ។

ចំណុចសំខាន់សម្រាប់អ្នកប្រើប្រាស់ API មិនមែនជារឿងតូចតាចទេ។ វាគឺថានេះជាគ្រឹះ ថ្នាក់ជួរមុខ ពហុមេឌៀដោយធម្មជាតិ ដែលបានបណ្តុះបណ្តាលលើថូខឹន 45 លានលាន គ្របដណ្តប់អត្ថបទ រូបភាព សំឡេង និងវីដេអូ — មិនមែនជាម៉ូដែលអត្ថបទដែលមានឧបករណ៍ចាប់ភ្ជាប់ការមើលឃើញបន្ថែមក្រោយទេ។ រូបភាពត្រូវបានអង្កូដជា patch ទំហំ 40×40 ភីកសែល តាមរយៈ patchifier MLP លំដាប់ថ្នាក់បួនស្រទាប់ ហើយត្រូវបានដំណើរការរួមគ្នាជាមួយអត្ថបទក្នុង decoder តែមួយ។ ការយល់ដឹងចក្ខុវិស័យស្ថិតនៅក្នុងគោលបំណងបណ្តុះបណ្តាលជាមុន។

02តើ W4A16-AUTOROUND-REAP មានន័យដូចម្តេច?

បច្ចេកទេសបីផ្សេងគ្នាត្រូវបានតម្រៀបគ្នាក្នុងបច្ច័យនោះ ហើយពួកវាធ្វើការងារខុសគ្នា។ គួរយល់ ព្រោះបច្ច័យនេះជាភាពខុសគ្នាធំបំផុតតែមួយរវាងម៉ូដែលដែលអ្នកហៅនៅលើ API របស់យើង និង checkpoint ដែល Thinking Machines បានផ្សព្វផ្សាយ។

REAP — កាត់ចោលអ្នកជំនាញដែលគ្មាននរណានាំផ្លូវទៅ

REAP គឺ Router-weighted Expert Activation Pruning មកពី Cerebras Research (arXiv 2510.13999 ដែលត្រូវបានទទួលយកចូល ICLR 2026)។ ក្នុង MoE ដែលមានអ្នកជំនាញ 256 ក្នុងមួយស្រទាប់ router មិនចែកចាយការងារស្មើគ្នាទេ៖ អ្នកជំនាញខ្លះត្រូវបានវាយប្រហារជានិច្ច ខណៈអ្នកផ្សេងទៀតកម្រធ្វើសកម្មភាព ហើយចូលរួមចំណែកតិចតួចនៅពេលពួកគេធ្វើ។ REAP វាយតម្លៃអ្នកជំនាញនីមួយៗលើទាំងតម្លៃ gate របស់ router និងបទដ្ឋានការធ្វើសកម្មភាពរបស់អ្នកជំនាញ — អ្នកជំនាញដែលត្រូវបានជ្រើសរើសញឹកញាប់ ប៉ុន្តែចូលរួមចំណែកបច្ចុប្បន្នភាពទំហំតូច សំខាន់តិចជាងអ្វីដែលចំនួនការជ្រើសរើសរបស់វាបង្ហាញ — ហើយបោះបង់អ្នកមិនលេចធ្លោបំផុតតែម្តង មុនពេលបំប្លែងទំហំ។

មូលហេតុដែលយើងប្រើការកាត់ចោល ជាជាងការបញ្ចូលគ្នាអ្នកជំនាញដែលពេញនិយមជាង គឺថាទាំងពីរខុសគ្នាតាមប្រភេទកិច្ចការ។ ការបញ្ចូលគ្នាមើលទៅប្រកួតប្រជែងបានលើស្តង់ដារវាស់ស្ទង់ discriminative ប៉ុន្តែធ្លាក់ចុះលើប្រភេទ generative។ អ្នកនិពន្ធរបស់ REAP រាយការណ៍ថាការកាត់ចោលរក្សាគុណភាពបានប្រសើរជាងលើបន្ទុកការងារដែលមនុស្សទិញ API ជាក់ស្តែង — ការសំយោគកូដ ការហៅឧបករណ៍ ការវែកញែកច្រើនវេន — នៅអត្រាបង្រួម 50% ឡើងទៅ កាត់តាមម៉ូដែលពី 20B ដល់ 1T ប៉ារ៉ាម៉ែត្រ។ ការបញ្ចូលគ្នាបំផ្លាញការឯកទេសរបស់ router ខណៈការកាត់ចោលទុកអ្នកជំនាញដែលនៅរស់ និងការនាំផ្លូវរវាងពួកគេឲ្យនៅដដែល។

AutoRound — រៀនកន្លែងត្រូវបង្គត់

AutoRound ជាវិធីសាស្ត្របំប្លែងទំហំក្រោយបណ្តុះបណ្តាលរបស់ Intel (arXiv 2309.05516 ដែលបានផ្សព្វផ្សាយជា SignRound)។ ការបំប្លែងទំហំធម្មតាបង្គត់ទម្ងន់នីមួយៗទៅតម្លៃ 4-bit ដែលអាចតំណាងបានជិតបំផុត — លំនាំដើមសមហេតុផលមួយ ប៉ុន្តែមិនល្អនៅមាត្រដ្ឋានធំ ព្រោះកំហុសបង្គត់មិនឯករាជ្យពីគ្នា ហើយប្រមូលផ្តុំកាត់តាមជង់ 66 ស្រទាប់។ AutoRound ចាត់ទុកការសម្រេចចិត្តបង្គត់ជាអ្វីមួយត្រូវធ្វើឲ្យប្រសើរ៖ signed gradient descent កែសម្រួលទិសដៅបង្គត់ និងជួរច្រិបទម្ងន់រួមគ្នា កាត់តាមប្រហែលពីរបីរយជំហាន ខ្ចីភាពត្រឹមត្រូវនៃ quantization-aware training ដោយគ្មានការបណ្តុះបណ្តាលឡើងវិញ។ Intel រាយការណ៍ថាចំណេញច្រើនបំផុតនៅការកំណត់ប៊ីតទាបខ្លាំង និងគុណសម្បត្តិប្រកួតប្រជែងនៅ INT4។

W4A16 — ប៊ីតទៅណា

W4A16 ជាទម្រង់លេខ៖ ទម្ងន់ 4-bit ការធ្វើសកម្មភាព 16-bit។ ទម្ងន់ — ដែលគ្រប់គ្រងសតិភាគច្រើនក្នុងម៉ូដែល 975B — បង្រួមមកនៅប្រហែលមួយភាគបួននៃទំហំ BF16 ខណៈគណិតកម្មនៅតែ 16 ប៊ីត។ ការបែងចែកនោះសំខាន់ជាពិសេសសម្រាប់ម៉ូដែលមើលឃើញ៖ គម្រោងបំប្លែងទំហំការធ្វើសកម្មភាពប៉ះពាល់ដល់ការងារលេខល្អិតល្អន់ដែលការយល់ដឹងរូបភាពពឹងផ្អែក — ការអានស្លាកអ័ក្សតូចមួយ ការញែកបន្ទាត់ស្តើងក្នុងដ្យាក្រាម ការញែកពណ៌ស្រដៀងគ្នាពីរ។ ការរក្សាការធ្វើសកម្មភាពនៅ 16 ប៊ីតចំណាយកម្រិតបញ្ជូនទិន្នន័យ ប៉ុន្តែទិញយកភាពត្រឹមត្រូវត្រឡប់មកវិញ នៅកន្លែងដែលបន្ទុកការងារមើលឃើញកត់សម្គាល់។

តម្រៀបគ្នា បច្ចេកទេសទាំងបីផ្តល់ម៉ូដែលមួយដែលសមទំហំ និងនៅតែលឿន ដោយគ្មានការធ្លាក់ចុះគុណភាពខ្លាំងនៃថ្នាក់ 3BIT-REAP ដ៏សាហាវដែលយើងប្រើលើគ្រឹះធំបំផុត។ នោះជាការដូរដែលតម្លៃឆ្លុះបញ្ចាំង។

03ការមើលឃើញ៖ API វិភាគរូបភាពគ្មានការបដិសេធ

Inkling ជាមួយក្នុងចំណោមម៉ូដែលមើលឃើញបួននៅក្នុងកាតាឡុករបស់យើង រួមជាមួយ Kimi-K3, Kimi-K2.6 និង MiniMax-M3។ លទ្ធផលមើលឃើញដែលបានផ្សព្វផ្សាយរបស់ម៉ូដែលមូលដ្ឋាន ពីការចេញផ្សាយរបស់ Thinking Machines គឺ 73.3% លើ MMMU Pro (Standard 10) និង 78.1% លើសំណួរវែកញែក CharXiv — កើនឡើងដល់ 82.0% នៅពេលម៉ូដែលត្រូវបានអនុញ្ញាតឲ្យរត់ Python លើគំនូសតាង។ ទាំងនោះជាតួលេខផ្ទាល់របស់ក្រុមហ៊ុនផលិតសម្រាប់ checkpoint មិនទាន់បង្រួម មិនមែនជារង្វាស់នៃការសាងសង់របស់យើងទេ សូមចាត់ទុកជាដំបូលនៃគ្រួសារ។

CharXiv ជាអ្វីដែលគួរពិចារណាលម្អិត ព្រោះវាទាក់ទងទៅនឹងមូលហេតុដែលមនុស្សទិញ API មើលឃើញ ជាជាងសេវាកម្ម OCR។ វាសាកល្បងការវែកញែកលើគំនូសតាងវិទ្យាសាស្ត្រ — ការអានតម្លៃពីអ័ក្ស ការប្រៀបធៀបស៊េរីពីរ ការសម្គាល់ការផ្លាស់ប្តូរនិន្នាការ។ មិនមែន "តើមានអត្ថបទអ្វីនៅក្នុងរូបភាពនេះ" ទេ ប៉ុន្តែជា "តើតួលេខនេះអះអាងអ្វី ហើយតើការអះអាងនោះពិតឬទេ"។ នោះជាអ្វីដែលបញ្ជាក់ការផ្ញើរូបភាពទៅម៉ូដែលវែកញែក 975B ជាជាងកម្មវិធីសរសេរចំណងជើងតូចមួយ។

ការផ្ញើរូបភាពជាការងារធម្មតាដែលត្រូវគ្នាជាមួយ OpenAI — ផ្នែកខ្លឹមសារ image_url នៅលើ /v1/chat/completions ប្លុក image ម៉ូតបែប Anthropic នៅលើ /v1/messages ឬសមមូលនៅលើ /v1/responses។ ទាំងបីទំរង់ភាសាហៅដល់ទម្ងន់ដូចគ្នា ហើយទាំងបីស្ទ្រីមបាន ជ្រើសរើសយកមួយណាដែល SDK ដែលមានស្រាប់របស់អ្នកនិយាយភាសានោះ។ ឧទាហរណ៍ជាក់ស្តែងមាននៅផ្នែក 09។

ផ្នែកគ្មានសេនស័រសំខាន់សម្រាប់ការមើលឃើញច្រើនជាងសម្រាប់អត្ថបទ។ ស្រទាប់ការបដិសេធនៅលើ endpoint មើលឃើញឆោតល្ងង់ខុសពីធម្មតា ព្រោះជាធម្មតាវាចាត់ថ្នាក់រូបភាពមុនពេលម៉ូដែលបានវែកញែកអំពីសំណើ។ ការងារស្របច្បាប់ត្រូវបានចាប់ខ្លួនជានិច្ច៖ រូបថតមុខរបួសក្នុងបំពង់កត់ត្រាព្យាបាល រូបថតអេក្រង់កោសល្យវិច្ច័យក្នុងរបាយការណ៍ព្រឹត្តិការណ៍ ស៊ុមរូបភាពពីភាពយន្តមួយកំពុងវិភាគសម្រាប់អត្ថបទរិះគន់ ការស្កេនវេជ្ជសាស្ត្រ រូបភាពឯកសារដែលមានឈ្មោះ។ Inkling នៅលើច្រកទ្វាររបស់យើងគ្មានអ្នកចាត់ថ្នាក់បែបនេះនៅមុខវាទេ។ វាមើលអ្វីដែលអ្នកបានផ្ញើ ហើយឆ្លើយសំណួរដែលអ្នកបានសួរ។ នោះជាផលិតផល។

04លទ្ធផលមានរចនាសម្ព័ន្ធ៖ response_format មាន json_schema គ្មាន

នេះជាកន្លែងតែមួយដែល Inkling មានសមត្ថភាពតិចជាងកាតាឡុកភាគច្រើន ហើយវាប្រសើរជាងក្នុងការគ្រោងទុកជាមុន ជាជាងរកឃើញវានៅក្នុងផលិតកម្ម។

សមត្ថភាព	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ការមើលឃើញ (ទិន្នន័យបញ្ចូលរូបភាព)	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស	ទេ
response_format	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស	ទេ
json_schema	ទេ	បាទ/ចាស	បាទ/ចាស	ទេ
ការហៅឧបករណ៍	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស
កម្រិតការវែកញែក	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស	បាទ/ចាស

response_format: {"type": "json_object"} ដំណើរការ — អ្នកទទួលបាន JSON ត្រឹមត្រូវតាមវេយ្យាករណ៍។ អ្វីដែលអ្នកមិនទទួលបានគឺ ការឌិកូដដែលបង្ខំដោយវេយ្យាករណ៍ធៀបនឹង schema ដែលអ្នកផ្តល់ឲ្យ ដែល sampler ត្រូវបានរារាំងជាក់ស្តែងមិនឲ្យបញ្ចេញថូខឹនដែលរំលោភរចនាសម្ព័ន្ធរបស់អ្នក។ ឈ្មោះវាល សមាជិកភាព enum និងវត្តមានគន្លឹះចាំបាច់ជាការជ្រើសរើសរបស់ម៉ូដែល មិនមែនជាការធានាទេ។

បីវិធីដើម្បីរស់នៅជាមួយចំណុចនោះ តាមលំដាប់ភាពជឿទុកចិត្តបានកើនឡើង៖

1. ដាក់ schema ក្នុង prompt ហើយផ្ទៀងផ្ទាត់។ ដាក់ schema ក្នុង system prompt ជា JSON ត្រង់ៗ កំណត់ response_format ទៅ json_object ហើយផ្ទៀងផ្ទាត់ចម្លើយនៅខាងអ្នក។ ព្យាយាមម្តងទៀតនៅពេលការផ្ទៀងផ្ទាត់បរាជ័យ ដោយបន្ថែមសារកំហុសរបស់ validator។ ថោក ដំណើរការបាន ត្រូវការថវិកាព្យាយាមឡើងវិញ។
2. ប្រើនិយមន័យឧបករណ៍ជា schema។ ការហៅឧបករណ៍ ត្រូវបានគាំទ្រ ហើយនិយមន័យប៉ារ៉ាម៉ែត្ររបស់អនុគមន៍មួយគឺជា JSON Schema។ ប្រកាសឧបករណ៍តែមួយដាក់ឈ្មោះតាមការទាញយកដែលអ្នកចង់បាន បង្ខំវា ហើយអានអាគុយម៉ង់។ នេះជាធម្មតាជាជម្រើសខ្លាំងបំផុតលើ Inkling ហើយវាមិនចំណាយបន្ថែមអ្វីទាល់តែសោះ។
3. ចែកកិច្ចការជាពីរម៉ូដែល។ ឲ្យ Inkling ធ្វើការមើលឃើញ និងការវែកញែកជាអត្ថបទរាយ បន្ទាប់មកប្រគល់អត្ថបទនោះទៅ MiMo-V2.5-W8A16 ក្នុងតម្លៃ $0.50 / $2.00 ជាមួយ json_schema ពិតប្រាកដសម្រាប់ជំហានរៀបចំរចនាសម្ព័ន្ធ។ ការហៅពីរដង ប៉ុន្តែលើកទីពីរថោក មានរូបរាងច្បាស់លាស់ ហើយម៉ូដែលដែលត្រូវការឆ្លាតគឺជាម៉ូដែលដែលបានឃើញរូបភាព។

ជម្រើសទី 3 ជាលំនាំដែលយើងសូមណែនាំសម្រាប់បំពង់ទាញយកទិន្នន័យបរិមាណច្រើនណាមួយ។ បង់ថ្លៃខ្ពស់តែសម្រាប់ជំហានដែលត្រូវការវាប៉ុណ្ណោះ។

05តើតម្លៃខ្ពស់នេះទិញអ្វីឲ្យអ្នក?

ក្នុងតម្លៃ $1.42 ចូល / $6.07 ចេញ ក្នុងមួយលានថូខឹន Inkling ស្ថិតនៅចំកណ្តាលកាតាឡុករបស់យើងដោយចេតនា។ ម៉ូដែលប្រាំមួយក្នុងចំណោម 12 ស្ថិតនៅថ្នាក់ថោកបំផុត $0.50 / $2.00។ Kimi-K3 — ទង់ជាតិ ដែលក៏មានសមត្ថភាពមើលឃើញដែរ — មានតម្លៃ $3.83 / $19.12។ Inkling ប្រហែលបីដងនៃថ្នាក់ថោកបំផុតលើចេញ និងប្រហែលមួយភាគបីនៃទង់ជាតិ។

តម្លៃចេញ គិតជា USD ក្នុងមួយលានថូខឹន អត្រាបញ្ជីរបស់ Shannon AI Gateway ខែកញ្ញា ឆ្នាំ 2026។ ទទឹងរបារសមាមាត្រទៅនឹងតម្លៃ វែងជាងមានន័យថាថ្លៃជាង។

នេះជាការវាយតម្លៃស្មោះត្រង់អំពីកន្លែងដែលតម្លៃខ្ពស់នេះសមនឹងទឹកប្រាក់ — និងកន្លែងដែលមិនសម។

បន្ទុកការងារ	ប្រើ Inkling ទេ?	ហេតុអ្វី
ការវែកញែកគំនូសតាង / ដ្យាក្រាម	បាទ/ចាស	តួលេខ CharXiv និង MMMU Pro ដែលបានផ្សព្វផ្សាយជាកន្លែងដែលគ្រឹះនេះខ្លាំងបំផុត។
ភ្នាក់ងារដឹកនាំដោយរូបថតអេក្រង់	បាទ/ចាស	ការមើលឃើញ បូកនឹងការហៅឧបករណ៍ បូកនឹងប្រវត្តិ 262K ក្នុងម៉ូដែលតែមួយ គ្មានការប្រគល់ជូន។
ឯកសារវែងមានរូបភាព	បាទ/ចាស	អត្ថបទ និងរូបភាពចែករំលែក decoder តែមួយ និងបង្អួចបរិបទតែមួយ។
ការបង្កើតអត្ថបទធម្មតា	ទេ	ម៉ូដែលប្រាំមួយក្នុងតម្លៃ $0.50 / $2.00 ធ្វើការនេះបាន។ អ្នកកំពុងបង់ថ្លៃផ្លូវមើលឃើញដែលអ្នកមិនដែលហៅ។
ការទាញយក schema ជាចំនួនច្រើន	ទេ	គ្មាន json_schema ទេ។ MiMo-V2.5 ថោកជាង និងបានបង្ខំរចនាសម្ព័ន្ធ។
ដំបូលថ្នាក់ជួរមុខទាំងស្រុង	ទេ	Kimi-K3 ជាទង់ជាតិ។ បង់ 3.1× បើដំបូលជាកម្រិតកំណត់។
ការមើលឃើញថោកបំផុតដែលអាចធ្វើបាន	ទេ	MiniMax-M3 មានការមើលឃើញក្នុងតម្លៃ $0.50 / $2.00។ ចាប់ផ្តើមទីនោះ ហើយឡើងកម្រិតបើគុណភាពតម្រូវ។

សូមអានវាជាច្បាប់នាំផ្លូវ មិនមែនចំណាត់ថ្នាក់ទេ។ Inkling សមសម្រាប់ជួរការងារតូចជាងអ្វីដែលទំព័រទីផ្សារនឹងអះអាង ហើយនៅក្នុងជួរនោះវាពិបាកនឹងកម្ចាត់លើតម្លៃ។ នៅក្រៅជួរនោះ យើងចង់លក់ម៉ូដែលថោកជាងឲ្យអ្នក ហើយរក្សាអ្នកទុក។

06បង្អួចបរិបទ 262K និងអ្វីដែលសមទំហំជាក់ស្តែង

ម៉ូដែលទាំង 12 នៅលើច្រកទ្វារត្រូវបានបម្រើជាមួយបរិបទចូល 262,144 ថូខឹន និងលទ្ធផលអតិបរមា 16,384 ថូខឹន ក្នុងមួយសំណើ។ ដូចគ្នាដោយចេតនា៖ ការគ្រប់គ្រងបរិបទមិនគួរក្លាយជាសាខាក្នុងកូដរបស់អ្នកតាមម៉ូដែលនីមួយៗឡើយ ហើយការប្តូរ inkling ទៅ MiniMax-M3 ក្នុងឯកសារកំណត់រចនាសម្ព័ន្ធមិនគួរផ្លាស់ប្តូរអ្វីដែលសមទំហំដោយស្ងាត់ស្ងៀមទេ។

សូមកត់សម្គាល់គម្លាតធៀបនឹងគ្រឹះដែលបានផ្សព្វផ្សាយ៖ Thinking Machines កត់ត្រា Inkling នៅ 1,048,576 ថូខឹន ហើយយើងបម្រើចំណែក 262K នៃនោះ។ បើអ្នកមានបន្ទុកការងារសំណើតែមួយកម្រិតលានថូខឹនពិតប្រាកដ យើងមិនមែនជា endpoint សម្រាប់វាទេ ហើយវាល្អជាងបើអ្នកដឹងមុនពេលអ្នកសាងសង់។

សម្រាប់មាត្រដ្ឋាននៅ 262K៖ ឯកសារ PDF បច្ចេកទេស 400 ទំព័រជាមួយរូបភាពរបស់វា មូលដ្ឋានកូដទំហំមធ្យម កំណត់ត្រាការសន្ទនាច្រើនម៉ោង ឬវគ្គភ្នាក់ងារវែងមួយផ្ទុកលទ្ធផលឧបករណ៍រាប់សិប និងរូបថតអេក្រង់មួយក្តាប់ — នីមួយៗសមទំហំក្នុងសំណើតែមួយ។ លើម៉ូដែលមើលឃើញ សូមចាំថារូបភាពប្រើប្រាស់បរិបទដែរ រូបថតអេក្រង់ក្រាស់មិនមែនឥតគិតថ្លៃទេ ហើយវគ្គដែលស្ទ្រីមស៊ុមរូបភាពនឹងបំពេញបង្អួចលឿនជាងវគ្គអត្ថបទតែប៉ុណ្ណោះ។ ស្ថាបត្យកម្មសមស្របនឹងនេះបានល្អ៖ លំនាំ sliding-window ទៅ global 5:1 មានន័យថាស្រទាប់ភាគច្រើនយកចិត្តទុកដាក់ក្នុងចម្ងាយជិត 512 ថូខឹន ដោយស្រទាប់សកលទាញរចនាសម្ព័ន្ធចម្ងាយឆ្ងាយត្រឡប់មកវិញតាមកាលកំណត់។

07កម្រិតការវែកញែក៖ បង់ថ្លៃការគិតតែពេលអ្នកត្រូវការ

Inkling បង្ហាញកម្រិតការវែកញែកដែលអាចគ្រប់គ្រងបាន — មួយក្នុងចំណោមកន្ត្រោលមានប្រយោជន៍បំផុតក្នុងកាតាឡុក។ ម៉ូដែលដើមទទួលកម្រិតពី none និង minimal ដល់ low, medium, high, xhigh រហូតដល់ max បង្ហាញនៅលើទំរង់ភាសាទាំងបីតាមរយៈប៉ារ៉ាម៉ែត្រស្តង់ដារ reasoning_effort។

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

នេះជាកន្ត្រៃថ្លៃដើមមានឥទ្ធិពលពិតប្រាកដ ព្រោះថូខឹនវែកញែកត្រូវបានគិតលុយជាថូខឹនចេញក្នុងអត្រា $6.07 ក្នុងមួយលាន។ Thinking Machines រាយការណ៍ថានៅលើ Terminal Bench 2.1 Inkling ឈានដល់ពិន្ទុប្រៀបធៀបនឹង Nemotron 3 Ultra ដោយប្រើប្រហែលមួយភាគបីនៃថូខឹន — ប្រសិទ្ធភាពថូខឹនជាគោលដៅរចនាដែលបានប្រកាសរបស់ប្រព័ន្ធកម្រិតការវែកញែក មិនមែនចៃដន្យទេ។

ជាក់ស្តែង៖ រត់ low ឬ minimal សម្រាប់ការសរសេរចំណងជើង ចាត់ថ្នាក់ និងទាញយកទិន្នន័យត្រង់ៗ ដែលចម្លើយស្ថិតនៅក្នុងរូបភាព ហើយមិនត្រូវការខ្សែសង្វាក់ការសន្និដ្ឋានទេ។ រក្សា high ឡើងទៅសម្រាប់ការវែកញែកគំនូសតាង ការប្រៀបធៀបចក្ខុវិស័យច្រើនជំហាន និងវេនភ្នាក់ងារដែលជំហានកណ្តាលខុសមានតម្លៃថ្លៃ។ ក្រុមភាគច្រើនមិនដែលកំណត់ប៉ារ៉ាម៉ែត្រនេះទាល់តែសោះ ហើយបន្សល់ទុកភាពខុសគ្នាថ្លៃដើមចេញច្រើនដងនៅលើតុ។

08អ្វីដែល "គ្មានសេនស័រ" មានន័យនៅទីនេះ — និងអ្វីដែលមិនមែន

ជាក់ស្តែង៖ យើងដំណើរការម៉ូដែលនេះដោយ គ្មានស្រទាប់ការបដិសេធ និងគ្មានតម្រងលើលទ្ធផលទេ។ គ្មានអ្នកចាត់ថ្នាក់អានប្រយោគរបស់អ្នក ហើយសម្រេចថាតើម៉ូដែលអាចឆ្លើយបានឬអត់ទេ ហើយគ្មានអ្នកណាអានចម្លើយមុនពេលវាស្ទ្រីមទេ។ នៅពេលម៉ូដែលមិនប្រាកដប្រជា ឬខ្វះចំណេះដឹង វានិយាយដូច្នេះ — នោះជាធម្មជាតិម៉ូដែល មិនមែនគោលការណ៍ទេ។ អ្វីដែលអ្នកនឹងមិនទទួលបានគឺការបដិសេធស្វ័យប្រវត្តិលើប្រធានបទណាមួយដែលផលិតផលសម្រាប់អ្នកប្រើប្រាស់ទូទៅចាត់ទុកជាហាមឃាត់។

សម្រាប់ការមើលឃើញ នេះជាតម្លៃទាំងអស់។ អ្នកចាត់ថ្នាក់រូបភាពនៅមុខ API មើលឃើញមិនច្បាស់លាស់ទេ ហើយអត្រា false-positive ធ្លាក់ធ្ងន់បំផុតលើការងារវិជ្ជាជីវៈដែលត្រូវការសមត្ថភាពនេះបំផុត៖ ការស្រាវជ្រាវសន្តិសុខ បរិបទព្យាបាល សារព័ត៌មាន និងកោសល្យវិច្ច័យ ការរិះគន់ភាពយន្ត និងសិល្បៈ ឧបករណ៍ត្រួតពិនិត្យខ្លឹមសារដែលត្រូវមើលអ្វីដែលវាកំពុងត្រួតពិនិត្យ។ endpoint ដែលបដិសេធតាមប្រភេទមិនអាចបម្រើការណាមួយក្នុងចំណោមនោះបានដោយទុកចិត្តទេ។

ការព្រមានពិតប្រាកដពីរ។ ទីមួយ Thinking Machines ផ្សព្វផ្សាយការវាយតម្លៃសុវត្ថិភាពសម្រាប់ការដាក់ឲ្យប្រើប្រាស់ជាឯកសារយោងរបស់ពួកគេ — 78.0% លើ FORTRESS adversarial 95.9% លើ FORTRESS benign 98.6% លើ StrongREJECT។ តួលេខទាំងនោះពិពណ៌នាជង់ប្រព័ន្ធរបស់ពួកគេ ជាមួយការការពាររបស់ពួកគេនៅនឹងកន្លែង។ ពួកវាមិនពិពណ៌នារបស់យើងទេ ហើយយើងនឹងមិនដកស្រង់ពួកវាដូចជាពួកវាពិពណ៌នារបស់យើងទេ។ យើងបានដកស្រទាប់ដែលលេខទាំងនោះវាស់ស្ទង់មួយផ្នែកចេញ នោះជាផលិតផល និងទំនួលខុសត្រូវ។

ទីពីរ "គ្មានស្រទាប់ការបដិសេធ" មិនមែន "គ្មានច្បាប់"ទេ។ Shannon Lab LLC ដំណើរការក្រោមគោលការណ៍ប្រើប្រាស់ដោយទទួលខុសត្រូវ និងច្បាប់សហរដ្ឋអាមេរិកដែលអនុវត្ត។ ការដកអ្នកចាត់ថ្នាក់ចេញផ្ទេរការវិនិច្ឆ័យទៅអ្នក វាមិនលុបវាចោលទេ។ បើអ្នកកំពុងសាងសង់លើនេះ សូមអានគោលការណ៍មុនពេលអ្នកពង្រីកទំហំ។

09ការចាប់ផ្តើម

base URL ដូចគ្នា key ដូចគ្នា ទំរង់ភាសាបី។ បើកូដរបស់អ្នកហៅ OpenAI, Anthropic ឬ Responses API រួចហើយ ការផ្លាស់ប្តូរខ្សែអក្សរម៉ូដែលជាធម្មតាជាការផ្លាស់ប្តូរទាំងអស់។

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

ឯកសារយោងប៉ារ៉ាម៉ែត្រពេញលេញ រូបរាង /v1/messages និង /v1/responses ទំរង់ព្រឹត្តិការណ៍ស្ទ្រីម និងទីលានពិសោធន៍ផ្ទាល់ មាននៅក្នុង ឯកសារ API។ ប័ណ្ណម៉ូដែលសម្រាប់ម៉ូដែលដទៃទៀតទាំង 11 មាននៅក្នុង ការស្រាវជ្រាវ Shannon។

តួលេខគ្រឹះជាតួលេខដែលបានផ្សព្វផ្សាយដោយ Thinking Machines Lab សម្រាប់ checkpoint Inkling មិនទាន់បង្រួម និងពិពណ៌នាដំបូលនៃគ្រួសារ មិនមែនការសាងសង់ដែលបានបង្រួមរបស់យើងទេ។ តម្លៃ និងទង់សមត្ថភាពជាតម្លៃបញ្ជីរបស់ Shannon AI Gateway គិតត្រឹមខែកញ្ញា ឆ្នាំ 2026។

10សំណួរដែលសួរញឹកញាប់

---

ប្រភព៖ Thinking Machines Lab — ណែនាំ Inkling · Hugging Face — សូមស្វាគមន៍ Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — កំណត់ត្រាស្ថាបត្យកម្ម និងស្តង់ដារវាស់ស្ទង់ Inkling។ ស្តង់ដារវាស់ស្ទង់គ្រឹះជាការរាយការណ៍ដោយក្រុមហ៊ុនផលិតសម្រាប់ checkpoint មិនទាន់បង្រួម។