API Hy3 គ្មានសេនស័រ
គ្រឹះ Hy3 295B របស់ Tencent ក្នុងភាពស្មោះត្រង់ទម្ងន់ 8-bit ជាមួយលទ្ធផល json_schema តឹងរឹង បង្អួច 262,144 ថូខឹន និងគ្មានស្រទាប់ការបដិសេធ — ក្នុងតម្លៃទាបបំផុតរបស់កាតាឡុក។
សេចក្តីសង្ខេប
Hy3-W8A16 ជាទីបីនៃម៉ូដែល W8A16 ទាំងបីរបស់យើង — ទម្ងន់ 8-bit ការធ្វើសកម្មភាព 16-bit ជាថ្នាក់ភាពស្មោះត្រង់ខ្ពស់បំផុតដែលយើងបម្រើ។ វាជាអត្ថបទតែប៉ុណ្ណោះ គាំទ្រទាំង json_schema និង response_format ផ្ទុកបរិបទ 262,144 ថូខឹន និងដំបូលលទ្ធផល 16,384 ថូខឹន ដូចម៉ូដែលគ្រប់រូបក្នុងកាតាឡុក ហើយមានតម្លៃ $0.50 / $2.00 ក្នុងមួយលានថូខឹន — តម្លៃទាបបំផុត។ គ្មានស្រទាប់ការបដិសេធ គ្មានតម្រងលទ្ធផល។ ជ្រើសរើសវាសម្រាប់បំពង់បង្ហូរអត្ថបទបរិមាណច្រើនដែលត្រូវការត្រឡប់លទ្ធផលអាចញែកបាន និងមានប្រភេទទិន្នន័យច្បាស់លាស់រាល់ការហៅ រួមទាំងលើខ្លឹមសារដែលម៉ូដែលមានតម្រងនឹងបដិសេធមិនប៉ះពាល់។
ការជជែកវែកញែកភាគច្រើនអំពី "តើគួរប្រើម៉ូដែលមួយណា" សំដៅលើដំបូល៖ តើម៉ូដែលមួយណាសរសេរកូដល្អបំផុត ដោះស្រាយគណិតវិទ្យាពិបាកបំផុត ឈ្នះការរត់ភ្នាក់ងារវែងបំផុត។ បំពង់បង្ហូរទិន្នន័យមានរចនាសម្ព័ន្ធមិនដំណើរការបែបនោះទេ។ ការងារទាញយកវាលទិន្នន័យពីឯកសារមួយសែនក្នុងមួយថ្ងៃ មិនត្រូវការម៉ូដែលដែលពូកែម្តងទេ — វាត្រូវការម៉ូដែលដែលត្រឹមត្រូវក្នុងទម្រង់ដូចគ្នារាល់ពេល ហើយមិនដែលត្រឡប់កថាខណ្ឌនៅកន្លែងដែល object JSON គួរនៅ។ នោះជាលក្ខណៈសម្បត្តិដែល Hy3-W8A16 មានវត្តមានសម្រាប់។
01តើ Hy3 ជាអ្វី និងមកពីណា
Hy3 ជាម៉ូដែលទម្ងន់បើកចំហសម្រាប់ការវែកញែក និងការងារភ្នាក់ងារពីក្រុម Hunyuan របស់ Tencent ដែលបានចេញផ្សាយពេញលេញនៅថ្ងៃទី 6 ខែកក្កដា ឆ្នាំ 2026 ក្រោមអាជ្ញាប័ណ្ណបើកទូលាយ ជាមួយទម្ងន់បានផ្សព្វផ្សាយនៅលើ Hugging Face។ វាបន្តខ្សែស្រឡាយការងារ Hunyuan-Large Mixture-of-Experts មុនរបស់ Tencent។ ខាងស្ថាបត្យកម្ម វាជា MoE រាយប៉ាយ៖ ប៉ារ៉ាម៉ែត្រសរុប 295 ពាន់លាន ដែលប្រហែល 21 ពាន់លានធ្វើសកម្មភាពក្នុងមួយថូខឹនតាមរយៈការនាំផ្លូវ top-8 កាត់តាមអ្នកជំនាញ 192 នៅលើ transformer 80-ស្រទាប់ជាមួយ grouped-query attention បូកនឹងស្រទាប់ multi-token-prediction 3.8B ដាច់ដោយឡែកសម្រាប់ speculative decoding។ បរិបទដើមកំណើតជា 256K — ដូចគ្នាបេះបិទនឹង 262,144 ថូខឹនដែលយើងបង្ហាញ មិនមែនការកាត់ចេញពីអ្វីមួយធំជាង ឬការពង្រីកបែប rope ពីអ្វីមួយតូចជាងទេ។
អនុបាតការរាយប៉ាយនោះជាលេខសំខាន់សម្រាប់អ្នកគិតលុយក្នុងមួយថូខឹន៖ Hy3 ផ្ទុកចំណេះដឹងរបស់ម៉ូដែល 295B ខណៈធ្វើនព្វន្ធប្រហែលនឹងម៉ូដែល 21B ក្នុងមួយ forward pass។ នេះក៏ជាមូលហេតុដែលយើងអាចផ្តល់ថវិកាបម្រើវានៅ 8-bit ជាជាងបង្រួមទិន្នន័យខ្លាំងជាងនេះ — ការសាងសង់ 8-bit នៃម៉ូដែលដែលរាយប៉ាយបែបនេះនៅតែសមទំហំ និងនៅតែរត់លឿននៅលើចង្កោមកម្មវិធីក្រាហ្វិកផ្ទាល់ខ្លួនរបស់យើង។
អ្វីដែល Tencent រាយការណ៍ថាវាពូកែ
តារាងវាយតម្លៃដែល Tencent បានផ្សព្វផ្សាយបង្ហាញថាចំណុចខ្លាំងរបស់ Hy3 ស្ថិតត្រង់លើ ការស្វែងរកជាភ្នាក់ងារ ការសម្របសម្រួលការហៅឧបករណ៍ និងការទាញយកបរិបទវែង ជាជាងលើការសរសេរកូដសុទ្ធសាធ។ តួលេខដែលពួកគេរាយការណ៍៖
យើងបង្ហាញរបារខ្សោយដោយចេតនា។ Hy3 ដើរតាមក្រោយ GLM-5.2 លើការសរសេរកូដ តាមការប្រៀបធៀបផ្ទាល់ខ្លួនរបស់ Tencent — 78.0 ធៀបនឹង 84.2 លើ SWE-bench Verified, 28.0 ធៀបនឹង 46.2 លើ DeepSWE។ បើបន្ទុកការងាររបស់អ្នកជាវិស្វកម្មកម្មវិធីច្រើនឯកសារដោយស្វ័យប្រវត្តិ សូមអានសន្ទស្សន៍ស្រាវជ្រាវម៉ូដែលដទៃទៀតជាមុនសិន។ បើវាជាការអានអត្ថបទ ហើយបញ្ចេញរចនាសម្ព័ន្ធ ទម្រង់នេះជិតដល់ល្អឥតខ្ចោះ។
តួលេខដែលសំខាន់បំផុតសម្រាប់ការងារបំពង់បង្ហូរទិន្នន័យជាតួលេខភាពជឿទុកចិត្តបាន៖ Tencent រាយការណ៍អត្រាការបង្កើតព័ត៌មានមិនពិត (hallucination) របស់ Hy3 នៅ 5.4% ធ្លាក់ចុះពី 12.5% ក្នុងជំនាន់មុន ជាមួយកំហុសសុភវិនិច្ឆ័យទូទៅធ្លាក់ចុះពី 25.4% ទៅ 12.7%។ គោលការណ៍បណ្តុះបណ្តាលដែលពួកគេបានចែង — ឆ្លើយពេលមានភស្តុតាង និយាយឲ្យច្បាស់ពេលគ្មាន — គឺជាឥរិយាបថដែលអ្នកចង់បានក្នុងម៉ូដែលទាញយកទិន្នន័យ ដែលបើពុំនោះទេ វានឹងបង្កើតតម្លៃដែលមើលទៅសមហេតុផលសម្រាប់វាលមួយដែលប្រភពមិនដែលបានលើកឡើង។
តួលេខទាំងអស់ក្នុងផ្នែកនេះត្រូវបានរាយការណ៍ដោយ Tencent ពីការសាកល្បងផ្ទាល់ខ្លួនរបស់ពួកគេ ការផ្ទៀងផ្ទាត់ដោយភាគីទីបីឯករាជ្យនៅតែកំពុងរង់ចាំនៅពេលសរសេរអត្ថបទនេះ។ សូមចាត់ទុកវាជាទិសដៅ មិនមែនជាការស្រេចស្រាន្តទេ។
02តើ W8A16 មានន័យដូចម្តេច ហើយហេតុអ្វីវាសំខាន់សម្រាប់លទ្ធផលមានរចនាសម្ព័ន្ធ
ម៉ូដែលគ្រប់រូបនៅលើច្រកទ្វារមានបច្ច័យបង្រួមទិន្នន័យ។ វាមិនមែនជាការតុបតែងទេ — វាប្រាប់អ្នកថាទម្ងន់ដែលបម្រើឆ្ងាយប៉ុណ្ណាពី checkpoint ដែលមន្ទីរពិសោធន៍បានចេញផ្សាយ។
| ថ្នាក់ | អ្វីដែលវាធ្វើ | ភាពស្មោះត្រង់ |
|---|---|---|
| 3BIT-REAP | ទម្ងន់ 3-bit បូកនឹង REAP វិធីសាស្ត្រកាត់ចោលអ្នកជំនាញដែលដកអ្នកជំនាញ MoE ដែលកម្រត្រូវបាននាំផ្លូវចេញ មុនពេលបង្រួមទិន្នន័យ | បង្រួមទិន្នន័យខ្លាំងបំផុត |
| W4A16-AUTOROUND-REAP | ទម្ងន់ 4-bit / ការធ្វើសកម្មភាព 16-bit តាមរយៈ AutoRound — ការបង្គត់ដែលបានរៀនដែលស្តារភាពត្រឹមត្រូវលើសពីការបង្គត់ទៅជិតបំផុតធម្មតា — បូកនឹងការកាត់ចោលអ្នកជំនាញ REAP | កណ្តាល |
| W8A16 | ទម្ងន់ 8-bit / ការធ្វើសកម្មភាព 16-bit។ គ្មានការកាត់ចោល គ្មានការជួសជុលការបង្គត់ដែលបានរៀន — ទម្ងន់ត្រូវបានផ្ទុកគ្រាន់តែក្នុងភាពជាក់លាក់ទ្វេដង | ខ្ពស់បំផុត |
កន្លែងដែលការរសាត់នៃការបង្រួមទិន្នន័យធ្វើឲ្យខូចខាតជាក់ស្តែង
REAP និង AutoRound ស្តារបានភាគច្រើននៃអ្វីដែលការបង្រួមទិន្នន័យធម្មតាបាត់បង់ — ប៉ុន្តែពាក្យ "ភាគច្រើន" កំពុងធ្វើការក្នុងប្រយោគនោះ ហើយសំណល់មិនធ្លាក់ស្មើគ្នាទេ។ ការបង្រួមទិន្នន័យប៊ីតទាបធ្វើឲ្យកន្ទុយចុះខ្សោយ៖ ការសម្រេចចិត្តប្រូបាបីលីតេទាប ជាក់លាក់ខ្ពស់។ ក្នុងអត្ថបទរាយ វាស្ទើរតែមើលមិនឃើញ៖ គុណនាមផ្សេងក៏នៅតែជាប្រយោគល្អដដែល។ ក្នុងលទ្ធផលមានរចនាសម្ព័ន្ធ វាជាល្បែងទាំងមូល ព្រោះ schema ជាខ្សែសង្វាក់វែងនៃការសម្រេចចិត្តប្រូបាបីលីតេទាបដែលនីមួយៗត្រូវតែត្រឹមត្រូវបេះបិទ៖
- វាក្យសម្ព័ន្ធកម្រិតថូខឹន។ តង្កៀបបិទ សញ្ញាក្បៀស តួអក្សរសម្រង់។ នីមួយៗជាថូខឹនមួយ ហើយថូខឹនខុសមួយធ្វើឲ្យចម្លើយទាំងមូលមិនត្រឹមត្រូវ។
- វិន័យ enum។ schema របស់អ្នកចែងថា
"status"ជាមួយក្នុងចំណោម"open" | "closed" | "pending"; ម៉ូដែលដែលរសាត់ត្រឡប់"Open"ឬ"pending review"— ជិតគ្នាខាងន័យន័យ តែមិនត្រឹមត្រូវទាំងពីរ។ - វិន័យប្រភេទទិន្នន័យ។ វាល
numberត្រឡប់មកជា"1,240"វាលbooleanត្រឡប់ជា"yes"។ ទាំងពីរញែកជា string ហើយបរាជ័យ schema។ - តម្លៃកន្ទុយវែង។ នាមឯកជនកម្រ លេខផ្នែក ឈ្មោះគីមី អក្សរក្រមក្រៅឡាតាំង កាលបរិច្ឆេទច្បាស់លាស់ — ត្រូវជាតំបន់ប្រូបាបីលីតេទាបដែលទម្ងន់ប៊ីតទាបធ្វើឲ្យព្រិល។
គ្មានចំណុចណាមួយក្នុងនេះធ្វើឲ្យម៉ូដែល 4-bit ឬ 3-bit អាក្រក់ទេ សម្រាប់ការងារសន្ទនា ភាពខុសគ្នានៃភាពស្មោះត្រង់ជាញឹកញាប់មិនសមនឹងភាពខុសគ្នានៃតម្លៃទេ។ ប៉ុន្តែពេលអ្នកប្រើប្រាស់លទ្ធផលជាកម្មវិធីផ្ទៀងផ្ទាត់ជាជាងមនុស្ស ភាពជាក់លាក់នៅកន្ទុយបំប្លែងផ្ទាល់ទៅជាអត្រាការញែក — ហើយអត្រាការញែកបំប្លែងទៅជាថវិកាព្យាយាមឡើងវិញ និង p99 latency។ W8A16 ជាថ្នាក់ដែលអ្នកឈប់បង់ពន្ធនោះ។
03លទ្ធផលមានរចនាសម្ព័ន្ធ៖ json_schema និង response_format
Hy3 គាំទ្រទាំងពីរផ្នែកនៃផ្ទៃលទ្ធផលមានរចនាសម្ព័ន្ធ — ដែលសមនឹងចែងឲ្យច្បាស់ ព្រោះនោះមិនមែនជារឿងទូទៅកាត់តាមកាតាឡុកទាំងមូលទេ៖
| ម៉ូដែល | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | មាន | មាន |
| MiMo-V2.5-Pro · W8A16 | មាន | មាន |
| inkling · W4A16-AUTOROUND-REAP | មាន | ទេ |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | ទេ | ទេ |
ភាពខុសគ្នារវាងយន្តការទាំងពីរសំខាន់ជាងអ្វីដែលមនុស្សសន្មត។ response_format: {"type": "json_object"} ស្នើសុំ JSON ត្រឹមត្រូវ និងគ្មានអ្វីផ្សេងទៀត — ម៉ូដែលជ្រើសរើសរូបរាង ដូច្នេះការហៅពីរដងអាចត្រឡប់ {"name": ...} និង {"full_name": ...} ហើយទាំងពីរត្រឹមត្រូវ។ json_schema ផ្តល់រូបរាងជាមុន៖ វាលមានឈ្មោះ ប្រភេទទិន្នន័យ enum បញ្ជីតម្រូវការ ការដាក់ស្រទាប់។ នោះជាកិច្ចសន្យាដែលអ្នកអាចសរសេរកូដទប់ទល់វា។
ការហៅតូចបំផុតនៅលើភាសាត្រូវគ្នា OpenAI៖
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
កំណត់ចំណាំជាក់ស្តែង
- ធ្វើឲ្យរាល់វាលទាំងអស់ជាតម្រូវការ ហើយអនុញ្ញាត
null។ វាលស្រេចចិត្តអញ្ជើញការធ្លាក់ចោលដោយស្ងាត់ៗ វាលដែលតម្រូវ ប៉ុន្តែអនុញ្ញាត null បង្ខំឲ្យមាន "មិនមានវត្តមាន" យ៉ាងច្បាស់ ដែលជាព័ត៌មានអ្នកអាចធ្វើសកម្មភាពលើវាបាន។ - Enum ប្រសើរជាង string សេរី។ កន្លែងណាដែលអ្នកអាចបិទសំណុំតម្លៃបាន សូមបិទវា — ការផ្លាស់ប្តូរដែលមានឥទ្ធិពលខ្ពស់បំផុតលើអត្រាការឆ្លងកាត់ schema ក្នុងពិភពពិត។
- រក្សាក្រោមដំបូលលទ្ធផល 16,384 ថូខឹន។ array គ្មានដែនកំណត់នឹងកាត់ខ្លីកណ្តាល object។ កំណត់ប្រវែង array ឬបំបែកទិន្នន័យបញ្ចូល។
- រក្សាសារប្រព័ន្ធ។ schema កំណត់រូបរាង prompt នៅតែគ្រប់គ្រងន័យន័យ — អ្វីដែលរាប់ជា "ធ្ងន់ធ្ងរបំផុត" កាលបរិច្ឆេទមួយណាឈ្នះពេលមានពីរលេចឡើង តើត្រូវធ្វើឲ្យឯកតាធម្មតាឬអត់។
- ផ្ទៀងផ្ទាត់យ៉ាងណាក៏ដោយ។ ការគាំទ្រ schema បង្កើនអត្រាការឆ្លងកាត់ វាមិនជំនួសកម្មវិធីផ្ទៀងផ្ទាត់ និងជួរឆាតសំបុត្រស្លាប់ (dead-letter queue) ទេ។
04ហេតុអ្វី "គ្មានសេនស័រ" ជាលក្ខណៈសម្បត្តិភាពជឿទុកចិត្តបាន មិនមែនគ្រាន់តែជាលក្ខណៈសម្បត្តិខ្លឹមសារ
Hy3 នៅលើច្រកទ្វារគ្មានស្រទាប់ការបដិសេធ និងគ្មានតម្រងលទ្ធផលទេ។ ការពន្យល់ធម្មតាសំដៅលើខ្លឹមសារ៖ អ្នកអាចដំណើរការស្រាវជ្រាវសន្តិសុខ ការវិភាគ malware អត្ថបទបកស្រាយ exploit ឯកសារវេជ្ជសាស្ត្រ និងច្បាប់ ខ្លឹមសារមនុស្សពេញវ័យ ឯកសារកាត់បន្ថយគ្រោះថ្នាក់ ឬការសន្ទនាអ្នកប្រើដែលមានឥរិយាបថអវិជ្ជមាន ដោយគ្មានម៉ូដែលសម្រេចចិត្តជំនួសអ្នកថាវាមិនចង់ធ្វើ។
មានមូលហេតុទីពីរ ធម្មតាទៅជាយន្តការជាងនេះ ដែលធ្វើឲ្យវាសំខាន់។ ការបដិសេធជាការរំលោភ schema។ ម៉ូដែលមានតម្រងដែលបដិសេធ មិនត្រឡប់ object របស់អ្នកជាមួយទង់ "unavailable" ទេ — វាត្រឡប់អត្ថបទរាយ។ "ខ្ញុំមិនអាចជួយសំណើនោះបានទេ។" string នោះមិនមែនជា object incident ទេ វាបរាជ័យកម្មវិធីផ្ទៀងផ្ទាត់របស់អ្នក ហើយធ្លាក់ចូលក្នុងជួរឆាតសំបុត្រស្លាប់ជាមួយកំហុសការញែកពិតប្រាកដ ជាកន្លែងដែលឥឡូវអ្នកត្រូវញែកការបដិសេធតាមគោលការណ៍ចេញពីភាពខូចទ្រង់ទ្រាយពិតប្រាកដ។
អាក្រក់ជាងនេះទៀត ការបដិសេធទាក់ទងជាមួយខ្លឹមសារ ជាជាងចែកចាយដោយចៃដន្យ។ បើ 4% នៃឯកសាររបស់អ្នកជារបាយការណ៍ឧប្បត្តិហេតុសន្តិសុខ ហើយម៉ូដែលបដិសេធភាគច្រើនរបស់វា អ្នកមិនបានបាត់បង់ 4% នៃបរិមាណការងារស្មើគ្នាទេ — អ្នកបានបាត់បង់ប្រភេទមួយ ហើយផ្ទាំងគ្រប់គ្រងដែលសាងសង់លើទិន្នន័យនោះ រាយការណ៍ក្រោមកម្រិតយ៉ាងស្ងាត់ចំពោះអ្វីដែលវាមានវត្តមានដើម្បីលាតត្រដាង។ រន្ធរាងប្រភេទចំណាយថ្លៃច្រើនជាងសំឡេងរំខានស្មើគ្នា ព្រោះគ្មានអ្វីជូនដំណឹងអំពីវាទេ។ ដកផ្លូវការបដិសេធចេញ ហើយអ្វីដែលនៅសល់ — ភាពខូចទ្រង់ទ្រាយ ការកាត់ខ្លី អត្ថបទមិនច្បាស់លាស់ — មិនទាក់ទងជាមួយប្រធានបទទេ ដូច្នេះអាចវាស់វែងបាន។
គ្មានសេនស័រមិនមានន័យថាគ្មានការទទួលខុសត្រូវទេ
គ្មានស្រទាប់ការបដិសេធមានន័យថាម៉ូដែលមិនធ្វើការវាយតម្លៃប្រកាសយោបល់លើទិន្នន័យបញ្ចូលរបស់អ្នកទេ។ វាមិនមានន័យថាគណនីមិនត្រូវបានតាមដានទេ។ ការប្រើប្រាស់ស្ថិតនៅក្រោមគោលការណ៍ប្រើប្រាស់ដោយទទួលខុសត្រូវរបស់យើង និងច្បាប់ដែលអាចអនុវត្តបាន ហើយការរំលោភបំពានបញ្ចប់ការចូលប្រើ។ ការដកតម្រងចេញបញ្ឈប់ម៉ូដែលពីការទាយចេតនារបស់អ្នកពីបំណែកឯកសារមួយ វាមិនដកភារកិច្ចរបស់អ្នកចំពោះអ្វីដែលអ្នកសាងសង់ចេញទេ។
05បរិបទ ដំបូលលទ្ធផល និងរបៀបចាត់ចែងថវិកាពួកវា
ម៉ូដែលគ្រប់រូបនៅលើច្រកទ្វារចែករំលែកដែនកំណត់ដូចគ្នា៖
បរិបទជាថវិកាចែករំលែក៖ prompt បូកនឹងលទ្ធផលត្រូវតែសមទំហំក្នុង 262,144 រួមគ្នា ដូច្នេះដំបូលទិន្នន័យបញ្ចូលជាក់ស្តែងក្នុងមួយហៅប្រហែល 245,000 ថូខឹន ប្រហែលណាស់ 180,000 ពាក្យអង់គ្លេស។ សម្រាប់ការងារមានរចនាសម្ព័ន្ធ ដែនកំណត់លទ្ធផល 16,384 ថូខឹនជាដែនកំណត់ពិបាកជាង ហើយជាអ្វីដែលធ្វើឲ្យមនុស្សភ្ញាក់ផ្អើល — schema ដែលបញ្ចេញ object មួយក្នុងមួយកំណត់ត្រា វាឈានដល់ដែនកំណត់នេះឆ្ងាយមុនពេលបង្អួចពេញ។ ចំណាំពីរដំណើរការប្រឆាំងនឹងបញ្ហានេះ៖
- ទិន្នន័យបញ្ចូលធំទូលាយ លទ្ធផលតូចចង្អៀត។ ដាក់កិច្ចសន្យា ការដាក់ស្នើ ឬបង្អួច log ទាំងមូលចូលក្នុងបរិបទ ហើយសុំ object ក្រិមមួយ។ ថូខឹនទិន្នន័យបញ្ចូលមានតម្លៃមួយភាគបួននៃថូខឹនលទ្ធផល ដូច្នេះការកំណត់តម្លៃផ្តល់រង្វាន់ដល់ការអានច្រើន និងសរសេរតិច។
- បំបែកតាមព្រំដែនកំណត់ត្រា មិនមែនចំនួន byte ទេ។ បំបែកនៅកន្លែងដែលម៉ូដែលអាចមើលឃើញថ្នេរ។ កំណត់ត្រាដែលកាត់កណ្តាលប្រយោគ បង្កើត object ខុសដោយទំនុកចិត្ត ជាជាងបរាជ័យដែលច្បាស់លាស់។
ចំណុចខ្លាំងការទាញយកបរិបទវែងរបស់ Hy3 ដែលបានរាយការណ៍ — 73.4 លើ AA-LCR និងការលោតពី 42.9% ទៅ 75.1% លើការចងចាំសន្ទនាវែង MRCR — គឺជាសមត្ថភាពដែលចំណាំទីមួយពឹងផ្អែក ហើយជាជំនាញខុសពីការសរសេរបានល្អ។
06តម្លៃទាបបំផុត និងនព្វន្ធនៃបំពង់បង្ហូរទិន្នន័យពិតប្រាកដ
Hy3 ស្ថិតនៅ $0.50 ក្នុងមួយលានថូខឹនចូល និង $2.00 ក្នុងមួយលានថូខឹនចេញ — តម្លៃទាបបំផុតរបស់កាតាឡុក ដែលចែករំលែកជាមួយ MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 និង MiniMax-M3។ គណនាតាមបន្ទុកតំណាង៖
| បន្ទុកការងារ | ទិន្នន័យបញ្ចូល / ហៅ | លទ្ធផល / ហៅ | ថ្លៃដើម / ហៅ | ក្នុងមួយលានហៅ |
|---|---|---|---|---|
| ការទាញយកវាលទិន្នន័យ | 1,200 | 300 | $0.0012 | $1,200 |
| ការចាត់ថ្នាក់ឯកសារ | 3,000 | 120 | $0.0018 | $1,800 |
| សង្ខេបឯកសារវែងទៅជា schema | 40,000 | 900 | $0.0218 | $21,800 |
| ការវិភាគពេញបង្អួច | 240,000 | 2,000 | $0.1240 | $124,000 |
លេខដែលផ្លាស់ប្តូរការសម្រេចចិត្តមិនមែនជាអត្រាចំណងជើងទេ ប៉ុន្តែជាអត្រាជាក់ស្តែងបន្ទាប់ពីព្យាយាមឡើងវិញ។ បើម៉ូដែលពីរមានតម្លៃដូចគ្នា ហើយមួយបរាជ័យការផ្ទៀងផ្ទាត់លើ 6% នៃការហៅ ខណៈមួយទៀតបរាជ័យលើ 1.5% ម៉ូដែលដែលរសាត់ខ្ពស់រត់ការហៅច្រើនជាងប្រហែល 4.5% — អាចទ្រាំបាន។ ការខូចខាតនៅត្រង់កន្ទុយ៖ ការហៅដែលព្យាយាមឡើងវិញចំណាយពេលទ្វេដង ដូច្នេះ p99 latency កើនប្រហែលទ្វេដងសម្រាប់ចំណែកចរាចរណ៍ដែលមើលឃើញ ហើយអ្វីដែលបរាជ័យពីរដងក្លាយជាការងារដោយដៃ។ នៅមួយលានហៅក្នុងមួយថ្ងៃ នោះជាកំណត់ត្រារាប់ពាន់ដែលនរណាម្នាក់ត្រូវអាន។
ដូច្នេះហេតុផលសម្រាប់ថ្នាក់ 8-bit ក្នុងតម្លៃទាបបំផុត៖ អ្នកមិនបង់ថ្លៃបន្ថែមសម្រាប់ភាពស្មោះត្រង់នៅទីនេះទេ ដូច្នេះនព្វន្ធការព្យាយាមឡើងវិញជាលុយឥតគិតថ្លៃ។ បើម៉ូដែល 3-bit ថោកជាង នឹងមានការដោះដូរពិតប្រាកដត្រូវថ្លឹងថ្លែង — Hy3 មានតម្លៃដូចអ្វីដែលថោកបំផុតក្នុងកាតាឡុក។
07ភាសា API បី ម៉ូដែលមួយ
Hy3 អាចហៅបានលើភាសាច្រកទ្វារទាំងបី ជាមួយ streaming លើនីមួយៗ។ ម៉ូដែលដូចគ្នា ទម្ងន់ដូចគ្នា ដែនកំណត់ដូចគ្នា — ជ្រើសរើសមួយណាដែលត្រូវនឹង SDK ដែលអ្នកមានរួចហើយ។
| ចំណុចប្រទាក់ | ភាសា | ប្រើពេល |
|---|---|---|
| /v1/chat/completions | OpenAI | អ្នកមាន SDK OpenAI, LangChain ឬ LlamaIndex។ ចង្អុលទៅ base URL នេះ ប្តូរលេខសម្គាល់ម៉ូដែល។ |
| /v1/messages | Anthropic | អ្នកកំពុងប្រើ SDK Anthropic ហើយចង់បាន content blocks ដោយគ្មានស្រទាប់បកប្រែ។ |
| /v1/responses | Responses | អ្នកចង់បានរូបរាងសំណើថ្មីជាមួយលទ្ធផលមានប្រភេទទិន្នន័យច្បាស់លាស់ និងស្ថានភាពខាងម៉ាស៊ីនមេ។ |
Hy3 ក៏គាំទ្រការហៅឧបករណ៍ និងការវែកញែក រួមទាំង reasoning_effort។ សម្រាប់ការងារទាញយកទិន្នន័យ ការផ្លាស់ប្តូរដែលមានប្រយោជន៍ជាធម្មតាគឺបន្ថយការវែកញែក៖ លើ schema ដែលបានកំណត់ច្បាស់លាស់លើអត្ថបទស្អាត ថូខឹនគិតគូជាថូខឹនលទ្ធផលដែលអ្នកបង់ថ្លៃ និង latency ដែលអ្នករង់ចាំសម្រាប់ការទទួលបានតិចតួច។ ចំណាយថវិកាការខិតខំលើទិន្នន័យបញ្ចូលដែលពិតជាមិនច្បាស់លាស់ជំនួសវិញ។
ឯកសារយោងសំណើ និងចម្លើយពេញលេញ បញ្ជីប៉ារ៉ាម៉ែត្រ ន័យន័យ streaming និងកន្លែងសាកល្បងអន្តរកម្មមាននៅក្នុង ឯកសារ API។
08ការជ្រើសរើសក្នុងចំណោមម៉ូដែល W8A16 ទាំងបី
ម៉ូដែលបីស្ថិតនៅលើថ្នាក់ភាពស្មោះត្រង់ខ្ពស់បំផុត ទាំងអស់ក្នុងតម្លៃទាបបំផុត។ ជម្រើសភាគច្រើនអាស្រ័យលើ modality៖
| ម៉ូដែល | ការមើលឃើញ | json_schema | តម្លៃចូល / ចេញ | ជ្រើសរើសសម្រាប់ |
|---|---|---|---|---|
| Hy3 · W8A16 | ទេ | មាន | $0.50 / $2.00 | បំពង់បង្ហូរទិន្នន័យមានរចនាសម្ព័ន្ធអត្ថបទតែប៉ុណ្ណោះ ការសម្របសម្រួលការហៅឧបករណ៍ ការទាញយកបរិបទវែង |
| MiMo-V2.5-Pro · W8A16 | ទេ | មាន | $0.50 / $2.00 | ការងារអត្ថបទតែប៉ុណ្ណោះដែលអ្នកចង់បានការកែសម្រួល Pro របស់ជួរ MiMo |
| MiMo-V2.5 · W8A16 | មាន | មាន | $0.50 / $2.00 | អ្វីដែលមានរូបភាព — ឯកសារស្កេន រូបថតអេក្រង់ រូបថត |
បើផ្នែកណាមួយនៃទិន្នន័យបញ្ចូលរបស់អ្នកជារូបភាព ការសម្រេចចិត្តត្រូវបានធ្វើសម្រាប់អ្នករួចហើយ៖ Hy3 ជាអត្ថបទតែប៉ុណ្ណោះ — ផ្ញើ PDF ស្កេន រូបថតអេក្រង់ និងរូបថតទៅ MiMo-V2.5។ ជាកន្លែងដែលទិន្នន័យបញ្ចូលពិតជាអត្ថបទ ទម្រង់របស់ Hy3 នៃការប្រើប្រាស់ឧបករណ៍ជាភ្នាក់ងារ ការចងចាំបរិបទវែង និងអត្រាការបង្កើតព័ត៌មានមិនពិតទាបដែលបានរាយការណ៍ ត្រូវនឹងការងារបំពង់បង្ហូរទិន្នន័យផ្ទាល់បំផុត។ ព្រោះទាំងបីមានតម្លៃដូចគ្នា សូមរត់ schema របស់អ្នកលើពីរនៃពួកវាលើកំណត់ត្រាពិតប្រាកដពីរបីរយ ហើយប្រៀបធៀបអត្រាការញែក នោះនឹងសម្រេចវាបានប្រសើរជាងតារាងណាមួយ រួមទាំងតារាងនេះ។
09កន្លែងដែល Hy3 សក្តិសមនឹងកន្លែងរបស់វា
- ការទាញយកវាលទិន្នន័យបរិមាណច្រើន។ កិច្ចសន្យា ការដាក់ស្នើ របាយការណ៍ឧប្បត្តិហេតុ ការសរសេរអត្ថបទសម្តី កំណត់ចំណាំគ្លីនិក កំណត់ត្រាតុលាការ — គ្រប់ទីកន្លែងដែល object មានប្រភេទទិន្នន័យក្នុងមួយឯកសារជាការចែកចាយ ហើយបរិមាណធ្វើឲ្យការព្យាយាមឡើងវិញថ្លៃ។
- ការចាត់ថ្នាក់ និងការនាំផ្លូវក្នុងទំហំធំ។ លទ្ធផល enum បិទ ជាកន្លែងដែលតម្លៃទាំងមូលរបស់ម៉ូដែលមិនដែលបង្កើតប្រភេទទីដប់ប្រាំបួន។
- ឯកសារសន្តិសុខ និងព័ត៌មានគ្រោះថ្នាក់។ អត្ថបទបកស្រាយ malware ការបង្ហាញ exploit និងគំរូ phishing — ខ្លឹមសារដែលធ្វើឲ្យម៉ូដែលមានតម្រងជំពប់ដួលទៅជាការបដិសេធ និងជាកន្លែងដែលរន្ធរាងប្រភេទបំផ្លាញគោលបំណង។
- ភ្នាក់ងារហៅឧបករណ៍ដែលមិនត្រូវឈប់ជាប់។ ភាពស្មោះត្រង់អាគុយម៉ង់ 8-bit មានន័យថា JSON ដែលប្រគល់ទៅមុខងាររបស់អ្នកញែកបាន ការហៅឧបករណ៍ខូចទ្រង់ទ្រាយជាភ្នាក់ងារឈប់ជាប់ មិនមែនចម្លើយអន់ជាងបន្តិចទេ។
- ការវិភាគឯកសារវែងទៅជារចនាសម្ព័ន្ធ។ ការដាក់ស្នើទាំងមូលចូល object ក្រិមមួយចេញ។
- ការត្រួតពិនិត្យខ្លឹមសារ និងការស្រាវជ្រាវគោលនយោបាយ។ ការដាក់ស្លាកខ្លឹមសារដែលម៉ូដែលមានតម្រងបដិសេធមិនអាន ជាបញ្ហាទំនុកចិត្ត និងសុវត្ថិភាពដែលកកកុញ ម៉ូដែលគ្មានតម្រងជាមួយ schema តឹងរឹងដោះស្រាយវាដោយផ្ទាល់។
ហើយកន្លែងដែលវាមិនសក្តិសម៖ អ្វីដែលមានរូបភាព (ប្រើ MiMo-V2.5) និងវិស្វកម្មកម្មវិធីច្រើនឯកសារដោយស្វ័យប្រវត្តិ ជាកន្លែងដែលតារាងផ្ទាល់ខ្លួនរបស់ Tencent ដាក់ Hy3 ក្រោយ GLM-5.2 លើ SWE-bench Verified និងក្រោយឆ្ងាយលើ DeepSWE។
ការអះអាងស្ថាបត្យកម្ម និងស្តង់ដារវាស់ស្ទង់រាល់មួយអំពីគ្រឹះ Hy3 មកពីសម្ភារៈចេញផ្សាយសាធារណៈរបស់ Tencent ឬការចុះផ្សាយព័ត៌មានអំពីវា ចំណែកការពិតកាតាឡុកមកពី /v1/models ផ្ទាល់របស់យើងផ្ទាល់។ សូមផ្ទៀងផ្ទាត់ទាំងពីរ។
តួលេខស្តង់ដារវាស់ស្ទង់ត្រូវបានរាយការណ៍ដោយ Tencent រួមទាំងលេខរបស់ដៃគូប្រកួតប្រជែង ការផ្ទៀងផ្ទាត់ដោយឯករាជ្យនៅតែកំពុងរង់ចាំនៅពេលសរសេរអត្ថបទនេះ។ តួលេខថ្លៃដើមត្រូវបានគណនាចេញពីអត្រា $0.50 / $2.00 ដែលយើងបានផ្សព្វផ្សាយ។ គ្មានលេខណាមួយនៅលើទំព័រនេះជាការធ្វើតេស្តវាស់ស្ទង់ដោយ Shannon ឬការប៉ាន់ស្មានទេ។
10សំណួរដែលសួរញឹកញាប់
តើ API ម៉ូដែល Hy3 គ្មានសេនស័រជាអ្វី?
វាជាចំណុចប្រទាក់ច្រកទ្វារ Shannon AI Gateway សម្រាប់លេខសម្គាល់ម៉ូដែល Hy3-W8A16 — គ្រឹះ Hy3 ទម្ងន់បើកចំហរបស់ Tencent បម្រើនៅលើចង្កោមកម្មវិធីក្រាហ្វិកផ្ទាល់ខ្លួនរបស់យើងក្នុងភាពជាក់លាក់ទម្ងន់ 8-bit ដោយគ្មានស្រទាប់ការបដិសេធ និងគ្មានតម្រងលទ្ធផល។ វាផ្តល់បង្អួចបរិបទ 262,144 ថូខឹន លទ្ធផល 16,384 ថូខឹនក្នុងមួយសំណើ ការហៅឧបករណ៍ ការវែកញែកជាមួយ reasoning_effort និងលទ្ធផលមានរចនាសម្ព័ន្ធពេញលេញតាមរយៈទាំង json_schema និង response_format នៅលើ /v1/chat/completions, /v1/messages និង /v1/responses ជាមួយ streaming។
តើ Hy3 គាំទ្រ JSON schema និងលទ្ធផលមានរចនាសម្ព័ន្ធទេ?
បាទ/ចាស។ Hy3-W8A16 គាំទ្រទាំង response_format សម្រាប់របៀប JSON-object និង json_schema សម្រាប់ schema តឹងរឹងមានប្រភេទទិន្នន័យច្បាស់លាស់ — ផ្ទៃលទ្ធផលមានរចនាសម្ព័ន្ធពេញលេញ មិនមែនផ្នែកខ្លះទេ។ នេះមិនពិតចំពោះម៉ូដែលគ្រប់រូបក្នុងកាតាឡុកទេ៖ Laguna-S-2.1 មិនគាំទ្រទាំងពីរ ហើយ inkling គាំទ្រ response_format តែមិនគាំទ្រ json_schema ទេ។ បើបំពង់បង្ហូរទិន្នន័យរបស់អ្នកពឹងផ្អែកលើកិច្ចសន្យាមានប្រភេទទិន្នន័យច្បាស់លាស់ Hy3 ជាម៉ូដែលមួយក្នុងចំណោមម៉ូដែលដែលអាចធ្វើវាបាន។
តើ W8A16 មានន័យដូចម្តេច ហើយវាល្អជាង 4-bit ឬ 3-bit ដែរឬទេ?
W8A16 មានន័យថាទម្ងន់ 8-bit និងការធ្វើសកម្មភាព 16-bit — ថ្នាក់ភាពស្មោះត្រង់ខ្ពស់បំផុតដែលយើងបម្រើ។ បើប្រៀបធៀបនឹង W4A16-AUTOROUND-REAP (ទម្ងន់ 4-bit ការបង្គត់ដែលបានរៀន និងការកាត់ចោលអ្នកជំនាញ) និង 3BIT-REAP (ទម្ងន់ 3-bit បូកនឹងការកាត់ចោលអ្នកជំនាញ) វាផ្លាស់ប្តូរទម្ងន់ដែលបានចេញផ្សាយតិចបំផុត ដូច្នេះឥរិយាបថនៅជិត checkpoint ដើមបំផុត។ ថ្នាក់ខ្លាំងក្លាទាំងនោះមានឡើងព្រោះគ្រឹះធំបំផុតនឹងមិនអាចបម្រើបានលឿនទេបើគ្មានពួកវា។
តើ Hy3 គាំទ្ររូបភាព ឬការមើលឃើញទេ?
ទេ។ Hy3-W8A16 ជាអត្ថបទតែប៉ុណ្ណោះ។ ការផ្ញើផ្នែករូបភាពទៅវានឹងមិនដំណើរការទេ។ បើអ្នកត្រូវការការមើលឃើញបូកនឹងលទ្ធផលមានរចនាសម្ព័ន្ធនៅលើថ្នាក់ 8-bit ដូចគ្នា ប្រើ MiMo-V2.5-W8A16 ដែលគាំទ្រទិន្នន័យបញ្ចូលរូបភាពរួមជាមួយ json_schema និង response_format ក្នុងតម្លៃ $0.50 / $2.00 ដូចគ្នា។
តើ API Hy3 មានតម្លៃប៉ុន្មាន?
$0.50 ក្នុងមួយលានថូខឹនចូល និង $2.00 ក្នុងមួយលានថូខឹនចេញ — តម្លៃទាបបំផុតក្នុងកាតាឡុករបស់យើង ដែលចែករំលែកជាមួយ MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 និង MiniMax-M3។ បំពង់បង្ហូរទាញយកទិន្នន័យតំណាងមួយនៅ 1,200 ថូខឹនចូល និង 300 ថូខឹនចេញក្នុងមួយហៅ មានតម្លៃប្រហែល $0.0012 ក្នុងមួយហៅ ឬប្រហែល $1,200 ក្នុងមួយលានហៅ។
តើ Hy3 នឹងបដិសេធសំណើមួយដែរឬទេ?
គ្មានស្រទាប់ការបដិសេធ និងគ្មានតម្រងលទ្ធផលនៅពីមុខម៉ូដែលទេ។ សម្រាប់បំពង់បង្ហូរទិន្នន័យមានរចនាសម្ព័ន្ធ នេះជាលក្ខណៈសម្បត្តិភាពជឿទុកចិត្តបានស្មើនឹងលក្ខណៈសម្បត្តិខ្លឹមសារ៖ ការបដិសេធជាការរំលោភ schema ព្រោះអត្ថបទពន្យល់ពីមូលហេតុដែលម៉ូដែលមិនឆ្លើយ មិនញែកជា object ដែលកម្មវិធីផ្ទៀងផ្ទាត់របស់អ្នករំពឹងទុកនោះទេ។ ការដកផ្លូវការបដិសេធចេញ លុបបំបាត់ប្រភេទបរាជ័យការញែកទាំងមូលលើឯកសារសន្តិសុខ វេជ្ជសាស្ត្រ ច្បាប់ និងខ្លឹមសារមនុស្សពេញវ័យ។
ហៅ Hy3 លើ schema ផ្ទាល់ខ្លួនរបស់អ្នក
ភាពស្មោះត្រង់ 8-bit json_schema តឹងរឹង បរិបទ 262K គ្មានការបដិសេធ — ក្នុងតម្លៃទាបបំផុត។
លេខសម្គាល់ម៉ូដែល Hy3-W8A16 · អត្ថបទតែប៉ុណ្ណោះ · $0.50 ចូល / $2.00 ចេញ ក្នុងមួយលានថូខឹន
ប្រភព៖ ប័ណ្ណម៉ូដែល Tencent Hunyuan · ឃ្លាំងកូដ Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · ការចុះផ្សាយព័ត៌មានរបស់ VentureBeat អំពីការចេញផ្សាយ Hy3។ ស្តង់ដារវាស់ស្ទង់គ្រឹះត្រូវបានរាយការណ៍ដោយ Tencent និងជាបណ្តោះអាសន្នរង់ចាំការផ្ទៀងផ្ទាត់ដោយឯករាជ្យ។ Shannon AI ត្រូវបានប្រតិបត្តិការដោយ Shannon Lab LLC រដ្ឋញូម៉ិកស៊ិកូ សហរដ្ឋអាមេរិក។