सेन्सर नगरिएको Hy3 मोडेल API
Tencent को 295B Hy3 आधार 8-बिट वेट निष्ठा मा, कडा json_schema आउटपुट, 262,144-टोकनको विन्डो र कुनै अस्वीकृति तहविना — क्याटलगकै भुइँतल मूल्यमा।
संक्षेपमा
Hy3-W8A16 हाम्रा तीन W8A16 मोडेलमध्ये तेस्रो हो — 8-बिट वेट, 16-बिट एक्टिभेसन, हामीले सेवा दिने सर्वोच्च निष्ठाको तह। यो पाठ-मात्र हो, json_schema र response_format दुवै समर्थन गर्छ, क्याटलगभरिको 262,144-टोकन को सन्दर्भ र 16,384-टोकन को आउटपुट सिलिङ बोक्छ, र प्रति दस लाख टोकन $0.50 / $2.00 पर्छ — भुइँतल। कुनै अस्वीकृति तह छैन, कुनै आउटपुट फिल्टरिङ छैन। हरेक कलमा पार्स गर्न मिल्ने, टाइप गरिएको आउटपुट फर्काउनैपर्ने उच्च-मात्राका पाठ पाइपलाइनका लागि यसलाई छान्नुहोस्, फिल्टर गरिएको मोडेलले छुनै नमान्ने सामग्रीमा समेत।
"मैले कुन मोडेल प्रयोग गर्ने" भन्ने अधिकांश बहस सिलिङबारे हुन्छ: कसले सबैभन्दा राम्रो कोड लेख्छ, सबैभन्दा कठिन गणित सुल्झाउँछ, सबैभन्दा लामो एजेन्ट रन जित्छ। संरचित पाइपलाइन त्यसरी काम गर्दैनन्। दिनको एक लाख कागजातबाट फिल्ड निकाल्ने कामलाई एक पटक उत्कृष्ट हुने मोडेल चाहिँदैन — यसलाई हरेक पटक उही आकारमा सही हुने मोडेल चाहिन्छ, र जसले JSON वस्तु हुनुपर्ने ठाउँमा कहिल्यै अनुच्छेद फर्काउँदैन। Hy3-W8A16 यहाँ त्यही गुणका लागि छ।
01Hy3 के हो, र यो कहाँबाट आयो
Hy3 Tencent को Hunyuan टोली बाट आएको खुला-वेट तर्क तथा एजेन्टिक मोडेल हो, जुन जुलाई 6, 2026 मा उदार लाइसेन्स अन्तर्गत पूर्ण रूपमा जारी भयो, र वेट Hugging Face मा प्रकाशित छन्। यसले Tencent को अघिल्लो Hunyuan-Large Mixture-of-Experts कामको वंश निरन्तरता दिन्छ। वास्तुकलागत रूपमा यो विरल MoE हो: कुल 295 अर्ब प्यारामिटर, जसमध्ये करिब 21 अर्ब प्रति टोकन सक्रिय हुन्छन्, 192 विशेषज्ञभरि top-8 राउटिङमार्फत, 80-तहको ट्रान्सफर्मरमा ग्रुप्ड-क्वेरी अटेन्सनसहित, थपमा अनुमानित डिकोडिङका लागि छुट्टै 3.8B बहु-टोकन-भविष्यवाणी तह। नेटिभ सन्दर्भ 256K छ — हामीले दिने ठ्याक्कै 262,144 टोकन, कुनै ठूलो कुराको काटछाँट वा सानो कुराको रोप-तन्काइ होइन।
प्रति टोकन तिर्नेका लागि त्यो विरलताको अनुपात नै महत्त्वपूर्ण सङ्ख्या हो: Hy3 ले 295B मोडेलको ज्ञान बोक्छ जबकि प्रति फर्वार्ड पास करिब 21B कै गणित गर्छ। यसलाई अझ कडा सङ्कुचन गर्नुको सट्टा 8 बिटमै सेवा दिन सक्नुको कारण पनि त्यही हो — यति विरल मोडेलको 8-बिट बिल्ड हाम्रो आफ्नै GPU क्लस्टरमा अझै अट्छ र अझै छिटो चल्छ।
Tencent का अनुसार यो केमा राम्रो छ
Tencent का प्रकाशित मूल्याङ्कन तालिकाले Hy3 का बलिया पक्षलाई कच्चा कोडिङमा होइन, एजेन्टिक खोज, टुल अर्केस्ट्रेसन र लामो-सन्दर्भ रिट्रिभल मा स्पष्ट रूपमा राख्छन्। तिनले रिपोर्ट गरेका आँकडा:
हामी कमजोर बार जानीबुझी देखाउँछौं। Tencent कै तुलनामा Hy3 कोडिङमा GLM-5.2 भन्दा पछाडि छ — SWE-bench Verified मा 84.2 विरुद्ध 78.0, DeepSWE मा 46.2 विरुद्ध 28.0। तपाईंको कार्यभार स्वायत्त बहु-फाइल सफ्टवेयर इन्जिनियरिङ हो भने पहिले मोडेल अनुसन्धान अनुक्रमणिकाको बाँकी भाग पढ्नुहोस्। कार्य पाठ पढेर संरचना निकाल्ने हो भने, प्रोफाइल झन्डै आदर्श छ।
पाइपलाइन कामका लागि सबैभन्दा महत्त्वपूर्ण आँकडा विश्वसनीयतासँग सम्बन्धित छ: Tencent ले Hy3 को भ्रम दर 5.4% रिपोर्ट गर्छ, जुन अघिल्लो पुस्ताको 12.5% बाट घटेको हो, र सामान्य-बोधका त्रुटि 25.4% बाट 12.7% मा झरेका छन्। तिनको घोषित तालिम सिद्धान्त — प्रमाण हुँदा जवाफ देऊ, नहुँदा स्पष्ट भन — स्रोतले कहिल्यै नभनेको फिल्डका लागि विश्वासयोग्य देखिने मान बनाइदिन सक्ने निकासी मोडेलमा चाहिने ठ्याक्कै त्यही प्रवृत्ति हो।
यस खण्डका सबै आँकडा Tencent ले आफ्नै परीक्षण रनबाट रिपोर्ट गरेका हुन्; लेख्दाका बखत स्वतन्त्र तेस्रो-पक्ष प्रमाणीकरण बाँकी नै थियो। तिनलाई टुङ्गिएको होइन, दिशासूचक ठान्नुहोस्।
02W8A16 को अर्थ, र संरचित आउटपुटका लागि यो किन महत्त्वपूर्ण छ
गेटवेका हरेक मोडेलले क्वान्टाइजेसन प्रत्यय बोक्छन्। यो सजावट होइन — प्रयोगशालाले जारी गरेको चेकपोइन्टबाट सेवा दिइने वेट कति टाढा बस्छन् भन्ने यसले बताउँछ।
| तह | यसले के गर्छ | निष्ठा |
|---|---|---|
| 3BIT-REAP | 3-बिट वेट र REAP, जुन क्वान्टाइज गर्नुअघि बिरलै राउट हुने MoE विशेषज्ञ हटाउने विशेषज्ञ-प्रुनिङ विधि हो | सबैभन्दा सङ्कुचित |
| W4A16-AUTOROUND-REAP | AutoRound मार्फत 4-बिट वेट / 16-बिट एक्टिभेसन — सिकिएको राउन्डिङ जसले साधारण नजिकको-पूर्णाङ्क राउन्डिङभन्दा शुद्धता फिर्ता ल्याउँछ — साथै REAP प्रुनिङ | बीचको |
| W8A16 | 8-बिट वेट / 16-बिट एक्टिभेसन। कुनै प्रुनिङ छैन, कुनै सिकिएको-राउन्डिङ मर्मत छैन — वेट सिधै दोब्बर परिशुद्धतामा बोकिएका | सर्वोच्च |
क्वान्टाइजेसनको बरालिँदो असर वास्तवमा कहाँ चोट पुर्याउँछ
REAP र AutoRound ले साधारण सङ्कुचनले गुमाउने अधिकांश कुरा फिर्ता ल्याउँछन् — तर त्यस वाक्यमा "अधिकांश" ले काम गरिरहेको छ, र बाँकी अंश समान रूपमा पर्दैन। कम-बिट क्वान्टाइजेसनले पुच्छर बिगार्छ: कम-सम्भाव्यता, उच्च-विशिष्टताका निर्णय। गद्यमा त्यो झन्डै अदृश्य हुन्छ; फरक विशेषण भए पनि वाक्य ठीकै हुन्छ। संरचित आउटपुटमा त्यही सबथोक हो, किनभने स्किमा कम-सम्भाव्यताका निर्णयको लामो शृङ्खला हो र हरेक ठ्याक्कै सही हुनैपर्छ:
- टोकन-स्तरको वाक्यविन्यास। बन्द हुने कोष्ठक, अल्पविराम, उद्धरण चिह्न। हरेक एउटा टोकन हो, र एउटै गलत टोकनले पूरै प्रतिक्रिया अवैध बनाइदिन्छ।
- इनम अनुशासन। तपाईंको स्किमाले
"status"लाई"open" | "closed" | "pending"मध्ये एक भन्छ; बरालिएको मोडेलले"Open"वा"pending review"फर्काउँछ — अर्थमा नजिक, तर दुवैका रूपमा अवैध। - प्रकार अनुशासन।
numberफिल्ड"1,240"भएर फर्किन्छ,boolean"yes"भएर। दुवै स्ट्रिङका रूपमा पार्स हुन्छन् र स्किमा असफल पार्छन्। - लामो-पुच्छरका शाब्दिक मान। दुर्लभ संज्ञा, पार्ट नम्बर, रासायनिक नाम, गैर-ल्याटिन लिपि, सटीक मिति — ठ्याक्कै त्यही कम-सम्भाव्यताको क्षेत्र जसलाई कम-बिट वेटले धमिलो पार्छन्।
यसमध्ये कुनैले पनि 4-बिट वा 3-बिट मोडेललाई खराब बनाउँदैन; संवादात्मक कामका लागि निष्ठाको फरक प्राय: मूल्यको फरक बराबर हुँदैन। तर आउटपुटको उपभोक्ता मानिस नभई प्रमाणक हुँदा, पुच्छरको परिशुद्धता सिधै पार्स दरमा बदलिन्छ — र पार्स दर पुन:प्रयास बजेट तथा p99 लेटेन्सीमा। W8A16 त्यो तह हो जहाँ तपाईं त्यो कर तिर्न छाड्नुहुन्छ।
03संरचित आउटपुट: json_schema र response_format
Hy3 ले संरचित-आउटपुट सतहका दुवै आधा समर्थन गर्छ — स्पष्ट भन्न लायक छ, किनभने क्याटलगभरि त्यो सार्वभौम छैन:
| मोडेल | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | छ | छ |
| MiMo-V2.5-Pro · W8A16 | छ | छ |
| inkling · W4A16-AUTOROUND-REAP | छ | छैन |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | छैन | छैन |
यी दुई संयन्त्रबीचको फरक मानिसले सोचेभन्दा बढी महत्त्वपूर्ण छ। response_format: {"type": "json_object"} ले वैध JSON माग्छ र त्योभन्दा बढी केही होइन — आकार मोडेलले छान्छ, त्यसैले दुई कलले {"name": ...} र {"full_name": ...} फर्काउन सक्छन् र दुवै सही हुन्छन्। json_schema ले आकार पहिल्यै दिन्छ: नामित फिल्ड, प्रकार, इनम, आवश्यक सूची, नेस्टिङ। त्यो तपाईंले कोड लेख्न सक्ने करार हो।
OpenAI-अनुकूल बोलीमा न्यूनतम कल:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
व्यावहारिक टिप्पणी
- हरेक फिल्ड आवश्यक बनाउनुहोस् र
nullलाई अनुमति दिनुहोस्। ऐच्छिक फिल्डले मौन रूपमा छुट्ने निम्तो दिन्छन्; आवश्यक तर null हुन मिल्ने फिल्डले स्पष्ट "छैन" भन्न बाध्य पार्छ, र त्यो तपाईंले काम गर्न सक्ने सूचना हो। - स्वतन्त्र स्ट्रिङभन्दा इनम राम्रो। जहाँ मानको सेट बन्द गर्न सक्नुहुन्छ, बन्द गर्नुहोस् — स्किमाको वास्तविक पास दरमा सबैभन्दा बढी प्रभाव पार्ने परिवर्तन यही हो।
- 16,384-टोकनको आउटपुट सिलिङभित्रै रहनुहोस्। असीमित एरे वस्तुकै बीचमा टुक्रिन्छ। एरेको लम्बाइ सीमित गर्नुहोस्, वा इनपुट टुक्र्याउनुहोस्।
- सिस्टम सन्देश राखिराख्नुहोस्। स्किमाले आकार बाँध्छ; प्रम्प्टले अझै अर्थ सञ्चालन गर्छ — "critical" के हो, दुई मिति देखिँदा कुन जित्छ, एकाइ सामान्यीकरण गर्ने कि नगर्ने।
- जे भए पनि प्रमाणित गर्नुहोस्। स्किमा समर्थनले पास दर बढाउँछ; यसले प्रमाणक र डेड-लेटर कतार प्रतिस्थापन गर्दैन।
04"सेन्सर नगरिएको" सामग्रीको मात्र होइन, विश्वसनीयताको गुण किन हो
गेटवेमा Hy3 सँग कुनै अस्वीकृति तह र आउटपुट फिल्टरिङ छैन। सामान्य प्रस्तुति सामग्रीबारे हुन्छ: तपाईं सुरक्षा अनुसन्धान, मालवेयर विश्लेषण, एक्सप्लोइट लेख, चिकित्सकीय र कानुनी सङ्ग्रह, वयस्क सामग्री, हानि-न्यूनीकरण कागजात वा शत्रुतापूर्ण प्रयोगकर्ताका ट्रान्सक्रिप्ट प्रशोधन गर्न सक्नुहुन्छ, र मोडेलले तपाईंको तर्फबाट "नगरे हुन्थ्यो" भन्ने निर्णय गर्दैन।
यो महत्त्वपूर्ण हुनुको दोस्रो, बढी यान्त्रिक कारण छ। अस्वीकार भनेको स्किमाको उल्लङ्घन हो। अस्वीकार गर्ने फिल्टर गरिएको मोडेलले "unavailable" फ्ल्यागसहित तपाईंको वस्तु फर्काउँदैन — त्यसले गद्य फर्काउँछ। "म त्यो अनुरोधमा सहयोग गर्न सक्दिनँ।" त्यो स्ट्रिङ incident वस्तु होइन; यो तपाईंको प्रमाणक असफल पार्छ र साँचो पार्स त्रुटिको छेउमा डेड-लेटर कतारमा जान्छ, जहाँ अब तपाईंले नीतिगत अस्वीकारलाई साँचो विकृतिबाट छुट्याउनुपर्छ।
अझ नराम्रो, अस्वीकार अनियमित रूपमा नछरिकन सामग्रीसँग सहसम्बन्धित हुन्छन्। तपाईंको सङ्ग्रहको 4% सुरक्षा घटना प्रतिवेदन हो र मोडेलले तीमध्ये अधिकांश अस्वीकार गर्छ भने, तपाईंले थ्रुपुटको 4% समान रूपमा गुमाउनुभएको छैन — तपाईंले एउटा कोटी गुमाउनुभएको छ, र त्यस डेटामा बनेको ड्यासबोर्डले ठ्याक्कै त्यही कुरा मौन रूपमा कम देखाउँछ जुन देखाउनकै लागि त्यो अस्तित्वमा छ। कोटी-आकारका प्वालको मूल्य एकनास हल्लाभन्दा बढी पर्छ किनभने तिनमा केहीले पनि अलर्ट दिँदैन। अस्वीकारको बाटो हटाउनुहोस् र बाँकी रहने कुरा — विकृति, टुक्राइ, अस्पष्ट पाठ — विषयसँग असम्बद्ध हुन्छ, र त्यसैले नाप्न मिल्ने हुन्छ।
सेन्सर नगरिएको भनेको जवाफदेहीविहीन होइन
अस्वीकृति तह नहुनुको अर्थ मोडेलले तपाईंको इनपुटबारे सम्पादकीय टिप्पणी गर्दैन भन्ने हो। यसको अर्थ खाता अनुगमनविहीन छ भन्ने होइन। प्रयोग हाम्रो जिम्मेवार प्रयोग नीति र लागू हुने कानुनद्वारा सञ्चालित हुन्छ, र दुरुपयोगले पहुँच अन्त्य गराउँछ। फिल्टर हटाउनुले कागजातको टुक्राबाट तपाईंको नियत अनुमान गर्ने मोडेल रोक्छ; तपाईंले बनाउने कुराप्रतिको तपाईंको जिम्मेवारी हटाउँदैन।
05सन्दर्भ, आउटपुट सिलिङ, र तिनको बजेट कसरी बनाउने
गेटवेका हरेक मोडेलले उही सीमा बाँड्छन्:
सन्दर्भ साझा बजेट हो: प्रम्प्ट र आउटपुट सँगै 262,144 भित्र अट्नुपर्छ, त्यसैले एउटै कलमा व्यावहारिक इनपुट सिलिङ करिब 245,000 टोकन हुन्छ, अर्थात् मोटामोटी 180,000 अङ्ग्रेजी शब्द। संरचित कामका लागि 16,384-टोकनको आउटपुट सीमा नै कठिन सीमा हो र मानिसलाई अचम्म पार्ने पनि त्यही हो — प्रति रेकर्ड एउटा वस्तु निकाल्ने स्किमाले विन्डो भरिनुभन्दा धेरै अगाडि नै त्यो छुन्छ। यसविरुद्ध दुई ढाँचाले काम गर्छन्:
- फराकिलो इनपुट, साँघुरो आउटपुट। पूरै करार, कागजपत्र वा लग विन्डो सन्दर्भमा धकेल्नुहोस् र एउटा सुगठित वस्तु माग्नुहोस्। इनपुट टोकनको लागत आउटपुट टोकनको चौथाइ हुन्छ, त्यसैले मूल्यले धेरै पढेर थोरै लेख्नलाई पुरस्कृत गर्छ।
- बाइट सङ्ख्या होइन, रेकर्डको सिमानामा टुक्र्याउनुहोस्। मोडेलले जोर्नी देख्न सक्ने ठाउँमा बाँड्नुहोस्। वाक्यकै बीचमा काटिएको रेकर्डले स्पष्ट असफलता होइन, आत्मविश्वासका साथ गलत वस्तु उत्पादन गर्छ।
Hy3 को रिपोर्ट गरिएको लामो-सन्दर्भ रिट्रिभल क्षमता — AA-LCR मा 73.4, र MRCR लामो-संवाद स्मरणमा 42.9% बाट 75.1% को उफ्राइ — पहिलो ढाँचा भर पर्ने ठ्याक्कै त्यही क्षमता हो, र राम्रो लेख्नुभन्दा फरक सीप हो।
06भुइँतल मूल्य, र वास्तविक पाइपलाइनको गणित
Hy3 प्रति दस लाख इनपुट टोकन $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 मा बस्छ — क्याटलगको भुइँतल, जुन MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 र MiniMax-M3 सँग साझा छ। प्रतिनिधिमूलक भारमा गरेर देखाउँदा:
| कार्यभार | प्रति कल इनपुट | प्रति कल आउटपुट | प्रति कल लागत | प्रति 1M कल |
|---|---|---|---|---|
| फिल्ड निकासी | 1,200 | 300 | $0.0012 | $1,200 |
| कागजात वर्गीकरण | 3,000 | 120 | $0.0018 | $1,800 |
| लामो कागजातलाई स्किमामा संक्षेप | 40,000 | 900 | $0.0218 | $21,800 |
| पूर्ण-विन्डो विश्लेषण | 240,000 | 2,000 | $0.1240 | $124,000 |
निर्णय बदल्ने सङ्ख्या मुख्य दर होइन, पुन:प्रयासपछिको प्रभावकारी दर हो। दुई मोडेलको मूल्य उही छ र एउटाले 6% कलमा प्रमाणीकरण असफल पार्छ जहाँ अर्कोले 1.5% मा पार्छ भने, बढी बरालिने मोडेलले करिब 4.5% बढी कल चलाउँछ — सहन सकिने। क्षति पुच्छरमा हुन्छ: पुन:प्रयास गरिएका कलले दोब्बर समय लिन्छन्, त्यसैले ट्राफिकको देखिने अंशका लागि p99 लेटेन्सी झन्डै दोब्बर हुन्छ, र जे दुई पटक असफल हुन्छ त्यो म्यानुअल काम बन्छ। दिनको दस लाख कलमा त्यो कसैले पढ्नुपर्ने हजारौं रेकर्ड हो।
त्यसैले भुइँतल मूल्यमा 8-बिट तहको पक्षमा तर्क: यहाँ तपाईं निष्ठाका लागि प्रिमियम तिर्दै हुनुहुन्न, त्यसैले पुन:प्रयासको गणित सित्तैको नाफा हो। 3-बिट मोडेल सस्तो हुँदो हो त तौलिनुपर्ने साँचो साटफेर हुन्थ्यो — Hy3 को मूल्य क्याटलगकै सबैभन्दा सस्तो कुरा बराबर पर्छ।
07तीन API बोली, एउटै मोडेल
Hy3 गेटवेका तीनै बोलीमा पुग्न सकिन्छ, प्रत्येकमा स्ट्रिमिङसहित। उही मोडेल, उही वेट, उही सीमा — तपाईंसँग पहिल्यै जुन SDK छ त्योसँग मिल्ने छान्नुहोस्।
| एन्डपोइन्ट | बोली | कहिले प्रयोग गर्ने |
|---|---|---|
| /v1/chat/completions | OpenAI | तपाईंसँग OpenAI SDK, LangChain वा LlamaIndex छ। बेस URL यता फर्काउनुहोस्, मोडेल id बदल्नुहोस्। |
| /v1/messages | Anthropic | तपाईं Anthropic SDK मा हुनुहुन्छ र अनुवाद तहविनै सामग्री ब्लक चाहनुहुन्छ। |
| /v1/responses | Responses | तपाईंलाई टाइप गरिएको आउटपुट र सर्भर-साइड अवस्थासहितको नयाँ अनुरोध आकार चाहिन्छ। |
Hy3 ले टुल कलिङ र तर्क पनि समर्थन गर्छ, reasoning_effort सहित। निकासी कामका लागि उपयोगी चाल प्राय: तर्क घटाउनु हो: सफा पाठमाथिको राम्ररी तोकिएको स्किमामा, सोचाइ टोकन भनेका तपाईंले तिर्ने आउटपुट टोकन र तपाईंले पर्खने लेटेन्सी हुन्, त्यो पनि सामान्य लाभका लागि। बरु साँच्चै अस्पष्ट इनपुटमा प्रयास बजेट खर्च गर्नुहोस्।
पूर्ण अनुरोध र प्रतिक्रिया सन्दर्भ, प्यारामिटर सूची, स्ट्रिमिङ अर्थविज्ञान र अन्तर्क्रियात्मक प्लेग्राउन्ड API कागजात मा छन्।
08तीन W8A16 मोडेलमध्ये छनौट
सर्वोच्च निष्ठाको तहमा तीन मोडेल बस्छन्, सबै भुइँतल मूल्यमा। छनौट मुख्यतः मोडालिटीको हो:
| मोडेल | भिजन | json_schema | मूल्य इन / आउट | यसका लागि छान्नुहोस् |
|---|---|---|---|---|
| Hy3 · W8A16 | छैन | छ | $0.50 / $2.00 | पाठ-मात्रका संरचित पाइपलाइन, टुल अर्केस्ट्रेसन, लामो-सन्दर्भ रिट्रिभल |
| MiMo-V2.5-Pro · W8A16 | छैन | छ | $0.50 / $2.00 | MiMo शृङ्खलाको Pro ट्युनिङ चाहिने पाठ-मात्रको काम |
| MiMo-V2.5 · W8A16 | छ | छ | $0.50 / $2.00 | तस्बिर भएको जुनसुकै — स्क्यान गरिएका कागजात, स्क्रिनसट, फोटो |
तपाईंको इनपुटको कुनै भाग तस्बिर हो भने निर्णय आफैं भइसक्यो: Hy3 पाठ-मात्र हो — स्क्यान गरिएका PDF, स्क्रिनसट र फोटो MiMo-V2.5 मा पठाउनुहोस्। इनपुट साँच्चै पाठ हो भने, Hy3 को एजेन्टिक टुल प्रयोग, लामो-सन्दर्भ स्मरण र रिपोर्ट गरिएको कम भ्रम दरको प्रोफाइल पाइपलाइन काममा सबैभन्दा सिधै मिल्छ। तीनैको मूल्य उही भएकाले, केही सय वास्तविक रेकर्डमा तीमध्ये दुईविरुद्ध आफ्नो स्किमा चलाउनुहोस् र पार्स दर तुलना गर्नुहोस्; यो तालिकासहित कुनै पनि तालिकाभन्दा त्यसैले राम्रोसँग टुङ्ग्याउँछ।
09Hy3 ले आफ्नो स्थान कहाँ कमाउँछ
- उच्च-मात्राको फिल्ड निकासी। करार, कागजपत्र, घटना प्रतिवेदन, ट्रान्सक्रिप्ट, क्लिनिकल नोट, अदालतका अभिलेख — जहाँ प्रति कागजात एउटा टाइप गरिएको वस्तु नै डेलिभरेबल हो र मात्राले पुन:प्रयासलाई महँगो बनाउँछ।
- स्केलमा वर्गीकरण र राउटिङ। बन्द इनम आउटपुट, जहाँ मोडेलको पूरै मूल्य उन्नाइसौं कोटी कहिल्यै नबनाउनुमा छ।
- सुरक्षा र थ्रेट-इन्टेल सङ्ग्रह। मालवेयर लेख, एक्सप्लोइट खुलासा र फिसिङ नमुना — त्यही सामग्री जसले फिल्टर गरिएका मोडेललाई अस्वीकारमा ठेल्छ, र जहाँ कोटी-आकारको प्वालले उद्देश्य नै निष्फल पार्छ।
- अड्किन नहुने टुल-कलिङ एजेन्ट। 8-बिटको तर्क निष्ठाको अर्थ तपाईंका फङ्सनलाई दिइने JSON पार्स हुन्छ; बिग्रेको टुल कल अलिक नराम्रो जवाफ होइन, अड्किएको एजेन्ट हो।
- लामो कागजातको विश्लेषण संरचनामा। पूरै कागजपत्र भित्र, एउटा सुगठित वस्तु बाहिर।
- सामग्री मोडेरेसन र नीति अनुसन्धान। फिल्टर गरिएको मोडेलले पढ्नै अस्वीकार गर्ने सामग्री लेबल गर्नु ट्रस्ट-एन्ड-सेफ्टीको दीर्घकालीन समस्या हो; कडा स्किमासहितको फिल्टर नगरिएको मोडेलले त्यो सिधै सुल्झाउँछ।
अनि कहाँ गर्दैन: तस्बिर भएको जुनसुकै (MiMo-V2.5 प्रयोग गर्नुहोस्), र स्वायत्त बहु-फाइल सफ्टवेयर इन्जिनियरिङ, जहाँ Tencent कै तालिकाले Hy3 लाई SWE-bench Verified मा GLM-5.2 भन्दा पछाडि र DeepSWE मा निकै पछाडि राख्छन्।
Hy3 आधारबारेका हरेक वास्तुकलागत र बेन्चमार्क दाबी Tencent का सार्वजनिक रिलिज सामग्री वा तिनको प्रेस कभरेजबाट आएका हुन्; क्याटलगका तथ्य हाम्रो आफ्नै प्रत्यक्ष /v1/models बाट आउँछन्। दुवै प्रमाणित गर्नुहोस्।
बेन्चमार्क आँकडा प्रतिस्पर्धीका सङ्ख्यासहित Tencent ले रिपोर्ट गरेका हुन्; लेख्दाका बखत स्वतन्त्र प्रमाणीकरण बाँकी थियो। लागतका आँकडा हाम्रा प्रकाशित $0.50 / $2.00 दरबाट गणना गरिएका हुन्। यस पृष्ठको कुनै पनि सङ्ख्या Shannon ले चलाएको बेन्चमार्क वा अनुमान होइन।
10बारम्बार सोधिने प्रश्न
सेन्सर नगरिएको Hy3 मोडेल API भनेको के हो?
यो मोडेल id Hy3-W8A16 का लागि Shannon AI गेटवेको एन्डपोइन्ट हो — Tencent को खुला-वेट Hy3 आधार, हाम्रो आफ्नै GPU क्लस्टरमा 8-बिट वेट परिशुद्धतामा, कुनै अस्वीकृति तह र आउटपुट फिल्टरविना सेवा दिइएको। यसले 262,144-टोकनको सन्दर्भ विन्डो, प्रति अनुरोध 16,384 आउटपुट टोकन, टुल कलिङ, reasoning_effort सहितको तर्क, र json_schema तथा response_format दुवैमार्फत पूर्ण संरचित आउटपुट दिन्छ, /v1/chat/completions, /v1/messages र /v1/responses मा स्ट्रिमिङसहित।
के Hy3 ले JSON स्किमा र संरचित आउटपुट समर्थन गर्छ?
गर्छ। Hy3-W8A16 ले JSON-वस्तु मोडका लागि response_format र कडा, टाइप गरिएका स्किमाका लागि json_schema दुवै समर्थन गर्छ — आंशिक होइन, पूरै संरचित-आउटपुट सतह। क्याटलगका हरेक मोडेलमा त्यो सत्य होइन: Laguna-S-2.1 ले दुवै समर्थन गर्दैन, र inkling ले response_format समर्थन गर्छ तर json_schema गर्दैन। तपाईंको पाइपलाइन टाइप गरिएको करारमा भर पर्छ भने, त्यसलाई सम्मान गर्न सक्ने मोडेलमध्ये Hy3 एक हो।
W8A16 को अर्थ के हो, र के यो 4-बिट वा 3-बिटभन्दा राम्रो हो?
W8A16 को अर्थ 8-बिट वेट र 16-बिट एक्टिभेसन हो — हामीले सेवा दिने सर्वोच्च निष्ठाको तह। W4A16-AUTOROUND-REAP (4-बिट वेट, सिकिएको राउन्डिङ, विशेषज्ञ प्रुनिङ) र 3BIT-REAP (3-बिट वेट र विशेषज्ञ प्रुनिङ) सँग तुलना गर्दा, यसले जारी गरिएका वेट सबैभन्दा कम बदल्छ, त्यसैले व्यवहार मूल चेकपोइन्टकै सबैभन्दा नजिक रहन्छ। आक्रामक तह अस्तित्वमा हुनुको कारण नत्र सबैभन्दा ठूला आधारलाई गतिसहित सेवा दिन अव्यावहारिक हुने थियो।
के Hy3 ले तस्बिर वा भिजन समर्थन गर्छ?
गर्दैन। Hy3-W8A16 पाठ-मात्र हो। यसमा तस्बिर भाग पठाउँदा काम गर्दैन। तपाईंलाई उही 8-बिट तहमा भिजन र संरचित आउटपुट दुवै चाहिन्छ भने MiMo-V2.5-W8A16 प्रयोग गर्नुहोस्, जसले उही $0.50 / $2.00 मूल्यमा json_schema र response_format सँगै तस्बिर इनपुट समर्थन गर्छ।
Hy3 API को लागत कति पर्छ?
प्रति दस लाख इनपुट टोकन $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 — हाम्रो क्याटलगको भुइँतल मूल्य, जुन MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 र MiniMax-M3 सँग साझा छ। प्रति कल 1,200 इनपुट र 300 आउटपुट टोकनको प्रतिनिधिमूलक निकासी पाइपलाइनको लागत प्रति कल करिब $0.0012, अर्थात् प्रति दस लाख कल करिब $1,200 पर्छ।
के Hy3 ले कुनै अनुरोध अस्वीकार गर्छ?
मोडेलअगाडि कुनै अस्वीकृति तह र आउटपुट फिल्टरिङ छैन। संरचित पाइपलाइनका लागि त्यो सामग्रीको जत्तिकै विश्वसनीयताको पनि गुण हो: अस्वीकार भनेको स्किमाको उल्लङ्घन हो, किनभने मोडेलले किन जवाफ दिँदैन भन्ने गद्य तपाईंको प्रमाणकले अपेक्षा गरेको वस्तुका रूपमा पार्स हुँदैन। अस्वीकारको बाटो हटाउनुले सुरक्षा, चिकित्सकीय, कानुनी र वयस्क-सामग्री सङ्ग्रहमा पार्स असफलताको पूरै एउटा वर्ग हटाइदिन्छ।
आफ्नै स्किमामा Hy3 चलाउनुहोस्
8-बिट निष्ठा, कडा json_schema, 262K सन्दर्भ, कुनै अस्वीकार छैन — भुइँतल मूल्यमा।
मोडेल id Hy3-W8A16 · पाठ-मात्र · प्रति 1M टोकन $0.50 इन / $2.00 आउट
स्रोत: Tencent Hunyuan मोडेल कार्ड · Hy3 रिपोजिटरी · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 रिलिजको VentureBeat कभरेज। आधार बेन्चमार्क Tencent ले रिपोर्ट गरेका हुन् र स्वतन्त्र प्रमाणीकरण नहुँदासम्म अस्थायी छन्। Shannon AI लाई Shannon Lab LLC, New Mexico, USA ले सञ्चालन गर्छ।