தணிக்கையற்ற Hy3 மாதிரி API
Tencent இன் 295B Hy3 அடித்தளம், 8-பிட் எடை நம்பகத்தன்மையில், கண்டிப்பான json_schema வெளியீட்டுடன், 262,144-டோக்கன் சாளரத்துடன், மறுப்புப் படை இல்லாமல் — பட்டியலின் தரைமட்ட விலையில்.
சுருக்கமாக
Hy3-W8A16 என்பது எங்கள் மூன்று W8A16 மாதிரிகளில் மூன்றாவது — 8-பிட் எடைகள், 16-பிட் செயல்படுத்தல்கள், நாங்கள் வழங்கும் மிக உயர்ந்த நம்பகத்தன்மை அடுக்கு. இது உரை மட்டும், json_schema மற்றும் response_format இரண்டையும் ஆதரிக்கிறது, பட்டியல்-தழுவிய 262,144-டோக்கன் சூழலையும் 16,384-டோக்கன் வெளியீட்டு உச்சவரம்பையும் சுமக்கிறது, ஒரு மில்லியன் டோக்கனுக்கு $0.50 / $2.00 செலவாகிறது — தரைமட்டம். மறுப்புப் படை இல்லை, வெளியீட்டு வடிகட்டல் இல்லை. வடிகட்டப்பட்ட மாதிரி தொடமறுக்கும் பொருள் உட்பட, ஒவ்வொரு அழைப்பிலும் பாகுபடுத்தக்கூடிய, வகைப்படுத்தப்பட்ட வெளியீட்டைத் திரும்பத் தர வேண்டிய அதிக-அளவு உரைக் குழாய்வழிகளுக்கு இதைத் தேர்ந்தெடுங்கள்.
பெரும்பாலான "எந்த மாதிரியைப் பயன்படுத்த வேண்டும்" விவாதங்கள் உச்சவரம்பைப் பற்றியவை: எது சிறந்த குறியீட்டை எழுதுகிறது, எது கடினமான கணிதத்தைத் தீர்க்கிறது, எது மிக நீளமான முகவர் இயக்கத்தை வெல்கிறது. கட்டமைக்கப்பட்ட குழாய்வழிகள் அப்படி வேலை செய்யாது. ஒரு நாளைக்கு ஒரு லட்சம் ஆவணங்களிலிருந்து புலங்களைப் பிரித்தெடுக்கும் ஒரு வேலைக்கு, ஒருமுறை புத்திசாலித்தனமான ஒரு மாதிரி தேவையில்லை — ஒவ்வொரு முறையும் அதே வடிவத்தில் சரியாக இருக்கும், JSON பொருள் வேண்டிய இடத்தில் ஒருபோதும் ஒரு பத்தியைத் திரும்பத் தராத ஒன்று தேவை. Hy3-W8A16 இருப்பது அந்தப் பண்புக்காகவே.
01Hy3 என்றால் என்ன, அது எங்கிருந்து வருகிறது
Hy3 என்பது Tencent இன் Hunyuan குழுவின் ஒரு திறந்த-எடை சிந்தனை மற்றும் முகவர்த்தன்மை மாதிரி, ஜூலை 6, 2026 அன்று ஒரு அனுமதி உரிமத்தின் கீழ் முழுமையாக வெளியிடப்பட்டது, எடைகள் Hugging Face இல் வெளியிடப்பட்டுள்ளன. இது Tencent இன் முந்தைய Hunyuan-Large Mixture-of-Experts வேலையின் வம்சாவளியைத் தொடர்கிறது. கட்டமைப்பு ரீதியாக இது ஒரு சிதறிய MoE: 295 பில்லியன் மொத்த அளபுருக்கள், அவற்றில் தோராயமாக 21 பில்லியன் ஒரு டோக்கனுக்குச் செயல்படுத்தப்படுகின்றன 192 நிபுணர்கள் முழுவதும் top-8 திசைதிருப்பல் வழியாக, தொகுக்கப்பட்ட-வினவல் கவனத்துடன் ஒரு 80-அடுக்கு டிரான்ஸ்ஃபார்மரில், கூடவே ஊக குறியீக்கத்துக்கு ஒரு தனி 3.8B multi-token-prediction அடுக்கு. இயல்பான சூழல் 256K — நாங்கள் வெளிப்படுத்தும் 262,144 டோக்கன்கள் சரியாக, பெரிய ஒன்றின் துண்டிப்போ சிறிய ஒன்றின் rope-நீட்டிக்கப்பட்ட விரிவாக்கமோ அல்ல.
ஒரு டோக்கனுக்குப் பணம் செலுத்தும் எவருக்கும் அந்தச் சிதறல் விகிதம் முக்கியமான எண்: Hy3 ஒரு 295B மாதிரியின் அறிவைச் சுமக்கிறது, ஒரு முன்னோக்கிப் பாதைக்கு தோராயமாக ஒரு 21B மாதிரியின் கணக்கீட்டைச் செய்யும்போதே. அதை மேலும் ஆக்ரோஷமாகச் சுருக்குவதற்குப் பதிலாக 8 பிட்டுகளில் வழங்குவதை நாங்கள் வாங்க முடியும் என்பதற்கான காரணமும் அதுவே — இந்த அளவு சிதறிய ஒரு மாதிரியின் 8-பிட் கட்டமைப்பு எங்கள் சொந்த GPU கிளஸ்டரில் இன்னும் பொருந்துகிறது, இன்னும் வேகமாக இயங்குகிறது.
அது எதில் நல்லது என்று Tencent அறிவிக்கிறது
Tencent வெளியிட்ட மதிப்பீட்டு அட்டவணைகள், Hy3 இன் பலம் தூய குறியீட்டை விட முகவர் தேடல், கருவி ஏற்பாடு, நீண்ட-சூழல் மீட்டெடுப்பில் நேரடியாக இருப்பதைக் காட்டுகின்றன. அவர்கள் அறிவித்த எண்கள்:
பலவீனமான பட்டைகளை நாங்கள் வேண்டுமென்றே காட்டுகிறோம். Tencent இன் சொந்த ஒப்பீட்டில் Hy3, குறியீட்டில் GLM-5.2 க்குப் பின் தங்குகிறது — SWE-bench Verified இல் 84.2 க்கு எதிராக 78.0, DeepSWE இல் 46.2 க்கு எதிராக 28.0. உங்கள் வேலைச்சுமை தன்னாட்சி பல-கோப்பு மென்பொருள் பொறியியல் என்றால், முதலில் மற்ற மாதிரி ஆய்வுப் பட்டியலைப் படியுங்கள். இது உரையைப் படித்து கட்டமைப்பை வெளியிடுவதாக இருந்தால், சுயவிவரம் இலட்சியத்துக்கு நெருக்கமானது.
குழாய்வழி வேலைக்கு மிக முக்கியமான எண் ஒரு நம்பகத்தன்மை எண்: முந்தைய தலைமுறையில் 12.5% ஆக இருந்ததிலிருந்து, Hy3 இன் மாயத்தோற்ற விகிதம் 5.4% ஆக குறைந்துவிட்டதாக Tencent அறிவிக்கிறது, பொது அறிவுப் பிழைகள் 25.4% இலிருந்து 12.7% ஆகக் குறைந்துள்ளன. அவர்களின் கூறப்பட்ட பயிற்சிக் கொள்கை — சான்று இருக்கும்போது பதிலளிக்கவும், இல்லாதபோது வெளிப்படையாகச் சொல்லவும் — மூலம் ஒருபோதும் குறிப்பிடப்படாத ஒரு புலத்துக்கு நம்பகமான ஒரு மதிப்பைக் கண்டுபிடிக்காத, ஒரு பிரித்தெடுத்தல் மாதிரியில் நீங்கள் விரும்பும் அந்தச் சுபாவமே இது.
இந்தப் பிரிவில் உள்ள அனைத்து எண்களும் Tencent தங்கள் சொந்த சோதனை இயக்கங்களிலிருந்து அறிவித்தவை; சுயாதீன மூன்றாம் தரப்பு சரிபார்ப்பு இது எழுதப்படும் நேரத்தில் இன்னும் நிலுவையில் இருந்தது. அவற்றை திசைகாட்டியாகவே கருதுங்கள், உறுதி செய்யப்பட்டதாக அல்ல.
02W8A16 என்றால் என்ன, கட்டமைக்கப்பட்ட வெளியீட்டுக்கு அது ஏன் முக்கியம்
நுழைவாயிலில் உள்ள ஒவ்வொரு மாதிரியும் ஒரு குவாண்டைசேஷன் பின்னொட்டைச் சுமக்கிறது. இது அலங்காரம் அல்ல — ஆய்வகம் வெளியிட்ட செக்பாயிண்டிலிருந்து வழங்கப்படும் எடைகள் எவ்வளவு தொலைவில் இருக்கின்றன என்பதை அது சொல்கிறது.
| அடுக்கு | அது என்ன செய்கிறது | நம்பகத்தன்மை |
|---|---|---|
| 3BIT-REAP | 3-பிட் எடைகளும் REAP உம், குவாண்டைஸ் செய்வதற்கு முன் அரிதாகத் திசைதிருப்பப்படும் MoE நிபுணர்களை நீக்கும் ஒரு நிபுணர்-கத்தரிப்பு முறை | மிக அதிகம் சுருக்கப்பட்டது |
| W4A16-AUTOROUND-REAP | 4-பிட் எடைகள் / 16-பிட் செயல்படுத்தல்கள், AutoRound வழியாக — அப்பாவியான அருகில்-வட்டமிடலை விட துல்லியத்தை மீட்கும் கற்றுக்கொள்ளப்பட்ட வட்டமிடல் — கூடவே REAP கத்தரிப்பு | நடுத்தரம் |
| W8A16 | 8-பிட் எடைகள் / 16-பிட் செயல்படுத்தல்கள். கத்தரிப்பு இல்லை, கற்றுக்கொள்ளப்பட்ட-வட்டமிடல் பழுதுபார்ப்பும் இல்லை — எடைகள் வெறுமனே இரு மடங்கு துல்லியத்தில் சுமக்கப்படுகின்றன | மிக உயர்ந்தது |
குவாண்டைசேஷன் சறுக்கல் உண்மையில் எங்கே பாதிக்கிறது
REAP உம் AutoRound உம், அப்பாவியான சுருக்கம் இழக்கும் பெரும்பாலானதை மீட்கின்றன — ஆனால் அந்த வாக்கியத்தில் "பெரும்பாலானது" என்பதே வேலை செய்கிறது, மேலும் எஞ்சியது சமமாக விழுவதில்லை. குறை-பிட் குவாண்டைசேஷன் வால்களைச் சிதைக்கிறது: குறை-நிகழ்தகவு, உயர்-குறிப்பிட்டத்தன்மை முடிவுகள். உரைநடையில் அது கிட்டத்தட்ட கண்ணுக்குத் தெரியாது; ஒரு வேறுபட்ட உரிச்சொல் இன்னும் ஒரு நல்ல வாக்கியமே. கட்டமைக்கப்பட்ட வெளியீட்டில் அதுவே முழு விளையாட்டு, ஏனெனில் ஒரு schema என்பது ஒவ்வொன்றும் சரியாக இருக்க வேண்டிய குறை-நிகழ்தகவு முடிவுகளின் ஒரு நீண்ட சங்கிலி:
- டோக்கன்-நிலை தொடரியல். ஒரு மூடும் அடைப்புக்குறி, ஒரு காற்புள்ளி, ஒரு மேற்கோள் எழுத்து. ஒவ்வொன்றும் ஒரு டோக்கன், ஒரு தவறான டோக்கன் முழு பதிலையும் செல்லாததாக்குகிறது.
- Enum ஒழுக்கம். உங்கள் schema
"status""open" | "closed" | "pending"இல் ஒன்று என்று சொல்கிறது; ஒரு சறுக்கிய மாதிரி"Open"அல்லது"pending review"ஐத் திருப்பித் தருகிறது — சொற்பொருள் ரீதியாக நெருக்கமானது, இரண்டும் செல்லுபடியாகாது. - வகை ஒழுக்கம். ஒரு
numberபுலம்"1,240"ஆகத் திரும்புகிறது, ஒருboolean"yes"ஆக. இரண்டும் சரங்களாகப் பாகுபடுத்தப்பட்டு schema யில் தோற்கின்றன. - நீண்ட-வால் நேரடி மதிப்புகள். அரிய சிறப்புப் பெயர்ச்சொற்கள், பாகம் எண்கள், இரசாயனப் பெயர்கள், Latin அல்லாத எழுத்துக்கள், துல்லியமான தேதிகள் — குறை-பிட் எடைகள் மங்கலாக்கும் அதே குறை-நிகழ்தகவுப் பகுதி.
இதில் எதுவும் 4-பிட் அல்லது 3-பிட் மாதிரிகளை மோசமாக்கவில்லை; உரையாடல் வேலைக்கு நம்பகத்தன்மை வேறுபாடு பெரும்பாலும் விலை வேறுபாட்டுக்கு மதிப்புடையதாக இருக்காது. ஆனால் வெளியீட்டை நுகர்பவர் ஒரு மனிதனுக்குப் பதிலாக ஒரு சரிபார்ப்பானாக இருக்கும்போது, வால்களில் உள்ள துல்லியம் நேரடியாகப் பாகுபடுத்தல் விகிதமாக மாறுகிறது — பாகுபடுத்தல் விகிதம் மறுமுயற்சி பட்ஜெட்டாகவும் p99 தாமதமாகவும் மாறுகிறது. அந்த வரியைச் செலுத்துவதை நீங்கள் நிறுத்தும் அடுக்கு W8A16 ஆகும்.
03கட்டமைக்கப்பட்ட வெளியீடு: json_schema மற்றும் response_format
Hy3 கட்டமைக்கப்பட்ட-வெளியீட்டுப் பரப்பின் இரண்டு பாதிகளையும் ஆதரிக்கிறது — வெளிப்படையாகச் சொல்ல மதிப்புடையது, ஏனெனில் இது பட்டியல் முழுவதும் உலகளாவியது அல்ல:
| மாதிரி | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | ஆம் | ஆம் |
| MiMo-V2.5-Pro · W8A16 | ஆம் | ஆம் |
| inkling · W4A16-AUTOROUND-REAP | ஆம் | இல்லை |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | இல்லை | இல்லை |
இரண்டு பொறிமுறைகளுக்கும் இடையிலான வேறுபாடு, மக்கள் கருதுவதை விட முக்கியம். response_format: {"type": "json_object"} செல்லுபடியாகும் JSON ஐ மட்டுமே கேட்கிறது — மாதிரி வடிவத்தைத் தேர்ந்தெடுக்கிறது, எனவே இரண்டு அழைப்புகள் {"name": ...} ஐயும் {"full_name": ...} ஐயும் திருப்பித் தரலாம், இரண்டும் சரியானவை. json_schema வடிவத்தை முன்கூட்டியே வழங்குகிறது: பெயரிடப்பட்ட புலங்கள், வகைகள், enum கள், தேவையான பட்டியல்கள், உள்குடையல். அது நீங்கள் குறியீடு எழுதக்கூடிய ஒரு ஒப்பந்தம்.
OpenAI-இணக்க வகையில் ஒரு குறைந்தபட்ச அழைப்பு:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}நடைமுறைக் குறிப்புகள்
- ஒவ்வொரு புலத்தையும் தேவையானதாக ஆக்கி
nullஐ அனுமதியுங்கள். விருப்ப புலங்கள் அமைதியான கைவிடல்களை அழைக்கின்றன; தேவையான ஒரு null-அனுமதிக்கப்பட்ட புலம், நீங்கள் செயல்படக்கூடிய தகவலான ஒரு வெளிப்படையான "இல்லை" என்பதைக் கட்டாயப்படுத்துகிறது. - Enum கள் தன்னிச்சையான சரங்களை வெல்கின்றன. எங்கே மதிப்புத் தொகுப்பை மூடமுடியுமோ அங்கே மூடுங்கள் — ஒரு schema வின் உண்மையான-உலகப் பாகுபடுத்தல் விகிதத்துக்கான மிக அதிக செல்வாக்குள்ள மாற்றம் இது.
- 16,384-டோக்கன் வெளியீட்டு உச்சவரம்புக்குக் கீழேயே இருங்கள். வரம்பற்ற ஒரு அணி பொருளின் நடுவில் துண்டிக்கப்படும். அணி நீளங்களை வரம்பிடுங்கள், அல்லது உள்ளீட்டைத் துண்டுகளாக்குங்கள்.
- சிஸ்டம் செய்தியை வைத்திருங்கள். schema வடிவத்தைக் கட்டுப்படுத்துகிறது; ப்ராம்ப்ட் இன்னும் சொற்பொருளை ஆளுகிறது — "critical" என்று எது கருதப்படுகிறது, இரண்டு தேதிகள் தோன்றும்போது எது வெல்கிறது, அலகுகளை இயல்பாக்க வேண்டுமா என்பது.
- எப்படியும் சரிபார்க்கவும். Schema ஆதரவு பாகுபடுத்தல் விகிதத்தை உயர்த்துகிறது; அது ஒரு சரிபார்ப்பானையும் ஒரு dead-letter வரிசையையும் மாற்றாது.
04"தணிக்கையற்றது" ஏன் ஒரு உள்ளடக்கப் பண்பு மட்டுமல்ல, ஒரு நம்பகத்தன்மைப் பண்பு
நுழைவாயிலில் Hy3 க்கு மறுப்புப் படை இல்லை, வெளியீட்டு வடிகட்டலும் இல்லை. வழக்கமான வடிவமைப்பு உள்ளடக்கத்தைப் பற்றியது: மாதிரி உங்களுக்காக அது விரும்பவில்லை என்று முடிவெடுக்காமல், பாதுகாப்பு ஆய்வு, தீம்பொருள் பகுப்பாய்வு, சுரண்டல் விவரங்கள், மருத்துவ மற்றும் சட்டக் கார்பஸ், வயது வந்தோர் பொருள், தீங்கு-குறைப்பு ஆவணப்படுத்தல் அல்லது விரோதப் பயனர் டிரான்ஸ்கிரிப்ட்களை நீங்கள் செயலாக்க முடியும்.
இது முக்கியத்துவம் வாய்ந்திருக்க இரண்டாவது, இன்னும் இயந்திரத்தன்மையான காரணம் உண்டு. ஒரு மறுப்பு ஒரு schema மீறல். மறுக்கும் ஒரு வடிகட்டப்பட்ட மாதிரி, ஒரு "unavailable" கொடியுடன் உங்கள் பொருளைத் திரும்பத் தராது — அது உரைநடையைத் திரும்பத் தருகிறது. "நான் அந்தக் கோரிக்கைக்கு உதவ முடியாது." அந்தச் சரம் ஒரு incident பொருள் அல்ல; அது உங்கள் சரிபார்ப்பானில் தோற்று, உண்மையான பாகுபடுத்தல் பிழைகளுக்கு அருகில் dead-letter வரிசையில் விழுகிறது, இப்போது நீங்கள் கொள்கை மறுப்புகளை உண்மையான தவறான வடிவங்களிலிருந்து பிரிக்க வேண்டியிருக்கிறது.
மோசமானது என்னவென்றால், மறுப்புகள் சீரற்று விநியோகிக்கப்படுவதற்குப் பதிலாக உள்ளடக்கத்துடன் தொடர்புடையவை. உங்கள் கார்பஸில் 4% பாதுகாப்பு சம்பவ அறிக்கைகளாக இருந்து, மாதிரி அவற்றில் பெரும்பாலானவற்றை நிராகரித்தால், நீங்கள் சீராக 4% திறனை இழக்கவில்லை — நீங்கள் ஒரு வகையை இழந்துவிட்டீர்கள், அந்தத் தரவின் மீது கட்டப்பட்ட டாஷ்போர்டு, அது வெளிப்படுத்த வேண்டிய சரியான விஷயத்தை அமைதியாகக் குறைவாக அறிவிக்கிறது. வகை-வடிவ ஓட்டைகள், சீரான இரைச்சலை விட அதிகம் செலவாகின்றன, ஏனெனில் அவற்றின் மீது எதுவும் எச்சரிக்கவில்லை. மறுப்புப் பாதையை நீக்கினால், எஞ்சுவது — தவறான வடிவங்கள், துண்டிப்புகள், தெளிவற்ற உரை — தலைப்புடன் தொடர்பற்றது, அதனால் அளவிடக்கூடியது.
தணிக்கையற்றது என்பது பொறுப்பற்றது அல்ல
மறுப்புப் படை இல்லை என்றால், மாதிரி உங்கள் உள்ளீட்டைப் பற்றி கருத்துரைக்கவில்லை என்று பொருள். கணக்கு கண்காணிக்கப்படவில்லை என்று பொருளல்ல. பயன்பாடு எங்கள் பொறுப்பான பயன்பாட்டுக் கொள்கையாலும் பொருந்தும் சட்டத்தாலும் ஆளப்படுகிறது, தவறான பயன்பாடு அணுகலை முடிவுக்குக் கொண்டுவரும். வடிகட்டியை நீக்குவது, ஒரு ஆவணத் துண்டிலிருந்து உங்கள் நோக்கத்தை மாதிரி யூகிப்பதை நிறுத்துகிறது; நீங்கள் கட்டுவதற்கான உங்கள் பொறுப்பை அது நீக்காது.
05சூழல், வெளியீட்டு உச்சவரம்பு, அவற்றை எப்படிப் பட்ஜெட் செய்வது
நுழைவாயிலில் உள்ள ஒவ்வொரு மாதிரியும் அதே வரம்புகளைப் பகிர்ந்துகொள்கிறது:
சூழல் ஒரு பகிரப்பட்ட பட்ஜெட்: ப்ராம்ப்டும் வெளியீடும் சேர்ந்து 262,144 க்குள் பொருந்த வேண்டும், எனவே ஒரு அழைப்பில் நடைமுறை உள்ளீட்டு உச்சவரம்பு தோராயமாக 245,000 டோக்கன்கள், தோராயமாக 180,000 ஆங்கிலச் சொற்கள். கட்டமைக்கப்பட்ட வேலைக்கு, 16,384-டோக்கன் வெளியீட்டு வரம்பே கடினமான வரம்பு, மேலும் மக்களை ஆச்சரியப்படுத்துவது அதுவே — ஒரு பதிவுக்கு ஒரு பொருளை வெளியிடும் ஒரு schema, சாளரம் நிரம்புவதற்கு நீண்ட காலத்திற்கு முன்பே அதை அடைந்துவிடும். இரண்டு வடிவங்கள் அதற்கு எதிராக வேலை செய்கின்றன:
- அகன்ற உள்ளீடு, குறுகிய வெளியீடு. ஒரு முழு ஒப்பந்தத்தையும், தாக்கலையும், பதிவு சாளரத்தையும் சூழலுக்குள் தள்ளி, ஒரு சிறிய பொருளைக் கேளுங்கள். உள்ளீட்டு டோக்கன்கள் வெளியீட்டு டோக்கன்களில் கால் பங்கு செலவாகும், எனவே அதிகம் படித்து, சிறிதளவு எழுதுவதற்கு விலைநிர்ணயம் வெகுமதி அளிக்கிறது.
- பைட் எண்ணிக்கையில் அல்ல, பதிவு எல்லைகளில் துண்டுகளாக்குங்கள். மாதிரி இணைப்பைப் பார்க்கக்கூடிய இடத்தில் பிரியுங்கள். ஒரு வாக்கியத்தின் நடுவில் வெட்டப்பட்ட ஒரு பதிவு, ஒரு வெளிப்படையான தோல்விக்குப் பதிலாக, நம்பிக்கையுடன் தவறான ஒரு பொருளை உருவாக்குகிறது.
Hy3 இன் அறிவிக்கப்பட்ட நீண்ட-சூழல் மீட்டெடுப்பு வலிமை — AA-LCR இல் 73.4, MRCR நீண்ட-உரையாடல் நினைவுகூரலில் 42.9% இலிருந்து 75.1% க்கு ஒரு பாய்ச்சல் — முதல் வடிவம் சார்ந்திருக்கும் திறனே, நன்றாக எழுதுவதிலிருந்து வேறுபட்ட ஒரு திறமை.
06தரைமட்ட விலைநிர்ணயம், உண்மையான குழாய்வழியின் கணக்கீடு
Hy3 1M உள்ளீட்டு டோக்கனுக்கு $0.50 ம், 1M வெளியீட்டு டோக்கனுக்கு $2.00 ம் அமர்ந்திருக்கிறது — பட்டியல் தரைமட்டம், MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731, MiniMax-M3 உடன் பகிரப்பட்டது. பிரதிநிதி சுமைகள் மூலம் கணக்கிடப்பட்டது:
| வேலைச்சுமை | அழைப்புக்கு உள்ளீடு | அழைப்புக்கு வெளியீடு | அழைப்புக்குச் செலவு | 1M அழைப்புகளுக்கு |
|---|---|---|---|---|
| புலப் பிரித்தெடுத்தல் | 1,200 | 300 | $0.0012 | $1,200 |
| ஆவண வகைப்படுத்தல் | 3,000 | 120 | $0.0018 | $1,800 |
| நீண்ட-ஆவணத்தை schema வுக்குச் சுருக்குதல் | 40,000 | 900 | $0.0218 | $21,800 |
| முழு-சாளர பகுப்பாய்வு | 240,000 | 2,000 | $0.1240 | $124,000 |
முடிவுகளை மாற்றும் எண் தலைப்புச் செய்தி விகிதம் அல்ல, மறுமுயற்சிகளுக்குப் பிறகு பயனுள்ள விகிதமே. இரண்டு மாதிரிகள் ஒரே விலையில் இருந்து, ஒன்று 6% அழைப்புகளில் சரிபார்ப்பில் தோற்று, மற்றொன்று 1.5% இல் தோற்றால், அதிக-சறுக்கல் மாதிரி தோராயமாக 4.5% அதிக அழைப்புகளை இயக்குகிறது — தாங்கிக்கொள்ளக்கூடியது. சேதம் வாலில் உள்ளது: மறுமுயற்சி செய்யப்பட்ட அழைப்புகள் இரு மடங்கு நேரம் எடுக்கின்றன, எனவே கண்ணுக்குத் தெரியும் ஒரு போக்குவரத்துப் பகுதிக்கு p99 தாமதம் தோராயமாக இரட்டிப்பாகிறது, இரண்டு முறை தோற்பது எதுவும் கைமுறை வேலையாக மாறுகிறது. நாளொன்றுக்கு ஒரு மில்லியன் அழைப்புகளில், அது யாராவது படிக்க வேண்டிய ஆயிரக்கணக்கான பதிவுகள்.
எனவே தரைமட்ட விலையில் 8-பிட் அடுக்குக்கான வழக்கு: இங்கே நீங்கள் நம்பகத்தன்மைக்காக ஒரு பிரீமியத்தைச் செலுத்தவில்லை, எனவே மறுமுயற்சிக் கணக்கீடு இலவசப் பணம். ஒரு 3-பிட் மாதிரி மலிவாக இருந்தால் நிறுத்தி எடைபோட வேண்டிய ஒரு உண்மையான பரிமாற்றம் இருக்கும் — Hy3, பட்டியலில் மிக மலிவான ஒன்றின் அதே விலையிலேயே செலவாகிறது.
07மூன்று API வகைகள், ஒரு மாதிரி
Hy3 மூன்று நுழைவாயில் வகைகளிலும் ஒவ்வொன்றிலும் ஸ்ட்ரீமிங்குடன் அணுகக்கூடியது. அதே மாதிரி, அதே எடைகள், அதே வரம்புகள் — உங்களிடம் ஏற்கெனவே இருக்கும் SDK உடன் பொருந்தும் எதையும் தேர்ந்தெடுங்கள்.
| இறுதிப்புள்ளி | வகை | எப்போது பயன்படுத்த வேண்டும் |
|---|---|---|
| /v1/chat/completions | OpenAI | உங்களிடம் ஒரு OpenAI SDK, LangChain அல்லது LlamaIndex உள்ளது. அடிப்படை URL ஐ இங்கே சுட்டிக்காட்டி, மாதிரி அடையாளத்தை மாற்றுங்கள். |
| /v1/messages | Anthropic | நீங்கள் Anthropic SDK இல் இருக்கிறீர்கள், ஒரு மொழிபெயர்ப்பு அடுக்கு இல்லாமல் உள்ளடக்கத் தொகுதிகளை விரும்புகிறீர்கள். |
| /v1/responses | Responses | வகைப்படுத்தப்பட்ட வெளியீட்டுடனும் சேவையக-பக்க நிலையுடனும் புதிய கோரிக்கை வடிவத்தை விரும்புகிறீர்கள். |
Hy3, reasoning_effort உட்பட கருவி அழைப்பையும் சிந்தனையையும் ஆதரிக்கிறது. பிரித்தெடுத்தல் வேலைக்கு, பொதுவாகச் சிந்தனையைக் குறைப்பதே பயனுள்ள நகர்வு: தூய உரையின் மீது நன்கு குறிப்பிடப்பட்ட ஒரு schema இல், சிந்தனை டோக்கன்கள் நீங்கள் செலுத்தும் வெளியீட்டு டோக்கன்கள், நீங்கள் காத்திருக்கும் தாமதம், ஒரு விளிம்புலாப நன்மைக்காக. அதற்குப் பதிலாக முயற்சி பட்ஜெட்டை உண்மையிலேயே தெளிவற்ற உள்ளீட்டின் மீது செலவிடுங்கள்.
முழு கோரிக்கை மற்றும் பதில் குறிப்பு, அளபுரு பட்டியல்கள், ஸ்ட்ரீமிங் சொற்பொருள், ஒரு ஊடாடும் playground API ஆவணப்படுத்தலில் வாழ்கின்றன.
08மூன்று W8A16 மாதிரிகளில் தேர்ந்தெடுத்தல்
மூன்று மாதிரிகள் மிக உயர்ந்த நம்பகத்தன்மை அடுக்கில் அமர்ந்திருக்கின்றன, அனைத்தும் தரைமட்ட விலையில். தேர்வு பெரும்பாலும் முகைமையைப் பொறுத்தது:
| மாதிரி | பார்வை | json_schema | விலை உள்ளே / வெளியே | எதற்குத் தேர்ந்தெடுக்க வேண்டும் |
|---|---|---|---|---|
| Hy3 · W8A16 | இல்லை | ஆம் | $0.50 / $2.00 | உரை-மட்டும் கட்டமைக்கப்பட்ட குழாய்வழிகள், கருவி ஏற்பாடு, நீண்ட-சூழல் மீட்டெடுப்பு |
| MiMo-V2.5-Pro · W8A16 | இல்லை | ஆம் | $0.50 / $2.00 | MiMo வரிசையின் Pro சரிசெய்தலை நீங்கள் விரும்பும் உரை-மட்டும் வேலை |
| MiMo-V2.5 · W8A16 | ஆம் | ஆம் | $0.50 / $2.00 | படங்களுடன் கூடிய எதுவும் — ஸ்கேன் செய்யப்பட்ட ஆவணங்கள், திரைப்பிடிப்புகள், புகைப்படங்கள் |
உங்கள் உள்ளீட்டின் எந்தப் பகுதியாவது ஒரு படமாக இருந்தால், உங்களுக்காக முடிவு எடுக்கப்பட்டுவிடும்: Hy3 உரை மட்டும் — ஸ்கேன் செய்யப்பட்ட PDF கள், திரைப்பிடிப்புகள், புகைப்படங்களை MiMo-V2.5 க்கு அனுப்புங்கள். உள்ளீடு உண்மையிலேயே உரையாக இருக்கும் இடத்தில், Hy3 இன் முகவர் கருவிப் பயன்பாடு, நீண்ட-சூழல் நினைவுகூரல், குறைவான அறிவிக்கப்பட்ட மாயத்தோற்றம் ஆகியவற்றின் சுயவிவரம் குழாய்வழி வேலையின் மீது மிக நேரடியாக வரைபடமாக்குகிறது. மூன்றும் ஒரே விலையில் இருப்பதால், ஒரு சில நூறு உண்மையான பதிவுகளின் மீது இரண்டை உங்கள் schema வுக்கு எதிராக இயக்கி, பாகுபடுத்தல் விகிதங்களை ஒப்பிடுங்கள்; இது ஏதேனும் அட்டவணையை விட, இதையும் சேர்த்து, சிறப்பாகத் தீர்மானிக்கும்.
09Hy3 எங்கே தன் இடத்தைப் பெறுகிறது
- அதிக-அளவு புலப் பிரித்தெடுத்தல். ஒப்பந்தங்கள், தாக்கல்கள், சம்பவ அறிக்கைகள், டிரான்ஸ்கிரிப்ட்கள், மருத்துவமனைக் குறிப்புகள், நீதிமன்றப் பதிவுகள் — ஒரு ஆவணத்துக்கு ஒரு வகைப்படுத்தப்பட்ட பொருள் தரப்பொருளாக இருந்து, அளவு மறுமுயற்சிகளை விலையுயர்ந்ததாக்கும் எங்கும்.
- அளவில் வகைப்படுத்தலும் திசைதிருப்பலும். மூடிய enum வெளியீடுகள், மாதிரியின் முழு மதிப்பும் பத்தொன்பதாவது வகையை ஒருபோதும் கண்டுபிடிக்காதது.
- பாதுகாப்பு மற்றும் அச்சுறுத்தல்-நுண்ணறிவு கார்பஸ். தீம்பொருள் விவரங்கள், சுரண்டல் வெளிப்படுத்தல்கள், ஃபிஷிங் மாதிரிகள் — வடிகட்டப்பட்ட மாதிரிகளை மறுப்புக்குள் தள்ளும் பொருள், அங்கே ஒரு வகை-வடிவ ஓட்டை நோக்கத்தையே தோற்கடிக்கும்.
- தேக்கமடையக் கூடாத கருவி-அழைப்பு முகவர்கள். 8-பிட் மதிப்புரு நம்பகத்தன்மை என்றால், உங்கள் செயல்பாடுகளுக்குக் கொடுக்கப்படும் JSON பாகுபடுத்தப்படும் என்பதே; சிதைந்த ஒரு கருவி அழைப்பு ஒரு சற்று மோசமான பதில் அல்ல, ஒரு தேக்கமடைந்த முகவர்.
- கட்டமைப்புக்குள் நீண்ட-ஆவணப் பகுப்பாய்வு. முழு தாக்கலும் உள்ளே, ஒரு சிறிய பொருள் வெளியே.
- உள்ளடக்க மட்டுறுத்தலும் கொள்கை ஆய்வும். ஒரு வடிகட்டப்பட்ட மாதிரி படிக்க மறுக்கும் பொருளுக்குச் சிட்டையிடுவது ஒரு நிலையான நம்பிக்கை-பாதுகாப்புச் சிக்கல்; ஒரு கண்டிப்பான schema கொண்ட வடிகட்டப்படாத மாதிரி அதை நேரடியாகத் தீர்க்கிறது.
அது பொருந்தாத இடங்கள்: படங்களுடன் கூடிய எதுவும் (MiMo-V2.5 ஐப் பயன்படுத்துங்கள்), மேலும் தன்னாட்சி பல-கோப்பு மென்பொருள் பொறியியல், அங்கே Tencent இன் சொந்த அட்டவணைகளே Hy3 ஐ SWE-bench Verified இல் GLM-5.2 க்குப் பின்னாலும், DeepSWE இல் நன்கு பின்னாலும் வைக்கின்றன.
Every architectural and benchmark claim about the Hy3 foundation comes from Tencent's public release materials or press coverage of them; the catalog facts come from our own live /v1/models. Verify both.
Benchmark figures are Tencent-reported, including the competitor numbers; independent verification was pending at the time of writing. Cost figures are computed from our published $0.50 / $2.00 rates. No number on this page is a Shannon-run benchmark or an estimate.
10Frequently asked questions
What is the uncensored Hy3 model API?
It is the Shannon AI Gateway endpoint for the model id Hy3-W8A16 — Tencent's open-weight Hy3 foundation served on our own GPU cluster at 8-bit weight precision, with no refusal layer and no output filtering. It offers a 262,144-token context window, 16,384 output tokens per request, tool calling, reasoning with reasoning_effort, and full structured output through both json_schema and response_format, on /v1/chat/completions, /v1/messages and /v1/responses with streaming.
Does Hy3 support JSON schema and structured output?
Yes. Hy3-W8A16 supports both response_format for JSON-object mode and json_schema for strict, typed schemas — the full structured-output surface, not a partial one. That is not true of every model in the catalog: Laguna-S-2.1 supports neither, and inkling supports response_format but not json_schema. If your pipeline depends on a typed contract, Hy3 is one of the models that can honor it.
What does W8A16 mean, and is it better than 4-bit or 3-bit?
W8A16 means 8-bit weights and 16-bit activations — the highest-fidelity tier we serve. Compared with W4A16-AUTOROUND-REAP (4-bit weights, learned rounding, expert pruning) and 3BIT-REAP (3-bit weights plus expert pruning), it changes the released weights the least, so behavior stays closest to the original checkpoint. The aggressive tiers exist because the largest foundations would otherwise be impractical to serve at speed.
Does Hy3 support images or vision?
No. Hy3-W8A16 is text-only. Sending image parts to it will not work. If you need vision plus structured output on the same 8-bit tier, use MiMo-V2.5-W8A16, which supports image input along with json_schema and response_format at the same $0.50 / $2.00 price.
How much does the Hy3 API cost?
$0.50 per million input tokens and $2.00 per million output tokens — the floor price in our catalog, shared with MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 and MiniMax-M3. A representative extraction pipeline at 1,200 input and 300 output tokens per call costs about $0.0012 per call, or roughly $1,200 per million calls.
Will Hy3 refuse a request?
There is no refusal layer and no output filtering in front of the model. For a structured pipeline that is a reliability property as much as a content one: a refusal is a schema violation, because prose explaining why the model will not answer does not parse as the object your validator expects. Removing the refusal path removes a whole class of parse failures on security, medical, legal and adult-content corpora.
Run Hy3 on your own schema
8-bit fidelity, strict json_schema, 262K context, no refusals — at floor price.
Model id Hy3-W8A16 · text-only · $0.50 in / $2.00 out per 1M tokens
Sources: Tencent Hunyuan model cards · Hy3 repository · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat coverage of the Hy3 release. Foundation benchmarks are Tencent-reported and provisional pending independent verification. Shannon AI is operated by Shannon Lab LLC, New Mexico, USA.