Necenzūruotas Hy3 modelio API

Dauguma ginčų „kurį modelį naudoti“ sukasi apie lubas: kuris rašo geriausią kodą, išsprendžia sunkiausią matematiką, laimi ilgiausią agento vykdymą. Struktūrizuoti konvejeriai veikia kitaip. Užduočiai, traukiančiai laukus iš šimto tūkstančių dokumentų per dieną, nereikia modelio, kuris būtų genialus vieną kartą — reikia tokio, kuris būtų teisingas ta pačia forma kiekvieną kartą ir niekada negrąžintų pastraipos ten, kur turi būti JSON objektas. Būtent tokiai savybei Hy3-W8A16 čia ir yra.

01Kas yra Hy3 ir iš kur jis kilęs

Hy3 yra atvirų svorių samprotavimo ir agentinis modelis iš Tencent Hunyuan komandos, visas išleistas 2026 m. liepos 6 d. pagal leidžiamąją licenciją, su svoriais Hugging Face platformoje. Jis tęsia ankstesnio Tencent Hunyuan-Large ekspertų mišinio darbo liniją. Architektūriškai tai retas MoE: 295 milijardai viso parametrų, iš kurių maždaug 21 milijardas aktyvuojasi vienam žetonui per top-8 maršrutizavimą tarp 192 ekspertų, ant 80 sluoksnių transformerio su grupuotų užklausų dėmesiu, plius atskiras 3,8 mlrd. kelių žetonų prognozavimo sluoksnis spekuliatyviam dekodavimui. Savasis kontekstas yra 256K — lygiai tie 262 144 žetonai, kuriuos atveriame, o ne kažko didesnio nukirpimas ar kažko mažesnio rope tempimas.

Tas retumo santykis yra svarbiausias skaičius kiekvienam, mokančiam už žetonus: Hy3 neša 295 mlrd. modelio žinias, o vienam pralėkimui pirmyn atlieka maždaug 21 mlrd. modelio aritmetiką. Kaip tik dėl to galime sau leisti teikti jį 8 bitų tikslumu, o ne glaudinti stipriau — tokio retumo modelio 8 bitų versija vis dar telpa ir vis dar veikia greitai mūsų pačių GPU klasteryje.

Kam, pagal Tencent, jis geras

Tencent paskelbtos vertinimų lentelės Hy3 stiprybes deda aiškiai į agentinę paiešką, įrankių orkestravimą ir ilgo konteksto paiešką, o ne į gryną programavimą. Jų pateiktos reikšmės:

Silpnas juostas rodome sąmoningai. Pačios Tencent palyginime Hy3 atsilieka nuo GLM-5.2 programavime — 78,0 prieš 84,2 SWE-bench Verified teste ir 28,0 prieš 46,2 DeepSWE teste. Jei jūsų darbo krūvis yra autonominė kelių failų programinės įrangos inžinerija, pirmiausia perskaitykite likusią modelių tyrimų rodyklę. Jei tai teksto skaitymas ir struktūros gaminimas, profilis beveik idealus.

Konvejerio darbui svarbiausia reikšmė yra patikimumo: Tencent nurodo Hy3 haliucinacijų dažnį 5,4 %, kai ankstesnėje kartoje jis buvo 12,5 %, o sveiko proto klaidos krito nuo 25,4 % iki 12,7 %. Jų deklaruojamas mokymo principas — atsakyti, kai yra įrodymų, ir tiesiai pasakyti, kai jų nėra — yra kaip tik ta nuostata, kurios norite ištraukimo modelyje, kitaip išgalvosiančiame tikėtiną reikšmę laukui, kurio šaltinis net nemini.

Visos šio skyriaus reikšmės yra Tencent pateiktos iš jų pačių bandymų; rašymo metu nepriklausomo trečiosios šalies patikrinimo dar nebuvo. Laikykite jas kryptinėmis, o ne galutinėmis.

02Ką reiškia W8A16 ir kodėl tai svarbu struktūrizuotai išvesčiai

Kiekvienas vartų modelis turi kvantavimo priesagą. Tai ne papuošalas — ji pasako, kaip toli teikiami svoriai yra nuo kontrolinio taško, kurį išleido laboratorija.

Pakopa	Ką ji daro	Ištikimybė
3BIT-REAP	3 bitų svoriai plius REAP — ekspertų genėjimo metodas, prieš kvantavimą pašalinantis retai maršrutizuojamus MoE ekspertus	Labiausiai suglaudinta
W4A16-AUTOROUND-REAP	4 bitų svoriai / 16 bitų aktyvacijos per AutoRound — išmoktą apvalinimą, atgaunantį tikslumą palyginti su naiviu apvalinimu iki artimiausio — plius REAP genėjimas	Vidurys
W8A16	8 bitų svoriai / 16 bitų aktyvacijos. Jokio genėjimo, jokio išmokto apvalinimo taisymo — svoriai tiesiog nešami dvigubai didesniu tikslumu	Aukščiausia

Kur kvantavimo nuklydimas iš tikrųjų skauda

REAP ir AutoRound atgauna didžiąją dalį to, ką praranda naivus glaudinimas — bet žodis „didžiąją“ tame sakinyje dirba daug, o likutis nusėda netolygiai. Žemų bitų kvantavimas gadina uodegas: mažos tikimybės, didelio specifiškumo sprendimus. Prozoje tai beveik nematoma; kitoks būdvardis vis tiek yra geras sakinys. Struktūrizuotoje išvestyje tai yra visa esmė, nes schema yra ilga grandinė mažos tikimybės sprendimų, kurių kiekvienas privalo būti tiksliai teisingas:

• Žetono lygmens sintaksė. Uždarantis riestinis skliaustas, kablelis, kabutė. Kiekvienas yra vienas žetonas, o vienas neteisingas žetonas paverčia negaliojančiu visą atsakymą.
• Išvardijimų drausmė. Jūsų schema sako, kad "status" yra vienas iš "open" | "closed" | "pending"; nuklydęs modelis grąžina "Open" arba "pending review" — semantiškai artima, bet negaliojanti nė viena prasme.
• Tipų drausmė. number laukas grįžta kaip "1,240", boolean — kaip "yes". Abu analizuojami kaip eilutės ir schemos neatitinka.
• Ilgos uodegos literalai. Reti tikriniai daiktavardžiai, detalių numeriai, cheminiai pavadinimai, ne lotyniški raštai, tikslios datos — kaip tik ta mažos tikimybės sritis, kurią žemų bitų svoriai išplauna.

Niekas iš to nedaro 4 bitų ar 3 bitų modelių blogų; pokalbių darbui ištikimybės skirtumas dažnai nevertas kainos skirtumo. Bet kai išvestį vartoja tikrintuvas, o ne žmogus, tikslumas uodegose tiesiogiai virsta analizavimo sėkmės dažniu — o šis pakartojimų biudžetu ir p99 delsa. W8A16 yra ta pakopa, kur šio mokesčio nustojate mokėti.

03Struktūrizuota išvestis: json_schema ir response_format

Hy3 palaiko abi struktūrizuotos išvesties paviršiaus puses — tai verta pasakyti aiškiai, nes kataloge tai nėra visuotina:

Modelis	response_format	json_schema
Hy3 · W8A16	Taip	Taip
MiMo-V2.5-Pro · W8A16	Taip	Taip
inkling · W4A16-AUTOROUND-REAP	Taip	Ne
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Ne	Ne

Skirtumas tarp abiejų mechanizmų svarbesnis, nei paprastai manoma. response_format: {"type": "json_object"} prašo galiojančio JSON ir nieko daugiau — formą pasirenka modelis, todėl du kvietimai gali grąžinti {"name": ...} ir {"full_name": ...}, ir abu bus teisingi. json_schema formą pateikia iš anksto: įvardytus laukus, tipus, išvardijimus, privalomų sąrašus, įdėtis. Tai sutartis, pagal kurią galite rašyti kodą.

Minimalus kvietimas su OpenAI suderinamu dialektu:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktinės pastabos

• Kiekvieną lauką padarykite privalomą ir leiskite null. Neprivalomi laukai kviečia tylų praleidimą; privalomas laukas, galintis būti null, priverčia aiškiai pasakyti „nėra“, o tai yra informacija, pagal kurią galite veikti.
• Išvardijimai geriau už laisvas eilutes. Kur tik galite uždaryti reikšmių aibę — uždarykite; tai didžiausio sverto pakeitimas schemos realiam sėkmės dažniui.
• Neperženkite 16 384 žetonų išvesties lubų. Neribotas masyvas nutrūks objekto viduryje. Ribokite masyvų ilgius arba dalykite įvestį.
• Nepamirškite sisteminio pranešimo. Schema riboja formą; užklausa vis tiek valdo semantiką — kas laikoma „kritiniu“, kuri data laimi, kai jų dvi, ar normalizuoti vienetus.
• Vis tiek tikrinkite. Schemos palaikymas kelia sėkmės dažnį; jis nepakeičia tikrintuvo ir nepavykusių žinučių eilės.

04Kodėl „necenzūruotas“ yra patikimumo, o ne vien turinio savybė

Hy3 vartuose neturi jokio atsisakymo sluoksnio ir jokio išvesties filtravimo. Įprastas pateikimas kalba apie turinį: galite apdoroti saugumo tyrimus, kenkėjiškų programų analizę, eksploitų aprašymus, medicininius ir teisinius korpusus, suaugusiųjų medžiagą, žalos mažinimo dokumentaciją ar priešiškų naudotojų stenogramas be to, kad modelis už jus nuspręstų verčiau to nedaryti.

Yra ir antra, mechaniškesnė priežastis, kodėl tai svarbu. Atsisakymas yra schemos pažeidimas. Filtruotas modelis, atsisakantis atsakyti, negrąžina jūsų objekto su "unavailable" žyma — jis grąžina prozą. „Negaliu padėti su šia užklausa.“ Ta eilutė nėra incident objektas; ji neišlaiko jūsų patikros ir nukrenta į nepavykusių žinučių eilę šalia tikrų analizavimo klaidų, kur jums dabar tenka atskirti politikos atsisakymus nuo tikrų iškraipymų.

Dar blogiau — atsisakymai koreliuoja su turiniu, o ne pasiskirsto atsitiktinai. Jei 4 % jūsų korpuso yra saugumo incidentų ataskaitos ir modelis daugumos jų atsisako, praradote ne 4 % pralaidumo tolygiai — praradote vieną kategoriją, o ant tų duomenų pastatytas valdymo skydas tyliai per mažai rodo kaip tik tai, kam jis ir sukurtas. Kategorijos formos skylės kainuoja brangiau nei tolygus triukšmas, nes apie jas niekas nepraneša. Pašalinkite atsisakymo kelią, ir tai, kas lieka — iškraipymai, nukirtimai, dviprasmiškas tekstas — su tema nekoreliuoja, taigi yra išmatuojama.

05Kontekstas, išvesties lubos ir kaip juos planuoti

Visi vartų modeliai dalijasi tomis pačiomis ribomis:

Kontekstas yra bendras biudžetas: užklausa plius išvestis kartu turi tilpti į 262 144, todėl praktinės įvesties lubos viename kvietime yra apie 245 000 žetonų, labai apytiksliai 180 000 angliškų žodžių. Struktūrizuotam darbui griežtesnė ir žmones nustebinanti riba yra 16 384 žetonų išvesties lubos — schema, gaminanti po vieną objektą kiekvienam įrašui, į jas atsimuša gerokai anksčiau, nei prisipildo langas. Nuo to padeda dvi schemos:

• Plati įvestis, siaura išvestis. Sustumkite į kontekstą visą sutartį, dokumentą ar žurnalo langą ir paprašykite vieno kompaktiško objekto. Įvesties žetonai kainuoja ketvirtadalį išvesties žetonų kainos, todėl kainodara apdovanoja daug skaitymo ir mažai rašymo.
• Dalykite ties įrašų ribomis, o ne pagal baitų skaičių. Skaidykite ten, kur modelis mato siūlę. Įrašas, perkirstas sakinio viduryje, duoda užtikrintai neteisingą objektą, o ne akivaizdžią nesėkmę.

Nurodytas Hy3 ilgo konteksto paieškos stiprumas — 73,4 AA-LCR teste ir šuolis nuo 42,9 % iki 75,1 % MRCR ilgo dialogo prisiminime — yra kaip tik tas gebėjimas, kuriuo remiasi pirmoji schema, ir jis skiriasi nuo gebėjimo gerai rašyti.

06Grindų kaina ir realaus konvejerio aritmetika

Hy3 stovi ties $0.50 už milijoną įvesties žetonų ir $2.00 už milijoną išvesties žetonų — katalogo grindimis, bendromis su MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ir MiniMax-M3. Išnagrinėta per tipines apkrovas:

Darbo krūvis	Įvestis / kvietimui	Išvestis / kvietimui	Kaina / kvietimui	Už 1 mln. kvietimų
Laukų ištraukimas	1,200	300	$0.0012	$1,200
Dokumentų klasifikavimas	3,000	120	$0.0018	$1,800
Ilgo dokumento santrauka į schemą	40,000	900	$0.0218	$21,800
Viso lango analizė	240,000	2,000	$0.1240	$124,000

Sprendimus keičia ne antraštinis tarifas, o efektyvusis tarifas po pakartojimų. Jei du modeliai kainuoja vienodai, o vienas neišlaiko patikros 6 % kvietimų, kai kitas — 1,5 %, labiau nuklystantis modelis leidžia maždaug 4,5 % daugiau kvietimų — pakenčiama. Žala yra uodegoje: pakartoti kvietimai trunka dvigubai ilgiau, todėl matomai srauto daliai p99 delsa maždaug padvigubėja, o tai, kas nepavyksta dukart, virsta rankiniu darbu. Prie milijono kvietimų per dieną tai tūkstančiai įrašų, kuriuos kažkam teks perskaityti.

Todėl ir argumentas už 8 bitų pakopą už grindų kainą: čia už ištikimybę priemokos nemokate, tad pakartojimų aritmetika yra nemokami pinigai. Jei 3 bitų modelis būtų pigesnis, būtų tikri mainai, kuriuos reikėtų pasverti — Hy3 kainuoja tiek pat, kiek pigiausias dalykas kataloge.

07Trys API dialektai, vienas modelis

Hy3 pasiekiamas visais trimis vartų dialektais, kiekviename su srautiniu perdavimu. Tas pats modelis, tie patys svoriai, tos pačios ribos — rinkitės tą, kuris atitinka jūsų jau turimą SDK.

Galinis taškas	Dialektas	Kada naudoti
/v1/chat/completions	OpenAI	Turite OpenAI SDK, LangChain ar LlamaIndex. Nukreipkite bazinį URL čia ir pakeiskite modelio id.
/v1/messages	Anthropic	Naudojate Anthropic SDK ir norite turinio blokų be vertimo sluoksnio.
/v1/responses	Responses	Norite naujesnės užklausos formos su tipizuota išvestimi ir serverio pusės būsena.

Hy3 taip pat palaiko įrankių iškvietimą ir samprotavimą, įskaitant reasoning_effort. Ištraukimo darbe naudingas ėjimas paprastai yra samprotavimą sumažinti: gerai apibrėžtai schemai ant švaraus teksto mąstymo žetonai yra išvesties žetonai, už kuriuos mokate, ir delsa, kurios laukiate, o nauda menka. Intensyvumo biudžetą verčiau išleiskite tikrai dviprasmiškai įvesčiai.

Visa užklausų ir atsakymų nuoroda, parametrų sąrašai, srautinio perdavimo semantika ir interaktyvi bandymų aikštelė yra API dokumentacijoje.

08Kaip rinktis tarp trijų W8A16 modelių

Aukščiausios ištikimybės pakopoje yra trys modeliai, visi už grindų kainą. Pasirinkimas daugiausia priklauso nuo modalumo:

Modelis	Rega	json_schema	Kaina įv. / išv.	Rinkitės jį dėl
Hy3 · W8A16	Ne	Taip	$0.50 / $2.00	Tik tekstinių struktūrizuotų konvejerių, įrankių orkestravimo, ilgo konteksto paieškos
MiMo-V2.5-Pro · W8A16	Ne	Taip	$0.50 / $2.00	Tik tekstinio darbo, kai norite MiMo linijos Pro derinimo
MiMo-V2.5 · W8A16	Taip	Taip	$0.50 / $2.00	Visko su vaizdais — nuskaitytų dokumentų, ekrano nuotraukų, fotografijų

Jei bet kuri jūsų įvesties dalis yra vaizdas, sprendimas priimtas už jus: Hy3 yra tik tekstinis — nuskaitytus PDF, ekrano nuotraukas ir fotografijas siųskite MiMo-V2.5. Kai įvestis tikrai tekstinė, Hy3 profilis — agentinis įrankių naudojimas, ilgo konteksto prisiminimas ir žemas nurodytas haliucinacijų dažnis — tiesiausiai atitinka konvejerio darbą. Kadangi visi trys kainuoja vienodai, paleiskite savo schemą su dviem iš jų ant kelių šimtų realių įrašų ir palyginkite analizavimo sėkmės dažnius; tai nusprendžia geriau nei bet kuri lentelė, įskaitant šią.

09Kur Hy3 užsitarnauja savo vietą

• Didelės apimties laukų ištraukimas. Sutartys, dokumentai institucijoms, incidentų ataskaitos, stenogramos, klinikiniai įrašai, teismo bylos — visur, kur rezultatas yra po tipizuotą objektą kiekvienam dokumentui, o apimtis daro pakartojimus brangius.
• Klasifikavimas ir maršrutizavimas dideliu mastu. Uždarų išvardijimų išvestys, kur visa modelio vertė yra niekada neišgalvoti devynioliktos kategorijos.
• Saugumo ir grėsmių žvalgybos korpusai. Kenkėjiškų programų aprašymai, eksploitų atskleidimai ir apgaulingų laiškų pavyzdžiai — medžiaga, kuri filtruotus modelius įstumia į atsisakymą ir kur kategorijos formos skylė sugriauna visą tikslą.
• Įrankius kviečiantys agentai, kurie neturi strigti. 8 bitų argumentų ištikimybė reiškia, kad jūsų funkcijoms paduodamas JSON išsianalizuoja; sudarkytas įrankio iškvietimas yra sustojęs agentas, o ne šiek tiek prastesnis atsakymas.
• Ilgų dokumentų analizė į struktūrą. Visas dokumentas į vidų, vienas kompaktiškas objektas į išorę.
• Turinio moderavimas ir politikos tyrimai. Medžiagos, kurios filtruotas modelis atsisako skaityti, žymėjimas yra nuolatinė pasitikėjimo ir saugumo problema; nefiltruotas modelis su griežta schema ją išsprendžia tiesiogiai.

O kur ne: viskam su vaizdais (naudokite MiMo-V2.5) ir autonominei kelių failų programinės įrangos inžinerijai, kur pačios Tencent lentelės Hy3 deda už GLM-5.2 SWE-bench Verified teste ir gerokai už jo DeepSWE teste.

Etalonų reikšmes pateikė Tencent, įskaitant konkurentų skaičius; rašymo metu nepriklausomo patikrinimo dar nebuvo. Sąnaudų skaičiai apskaičiuoti pagal mūsų paskelbtus $0.50 / $2.00 tarifus. Nė vienas šio puslapio skaičius nėra Shannon atliktas etalonas ar įvertis.

10Dažnai užduodami klausimai

---

Šaltiniai: Tencent Hunyuan modelių kortelės · Hy3 saugykla · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat apžvalga apie Hy3 leidimą. Pagrindo etalonus pateikė Tencent, jie preliminarūs, kol bus nepriklausomai patikrinti. Shannon AI valdo Shannon Lab LLC, Naujoji Meksika, JAV.