Necenzēts Hy3 modeļa API

Vairums strīdu par to, „kuru modeli man izmantot”, ir par griestiem: kurš raksta labāko kodu, atrisina grūtāko matemātiku, uzvar garākajā aģenta gājienā. Strukturēti konveijeri tā nedarbojas. Uzdevumam, kas simts tūkstošos dokumentu dienā izvelk laukus, nevajag modeli, kas vienu reizi ir izcils — tam vajag tādu, kas ir pareizs vienā un tajā pašā formā katru reizi un nekad neatgriež rindkopu tur, kur pieder JSON objekts. Tieši šai īpašībai Hy3-W8A16 šeit ir.

01Kas ir Hy3 un no kurienes tas nāk

Hy3 ir atvērto svaru spriešanas un aģentiskais modelis no Tencent Hunyuan komandas, pilnībā izlaists 2026. gada 6. jūlijā zem pieļāvīgas licences, ar svariem, publicētiem Hugging Face. Tas turpina Tencent agrākā Hunyuan-Large Mixture-of-Experts darba cilti. Arhitektūras ziņā tas ir rets MoE: 295 miljardi kopējo parametru, no kuriem uz tokenu aktivējas aptuveni 21 miljards caur top-8 maršrutēšanu pār 192 ekspertiem, uz 80 slāņu transformera ar grupētu vaicājumu uzmanību, plus atsevišķs 3.8B daudztokenu prognozēšanas slānis spekulatīvajai dekodēšanai. Iedzimtais konteksts ir 256K — tieši tie 262,144 tokeni, ko atklājam, nevis kaut kā lielāka apcirpums vai kaut kā mazāka ar rope izstiepts paplašinājums.

Šī retuma attiecība ir svarīgākais skaitlis ikvienam, kas maksā par tokenu: Hy3 nes 295B modeļa zināšanas, katrā tiešajā caurlaidē veicot aptuveni 21B modeļa aritmētiku. Tas ir arī iemesls, kāpēc varam atļauties to pasniegt 8 bitos, nevis saspiest stiprāk — šāda retuma modeļa 8 bitu būve joprojām ietilpst un joprojām darbojas ātri mūsu paša GPU klasterī.

Kam Tencent to uzskata par labu

Tencent publicētās vērtējumu tabulas Hy3 stiprās puses liek tieši aģentiskajā meklēšanā, rīku orķestrēšanā un gara konteksta izgūšanā, nevis neapstrādātā kodēšanā. To ziņotie skaitļi:

Vājās joslas rādām ar nodomu. Tencent paša salīdzinājumā Hy3 atpaliek no GLM-5.2 kodēšanā — 78.0 pret 84.2 uz SWE-bench Verified, 28.0 pret 46.2 uz DeepSWE. Ja jūsu darba slodze ir autonoma daudzfailu programmatūras inženierija, vispirms izlasiet pārējo modeļu pētniecības rādītāju. Ja tā ir teksta lasīšana un struktūras izdošana, profils ir gandrīz ideāls.

Konveijeru darbam svarīgākais skaitlis ir uzticamības rādītājs: Tencent ziņo Hy3 halucināciju īpatsvaru 5.4%, salīdzinot ar 12.5% iepriekšējā paaudzē, un veselā saprāta kļūdu kritumu no 25.4% uz 12.7%. To deklarētais treniņa princips — atbildēt, kad ir pierādījumi, un tieši pateikt, kad to nav — ir tieši tā nostāja, kādu vēlaties ekstrakcijas modelī, kas citādi izdomātu ticamu vērtību laukam, ko avots nekad nav pieminējis.

Visi šīs sadaļas skaitļi ir Tencent ziņoti no to pašu testu gājieniem; neatkarīga trešās puses pārbaude rakstīšanas brīdī vēl nebija veikta. Uztveriet tos kā virziena norādi, nevis kā nokārtotu jautājumu.

02Ko nozīmē W8A16 un kāpēc tam ir nozīme strukturētā izvadē

Katrs vārtejas modelis nes kvantēšanas piedēkli. Tā nav dekorācija — tā pasaka, cik tālu pasniegtie svari atrodas no kontrolpunkta, ko laboratorija izlaida.

Līmenis	Ko tas dara	Precizitāte
3BIT-REAP	3 bitu svari plus REAP — ekspertu atzarošanas metode, kas pirms kvantēšanas izmet reti maršrutētus MoE ekspertus	Vissaspiestākais
W4A16-AUTOROUND-REAP	4 bitu svari / 16 bitu aktivācijas ar AutoRound — iemācītu noapaļošanu, kas atgūst precizitāti pār naivu noapaļošanu uz tuvāko — plus REAP atzarošana	Vidējais
W8A16	8 bitu svari / 16 bitu aktivācijas. Bez atzarošanas, bez iemācītas noapaļošanas labojuma — svari vienkārši nesti divkārt lielākā precizitātē	Augstākā

Kur kvantēšanas dreifs patiešām sāp

REAP un AutoRound atgūst lielāko daļu no tā, ko naiva saspiešana zaudē — bet „lielākā daļa” šajā teikumā ir smags vārds, un atlikums nekrīt vienmērīgi. Zemu bitu kvantēšana degradē astes: zemas varbūtības, augstas specifikas lēmumus. Prozā tas ir gandrīz neredzami; cits īpašības vārds joprojām ir labs teikums. Strukturētā izvadē tā ir visa spēle, jo shēma ir gara zemas varbūtības lēmumu ķēde, kuriem katram jābūt tieši pareizam:

• Tokenu līmeņa sintakse. Aizverošā figūriekava, komats, pēdiņas zīme. Katra ir viens tokens, un viens nepareizs tokens padara nederīgu visu atbildi.
• Uzskaitījuma disciplīna. Jūsu shēma saka, ka "status" ir viens no "open" | "closed" | "pending"; aizdreifējis modelis atgriež "Open" vai "pending review" — semantiski tuvu un nederīgi ne vienā, ne otrā ziņā.
• Tipu disciplīna. number lauks atnāk kā "1,240", boolean kā "yes". Abi parsējas kā virknes un neiztur shēmu.
• Garās astes burtiskās vērtības. Reti īpašvārdi, detaļu numuri, ķīmiskie nosaukumi, ne latīņu raksti, precīzi datumi — tieši tas zemas varbūtības apgabals, ko zemu bitu svari izpluina.

Nekas no tā nepadara 4 bitu vai 3 bitu modeļus sliktus; sarunu darbā precizitātes atšķirība bieži nav vērta cenas atšķirību. Bet, kad izvades patērētājs ir validētājs, nevis cilvēks, precizitāte astēs tieši pārvēršas parsēšanas īpatsvarā — un parsēšanas īpatsvars atkārtojumu budžetā un p99 latentumā. W8A16 ir līmenis, kurā jūs pārstājat maksāt šo nodevu.

03Strukturēta izvade: json_schema un response_format

Hy3 atbalsta abas strukturētās izvades virsmas puses — to ir vērts pateikt skaidri, jo katalogā tas nav universāli:

Modelis	response_format	json_schema
Hy3 · W8A16	Jā	Jā
MiMo-V2.5-Pro · W8A16	Jā	Jā
inkling · W4A16-AUTOROUND-REAP	Jā	Nē
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nē	Nē

Atšķirība starp abiem mehānismiem nozīmē vairāk, nekā pieņemts domāt. response_format: {"type": "json_object"} prasa derīgu JSON un neko vairāk — formu izvēlas modelis, tāpēc divi izsaukumi var atgriezt {"name": ...} un {"full_name": ...}, un abi ir pareizi. json_schema formu padod jau iepriekš: nosauktus laukus, tipus, uzskaitījumus, obligāto sarakstus, ligzdošanu. Tas ir līgums, pret ko var rakstīt kodu.

Minimāls izsaukums ar OpenAI saderīgajā dialektā:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktiskas piezīmes

• Padariet katru lauku obligātu un atļaujiet null. Neobligāti lauki aicina uz klusiem izlaidumiem; obligāts lauks, kas pieļauj null, piespiež skaidru „nav klāt”, un tā ir informācija, ar ko var rīkoties.
• Uzskaitījumi pārspēj brīvas virknes. Kur vien varat vērtību kopu noslēgt, noslēdziet to — tā ir izmaiņa ar lielāko sviras spēku uz shēmas reālo caurlaides īpatsvaru.
• Palieciet zem 16,384 tokenu izvades griestiem. Neierobežots masīvs apcirtīsies objekta vidū. Ierobežojiet masīvu garumus vai sadaliet ievadi.
• Paturiet sistēmas ziņojumu. Shēma ierobežo formu; uzvedne joprojām nosaka semantiku — kas skaitās „kritisks”, kurš datums uzvar, kad parādās divi, vai vienības jānormalizē.
• Validējiet tik un tā. Shēmas atbalsts paceļ caurlaides īpatsvaru; tas neaizstāj validētāju un mirušo vēstuļu rindu.

04Kāpēc „necenzēts” ir uzticamības, nevis tikai satura īpašība

Hy3 vārtejā ir bez atteikuma slāņa un bez izvades filtrēšanas. Parasti to ietvaro kā satura jautājumu: varat apstrādāt drošības pētniecību, ļaunatūras analīzi, ekspluatācijas aprakstus, medicīniskus un juridiskus korpusus, pieaugušo materiālu, kaitējuma mazināšanas dokumentāciju vai naidīgu lietotāju transkriptus, un modelis jūsu vietā nelemj, ka labāk nē.

Ir arī otrs, mehāniskāks iemesls, kāpēc tam ir nozīme. Atteikums ir shēmas pārkāpums. Filtrēts modelis, kas atsaka, neatgriež jūsu objektu ar "unavailable" karodziņu — tas atgriež prozu. „Es nevaru palīdzēt ar šo pieprasījumu.” Šī virkne nav incident objekts; tā neiztur jūsu validētāju un nonāk mirušo vēstuļu rindā blakus īstām parsēšanas kļūdām, kur jums tagad politikas atteikumi jāatšķir no reāliem kropļojumiem.

Vēl sliktāk, atteikumi korelē ar saturu, nevis izkliedējas nejauši. Ja 4% jūsu korpusa ir drošības incidentu ziņojumi un modelis vairumu no tiem atsaka, jūs neesat vienmērīgi zaudējuši 4% caurlaidspējas — jūs esat zaudējuši vienu kategoriju, un uz šiem datiem būvētais informācijas panelis klusi par zemu ziņo tieši par to, ko tas eksistē, lai parādītu. Kategorijas formas caurumi maksā vairāk nekā vienmērīgs troksnis, jo par tiem nekas nebrīdina. Noņemiet atteikuma ceļu, un tas, kas paliek — kropļojumi, apcirpumi, neviennozīmīgs teksts —, ar tēmu nekorelē un tāpēc ir izmērāms.

05Konteksts, izvades griesti un kā tos budžetēt

Visi vārtejas modeļi dala vienus un tos pašus ierobežojumus:

Konteksts ir kopīgs budžets: uzvednei plus izvadei kopā jāietilpst 262,144 tokenos, tāpēc praktiskie ievades griesti vienā izsaukumā ir aptuveni 245,000 tokenu, ļoti aptuveni 180,000 angļu vārdu. Strukturētam darbam grūtākais ierobežojums ir 16,384 tokenu izvades robeža, un tā ir tā, kas cilvēkus pārsteidz — shēma, kas izdod vienu objektu uz ierakstu, tajā ieskrien krietni pirms loga piepildīšanās. Pret to strādā divas ainas:

• Plata ievade, šaura izvade. Iestumiet kontekstā veselu līgumu, iesniegumu vai žurnāla logu un palūdziet vienu kompaktu objektu. Ievades tokeni maksā ceturtdaļu no izvades tokeniem, tāpēc cenu veidošana atalgo daudz lasīšanas un maz rakstīšanas.
• Dalieties pa ierakstu robežām, nevis pa baitu skaitu. Dalieties tur, kur modelis vīli redz. Ieraksts, pārgriezts teikuma vidū, rada pārliecinoši nepareizu objektu, nevis acīmredzamu kļūmi.

Hy3 ziņotā gara konteksta izgūšanas stiprā puse — 73.4 uz AA-LCR un lēciens no 42.9% uz 75.1% MRCR gara dialoga atsaukšanā — ir tieši tā spēja, uz kuru pirmā aina balstās, un tā ir cita prasme nekā labi rakstīt.

06Grīdas cena un īsta konveijera aritmētika

Hy3 atrodas pie $0.50 par miljonu ievades tokenu un $2.00 par miljonu izvades tokenu — kataloga grīdas, kopīgas ar MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 un MiniMax-M3. Izrēķināts pār raksturīgām slodzēm:

Darba slodze	Ievade / izsaukumā	Izvade / izsaukumā	Izmaksas / izsaukumā	Uz 1M izsaukumu
Lauku ekstrakcija	1,200	300	$0.0012	$1,200
Dokumentu klasifikācija	3,000	120	$0.0018	$1,800
Gara dokumenta kopsavilkums shēmā	40,000	900	$0.0218	$21,800
Pilna loga analīze	240,000	2,000	$0.1240	$124,000

Skaitlis, kas maina lēmumus, nav virsraksta likme, bet efektīvā likme pēc atkārtojumiem. Ja divi modeļi maksā vienādi un viens neiztur validāciju 6% izsaukumu, kur otrs neiztur 1.5%, augstā dreifa modelis palaiž aptuveni 4.5% vairāk izsaukumu — pārciešami. Kaitējums ir astē: atkārtotie izsaukumi aizņem divreiz ilgāk, tāpēc p99 latentums redzamai datplūsmas daļai aptuveni divkāršojas, un viss, kas neizdodas divreiz, kļūst par rokdarbu. Pie miljona izsaukumu dienā tie ir tūkstoši ierakstu, kas kādam jāizlasa.

No tā izriet arguments par labu 8 bitu līmenim par grīdas cenu: šeit jūs par precizitāti nemaksājat piemaksu, tāpēc atkārtojumu aritmētika ir nauda par velti. Ja 3 bitu modelis būtu lētāks, būtu īsta apmaiņa, ko svērt — Hy3 maksā tikpat, cik lētākā lieta katalogā.

07Trīs API dialekti, viens modelis

Hy3 ir sasniedzams visos trīs vārtejas dialektos ar straumēšanu katrā. Tas pats modelis, tie paši svari, tie paši ierobežojumi — izvēlieties to, kas atbilst jums jau esošajam SDK.

Galapunkts	Dialekts	Izmantojiet, kad
/v1/chat/completions	OpenAI	Jums ir OpenAI SDK, LangChain vai LlamaIndex. Pavērsiet bāzes URL šurp un nomainiet modeļa id.
/v1/messages	Anthropic	Jūs esat uz Anthropic SDK un gribat satura blokus bez tulkošanas slāņa.
/v1/responses	Responses	Jūs gribat jaunāko pieprasījuma formu ar tipizētu izvadi un servera puses stāvokli.

Hy3 atbalsta arī rīku izsaukšanu un spriešanu, ieskaitot reasoning_effort. Ekstrakcijas darbā noderīgais gājiens parasti ir spriešanu nogriezt: uz labi definētas shēmas pār tīru tekstu domāšanas tokeni ir izvades tokeni, par kuriem maksājat, un latentums, ko nogaidāt, par nenozīmīgu ieguvumu. Iztērējiet intensitātes budžetu patiešām neviennozīmīgai ievadei.

Pilna pieprasījumu un atbilžu atsauce, parametru saraksti, straumēšanas semantika un interaktīva izmēģinājumu vide ir API dokumentācijā.

08Kā izvēlēties starp trim W8A16 modeļiem

Augstākās precizitātes līmenī atrodas trīs modeļi, visi par grīdas cenu. Izvēle galvenokārt ir par modalitāti:

Modelis	Redze	json_schema	Cena ievadē / izvadē	Izvēlieties to
Hy3 · W8A16	Nē	Jā	$0.50 / $2.00	Tikai teksta strukturētiem konveijeriem, rīku orķestrēšanai, gara konteksta izgūšanai
MiMo-V2.5-Pro · W8A16	Nē	Jā	$0.50 / $2.00	Tikai teksta darbam, kur gribat MiMo līnijas Pro noskaņojumu
MiMo-V2.5 · W8A16	Jā	Jā	$0.50 / $2.00	Visam ar attēliem — skenētiem dokumentiem, ekrānuzņēmumiem, fotogrāfijām

Ja kāda jūsu ievades daļa ir attēls, lēmums jau ir pieņemts jūsu vietā: Hy3 ir tikai teksts — skenētus PDF, ekrānuzņēmumus un fotogrāfijas sūtiet uz MiMo-V2.5. Kur ievade patiešām ir teksts, Hy3 profils ar aģentisku rīku lietošanu, gara konteksta atsaukšanu un zemu ziņoto halucināciju līmeni visprecīzāk sakrīt ar konveijeru darbu. Tā kā visi trīs maksā vienādi, palaidiet savu shēmu pret diviem no tiem uz dažiem simtiem īstu ierakstu un salīdziniet parsēšanas īpatsvarus; tas šo jautājumu nokārto labāk nekā jebkura tabula, arī šī.

09Kur Hy3 nopelna savu vietu

• Lielapjoma lauku ekstrakcija. Līgumi, iesniegumi, incidentu ziņojumi, transkripti, klīniskās piezīmes, tiesu dokumenti — visur, kur nododamais ir tipizēts objekts uz dokumentu un apjoms padara atkārtojumus dārgus.
• Klasifikācija un maršrutēšana mērogā. Slēgtu uzskaitījumu izvades, kur visa modeļa vērtība ir nekad neizdomāt deviņpadsmito kategoriju.
• Drošības un draudu izlūkošanas korpusi. Ļaunatūras apraksti, ekspluatāciju atklājumi un pikšķerēšanas paraugi — materiāls, kas filtrētus modeļus iegrūž atteikumā un kur kategorijas formas caurums izjauc visu jēgu.
• Rīku izsaukšanas aģenti, kas nedrīkst apstāties. 8 bitu argumentu precizitāte nozīmē, ka JSON, ko padod jūsu funkcijām, parsējas; sakropļots rīka izsaukums ir apstājies aģents, nevis mazliet sliktāka atbilde.
• Garu dokumentu analīze struktūrā. Vesels iesniegums iekšā, viens kompakts objekts ārā.
• Satura moderācija un politikas pētniecība. Materiāla birkošana, ko filtrēts modelis atsakās lasīt, ir pastāvīga uzticības un drošības problēma; nefiltrēts modelis ar stingru shēmu to atrisina tieši.

Un kur ne: viss ar attēliem (izmantojiet MiMo-V2.5) un autonoma daudzfailu programmatūras inženierija, kur Tencent pašas tabulas Hy3 liek aiz GLM-5.2 uz SWE-bench Verified un krietni aiz uz DeepSWE.

Etalonu skaitļi ir Tencent ziņoti, ieskaitot konkurentu skaitļus; neatkarīga pārbaude rakstīšanas brīdī vēl nebija veikta. Izmaksu skaitļi ir aprēķināti no mūsu publicētajām $0.50 / $2.00 likmēm. Neviens skaitlis šajā lapā nav Shannon palaists etalons vai aplēse.

10Biežāk uzdotie jautājumi

---

Avoti: Tencent Hunyuan modeļu kartes · Hy3 repozitorijs · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat atspoguļojums par Hy3 laidienu. Pamatmodeļa etaloni ir Tencent ziņoti un provizoriski, līdz tiek neatkarīgi pārbaudīti. Shannon AI uztur Shannon Lab LLC, Ņūmeksika, ASV.