Necenzuriran model Hy3 API

Večina razprav o tem, »kateri model naj uporabim«, govori o stropu: kateri najbolje piše kodo, reši najtežjo matematiko, zmaga v najdaljšem agentnem teku. Strukturirani cevovodi ne delujejo tako. Opravilo, ki iz sto tisoč dokumentov na dan lušči polja, ne potrebuje modela, ki je enkrat sijajen — potrebuje takega, ki je vsakič pravilen v isti obliki in ki nikoli ne vrne odstavka tam, kjer sodi objekt JSON. Prav zaradi te lastnosti je Hy3-W8A16 tu.

01Kaj je Hy3 in od kod prihaja

Hy3 je model za sklepanje in agentno delo z odprtimi utežmi iz Tencentove ekipe Hunyuan, v celoti izdan 6. julija 2026 pod dopustno licenco, z utežmi, objavljenimi na Hugging Face. Nadaljuje rodovnico Tencentovega prejšnjega dela Hunyuan-Large z Mixture-of-Experts. Arhitekturno je redek MoE: 295 milijard skupnih parametrov, od katerih se jih na žeton aktivira približno 21 milijard prek usmerjanja top-8 čez 192 strokovnjakov, na 80-plastnem transformerju s skupinsko poizvedbeno pozornostjo, ob tem pa ločena plast napovedovanja več žetonov s 3,8B parametri za spekulativno dekodiranje. Izvorni kontekst je 256K — natanko 262,144 žetonov, ki jih izpostavljamo, in ne skrajšava nečesa večjega ali z RoPE raztegnjena razširitev nečesa manjšega.

To razmerje redkosti je pomembna številka za vsakogar, ki plačuje po žetonu: Hy3 nosi znanje modela s 295B parametri, na en prehod naprej pa opravi približno toliko aritmetike kot model z 21B. Prav zato si tudi lahko privoščimo, da ga strežemo pri 8 bitih, namesto da bi ga stisnili močneje — 8-bitna izvedba tako redkega modela še vedno gre noter in še vedno teče hitro na našem lastnem grozdu GPU.

V čem je po Tencentovih navedbah dober

Tencentove objavljene razpredelnice vrednotenja postavljajo moči Hy3 naravnost v agentno iskanje, orkestracijo orodij in priklic iz dolgega konteksta, ne pa v surovo programiranje. Njihove sporočene številke:

Šibke stolpce kažemo namenoma. Hy3 v Tencentovi lastni primerjavi pri programiranju zaostaja za GLM-5.2 — 78,0 proti 84,2 na SWE-bench Verified in 28,0 proti 46,2 na DeepSWE. Če je vaša obremenitev samostojno programsko inženirstvo čez več datotek, najprej preberite preostanek raziskovalnega kazala modelov. Če pa gre za branje besedila in oddajanje strukture, je profil skoraj idealen.

Številka, ki za cevovodno delo šteje najbolj, je zanesljivostna: Tencent za Hy3 poroča 5,4-odstotni delež izmišljanja, kar je padec z 12,5 % pri prejšnjem rodu, ob tem pa padec zdravorazumskih napak s 25,4 % na 12,7 %. Njihovo navedeno učno načelo — odgovori, kadar so dokazi, in odkrito povej, kadar jih ni — je natanko naravnanost, ki jo pri modelu za luščenje želite, saj bi ta sicer izmislil verjetno vrednost za polje, ki ga vir sploh ne omenja.

Vse številke v tem razdelku poroča Tencent iz svojih preizkusov; neodvisna potrditev tretje osebe ob pisanju še ni bila na voljo. Obravnavajte jih kot smerne, ne kot dokončne.

02Kaj pomeni W8A16 in zakaj je pomembno za strukturiran izhod

Vsak model na prehodu nosi kvantizacijsko pripono. Ni okras — pove vam, kako daleč so strežene uteži od kontrolne točke, ki jo je izdal laboratorij.

Stopnja	Kaj počne	Zvestoba
3BIT-REAP	3-bitne uteži in REAP, metoda obrezovanja strokovnjakov, ki pred kvantizacijo izpusti redko usmerjane strokovnjake MoE	Najbolj stisnjeno
W4A16-AUTOROUND-REAP	4-bitne uteži / 16-bitne aktivacije prek AutoRound — naučenega zaokroževanja, ki povrne natančnost proti naivnemu zaokroževanju na najbližje — in obrezovanja REAP	Vmes
W8A16	8-bitne uteži / 16-bitne aktivacije. Brez obrezovanja, brez popravkov z naučenim zaokroževanjem — uteži so preprosto nesene pri dvakratni natančnosti	Najvišja

Kje zanašanje zaradi kvantizacije zares zaboli

REAP in AutoRound povrneta večino tega, kar naivno stiskanje izgubi — a beseda »večino« v tem stavku opravlja delo, ostanek pa ne pristane enakomerno. Nizkobitna kvantizacija poslabša repe: odločitve z nizko verjetnostjo in visoko specifičnostjo. V prozi je to tako rekoč nevidno; drug pridevnik je še vedno spodoben stavek. Pri strukturiranem izhodu je to celotna igra, ker je shema dolga veriga odločitev z nizko verjetnostjo, od katerih mora biti vsaka natanko pravilna:

• Skladnja na ravni žetona. Zaklepaj, vejica, narekovaj. Vsak je en žeton in en napačen žeton razveljavi celoten odgovor.
• Disciplina naštevnih tipov. Vaša shema pravi, da je "status" eden od "open" | "closed" | "pending"; zanesen model vrne "Open" ali "pending review" — pomensko blizu in veljavno kot nobeno od obojega.
• Disciplina tipov. Polje number se vrne kot "1,240", boolean kot "yes". Oboje se razčleni kot niz in pade na shemi.
• Redki dobesedni nizi. Redka lastna imena, številke delov, kemijska imena, nelatinske pisave, natančni datumi — natanko območje nizke verjetnosti, ki ga nizkobitne uteži zabrišejo.

Nič od tega 4-bitnih ali 3-bitnih modelov ne dela slabih; pri pogovornem delu razlika v zvestobi pogosto ni vredna razlike v ceni. Ko pa je porabnik izhoda preverjevalnik in ne človek, se natančnost v repih neposredno pretvori v delež uspešnih razčlenitev — ta pa v proračun ponovnih poskusov in latenco p99. W8A16 je stopnja, na kateri ta davek nehate plačevati.

03Strukturiran izhod: json_schema in response_format

Hy3 podpira obe polovici površine strukturiranega izhoda — kar velja izrecno povedati, ker to po katalogu ni splošno:

Model	response_format	json_schema
Hy3 · W8A16	Da	Da
MiMo-V2.5-Pro · W8A16	Da	Da
inkling · W4A16-AUTOROUND-REAP	Da	Ne
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Ne	Ne

Razlika med mehanizmoma šteje bolj, kot ljudje domnevajo. response_format: {"type": "json_object"} zahteva veljaven JSON in nič več — obliko izbere model, zato lahko dva klica vrneta {"name": ...} in {"full_name": ...} in oba sta pravilna. json_schema obliko poda vnaprej: poimenovana polja, tipe, naštevne tipe, sezname obveznih polj, gnezdenje. To je pogodba, proti kateri lahko pišete kodo.

Najmanjši klic v narečju, združljivem z OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktične opombe

• Vsako polje naredite obvezno in dovolite null. Neobvezna polja vabijo k tihim izpustom; obvezno polje, ki dopušča null, vsili izrecen »ni prisotno«, kar je podatek, po katerem lahko ukrepate.
• Naštevni tipi so boljši od prostih nizov. Kjer koli lahko zaprete nabor vrednosti, ga zaprite — to je sprememba z največjim vzvodom na resnični delež uspešnih odgovorov po shemi.
• Ostanite pod zgornjo mejo izhoda 16,384 žetonov. Neomejeno polje se bo skrajšalo sredi objekta. Omejite dolžine polj ali razdelite vhod.
• Ohranite sistemsko sporočilo. Shema omeji obliko; poziv še vedno ureja pomen — kaj šteje za »kritično«, kateri datum zmaga, kadar se pojavita dva, ali naj se enote normalizirajo.
• Vseeno preverjajte. Podpora shemi dvigne delež uspešnih odgovorov; ne nadomesti pa preverjevalnika in vrste za neizročljiva sporočila.

04Zakaj je »necenzuriran« lastnost zanesljivosti, ne le vsebine

Hy3 na prehodu nima sloja zavračanja in nima filtriranja izhoda. Običajno se to postavlja kot vsebinsko vprašanje: obdelujete lahko varnostne raziskave, analizo zlonamerne kode, zapise o izrabah, zdravstvene in pravne korpuse, gradivo za odrasle, dokumentacijo o zmanjševanju škode ali prepise sovražnih uporabnikov, ne da bi model namesto vas odločil, da mu ni po volji.

Obstaja pa še drug, bolj mehanski razlog, zakaj to šteje. Zavrnitev je kršitev sheme. Filtriran model, ki zavrne, ne vrne vašega objekta z zastavico "unavailable" — vrne prozo. »Ne morem pomagati pri tej zahtevi.« Ta niz ni objekt incident; pade na vašem preverjevalniku in pristane v vrsti za neizročljiva sporočila ob resničnih napakah razčlenjevanja, kjer morate zdaj politične zavrnitve ločevati od pravih spačenosti.

Še huje, zavrnitve so povezane z vsebino in se ne porazdelijo naključno. Če je 4 % vašega korpusa poročil o varnostnih incidentih in jih model večino zavrne, niste izgubili 4 % prepustnosti enakomerno — izgubili ste eno kategorijo, nadzorna plošča, zgrajena na teh podatkih, pa tiho premalo poroča natanko o tistem, zaradi česar obstaja. Luknje v obliki kategorije stanejo več kot enakomeren šum, ker nanje nič ne opozori. Odstranite pot zavračanja in kar ostane — spačenosti, skrajšanja, dvoumno besedilo — ni povezano s temo in je zato merljivo.

05Kontekst, zgornja meja izhoda in kako ju načrtovati

Vsi modeli na prehodu si delijo iste meje:

Kontekst je deljen proračun: poziv in izhod morata skupaj iti v 262,144, zato je praktična zgornja meja vhoda v enem klicu približno 245.000 žetonov, kar je zelo grobo 180.000 angleških besed. Pri strukturiranem delu je trša meja izhod pri 16,384 žetonih in prav ta ljudi preseneti — shema, ki na zapis odda en objekt, jo doseže dolgo prej, kot se napolni okno. Proti temu delujeta dva vzorca:

• Širok vhod, ozek izhod. V kontekst porinite celotno pogodbo, vlogo ali okno dnevnika in zahtevajte en strnjen objekt. Vhodni žetoni stanejo četrtino izhodnih, zato cena nagrajuje veliko branja in malo pisanja.
• Razsekajte po mejah zapisov, ne po številu bajtov. Delite tam, kjer model vidi šiv. Zapis, prerezan sredi stavka, ustvari samozavestno napačen objekt namesto očitne odpovedi.

Sporočena moč Hy3 pri priklicu iz dolgega konteksta — 73,4 na AA-LCR in skok z 42,9 % na 75,1 % pri priklicu iz dolgih pogovorov MRCR — je natanko zmožnost, na katero se opira prvi vzorec, in je drugačna spretnost od dobrega pisanja.

06Cena na dnu in aritmetika resničnega cevovoda

Hy3 sedi pri $0.50 na milijon vhodnih žetonov in $2.00 na milijon izhodnih žetonov — na dnu kataloga, kar si deli z MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 in MiniMax-M3. Izračunano čez značilne obremenitve:

Delovna obremenitev	Vhod / klic	Izhod / klic	Strošek / klic	Na 1M klicev
Luščenje polj	1,200	300	$0.0012	$1,200
Razvrščanje dokumentov	3,000	120	$0.0018	$1,800
Povzemanje dolgega dokumenta v shemo	40,000	900	$0.0218	$21,800
Analiza polnega okna	240,000	2,000	$0.1240	$124,000

Številka, ki spremeni odločitve, ni vodilna cena, ampak dejanska cena po ponovnih poskusih. Če dva modela stojita enako, eden pa pade na preverbi pri 6 % klicev, kjer drugi pade pri 1,5 %, model z več zanašanja opravi približno 4,5 % več klicev — kar se da preživeti. Škoda je v repu: ponovljeni klici trajajo dvakrat dlje, zato se latenca p99 za vidno rezino prometa približno podvoji, kar pa dvakrat pade, postane ročno delo. Pri milijonu klicev na dan je to tisoče zapisov, ki jih mora nekdo prebrati.

Od tod argument za 8-bitno stopnjo po najnižji ceni: za zvestobo tu ne plačujete doplačila, zato je aritmetika ponovnih poskusov zastonj denar. Če bi bil 3-bitni model cenejši, bi bilo treba stehtati resnično menjavo — Hy3 stane enako kot najcenejša stvar v katalogu.

07Tri narečja API, en model

Hy3 je dosegljiv v vseh treh narečjih prehoda, s pretakanjem v vsakem. Isti model, iste uteži, iste meje — izberite tisto, ki ustreza SDK, ki ga že imate.

Končna točka	Narečje	Uporabite, kadar
/v1/chat/completions	OpenAI	Imate SDK OpenAI, LangChain ali LlamaIndex. Osnovni URL usmerite sem in zamenjajte ID modela.
/v1/messages	Anthropic	Ste na SDK Anthropic in hočete vsebinske bloke brez prevajalnega sloja.
/v1/responses	Responses	Hočete novejšo obliko zahteve s tipiziranim izhodom in strežniškim stanjem.

Hy3 podpira tudi klicanje orodij in sklepanje, vključno s reasoning_effort. Pri delu z luščenjem je koristna poteza običajno znižati sklepanje: pri dobro določeni shemi nad čistim besedilom so razmišljajoči žetoni izhodni žetoni, ki jih plačate, in latenca, ki jo prečakate, za obroben dobiček. Proračun napora raje porabite za resnično dvoumen vhod.

Popolna referenca zahtev in odgovorov, seznami parametrov, semantika pretakanja in interaktivno igrišče živijo v dokumentaciji API.

08Izbira med tremi modeli W8A16

Trije modeli sedijo na najzvestejši stopnji, vsi po najnižji ceni. Odločitev je večinoma stvar modalnosti:

Model	Razumevanje slik	json_schema	Cena vhod / izhod	Izberite ga za
Hy3 · W8A16	Ne	Da	$0.50 / $2.00	Samo besedilne strukturirane cevovode, orkestracijo orodij, priklic iz dolgega konteksta
MiMo-V2.5-Pro · W8A16	Ne	Da	$0.50 / $2.00	Samo besedilno delo, kjer hočete uglasitev Pro iz vrste MiMo
MiMo-V2.5 · W8A16	Da	Da	$0.50 / $2.00	Karkoli s slikami — skenirane dokumente, zaslonske posnetke, fotografije

Če je kateri koli del vašega vhoda slika, je odločitev sprejeta namesto vas: Hy3 je samo besedilen — skenirane PDF, zaslonske posnetke in fotografije pošljite na MiMo-V2.5. Kjer je vhod resnično besedilo, se profil Hy3 z agentno rabo orodij, priklicem iz dolgega konteksta in nizkim sporočenim izmišljanjem najbolj neposredno preslika na cevovodno delo. Ker vsi trije stanejo enako, svojo shemo poženite proti dvema od njih na nekaj sto resničnih zapisih in primerjajte deleže uspešnih razčlenitev; to reši vprašanje bolje kot katera koli razpredelnica, tudi ta.

09Kje si Hy3 prisluži svoje mesto

• Luščenje polj v velikih količinah. Pogodbe, vloge, poročila o incidentih, prepisi, klinični zapisi, sodni spisi — povsod, kjer je izdelek tipiziran objekt na dokument in kjer količina naredi ponovne poskuse drage.
• Razvrščanje in usmerjanje v velikem obsegu. Izhodi z zaprtimi naštevnimi tipi, kjer je vsa vrednost modela v tem, da nikoli ne izmisli devetnajste kategorije.
• Varnostni in obveščevalni korpusi o grožnjah. Zapisi o zlonamerni kodi, razkritja izrab in vzorci ribarjenja — gradivo, ki filtrirane modele spotakne v zavračanje in kjer luknja v obliki kategorije izniči namen.
• Agenti s klicanjem orodij, ki se ne smejo ustaviti. 8-bitna zvestoba argumentov pomeni, da se JSON, izročen vašim funkcijam, razčleni; spačen klic orodja je ustavljen agent, ne le nekoliko slabši odgovor.
• Analiza dolgih dokumentov v strukturo. Cela vloga noter, en strnjen objekt ven.
• Moderiranje vsebine in raziskave politik. Označevanje gradiva, ki ga filtriran model noče prebrati, je stalna težava zaupanja in varnosti; nefiltriran model s strogo shemo jo reši neposredno.

In kje ne: karkoli s slikami (uporabite MiMo-V2.5) in samostojno programsko inženirstvo čez več datotek, kjer Tencentove lastne razpredelnice Hy3 postavljajo za GLM-5.2 na SWE-bench Verified in precej zadaj na DeepSWE.

Številke meritev poroča Tencent, vključno s številkami tekmecev; neodvisna potrditev ob pisanju še ni bila na voljo. Stroški so izračunani iz naših objavljenih cen $0.50 / $2.00. Nobena številka na tej strani ni meritev, ki bi jo opravil Shannon, ali ocena.

10Pogosta vprašanja

---

Viri: kartice modelov Tencent Hunyuan · repozitorij Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · poročanje VentureBeat o izidu Hy3. Meritve temelja poroča Tencent in so začasne do neodvisne potrditve. Shannon AI upravlja Shannon Lab LLC, Nova Mehika, ZDA.