Ongesensureerde Hy3-model-API

Die meeste "watter model moet ek gebruik"-argumente gaan oor die plafon: watter een skryf die beste kode, los die moeilikste wiskunde op, wen die langste agentlopie. Gestruktureerde pyplyne werk nie so nie. 'n Taak wat velde uit honderdduisend dokumente per dag onttrek, het nie 'n model nodig wat een keer briljant is nie — dit het een nodig wat elke keer in dieselfde vorm korrek is, en wat nooit 'n paragraaf teruggee waar 'n JSON-objek hoort nie. Dit is die eienskap waarvoor Hy3-W8A16 hier is.

01Wat Hy3 is, en waar dit vandaan kom

Hy3 is 'n redenerings- en agentiese model met oop gewigte van Tencent se Hunyuan-span, ten volle vrygestel op 6 Julie 2026 onder 'n toegeeflike lisensie, met gewigte op Hugging Face gepubliseer. Dit sit die afstamming van Tencent se vroeëre Hunyuan-Large Mixture-of-Experts-werk voort. Argitektonies is dit 'n yl MoE: 295 miljard totale parameters, waarvan rofweg 21 miljard per teken aktiveer via top-8-routering oor 192 eksperts, op 'n transformer van 80 lae met gegroepeerde-navraag-aandag, plus 'n aparte 3.8B multi-teken-voorspellingslaag vir spekulatiewe dekodering. Inheemse konteks is 256K — presies die 262,144 tekens wat ons blootstel, nie 'n afknipping van iets groters of 'n rope-gerekte uitbreiding van iets kleiners nie.

Daardie ylheidsverhouding is die belangrike getal vir enigiemand wat per teken betaal: Hy3 dra die kennis van 'n 295B-model terwyl dit rofweg die rekenkunde van 'n 21B-een per voorwaartse deurgang doen. Dit is ook waarom ons dit teen 8 bisse kan bekostig om te bedien eerder as om dit harder te komprimeer — 'n 8-bis-bou van 'n model so yl pas steeds en loop steeds vinnig op ons eie GPU-tros.

Waarin Tencent berig dit goed is

Tencent se gepubliseerde evalueringstabelle plaas Hy3 se sterkpunte reguit in agentiese soek, gereedskaporkestrasie en langkonteks-herwinning eerder as in rou kodering. Hulle berigte syfers:

Ons wys die swak stawe met opset. Hy3 bly agter GLM-5.2 op kodering in Tencent se eie vergelyking — 78.0 teen 84.2 op SWE-bench Verified, 28.0 teen 46.2 op DeepSWE. As jou werklading outonome multi-lêer-sagteware-ingenieurswese is, lees eers die res van die modelnavorsingsindeks. As dit teks lees en struktuur uitstuur is, is die profiel naby ideaal.

Die syfer wat die meeste vir pyplynwerk saak maak, is 'n betroubaarheidsyfer: Tencent berig Hy3 se hallusinasiekoers op 5.4%, af van 12.5% in die vorige geslag, met gesonde-verstand-foute wat van 25.4% na 12.7% val. Hulle verklaarde afrigtingsbeginsel — antwoord wanneer daar bewyse is, sê reguit wanneer daar nie is nie — is presies die gesindheid wat jy in 'n onttrekkingsmodel wil hê wat andersins 'n aanneemlike waarde sou uitdink vir 'n veld wat die bron nooit noem nie.

Alle syfers in hierdie afdeling is deur Tencent berig uit hulle eie toetslopies; onafhanklike derdeparty-verifikasie was ten tyde van skryf nog hangende. Behandel hulle as rigtinggewend, nie as afgehandel nie.

02Wat W8A16 beteken, en waarom dit vir gestruktureerde uitvoer saak maak

Elke model op die poort dra 'n kwantiseringsagtervoegsel. Dit is nie versiering nie — dit sê vir jou hoe ver die bediende gewigte van die kontrolepunt af sit wat die laboratorium vrygestel het.

Vlak	Wat dit doen	Getrouheid
3BIT-REAP	3-bis-gewigte plus REAP, 'n ekspertsnoeimetode wat selde gerouteerde MoE-eksperts voor kwantisering laat val	Mees gekomprimeer
W4A16-AUTOROUND-REAP	4-bis-gewigte / 16-bis-aktiverings via AutoRound — aangeleerde afronding wat akkuraatheid bo naïewe afronding-na-naaste herwin — plus REAP-snoei	Middel
W8A16	8-bis-gewigte / 16-bis-aktiverings. Geen snoei, geen aangeleerde-afronding-herstel — die gewigte word eenvoudig teen dubbel die presisie gedra	Hoogste

Waar kwantiseringsdrywing werklik seermaak

REAP en AutoRound herwin die meeste van wat naïewe kompressie verloor — maar "die meeste" doen werk in daardie sin, en die res land nie gelykop nie. Lae-bis-kwantisering verswak die sterte: die laewaarskynlikheid-, hoëspesifisiteitsbesluite. In prosa is dit byna onsigbaar; 'n ander byvoeglike naamwoord is steeds 'n goeie sin. In gestruktureerde uitvoer is dit die hele spel, want 'n skema is 'n lang ketting laewaarskynlikheidsbesluite wat elkeen presies reg moet wees:

• Sintaksis op tekenvlak. 'n Sluithakie, 'n komma, 'n aanhalingsteken. Elkeen is een teken, en een verkeerde teken maak die hele antwoord ongeldig.
• Enum-dissipline. Jou skema sê "status" is een van "open" | "closed" | "pending"; 'n gedrywde model gee "Open" of "pending review" terug — semanties naby, en as albei ongeldig.
• Tipe-dissipline. 'n number-veld kom terug as "1,240", 'n boolean as "yes". Albei ontleed as stringe en druip die skema.
• Langstert-letterlikes. Seldsame eiename, onderdeelnommers, chemiese name, nie-Latynse skrifte, presiese datums — presies die laewaarskynlikheidsgebied wat lae-bis-gewigte vervaag.

Niks hiervan maak 4-bis- of 3-bis-modelle sleg nie; vir gespreksmatige werk is die getrouheidsverskil dikwels nie die prysverskil werd nie. Maar wanneer die verbruiker van die uitvoer 'n valideerder eerder as 'n mens is, skakel presisie by die sterte direk om in ontleedkoers — en ontleedkoers in herprobeerbegroting en p99-vertraging. W8A16 is die vlak waar jy ophou om daardie belasting te betaal.

03Gestruktureerde uitvoer: json_schema en response_format

Hy3 ondersteun beide helftes van die gestruktureerde-uitvoer-oppervlak — die moeite werd om uitdruklik te sê, want dit is nie universeel oor die katalogus nie:

Model	response_format	json_schema
Hy3 · W8A16	Ja	Ja
MiMo-V2.5-Pro · W8A16	Ja	Ja
inkling · W4A16-AUTOROUND-REAP	Ja	Nee
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nee	Nee

Die verskil tussen die twee meganismes maak meer saak as wat mense aanneem. response_format: {"type": "json_object"} vra vir geldige JSON en niks meer nie — die model kies die vorm, so twee oproepe kan {"name": ...} en {"full_name": ...} teruggee en albei is korrek. json_schema verskaf die vorm vooraf: benoemde velde, tipes, enums, vereiste lyste, nesting. Dit is 'n kontrak waarteen jy kode kan skryf.

'n Minimale oproep op die OpenAI-versoenbare dialek:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktiese notas

• Maak elke veld vereis en laat null toe. Opsionele velde nooi stil weglatings uit; 'n vereiste nulbare veld dwing 'n uitdruklike "nie teenwoordig nie" af, wat inligting is waarop jy kan optree.
• Enums klop vry stringe. Waar jy die waardestel kan sluit, sluit dit — die verandering met die grootste hefboom op 'n skema se werklike slaagkoers.
• Bly onder die uitvoerplafon van 16,384 tekens. 'n Onbegrensde skikking sal middel-objek afkap. Beperk skikkinglengtes, of verdeel die inset.
• Behou die stelselboodskap. Die skema beperk vorm; die opdrag beheer steeds semantiek — wat as "kritiek" tel, watter datum wen wanneer twee verskyn, of eenhede genormaliseer moet word.
• Valideer in elk geval. Skema-ondersteuning verhoog die slaagkoers; dit vervang nie 'n valideerder en 'n dooiebrief-tou nie.

04Waarom "ongesensureerd" 'n betroubaarheidseienskap is, nie net 'n inhoudsone nie

Hy3 op die poort het geen weieringslaag en geen uitvoerfiltrering nie. Die gewone raamwerk gaan oor inhoud: jy kan sekuriteitsnavorsing, wanware-ontleding, uitbuitingsverslae, mediese en regskorpusse, volwasse materiaal, skadebeperkingsdokumentasie of vyandige-gebruiker-transkripsies verwerk sonder dat die model namens jou besluit dat dit liewer nie wil nie.

Daar is 'n tweede, meer meganiese rede waarom dit saak maak. 'n Weiering is 'n skemaskending. 'n Gefiltreerde model wat weier, gee nie jou objek met 'n "unavailable"-vlaggie terug nie — dit gee prosa terug. "Ek kan nie met daardie versoek help nie." Daardie string is nie 'n incident-objek nie; dit druip jou valideerder en land in die dooiebrief-tou langs egte ontleedfoute, waar jy nou beleidsweierings van werklike misvormings moet skei.

Erger, weierings korreleer met inhoud eerder as om lukraak te versprei. As 4% van jou korpus sekuriteitsvoorvalverslae is en die model die meeste daarvan weier, het jy nie 4% van deurset gelykop verloor nie — jy het een kategorie verloor, en die paneelbord wat op daardie data gebou is, onderrapporteer stilweg presies die ding wat dit bestaan om aan die lig te bring. Kategorievormige gate kos meer as eenvormige ruis, want niks waarsku daaroor nie. Verwyder die weieringspad en wat oorbly — misvormings, afkappings, dubbelsinnige teks — is ongekorreleer met onderwerp, en dus meetbaar.

05Konteks, uitvoerplafon, en hoe om hulle te begroot

Elke model op die poort deel dieselfde grense:

Konteks is 'n gedeelde begroting: opdrag plus uitvoer moet saam binne 262,144 pas, so die praktiese insetplafon in een oproep is ongeveer 245,000 tekens, baie rofweg 180,000 Engelse woorde. Vir gestruktureerde werk is die uitvoerlimiet van 16,384 tekens die strawwer grens en die een wat mense verras — 'n skema wat een objek per rekord uitstuur, tref dit lank voordat die venster vol raak. Twee patrone werk daarteen:

• Wye inset, nou uitvoer. Druk 'n hele kontrak, indiening of loglêervenster in konteks en vra vir een kompakte objek. Insettekens kos 'n kwart van uitvoertekens, so die prysstelling beloon om baie te lees en min te skryf.
• Verdeel op rekordgrense, nie greeptellings nie. Sny waar die model die naat kan sien. 'n Rekord wat middel-sin gesny is, produseer 'n selfversekerd verkeerde objek eerder as 'n voor die hand liggende mislukking.

Hy3 se berigte sterkte in langkonteks-herwinning — 73.4 op AA-LCR, en 'n sprong van 42.9% na 75.1% op MRCR-langgesprekherroeping — is presies die vermoë waarvan die eerste patroon afhang, en 'n ander vaardigheid as om goed te skryf.

06Vloerprysstelling, en die rekenkunde van 'n werklike pyplyn

Hy3 sit teen $0.50 per miljoen insettekens en $2.00 per miljoen uitvoertekens — die katalogusvloer, gedeel met MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 en MiniMax-M3. Uitgewerk oor verteenwoordigende laste:

Werklading	Inset / oproep	Uitvoer / oproep	Koste / oproep	Per 1M oproepe
Veldonttrekking	1,200	300	$0.0012	$1,200
Dokumentklassifikasie	3,000	120	$0.0018	$1,800
Lang dokument opsom na skema	40,000	900	$0.0218	$21,800
Volvenster-ontleding	240,000	2,000	$0.1240	$124,000

Die getal wat besluite verander, is nie die opskriftarief nie maar die effektiewe tarief ná herprobeerslae. As twee modelle dieselfde kos en een druip validering op 6% van oproepe waar die ander op 1.5% druip, loop die hoë-drywing-model ongeveer 4.5% meer oproepe — oorleefbaar. Die skade is op die stert: herprobeerde oproepe neem twee keer so lank, so p99-vertraging verdubbel rofweg vir 'n sigbare snit verkeer, en wat ook al twee keer druip, word handwerk. Teen 'n miljoen oproepe per dag is dit duisende rekords wat iemand moet lees.

Vandaar die saak vir die 8-bis-vlak teen vloerprys: jy betaal hier nie 'n premie vir getrouheid nie, so die herprobeer-rekenkunde is gratis geld. As 'n 3-bis-model goedkoper was, sou daar 'n werklike afruil wees om te weeg — Hy3 kos dieselfde as die goedkoopste ding in die katalogus.

07Drie API-dialekte, een model

Hy3 is op al drie poortdialekte bereikbaar met stroming op elkeen. Dieselfde model, dieselfde gewigte, dieselfde grense — kies watter een ook al by die SDK pas wat jy reeds het.

Eindpunt	Dialek	Gebruik wanneer
/v1/chat/completions	OpenAI	Jy het 'n OpenAI-SDK, LangChain of LlamaIndex. Wys die basis-URL hierheen, verander die model-id.
/v1/messages	Anthropic	Jy is op die Anthropic-SDK en wil inhoudsblokke hê sonder 'n vertaallaag.
/v1/responses	Responses	Jy wil die nuwer versoekvorm met getikte uitvoer en bedienerkant-toestand hê.

Hy3 ondersteun ook gereedskaproeping en redenering, insluitend reasoning_effort. Vir onttrekkingswerk is die nuttige skuif gewoonlik om redenering af te draai: op 'n goed gespesifiseerde skema oor skoon teks is denktekens uitvoertekens waarvoor jy betaal en vertraging waardeur jy wag, vir 'n marginale wins. Spandeer die pogingsbegroting eerder op werklik dubbelsinnige inset.

Volledige versoek- en antwoordverwysing, parameterlyste, stroomsemantiek en 'n interaktiewe speelplek woon in die API-dokumentasie.

08Om tussen die drie W8A16-modelle te kies

Drie modelle sit op die vlak met die hoogste getrouheid, almal teen vloerprys. Die keuse gaan meestal oor modaliteit:

Model	Visie	json_schema	Prys in / uit	Kies dit vir
Hy3 · W8A16	Nee	Ja	$0.50 / $2.00	Slegs-teks gestruktureerde pyplyne, gereedskaporkestrasie, langkonteks-herwinning
MiMo-V2.5-Pro · W8A16	Nee	Ja	$0.50 / $2.00	Slegs-teks-werk waar jy die Pro-instelling van die MiMo-lyn wil hê
MiMo-V2.5 · W8A16	Ja	Ja	$0.50 / $2.00	Enigiets met beelde — geskandeerde dokumente, skermkiekies, foto's

As enige deel van jou inset 'n beeld is, is die besluit vir jou geneem: Hy3 is slegs teks — stuur geskandeerde PDF's, skermkiekies en foto's na MiMo-V2.5. Waar die inset werklik teks is, karteer Hy3 se profiel van agentiese gereedskapgebruik, langkonteks-herroeping en lae berigte hallusinasie die direkste op pyplynwerk. Aangesien al drie dieselfde kos, loop jou skema teen twee van hulle op 'n paar honderd werklike rekords en vergelyk ontleedkoerse; dit besleg dit beter as enige tabel, hierdie een ingesluit.

09Waar Hy3 sy plek verdien

• Hoëvolume-veldonttrekking. Kontrakte, indienings, voorvalverslae, transkripsies, kliniese notas, hofrekords — oral waar 'n getikte objek per dokument die aflewerbare is en volume herprobeerslae duur maak.
• Klassifikasie en routering op skaal. Geslote enum-uitvoere, waar die model se hele waarde is om nooit 'n negentiende kategorie uit te dink nie.
• Sekuriteits- en dreigingsintelligensiekorpusse. Wanware-verslae, uitbuitingsbekendmakings en phishing-monsters — die materiaal wat gefiltreerde modelle in weiering laat struikel, en waar 'n kategorievormige gat die doel verslaan.
• Gereedskaproepende agente wat nie mag vashaak nie. 8-bis-argumentgetrouheid beteken die JSON wat aan jou funksies oorhandig word, ontleed; 'n verwronge gereedskaproep is 'n vasgehaakte agent, nie 'n effens swakker antwoord nie.
• Langdokument-ontleding na struktuur. Hele indiening in, een kompakte objek uit.
• Inhoudsmoderasie en beleidsnavorsing. Om materiaal te etiketteer wat 'n gefiltreerde model weier om te lees, is 'n staande vertroue-en-veiligheid-probleem; 'n ongefiltreerde model met 'n streng skema los dit direk op.

En waar dit nie: enigiets met beelde (gebruik MiMo-V2.5), en outonome multi-lêer-sagteware-ingenieurswese, waar Tencent se eie tabelle Hy3 agter GLM-5.2 op SWE-bench Verified plaas en heelwat agter op DeepSWE.

Maatstafsyfers is deur Tencent berig, insluitend die mededingergetalle; onafhanklike verifikasie was ten tyde van skryf hangende. Kostesyfers is uit ons gepubliseerde tariewe van $0.50 / $2.00 bereken. Geen getal op hierdie bladsy is 'n Shannon-geloopte maatstaf of 'n skatting nie.

10Gereelde vrae

---

Bronne: Tencent Hunyuan-modelgidse · Hy3-bewaarplek · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat se dekking van die Hy3-vrystelling. Grondslagmaatstawwe is deur Tencent berig en voorlopig hangende onafhanklike verifikasie. Shannon AI word deur Shannon Lab LLC, New Mexico, VSA, bedryf.