Usensurert Hy3-modell-API

De fleste «hvilken modell bør jeg bruke»-diskusjoner handler om taket: hvilken som skriver den beste koden, løser den vanskeligste matematikken, vinner den lengste agentkjøringen. Strukturerte rørledninger virker ikke slik. En jobb som trekker felter ut av hundre tusen dokumenter om dagen, trenger ikke en modell som er strålende én gang — den trenger en som er riktig i samme form hver gang, og som aldri returnerer et avsnitt der et JSON-objekt hører hjemme. Det er egenskapen Hy3-W8A16 er her for.

01Hva Hy3 er, og hvor den kommer fra

Hy3 er en resonnerings- og agentmodell med åpne vekter fra Tencents Hunyuan-team, sluppet i sin helhet 6. juli 2026 under en tillatende lisens, med vekter publisert på Hugging Face. Den viderefører slekten fra Tencents tidligere Hunyuan-Large-arbeid med Mixture-of-Experts. Arkitektonisk er den en sparsom MoE: 295 milliarder parametere totalt, hvorav omtrent 21 milliarder aktiveres per token via topp-8-ruting over 192 eksperter, på en transformer med 80 lag og gruppert spørringsoppmerksomhet, pluss et eget lag på 3,8B for flertokensprediksjon til spekulativ dekoding. Nativ kontekst er 256K — nøyaktig de 262,144 tokenene vi eksponerer, ikke en avkorting av noe større eller en rope-strukket utvidelse av noe mindre.

Det sparsomhetsforholdet er det viktige tallet for alle som betaler per token: Hy3 bærer kunnskapen til en 295B-modell mens den gjør omtrent regnearbeidet til en 21B-modell per fremoverpassering. Det er også derfor vi har råd til å servere den med 8 bits heller enn å komprimere den hardere — en 8-bits bygging av en modell så sparsom får fortsatt plass og kjører fortsatt raskt på vår egen GPU-klynge.

Hva Tencent rapporterer at den er god til

Tencents publiserte evalueringstabeller plasserer Hy3s styrker klart innen agentisk søk, verktøyorkestrering og gjenfinning i lang kontekst heller enn i ren koding. Deres rapporterte tall:

Vi viser de svake søylene med vilje. Hy3 ligger bak GLM-5.2 på koding i Tencents egen sammenligning — 78.0 mot 84.2 på SWE-bench Verified, 28.0 mot 46.2 på DeepSWE. Hvis arbeidsmengden din er autonom programvareutvikling over flere filer, les resten av modellforskningsindeksen først. Hvis den er å lese tekst og produsere struktur, er profilen nær ideell.

Tallet som betyr mest for rørledningsarbeid, er et pålitelighetstall: Tencent rapporterer Hy3s hallusinasjonsrate til 5.4 %, ned fra 12.5 % i forrige generasjon, med feil på sunn fornuft ned fra 25.4 % til 12.7 %. Det uttalte treningsprinsippet deres — svar når det finnes belegg, si rett ut når det ikke gjør det — er nøyaktig den innstillingen du vil ha i en uttrekksmodell som ellers ville funnet på en troverdig verdi for et felt kilden aldri nevner.

Alle tall i denne delen er rapportert av Tencent fra deres egne testkjøringer; uavhengig verifisering fra tredjepart sto fortsatt til gode da dette ble skrevet. Behandle dem som retningsgivende, ikke avgjort.

02Hva W8A16 betyr, og hvorfor det teller for strukturert utdata

Hver modell på gatewayen bærer en kvantiseringsendelse. Den er ikke pynt — den forteller deg hvor langt de serverte vektene ligger fra sjekkpunktet labben ga ut.

Nivå	Hva det gjør	Troskap
3BIT-REAP	3-bits vekter pluss REAP, en beskjæringsmetode som fjerner sjelden rutede MoE-eksperter før kvantisering	Mest komprimert
W4A16-AUTOROUND-REAP	4-bits vekter / 16-bits aktiveringer via AutoRound — lært avrunding som gjenvinner nøyaktighet mot naiv avrunding til nærmeste — pluss REAP-beskjæring	Mellomting
W8A16	8-bits vekter / 16-bits aktiveringer. Ingen beskjæring, ingen reparasjon med lært avrunding — vektene bæres rett og slett med dobbelt presisjon	Høyest

Hvor kvantiseringsdriften faktisk gjør vondt

REAP og AutoRound gjenvinner det meste av det naiv komprimering mister — men «det meste» gjør en god del arbeid i den setningen, og restene fordeler seg ikke jevnt. Lavbits kvantisering forringer halene: beslutningene med lav sannsynlighet og høy spesifisitet. I prosa er det nesten usynlig; et annet adjektiv er fortsatt en god setning. I strukturert utdata er det hele poenget, fordi et skjema er en lang kjede av lavsannsynlige beslutninger som hver må være helt riktig:

• Syntaks på tokennivå. En avsluttende krøllparentes, et komma, et anførselstegn. Hvert av dem er ett token, og ett galt token ugyldiggjør hele svaret.
• Enum-disiplin. Skjemaet ditt sier at "status" er én av "open" | "closed" | "pending"; en drevet modell returnerer "Open" eller "pending review" — semantisk nært, og gyldig som ingen av delene.
• Typedisiplin. Et number-felt kommer tilbake som "1,240", en boolean som "yes". Begge tolkes som strenger og faller på skjemaet.
• Literaler i den lange halen. Sjeldne egennavn, delenumre, kjemiske navn, ikke-latinske skriftsystemer, presise datoer — nøyaktig det lavsannsynlige området lavbits vekter slører.

Ingenting av dette gjør 4-bits eller 3-bits modeller dårlige; til samtalearbeid er troskapsforskjellen ofte ikke verdt prisforskjellen. Men når forbrukeren av utdataene er en validator og ikke et menneske, gjøres presisjon i halene direkte om til tolkningsrate — og tolkningsrate om til gjenforsøksbudsjett og p99-ventetid. W8A16 er nivået der du slutter å betale den avgiften.

03Strukturert utdata: json_schema og response_format

Hy3 støtter begge halvdelene av flaten for strukturert utdata — verdt å si eksplisitt, fordi det ikke gjelder over hele katalogen:

Modell	response_format	json_schema
Hy3 · W8A16	Ja	Ja
MiMo-V2.5-Pro · W8A16	Ja	Ja
inkling · W4A16-AUTOROUND-REAP	Ja	Nei
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nei	Nei

Forskjellen mellom de to mekanismene betyr mer enn folk antar. response_format: {"type": "json_object"} ber om gyldig JSON og ikke noe mer — modellen velger formen, så to kall kan returnere {"name": ...} og {"full_name": ...} og begge er riktige. json_schema oppgir formen på forhånd: navngitte felter, typer, enum-er, påkrevde lister, nesting. Det er en kontrakt du kan skrive kode mot.

Et minimalt kall på den OpenAI-kompatible dialekten:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktiske merknader

• Gjør hvert felt påkrevd og tillat null. Valgfrie felter innbyr til stille utelatelser; et påkrevd felt som tillater null tvinger frem et eksplisitt «ikke til stede», som er informasjon du kan handle på.
• Enum-er slår frie strenger. Der du kan lukke verdimengden, lukk den — den endringen løfter et skjemas reelle godkjenningsrate mest.
• Hold deg under utdatataket på 16,384 tokens. En ubegrenset tabell vil bli avkortet midt i et objekt. Sett tak på tabellengder, eller del opp inndataene.
• Behold systemmeldingen. Skjemaet begrenser formen; ledeteksten styrer fortsatt semantikken — hva som teller som «kritisk», hvilken dato som vinner når to dukker opp, om enheter skal normaliseres.
• Valider likevel. Skjemastøtte hever godkjenningsraten; den erstatter ikke en validator og en kø for døde meldinger.

04Hvorfor «usensurert» er en pålitelighetsegenskap, ikke bare en innholdsegenskap

Hy3 på gatewayen har ingen avvisningslag og ingen filtrering av utdata. Den vanlige innrammingen handler om innhold: du kan behandle sikkerhetsforskning, skadevareanalyse, sårbarhetsbeskrivelser, medisinske og juridiske korpus, voksent materiale, skadereduserende dokumentasjon eller transkripsjoner fra fiendtlige brukere uten at modellen bestemmer på dine vegne at den heller vil la være.

Det finnes en annen, mer mekanisk grunn til at det betyr noe. En avvisning er et skjemabrudd. En filtrert modell som avslår, returnerer ikke objektet ditt med et "unavailable"-flagg — den returnerer prosa. «Jeg kan ikke hjelpe med den forespørselen.» Den strengen er ikke et incident-objekt; den faller på validatoren din og havner i køen for døde meldinger ved siden av ekte tolkningsfeil, der du nå må skille policyavvisninger fra reelle formfeil.

Verre: avvisninger korrelerer med innhold i stedet for å fordele seg tilfeldig. Hvis 4 % av korpuset ditt er hendelsesrapporter fra sikkerhet og modellen avslår de fleste av dem, har du ikke mistet 4 % av gjennomstrømningen jevnt — du har mistet én kategori, og dashbordet bygget på de dataene underrapporterer stille nøyaktig det det finnes for å synliggjøre. Hull formet som kategorier koster mer enn jevn støy, fordi ingenting varsler om dem. Fjern avvisningsbanen, og det som blir igjen — formfeil, avkortinger, tvetydig tekst — er ukorrelert med tema, og dermed målbart.

05Kontekst, utdatatak og hvordan du budsjetterer dem

Hver modell på gatewayen deler de samme grensene:

Konteksten er et delt budsjett: ledetekst pluss utdata må få plass innenfor 262,144 til sammen, så det praktiske inndatataket i ett kall er omtrent 245,000 tokens, svært grovt regnet 180,000 engelske ord. Til strukturert arbeid er utdatataket på 16,384 tokens den strengere grensen og den som overrasker folk — et skjema som produserer ett objekt per post treffer det lenge før vinduet fylles. To mønstre virker mot det:

• Bredt inn, smalt ut. Skyv en hel kontrakt, innmelding eller loggperiode inn i konteksten og be om ett kompakt objekt. Inn-tokens koster en fjerdedel av ut-tokens, så prisingen belønner å lese mye og skrive lite.
• Del opp på postgrenser, ikke på byteantall. Del der modellen kan se skjøten. En post kuttet midt i en setning gir et selvsikkert galt objekt heller enn en åpenbar feil.

Hy3s rapporterte styrke på gjenfinning i lang kontekst — 73.4 på AA-LCR, og et hopp fra 42.9 % til 75.1 % på MRCR for gjenkalling i lange dialoger — er nøyaktig den evnen det første mønsteret hviler på, og en annen ferdighet enn å skrive godt.

06Gulvpris, og regnestykket for en ekte rørledning

Hy3 ligger på $0.50 per million inn-tokens og $2.00 per million ut-tokens — katalogens gulv, delt med MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 og MiniMax-M3. Regnet gjennom representative arbeidsmengder:

Arbeidsmengde	Inn / kall	Ut / kall	Kostnad / kall	Per 1M kall
Feltuttrekk	1,200	300	$0.0012	$1,200
Dokumentklassifisering	3,000	120	$0.0018	$1,800
Langt dokument oppsummert til skjema	40,000	900	$0.0218	$21,800
Analyse over hele vinduet	240,000	2,000	$0.1240	$124,000

Tallet som endrer beslutninger, er ikke overskriftssatsen, men den effektive satsen etter gjenforsøk. Hvis to modeller koster det samme og den ene feiler validering på 6 % av kallene der den andre feiler på 1.5 %, kjører modellen med mye drift omtrent 4.5 % flere kall — til å leve med. Skaden ligger i halen: gjenforsøkte kall tar dobbelt så lang tid, så p99-ventetiden omtrent dobles for en synlig andel av trafikken, og det som feiler to ganger blir manuelt arbeid. Ved en million kall om dagen er det tusenvis av poster noen må lese.

Derav argumentet for 8-bitsnivået til gulvpris: du betaler ikke et pristillegg for troskap her, så regnestykket for gjenforsøk er gratis penger. Hvis en 3-bits modell var billigere, ville det vært en reell avveining å vurdere — Hy3 koster det samme som det billigste i katalogen.

07Tre API-dialekter, én modell

Hy3 er tilgjengelig på alle tre gateway-dialektene, med strømming på hver av dem. Samme modell, samme vekter, samme grenser — velg den som passer SDK-et du allerede har.

Endepunkt	Dialekt	Bruk når
/v1/chat/completions	OpenAI	Du har et OpenAI-SDK, LangChain eller LlamaIndex. Pek base-URL-en hit, bytt modell-id.
/v1/messages	Anthropic	Du er på Anthropic-SDK-et og vil ha innholdsblokker uten et oversettelseslag.
/v1/responses	Responses	Du vil ha den nyere forespørselsformen med typet utdata og tilstand på tjenersiden.

Hy3 støtter også verktøykall og resonnering, inkludert reasoning_effort. Til uttrekksarbeid er det nyttige grepet som regel å skru resonneringen ned: på et godt spesifisert skjema over ren tekst er tenketokens ut-tokens du betaler for og ventetid du sitter gjennom, for en marginal gevinst. Bruk innsatsbudsjettet på genuint tvetydige inndata i stedet.

Full referanse for forespørsel og svar, parameterlister, semantikk for strømming og en interaktiv lekeplass finnes i API-dokumentasjonen.

08Å velge blant de tre W8A16-modellene

Tre modeller ligger på det høyeste troskapsnivået, alle til gulvpris. Valget handler mest om modalitet:

Modell	Syn	json_schema	Pris inn / ut	Velg den til
Hy3 · W8A16	Nei	Ja	$0.50 / $2.00	Strukturerte tekstrørledninger, verktøyorkestrering, gjenfinning i lang kontekst
MiMo-V2.5-Pro · W8A16	Nei	Ja	$0.50 / $2.00	Rent tekstarbeid der du vil ha Pro-innstillingen av MiMo-linjen
MiMo-V2.5 · W8A16	Ja	Ja	$0.50 / $2.00	Alt med bilder — skannede dokumenter, skjermbilder, fotografier

Hvis noen del av inndataene dine er et bilde, er valget tatt for deg: Hy3 er ren tekst — send skannede PDF-er, skjermbilder og fotografier til MiMo-V2.5. Der inndataene virkelig er tekst, treffer Hy3s profil med agentisk verktøybruk, gjenkalling i lang kontekst og lav rapportert hallusinasjon mest direkte på rørledningsarbeid. Siden alle tre koster det samme, kjør skjemaet ditt mot to av dem på noen hundre ekte poster og sammenlign tolkningsrater; det avgjør saken bedre enn noen tabell, denne inkludert.

09Der Hy3 gjør seg fortjent til plassen

• Uttrekk av felter i stort volum. Kontrakter, innmeldinger, hendelsesrapporter, transkripsjoner, kliniske notater, rettsdokumenter — overalt der et typet objekt per dokument er leveransen og volumet gjør gjenforsøk dyre.
• Klassifisering og ruting i skala. Lukkede enum-utdata, der hele verdien til modellen er at den aldri finner opp en nittende kategori.
• Korpus innen sikkerhet og trusseletterretning. Skadevarebeskrivelser, sårbarhetspubliseringer og phishing-eksemplarer — materialet som får filtrerte modeller til å avvise, og der et hull formet som en kategori ødelegger hele hensikten.
• Verktøykallende agenter som ikke må stoppe opp. 8-bits troskap i argumentene betyr at JSON-en som gis til funksjonene dine, lar seg tolke; et forvridd verktøykall er en agent som har stoppet, ikke et litt dårligere svar.
• Analyse av lange dokumenter til struktur. Hele innmeldingen inn, ett kompakt objekt ut.
• Innholdsmoderering og policyforskning. Å merke materiale en filtrert modell nekter å lese, er et stående problem for tillit og sikkerhet; en ufiltrert modell med et strengt skjema løser det direkte.

Og der den ikke gjør det: alt med bilder (bruk MiMo-V2.5), og autonom programvareutvikling over flere filer, der Tencents egne tabeller plasserer Hy3 bak GLM-5.2 på SWE-bench Verified og godt bak på DeepSWE.

Benchmarktall er rapportert av Tencent, også konkurrenttallene; uavhengig verifisering sto til gode da dette ble skrevet. Kostnadstall er regnet ut fra våre publiserte satser på $0.50 / $2.00. Ingen tall på denne siden er en benchmark kjørt av Shannon eller et anslag.

10Ofte stilte spørsmål

---

Kilder: Tencent Hunyuan-modellkort · Hy3-repoet · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeats dekning av Hy3-utgivelsen. Benchmarker for grunnmodellen er rapportert av Tencent og er foreløpige i påvente av uavhengig verifisering. Shannon AI drives av Shannon Lab LLC, New Mexico, USA.