Ucensureret Hy3-API

De fleste diskussioner om »hvilken model skal jeg bruge« handler om loftet: hvilken der skriver den bedste kode, løser den sværeste matematik, vinder det længste agentforløb. Strukturerede pipelines fungerer ikke sådan. En opgave, der udtrækker felter fra hundrede tusind dokumenter om dagen, har ikke brug for en model, der er genial én gang — den har brug for en, der er korrekt i den samme form hver gang, og som aldrig returnerer et afsnit prosa, hvor et JSON-objekt hører hjemme. Det er den egenskab, Hy3-W8A16 er her for.

01Hvad Hy3 er, og hvor modellen kommer fra

Hy3 er en ræsonnements- og agentmodel med åbne vægte fra Tencents Hunyuan-team, udgivet i fuld udstrækning den 6. juli 2026 under en tilladelig licens, med vægtene offentliggjort på Hugging Face. Den viderefører linjen fra Tencents tidligere arbejde med Hunyuan-Large og Mixture-of-Experts. Arkitektonisk er den en sparsom MoE: 295 milliarder parametre i alt, hvoraf omtrent 21 milliarder aktiveres pr. token via top-8-rutning hen over 192 eksperter, på en transformer med 80 lag og grouped-query attention, plus et separat lag til multi-token-prædiktion på 3,8B til spekulativ afkodning. Den indbyggede kontekst er 256K — præcis de 262.144 tokens, vi eksponerer, ikke en afkortning af noget større eller en rope-strakt udvidelse af noget mindre.

Det sparsomhedsforhold er det vigtige tal for enhver, der betaler pr. token: Hy3 bærer viden som en model på 295B, mens den udfører omtrent lige så meget regnearbejde som en model på 21B pr. fremadrettet gennemløb. Det er også derfor, vi har råd til at servere den med 8 bit frem for at komprimere den hårdere — et 8-bit build af en så sparsom model kan stadig være der og kører stadig hurtigt på vores egen GPU-klynge.

Hvad Tencent rapporterer, den er god til

Tencents offentliggjorte evalueringstabeller placerer Hy3's styrker klart inden for agentisk søgning, orkestrering af værktøjer og genfinding i lang kontekst frem for i ren kodning. Deres rapporterede tal:

Vi viser de svage søjler med vilje. Hy3 ligger efter GLM-5.2 på kodning i Tencents egen sammenligning — 78,0 mod 84,2 på SWE-bench Verified, 28,0 mod 46,2 på DeepSWE. Er din arbejdsopgave autonom softwareudvikling hen over flere filer, så læs resten af forskningsindekset over modeller først. Handler den om at læse tekst og udsende struktur, ligger profilen tæt på det ideelle.

Det tal, der betyder mest for pipelinearbejde, er et tal om pålidelighed: Tencent rapporterer Hy3's hallucinationsrate til 5,4 %, ned fra 12,5 % i den foregående generation, med fejl i almindelig sund fornuft faldet fra 25,4 % til 12,7 %. Deres erklærede træningsprincip — svar, når der er belæg, sig det ligeud, når der ikke er noget — er præcis den indstilling, du vil have i en udtræksmodel, der ellers ville finde på en plausibel værdi til et felt, kilden aldrig nævner.

Alle tal i dette afsnit er rapporteret af Tencent fra deres egne testkørsler; uafhængig verifikation fra tredjepart var stadig undervejs, da dette blev skrevet. Behandl dem som retningsgivende, ikke som afgjorte.

02Hvad W8A16 betyder, og hvorfor det betyder noget for struktureret output

Hver model på gatewayen bærer et kvantiseringssuffiks. Det er ingen udsmykning — det fortæller dig, hvor langt de serverede vægte ligger fra det checkpoint, laboratoriet udgav.

Niveau	Hvad det gør	Trofasthed
3BIT-REAP	3-bit vægte plus REAP, en metode til ekspertbeskæring, der fjerner sjældent rutede MoE-eksperter før kvantiseringen	Mest komprimeret
W4A16-AUTOROUND-REAP	4-bit vægte / 16-bit aktiveringer via AutoRound — indlært afrunding, der genvinder nøjagtighed i forhold til naiv afrunding til nærmeste — plus REAP-beskæring	Midt imellem
W8A16	8-bit vægte / 16-bit aktiveringer. Ingen beskæring, ingen reparation med indlært afrunding — vægtene bæres ganske enkelt med dobbelt præcision	Højest

Hvor kvantiseringsdriften faktisk gør ondt

REAP og AutoRound genvinder det meste af det, naiv komprimering mister — men »det meste« udfører et tungt stykke arbejde i den sætning, og resten fordeler sig ikke jævnt. Kvantisering til få bit forringer halerne: beslutningerne med lav sandsynlighed og høj specificitet. I prosa er det næsten usynligt; et andet tillægsord giver stadig en fin sætning. I struktureret output er det hele pointen, for et skema er en lang kæde af beslutninger med lav sandsynlighed, som hver især skal være helt rigtige:

• Syntaks på tokenniveau. En afsluttende klamme, et komma, et anførselstegn. Hvert af dem er én token, og én forkert token ugyldiggør hele svaret.
• Enum-disciplin. Dit skema siger, at "status" er en af "open" | "closed" | "pending"; en model, der er drevet af kurs, returnerer "Open" eller "pending review" — semantisk tæt på, og gyldigt som ingen af delene.
• Typedisciplin. Et number-felt kommer tilbage som "1,240", et boolean som "yes". Begge fortolkes som strenge og falder på skemaet.
• Litteraler i den lange hale. Sjældne egennavne, varenumre, kemiske betegnelser, ikke-latinske skriftsystemer, nøjagtige datoer — netop den region med lav sandsynlighed, som vægte med få bit slører.

Intet af dette gør 4-bit- eller 3-bit-modeller dårlige; til samtalearbejde er trofasthedsforskellen ofte ikke prisforskellen værd. Men når det er en validator og ikke et menneske, der forbruger outputtet, oversættes præcision i halerne direkte til andelen, der kan fortolkes — og den andel til budget for genforsøg og p99-latenstid. W8A16 er det niveau, hvor du holder op med at betale den skat.

03Struktureret output: json_schema og response_format

Hy3 understøtter begge halvdele af fladen for struktureret output — værd at sige udtrykkeligt, for det gælder ikke gennemgående i kataloget:

Model	response_format	json_schema
Hy3 · W8A16	Ja	Ja
MiMo-V2.5-Pro · W8A16	Ja	Ja
inkling · W4A16-AUTOROUND-REAP	Ja	Nej
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nej	Nej

Forskellen mellem de to mekanismer betyder mere, end folk antager. response_format: {"type": "json_object"} beder om gyldig JSON og intet andet — modellen vælger formen, så to kald kan returnere {"name": ...} og {"full_name": ...}, og begge er korrekte. json_schema angiver formen på forhånd: navngivne felter, typer, enums, lister over påkrævede felter, indlejring. Det er en kontrakt, du kan skrive kode op imod.

Et minimalt kald i den OpenAI-kompatible dialekt:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktiske bemærkninger

• Gør hvert felt påkrævet, og tillad null. Valgfrie felter inviterer til stille bortfald; et påkrævet felt, der tillader null, fremtvinger et udtrykkeligt »ikke til stede«, hvilket er information, du kan handle på.
• Enums slår frie strenge. Overalt hvor du kan lukke værdimængden, så luk den — den ændring med størst løftestang på et skemas reelle beståelsesrate.
• Hold dig under outputloftet på 16.384 tokens. En ubegrænset array bliver afkortet midt i et objekt. Sæt loft over arraylængder, eller opdel inputtet.
• Behold systembeskeden. Skemaet styrer formen; prompten styrer stadig semantikken — hvad der tæller som »kritisk«, hvilken dato der vinder, når to dukker op, om enheder skal normaliseres.
• Validér alligevel. Skemaunderstøttelse hæver beståelsesraten; den erstatter ikke en validator og en dead letter-kø.

04Hvorfor »ucensureret« er en pålidelighedsegenskab og ikke bare et indholdsspørgsmål

Hy3 på gatewayen har intet afvisningslag og ingen outputfiltrering. Den sædvanlige indramning handler om indhold: du kan behandle sikkerhedsforskning, analyse af skadelig kode, beskrivelser af sårbarheder, medicinske og juridiske korpusser, voksenmateriale, dokumentation om skadesreduktion eller udskrifter fra fjendtlige brugere, uden at modellen på dine vegne beslutter, at den hellere vil lade være.

Der er en anden og mere mekanisk grund til, at det betyder noget. En afvisning er en skemaovertrædelse. En filtreret model, der siger nej, returnerer ikke dit objekt med et "unavailable"-flag — den returnerer prosa. »Jeg kan desværre ikke hjælpe med den forespørgsel.« Den streng er ikke et incident-objekt; den falder på din validator og lander i dead letter-køen ved siden af ægte fortolkningsfejl, hvor du nu skal skille politikafvisninger fra reelle formfejl.

Værre er, at afvisninger korrelerer med indhold i stedet for at fordele sig tilfældigt. Hvis 4 % af dit korpus er sikkerhedshændelsesrapporter, og modellen afviser de fleste af dem, har du ikke mistet 4 % af gennemløbet jævnt — du har mistet én kategori, og det dashboard, der er bygget på de data, underrapporterer stille og roligt netop det, det findes for at synliggøre. Huller, der har form som en kategori, koster mere end jævn støj, fordi intet alarmerer om dem. Fjern afvisningsvejen, og det, der er tilbage — formfejl, afkortninger, tvetydig tekst — er ukorreleret med emne og dermed måleligt.

05Kontekst, outputloft og hvordan du budgetterer dem

Hver model på gatewayen deler de samme grænser:

Konteksten er et fælles budget: prompt plus output skal være der inden for 262.144 tilsammen, så det praktiske inputloft i ét kald er omkring 245.000 tokens, meget groft regnet 180.000 engelske ord. Til struktureret arbejde er outputloftet på 16.384 tokens den hårdere grænse og den, der overrasker folk — et skema, der udsender ét objekt pr. post, rammer det længe før vinduet er fyldt. To mønstre virker imod det:

• Bredt input, smalt output. Skub en hel kontrakt, et helt sagsdokument eller et helt logvindue ind i konteksten, og bed om ét kompakt objekt. Input-tokens koster en fjerdedel af output-tokens, så prissætningen belønner at læse meget og skrive lidt.
• Opdel efter postgrænser, ikke efter antal bytes. Klip, hvor modellen kan se sømmen. En post, der skæres over midt i en sætning, giver et selvsikkert forkert objekt frem for en åbenlys fejl.

Hy3's rapporterede styrke i genfinding i lang kontekst — 73,4 på AA-LCR og et spring fra 42,9 % til 75,1 % på MRCR for hukommelse i lange dialoger — er præcis den evne, det første mønster hviler på, og en anden færdighed end at skrive godt.

06Bundpris og regnestykket i en virkelig pipeline

Hy3 ligger på $0,50 pr. million input-tokens og $2,00 pr. million output-tokens — katalogets bund, delt med MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 og MiniMax-M3. Regnet igennem på repræsentative belastninger:

Arbejdsopgave	Input / kald	Output / kald	Omkostning / kald	Pr. 1M kald
Feltudtræk	1.200	300	$0,0012	$1.200
Dokumentklassifikation	3.000	120	$0,0018	$1.800
Langt dokument opsummeret til skema	40.000	900	$0,0218	$21.800
Analyse af hele vinduet	240.000	2.000	$0,1240	$124.000

Det tal, der ændrer beslutninger, er ikke listeprisen, men den effektive pris efter genforsøg. Hvis to modeller koster det samme, og den ene falder på valideringen ved 6 % af kaldene, hvor den anden falder ved 1,5 %, kører modellen med høj drift cirka 4,5 % flere kald — til at holde ud. Skaden ligger i halen: kald, der forsøges igen, tager dobbelt så lang tid, så p99-latenstiden bliver omtrent fordoblet for en synlig del af trafikken, og det, der fejler to gange, bliver manuelt arbejde. Ved en million kald om dagen er det tusindvis af poster, som nogen skal læse.

Derfor argumentet for 8-bit niveauet til bundpris: du betaler ikke en merpris for trofasthed her, så regnestykket omkring genforsøg er gratis penge. Hvis en 3-bit model var billigere, ville der være en reel afvejning at veje — Hy3 koster det samme som det billigste i kataloget.

07Tre API-dialekter, én model

Hy3 kan nås på alle tre gateway-dialekter med streaming på hver af dem. Samme model, samme vægte, samme grænser — vælg den, der passer til det SDK, du allerede har.

Endepunkt	Dialekt	Brug den, når
/v1/chat/completions	OpenAI	Du har et OpenAI-SDK, LangChain eller LlamaIndex. Peg bas-URL'en herhen, og skift model-id.
/v1/messages	Anthropic	Du bruger Anthropics SDK og vil have indholdsblokke uden et oversættelseslag.
/v1/responses	Responses	Du vil have den nyere forespørgselsform med typet output og tilstand på serversiden.

Hy3 understøtter også tool calling og ræsonnement, herunder reasoning_effort. Til udtræksarbejde er det som regel klogt at skrue ræsonnementet ned: på et velspecificeret skema over ren tekst er tænketokens output-tokens, du betaler for, og latenstid, du venter igennem, for en marginal gevinst. Brug hellere ræsonnementsbudgettet på reelt tvetydigt input.

Fuld reference for forespørgsler og svar, parameterlister, semantik for streaming og en interaktiv legeplads findes i API-dokumentationen.

08At vælge mellem de tre W8A16-modeller

Tre modeller ligger på niveauet med højest trofasthed, alle til bundpris. Valget handler mest om modalitet:

Model	Vision	json_schema	Pris ind / ud	Vælg den til
Hy3 · W8A16	Nej	Ja	$0,50 / $2,00	Strukturerede pipelines med kun tekst, orkestrering af værktøjer, genfinding i lang kontekst
MiMo-V2.5-Pro · W8A16	Nej	Ja	$0,50 / $2,00	Tekstarbejde, hvor du vil have Pro-tuningen af MiMo-linjen
MiMo-V2.5 · W8A16	Ja	Ja	$0,50 / $2,00	Alt med billeder — scannede dokumenter, skærmbilleder, fotos

Hvis nogen del af dit input er et billede, er beslutningen truffet for dig: Hy3 håndterer kun tekst — send scannede PDF'er, skærmbilleder og fotografier til MiMo-V2.5. Hvor inputtet reelt er tekst, passer Hy3's profil af agentisk værktøjsbrug, hukommelse i lang kontekst og lav rapporteret hallucination mest direkte på pipelinearbejde. Da alle tre koster det samme: kør dit skema mod to af dem på nogle hundrede virkelige poster, og sammenlign andelen, der kan fortolkes; det afgør sagen bedre end nogen tabel, inklusive denne.

09Hvor Hy3 gør sig fortjent til sin plads

• Feltudtræk i stor mængde. Kontrakter, sagsdokumenter, hændelsesrapporter, udskrifter, kliniske notater, retsakter — overalt hvor et typet objekt pr. dokument er leverancen, og hvor mængden gør genforsøg dyre.
• Klassifikation og rutning i skala. Output med lukkede enums, hvor modellens hele værdi er aldrig at finde på en nittende kategori.
• Korpusser til sikkerhed og trusselsefterretning. Beskrivelser af skadelig kode, offentliggjorte sårbarheder og phishing-prøver — det materiale, der får filtrerede modeller til at afvise, og hvor et hul i form af en kategori spolerer hele formålet.
• Værktøjskaldende agenter, der ikke må gå i stå. Trofasthed på 8 bit i argumenterne betyder, at den JSON, der afleveres til dine funktioner, kan fortolkes; et forvansket værktøjskald er en agent, der er gået i stå, ikke et lidt dårligere svar.
• Analyse af lange dokumenter til struktur. Hele sagsdokumentet ind, ét kompakt objekt ud.
• Indholdsmoderering og politikforskning. At mærke materiale op, som en filtreret model nægter at læse, er et stående trust and safety-problem; en ufiltreret model med et strikt skema løser det direkte.

Og hvor den ikke gør: alt med billeder (brug MiMo-V2.5) og autonom softwareudvikling hen over flere filer, hvor Tencents egne tabeller placerer Hy3 efter GLM-5.2 på SWE-bench Verified og langt efter på DeepSWE.

Benchmarktallene er rapporteret af Tencent, herunder konkurrenternes tal; uafhængig verifikation var stadig undervejs, da dette blev skrevet. Omkostningstallene er beregnet ud fra vores offentliggjorte takster $0,50 / $2,00. Intet tal på denne side er et benchmark kørt af Shannon eller et skøn.

10Ofte stillede spørgsmål

---

Kilder: Tencent Hunyuans modelkort · Hy3-kodelageret · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeats dækning af Hy3-udgivelsen. Grundmodellens benchmarks er rapporteret af Tencent og foreløbige i afventning af uafhængig verifikation. Shannon AI drives af Shannon Lab LLC, New Mexico, USA.