Ongecensureerde Hy3 API

De meeste discussies over "welk model moet ik gebruiken" gaan over het plafond: welk model schrijft de beste code, lost de moeilijkste wiskunde op, wint de langste agent-run. Zo werken gestructureerde pijplijnen niet. Een taak die velden uit honderdduizend documenten per dag haalt, heeft geen model nodig dat één keer briljant is — het heeft er een nodig dat elke keer in dezelfde vorm correct is, en dat nooit een alinea teruggeeft waar een JSON-object hoort. Dat is de eigenschap waarvoor Hy3-W8A16 hier staat.

01Wat Hy3 is, en waar het vandaan komt

Hy3 is een redeneer- en agentmodel met open gewichten van het Hunyuan-team van Tencent, volledig uitgebracht op 6 juli 2026 onder een permissieve licentie, met de gewichten gepubliceerd op Hugging Face. Het zet de lijn voort van het eerdere Hunyuan-Large Mixture-of-Experts-werk van Tencent. Architectonisch is het een ijle MoE: 295 miljard parameters in totaal, waarvan er ruwweg 21 miljard per token activeren via top-8-routering over 192 experts, op een transformer van 80 lagen met grouped-query attention, plus een aparte multi-token-predictielaag van 3.8B voor speculatief decoderen. De native context is 256K — precies de 262,144 tokens die wij aanbieden, geen afkapping van iets groters en geen met rope opgerekte uitbreiding van iets kleiners.

Die ijlheidsverhouding is het belangrijke getal voor wie per token betaalt: Hy3 draagt de kennis van een model van 295B terwijl het per voorwaartse doorgang ruwweg het rekenwerk van een model van 21B doet. Het is ook de reden dat wij het ons kunnen veroorloven het op 8 bits te serveren in plaats van het harder samen te persen — een 8-bits build van een model dat zo ijl is, past nog steeds en draait nog steeds snel op ons eigen GPU-cluster.

Waar Tencent zegt dat het goed in is

De gepubliceerde evaluatietabellen van Tencent leggen de sterke punten van Hy3 nadrukkelijk bij agentisch zoeken, het orkestreren van tools en ophalen uit lange context in plaats van bij ruw programmeren. De cijfers die zij rapporteren:

Wij tonen de zwakke balken met opzet. Hy3 blijft achter op GLM-5.2 bij programmeren in Tencents eigen vergelijking — 78.0 tegen 84.2 op SWE-bench Verified, 28.0 tegen 46.2 op DeepSWE. Bestaat uw werklast uit autonome software-engineering over meerdere bestanden, lees dan eerst de rest van de onderzoeksindex met modellen. Gaat het om tekst lezen en structuur uitschrijven, dan is het profiel bijna ideaal.

Het cijfer dat voor pijplijnwerk het meest telt, gaat over betrouwbaarheid: Tencent rapporteert dat het hallucinatiepercentage van Hy3 op 5.4% ligt, tegen 12.5% in de vorige generatie, waarbij fouten tegen het gezond verstand terugliepen van 25.4% naar 12.7%. Hun uitgesproken trainingsprincipe — antwoorden wanneer er bewijs is, ronduit zeggen wanneer dat er niet is — is precies de houding die u wilt in een extractiemodel dat anders een plausibele waarde verzint voor een veld dat de bron nooit noemt.

Alle cijfers in dit hoofdstuk zijn door Tencent gerapporteerd uit hun eigen testruns; onafhankelijke verificatie door derden was ten tijde van schrijven nog niet beschikbaar. Behandel ze als richtinggevend, niet als vaststaand.

02Wat W8A16 betekent, en waarom het van belang is voor gestructureerde uitvoer

Elk model op de gateway draagt een kwantisatiesuffix. Dat is geen decoratie — het vertelt u hoe ver de geserveerde gewichten af staan van het checkpoint dat het lab heeft uitgebracht.

Niveau	Wat het doet	Getrouwheid
3BIT-REAP	Gewichten van 3 bits plus REAP, een snoeimethode die zelden aangeroepen MoE-experts verwijdert vóór het kwantiseren	Sterkst gecomprimeerd
W4A16-AUTOROUND-REAP	Gewichten van 4 bits / activaties van 16 bits via AutoRound — geleerd afronden dat nauwkeurigheid terugwint ten opzichte van naïef afronden naar de dichtstbijzijnde waarde — plus REAP-snoeien	Midden
W8A16	Gewichten van 8 bits / activaties van 16 bits. Geen snoeien, geen reparatie met geleerd afronden — de gewichten worden simpelweg met dubbele precisie meegedragen	Hoogste

Waar kwantisatiedrift werkelijk pijn doet

REAP en AutoRound winnen het meeste terug van wat naïeve compressie verliest — maar "het meeste" doet in die zin veel werk, en het restant valt niet gelijkmatig. Kwantisatie met weinig bits tast de staarten aan: de beslissingen met lage waarschijnlijkheid en hoge specificiteit. In proza is dat vrijwel onzichtbaar; een ander bijvoeglijk naamwoord levert nog steeds een prima zin op. In gestructureerde uitvoer gaat het daar juist om, want een schema is een lange keten van beslissingen met lage waarschijnlijkheid die elk exact goed moeten zijn:

• Syntaxis op tokenniveau. Een sluitende accolade, een komma, een aanhalingsteken. Elk is één token, en één verkeerd token maakt het hele antwoord ongeldig.
• Discipline bij enums. Uw schema zegt dat "status" een van "open" | "closed" | "pending" is; een gedreven model geeft "Open" of "pending review" terug — semantisch dichtbij, en als geen van beide geldig.
• Discipline bij typen. Een veld van het type number komt terug als "1,240", een boolean als "yes". Beide parseren als string en zakken voor het schema.
• Literalen uit de lange staart. Zeldzame eigennamen, artikelnummers, chemische namen, niet-Latijnse schriften, precieze datums — precies het gebied met lage waarschijnlijkheid dat gewichten met weinig bits vervagen.

Niets hiervan maakt modellen van 4 of 3 bits slecht; voor conversationeel werk is het verschil in getrouwheid het prijsverschil vaak niet waard. Maar wanneer de afnemer van de uitvoer een validator is en geen mens, vertaalt precisie in de staarten zich rechtstreeks in het parseerpercentage — en dat percentage in uw retry-budget en uw p99-latentie. W8A16 is het niveau waarop u die belasting niet langer betaalt.

03Gestructureerde uitvoer: json_schema en response_format

Hy3 ondersteunt beide helften van het oppervlak voor gestructureerde uitvoer — het is de moeite waard dat expliciet te zeggen, want dat is niet overal in de catalogus zo:

Model	response_format	json_schema
Hy3 · W8A16	Ja	Ja
MiMo-V2.5-Pro · W8A16	Ja	Ja
inkling · W4A16-AUTOROUND-REAP	Ja	Nee
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nee	Nee

Het verschil tussen de twee mechanismen telt zwaarder dan men aanneemt. response_format: {"type": "json_object"} vraagt om geldige JSON en niets meer — het model kiest de vorm, dus twee aanroepen kunnen {"name": ...} en {"full_name": ...} teruggeven en allebei zijn ze correct. json_schema levert de vorm vooraf: benoemde velden, typen, enums, verplichte lijsten, nesting. Dat is een contract waartegen u code kunt schrijven.

Een minimale aanroep op het OpenAI-compatibele dialect:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktische aantekeningen

• Maak elk veld verplicht en sta null toe. Optionele velden nodigen uit tot stilzwijgend wegvallen; een verplicht veld dat null mag zijn dwingt een expliciet "niet aanwezig" af, en dat is informatie waarmee u iets kunt.
• Enums verslaan vrije strings. Waar u de verzameling waarden kunt afsluiten, sluit haar af — de wijziging met de meeste hefboomwerking op het slagingspercentage van een schema in de praktijk.
• Blijf onder de uitvoerlimiet van 16,384 tokens. Een onbegrensde array kapt midden in een object af. Begrens de lengte van arrays, of splits de invoer.
• Houd het systeembericht. Het schema legt de vorm vast; de prompt bepaalt nog altijd de betekenis — wat "kritiek" is, welke datum wint als er twee staan, of eenheden genormaliseerd moeten worden.
• Valideer toch. Ondersteuning voor schema's verhoogt het slagingspercentage; het vervangt geen validator en geen dead-letter queue.

04Waarom "ongecensureerd" een eigenschap van betrouwbaarheid is, niet alleen van inhoud

Hy3 op de gateway heeft geen weigeringslaag en geen filtering van de uitvoer. Het gebruikelijke verhaal gaat over inhoud: u kunt veiligheidsonderzoek, malware-analyse, exploit-beschrijvingen, medische en juridische corpora, materiaal voor volwassenen, documentatie over schadebeperking of transcripten van vijandige gebruikers verwerken zonder dat het model namens u besluit dat het liever niet wil.

Er is een tweede, mechanischere reden dat het telt. Een weigering is een schending van het schema. Een gefilterd model dat afwijst, geeft niet uw object terug met een vlag "unavailable" — het geeft proza terug. "Ik kan niet helpen met dat verzoek." Die string is geen incident-object; ze zakt voor uw validator en belandt in de dead-letter queue naast echte parsefouten, waar u nu beleidsweigeringen van werkelijke misvormingen moet scheiden.

Erger nog: weigeringen hangen samen met de inhoud in plaats van zich willekeurig te verdelen. Bestaat 4% van uw corpus uit rapporten van veiligheidsincidenten en wijst het model die grotendeels af, dan hebt u niet gelijkmatig 4% van uw doorvoer verloren — u hebt één categorie verloren, en het dashboard dat op die data is gebouwd rapporteert stilletjes te weinig over precies datgene waarvoor het bestaat. Gaten in de vorm van een categorie kosten meer dan uniforme ruis, omdat er niets op alarmeert. Haal het weigeringspad weg en wat overblijft — misvormingen, afkappingen, dubbelzinnige tekst — hangt niet samen met het onderwerp, en is daarmee meetbaar.

05Context, uitvoerlimiet, en hoe u ze begroot

Elk model op de gateway deelt dezelfde limieten:

Context is een gedeeld budget: prompt plus uitvoer moeten samen binnen 262,144 passen, dus het praktische invoerplafond in één aanroep ligt rond de 245,000 tokens, zeer ruwweg 180,000 Engelse woorden. Voor gestructureerd werk is de uitvoerlimiet van 16,384 tokens de hardere grens, en degene die mensen verrast — een schema dat één object per record uitschrijft, raakt haar lang voordat het venster vol is. Twee patronen helpen daartegen:

• Brede invoer, smalle uitvoer. Duw een heel contract, dossier of logvenster in de context en vraag om één compact object. Invoertokens kosten een kwart van uitvoertokens, dus de prijsstelling beloont veel lezen en weinig schrijven.
• Hak op recordgrenzen, niet op aantallen bytes. Splits waar het model de naad kan zien. Een record dat midden in een zin is doorgesneden, levert een zelfverzekerd fout object op in plaats van een zichtbare fout.

De gerapporteerde kracht van Hy3 bij ophalen uit lange context — 73.4 op AA-LCR, en een sprong van 42.9% naar 75.1% bij het onthouden van lange dialogen op MRCR — is precies de eigenschap waarop het eerste patroon steunt, en een andere vaardigheid dan goed schrijven.

06Bodemprijs, en het rekenwerk van een echte pijplijn

Hy3 zit op $0.50 per miljoen invoertokens en $2.00 per miljoen uitvoertokens — de bodem van de catalogus, gedeeld met MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 en MiniMax-M3. Doorgerekend voor representatieve werklasten:

Werklast	Invoer / aanroep	Uitvoer / aanroep	Kosten / aanroep	Per 1M aanroepen
Veldextractie	1,200	300	$0.0012	$1,200
Documentclassificatie	3,000	120	$0.0018	$1,800
Lang document samenvatten naar schema	40,000	900	$0.0218	$21,800
Analyse over het volle venster	240,000	2,000	$0.1240	$124,000

Het getal dat beslissingen verandert is niet het tarief op de voorpagina, maar het effectieve tarief na retries. Kosten twee modellen hetzelfde en zakt het ene op 6% van de aanroepen voor de validatie waar het andere op 1.5% zakt, dan draait het model met veel drift ongeveer 4.5% meer aanroepen — te overleven. De schade zit in de staart: herhaalde aanroepen duren twee keer zo lang, dus de p99-latentie verdubbelt ruwweg voor een zichtbaar deel van het verkeer, en wat twee keer faalt wordt handwerk. Bij een miljoen aanroepen per dag zijn dat duizenden records die iemand moet lezen.

Vandaar het argument voor het 8-bits niveau tegen de bodemprijs: u betaalt hier geen toeslag voor getrouwheid, dus het rekenwerk rond retries is gratis geld. Was een model van 3 bits goedkoper, dan viel er werkelijk iets af te wegen — Hy3 kost hetzelfde als het goedkoopste in de catalogus.

07Drie API-dialecten, één model

Hy3 is bereikbaar via alle drie de dialecten van de gateway, met streaming op elk ervan. Hetzelfde model, dezelfde gewichten, dezelfde limieten — kies het dialect dat past bij de SDK die u al hebt.

Endpoint	Dialect	Gebruik het wanneer
/v1/chat/completions	OpenAI	U hebt een OpenAI-SDK, LangChain of LlamaIndex. Wijs de base-URL hierheen en verander het model-id.
/v1/messages	Anthropic	U werkt met de Anthropic-SDK en wilt contentblokken zonder vertaallaag.
/v1/responses	Responses	U wilt de nieuwere verzoekvorm met getypeerde uitvoer en status aan de serverkant.

Hy3 ondersteunt ook tool calling en redeneren, inclusief reasoning_effort. Voor extractiewerk is de nuttige zet meestal om het redeneren omlaag te draaien: op een goed gespecificeerd schema over schone tekst zijn denk-tokens uitvoertokens waarvoor u betaalt en latentie waarop u wacht, voor marginale winst. Besteed het inspanningsbudget liever aan werkelijk dubbelzinnige invoer.

De volledige referentie voor verzoek en antwoord, de parameterlijsten, de semantiek van streaming en een interactieve playground staan in de API-documentatie.

08Kiezen tussen de drie W8A16-modellen

Drie modellen zitten op het niveau met de hoogste getrouwheid, alle drie tegen de bodemprijs. De keuze gaat vooral over modaliteit:

Model	Vision	json_schema	Prijs in / uit	Kies het voor
Hy3 · W8A16	Nee	Ja	$0.50 / $2.00	Gestructureerde tekstpijplijnen, het orkestreren van tools, ophalen uit lange context
MiMo-V2.5-Pro · W8A16	Nee	Ja	$0.50 / $2.00	Tekst-only werk waarbij u de Pro-afstemming van de MiMo-lijn wilt
MiMo-V2.5 · W8A16	Ja	Ja	$0.50 / $2.00	Alles met afbeeldingen — gescande documenten, schermafbeeldingen, foto's

Is een deel van uw invoer een afbeelding, dan is de keuze voor u gemaakt: Hy3 is tekst-only — stuur gescande pdf's, schermafbeeldingen en foto's naar MiMo-V2.5. Waar de invoer werkelijk tekst is, sluit het profiel van Hy3 — agentisch gebruik van tools, geheugen over lange context en een laag gerapporteerd hallucinatiepercentage — het meest direct aan op pijplijnwerk. Aangezien alle drie hetzelfde kosten, draait u uw schema op twee ervan over een paar honderd echte records en vergelijkt u de parseerpercentages; dat beslist het beter dan welke tabel dan ook, deze inbegrepen.

09Waar Hy3 zijn plek verdient

• Veldextractie met hoog volume. Contracten, dossiers, incidentrapporten, transcripten, klinische notities, rechtbankstukken — overal waar één getypeerd object per document het eindproduct is en het volume retries duur maakt.
• Classificatie en routering op schaal. Uitvoer met gesloten enums, waar de hele waarde van het model erin zit dat het nooit een negentiende categorie verzint.
• Corpora over veiligheid en dreigingsinformatie. Malwarebeschrijvingen, onthullingen van exploits en phishingvoorbeelden — het materiaal dat gefilterde modellen tot weigeren brengt, en waar een gat in de vorm van een categorie het doel ondermijnt.
• Agents met tool calling die niet mogen vastlopen. Getrouwheid van 8 bits in de argumenten betekent dat de JSON die aan uw functies wordt doorgegeven parseert; een verminkte tool-aanroep is een vastgelopen agent, niet een iets minder goed antwoord.
• Analyse van lange documenten naar structuur. Het hele dossier erin, één compact object eruit.
• Contentmoderatie en beleidsonderzoek. Materiaal labelen dat een gefilterd model weigert te lezen is een blijvend probleem voor trust and safety; een ongefilterd model met een strikt schema lost het rechtstreeks op.

En waar het niet past: alles met afbeeldingen (gebruik MiMo-V2.5), en autonome software-engineering over meerdere bestanden, waar Tencents eigen tabellen Hy3 achter GLM-5.2 zetten op SWE-bench Verified en ver daarachter op DeepSWE.

De benchmarkcijfers zijn door Tencent gerapporteerd, inclusief de getallen van de concurrentie; onafhankelijke verificatie was ten tijde van schrijven nog niet beschikbaar. De kostencijfers zijn berekend op basis van onze gepubliceerde tarieven van $0.50 / $2.00. Geen enkel getal op deze pagina is een door Shannon uitgevoerde benchmark of een schatting.

10Veelgestelde vragen

---

Bronnen: Modelkaarten van Tencent Hunyuan · Hy3-repository · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Berichtgeving van VentureBeat over de release van Hy3. De benchmarks van het basismodel zijn door Tencent gerapporteerd en voorlopig, in afwachting van onafhankelijke verificatie. Shannon AI wordt geëxploiteerd door Shannon Lab LLC, New Mexico, VS.