Unzensierte Hy3-Modell-API

Die meisten „Welches Modell soll ich nehmen“-Debatten drehen sich um die Spitze: Wer schreibt den besten Code, löst die schwerste Mathematik, gewinnt den längsten Agentenlauf. Strukturierte Pipelines funktionieren nicht so. Ein Job, der aus hunderttausend Dokumenten am Tag Felder extrahiert, braucht kein Modell, das einmal brillant ist — er braucht eines, das jedes Mal in derselben Form korrekt ist und nie einen Absatz liefert, wo ein JSON-Objekt hingehört. Genau für diese Eigenschaft ist Hy3-W8A16 da.

01Was Hy3 ist und woher es kommt

Hy3 ist ein Open-Weight-Modell für Reasoning und agentische Arbeit vom Hunyuan-Team bei Tencent, am 6. Juli 2026 vollständig unter einer permissiven Lizenz veröffentlicht, mit Gewichten auf Hugging Face. Es setzt die Linie von Tencents früherer Mixture-of-Experts-Arbeit Hunyuan-Large fort. Architektonisch ist es ein sparsames MoE: 295 Milliarden Gesamtparameter, von denen rund 21 Milliarden pro Token aktivieren, per Top-8-Routing über 192 Experten, auf einem 80-Schichten-Transformer mit Grouped-Query Attention, dazu eine separate 3,8B-Multi-Token-Prediction-Schicht für spekulatives Decoding. Der native Kontext beträgt 256K — exakt die 262.144 Token, die wir bereitstellen, keine Kürzung von etwas Größerem und keine per RoPE gestreckte Erweiterung von etwas Kleinerem.

Dieses Sparsamkeitsverhältnis ist die entscheidende Zahl für alle, die pro Token zahlen: Hy3 trägt das Wissen eines 295B-Modells und rechnet dabei pro Forward-Pass ungefähr wie ein 21B-Modell. Es ist auch der Grund, warum wir es uns leisten können, es mit 8 Bit auszuliefern, statt stärker zu komprimieren — ein 8-Bit-Build eines derart sparsamen Modells passt weiterhin und läuft weiterhin schnell auf unserem eigenen GPU-Cluster.

Worin es laut Tencent gut ist

Tencents veröffentlichte Evaluationstabellen verorten Hy3s Stärken klar bei agentischer Suche, Werkzeug-Orchestrierung und Retrieval über lange Kontexte statt beim reinen Programmieren. Ihre berichteten Zahlen:

Die schwachen Balken zeigen wir mit Absicht. Hy3 liegt beim Programmieren hinter GLM-5.2, in Tencents eigenem Vergleich — 78.0 gegen 84.2 auf SWE-bench Verified, 28.0 gegen 46.2 auf DeepSWE. Wenn Ihre Last autonome Softwareentwicklung über viele Dateien ist, lesen Sie zuerst den Rest des Modell-Forschungsindex. Geht es darum, Text zu lesen und Struktur auszugeben, ist das Profil nahezu ideal.

Die für Pipeline-Arbeit wichtigste Zahl betrifft die Zuverlässigkeit: Tencent berichtet Hy3s Halluzinationsrate mit 5,4%, gegenüber 12,5% in der Vorgängergeneration, bei einem Rückgang der Alltagslogik-Fehler von 25,4% auf 12,7%. Das von ihnen genannte Trainingsprinzip — antworten, wenn es Belege gibt, und klar sagen, wenn es keine gibt — ist genau die Haltung, die man bei einem Extraktionsmodell will, das sonst einen plausiblen Wert für ein Feld erfindet, das die Quelle nie erwähnt.

Alle Zahlen dieses Abschnitts stammen von Tencent aus deren eigenen Testläufen; eine unabhängige Prüfung durch Dritte stand zum Redaktionszeitpunkt noch aus. Behandeln Sie sie als richtungsweisend, nicht als gesichert.

02Was W8A16 bedeutet und warum es für strukturierte Ausgabe zählt

Jedes Modell auf dem Gateway trägt ein Quantisierungssuffix. Es ist keine Dekoration — es sagt Ihnen, wie weit die ausgelieferten Gewichte von dem Checkpoint entfernt sind, den das Labor freigegeben hat.

Stufe	Was sie tut	Genauigkeit
3BIT-REAP	3-Bit-Gewichte plus REAP, ein Experten-Pruning-Verfahren, das selten geroutete MoE-Experten vor der Quantisierung entfernt	Am stärksten komprimiert
W4A16-AUTOROUND-REAP	4-Bit-Gewichte / 16-Bit-Aktivierungen per AutoRound — gelerntes Runden, das gegenüber naivem Runden auf den nächsten Wert Genauigkeit zurückholt — plus REAP-Pruning	Mitte
W8A16	8-Bit-Gewichte / 16-Bit-Aktivierungen. Kein Pruning, keine Reparatur per gelerntem Runden — die Gewichte werden schlicht mit doppelter Präzision geführt	Höchste

Wo Quantisierungsdrift tatsächlich weh tut

REAP und AutoRound holen das meiste zurück, was naive Kompression verliert — aber „das meiste“ trägt in diesem Satz Gewicht, und der Rest verteilt sich nicht gleichmäßig. Niedrigbit-Quantisierung verschlechtert die Verteilungsränder: die unwahrscheinlichen, hochspezifischen Entscheidungen. In Prosa ist das fast unsichtbar; ein anderes Adjektiv ergibt immer noch einen guten Satz. Bei strukturierter Ausgabe ist es das ganze Spiel, denn ein Schema ist eine lange Kette unwahrscheinlicher Entscheidungen, die jede einzeln exakt stimmen muss:

• Syntax auf Token-Ebene. Eine schließende Klammer, ein Komma, ein Anführungszeichen. Jedes ist ein Token, und ein falsches Token macht die gesamte Antwort ungültig.
• Enum-Disziplin. Ihr Schema sagt, "status" sei eines von "open" | "closed" | "pending"; ein abgedriftetes Modell liefert "Open" oder "pending review" — semantisch nah und als keines von beiden gültig.
• Typ-Disziplin. Ein number-Feld kommt als "1,240" zurück, ein boolean als "yes". Beide parsen als Strings und fallen durchs Schema.
• Literale vom Rand der Verteilung. Seltene Eigennamen, Teilenummern, chemische Bezeichnungen, nichtlateinische Schriften, präzise Daten — genau die unwahrscheinliche Region, die Niedrigbit-Gewichte verwischen.

Nichts davon macht 4-Bit- oder 3-Bit-Modelle schlecht; für dialogische Arbeit ist der Präzisionsunterschied den Preisunterschied oft nicht wert. Aber wenn der Konsument der Ausgabe ein Validator ist und kein Mensch, übersetzt sich Präzision an den Rändern direkt in die Parse-Rate — und die Parse-Rate in Retry-Budget und p99-Latenz. W8A16 ist die Stufe, auf der Sie diese Steuer nicht mehr zahlen.

03Strukturierte Ausgabe: json_schema und response_format

Hy3 unterstützt beide Hälften der Oberfläche für strukturierte Ausgabe — das sei ausdrücklich gesagt, denn im Katalog ist das nicht durchgängig so:

Modell	response_format	json_schema
Hy3 · W8A16	Ja	Ja
MiMo-V2.5-Pro · W8A16	Ja	Ja
inkling · W4A16-AUTOROUND-REAP	Ja	Nein
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nein	Nein

Der Unterschied zwischen den beiden Mechanismen zählt mehr, als man annimmt. response_format: {"type": "json_object"} verlangt gültiges JSON und sonst nichts — die Form wählt das Modell, sodass zwei Aufrufe {"name": ...} und {"full_name": ...} zurückgeben können und beide korrekt sind. json_schema gibt die Form vorab vor: benannte Felder, Typen, Enums, Pflichtlisten, Verschachtelung. Das ist ein Vertrag, gegen den Sie Code schreiben können.

Ein minimaler Aufruf im OpenAI-kompatiblen Dialekt:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktische Hinweise

• Machen Sie jedes Feld erforderlich und erlauben Sie null. Optionale Felder laden zu stillem Weglassen ein; ein erforderliches, nullbares Feld erzwingt ein ausdrückliches „nicht vorhanden“, und das ist eine Information, mit der Sie arbeiten können.
• Enums schlagen freie Strings. Überall, wo Sie die Wertemenge schließen können, schließen Sie sie — die wirkungsvollste Änderung an der realen Erfolgsquote eines Schemas.
• Bleiben Sie unter der Ausgabegrenze von 16.384 Token. Ein unbegrenztes Array bricht mitten im Objekt ab. Begrenzen Sie Array-Längen oder zerlegen Sie die Eingabe.
• Behalten Sie die Systemnachricht. Das Schema begrenzt die Form; der Prompt steuert weiterhin die Semantik — was als „kritisch“ zählt, welches Datum gewinnt, wenn zwei auftauchen, ob Einheiten normalisiert werden.
• Validieren Sie trotzdem. Schema-Unterstützung hebt die Erfolgsquote; sie ersetzt keinen Validator und keine Dead-Letter-Queue.

04Warum „unzensiert“ eine Zuverlässigkeitseigenschaft ist, nicht nur eine inhaltliche

Hy3 hat auf dem Gateway keine Ablehnungsschicht und keine Ausgabefilterung. Üblicherweise wird das inhaltlich gerahmt: Sie können Sicherheitsforschung, Malware-Analysen, Exploit-Berichte, medizinische und juristische Korpora, Erwachsenenmaterial, Harm-Reduction-Dokumentation oder Mitschriften feindseliger Nutzer verarbeiten, ohne dass das Modell für Sie entscheidet, dass es lieber nicht möchte.

Es gibt einen zweiten, mechanischeren Grund, warum das zählt. Eine Ablehnung ist eine Schemaverletzung. Ein gefiltertes Modell, das ablehnt, gibt nicht Ihr Objekt mit einem "unavailable"-Flag zurück — es gibt Prosa zurück. „Dabei kann ich nicht helfen.“ Diese Zeichenkette ist kein incident-Objekt; sie fällt durch Ihren Validator und landet in der Dead-Letter-Queue neben echten Parse-Fehlern, wo Sie nun Ablehnungen aus Richtliniengründen von tatsächlichen Formfehlern trennen müssen.

Schlimmer noch: Ablehnungen korrelieren mit Inhalten, statt sich zufällig zu verteilen. Sind 4% Ihres Korpus Berichte über Sicherheitsvorfälle und das Modell lehnt die meisten davon ab, haben Sie nicht 4% Durchsatz gleichmäßig verloren — Sie haben eine Kategorie verloren, und das darauf gebaute Dashboard meldet still genau das zu niedrig, wofür es existiert. Lücken in Kategorieform kosten mehr als gleichmäßiges Rauschen, weil nichts darauf Alarm schlägt. Entfernen Sie den Ablehnungspfad, dann ist das, was bleibt — Formfehler, Abbrüche, mehrdeutiger Text —, unkorreliert mit dem Thema und damit messbar.

05Kontext, Ausgabegrenze und wie man sie plant

Alle Modelle auf dem Gateway teilen dieselben Grenzen:

Der Kontext ist ein gemeinsames Budget: Prompt und Ausgabe müssen zusammen in 262.144 passen, weshalb die praktische Eingabegrenze in einem Aufruf bei etwa 245.000 Token liegt, sehr grob 180.000 englische Wörter. Für strukturierte Arbeit ist die Ausgabegrenze von 16.384 Token die härtere Schranke und die, die Leute überrascht — ein Schema, das ein Objekt pro Datensatz ausgibt, stößt lange vor dem Füllen des Fensters daran. Zwei Muster wirken dagegen:

• Breite Eingabe, schmale Ausgabe. Schieben Sie einen ganzen Vertrag, einen Geschäftsbericht oder ein Log-Fenster in den Kontext und verlangen Sie ein kompaktes Objekt. Eingabe-Token kosten ein Viertel der Ausgabe-Token, die Preisgestaltung belohnt also viel Lesen und wenig Schreiben.
• Schneiden Sie an Datensatzgrenzen, nicht nach Byte-Zahl. Teilen Sie dort, wo das Modell die Naht sieht. Ein mitten im Satz zerschnittener Datensatz erzeugt ein selbstbewusst falsches Objekt statt eines offensichtlichen Fehlers.

Hy3s berichtete Stärke beim Retrieval über lange Kontexte — 73.4 auf AA-LCR und ein Sprung von 42,9% auf 75,1% beim MRCR-Recall in langen Dialogen — ist genau die Fähigkeit, auf der das erste Muster beruht, und eine andere Fertigkeit als gutes Schreiben.

06Basispreis und die Rechnung einer echten Pipeline

Hy3 liegt bei $0.50 pro Million Eingabe-Token und $2.00 pro Million Ausgabe-Token — dem Katalogboden, geteilt mit MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 und MiniMax-M3. Durchgerechnet an repräsentativen Lasten:

Last	Eingabe / Aufruf	Ausgabe / Aufruf	Kosten / Aufruf	Pro 1M Aufrufe
Feldextraktion	1,200	300	$0.0012	$1,200
Dokumentklassifikation	3,000	120	$0.0018	$1,800
Langes Dokument in Schema zusammenfassen	40,000	900	$0.0218	$21,800
Analyse über das volle Fenster	240,000	2,000	$0.1240	$124,000

Die Zahl, die Entscheidungen ändert, ist nicht der Schlagzeilentarif, sondern der effektive Tarif nach Wiederholungen. Kosten zwei Modelle gleich viel und scheitert eines bei 6% der Aufrufe an der Validierung, das andere bei 1,5%, führt das driftende Modell rund 4,5% mehr Aufrufe aus — verkraftbar. Der Schaden liegt am Rand: Wiederholte Aufrufe dauern doppelt so lange, sodass die p99-Latenz für einen sichtbaren Teil des Verkehrs etwa verdoppelt wird, und was zweimal scheitert, wird zu Handarbeit. Bei einer Million Aufrufen am Tag sind das Tausende Datensätze, die jemand lesen muss.

Daher das Argument für die 8-Bit-Stufe zum Basispreis: Sie zahlen hier keinen Aufpreis für Präzision, also ist die Retry-Rechnung geschenktes Geld. Wäre ein 3-Bit-Modell günstiger, gäbe es einen echten Kompromiss abzuwägen — Hy3 kostet so viel wie das Günstigste im Katalog.

07Drei API-Dialekte, ein Modell

Hy3 ist über alle drei Gateway-Dialekte erreichbar, jeweils mit Streaming. Gleiches Modell, gleiche Gewichte, gleiche Grenzen — nehmen Sie den, der zu Ihrem vorhandenen SDK passt.

Endpunkt	Dialekt	Verwenden, wenn
/v1/chat/completions	OpenAI	Sie ein OpenAI-SDK, LangChain oder LlamaIndex haben. Base-URL hierher zeigen lassen, Modell-ID ändern.
/v1/messages	Anthropic	Sie auf dem Anthropic-SDK sind und Inhaltsblöcke ohne Übersetzungsschicht wollen.
/v1/responses	Responses	Sie die neuere Anfrageform mit typisierter Ausgabe und serverseitigem Zustand wollen.

Hy3 unterstützt außerdem Tool-Calling und Reasoning, einschließlich reasoning_effort. Für Extraktionsarbeit ist der nützliche Zug meist, das Reasoning herunterzudrehen: Bei einem gut spezifizierten Schema über sauberem Text sind Denk-Token Ausgabe-Token, für die Sie zahlen, und Latenz, die Sie abwarten, bei geringem Zusatznutzen. Investieren Sie das Effort-Budget stattdessen in wirklich mehrdeutige Eingaben.

Die vollständige Anfrage- und Antwortreferenz, Parameterlisten, Streaming-Semantik und ein interaktiver Playground stehen in der API-Dokumentation.

08Die Wahl unter den drei W8A16-Modellen

Drei Modelle liegen auf der genauesten Stufe, alle zum Basispreis. Die Wahl ist überwiegend eine der Modalität:

Modell	Vision	json_schema	Preis rein / raus	Nehmen für
Hy3 · W8A16	Nein	Ja	$0.50 / $2.00	Reine Text-Pipelines mit Struktur, Werkzeug-Orchestrierung, Retrieval über lange Kontexte
MiMo-V2.5-Pro · W8A16	Nein	Ja	$0.50 / $2.00	Reine Textarbeit, bei der Sie das Pro-Tuning der MiMo-Linie wollen
MiMo-V2.5 · W8A16	Ja	Ja	$0.50 / $2.00	Alles mit Bildern — gescannte Dokumente, Screenshots, Fotos

Ist ein Teil Ihrer Eingabe ein Bild, ist die Entscheidung für Sie gefallen: Hy3 ist reiner Text — schicken Sie gescannte PDFs, Screenshots und Fotografien an MiMo-V2.5. Wo die Eingabe wirklich Text ist, passt Hy3s Profil aus agentischer Werkzeugnutzung, Recall über lange Kontexte und niedriger berichteter Halluzinationsrate am direktesten auf Pipeline-Arbeit. Da alle drei gleich viel kosten, lassen Sie Ihr Schema auf zweien davon über ein paar hundert echte Datensätze laufen und vergleichen Sie die Parse-Raten; das klärt die Frage besser als jede Tabelle, diese eingeschlossen.

09Wo Hy3 sich seinen Platz verdient

• Feldextraktion in hoher Stückzahl. Verträge, Geschäftsberichte, Vorfallmeldungen, Mitschriften, klinische Notizen, Gerichtsakten — überall dort, wo ein typisiertes Objekt pro Dokument das Ergebnis ist und das Volumen Wiederholungen teuer macht.
• Klassifikation und Routing im großen Maßstab. Ausgaben mit geschlossenen Enums, bei denen der gesamte Wert des Modells darin besteht, nie eine neunzehnte Kategorie zu erfinden.
• Korpora aus Sicherheit und Threat Intelligence. Malware-Berichte, Exploit-Veröffentlichungen und Phishing-Proben — das Material, das gefilterte Modelle in Ablehnungen treibt, und wo eine Lücke in Kategorieform den Zweck zunichtemacht.
• Tool-Calling-Agenten, die nicht stehenbleiben dürfen. 8-Bit-Argumentgenauigkeit heißt, dass das an Ihre Funktionen übergebene JSON parst; ein verstümmelter Tool-Call ist ein stehengebliebener Agent, keine leicht schlechtere Antwort.
• Analyse langer Dokumente in Struktur. Ganzer Bericht hinein, ein kompaktes Objekt heraus.
• Inhaltsmoderation und Richtlinienforschung. Material zu labeln, das ein gefiltertes Modell nicht lesen will, ist ein Dauerproblem im Bereich Trust and Safety; ein ungefiltertes Modell mit striktem Schema löst es direkt.

Und wo nicht: alles mit Bildern (nehmen Sie MiMo-V2.5) und autonome Softwareentwicklung über viele Dateien, wo Tencents eigene Tabellen Hy3 auf SWE-bench Verified hinter GLM-5.2 und auf DeepSWE deutlich dahinter setzen.

Benchmark-Zahlen sind von Tencent berichtet, einschließlich der Werte der Wettbewerber; eine unabhängige Prüfung stand zum Redaktionszeitpunkt aus. Die Kostenangaben sind aus unseren veröffentlichten Tarifen von $0.50 / $2.00 berechnet. Keine Zahl auf dieser Seite ist ein von Shannon durchgeführter Benchmark oder eine Schätzung.

10Häufig gestellte Fragen

---

Quellen: Tencent-Hunyuan-Modellkarten · Hy3-Repository · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat-Berichterstattung zur Hy3-Veröffentlichung. Die Benchmarks des Fundaments sind von Tencent berichtet und vorläufig bis zur unabhängigen Prüfung. Shannon AI wird von der Shannon Lab LLC, New Mexico, USA, betrieben.