API-ul modelului Hy3 fără cenzură

Cele mai multe dispute de tip „ce model să folosesc” sunt despre plafon: care scrie cel mai bun cod, rezolvă cea mai grea matematică, câștigă cea mai lungă rulare agentică. Fluxurile structurate nu funcționează așa. O sarcină care extrage câmpuri din o sută de mii de documente pe zi nu are nevoie de un model genial o dată — are nevoie de unul corect în aceeași formă de fiecare dată și care să nu întoarcă niciodată un paragraf acolo unde trebuie un obiect JSON. Pentru proprietatea asta există Hy3-W8A16.

01Ce este Hy3 și de unde vine

Hy3 este un model de raționament și agentic, cu greutăți deschise, de la echipa Hunyuan a celor de la Tencent, lansat integral pe 6 iulie 2026 sub o licență permisivă, cu greutăți publicate pe Hugging Face. Continuă linia muncii anterioare Mixture-of-Experts a Tencent, Hunyuan-Large. Arhitectural este un MoE rar: 295 de miliarde de parametri totali, dintre care aproximativ 21 de miliarde se activează per token prin rutare top-8 peste 192 de experți, pe un transformer cu 80 de straturi și atenție cu interogări grupate, plus un strat separat de multi-token-prediction de 3,8B pentru decodare speculativă. Contextul nativ este de 256K — exact cele 262.144 de tokenuri pe care le expunem, nu o trunchiere a ceva mai mare și nici o extindere prin întinderea RoPE a ceva mai mic.

Raportul acela de raritate este cifra importantă pentru oricine plătește per token: Hy3 poartă cunoștințele unui model de 295B, făcând în același timp cam aritmetica unuia de 21B per trecere înainte. Tot de aceea ne permitem să-l servim pe 8 biți, în loc să-l comprimăm mai tare — un build pe 8 biți al unui model atât de rar tot încape și tot rulează rapid pe propriul nostru cluster GPU.

La ce raportează Tencent că este bun

Tabelele de evaluare publicate de Tencent așază punctele forte ale lui Hy3 clar în căutare agentică, orchestrare de unelte și regăsire pe context lung, mai degrabă decât în programare brută. Cifrele raportate de ei:

Arătăm barele slabe intenționat. Hy3 rămâne în urma lui GLM-5.2 la programare în comparația chiar a celor de la Tencent — 78,0 față de 84,2 la SWE-bench Verified, 28,0 față de 46,2 la DeepSWE. Dacă volumul tău de lucru este inginerie software autonomă pe mai multe fișiere, citește mai întâi restul indexului de cercetare pe modele. Dacă este citire de text și emitere de structură, profilul este aproape ideal.

Cifra care contează cel mai mult pentru munca în fluxuri este una de fiabilitate: Tencent raportează rata de halucinație a lui Hy3 la 5,4%, în scădere de la 12,5% în generația anterioară, cu erorile de bun-simț scăzând de la 25,4% la 12,7%. Principiul lor declarat de antrenare — răspunde când există dovezi, spune pe șleau când nu există — este exact dispoziția pe care o vrei la un model de extragere care altfel ar inventa o valoare plauzibilă pentru un câmp pe care sursa nu-l pomenește niciodată.

Toate cifrele din secțiunea aceasta sunt raportate de Tencent, din propriile lor rulări de test; verificarea independentă de către terți era încă în așteptare la momentul redactării. Tratează-le ca orientative, nu ca stabilite.

02Ce înseamnă W8A16 și de ce contează pentru ieșirea structurată

Fiecare model de pe gateway poartă un sufix de cuantizare. Nu este decorație — îți spune cât de departe stau greutățile servite față de checkpointul lansat de laborator.

Treaptă	Ce face	Fidelitate
3BIT-REAP	Greutăți pe 3 biți plus REAP, o metodă de tăiere a experților care elimină experții MoE rar rutați înainte de cuantizare	Cel mai comprimat
W4A16-AUTOROUND-REAP	Greutăți pe 4 biți / activări pe 16 biți prin AutoRound — rotunjire învățată, care recuperează acuratețe față de rotunjirea naivă la cel mai apropiat — plus tăiere REAP	Mijloc
W8A16	Greutăți pe 8 biți / activări pe 16 biți. Nicio tăiere, nicio reparație prin rotunjire învățată — greutățile pur și simplu duse la precizie dublă	Cea mai mare

Unde doare de fapt deriva de cuantizare

REAP și AutoRound recuperează cea mai mare parte din ce pierde compresia naivă — dar „cea mai mare parte” duce greutatea propoziției, iar reziduul nu se așază uniform. Cuantizarea cu puțini biți degradează cozile: deciziile de probabilitate mică și specificitate mare. În proză, asta este aproape invizibil; un alt adjectiv rămâne o propoziție bună. În ieșirea structurată este totul, pentru că o schemă este un lanț lung de decizii de probabilitate mică, fiecare dintre ele trebuind să fie exact corectă:

• Sintaxă la nivel de token. O acoladă de închidere, o virgulă, un caracter de ghilimea. Fiecare este un token, iar un singur token greșit invalidează întregul răspuns.
• Disciplina enumerărilor. Schema ta spune că "status" este unul dintre "open" | "closed" | "pending"; un model derivat întoarce "Open" sau "pending review" — apropiat semantic și valid ca niciunul.
• Disciplina tipurilor. Un câmp number se întoarce ca "1,240", un boolean ca "yes". Ambele se parsează ca șiruri și pică schema.
• Literali din coada lungă. Substantive proprii rare, coduri de piesă, denumiri chimice, scrieri non-latine, date precise — exact regiunea de probabilitate mică pe care o estompează greutățile cu puțini biți.

Nimic din toate astea nu face proaste modelele pe 4 sau pe 3 biți; pentru munca conversațională, diferența de fidelitate deseori nu merită diferența de preț. Dar când consumatorul ieșirii este un validator, nu un om, precizia pe cozi se convertește direct în rată de parsare — iar rata de parsare, în buget de reîncercări și latență p99. W8A16 este treapta la care încetezi să plătești taxa aceea.

03Ieșire structurată: json_schema și response_format

Hy3 suportă ambele jumătăți ale suprafeței de ieșire structurată — merită spus explicit, pentru că lucrul acesta nu este universal în catalog:

Model	response_format	json_schema
Hy3 · W8A16	Da	Da
MiMo-V2.5-Pro · W8A16	Da	Da
inkling · W4A16-AUTOROUND-REAP	Da	Nu
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nu	Nu

Diferența dintre cele două mecanisme contează mai mult decât se presupune. response_format: {"type": "json_object"} cere JSON valid și nimic mai mult — modelul alege forma, așa că două apeluri pot întoarce {"name": ...} și {"full_name": ...}, iar ambele sunt corecte. json_schema furnizează forma din start: câmpuri numite, tipuri, enumerări, liste obligatorii, imbricare. Acela este un contract împotriva căruia poți scrie cod.

Un apel minim pe dialectul compatibil OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Note practice

• Fă fiecare câmp obligatoriu și permite null. Câmpurile opționale invită la omisiuni tăcute; un câmp obligatoriu care acceptă null forțează un „nu este prezent” explicit, adică o informație pe care poți acționa.
• Enumerările bat șirurile libere. Oriunde poți închide setul de valori, închide-l — cea mai eficientă schimbare pentru rata reală de trecere a unei scheme.
• Rămâi sub plafonul de ieșire de 16.384 de tokenuri. Un tablou nemărginit se va trunchia la mijlocul unui obiect. Plafonează lungimile tablourilor sau împarte intrarea.
• Păstrează mesajul de sistem. Schema constrânge forma; promptul tot guvernează semantica — ce se consideră „critic”, ce dată câștigă atunci când apar două, dacă unitățile se normalizează.
• Validează oricum. Suportul de schemă crește rata de trecere; nu înlocuiește un validator și o coadă de mesaje moarte.

04De ce „fără cenzură” este o proprietate de fiabilitate, nu doar una de conținut

Hy3 pe gateway nu are niciun strat de refuz și nicio filtrare a ieșirii. Formularea obișnuită este despre conținut: poți procesa cercetare de securitate, analiză de malware, descrieri de exploituri, corpusuri medicale și juridice, material pentru adulți, documentație de reducere a riscurilor sau transcrieri de utilizatori ostili, fără ca modelul să decidă în locul tău că ar prefera să nu.

Mai există un al doilea motiv, mai mecanic, pentru care contează. Un refuz este o încălcare de schemă. Un model filtrat care refuză nu îți întoarce obiectul cu un indicator "unavailable" — întoarce proză. „Nu pot să te ajut cu cererea asta.” Șirul acela nu este un obiect incident; îți pică validatorul și aterizează în coada de mesaje moarte, lângă erori reale de parsare, unde acum trebuie să separi refuzurile de politică de malformările adevărate.

Mai rău, refuzurile corelează cu conținutul, în loc să se distribuie aleator. Dacă 4% din corpusul tău sunt rapoarte de incidente de securitate și modelul le refuză pe cele mai multe, nu ai pierdut 4% din debit uniform — ai pierdut o categorie, iar dashboardul construit pe datele acelea sub-raportează tăcut exact lucrul pentru care există. Găurile în formă de categorie costă mai mult decât zgomotul uniform, pentru că nimic nu declanșează o alertă pe ele. Elimină calea de refuz și ce rămâne — malformări, trunchieri, text ambiguu — este necorelat cu subiectul și, prin urmare, măsurabil.

05Context, plafon de ieșire și cum le bugetezi

Fiecare model de pe gateway împarte aceleași limite:

Contextul este un buget comun: promptul plus ieșirea trebuie să încapă împreună în 262.144, așa că plafonul practic de intrare într-un singur apel este de aproximativ 245.000 de tokenuri, foarte aproximativ 180.000 de cuvinte în engleză. Pentru munca structurată, plafonul de ieșire de 16.384 de tokenuri este limita mai dură și cea care surprinde lumea — o schemă care emite un obiect per înregistrare îl atinge cu mult înainte ca fereastra să se umple. Două tipare funcționează împotriva asta:

• Intrare largă, ieșire îngustă. Împinge un contract întreg, un dosar sau o fereastră de log-uri în context și cere un singur obiect compact. Tokenurile de intrare costă un sfert din cele de ieșire, așa că prețul răsplătește cititul mult și scrisul puțin.
• Împarte pe granițe de înregistrare, nu pe număr de octeți. Taie acolo unde modelul poate vedea cusătura. O înregistrare tăiată la mijlocul unei propoziții produce un obiect greșit cu încredere, nu un eșec evident.

Puterea raportată a lui Hy3 la regăsirea pe context lung — 73,4 la AA-LCR și un salt de la 42,9% la 75,1% la reamintirea în dialoguri lungi MRCR — este exact capabilitatea de care depinde primul tipar și o abilitate diferită de a scrie bine.

06Prețul minim și aritmetica unui flux real

Hy3 stă la 0,50 $ per milion de tokenuri de intrare și 2,00 $ per milion de tokenuri de ieșire — pragul minim al catalogului, împărțit cu MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 și MiniMax-M3. Calculat pe încărcări reprezentative:

Volum de lucru	Intrare / apel	Ieșire / apel	Cost / apel	Per 1M de apeluri
Extragere de câmpuri	1,200	300	$0.0012	$1,200
Clasificare de documente	3,000	120	$0.0018	$1,800
Rezumat de document lung în schemă	40,000	900	$0.0218	$21,800
Analiză pe fereastra completă	240,000	2,000	$0.1240	$124,000

Cifra care schimbă deciziile nu este tariful de titlu, ci cel efectiv, după reîncercări. Dacă două modele costă la fel și unul pică validarea la 6% dintre apeluri, acolo unde celălalt pică la 1,5%, modelul cu derivă mare rulează cu cam 4,5% mai multe apeluri — suportabil. Dauna este pe coadă: apelurile reîncercate durează de două ori mai mult, așa că latența p99 se cam dublează pentru o felie vizibilă de trafic, iar ce pică de două ori devine muncă manuală. La un milion de apeluri pe zi, asta înseamnă mii de înregistrări pe care trebuie să le citească cineva.

De aici argumentul pentru treapta pe 8 biți la prețul minim: aici nu plătești o primă pentru fidelitate, așa că aritmetica reîncercărilor este bani gratis. Dacă un model pe 3 biți ar fi mai ieftin, ar exista un compromis real de cântărit — Hy3 costă cât cel mai ieftin lucru din catalog.

07Trei dialecte de API, un singur model

Hy3 este accesibil pe toate cele trei dialecte ale gateway-ului, cu streaming pe fiecare. Același model, aceleași greutăți, aceleași limite — alege-l pe cel care se potrivește cu SDK-ul pe care îl ai deja.

Endpoint	Dialect	Folosește-l când
/v1/chat/completions	OpenAI	Ai un SDK OpenAI, LangChain sau LlamaIndex. Îndreaptă URL-ul de bază aici și schimbă id-ul de model.
/v1/messages	Anthropic	Ești pe SDK-ul Anthropic și vrei blocuri de conținut fără un strat de traducere.
/v1/responses	Responses	Vrei forma mai nouă de cerere, cu ieșire tipată și stare pe server.

Hy3 suportă și apeluri de unelte, și raționament, inclusiv reasoning_effort. Pentru munca de extragere, mișcarea utilă este de obicei să dai raționamentul jos: pe o schemă bine specificată, peste text curat, tokenurile de gândire sunt tokenuri de ieșire pe care le plătești și latență pe care o aștepți, pentru un câștig marginal. Cheltuiește bugetul de efort pe intrări cu adevărat ambigue.

Referința completă de cereri și răspunsuri, listele de parametri, semantica streamingului și un playground interactiv se află în documentația API.

08Cum alegi între cele trei modele W8A16

Trei modele stau pe treapta de fidelitate maximă, toate la prețul minim. Alegerea ține mai ales de modalitate:

Model	Viziune	json_schema	Preț intrare / ieșire	Alege-l pentru
Hy3 · W8A16	Nu	Da	$0.50 / $2.00	Fluxuri structurate doar-text, orchestrare de unelte, regăsire pe context lung
MiMo-V2.5-Pro · W8A16	Nu	Da	$0.50 / $2.00	Muncă doar-text unde vrei reglajul Pro al liniei MiMo
MiMo-V2.5 · W8A16	Da	Da	$0.50 / $2.00	Orice cu imagini — documente scanate, capturi de ecran, fotografii

Dacă vreo parte din intrarea ta este o imagine, decizia este luată în locul tău: Hy3 este doar text — trimite PDF-urile scanate, capturile de ecran și fotografiile către MiMo-V2.5. Acolo unde intrarea este cu adevărat text, profilul lui Hy3 — folosire agentică de unelte, reamintire pe context lung și halucinație raportată scăzută — se potrivește cel mai direct peste munca de flux. Cum toate trei costă la fel, rulează-ți schema pe două dintre ele, pe câteva sute de înregistrări reale, și compară ratele de parsare; asta rezolvă întrebarea mai bine decât orice tabel, inclusiv acesta.

09Unde își merită Hy3 locul

• Extragere de câmpuri la volum mare. Contracte, dosare, rapoarte de incidente, transcrieri, notițe clinice, dosare de instanță — oriunde livrabilul este un obiect tipat per document, iar volumul face reîncercările scumpe.
• Clasificare și rutare la scară. Ieșiri cu enumerări închise, unde toată valoarea modelului este să nu inventeze niciodată o a nouăsprezecea categorie.
• Corpusuri de securitate și de threat-intel. Analize de malware, dezvăluiri de exploituri și mostre de phishing — materialul care împinge modelele filtrate în refuz și unde o gaură în formă de categorie anulează scopul.
• Agenți cu apeluri de unelte care nu au voie să se blocheze. Fidelitatea argumentelor pe 8 biți înseamnă că JSON-ul dat funcțiilor tale se parsează; un apel de unealtă stricat este un agent blocat, nu un răspuns puțin mai slab.
• Analiză de documente lungi transformată în structură. Un dosar întreg la intrare, un singur obiect compact la ieșire.
• Moderare de conținut și cercetare de politici. Etichetarea unui material pe care un model filtrat refuză să-l citească este o problemă permanentă de trust and safety; un model nefiltrat, cu o schemă strictă, o rezolvă direct.

Și unde nu: orice conține imagini (folosește MiMo-V2.5) și inginerie software autonomă pe mai multe fișiere, unde tabelele chiar ale Tencent îl pun pe Hy3 în urma lui GLM-5.2 la SWE-bench Verified și mult în urmă la DeepSWE.

Cifrele de benchmark sunt raportate de Tencent, inclusiv cele ale competitorilor; verificarea independentă era în așteptare la momentul redactării. Cifrele de cost sunt calculate din tarifele noastre publicate de 0,50 $ / 2,00 $. Niciun număr de pe pagina asta nu este un benchmark rulat de Shannon și nici o estimare.

10Întrebări frecvente

---

Surse: fișele de model Tencent Hunyuan · depozitul Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · relatarea VentureBeat despre lansarea Hy3. Benchmarkurile de fundație sunt raportate de Tencent și sunt provizorii, până la verificare independentă. Shannon AI este operat de Shannon Lab LLC, New Mexico, SUA.