API del modello Hy3 senza censura

La maggior parte delle discussioni su «quale modello dovrei usare» riguarda il tetto massimo: quale scrive il codice migliore, risolve la matematica più difficile, vince la sessione agentica più lunga. Le pipeline strutturate non funzionano così. Un lavoro che estrae campi da centomila documenti al giorno non ha bisogno di un modello brillante una volta sola — ha bisogno di uno che sia corretto nella stessa forma ogni volta, e che non restituisca mai un paragrafo dove dovrebbe esserci un oggetto JSON. È questa la proprietà per cui esiste Hy3-W8A16.

01Che cos'è Hy3, e da dove viene

Hy3 è un modello di ragionamento e agentico a pesi aperti del team Hunyuan di Tencent, rilasciato per intero il 6 luglio 2026 con licenza permissiva e con i pesi pubblicati su Hugging Face. Prosegue il lignaggio del precedente lavoro Mixture-of-Experts di Tencent, Hunyuan-Large. Dal punto di vista architetturale è un MoE sparso: 295 miliardi di parametri totali, di cui circa 21 miliardi si attivano per token tramite routing top-8 su 192 esperti, su un transformer a 80 livelli con grouped-query attention, più un livello di multi-token prediction da 3,8B separato per il decoding speculativo. Il contesto nativo è 256K — esattamente i 262.144 token che esponiamo, non il troncamento di qualcosa di più grande né l'estensione via rope di qualcosa di più piccolo.

Quel rapporto di sparsità è il numero che conta per chi paga a token: Hy3 porta con sé la conoscenza di un modello da 295B facendo all'incirca l'aritmetica di uno da 21B a ogni passaggio in avanti. È anche il motivo per cui possiamo permetterci di servirlo a 8 bit invece di comprimerlo più aggressivamente — una build a 8 bit di un modello così sparso ci sta ancora dentro e gira ancora veloce sul nostro cluster GPU.

Su che cosa Tencent dice che è forte

Le tabelle di valutazione pubblicate da Tencent collocano i punti di forza di Hy3 nettamente nella ricerca agentica, nell'orchestrazione di strumenti e nel recupero su contesto lungo più che nel coding puro. I loro dati riportati:

Mostriamo di proposito anche le barre deboli. Hy3 resta dietro a GLM-5.2 sul coding nel confronto di Tencent stessa — 78.0 contro 84.2 su SWE-bench Verified, 28.0 contro 46.2 su DeepSWE. Se il tuo carico di lavoro è ingegneria del software autonoma su più file, leggi prima il resto dell'indice di ricerca sui modelli. Se invece si tratta di leggere testo ed emettere struttura, il profilo è quasi ideale.

Il dato che conta di più per il lavoro di pipeline riguarda l'affidabilità: Tencent riporta un tasso di allucinazione di Hy3 del 5,4%, in calo dal 12,5% della generazione precedente, con gli errori di senso comune scesi dal 25,4% al 12,7%. Il principio di addestramento che dichiarano — rispondere quando c'è evidenza, dire chiaramente quando non ce n'è — è esattamente la disposizione che vuoi in un modello di estrazione che altrimenti inventerebbe un valore plausibile per un campo che la fonte non menziona mai.

Tutti i dati di questa sezione sono riportati da Tencent sulla base dei suoi test interni; al momento della scrittura la verifica indipendente di terze parti era ancora in sospeso. Trattali come indicativi, non come definitivi.

02Che cosa significa W8A16, e perché conta per l'output strutturato

Ogni modello sul gateway porta un suffisso di quantizzazione. Non è un ornamento: ti dice quanto i pesi serviti si allontanano dal checkpoint rilasciato dal laboratorio.

Fascia	Che cosa fa	Fedeltà
3BIT-REAP	Pesi a 3 bit più REAP, un metodo di pruning degli esperti che elimina gli esperti MoE raramente instradati prima della quantizzazione	La più compressa
W4A16-AUTOROUND-REAP	Pesi a 4 bit / attivazioni a 16 bit tramite AutoRound — arrotondamento appreso che recupera accuratezza rispetto all'arrotondamento ingenuo al valore più vicino — più il pruning REAP	Intermedia
W8A16	Pesi a 8 bit / attivazioni a 16 bit. Nessun pruning, nessuna riparazione con arrotondamento appreso — i pesi semplicemente portati al doppio della precisione	La più alta

Dove la deriva da quantizzazione fa davvero male

REAP e AutoRound recuperano gran parte di ciò che la compressione ingenua perde — ma «gran parte» sta facendo un bel lavoro in quella frase, e il residuo non si distribuisce in modo uniforme. La quantizzazione a pochi bit degrada le code: le decisioni a bassa probabilità e alta specificità. Nella prosa è quasi invisibile; un aggettivo diverso resta comunque una frase accettabile. Nell'output strutturato è tutto, perché uno schema è una lunga catena di decisioni a bassa probabilità che devono essere tutte esattamente giuste:

• Sintassi a livello di token. Una parentesi graffa di chiusura, una virgola, un carattere di virgolette. Ognuno è un token, e un solo token sbagliato invalida l'intera risposta.
• Disciplina degli enum. Il tuo schema dice che "status" è uno tra "open" | "closed" | "pending"; un modello alla deriva restituisce "Open" o "pending review" — semanticamente vicini, e validi come nessuno dei due.
• Disciplina dei tipi. Un campo number torna indietro come "1,240", un boolean come "yes". Entrambi vengono interpretati come stringhe e falliscono lo schema.
• Letterali di coda lunga. Nomi propri rari, codici articolo, nomi chimici, scritture non latine, date precise — esattamente la regione a bassa probabilità che i pesi a pochi bit sfocano.

Niente di tutto questo rende cattivi i modelli a 4 o 3 bit; per il lavoro conversazionale la differenza di fedeltà spesso non vale la differenza di prezzo. Ma quando il consumatore dell'output è un validatore invece di una persona, la precisione sulle code si converte direttamente in tasso di parsing — e il tasso di parsing in budget per i retry e latenza p99. W8A16 è la fascia in cui smetti di pagare quella tassa.

03Output strutturato: json_schema e response_format

Hy3 supporta entrambe le metà della superficie di output strutturato — vale la pena dirlo esplicitamente, perché nel catalogo non è universale:

Modello	response_format	json_schema
Hy3 · W8A16	Sì	Sì
MiMo-V2.5-Pro · W8A16	Sì	Sì
inkling · W4A16-AUTOROUND-REAP	Sì	No
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	No	No

La differenza tra i due meccanismi conta più di quanto si creda. response_format: {"type": "json_object"} chiede JSON valido e nulla di più — la forma la sceglie il modello, quindi due chiamate possono restituire {"name": ...} e {"full_name": ...} ed entrambe sono corrette. json_schema fornisce la forma in anticipo: campi con nome, tipi, enum, elenchi di campi obbligatori, annidamento. Questo è un contratto contro cui puoi scrivere codice.

Una chiamata minima nel dialetto compatibile con OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Note pratiche

• Rendi obbligatorio ogni campo e consenti null. I campi opzionali invitano a omissioni silenziose; un campo obbligatorio ma nullable impone un «non presente» esplicito, che è un'informazione su cui puoi agire.
• Gli enum battono le stringhe libere. Ovunque tu possa chiudere l'insieme dei valori, chiudilo — è la modifica con la leva maggiore sul tasso di successo reale di uno schema.
• Resta sotto il tetto di 16.384 token di output. Un array senza limiti si troncherà a metà oggetto. Limita la lunghezza degli array, oppure suddividi l'input.
• Mantieni il messaggio di sistema. Lo schema vincola la forma; il prompt governa comunque la semantica — che cosa conta come «critical», quale data vince quando ne compaiono due, se normalizzare le unità.
• Valida comunque. Il supporto agli schemi alza il tasso di successo; non sostituisce un validatore e una dead-letter queue.

04Perché «senza censura» è una proprietà di affidabilità, non solo di contenuto

Hy3 sul gateway non ha alcuno strato di rifiuto né alcun filtro sull'output. L'inquadramento abituale riguarda il contenuto: puoi elaborare ricerca sulla sicurezza, analisi di malware, resoconti di exploit, corpora medici e legali, materiale per adulti, documentazione di riduzione del danno o trascrizioni di utenti ostili senza che il modello decida al posto tuo che preferirebbe non farlo.

C'è una seconda ragione, più meccanica, per cui conta. Un rifiuto è una violazione dello schema. Un modello filtrato che declina non restituisce il tuo oggetto con un flag "unavailable" — restituisce prosa. «Non posso aiutarti con questa richiesta.» Quella stringa non è un oggetto incident; fallisce il tuo validatore e finisce nella dead-letter queue accanto a errori di parsing genuini, dove ora devi separare i rifiuti di policy dalle malformazioni reali.

Peggio, i rifiuti sono correlati al contenuto invece di distribuirsi in modo casuale. Se il 4% del tuo corpus è fatto di rapporti su incidenti di sicurezza e il modello ne declina la maggior parte, non hai perso il 4% di throughput in modo uniforme — hai perso una categoria, e la dashboard costruita su quei dati sottostima silenziosamente esattamente la cosa che esiste per far emergere. I buchi a forma di categoria costano più del rumore uniforme perché nessun allarme scatta su di loro. Rimuovi il percorso di rifiuto e ciò che resta — malformazioni, troncamenti, testo ambiguo — non è correlato all'argomento, e quindi è misurabile.

05Contesto, tetto di output e come pianificarne il budget

Ogni modello sul gateway condivide gli stessi limiti:

Il contesto è un budget condiviso: prompt e output insieme devono stare dentro i 262.144, quindi il tetto pratico dell'input in una singola chiamata è di circa 245.000 token, molto approssimativamente 180.000 parole inglesi. Per il lavoro strutturato il limite più duro è il tetto di 16.384 token di output, ed è quello che sorprende le persone — uno schema che emette un oggetto per record lo raggiunge molto prima che la finestra si riempia. Contro questo funzionano due schemi:

• Input largo, output stretto. Spingi in contesto un intero contratto, deposito o finestra di log e chiedi un solo oggetto compatto. I token di input costano un quarto di quelli di output, quindi il prezzo premia il leggere molto e lo scrivere poco.
• Suddividi sui confini dei record, non sul conteggio dei byte. Taglia dove il modello può vedere la giuntura. Un record tagliato a metà frase produce un oggetto sbagliato con sicurezza, invece di un fallimento evidente.

La forza dichiarata di Hy3 nel recupero su contesto lungo — 73.4 su AA-LCR, e un salto dal 42,9% al 75,1% sul richiamo di dialoghi lunghi MRCR — è esattamente la capacità da cui dipende il primo schema, ed è un'abilità diversa dallo scrivere bene.

06Prezzo minimo e l'aritmetica di una pipeline reale

Hy3 sta a 0,50 $ per milione di token in input e 2,00 $ per milione di token in output — il minimo del catalogo, condiviso con MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 e MiniMax-M3. Sviluppato su carichi rappresentativi:

Carico di lavoro	Input / chiamata	Output / chiamata	Costo / chiamata	Per 1M di chiamate
Estrazione di campi	1,200	300	$0.0012	$1,200
Classificazione di documenti	3,000	120	$0.0018	$1,800
Riassunto di documenti lunghi in schema	40,000	900	$0.0218	$21,800
Analisi a finestra piena	240,000	2,000	$0.1240	$124,000

Il numero che cambia le decisioni non è la tariffa di copertina ma quella effettiva dopo i retry. Se due modelli costano uguale e uno fallisce la validazione sul 6% delle chiamate mentre l'altro fallisce sull'1,5%, il modello con più deriva esegue circa il 4,5% di chiamate in più — sopportabile. Il danno è sulla coda: le chiamate ritentate impiegano il doppio del tempo, quindi la latenza p99 grosso modo raddoppia per una fetta visibile di traffico, e ciò che fallisce due volte diventa lavoro manuale. A un milione di chiamate al giorno sono migliaia di record che qualcuno deve leggere.

Da qui la ragione per la fascia a 8 bit al prezzo minimo: qui non stai pagando un sovrapprezzo per la fedeltà, quindi l'aritmetica dei retry è denaro gratis. Se un modello a 3 bit costasse meno ci sarebbe un compromesso reale da valutare — Hy3 costa quanto la cosa più economica del catalogo.

07Tre dialetti API, un solo modello

Hy3 è raggiungibile su tutti e tre i dialetti del gateway, con streaming su ciascuno. Stesso modello, stessi pesi, stessi limiti — scegli quello che corrisponde all'SDK che hai già.

Endpoint	Dialetto	Usalo quando
/v1/chat/completions	OpenAI	Hai un SDK OpenAI, LangChain o LlamaIndex. Punta qui la base URL e cambia l'id del modello.
/v1/messages	Anthropic	Sei sull'SDK Anthropic e vuoi i blocchi di contenuto senza uno strato di traduzione.
/v1/responses	Responses	Vuoi la forma di richiesta più recente con output tipizzato e stato lato server.

Hy3 supporta anche il tool calling e il ragionamento, incluso reasoning_effort. Per il lavoro di estrazione la mossa utile è di solito abbassare il ragionamento: su uno schema ben specificato applicato a testo pulito, i token di pensiero sono token di output che paghi e latenza che aspetti, a fronte di un guadagno marginale. Spendi il budget di sforzo sull'input genuinamente ambiguo.

Il riferimento completo di richieste e risposte, gli elenchi dei parametri, la semantica dello streaming e un playground interattivo si trovano nella documentazione API.

08Scegliere tra i tre modelli W8A16

Tre modelli stanno sulla fascia a fedeltà più alta, tutti al prezzo minimo. La scelta è soprattutto di modalità:

Modello	Visione	json_schema	Prezzo in / out	Scegli questo per
Hy3 · W8A16	No	Sì	$0.50 / $2.00	Pipeline strutturate solo testo, orchestrazione di strumenti, recupero su contesto lungo
MiMo-V2.5-Pro · W8A16	No	Sì	$0.50 / $2.00	Lavoro solo testo in cui vuoi la messa a punto Pro della linea MiMo
MiMo-V2.5 · W8A16	Sì	Sì	$0.50 / $2.00	Qualsiasi cosa con immagini — documenti scansionati, screenshot, foto

Se una qualsiasi parte del tuo input è un'immagine la decisione è già presa: Hy3 è solo testo — manda PDF scansionati, screenshot e fotografie a MiMo-V2.5. Dove l'input è genuinamente testo, il profilo di Hy3 fatto di uso agentico di strumenti, richiamo su contesto lungo e basso tasso di allucinazione dichiarato è quello che si applica più direttamente al lavoro di pipeline. Poiché costano tutti e tre uguale, esegui il tuo schema su due di essi con qualche centinaio di record reali e confronta i tassi di parsing; questo risolve la questione meglio di qualsiasi tabella, inclusa questa.

09Dove Hy3 si guadagna il suo posto

• Estrazione di campi ad alto volume. Contratti, depositi, rapporti di incidente, trascrizioni, note cliniche, atti giudiziari — ovunque il risultato atteso sia un oggetto tipizzato per documento e il volume renda costosi i retry.
• Classificazione e routing su larga scala. Output a enum chiusi, dove tutto il valore del modello sta nel non inventare mai una diciannovesima categoria.
• Corpora di sicurezza e threat intelligence. Analisi di malware, divulgazioni di exploit e campioni di phishing — il materiale che fa scattare i modelli filtrati nel rifiuto, e dove un buco a forma di categoria vanifica lo scopo.
• Agenti con tool calling che non devono incepparsi. La fedeltà a 8 bit sugli argomenti significa che il JSON passato alle tue funzioni viene interpretato correttamente; una chiamata a strumento storpiata è un agente bloccato, non una risposta leggermente peggiore.
• Analisi di documenti lunghi verso una struttura. Dentro l'intero deposito, fuori un solo oggetto compatto.
• Moderazione dei contenuti e ricerca sulle policy. Etichettare materiale che un modello filtrato si rifiuta di leggere è un problema permanente di trust and safety; un modello non filtrato con uno schema rigoroso lo risolve direttamente.

E dove invece no: qualsiasi cosa con immagini (usa MiMo-V2.5) e l'ingegneria del software autonoma su più file, dove le tabelle di Tencent stessa mettono Hy3 dietro a GLM-5.2 su SWE-bench Verified e molto più indietro su DeepSWE.

I dati di benchmark sono riportati da Tencent, inclusi i numeri dei concorrenti; al momento della scrittura la verifica indipendente era in sospeso. I dati di costo sono calcolati dalle nostre tariffe pubblicate di 0,50 $ / 2,00 $. Nessun numero in questa pagina è un benchmark eseguito da Shannon né una stima.

10Domande frequenti

---

Fonti: schede modello Tencent Hunyuan · repository Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · copertura VentureBeat del rilascio di Hy3. I benchmark della base sono riportati da Tencent e provvisori in attesa di verifica indipendente. Shannon AI è gestita da Shannon Lab LLC, New Mexico, USA.