L'API del model Hy3 sense censura
La base Hy3 de 295B de Tencent amb fidelitat de pesos de 8 bits, sortida estricta json_schema, una finestra de 262.144 tokens i cap capa de refús — al preu més baix del catàleg.
TL;DR
Hy3-W8A16 és el tercer dels nostres tres models W8A16 — pesos de 8 bits, activacions de 16 bits, el nivell de màxima fidelitat que servim. És només de text, admet tant json_schema com response_format, porta el context de 262.144 tokens i el sostre de sortida de 16.384 tokens comuns a tot el catàleg, i costa 0,50 $ / 2,00 $ per milió de tokens — el terra. Cap capa de refús, cap filtre de sortida. Tria'l per a canonades de text d'alt volum que han de retornar una sortida tipada i analitzable a cada crida, també sobre material que un model filtrat es negaria a tocar.
La majoria de discussions sobre «quin model hauria de fer servir» van del sostre: quin escriu el millor codi, resol les matemàtiques més difícils, guanya l'execució d'agent més llarga. Les canonades estructurades no funcionen així. Una feina que extreu camps de cent mil documents al dia no necessita un model que sigui brillant una vegada — necessita un que sigui correcte amb la mateixa forma cada vegada i que no retorni mai un paràgraf on hi ha d'anar un objecte JSON. Aquesta és la propietat per a la qual hi ha Hy3-W8A16.
01Què és Hy3 i d'on ve
Hy3 és un model de raonament i treball agèntic de pesos oberts de l'equip Hunyuan de Tencent, publicat sencer el 6 de juliol de 2026 amb una llicència permissiva i amb els pesos penjats a Hugging Face. Continua el llinatge de la feina anterior de Tencent amb mescla d'experts, Hunyuan-Large. Arquitectònicament és un MoE dispers: 295.000 milions de paràmetres totals, dels quals aproximadament 21.000 milions s'activen per token mitjançant encaminament top-8 entre 192 experts, sobre un transformador de 80 capes amb atenció de consulta agrupada, més una capa de predicció multitoken de 3,8B a banda per a descodificació especulativa. El context natiu és de 256K — exactament els 262.144 tokens que exposem, no un truncament d'alguna cosa més gran ni una extensió per estirament de rope d'alguna cosa més petita.
Aquesta proporció de dispersió és la xifra important per a qui paga per token: Hy3 porta el coneixement d'un model de 295B mentre fa aproximadament l'aritmètica d'un de 21B a cada passada endavant. També és per això que ens podem permetre servir-lo a 8 bits en comptes de comprimir-lo més fort — una compilació de 8 bits d'un model tan dispers encara hi cap i encara corre ràpid al nostre propi clúster de GPU.
En què diu Tencent que és bo
Les taules d'avaluació publicades per Tencent situen les fortaleses de Hy3 clarament en la cerca agèntica, l'orquestració d'eines i la recuperació en context llarg, i no en la programació pura. Les xifres que reporten:
Ensenyem les barres febles a posta. Hy3 queda per darrere de GLM-5.2 en programació a la comparació de la mateixa Tencent — 78.0 contra 84.2 a SWE-bench Verified, 28.0 contra 46.2 a DeepSWE. Si la teva càrrega de treball és enginyeria de programari autònoma sobre múltiples fitxers, llegeix primer la resta de l'índex de recerca de models. Si es tracta de llegir text i emetre estructura, el perfil és gairebé ideal.
La xifra que més compta per a la feina de canonada és de fiabilitat: Tencent reporta una taxa d'al·lucinació de Hy3 del 5,4%, per sota del 12,5% de la generació anterior, amb els errors de sentit comú caient del 25,4% al 12,7%. El seu principi d'entrenament declarat — respon quan hi ha evidència, digues clarament quan no n'hi ha — és exactament la disposició que vols en un model d'extracció que, altrament, s'inventaria un valor versemblant per a un camp que la font no esmenta enlloc.
Totes les xifres d'aquesta secció les reporta Tencent a partir de les seves pròpies execucions de prova; la verificació independent de tercers encara estava pendent en el moment d'escriure això. Tracta-les com a orientatives, no com a definitives.
02Què vol dir W8A16 i per què importa per a la sortida estructurada
Cada model de la passarel·la porta un sufix de quantització. No és decoració — et diu com de lluny seuen els pesos servits del punt de control que va publicar el laboratori.
| Nivell | Què fa | Fidelitat |
|---|---|---|
| 3BIT-REAP | Pesos de 3 bits més REAP, un mètode de poda d'experts que elimina els experts MoE rarament encaminats abans de quantitzar | El més comprimit |
| W4A16-AUTOROUND-REAP | Pesos de 4 bits / activacions de 16 bits amb AutoRound — arrodoniment après que recupera precisió respecte de l'arrodoniment ingenu al més proper — més poda REAP | Terme mitjà |
| W8A16 | Pesos de 8 bits / activacions de 16 bits. Sense poda, sense reparació per arrodoniment après — els pesos simplement es porten al doble de precisió | La més alta |
On fa mal de debò la deriva de la quantització
REAP i AutoRound recuperen la major part del que perd la compressió ingènua — però «la major part» treballa molt en aquesta frase, i el residu no cau de manera uniforme. La quantització de pocs bits degrada les cues: les decisions de baixa probabilitat i alta especificitat. En prosa això és gairebé invisible; un adjectiu diferent continua sent una bona frase. En sortida estructurada és tot el joc, perquè un esquema és una llarga cadena de decisions de baixa probabilitat que han de ser exactes una per una:
- Sintaxi a nivell de token. Una clau de tancament, una coma, una cometa. Cadascuna és un token, i un sol token erroni invalida tota la resposta.
- Disciplina d'enumeracions. El teu esquema diu que
"status"és un de"open" | "closed" | "pending"; un model derivat retorna"Open"o"pending review"— semànticament a prop, i vàlid com a cap dels dos. - Disciplina de tipus. Un camp
numbertorna com a"1,240", unbooleancom a"yes". Tots dos s'analitzen com a cadenes i fallen l'esquema. - Literals de cua llarga. Noms propis rars, números de peça, noms químics, escriptures no llatines, dates precises — exactament la regió de baixa probabilitat que els pesos de pocs bits difuminen.
Res d'això fa dolents els models de 4 o 3 bits; per a feina conversacional la diferència de fidelitat sovint no compensa la diferència de preu. Però quan qui consumeix la sortida és un validador i no una persona, la precisió a les cues es converteix directament en taxa d'anàlisi correcta — i aquesta, en pressupost de reintents i en latència p99. W8A16 és el nivell on deixes de pagar aquest impost.
03Sortida estructurada: json_schema i response_format
Hy3 admet totes dues meitats de la superfície de sortida estructurada — val la pena dir-ho explícitament, perquè això no és universal al catàleg:
| Model | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Sí | Sí |
| MiMo-V2.5-Pro · W8A16 | Sí | Sí |
| inkling · W4A16-AUTOROUND-REAP | Sí | No |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | No | No |
La diferència entre els dos mecanismes importa més del que la gent suposa. response_format: {"type": "json_object"} demana JSON vàlid i res més — el model tria la forma, així que dues crides poden retornar {"name": ...} i {"full_name": ...} i totes dues són correctes. json_schema proporciona la forma per endavant: camps amb nom, tipus, enumeracions, llistes d'obligatoris, imbricació. Això és un contracte contra el qual pots escriure codi.
Una crida mínima en el dialecte compatible amb OpenAI:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}Notes pràctiques
- Fes que tots els camps siguin obligatoris i permet
null. Els camps opcionals conviden a omissions silencioses; un camp obligatori que admet null força un «no hi és» explícit, i això és informació sobre la qual pots actuar. - Les enumeracions guanyen a les cadenes lliures. Allà on puguis tancar el conjunt de valors, tanca'l — és el canvi amb més palanca sobre la taxa real d'èxit d'un esquema.
- Mantén-te per sota del sostre de 16.384 tokens de sortida. Un array sense límit es truncarà a mitja construcció d'un objecte. Limita les llargades dels arrays, o fragmenta l'entrada.
- Conserva el missatge de sistema. L'esquema restringeix la forma; el prompt continua governant la semàntica — què compta com a «crític», quina data guanya quan n'apareixen dues, si cal normalitzar unitats.
- Valida igualment. El suport d'esquema apuja la taxa d'èxit; no substitueix un validador i una cua de missatges morts.
04Per què «sense censura» és una propietat de fiabilitat, no només de contingut
Hy3 a la passarel·la no té cap capa de refús ni cap filtratge de sortida. L'enfocament habitual va de contingut: pots processar recerca en seguretat, anàlisi de programari maliciós, informes d'explotació de vulnerabilitats, corpus mèdics i jurídics, material adult, documentació de reducció de danys o transcripcions d'usuaris hostils sense que el model decideixi per tu que s'estima més no fer-ho.
Hi ha una segona raó, més mecànica, per la qual importa. Un refús és una violació de l'esquema. Un model filtrat que declina no retorna el teu objecte amb un indicador "unavailable" — retorna prosa. «No puc ajudar-te amb aquesta petició.» Aquesta cadena no és un objecte incident; falla el teu validador i acaba a la cua de missatges morts al costat d'errors d'anàlisi genuïns, on ara has de separar els refusos de política de les deformacions reals.
Pitjor encara, els refusos correlacionen amb el contingut en comptes de distribuir-se aleatòriament. Si el 4% del teu corpus són informes d'incidents de seguretat i el model en declina la majoria, no has perdut un 4% de rendiment de manera uniforme — has perdut una categoria, i el tauler construït sobre aquestes dades subestima en silenci exactament allò que existeix per mostrar. Els forats amb forma de categoria costen més que el soroll uniforme, perquè no hi ha res que hi alerti. Treu el camí del refús i el que queda — deformacions, truncaments, text ambigu — no correlaciona amb el tema i, per tant, és mesurable.
Sense censura no vol dir sense responsabilitat
Que no hi hagi capa de refús vol dir que el model no editorialitza sobre la teva entrada. No vol dir que el compte no estigui supervisat. L'ús es regeix per la nostra Política d'ús responsable i per la llei aplicable, i l'abús comporta la fi de l'accés. Treure el filtre evita que un model endevini la teva intenció a partir d'un fragment de document; no et treu la responsabilitat sobre allò que construeixes.
05Context, sostre de sortida i com pressupostar-los
Tots els models de la passarel·la comparteixen els mateixos límits:
El context és un pressupost compartit: el prompt més la sortida han de cabre junts dins dels 262.144, així que el sostre pràctic d'entrada en una sola crida és d'uns 245.000 tokens, molt aproximadament 180.000 paraules en anglès. Per a feina estructurada, el límit de 16.384 tokens de sortida és el més dur i el que sorprèn la gent — un esquema que emet un objecte per registre l'assoleix molt abans que s'ompli la finestra. Dos patrons hi juguen en contra:
- Entrada ampla, sortida estreta. Empeny un contracte sencer, una presentació o una finestra de registres cap al context i demana un sol objecte compacte. Els tokens d'entrada costen una quarta part dels de sortida, així que el preu recompensa llegir molt i escriure poc.
- Fragmenta per fronteres de registre, no per recompte de bytes. Talla allà on el model pugui veure la costura. Un registre tallat a mitja frase produeix un objecte equivocat amb seguretat en comptes d'una fallada evident.
La fortalesa reportada de Hy3 en recuperació en context llarg — 73.4 a AA-LCR, i un salt del 42,9% al 75,1% en record de diàleg llarg a MRCR — és exactament la capacitat de la qual depèn el primer patró, i una habilitat diferent de la d'escriure bé.
06El preu de terra i l'aritmètica d'una canonada real
Hy3 se situa a 0,50 $ per milió de tokens d'entrada i 2,00 $ per milió de tokens de sortida — el terra del catàleg, compartit amb MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 i MiniMax-M3. Calculat sobre càrregues representatives:
| Càrrega de treball | Entrada / crida | Sortida / crida | Cost / crida | Per 1M de crides |
|---|---|---|---|---|
| Extracció de camps | 1,200 | 300 | $0.0012 | $1,200 |
| Classificació de documents | 3,000 | 120 | $0.0018 | $1,800 |
| Resum de document llarg a esquema | 40,000 | 900 | $0.0218 | $21,800 |
| Anàlisi de finestra completa | 240,000 | 2,000 | $0.1240 | $124,000 |
La xifra que canvia decisions no és la tarifa del titular sinó la tarifa efectiva després dels reintents. Si dos models costen el mateix i un falla la validació en el 6% de les crides mentre que l'altre falla en l'1,5%, el model més derivat fa aproximadament un 4,5% més de crides — sobrevivible. El dany és a la cua: les crides reintentades triguen el doble, així que la latència p99 aproximadament es duplica per a una porció visible del trànsit, i tot allò que falla dues vegades es converteix en feina manual. Amb un milió de crides al dia, això són milers de registres que algú ha de llegir.
D'aquí l'argument a favor del nivell de 8 bits al preu de terra: aquí no pagues cap prima per la fidelitat, així que l'aritmètica dels reintents són diners regalats. Si un model de 3 bits fos més barat hi hauria un compromís real a sospesar — Hy3 costa el mateix que la cosa més barata del catàleg.
07Tres dialectes d'API, un model
Hy3 és accessible als tres dialectes de la passarel·la, amb streaming a cadascun. Mateix model, mateixos pesos, mateixos límits — tria el que encaixi amb l'SDK que ja tens.
| Endpoint | Dialecte | Fes-lo servir quan |
|---|---|---|
| /v1/chat/completions | OpenAI | Tens un SDK d'OpenAI, LangChain o LlamaIndex. Apunta la URL base aquí i canvia l'identificador del model. |
| /v1/messages | Anthropic | Estàs a l'SDK d'Anthropic i vols blocs de contingut sense una capa de traducció. |
| /v1/responses | Responses | Vols la forma de petició més nova amb sortida tipada i estat al servidor. |
Hy3 també admet crides a eines i raonament, inclòs reasoning_effort. Per a feina d'extracció, el moviment útil sol ser abaixar el raonament: sobre un esquema ben especificat i text net, els tokens de pensament són tokens de sortida que pagues i latència que esperes, a canvi d'un guany marginal. Gasta el pressupost d'esforç en entrades genuïnament ambigües.
La referència completa de peticions i respostes, les llistes de paràmetres, la semàntica de streaming i un espai de proves interactiu són a la documentació de l'API.
08Com triar entre els tres models W8A16
Tres models seuen al nivell de màxima fidelitat, tots al preu de terra. La tria és sobretot de modalitat:
| Model | Visió | json_schema | Preu entrada / sortida | Tria'l per a |
|---|---|---|---|---|
| Hy3 · W8A16 | No | Sí | $0.50 / $2.00 | Canonades estructurades només de text, orquestració d'eines, recuperació en context llarg |
| MiMo-V2.5-Pro · W8A16 | No | Sí | $0.50 / $2.00 | Feina només de text on vols l'ajust Pro de la línia MiMo |
| MiMo-V2.5 · W8A16 | Sí | Sí | $0.50 / $2.00 | Qualsevol cosa amb imatges — documents escanejats, captures de pantalla, fotografies |
Si alguna part de la teva entrada és una imatge, la decisió ja està presa: Hy3 és només de text — envia els PDF escanejats, les captures de pantalla i les fotografies a MiMo-V2.5. Quan l'entrada és genuïnament text, el perfil de Hy3 — ús agèntic d'eines, record en context llarg i una taxa d'al·lucinació reportada baixa — encaixa més directament amb la feina de canonada. Com que els tres costen el mateix, executa el teu esquema contra dos d'ells sobre uns quants centenars de registres reals i compara les taxes d'anàlisi correcta; això ho decideix millor que cap taula, inclosa aquesta.
09On Hy3 es guanya el seu lloc
- Extracció de camps d'alt volum. Contractes, presentacions, informes d'incidents, transcripcions, notes clíniques, expedients judicials — allà on un objecte tipat per document és l'entrega i el volum fa cars els reintents.
- Classificació i encaminament a escala. Sortides d'enumeració tancada, on tot el valor del model és no inventar-se mai una dinovena categoria.
- Corpus de seguretat i d'intel·ligència d'amenaces. Anàlisis de programari maliciós, divulgacions d'exploits i mostres de pesca de credencials — el material que fa caure els models filtrats en el refús, i on un forat amb forma de categoria fa fracassar tot el propòsit.
- Agents amb crides a eines que no es poden encallar. La fidelitat d'arguments de 8 bits vol dir que el JSON que arriba a les teves funcions s'analitza correctament; una crida a eina malmesa és un agent encallat, no una resposta lleugerament pitjor.
- Anàlisi de documents llargs cap a estructura. Una presentació sencera cap endins, un sol objecte compacte cap enfora.
- Moderació de continguts i recerca de polítiques. Etiquetar material que un model filtrat es nega a llegir és un problema permanent de confiança i seguretat; un model sense filtre amb un esquema estricte el resol directament.
I on no: qualsevol cosa amb imatges (fes servir MiMo-V2.5) i enginyeria de programari autònoma sobre múltiples fitxers, on les taules de la mateixa Tencent situen Hy3 per darrere de GLM-5.2 a SWE-bench Verified i molt per darrere a DeepSWE.
Cada afirmació arquitectònica i de bancs de proves sobre la base Hy3 ve dels materials públics de llançament de Tencent o de la cobertura periodística que se n'ha fet; les dades del catàleg vénen del nostre propi /v1/models en viu. Verifica totes dues coses.
Les xifres de bancs de proves les reporta Tencent, incloses les dels competidors; la verificació independent estava pendent en el moment d'escriure això. Les xifres de cost es calculen a partir de les nostres tarifes publicades de 0,50 $ / 2,00 $. Cap xifra d'aquesta pàgina és un banc de proves executat per Shannon ni una estimació.
10Preguntes freqüents
Què és l'API del model Hy3 sense censura?
És l'endpoint de la passarel·la de Shannon AI per a l'identificador de model Hy3-W8A16 — la base Hy3 de pesos oberts de Tencent servida al nostre propi clúster de GPU amb precisió de pesos de 8 bits, sense cap capa de refús ni cap filtratge de sortida. Ofereix una finestra de context de 262.144 tokens, 16.384 tokens de sortida per petició, crides a eines, raonament amb reasoning_effort i sortida estructurada completa mitjançant json_schema i response_format, a /v1/chat/completions, /v1/messages i /v1/responses amb streaming.
Hy3 admet esquema JSON i sortida estructurada?
Sí. Hy3-W8A16 admet tant response_format per al mode d'objecte JSON com json_schema per a esquemes estrictes i tipats — tota la superfície de sortida estructurada, no una part. Això no és cert de tots els models del catàleg: Laguna-S-2.1 no admet cap dels dos, i inkling admet response_format però no json_schema. Si la teva canonada depèn d'un contracte tipat, Hy3 és un dels models que el poden respectar.
Què vol dir W8A16 i és millor que 4 bits o 3 bits?
W8A16 vol dir pesos de 8 bits i activacions de 16 bits — el nivell de màxima fidelitat que servim. Comparat amb W4A16-AUTOROUND-REAP (pesos de 4 bits, arrodoniment après, poda d'experts) i 3BIT-REAP (pesos de 3 bits més poda d'experts), és el que menys altera els pesos publicats, així que el comportament es manté el més a prop possible del punt de control original. Els nivells agressius existeixen perquè, altrament, no seria pràctic servir amb velocitat les bases més grans.
Hy3 admet imatges o visió?
No. Hy3-W8A16 és només de text. Enviar-li parts d'imatge no funcionarà. Si necessites visió a més de sortida estructurada al mateix nivell de 8 bits, fes servir MiMo-V2.5-W8A16, que admet entrada d'imatge juntament amb json_schema i response_format al mateix preu de 0,50 $ / 2,00 $.
Quant costa l'API de Hy3?
0,50 $ per milió de tokens d'entrada i 2,00 $ per milió de tokens de sortida — el preu de terra del nostre catàleg, compartit amb MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 i MiniMax-M3. Una canonada d'extracció representativa amb 1.200 tokens d'entrada i 300 de sortida per crida costa aproximadament 0,0012 $ per crida, o si fa no fa 1.200 $ per milió de crides.
Hy3 refusarà una petició?
No hi ha cap capa de refús ni cap filtratge de sortida davant del model. Per a una canonada estructurada això és una propietat de fiabilitat tant com de contingut: un refús és una violació de l'esquema, perquè la prosa que explica per què el model no respondrà no s'analitza com l'objecte que espera el teu validador. Treure el camí del refús elimina tota una classe de fallades d'anàlisi en corpus de seguretat, mèdics, jurídics i de contingut adult.
Executa Hy3 amb el teu propi esquema
Fidelitat de 8 bits, json_schema estricte, 262K de context, cap refús — al preu de terra.
Identificador del model Hy3-W8A16 · només text · $0.50 entrada / $2.00 sortida per 1M de tokens
Fonts: fitxes de model de Tencent Hunyuan · repositori de Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · cobertura de VentureBeat sobre el llançament de Hy3. Els bancs de proves de la base els reporta Tencent i són provisionals fins a la verificació independent. Shannon AI l'opera Shannon Lab LLC, Nou Mèxic, EUA.