API del modelo Hy3 sin censura
La base Hy3 de 295B de Tencent con fidelidad de pesos de 8 bits, salida estricta con json_schema, una ventana de 262,144 tokens y sin capa de rechazo, al precio mínimo del catálogo.
Resumen
Hy3-W8A16 es el tercero de nuestros tres modelos W8A16: pesos de 8 bits, activaciones de 16 bits, el nivel de mayor fidelidad que servimos. Es solo de texto, admite tanto json_schema como response_format, lleva el contexto de 262,144 tokens y el techo de salida de 16,384 tokens comunes a todo el catálogo, y cuesta $0.50 / $2.00 por millón de tokens: el mínimo. Sin capa de rechazo, sin filtrado de la salida. Elígelo para tuberías de texto de alto volumen que deben devolver salida tipada y parseable en cada llamada, incluso sobre material que un modelo filtrado se negaría a tocar.
La mayoría de las discusiones sobre «qué modelo debería usar» giran en torno al techo: cuál escribe el mejor código, resuelve las matemáticas más difíciles, gana la ejecución de agente más larga. Las tuberías estructuradas no funcionan así. Un trabajo que extrae campos de cien mil documentos al día no necesita un modelo brillante una vez: necesita uno que sea correcto con la misma forma todas las veces y que nunca devuelva un párrafo donde corresponde un objeto JSON. Esa es la propiedad para la que está aquí Hy3-W8A16.
01Qué es Hy3 y de dónde viene
Hy3 es un modelo de razonamiento y agéntico de pesos abiertos del equipo Hunyuan de Tencent, publicado íntegramente el 6 de julio de 2026 bajo una licencia permisiva y con los pesos disponibles en Hugging Face. Continúa el linaje del trabajo anterior de Tencent en Mixture-of-Experts, Hunyuan-Large. Arquitectónicamente es un MoE disperso: 295 mil millones de parámetros totales, de los cuales aproximadamente 21 mil millones se activan por token mediante enrutado top-8 sobre 192 expertos, en un transformer de 80 capas con atención grouped-query, más una capa separada de 3.8B de predicción de múltiples tokens para decodificación especulativa. El contexto nativo es de 256K: exactamente los 262,144 tokens que exponemos, no el truncamiento de algo mayor ni la extensión por estiramiento de RoPE de algo menor.
Esa proporción de dispersión es la cifra importante para quien paga por token: Hy3 lleva el conocimiento de un modelo de 295B mientras hace aproximadamente la aritmética de uno de 21B por paso hacia delante. Es también la razón de que podamos permitirnos servirlo a 8 bits en lugar de comprimirlo más: una compilación de 8 bits de un modelo tan disperso todavía cabe y sigue siendo rápida en nuestro propio clúster de GPU.
En qué dice Tencent que es bueno
Las tablas de evaluación publicadas por Tencent sitúan las fortalezas de Hy3 claramente en la búsqueda agéntica, la orquestación de herramientas y la recuperación en contexto largo más que en la codificación pura. Sus cifras reportadas:
Mostramos las barras flojas a propósito. Hy3 queda por detrás de GLM-5.2 en codificación en la propia comparación de Tencent: 78.0 frente a 84.2 en SWE-bench Verified, 28.0 frente a 46.2 en DeepSWE. Si tu carga de trabajo es ingeniería de software autónoma en varios archivos, lee antes el resto del índice de investigación de modelos. Si es leer texto y emitir estructura, el perfil es casi ideal.
La cifra que más importa para el trabajo de tuberías es de fiabilidad: Tencent reporta una tasa de alucinación del 5.4% para Hy3, frente al 12.5% de la generación anterior, con los errores de sentido común cayendo del 25.4% al 12.7%. Su principio de entrenamiento declarado —responder cuando hay evidencia, decir claramente cuando no la hay— es exactamente la disposición que quieres en un modelo de extracción que si no inventaría un valor plausible para un campo que la fuente nunca menciona.
Todas las cifras de esta sección son las reportadas por Tencent a partir de sus propias pruebas; la verificación independiente por terceros seguía pendiente en el momento de escribir esto. Trátalas como orientativas, no como definitivas.
02Qué significa W8A16 y por qué importa para la salida estructurada
Cada modelo del gateway lleva un sufijo de cuantización. No es decoración: te dice a qué distancia están los pesos servidos del checkpoint que publicó el laboratorio.
| Nivel | Qué hace | Fidelidad |
|---|---|---|
| 3BIT-REAP | Pesos de 3 bits más REAP, un método de poda de expertos que elimina los expertos MoE rara vez enrutados antes de cuantizar | El más comprimido |
| W4A16-AUTOROUND-REAP | Pesos de 4 bits / activaciones de 16 bits mediante AutoRound —redondeo aprendido que recupera precisión frente al redondeo ingenuo al más cercano— más poda REAP | Intermedio |
| W8A16 | Pesos de 8 bits / activaciones de 16 bits. Sin poda, sin reparación por redondeo aprendido: los pesos simplemente se llevan al doble de precisión | La más alta |
Dónde duele realmente la deriva por cuantización
REAP y AutoRound recuperan la mayor parte de lo que pierde la compresión ingenua, pero «la mayor parte» está haciendo mucho trabajo en esa frase, y el residuo no cae de forma uniforme. La cuantización de pocos bits degrada las colas: las decisiones de baja probabilidad y alta especificidad. En prosa eso es casi invisible; un adjetivo distinto sigue siendo una buena frase. En la salida estructurada lo es todo, porque un esquema es una cadena larga de decisiones de baja probabilidad que deben ser cada una exactamente correctas:
- Sintaxis a nivel de token. Una llave de cierre, una coma, una comilla. Cada una es un token, y un solo token equivocado invalida toda la respuesta.
- Disciplina de enumeraciones. Tu esquema dice que
"status"es uno de"open" | "closed" | "pending"; un modelo con deriva devuelve"Open"o"pending review": semánticamente cercanos, y válidos como ninguno. - Disciplina de tipos. Un campo
numbervuelve como"1,240", unbooleancomo"yes". Ambos se parsean como cadenas y fallan el esquema. - Literales de cola larga. Nombres propios raros, referencias de pieza, nombres químicos, escrituras no latinas, fechas precisas: exactamente la región de baja probabilidad que los pesos de pocos bits emborronan.
Nada de esto hace malos a los modelos de 4 o 3 bits; para el trabajo conversacional la diferencia de fidelidad a menudo no compensa la diferencia de precio. Pero cuando quien consume la salida es un validador y no una persona, la precisión en las colas se convierte directamente en tasa de parseo, y la tasa de parseo en presupuesto de reintentos y latencia p99. W8A16 es el nivel donde dejas de pagar ese impuesto.
03Salida estructurada: json_schema y response_format
Hy3 admite las dos mitades de la superficie de salida estructurada, algo que conviene decir explícitamente porque no es universal en el catálogo:
| Modelo | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Sí | Sí |
| MiMo-V2.5-Pro · W8A16 | Sí | Sí |
| inkling · W4A16-AUTOROUND-REAP | Sí | No |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | No | No |
La diferencia entre los dos mecanismos importa más de lo que se supone. response_format: {"type": "json_object"} pide JSON válido y nada más: el modelo elige la forma, así que dos llamadas pueden devolver {"name": ...} y {"full_name": ...} y ambas son correctas. json_schema aporta la forma de antemano: campos con nombre, tipos, enumeraciones, listas de obligatorios, anidamiento. Eso es un contrato contra el que puedes escribir código.
Una llamada mínima en el dialecto compatible con OpenAI:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
Notas prácticas
- Haz todos los campos obligatorios y permite
null. Los campos opcionales invitan a omisiones silenciosas; un campo obligatorio que admite nulo fuerza un «no está presente» explícito, que es información con la que puedes actuar. - Las enumeraciones ganan a las cadenas libres. Cierra el conjunto de valores siempre que puedas: es el cambio con más apalancamiento sobre la tasa real de aciertos de un esquema.
- Mantente por debajo del techo de 16,384 tokens de salida. Un array sin límite se truncará a mitad de objeto. Limita la longitud de los arrays o fragmenta la entrada.
- Conserva el mensaje de sistema. El esquema restringe la forma; el prompt sigue gobernando la semántica: qué cuenta como «crítico», qué fecha manda cuando aparecen dos, si hay que normalizar unidades.
- Valida de todas formas. El soporte de esquema sube la tasa de aciertos; no sustituye a un validador ni a una cola de mensajes fallidos.
04Por qué «sin censura» es una propiedad de fiabilidad, no solo de contenido
Hy3 en el gateway no tiene capa de rechazo ni filtrado de la salida. El planteamiento habitual va de contenido: puedes procesar investigación de seguridad, análisis de malware, informes de exploits, corpus médicos y jurídicos, material adulto, documentación de reducción de daños o transcripciones de usuarios hostiles sin que el modelo decida por ti que preferiría no hacerlo.
Hay una segunda razón, más mecánica, por la que importa. Un rechazo es una violación del esquema. Un modelo filtrado que se niega no devuelve tu objeto con una marca "unavailable": devuelve prosa. «No puedo ayudar con esa solicitud.» Esa cadena no es un objeto incident; falla tu validador y acaba en la cola de mensajes fallidos junto a errores de parseo genuinos, donde ahora tienes que separar los rechazos por política de las malformaciones reales.
Peor aún: los rechazos se correlacionan con el contenido en lugar de repartirse al azar. Si el 4% de tu corpus son informes de incidentes de seguridad y el modelo rechaza la mayoría, no has perdido un 4% de rendimiento de forma uniforme: has perdido una categoría, y el panel construido sobre esos datos infrarrepresenta en silencio justo aquello para lo que existe. Los agujeros con forma de categoría cuestan más que el ruido uniforme porque nada alerta sobre ellos. Elimina la ruta de rechazo y lo que queda —malformaciones, truncamientos, texto ambiguo— no está correlacionado con el tema y, por tanto, es medible.
Sin censura no es sin responsabilidad
Que no haya capa de rechazo significa que el modelo no editorializa sobre tu entrada. No significa que la cuenta no esté supervisada. El uso se rige por nuestra Política de Uso Responsable y la legislación aplicable, y el abuso termina con el acceso. Quitar el filtro impide que un modelo adivine tu intención a partir de un fragmento de documento; no elimina tu responsabilidad sobre lo que construyas.
05Contexto, techo de salida y cómo presupuestarlos
Todos los modelos del gateway comparten los mismos límites:
El contexto es un presupuesto compartido: el prompt más la salida deben caber juntos en 262,144, así que el techo práctico de entrada en una llamada es de unos 245,000 tokens, muy aproximadamente 180,000 palabras en inglés. Para el trabajo estructurado, el tope de 16,384 tokens de salida es el límite más duro y el que sorprende a la gente: un esquema que emite un objeto por registro lo alcanza mucho antes de que se llene la ventana. Dos patrones funcionan contra eso:
- Entrada ancha, salida estrecha. Mete un contrato entero, un expediente o una ventana de logs en el contexto y pide un único objeto compacto. Los tokens de entrada cuestan una cuarta parte de los de salida, así que el precio premia leer mucho y escribir poco.
- Fragmenta por límites de registro, no por número de bytes. Divide donde el modelo pueda ver la costura. Un registro cortado a mitad de frase produce un objeto seguro de sí mismo y equivocado, en vez de un fallo evidente.
La fortaleza reportada de Hy3 en recuperación de contexto largo —73.4 en AA-LCR, y un salto del 42.9% al 75.1% en el recuerdo de diálogos largos de MRCR— es exactamente la capacidad de la que depende el primer patrón, y una habilidad distinta de escribir bien.
06Precio mínimo y la aritmética de una tubería real
Hy3 está a $0.50 por millón de tokens de entrada y $2.00 por millón de tokens de salida: el mínimo del catálogo, compartido con MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 y MiniMax-M3. Desglosado en cargas representativas:
| Carga de trabajo | Entrada / llamada | Salida / llamada | Coste / llamada | Por 1M de llamadas |
|---|---|---|---|---|
| Extracción de campos | 1,200 | 300 | $0.0012 | $1,200 |
| Clasificación de documentos | 3,000 | 120 | $0.0018 | $1,800 |
| Resumen de documento largo a esquema | 40,000 | 900 | $0.0218 | $21,800 |
| Análisis de ventana completa | 240,000 | 2,000 | $0.1240 | $124,000 |
La cifra que cambia decisiones no es la tarifa de titular, sino la tarifa efectiva después de los reintentos. Si dos modelos cuestan lo mismo y uno falla la validación en el 6% de las llamadas donde el otro falla en el 1.5%, el modelo con más deriva ejecuta alrededor de un 4.5% más de llamadas: soportable. El daño está en la cola: las llamadas reintentadas tardan el doble, así que la latencia p99 aproximadamente se duplica para una porción visible del tráfico, y lo que falla dos veces se convierte en trabajo manual. Con un millón de llamadas al día, eso son miles de registros que alguien tiene que leer.
De ahí el argumento a favor del nivel de 8 bits al precio mínimo: aquí no estás pagando un sobreprecio por la fidelidad, así que la aritmética de los reintentos es dinero gratis. Si un modelo de 3 bits fuera más barato habría un compromiso real que sopesar; Hy3 cuesta lo mismo que lo más barato del catálogo.
07Tres dialectos de API, un modelo
Hy3 es accesible en los tres dialectos del gateway, con streaming en cada uno. Mismo modelo, mismos pesos, mismos límites: elige el que encaje con el SDK que ya tienes.
| Endpoint | Dialecto | Úsalo cuando |
|---|---|---|
| /v1/chat/completions | OpenAI | Ya tienes el SDK de OpenAI, LangChain o LlamaIndex. Apunta la URL base aquí y cambia el id del modelo. |
| /v1/messages | Anthropic | Estás en el SDK de Anthropic y quieres bloques de contenido sin una capa de traducción. |
| /v1/responses | Responses | Quieres la forma de solicitud más nueva, con salida tipada y estado en el servidor. |
Hy3 también admite tool calling y razonamiento, incluido reasoning_effort. Para el trabajo de extracción, la jugada útil suele ser bajar el razonamiento: sobre un esquema bien especificado y texto limpio, los tokens de pensamiento son tokens de salida que pagas y latencia que esperas, a cambio de una ganancia marginal. Gasta el presupuesto de esfuerzo en la entrada genuinamente ambigua.
La referencia completa de solicitudes y respuestas, las listas de parámetros, la semántica del streaming y un playground interactivo están en la documentación de la API.
08Cómo elegir entre los tres modelos W8A16
Tres modelos están en el nivel de mayor fidelidad, todos al precio mínimo. La elección es sobre todo de modalidad:
| Modelo | Visión | json_schema | Precio entrada / salida | Elígelo para |
|---|---|---|---|---|
| Hy3 · W8A16 | No | Sí | $0.50 / $2.00 | Tuberías estructuradas de solo texto, orquestación de herramientas, recuperación en contexto largo |
| MiMo-V2.5-Pro · W8A16 | No | Sí | $0.50 / $2.00 | Trabajo de solo texto donde quieres el ajuste Pro de la línea MiMo |
| MiMo-V2.5 · W8A16 | Sí | Sí | $0.50 / $2.00 | Cualquier cosa con imágenes: documentos escaneados, capturas de pantalla, fotos |
Si alguna parte de tu entrada es una imagen, la decisión está tomada: Hy3 es solo de texto; manda los PDF escaneados, las capturas de pantalla y las fotografías a MiMo-V2.5. Cuando la entrada es genuinamente texto, el perfil de Hy3 —uso agéntico de herramientas, recuerdo en contexto largo y baja alucinación reportada— es el que mejor encaja con el trabajo de tuberías. Como los tres cuestan lo mismo, ejecuta tu esquema contra dos de ellos sobre unos cientos de registros reales y compara las tasas de parseo; eso lo resuelve mejor que cualquier tabla, incluida esta.
09Dónde se gana Hy3 su sitio
- Extracción de campos de alto volumen. Contratos, expedientes, informes de incidentes, transcripciones, notas clínicas, registros judiciales: donde el entregable es un objeto tipado por documento y el volumen encarece los reintentos.
- Clasificación y enrutado a escala. Salidas con enumeraciones cerradas, donde todo el valor del modelo está en no inventar nunca una decimonovena categoría.
- Corpus de seguridad e inteligencia de amenazas. Informes de malware, divulgaciones de exploits y muestras de phishing: el material que hace tropezar a los modelos filtrados hacia el rechazo, y donde un agujero con forma de categoría desbarata el objetivo.
- Agentes con tool calling que no deben atascarse. La fidelidad de 8 bits en los argumentos significa que el JSON que se entrega a tus funciones se parsea; una llamada a herramienta destrozada es un agente atascado, no una respuesta algo peor.
- Análisis de documentos largos hacia estructura. Expediente entero de entrada, un objeto compacto de salida.
- Moderación de contenido e investigación de políticas. Etiquetar material que un modelo filtrado se niega a leer es un problema permanente de confianza y seguridad; un modelo sin filtrar con un esquema estricto lo resuelve directamente.
Y dónde no: cualquier cosa con imágenes (usa MiMo-V2.5) y la ingeniería de software autónoma en varios archivos, donde las propias tablas de Tencent sitúan a Hy3 por detrás de GLM-5.2 en SWE-bench Verified y muy por detrás en DeepSWE.
Cada afirmación arquitectónica y de benchmark sobre la base Hy3 procede de los materiales públicos de lanzamiento de Tencent o de su cobertura en prensa; los datos del catálogo salen de nuestro propio /v1/models en vivo. Verifica ambos.
Las cifras de benchmark son las reportadas por Tencent, incluidas las de la competencia; la verificación independiente estaba pendiente en el momento de escribir esto. Las cifras de coste se calculan a partir de nuestras tarifas publicadas de $0.50 / $2.00. Ningún número de esta página es un benchmark ejecutado por Shannon ni una estimación.
10Preguntas frecuentes
¿Qué es la API del modelo Hy3 sin censura?
Es el endpoint del Shannon AI Gateway para el id de modelo Hy3-W8A16: la base Hy3 de pesos abiertos de Tencent servida en nuestro propio clúster de GPU con precisión de pesos de 8 bits, sin capa de rechazo y sin filtrado de la salida. Ofrece una ventana de contexto de 262,144 tokens, 16,384 tokens de salida por solicitud, tool calling, razonamiento con reasoning_effort y salida estructurada completa mediante json_schema y response_format, en /v1/chat/completions, /v1/messages y /v1/responses con streaming.
¿Hy3 admite JSON schema y salida estructurada?
Sí. Hy3-W8A16 admite tanto response_format para el modo objeto JSON como json_schema para esquemas estrictos y tipados: la superficie completa de salida estructurada, no una parcial. Eso no es cierto para todos los modelos del catálogo: Laguna-S-2.1 no admite ninguno de los dos, e inkling admite response_format pero no json_schema. Si tu tubería depende de un contrato tipado, Hy3 es uno de los modelos que puede cumplirlo.
¿Qué significa W8A16 y es mejor que 4 bits o 3 bits?
W8A16 significa pesos de 8 bits y activaciones de 16 bits: el nivel de mayor fidelidad que servimos. Comparado con W4A16-AUTOROUND-REAP (pesos de 4 bits, redondeo aprendido, poda de expertos) y 3BIT-REAP (pesos de 3 bits más poda de expertos), es el que menos altera los pesos publicados, así que el comportamiento se mantiene más cerca del checkpoint original. Los niveles agresivos existen porque las bases más grandes serían de otro modo poco prácticas de servir con velocidad.
¿Hy3 admite imágenes o visión?
No. Hy3-W8A16 es solo de texto. Enviarle partes de imagen no funcionará. Si necesitas visión más salida estructurada en el mismo nivel de 8 bits, usa MiMo-V2.5-W8A16, que admite entrada de imagen junto con json_schema y response_format al mismo precio de $0.50 / $2.00.
¿Cuánto cuesta la API de Hy3?
$0.50 por millón de tokens de entrada y $2.00 por millón de tokens de salida: el precio mínimo de nuestro catálogo, compartido con MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 y MiniMax-M3. Una tubería de extracción representativa con 1,200 tokens de entrada y 300 de salida por llamada cuesta unos $0.0012 por llamada, o aproximadamente $1,200 por millón de llamadas.
¿Hy3 rechazará alguna solicitud?
No hay capa de rechazo ni filtrado de la salida delante del modelo. Para una tubería estructurada eso es una propiedad de fiabilidad tanto como de contenido: un rechazo es una violación del esquema, porque la prosa que explica por qué el modelo no va a responder no se parsea como el objeto que espera tu validador. Eliminar la ruta de rechazo elimina toda una clase de fallos de parseo en corpus de seguridad, médicos, jurídicos y de contenido adulto.
Ejecuta Hy3 con tu propio esquema
Fidelidad de 8 bits, json_schema estricto, 262K de contexto, sin rechazos, al precio mínimo.
Id del modelo Hy3-W8A16 · solo texto · $0.50 de entrada / $2.00 de salida por 1M de tokens
Fuentes: fichas de modelo de Tencent Hunyuan · repositorio de Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · cobertura de VentureBeat del lanzamiento de Hy3. Los benchmarks de la base son los reportados por Tencent y son provisionales a la espera de verificación independiente. Shannon AI es operado por Shannon Lab LLC, Nuevo México, EE. UU.