API do modelo Hy3 sem censura
A fundação Hy3 de 295B da Tencent com fidelidade de pesos de 8 bits, saída estrita em json_schema, janela de 262,144 tokens e nenhuma camada de recusa — pelo preço de piso do catálogo.
Resumo
O Hy3-W8A16 é o terceiro dos nossos três modelos W8A16 — pesos de 8 bits, ativações de 16 bits, o nível de maior fidelidade que servimos. Ele é só de texto, suporta tanto json_schema quanto response_format, carrega o contexto de 262,144 tokens e o teto de saída de 16,384 tokens comuns a todo o catálogo, e custa $0.50 / $2.00 por milhão de tokens — o piso. Sem camada de recusa, sem filtragem da saída. Escolha-o para pipelines de texto em alto volume que precisam devolver saída tipada e parseável em toda chamada, inclusive sobre material que um modelo filtrado se recusaria a tocar.
A maioria das discussões de "qual modelo eu devo usar" é sobre o teto: qual escreve o melhor código, resolve a matemática mais difícil, vence a execução de agente mais longa. Pipelines estruturados não funcionam assim. Um trabalho que extrai campos de cem mil documentos por dia não precisa de um modelo brilhante uma vez — precisa de um que seja correto no mesmo formato todas as vezes, e que nunca devolva um parágrafo onde cabia um objeto JSON. É para essa propriedade que o Hy3-W8A16 existe.
01O que é o Hy3, e de onde ele vem
O Hy3 é um modelo de pesos abertos de raciocínio e trabalho agêntico da equipe Hunyuan da Tencent, lançado por completo em 6 de julho de 2026 sob licença permissiva, com os pesos publicados no Hugging Face. Ele dá continuidade à linhagem do trabalho Mixture-of-Experts anterior da Tencent, o Hunyuan-Large. Arquiteturalmente é um MoE esparso: 295 bilhões de parâmetros totais, dos quais cerca de 21 bilhões ativam por token via roteamento top-8 entre 192 especialistas, sobre um transformer de 80 camadas com atenção grouped-query, mais uma camada separada de 3.8B para multi-token prediction voltada à decodificação especulativa. O contexto nativo é de 256K — exatamente os 262,144 tokens que expomos, não um truncamento de algo maior nem uma extensão via rope de algo menor.
Essa razão de esparsidade é o número importante para quem paga por token: o Hy3 carrega o conhecimento de um modelo de 295B enquanto faz aproximadamente a aritmética de um de 21B por passada direta. É também por isso que podemos nos dar ao luxo de servi-lo em 8 bits em vez de comprimi-lo mais — uma build de 8 bits de um modelo tão esparso ainda cabe e ainda roda rápido no nosso próprio cluster de GPUs.
Em que a Tencent relata que ele é bom
As tabelas de avaliação publicadas pela Tencent colocam os pontos fortes do Hy3 claramente em busca agêntica, orquestração de ferramentas e recuperação em contexto longo, e não em programação bruta. Os números relatados por eles:
Mostramos as barras fracas de propósito. O Hy3 fica atrás do GLM-5.2 em programação na própria comparação da Tencent — 78.0 contra 84.2 no SWE-bench Verified, 28.0 contra 46.2 no DeepSWE. Se a sua carga de trabalho é engenharia de software autônoma em vários arquivos, leia antes o resto do índice de pesquisa de modelos. Se for ler texto e emitir estrutura, o perfil é quase ideal.
O número que mais importa para trabalho de pipeline é de confiabilidade: a Tencent relata a taxa de alucinação do Hy3 em 5.4%, ante 12.5% na geração anterior, com os erros de senso comum caindo de 25.4% para 12.7%. O princípio de treino declarado por eles — responder quando há evidência, dizer com todas as letras quando não há — é exatamente a disposição que você quer num modelo de extração que, de outro modo, inventaria um valor plausível para um campo que a fonte nunca menciona.
Todos os números desta seção são relatados pela Tencent a partir dos testes deles; a verificação independente por terceiros ainda estava pendente no momento em que isto foi escrito. Trate-os como direcionais, não como definitivos.
02O que significa W8A16, e por que importa para saída estruturada
Todo modelo do gateway carrega um sufixo de quantização. Não é decoração — ele lhe diz a que distância os pesos servidos estão do checkpoint que o laboratório lançou.
| Nível | O que faz | Fidelidade |
|---|---|---|
| 3BIT-REAP | Pesos de 3 bits mais REAP, um método de poda de especialistas que descarta especialistas MoE raramente roteados antes da quantização | O mais comprimido |
| W4A16-AUTOROUND-REAP | Pesos de 4 bits / ativações de 16 bits via AutoRound — arredondamento aprendido que recupera acurácia frente ao arredondamento ingênuo ao mais próximo — mais poda REAP | Intermediário |
| W8A16 | Pesos de 8 bits / ativações de 16 bits. Sem poda, sem reparo por arredondamento aprendido — os pesos simplesmente carregados com o dobro da precisão | A mais alta |
Onde a deriva de quantização de fato dói
O REAP e o AutoRound recuperam a maior parte do que a compressão ingênua perde — mas "maior parte" está trabalhando duro nessa frase, e o resíduo não cai de forma uniforme. A quantização de poucos bits degrada as caudas: as decisões de baixa probabilidade e alta especificidade. Em prosa isso é quase invisível; um adjetivo diferente continua sendo uma boa frase. Em saída estruturada é o jogo inteiro, porque um schema é uma longa cadeia de decisões de baixa probabilidade que precisam estar todas exatamente certas:
- Sintaxe no nível do token. Uma chave de fechamento, uma vírgula, uma aspa. Cada uma é um token, e um token errado invalida a resposta inteira.
- Disciplina de enum. O seu schema diz que
"status"é um de"open" | "closed" | "pending"; um modelo com deriva devolve"Open"ou"pending review"— semanticamente perto, e válido como nenhum dos dois. - Disciplina de tipo. Um campo
numbervolta como"1,240", umbooleancomo"yes". Ambos são parseados como strings e falham no schema. - Literais de cauda longa. Nomes próprios raros, números de peça, nomes químicos, escritas não latinas, datas precisas — exatamente a região de baixa probabilidade que os pesos de poucos bits borram.
Nada disso faz dos modelos de 4 ou 3 bits modelos ruins; para trabalho conversacional a diferença de fidelidade muitas vezes não vale a diferença de preço. Mas quando quem consome a saída é um validador, e não uma pessoa, precisão nas caudas se converte diretamente em taxa de parsing — e a taxa de parsing, em orçamento de retentativas e latência p99. O W8A16 é o nível em que você para de pagar esse imposto.
03Saída estruturada: json_schema e response_format
O Hy3 suporta as duas metades da superfície de saída estruturada — vale dizer explicitamente, porque isso não é universal no catálogo:
| Modelo | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Sim | Sim |
| MiMo-V2.5-Pro · W8A16 | Sim | Sim |
| inkling · W4A16-AUTOROUND-REAP | Sim | Não |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Não | Não |
A diferença entre os dois mecanismos importa mais do que se costuma supor. O response_format: {"type": "json_object"} pede JSON válido e nada além — o modelo escolhe o formato, então duas chamadas podem devolver {"name": ...} e {"full_name": ...} e ambas estão certas. O json_schema fornece o formato de antemão: campos nomeados, tipos, enums, listas de obrigatórios, aninhamento. Isso é um contrato contra o qual você pode escrever código.
Uma chamada mínima no dialeto compatível com OpenAI:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
Notas práticas
- Torne todo campo obrigatório e permita
null. Campos opcionais convidam a omissões silenciosas; um campo obrigatório que aceita nulo força um "não está presente" explícito, que é informação sobre a qual você pode agir. - Enums batem strings livres. Onde você puder fechar o conjunto de valores, feche — é a mudança de maior alavancagem sobre a taxa real de aprovação de um schema.
- Fique abaixo do teto de 16,384 tokens de saída. Um array sem limite vai truncar no meio de um objeto. Limite o comprimento dos arrays, ou fatie a entrada.
- Mantenha a mensagem de sistema. O schema restringe o formato; o prompt continua governando a semântica — o que conta como "crítico", qual data vence quando aparecem duas, se as unidades devem ser normalizadas.
- Valide de qualquer forma. O suporte a schema eleva a taxa de aprovação; ele não substitui um validador e uma fila de mensagens mortas.
04Por que "sem censura" é uma propriedade de confiabilidade, não só de conteúdo
O Hy3 no gateway não tem camada de recusa nem filtragem da saída. O enquadramento usual é sobre conteúdo: você pode processar pesquisa em segurança, análise de malware, relatos de exploração, corpora médicos e jurídicos, material adulto, documentação de redução de danos ou transcrições de usuários hostis sem que o modelo decida por você que prefere não fazê-lo.
Há uma segunda razão, mais mecânica, para isso importar. Uma recusa é uma violação de schema. Um modelo filtrado que recusa não devolve o seu objeto com um indicador "unavailable" — ele devolve prosa. "Não posso ajudar com esse pedido." Essa string não é um objeto incident; ela falha no seu validador e vai parar na fila de mensagens mortas ao lado de erros genuínos de parsing, onde você agora precisa separar recusas de política de malformações reais.
Pior, as recusas se correlacionam com o conteúdo em vez de se distribuírem aleatoriamente. Se 4% do seu corpus são relatórios de incidentes de segurança e o modelo recusa a maioria deles, você não perdeu 4% da vazão de forma uniforme — perdeu uma categoria, e o dashboard construído sobre esses dados passa a sub-relatar em silêncio exatamente aquilo que ele existe para mostrar. Buracos com formato de categoria custam mais do que ruído uniforme, porque nada dispara alerta sobre eles. Remova o caminho de recusa e o que resta — malformações, truncamentos, texto ambíguo — não é correlacionado com o tema e, portanto, é mensurável.
Sem censura não é sem responsabilidade
Nenhuma camada de recusa significa que o modelo não editorializa sobre a sua entrada. Não significa que a conta não é monitorada. O uso é regido pela nossa Política de Uso Responsável e pela lei aplicável, e o abuso encerra o acesso. Remover o filtro impede que um modelo adivinhe a sua intenção a partir de um fragmento de documento; não remove a sua responsabilidade pelo que você constrói.
05Contexto, teto de saída e como orçá-los
Todo modelo do gateway compartilha os mesmos limites:
O contexto é um orçamento compartilhado: prompt mais saída precisam caber juntos dentro dos 262,144, então o teto prático de entrada numa chamada é de cerca de 245,000 tokens, muito grosseiramente 180,000 palavras em inglês. Para trabalho estruturado, o teto de 16,384 tokens de saída é o limite mais duro e o que surpreende as pessoas — um schema que emite um objeto por registro o atinge muito antes de a janela encher. Dois padrões funcionam contra isso:
- Entrada larga, saída estreita. Empurre um contrato, um processo ou uma janela de log inteira para o contexto e peça um único objeto compacto. Tokens de entrada custam um quarto dos tokens de saída, então o preço recompensa ler muito e escrever pouco.
- Fatie em fronteiras de registro, não em contagens de bytes. Divida onde o modelo consegue ver a emenda. Um registro cortado no meio de uma frase produz um objeto confiantemente errado, e não uma falha óbvia.
A força relatada do Hy3 em recuperação de contexto longo — 73.4 no AA-LCR, e um salto de 42.9% para 75.1% na recordação de diálogos longos do MRCR — é exatamente a capacidade de que o primeiro padrão depende, e é uma habilidade distinta de escrever bem.
06Preço de piso, e a aritmética de um pipeline real
O Hy3 fica a $0.50 por milhão de tokens de entrada e $2.00 por milhão de tokens de saída — o piso do catálogo, compartilhado com MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 e MiniMax-M3. Calculado sobre cargas representativas:
| Carga de trabalho | Entrada / chamada | Saída / chamada | Custo / chamada | Por 1M de chamadas |
|---|---|---|---|---|
| Extração de campos | 1,200 | 300 | $0.0012 | $1,200 |
| Classificação de documentos | 3,000 | 120 | $0.0018 | $1,800 |
| Resumo de documento longo para schema | 40,000 | 900 | $0.0218 | $21,800 |
| Análise de janela cheia | 240,000 | 2,000 | $0.1240 | $124,000 |
O número que muda decisões não é a tarifa de manchete, mas a tarifa efetiva depois das retentativas. Se dois modelos custam o mesmo e um falha na validação em 6% das chamadas enquanto o outro falha em 1.5%, o modelo com mais deriva roda cerca de 4.5% mais chamadas — suportável. O estrago está na cauda: chamadas repetidas demoram o dobro, então a latência p99 praticamente dobra para uma fatia visível do tráfego, e o que falha duas vezes vira trabalho manual. A um milhão de chamadas por dia, isso são milhares de registros que alguém precisa ler.
Daí o argumento pelo nível de 8 bits no preço de piso: você não está pagando um prêmio por fidelidade aqui, então a aritmética das retentativas é dinheiro de graça. Se um modelo de 3 bits fosse mais barato, haveria uma troca real a pesar — o Hy3 custa o mesmo que a coisa mais barata do catálogo.
07Três dialetos de API, um modelo
O Hy3 é acessível nos três dialetos do gateway, com streaming em cada um. Mesmo modelo, mesmos pesos, mesmos limites — escolha o que combinar com o SDK que você já tem.
| Endpoint | Dialeto | Use quando |
|---|---|---|
| /v1/chat/completions | OpenAI | Você tem um SDK da OpenAI, LangChain ou LlamaIndex. Aponte a URL base para cá e mude o id do modelo. |
| /v1/messages | Anthropic | Você está no SDK da Anthropic e quer blocos de conteúdo sem uma camada de tradução. |
| /v1/responses | Responses | Você quer o formato de requisição mais novo, com saída tipada e estado no servidor. |
O Hy3 também suporta chamada de ferramentas e raciocínio, incluindo o reasoning_effort. Para trabalho de extração, o movimento útil costuma ser baixar o raciocínio: sobre um schema bem especificado e texto limpo, tokens de pensamento são tokens de saída que você paga e latência pela qual você espera, em troca de um ganho marginal. Gaste o orçamento de esforço em entradas genuinamente ambíguas.
A referência completa de requisição e resposta, as listas de parâmetros, a semântica de streaming e um playground interativo estão na documentação da API.
08Escolhendo entre os três modelos W8A16
Três modelos ficam no nível de maior fidelidade, todos no preço de piso. A escolha é sobretudo de modalidade:
| Modelo | Visão | json_schema | Preço entrada / saída | Escolha-o para |
|---|---|---|---|---|
| Hy3 · W8A16 | Não | Sim | $0.50 / $2.00 | Pipelines estruturados só de texto, orquestração de ferramentas, recuperação em contexto longo |
| MiMo-V2.5-Pro · W8A16 | Não | Sim | $0.50 / $2.00 | Trabalho só de texto em que você quer o ajuste Pro da linha MiMo |
| MiMo-V2.5 · W8A16 | Sim | Sim | $0.50 / $2.00 | Qualquer coisa com imagens — documentos escaneados, capturas de tela, fotos |
Se qualquer parte da sua entrada for uma imagem, a decisão já está tomada por você: o Hy3 é só de texto — mande PDFs escaneados, capturas de tela e fotografias para o MiMo-V2.5. Onde a entrada é genuinamente texto, o perfil do Hy3 — uso agêntico de ferramentas, recordação em contexto longo e baixa alucinação relatada — é o que mapeia mais diretamente para trabalho de pipeline. Como os três custam o mesmo, rode o seu schema contra dois deles em algumas centenas de registros reais e compare as taxas de parsing; isso resolve a questão melhor do que qualquer tabela, inclusive esta.
09Onde o Hy3 conquista o seu lugar
- Extração de campos em alto volume. Contratos, processos, relatórios de incidente, transcrições, notas clínicas, registros judiciais — onde um objeto tipado por documento é o entregável e o volume torna as retentativas caras.
- Classificação e roteamento em escala. Saídas de enum fechado, em que todo o valor do modelo está em nunca inventar uma décima nona categoria.
- Corpora de segurança e de inteligência de ameaças. Relatos de malware, divulgações de exploração e amostras de phishing — o material que leva modelos filtrados à recusa, e onde um buraco com formato de categoria derrota o propósito.
- Agentes de chamada de ferramentas que não podem travar. Fidelidade de argumentos em 8 bits significa que o JSON entregue às suas funções é parseado; uma chamada de ferramenta destroçada é um agente travado, não uma resposta um pouco pior.
- Análise de documentos longos convertida em estrutura. Um processo inteiro entra, um objeto compacto sai.
- Moderação de conteúdo e pesquisa de políticas. Rotular material que um modelo filtrado se recusa a ler é um problema permanente de confiança e segurança; um modelo sem filtros com um schema estrito resolve isso diretamente.
E onde ele não serve: qualquer coisa com imagens (use o MiMo-V2.5) e engenharia de software autônoma em vários arquivos, em que as próprias tabelas da Tencent colocam o Hy3 atrás do GLM-5.2 no SWE-bench Verified e bem atrás no DeepSWE.
Toda afirmação de arquitetura e de benchmark sobre a fundação Hy3 vem do material público de lançamento da Tencent ou da cobertura de imprensa sobre ele; os fatos do catálogo vêm do nosso próprio /v1/models ao vivo. Verifique os dois.
Os números de benchmark são relatados pela Tencent, inclusive os dos concorrentes; a verificação independente estava pendente no momento em que isto foi escrito. Os números de custo são calculados a partir das nossas tarifas publicadas de $0.50 / $2.00. Nenhum número desta página é um benchmark rodado pela Shannon nem uma estimativa.
10Perguntas frequentes
O que é a API do modelo Hy3 sem censura?
É o endpoint do Shannon AI Gateway para o id de modelo Hy3-W8A16 — a fundação Hy3 de pesos abertos da Tencent, servida no nosso próprio cluster de GPUs com precisão de pesos de 8 bits, sem camada de recusa e sem filtragem da saída. Ela oferece janela de contexto de 262,144 tokens, 16,384 tokens de saída por requisição, chamada de ferramentas, raciocínio com reasoning_effort e saída estruturada completa por json_schema e response_format, em /v1/chat/completions, /v1/messages e /v1/responses, com streaming.
O Hy3 suporta JSON schema e saída estruturada?
Sim. O Hy3-W8A16 suporta tanto o response_format para o modo de objeto JSON quanto o json_schema para schemas estritos e tipados — a superfície completa de saída estruturada, não uma parcial. Isso não vale para todo modelo do catálogo: o Laguna-S-2.1 não suporta nenhum dos dois, e o inkling suporta response_format, mas não json_schema. Se o seu pipeline depende de um contrato tipado, o Hy3 é um dos modelos capazes de honrá-lo.
O que significa W8A16, e é melhor do que 4 bits ou 3 bits?
W8A16 significa pesos de 8 bits e ativações de 16 bits — o nível de maior fidelidade que servimos. Comparado com o W4A16-AUTOROUND-REAP (pesos de 4 bits, arredondamento aprendido, poda de especialistas) e o 3BIT-REAP (pesos de 3 bits mais poda de especialistas), ele altera menos os pesos lançados, então o comportamento fica o mais próximo possível do checkpoint original. Os níveis agressivos existem porque, de outro modo, seria impraticável servir as maiores fundações com velocidade.
O Hy3 suporta imagens ou visão?
Não. O Hy3-W8A16 é só de texto. Enviar partes de imagem para ele não vai funcionar. Se você precisa de visão mais saída estruturada no mesmo nível de 8 bits, use o MiMo-V2.5-W8A16, que suporta entrada de imagem junto com json_schema e response_format pelo mesmo preço de $0.50 / $2.00.
Quanto custa a API Hy3?
$0.50 por milhão de tokens de entrada e $2.00 por milhão de tokens de saída — o preço de piso do nosso catálogo, compartilhado com MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 e MiniMax-M3. Um pipeline de extração representativo, com 1,200 tokens de entrada e 300 de saída por chamada, custa cerca de $0.0012 por chamada, ou aproximadamente $1,200 por milhão de chamadas.
O Hy3 vai recusar um pedido?
Não há camada de recusa nem filtragem da saída à frente do modelo. Para um pipeline estruturado, isso é uma propriedade de confiabilidade tanto quanto de conteúdo: uma recusa é uma violação de schema, porque a prosa explicando por que o modelo não vai responder não é parseada como o objeto que o seu validador espera. Remover o caminho de recusa elimina toda uma classe de falhas de parsing em corpora de segurança, medicina, direito e conteúdo adulto.
Rode o Hy3 no seu próprio schema
Fidelidade de 8 bits, json_schema estrito, 262K de contexto, sem recusas — pelo preço de piso.
Id do modelo Hy3-W8A16 · só texto · $0.50 de entrada / $2.00 de saída por 1M de tokens
Fontes: cartões de modelo da Tencent Hunyuan · repositório do Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · cobertura da VentureBeat sobre o lançamento do Hy3. Os benchmarks da fundação são relatados pela Tencent e são provisórios, à espera de verificação independente. A Shannon AI é operada pela Shannon Lab LLC, Novo México, EUA.