Shannon 3.1

A maioria dos lançamentos de modelos pede que você aceite uma alegação de capacidade por fé e espere uma tabela de benchmarks resolver a discussão. Este é mais fácil de conferir: abra duas abas, coloque o mesmo prompt no shannon-3 e no shannon-3.1 e observe. A diferença na rapidez com que a resposta chega não é sutil, e não é um truque de renderização. O Shannon 3.0 era limitado de propósito. O Shannon 3.1 não é.

01O que realmente mudou no Shannon 3.1

O Shannon 3.0 introduziu aquilo que define esta família: um ciclo de raciocínio iterativo. O modelo não responde a partir do seu primeiro pensamento. Ele pensa, rascunha, revisa o próprio rascunho em relação à pergunta e o melhora. O Lite executa uma passagem desse ciclo; o Pro executa o ciclo completo, incluindo uma etapa de colheita de conhecimento antes de rascunhar. Esse desenho é descrito em detalhe no artigo de pesquisa do Shannon 3, e nada disso mudou no 3.1.

O que mudou foi a maquinaria por baixo. O Shannon 3.0 era servido por um provedor de inferência terceirizado — uma forma sensata de lançar um modelo, e uma forma limitante de operá-lo. Você herda a configuração de serviço de outra pessoa, a fila de outra pessoa, o teto de contexto de outra pessoa e a ideia de outra pessoa sobre quantos tokens por segundo você tem direito. O Shannon 3.1 roda no nosso próprio cluster de GPUs, sobre uma pilha de serviço que nós configuramos, e cada número de destaque deste artigo decorre dessa única decisão.

	Shannon 3.0	Shannon 3.1
Onde roda	Provedor terceirizado	Nosso próprio cluster de GPUs
Janela de contexto	32,768	196,608
Streaming de saída	Cadenciado / com limite de taxa	Velocidade total do motor
Pesos	Padrão do provedor	NVFP4 de 4 bits
Decodificação	Padrão	Especulativa
Ciclo de raciocínio	Pensar → rascunhar → revisar → melhorar	Inalterado
Camada de recusa	Nenhuma	Nenhuma
Ids dos modelos	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Por que o Shannon 3.1 parece 10-15x mais rápido

O número de velocidade é o primeiro que as pessoas questionam, então vale ser preciso sobre de onde ele vem. Há duas contribuições independentes, e a maior delas é a menos glamourosa.

Removemos a trava de velocidade

A saída do Shannon 3.0 passava por uma camada de cadência. Os tokens saíam do motor, eram retidos e liberados para a sua conexão conforme um cronograma. Isso não era um acidente nem um bug. Quando um provedor de inferência compartilhado é o gargalo, cadenciar a saída suaviza a carga, impede que uma geração longa monopolize um slot e faz o fluxo chegar em um ritmo previsível e legível, em vez de em rajadas. É uma escolha de engenharia defensável, e custava a cada usuário tempo real de relógio em cada resposta.

O Shannon 3.1 não tem trava de velocidade nem cadência de exibição. Os tokens são escritos no seu fluxo à medida que o motor os produz. Se o motor está gerando rápido, você vê que ele está gerando rápido. Não há buffer de suavização entre o modelo e o seu terminal, a sua janela de chat ou o seu leitor de SSE. Para uma resposta longa — uma análise de 2.000 tokens, um arquivo de código gerado — só isso já responde pela maior parte da melhoria que você vai notar.

Uma consequência honesta: o fluxo agora chega em rajadas. A decodificação especulativa (abaixo) emite os tokens aceitos em sequências curtas, então o texto pode chegar em blocos visíveis, em vez de em uma cadência metronômica de uma palavra por vez. Se você construiu uma interface em torno da cadência suave do 3.0, ela continuará funcionando — a ordem e o conteúdo dos tokens não são afetados —, mas talvez você queira reintroduzir a sua própria suavização no cliente, caso preferisse o efeito de máquina de escrever. Achamos que a maioria das pessoas prefere ter os segundos de volta.

O próprio motor ficou mais rápido

Remover a trava só ajuda se o que está atrás dela for rápido. A segunda contribuição é a pilha de serviço descrita na seção 03: pesos NVFP4 de 4 bits e decodificação especulativa em aceleradores de geração atual, nativos em FP4, no nosso próprio cluster. Juntos, eles elevam o teto que a remoção da trava expõe.

Latência relativa de resposta de ponta a ponta, avaliação interna do Shannon Lab, setembro de 2026. A faixa reflete o tamanho do prompt e o nível: prompts curtos no Lite ficam perto do limite inferior, gerações longas no Pro perto do superior.

03O que a decodificação especulativa realmente faz

"Inferência com decodificação especulativa" virou palavra de marketing, então aqui está o mecanismo, sem rodeios.

Normalmente, um modelo de linguagem produz um token por passagem direta. Essa passagem é dominada não pela aritmética, mas pela largura de banda de memória — os pesos precisam ser lidos para que qualquer coisa seja calculada, e lê-los leva muito mais tempo do que a matemática em si. A GPU passa a maior parte do tempo esperando pela memória, com suas unidades de cálculo ociosas. Gerar 500 tokens significa pagar essa latência 500 vezes, em sequência.

A decodificação especulativa ataca a parte sequencial. Um modelo de rascunho pequeno e barato propõe uma sequência curta de prováveis próximos tokens — digamos quatro ou oito. O modelo principal então avalia essa sequência inteira em uma única passagem direta em lote, que custa pouco mais do que avaliar um único token custaria, porque a parte cara (ler os pesos) acontece uma vez de qualquer forma. Cada token proposto com o qual o modelo principal concorda é aceito e emitido imediatamente. Na primeira discordância, a sequência é truncada e a decodificação normal recomeça dali.

A taxa de aceitação é o que faz o trabalho. Em texto previsível — código repetitivo, estrutura de código, o tecido conectivo de um argumento — o modelo de rascunho acerta bem e sequências longas chegam de uma só vez. Em tokens genuinamente difíceis, a aceitação cai e o sistema degrada com elegância de volta à decodificação comum, um token por vez. Essa assimetria é justamente a que você quer: ela acelera as partes fáceis e não toca nas difíceis.

Por que os pesos de 4 bits pertencem ao mesmo parágrafo

Como o gargalo é a largura de banda de memória, encolher os pesos é uma alavanca direta de velocidade, e não apenas de consumo de memória. O NVFP4 é um formato de ponto flutuante de 4 bits com escalonamento por bloco de granularidade fina, o que é justamente o que lhe permite manter a precisão onde esquemas mais antigos de quantização inteira de 4 bits a perdiam. Cerca de um quarto dos bytes a ler por passagem direta significa proporcionalmente menos tempo esperando pela memória, e sobra muito mais folga para o cache KV de contexto longo que uma janela de 196K exige.

Os dois se compõem, em vez de apenas somar: menos bytes por passagem e menos passagens por token emitido. É isso que torna o streaming sem trava, em velocidade total, viável de servir, em vez de um custo que teríamos de recuperar por meio de cadência — que é precisamente o que a camada de cadência fazia no 3.0.

04196,608 tokens: o que uma janela 6x maior destrava

O Shannon 3.0 tinha uma janela de 32,768 tokens: uma sessão de trabalho, não um documento. Cerca de 70-80 páginas de prosa, menos o que o ciclo de raciocínio consome com o próprio pensamento, menos o seu prompt de sistema, menos a conversa até ali. O trabalho real batia nessa parede o tempo todo, e as soluções de contorno — fragmentar, resumir, recuperar sobre o seu próprio material — todas degradam justamente aquilo que você estava tentando preservar. 196,608 tokens é uma categoria diferente de problema.

Concretamente, isso é da ordem de 400-500 páginas de texto em inglês, ou uma base de código de porte médio com seus testes e seu README, ou um ano de atas de reunião de um projeto, ou um conjunto completo de contratos com todos os seus anexos — mantidos em uma conversa, endereçáveis em uma pergunta, sem nenhuma camada de fragmentação entre você e o material.

• Perguntas sobre o repositório inteiro. Carregue o código e pergunte por que um bug chega à produção, em vez de colar os três arquivos de que você já suspeitava. O modelo consegue encontrar o arquivo que você não pensou em incluir.
• Análise de documentos longos sem recuperação. A recuperação é um pré-filtro com perdas que decide o que o modelo tem permissão de ver. Com 196K você muitas vezes pode dispensá-la e deixar o modelo ler tudo, o que elimina uma classe inteira de falhas em que o trecho certo nunca foi recuperado.
• Conversas que continuam coerentes. Uma sessão longa de trabalho não descarta mais silenciosamente o próprio começo. Restrições que você definiu na mensagem três ainda valem na mensagem oitenta.
• Espaço para o ciclo de raciocínio. O pensamento, o rascunho e a revisão do próprio ciclo consomem contexto. No 3.0, essas etapas competiam com o seu material por um orçamento escasso. No 3.1 elas cabem com folga, o que é parte do motivo pelo qual o ganho de qualidade e o aumento da janela chegaram juntos.
• Entradas mistas e grandes. Imagens, texto extraído de documentos e código em um único turno, sem ter de triar quais deles você pode se dar ao luxo de incluir.

Uma ressalva honesta que vale para todo modelo de contexto longo, o nosso incluído: uma janela grande é uma capacidade, não uma garantia de atenção uniforme ao longo dela. A estrutura ainda ajuda. Colocar a pergunta perto do fim, rotular os seus documentos e dizer ao modelo o que procurar melhoram os resultados de forma mensurável com 150K tokens, de um jeito que simplesmente não acontece com 5K.

05Lite e Pro: shannon-3.1 e shannon-3.1-pro

Os dois níveis diferem em quanto do ciclo de raciocínio executam, e essa é a única diferença que importa para escolher entre eles.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Raciocínio	Passagem única	Ciclo completo + colheita de conhecimento
Autorrevisão	Não	Sim
Janela de contexto	196,608	196,608
Streaming	Velocidade total, sem trava	Velocidade total, sem trava
Visão e documentos	Sim	Sim
Ferramenta de geração de imagens	Sim	Sim
Melhor para	A maior parte do trabalho, alto volume	Perguntas difíceis, primeiro rascunho insuficiente

Use o Lite por padrão. Uma passagem de um bom modelo de raciocínio dá conta da grande maioria dos pedidos reais, e no 3.1 ele é rápido o bastante para que o ciclo deixe de ser algo cuja espera você sente. Recorra ao Pro quando a pergunta for daquelas em que a primeira resposta costuma estar errada de um jeito instrutivo: compromissos de arquitetura, análise adversarial, qualquer coisa em que você gostaria que um colega competente dormisse sobre o assunto. A etapa de autorrevisão do Pro não é decoração — é o modelo encontrando os próprios erros antes que você tenha de fazê-lo.

06O ganho de 32% em inteligência e como lê-lo

A avaliação interna do Shannon Lab coloca o Shannon 3.1 em uma melhoria de 32% em inteligência sobre o Shannon 3.0. Queremos ser claros sobre o que isso é e o que não é.

É o nosso número, do nosso conjunto interno de avaliação, medido em tarefas que consideramos representativas do que as pessoas de fato trazem a esses modelos. Não é um benchmark de terceiros, e não estamos montando uma tabela de ranking em torno de um único agregado interno nem publicando um detalhamento por benchmark — um detalhamento sugere um nível de comparabilidade externa que um conjunto interno não tem.

O que vamos dizer é de onde vem o ganho, porque essa parte não é misteriosa. Uma janela de contexto maior significa que menos material precisa ser descartado antes de o modelo raciocinar sobre ele, e boa parte da aparente falta de inteligência em sessões longas é, na verdade, apenas amnésia. Uma pilha de serviço que controlamos significa que o modelo roda com a configuração que pretendíamos, e não com um padrão de provedor. E o ciclo de raciocínio — inalterado no desenho — agora tem espaço para realmente rodar dentro da janela, em vez de ficar espremido contra um teto de 32K que dividia com a sua entrada.

07Visão, documentos e geração de imagens

O Shannon 3.1 lê imagens e documentos. Capturas de tela, diagramas, fotografias, páginas digitalizadas, PDFs e documentos de texto podem entrar na conversa e ser objeto de raciocínio junto com todo o resto. Combinado com a janela de 196K, é isso que torna práticos os fluxos de trabalho com documentos inteiros: um relatório longo e os seus gráficos em um único turno, sem decidir de antemão quais páginas o modelo tem permissão de ver.

A geração e a edição de imagens estão disponíveis no chat como ferramenta. Peça uma imagem e o modelo chama a ferramenta em linha, na mesma conversa, com o contexto de tudo o que foi discutido até ali. A edição funciona do mesmo jeito — entregue uma imagem e descreva a mudança. Não há um modo separado para acessar nem uma interface separada para aprender.

08Chamando o Shannon 3.1 pela API

O Shannon 3.1 está disponível nos três dialetos de API, com streaming em cada um. Os mesmos modelos, três formatos de requisição — escolha o que corresponder ao SDK que você já tem.

Endpoint	Formato	Streaming
/v1/chat/completions	Compatível com OpenAI	Sim
/v1/messages	Compatível com Anthropic	Sim
/v1/responses	Responses	Sim

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Troque "shannon-3.1" por "shannon-3.1-pro" para executar o ciclo de raciocínio completo. Se você já chama o shannon-3, a migração é o id do modelo e nada mais: os formatos de requisição e de resposta não mudaram, e os clientes de streaming existentes continuam funcionando. A única diferença de comportamento a esperar é o fluxo em rajadas descrito na seção 02 — os mesmos tokens, na mesma ordem, chegando antes e em blocos menos uniformes.

A referência completa de parâmetros, a autenticação, a semântica de erros e um playground interativo estão na documentação da API. Outros cartões de modelo e artigos técnicos estão em Shannon research.

09Continua sem censura, e nesse aspecto nada mudou

O Shannon 3.1 não tem camada de recusa nem filtragem de conteúdo na saída. Essa é a mesma postura do restante da linha Shannon e ela não mudou com a mudança para o nosso próprio cluster — se algo mudou, controlar a pilha de serviço torna isso mais fácil de garantir, porque não há um provedor intermediário com a própria política sentado entre o modelo e você.

Vale dizer com todas as letras, porque é a coisa óbvia a se perguntar sobre um lançamento que mudou todo o caminho da saída: remover a camada de cadência não significou inserir uma camada de moderação em seu lugar. Nada inspeciona, reescreve ou filtra o fluxo. O que o modelo produz é o que chega. O Shannon 3.1 é, até onde sabemos, o modelo de IA sem censura mais rápido disponível com uma janela de contexto deste tamanho — e as duas propriedades são relacionadas, já que ambas vêm de operar a nossa própria infraestrutura, em vez de alugar capacidade moldada por conformidade de outra pessoa.

Sem censura não é o mesmo que sem responsabilidade. O uso é regido pela nossa Política de Uso Responsável, e a obrigação que vem com um modelo disposto a lidar com material difícil é que você lide com ele de forma responsável.

10Faça a comparação você mesmo

Toda alegação aqui é verificável em cerca de dois minutos, e preferimos que você verifique a que acredite em nós.

1. Escolha um prompt de um trabalho que você realmente faz. Longo é melhor — exercita tanto a janela quanto o streaming.
2. Rode-o no shannon-3. Anote quanto tempo até o primeiro token e quanto tempo até a resposta terminar.
3. Rode o prompt idêntico no shannon-3.1. Anote os mesmos dois números.
4. Depois leia as duas respostas, ignorando o relógio, e decida qual delas você teria querido.

A diferença de velocidade será imediata e óbvia. A diferença de qualidade é a que vale a pena examinar com calma — ela aparece com mais clareza em entradas longas, em que o 3.0 vinha trabalhando silenciosamente com menos do seu material do que você imaginava.

11Perguntas frequentes

---

Os números de desempenho e inteligência deste artigo são medições próprias do Shannon Lab, obtidas em avaliação interna, setembro de 2026, e são apresentados como números de produto, não como resultados de benchmarks de terceiros. A janela de contexto, os ids dos modelos e a disponibilidade na API são especificações do produto. O Shannon AI é operado pela Shannon Lab LLC, Novo México, EUA. Leitura relacionada: Shannon 3 · índice Shannon research · documentação da API.