Shannon 3.1
Lo stesso ciclo di ragionamento, spostato sul nostro cluster GPU: 32% più intelligente, 10-15 volte più veloce e una finestra di contesto da 196.608 token.
In sintesi
Shannon 3.1 conserva tutto ciò che rendeva Shannon 3 degno di essere usato — il ciclo di ragionamento iterativo, nessuno strato di rifiuto, nessun filtro sull'output — e cambia dove e come viene eseguito. Il modello ora è servito dal nostro cluster GPU invece che da un servizio di inferenza di terze parti. La valutazione di Shannon Lab misura un miglioramento del 32% nell'intelligenza e risposte 10-15 volte più veloci rispetto a Shannon 3.0. La finestra di contesto passa da 32.768 a 196.608 token. Lo strato di temporizzazione che rallentava deliberatamente l'output della 3.0 è sparito: la 3.1 trasmette alla piena velocità del motore. Gli id dei modelli sono shannon-3.1 e shannon-3.1-pro, in chat e su tutti e tre i dialetti API.
La maggior parte dei rilasci di modelli ti chiede di credere sulla parola a una dichiarazione di capacità e di aspettare una tabella di benchmark che chiuda la discussione. Questo è più facile da verificare: apri due schede, metti lo stesso prompt in shannon-3 e in shannon-3.1 e guarda. La differenza nella velocità con cui arriva la risposta non è sottile, e non è un trucco di rendering. Shannon 3.0 era rallentata di proposito. Shannon 3.1 non lo è.
01Cosa è cambiato davvero in Shannon 3.1
Shannon 3.0 ha introdotto l'elemento che definisce questa famiglia: un ciclo di ragionamento iterativo. Il modello non risponde al primo pensiero. Pensa, redige, rivede la propria bozza a fronte della domanda e la migliora. Lite esegue un passaggio di quel ciclo; Pro esegue il ciclo completo, inclusa una fase di raccolta della conoscenza prima della stesura. Quel progetto è descritto in dettaglio nell'articolo di ricerca su Shannon 3, e nulla di tutto ciò è cambiato nella 3.1.
Ciò che è cambiato è la macchina sottostante. Shannon 3.0 veniva servita tramite un servizio di inferenza di terze parti — un modo sensato di lanciare un modello, e un modo limitante di gestirlo. Erediti la configurazione di servizio di qualcun altro, la coda di qualcun altro, il tetto di contesto di qualcun altro e l'idea di qualcun altro su quanti token al secondo ti è concesso avere. Shannon 3.1 gira sul nostro cluster GPU, su uno stack di servizio che configuriamo noi, e ogni numero di rilievo in questo articolo discende da quell'unica decisione.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Dove gira | Host di terze parti | Il nostro cluster GPU |
| Finestra di contesto | 32.768 | 196.608 |
| Streaming dell'output | Temporizzato / a velocità limitata | Piena velocità del motore |
| Pesi | Predefiniti dell'host | NVFP4 a 4 bit |
| Decodifica | Standard | Speculativa |
| Ciclo di ragionamento | Pensa → redige → rivede → migliora | Invariato |
| Strato di rifiuto | Nessuno | Nessuno |
| Id dei modelli | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Perché Shannon 3.1 sembra 10-15 volte più veloce
Il dato sulla velocità è il primo che le persone verificano, quindi vale la pena essere precisi su da dove viene. Ci sono due contributi indipendenti, e quello più grande è il meno spettacolare dei due.
Abbiamo rimosso il limitatore di velocità
L'output di Shannon 3.0 passava attraverso uno strato di temporizzazione. I token uscivano dal motore, venivano trattenuti e rilasciati sulla tua connessione secondo una cadenza. Non era un incidente né un bug. Quando il collo di bottiglia è un servizio di inferenza condiviso, temporizzare l'output distribuisce il carico, impedisce a una generazione lunga di monopolizzare uno slot e fa arrivare il flusso con un ritmo prevedibile e leggibile invece che a raffiche. È una scelta ingegneristica difendibile, ed è costata a ogni utente tempo reale su ogni singola risposta.
Shannon 3.1 non ha alcun limitatore di velocità né temporizzazione della rivelazione. I token vengono scritti sul tuo flusso man mano che il motore li produce. Se il motore genera velocemente, lo vedi generare velocemente. Non c'è alcun buffer di livellamento tra il modello e il tuo terminale, la tua finestra di chat o il tuo lettore SSE. Per una risposta lunga — un'analisi da 2.000 token, un file di codice generato — questo da solo spiega la maggior parte del miglioramento che noterai.
Una conseguenza da dire con onestà: il flusso ora è a raffiche. La decodifica speculativa (qui sotto) emette i token accettati in brevi sequenze, quindi il testo può arrivare a blocchi visibili invece che con una cadenza metronomica di una parola alla volta. Se hai costruito un'interfaccia intorno alla cadenza uniforme della 3.0, continuerà a funzionare — l'ordine e il contenuto dei token non cambiano — ma potresti voler reintrodurre un tuo smorzamento lato client se preferivi l'effetto macchina da scrivere. Pensiamo che la maggior parte delle persone preferisca riavere i secondi.
Il motore stesso è diventato più veloce
Rimuovere il limitatore serve solo se ciò che sta dietro al limitatore è rapido. Il secondo contributo è lo stack di servizio descritto nella sezione 03: pesi NVFP4 a 4 bit e decodifica speculativa su acceleratori di generazione attuale con supporto FP4 nativo, nel nostro cluster. Insieme alzano il tetto che la rimozione del limitatore mette allo scoperto.
Latenza relativa delle risposte complete, valutazione interna di Shannon Lab, settembre 2026. L'intervallo riflette la lunghezza del prompt e il livello: i prompt brevi su Lite stanno vicino al minimo, le generazioni lunghe su Pro vicino al massimo.
03Cosa fa davvero la decodifica speculativa
"Inferenza con decodifica speculativa" viene usata come parola di marketing, quindi ecco il meccanismo, spiegato senza giri di parole.
Un modello linguistico normalmente produce un token per ogni passaggio in avanti. Quel passaggio è dominato non dall'aritmetica ma dalla larghezza di banda della memoria — i pesi devono essere letti per calcolare qualsiasi cosa, e leggerli richiede molto più tempo dei conti veri e propri. La GPU passa la maggior parte del tempo ad aspettare la memoria con le unità di calcolo inattive. Generare 500 token significa pagare quella latenza 500 volte, in sequenza.
La decodifica speculativa attacca la parte sequenziale. Un piccolo ed economico modello bozza propone una breve sequenza di token probabili — diciamo quattro o otto. Il modello principale valuta poi l'intera sequenza in un unico passaggio in avanti batch, che costa appena più di quanto sarebbe costato valutare un solo token, perché la parte costosa (leggere i pesi) avviene una volta sola in entrambi i casi. Ogni token proposto su cui il modello principale è d'accordo viene accettato ed emesso immediatamente. Al primo disaccordo la sequenza viene troncata e da lì riprende la decodifica normale.
La proprietà che conta
La decodifica speculativa preserva l'output. La fase di verifica è costruita in modo che la sequenza accettata abbia esattamente la stessa distribuzione del campionamento del modello principale. Non stai ottenendo la risposta del modello bozza, e non stai ottenendo un'approssimazione della risposta del modello grande. Stai ottenendo l'output del modello principale, raggiunto in meno passaggi sequenziali. Il modello bozza può influire solo sulla velocità, mai sul contenuto.
È il tasso di accettazione a fare il lavoro. Sul testo prevedibile — formule standard, struttura del codice, il tessuto connettivo di un ragionamento — il modello bozza indovina bene e lunghe sequenze arrivano tutte insieme. Sui token davvero difficili l'accettazione cala e il sistema degrada con grazia tornando all'ordinaria decodifica un token alla volta. È proprio l'asimmetria che si desidera: accelera le parti facili e non tocca quelle difficili.
Perché i pesi a 4 bit stanno nello stesso paragrafo
Poiché il collo di bottiglia è la larghezza di banda della memoria, ridurre i pesi è una leva diretta sulla velocità, non solo sull'ingombro in memoria. NVFP4 è un formato in virgola mobile a 4 bit con scalatura a grana fine per blocco, ed è ciò che gli permette di mantenere l'accuratezza dove i vecchi schemi di quantizzazione intera a 4 bit la perdevano. Circa un quarto dei byte da leggere per ogni passaggio in avanti significa proporzionalmente meno tempo passato ad aspettare la memoria, e lascia molto più margine per la cache KV a contesto lungo che una finestra da 196K richiede.
I due effetti si moltiplicano invece di limitarsi a sommarsi: meno byte per passaggio e meno passaggi per token emesso. È questo che rende lo streaming a piena velocità e senza limitatore sostenibile da servire invece di un costo da recuperare con la temporizzazione — che è esattamente ciò che faceva lo strato di temporizzazione sulla 3.0.
04196.608 token: cosa sblocca una finestra 6 volte più grande
Shannon 3.0 aveva una finestra da 32.768 token: una sessione di lavoro, non un documento. All'incirca 70-80 pagine di prosa, meno quello che il ciclo di ragionamento consuma per i propri pensieri, meno il tuo prompt di sistema, meno la conversazione fatta fin lì. Il lavoro reale sbatteva contro quel muro di continuo, e le soluzioni di ripiego — suddivisione in blocchi, riassunti, recupero sul tuo stesso materiale — degradano tutte proprio la cosa che stavi cercando di preservare. 196.608 token sono una categoria di problema diversa.
In concreto, sono nell'ordine di 400-500 pagine di testo, o una base di codice di media dimensione con i suoi test e il suo README, o un anno di appunti di riunione di un progetto, o un intero set contrattuale con tutti i suoi allegati — tenuti in una sola conversazione, interrogabili con una sola domanda, senza alcuno strato di suddivisione tra te e il materiale.
- Domande su un intero repository. Carica il codice e chiedi perché un bug arriva in produzione, invece di incollare i tre file che già sospettavi. Il modello può trovare il file che non avevi pensato di includere.
- Analisi di documenti lunghi senza recupero. Il recupero è un prefiltro con perdita che decide cosa al modello è permesso vedere. A 196K spesso puoi saltarlo e lasciare che il modello legga tutto, il che elimina un'intera classe di fallimenti in cui il passaggio giusto non veniva mai recuperato.
- Conversazioni che restano coerenti. Una lunga sessione di lavoro non perde più silenziosamente il proprio inizio. I vincoli fissati nel terzo messaggio valgono ancora nell'ottantesimo.
- Spazio per il ciclo di ragionamento. Il pensiero, la stesura e la revisione del ciclo consumano contesto. Sulla 3.0 quelle fasi competevano con il tuo materiale per un budget scarso. Sulla 3.1 ci stanno comodamente, ed è in parte per questo che il guadagno di qualità e l'aumento della finestra sono arrivati insieme.
- Input misti di grandi dimensioni. Immagini, testo estratto da documenti e codice in un solo turno, senza dover selezionare quali puoi permetterti di includere.
Un avvertimento onesto che vale per ogni modello a contesto lungo, il nostro compreso: una finestra grande è una capacità, non la garanzia di un'attenzione uniforme su tutta la sua estensione. La struttura aiuta comunque. Mettere la domanda vicino alla fine, etichettare i documenti e dire al modello cosa cercare migliorano tutti in modo misurabile i risultati a 150K token in un modo che a 5K semplicemente non fanno.
05Lite e Pro: shannon-3.1 e shannon-3.1-pro
I due livelli differiscono per quanta parte del ciclo di ragionamento eseguono, ed è l'unica differenza che conta per scegliere tra loro.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Ragionamento | Passaggio singolo | Ciclo completo + raccolta della conoscenza |
| Autorevisione | No | Sì |
| Finestra di contesto | 196.608 | 196.608 |
| Streaming | Piena velocità, senza limitatore | Piena velocità, senza limitatore |
| Visione e documenti | Sì | Sì |
| Strumento di generazione immagini | Sì | Sì |
| Ideale per | La maggior parte del lavoro, grandi volumi | Domande difficili, prima bozza insufficiente |
Usa Lite come impostazione predefinita. Un passaggio di un buon modello di ragionamento gestisce la grande maggioranza delle richieste reali, e sulla 3.1 è abbastanza veloce da far sì che il ciclo non sia più qualcosa che senti di dover aspettare. Passa a Pro quando la domanda è di quelle in cui la prima risposta è di solito sbagliata in modo istruttivo: compromessi architetturali, analisi avversariale, tutto ciò su cui vorresti che un collega competente ci dormisse sopra. La fase di autorevisione di Pro non è un ornamento — è il modello che trova i propri errori prima che debba farlo tu.
06Il guadagno di intelligenza del 32%, e come leggerlo
La valutazione interna di Shannon Lab colloca Shannon 3.1 a un miglioramento del 32% nell'intelligenza rispetto a Shannon 3.0. Vogliamo essere chiari su cosa questo è e cosa non è.
È un nostro dato, dalla nostra suite di valutazione interna, misurato su compiti che consideriamo rappresentativi di ciò che le persone portano davvero a questi modelli. Non è un benchmark di terze parti, e non stiamo costruendo una classifica intorno a un singolo aggregato interno né pubblicando una scomposizione per benchmark — una scomposizione implicherebbe un livello di comparabilità esterna che una suite interna non ha.
Quello che possiamo dire è da dove viene il guadagno, perché quella parte non è misteriosa. Una finestra di contesto più grande significa che meno materiale deve essere scartato prima che il modello ragioni su di esso, e buona parte dell'apparente scarsa intelligenza nelle sessioni lunghe è in realtà solo amnesia. Uno stack di servizio che controlliamo noi significa che il modello gira con la configurazione che intendevamo, e non con i valori predefiniti di un host. E il ciclo di ragionamento — invariato nel progetto — ora ha spazio per girare davvero dentro la finestra invece di essere schiacciato contro un tetto di 32K che condivideva con il tuo input.
Il benchmark più utile per te è il tuo. Prendi un prompt dal tuo lavoro reale — non un rompicapo, uno vero — ed eseguilo su shannon-3 e poi su shannon-3.1. Confronta le risposte e cronometrale. I nostri numeri descrivono una media su una suite; il tuo prompt è quello che deve migliorare.
07Visione, documenti e generazione di immagini
Shannon 3.1 legge immagini e documenti. Screenshot, diagrammi, fotografie, pagine scansionate, PDF e documenti di testo possono entrare nella conversazione ed essere analizzati insieme a tutto il resto. Unito alla finestra da 196K, è questo che rende pratici i flussi di lavoro su interi documenti: un lungo report e i suoi grafici in un solo turno, senza decidere in anticipo quali pagine al modello è permesso vedere.
La generazione e la modifica di immagini sono disponibili in chat come strumento. Chiedi un'immagine e il modello richiama lo strumento in linea, nella stessa conversazione, con il contesto di tutto ciò di cui si è parlato fino a quel momento. La modifica funziona allo stesso modo — passagli un'immagine, descrivi la modifica. Non c'è una modalità separata in cui entrare né un'interfaccia separata da imparare.
08Chiamare Shannon 3.1 dall'API
Shannon 3.1 è disponibile su tutti e tre i dialetti API, con streaming su ciascuno. Stessi modelli, tre formati di richiesta — scegli quello che corrisponde all'SDK che già usi.
| Endpoint | Formato | Streaming |
|---|---|---|
| /v1/chat/completions | Compatibile OpenAI | Sì |
| /v1/messages | Compatibile Anthropic | Sì |
| /v1/responses | Responses | Sì |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Sostituisci "shannon-3.1" con "shannon-3.1-pro" per eseguire il ciclo di ragionamento completo. Se stai già chiamando shannon-3, la migrazione è l'id del modello e nient'altro: i formati di richiesta e risposta sono invariati e i client di streaming esistenti continuano a funzionare. L'unica differenza di comportamento da attendersi è il flusso più a raffiche descritto nella sezione 02 — stessi token, stesso ordine, che arrivano prima e a blocchi meno regolari.
Il riferimento completo dei parametri, l'autenticazione, la semantica degli errori e un playground interattivo si trovano nella documentazione API. Le altre schede tecniche e gli approfondimenti tecnici sono in Shannon research.
09Sempre senza censura, e su questo nulla è cambiato
Shannon 3.1 non ha alcuno strato di rifiuto né filtri sui contenuti in uscita. È la stessa impostazione del resto della linea Shannon e non è cambiata con lo spostamento sul nostro cluster — semmai, controllare lo stack di servizio la rende più facile da garantire, perché non c'è alcun host intermedio con le proprie politiche tra il modello e te.
Vale la pena dirlo chiaramente, perché è la cosa ovvia da chiedersi di fronte a un rilascio che ha cambiato l'intero percorso dell'output: rimuovere lo strato di temporizzazione non ha significato inserire al suo posto uno strato di moderazione. Nulla ispeziona, riscrive o filtra il flusso. Ciò che il modello produce è ciò che arriva. Shannon 3.1 è, per quanto ne sappiamo, il modello IA senza censura più veloce disponibile con una finestra di contesto di queste dimensioni — e le due proprietà sono collegate, dato che entrambe derivano dal gestire la nostra infrastruttura invece di affittare da altri capacità modellata sulla conformità.
Senza censura non è sinonimo di senza responsabilità. L'uso è regolato dalla nostra Politica di Uso Responsabile, e l'obbligo che accompagna un modello disposto a confrontarsi con materiale difficile è che tu lo faccia in modo responsabile.
10Fai tu stesso il confronto
Ogni affermazione qui è verificabile in circa due minuti, e preferiamo che tu verifichi piuttosto che crederci sulla parola.
- Scegli un prompt dal lavoro che fai davvero. Meglio se lungo — mette alla prova sia la finestra sia lo streaming.
- Eseguilo su
shannon-3. Annota quanto tempo passa fino al primo token e quanto fino al completamento della risposta. - Esegui lo stesso identico prompt su
shannon-3.1. Annota gli stessi due numeri. - Poi leggi entrambe le risposte, ignorando l'orologio, e decidi quale avresti voluto.
La differenza di velocità sarà immediata e ovvia. La differenza di qualità è quella su cui vale la pena soffermarsi — si vede più chiaramente sugli input lunghi, dove la 3.0 lavorava silenziosamente con meno materiale di quanto pensassi.
11Domande frequenti
Che cos'è Shannon 3.1?
Shannon 3.1 è la release attuale della famiglia Shannon 3. Mantiene lo stesso ciclo di ragionamento iterativo — pensa, redige, si autorevisiona, migliora — ma lo esegue in modo nativo sul nostro cluster GPU invece che su un servizio di inferenza di terze parti. La valutazione interna di Shannon Lab misura un miglioramento del 32% nell'intelligenza e risposte 10-15 volte più veloci rispetto a Shannon 3.0, con la finestra di contesto portata da 32.768 a 196.608 token.
Quanto è più veloce Shannon 3.1 rispetto a Shannon 3.0?
Da 10 a 15 volte più veloce sulle risposte complete, secondo la valutazione interna di Shannon Lab. Ci sono due ragioni. L'output di Shannon 3.0 passava attraverso uno strato di temporizzazione che limitava deliberatamente il flusso; Shannon 3.1 non ha alcun limitatore di velocità né temporizzazione della rivelazione, quindi i token ti arrivano alla stessa velocità con cui il motore li produce. Anche il motore stesso è più veloce: pesi NVFP4 a 4 bit più decodifica speculativa sul nostro cluster GPU.
Quanto è grande la finestra di contesto di Shannon 3.1?
196.608 token, sei volte i 32.768 token disponibili su Shannon 3.0. Sono all'incirca 400-500 pagine di testo, o una base di codice di media dimensione, tenute in una sola conversazione senza suddivisione in blocchi né recupero.
Che cos'è la decodifica speculativa e perché conta qui?
Un modello bozza piccolo e veloce propone una sequenza di token probabili e il modello principale li verifica in un unico passaggio batch. I token accettati vengono emessi immediatamente; quelli rifiutati tornano alla decodifica normale. L'output è quello che il modello principale avrebbe prodotto da solo, ma più token possono arrivare per ogni passaggio di verifica invece di uno solo. È ciò che rende sostenibile lo streaming a piena velocità invece di trasformarlo in un problema di costi.
Shannon 3.1 è senza censura?
Sì. Shannon 3.1 non ha alcuno strato di rifiuto né filtri sui contenuti applicati al suo output, come il resto della linea Shannon. Rimuovere lo strato di temporizzazione non ha aggiunto uno strato di moderazione al suo posto — il flusso che ricevi è l'output del modello.
Quali sono gli id dei modelli e dove posso usare Shannon 3.1?
shannon-3.1 è il livello Lite e shannon-3.1-pro è il livello Pro. Entrambi sono disponibili in chat e su tutti e tre i dialetti API: /v1/chat/completions (formato OpenAI), /v1/messages (formato Anthropic) e /v1/responses. Lo streaming funziona su tutti e tre.
Qual è la differenza tra shannon-3.1 e shannon-3.1-pro?
Lite esegue un solo passaggio del ciclo di ragionamento: pensa, poi risponde. Pro esegue il ciclo completo — pensa, redige, si autorevisiona, migliora — con una fase di raccolta della conoscenza prima della stesura. Lite è la scelta predefinita giusta per la maggior parte del lavoro; Pro è per le domande in cui la prima risposta di solito non è la migliore.
Prova Shannon 3.1
Lo stesso ciclo di ragionamento. Sei volte la finestra. Nessun limitatore di velocità.
Inizia a Chattare Leggi la documentazione APIshannon-3.1 · shannon-3.1-pro · streaming su tutti e tre i dialetti
Le cifre su prestazioni e intelligenza in questo articolo sono misurazioni interne di Shannon Lab, valutazione di settembre 2026, e sono presentate come dati di prodotto e non come risultati di benchmark di terze parti. Finestra di contesto, id dei modelli e disponibilità delle API sono specifiche di prodotto. Shannon AI è gestito da Shannon Lab LLC, New Mexico, USA. Letture correlate: Shannon 3 · Indice Shannon research · Documentazione API.