Shannon 3.1
El mateix bucle de raonament, traslladat al nostre propi clúster de GPU: 32% més intel·ligent, 10-15x més ràpid i una finestra de context de 196.608 tokens.
Resum ràpid
Shannon 3.1 conserva tot allò que feia que Shannon 3 valgués la pena — el bucle de raonament iteratiu, cap capa de refús, cap filtratge de sortida — i canvia on i com s'executa. Ara el model se serveix des del nostre propi clúster de GPU en lloc d'un proveïdor d'inferència extern. L'avaluació de Shannon Lab mesura una millora del 32% en intel·ligència i respostes 10-15x més ràpides respecte de Shannon 3.0. La finestra de context passa de 32.768 a 196.608 tokens. La capa de cadència que alentia deliberadament la sortida de 3.0 ha desaparegut: 3.1 transmet a plena velocitat del motor. Els identificadors de model són shannon-3.1 i shannon-3.1-pro, al xat i als tres dialectes d'API.
La majoria de llançaments de models et demanen que et creguis una promesa de capacitat i que esperis que una taula de benchmarks resolgui la discussió. Aquest és més fàcil de comprovar: obre dues pestanyes, posa la mateixa consulta a shannon-3 i a shannon-3.1, i mira. La diferència en la rapidesa amb què arriba la resposta no és subtil, i no és cap truc de renderitzat. Shannon 3.0 estava limitat a propòsit. Shannon 3.1 no ho està.
01Què ha canviat realment a Shannon 3.1
Shannon 3.0 va introduir allò que defineix aquesta família: un bucle de raonament iteratiu. El model no respon amb el primer pensament. Pensa, redacta, revisa el seu propi esborrany contra la pregunta i el millora. Lite executa una passada d'aquest bucle; Pro executa el bucle complet, incloent-hi un pas de recol·lecció de coneixement abans de redactar. Aquest disseny s'explica en detall a l'article de recerca de Shannon 3, i res d'això no ha canviat a la 3.1.
El que ha canviat és la maquinària de sota. Shannon 3.0 se servia a través d'un proveïdor d'inferència extern — una manera sensata de llançar un model i una manera limitadora d'operar-lo. Heretes la configuració de servei d'algú altre, la cua d'algú altre, el sostre de context d'algú altre i la idea d'algú altre sobre quants tokens per segon tens dret a rebre. Shannon 3.1 s'executa al nostre propi clúster de GPU, sobre una pila de servei que configurem nosaltres, i totes les xifres destacades d'aquest article deriven d'aquesta única decisió.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| On s'executa | Proveïdor extern | El nostre propi clúster de GPU |
| Finestra de context | 32.768 | 196.608 |
| Streaming de sortida | Amb cadència / limitat | Plena velocitat del motor |
| Pesos | Per defecte del proveïdor | NVFP4 de 4 bits |
| Descodificació | Estàndard | Especulativa |
| Bucle de raonament | Pensar → redactar → revisar → millorar | Sense canvis |
| Capa de refús | Cap | Cap |
| Identificadors de model | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Per què Shannon 3.1 sembla 10-15x més ràpid
La xifra de velocitat és la primera que la gent consulta, així que val la pena ser precisos sobre d'on surt. Hi ha dues contribucions independents, i la més gran és la menys vistosa de les dues.
Hem eliminat el limitador de velocitat
La sortida de Shannon 3.0 passava per una capa de cadència. Els tokens sortien del motor, es retenien i s'alliberaven cap a la teva connexió segons un horari. No era un accident ni un error. Quan un proveïdor d'inferència compartit és el coll d'ampolla, cadenciar la sortida suavitza la càrrega, evita que una generació llarga monopolitzi una ranura i fa que el flux arribi amb un ritme previsible i llegible en lloc d'a ràfegues. És una decisió d'enginyeria defensable, i costava a cada usuari temps real de rellotge en cada resposta.
Shannon 3.1 no té limitador de velocitat ni cadència de revelació. Els tokens s'escriuen al teu flux tal com el motor els produeix. Si el motor genera de pressa, veus que genera de pressa. No hi ha cap memòria intermèdia de suavitzat entre el model i el teu terminal, la teva finestra de xat o el teu lector SSE. Per a una resposta llarga — una anàlisi de 2.000 tokens, un fitxer de codi generat — això per si sol explica la major part de la millora que notaràs.
Una conseqüència honesta: ara el flux és a ràfegues. La descodificació especulativa (més avall) emet els tokens acceptats en seqüències curtes, de manera que el text pot arribar en blocs visibles en lloc d'amb una cadència metronòmica de paraula a paraula. Si vas construir la teva interfície al voltant de la cadència suau de la 3.0, seguirà funcionant — l'ordre i el contingut dels tokens no varien — però potser voldràs reintroduir la teva pròpia suavització al client si preferies l'efecte màquina d'escriure. Creiem que la majoria de la gent prefereix recuperar els segons.
El motor mateix s'ha fet més ràpid
Treure la comporta només serveix si el que hi ha darrere és ràpid. La segona contribució és la pila de servei descrita a la secció 03: pesos NVFP4 de 4 bits i descodificació especulativa sobre acceleradors d'última generació amb suport FP4 natiu al nostre propi clúster. Junts, apugen el sostre que deixa al descobert l'eliminació de la comporta.
Latència relativa de resposta d'extrem a extrem, avaluació interna de Shannon Lab, setembre de 2026. El rang reflecteix la longitud de la consulta i el nivell: les consultes curtes a Lite se situen a la part baixa, i les generacions llargues a Pro a la part alta.
03Què fa realment la descodificació especulativa
«Inferència amb descodificació especulativa» s'utilitza com a paraula de màrqueting, així que aquí tens el mecanisme, dit clarament.
Un model de llenguatge normalment produeix un token per passada endavant. Aquesta passada no la domina l'aritmètica sinó l'amplada de banda de memòria: cal llegir els pesos per calcular qualsevol cosa, i llegir-los triga molt més que no pas els càlculs. La GPU passa la major part del temps esperant la memòria amb les unitats de càlcul aturades. Generar 500 tokens vol dir pagar aquesta latència 500 vegades, de manera seqüencial.
La descodificació especulativa ataca la part seqüencial. Un model esborrany petit i barat proposa una seqüència curta de tokens probables — posem-ne quatre o vuit. Aleshores el model principal avalua tota aquesta seqüència en una única passada endavant per lots, que costa amb prou feines més que avaluar un sol token, perquè la part cara (llegir els pesos) passa una sola vegada en tots dos casos. Cada token proposat amb què el model principal coincideix s'accepta i s'emet immediatament. Al primer desacord, la seqüència es trunca i la descodificació normal es reprèn a partir d'aquell punt.
La propietat que importa
La descodificació especulativa preserva la sortida. El pas de verificació està construït de manera que la seqüència acceptada es distribueix exactament com ho hauria fet el mostreig del mateix model principal. No obtens la resposta del model esborrany, ni una aproximació de la resposta del model gran. Obtens la sortida del model principal, assolida amb menys passos seqüencials. El model esborrany només pot afectar la velocitat, mai el contingut.
La taxa d'acceptació és qui fa la feina. En text previsible — text estàndard, estructura de codi, el teixit connectiu d'un argument — el model esborrany encerta bé i s'accepten seqüències llargues de cop. En tokens genuïnament difícils, l'acceptació cau i el sistema degrada amb elegància cap a la descodificació ordinària d'un token cada vegada. Aquesta asimetria és la que vols: accelera les parts fàcils i no toca les difícils.
Per què els pesos de 4 bits pertanyen al mateix paràgraf
Com que el coll d'ampolla és l'amplada de banda de memòria, encongir els pesos és una palanca directa de velocitat, no només de consum de memòria. NVFP4 és un format de coma flotant de 4 bits amb escalat de gra fi per blocs, que és el que li permet mantenir la precisió allà on els esquemes antics de quantització enter de 4 bits la perdien. Llegir aproximadament una quarta part dels bytes per passada endavant significa proporcionalment menys temps esperant la memòria, i deixa molt més marge per a la memòria cau KV de context llarg que exigeix una finestra de 196K.
Les dues coses es multipliquen més que no pas se sumen: menys bytes per passada i menys passades per token emès. Això és el que fa que el streaming sense comportes i a plena velocitat sigui assequible de servir en lloc d'un cost que hauríem de recuperar mitjançant la cadència — que és precisament el que feia la capa de cadència a la 3.0.
04196.608 tokens: què desbloqueja una finestra 6x
Shannon 3.0 tenia una finestra de 32.768 tokens: una sessió de treball, no un document. Aproximadament 70-80 pàgines de prosa, menys el que consumeix el bucle de raonament per pensar, menys la teva instrucció de sistema, menys la conversa fins al moment. La feina real topava constantment amb aquest mur, i els apedaçaments — fragmentar, resumir, recuperar sobre el teu propi material — degraden justament allò que volies preservar. 196.608 tokens és una categoria de problema diferent.
Concretament, això és de l'ordre de 400-500 pàgines de text en anglès, o una base de codi de mida mitjana amb els seus tests i el seu README, o un any de notes de reunió d'un projecte, o un conjunt de contractes complet amb tots els seus annexos — tot en una conversa, interrogable amb una sola pregunta, sense cap capa de fragmentació entre tu i el material.
- Preguntes sobre tot un repositori. Carrega el codi i pregunta per què un error arriba a producció, en lloc d'enganxar els tres fitxers que ja sospitaves. El model pot trobar el fitxer que no se't va acudir incloure.
- Anàlisi de documents llargs sense recuperació. La recuperació és un prefiltre amb pèrdues que decideix què pot veure el model. A 196K sovint pots saltar-te-la i deixar que el model ho llegeixi tot, cosa que elimina tota una classe d'error en què el passatge correcte mai no es va recuperar.
- Converses que es mantenen coherents. Una sessió de treball llarga ja no descarta silenciosament el seu propi inici. Les restriccions que vas fixar al missatge tres encara valen al missatge vuitanta.
- Espai per al bucle de raonament. El pensament, la redacció i la revisió del bucle consumeixen context. A la 3.0 aquests passos competien amb el teu material per un pressupost escàs. A la 3.1 hi caben còmodament, i això explica en part per què el guany de qualitat i l'ampliació de la finestra van arribar junts.
- Entrades mixtes grans. Imatges, text extret de documents i codi en un sol torn, sense haver de triar quins d'ells et pots permetre incloure.
Una advertència honesta que s'aplica a tots els models de context llarg, també al nostre: una finestra gran és una capacitat, no una garantia d'atenció uniforme al llarg de tota ella. L'estructura continua ajudant. Posar la pregunta a prop del final, etiquetar els documents i dir al model què ha de buscar milloren els resultats de manera mesurable amb 150K tokens d'una manera que simplement no ho fan amb 5K.
05Lite i Pro: shannon-3.1 i shannon-3.1-pro
Els dos nivells es diferencien per quanta part del bucle de raonament executen, i aquesta és l'única diferència que importa a l'hora de triar-ne un.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Raonament | Passada única | Bucle complet + recol·lecció de coneixement |
| Autorevisió | No | Sí |
| Finestra de context | 196.608 | 196.608 |
| Streaming | Plena velocitat, sense comportes | Plena velocitat, sense comportes |
| Visió i documents | Sí | Sí |
| Eina de generació d'imatges | Sí | Sí |
| Millor per a | La major part de la feina, molt volum | Preguntes difícils, primer esborrany insuficient |
Fes servir Lite per defecte. Una passada d'un bon model de raonament resol la gran majoria de peticions reals, i a la 3.1 és prou ràpid perquè el bucle ja no sigui una cosa que notis mentre esperes. Recorre a Pro quan la pregunta sigui d'aquelles en què la primera resposta acostuma a ser equivocada d'una manera instructiva: compromisos d'arquitectura, anàlisi adversària, qualsevol cosa on voldries que un col·lega competent hi dormís a sobre. El pas d'autorevisió de Pro no és decoració: és el model trobant els seus propis errors abans que ho hagis de fer tu.
06El guany d'intel·ligència del 32%, i com llegir-lo
L'avaluació pròpia de Shannon Lab situa Shannon 3.1 en una millora del 32% en intel·ligència respecte de Shannon 3.0. Volem ser clars sobre què és i què no és.
És la nostra xifra, del nostre conjunt d'avaluació intern, mesurada sobre tasques que considerem representatives del que la gent porta realment a aquests models. No és un benchmark de tercers, i no estem construint una taula de classificació al voltant d'un únic agregat intern ni publicant un desglossament per benchmark: un desglossament implicaria un grau de comparabilitat externa que un conjunt intern no té.
El que sí que direm és d'on ve el guany, perquè aquesta part no té cap misteri. Una finestra de context més gran vol dir que cal descartar menys material abans que el model hi raoni al damunt, i bona part de l'aparent manca d'intel·ligència en sessions llargues és en realitat simple amnèsia. Una pila de servei que controlem vol dir que el model s'executa amb la configuració que preteníem i no amb la que ve per defecte al proveïdor. I el bucle de raonament — sense canvis en el disseny — ara té espai per executar-se de debò dins la finestra en lloc d'estar espremut contra un sostre de 32K que compartia amb la teva entrada.
El benchmark més útil per a tu és el teu. Agafa una consulta de la teva feina real — no un trencaclosques, una de real — i executa-la a shannon-3 i després a shannon-3.1. Compara les respostes i cronometra-les. Les nostres xifres descriuen una mitjana sobre un conjunt; la teva consulta és la que ha de millorar.
07Visió, documents i generació d'imatges
Shannon 3.1 llegeix imatges i documents. Captures de pantalla, diagrames, fotografies, pàgines escanejades, PDF i documents de text poden entrar a la conversa i ser raonats juntament amb la resta. Combinat amb la finestra de 196K, això és el que fa pràctics els fluxos de treball amb documents sencers: un informe llarg i els seus gràfics en un sol torn, sense decidir per endavant quines pàgines pot veure el model.
La generació i l'edició d'imatges estan disponibles al xat com a eina. Demana una imatge i el model crida l'eina en línia, dins la mateixa conversa, amb el context de tot el que s'ha parlat fins aleshores. L'edició funciona igual: dona-li una imatge i descriu el canvi. No hi ha cap mode separat al qual canviar ni cap interfície separada que calgui aprendre.
08Cridar Shannon 3.1 des de l'API
Shannon 3.1 està disponible als tres dialectes d'API, amb streaming a cadascun. Els mateixos models, tres formes de petició: tria la que encaixi amb l'SDK que ja tens.
| Endpoint | Forma | Streaming |
|---|---|---|
| /v1/chat/completions | Compatible amb OpenAI | Sí |
| /v1/messages | Compatible amb Anthropic | Sí |
| /v1/responses | Responses | Sí |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Canvia "shannon-3.1" per "shannon-3.1-pro" per executar el bucle de raonament complet. Si ja crides shannon-3, la migració és l'identificador de model i res més: les formes de petició i resposta no han canviat, i els clients de streaming existents continuen funcionant. L'única diferència de comportament que cal esperar és el flux més a ràfegues descrit a la secció 02: els mateixos tokens, en el mateix ordre, arribant abans i en blocs menys uniformes.
La referència completa de paràmetres, l'autenticació, la semàntica d'errors i un entorn de proves interactiu són a la documentació de l'API. Altres fitxes de model i articles tècnics són a Shannon research.
09Segueix sense censura, i sense canvis en aquest aspecte
Shannon 3.1 no té cap capa de refús ni cap filtratge de contingut a la sortida. És la mateixa postura que la resta de la línia Shannon i no va canviar amb el trasllat al nostre propi clúster; si de cas, controlar la pila de servei ho fa més fàcil de garantir, perquè no hi ha cap proveïdor intermedi amb la seva pròpia política assegut entre el model i tu.
Val la pena dir-ho clarament perquè és el dubte evident davant d'un llançament que ha canviat tot el camí de sortida: eliminar la capa de cadència no va significar inserir-hi una capa de moderació al seu lloc. Res no inspecciona, reescriu ni filtra el flux. El que el model produeix és el que arriba. Shannon 3.1 és, pel que sabem, el model d'IA sense censura més ràpid disponible amb una finestra de context d'aquesta mida — i les dues propietats estan relacionades, perquè totes dues venen d'operar la nostra pròpia infraestructura en lloc de llogar capacitat modelada per al compliment normatiu a algú altre.
Sense censura no és el mateix que sense responsabilitat. L'ús es regeix per la nostra Política d'ús responsable, i l'obligació que comporta un model que sí que s'implicarà amb material difícil és que tu t'hi impliquis de manera responsable.
10Fes tu mateix la comparació
Totes les afirmacions d'aquí es poden comprovar en uns dos minuts, i preferim que ho comprovis abans que et creguis el que diem.
- Tria una consulta de la feina que realment fas. Millor si és llarga: exercita alhora la finestra i el streaming.
- Executa-la a
shannon-3. Apunta quant triga el primer token i quant triga a completar-se la resposta. - Executa la consulta idèntica a
shannon-3.1. Apunta els mateixos dos números. - Després llegeix les dues respostes, ignorant el rellotge, i decideix quina hauries volgut.
La diferència de velocitat serà immediata i evident. La diferència de qualitat és la que val la pena rumiar: es manifesta amb més claredat en entrades llargues, on la 3.0 treballava discretament amb menys material del teu del que et pensaves.
11Preguntes freqüents
Què és Shannon 3.1?
Shannon 3.1 és la versió actual de la família Shannon 3. Manté el mateix bucle de raonament iteratiu — pensar, redactar, autorevisar, millorar — però l'executa de manera nativa al nostre propi clúster de GPU en lloc d'un proveïdor d'inferència extern. L'avaluació pròpia de Shannon Lab mesura una millora del 32% en intel·ligència i respostes 10-15x més ràpides en comparació amb Shannon 3.0, amb la finestra de context ampliada de 32.768 a 196.608 tokens.
Quant més ràpid és Shannon 3.1 que Shannon 3.0?
Entre 10x i 15x més ràpid en respostes d'extrem a extrem, segons l'avaluació pròpia de Shannon Lab. Hi ha dos motius. La sortida de Shannon 3.0 passava per una capa de cadència que limitava deliberadament el ritme del flux; Shannon 3.1 no té limitador de velocitat ni cadència de revelació, de manera que els tokens t'arriben tan de pressa com el motor els produeix. El motor mateix també és més ràpid: pesos NVFP4 de 4 bits més descodificació especulativa al nostre propi clúster de GPU.
Quina mida té la finestra de context de Shannon 3.1?
196.608 tokens, un augment de 6x respecte dels 32.768 tokens disponibles a Shannon 3.0. Això equival aproximadament a 400-500 pàgines de text, o a una base de codi de mida mitjana, mantinguda en una sola conversa sense fragmentació ni recuperació.
Què és la descodificació especulativa i per què importa aquí?
Un model esborrany petit i ràpid proposa una seqüència de tokens probables i el model principal els verifica en una sola passada per lots. Els tokens acceptats s'emeten immediatament; els rebutjats tornen a la descodificació normal. La sortida és la que hauria produït el model principal pel seu compte, però es poden col·locar diversos tokens per pas de verificació en lloc d'un. És el que fa que el streaming a plena velocitat sigui assequible en lloc d'un problema de cost.
Shannon 3.1 és sense censura?
Sí. Shannon 3.1 no té cap capa de refús ni cap filtratge de contingut aplicat a la seva sortida, igual que la resta de la línia Shannon. Eliminar la capa de cadència no hi va afegir una capa de moderació al seu lloc: el flux que reps és la sortida del model.
Quins són els identificadors de model i on puc fer servir Shannon 3.1?
shannon-3.1 és el nivell Lite i shannon-3.1-pro és el nivell Pro. Tots dos estan disponibles al xat i als tres dialectes d'API: /v1/chat/completions (forma OpenAI), /v1/messages (forma Anthropic) i /v1/responses. El streaming funciona en tots tres.
Quina diferència hi ha entre shannon-3.1 i shannon-3.1-pro?
Lite executa una sola passada del bucle de raonament: pensa i després respon. Pro executa el bucle complet — pensar, redactar, autorevisar, millorar — amb un pas de recol·lecció de coneixement abans de redactar. Lite és l'opció per defecte adequada per a la major part de la feina; Pro és per a preguntes on la primera resposta no acostuma a ser la millor.
Prova Shannon 3.1
El mateix bucle de raonament. Sis vegades la finestra. Sense limitador de velocitat.
Comença a xatejar Llegeix la documentació de l'APIshannon-3.1 · shannon-3.1-pro · streaming als tres dialectes
Les xifres de rendiment i intel·ligència d'aquest article són mesures pròpies de Shannon Lab a partir de l'avaluació interna, setembre de 2026, i es presenten com a xifres de producte i no com a resultats de benchmarks de tercers. La finestra de context, els identificadors de model i la disponibilitat de l'API són especificacions de producte. Shannon AI és operat per Shannon Lab LLC, Nou Mèxic, EUA. Lectures relacionades: Shannon 3 · Índex de recerca de Shannon · Documentació de l'API.