Shannon 3.1

De flesta modellanseringar ber dig ta ett förmågepåstående på tro och vänta på en benchmarktabell som avgör saken. Den här är enklare att kontrollera: öppna två flikar, skicka samma prompt till shannon-3 och shannon-3.1, och se på. Skillnaden i hur snabbt svaret kommer är inte subtil, och det är inget renderingstrick. Shannon 3.0 var strypt med flit. Shannon 3.1 är det inte.

01Vad som faktiskt ändrades i Shannon 3.1

Shannon 3.0 introducerade det som definierar den här familjen: en iterativ resonemangsloop. Modellen svarar inte på sin första tanke. Den tänker, skriver utkast, granskar sitt eget utkast mot frågan och förbättrar det. Lite kör en passning av den loopen; Pro kör hela loopen, inklusive ett kunskapsinsamlingssteg innan den skriver utkast. Den designen beskrivs i detalj i forskningsartikeln om Shannon 3, och inget av det har ändrats i 3.1.

Det som ändrades är maskineriet under. Shannon 3.0 serverades via en extern inferensvärd — ett förnuftigt sätt att lansera en modell, och ett begränsande sätt att driva en. Du ärver någon annans serveringskonfiguration, någon annans kö, någon annans kontexttak och någon annans uppfattning om hur många tokens per sekund du får ha. Shannon 3.1 körs på vårt eget GPU-kluster, på en serveringsstack som vi konfigurerar, och varje siffra i rubrikerna i den här artikeln följer av det enda beslutet.

	Shannon 3.0	Shannon 3.1
Var den körs	Extern värd	Vårt eget GPU-kluster
Kontextfönster	32 768	196 608
Utdataströmning	Taktad / hastighetsbegränsad	Motorns fulla hastighet
Vikter	Värdens standard	4-bitars NVFP4
Avkodning	Standard	Spekulativ
Resonemangsloop	Tänka → utkast → granska → förbättra	Oförändrad
Vägranslager	Inget	Inget
Modell-id:n	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Varför Shannon 3.1 känns 10-15x snabbare

Hastighetssiffran är den som folk söker på först, så det är värt att vara exakt med var den kommer ifrån. Det finns två oberoende bidrag, och det större av dem är det minst glamorösa.

Vi tog bort hastighetsspärren

Utdata från Shannon 3.0 passerade ett takthållande lager. Tokens lämnade motorn, hölls kvar och släpptes till din anslutning enligt ett schema. Det var varken en olyckshändelse eller en bugg. När en delad inferensvärd är flaskhalsen jämnar taktad utdata ut lasten, hindrar en lång generering från att monopolisera en plats och får strömmen att komma i en förutsägbar, läsbar rytm i stället för i skurar. Det är ett försvarbart tekniskt val, och det kostade varje användare verklig väggklockstid på varenda svar.

Shannon 3.1 har ingen hastighetsspärr och ingen taktad visning. Tokens skrivs till din ström i takt med att motorn producerar dem. Om motorn genererar snabbt ser du den generera snabbt. Det finns ingen utjämnande buffert mellan modellen och din terminal, ditt chattfönster eller din SSE-läsare. För ett långt svar — en analys på 2 000 tokens, en fil med genererad kod — står det här ensamt för merparten av den förbättring du kommer att märka.

En ärlig konsekvens: strömmen är nu skurig. Spekulativ avkodning (nedan) skickar ut godkända tokens i korta serier, så text kan komma i synliga klumpar snarare än i en metronomisk takt med ett ord i taget. Om du byggde gränssnitt kring 3.0:s jämna takt fungerar det fortfarande — tokenordningen och innehållet är opåverkade — men du kanske vill återinföra din egen utjämning på klientsidan om du föredrog skrivmaskinseffekten. Vi tror att de flesta hellre får tillbaka sekunderna.

Motorn i sig blev snabbare

Att ta bort spärren hjälper bara om det som finns bakom spärren är snabbt. Det andra bidraget är serveringsstacken som beskrivs i avsnitt 03: 4-bitars NVFP4-vikter och spekulativ avkodning på FP4-nativa acceleratorer av senaste generationen i vårt eget kluster. Tillsammans höjer de taket som borttagandet av spärren blottlägger.

Relativ svarslatens från början till slut, Shannon Labs interna utvärdering, september 2026. Intervallet speglar promptlängd och nivå: korta prompter på Lite ligger nära den nedre änden, långa genereringar på Pro nära den övre.

03Vad spekulativ avkodning faktiskt gör

"Spekulativ avkodning" används som marknadsföringsord, så här är mekanismen, rakt på sak.

En språkmodell producerar normalt en token per framåtpassning. Den passningen domineras inte av aritmetik utan av minnesbandbredd — vikterna måste läsas för att något ska kunna beräknas, och att läsa dem tar långt mycket längre tid än matematiken gör. GPU:n tillbringar större delen av sin tid med att vänta på minnet medan beräkningsenheterna står stilla. Att generera 500 tokens innebär att betala den latensen 500 gånger, sekventiellt.

Spekulativ avkodning angriper den sekventiella delen. En liten, billig utkastmodell föreslår en kort serie troliga nästa tokens — säg fyra eller åtta. Huvudmodellen utvärderar sedan hela serien i en enda batchad framåtpassning, som kostar knappt mer än att utvärdera en token hade gjort, eftersom den dyra delen (att läsa vikterna) ändå sker en gång. Varje föreslagen token som huvudmodellen håller med om godkänns och skickas ut direkt. Vid första oenigheten kapas serien och vanlig avkodning återupptas därifrån.

Godkännandegraden gör jobbet. På förutsägbar text — standardformuleringar, kodstruktur, bindväven i ett resonemang — gissar utkastmodellen väl och långa serier landar på en gång. På genuint svåra tokens sjunker godkännandegraden och systemet faller mjukt tillbaka till vanlig avkodning en token i taget. Den asymmetrin är den du vill ha: den accelererar de lätta delarna och rör inte de svåra.

Varför 4-bitars vikter hör hemma i samma stycke

Eftersom flaskhalsen är minnesbandbredd är krympta vikter en direkt hastighetsspak, inte bara en fråga om minnesutrymme. NVFP4 är ett 4-bitars flyttalsformat med finkornig skalning per block, vilket är det som gör att det kan behålla precisionen där äldre 4-bitars heltalskvantisering tappade den. Ungefär en fjärdedel så många byte att läsa per framåtpassning innebär proportionellt mindre tid i väntan på minnet, och det lämnar långt mer utrymme för den KV-cache för lång kontext som ett 196K-fönster kräver.

De två förstärker varandra snarare än att bara adderas: färre byte per passning, och färre passningar per utskickad token. Det är det som gör ospärrad streaming i full hastighet ekonomiskt möjlig att servera i stället för en kostnad vi hade behövt ta igen genom taktning — vilket är exakt vad det takthållande lagret gjorde på 3.0.

04196 608 tokens: vad ett 6x fönster låser upp

Shannon 3.0 hade ett fönster på 32 768 tokens: en arbetssession, inte ett dokument. Ungefär 70-80 sidor prosa, minus det som resonemangsloopen förbrukar på sitt eget tänkande, minus din systemprompt, minus konversationen så långt. Verkligt arbete slog i den väggen hela tiden, och kringgåendena — uppstyckning, sammanfattning, retrieval över ditt eget material — försämrar alla precis det du försökte bevara. 196 608 tokens är en annan kategori av problem.

Konkret handlar det om storleksordningen 400-500 sidor text, eller en medelstor kodbas med sina tester och sin README, eller ett års mötesanteckningar från ett projekt, eller ett fullständigt avtalspaket med alla bilagor — allt i en konversation, adresserbart i en fråga, utan något uppstyckningslager mellan dig och materialet.

• Frågor om hela kodbasen. Ladda in koden och fråga varför en bugg når produktion, i stället för att klistra in de tre filer du redan misstänkte. Modellen kan hitta filen du inte tänkte på att ta med.
• Analys av långa dokument utan retrieval. Retrieval är ett förlustbringande förfilter som bestämmer vad modellen får se. Vid 196K kan du ofta hoppa över det och låta modellen läsa allt, vilket eliminerar en hel klass av fel där rätt avsnitt aldrig hämtades.
• Konversationer som förblir sammanhängande. En lång arbetssession tappar inte längre tyst bort sin egen början. Begränsningar du satte i meddelande tre gäller fortfarande i meddelande åttio.
• Plats för resonemangsloopen. Loopens eget tänkande, utkastande och granskande förbrukar kontext. På 3.0 konkurrerade de stegen med ditt material om en knapp budget. På 3.1 ryms de bekvämt, vilket är en del av varför kvalitetslyftet och fönsterökningen kom samtidigt.
• Stora blandade indata. Bilder, extraherad dokumenttext och kod i en enda tur, utan att behöva sortera ut vilka av dem du har råd att ta med.

En ärlig reservation som gäller varje modell med lång kontext, vår inkluderad: ett stort fönster är en kapacitet, inte en garanti för jämn uppmärksamhet över hela det. Struktur hjälper fortfarande. Att lägga frågan nära slutet, märka upp dina dokument och tala om för modellen vad den ska leta efter förbättrar alla resultaten mätbart vid 150K tokens på ett sätt som de helt enkelt inte gör vid 5K.

05Lite och Pro: shannon-3.1 och shannon-3.1-pro

De två nivåerna skiljer sig i hur mycket av resonemangsloopen de kör, och det är den enda skillnaden som spelar roll när du väljer mellan dem.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Resonemang	Enkel passning	Hela loopen + kunskapsinsamling
Självgranskning	Nej	Ja
Kontextfönster	196 608	196 608
Streaming	Full hastighet, ospärrad	Full hastighet, ospärrad
Bild & dokument	Ja	Ja
Verktyg för bildgenerering	Ja	Ja
Bäst för	Det mesta arbetet, hög volym	Svåra frågor, första utkastet räcker inte

Använd Lite som standard. En passning av en bra resonemangsmodell klarar den stora majoriteten av verkliga förfrågningar, och på 3.1 är den snabb nog att loopen inte längre är något du känner att du väntar igenom. Ta till Pro när frågan är en där ett första svar oftast är fel på ett lärorikt sätt: arkitektoniska avvägningar, motståndaranalys, allt där du hade velat att en kompetent kollega sov på saken. Pros självgranskningssteg är ingen dekoration — det är modellen som hittar sina egna fel innan du behöver göra det.

06De 32% i intelligenslyft, och hur du ska läsa dem

Shannon Labs egen utvärdering placerar Shannon 3.1 på 32% högre intelligens än Shannon 3.0. Vi vill vara tydliga med vad det är och inte är.

Det är vår siffra, från vår interna utvärderingssvit, mätt på uppgifter vi anser representativa för vad folk faktiskt tar med sig till de här modellerna. Det är ingen tredjepartsbenchmark, och vi bygger ingen topplistetabell kring ett enskilt internt sammanvägt mått och publicerar ingen uppdelning per benchmark — en uppdelning antyder en grad av extern jämförbarhet som en intern svit inte har.

Det vi kommer att säga är var lyftet kommer ifrån, eftersom den delen inte är någon gåta. Ett större kontextfönster betyder att mindre material måste kastas bort innan modellen resonerar över det, och en stor del av den skenbara ointelligensen i långa sessioner är egentligen bara minnesförlust. En serveringsstack vi kontrollerar betyder att modellen körs med den konfiguration vi avsåg i stället för en värds standardval. Och resonemangsloopen — oförändrad i sin design — har nu utrymme att faktiskt köras inom fönstret i stället för att pressas mot ett 32K-tak som den delade med dina indata.

07Bild, dokument och bildgenerering

Shannon 3.1 läser bilder och dokument. Skärmbilder, diagram, fotografier, skannade sidor, PDF:er och textdokument kan gå in i konversationen och resoneras kring tillsammans med allt annat. Kombinerat med 196K-fönstret är det detta som gör arbetsflöden med hela dokument praktiska: en lång rapport och dess diagram i en enda tur, utan att i förväg bestämma vilka sidor modellen får se.

Bildgenerering och bildredigering finns i chatten som ett verktyg. Be om en bild så anropar modellen verktyget direkt i samma konversation, med kontexten från allt som diskuterats hittills. Redigering fungerar likadant — ge den en bild och beskriv ändringen. Det finns inget separat läge att växla till och inget separat gränssnitt att lära sig.

08Anropa Shannon 3.1 från API:et

Shannon 3.1 finns på alla tre API-dialekterna, med streaming på var och en. Samma modeller, tre förfrågningsformer — välj den som matchar det SDK du redan har.

Endpoint	Form	Streaming
/v1/chat/completions	OpenAI-kompatibel	Ja
/v1/messages	Anthropic-kompatibel	Ja
/v1/responses	Responses	Ja

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Byt "shannon-3.1" mot "shannon-3.1-pro" för att köra hela resonemangsloopen. Om du redan anropar shannon-3 består migreringen av modell-id:t och inget annat: förfrågnings- och svarsformerna är oförändrade, och befintliga streamingklienter fortsätter fungera. Den enda beteendeskillnad du bör räkna med är den skurigare strömmen som beskrivs i avsnitt 02 — samma tokens, samma ordning, men de kommer tidigare och i mindre jämna klumpar.

Fullständig parameterreferens, autentisering, felsemantik och en interaktiv playground finns i API-dokumentationen. Andra modellkort och tekniska artiklar finns i Shannon research.

09Fortfarande ocensurerad, och oförändrad i det avseendet

Shannon 3.1 har inget vägranslager och ingen innehållsfiltrering på utdata. Det är samma hållning som i resten av Shannon-serien och den ändrades inte i och med flytten till vårt eget kluster — om något gör kontrollen över serveringsstacken det lättare att garantera, eftersom det inte finns någon mellanliggande värd med sin egen policy mellan modellen och dig.

Värt att säga rakt ut, eftersom det är det uppenbara att undra över en release som ändrade hela utdatavägen: att ta bort det takthållande lagret innebar inte att ett modereringslager sattes in i stället. Ingenting inspekterar, skriver om eller spärrar strömmen. Det modellen producerar är det som kommer fram. Shannon 3.1 är, såvitt vi vet, den snabbaste ocensurerade AI-modell som finns med ett kontextfönster av den här storleken — och de två egenskaperna hänger ihop, eftersom båda kommer av att vi kör vår egen infrastruktur i stället för att hyra efterlevnadsformad kapacitet av någon annan.

Ocensurerad är inte samma sak som ansvarsbefriad. Användningen regleras av vår policy för ansvarsfull användning, och skyldigheten som följer med en modell som engagerar sig i svårt material är att du engagerar dig i det ansvarsfullt.

10Gör jämförelsen själv

Varje påstående här går att kontrollera på ungefär två minuter, och vi vill hellre att du kontrollerar än att du tror oss.

1. Välj en prompt från arbete du faktiskt gör. Lång är bättre — den sätter både fönstret och streamingen på prov.
2. Kör den på shannon-3. Notera hur lång tid det tar till första token, och hur lång tid det tar tills svaret är klart.
3. Kör identiskt samma prompt på shannon-3.1. Notera samma två tal.
4. Läs sedan båda svaren, bortse från klockan, och avgör vilket du hade velat ha.

Hastighetsskillnaden blir omedelbar och uppenbar. Kvalitetsskillnaden är den som är värd att stanna vid — den syns tydligast på långa indata, där 3.0 tyst arbetade med mindre av ditt material än du trodde.

11Vanliga frågor

---

Prestanda- och intelligenssiffror i den här artikeln är Shannon Labs egna mätningar från intern utvärdering, september 2026, och anges som produktsiffror snarare än som resultat från tredjepartsbenchmarks. Kontextfönster, modell-id:n och API-tillgänglighet är produktspecifikationer. Shannon AI drivs av Shannon Lab LLC, New Mexico, USA. Relaterad läsning: Shannon 3 · Shannon research-index · API-dokumentationen.