Shannon 3.1
Dieselfde redeneerlus, geskuif na ons eie GPU-tros: 32% meer intelligent, 10-15x vinniger, en 'n 196,608-teken konteksvenster.
Kortliks
Shannon 3.1 behou alles wat Shannon 3 die moeite werd gemaak het — die iteratiewe redeneerlus, geen weieringslaag, geen uitvoerfiltrering — en verander waar en hoe dit loop. Die model bedien nou vanaf ons eie GPU-tros in plaas van 'n derdeparty-afleidingsgasheer. Shannon Lab se evaluering meet 'n 32% verbetering in intelligensie en 10-15x vinniger antwoorde teenoor Shannon 3.0. Die konteksvenster gaan van 32,768 na 196,608 tekens. Die tempolaag wat 3.0 se uitvoer doelbewus vertraag het, is weg: 3.1 stroom teen die enjin se volle spoed. Model-ID's is shannon-3.1 en shannon-3.1-pro, in klets en op al drie API-dialekte.
Die meeste modelvrystellings vra jou om 'n vermoënsbewering op geloof te aanvaar en te wag dat 'n maatstaftabel die argument besleg. Hierdie een is makliker om na te gaan: maak twee oortjies oop, sit dieselfde opdrag in shannon-3 en shannon-3.1, en kyk. Die verskil in hoe vinnig die antwoord aankom, is nie subtiel nie, en dit is nie 'n uitbeeldingstruuk nie. Shannon 3.0 was doelbewus gerem. Shannon 3.1 is nie.
01Wat werklik in Shannon 3.1 verander het
Shannon 3.0 het die ding bekendgestel wat hierdie familie definieer: 'n iteratiewe redeneerlus. Die model antwoord nie op sy eerste gedagte nie. Dit dink, stel 'n konsep op, hersien sy eie konsep teenoor die vraag, en verbeter dit. Lite loop een deurgang van daardie lus; Pro loop die volle lus, insluitend 'n kennisoesstap voordat dit 'n konsep opstel. Daardie ontwerp word in besonderhede beskryf in die Shannon 3-navorsingsartikel, en niks daarvan het in 3.1 verander nie.
Wat wel verander het, is die masjinerie daaronder. Shannon 3.0 is deur 'n derdeparty-afleidingsgasheer bedien — 'n verstandige manier om 'n model bekend te stel, en 'n beperkende manier om een te bedryf. Jy erf iemand anders se bedieningskonfigurasie, iemand anders se tou, iemand anders se konteksplafon, en iemand anders se idee van hoeveel tekens per sekonde jy mag hê. Shannon 3.1 loop op ons eie GPU-tros, op 'n bedieningsstapel wat ons self opstel, en elke hoofsyfer in hierdie artikel vloei uit daardie enkele besluit.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Waar dit loop | Derdeparty-gasheer | Ons eie GPU-tros |
| Konteksvenster | 32,768 | 196,608 |
| Uitvoerstroming | Getempo / tempo-beperk | Volle enjinspoed |
| Gewigte | Gasheer se verstek | 4-bis NVFP4 |
| Dekodering | Standaard | Spekulatief |
| Redeneerlus | Dink → konsep → hersien → verbeter | Onveranderd |
| Weieringslaag | Geen | Geen |
| Model-ID's | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Waarom Shannon 3.1 10-15x vinniger voel
Die spoedsyfer is die een waaroor mense eerste navraag doen, so dit is die moeite werd om presies te wees oor waar dit vandaan kom. Daar is twee onafhanklike bydraes, en die groter een is die minder glansryke van die twee.
Ons het die spoedhek verwyder
Shannon 3.0 se uitvoer het deur 'n tempolaag beweeg. Tekens het die enjin verlaat, is teruggehou, en is volgens 'n skedule na jou verbinding vrygestel. Dit was nie 'n ongeluk of 'n fout nie. Wanneer 'n gedeelde afleidingsgasheer die bottelnek is, verewe getempode uitvoer die las, keer dit dat 'n lang generering 'n gleuf monopoliseer, en laat dit die stroom in 'n voorspelbare, leesbare ritme aankom eerder as in vlae. Dit is 'n verdedigbare ingenieurskeuse, en dit het elke gebruiker werklike wandkloktyd op elke enkele antwoord gekos.
Shannon 3.1 het geen spoedhek en geen onthullingstempo nie. Tekens word na jou stroom geskryf soos die enjin hulle produseer. As die enjin vinnig genereer, sien jy dit vinnig genereer. Daar is geen verewingsbuffer tussen die model en jou terminaal, jou kletsvenster, of jou SSE-leser nie. Vir 'n lang antwoord — 'n 2,000-teken ontleding, 'n lêer gegenereerde kode — verklaar dit alleen die meerderheid van die verbetering wat jy sal opmerk.
'n Eerlike gevolg: die stroom is nou vlaerig. Spekulatiewe dekodering (hieronder) stuur aanvaarde tekens in kort reekse uit, so teks kan in sigbare brokke aankom eerder as teen 'n metronomiese een-woord-op-'n-slag kadens. As jy koppelvlakke rondom 3.0 se gladde kadens gebou het, sal dit steeds werk — die tekenvolgorde en inhoud is onaangeraak — maar jy sal dalk jou eie kliëntkant-verewing wil terugbring as jy die tikmasjienvoorkoms verkies het. Ons dink die meeste mense sal eerder die sekondes terug wil hê.
Die enjin self het vinniger geword
Om die hek te verwyder help net as wat agter die hek is, vinnig is. Die tweede bydrae is die bedieningsstapel wat in afdeling 03 beskryf word: 4-bis NVFP4-gewigte en spekulatiewe dekodering op huidige-generasie, FP4-inheemse versnellers in ons eie tros. Saam lig hierdie die plafon wat die verwydering van die hek blootlê.
Relatiewe end-tot-end antwoordlatensie, Shannon Lab interne evaluering, September 2026. Die reeks weerspieël opdraglengte en vlak: kort opdragte op Lite sit naby die lae punt, lang generings op Pro naby die hoë punt.
03Wat spekulatiewe dekodering werklik doen
"Spekulatiewe dekodering-afleiding" word as 'n bemarkingswoord gebruik, so hier is die meganisme, eenvoudig gestel.
'n Taalmodel produseer normaalweg een teken per voorwaartse deurgang. Daardie deurgang word nie deur rekenkunde oorheers nie, maar deur geheuebandwydte — die gewigte moet gelees word om enigiets te bereken, en om hulle te lees neem baie langer as wat die wiskunde doen. Die GPU spandeer die meeste van sy tyd wagtend op geheue met sy rekeneenhede ledig. Om 500 tekens te genereer beteken om daardie latensie 500 keer te betaal, opeenvolgend.
Spekulatiewe dekodering val die opeenvolgende deel aan. 'n Klein, goedkoop konsepmodel stel 'n kort reeks waarskynlike volgende tekens voor — sê vier of agt. Die hoofmodel evalueer dan daardie hele reeks in 'n enkele saamgevoegde voorwaartse deurgang, wat skaars meer kos as wat die evaluering van een teken sou gekos het, want die duur deel (om die gewigte te lees) gebeur in beide gevalle net een keer. Elke voorgestelde teken waarmee die hoofmodel saamstem, word aanvaar en onmiddellik uitgestuur. By die eerste meningsverskil word die reeks afgesny en normale dekodering hervat daarvandaan.
Die eienskap wat saak maak
Spekulatiewe dekodering is uitvoerbewarend. Die verifikasiestap is so gebou dat die aanvaarde reeks presies versprei is soos die hoofmodel se eie steekproefneming sou gewees het. Jy kry nie die konsepmodel se antwoord nie, en jy kry nie 'n benadering van die groot model se antwoord nie. Jy kry die hoofmodel se uitvoer, bereik in minder opeenvolgende stappe. Die konsepmodel kan slegs spoed beïnvloed, nooit inhoud nie.
Die aanvaardingskoers doen die werk. Op voorspelbare teks — standaardtekste, kodestruktuur, die bindweefsel van 'n argument — raai die konsepmodel goed en lang reekse land op een slag. Op werklik moeilike tekens val aanvaarding en die stelsel degradeer grasieus terug na gewone een-teken-op-'n-slag dekodering. Daardie asimmetrie is die een wat jy wil hê: dit versnel die maklike dele en raak nie aan die moeilikes nie.
Waarom 4-bis gewigte in dieselfde paragraaf hoort
Omdat die bottelnek geheuebandwydte is, is die verkleining van die gewigte 'n direkte spoedhefboom, nie net 'n geheuevoetspoor-een nie. NVFP4 is 'n 4-bis dryfpuntformaat met fyn-korrelige per-blok skalering, wat is wat dit toelaat om akkuraatheid te behou waar ouer 4-bis heelgetalkwantiseringskemas dit verloor het. Ongeveer 'n kwart van die grepe om per voorwaartse deurgang te lees, beteken eweredig minder tyd wat op geheue gewag word, en dit laat baie meer ruimte vir die lang-konteks KV-kas wat 'n 196K-venster vereis.
Die twee versterk mekaar eerder as om bloot op te tel: minder grepe per deurgang, en minder deurgange per uitgestuurde teken. Dit is wat ongehekte, volspoedstroming bekostigbaar maak om te bedien eerder as 'n koste wat ons deur tempo sou moes terugwen — wat presies is wat die tempolaag op 3.0 gedoen het.
04196,608 tekens: wat 'n 6x venster ontsluit
Shannon 3.0 het 'n 32,768-teken venster gehad: 'n werksessie, nie 'n dokument nie. Ongeveer 70-80 bladsye prosa, minus wat die redeneerlus vir sy eie denke verbruik, minus jou stelselopdrag, minus die gesprek tot dusver. Werklike werk het voortdurend teen daardie muur gestamp, en die omweë — brokkies maak, opsom, herwinning oor jou eie materiaal — verswak almal juis die ding wat jy probeer bewaar het. 196,608 tekens is 'n ander kategorie probleem.
Konkreet is dit in die orde van 400-500 bladsye Engelse teks, of 'n mediumgrootte kodebasis met sy toetse en sy README, of 'n jaar se vergaderingsnotas van een projek, of 'n volledige kontrakstel met al sy bylae — in een gesprek gehou, in een vraag aanspreekbaar, met geen brokkielaag tussen jou en die materiaal nie.
- Vrae oor 'n hele bewaarplek. Laai die kode en vra waarom 'n fout produksie bereik, eerder as om die drie lêers te plak wat jy reeds vermoed het. Die model kan die lêer vind wat jy nie gedink het om in te sluit nie.
- Lang-dokument ontleding sonder herwinning. Herwinning is 'n verliesgewende voorfilter wat besluit wat die model mag sien. By 196K kan jy dit dikwels oorslaan en die model alles laat lees, wat 'n hele klas van mislukking uitskakel waar die regte gedeelte nooit herwin is nie.
- Gesprekke wat samehangend bly. 'n Lang werksessie laat nie meer stilweg sy eie begin val nie. Beperkings wat jy in boodskap drie gestel het, geld steeds in boodskap tagtig.
- Ruimte vir die redeneerlus. Die lus se eie denke, konsepwerk en hersiening verbruik konteks. Op 3.0 het daardie stappe met jou materiaal om 'n skaars begroting meegeding. Op 3.1 pas hulle gemaklik, wat deel is van waarom die kwaliteitswins en die venstervergroting saam gearriveer het.
- Groot gemengde insette. Beelde, uitgetrekte dokumentteks en kode in 'n enkele beurt, sonder om te sorteer watter van hulle jy kan bekostig om in te sluit.
Een eerlike voorbehoud wat vir elke lang-konteks model geld, ons s'n ingesluit: 'n groot venster is 'n kapasiteit, nie 'n waarborg van eenvormige aandag daaroor nie. Struktuur help steeds. Om die vraag naby die einde te plaas, jou dokumente te benoem, en die model te vertel waarna om te soek, verbeter almal resultate meetbaar by 150K tekens op 'n manier wat hulle eenvoudig nie by 5K doen nie.
05Lite en Pro: shannon-3.1 en shannon-3.1-pro
Die twee vlakke verskil in hoeveel van die redeneerlus hulle loop, en dit is die enigste verskil wat saak maak om tussen hulle te kies.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Redenering | Enkele deurgang | Volle lus + kennisoes |
| Selfhersiening | Nee | Ja |
| Konteksvenster | 196,608 | 196,608 |
| Stroming | Volle spoed, ongehek | Volle spoed, ongehek |
| Visie & dokumente | Ja | Ja |
| Beeldgenereringsinstrument | Ja | Ja |
| Beste vir | Meeste werk, hoë volume | Moeilike vrae, eerste konsep onvoldoende |
Gebruik Lite by verstek. Een deurgang van 'n goeie redeneermodel hanteer die groot meerderheid van werklike versoeke, en op 3.1 is dit vinnig genoeg dat die lus nie meer iets is waardeur jy voel jy wag nie. Gryp na Pro wanneer die vraag een is waar 'n eerste antwoord gewoonlik op 'n leersame manier verkeerd is: argitektoniese afruilings, teenstanderontleding, enigiets waaroor jy sou wou hê 'n bekwame kollega moet 'n nag slaap. Pro se selfhersieningstap is nie versiering nie — dit is die model wat sy eie foute vind voordat jy dit moet doen.
06Die 32% intelligensiewins, en hoe om dit te lees
Shannon Lab se eie evaluering plaas Shannon 3.1 op 'n 32% verbetering in intelligensie bo Shannon 3.0. Ons wil duidelik wees oor wat dit is en nie is nie.
Dit is ons syfer, uit ons interne evalueringsuite, gemeet op take wat ons as verteenwoordigend beskou van wat mense werklik na hierdie modelle bring. Dit is nie 'n derdeparty-maatstaf nie, en ons bou nie 'n ranglystabel rondom 'n enkele interne totaal of publiseer 'n per-maatstaf uiteensetting nie — 'n uiteensetting impliseer 'n vlak van eksterne vergelykbaarheid wat 'n interne suite nie het nie.
Wat ons wel sal sê, is waar die wins vandaan kom, want daardie deel is nie geheimsinnig nie. 'n Groter konteksvenster beteken minder materiaal moet weggegooi word voordat die model daaroor redeneer, en 'n groot deel van skynbare onintelligensie in lang sessies is werklik net geheueverlies. 'n Bedieningsstapel wat ons beheer, beteken die model loop met die konfigurasie wat ons bedoel het eerder as 'n gasheer se verstek. En die redeneerlus — onveranderd in ontwerp — het nou ruimte om werklik binne die venster te loop in plaas daarvan om teen 'n 32K-plafon vasgedruk te word wat dit met jou inset gedeel het.
Die nuttigste maatstaf vir jou is jou eie. Neem 'n opdrag uit jou werklike werklas — nie 'n raaisel nie, 'n regte een — en loop dit op shannon-3 en dan op shannon-3.1. Vergelyk die antwoorde, en meet die tyd. Ons syfers beskryf 'n gemiddelde oor 'n suite; jou opdrag is die een wat beter moet word.
07Visie, dokumente, en beeldgenerering
Shannon 3.1 lees beelde en dokumente. Skermkiekies, diagramme, foto's, geskandeerde bladsye, PDF's en teksdokumente kan in die gesprek ingaan en saam met alles anders oorwoë word. Gekombineer met die 196K-venster is dit wat hele-dokument werkvloeie prakties maak: 'n lang verslag en sy grafieke in een beurt, sonder om vooraf te besluit watter bladsye die model mag sien.
Beeldgenerering en -redigering is in klets as 'n instrument beskikbaar. Vra vir 'n beeld en die model roep die instrument inlyn aan, in dieselfde gesprek, met die konteks van alles wat tot dusver bespreek is. Redigering werk dieselfde — gee dit 'n beeld, beskryf die verandering. Daar is geen aparte modus om na oor te skakel nie en geen aparte koppelvlak om te leer nie.
08Om Shannon 3.1 vanaf die API te roep
Shannon 3.1 is op al drie API-dialekte beskikbaar, met stroming op elkeen. Dieselfde modelle, drie versoekvorme — kies watter een ook al by die SDK pas wat jy reeds het.
| Eindpunt | Vorm | Stroming |
|---|---|---|
| /v1/chat/completions | OpenAI-versoenbaar | Ja |
| /v1/messages | Anthropic-versoenbaar | Ja |
| /v1/responses | Responses | Ja |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Ruil "shannon-3.1" vir "shannon-3.1-pro" om die volle redeneerlus te loop. As jy reeds shannon-3 roep, is migrasie net die model-ID en niks anders nie: die versoek- en antwoordvorme is onveranderd, en bestaande stroomkliënte bly werk. Die een gedragsverskil om te verwag, is die vlaeriger stroom wat in afdeling 02 beskryf word — dieselfde tekens, dieselfde volgorde, wat vroeër en in minder egalige brokke aankom.
Volledige parameterverwysing, stawing, foutsemantiek en 'n interaktiewe speelgrond is in die API-dokumentasie. Ander modelkaarte en tegniese uiteensettings is in Shannon-navorsing.
09Steeds ongesensureerd, en onveranderd in daardie opsig
Shannon 3.1 het geen weieringslaag en geen inhoudsfiltrering op uitvoer nie. Dit is dieselfde houding as die res van die Shannon-reeks en dit het nie met die skuif na ons eie tros verander nie — as iets, maak die beheer van die bedieningsstapel dit makliker om te waarborg, want daar is geen tussengasheer met sy eie beleid wat tussen die model en jou sit nie.
Dit is die moeite werd om dit reguit te stel, want dit is die voor die hand liggende ding om oor te wonder by 'n vrystelling wat die hele uitvoerpad verander het: die verwydering van die tempolaag het nie beteken dat 'n moderasielaag in sy plek ingevoeg is nie. Niks inspekteer, herskryf of hek die stroom nie. Wat die model produseer, is wat aankom. Shannon 3.1 is, sover ons weet, die vinnigste ongesensureerde AI-model wat met 'n konteksvenster van hierdie grootte beskikbaar is — en die twee eienskappe hou verband, want albei kom daaruit dat ons ons eie infrastruktuur bedryf eerder as om nakomingsgevormde kapasiteit by iemand anders te huur.
Ongesensureerd is nie dieselfde as onaanspreeklik nie. Gebruik word deur ons Beleid vir Verantwoordelike Gebruik gereguleer, en die verpligting wat saam met 'n model kom wat met moeilike materiaal sal omgaan, is dat jy verantwoordelik daarmee omgaan.
10Loop die vergelyking self
Elke bewering hier is in ongeveer twee minute nagaanbaar, en ons wil eerder hê jy moet nagaan as om ons te glo.
- Kies 'n opdrag uit werk wat jy werklik doen. Lank is beter — dit oefen sowel die venster as die stroming.
- Loop dit op
shannon-3. Let op hoe lank dit tot die eerste teken neem, en hoe lank tot die antwoord voltooi is. - Loop die identiese opdrag op
shannon-3.1. Let op dieselfde twee getalle. - Lees dan albei antwoorde, ignoreer die horlosie, en besluit watter een jy sou wou hê.
Die spoedverskil sal onmiddellik en duidelik wees. Die kwaliteitsverskil is die een wat die moeite werd is om by stil te staan — dit wys die duidelikste op lang insette, waar 3.0 stilweg met minder van jou materiaal gewerk het as wat jy gedink het.
11Gereelde vrae
Wat is Shannon 3.1?
Shannon 3.1 is die huidige vrystelling van die Shannon 3-familie. Dit behou dieselfde iteratiewe redeneerlus — dink, konsep, selfhersiening, verbeter — maar loop dit inheems op ons eie GPU-tros in plaas van 'n derdeparty-afleidingsgasheer. Shannon Lab se eie evaluering meet 'n 32% verbetering in intelligensie en 10-15x vinniger antwoorde vergeleke met Shannon 3.0, met die konteksvenster wat van 32,768 na 196,608 tekens opgeskuif is.
Hoeveel vinniger is Shannon 3.1 as Shannon 3.0?
Tussen 10x en 15x vinniger op end-tot-end antwoorde, volgens Shannon Lab se eie evaluering. Twee dinge verklaar dit. Shannon 3.0 se uitvoer het deur 'n tempolaag beweeg wat die stroom doelbewus tempo-beperk het; Shannon 3.1 het geen spoedhek en geen onthullingstempo nie, so tekens bereik jou so vinnig soos die enjin hulle produseer. Die enjin self is ook vinniger: 4-bis NVFP4-gewigte plus spekulatiewe dekodering op ons eie GPU-tros.
Hoe groot is die Shannon 3.1-konteksvenster?
196,608 tekens, 'n 6x toename bo die 32,768 tekens wat op Shannon 3.0 beskikbaar was. Dit is ongeveer 400-500 bladsye teks, of 'n mediumgrootte kodebasis, wat in 'n enkele gesprek gehou word sonder brokkies of herwinning.
Wat is spekulatiewe dekodering en waarom maak dit hier saak?
'n Klein, vinnige konsepmodel stel 'n reeks waarskynlike volgende tekens voor en die hoofmodel verifieer hulle in 'n enkele saamgevoegde deurgang. Aanvaarde tekens word onmiddellik uitgestuur; verwerpte tekens val terug op normale dekodering. Die uitvoer is presies wat die hoofmodel op sy eie sou geproduseer het, maar verskeie tekens kan per verifikasiestap land in plaas van een. Dit is wat stroming teen volle spoed bekostigbaar maak eerder as 'n kosteprobleem.
Is Shannon 3.1 ongesensureerd?
Ja. Shannon 3.1 het geen weieringslaag en geen inhoudsfiltrering wat op sy uitvoer toegepas word nie, net soos die res van die Shannon-reeks. Die verwydering van die tempolaag het nie 'n moderasielaag in sy plek bygevoeg nie — die stroom wat jy ontvang, is die model se uitvoer.
Wat is die model-ID's en waar kan ek Shannon 3.1 gebruik?
shannon-3.1 is die Lite-vlak en shannon-3.1-pro is die Pro-vlak. Albei is beskikbaar in klets en op al drie API-dialekte: /v1/chat/completions (OpenAI-vormig), /v1/messages (Anthropic-vormig), en /v1/responses. Stroming werk op al drie.
Wat is die verskil tussen shannon-3.1 en shannon-3.1-pro?
Lite loop 'n enkele deurgang van die redeneerlus: dit dink, dan antwoord dit. Pro loop die volle lus — dink, konsep, selfhersiening, verbeter — met 'n kennisoesstap voor die konsep. Lite is die regte verstek vir die meeste werk; Pro is vir vrae waar die eerste antwoord gewoonlik nie die beste een is nie.
Probeer Shannon 3.1
Dieselfde redeneerlus. Ses keer die venster. Geen spoedhek.
Begin Klets Lees die API-dokumenteshannon-3.1 · shannon-3.1-pro · stroming op al drie dialekte
Prestasie- en intelligensiesyfers in hierdie artikel is Shannon Lab se eie metings uit interne evaluering, September 2026, en word as produksyfers eerder as derdeparty-maatstafresultate gestel. Konteksvenster, model-ID's en API-beskikbaarheid is produkspesifikasies. Shannon AI word bedryf deur Shannon Lab LLC, New Mexico, VSA. Verwante leesstof: Shannon 3 · Shannon-navorsingsindeks · API-dokumentasie.