Shannon 3.1

Shumica e publikimeve të modeleve ju kërkojnë ta merrni një pretendim aftësie në besim dhe të prisni një tabelë matësish që ta zgjidhë debatin. Ky është më i lehtë për t'u kontrolluar: hapni dy skeda, vendosni të njëjtin prompt te shannon-3 dhe te shannon-3.1, dhe shikoni. Ndryshimi në shpejtësinë me të cilën mbërrin përgjigja nuk është i hollë dhe nuk është një truk paraqitjeje. Shannon 3.0 ishte i ngadalësuar me qëllim. Shannon 3.1 nuk është.

01Çfarë ndryshoi në të vërtetë në Shannon 3.1

Shannon 3.0 futi atë që e përcakton këtë familje: një cikël arsyetimi iterativ. Modeli nuk përgjigjet me mendimin e tij të parë. Ai mendon, skicon, e rishikon skicën e vet kundrejt pyetjes dhe e përmirëson. Lite ekzekuton një kalim të atij cikli; Pro ekzekuton ciklin e plotë, përfshirë një hap të mbledhjes së njohurive përpara se të skicojë. Ai dizajn përshkruhet në detaje në artikullin e kërkimit për Shannon 3, dhe asgjë prej tij nuk ka ndryshuar në 3.1.

Ajo që ndryshoi është makineria poshtë. Shannon 3.0 shërbehej përmes një hosti inference të palës së tretë — një mënyrë e arsyeshme për të lançuar një model dhe një mënyrë kufizuese për ta mbajtur në punë. Trashëgon konfigurimin e shërbimit të dikujt tjetër, radhën e dikujt tjetër, tavanin e kontekstit të dikujt tjetër dhe idenë e dikujt tjetër se sa tokenë për sekondë ju lejohet të keni. Shannon 3.1 ekzekutohet në grupin tonë të GPU-ve, mbi një pirg shërbimi që e konfigurojmë ne, dhe çdo shifër kryesore në këtë artikull rrjedh nga ai vendim i vetëm.

	Shannon 3.0	Shannon 3.1
Ku ekzekutohet	Host i palës së tretë	Grupi ynë i GPU-ve
Dritarja e kontekstit	32,768	196,608
Transmetimi i daljes	Me ritëm / i kufizuar	Shpejtësi e plotë e motorit
Peshat	Parazgjedhje e hostit	NVFP4 4-bit
Dekodimi	Standard	Spekulativ
Cikli i arsyetimit	Mendo → skico → rishiko → përmirëso	I pandryshuar
Shtresa e refuzimit	Asnjë	Asnjë
ID-të e modeleve	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Pse Shannon 3.1 ndihet 10-15x më i shpejtë

Shifra e shpejtësisë është ajo që njerëzit kërkojnë e para, prandaj ia vlen të jemi të saktë se nga vjen. Ka dy kontribute të pavarura, dhe më i madhi është më pak i shkëlqyeri prej të dyve.

Ne hoqëm portën e shpejtësisë

Dalja e Shannon 3.0 kalonte përmes një shtrese ritmi. Tokenët largoheshin nga motori, mbaheshin dhe lëshoheshin te lidhja juaj sipas një orari. Kjo nuk ishte një aksident ose një defekt. Kur një host inference i përbashkët është pengesa, ritmimi i daljes e zbut ngarkesën, pengon një gjenerim të gjatë të monopolizojë një slot dhe e bën transmetimin të mbërrijë me një ritëm të parashikueshëm e të lexueshëm në vend se me shpërthime. Është një zgjedhje inxhinierike e mbrojtshme, dhe ajo i kushtoi çdo përdoruesi kohë reale në çdo përgjigje të vetme.

Shannon 3.1 nuk ka portë shpejtësie dhe as ritmim zbulimi. Tokenët shkruhen në transmetimin tuaj ashtu siç i prodhon motori. Nëse motori po gjeneron shpejt, ju e shihni atë duke gjeneruar shpejt. Nuk ka asnjë bufer zbutës mes modelit dhe terminalit tuaj, dritares suaj të chat-it ose lexuesit tuaj SSE. Për një përgjigje të gjatë — një analizë prej 2,000 tokenësh, një skedar kodi të gjeneruar — vetëm kjo shpjegon shumicën e përmirësimit që do të vini re.

Një pasojë e ndershme: transmetimi tani është me shpërthime. Dekodimi spekulativ (më poshtë) lëshon tokenë të pranuar në vargje të shkurtra, kështu që teksti mund të mbërrijë në copa të dukshme në vend se me një kadencë metronomike fjalë-për-fjalë. Nëse e keni ndërtuar ndërfaqen tuaj rreth kadencës së butë të 3.0, ajo do të vazhdojë të funksionojë — rendi dhe përmbajtja e tokenëve nuk preken — por mund të dëshironi të rifusni zbutjen tuaj në anën e klientit nëse ju pëlqente pamja e makinës së shkrimit. Ne mendojmë se shumica e njerëzve do të parapëlqenin t'i kishin sekondat prapa.

Vetë motori u bë më i shpejtë

Heqja e portës ndihmon vetëm nëse ajo që qëndron prapa portës është e shpejtë. Kontributi i dytë është pirgu i shërbimit i përshkruar në seksionin 03: pesha NVFP4 4-bit dhe dekodim spekulativ mbi përshpejtues të gjeneratës aktuale, nativë në FP4, në grupin tonë. Së bashku këto e ngrenë tavanin që zbulohet nga heqja e portës.

Vonesa relative e përgjigjes nga fundi në fund, vlerësim i brendshëm i Shannon Lab, shtator 2026. Diapazoni pasqyron gjatësinë e promptit dhe nivelin: promptet e shkurtra në Lite qëndrojnë pranë skajit të ulët, gjenerimet e gjata në Pro pranë skajit të lartë.

03Çfarë bën në të vërtetë dekodimi spekulativ

"Inferenca me dekodim spekulativ" përdoret si fjalë marketingu, prandaj ja mekanizmi, thjesht.

Një model gjuhësor normalisht prodhon një token për çdo kalim përpara. Ai kalim dominohet jo nga aritmetika, por nga gjerësia e brezit të memories — peshat duhet të lexohen për të llogaritur çfarëdo gjëje, dhe leximi i tyre zgjat shumë më gjatë se sa vetë matematika. GPU-ja e kalon pjesën më të madhe të kohës duke pritur memorien me njësitë e saj llogaritëse në pushim. Të gjenerosh 500 tokenë do të thotë ta paguash atë vonesë 500 herë, në mënyrë sekuenciale.

Dekodimi spekulativ e sulmon pjesën sekuenciale. Një model skicues i vogël dhe i lirë propozon një varg të shkurtër tokenësh të mundshëm pasues — le të themi katër ose tetë. Modeli kryesor pastaj e vlerëson të gjithë atë varg në një kalim përpara të vetëm të grupuar, i cili kushton mezi më shumë se sa do të kushtonte vlerësimi i një tokeni, sepse pjesa e shtrenjtë (leximi i peshave) ndodh një herë në të dyja rastet. Çdo token i propozuar me të cilin modeli kryesor pajtohet pranohet dhe lëshohet menjëherë. Në mospajtimin e parë, vargu shkurtohet dhe dekodimi normal rifillon që andej.

Shkalla e pranimit e bën punën. Në tekst të parashikueshëm — kallëpe, strukturë kodi, indi lidhës i një argumenti — modeli skicues gjuan mirë dhe vargje të gjata zbarkojnë menjëherë. Në tokenë vërtet të vështirë, pranimi bie dhe sistemi degradon me hijeshi kthehet te dekodimi i zakonshëm një-token-në-një-kohë. Ai asimetri është ajo që doni: përshpejton pjesët e lehta dhe nuk i prek ato të vështirat.

Pse peshat 4-bit bëjnë pjesë në të njëjtin paragraf

Meqë pengesa është gjerësia e brezit të memories, zvogëlimi i peshave është një levë e drejtpërdrejtë shpejtësie, jo thjesht një levë e gjurmës së memories. NVFP4 është një format me presje lundruese 4-bit me shkallëzim të imët për bllok, që është ajo çka i lejon të mbajë saktësinë aty ku skemat më të vjetra të kuantizimit me numra të plotë 4-bit e humbnin. Rreth një e katërta e bajteve për t'u lexuar për çdo kalim përpara do të thotë proporcionalisht më pak kohë duke pritur memorien, dhe lë shumë më tepër hapësirë për cache-in KV të kontekstit të gjatë që kërkon një dritare 196K.

Të dyja përbëhen bashkë në vend që thjesht të mblidhen: më pak bajte për kalim dhe më pak kalime për çdo token të lëshuar. Kjo është ajo që e bën transmetimin pa portë, me shpejtësi të plotë, të përballueshëm për t'u shërbyer në vend të një kostoje që do të na duhej ta rikuperonim përmes ritmimit — që është pikërisht ajo çka bënte shtresa e ritmit në 3.0.

04196,608 tokenë: çfarë hap një dritare 6x

Shannon 3.0 kishte një dritare prej 32,768 tokenësh: një seancë pune, jo një dokument. Rreth 70-80 faqe prozë, minus çfarëdo që konsumon cikli i arsyetimit për mendimin e vet, minus promptin tuaj të sistemit, minus bisedën deri atëherë. Puna reale e godiste atë mur vazhdimisht, dhe zgjidhjet rrethuese — copëzimi, përmbledhja, rikuperimi mbi materialin tuaj — të gjitha e degradojnë atë gjë që po përpiqeshit ta ruanit. 196,608 tokenë është një kategori tjetër problemi.

Konkretisht, kjo është në rendin e 400-500 faqeve tekst, ose një baze kodi të mesme me testet dhe README-në e saj, ose një viti shënimesh takimesh të një projekti, ose një grupi të plotë kontratash me të gjitha shtojcat e tyre — të mbajtura në një bisedë të vetme, të adresueshme në një pyetje të vetme, pa asnjë shtresë copëzimi mes jush dhe materialit.

• Pyetje mbi tërë depon e kodit. Ngarkoni kodin dhe pyesni pse një defekt arrin në prodhim, në vend që të ngjitni tre skedarët që tashmë i dyshonit. Modeli mund të gjejë skedarin që nuk ju shkoi ndër mend ta përfshinit.
• Analizë dokumentesh të gjata pa rikuperim. Rikuperimi është një parafiltër me humbje që vendos se çfarë i lejohet modelit të shohë. Në 196K shpesh mund ta anashkaloni dhe ta lini modelin të lexojë gjithçka, gjë që heq një klasë të tërë dështimesh ku pasazhi i duhur nuk u rikuperua kurrë.
• Biseda që mbeten koherente. Një seancë e gjatë pune nuk e braktis më në heshtje fillimin e vet. Kufizimet që vendosët në mesazhin e tretë vlejnë ende në mesazhin e tetëdhjetë.
• Hapësirë për ciklin e arsyetimit. Vetë mendimi, skicimi dhe rishikimi i ciklit konsumojnë kontekst. Në 3.0 ata hapa konkurronin me materialin tuaj për një buxhet të pakët. Në 3.1 ata futen rehat, që është pjesë e arsyes pse fitimi në cilësi dhe rritja e dritares mbërritën së bashku.
• Hyrje të mëdha të përziera. Imazhe, tekst dokumentesh të nxjerrë dhe kod në një radhë të vetme, pa vendosur se cilat prej tyre keni mundësi t'i përfshini.

Një paralajmërim i ndershëm që vlen për çdo model me kontekst të gjatë, përfshirë tonin: një dritare e madhe është një kapacitet, jo një garanci vëmendjeje uniforme përgjatë saj. Struktura ndihmon ende. Vendosja e pyetjes pranë fundit, etiketimi i dokumenteve tuaja dhe t'i thuash modelit çfarë të kërkojë, të gjitha përmirësojnë ndjeshëm rezultatet në 150K tokenë në një mënyrë që thjesht nuk e bëjnë në 5K.

05Lite dhe Pro: shannon-3.1 dhe shannon-3.1-pro

Dy nivelet ndryshojnë në sa nga cikli i arsyetimit ekzekutojnë, dhe ky është i vetmi ndryshim që ka rëndësi për të zgjedhur mes tyre.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Arsyetimi	Kalim i vetëm	Cikli i plotë + mbledhje njohurish
Vetërishikimi	Jo	Po
Dritarja e kontekstit	196,608	196,608
Transmetimi	Shpejtësi e plotë, pa portë	Shpejtësi e plotë, pa portë
Shikim & dokumente	Po	Po
Mjeti i gjenerimit të imazheve	Po	Po
Më i mirë për	Shumicën e punës, volum të lartë	Pyetje të vështira, skica e parë e pamjaftueshme

Përdorni Lite si parazgjedhje. Një kalim i vetëm i një modeli të mirë arsyetimi e përballon shumicën e madhe të kërkesave reale, dhe në 3.1 ai është mjaft i shpejtë sa cikli nuk është më diçka që e ndjeni duke pritur. Kaloni te Pro kur pyetja është një prej atyre ku përgjigja e parë zakonisht është e gabuar në mënyrë udhëzuese: kompromiset arkitekturore, analiza kundërshtare, çdo gjë ku do të donit që një koleg i aftë të flinte një natë mbi të. Hapi i vetërishikimit i Pro-s nuk është dekorim — është modeli që gjen gabimet e veta përpara se t'ju duhet ta bëni ju.

06Fitimi prej 32% në inteligjencë dhe si duhet lexuar

Vlerësimi i vetë Shannon Lab e vendos Shannon 3.1 në një përmirësim prej 32% në inteligjencë mbi Shannon 3.0. Duam të jemi të qartë se çfarë është dhe çfarë nuk është kjo.

Është shifra jonë, nga suita jonë e brendshme e vlerësimit, e matur mbi detyra që i konsiderojmë përfaqësuese të asaj që njerëzit u sjellin realisht këtyre modeleve. Nuk është një matës i palës së tretë, dhe ne nuk po ndërtojmë një tabelë renditjeje rreth një agregati të vetëm të brendshëm dhe as nuk po publikojmë një ndarje sipas matësve — një ndarje e tillë nënkupton një nivel krahasueshmërie të jashtme që një suitë e brendshme nuk e ka.

Ajo që do të themi është se nga vjen fitimi, sepse ajo pjesë nuk është misterioze. Një dritare konteksti më e madhe do të thotë se më pak material duhet të hidhet poshtë përpara se modeli të arsyetojë mbi të, dhe një pjesë e madhe e mungesës së dukshme të inteligjencës në seanca të gjata është në të vërtetë thjesht amnezi. Një pirg shërbimi që e kontrollojmë ne do të thotë se modeli ekzekutohet me konfigurimin që synuam ne, jo me një parazgjedhje hosti. Dhe cikli i arsyetimit — i pandryshuar në dizajn — tani ka hapësirë të ekzekutohet vërtet brenda dritares, në vend që të shtrydhet kundër një tavani 32K që e ndante me hyrjen tuaj.

07Shikimi, dokumentet dhe gjenerimi i imazheve

Shannon 3.1 lexon imazhe dhe dokumente. Pamje ekrani, diagrame, fotografi, faqe të skanuara, PDF dhe dokumente teksti mund të futen në bisedë dhe të arsyetohen bashkë me gjithçka tjetër. E kombinuar me dritaren 196K, kjo është ajo që i bën praktike rrjedhat e punës mbi dokumente të plota: një raport i gjatë dhe grafikët e tij në një radhë të vetme, pa vendosur paraprakisht cilat faqe i lejohet modelit të shohë.

Gjenerimi dhe redaktimi i imazheve janë të disponueshme në chat si mjet. Kërkoni një imazh dhe modeli e thërret mjetin brenda rrjedhës, në të njëjtën bisedë, me kontekstin e gjithçkaje të diskutuar deri atëherë. Redaktimi funksionon njësoj — jepini një imazh, përshkruani ndryshimin. Nuk ka asnjë modalitet të veçantë për të kaluar dhe asnjë ndërfaqe të veçantë për të mësuar.

08Thirrja e Shannon 3.1 nga API-ja

Shannon 3.1 është i disponueshëm në të tre dialektet e API-t, me transmetim në secilin. Të njëjtat modele, tri forma kërkese — zgjidhni atë që i përshtatet SDK-së që keni tashmë.

Endpoint	Forma	Transmetimi
/v1/chat/completions	E pajtueshme me OpenAI	Po
/v1/messages	E pajtueshme me Anthropic	Po
/v1/responses	Responses	Po

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Ndërroni "shannon-3.1" me "shannon-3.1-pro" për të ekzekutuar ciklin e plotë të arsyetimit. Nëse tashmë po thërrisni shannon-3, migrimi është ID-ja e modelit dhe asgjë tjetër: format e kërkesës dhe të përgjigjes janë të pandryshuara, dhe klientët ekzistues të transmetimit vazhdojnë të funksionojnë. I vetmi ndryshim sjelljeje që duhet pritur është transmetimi më me shpërthime i përshkruar në seksionin 02 — të njëjtit tokenë, i njëjti rend, që mbërrijnë më herët dhe në copa më pak të njëtrajtshme.

Referenca e plotë e parametrave, autentikimi, semantika e gabimeve dhe një këndlojë interaktive gjenden në dokumentacionin e API-t. Karta të tjera modelesh dhe shkrime teknike gjenden te kërkimi i Shannon.

09Ende i pacensuruar dhe i pandryshuar në atë drejtim

Shannon 3.1 nuk ka shtresë refuzimi dhe as filtrim përmbajtjeje në dalje. Ky është i njëjti qëndrim si pjesa tjetër e linjës Shannon dhe ai nuk ndryshoi me kalimin në grupin tonë — nëse ka ndonjë ndryshim, kontrolli i pirgut të shërbimit e bën më të lehtë ta garantojmë, sepse nuk ka asnjë host të ndërmjetëm me politikën e vet mes modelit dhe jush.

Ia vlen të thuhet hapur, sepse është gjëja e dukshme për t'u pyetur rreth një publikimi që ndryshoi tërë rrugën e daljes: heqja e shtresës së ritmit nuk do të thoshte futja e një shtrese moderimi në vend të saj. Asgjë nuk e inspekton, rishkruan ose bllokon transmetimin. Ajo që prodhon modeli është ajo që mbërrin. Shannon 3.1 është, me sa dimë ne, modeli i IA-së i pacensuruar më i shpejtë i disponueshëm me një dritare konteksti të kësaj madhësie — dhe të dyja vetitë janë të lidhura, meqë të dyja vijnë nga ekzekutimi i infrastrukturës sonë në vend të marrjes me qira të kapacitetit të formësuar sipas pajtueshmërisë së dikujt tjetër.

I pacensuruar nuk është e njëjta gjë me i papërgjegjshëm. Përdorimi rregullohet nga Politika jonë e Përdorimit të Përgjegjshëm, dhe detyrimi që vjen me një model që do të angazhohet me material të vështirë është që ju të angazhoheni me të në mënyrë të përgjegjshme.

10Bëjeni vetë krahasimin

Çdo pretendim këtu është i kontrollueshëm në rreth dy minuta, dhe do të preferonim që ta kontrollonit sesa të na besonit.

1. Zgjidhni një prompt nga puna që bëni vërtet. I gjatë është më mirë — ushtron edhe dritaren, edhe transmetimin.
2. Ekzekutojeni në shannon-3. Shënoni sa zgjat deri te tokeni i parë dhe sa zgjat deri sa përfundon përgjigja.
3. Ekzekutoni promptin identik në shannon-3.1. Shënoni të njëjtat dy shifra.
4. Pastaj lexoni të dyja përgjigjet, duke shpërfillur orën, dhe vendosni cilën do të kishit dashur.

Ndryshimi në shpejtësi do të jetë i menjëhershëm dhe i dukshëm. Ndryshimi në cilësi është ai që ia vlen të shqyrtohet me kujdes — ai shfaqet më qartë në hyrje të gjata, ku 3.0 punonte në heshtje me më pak nga materiali juaj sesa mendonit.

11Pyetje të bëra shpesh

---

Shifrat e performancës dhe të inteligjencës në këtë artikull janë matje të vetë Shannon Lab nga vlerësimi i brendshëm, shtator 2026, dhe janë paraqitur si shifra produkti, jo si rezultate matësish të palëve të treta. Dritarja e kontekstit, ID-të e modeleve dhe disponueshmëria e API-t janë specifikime produkti. Shannon AI operohet nga Shannon Lab LLC, Nju Meksiko, SHBA. Lexim i lidhur: Shannon 3 · Indeksi i kërkimit të Shannon · Dokumentacioni i API-t.