Shannon 3.1

Väčšina vydaní modelov od vás žiada, aby ste tvrdeniu o schopnostiach verili a počkali, kým spor rozhodne tabuľka benchmarkov. Toto sa overuje ľahšie: otvorte dve karty, zadajte ten istý prompt do shannon-3 a shannon-3.1 a sledujte. Rozdiel v tom, ako rýchlo odpoveď dorazí, nie je jemný a nie je to trik vykresľovania. Shannon 3.0 bol zámerne pribrzdený. Shannon 3.1 nie je.

01Čo sa v Shannon 3.1 naozaj zmenilo

Shannon 3.0 priniesol to, čo túto rodinu definuje: iteratívnu slučku uvažovania. Model neodpovedá na prvú myšlienku. Premýšľa, napíše návrh, skontroluje vlastný návrh oproti otázke a vylepší ho. Lite spustí jeden prechod tej slučky; Pro spustí celú slučku vrátane zberu znalostí ešte pred písaním návrhu. Tento návrh podrobne opisuje výskumný článok o Shannon 3 a v 3.1 sa na ňom nič nezmenilo.

Zmenil sa stroj pod kapotou. Shannon 3.0 bol obsluhovaný cez cudzieho poskytovateľa inferencie — rozumný spôsob, ako model spustiť, a zväzujúci spôsob, ako ho prevádzkovať. Zdedíte cudziu konfiguráciu obsluhy, cudziu frontu, cudzí strop kontextu a cudziu predstavu o tom, koľko tokenov za sekundu smiete mať. Shannon 3.1 beží na našom vlastnom GPU klastri, na obslužnom stacku, ktorý konfigurujeme my, a každé kľúčové číslo v tomto článku je dôsledkom toho jediného rozhodnutia.

	Shannon 3.0	Shannon 3.1
Kde beží	Cudzí poskytovateľ	Náš vlastný GPU klaster
Kontextové okno	32 768	196 608
Streamovanie výstupu	Spomalené / obmedzené	Plná rýchlosť enginu
Váhy	Predvolené u poskytovateľa	4-bitové NVFP4
Dekódovanie	Štandardné	Špekulatívne
Slučka uvažovania	Premýšľať → návrh → kontrola → vylepšenie	Bez zmeny
Vrstva odmietania	Žiadna	Žiadna
Identifikátory modelov	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Prečo Shannon 3.1 pôsobí 10-15x rýchlejšie

Číslo o rýchlosti je to, na ktoré sa ľudia pýtajú prvé, takže sa oplatí presne povedať, odkiaľ pochádza. Prispievajú k nemu dva nezávislé faktory a ten väčší je menej okázalý z nich.

Odstránili sme rýchlostnú brzdu

Výstup Shannon 3.0 prechádzal spomaľovacou vrstvou. Tokeny opustili engine, boli zadržané a do vášho spojenia sa uvoľňovali podľa rozvrhu. Nebola to náhoda ani chyba. Keď je úzkym hrdlom zdieľaný poskytovateľ inferencie, spomaľovanie výstupu vyhladzuje záťaž, bráni tomu, aby dlhé generovanie monopolizovalo slot, a spôsobí, že stream prichádza v predvídateľnom, čitateľnom rytme namiesto v nárazoch. Je to obhájiteľné inžinierske rozhodnutie a stálo každého používateľa reálny čas pri každej jednej odpovedi.

Shannon 3.1 nemá žiadnu rýchlostnú brzdu ani dávkované odkrývanie textu. Tokeny sa zapisujú do vášho streamu tak, ako ich engine vyrába. Ak engine generuje rýchlo, vidíte, že generuje rýchlo. Medzi modelom a vaším terminálom, chatovacím oknom či SSE čítačkou nie je žiadny vyhladzovací buffer. Pri dlhej odpovedi — analýze na 2 000 tokenov, súbore vygenerovaného kódu — tvorí samo osebe väčšinu zlepšenia, ktoré si všimnete.

Úprimný dôsledok: stream je teraz nárazový. Špekulatívne dekódovanie (nižšie) vypisuje prijaté tokeny v krátkych sériách, takže text môže prichádzať vo viditeľných kusoch namiesto metronomického tempa slovo po slove. Ak ste si postavili rozhranie okolo plynulého tempa verzie 3.0, bude fungovať ďalej — poradie ani obsah tokenov sa nemenia — ale možno budete chcieť pridať vlastné vyhladzovanie na strane klienta, ak ste mali radšej efekt písacieho stroja. Myslíme si, že väčšina ľudí radšej získa tie sekundy späť.

Zrýchlil sa aj samotný engine

Odstránenie brzdy pomôže len vtedy, ak je to, čo je za ňou, rýchle. Druhým prínosom je obslužný stack opísaný v sekcii 03: 4-bitové váhy NVFP4 a špekulatívne dekódovanie na akcelerátoroch aktuálnej generácie s natívnou podporou FP4 v našom vlastnom klastri. Spoločne dvíhajú strop, ktorý odstránenie brzdy odhalí.

Relatívna latencia odpovede od začiatku do konca, interné vyhodnotenie Shannon Lab, september 2026. Rozpätie odráža dĺžku promptu a úroveň: krátke prompty na Lite sú bližšie k dolnej hranici, dlhé generovania na Pro k hornej.

03Čo špekulatívne dekódovanie naozaj robí

„Špekulatívne dekódovanie“ sa používa ako marketingové slovo, takže tu je mechanizmus, na rovinu.

Jazykový model bežne vyprodukuje jeden token na jeden dopredný prechod. Tomuto prechodu nedominuje aritmetika, ale pamäťová priepustnosť — aby sa dalo čokoľvek vypočítať, musia sa načítať váhy, a ich čítanie trvá oveľa dlhšie než samotná matematika. GPU strávi väčšinu času čakaním na pamäť s nečinnými výpočtovými jednotkami. Vygenerovať 500 tokenov znamená zaplatiť tú latenciu 500-krát, sekvenčne.

Špekulatívne dekódovanie útočí práve na tú sekvenčnú časť. Malý lacný návrhový model navrhne krátku sériu pravdepodobných ďalších tokenov — povedzme štyri alebo osem. Hlavný model potom vyhodnotí celú tú sériu v jedinom dávkovom doprednom prechode, ktorý stojí sotva viac než vyhodnotenie jedného tokenu, pretože tá drahá časť (čítanie váh) prebehne v oboch prípadoch raz. Každý navrhnutý token, s ktorým hlavný model súhlasí, je prijatý a okamžite vypísaný. Pri prvom nesúhlase sa séria oreže a odtiaľ pokračuje bežné dekódovanie.

Prácu odvedie miera prijatia. Na predvídateľnom texte — šablónovitých pasážach, štruktúre kódu, spojivovom tkanive argumentu — návrhový model háda dobre a dlhé série dopadnú naraz. Na naozaj ťažkých tokenoch miera prijatia klesne a systém sa elegantne vráti k bežnému dekódovaniu po jednom tokene. Presne túto asymetriu chcete: zrýchľuje ľahké časti a tých ťažkých sa nedotýka.

Prečo 4-bitové váhy patria do rovnakého odseku

Keďže úzkym hrdlom je pamäťová priepustnosť, zmenšenie váh je priama páka na rýchlosť, nielen na pamäťovú stopu. NVFP4 je 4-bitový formát s pohyblivou rádovou čiarkou s jemným škálovaním po blokoch, čo mu umožňuje udržať presnosť tam, kde ju staršie 4-bitové celočíselné kvantizácie strácali. Zhruba štvrtina bajtov na načítanie pri každom doprednom prechode znamená úmerne menej času stráveného čakaním na pamäť a necháva oveľa viac priestoru pre KV cache dlhého kontextu, akú okno s 196K vyžaduje.

Tie dve veci sa skôr násobia, než len sčítavajú: menej bajtov na prechod a menej prechodov na vypísaný token. Práve to robí nebrzdené streamovanie v plnej rýchlosti ekonomicky únosným namiesto nákladu, ktorý by sme museli získať späť spomaľovaním — čo je presne to, čo spomaľovacia vrstva na verzii 3.0 robila.

04196 608 tokenov: čo odomkne 6x väčšie okno

Shannon 3.0 mal okno s 32 768 tokenmi: pracovné sedenie, nie dokument. Zhruba 70-80 strán prózy, mínus to, čo si slučka uvažovania spotrebuje na vlastné premýšľanie, mínus váš systémový prompt, mínus doterajšia konverzácia. Reálna práca na tú stenu narážala neustále a všetky obchádzky — delenie na kusy, sumarizácia, vyhľadávanie vo vlastnom materiáli — degradujú práve to, čo ste sa snažili zachovať. 196 608 tokenov je iná kategória problému.

Konkrétne je to rádovo 400-500 strán anglického textu, alebo stredne veľká kódová báza aj s testami a README, alebo rok poznámok z porád jedného projektu, alebo kompletná zmluvná dokumentácia so všetkými prílohami — držané v jednej konverzácii, adresovateľné jednou otázkou, bez akejkoľvek vrstvy delenia medzi vami a materiálom.

• Otázky nad celým repozitárom. Načítajte kód a spýtajte sa, prečo sa chyba dostane do produkcie, namiesto vkladania troch súborov, ktoré ste už aj tak podozrievali. Model dokáže nájsť ten súbor, ktorý vás nenapadlo priložiť.
• Analýza dlhých dokumentov bez vyhľadávania. Vyhľadávanie je stratový predfilter, ktorý rozhoduje, čo model vôbec smie vidieť. Pri 196K ho často môžete preskočiť a nechať model prečítať všetko, čím odstránite celú triedu zlyhaní, kde sa správna pasáž nikdy nenašla.
• Konverzácie, ktoré ostanú súdržné. Dlhé pracovné sedenie už potichu nezahodí vlastný začiatok. Obmedzenia, ktoré ste nastavili v tretej správe, platia aj v osemdesiatej.
• Priestor pre slučku uvažovania. Vlastné premýšľanie, písanie návrhu a kontrola v rámci slučky spotrebúvajú kontext. Na 3.0 tieto kroky súperili s vaším materiálom o vzácny rozpočet. Na 3.1 sa pohodlne zmestia, čo je časť dôvodu, prečo prišiel nárast kvality a zväčšenie okna spolu.
• Veľké zmiešané vstupy. Obrázky, extrahovaný text dokumentov a kód v jednej otáčke, bez triedenia, čo z toho si môžete dovoliť priložiť.

Jedna úprimná výhrada, ktorá platí pre každý model s dlhým kontextom, ten náš nevynímajúc: veľké okno je kapacita, nie záruka rovnomernej pozornosti naprieč ním. Štruktúra stále pomáha. Umiestnenie otázky bližšie ku koncu, označenie dokumentov a povedanie modelu, čo má hľadať, merateľne zlepšujú výsledky pri 150K tokenoch spôsobom, akým to pri 5K jednoducho nerobia.

05Lite a Pro: shannon-3.1 a shannon-3.1-pro

Tieto dve úrovne sa líšia v tom, koľko zo slučky uvažovania spustia, a to je jediný rozdiel, na ktorom pri výbere medzi nimi záleží.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Uvažovanie	Jediný prechod	Celá slučka + zber znalostí
Vlastná kontrola	Nie	Áno
Kontextové okno	196 608	196 608
Streamovanie	Plná rýchlosť, bez brzdy	Plná rýchlosť, bez brzdy
Obrázky a dokumenty	Áno	Áno
Nástroj na generovanie obrázkov	Áno	Áno
Najlepší pre	Väčšinu práce, veľký objem	Ťažké otázky, keď prvý návrh nestačí

Predvolene používajte Lite. Jeden prechod dobrého uvažujúceho modelu zvládne veľkú väčšinu reálnych požiadaviek a na 3.1 je dosť rýchly na to, aby ste na slučku už necítili, že čakáte. Siahnite po Pro, keď je otázka taká, kde prvá odpoveď býva poučne nesprávna: architektonické kompromisy, adverzariálna analýza, čokoľvek, kde by ste chceli, aby sa nad tým schopný kolega vyspal. Krok vlastnej kontroly v Pro nie je dekorácia — je to model, ktorý nájde svoje vlastné chyby skôr, než to musíte urobiť vy.

06Nárast inteligencie o 32 % a ako ho čítať

Vlastné vyhodnotenie Shannon Lab kladie Shannon 3.1 o 32 % vyššie než Shannon 3.0. Chceme byť jasní v tom, čo to je a čo nie.

Je to naše číslo, z našej internej vyhodnocovacej sady, merané na úlohách, ktoré považujeme za reprezentatívne pre to, s čím ľudia k týmto modelom naozaj prichádzajú. Nie je to benchmark tretej strany a nestaviame okolo jedného interného agregátu tabuľku rebríčka ani nezverejňujeme rozpis po jednotlivých benchmarkoch — rozpis by naznačoval mieru vonkajšej porovnateľnosti, akú interná sada nemá.

Čo povieme, je to, odkiaľ ten nárast pochádza, pretože tá časť nie je záhadná. Väčšie kontextové okno znamená, že sa musí zahodiť menej materiálu skôr, než nad ním model začne uvažovať — a veľká časť zdanlivej neinteligencie v dlhých sedeniach je v skutočnosti len amnézia. Obslužný stack, ktorý riadime my, znamená, že model beží s konfiguráciou, ktorú sme zamýšľali, a nie s predvoľbou poskytovateľa. A slučka uvažovania — návrhovo nezmenená — má teraz vnútri okna priestor skutočne bežať, namiesto toho, aby sa tlačila na strop 32K, o ktorý sa delila s vaším vstupom.

07Obrázky, dokumenty a generovanie obrázkov

Shannon 3.1 číta obrázky a dokumenty. Snímky obrazovky, diagramy, fotografie, naskenované strany, PDF a textové dokumenty môžu vstúpiť do konverzácie a model nad nimi uvažuje spolu so všetkým ostatným. V kombinácii s oknom 196K je to práve to, čo robí prácu s celými dokumentmi praktickou: dlhá správa aj s grafmi v jednej otáčke, bez rozhodovania vopred, ktoré strany model smie vidieť.

Generovanie a úprava obrázkov sú dostupné v chate ako nástroj. Vypýtajte si obrázok a model zavolá nástroj priamo v tej istej konverzácii, s kontextom všetkého, o čom bola doteraz reč. Úprava funguje rovnako — podajte mu obrázok a opíšte zmenu. Nie je do čoho prepínať a nie je sa čo nové učiť.

08Volanie Shannon 3.1 cez API

Shannon 3.1 je dostupný na všetkých troch API dialektoch, na každom aj so streamovaním. Rovnaké modely, tri tvary požiadavky — vyberte si ten, ktorý sedí SDK, ktoré už máte.

Endpoint	Tvar	Streamovanie
/v1/chat/completions	Kompatibilný s OpenAI	Áno
/v1/messages	Kompatibilný s Anthropic	Áno
/v1/responses	Responses	Áno

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Vymeňte "shannon-3.1" za "shannon-3.1-pro", ak chcete spustiť celú slučku uvažovania. Ak už voláte shannon-3, migrácia je len o identifikátore modelu a ničom inom: tvary požiadavky aj odpovede sú nezmenené a existujúci streamovací klienti fungujú ďalej. Jediný rozdiel v správaní, ktorý čakajte, je nárazovejší stream opísaný v sekcii 02 — rovnaké tokeny, rovnaké poradie, prichádzajú skôr a v menej rovnomerných kusoch.

Kompletná referencia parametrov, autentifikácia, sémantika chýb a interaktívne ihrisko sú v dokumentácii API. Ďalšie model cards a technické texty nájdete v sekcii Shannon research.

09Stále necenzurovaný a v tomto ohľade nezmenený

Shannon 3.1 nemá vrstvu odmietania ani filtrovanie obsahu na výstupe. Je to rovnaký postoj ako u zvyšku rodiny Shannon a s presunom na náš vlastný klaster sa nezmenil — ak už, tak kontrola nad obslužným stackom uľahčuje jeho garantovanie, pretože medzi modelom a vami nesedí žiadny sprostredkovateľ s vlastnou politikou.

Stojí za to povedať to na rovinu, lebo je to zjavná otázka pri vydaní, ktoré zmenilo celú cestu výstupu: odstránenie spomaľovacej vrstvy neznamenalo, že by sme na jej miesto vložili moderačnú vrstvu. Stream nič neskúma, neprepisuje ani nebrzdí. Čo model vyprodukuje, to dorazí. Shannon 3.1 je, pokiaľ vieme, najrýchlejší dostupný necenzurovaný AI model s takto veľkým kontextovým oknom — a tie dve vlastnosti spolu súvisia, keďže obe vyplývajú z prevádzkovania vlastnej infraštruktúry namiesto prenájmu kapacity tvarovanej cudzími pravidlami.

Necenzurovaný nie je to isté ako nezodpovedný. Používanie sa riadi našimi Zásadami zodpovedného používania a povinnosťou, ktorá prichádza s modelom ochotným pustiť sa do ťažkého materiálu, je pristupovať k nemu zodpovedne.

10Porovnanie si spravte sami

Každé tvrdenie tu sa dá overiť asi za dve minúty a radšej by sme boli, keby ste si to overili, než aby ste nám verili.

1. Vyberte prompt z práce, ktorú naozaj robíte. Dlhší je lepší — preverí okno aj streamovanie.
2. Spustite ho na shannon-3. Zapíšte si, ako dlho trvalo, kým prišiel prvý token, a ako dlho, kým sa odpoveď dokončila.
3. Spustite ten istý prompt na shannon-3.1. Zapíšte si tie isté dve čísla.
4. Potom si prečítajte obe odpovede, ignorujte hodiny a rozhodnite, ktorú by ste boli chceli.

Rozdiel v rýchlosti bude okamžitý a zjavný. Rozdiel v kvalite je ten, pri ktorom sa oplatí zdržať — najzreteľnejšie sa ukáže na dlhých vstupoch, kde 3.0 potichu pracoval s menšou časťou vášho materiálu, než ste si mysleli.

11Často kladené otázky

---

Údaje o výkone a inteligencii v tomto článku sú vlastné merania Shannon Lab z interného vyhodnotenia, september 2026, a uvádzajú sa ako produktové čísla, nie ako výsledky benchmarkov tretej strany. Kontextové okno, identifikátory modelov a dostupnosť v API sú produktové špecifikácie. Shannon AI prevádzkuje Shannon Lab LLC, Nové Mexiko, USA. Súvisiace čítanie: Shannon 3 · Index Shannon research · Dokumentácia API.