Shannon 3.1
Stejná uvažovací smyčka, přesunutá na náš vlastní GPU cluster: o 32 % vyšší inteligence, 10-15x rychlejší a kontextové okno 196,608 tokenů.
Ve zkratce
Shannon 3.1 zachovává vše, kvůli čemu stálo za to používat Shannon 3 — iterativní uvažovací smyčku, žádnou vrstvu odmítání, žádné filtrování výstupu — a mění to, kde a jak běží. Model se nyní obsluhuje z našeho vlastního GPU clusteru místo z cizí inferenční platformy. Vyhodnocení Shannon Lab měří o 32 % vyšší inteligenci a 10-15x rychlejší odpovědi oproti Shannonu 3.0. Kontextové okno stoupá z 32,768 na 196,608 tokenů. Vrstva pacingu, která záměrně zpomalovala výstup verze 3.0, je pryč: 3.1 streamuje plnou rychlostí enginu. Id modelů jsou shannon-3.1 a shannon-3.1-pro, v chatu i na všech třech dialektech API.
Většina vydání modelů po vás chce, abyste tvrzení o schopnostech přijali na slovo a počkali, až spor rozhodne tabulka benchmarků. Tohle se ověřuje snáz: otevřete dvě záložky, zadejte stejný prompt do shannon-3 a shannon-3.1 a dívejte se. Rozdíl v tom, jak rychle odpověď dorazí, není nenápadný a není to trik vykreslování. Shannon 3.0 byl škrcen záměrně. Shannon 3.1 není.
01Co se v Shannonu 3.1 skutečně změnilo
Shannon 3.0 přinesl to, co tuto rodinu definuje: iterativní uvažovací smyčku. Model neodpovídá na první myšlenku. Přemýšlí, sepíše návrh, porovná vlastní návrh s otázkou a vylepší ho. Lite provede jeden průchod touto smyčkou; Pro provede celou smyčku včetně kroku sklizně znalostí před psaním návrhu. Tento návrh je podrobně popsán ve výzkumném článku o Shannonu 3 a ve verzi 3.1 se na něm nic nezměnilo.
Změnila se mašinerie pod ním. Shannon 3.0 byl obsluhován přes cizí inferenční platformu — rozumný způsob, jak model uvést, a svazující způsob, jak ho provozovat. Zdědíte cizí konfiguraci obsluhy, cizí frontu, cizí strop kontextu a cizí představu o tom, kolik tokenů za sekundu si smíte dopřát. Shannon 3.1 běží na našem vlastním GPU clusteru, na obslužné vrstvě, kterou konfigurujeme my, a každé hlavní číslo v tomto článku je důsledkem tohoto jediného rozhodnutí.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Kde běží | Cizí platforma | Náš vlastní GPU cluster |
| Kontextové okno | 32,768 | 196,608 |
| Streamování výstupu | Pacing / omezená rychlost | Plná rychlost enginu |
| Váhy | Výchozí u platformy | 4bitové NVFP4 |
| Dekódování | Standardní | Spekulativní |
| Uvažovací smyčka | Přemýšlet → návrh → kontrola → vylepšit | Beze změny |
| Vrstva odmítání | Žádná | Žádná |
| Id modelů | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Proč Shannon 3.1 působí 10-15x rychleji
Rychlost je číslo, na které se lidé ptají jako první, takže stojí za to přesně říct, odkud pochází. Přispívají k ní dva nezávislé faktory a ten větší z nich je méně efektní.
Odstranili jsme rychlostní brzdu
Výstup Shannonu 3.0 procházel vrstvou pacingu. Tokeny opustily engine, byly podrženy a uvolňovaly se do vašeho spojení podle rozvrhu. Nebyla to nehoda ani chyba. Když je úzkým hrdlem sdílená inferenční platforma, řízení tempa výstupu vyhlazuje zátěž, brání dlouhé generaci monopolizovat slot a dává streamu předvídatelný, čitelný rytmus místo nárazů. Je to obhajitelné inženýrské rozhodnutí a stálo každého uživatele skutečný čas u každé jednotlivé odpovědi.
Shannon 3.1 nemá rychlostní brzdu ani řízené odkrývání. Tokeny se zapisují do vašeho streamu tak, jak je engine produkuje. Pokud engine generuje rychle, vidíte, že generuje rychle. Mezi modelem a vaším terminálem, chatovým oknem nebo SSE čtečkou není žádný vyhlazovací buffer. U dlouhé odpovědi — analýzy na 2,000 tokenů, souboru vygenerovaného kódu — tvoří samo o sobě většinu zlepšení, kterého si všimnete.
Poctivý důsledek: stream je nyní nárazový. Spekulativní dekódování (níže) odesílá přijaté tokeny v krátkých sériích, takže text může přicházet ve viditelných blocích místo v metronomickém tempu slovo po slovu. Pokud jste postavili rozhraní kolem plynulého tempa verze 3.0, bude i nadále fungovat — pořadí ani obsah tokenů se nemění — ale možná budete chtít zavést vlastní vyhlazování na straně klienta, jestli se vám líbil efekt psacího stroje. Myslíme si, že většina lidí chce raději ušetřené vteřiny.
Zrychlil i samotný engine
Odstranění brzdy pomůže jen tehdy, když je to za brzdou rychlé. Druhým příspěvkem je obslužná vrstva popsaná v sekci 03: 4bitové váhy NVFP4 a spekulativní dekódování na akcelerátorech současné generace s nativní podporou FP4 v našem vlastním clusteru. Dohromady zvedají strop, který odstranění brzdy odhalilo.
Relativní latence odpovědi od začátku do konce, interní vyhodnocení Shannon Lab, září 2026. Rozpětí odráží délku promptu a úroveň: krátké prompty na Lite leží u spodní hranice, dlouhé generace na Pro u horní.
03Co spekulativní dekódování skutečně dělá
„Spekulativní dekódování“ se používá jako marketingové slovo, tak tady je ten mechanismus, prostě a jasně.
Jazykový model běžně vyprodukuje jeden token na jeden dopředný průchod. Tomu průchodu nedominuje aritmetika, ale propustnost paměti — aby se dalo cokoli spočítat, musí se načíst váhy, a jejich čtení trvá mnohem déle než samotná matematika. GPU tráví většinu času čekáním na paměť s nečinnými výpočetními jednotkami. Vygenerovat 500 tokenů znamená zaplatit tuto latenci 500krát, sekvenčně.
Spekulativní dekódování útočí na tu sekvenční část. Malý a levný návrhový model navrhne krátkou sérii pravděpodobných dalších tokenů — řekněme čtyři nebo osm. Hlavní model pak vyhodnotí celou tuto sérii v jediném dávkovém dopředném průchodu, který stojí sotva víc než vyhodnocení jednoho tokenu, protože ta drahá část (čtení vah) proběhne tak jako tak jednou. Každý navržený token, se kterým hlavní model souhlasí, je přijat a okamžitě odeslán. Při prvním nesouhlasu se série ukončí a od toho místa pokračuje běžné dekódování.
Vlastnost, na které záleží
Spekulativní dekódování zachovává výstup. Ověřovací krok je sestaven tak, aby přijatá sekvence měla přesně stejné rozdělení, jaké by mělo vlastní vzorkování hlavního modelu. Nedostáváte odpověď návrhového modelu ani aproximaci odpovědi velkého modelu. Dostáváte výstup hlavního modelu, jen dosažený v menším počtu sekvenčních kroků. Návrhový model může ovlivnit pouze rychlost, nikdy obsah.
Práci odvádí míra přijetí. U předvídatelného textu — šablonovitých pasáží, struktury kódu, spojovací tkáně argumentu — návrhový model hádá dobře a dlouhé série dosednou najednou. U skutečně těžkých tokenů přijetí klesá a systém se elegantně vrátí k obyčejnému dekódování po jednom tokenu. Tahle asymetrie je přesně ta, kterou chcete: zrychluje snadné části a těch těžkých se nedotkne.
Proč do stejného odstavce patří 4bitové váhy
Protože úzkým hrdlem je propustnost paměti, zmenšení vah je přímá páka na rychlost, ne jen na paměťovou stopu. NVFP4 je 4bitový formát s pohyblivou řádovou čárkou s jemným škálováním po blocích, což mu umožňuje udržet přesnost tam, kde ji starší 4bitová celočíselná kvantizace ztrácela. Zhruba čtvrtina bajtů ke čtení na jeden dopředný průchod znamená úměrně méně času stráveného čekáním na paměť a nechává mnohem víc prostoru pro KV cache dlouhého kontextu, kterou okno 196K vyžaduje.
Ty dva efekty se spíš násobí, než jen sčítají: méně bajtů na průchod a méně průchodů na odeslaný token. Právě proto je nebrzděné streamování plnou rychlostí ufinancovatelné, a ne náklad, který bychom museli stahovat zpět pacingem — což je přesně to, co vrstva pacingu ve verzi 3.0 dělala.
04196,608 tokenů: co odemyká šestinásobné okno
Shannon 3.0 měl okno 32,768 tokenů: pracovní sezení, ne dokument. Zhruba 70-80 stran prózy, minus to, co uvažovací smyčka spotřebuje na vlastní přemýšlení, minus váš systémový prompt, minus dosavadní konverzace. Skutečná práce na tuhle zeď narážela neustále a obchvaty — dělení na části, sumarizace, vyhledávání ve vlastních materiálech — vždycky degradují právě to, co jste se snažili zachovat. 196,608 tokenů je jiná kategorie problému.
Konkrétně jde řádově o 400-500 stran textu, nebo o středně velkou kódovou bázi s testy a README, nebo o rok poznámek z porad jednoho projektu, nebo o kompletní smluvní sadu se všemi přílohami — držené v jedné konverzaci, adresovatelné jednou otázkou, bez vrstvy dělení mezi vámi a materiálem.
- Otázky nad celým repozitářem. Nahrajte kód a zeptejte se, proč se chyba dostane do produkce, místo abyste vkládali tři soubory, které jste už podezírali. Model dokáže najít soubor, který vás nenapadlo přidat.
- Analýza dlouhých dokumentů bez vyhledávání. Vyhledávání je ztrátový předfiltr, který rozhoduje, co model vůbec smí vidět. Při 196K ho můžete často vynechat a nechat model přečíst všechno, což odstraňuje celou třídu selhání, kdy se ta správná pasáž nikdy nenašla.
- Konverzace, které zůstanou soudržné. Dlouhé pracovní sezení už tiše nezahodí vlastní začátek. Omezení, která jste stanovili ve třetí zprávě, platí i v osmdesáté.
- Prostor pro uvažovací smyčku. Vlastní přemýšlení, návrhy a kontrola smyčky spotřebovávají kontext. U 3.0 tyto kroky soupeřily s vaším materiálem o vzácný rozpočet. U 3.1 se pohodlně vejdou, což je částí důvodu, proč přišel nárůst kvality spolu s větším oknem.
- Velké smíšené vstupy. Obrázky, extrahovaný text dokumentů a kód v jednom tahu, bez třídění toho, co si můžete dovolit zahrnout.
Jedna poctivá výhrada, která platí pro každý model s dlouhým kontextem, náš nevyjímaje: velké okno je kapacita, ne záruka rovnoměrné pozornosti napříč ním. Struktura pořád pomáhá. Umístit otázku ke konci, označit dokumenty a říct modelu, co má hledat — to vše měřitelně zlepšuje výsledky při 150K tokenech způsobem, jakým to při 5K prostě nefunguje.
05Lite a Pro: shannon-3.1 a shannon-3.1-pro
Obě úrovně se liší tím, jak velkou část uvažovací smyčky provedou, a to je jediný rozdíl, na kterém při volbě mezi nimi záleží.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Uvažování | Jediný průchod | Celá smyčka + sklizeň znalostí |
| Sebekontrola | Ne | Ano |
| Kontextové okno | 196,608 | 196,608 |
| Streamování | Plná rychlost, bez brzdy | Plná rychlost, bez brzdy |
| Obrázky a dokumenty | Ano | Ano |
| Nástroj pro generování obrázků | Ano | Ano |
| Nejlepší pro | Většinu práce, velký objem | Těžké otázky, kde první návrh nestačí |
Ve výchozím stavu používejte Lite. Jeden průchod dobrého uvažovacího modelu zvládne naprostou většinu skutečných požadavků a na 3.1 je dost rychlý na to, aby čekání na smyčku už nebylo cítit. Sáhněte po Pro, když je otázka toho druhu, kde je první odpověď obvykle poučně špatná: architektonické kompromisy, adversariální analýza, cokoli, kde byste chtěli, aby se nad tím schopný kolega vyspal. Krok sebekontroly u Pro není ozdoba — je to model, který najde vlastní chyby dřív, než to musíte udělat vy.
06Nárůst inteligence o 32 % a jak ho číst
Vlastní vyhodnocení Shannon Lab staví Shannon 3.1 na o 32 % vyšší inteligenci oproti Shannonu 3.0. Chceme být jasní v tom, co to je a co ne.
Je to naše číslo, z naší interní vyhodnocovací sady, měřené na úlohách, které považujeme za reprezentativní pro to, s čím lidé k těmto modelům skutečně chodí. Není to nezávislý benchmark a nestavíme kolem jediného interního souhrnu žebříčkovou tabulku ani nepublikujeme rozpad po jednotlivých benchmarcích — takový rozpad by naznačoval míru vnější srovnatelnosti, kterou interní sada nemá.
Co říct chceme, je odkud ten nárůst pochází, protože ta část záhadná není. Větší kontextové okno znamená, že se před uvažováním musí zahodit méně materiálu, a velká část zdánlivé neinteligence v dlouhých sezeních je ve skutečnosti jen amnézie. Obslužná vrstva, kterou řídíme my, znamená, že model běží s konfigurací, kterou jsme zamýšleli, a ne s výchozím nastavením platformy. A uvažovací smyčka — v návrhu nezměněná — má nyní uvnitř okna prostor skutečně proběhnout, místo aby ji tlačil strop 32K, o který se dělila s vaším vstupem.
Nejužitečnější benchmark pro vás je ten váš vlastní. Vezměte prompt ze své skutečné práce — ne hlavolam, opravdový — a spusťte ho na shannon-3 a pak na shannon-3.1. Porovnejte odpovědi a změřte čas. Naše čísla popisují průměr napříč sadou; ten váš prompt je ten, který se musí zlepšit.
07Obrázky, dokumenty a generování obrázků
Shannon 3.1 čte obrázky a dokumenty. Snímky obrazovky, diagramy, fotografie, naskenované stránky, PDF i textové dokumenty mohou vstoupit do konverzace a být zpracovány spolu se vším ostatním. V kombinaci s oknem 196K je právě to, co dělá práci s celými dokumenty praktickou: dlouhá zpráva i s grafy v jednom tahu, bez rozhodování předem o tom, které stránky model smí vidět.
Generování a úpravy obrázků jsou dostupné v chatu jako nástroj. Požádejte o obrázek a model zavolá nástroj přímo v téže konverzaci, s kontextem všeho dosud probraného. Úpravy fungují stejně — podejte mu obrázek a popište změnu. Není třeba přepínat do zvláštního režimu ani se učit jiné rozhraní.
08Volání Shannonu 3.1 z API
Shannon 3.1 je dostupný na všech třech dialektech API, na každém se streamováním. Stejné modely, tři tvary požadavku — vyberte si ten, který odpovídá SDK, jaké už máte.
| Endpoint | Tvar | Streamování |
|---|---|---|
| /v1/chat/completions | Kompatibilní s OpenAI | Ano |
| /v1/messages | Kompatibilní s Anthropic | Ano |
| /v1/responses | Responses | Ano |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Zaměňte "shannon-3.1" za "shannon-3.1-pro", chcete-li spustit celou uvažovací smyčku. Pokud už voláte shannon-3, migrace spočívá v id modelu a v ničem jiném: tvary požadavku i odpovědi se nemění a existující streamovací klienti fungují dál. Jediný rozdíl v chování, který čekejte, je nárazovější stream popsaný v sekci 02 — stejné tokeny, stejné pořadí, přicházejí dřív a v méně rovnoměrných blocích.
Kompletní přehled parametrů, autentizaci, sémantiku chyb a interaktivní hřiště najdete v dokumentaci API. Další karty modelů a technické texty jsou ve výzkumu Shannon.
09Stále bez cenzury a v tomto ohledu beze změny
Shannon 3.1 nemá žádnou vrstvu odmítání ani filtrování obsahu na výstupu. Je to stejný postoj jako u zbytku řady Shannon a přechodem na náš vlastní cluster se nezměnil — spíš naopak, kontrola nad obslužnou vrstvou usnadňuje jeho zaručení, protože mezi modelem a vámi nesedí žádná mezilehlá platforma s vlastní politikou.
Stojí za to říct to naplno, protože je to zjevná věc, kterou si u vydání měnícího celou výstupní cestu člověk položí: odstranění vrstvy pacingu neznamenalo vložit na její místo moderační vrstvu. Nic stream nekontroluje, nepřepisuje ani nebrzdí. Co model vyprodukuje, to dorazí. Shannon 3.1 je, pokud je nám známo, nejrychlejší dostupný AI model bez cenzury s kontextovým oknem této velikosti — a ty dvě vlastnosti spolu souvisejí, protože obě plynou z provozu vlastní infrastruktury místo pronájmu kapacity tvarované compliance požadavky někoho jiného.
Bez cenzury neznamená bez odpovědnosti. Používání se řídí našimi Zásadami odpovědného použití a závazkem, který přichází s modelem ochotným pracovat s náročným materiálem, je, že s ním budete pracovat odpovědně.
10Proveďte srovnání sami
Každé tvrzení zde se dá ověřit asi za dvě minuty a my bychom byli radši, kdybyste to ověřili, než abyste nám věřili.
- Vyberte prompt z práce, kterou skutečně děláte. Dlouhý je lepší — prověří okno i streamování.
- Spusťte ho na
shannon-3. Poznamenejte si, jak dlouho trvá první token a jak dlouho dokončení odpovědi. - Spusťte totožný prompt na
shannon-3.1. Poznamenejte si stejná dvě čísla. - Pak si obě odpovědi přečtěte, hodiny nechte stranou, a rozhodněte, kterou byste chtěli.
Rozdíl v rychlosti bude okamžitý a zjevný. Rozdíl v kvalitě stojí za to nechat usadit — projeví se nejzřetelněji u dlouhých vstupů, kde 3.0 potichu pracoval s menší částí vašeho materiálu, než jste si mysleli.
11Často kladené dotazy
Co je Shannon 3.1?
Shannon 3.1 je aktuální vydání rodiny Shannon 3. Zachovává stejnou iterativní uvažovací smyčku — přemýšlet, navrhnout, zkontrolovat sám sebe, vylepšit — ale běží nativně na našem vlastním GPU clusteru místo na cizí inferenční platformě. Vlastní vyhodnocení Shannon Lab měří o 32 % vyšší inteligenci a 10-15x rychlejší odpovědi oproti Shannonu 3.0, přičemž kontextové okno vzrostlo z 32,768 na 196,608 tokenů.
O kolik je Shannon 3.1 rychlejší než Shannon 3.0?
Podle vlastního vyhodnocení Shannon Lab je odpověď od začátku do konce 10x až 15x rychlejší. Stojí za tím dvě věci. Výstup Shannonu 3.0 procházel vrstvou pacingu, která záměrně omezovala rychlost streamu; Shannon 3.1 nemá žádnou rychlostní brzdu ani řízené odkrývání, takže tokeny k vám dorazí tak rychle, jak je engine vyprodukuje. Rychlejší je i samotný engine: 4bitové váhy NVFP4 plus spekulativní dekódování na našem vlastním GPU clusteru.
Jak velké je kontextové okno Shannonu 3.1?
196,608 tokenů, tedy šestinásobek oproti 32,768 tokenům dostupným u Shannonu 3.0. To je zhruba 400-500 stran textu nebo středně velká kódová báze, držená v jediné konverzaci bez dělení na části a bez vyhledávání.
Co je spekulativní dekódování a proč na něm tady záleží?
Malý a rychlý návrhový model navrhne sérii pravděpodobných dalších tokenů a hlavní model je ověří v jediném dávkovém průchodu. Přijaté tokeny se okamžitě odešlou; odmítnuté se vrátí k běžnému dekódování. Výstup je tentýž, jaký by hlavní model vytvořil sám, jen na jeden ověřovací krok může připadnout několik tokenů místo jednoho. Právě díky tomu je streamování plnou rychlostí ufinancovatelné, a ne nákladový problém.
Je Shannon 3.1 bez cenzury?
Ano. Shannon 3.1 nemá žádnou vrstvu odmítání ani filtrování obsahu na výstupu, stejně jako zbytek řady Shannon. Odstranění vrstvy pacingu na její místo nepřidalo moderační vrstvu — stream, který dostáváte, je výstup modelu.
Jaká jsou id modelů a kde mohu Shannon 3.1 používat?
shannon-3.1 je úroveň Lite a shannon-3.1-pro je úroveň Pro. Obě jsou dostupné v chatu i na všech třech dialektech API: /v1/chat/completions (ve tvaru OpenAI), /v1/messages (ve tvaru Anthropic) a /v1/responses. Streamování funguje na všech třech.
Jaký je rozdíl mezi shannon-3.1 a shannon-3.1-pro?
Lite provede jediný průchod uvažovací smyčkou: přemýšlí a pak odpoví. Pro provede celou smyčku — přemýšlet, navrhnout, zkontrolovat sám sebe, vylepšit — se sklizní znalostí před psaním návrhu. Lite je správná výchozí volba pro většinu práce; Pro je pro otázky, u nichž první odpověď obvykle není ta nejlepší.
Vyzkoušejte Shannon 3.1
Stejná uvažovací smyčka. Šestkrát větší okno. Žádná rychlostní brzda.
Začít chatovat Přečíst dokumentaci APIshannon-3.1 · shannon-3.1-pro · streamování na všech třech dialektech
Údaje o výkonu a inteligenci v tomto článku jsou vlastní měření Shannon Lab z interního vyhodnocení, září 2026, a jsou uvedeny jako produktové údaje, nikoli jako výsledky nezávislých benchmarků. Kontextové okno, id modelů a dostupnost API jsou produktové specifikace. Shannon AI provozuje Shannon Lab LLC, Nové Mexiko, USA. Související čtení: Shannon 3 · Rozcestník výzkumu Shannon · Dokumentace API.