Shannon 3.1

Večina izidov modelov od vas zahteva, da trditvi o zmogljivosti verjamete na besedo in počakate, da spor razsodi tabela primerjalnih testov. Tega je lažje preveriti: odprite dva zavihka, vnesite isti poziv v shannon-3 in shannon-3.1 ter opazujte. Razlika v tem, kako hitro prispe odgovor, ni subtilna in ni izrisovalni trik. Shannon 3.0 je bil namerno zadušen. Shannon 3.1 ni.

01Kaj se je v Shannon 3.1 dejansko spremenilo

Shannon 3.0 je uvedel to, kar to družino opredeljuje: iterativno zanko sklepanja. Model ne odgovori ob prvi misli. Premisli, napiše osnutek, ga pregleda glede na vprašanje in ga izboljša. Lite izvede en prehod te zanke; Pro izvede celotno zanko, vključno s korakom zbiranja znanja pred pisanjem osnutka. Ta zasnova je podrobno opisana v raziskovalnem članku o Shannon 3 in v različici 3.1 se ni spremenilo nič od tega.

Spremenil se je stroj pod pokrovom. Shannon 3.0 je stregel prek zunanjega gostitelja za sklepanje — smiseln način, da model izdaš, in omejujoč način, da ga poganjaš. Podeduješ tujo strežno konfiguracijo, tujo čakalno vrsto, tujo zgornjo mejo konteksta in tujo predstavo o tem, koliko žetonov na sekundo smeš dobiti. Shannon 3.1 teče na našem lastnem grozdu GPU, na strežnem skladu, ki ga nastavljamo sami, in vsaka številka iz naslova tega članka izvira iz te ene odločitve.

	Shannon 3.0	Shannon 3.1
Kje teče	Zunanji gostitelj	Naš lastni grozd GPU
Kontekstno okno	32,768	196,608
Pretakanje izpisa	Umerjeno / omejeno	Polna hitrost motorja
Uteži	Privzeto pri gostitelju	4-bitni NVFP4
Dekodiranje	Standardno	Spekulativno
Zanka sklepanja	Premisli → osnutek → pregled → izboljšava	Nespremenjena
Sloj zavračanja	Nobenega	Nobenega
Identifikatorji modelov	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Zakaj se Shannon 3.1 zdi 10-15x hitrejši

Podatek o hitrosti ljudi zanima najprej, zato se splača natančno povedati, od kod prihaja. Prispevka sta dva in med seboj neodvisna, večji od njiju pa je manj bleščeč.

Odstranili smo hitrostno zaporo

Izpis modela Shannon 3.0 je šel skozi sloj za umerjanje hitrosti. Žetoni so zapustili motor, bili zadržani in nato po urniku sproščeni v vašo povezavo. To ni bila nesreča ali napaka. Kadar je ozko grlo deljeni gostitelj za sklepanje, umerjanje izpisa zgladi obremenitev, prepreči, da bi dolga generacija monopolizirala mesto, in poskrbi, da tok prihaja v predvidljivem, berljivem ritmu namesto v sunkih. To je zagovorljiva inženirska odločitev, ki pa je vsakega uporabnika pri vsakem odgovoru stala pravi, izmerjeni čas.

Shannon 3.1 nima ne hitrostne zapore ne umerjanja razkrivanja. Žetoni se v vaš tok zapisujejo takoj, ko jih motor proizvede. Če motor generira hitro, to tudi vidite. Med modelom in vašim terminalom, klepetalnim oknom ali bralnikom SSE ni glajevalnega medpomnilnika. Pri dolgem odgovoru — analizi z 2.000 žetoni, datoteki generirane kode — že to samo po sebi predstavlja večino izboljšave, ki jo boste opazili.

Poštena posledica: tok je zdaj sunkovit. Spekulativno dekodiranje (spodaj) oddaja sprejete žetone v kratkih nizih, zato lahko besedilo prihaja v vidnih kosih namesto v metronomskem ritmu ene besede naenkrat. Če ste vmesnik gradili okoli gladkega ritma različice 3.0, bo še vedno deloval — vrstni red in vsebina žetonov sta nespremenjena — a boste morda želeli ponovno uvesti lastno glajenje na strani odjemalca, če vam je bil videz pisalnega stroja ljubši. Mislimo, da bi večina ljudi raje dobila nazaj sekunde.

Hitrejši je postal tudi motor sam

Odstranitev zapore pomaga le, če je tisto za zaporo hitro. Drugi prispevek je strežni sklad, opisan v razdelku 03: 4-bitne uteži NVFP4 in spekulativno dekodiranje na pospeševalnikih trenutne generacije z domorodno podporo FP4 v našem lastnem grozdu. Skupaj dvigneta strop, ki ga odstranitev zapore razkrije.

Relativna zakasnitev odgovora od začetka do konca, interno ovrednotenje Shannon Lab, september 2026. Razpon odraža dolžino poziva in različico: kratki pozivi na Lite so pri spodnjem robu, dolge generacije na Pro pri zgornjem.

03Kaj spekulativno dekodiranje dejansko počne

»Spekulativno dekodiranje« se uporablja kot tržna beseda, zato je tu mehanizem, povsem preprosto.

Jezikovni model običajno proizvede en žeton na prehod skozi model. Tega prehoda ne obvladuje aritmetika, temveč pomnilniška pasovna širina — uteži je treba prebrati, da lahko karkoli izračunaš, in branje traja precej dlje kot sama matematika. Grafična kartica večino časa čaka na pomnilnik, njene računske enote pa mirujejo. Generiranje 500 žetonov pomeni, da to zakasnitev plačaš 500-krat, zaporedno.

Spekulativno dekodiranje napade prav zaporedni del. Majhen, poceni osnutkovni model predlaga kratek niz verjetnih naslednjih žetonov — recimo štiri ali osem. Glavni model nato ovrednoti ta celoten niz v enem samem paketnem prehodu, ki stane komaj kaj več od vrednotenja enega samega žetona, saj se drag del (branje uteži) tako ali tako zgodi enkrat. Vsak predlagani žeton, s katerim se glavni model strinja, je sprejet in takoj oddan. Ob prvem neskladju se niz odreže in od tam se nadaljuje običajno dekodiranje.

Delo opravi stopnja sprejemanja. Pri predvidljivem besedilu — šablonskih delih, strukturi kode, vezivnem tkivu argumenta — osnutkovni model ugiba dobro in dolgi nizi pristanejo naenkrat. Pri resnično težkih žetonih sprejemanje pade in sistem se milo povrne na navadno dekodiranje po en žeton naenkrat. To je prav tista asimetrija, ki si jo želite: pospeši lahke dele in se težkih ne dotakne.

Zakaj 4-bitne uteži sodijo v isti odstavek

Ker je ozko grlo pomnilniška pasovna širina, je krčenje uteži neposreden vzvod za hitrost, ne le za pomnilniški odtis. NVFP4 je 4-bitni format s plavajočo vejico z drobnozrnatim skaliranjem po blokih, in prav to mu omogoča, da ohrani natančnost tam, kjer so jo starejše 4-bitne celoštevilske kvantizacije izgubljale. Približno četrtina bajtov za branje na prehod pomeni sorazmerno manj čakanja na pomnilnik in pušča veliko več prostora za predpomnilnik KV, ki ga zahteva okno velikosti 196K.

Učinka se ne le seštevata, temveč množita: manj bajtov na prehod in manj prehodov na oddani žeton. Prav to naredi neomejeno pretakanje s polno hitrostjo vzdržno za strežbo in ne strošek, ki bi ga morali povrniti z umerjanjem — kar je bilo natanko to, kar je sloj za umerjanje počel pri 3.0.

04196,608 žetonov: kaj odklene 6x večje okno

Shannon 3.0 je imel okno 32,768 žetonov: delovno sejo, ne dokumenta. Približno 70-80 strani proze, minus tisto, kar zanka sklepanja porabi za svoje razmišljanje, minus vaš sistemski poziv, minus dosedanji pogovor. Resnično delo je v ta zid trkalo nenehno, obvozi — razkosavanje, povzemanje, pridobivanje iz lastnega gradiva — pa vsi poslabšajo prav tisto, kar ste želeli ohraniti. 196,608 žetonov je druga kategorija problema.

Konkretno je to reda 400-500 strani angleškega besedila ali srednje velika koda projekta s testi in datoteko README ali leto zapiskov s sestankov enega projekta ali celoten sklop pogodb z vsemi prilogami — vse v enem pogovoru, naslovljivo z enim vprašanjem, brez sloja za razkosavanje med vami in gradivom.

• Vprašanja o celotnem repozitoriju. Naložite kodo in vprašajte, zakaj napaka pride v produkcijo, namesto da prilepite tri datoteke, ki ste jih že sumili. Model lahko najde datoteko, ki je vi niste pomislili priložiti.
• Analiza dolgih dokumentov brez pridobivanja. Pridobivanje je izgubni predfilter, ki odloči, kaj model sploh sme videti. Pri 196K ga pogosto lahko preskočite in pustite modelu, da prebere vse, s čimer odpravite cel razred napak, pri katerih pravi odlomek nikoli ni bil pridobljen.
• Pogovori, ki ostanejo koherentni. Dolga delovna seja ne izpušča več tiho svojega lastnega začetka. Omejitve, ki ste jih postavili v tretjem sporočilu, veljajo še v osemdesetem.
• Prostor za zanko sklepanja. Lastno razmišljanje, pisanje osnutkov in pregledovanje zanke porabljajo kontekst. Pri 3.0 so ti koraki tekmovali z vašim gradivom za skop proračun. Pri 3.1 se udobno prilegajo, in to je del razloga, zakaj sta pridobitev v kakovosti in povečanje okna prišla skupaj.
• Veliki mešani vhodi. Slike, izluščeno besedilo dokumentov in koda v enem samem obratu, brez triaže, katere od njih si sploh lahko privoščite priložiti.

Eno pošteno opozorilo, ki velja za vsak model z dolgim kontekstom, tudi za našega: veliko okno je zmogljivost, ne jamstvo za enakomerno pozornost po vsej njegovi dolžini. Struktura še vedno pomaga. Postavitev vprašanja blizu konca, označevanje dokumentov in navodilo modelu, kaj naj išče, vsi merljivo izboljšajo rezultate pri 150K žetonih na način, kot ga pri 5K preprosto ne.

05Lite in Pro: shannon-3.1 in shannon-3.1-pro

Različici se razlikujeta v tem, koliko zanke sklepanja izvedeta, in to je edina razlika, ki je pomembna pri izbiri med njima.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Sklepanje	En prehod	Celotna zanka + zbiranje znanja
Samopregled	Ne	Da
Kontekstno okno	196,608	196,608
Pretakanje	Polna hitrost, brez zapore	Polna hitrost, brez zapore
Slike in dokumenti	Da	Da
Orodje za generiranje slik	Da	Da
Najprimernejši za	Večino dela, velike količine	Težka vprašanja, kjer prvi osnutek ne zadošča

Privzeto uporabljajte Lite. En prehod dobrega modela za sklepanje obvlada veliko večino resničnih zahtev, pri 3.1 pa je dovolj hiter, da čakanja na zanko ne občutite več. Po Pro posezite takrat, ko je vprašanje takšno, da je prvi odgovor običajno napačen na poučen način: arhitekturni kompromisi, nasprotniška analiza, vse, pri čemer bi želeli, da sposoben kolega o tem prespi. Korak samopregleda pri Pro ni okrasek — to je model, ki najde svoje napake, preden jih morate vi.

0632% pridobitev inteligence in kako jo brati

Lastno ovrednotenje Shannon Lab postavlja Shannon 3.1 na 32% izboljšanje inteligence glede na Shannon 3.0. Radi bi bili jasni glede tega, kaj to je in kaj ni.

To je naša številka, iz našega internega nabora ovrednotenj, izmerjena na nalogah, za katere menimo, da so reprezentativne za to, kar ljudje tem modelom dejansko prinašajo. Ni primerjalni test tretje osebe in okoli enega samega internega skupka ne gradimo lestvice niti ne objavljamo razčlenitve po posameznih testih — razčlenitev bi namigovala na raven zunanje primerljivosti, ki je interni nabor nima.

Kar pa bomo povedali, je, od kod pridobitev izvira, ker ta del ni skrivnosten. Večje kontekstno okno pomeni, da je treba pred sklepanjem zavreči manj gradiva, velik del navidezne nebistroumnosti v dolgih sejah pa je v resnici zgolj amnezija. Strežni sklad, ki ga nadziramo, pomeni, da model teče s konfiguracijo, kot smo jo zamislili, in ne s privzeto nastavitvijo gostitelja. Zanka sklepanja — po zasnovi nespremenjena — pa ima zdaj v oknu dejansko prostor, da se izvede, namesto da bi bila stisnjena ob strop 32K, ki si ga je delila z vašim vhodom.

07Slike, dokumenti in generiranje slik

Shannon 3.1 bere slike in dokumente. Zaslonske slike, diagrame, fotografije, skenirane strani, dokumente PDF in besedilne dokumente lahko vstavite v pogovor in model bo o njih sklepal skupaj z vsem ostalim. V kombinaciji z oknom 196K prav to omogoča praktične poteke dela s celotnimi dokumenti: dolgo poročilo in njegovi grafi v enem obratu, brez vnaprejšnjega odločanja, katere strani model sploh sme videti.

Generiranje in urejanje slik sta v klepetu na voljo kot orodje. Zaprosite za sliko in model orodje pokliče sproti, v istem pogovoru, s kontekstom vsega, kar ste dotlej obravnavali. Urejanje deluje enako — podajte mu sliko in opišite spremembo. Ni ločenega načina, v katerega bi bilo treba preklopiti, in ne ločenega vmesnika, ki bi se ga bilo treba naučiti.

08Klicanje Shannon 3.1 prek API

Shannon 3.1 je na voljo na vseh treh API narečjih, s pretakanjem na vsakem. Isti modeli, tri oblike zahtevkov — izberite tisto, ki ustreza SDK-ju, ki ga že imate.

Končna točka	Oblika	Pretakanje
/v1/chat/completions	Združljivo z OpenAI	Da
/v1/messages	Združljivo z Anthropic	Da
/v1/responses	Responses	Da

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

"shannon-3.1" zamenjajte s "shannon-3.1-pro", da poženete celotno zanko sklepanja. Če že kličete shannon-3, je selitev zgolj identifikator modela in nič drugega: obliki zahtevka in odgovora sta nespremenjeni, obstoječi pretočni odjemalci pa še naprej delujejo. Edina vedenjska razlika, ki jo pričakujte, je sunkovitejši tok, opisan v razdelku 02 — isti žetoni, isti vrstni red, le da prispejo prej in v manj enakomernih kosih.

Celoten pregled parametrov, avtentikacija, semantika napak in interaktivno igrišče so v dokumentaciji API. Druge kartice modelov in tehnični zapisi so v raziskavah Shannon.

09Še vedno necenzuriran in v tem pogledu nespremenjen

Shannon 3.1 nima sloja zavračanja in nad izpisom ni filtriranja vsebine. To je ista drža kot pri preostali liniji Shannon in se s selitvijo na naš lastni grozd ni spremenila — če že, nadzor nad strežnim skladom to lažje zagotavlja, saj med modelom in vami ni vmesnega gostitelja z lastno politiko.

Vredno je povedati naravnost, ker je to očitna stvar, ki se človek vpraša ob izdaji, ki je spremenila celotno pot izpisa: odstranitev sloja za umerjanje hitrosti ni pomenila vstavitve sloja za moderiranje na njegovo mesto. Nič ne pregleduje, prepisuje ali zapira toka. Kar model proizvede, je tisto, kar prispe. Shannon 3.1 je, kolikor nam je znano, najhitrejši necenzurirani AI model s kontekstnim oknom te velikosti — in obe lastnosti sta povezani, saj obe izvirata iz tega, da poganjamo lastno infrastrukturo, namesto da bi najemali zmogljivost, oblikovano po tuji skladnosti.

Necenzuriran ni isto kot neodgovoren. Uporabo ureja naša Politika odgovorne uporabe, obveznost, ki pride z modelom, ki se bo spustil v težko gradivo, pa je, da se vanj spustite odgovorno.

10Primerjavo poženite sami

Vsako trditev tukaj je mogoče preveriti v približno dveh minutah in raje imamo, da preverite, kot da nam verjamete.

1. Izberite poziv iz dela, ki ga dejansko opravljate. Daljši je bolje — obremeni tako okno kot pretakanje.
2. Poženite ga na shannon-3. Zabeležite, koliko traja do prvega žetona in koliko do dokončanega odgovora.
3. Enak poziv poženite na shannon-3.1. Zabeležite isti dve številki.
4. Nato preberite oba odgovora, ne glede na uro, in se odločite, katerega bi si želeli.

Razlika v hitrosti bo takojšnja in očitna. Razlika v kakovosti je tista, ob kateri se splača ustaviti — najbolj jasno se pokaže pri dolgih vhodih, kjer je 3.0 tiho delal z manj vašega gradiva, kot ste mislili.

11Pogosta vprašanja

---

Podatki o zmogljivosti in inteligenci v tem članku so lastne meritve Shannon Lab iz internega ovrednotenja, september 2026, in so navedeni kot produktne številke, ne kot rezultati primerjalnih testov tretjih oseb. Kontekstno okno, identifikatorji modelov in razpoložljivost API so specifikacije izdelka. Shannon AI upravlja Shannon Lab LLC, Nova Mehika, ZDA. Sorodno branje: Shannon 3 · Kazalo raziskav Shannon · Dokumentacija API.