Shannon 3.1

Većina izdanja modela traži da tvrdnju o sposobnostima primite na vjeru i pričekate da tablicu s mjerenjima riješi spor. Ovo je lakše provjeriti: otvorite dvije kartice, upišite isti upit u shannon-3 i shannon-3.1 i gledajte. Razlika u brzini kojom odgovor stiže nije suptilna i nije trik u prikazu. Shannon 3.0 bio je namjerno prigušen. Shannon 3.1 nije.

01Što se zapravo promijenilo u modelu Shannon 3.1

Shannon 3.0 uveo je ono što definira ovu obitelj: iterativnu petlju zaključivanja. Model ne odgovara na prvu misao. Razmisli, napiše nacrt, pregleda vlastiti nacrt u odnosu na pitanje i poboljša ga. Lite izvodi jedan prolazak te petlje; Pro izvodi cijelu petlju, uključujući korak prikupljanja znanja prije pisanja nacrta. Taj je dizajn detaljno opisan u istraživačkom članku o modelu Shannon 3, i ništa se od toga nije promijenilo u verziji 3.1.

Promijenila se mašinerija ispod. Shannon 3.0 posluživao se preko inferencijskog poslužitelja treće strane — razuman način da se model lansira i sputavajući način da se model vodi. Nasljeđujete tuđu konfiguraciju posluživanja, tuđi red čekanja, tuđi strop konteksta i tuđu predodžbu o tome koliko tokena u sekundi smijete dobiti. Shannon 3.1 radi na našem vlastitom GPU klasteru, na stogu za posluživanje koji sami konfiguriramo, a svaka istaknuta brojka u ovom članku posljedica je te jedne odluke.

	Shannon 3.0	Shannon 3.1
Gdje se izvodi	Poslužitelj treće strane	Naš vlastiti GPU klaster
Kontekstni prozor	32,768	196,608
Streaming izlaza	Usporen / ograničen	Puna brzina motora
Težine	Zadano na poslužitelju	4-bitni NVFP4
Dekodiranje	Standardno	Spekulativno
Petlja zaključivanja	Razmisli → nacrt → pregled → poboljšanje	Nepromijenjena
Sloj odbijanja	Nema ga	Nema ga
Identifikatori modela	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Zašto se Shannon 3.1 doima 10-15x bržim

Brojka o brzini prva je koju ljudi provjeravaju, pa se isplati biti precizan o tome odakle dolazi. Postoje dva neovisna doprinosa, a veći je onaj manje efektan.

Uklonili smo ograničivač brzine

Izlaz modela Shannon 3.0 prolazio je kroz sloj usporavanja. Tokeni bi izašli iz motora, bili zadržani i puštani prema vašoj vezi po rasporedu. To nije bila nezgoda ni greška. Kad je usko grlo dijeljeni inferencijski poslužitelj, usporavanje izlaza izglađuje opterećenje, sprječava da jedno dugo generiranje zauzme cijeli slot i čini da stream stiže u predvidljivom, čitljivom ritmu umjesto u naletima. To je obranjiv inženjerski izbor koji je svakog korisnika stajao stvarnog vremena na svakom pojedinom odgovoru.

Shannon 3.1 nema ograničivač brzine ni usporeno otkrivanje teksta. Tokeni se upisuju u vaš stream onako kako ih motor proizvodi. Ako motor generira brzo, vidite da generira brzo. Između modela i vašeg terminala, prozora za chat ili SSE čitača nema međuspremnika za izglađivanje. Za dug odgovor — analizu od 2,000 tokena, datoteku generiranog koda — samo to čini većinu poboljšanja koje ćete primijetiti.

Poštena posljedica: stream je sada skokovit. Spekulativno dekodiranje (u nastavku) šalje prihvaćene tokene u kratkim nizovima, pa tekst može stizati u vidljivim blokovima umjesto u metronomskom ritmu riječ po riječ. Ako ste sučelje gradili oko glatkog ritma verzije 3.0, i dalje će raditi — redoslijed i sadržaj tokena su nepromijenjeni — ali biste možda htjeli vratiti vlastito ublažavanje na klijentu ako vam se više sviđao izgled pisaćeg stroja. Mislimo da bi većina ljudi radije vratila sekunde.

I sam je motor postao brži

Uklanjanje brane pomaže samo ako je ono iza nje brzo. Drugi doprinos je stog za posluživanje opisan u odjeljku 03: 4-bitne NVFP4 težine i spekulativno dekodiranje na akceleratorima aktualne generacije s izvornom podrškom za FP4 u našem vlastitom klasteru. Zajedno podižu strop koji uklanjanje brane otkriva.

Relativno kašnjenje odgovora od početka do kraja, interno mjerenje Shannon Laba, rujan 2026. Raspon odražava duljinu upita i razinu: kratki upiti na Liteu su bliže donjoj granici, duga generiranja na Prou bliže gornjoj.

03Što spekulativno dekodiranje zapravo radi

Izraz „spekulativno dekodiranje” koristi se kao marketinška riječ, pa evo mehanizma, bez uvijanja.

Jezični model uobičajeno proizvodi jedan token po prolasku unaprijed. Tim prolaskom ne dominira aritmetika nego propusnost memorije — težine se moraju pročitati da bi se išta izračunalo, a čitanje traje daleko dulje od same matematike. GPU većinu vremena čeka na memoriju dok su mu računske jedinice besposlene. Generiranje 500 tokena znači plaćanje tog kašnjenja 500 puta, jedno za drugim.

Spekulativno dekodiranje napada upravo taj slijedni dio. Mali, jeftin nacrtni model predlaže kratak niz vjerojatnih sljedećih tokena — recimo četiri ili osam. Glavni model zatim taj cijeli niz procjenjuje u jednom skupnom prolasku unaprijed, koji stoji tek malo više nego procjena jednog tokena, jer se skupi dio (čitanje težina) ionako dogodi jednom. Svaki predloženi token s kojim se glavni model složi prihvaća se i odmah šalje. Kod prvog neslaganja niz se skraćuje i od te točke se nastavlja uobičajeno dekodiranje.

Posao obavlja stopa prihvaćanja. Na predvidljivom tekstu — šablonskom kodu, strukturi programa, veznom tkivu argumenta — nacrtni model dobro pogađa i dugi nizovi stižu odjednom. Na doista teškim tokenima prihvaćanje pada i sustav se elegantno vraća na obično dekodiranje token po token. To je asimetrija kakvu želite: ubrzava lake dijelove, a teške ne dira.

Zašto 4-bitne težine spadaju u isti odlomak

Budući da je usko grlo propusnost memorije, smanjivanje težina izravna je poluga brzine, a ne samo memorijskog otiska. NVFP4 je 4-bitni format s pomičnim zarezom i finozrnatim skaliranjem po blokovima, što mu omogućuje zadržavanje točnosti ondje gdje su je stariji 4-bitni cjelobrojni kvantizacijski postupci gubili. Otprilike četvrtina bajtova koje treba pročitati po prolasku unaprijed znači razmjerno manje vremena čekanja na memoriju, a ostavlja i mnogo više prostora za KV predmemoriju dugog konteksta kakvu prozor od 196K zahtijeva.

To dvoje se množi, a ne samo zbraja: manje bajtova po prolasku i manje prolazaka po poslanom tokenu. Upravo to čini neograničeni streaming punom brzinom priuštivim za posluživanje, a ne troškom koji bismo morali nadoknađivati usporavanjem — što je točno ono što je sloj usporavanja radio na verziji 3.0.

04196,608 tokena: što otključava 6x veći prozor

Shannon 3.0 imao je prozor od 32,768 tokena: radnu sesiju, ne dokument. Otprilike 70-80 stranica proze, minus ono što petlja zaključivanja potroši na vlastito razmišljanje, minus vaš sistemski upit, minus dosadašnji razgovor. Stvaran je posao stalno udarao u taj zid, a zaobilazna rješenja — rezanje na dijelove, sažimanje, dohvaćanje po vlastitom materijalu — sva razgrađuju upravo ono što ste htjeli sačuvati. 196,608 tokena je druga kategorija problema.

Konkretno, to je reda veličine 400-500 stranica engleskog teksta, ili srednje velika baza koda s testovima i README datotekom, ili godina dana bilježaka sa sastanaka jednog projekta, ili cijeli skup ugovora sa svim prilozima — sve u jednom razgovoru, dohvatljivo jednim pitanjem, bez sloja za rezanje između vas i materijala.

• Pitanja o cijelom repozitoriju. Učitajte kod i pitajte zašto bug dolazi do produkcije umjesto da zalijepite tri datoteke koje ste ionako već sumnjičili. Model može pronaći datoteku koje se niste sjetili priložiti.
• Analiza dugih dokumenata bez dohvaćanja. Dohvaćanje je gubitni predfiltar koji odlučuje što model uopće smije vidjeti. Na 196K ga često možete preskočiti i pustiti model da pročita sve, čime uklanjate cijelu klasu grešaka u kojoj pravi odlomak nikad nije ni dohvaćen.
• Razgovori koji ostaju koherentni. Duga radna sesija više ne odbacuje tiho vlastiti početak. Ograničenja koja ste postavili u trećoj poruci i dalje vrijede u osamdesetoj.
• Prostor za petlju zaključivanja. Razmišljanje, nacrt i pregled unutar same petlje troše kontekst. Na verziji 3.0 ti su koraci s vašim materijalom konkurirali za oskudan budžet. Na 3.1 udobno stanu, i to je dio razloga zašto su dobitak u kvaliteti i povećanje prozora stigli zajedno.
• Veliki mješoviti ulazi. Slike, izvučen tekst dokumenata i kod u jednom potezu, bez trijaže o tome što si možete priuštiti uključiti.

Jedna poštena ograda koja vrijedi za svaki model s dugim kontekstom, pa i za naš: velik je prozor kapacitet, a ne jamstvo ujednačene pažnje po cijeloj njegovoj dužini. Struktura i dalje pomaže. Postavljanje pitanja pri kraju, označavanje dokumenata i objašnjavanje modelu što treba tražiti mjerljivo poboljšavaju rezultate na 150K tokena na način na koji to na 5K jednostavno ne čine.

05Lite i Pro: shannon-3.1 i shannon-3.1-pro

Dvije se razine razlikuju po tome koliki dio petlje zaključivanja izvode, i to je jedina razlika koja je bitna pri odabiru između njih.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Zaključivanje	Jedan prolazak	Cijela petlja + prikupljanje znanja
Pregled vlastitog nacrta	Ne	Da
Kontekstni prozor	196,608	196,608
Streaming	Puna brzina, bez ograničenja	Puna brzina, bez ograničenja
Vid i dokumenti	Da	Da
Alat za generiranje slika	Da	Da
Najbolje za	Većinu posla, velik obujam	Teška pitanja, kad prvi nacrt nije dovoljan

Koristite Lite kao zadani izbor. Jedan prolazak dobrog modela zaključivanja rješava veliku većinu stvarnih zahtjeva, a na 3.1 je dovoljno brz da petlju više ne osjećate kao čekanje. Posegnite za Prom kad je pitanje takvo da je prvi odgovor obično pogrešan na poučan način: arhitektonski kompromisi, protivnička analiza, sve ono kod čega biste htjeli da sposoban kolega prespava noć. Prov korak pregleda vlastitog nacrta nije ukras — to je model koji pronalazi vlastite greške prije nego što to morate vi.

06Dobitak inteligencije od 32% i kako ga čitati

Vlastito mjerenje Shannon Laba stavlja Shannon 3.1 na 32% veću inteligenciju od modela Shannon 3.0. Želimo biti jasni o tome što to jest, a što nije.

To je naša brojka, iz našeg internog skupa mjerenja, izmjerena na zadacima koje smatramo reprezentativnima za ono što ljudi doista donose ovakvim modelima. Nije riječ o mjerenju treće strane i ne gradimo ljestvicu oko jednog internog agregata niti objavljujemo raščlambu po pojedinom testu — raščlamba implicira razinu vanjske usporedivosti kakvu interni skup nema.

Ono što ćemo reći jest odakle dobitak dolazi, jer taj dio nije misterij. Veći kontekstni prozor znači da se manje materijala mora odbaciti prije nego što model o njemu razmišlja, a velik dio prividne neinteligencije u dugim sesijama zapravo je puka amnezija. Stog za posluživanje koji kontroliramo znači da model radi s konfiguracijom kakvu smo namjeravali, a ne sa zadanim postavkama poslužitelja. A petlja zaključivanja — nepromijenjena u dizajnu — sada ima prostora da se doista odvije unutar prozora umjesto da bude stiješnjena uz strop od 32K koji je dijelila s vašim ulazom.

07Vid, dokumenti i generiranje slika

Shannon 3.1 čita slike i dokumente. Snimke zaslona, dijagrami, fotografije, skenirane stranice, PDF-ovi i tekstualni dokumenti mogu ući u razgovor i biti obrađeni uz sve ostalo. U kombinaciji s prozorom od 196K, to je ono što radne tokove nad cijelim dokumentima čini praktičnima: dugačak izvještaj i njegovi grafikoni u jednom potezu, bez unaprijed donesene odluke koje stranice model smije vidjeti.

Generiranje i uređivanje slika dostupni su u chatu kao alat. Zatražite sliku i model poziva alat izravno, u istom razgovoru, s kontekstom svega o čemu se dotad razgovaralo. Uređivanje radi na isti način — dodajte sliku i opišite promjenu. Nema zasebnog načina rada u koji se prebacujete ni zasebnog sučelja koje treba naučiti.

08Pozivanje modela Shannon 3.1 iz API-ja

Shannon 3.1 dostupan je na sva tri API dijalekta, sa streamingom na svakom. Isti modeli, tri oblika zahtjeva — odaberite onaj koji odgovara SDK-u koji već imate.

Endpoint	Oblik	Streaming
/v1/chat/completions	Kompatibilan s OpenAI	Da
/v1/messages	Kompatibilan s Anthropic	Da
/v1/responses	Responses	Da

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Zamijenite "shannon-3.1" s "shannon-3.1-pro" da biste pokrenuli cijelu petlju zaključivanja. Ako već pozivate shannon-3, migracija je samo identifikator modela i ništa više: oblici zahtjeva i odgovora su nepromijenjeni, a postojeći streaming klijenti nastavljaju raditi. Jedina razlika u ponašanju koju treba očekivati je skokovitiji stream opisan u odjeljku 02 — isti tokeni, isti redoslijed, stižu ranije i u manje ujednačenim blokovima.

Potpun pregled parametara, autentikacija, semantika grešaka i interaktivno igralište nalaze se u API dokumentaciji. Ostale kartice modela i tehnički tekstovi su u Shannon istraživanjima.

09I dalje bez cenzure, i u tome nepromijenjen

Shannon 3.1 nema sloj odbijanja ni filtriranje sadržaja na izlazu. To je isti stav kao i u ostatku linije Shannon i nije se promijenio prelaskom na naš vlastiti klaster — ako išta, kontrola nad stogom za posluživanje olakšava jamčenje toga, jer između modela i vas nema posrednog poslužitelja s vlastitom politikom.

Vrijedi to reći izravno jer je to očito pitanje kod izdanja koje je promijenilo cijeli izlazni put: uklanjanje sloja usporavanja nije značilo umetanje sloja moderacije na njegovo mjesto. Ništa ne pregledava, ne prepisuje niti kontrolira stream. Ono što model proizvede, to i stiže. Shannon 3.1 je, koliko nam je poznato, najbrži dostupan AI model bez cenzure s ovako velikim kontekstnim prozorom — a ta su dva svojstva povezana, jer oba proizlaze iz vođenja vlastite infrastrukture umjesto iznajmljivanja kapaciteta oblikovanog usklađenošću s tuđim pravilima.

Bez cenzure nije isto što i bez odgovornosti. Korištenje je uređeno našim Pravilima odgovornog korištenja, a obveza koja dolazi uz model koji će se uhvatiti u koštac s teškim materijalom jest da mu i vi pristupite odgovorno.

10Provedite usporedbu sami

Svaka tvrdnja iz ovog teksta provjerljiva je u otprilike dvije minute i draže nam je da provjerite nego da nam vjerujete.

1. Odaberite upit iz posla koji stvarno radite. Dulji je bolji — opterećuje i prozor i streaming.
2. Pokrenite ga na shannon-3. Zabilježite koliko treba do prvog tokena i koliko do dovršetka odgovora.
3. Pokrenite identičan upit na shannon-3.1. Zabilježite ista dva broja.
4. Zatim pročitajte oba odgovora, zanemarite sat i odlučite koji biste od njih htjeli.

Razlika u brzini bit će trenutačna i očita. Razlika u kvaliteti ona je s kojom se vrijedi zadržati — najjasnije se vidi na dugim ulazima, gdje je 3.0 tiho radio s manje vašeg materijala nego što ste mislili.

11Često postavljana pitanja

---

Brojke o performansama i inteligenciji u ovom članku vlastita su mjerenja Shannon Laba iz interne evaluacije, rujan 2026., i navedene su kao proizvodne brojke, a ne kao rezultati mjerenja treće strane. Kontekstni prozor, identifikatori modela i dostupnost API-ja su specifikacije proizvoda. Shannon AI vodi Shannon Lab LLC, Novi Meksiko, SAD. Povezano štivo: Shannon 3 · Indeks Shannon istraživanja · API dokumentacija.