Shannon 3.1

Većina izdanja modela traži od vas da tvrdnju o sposobnostima primite na veru i da sačekate da tabela sa merenjima reši spor. Ovo je lakše proveriti: otvorite dva taba, ubacite isti upit u shannon-3 i shannon-3.1 i gledajte. Razlika u brzini kojom odgovor stiže nije suptilna i nije trik u prikazu. Shannon 3.0 je bio namerno prigušen. Shannon 3.1 nije.

01Šta se zaista promenilo u Shannon 3.1

Shannon 3.0 je uveo ono što definiše ovu porodicu: iterativnu petlju rasuđivanja. Model ne odgovara na prvu pomisao. On misli, skicira, proverava sopstvenu skicu u odnosu na pitanje i poboljšava je. Lite izvršava jedan prolaz te petlje; Pro izvršava punu petlju, uključujući korak žetve znanja pre skiciranja. Taj dizajn je detaljno opisan u istraživačkom članku o Shannon 3, i ništa od toga se nije promenilo u 3.1.

Promenila se mašinerija ispod. Shannon 3.0 se servirao preko inferencijskog domaćina treće strane — razuman način da se model lansira i ograničavajući način da se model vodi. Nasleđujete tuđu konfiguraciju serviranja, tuđi red čekanja, tuđi plafon konteksta i tuđu predstavu o tome koliko tokena u sekundi smete da dobijete. Shannon 3.1 radi na našem sopstvenom GPU klasteru, na steku za serviranje koji mi konfigurišemo, i svaki istaknuti broj u ovom članku posledica je te jedne odluke.

	Shannon 3.0	Shannon 3.1
Gde se izvršava	Domaćin treće strane	Naš sopstveni GPU klaster
Kontekstni prozor	32,768	196,608
Striming izlaza	Tempiran / ograničen	Puna brzina motora
Težine	Podrazumevano kod domaćina	4-bitni NVFP4
Dekodiranje	Standardno	Spekulativno
Petlja rasuđivanja	Misli → skiciraj → proveri → poboljšaj	Nepromenjena
Sloj odbijanja	Nema	Nema
Identifikatori modela	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Zašto Shannon 3.1 deluje 10-15x brže

Broj o brzini je ono što ljudi prvo proveravaju, pa vredi biti precizan odakle dolazi. Postoje dva nezavisna doprinosa, a veći je onaj manje efektan.

Uklonili smo brzinsku branu

Izlaz Shannon 3.0 prolazio je kroz sloj za tempiranje. Tokeni bi napustili motor, bili zadržani i puštani ka vašoj vezi po rasporedu. To nije bila nezgoda ni greška. Kada je deljeni inferencijski domaćin usko grlo, tempiranje izlaza izravnava opterećenje, sprečava da duga generacija monopolizuje slot i čini da tok stiže u predvidivom, čitljivom ritmu umesto u naletima. To je odbranjiv inženjerski izbor, i koštao je svakog korisnika stvarnog vremena na svakom pojedinačnom odgovoru.

Shannon 3.1 nema brzinsku branu ni tempirano otkrivanje. Tokeni se upisuju u vaš tok onako kako ih motor proizvodi. Ako motor generiše brzo, videćete da generiše brzo. Nema bafera za izravnavanje između modela i vašeg terminala, vašeg prozora za ćaskanje ili vašeg SSE čitača. Za dug odgovor — analizu od 2.000 tokena, fajl generisanog koda — to samo po sebi čini većinu poboljšanja koje ćete primetiti.

Pošteno je reći i posledicu: tok je sada naletni. Spekulativno dekodiranje (ispod) emituje prihvaćene tokene u kratkim nizovima, pa tekst može stizati u vidljivim komadima umesto u metronomskom ritmu reč po reč. Ako ste gradili korisnički interfejs oko izravnatog ritma verzije 3.0, i dalje će raditi — redosled i sadržaj tokena su nepromenjeni — ali ćete možda želeti da ponovo uvedete sopstveno ublažavanje na strani klijenta ako vam se više dopadao efekat pisaće mašine. Mislimo da bi većina ljudi radije vratila te sekunde.

I sam motor je postao brži

Uklanjanje brane pomaže samo ako je ono iza brane brzo. Drugi doprinos je stek za serviranje opisan u odeljku 03: 4-bitne NVFP4 težine i spekulativno dekodiranje na akceleratorima aktuelne generacije, nativnim za FP4, u našem sopstvenom klasteru. Zajedno oni podižu plafon koji uklanjanje brane otkriva.

Relativno kašnjenje odgovora od početka do kraja, interna evaluacija Shannon Lab-a, septembar 2026. Raspon odražava dužinu upita i nivo: kratki upiti na Lite nivou su bliži donjoj granici, duge generacije na Pro nivou bliže gornjoj.

03Šta spekulativno dekodiranje zapravo radi

„Spekulativno dekodiranje” se koristi kao marketinška reč, pa evo mehanizma, jednostavno.

Jezički model normalno proizvodi jedan token po prolazu unapred. Tim prolazom ne dominira aritmetika nego propusnost memorije — težine se moraju pročitati da bi se bilo šta izračunalo, a čitanje traje daleko duže od same matematike. GPU najveći deo vremena provede čekajući memoriju dok su mu računske jedinice besposlene. Generisati 500 tokena znači platiti to kašnjenje 500 puta, redom.

Spekulativno dekodiranje napada taj sekvencijalni deo. Mali, jeftin model za skiciranje predlaže kratak niz verovatnih sledećih tokena — recimo četiri ili osam. Glavni model zatim ceo taj niz procenjuje u jednom paketnom prolazu unapred, koji košta jedva više nego procena jednog tokena, jer se skup deo (čitanje težina) svakako dešava jednom. Svaki predloženi token sa kojim se glavni model složi biva prihvaćen i odmah emitovan. Kod prvog neslaganja niz se skraćuje i uobičajeno dekodiranje nastavlja odatle.

Posao obavlja stopa prihvatanja. Na predvidivom tekstu — šablonima, strukturi koda, veznom tkivu argumenta — model za skiciranje dobro pogađa i dugi nizovi padaju odjednom. Na zaista teškim tokenima prihvatanje opada i sistem se elegantno vraća na obično dekodiranje token po token. Ta asimetrija je upravo ona koju želite: ubrzava lake delove, a teške ne dira.

Zašto 4-bitne težine pripadaju istom pasusu

Pošto je usko grlo propusnost memorije, smanjivanje težina je direktna poluga za brzinu, a ne samo za memorijski otisak. NVFP4 je 4-bitni format sa pokretnim zarezom sa finozrnastim skaliranjem po bloku, što mu omogućava da zadrži tačnost tamo gde su je starije 4-bitne celobrojne kvantizacione šeme gubile. Otprilike četvrtina bajtova za čitanje po prolazu unapred znači srazmerno manje vremena provedenog u čekanju na memoriju, a ostavlja i mnogo više prostora za KV keš dugog konteksta koji prozor od 196K zahteva.

To dvoje se množi, a ne samo sabira: manje bajtova po prolazu i manje prolaza po emitovanom tokenu. To je ono što neograničeni striming punom brzinom čini priuštivim za serviranje umesto troškom koji bismo morali da nadoknađujemo tempiranjem — a upravo je to sloj za tempiranje radio na 3.0.

04196.608 tokena: šta otključava 6x veći prozor

Shannon 3.0 je imao prozor od 32.768 tokena: radnu sesiju, ne dokument. Otprilike 70-80 stranica proze, minus ono što petlja rasuđivanja potroši na sopstveno mišljenje, minus vaš sistemski upit, minus dosadašnji razgovor. Pravi posao je stalno udarao u taj zid, a zaobilazna rešenja — deljenje na delove, sažimanje, pretraga po sopstvenom materijalu — sva degradiraju upravo ono što ste pokušavali da sačuvate. 196.608 tokena je druga kategorija problema.

Konkretno, to je reda veličine 400-500 stranica teksta, ili kodna baza srednje veličine sa svojim testovima i README fajlom, ili godina beleški sa sastanaka jednog projekta, ili ceo skup ugovora sa svim prilozima — sve u jednom razgovoru, dostupno kroz jedno pitanje, bez ijednog sloja za deljenje na delove između vas i materijala.

• Pitanja o celom repozitorijumu. Učitajte kod i pitajte zašto bag stiže u produkciju, umesto da nalepite tri fajla na koje ste već sumnjali. Model može pronaći fajl koji se vama nije učinio bitnim.
• Analiza dugih dokumenata bez pretrage. Pretraga je pretfilter sa gubicima koji odlučuje šta model uopšte sme da vidi. Na 196K često je možete preskočiti i pustiti model da pročita sve, čime nestaje cela klasa otkaza u kojoj pravi pasus nikada nije ni pronađen.
• Razgovori koji ostaju koherentni. Duga radna sesija više ne odbacuje tiho sopstveni početak. Ograničenja koja ste postavili u trećoj poruci važe i u osamdesetoj.
• Prostor za petlju rasuđivanja. Sopstveno mišljenje, skiciranje i provera petlje troše kontekst. Na 3.0 su ti koraci konkurisali vašem materijalu za oskudan budžet. Na 3.1 se udobno uklapaju, i to je delom razlog zašto su dobitak u kvalitetu i povećanje prozora stigli zajedno.
• Veliki mešoviti ulazi. Slike, izvučen tekst iz dokumenata i kod u jednom potezu, bez trijaže o tome šta sebi možete priuštiti da uključite.

Jedna poštena ograda koja važi za svaki model sa dugim kontekstom, pa i za naš: veliki prozor je kapacitet, a ne garancija ravnomerne pažnje kroz ceo taj prozor. Struktura i dalje pomaže. Postavljanje pitanja pri kraju, označavanje dokumenata i objašnjavanje modelu šta da traži merljivo poboljšavaju rezultate na 150K tokena na način na koji to na 5K jednostavno ne čine.

05Lite i Pro: shannon-3.1 i shannon-3.1-pro

Dva nivoa se razlikuju po tome koliko petlje rasuđivanja izvršavaju, i to je jedina razlika koja je bitna pri izboru između njih.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Rasuđivanje	Jedan prolaz	Puna petlja + žetva znanja
Samoprovera	Ne	Da
Kontekstni prozor	196,608	196,608
Striming	Puna brzina, bez brane	Puna brzina, bez brane
Vid i dokumenti	Da	Da
Alat za generisanje slika	Da	Da
Najbolje za	Većinu posla, veliki obim	Teška pitanja, prva skica nije dovoljna

Podrazumevano koristite Lite. Jedan prolaz dobrog modela za rasuđivanje rešava veliku većinu stvarnih zahteva, a na 3.1 je dovoljno brz da petlju više ne osećate kao čekanje. Posegnite za Pro kada je pitanje takvo da je prvi odgovor obično pogrešan na poučan način: arhitektonski kompromisi, protivnička analiza, sve ono gde biste želeli da sposoban kolega prespava odluku. Pro korak samoprovere nije ukras — to je model koji nalazi sopstvene greške pre nego što to morate vi.

06Dobitak od 32% u inteligenciji i kako ga čitati

Sopstvena evaluacija Shannon Lab-a stavlja Shannon 3.1 na 32% poboljšanje inteligencije u odnosu na Shannon 3.0. Želimo da bude jasno šta to jeste, a šta nije.

To je naša cifra, iz našeg internog skupa evaluacija, merena na zadacima koje smatramo reprezentativnim za ono što ljudi zaista donose ovakvim modelima. Nije reč o merenju treće strane i ne pravimo tabelu rang-liste oko jednog internog agregata niti objavljujemo razradu po pojedinačnim testovima — takva razrada implicira nivo spoljne uporedivosti koji interni skup nema.

Ono što ćemo reći jeste odakle dobitak dolazi, jer taj deo nije misteriozan. Veći kontekstni prozor znači da se manje materijala mora odbaciti pre nego što model o njemu rasuđuje, a velik deo prividne neinteligencije u dugim sesijama zapravo je puka amnezija. Stek za serviranje koji kontrolišemo znači da model radi sa konfiguracijom koju smo nameravali, a ne sa podrazumevanim postavkama domaćina. A petlja rasuđivanja — nepromenjena po dizajnu — sada ima prostora da zaista radi unutar prozora, umesto da bude stisnuta uz plafon od 32K koji je delila sa vašim ulazom.

07Vid, dokumenti i generisanje slika

Shannon 3.1 čita slike i dokumente. Snimci ekrana, dijagrami, fotografije, skenirane stranice, PDF fajlovi i tekstualni dokumenti mogu ući u razgovor i biti predmet rasuđivanja zajedno sa svim ostalim. U kombinaciji sa prozorom od 196K, to je ono što radne tokove nad celim dokumentima čini praktičnim: dug izveštaj i njegovi grafikoni u jednom potezu, bez unapred donošenja odluke koje stranice model sme da vidi.

Generisanje i uređivanje slika dostupni su u ćaskanju kao alat. Zatražite sliku i model poziva alat u toku razgovora, u istom razgovoru, sa kontekstom svega o čemu je do tada bilo reči. Uređivanje radi na isti način — dajte mu sliku i opišite izmenu. Nema posebnog režima u koji treba preći ni posebnog interfejsa koji treba naučiti.

08Pozivanje Shannon 3.1 iz API-ja

Shannon 3.1 je dostupan na sva tri API dijalekta, sa strimingom na svakom. Isti modeli, tri oblika zahteva — izaberite onaj koji odgovara SDK-u koji već imate.

Krajnja tačka	Oblik	Striming
/v1/chat/completions	Kompatibilan sa OpenAI	Da
/v1/messages	Kompatibilan sa Anthropic	Da
/v1/responses	Responses	Da

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Zamenite "shannon-3.1" sa "shannon-3.1-pro" da biste pokrenuli punu petlju rasuđivanja. Ako već pozivate shannon-3, migracija je samo identifikator modela i ništa više: oblici zahteva i odgovora su nepromenjeni, a postojeći striming klijenti nastavljaju da rade. Jedina razlika u ponašanju koju treba očekivati je naletniji tok opisan u odeljku 02 — isti tokeni, isti redosled, stižu ranije i u manje ravnomernim komadima.

Potpuna referenca parametara, autentifikacija, semantika grešaka i interaktivno okruženje za isprobavanje nalaze se u API dokumentaciji. Ostale kartice modela i tehnički tekstovi su u Shannon istraživanjima.

09I dalje bez cenzure, i nepromenjen u tom pogledu

Shannon 3.1 nema sloj odbijanja ni filtriranje sadržaja na izlazu. To je isti stav kao i kod ostatka Shannon linije i nije se promenio prelaskom na naš sopstveni klaster — ako ništa drugo, kontrola nad stekom za serviranje olakšava garantovanje, jer nema posrednog domaćina sa sopstvenom politikom između modela i vas.

Vredi to reći otvoreno jer je to očigledna stvar koju čovek pomisli kod izdanja koje je promenilo ceo put izlaza: uklanjanje sloja za tempiranje nije značilo da je na njegovo mesto ubačen sloj za moderaciju. Ništa ne pregleda, ne prepisuje niti kontroliše tok. Ono što model proizvede jeste ono što stiže. Shannon 3.1 je, koliko je nama poznato, najbrži AI model bez cenzure sa kontekstnim prozorom ove veličine — a ta dva svojstva su povezana, jer oba potiču iz toga što vodimo sopstvenu infrastrukturu umesto da od nekog drugog iznajmljujemo kapacitet skrojen po pravilima usklađenosti.

Bez cenzure nije isto što i bez odgovornosti. Korišćenje uređuje naša Politika odgovorne upotrebe, a obaveza koja dolazi uz model koji će se uhvatiti u koštac sa teškim materijalom jeste da mu i vi pristupite odgovorno.

10Pokrenite poređenje sami

Svaka tvrdnja odavde proverljiva je za otprilike dva minuta, i radije bismo da proverite nego da nam verujete.

1. Izaberite upit iz posla koji zaista radite. Duži je bolji — testira i prozor i striming.
2. Pokrenite ga na shannon-3. Zabeležite koliko traje do prvog tokena i koliko do završetka odgovora.
3. Pokrenite identičan upit na shannon-3.1. Zabeležite ista dva broja.
4. Zatim pročitajte oba odgovora, zanemarite sat i odlučite koji biste vi želeli.

Razlika u brzini biće trenutna i očigledna. Razlika u kvalitetu je ona uz koju vredi sesti — najjasnije se vidi na dugim ulazima, gde je 3.0 tiho radio sa manje vašeg materijala nego što ste mislili.

11Često postavljana pitanja

---

Brojke o performansama i inteligenciji u ovom članku predstavljaju sopstvena merenja Shannon Lab-a iz interne evaluacije, septembar 2026, i navedene su kao proizvodne cifre, a ne kao rezultati merenja treće strane. Kontekstni prozor, identifikatori modela i dostupnost API-ja su specifikacije proizvoda. Shannon AI vodi Shannon Lab LLC, Nju Meksiko, SAD. Povezano štivo: Shannon 3 · Indeks Shannon istraživanja · API dokumentacija.