Shannon 3.1

Većina izdanja modela traži od vas da tvrdnju o sposobnosti prihvatite na vjeru i sačekate da tabela benchmarka riješi spor. Ovo je lakše provjeriti: otvorite dva taba, ubacite isti prompt u shannon-3 i shannon-3.1 i gledajte. Razlika u tome koliko brzo odgovor stiže nije suptilna i nije trik u prikazu. Shannon 3.0 je bio namjerno prigušen. Shannon 3.1 nije.

01Šta se zapravo promijenilo u Shannonu 3.1

Shannon 3.0 je uveo ono što definiše ovu porodicu: iterativnu petlju zaključivanja. Model ne odgovara na prvu pomisao. Razmišlja, piše nacrt, pregleda vlastiti nacrt u odnosu na pitanje i poboljšava ga. Lite izvodi jedan prolaz te petlje; Pro izvodi punu petlju, uključujući korak prikupljanja znanja prije nacrta. Taj dizajn je detaljno opisan u istraživačkom članku o Shannonu 3, i ništa od toga nije promijenjeno u 3.1.

Promijenila se mašinerija ispod. Shannon 3.0 se posluživao preko vanjskog provajdera inferencije — razuman način da se model lansira i ograničavajući način da se model vodi. Nasljeđujete tuđu konfiguraciju posluživanja, tuđi red čekanja, tuđi plafon konteksta i tuđu predstavu o tome koliko tokena po sekundi smijete dobiti. Shannon 3.1 radi na našem vlastitom GPU klasteru, na stacku za posluživanje koji sami konfigurišemo, i svaki istaknuti broj u ovom članku posljedica je te jedne odluke.

	Shannon 3.0	Shannon 3.1
Gdje se izvodi	Vanjski provajder	Naš vlastiti GPU klaster
Kontekstni prozor	32,768	196,608
Streaming izlaza	Tempiran / ograničen	Puna brzina enginea
Težine	Zadano kod provajdera	4-bitni NVFP4
Dekodiranje	Standardno	Spekulativno
Petlja zaključivanja	Razmisli → nacrt → pregled → poboljšanje	Nepromijenjena
Sloj odbijanja	Nema ga	Nema ga
ID-jevi modela	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Zašto se Shannon 3.1 čini 10-15x bržim

Broj koji se tiče brzine ljudi prvo provjeravaju, pa vrijedi biti precizan o tome odakle dolazi. Postoje dva nezavisna doprinosa, a veći od njih je onaj manje efektan.

Uklonili smo ograničavač brzine

Izlaz Shannona 3.0 prolazio je kroz sloj za tempiranje. Tokeni bi napustili engine, bili zadržani i puštani prema vašoj vezi po rasporedu. To nije bila nesreća ni greška. Kada je dijeljeni provajder inferencije usko grlo, tempiranje izlaza izravnava opterećenje, sprečava da duga generacija monopolizuje slot i čini da tok stiže u predvidljivom, čitljivom ritmu umjesto u naletima. To je branjiv inženjerski izbor, i koštao je svakog korisnika stvarnog vremena na svakom pojedinom odgovoru.

Shannon 3.1 nema ograničavač brzine ni tempiranje prikaza. Tokeni se upisuju u vaš tok onako kako ih engine proizvodi. Ako engine generiše brzo, vidite da generiše brzo. Nema bafera za izravnavanje između modela i vašeg terminala, vašeg prozora za chat ili vašeg SSE čitača. Za dug odgovor — analizu od 2,000 tokena, fajl generisanog koda — samo to čini većinu poboljšanja koje ćete primijetiti.

Poštena posljedica: tok je sada naletni. Spekulativno dekodiranje (niže) emituje prihvaćene tokene u kratkim nizovima, pa tekst može stizati u vidljivim blokovima umjesto u metronomskom ritmu riječ-po-riječ. Ako ste gradili sučelje oko glatkog ritma verzije 3.0, i dalje će raditi — redoslijed i sadržaj tokena nisu dirnuti — ali ćete možda htjeti vratiti vlastito ublažavanje na klijentskoj strani ako vam se više sviđao izgled pisaće mašine. Mislimo da bi većina ljudi radije dobila te sekunde nazad.

I sam engine je postao brži

Uklanjanje ograničavača pomaže samo ako je ono iza njega brzo. Drugi doprinos je stack za posluživanje opisan u odjeljku 03: 4-bitne NVFP4 težine i spekulativno dekodiranje na akceleratorima aktuelne generacije s nativnim FP4, u našem vlastitom klasteru. Zajedno podižu plafon koji uklanjanje ograničavača otkriva.

Relativna latencija odgovora od početka do kraja, interna evaluacija Shannon Laba, septembar 2026. Raspon odražava dužinu prompta i nivo: kratki promptovi na Liteu su bliže donjoj granici, duge generacije na Prou bliže gornjoj.

03Šta spekulativno dekodiranje zapravo radi

„Spekulativno dekodiranje” se koristi kao marketinška riječ, pa evo mehanizma, otvoreno.

Jezički model normalno proizvodi jedan token po prolazu unaprijed. Tim prolazom ne dominira aritmetika nego propusnost memorije — težine se moraju pročitati da bi se bilo šta izračunalo, a njihovo čitanje traje daleko duže od same matematike. GPU najveći dio vremena provodi čekajući na memoriju dok su mu računske jedinice besposlene. Generisanje 500 tokena znači plaćati tu latenciju 500 puta, jednu za drugom.

Spekulativno dekodiranje napada upravo taj sekvencijalni dio. Mali, jeftini model-nacrt predlaže kratak niz vjerovatnih sljedećih tokena — recimo četiri ili osam. Glavni model zatim ocjenjuje cijeli taj niz u jednom paketnom prolazu unaprijed, što košta jedva više nego što bi koštalo ocjenjivanje jednog tokena, jer se skup dio (čitanje težina) svejedno dešava jednom. Svaki predloženi token s kojim se glavni model složi biva prihvaćen i odmah emitiran. Kod prvog neslaganja niz se skraćuje i odatle se nastavlja uobičajeno dekodiranje.

Stopa prihvatanja obavlja posao. Na predvidljivom tekstu — šablonskom kodu, strukturi koda, veznom tkivu argumenta — model-nacrt dobro pogađa i dugi nizovi stižu odjednom. Na stvarno teškim tokenima prihvatanje pada i sistem se elegantno vraća na obično dekodiranje token po token. Ta asimetrija je upravo ono što želite: ubrzava lake dijelove, a teške ne dira.

Zašto 4-bitne težine pripadaju istom pasusu

Zato što je usko grlo propusnost memorije, smanjivanje težina je direktna poluga za brzinu, a ne samo za memorijski otisak. NVFP4 je 4-bitni format s pomičnim zarezom sa finozrnatim skaliranjem po bloku, što mu omogućava da zadrži tačnost tamo gdje su je starije 4-bitne cjelobrojne sheme kvantizacije gubile. Otprilike četvrtina bajtova koje treba pročitati po prolazu unaprijed znači srazmjerno manje vremena provedenog u čekanju na memoriju, i ostavlja daleko više prostora za KV keš dugog konteksta koji prozor od 196K zahtijeva.

To dvoje se množi, a ne samo sabira: manje bajtova po prolazu i manje prolaza po emitovanom tokenu. Upravo to čini neograničeni streaming punom brzinom priuštivim za posluživanje, umjesto troškom koji bismo morali vraćati kroz tempiranje — a to je tačno ono što je sloj za tempiranje radio na 3.0.

04196,608 tokena: šta otključava 6x veći prozor

Shannon 3.0 je imao prozor od 32,768 tokena: radnu sesiju, ne dokument. Otprilike 70-80 stranica proze, minus ono što petlja zaključivanja potroši na vlastito razmišljanje, minus vaš sistemski prompt, minus dosadašnji razgovor. Stvarni posao je stalno udarao u taj zid, a zaobilazna rješenja — dijeljenje na segmente, sažimanje, dohvat nad vlastitim materijalom — sva degradiraju upravo ono što ste pokušavali sačuvati. 196,608 tokena je problem druge kategorije.

Konkretno, to je reda veličine 400-500 stranica teksta, ili kodna baza srednje veličine sa svojim testovima i README fajlom, ili godina bilješki sa sastanaka jednog projekta, ili kompletan set ugovora sa svim prilozima — sve u jednom razgovoru, dostupno kroz jedno pitanje, bez ijednog sloja za dijeljenje na segmente između vas i materijala.

• Pitanja o cijelom repozitoriju. Učitajte kod i pitajte zašto bug stiže u produkciju, umjesto da zalijepite tri fajla koja ste ionako sumnjičili. Model može naći fajl koji se vama nije učinio bitnim.
• Analiza dugih dokumenata bez dohvata. Dohvat je gubitni predfilter koji odlučuje šta model smije vidjeti. Na 196K ga često možete preskočiti i pustiti model da pročita sve, čime uklanjate čitavu klasu grešaka u kojima pravi pasus nikada nije ni dohvaćen.
• Razgovori koji ostaju koherentni. Duga radna sesija više ne odbacuje tiho vlastiti početak. Ograničenja koja ste postavili u trećoj poruci vrijede i u osamdesetoj.
• Prostor za petlju zaključivanja. Vlastito razmišljanje, pisanje nacrta i pregled unutar petlje troše kontekst. Na 3.0 su ti koraci nadmetali s vašim materijalom za oskudan budžet. Na 3.1 udobno stanu, što je dio razloga zašto su dobitak u kvalitetu i uvećanje prozora stigli zajedno.
• Veliki mješoviti ulazi. Slike, izvučeni tekst dokumenata i kod u jednom potezu, bez trijaže o tome šta si od toga možete priuštiti da uključite.

Jedna poštena ograda koja važi za svaki model dugog konteksta, pa i za naš: veliki prozor je kapacitet, a ne garancija ujednačene pažnje kroz cijeli prozor. Struktura i dalje pomaže. Postavljanje pitanja pri kraju, označavanje dokumenata i objašnjavanje modelu šta da traži mjerljivo poboljšavaju rezultate na 150K tokena na način na koji to jednostavno ne čine na 5K.

05Lite i Pro: shannon-3.1 i shannon-3.1-pro

Dva nivoa se razlikuju po tome koliko petlje zaključivanja izvode, i to je jedina razlika koja je bitna za izbor između njih.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Zaključivanje	Jedan prolaz	Puna petlja + prikupljanje znanja
Samopregled	Ne	Da
Kontekstni prozor	196,608	196,608
Streaming	Puna brzina, bez ograničenja	Puna brzina, bez ograničenja
Vid i dokumenti	Da	Da
Alat za generisanje slika	Da	Da
Najbolje za	Većinu posla, veliki obim	Teška pitanja, kad prvi nacrt nije dovoljan

Koristite Lite kao zadani izbor. Jedan prolaz dobrog modela za zaključivanje pokriva veliku većinu stvarnih zahtjeva, a na 3.1 je dovoljno brz da petlju više ne osjećate kao čekanje. Posegnite za Proom kada je pitanje takvo da je prvi odgovor obično pogrešan na poučan način: arhitektonski kompromisi, protivnička analiza, sve ono gdje biste željeli da sposoban kolega prespava odluku. Proov korak samopregleda nije ukras — to je model koji pronalazi vlastite greške prije nego što to morate vi.

06Dobitak od 32% u inteligenciji i kako ga čitati

Vlastita evaluacija Shannon Laba stavlja Shannon 3.1 na 32% poboljšanje inteligencije u odnosu na Shannon 3.0. Želimo biti jasni o tome šta to jeste, a šta nije.

To je naša brojka, iz našeg internog evaluacijskog seta, mjerena na zadacima koje smatramo reprezentativnim za ono što ljudi zaista donose ovim modelima. Nije riječ o benchmarku treće strane, i ne gradimo tabelu ljestvice oko jednog internog zbirnog broja niti objavljujemo razradu po benchmarcima — razrada bi implicirala nivo vanjske uporedivosti koji interni set nema.

Ono što ćemo reći jeste odakle dobitak dolazi, jer taj dio nije tajanstven. Veći kontekstni prozor znači da se manje materijala mora odbaciti prije nego što model zaključuje nad njim, a dobar dio prividne neinteligencije u dugim sesijama zapravo je puka amnezija. Stack za posluživanje koji kontrolišemo znači da model radi s konfiguracijom koju smo namjeravali, a ne sa zadanim postavkama provajdera. A petlja zaključivanja — nepromijenjena po dizajnu — sada ima prostora da se stvarno odvija unutar prozora, umjesto da bude stiješnjena uz plafon od 32K koji je dijelila s vašim ulazom.

07Vid, dokumenti i generisanje slika

Shannon 3.1 čita slike i dokumente. Snimci ekrana, dijagrami, fotografije, skenirane stranice, PDF-ovi i tekstualni dokumenti mogu ući u razgovor i biti razmatrani zajedno sa svim ostalim. U kombinaciji sa prozorom od 196K, upravo to čini radne tokove nad cijelim dokumentima praktičnim: dug izvještaj i njegovi grafikoni u jednom potezu, bez unaprijed donesene odluke koje stranice model smije vidjeti.

Generisanje i uređivanje slika dostupni su u chatu kao alat. Zatražite sliku i model poziva alat unutar razgovora, sa kontekstom svega o čemu se dotad razgovaralo. Uređivanje radi na isti način — dajte mu sliku i opišite izmjenu. Nema zasebnog režima u koji treba prelaziti niti zasebnog sučelja koje treba učiti.

08Pozivanje Shannona 3.1 iz API-ja

Shannon 3.1 je dostupan na sva tri API dijalekta, sa streamingom na svakom. Isti modeli, tri oblika zahtjeva — izaberite onaj koji odgovara SDK-u koji već imate.

Endpoint	Oblik	Streaming
/v1/chat/completions	OpenAI kompatibilan	Da
/v1/messages	Anthropic kompatibilan	Da
/v1/responses	Responses	Da

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Zamijenite "shannon-3.1" sa "shannon-3.1-pro" da biste pokrenuli punu petlju zaključivanja. Ako već pozivate shannon-3, migracija je samo ID modela i ništa više: oblici zahtjeva i odgovora su nepromijenjeni, a postojeći streaming klijenti nastavljaju raditi. Jedina razlika u ponašanju koju treba očekivati jeste naletniji tok opisan u odjeljku 02 — isti tokeni, isti redoslijed, stižu ranije i u manje ujednačenim blokovima.

Potpuna referenca parametara, autentifikacija, semantika grešaka i interaktivni playground nalaze se u API dokumentaciji. Ostale kartice modela i tehnički tekstovi su u Shannon istraživanjima.

09I dalje necenzuriran, i u tome nepromijenjen

Shannon 3.1 nema sloj odbijanja ni filtriranje sadržaja na izlazu. To je isti stav kao i kod ostatka Shannon linije i nije se promijenio prelaskom na naš vlastiti klaster — ako išta, kontrola nad stackom za posluživanje olakšava garantovanje toga, jer nema posrednika s vlastitom politikom koji sjedi između modela i vas.

Vrijedi reći otvoreno, jer je to očito pitanje kod izdanja koje je promijenilo cijelu putanju izlaza: uklanjanje sloja za tempiranje nije značilo umetanje sloja moderacije na njegovo mjesto. Ništa ne pregleda, ne prepisuje niti propušta tok kroz filter. Ono što model proizvede jeste ono što stigne. Shannon 3.1 je, koliko nam je poznato, najbrži necenzurirani AI model dostupan s kontekstnim prozorom ove veličine — a ta dva svojstva su povezana, jer oba proizlaze iz vođenja vlastite infrastrukture umjesto iznajmljivanja kapaciteta oblikovanog tuđim pravilima usklađenosti.

Necenzuriran nije isto što i neodgovoran. Korištenje je uređeno našom Politikom odgovornog korištenja, a obaveza koja dolazi uz model koji će se uhvatiti u koštac s teškim materijalom jeste da mu i vi pristupite odgovorno.

10Napravite poređenje sami

Svaka tvrdnja iz ovog članka provjerljiva je za otprilike dvije minute, i radije bismo da provjerite nego da nam vjerujete.

1. Izaberite prompt iz posla koji stvarno radite. Duži je bolji — opterećuje i prozor i streaming.
2. Pokrenite ga na shannon-3. Zabilježite koliko traje do prvog tokena i koliko do završetka odgovora.
3. Pokrenite identičan prompt na shannon-3.1. Zabilježite ista dva broja.
4. Zatim pročitajte oba odgovora, zanemarite sat, i odlučite koji biste željeli.

Razlika u brzini bit će trenutna i očigledna. Razlika u kvalitetu je ona s kojom vrijedi sjesti — najjasnije se vidi na dugim ulazima, gdje je 3.0 tiho radio s manje vašeg materijala nego što ste mislili.

11Često postavljana pitanja

---

Brojke o performansama i inteligenciji u ovom članku vlastita su mjerenja Shannon Laba iz interne evaluacije, septembar 2026, i navedene su kao proizvodne brojke, a ne kao rezultati benchmarka treće strane. Kontekstni prozor, ID-jevi modela i dostupnost API-ja su specifikacije proizvoda. Shannon AI vodi Shannon Lab LLC, New Mexico, SAD. Povezano štivo: Shannon 3 · Indeks Shannon istraživanja · API dokumentacija.