Shannon 3.1

Useimmat mallijulkaisut pyytävät uskomaan kykyväitteen ja odottamaan, että vertailutaulukko ratkaisee kiistan. Tämän voi tarkistaa helpommin: avaa kaksi välilehteä, syötä sama kehote malleille shannon-3 ja shannon-3.1 ja katso. Ero vastauksen saapumisnopeudessa ei ole hienovarainen, eikä se ole renderöintitemppu. Shannon 3.0:aa kuristettiin tarkoituksella. Shannon 3.1:tä ei kuristeta.

01Mikä Shannon 3.1:ssä tosiasiassa muuttui

Shannon 3.0 esitteli sen, mikä määrittää tämän mallisarjan: iteratiivisen päättelysilmukan. Malli ei vastaa ensimmäisellä ajatuksellaan. Se ajattelee, luonnostelee, arvioi oman luonnoksensa kysymystä vasten ja parantaa sitä. Lite ajaa silmukasta yhden kierroksen; Pro ajaa koko silmukan, mukaan lukien tiedonkeruuvaiheen ennen luonnostelua. Tämä rakenne on kuvattu yksityiskohtaisesti Shannon 3 -tutkimusartikkelissa, eikä mikään siitä ole muuttunut 3.1:ssä.

Muuttunut on alla oleva koneisto. Shannon 3.0 tarjoiltiin kolmannen osapuolen päättelyalustan kautta — järkevä tapa julkaista malli ja rajoittava tapa ajaa sitä. Perit jonkun toisen tarjoilukokoonpanon, jonon, kontekstikaton ja käsityksen siitä, kuinka monta tokenia sekunnissa saat. Shannon 3.1 ajetaan omalla GPU-klusterillamme, tarjoilupinossa jonka me määritämme, ja jokainen tämän artikkelin pääluku on seurausta tuosta yhdestä päätöksestä.

	Shannon 3.0	Shannon 3.1
Missä ajetaan	Kolmannen osapuolen alusta	Oma GPU-klusterimme
Konteksti-ikkuna	32,768	196,608
Tulosteen suoratoisto	Tahdistettu / nopeusrajoitettu	Moottorin täysi nopeus
Painot	Alustan oletus	4-bittinen NVFP4
Dekoodaus	Vakio	Spekulatiivinen
Päättelysilmukka	Ajattele → luonnostele → arvioi → paranna	Ennallaan
Kieltäytymiskerros	Ei ole	Ei ole
Mallitunnukset	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Miksi Shannon 3.1 tuntuu 10-15x nopeammalta

Nopeusluku on ensimmäinen, jota kysytään, joten kannattaa olla täsmällinen sen alkuperästä. Osatekijöitä on kaksi toisistaan riippumatonta, ja suurempi niistä on vähemmän loistokas.

Poistimme nopeusportin

Shannon 3.0:n tuloste kulki tahdistuskerroksen läpi. Tokenit lähtivät moottorista, niitä pidäteltiin ja ne vapautettiin yhteyteesi aikataulun mukaan. Tämä ei ollut vahinko eikä vika. Kun jaettu päättelyalusta on pullonkaula, tulosteen tahdistus tasoittaa kuormaa, estää pitkää generointia varaamasta paikkaa yksinään ja saa virran saapumaan ennustettavassa, luettavassa rytmissä purskeiden sijaan. Se on puolustettava tekninen valinta, ja se maksoi jokaiselle käyttäjälle todellista kelloaikaa jokaisessa vastauksessa.

Shannon 3.1:ssä ei ole nopeusporttia eikä paljastuksen tahdistusta. Tokenit kirjoitetaan virtaasi sitä mukaa kuin moottori ne tuottaa. Jos moottori generoi nopeasti, näet sen generoivan nopeasti. Mallin ja terminaalisi, chat-ikkunasi tai SSE-lukijasi välissä ei ole tasoituspuskuria. Pitkässä vastauksessa — 2,000 tokenin analyysissä tai generoidussa koodikaskirjassa — jo tämä selittää suurimman osan huomaamastasi parannuksesta.

Rehellinen seuraus: virta on nyt purskeinen. Spekulatiivinen dekoodaus (alla) lähettää hyväksytyt tokenit lyhyinä sarjoina, joten teksti voi saapua näkyvinä lohkoina eikä metronomimaisena sana kerrallaan -tahtina. Jos rakensit käyttöliittymäsi 3.0:n tasaisen tahdin varaan, se toimii yhä — tokenien järjestys ja sisältö eivät muutu — mutta voit halutessasi tuoda takaisin oman asiakaspuolen pehmennyksen, jos pidit kirjoituskoneilmeestä. Uskomme useimpien haluavan sekunnit takaisin.

Moottori itse nopeutui

Portin poistaminen auttaa vain, jos portin takana oleva on nopeaa. Toinen osatekijä on osiossa 03 kuvattu tarjoilupino: 4-bittiset NVFP4-painot ja spekulatiivinen dekoodaus nykysukupolven, natiivisti FP4:ää tukevilla kiihdyttimillä omassa klusterissamme. Yhdessä ne nostavat kattoa, jonka portin poistaminen paljastaa.

Suhteellinen päästä päähän -vastausviive, Shannon Labin sisäinen arviointi, syyskuu 2026. Vaihteluväli heijastaa kehotteen pituutta ja tasoa: lyhyet kehotteet Litellä ovat lähellä alarajaa, pitkät generoinnit Prolla lähellä ylärajaa.

03Mitä spekulatiivinen dekoodaus oikeasti tekee

”Spekulatiivista dekoodausta” käytetään markkinointisanana, joten tässä on mekanismi suoraan sanottuna.

Kielimalli tuottaa normaalisti yhden tokenin yhtä eteenpäinajoa kohti. Tuossa ajossa hallitseva tekijä ei ole laskenta vaan muistikaista — painot on luettava, jotta mitään voidaan laskea, ja niiden lukeminen kestää paljon kauemmin kuin matematiikka. GPU viettää suurimman osan ajastaan muistia odottaen laskentayksiköt jouten. 500 tokenin generointi tarkoittaa tuon viiveen maksamista 500 kertaa peräkkäin.

Spekulatiivinen dekoodaus hyökkää peräkkäisyyttä vastaan. Pieni, halpa luonnosmalli ehdottaa lyhyen sarjan todennäköisiä seuraavia tokeneita — vaikkapa neljä tai kahdeksan. Päämalli arvioi koko sarjan yhdellä niputetulla eteenpäinajolla, joka maksaa tuskin enempää kuin yhden tokenin arviointi olisi maksanut, koska kallis osa (painojen lukeminen) tapahtuu joka tapauksessa kerran. Jokainen ehdotettu token, jonka päämalli hyväksyy, lähetetään heti. Ensimmäisessä erimielisyydessä sarja katkaistaan ja tavallinen dekoodaus jatkuu siitä.

Työn tekee hyväksymisaste. Ennustettavassa tekstissä — vakiorakenteissa, koodin rungossa, argumentin sidekudoksessa — luonnosmalli arvaa hyvin ja pitkät sarjat osuvat kerralla. Aidosti vaikeissa tokeneissa hyväksyntä laskee ja järjestelmä palautuu hallitusti tavalliseen token kerrallaan -dekoodaukseen. Juuri tuo epäsymmetria on toivottava: se kiihdyttää helpot osat eikä koske vaikeisiin.

Miksi 4-bittiset painot kuuluvat samaan kappaleeseen

Koska pullonkaula on muistikaista, painojen kutistaminen on suora nopeusvipu eikä vain muistijalanjäljen kysymys. NVFP4 on 4-bittinen liukulukumuoto hienojakoisella lohkokohtaisella skaalauksella, mikä antaa sen säilyttää tarkkuuden siellä missä vanhemmat 4-bittiset kokonaislukukvantisoinnit sen menettivät. Karkeasti neljännes luettavia tavuja eteenpäinajoa kohti tarkoittaa suhteessa vähemmän muistin odottelua, ja se jättää huomattavasti enemmän tilaa pitkän kontekstin KV-välimuistille, jota 196K:n ikkuna vaatii.

Nämä kaksi kertautuvat eivätkä vain summaudu: vähemmän tavuja ajoa kohti ja vähemmän ajoja lähetettyä tokenia kohti. Juuri se tekee portittomasta, täyden nopeuden suoratoistosta tarjoiltavaksi kannattavan eikä kustannuksen, joka olisi kaivettava takaisin tahdistuksella — mikä on täsmälleen se, mitä tahdistuskerros 3.0:ssa teki.

04196,608 tokenia: mitä 6x ikkuna avaa

Shannon 3.0:lla oli 32,768 tokenin ikkuna: työistunto, ei dokumentti. Karkeasti 70–80 sivua proosaa, miinus se minkä päättelysilmukka kuluttaa omaan ajatteluunsa, miinus järjestelmäkehotteesi, miinus tähänastinen keskustelu. Todellinen työ törmäsi tuohon seinään jatkuvasti, ja kiertotiet — paloittelu, tiivistäminen, haku omasta aineistostasi — kaikki heikentävät juuri sitä, mitä yritit säilyttää. 196,608 tokenia on eri luokan ongelma.

Konkreettisesti se on suuruusluokaltaan 400–500 sivua englanninkielistä tekstiä, tai keskikokoinen koodikanta testeineen ja README-tiedostoineen, tai vuoden verran yhden projektin kokousmuistiinpanoja, tai täysi sopimuskokonaisuus kaikkine liitteineen — yhdessä keskustelussa, yhdellä kysymyksellä käsiteltävänä, ilman paloittelukerrosta sinun ja aineiston välissä.

• Koko repositoriota koskevat kysymykset. Lataa koodi ja kysy, miksi bugi pääsee tuotantoon, sen sijaan että liittäisit ne kolme tiedostoa joita jo epäilit. Malli voi löytää tiedoston, jota et tullut ottaneeksi mukaan.
• Pitkien dokumenttien analyysi ilman hakua. Haku on häviöllinen esisuodatin, joka päättää mitä malli saa nähdä. 196K:ssa voit usein ohittaa sen ja antaa mallin lukea kaiken, mikä poistaa kokonaisen virheluokan, jossa oikeaa kohtaa ei koskaan haettu.
• Keskustelut jotka pysyvät johdonmukaisina. Pitkä työistunto ei enää hiljaa pudota omaa alkuaan. Viestissä kolme asettamasi rajoitteet pätevät yhä viestissä kahdeksankymmentä.
• Tilaa päättelysilmukalle. Silmukan oma ajattelu, luonnostelu ja arviointi kuluttavat kontekstia. 3.0:ssa nuo vaiheet kilpailivat aineistosi kanssa niukasta budjetista. 3.1:ssä ne mahtuvat mukavasti, mikä on osa syytä siihen, että laatuhyppy ja ikkunan kasvu saapuivat yhdessä.
• Suuret sekasyötteet. Kuvia, poimittua dokumenttitekstiä ja koodia samalla vuorolla, ilman että pitää valikoida mitkä niistä on varaa ottaa mukaan.

Yksi rehellinen varaus, joka koskee jokaista pitkän kontekstin mallia, meidän omamme mukaan lukien: iso ikkuna on kapasiteetti, ei takuu tasaisesta tarkkaavaisuudesta kautta linjan. Rakenne auttaa yhä. Kysymyksen sijoittaminen loppuun, dokumenttien nimeäminen ja mallille kertominen mitä etsiä parantavat kaikki mitattavasti tuloksia 150K tokenissa tavalla, jolla ne eivät yksinkertaisesti paranna niitä 5K:ssa.

05Lite ja Pro: shannon-3.1 ja shannon-3.1-pro

Tasot eroavat siinä, kuinka suuren osan päättelysilmukasta ne ajavat, ja se on ainoa ero jolla on merkitystä valinnan kannalta.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Päättely	Yksi kierros	Koko silmukka + tiedonkeruu
Itsearviointi	Ei	Kyllä
Konteksti-ikkuna	196,608	196,608
Suoratoisto	Täysi nopeus, portiton	Täysi nopeus, portiton
Näkö & dokumentit	Kyllä	Kyllä
Kuvangenerointityökalu	Kyllä	Kyllä
Parhaiten sopii	Useimpaan työhön, suuri volyymi	Vaikeisiin kysymyksiin, kun ensiluonnos ei riitä

Käytä oletuksena Liteä. Yksi hyvän päättelymallin kierros hoitaa valtaosan todellisista pyynnöistä, ja 3.1:ssä se on niin nopea, ettei silmukkaa enää tarvitse odottaa tuntuvasti. Tartu Prohon, kun kysymys on sellainen, jossa ensimmäinen vastaus on yleensä opettavaisella tavalla väärä: arkkitehtuuriset kompromissit, vastakkainasetteleva analyysi, mikä tahansa missä toivoisit pätevän kollegan nukkuvan yön yli asian kanssa. Pron itsearviointivaihe ei ole koristetta — siinä malli löytää omat virheensä ennen kuin sinun täytyy.

0632 %:n älykkyyshyppy ja miten sitä luetaan

Shannon Labin oma arviointi asettaa Shannon 3.1:n 32 % parannukseen älykkyydessä Shannon 3.0:aan nähden. Haluamme olla selkeitä siitä, mitä se on ja mitä ei.

Se on meidän lukumme, sisäisestä arviointikokoelmastamme, mitattuna tehtävillä joita pidämme edustavina sille, mitä ihmiset näille malleille oikeasti tuovat. Se ei ole kolmannen osapuolen vertailutesti, emmekä rakenna tulostaulukkoa yhden sisäisen kokonaisluvun ympärille emmekä julkaise testikohtaista erittelyä — erittely vihjaisi ulkoiseen vertailtavuuteen, jota sisäisellä kokoelmalla ei ole.

Sen sanomme, mistä hyöty tulee, koska se osa ei ole mysteeri. Suurempi konteksti-ikkuna tarkoittaa, että vähemmän aineistoa on hylättävä ennen kuin malli päättelee sen pohjalta, ja iso osa näennäisestä tyhmyydestä pitkissä istunnoissa on todellisuudessa muistinmenetystä. Hallitsemamme tarjoilupino tarkoittaa, että malli ajetaan sillä kokoonpanolla jonka tarkoitimme eikä alustan oletuksella. Ja päättelysilmukalla — rakenteeltaan ennallaan — on nyt tilaa oikeasti ajaa ikkunan sisällä sen sijaan että se puristuisi 32K:n kattoa vasten, jonka se jakoi syötteesi kanssa.

07Näkö, dokumentit ja kuvien generointi

Shannon 3.1 lukee kuvia ja dokumentteja. Kuvakaappaukset, kaaviot, valokuvat, skannatut sivut, PDF-tiedostot ja tekstidokumentit voi tuoda keskusteluun ja käsitellä yhdessä kaiken muun kanssa. Yhdessä 196K:n ikkunan kanssa tämä tekee koko dokumentin työnkuluista käytännöllisiä: pitkä raportti kaavioineen yhdellä vuorolla, ilman että pitää etukäteen päättää mitkä sivut malli saa nähdä.

Kuvien generointi ja muokkaus ovat käytettävissä chatissa työkaluna. Pyydä kuvaa, ja malli kutsuu työkalua samassa keskustelussa, kaiken siihen asti puhutun kontekstissa. Muokkaus toimii samoin — anna sille kuva ja kuvaile muutos. Erillistä tilaa ei tarvitse vaihtaa eikä erillistä käyttöliittymää opetella.

08Shannon 3.1:n kutsuminen API:sta

Shannon 3.1 on käytettävissä kaikissa kolmessa API-murteessa, kussakin suoratoistolla. Samat mallit, kolme pyyntömuotoa — valitse se joka sopii jo käyttämääsi SDK:hon.

Päätepiste	Muoto	Suoratoisto
/v1/chat/completions	OpenAI-yhteensopiva	Kyllä
/v1/messages	Anthropic-yhteensopiva	Kyllä
/v1/responses	Responses	Kyllä

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Vaihda "shannon-3.1" tilalle "shannon-3.1-pro" ajaaksesi koko päättelysilmukan. Jos kutsut jo mallia shannon-3, siirtymä on pelkkä mallitunnus eikä mitään muuta: pyyntö- ja vastausmuodot ovat ennallaan, ja olemassa olevat suoratoistoasiakkaat jatkavat toimintaansa. Ainoa odotettava käyttäytymisero on osiossa 02 kuvattu purskeisempi virta — samat tokenit, sama järjestys, saapuen aiemmin ja epätasaisempina lohkoina.

Täydellinen parametriviite, todennus, virhesemantiikka ja interaktiivinen leikkikenttä ovat API-dokumentaatiossa. Muut mallikortit ja tekniset kirjoitukset löytyvät Shannonin tutkimuksesta.

09Yhä sensuroimaton, eikä siinä suhteessa muutosta

Shannon 3.1:ssä ei ole kieltäytymiskerrosta eikä tulosteen sisällönsuodatusta. Tämä on sama asenne kuin muissakin Shannon-malleissa, eikä se muuttunut siirryttäessä omaan klusteriimme — jos jotain, tarjoilupinon hallinta tekee siitä helpommin taattavaa, koska mallin ja sinun välissäsi ei ole väliisäntää omine käytäntöineen.

Tämä kannattaa sanoa suoraan, koska se on ilmeinen kysymys julkaisusta joka muutti koko tulostepolun: tahdistuskerroksen poistaminen ei tarkoittanut moderointikerroksen lisäämistä tilalle. Mikään ei tarkasta, kirjoita uudelleen tai portita virtaa. Se minkä malli tuottaa, on se mikä saapuu. Shannon 3.1 on tietääksemme nopein saatavilla oleva sensuroimaton tekoälymalli tämänkokoisella konteksti-ikkunalla — ja nämä kaksi ominaisuutta liittyvät toisiinsa, koska molemmat seuraavat siitä, että ajamme omaa infrastruktuuriamme emmekä vuokraa vaatimustenmukaisuuden muotoista kapasiteettia joltain toiselta.

Sensuroimaton ei tarkoita vastuutonta. Käyttöä ohjaa vastuullisen käytön käytäntömme, ja mallin, joka suostuu käsittelemään vaikeaa aineistoa, mukana tulee velvollisuus käsitellä sitä vastuullisesti.

10Tee vertailu itse

Jokainen tässä esitetty väite on tarkistettavissa noin kahdessa minuutissa, ja tarkistaisimme mieluummin kuin uskoisit meitä.

1. Valitse kehote työstä jota oikeasti teet. Pitkä on parempi — se rasittaa sekä ikkunaa että suoratoistoa.
2. Aja se mallilla shannon-3. Merkitse muistiin aika ensimmäiseen tokeniin ja aika vastauksen valmistumiseen.
3. Aja identtinen kehote mallilla shannon-3.1. Merkitse samat kaksi lukua.
4. Lue sitten molemmat vastaukset kello unohtaen ja päätä kumman olisit halunnut.

Nopeusero on välitön ja ilmeinen. Laatuero on se jonka äärellä kannattaa viipyä — se näkyy selvimmin pitkillä syötteillä, joissa 3.0 työskenteli hiljaa pienemmällä osalla aineistoasi kuin luulit.

11Usein kysytyt kysymykset

---

Tämän artikkelin suorituskyky- ja älykkyysluvut ovat Shannon Labin omia mittauksia sisäisestä arvioinnista, syyskuu 2026, ja ne esitetään tuotelukuina eivätkä kolmannen osapuolen vertailutestien tuloksina. Konteksti-ikkuna, mallitunnukset ja API-saatavuus ovat tuotemäärittelyjä. Shannon AI:ta operoi Shannon Lab LLC, New Mexico, USA. Lisälukemista: Shannon 3 · Shannonin tutkimushakemisto · API-dokumentaatio.