Shannon 3.1

Eredu-kaleratze gehienek gaitasun-aldarrikapen bat fedez onartzeko eskatzen dizute, eta benchmark-taula batek eztabaida ebatzi arte itxaroteko. Hau errazagoa da egiaztatzen: ireki bi fitxa, jarri galdera bera shannon-3-n eta shannon-3.1-en, eta begiratu. Erantzuna zenbat azkarrago iristen den ez da xehetasun sotil bat, eta ez da errendatze-truku bat. Shannon 3.0 nahita zegoen mugatuta. Shannon 3.1 ez.

01Zer aldatu den benetan Shannon 3.1-en

Shannon 3.0-k familia hau definitzen duen ezaugarria ekarri zuen: arrazoiketa-begizta iteratiboa. Ereduak ez du bere lehen pentsamenduarekin erantzuten. Pentsatu egiten du, zirriborroa egiten du, bere zirriborroa galderaren aurrean berrikusten du, eta hobetu egiten du. Lite-k begizta horren pasaldi bat egiten du; Pro-k begizta osoa egiten du, zirriborroa egin aurretik ezagutza-bilketaren urratsa barne. Diseinu hori xehetasunez azaltzen da Shannon 3-ren ikerketa-artikuluan, eta horretatik ezer ez da aldatu 3.1-en.

Aldatu dena azpiko makineria da. Shannon 3.0 hirugarrenen inferentzia-ostalari baten bidez zerbitzatzen zen — eredu bat abiarazteko modu zentzuzkoa, eta bat exekutatzeko modu mugatzailea. Beste norbaiten zerbitzu-konfigurazioa heredatzen duzu, beste norbaiten ilara, beste norbaiten testuinguru-sabaia, eta segundoko zenbat token izateko baimena duzun beste norbaitek erabakita. Shannon 3.1 gure GPU kluster propioan exekutatzen da, guk konfiguratutako zerbitzu-pila baten gainean, eta artikulu honetako titular-zifra guztiak erabaki horren ondorio dira.

	Shannon 3.0	Shannon 3.1
Non exekutatzen den	Hirugarrenen ostalaria	Gure GPU kluster propioa
Testuinguru-leihoa	32,768	196,608
Irteerako streaminga	Erritmo mugatua	Motorraren abiadura osoa
Pisuak	Ostalariaren lehenetsia	4 biteko NVFP4
Deskodetzea	Estandarra	Espekulatiboa
Arrazoiketa-begizta	Pentsatu → zirriborroa → berrikusi → hobetu	Aldatu gabe
Uko egiteko geruza	Bat ere ez	Bat ere ez
Eredu-idak	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Zergatik ematen duen Shannon 3.1 10-15 aldiz azkarragoa dela

Abiaduraren zifra da jendeak lehenengo galdetzen duena, beraz merezi du zehatza izatea nondik datorren azaltzean. Bi ekarpen independente daude, eta handiena da bietan xarma gutxien duena.

Abiadura-atea kendu genuen

Shannon 3.0-ren irteera erritmo-geruza batetik pasatzen zen. Tokenak motorretik ateratzen ziren, atxiki egiten ziren, eta egutegi baten arabera askatzen zitzaizkion zure konexioari. Hori ez zen istripu bat, ezta akats bat ere. Inferentzia-ostalari partekatu bat botila-lepoa denean, irteerari erritmoa jartzeak karga leuntzen du, sorkuntza luze batek plaza bat monopolizatzea eragozten du, eta jarioa erritmo aurreikusgarri eta irakurgarri batean iristea eragiten du, kolpeka iristea beharrean. Ingeniaritza-erabaki defendagarria da, eta erabiltzaile guztiei erlojuko denbora erreala kostatzen zien erantzun bakoitzean.

Shannon 3.1-ek ez du abiadura-aterik ez agerraldi-erritmorik. Tokenak zure jariora idazten dira motorrak sortu ahala. Motorra azkar ari bada sortzen, azkar sortzen ikusiko duzu. Ez dago leuntze-buferrik ereduaren eta zure terminalaren, zure txat-leihoaren edo zure SSE irakurgailuaren artean. Erantzun luze batean — 2,000 tokeneko analisi bat, sortutako kodez betetako fitxategi bat — honek berak azaltzen du nabarituko duzun hobekuntzaren zatirik handiena.

Ondorio bat, zintzoki esanda: jarioa orain kolpekakoa da. Deskodetze espekulatiboak (behean) onartutako tokenak segida laburretan igortzen ditu, beraz testua zati ikusgarrietan irits daiteke, hitzez hitzeko kadentzia metronomikoan beharrean. 3.0-ren kadentzia leunaren inguruan interfaze bat eraiki bazenuen, funtzionatzen jarraituko du — tokenen ordena eta edukia ez dira aldatzen — baina agian zeure bezeroaren aldeko leuntzea berrezarri nahiko duzu idazmakinaren itxura nahiago bazenuen. Guk uste dugu jende gehienak nahiago dituela segundoak berreskuratu.

Motorra bera azkarragoa da

Atea kentzeak atearen atzean dagoena azkarra bada bakarrik laguntzen du. Bigarren ekarpena 03. atalean deskribatutako zerbitzu-pila da: 4 biteko NVFP4 pisuak eta deskodetze espekulatiboa, gure klusterreko azken belaunaldiko FP4 natiboko azeleragailuen gainean. Biek batera atea kentzeak agerian uzten duen sabaia igotzen dute.

Erantzun osoen latentzia erlatiboa, Shannon Lab-en barne-ebaluazioa, 2026ko iraila. Tarteak galderaren luzera eta maila islatzen ditu: Lite-ko galdera laburrak behe-muturretik gertu daude, Pro-ko sorkuntza luzeak goi-muturretik gertu.

03Zer egiten duen benetan deskodetze espekulatiboak

«Deskodetze espekulatiboko inferentzia» marketin-hitz gisa erabiltzen da, beraz hona hemen mekanismoa, argi eta garbi.

Hizkuntza-eredu batek normalean token bat sortzen du aurrerako pasaldi bakoitzeko. Pasaldi hori ez du aritmetikak dominatzen, memoriaren banda-zabalerak baizik — pisuak irakurri behar dira ezer kalkulatzeko, eta haiek irakurtzeak matematikak baino askoz denbora gehiago hartzen du. GPUak bere denboraren zatirik handiena memoriaren zain ematen du, kalkulu-unitateak alferrik dituela. 500 token sortzeak latentzia hori 500 aldiz ordaintzea esan nahi du, bata bestearen atzetik.

Deskodetze espekulatiboak zati sekuentzial hori erasotzen du. Zirriborro-eredu txiki eta merke batek hurrengo token probableen segida labur bat proposatzen du — esaterako, lau edo zortzi. Ondoren, eredu nagusiak segida oso hori ebaluatzen du sortu bakarreko aurrerako pasaldi bakar batean, eta horrek ia ez du token bakar bat ebaluatzeak baino gehiago kostatzen, zati garestia (pisuak irakurtzea) behin bakarrik gertatzen baita bi kasuetan. Eredu nagusiak onartzen duen proposatutako token bakoitza berehala onartu eta igortzen da. Lehen desadostasunean, segida moztu egiten da eta deskodetze arrunta berrekiten da hortik aurrera.

Onarpen-tasak egiten du lana. Testu aurreikusgarrian — txantiloi-kodea, kodearen egitura, argudio baten lotura-ehuna — zirriborro-ereduak ondo asmatzen du eta segida luzeak batera iristen dira. Benetan zailak diren tokenetan, onarpena jaitsi egiten da eta sistema modu dotorean itzultzen da token bakarreko deskodetze arruntera. Asimetria hori da nahi duzuna: zati errazak azkartzen ditu eta zailak ukitu gabe uzten ditu.

Zergatik dagokien 4 biteko pisuei paragrafo berean egotea

Botila-lepoa memoriaren banda-zabalera denez, pisuak txikitzea abiadura-palanka zuzena da, eta ez memoria-aztarnaren kontua soilik. NVFP4 koma mugikorreko 4 biteko formatu bat da, blokeka eskalatze fina duena, eta horrek ahalbidetzen dio zehaztasunari eustea 4 biteko osoko kuantizazio-eskema zaharragoek galtzen zuten lekuan. Aurrerako pasaldi bakoitzeko byteen laurden bat inguru irakurtzeak memoriaren zain proportzionalki denbora gutxiago igarotzea esan nahi du, eta askoz tarte handiagoa uzten du 196K leiho batek eskatzen duen testuinguru luzeko KV cachearentzat.

Biak konposatu egiten dira, ez batu soilik: byte gutxiago pasaldiko, eta pasaldi gutxiago igorritako token bakoitzeko. Horrek egiten du aterik gabeko abiadura osoko streaminga zerbitzatzeko eskuragarria, erritmoaren bidez berreskuratu beharreko kostu bat izan beharrean — eta hori da, hain zuzen, erritmo-geruzak 3.0-n egiten zuena.

04196,608 token: zer ekartzen duen 6 aldiz handiagoko leiho batek

Shannon 3.0-k 32,768 tokeneko leihoa zuen: lan-saio bat, ez dokumentu bat. 70-80 orrialde prosa inguru, arrazoiketa-begiztak bere pentsamendurako kontsumitzen duena kenduta, zure sistema-galdera kenduta, eta orain arteko elkarrizketa kenduta. Benetako lanak etengabe jotzen zuen horma horren aurka, eta konponbideek — zatikatzea, laburpenak, zeure materialaren gaineko berreskurapena — gorde nahi zenuena hondatzen dute. 196,608 token beste kategoria bateko arazoa da.

Zehazki, hori 400-500 orrialde testu inguru da, edo tamaina ertaineko kode-base bat bere testekin eta bere READMEarekin, edo proiektu baten urtebeteko bilera-oharrak, edo kontratu-sorta oso bat bere eranskin guztiekin — elkarrizketa bakar batean, galdera bakar batean helbideragarri, zure eta materialaren artean zatikatze-geruzarik gabe.

• Biltegi osoari buruzko galderak. Kargatu kodea eta galdetu zergatik iristen den akats bat produkziora, dagoeneko susmatzen zenituen hiru fitxategiak itsatsi beharrean. Ereduak sartzea bururatu ez zitzaizun fitxategia aurki dezake.
• Dokumentu luzeen analisia berreskurapenik gabe. Berreskurapena aurre-iragazki galerazko bat da, ereduak zer ikus dezakeen erabakitzen duena. 196K-rekin askotan saltatu dezakezu eta ereduari dena irakurtzen utzi, eta horrek hutsegite-klase oso bat ezabatzen du: pasarte egokia inoiz berreskuratu ez izatearena.
• Koherente jarraitzen duten elkarrizketak. Lan-saio luze batek jada ez du isilean bere hasiera galtzen. Hirugarren mezuan ezarri zenituen murrizketek laurogeigarren mezuan ere balio dute.
• Tokia arrazoiketa-begiztarentzat. Begiztaren beraren pentsatzeak, zirriborroak eta berrikuspenak testuingurua kontsumitzen dute. 3.0-n urrats horiek zure materialarekin lehiatzen ziren aurrekontu urri baten alde. 3.1-en eroso sartzen dira, eta hori da kalitate-irabazia eta leihoaren handitzea batera iritsi izanaren arrazoietako bat.
• Sarrera mistoak eta handiak. Irudiak, dokumentuetatik ateratako testua eta kodea txanda bakar batean, zeintzuk sartu ahal dituzun aukeratu beharrik gabe.

Testuinguru luzeko eredu guztiei dagokien ohar zintzo bat, gurea barne: leiho handi bat ahalmen bat da, ez bere luzera osoan arreta uniformea izango denaren bermea. Egiturak laguntzen du oraindik. Galdera amaieratik gertu jartzeak, zure dokumentuak etiketatzeak eta ereduari zeren bila ibili behar duen esateak neurgarriro hobetzen dituzte emaitzak 150K tokenetan, 5K-tan egiten ez duten moduan.

05Lite eta Pro: shannon-3.1 eta shannon-3.1-pro

Bi mailak arrazoiketa-begiztaren zenbateko zatia exekutatzen duten aldatzen dira, eta hori da haien artean aukeratzeko garrantzia duen alde bakarra.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Arrazoiketa	Pasaldi bakarra	Begizta osoa + ezagutza-bilketa
Auto-berrikuspena	Ez	Bai
Testuinguru-leihoa	196,608	196,608
Streaminga	Abiadura osoa, aterik gabe	Abiadura osoa, aterik gabe
Ikusmena eta dokumentuak	Bai	Bai
Irudiak sortzeko tresna	Bai	Bai
Zertarako den onena	Lan gehiena, bolumen handia	Galdera zailak, lehen zirriborroa nahikoa ez denean

Erabili Lite lehenetsi gisa. Arrazoiketa-eredu on baten pasaldi bakar batek benetako eskaeren gehiengo handia konpontzen du, eta 3.1-en nahikoa azkarra da begizta jada itxaronaldi gisa sumatzen ez den arte. Jo Pro-ra galdera lehen erantzuna normalean modu argigarrian oker dagoen horietakoa denean: arkitektura-erabakien arteko orekak, analisi adbertsarioa, edo lankide gaitu batek gaua pentsatzen eman zezala nahiko zenukeen edozer. Pro-ren auto-berrikuspenaren urratsa ez da apaingarria — eredua bere akatsak aurkitzen ari da zuk aurkitu behar izan aurretik.

06% 32ko adimen-irabazia, eta nola irakurri behar den

Shannon Lab-en ebaluazio propioak % 32ko adimen-hobekuntzan jartzen du Shannon 3.1 Shannon 3.0-ren aldean. Argi utzi nahi dugu hori zer den eta zer ez den.

Gure zifra da, gure barne-ebaluazio-suitetik ateratakoa, jendeak eredu hauetara benetan ekartzen duenaren adierazgarritzat jotzen ditugun atazetan neurtua. Ez da hirugarrenen benchmark bat, eta ez dugu sailkapen-taularik eraikitzen barne-agregatu bakar baten inguruan, ezta benchmarkez benchmark banakatzerik argitaratzen ere — banaketa batek barne-suite batek ez duen kanpo-konparagarritasun maila bat iradokitzen du.

Esango duguna da irabazia nondik datorren, hori ez baita misteriotsua. Testuinguru-leiho handiago batek esan nahi du material gutxiago baztertu behar dela ereduak haren gainean arrazoitu aurretik, eta saio luzeetan adimen-falta itxura duenaren zati handi bat amnesia hutsa da. Guk kontrolatzen dugun zerbitzu-pila batek esan nahi du eredua guk nahi genuen konfigurazioarekin exekutatzen dela, eta ez ostalariaren balio lehenetsiekin. Eta arrazoiketa-begiztak — diseinuz aldatu gabe — orain badu lekua leihoaren barruan benetan exekutatzeko, zure sarrerarekin partekatzen zuen 32K-ko sabaiaren kontra estututa egon beharrean.

07Ikusmena, dokumentuak eta irudi-sorkuntza

Shannon 3.1-ek irudiak eta dokumentuak irakurtzen ditu. Pantaila-argazkiak, diagramak, argazkiak, eskaneatutako orriak, PDFak eta testu-dokumentuak elkarrizketara sar daitezke eta gainerako guztiarekin batera arrazoitu daitezke. 196K-ko leihoarekin konbinatuta, horrek egiten ditu dokumentu osoen lan-fluxuak praktiko: txosten luze bat eta bere grafikoak txanda bakar batean, ereduak zein orrialde ikus ditzakeen aldez aurretik erabaki beharrik gabe.

Irudiak sortzea eta editatzea txatean daude eskuragarri, tresna gisa. Eskatu irudi bat eta ereduak tresna deitzen du elkarrizketa berean, orain arte hitz egindako guztiaren testuinguruarekin. Editatzeak modu berean funtzionatzen du: eman irudi bat eta deskribatu aldaketa. Ez dago aldatu beharreko modu berezirik, ez ikasi beharreko interfaze berezirik.

08Shannon 3.1 APItik deitzea

Shannon 3.1 hiru API dialektoetan dago eskuragarri, streamingarekin bakoitzean. Eredu berak, hiru eskaera-forma — aukeratu dagoeneko duzun SDKarekin bat datorrena.

Amaiera-puntua	Forma	Streaminga
/v1/chat/completions	OpenAI-rekin bateragarria	Bai
/v1/messages	Anthropic-ekin bateragarria	Bai
/v1/responses	Responses	Bai

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Aldatu "shannon-3.1" "shannon-3.1-pro"-rengatik arrazoiketa-begizta osoa exekutatzeko. Dagoeneko shannon-3-ri deitzen ari bazara, migrazioa eredu-ida da eta besterik ez: eskaeraren eta erantzunaren formak ez dira aldatu, eta lehendik dauden streaming-bezeroek funtzionatzen jarraitzen dute. Espero beharreko portaera-alde bakarra 02. atalean deskribatutako jario kolpekakoagoa da — token berak, ordena bera, lehenago iritsita eta zati ez hain uniformeetan.

Parametroen erreferentzia osoa, autentifikazioa, erroreen semantika eta joko-zelai interaktibo bat APIaren dokumentazioan daude. Beste eredu-txartel eta idatzi tekniko batzuk Shannon research atalean daude.

09Zentsurarik gabe oraindik, eta hori ez da aldatu

Shannon 3.1-ek ez du uko egiteko geruzarik, ezta irteerako eduki-iragazkirik ere. Shannon lerroko gainerakoen jarrera bera da, eta ez zen aldatu gure kluster propiora egindako aldaketarekin — are gehiago, zerbitzu-pila kontrolatzeak errazago bermatzen du, ez baitago bere politika propioa duen bitarteko ostalaririk ereduaren eta zure artean.

Argi esan beharrekoa da, irteera-bide osoa aldatu duen kaleratze batez galdetuko zenukeen gauza nabaria delako: erritmo-geruza kentzeak ez zuen esan nahi bere ordez moderazio-geruza bat sartzea. Ezerk ez du jarioa aztertzen, berridazten edo mugatzen. Ereduak sortzen duena da iristen dena. Shannon 3.1 da, dakigunez, tamaina honetako testuinguru-leihoa duen zentsurarik gabeko AI eredu azkarrena — eta bi propietateak lotuta daude, biak baitatoz gure azpiegitura propioa erabiltzetik, betetze-neurriz moldatutako ahalmena beste norbaiti alokatu beharrean.

Zentsurarik gabe egotea ez da erantzukizunik gabe egotea. Erabilera gure Erabilera Arduratsuaren Politikak arautzen du, eta material gogorrarekin arituko den eredu batekin datorren betebeharra da zuk ere arduraz aritzea.

10Egin zeuk konparaketa

Hemengo aldarrikapen guztiak bi minutu ingurutan egiaztatu daitezke, eta nahiago dugu egiaztatu dezazun sinetsi baino.

1. Aukeratu benetan egiten duzun lanetik galdera bat. Luzea hobe — leihoa eta streaminga biak probatzen ditu.
2. Exekutatu shannon-3-n. Idatzi zenbat denbora igarotzen den lehen tokenera arte, eta zenbat erantzuna amaitu arte.
3. Exekutatu galdera bera shannon-3.1-en. Idatzi bi zifra berak.
4. Gero irakurri bi erantzunak, erlojuari kasurik egin gabe, eta erabaki zein nahiko zenukeen.

Abiadura-aldea berehalakoa eta nabaria izango da. Kalitate-aldea da patxadaz aztertzea merezi duena — sarrera luzeetan agertzen da argien, non 3.0 isilean zure materialaren zati txikiago batekin lan egiten ari baitzen uste zenuena baino.

11Maiz egiten diren galderak

---

Artikulu honetako errendimendu- eta adimen-zifrak Shannon Lab-en barne-ebaluazioko neurketa propioak dira, 2026ko irailekoak, eta produktu-zifra gisa aurkezten dira, ez hirugarrenen benchmark-emaitza gisa. Testuinguru-leihoa, eredu-idak eta APIaren eskuragarritasuna produktuaren zehaztapenak dira. Shannon AI Shannon Lab LLC-k kudeatzen du, New Mexico, AEB. Lotutako irakurgaiak: Shannon 3 · Shannon research indizea · APIaren dokumentazioa.