Shannon 3.1
L-istess ċiklu ta' raġunament, imqiegħed fuq il-cluster GPU tagħna stess: 32% aktar intelliġenti, 10-15x aktar mgħaġġel, u tieqa ta' kuntest ta' 196,608 token.
Fil-qosor
Shannon 3.1 iżomm dak kollu li kien jagħmel lil Shannon 3 ta' min jużah — iċ-ċiklu ta' raġunament iterattiv, ebda saff ta' rifjut, ebda filtrar tal-produzzjoni — u jbiddel fejn u kif jaħdem. Il-mudell issa jinqeda minn il-cluster GPU tagħna stess minflok minn host ta' inferenza ta' parti terza. L-evalwazzjoni ta' Shannon Lab tkejjel titjib ta' 32% fl-intelliġenza u tweġibiet 10-15x aktar mgħaġġla kontra Shannon 3.0. It-tieqa ta' kuntest titla' minn 32,768 għal 196,608 token. Is-saff ta' pacing li kien inaqqas apposta l-produzzjoni ta' 3.0 ma għadux hemm: 3.1 jistrimja bil-veloċità sħiħa tal-magna. L-id tal-mudelli huma shannon-3.1 u shannon-3.1-pro, fiċ-chat u fuq it-tliet djaletti tal-API.
Il-biċċa l-kbira tal-ħruġ ta' mudelli jitolbuk temmen dikjarazzjoni ta' kapaċità u tistenna tabella ta' benchmarks biex issolvi l-argument. Dan hu eħfef biex tiċċekkjah: iftaħ żewġ tabs, poġġi l-istess prompt f'shannon-3 u f'shannon-3.1, u ara. Id-differenza f'kemm tasal malajr it-tweġiba mhijiex sottili, u mhijiex trikk ta' rendering. Shannon 3.0 kien imrażżan apposta. Shannon 3.1 le.
01X'inbidel tabilħaqq f'Shannon 3.1
Shannon 3.0 daħħal il-ħaġa li tiddefinixxi din il-familja: ċiklu ta' raġunament iterattiv. Il-mudell ma jweġibx fuq l-ewwel ħsieb tiegħu. Jaħseb, jabbozza, jirrevedi l-abbozz tiegħu stess kontra l-mistoqsija, u jtejbu. Lite jħaddem passata waħda ta' dak iċ-ċiklu; Pro jħaddem iċ-ċiklu sħiħ, inkluż pass ta' ġbir ta' għarfien qabel ma jabbozza. Dak id-disinn hu deskritt fid-dettall fl-artiklu ta' riċerka dwar Shannon 3, u xejn minnu ma nbidel fi 3.1.
Dak li nbidel hu l-makkinarju ta' taħt. Shannon 3.0 kien jinqeda permezz ta' host ta' inferenza ta' parti terza — mod sensibbli biex tniedi mudell, u mod restrittiv biex tħaddmu. Tiret il-konfigurazzjoni tas-servizz ta' ħaddieħor, il-kju ta' ħaddieħor, is-saqaf ta' kuntest ta' ħaddieħor, u l-idea ta' ħaddieħor ta' kemm token fis-sekonda għandek permess ikollok. Shannon 3.1 jaħdem fuq il-cluster GPU tagħna stess, fuq stack ta' servizz li nikkonfiguraw aħna, u kull numru ewlieni f'dan l-artiklu jiġi minn dik id-deċiżjoni waħda.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Fejn jaħdem | Host ta' parti terza | Il-cluster GPU tagħna stess |
| Tieqa ta' kuntest | 32,768 | 196,608 |
| Streaming tal-produzzjoni | Ippaċjat / limitat | Veloċità sħiħa tal-magna |
| Piżijiet | Default tal-host | NVFP4 4-bit |
| Dekodifikar | Standard | Spekulattiv |
| Ċiklu ta' raġunament | Jaħseb → jabbozza → jirrevedi → itejjeb | Mhux mibdul |
| Saff ta' rifjut | Ebda | Ebda |
| Id tal-mudelli | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Għaliex Shannon 3.1 jinħass 10-15x aktar mgħaġġel
In-numru tal-veloċità hu dak li n-nies ifittxu l-ewwel, għalhekk jixraq inkunu preċiżi dwar minn fejn ġej. Hemm żewġ kontributi indipendenti, u l-akbar wieħed hu l-inqas glamoruż tat-tnejn.
Neħħejna l-limitu tal-veloċità
Il-produzzjoni ta' Shannon 3.0 kienet tgħaddi minn saff ta' pacing. It-token kienu joħorġu mill-magna, jinżammu, u jinħelsu lejn il-konnessjoni tiegħek skont skeda. Dan ma kienx aċċident jew bug. Meta host ta' inferenza kondiviż hu l-konġestjoni, il-paċjar tal-produzzjoni jlaqqam it-tagħbija, iżomm ġenerazzjoni twila milli tikkonfiska slot, u jġiegħel lill-istream jasal b'ritmu prevedibbli u leġibbli minflok f'raffali. Hi għażla ta' inġinerija difendibbli, u kienet tiswa lil kull utent ħin reali fuq l-arloġġ f'kull tweġiba waħda.
Shannon 3.1 m'għandu ebda limitu ta' veloċità u ebda pacing tal-iżvelar. It-token jinkitbu fl-istream tiegħek malli l-magna tipproduċihom. Jekk il-magna qed tiġġenera malajr, tarah jiġġenera malajr. M'hemm ebda buffer ta' lqim bejn il-mudell u t-terminal tiegħek, it-tieqa taċ-chat tiegħek, jew il-qarrej SSE tiegħek. Għal tweġiba twila — analiżi ta' 2,000 token, fajl ta' kodiċi ġġenerat — dan waħdu jispjega l-biċċa l-kbira tat-titjib li se tinnota.
Konsegwenza onesta: l-istream issa hu raffalużi. Id-dekodifikar spekulattiv (hawn taħt) joħroġ it-token aċċettati f'sensiliet qosra, għalhekk it-test jista' jasal f'biċċiet viżibbli minflok b'ritmu metronomiku ta' kelma waħda kull darba. Jekk bnejt UI madwar il-ritmu lixx ta' 3.0, xorta se taħdem — l-ordni u l-kontenut tat-token mhumiex affettwati — imma forsi tixtieq iddaħħal mill-ġdid l-easing tiegħek min-naħa tal-klijent jekk kont tippreferi d-dehra ta' typewriter. Naħsbu li l-biċċa l-kbira tan-nies jippreferu jieħdu s-sekondi lura.
Il-magna nnifisha saret aktar mgħaġġla
It-tneħħija tal-limitu tgħin biss jekk dak li hemm warajh hu mgħaġġel. It-tieni kontribut hu l-istack ta' servizz deskritt fit-taqsima 03: piżijiet NVFP4 4-bit u dekodifikar spekulattiv fuq aċċeleraturi tal-ġenerazzjoni attwali, nattivi għall-FP4, fil-cluster tagħna stess. Flimkien dawn jgħollu s-saqaf li t-tneħħija tal-limitu tikxef.
Latenza relattiva tat-tweġiba minn tarf sa tarf, evalwazzjoni interna ta' Shannon Lab, Settembru 2026. Il-medda tirrifletti t-tul tal-prompt u l-livell: prompts qosra fuq Lite joqogħdu qrib it-tarf t'isfel, ġenerazzjonijiet twal fuq Pro qrib it-tarf ta' fuq.
03X'jagħmel tabilħaqq id-dekodifikar spekulattiv
"Inferenza b'dekodifikar spekulattiv" tintuża bħala kelma ta' marketing, għalhekk hawn hu l-mekkaniżmu, bl-iktar mod ċar.
Mudell tal-lingwa normalment jipproduċi token wieħed għal kull passata 'l quddiem. Dik il-passata hi ddominata mhux mill-aritmetika imma mill-bandwidth tal-memorja — il-piżijiet iridu jinqraw biex jiġi kkalkulat kwalunkwe ħaġa, u l-qari tagħhom jieħu ferm aktar mill-matematika. Il-GPU tqatta' l-biċċa l-kbira tal-ħin tistenna l-memorja bl-unitajiet ta' kalkolu tagħha bla xogħol. Li tiġġenera 500 token ifisser li tħallas dik il-latenza 500 darba, waħda wara l-oħra.
Id-dekodifikar spekulattiv jattakka l-parti sekwenzjali. Mudell abbozz żgħir u rħis jipproponi sensiela qasira ta' token li x'aktarx imissu — ngħidu erbgħa jew tmienja. Il-mudell prinċipali mbagħad jevalwa dik is-sensiela kollha f'passata waħda f'lott, li tiswa bilkemm aktar milli tiswa l-evalwazzjoni ta' token wieħed, għax il-parti għalja (il-qari tal-piżijiet) isseħħ darba xorta waħda. Kull token propost li l-mudell prinċipali jaqbel miegħu jiġi aċċettat u maħruġ minnufih. Mal-ewwel nuqqas ta' qbil, is-sensiela tinqata' u d-dekodifikar normali jerġa' jibda minn hemm.
Il-proprjetà li tgħodd
Id-dekodifikar spekulattiv jippreserva l-produzzjoni. Il-pass tal-verifika hu mibni b'tali mod li s-sekwenza aċċettata tkun distribwita eżattament kif kien ikun il-kampjunar tal-mudell prinċipali nnifsu. M'intix qed tieħu t-tweġiba tal-mudell abbozz, u m'intix qed tieħu approssimazzjoni tat-tweġiba tal-mudell il-kbir. Qed tieħu l-produzzjoni tal-mudell prinċipali, milħuqa f'inqas passi sekwenzjali. Il-mudell abbozz jista' jaffettwa biss il-veloċità, qatt il-kontenut.
Ir-rata ta' aċċettazzjoni tagħmel ix-xogħol. Fuq test prevedibbli — boilerplate, struttura ta' kodiċi, it-tessut li jgħaqqad argument — il-mudell abbozz jaqta' tajjeb u sensiliet twal jinżlu f'daqqa. Fuq token tassew diffiċli, l-aċċettazzjoni taqa' u s-sistema tirtira bil-mod lura għal dekodifikar ordinarju ta' token wieħed kull darba. Dik l-asimmetrija hi dik li trid: tħaffef il-partijiet faċli u ma tmissx dawk diffiċli.
Għaliex il-piżijiet 4-bit jappartjenu għall-istess paragrafu
Għax il-konġestjoni hi l-bandwidth tal-memorja, it-tnaqqis tal-piżijiet hu lieva diretta tal-veloċità, mhux biss waħda tal-wisa' tal-memorja. NVFP4 hu format floating-point ta' 4-bit b'iskalar granulari għal kull blokk, li hu dak li jħallih iżomm il-preċiżjoni fejn skemi eqdem ta' kwantizzazzjoni ta' numri sħaħ 4-bit kienu jitilfuha. Bejn wieħed u ieħor kwart tal-bytes x'taqra għal kull passata 'l quddiem ifisser proporzjonalment inqas ħin tistenna l-memorja, u jħalli ferm aktar spazju għall-KV cache ta' kuntest twil li teħtieġ tieqa ta' 196K.
It-tnejn jitgħaqqdu minflok sempliċement jiżdiedu: inqas bytes għal kull passata, u inqas passati għal kull token maħruġ. Dak hu li jagħmel l-istreaming bla limitu, bil-veloċità sħiħa, affordabbli biex jinqeda minflok spiża li kellna nirkupraw permezz tal-paċjar — li hu preċiżament dak li s-saff ta' pacing kien qed jagħmel fuq 3.0.
04196,608 token: x'tiftaħ tieqa 6x akbar
Shannon 3.0 kellu tieqa ta' 32,768 token: sessjoni ta' xogħol, mhux dokument. Bejn wieħed u ieħor 70-80 paġna ta' proża, nieqes dak li jikkonsma ċ-ċiklu ta' raġunament għall-ħsieb tiegħu stess, nieqes il-prompt tas-sistema tiegħek, nieqes il-konverżazzjoni sa dak il-punt. Xogħol reali kien jaħbat ma' dak il-ħajt kontinwament, u s-soluzzjonijiet provviżorji — it-tqattigħ f'biċċiet, is-sommarju, ir-retrieval fuq il-materjal tiegħek stess — kollha jħassru l-ħaġa li kont qed tipprova żżomm. 196,608 token hi kategorija differenti ta' problema.
Konkretament, dak hu madwar 400-500 paġna ta' test bl-Ingliż, jew bażi ta' kodiċi ta' daqs medju bit-testijiet u l-README tagħha, jew sena ta' noti ta' laqgħat ta' proġett wieħed, jew sett sħiħ ta' kuntratti bl-annessi kollha tiegħu — miżmuma f'konverżazzjoni waħda, indirizzabbli f'mistoqsija waħda, mingħajr saff ta' tqattigħ bejnek u l-materjal.
- Mistoqsijiet fuq repożitorju sħiħ. Tella' l-kodiċi u staqsi għaliex bug jasal sal-produzzjoni, minflok ma twaħħal it-tliet fajls li diġà kont tissuspetta. Il-mudell jista' jsib il-fajl li ma ħsibtx li tinkludi.
- Analiżi ta' dokumenti twal mingħajr retrieval. Ir-retrieval hu pre-filtru li jitlef informazzjoni u li jiddeċiedi x'inhu permess jara l-mudell. B'196K spiss tista' taqbeż u tħalli l-mudell jaqra kollox, li jneħħi klassi sħiħa ta' falliment fejn is-silta t-tajba qatt ma nġibet.
- Konverżazzjonijiet li jibqgħu koerenti. Sessjoni twila ta' xogħol ma tibqax titlef bil-kwiet il-bidu tagħha stess. Restrizzjonijiet li stabbilixxejt fil-messaġġ tlieta xorta japplikaw fil-messaġġ tmenin.
- Spazju għaċ-ċiklu ta' raġunament. Il-ħsieb, l-abbozzar u r-reviżjoni taċ-ċiklu jikkonsmaw kuntest. Fuq 3.0 dawk il-passi kienu jikkompetu mal-materjal tiegħek għal baġit skars. Fuq 3.1 joqogħdu komdi, li hi parti mir-raġuni għaliex il-gwadann fil-kwalità u ż-żieda fit-tieqa waslu flimkien.
- Inputs kbar u mħallta. Immaġni, test estratt minn dokumenti u kodiċi f'daqqa waħda, mingħajr ma tagħżel liema minnhom tiflaħ tinkludi.
Twissija onesta waħda li tapplika għal kull mudell b'kuntest twil, tagħna inkluż: tieqa kbira hi kapaċità, mhux garanzija ta' attenzjoni uniformi tul it-tul tagħha. L-istruttura xorta tgħin. Li tqiegħed il-mistoqsija qrib it-tmiem, li tittikkettja d-dokumenti tiegħek, u li tgħid lill-mudell x'għandu jfittex kollha jtejbu r-riżultati b'mod li jitkejjel fuq 150K token b'mod li sempliċement ma jagħmlux fuq 5K.
05Lite u Pro: shannon-3.1 u shannon-3.1-pro
Iż-żewġ livelli jvarjaw f'kemm iħaddmu miċ-ċiklu ta' raġunament, u dik hi l-unika differenza li tgħodd biex tagħżel bejniethom.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Raġunament | Passata waħda | Ċiklu sħiħ + ġbir ta' għarfien |
| Awto-reviżjoni | Le | Iva |
| Tieqa ta' kuntest | 196,608 | 196,608 |
| Streaming | Veloċità sħiħa, bla limitu | Veloċità sħiħa, bla limitu |
| Viżjoni u dokumenti | Iva | Iva |
| Għodda ta' ġenerazzjoni ta' immaġni | Iva | Iva |
| L-aħjar għal | Il-biċċa l-kbira tax-xogħol, volum għoli | Mistoqsijiet diffiċli, l-ewwel abbozz mhux biżżejjed |
Uża Lite bħala default. Passata waħda ta' mudell ta' raġunament tajjeb tlaħħaq mal-maġġoranza kbira tat-talbiet reali, u fuq 3.1 hu mgħaġġel biżżejjed li ċ-ċiklu m'għadux xi ħaġa li tħoss ruħek tistenna. Aqbad Pro meta l-mistoqsija hi waħda fejn l-ewwel tweġiba normalment tkun żbaljata b'mod istruttiv: kompromessi arkitettoniċi, analiżi avversarja, kull ħaġa fejn tixtieq kollega kompetenti jorqod fuqha. Il-pass ta' awto-reviżjoni ta' Pro mhuwiex dekorazzjoni — hu l-mudell li jsib l-iżbalji tiegħu stess qabel ma jkollok tagħmlu int.
06Il-gwadann ta' 32% fl-intelliġenza, u kif taqrah
L-evalwazzjoni interna ta' Shannon Lab tqiegħed lil Shannon 3.1 f'titjib ta' 32% fl-intelliġenza fuq Shannon 3.0. Irridu nkunu ċari dwar x'inhu u x'mhuwiex.
Hi ċifra tagħna, mis-suite ta' evalwazzjoni interna tagħna, imkejla fuq ħidmiet li nqisu rappreżentattivi ta' dak li n-nies fil-fatt iġibu lil dawn il-mudelli. Mhijiex benchmark ta' parti terza, u m'aħniex nibnu tabella ta' klassifika madwar aggregat intern wieħed jew nippubblikaw tqassim benchmark b'benchmark — tqassim jimplika livell ta' komparabbiltà esterna li suite interna m'għandhiex.
Dak li se ngħidu hu minn fejn ġej il-gwadann, għax dik il-parti mhijiex misterjuża. Tieqa ta' kuntest akbar tfisser li inqas materjal irid jintrema qabel ma l-mudell jirraġuna fuqu, u ħafna mid-dehra ta' nuqqas ta' intelliġenza f'sessjonijiet twal fil-fatt hi sempliċement amnesija. Stack ta' servizz li nikkontrollaw aħna jfisser li l-mudell jaħdem bil-konfigurazzjoni li ridna aħna minflok b'default ta' host. U ċ-ċiklu ta' raġunament — mhux mibdul fid-disinn — issa għandu spazju biex fil-fatt jaħdem ġewwa t-tieqa minflok ma jkun magħsur kontra saqaf ta' 32K li kien jaqsam mal-input tiegħek.
L-aktar benchmark utli għalik hu tiegħek stess. Ħu prompt mill-ammont ta' xogħol reali tiegħek — mhux tħanżira, waħda vera — u ħaddmu fuq shannon-3 u mbagħad fuq shannon-3.1. Qabbel it-tweġibiet, u ħudilhom il-ħin. In-numri tagħna jiddeskrivu medja fuq suite; il-prompt tiegħek hu dak li jrid jitjieb.
07Viżjoni, dokumenti, u ġenerazzjoni ta' immaġni
Shannon 3.1 jaqra immaġni u dokumenti. Screenshots, dijagrammi, ritratti, paġni skenjati, PDFs u dokumenti ta' test jistgħu jidħlu fil-konverżazzjoni u jiġi rraġunat fuqhom flimkien ma' kollox. Flimkien mat-tieqa ta' 196K, dan hu li jagħmel prattiċi l-flussi tax-xogħol fuq dokumenti sħaħ: rapport twil bil-graffs tiegħu f'daqqa waħda, mingħajr ma tiddeċiedi minn qabel liema paġni hu permess jara l-mudell.
Il-ġenerazzjoni u l-editjar ta' immaġni huma disponibbli fiċ-chat bħala għodda. Itlob immaġni u l-mudell isejjaħ l-għodda fil-post, fl-istess konverżazzjoni, bil-kuntest ta' kollox li ġie diskuss sa dak il-ħin. L-editjar jaħdem bl-istess mod — agħtih immaġni, iddeskrivi l-bidla. M'hemm ebda modalità separata li taqleb għaliha u ebda interfaċċa separata x'titgħallem.
08Kif issejjaħ Shannon 3.1 mill-API
Shannon 3.1 hu disponibbli fuq it-tliet djaletti tal-API, bi streaming fuq kull wieħed. L-istess mudelli, tliet forom ta' talba — agħżel liema taqbel mal-SDK li diġà għandek.
| Endpoint | Forma | Streaming |
|---|---|---|
| /v1/chat/completions | Kompatibbli ma' OpenAI | Iva |
| /v1/messages | Kompatibbli ma' Anthropic | Iva |
| /v1/responses | Responses | Iva |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Ibdel "shannon-3.1" b'"shannon-3.1-pro" biex tħaddem iċ-ċiklu ta' raġunament sħiħ. Jekk diġà qed issejjaħ shannon-3, il-migrazzjoni hi l-id tal-mudell u xejn aktar: il-forom tat-talba u tar-risposta mhumiex mibdula, u l-klijenti ta' streaming eżistenti jibqgħu jaħdmu. L-unika differenza fl-imġiba li għandek tistenna hi l-istream aktar raffaluż deskritt fit-taqsima 02 — l-istess token, l-istess ordni, jaslu aktar kmieni u f'biċċiet inqas indaqs.
Ir-referenza sħiħa tal-parametri, l-awtentikazzjoni, is-semantika tal-iżbalji u playground interattiv jinsabu fid-dokumentazzjoni tal-API. Kards ta' mudelli oħra u kitbiet tekniċi jinsabu fir-riċerka ta' Shannon.
09Xorta bla ċensura, u mhux mibdul f'dak ir-rigward
Shannon 3.1 m'għandu ebda saff ta' rifjut u ebda filtrar tal-kontenut fuq il-produzzjoni. Din hi l-istess pożizzjoni bħall-bqija tal-linja Shannon u ma nbidlitx bil-mixja lejn il-cluster tagħna stess — jekk xejn, il-kontroll tal-istack ta' servizz jagħmilha eħfef biex tiġi garantita, għax m'hemm ebda host intermedju bil-politika tiegħu stess bilqiegħda bejn il-mudell u int.
Ta' min jingħad ċar għax hi l-ħaġa ovvja x'tistaqsi dwar ħruġ li biddel il-mogħdija sħiħa tal-produzzjoni: it-tneħħija tas-saff ta' pacing ma fissritx li ddaħħal saff ta' moderazzjoni minfloku. Xejn ma jispezzjona, jerġa' jikteb, jew jillimita l-istream. Dak li jipproduċi l-mudell hu dak li jasal. Shannon 3.1 hu, sa fejn nafu, l-aktar mudell AI bla ċensura mgħaġġel disponibbli b'tieqa ta' kuntest ta' dan id-daqs — u ż-żewġ proprjetajiet huma relatati, għax it-tnejn ġejjin mit-tħaddim tal-infrastruttura tagħna stess minflok il-kiri ta' kapaċità mfassla għall-konformità mingħand ħaddieħor.
Bla ċensura mhuwiex l-istess bħal bla responsabbiltà. L-użu hu regolat mill-Politika ta' Użu Responsabbli tagħna, u l-obbligu li jiġi ma' mudell li jidħol f'materjal iebes hu li int tidħol fih b'responsabbiltà.
10Agħmel it-tqabbil int
Kull dikjarazzjoni hawn tista' tiġi ċċekkjata f'madwar żewġ minuti, u nippreferu li tiċċekkja milli temminna.
- Agħżel prompt minn xogħol li fil-fatt tagħmel. Twil hu aħjar — jeżerċita kemm it-tieqa kif ukoll l-istreaming.
- Ħaddmu fuq
shannon-3. Innota kemm iddum sal-ewwel token, u kemm iddum sakemm titlesta t-tweġiba. - Ħaddem l-istess prompt eżatt fuq
shannon-3.1. Innota l-istess żewġ numri. - Imbagħad aqra ż-żewġ tweġibiet, injora l-arloġġ, u ddeċiedi liema minnhom kont tixtieq.
Id-differenza fil-veloċità se tkun immedjata u ovvja. Id-differenza fil-kwalità hi dik li jixraq toqgħod fuqha — tidher l-aktar ċara fuq inputs twal, fejn 3.0 kien qed jaħdem bil-kwiet b'inqas mill-materjal tiegħek milli kont taħseb.
11Mistoqsijiet frekwenti
X'inhu Shannon 3.1?
Shannon 3.1 hu l-ħruġ attwali tal-familja Shannon 3. Iżomm l-istess ċiklu ta' raġunament iterattiv — jaħseb, jabbozza, jirrevedi lilu nnifsu, itejjeb — imma jħaddmu b'mod nattiv fuq il-cluster GPU tagħna stess minflok fuq host ta' inferenza ta' parti terza. L-evalwazzjoni interna ta' Shannon Lab tkejjel titjib ta' 32% fl-intelliġenza u tweġibiet 10-15x aktar mgħaġġla meta mqabbla ma' Shannon 3.0, bit-tieqa ta' kuntest imtella' minn 32,768 għal 196,608 token.
Kemm hu aktar mgħaġġel Shannon 3.1 minn Shannon 3.0?
Bejn 10x u 15x aktar mgħaġġel fuq it-tweġibiet minn tarf sa tarf, skont l-evalwazzjoni interna ta' Shannon Lab. Żewġ affarijiet jispjegawh. Il-produzzjoni ta' Shannon 3.0 kienet tgħaddi minn saff ta' pacing li kien jillimita l-istream apposta; Shannon 3.1 m'għandu ebda limitu ta' veloċità u ebda pacing tal-iżvelar, għalhekk it-token jaslu għandek malli l-magna tipproduċihom. Il-magna nnifisha hi wkoll aktar mgħaġġla: piżijiet NVFP4 4-bit flimkien ma' dekodifikar spekulattiv fuq il-cluster GPU tagħna stess.
Kemm hi kbira t-tieqa ta' kuntest ta' Shannon 3.1?
196,608 token, żieda ta' 6x fuq is-32,768 token disponibbli fuq Shannon 3.0. Dak hu bejn wieħed u ieħor 400-500 paġna ta' test, jew bażi ta' kodiċi ta' daqs medju, miżmuma f'konverżazzjoni waħda mingħajr tqattigħ f'biċċiet jew retrieval.
X'inhu d-dekodifikar spekulattiv u għaliex jgħodd hawn?
Mudell abbozz żgħir u mgħaġġel jipproponi sensiela ta' token li x'aktarx imissu, u l-mudell prinċipali jivverifikahom f'passata waħda f'lott. It-token aċċettati jinħarġu minnufih; dawk irrifjutati jaqgħu lura fuq dekodifikar normali. Il-produzzjoni hi dik li l-mudell prinċipali kien joħroġ waħdu, imma jistgħu jinżlu diversi token f'kull pass ta' verifika minflok wieħed. Dan hu li jagħmel l-istreaming bil-veloċità sħiħa affordabbli minflok problema ta' spiża.
Shannon 3.1 hu bla ċensura?
Iva. Shannon 3.1 m'għandu ebda saff ta' rifjut u ebda filtrar tal-kontenut applikat fuq il-produzzjoni tiegħu, bħall-bqija tal-linja Shannon. It-tneħħija tas-saff ta' pacing ma żiditx saff ta' moderazzjoni minfloku — l-istream li tirċievi hu l-produzzjoni tal-mudell.
X'inhuma l-id tal-mudelli u fejn nista' nuża Shannon 3.1?
shannon-3.1 hu l-livell Lite u shannon-3.1-pro hu l-livell Pro. It-tnejn huma disponibbli fiċ-chat u fuq it-tliet djaletti tal-API: /v1/chat/completions (forma OpenAI), /v1/messages (forma Anthropic), u /v1/responses. L-istreaming jaħdem fuq it-tlieta.
X'inhi d-differenza bejn shannon-3.1 u shannon-3.1-pro?
Lite jħaddem passata waħda taċ-ċiklu ta' raġunament: jaħseb, imbagħad iwieġeb. Pro jħaddem iċ-ċiklu sħiħ — jaħseb, jabbozza, jirrevedi lilu nnifsu, itejjeb — b'pass ta' ġbir ta' għarfien qabel l-abbozzar. Lite hu d-default it-tajjeb għall-biċċa l-kbira tax-xogħol; Pro hu għall-mistoqsijiet fejn l-ewwel tweġiba normalment mhijiex l-aħjar waħda.
Ipprova Shannon 3.1
L-istess ċiklu ta' raġunament. Sitt darbiet it-tieqa. Ebda limitu ta' veloċità.
Ibda Ċċettja Aqra d-Dokumenti tal-APIshannon-3.1 · shannon-3.1-pro · streaming fuq it-tliet djaletti
Iċ-ċifri tal-prestazzjoni u tal-intelliġenza f'dan l-artiklu huma kejl ta' Shannon Lab stess minn evalwazzjoni interna, Settembru 2026, u huma ddikjarati bħala ċifri tal-prodott aktar milli riżultati ta' benchmarks ta' parti terza. It-tieqa ta' kuntest, l-id tal-mudelli, u d-disponibbiltà tal-API huma speċifikazzjonijiet tal-prodott. Shannon AI hu mħaddem minn Shannon Lab LLC, New Mexico, USA. Qari relatat: Shannon 3 · Indiċi tar-riċerka ta' Shannon · Dokumentazzjoni tal-API.