Shannon 3.1
Potoloho e tshwanang ya ho nahana, e fallisetswe sehlopheng sa rona sa di-GPU: bohlale bo eketsehileng ka 32%, lebelo le eketsehileng ka makgetlo a 10-15, le context ya di-token tse 196,608.
Kakaretso e Kgutshwane
Shannon 3.1 e boloka tsohle tse neng di etsa hore Shannon 3 e be ya bohlokwa — potoloho ya ho nahana ka makgetlo, ha ho lera la ho hana, ha ho sefe sa tswantsho — mme e fetola moo e sebetsang teng le kamoo e sebetsang ka teng. Model hona jwale e tswa sehlopheng sa rona sa di-GPU ho ena le ho moamoheli wa boraro wa inference. Tlhahlobo ya Shannon Lab e lekanya keketseho ya 32% bohlaleng le dikarabo tse potlakileng ka makgetlo a 10-15 ha e bapiswa le Shannon 3.0. Context e tloha ho di-token tse 32,768 ho ya ho tse 196,608. Lera le neng le fokotsa lebelo la tswantsho ya 3.0 ka boomo le tlositswe: 3.1 e phalla ka lebelo le feletseng la enjene. Di-id tsa model ke shannon-3.1 le shannon-3.1-pro, ka chat le dipuong tsohle tse tharo tsa API.
Ditokollo tse ngata tsa model di o kopa hore o dumele tseko ya bokgoni mme o eme tafole ya benchmark e rarolle ngangisano. Ena e bonolo ho e hlahloba: bula ditepe tse pedi, kenya prompt e tshwanang ho shannon-3 le ho shannon-3.1, mme o shebelle. Phapang ya kamoo karabo e fihlang ka potlako ka teng ha e patehe, mme hase leqheka la ho hlahisa. Shannon 3.0 e ne e thibetswe ka boomo. Shannon 3.1 ha e a thibelwa.
01Ke eng hantle se fetohileng ho Shannon 3.1
Shannon 3.0 e ile ya tlisa ntho e hlalosang lelapa lena: potoloho ya ho nahana ka makgetlo. Model ha e arabe monahanong wa yona wa pele. E a nahana, e ngola draft, e hlahloba draft ya yona kgahlanong le potso, mme e e ntlafatsa. Lite e matha phetiso e le nngwe ya potoloho eo; Pro e matha potoloho e felletseng, ho kenyeletswa le mohato wa ho kotula tsebo pele e ngola draft. Moralo oo o hlalositswe ka botlalo sengolweng sa dipatlisiso sa Shannon 3, mme ha ho letho la ona le fetohileng ho 3.1.
Se fetohileng ke mochine o ka tlase. Shannon 3.0 e ne e tswa ho moamoheli wa boraro wa inference — mokgwa o utlwahalang wa ho qala model, empa o thibelang ha o e sebetsisa. O ja mokgwa wa motho e mong wa ho sebeletsa, mola wa motho e mong, moedi wa context wa motho e mong, le maikutlo a motho e mong a hore na o dumelletswe di-token tse kae ka motsotswana. Shannon 3.1 e sebetsa sehlopheng sa rona sa di-GPU, hodima mokgwa wa tshebeletso oo re o hlophisang, mme palo e nngwe le e nngwe e kgolo sengolweng sena e tswa qetong eo e le nngwe.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Moo e sebetsang teng | Moamoheli wa boraro | Sehlopha sa rona sa di-GPU |
| Context | 32,768 | 196,608 |
| Phallo ya tswantsho | E laolwa / e thibetswe | Lebelo le feletseng la enjene |
| Boima | Tlwaelo ya moamoheli | NVFP4 ya 4-bit |
| Decoding | E tlwaelehileng | Speculative |
| Potoloho ya ho nahana | Nahana → draft → hlahloba → ntlafatsa | Ha e a fetoha |
| Lera la ho hana | Ha le yo | Ha le yo |
| Di-id tsa model | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Hobaneng Shannon 3.1 e utlwahala e potlakile ka makgetlo a 10-15
Palo ya lebelo ke yona batho ba e botsang pele, kahoo ho molemo ho hlalosa ka ho toba moo e tswang teng. Ho na le dintlha tse pedi tse ikemetseng, mme e kgolo ke e sa kgahliseng haholo.
Re tlositse heke ya lebelo
Tswantsho ya Shannon 3.0 e ne e feta leheng la ho laola lebelo. Di-token di ne di tswa enjeneng, di tshwarwe, mme di lokollelwe kgokahanong ya hao ka lenaneo. Sena e ne e se kotsi kapa phoso. Ha moamoheli wa inference o arolelanwang e le ona o thibelang, ho laola lebelo la tswantsho ho boreletsa mojaro, ho thibela tlhahiso e telele ho nka sebaka feela, mme ho etsa hore phallo e fihle ka morethetho o lebelletsweng, o balehang, ho ena le ka dikgohlo. Ke kgetho ya boenjiniere e nang le lebaka, mme e ne e ja mosebedisi e mong le e mong nako ya sebele karabong e nngwe le e nngwe.
Shannon 3.1 ha e na heke ya lebelo mme ha e laole ponahalo. Di-token di ngolwa phallong ya hao ha enjene e ntse e di hlahisa. Haeba enjene e hlahisa ka potlako, o e bona e hlahisa ka potlako. Ha ho na buffer ya ho boreletsa pakeng tsa model le terminal ya hao, fensetere ya hao ya chat, kapa sebadi sa hao sa SSE. Karabong e telele — tlhahlobo ya di-token tse 2,000, faele ya khoutu e hlahisitsweng — sena se le sona se baka boholo ba ntlafatso eo o tla e bona.
Sephetho se tshepahalang: phallo hona jwale e tla ka dikgohlo. Speculative decoding (ka tlase) e ntsha di-token tse amohetsweng ka matoto a makgutshwane, kahoo mongolo o ka fihla ka dihlopha tse bonahalang ho ena le ka morethetho wa lentswe ka leng. Haeba o ile wa haha UI hodima morethetho o boreletseng wa 3.0, e ntse e tla sebetsa — tatellano le dikahare tsa di-token ha di angwe — empa o ka rata ho kenya ho boreletsa ha hao ha lehlakoreng la moreki haeba o ne o rata ponahalo ya thaepa. Re nahana hore batho ba bangata ba ka rata ho fumana metsotswana yeo hape.
Enjene ka boyona e ile ya potlaka
Ho tlosa heke ho thusa feela haeba se ka morao ho heke se potlakile. Ntlha ya bobedi ke mokgwa wa tshebeletso o hlalositsweng karolong ya 03: boima ba NVFP4 ba 4-bit le speculative decoding hodima di-accelerator tsa moloko wa hajwale tse tsebang FP4 ka tlhaho sehlopheng sa rona. Hammoho tsena di phahamisa moedi oo ho tlosa heke ho o pepesang.
Latency ya karabo e felletseng e bapisitsweng, tlhahlobo ya kahare ya Shannon Lab, Loetse 2026. Sebaka sena se bonahatsa bolelele ba prompt le boemo: di-prompt tse kgutshwane ho Lite di ka tlase, ditlhahiso tse telele ho Pro di hodimo.
03Speculative decoding e etsa eng hantle
"Speculative decoding inference" e sebedisitswe e le lentswe la papatso, kahoo mona ke mokgwa wa yona, ka ho hlaka.
Model ya puo hangata e hlahisa token e le nngwe phetisong e nngwe le e nngwe. Phetiso eo ha e laolwe ke dipalo empa ke bandwidth ya memori — boima bo tlameha ho balwa pele ho ka balwa eng kapa eng, mme ho bo bala ho nka nako e telele haholo ho feta dipalo tsa mmele. GPU e qeta nako ya yona e ngata e emetse memori ha diyuniti tsa yona tsa ho bala di sa sebetse. Ho hlahisa di-token tse 500 ho bolela ho lefa latency eo makgetlo a 500, ka tatellano.
Speculative decoding e hlasela karolo ya tatellano. Model e nyenyane, e theko e tlase ya draft e sisinya letoto le lekgutshwane la di-token tse ka latelang — a re re tse nne kapa tse robedi. Model e kgolo ebe e hlahloba letoto leo lohle phetisong e le nngwe e kopantsweng, e jang hanyane feela ho feta ho hlahloba token e le nngwe, hobane karolo e theko e phahameng (ho bala boima) e etsahala hang ka mokgwa ofe kapa ofe. Token e nngwe le e nngwe e sisinngwang eo model e kgolo e dumellanang le yona e a amohelwa mme e ntshwa hang. Ha ho eba le ho se dumellane la pele, letoto le a kgaolwa mme decoding e tlwaelehileng e qala hape ho tloha moo.
Thepa ya bohlokwa
Speculative decoding e boloka tswantsho e sa fetoheng. Mohato wa netefatso o hlophisitswe ka tsela e etsang hore letoto le amohetsweng le abuwe hantle jwalo ka ha ho nka disampole ha model e kgolo ka boyona ho ne ho tla ba. Ha o fumane karabo ya model ya draft, mme ha o fumane tekanyetso ya karabo ya model e kgolo. O fumana tswantsho ya model e kgolo, e fihletsweng ka mehato e fokolang ya tatellano. Model ya draft e ka ama lebelo feela, ha e ka ke ya ama dikahare.
Sekgahla sa kamohelo se etsa mosebetsi. Mongolong o lebelletsweng — boilerplate, sebopeho sa khoutu, dikgokahanyo tsa ngangisano — model ya draft e hakanya hantle mme matoto a matelele a fihla hang. Ho di-token tse thata ka nnete, kamohelo e a theoha mme sistimi e kgutlela ka bonolo ho decoding e tlwaelehileng ya token ka nngwe. Ho se lekane hoo ke hona o ho batlang: ho potlakisa dikarolo tse bonolo mme ha ho ame tse thata.
Hobaneng boima ba 4-bit bo le serapeng se le seng
Hobane se thibelang ke bandwidth ya memori, ho fokotsa boima ke sesebediswa se tobileng sa lebelo, e seng feela sa sebaka sa memori. NVFP4 ke sebopeho sa floating-point sa 4-bit se nang le ho lekanya ha hlokolosi ka block, e leng se e dumellang ho boloka nepahalo moo mekgwa ya kgale ya quantization ya di-integer tsa 4-bit e neng e e lahlehelwa. Hoo e ka bang karolo ya bone ya di-byte tse balwang phetisong e nngwe le e nngwe ho bolela nako e nyane haholo e qetwang ho emela memori, mme ho siya sebaka se seholo bakeng sa KV cache ya context e telele eo fensetere ya 196K e e hlokang.
Tse pedi tsena di a atisana ho ena le ho kopanngwa feela: di-byte tse fokolang phetisong, le diphetiso tse fokolang token e nngwe le e nngwe e ntshwang. Ke sona se etsang hore streaming e sa thibelwang, ya lebelo le feletseng, e be e tshwarehang ho e fana ho ena le ditjeo tseo re neng re tla tlameha ho di khutlisa ka ho laola lebelo — e leng hantle seo lera la ho laola lebelo le neng le se etsa ho 3.0.
04Di-token tse 196,608: fensetere e kgolo ka makgetlo a 6 e bula eng
Shannon 3.0 e ne e na le fensetere ya di-token tse 32,768: seboka sa mosebetsi, e seng tokomane. Hoo e ka bang maqephe a 70-80 a mongolo, ho tlosa seo potoloho ya ho nahana e se jang bakeng sa monahano wa yona, ho tlosa prompt ya hao ya sistimi, ho tlosa puisano e seng e etsahetse. Mosebetsi wa sebele o ne o thulana le lebota leo kgafetsa, mme ditharollo — ho arola dikarolo, ho akaretsa, retrieval hodima thepa ya hao — kaofela di senya ntho eo o neng o leka ho e boloka. Di-token tse 196,608 ke mofuta o mong wa bothata.
Ka ho toba, seo se ka ba maqephe a 400-500 a mongolo wa Senyesemane, kapa codebase e mahareng le diteko tsa yona le README ya yona, kapa selemo sa dintlha tsa dikopano tsa morero o le mong, kapa sehlopha se felletseng sa dikonteraka le dikenyeletso tsohle tsa tsona — di tshwerwe puisanong e le nngwe, di fumanehang potsong e le nngwe, ntle le lera la ho arola pakeng tsa hao le thepa eo.
- Dipotso tsa repository e felletseng. Kenya khoutu mme o botse hore na hobaneng phoso e fihla tlhahisong, ho ena le ho kopitsa difaele tse tharo tseo o neng o se o di belaela. Model e ka fumana faele eo o sa kang wa nahana ho e kenyeletsa.
- Tlhahlobo ya tokomane e telele ntle le retrieval. Retrieval ke sefe sa pele se lahlehelwang ke tse ding, se qetang hore na model e dumelletswe ho bona eng. Ho 196K o ka e feta hangata mme wa dumella model ho bala tsohle, e leng ho tlosang mofuta ohle wa ho hloleha moo temana e nepahetseng e neng e sa fumanwe le kamehla.
- Dipuisano tse dulang di kwahlamane. Seboka se selelele sa mosebetsi ha se sa lahla qalo ya sona ka setu. Meedi eo o e behileng molaetseng wa boraro e ntse e sebetsa molaetseng wa mashome a robedi.
- Sebaka bakeng sa potoloho ya ho nahana. Ho nahana, ho ngola draft le ho hlahloba ha potoloho ho ja context. Ho 3.0 mehato eo e ne e hlodisana le thepa ya hao bakeng sa tekanyetso e nyenyane. Ho 3.1 e a lekana ka bonolo, e leng karolo ya lebaka leo keketseho ya boleng le keketseho ya fensetere di fihlileng hammoho ka lona.
- Dikenyo tse kgolo tse tswakaneng. Ditshwantsho, mongolo o ntshitsweng tokomaneng le khoutu ka phetho e le nngwe, ntle le ho kgetha hore na ke tsefe tseo o ka di kenyang.
Tlhokomediso e le nngwe e tshepahalang e sebetsang ho model e nngwe le e nngwe ya context e telele, le ya rona: fensetere e kgolo ke bokgoni, e seng tiisetso ya tlhokomelo e lekanang hohle. Sebopeho se ntse se thusa. Ho beha potso qetellong, ho bea mabitso ditokomaneng tsa hao, le ho bolella model hore e batle eng — tsohle di ntlafatsa dipheto ka tsela e lekanyehang ho 150K di-token ka mokgwa oo di sa e etseng ka teng ho 5K.
05Lite le Pro: shannon-3.1 le shannon-3.1-pro
Maemo ana a mabedi a fapana ka hore na a matha karolo e kae ya potoloho ya ho nahana, mme ke yona feela phapang e bohlokwa ha o kgetha pakeng tsa ona.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Ho nahana | Phetiso e le nngwe | Potoloho e felletseng + ho kotula tsebo |
| Boitlhahlobo | Tjhe | E |
| Context | 196,608 | 196,608 |
| Streaming | Lebelo le feletseng, ha e thibelwe | Lebelo le feletseng, ha e thibelwe |
| Pono le ditokomane | E | E |
| Sesebediswa sa tlhahiso ya ditshwantsho | E | E |
| E loketse | Mesebetsi e mengata, palo e kgolo | Dipotso tse thata, draft ya pele e sa lekana |
Sebedisa Lite kamehla. Phetiso e le nngwe ya model e ntle ya ho nahana e sebetsana le boholo ba dikopo tsa sebele, mme ho 3.1 e potlakile ho lekaneng hoo potoloho e seng e sa hlole e le ntho eo o e emelang. Fihlela Pro ha potso e le eo karabo ya pele hangata e fosahalang ho yona ka tsela e rutang: dikgetho tsa moralo, tlhahlobo ya bora, ntho efe kapa efe eo o neng o ka batla hore mosebetsi-mmoho ya nang le tsebo a e robale. Mohato wa boitlhahlobo wa Pro hase mokgabiso — ke model e fumanang diphoso tsa yona pele o tlameha ho di fumana.
06Keketseho ya bohlale ya 32%, le kamoo o e balang ka teng
Tlhahlobo ya Shannon Lab ka boyona e beha Shannon 3.1 keketsehong ya 32% bohlaleng ho feta Shannon 3.0. Re batla ho hlaka ka seo e leng sona le seo e seng sona.
Ke palo ya rona, e tswang setsing sa rona sa kahare sa tlhahlobo, e lekantsweng mesebetsing eo re e nkang e emetse seo batho ba se tlisang di-model tsena. Hase benchmark ya motho wa boraro, mme ha re hahe tafole ya boemo hodima palo e le nngwe ya kahare kapa ho hatisa karoloano ya benchmark ka nngwe — karoloano e bolela boemo ba papiso ya kantle boo setsi sa kahare se se nang bona.
Seo re tla se bolela ke moo keketseho e tswang teng, hobane karolo eo ha e patehe. Fensetere e kgolo ya context e bolela hore ke thepa e nyane e tlamehang ho lahlwa pele model e nahana ka yona, mme boholo ba se bonahalang e le ho hloka bohlale dibokeng tse telele ha e le hantle ke ho lebala feela. Mokgwa wa tshebeletso oo re o laolang o bolela hore model e sebetsa ka tlhophiso eo re neng re e rerile ho ena le tlwaelo ya moamoheli. Mme potoloho ya ho nahana — e sa fetoheng moralong — hona jwale e na le sebaka sa ho sebetsa kahare ho fensetere ho ena le ho patikelwa moeding wa 32K oo e neng e o arolelana le kenyo ya hao.
Benchmark e molemohadi ho wena ke ya hao. Nka prompt mosebetsing wa hao wa sebele — e seng phophotho, e le ya sebele — mme o e mathise ho shannon-3 ebe ho shannon-3.1. Bapisa dikarabo, mme o di lekanye ka nako. Dipalo tsa rona di hlalosa palogare ya setsi sohle; prompt ya hao ke yona e tlamehang ho ntlafala.
07Pono, ditokomane, le tlhahiso ya ditshwantsho
Shannon 3.1 e bala ditshwantsho le ditokomane. Di-screenshot, ditshwantsho tsa moralo, dinepe, maqephe a hlakotsweng, di-PDF le ditokomane tsa mongolo di ka kena puisanong mme tsa nahanwa hammoho le tse ding tsohle. Ha e kopanngwa le fensetere ya 196K, sena ke sona se etsang hore mesebetsi ya tokomane e felletseng e sebetsehe: tlaleho e telele le ditshwantsho tsa yona phethong e le nngwe, ntle le ho etsa qeto esale pele hore na ke maqephe afe ao model e dumelletsweng ho a bona.
Tlhahiso le ho lokisa ditshwantsho di fumaneha ka chat e le sesebediswa. Kopa setshwantsho mme model e bitsa sesebediswa ka hare, puisanong e tshwanang, ka context ya tsohle tse buisitsweng ho fihlela jwale. Ho lokisa ho sebetsa ka tsela e tshwanang — e fe setshwantsho, o hlalose phetoho. Ha ho na mokgwa o mong oo o lokelang ho fetela ho ona ebile ha ho na sebopeho se seng seo o lokelang ho ithuta sona.
08Ho bitsa Shannon 3.1 ho tswa ho API
Shannon 3.1 e fumaneha dipuong tsohle tse tharo tsa API, ka streaming ho e nngwe le e nngwe. Di-model tse tshwanang, dibopeho tse tharo tsa dikopo — kgetha e tsamaisanang le SDK eo o seng o na le yona.
| Endpoint | Sebopeho | Streaming |
|---|---|---|
| /v1/chat/completions | E tsamaisanang le OpenAI | E |
| /v1/messages | E tsamaisanang le Anthropic | E |
| /v1/responses | Responses | E |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Fetola "shannon-3.1" ka "shannon-3.1-pro" ho matha potoloho e felletseng ya ho nahana. Haeba o se o bitsa shannon-3, ho fallela ke id ya model feela mme ha ho letho le leng: dibopeho tsa kopo le tsa karabo ha di a fetoha, mme bareki ba teng ba streaming ba tswela pele ho sebetsa. Phapang e le nngwe ya boitshwaro eo o lokelang ho e lebella ke phallo e tlang ka dikgohlo e hlalositsweng karolong ya 02 — di-token tse tshwanang, tatellano e tshwanang, di fihla kapele mme ka dihlopha tse sa lekanang.
Tshupiso e felletseng ya di-parameter, netefatso, moelelo wa diphoso le sebaka sa ho leka se fumaneha ditokomaneng tsa API. Dikarete tse ding tsa di-model le dingolwa tsa setegeniki di ho dipatlisiso tsa Shannon.
09E ntse e se na thibelo, mme ha e a fetoha ntlheng eo
Shannon 3.1 ha e na lera la ho hana ho araba ebile ha ho na sefe sa dikahare tswantshong. Ona ke mokgwa o tshwanang le wa mola wohle wa Shannon mme ha o a fetoha ha re fallela sehlopheng sa rona — haeba ho na le phapang, ho laola mokgwa wa tshebeletso ho etsa hore ho be bonolo ho tiisa sena, hobane ha ho na moamoheli wa mahareng ya nang le leano la hae ya dutseng pakeng tsa model le wena.
Ho bohlokwa ho bolela sena ka ho hlaka hobane ke ntho e totobetseng eo motho a ka e ipotsang ka tokollo e fetotseng tsela yohle ya tswantsho: ho tlosa lera la ho laola lebelo ha ho a bolela ho kenya lera la taolo ya dikahare sebakeng sa lona. Ha ho letho le hlahlobang, le ngolang bocha, kapa le thibelang phallo. Seo model e se hlahisang ke sona se fihlang. Ho ya kamoo re tsebang ka teng, Shannon 3.1 ke model ya AI e se nang thibelo e potlakileng ka ho fetisisa e fumanehang e nang le context e kgolo hakana — mme dintho tsena tse pedi di a amana, hobane ka bobedi di tswa ho ho sebetsisa meaho ya rona ho ena le ho hira bokgoni bo hlophisitsweng ka melao ya motho e mong.
Ho se be le thibelo ha ho tshwane le ho se ikarabelle. Tshebediso e laolwa ke Leano la rona la Tshebediso e Ikarabellang, mme boikarabelo bo tlang le model e tla sebetsana le dintho tse thata ke hore o sebetsane le tsona ka boikarabelo.
10Etsa papiso ka bowena
Tseko e nngwe le e nngwe mona e ka hlahlobuwa ka metsotso e ka bang mmedi, mme re ka mpa ra rata hore o hlahlobe ho ena le ho re dumela.
- Kgetha prompt mosebetsing oo o o etsang e le kannete. E telele e molemo — e sebetsisa fensetere le streaming ka bobedi.
- E mathise ho
shannon-3. Bona hore ho nka nako e kae ho fihlela token ya pele, le hore ho nka nako e kae ho fihlela karabo e fela. - Mathisa prompt e tshwanang ho
shannon-3.1. Bona dipalo tse pedi tse tshwanang. - Ebe o bala dikarabo ka bobedi, o hlokomolohe wachi, mme o qete hore na ke efe eo o neng o tla e batla.
Phapang ya lebelo e tla bonahala hang ebile e totobetse. Phapang ya boleng ke yona e lokelang ho hlwauwa — e bonahala ka ho hlaka dikenyong tse telele, moo 3.0 e neng e sebetsa ka setu ka thepa ya hao e nyane ho feta kamoo o neng o nahana ka teng.
11Dipotso tse botswang hangata
Shannon 3.1 ke eng?
Shannon 3.1 ke tokollo ya hajwale ya lelapa la Shannon 3. E boloka potoloho e tshwanang ya ho nahana ka makgetlo — ho nahana, ho ngola draft, ho itlhahloba, ho ntlafatsa — empa e e sebetsisa ka ho toba sehlopheng sa rona sa di-GPU, e seng ho moamoheli wa boraro wa inference. Tlhahlobo ya Shannon Lab ka boyona e lekanya keketseho ya 32% bohlaleng le dikarabo tse potlakileng ka makgetlo a 10-15 ha e bapiswa le Shannon 3.0, ha context e nyolohile ho tloha ho di-token tse 32,768 ho ya ho tse 196,608.
Shannon 3.1 e potlakile hakae ho feta Shannon 3.0?
E potlakile ka makgetlo a pakeng tsa 10 le 15 dikarabong tse felletseng, ho ya ka tlhahlobo ya Shannon Lab ka boyona. Dintlha tse pedi di baka sena. Tswantsho ya Shannon 3.0 e ne e feta leheng la ho laola lebelo le neng le thibela sekgahla sa phallo ka boomo; Shannon 3.1 ha e na heke ya lebelo kapa ho laola ponahalo, kahoo di-token di o fihlela ka lebelo leo enjene e di hlahisang ka lona. Enjene ka boyona le yona e potlakile: boima ba NVFP4 ba 4-bit hammoho le speculative decoding sehlopheng sa rona sa di-GPU.
Context ya Shannon 3.1 e kgolo hakae?
Di-token tse 196,608, keketseho ya makgetlo a 6 ho feta di-token tse 32,768 tse neng di fumaneha ho Shannon 3.0. Seo se ka ba maqephe a 400-500 a mongolo, kapa codebase e mahareng, e tshwerweng puisanong e le nngwe ntle le ho arola dikarolo kapa ho sebedisa retrieval.
Speculative decoding ke eng mme e bohlokwa hobaneng mona?
Model e nyenyane, e potlakileng ya draft e sisinya letoto la di-token tse ka latelang mme model e kgolo e di netefatsa ka phetiso e le nngwe e kopantsweng. Di-token tse amohetsweng di tswa hang; tse hanwang di kgutlela ho decoding e tlwaelehileng. Tswantsho ke seo model e kgolo e neng e tla se hlahisa ka boyona, empa di-token tse ngata di ka fihla mohatong o le mong wa netefatso ho ena le e le nngwe. Ke sona se etsang hore streaming ka lebelo le feletseng e be e theko e tshwarehang ho ena le ho ba bothata ba ditjeo.
Na Shannon 3.1 ha e na thibelo?
E, ha e na. Shannon 3.1 ha e na lera la ho hana ho araba mme ha ho na sefe sa dikahare se sebetsang tswantshong ya yona, jwalo ka mola wohle wa Shannon. Ho tlosa lera la ho laola lebelo ha ho a tlisa lera la taolo ya dikahare sebakeng sa lona — phallo eo o e amohelang ke tswantsho ya model.
Di-id tsa model ke dife mme nka sebedisa Shannon 3.1 kae?
shannon-3.1 ke boemo ba Lite mme shannon-3.1-pro ke boemo ba Pro. Ka bobedi di fumaneha ka chat le dipuong tsohle tse tharo tsa API: /v1/chat/completions (sebopeho sa OpenAI), /v1/messages (sebopeho sa Anthropic), le /v1/responses. Streaming e sebetsa ho tsona tsohle tse tharo.
Phapang pakeng tsa shannon-3.1 le shannon-3.1-pro ke efe?
Lite e matha phetiso e le nngwe ya potoloho ya ho nahana: e a nahana, ebe e a araba. Pro e matha potoloho e felletseng — ho nahana, ho ngola draft, ho itlhahloba, ho ntlafatsa — le mohato wa ho kotula tsebo pele e ngola draft. Lite ke kgetho e nepahetseng ya kamehla mesebetsing e mengata; Pro ke ya dipotso moo karabo ya pele hangata e seng e molemo ka ho fetisisa.
Leka Shannon 3.1
Potoloho e tshwanang ya ho nahana. Fensetere e kgolo ka makgetlo a tsheletseng. Ha ho heke ya lebelo.
Qala ho Qoqa Bala Ditokomane tsa APIshannon-3.1 · shannon-3.1-pro · streaming dipuong tsohle tse tharo
Dipalo tsa tshebetso le tsa bohlale sengolweng sena ke ditekanyo tsa Shannon Lab ka boyona tse tswang tlhahlobong ya kahare, Loetse 2026, mme di bolelwa e le dipalo tsa sehlahiswa ho ena le dipheto tsa benchmark ya motho wa boraro. Fensetere ya context, di-id tsa model, le ho fumaneha ha API ke ditlhaloso tsa sehlahiswa. Shannon AI e tsamaiswa ke Shannon Lab LLC, New Mexico, USA. Ho bala ho amanang: Shannon 3 · Tshupiso ya dipatlisiso tsa Shannon · Ditokomane tsa API.