Shannon 3.1
Otu loop echiche ahụ, e bufere ya na ụyọkọ GPU nke anyị: amamihe dịkwuo 32%, ọsọ 10-15x, na windo ọnọdụ nke token 196,608.
Nkenke
Shannon 3.1 debere ihe niile mere Shannon 3 ji baa uru — loop echiche na-emeghachi onwe ya, enweghị akwa njụ, enweghị nzacha mmepụta — ma gbanwee ebe ọ na-agba na otu ọ si agba. Ụdị ahụ na-esi ugbu a na ụyọkọ GPU nke anyị abịa kama site na sava inference nke ndị ọzọ. Nyocha Shannon Lab na-atụ 32% mmụba n'amamihe na azịza ngwa ngwa 10-15x ma e jiri ya tụnyere Shannon 3.0. Windo ọnọdụ si na 32,768 gbagoo na 196,608 token. Akwa nhazi ọsọ ahụ nke mebiri ọsọ mmepụta 3.0 n'ụzọ ebumnobi adịghịzi ya: 3.1 na-agba streaming n'ọsọ zuru oke nke injin. Id ụdị bụ shannon-3.1 na shannon-3.1-pro, na chat nakwa n'ụdị API atọ niile.
Ọtụtụ mwepụta ụdị na-arịọ gị ka i kweta nkwupụta ike ha n'okwukwe ma chere ka tebụl benchmark kpebie okwu ahụ. Nke a dị mfe ịlele: mepee taabụ abụọ, tinye otu prompt ahụ na shannon-3 na shannon-3.1, wee lee anya. Ọdịiche dị n'ọsọ azịza si abịa abụghị ihe nzuzo, ọ bụghịkwa aghụghọ ngosipụta. E gbochiri Shannon 3.0 n'ụzọ ebumnobi. Shannon 3.1 abụghị.
01Ihe gbanwere n'ezie na Shannon 3.1
Shannon 3.0 wetara ihe na-akọwa ezinụlọ a: loop echiche na-emeghachi onwe ya. Ụdị ahụ anaghị aza site n'echiche mbụ ya. Ọ na-eche echiche, dee ndetu, nyochaa ndetu nke ya megide ajụjụ ahụ, wee kwalite ya. Lite na-agba otu ngafe nke loop ahụ; Pro na-agba loop ahụ zuru oke, gụnyere nzọụkwụ ịchịkọta ihe ọmụma tupu ọ dee ndetu. A kọwara atụmatụ ahụ nke ọma na edemede nnyocha Shannon 3, ọ dịghịkwa nke gbanwere na 3.1.
Ihe gbanwere bụ igwe dị n'okpuru. E jiri sava inference nke ndị ọzọ na-eje ozi Shannon 3.0 — ụzọ ezi uche dị na ya iji mepụta ụdị, ma ụzọ nwere mmachi iji gbaa ya. Ị na-eketa nhazi ozi onye ọzọ, kwụ n'ahịrị onye ọzọ, ọnụ ọnụ ọnọdụ onye ọzọ, na echiche onye ọzọ banyere ole token n'otu sekọnd e kwere ka i nwee. Shannon 3.1 na-agba na ụyọkọ GPU nke anyị, n'elu usoro ije ozi anyị hazie n'onwe anyị, ọnụọgụ ọ bụla dị n'edemede a sikwa na otu mkpebi ahụ pụta.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Ebe ọ na-agba | Sava ndị ọzọ | Ụyọkọ GPU nke anyị |
| Windo ọnọdụ | 32,768 | 196,608 |
| Streaming mmepụta | A na-egbochi ọsọ ya | Ọsọ injin zuru oke |
| Arọ | Ndabere sava | NVFP4 4-bit |
| Decoding | Nke nkịtị | Speculative |
| Loop echiche | Chee → dee ndetu → nyochaa → kwalite | Ọ gbanwebeghị |
| Akwa njụ | Ọ dịghị | Ọ dịghị |
| Id ụdị | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Ihe mere Shannon 3.1 ji dị ka ọ dị ọsọ 10-15x
Ọnụọgụ ọsọ bụ nke ndị mmadụ na-ebu ụzọ jụọ, ya mere ọ dị mkpa ịkọ nke ọma ebe o si abịa. E nwere ihe abụọ na-eme ya n'onwe ha, nke ka ukwuu n'ime ha abụghịkwa nke mara mma karịa.
Anyị wepụrụ ọnụ ụzọ ọsọ
Mmepụta Shannon 3.0 na-esi n'akwa nhazi ọsọ gafee. Token na-esi n'injin apụta, e jide ha, e wee hapụ ha gaa na njikọ gị site n'usoro oge. Nke a abụghị ihe mberede ma ọ bụ mmejọ. Mgbe sava inference a na-ekekọrịta bụ ihe na-egbochi ọsọ, ịhazi ọsọ mmepụta na-eme ka ibu dị larịị, na-egbochi mmepụta ogologo ka ọ ghara iji otu oghere naanị ya, ma na-eme ka streaming na-abịa n'usoro a ma ama, nke a pụrụ ịgụ, kama ịbịa mberede mberede. Ọ bụ mkpebi injinia e nwere ike ịgbachitere, ma ọ na-efu onye ọrụ ọ bụla ezigbo oge n'azịza ọ bụla.
Shannon 3.1 enweghị ọnụ ụzọ ọsọ ma enweghị nhazi ngosipụta. A na-ede token na streaming gị ka injin si emepụta ha. Ọ bụrụ na injin ahụ na-emepụta ngwa ngwa, ị na-ahụ ka ọ na-emepụta ngwa ngwa. Ọ dịghị ebe nchekwa nhazi n'etiti ụdị ahụ na terminal gị, windo chat gị, ma ọ bụ ihe ọgụgụ SSE gị. Maka ogologo azịza — nyocha token 2,000, faịlụ koodu e mepụtara — nke a naanị ya na-akọwa ọtụtụ n'ime ọdịmma ị ga-ahụ.
Ihe si na ya pụta n'eziokwu: streaming ugbu a na-abịa mberede mberede. Speculative decoding (n'okpuru) na-ewepụta token ndị e kwadoro n'obere usoro, ya mere ederede nwere ike ịbịa n'ìgwè a na-ahụ anya kama ịbịa otu okwu n'otu oge n'usoro dị ka clock. Ọ bụrụ na ị wuru UI gburugburu usoro dị larịị nke 3.0, ọ ka ga-arụ ọrụ — usoro na ọdịnaya token agbanweghị — mana ị nwere ike ịchọ iweghachi nhazi nke gị n'akụkụ onye ahịa ma ọ bụrụ na ọ masịrị gị ka ọ dị ka mkpịsị ede. Anyị chere na ọtụtụ mmadụ ga-achọkwu ka e nyeghachi ha sekọnd ndị ahụ.
Injin n'onwe ya bara ọsọ
Iwepụ ọnụ ụzọ ahụ na-enye aka naanị ma ọ bụrụ na ihe dị n'azụ ọnụ ụzọ ahụ dị ọsọ. Ihe nke abụọ na-eme ya bụ usoro ije ozi a kọwara na ngalaba 03: arọ NVFP4 4-bit na speculative decoding n'elu ihe mmụba ọgbọ ọhụrụ nke na-akwado FP4 na ụyọkọ nke anyị. Ha abụọ na-ebuli ọnụ ọnụ ahụ nke iwepụ ọnụ ụzọ ahụ na-ekpughe.
Oge nnọdụ azịza site na mmalite ruo ọgwụgwụ, nyocha ime ụlọ Shannon Lab, Septemba 2026. Oke ahụ na-egosi ogologo prompt na ọkwa: prompt dị mkpụmkpụ na Lite nọ n'akụkụ dị ala, ogologo mmepụta na Pro nọ n'akụkụ dị elu.
03Ihe speculative decoding na-eme n'ezie
A na-eji "speculative decoding inference" eme okwu mgbasa ozi, ya mere lee usoro ahụ, n'ụzọ doro anya.
Ụdị asụsụ na-emepụtakarị otu token n'otu ngafe ihu. Ọ bụghị mgbakọ na-eji ngafe ahụ ọrụ kama ọ bụ obosara ebe nchekwa — a ga-agụrịrị arọ ahụ tupu a gbakọọ ihe ọ bụla, ịgụ ha na-ewe ogologo oge karịa mgbakọ ahụ. GPU ahụ na-eji ọtụtụ oge ya na-echere ebe nchekwa ebe ngalaba mgbakọ ya nọ nkịtị. Imepụta token 500 pụtara ịkwụ ụgwọ oge nnọdụ ahụ ugboro 500, n'usoro.
Speculative decoding na-abanye n'akụkụ usoro ahụ. Obere ụdị ndetu dị ọnụ ala na-atụ aro obere usoro token ndị nwere ike ịbịa n'ihu — ka e kwuwe anọ ma ọ bụ asatọ. Isi ụdị ahụ na-enyocha usoro ahụ dum n'otu ngafe ihu, nke na-efu ihe kacha nta karịa otu token gaara efu, n'ihi na akụkụ dị oke ọnụ (ịgụ arọ ahụ) na-eme naanị otu ugboro n'ụzọ ọ bụla. A na-anabata ma wepụta ozugbo token ọ bụla e kwenyere na ya. Na nkwenye mbụ na-adịghị, a na-ebipụ usoro ahụ, decoding nkịtị amalitekwa site n'ebe ahụ.
Àgwà ahụ dị mkpa
Speculative decoding na-echekwa mmepụta. E wuru nzọụkwụ nnyocha ahụ ka usoro e kwadoro kesaa kpọmkwem otu ka nhọrọ nke isi ụdị ahụ gaara adị. Ị naghị enweta azịza nke ụdị ndetu ahụ, ị naghịkwa enweta ihe yiri azịza nke nnukwu ụdị ahụ. Ị na-enweta mmepụta nke isi ụdị ahụ, nke e rutere na nzọụkwụ ole na ole. Ụdị ndetu ahụ nwere ike imetụta naanị ọsọ, ọ dịghị mgbe ọ na-emetụta ọdịnaya.
Ọnụọgụ nnabata na-arụ ọrụ ahụ. N'ederede a pụrụ ịkọ — koodu mgbe niile, nhazi koodu, akụkụ na-ejikọta arụmụka — ụdị ndetu ahụ na-akọ nke ọma, ogologo usoro na-adakwa n'otu mgbe. Na token ndị siri ike n'ezie, nnabata na-ada, sistemụ ahụ na-alaghachikwa n'ụzọ dị nwayọ na decoding otu token n'otu oge. Nke ahụ bụ ọdịiche ị chọrọ: ọ na-eme ka akụkụ dị mfe dị ọsọ, ọ naghịkwa emetụ ndị siri ike aka.
Ihe mere arọ 4-bit ji nọrọ n'otu paragraf
Ebe ọ bụ na ihe na-egbochi ọsọ bụ obosara ebe nchekwa, ibelata arọ ahụ bụ ihe na-akpali ọsọ kpọmkwem, ọ bụghị naanị nke ohere nchekwa. NVFP4 bụ usoro floating-point nke 4-bit nwere ntụziaka per-block dị nro, nke na-eme ka ọ jide izi ezi ebe usoro quantization integer 4-bit ochie tụfuru ya. Ihe dịka otu ụzọ n'ụzọ anọ nke bytes a ga-agụ n'otu ngafe pụtara oge dị ntakịrị a na-eche ebe nchekwa, ọ na-ahapụkwa oghere buru ibu maka KV cache ogologo ọnọdụ nke windo 196K chọrọ.
Ha abụọ na-arụkọ ọrụ kama ịgbakwụnye naanị: bytes dị ole na ole n'otu ngafe, na ngafe dị ole na ole n'otu token e wepụtara. Nke ahụ bụ ihe na-eme ka streaming n'ọsọ zuru oke, nke enweghị ọnụ ụzọ, bụrụ ihe e nwere ike ije ozi ya kama ịbụ ọnụ ahịa anyị ga-eweghachite site na nhazi ọsọ — nke bụ kpọmkwem ihe akwa nhazi ọsọ ahụ na-eme na 3.0.
04Token 196,608: ihe windo 6x na-emeghe
Shannon 3.0 nwere windo token 32,768: nnọkọ ọrụ, ọ bụghị akwụkwọ. Ihe dịka peeji 70-80 nke ederede, wepụ ihe ọ bụla loop echiche ahụ na-eri maka echiche nke ya, wepụ prompt sistemụ gị, wepụ mkparịta ụka ruo ugbu a. Ezigbo ọrụ na-akụ mgbidi ahụ mgbe niile, ụzọ mgbanwe ahụ — nkewa, nchịkọta, retrieval n'elu ihe nke gị — na-emebi ihe ị na-achọ ichekwa. Token 196,608 bụ ụdị nsogbu dị iche.
N'ụzọ doro anya, nke ahụ bụ ihe dịka peeji 400-500 nke ederede Bekee, ma ọ bụ ebe nchekwa koodu dị mma n'ogo tinyere ule ya na README ya, ma ọ bụ afọ nke ndetu nzukọ otu ọrụ, ma ọ bụ nkwekọrịta zuru oke tinyere ihe ngosi ya niile — nke a na-ejide n'otu mkparịta ụka, nke a na-ajụ n'otu ajụjụ, na-enweghị akwa nkewa n'etiti gị na ihe ahụ.
- Ajụjụ gbasara ebe nchekwa koodu dum. Bunye koodu ahụ ma jụọ ihe mere mmejọ ji eru na mmepụta, kama ịmapụta faịlụ atọ ahụ ị mabu na ha bụ ndị ikpe. Ụdị ahụ nwere ike ịchọta faịlụ ị na-echeghị itinye.
- Nyocha ogologo akwụkwọ na-enweghị retrieval. Retrieval bụ nzacha mbụ na-efunahụ ihe ma na-ekpebi ihe e kwere ka ụdị ahụ hụ. Na 196K, ị nwere ike ịmafe ya ma hapụ ụdị ahụ ka ọ gụọ ihe niile, nke na-ewepụ ụdị ọdịda dum ebe a na-adịghị enweta akụkụ ziri ezi.
- Mkparịta ụka na-adịgide n'usoro. Ogologo nnọkọ ọrụ anaghịzi atụfu mmalite nke ya na nzuzo. Mmachi ị tọrọ na ozi nke atọ ka na-adị na ozi nke iri asatọ.
- Ohere maka loop echiche ahụ. Echiche, ndetu na nnyocha nke loop ahụ na-eri ọnọdụ. Na 3.0, nzọụkwụ ndị ahụ na-asọ mpi na ihe gị maka ego dị ụkọ. Na 3.1 ha dabara nke ọma, nke bụ akụkụ nke ihe mere uto ogo na mmụba windo ji abịakọ ọnụ.
- Nnukwu ntinye agwakọtara. Foto, ederede e wepụtara n'akwụkwọ na koodu n'otu ntụgharị, na-enweghị ikpebi nke ị nwere ike itinye.
Otu nkọwa eziokwu nke metụtara ụdị ogologo ọnọdụ ọ bụla, gụnyere nke anyị: nnukwu windo bụ ikike, ọ bụghị nkwa nke nlebara anya n'ụzọ hà nhata n'ime ya. Nhazi ka na-enye aka. Itinye ajụjụ ahụ nso na njedebe, ịkpọ aha akwụkwọ gị, na ịgwa ụdị ahụ ihe ọ ga-achọ — ihe ndị a niile na-eme ka nsonaazụ dịkwuo mma na token 150K n'ụzọ ha na-adịghị eme na 5K.
05Lite na Pro: shannon-3.1 na shannon-3.1-pro
Ọkwa abụọ ahụ dị iche n'ụzọ ole na loop echiche ha na-agba, nke ahụ bụkwa naanị ọdịiche dị mkpa maka ịhọrọ n'etiti ha.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Echiche | Otu ngafe | Loop zuru oke + ịchịkọta ihe ọmụma |
| Nnyocha onwe ya | Mba | Ee |
| Windo ọnọdụ | 196,608 | 196,608 |
| Streaming | Ọsọ zuru oke, enweghị mgbochi | Ọsọ zuru oke, enweghị mgbochi |
| Ọhụụ & akwụkwọ | Ee | Ee |
| Ngwá ọrụ imepụta foto | Ee | Ee |
| Kacha mma maka | Ọtụtụ ọrụ, oke ibu | Ajụjụ siri ike, ndetu mbụ ezughị |
Jiri Lite ka ndabere. Otu ngafe nke ezigbo ụdị echiche na-edozi ọtụtụ n'ime ezigbo arịrịọ, na 3.1 ọ dị ọsọ nke ọma nke na loop ahụ abụghịzi ihe ị na-eche eche. Gaa maka Pro mgbe ajụjụ ahụ bụ nke azịza mbụ na-abụkarị nke ezighị ezi n'ụzọ na-akụzi ihe: mgbanwe nhazi sistemụ, nyocha ndị iro, ihe ọ bụla ị ga-achọ ka ezigbo onye ọrụ ibe gị lakpuo ụra n'elu ya. Nzọụkwụ nnyocha onwe ya nke Pro abụghị ihe ịchọ mma — ọ bụ ụdị ahụ na-achọta mmejọ nke ya tupu ị chọọ ime ya.
06Uto amamihe 32% ahụ, na otu esi agụ ya
Nyocha Shannon Lab n'onwe ya na-etinye Shannon 3.1 na 32% mmụba n'amamihe karịa Shannon 3.0. Anyị chọrọ ka o doo anya ihe nke ahụ bụ na ihe ọ na-abụghị.
Ọ bụ ọnụọgụ anyị, si na ngwa nyocha ime ụlọ anyị, nke a tụrụ n'ọrụ anyị chere na ha na-anọchite ihe ndị mmadụ na-ewetara ụdị ndị a n'ezie. Ọ bụghị benchmark ndị ọzọ, anyị anaghịkwa ewu tebụl ndị isi gburugburu otu ọnụọgụ ime ụlọ ma ọ bụ ebipụta nkewa benchmark n'otu n'otu — nkewa dị otú ahụ na-egosi ọkwa ntụnyere mpụga nke ngwa nyocha ime ụlọ na-enweghị.
Ihe anyị ga-ekwu bụ ebe uto ahụ si abịa, n'ihi na akụkụ ahụ abụghị ihe omimi. Windo ọnọdụ buru ibu pụtara na a ga-atụfu ihe dị ntakịrị tupu ụdị ahụ echee echiche n'elu ya, ọtụtụ n'ime ihe yiri enweghị amamihe n'ogologo nnọkọ bụ n'ezie naanị nchefu. Usoro ije ozi anyị na-achịkwa pụtara na ụdị ahụ na-agba na nhazi anyị bu n'obi kama ndabere sava mmadụ ọzọ. Loop echiche ahụ — nke atụmatụ ya agbanweghị — nwerekwa ugbu a ohere ịgba n'ime windo ahụ n'ezie kama ịpị ya megide ọnụ ọnụ 32K nke ya na ntinye gị kesara.
Benchmark kacha baara gị uru bụ nke gị. Were prompt si n'ezigbo ọrụ gị — ọ bụghị egwuregwu ọgụgụ isi, kama nke n'ezie — ma gbaa ya na shannon-3 wee gbaa ya na shannon-3.1. Tụnyere azịza ndị ahụ, ma tụọ oge ha. Ọnụọgụ anyị na-akọwa nkezi n'ofe ngwa nyocha; prompt gị bụ nke a ghaghị ime ka ọ ka mma.
07Ọhụụ, akwụkwọ, na imepụta foto
Shannon 3.1 na-agụ foto na akwụkwọ. Foto ihuenyo, eserese, foto, peeji e nyochara, PDF na akwụkwọ ederede nwere ike ịbanye na mkparịta ụka ahụ ka a chegharịa n'elu ha tinyere ihe ndị ọzọ niile. Jikọta ya na windo 196K, nke a bụ ihe na-eme ka usoro ọrụ akwụkwọ dum bụrụ ihe a pụrụ ime: ogologo akụnụba na chaatị ya n'otu ntụgharị, na-ekpebighị tupu oge eruo peeji ndị e kwere ka ụdị ahụ hụ.
Imepụta na idezi foto dị na chat dịka ngwá ọrụ. Rịọ maka foto, ụdị ahụ akpọọ ngwá ọrụ ahụ ozugbo, n'otu mkparịta ụka ahụ, jiri ọnọdụ nke ihe niile a tụlere ruo ugbu a. Idezi na-arụ ọrụ otu ụzọ ahụ — nye ya foto, kọwaa mgbanwe ahụ. Ọ dịghị ụzọ dị iche ị ga-abanye na ọ dịghịkwa interface dị iche ị ga-amụta.
08Ịkpọ Shannon 3.1 site na API
Shannon 3.1 dị n'ụdị API atọ niile, streaming dịkwa na nke ọ bụla. Otu ụdị ahụ, ụdị arịrịọ atọ — họrọ nke dabara na SDK ị nwerelarị.
| Endpoint | Ụdị | Streaming |
|---|---|---|
| /v1/chat/completions | Dakọtara na OpenAI | Ee |
| /v1/messages | Dakọtara na Anthropic | Ee |
| /v1/responses | Responses | Ee |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Gbanwee "shannon-3.1" ka ọ bụrụ "shannon-3.1-pro" iji gbaa loop echiche ahụ zuru oke. Ọ bụrụ na ị na-akpọ shannon-3 ugbua, mbufe bụ naanị id ụdị ahụ: ụdị arịrịọ na nzaghachi agbanweghị, ndị ahịa streaming dị adị na-arụkwa ọrụ. Otu ọdịiche omume ị ga-atụ anya ya bụ streaming na-abịa mberede mberede a kọwara na ngalaba 02 — otu token ahụ, otu usoro ahụ, na-abịa ngwa ngwa ma na-abịa n'ìgwè na-adịghị hà nhata.
Ntụaka paramita zuru oke, nyocha njirimara, nkọwa njehie na ebe egwuregwu na-arụ ọrụ dị na akwụkwọ ntụziaka API. Kaadị ụdị ndị ọzọ na edemede teknụzụ dị na nnyocha Shannon.
09Ọ ka bụ nke enweghị mmachi, ọ gbanwekwaghị n'akụkụ ahụ
Shannon 3.1 enweghị akwa njụ ma enweghị nzacha ọdịnaya na mmepụta. Nke a bụ otu ọnọdụ ahụ dịka ndị ọzọ n'ahịrị Shannon, ọ gbanwekwaghị mgbe anyị kwagara na ụyọkọ nke anyị — ọ bụrụ na ọ dị, ịchịkwa usoro ije ozi na-eme ka ọ dị mfe ikwe nkwa ya, n'ihi na ọ dịghị sava etiti nwere iwu nke ya nọ n'etiti ụdị ahụ na gị.
Ọ dị mkpa ikwu ya n'ụzọ doro anya n'ihi na ọ bụ ihe doro anya a ga-eche banyere mwepụta gbanwere ụzọ mmepụta dum: iwepụ akwa nhazi ọsọ apụtaghị itinye akwa nhazi omume n'ọnọdụ ya. Ọ dịghị ihe na-enyocha, na-edegharị, ma ọ bụ na-egbochi streaming ahụ. Ihe ụdị ahụ na-emepụta bụ ihe na-abịa. Shannon 3.1 bụ, ka anyị maara, ụdị AI enweghị mmachi kacha ọsọ dị adị nke nwere windo ọnọdụ buru ibu otú a — ihe abụọ ahụ ejikọkwara ọnụ, ebe ọ bụ na ha abụọ si n'ịgba sava nke aka anyị kama ịgbaziri ikike ndị e hazichara maka nrube isi n'aka onye ọzọ.
Enweghị mmachi abụghị otu ihe na enweghị ntụkwasị obi. Iwu Amụma Iji N'ụzọ Ziri Ezi anyị na-achịkwa ojiji ya, ibu ọrụ na-eso ụdị nke ga-abanye n'ihe siri ike bụ na ị ga-ejikwa ya n'ụzọ ziri ezi.
10Gbaa ntụnyere ahụ n'onwe gị
Nkwupụta ọ bụla dị ebe a bụ nke a pụrụ ịnyocha n'ihe dịka nkeji abụọ, anyị ga-achọkwu ka ị nyochaa ya karịa ikwere anyị.
- Họrọ prompt si n'ọrụ ị na-arụ n'ezie. Ogologo ka mma — ọ na-anwale ma windo ma streaming.
- Gbaa ya na
shannon-3. Detuo ogologo oge ruo token mbụ, na ogologo oge ruo mgbe azịza ahụ zuru ezu. - Gbaa otu prompt ahụ na
shannon-3.1. Detuo otu ọnụọgụ abụọ ahụ. - Mgbe ahụ gụọ azịza abụọ ahụ, leghara elekere anya, wee kpebie nke ị gaara achọ.
Ọdịiche ọsọ ahụ ga-adị ozugbo ma pụta ìhè. Ọdịiche ogo bụ nke bara uru ịnọdụ na ya — ọ na-apụta ìhè karịa n'ogologo ntinye, ebe 3.0 na-eji ihe gị dị ntakịrị karịa ka i chere n'ụzọ jụụ.
11Ajụjụ a na-ajụkarị
Gịnị bụ Shannon 3.1?
Shannon 3.1 bụ mwepụta ọhụrụ nke ezinụlọ Shannon 3. Ọ debere otu loop echiche ahụ na-emeghachi onwe ya — iche echiche, ide ndetu, ịnyocha onwe ya, ịkwalite — mana ọ na-agba ya na ụyọkọ GPU nke anyị kama na sava inference nke ndị ọzọ. Nyocha nke Shannon Lab n'onwe ya na-atụ 32% mmụba n'amamihe na azịza ngwa ngwa 10-15x ma e jiri ya tụnyere Shannon 3.0, ebe windo ọnọdụ si na 32,768 rịgoro na 196,608 token.
Kedu ka Shannon 3.1 si dị ọsọ karịa Shannon 3.0?
N'agbata 10x na 15x ọsọ na azịza site na mmalite ruo ọgwụgwụ, dịka nyocha Shannon Lab n'onwe ya siri kwuo. Ihe abụọ na-akpata ya. Mmepụta Shannon 3.0 na-esi n'akwa nhazi ọsọ gafee nke na-egbochi ọsọ streaming n'ụzọ ebumnobi; Shannon 3.1 enweghị ọnụ ụzọ ọsọ ma ọ bụ nhazi ngosipụta, ya mere token na-eru gị aka ngwa ngwa ka injin si mepụta ha. Injin n'onwe ya dịkwa ọsọ karịa: arọ NVFP4 4-bit tinyere speculative decoding na ụyọkọ GPU nke anyị.
Kedu ka windo ọnọdụ Shannon 3.1 hara?
Token 196,608, mmụba nke 6x karịa token 32,768 dị na Shannon 3.0. Nke ahụ bụ ihe dịka peeji 400-500 nke ederede, ma ọ bụ ebe nchekwa koodu nke dị mma n'ogo, nke a na-ejide n'otu mkparịta ụka na-enweghị nkewa ma ọ bụ retrieval.
Gịnị bụ speculative decoding ma gịnị mere o ji dị mkpa ebe a?
Obere ụdị ndetu dị ọsọ na-atụ aro usoro token ndị nwere ike ịbịa n'ihu, isi ụdị ahụ enyochaa ha niile n'otu ngafe. A na-ewepụta token ndị e kwadoro ozugbo; ndị a jụrụ ajụ na-alaghachi na decoding nkịtị. Ihe si na ya pụta bụ ihe isi ụdị ahụ gaara emepụta n'onwe ya, mana ọtụtụ token nwere ike ịda n'otu nzọụkwụ nnyocha kama otu. Ọ bụ ya na-eme ka streaming n'ọsọ zuru oke bụrụ ihe e nwere ike ịkwụ ụgwọ ya kama ka ọ bụrụ nsogbu ego.
Shannon 3.1 ọ bụ nke enweghị mmachi?
Ee. Shannon 3.1 enweghị akwa njụ ma enweghị nzacha ọdịnaya e tinyere na mmepụta ya, otu ihe ahụ dịka ndị ọzọ n'ahịrị Shannon. Iwepụ akwa nhazi ọsọ etinyeghị akwa nhazi omume n'ọnọdụ ya — ihe streaming ị na-anata bụ mmepụta nke ụdị ahụ.
Kedu id ụdị ahụ na ebe m nwere ike iji Shannon 3.1?
shannon-3.1 bụ ọkwa Lite, shannon-3.1-pro bụkwa ọkwa Pro. Ha abụọ dị na chat na n'ụdị API atọ niile: /v1/chat/completions (ụdị OpenAI), /v1/messages (ụdị Anthropic), na /v1/responses. Streaming na-arụ ọrụ na ha atọ niile.
Kedu ihe dị iche n'etiti shannon-3.1 na shannon-3.1-pro?
Lite na-agba otu ngafe nke loop echiche: ọ na-eche echiche, wee zaa. Pro na-agba loop ahụ zuru oke — iche echiche, ide ndetu, ịnyocha onwe ya, ịkwalite — tinyere nzọụkwụ ịchịkọta ihe ọmụma tupu ọ dee ndetu. Lite bụ ihe ziri ezi maka ọtụtụ ọrụ; Pro bụ maka ajụjụ ebe azịza mbụ anaghị abụkarị nke kacha mma.
Nwalee Shannon 3.1
Otu loop echiche ahụ. Windo okpukpu isii. Enweghị ọnụ ụzọ ọsọ.
Malite Ikwu Okwu Gụọ Akwụkwọ APIshannon-3.1 · shannon-3.1-pro · streaming n'ụdị atọ niile
Ọnụọgụ arụmọrụ na amamihe dị n'edemede a bụ ihe Shannon Lab tụrụ n'onwe ya site na nyocha ime ụlọ, Septemba 2026, e kwuputakwara ha dị ka ọnụọgụ ngwaahịa kama nsonaazụ benchmark ndị ọzọ. Windo ọnọdụ, id ụdị, na ịdị adị API bụ nkọwapụta ngwaahịa. Shannon Lab LLC, New Mexico, USA na-elekọta Shannon AI. Ihe ọgụgụ metụtara ya: Shannon 3 · Ndeksi nnyocha Shannon · Akwụkwọ ntụziaka API.