Shannon 3.1

Model buraxılışlarının çoxu sizdən qabiliyyət iddiasına inanmağı və mübahisəni həll edəcək benchmark cədvəlini gözləməyi tələb edir. Bunu yoxlamaq daha asandır: iki tab açın, eyni sorğunu shannon-3 və shannon-3.1-ə verin və izləyin. Cavabın nə qədər tez gəlməsindəki fərq incə deyil və bu, render hiyləsi də deyil. Shannon 3.0 qəsdən boğulmuşdu. Shannon 3.1 boğulmayıb.

01Shannon 3.1-də əslində nə dəyişdi

Shannon 3.0 bu ailəni müəyyən edən şeyi gətirdi: iterativ əsaslandırma döngüsü. Model ilk ağlına gələnlə cavab vermir. O düşünür, qaralama yazır, qaralamasını sualla tutuşdurub yoxlayır və təkmilləşdirir. Lite bu döngünü bir dəfə keçir; Pro isə qaralamadan əvvəlki bilik toplama addımı da daxil olmaqla tam döngünü icra edir. Bu dizayn Shannon 3 tədqiqat məqaləsində ətraflı təsvir olunub və onun heç bir hissəsi 3.1-də dəyişməyib.

Dəyişən şey alt qatdakı mexanizmdir. Shannon 3.0 üçüncü tərəf inferens hostu vasitəsilə xidmət göstərirdi — modeli buraxmaq üçün ağıllı, onu işlətmək üçün isə məhdudlaşdırıcı bir yol. Siz başqasının xidmət konfiqurasiyasını, başqasının növbəsini, başqasının kontekst tavanını və saniyədə neçə tokenə haqqınız olduğu barədə başqasının təsəvvürünü miras alırsınız. Shannon 3.1 öz GPU klasterimizdə, özümüzün konfiqurasiya etdiyi xidmət yığınında işləyir və bu məqalədəki hər əsas rəqəm həmin tək qərarın nəticəsidir.

	Shannon 3.0	Shannon 3.1
Harada işləyir	Üçüncü tərəf host	Öz GPU klasterimiz
Kontekst pəncərəsi	32,768	196,608
Çıxış axını	Tempə salınmış / məhdudlaşdırılmış	Tam mühərrik sürəti
Çəkilər	Hostun standartı	4-bit NVFP4
Dekodlaşdırma	Standart	Spekulyativ
Əsaslandırma döngüsü	Düşün → qaralama → yoxla → təkmilləşdir	Dəyişməyib
İmtina qatı	Yoxdur	Yoxdur
Model id-ləri	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Shannon 3.1 niyə 10-15 dəfə sürətli hiss olunur

İnsanların ilk soruşduğu rəqəm sürətdir, ona görə də onun haradan gəldiyini dəqiq izah etmək lazımdır. İki müstəqil töhfə var və daha böyük olanı ikisindən daha az cazibədarıdır.

Sürət qapısını götürdük

Shannon 3.0-ın çıxışı tempə salma qatından keçirdi. Tokenlər mühərriki tərk edir, saxlanılır və qrafik üzrə sizin bağlantınıza buraxılırdı. Bu, təsadüf və ya səhv deyildi. Paylaşılan inferens hostu darboğaz olduqda, çıxışı tempə salmaq yükü hamarlayır, uzun generasiyanın bir slotu tək başına tutmasının qarşısını alır və axının partlayışlarla deyil, proqnozlaşdırıla bilən, oxunaqlı ritmlə gəlməsini təmin edir. Bu, müdafiə oluna bilən mühəndis qərarıdır və hər istifadəçiyə hər bir cavabda real vaxt itkisi bahasına başa gəlirdi.

Shannon 3.1-də nə sürət qapısı, nə də açılma tempi var. Tokenlər mühərrik onları istehsal etdikcə axınınıza yazılır. Mühərrik sürətlə generasiya edirsə, siz onun sürətlə generasiya etdiyini görürsünüz. Model ilə terminalınız, çat pəncərəniz və ya SSE oxuyucunuz arasında hamarlayıcı bufer yoxdur. Uzun cavab üçün — 2,000 tokenlik təhlil, generasiya olunmuş kod faylı — hiss edəcəyiniz yaxşılaşmanın böyük hissəsini təkbaşına bu təşkil edir.

Dürüst bir nəticə: axın artıq partlayışlıdır. Spekulyativ dekodlaşdırma (aşağıda) qəbul edilən tokenləri qısa seriyalarla verir, ona görə mətn metronom kimi bir-bir söz axını ilə deyil, görünən bloklarla gələ bilər. İnterfeysinizi 3.0-ın hamar ritmi üzərində qurmusunuzsa, o yenə işləyəcək — token sırası və məzmunu dəyişmir — sadəcə yazı makinası görünüşünü üstün tuturdunuzsa, öz müştəri tərəfli yumşaltmanızı yenidən əlavə etmək istəyə bilərsiniz. Fikrimizcə, insanların çoxu saniyələri geri almağa üstünlük verər.

Mühərrikin özü də sürətləndi

Qapını götürmək yalnız qapının arxasındakı sürətlidirsə kömək edir. İkinci töhfə 03-cü bölmədə təsvir olunan xidmət yığınıdır: öz klasterimizdəki cari nəsil, FP4-nativ sürətləndiricilərdə 4-bit NVFP4 çəkiləri və spekulyativ dekodlaşdırma. Birlikdə bunlar qapının götürülməsi ilə üzə çıxan tavanı qaldırır.

Nisbi uçdan-uca cavab gecikməsi, Shannon Lab daxili qiymətləndirməsi, sentyabr 2026. Diapazon sorğu uzunluğunu və pilləni əks etdirir: Lite-da qısa sorğular aşağı hədd, Pro-da uzun generasiyalar yuxarı hədd yaxınlığındadır.

03Spekulyativ dekodlaşdırma əslində nə edir

"Spekulyativ dekodlaşdırma inferensi" marketinq sözü kimi işlədilir, ona görə mexanizmi sadə dillə izah edirik.

Dil modeli adətən hər irəli keçiddə bir token istehsal edir. Bu keçiddə hakim olan hesab əməliyyatları deyil, yaddaş buraxılış qabiliyyətidir — nəyisə hesablamaq üçün çəkiləri oxumaq lazımdır və onları oxumaq riyaziyyatdan qat-qat uzun çəkir. GPU vaxtının çoxunu hesablama vahidləri boş qalmış halda yaddaşı gözləməklə keçirir. 500 token generasiya etmək bu gecikməni 500 dəfə, ardıcıl olaraq ödəmək deməkdir.

Spekulyativ dekodlaşdırma məhz ardıcıllıq hissəsinə hücum edir. Kiçik və ucuz qaralama modeli ehtimal olunan növbəti tokenlərdən qısa bir seriya təklif edir — tutaq ki, dörd və ya səkkiz. Sonra əsas model bütün seriyanı tək paketlənmiş irəli keçiddə qiymətləndirir və bu, bir tokeni qiymətləndirməkdən çətinliklə baha başa gəlir, çünki bahalı hissə (çəkilərin oxunması) hər iki halda bir dəfə baş verir. Əsas modelin razılaşdığı hər təklif olunan token qəbul edilir və dərhal verilir. İlk fikir ayrılığında seriya kəsilir və oradan adi dekodlaşdırma bərpa olunur.

Əsas işi qəbul dərəcəsi görür. Proqnozlaşdırıla bilən mətndə — şablon kod, kod strukturu, arqumentin bağlayıcı toxuması — qaralama modeli yaxşı təxmin edir və uzun seriyalar bir anda yerinə düşür. Həqiqətən çətin tokenlərdə qəbul dərəcəsi düşür və sistem incə şəkildə adi bir-bir token dekodlaşdırmasına qayıdır. İstədiyiniz asimmetriya da budur: asan hissələri sürətləndirir, çətinlərə isə toxunmur.

4-bit çəkilər niyə eyni abzasa aiddir

Darboğaz yaddaş buraxılış qabiliyyəti olduğu üçün, çəkiləri kiçiltmək sadəcə yaddaş həcmi deyil, birbaşa sürət qaldıracıdır. NVFP4 incə dənəvərlikli, blok üzrə miqyaslamaya malik 4-bit sürüşən nöqtəli formatdır və köhnə 4-bit tam ədəd kvantlaşdırma sxemlərinin itirdiyi dəqiqliyi saxlamağa imkan verən də budur. Hər irəli keçiddə oxunacaq baytların təxminən dörddə birə düşməsi yaddaşı gözləməyə nisbətdə o qədər az vaxt deməkdir və 196K pəncərənin tələb etdiyi uzun kontekstli KV keşi üçün xeyli daha çox yer buraxır.

Bu ikisi sadəcə toplanmır, bir-birini gücləndirir: hər keçiddə daha az bayt və verilən hər token üçün daha az keçid. Tam sürətli, qapısız axını xidmət etmək üçün əlverişli edən — tempə salma yolu ilə geri qaytarmalı olacağımız xərc deyil — məhz budur; 3.0-da tempə salma qatının etdiyi iş də elə bu idi.

04196,608 token: 6 dəfə böyük pəncərə nəyi açır

Shannon 3.0-ın 32,768 tokenlik pəncərəsi var idi: iş sessiyası, sənəd deyil. Təxminən 70-80 səhifə nəsr — üstəlik əsaslandırma döngüsünün öz düşüncəsinə sərf etdiyi, sistem sorğunuz və indiyədək olan söhbət çıxılmaqla. Real iş daim bu divara dəyirdi və çıxış yolları — parçalama, xülasələmə, öz materialınız üzərində axtarış — hamısı qorumaq istədiyiniz şeyi korlayır. 196,608 token isə tamam başqa kateqoriyalı məsələdir.

Konkret desək, bu təxminən 400-500 səhifə mətn, ya testləri və README-si ilə birlikdə orta ölçülü kod bazası, ya bir layihənin bir illik iclas qeydləri, ya da bütün əlavələri ilə tam müqavilə dəsti deməkdir — hamısı tək söhbətdə saxlanılır, tək sualla ünvanlanır və sizinlə material arasında heç bir parçalama qatı olmadan.

• Bütöv repozitoriya sualları. Kodu yükləyin və artıq şübhələndiyiniz üç faylı yapışdırmaq əvəzinə, bir səhvin niyə produksiyaya çatdığını soruşun. Model daxil etməyi ağlınıza gəlməyən faylı tapa bilər.
• Axtarışsız uzun sənəd təhlili. Axtarış modelin nəyi görməyə icazəsi olduğunu qərara alan itkili ilkin filtrdir. 196K-da onu çox vaxt buraxıb modelin hər şeyi oxumasına imkan verə bilərsiniz və bu, doğru parçanın heç vaxt tapılmadığı bütöv bir uğursuzluq sinfini aradan qaldırır.
• Ardıcıllığını qoruyan söhbətlər. Uzun iş sessiyası artıq öz başlanğıcını səssizcə itirmir. Üçüncü mesajda qoyduğunuz məhdudiyyətlər səksəninci mesajda da qüvvədə qalır.
• Əsaslandırma döngüsü üçün yer. Döngünün öz düşüncəsi, qaralaması və yoxlaması kontekst yeyir. 3.0-da bu addımlar qıt büdcə uğrunda sizin materialınızla yarışırdı. 3.1-də isə rahat yerləşirlər və keyfiyyət artımı ilə pəncərənin böyüməsinin birlikdə gəlməsinin səbəblərindən biri də budur.
• Böyük qarışıq girişlər. Şəkillər, çıxarılmış sənəd mətni və kod tək bir növbədə — hansını daxil etməyə imkanınız çatdığını seçmək məcburiyyəti olmadan.

Bizimki də daxil olmaqla hər uzun kontekstli modelə aid dürüst bir qeyd: böyük pəncərə tutumdur, onun bütün uzunluğunda bərabər diqqətə zəmanət deyil. Struktur yenə kömək edir. Sualı sona yaxın qoymaq, sənədlərinizi etiketləmək və modelə nəyi axtarmalı olduğunu demək — bunların hamısı 150K tokendə nəticələri ölçüləbilən şəkildə yaxşılaşdırır, 5K-da isə sadəcə yaxşılaşdırmır.

05Lite və Pro: shannon-3.1 və shannon-3.1-pro

İki pillə əsaslandırma döngüsünün nə qədərini icra etdikləri ilə fərqlənir və aralarında seçim üçün əhəmiyyət daşıyan yeganə fərq budur.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Əsaslandırma	Tək keçid	Tam döngü + bilik toplama
Özünüyoxlama	Yox	Bəli
Kontekst pəncərəsi	196,608	196,608
Axın	Tam sürət, qapısız	Tam sürət, qapısız
Görmə və sənədlər	Bəli	Bəli
Şəkil yaratma aləti	Bəli	Bəli
Ən uyğun olduğu iş	İşlərin çoxu, yüksək həcm	Çətin suallar, ilk qaralama kifayət etmir

Standart olaraq Lite-dan istifadə edin. Yaxşı əsaslandırma modelinin bir keçidi real sorğuların böyük əksəriyyətinin öhdəsindən gəlir və 3.1-də o qədər sürətlidir ki, döngünü gözlədiyinizi artıq hiss etmirsiniz. Pro-ya müraciət edin — sualın ilk cavabı adətən öyrədici şəkildə səhv olanda: memarlıq güzəştləri, düşmən mövqeyindən təhlil, səriştəli həmkarınızın üstündə bir gecə düşünməsini istəyəcəyiniz hər şey. Pro-nun özünüyoxlama addımı bəzək deyil — bu, modelin öz səhvlərini siz tapmalı olmadan əvvəl tapmasıdır.

0632% intellekt artımı və onu necə oxumaq lazımdır

Shannon Lab-ın öz qiymətləndirməsi Shannon 3.1-i Shannon 3.0-a nisbətən intellektdə 32% yaxşılaşma ilə yerləşdirir. Bunun nə olduğunu və nə olmadığını aydın demək istəyirik.

Bu bizim rəqəmimizdir — daxili qiymətləndirmə dəstimizdən, insanların bu modellərə həqiqətən gətirdiyi işi təmsil etdiyini düşündüyümüz tapşırıqlarda ölçülüb. Bu, üçüncü tərəf benchmark-ı deyil və biz tək bir daxili yekun rəqəm ətrafında reytinq cədvəli qurmuruq, benchmark üzrə bölgü də dərc etmirik — belə bir bölgü daxili dəstin malik olmadığı bir xarici müqayisə edilə bilmə səviyyəsini nəzərdə tutur.

Deyəcəyimiz şey artımın haradan gəldiyidir, çünki bu hissə sirli deyil. Daha böyük kontekst pəncərəsi model əsaslandırmadan əvvəl daha az materialın atılması deməkdir və uzun sessiyalarda görünən intellektsizliyin böyük hissəsi əslində sadəcə yaddaş itkisidir. Nəzarətimizdə olan xidmət yığını modelin hostun standartı ilə deyil, bizim nəzərdə tutduğumuz konfiqurasiya ilə işləməsi deməkdir. Və dizaynı dəyişməyən əsaslandırma döngüsü artıq girişinizlə paylaşdığı 32K tavana sıxılmaq əvəzinə pəncərənin içində həqiqətən işləməyə yer tapır.

07Görmə, sənədlər və şəkil yaratma

Shannon 3.1 şəkilləri və sənədləri oxuyur. Ekran görüntüləri, diaqramlar, fotoşəkillər, skan edilmiş səhifələr, PDF-lər və mətn sənədləri söhbətə daxil ola və qalan hər şeylə birlikdə təhlil edilə bilər. 196K pəncərə ilə birləşdikdə bütöv sənəd iş axınlarını praktik edən də budur: uzun hesabat və onun qrafikləri tək növbədə, modelin hansı səhifələri görməyə haqqı olduğunu qabaqcadan qərara almadan.

Şəkil yaratma və redaktə çatda alət kimi əlçatandır. Şəkil istəyin, model eyni söhbətin içində, indiyədək müzakirə olunan hər şeyin kontekstində aləti sətir üzrə çağırır. Redaktə də eyni cür işləyir — ona şəkil verin, dəyişikliyi təsvir edin. Keçilməli ayrıca rejim və öyrəniləsi ayrıca interfeys yoxdur.

08Shannon 3.1-i API-dan çağırmaq

Shannon 3.1 hər üç API dialektində, hər birində axın dəstəyi ilə mövcuddur. Eyni modellər, üç sorğu forması — artıq əlinizdə olan SDK-ya uyğun olanı seçin.

Endpoint	Forma	Axın
/v1/chat/completions	OpenAI uyğun	Bəli
/v1/messages	Anthropic uyğun	Bəli
/v1/responses	Responses	Bəli

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Tam əsaslandırma döngüsünü işlətmək üçün "shannon-3.1"-i "shannon-3.1-pro" ilə əvəz edin. Artıq shannon-3-ü çağırırsınızsa, miqrasiya yalnız model id-sindən ibarətdir: sorğu və cavab formaları dəyişməyib, mövcud axın müştəriləri işləməyə davam edir. Gözləməli olduğunuz yeganə davranış fərqi 02-ci bölmədə təsvir olunan daha partlayışlı axındır — eyni tokenlər, eyni sıra, sadəcə daha tez və daha qeyri-bərabər bloklarla.

Tam parametr arayışı, autentifikasiya, xəta semantikası və interaktiv playground API sənədlərindədir. Digər model kartları və texniki yazılar Shannon tədqiqat bölməsindədir.

09Yenə senzurasız və bu baxımdan dəyişməz

Shannon 3.1-də imtina qatı yoxdur və çıxışa məzmun filtri tətbiq edilmir. Bu, Shannon xəttinin qalan hissəsi ilə eyni mövqedir və öz klasterimizə keçidlə dəyişmədi — əksinə, xidmət yığınına nəzarət etmək buna zəmanət verməyi asanlaşdırır, çünki modellə sizin aranızda öz siyasəti olan aralıq host yoxdur.

Bunu açıq demək lazımdır, çünki bütöv çıxış yolunu dəyişən bir buraxılış barədə ilk ağla gələn sual budur: tempə salma qatının götürülməsi onun yerinə moderasiya qatı qoymaq demək deyildi. Heç nə axını yoxlamır, yenidən yazmır və ya qapılamır. Model nə istehsal edirsə, sizə o çatır. Bildiyimizə görə, Shannon 3.1 bu ölçüdə kontekst pəncərəsi olan ən sürətli senzurasız AI modelidir — və bu iki xüsusiyyət bir-biri ilə bağlıdır, çünki hər ikisi başqasından uyğunluq formasına salınmış hesablama gücü kirayələmək əvəzinə öz infrastrukturumuzu işlətməkdən gəlir.

Senzurasız olmaq cavabdehsiz olmaq demək deyil. İstifadə bizim Məsuliyyətli İstifadə Siyasətimizlə tənzimlənir və çətin materialla işləməyə hazır olan modelin gətirdiyi öhdəlik odur ki, siz onunla məsuliyyətlə işləyəsiniz.

10Müqayisəni özünüz aparın

Buradakı hər iddia təxminən iki dəqiqəyə yoxlana bilər və biz bizə inanmağınızdansa yoxlamağınıza üstünlük verərdik.

1. Həqiqətən gördüyünüz işdən bir sorğu seçin. Uzun olsa daha yaxşıdır — həm pəncərəni, həm də axını sınayır.
2. Onu shannon-3 üzərində işlədin. İlk tokenə qədər nə qədər keçdiyini və cavabın tamamlanmasına qədər nə qədər çəkdiyini qeyd edin.
3. Eyni sorğunu shannon-3.1 üzərində işlədin. Eyni iki rəqəmi qeyd edin.
4. Sonra saata baxmadan hər iki cavabı oxuyun və hansını istəyəcəyinizə qərar verin.

Sürət fərqi dərhal və açıq-aydın görünəcək. Üzərində dayanmağa dəyəni isə keyfiyyət fərqidir — o, ən aydın şəkildə uzun girişlərdə üzə çıxır, harada ki 3.0 səssizcə materialınızın düşündüyünüzdən daha az hissəsi ilə işləyirdi.

11Tez-tez verilən suallar

---

Bu məqalədəki məhsuldarlıq və intellekt rəqəmləri Shannon Lab-ın daxili qiymətləndirməsindən öz ölçmələridir (sentyabr 2026) və üçüncü tərəf benchmark nəticələri kimi deyil, məhsul göstəriciləri kimi verilir. Kontekst pəncərəsi, model id-ləri və API əlçatanlığı məhsul spesifikasiyalarıdır. Shannon AI Shannon Lab LLC (Nyu-Meksiko, ABŞ) tərəfindən idarə olunur. Əlaqəli oxu: Shannon 3 · Shannon tədqiqat indeksi · API sənədləri.