Shannon 3.1
Сол пайымдау циклі, енді өз GPU кластерімізде: 32% ақылдырақ, 10-15 есе жылдам және 196,608 токендік контекст терезесі.
Қысқаша
Shannon 3.1 Shannon 3-ті құнды еткеннің бәрін сақтайды — итеративті пайымдау циклі, бас тарту қабатының жоқтығы, шығысты сүзудің жоқтығы — және оның қайда әрі қалай жұмыс істейтінін өзгертеді. Модель енді үшінші тараптың инференс хостында емес, өз GPU кластерімізде қызмет етеді. Shannon Lab бағалауы Shannon 3.0-ге қарсы интеллекттің 32% жақсарғанын және жауаптардың 10-15 есе жылдамдағанын өлшейді. Контекст терезесі 32,768 токеннен 196,608 токенге дейін өседі. 3.0 шығысын әдейі баяулатқан ырғақтау қабаты жойылды: 3.1 қозғалтқыштың толық жылдамдығымен ағындайды. Модель идентификаторлары — shannon-3.1 және shannon-3.1-pro, олар чатта әрі үш API диалектінің бәрінде қолжетімді.
Модель шығарылымдарының көпшілігі мүмкіндік туралы мәлімдемеге сеніп, дау-дамайды шешетін бенчмарк кестесін күтуді сұрайды. Мұны тексеру оңайырақ: екі қойынды ашыңыз, shannon-3 мен shannon-3.1-ге бір промпт беріңіз де, қараңыз. Жауаптың қаншалықты жылдам келетініндегі айырмашылық жасырын емес әрі ол рендерлеу фокусы да емес. Shannon 3.0 әдейі тежелген еді. Shannon 3.1 — жоқ.
01Shannon 3.1-де шын мәнінде не өзгерді
Shannon 3.0 осы отбасын анықтайтын нәрсені енгізді: итеративті пайымдау циклі. Модель өзінің алғашқы ойымен жауап бермейді. Ол ойланады, жоба жазады, өз жобасын сұраққа қарап тексереді және оны жақсартады. Lite сол циклдің бір өтуін орындайды; Pro жоба жазар алдындағы білім жинау қадамын қоса, толық циклді орындайды. Бұл дизайн Shannon 3 зерттеу мақаласында егжей-тегжейлі сипатталған, әрі 3.1-де оның ешқайсысы өзгерген жоқ.
Өзгергені — астындағы механика. Shannon 3.0 үшінші тараптың инференс хосты арқылы қызмет ететін: модельді іске қосудың орынды жолы әрі оны жүргізудің шектеулі жолы. Сіз басқа біреудің қызмет ету конфигурациясын, басқа біреудің кезегін, басқа біреудің контекст шегін және секундына қанша токен алуға болатыны туралы басқа біреудің түсінігін мұра етесіз. Shannon 3.1 өз GPU кластерімізде, өзіміз баптаған қызмет ету стегінде жұмыс істейді, әрі осы мақаладағы әрбір басты сан сол бір шешімнің салдары.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| Қайда жұмыс істейді | Үшінші тарап хосты | Өз GPU кластеріміз |
| Контекст терезесі | 32,768 | 196,608 |
| Шығыс ағыны | Ырғақталған / шектелген | Қозғалтқыштың толық жылдамдығы |
| Салмақтар | Хосттың әдепкісі | 4-биттік NVFP4 |
| Декодтау | Стандартты | Спекулятивті |
| Пайымдау циклі | Ойлау → жоба → тексеру → жақсарту | Өзгеріссіз |
| Бас тарту қабаты | Жоқ | Жоқ |
| Модель идентификаторлары | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02Shannon 3.1 неге 10-15 есе жылдам сезіледі
Жылдамдық көрсеткіші — адамдар бірінші сұрайтын нәрсе, сондықтан оның қайдан шыққанын нақты айтқан жөн. Мұнда бір-біріне тәуелсіз екі үлес бар, әрі олардың үлкені — көзге азырақ түсетіні.
Біз жылдамдық шектеуішін алып тастадық
Shannon 3.0 шығысы ырғақтау қабатынан өтетін. Токендер қозғалтқыштан шығып, ұсталып, сіздің қосылымыңызға кесте бойынша босатылатын. Бұл кездейсоқтық та, қате де емес еді. Ортақ инференс хосты бөгет болғанда, шығысты ырғақтау жүктемені тегістейді, ұзақ генерацияның бір слотты монополияламауын қамтамасыз етеді және ағынның жарылыстармен емес, болжамды әрі оқуға ыңғайлы ырғақпен келуін қамтамасыз етеді. Бұл — қорғауға тұрарлық инженерлік шешім, әрі ол әрбір қолданушыға әрбір жауап сайын нақты уақыт шығынын салды.
Shannon 3.1-де жылдамдық шектеуіші де, ашу ырғағы да жоқ. Токендер қозғалтқыш оларды өндірген сәтте сіздің ағыныңызға жазылады. Егер қозғалтқыш жылдам генерациялап жатса, сіз оның жылдам генерациялап жатқанын көресіз. Модель мен сіздің терминалыңыз, чат терезеңіз немесе SSE оқығышыңыз арасында тегістеу буфері жоқ. Ұзын жауап үшін — 2,000 токендік талдау, генерацияланған код файлы — байқалатын жақсарудың басым бөлігін осының өзі береді.
Адал салдары: ағын енді жарылыстармен келеді. Спекулятивті декодтау (төменде) қабылданған токендерді қысқа тізбектермен шығарады, сондықтан мәтін метрономдай бір сөзден емес, көзге көрінетін кесектермен келуі мүмкін. Егер сіз интерфейсті 3.0-дің тегіс ырғағына сүйеніп жасаған болсаңыз, ол әлі де жұмыс істейді — токендердің реті мен мазмұны өзгерген жоқ — бірақ баспа машинкасы көрінісін қаласаңыз, өз клиенттік жағыңызда тегістеуді қайта енгізгіңіз келуі мүмкін. Біздің ойымызша, көпшілік секундтарды қайтарып алғанды жөн көреді.
Қозғалтқыштың өзі де жылдамдады
Шектеуішті алып тастау оның артындағы нәрсе жылдам болғанда ғана көмектеседі. Екінші үлес — 03-бөлімде сипатталған қызмет ету стегі: біздің өз кластерімізде, FP4-ті бастапқыда қолдайтын қазіргі буын үдеткіштеріндегі 4-биттік NVFP4 салмақтары мен спекулятивті декодтау. Бұл екеуі бірге шектеуішті алып тастау ашатын төбені көтереді.
Ұштан-ұшқа жауап кідірісінің салыстырмалы көрсеткіші, Shannon Lab ішкі бағалауы, 2026 жылғы қыркүйек. Аралық промпт ұзындығы мен деңгейге байланысты: Lite-тағы қысқа промптар төменгі шекке жақын, Pro-дағы ұзын генерациялар жоғарғы шекке жақын.
03Спекулятивті декодтау шын мәнінде не істейді
«Спекулятивті декодтау инференсі» маркетингтік сөз ретінде қолданылады, сондықтан міне, механизмнің қарапайым сипаттамасы.
Тіл моделі әдетте бір алға өтуде бір токен өндіреді. Ол өтуде басты рөлді арифметика емес, жад өткізу қабілеті ойнайды — бірдеңе есептеу үшін салмақтарды оқу керек, ал оларды оқу математикадан әлдеқайда ұзақ. GPU уақытының көбін есептеу блоктары бос тұрғанда жадты күтіп өткізеді. 500 токен генерациялау сол кідірісті 500 рет, ретімен төлеу дегенді білдіреді.
Спекулятивті декодтау дәл сол дәйекті бөлікке шабуыл жасайды. Шағын әрі арзан жоба моделі ықтимал келесі токендердің қысқа тізбегін ұсынады — мысалы, төрт немесе сегіз токен. Содан кейін негізгі модель бүкіл тізбекті бір топтастырылған алға өтуде бағалайды, ал бұл бір токенді бағалаудан әрең қымбат, өйткені қымбат бөлігі (салмақтарды оқу) екі жағдайда да бір рет орындалады. Негізгі модель келіскен әрбір ұсынылған токен қабылданып, бірден шығарылады. Алғашқы келіспеушілікте тізбек қиылады да, әдеттегі декодтау сол жерден жалғасады.
Маңызды қасиет
Спекулятивті декодтау шығысты сақтайды. Тексеру қадамы қабылданған тізбектің үлестірімі дәл негізгі модельдің өз іріктеуіндегідей болатындай құрылған. Сіз жоба моделінің жауабын алмайсыз, әрі үлкен модель жауабының жуықтауын да алмайсыз. Сіз негізгі модельдің шығысын аласыз, тек ол азырақ дәйекті қадаммен алынған. Жоба моделі тек жылдамдыққа әсер ете алады, ешқашан мазмұнға емес.
Негізгі жұмысты қабылдау деңгейі атқарады. Болжамды мәтінде — шаблон код, код құрылымы, дәлелдеменің байланыстырушы тіні — жоба моделі жақсы болжайды әрі ұзын тізбектер бірден түседі. Шынымен қиын токендерде қабылдау төмендейді де, жүйе кәдімгі бір-бірлеп декодтауға сыпайы түрде оралады. Сізге керегі — дәл осындай асимметрия: ол оңай бөліктерді жеделдетеді әрі қиындарына тимейді.
4-биттік салмақтар неге дәл осы абзацқа жатады
Бөгет жад өткізу қабілеті болғандықтан, салмақтарды кішірейту — жай ғана жад көлемін емес, жылдамдықты тікелей арттыратын тұтқа. NVFP4 — блок ішіндегі майда масштабтауы бар 4-биттік жылжымалы нүктелі формат, дәл осы оған ескі 4-биттік бүтін сандық кванттау схемалары жоғалтқан дәлдікті сақтауға мүмкіндік береді. Әр алға өтуде шамамен төрт есе аз байт оқу — жадты күтуге пропорционалды түрде аз уақыт жұмсау, әрі бұл 196K терезе талап ететін ұзақ контекстті KV кэшіне әлдеқайда көп орын қалдырады.
Бұл екеуі жай қосылмайды, көбейеді: әр өтуде байт аз, әрі шығарылатын әр токенге өту саны аз. Дәл осы шектеусіз, толық жылдамдықтағы ағынды ырғақтау арқылы қайтарып алуға тура келетін шығын емес, қызмет етуге қолжетімді нәрсе етеді — ал 3.0-де ырғақтау қабаты дәл сол істі істеп тұрған еді.
04196,608 токен: 6 есе үлкен терезе не ашады
Shannon 3.0-де 32,768 токендік терезе болды: бұл жұмыс сеансы, құжат емес. Шамамен 70-80 бет проза, оның үстіне пайымдау циклі өз ойлауына жұмсайтынын алып тастаңыз, жүйелік промптыңызды алып тастаңыз, осы уақытқа дейінгі әңгімені алып тастаңыз. Нақты жұмыс сол қабырғаға үнемі соғылатын, ал айналып өту жолдары — бөліктерге бөлу, қысқарту, өз материалыңыз бойынша іздеу — сақтағыңыз келген нәрсенің бәрін нашарлатады. 196,608 токен — мүлде басқа санаттағы мәселе.
Нақтырақ айтқанда, бұл шамамен 400-500 бет ағылшын мәтіні, немесе тесттері мен README файлы бар орташа көлемдегі код базасы, немесе бір жобаның бір жылдық жиналыс жазбалары, немесе барлық қосымшаларымен бірге толық келісімшарттар жинағы — бәрі бір әңгімеде ұсталады, бір сұрақпен қамтылады әрі сіз бен материалдың арасында бөлу қабаты болмайды.
- Бүкіл репозиторий бойынша сұрақтар. Күдіктенген үш файлды қоюдың орнына кодты толық жүктеп, қатенің өнімге неге жететінін сұраңыз. Модель сіз қосуды ойламаған файлды таба алады.
- Іздеусіз ұзақ құжат талдауы. Іздеу — модельге нені көруге болатынын шешетін шығынды алдын ала сүзгі. 196K-да сіз одан жиі бас тартып, модельге бәрін оқуға бере аласыз, ал бұл дұрыс үзінді ешқашан табылмайтын қателердің тұтас бір класын жояды.
- Тұтастығын сақтайтын әңгімелер. Ұзақ жұмыс сеансы енді өзінің басталуын үнсіз тастап кетпейді. Үшінші хабарламада қойған шектеулеріңіз сексенінші хабарламада да күшінде.
- Пайымдау цикліне орын. Циклдің өз ойлауы, жоба жазуы және тексеруі контекст жұмсайды. 3.0-де бұл қадамдар тапшы бюджет үшін сіздің материалыңызбен бәсекелесетін. 3.1-де олар еркін сыяды, ал сапа өсімі мен терезенің ұлғаюы бірге келуінің бір себебі осы.
- Үлкен аралас кірістер. Суреттер, құжаттан алынған мәтін және код бір бұрылыста, олардың қайсысын қосуға шамаңыз жететінін іріктеместен.
Ұзақ контекстті кез келген модельге, соның ішінде бізге де қатысты бір адал ескерту: үлкен терезе — бұл сыйымдылық, бүкіл терезе бойынша біркелкі назардың кепілі емес. Құрылым әлі де көмектеседі. Сұрақты соңына жақын қою, құжаттарыңызды белгілеу және модельге нені іздеу керектігін айту 150K токенде нәтижені өлшеуге болатындай жақсартады, ал 5K-да олай болмайды.
05Lite және Pro: shannon-3.1 және shannon-3.1-pro
Екі деңгей пайымдау циклінің қаншалықты бөлігін орындайтынымен ерекшеленеді, әрі олардың арасынан таңдау үшін маңызды жалғыз айырмашылық осы.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| Пайымдау | Бір өту | Толық цикл + білім жинау |
| Өзін-өзі тексеру | Жоқ | Иә |
| Контекст терезесі | 196,608 | 196,608 |
| Ағынды режим | Толық жылдамдық, шектеусіз | Толық жылдамдық, шектеусіз |
| Көру & құжаттар | Иә | Иә |
| Сурет генерациясы құралы | Иә | Иә |
| Не үшін жақсы | Көп жұмыс, үлкен көлем | Қиын сұрақтар, бірінші жоба жеткіліксіз |
Әдепкі бойынша Lite қолданыңыз. Жақсы пайымдау моделінің бір өтуі нақты сұраныстардың басым көпшілігін шешеді, әрі 3.1-де ол цикл күтуді сезінбейтіндей жылдам. Pro-ға жүгініңіз, егер сұрақ бірінші жауабы әдетте оқыту мағынасында қате болатын түрде болса: архитектуралық ымыралар, қарсыласушы талдау, құзыретті әріптестен ойланып барып жауап беруін қалайтын кез келген нәрсе. Pro-ның өзін-өзі тексеру қадамы — әшекей емес: бұл модельдің өз қателерін сіз тапқанша өзі табуы.
06Интеллекттің 32% өсімі және оны қалай оқу керек
Shannon Lab-тың өз бағалауы Shannon 3.1-ді Shannon 3.0-ден интеллекті бойынша 32% жақсы деп бағалайды. Бұл нені білдіретінін және нені білдірмейтінін анық айтқымыз келеді.
Бұл — біздің көрсеткішіміз, ішкі бағалау жинағымыздан алынған, адамдар шын мәнінде осы модельдерге әкелетін нәрсені бейнелейді деп санайтын тапсырмаларда өлшенген. Бұл — үшінші тараптың бенчмаркі емес, әрі біз бір ішкі жиынтық көрсеткіштің төңірегінде рейтинг кестесін құрып, бенчмарк бойынша бөлшектеу жарияламаймыз — мұндай бөлшектеу ішкі жинақта жоқ сыртқы салыстырмалылық деңгейін меңзеген болар еді.
Айтатынымыз — өсімнің қайдан келгені, өйткені бұл бөлігі жұмбақ емес. Үлкенірек контекст терезесі модель пайымдауға кіріспес бұрын материалдың азырақ бөлігін тастау керек екенін білдіреді, ал ұзақ сеанстардағы көрінеу ақылсыздықтың көбі шын мәнінде жай ұмытшақтық. Өзіміз басқаратын қызмет ету стегі модельдің хосттың әдепкісімен емес, біз көздеген конфигурациямен жұмыс істейтінін білдіреді. Ал пайымдау циклі — дизайны өзгермеген — енді сіздің кірісіңізбен бөлісетін 32K төбеге қысылудың орнына терезенің ішінде шынымен жүгіруге орын алды.
Сіз үшін ең пайдалы бенчмарк — өзіңіздікі. Нақты жұмысыңыздан промпт алыңыз — басқатырғыш емес, шынайысын — және оны shannon-3-те, содан кейін shannon-3.1-де іске қосыңыз. Жауаптарды салыстырыңыз және уақытын өлшеңіз. Біздің сандарымыз жинақ бойынша орташаны сипаттайды; жақсаруға тиіс нәрсе — сіздің промптыңыз.
07Көру, құжаттар және сурет генерациясы
Shannon 3.1 суреттер мен құжаттарды оқиды. Скриншоттар, диаграммалар, фотосуреттер, сканерленген беттер, PDF және мәтіндік құжаттар әңгімеге түсіп, қалғанының бәрімен қатар пайымдалуы мүмкін. 196K терезесімен бірге дәл осы тұтас құжатпен жұмыс істеу үрдістерін тәжірибелік етеді: ұзақ есеп пен оның графиктері бір бұрылыста, модельге қай беттерді көруге рұқсат ететініңізді алдын ала шешпей.
Сурет генерациясы мен өңдеу чатта құрал ретінде қолжетімді. Сурет сұраңыз да, модель осы уақытқа дейін талқыланғанның бәрінің контекстімен, сол әңгіменің ішінде құралды шақырады. Өңдеу де солай жұмыс істейді — суретті беріңіз де, өзгерісті сипаттаңыз. Ауысатын бөлек режим де, үйренетін бөлек интерфейс те жоқ.
08Shannon 3.1-ді API арқылы шақыру
Shannon 3.1 үш API диалектінің бәрінде қолжетімді, әрқайсысында ағынды режимімен. Модельдер бірдей, сұраныс пішіні үшеу — бұрыннан бар SDK-ңызға сәйкесін таңдаңыз.
| Эндпоинт | Пішім | Ағынды режим |
|---|---|---|
| /v1/chat/completions | OpenAI үйлесімді | Иә |
| /v1/messages | Anthropic үйлесімді | Иә |
| /v1/responses | Responses | Иә |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}Толық пайымдау циклін іске қосу үшін "shannon-3.1" орнына "shannon-3.1-pro" қойыңыз. Егер сіз shannon-3-ті бұрыннан шақырып жүрсеңіз, көшу — тек модель идентификаторын ауыстыру: сұраныс пен жауаптың пішімдері өзгерген жоқ, әрі бұрыннан бар ағынды клиенттер жұмысын жалғастырады. Күтетін жалғыз мінез-құлық айырмашылығы — 02-бөлімде сипатталған жарылыстармен келетін ағын: сол токендер, сол рет, тек ертерек әрі біркелкі емес кесектермен.
Параметрлердің толық анықтамасы, аутентификация, қателер семантикасы және интерактивті ойын алаңы API құжаттамасында. Басқа модель карталары мен техникалық мақалалар Shannon зерттеулерінде.
09Әлі де цензурасыз әрі бұл жағынан өзгеріссіз
Shannon 3.1-де бас тарту қабаты да, шығысқа мазмұн сүзгісі де жоқ. Бұл — Shannon желісінің қалған бөлігіндегі ұстаным, әрі ол өз кластерімізге көшумен өзгерген жоқ — керісінше, қызмет ету стегін бақылау мұны кепілдендіруді жеңілдетеді, өйткені модель мен сіздің араңызда өз саясаты бар аралық хост жоқ.
Мұны ашық айтқан жөн, себебі бүкіл шығыс жолын өзгерткен шығарылым туралы бірінші ойға келетін нәрсе осы: ырғақтау қабатын алып тастау оның орнына модерация қабатын қою дегенді білдірмейді. Ағынды ешнәрсе тексермейді, қайта жазбайды әрі шектемейді. Модель не өндірсе, сізге сол келеді. Біздің білуімізше, Shannon 3.1 — осындай көлемдегі контекст терезесі бар ең жылдам цензурасыз AI моделі, әрі бұл екі қасиет байланысты, себебі екеуі де біреуден сәйкестік пішіндегі есептеу қуатын жалдаудың орнына өз инфрақұрылымымызды жүргізуден келеді.
Цензурасыз болу — жауапкершіліксіз болу емес. Қолданысты біздің Жауапты пайдалану саясатымыз реттейді, ал ауыр материалмен жұмыс істейтін модельмен келетін міндет — сіздің онымен жауапкершілікпен жұмыс істеуіңіз.
10Салыстыруды өзіңіз жүргізіңіз
Мұндағы әрбір мәлімдемені шамамен екі минутта тексеруге болады, әрі біз сіздің сенгеніңізден гөрі тексергеніңізді қалаймыз.
- Шынымен істейтін жұмысыңыздан промпт таңдаңыз. Ұзыны жақсырақ — ол әрі терезені, әрі ағынды режимді сынайды.
- Оны
shannon-3-те іске қосыңыз. Бірінші токенге дейін қанша уақыт кеткенін және жауаптың аяқталуына қанша уақыт кеткенін белгілеңіз. - Дәл сол промптты
shannon-3.1-де іске қосыңыз. Сол екі санды белгілеңіз. - Содан кейін екі жауапты да оқып шығыңыз, сағатты елемей, қайсысын қалайтыныңызды шешіңіз.
Жылдамдық айырмашылығы бірден әрі айқын байқалады. Ойлануға тұрарлығы — сапа айырмашылығы: ол ұзын кірістерде барынша анық көрінеді, өйткені 3.0 сіздің материалыңыздың ойлағаныңыздан азырақ бөлігімен үнсіз жұмыс істеп келген еді.
11Жиі қойылатын сұрақтар
Shannon 3.1 деген не?
Shannon 3.1 — Shannon 3 отбасының ағымдағы шығарылымы. Онда сол итеративті пайымдау циклі сақталған — ойлау, жоба, өзін-өзі тексеру, жақсарту — бірақ ол енді үшінші тараптың инференс хостында емес, өз GPU кластерімізде жергілікті түрде жұмыс істейді. Shannon Lab-тың өз бағалауы Shannon 3.0-мен салыстырғанда интеллекттің 32% артқанын және жауаптардың 10-15 есе жылдамдағанын өлшейді, ал контекст терезесі 32,768 токеннен 196,608 токенге дейін өсті.
Shannon 3.1 Shannon 3.0-ден қаншалықты жылдам?
Shannon Lab-тың өз бағалауы бойынша, ұштан-ұшқа жауаптарда 10-15 есе жылдам. Мұның екі себебі бар. Shannon 3.0 шығысы ағынды әдейі шектейтін ырғақтау қабатынан өтетін; Shannon 3.1-де жылдамдық шектеуіші де, ашу ырғағы да жоқ, сондықтан токендер сізге қозғалтқыш оларды өндірген жылдамдықпен жетеді. Қозғалтқыштың өзі де жылдамырақ: өз GPU кластерімізде 4-биттік NVFP4 салмақтары және спекулятивті декодтау.
Shannon 3.1 контекст терезесі қаншалықты үлкен?
196,608 токен — Shannon 3.0-дегі 32,768 токеннен 6 есе көп. Бұл шамамен 400-500 бет мәтін немесе орташа көлемдегі код базасы, оны бөліктерге бөлмей әрі іздеп алмай бір әңгімеде ұстауға болады.
Спекулятивті декодтау деген не және ол мұнда неге маңызды?
Шағын әрі жылдам жоба моделі ықтимал келесі токендер тізбегін ұсынады, ал негізгі модель оларды бір топтастырылған өтуде тексереді. Қабылданған токендер бірден шығарылады; қабылданбағандары кәдімгі декодтауға оралады. Нәтиже — негізгі модельдің өзі шығаратын нәрсе, бірақ бір тексеру қадамында бір токеннің орнына бірнеше токен түсуі мүмкін. Дәл осы толық жылдамдықпен ағынды шығын мәселесі емес, қолжетімді нәрсе етеді.
Shannon 3.1 цензурасыз ба?
Иә. Shannon 3.1-де бас тарту қабаты да, шығысқа қолданылатын мазмұн сүзгісі де жоқ — Shannon желісінің қалған бөлігіндегідей. Ырғақтау қабатын алып тастау оның орнына модерация қабатын қоспады: сіз алатын ағын — модельдің шығысы.
Модель идентификаторлары қандай және Shannon 3.1-ді қайда қолдануға болады?
shannon-3.1 — Lite деңгейі, shannon-3.1-pro — Pro деңгейі. Екеуі де чатта және үш API диалектінің бәрінде қолжетімді: /v1/chat/completions (OpenAI пішімі), /v1/messages (Anthropic пішімі) және /v1/responses. Ағынды режим үшеуінде де жұмыс істейді.
shannon-3.1 мен shannon-3.1-pro арасындағы айырмашылық қандай?
Lite пайымдау циклінің бір өтуін орындайды: ойлайды, содан кейін жауап береді. Pro толық циклді орындайды — ойлау, жоба, өзін-өзі тексеру, жақсарту — жоба жазар алдында білім жинау қадамымен. Көп жұмыс үшін дұрыс әдепкі таңдау — Lite; Pro бірінші жауап әдетте ең жақсысы болмайтын сұрақтарға арналған.
Shannon 3.1-ді қолданып көріңіз
Сол пайымдау циклі. Алты есе үлкен терезе. Жылдамдық шектеуіші жоқ.
Чатты бастау API құжаттамасын оқуshannon-3.1 · shannon-3.1-pro · үш диалектінің бәрінде ағынды режим
Осы мақаладағы өнімділік және интеллект көрсеткіштері — Shannon Lab-тың 2026 жылғы қыркүйектегі ішкі бағалауындағы өз өлшемдері, әрі олар үшінші тарап бенчмаркінің нәтижелері емес, өнім көрсеткіштері ретінде беріледі. Контекст терезесі, модель идентификаторлары және API қолжетімділігі — өнім сипаттамалары. Shannon AI-ды Shannon Lab LLC (Нью-Мексико, АҚШ) басқарады. Қатысты оқу: Shannon 3 · Shannon зерттеулер индексі · API құжаттамасы.