Shannon 3.1

Більшість релізів моделей просять повірити заявленим можливостям на слово й чекати, поки суперечку залагодить таблиця бенчмарків. Цей перевірити простіше: відкрийте дві вкладки, введіть той самий запит у shannon-3 і shannon-3.1 та подивіться. Різниця у швидкості появи відповіді не є ледь помітною, і це не трюк рендерингу. Shannon 3.0 гальмували навмисно. Shannon 3.1 — ні.

01Що насправді змінилося в Shannon 3.1

Shannon 3.0 запровадив те, що визначає цю родину: ітеративний цикл міркувань. Модель не відповідає з першої думки. Вона думає, пише чернетку, звіряє власну чернетку з питанням і покращує її. Lite виконує один прохід цього циклу; Pro виконує повний цикл, включно зі збором знань перед написанням чернетки. Цю конструкцію докладно описано в дослідницькій статті про Shannon 3, і у версії 3.1 не змінилося нічого з цього.

Змінилася машинерія під сподом. Shannon 3.0 обслуговувався через сторонній хост інференсу — розумний спосіб запустити модель і обмежувальний спосіб її експлуатувати. Ви успадковуєте чужу конфігурацію обслуговування, чужу чергу, чужу стелю контексту й чуже уявлення про те, скільки токенів на секунду вам дозволено мати. Shannon 3.1 працює на власному GPU-кластері, на стеку обслуговування, який налаштовуємо ми, і кожна ключова цифра в цій статті є наслідком цього єдиного рішення.

	Shannon 3.0	Shannon 3.1
Де працює	Сторонній хост	Власний GPU-кластер
Контекстне вікно	32,768	196,608
Потоковий вивід	Ритмізований / з обмеженням швидкості	Повна швидкість рушія
Ваги	За замовчуванням хоста	4-бітні NVFP4
Декодування	Стандартне	Спекулятивне
Цикл міркувань	Подумати → чернетка → перевірка → покращення	Без змін
Шар відмов	Немає	Немає
Ідентифікатори моделей	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Чому Shannon 3.1 відчувається у 10-15 разів швидшим

Цифру швидкості запитують першою, тож варто точно пояснити, звідки вона береться. Внесків два, вони незалежні, і більший з них — менш ефектний.

Ми зняли обмеження швидкості

Вивід Shannon 3.0 проходив крізь шар ритмізації. Токени виходили з рушія, затримувалися й вивільнялися у ваше з'єднання за розкладом. Це не було випадковістю чи помилкою. Коли вузьким місцем є спільний хост інференсу, ритмізація виводу згладжує навантаження, не дає довгій генерації монополізувати слот і змушує потік надходити у передбачуваному, зручному для читання ритмі, а не сплесками. Це захищуване інженерне рішення, і воно коштувало кожному користувачеві реального часу на кожній відповіді.

У Shannon 3.1 немає ні обмеження швидкості, ні ритмізації показу. Токени пишуться у ваш потік тоді, коли рушій їх видає. Якщо рушій генерує швидко, ви бачите, що він генерує швидко. Між моделлю та вашим терміналом, вікном чату чи SSE-читачем немає згладжувального буфера. Для довгої відповіді — аналізу на 2,000 токенів, файла згенерованого коду — саме це дає більшу частину покращення, яке ви помітите.

Чесний наслідок: потік тепер нерівномірний. Спекулятивне декодування (нижче) видає прийняті токени короткими серіями, тож текст може надходити помітними шматками, а не рівномірним метрономом по одному слову. Якщо ви будували інтерфейс навколо плавного ритму 3.0, він і далі працюватиме — порядок і зміст токенів не змінилися, — але, можливо, ви захочете повернути власне згладжування на клієнті, якщо вам більше подобався ефект друкарської машинки. Ми вважаємо, що більшість людей радше поверне собі секунди.

Сам рушій став швидшим

Зняття обмеження допомагає лише тоді, коли те, що за ним, працює швидко. Другий внесок — це стек обслуговування, описаний у розділі 03: 4-бітні ваги NVFP4 та спекулятивне декодування на прискорювачах поточного покоління з нативною підтримкою FP4 у нашому власному кластері. Разом вони піднімають стелю, яку відкриває зняття обмеження.

Відносна наскрізна затримка відповіді, внутрішня оцінка Shannon Lab, вересень 2026. Діапазон відображає довжину запиту та рівень: короткі запити на Lite ближче до нижньої межі, довгі генерації на Pro — до верхньої.

03Що насправді робить спекулятивне декодування

«Інференс зі спекулятивним декодуванням» використовують як маркетингове слово, тож ось механізм, простими словами.

Мовна модель зазвичай видає один токен за прямий прохід. Цей прохід визначається не арифметикою, а пропускною здатністю пам'яті — щоб щось обчислити, треба прочитати ваги, а читання займає значно більше часу, ніж сама математика. Графічний процесор більшість часу чекає на пам'ять з простоюючими обчислювальними блоками. Згенерувати 500 токенів означає заплатити цю затримку 500 разів, послідовно.

Спекулятивне декодування атакує саме послідовну частину. Невелика дешева чернеткова модель пропонує коротку послідовність імовірних наступних токенів — скажімо, чотири чи вісім. Далі основна модель оцінює всю цю послідовність одним пакетним прямим проходом, який коштує ледь дорожче, ніж оцінка одного токена, бо дорога частина (читання ваг) відбувається один раз у будь-якому разі. Кожен запропонований токен, з яким основна модель погоджується, приймається й видається негайно. На першій незгоді серія обривається, і з цього місця відновлюється звичайне декодування.

Роботу робить частка прийняття. На передбачуваному тексті — шаблонному коді, структурі програми, сполучній тканині аргументу — чернеткова модель вгадує добре, і довгі серії приймаються одразу. На справді складних токенах прийняття падає, і система плавно деградує до звичайного декодування по одному токену. Це саме та асиметрія, якої хочеться: вона прискорює прості частини й не чіпає складні.

Чому 4-бітні ваги належать до того самого абзацу

Оскільки вузьким місцем є пропускна здатність пам'яті, зменшення ваг є прямим важелем швидкості, а не лише обсягу пам'яті. NVFP4 — це 4-бітний формат з рухомою комою з дрібнозернистим поблоковим масштабуванням, і саме це дозволяє йому втримати точність там, де старіші схеми 4-бітної цілочисельної квантизації її втрачали. Приблизно чверть байтів на читання за прямий прохід означає пропорційно менше часу очікування на пам'ять, а також лишає значно більше запасу для KV-кешу довгого контексту, якого вимагає вікно на 196K.

Ці два ефекти не просто додаються, а множаться: менше байтів на прохід і менше проходів на виданий токен. Саме це робить необмежену потокову передачу на повній швидкості прийнятною за вартістю обслуговування, а не витратами, які довелося б відігравати ритмізацією — тобто рівно тим, що робив шар ритмізації у версії 3.0.

04196,608 токенів: що відкриває вікно у 6 разів більше

У Shannon 3.0 було вікно на 32,768 токенів: робоча сесія, а не документ. Приблизно 70-80 сторінок прози мінус те, що цикл міркувань споживає на власне мислення, мінус ваш системний запит, мінус розмова дотепер. Реальна робота постійно впиралася в цю стіну, а обхідні шляхи — нарізання, стиснення, пошук по власних матеріалах — усі псують саме те, що ви намагалися зберегти. 196,608 токенів — це задача іншої категорії.

Конкретно це порядку 400-500 сторінок англійського тексту, або кодова база середнього розміру з тестами та README, або рік нотаток з нарад одного проєкту, або повний комплект договорів з усіма додатками — усе в одній розмові, адресоване одним питанням, без шару нарізання між вами й матеріалом.

• Питання про весь репозиторій. Завантажте код і запитайте, чому баг доходить до продакшену, замість вставляти три файли, які ви й так підозрювали. Модель може знайти файл, який ви не додумалися додати.
• Аналіз довгих документів без пошуку по фрагментах. Пошук — це фільтр із втратами, який вирішує, що моделі дозволено побачити. На 196K його часто можна пропустити й дати моделі прочитати все, що усуває цілий клас відмов, коли потрібний фрагмент так і не був знайдений.
• Розмови, що лишаються послідовними. Довга робоча сесія більше не втрачає нишком власний початок. Обмеження, задані в третьому повідомленні, діють і у вісімдесятому.
• Місце для циклу міркувань. Власне мислення, чернетки й перевірка циклу споживають контекст. У 3.0 ці кроки конкурували з вашим матеріалом за дефіцитний бюджет. У 3.1 вони вміщаються вільно — і це частина причини, чому приріст якості та збільшення вікна прийшли разом.
• Великі змішані вхідні дані. Зображення, витягнутий текст документів і код в одному ході, без сортування того, що ви можете дозволити собі включити.

Одне чесне застереження, яке стосується кожної моделі з довгим контекстом, зокрема й нашої: велике вікно — це місткість, а не гарантія рівномірної уваги по всій його довжині. Структура все одно допомагає. Розміщення питання ближче до кінця, підписування документів і пояснення моделі, що саме шукати, помітно покращують результати на 150K токенів так, як цього просто не буває на 5K.

05Lite і Pro: shannon-3.1 та shannon-3.1-pro

Два рівні різняться тим, яку частину циклу міркувань вони виконують, і це єдина різниця, що має значення для вибору між ними.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Міркування	Один прохід	Повний цикл + збір знань
Самоперевірка	Ні	Так
Контекстне вікно	196,608	196,608
Потокова передача	Повна швидкість, без обмежень	Повна швидкість, без обмежень
Зображення та документи	Так	Так
Інструмент генерації зображень	Так	Так
Найкраще для	Більшості роботи, великих обсягів	Складних питань, коли чернетки замало

За замовчуванням користуйтеся Lite. Один прохід гарної моделі міркувань покриває переважну більшість реальних запитів, а на 3.1 він достатньо швидкий, щоб цикл більше не був чимось, чекання чого ви відчуваєте. Беріть Pro тоді, коли питання таке, де перша відповідь зазвичай помилкова у повчальний спосіб: архітектурні компроміси, змагальний аналіз, будь-що, де ви хотіли б, аби компетентний колега переспав з думкою. Крок самоперевірки в Pro — не прикраса: це модель знаходить власні помилки раніше, ніж це доводиться робити вам.

06Приріст інтелекту на 32% і як його читати

Власна оцінка Shannon Lab ставить Shannon 3.1 на 32% кращий за інтелектом від Shannon 3.0. Хочемо чітко пояснити, що це таке і чим воно не є.

Це наша цифра, з нашого внутрішнього набору оцінок, виміряна на задачах, які ми вважаємо репрезентативними для того, з чим люди справді приходять до таких моделей. Це не сторонній бенчмарк, і ми не будуємо таблицю рейтингу навколо єдиного внутрішнього агрегату й не публікуємо розбивки по окремих бенчмарках — розбивка передбачає рівень зовнішньої зіставності, якого внутрішній набір не має.

Що ми скажемо — це звідки береться приріст, бо ця частина не є загадковою. Більше контекстне вікно означає, що менше матеріалу доводиться відкидати перед тим, як модель почне над ним міркувати, а чимала частина позірної нетямущості в довгих сесіях — це насправді просто амнезія. Стек обслуговування, який ми контролюємо, означає, що модель працює з тією конфігурацією, яку ми задумали, а не з налаштуваннями хоста за замовчуванням. А цикл міркувань — незмінний за конструкцією — тепер має місце, щоб реально розгорнутися всередині вікна, а не тиснутися до стелі у 32K, яку він ділив з вашими вхідними даними.

07Зображення, документи та генерація зображень

Shannon 3.1 читає зображення й документи. Знімки екрана, схеми, фотографії, скановані сторінки, PDF-файли та текстові документи можна додати до розмови й міркувати над ними нарівні з усім іншим. У поєднанні з вікном на 196K саме це робить практичними робочі процеси з цілими документами: довгий звіт разом із його графіками в одному ході, без потреби вирішувати заздалегідь, які сторінки моделі дозволено побачити.

Генерація та редагування зображень доступні в чаті як інструмент. Попросіть зображення — і модель викличе інструмент прямо в тій самій розмові, з контекстом усього обговореного досі. Редагування працює так само: дайте зображення й опишіть зміну. Немає ні окремого режиму, у який треба перемикатися, ні окремого інтерфейсу, який треба вивчати.

08Виклик Shannon 3.1 з API

Shannon 3.1 доступний в усіх трьох діалектах API, з потоковою передачею в кожному. Ті самі моделі, три форми запиту — оберіть ту, що відповідає SDK, який у вас уже є.

Ендпоїнт	Форма	Потокова передача
/v1/chat/completions	Сумісна з OpenAI	Так
/v1/messages	Сумісна з Anthropic	Так
/v1/responses	Responses	Так

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Замініть "shannon-3.1" на "shannon-3.1-pro", щоб виконувати повний цикл міркувань. Якщо ви вже викликаєте shannon-3, міграція зводиться до ідентифікатора моделі й більше ні до чого: форми запиту та відповіді не змінилися, наявні потокові клієнти продовжують працювати. Єдина поведінкова відмінність, якої слід очікувати, — нерівномірніший потік, описаний у розділі 02: ті самі токени, той самий порядок, надходять раніше й менш рівними шматками.

Повний довідник параметрів, автентифікація, семантика помилок та інтерактивний майданчик — у документації API. Інші картки моделей і технічні розбори — у дослідженнях Shannon.

09Досі без цензури й без змін у цьому питанні

У Shannon 3.1 немає шару відмов і немає фільтрації контенту на виводі. Це та сама позиція, що й у решті лінійки Shannon, і вона не змінилася з переходом на власний кластер — якщо вже на те, контроль над стеком обслуговування полегшує її гарантування, бо між моделлю та вами немає проміжного хоста з власною політикою.

Варто сказати прямо, бо це очевидне запитання щодо релізу, який змінив увесь шлях виводу: зняття шару ритмізації не означало вставлення натомість шару модерації. Ніщо не перевіряє, не переписує й не гальмує потік. Що модель видає, те й надходить. Shannon 3.1 є, наскільки нам відомо, найшвидшою доступною нецензурованою моделлю ШІ з контекстним вікном такого розміру — і ці дві властивості пов'язані, бо обидві походять від того, що ми експлуатуємо власну інфраструктуру, а не орендуємо потужності, підігнані під чужі вимоги відповідності.

Без цензури — не те саме, що без відповідальності. Використання регулюється нашою Політикою відповідального використання, і зобов'язання, яке приходить разом із моделлю, готовою працювати зі складним матеріалом, полягає в тому, щоб працювати з нею відповідально.

10Проведіть порівняння самі

Кожне твердження тут можна перевірити приблизно за дві хвилини, і ми радше хочемо, щоб ви перевірили, ніж повірили нам.

1. Візьміть запит із роботи, яку ви справді виконуєте. Довгий краще — він навантажує і вікно, і потокову передачу.
2. Виконайте його на shannon-3. Зафіксуйте, скільки часу до першого токена й скільки до завершення відповіді.
3. Виконайте ідентичний запит на shannon-3.1. Зафіксуйте ті самі два числа.
4. Потім прочитайте обидві відповіді, забувши про годинник, і вирішіть, яку з них ви хотіли б отримати.

Різниця у швидкості буде негайною й очевидною. Різниця в якості — та, над якою варто посидіти: вона найяскравіше проявляється на довгих вхідних даних, де 3.0 нишком працював з меншою частиною вашого матеріалу, ніж вам здавалося.

11Часті запитання

---

Показники продуктивності та інтелекту в цій статті — власні вимірювання Shannon Lab з внутрішньої оцінки, вересень 2026, і подані як продуктові показники, а не як результати сторонніх бенчмарків. Контекстне вікно, ідентифікатори моделей і доступність API є специфікаціями продукту. Shannon AI керується Shannon Lab LLC, Нью-Мексико, США. Пов'язане читання: Shannon 3 · Індекс досліджень Shannon · Документація API.