Нецензурований API моделі Hy3

Більшість суперечок «яку модель узяти» точиться навколо стелі: хто пише найкращий код, розв'язує найважчу математику, витримує найдовший агентний прогін. Структуровані конвеєри працюють не так. Задача, що видобуває поля зі ста тисяч документів на день, не потребує моделі, геніальної один раз, — їй потрібна така, що щоразу правильна в тій самій формі і ніколи не повертає абзац там, де має бути JSON-об'єкт. Саме заради цієї властивості тут і є Hy3-W8A16.

01Що таке Hy3 і звідки вона

Hy3 — модель міркування й агентної роботи з відкритими вагами від команди Hunyuan у Tencent, повністю випущена 6 липня 2026 року за дозвільною ліцензією, з вагами, опублікованими на Hugging Face. Вона продовжує лінію попередньої роботи Tencent над Mixture-of-Experts — Hunyuan-Large. Архітектурно це розріджена MoE: 295 мільярдів загальних параметрів, з яких приблизно 21 мільярд активується на токен через маршрутизацію топ-8 серед 192 експертів, на трансформері з 80 шарів зі згрупованою за запитами увагою, плюс окремий шар багатотокенного передбачення на 3.8 млрд для спекулятивного декодування. Рідний контекст — 256K, тобто рівно ті 262 144 токени, які ми відкриваємо, а не обрізка чогось більшого й не розтягнутий через rope варіант чогось меншого.

Це співвідношення розрідженості — найважливіша цифра для будь-кого, хто платить за токен: Hy3 несе знання моделі на 295 млрд, виконуючи при цьому приблизно стільки арифметики на прямий прохід, скільки модель на 21 млрд. Саме тому ми можемо дозволити собі обслуговувати її у 8 бітах, а не стискати сильніше: 8-бітна збірка настільки розрідженої моделі все одно вміщається й усе одно швидко працює на нашому власному GPU-кластері.

У чому, за даними Tencent, вона сильна

Опубліковані Tencent таблиці оцінювання ставлять сильні сторони Hy3 радше в агентний пошук, оркестрування інструментів і пошук у довгому контексті, ніж у чисте програмування. Ось повідомлені ними цифри:

Слабкі смуги ми показуємо навмисно. У власному порівнянні Tencent Hy3 поступається GLM-5.2 у програмуванні: 78.0 проти 84.2 на SWE-bench Verified і 28.0 проти 46.2 на DeepSWE. Якщо ваше навантаження — автономна програмна інженерія з багатьма файлами, спершу прочитайте решту дослідницького покажчика моделей. Якщо ж це читання тексту й видача структури, профіль близький до ідеального.

Найважливіша для конвеєрної роботи цифра стосується надійності: Tencent повідомляє про частоту галюцинацій 5.4% проти 12.5% у попередньому поколінні, а помилки здорового глузду впали з 25.4% до 12.7%. Заявлений ними принцип навчання — відповідати, коли є докази, і прямо казати, коли їх немає, — це саме та вдача, якої ви хочете від моделі для видобування даних, яка інакше вигадала б правдоподібне значення для поля, ніде не згаданого в джерелі.

Усі цифри в цьому розділі повідомлені Tencent за результатами їхніх власних прогонів; на момент написання незалежна перевірка третьою стороною ще тривала. Сприймайте їх як орієнтир, а не як усталений факт.

02Що означає W8A16 і чому це важливо для структурованого виводу

Кожна модель на шлюзі має суфікс квантування. Це не оздоба — він каже вам, наскільки далеко обслуговувані ваги стоять від контрольної точки, яку випустила лабораторія.

Рівень	Що він робить	Точність
3BIT-REAP	3-бітні ваги плюс REAP — метод проріджування, який до квантування прибирає рідко маршрутизованих експертів MoE	Найсильніше стиснення
W4A16-AUTOROUND-REAP	4-бітні ваги / 16-бітні активації через AutoRound — навчене округлення, яке відновлює точність порівняно з наївним округленням до найближчого, — плюс проріджування REAP	Середина
W8A16	8-бітні ваги / 16-бітні активації. Жодного проріджування, жодного полагодження навченим округленням — ваги просто несуть із удвічі більшою точністю	Найвища

Де зсув від квантування справді болить

REAP і AutoRound повертають більшість того, що втрачає наївне стиснення, — але слово «більшість» у цьому реченні працює на повну, і залишок розподіляється нерівномірно. Низькобітне квантування псує хвости: малоймовірні, високоспецифічні рішення. У прозі це майже непомітно — інший прикметник усе одно дає нормальне речення. У структурованому виводі це і є вся суть, бо схема — це довгий ланцюг малоймовірних рішень, кожне з яких має бути точним:

• Синтаксис на рівні токена. Закривальна дужка, кома, лапка. Кожна — один токен, і один хибний токен знецінює всю відповідь.
• Дисципліна переліків. Ваша схема каже, що "status" — це одне з "open" | "closed" | "pending"; зсунута модель повертає "Open" або "pending review" — семантично близько й невалідно ні там, ні там.
• Дисципліна типів. Поле number повертається як "1,240", boolean — як "yes". Обидва розбираються як рядки й не проходять схему.
• Літерали з довгого хвоста. Рідкісні власні назви, артикули, хімічні назви, нелатинські писемності, точні дати — саме та малоймовірна область, яку розмивають низькобітні ваги.

Ніщо з цього не робить 4- чи 3-бітні моделі поганими; для розмовної роботи різниця в точності часто не варта різниці в ціні. Але коли споживач виводу — валідатор, а не людина, точність на хвостах прямо перетворюється на частку успішного розбору, а та — на бюджет повторних спроб і затримку p99. W8A16 — це рівень, на якому ви перестаєте платити цей податок.

03Структурований вивід: json_schema і response_format

Hy3 підтримує обидві половини набору засобів структурованого виводу — і про це варто сказати прямо, бо в лінійці так буває не всюди:

Модель	response_format	json_schema
Hy3 · W8A16	Так	Так
MiMo-V2.5-Pro · W8A16	Так	Так
inkling · W4A16-AUTOROUND-REAP	Так	Ні
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Ні	Ні

Різниця між цими двома механізмами важливіша, ніж прийнято думати. response_format: {"type": "json_object"} просить валідний JSON і не більше — форму обирає модель, тож два виклики можуть повернути {"name": ...} і {"full_name": ...}, і обидва будуть правильні. json_schema задає форму наперед: іменовані поля, типи, переліки, списки обов'язкових, вкладеність. Ось це вже контракт, під який можна писати код.

Мінімальний виклик у діалекті, сумісному з OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Практичні поради

• Робіть кожне поле обов'язковим і дозволяйте null. Необов'язкові поля провокують тихі пропуски; обов'язкове поле, що допускає null, змушує явно сказати «немає», а це вже інформація, з якою можна працювати.
• Переліки кращі за вільні рядки. Скрізь, де набір значень можна закрити, закривайте його — це зміна з найбільшим важелем для реальної частки проходження схеми.
• Лишайтеся під стелею виводу в 16 384 токени. Необмежений масив обірветься посеред об'єкта. Обмежуйте довжину масивів або шардуйте вхід.
• Зберігайте системне повідомлення. Схема обмежує форму; промпт усе одно керує семантикою — що вважати «критичним», яка дата переважає, коли їх дві, чи нормалізувати одиниці.
• Усе одно валідуйте. Підтримка схеми піднімає частку проходження, але не замінює валідатор і чергу невдач.

04Чому «нецензурована» — це властивість надійності, а не лише вмісту

У Hy3 на шлюзі немає шару відмов і немає фільтрації виводу. Зазвичай про це говорять у категоріях вмісту: ви можете обробляти дослідження безпеки, аналіз шкідливого коду, описи експлойтів, медичні та юридичні корпуси, дорослий матеріал, документацію зі зниження шкоди чи транскрипти ворожих користувачів — і модель не вирішуватиме за вас, що краще утриматися.

Є й друга, механічніша причина, чому це важливо. Відмова — це порушення схеми. Фільтрована модель, яка відмовляє, не повертає ваш об'єкт із прапорцем "unavailable" — вона повертає прозу. «Я не можу допомогти з цим запитом». Цей рядок не є об'єктом incident; він не проходить ваш валідатор і потрапляє в чергу невдач поряд зі справжніми помилками розбору, де вам тепер доводиться відділяти політичні відмови від реальних поламок.

Гірше: відмови корелюють із вмістом, а не розподіляються випадково. Якщо 4% вашого корпусу — звіти про інциденти безпеки й модель відмовляє в більшості з них, ви втратили не 4% пропускної здатності рівномірно, а цілу категорію — і дашборд, збудований на цих даних, тихо занижує саме те, заради чого існує. Дірки у формі категорії коштують дорожче за рівномірний шум, бо на них ніщо не спрацьовує алертом. Приберіть шлях відмов — і те, що лишається (поламки, обриви, неоднозначний текст), не корелює з темою, а отже, піддається вимірюванню.

05Контекст, стеля виводу й як їх планувати

Усі моделі на шлюзі мають однакові межі:

Контекст — спільний бюджет: промпт разом із виводом мусять уміститися в 262 144, тож практична стеля входу в одному виклику — приблизно 245 000 токенів, дуже грубо 180 000 англійських слів. Для структурованої роботи жорсткішим обмеженням є стеля виводу в 16 384 токени, і саме вона зазвичай застає людей зненацька: схема, що видає по об'єкту на запис, упирається в неї задовго до заповнення вікна. Проти цього працюють два патерни:

• Широкий вхід, вузький вихід. Заштовхайте в контекст цілий договір, звіт чи вікно логів і попросіть один компактний об'єкт. Вхідні токени коштують чверть від вихідних, тож ціноутворення винагороджує «багато читати, мало писати».
• Ділити на межах записів, а не за кількістю байтів. Розрізайте там, де модель бачить шов. Запис, розрізаний посеред речення, дає впевнено хибний об'єкт замість очевидного збою.

Повідомлена сила Hy3 в пошуку по довгому контексту — 73.4 на AA-LCR і стрибок із 42.9% до 75.1% на пригадуванні довгих діалогів MRCR — це саме та здатність, на якій тримається перший патерн, і вона відрізняється від уміння добре писати.

06Мінімальна ціна й арифметика реального конвеєра

Hy3 стоїть за $0.50 за мільйон вхідних токенів і $2.00 за мільйон вихідних — мінімум у лінійці, спільний із MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 і MiniMax-M3. Ось це саме на показових навантаженнях:

Навантаження	Вхід / виклик	Вихід / виклик	Вартість / виклик	За 1 млн викликів
Видобування полів	1,200	300	$0.0012	$1,200
Класифікація документів	3,000	120	$0.0018	$1,800
Резюме довгого документа в схему	40,000	900	$0.0218	$21,800
Аналіз на повне вікно	240,000	2,000	$0.1240	$124,000

Цифра, яка змінює рішення, — не заголовкова ставка, а ефективна ставка після повторних спроб. Якщо дві моделі коштують однаково й одна не проходить валідацію на 6% викликів, а інша — на 1.5%, модель із більшим зсувом виконує приблизно на 4.5% більше викликів, і це можна пережити. Шкода — у хвості: повторені виклики тривають удвічі довше, тож затримка p99 приблизно подвоюється для помітної частки трафіку, а те, що впало двічі, стає ручною роботою. На мільйоні викликів на день це тисячі записів, які комусь доведеться прочитати.

Звідси й аргумент за 8-бітний рівень за мінімальною ціною: ви не переплачуєте тут за точність, тож арифметика повторних спроб — це безкоштовні гроші. Якби 3-бітна модель була дешевшою, був би реальний компроміс, який варто зважити, — але Hy3 коштує стільки ж, скільки найдешевше в лінійці.

07Три діалекти API, одна модель

Hy3 доступна в усіх трьох діалектах шлюзу, зі стримінгом у кожному. Та сама модель, ті самі ваги, ті самі межі — беріть той, що збігається з наявним у вас SDK.

Ендпоїнт	Діалект	Коли брати
/v1/chat/completions	OpenAI	У вас є OpenAI SDK, LangChain чи LlamaIndex. Спрямуйте базовий URL сюди й змініть ідентифікатор моделі.
/v1/messages	Anthropic	Ви на Anthropic SDK і хочете блоки вмісту без прошарку перекладу.
/v1/responses	Responses	Вам потрібна новіша форма запиту з типізованим виводом і станом на боці сервера.

Hy3 також підтримує виклик інструментів і міркування, зокрема reasoning_effort. Для роботи з видобуванням даних корисний хід — зазвичай прикрутити міркування: на добре описаній схемі над чистим текстом токени мислення є вихідними токенами, за які ви платите, і затримкою, яку ви чекаєте, заради граничного виграшу. Витрачайте бюджет зусиль на справді неоднозначний вхід.

Повний довідник запиту й відповіді, переліки параметрів, семантика стримінгу й інтерактивний пісочник — у документації API.

08Як вибрати серед трьох моделей W8A16

На рівні найвищої точності стоять три моделі, усі за мінімальною ціною. Вибір здебільшого зводиться до модальності:

Модель	Зір	json_schema	Ціна вхід / вихід	Коли брати
Hy3 · W8A16	Ні	Так	$0.50 / $2.00	Суто текстові структуровані конвеєри, оркестрування інструментів, пошук у довгому контексті
MiMo-V2.5-Pro · W8A16	Ні	Так	$0.50 / $2.00	Суто текстова робота, коли вам потрібне саме налаштування Pro лінійки MiMo
MiMo-V2.5 · W8A16	Так	Так	$0.50 / $2.00	Будь-що із зображеннями — скановані документи, скриншоти, фото

Якщо бодай частина вашого входу — зображення, рішення прийнято за вас: Hy3 суто текстова, тож скановані PDF, скриншоти й фотографії надсилайте до MiMo-V2.5. Там, де вхід справді текстовий, профіль Hy3 — агентна робота з інструментами, пригадування в довгому контексті й низька повідомлена частота галюцинацій — найпрямніше лягає на конвеєрну роботу. Оскільки всі три коштують однаково, прогоніть свою схему на двох із них на кількох сотнях реальних записів і порівняйте частки успішного розбору; це вирішить питання краще за будь-яку таблицю, зокрема за цю.

09Де Hy3 виправдовує своє місце

• Масове видобування полів. Договори, звітність, звіти про інциденти, транскрипти, клінічні нотатки, судові матеріали — скрізь, де результатом є типізований об'єкт на документ, а обсяг робить повторні спроби дорогими.
• Класифікація й маршрутизація в масштабі. Виводи із закритими переліками, де вся цінність моделі в тому, щоб ніколи не вигадати дев'ятнадцяту категорію.
• Корпуси з безпеки й розвідки загроз. Розбори шкідливого коду, розкриття експлойтів і фішингові зразки — той матеріал, на якому фільтровані моделі зриваються у відмову і де дірка у формі категорії нівелює саму мету.
• Агенти з викликом інструментів, які не мають зупинятися. 8-бітна точність аргументів означає, що JSON, переданий вашим функціям, розбирається; покалічений виклик інструмента — це зупинений агент, а не трохи гірша відповідь.
• Аналіз довгих документів у структуру. Ціла подача на вхід, один компактний об'єкт на вихід.
• Модерація вмісту й дослідження політик. Маркування матеріалу, який фільтрована модель відмовляється читати, — постійна проблема довіри й безпеки; нефільтрована модель зі строгою схемою розв'язує її прямо.

А де ні: будь-що із зображеннями (беріть MiMo-V2.5) і автономна програмна інженерія з багатьма файлами, де власні таблиці Tencent ставлять Hy3 позаду GLM-5.2 на SWE-bench Verified і значно позаду на DeepSWE.

Бенчмаркові цифри повідомлені Tencent, зокрема й цифри конкурентів; на момент написання незалежна перевірка ще тривала. Показники вартості обчислені за нашими опублікованими ставками $0.50 / $2.00. Жодна цифра на цій сторінці не є бенчмарком, проведеним Shannon, чи оцінкою на око.

10Часті запитання

---

Джерела: картки моделей Tencent Hunyuan · репозиторій Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · висвітлення релізу Hy3 на VentureBeat. Бенчмарки фундаменту повідомлені Tencent і є попередніми до незалежної перевірки. Shannon AI керує Shannon Lab LLC, Нью-Мексико, США.