Нецензуриран Hy3 API
Основата Hy3 с 295B на Tencent при 8-битова вярност на теглата, със строг изход по json_schema, прозорец от 262 144 токена и без слой за откази — на минималната цена в каталога.
Накратко
Hy3-W8A16 е третият от трите ни модела W8A16 — 8-битови тегла, 16-битови активации, нивото с най-висока вярност, което обслужваме. Той е само текстов, поддържа както json_schema, така и response_format, носи общия за каталога контекст от 262 144 токена и таван на изхода от 16 384 токена, и струва $0.50 / $2.00 на милион токена — минимумът. Без слой за откази, без филтриране на изхода. Изберете го за текстови потоци с голям обем, които трябва да връщат разбираем, типизиран изход при всяко извикване, включително върху материал, който филтриран модел би отказал да докосне.
Повечето спорове „кой модел да използвам“ са за тавана: кой пише най-добрия код, решава най-трудната математика, издържа най-дългото агентно изпълнение. Структурираните потоци не работят така. Задача, извличаща полета от сто хиляди документа на ден, не се нуждае от модел, който е блестящ веднъж — нуждае се от такъв, който е коректен в една и съща форма всеки път и никога не връща абзац там, където мястото е на JSON обект. Точно заради това свойство съществува Hy3-W8A16.
01Какво е Hy3 и откъде идва
Hy3 е модел за разсъждение и агентна работа с отворени тегла от екипа Hunyuan на Tencent, издаден в пълнота на 6 юли 2026 г. под разрешителен лиценз, с тегла, публикувани в Hugging Face. Той продължава родословието на по-ранната работа Hunyuan-Large на Tencent върху Mixture-of-Experts. Архитектурно е разреден MoE: 295 милиарда общи параметъра, от които приблизително 21 милиарда се активират на токен чрез маршрутизиране top-8 сред 192 експерта, върху трансформер с 80 слоя с групирано внимание по заявка, плюс отделен слой за многотокенно предсказване с 3.8B за спекулативно декодиране. Изначалният контекст е 256K — точно 262 144-те токена, които излагаме, а не отрязък от нещо по-голямо или разтегнато с rope разширение на нещо по-малко.
Това съотношение на разреденост е важното число за всеки, който плаща на токен: Hy3 носи знанието на модел с 295B, докато върши приблизително аритметиката на модел с 21B при всяко преминаване напред. Именно затова можем да си позволим да го обслужваме на 8 бита, вместо да го компресираме по-силно — 8-битова версия на толкова разреден модел пак се побира и пак върви бързо върху собствения ни GPU клъстер.
В какво Tencent съобщава, че е добър
Публикуваните таблици с оценки на Tencent поставят силните страни на Hy3 категорично в агентното търсене, оркестрацията на инструменти и извличането при дълъг контекст, а не в чистото писане на код. Докладваните им числа:
Показваме слабите ленти нарочно. Hy3 изостава от GLM-5.2 при кода в собственото сравнение на Tencent — 78.0 срещу 84.2 на SWE-bench Verified, 28.0 срещу 46.2 на DeepSWE. Ако натоварването ви е автономно софтуерно инженерство през много файлове, първо прочетете останалата част от индекса с изследвания на модели. Ако е четене на текст и излъчване на структура, профилът е близо до идеалния.
Числото, което има най-голямо значение за потоковата работа, е за надеждност: Tencent съобщава дял на халюцинациите 5.4%, спрямо 12.5% в предишното поколение, а грешките от здрав разум падат от 25.4% на 12.7%. Заявеният им принцип на обучение — отговаряй, когато има доказателства, и казвай направо, когато няма — е точно нагласата, която искате от модел за извличане, който иначе би измислил правдоподобна стойност за поле, което източникът никога не споменава.
Всички числа в този раздел са докладвани от Tencent от собствените им тестове; независима проверка от трета страна все още предстоеше към момента на писане. Третирайте ги като ориентировъчни, а не като установени.
02Какво означава W8A16 и защо има значение за структурирания изход
Всеки модел в шлюза носи наставка за квантуване. Тя не е украса — казва ви колко далеч седят обслужваните тегла от контролната точка, издадена от лабораторията.
| Ниво | Какво прави | Вярност |
|---|---|---|
| 3BIT-REAP | 3-битови тегла плюс REAP — метод за отрязване на експерти, който изхвърля рядко маршрутизираните MoE експерти преди квантуването | Най-компресирано |
| W4A16-AUTOROUND-REAP | 4-битови тегла / 16-битови активации чрез AutoRound — научено закръгляне, което възстановява точност спрямо наивното закръгляне към най-близкото — плюс отрязване с REAP | Средно |
| W8A16 | 8-битови тегла / 16-битови активации. Без отрязване, без поправка чрез научено закръгляне — теглата просто се носят с двойна точност | Най-висока |
Къде отклонението от квантуването реално боли
REAP и AutoRound възстановяват повечето от загубеното при наивната компресия — но „повечето“ върши работа в това изречение, а остатъкът не пада равномерно. Ниската битност влошава опашките: решенията с ниска вероятност и висока специфичност. В проза това е почти невидимо; друго прилагателно пак дава добро изречение. При структуриран изход то е цялата игра, защото схемата е дълга верига от решения с ниска вероятност, всяко от които трябва да е точно вярно:
- Синтаксис на ниво токен. Затваряща скоба, запетая, кавичка. Всяко е един токен, а един грешен токен обезсилва целия отговор.
- Дисциплина на изброените стойности. Схемата ви казва, че
"status"е едно от"open" | "closed" | "pending"; отклонил се модел връща"Open"или"pending review"— семантично близко и невалидно и в двата случая. - Дисциплина на типовете. Поле от тип
numberсе връща като"1,240",boolean— като"yes". И двете се разбират като низове и не минават схемата. - Литерали от дългата опашка. Редки собствени имена, номера на части, химични наименования, нелатински писмености, точни дати — точно областта с ниска вероятност, която ниската битност размива.
Нищо от това не прави 4-битовите или 3-битовите модели лоши; за разговорна работа разликата във вярността често не си струва разликата в цената. Но когато потребителят на изхода е валидатор, а не човек, точността в опашките се превръща директно в дял на успешния разбор — а той в бюджет за повторни опити и p99 закъснение. W8A16 е нивото, на което спирате да плащате този данък.
03Структуриран изход: json_schema и response_format
Hy3 поддържа и двете половини на повърхността за структуриран изход — струва си да се каже изрично, защото това не е универсално в каталога:
| Модел | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Да | Да |
| MiMo-V2.5-Pro · W8A16 | Да | Да |
| inkling · W4A16-AUTOROUND-REAP | Да | Не |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Не | Не |
Разликата между двата механизма има по-голямо значение, отколкото хората допускат. response_format: {"type": "json_object"} иска валиден JSON и нищо повече — моделът избира формата, така че две извиквания могат да върнат {"name": ...} и {"full_name": ...} и двете да са коректни. json_schema задава формата предварително: именувани полета, типове, изброени стойности, задължителни списъци, влагане. Това е договор, срещу който можете да пишете код.
Минимално извикване през съвместимия с OpenAI диалект:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
Практически бележки
- Направете всяко поле задължително и разрешете
null. Незадължителните полета канят тихи изпускания; задължително поле с допустима стойност null принуждава изрично „няма данни“, което е информация, по която можете да действате. - Изброените стойности бият свободните низове. Където можете да затворите множеството от стойности, затворете го — това е промяната с най-голям лост върху реалния дял на успех на една схема.
- Стойте под тавана от 16 384 изходни токена. Неограничен масив ще се отреже насред обект. Ограничавайте дължините на масивите или разделяйте входа.
- Запазете системното съобщение. Схемата ограничава формата; промптът пак управлява семантиката — какво се брои за „критично“, коя дата печели, когато се появят две, дали да се нормализират мерните единици.
- Все пак валидирайте. Поддръжката на схема повишава дела на успех; тя не заменя валидатор и опашка за неуспели съобщения.
04Защо „нецензуриран“ е свойство на надеждността, а не само на съдържанието
Hy3 в шлюза няма слой за откази и филтриране на изхода. Обичайната рамка е за съдържанието: можете да обработвате изследване на сигурността, анализ на зловреден софтуер, описания на уязвимости, медицински и правни корпуси, съдържание за възрастни, документация за намаляване на вредите или преписи от враждебни потребители, без моделът да решава вместо вас, че предпочита да не го прави.
Има и втора, по-механична причина това да има значение. Отказът е нарушение на схемата. Филтриран модел, който отказва, не връща обекта ви с флаг "unavailable" — връща проза. „Не мога да съдействам с тази заявка.“ Този низ не е обект incident; той не минава валидатора ви и попада в опашката за неуспели съобщения до истинските грешки при разбор, където сега трябва да отделяте отказите по политика от реалните дефекти във формата.
По-лошо, отказите корелират със съдържанието, вместо да се разпределят случайно. Ако 4% от корпуса ви са доклади за инциденти по сигурността и моделът отказва повечето от тях, вие не сте загубили 4% от пропускателната способност равномерно — загубили сте една категория, а таблото, построено върху тези данни, тихо занижава точно това, което съществува да показва. Дупките с форма на категория струват повече от равномерния шум, защото нищо не алармира за тях. Премахнете пътя на отказа и остатъкът — дефекти във формата, отрязвания, двусмислен текст — не корелира с темата и следователно е измерим.
Нецензуриран не значи безотчетен
Липсата на слой за откази означава, че моделът не коментира входа ви. Не означава, че акаунтът е без наблюдение. Употребата се урежда от нашата Политика за отговорна употреба и приложимото право, а злоупотребата прекратява достъпа. Премахването на филтъра спира модела да гадае намерението ви по откъс от документ; то не премахва вашата отговорност за това, което изграждате.
05Контекст, таван на изхода и как да ги планирате
Всички модели в шлюза споделят едни и същи ограничения:
Контекстът е общ бюджет: промптът плюс изходът трябва да се поберат заедно в 262 144, така че практическият таван на входа в едно извикване е около 245 000 токена, много приблизително 180 000 английски думи. За структурирана работа таванът от 16 384 изходни токена е по-твърдото ограничение и то изненадва хората — схема, излъчваща по един обект на запис, го достига много преди прозорецът да се напълни. Два подхода работят срещу това:
- Широк вход, тесен изход. Вкарайте цял договор, подаден документ или прозорец от журнала в контекста и поискайте един компактен обект. Входните токени струват една четвърт от изходните, така че ценообразуването възнаграждава четенето на много и писането на малко.
- Разделяйте по границите на записите, а не по брой байтове. Режете там, където моделът вижда шева. Запис, срязан насред изречение, поражда самоуверено грешен обект, а не очевиден провал.
Съобщената сила на Hy3 при извличане от дълъг контекст — 73.4 на AA-LCR и скок от 42.9% на 75.1% при припомнянето на дълъг диалог MRCR — е точно способността, от която зависи първият подход, и е различно умение от това да пишеш добре.
06Ценообразуване на минимума и аритметиката на реален поток
Hy3 стои на $0.50 на милион входни токена и $2.00 на милион изходни токена — минимумът на каталога, споделен с MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 и MiniMax-M3. Пресметнато през представителни натоварвания:
| Натоварване | Вход / извикване | Изход / извикване | Цена / извикване | На 1M извиквания |
|---|---|---|---|---|
| Извличане на полета | 1200 | 300 | $0.0012 | $1,200 |
| Класификация на документи | 3000 | 120 | $0.0018 | $1,800 |
| Обобщение на дълъг документ по схема | 40 000 | 900 | $0.0218 | $21,800 |
| Анализ на пълния прозорец | 240 000 | 2000 | $0.1240 | $124,000 |
Числото, което променя решенията, не е обявената тарифа, а ефективната тарифа след повторните опити. Ако два модела струват еднакво и единият не минава валидация при 6% от извикванията, а другият при 1.5%, моделът с по-голямо отклонение прави около 4.5% повече извиквания — поносимо. Щетата е в опашката: повторените извиквания отнемат двойно повече време, така че p99 закъснението приблизително се удвоява за видим дял от трафика, а каквото се провали два пъти, става ръчна работа. При милион извиквания на ден това са хиляди записи, които някой трябва да прочете.
Оттук и доводът за 8-битовото ниво на минимална цена: тук не плащате премия за вярност, така че аритметиката на повторните опити е безплатни пари. Ако 3-битов модел беше по-евтин, щеше да има реален компромис за претегляне — Hy3 струва колкото най-евтиното нещо в каталога.
07Три API диалекта, един модел
Hy3 е достъпен и в трите диалекта на шлюза, с поточно предаване във всеки. Същият модел, същите тегла, същите ограничения — изберете който съответства на SDK, който вече имате.
| Крайна точка | Диалект | Използвайте, когато |
|---|---|---|
| /v1/chat/completions | OpenAI | Имате OpenAI SDK, LangChain или LlamaIndex. Насочете базовия URL насам и сменете името на модела. |
| /v1/messages | Anthropic | Работите с Anthropic SDK и искате блокове съдържание без слой за превод. |
| /v1/responses | Responses | Искате по-новата форма на заявката с типизиран изход и състояние от страна на сървъра. |
Hy3 поддържа също извикване на инструменти и разсъждение, включително reasoning_effort. За работа по извличане полезният ход обикновено е разсъждението да се свали: при добре зададена схема върху чист текст токените за мислене са изходни токени, за които плащате, и закъснение, което изчаквате, срещу пределна печалба. Похарчете бюджета за усилие върху наистина двусмислен вход.
Пълната справка за заявките и отговорите, списъците с параметри, семантиката на поточното предаване и интерактивна площадка за игра се намират в документацията на API.
08Избор между трите модела W8A16
Три модела стоят на нивото с най-висока вярност, всичките на минимална цена. Изборът е предимно по модалност:
| Модел | Зрение | json_schema | Цена вход / изход | Изберете го за |
|---|---|---|---|---|
| Hy3 · W8A16 | Не | Да | $0.50 / $2.00 | Само текстови структурирани потоци, оркестрация на инструменти, извличане при дълъг контекст |
| MiMo-V2.5-Pro · W8A16 | Не | Да | $0.50 / $2.00 | Работа само с текст, където искате настройката Pro на линията MiMo |
| MiMo-V2.5 · W8A16 | Да | Да | $0.50 / $2.00 | Всичко с изображения — сканирани документи, екранни снимки, снимки |
Ако която и да е част от входа ви е изображение, решението е взето вместо вас: Hy3 е само текстов — изпращайте сканирани PDF файлове, екранни снимки и снимки към MiMo-V2.5. Там, където входът наистина е текст, профилът на Hy3 — агентна употреба на инструменти, припомняне при дълъг контекст и ниски съобщени халюцинации — се съотнася най-пряко към потоковата работа. Тъй като и трите струват еднакво, пуснете схемата си срещу два от тях върху няколкостотин реални записа и сравнете дела на успешния разбор; това решава въпроса по-добре от която и да е таблица, включително тази.
09Къде Hy3 заслужава мястото си
- Извличане на полета с голям обем. Договори, подадени документи, доклади за инциденти, преписи, клинични бележки, съдебни записи — навсякъде, където типизиран обект на документ е резултатът, а обемът прави повторните опити скъпи.
- Класификация и маршрутизиране в мащаб. Изходи със затворени изброени стойности, където цялата стойност на модела е никога да не измисли деветнадесета категория.
- Корпуси по сигурност и разузнаване на заплахи. Описания на зловреден софтуер, публикувани уязвимости и фишинг проби — материалът, който подхлъзва филтрираните модели към отказ и където дупка с форма на категория проваля целта.
- Агенти с инструменти, които не бива да засядат. 8-битовата вярност на аргументите означава, че JSON, подаден на функциите ви, се разбира; осакатено извикване на инструмент е засeднал агент, а не малко по-лош отговор.
- Анализ на дълги документи към структура. Цял подаден документ вътре, един компактен обект навън.
- Модерация на съдържание и изследване на политики. Етикетирането на материал, който филтриран модел отказва да чете, е постоянен проблем за екипите по доверие и безопасност; нефилтриран модел със строга схема го решава направо.
А къде не: всичко с изображения (използвайте MiMo-V2.5) и автономно софтуерно инженерство през много файлове, където собствените таблици на Tencent поставят Hy3 зад GLM-5.2 на SWE-bench Verified и доста назад на DeepSWE.
Всяко архитектурно и бенчмарк твърдение за основата Hy3 идва от публичните материали на Tencent по изданието или от отразяването им в пресата; фактите за каталога идват от нашия собствен жив /v1/models. Проверете и двете.
Числата от бенчмаркове са докладвани от Tencent, включително тези на конкурентите; независима проверка предстоеше към момента на писане. Стойностите на разходите са изчислени от публикуваните ни тарифи $0.50 / $2.00. Нито едно число на тази страница не е бенчмарк, проведен от Shannon, нито оценка на око.
10Често задавани въпроси
Какво е нецензурираният Hy3 API?
Това е крайната точка на шлюза Shannon AI за модела Hy3-W8A16 — основата Hy3 с отворени тегла на Tencent, обслужвана върху собствен GPU клъстер с 8-битова точност на теглата, без слой за откази и без филтриране на изхода. Предлага контекстен прозорец от 262 144 токена, 16 384 изходни токена на заявка, извикване на инструменти, разсъждение с reasoning_effort и пълен структуриран изход както по json_schema, така и по response_format, на /v1/chat/completions, /v1/messages и /v1/responses с поточно предаване.
Поддържа ли Hy3 JSON схема и структуриран изход?
Да. Hy3-W8A16 поддържа както response_format за режим на JSON обект, така и json_schema за строги, типизирани схеми — цялата повърхност на структурирания изход, а не част от нея. Това не важи за всеки модел в каталога: Laguna-S-2.1 не поддържа нито едното, а inkling поддържа response_format, но не и json_schema. Ако потокът ви зависи от типизиран договор, Hy3 е един от моделите, които могат да го спазят.
Какво означава W8A16 и по-добро ли е от 4 или 3 бита?
W8A16 означава 8-битови тегла и 16-битови активации — нивото с най-висока вярност, което обслужваме. В сравнение с W4A16-AUTOROUND-REAP (4-битови тегла, научено закръгляне, отрязване на експерти) и 3BIT-REAP (3-битови тегла плюс отрязване на експерти) то променя издадените тегла най-малко, така че поведението остава най-близо до оригиналната контролна точка. Агресивните нива съществуват, защото иначе най-големите основи биха били непрактични за обслужване със скорост.
Поддържа ли Hy3 изображения или зрение?
Не. Hy3-W8A16 е само текстов. Изпращането на части с изображения към него няма да работи. Ако ви трябва зрение плюс структуриран изход на същото 8-битово ниво, използвайте MiMo-V2.5-W8A16, който поддържа вход с изображения заедно с json_schema и response_format на същата цена $0.50 / $2.00.
Колко струва Hy3 API?
$0.50 на милион входни токена и $2.00 на милион изходни токена — минималната цена в каталога ни, споделена с MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 и MiniMax-M3. Представителен поток за извличане с 1200 входни и 300 изходни токена на извикване струва около $0.0012 на извикване, или приблизително $1200 на милион извиквания.
Ще откаже ли Hy3 заявка?
Пред модела няма слой за откази и няма филтриране на изхода. За структуриран поток това е свойство на надеждността точно толкова, колкото и на съдържанието: отказът е нарушение на схемата, защото проза, обясняваща защо моделът няма да отговори, не се разбира като обекта, който валидаторът ви очаква. Премахването на пътя на отказа премахва цял клас грешки при разбор върху корпуси по сигурност, медицина, право и съдържание за възрастни.
Пуснете Hy3 срещу собствената си схема
8-битова вярност, строга json_schema, 262K контекст, без откази — на минимална цена.
Модел Hy3-W8A16 · само текст · $0.50 вход / $2.00 изход на 1M токена
Източници: картите на моделите Tencent Hunyuan · хранилището на Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · отразяването на изданието Hy3 от VentureBeat. Бенчмарковете за основата са докладвани от Tencent и са предварителни до независима проверка. Shannon AI се управлява от Shannon Lab LLC, Ню Мексико, САЩ.