Нецензурирано API на моделот Hy3

Повеќето расправии на тема „кој модел да го користам“ се за таванот: кој пишува најдобар код, решава најтешка математика, победува во најдолгото агентско извршување. Структурираните процеси не работат така. Задача што вади полиња од сто илјади документи дневно не бара модел што е брилијантен еднаш — бара модел што е исправен во ист облик секој пат и што никогаш не враќа пасус таму каде треба да стои JSON објект. Тоа е својството поради кое Hy3-W8A16 е тука.

01Што е Hy3 и од каде доаѓа

Hy3 е модел за расудување и агентска работа со отворени тежини од тимот Hunyuan на Tencent, објавен во целост на 6 јули 2026 година под попустлива лиценца, со тежини објавени на Hugging Face. Ја продолжува лозата на претходната работа на Tencent со мешавина од експерти, Hunyuan-Large. Архитектонски тој е редок MoE: 295 милијарди вкупни параметри, од кои приближно 21 милијарда се активираат по токен преку рутирање на топ-8 низ 192 експерти, врз трансформер со 80 слоја со внимание групирано по прашања, плус одделен слој за предвидување повеќе токени со 3,8 милијарди за спекулативно декодирање. Родниот контекст е 256K — токму 262.144-те токени што ги изложуваме, а не скратување на нешто поголемо ниту растегнување со RoPE на нешто помало.

Тој однос на редост е важната бројка за секој што плаќа по токен: Hy3 го носи знаењето на модел со 295 милијарди, а по премин напред прави приближно аритметика на модел со 21 милијарда. Затоа и можеме да си дозволиме да го послужуваме на 8 бита наместо да го компресираме посилно — 8-битна верзија на толку редок модел сепак собира и сепак работи брзо на сопствениот GPU кластер.

Во што Tencent пријавува дека е добар

Објавените евалуациски табели на Tencent ги ставаат силните страни на Hy3 недвосмислено во агентското пребарување, оркестрацијата на алатки и наоѓањето во долг контекст, а не во суровото кодирање. Нивните пријавени бројки:

Слабите ленти ги покажуваме намерно. Hy3 заостанува зад GLM-5.2 во кодирањето во сопствената споредба на Tencent — 78,0 наспроти 84,2 на SWE-bench Verified, 28,0 наспроти 46,2 на DeepSWE. Ако твоето оптоварување е автономно софтверско инженерство низ повеќе датотеки, прочитај го прво остатокот од истражувачкиот индекс на модели. Ако е читање текст и испуштање структура, профилот е близу до идеален.

Бројката што е најважна за продукциска работа е бројка за доверливост: Tencent пријавува стапка на халуцинации од 5,4%, надолу од 12,5% кај претходната генерација, со пад на грешките од здрав разум од 25,4% на 12,7%. Нивниот наведен принцип на тренирање — одговори кога има доказ, кажи отворено кога нема — е токму темпераментот што го сакаш кај модел за извлекување што инаку би измислил веродостојна вредност за поле што изворот воопшто не го спомнува.

Сите бројки во овој дел се објавени од Tencent од нивните сопствени тестирања; независна проверка од трето лице сè уште беше во тек во времето на пишување. Третирај ги како насока, а не како решено.

02Што значи W8A16 и зошто е важно за структурираниот излез

Секој модел на портата носи наставка за квантизација. Таа не е украс — ти кажува колку далеку седат послужените тежини од контролната точка што ја објавила лабораторијата.

Ниво	Што прави	Верност
3BIT-REAP	3-битни тежини плус REAP, метод за поткастрување експерти што ги отфрла ретко рутираните MoE експерти пред квантизацијата	Најкомпресирано
W4A16-AUTOROUND-REAP	4-битни тежини / 16-битни активации преку AutoRound — научено заокружување што враќа точност во однос на наивното заокружување на најблиску — плус REAP поткастрување	Средно
W8A16	8-битни тежини / 16-битни активации. Без поткастрување, без поправка со научено заокружување — тежините се едноставно носени со двојно поголема прецизност	Највисока

Каде дрејфот од квантизацијата навистина боли

REAP и AutoRound враќаат најголем дел од тоа што го губи наивната компресија — но „најголем дел“ носи тежина во таа реченица, а остатокот не паѓа рамномерно. Нискобитната квантизација ги влошува опашките: одлуките со ниска веројатност и висока специфичност. Во прозата тоа е речиси невидливо; друга придавка сепак е добра реченица. Кај структурираниот излез тоа е целата игра, зашто шемата е долг синџир одлуки со ниска веројатност што секоја мора да биде точно исправна:

• Синтакса на ниво на токен. Затворачка заграда, запирка, наводник. Секој е еден токен, а еден погрешен токен го поништува целиот одговор.
• Дисциплина кај набројувањата. Твојата шема вели дека "status" е едно од "open" | "closed" | "pending"; модел што дрејфал враќа "Open" или "pending review" — семантички блиску, а важечко како ниту едно од двете.
• Дисциплина кај типовите. Поле од тип number се враќа како "1,240", а boolean како "yes". И двете се парсираат како низи и паѓаат на шемата.
• Литерали од долгата опашка. Ретки сопствени именки, каталошки броеви, хемиски имиња, нелатинични писма, точни датуми — токму областа со ниска веројатност што нискобитните тежини ја замаглуваат.

Ништо од ова не ги прави 4-битните или 3-битните модели лоши; за разговорна работа разликата во верност често не вреди колку разликата во цена. Но кога потрошувачот на излезот е потврдувач, а не човек, прецизноста во опашките директно се претвора во стапка на успешно парсирање — а таа во буџет за повторувања и во доцнење на p99. W8A16 е нивото каде престануваш да го плаќаш тој данок.

03Структуриран излез: json_schema и response_format

Hy3 ги поддржува обете половини од површината за структуриран излез — вреди да се каже изречно, зашто тоа не е универзално низ каталогот:

Модел	response_format	json_schema
Hy3 · W8A16	Да	Да
MiMo-V2.5-Pro · W8A16	Да	Да
inkling · W4A16-AUTOROUND-REAP	Да	Не
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Не	Не

Разликата меѓу двата механизма е поважна отколку што луѓето претпоставуваат. response_format: {"type": "json_object"} бара валиден JSON и ништо повеќе — моделот го бира обликот, па два повика можат да вратат {"name": ...} и {"full_name": ...} и обата се исправни. json_schema го задава обликот однапред: именувани полиња, типови, набројувања, списоци задолжителни полиња, вгнездување. Тоа е договор наспроти кој можеш да пишуваш код.

Минимален повик на дијалектот компатибилен со OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Практични белешки

• Направи го секое поле задолжително и дозволи null. Изборните полиња покануваат тивки испуштања; задолжително поле што прима null наметнува изречно „не е присутно“, а тоа е информација по која можеш да дејствуваш.
• Набројувањата се подобри од слободни низи. Каде и да можеш да го затвориш множеството вредности, затвори го — тоа е промената со најголема моќ врз вистинската стапка на успешност на шемата.
• Држи се под таванот од 16.384 излезни токени. Неограничен низ ќе се скрати среде објект. Ограничи ги должините на низите или подели го влезот.
• Задржи ја системската порака. Шемата го ограничува обликот; промптот и понатаму ја уредува семантиката — што се смета за „критично“, кој датум победува кога се појавуваат два, дали да се нормализираат единиците.
• Сепак потврдувај. Поддршката за шема ја крева стапката на успешност; таа не заменува потврдувач и редица за неиспорачани пораки.

04Зошто „нецензурирано“ е својство на доверливоста, а не само на содржината

Hy3 на портата нема слој за одбивање и нема филтрирање на излезот. Вообичаеното врамување е за содржината: можеш да обработуваш безбедносно истражување, анализа на злонамерен софтвер, извештаи за експлоати, медицински и правни корпуси, материјал за возрасни, документација за намалување штета или транскрипти од непријателски корисници без моделот да одлучи наместо тебе дека повеќе би сакал да не.

Постои и втора, помеханичка причина зошто е важно. Одбивањето е прекршување на шемата. Филтриран модел што одбива не ти го враќа твојот објект со ознака "unavailable" — тој враќа проза. „Не можам да помогнам со тоа барање.“ Таа низа не е објект incident; таа паѓа на твојот потврдувач и завршува во редицата за неиспорачани пораки покрај вистинските грешки при парсирање, каде сега мораш да ги разделуваш одбивањата поради политика од вистинските неисправности.

Полошо, одбивањата корелираат со содржината наместо да се распределуваат случајно. Ако 4% од твојот корпус се извештаи за безбедносни инциденти, а моделот ги одбива повеќето, не си изгубил 4% од пропусноста рамномерно — изгубил си една категорија, а контролната табла изградена врз тие податоци тивко ја потценува токму работата поради која постои. Дупките во облик на категорија чинат повеќе од рамномерниот шум, зашто ништо не алармира за нив. Отстрани ја патеката на одбивање и она што останува — неисправности, скратувања, двосмислен текст — е некорелирано со темата, па затоа е мерливо.

05Контекст, таван на излезот и како да ги буџетираш

Секој модел на портата ги дели истите ограничувања:

Контекстот е заеднички буџет: промптот плус излезот заедно мора да соберат во 262.144, па практичниот таван на влезот во еден повик е околу 245.000 токени, многу грубо 180.000 англиски збора. За структурирана работа таванот од 16.384 излезни токени е потврдото ограничување и она што ги изненадува луѓето — шема што испушта по еден објект на запис го достигнува многу пред да се наполни прозорецот. Два обрасци помагаат против тоа:

• Широк влез, тесен излез. Турни цел договор, поднесок или прозорец од дневник во контекстот и побарај еден компактен објект. Влезните токени чинат четвртина од излезните, па цената наградува многу читање и малку пишување.
• Дели по граници на записи, а не по број бајти. Дели таму каде моделот може да го види шевот. Запис пресечен среде реченица произведува самоуверено погрешен објект, а не очигледно откажување.

Пријавената сила на Hy3 во наоѓање во долг контекст — 73,4 на AA-LCR и скок од 42,9% на 75,1% при потсетување на долг дијалог на MRCR — е токму способноста од која зависи првиот образец, и е различна вештина од доброто пишување.

06Подна цена и аритметиката на еден вистински процес

Hy3 седи на 0,50 долари на милион влезни токени и 2,00 долари на милион излезни токени — подот на каталогот, делен со MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 и MiniMax-M3. Разработено низ репрезентативни оптоварувања:

Оптоварување	Влез / повик	Излез / повик	Цена / повик	На 1M повици
Извлекување полиња	1,200	300	$0.0012	$1,200
Класификација на документи	3,000	120	$0.0018	$1,800
Резиме на долг документ во шема	40,000	900	$0.0218	$21,800
Анализа со полн прозорец	240,000	2,000	$0.1240	$124,000

Бројката што менува одлуки не е главната стапка, туку ефективната стапка по повторувањата. Ако два модела чинат исто, а едниот паѓа на потврдувањето кај 6% од повиците, додека другиот паѓа кај 1,5%, моделот со поголем дрејф извршува околу 4,5% повеќе повици — преживливо. Штетата е во опашката: повторените повици траат двојно подолго, па доцнењето на p99 приближно се удвојува за видлив дел од сообраќајот, а тоа што ќе падне двапати станува рачна работа. При милион повици дневно тоа се илјадници записи што некој мора да ги прочита.

Оттука и случајот за 8-битното ниво по подна цена: тука не плаќаш премија за верноста, па аритметиката на повторувањата е бесплатни пари. Ако 3-битен модел беше поевтин, ќе имаше вистинска размена за мерење — Hy3 чини исто како и најевтиното нешто во каталогот.

07Три API дијалекти, еден модел

Hy3 е достапен на сите три дијалекти на портата, со стриминг на секој. Ист модел, исти тежини, исти ограничувања — избери го оној што одговара на SDK-то што веќе го имаш.

Крајна точка	Дијалект	Користи кога
/v1/chat/completions	OpenAI	Имаш SDK на OpenAI, LangChain или LlamaIndex. Насочи го основниот URL овде и промени го идентификаторот на моделот.
/v1/messages	Anthropic	На SDK-то на Anthropic си и сакаш блокови содржина без слој за превод.
/v1/responses	Responses	Го сакаш поновиот облик на барање со типизиран излез и состојба на серверот.

Hy3 поддржува и повикување алатки и расудување, вклучувајќи го reasoning_effort. За работа со извлекување корисниот потег обично е да го спуштиш расудувањето: врз добро определена шема над чист текст, токените за размислување се излезни токени што ги плаќаш и доцнење што го чекаш, за маргинална добивка. Потроши го буџетот за напор врз навистина двосмислен влез.

Целосната референца за барањата и одговорите, списоците параметри, семантиката на стримингот и интерактивно игралиште живеат во API документацијата.

08Избор меѓу трите модела со W8A16

Три модела седат на нивото со највисока верност, сите по подна цена. Изборот е главно по модалитет:

Модел	Вид	json_schema	Цена навнатре / нанадвор	Избери го за
Hy3 · W8A16	Не	Да	$0.50 / $2.00	Структурирани процеси само со текст, оркестрација на алатки, наоѓање во долг контекст
MiMo-V2.5-Pro · W8A16	Не	Да	$0.50 / $2.00	Работа само со текст каде го сакаш Pro нагодувањето на линијата MiMo
MiMo-V2.5 · W8A16	Да	Да	$0.50 / $2.00	Сè со слики — скенирани документи, снимки од екран, фотографии

Ако кој било дел од твојот влез е слика, одлуката е донесена наместо тебе: Hy3 е само за текст — праќај ги скенираните PDF документи, снимките од екран и фотографиите кон MiMo-V2.5. Каде влезот е навистина текст, профилот на Hy3 со агентска употреба на алатки, потсетување во долг контекст и ниска пријавена стапка на халуцинации најдиректно се пресликува на продукциска работа. Бидејќи сите три чинат исто, пушти ја својата шема наспроти два од нив врз неколку стотини вистински записи и спореди ги стапките на успешно парсирање; тоа решава подобро од која било табела, вклучувајќи ја и оваа.

09Каде Hy3 го заслужува своето место

• Извлекување полиња со голем обем. Договори, поднесоци, извештаи за инциденти, транскрипти, клинички белешки, судски списи — секаде каде типизиран објект по документ е испораката, а обемот ги прави повторувањата скапи.
• Класификација и рутирање во обем. Излези со затворени набројувања, каде целата вредност на моделот е никогаш да не измисли деветнаесетта категорија.
• Безбедносни и разузнавачки корпуси за закани. Извештаи за злонамерен софтвер, обелоденувања на експлоати и фишинг примероци — материјалот што ги турка филтрираните модели во одбивање, и каде дупка во облик на категорија ја поразува целта.
• Агенти со повикување алатки што не смеат да застанат. 8-битната верност на аргументите значи дека JSON-от предаден на твоите функции се парсира; расипан повик на алатка е застанат агент, а не малку полош одговор.
• Анализа на долги документи во структура. Цел поднесок внатре, еден компактен објект надвор.
• Модерација на содржина и истражување политики. Означувањето материјал што филтриран модел одбива да го прочита е постојан проблем во довербата и безбедноста; нефилтриран модел со строга шема го решава директно.

А каде не: сè со слики (користи MiMo-V2.5) и автономно софтверско инженерство низ повеќе датотеки, каде сопствените табели на Tencent го ставаат Hy3 зад GLM-5.2 на SWE-bench Verified и далеку зад на DeepSWE.

Бројките од реперите се објавени од Tencent, вклучувајќи ги и бројките за конкурентите; независната проверка беше во тек во времето на пишување. Бројките за трошоците се пресметани од нашите објавени стапки од 0,50 / 2,00. Ниту една бројка на оваа страница не е репер извршен од Shannon ниту проценка.

10Често поставувани прашања

---

Извори: картички на моделите Tencent Hunyuan · складиште на Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · известување на VentureBeat за објавата на Hy3. Реперите за фундаментот се објавени од Tencent и се привремени додека не се потврдат независно. Со Shannon AI управува Shannon Lab LLC, Ново Мексико, САД.