Necenzurirani Hy3 model API
Tencentov temelj Hy3 sa 295 milijardi parametara u 8-bitnoj vjernosti težina, sa strogim izlazom po json_schema, prozorom od 262.144 tokena i bez sloja odbijanja — po najnižoj cijeni u katalogu.
Ukratko
Hy3-W8A16 je treći od naša tri W8A16 modela — 8-bitne težine, 16-bitne aktivacije, nivo najveće vjernosti koji poslužujemo. Radi samo sa tekstom, podržava i json_schema i response_format, nosi kataloški kontekst od 262.144 tokena i plafon izlaza od 16.384 tokena, a košta $0.50 / $2.00 na milion tokena — donju granicu. Bez sloja odbijanja, bez filtriranja izlaza. Birajte ga za tekstualne cjevovode velikog obima koji na svaki poziv moraju vratiti parsirljiv, tipiziran izlaz, uključujući i nad materijalom koji filtrirani model ne bi ni dotakao.
Većina rasprava o tome „koji model koristiti” tiče se plafona: koji piše najbolji kod, rješava najtežu matematiku, izdrži najduže agentsko izvršavanje. Strukturirani cjevovodi ne rade tako. Posao koji dnevno izvlači polja iz sto hiljada dokumenata ne treba model koji je jednom sjajan — treba mu onaj koji je svaki put ispravan u istom obliku i koji nikad ne vrati pasus tamo gdje pripada JSON objekt. To je svojstvo zbog kojeg Hy3-W8A16 i postoji.
01Šta je Hy3 i odakle dolazi
Hy3 je model otvorenih težina za rezonovanje i agentski rad iz Tencentovog tima Hunyuan, objavljen u cijelosti 6. jula 2026. pod permisivnom licencom, sa težinama objavljenim na Hugging Faceu. Nastavlja lozu Tencentovog ranijeg rada na Mixture-of-Expertsu Hunyuan-Large. Arhitektonski je rijedak MoE: 295 milijardi ukupnih parametara, od kojih se otprilike 21 milijarda aktivira po tokenu kroz top-8 usmjeravanje među 192 eksperta, na transformeru od 80 slojeva sa pažnjom grupisanom po upitima, plus zaseban sloj predikcije više tokena od 3,8 milijardi za spekulativno dekodiranje. Izvorni kontekst je 256K — tačno onih 262.144 tokena koje izlažemo, a ne odsječak nečeg većeg ni ropeom rastegnuto proširenje nečeg manjeg.
Taj omjer rijetkosti važan je broj za svakoga ko plaća po tokenu: Hy3 nosi znanje modela od 295 milijardi, a po prolazu unaprijed radi otprilike aritmetiku modela od 21 milijarde. Zato ga i možemo priuštiti na 8 bita umjesto da ga jače komprimujemo — 8-bitno izdanje ovako rijetkog modela i dalje stane i dalje radi brzo na našem vlastitom GPU klasteru.
U čemu je, prema Tencentu, dobar
Tencentove objavljene evaluacijske tabele smještaju snage Hy3 upravo u agentsku pretragu, orkestraciju alata i pretragu po dugom kontekstu, a ne u sirovo kodiranje. Njihove prijavljene brojke:
Slabe trake pokazujemo namjerno. Hy3 zaostaje za GLM-5.2 na kodiranju u Tencentovom vlastitom poređenju — 78,0 naspram 84,2 na SWE-benchu Verified, 28,0 naspram 46,2 na DeepSWE-u. Ako je vaše opterećenje autonomno softversko inženjerstvo preko više datoteka, prvo pročitajte ostatak indeksa istraživanja modela. Ako je čitanje teksta i emitovanje strukture, profil je blizu idealnog.
Brojka koja za rad sa cjevovodima najviše znači jeste ona o pouzdanosti: Tencent prijavljuje stopu halucinacije Hy3 od 5,4%, spuštenu sa 12,5% u prethodnoj generaciji, uz pad grešaka zdravorazumskog tipa sa 25,4% na 12,7%. Njihovo izrečeno načelo treniranja — odgovori kada ima dokaza, otvoreno reci kada ih nema — upravo je sklonost koju želite u modelu za izvlačenje podataka koji bi inače izmislio uvjerljivu vrijednost za polje koje izvor nikad ne spominje.
Sve brojke u ovom odjeljku prijavio je Tencent iz vlastitih testova; nezavisna provjera treće strane u vrijeme pisanja još je bila u toku. Tretirajte ih kao smjernicu, a ne kao riješenu stvar.
02Šta znači W8A16 i zašto je bitan za strukturirani izlaz
Svaki model na gatewayu nosi kvantizacijski sufiks. To nije ukras — govori vam koliko su poslužene težine udaljene od kontrolne tačke koju je laboratorija objavila.
| Nivo | Šta radi | Vjernost |
|---|---|---|
| 3BIT-REAP | 3-bitne težine plus REAP, metoda obrezivanja eksperata koja prije kvantizacije izbacuje rijetko usmjeravane MoE eksperte | Najkomprimovanije |
| W4A16-AUTOROUND-REAP | 4-bitne težine / 16-bitne aktivacije preko AutoRounda — naučenog zaokruživanja koje vraća tačnost u odnosu na naivno zaokruživanje na najbliže — plus REAP obrezivanje | Sredina |
| W8A16 | 8-bitne težine / 16-bitne aktivacije. Bez obrezivanja, bez popravke naučenim zaokruživanjem — težine se prosto nose u dvostrukoj preciznosti | Najviša |
Gdje lutanje od kvantizacije zaista boli
REAP i AutoRound vrate većinu onoga što naivna kompresija izgubi — ali „većina” u toj rečenici radi posao, a ostatak ne slijeće ravnomjerno. Kvantizacija na malo bita degradira repove: odluke male vjerovatnoće i velike specifičnosti. U prozi je to gotovo nevidljivo; drugačiji pridjev i dalje je dobra rečenica. U strukturiranom izlazu to je cijela igra, jer je shema dug lanac odluka male vjerovatnoće od kojih svaka mora biti tačno pogođena:
- Sintaksa na nivou tokena. Zatvorena vitičasta zagrada, zarez, znak navoda. Svaki je jedan token, a jedan pogrešan token poništava cijeli odgovor.
- Disciplina enuma. Vaša shema kaže da je
"status"jedno od"open" | "closed" | "pending"; odlutali model vraća"Open"ili"pending review"— semantički blizu, a ispravno nijedno. - Disciplina tipova. Polje tipa
numbervrati se kao"1,240", abooleankao"yes". Oboje se parsira kao string i pada na shemi. - Literali iz dugog repa. Rijetke vlastite imenice, kataloški brojevi, hemijski nazivi, nelatinična pisma, precizni datumi — upravo područje male vjerovatnoće koje težine na malo bita zamute.
Ništa od ovoga ne čini 4-bitne ili 3-bitne modele lošima; za razgovorni rad razlika u vjernosti često ne vrijedi razlike u cijeni. Ali kada je potrošač izlaza validator, a ne čovjek, preciznost na repovima izravno se pretvara u stopu uspješnog parsiranja — a ta stopa u budžet ponavljanja i p99 latenciju. W8A16 je nivo na kojem prestajete plaćati taj porez.
03Strukturirani izlaz: json_schema i response_format
Hy3 podržava obje polovine površine strukturiranog izlaza — što vrijedi izričito reći, jer to nije univerzalno kroz katalog:
| Model | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Da | Da |
| MiMo-V2.5-Pro · W8A16 | Da | Da |
| inkling · W4A16-AUTOROUND-REAP | Da | Ne |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Ne | Ne |
Razlika između ta dva mehanizma znači više nego što ljudi pretpostavljaju. response_format: {"type": "json_object"} traži ispravan JSON i ništa više — oblik bira model, pa dva poziva mogu vratiti {"name": ...} i {"full_name": ...}, a oba su ispravna. json_schema oblik zadaje unaprijed: imenovana polja, tipove, enume, liste obaveznih, ugniježđivanje. To je ugovor prema kojem možete pisati kod.
Minimalan poziv na dijalektu kompatibilnom sa OpenAI-jem:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}
Praktične napomene
- Neka svako polje bude obavezno i neka dopušta
null. Neobavezna polja pozivaju na tiha izostavljanja; obavezno polje koje dopušta null iznuđuje izričito „nije prisutno”, a to je informacija po kojoj možete postupiti. - Enumi tuku slobodne stringove. Gdje god možete zatvoriti skup vrijednosti, zatvorite ga — to je promjena sheme sa najvećom polugom na stvarnu stopu prolaza.
- Ostanite ispod plafona izlaza od 16.384 tokena. Neograničen niz odsjeći će se usred objekta. Ograničite dužine nizova ili razdijelite ulaz.
- Zadržite sistemsku poruku. Shema ograničava oblik; prompt i dalje uređuje semantiku — šta se broji kao „kritično”, koji datum pobjeđuje kada se pojave dva, treba li normalizovati jedinice.
- Ipak validirajte. Podrška za sheme podiže stopu prolaza; ne zamjenjuje validator i red za neisporučene poruke.
04Zašto je „necenzurirano” svojstvo pouzdanosti, a ne samo sadržaja
Hy3 na gatewayu nema sloj odbijanja niti filtriranje izlaza. Uobičajeno uokvirenje tiče se sadržaja: možete obrađivati sigurnosna istraživanja, analizu zlonamjernog koda, izvještaje o eksploatima, medicinske i pravne korpuse, materijal za odrasle, dokumentaciju o smanjenju štete ili transkripte neprijateljski nastrojenih korisnika, bez modela koji umjesto vas odluči da bi radije ne.
Postoji i drugi, mehaničkiji razlog zašto je to bitno. Odbijanje je kršenje sheme. Filtrirani model koji odbije ne vraća vaš objekt sa zastavicom "unavailable" — vraća prozu. „Nažalost, ne mogu pomoći sa tim zahtjevom.” Taj string nije objekt incident; pada na vašem validatoru i završava u redu za neisporučene poruke pored stvarnih grešaka parsiranja, gdje sada morate razdvajati odbijanja po politici od stvarnih deformacija.
Gore od toga, odbijanja koreliraju sa sadržajem umjesto da se raspoređuju nasumično. Ako su 4% vašeg korpusa izvještaji o sigurnosnim incidentima, a model većinu njih odbije, niste ravnomjerno izgubili 4% propusnosti — izgubili ste jednu kategoriju, a kontrolna tabla građena na tim podacima tiho podbacuje upravo u onome zbog čega postoji. Rupe u obliku kategorije koštaju više od ravnomjernog šuma, jer se ni na šta ne oglašava alarm. Uklonite putanju odbijanja, a ono što ostane — deformacije, odsijecanja, dvosmislen tekst — nije povezano sa temom i stoga je mjerljivo.
Necenzurirano nije neodgovorno
Nepostojanje sloja odbijanja znači da model ne komentariše vaš ulaz. Ne znači da je nalog nenadgledan. Korištenje uređuju naša Politika odgovornog korištenja i mjerodavni zakon, a zloupotreba prekida pristup. Uklanjanje filtera zaustavlja model da iz odlomka dokumenta nagađa vašu namjeru; ne uklanja vašu odgovornost za ono što gradite.
05Kontekst, plafon izlaza i kako ih planirati
Svaki model na gatewayu dijeli ista ograničenja:
Kontekst je zajednički budžet: prompt i izlaz zajedno moraju stati u 262.144, pa je praktični plafon ulaza u jednom pozivu oko 245.000 tokena, vrlo grubo 180.000 engleskih riječi. Za strukturirani rad teže ograničenje je plafon izlaza od 16.384 tokena i to je ono što ljude iznenadi — shema koja emituje jedan objekt po zapisu udari u njega mnogo prije nego se prozor napuni. Protiv toga rade dva obrasca:
- Širok ulaz, uzak izlaz. Ugurajte cijeli ugovor, podnesak ili prozor logova u kontekst i tražite jedan sažet objekt. Ulazni tokeni koštaju četvrtinu izlaznih, pa cijena nagrađuje mnogo čitanja i malo pisanja.
- Dijelite po granicama zapisa, a ne po broju bajtova. Cijepajte tamo gdje model vidi šav. Zapis presječen usred rečenice proizvodi samouvjereno pogrešan objekt umjesto očiglednog kvara.
Prijavljena snaga Hy3 u pretrazi po dugom kontekstu — 73,4 na AA-LCR-u i skok sa 42,9% na 75,1% u dosjećanju dugih dijaloga na MRCR-u — upravo je sposobnost o kojoj prvi obrazac ovisi, i to je druga vještina od dobrog pisanja.
06Najniža cijena i aritmetika stvarnog cjevovoda
Hy3 stoji na $0.50 po milionu ulaznih tokena i $2.00 po milionu izlaznih tokena — donjoj granici kataloga, dijeljenoj sa MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 i MiniMax-M3. Razrađeno kroz reprezentativna opterećenja:
| Opterećenje | Ulaz / poziv | Izlaz / poziv | Trošak / poziv | Na 1M poziva |
|---|---|---|---|---|
| Izvlačenje polja | 1,200 | 300 | $0.0012 | $1,200 |
| Klasifikacija dokumenata | 3,000 | 120 | $0.0018 | $1,800 |
| Sažimanje dugog dokumenta u shemu | 40,000 | 900 | $0.0218 | $21,800 |
| Analiza punog prozora | 240,000 | 2,000 | $0.1240 | $124,000 |
Broj koji mijenja odluke nije naslovna stopa nego efektivna stopa nakon ponavljanja. Ako dva modela koštaju isto, a jedan pada na validaciji u 6% poziva tamo gdje drugi pada u 1,5%, model sa više lutanja izvrši oko 4,5% više poziva — podnošljivo. Šteta je na repu: ponovljeni pozivi traju dvostruko duže, pa se p99 latencija otprilike udvostruči za vidljiv dio prometa, a što padne dvaput postaje ručni posao. Pri milion poziva dnevno to su hiljade zapisa koje neko mora pročitati.
Otud i argument za 8-bitni nivo po najnižoj cijeni: za vjernost ovdje ne plaćate premiju, pa je aritmetika ponavljanja čist dobitak. Da je 3-bitni model jeftiniji, postojala bi stvarna razmjena za odvagati — Hy3 košta jednako kao i najjeftinije u katalogu.
07Tri API dijalekta, jedan model
Hy3 je dosežljiv na sva tri dijalekta gatewaya, uz striming na svakom. Isti model, iste težine, ista ograničenja — birajte onaj koji odgovara SDK-u koji već imate.
| Krajnja tačka | Dijalekt | Koristite kada |
|---|---|---|
| /v1/chat/completions | OpenAI | Imate OpenAI SDK, LangChain ili LlamaIndex. Uperite osnovni URL ovamo i promijenite id modela. |
| /v1/messages | Anthropic | Na Anthropicovom ste SDK-u i želite blokove sadržaja bez sloja prevođenja. |
| /v1/responses | Responses | Želite noviji oblik zahtjeva sa tipiziranim izlazom i stanjem na serveru. |
Hy3 podržava i pozivanje alata i rezonovanje, uključujući reasoning_effort. Za posao izvlačenja podataka koristan potez obično je spustiti rezonovanje: nad dobro određenom shemom i čistim tekstom, tokeni razmišljanja su izlazni tokeni koje plaćate i latencija koju čekate, za neznatan dobitak. Budžet napora radije potrošite na stvarno dvosmislen ulaz.
Potpuni pregled zahtjeva i odgovora, liste parametara, semantika strimovanja i interaktivno igralište žive u API dokumentaciji.
08Biranje između tri W8A16 modela
Tri modela stoje na nivou najveće vjernosti, svi po najnižoj cijeni. Izbor je uglavnom pitanje modalnosti:
| Model | Vid | json_schema | Cijena ulaz / izlaz | Birajte ga za |
|---|---|---|---|---|
| Hy3 · W8A16 | Ne | Da | $0.50 / $2.00 | Strukturirane cjevovode samo sa tekstom, orkestraciju alata, pretragu po dugom kontekstu |
| MiMo-V2.5-Pro · W8A16 | Ne | Da | $0.50 / $2.00 | Rad samo sa tekstom gdje želite Pro štimovanje linije MiMo |
| MiMo-V2.5 · W8A16 | Da | Da | $0.50 / $2.00 | Sve sa slikama — skenirane dokumente, snimke ekrana, fotografije |
Ako je bilo koji dio vašeg ulaza slika, odluka je već donesena: Hy3 radi samo sa tekstom — skenirane PDF-ove, snimke ekrana i fotografije šaljite na MiMo-V2.5. Tamo gdje je ulaz zaista tekst, profil Hy3 — agentsko korištenje alata, dosjećanje u dugom kontekstu i niska prijavljena halucinacija — najizravnije se preslikava na rad sa cjevovodima. Pošto sva tri koštaju isto, pustite svoju shemu na dva od njih nad nekoliko stotina stvarnih zapisa i uporedite stope parsiranja; to rješava pitanje bolje od bilo koje tabele, uključujući ovu.
09Gdje Hy3 zaslužuje svoje mjesto
- Izvlačenje polja u velikom obimu. Ugovori, podnesci, izvještaji o incidentima, transkripti, kliničke bilješke, sudski spisi — svugdje gdje je tipiziran objekt po dokumentu isporuka, a obim ponavljanja čini skupim.
- Klasifikacija i usmjeravanje u velikom obimu. Izlazi sa zatvorenim enumom, gdje je cijela vrijednost modela u tome da nikad ne izmisli devetnaestu kategoriju.
- Korpusi za sigurnost i obavještajne podatke o prijetnjama. Izvještaji o zlonamjernom kodu, objave eksploata i uzorci phishinga — materijal koji filtrirane modele saplete u odbijanje, i gdje rupa u obliku kategorije obesmišljava cijeli posao.
- Agenti sa pozivanjem alata koji ne smiju zapeti. 8-bitna vjernost argumenata znači da se JSON predat vašim funkcijama parsira; izobličen poziv alata je zaglavljen agent, a ne tek malo lošiji odgovor.
- Analiza dugih dokumenata u strukturu. Cijeli podnesak unutra, jedan sažet objekt van.
- Moderacija sadržaja i istraživanje politika. Označavanje materijala koji filtrirani model odbija čitati stalan je problem povjerenja i sigurnosti; nefiltrirani model sa strogom shemom rješava ga izravno.
A gdje ne: sve sa slikama (koristite MiMo-V2.5) i autonomno softversko inženjerstvo preko više datoteka, gdje Tencentove vlastite tabele Hy3 smještaju iza GLM-5.2 na SWE-benchu Verified i znatno iza na DeepSWE-u.
Svaka arhitektonska i benchmark tvrdnja o temelju Hy3 dolazi iz Tencentovih javnih izdavačkih materijala ili iz medijskih napisa o njima; podaci o katalogu dolaze sa naše vlastite žive krajnje tačke /v1/models. Provjerite oboje.
Brojke sa benchmarkova prijavio je Tencent, uključujući i brojke konkurenata; nezavisna provjera u vrijeme pisanja bila je u toku. Brojke o trošku izračunate su iz naših objavljenih stopa od $0.50 / $2.00. Nijedan broj na ovoj stranici nije benchmark koji je Shannon proveo niti procjena.
10Često postavljana pitanja
Šta je necenzurirani Hy3 model API?
To je krajnja tačka Shannon AI Gatewaya za id modela Hy3-W8A16 — Tencentov temelj Hy3 otvorenih težina poslužen na našem vlastitom GPU klasteru u 8-bitnoj preciznosti težina, bez sloja odbijanja i bez filtriranja izlaza. Nudi kontekstni prozor od 262.144 tokena, 16.384 izlazna tokena po zahtjevu, pozivanje alata, rezonovanje uz reasoning_effort i puni strukturirani izlaz kroz json_schema i response_format, na /v1/chat/completions, /v1/messages i /v1/responses, uz striming.
Podržava li Hy3 JSON shemu i strukturirani izlaz?
Da. Hy3-W8A16 podržava i response_format za način rada sa JSON objektom i json_schema za stroge, tipizirane sheme — punu površinu strukturiranog izlaza, a ne djelimičnu. To ne važi za svaki model u katalogu: Laguna-S-2.1 ne podržava nijedno, a inkling podržava response_format, ali ne i json_schema. Ako vaš cjevovod ovisi o tipiziranom ugovoru, Hy3 je jedan od modela koji ga može ispoštovati.
Šta znači W8A16 i je li bolji od 4 bita ili 3 bita?
W8A16 znači 8-bitne težine i 16-bitne aktivacije — nivo najveće vjernosti koji poslužujemo. U poređenju sa W4A16-AUTOROUND-REAP (4-bitne težine, naučeno zaokruživanje, obrezivanje eksperata) i 3BIT-REAP (3-bitne težine plus obrezivanje eksperata), on najmanje mijenja objavljene težine, pa ponašanje ostaje najbliže izvornoj kontrolnoj tački. Agresivni nivoi postoje zato što bi najveće temelje inače bilo nepraktično posluživati pri punoj brzini.
Podržava li Hy3 slike ili vid?
Ne. Hy3-W8A16 radi samo sa tekstom. Slanje dijelova sa slikom neće raditi. Ako vam treba vid uz strukturirani izlaz na istom 8-bitnom nivou, koristite MiMo-V2.5-W8A16, koji uz json_schema i response_format podržava sliku na ulazu po istoj cijeni od $0.50 / $2.00.
Koliko košta Hy3 API?
$0.50 po milionu ulaznih tokena i $2.00 po milionu izlaznih tokena — najniža cijena u našem katalogu, dijeljena sa MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 i MiniMax-M3. Reprezentativan cjevovod za izvlačenje podataka sa 1.200 ulaznih i 300 izlaznih tokena po pozivu košta oko $0.0012 po pozivu, ili otprilike $1,200 na milion poziva.
Hoće li Hy3 odbiti zahtjev?
Ispred modela nema sloja odbijanja niti filtriranja izlaza. Za strukturirani cjevovod to je svojstvo pouzdanosti koliko i svojstvo sadržaja: odbijanje je kršenje sheme, jer se proza koja objašnjava zašto model neće odgovoriti ne parsira kao objekt koji vaš validator očekuje. Uklanjanje putanje odbijanja uklanja cijelu klasu kvarova pri parsiranju nad sigurnosnim, medicinskim, pravnim korpusima i korpusima sadržaja za odrasle.
Pustite Hy3 na vlastitu shemu
8-bitna vjernost, strogi json_schema, 262K konteksta, bez odbijanja — po najnižoj cijeni.
Id modela Hy3-W8A16 · samo tekst · $0.50 ulaz / $2.00 izlaz na 1M tokena
Izvori: kartice modela Tencent Hunyuan · repozitorij Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeatov napis o izdanju Hy3. Benchmarkove temelja prijavio je Tencent i privremeni su do nezavisne provjere. Shannon AI-jem upravlja Shannon Lab LLC, Novi Meksiko, SAD.