Hy3 model API bez cenzure

Većina rasprava o tome „koji model odabrati” tiče se stropa: koji najbolje piše kod, rješava najtežu matematiku, pobjeđuje u najdužem agentskom izvođenju. Strukturirani cjevovodi ne rade tako. Posao koji izlučuje polja iz sto tisuća dokumenata dnevno ne treba model koji je jednom briljantan — treba mu onaj koji je svaki put ispravan u istom obliku i koji nikad ne vraća odlomak ondje gdje pripada JSON objekt. To je svojstvo zbog kojeg je Hy3-W8A16 ovdje.

01Što je Hy3 i odakle dolazi

Hy3 je model otvorenih težina za promišljanje i agentski rad iz Tencentova Hunyuan tima, objavljen u cijelosti 6. srpnja 2026. pod dopuštajućom licencom, s težinama objavljenima na Hugging Faceu. Nastavlja podrijetlo Tencentova ranijeg Mixture-of-Experts rada Hunyuan-Large. Arhitektonski je rijedak MoE: 295 milijardi ukupnih parametara, od kojih se otprilike 21 milijarda aktivira po tokenu usmjeravanjem po prvih 8 od 192 stručnjaka, na transformeru od 80 slojeva s pažnjom grupiranom po upitima, plus zaseban sloj predviđanja više tokena od 3,8B za spekulativno dekodiranje. Izvorni kontekst iznosi 256K — točno onih 262.144 tokena koje izlažemo, a ne odsijecanje nečega većeg ni RoPE-om rastegnuto proširenje nečega manjeg.

Taj je omjer rijetkosti važna brojka za svakoga tko plaća po tokenu: Hy3 nosi znanje modela od 295B, a po prolazu unaprijed obavlja otprilike aritmetiku modela od 21B. To je ujedno razlog zašto si ga možemo priuštiti posluživati na 8 bita umjesto da ga jače komprimiramo — 8-bitna izvedba ovako rijetkog modela i dalje stane i i dalje radi brzo na našem vlastitom GPU klasteru.

U čemu je, prema Tencentu, dobar

Tencentove objavljene tablice evaluacije Hy3-ove snage smještaju izravno u agentsko pretraživanje, orkestraciju alata i dohvat iz dugog konteksta, a ne u sirovo programiranje. Njihove prijavljene brojke:

Slabe trake pokazujemo namjerno. Hy3 zaostaje za GLM-5.2 na programiranju u Tencentovoj vlastitoj usporedbi — 78,0 naspram 84,2 na SWE-benchu Verified, 28,0 naspram 46,2 na DeepSWE-u. Ako je vaše opterećenje autonomno softversko inženjerstvo kroz više datoteka, prvo pročitajte ostatak popisa istraživanja modela. Ako je riječ o čitanju teksta i odašiljanju strukture, profil je blizu idealnoga.

Brojka koja za rad s cjevovodima najviše znači tiče se pouzdanosti: Tencent Hy3-ovu stopu halucinacija prijavljuje na 5,4 %, s 12,5 % u prethodnoj generaciji, uz pad pogrešaka zdravorazumskog tipa s 25,4 % na 12,7 %. Njihovo navedeno načelo treniranja — odgovori kad ima dokaza, jasno reci kad ih nema — točno je sklonost kakvu želite u modelu za izlučivanje koji bi inače izmislio vjerojatnu vrijednost za polje koje izvor nikad ne spominje.

Sve brojke u ovom odjeljku prijavio je Tencent iz vlastitih testnih izvođenja; nezavisna provjera treće strane u trenutku pisanja još je bila u tijeku. Tretirajte ih kao smjerokaz, a ne kao utvrđeno.

02Što znači W8A16 i zašto je važan za strukturirani izlaz

Svaki model na pristupniku nosi sufiks kvantizacije. To nije ukras — govori vam koliko su posluživane težine daleko od kontrolne točke koju je laboratorij objavio.

Razina	Što radi	Vjernost
3BIT-REAP	3-bitne težine plus REAP, metoda obrezivanja stručnjaka koja rijetko usmjeravane MoE stručnjake izbacuje prije kvantizacije	Najkomprimiranije
W4A16-AUTOROUND-REAP	4-bitne težine / 16-bitne aktivacije preko AutoRounda — naučenog zaokruživanja koje vraća točnost u odnosu na naivno zaokruživanje na najbliže — plus REAP obrezivanje	Sredina
W8A16	8-bitne težine / 16-bitne aktivacije. Bez obrezivanja, bez popravka naučenim zaokruživanjem — težine se jednostavno nose u dvostrukoj preciznosti	Najveća

Gdje odlutavanje od kvantizacije zapravo boli

REAP i AutoRound vraćaju većinu onoga što naivna kompresija izgubi — ali „većina” u toj rečenici nosi teret, a ostatak ne sleti ravnomjerno. Niskobitna kvantizacija razgrađuje repove: odluke male vjerojatnosti i visoke specifičnosti. U prozi je to gotovo nevidljivo; drukčiji pridjev i dalje je dobra rečenica. U strukturiranom izlazu to je cijela igra, jer je shema dugačak lanac odluka male vjerojatnosti od kojih svaka mora biti točno pogođena:

• Sintaksa na razini tokena. Zatvorena vitičasta zagrada, zarez, navodnik. Svaki je jedan token, a jedan pogrešan token poništava cijeli odgovor.
• Disciplina nabrajanja. Vaša shema kaže da je "status" jedno od "open" | "closed" | "pending"; odlutao model vraća "Open" ili "pending review" — semantički blizu, a ni jedno ni drugo valjano.
• Disciplina tipova. Polje tipa number vrati se kao "1,240", a boolean kao "yes". Oba se raščlanjuju kao nizovi i padaju na shemi.
• Doslovni izrazi iz dugog repa. Rijetke vlastite imenice, kataloški brojevi, kemijski nazivi, nelatinična pisma, precizni datumi — upravo područje male vjerojatnosti koje niskobitne težine zamućuju.

Ništa od toga 4-bitne i 3-bitne modele ne čini lošima; za razgovorni rad razlika u vjernosti često nije vrijedna razlike u cijeni. Ali kad je potrošač izlaza validator, a ne čovjek, preciznost u repovima izravno se pretvara u stopu uspješnog raščlanjivanja — a ta stopa u proračun za ponavljanja i p99 latenciju. W8A16 je razina na kojoj prestajete plaćati taj porez.

03Strukturirani izlaz: json_schema i response_format

Hy3 podržava obje polovice površine strukturiranog izlaza — što vrijedi izričito reći, jer to u katalogu nije univerzalno:

Model	response_format	json_schema
Hy3 · W8A16	Da	Da
MiMo-V2.5-Pro · W8A16	Da	Da
inkling · W4A16-AUTOROUND-REAP	Da	Ne
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Ne	Ne

Razlika između tih dvaju mehanizama važnija je nego što se pretpostavlja. response_format: {"type": "json_object"} traži valjan JSON i ništa više — model bira oblik, pa dva poziva mogu vratiti {"name": ...} i {"full_name": ...}, a oba su ispravna. json_schema oblik zadaje unaprijed: imenovana polja, tipove, nabrajanja, popise obveznih polja, ugniježđivanje. To je ugovor prema kojem možete pisati kod.

Minimalan poziv na dijalektu kompatibilnom s OpenAI-jem:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktične napomene

• Neka svako polje bude obvezno i neka dopušta null. Neobavezna polja pozivaju na tiho ispuštanje; obvezno polje koje smije biti null iznuđuje izričito „nije prisutno”, a to je podatak s kojim možete raditi.
• Nabrajanja pobjeđuju slobodne nizove. Gdje god možete zatvoriti skup vrijednosti, zatvorite ga — to je izmjena sheme s najvećom polugom na stvarnu prolaznost.
• Ostanite ispod stropa izlaza od 16.384 tokena. Neomeđeno će se polje odsjeći usred objekta. Ograničite duljine polja ili razdijelite ulaz.
• Zadržite sustavsku poruku. Shema ograničava oblik; upit i dalje upravlja semantikom — što se broji kao „kritično”, koji datum pobjeđuje kad se pojave dva, treba li normalizirati jedinice.
• Ipak potvrđujte. Podrška za sheme podiže prolaznost; ne zamjenjuje validator i red za neisporučene poruke.

04Zašto je „bez cenzure” svojstvo pouzdanosti, a ne samo sadržaja

Hy3 na pristupniku nema sloj odbijanja ni filtriranje izlaza. Uobičajeno je uokvirivanje o sadržaju: možete obrađivati sigurnosna istraživanja, analizu zloćudnog koda, zapise o eksploatima, medicinske i pravne korpuse, materijal za odrasle, dokumentaciju o smanjenju štete ili transkripte neprijateljskih korisnika bez modela koji umjesto vas odlučuje da bi radije ne.

Postoji i drugi, mehaničkiji razlog zašto je to važno. Odbijanje je kršenje sheme. Filtriran model koji odbija ne vraća vaš objekt sa zastavicom "unavailable" — vraća prozu. „Ne mogu pomoći s tim zahtjevom.” Taj niz nije objekt incident; pada na vašem validatoru i završava u redu za neisporučene poruke uz stvarne pogreške raščlanjivanja, gdje sad morate razdvajati odbijanja po pravilima od stvarnih deformacija.

Još gore, odbijanja koreliraju sa sadržajem umjesto da se raspoređuju nasumično. Ako je 4 % vašeg korpusa izvještaji o sigurnosnim incidentima, a model većinu njih odbije, niste ravnomjerno izgubili 4 % propusnosti — izgubili ste jednu kategoriju, a nadzorna ploča izgrađena na tim podacima tiho podbacuje upravo u onome zbog čega postoji. Rupe u obliku kategorije stoje više od ravnomjernog šuma jer ništa na njih ne upozorava. Uklonite put odbijanja i ono što ostaje — deformacije, odsijecanja, dvosmislen tekst — nije u korelaciji s temom i stoga je mjerljivo.

05Kontekst, strop izlaza i kako ih planirati

Svaki model na pristupniku dijeli ista ograničenja:

Kontekst je dijeljen proračun: upit i izlaz zajedno moraju stati u 262.144, pa je praktičan strop ulaza u jednom pozivu oko 245.000 tokena, vrlo grubo 180.000 engleskih riječi. Za strukturiran rad tvrđe je ograničenje strop izlaza od 16.384 tokena i ono ljude iznenađuje — shema koja odašilje jedan objekt po zapisu udara u njega mnogo prije nego što se prozor napuni. Protiv toga rade dva obrasca:

• Širok ulaz, uzak izlaz. Gurnite cijeli ugovor, podnesak ili prozor zapisa u kontekst i tražite jedan sažet objekt. Ulazni tokeni stoje četvrtinu izlaznih, pa cjenik nagrađuje mnogo čitanja i malo pisanja.
• Dijelite po granicama zapisa, a ne po broju bajtova. Režite ondje gdje model vidi šav. Zapis presječen usred rečenice proizvodi samouvjereno pogrešan objekt umjesto očitog otkaza.

Hy3-ova prijavljena snaga u dohvatu iz dugog konteksta — 73,4 na AA-LCR-u i skok s 42,9 % na 75,1 % na MRCR dosjećanju iz dugog dijaloga — upravo je sposobnost o kojoj prvi obrazac ovisi, i drukčija vještina od dobrog pisanja.

06Cijena na pragu i aritmetika stvarnog cjevovoda

Hy3 stoji 0,50 $ po milijunu ulaznih tokena i 2,00 $ po milijunu izlaznih tokena — na pragu kataloga, koji dijeli s modelima MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 i MiniMax-M3. Provedeno kroz reprezentativna opterećenja:

Opterećenje	Ulaz / poziv	Izlaz / poziv	Trošak / poziv	Na 1M poziva
Izlučivanje polja	1,200	300	$0.0012	$1,200
Klasifikacija dokumenata	3,000	120	$0.0018	$1,800
Sažimanje dugog dokumenta u shemu	40,000	900	$0.0218	$21,800
Analiza punog prozora	240,000	2,000	$0.1240	$124,000

Brojka koja mijenja odluke nije naslovna stopa, nego efektivna stopa nakon ponavljanja. Ako dva modela stoje jednako, a jedan pada na potvrdi u 6 % poziva, dok drugi pada u 1,5 %, model s više odlutavanja odradi otprilike 4,5 % više poziva — što se dade preživjeti. Šteta je u repu: ponovljeni pozivi traju dvostruko dulje, pa se p99 latencija za vidljiv dio prometa otprilike udvostručuje, a ono što padne dvaput postaje ručni posao. Pri milijun poziva dnevno to su tisuće zapisa koje netko mora pročitati.

Otuda argument za 8-bitnu razinu po cijeni s praga: ovdje za vjernost ne plaćate premiju, pa je aritmetika ponavljanja čist dobitak. Da je 3-bitni model jeftiniji, bilo bi stvarnog kompromisa za odvagnuti — Hy3 stoji jednako kao i najjeftinije u katalogu.

07Tri API dijalekta, jedan model

Hy3 je dostupan na sva tri dijalekta pristupnika, sa streamingom na svakome. Isti model, iste težine, ista ograničenja — odaberite onaj koji odgovara SDK-u koji već imate.

Krajnja točka	Dijalekt	Koristite kad
/v1/chat/completions	OpenAI	Imate OpenAI SDK, LangChain ili LlamaIndex. Usmjerite osnovni URL ovamo i promijenite id modela.
/v1/messages	Anthropic	Na Anthropicovu ste SDK-u i želite blokove sadržaja bez sloja prevođenja.
/v1/responses	Responses	Želite noviji oblik zahtjeva s tipiziranim izlazom i stanjem na poslužitelju.

Hy3 podržava i pozivanje alata i promišljanje, uključujući reasoning_effort. Za rad na izlučivanju koristan je potez obično spustiti promišljanje: na dobro zadanoj shemi nad čistim tekstom tokeni promišljanja izlazni su tokeni koje plaćate i latencija koju čekate, uz rubnu korist. Proračun za promišljanje umjesto toga potrošite na uistinu dvosmislen ulaz.

Potpuni popis zahtjeva i odgovora, popisi parametara, semantika streaminga i interaktivni playground nalaze se u dokumentaciji API-ja.

08Odabir među trima W8A16 modelima

Tri modela stoje na razini najveće vjernosti, svi po cijeni s praga. Izbor je uglavnom stvar modaliteta:

Model	Vid	json_schema	Cijena ulaz / izlaz	Odaberite ga za
Hy3 · W8A16	Ne	Da	$0.50 / $2.00	Isključivo tekstualne strukturirane cjevovode, orkestraciju alata, dohvat iz dugog konteksta
MiMo-V2.5-Pro · W8A16	Ne	Da	$0.50 / $2.00	Isključivo tekstualan rad gdje želite Pro ugađanje MiMo linije
MiMo-V2.5 · W8A16	Da	Da	$0.50 / $2.00	Sve sa slikama — skenirane dokumente, snimke zaslona, fotografije

Ako je ijedan dio vašeg ulaza slika, odluka je već donesena umjesto vas: Hy3 je isključivo tekstualan — skenirane PDF-ove, snimke zaslona i fotografije šaljite modelu MiMo-V2.5. Ondje gdje je ulaz uistinu tekst, Hy3-ov profil agentske uporabe alata, dosjećanja iz dugog konteksta i niske prijavljene stope halucinacija najizravnije se preslikava na rad s cjevovodima. Budući da sva tri stoje jednako, pustite svoju shemu kroz dva od njih na nekoliko stotina stvarnih zapisa i usporedite stope raščlanjivanja; to će pitanje riješiti bolje od bilo koje tablice, uključujući ovu.

09Gdje Hy3 zaslužuje svoje mjesto

• Izlučivanje polja u velikom obujmu. Ugovori, podnesci, izvještaji o incidentima, transkripti, kliničke bilješke, sudski spisi — svugdje gdje je tipiziran objekt po dokumentu ono što se isporučuje, a obujam ponavljanja čini skupima.
• Klasifikacija i usmjeravanje na velikoj skali. Izlazi iz zatvorenih nabrajanja, gdje je cijela vrijednost modela to što nikad ne izmišlja devetnaestu kategoriju.
• Sigurnosni i obavještajni korpusi o prijetnjama. Zapisi o zloćudnom kodu, objave eksploata i uzorci phishinga — građa koja filtrirane modele gura u odbijanje i gdje rupa u obliku kategorije poništava svrhu.
• Agenti s pozivanjem alata koji ne smiju zapeti. Osmobitna vjernost argumenata znači da se JSON predan vašim funkcijama raščlanjuje; iskrivljen poziv alata je zapeo agent, a ne tek nešto lošiji odgovor.
• Analiza dugih dokumenata u strukturu. Cijeli podnesak unutra, jedan sažet objekt van.
• Moderacija sadržaja i istraživanje pravila. Označavanje građe koju filtriran model odbija pročitati stalan je problem povjerenja i sigurnosti; nefiltriran model sa strogom shemom rješava ga izravno.

A gdje ne: sve sa slikama (uzmite MiMo-V2.5) i autonomno softversko inženjerstvo kroz više datoteka, gdje Tencentove vlastite tablice Hy3 stavljaju iza GLM-5.2 na SWE-benchu Verified i znatno iza na DeepSWE-u.

Brojke s mjerila prijavio je Tencent, uključujući i brojke konkurenata; nezavisna je provjera u trenutku pisanja bila u tijeku. Brojke o trošku izračunane su iz naših objavljenih stopa od 0,50 $ / 2,00 $. Nijedna brojka na ovoj stranici nije mjerilo koje je pokrenuo Shannon ni procjena.

10Često postavljana pitanja

---

Izvori: Kartice modela Tencent Hunyuan · Repozitorij Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeatov napis o izlasku Hy3. Mjerila temelja prijavio je Tencent i privremena su do nezavisne provjere. Shannon AI vodi Shannon Lab LLC, New Mexico, SAD.