Óritskoðað Hy3 líkana-API

Flest rifrildi um „hvaða líkan á ég að nota“ snúast um þakið: hvert skrifar besta kóðann, leysir erfiðustu stærðfræðina, vinnur lengstu gerandakeyrsluna. Skipulagðar leiðslur virka ekki þannig. Verk sem dregur reiti úr hundrað þúsund skjölum á dag þarf ekki líkan sem er snilldarlegt einu sinni — það þarf líkan sem er rétt í sömu lögun í hvert einasta skipti og skilar aldrei málsgrein þar sem JSON-hlutur á heima. Það er sá eiginleiki sem Hy3-W8A16 er hér fyrir.

01Hvað Hy3 er og hvaðan það kemur

Hy3 er rökhugsunar- og gerandalíkan með opnum þyngdum frá Hunyuan-teymi Tencent, gefið út að fullu 6. júlí 2026 undir rúmu leyfi, með þyngdum birtum á Hugging Face. Það heldur áfram ætt fyrri Hunyuan-Large Mixture-of-Experts vinnu Tencent. Byggingarlega er það gisið MoE: 295 milljarðar færibreyta alls, þar af virkjast um 21 milljarður á hvert tákn með top-8 beiningu yfir 192 sérfræðinga, á 80 laga transformer með hópaðri fyrirspurnarathygli, auk sérstaks 3.8B lags fyrir margtáknaspá til spákaupmennskuafkóðunar. Upprunalegt samhengi er 256K — nákvæmlega þau 262,144 tákn sem við bjóðum, ekki afskurður af einhverju stærra né rope-teygð útvíkkun á einhverju minna.

Þetta gisnihlutfall er talan sem skiptir máli fyrir alla sem borga eftir táknum: Hy3 ber þekkingu 295B líkans á meðan það vinnur um það bil reikninginn af 21B líkani í hverri framrás. Það er líka ástæðan fyrir því að við höfum efni á að keyra það á 8 bitum frekar en að þjappa því fastar — 8 bita bygging á líkani sem er svona gisið kemst enn fyrir og keyrir enn hratt á okkar eigin GPU-klasa.

Í hverju Tencent segir það vera gott

Birtu matstöflur Tencent setja styrkleika Hy3 skýrt í gerandaleit, verkfærastjórnun og endurheimt í löngu samhengi frekar en í hreina forritun. Tölurnar sem þeir gefa upp:

Við sýnum veiku súlurnar viljandi. Hy3 er á eftir GLM-5.2 í forritun í samanburði Tencent sjálfs — 78.0 á móti 84.2 á SWE-bench Verified, 28.0 á móti 46.2 á DeepSWE. Ef álagið þitt er sjálfstæð hugbúnaðarþróun yfir margar skrár skaltu fyrst lesa restina af líkanarannsóknaskránni. Ef það er að lesa texta og skila skipulagi er sniðið nálægt því að vera fullkomið.

Talan sem skiptir mestu máli fyrir leiðsluvinnu snýr að áreiðanleika: Tencent gefur upp ranghugmyndatíðni Hy3 sem 5.4%, niður úr 12.5% í fyrri kynslóð, þar sem villur í almennri skynsemi féllu úr 25.4% í 12.7%. Þjálfunarreglan sem þeir lýsa — svaraðu þegar til eru gögn, segðu hreint út þegar þau eru engin — er einmitt það hugarfar sem þú vilt í útdráttarlíkani sem myndi annars finna upp trúverðugt gildi í reit sem heimildin nefnir aldrei.

Allar tölur í þessum kafla eru gefnar upp af Tencent úr þeirra eigin prófkeyrslum; óháð staðfesting þriðja aðila var enn ókomin þegar þetta var skrifað. Líttu á þær sem vísbendingu, ekki niðurstöðu.

02Hvað W8A16 þýðir og hvers vegna það skiptir máli fyrir skipulagt úttak

Hvert líkan á gáttinni ber þjöppunarviðskeyti. Það er ekki skraut — það segir þér hversu langt keyrðu þyngdirnar liggja frá eftirlitspunktinum sem rannsóknarstofan gaf út.

Þrep	Hvað það gerir	Trúmennska
3BIT-REAP	3 bita þyngdir ásamt REAP, aðferð til að grisja sérfræðinga sem hendir sjaldan völdum MoE-sérfræðingum áður en þjappað er	Mest þjappað
W4A16-AUTOROUND-REAP	4 bita þyngdir / 16 bita virkjanir með AutoRound — lærðri námundun sem endurheimtir nákvæmni umfram einfalda námundun að næsta gildi — ásamt REAP-grisjun	Miðja
W8A16	8 bita þyngdir / 16 bita virkjanir. Engin grisjun, engin viðgerð með lærðri námundun — þyngdirnar einfaldlega bornar með tvöfaldri nákvæmni	Mest

Hvar rek í þjöppun kemur raunverulega niður

REAP og AutoRound endurheimta mest af því sem einföld þjöppun tapar — en „mest“ vinnur mikla vinnu í þeirri setningu, og afgangurinn lendir ekki jafnt. Þjöppun í fáa bita rýrir halana: ákvarðanir með lágar líkur og mikla sérhæfni. Í texta er það nánast ósýnilegt; annað lýsingarorð er enn ágæt setning. Í skipulögðu úttaki er það allur leikurinn, því skema er löng keðja af ákvörðunum með lágar líkur sem hver og ein verður að vera nákvæmlega rétt:

• Málskipan á táknstigi. Lokandi slaufusvigi, komma, gæsalapp. Hvert um sig er eitt tákn, og eitt rangt tákn ógildir allt svarið.
• Agi í upptalningum. Skemað þitt segir að "status" sé eitt af "open" | "closed" | "pending"; líkan sem hefur rekið af leið skilar "Open" eða "pending review" — merkingarlega nálægt og gilt sem hvorugt.
• Agi í tegundum. number-reitur kemur til baka sem "1,240", boolean sem "yes". Hvort tveggja þáttast sem strengur og fellur á skemanu.
• Bókstafir úr langa halanum. Sjaldgæf sérnöfn, hlutanúmer, efnaheiti, letur utan latínu, nákvæmar dagsetningar — einmitt það svæði með lágar líkur sem þyngdir í fáum bitum móka út.

Ekkert af þessu gerir 4 bita eða 3 bita líkön slæm; fyrir samtalsvinnu er trúmennskumunurinn oft ekki verðmunarins virði. En þegar neytandi úttaksins er staðfestir frekar en manneskja breytist nákvæmni í hölunum beint í þáttunartíðni — og þáttunartíðni í fjárhagsáætlun fyrir endurtekningar og p99 svartíma. W8A16 er þrepið þar sem þú hættir að borga þann skatt.

03Skipulagt úttak: json_schema og response_format

Hy3 styður báða helminga skipulagða úttaksflatarins — það er þess virði að segja beint út, því það er ekki algilt í skránni:

Líkan	response_format	json_schema
Hy3 · W8A16	Já	Já
MiMo-V2.5-Pro · W8A16	Já	Já
inkling · W4A16-AUTOROUND-REAP	Já	Nei
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Nei	Nei

Munurinn á aðferðunum tveimur skiptir meira máli en fólk gerir ráð fyrir. response_format: {"type": "json_object"} biður um gilt JSON og ekkert umfram það — líkanið velur lögunina, svo tvö köll geta skilað {"name": ...} og {"full_name": ...} og bæði eru rétt. json_schema gefur lögunina upp fyrir fram: nefnda reiti, tegundir, upptalningar, lista yfir það sem er skylda, hreiðrun. Það er samningur sem þú getur skrifað kóða gegn.

Lágmarkskall á OpenAI-samhæfðu mállýskunni:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Hagnýtar athugasemdir

• Gerðu hvern reit skyldu og leyfðu null. Valfrjálsir reitir bjóða heim þöglum úrfellingum; skyldureitur sem má vera núll þvingar fram skýrt „ekki til staðar“, sem eru upplýsingar sem þú getur brugðist við.
• Upptalningar slá frjálsa strengi. Alls staðar þar sem þú getur lokað gildamenginu skaltu loka því — það er sú breyting á skema sem hefur mest áhrif á raunverulega samþykkistíðni.
• Haltu þig undir 16,384 tákna úttaksþakinu. Ótakmarkað fylki afskerst í miðjum hlut. Takmarkaðu lengd fylkja eða bútaðu inntakið.
• Haltu kerfisskilaboðunum. Skemað þvingar lögunina; hvatningin stýrir enn merkingunni — hvað telst „gagnrýnið“, hvor dagsetningin vinnur þegar tvær birtast, hvort staðla eigi einingar.
• Staðfestu samt. Stuðningur við skema hækkar samþykkistíðnina; hann kemur ekki í staðinn fyrir staðfesti og biðröð fyrir óskilabréf.

04Hvers vegna „óritskoðað“ er eiginleiki áreiðanleika, ekki bara efnis

Hy3 á gáttinni hefur ekkert neitunarlag og enga síu á úttaki. Venjulega framsetningin snýr að efni: þú getur unnið úr öryggisrannsóknum, spillikóðagreiningu, lýsingum á veikleikanýtingu, læknis- og lagasöfnum, fullorðinsefni, skaðaminnkunargögnum eða afritum af samtölum við fjandsamlega notendur án þess að líkanið ákveði fyrir þína hönd að það vilji frekar sleppa því.

Það er önnur, vélrænni ástæða fyrir því að þetta skiptir máli. Neitun er brot á skema. Síað líkan sem hafnar skilar ekki hlutnum þínum með "unavailable"-fána — það skilar texta. „Ég get ekki hjálpað með þessa beiðni.“ Sá strengur er ekki incident-hlutur; hann fellur á staðfestinum þínum og lendir í biðröð óskilabréfa við hlið raunverulegra þáttunarvillna, þar sem þú þarft nú að greina stefnuneitanir frá raunverulegum afmyndunum.

Verra er að neitanir fylgja efninu frekar en að dreifast af handahófi. Ef 4% af safninu þínu eru skýrslur um öryggisatvik og líkanið hafnar flestum þeirra hefurðu ekki tapað 4% af afköstum jafnt — þú hefur tapað einum flokki, og mælaborðið sem byggt er á þeim gögnum vantelur hljóðlega einmitt það sem það er til að draga fram. Göt í laginu heilla flokka kosta meira en jafndreifður hávaði, því ekkert gefur viðvörun um þau. Fjarlægðu neitunarleiðina og það sem eftir stendur — afmyndanir, afskurðir, tvíræður texti — fylgir ekki efnisflokki og er þar með mælanlegt.

05Samhengi, úttaksþak og hvernig á að ráðstafa þeim

Öll líkön á gáttinni deila sömu mörkum:

Samhengið er sameiginleg fjárhæð: hvatning ásamt úttaki verður að komast fyrir innan 262,144 saman, svo hagnýta inntaksþakið í einu kalli er um 245,000 tákn, mjög gróflega 180,000 ensk orð. Fyrir skipulagða vinnu er 16,384 tákna úttaksþakið harðari mörkin og þau sem koma fólki á óvart — skema sem skilar einum hlut á hverja færslu nær því löngu áður en glugginn fyllist. Tvö mynstur vinna gegn því:

• Breitt inntak, þröngt úttak. Ýttu heilum samningi, skýrslu eða annálsglugga inn í samhengið og biddu um einn þjappaðan hlut. Inntakstákn kosta fjórðung af úttakstáknum, svo verðlagningin verðlaunar að lesa mikið og skrifa lítið.
• Bútaðu á færslumörkum, ekki eftir bætafjölda. Skiptu þar sem líkanið sér samskeytin. Færsla sem er skorin í miðri setningu framleiðir sjálfsöruggan rangan hlut frekar en augljósa bilun.

Uppgefinn styrkur Hy3 í endurheimt úr löngu samhengi — 73.4 á AA-LCR og stökk úr 42.9% í 75.1% í MRCR endurköllun úr löngum samtölum — er einmitt sú geta sem fyrra mynstrið byggir á, og önnur kunnátta en að skrifa vel.

06Gólfverð og reikningsdæmi raunverulegrar leiðslu

Hy3 situr á $0.50 á hverja milljón inntakstákna og $2.00 á hverja milljón úttakstákna — gólfi skrárinnar, deilt með MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 og MiniMax-M3. Reiknað í gegnum dæmigert álag:

Álag	Inntak / kall	Úttak / kall	Kostnaður / kall	Á hverja 1M köll
Útdráttur reita	1,200	300	$0.0012	$1,200
Flokkun skjala	3,000	120	$0.0018	$1,800
Samantekt langs skjals í skema	40,000	900	$0.0218	$21,800
Greining á fullum glugga	240,000	2,000	$0.1240	$124,000

Talan sem breytir ákvörðunum er ekki uppgefna gjaldið heldur raunverulega gjaldið eftir endurtekningar. Ef tvö líkön kosta það sama og annað fellur á staðfestingu í 6% kalla þar sem hitt fellur í 1.5%, keyrir líkanið með meira rek um 4.5% fleiri köll — það er þolanlegt. Skaðinn er í halanum: endurtekin köll taka tvöfalt lengri tíma, svo p99 svartími um það bil tvöfaldast fyrir sýnilega sneið af umferðinni, og það sem fellur tvisvar verður handavinna. Við milljón köll á dag eru það þúsundir færslna sem einhver þarf að lesa.

Þar með rökin fyrir 8 bita þrepinu á gólfverði: þú ert ekki að borga álag fyrir trúmennsku hér, svo reikningsdæmið um endurtekningar er ókeypis peningur. Ef 3 bita líkan væri ódýrara væri raunveruleg málamiðlun til að vega — Hy3 kostar það sama og það ódýrasta í skránni.

07Þrjár API-mállýskur, eitt líkan

Hy3 er aðgengilegt á öllum þremur mállýskum gáttarinnar með streymi á hverri. Sama líkan, sömu þyngdir, sömu mörk — veldu þá sem passar við SDK-ið sem þú átt nú þegar.

Endapunktur	Mállýska	Notaðu þegar
/v1/chat/completions	OpenAI	Þú ert með OpenAI SDK, LangChain eða LlamaIndex. Beindu grunnslóðinni hingað og breyttu líkanaauðkenninu.
/v1/messages	Anthropic	Þú ert á Anthropic SDK og vilt efnisblokkir án þýðingarlags.
/v1/responses	Responses	Þú vilt nýrra beiðnaform með tegundagreindu úttaki og stöðu á þjónshlið.

Hy3 styður einnig verkfærakall og rökhugsun, þar á meðal reasoning_effort. Fyrir útdráttarvinnu er gagnlega leikfléttan yfirleitt að lækka rökhugsunina: á vel skilgreindu skema yfir hreinum texta eru hugsunartákn úttakstákn sem þú borgar fyrir og svartími sem þú bíður eftir, fyrir jaðarávinning. Eyddu rökhugsunarfjárhæðinni frekar í raunverulega tvírætt inntak.

Full uppflettirit fyrir beiðnir og svör, listar yfir stika, merking streymis og gagnvirkur leikvöllur eru í API-skjölunum.

08Að velja á milli W8A16 líkananna þriggja

Þrjú líkön sitja á þrepinu með mestri trúmennsku, öll á gólfverði. Valið snýst að mestu um mótun:

Líkan	Sjón	json_schema	Verð inn / út	Veldu það fyrir
Hy3 · W8A16	Nei	Já	$0.50 / $2.00	Skipulagðar leiðslur með texta eingöngu, verkfærastjórnun, endurheimt í löngu samhengi
MiMo-V2.5-Pro · W8A16	Nei	Já	$0.50 / $2.00	Textavinnu þar sem þú vilt Pro-stillingu MiMo-línunnar
MiMo-V2.5 · W8A16	Já	Já	$0.50 / $2.00	Allt sem inniheldur myndir — skönnuð skjöl, skjámyndir, ljósmyndir

Ef einhver hluti inntaksins er mynd er ákvörðunin tekin fyrir þig: Hy3 er aðeins fyrir texta — sendu skönnuð PDF-skjöl, skjámyndir og ljósmyndir á MiMo-V2.5. Þar sem inntakið er raunverulega texti fellur snið Hy3 — gerandanotkun verkfæra, endurköllun í löngu samhengi og lág uppgefin ranghugmyndatíðni — beinast að leiðsluvinnu. Þar sem öll þrjú kosta það sama skaltu keyra skemað þitt gegn tveimur þeirra á nokkur hundruð raunverulegum færslum og bera saman þáttunartíðni; það sker úr um málið betur en nokkur tafla, þessi meðtalin.

09Hvar Hy3 vinnur sér inn sætið

• Útdráttur reita í miklu magni. Samningar, skýrslur, atvikaskýrslur, afrit, klínískar nótur, dómskjöl — alls staðar þar sem afurðin er einn tegundagreindur hlutur á hvert skjal og magnið gerir endurtekningar dýrar.
• Flokkun og beining í stórum stíl. Úttak úr lokuðum upptalningum, þar sem allt gildi líkansins felst í því að finna aldrei upp nítjánda flokkinn.
• Söfn um öryggi og ógnargreind. Lýsingar á spillikóða, opinberun veikleika og veiðisýni — efnið sem fær síuð líkön til að neita, og þar sem gat í laginu heils flokks eyðileggur tilganginn.
• Verkfærakallandi gerendur sem mega ekki stöðvast. 8 bita trúmennska í viðföngum þýðir að JSON-ið sem föllunum þínum er rétt þáttast; afmyndað verkfærakall er stöðvaður gerandi, ekki örlítið verra svar.
• Greining á löngum skjölum yfir í skipulag. Heil skýrsla inn, einn þjappaður hlutur út.
• Efnisstýring og stefnurannsóknir. Að merkja efni sem síað líkan neitar að lesa er viðvarandi vandamál í trausti og öryggi; ósíað líkan með ströngu skema leysir það beint.

Og hvar það gerir það ekki: allt sem inniheldur myndir (notaðu MiMo-V2.5), og sjálfstæð hugbúnaðarþróun yfir margar skrár, þar sem töflur Tencent sjálfs setja Hy3 á eftir GLM-5.2 á SWE-bench Verified og langt á eftir á DeepSWE.

Viðmiðunartölur eru gefnar upp af Tencent, þar á meðal tölur keppinauta; óháð staðfesting var ókomin þegar þetta var skrifað. Kostnaðartölur eru reiknaðar út frá birtu gjöldunum okkar, $0.50 / $2.00. Engin tala á þessari síðu er viðmið keyrt af Shannon né áætlun.

10Algengar spurningar

---

Heimildir: Tencent Hunyuan líkanaspjöld · Hy3 safnið · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Umfjöllun VentureBeat um útgáfu Hy3. Viðmið grunnlíkansins eru gefin upp af Tencent og eru til bráðabirgða þar til óháð staðfesting liggur fyrir. Shannon AI er rekið af Shannon Lab LLC, New Mexico, Bandaríkjunum.