L-API Bla Ċensura tal-Mudell Hy3

Il-biċċa l-kbira tal-argumenti "liema mudell għandi nuża" huma dwar is-saqaf: liema wieħed jikteb l-aqwa kodiċi, isolvi l-aktar matematika diffiċli, jirbaħ l-itwal run ta' aġent. Pipelines strutturati ma jaħdmux hekk. Xogħol li jestrai oqsma minn mitt elf dokument kuljum m'għandux bżonn mudell li hu brillanti darba — għandu bżonn wieħed li hu korrett fl-istess forma kull darba, u li qatt ma jirritorna paragrafu fejn suppost ikun hemm oġġett JSON. Dik hi l-proprjetà li għaliha jeżisti Hy3-W8A16.

01X'inhi Hy3, u minn fejn ġejja

Hy3 hi mudell b'piżi miftuħa ta' raġunament u aġentiku mit-tim Hunyuan ta' Tencent, rilaxxata kompluta fis-6 ta' Lulju 2026 taħt liċenzja permissiva, bil-piżi ppubblikati fuq Hugging Face. Tkompli l-lineage tax-xogħol ta' qabel ta' Tencent ta' Taħlita ta' Esperti, Hunyuan-Large. Arkitettonikament hi MoE spars: 295 biljun parametru totali, li minnhom bejn wieħed u ieħor 21 biljun jattivaw għal kull token permezz ta' routing top-8 tul 192 espert, fuq transformer ta' 80 saff b'attenzjoni grouped-query, flimkien ma' saff separat ta' 3.8B ta' multi-token-prediction għal decoding spekulattiv. Il-kuntest nattiv hu 256K — eżatt is-262,144 token li nesponu, mhux tqattigħ ta' xi ħaġa akbar jew estensjoni bir-rope ta' xi ħaġa iżgħar.

Dik ir-rata ta' sparsità hi n-numru importanti għal min iħallas għal kull token: Hy3 iġġorr l-għarfien ta' mudell ta' 295B waqt li tagħmel bejn wieħed u ieħor l-aritmetika ta' wieħed ta' 21B għal kull forward pass. Hu wkoll għaliex nistgħu niflħu nservuha fi 8 bits minflok inkompressawha aktar iebes — build ta' 8-bit ta' mudell spars daqshekk xorta jidħol u jibqa' malajr fuq il-cluster GPU tagħna stess.

Fuqiex jirrapporta Tencent li hi tajba

It-tabelli ta' evalwazzjoni ppubblikati ta' Tencent iqiegħdu s-saħħiet ta' Hy3 fiċ-ċentru tat-tfittxija aġentika, l-orkestrazzjoni tal-għodod, u l-irkupru ta' kuntest twil minflok fil-kodifikazzjoni pura. Iċ-ċifri rrapportati tagħhom:

Nuru l-bars dgħajfa apposta. Hy3 tibqa' lura minn GLM-5.2 fuq il-kodifikazzjoni fit-tqabbil ta' Tencent stess — 78.0 kontra 84.2 fuq SWE-bench Verified, 28.0 kontra 46.2 fuq DeepSWE. Jekk ix-xogħol tiegħek hu inġinerija tas-software awtonoma b'ħafna fajls, aqra l-bqija tal-indiċi ta' riċerka tal-mudelli l-ewwel. Jekk hu li taqra test u toħroġ struttura, il-profil hu qrib l-ideali.

Iċ-ċifra li tgħodd l-aktar għax-xogħol ta' pipeline hi waħda ta' affidabbiltà: Tencent jirrapporta r-rata ta' alluċinazzjoni ta' Hy3 fuq 5.4%, minn 12.5% fil-ġenerazzjoni preċedenti, bl-iżbalji ta' sens komuni jaqgħu minn 25.4% għal 12.7%. Il-prinċipju ta' taħriġ iddikjarat tagħhom — wieġeb meta hemm evidenza, għid ċar meta m'hemmx — hu eżattament id-disposizzjoni li trid f'mudell ta' estrazzjoni li inkella jivvinta valur plawżibbli għal qasam li s-sors qatt ma semma.

Iċ-ċifri kollha f'din it-taqsima huma rrapportati minn Tencent minn runs tat-test tagħhom stess; il-verifika indipendenti minn terzi kienet għadha pendenti fil-ħin tal-kitba. Ittrattahom bħala direzzjonali, mhux iffissati.

02X'ifisser W8A16, u għaliex jgħodd għall-output strutturat

Kull mudell fuq il-gateway iġorr suffiss ta' kwantizzazzjoni. Mhijiex dekorazzjoni — tgħidlek kemm il-piżi servuti huma 'l bogħod miċ-checkpoint li l-lab irrilaxxat.

Livell	X'jagħmel	Fedeltà
3BIT-REAP	Piżi ta' 3-bit flimkien ma' REAP, metodu ta' tqaċċit tal-esperti li jneħħi esperti MoE rarament routjati qabel il-kwantizzazzjoni	L-aktar kompressat
W4A16-AUTOROUND-REAP	Piżi ta' 4-bit / attivazzjonijiet ta' 16-bit permezz ta' AutoRound — tqarrib mgħallem li jirkupra l-preċiżjoni fuq round-to-nearest naiv — flimkien mat-tqaċċit REAP	In-nofs
W8A16	Piżi ta' 8-bit / attivazzjonijiet ta' 16-bit. Ebda tqaċċit, ebda tiswija b'tqarrib mgħallem — il-piżi sempliċement miġjuba f'darbtejn il-preċiżjoni	L-ogħla

Fejn tabilħaqq tweġġa' d-deriva tal-kwantizzazzjoni

REAP u AutoRound jirkupraw il-biċċa l-kbira minn dak li l-kompressjoni naiva titlef — imma "il-biċċa l-kbira" qed jagħmel xogħol f'dik is-sentenza, u l-fdal ma jinżilx ugwalment. Kwantizzazzjoni ta' bits baxxi tiddegrada d-dnub twil: id-deċiżjonijiet ta' probabbiltà baxxa u speċifiċità għolja. Fi proża dan hu kważi inviżibbli; aġġettiv differenti xorta hu sentenza tajba. F'output strutturat dan hu l-logħba kollha, għax skema hi katina twila ta' deċiżjonijiet ta' probabbiltà baxxa li kull waħda trid tkun eżattament korretta:

• Sintassi fil-livell tat-token. Parenthesi tal-għeluq, virgola, karattru ta' kwotazzjoni. Kull waħda hi token wieħed, u token żbaljat wieħed jinvalida t-tweġiba kollha.
• Dixxiplina tal-enum. L-iskema tiegħek tgħid li "status" hi waħda minn "open" | "closed" | "pending"; mudell li ddderiva jirritorna "Open" jew "pending review" — semantikament qrib, u valida għal ebda waħda.
• Dixxiplina tat-tip. Qasam number jerġa' lura bħala "1,240", boolean bħala "yes". It-tnejn janalizzaw bħala strings u jfallu l-iskema.
• Litterali tad-dnub twil. Ismijiet proprji rari, numri ta' partijiet, ismijiet kimiċi, kitbiet mhux Latini, dati preċiżi — eżatt ir-reġjun ta' probabbiltà baxxa li piżi ta' bits baxxi jħabbtu.

Xejn minn dan ma jagħmel il-mudelli ta' 4-bit jew 3-bit ħżiena; għal xogħol konverżazzjonali d-differenza fil-fedeltà ħafna drabi ma tiswiex id-differenza fil-prezz. Imma meta l-konsumatur tal-output hu validatur minflok bniedem, il-preċiżjoni fid-dnub twil tikkonverti direttament f'rata ta' parsing — u r-rata ta' parsing f'baġit ta' retries u latenza p99. W8A16 hu l-livell fejn tieqaf tħallas dik it-taxxa.

03Output strutturat: json_schema u response_format

Hy3 tappoġġja t-tnejn in-nofs tas-superfiċje tal-output strutturat — jiswa li tiddikjarah espliċitament, għax dan mhuwiex universali madwar il-katalgu:

Mudell	response_format	json_schema
Hy3 · W8A16	Iva	Iva
MiMo-V2.5-Pro · W8A16	Iva	Iva
inkling · W4A16-AUTOROUND-REAP	Iva	Le
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Le	Le

Id-differenza bejn iż-żewġ mekkaniżmi tgħodd aktar milli n-nies jassumu. response_format: {"type": "json_object"} jitlob JSON validu u xejn aktar — il-mudell jagħżel il-forma, allura żewġ sejħiet jistgħu jirritornaw {"name": ...} u {"full_name": ...} u t-tnejn ikunu korretti. json_schema jipprovdi l-forma minn qabel: oqsma msemmija, tipi, enums, listi meħtieġa, nesting. Dak hu kuntratt li tista' tikteb kodiċi kontrih.

Sejħa minima fuq id-djalett kompatibbli ma' OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Noti prattiċi

• Agħmel kull qasam meħtieġ u ħalli lok għal null. Oqsma opzjonali jistiednu tqegħid siekt; qasam meħtieġ li jista' jkun null jisforza "mhux preżenti" espliċitu, li hi informazzjoni li tista' taġixxi fuqha.
• L-enums jegħlbu l-istrings ħielsa. Kull fejn tista' tagħlaq is-sett tal-valuri, agħlqu — l-bidla bl-aktar levera fuq ir-rata reali ta' għaddiet ta' skema.
• Ibqa' taħt is-saqaf tal-output ta' 16,384-token. Array mhux limitat se jitqatta' f'nofs oġġett. Illimita t-tul tal-arrays, jew aqsam id-dħul.
• Żomm il-messaġġ tas-sistema. L-iskema tikkostrinġi l-forma; il-prompt xorta jiggverna s-semantika — x'jgħodd bħala "critical," liema data tirbaħ meta jidhru tnejn, jekk tinnormalizzax l-unitajiet.
• Vvalida xorta waħda. L-appoġġ tal-iskema jgħolli r-rata ta' għaddiet; ma jissostitwixxix validatur u dead-letter queue.

04Għaliex "bla ċensura" hi proprjetà ta' affidabbiltà, mhux waħda ta' kontenut biss

Hy3 fuq il-gateway m'għandha ebda saff ta' rifjut u ebda filtrar tal-output. Il-qafas tas-soltu hu dwar il-kontenut: tista' tipproċessa riċerka tas-sigurtà, analiżi ta' malware, kitba dwar exploits, korpi mediċi u legali, materjal għall-adulti, dokumentazzjoni ta' tnaqqis tal-ħsara jew transkrizzjonijiet ta' utenti ostili mingħajr ma l-mudell jiddeċiedi f'ismek li jippreferi ma jagħmilhiex.

Hemm it-tieni raġuni, aktar mekkanika, għaliex jgħodd. Rifjut hu ksur tal-iskema. Mudell filtrat li jirrifjuta ma jirritornax l-oġġett tiegħek b'bandiera "unavailable" — jirritorna proża. "Ma nistax ngħinek b'din it-talba." Dak l-istring mhuwiex oġġett incident; ifalli l-validatur tiegħek u jispiċċa fid-dead-letter queue ħdejn żbalji ġenwini ta' parsing, fejn issa jkollok tissepara rifjuti ta' politika minn malformazzjonijiet reali.

Agħar minn hekk, ir-rifjuti jikkorrelaw mal-kontenut minflok jitqassmu b'mod każwali. Jekk 4% tal-korpus tiegħek huma rapporti ta' inċidenti tas-sigurtà u l-mudell jirrifjuta l-biċċa l-kbira minnhom, ma tlift 4% tal-throughput b'mod ugwali — tlift kategorija waħda, u d-dashboard mibni fuq dik id-data siekta jirrapporta anqas eżatt il-ħaġa li teżisti biex turi. Toqob fil-forma ta' kategorija jiswew aktar minn ħoss uniformi għax xejn ma jalletja fuqhom. Neħħi l-mogħdija tar-rifjut u dak li jibqa' — malformazzjonijiet, tqattigħ, test ambigwu — hu mhux ikkorrelat mas-suġġett, u għalhekk jista' jitkejjel.

05Il-kuntest, is-saqaf tal-output, u kif tibbaġitjahom

Kull mudell fuq il-gateway jaqsam l-istess limiti:

Il-kuntest hu baġit maqsum: il-prompt flimkien mal-output iridu jidħlu flimkien fi 262,144, allura s-saqaf prattiku tad-dħul f'sejħa waħda hu madwar 245,000 token, bejn wieħed u ieħor 180,000 kelma Ingliża. Għax-xogħol strutturat is-saqaf tal-output ta' 16,384-token hu l-limitu aktar iebes u dak li jissorprendi lin-nies — skema li toħroġ oġġett wieħed għal kull rekord tolqtu ħafna qabel timtela t-tieqa. Żewġ patterns jaħdmu kontra dak:

• Dħul wiesa', output dejjaq. Ħabbat kuntratt sħiħ, dokument tal-qorti jew tieqa ta' log fil-kuntest u itlob oġġett kompatt wieħed. It-tokens tad-dħul jiswew kwart tat-tokens tal-ħruġ, allura l-prezzar jippremja li taqra ħafna u tikteb ftit.
• Aqsam fuq konfini ta' rekords, mhux għadd ta' bytes. Aqsam fejn il-mudell jista' jara l-ġunta. Rekord maqtugħ f'nofs sentenza jipproduċi oġġett żbaljat b'kunfidenza minflok falliment ovvju.

Is-saħħa rrapportata ta' Hy3 fl-irkupru ta' kuntest twil — 73.4 fuq AA-LCR, u qbiża minn 42.9% għal 75.1% fuq it-tifkir ta' djalogu twil MRCR — hi eżattament il-kapaċità li fuqha jiddependi l-ewwel pattern, u ħila differenti mill-kitba tajba.

06Prezzar tal-qiegħ, u l-aritmetika ta' pipeline reali

Hy3 toqgħod fi $0.50 għal kull miljun token tad-dħul u $2.00 għal kull miljun token tal-ħruġ — il-qiegħ tal-katalgu, maqsum ma' MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 u MiniMax-M3. Maħdum tul piżijiet rappreżentattivi:

Xogħol	Dħul / sejħa	Ħruġ / sejħa	Kost / sejħa	Għal kull 1M sejħa
Estrazzjoni ta' oqsma	1,200	300	$0.0012	$1,200
Klassifikazzjoni ta' dokumenti	3,000	120	$0.0018	$1,800
Sommarju ta' dokument twil għal skema	40,000	900	$0.0218	$21,800
Analiżi ta' tieqa sħiħa	240,000	2,000	$0.1240	$124,000

In-numru li jbiddel id-deċiżjonijiet mhuwiex ir-rata tal-headline imma r-rata effettiva wara r-retries. Jekk żewġ mudelli jiswew l-istess u wieħed ifalli l-validazzjoni fuq 6% tas-sejħiet fejn l-ieħor jonqos fuq 1.5%, il-mudell b'deriva għolja jħaddem madwar 4.5% aktar sejħiet — sopravvivibbli. Il-ħsara hi fuq id-dnub twil: sejħiet li jerġgħu jsiru jieħdu darbtejn iż-żmien, allura l-latenza p99 bejn wieħed u ieħor tirdoppja għal biċċa viżibbli tat-traffiku, u kull ma jfalli darbtejn isir xogħol manwali. F'miljun sejħa kuljum dak huma eluf ta' rekords li xi ħadd irid jaqra.

Minn hawn il-każ għal-livell ta' 8-bit fil-prezz tal-qiegħ: mhux qed tħallas premium għall-fedeltà hawn, allura l-aritmetika tar-retries hi flus b'xejn. Kieku mudell ta' 3-bit kien irħas kien ikun hemm tpartit reali x'tiżen — Hy3 tiswa daqs l-irħas ħaġa fil-katalgu.

07Tliet djaletti tal-API, mudell wieħed

Hy3 tintlaħaq fit-tliet djaletti tal-gateway kollha b'streaming fuq kull wieħed. L-istess mudell, l-istess piżi, l-istess limiti — agħżel liema jaqbel mal-SDK li diġà għandek.

Endpoint	Djalett	Uża meta
/v1/chat/completions	OpenAI	Għandek SDK ta' OpenAI, LangChain jew LlamaIndex. Ipponta l-base URL hawn, biddel l-id tal-mudell.
/v1/messages	Anthropic	Int fuq l-SDK ta' Anthropic u trid blokki ta' kontenut mingħajr saff ta' traduzzjoni.
/v1/responses	Responses	Trid il-forma ta' talba aktar ġdida b'output ittajpjat u stat min-naħa tas-server.

Hy3 tappoġġja wkoll sejħa ta' għodod u raġunament, inkluż reasoning_effort. Għal xogħol ta' estrazzjoni l-mossa utli normalment hi li tbaxxi r-raġunament: fuq skema speċifikata sew fuq test nadif, it-tokens ta' ħsieb huma tokens ta' output li tħallas għalihom u latenza li tistenna, għal qligħ marġinali. Onfoq il-baġit tal-isforz fuq input ġenwinament ambigwu minflok.

Referenza sħiħa tat-talba u t-tweġiba, listi tal-parametri, semantika tal-istreaming u playground interattiv jgħixu fid-dokumentazzjoni tal-API.

08Kif tagħżel bejn it-tliet mudelli W8A16

Tliet mudelli joqogħdu fl-ogħla livell ta' fedeltà, kollha fil-prezz tal-qiegħ. L-għażla hi l-biċċa l-kbira modalità:

Mudell	Viżjoni	json_schema	Prezz dħul / ħruġ	Agħżlu għal
Hy3 · W8A16	Le	Iva	$0.50 / $2.00	Pipelines strutturati ta' test biss, orkestrazzjoni tal-għodod, irkupru ta' kuntest twil
MiMo-V2.5-Pro · W8A16	Le	Iva	$0.50 / $2.00	Xogħol ta' test biss fejn trid l-ittonjar Pro tal-linja MiMo
MiMo-V2.5 · W8A16	Iva	Iva	$0.50 / $2.00	Kwalunkwe ħaġa b'immaġni — dokumenti skennjati, screenshots, ritratti

Jekk kwalunkwe parti mid-dħul tiegħek hi immaġni d-deċiżjoni hi diġà meħuda għalik: Hy3 hi test biss — ibgħat PDFs skennjati, screenshots u ritratti lil MiMo-V2.5. Fejn id-dħul hu ġenwinament test, il-profil ta' Hy3 tal-użu aġentiku tal-għodod, it-tifkir ta' kuntest twil u r-rata baxxa rrapportata ta' alluċinazzjoni jimmappja l-aktar direttament fuq xogħol ta' pipeline. Peress li t-tliet kollha jiswew l-istess, ħaddem l-iskema tiegħek kontra tnejn minnhom fuq ftit mitt rekord reali u qabbel ir-rati ta' parsing; dak jirranġah aħjar minn kwalunkwe tabella, inkluż din.

09Fejn Hy3 taqla' postha

• Estrazzjoni ta' oqsma ta' volum kbir. Kuntratti, dokumenti tal-qorti, rapporti ta' inċidenti, transkrizzjonijiet, noti kliniċi, rekords tal-qorti — kull fejn oġġett ittajpjat għal kull dokument hu d-deliverable u l-volum jagħmel ir-retries għaljin.
• Klassifikazzjoni u routing fuq skala. Outputs ta' enum magħluqa, fejn il-valur sħiħ tal-mudell hu li qatt ma jivvinta d-dsatax-il kategorija.
• Korpi tas-sigurtà u ta' intelligence dwar theddid. Kitbiet dwar malware, żvelar ta' exploits u kampjuni ta' phishing — il-materjal li jaqbad mudelli filtrati fir-rifjut, u fejn toqba fil-forma ta' kategorija tegħleb l-iskop.
• Aġenti ta' sejħa ta' għodod li ma jistgħux jieqfu. Il-fedeltà tal-argumenti ta' 8-bit ifisser li l-JSON mgħoddi lill-funzjonijiet tiegħek janalizza; sejħa ta' għodda mħassra hi aġent waqaf, mhux tweġiba ftit agħar.
• Analiżi ta' dokument twil fi struttura. Dokument sħiħ jidħol, oġġett kompatt wieħed joħroġ.
• Moderazzjoni tal-kontenut u riċerka tal-politika. Li ttikkettja materjal li mudell filtrat jirrifjuta li jaqra hi problema permanenti ta' fiduċja u sikurezza; mudell mhux filtrat b'skema stretta jsolviha direttament.

U fejn ma taqbilx: kwalunkwe ħaġa b'immaġni (uża MiMo-V2.5), u inġinerija tas-software awtonoma b'ħafna fajls, fejn it-tabelli ta' Tencent stess iqiegħdu lil Hy3 wara GLM-5.2 fuq SWE-bench Verified u ferm wara fuq DeepSWE.

Iċ-ċifri tal-benchmark huma rrapportati minn Tencent, inklużi n-numri tal-kompetituri; il-verifika indipendenti kienet pendenti fil-ħin tal-kitba. Iċ-ċifri tal-kost huma kkalkulati mir-rati ppubblikati tagħna ta' $0.50 / $2.00. Ebda numru f'din il-paġna hu benchmark imħaddem minn Shannon jew stima.

10Mistoqsijiet frekwenti

---

Sorsi: Karti tal-mudell ta' Tencent Hunyuan · Repożitorju ta' Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Kopertura ta' VentureBeat tar-rilaxx ta' Hy3. Il-benchmarks tal-fondazzjoni huma rrapportati minn Tencent u provviżorji sakemm issir verifika indipendenti. Shannon AI hu operat minn Shannon Lab LLC, New Mexico, l-Istati Uniti.