API modely Hy3 tsy voasivana

Ny ankamaroan'ny ady hevitra "modely inona no tokony hampiasaiko" dia momba ny valindrihana: iza no manoratra kaody tsara indrindra, mamaha ny matematika sarotra indrindra, mandresy amin'ny fandehanana agent lava indrindra. Tsy toy izany ny lalana voarafitra. Ny asa manesotra saha avy amin'ny antontan-taratasy iray hetsy isan'andro dia tsy mila modely mahay indray mandeha — mila iray marina amin'ny endrika mitovy isaky ny fotoana, ary tsy mamerina fehintsoratra amin'ny toerana tokony hisian'ny zavatra JSON mihitsy. Izany toetra izany no ahatongavan'ny Hy3-W8A16 eto.

01Inona ny Hy3, ary avy aiza izy

Ny Hy3 dia modely fisainana sy agentic lanja misokatra avy amin'ny ekipa Hunyuan an'ny Tencent, navoaka manontolo ny 6 Jolay 2026 ambanin'ny lisansa malalaka, miaraka amin'ny lanja navoaka tao amin'ny Hugging Face. Mitohy amin'ny firazanan'ny asa Mixture-of-Experts Hunyuan-Large teo aloha an'ny Tencent izy. Ara-drafitra dia MoE sparse izy: 295 miliara parametatra manontolo, ary 21 miliara eo ho eo no mavitrika isaky ny token amin'ny alalan'ny routing top-8 manerana ny manam-pahaizana 192, eo amin'ny transformer 80 sosona misy grouped-query attention, miampy sosona multi-token-prediction 3,8B misaraka ho an'ny decoding speculative. Ny context natoraly dia 256K — dia ny 262 144 token asehonay indrindra, fa tsy fanapahana zavatra lehibe kokoa na fanitarana rope amin'ny zavatra kely kokoa.

Io tahan'ny sparsity io no isa manan-danja ho an'izay mandoa isaky ny token: mitondra ny fahalalan'ny modely 295B ny Hy3 nefa manao ny aritmetikan'ny modely 21B eo ho eo isaky ny fandalovana mandroso. Izany koa no ahafahanay manolotra azy amin'ny 8 bit fa tsy manery azy mafy kokoa — ny build 8-bit amin'ny modely sparse toy izao dia mbola mifanaraka ary mbola mandeha haingana eo amin'ny vondrona GPU anay manokana.

Izay lazain'ny Tencent fa tsara aminy

Ny tabilao fanombanana navoakan'ny Tencent dia mametraka ny herin'ny Hy3 mivantana amin'ny fikarohana agentic, ny fandrindrana fitaovana, ary ny fakàna amin'ny context lava fa tsy amin'ny fanoratana kaody. Indro ny tarehimarika notaterin'izy ireo:

Asehonay an-tsitrapo ny baraingo malemy. Latsaka noho ny GLM-5.2 amin'ny fanoratana kaody ny Hy3 ao amin'ny fampitahan'ny Tencent mihitsy — 78,0 manoloana ny 84,2 amin'ny SWE-bench Verified, 28,0 manoloana ny 46,2 amin'ny DeepSWE. Raha injeniera rindrambaiko mahaleo tena misy rakitra maro ny asanao, dia vakio aloha ny lisitry ny fikarohana modely sisa. Raha famakiana lahatsoratra sy famoahana firafitra kosa izy, dia saika tonga lafatra ny mombamomba azy.

Ny tarehimarika manan-danja indrindra amin'ny asa lalana famokarana dia iray momba ny fahamendrehan-kitokisana: mitatitra ny Tencent fa 5,4% ny tahan'ny fahitan-tsy misy an'ny Hy3, nidina avy amin'ny 12,5% tamin'ny taranaka teo aloha, ary nidina avy amin'ny 25,4% ho 12,7% ny hadisoana amin'ny fahendrena mahazatra. Ny fitsipiky ny fiofanana voalazany — valio raha misy porofo, lazao mazava raha tsy misy — no toe-tsaina tadiavinao amin'ny modely fanesorana angona izay hamorona sanda azo inoana ho an'ny saha tsy voatonon'ny loharano mihitsy raha tsy izany.

Ny tarehimarika rehetra amin'ity fizarana ity dia notaterin'ny Tencent avy amin'ny fitsapana nataony manokana; mbola niandry ny fanamarinana tsy miankina an'ny antoko fahatelo tamin'ny fotoana nanoratana ity. Raiso ho fanoroana lalana izy ireo, fa tsy ho voafaritra.

02Ny dikan'ny W8A16, sy ny antony maha-zava-dehibe azy amin'ny output voarafitra

Ny modely rehetra eo amin'ny vavahady dia mitondra tovana quantization. Tsy haingo izy — milaza aminao ny halavitry ny lanja atolotra amin'ny checkpoint navoakan'ny laboratoara izy.

Ambaratonga	Izay ataony	Fahatokisana
3BIT-REAP	Lanja 3-bit miampy REAP, fomba fanapahana manam-pahaizana izay manaisotra ny manam-pahaizana MoE tsy dia tondroina alohan'ny quantization	Voatery indrindra
W4A16-AUTOROUND-REAP	Lanja 4-bit / fanetsehana 16-bit amin'ny AutoRound — fanodinana nianarana izay mamerina fahamarinana manoloana ny fanodinana tsotra — miampy fanapahana REAP	Afovoany
W8A16	Lanja 8-bit / fanetsehana 16-bit. Tsy misy fanapahana, tsy misy fanarenana amin'ny fanodinana nianarana — entina amin'ny fahamarinana avo roa heny fotsiny ny lanja	Ambony indrindra

Ny toerana tena andratran'ny fivilian'ny quantization

Ny REAP sy ny AutoRound dia mamerina ny ankamaroan'izay very amin'ny fanerena tsotra — fa manao asa ilay hoe "ankamaroan'ny" ao anatin'io fehezanteny io, ary tsy mipetraka mitovy ny sisa. Manimba ny rambony ny quantization bit ambany: dia ireo fanapahan-kevitra tsy dia azo inoana, tena manokana. Amin'ny lahatsoratra dia saika tsy hita izany; fehezanteny tsara ihany ny fehezanteny misy mpamaritra hafa. Amin'ny output voarafitra kosa dia izy no lalao manontolo, satria ny schema dia rojo lava misy fanapahan-kevitra tsy dia azo inoana izay tsy maintsy marina tsirairay:

• Sintaksy amin'ny ambaratonga token. Akora fanidiana, faingo, marika teny nalaina. Token iray avy izy ireo, ary token iray diso dia manafoana ny valiny manontolo.
• Fifehezana ny enum. Milaza ny schema-nao fa iray amin'ny "open" | "closed" | "pending" ny "status"; mamerina "Open" na "pending review" ny modely nivily — akaiky ara-tsiny, fa tsy manan-kery na iray aza.
• Fifehezana ny karazana. Ny saha number miverina ho "1,240", ny boolean ho "yes". Samy vakiana ho tady izy roa ary tsy mahomby amin'ny schema.
• Literal amin'ny rambony lava. Anarana manokana tsy fahita, laharan'ny singa, anarana simika, soratra tsy latina, daty marina — dia ny faritra tsy dia azo inoana indrindra manjavozavo amin'ny lanja bit ambany.

Tsy misy amin'ireo mahatonga ny modely 4-bit na 3-bit ho ratsy; ho an'ny asa resaka dia matetika tsy mendrika ny elanelam-bidy ny fahasamihafan'ny fahatokisana. Fa rehefa mpanamarina fa tsy olombelona no mpandray ny output, dia mivadika mivantana ho tahan'ny famakiana ny fahitsiny eo amin'ny rambony — ary ny tahan'ny famakiana ho teti-bola fanandramana indray sy hafainganana p99. Ny W8A16 no ambaratonga hitsaharanao tsy handoa io hetra io.

03Output voarafitra: json_schema sy response_format

Manohana ny roa tapaky ny velaran'ny output voarafitra ny Hy3 — mendrika lazaina mazava, satria tsy izany manerana ny katalaogy:

Modely	response_format	json_schema
Hy3 · W8A16	Eny	Eny
MiMo-V2.5-Pro · W8A16	Eny	Eny
inkling · W4A16-AUTOROUND-REAP	Eny	Tsia
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Tsia	Tsia

Manan-danja mihoatra ny heverin'ny olona ny fahasamihafana eo amin'ireo mekanisma roa. Ny response_format: {"type": "json_object"} dia mangataka JSON manan-kery fotsiny — ny modely no mifidy ny endriny, ka mety hamerina {"name": ...} sy {"full_name": ...} ny fiantsoana roa ary samy marina. Ny json_schema kosa manome ny endriny mialoha: saha voatondro anarana, karazana, enum, lisitra takiana, fiforitana. Fifanarahana azonao anoratana kaody izany.

Fiantsoana kely amin'ny fitenim-paritra mifanaraka amin'ny OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Fanamarihana azo ampiharina

• Ataovy takiana ny saha rehetra ary avelao ny null. Ny saha tsy voatery dia manasa fanesorana mangina; ny saha takiana azo aotra kosa manery ny filazana mazava hoe "tsy misy", izay vaovao azonao ampiasaina.
• Mandresy ny tady malalaka ny enum. Na aiza na aiza ahafahanao manidy ny andiana sanda, dia idio izy — izy no fanovana manan-kery indrindra amin'ny tahan'ny fandalovan'ny schema amin'ny tontolo tena izy.
• Mijanona ambanin'ny valindrihan'ny output 16 384 token. Ny lisitra tsy voafetra dia hotapahina eo afovoan'ny zavatra iray. Ferao ny halavan'ny lisitra, na zarao ny input.
• Tazomy ny hafatra rafitra. Ny schema mametra ny endriny; mbola ny prompt no mifehy ny hevitra — izay atao hoe "critical", ny daty mandresy rehefa misy roa, na tokony hanamboatra ny refy.
• Hamarino ihany. Manandratra ny tahan'ny fandalovana ny tohana schema; tsy manolo mpanamarina sy filaharana dead-letter izy.

04Ny antony maha-toetra momba ny fahamendrehan-kitokisana ny "tsy voasivana", fa tsy momba ny votoaty ihany

Ny Hy3 eo amin'ny vavahady dia tsy manana sosona fandavana ary tsy manana fanivanana output. Ny famaritana mahazatra dia momba ny votoaty: azonao karakaraina ny fikarohana momba ny fiarovana, ny famakafakana malware, ny tatitra momba ny exploit, ny corpus ara-pitsaboana sy ara-dalàna, ny zavatra ho an'ny olon-dehibe, ny antontan-taratasy momba ny fampihenana loza na ny transcript-n'ny mpampiasa mankahala, tsy misy ny modely manapa-kevitra ho anao fa aleony tsy manao.

Misy antony faharoa, mekanika kokoa, mahatonga azy ho manan-danja. Fandikana schema ny fandavana. Ny modely voasivana izay mandà dia tsy mamerina ny zavatrao misy saina "unavailable" — mamerina fehintsoratra izy. "Tsy afaka manampy amin'io fangatahana io aho." Tsy zavatra incident io tady io; tsy mahomby amin'ny mpanamarinao izy ary mipetraka ao amin'ny filaharana dead-letter miaraka amin'ny tena hadisoana famakiana, izay tsy maintsy anavahanao ny fandavana ara-politika amin'ny tena fahasimbana.

Ratsy kokoa, mifandray amin'ny votoaty ny fandavana fa tsy miparitaka kisendrasendra. Raha 4% amin'ny corpus-nao no tatitra momba ny tranga fiarovana ary mandà ny ankamaroany ny modely, dia tsy nahavery 4% amin'ny fahafaha-mamokatra mitovy ianao — nahavery sokajy iray ianao, ary ny dashboard naorina tamin'io angona io dia mangina tsy mitatitra ampy ny zavatra indrindra nisiany. Lafo kokoa noho ny tabataba mitovy ny lavaka misy endrika sokajy satria tsy misy manetsika fampandrenesana momba azy. Esory ny lalan'ny fandavana dia izay tavela — fahasimbana, fanapahana, lahatsoratra manjavozavo — dia tsy mifandray amin'ny lohahevitra, ary noho izany azo refesina.

05Context, valindrihan'ny output, ary ny fomba hikajiana azy

Ny modely rehetra eo amin'ny vavahady dia mizara fetra mitovy:

Teti-bola iombonana ny context: ny prompt miampy ny output dia tsy maintsy mifanaraka ao anatin'ny 262 144 miaraka, ka ny valindrihan'ny input azo ampiharina amin'ny fiantsoana iray dia 245 000 token eo ho eo, na 180 000 teny anglisy eo ho eo. Ho an'ny asa voarafitra dia ny fetra 16 384 token amin'ny output no mafy kokoa ary izy no mahagaga ny olona — ny schema mamoaka zavatra iray isaky ny firaketana dia mahatratra azy alohan'ny hahafeno ny varavarankely lavitra. Endrika roa no miasa manoloana izany:

• Input midadasika, output tery. Atosehy ao anaty context ny fifanarahana, ny fanambarana na ny elanelan'ny log manontolo dia mangataha zavatra iray mifintina. Ampahefatry ny token output ny vidin'ny token input, ka mamaly soa ny famakiana be sy ny fanoratana kely ny vidiny.
• Zarao amin'ny sisin'ny firaketana, fa tsy amin'ny isan'ny byte. Zarao any amin'ny toerana ahitan'ny modely ny zaitra. Ny firaketana notapahina teo afovoan'ny fehezanteny dia mamokatra zavatra diso amim-pahatokiana fa tsy tsy fahombiazana hita mazava.

Ny herin'ny Hy3 amin'ny fakàna context lava notaterina — 73,4 amin'ny AA-LCR, ary fitomboana avy amin'ny 42,9% ho 75,1% amin'ny fahatsiarovana resaka lava MRCR — no fahaiza-manao indrindra iankinan'ny endrika voalohany, ary fahaiza-manao hafa noho ny fanoratana tsara.

06Vidiny eo amin'ny fetra ambany, sy ny aritmetikan'ny lalana famokarana tena izy

Mipetraka amin'ny $0.50 isaky ny tapitrisa token miditra sy $2.00 isaky ny tapitrisa token mivoaka ny Hy3 — ny fetra ambany amin'ny katalaogy, izarana amin'ny MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ary MiniMax-M3. Nokajiana amin'ny enta-mavesatra fanehoana:

Asa	Miditra / fiantsoana	Mivoaka / fiantsoana	Vidiny / fiantsoana	Isaky ny 1M fiantsoana
Fanesorana saha	1,200	300	$0.0012	$1,200
Fanasokajiana antontan-taratasy	3,000	120	$0.0018	$1,800
Famintinana antontan-taratasy lava ho schema	40,000	900	$0.0218	$21,800
Famakafakana varavarankely feno	240,000	2,000	$0.1240	$124,000

Ny isa manova ny fanapahan-kevitra dia tsy ny tahany lohalaharana fa ny tahany tena mihatra aorian'ny fanandramana indray. Raha mitovy vidiny ny modely roa ary tsy mahomby amin'ny fanamarinana amin'ny 6% amin'ny fiantsoana ny iray raha 1,5% ny iray, dia mampandeha fiantsoana 4,5% bebe kokoa eo ho eo ilay modely mivily be — zaka. Eo amin'ny rambony no misy ny fahasimbana: ny fiantsoana averina dia mandany fotoana avo roa heny, ka avo roa heny eo ho eo ny hafainganana p99 ho an'ny ampahany hita amin'ny fifamoivoizana, ary izay tsy mahomby indroa dia lasa asa an-tanana. Amin'ny fiantsoana iray tapitrisa isan'andro dia firaketana an'arivony tsy maintsy vakian'olona izany.

Izany no fanamarinana ny ambaratonga 8-bit eo amin'ny fetra ambany: tsy mandoa vidiny ambony ho an'ny fahatokisana ianao eto, ka vola maimaim-poana ny aritmetikan'ny fanandramana indray. Raha mora kokoa ny modely 3-bit dia hisy fifanakalozana tena izy holanjaina — mitovy amin'ny zavatra mora indrindra ao amin'ny katalaogy ny vidin'ny Hy3.

07Fitenim-paritra API telo, modely iray

Tratra amin'ny fitenim-paritra telo eo amin'ny vavahady ny Hy3 miaraka amin'ny streaming amin'ny tsirairay. Modely mitovy, lanja mitovy, fetra mitovy — fidio izay mifanaraka amin'ny SDK efa ananao.

Endpoint	Fitenim-paritra	Ampiasao rehefa
/v1/chat/completions	OpenAI	Manana SDK OpenAI, LangChain na LlamaIndex ianao. Atodiho eto ny URL fototra, ovay ny id-n'ny modely.
/v1/messages	Anthropic	Eo amin'ny SDK Anthropic ianao ary te hahazo bloc votoaty tsy misy sosona fandikana.
/v1/responses	Responses	Tianao ny endriky ny fangatahana vaovao kokoa misy output voafaritra karazana sy fanjakana eo amin'ny mpizara.

Manohana ny fiantsoana fitaovana sy ny fisainana ihany koa ny Hy3, anisan'izany ny reasoning_effort. Ho an'ny asa fanesorana angona dia matetika ny hetsika mahasoa dia ny fampidinana ny fisainana: amin'ny schema voafaritra tsara manoloana lahatsoratra madio, ny token fisainana dia token output aloanao sy hafainganana andrasanao, ho takalon'ny tombony kely. Lanio amin'ny input tena manjavozavo kosa ny teti-bolan'ny ezaka.

Ny fanovozan-kevitra feno momba ny fangatahana sy ny valiny, ny lisitry ny parametatra, ny semantikan'ny streaming ary ny playground mifanerasera dia ao amin'ny antontan-taratasin'ny API.

08Ny fifidianana eo amin'ny modely W8A16 telo

Modely telo no mipetraka eo amin'ny ambaratonga misy fahatokisana ambony indrindra, samy eo amin'ny fetra ambany. Ny modalité no ankamaroan'ny safidy:

Modely	Fahitana	json_schema	Vidiny miditra / mivoaka	Fidio izy ho an'ny
Hy3 · W8A16	Tsia	Eny	$0.50 / $2.00	Lalana voarafitra lahatsoratra ihany, fandrindrana fitaovana, fakàna amin'ny context lava
MiMo-V2.5-Pro · W8A16	Tsia	Eny	$0.50 / $2.00	Asa lahatsoratra ihany izay tianao ny fanamboarana Pro amin'ny tsipika MiMo
MiMo-V2.5 · W8A16	Eny	Eny	$0.50 / $2.00	Izay rehetra misy sary — antontan-taratasy voa-scan, pikan'efijery, sary

Raha sary ny ampahany amin'ny input-nao dia efa voatapaka ho anao ny safidy: lahatsoratra ihany ny Hy3 — alefaso any amin'ny MiMo-V2.5 ny PDF voa-scan, ny pikan'efijery ary ny sary. Raha tena lahatsoratra ny input, dia ny mombamomban'ny Hy3 amin'ny fampiasana fitaovana agentic, ny fahatsiarovana context lava ary ny tahan'ny fahitan-tsy misy ambany notaterina no mifanaraka mivantana amin'ny asa lalana famokarana. Satria mitovy vidiny izy telo, dia ampandehano manoloana roa amin'izy ireo ny schema-nao amin'ny firaketana tena izy an-jatony vitsivitsy dia ampitahao ny tahan'ny famakiana; mamaha izany tsara kokoa noho ny tabilao rehetra izany, anisan'izany ity.

09Ny toerana ahazoan'ny Hy3 ny anjarany

• Fanesorana saha be habetsahana. Fifanarahana, fanambarana, tatitra momba ny tranga, transcript, naotisy klinika, firaketana fitsarana — na aiza na aiza zavatra voafaritra karazana isaky ny antontan-taratasy no vokatra tokony haterina ary mahalafo ny fanandramana indray ny habetsahana.
• Fanasokajiana sy fitarihana amin'ny habetsahana. Output enum mihidy, izay ny sandan'ny modely manontolo dia ny tsy famoronana sokajy fahasivy ambin'ny folo mihitsy.
• Corpus momba ny fiarovana sy ny fahalalana momba ny fandrahonana. Tatitra momba ny malware, fanambarana exploit ary santionany phishing — dia ny zavatra mampitsambikina ny modely voasivana ho amin'ny fandavana, ary izay handresen'ny lavaka misy endrika sokajy ny tanjona.
• Agent miantso fitaovana izay tsy tokony hijanona. Ny fahatokisan'ny argument 8-bit dia midika fa vakiana ny JSON atolotra ny function-nao; ny fiantsoana fitaovana simba dia agent tafajanona, fa tsy valiny ratsiratsy kokoa.
• Famakafakana antontan-taratasy lava ho firafitra. Fanambarana manontolo miditra, zavatra mifintina iray mivoaka.
• Fanaraha-maso votoaty sy fikarohana momba ny politika. Ny fanamarihana zavatra lavin'ny modely voasivana hovakiana dia olana mitohy amin'ny fitokisana sy ny fiarovana; ny modely tsy voasivana misy schema hentitra dia mamaha izany mivantana.

Ary ny toerana tsy ahazoany azy: izay rehetra misy sary (ampiasao ny MiMo-V2.5), sy ny injeniera rindrambaiko mahaleo tena misy rakitra maro, izay mametraka ny Hy3 aorian'ny GLM-5.2 amin'ny SWE-bench Verified ary lavitra aoriana amin'ny DeepSWE ny tabilaon'ny Tencent mihitsy.

Ny tarehimarika benchmark dia notaterin'ny Tencent, anisan'izany ny isan'ny mpifaninana; niandry ny fanamarinana tsy miankina tamin'ny fotoana nanoratana ity. Ny tarehimarika momba ny vidiny dia nokajiana avy amin'ny tahanay navoaka $0.50 / $2.00. Tsy misy isa amin'ity pejy ity no benchmark nampandehanin'ny Shannon na tombantombana.

10Fanontaniana apetraka matetika

---

Loharano: Karatra modely Tencent Hunyuan · Repository Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Lahatsoratry ny VentureBeat momba ny famoahana ny Hy3. Ny benchmark momba ny fototra dia notaterin'ny Tencent ary vonjimaika mandra-pahazoana fanamarinana tsy miankina. Tantanin'ny Shannon Lab LLC, New Mexico, Etazonia, ny Shannon AI.