API ya Model ya Hy3 e se nang Thibelo

Bongata ba dikgang tsa "ke model efe eo ke lokelang ho e sebedisa" di ka boemo bo hodimo: ke efe e ngolang khoutu e ntle ka ho fetisisa, e rarolla dipalo tse thata ka ho fetisisa, e hlolang tshebetso ya agent e telele ka ho fetisisa. Mesebetsi e latellanang e hlophisitsweng ha e sebetse jwalo. Mosebetsi wa ho ntsha masimo ho ditokomane tse dikete tse lekgolo ka letsatsi ha o hloke model e leng ntle hantle ka nako e le nngwe — o hloka e nepahetseng ka sebopeho se tshwanang ka nako e nngwe le e nngwe, mme e sa keng ya kgutlisa serapa moo ntho ya JSON e lokelang ho ba teng. Ke bona boleng boo Hy3-W8A16 e leng teng bakeng sa bona.

01Hy3 ke eng, mme e tswa kae

Hy3 ke model ya di-weight tse bulehileng ya ho nahana le ya di-agent e tswang sehlopheng sa Hunyuan sa Tencent, e lokoletsweng ka botlalo ka la 6 Phupu 2026 tlasa laesense e bulehileng, ka di-weight tse phatlaladitsweng ho Hugging Face. E tswela pele ka leloko la mosebetsi wa pele wa Mixture-of-Experts wa Tencent, Hunyuan-Large. Ka sebopeho ke MoE e hasaneng: di-parameter tse dikete tse 295 tsa dimilione kaofela, tseo hoo e ka bang di-billione tse 21 tse sebetsang ka token ka tsela ya top-8 routing ho pholletsa le ditsebi tse 192, hodima transformer ya marallo a 80 ka tlhokomelo ya grouped-query, hammoho le karolo e arohaneng ya 3.8B ya multi-token-prediction bakeng sa ho hlahisa pele. Context ya tlhaho ke 256K — hantle di-token tse 262,144 tseo re di fanang ka tsona, e seng ho kgaotswa ha ntho e kgolwana kapa katoloso e otlolotsweng ka rope ya ntho e nyenyane.

Tekanyo eo ya ho hasana ke palo e bohlokwa bakeng sa mang kapa mang ya lefellang ka token: Hy3 e jara tsebo ya model ya 295B ha e ntse e etsa dipalo tsa hoo e ka bang tsa 21B ka tsamaiso e le nngwe ya pele. Ke lona hape lebaka leo re ka kgonang ho e sebedisa ho di-bit tse robedi ho ena le ho e fokotsa ka matla — moaho wa di-bit tse robedi wa model e hasaneng hakana o ntse o kena mme o ntse o matha ka lebelo sehlopheng sa rona sa di-GPU.

Seo Tencent e tlalehang hore model e le ntle ho sona

Ditafole tsa tlhahlobo tse phatlaladitsweng ke Tencent di beha matla a Hy3 hantle ho ho batla ha di-agent, ho hlophisa disebediswa, le ho ntsha tlhahisoleseding ho context e telele ho ena le ho ngola khoutu ho hlwekileng. Dipalo tsa bona tse tlalehilweng:

Re bontsha di-bar tse fokolang ka boomo. Hy3 e sala GLM-5.2 morao ho ngoleng khoutu papisong ya Tencent ka boyona — 78.0 kgahlanong le 84.2 ho SWE-bench Verified, 28.0 kgahlanong le 46.2 ho DeepSWE. Haeba mosebetsi wa hao ke boenjiniere ba software bo ikemetseng bo nang le difaele tse ngata, bala karolo e setseng ya lenane la dipatlisiso tsa model pele. Haeba e le ho bala mongolo le ho hlahisa sebopeho, moaho ona o haufi le o phethahetseng.

Palo e bohlokwa ka ho fetisisa bakeng sa mosebetsi wa mesebetsi e latellanang ke ya tshepahalo: Tencent e tlaleha boemo ba ho itlhahisa mahoseng ba Hy3 e le 5.4%, e theohile ho tswa ho 12.5% moloko o fetileng, ka diphoso tsa kutlwisiso e tlwaelehileng di theoha ho tswa ho 25.4% ho ya ho 12.7%. Motheo wa bona wa koetliso o boletsweng — araba ha ho na bopaki, o bue ka ho hlaka ha ho se bo teng — ke hantle boitshwaro boo o bo batlang ho model ya ho ntsha tlhahisoleseding e neng e tla iqapela boleng bo utlwahalang bakeng sa sebaka seo mohlodi o sa kang wa se bua.

Dipalo tsohle karolong ena di tlalehilwe ke Tencent ho tswa diteko tsa bona; netefatso e ikemetseng e tswang ka ntle e ne e ntse e le teng ha ho ngolwa. Di nke e le tshupo, e seng nnete e tiisitsweng.

02Seo W8A16 e se bolelang, le hobaneng e le bohlokwa bakeng sa tlhahiso e hlophisitsweng

Model e nngwe le e nngwe sebakeng sena e na le sehlomathiso sa ho fokotswa. Hase mokgabiso — e o bolella hore na di-weight tse sebediswang di hole hakae ho checkpoint eo laboratori e e lokoletseng.

Sehlopha	Seo e se etsang	Botshepehi
3BIT-REAP	Di-weight tsa di-bit tse tharo hammoho le REAP, mokgwa wa ho poma ditsebi o hlakolang ditsebi tsa MoE tse sa kgethwang hangata pele ho fokotswa	E fokotsitswe ka ho fetisisa
W4A16-AUTOROUND-REAP	Di-weight tsa di-bit tse nne / tshebediso ya di-bit tse 16 ka AutoRound — ho pota ho ithutilweng ho kgutlisang nepahalo ho ena le ho pota ho bonolo — hammoho le ho poma ha REAP	Bohareng
W8A16	Di-weight tsa di-bit tse robedi / tshebediso ya di-bit tse 16. Ha ho poma, ha ho tokiso ya ho pota ho ithutilweng — di-weight di jarwa feela ka botshepehi bo habedi	Bo phahameng ka ho fetisisa

Moo ho kgeloha ha ho fokotswa ho utlwisang bohloko hantle

REAP le AutoRound di kgutlisa boholo ba seo ho fokotswa ho bonolo ho lahlehisang — empa "boholo" ke lentswe le bohlokwa polelong eo, mme masalla ha a wele ka tekano. Ho fokotswa ho di-bit tse fokolang ho senya mehatla: diqeto tsa monyetla o tlase, tse nang le botlalo bo boholo. Mongolong seo ha se bonahale hakalo; sebopathoko se fapaneng ke poleloana e ntse e le ntle. Tlhahisong e hlophisitsweng ke lona papadi lohle, hobane sehlopho ke keketso e telele ya diqeto tsa monyetla o tlase tseo e nngwe le e nngwe e lokelang ho nepahala hantle:

• Sebopeho sa token. Lebonto la ho kwala, khomma, letshwao la mongolo. E nngwe le e nngwe ke token e le nngwe, mme token e le nngwe e fosahetseng e senya karabo yohle.
• Taolo ya enum. Sehlopho sa hao se re "status" ke e nngwe ya "open" | "closed" | "pending"; model e kgelohileng e kgutlisa "Open" kapa "pending review" — e haufi ka moelelo, mme e sa nepahale ho ena e le nngwe.
• Taolo ya mofuta. Sebaka sa number se kgutla e le "1,240", sa boolean e le "yes". Tsohle di balwa e le mantswe mme di hloleha sehlophong.
• Mantswe a mohatla o molelele. Mabitso a sa tlwaelehang, dinomoro tsa dikarolo, mabitso a dikhemikale, mongolo o seng wa Latin, matsatsi a nepahetseng — hantle sebaka sa monyetla o tlase seo di-weight tsa di-bit tse fokolang di se ferekanyang.

Ha ho letho ho tsena le etsang hore di-model tsa 4-bit kapa 3-bit di be mpe; bakeng sa mosebetsi wa moqoqo phapang ya botshepehi hangata ha e lekane le phapang ya theko. Empa ha ya amohelang tlhahiso e le validator ho ena le motho, nepahalo mehatleng e fetolwa ka kotloloho ho ba boemo ba ho bala, mme boemo ba ho bala bo fetolwa ho ba tekanyetso ya diteko tse boeletsang le nako ya p99. W8A16 ke sehlopha moo o emisang ho lefa lekgetho leo.

03Tlhahiso e hlophisitsweng: json_schema le response_format

Hy3 e tshehetsa tsohle tse pedi tsa dikarolo tsa tlhahiso e hlophisitsweng — ho bohlokwa ho hlalosa sena ka ho hlaka, hobane ha ho jwalo katalogong yohle:

Model	response_format	json_schema
Hy3 · W8A16	E	E
MiMo-V2.5-Pro · W8A16	E	E
inkling · W4A16-AUTOROUND-REAP	E	Tjhe
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Tjhe	Tjhe

Phapang pakeng tsa mekgwa e mmedi ena e bohlokwa ho feta kamoo batho ba nkang kateng. response_format: {"type": "json_object"} e kopa JSON e nepahetseng feela — model e kgetha sebopeho, kahoo dipitso tse pedi di ka kgutlisa {"name": ...} le {"full_name": ...} mme tsohle tse pedi di nepahetse. json_schema e fana ka sebopeho pele ho qala: masimo a reheilweng, mefuta, di-enum, dilebole tse hlokahalang, kaho ka hara e nngwe. Ke konteraka eo o ka ngolang khoutu ho ipapisitse le yona.

Pitso e nyenyane puong e tsamaellanang le OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Ditlhaloso tsa mosebetsi

• Etsa hore sebaka se seng le se seng se hlokahale mme se dumelle null. Masimo a ikgethang a mema ho tlosuwa ka setho; sebaka se hlokahalang se dumellang null se qobella "ha ho teng" ka ho hlaka, e leng tlhahisoleseding eo o ka sebetsang ka yona.
• Di-enum di fetisa mantswe a bulehileng. Kae kapa kae moo o ka kwalang sehlopha sa boleng, se kwale — phetoho e nang le matla a phahameng ka ho fetisisa boemong ba ho phasa ba sehlopho sebakeng sa nnete.
• Dula tlasa lekantswe la tlhahiso la di-token tse 16,384. Array e sa lekanngwang e tla kgaotseha bohareng ba ntho. Kgaola botelele ba array, kapa arola keno.
• Boloka molaetsa wa sistimi. Sehlopho se laola sebopeho; prompt e ntse e busa moelelo — se balwang e le "critical," letsatsi lefe le hlolang ha a mabedi a hlaha, hore na a ka lekanngwa dikarolo.
• Netefatsa leha ho le jwalo. Tshehetso ya sehlopho e phahamisa boemo ba ho phasa; ha e nkele sebaka sa validator le mokgwa wa ho boloka diphoso.

04Hobaneng "e se nang thibelo" e le tlhaho ya tshepahalo, e seng ya dikahare feela

Hy3 sebakeng sena ha e na lera la ho hana kapa sefe hodima tlhahiso. Tlhaloso e tlwaelehileng e mabapi le dikahare: o ka sebetsana le dipatlisiso tsa tshireletso, tlhahlobo ya malware, ditlaleho tsa ho hlasela, dikahare tsa bongaka le molao, dintlha tsa batho ba baholo, ditokomane tsa ho fokotsa kotsi kapa mongolo wa basebedisi ba bohanyetsi ntle le hore model e etse qeto boemong ba hao ya hore e ka rata ho se etse.

Ho na le lebaka la bobedi, le mekwa e sebediswang. Ho hana ke ho tlola sehlopho. Model e sefuwang e hanang ha e kgutlise ntho ya hao ka letshwao la "unavailable" — e kgutlisa serapa. "Ha ke kgone ho thusa ka kopo eo." Sekgokgo seo hase ntho ya incident; se hlolehile validator ya hao mme se ya lehlakoreng la ho boloka diphoso hammoho le diphoso tsa nnete tsa ho bala, moo hona jwale o tlamehang ho arola ho hana ha leano ho tswa mefokolong ya sebele.

Ho feta moo, ho hana ho amana le dikahare ho ena le ho phatlaletse ka ho iketsa. Haeba 4% ya corpus ya hao e le ditlaleho tsa ditshitiso tsa tshireletso mme model e hana boholo ba tsona, ha o a lahlehelwa ke 4% ya tlhahiso ka tekano — o lahlehetswe ke sehlopha se le seng, mme dashboard e ahetsweng datha eo e tlaleha tlase ka setho hantle seo e leng teng ho se supa. Mesima ya sebopeho sa sehlopha e bitsa ho feta lerata le tekanang hobane ha ho letho le lemosang ka tsona. Tlosa tsela ya ho hana mme seo se setseng — mefokolo, ho kgaotseha, mongolo o sa hlakang — ha se amane le sehlooho, kahoo se ka lekanngwa.

05Context, lekantswe la tlhahiso, le kamoo o di laolang

Model e nngwe le e nngwe sebakeng sena e arolelana melekanyetso e tshwanang:

Context ke tekanyetso e arolelanwang: prompt hammoho le tlhahiso di tlameha ho kena ka hare ho 262,144 hammoho, kahoo lekantswe la sebele la kenyo kopong e le nngwe ke hoo e ka bang di-token tse 245,000, hoo e ka bang mantswe a Senyesemane a 180,000. Bakeng sa mosebetsi o hlophisitsweng lekantswe la tlhahiso la di-token tse 16,384 ke moedi o thata ka ho fetisisa mme o makatsang batho — sehlopho se hlahisang ntho e le nngwe rekoto e nngwe le e nngwe se se fihla nako e telele pele fensetere e tlala. Mekgwa e mmedi e sebetsa kgahlanong le seo:

• Kenyo e pharaletseng, tlhahiso e tshesane. Kenya konteraka yohle, faele kapa fensetere ya log context-ng mme o kope ntho e le nngwe e kgutshwane. Di-token tsa kenyo di bitsa karolo ya bone ya di-token tsa tlhahiso, kahoo theko e putsa ho bala ho hoholo le ho ngola hanyenyane.
• Arola ka meedi ya rekoto, e seng ka palo ya di-byte. Arola moo model e ka bonang moaho. Rekoto e kgaotsweng bohareng ba polelo e hlahisa ntho e fosahetseng ka boitshepo ho ena le tlhoko e hlakileng.

Matla a Hy3 a tlalehilweng a ho ntsha tlhahisoleseding context e telele — 73.4 ho AA-LCR, le phahamo ho tswa 42.9% ho ya ho 75.1% ho MRCR bakeng sa ho hopola moqoqo o molelele — ke hantle bokgoni boo mokgwa wa pele o itshetlehileng ho bona, mme ke bokgoni bo fapaneng le ho ngola hantle.

06Theko e tlase, le dipalo tsa mosebetsi wa sebele

Hy3 e dutse $0.50 ka di-token tse milione tsa kenyo le $2.00 ka di-token tse milione tsa tlhahiso — theko e tlase ka ho fetisisa katalogong, e arolelanwang le MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 le MiniMax-M3. Ha ho balwa ka mesebetsi e tshwantshetsang:

Mosebetsi	Kenyo / pitso	Tlhahiso / pitso	Theko / pitso	Ka dipitso tse milione
Ho ntsha masimo	1,200	300	$0.0012	$1,200
Ho hlophisa ditokomane	3,000	120	$0.0018	$1,800
Ho fokotsa tokomane e telele ho ya sehlophong	40,000	900	$0.0218	$21,800
Tlhahlobo ya fensetere e felletseng	240,000	2,000	$0.1240	$124,000

Palo e fetolang diqeto hase tekanyo ya hlooho empa ke tekanyo e sebetsang kamora diteko tse boeletsweng. Haeba di-model tse pedi di bitsa tshwana mme e nngwe e hloleha netefatso ho 6% ya dipitso ha e nngwe e hloleha ho 1.5%, model e kgelohang haholo e matha dipitso tse eketsehileng ka hoo e ka bang 4.5% — e phelang. Tshenyo e mohatleng: dipitso tse boeletsweng di nka nako e habedi, kahoo nako ya p99 e menahana ka boemo bakeng sa karolo e bonahalang ya tsamaiso, mme ntho efe kapa efe e hlolehang habedi e ba mosebetsi wa ka letsoho. Dipitsong tse milione ka letsatsi ke direkoto tse dikete tse ngata tseo motho a tlamehang ho di bala.

Ke ka lebaka leo ho leng le kgang bakeng sa sehlopha sa di-bit tse robedi ka theko e tlase: ha o lefe ka ho eketsehileng bakeng sa botshepehi mona, kahoo dipalo tsa diteko tse boeletsweng ke tjhelete ya mahala. Haeba model ya 3-bit e ne e le theko e tlase ho ne ho tla ba le phapanyetsano ya sebele ya ho lekanya — Hy3 e bitsa se tshwanang le se theko e tlase ka ho fetisisa katalogong.

07Dipuo tse tharo tsa API, model e le nngwe

Hy3 e fumaneha ka dipuo tsohle tse tharo tsa sebaka sena ka ho phalla ho e nngwe le e nngwe. Model e tshwanang, di-weight tse tshwanang, melekanyetso e tshwanang — kgetha efe kapa efe e lumellanang le SDK eo o seng o e na le yona.

Ntlha	Puo	Sebedisa ha
/v1/chat/completions	OpenAI	O na le OpenAI SDK, LangChain kapa LlamaIndex. Supa base URL mona, fetola id ya model.
/v1/messages	Anthropic	O sebedisa Anthropic SDK mme o batla dihlopha tsa dikahare ntle le sethefo sa phetolelo.
/v1/responses	Responses	O batla sebopeho se setjha sa kopo se nang le tlhahiso e reheilweng le boemo ba server-side.

Hy3 e boetse e tshehetsa ho bitsa disebediswa le ho nahana, ho kenyeletsa reasoning_effort. Bakeng sa mosebetsi wa ho ntsha tlhahisoleseding, mokgwa o molemo hangata ke ho theola ho nahana: sehlophong se hlalositsweng hantle hodima mongolo o hlwekileng, di-token tsa ho nahana ke di-token tsa tlhahiso tseo o di lefellang le nako eo o e emelang, bakeng sa phaello e nyenyane. Sebedisa tekanyetso ya boiteko keno e sa hlakang ka nnete ho e-na.

Tshupiso e felletseng ya kopo le karabo, dilenane tsa di-parameter, semantics ya ho phalla le sebaka sa ho leka se phelang di ho ditokomane tsa API.

08Ho kgetha ho tswa ho di-model tse tharo tsa W8A16

Di-model tse tharo di dutse sehlopheng se phahameng ka ho fetisisa sa botshepehi, tsohle ka theko e tlase. Kgetho ke haholo ya mofuta wa dikahare:

Model	Pono	json_schema	Theko kenyo / tlhahiso	E kgethe bakeng sa
Hy3 · W8A16	Tjhe	E	$0.50 / $2.00	Mesebetsi e hlophisitsweng ya mongolo feela, ho hlophisa disebediswa, ho ntsha tlhahisoleseding ho context e telele
MiMo-V2.5-Pro · W8A16	Tjhe	E	$0.50 / $2.00	Mosebetsi wa mongolo feela moo o batlang tokiso ya Pro ya moloko wa MiMo
MiMo-V2.5 · W8A16	E	E	$0.50 / $2.00	Ntho efe kapa efe e nang le ditshwantsho — ditokomane tse scannuweng, di-screenshot, dithombo

Haeba karolo efe kapa efe ya keno ya hao e le setshwantsho, qeto e se e entswe: Hy3 ke mongolo feela — romela di-PDF tse scannuweng, di-screenshot le dithombo ho MiMo-V2.5. Moo keno e leng mongolo ka nnete, moaho wa Hy3 wa tshebediso ya disebediswa ya di-agent, ho hopola context e telele le boemo bo tlase bo tlalehilweng ba ho itlhahisa mahoseng bo lekana hantle le mosebetsi o latellanang. Ka hobane tsohle tse tharo di bitsa tshwana, matha sehlopho sa hao kgahlanong le tse pedi tsa tsona ho direkoto tsa nnete tse makgolo mme o bapise diboemo tsa ho bala; seo se rarolla ntlha ho feta tafole efe kapa efe, ho kenyeletsa le ena.

09Moo Hy3 e fumanang sebaka sa yona teng

• Ho ntsha masimo ka bongata bo boholo. Dikonteraka, difaele, ditlaleho tsa ditshitiso, mongolo o ngotsweng, dintlha tsa kliniki, direkoto tsa lekgotla — kae kapa kae moo ntho e reheilweng ka tokomane e leng sona sehlahiswa mme bongata bo etsang diteko tse boeletsweng tsa theko e phahameng.
• Ho hlophisa le ho laola ka boholo. Tlhahiso e kwetsweng ya di-enum, moo boleng bohle ba model e leng hore ha e ke e iqapela sehlopha sa leshome le metso e robong.
• Dikahare tsa tshireletso le tlhahisoleseding ya kotsi. Ditlaleho tsa malware, ditlhaloso tsa ho hlasela le mehlala ya bofebe — dikahare tse etsang hore di-model tse sefuwang di hane, moo sekoti sa sehlopha se hlolang morero.
• Di-agent tse bitsang disebediswa tse sa lokelang ho ema. Botshepehi ba di-bit tse robedi ba arguments bo bolela hore JSON e neilweng mesebetsi ya hao e a balwa; ho bitsa sesebediswa ho senyehileng ho bolela agent e emileng, e seng karabo e mpe hanyenyane.
• Tlhahlobo ya tokomane e telele ho ya sebopehong. Faele yohle e kena, ntho e le nngwe e kgutshwane e tswa.
• Taolo ya dikahare le dipatlisiso tsa leano. Ho tshwaya dikahare tseo model e sefuwang e hanang ho di bala ke bothata bo dulang bo le teng ba boitshepo le tshireletso; model e sa sefuweng e nang le sehlopho se thata e se rarolla ka kotloloho.

Le moo e sa fumaneng sebaka: ntho efe kapa efe e nang le ditshwantsho (sebedisa MiMo-V2.5), le boenjiniere ba software bo ikemetseng bo nang le difaele tse ngata, moo ditafole tsa Tencent ka boyona di behang Hy3 kamora GLM-5.2 ho SWE-bench Verified mme kgeo e kgolo ho DeepSWE.

Dipalo tsa tekanyetso di tlalehilwe ke Tencent, ho kenyeletsa dipalo tsa bahlodisani; netefatso e ikemetseng e ne e ntse e le teng ha ho ngolwa. Dipalo tsa theko di baloa ho tswa ditekanyong tsa rona tse phatlaladitsweng tsa $0.50 / $2.00. Ha ho palo leqepheng lena e leng tekanyetso e matheng ke Shannon kapa kelellong.

10Dipotso tse botswang hangata

---

Mehlodi: Dikarete tsa model tsa Tencent Hunyuan · Repo ya Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Tlaleho ya VentureBeat ka tokollo ya Hy3. Ditekanyetso tsa motheo di tlalehilwe ke Tencent mme di sa tiiswa ho fihlela netefatso e ikemetseng. Shannon AI e tsamaiswa ke Shannon Lab LLC, New Mexico, USA.