API ya Modeli ya Hy3 bila udhibiti

Mabishano mengi ya "nitumie modeli gani" yanahusu dari: ipi inaandika msimbo bora kuliko zote, inasuluhisha hesabu ngumu kuliko zote, inashinda kipindi kirefu kuliko vyote cha wakala. Mabomba yenye muundo hayafanyi kazi hivyo. Kazi inayotoa uwanja kutoka hati laki moja kwa siku haihitaji modeli iliyo nadhifu mara moja — inahitaji ile iliyo sahihi kwa umbo lilelile kila mara, na isiyorudisha kamwe aya mahali ambapo kitu cha JSON kinapaswa kuwa. Hiyo ndiyo sifa ambayo Hy3-W8A16 ipo kwa ajili yake.

01Hy3 ni nini, na inatoka wapi

Hy3 ni modeli ya uzani wazi ya hoja na ya kiwakala kutoka timu ya Hunyuan ya Tencent, iliyotolewa kikamilifu tarehe 6 Julai 2026 chini ya leseni ruhusifu, ikiwa na uzani uliochapishwa kwenye Hugging Face. Inaendeleza ukoo wa kazi ya awali ya Mixture-of-Experts ya Hunyuan-Large ya Tencent. Kimuundo ni MoE nyembamba: jumla ya vigezo bilioni 295, ambapo takriban bilioni 21 vinawaka kwa kila tokeni kupitia uelekezaji wa top-8 katika wataalamu 192, kwenye transformer ya tabaka 80 yenye attention ya maswali yaliyokusanywa, pamoja na tabaka tofauti ya utabiri wa tokeni nyingi ya 3.8B kwa usimbuaji wa kubahatisha. Muktadha wa asili ni 256K — hasa tokeni 262,144 tunazoziweka wazi, si upunguzaji wa kitu kikubwa zaidi wala upanuzi wa rope wa kitu kidogo zaidi.

Uwiano huo wa uwembamba ndiyo namba muhimu kwa yeyote anayelipa kwa kila tokeni: Hy3 inabeba maarifa ya modeli ya 295B huku ikifanya takriban hesabu ya ya 21B kwa kila pigo la mbele. Ndiyo pia sababu tunaweza kumudu kuihudumia kwa biti 8 badala ya kuibana kwa nguvu zaidi — ujenzi wa biti 8 wa modeli nyembamba hivi bado unatoshea na bado unaendesha kwa kasi kwenye kundi letu la GPU.

Tencent inaripoti ni nzuri kwa nini

Majedwali ya tathmini yaliyochapishwa ya Tencent yanaweka nguvu za Hy3 waziwazi kwenye utafutaji wa kiwakala, uratibu wa zana, na uchukuaji wa muktadha mrefu badala ya kuandika msimbo mbichi. Namba zao zilizoripotiwa:

Tunaonyesha mistari dhaifu kwa makusudi. Hy3 inaachwa nyuma na GLM-5.2 kwenye kuandika msimbo ndani ya ulinganisho wa Tencent wenyewe — 78.0 dhidi ya 84.2 kwenye SWE-bench Verified, 28.0 dhidi ya 46.2 kwenye DeepSWE. Kama mzigo wako wa kazi ni uhandisi wa programu wa faili nyingi unaojiendesha, soma sehemu iliyobaki ya orodha ya utafiti wa modeli kwanza. Kama ni kusoma maandishi na kutoa muundo, wasifu unakaribia kuwa bora kabisa.

Namba inayohusu zaidi kwa kazi ya bomba ni ya kuaminika: Tencent inaripoti kiwango cha kuzua cha Hy3 kwa 5.4%, kikishuka kutoka 12.5% katika kizazi kilichotangulia, huku makosa ya akili ya kawaida yakishuka kutoka 25.4% hadi 12.7%. Kanuni yao ya mafunzo iliyoelezwa — jibu pale ushahidi ulipo, sema wazi pale usipokuwepo — ndiyo hasa tabia unayoitaka ndani ya modeli ya uchukuaji ambayo vinginevyo ingebuni thamani inayoonekana halali kwa uwanja ambao chanzo hakikuutaja kamwe.

Namba zote ndani ya sehemu hii zimeripotiwa na Tencent kutoka majaribio yao wenyewe; uthibitisho huru wa mtu wa tatu ulikuwa bado unasubiriwa wakati wa kuandika. Zichukulie kama mwelekeo, si kama zilizothibitishwa.

02W8A16 inamaanisha nini, na kwa nini inahusu kwa matokeo yenye muundo

Kila modeli kwenye lango inabeba kiambishi cha mbano. Si pambo — kinakuambia uzani unaohudumiwa uko mbali kiasi gani na kituo ambacho maabara ilikitoa.

Daraja	Linafanya nini	Uaminifu
3BIT-REAP	Uzani wa biti 3 pamoja na REAP, mbinu ya upogoaji wa wataalamu inayoondoa wataalamu wa MoE wanaoelekezewa mara chache kabla ya kubana	Uliobanwa zaidi kuliko yote
W4A16-AUTOROUND-REAP	Uzani wa biti 4 / uwashaji wa biti 16 kupitia AutoRound — mviringisho uliojifunza unaorejesha usahihi juu ya mviringisho rahisi wa karibu zaidi — pamoja na upogoaji wa REAP	Wa kati
W8A16	Uzani wa biti 8 / uwashaji wa biti 16. Hakuna upogoaji, hakuna urekebishaji wa mviringisho uliojifunza — uzani unabebwa tu kwa usahihi mara mbili	Wa juu kuliko yote

Mahali kupotea kwa mbano kunapoumiza hasa

REAP na AutoRound zinarejesha sehemu kubwa ya kile mbano rahisi unachokipoteza — lakini "sehemu kubwa" linafanya kazi ndani ya sentensi hiyo, na masalio hayaangukii kwa usawa. Mbano wa biti chache unadhoofisha mikia: maamuzi ya uwezekano mdogo, ya umahususi mkubwa. Kwenye maandishi ya kubuni hilo karibu halionekani; kivumishi tofauti bado ni sentensi nzuri. Kwenye matokeo yenye muundo ndiyo mchezo mzima, kwa sababu muundo ni mnyororo mrefu wa maamuzi ya uwezekano mdogo ambayo kila mmoja lazima uwe sahihi hasa:

• Sintaksia ya kiwango cha tokeni. Kifungo cha kufunga, alama ya koma, alama ya nukuu. Kila kimoja ni tokeni moja, na tokeni moja isiyo sahihi inabatilisha jibu lote.
• Nidhamu ya enum. Muundo wako unasema "status" ni mojawapo ya "open" | "closed" | "pending"; modeli iliyopotea inarudisha "Open" au "pending review" — karibu kimaana, na si halali kwa yoyote.
• Nidhamu ya aina. Uwanja wa number unarudi kama "1,240", wa boolean kama "yes". Vyote vinachanganuliwa kama mifuatano na vinashindwa muundo.
• Herufi za mkia mrefu. Nomino za pekee adimu, namba za vipuri, majina ya kemikali, maandishi yasiyo ya Kilatini, tarehe sahihi — hasa eneo la uwezekano mdogo ambalo uzani wa biti chache unaufifisha.

Hakuna kati ya haya kinachofanya modeli za biti 4 au biti 3 kuwa mbaya; kwa kazi ya mazungumzo tofauti ya uaminifu mara nyingi haistahili tofauti ya bei. Lakini mtumiaji wa matokeo anapokuwa kithibitishi badala ya binadamu, usahihi kwenye mikia unabadilika moja kwa moja kuwa kiwango cha kuchanganua — na kiwango cha kuchanganua kuwa bajeti ya kujaribu tena na ucheleweshaji wa p99. W8A16 ndilo daraja ambapo unaacha kulipa kodi hiyo.

03Matokeo yenye muundo: json_schema na response_format

Hy3 inaunga mkono nusu zote mbili za uso wa matokeo yenye muundo — inafaa kusemwa waziwazi, kwa sababu hilo si la kila mahali ndani ya katalogi:

Modeli	response_format	json_schema
Hy3 · W8A16	Ndiyo	Ndiyo
MiMo-V2.5-Pro · W8A16	Ndiyo	Ndiyo
inkling · W4A16-AUTOROUND-REAP	Ndiyo	Hapana
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Hapana	Hapana

Tofauti kati ya mifumo hiyo miwili inahusu zaidi ya watu wanavyodhani. response_format: {"type": "json_object"} inaomba JSON halali na si zaidi — modeli inachagua umbo, hivyo miito miwili inaweza kurudisha {"name": ...} na {"full_name": ...} na yote miwili ni sahihi. json_schema inatoa umbo mbele: uwanja uliopewa majina, aina, enum, orodha za lazima, ufumaji. Huo ni mkataba unaoweza kuandika msimbo dhidi yake.

Mwito wa chini kabisa kwenye lahaja inayooana na OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Madokezo ya vitendo

• Fanya kila uwanja uwe wa lazima na uruhusu null. Uwanja wa hiari unaalika kuachwa kimyakimya; uwanja wa lazima unaokubali null unalazimisha "haipo" iliyo wazi, ambayo ni taarifa unayoweza kuitendea kazi.
• Enum zinashinda mifuatano huru. Popote unapoweza kufunga seti ya thamani, ifunge — ndilo badiliko lenye nguvu kubwa kuliko yote kwenye kiwango halisi cha kufaulu cha muundo.
• Baki chini ya dari ya tokeni 16,384 za matokeo. Safu isiyo na mipaka itakatika katikati ya kitu. Weka kikomo kwa urefu wa safu, au ugawe ingizo.
• Bakiza ujumbe wa mfumo. Muundo unabana umbo; kidokezo bado kinasimamia maana — nini kinahesabiwa kama "critical," tarehe ipi inashinda mbili zinapotokea, kama uzibadilishe vipimo kuwa vya kawaida.
• Thibitisha hata hivyo. Uungwaji mkono wa muundo unainua kiwango cha kufaulu; hauchukui nafasi ya kithibitishi na foleni ya barua zilizokufa.

04Kwa nini "bila udhibiti" ni sifa ya kuaminika, si ya maudhui tu

Hy3 kwenye lango haina safu ya kukataa wala kuchuja matokeo. Mtazamo wa kawaida unahusu maudhui: unaweza kuchakata utafiti wa usalama, uchambuzi wa programu hasidi, maandishi ya mashambulizi, makundi ya data ya kimatibabu na kisheria, vifaa vya watu wazima, nyaraka za kupunguza madhara au nakala za watumiaji wenye uhasama bila modeli kuamua kwa niaba yako kwamba ingependelea isifanye.

Kuna sababu ya pili, ya kimitambo zaidi, inayofanya ihusu. Kukataa ni ukiukaji wa muundo. Modeli iliyochujwa inayokataa hairudishi kitu chako ikiwa na bendera ya "unavailable" — inarudisha maandishi. "I'm not able to help with that request." Mfuatano huo si kitu cha incident; unashindwa kithibitishi chako na unaangukia kwenye foleni ya barua zilizokufa pembeni ya makosa halisi ya kuchanganua, ambapo sasa unalazimika kutenganisha kukataa kwa sera na uharibifu halisi.

Baya zaidi, kukataa kunahusiana na maudhui badala ya kugawanyika kwa nasibu. Kama 4% ya kundi lako la data ni ripoti za matukio ya usalama na modeli inakataa nyingi kati yake, hujapoteza 4% ya upitishaji kwa usawa — umepoteza kundi moja, na dashibodi iliyojengwa juu ya data hiyo kimyakimya inaripoti pungufu hasa kitu ambacho ipo kukionyesha. Mashimo yenye umbo la makundi yanagharimu zaidi kuliko kelele ya usawa kwa sababu hakuna kinachotoa tahadhari juu yake. Ondoa njia ya kukataa na kinachobaki — uharibifu, ukataji, maandishi yenye utata — hakihusiani na mada, na kwa hivyo kinaweza kupimwa.

05Muktadha, dari ya matokeo, na jinsi ya kuvipangia bajeti

Kila modeli kwenye lango inashiriki mipaka ileile:

Muktadha ni bajeti inayoshirikiwa: kidokezo pamoja na matokeo lazima vitoshee ndani ya 262,144 kwa pamoja, hivyo dari ya vitendo ya ingizo ndani ya mwito mmoja ni takriban tokeni 245,000, kwa ukadiriaji mkubwa maneno 180,000 ya Kiingereza. Kwa kazi yenye muundo kikomo cha tokeni 16,384 za matokeo ndicho kigumu zaidi na ndicho kinachoshangaza watu — muundo unaotoa kitu kimoja kwa kila rekodi unakigonga muda mrefu kabla dirisha halijajaa. Michoro miwili inafanya kazi dhidi ya hilo:

• Ingizo pana, matokeo membamba. Sukuma mkataba mzima, hati ya kisheria au dirisha la kumbukumbu ndani ya muktadha na uombe kitu kimoja kifupi. Tokeni za ingizo zinagharimu robo ya tokeni za matokeo, hivyo bei inazawadia kusoma vingi na kuandika kidogo.
• Gawa kwenye mipaka ya rekodi, si hesabu za baiti. Gawa mahali ambapo modeli inaweza kuona mshono. Rekodi iliyokatwa katikati ya sentensi inazalisha kitu kisicho sahihi kilichojaa ujasiri badala ya kushindwa kunakoonekana wazi.

Nguvu iliyoripotiwa ya uchukuaji wa muktadha mrefu ya Hy3 — 73.4 kwenye AA-LCR, na kuruka kutoka 42.9% hadi 75.1% kwenye ukumbukaji wa mazungumzo marefu wa MRCR — ndiyo hasa uwezo ambao mchoro wa kwanza unautegemea, na ni ustadi tofauti na kuandika vizuri.

06Bei ya sakafu, na hesabu ya bomba halisi

Hy3 inakaa kwa $0.50 kwa tokeni milioni za ingizo na $2.00 kwa tokeni milioni za matokeo — sakafu ya katalogi, inayoshirikiwa na MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 na MiniMax-M3. Ikifanyiwa kazi kupitia mizigo ya uwakilishi:

Mzigo wa kazi	Ingizo / mwito	Matokeo / mwito	Gharama / mwito	Kwa miito 1M
Uchukuaji wa uwanja	1,200	300	$0.0012	$1,200
Uainishaji wa hati	3,000	120	$0.0018	$1,800
Kufupisha hati ndefu kuwa muundo	40,000	900	$0.0218	$21,800
Uchambuzi wa dirisha kamili	240,000	2,000	$0.1240	$124,000

Namba inayobadilisha maamuzi si kiwango cha kichwa cha habari bali kiwango chenye ufanisi baada ya kujaribu tena. Kama modeli mbili zinagharimu sawa na moja inashindwa uthibitishaji kwenye 6% ya miito ambapo nyingine inashindwa kwenye 1.5%, modeli iliyopotea zaidi inaendesha takriban 4.5% ya miito zaidi — inavumilika. Uharibifu upo kwenye mkia: miito iliyojaribiwa tena inachukua muda mara mbili, hivyo ucheleweshaji wa p99 unazidi kuwa mara mbili takriban kwa sehemu inayoonekana ya trafiki, na chochote kinachoshindwa mara mbili kinakuwa kazi ya mkono. Kwa miito milioni moja kwa siku hizo ni maelfu ya rekodi ambazo mtu lazima azisome.

Hivyo ndiyo hoja ya daraja la biti 8 kwa bei ya sakafu: hulipii ziada kwa uaminifu hapa, hivyo hesabu ya kujaribu tena ni pesa ya bure. Kama modeli ya biti 3 ingekuwa nafuu kungekuwa na badiliko halisi la kupima — Hy3 inagharimu sawa na kitu nafuu kuliko chote ndani ya katalogi.

07Lahaja tatu za API, modeli moja

Hy3 inafikika kwenye lahaja zote tatu za lango zikiwa na utiririshaji kwenye kila moja. Modeli ileile, uzani uleule, mipaka ileile — chagua ile inayolingana na SDK uliyonayo tayari.

Ncha	Lahaja	Tumia pale
/v1/chat/completions	OpenAI	Una SDK ya OpenAI, LangChain au LlamaIndex. Elekeza URL ya msingi hapa, badilisha kitambulisho cha modeli.
/v1/messages	Anthropic	Uko kwenye SDK ya Anthropic na unataka vitalu vya maudhui bila safu ya kutafsiri.
/v1/responses	Responses	Unataka umbo jipya la ombi lenye matokeo yenye aina na hali ya upande wa seva.

Hy3 pia inaunga mkono kuita zana na hoja, ikijumuisha reasoning_effort. Kwa kazi ya uchukuaji hatua yenye manufaa kwa kawaida ni kushusha hoja: kwenye muundo ulioelezwa vizuri juu ya maandishi safi, tokeni za kufikiri ni tokeni za matokeo unazozilipia na ucheleweshaji unaousubiri, kwa faida ndogo. Tumia bajeti ya juhudi kwenye ingizo lenye utata kweli badala yake.

Marejeo kamili ya maombi na majibu, orodha za vigezo, maana za utiririshaji na uwanja shirikishi wa majaribio vipo kwenye nyaraka za API.

08Kuchagua kati ya modeli tatu za W8A16

Modeli tatu zinakaa kwenye daraja lenye uaminifu wa juu kuliko yote, zote kwa bei ya sakafu. Chaguo kwa kiasi kikubwa ni la njia ya ingizo:

Modeli	Uoni	json_schema	Bei ndani / nje	Ichague kwa
Hy3 · W8A16	Hapana	Ndiyo	$0.50 / $2.00	Mabomba yenye muundo ya maandishi pekee, uratibu wa zana, uchukuaji wa muktadha mrefu
MiMo-V2.5-Pro · W8A16	Hapana	Ndiyo	$0.50 / $2.00	Kazi ya maandishi pekee ambapo unataka urekebishaji wa Pro wa mstari wa MiMo
MiMo-V2.5 · W8A16	Ndiyo	Ndiyo	$0.50 / $2.00	Chochote chenye picha — hati zilizoskaniwa, picha za skrini, picha

Kama sehemu yoyote ya ingizo lako ni picha uamuzi umefanyika kwa ajili yako: Hy3 ni ya maandishi pekee — tuma PDF zilizoskaniwa, picha za skrini na picha kwa MiMo-V2.5. Pale ingizo lilipo maandishi kweli, wasifu wa Hy3 wa matumizi ya zana ya kiwakala, ukumbukaji wa muktadha mrefu na kuzua kwa kiwango kidogo kilichoripotiwa unaelekea moja kwa moja zaidi kwenye kazi ya bomba. Kwa kuwa zote tatu zinagharimu sawa, endesha muundo wako dhidi ya mbili kati yake kwenye rekodi halisi mia chache na ulinganishe viwango vya kuchanganua; hilo linatatua vizuri kuliko jedwali lolote, likijumuisha hili.

09Mahali Hy3 inapostahili nafasi yake

• Uchukuaji wa uwanja wa kiasi kikubwa. Mikataba, hati za kisheria, ripoti za matukio, nakala za mazungumzo, maandishi ya kliniki, rekodi za mahakama — popote kitu chenye aina kwa kila hati ndicho kinachotolewa na kiasi kinafanya kujaribu tena kuwe ghali.
• Uainishaji na uelekezaji kwa kiwango kikubwa. Matokeo ya enum zilizofungwa, ambapo thamani yote ya modeli ni kutobuni kamwe kundi la kumi na tisa.
• Makundi ya data ya usalama na ujasusi wa vitisho. Maandishi ya programu hasidi, ufichuzi wa mashambulizi na sampuli za udukuzi — vifaa vinavyoangusha modeli zilizochujwa kwenye kukataa, na ambapo shimo lenye umbo la kundi linaharibu kusudi lote.
• Mawakala wa kuita zana ambao hawapaswi kukwama. Uaminifu wa hoja wa biti 8 unamaanisha JSON inayokabidhiwa kazi zako inachanganulika; mwito wa zana ulioharibika ni wakala aliyekwama, si jibu baya kidogo.
• Uchambuzi wa hati ndefu kuwa muundo. Hati nzima ndani, kitu kimoja kifupi nje.
• Usimamizi wa maudhui na utafiti wa sera. Kutia lebo vifaa ambavyo modeli iliyochujwa inakataa kuvisoma ni tatizo la kudumu la uaminifu na usalama; modeli isiyochujwa yenye muundo mkali inalitatua moja kwa moja.

Na mahali isipofaa: chochote chenye picha (tumia MiMo-V2.5), na uhandisi wa programu wa faili nyingi unaojiendesha, ambapo majedwali ya Tencent yenyewe yanaiweka Hy3 nyuma ya GLM-5.2 kwenye SWE-bench Verified na nyuma kwa mbali kwenye DeepSWE.

Namba za vipimo zimeripotiwa na Tencent, zikijumuisha namba za washindani; uthibitisho huru ulikuwa unasubiriwa wakati wa kuandika. Namba za gharama zimekokotolewa kutoka viwango vyetu vilivyochapishwa vya $0.50 / $2.00. Hakuna namba kwenye ukurasa huu iliyo kipimo kilichoendeshwa na Shannon au makadirio.

10Maswali yanayoulizwa mara kwa mara

---

Vyanzo: kadi za modeli za Tencent Hunyuan · hazina ya Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · habari za VentureBeat kuhusu toleo la Hy3. Vipimo vya msingi vimeripotiwa na Tencent na ni vya muda hadi uthibitisho huru. Shannon AI inaendeshwa na Shannon Lab LLC, New Mexico, Marekani.