API ya Modela Hy3 a Bê Sansûr
Bingehê Hy3 yê 295B yê Tencent bi wefadariya giraniyan a 8-bit, bi derketina hişk a json_schema, pencereyeke 262,144-tokenî û tu tebeqeya redkirinê — li bihayê erdê yê katalogê.
TL;DR
Hy3-W8A16 ya sêyem a sê modelên me yên W8A16 e — giraniyên 8-bit, aktîvasyonên 16-bit, asta bi wefadariya herî bilind a ku em xizmet dikin. Ew tenê nivîs e, piştgiriya hem json_schema hem response_format dike, contexta 262,144-tokenî ya li seranserê katalogê û tavana derketinê ya 16,384-tokenî hildigire, û $0.50 / $2.00 ji bo her mîlyon tokenan dike — erd. Tu tebeqeya redkirinê, tu fîltrekirina derketinê. Wê ji bo lûleyên nivîsê yên bi hejmara mezin hilbijêre ku divê li ser her bangekê derketineke parsekirbar û bi tîp vegerînin, ligel li ser materyalê ku modeleke fîltrekirî red dikira destê xwe lê bide.
Piraniya nîqaşên «divê ez kîjan modelê bikar bînim» li ser tavanê ne: kîjan koda herî baş dinivîse, matematîka herî dijwar çareser dike, meşandina ajanî ya herî dirêj dibe. Lûleyên strukturkirî bi vî awayî naxebitin. Karekî ku rojane ji sed hezar belgeyan qadan derdixe ne modeleke hewce dike ku carekê biriqîne — ew yekê hewce dike ku her carê bi heman şeklî rast be, û ku tu carî paragrafekê venagerîne li cihê ku divê objeyeke JSON be. Ev ew taybetmendî ye ku Hy3-W8A16 ji bo wê li vir e.
01Hy3 çi ye, û ji ku tê
Hy3 modeleke ramanê û ajanî ye bi giraniyên vekirî ji tîma Hunyuan a Tencent, ku di 6ê Tîrmeha 2026 de bi temamî di bin lîsanseke nermik de hat berdan, bi giraniyên weşandî li ser Hugging Face. Ew rêza karê Hunyuan-Large ya Mixture-of-Experts a berê ya Tencent didomîne. Ji aliyê mîmarî ve ew MoEyeke seyrek e: 295 mîlyar parametreyên giştî, ku ji wan bi qasî 21 mîlyar ji bo her tokenekê aktîv dibin bi rêkirina top-8 li seranserê 192 pisporan, li ser transformerekê 80-tebeqeyî bi grouped-query attention, plus tebeqeyeke pêşbîniya pir-tokenî ya 3.8B ya cuda ji bo speculative decoding. Contexta niştecih 256K e — tam ew 262,144 tokenên ku em eşkere dikin, ne birrîna tiştekî mezintir û ne jî dirêjkirineke bi RoPEyê ya tiştekî biçûktir.
Ew rêjeya seyrekiyê jimara girîng e ji bo her kesê ku ji bo her tokenekê pere dide: Hy3 zanîna modeleke 295B hildigire dema ku ji bo her derbaseke pêş bi qasî aritmetîka yeke 21B dike. Ew herwiha sedem e ku em dikarin wê li 8 bitan xizmet bikin li şûna ku wê tundtir bipêçin — avakirineke 8-bit a modeleke ewqas seyrek hîn jî cih digire û hîn jî bilez li ser koma GPU ya me bi xwe dixebite.
Tencent dibêje ew di çi de baş e
Tabloyên nirxandinê yên weşandî yên Tencent hêzên Hy3 rasterast di lêgerîna ajanî, orkestrasyona amûran, û wergirtina bi contexta dirêj de datînin ne di kodkirina xav de. Jimarên wan ên ragihandî:
Em darikên qels bi mebest nîşan didin. Hy3 di berawirdkirina Tencent bi xwe de li ser kodkirinê li paş GLM-5.2 dimîne — 78.0 li hember 84.2 li ser SWE-bench Verified, 28.0 li hember 46.2 li ser DeepSWE. Heke karê te endezyariya nermalavê ya otonom a pir-fîleyî be, pêşî mayîna indeksa lêkolîna modelan bixwîne. Heke ew xwendina nivîsê û derxistina strukturê be, profîl nêzî îdeal e.
Jimara ku herî zêde ji bo karê lûleyê girîng e yeke pêbaweriyê ye: Tencent rêjeya halusînasyonê ya Hy3 li 5.4% ragihîne, ku ji 12.5% ya nifşê berê daketiye, bi çewtiyên aqilê hevpar ên ku ji 25.4% bo 12.7% daketine. Prensîba wan a diyarkirî ya perwerdehiyê — gava delîl hebin bersivê bide, gava tunebin bi eşkereyî bibêje — tam ew meyl e ku tu di modeleke derxistinê de dixwazî ku wek din dê ji bo qadekê ku çavkanî qet behsa wê nake nirxeke maqûl bihûne.
Hemû jimarên di vê beşê de ji aliyê Tencent ve ji meşandinên testê yên wan bi xwe hatine ragihandin; verîfîkasyona serbixwe ya aliyê sêyem di dema nivîsandinê de hîn li bendê bû. Wan wek nîşandan bihesibîne, ne wek biryardayî.
02W8A16 çi tê wateyê, û çima ew ji bo derketina strukturkirî girîng e
Her modeleke li ser dergehê paşgireke quantizasyonê hildigire. Ew ne xemilandin e — ew ji te re dibêje giraniyên xizmetkirî çiqas dûrî wî checkpointê rûdinin ku laboratûwarê berda.
| Ast | Ew çi dike | Wefadarî |
|---|---|---|
| 3BIT-REAP | Giraniyên 3-bit plus REAP, rêbazeke birrîna pisporan ku pisporên MoE yên kêm-rêkirî berî quantizekirinê davêje | Herî pêçandî |
| W4A16-AUTOROUND-REAP | Giraniyên 4-bit / aktîvasyonên 16-bit bi rêya AutoRound — gilorkirina fêrbûyî ku rasttiyê li ser gilorkirina sade ya ber bi ya nêzîk vedigerîne — plus birrîna REAP | Navîn |
| W8A16 | Giraniyên 8-bit / aktîvasyonên 16-bit. Tu birrîn, tu tamîra bi gilorkirina fêrbûyî — giranî bi sadeyî bi du caran rasttiyê tên hilgirtin | Herî bilind |
Şemitîna quantizasyonê bi rastî li ku zirarê dide
REAP û AutoRound piraniya tiştê ku pêçandina sade winda dike vedigerînin — lê «piranî» di wê hevokê de karî dike, û ya mayî bi awayekî wekhev nakeve. Quantizasyona bit-nizm dûvikan xerab dike: ew biryarên bi îhtîmala nizm û bi taybetiya bilind. Di nivîsê de ev hema hema nayê dîtin; rengdêreke cuda hîn jî hevokeke baş e. Di derketina strukturkirî de ew temamê lîstikê ye, ji ber ku şemayek zincîreke dirêj a biryarên bi îhtîmala nizm e ku divê her yek ji wan tam rast be:
- Hevoksaziya asta tokenê. Kevaneke girtinê, bêhnokek, karaktereke dunikê. Her yek tokenek e, û yek tokenê xelet temamê bersivê bêderbas dike.
- Dîsîplîna enumê. Şemaya te dibêje
"status"yek ji"open" | "closed" | "pending"e; modeleke şemitî"Open"an"pending review"vedigerîne — ji aliyê wateyê ve nêzîk, û wek yek ji wan ne derbasdar. - Dîsîplîna tîpê. Qadeke
numberwek"1,240"tê,booleanwek"yes". Her du wek stringan tên parsekirin û şemayê têk dibin. - Literalên dûvika dirêj. Navên xas ên kêm, hejmarên parçeyan, navên kîmyayî, nivîsên ne-Latînî, tarîxên rast — tam ew herêma bi îhtîmala nizm ku giraniyên bit-nizm wê tar dikin.
Tu ji van modelên 4-bit an 3-bit xerab nakin; ji bo karê axaftinê cudahiya wefadariyê pir caran ne hêjayî cudahiya bihayê ye. Lê gava bikarhênerê derketinê verîfîkerek e ne mirovek, rasttî li dûvikan rasterast dibe rêjeya parsekirinê — û rêjeya parsekirinê dibe budceya dubarekirinê û derengmayîna p99. W8A16 ew ast e ku tu dev ji dayîna wî bacî berdidî.
03Derketina strukturkirî: json_schema û response_format
Hy3 piştgiriya her du nîvên rûyê derketina strukturkirî dike — hêjayî gotina eşkere ye, ji ber ku ev li seranserê katalogê giştî nîne:
| Model | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Erê | Erê |
| MiMo-V2.5-Pro · W8A16 | Erê | Erê |
| inkling · W4A16-AUTOROUND-REAP | Erê | Na |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Na | Na |
Cudahiya di navbera her du mekanîzmayan de ji ya ku mirov texmîn dikin bêtir girîng e. response_format: {"type": "json_object"} JSONeke derbasdar dixwaze û ne tiştekî din — model şeklî hildibijêre, loma du bang dikarin {"name": ...} û {"full_name": ...} vegerînin û her du rast bin. json_schema şeklî ji pêş ve dide: qadên bi nav, tîp, enum, lîsteyên pêwîst, hêlînkirin. Ev peymanek e ku tu dikarî li hember wê kodê binivîsî.
Bangekî hindiktirîn li ser zaravayê bi OpenAI re lihevhatî:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}Notên pratîk
- Her qadekê pêwîst bike û destûrê bide
null. Qadên bijartî avêtinên bêdeng vedixwînin; qadeke pêwîst a ku dikare null be «tune ye»yeke eşkere ferz dike, ku ev agahiyek e ku tu dikarî li ser wê tev bigerî. - Enum ji stringên azad çêtir in. Li ku derê tu dikarî koma nirxan bigirî, wê bigire — guhertina bi hêza herî bilind ji bo rêjeya derbasbûnê ya rastîn a şemayekê.
- Li jêrî tavana derketinê ya 16,384-tokenî bimîne. Rêzeyeke bêsînor dê di nîvê objeyekê de bibirre. Dirêjahiya rêzeyan sînordar bike, an têketinê parçe bike.
- Peyama pergalê bihêle. Şema şeklî sînordar dike; prompt hîn jî wateyê birêve dibe — çi wek «krîtîk» tê hesibandin, gava du tarîx xuya bibin kîjan dibe, ma yekîne bên normalîzekirin an na.
- Bi her awayî verîfîye bike. Piştgiriya şemayê rêjeya derbasbûnê bilind dike; ew cihê verîfîkerekî û rêzeke nameyên mirî nagire.
04Çima «bê sansûr» taybetmendiyeke pêbaweriyê ye, ne tenê yeke naverokê
Hy3 li ser dergehê tu tebeqeya redkirinê û tu fîltrekirina derketinê tune. Çarçoveya asayî li ser naverokê ye: tu dikarî lêkolîna ewlehiyê, analîza malware, nivîsên exploitan, korpusên bijîşkî û hiqûqî, materyalê mezinan, belgekirina kêmkirina zirarê an transkrîptên bikarhênerên dijber pêvajo bikî bêyî ku model li şûna te biryar bide ku ew tercîh dike neke.
Sedemeke duyem û mekanîkîtir heye ku çima ew girîng e. Redkirinek binpêkirineke şemayê ye. Modeleke fîltrekirî ya ku red dike objeya te bi alayeke "unavailable" venagerîne — ew nivîsekê vedigerîne. «Ez nikarim di wê daxwazê de alîkariyê bikim.» Ew string ne objeyeke incident ye; ew verîfîkerê te têk dibe û li tenişt çewtiyên parsekirinê yên rastîn dikeve rêza nameyên mirî, ku niha divê tu redkirinên polîtîkayê ji şaşiyên rastîn veqetînî.
Xerabtir, redkirin bi naverokê re korele dibin ne ku bi awayekî tesadufî belav dibin. Heke 4% ya korpusa te raporên bûyerên ewlehiyê bin û model piraniya wan red bike, te ne 4% ya bandewahiyê bi awayekî wekhev winda kiriye — te yek kategorî winda kiriye, û dashboarda ku li ser wan daneyan hatiye avakirin bi bêdengî tam wî tiştî kêm ragihîne ku ew ji bo nîşandana wî heye. Qulên bi şeklê kategoriyê ji dengê wekhev bêtir lêçûnek in ji ber ku tu tişt li ser wan hişyariyê nade. Riya redkirinê rake û tiştê ku dimîne — şaşî, birrîn, nivîsa nezelal — bi mijarê re korele nîne, û loma tê pîvandin.
Bê sansûr ne bê berpirsiyarî ye
Tu tebeqeya redkirinê tê wateya ku model li ser têketina te şîroveyên exlaqî nake. Ew nayê wê wateyê ku hesêb nayê şopandin. Bikaranîn di bin Polîtîkaya Bikaranîna Berpirsiyar a me û qanûna têkildar de ye, û destdirêjî gihîştinê diqedîne. Rakirina fîltreyê nahêle model ji perçeyeke belgeyekê mebesta te texmîn bike; ew berpirsiyariya te ya ji bo tiştê ku tu ava dikî ranake.
05Context, tavana derketinê, û çawa tê budcekirin
Her modeleke li ser dergehê heman sînoran parve dike:
Context budceyeke parvekirî ye: divê prompt plus derketin bi hev re di nav 262,144an de cih bigirin, loma tavana têketinê ya pratîk di yek bangekê de bi qasî 245,000 token e, bi qasî 180,000 peyvên Îngilîzî. Ji bo karê strukturkirî tavana derketinê ya 16,384-tokenî sînorê dijwartir e û ew e ku mirovan şaş dike — şemayeke ku ji bo her tomarekê objeyekê derdixe berî ku pencere tijî bibe lê dikeve. Du şablon li hember wê dixebitin:
- Têketina fireh, derketina teng. Peymaneke tevayî, dosyayekê an pencereyeke logan têxe contextê û yek objeyeke kompakt bixwaze. Tokenên têketinê çaryeka tokenên derketinê dikin, loma biha xwendina gelekan û nivîsandina hindikan xelat dike.
- Li ser sînorên tomaran parçe bike, ne li ser hejmara baytan. Li cihê ku model dikare dirûnê bibîne parçe bike. Tomareke ku di nîvê hevokê de tê birrîn objeyeke bi baweriyê xelet çêdike ne têkçûneke eşkere.
Hêza wergirtina bi contexta dirêj a ragihandî ya Hy3 — 73.4 li ser AA-LCR, û bazdanek ji 42.9% bo 75.1% li ser bîranîna diyaloga dirêj a MRCR — tam ew kapasîte ye ku şablona yekem pê ve girêdayî ye, û jêhatîyeke cuda ji nivîsandina baş.
06Bihayê erdê, û aritmetîka lûleyeke rastîn
Hy3 li $0.50 ji bo her mîlyon tokenên têketinê û $2.00 ji bo her mîlyon tokenên derketinê rûdine — erdê katalogê, ku bi MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 û MiniMax-M3 re tê parvekirin. Li ser barên nûnerî hatiye hesabkirin:
| Kar | Têketin / bang | Derketin / bang | Lêçûn / bang | Ji bo her 1M bangan |
|---|---|---|---|---|
| Derxistina qadan | 1,200 | 300 | $0.0012 | $1,200 |
| Klasîfîkasyona belgeyan | 3,000 | 120 | $0.0018 | $1,800 |
| Kurtkirina belgeya dirêj bo şemayê | 40,000 | 900 | $0.0218 | $21,800 |
| Analîza pencereya tevayî | 240,000 | 2,000 | $0.1240 | $124,000 |
Jimara ku biryaran diguherîne ne rêjeya sernavê ye lê rêjeya bibandor e piştî dubarekirinan. Heke du model heman bihayê bikin û yek li ser 6% ya bangan verîfîkasyonê têk bibe li cihê ku ya din li ser 1.5% têk diçe, modela bi şemitîna bilind bi qasî 4.5% zêdetir bangan dimeşîne — tê jiyîn. Zirar li ser dûvikê ye: bangên dubarekirî du caran dirêjtir digirin, loma derengmayîna p99 ji bo perçeyekî xuya yê trafîkê bi qasî du caran dibe, û çi ku du caran têk diçe dibe karê destan. Li mîlyonek bangan di rojekê de ew bi hezaran tomar in ku divê kesek wan bixwîne.
Loma doza asta 8-bit li bihayê erdê: tu li vir ji bo wefadariyê premiumekê nadî, loma aritmetîka dubarekirinê pereyê belaş e. Heke modeleke 3-bit erzantir bûya bazareke rastîn hebû ku were nirxandin — Hy3 heman tiştê ku tişta herî erzan a di katalogê de dike.
07Sê zaravayên API, yek model
Hy3 li ser her sê zaravayên dergehê bi streamingê li ser her yekê tê gihîştin. Heman model, heman giranî, heman sînor — kîjan bi wê SDKya ku jixwe te heye re li hev tê hilbijêre.
| Endpoint | Zarava | Kengî bikar bîne |
|---|---|---|
| /v1/chat/completions | OpenAI | SDKyeke OpenAI, LangChain an LlamaIndex ya te heye. URLa bingehîn li vir nîşan bike, nasnameya modelê biguherîne. |
| /v1/messages | Anthropic | Tu li ser SDKya Anthropic î û blokên naverokê bêyî tebeqeyeke wergerandinê dixwazî. |
| /v1/responses | Responses | Tu şeklê daxwazê yê nûtir bi derketina bi tîp û rewşa aliyê serverî dixwazî. |
Hy3 herwiha piştgiriya bangkirina amûran û ramînê dike, ligel reasoning_effort. Ji bo karê derxistinê tevgera bikêrhatî bi gelemperî ew e ku ramînê nizm bikî: li ser şemayeke baş diyarkirî li ser nivîseke paqij, tokenên hizirkirinê tokenên derketinê ne ku tu ji bo wan pere didî û derengmayînek e ku tu li benda wê dimînî, ji bo qezenceke marjînal. Budceya hewldanê li şûna wê li ser têketina bi rastî nezelal xerc bike.
Referansa daxwaz û bersivê ya tam, lîsteyên parametreyan, semantîka streamingê û playgroundeke înteraktîf di belgekirina API de dijîn.
08Hilbijartina di nav sê modelên W8A16 de
Sê model li asta bi wefadariya herî bilind rûdinin, hemû li bihayê erdê. Bijartin bi piranî modalîte ye:
| Model | Dîtin | json_schema | Biha têketin / derketin | Ji bo vê hilbijêre |
|---|---|---|---|---|
| Hy3 · W8A16 | Na | Erê | $0.50 / $2.00 | Lûleyên strukturkirî yên tenê-nivîs, orkestrasyona amûran, wergirtina bi contexta dirêj |
| MiMo-V2.5-Pro · W8A16 | Na | Erê | $0.50 / $2.00 | Karê tenê-nivîs li cihê ku tu eyarkirina Pro ya xeta MiMo dixwazî |
| MiMo-V2.5 · W8A16 | Erê | Erê | $0.50 / $2.00 | Her tiştê bi wêneyan — belgeyên skenkirî, screenshot, wêne |
Heke beşek ji têketina te wêneyek be biryar ji te re hatiye dayîn: Hy3 tenê nivîs e — PDFên skenkirî, screenshot û wêneyan bo MiMo-V2.5 bişîne. Li cihê ku têketin bi rastî nivîs e, profîla Hy3 ya bikaranîna amûran a ajanî, bîranîna bi contexta dirêj û halusînasyona nizm a ragihandî herî rasterast li ser karê lûleyê tê nexşandin. Ji ber ku her sê heman bihayî dikin, şemaya xwe li hember duyan ji wan li ser çend sed tomarên rastîn bimeşîne û rêjeyên parsekirinê berawird bike; ew ji her tabloyekê, ligel vê yekê, çêtir wê çareser dike.
09Hy3 li ku cihê xwe hêjayî dike
- Derxistina qadan a bi hejmara mezin. Peyman, dosye, raporên bûyeran, transkrîpt, notên klînîkî, tomarên dadgehê — li her cihê ku objeyeke bi tîp ji bo her belgeyekê encam e û hejmar dubarekirinan biha dike.
- Klasîfîkasyon û rêkirin li pîvanê. Derketinên enumên girtî, li cihê ku temamê nirxa modelê ew e ku tu carî kategoriyeke nozdehem nahûne.
- Korpusên ewlehiyê û îstîxbarata tehdîdan. Nivîsên malware, eşkerekirinên exploitan û nimûneyên phishingê — ew materyalê ku modelên fîltrekirî dixîne redkirinê, û li cihê ku quleke bi şeklê kategoriyê mebestê têk dibe.
- Ajanên bangkirina amûran ên ku divê nesekinin. Wefadariya argumanan a 8-bit tê wateya ku ew JSONa ku ji fonksiyonên te re tê dayîn tê parsekirin; bangkirineke amûrekê ya şaşkirî ajanekî sekinî ye, ne bersiveke hinekî xerabtir.
- Analîza belgeyên dirêj bo strukturê. Dosyaya tevayî hundir, yek objeyeke kompakt derve.
- Moderasyona naverokê û lêkolîna polîtîkayê. Nîşankirina materyalê ku modeleke fîltrekirî red dike bixwîne pirsgirêkeke domdar a bawerî û ewlehiyê ye; modeleke bêfîltre bi şemayeke hişk wê rasterast çareser dike.
Û li ku nake: her tiştê bi wêneyan (MiMo-V2.5 bikar bîne), û endezyariya nermalavê ya otonom a pir-fîleyî, li cihê ku tabloyên Tencent bi xwe Hy3 li paş GLM-5.2 li ser SWE-bench Verified û pir li paş li ser DeepSWE datînin.
Her îdiayeke mîmarî û benchmarkê ya li ser bingehê Hy3 ji materyalên berdanê yên giştî yên Tencent an ji nûçegihaniya li ser wan tê; rastiyên katalogê ji /v1/models ya me ya zindî tên. Her duyan verîfîye bike.
Jimarên benchmarkê ji aliyê Tencent ve hatine ragihandin, ligel jimarên hevrikan; verîfîkasyona serbixwe di dema nivîsandinê de li bendê bû. Jimarên lêçûnê ji rêjeyên me yên weşandî yên $0.50 / $2.00 hatine hesabkirin. Tu jimareke li ser vê rûpelê ne benchmarkeke ku Shannon meşandiye ye û ne texmînek e.
10Pirsên ku pir tên kirin
API ya modela Hy3 a bê sansûr çi ye?
Ew endpointê Dergehê Shannon AI ye ji bo nasnameya modelê Hy3-W8A16 — bingehê Hy3 yê Tencent bi giraniyên vekirî ku li ser koma GPU ya me bi xwe bi rasttiya giraniyan a 8-bit tê xizmet kirin, bêyî tebeqeyeke redkirinê û bêyî fîltrekirina derketinê. Ew pencereyeke context a 262,144-tokenî, 16,384 tokenên derketinê ji bo her daxwazekê, bangkirina amûran, ramînê bi reasoning_effort, û derketina strukturkirî ya tam bi rêya hem json_schema hem response_format pêşkêş dike, li ser /v1/chat/completions, /v1/messages û /v1/responses bi streamingê.
Ma Hy3 piştgiriya şemaya JSON û derketina strukturkirî dike?
Erê. Hy3-W8A16 piştgiriya hem response_format ji bo awayê objeya JSON hem jî json_schema ji bo şemayên hişk û bi tîp dike — rûyê derketina strukturkirî yê tam, ne yekî parçeyî. Ev ji bo her modeleke di katalogê de ne rast e: Laguna-S-2.1 piştgiriya tu yekê nake, û inkling piştgiriya response_format dike lê ne ya json_schema. Heke lûleya te bi peymaneke bi tîp ve girêdayî be, Hy3 yek ji wan modelan e ku dikare wê pêk bîne.
W8A16 çi tê wateyê, û ma ew ji 4-bit an 3-bit çêtir e?
W8A16 tê wateya giraniyên 8-bit û aktîvasyonên 16-bit — asta bi wefadariya herî bilind a ku em xizmet dikin. Li hember W4A16-AUTOROUND-REAP (giraniyên 4-bit, gilorkirina fêrbûyî, birrîna pisporan) û 3BIT-REAP (giraniyên 3-bit plus birrîna pisporan), ew giraniyên berdayî herî kêm diguherîne, loma tevger nêzîkî checkpointê orîjînal dimîne. Astên tund hene ji ber ku wek din dê meşandina bingehên herî mezin bi lezê ne pratîk bûya.
Ma Hy3 piştgiriya wêneyan an dîtinê dike?
Na. Hy3-W8A16 tenê nivîs e. Şandina beşên wêneyan bo wê dê nexebite. Heke tu dîtin plus derketina strukturkirî li ser heman asta 8-bit hewce dikî, MiMo-V2.5-W8A16 bikar bîne, ku li heman bihayê $0.50 / $2.00 piştgiriya têketina wêneyan ligel json_schema û response_format dike.
API ya Hy3 çiqas dike?
$0.50 ji bo her mîlyon tokenên têketinê û $2.00 ji bo her mîlyon tokenên derketinê — bihayê erdê yê di katalogê me de, ku bi MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 û MiniMax-M3 re tê parvekirin. Lûleyeke derxistinê ya nûnerî li 1,200 tokenên têketinê û 300 tokenên derketinê ji bo her bangekê bi qasî $0.0012 ji bo her bangekê dike, an bi qasî $1,200 ji bo her mîlyon bangan.
Ma Hy3 dê daxwazekê red bike?
Li ber modelê tu tebeqeya redkirinê û tu fîltrekirina derketinê tune. Ji bo lûleyeke strukturkirî ev bi qasî taybetmendiyeke naverokê taybetmendiyeke pêbaweriyê ye: redkirinek binpêkirineke şemayê ye, ji ber ku nivîsa ku şirove dike çima model dê bersivê nede wek wê objeyê nayê parsekirin ku verîfîkerê te li benda wê ye. Rakirina riya redkirinê polekê tevahî ya têkçûnên parsekirinê li ser korpusên ewlehiyê, bijîşkî, hiqûqî û naveroka mezinan radike.
Hy3 li ser şemaya xwe bimeşîne
Wefadariya 8-bit, json_schema ya hişk, contexta 262K, tu redkirin — li bihayê erdê.
Nasnameya modelê Hy3-W8A16 · tenê nivîs · $0.50 têketin / $2.00 derketin ji bo her 1M tokenan
Çavkanî: Kartên modelan ên Tencent Hunyuan · Repozîtorya Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Nûçegihaniya VentureBeat li ser berdana Hy3. Benchmarkên bingehê ji aliyê Tencent ve hatine ragihandin û heta verîfîkasyona serbixwe demkî ne. Shannon AI ji aliyê Shannon Lab LLC, New Mexico, DYA ve tê xebitandin.