Senzurasiz Hy3 model API si
Tencent ning 295B Hy3 poydevori 8-bitli og'irlik sadoqatida, qat'iy json_schema chiqishi, 262,144 tokenli oyna va rad etish qatlamining yo'qligi bilan — katalogning eng quyi narxida.
TL;DR
Hy3-W8A16 — bizning uchta W8A16 modelimizdan uchinchisi: 8-bitli og'irliklar, 16-bitli aktivatsiyalar, ya'ni biz xizmatga qo'yadigan eng yuqori sadoqatli daraja. U faqat matnli, ham json_schema, ham response_format ni qo'llab-quvvatlaydi, katalog bo'ylab umumiy 262,144 tokenli kontekst va 16,384 tokenli chiqish shiftini olib yuradi hamda million tokenga $0.50 / $2.00 — eng quyi chegara — turadi. Rad etish qatlami yo'q, chiqish filtri yo'q. Uni har bir chaqiriqda ajratsa bo'ladigan, tiplashtirilgan chiqish qaytarishi shart bo'lgan katta hajmli matn quvurlari uchun tanlang, jumladan filtrlangan model tegishdan bosh tortadigan materialda ham.
"Qaysi modelni ishlatishim kerak" degan bahslarning aksariyati shift haqida: qaysi biri eng yaxshi kod yozadi, eng qiyin matematikani yechadi, eng uzun agent yurishida yutadi. Tuzilmali quvurlar bunday ishlamaydi. Kuniga yuz ming hujjatdan maydonlarni ajratadigan vazifaga bir marta yorqin bo'ladigan model kerak emas — unga har safar bir xil shaklda to'g'ri bo'ladigan va JSON obyekti turishi kerak bo'lgan joyda hech qachon paragraf qaytarmaydigan model kerak. Hy3-W8A16 aynan shu xususiyat uchun bu yerda.
01Hy3 nima va u qayerdan keladi
Hy3 — Tencent ning Hunyuan jamoasidan chiqqan ochiq og'irlikli fikrlash va agentlik modeli, 2026-yil 6-iyulda erkin litsenziya ostida to'liq chiqarilgan, og'irliklari Hugging Face da chop etilgan. U Tencent ning oldingi Hunyuan-Large Mixture-of-Experts ishining naslini davom ettiradi. Arxitektura jihatidan bu — siyrak MoE: jami 295 milliard parametr, ulardan taxminan 21 milliardi har bir tokenda 192 ekspert bo'ylab top-8 yo'naltirish orqali aktivlashadi, guruhlangan so'rovli e'tiborga ega 80 qatlamli transformerda, plyus spekulyativ dekodlash uchun alohida 3.8B ko'p tokenli bashorat qatlami. Nativ kontekst — 256K, ya'ni biz ochadigan aynan 262,144 token, kattaroq narsaning qisqartmasi yoki kichikroq narsaning rope bilan cho'zilgani emas.
O'sha siyraklik nisbati har bir token uchun to'laydigan har kim uchun muhim raqam: Hy3 295B modelning bilimini olib yuradi, lekin har bir oldinga o'tishda taxminan 21B modelning arifmetikasini bajaradi. Uni qattiqroq siqish o'rniga 8 bitda xizmatga qo'yishga qurbimiz yetishining sababi ham shu — bunchalik siyrak modelning 8-bitli yig'masi hamon o'z GPU klasterimizga sig'adi va hamon tez ishlaydi.
Tencent u nimada yaxshi deb xabar qiladi
Tencent ning chop etilgan baholov jadvallari Hy3 ning kuchli tomonlarini xom kodlashda emas, aniq agentlik qidiruvi, vositalarni orkestrlash va uzun kontekstli qidiruvda ko'rsatadi. Ularning xabar qilgan ko'rsatkichlari:
Biz zaif ustunlarni ataylab ko'rsatamiz. Tencent ning o'z taqqoslashida Hy3 kodlashda GLM-5.2 dan orqada qoladi — SWE-bench Verified da 84.2 ga qarshi 78.0, DeepSWE da 46.2 ga qarshi 28.0. Agar ish yukingiz avtonom ko'p faylli dasturiy injiniring bo'lsa, avval model tadqiqot indeksining qolgan qismini o'qing. Agar u matn o'qib, tuzilma chiqarish bo'lsa, profil idealga yaqin.
Quvur ishi uchun eng muhim ko'rsatkich — ishonchlilikka oid. Tencent Hy3 ning gallyutsinatsiya darajasini 5.4% deb xabar qiladi, oldingi avloddagi 12.5% dan tushgan holda, sog'lom fikr xatolari esa 25.4% dan 12.7% ga tushgan. Ularning e'lon qilgan o'qitish prinsipi — dalil bo'lganda javob ber, bo'lmaganda ochiq ayt — aks holda manba umuman eslatmagan maydon uchun ishonarli qiymat o'ylab topadigan ajratib olish modelida siz istaydigan fe'lning o'zi.
Bu bo'limdagi barcha ko'rsatkichlar Tencent tomonidan o'z sinov yurishlaridan xabar qilingan; yozilgan paytda mustaqil uchinchi tomon tekshiruvi hamon kutilayotgan edi. Ularni yakuniy emas, yo'nalish beruvchi deb qabul qiling.
02W8A16 nimani anglatadi va nega u tuzilmali chiqish uchun muhim
Gateway dagi har bir model kvantlash qo'shimchasini olib yuradi. Bu bezak emas — u xizmatga qo'yilgan og'irliklar laboratoriya chiqargan nazorat nuqtasidan qanchalik uzoqda turishini aytadi.
| Daraja | U nima qiladi | Sadoqat |
|---|---|---|
| 3BIT-REAP | 3-bitli og'irliklar plyus REAP, ya'ni kvantlashdan oldin kamdan-kam yo'naltiriladigan MoE ekspertlarini tashlaydigan ekspert kesish usuli | Eng siqilgan |
| W4A16-AUTOROUND-REAP | AutoRound orqali 4-bitli og'irliklar / 16-bitli aktivatsiyalar — sodda eng yaqinga yaxlitlashga nisbatan aniqlikni tiklaydigan o'rganilgan yaxlitlash — plyus REAP kesishi | O'rta |
| W8A16 | 8-bitli og'irliklar / 16-bitli aktivatsiyalar. Kesish yo'q, o'rganilgan yaxlitlash bilan tiklash yo'q — og'irliklar shunchaki ikki barobar aniqlikda olib yuriladi | Eng yuqori |
Kvantlash og'ishi aslida qayerda og'ritadi
REAP va AutoRound sodda siqish yo'qotadigan narsaning ko'p qismini tiklaydi — lekin o'sha gapdagi "ko'p qismi" katta ish qilyapti va qoldiq teng taqsimlanmaydi. Past bitli kvantlash dumlarni yomonlashtiradi: past ehtimolli, yuqori aniqlikdagi qarorlarni. Nasrda bu deyarli ko'rinmas; boshqa sifat ham baribir yaxshi gap. Tuzilmali chiqishda esa butun gap shunda, chunki sxema — har biri aynan to'g'ri bo'lishi shart bo'lgan past ehtimolli qarorlarning uzun zanjiri:
- Token darajasidagi sintaksis. Yopuvchi qavs, vergul, qo'shtirnoq belgisi. Har biri bitta token va bitta noto'g'ri token butun javobni yaroqsiz qiladi.
- Enum intizomi. Sxemangiz
"status"ni"open" | "closed" | "pending"dan biri deydi; og'gan model esa"Open"yoki"pending review"qaytaradi — semantik jihatdan yaqin va ikkalasi ham yaroqsiz. - Tip intizomi.
numbermaydoni"1,240"bo'lib qaytadi,booleanesa"yes"bo'lib. Ikkalasi ham satr sifatida ajratiladi va sxemadan o'tmaydi. - Uzun dumdagi literallar. Noyob atoqli otlar, qism raqamlari, kimyoviy nomlar, lotin bo'lmagan yozuvlar, aniq sanalar — aynan past bitli og'irliklar xiralashtiradigan past ehtimolli hudud.
Bularning hech biri 4-bitli yoki 3-bitli modellarni yomon qilmaydi; suhbat ishi uchun sadoqat farqi ko'pincha narx farqiga arzimaydi. Lekin chiqishning iste'molchisi odam emas, tekshiruvchi bo'lganda, dumlardagi aniqlik bevosita ajratish darajasiga, ajratish darajasi esa qayta urinish byudjeti va p99 kechikishiga aylanadi. W8A16 — siz o'sha soliqni to'lashni to'xtatadigan daraja.
03Tuzilmali chiqish: json_schema va response_format
Hy3 tuzilmali chiqish yuzasining ikkala yarmini ham qo'llab-quvvatlaydi — buni aniq aytish arziydi, chunki bu katalog bo'ylab umumiy emas:
| Model | response_format | json_schema |
|---|---|---|
| Hy3 · W8A16 | Ha | Ha |
| MiMo-V2.5-Pro · W8A16 | Ha | Ha |
| inkling · W4A16-AUTOROUND-REAP | Ha | Yo'q |
| Laguna-S-2.1 · W4A16-AUTOROUND-REAP | Yo'q | Yo'q |
Ikki mexanizm orasidagi farq odamlar o'ylaganidan muhimroq. response_format: {"type": "json_object"} to'g'ri JSON so'raydi, xolos — shaklni model tanlaydi, shuning uchun ikkita chaqiriq {"name": ...} va {"full_name": ...} qaytarishi mumkin va ikkalasi ham to'g'ri. json_schema esa shaklni oldindan beradi: nomlangan maydonlar, tiplar, enumlar, majburiy ro'yxatlar, ichma-ichlik. Bu — siz kod yoza oladigan shartnoma.
OpenAI mos dialektidagi minimal chaqiriq:
POST /v1/chat/completions
{
"model": "Hy3-W8A16",
"messages": [
{"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
{"role": "user", "content": "<report text>"}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "incident",
"strict": true,
"schema": {
"type": "object",
"properties": {
"severity": {"type": "string", "enum": ["low","medium","high","critical"]},
"component": {"type": "string"},
"occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
"affected_users": {"type": ["integer","null"]},
"indicators": {
"type": "array",
"items": {"type": "object", "properties": {
"kind": {"type": "string", "enum": ["ip","domain","hash","cve"]},
"value": {"type": "string"}
}, "required": ["kind","value"]}
}
},
"required": ["severity","component","occurred_at","affected_users","indicators"]
}
}
}
}Amaliy qaydlar
- Har bir maydonni majburiy qiling va
nullga ruxsat bering. Ixtiyoriy maydonlar jimgina tushib qolishga yo'l ochadi; majburiy, null bo'la oladigan maydon esa aniq "mavjud emas" ni majburlaydi, bu esa siz harakat qila oladigan axborot. - Enumlar erkin satrlardan ustun. Qiymatlar to'plamini yopa oladigan har joyda yoping — sxemaning real dunyodagi o'tish darajasiga eng katta ta'sir qiladigan o'zgarish.
- 16,384 tokenli chiqish shiftidan pastda qoling. Chegaralanmagan massiv obyekt o'rtasida qirqiladi. Massiv uzunliklarini cheklang yoki kirishni bo'laklang.
- Tizim xabarini saqlang. Sxema shaklni cheklaydi; so'rov esa baribir semantikani boshqaradi — nima "critical" hisoblanadi, ikkita sana chiqsa qaysi biri yutadi, birliklarni normallashtirish kerakmi.
- Baribir tekshiring. Sxema qo'llab-quvvatlashi o'tish darajasini oshiradi; u tekshiruvchi va o'lik xat navbatining o'rnini bosmaydi.
04Nega "senzurasiz" faqat kontent emas, ishonchlilik xususiyati
Gateway dagi Hy3 da rad etish qatlami va chiqish filtri yo'q. Odatiy tuzilma kontent haqida: siz xavfsizlik tadqiqoti, zararli dastur tahlili, ekspluatatsiya sharhlari, tibbiy va huquqiy korpuslar, kattalar uchun material, zararni kamaytirish hujjatlari yoki dushmanona foydalanuvchi transkriptlarini model siz uchun "istamayman" deb hal qilmasdan qayta ishlay olasiz.
Buning ikkinchi, ko'proq mexanik sababi ham bor. Rad etish — sxema buzilishi. Bosh tortadigan filtrlangan model sizning obyektingizni "unavailable" bayrog'i bilan qaytarmaydi — u nasr qaytaradi. "Bu so'rovda yordam bera olmayman." O'sha satr incident obyekti emas; u tekshiruvchingizdan o'tmaydi va haqiqiy ajratish xatolari yonida o'lik xat navbatiga tushadi, siz esa endi siyosat rad etishlarini haqiqiy nuqsonlardan ajratishingiz kerak.
Bundan yomoni, rad etishlar tasodifiy taqsimlanmaydi, kontent bilan bog'liq bo'ladi. Agar korpusingizning 4% i xavfsizlik hodisasi hisobotlari bo'lsa va model ularning ko'pini rad etsa, siz o'tkazuvchanlikning 4% ini teng yo'qotmadingiz — siz bitta toifani yo'qotdingiz va o'sha ma'lumot ustiga qurilgan dashboard jimgina o'zi ko'rsatish uchun mavjud bo'lgan narsani kam hisoblaydi. Toifa shaklidagi teshiklar bir tekis shovqindan qimmatga tushadi, chunki ular hech qanday ogohlantirish bermaydi. Rad etish yo'lini olib tashlang va qolgan narsa — nuqsonlar, qirqilishlar, noaniq matn — mavzu bilan bog'liq bo'lmaydi va shuning uchun o'lchab bo'ladi.
Senzurasiz — javobgarlikdan xoli degani emas
Rad etish qatlamining yo'qligi model sizning kirishingiz haqida o'z mulohazasini bildirmasligini anglatadi. U akkaunt kuzatilmaydi degani emas. Foydalanish Mas'uliyatli Foydalanish Siyosatimiz va amaldagi qonun bilan boshqariladi, suiiste'mol esa kirishni tugatadi. Filtrni olib tashlash modelning hujjat parchasidan niyatingizni taxmin qilishini to'xtatadi; u siz quradigan narsa uchun mas'uliyatingizni olib tashlamaydi.
05Kontekst, chiqish shifti va ularni qanday byudjetlash kerak
Gateway dagi har bir model bir xil chegaralarni bo'lishadi:
Kontekst — umumiy byudjet: so'rov plyus chiqish birgalikda 262,144 ichiga sig'ishi kerak, shuning uchun bitta chaqiriqdagi amaliy kirish shifti taxminan 245,000 token, ya'ni juda taxminan 180,000 inglizcha so'z. Tuzilmali ish uchun 16,384 tokenli chiqish chegarasi qiyinroq chegara va odamlarni ajablantiradigani ham shu — har bir yozuvga bitta obyekt chiqaradigan sxema oyna to'lishidan ancha oldin unga uriladi. Bunga qarshi ikkita naqsh ishlaydi:
- Keng kirish, tor chiqish. Butun shartnomani, hujjatni yoki log oynasini kontekstga itaring va bitta ixcham obyekt so'rang. Kirish tokenlari chiqish tokenlarining chorak qismini turadi, shuning uchun narxlash ko'p o'qib, kam yozishni mukofotlaydi.
- Bayt soni bo'yicha emas, yozuv chegaralari bo'yicha bo'laklang. Model chokni ko'ra oladigan joyda bo'ling. Gap o'rtasida kesilgan yozuv aniq nosozlik emas, ishonch bilan aytilgan noto'g'ri obyekt ishlab chiqaradi.
Hy3 ning xabar qilingan uzun kontekstli qidiruv kuchi — AA-LCR da 73.4 va MRCR uzun dialog eslashida 42.9% dan 75.1% ga sakrash — birinchi naqsh tayanadigan qobiliyatning o'zi va bu yaxshi yozishdan boshqa mahorat.
06Eng quyi narx va haqiqiy quvurning arifmetikasi
Hy3 million kirish tokeni uchun $0.50 va million chiqish tokeni uchun $2.00 da turadi — bu katalog poyi, u MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 va MiniMax-M3 bilan bo'lishiladi. Vakillik qiluvchi yuklamalar bo'ylab hisoblab chiqilgan holda:
| Ish yuki | Chaqiriqqa kirish | Chaqiriqqa chiqish | Chaqiriq narxi | 1M chaqiriqqa |
|---|---|---|---|---|
| Maydon ajratib olish | 1,200 | 300 | $0.0012 | $1,200 |
| Hujjatlarni tasniflash | 3,000 | 120 | $0.0018 | $1,800 |
| Uzun hujjatni sxemaga xulosalash | 40,000 | 900 | $0.0218 | $21,800 |
| To'liq oynali tahlil | 240,000 | 2,000 | $0.1240 | $124,000 |
Qarorlarni o'zgartiradigan raqam bosh stavka emas, qayta urinishlardan keyingi samarali stavka. Agar ikkita model bir xil tursa va biri chaqiriqlarning 6% ida tekshiruvdan o'tmasa, ikkinchisi esa 1.5% ida o'tmasa, ko'proq og'adigan model taxminan 4.5% ko'p chaqiriq bajaradi — chidasa bo'ladi. Zarar dumda: qayta urinilgan chaqiriqlar ikki barobar uzoq davom etadi, shuning uchun trafikning ko'rinadigan ulushi uchun p99 kechikish taxminan ikki barobar oshadi va ikki marta muvaffaqiyatsizlikka uchragan narsa qo'lda ishga aylanadi. Kuniga million chaqiriqda bu — kimdir o'qishi kerak bo'lgan minglab yozuv.
Shundan eng quyi narxda 8-bitli daraja foydasiga dalil kelib chiqadi: bu yerda siz sadoqat uchun ustama to'lamayapsiz, shuning uchun qayta urinish arifmetikasi — bepul pul. Agar 3-bitli model arzonroq bo'lganda, tarozida o'lchaydigan haqiqiy kelishuv bo'lardi — Hy3 esa katalogdagi eng arzon narsa qancha tursa, shuncha turadi.
07Uchta API dialekti, bitta model
Hy3 ga uchala gateway dialektida ham yetib boriladi va har birida striming bor. O'sha model, o'sha og'irliklar, o'sha chegaralar — sizda allaqachon bor SDK ga qaysi biri mos kelsa, o'shanisini tanlang.
| Endpoint | Dialekt | Qachon ishlatiladi |
|---|---|---|
| /v1/chat/completions | OpenAI | Sizda OpenAI SDK, LangChain yoki LlamaIndex bor. Bazaviy URL ni shu yerga yo'naltiring, model id sini o'zgartiring. |
| /v1/messages | Anthropic | Siz Anthropic SDK dasiz va tarjima qatlamisiz kontent bloklarini istaysiz. |
| /v1/responses | Responses | Siz tiplashtirilgan chiqish va server tomonidagi holatga ega yangiroq so'rov shaklini istaysiz. |
Hy3 shuningdek vosita chaqirish va fikrlash ni, jumladan reasoning_effort ni qo'llab-quvvatlaydi. Ajratib olish ishi uchun foydali qadam odatda fikrlashni pasaytirish: toza matn ustidagi yaxshi aniqlangan sxemada fikrlash tokenlari siz to'laydigan chiqish tokenlari va siz kutadigan kechikish, foyda esa juda oz. Intensivlik byudjetini buning o'rniga chinakam noaniq kirishga sarflang.
So'rov va javobning to'liq ma'lumotnomasi, parametrlar ro'yxati, striming semantikasi va interaktiv sinov maydoni API hujjatlarida.
08Uchta W8A16 modeli orasidan tanlash
Uchta model eng yuqori sadoqatli darajada turadi, hammasi eng quyi narxda. Tanlov asosan modallik haqida:
| Model | Tasvir | json_schema | Kirish / chiqish narxi | Buning uchun tanlang |
|---|---|---|---|---|
| Hy3 · W8A16 | Yo'q | Ha | $0.50 / $2.00 | Faqat matnli tuzilmali quvurlar, vositalarni orkestrlash, uzun kontekstli qidiruv |
| MiMo-V2.5-Pro · W8A16 | Yo'q | Ha | $0.50 / $2.00 | MiMo yo'nalishining Pro sozlanishini istaydigan faqat matnli ish |
| MiMo-V2.5 · W8A16 | Ha | Ha | $0.50 / $2.00 | Rasmlar bilan bog'liq har narsa — skanerlangan hujjatlar, skrinshotlar, suratlar |
Agar kirishingizning biror qismi rasm bo'lsa, qaror siz uchun qilingan: Hy3 faqat matnli — skanerlangan PDF larni, skrinshotlarni va fotosuratlarni MiMo-V2.5 ga jo'nating. Kirish chinakam matn bo'lganda esa Hy3 ning agentlik vosita ishlatishi, uzun kontekstli eslashi va past xabar qilingan gallyutsinatsiyasidan iborat profili quvur ishiga eng bevosita mos keladi. Uchalasi ham bir xil turgani uchun sxemangizni ulardan ikkitasiga bir necha yuz haqiqiy yozuvda ishlating va ajratish darajalarini taqqoslang; buni har qanday jadvaldan, jumladan shu jadvaldan ham yaxshiroq hal qiladi.
09Hy3 o'z o'rnini qayerda oqlaydi
- Katta hajmli maydon ajratib olish. Shartnomalar, hujjatlar, hodisa hisobotlari, transkriptlar, klinik qaydlar, sud yozuvlari — har bir hujjatga tiplashtirilgan obyekt yakuniy natija bo'lgan va hajm qayta urinishlarni qimmat qiladigan har qanday joy.
- Miqyosda tasniflash va yo'naltirish. Yopiq enum chiqishlari, u yerda modelning butun qiymati o'n to'qqizinchi toifani hech qachon o'ylab topmasligida.
- Xavfsizlik va tahdid razvedkasi korpuslari. Zararli dastur sharhlari, ekspluatatsiya oshkorliklari va fishing namunalari — filtrlangan modellarni rad etishga undaydigan material va toifa shaklidagi teshik butun maqsadni yo'qqa chiqaradigan joy.
- To'xtab qolmasligi kerak bo'lgan vosita chaqiruvchi agentlar. 8-bitli argument sadoqati funksiyalaringizga beriladigan JSON ajratilishini anglatadi; buzilgan vosita chaqirig'i biroz yomonroq javob emas, to'xtab qolgan agent.
- Uzun hujjatni tuzilmaga tahlil qilish. Butun hujjat kirsin, bitta ixcham obyekt chiqsin.
- Kontent moderatsiyasi va siyosat tadqiqoti. Filtrlangan model o'qishdan bosh tortadigan materialga yorliq qo'yish — ishonch va xavfsizlikning doimiy muammosi; qat'iy sxemali filtrsiz model uni bevosita hal qiladi.
Va u qayerda o'z o'rnini oqlamaydi: rasmlar bilan bog'liq har narsa (MiMo-V2.5 ni ishlating) va avtonom ko'p faylli dasturiy injiniring, u yerda Tencent ning o'z jadvallari Hy3 ni SWE-bench Verified da GLM-5.2 dan orqada va DeepSWE da ancha orqada qo'yadi.
Hy3 poydevori haqidagi har bir arxitektura va benchmark da'vosi Tencent ning ommaviy chiqarilish materiallaridan yoki ular haqidagi matbuot sharhlaridan keladi; katalog faktlari esa bizning o'z jonli /v1/models imizdan. Ikkalasini ham tekshiring.
Benchmark ko'rsatkichlari, jumladan raqobatchi raqamlari ham, Tencent tomonidan xabar qilingan; yozilgan paytda mustaqil tekshiruv kutilayotgan edi. Narx ko'rsatkichlari bizning chop etilgan $0.50 / $2.00 stavkalarimizdan hisoblangan. Bu sahifadagi hech bir raqam Shannon o'tkazgan benchmark yoki baho emas.
10Ko'p beriladigan savollar
Senzurasiz Hy3 model API si nima?
Bu — Hy3-W8A16 model id si uchun Shannon AI Gateway endpointi: Tencent ning ochiq og'irlikli Hy3 poydevori o'z GPU klasterimizda 8-bitli og'irlik aniqligida, rad etish qatlamisiz va chiqishga filtr qo'llanmasdan xizmat qiladi. U 262,144 tokenli kontekst oynasi, har bir so'rovga 16,384 chiqish tokeni, vosita chaqirish, reasoning_effort bilan fikrlash hamda ham json_schema, ham response_format orqali to'liq tuzilmali chiqishni /v1/chat/completions, /v1/messages va /v1/responses da striming bilan taklif qiladi.
Hy3 JSON sxema va tuzilmali chiqishni qo'llab-quvvatlaydimi?
Ha. Hy3-W8A16 JSON-obyekt rejimi uchun response_format ni ham, qat'iy, tiplashtirilgan sxemalar uchun json_schema ni ham qo'llab-quvvatlaydi — qisman emas, to'liq tuzilmali chiqish yuzasi. Bu katalogdagi har bir model uchun to'g'ri emas: Laguna-S-2.1 ikkalasini ham qo'llab-quvvatlamaydi, inkling esa response_format ni qo'llab-quvvatlaydi, lekin json_schema ni yo'q. Agar quvuringiz tiplashtirilgan shartnomaga tayansa, Hy3 uni bajara oladigan modellardan biri.
W8A16 nimani anglatadi va u 4-bit yoki 3-bitdan yaxshiroqmi?
W8A16 8-bitli og'irliklar va 16-bitli aktivatsiyalarni bildiradi — biz xizmatga qo'yadigan eng yuqori sadoqatli daraja. W4A16-AUTOROUND-REAP (4-bitli og'irliklar, o'rganilgan yaxlitlash, ekspert kesish) va 3BIT-REAP (3-bitli og'irliklar plyus ekspert kesish) bilan taqqoslaganda u chiqarilgan og'irliklarni eng kam o'zgartiradi, shuning uchun xulq asl nazorat nuqtasiga eng yaqin qoladi. Agressiv darajalar mavjud, chunki aks holda eng katta poydevorlarni tezlikda xizmatga qo'yish amaliy bo'lmas edi.
Hy3 rasmlarni yoki tasvirni qo'llab-quvvatlaydimi?
Yo'q. Hy3-W8A16 faqat matnli. Unga rasm qismlarini jo'natish ishlamaydi. Xuddi shu 8-bitli darajada tasvir plyus tuzilmali chiqish kerak bo'lsa, MiMo-V2.5-W8A16 ni ishlating — u xuddi shu $0.50 / $2.00 narxida json_schema va response_format bilan birga rasm kirishini qo'llab-quvvatlaydi.
Hy3 API qancha turadi?
Million kirish tokeni uchun $0.50 va million chiqish tokeni uchun $2.00 — katalogimizdagi eng quyi narx, u MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 va MiniMax-M3 bilan bo'lishiladi. Har bir chaqiriqda 1,200 kirish va 300 chiqish tokenidan iborat vakillik qiluvchi ajratib olish quvuri chaqirig'iga taxminan $0.0012, ya'ni million chaqiriqqa taxminan $1,200 turadi.
Hy3 so'rovni rad etadimi?
Modelning oldida rad etish qatlami ham, chiqish filtri ham yo'q. Tuzilmali quvur uchun bu kontent xususiyati qanchalik bo'lsa, ishonchlilik xususiyati ham shunchalik: rad etish — sxema buzilishi, chunki model nega javob bermasligini tushuntiruvchi nasr tekshiruvchingiz kutgan obyekt sifatida ajratilmaydi. Rad etish yo'lini olib tashlash xavfsizlik, tibbiy, huquqiy va kattalar kontenti korpuslarida butun bir sinf ajratish nosozliklarini olib tashlaydi.
Hy3 ni o'z sxemangizda ishga tushiring
8-bitli sadoqat, qat'iy json_schema, 262K kontekst, rad etishlar yo'q — eng quyi narxda.
Model id Hy3-W8A16 · faqat matnli · 1M tokenga $0.50 kirish / $2.00 chiqish
Manbalar: Tencent Hunyuan model kartalari · Hy3 repozitoriysi · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 chiqarilishi haqida VentureBeat sharhi. Poydevor benchmarklari Tencent tomonidan xabar qilingan va mustaqil tekshiruvgacha muvaqqat. Shannon AI ni Shannon Lab LLC, Nyu-Meksiko, AQSh boshqaradi.