Цензурасыз Hy3 модель API

«Қай модельді қолданайын» деген таластардың көбі шың туралы: қайсысы ең жақсы код жазады, ең қиын математиканы шешеді, ең ұзақ агент жүрісін ұтады. Құрылымдалған конвейерлер олай жұмыс істемейді. Тәулігіне жүз мың құжаттан өріс шығаратын тапсырмаға бір рет керемет болатын модель керек емес — оған әр жолы дәл сол пішінде дұрыс болатын әрі JSON нысаны тұруға тиіс жерде ешқашан абзац қайтармайтын модель керек. Hy3-W8A16 дәл сол қасиет үшін бар.

01Hy3 деген не және ол қайдан шыққан

Hy3 — Tencent-тің Hunyuan тобынан шыққан ашық салмақты пайымдау және агенттік модель, 2026 жылғы 6 шілдеде еркін лицензиямен толық шығарылды, салмақтары Hugging Face-те жарияланды. Ол Tencent-тің бұрынғы Hunyuan-Large Mixture-of-Experts жұмысының тегін жалғастырады. Архитектурасы бойынша бұл — сирек MoE: жалпы 295 миллиард параметр, оның шамамен 21 миллиарды токенге белсендіріледі — 192 сарапшы бойынша топ-8 бағдарлауымен, топталған сұранысты зейіні бар 80 қабатты трансформерде, оған қоса спекулятивті декодтауға арналған бөлек 3.8B көп токенді болжау қабаты. Нативті контексті — 256K, яғни біз ашатын дәл сол 262,144 токен: бұл үлкенірек нәрсенің қиындысы да, кішірек нәрсенің rope арқылы созылғаны да емес.

Токенге төлейтін кез келген адам үшін маңызды сан — осы сиректік арақатынасы: Hy3 295B модельдің білімін алып жүреді, ал бір алға өтуде шамамен 21B модельдің арифметикасын жасайды. Оны қаттырақ қыспай, 8 битте ұсынуға шамамыздың келуінің себебі де сол — мұндай сирек модельдің 8-биттік құрамасы өз GPU кластерімізге сыя береді әрі жылдам жүре береді.

Tencent оны неде күшті деп хабарлайды

Tencent жариялаған бағалау кестелері Hy3-тің күшті жақтарын шикі код жазуда емес, агенттік іздеуде, құралдарды оркестрлеуде және ұзын контексттен іздеуде көрсетеді. Олардың хабарлаған көрсеткіштері:

Әлсіз жолақтарды әдейі көрсетіп отырмыз. Tencent-тің өз салыстыруында Hy3 кодта GLM-5.2-ден қалады — SWE-bench Verified-те 84.2-ге қарсы 78.0, DeepSWE-де 46.2-ге қарсы 28.0. Егер жүктемеңіз автономды көп файлдық бағдарламалық инженерия болса, алдымен модель зерттеу индексінің қалғанын оқыңыз. Ал мәтін оқып, құрылым шығару болса, бейне мінсізге жақын.

Конвейер жұмысы үшін ең маңыздысы — сенімділік көрсеткіші: Tencent Hy3-тің галлюцинация үлесін 5.4% деп хабарлайды, алдыңғы буындағы 12.5%-дан төмен, ал жалпы ойға сай қателер 25.4%-дан 12.7%-ға түскен. Олардың мәлімделген оқыту қағидасы — дәлел болғанда жауап бер, болмағанда соны ашық айт — дереккөзде мүлдем аталмаған өріске сенімді көрінетін мән ойлап тапқысы келетін шығарып алу моделінде дәл сізге керек мінез.

Бұл бөлімдегі көрсеткіштердің бәрін Tencent өз сынақ жүрістерінен хабарлаған; жазылған сәтте тәуелсіз үшінші тарап тексеруі әлі күтіліп тұрған. Оларды түпкілікті емес, бағдарлық деп қараңыз.

02W8A16 нені білдіреді әрі оның құрылымдалған шығыс үшін маңызы неде

Шлюздегі әр модель кванттау жұрнағын алып жүреді. Бұл — әшекей емес: ол ұсынылатын салмақтардың зертхана шығарған бақылау нүктесінен қаншалықты алшақ тұрғанын айтады.

Деңгей	Ол не істейді	Дәлдігі
3BIT-REAP	3-биттік салмақтар плюс REAP — кванттауға дейін сирек бағдарланатын MoE сарапшыларын тастайтын кесу әдісі	Ең қатты қысылған
W4A16-AUTOROUND-REAP	AutoRound арқылы 4-биттік салмақтар / 16-биттік активациялар — ең жақынға қарапайым дөңгелектеуден кейінгі дәлдікті қайтаратын үйренілген дөңгелектеу — плюс REAP кесуі	Орта
W8A16	8-биттік салмақтар / 16-биттік активациялар. Кесу жоқ, үйренілген дөңгелектеумен жөндеу жоқ — салмақтар жай ғана екі есе жоғары дәлдікте алып жүріледі	Ең жоғары

Кванттау ауытқуы шын мәнінде қай жерге зиян тигізеді

REAP пен AutoRound қарапайым қысу жоғалтатынның көбін қайтарады — бірақ сол сөйлемдегі «көбін» деген сөз жұмыс істеп тұр, ал қалдық біркелкі түспейді. Биті төмен кванттау құйрықтарды нашарлатады: ықтималдығы төмен, нақтылығы жоғары шешімдерді. Прозада ол көрінбейді дерлік; басқа сын есім де әдемі сөйлем болып қала береді. Ал құрылымдалған шығыста мәселенің бәрі осында, өйткені схема — әрқайсысы дәл дұрыс болуға тиіс ықтималдығы төмен шешімдердің ұзын тізбегі:

• Токен деңгейіндегі синтаксис. Жабылатын жақша, үтір, тырнақша. Әрқайсысы — бір токен, ал бір қате токен бүкіл жауапты жарамсыз етеді.
• Тізім тәртібі. Схемаңызда "status" — "open" | "closed" | "pending" мәндерінің бірі; ал ауытқыған модель "Open" немесе "pending review" қайтарады — мағынасы жақын, ал жарамдысы екеуі де емес.
• Тип тәртібі. number өрісі "1,240" болып, boolean өрісі "yes" болып қайтады. Екеуі де жол ретінде талданып, схемадан өтпейді.
• Ұзын құйрықтағы литералдар. Сирек жалқы есімдер, бөлшек нөмірлері, химиялық атаулар, латын емес жазулар, дәл күндер — дәл биті төмен салмақтар бұлдырлататын ықтималдығы төмен аймақ.

Бұның бәрі 4-биттік немесе 3-биттік модельдерді нашар етпейді; әңгімелесу жұмысында дәлдік айырмасы көбіне баға айырмасына тұрмайды. Бірақ шығысты тұтынатын адам емес, тексеруші болғанда құйрықтағы дәлдік тікелей талдау үлесіне айналады — ал талдау үлесі қайталау бюджеті мен p99 кідірісіне айналады. W8A16 — сол салықты төлеуді тоқтататын деңгей.

03Құрылымдалған шығыс: json_schema және response_format

Hy3 құрылымдалған шығыс бетінің екі жартысын да қолдайды — мұны ашық айтқан жөн, өйткені бұл каталог бойынша жалпыға ортақ емес:

Модель	response_format	json_schema
Hy3 · W8A16	Иә	Иә
MiMo-V2.5-Pro · W8A16	Иә	Иә
inkling · W4A16-AUTOROUND-REAP	Иә	Жоқ
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Жоқ	Жоқ

Екі тетіктің арасындағы айырманың маңызы адамдар ойлағаннан үлкен. response_format: {"type": "json_object"} тек жарамды JSON сұрайды, одан артық емес — пішінді модель таңдайды, сондықтан екі шақыру {"name": ...} және {"full_name": ...} қайтарып, екеуі де дұрыс болуы мүмкін. Ал json_schema пішінді алдын ала береді: аталған өрістер, типтер, тізімдер, міндетті мәндер, кірістірулер. Бұл — кодыңызды соған қарсы жазуға болатын келісімшарт.

OpenAI үйлесімді диалектіндегі ең қарапайым шақыру:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Практикалық ескертпелер

• Әр өрісті міндетті етіп, null-ге рұқсат беріңіз. Міндетті емес өрістер үнсіз түсіп қалуға шақырады; ал міндетті әрі null бола алатын өріс «жоқ» дегенді ашық айтуға мәжбүрлейді, ал бұл — сіз әрекет ете алатын ақпарат.
• Тізімдер еркін жолдардан артық. Мәндер жиынын жабуға болатын жердің бәрінде жабыңыз — бұл схеманың нақты өмірдегі өту үлесіне ең күшті әсер ететін өзгеріс.
• 16,384 токендік шығыс шегінен аспаңыз. Шектелмеген массив нысанның ортасында қиылады. Массив ұзындығын шектеңіз немесе кірісті бөліңіз.
• Жүйелік хабарламаны сақтаңыз. Схема пішінді шектейді; ал семантиканы промпт билейді — не «критикалық» саналады, екі күн кездескенде қайсысы ұтады, өлшем бірліктерін қалыпқа келтіру керек пе.
• Бәрібір тексеріңіз. Схема қолдауы өту үлесін көтереді; ол тексерушіні де, өлі хат кезегін де алмастырмайды.

04«Цензурасыз» неге тек мазмұн емес, сенімділік қасиеті

Шлюздегі Hy3-те бас тарту қабаты да, шығысты сүзу де жоқ. Әдеттегі тұжырым мазмұн туралы: қауіпсіздік зерттеулерін, зиянды бағдарлама талдауын, эксплойт шолуларын, медициналық және құқықтық корпустарды, ересектерге арналған материалды, зиянды азайту құжаттамасын немесе агрессиялы пайдаланушы транскриптерін модель сіздің атыңыздан «жасағым келмейді» деп шешпей-ақ өңдей аласыз.

Оның маңызды болуының екінші, механикалық себебі бар. Бас тарту — схеманы бұзу. Бас тартатын сүзілген модель нысаныңызды "unavailable" жалаушасымен қайтармайды — ол проза қайтарады. «Бұл сұранысқа көмектесе алмаймын.» Бұл жол — incident нысаны емес; ол тексеруден өтпей, нағыз талдау қателерінің қасында өлі хат кезегіне түседі, ал сіз енді саясат бойынша бас тартуларды нағыз бұзылған пішіндерден бөлуге тиіссіз.

Одан жаманы, бас тартулар кездейсоқ таралмай, мазмұнмен өзара байланысады. Егер корпусыңыздың 4%-ы қауіпсіздік оқиғасы туралы есептер болса әрі модель солардың көбінен бас тартса, сіз өткізу қабілетінің 4%-ын біркелкі жоғалтқан жоқсыз — сіз бір санатты жоғалттыңыз, ал сол деректерге құрылған бақылау тақтасы өзі көрсету үшін бар нәрсені үнсіз кем көрсетеді. Санат пішінді тесіктер біркелкі шудан қымбатқа түседі, өйткені олар туралы ешнәрсе дабыл қақпайды. Бас тарту жолын алып тастасаңыз, қалғаны — пішін бұзылулары, қиылулар, күңгірт мәтін — тақырыппен байланыссыз, демек өлшенеді.

05Контекст, шығыс шегі және оларды қалай бюджеттеу керек

Шлюздегі әр модель дәл сол шектерді бөліседі:

Контекст — ортақ бюджет: промпт пен шығыс 262,144-тің ішіне бірге сыюға тиіс, сондықтан бір шақырудағы практикалық кіріс шегі шамамен 245,000 токен, өте шамамен 180,000 ағылшын сөзі. Құрылымдалған жұмыста қиынырақ шектеу әрі адамдарды жиі таң қалдыратыны — 16,384 токендік шығыс шегі: жазбаға бір нысан шығаратын схема терезе толғанша әлдеқайда бұрын соған тіреледі. Оған қарсы екі үлгі жұмыс істейді:

• Кең кіріс, тар шығыс. Тұтас келісімшартты, есепті немесе журнал терезесін контекстке итеріп, бір жинақы нысан сұраңыз. Кіріс токендері шығыс токендерінің төрттен бірі тұрады, сондықтан баға көп оқып, аз жазуды марапаттайды.
• Байт саны бойынша емес, жазба шекарасы бойынша бөліңіз. Модель тігісті көре алатын жерден бөліңіз. Сөйлемнің ортасынан қиылған жазба айқын ақаулық емес, сенімді түрде қате нысан береді.

Hy3-тің ұзын контексттен іздеу бойынша хабарланған күші — AA-LCR-де 73.4 әрі MRCR ұзын диалогты еске түсіруде 42.9%-дан 75.1%-ға секіру — дәл бірінші үлгі сүйенетін қабілет, әрі бұл — жақсы жазудан бөлек шеберлік.

06Еден бағасы және нақты конвейердің арифметикасы

Hy3 миллион кіріс токеніне $0.50 және миллион шығыс токеніне $2.00 бағасында тұр — каталог едені, оны MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 және MiniMax-M3 бөліседі. Өкілетті жүктемелер бойынша есептеп шығарғанда:

Жүктеме	Шақыруға кіріс	Шақыруға шығыс	Шақыруға құн	1M шақыруға
Өрістерді шығарып алу	1,200	300	$0.0012	$1,200
Құжаттарды сыныптау	3,000	120	$0.0018	$1,800
Ұзын құжатты схемаға түйіндеу	40,000	900	$0.0218	$21,800
Толық терезені талдау	240,000	2,000	$0.1240	$124,000

Шешімді өзгертетін сан — басты мөлшерлеме емес, қайталаулардан кейінгі тиімді мөлшерлеме. Егер екі модель бірдей тұрса әрі біреуі шақырулардың 6%-ында тексеруден өтпесе, ал екіншісі 1.5%-ында өтпесе, ауытқуы жоғары модель шамамен 4.5% көбірек шақыру жүргізеді — шыдауға болады. Ал зиян құйрықта: қайталанған шақырулар екі есе ұзақ жүреді, сондықтан трафиктің көзге көрінетін бөлігі үшін p99 кідірісі шамамен екі есе өседі, ал екі рет құлағанның бәрі қолмен істелетін жұмысқа айналады. Тәулігіне миллион шақыруда бұл — біреу оқып шығуға тиіс мыңдаған жазба.

Сондықтан еден бағасындағы 8-биттік деңгейдің дәлелі мынадай: сіз мұнда дәлдік үшін үстеме төлеп жатқан жоқсыз, сондықтан қайталау арифметикасы — тегін ақша. 3-биттік модель арзанырақ болса, өлшеуге тұрарлық нағыз айырбас болар еді — ал Hy3 каталогтағы ең арзан нәрсемен бірдей тұрады.

07Үш API диалекті, бір модель

Hy3-ке шлюздің үш диалектінде де жетуге болады әрі әрқайсысында ағынды беру бар. Бір модель, бір салмақтар, бір шектер — бұрыннан бар SDK-ңызға қайсысы сай болса, соны таңдаңыз.

Эндпоинт	Диалект	Қашан қолданылады
/v1/chat/completions	OpenAI	Сізде OpenAI SDK, LangChain немесе LlamaIndex бар. Базалық URL-ді осында бағыттап, модель идентификаторын өзгертіңіз.
/v1/messages	Anthropic	Сіз Anthropic SDK-дасыз әрі аударма қабатынсыз мазмұн блоктарын қалайсыз.
/v1/responses	Responses	Типтелген шығысы мен сервер жағындағы күйі бар жаңарақ сұраныс пішінін қалайсыз.

Hy3 сондай-ақ құралдарды шақыруды және пайымдауды, оның ішінде reasoning_effort-ты қолдайды. Шығарып алу жұмысында пайдалы қадам әдетте пайымдауды төмендету: таза мәтін үстіндегі нақты сипатталған схемада ойлау токендері — сіз төлейтін шығыс токендері әрі шамалы ұтыс үшін күтетін кідіріс. Күш бюджетін оның орнына шынымен күңгірт кіріске жұмсаңыз.

Сұраныс пен жауаптың толық анықтамасы, параметрлер тізімі, ағын семантикасы және интерактивті ойын алаңы API құжаттамасында.

08Үш W8A16 моделінің ішінен таңдау

Дәлдігі ең жоғары деңгейде үш модель тұр, үшеуі де еден бағасында. Таңдау негізінен модалдыққа тіреледі:

Модель	Көру	json_schema	Кіріс / шығыс бағасы	Оны неге таңдау керек
Hy3 · W8A16	Жоқ	Иә	$0.50 / $2.00	Тек мәтіндік құрылымдалған конвейерлер, құралдарды оркестрлеу, ұзын контексттен іздеу
MiMo-V2.5-Pro · W8A16	Жоқ	Иә	$0.50 / $2.00	MiMo жолының Pro баптауы керек тек мәтіндік жұмыс
MiMo-V2.5 · W8A16	Иә	Иә	$0.50 / $2.00	Суреттері бар кез келген нәрсе — сканерленген құжаттар, скриншоттар, фотолар

Кірісіңіздің кез келген бөлігі сурет болса, шешім өзінен-өзі айқын: Hy3 — тек мәтіндік — сканерленген PDF-терді, скриншоттар мен фотосуреттерді MiMo-V2.5-ке жіберіңіз. Ал кіріс шынымен мәтін болса, Hy3-тің агенттік құрал пайдалану, ұзын контексттен еске түсіру және хабарланған төмен галлюцинация бейнесі конвейер жұмысына ең тікелей сай келеді. Үшеуі бірдей тұратындықтан, схемаңызды бірнеше жүз нақты жазбада олардың екеуінде жүргізіп, талдау үлестерін салыстырыңыз; мұны кез келген кестеден, оның ішінде осындағыдан да, жақсырақ шешеді.

09Hy3 өз орнын қай жерде ақтайды

• Көлемді өріс шығарып алу. Келісімшарттар, есептер, оқиға хаттамалары, транскриптер, клиникалық жазбалар, сот құжаттары — құжатқа бір типтелген нысан беру нәтиже болатын әрі көлем қайталауларды қымбат ететін кез келген жер.
• Ауқымды сыныптау және бағдарлау. Жабық тізімді шығыстар, мұнда модельдің бүкіл құндылығы — он тоғызыншы санатты ешқашан ойлап таппауы.
• Қауіпсіздік және қатер барлауы корпустары. Зиянды бағдарлама шолулары, эксплойт мәлімдемелері және фишинг үлгілері — сүзілген модельдерді бас тартуға итеретін материал, ал онда санат пішінді тесік бүкіл мақсатты жоққа шығарады.
• Тоқтап қалмауға тиіс құрал шақыратын агенттер. 8-биттік аргумент дәлдігі функцияларыңызға берілетін JSON талданады дегенді білдіреді; бүлінген құрал шақыруы — сәл нашарлау жауап емес, тоқтап қалған агент.
• Ұзын құжаттарды құрылымға талдау. Тұтас есеп кіреді, бір жинақы нысан шығады.
• Мазмұнды модерациялау және саясат зерттеулері. Сүзілген модель оқудан бас тартатын материалды таңбалау — сенім мен қауіпсіздіктің үнемі тұрған мәселесі; қатаң схемасы бар сүзілмеген модель оны тікелей шешеді.

Ал қай жерде ақтамайды: суреттері бар кез келген нәрсе (MiMo-V2.5 қолданыңыз) және автономды көп файлдық бағдарламалық инженерия — Tencent-тің өз кестелері Hy3-ті SWE-bench Verified-те GLM-5.2-ден артта, ал DeepSWE-де әлдеқайда артта көрсетеді.

Бенчмарк көрсеткіштерін, оның ішінде бәсекелестердің сандарын да, Tencent хабарлаған; жазылған сәтте тәуелсіз тексеру күтіліп тұрған. Құн көрсеткіштері жарияланған $0.50 / $2.00 мөлшерлемелерімізден есептелген. Бұл беттегі бірде-бір сан Shannon жүргізген бенчмарк те, жорамал да емес.

10Жиі қойылатын сұрақтар

---

Дереккөздер: Tencent Hunyuan модель карталары · Hy3 репозиторийі · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · VentureBeat-тің Hy3 шығарылымы туралы жазбасы. Негіздің бенчмарктарын Tencent хабарлаған әрі олар тәуелсіз тексеруге дейін уақытша. Shannon AI-ды Shannon Lab LLC (Нью-Мексико, АҚШ) басқарады.