Sencenzura API de la modelo Hy3

Plej multaj disputoj pri "kiun modelon mi uzu" temas pri la plafono: kiu verkas la plej bonan kodon, solvas la plej malfacilan matematikon, gajnas la plej longan agentan rulon. Strukturitaj ĉenstabloj ne funkcias tiel. Tasko ekstraktanta kampojn el centmil dokumentoj tage ne bezonas modelon brilan unufoje — ĝi bezonas modelon, kiu estas ĝusta en la sama formo ĉiufoje, kaj kiu neniam redonas alineon tie, kie JSON-objekto apartenas. Jen la eco, por kiu Hy3-W8A16 ekzistas.

01Kio Hy3 estas, kaj de kie ĝi venas

Hy3 estas malfermpeza rezonada kaj agenta modelo de la teamo Hunyuan de Tencent, eldonita plene la 6-an de julio 2026 sub permesema permesilo, kun pezoj publikigitaj sur Hugging Face. Ĝi daŭrigas la devenon de la pli frua laboro Hunyuan-Large laŭ Miksaĵo de Spertuloj de Tencent. Arkitekture ĝi estas maldensa MoE: 295 miliardoj da parametroj entute, el kiuj proksimume 21 miliardoj aktiviĝas po ĵetono per enkursigo top-8 tra 192 spertuloj, sur 80-tavola transformilo kun atento laŭ grupigitaj demandoj, plus aparta tavolo de plurĵetona antaŭdiro kun 3.8 miliardoj da parametroj por spekulativa malkodado. La denaska kunteksto estas 256K — ĝuste la 262,144 ĵetonoj, kiujn ni elmetas, ne tranĉaĵo de io pli granda nek ŝnur-streĉita etendo de io pli malgranda.

Tiu proporcio de maldenseco estas la grava cifero por iu ajn, kiu pagas po ĵetono: Hy3 portas la scion de modelo kun 295 miliardoj dum ĝi faras proksimume la aritmetikon de modelo kun 21 miliardoj po antaŭenira paŝo. Tio ankaŭ estas la kialo, kial ni povas permesi al ni servi ĝin je 8 bitoj anstataŭ kunpremi ĝin pli forte — 8-bita konstruo de modelo tiel maldensa ankoraŭ enteniĝas kaj ankoraŭ ruliĝas rapide sur nia propra GPU-aro.

Pri kio Tencent raportas, ke ĝi bonas

La publikigitaj taksaj tabeloj de Tencent metas la fortojn de Hy3 rekte en agentan serĉadon, ilorkestradon kaj longkuntekstan retrovon anstataŭ en krudan kodadon. Iliaj raportitaj ciferoj:

Ni montras la malfortajn stangojn intence. Hy3 postrestas GLM-5.2 pri kodado en la propra komparo de Tencent — 78.0 kontraŭ 84.2 ĉe SWE-bench Verified, 28.0 kontraŭ 46.2 ĉe DeepSWE. Se via ŝarĝo estas aŭtonoma plurdosiera programara inĝenierado, legu unue la reston de la esplorindekso pri modeloj. Se ĝi estas legi tekston kaj eligi strukturon, la profilo estas proksima al ideala.

La cifero, kiu plej gravas por ĉenstabla laboro, estas fidindeca: Tencent raportas la halucinan kvoton de Hy3 je 5.4%, malsupren de 12.5% en la antaŭa generacio, kun komunsencaj eraroj falantaj de 25.4% al 12.7%. Ilia deklarita trejna principo — respondi, kiam ekzistas pruvo, kaj diri klare, kiam ne ekzistas — estas ĝuste la emo, kiun vi volas en ekstrakta modelo, kiu alie inventus kredindan valoron por kampo, kiun la fonto neniam menciis.

Ĉiuj ciferoj en ĉi tiu sekcio estas raportitaj de Tencent el iliaj propraj testruloj; sendependa triapartia kontrolo ankoraŭ mankis je la tempo de la verkado. Traktu ilin kiel direktajn, ne kiel definitivajn.

02Kion W8A16 signifas, kaj kial ĝi gravas por strukturita eligo

Ĉiu modelo sur la Enirejo portas kvantigan sufikson. Ĝi ne estas ornamo — ĝi diras al vi, kiom malproksime la servataj pezoj sidas de la kontrolpunkto, kiun la laboratorio eldonis.

Nivelo	Kion ĝi faras	Fideleco
3BIT-REAP	3-bitaj pezoj plus REAP, metodo de pritondado de spertuloj, kiu forlasas malofte enkursigitajn MoE-spertulojn antaŭ la kvantigo	Plej kunpremita
W4A16-AUTOROUND-REAP	4-bitaj pezoj / 16-bitaj aktivigoj per AutoRound — lernita rondigo, kiu reakiras precizecon super naiva rondigo al la plej proksima — plus REAP-pritondado	Meza
W8A16	8-bitaj pezoj / 16-bitaj aktivigoj. Neniu pritondado, neniu riparo per lernita rondigo — la pezoj simple portataj je duobla precizeco	Plej alta

Kie kvantiga forderivo efektive doloras

REAP kaj AutoRound reakiras plej multe de tio, kion naiva kunpremo perdas — sed "plej multe" laboras forte en tiu frazo, kaj la restaĵo ne surteriĝas egale. Malaltbita kvantigo degradas la vostojn: la malaltprobablajn, altspecifajn decidojn. En prozo tio estas preskaŭ nevidebla; alia adjektivo estas ankoraŭ bona frazo. En strukturita eligo ĝi estas la tuta ludo, ĉar skemo estas longa ĉeno de malaltprobablaj decidoj, el kiuj ĉiu devas esti ĝuste ĝusta:

• Sintakso je la nivelo de ĵetonoj. Ferma kuniga krampo, komo, citilo. Ĉiu estas unu ĵetono, kaj unu malĝusta ĵetono nuligas la tutan respondon.
• Disciplino pri listoj de valoroj. Via skemo diras, ke "status" estas unu el "open" | "closed" | "pending"; forderivinta modelo redonas "Open" aŭ "pending review" — semantike proksime, kaj valide kiel nek unu nek la alia.
• Disciplino pri tipoj. Kampo number revenas kiel "1,240", kampo boolean kiel "yes". Ambaŭ analiziĝas kiel ĉenoj kaj malsukcesas la skemon.
• Longvostaj laŭvortaĵoj. Maloftaj propraj nomoj, partonumeroj, kemiaj nomoj, ne-latinaj skriboj, precizaj datoj — ĝuste la malaltprobabla regiono, kiun malaltbitaj pezoj malklarigas.

Nenio el tio faras 4-bitajn aŭ 3-bitajn modelojn malbonaj; por konversacia laboro la fidelec-diferenco ofte ne valoras la prezan diferencon. Sed kiam la konsumanto de la eligo estas validigilo anstataŭ homo, la precizeco ĉe la vostoj konvertiĝas rekte en analizan kvoton — kaj la analiza kvoto en reprovan buĝeton kaj p99-latentecon. W8A16 estas la nivelo, kie vi ĉesas pagi tiun imposton.

03Strukturita eligo: json_schema kaj response_format

Hy3 subtenas ambaŭ duonojn de la surfaco de strukturita eligo — indas diri tion eksplicite, ĉar tio ne estas universala tra la katalogo:

Modelo	response_format	json_schema
Hy3 · W8A16	Jes	Jes
MiMo-V2.5-Pro · W8A16	Jes	Jes
inkling · W4A16-AUTOROUND-REAP	Jes	Ne
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Ne	Ne

La diferenco inter la du mekanismoj gravas pli ol oni supozas. response_format: {"type": "json_object"} petas validan JSON-on kaj nenion plu — la modelo elektas la formon, do du vokoj povas redoni {"name": ...} kaj {"full_name": ...} kaj ambaŭ estas ĝustaj. json_schema provizas la formon anticipe: nomitajn kampojn, tipojn, listojn de valoroj, listojn de devigaj kampoj, ingadon. Tio estas kontrakto, kontraŭ kiu vi povas verki kodon.

Minimuma voko sur la dialekto kongrua kun OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Praktikaj notoj

• Faru ĉiun kampon deviga kaj permesu null. Laŭvolaj kampoj invitas silentajn forfalojn; deviga nuligebla kampo devigas eksplicitan "ne ĉeestas", kio estas informo, laŭ kiu vi povas agi.
• Listoj de valoroj venkas liberajn ĉenojn. Kie ajn vi povas fermi la aron de valoroj, fermu ĝin — la plej levilforta ŝanĝo al la reala trapasa kvoto de skemo.
• Restu sub la eliga plafono de 16,384 ĵetonoj. Nelimigita tabelo tranĉiĝos meze de objekto. Limigu la longojn de tabeloj, aŭ dispecigu la enigon.
• Konservu la sisteman mesaĝon. La skemo limigas la formon; la peto ankoraŭ regas la semantikon — kio kalkuliĝas kiel "critical", kiu dato venkas, kiam du aperas, ĉu normigi unuojn.
• Validigu ĉiukaze. La subteno de skemo levas la trapasan kvoton; ĝi ne anstataŭas validigilon kaj vicon por malsukcesintaj mesaĝoj.

04Kial "sencenzura" estas fidindeca eco, ne nur enhava

Hy3 sur la Enirejo havas neniun rifuzan tavolon kaj neniun filtradon de la eligo. La kutima prezento temas pri enhavo: vi povas prilabori sekurecan esploradon, analizon de malica programaro, raportojn pri ekspluatoj, medicinajn kaj jurajn korpusojn, plenkreskan materialon, dokumentadon pri damaĝredukto aŭ transskribojn de malamikaj uzantoj sen ke la modelo decidu je via nomo, ke ĝi preferus ne.

Ekzistas dua, pli meĥanika kialo, kial ĝi gravas. Rifuzo estas malobservo de la skemo. Filtrita modelo, kiu rifuzas, ne redonas vian objekton kun flago "unavailable" — ĝi redonas prozon. "Mi ne povas helpi pri tiu peto." Tiu ĉeno ne estas objekto incident; ĝi malsukcesas ĉe via validigilo kaj surteriĝas en la vico por malsukcesintaj mesaĝoj apud veraj analizaj eraroj, kie vi nun devas apartigi politikajn rifuzojn disde veraj misformadoj.

Pli malbone, rifuzoj korelacias kun la enhavo anstataŭ distribuiĝi hazarde. Se 4% de via korpuso estas sekurecaj incidentaj raportoj kaj la modelo rifuzas plej multajn el ili, vi ne perdis 4% de la trafluo egale — vi perdis unu kategorion, kaj la mezurtabulo konstruita sur tiuj datumoj kviete subraportas ĝuste tion, por kies montrado ĝi ekzistas. Kategori-formaj truoj kostas pli ol unuforma bruo, ĉar nenio alarmas pri ili. Forigu la rifuzan vojon kaj kio restas — misformadoj, tranĉoj, ambigua teksto — estas nekorelaciita kun la temo, kaj tial mezurebla.

05Kunteksto, eliga plafono, kaj kiel buĝeti ilin

Ĉiu modelo sur la Enirejo dividas la samajn limojn:

La kunteksto estas komuna buĝeto: la peto plus la eligo devas kune enteniĝi en 262,144, do la praktika eniga plafono en unu voko estas proksimume 245,000 ĵetonoj, tre proksimume 180,000 vortoj. Por strukturita laboro la eliga limo de 16,384 ĵetonoj estas la pli malmola kaj tiu, kiu surprizas homojn — skemo eliganta unu objekton po registro trafas ĝin longe antaŭ ol la fenestro pleniĝas. Du ŝablonoj funkcias kontraŭ tio:

• Larĝa enigo, mallarĝa eligo. Puŝu tutan kontrakton, dosieron aŭ protokolan fenestron en la kuntekston kaj petu unu kompaktan objekton. Enigaj ĵetonoj kostas kvaronon de eligaj ĵetonoj, do la prezado rekompencas legi multe kaj verki malmulte.
• Pecigu laŭ registraj limoj, ne laŭ bajtaj nombroj. Dividu tie, kie la modelo povas vidi la kunkudron. Registro tranĉita meze de frazo produktas memfide malĝustan objekton anstataŭ evidentan fiaskon.

La raportita forto de Hy3 pri longkunteksta retrovo — 73.4 ĉe AA-LCR, kaj salto de 42.9% al 75.1% ĉe la longdialoga memoro MRCR — estas ĝuste la kapablo, de kiu la unua ŝablono dependas, kaj alia lerteco ol verki bone.

06Planka prezado, kaj la aritmetiko de vera ĉenstablo

Hy3 sidas je $0.50 por miliono da enigaj ĵetonoj kaj $2.00 por miliono da eligaj ĵetonoj — la planko de la katalogo, dividata kun MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 kaj MiniMax-M3. Tralaborite tra reprezentaj ŝarĝoj:

Ŝarĝo	Enige / voko	Elige / voko	Kosto / voko	Po 1M vokoj
Ekstraktado de kampoj	1,200	300	$0.0012	$1,200
Klasifikado de dokumentoj	3,000	120	$0.0018	$1,800
Resumo de longa dokumento en skemon	40,000	900	$0.0218	$21,800
Analizo je plena fenestro	240,000	2,000	$0.1240	$124,000

La cifero, kiu ŝanĝas decidojn, ne estas la fraptitola tarifo, sed la efektiva tarifo post la reprovoj. Se du modeloj kostas same kaj unu malsukcesas ĉe la validigo je 6% de la vokoj, kie la alia malsukcesas je 1.5%, la pli forderiva modelo rulas proksimume 4.5% pli da vokoj — travivebla. La damaĝo estas ĉe la vosto: reprovitaj vokoj daŭras duoble pli longe, do la p99-latenteco proksimume duobliĝas por videbla tranĉaĵo de la trafiko, kaj kio ajn malsukcesas dufoje, fariĝas mana laboro. Ĉe miliono da vokoj tage tio estas miloj da registroj, kiujn iu devas legi.

De tie la argumento por la 8-bita nivelo je la planka prezo: vi ne pagas kroman prezon por fideleco ĉi tie, do la reprova aritmetiko estas senpaga mono. Se 3-bita modelo estus pli malmultekosta, estus vera kompromiso pesenda — Hy3 kostas same kiel la plej malmultekosta afero en la katalogo.

07Tri API-dialektoj, unu modelo

Hy3 estas atingebla sur ĉiuj tri enirejaj dialektoj kun flusendado sur ĉiu. Sama modelo, samaj pezoj, samaj limoj — elektu tiun, kiu kongruas kun la SDK, kiun vi jam havas.

Finpunkto	Dialekto	Uzu kiam
/v1/chat/completions	OpenAI	Vi havas SDK-on de OpenAI, LangChain aŭ LlamaIndex. Direktu la bazan URL-on ĉi tien, ŝanĝu la modelidentigilon.
/v1/messages	Anthropic	Vi estas sur la SDK de Anthropic kaj volas enhavblokojn sen traduka tavolo.
/v1/responses	Responses	Vi volas la pli novan petoformon kun tipizita eligo kaj servilflanka stato.

Hy3 ankaŭ subtenas ilvokadon kaj rezonadon, inkluzive de reasoning_effort. Por ekstrakta laboro la utila movo kutime estas malaltigi la rezonadon: ĉe bone specifita skemo super pura teksto, pensaj ĵetonoj estas eligaj ĵetonoj, kiujn vi pagas, kaj latenteco, kiun vi atendas, kontraŭ marĝena gajno. Elspezu la penan buĝeton anstataŭe sur vere ambigua enigo.

La plena referenco pri petoj kaj respondoj, la listoj de parametroj, la flusenda semantiko kaj interaga ludejo troviĝas en la API-dokumentado.

08Elekti inter la tri modeloj W8A16

Tri modeloj sidas sur la plej altfidela nivelo, ĉiuj je la planka prezo. La elekto temas plejparte pri la modalo:

Modelo	Vido	json_schema	Prezo enige / elige	Elektu ĝin por
Hy3 · W8A16	Ne	Jes	$0.50 / $2.00	Nur-tekstaj strukturitaj ĉenstabloj, ilorkestrado, longkunteksta retrovo
MiMo-V2.5-Pro · W8A16	Ne	Jes	$0.50 / $2.00	Nur-teksta laboro, kie vi volas la Pro-agordon de la linio MiMo
MiMo-V2.5 · W8A16	Jes	Jes	$0.50 / $2.00	Ĉio kun bildoj — skanitaj dokumentoj, ekrankopioj, fotoj

Se iu ajn parto de via enigo estas bildo, la decido estas farita por vi: Hy3 estas nur-teksta — sendu skanitajn PDF-ojn, ekrankopiojn kaj fotojn al MiMo-V2.5. Kie la enigo estas vere teksto, la profilo de Hy3 pri agenta ilouzo, longkunteksta memoro kaj malalta raportita halucinado mapiĝas plej rekte al ĉenstabla laboro. Ĉar ĉiuj tri kostas same, rulu vian skemon kontraŭ du el ili sur kelkcent veraj registroj kaj komparu la analizajn kvotojn; tio decidas la aferon pli bone ol iu ajn tabelo, inkluzive de ĉi tiu.

09Kie Hy3 meritas sian lokon

• Altvoluma ekstraktado de kampoj. Kontraktoj, dosieroj, incidentaj raportoj, transskriboj, klinikaj notoj, juraj registroj — ĉie, kie tipizita objekto po dokumento estas la livero kaj la volumeno faras reprovojn multekostaj.
• Klasifikado kaj enkursigo je skalo. Fermitaj listoj de valoroj, kie la tuta valoro de la modelo estas neniam inventi deknaŭan kategorion.
• Sekurecaj kaj minac-inteligentecaj korpusoj. Raportoj pri malica programaro, malkaŝoj de ekspluatoj kaj phishing-specimenoj — la materialo, kiu puŝas filtritajn modelojn en rifuzon, kaj kie kategori-forma truo malhelpas la celon.
• Ilvokantaj agentoj, kiuj ne rajtas halti. 8-bita fideleco de la argumentoj signifas, ke la JSON transdonita al viaj funkcioj analiziĝas; misformita ilvoko estas haltinta agento, ne iom pli malbona respondo.
• Analizo de longaj dokumentoj en strukturon. Tuta dosiero enen, unu kompakta objekto elen.
• Enhavmoderigo kaj politika esplorado. Etikedi materialon, kiun filtrita modelo rifuzas legi, estas konstanta problemo pri fido kaj sekureco; nefiltrita modelo kun strikta skemo solvas ĝin rekte.

Kaj kie ĝi ne: ĉio kun bildoj (uzu MiMo-V2.5), kaj aŭtonoma plurdosiera programara inĝenierado, kie la propraj tabeloj de Tencent metas Hy3 malantaŭ GLM-5.2 ĉe SWE-bench Verified kaj bone malantaŭ ĉe DeepSWE.

La benchmark-ciferoj estas raportitaj de Tencent, inkluzive de la ciferoj pri konkurantoj; sendependa kontrolo mankis je la tempo de la verkado. La kostaj ciferoj estas kalkulitaj el niaj publikigitaj tarifoj de $0.50 / $2.00. Neniu cifero sur ĉi tiu paĝo estas benchmark rulita de Shannon aŭ takso.

10Oftaj demandoj

---

Fontoj: modelkartoj de Tencent Hunyuan · deponejo de Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · raportado de VentureBeat pri la eldono de Hy3. La benchmark-oj pri la fundamento estas raportitaj de Tencent kaj provizoraj ĝis sendependa kontrolo. Shannon AI estas funkciigata de Shannon Lab LLC, Nov-Meksiko, Usono.