API Model Hy3 Tanpa Tapisan

Kebanyakan hujah "model mana patut saya guna" adalah tentang siling: yang mana menulis kod terbaik, menyelesaikan matematik tersukar, memenangi larian ejen terpanjang. Saluran paip berstruktur tidak berfungsi begitu. Kerja mengekstrak medan daripada seratus ribu dokumen sehari tidak perlukan model yang cemerlang sekali — ia perlukan model yang betul dalam bentuk yang sama setiap kali, dan yang tidak pernah memulangkan perenggan di tempat objek JSON sepatutnya. Itulah sifat yang Hy3-W8A16 ada di sini untuknya.

01Apakah Hy3, dan dari mana ia datang

Hy3 ialah model penaakulan dan agentik pemberat terbuka daripada pasukan Hunyuan Tencent, dikeluarkan sepenuhnya pada 6 Julai 2026 di bawah lesen permisif, dengan pemberat diterbitkan di Hugging Face. Ia meneruskan keturunan kerja Campuran Pakar Hunyuan-Large Tencent yang terdahulu. Dari segi seni bina ia MoE jarang: 295 bilion jumlah parameter, yang mana lebih kurang 21 bilion mengaktif setiap token melalui penghalaan 8 teratas merentasi 192 pakar, pada transformer 80 lapisan dengan perhatian pertanyaan berkumpulan, berserta lapisan ramalan berbilang token 3.8B yang berasingan untuk penyahkodan spekulatif. Konteks aslinya 256K — tepat 262,144 token yang kami dedahkan, bukan pemangkasan sesuatu yang lebih besar atau lanjutan teregang-rope bagi sesuatu yang lebih kecil.

Nisbah kejarangan itu ialah angka penting bagi sesiapa yang membayar setiap token: Hy3 membawa pengetahuan model 295B sambil melakukan lebih kurang aritmetik model 21B setiap laluan hadapan. Itu juga sebab kami mampu menyajikannya pada 8 bit dan bukan memampatkannya lebih keras — binaan 8-bit bagi model sejarang ini masih muat dan masih berjalan pantas pada kluster GPU kami sendiri.

Apa yang Tencent laporkan sebagai kekuatannya

Jadual penilaian terbitan Tencent meletakkan kekuatan Hy3 tepat dalam carian agentik, orkestrasi alat, dan pengambilan konteks panjang dan bukan dalam pengekodan mentah. Angka yang mereka laporkan:

Kami menunjukkan bar yang lemah dengan sengaja. Hy3 ketinggalan di belakang GLM-5.2 pada pengekodan dalam perbandingan Tencent sendiri — 78.0 berbanding 84.2 pada SWE-bench Verified, 28.0 berbanding 46.2 pada DeepSWE. Jika beban kerja anda ialah kejuruteraan perisian berbilang fail yang autonomi, bacalah selebihnya indeks penyelidikan model dahulu. Jika ia membaca teks dan mengeluarkan struktur, profilnya hampir ideal.

Angka yang paling penting untuk kerja saluran paip ialah angka kebolehpercayaan: Tencent melaporkan kadar halusinasi Hy3 pada 5.4%, turun daripada 12.5% dalam generasi terdahulu, dengan ralat akal fikiran jatuh daripada 25.4% kepada 12.7%. Prinsip latihan yang mereka nyatakan — jawab apabila ada bukti, katakan terus terang apabila tiada — ialah tepat pendirian yang anda mahu dalam model pengekstrakan yang sebaliknya akan mereka-reka nilai yang munasabah untuk medan yang sumbernya tidak pernah sebut.

Semua angka dalam seksyen ini dilaporkan Tencent daripada larian ujian mereka sendiri; pengesahan pihak ketiga yang bebas masih belum ada ketika penulisan. Layanilah ia sebagai berarah, bukan muktamad.

02Apa maksud W8A16, dan mengapa ia penting untuk output berstruktur

Setiap model pada get laluan membawa akhiran kuantuman. Ia bukan hiasan — ia memberitahu anda sejauh mana pemberat yang disajikan duduk daripada pusat semak yang makmal keluarkan.

Tingkat	Apa yang ia lakukan	Kesetiaan
3BIT-REAP	Pemberat 3-bit berserta REAP, kaedah pemangkasan pakar yang menggugurkan pakar MoE yang jarang dihalakan sebelum mengkuantum	Paling dimampatkan
W4A16-AUTOROUND-REAP	Pemberat 4-bit / pengaktifan 16-bit melalui AutoRound — pembundaran terpelajar yang memulihkan ketepatan berbanding pembundaran-terdekat yang naif — berserta pemangkasan REAP	Pertengahan
W8A16	Pemberat 8-bit / pengaktifan 16-bit. Tiada pemangkasan, tiada pembaikan pembundaran terpelajar — pemberat itu sekadar dibawa pada dua kali ganda ketepatan	Tertinggi

Di mana hanyutan kuantuman sebenarnya merosakkan

REAP dan AutoRound memulihkan kebanyakan apa yang pemampatan naif hilangkan — tetapi "kebanyakan" itu memikul beban dalam ayat tersebut, dan bakinya tidak mendarat sekata. Kuantuman bit-rendah merosotkan ekor: keputusan berkebarangkalian rendah dan berkekhususan tinggi. Dalam prosa itu hampir tidak kelihatan; kata adjektif yang berbeza masih ayat yang elok. Dalam output berstruktur itulah keseluruhan permainannya, kerana skema ialah rantaian panjang keputusan berkebarangkalian rendah yang setiap satunya mesti tepat:

• Sintaks peringkat token. Kurungan penutup, koma, aksara petikan. Setiap satu ialah satu token, dan satu token yang salah membatalkan keseluruhan respons.
• Disiplin enum. Skema anda menyatakan "status" ialah salah satu daripada "open" | "closed" | "pending"; model yang hanyut memulangkan "Open" atau "pending review" — hampir dari segi semantik, dan sah sebagai kedua-duanya pun tidak.
• Disiplin jenis. Medan number kembali sebagai "1,240", boolean sebagai "yes". Kedua-duanya terhurai sebagai rentetan dan gagal skema.
• Literal ekor panjang. Kata nama khas yang jarang, nombor bahagian, nama kimia, tulisan bukan Latin, tarikh yang tepat — tepat kawasan berkebarangkalian rendah yang pemberat bit-rendah kaburkan.

Tiada satu pun daripada ini menjadikan model 4-bit atau 3-bit buruk; untuk kerja perbualan, beza kesetiaan itu selalunya tidak berbaloi dengan beza harganya. Tetapi apabila pengguna output itu ialah pengesah dan bukan manusia, ketepatan pada ekor bertukar terus menjadi kadar huraian — dan kadar huraian menjadi belanjawan cubaan semula dan latensi p99. W8A16 ialah tingkat tempat anda berhenti membayar cukai itu.

03Output berstruktur: json_schema dan response_format

Hy3 menyokong kedua-dua separuh permukaan output berstruktur — berbaloi dinyatakan dengan jelas, kerana itu bukan sejagat merentasi katalog:

Model	response_format	json_schema
Hy3 · W8A16	Ya	Ya
MiMo-V2.5-Pro · W8A16	Ya	Ya
inkling · W4A16-AUTOROUND-REAP	Ya	Tidak
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Tidak	Tidak

Beza antara dua mekanisme itu lebih penting daripada yang orang sangka. response_format: {"type": "json_object"} meminta JSON yang sah dan tidak lebih — model memilih bentuknya, jadi dua panggilan boleh memulangkan {"name": ...} dan {"full_name": ...} dan kedua-duanya betul. json_schema membekalkan bentuknya awal-awal: medan bernama, jenis, enum, senarai yang diwajibkan, sarangan. Itu kontrak yang anda boleh tulis kod terhadapnya.

Panggilan minimum pada dialek serasi OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Nota praktikal

• Jadikan setiap medan diwajibkan dan benarkan null. Medan pilihan menjemput kegugurannya secara senyap; medan diwajibkan yang boleh null memaksa "tidak hadir" yang jelas, iaitu maklumat yang anda boleh bertindak atasnya.
• Enum mengalahkan rentetan bebas. Di mana anda boleh menutup set nilai, tutupkannya — perubahan bertuas tertinggi kepada kadar lulus skema dalam dunia sebenar.
• Kekal di bawah siling output 16,384 token. Tatasusunan tanpa had akan terpangkas di tengah objek. Hadkan panjang tatasusunan, atau serpihkan inputnya.
• Kekalkan mesej sistem. Skema mengekang bentuk; gesaan masih menguasai semantik — apa yang dikira "kritikal", tarikh mana menang apabila dua muncul, sama ada hendak menormalkan unit.
• Sahkan juga. Sokongan skema menaikkan kadar lulus; ia tidak menggantikan pengesah dan barisan surat mati.

04Mengapa "tanpa tapisan" ialah sifat kebolehpercayaan, bukan sekadar sifat kandungan

Hy3 pada get laluan ada tiada lapisan penolakan dan tiada penapisan output. Bingkaian lazimnya tentang kandungan: anda boleh memproses penyelidikan keselamatan, analisis perisian hasad, laporan eksploit, korpus perubatan dan undang-undang, bahan dewasa, dokumentasi pengurangan mudarat atau transkrip pengguna bermusuhan tanpa model memutuskan bagi pihak anda bahawa ia lebih rela tidak.

Ada sebab kedua yang lebih mekanikal mengapa ia penting. Penolakan ialah pelanggaran skema. Model yang ditapis yang menolak tidak memulangkan objek anda dengan bendera "unavailable" — ia memulangkan prosa. "Saya tidak dapat membantu dengan permintaan itu." Rentetan itu bukan objek incident; ia gagal pengesah anda dan mendarat dalam barisan surat mati di sebelah ralat huraian yang tulen, di mana anda kini terpaksa mengasingkan penolakan dasar daripada kecacatan bentuk yang sebenar.

Lebih teruk lagi, penolakan berkorelasi dengan kandungan dan bukan bertaburan secara rawak. Jika 4% korpus anda ialah laporan insiden keselamatan dan model menolak kebanyakannya, anda bukan kehilangan 4% daya pemprosesan secara sekata — anda kehilangan satu kategori, dan papan pemuka yang dibina atas data itu senyap-senyap melaporkan kurang tepat perkara yang ia wujud untuk paparkan. Lubang berbentuk kategori berkos lebih daripada hingar seragam kerana tiada apa yang memberi amaran tentangnya. Buang laluan penolakan dan apa yang berbaki — kecacatan bentuk, pemangkasan, teks yang taksa — tidak berkorelasi dengan topik, dan oleh itu boleh diukur.

05Konteks, siling output, dan cara membelanjawankannya

Setiap model pada get laluan berkongsi had yang sama:

Konteks ialah belanjawan yang dikongsi: gesaan berserta output mesti muat dalam 262,144 bersama-sama, jadi siling input praktikal dalam satu panggilan ialah kira-kira 245,000 token, secara sangat kasar 180,000 patah perkataan Inggeris. Untuk kerja berstruktur, had output 16,384 token ialah had yang lebih ketat dan yang mengejutkan orang — skema yang mengeluarkan satu objek setiap rekod melanggarnya jauh sebelum tetingkap itu penuh. Dua corak berkesan terhadapnya:

• Input lebar, output sempit. Tolak keseluruhan kontrak, pemfailan atau tetingkap log ke dalam konteks dan minta satu objek yang padat. Token input berkos satu perempat token output, jadi harganya memberi ganjaran kepada membaca banyak dan menulis sedikit.
• Ketulkan pada sempadan rekod, bukan kiraan bait. Belahkan di tempat model boleh nampak sambungannya. Rekod yang dipotong di tengah ayat menghasilkan objek yang salah dengan yakin dan bukan kegagalan yang jelas.

Kekuatan pengambilan konteks panjang Hy3 yang dilaporkan — 73.4 pada AA-LCR, dan lonjakan daripada 42.9% kepada 75.1% pada ingatan semula dialog panjang MRCR — ialah tepat keupayaan yang corak pertama bergantung padanya, dan kemahiran yang berbeza daripada menulis dengan baik.

06Harga lantai, dan aritmetik saluran paip sebenar

Hy3 duduk pada $0.50 setiap juta token input dan $2.00 setiap juta token output — lantai katalog, dikongsi dengan MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 dan MiniMax-M3. Dikerjakan melalui beban yang mewakili:

Beban kerja	Input / panggilan	Output / panggilan	Kos / panggilan	Setiap 1J panggilan
Pengekstrakan medan	1,200	300	$0.0012	$1,200
Pengelasan dokumen	3,000	120	$0.0018	$1,800
Ringkaskan dokumen panjang kepada skema	40,000	900	$0.0218	$21,800
Analisis tetingkap penuh	240,000	2,000	$0.1240	$124,000

Angka yang mengubah keputusan bukan kadar utamanya tetapi kadar berkesan selepas cubaan semula. Jika dua model berkos sama dan satu gagal pengesahan pada 6% panggilan sementara yang lain gagal pada 1.5%, model yang lebih banyak hanyut menjalankan kira-kira 4.5% lebih panggilan — boleh ditanggung. Kerosakannya pada ekor: panggilan yang dicuba semula mengambil masa dua kali ganda, jadi latensi p99 lebih kurang berganda untuk keratan trafik yang kelihatan, dan apa jua yang gagal dua kali menjadi kerja manual. Pada sejuta panggilan sehari itu beribu rekod yang seseorang terpaksa baca.

Maka itulah kesnya untuk tingkat 8-bit pada harga lantai: anda tidak membayar premium untuk kesetiaan di sini, jadi aritmetik cubaan semula itu wang percuma. Jika model 3-bit lebih murah, ada pertukaran sebenar untuk ditimbang — Hy3 berkos sama seperti benda termurah dalam katalog.

07Tiga dialek API, satu model

Hy3 boleh dicapai pada ketiga-tiga dialek get laluan dengan penstriman pada setiap satu. Model sama, pemberat sama, had sama — pilih mana yang padan dengan SDK yang anda sudah ada.

Titik akhir	Dialek	Guna apabila
/v1/chat/completions	OpenAI	Anda ada SDK OpenAI, LangChain atau LlamaIndex. Halakan URL asas ke sini, tukar id modelnya.
/v1/messages	Anthropic	Anda pada SDK Anthropic dan mahukan blok kandungan tanpa lapisan terjemahan.
/v1/responses	Responses	Anda mahu bentuk permintaan yang lebih baharu dengan output bertaip dan keadaan sebelah pelayan.

Hy3 juga menyokong panggilan alat dan penaakulan, termasuk reasoning_effort. Untuk kerja pengekstrakan, langkah yang berguna biasanya menurunkan penaakulan: pada skema yang ditentukan dengan baik ke atas teks yang bersih, token pemikiran ialah token output yang anda bayar dan latensi yang anda tunggu, untuk keuntungan yang marginal. Belanjakan belanjawan usaha itu pada input yang benar-benar taksa.

Rujukan permintaan dan respons penuh, senarai parameter, semantik penstriman dan taman permainan interaktif ada dalam dokumentasi API.

08Memilih antara tiga model W8A16

Tiga model duduk pada tingkat kesetiaan tertinggi, semuanya pada harga lantai. Pilihannya kebanyakannya tentang modaliti:

Model	Visi	json_schema	Harga masuk / keluar	Pilihnya untuk
Hy3 · W8A16	Tidak	Ya	$0.50 / $2.00	Saluran paip berstruktur teks sahaja, orkestrasi alat, pengambilan konteks panjang
MiMo-V2.5-Pro · W8A16	Tidak	Ya	$0.50 / $2.00	Kerja teks sahaja yang anda mahukan penalaan Pro barisan MiMo
MiMo-V2.5 · W8A16	Ya	Ya	$0.50 / $2.00	Apa jua yang ada imej — dokumen yang diimbas, tangkap layar, gambar foto

Jika mana-mana bahagian input anda ialah imej, keputusan itu sudah dibuat untuk anda: Hy3 ialah teks sahaja — hantar PDF yang diimbas, tangkap layar dan gambar foto kepada MiMo-V2.5. Di mana inputnya benar-benar teks, profil Hy3 iaitu penggunaan alat agentik, ingatan semula konteks panjang dan halusinasi rendah yang dilaporkan memetakan paling terus kepada kerja saluran paip. Memandangkan ketiga-tiganya berkos sama, jalankan skema anda terhadap dua daripadanya pada beberapa ratus rekod sebenar dan bandingkan kadar huraiannya; itu menyelesaikannya lebih baik daripada mana-mana jadual, termasuk yang ini.

09Di mana Hy3 mendapat tempatnya

• Pengekstrakan medan bervolum tinggi. Kontrak, pemfailan, laporan insiden, transkrip, nota klinikal, rekod mahkamah — di mana jua objek bertaip setiap dokumen ialah penyampaiannya dan volum menjadikan cubaan semula itu mahal.
• Pengelasan dan penghalaan pada skala. Output enum tertutup, di mana keseluruhan nilai model ialah tidak pernah mencipta kategori kesembilan belas.
• Korpus keselamatan dan risikan ancaman. Laporan perisian hasad, pendedahan eksploit dan sampel pancingan data — bahan yang menyandung model yang ditapis menjadi penolakan, dan di mana lubang berbentuk kategori mengalahkan tujuannya.
• Ejen panggilan alat yang tidak boleh tersekat. Kesetiaan argumen 8-bit bermakna JSON yang diserahkan kepada fungsi anda terhurai; panggilan alat yang cacat ialah ejen yang tersekat, bukan jawapan yang sedikit lebih buruk.
• Analisis dokumen panjang menjadi struktur. Keseluruhan pemfailan masuk, satu objek padat keluar.
• Penyederhanaan kandungan dan penyelidikan dasar. Melabelkan bahan yang model yang ditapis enggan baca ialah masalah amanah dan keselamatan yang berterusan; model tanpa tapis dengan skema yang ketat menyelesaikannya secara langsung.

Dan di mana ia tidak: apa jua yang ada imej (gunakan MiMo-V2.5), dan kejuruteraan perisian berbilang fail yang autonomi, di mana jadual Tencent sendiri meletakkan Hy3 di belakang GLM-5.2 pada SWE-bench Verified dan jauh di belakang pada DeepSWE.

Angka penanda aras dilaporkan Tencent, termasuk angka pesaing; pengesahan bebas masih belum ada ketika penulisan. Angka kos dikira daripada kadar $0.50 / $2.00 yang kami terbitkan. Tiada angka pada halaman ini ialah penanda aras yang dijalankan Shannon atau anggaran.

10Soalan lazim

---

Sumber: Kad model Tencent Hunyuan · Repositori Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Liputan VentureBeat tentang keluaran Hy3. Penanda aras asas dilaporkan Tencent dan bersifat sementara sementara menunggu pengesahan bebas. Shannon AI dikendalikan oleh Shannon Lab LLC, New Mexico, USA.