API Model Hy3 Tanpa Sensor

Sebagian besar perdebatan "model mana yang harus saya pakai" berkutat pada plafon: mana yang menulis kode terbaik, memecahkan matematika tersulit, memenangi jalannya agen terpanjang. Pipeline terstruktur tidak bekerja seperti itu. Pekerjaan yang mengekstraksi bidang dari seratus ribu dokumen per hari tidak butuh model yang cemerlang sekali — ia butuh model yang benar dalam bentuk yang sama setiap kali, dan tidak pernah mengembalikan paragraf di tempat objek JSON seharusnya berada. Untuk properti itulah Hy3-W8A16 ada di sini.

01Apa itu Hy3, dan dari mana asalnya

Hy3 adalah model penalaran dan agentik bobot terbuka dari tim Hunyuan milik Tencent, dirilis lengkap pada 6 Juli 2026 di bawah lisensi permisif, dengan bobot yang diterbitkan di Hugging Face. Ia melanjutkan silsilah karya Mixture-of-Experts Tencent sebelumnya, Hunyuan-Large. Secara arsitektur ia adalah MoE jarang: 295 miliar parameter total, yang sekitar 21 miliar aktif per token lewat perutean top-8 di antara 192 expert, pada transformer 80 lapis dengan grouped-query attention, ditambah lapisan multi-token-prediction 3,8B terpisah untuk penguraian spekulatif. Konteks asalnya 256K — persis 262.144 token yang kami paparkan, bukan pemotongan dari sesuatu yang lebih besar atau perpanjangan rope dari sesuatu yang lebih kecil.

Rasio kejarangan itu adalah angka penting bagi siapa pun yang membayar per token: Hy3 membawa pengetahuan model 295B sambil mengerjakan kira-kira aritmetika model 21B per forward pass. Itu juga sebabnya kami sanggup melayaninya pada 8 bit alih-alih memampatkannya lebih keras — build 8-bit dari model sejarang ini tetap muat dan tetap berjalan cepat di klaster GPU kami sendiri.

Apa yang menurut Tencent menjadi kekuatannya

Tabel evaluasi yang diterbitkan Tencent menempatkan kekuatan Hy3 tegas pada pencarian agentik, orkestrasi perkakas, dan pengambilan konteks panjang, bukan pada koding murni. Angka yang mereka laporkan:

Kami menampilkan batang yang lemah dengan sengaja. Hy3 tertinggal dari GLM-5.2 pada koding dalam perbandingan Tencent sendiri — 78,0 lawan 84,2 pada SWE-bench Verified, 28,0 lawan 46,2 pada DeepSWE. Kalau beban kerja Anda adalah rekayasa perangkat lunak otonom lintas banyak berkas, bacalah sisa indeks riset model lebih dulu. Kalau beban kerjanya membaca teks dan memancarkan struktur, profilnya nyaris ideal.

Angka yang paling berarti untuk pekerjaan pipeline adalah angka keandalan: Tencent melaporkan tingkat halusinasi Hy3 sebesar 5,4%, turun dari 12,5% pada generasi sebelumnya, dengan galat penalaran umum turun dari 25,4% ke 12,7%. Prinsip pelatihan yang mereka nyatakan — menjawab bila ada bukti, mengatakan terus terang bila tidak ada — persis watak yang Anda inginkan pada model ekstraksi yang jika tidak begitu akan mengarang nilai yang tampak masuk akal untuk bidang yang tidak pernah disebutkan sumbernya.

Semua angka di bagian ini dilaporkan Tencent dari uji mereka sendiri; verifikasi independen pihak ketiga masih tertunda saat tulisan ini dibuat. Perlakukan sebagai indikasi arah, bukan kesimpulan final.

02Apa arti W8A16, dan mengapa penting untuk keluaran terstruktur

Setiap model di gateway membawa akhiran kuantisasi. Itu bukan hiasan — ia memberi tahu seberapa jauh bobot yang dilayani dari checkpoint yang dirilis labnya.

Tier	Apa yang dilakukannya	Kesetiaan
3BIT-REAP	Bobot 3-bit plus REAP, metode pemangkasan yang membuang expert MoE yang jarang dirutekan sebelum dikuantisasi	Paling mampat
W4A16-AUTOROUND-REAP	Bobot 4-bit / aktivasi 16-bit lewat AutoRound — pembulatan terpelajar yang memulihkan akurasi dibanding pembulatan naif ke nilai terdekat — plus pemangkasan REAP	Menengah
W8A16	Bobot 8-bit / aktivasi 16-bit. Tanpa pemangkasan, tanpa perbaikan lewat pembulatan terpelajar — bobotnya sekadar dibawa pada presisi dua kali lipat	Tertinggi

Di mana penyimpangan kuantisasi benar-benar menyakitkan

REAP dan AutoRound memulihkan sebagian besar yang hilang akibat pemampatan naif — tetapi kata "sebagian besar" bekerja keras dalam kalimat itu, dan sisanya tidak jatuh merata. Kuantisasi bit rendah merusak ekor: keputusan berprobabilitas rendah dan berspesifisitas tinggi. Dalam prosa itu nyaris tak terlihat; kata sifat yang berbeda tetap menghasilkan kalimat yang baik. Dalam keluaran terstruktur, itulah seluruh permainannya, karena sebuah skema adalah rantai panjang keputusan berprobabilitas rendah yang masing-masing harus tepat:

• Sintaks tingkat token. Kurung kurawal penutup, koma, karakter kutip. Masing-masing satu token, dan satu token salah membatalkan seluruh respons.
• Disiplin enum. Skema Anda menyatakan "status" adalah salah satu dari "open" | "closed" | "pending"; model yang menyimpang mengembalikan "Open" atau "pending review" — dekat secara makna, dan tidak sah sebagai keduanya.
• Disiplin tipe. Bidang number kembali sebagai "1,240", sebuah boolean sebagai "yes". Keduanya terurai sebagai string dan gagal terhadap skema.
• Literal ekor panjang. Nama diri langka, nomor komponen, nama kimia, aksara non-Latin, tanggal presisi — persis wilayah berprobabilitas rendah yang dikaburkan bobot bit rendah.

Tidak satu pun dari ini membuat model 4-bit atau 3-bit buruk; untuk pekerjaan percakapan, selisih kesetiaannya sering tidak sepadan dengan selisih harganya. Tetapi ketika konsumen keluarannya adalah validator, bukan manusia, presisi di ekor berubah langsung menjadi tingkat penguraian berhasil — dan tingkat itu berubah menjadi anggaran percobaan ulang dan latensi p99. W8A16 adalah tier tempat Anda berhenti membayar pajak itu.

03Keluaran terstruktur: json_schema dan response_format

Hy3 mendukung kedua paruh permukaan keluaran terstruktur — layak dinyatakan terang-terangan, karena hal itu tidak berlaku universal di katalog:

Model	response_format	json_schema
Hy3 · W8A16	Ya	Ya
MiMo-V2.5-Pro · W8A16	Ya	Ya
inkling · W4A16-AUTOROUND-REAP	Ya	Tidak
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	Tidak	Tidak

Perbedaan antara kedua mekanisme itu lebih berarti daripada yang orang kira. response_format: {"type": "json_object"} meminta JSON yang sah dan tidak lebih — modelnya yang memilih bentuk, sehingga dua panggilan bisa mengembalikan {"name": ...} dan {"full_name": ...} dan keduanya benar. json_schema memasok bentuknya di muka: bidang bernama, tipe, enum, daftar wajib, penyarangan. Itu kontrak yang bisa Anda jadikan sandaran kode.

Panggilan minimal pada dialek yang kompatibel dengan OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

Catatan praktis

• Jadikan setiap bidang wajib dan izinkan null. Bidang opsional mengundang penghilangan diam-diam; bidang wajib yang boleh null memaksa pernyataan eksplisit "tidak ada", dan itu informasi yang bisa Anda tindaklanjuti.
• Enum mengalahkan string bebas. Di mana pun Anda bisa menutup himpunan nilai, tutuplah — perubahan berdaya ungkit tertinggi terhadap tingkat kelulusan skema di dunia nyata.
• Tetap di bawah plafon keluaran 16.384 token. Larik tanpa batas akan terpotong di tengah objek. Batasi panjang larik, atau pecah masukannya.
• Pertahankan pesan sistem. Skema membatasi bentuk; prompt tetap mengatur makna — apa yang dihitung sebagai "kritis", tanggal mana yang menang saat muncul dua, apakah satuan perlu dinormalkan.
• Tetap validasi. Dukungan skema menaikkan tingkat kelulusan; ia tidak menggantikan validator dan antrean dead-letter.

04Mengapa "tanpa sensor" adalah properti keandalan, bukan sekadar soal konten

Hy3 di gateway tidak punya lapisan penolakan dan tidak ada penyaringan keluaran. Pembingkaian yang biasa menyangkut konten: Anda bisa memproses riset keamanan, analisis malware, laporan eksploitasi, korpus medis dan hukum, materi dewasa, dokumentasi pengurangan dampak buruk atau transkrip pengguna bermusuhan tanpa model memutuskan atas nama Anda bahwa ia lebih baik tidak melakukannya.

Ada alasan kedua yang lebih mekanis mengapa ini penting. Penolakan adalah pelanggaran skema. Model tersaring yang menolak tidak mengembalikan objek Anda dengan penanda "unavailable" — ia mengembalikan prosa. "Saya tidak bisa membantu permintaan itu." String itu bukan objek incident; ia gagal terhadap validator Anda dan mendarat di antrean dead-letter bersebelahan dengan galat penguraian yang sungguhan, dan kini Anda harus memisahkan penolakan kebijakan dari kerusakan bentuk yang nyata.

Lebih buruk lagi, penolakan berkorelasi dengan konten alih-alih tersebar acak. Kalau 4% korpus Anda adalah laporan insiden keamanan dan modelnya menolak sebagian besar darinya, Anda tidak kehilangan 4% throughput secara merata — Anda kehilangan satu kategori, dan dasbor yang dibangun di atas data itu diam-diam melaporkan terlalu rendah persis hal yang seharusnya ia tampilkan. Lubang berbentuk kategori lebih mahal daripada derau seragam karena tidak ada yang memberi peringatan atasnya. Hapus jalur penolakan dan yang tersisa — bentuk rusak, pemotongan, teks ambigu — tidak berkorelasi dengan topik, sehingga bisa diukur.

05Konteks, plafon keluaran, dan cara menganggarkannya

Setiap model di gateway berbagi batas yang sama:

Konteks adalah anggaran bersama: prompt ditambah keluaran harus muat bersama-sama di dalam 262.144, jadi plafon masukan praktis dalam satu panggilan sekitar 245.000 token, sangat kasarnya 180.000 kata bahasa Inggris. Untuk pekerjaan terstruktur, batas keluaran 16.384 token adalah batas yang lebih keras dan yang mengejutkan orang — skema yang memancarkan satu objek per rekaman menyentuhnya jauh sebelum jendelanya penuh. Dua pola bekerja melawan itu:

• Masukan lebar, keluaran sempit. Dorong satu kontrak, dokumen pengajuan, atau jendela log utuh ke dalam konteks dan mintalah satu objek ringkas. Token masukan berbiaya seperempat token keluaran, jadi harganya memberi imbalan pada membaca banyak dan menulis sedikit.
• Pecah pada batas rekaman, bukan jumlah bita. Belah di tempat model bisa melihat sambungannya. Rekaman yang terpotong di tengah kalimat menghasilkan objek yang salah dengan percaya diri, bukan kegagalan yang kentara.

Kekuatan pengambilan konteks panjang Hy3 yang dilaporkan — 73,4 pada AA-LCR, dan lompatan dari 42,9% ke 75,1% pada pengingatan dialog panjang MRCR — persis kemampuan yang diandalkan pola pertama, dan merupakan keterampilan yang berbeda dari menulis dengan baik.

06Harga lantai, dan aritmetika sebuah pipeline nyata

Hy3 berada di $0.50 per juta token masukan dan $2.00 per juta token keluaran — harga lantai katalog, sama dengan MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 dan MiniMax-M3. Dihitung untuk beban yang representatif:

Beban kerja	Masukan / panggilan	Keluaran / panggilan	Biaya / panggilan	Per 1J panggilan
Ekstraksi bidang	1,200	300	$0.0012	$1,200
Klasifikasi dokumen	3,000	120	$0.0018	$1,800
Ringkas dokumen panjang ke skema	40,000	900	$0.0218	$21,800
Analisis satu jendela penuh	240,000	2,000	$0.1240	$124,000

Angka yang mengubah keputusan bukan tarif utamanya, melainkan tarif efektif setelah percobaan ulang. Kalau dua model berbiaya sama dan yang satu gagal validasi pada 6% panggilan sementara yang lain gagal pada 1,5%, model dengan penyimpangan tinggi menjalankan sekitar 4,5% panggilan lebih banyak — masih bisa ditanggung. Kerusakannya ada di ekor: panggilan yang diulang memakan waktu dua kali lipat, jadi latensi p99 kira-kira berlipat dua untuk irisan trafik yang kasatmata, dan apa pun yang gagal dua kali menjadi kerja manual. Pada sejuta panggilan per hari, itu ribuan rekaman yang harus dibaca seseorang.

Karena itulah tier 8-bit di harga lantai masuk akal: Anda tidak sedang membayar premi untuk kesetiaan di sini, jadi aritmetika percobaan ulang itu uang gratis. Kalau model 3-bit lebih murah, akan ada pertukaran nyata yang perlu ditimbang — Hy3 berbiaya sama dengan barang termurah di katalog.

07Tiga dialek API, satu model

Hy3 dapat dijangkau pada ketiga dialek gateway dengan streaming di masing-masing. Model sama, bobot sama, batas sama — pilih yang cocok dengan SDK yang sudah Anda punya.

Endpoint	Dialek	Pakai ketika
/v1/chat/completions	OpenAI	Anda punya SDK OpenAI, LangChain atau LlamaIndex. Arahkan base URL ke sini, ganti id modelnya.
/v1/messages	Anthropic	Anda memakai SDK Anthropic dan ingin blok konten tanpa lapisan penerjemah.
/v1/responses	Responses	Anda ingin bentuk permintaan yang lebih baru dengan keluaran bertipe dan state di sisi server.

Hy3 juga mendukung tool calling dan penalaran, termasuk reasoning_effort. Untuk pekerjaan ekstraksi, langkah yang berguna biasanya menurunkan penalaran: pada skema yang terspesifikasi baik di atas teks bersih, token berpikir adalah token keluaran yang Anda bayar dan latensi yang Anda tunggu, demi keuntungan marginal. Belanjakan anggaran upaya itu pada masukan yang benar-benar ambigu saja.

Rujukan lengkap permintaan dan respons, daftar parameter, semantik streaming, dan playground interaktif ada di dokumentasi API.

08Memilih di antara tiga model W8A16

Tiga model berada di tier paling setia, semuanya di harga lantai. Pilihannya sebagian besar soal modalitas:

Model	Visi	json_schema	Harga masuk / keluar	Pilih untuk
Hy3 · W8A16	Tidak	Ya	$0.50 / $2.00	Pipeline terstruktur teks saja, orkestrasi perkakas, pengambilan konteks panjang
MiMo-V2.5-Pro · W8A16	Tidak	Ya	$0.50 / $2.00	Pekerjaan teks saja ketika Anda menginginkan penyetelan Pro dari lini MiMo
MiMo-V2.5 · W8A16	Ya	Ya	$0.50 / $2.00	Apa pun yang memuat gambar — dokumen pindaian, tangkapan layar, foto

Kalau ada bagian masukan Anda yang berupa gambar, keputusannya sudah dibuatkan untuk Anda: Hy3 hanya teks — kirimkan PDF pindaian, tangkapan layar, dan foto ke MiMo-V2.5. Ketika masukannya memang teks, profil Hy3 berupa penggunaan perkakas agentik, pengingatan konteks panjang, dan halusinasi rendah yang dilaporkan paling langsung memetakan ke pekerjaan pipeline. Karena ketiganya berbiaya sama, jalankan skema Anda pada dua di antaranya atas beberapa ratus rekaman nyata dan bandingkan tingkat penguraian berhasilnya; itu menuntaskan persoalan lebih baik daripada tabel mana pun, termasuk yang ini.

09Di mana Hy3 membuktikan kelayakannya

• Ekstraksi bidang bervolume tinggi. Kontrak, dokumen pengajuan, laporan insiden, transkrip, catatan klinis, arsip pengadilan — di mana pun objek bertipe per dokumen adalah hasil yang diminta dan volumenya membuat percobaan ulang mahal.
• Klasifikasi dan perutean dalam skala besar. Keluaran enum tertutup, di mana seluruh nilai model terletak pada tidak pernah mengarang kategori kesembilan belas.
• Korpus keamanan dan intelijen ancaman. Laporan malware, pengungkapan eksploitasi, dan sampel phishing — materi yang menjatuhkan model tersaring ke dalam penolakan, dan di mana lubang berbentuk kategori menggagalkan seluruh tujuannya.
• Agen tool calling yang tidak boleh macet. Kesetiaan argumen 8-bit berarti JSON yang diserahkan ke fungsi Anda terurai; panggilan perkakas yang rusak berarti agen macet, bukan jawaban yang sedikit lebih buruk.
• Analisis dokumen panjang menjadi struktur. Satu dokumen pengajuan utuh masuk, satu objek ringkas keluar.
• Moderasi konten dan riset kebijakan. Melabeli materi yang menolak dibaca model tersaring adalah persoalan trust-and-safety yang terus ada; model tanpa filter dengan skema ketat menyelesaikannya secara langsung.

Dan di mana ia tidak cocok: apa pun yang memuat gambar (pakai MiMo-V2.5), dan rekayasa perangkat lunak otonom lintas banyak berkas, di mana tabel Tencent sendiri menempatkan Hy3 di belakang GLM-5.2 pada SWE-bench Verified dan jauh tertinggal pada DeepSWE.

Angka benchmark dilaporkan Tencent, termasuk angka pesaingnya; verifikasi independen masih tertunda saat tulisan ini dibuat. Angka biaya dihitung dari tarif $0.50 / $2.00 yang kami terbitkan. Tidak ada satu pun angka di halaman ini yang merupakan benchmark yang dijalankan Shannon atau sebuah perkiraan.

10Pertanyaan yang sering diajukan

---

Sumber: Kartu model Tencent Hunyuan · Repositori Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Liputan VentureBeat atas rilis Hy3. Benchmark fondasi dilaporkan Tencent dan bersifat sementara sambil menunggu verifikasi independen. Shannon AI dioperasikan oleh Shannon Lab LLC, New Mexico, AS.