API ໂມເດວ Hy3 ບໍ່ເຊັນເຊີ

ການໂຕ້ຖຽງ "ຄວນໃຊ້ໂມເດວໃດ" ສ່ວນຫຼາຍແມ່ນກ່ຽວກັບເພດານ: ອັນໃດຂຽນໂຄດໄດ້ດີທີ່ສຸດ, ແກ້ຄະນິດສາດຍາກທີ່ສຸດ, ຊະນະການແລ່ນຕົວແທນຍາວທີ່ສຸດ. Pipeline ແບບມີໂຄງສ້າງບໍ່ເຮັດວຽກແບບນັ້ນ. ວຽກທີ່ດຶງຊ່ອງຂໍ້ມູນຈາກເອກະສານແສນສະບັບຕໍ່ມື້ບໍ່ຕ້ອງການໂມເດວທີ່ຈົບໆຄັ້ງດຽວ — ມັນຕ້ອງການໂມເດວທີ່ຖືກຕ້ອງໃນຮູບຮ່າງດຽວກັນທຸກຄັ້ງ, ແລະ ບໍ່ເຄີຍສົ່ງຄືນຫຍໍ້ໜ້າໃນບ່ອນທີ່ຄວນເປັນວັດຖຸ JSON. ນັ້ນຄືຄຸນສົມບັດທີ່ Hy3-W8A16 ມີໄວ້ສຳລັບ.

01Hy3 ຄືຫຍັງ, ແລະ ມາຈາກໃສ

Hy3 ຄືໂມເດວການໃຫ້ເຫດຜົນ ແລະ ຕົວແທນນ້ຳໜັກເປີດຈາກ ທີມ Hunyuan ຂອງ Tencent, ອອກເຕັມຮູບແບບໃນວັນທີ 6 ກໍລະກົດ 2026 ພາຍໃຕ້ໃບອະນຸຍາດແບບຍອມຍູ້, ດ້ວຍນ້ຳໜັກເຜີຍແຜ່ເທິງ Hugging Face. ມັນສືບຕໍ່ຕະກູນວຽກ Mixture-of-Experts Hunyuan-Large ຮຸ້ນກ່ອນຂອງ Tencent. ດ້ານໂຄງສ້າງມັນຄື MoE ແບບ sparse: ພາຣາມິເຕີລວມ 295 ຕື້, ໃນນັ້ນປະມານ 21 ຕື້ເປີດໃຊ້ຕໍ່ token ຜ່ານການຈັດເສັ້ນທາງ top-8 ໃນ 192 ຜູ້ຊ່ຽວຊານ, ເທິງໂຄງສ້າງ transformer 80 ຊັ້ນດ້ວຍ grouped-query attention, ບວກກັບຊັ້ນ multi-token-prediction 3.8B ແຍກຕ່າງຫາກສຳລັບ speculative decoding. Context ໂດຍທຳມະຊາດຄື 256K — ຄື 262,144 token ທີ່ພວກເຮົາເປີດເຜີຍພໍດີ, ບໍ່ແມ່ນການຕັດອອກຈາກອັນທີ່ໃຫຍ່ກວ່າ ຫຼືການຂະຫຍາຍແບບ rope-stretch ຈາກອັນທີ່ນ້ອຍກວ່າ.

ອັດຕາສ່ວນ sparsity ນັ້ນຄືຕົວເລກສຳຄັນສຳລັບໃຜກໍຕາມທີ່ຈ່າຍຕໍ່ token: Hy3 ຖືຄວາມຮູ້ຂອງໂມເດວ 295B ໃນຂະນະທີ່ເຮັດການຄິດໄລ່ປະມານຂອງໂມເດວ 21B ຕໍ່ການແລ່ນໜ້າ. ນັ້ນຍັງເປັນເຫດຜົນທີ່ພວກເຮົາສາມາດໃຫ້ບໍລິການມັນທີ່ 8 bit ແທນທີ່ຈະບີບອັດໜັກກວ່າ — ຮູບແບບ 8-bit ຂອງໂມເດວ sparse ຂະໜາດນີ້ຍັງພໍດີ ແລະ ຍັງແລ່ນໄວເທິງຄລັດສເຕີ GPU ຂອງພວກເຮົາເອງ.

ສິ່ງທີ່ Tencent ລາຍງານວ່າມັນເກັ່ງ

ຕາຕະລາງການປະເມີນທີ່ Tencent ເຜີຍແຜ່ວາງຈຸດແຂງຂອງ Hy3 ໄວ້ຢູ່ການຄົ້ນຫາແບບຕົວແທນ, ການປະສານງານເຄື່ອງມື, ແລະ ການດຶງຂໍ້ມູນ context ຍາວ ແທນທີ່ຈະເປັນການຂຽນໂຄດແບບດິບ. ຕົວເລກທີ່ພວກເຂົາລາຍງານ:

ພວກເຮົາສະແດງແຖບອ່ອນໂດຍຕັ້ງໃຈ. Hy3 ຕາມຫຼັງ GLM-5.2 ດ້ານການຂຽນໂຄດ ໃນການປຽບທຽບຂອງ Tencent ເອງ — 78.0 ທຽບກັບ 84.2 ໃນ SWE-bench Verified, 28.0 ທຽບກັບ 46.2 ໃນ DeepSWE. ຖ້າວຽກຂອງທ່ານຄືການພັດທະນາຊອບແວຫຼາຍໄຟລ໌ແບບອັດຕະໂນມັດ, ອ່ານ ດັດຊະນີການຄົ້ນຄວ້າໂມເດວທີ່ເຫຼືອ ກ່ອນ. ຖ້າມັນຄືການອ່ານຂໍ້ຄວາມ ແລະ ຜະລິດໂຄງສ້າງ, ໂປຣໄຟລ໌ນີ້ໃກ້ກັບອຸດົມະຄະຕິ.

ຕົວເລກທີ່ສຳຄັນທີ່ສຸດສຳລັບວຽກ pipeline ຄືຕົວເລກຄວາມໜ້າເຊື່ອຖື: Tencent ລາຍງານອັດຕາ hallucination ຂອງ Hy3 ຢູ່ 5.4%, ຫຼຸດລົງຈາກ 12.5% ໃນລຸ້ນກ່ອນ, ດ້ວຍຂໍ້ຜິດພາດ commonsense ຫຼຸດຈາກ 25.4% ເປັນ 12.7%. ຫຼັກການຝຶກທີ່ພວກເຂົາລະບຸ — ຕອບເມື່ອມີຫຼັກຖານ, ບອກຢ່າງຊັດເຈນເມື່ອບໍ່ມີ — ຄືອຸປະນິໄສທີ່ທ່ານຕ້ອງການໃນໂມເດວດຶງຂໍ້ມູນທີ່ບໍ່ດັ່ງນັ້ນຈະປະດິດຄ່າທີ່ດູໜ້າເຊື່ອຖືສຳລັບຊ່ອງທີ່ແຫຼ່ງຂໍ້ມູນບໍ່ເຄີຍກ່າວເຖິງ.

ຕົວເລກທັງໝົດໃນສ່ວນນີ້ຄື Tencent ລາຍງານຈາກການແລ່ນທົດສອບຂອງພວກເຂົາເອງ; ການກວດຢືນຢັນຈາກພາຍນອກແບບເອກະລາດຍັງລໍຖ້າຢູ່ໃນເວລາທີ່ຂຽນນີ້. ຖືວ່າພວກມັນເປັນຕົວຊີ້ທິດທາງ ບໍ່ແມ່ນຂໍ້ສະຫຼຸບສຸດທ້າຍ.

02W8A16 ໝາຍຄວາມວ່າຫຍັງ, ແລະ ເປັນຫຍັງມັນສຳຄັນສຳລັບຜົນຜະລິດແບບມີໂຄງສ້າງ

ທຸກໂມເດວເທິງເກດເວय์ຖືຄຳຕໍ່ທ້າຍ quantization. ມັນບໍ່ແມ່ນການຕົກແຕ່ງ — ມັນບອກທ່ານວ່ານ້ຳໜັກທີ່ໃຫ້ບໍລິການຢູ່ຫ່າງຈາກ checkpoint ທີ່ຫ້ອງທົດລອງເຜີຍແຜ່ປານໃດ.

ລະດັບ	ມັນເຮັດຫຍັງ	ຄວາມແມ່ນຢຳ
3BIT-REAP	ນ້ຳໜັກ 3-bit ບວກກັບ REAP, ວິທີການຕັດຜູ້ຊ່ຽວຊານທີ່ລຶບຜູ້ຊ່ຽວຊານ MoE ທີ່ຖືກຈັດເສັ້ນທາງໜ້ອຍກ່ອນ quantize	ບີບອັດຫຼາຍທີ່ສຸດ
W4A16-AUTOROUND-REAP	ນ້ຳໜັກ 4-bit / ການເປີດໃຊ້ 16-bit ຜ່ານ AutoRound — ການປັດເສດທີ່ຮຽນຮູ້ໄດ້ທີ່ຟື້ນຄືນຄວາມແມ່ນຢຳເໜືອການປັດເສດແບບໃກ້ທີ່ສຸດທຳມະດາ — ບວກກັບການຕັດ REAP	ລະດັບກາງ
W8A16	ນ້ຳໜັກ 8-bit / ການເປີດໃຊ້ 16-bit. ບໍ່ມີການຕັດ, ບໍ່ມີການແກ້ໄຂແບບປັດເສດທີ່ຮຽນຮູ້ໄດ້ — ນ້ຳໜັກຖືກຖືພຽງແຕ່ໃນຄວາມແມ່ນຢຳສອງເທົ່າ	ສູງສຸດ

ບ່ອນທີ່ການເລື່ອນໄຫຼຂອງ quantization ເຮັດຮ້າຍແທ້ໆ

REAP ແລະ AutoRound ຟື້ນຄືນສ່ວນຫຼາຍທີ່ການບີບອັດແບບທຳມະດາເສຍໄປ — ແຕ່ "ສ່ວນຫຼາຍ" ຄືຄຳທີ່ມີນ້ຳໜັກໃນປະໂຫຍກນັ້ນ, ແລະ ສ່ວນທີ່ເຫຼືອບໍ່ຕົກລົງເທົ່າກັນ. Quantization bit ຕ່ຳເຮັດໃຫ້ຫາງເສື່ອມ: ການຕັດສິນໃຈຄວາມນ່າຈະເປັນຕ່ຳ, ຄວາມສະເພາະສູງ. ໃນ prose ນັ້ນເກືອບເບິ່ງບໍ່ເຫັນ; ຄຳຄຸນນາມທີ່ຕ່າງອອກໄປຍັງເປັນປະໂຫຍກທີ່ດີ. ໃນຜົນຜະລິດແບບມີໂຄງສ້າງ ນັ້ນຄືເກມທັງໝົດ, ຍ້ອນວ່າ schema ຄືລະບົບການຕັດສິນໃຈຄວາມນ່າຈະເປັນຕ່ຳຍາວທີ່ແຕ່ລະອັນຕ້ອງຖືກຕ້ອງພໍດີ:

• syntax ລະດັບ token. ວົງເລັບປິດ, ຈຸດຈໍ້າ, ຕົວອັກສອນວົງຢືມ. ແຕ່ລະອັນຄືໜຶ່ງ token, ແລະ token ຜິດໜຶ່ງອັນເຮັດໃຫ້ຄຳຕອບທັງໝົດບໍ່ຖືກຕ້ອງ.
• ວິໄນ enum. Schema ຂອງທ່ານບອກວ່າ "status" ຄືໜຶ່ງໃນ "open" | "closed" | "pending"; ໂມເດວທີ່ເລື່ອນໄຫຼສົ່ງຄືນ "Open" ຫຼື "pending review" — ໃກ້ຄຽງດ້ານຄວາມໝາຍ, ແຕ່ບໍ່ຖືກຕ້ອງທັງສອງ.
• ວິໄນປະເພດ. ຊ່ອງ number ຄືນມາເປັນ "1,240", boolean ເປັນ "yes". ທັງສອງ parse ເປັນ string ແລະ ບໍ່ຜ່ານ schema.
• ຄຳຫາຍາກ. ຊື່ສະເພາະທີ່ຫາຍາກ, ເລກຊິ້ນສ່ວນ, ຊື່ເຄມີ, ຕົວອັກສອນທີ່ບໍ່ແມ່ນ Latin, ວັນທີແທ້ຈິງ — ຄືພື້ນທີ່ຄວາມນ່າຈະເປັນຕ່ຳທີ່ນ້ຳໜັກ bit ຕ່ຳເຮັດໃຫ້ບໍ່ຄົມ.

ບໍ່ມີສິ່ງໃດໃນນີ້ເຮັດໃຫ້ໂມເດວ 4-bit ຫຼື 3-bit ບໍ່ດີ; ສຳລັບວຽກສົນທະນາ ຄວາມແຕກຕ່າງດ້ານຄວາມແມ່ນຢຳມັກບໍ່ຄຸ້ມກັບຄວາມແຕກຕ່າງດ້ານລາຄາ. ແຕ່ເມື່ອຜູ້ບໍລິໂພກຜົນຜະລິດຄື validator ບໍ່ແມ່ນມະນຸດ, ຄວາມແມ່ນຢຳຢູ່ຫາງແປງໂດຍກົງເປັນອັດຕາ parse — ແລະ ອັດຕາ parse ແປງເປັນງົບການລອງໃໝ່ ແລະ latency p99. W8A16 ຄືລະດັບທີ່ທ່ານຢຸດຈ່າຍພາສີນັ້ນ.

03ຜົນຜະລິດແບບມີໂຄງສ້າງ: json_schema ແລະ response_format

Hy3 ຮອງຮັບທັງສອງເຄິ່ງຂອງໜ້າໂຕຜົນຜະລິດແບບມີໂຄງສ້າງ — ຄຸ້ມຄ່າທີ່ຈະລະບຸຢ່າງຊັດເຈນ, ຍ້ອນວ່ານັ້ນບໍ່ແມ່ນສາກົນທົ່ວແຄຕາລັອກ:

ໂມເດວ	response_format	json_schema
Hy3 · W8A16	ມີ	ມີ
MiMo-V2.5-Pro · W8A16	ມີ	ມີ
inkling · W4A16-AUTOROUND-REAP	ມີ	ບໍ່ມີ
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	ບໍ່ມີ	ບໍ່ມີ

ຄວາມແຕກຕ່າງລະຫວ່າງກົນໄກທັງສອງສຳຄັນກວ່າທີ່ຄົນຄິດ. response_format: {"type": "json_object"} ຮ້ອງຂໍ JSON ທີ່ຖືກຕ້ອງ ແລະ ບໍ່ມີຫຍັງອີກ — ໂມເດວເລືອກຮູບຮ່າງເອງ, ດັ່ງນັ້ນສອງການເອີ້ນອາດສົ່ງຄືນ {"name": ...} ແລະ {"full_name": ...} ແລະ ທັງສອງຖືກຕ້ອງ. json_schema ສະໜອງຮູບຮ່າງລ່ວງໜ້າ: ຊ່ອງທີ່ມີຊື່, ປະເພດ, enum, ລາຍການທີ່ຕ້ອງມີ, ການຊ້ອນກັນ. ນັ້ນຄືສັນຍາທີ່ທ່ານສາມາດຂຽນໂຄດຕໍ່ໄດ້.

ການເອີ້ນຂັ້ນຕ່ຳສຸດເທິງພາສາທີ່ເຂົ້າກັນໄດ້ກັບ OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

ບັນທຶກພາກປະຕິບັດ

• ເຮັດໃຫ້ທຸກຊ່ອງຈຳເປັນ ແລະ ອະນຸຍາດ null. ຊ່ອງທາງເລືອກເຊື້ອເຊີນການຫຼົ່ນລົງແບບງຽບໆ; ຊ່ອງທີ່ຈຳເປັນ nullable ບັງຄັບໃຫ້ມີ "ບໍ່ມີ" ຢ່າງຊັດເຈນ, ເຊິ່ງຄືຂໍ້ມູນທີ່ທ່ານປະຕິບັດການໄດ້.
• Enum ດີກວ່າ string ອິດສະຫຼະ. ບ່ອນໃດທີ່ທ່ານປິດຊຸດຄ່າໄດ້, ໃຫ້ປິດ — ການປ່ຽນແປງທີ່ມີອິດທິພົນສູງສຸດຕໍ່ອັດຕາຜ່ານແທ້ຈິງຂອງ schema.
• ຢູ່ພາຍໃຕ້ເພດານຜົນຜະລິດ 16,384 token. ອາເລທີ່ບໍ່ຈຳກັດຈະຕັດກາງວັດຖຸ. ຈຳກັດຄວາມຍາວອາເລ, ຫຼືແບ່ງ input ອອກ.
• ຮັກສາຂໍ້ຄວາມ system. Schema ຈຳກັດຮູບຮ່າງ; ພຣອມຍັງຄວບຄຸມຄວາມໝາຍ — ຫຍັງນັບເປັນ "critical," ວັນທີໃດຊະນະເມື່ອສອງອັນປາກົດ, ຄວນ normalize ໜ່ວຍວັດແທກຫຼືບໍ່.
• ກວດຢືນຢັນຢູ່ຄືເກົ່າ. ການຮອງຮັບ schema ຍົກອັດຕາຜ່ານຂຶ້ນ; ມັນບໍ່ທົດແທນ validator ແລະ ຄິວ dead-letter.

04ເປັນຫຍັງ "ບໍ່ເຊັນເຊີ" ຈຶ່ງເປັນຄຸນສົມບັດຄວາມໜ້າເຊື່ອຖື ບໍ່ແມ່ນພຽງແຕ່ຄຸນສົມບັດເນື້ອຫາ

Hy3 ເທິງເກດເວय์ ບໍ່ມີຊັ້ນປະຕິເສດ ແລະ ບໍ່ມີການກັ່ນຕອງຜົນຜະລິດ. ການອະທິບາຍປົກກະຕິແມ່ນກ່ຽວກັບເນື້ອຫາ: ທ່ານສາມາດປະມວນຜົນການຄົ້ນຄວ້າຄວາມປອດໄພ, ການວິເຄາະ malware, ບົດລາຍງານ exploit, ຂໍ້ມູນການແພດ ແລະ ກົດໝາຍ, ເນື້ອຫາຜູ້ໃຫຍ່, ເອກະສານການຫຼຸດຜ່ອນອັນຕະລາຍ ຫຼືບົດສົນທະນາຜູ້ໃຊ້ທີ່ເປັນປໍລະປັກ ໂດຍບໍ່ໃຫ້ໂມເດວຕັດສິນໃຈແທນທ່ານວ່າມັນຢາກປະຕິເສດ.

ມີເຫດຜົນທີສອງທີ່ເປັນກົນໄກຫຼາຍກວ່າວ່າເປັນຫຍັງມັນສຳຄັນ. ການປະຕິເສດຄືການລະເມີດ schema. ໂມເດວທີ່ຖືກກັ່ນຕອງທີ່ປະຕິເສດບໍ່ໄດ້ສົ່ງຄືນວັດຖຸຂອງທ່ານພ້ອມທຸງ "unavailable" — ມັນສົ່ງຄືນ prose. "ຂ້ອຍບໍ່ສາມາດຊ່ວຍກັບຄຳຂໍນັ້ນ." String ນັ້ນບໍ່ແມ່ນວັດຖຸ incident; ມັນບໍ່ຜ່ານ validator ຂອງທ່ານ ແລະ ຕົກລົງໃນຄິວ dead-letter ຄຽງຄູ່ກັບຄວາມຜິດພາດ parse ແທ້ໆ, ບ່ອນທີ່ທ່ານຕ້ອງແຍກການປະຕິເສດນະໂຍບາຍອອກຈາກຄວາມຜິດປົກກະຕິແທ້ໆ.

ຮ້າຍແຮງກວ່ານັ້ນ, ການປະຕິເສດມີຄວາມສຳພັນກັບເນື້ອຫາ ບໍ່ແມ່ນແຈກຢາຍແບບສຸ່ມ. ຖ້າ 4% ຂອງຂໍ້ມູນຂອງທ່ານຄືບົດລາຍງານເຫດການຄວາມປອດໄພ ແລະ ໂມເດວປະຕິເສດສ່ວນຫຼາຍຂອງພວກມັນ, ທ່ານບໍ່ໄດ້ເສຍ throughput 4% ຢ່າງເທົ່າທຽມກັນ — ທ່ານໄດ້ເສຍໜຶ່ງໝວດໝູ່, ແລະ dashboard ທີ່ສ້າງເທິງຂໍ້ມູນນັ້ນລາຍງານໜ້ອຍກວ່າຄວາມຈິງແບບງຽບໆໃນສິ່ງທີ່ມັນມີໄວ້ເພື່ອເປີດເຜີຍ. ຊ່ອງວ່າງທີ່ຮູບຮ່າງເປັນໝວດໝູ່ເສຍຫາຍຫຼາຍກວ່າສຽງລົບກວນທີ່ສະໝ່ຳສະເໝີ ຍ້ອນວ່າບໍ່ມີຫຍັງແຈ້ງເຕືອນເມື່ອມັນເກີດຂຶ້ນ. ເອົາເສັ້ນທາງການປະຕິເສດອອກ ແລະ ສິ່ງທີ່ເຫຼືອ — ຄວາມຜິດປົກກະຕິ, ການຕັດຂາດ, ຂໍ້ຄວາມທີ່ບໍ່ຊັດເຈນ — ບໍ່ມີຄວາມສຳພັນກັບຫົວຂໍ້, ແລະ ດັ່ງນັ້ນຈຶ່ງວັດແທກໄດ້.

05Context, ເພດານຜົນຜະລິດ, ແລະ ວິທີວາງແຜນງົບປະມານ

ທຸກໂມເດວເທິງເກດເວय์ໃຊ້ຂອບເຂດດຽວກັນ:

Context ຄືງົບປະມານທີ່ໃຊ້ຮ່ວມກັນ: ພຣອມບວກຜົນຜະລິດຕ້ອງພໍດີພາຍໃນ 262,144 ດ້ວຍກັນ, ດັ່ງນັ້ນເພດານ input ພາກປະຕິບັດໃນການເອີ້ນອັນດຽວຄືປະມານ 245,000 token, ປະມານ 180,000 ຄຳພາສາອັງກິດ. ສຳລັບວຽກແບບມີໂຄງສ້າງ ເພດານຜົນຜະລິດ 16,384 token ຄືຂອບເຂດທີ່ຍາກກວ່າ ແລະ ອັນທີ່ເຮັດໃຫ້ຄົນປະຫຼາດໃຈ — schema ທີ່ຜະລິດໜຶ່ງວັດຖຸຕໍ່ບັນທຶກເຖິງມັນນານກ່ອນທີ່ໜ້າຕ່າງຈະເຕັມ. ຮູບແບບສອງອັນເຮັດວຽກຕ້ານກັບນັ້ນ:

• Input ກວ້າງ, ຜົນຜະລິດແຄບ. ດັນສັນຍາທັງໝົດ, ການຍື່ນ ຫຼືໜ້າຕ່າງ log ເຂົ້າ context ແລະ ຂໍວັດຖຸກະທັດຮັດອັນດຽວ. Token input ລາຄາໜຶ່ງສ່ວນສີ່ຂອງ token ຜົນຜະລິດ, ດັ່ງນັ້ນລາຄາໃຫ້ລາງວັນການອ່ານຫຼາຍ ແລະ ຂຽນໜ້ອຍ.
• ແບ່ງຕາມຂອບເຂດບັນທຶກ, ບໍ່ແມ່ນຈຳນວນ byte. ແບ່ງບ່ອນທີ່ໂມເດວເຫັນຮອຍຕໍ່ໄດ້. ບັນທຶກທີ່ຖືກຕັດກາງປະໂຫຍກຜະລິດວັດຖຸທີ່ຜິດຢ່າງໜ້າໝັ້ນໃຈ ແທນທີ່ຈະເປັນຄວາມລົ້ມເຫຼວທີ່ຈະແຈ້ງ.

ຄວາມແຂງແກ່ນການດຶງຂໍ້ມູນ context ຍາວທີ່ Hy3 ລາຍງານ — 73.4 ໃນ AA-LCR, ແລະ ການກະໂດດຈາກ 42.9% ເປັນ 75.1% ໃນການຈື່ຈຳບົດສົນທະນາຍາວ MRCR — ຄືຄວາມສາມາດພໍດີທີ່ຮູບແບບທຳອິດຂຶ້ນກັບ, ແລະ ຄືທັກສະທີ່ຕ່າງອອກໄປຈາກການຂຽນທີ່ດີ.

06ລາຄາພື້ນ, ແລະ ເລກຄະນິດຂອງ pipeline ຈິງ

Hy3 ຢູ່ທີ່ $0.50 ຕໍ່ລ້ານ token ເຂົ້າ ແລະ $2.00 ຕໍ່ລ້ານ token ອອກ — ລາຄາພື້ນຂອງແຄຕາລັອກ, ໃຊ້ຮ່ວມກັບ MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 ແລະ MiniMax-M3. ຄິດໄລ່ຜ່ານພາລະງານຕົວແທນ:

ພາລະງານ	Input / ການເອີ້ນ	ຜົນຜະລິດ / ການເອີ້ນ	ຄ່າໃຊ້ຈ່າຍ / ການເອີ້ນ	ຕໍ່ 1M ການເອີ້ນ
ການດຶງຊ່ອງຂໍ້ມູນ	1,200	300	$0.0012	$1,200
ການຈັດປະເພດເອກະສານ	3,000	120	$0.0018	$1,800
ສະຫຼຸບເອກະສານຍາວເປັນ schema	40,000	900	$0.0218	$21,800
ການວິເຄາະໜ້າຕ່າງເຕັມ	240,000	2,000	$0.1240	$124,000

ຕົວເລກທີ່ປ່ຽນການຕັດສິນໃຈບໍ່ແມ່ນອັດຕາຫົວຂໍ້ ແຕ່ຄືອັດຕາຜົນຈິງຫຼັງການລອງໃໝ່. ຖ້າສອງໂມເດວລາຄາເທົ່າກັນ ແລະ ອັນໜຶ່ງລົ້ມເຫຼວການກວດຢືນຢັນໃນ 6% ຂອງການເອີ້ນທີ່ອີກອັນລົ້ມເຫຼວທີ່ 1.5%, ໂມເດວທີ່ເລື່ອນໄຫຼສູງແລ່ນການເອີ້ນເພີ່ມປະມານ 4.5% — ຍັງລອດໄດ້. ຄວາມເສຍຫາຍຢູ່ຫາງ: ການເອີ້ນທີ່ລອງໃໝ່ໃຊ້ເວລາສອງເທົ່າ, ດັ່ງນັ້ນ latency p99 ຈະເພີ່ມຂຶ້ນປະມານສອງເທົ່າສຳລັບສ່ວນໜຶ່ງທີ່ເບິ່ງເຫັນໄດ້ຂອງ traffic, ແລະ ຫຍັງກໍຕາມທີ່ລົ້ມເຫຼວສອງເທື່ອກາຍເປັນວຽກມືເອງ. ທີ່ລ້ານການເອີ້ນຕໍ່ມື້ນັ້ນຄືພັນບັນທຶກທີ່ໃຜຕ້ອງອ່ານ.

ດັ່ງນັ້ນເຫດຜົນສຳລັບລະດັບ 8-bit ໃນລາຄາພື້ນ: ທ່ານບໍ່ໄດ້ຈ່າຍພິເສດສຳລັບຄວາມແມ່ນຢຳຢູ່ນີ້, ດັ່ງນັ້ນເລກຄະນິດການລອງໃໝ່ຄືເງິນຟຣີ. ຖ້າໂມເດວ 3-bit ຖືກກວ່າ ຈະມີການແລກປ່ຽນຈິງທີ່ຕ້ອງຊັ່ງນ້ຳໜັກ — Hy3 ລາຄາເທົ່າກັບອັນທີ່ຖືກທີ່ສຸດໃນແຄຕາລັອກ.

07ພາສາ API ສາມແບບ, ໂມເດວດຽວ

Hy3 ເອີ້ນໄດ້ໃນທັງສາມພາສາຂອງເກດເວय์ ດ້ວຍການສະຕຣີມໃນແຕ່ລະອັນ. ໂມເດວດຽວກັນ, ນ້ຳໜັກດຽວກັນ, ຂອບເຂດດຽວກັນ — ເລືອກອັນທີ່ກົງກັບ SDK ທີ່ທ່ານມີແລ້ວ.

Endpoint	ພາສາ	ໃຊ້ເມື່ອ
/v1/chat/completions	OpenAI	ທ່ານມີ OpenAI SDK, LangChain ຫຼື LlamaIndex. ຊີ້ base URL ມາທີ່ນີ້, ປ່ຽນ model id.
/v1/messages	Anthropic	ທ່ານໃຊ້ Anthropic SDK ແລະ ຕ້ອງການ content block ໂດຍບໍ່ມີຊັ້ນແປ.
/v1/responses	Responses	ທ່ານຕ້ອງການຮູບຮ່າງຄຳຂໍໃໝ່ກວ່າດ້ວຍຜົນຜະລິດມີປະເພດ ແລະ ສະຖານະຝັ່ງ server.

Hy3 ຍັງຮອງຮັບການເອີ້ນເຄື່ອງມື ແລະ ການໃຫ້ເຫດຜົນ, ລວມທັງ reasoning_effort. ສຳລັບວຽກດຶງຂໍ້ມູນ ການເຄື່ອນໄຫວທີ່ເປັນປະໂຫຍດປົກກະຕິແມ່ນຫຼຸດການໃຫ້ເຫດຜົນລົງ: ເທິງ schema ທີ່ລະບຸໄວ້ດີເທິງຂໍ້ຄວາມທີ່ສະອາດ, token ການຄິດຄື token ຜົນຜະລິດທີ່ທ່ານຈ່າຍ ແລະ latency ທີ່ທ່ານລໍຖ້າ, ສຳລັບຜົນໄດ້ຮັບເລັກນ້ອຍ. ໃຊ້ງົບຄວາມພະຍາຍາມກັບ input ທີ່ບໍ່ຊັດເຈນແທ້ໆແທນ.

ອ້າງອີງຄຳຂໍ ແລະ ຄຳຕອບເຕັມ, ລາຍການພາຣາມິເຕີ, semantics ການສະຕຣີມ ແລະ playground ແບບໂຕ້ຕອບຢູ່ໃນ ເອກະສານ API.

08ການເລືອກລະຫວ່າງໂມເດວ W8A16 ທັງສາມ

ໂມເດວສາມອັນຢູ່ໃນລະດັບຄວາມແມ່ນຢຳສູງສຸດ, ທັງໝົດໃນລາຄາພື້ນ. ການເລືອກສ່ວນຫຼາຍແມ່ນກ່ຽວກັບ modality:

ໂມເດວ	ການເບິ່ງເຫັນ	json_schema	ລາຄາເຂົ້າ / ອອກ	ເລືອກໃຊ້ສຳລັບ
Hy3 · W8A16	ບໍ່ມີ	ມີ	$0.50 / $2.00	Pipeline ແບບມີໂຄງສ້າງຂໍ້ຄວາມເທົ່ານັ້ນ, ການປະສານງານເຄື່ອງມື, ການດຶງຂໍ້ມູນ context ຍາວ
MiMo-V2.5-Pro · W8A16	ບໍ່ມີ	ມີ	$0.50 / $2.00	ວຽກຂໍ້ຄວາມເທົ່ານັ້ນທີ່ທ່ານຕ້ອງການການປັບແຕ່ງ Pro ຂອງສາຍ MiMo
MiMo-V2.5 · W8A16	ມີ	ມີ	$0.50 / $2.00	ຫຍັງກໍຕາມທີ່ມີຮູບພາບ — ເອກະສານສະແກນ, ພາບໜ້າຈໍ, ຮູບຖ່າຍ

ຖ້າສ່ວນໃດຂອງ input ຂອງທ່ານຄືຮູບພາບ ການຕັດສິນໃຈຖືກເຮັດແທນທ່ານແລ້ວ: Hy3 ເປັນຂໍ້ຄວາມເທົ່ານັ້ນ — ສົ່ງ PDF ສະແກນ, ພາບໜ້າຈໍ ແລະ ຮູບຖ່າຍໄປທີ່ MiMo-V2.5. ບ່ອນທີ່ input ຄືຂໍ້ຄວາມແທ້ໆ, ໂປຣໄຟລ໌ຂອງ Hy3 ຂອງການໃຊ້ເຄື່ອງມືແບບຕົວແທນ, ການຈື່ຈຳ context ຍາວ ແລະ ອັດຕາ hallucination ທີ່ລາຍງານຕ່ຳ ຕົງກັບວຽກ pipeline ໂດຍກົງທີ່ສຸດ. ຍ້ອນວ່າທັງສາມລາຄາເທົ່າກັນ, ແລ່ນ schema ຂອງທ່ານກັບສອງອັນໃນນັ້ນເທິງບັນທຶກຈິງສອງສາມຮ້ອຍ ແລະ ປຽບທຽບອັດຕາ parse; ນັ້ນຕັດສິນໄດ້ດີກວ່າຕາຕະລາງໃດໆ, ລວມທັງອັນນີ້.

09ບ່ອນທີ່ Hy3 ຄຸ້ມຄ່າບ່ອນຢືນຂອງມັນ

• ການດຶງຊ່ອງຂໍ້ມູນປະລິມານສູງ. ສັນຍາ, ການຍື່ນ, ບົດລາຍງານເຫດການ, ບົດບັນທຶກ, ບັນທຶກທາງການແພດ, ບັນທຶກສານ — ບ່ອນໃດກໍຕາມທີ່ວັດຖຸມີປະເພດຕໍ່ເອກະສານຄືສິ່ງທີ່ຕ້ອງສົ່ງມອບ ແລະ ປະລິມານເຮັດໃຫ້ການລອງໃໝ່ແພງ.
• ການຈັດປະເພດ ແລະ ຈັດເສັ້ນທາງໃນລະດັບໃຫຍ່. ຜົນຜະລິດ enum ປິດ, ບ່ອນທີ່ຄຸນຄ່າທັງໝົດຂອງໂມເດວຄືການບໍ່ເຄີຍປະດິດໝວດທີສິບເກົ້າຂຶ້ນມາ.
• ຂໍ້ມູນຄວາມປອດໄພ ແລະ ຂ່າວກອງໄພຄຸກຄາມ. ບົດຂຽນ malware, ການເປີດເຜີຍ exploit ແລະ ຕົວຢ່າງ phishing — ເນື້ອຫາທີ່ເຮັດໃຫ້ໂມເດວທີ່ຖືກກັ່ນຕອງປະຕິເສດ, ແລະ ບ່ອນທີ່ຊ່ອງວ່າງຮູບຮ່າງໝວດໝູ່ທຳລາຍຈຸດປະສົງ.
• ຕົວແທນເອີ້ນເຄື່ອງມືທີ່ຕ້ອງບໍ່ຢຸດຄ້າງ. ຄວາມແມ່ນຢຳອາກິວເມັນ 8-bit ໝາຍຄວາມວ່າ JSON ທີ່ສົ່ງໃຫ້ຟັງຊັນຂອງທ່ານ parse ໄດ້; ການເອີ້ນເຄື່ອງມືທີ່ຜິດຮູບຄືຕົວແທນທີ່ຢຸດຄ້າງ ບໍ່ແມ່ນຄຳຕອບທີ່ແຍ່ກວ່າເລັກນ້ອຍ.
• ການວິເຄາະເອກະສານຍາວເປັນໂຄງສ້າງ. ການຍື່ນທັງໝົດເຂົ້າ, ວັດຖຸກະທັດຮັດອັນດຽວອອກ.
• ການຄວບຄຸມເນື້ອຫາ ແລະ ການຄົ້ນຄວ້ານະໂຍບາຍ. ການໃສ່ປ້າຍເນື້ອຫາທີ່ໂມເດວທີ່ຖືກກັ່ນຕອງປະຕິເສດອ່ານຄືບັນຫາຄວາມໄວ້ວາງໃຈ ແລະ ຄວາມປອດໄພຄ້າງຄາ; ໂມເດວທີ່ບໍ່ຖືກກັ່ນຕອງພ້ອມ schema ເຄັ່ງຄັດແກ້ໄຂມັນໂດຍກົງ.

ແລະ ບ່ອນທີ່ມັນບໍ່: ຫຍັງກໍຕາມທີ່ມີຮູບພາບ (ໃຊ້ MiMo-V2.5), ແລະ ການພັດທະນາຊອບແວຫຼາຍໄຟລ໌ແບບອັດຕະໂນມັດ, ບ່ອນທີ່ຕາຕະລາງຂອງ Tencent ເອງວາງ Hy3 ຫຼັງ GLM-5.2 ໃນ SWE-bench Verified ແລະ ຫຼັງໄກໃນ DeepSWE.

ຕົວເລກເບັນມາກຄື Tencent ລາຍງານ, ລວມທັງຕົວເລກຄູ່ແຂ່ງ; ການກວດຢືນຢັນແບບເອກະລາດຍັງລໍຖ້າຢູ່ໃນເວລາທີ່ຂຽນນີ້. ຕົວເລກຄ່າໃຊ້ຈ່າຍຄິດໄລ່ຈາກອັດຕາ $0.50 / $2.00 ທີ່ພວກເຮົາເຜີຍແຜ່. ບໍ່ມີຕົວເລກໃນໜ້ານີ້ຄືເບັນມາກທີ່ Shannon ແລ່ນເອງ ຫຼືການປະເມີນ.

10ຄຳຖາມທີ່ພົບເລື້ອຍ

---

ແຫຼ່ງຂໍ້ມູນ: ບັດໂມເດວ Tencent Hunyuan · Repository Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · ການລາຍງານຂ່າວ VentureBeat ກ່ຽວກັບການອອກ Hy3. ເບັນມາກພື້ນຖານຄື Tencent ລາຍງານ ແລະ ຍັງບໍ່ຢືນຢັນລໍຖ້າການກວດຢືນຢັນແບບເອກະລາດ. Shannon AI ດຳເນີນງານໂດຍ Shannon Lab LLC, ລັດນິວເມັກຊິໂກ, ສະຫະລັດ.