আমরা কোনো ব্যবহারকারীর ডেটা সংরক্ষণ করি না বা অ্যাক্সেস করি না, এবং কোনো lawful authority প্রয়োগমূলক পদক্ষেপ না চাইলে অ্যাকাউন্ট suspend করি না।
আনসেন্সরড মডেল · Hy3 · W8A16

আনসেন্সরড Hy3 মডেল API

Tencent-এর 295B Hy3 ভিত্তি 8-বিট ওয়েট বিশ্বস্ততায়, কড়া json_schema আউটপুট, একটি 262,144-টোকেন উইন্ডো আর কোনো প্রত্যাখ্যানের স্তর ছাড়াই — তালিকার মেঝে-দামে।

হালনাগাদ ৫ সেপ্টেম্বর ২০২৬মডেল নির্দেশিকাভিত্তি: Tencent Hy3কেবল টেক্সট

সংক্ষেপে

Hy3-W8A16 হলো আমাদের তিনটি W8A16 মডেলের তৃতীয়টি — 8-বিট ওয়েট, 16-বিট অ্যাক্টিভেশন, আমরা যা পরিবেশন করি তার মধ্যে সর্বোচ্চ-বিশ্বস্ততার স্তর। এটি কেবল টেক্সটের, json_schema ও response_format দুটিই সমর্থন করে, তালিকা-জুড়ে থাকা 262,144-টোকেন কনটেক্সট আর 16,384-টোকেন আউটপুট সীমা বহন করে, আর খরচ প্রতি মিলিয়ন টোকেনে $0.50 / $2.00 — মেঝে। কোনো প্রত্যাখ্যানের স্তর নেই, কোনো আউটপুট ফিল্টারিং নেই। এটি বাছুন সেসব উচ্চ-আয়তনের টেক্সট পাইপলাইনের জন্য, যাদের প্রতিটি কলেই পার্স করা যায় এমন, টাইপ করা আউটপুট ফেরত দিতে হবে — এমনকি এমন উপকরণেও, যা ছুঁতে একটি ফিল্টার করা মডেল অস্বীকার করত।

“কোন মডেল ব্যবহার করব” নিয়ে অধিকাংশ তর্ক সিলিং নিয়ে: কে সবচেয়ে ভালো কোড লেখে, কঠিনতম গণিত সমাধান করে, দীর্ঘতম এজেন্ট রান জেতে। কাঠামোবদ্ধ পাইপলাইন এভাবে চলে না। দিনে এক লাখ নথি থেকে ফিল্ড তুলে আনার কাজে এমন মডেল দরকার নেই যা একবার উজ্জ্বল — দরকার এমন একটি, যা প্রতিবারই একই আকারে সঠিক, আর যেখানে একটি JSON অবজেক্ট থাকার কথা সেখানে কখনও একটি অনুচ্ছেদ ফেরত দেয় না। Hy3-W8A16 এখানে ঠিক সেই ধর্মটির জন্যই।

01Hy3 কী, আর কোথা থেকে এসেছে

Hy3 হলো Tencent-এর Hunyuan দল-এর একটি ওপেন-ওয়েট রিজনিং ও এজেন্টিক মডেল, ৬ জুলাই ২০২৬-এ একটি উদার লাইসেন্সে পুরোপুরি প্রকাশিত, ওয়েট প্রকাশিত হয়েছে Hugging Face-এ। এটি Tencent-এর আগের Hunyuan-Large Mixture-of-Experts কাজের ধারাবাহিকতা। স্থাপত্যগতভাবে এটি একটি স্পার্স MoE: মোট 295 বিলিয়ন প্যারামিটার, যার মোটামুটি 21 বিলিয়ন প্রতি টোকেনে সক্রিয় হয় 192 এক্সপার্ট জুড়ে top-8 রাউটিংয়ের মাধ্যমে, গ্রুপড-কোয়েরি অ্যাটেনশন সহ একটি 80-স্তরের ট্রান্সফরমারে, সঙ্গে স্পেকুলেটিভ ডিকোডিংয়ের জন্য একটি আলাদা 3.8B মাল্টি-টোকেন-প্রেডিকশন স্তর। নেটিভ কনটেক্সট 256K — আমরা যে 262,144 টোকেন উন্মুক্ত করি ঠিক ততটাই, বড় কিছুর কাটছাঁট নয়, ছোট কিছুর rope-টানা সম্প্রসারণও নয়।

295B
মোট প্যারামিটার
21B
সক্রিয় / টোকেন
192
এক্সপার্ট (top-8)
262K
কনটেক্সট উইন্ডো

যিনি প্রতি টোকেনে দাম দেন, তার কাছে ওই স্পার্সিটি অনুপাতই গুরুত্বপূর্ণ সংখ্যা: Hy3 একটি 295B মডেলের জ্ঞান বহন করে, অথচ প্রতিটি ফরোয়ার্ড পাসে মোটামুটি একটি 21B মডেলের পাটিগণিতই করে। এ কারণেই আরও জোরে সংকুচিত না করে আমরা এটিকে 8 বিটে পরিবেশন করার খরচ বহন করতে পারি — এতটা স্পার্স একটি মডেলের 8-বিট বিল্ড আমাদের নিজস্ব GPU ক্লাস্টারে এখনও এঁটে যায় আর এখনও দ্রুত চলে।

Tencent জানায় এটি কীসে ভালো

Tencent-এর প্রকাশিত মূল্যায়ন সারণিগুলি Hy3-র শক্তি সরাসরি এজেন্টিক অনুসন্ধান, টুল সমন্বয় আর দীর্ঘ-কনটেক্সট পুনরুদ্ধারে বসায়, নিছক কোডিংয়ে নয়। তাদের জানানো সংখ্যা:

DeepSearchQA91.0
BrowseComp84.2
MCP-Atlas (টুল)79.1
SWE-bench Verified78.0
AA-LCR (দীর্ঘ কনটেক্সট)73.4
DeepSWE28.0

দুর্বল বারগুলি আমরা ইচ্ছা করেই দেখাই। Tencent-এর নিজেদের তুলনায় Hy3 কোডিংয়ে GLM-5.2-র পিছনে — SWE-bench Verified-এ 84.2-র বিপরীতে 78.0, DeepSWE-তে 46.2-র বিপরীতে 28.0। আপনার কাজ যদি স্বয়ংক্রিয় বহু-ফাইল সফটওয়্যার ইঞ্জিনিয়ারিং হয়, আগে মডেল গবেষণা সূচির বাকিটা পড়ুন। আর কাজটি যদি টেক্সট পড়া আর কাঠামো বের করা হয়, তবে এর রূপরেখা প্রায় আদর্শ।

পাইপলাইনের কাজে সবচেয়ে বেশি গুরুত্বপূর্ণ সংখ্যাটি নির্ভরযোগ্যতার: Tencent জানায় Hy3-র হ্যালুসিনেশনের হার 5.4%, আগের প্রজন্মের 12.5% থেকে নেমে, আর সাধারণ-বোধের ভুল 25.4% থেকে নেমে 12.7%। তাদের ঘোষিত প্রশিক্ষণ নীতি — প্রমাণ থাকলে উত্তর দাও, না থাকলে স্পষ্ট করে বলো — একটি নিষ্কাশন মডেলে ঠিক সেই মেজাজটিই আপনি চান, নইলে সে উৎসে কখনও উল্লেখ না থাকা একটি ফিল্ডের জন্য বিশ্বাসযোগ্য একটি মান বানিয়ে ফেলত।

এই অনুচ্ছেদের সব সংখ্যা Tencent-কথিত, তাদেরই পরীক্ষা চালানো থেকে; লেখার সময় স্বাধীন তৃতীয় পক্ষের যাচাই এখনও বাকি ছিল। এদের নির্দেশক হিসেবে ধরুন, চূড়ান্ত হিসেবে নয়।

02W8A16 মানে কী, আর কাঠামোবদ্ধ আউটপুটের জন্য কেন গুরুত্বপূর্ণ

গেটওয়ের প্রতিটি মডেল একটি কোয়ান্টাইজেশন প্রত্যয় বহন করে। এটি সাজসজ্জা নয় — গবেষণাগার যে চেকপয়েন্ট প্রকাশ করেছে, পরিবেশিত ওয়েটগুলি তার থেকে কতটা দূরে বসে, এটি তাই বলে দেয়।

স্তরএটি কী করেবিশ্বস্ততা
3BIT-REAP3-বিট ওয়েট, সঙ্গে REAP — একটি এক্সপার্ট-প্রুনিং পদ্ধতি, যা কোয়ান্টাইজ করার আগে কদাচিৎ রাউট হওয়া MoE এক্সপার্টদের বাদ দেয়সবচেয়ে সংকুচিত
W4A16-AUTOROUND-REAPAutoRound-এর মাধ্যমে 4-বিট ওয়েট / 16-বিট অ্যাক্টিভেশন — শেখা রাউন্ডিং, যা সরল রাউন্ড-টু-নিয়ারেস্টের তুলনায় নির্ভুলতা ফিরিয়ে আনে — সঙ্গে REAP ছাঁটাইমাঝামাঝি
W8A168-বিট ওয়েট / 16-বিট অ্যাক্টিভেশন। কোনো ছাঁটাই নয়, শেখা-রাউন্ডিংয়ের মেরামতও নয় — ওয়েটগুলি নিছকই দ্বিগুণ নির্ভুলতায় বহন করাসর্বোচ্চ

কোয়ান্টাইজেশন বিচ্যুতি আসলে কোথায় আঘাত করে

সরল সংকোচন যা হারায় তার অধিকাংশই REAP ও AutoRound ফিরিয়ে আনে — তবে ওই বাক্যে “অধিকাংশ” শব্দটি কাজ করছে, আর অবশিষ্টটুকু সমানভাবে পড়ে না। নিম্ন-বিট কোয়ান্টাইজেশন প্রান্তগুলিকে ক্ষয় করে: কম-সম্ভাবনার, উচ্চ-নির্দিষ্টতার সিদ্ধান্তগুলিকে। গদ্যে এটি প্রায় অদৃশ্য; ভিন্ন একটি বিশেষণেও বাক্যটি ঠিকই থাকে। কাঠামোবদ্ধ আউটপুটে এটিই পুরো খেলা, কারণ একটি স্কিমা হলো কম-সম্ভাবনার সিদ্ধান্তের একটি দীর্ঘ শৃঙ্খল, যাদের প্রত্যেকটিকেই হুবহু ঠিক হতে হবে:

  • টোকেন-স্তরের বাক্যগঠন। একটি সমাপ্তি-বন্ধনী, একটি কমা, একটি উদ্ধৃতিচিহ্ন। প্রত্যেকটিই একটি টোকেন, আর একটিমাত্র ভুল টোকেন গোটা উত্তরটিকেই অবৈধ করে দেয়।
  • Enum-এর শৃঙ্খলা। আপনার স্কিমা বলে "status" হবে "open" | "closed" | "pending"-এর একটি; বিচ্যুত একটি মডেল ফেরত দেয় "Open" বা "pending review" — অর্থগতভাবে কাছাকাছি, আর কোনোটিরই বৈধ নয়।
  • টাইপের শৃঙ্খলা। একটি number ফিল্ড ফেরত আসে "1,240" হিসেবে, একটি boolean আসে "yes" হিসেবে। দুটিই স্ট্রিং হিসেবে পার্স হয় আর স্কিমায় ব্যর্থ হয়।
  • দীর্ঘ-প্রান্তের আক্ষরিক মান। বিরল নামবাচক পদ, পার্ট নম্বর, রাসায়নিক নাম, অ-ল্যাটিন লিপি, নিখুঁত তারিখ — ঠিক সেই কম-সম্ভাবনার এলাকা, যাকে নিম্ন-বিট ওয়েট ঝাপসা করে দেয়।

এসব কিছুই 4-বিট বা 3-বিট মডেলকে খারাপ বানায় না; কথোপকথনের কাজে বিশ্বস্ততার তফাতটি প্রায়ই দামের তফাতের যোগ্য নয়। কিন্তু আউটপুটের ভোক্তা যখন একজন মানুষ নয়, একটি ভ্যালিডেটর, তখন প্রান্তের নির্ভুলতা সরাসরি পার্স হারে রূপান্তরিত হয় — আর পার্স হার রূপান্তরিত হয় পুনঃচেষ্টার বাজেট ও p99 লেটেন্সিতে। W8A16 হলো সেই স্তর, যেখানে ওই কর দেওয়া বন্ধ হয়।

03কাঠামোবদ্ধ আউটপুট: json_schema ও response_format

Hy3 কাঠামোবদ্ধ-আউটপুট পৃষ্ঠের দুটি অর্ধেকই সমর্থন করে — স্পষ্ট করে বলার মতো, কারণ তালিকা জুড়ে এটি সর্বজনীন নয়:

মডেলresponse_formatjson_schema
Hy3 · W8A16হ্যাঁহ্যাঁ
MiMo-V2.5-Pro · W8A16হ্যাঁহ্যাঁ
inkling · W4A16-AUTOROUND-REAPহ্যাঁনা
Laguna-S-2.1 · W4A16-AUTOROUND-REAPনানা

দুটি ব্যবস্থার তফাতটি মানুষ যতটা ভাবে তার চেয়ে বেশি গুরুত্বপূর্ণ। response_format: {"type": "json_object"} বৈধ JSON চায়, তার বেশি কিছু নয় — আকারটি মডেল বেছে নেয়, তাই দুটি কল {"name": ...} আর {"full_name": ...} ফেরত দিতে পারে আর দুটিই সঠিক। json_schema আকারটি আগেই দিয়ে দেয়: নামধারী ফিল্ড, টাইপ, enum, আবশ্যক তালিকা, নেস্টিং। এটি এমন একটি চুক্তি, যার বিপরীতে আপনি কোড লিখতে পারেন।

OpenAI-সামঞ্জস্যপূর্ণ উপভাষায় একটি ন্যূনতম কল:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

বাস্তব টীকা

  • প্রতিটি ফিল্ড আবশ্যক করুন আর null অনুমোদন করুন। ঐচ্ছিক ফিল্ড নীরবে বাদ পড়াকে ডেকে আনে; একটি আবশ্যক nullable ফিল্ড একটি স্পষ্ট “উপস্থিত নেই” আদায় করে, যা এমন তথ্য যার উপর আপনি কাজ করতে পারেন।
  • মুক্ত স্ট্রিংয়ের চেয়ে enum ভালো। যেখানেই মানের সেটটি বন্ধ করা যায়, বন্ধ করুন — একটি স্কিমার বাস্তব পাস হারে এটিই সবচেয়ে কার্যকর পরিবর্তন।
  • 16,384-টোকেন আউটপুট সীমার নিচে থাকুন। সীমাহীন একটি অ্যারে অবজেক্টের মাঝখানেই কেটে যাবে। অ্যারের দৈর্ঘ্যে সীমা দিন, নয়তো ইনপুট ভাগ করুন।
  • সিস্টেম মেসেজটি রাখুন। স্কিমা আকার নিয়ন্ত্রণ করে; অর্থ এখনও প্রম্পটই ঠিক করে — কীসে “critical” বলা হবে, দুটি তারিখ থাকলে কোনটি জিতবে, একক স্বাভাবিক করা হবে কি না।
  • তবু যাচাই করুন। স্কিমা সমর্থন পাস হার বাড়ায়; এটি একটি ভ্যালিডেটর আর একটি ডেড-লেটার কিউয়ের বিকল্প নয়।

04“আনসেন্সরড” কেন কেবল কনটেন্টের নয়, নির্ভরযোগ্যতারও ধর্ম

গেটওয়েতে Hy3-র কোনো প্রত্যাখ্যানের স্তর নেই আর কোনো আউটপুট ফিল্টারিং নেই। চেনা উপস্থাপনাটি কনটেন্ট নিয়ে: আপনি নিরাপত্তা গবেষণা, ম্যালওয়্যার বিশ্লেষণ, এক্সপ্লয়েট প্রতিবেদন, চিকিৎসা ও আইনি কর্পাস, প্রাপ্তবয়স্ক উপকরণ, ক্ষতি-হ্রাসের নথি বা বিদ্বেষী ব্যবহারকারীর প্রতিলিপি প্রক্রিয়া করতে পারেন — মডেল আপনার হয়ে সিদ্ধান্ত নেবে না যে সে বরং না করাই ভালো মনে করে।

এর দ্বিতীয়, আরও যান্ত্রিক একটি কারণও আছে। একটি প্রত্যাখ্যান একটি স্কিমা লঙ্ঘন। ফিল্টার করা যে মডেল অস্বীকার করে, সে আপনার অবজেক্টটি একটি "unavailable" চিহ্ন সহ ফেরত দেয় না — সে গদ্য ফেরত দেয়। “I'm not able to help with that request.” ওই স্ট্রিংটি কোনো incident অবজেক্ট নয়; সেটি আপনার ভ্যালিডেটরে ব্যর্থ হয় আর সত্যিকারের পার্স ত্রুটির পাশে ডেড-লেটার কিউতে গিয়ে পড়ে, যেখানে এখন আপনাকে নীতিগত প্রত্যাখ্যান আর আসল ত্রুটি আলাদা করতে হবে।

আরও খারাপ, প্রত্যাখ্যান এলোমেলোভাবে ছড়ায় না, কনটেন্টের সঙ্গে সহসম্পর্কিত হয়। আপনার কর্পাসের 4% যদি নিরাপত্তা ঘটনার প্রতিবেদন হয় আর মডেল তার অধিকাংশই অস্বীকার করে, তবে আপনি সমানভাবে 4% থ্রুপুট হারাননি — আপনি একটি গোটা শ্রেণি হারিয়েছেন, আর ওই ডেটার উপর গড়া ড্যাশবোর্ডটি নীরবে ঠিক সেই জিনিসটিই কম দেখাচ্ছে, যা দেখানোর জন্যই সে আছে। শ্রেণি-আকৃতির ফাঁকগুলির দাম সমসত্ত্ব নয়েজের চেয়ে বেশি, কারণ তাদের জন্য কোনো অ্যালার্ট বাজে না। প্রত্যাখ্যানের পথটি সরিয়ে দিন, আর যা থাকে — ত্রুটিপূর্ণ গঠন, কাটা পড়া উত্তর, দ্ব্যর্থ টেক্সট — তা বিষয়ের সঙ্গে সহসম্পর্কিত নয়, তাই মাপযোগ্য।

আনসেন্সরড মানে জবাবদিহিহীন নয়

প্রত্যাখ্যানের স্তর নেই মানে মডেল আপনার ইনপুট নিয়ে মন্তব্য করে না। এর মানে এই নয় যে অ্যাকাউন্টটি নজরদারির বাইরে। ব্যবহার আমাদের দায়িত্বশীল ব্যবহার নীতি ও প্রযোজ্য আইনের অধীন, আর অপব্যবহারে অ্যাক্সেস শেষ হয়। ফিল্টার সরানো একটি মডেলকে একটি নথির টুকরো দেখে আপনার উদ্দেশ্য আন্দাজ করা থেকে থামায়; আপনি যা বানান তার দায়িত্ব সরায় না।

05কনটেক্সট, আউটপুট সীমা, আর তাদের বাজেট কীভাবে করবেন

গেটওয়ের প্রতিটি মডেল একই সীমা ভাগ করে নেয়:

262,144
কনটেক্সট টোকেন
16,384
সর্বোচ্চ আউটপুট টোকেন
3
API উপভাষা
হ্যাঁ
স্ট্রিমিং

কনটেক্সট একটি ভাগ করা বাজেট: প্রম্পট আর আউটপুট একসঙ্গে 262,144-এর ভেতরে আঁটতে হবে, তাই একটি কলে বাস্তব ইনপুট সীমা মোটামুটি 245,000 টোকেন, খুব মোটা হিসেবে 1,80,000 ইংরেজি শব্দ। কাঠামোবদ্ধ কাজে 16,384-টোকেন আউটপুট সীমাটিই কঠিনতর সীমা, আর সেটিই মানুষকে চমকে দেয় — প্রতি রেকর্ডে একটি অবজেক্ট বের করা একটি স্কিমা উইন্ডো ভরার অনেক আগেই সেখানে ঠেকে যায়। এর বিপরীতে দুটি ছাঁদ কাজ করে:

  • চওড়া ইনপুট, সরু আউটপুট। একটি গোটা চুক্তি, দাখিল বা লগ উইন্ডো কনটেক্সটে ঠেলে দিন আর একটিমাত্র সংহত অবজেক্ট চান। ইনপুট টোকেনের দাম আউটপুট টোকেনের এক-চতুর্থাংশ, তাই দামের কাঠামোই অনেক পড়ে অল্প লেখাকে পুরস্কৃত করে।
  • বাইট সংখ্যায় নয়, রেকর্ডের সীমানায় টুকরো করুন। সেখানেই ভাগ করুন যেখানে মডেল জোড়াটি দেখতে পায়। বাক্যের মাঝখানে কাটা একটি রেকর্ড স্পষ্ট ব্যর্থতার বদলে আত্মবিশ্বাসী একটি ভুল অবজেক্ট তৈরি করে।

Hy3-র জানানো দীর্ঘ-কনটেক্সট পুনরুদ্ধারের শক্তি — AA-LCR-এ 73.4, আর MRCR দীর্ঘ-সংলাপ স্মরণে 42.9% থেকে 75.1%-এ লাফ — ঠিক সেই সক্ষমতা, যার উপর প্রথম ছাঁদটি নির্ভর করে, আর ভালো লেখার চেয়ে সেটি একটি ভিন্ন দক্ষতা।

06মেঝে-দাম, আর একটি বাস্তব পাইপলাইনের পাটিগণিত

Hy3 বসে আছে প্রতি মিলিয়ন ইনপুট টোকেনে $0.50 আর প্রতি মিলিয়ন আউটপুট টোকেনে $2.00-এ — তালিকার মেঝে, যা ভাগ করে নেয় MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 আর MiniMax-M3। প্রতিনিধিত্বমূলক কাজের ভার ধরে হিসাব করলে:

কাজপ্রতি কলে ইনপুটপ্রতি কলে আউটপুটপ্রতি কলে খরচপ্রতি 1M কলে
ফিল্ড নিষ্কাশন1,200300$0.0012$1,200
নথি শ্রেণিবিন্যাস3,000120$0.0018$1,800
দীর্ঘ নথি থেকে স্কিমায় সারসংক্ষেপ40,000900$0.0218$21,800
পূর্ণ-উইন্ডো বিশ্লেষণ240,0002,000$0.1240$124,000

যে সংখ্যাটি সিদ্ধান্ত বদলায় সেটি শিরোনামের হার নয়, বরং পুনঃচেষ্টার পরের কার্যকর হার। দুটি মডেলের দাম যদি সমান হয় আর একটি 6% কলে যাচাইয়ে ব্যর্থ হয় যেখানে অন্যটি 1.5%-এ, তবে বেশি-বিচ্যুত মডেলটি মোটামুটি 4.5% বেশি কল চালায় — সহনীয়। ক্ষতিটি প্রান্তে: পুনঃচেষ্টা করা কলে দ্বিগুণ সময় লাগে, তাই ট্রাফিকের একটি দৃশ্যমান অংশে p99 লেটেন্সি মোটামুটি দ্বিগুণ হয়, আর যা দুবারই ব্যর্থ হয় তা হাতে করার কাজ হয়ে দাঁড়ায়। দিনে দশ লাখ কলে সেটি হাজার হাজার রেকর্ড, যা কাউকে পড়তে হবে।

তাই মেঝে-দামে 8-বিট স্তরের পক্ষে যুক্তিটি এই: এখানে আপনি বিশ্বস্ততার জন্য বাড়তি দাম দিচ্ছেন না, তাই পুনঃচেষ্টার পাটিগণিতটি বিনামূল্যের টাকা। একটি 3-বিট মডেল সস্তা হলে ওজন করার মতো একটি সত্যিকারের বিনিময় থাকত — Hy3-র দাম তালিকার সবচেয়ে সস্তা জিনিসটির সমান।

07তিনটি API উপভাষা, একটি মডেল

Hy3 গেটওয়ের তিনটি উপভাষাতেই পাওয়া যায়, প্রতিটিতে স্ট্রিমিং সহ। একই মডেল, একই ওয়েট, একই সীমা — আপনার ইতিমধ্যেই যে SDK আছে তার সঙ্গে যেটি মেলে, সেটিই বাছুন।

এন্ডপয়েন্টউপভাষাকখন ব্যবহার করবেন
/v1/chat/completionsOpenAIআপনার কাছে একটি OpenAI SDK, LangChain বা LlamaIndex আছে। বেস URL এখানে দিন, মডেল id বদলান।
/v1/messagesAnthropicআপনি Anthropic SDK-তে আছেন আর কোনো অনুবাদ স্তর ছাড়াই কনটেন্ট ব্লক চান।
/v1/responsesResponsesআপনি টাইপ করা আউটপুট ও সার্ভার-সাইড স্টেট সহ নতুন রিকোয়েস্ট আকারটি চান।

Hy3 টুল কলিং আর রিজনিং-ও সমর্থন করে, reasoning_effort সহ। নিষ্কাশনের কাজে কাজের চালটি সাধারণত রিজনিং কমিয়ে দেওয়া: পরিচ্ছন্ন টেক্সটের উপর একটি সুনির্দিষ্ট স্কিমায় চিন্তার টোকেন হলো আউটপুট টোকেন, যার দাম আপনি দেন আর যার জন্য অপেক্ষা করেন, বিনিময়ে প্রান্তিক লাভ। প্রয়াসের বাজেটটি বরং সত্যিকারের দ্ব্যর্থ ইনপুটে খরচ করুন।

পূর্ণ রিকোয়েস্ট ও রেসপন্স তালিকা, প্যারামিটারের তালিকা, স্ট্রিমিংয়ের শব্দার্থ আর একটি ইন্টারঅ্যাকটিভ প্লেগ্রাউন্ড আছে API ডকুমেন্টেশন-এ।

08তিনটি W8A16 মডেলের মধ্যে বাছাই

সর্বোচ্চ-বিশ্বস্ততার স্তরে তিনটি মডেল বসে আছে, সবগুলিই মেঝে-দামে। বাছাইটি মূলত মোডালিটির:

মডেলভিশনjson_schemaদাম ইন / আউটকীসের জন্য বাছবেন
Hy3 · W8A16নাহ্যাঁ$0.50 / $2.00কেবল-টেক্সট কাঠামোবদ্ধ পাইপলাইন, টুল সমন্বয়, দীর্ঘ-কনটেক্সট পুনরুদ্ধার
MiMo-V2.5-Pro · W8A16নাহ্যাঁ$0.50 / $2.00কেবল-টেক্সটের কাজ, যেখানে আপনি MiMo ধারার Pro টিউনিং চান
MiMo-V2.5 · W8A16হ্যাঁহ্যাঁ$0.50 / $2.00ছবি আছে এমন যেকোনো কিছু — স্ক্যান করা নথি, স্ক্রিনশট, আলোকচিত্র

আপনার ইনপুটের কোনো অংশ যদি ছবি হয়, সিদ্ধান্তটি আপনার হয়ে নেওয়াই হয়ে গেছে: Hy3 কেবল টেক্সটের — স্ক্যান করা PDF, স্ক্রিনশট আর আলোকচিত্র পাঠান MiMo-V2.5-তে। ইনপুট যেখানে সত্যিই টেক্সট, সেখানে Hy3-র এজেন্টিক টুল ব্যবহার, দীর্ঘ-কনটেক্সট স্মরণ আর কম জানানো হ্যালুসিনেশনের রূপরেখাটি পাইপলাইনের কাজের সঙ্গে সবচেয়ে সরাসরি মেলে। যেহেতু তিনটির দামই সমান, কয়েকশো বাস্তব রেকর্ডে দুটির বিপরীতে আপনার স্কিমা চালিয়ে পার্স হার তুলনা করুন; যেকোনো সারণির চেয়ে সেটিই বিষয়টি ভালো মীমাংসা করবে — এই সারণিটিও তার বাইরে নয়।

09Hy3 কোথায় নিজের জায়গা অর্জন করে

  • উচ্চ-আয়তনের ফিল্ড নিষ্কাশন। চুক্তি, দাখিল, ঘটনার প্রতিবেদন, প্রতিলিপি, ক্লিনিক্যাল নোট, আদালতের নথি — যেখানেই প্রতি নথিতে একটি টাইপ করা অবজেক্টই ডেলিভারেবল আর আয়তন পুনঃচেষ্টাকে ব্যয়বহুল করে তোলে।
  • মাপে শ্রেণিবিন্যাস ও রাউটিং। বন্ধ enum আউটপুট, যেখানে মডেলের পুরো মূল্যই হলো কখনও একটি ঊনবিংশ শ্রেণি বানিয়ে না ফেলা।
  • নিরাপত্তা ও থ্রেট-ইন্টেল কর্পাস। ম্যালওয়্যার প্রতিবেদন, এক্সপ্লয়েট প্রকাশ আর ফিশিং নমুনা — যে উপকরণ ফিল্টার করা মডেলগুলিকে প্রত্যাখ্যানে ঠেলে দেয়, আর যেখানে একটি শ্রেণি-আকৃতির ফাঁকই উদ্দেশ্যটিকে ব্যর্থ করে।
  • যেসব টুল-কলিং এজেন্ট আটকে যেতে পারে না। 8-বিট আর্গুমেন্ট বিশ্বস্ততার মানে আপনার ফাংশনকে দেওয়া JSON পার্স হয়; একটি বিকৃত টুল কল একটু খারাপ উত্তর নয়, একটি আটকে যাওয়া এজেন্ট।
  • দীর্ঘ নথির বিশ্লেষণ থেকে কাঠামো। গোটা দাখিল ভেতরে, একটিমাত্র সংহত অবজেক্ট বাইরে।
  • কনটেন্ট মডারেশন ও নীতি গবেষণা। ফিল্টার করা মডেল যে উপকরণ পড়তেই অস্বীকার করে তাতে লেবেল দেওয়া ট্রাস্ট-অ্যান্ড-সেফটির একটি চিরস্থায়ী সমস্যা; একটি কড়া স্কিমাসহ একটি ফিল্টারহীন মডেল সেটি সরাসরি সমাধান করে।

আর কোথায় নয়: ছবি আছে এমন যেকোনো কিছু (MiMo-V2.5 ব্যবহার করুন), আর স্বয়ংক্রিয় বহু-ফাইল সফটওয়্যার ইঞ্জিনিয়ারিং, যেখানে Tencent-এর নিজেদের সারণিই SWE-bench Verified-এ Hy3-কে GLM-5.2-র পিছনে আর DeepSWE-তে অনেক পিছনে বসায়।

উৎসগুলি দেখে নিন

Hy3 ভিত্তি সম্পর্কে প্রতিটি স্থাপত্যগত ও বেঞ্চমার্ক দাবি এসেছে Tencent-এর প্রকাশ্য রিলিজ উপকরণ কিংবা তার সংবাদ পরিবেশন থেকে; তালিকার তথ্যগুলি আসে আমাদের নিজস্ব লাইভ /v1/models থেকে। দুটিই যাচাই করুন।

বেঞ্চমার্ক সংখ্যাগুলি Tencent-কথিত, প্রতিযোগীদের সংখ্যাসহ; লেখার সময় স্বাধীন যাচাই বাকি ছিল। খরচের সংখ্যাগুলি আমাদের প্রকাশিত $0.50 / $2.00 হার থেকে হিসাব করা। এই পাতার কোনো সংখ্যাই Shannon-এর চালানো বেঞ্চমার্ক বা কোনো আন্দাজ নয়।

10প্রায়শই জিজ্ঞাসিত প্রশ্ন

আনসেন্সরড Hy3 মডেল API কী?

এটি Hy3-W8A16 মডেল id-র জন্য Shannon AI Gateway এন্ডপয়েন্ট — Tencent-এর ওপেন-ওয়েট Hy3 ভিত্তি, আমাদের নিজস্ব GPU ক্লাস্টারে 8-বিট ওয়েট নির্ভুলতায় পরিবেশিত, কোনো প্রত্যাখ্যানের স্তর ও আউটপুট ফিল্টারিং ছাড়াই। এটি দেয় একটি 262,144-টোকেন কনটেক্সট উইন্ডো, প্রতি রিকোয়েস্টে 16,384 আউটপুট টোকেন, টুল কলিং, reasoning_effort সহ রিজনিং, আর json_schema ও response_format দুটির মাধ্যমেই পূর্ণ কাঠামোবদ্ধ আউটপুট, /v1/chat/completions, /v1/messages আর /v1/responses-এ স্ট্রিমিং সহ।

Hy3 কি JSON schema ও কাঠামোবদ্ধ আউটপুট সমর্থন করে?

হ্যাঁ। Hy3-W8A16 JSON-অবজেক্ট মোডের জন্য response_format আর কড়া, টাইপ করা স্কিমার জন্য json_schema — দুটিই সমর্থন করে, অর্থাৎ পূর্ণ কাঠামোবদ্ধ-আউটপুট পৃষ্ঠ, আংশিক নয়। তালিকার প্রতিটি মডেলের ক্ষেত্রে এটি সত্য নয়: Laguna-S-2.1 কোনোটিই সমর্থন করে না, আর inkling response_format সমর্থন করে কিন্তু json_schema নয়। আপনার পাইপলাইন যদি একটি টাইপ করা চুক্তির উপর নির্ভর করে, তবে Hy3 সেই মডেলগুলির একটি যারা তা মান্য করতে পারে।

W8A16 মানে কী, আর এটি কি 4-বিট বা 3-বিটের চেয়ে ভালো?

W8A16 মানে 8-বিট ওয়েট আর 16-বিট অ্যাক্টিভেশন — আমরা যা পরিবেশন করি তার মধ্যে সর্বোচ্চ-বিশ্বস্ততার স্তর। W4A16-AUTOROUND-REAP (4-বিট ওয়েট, শেখা রাউন্ডিং, এক্সপার্ট প্রুনিং) আর 3BIT-REAP (3-বিট ওয়েট, সঙ্গে এক্সপার্ট প্রুনিং)-এর তুলনায় এটি প্রকাশিত ওয়েটগুলিকে সবচেয়ে কম বদলায়, তাই আচরণ মূল চেকপয়েন্টের সবচেয়ে কাছাকাছি থাকে। আক্রমণাত্মক স্তরগুলি আছে কারণ নইলে সবচেয়ে বড় ভিত্তিগুলিকে গতিসহ পরিবেশন করা অবাস্তব হয়ে দাঁড়াত।

Hy3 কি ছবি বা ভিশন সমর্থন করে?

না। Hy3-W8A16 কেবল টেক্সটের। এতে ছবির অংশ পাঠালে কাজ করবে না। একই 8-বিট স্তরে ভিশনের সঙ্গে কাঠামোবদ্ধ আউটপুট দরকার হলে MiMo-V2.5-W8A16 ব্যবহার করুন, যা একই $0.50 / $2.00 দামে json_schema ও response_format-এর পাশাপাশি ছবি ইনপুটও সমর্থন করে।

Hy3 API-এর খরচ কত?

প্রতি মিলিয়ন ইনপুট টোকেনে $0.50 আর প্রতি মিলিয়ন আউটপুট টোকেনে $2.00 — আমাদের তালিকার মেঝে-দাম, যা ভাগ করে নেয় MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 আর MiniMax-M3। প্রতি কলে 1,200 ইনপুট ও 300 আউটপুট টোকেনের একটি প্রতিনিধিত্বমূলক নিষ্কাশন পাইপলাইনের খরচ প্রতি কলে প্রায় $0.0012, অর্থাৎ প্রতি মিলিয়ন কলে মোটামুটি $1,200।

Hy3 কি কোনো অনুরোধ প্রত্যাখ্যান করবে?

মডেলটির সামনে কোনো প্রত্যাখ্যানের স্তর নেই আর কোনো আউটপুট ফিল্টারিং নেই। একটি কাঠামোবদ্ধ পাইপলাইনের কাছে এটি কনটেন্টের যতটা, নির্ভরযোগ্যতারও ততটাই একটি ধর্ম: একটি প্রত্যাখ্যান একটি স্কিমা লঙ্ঘন, কারণ মডেল কেন উত্তর দেবে না তা ব্যাখ্যা করা গদ্য আপনার ভ্যালিডেটর যে অবজেক্টটি আশা করে তা হিসেবে পার্স হয় না। প্রত্যাখ্যানের পথটি সরানো নিরাপত্তা, চিকিৎসা, আইনি ও প্রাপ্তবয়স্ক-কনটেন্ট কর্পাসে একটি গোটা শ্রেণির পার্স ব্যর্থতা সরিয়ে দেয়।

আপনার নিজের স্কিমায় Hy3 চালান

8-বিট বিশ্বস্ততা, কড়া json_schema, 262K কনটেক্সট, কোনো প্রত্যাখ্যান নেই — মেঝে-দামে।

API ডকুমেন্টেশন পড়ুন সব মডেল গবেষণা

মডেল id Hy3-W8A16 · কেবল টেক্সট · প্রতি 1M টোকেনে $0.50 ইন / $2.00 আউট


উৎস: Tencent Hunyuan মডেল কার্ড · Hy3 রিপোজিটরি · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 প্রকাশ নিয়ে VentureBeat-এর প্রতিবেদন। ভিত্তির বেঞ্চমার্কগুলি Tencent-কথিত আর স্বাধীন যাচাইয়ের অপেক্ষায় প্রাথমিক। Shannon AI পরিচালনা করে Shannon Lab LLC, নিউ মেক্সিকো, USA।

সব রিসার্চ লিঙ্ক