API بدون سانسور مدل Hy3

بیشتر بحث‌های «کدام مدل را استفاده کنم» درباره سقف است: کدام بهترین کد را می‌نویسد، سخت‌ترین ریاضی را حل می‌کند، طولانی‌ترین اجرای عامل را می‌برد. خط لوله‌های ساختاریافته این‌طور کار نمی‌کنند. کاری که روزانه از صدهزار سند فیلد استخراج می‌کند به مدلی نیاز ندارد که یک‌بار درخشان باشد — به مدلی نیاز دارد که هر بار در همان شکل درست باشد، و هرگز جایی که باید یک شیء JSON باشد یک پاراگراف برنگرداند. Hy3-W8A16 برای همین ویژگی اینجاست.

01Hy3 چیست و از کجا می‌آید

Hy3 یک مدل وزن‌باز استدلالی و عامل‌محور از تیم Hunyuan شرکت Tencent است که در ۶ ژوئیه ۲۰۲۶ به‌طور کامل و با مجوزی آزادمنشانه منتشر شد و وزن‌هایش روی Hugging Face در دسترس است. این مدل تبار کار پیشین Tencent روی Mixture-of-Experts با نام Hunyuan-Large را ادامه می‌دهد. از نظر معماری یک MoE تُنُک است: ۲۹۵ میلیارد پارامتر کل که از آن تقریباً ۲۱ میلیارد به ازای هر توکن فعال می‌شود، با مسیریابی هشت‌تایی برتر میان ۱۹۲ متخصص، روی ترنسفورمری ۸۰ لایه با توجه پرس‌وجوی گروهی، به‌علاوه یک لایه ۳٫۸ میلیاردی پیش‌بینی چندتوکنی جداگانه برای رمزگشایی گمانه‌زنانه. کانتکست بومی ۲۵۶ هزار است — دقیقاً همان ۲۶۲٬۱۴۴ توکنی که در دسترس می‌گذاریم، نه برشی از چیزی بزرگ‌تر و نه گسترشی با کش دادن rope از چیزی کوچک‌تر.

این نسبت تُنُکی مهم‌ترین عدد برای هرکسی است که به ازای هر توکن پول می‌دهد: Hy3 دانش یک مدل ۲۹۵ میلیاردی را حمل می‌کند در حالی که در هر گذر رو به جلو تقریباً حساب‌وکتاب یک مدل ۲۱ میلیاردی را انجام می‌دهد. به همین دلیل هم می‌توانیم از پس سرو کردنش با ۸ بیت برآییم به‌جای اینکه سخت‌تر فشرده‌اش کنیم — یک بیلد ۸ بیتی از مدلی به این تُنُکی همچنان جا می‌شود و همچنان روی خوشه GPU خودمان سریع اجرا می‌شود.

Tencent می‌گوید در چه چیزی خوب است

جدول‌های ارزیابی منتشرشده Tencent قوت‌های Hy3 را به‌روشنی در جست‌وجوی عامل‌محور، ارکستراسیون ابزار و بازیابی در کانتکست بلند می‌گذارند نه در کدنویسی خام. ارقام گزارش‌شده‌شان:

میله‌های ضعیف را عمداً نشان می‌دهیم. در مقایسه خودِ Tencent، Hy3 در کدنویسی از GLM-5.2 عقب می‌ماند — ۷۸٫۰ در برابر ۸۴٫۲ در SWE-bench Verified، و ۲۸٫۰ در برابر ۴۶٫۲ در DeepSWE. اگر بار کاری شما مهندسی نرم‌افزار خودگردان چندفایلی است، اول بقیه نمایه پژوهش مدل‌ها را بخوانید. اگر خواندن متن و تولید ساختار است، این نیم‌رخ نزدیک به ایده‌آل است.

رقمی که برای کار خط لوله بیشترین اهمیت را دارد رقمی مربوط به قابلیت اتکاست: Tencent نرخ توهم Hy3 را ۵٫۴٪ گزارش می‌کند، پایین‌تر از ۱۲٫۵٪ نسل پیشین، و خطاهای مربوط به دانش عرفی از ۲۵٫۴٪ به ۱۲٫۷٪ رسیده‌اند. اصل آموزشی اعلام‌شده‌شان — وقتی شواهد هست پاسخ بده، وقتی نیست صریح بگو — دقیقاً همان خُلقی است که در یک مدل استخراج می‌خواهید، مدلی که وگرنه برای فیلدی که منبع اصلاً به آن اشاره نکرده مقداری باورپذیر از خودش می‌سازد.

همه ارقام این بخش از سوی Tencent و از اجراهای آزمون خودشان گزارش شده‌اند؛ راستی‌آزمایی مستقل شخص ثالث تا زمان نگارش هنوز در انتظار بود. آنها را جهت‌نما بدانید نه قطعی.

02W8A16 یعنی چه و چرا برای خروجی ساختاریافته اهمیت دارد

هر مدل روی گیت‌وی یک پسوند کوانتیزاسیون دارد. این تزئین نیست — به شما می‌گوید وزن‌های سرو‌شده چقدر از ایست‌بازرسی‌ای که آزمایشگاه منتشر کرده فاصله دارند.

رده	چه می‌کند	وفاداری
3BIT-REAP	وزن‌های ۳ بیتی به‌علاوه REAP، روشی برای هرس متخصص که متخصص‌های به‌ندرت‌مسیریابی‌شده MoE را پیش از کوانتیزه کردن حذف می‌کند	بیشترین فشرده‌سازی
W4A16-AUTOROUND-REAP	وزن‌های ۴ بیتی / فعال‌سازی‌های ۱۶ بیتی با AutoRound — گِردکردن آموخته‌شده که نسبت به گِردکردن ساده به نزدیک‌ترین مقدار دقت را بازمی‌گرداند — به‌علاوه هرس REAP	میانه
W8A16	وزن‌های ۸ بیتی / فعال‌سازی‌های ۱۶ بیتی. بدون هرس، بدون ترمیم با گِردکردن آموخته‌شده — وزن‌ها صرفاً با دو برابر دقت حمل می‌شوند	بالاترین

انحراف کوانتیزاسیون واقعاً کجا آسیب می‌زند

REAP و AutoRound بیشتر آنچه را فشرده‌سازی ساده از دست می‌دهد بازمی‌گردانند — اما واژه «بیشتر» در آن جمله بار سنگینی دارد، و باقی‌مانده یکنواخت فرود نمی‌آید. کوانتیزاسیون بیت-پایین دنباله‌ها را افت می‌دهد: تصمیم‌های کم‌احتمال و پرویژگی. در نثر این تقریباً نامرئی است؛ یک صفت متفاوت همچنان جمله‌ای خوب می‌سازد. در خروجی ساختاریافته تمام ماجراست، چون یک اسکیما زنجیره بلندی از تصمیم‌های کم‌احتمال است که هرکدام باید دقیقاً درست باشند:

• نحو در سطح توکن. یک آکولاد بسته، یک ویرگول، یک نویسه گیومه. هرکدام یک توکن‌اند، و یک توکن نادرست کل پاسخ را بی‌اعتبار می‌کند.
• انضباط enum. اسکیمای شما می‌گوید "status" یکی از "open" | "closed" | "pending" است؛ مدل منحرف‌شده "Open" یا "pending review" برمی‌گرداند — از نظر معنایی نزدیک، و به‌عنوان هیچ‌کدام معتبر نیست.
• انضباط نوع. یک فیلد number به‌شکل "1,240" برمی‌گردد و یک boolean به‌شکل "yes". هر دو به‌عنوان رشته تجزیه می‌شوند و اسکیما را رد می‌کنند.
• مقادیر عینی دنباله‌بلند. اسم‌های خاص کمیاب، شماره قطعه، نام‌های شیمیایی، خط‌های غیرلاتین، تاریخ‌های دقیق — دقیقاً همان ناحیه کم‌احتمالی که وزن‌های بیت-پایین محوش می‌کنند.

هیچ‌کدام از اینها مدل‌های ۴ بیتی یا ۳ بیتی را بد نمی‌کند؛ برای کار گفت‌وگویی، تفاوت وفاداری اغلب ارزش تفاوت قیمت را ندارد. اما وقتی مصرف‌کننده خروجی یک اعتبارسنج است نه یک انسان، دقت در دنباله‌ها مستقیماً به نرخ تجزیه تبدیل می‌شود — و نرخ تجزیه به بودجه تلاش مجدد و تأخیر p99. W8A16 همان رده‌ای است که در آن دیگر این مالیات را نمی‌پردازید.

03خروجی ساختاریافته: json_schema و response_format

مدل Hy3 از هر دو نیمه سطح خروجی ساختاریافته پشتیبانی می‌کند — و ارزش دارد صریح گفته شود، چون این در سراسر کاتالوگ همگانی نیست:

مدل	response_format	json_schema
Hy3 · W8A16	بله	بله
MiMo-V2.5-Pro · W8A16	بله	بله
inkling · W4A16-AUTOROUND-REAP	بله	خیر
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	خیر	خیر

تفاوت میان این دو سازوکار بیش از آنچه مردم فرض می‌کنند اهمیت دارد. response_format: {"type": "json_object"} فقط JSON معتبر می‌خواهد و بس — شکل را مدل انتخاب می‌کند، پس دو فراخوان می‌توانند {"name": ...} و {"full_name": ...} برگردانند و هر دو درست باشند. json_schema شکل را از پیش می‌دهد: فیلدهای نام‌دار، نوع‌ها، enumها، فهرست‌های الزامی، تودرتویی. این قراردادی است که می‌توانید علیه‌اش کد بنویسید.

یک فراخوان کمینه روی گویش سازگار با OpenAI:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

نکته‌های عملی

• هر فیلد را الزامی کنید و اجازه null بدهید. فیلدهای اختیاری دعوت به حذف خاموش‌اند؛ یک فیلد الزامیِ پذیرای null، «حاضر نیست» را صریح می‌کند، و این اطلاعاتی است که می‌توانید بر پایه‌اش عمل کنید.
• enum بهتر از رشته آزاد است. هرجا می‌توانید مجموعه مقادیر را ببندید، ببندید — پُراهرم‌ترین تغییری که روی نرخ قبولی واقعی یک اسکیما می‌گذارید.
• زیر سقف ۱۶٬۳۸۴ توکنی خروجی بمانید. یک آرایه بی‌کران وسط یک شیء بریده می‌شود. طول آرایه‌ها را سقف بگذارید، یا ورودی را تکه‌تکه کنید.
• پیام سیستمی را نگه دارید. اسکیما شکل را مقید می‌کند؛ پرامپت همچنان بر معنا حکم می‌راند — اینکه چه چیزی «بحرانی» به شمار می‌آید، وقتی دو تاریخ ظاهر می‌شود کدام برنده است، اینکه واحدها نرمال شوند یا نه.
• به هر حال اعتبارسنجی کنید. پشتیبانی از اسکیما نرخ قبولی را بالا می‌برد؛ جای یک اعتبارسنج و یک صف نامه‌های مرده را نمی‌گیرد.

04چرا «بدون سانسور» یک ویژگی قابلیت اتکاست، نه صرفاً یک ویژگی محتوایی

مدل Hy3 روی گیت‌وی هیچ لایه رد درخواست و هیچ فیلترینگ خروجی ندارد. چارچوب متعارف درباره محتواست: می‌توانید پژوهش امنیتی، تحلیل بدافزار، گزارش‌های اکسپلویت، پیکره‌های پزشکی و حقوقی، محتوای بزرگ‌سال، مستندات کاهش آسیب یا رونوشت کاربران خصمانه را پردازش کنید بدون اینکه مدل از جانب شما تصمیم بگیرد که ترجیح می‌دهد نکند.

دلیل دومی هم هست، مکانیکی‌تر، که اهمیت دارد. رد کردن یک نقض اسکیماست. یک مدل فیلترشده که سر باز می‌زند شیء شما را با پرچم "unavailable" برنمی‌گرداند — نثر برمی‌گرداند. «من نمی‌توانم در این درخواست کمک کنم.» آن رشته یک شیء incident نیست؛ اعتبارسنج شما را رد می‌کند و کنار خطاهای واقعی تجزیه در صف نامه‌های مرده می‌نشیند، جایی که حالا باید ردهای سیاستی را از بدشکلی‌های واقعی جدا کنید.

بدتر اینکه ردها به‌جای پخش تصادفی، با محتوا هم‌بسته‌اند. اگر ۴٪ پیکره شما گزارش‌های رخداد امنیتی باشد و مدل بیشترشان را رد کند، شما ۴٪ گذردهی را به‌شکل یکنواخت از دست نداده‌اید — یک دسته را از دست داده‌اید، و داشبوردی که روی آن داده ساخته شده بی‌سروصدا دقیقاً همان چیزی را کم‌گزارش می‌کند که برای نمایانش وجود دارد. سوراخ‌هایی که شکل یک دسته دارند از نویز یکنواخت گران‌ترند چون هیچ‌چیز روی آنها هشدار نمی‌دهد. مسیر رد کردن را بردارید و آنچه می‌ماند — بدشکلی‌ها، بریدگی‌ها، متن مبهم — با موضوع هم‌بسته نیست و در نتیجه قابل‌اندازه‌گیری است.

05کانتکست، سقف خروجی، و اینکه چطور بودجه‌بندی‌شان کنیم

هر مدل روی گیت‌وی همان محدودیت‌ها را دارد:

کانتکست یک بودجه مشترک است: پرامپت به‌علاوه خروجی باید با هم داخل ۲۶۲٬۱۴۴ جا شوند، پس سقف عملی ورودی در یک فراخوان حدود ۲۴۵٬۰۰۰ توکن است، به‌طور خیلی تقریبی ۱۸۰٬۰۰۰ واژه انگلیسی. برای کار ساختاریافته، سقف ۱۶٬۳۸۴ توکنی خروجی محدودیت سخت‌تری است و همانی که مردم را غافلگیر می‌کند — اسکیمایی که به ازای هر رکورد یک شیء تولید می‌کند مدت‌ها پیش از پر شدن پنجره به آن می‌خورد. دو الگو در برابر این کار می‌کنند:

• ورودی پهن، خروجی باریک. یک قرارداد کامل، یک پرونده یا یک پنجره لاگ را به کانتکست بفرستید و یک شیء جمع‌وجور بخواهید. توکن‌های ورودی یک‌چهارم توکن‌های خروجی هزینه دارند، پس قیمت‌گذاری به خواندنِ زیاد و نوشتنِ کم پاداش می‌دهد.
• روی مرز رکوردها تکه‌تکه کنید، نه روی شمار بایت. جایی ببُرید که مدل درز را ببیند. رکوردی که وسط جمله بریده شود به‌جای یک شکست آشکار، شیئی با اطمینانِ نادرست تولید می‌کند.

قوت گزارش‌شده Hy3 در بازیابی کانتکست بلند — ۷۳٫۴ در AA-LCR، و جهش از ۴۲٫۹٪ به ۷۵٫۱٪ در یادآوری گفت‌وگوی بلند MRCR — دقیقاً همان توانمندی‌ای است که الگوی نخست به آن وابسته است، و مهارتی متفاوت از خوب نوشتن.

06قیمت کف، و حساب‌وکتاب یک خط لوله واقعی

مدل Hy3 روی ۰٫۵۰ دلار به ازای هر میلیون توکن ورودی و ۲٫۰۰ دلار به ازای هر میلیون توکن خروجی می‌نشیند — کف کاتالوگ، مشترک با MiMo-V2.5 و MiMo-V2.5-Pro و DeepSeek-V4-Flash-0731 و MiniMax-M3. با بارهای کاری نمونه حساب شده:

بار کاری	ورودی / هر فراخوان	خروجی / هر فراخوان	هزینه / هر فراخوان	هر ۱M فراخوان
استخراج فیلد	1,200	300	$0.0012	$1,200
دسته‌بندی سند	3,000	120	$0.0018	$1,800
خلاصه سند بلند به اسکیما	40,000	900	$0.0218	$21,800
تحلیل تمام‌پنجره	240,000	2,000	$0.1240	$124,000

عددی که تصمیم‌ها را عوض می‌کند نرخ سرتیتری نیست بلکه نرخ مؤثر پس از تلاش‌های مجدد است. اگر دو مدل هم‌قیمت باشند و یکی در ۶٪ فراخوان‌ها اعتبارسنجی را رد کند و دیگری در ۱٫۵٪، مدل پرانحراف حدود ۴٫۵٪ فراخوان بیشتر اجرا می‌کند — قابل‌تحمل. آسیب در دنباله است: فراخوان‌های تکرارشده دو برابر طول می‌کشند، پس تأخیر p99 برای برشی قابل‌مشاهده از ترافیک تقریباً دو برابر می‌شود، و هرچه دو بار شکست بخورد کار دستی می‌شود. با یک میلیون فراخوان در روز، این یعنی هزاران رکورد که کسی باید بخواندشان.

و اینجاست استدلال به سود رده ۸ بیتی با قیمت کف: شما اینجا بابت وفاداری قیمت اضافه نمی‌پردازید، پس حساب‌وکتاب تلاش مجدد پول مفت است. اگر یک مدل ۳ بیتی ارزان‌تر بود بده‌بستان واقعی‌ای برای سنجیدن وجود داشت — Hy3 همان‌قدر هزینه دارد که ارزان‌ترین چیز کاتالوگ.

07سه گویش API، یک مدل

مدل Hy3 روی هر سه گویش گیت‌وی و با استریمینگ روی هرکدام در دسترس است. همان مدل، همان وزن‌ها، همان محدودیت‌ها — همانی را بردارید که با SDK فعلی‌تان می‌خواند.

اندپوینت	گویش	وقتی استفاده کنید که
/v1/chat/completions	OpenAI	SDK شرکت OpenAI یا LangChain یا LlamaIndex دارید. نشانی پایه را به اینجا نشانه بگیرید و شناسه مدل را عوض کنید.
/v1/messages	Anthropic	روی SDK شرکت Anthropic هستید و بلوک‌های محتوایی را بدون لایه ترجمه می‌خواهید.
/v1/responses	Responses	شکل درخواست تازه‌تر را با خروجی نوع‌دار و وضعیت سمت سرور می‌خواهید.

مدل Hy3 از فراخوانی ابزار و استدلال هم پشتیبانی می‌کند، از جمله reasoning_effort. برای کار استخراج، حرکت سودمند معمولاً پایین آوردن استدلال است: روی اسکیمایی خوب‌مشخص‌شده و متنی تمیز، توکن‌های تفکر توکن‌های خروجی‌اند که پولش را می‌دهید و تأخیری که منتظرش می‌مانید، در ازای دستاوردی حاشیه‌ای. به‌جایش بودجه تلاش را صرف ورودی واقعاً مبهم کنید.

مرجع کامل درخواست و پاسخ، فهرست پارامترها، معناشناسی استریمینگ و یک پلی‌گراند تعاملی در مستندات API هستند.

08انتخاب میان سه مدل W8A16

سه مدل روی بالاترین رده وفاداری می‌نشینند، هر سه با قیمت کف. انتخاب عمدتاً بر سر وجه ورودی است:

مدل	بینایی	json_schema	قیمت ورودی / خروجی	برای این بردارید
Hy3 · W8A16	خیر	بله	$0.50 / $2.00	خط لوله‌های ساختاریافته فقط‌متنی، ارکستراسیون ابزار، بازیابی در کانتکست بلند
MiMo-V2.5-Pro · W8A16	خیر	بله	$0.50 / $2.00	کار فقط‌متنی که در آن کوک Pro از خط MiMo را می‌خواهید
MiMo-V2.5 · W8A16	بله	بله	$0.50 / $2.00	هر چیزی همراه با تصویر — اسناد اسکن‌شده، اسکرین‌شات، عکس

اگر هر بخشی از ورودی شما تصویر است، تصمیم از پیش گرفته شده: Hy3 فقط‌متنی است — PDFهای اسکن‌شده، اسکرین‌شات‌ها و عکس‌ها را به MiMo-V2.5 بفرستید. جایی که ورودی واقعاً متن است، نیم‌رخ Hy3 در کاربرد عامل‌محور ابزار، یادآوری در کانتکست بلند و توهم پایین گزارش‌شده مستقیم‌ترین انطباق را با کار خط لوله دارد. چون هر سه هم‌قیمت‌اند، اسکیمای خودتان را روی دو تای آنها و روی چند صد رکورد واقعی اجرا کنید و نرخ تجزیه را مقایسه کنید؛ این بهتر از هر جدولی — از جمله همین جدول — تکلیف را روشن می‌کند.

09Hy3 کجا جایش را باز می‌کند

• استخراج فیلد در حجم بالا. قراردادها، پرونده‌ها، گزارش‌های رخداد، رونوشت‌ها، یادداشت‌های بالینی، سوابق دادگاه — هرجا که یک شیء نوع‌دار به ازای هر سند خروجی کار است و حجم، تلاش مجدد را گران می‌کند.
• دسته‌بندی و مسیردهی در مقیاس. خروجی‌های enum بسته، جایی که تمام ارزش مدل در این است که هرگز دسته نوزدهم را از خودش نسازد.
• پیکره‌های امنیتی و اطلاعات تهدید. گزارش‌های بدافزار، افشای اکسپلویت و نمونه‌های فیشینگ — همان موادی که مدل‌های فیلترشده را به رد کردن می‌اندازد، و جایی که سوراخی به شکل یک دسته کل هدف را بی‌اثر می‌کند.
• عامل‌های فراخوان ابزار که نباید بمانند. وفاداری ۸ بیتی در آرگومان‌ها یعنی JSONای که به توابع شما داده می‌شود تجزیه می‌شود؛ یک فراخوان ابزار مچاله‌شده یعنی عاملی که گیر کرده، نه پاسخی کمی بدتر.
• تحلیل سند بلند به ساختار. کل پرونده به داخل، یک شیء جمع‌وجور به بیرون.
• نظارت محتوا و پژوهش سیاستی. برچسب‌گذاری موادی که یک مدل فیلترشده از خواندنشان سر باز می‌زند مسئله همیشگی تیم‌های اعتماد و ایمنی است؛ یک مدل بی‌فیلتر با اسکیمای سخت‌گیرانه مستقیماً حلش می‌کند.

و کجا نه: هر چیزی همراه با تصویر (از MiMo-V2.5 استفاده کنید)، و مهندسی نرم‌افزار خودگردان چندفایلی، که جدول‌های خودِ Tencent در آن Hy3 را در SWE-bench Verified پشت GLM-5.2 و در DeepSWE به‌روشنی عقب‌تر می‌گذارند.

ارقام بنچمارک از سوی Tencent گزارش شده‌اند، از جمله اعداد رقبا؛ راستی‌آزمایی مستقل تا زمان نگارش در انتظار بود. ارقام هزینه از نرخ‌های منتشرشده ۰٫۵۰ / ۲٫۰۰ دلاری ما محاسبه شده‌اند. هیچ عددی در این صفحه بنچمارکی اجراشده به‌دست Shannon یا یک برآورد نیست.

10پرسش‌های پرتکرار

---

منابع: کارت‌های مدل Tencent Hunyuan · مخزن Hy3 · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · پوشش VentureBeat درباره انتشار Hy3. بنچمارک‌های بنیان از سوی Tencent گزارش شده‌اند و تا زمان راستی‌آزمایی مستقل موقتی‌اند. Shannon AI را Shannon Lab LLC در نیومکزیکوی ایالات متحده اداره می‌کند.