Shannon 3.1
همان حلقه استدلال، منتقل‌شده به خوشه GPU خودمان: ۳۲٪ هوشمندتر، ۱۰ تا ۱۵ برابر سریع‌تر و پنجره متنی ۱۹۶٬۶۰۸ توکنی.
خلاصه
Shannon 3.1 هر چیزی را که Shannon 3 را ارزشمند می‌کرد نگه می‌دارد — حلقه استدلال تکرارشونده، نبود لایه رد درخواست، نبود فیلتر خروجی — و تنها جا و شیوه اجرای آن را تغییر می‌دهد. مدل اکنون به‌جای یک میزبان استنتاج شخص ثالث از خوشه GPU خودمان سرویس داده می‌شود. ارزیابی Shannon Lab ۳۲٪ بهبود در هوشمندی و پاسخ‌های ۱۰ تا ۱۵ برابر سریع‌تر نسبت به Shannon 3.0 را اندازه می‌گیرد. پنجره متنی از ۳۲٬۷۶۸ به ۱۹۶٬۶۰۸ توکن می‌رسد. لایه تنظیم ضرباهنگ که عمداً خروجی نسخه ۳.۰ را کند می‌کرد حذف شده است: نسخه ۳.۱ با سرعت کامل موتور استریم می‌کند. شناسه‌های مدل shannon-3.1 و shannon-3.1-pro هستند، در چت و روی هر سه گویش API.
بیشتر انتشارهای مدل از شما می‌خواهند یک ادعای توانمندی را باور کنید و منتظر بمانید تا جدول بنچمارک بحث را فیصله دهد. این یکی را ساده‌تر می‌شود بررسی کرد: دو تب باز کنید، یک درخواست یکسان را به shannon-3 و shannon-3.1 بدهید و تماشا کنید. تفاوت در سرعت رسیدن پاسخ ظریف نیست و ترفند نمایشی هم نیست. Shannon 3.0 عمداً محدود شده بود. Shannon 3.1 نیست.
01در Shannon 3.1 واقعاً چه چیزی تغییر کرد
Shannon 3.0 چیزی را معرفی کرد که هویت این خانواده را تعریف می‌کند: یک حلقه استدلال تکرارشونده. مدل با نخستین فکرش پاسخ نمی‌دهد. فکر می‌کند، پیش‌نویس می‌نویسد، پیش‌نویس خود را در برابر پرسش بازبینی می‌کند و بهبودش می‌دهد. Lite یک گذر از این حلقه را اجرا می‌کند؛ Pro حلقه کامل را، شامل یک گام برداشت دانش پیش از پیش‌نویس. این طراحی به‌تفصیل در مقاله پژوهشی Shannon 3 شرح داده شده و هیچ‌یک از آن در نسخه ۳.۱ تغییر نکرده است.
آنچه تغییر کرد ماشین‌آلات زیرین است. Shannon 3.0 از طریق یک میزبان استنتاج شخص ثالث سرویس داده می‌شد — راهی معقول برای عرضه یک مدل و راهی محدودکننده برای اجرای آن. پیکربندی سرویس‌دهی شخص دیگری را به ارث می‌برید، صف شخص دیگری را، سقف کانتکست شخص دیگری را و برداشت شخص دیگری از اینکه چند توکن بر ثانیه حق دارید داشته باشید. Shannon 3.1 روی خوشه GPU خودمان اجرا می‌شود، روی پشته سرویس‌دهی‌ای که خودمان پیکربندی می‌کنیم، و هر عدد شاخصی در این مقاله پیامد همین یک تصمیم است.
| Shannon 3.0 | Shannon 3.1 | |
|---|---|---|
| محل اجرا | میزبان شخص ثالث | خوشه GPU خودمان |
| پنجره متنی | 32,768 | 196,608 |
| استریم خروجی | ضرباهنگ‌دار / نرخ‌محدود | سرعت کامل موتور |
| وزن‌ها | پیش‌فرض میزبان | 4-bit NVFP4 |
| رمزگشایی | استاندارد | گمانه‌زنانه |
| حلقه استدلال | فکر ← پیش‌نویس ← بازبینی ← بهبود | بدون تغییر |
| لایه رد درخواست | ندارد | ندارد |
| شناسه‌های مدل | shannon-3, shannon-3-pro | shannon-3.1, shannon-3.1-pro |
02چرا Shannon 3.1 ۱۰ تا ۱۵ برابر سریع‌تر حس می‌شود
عدد سرعت نخستین چیزی است که مردم درباره‌اش می‌پرسند، پس ارزش دارد دقیق بگوییم از کجا می‌آید. دو سهم مستقل در کار است و سهم بزرگ‌تر، کم‌جذاب‌ترشان است.
محدودکننده سرعت را برداشتیم
خروجی Shannon 3.0 از یک لایه تنظیم ضرباهنگ می‌گذشت. توکن‌ها موتور را ترک می‌کردند، نگه داشته می‌شدند و بر اساس یک زمان‌بندی به اتصال شما آزاد می‌شدند. این نه اتفاقی بود و نه یک باگ. وقتی گلوگاه، یک میزبان استنتاج مشترک است، ضرباهنگ‌دهی خروجی بار را هموار می‌کند، نمی‌گذارد یک تولید طولانی یک اسلات را در انحصار بگیرد و کاری می‌کند استریم با ریتمی قابل‌پیش‌بینی و خوانا برسد، نه به‌صورت انفجاری. این یک انتخاب مهندسی قابل‌دفاع است و برای هر کاربر، در هر پاسخ، زمان واقعی هزینه داشت.
Shannon 3.1 نه محدودکننده سرعت دارد و نه ضرباهنگ‌دهی نمایش. توکن‌ها همان‌طور که موتور تولیدشان می‌کند در استریم شما نوشته می‌شوند. اگر موتور سریع تولید کند، شما همان تولید سریع را می‌بینید. هیچ بافر هموارسازی میان مدل و ترمینال، پنجره چت یا خواننده SSE شما نیست. برای یک پاسخ بلند — یک تحلیل ۲٬۰۰۰ توکنی، یک فایل کد تولیدشده — همین یک مورد بخش عمده بهبودی را که خواهید دید توضیح می‌دهد.
یک پیامد صادقانه: استریم اکنون انفجاری است. رمزگشایی گمانه‌زنانه (پایین‌تر) توکن‌های پذیرفته‌شده را در دنباله‌های کوتاه منتشر می‌کند، پس متن ممکن است در تکه‌های محسوس برسد نه با ریتم مترونومی یک‌کلمه‌درمیان. اگر رابط کاربری‌تان را حول ریتم هموار نسخه ۳.۰ ساخته‌اید، همچنان کار می‌کند — ترتیب و محتوای توکن‌ها دست‌نخورده است — اما اگر ظاهر ماشین‌تحریری را می‌پسندید شاید بخواهید هموارسازی سمت‌کلاینت خودتان را برگردانید. به گمان ما بیشتر مردم ترجیح می‌دهند آن ثانیه‌ها را پس بگیرند.
خود موتور سریع‌تر شد
برداشتن دروازه تنها وقتی کمک می‌کند که پشت آن چیز سریعی باشد. سهم دوم، پشته سرویس‌دهی توصیف‌شده در بخش ۰۳ است: وزن‌های ۴ بیتی NVFP4 و رمزگشایی گمانه‌زنانه روی شتاب‌دهنده‌های نسل جاری و بومی FP4 در خوشه خودمان. این‌ها با هم سقفی را بالا می‌برند که برداشتن دروازه آشکارش می‌کند.
تأخیر نسبی پاسخ سرتاسری، ارزیابی داخلی Shannon Lab، سپتامبر ۲۰۲۶. بازه، بازتاب طول درخواست و رده است: درخواست‌های کوتاه روی Lite نزدیک کف بازه و تولیدهای بلند روی Pro نزدیک سقف آن قرار می‌گیرند.
03رمزگشایی گمانه‌زنانه دقیقاً چه می‌کند
«رمزگشایی گمانه‌زنانه» به یک واژه بازاریابی تبدیل شده، پس سازوکارش را ساده می‌گوییم.
یک مدل زبانی معمولاً در هر گذر رو به جلو یک توکن تولید می‌کند. آن گذر نه با محاسبات که با پهنای باند حافظه تعیین می‌شود — برای محاسبه هر چیزی باید وزن‌ها خوانده شوند و خواندنشان بسیار بیشتر از خود ریاضیات طول می‌کشد. GPU بیشتر وقتش را با واحدهای محاسباتی بیکار در انتظار حافظه می‌گذراند. تولید ۵۰۰ توکن یعنی پرداخت آن تأخیر ۵۰۰ بار، به‌صورت متوالی.
رمزگشایی گمانه‌زنانه به بخش متوالی حمله می‌کند. یک مدل پیش‌نویس کوچک و ارزان دنباله کوتاهی از توکن‌های محتمل بعدی را پیشنهاد می‌دهد — مثلاً چهار یا هشت تا. سپس مدل اصلی کل آن دنباله را در یک گذر دسته‌ای رو به جلو ارزیابی می‌کند که به‌سختی بیش از ارزیابی یک توکن هزینه دارد، چون بخش گران‌قیمت (خواندن وزن‌ها) در هر حالت یک بار رخ می‌دهد. هر توکن پیشنهادی که مدل اصلی با آن موافق باشد پذیرفته و بی‌درنگ منتشر می‌شود. در نخستین اختلاف، دنباله بریده می‌شود و رمزگشایی معمولی از همان‌جا از سر گرفته می‌شود.
ویژگی‌ای که اهمیت دارد
رمزگشایی گمانه‌زنانه خروجی‌نگهدار است. گام تأیید چنان ساخته شده که توزیع دنباله پذیرفته‌شده دقیقاً همان توزیع نمونه‌گیری خود مدل اصلی باشد. شما پاسخ مدل پیش‌نویس را نمی‌گیرید و تقریبی از پاسخ مدل بزرگ هم نمی‌گیرید. شما خروجی خود مدل اصلی را می‌گیرید، که با گام‌های متوالی کمتری به دست آمده است. مدل پیش‌نویس تنها می‌تواند بر سرعت اثر بگذارد، هرگز بر محتوا.
نرخ پذیرش است که کار را پیش می‌برد. روی متن قابل‌پیش‌بینی — قالب‌های تکراری، ساختار کد، بافت پیونددهنده یک استدلال — مدل پیش‌نویس خوب حدس می‌زند و دنباله‌های بلند یکجا فرود می‌آیند. روی توکن‌های واقعاً دشوار، پذیرش افت می‌کند و سامانه به‌آرامی به رمزگشایی معمولی تک‌توکنی برمی‌گردد. این همان عدم‌تقارنی است که می‌خواهید: بخش‌های آسان را شتاب می‌دهد و به بخش‌های دشوار دست نمی‌زند.
چرا وزن‌های ۴ بیتی به همین بند تعلق دارند
چون گلوگاه پهنای باند حافظه است، کوچک‌کردن وزن‌ها اهرمی مستقیم برای سرعت است، نه فقط برای ردپای حافظه. NVFP4 یک قالب ممیز شناور ۴ بیتی با مقیاس‌دهی ریزدانه به‌ازای هر بلوک است و همین است که می‌گذارد دقتی را نگه دارد که طرح‌های کوانتیزاسیون صحیح ۴ بیتی قدیمی‌تر از دست می‌دادند. تقریباً یک‌چهارم بایت برای خواندن در هر گذر رو به جلو یعنی به‌نسبت زمان کمتری در انتظار حافظه، و فضای بسیار بیشتری برای کش KV کانتکست بلند که پنجره ۱۹۶ هزار توکنی می‌طلبد.
این دو به‌جای جمع‌شدن، در هم ضرب می‌شوند: بایت کمتر در هر گذر و گذر کمتر به‌ازای هر توکن منتشرشده. همین است که استریم بی‌دروازه و با سرعت کامل را از نظر سرویس‌دهی مقرون‌به‌صرفه می‌کند، نه هزینه‌ای که مجبور باشیم با ضرباهنگ‌دهی پس بگیریم — که دقیقاً همان کاری بود که لایه ضرباهنگ در نسخه ۳.۰ می‌کرد.
04۱۹۶٬۶۰۸ توکن: یک پنجره ۶ برابری چه چیزی را باز می‌کند
Shannon 3.0 پنجره‌ای ۳۲٬۷۶۸ توکنی داشت: یک جلسه کاری، نه یک سند. تقریباً ۷۰ تا ۸۰ صفحه نثر، منهای هر چه حلقه استدلال برای تفکر خودش مصرف می‌کند، منهای پرامپت سیستمی شما، منهای گفت‌وگوی تا این لحظه. کار واقعی دائم به آن دیوار می‌خورد و راه‌حل‌های دورزننده — تکه‌تکه‌کردن، خلاصه‌سازی، بازیابی روی مواد خودتان — همگی همان چیزی را تخریب می‌کنند که می‌خواستید حفظ کنید. ۱۹۶٬۶۰۸ توکن رده دیگری از مسئله است.
مشخصاً، این در حدود ۴۰۰ تا ۵۰۰ صفحه متن انگلیسی است، یا یک کدبیس متوسط با تست‌ها و README آن، یا یک سال یادداشت جلسات یک پروژه، یا یک مجموعه قرارداد کامل با همه پیوست‌هایش — نگه‌داشته در یک گفت‌وگو، قابل‌پرسش در یک پرسش، بدون هیچ لایه تکه‌تکه‌کردنی میان شما و مواد.
- پرسش‌های در سطح کل مخزن. کد را بارگذاری کنید و بپرسید چرا یک باگ به تولید می‌رسد، به‌جای چسباندن سه فایلی که از پیش به آن‌ها مشکوک بودید. مدل می‌تواند فایلی را پیدا کند که به فکرتان نرسید واردش کنید.
- تحلیل سند بلند بدون بازیابی. بازیابی یک پیش‌فیلتر اتلافی است که تصمیم می‌گیرد مدل اجازه دیدن چه چیزی را دارد. در ۱۹۶ هزار توکن اغلب می‌توانید از آن بگذرید و بگذارید مدل همه‌چیز را بخواند، که یک رده کامل از خطاها را حذف می‌کند: خطایی که در آن بند درست هرگز بازیابی نشده بود.
- گفت‌وگوهایی که منسجم می‌مانند. یک جلسه کاری بلند دیگر بی‌سروصدا آغاز خودش را دور نمی‌ریزد. محدودیت‌هایی که در پیام سوم گذاشتید در پیام هشتادم هم برقرارند.
- جا برای حلقه استدلال. تفکر، پیش‌نویس و بازبینی خود حلقه هم کانتکست مصرف می‌کند. در نسخه ۳.۰ آن گام‌ها بر سر بودجه‌ای کمیاب با مواد شما رقابت می‌کردند. در نسخه ۳.۱ راحت جا می‌شوند و بخشی از دلیل هم‌زمان‌بودن بهبود کیفیت و افزایش پنجره همین است.
- ورودی‌های ترکیبی بزرگ. تصاویر، متن استخراج‌شده از سند و کد در یک نوبت، بدون اینکه مجبور باشید تصمیم بگیرید کدامشان را می‌توانید بگنجانید.
یک هشدار صادقانه که درباره هر مدل کانتکست‌بلندی، از جمله مال ما، صدق می‌کند: پنجره بزرگ یک ظرفیت است، نه تضمینِ توجه یکنواخت در سراسر آن. ساختاردهی همچنان کمک می‌کند. گذاشتن پرسش نزدیک انتها، برچسب‌زدن به اسنادتان و گفتن به مدل که دنبال چه بگردد، همگی نتایج را در ۱۵۰ هزار توکن به‌شکل قابل‌اندازه‌گیری بهتر می‌کنند، به‌گونه‌ای که در ۵ هزار توکن اصلاً چنین نیست.
05Lite و Pro: shannon-3.1 و shannon-3.1-pro
دو رده در میزان اجرای حلقه استدلال تفاوت دارند و این تنها تفاوتی است که برای انتخاب میانشان اهمیت دارد.
| shannon-3.1 (Lite) | shannon-3.1-pro (Pro) | |
|---|---|---|
| استدلال | یک گذر | حلقه کامل + برداشت دانش |
| بازبینی خود | ندارد | دارد |
| پنجره متنی | 196,608 | 196,608 |
| استریم | سرعت کامل، بدون دروازه | سرعت کامل، بدون دروازه |
| بینایی و اسناد | دارد | دارد |
| ابزار تولید تصویر | دارد | دارد |
| مناسب برای | بیشتر کارها، حجم بالا | پرسش‌های دشوار، جایی که پیش‌نویس اول کافی نیست |
به‌طور پیش‌فرض از Lite استفاده کنید. یک گذر از یک مدل استدلالی خوب اکثریت بزرگ درخواست‌های واقعی را پوشش می‌دهد و روی نسخه ۳.۱ چنان سریع است که دیگر انتظارِ حلقه را حس نمی‌کنید. سراغ Pro بروید وقتی پرسش از آن‌هایی است که نخستین پاسخ معمولاً به‌شکلی آموزنده غلط است: مصالحه‌های معماری، تحلیل تخاصمی، هر چیزی که دلتان می‌خواهد یک همکار توانا یک شب رویش بخوابد. گام بازبینی خودِ Pro تزئینی نیست — مدل خطاهای خودش را پیش از شما پیدا می‌کند.
06افزایش ۳۲ درصدی هوشمندی و چگونگی خواندن آن
ارزیابی داخلی Shannon Lab، Shannon 3.1 را در ۳۲٪ بهبود هوشمندی نسبت به Shannon 3.0 قرار می‌دهد. می‌خواهیم روشن باشیم که این چیست و چه نیست.
این عدد ماست، از مجموعه ارزیابی داخلی‌مان، اندازه‌گیری‌شده روی وظایفی که آن‌ها را نماینده چیزی می‌دانیم که مردم واقعاً به این مدل‌ها می‌آورند. این یک بنچمارک شخص ثالث نیست و ما نه جدول رتبه‌بندی حول یک عدد کلی داخلی می‌سازیم و نه تفکیک بنچمارک‌به‌بنچمارک منتشر می‌کنیم — تفکیک، سطحی از قابلیت مقایسه بیرونی را القا می‌کند که یک مجموعه داخلی ندارد.
چیزی که می‌گوییم این است که بهبود از کجا می‌آید، چون آن بخش رازآلود نیست. پنجره متنی بزرگ‌تر یعنی پیش از استدلال مدل، مواد کمتری باید دور ریخته شود، و بخش بزرگی از آنچه در جلسات بلند به‌نظر کم‌هوشی می‌رسد در واقع فراموشی است. پشته سرویس‌دهی‌ای که خودمان کنترل می‌کنیم یعنی مدل با پیکربندی موردنظر ما اجرا می‌شود، نه با پیش‌فرض یک میزبان. و حلقه استدلال — که در طراحی بدون تغییر مانده — اکنون جا دارد که واقعاً درون پنجره اجرا شود، به‌جای اینکه به سقف ۳۲ هزار توکنی فشرده شود که با ورودی شما مشترک بود.
مفیدترین بنچمارک برای شما، بنچمارک خودتان است. یک درخواست از بار کاری واقعی‌تان بردارید — نه یک معما، یک درخواست واقعی — و آن را روی shannon-3 و سپس shannon-3.1 اجرا کنید. پاسخ‌ها را مقایسه کنید و زمانشان را بگیرید. اعداد ما میانگینی روی یک مجموعه را توصیف می‌کنند؛ درخواست شما همان چیزی است که باید بهتر شود.
07بینایی، اسناد و تولید تصویر
Shannon 3.1 تصاویر و اسناد را می‌خواند. اسکرین‌شات‌ها، نمودارها، عکس‌ها، صفحات اسکن‌شده، PDFها و اسناد متنی می‌توانند وارد گفت‌وگو شوند و در کنار بقیه چیزها مورد استدلال قرار گیرند. در ترکیب با پنجره ۱۹۶ هزار توکنی، همین است که جریان‌های کاری در سطح کل سند را عملی می‌کند: یک گزارش بلند و نمودارهایش در یک نوبت، بدون اینکه از پیش تصمیم بگیرید مدل اجازه دیدن کدام صفحات را دارد.
تولید و ویرایش تصویر در چت و به‌صورت یک ابزار در دسترس است. تصویری بخواهید و مدل ابزار را همان‌جا، در همان گفت‌وگو و با کانتکست همه آنچه تا اینجا گفته شده فرا می‌خواند. ویرایش هم به همین شکل کار می‌کند — تصویری بدهید و تغییر را توصیف کنید. نه حالت جداگانه‌ای هست که به آن سوئیچ کنید و نه رابط جداگانه‌ای که یاد بگیرید.
08فراخوانی Shannon 3.1 از API
Shannon 3.1 روی هر سه گویش API در دسترس است، با استریم روی هر کدام. مدل‌های یکسان، سه شکل درخواست — هر کدام را که با SDK موجودتان می‌خواند انتخاب کنید.
| نقطه پایانی | شکل | استریم |
|---|---|---|
| /v1/chat/completions | سازگار با OpenAI | دارد |
| /v1/messages | سازگار با Anthropic | دارد |
| /v1/responses | Responses | دارد |
{
"model": "shannon-3.1",
"stream": true,
"messages": [
{ "role": "user", "content": "Summarize this contract set and flag anything unusual." }
]
}برای اجرای حلقه استدلال کامل، "shannon-3.1" را با "shannon-3.1-pro" عوض کنید. اگر همین حالا shannon-3 را فرا می‌خوانید، مهاجرت فقط شناسه مدل است و نه چیز دیگر: شکل درخواست و پاسخ تغییری نکرده و کلاینت‌های استریم موجود به کارشان ادامه می‌دهند. تنها تفاوت رفتاری که باید انتظارش را داشته باشید همان استریم انفجاری‌تری است که در بخش ۰۲ توصیف شد — همان توکن‌ها، همان ترتیب، که زودتر و در تکه‌های کم‌یکنواخت‌تر می‌رسند.
مرجع کامل پارامترها، احراز هویت، معناشناسی خطا و یک محیط تعاملی در مستندات API آمده است. کارت‌های مدل دیگر و نوشته‌های فنی در پژوهش Shannon هستند.
09همچنان بدون سانسور، و در این زمینه بدون تغییر
Shannon 3.1 هیچ لایه رد درخواست و هیچ فیلتر محتوایی روی خروجی ندارد. این همان موضعی است که بقیه خط تولید Shannon دارد و با انتقال به خوشه خودمان تغییر نکرد — اگر چیزی باشد، کنترل پشته سرویس‌دهی تضمینش را آسان‌تر می‌کند، چون هیچ میزبان واسطی با سیاست خودش میان مدل و شما نایستاده است.
ارزش دارد صریح بگوییم، چون درباره انتشاری که کل مسیر خروجی را عوض کرده این پرسش بدیهی است: برداشتن لایه ضرباهنگ به‌معنای جاگذاری یک لایه نظارت محتوا به‌جای آن نبود. هیچ چیزی استریم را بازرسی، بازنویسی یا دروازه‌بانی نمی‌کند. آنچه مدل تولید می‌کند همان است که می‌رسد. تا جایی که ما می‌دانیم، Shannon 3.1 سریع‌ترین مدل هوش مصنوعی بدون سانسور در دسترس با پنجره متنی در این ابعاد است — و این دو ویژگی به هم مربوط‌اند، چون هر دو از اجرای زیرساخت خودمان می‌آیند، نه از اجاره‌کردن ظرفیتی که به‌شکل انطباق مقرراتی قالب‌گیری شده است.
بدون سانسور با بدون پاسخ‌گویی یکی نیست. استفاده تابع سیاست استفاده مسئولانه ماست و تعهدی که همراه مدلی می‌آید که با مواد دشوار درگیر می‌شود این است که شما مسئولانه با آن درگیر شوید.
10خودتان مقایسه را انجام دهید
هر ادعای اینجا در حدود دو دقیقه قابل‌بررسی است و ترجیح می‌دهیم بررسی کنید تا اینکه حرفمان را باور کنید.
- درخواستی از کاری که واقعاً انجام می‌دهید انتخاب کنید. بلندتر بهتر است — هم پنجره و هم استریم را به کار می‌گیرد.
- آن را روی
shannon-3اجرا کنید. زمان تا نخستین توکن و زمان تا تکمیل پاسخ را یادداشت کنید. - همان درخواست را عیناً روی
shannon-3.1اجرا کنید. همان دو عدد را یادداشت کنید. - سپس هر دو پاسخ را بخوانید، ساعت را نادیده بگیرید و تصمیم بگیرید کدام را می‌خواستید.
تفاوت سرعت بی‌درنگ و آشکار خواهد بود. تفاوت کیفیت آن چیزی است که ارزش تأمل دارد — و روی ورودی‌های بلند روشن‌تر از همه‌جا خود را نشان می‌دهد، جایی که نسخه ۳.۰ بی‌سروصدا با بخش کمتری از مواد شما کار می‌کرد تا آنچه گمان می‌بردید.
11پرسش‌های پرتکرار
Shannon 3.1 چیست؟
Shannon 3.1 نسخه فعلی خانواده Shannon 3 است. همان حلقه استدلال تکرارشونده را نگه می‌دارد — فکر کردن، پیش‌نویس، بازبینی خود، بهبود — اما آن را به‌صورت بومی روی خوشه GPU خودمان اجرا می‌کند و نه روی یک میزبان استنتاج شخص ثالث. ارزیابی داخلی Shannon Lab ۳۲٪ بهبود در هوشمندی و پاسخ‌های ۱۰ تا ۱۵ برابر سریع‌تر نسبت به Shannon 3.0 را اندازه می‌گیرد، در حالی که پنجره متنی از ۳۲٬۷۶۸ به ۱۹۶٬۶۰۸ توکن رسیده است.
Shannon 3.1 چقدر از Shannon 3.0 سریع‌تر است؟
بر پایه ارزیابی داخلی Shannon Lab، بین ۱۰ تا ۱۵ برابر سریع‌تر در پاسخ سرتاسری. دو عامل در کار است. خروجی Shannon 3.0 از یک لایه تنظیم ضرباهنگ می‌گذشت که عمداً نرخ استریم را محدود می‌کرد؛ Shannon 3.1 نه محدودکننده سرعت دارد و نه ضرباهنگ‌دهی نمایش، بنابراین توکن‌ها به همان سرعتی که موتور تولیدشان می‌کند به شما می‌رسند. خود موتور هم سریع‌تر است: وزن‌های ۴ بیتی NVFP4 به‌همراه رمزگشایی گمانه‌زنانه روی خوشه GPU خودمان.
پنجره متنی Shannon 3.1 چقدر بزرگ است؟
۱۹۶٬۶۰۸ توکن، یعنی ۶ برابر بیشتر از ۳۲٬۷۶۸ توکن موجود در Shannon 3.0. این تقریباً معادل ۴۰۰ تا ۵۰۰ صفحه متن یا یک کدبیس متوسط است که در یک گفت‌وگوی واحد و بدون تکه‌تکه‌کردن یا بازیابی نگه داشته می‌شود.
رمزگشایی گمانه‌زنانه چیست و چرا اینجا اهمیت دارد؟
یک مدل پیش‌نویس کوچک و سریع دنباله‌ای از توکن‌های محتمل بعدی را پیشنهاد می‌دهد و مدل اصلی همه آن‌ها را در یک گذر دسته‌ای واحد تأیید می‌کند. توکن‌های پذیرفته‌شده بی‌درنگ منتشر می‌شوند؛ توکن‌های ردشده به رمزگشایی معمولی برمی‌گردند. خروجی همان چیزی است که مدل اصلی به‌تنهایی تولید می‌کرد، اما به‌جای یک توکن، چند توکن در هر گام تأیید به دست می‌آید. همین است که استریم با سرعت کامل را مقرون‌به‌صرفه می‌کند و نه یک مسئله هزینه‌ای.
آیا Shannon 3.1 بدون سانسور است؟
بله. Shannon 3.1 هیچ لایه رد درخواست و هیچ فیلتر محتوایی روی خروجی‌اش ندارد، درست مانند بقیه خط تولید Shannon. حذف لایه تنظیم ضرباهنگ به‌معنای جایگزین‌کردن آن با یک لایه نظارت محتوا نبود — استریمی که دریافت می‌کنید خروجی خود مدل است.
شناسه‌های مدل کدام‌اند و Shannon 3.1 را کجا می‌توانم استفاده کنم؟
shannon-3.1 رده Lite است و shannon-3.1-pro رده Pro. هر دو در چت و روی هر سه گویش API در دسترس‌اند: /v1/chat/completions (به شکل OpenAI)، /v1/messages (به شکل Anthropic) و /v1/responses. استریم روی هر سه کار می‌کند.
تفاوت shannon-3.1 و shannon-3.1-pro چیست؟
Lite یک گذر از حلقه استدلال را اجرا می‌کند: فکر می‌کند، سپس پاسخ می‌دهد. Pro حلقه کامل را اجرا می‌کند — فکر، پیش‌نویس، بازبینی خود، بهبود — به‌همراه یک گام برداشت دانش پیش از پیش‌نویس. Lite گزینه پیش‌فرض درست برای بیشتر کارهاست؛ Pro برای پرسش‌هایی است که معمولاً نخستین پاسخ بهترین پاسخ نیست.
Shannon 3.1 را امتحان کنید
همان حلقه استدلال. شش برابر پنجره. بدون محدودکننده سرعت.
شروع گفت‌وگو مطالعه مستندات APIshannon-3.1 · shannon-3.1-pro · استریم روی هر سه گویش
ارقام کارایی و هوشمندی در این مقاله اندازه‌گیری‌های داخلی خود Shannon Lab از ارزیابی درون‌سازمانی در سپتامبر ۲۰۲۶ هستند و به‌عنوان ارقام محصول بیان شده‌اند، نه نتایج بنچمارک شخص ثالث. پنجره متنی، شناسه‌های مدل و در دسترس بودن API مشخصات محصول‌اند. Shannon AI توسط Shannon Lab LLC در نیومکزیکو، ایالات متحده اداره می‌شود. مطالعه مرتبط: Shannon 3 · نمایه پژوهش Shannon · مستندات API.