We do not hold or access any user's data, and we do not suspend accounts unless a lawful authority requires an enforcement action.

मोडेल कार्ड · Laguna S 2.1 · W4A16-AUTOROUND-REAP

सेन्सर नगरिएको Laguna API

Laguna S 2.1 — कुनै अस्वीकृति तहविना, 262K सन्दर्भ विन्डो र टुल कलिङसहित सेवा दिइएको 118B Mixture-of-Experts आधार — प्रति दस लाख टोकन $0.50 इन / $2.00 आउट को भुइँतल मूल्य मा।

सेप्टेम्बर 5, 2026 मा अद्यावधिकमोडेल कार्डआधार: Poolside Laguna S 2.1

संक्षेपमा

सेन्सर नगरिएको Laguna API ले Poolside को Laguna S 2.1 चलाउँछ — कुल 118B प्यारामिटर, प्रति टोकन करिब 8B सक्रिय, OpenMDW-1.1 अन्तर्गत खुला वेट — जसलाई AutoRound र REAP सहित W4A16 मा क्वान्टाइज गरी हाम्रो आफ्नै GPU क्लस्टरमा सेवा दिइएको छ। तपाईंले 262,144-टोकन को सन्दर्भ, प्रति अनुरोध 16,384 आउटपुट टोकन, स्ट्रिमिङ, टुल कलिङ, reasoning_effort, र कुनै आउटपुट फिल्टरिङ नभएको अवस्था पाउनुहुन्छ। सुरुमै भनिने एउटा चेतावनी: हाम्रो सूचीमा json_schema र response_format दुवै समर्थन नगर्ने एउटै मोडेल यही हो। तपाईंलाई ग्यारेन्टीसहितको JSON चाहिन्छ भने सहोदर लिनुहोस् — MiMo-V2.5 को Pro बिल्डले उही मूल्यमा त्यो गर्छ।

अधिकांश "सस्तो मोडेल" पृष्ठले कम अङ्कको बदलामा सानो, थकित आधार स्वीकार गर्न भन्छन्। यसले भन्दैन। Laguna S 2.1 वर्तमान पुस्ताको विरल Mixture-of-Experts रिलिज हो, जुन 4,096 H200 मा तालिम पाएर नौ हप्ताभित्रै पठाइयो, र यो हामीले सेवा दिने अरू हरेक प्रवेश-तहको मोडेलकै $0.50 / $2.00 भुइँतलमा बस्छ। साटफेर साँघुरो र सजिलै बुझ्न सकिने छ: तपाईं सर्भरले लागू गर्ने संरचित आउटपुट छाड्नुहुन्छ र बाँकी सबै राख्नुहुन्छ।

01Laguna S 2.1 भनेको के हो?

Laguna S 2.1 Poolside ले जुलाई 21, 2026 मा उदार OpenMDW-1.1 लाइसेन्स अन्तर्गत जारी गरेको खुला-वेट मोडेल हो — Laguna परिवारको मध्यम आकारको सदस्य, Laguna XS 2.1 (33B/3B सक्रिय) र Laguna M.1 (225B/23B सक्रिय) बीचको।

118B

कुल प्यारामिटर

~8B

सक्रिय / टोकन

256+1

विशेषज्ञ (top-10)

262K

Shannon मा सन्दर्भ

प्रकाशित वास्तुकला 256 राउट हुने विशेषज्ञ र एउटा साझा विशेषज्ञ माथि सफ्टप्लस गेटिङ गर्ने टोकन-छनौट राउटर हो, प्रति टोकन दसवटा छानिन्छन्, 48 तह भरि — बाह्र ग्लोबल-अटेन्सन, छत्तीस 512-टोकनको विन्डोमा स्लाइडिङ-विन्डो, र यो आलोपालोले धेरै लामा इनपुटको अटेन्सन लागत वर्गाकार नभई झन्डै रैखिक राख्छ। अटेन्सन ग्रुप्ड-क्वेरी हो, हेड आयाम 128 मा 8 की-भ्यालु हेड सहित।

API प्रयोगकर्ताका लागि दुई परिणाम महत्त्वपूर्ण छन्। विरल एक्टिभेसनकै कारण 118B को मोडेल भुइँतल मूल्यमा बस्न सक्छ — प्रति टोकन करिब 8B प्यारामिटर मात्र काम गर्छन्, त्यसैले प्रति टोकन कम्प्युट प्यारामिटर सङ्ख्याले सुझाएभन्दा सानो घना मोडेलको नजिक हुन्छ। र स्लाइडिङ-विन्डो आलोपालोकै कारण लामो विन्डो नाममात्रको नभई साँच्चै प्रयोगयोग्य हुन्छ। Poolside को रिलिजले 1,048,576 टोकन समर्थन गर्छ; हामी 262,144 सेवा दिन्छौं, जुन गेटवेका अरू हरेक मोडेलसँग मिल्छ।

02एउटै चेतावनी: संरचित आउटपुट छैन

इन्टिग्रेट गर्नुअघि यो पढ्नुहोस्

Shannon AI मा Laguna S 2.1 ले json_schema र response_format दुवै स्वीकार गर्दैन। हाम्रो बाह्र-मोडेलको सूचीमा संरचित-आउटपुट समर्थनविनाको एउटै मोडेल यही हो; ती मध्ये कुनै प्यारामिटर पठाउँदा तपाईंले स्किमा-बद्ध जवाफ पाउनुहुन्न। टुल कलिङ काम गर्छ। स्ट्रिमिङ काम गर्छ। तर्क काम गर्छ। सर्भरले लागू गर्ने आउटपुट आकार मात्र छैन।

के अझै काम गर्छ। टुल कलिङ पूर्ण रूपमा समर्थित छ, र टुल-कलका तर्क यहाँका अरू कुनै पनि मोडेलमा जस्तै ठ्याक्कै JSON वस्तुका रूपमा आउँछन्। तपाईंको एप्लिकेसनको "संरचित आउटपुट" वास्तवमा टुल तर्क हो भने — अधिकांश एजेन्ट फ्रेमवर्क, MCP सर्भर र डेटाबेस फ्रन्ट-एन्डका लागि यही सत्य हो — Laguna S 2.1 ले तपाईंलाई राम्रोसँग सेवा दिन्छ। तीनै बोलीमा स्ट्रिमिङ काम गर्छ; reasoning_effort काम गर्छ।

के गर्दैन। तपाईंले एन्डपोइन्टलाई JSON स्किमा दिएर सहायकको पाठ जवाफ त्यससँग प्रमाणित हुने ग्यारेन्टी पाउन सक्नुहुन्न, र response_format: {"type": "json_object"} ले तपाईंलाई केही दिँदैन। JSON माग्दा प्राय: JSON आउँछ — यो सक्षम मोडेल हो — तर "प्राय:" करार होइन। Poolside आफैंले गहिरो नेस्टेड टुल कलमा गलत JSON एस्केपिङलाई ज्ञात सीमाका रूपमा कागजात गर्छ, र यसले सम्झाउँछ कि हाम्रो सूचीमा अन्यत्र जहाँ ग्यारेन्टी छ, त्यो मोडेलको सद्भावबाट होइन, सेवा तहबाट आउँछ।

त्यसको सट्टा कुन सहोदर प्रयोग गर्ने

तपाईंको कार्यभारलाई ग्यारेन्टीसहितको JSON चाहिन्छ भने यो मोडेलसँग नझगडिनुहोस् — मोडेल id बदल्नुहोस्। चार सहोदर पूर्ण json_schema र response_format समर्थनसहित उही $0.50 / $2.00 मूल्यमा बस्छन्:

मोडेल id	json_schema	भिजन	किन छान्ने
MiMo-V2.5-Pro-W8A16	छ	छैन	सिधा साटो — 8-बिट वेट, सर्वोच्च निष्ठाको तह, उही मूल्य
MiMo-V2.5-W8A16	छ	छ	उही, थपमा तस्बिर इनपुट
Hy3-W8A16	छ	छैन	भुइँतल मूल्यमा अर्को 8-बिट पाठ मोडेल
DeepSeek-V4-Flash-0731	छ	छैन	Laguna कै जस्तै W4A16-AutoRound-REAP, स्किमा समर्थन यथावत्

स्वाभाविक पूर्वनिर्धारित MiMo-V2.5-Pro (W8A16) हो: पाठ-मात्र, भुइँतल मूल्यमा, हामीले चलाउने सबैभन्दा नरम तहमा क्वान्टाइज गरिएको — विवरण MiMo-V2.5 मोडेल कार्ड मा। बाह्रै मोडेलले एन्डपोइन्ट, सन्दर्भ विन्डो र आउटपुट सिलिङ बाँड्ने भएकाले, साट्नु model फिल्डमा एक-लाइनको परिवर्तन मात्र हो।

03W4A16-AUTOROUND-REAP को अर्थ के हो?

मोडेल id मा भएको प्रत्यय सजावट होइन — हाम्रो GPU क्लस्टरमा लोड गर्नुअघि वेट ठ्याक्कै कसरी सङ्कुचित गरिए भन्ने यसले बताउँछ। तीन भाग।

W4A16 — 4-बिट वेट, 16-बिट एक्टिभेसन

वेट 4 बिटमा भण्डारण हुन्छन्; एक्टिभेसन — इन्फरेन्सको समयमा तहबीच बग्ने मान — 16 मै रहन्छन्। वेटलाई तिनको BF16 खपतको चौथाइमा घटाउनुले नै 118B को मोडेललाई अट्न र छिटो रहन दिन्छ, जबकि एक्टिभेसन फराकिलो राख्नुले फर्वार्ड पासको सङ्ख्यात्मक रूपमा संवेदनशील भाग जोगाउँछ। जे ठूलो र स्थिर छ त्यसलाई सङ्कुचित गर्नुहोस्, जे सानो र गतिशील छ त्यसलाई छाडिदिनुहोस्।

AutoRound — नजिकको होइन, सिकिएको राउन्डिङ

क्वान्टाइज गर्ने साधारण तरिका नजिकको-पूर्णाङ्क राउन्डिङ हो: हरेक वेटलाई नजिकको 4-बिट मानमा टाँस्नुहोस्, त्रुटि स्वीकार गर्नुहोस्। Intel को खुला पोस्ट-ट्रेनिङ क्वान्टाइजेसन टुलकिट AutoRound ले त्योभन्दा राम्रो गर्छ — यसको SignRound विधिले केही सय चरणमा राउन्डिङ निर्णय र क्लिपिङ दायरा संयुक्त रूपमा अनुकूलन गर्न चिह्नित ग्रेडिएन्ट अवरोहण प्रयोग गर्छ, र प्रति वेट माथि वा तल राउन्ड गर्दा तहको वास्तविक आउटपुटमा कमजोर क्षति हुन्छ भन्ने निर्णय गर्छ। यसले क्वान्टाइजेसन-सचेत तालिमको विचार पुन:तालिमको लागतविनै सापटी लिन्छ, र यही कारण W4A16 बिल्ड ह्रासयुक्त कौतुक नभई गम्भीर मोडेल हुन सक्छ।

REAP — विशेषज्ञ मर्ज होइन, प्रुन गर्ने

REAP भनेको Router-weighted Expert Activation Pruning हो, जुन Cerebras Research ले प्रकाशित गर्‍यो। MoE मोडेलमा सबै विशेषज्ञले आफ्नो भार बोक्दैनन्: राउटरले कतिपयलाई थोरै टोकन पठाउँछ, र कतिपयले सक्रिय हुँदा पनि थोरै परिमाण योगदान गर्छन्। REAP ले प्रत्येक विशेषज्ञलाई दुवै सङ्केतमा — राउटर गेट मान र विशेषज्ञ एक्टिभेसन नर्म — अङ्क दिन्छ र कम-प्रमुखतालाई क्वान्टाइजेसनअघि एकै पटकमा हटाइदिन्छ। महत्त्वपूर्ण कुरा, यसले मर्ज होइन, प्रुन गर्छ: मर्जिङले धेरै विशेषज्ञलाई एउटैमा खुम्च्याउँछ, राउटरको सूक्ष्म, इनपुट-निर्भर नियन्त्रण नष्ट गर्छ र कुनै ट्युनिङले नहटाउने त्रुटि भुइँतल ल्याउँछ (लेखकहरू यसलाई कार्यात्मक उपस्थान पतन भन्छन्), जबकि प्रुनिङले बाँचेकाहरू र तिनमाथिको राउटरको नियन्त्रण यथावत् राख्छ। Cerebras ले ट्रिलियन-प्यारामिटरका मोडेलबाट 50% सम्म विशेषज्ञ हटाउँदा पनि आधारभूत गुणस्तर धेरै हदसम्म कायम रहेको रिपोर्ट गर्छ — 480B को कोडर मोडेलमा 50% प्रुनिङमा, आधारभूत गैर-एजेन्टिक कोडिङ क्षमताको 97.6% र एजेन्टिक SWE-Bench मा 96.7%। ती Cerebras का आफ्नै मोडेलका आँकडा हुन्, हाम्रो बिल्डका नाप होइनन्, तर मुख्य बल कोड भएको आधारमाथि हामी यो स्ट्याक किन चलाउँछौं भन्ने कारण तिनै हुन्।

सँगै पढ्दा प्रत्यय एउटा वाक्यजस्तै सुनिन्छ: बिरलै प्रयोग भएका विशेषज्ञ प्रुन गर, 4-बिट राउन्डिङ अनुमान नगरी सिक, र एक्टिभेसन पूरै चौडाइमा राख।

04यो मोडेल वास्तवमा केमा राम्रो छ?

पहिले इमानदारी: Laguna S 2.1 पाठ-मात्रको संवादात्मक मोडेल हो — यो मोडेल id मा भिजन इनपुट छैन — र Poolside ले यसलाई गद्यका लागि होइन, एजेन्टिक कोडिङ र लामो-क्षितिजको काम का लागि बनायो। पोस्ट-ट्रेनिङ 409,000 भन्दा बढी वातावरणमा चल्यो, जसमा 83,000 टर्मिनल र 168,000 सफ्टवेयर-इन्जिनियरिङ कार्य थिए, र FP8 मा सुदृढीकरण सिकाइ भयो। क्वान्टाइज नगरिएको रिलिजका लागि Poolside ले रिपोर्ट गरेका नतिजा:

बेन्चमार्क	सोच्दै	नसोची	यसले के नाप्छ
SWE-Bench Multilingual	78.5%	—	धेरै भाषाभरि वास्तविक बग सुधार
Terminal-Bench 2.1	70.2%	60.4%	बहु-चरण सेल र टुलिङ काम
SWE-Bench Pro	59.4%	—	कठिन, प्रदूषण-प्रतिरोधी रिपो कार्य
Toolathlon Verified	49.7%	—	धेरै API भरि टुल-प्रयोगको फैलावट
SWE Atlas	46.2%	—	लामो-क्षितिजको रिपोजिटरी नेभिगेसन
DeepSWE v1.1	40.4%	16.5%	एजेन्टिक सफ्टवेयर इन्जिनियरिङ

यहाँको सबैभन्दा कार्ययोग्य सङ्ख्या दुई स्तम्भबीचको अन्तर हो: तर्क सक्षम पार्दा DeepSWE मा अङ्क दोब्बरभन्दा बढी हुन्छ, र Terminal-Bench मा झन्डै दस बिन्दु बढ्छ।

Terminal-Bench · सोच्दै70.2

Terminal-Bench · सिधै60.4

DeepSWE · सोच्दै40.4

DeepSWE · सिधै16.5

क्वान्टाइज नगरिएको Laguna S 2.1 रिलिज, जुलाई 2026 का लागि Poolside ले रिपोर्ट गरेका आँकडा। ती हाम्रो W4A16-AutoRound-REAP बिल्डका नाप होइनन्, र हामी त्यसका लागि आफ्नै कुनै बेन्चमार्क सङ्ख्या प्रकाशित गर्दैनौं। हाम्रो API मा सोचाइ बजेट नियन्त्रण गर्न reasoning_effort प्रयोग गर्नुहोस्।

संवादात्मक र सिर्जनात्मक कामका लागि इमानदार अडान यो हो: लामा एजेन्टिक रनपछाडिका गुण — धेरै अवस्था सुसंगत रूपमा बोक्ने, कार्यमै टिक्ने, नबरालिने — लामो-रूपको चरित्र कामपछाडिका पनि तिनै हुन्, र व्यवहारमा यसले धेरै लामो विन्डोभरि स्वर राम्रोसँग कायम राख्छ। कुनै प्रकाशित बेन्चमार्कले त्यसो भन्दैन, र हामी बनाएर भन्दैनौं। आफ्नै प्रम्प्टमा परीक्षण गर्नुहोस्; प्रति दस लाख इनपुट टोकन $0.50 मा त्यो झन्डै नि:शुल्क हो।

05भुइँतल मूल्यले वास्तवमा के किन्छ?

प्रति दस लाख टोकन $0.50 इन / $2.00 आउट Shannon AI गेटवेको प्रवेश तह हो, जुन MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro र Hy3 सँग साझा छ। ठोस रूपमा:

कार्यभार	इनपुट	आउटपुट	लागत
100K इतिहाससहितको एउटा च्याट टर्न	100,000	2,000	$0.054
लामो ब्रिफबाट 5,000 शब्दको अध्याय	30,000	7,000	$0.029
1,000 छोटा संवादात्मक टर्न	4,000,000	500,000	$3.00
पूरै 262K-टोकनको सन्दर्भ पढाइ	262,144	16,384	$0.164

आत्मसात् गर्नुपर्ने पङ्क्ति अन्तिम हो: पूरै सन्दर्भ विन्डो भरेर अधिकतम 16,384-टोकनको प्रतिक्रिया उत्पादन गर्दा करिब सोह्र सेन्ट लाग्छ। पूरै पाण्डुलिपि, सत्रको ट्रान्सक्रिप्ट, वा कागजातको सङ्ग्रह एउटै कलमा खुवाउनु बजेटको निर्णय हुन छाडेर लेटेन्सीको निर्णय बन्छ। उही गणितले भुइँतल मूल्यको अर्को प्रयोग पनि चलाउँछ — मात्रा: ब्याच वर्गीकरण, थोक पुनर्लेखन, सिंथेटिक संवाद, र पछि बलियो मोडेलले परिष्कृत गर्ने पहिलो-पासको मस्यौदा। मूल्य पृष्ठ र अनुसन्धान अनुक्रमणिका हेर्नुहोस्।

06यहाँ "सेन्सर नगरिएको" को अर्थ के हो

यसको अर्थ जे भनिन्छ त्यही हो: कुनै अस्वीकृति तह छैन र आउटपुटमा कुनै सामग्री फिल्टरिङ छैन। तपाईंलाई सोध्न अनुमति थियो कि थिएन भनी निर्णय गर्दै मोडेल र तपाईंको प्रतिक्रियाबीच कुनै क्लासिफायर बस्दैन; मोडेलले तपाईंले मागेकै शैलीमा जवाफ दिन्छ र पहिले आधारबारे भाषण दिँदैन।

सिर्जनात्मक कामका लागि त्यही नै प्रयोगयोग्य र अनुपयोगी उपकरणबीचको फरक हो। कथासाहित्यमा डरलाग्दा खलनायक, विश्वसनीय ढङ्गले झुट बोल्ने पात्र, परिणामसहितको हिंसा, नैतिक रूपमा दागी वाचक हुन्छन् — चरित्र तोडेर अस्वीकरण जोड्ने मोडेलले सुरक्षामा सफलता होइन, कार्यमा असफलता पाएको हो। सुरक्षा अनुसन्धान, रेड-टिम कागजात, चिकित्सकीय र कानुनी मस्यौदा, र स्रोत नै रुखो हुने अनुवादमा पनि यही लागू हुन्छ: यी ती कोटी हुन् जहाँ अस्वीकार सिधै गलत जवाफ हो। यसको अर्थ विवेक तपाईंको हुन छाड्छ भन्ने चाहिँ होइन — तपाईंले उत्पादन गर्नुभएको कुराका लागि तपाईं नै जिम्मेवार रहनुहुन्छ, हाम्रो जिम्मेवार प्रयोग नीति र लागू हुने कानुन अन्तर्गत।

07सेन्सर नगरिएको Laguna API कसरी बोलाउने

तीन बोली, एउटै मोडेल: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses। स्ट्रिमिङ तीनैमा काम गर्छ, त्यसैले अवस्थित इन्टिग्रेसन बेस URL र मोडेल id बदलेर सर्छ — कुनै SDK साट्नु पर्दैन, सन्देश ह्यान्डलिङ पुन:लेख्नु पर्दैन।

POST https://api.shannon-ai.com/v1/chat/completions

{
  "model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
  "messages": [
    { "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
    { "role": "user",   "content": "Open chapter nine." }
  ],
  "stream": true,
  "max_tokens": 4096,
  "reasoning_effort": "low"
}

केही व्यावहारिक टिप्पणी:

यो मोडेल id मा response_format वा json_schema नपठाउनुहोस् — तपाईंको क्लाइन्ट लाइब्रेरीले पूर्वनिर्धारित रूपमा कुनै सेट गर्छ भने त्यो हटाउनुहोस् वा समर्थन गर्ने सहोदरमा जानुहोस्।
टुल सामान्य tools एरेमै जान्छन् — टुल कलिङ पूर्ण रूपमा समर्थित छ; स्वतन्त्र-पाठमा स्किमा लागू गर्ने कुरा मात्र छैन।
आफ्नो तर्कको बजेट बनाउनुहोस्। reasoning_effort मानिन्छ — कम वा बन्द राख्दा संवादको लेटेन्सी घट्छ र आउटपुट टोकन सस्तो पर्छ; बहु-चरण टुल कामका लागि बढाउनुहोस्, जहाँ माथिको बेन्चमार्क अन्तरले त्यसले के किन्छ भन्ने देखाउँछ।
आउटपुट सिलिङ प्रति अनुरोध 16,384 टोकन हो। पुस्तक-लम्बाइको जेनेरेसनका लागि अध्यायमा बाँडेर स्ट्रिम गर्नुहोस्।
पाठ मात्र। यो मोडेल id मा तस्बिर इनपुट छैन — भिजनका लागि MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 वा inkling प्रयोग गर्नुहोस्।

पूर्ण प्यारामिटर सन्दर्भ, प्रमाणीकरण, त्रुटि अर्थविज्ञान र प्रत्यक्ष प्लेग्राउन्ड: API कागजात।

08कहिले छान्ने, र कहिले नछान्ने

यसलाई छान्नुहोस् जब तपाईंको आउटपुट मानिसले पढ्ने गद्य, संवाद वा कोड हो; तपाईंलाई टुल कलिङ चाहिन्छ तर स्किमा-बद्ध पाठ चाहिँदैन; लामो सन्दर्भमा प्रति टोकन लागत नै हावी हुन्छ; वा बाँकी सूची भरिने DeepSeek, Kimi र MiMo परिवारभन्दा फरक वंशबाट दोस्रो राय चाहनुहुन्छ।

अरू केही छान्नुहोस् जब तपाईंलाई ग्यारेन्टीसहितको JSON (MiMo-V2.5-Pro), तस्बिर बुझाइ (Kimi-K2.6 वा MiMo-V2.5), वा कठिनाइको अग्रपंक्ति चाहिन्छ जहाँ सही जवाफ पाउनुका अगाडि मूल्यको अन्तर अप्रासङ्गिक हुन्छ (DeepSeek-V4-Pro, Kimi-K3)।

उही मूल्यमा संरचित आउटपुट चाहिन्छ? MiMo-V2.5-Pro W8A16 मा चल्छ — हाम्रो सर्वोच्च निष्ठाको तह — उही $0.50 / $2.00 मा, json_schema र response_format दुवैसहित। MiMo-V2.5 मोडेल कार्ड पढ्नुहोस्, वा अनुसन्धान अनुक्रमणिका मा बाह्रै हेर्नुहोस्।

डिजाइनबाटै पारदर्शी

यहाँका हरेक वास्तुकलागत र बेन्चमार्क दाबी मोडेलका प्रकाशक वा सङ्कुचन विधिका लेखकबाट आएका हुन्। आफैं जाँच्नुहोस्।

Poolside — Laguna S 2.1 मोडेल कार्ड Introducing Laguna S 2.1 REAP — Cerebras Research AutoRound — Intel

09बारम्बार सोधिने प्रश्न

सेन्सर नगरिएको Laguna API भनेको के हो?

यो Poolside को खुला-वेट Laguna S 2.1 हो — 118 अर्ब प्यारामिटर, प्रति टोकन करिब 8 अर्ब सक्रिय — जुन Shannon को आफ्नै GPU क्लस्टरमा कुनै अस्वीकृति तह र आउटपुट फिल्टरविना सेवा दिइएको छ। मोडेल id Laguna-S-2.1-W4A16-AUTOROUND-REAP हो, सन्दर्भ विन्डो 262,144 टोकन छ, र यसको मूल्य प्रति दस लाख इनपुट $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 पर्छ।

के Shannon AI मा Laguna S 2.1 ले json_schema वा response_format समर्थन गर्छ?

गर्दैन। Shannon सूचीमा दुवै स्वीकार नगर्ने एउटै मोडेल यही हो। टुल कलिङ र स्ट्रिमिङ सामान्य रूपमा काम गर्छन् र टुल-कलका तर्क अझै JSON मै आउँछन्, तर सहायकको पाठ आउटपुटमा सर्भरले लागू गर्ने कुनै स्किमा हुँदैन। उही $0.50 / $2.00 मूल्यमा ग्यारेन्टीसहितको JSON का लागि MiMo-V2.5-Pro (W8A16) प्रयोग गर्नुहोस्।

W4A16-AUTOROUND-REAP को अर्थ के हो?

W4A16 को अर्थ वेट 4 बिटमा भण्डारण हुन्छन् जबकि एक्टिभेसन 16 बिटमै रहन्छन् भन्ने हो। AutoRound Intel को पोस्ट-ट्रेनिङ क्वान्टाइजेसन विधि हो, जसले नजिकको मानमा राउन्ड गर्नुको सट्टा राउन्डिङ र क्लिपिङ निर्णय सिक्न चिह्नित ग्रेडिएन्ट अवरोहण प्रयोग गर्छ। REAP Cerebras Research को Router-weighted Expert Activation Pruning हो, जसले Mixture-of-Experts मोडेलबाट बिरलै र कमजोर रूपमा राउट हुने विशेषज्ञलाई मर्ज गर्नुको सट्टा क्वान्टाइजेसनअघि हटाइदिन्छ।

के Laguna S 2.1 सिर्जनात्मक लेखन र कुराकानीका लागि राम्रो छ?

यो पाठ-मात्रको संवादात्मक मोडेल हो — भिजन इनपुट छैन — र यसले बीचमा कुनै अस्वीकृति तह नराखी 262K विन्डोभरि लामो, सुसंगत, चरित्रमै रहेको गद्य कायम राख्छ। Poolside को प्रकाशित बेन्चमार्क अभिलेख गद्यमा होइन, एजेन्टिक कोडिङमा छ, त्यसैले लिडरबोर्डमाथि भरोसा गर्नुभन्दा सिर्जनात्मक गुणस्तर आफ्नै प्रम्प्टमा परीक्षण गर्नुहोस्।

सेन्सर नगरिएको Laguna API को लागत कति पर्छ?

प्रति दस लाख इनपुट टोकन $0.50 र प्रति दस लाख आउटपुट टोकन $2.00 — Shannon AI गेटवेको भुइँतल मूल्य, जुन MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro र Hy3 सँग साझा छ। 2,000 टोकनको जवाफ उत्पादन गर्ने 100,000-टोकनको कुराकानीको लागत करिब 5.4 सेन्ट पर्छ।

सेन्सर नगरिएको Laguna API चलाएर हेर्नुहोस्

118B MoE · 262K सन्दर्भ · टुल र स्ट्रिमिङ · प्रति 1M टोकन $0.50 / $2.00।

API कागजात पढ्नुहोस् कुराकानी सुरु गर्नुहोस्

कुनै अस्वीकृति तह छैन · कुनै आउटपुट फिल्टरिङ छैन · तपाईंको विवेक, तपाईंकै जिम्मेवारी

स्रोत: Poolside — Laguna S 2.1 मोडेल कार्ड · Introducing Laguna S 2.1 · REAP the Experts (Cerebras Research) · Intel AutoRound। वास्तुकला र बेन्चमार्क आँकडा क्वान्टाइज नगरिएको रिलिजका लागि प्रकाशकले रिपोर्ट गरेका हुन्, हामीले सेवा दिने बिल्डका नाप होइनन्। Shannon AI लाई Shannon Lab LLC, New Mexico, USA ले सञ्चालन गर्छ।

All research links