असेन्सॉर्ड Laguna API

बहुतेक “स्वस्त मॉडेल” पाने कमी आकड्याच्या बदल्यात लहान, थकलेला आधार स्वीकारायला सांगतात. हे तसे नाही. Laguna S 2.1 हे चालू पिढीतले विरळ Mixture-of-Experts प्रकाशन आहे, 4,096 H200 वर प्रशिक्षित आणि नऊ आठवड्यांच्या आत पाठवलेले, आणि ते आम्ही सर्व्ह करत असलेल्या इतर प्रत्येक प्रवेश-स्तरीय मॉडेलच्या त्याच $0.50 / $2.00 तळावर बसते. अदलाबदल अरुंद आणि सहज समजण्याजोगी आहे: तुम्ही सर्व्हरने लादलेले संरचित आउटपुट सोडता आणि बाकी सर्व काही ठेवता.

01Laguna S 2.1 म्हणजे काय?

Laguna S 2.1 हे Poolside ने 21 जुलै 2026 रोजी उदार OpenMDW-1.1 परवान्याअंतर्गत प्रसिद्ध केलेले ओपन-वेट्स मॉडेल आहे — Laguna XS 2.1 (33B/3B सक्रिय) आणि Laguna M.1 (225B/23B सक्रिय) यांच्यामधले, Laguna कुटुंबातले मध्यम आकाराचे सदस्य.

प्रकाशित वास्तुरचना म्हणजे 256 राउटेड एक्सपर्ट अधिक एक सामायिक एक्सपर्ट यांवर सॉफ्टप्लस गेटिंग असलेला टोकन-निवड राउटर, प्रति टोकन दहा निवडलेले, 48 स्तरांवर — बारा स्तर सार्वत्रिक अटेन्शनचे, छत्तीस स्तर 512-टोकन विंडोवरच्या सरकत्या-खिडकीचे, आणि हे आलटून पालटून येण्यामुळे अतिशय लांब इनपुटचा अटेन्शन खर्च वर्गाच्या पटीऐवजी जवळजवळ रेखीय राहतो. अटेन्शन ग्रुप्ड-क्वेरी आहे, हेड आयाम 128 वर 8 की-व्हॅल्यू हेड सह.

API वापरणाऱ्यासाठी याचे दोन परिणाम महत्त्वाचे आहेत. विरळ सक्रियतेमुळेच 118B मॉडेल तळाच्या दरात बसू शकते — प्रति टोकन फक्त ~8B पॅरामीटर काम करतात, त्यामुळे प्रति टोकनची गणना पॅरामीटर संख्या सुचवते त्यापेक्षा लहान घन मॉडेलच्या जवळ असते. आणि सरकत्या-खिडकीच्या आलटूनपालटीमुळेच लांब विंडो नावापुरती न राहता खरोखर वापरण्याजोगी होते. Poolside चे प्रकाशन 1,048,576 टोकनला पाठिंबा देते; आम्ही 262,144 सर्व्ह करतो, जे गेटवेवरच्या इतर प्रत्येक मॉडेलशी जुळते.

02एकच सावधगिरी: संरचित आउटपुट नाही

काय अजूनही चालते. टूल कॉलिंगला पूर्ण पाठिंबा आहे, आणि इथल्या इतर कोणत्याही मॉडेलप्रमाणेच टूल-कॉल आर्ग्युमेंट JSON वस्तू म्हणूनच येतात. तुमच्या ॲप्लिकेशनचे “संरचित आउटपुट” खरे तर टूल आर्ग्युमेंट असतील — बहुतेक एजंट फ्रेमवर्क, MCP सर्व्हर आणि डेटाबेस फ्रंट-एंडसाठी हेच खरे आहे — तर Laguna S 2.1 तुमचे काम व्यवस्थित करते. तिन्ही बोलींवर स्ट्रीमिंग चालते; reasoning_effort चालतो.

काय चालत नाही. एंडपॉइंटला JSON स्कीमा देऊन सहायकाचे मजकूर उत्तर तिच्याशी पडताळून जाईल याची हमी तुम्हाला मिळत नाही, आणि response_format: {"type": "json_object"} ने काहीच साधत नाही. JSON मागितल्यास सहसा JSON मिळते — हे सक्षम मॉडेल आहे — पण “सहसा” हा करार नाही. खोलवर घरटी असलेल्या टूल कॉलमध्ये चुकीचे JSON एस्केपिंग ही ज्ञात मर्यादा असल्याचे खुद्द Poolside नोंदवते, आणि हीच आठवण करून देते की आमच्या यादीत इतरत्र जिथे ती हमी असते ती मॉडेलच्या सद्भावनेतून नव्हे तर सर्व्हिंग स्तरातून येते.

त्याऐवजी कोणते भावंड वापरावे

तुमच्या कामाला हमखास JSON लागत असेल, तर या मॉडेलशी झगडू नका — मॉडेल आयडी बदला. पूर्ण json_schema आणि response_format पाठिंब्यासह चार भावंडे त्याच $0.50 / $2.00 किमतीवर आहेत:

मॉडेल आयडी	json_schema	व्हिजन	तुम्ही ते का निवडाल
MiMo-V2.5-Pro-W8A16	होय	नाही	थेट पर्याय — 8-bit वेट्स, सर्वोच्च विश्वासार्हतेचा स्तर, तीच किंमत
MiMo-V2.5-W8A16	होय	होय	तेच, अधिक इमेज इनपुट
Hy3-W8A16	होय	नाही	तळाच्या दरातले आणखी एक 8-bit मजकूर मॉडेल
DeepSeek-V4-Flash-0731	होय	नाही	Laguna प्रमाणेच W4A16-AutoRound-REAP, स्कीमा पाठिंबा शाबूत

नैसर्गिक मूलभूत पर्याय MiMo-V2.5-Pro (W8A16) आहे: फक्त मजकूर, तळाच्या किमतीत, आम्ही चालवत असलेल्या सर्वात सौम्य स्तरावर क्वांटाइझ केलेले — तपशील MiMo-V2.5 मॉडेल कार्डवर. बाराही मॉडेल एंडपॉइंट, संदर्भ विंडो आणि आउटपुटची कमाल मर्यादा वाटून घेत असल्यामुळे, बदल म्हणजे model क्षेत्रातला एका ओळीचा बदल.

03W4A16-AUTOROUND-REAP म्हणजे काय?

मॉडेल आयडीवरचा प्रत्यय सजावट नाही — आमच्या GPU क्लस्टरवर लोड होण्यापूर्वी वेट्स नेमकी कशी संकुचित केली गेली ते तो सांगतो. तीन भाग.

W4A16 — 4-bit वेट्स, 16-bit ॲक्टिव्हेशन

वेट्स 4 बिटवर साठवली जातात; ॲक्टिव्हेशन — इन्फरन्सच्या वेळी स्तरांमधून वाहणारी मूल्ये — 16 वर राहतात. वेट्स त्यांच्या BF16 ठशाच्या एक-चतुर्थांशावर आणल्यामुळेच 118B मॉडेल बसते आणि वेगात राहते, तर ॲक्टिव्हेशन रुंद ठेवल्याने फॉरवर्ड पासचा संख्यात्मकदृष्ट्या संवेदनशील भाग सुरक्षित राहतो. जे मोठे आणि स्थिर आहे ते संकुचित करा, जे लहान आणि गतिशील आहे त्याला हात लावू नका.

AutoRound — शिकलेले राउंडिंग, जवळचे नव्हे

क्वांटाइझ करण्याचा भाबडा मार्ग म्हणजे जवळचे-पूर्णांक: प्रत्येक वेट जवळच्या 4-bit मूल्यावर ओढा, चूक स्वीकारा. Intel चे खुले पोस्ट-ट्रेनिंग क्वांटायझेशन साधनसंच AutoRound यापेक्षा चांगले करते — त्याची SignRound पद्धत दोनशेएक टप्प्यांवर राउंडिंगचे निर्णय व क्लिपिंग मर्यादा एकत्रितपणे अनुकूल करण्यासाठी सचिन्ह ग्रेडियंट डिसेंट वापरते, आणि प्रत्येक वेटसाठी वर की खाली पूर्णांकित केल्याने स्तराच्या खऱ्या आउटपुटला कमी हानी होते हे ठरवते. ती क्वांटायझेशन-जागरूक प्रशिक्षणाची कल्पना पुन्हा प्रशिक्षणाच्या खर्चाशिवाय उसनी घेते, आणि म्हणूनच W4A16 बिल्ड ही तोट्याची गंमत न राहता गंभीर मॉडेल ठरू शकते.

REAP — एक्सपर्ट विलीन न करता छाटणे

REAP म्हणजे Router-weighted Expert Activation Pruning, Cerebras Research ने प्रकाशित केलेली. MoE मॉडेलमध्ये सर्वच एक्सपर्ट आपले वजन उचलत नाहीत: राउटर काहींकडे थोडीच टोकन पाठवतो, आणि काही पेटले तरी त्यांचे परिमाण थोडेच योगदान देते. REAP प्रत्येक एक्सपर्टला दोन्ही संकेतांवर गुण देते — राउटर गेट मूल्ये आणि एक्सपर्ट ॲक्टिव्हेशन नॉर्म — आणि कमी ठळकपणाचे एक्सपर्ट क्वांटायझेशनपूर्वी एकाच फटक्यात काढून टाकते. निर्णायक म्हणजे ती विलीन न करता छाटते: विलीनीकरण अनेक एक्सपर्ट एकात दुमडते, राउटरचे सूक्ष्म-कणी, इनपुट-सापेक्ष नियंत्रण नष्ट करते आणि कोणत्याही जुळवणीने न जाणारा चूक-तळ आणते (लेखक त्याला कार्यात्मक उपअवकाश ऱ्हास म्हणतात), तर छाटणी उरलेले एक्सपर्ट आणि त्यांच्यावरचे राउटरचे नियंत्रण शाबूत ठेवते. ट्रिलियन-पॅरामीटर मॉडेलमधले 50% पर्यंत एक्सपर्ट काढूनही आधाररेषेची गुणवत्ता मोठ्या प्रमाणात टिकल्याचे Cerebras नोंदवते — 480B कोडर मॉडेलवर 50% छाटणीला, आधाररेषेच्या 97.6% बिगर-एजंटिक कोडिंग क्षमता आणि एजंटिक SWE-Bench वर 96.7%. हे Cerebras चे स्वतःच्या मॉडेलवरचे आकडे आहेत, आमच्या बिल्डची मोजमापे नाहीत, पण ज्या आधाराचे मुख्य बलस्थान कोड आहे त्याच्यावर आम्ही हा रचनाक्रम का चालवतो याचे कारण तेच आहेत.

एकत्र वाचल्यास प्रत्यय एका वाक्यासारखा वाटतो: जे एक्सपर्ट जेमतेमच वापरले जात होते ते छाटा, 4-bit राउंडिंग अंदाजाने न ठरवता शिका, आणि ॲक्टिव्हेशन पूर्ण रुंदीवर ठेवा.

04हे मॉडेल प्रत्यक्षात कशात चांगले आहे?

आधी प्रामाणिकपणा: Laguna S 2.1 हे फक्त मजकुराचे संभाषणात्मक मॉडेल आहे — या मॉडेल आयडीवर व्हिजन इनपुट नाही — आणि Poolside ने ते गद्यासाठी नव्हे तर एजंटिक कोडिंग व दीर्घ पल्ल्याच्या कामासाठी बांधले. पोस्ट-ट्रेनिंग 4,09,000 वातावरणांवर चालले, ज्यात 83,000 टर्मिनल आणि 1,68,000 सॉफ्टवेअर-अभियांत्रिकी कामे होती, आणि रिइन्फोर्समेंट लर्निंग FP8 मध्ये झाले. अनक्वांटाइझ्ड प्रकाशनासाठी Poolside ने नोंदवलेले निकाल:

बेंचमार्क	विचारांसह	विचारांशिवाय	ते काय मोजते
SWE-Bench Multilingual	78.5%	—	अनेक भाषांमधल्या खऱ्या बग दुरुस्त्या
Terminal-Bench 2.1	70.2%	60.4%	बहु-टप्पी शेल आणि साधनांचे काम
SWE-Bench Pro	59.4%	—	अधिक कठीण, दूषण-प्रतिरोधी रेपॉझिटरी कामे
Toolathlon Verified	49.7%	—	अनेक API वरचा टूल-वापराचा आवाका
SWE Atlas	46.2%	—	दीर्घ पल्ल्याचे रेपॉझिटरी भ्रमण
DeepSWE v1.1	40.4%	16.5%	एजंटिक सॉफ्टवेअर अभियांत्रिकी

इथला सर्वात कृतीयोग्य आकडा म्हणजे दोन स्तंभांमधले अंतर: रिझनिंग चालू केल्यावर DeepSWE वरचा गुण दुपटीहून अधिक होतो, आणि Terminal-Bench वर तो जवळजवळ दहा गुण कमावतो.

अनक्वांटाइझ्ड Laguna S 2.1 प्रकाशनासाठी Poolside ने नोंदवलेले आकडे, जुलै 2026. ती आमच्या W4A16-AutoRound-REAP बिल्डची मोजमापे नाहीत, आणि तिच्यासाठी आम्ही आमचे स्वतःचे कोणतेही बेंचमार्क आकडे प्रकाशित करत नाही. आमच्या API वर विचारांचे अंदाजपत्रक नियंत्रित करण्यासाठी reasoning_effort वापरा.

संभाषणात्मक आणि सर्जनशील कामाबाबत प्रामाणिक भूमिका अशी: लांब एजंटिक रनमागचे गुण — भरपूर स्थिती सुसंगतपणे धरून ठेवणे, कामावर टिकून राहणे, न भरकटणे — हेच लांबलचक व्यक्तिरेखा-लेखनामागचेही गुण आहेत, आणि व्यवहारात ते अतिशय लांब विंडोभर आवाज चांगला टिकवते. कोणताही प्रकाशित बेंचमार्क तसे म्हणत नाही, आणि आम्ही तो शोधून काढणार नाही. तुमच्या स्वतःच्या प्रॉम्प्टवर तपासा; प्रति दशलक्ष इनपुट टोकन $0.50 दराने ते जवळजवळ फुकट आहे.

05तळाची किंमत प्रत्यक्षात काय देते?

प्रति दशलक्ष टोकन $0.50 इन / $2.00 आउट हा Shannon AI गेटवेवरचा प्रवेश स्तर आहे, जो MiniMax-M3, DeepSeek-V4-Flash, MiMo-V2.5, MiMo-V2.5-Pro आणि Hy3 यांच्यासोबत वाटलेला आहे. ठोसपणे:

काम	इनपुट	आउटपुट	खर्च
100K इतिहासासह एक चॅट फेरी	100,000	2,000	$0.054
लांब टिपणावरून 5,000 शब्दांचे प्रकरण	30,000	7,000	$0.029
1,000 लहान संभाषण फेऱ्या	4,000,000	500,000	$3.00
पूर्ण 262K-टोकन संदर्भाचे वाचन	262,144	16,384	$0.164

शेवटची ओळ आत्मसात करण्याजोगी आहे: संपूर्ण संदर्भ विंडो भरून कमाल 16,384-टोकनचा प्रतिसाद निर्माण करण्याचा खर्च साधारण सोळा सेंट पडतो. संपूर्ण हस्तलिखित, सत्राचा प्रतिलेख किंवा दस्तऐवजांचा संच एकाच कॉलमध्ये देणे हा अंदाजपत्रकाचा निर्णय उरत नाही, तो विलंबाचा निर्णय होतो. तेच गणित तळाच्या किमतीचा दुसरा वापर घडवते — प्रमाण: सामूहिक वर्गीकरण, मोठ्या प्रमाणावर पुनर्लेखन, सिंथेटिक संवाद, आणि नंतर सशक्त मॉडेल घासून काढणार असलेला पहिला मसुदा. किंमत पान आणि संशोधन अनुक्रमणिका पाहा.

06इथे “असेन्सॉर्ड” म्हणजे काय

त्याचा अर्थ जे म्हटले तेच आहे: नकार स्तर नाही आणि आउटपुटवर कंटेंट फिल्टरिंग नाही. मॉडेल आणि तुमचा प्रतिसाद यांच्यामध्ये, तुम्हाला विचारण्याची परवानगी होती का हे ठरवणारा कोणताही वर्गीकारक बसत नाही; मॉडेल तुम्ही मागितलेल्या सुरातच उत्तर देते आणि आधी गृहितकावर व्याख्यान देत बसत नाही.

सर्जनशील कामासाठी वापरण्याजोगे साधन आणि निरुपयोगी साधन यातला फरक हाच आहे. कथासाहित्यात धमकावणारे खलनायक असतात, खात्रीशीरपणे खोटे बोलणारी पात्रे असतात, परिणाम असलेली हिंसा असते, नैतिकदृष्ट्या तडजोड केलेले निवेदक असतात — व्यक्तिरेखा मोडून खाली इशारा जोडणारे मॉडेल सुरक्षिततेत यशस्वी झालेले नसते, ते कामात अपयशी ठरलेले असते. सुरक्षा संशोधन, रेड-टीम दस्तावेजीकरण, वैद्यकीय व कायदेशीर मसुदे, आणि मूळ मजकूर स्पष्टवक्ता असलेले भाषांतर — या सर्वांना हेच लागू आहे: अशा श्रेणी जिथे नकार म्हणजे साधे चुकीचे उत्तर. याचा अर्थ असा नव्हे की निवाडा तुमचा राहत नाही — तुम्ही जे निर्माण करता त्याची जबाबदारी आमच्या जबाबदार वापर धोरणाखाली आणि लागू कायद्याखाली तुमचीच राहते.

07असेन्सॉर्ड Laguna API कसे कॉल करावे

तीन बोली, एक मॉडेल: /v1/chat/completions (OpenAI), /v1/messages (Anthropic), /v1/responses. तिन्हींवर स्ट्रीमिंग चालते, त्यामुळे अस्तित्वातले इंटिग्रेशन बेस URL आणि मॉडेल आयडी बदलून इकडे येते — SDK बदलण्याची गरज नाही, तुमची संदेश हाताळणी पुन्हा लिहायची गरज नाही.

POST https://api.shannon-ai.com/v1/chat/completions

{
  "model": "Laguna-S-2.1-W4A16-AUTOROUND-REAP",
  "messages": [
    { "role": "system", "content": "You are a hardboiled narrator. Stay in voice." },
    { "role": "user",   "content": "Open chapter nine." }
  ],
  "stream": true,
  "max_tokens": 4096,
  "reasoning_effort": "low"
}

काही व्यावहारिक टिपणे:

• या मॉडेल आयडीला response_format किंवा json_schema पाठवू नका — तुमची क्लायंट लायब्ररी मूलभूतपणे एखादा ठेवत असेल, तर तो काढून टाका किंवा त्याला पाठिंबा देणाऱ्या भावंडाकडे जा.
• टूल नेहमीच्या tools ॲरेमध्ये जातात — टूल कॉलिंगला पूर्ण पाठिंबा आहे; फक्त मोकळ्या मजकुरावरची स्कीमा सक्ती नाही.
• तुमच्या रिझनिंगचे अंदाजपत्रक आखा. reasoning_effort पाळला जातो — low किंवा बंद ठेवल्याने संभाषणाचा विलंब कमी आणि आउटपुट टोकन स्वस्त राहतात; बहु-टप्पी टूल कामासाठी तो वाढवा, आणि वरचे बेंचमार्क अंतर त्यातून काय मिळते ते दाखवते.
• आउटपुटची कमाल मर्यादा प्रति विनंती 16,384 टोकन आहे. पुस्तकाच्या लांबीच्या निर्मितीसाठी प्रकरणांत विभागा आणि स्ट्रीम करा.
• फक्त मजकूर. या मॉडेल आयडीवर इमेज इनपुट नाही — व्हिजनसाठी MiMo-V2.5, Kimi-K2.6, Kimi-K3, MiniMax-M3 किंवा inkling वापरा.

संपूर्ण पॅरामीटर संदर्भ, ऑथेंटिकेशन, त्रुटींचे अर्थ आणि थेट प्लेग्राउंड: API दस्तऐवज.

08ते कधी निवडावे, आणि कधी नाही

ते तेव्हा निवडा जेव्हा तुमचे आउटपुट माणसाने वाचायचे गद्य, संवाद किंवा कोड आहे; तुम्हाला टूल कॉलिंग हवे आहे पण स्कीमा-बद्ध मजकूर नाही; लांब संदर्भावर प्रति-टोकन खर्चच वरचढ आहे; किंवा उरलेली यादी भरणाऱ्या DeepSeek, Kimi आणि MiMo कुटुंबांखेरीज दुसऱ्या वंशावळीचे दुसरे मत तुम्हाला हवे आहे.

दुसरे काहीतरी तेव्हा निवडा जेव्हा तुम्हाला हमखास JSON (MiMo-V2.5-Pro), इमेज आकलन (Kimi-K2.6 किंवा MiMo-V2.5), किंवा अवघडपणाचे आघाडीचे टोक हवे आहे — जिथे उत्तर बरोबर येण्यापुढे किमतीतली तफावत बिनमहत्त्वाची ठरते (DeepSeek-V4-Pro, Kimi-K3).

09वारंवार विचारले जाणारे प्रश्न

---

स्रोत: Poolside — Laguna S 2.1 मॉडेल कार्ड · Introducing Laguna S 2.1 · REAP the Experts (Cerebras Research) · Intel AutoRound. वास्तुरचना आणि बेंचमार्क आकडे अनक्वांटाइझ्ड प्रकाशनासाठी प्रकाशकाने नोंदवलेले आहेत, आम्ही सर्व्ह करत असलेल्या बिल्डची मोजमापे नाहीत. Shannon AI चे संचालन Shannon Lab LLC, न्यू मेक्सिको, अमेरिका करते.