Shannon 3, आफ्नै जवाफ समीक्षा गर्ने सेन्सर नगरिएको AI मोडेल
हाम्रो आफ्नै GPU क्लस्टरमा चल्ने पुनरावृत्तीय तर्क लूप: सोच, मस्यौदा, समीक्षा, पुनर्लेखन। Lite ले एउटै पास चलाउँछ। Pro ले दससम्म चलाउँछ, र आफूसँग नभएको थाहा भएका तथ्यहरू मागेर लिन्छ।
संक्षेपमा
Shannon 3 हाम्रो आफ्नै GPU क्लस्टरबाट सेवा दिइने सेन्सर नगरिएको AI मोडेल परिवार हो। यसको विशिष्ट गुण भनेको एउटा पालोको बनोट हो: मोडेलले सोच्छ, मस्यौदा लेख्छ, अनि आफ्नै मस्यौदालाई आफ्नै सोचाइसँग मिलाएर फेरि पढ्छ र नमिलेको भाग पुनर्लेखन गर्छ। Lite (shannon-3) ले सबैभन्दा कम ढिलाइका लागि सोच-र-मस्यौदाको एउटै पास गर्छ। Pro (shannon-3-pro) ले 10 पुनरावृत्तिसम्म पूरा लूप चलाउँछ, कुनै समीक्षाले मस्यौदा स्वीकृत गरेको क्षणमै रोकिन्छ, र थप रूपमा छुटेको देखेका तथ्य भर्न ठूलो मोडेल विरुद्ध ज्ञान सङ्कलन चलाउँछ। पूरै तर्क ट्रेस तपाईंकै भाषामा देखिन्छ। भिजन र कागजात इनपुट दुवै तहमा समर्थित छन्। 3.0 को सुरुवातमा सन्दर्भ 32,768 टोकन थियो।
तपाईंले प्रयोग गर्नुभएका झन्डै हरेक च्याट मोडेलले एउटै फर्वार्ड पासमा जवाफ दिन्छ। यसले अन्तिम टोकन थाहा पाउनुअघि नै पहिलो टोकन छान्छ, र एक पटक वाक्य निस्किसकेपछि त्यो प्रतिबद्ध भइसक्छ: मोडेलले पछि त्यसको विरोध गर्न सक्छ, तर फर्केर सच्याउन सक्दैन। जवाफ छोटो हुँदा र प्रश्नमा एउटै भाग हुँदा यो राम्रोसँग चल्छ। जवाफ लामो हुँदा, प्रश्नमा चार भाग हुँदा, र छैटौँ अनुच्छेदले दोस्रो अनुच्छेदलाई चुपचाप निष्क्रिय पार्दा यो नराम्ररी चल्छ। Shannon 3 यसकारण अस्तित्वमा छ कि हामीलाई त्यसको समाधान ठूलो मोडेल हो जस्तो लागेन। समाधान भनेको मोडेललाई आफूले भर्खर लेखेको कुरा पढ्न दिनु हो।
01Shannon 3 के हो
Shannon 3 दुई तहको मोडेल परिवार हो। दुवै तह तेस्रो-पक्ष इन्फरेन्स API मा नभई हाम्रो आफ्नै GPU क्लस्टरमा चल्छन्, र दुवै सेन्सर नगरिएका छन्: तिनको अगाडि कुनै अस्वीकृति तह छैन र पछाडि कुनै सामग्री फिल्टर छैन। तहहरूबीचको फरक भनेको जवाफ तपाईंसम्म आइपुग्नुअघि एउटै पालोलाई कति काम गर्न दिइन्छ भन्ने हो।
API मा यी दुई तह सामान्य मोडेल आईडी मात्र हुन्। कुनै विशेष एन्डपोइन्ट, छुट्टै SDK, वा बेग्लै अनुरोध ढाँचा छैन:
| तह | मोडेल आईडी | पालोको बनोट | कसका लागि उत्तम |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | एउटा सोच + मस्यौदा पास | च्याट, मस्यौदा लेखन, खोज, उच्च परिमाण |
| Shannon 3 Pro | shannon-3-pro | पूरा लूप, 10 पाससम्म, र ज्ञान सङ्कलन | विश्लेषण, लामो लेखन, शुद्धता-संवेदनशील काम |
02कठिन प्रश्नका लागि एउटै फर्वार्ड पास किन गलत बनोट हो
बायाँबाट दायाँ पाठ जेनेरेट गर्ने मोडेलले स्थानीय निर्णयहरूको फिर्ता नहुने शृङ्खला बनाउँछ। यससँग रबर छैन। व्याख्याको 400 टोकनभित्र पुगेपछि आफूले छानेको ढाँचा गलत रहेछ भनी थाहा पाउँदा, यसका विकल्प भनेका गलत ढाँचामै अगाडि बढ्नु वा सच्याइ थप्नु मात्र हुन् — र त्यसैले सबैले चिन्ने ती जवाफहरू बन्छन्, जसले बीचैमा वास्तवमा, माथिको कुरा फेरि हेर्दा भन्छन् र दुई नमिल्ने आधा भागलाई मिलाउने काम तपाईंलाई छाडिदिन्छन्।
विचार-शृङ्खलाले यसलाई सुधार्छ तर समाधान गर्दैन। पहिले सोच्नाले मोडेललाई गद्यमा प्रतिबद्ध हुनुअघि योजना दिन्छ, जुन साँच्चिकै फाइदा हो; त्यसपछिको मस्यौदा भने अझै एउटै पासमा लेखिन्छ र नपढिकनै पठाइन्छ। मानव सम्पादकले सबैभन्दा पहिले सोध्ने प्रश्न कसैले सोध्दैन: के यो जवाफले सोचाइले भनेको काम साँच्चै गर्छ? विचार-शृङ्खलाबाट पनि बाँच्ने असफलताका ढाँचा निश्चित र चिन्न सकिने खालका छन्:
- छुटेका उप-प्रश्न। तपाईंले चार कुरा सोध्नुभयो। सोचाइले चार कुरा सूचीबद्ध गर्यो। जवाफले तीनवटा समेट्छ।
- योजनाबाट बहकिनु। तर्कले एउटा दृष्टिकोण टुङ्ग्याउँछ; गद्यले बिस्तारै अर्कै अपनाउँछ, र कुन एउटै वाक्यमा बिग्रियो भन्ने पत्तै लाग्दैन।
- अङ्कगणित र एकाइ। सोचाइमा ठीकसँग गणना गरिएको सङ्ख्या जवाफमा गलत सारिन्छ, वा प्रति-महिनाको आँकडा प्रति-वर्षको भनेर प्रस्तुत गरिन्छ।
- बेवास्ता गरिएका अड्चन। तपाईंले बाह्य निर्भरता नचाहिने भन्नुभयो; कोडले एउटा इम्पोर्ट गर्छ, र सोचाइले त्यो अड्चन स्वीकारेपछि फेरि कहिल्यै उल्लेख गर्दैन।
- आत्मविश्वासी खाडल। मोडेलले सोचाइमा एउटा निश्चित तथ्यमा आफू अनिश्चित रहेको भन्छ, अनि जवाफमा त्यसैलाई सपाट रूपमा भन्दिन्छ।
यीमध्ये हरेक कुरा मस्यौदा पढेर समातिन्छ। मस्यौदा अझ होसियारीपूर्वक लेखेर एउटा पनि समातिँदैन।
03तर्क लूप, चरणैपिच्छे
Shannon 3 Pro को एउटा पालो भनेको चार चरण र एउटा निस्किने सर्त भएको लूप हो।
सोच
मोडेलले तपाईंका लागि केही लेख्नुअघि समस्यामा काम गर्छ: प्रश्नलाई टुक्र्याउँछ, अड्चनहरू टिप्छ, आफूलाई के थाहा छ र के छैन पहिचान गर्छ, र एउटा दृष्टिकोण टुङ्ग्याउँछ। यहाँ उत्पादन हुने कुरा नै पछि जवाफ नाप्ने मापदण्ड बन्छ।
मस्यौदा
मोडेलले पूरा, वास्तविक जवाफ लेख्छ — रूपरेखा होइन। यो पूरा हुनैपर्छ, किनभने अर्को चरणले तयारी वस्तुको मूल्याङ्कन गर्छ, र पूरा लम्बाइमा मात्र देखिने असफलताका ढाँचाहरूका लागि खाकाको समीक्षा गर्न सकिँदैन।
समीक्षा
यही चरणले यो परिवारलाई जे हो त्यो बनाउँछ। मोडेलले मस्यौदालाई सोचाइसँग मिलाएर पढ्छ — मस्यौदा एक्लै पढ्नुभन्दा धेरै धारिलो परीक्षण। कुनै मोडेललाई "के यो जवाफ राम्रो छ?" भनी सोध्नु उसलाई हो भन्न निम्त्याउनु हो; "योजनाले अड्चन C अन्तर्गत X, Y र Z समेट्ने भनेको थियो — के यो पाठले त्यो गर्छ?" भनी सोध्नुले जाँच्न मिल्ने खण्डनयोग्य कुरा दिन्छ। समीक्षाले अङ्क दिनुको साटो के गलत छ त्यसको नाम लिन्छ।
पुनर्लेखन
नाम लिइएका समस्याहरू नयाँ मस्यौदामा सच्याइन्छन्। यो प्याच होइन, पुनर्लेखन हो: तर्कको क्रम फेर्नुपर्ने सुधारलाई क्रम फेर्न अनुमति छ। नयाँ मस्यौदा फेरि समीक्षामा जान्छ।
रोकिने
कुनै समीक्षाले मस्यौदा स्वीकृत गरेको पहिलो पटकमै लूप सकिन्छ — यो सामान्य निकास हो, र धेरैजसो पालोमा यो सीमाभन्दा निकै पहिले हुन्छ। 10 पुनरावृत्ति को कडा सीमा असामान्य अवस्थाहरूका लागि छ, जस्तै साँच्चै अस्पष्ट प्रश्न जहाँ हरेक पुनर्लेखनले एउटा कमजोरी साटेर अर्को ल्याउँछ, ताकि पालो अनन्तसम्म नघुमोस्।
Lite ले उही पहिलो दुई चरण लिन्छ र रोकिन्छ। यसले सोच्छ, मस्यौदा बनाउँछ, र मस्यौदा तपाईंलाई दिन्छ। यो सोचेर लिइएको उत्पादन निर्णय हो, काटछाँट गरिएको दुर्घटना होइन: वास्तविक सन्देशहरूको ठूलो हिस्सामा पहिलो मस्यौदा नै ठीक जवाफ हुन्छ, र त्यो सुन्नकै लागि समीक्षाको ढिलाइ तिर्नु नराम्रो सौदा हो। मोडेल छिटो होस् भन्ने चाहँदा Lite; निश्चित होस् भन्ने चाहँदा Pro।
04Pro को ज्ञान सङ्कलन: अनुमान लगाउनुको साटो सहयोग माग्नु
स्व-समीक्षाले विरोधाभास, छुटेका कुरा र अड्चन उल्लङ्घन समात्छ, किनभने ती समात्न चाहिने प्रमाण पालोभित्रै छ। तर मोडेलसँग नै नभएको तथ्य यसले समात्न सक्दैन। आफ्नै मस्यौदा समीक्षा गरिरहेको मोडेलले म यो आँकडाबारे विश्वस्त छैन भन्ने निष्कर्ष निकाल्न त सक्छ, तर त्यो निष्कर्ष लिएर कहीँ जाने ठाउँ नहुन सक्छ।
Pro ले त्यसलाई जाने ठाउँ दिन्छ। मस्यौदा चरणकै वरिपरि यसले ज्ञान सङ्कलन गर्छ: आफूसँग नभएका वा अनिश्चित रहेका निश्चित तथ्यहरू पहिचान गर्छ, ठ्याक्कै तिनकै लागि दोस्रो, ठूलो मोडेललाई सोध्छ, र फर्केर आएको कुरालाई सुधारिएको जवाफमा मिसाउँछ। यो मोडेल आफैंले नाम लिएको खाडलले चलाएको लक्षित खोज हो, ढ्याम्मै लिइने दोस्रो राय होइन।
व्यवहारमा दुई गुणले फरक पार्छ। यो सीमित दायराको छ: सङ्कलनले पूरै प्रश्न फेरि नसोधी पहिचान गरिएका खाडलबारे मात्र सोध्छ, त्यसैले ठूलो मोडेललाई जहाँ त्यसले जानकारी थप्छ त्यहाँ सोधिन्छ, अर्कै स्वर मात्र थप्ने ठाउँमा होइन। र यो एकीकृत छ: सङ्कलित तथ्यहरू फेरि लूपमै जान्छन् र अरू सबैले जस्तै उही समीक्षा भोग्छन्, बाहिरबाट टाँसिएको अनुच्छेदजस्तै आइपुग्दैनन्।
यसले अनिश्चितताबारे के बदल्छ
सङ्कलनको सबैभन्दा उपयोगी असर Pro ले बढी जान्छ भन्ने होइन। असर यो हो कि Pro को अनिश्चितता कार्ययोग्य बन्छ। आफू अनिश्चित छु भन्ने मात्र थाहा पाउने मोडेलले सबै कुरामा बचाउ गर्ने कि आत्मविश्वासका साथ भन्ने भनेर छान्नुपर्छ। "म यसबारे अनिश्चित छु" लाई "म पत्ता लगाउन जान्छु" मा बदल्न सक्नेले कम ठाउँमा बचाउ गर्छ र धेरै ठाउँमा निश्चित हुन्छ।
05तर्क देखिने हुन्छ, र त्यो तपाईंकै भाषामा हुन्छ
पालो चलिरहँदै पूरै ट्रेस तपाईंलाई देखाइन्छ: सोचाइ, र Pro मा हरेक समीक्षा तथा त्यसले के आपत्ति जनायो। यो हामीले बाध्य भएर देखाइदिएको डिबग दृश्य होइन — तपाईंले किन्दै गर्नुभएको कुराको ठूलो हिस्सा यही हो, र यसले कार्यसम्बन्धलाई तीन ठोस तरिकाले बदल्छ।
- तपाईं चाँडै रोक्न सक्नुहुन्छ। सोचाइले तपाईंको प्रश्न गलत बुझ्यो भने — जुन अस्पष्ट प्रम्प्टको सामान्य परिणाम हो, नराम्रो मोडेलको होइन — तपाईंलाई पहिलो केही सेकेन्डमै थाहा हुन्छ, गलत समस्या समाधान गर्ने पूरा जवाफ आइसकेपछि होइन।
- तपाईं जवाफभन्दा छुट्टै तर्कको लेखापरीक्षण गर्न सक्नुहुन्छ। गलत तर्कबाट पुगिएको सही जवाफ जोखिम हो, किनभने त्यो अर्को प्रश्नसम्म टिक्दैन।
- तपाईं लूप असफल भएको देख्न सक्नुहुन्छ। Pro ले नटुङ्गिई धेरै पुनरावृत्ति खर्चिँदा, त्यो लुकाइँदैन बरु देखाइन्छ — र त्यो वास्तविक जानकारी हो, जसको अर्थ प्रायः प्रश्न अपुरो रूपमा तोकिएको छ भन्ने हो।
ट्रेस तपाईंकै भाषामा लेखिन्छ, अङ्ग्रेजीमा जेनेरेट गरेर अन्त्यमा अनुवाद गरिएको होइन। तपाईं जापानी, अरबी, टर्किश वा पोर्चुगिजमा काम गर्नुहुन्छ भने, मोडेलले त्यही भाषामा तर्क गर्छ — जसले ट्रेसका पारिभाषिक शब्दलाई जवाफका शब्दसँग एकरूप राख्छ, र मोडेल एउटा भाषामा सोचेर अर्कोमा बोल्दा देखिने जोर्नीहरू हटाउँछ।
06सेन्सर नगरिएको: कुनै अस्वीकृति तह छैन, कुनै आउटपुट फिल्टर छैन
Shannon 3 कुनै अस्वीकृति तह र कुनै आउटपुट सामग्री फिल्टरविनै आउँछ। अस्वीकार गर्ने व्यवहार उत्पादनको कुनै तहमा छैन: मोडेलले देख्नुअघि तपाईंको सन्देश जाँच्ने र्यापरका रूपमा होइन, तपाईंले देख्नुअघि जवाफ जाँच्ने क्लासिफायरका रूपमा होइन, र मोडेललाई फकाएर हटाउनुपर्ने सहज प्रतिक्रियाका रूपमा पनि होइन। मानिसहरूले "सेन्सर नगरिएको" भन्दा सामान्यतया बुझाउने दुई कुराभन्दा यो भिन्न छ:
| तरिका | यसले के गर्छ | यो कसरी असफल हुन्छ |
|---|---|---|
| सिस्टम-प्रम्प्ट जेलब्रेक | एलाइन गरिएको मोडेललाई एलाइन नगरिएजस्तै व्यवहार गर्न निर्देशन दिन्छ | लामो कुराकानीमा क्षय हुन्छ; दबाबमा अस्वीकृति फर्किन्छ |
| आउटपुट फिल्टर हटाउने | मोडेलले पहिल्यै उत्पादन गरिसकेको पाठ रोक्न छाड्छ | मोडेलले अझै बचाउमुखी, टार्ने पाठ लेख्छ — केही रोकिएको थिएन, लेखिएकै थिएन |
| Shannon 3 | हटाउनुपर्ने अस्वीकृति तह छैन र निष्क्रिय पार्नुपर्ने फिल्टर छैन — त्यो व्यवहार नै छैन | निर्णयको भार पूरै तपाईंमाथि पर्छ; मोडेलले तपाईंको तर्फबाट अस्वीकार गर्दैन |
व्यवहारमा Shannon 3 ले तपाईंले सोधेको प्रश्नसँग जुध्छ, त्यसको छेउछाउको सुरक्षित प्रश्नसँग होइन: वास्तविक खलनायक भएका कथा, प्रेस-विज्ञप्तिको उचाइमा नभई प्राविधिक रूपमा छलफल गरिने सुरक्षा विषय, चाहिने चेतावनीसहित सिधै दिइने चिकित्सकीय, कानुनी र वित्तीय जानकारी — र तपाईंले किन सोध्नुभयो भन्नेबारे अन्त्यमा कुनै भाषण छैन। यसले लूपलाई पनि पातलो पार्दैन: समीक्षाले मस्यौदा गलत छ भन्न स्वतन्त्र छ, जुन अस्वीकृतिभन्दा फरक र बढी उपयोगी खालको प्रतिवाद हो।
अस्वीकृति तहको अभावले जे गर्दैन त्यो हो — मोडेललाई सही बनाउने काम। सेन्सर नगरिएको मोडेल आत्मविश्वासका साथ गलत हुन सेन्सर गरिएकै जत्तिकै सक्षम हुन्छ, र अझ बढी देखिने गरी, किनभने अनिश्चित हुँदा यो अस्पष्टतामा लुक्दैन। लूपको पक्षमा यो एउटा राम्रो तर्क हो: बाटोमा अस्वीकारको सहज प्रतिक्रिया नहुँदा, स्व-समीक्षाले पेशेवर प्रयोगकर्तालाई महत्त्व राख्ने सुरक्षा काम गर्छ — गल्ती समात्ने काम। मोडेलको तपाईंको प्रयोग अझै हाम्रो जिम्मेवार प्रयोग नीति र तपाईं भएको ठाउँको कानुनद्वारा निर्देशित रहन्छ।
हामी Shannon 3 का लागि कुनै बेन्चमार्क अङ्क प्रकाशित गर्दैनौं र अन्य मोडेलहरूविरुद्ध कुनै आमनेसामने दाबी गर्दैनौं। लूपको फाइदा संरचनागत हो — यसले एउटै पासले समात्न नसक्ने त्रुटिका वर्गहरू समात्छ — र हामी स्वतन्त्र रूपमा प्रमाणित नगरेको अङ्क टाँस्नुभन्दा त्यो संयन्त्र नै सटीक रूपमा वर्णन गर्न रुचाउँछौं। माथिका सबै कुराले एउटा पालोले के गर्छ भन्ने वर्णन गर्छन्; यो जाँच्ने सबैभन्दा छिटो तरिका भनेको एउटा पालो चलाएर ट्रेस पढ्नु हो।
07भिजन, कागजात, र तस्बिर निर्माण
दुवै तहले तस्बिर र कागजातलाई एट्याचमेन्टका रूपमा स्वीकार्छन् र तिनलाई पालोकै अंशका रूपमा पढ्छन्। असफल बिल्डको स्क्रिनसट, फोटो खिचिएको ह्वाइटबोर्ड, कुनै स्किम्याटिक, स्क्यान गरिएको सम्झौता पृष्ठ वा PDF आफैं प्रश्नको विषय बन्न सक्छ — पहिले टाइप गरेर उतार्नुपर्ने कुरा होइन। Pro मा एट्याचमेन्टहरू अरू सबैजस्तै लूपमा सहभागी हुन्छन्: तस्बिरले नपुष्टि गर्ने प्रश्नको जवाफ मस्यौदाले दिएको छ भनी समीक्षाले ठान्यो भने, त्यो पुनर्लेखन हुन्छ।
तस्बिर निर्माण र सम्पादन च्याटमा टुलका रूपमा उपलब्ध छन्, मोडेलको उद्देश्यका रूपमा होइन। Shannon 3 एउटा तर्क मोडेल हो जसले कुराकानीलाई आवश्यक परेको बेला तस्बिर बनाउन वा सम्पादन गर्न सक्छ, च्याट इन्टरफेस जोडिएको तस्बिर मोडेल होइन। यो भेदले अपेक्षा ठीकसँग तय गर्छ: परिवारलाई यसले कसरी सोच्छ भन्ने आधारमा जाँच्नुहोस्, र तस्बिरहरूलाई सन्दर्भ बदल्नुबाट जोगाउने सुविधाका रूपमा लिनुहोस्।
08सन्दर्भ विन्डो, र 3.x लाइन त्यसपछि कता गयो
Shannon 3.0 32,768 टोकन को सन्दर्भ विन्डोसँग सुरु भएको थियो। त्यो इमानदार ऐतिहासिक आँकडा हो, र सोझै भन्न लायक छ, किनभने लूपले एकल-पास मोडेलभन्दा फरक तरिकाले सन्दर्भ खपत गर्छ: तपाईंको प्रम्प्ट, तपाईंका एट्याचमेन्ट, सोचाइ, र हरेक मस्यौदा तथा समीक्षा चक्र सबै उही बजेटमा बस्छन्।
धेरैजसो च्याट र विश्लेषणको कामका लागि 32K सहज छ — एउटा लामो कागजात, एउटा ठूलो कोड फाइल, लूप चल्ने ठाउँ भएको विस्तृत बहु-भागे प्रश्न। साँच्चै ठूला इनपुटका लागि यो साँघुरो छ, र त्यही अड्चनलाई अर्को रिलिजले सम्बोधन गर्यो। Shannon 3.1 ले सन्दर्भ विन्डो उल्लेख्य रूपमा बढाउँछ र लूपलाई कतातिर फर्काउन सकिन्छ भन्ने कुरा बदल्छ; तपाईं आज यो परिवारको मूल्याङ्कन गर्दै हुनुहुन्छ भने, त्यो लेख दोस्रोमा पढ्नुहोस् र यहाँको अङ्कलाई इतिहासका रूपमा लिनुहोस्।
09API बाट Shannon 3 बोलाउने
Shannon 3 हाम्रा तीनै API डायलेक्टबाट, उही मोडेलहरूमा, हरेकमा स्ट्रिमिङसहित उपलब्ध छ:
| डायलेक्ट | एन्डपोइन्ट | कहिले प्रयोग गर्ने |
|---|---|---|
| OpenAI-कम्प्याटिबल | /v1/chat/completions | तपाईंसँग पहिल्यैको OpenAI क्लाइन्ट कोड छ — बेस URL र मोडेल आईडी बदल्नुहोस् |
| Anthropic-कम्प्याटिबल | /v1/messages | तपाईंको स्ट्याक Messages ढाँचाको वरिपरि बनेको छ |
| Responses | /v1/responses | तपाईंलाई नयाँ अनुरोध/प्रतिक्रिया आकार चाहिन्छ |
मोडेल आईडीका रूपमा shannon-3 वा shannon-3-pro पठाउनुहोस्। क्लाइन्ट पक्षमा दुई कुराको योजना बनाउनु उचित हुन्छ। Pro का पालो लामो लाग्छन्, र त्यो अवधि परिवर्तनशील हुन्छ, किनभने पुनरावृत्तिको सङ्ख्या प्रश्नमा भर पर्छ — औसतको साटो सीमालाई हेरेर टाइमआउट राख्नुहोस्, र प्रयोगकर्ताले स्पिनरको साटो प्रगति देखून् भनी स्ट्रिमिङलाई प्राथमिकता दिनुहोस्। र तर्क ट्रेस तपाईंले देखाउन रोज्न सक्ने सामग्री हो; प्रयोगकर्ता पर्खिरहेका ठाउँमा त्यो देखाउनु प्रायः लुकाउनुभन्दा राम्रो हुन्छ, किनभने यसले खेर जाने समयलाई पढ्न सकिने कुरामा बदल्छ। अनुरोध र प्रतिक्रिया स्किमा, स्ट्रिमिङका विवरण र प्रत्यक्ष प्लेग्राउन्ड API कागजात मा छन्।
10तह छान्ने
बिग्रन सक्ने कुरा जति धेरै छ, Pro को लूपले आफ्नो ढिलाइ त्यति नै कमाउँछ।
| तपाईंको काम | तह | किन |
|---|---|---|
| छिटो तथ्यगत प्रश्न, छोटो जवाफ | shannon-3 | पहिलो मस्यौदा नै जवाफ हो; समीक्षाले समात्ने केही हुँदैन |
| उच्च परिमाण वा ढिलाइ-संवेदनशील स्वचालन | shannon-3 | पूर्वानुमानयोग्य पालो समय नै बाध्यकारी अड्चन हो |
| अड्चनसहितको बहु-भागे विश्लेषण | shannon-3-pro | छुटेका उप-प्रश्न र अड्चन उल्लङ्घन ठ्याक्कै समीक्षाले समात्ने कुरा हुन् |
| जोडिएर टिक्नुपर्ने लामो लेखन | shannon-3-pro | आन्तरिक विरोधाभास पूरा लम्बाइको गुण हो, मस्यौदा लेख्दा देखिँदैन |
| तपाईंले कारबाही गर्ने सङ्ख्या भएको जुनसुकै कुरा | shannon-3-pro | समीक्षाले अङ्कगणित र एकाइलाई सोचाइसँग मिलाएर फेरि जाँच्छ |
| मोडेलको ज्ञानको छेउमा रहेका तथ्य छुने प्रश्न | shannon-3-pro | ज्ञान सङ्कलनले नाम लिइएको खाडललाई खोजमा बदल्छ |
एउटा व्यावहारिक ढाँचा: के सोध्ने भनी टुङ्ग्याउँदै गर्दा Lite प्रयोग गर्नुहोस्, अनि टुङ्गिएको प्रश्न एक पटक Pro मा फेरि चलाउनुहोस्। तपाईंले साँच्चै भन्न खोजेको संस्करणको प्रश्नमा लूपको मूल्य तिर्नु सार्थक हुन्छ।
11प्रतिबद्ध हुनुअघि जान्न लायक सीमाहरू
केवल बलियो पक्ष मात्र सूचीबद्ध गर्ने मोडेल कार्ड विज्ञापन हो। Shannon 3 ले तपाईंलाई निराश पार्ने ठाउँहरू यी हुन्:
- Pro सुस्त छ, र अनिश्चित रूपमा सुस्त। दुई पुनरावृत्तिमा टुङ्गिने पालो र दससम्म चल्ने पालोबीच वास्तविक समयमा कैयौं गुणा फरक हुन्छ। तपाईंलाई सीमित ढिलाइ चाहिन्छ भने Lite प्रयोग गर्नुहोस्।
- समीक्षा प्रमाण होइन। आफ्नै काम जाँच्ने मोडेलले आफ्नै अन्धो ठाउँहरू पनि बाँड्छ। लूपले सोचाइ र मस्यौदाबीचको असङ्गति भरपर्दो रूपमा समात्छ; सोचाइमै आत्मविश्वासका साथ राखिएको त्रुटि भरपर्दो रूपमा समात्दैन।
- सन्दर्भ लूपसँग बाँडिन्छ। 32K मा, धेरै लामो इनपुट र थुप्रै पूर्ण-लम्बाइका मस्यौदा 3.0 मा वास्तविक अड्चन हुन्। बढाइएको सीमाका लागि Shannon 3.1 हेर्नुहोस्।
- सङ्कलनले मोडेलले देखेका खाडल मात्र भर्छ। यसले "म यसबारे अनिश्चित छु" लाई खोजमा बदल्छ, जुन वास्तविक फाइदा हो — तर मोडेल आत्मविश्वासका साथ गलत भएको तथ्य कहिल्यै छुटेको भनी चिनिँदैन, त्यसैले त्यो कहिल्यै सङ्कलन हुँदैन।
- सेन्सर नगरिएको भनेको सेन्सर नगरिएकै हो। मोडेलले अस्वीकार गर्दैन र नरम पार्दैन। तपाईंको उत्पादनलाई अस्वीकृतिको सीमा चाहिन्छ भने, मोडेलले दिन्छ भनी आशा गर्नुभन्दा आफैं देख्न सक्ने ठाउँमा बनाउनुहोस्।
12बारम्बार सोधिने प्रश्नहरू
Shannon 3 के हो?
Shannon 3 भनेको हाम्रो आफ्नै GPU क्लस्टरमा चलाइने सेन्सर नगरिएका मोडेलहरूको परिवार हो। यसलाई फरक बनाउने कुरा एउटा पालोको बनोट हो: एउटै फर्वार्ड पासको साटो यसले सोच्छ, जवाफको मस्यौदा बनाउँछ, अनि त्यो मस्यौदालाई आफ्नै सोचाइसँग मिलाएर समीक्षा गर्छ र पुनर्लेखन गर्छ। यो दुई तहमा आउँछ: shannon-3 (Lite) र shannon-3-pro (Pro)।
Shannon 3 Lite र Shannon 3 Pro बीच के फरक छ?
Lite ले सोच-र-मस्यौदाको एउटै पास चलाउँछ, जसले ढिलाइलाई सामान्य मोडेलको हाराहारीमा राख्छ। Pro ले पूरा लूप चलाउँछ, हरेक मस्यौदालाई 10 पुनरावृत्तिसम्म समीक्षा र पुनर्लेखन गर्दै, र कुनै समीक्षाले स्वीकृत गरेको क्षणमै रोकिन्छ। Pro ले ज्ञान सङ्कलन पनि गर्छ — आफूसँग नभएको भनी पहिचान गरेका तथ्यहरूका लागि दोस्रो, ठूलो मोडेललाई सोध्छ।
के Shannon 3 साँच्चै सेन्सर नगरिएको हो?
हो। Shannon 3 कुनै अस्वीकृति तह र कुनै आउटपुट सामग्री फिल्टरविनै आउँछ। अस्वीकार गर्ने व्यवहार मोडेलमा नै छैन, त्यसैले प्रम्प्टबाट बनाइएको पात्रजस्तो लामो कुराकानीको बीचमा चुपचाप फर्किने कुनै कुरा हुँदैन। मोडेलको प्रयोग भने अझै हाम्रो जिम्मेवार प्रयोग नीति र तपाईं भएको ठाउँको कानुनद्वारा निर्देशित हुन्छ।
के समीक्षा लूपले साँच्चै जवाफ राम्रो बनाउँछ?
एउटै पास संरचनागत रूपमै कमजोर हुने ठाउँमा यसले सबैभन्दा बढी मद्दत गर्छ: लामा जवाफ जसको अन्त्यले सुरुवातलाई काट्छ, बहु-भागे प्रश्न जसमा एउटा भाग चुपचाप छुट्छ, अङ्कगणित र एकाइका त्रुटि, र तोकिएको अड्चन बेवास्ता गर्ने कोड। छोटा खोजहरूमा यसले सबैभन्दा कम मद्दत गर्छ, जहाँ पहिलो मस्यौदा नै जवाफ हो। त्यसैले Lite छ।
समीक्षाले मस्यौदा कहिल्यै स्वीकृत नगरे के हुन्छ?
लूप अनन्तसम्म नघुमी 10 पुनरावृत्तिको आफ्नो सीमामा रोकिन्छ र पुगेसम्मको सबैभन्दा राम्रो मस्यौदा फर्काउँछ। ट्रेस देखिने भएकाले, कहिल्यै समाधान नभएका आपत्तिहरू पनि तपाईं पढ्न सक्नुहुन्छ — जसको अर्थ प्रायः प्रश्न यति अस्पष्ट थियो कि हरेक पुनर्लेखनले एउटा कमजोरी साटेर अर्को ल्यायो, र यो प्रश्न फेरि लेख्नुपर्ने सङ्केत हो।
के Shannon 3 ले तस्बिर र कागजात पढ्न सक्छ?
सक्छ। दुवै तहले तस्बिर र कागजातका एट्याचमेन्ट स्वीकार्छन् र तिनलाई पालोकै अंशका रूपमा पढ्छन्, त्यसैले स्क्रिनसट, चित्र, स्क्यान गरिएको पृष्ठ वा PDF आफैं प्रश्नको विषय बन्न सक्छ — पहिले टाइप गरेर उतार्नुपर्ने कुरा होइन। तस्बिर निर्माण र सम्पादन पनि च्याटमा उपलब्ध छन्, तर मोडेलले बोलाउन सक्ने टुलका रूपमा, यसको उद्देश्यका रूपमा होइन।
के म मोडेलको तर्क हेर्न सक्छु?
सक्नुहुन्छ। पालो चलिरहँदै ट्रेस देखाइन्छ, र त्यो अन्त्यमा अङ्ग्रेजीबाट अनुवाद गरिएको नभई तपाईंकै भाषामा लेखिएको हुन्छ। Pro मा तपाईं हरेक समीक्षा चक्र हेर्नुहुन्छ, जसले मोडेलले आफ्नै गल्ती समातेको बेला देखिने बनाउँछ — र नसमातेको बेला पनि त्यत्तिकै देखिने बनाउँछ।
सुरुवातमा Shannon 3 को सन्दर्भ विन्डो कति थियो?
Shannon 3.0 32,768-टोकनको सन्दर्भ विन्डोसँग सुरु भएको थियो, जुन तपाईंको प्रम्प्ट, कुनै पनि एट्याचमेन्ट, तर्क ट्रेस र जवाफबीच बाँडिन्छ। Shannon 3.1 ले त्यो अङ्क बढाउँछ; हालको सङ्ख्याका लागि Shannon 3.1 को लेख हेर्नुहोस्।
लूप आफैं प्रयोग गरी हेर्नुहोस्
उही प्रश्न दुई पटक सोध्नुहोस् — एक पटक Lite मा, एक पटक Pro मा — र समीक्षाले के बदल्छ हेर्नुहोस्।
च्याट सुरु गर्नुहोस् API कागजात पढ्नुहोस्shannon-3 · shannon-3-pro · तीनै API डायलेक्टमा स्ट्रिमिङ
Shannon 3 लाई Shannon Lab LLC, न्यू मेक्सिको, USA ले सञ्चालन गर्छ। यहाँका आँकडाले 3.0 सुरुवातको कन्फिगरेसन वर्णन गर्छन्; हालका सीमाका लागि Shannon 3.1 मोडेल कार्ड र परिवारका बाँकी सदस्यका लागि अनुसन्धान सूचकाङ्क हेर्नुहोस्। हामी Shannon 3 का लागि कुनै बेन्चमार्क अङ्क प्रकाशित गर्दैनौं र कुनै तुलनात्मक कार्यसम्पादन दाबी गर्दैनौं।