Shannon 3, પોતાના જ જવાબની સમીક્ષા કરતું અનસેન્સર્ડ AI મોડેલ
અમારા પોતાના GPU ક્લસ્ટર પર એક પુનરાવર્તિત તર્ક-લૂપ: વિચારો, ડ્રાફ્ટ કરો, સમીક્ષા કરો, ફરી લખો. Lite એક પાસ ચલાવે છે. Pro દસ સુધી ચલાવે છે, અને પોતાને જે ખૂટતું લાગે તે હકીકતો માગી લે છે.
ટૂંકમાં
Shannon 3 એ અમારા પોતાના GPU ક્લસ્ટર પરથી સર્વ થતો અનસેન્સર્ડ AI મોડેલ પરિવાર છે. તેની ઓળખ છે ટર્નનો આકાર: મોડેલ વિચારે છે, ડ્રાફ્ટ લખે છે, પછી પોતાના જ વિચાર સામે પોતાનો ડ્રાફ્ટ ફરી વાંચે છે અને જે ટકતું નથી તે ફરી લખે છે. Lite (shannon-3) સૌથી ઓછી લેટન્સી માટે વિચાર-અને-ડ્રાફ્ટનો એક પાસ કરે છે. Pro (shannon-3-pro) 10 પુનરાવર્તન સુધી આખો લૂપ ચલાવે છે, અને જેવી કોઈ સમીક્ષા ડ્રાફ્ટને મંજૂરી આપે કે તરત અટકી જાય છે; ઉપરાંત તે મોટા મોડેલ સામે જ્ઞાન-સંગ્રહ ચલાવીને પોતાને ખૂટતી લાગેલી હકીકતો ભરે છે. આખો તર્ક ટ્રેસ તમારી ભાષામાં દેખાય છે. બંને ટિયર પર વિઝન અને દસ્તાવેજ ઇનપુટ સમર્થિત છે. 3.0 ના લોન્ચ સમયે સંદર્ભ 32,768 ટોકન હતો.
તમે વાપરેલા લગભગ દરેક ચેટ મોડેલ એક જ ફોરવર્ડ પાસમાં જવાબ આપે છે. છેલ્લો ટોકન શું હશે તે જાણ્યા પહેલાં જ તે પહેલો ટોકન પસંદ કરી લે છે, અને એક વાર વાક્ય નીકળી ગયું પછી તે બંધનકર્તા બની જાય છે: મોડેલ પછીથી તેનો વિરોધ કરી શકે, પણ પાછળ જઈને તેને સુધારી શકતું નથી. જવાબ ટૂંકો હોય અને પ્રશ્નનો એક જ ભાગ હોય ત્યારે એ સારું ચાલે છે. જવાબ લાંબો હોય, પ્રશ્નના ચાર ભાગ હોય, અને છઠ્ઠો ફકરો ચૂપચાપ બીજા ફકરાને રદ કરી નાખે ત્યારે એ ખરાબ ચાલે છે. Shannon 3 એટલા માટે છે કે અમને લાગ્યું નહીં કે તેનો ઉકેલ મોટું મોડેલ છે. ઉકેલ એ છે કે મોડેલને પોતે હમણાં જ લખેલું વાંચવા દેવું.
01Shannon 3 શું છે
Shannon 3 એ બે-ટિયરનો મોડેલ પરિવાર છે. બંને ટિયર ત્રીજા પક્ષના ઇન્ફરન્સ API ને બદલે અમારા પોતાના GPU ક્લસ્ટર પર ચાલે છે, અને બંને અનસેન્સર્ડ છે: તેમની આગળ કોઈ ઇનકાર સ્તર નથી અને પાછળ કોઈ કન્ટેન્ટ ફિલ્ટર નથી. ટિયર વચ્ચેનો ફરક એટલો જ છે કે જવાબ તમારા સુધી પહોંચે તે પહેલાં એક ટર્નને કેટલું કામ કરવાની છૂટ છે.
API પર બંને ટિયર સામાન્ય મોડેલ ids જ છે. કોઈ ખાસ એન્ડપોઇન્ટ નથી, કોઈ અલગ SDK નથી, અને કોઈ ખાસ બનાવેલું વિનંતી ફોર્મેટ નથી:
| ટિયર | મોડેલ id | ટર્નનો આકાર | કોના માટે શ્રેષ્ઠ |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | એક વિચાર + ડ્રાફ્ટ પાસ | ચેટ, ડ્રાફ્ટિંગ, માહિતી શોધ, વધુ જથ્થો |
| Shannon 3 Pro | shannon-3-pro | આખો લૂપ, 10 પાસ સુધી, વત્તા જ્ઞાન-સંગ્રહ | વિશ્લેષણ, લાંબું લખાણ, ચોકસાઈ-સંવેદનશીલ કામ |
02અઘરા પ્રશ્નો માટે એક જ ફોરવર્ડ પાસ કેમ ખોટો આકાર છે
ડાબેથી જમણે લખાણ બનાવતું મોડેલ સ્થાનિક નિર્ણયોની એવી શ્રેણી લે છે જે પાછી ફેરવી શકાતી નથી. તેની પાસે રબર નથી. જ્યારે તે સમજૂતીમાં 400 ટોકન આગળ વધી ચૂક્યું હોય અને તેને સમજાય કે પસંદ કરેલી માંડણી ખોટી હતી, ત્યારે તેની પાસે માત્ર બે વિકલ્પ છે: ખોટી માંડણીમાં આગળ વધવું અથવા સુધારો જોડી દેવો — અને એમાંથી જ એવા જવાબ જન્મે છે જે બધા ઓળખે છે, જે વચ્ચે ખરેખર તો, ઉપરની વાત ફરી જોઈએ તો એમ કહે છે અને બે અસંગત અડધિયાં તમારે જ મેળવવાનાં રહે છે.
Chain-of-thought આ સુધારે છે પણ ઉકેલતું નથી. પહેલાં વિચારવાથી મોડેલને ગદ્ય લખવા બંધાય તે પહેલાં યોજના મળે છે, જે સાચો ફાયદો છે; પણ પછીનો ડ્રાફ્ટ હજી પણ એક જ પાસમાં લખાય છે અને વાંચ્યા વગર જ મોકલાય છે. કોઈ ક્યારેય એ પ્રશ્ન પૂછતું નથી જે માનવ સંપાદક સૌથી પહેલાં પૂછે છે: વિચારમાં જે કહ્યું હતું તે આ જવાબ ખરેખર કરે છે ખરો? Chain-of-thought પછી પણ ટકી રહેતી નિષ્ફળતાઓ ચોક્કસ અને ઓળખી શકાય તેવી છે:
- છૂટી ગયેલા ઉપ-પ્રશ્નો. તમે ચાર વસ્તુ પૂછી. વિચારે ચાર વસ્તુ યાદી કરી. જવાબ ત્રણ આવરે છે.
- યોજનાનું ખસી જવું. તર્ક એક અભિગમ પર સ્થિર થાય છે; ગદ્ય ધીમે ધીમે બીજો અભિગમ અપનાવે છે, અને ક્યાં ખોટું પડ્યું એ કોઈ એક વાક્યમાં દેખાતું નથી.
- અંકગણિત અને એકમ. વિચારમાં સાચી ગણેલી સંખ્યા જવાબમાં ખોટી ઊતરે છે, અથવા દર-મહિનાનો આંકડો દર-વર્ષનો ગણાવીને રજૂ થાય છે.
- અવગણાયેલી શરતો. તમે કહ્યું હતું કે બહારની કોઈ ડિપેન્ડન્સી નહીં; કોડ એક import કરે છે, અને શરત સ્વીકાર્યા પછી વિચાર તેનો ફરી ઉલ્લેખ જ કરતો નથી.
- આત્મવિશ્વાસભરી ખાલી જગ્યાઓ. મોડેલ વિચારમાં કહે છે કે તેને એક ચોક્કસ હકીકત વિશે ખાતરી નથી, પછી જવાબમાં એ જ વાત નિશ્ચિતપણે કહી દે છે.
આમાંની દરેક ભૂલ ડ્રાફ્ટ વાંચવાથી પકડાય છે. ડ્રાફ્ટ વધુ કાળજીથી બનાવવાથી એકેય પકડાતી નથી.
03તર્ક-લૂપ, તબક્કાવાર
Shannon 3 Pro નો એક ટર્ન એટલે ચાર તબક્કા અને એક બહાર નીકળવાની શરત ધરાવતો લૂપ.
વિચાર
તમારા માટે કશું લખતાં પહેલાં મોડેલ સમસ્યા પર કામ કરે છે: પ્રશ્નને ટુકડામાં વહેંચે છે, શરતો નોંધે છે, પોતે શું જાણે છે અને શું નથી જાણતું તે ઓળખે છે, અને એક અભિગમ પર સ્થિર થાય છે. અહીં તે જે બનાવે છે તે જ પછીથી જવાબને માપવાનું ધોરણ બને છે.
ડ્રાફ્ટ
મોડેલ સંપૂર્ણ, સાચો જવાબ લખે છે — રૂપરેખા નહીં. તે સંપૂર્ણ હોવો જ જોઈએ, કારણ કે પછીનો તબક્કો તૈયાર કૃતિનું મૂલ્યાંકન કરે છે, અને જે નિષ્ફળતાઓ પૂરી લંબાઈએ જ દેખાય તે માટે રૂપરેખાની સમીક્ષા થઈ શકતી નથી.
સમીક્ષા
આ જ તબક્કો આ પરિવારને તે બનાવે છે જે તે છે. મોડેલ ડ્રાફ્ટને વિચારની સામે વાંચે છે — જે એકલો ડ્રાફ્ટ વાંચવા કરતાં ઘણી તીક્ષ્ણ કસોટી છે. મોડેલને "શું આ જવાબ સારો છે?" પૂછવાથી તેને હા કહેવાનું આમંત્રણ મળે છે; "યોજનામાં કહ્યું હતું કે શરત C હેઠળ X, Y અને Z આવરવાં — શું આ લખાણ એ કરે છે?" પૂછવાથી તેને તપાસવા જેવું નક્કર કંઈક મળે છે. સમીક્ષા ગુણ આપવાને બદલે શું ખોટું છે તે નામ દઈને કહે છે.
પુનર્લેખન
નામ દઈને જણાવેલી સમસ્યાઓ નવા ડ્રાફ્ટમાં સુધારાય છે. આ પુનર્લેખન છે, પેચ નહીં: જે સુધારા માટે દલીલનો ક્રમ બદલવો પડે તેને ક્રમ બદલવાની છૂટ છે. નવો ડ્રાફ્ટ ફરી સમીક્ષામાં જાય છે.
અટકવું
પહેલી વાર જ્યારે કોઈ સમીક્ષા ડ્રાફ્ટને મંજૂરી આપે ત્યારે લૂપ પૂરો થાય છે — એ સામાન્ય નિકાસ છે, અને મોટા ભાગના ટર્નમાં તે ટોચમર્યાદા પહેલાં જ થઈ જાય છે. 10 પુનરાવર્તન ની કડક મર્યાદા વિકૃત કિસ્સાઓ માટે છે, જેમ કે ખરેખર સંદિગ્ધ પ્રશ્ન જ્યાં દરેક પુનર્લેખન એક ખામીના બદલામાં બીજી લે છે, જેથી કોઈ ટર્ન અનંત સુધી ફર્યા ન કરે.
Lite એ જ પહેલા બે તબક્કા લે છે અને અટકી જાય છે. તે વિચારે છે, ડ્રાફ્ટ કરે છે, અને ડ્રાફ્ટ તમને આપી દે છે. એ ઇરાદાપૂર્વકનો ઉત્પાદન નિર્ણય છે, કાપકૂપ કરેલો અકસ્માત નહીં: સાચા સંદેશાઓના મોટા હિસ્સામાં પહેલો ડ્રાફ્ટ જ સાચો જવાબ હોય છે, અને એ સાંભળવા માટે સમીક્ષાની લેટન્સી ચૂકવવી ખરાબ સોદો છે. Lite ત્યારે માટે છે જ્યારે તમે મોડેલને ઝડપી ઇચ્છો; Pro ત્યારે માટે જ્યારે તમે તેને ખાતરીવાળું ઇચ્છો.
04Pro નો જ્ઞાન-સંગ્રહ: અટકળ કરવાને બદલે મદદ માગવી
સ્વ-સમીક્ષા વિરોધાભાસ, બાદબાકી અને શરત-ભંગ પકડે છે, કારણ કે એ પકડવા માટે જોઈતા પુરાવા ટર્નમાં જ હાજર છે. જે હકીકત મોડેલ પાસે છે જ નહીં તેને તે પકડી શકતી નથી. પોતાના ડ્રાફ્ટની સમીક્ષા કરતું મોડેલ આ આંકડા વિશે મને ખાતરી નથી એવો નિષ્કર્ષ કાઢી શકે અને પછી એ નિષ્કર્ષ લઈને ક્યાંય જઈ ન શકે.
Pro તેને જવા માટે જગ્યા આપે છે. ડ્રાફ્ટના તબક્કાની આસપાસ તે જ્ઞાન-સંગ્રહ કરે છે: તેને જે ચોક્કસ હકીકતો ખૂટે છે કે જેના વિશે તે અચોક્કસ છે તે ઓળખે છે, બરાબર એ જ માટે બીજા, મોટા મોડેલને પૂછે છે, અને જે પાછું આવે તે સુધારેલા જવાબમાં વણી લે છે. એ મોડેલે પોતે નામ દઈને જણાવેલી ખાલી જગ્યાથી ચાલતી લક્ષિત શોધ છે, આખા પ્રશ્નનો બીજો અભિપ્રાય નહીં.
વ્યવહારમાં બે ગુણધર્મ મહત્ત્વના છે. તે મર્યાદિત વ્યાપનો છે: સંગ્રહ આખો પ્રશ્ન ફરી પૂછવાને બદલે ઓળખાયેલી ખાલી જગ્યાઓ વિશે પૂછે છે, એટલે મોટા મોડેલને ત્યાં પૂછાય છે જ્યાં તે માહિતી ઉમેરે, નહીં કે જ્યાં તે માત્ર બીજો અવાજ ઉમેરે. અને તે સંકલિત છે: સંગ્રહેલી હકીકતો ફરી લૂપમાંથી પસાર થાય છે અને બાકી બધા જેવી જ સમીક્ષાનો સામનો કરે છે, બહારથી ચોંટાડેલા ફકરા તરીકે આવતી નથી.
અનિશ્ચિતતા વિશે આ શું બદલે છે
સંગ્રહની સૌથી ઉપયોગી અસર એ નથી કે Pro વધુ જાણે છે. અસર એ છે કે Pro ની અનિશ્ચિતતા હવે કાર્યક્ષમ બને છે. જે મોડેલ માત્ર એટલું જ જાણે કે તેને ખાતરી નથી, તેની પાસે બધું ગોળગોળ કહેવું અથવા આત્મવિશ્વાસથી ભારપૂર્વક કહેવું — એ બે વચ્ચે જ પસંદગી રહે છે. જે મોડેલ "મને આ વિશે ખાતરી નથી" ને "ચાલો શોધી કાઢું" માં ફેરવી શકે તે ઓછી જગ્યાએ ગોળગોળ બોલે છે અને વધુ જગ્યાએ ચોક્કસ રહે છે.
05તર્ક દેખાય છે, અને તે તમારી ભાષામાં હોય છે
ટર્ન ચાલતો હોય ત્યારે જ આખો ટ્રેસ તમને બતાવાય છે: વિચાર, અને Pro પર દરેક સમીક્ષા અને તેણે શાનો વાંધો લીધો તે. આ કોઈ ડિબગ વ્યૂ નથી જેને બતાવવાનું અમે સહન કરીએ છીએ — તમે જે ખરીદો છો તેનો મોટો ભાગ એ જ છે, અને તે કામના સંબંધને ત્રણ નક્કર રીતે બદલે છે.
- તમે વહેલા અટકાવી શકો છો. જો વિચાર તમારો પ્રશ્ન ખોટો સમજે — જે સંદિગ્ધ પ્રોમ્પ્ટનું સામાન્ય પરિણામ છે, ખરાબ મોડેલનું નહીં — તો તમને પહેલી થોડી સેકન્ડમાં જ ખબર પડી જાય છે, નહીં કે ખોટી સમસ્યા ઉકેલતો આખો જવાબ આવ્યા પછી.
- તમે તર્કનું ઓડિટ જવાબથી અલગ કરી શકો છો. ખોટા તર્કથી પહોંચેલો સાચો જવાબ જોખમ છે, કારણ કે તે પછીના પ્રશ્નમાં ટકશે નહીં.
- તમે લૂપને નિષ્ફળ થતો જોઈ શકો છો. જ્યારે Pro કેટલાંય પુનરાવર્તન વાપરીને પણ સ્થિર ન થાય, ત્યારે એ છુપાવવાને બદલે બતાવાય છે — અને એ સાચી માહિતી છે, જેનો સામાન્ય રીતે અર્થ છે કે પ્રશ્ન અધૂરો ઘડાયેલો છે.
ટ્રેસ તમારી પોતાની ભાષામાં લખાય છે, અંગ્રેજીમાં બનાવીને અંતે અનુવાદ કરાતો નથી. જો તમે જાપાનીઝ, અરબી, તુર્કી કે પોર્ટુગીઝમાં કામ કરતા હો, તો મોડેલ એ જ ભાષામાં તર્ક કરે છે — જેનાથી ટ્રેસની પરિભાષા જવાબની પરિભાષા સાથે સુસંગત રહે છે, અને મોડેલ એક ભાષામાં વિચારે ને બીજીમાં બોલે ત્યારે દેખાતા સાંધા ટળે છે.
06અનસેન્સર્ડ: કોઈ ઇનકાર સ્તર નહીં, કોઈ આઉટપુટ ફિલ્ટર નહીં
Shannon 3 કોઈ ઇનકાર સ્તર અને કોઈ આઉટપુટ કન્ટેન્ટ ફિલ્ટરિંગ વગર આવે છે. ઇનકારનું વર્તન ઉત્પાદનમાં કોઈ પણ સ્તરે હાજર નથી: મોડેલ તમારો સંદેશ જુએ તે પહેલાં તેને તપાસતા રેપર તરીકે નહીં, તમે જવાબ જુઓ તે પહેલાં તેને તપાસતા ક્લાસિફાયર તરીકે નહીં, અને મોડેલને જેમાંથી સમજાવીને બહાર કાઢવું પડે એવી પ્રતિક્રિયા તરીકે પણ નહીં. લોકો જ્યારે "અનસેન્સર્ડ" કહે છે ત્યારે સામાન્ય રીતે જે બે વસ્તુ સમજતા હોય છે તેનાથી આ ખરેખર જુદું છે:
| અભિગમ | તે શું કરે છે | તે કઈ રીતે નિષ્ફળ જાય છે |
|---|---|---|
| સિસ્ટમ-પ્રોમ્પ્ટ જેલબ્રેક | સંરેખિત મોડેલને અસંરેખિત હોય તેમ વર્તવાની સૂચના આપે છે | લાંબી વાતચીતમાં ઘસાઈ જાય છે; દબાણ આવતાં ઇનકાર પાછો આવે છે |
| આઉટપુટ ફિલ્ટર હટાવવું | મોડેલે પહેલેથી બનાવેલા લખાણને રોકવાનું બંધ કરે છે | મોડેલ હજી પણ ગોળગોળ, ટાળનારું લખાણ લખે છે — કશું રોકાયું નહોતું, એ ક્યારેય લખાયું જ નહોતું |
| Shannon 3 | હટાવવા માટે કોઈ ઇનકાર સ્તર જ નથી અને બંધ કરવા માટે કોઈ ફિલ્ટર જ નથી — એ વર્તન ત્યાં છે જ નહીં | નિર્ણયનો આખો ભાર તમારા પર મૂકે છે; મોડેલ તમારા વતી ના પાડશે નહીં |
વ્યવહારમાં Shannon 3 તમે પૂછેલા પ્રશ્નની બાજુના સલામત પ્રશ્નને બદલે તમે પૂછેલા પ્રશ્ન સાથે જ કામ પાડે છે: સાચા ખલનાયકો સાથેની કાલ્પનિક કથા, પ્રેસ-રિલીઝની ઊંચાઈએ નહીં પણ ટેકનિકલ રીતે ચર્ચાતા સુરક્ષા વિષયો, તબીબી, કાનૂની અને નાણાકીય માહિતી સીધી અને ખરેખર જરૂરી હોય એટલી જ ચેતવણીઓ સાથે — અને તમે કેમ પૂછ્યું હશે તે વિશે અંતે કોઈ ઉપદેશ નહીં. તે લૂપને પણ પાતળો કરતું નથી: સમીક્ષા છૂટથી કહી શકે છે કે ડ્રાફ્ટ ખોટો છે, અને એ ઇનકાર કરતાં જુદો અને વધુ ઉપયોગી પ્રતિકાર છે.
ઇનકાર સ્તરની ગેરહાજરી જે નથી કરતી તે છે મોડેલને સાચું બનાવવું. અનસેન્સર્ડ મોડેલ સેન્સર્ડ મોડેલ જેટલું જ આત્મવિશ્વાસથી ખોટું હોઈ શકે છે, અને વધુ ખુલ્લી રીતે, કારણ કે અચોક્કસ હોય ત્યારે તે અસ્પષ્ટતામાં પાછું હટતું નથી. લૂપ માટેની એ સારી દલીલોમાંની એક છે: ઇનકારની પ્રતિક્રિયા વચ્ચે ન હોવાથી, સ્વ-સમીક્ષા એ સલામતીનું કામ કરે છે જે વ્યાવસાયિક વપરાશકર્તા માટે ખરેખર મહત્ત્વનું છે — ભૂલો પકડવી. મોડેલનો તમારો ઉપયોગ અમારી જવાબદાર ઉપયોગ નીતિ અને તમારા સ્થળના કાયદા હેઠળ સંચાલિત રહે છે.
અમે Shannon 3 માટે કોઈ બેન્ચમાર્ક સ્કોર પ્રકાશિત કરતા નથી અને બીજાં મોડેલો સામે સીધી સરખામણીના દાવા કરતા નથી. લૂપનો ફાયદો માળખાકીય છે — તે ભૂલોના એવા વર્ગ પકડે છે જે એક પાસ પકડી શકતો નથી — અને અમે એ પદ્ધતિ ચોકસાઈથી વર્ણવવાનું પસંદ કરીશું, નહીં કે તેને એવો આંકડો જોડવાનું જે અમે સ્વતંત્ર રીતે ચકાસ્યો નથી. ઉપરનું બધું એક ટર્ન શું કરે છે તે વર્ણવે છે; તેને ચકાસવાનો સૌથી ઝડપી રસ્તો છે એક ટર્ન ચલાવીને ટ્રેસ વાંચવો.
07વિઝન, દસ્તાવેજ અને ઇમેજ જનરેશન
બંને ટિયર જોડાણ તરીકે છબીઓ અને દસ્તાવેજો સ્વીકારે છે અને તેમને ટર્નના ભાગ તરીકે વાંચે છે. નિષ્ફળ થતા બિલ્ડનો સ્ક્રીનશોટ, ફોટો પાડેલું વ્હાઇટબોર્ડ, એક સ્કીમેટિક, સ્કેન કરેલું કરારનું પાનું કે PDF પોતે જ પ્રશ્નનો વિષય બની શકે છે, તમારે તેને પહેલાં ઉતારવું પડતું નથી. Pro પર જોડાણ પણ બાકી બધાની જેમ લૂપમાં ભાગ લે છે: જો સમીક્ષા નક્કી કરે કે ડ્રાફ્ટે એવો જવાબ આપ્યો છે જેને છબી ટેકો આપતી નથી, તો તે ફરી લખાય છે.
ઇમેજ જનરેશન અને એડિટિંગ ચેટમાં એક ટૂલ તરીકે ઉપલબ્ધ છે, મોડેલના હેતુ તરીકે નહીં. Shannon 3 એ તર્ક કરતું મોડેલ છે જે વાતચીતમાં જરૂર પડ્યે છબી બનાવી કે સંપાદિત કરી શકે છે, ચેટ ઇન્ટરફેસ જોડેલું ઇમેજ મોડેલ નથી. આ ભેદ અપેક્ષાઓ યોગ્ય રીતે બાંધે છે: આ પરિવારને તે કઈ રીતે વિચારે છે તેના પરથી માપો, અને છબીઓને એવી સગવડ ગણો જે સંદર્ભ બદલવાનું બચાવે છે.
08સંદર્ભ વિન્ડો, અને 3.x શ્રેણી પછી ક્યાં ગઈ
Shannon 3.0 32,768 ટોકન ની સંદર્ભ વિન્ડો સાથે લોન્ચ થયું હતું. એ પ્રામાણિક ઐતિહાસિક આંકડો છે, અને સ્પષ્ટ કહેવા જેવો છે, કારણ કે લૂપ સંદર્ભ એક-પાસ મોડેલ કરતાં જુદી રીતે વાપરે છે: તમારો પ્રોમ્પ્ટ, તમારાં જોડાણ, વિચાર, અને દરેક ડ્રાફ્ટ તથા સમીક્ષા ચક્ર — બધું એક જ બજેટમાં રહે છે.
મોટા ભાગના ચેટ અને વિશ્લેષણ કામ માટે 32K આરામદાયક છે — એક લાંબો દસ્તાવેજ, એક નોંધપાત્ર કોડ ફાઇલ, લૂપ ચલાવવાની જગ્યા સાથેનો વિગતવાર બહુ-ભાગવાળો પ્રશ્ન. ખરેખર મોટા ઇનપુટ માટે તે સાંકડું છે, અને એ જ મર્યાદા આગામી રિલીઝે સંબોધી. Shannon 3.1 સંદર્ભ વિન્ડો નોંધપાત્ર રીતે વધારે છે અને લૂપને શેના પર તાકી શકાય તે બદલી નાખે છે; જો તમે આજે આ પરિવારનું મૂલ્યાંકન કરતા હો, તો એ લેખ બીજા ક્રમે વાંચો અને અહીંનો આંકડો ઇતિહાસ ગણો.
09API માંથી Shannon 3 ને બોલાવવું
Shannon 3 અમારા ત્રણેય API ડાયલેક્ટ મારફતે, એ જ મોડેલ પર, અને દરેક પર સ્ટ્રીમિંગ સાથે ઉપલબ્ધ છે:
| ડાયલેક્ટ | એન્ડપોઇન્ટ | ક્યારે વાપરવું |
|---|---|---|
| OpenAI-સુસંગત | /v1/chat/completions | તમારી પાસે પહેલેથી OpenAI ક્લાયન્ટ કોડ હોય — બેઝ URL અને મોડેલ id બદલો |
| Anthropic-સુસંગત | /v1/messages | તમારો સ્ટેક Messages ફોર્મેટની આસપાસ બનેલો હોય |
| Responses | /v1/responses | તમને નવો વિનંતી/પ્રતિસાદ આકાર જોઈતો હોય |
મોડેલ id તરીકે shannon-3 અથવા shannon-3-pro મોકલો. ક્લાયન્ટ બાજુએ બે વસ્તુની યોજના કરવા જેવી છે. Pro ના ટર્ન વધુ સમય લે છે, અને એ સમય બદલાતો રહે છે, કારણ કે પુનરાવર્તનની સંખ્યા પ્રશ્ન પર આધારિત છે — ટાઇમઆઉટ સરેરાશ સામે નહીં પણ ટોચમર્યાદા સામે ગોઠવો, અને સ્ટ્રીમિંગ પસંદ કરો જેથી વપરાશકર્તાને સ્પિનરને બદલે પ્રગતિ દેખાય. અને તર્ક ટ્રેસ એ સામગ્રી છે જે તમે બતાવવાનું પસંદ કરી શકો છો; જ્યાં વપરાશકર્તા રાહ જોતા હોય ત્યાં તેને બતાવવું સામાન્ય રીતે છુપાવવા કરતાં સારું છે, કારણ કે તે નિરર્થક સમયને વાંચી શકાય એવી વસ્તુમાં ફેરવે છે. વિનંતી અને પ્રતિસાદનાં સ્કીમા, સ્ટ્રીમિંગની વિગતો અને લાઇવ પ્લેગ્રાઉન્ડ API દસ્તાવેજીકરણ માં છે.
10ટિયર પસંદ કરવું
ખોટું પડવા જેવું જેટલું વધારે હોય, એટલા પ્રમાણમાં Pro નો લૂપ પોતાની લેટન્સી કમાઈ લે છે.
| તમારું કામ | ટિયર | કેમ |
|---|---|---|
| ઝડપી હકીકતલક્ષી પ્રશ્ન, ટૂંકો જવાબ | shannon-3 | પહેલો ડ્રાફ્ટ જ જવાબ છે; સમીક્ષા પાસે પકડવા જેવું કશું નથી |
| વધુ જથ્થાનું કે લેટન્સી-બંધ ઓટોમેશન | shannon-3 | અંદાજી શકાય તેવો ટર્ન સમય જ મુખ્ય મર્યાદા છે |
| શરતો સાથેનું બહુ-ભાગવાળું વિશ્લેષણ | shannon-3-pro | છૂટી ગયેલા ઉપ-પ્રશ્નો અને શરત-ભંગ બરાબર એ જ છે જે સમીક્ષા પકડે છે |
| લાંબું લખાણ જે એકસૂત્ર રહેવું જોઈએ | shannon-3-pro | આંતરિક વિરોધાભાસ પૂરી લંબાઈનો ગુણધર્મ છે, ડ્રાફ્ટ કરતી વખતે અદૃશ્ય |
| એવી કોઈ પણ વસ્તુ જેના આંકડા પર તમે પગલાં લેશો | shannon-3-pro | સમીક્ષા વિચારની સામે અંકગણિત અને એકમ ફરી તપાસે છે |
| મોડેલની જાણકારીની કિનારે આવેલી હકીકતોને સ્પર્શતા પ્રશ્નો | shannon-3-pro | જ્ઞાન-સંગ્રહ નામ દઈને જણાવેલી ખાલી જગ્યાને શોધમાં ફેરવે છે |
એક વ્યવહારુ પદ્ધતિ: તમે શું પૂછવું છે તે ગોઠવતા હો ત્યાં સુધી Lite વાપરો, પછી નક્કી થયેલો પ્રશ્ન એક વાર Pro પર ફરી ચલાવો. તમે ખરેખર જે પૂછવા માગતા હતા એ સ્વરૂપના પ્રશ્ન પર લૂપ ચૂકવવા જેવો છે.
11પ્રતિબદ્ધ થતાં પહેલાં જાણવા જેવી મર્યાદાઓ
જે મોડેલ કાર્ડ માત્ર શક્તિઓ ગણાવે તે જાહેરાત છે. Shannon 3 તમને ક્યાં નિરાશ કરશે તે અહીં છે:
- Pro ધીમું છે, અને અણધારી રીતે. બે પુનરાવર્તનમાં પતી જતો ટર્ન અને દસ સુધી ચાલતો ટર્ન ઘડિયાળના સમયમાં કેટલાય ગણો ફરક ધરાવે છે. જો તમને મર્યાદિત લેટન્સી જોઈએ, તો Lite વાપરો.
- સમીક્ષા એ પુરાવો નથી. પોતાનું જ કામ તપાસતું મોડેલ પોતાના જ અંધ ખૂણા વહેંચે છે. લૂપ વિચાર અને ડ્રાફ્ટ વચ્ચેની અસંગતતા ભરોસાપાત્ર રીતે પકડે છે; વિચારમાં જ આત્મવિશ્વાસથી પકડી રાખેલી ભૂલ તે ભરોસાપાત્ર રીતે પકડતો નથી.
- સંદર્ભ લૂપ સાથે વહેંચાય છે. 32K પર ખૂબ લાંબું ઇનપુટ વત્તા કેટલાય પૂરી લંબાઈના ડ્રાફ્ટ 3.0 માટે સાચી મર્યાદા છે. ઊંચી કરેલી મર્યાદા માટે Shannon 3.1 જુઓ.
- સંગ્રહ માત્ર એ જ ખાલી જગ્યાઓ ભરે છે જે મોડેલ નોંધે છે. તે "મને આ વિશે ખાતરી નથી" ને શોધમાં ફેરવે છે, જે સાચો ફાયદો છે — પણ જે હકીકત વિશે મોડેલ આત્મવિશ્વાસથી ખોટું છે તે ક્યારેય ખૂટતી તરીકે નોંધાતી નથી, એટલે તે ક્યારેય સંગ્રહાતી નથી.
- અનસેન્સર્ડ એટલે અનસેન્સર્ડ. મોડેલ ના પાડશે નહીં અને વાત નરમ કરશે નહીં. જો તમારા ઉત્પાદનને ઇનકારની સીમા જોઈતી હોય, તો મોડેલ તે પૂરી પાડશે એવી આશા રાખવાને બદલે તેને એવી જગ્યાએ બનાવો જ્યાં તમે તેને જોઈ શકો.
12વારંવાર પૂછાતા પ્રશ્નો
Shannon 3 શું છે?
Shannon 3 એ અમારા પોતાના GPU ક્લસ્ટર પર ચાલતાં અનસેન્સર્ડ મોડેલોનો પરિવાર છે. તેને અલગ પાડે છે એક ટર્નનો આકાર: એક જ ફોરવર્ડ પાસને બદલે તે વિચારે છે, જવાબનો ડ્રાફ્ટ કરે છે, પછી પોતાના જ વિચાર સામે એ ડ્રાફ્ટની સમીક્ષા કરીને તેને ફરી લખે છે. તે બે ટિયરમાં આવે છે, shannon-3 (Lite) અને shannon-3-pro (Pro).
Shannon 3 Lite અને Shannon 3 Pro વચ્ચે શું ફરક છે?
Lite વિચાર-અને-ડ્રાફ્ટનો એક જ પાસ ચલાવે છે, જેથી લેટન્સી સામાન્ય મોડેલ જેટલી જ રહે છે. Pro આખો લૂપ ચલાવે છે, દરેક ડ્રાફ્ટની 10 પુનરાવર્તન સુધી સમીક્ષા કરીને તેને ફરી લખે છે, અને જેવી કોઈ સમીક્ષા તેને મંજૂરી આપે કે તરત જ અટકી જાય છે. Pro જ્ઞાન-સંગ્રહ પણ કરે છે, એટલે કે જે હકીકતો ખૂટતી હોવાનું તેણે ઓળખી હોય તે માટે બીજા, મોટા મોડેલને પૂછે છે.
શું Shannon 3 ખરેખર અનસેન્સર્ડ છે?
હા. Shannon 3 કોઈ ઇનકાર સ્તર અને કોઈ આઉટપુટ કન્ટેન્ટ ફિલ્ટર વગર આવે છે. ઇનકારનું વર્તન મોડેલમાં જ હાજર નથી, એટલે લાંબી વાતચીતની વચ્ચે ચૂપચાપ પાછું આવે એવું કશું નથી — જેમ પ્રોમ્પ્ટથી ઊભા કરેલા વ્યક્તિત્વ સાથે થાય છે તેમ. મોડેલનો ઉપયોગ હજી પણ અમારી જવાબદાર ઉપયોગ નીતિ અને તમારા સ્થળના કાયદા હેઠળ સંચાલિત છે.
શું સમીક્ષા લૂપ ખરેખર જવાબ સુધારે છે?
તે ત્યાં સૌથી વધુ મદદ કરે છે જ્યાં એક પાસ માળખાકીય રીતે નબળો હોય: લાંબા જવાબ જેમનો અંત તેમની શરૂઆતનો વિરોધ કરે, બહુ-ભાગવાળા પ્રશ્નો જ્યાં એક ભાગ ચૂપચાપ છૂટી જાય, અંકગણિત અને એકમની ભૂલો, અને એવો કોડ જે જણાવેલી શરતને અવગણે. તે ટૂંકી માહિતી શોધવામાં સૌથી ઓછી મદદ કરે છે, જ્યાં પહેલો ડ્રાફ્ટ જ જવાબ હોય છે. એટલે જ Lite અસ્તિત્વમાં છે.
જો સમીક્ષા ડ્રાફ્ટને ક્યારેય મંજૂરી ન આપે તો શું થાય?
લૂપ 10 પુનરાવર્તનની પોતાની ટોચમર્યાદા પર અટકી જાય છે અને અનંત સુધી ફર્યા કરવાને બદલે તે જ્યાં પહોંચ્યો હોય તે શ્રેષ્ઠ ડ્રાફ્ટ પાછો આપે છે. ટ્રેસ દેખાતો હોવાથી, જે વાંધા ક્યારેય ઉકેલાયા નહીં તે પણ તમે વાંચી શકો છો — જેનો સામાન્ય રીતે અર્થ એ થાય કે પ્રશ્ન એટલો સંદિગ્ધ હતો કે દરેક પુનર્લેખને એક ખામીના બદલામાં બીજી ખામી લીધી, અને એ પ્રશ્ન ફરીથી શબ્દબદ્ધ કરવાનો સંકેત છે.
શું Shannon 3 છબીઓ અને દસ્તાવેજો વાંચી શકે છે?
હા. બંને ટિયર છબી અને દસ્તાવેજનાં જોડાણ સ્વીકારે છે અને તેમને ટર્નના ભાગ તરીકે વાંચે છે, એટલે સ્ક્રીનશોટ, આકૃતિ, સ્કેન કરેલું પાનું કે PDF પોતે જ પ્રશ્નનો વિષય બની શકે છે, તમારે તેને પહેલાં ઉતારવું પડતું નથી. ઇમેજ જનરેશન અને એડિટિંગ પણ ચેટમાં ઉપલબ્ધ છે, પણ મોડેલ બોલાવી શકે એવા ટૂલ તરીકે, તેના હેતુ તરીકે નહીં.
શું હું મોડેલનો તર્ક જોઈ શકું?
હા. ટર્ન ચાલતો હોય ત્યારે જ ટ્રેસ બતાવાય છે, અને તે અંતે અંગ્રેજીમાંથી અનુવાદ કરવાને બદલે તમારી પોતાની ભાષામાં લખાય છે. Pro પર તમે દરેક સમીક્ષા ચક્ર જુઓ છો, જેનાથી મોડેલ પોતાની ભૂલ પકડે ત્યારે તે દેખાય છે — અને ન પકડે ત્યારે પણ એટલું જ દેખાય છે.
લોન્ચ સમયે Shannon 3 ની સંદર્ભ વિન્ડો કેટલી હતી?
Shannon 3.0 32,768-ટોકનની સંદર્ભ વિન્ડો સાથે લોન્ચ થયું હતું, જે તમારા પ્રોમ્પ્ટ, કોઈ પણ જોડાણ, તર્ક ટ્રેસ અને જવાબ વચ્ચે વહેંચાય છે. Shannon 3.1 એ આંકડો વધારે છે; વર્તમાન સંખ્યા માટે Shannon 3.1 નો લેખ જુઓ.
લૂપ જાતે અજમાવો
એક જ પ્રશ્ન બે વાર પૂછો — એક વાર Lite પર, એક વાર Pro પર — અને જુઓ કે સમીક્ષા શું બદલે છે.
ચેટ શરૂ કરો API દસ્તાવેજો વાંચોshannon-3 · shannon-3-pro · ત્રણેય API ડાયલેક્ટ પર સ્ટ્રીમિંગ
Shannon 3 નું સંચાલન Shannon Lab LLC, ન્યૂ મેક્સિકો, USA કરે છે. અહીંના આંકડા 3.0 ના લોન્ચ કન્ફિગરેશનનું વર્ણન કરે છે; વર્તમાન મર્યાદાઓ માટે Shannon 3.1 મોડેલ કાર્ડ અને બાકીના પરિવાર માટે સંશોધન અનુક્રમણિકા જુઓ. અમે Shannon 3 માટે કોઈ બેન્ચમાર્ક સ્કોર પ્રકાશિત કરતા નથી અને પ્રદર્શનના તુલનાત્મક દાવા કરતા નથી.