Shannon 3, తన సొంత సమాధానాన్ని సమీక్షించే సెన్సార్ లేని AI మోడల్
మా స్వంత GPU క్లస్టర్‌పై ఒక పునరావృత తర్క లూప్: ఆలోచన, ముసాయిదా, సమీక్ష, పునర్లేఖనం. Lite ఒకే పాస్ నడుపుతుంది. Pro పది వరకూ నడిపి, తనకు లేవని తెలిసిన వాస్తవాలను అడుగుతుంది.
సంక్షిప్తంగా
Shannon 3 అనేది మా స్వంత GPU క్లస్టర్ నుండి అందించబడే సెన్సార్ లేని AI మోడల్ కుటుంబం. దీని ప్రత్యేకత ఒక టర్న్ ఆకారం: మోడల్ ఆలోచిస్తుంది, ఒక ముసాయిదా రాస్తుంది, ఆపై తన సొంత ముసాయిదాను తన సొంత ఆలోచనతో పోల్చి చదివి, నిలవని దాన్ని తిరిగి రాస్తుంది. Lite (shannon-3) అత్యల్ప జాప్యం కోసం ఒకే ఆలోచన-మరియు-ముసాయిదా పాస్ చేస్తుంది. Pro (shannon-3-pro) పూర్తి లూప్‌ను 10 పునరావృత్తుల వరకూ నడుపుతుంది, ఒక సమీక్ష ముసాయిదాను ఆమోదించిన క్షణమే ఆగిపోతుంది, అదనంగా తనకు లేవని గమనించిన వాస్తవాలను పూరించడానికి ఒక పెద్ద మోడల్‌పై జ్ఞాన సేకరణ నడుపుతుంది. మొత్తం తర్క జాడ మీ భాషలో కనిపిస్తుంది. రెండు స్థాయిలలోనూ విజన్ మరియు పత్ర ఇన్‌పుట్‌కు మద్దతు ఉంది. 3.0 విడుదల సమయంలో సందర్భం 32,768 టోకెన్‌లు.
మీరు వాడిన దాదాపు ప్రతి చాట్ మోడల్ ఒకే ఫార్వర్డ్ పాస్‌లో సమాధానమిస్తుంది. చివరి టోకెన్ ఏమిటో తెలియకముందే అది మొదటి టోకెన్‌ను ఎంచుకుంటుంది, మరియు ఒక వాక్యం విడుదలైన తర్వాత అది కట్టుబడిపోతుంది: మోడల్ దానిని తర్వాత విరుద్ధంగా చెప్పగలదు, కానీ వెనక్కి వెళ్ళి సరిచేయలేదు. సమాధానం చిన్నదైనప్పుడు, ప్రశ్నకు ఒకే భాగం ఉన్నప్పుడు అది బాగా పనిచేస్తుంది. సమాధానం పొడవుగా ఉండి, ప్రశ్నకు నాలుగు భాగాలు ఉండి, ఆరవ పేరా రెండవ పేరాను నిశ్శబ్దంగా చెల్లనిదిగా చేసినప్పుడు అది చెడుగా పనిచేస్తుంది. దీనికి పరిష్కారం పెద్ద మోడల్ కాదని మేము భావించడం వల్లే Shannon 3 ఉంది. పరిష్కారం ఏమిటంటే, మోడల్ తాను ఇప్పుడే రాసినదాన్ని చదవనివ్వడం.
01Shannon 3 అంటే ఏమిటి
Shannon 3 అనేది రెండు-స్థాయిల మోడల్ కుటుంబం. రెండు స్థాయిలూ మూడవ-పక్ష ఇన్ఫరెన్స్ APIపై కాకుండా మా స్వంత GPU క్లస్టర్‌పై నడుస్తాయి, మరియు రెండూ సెన్సార్ లేనివి: వాటి ముందు తిరస్కరణ పొర లేదు, వెనుక కంటెంట్ ఫిల్టర్ లేదు. స్థాయిల మధ్య తేడా ఏమిటంటే, సమాధానం మీకు చేరకముందు ఒక టర్న్‌లో ఎంత పని చేయడానికి అనుమతి ఉందనేది.
APIలో ఈ రెండు స్థాయిలూ సాధారణ మోడల్ ఐడీలే. ప్రత్యేక ఎండ్‌పాయింట్ లేదు, వేరే SDK లేదు, ప్రత్యేకంగా తయారుచేసిన అభ్యర్థన ఫార్మాట్ లేదు:
| స్థాయి | మోడల్ ఐడీ | టర్న్ ఆకారం | దీనికి ఉత్తమం |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | ఒక ఆలోచన + ముసాయిదా పాస్ | చాట్, ముసాయిదా రాయడం, సమాచార అన్వేషణ, అధిక పరిమాణం |
| Shannon 3 Pro | shannon-3-pro | పూర్తి లూప్, 10 పాస్‌ల వరకూ, జ్ఞాన సేకరణతో పాటు | విశ్లేషణ, దీర్ఘ రచన, ఖచ్చితత్వం అవసరమైన పని |
02కష్టమైన ప్రశ్నలకు ఒకే ఫార్వర్డ్ పాస్ ఎందుకు తప్పు ఆకారం
ఎడమ నుండి కుడికి టెక్స్ట్ జనరేట్ చేసే మోడల్ ఉపసంహరించలేని స్థానిక నిర్ణయాల వరుసను తీసుకుంటుంది. దానికి రబ్బరు లేదు. ఒక వివరణలో 400 టోకెన్‌లు ముందుకు వెళ్ళిన తర్వాత తాను ఎంచుకున్న చట్రం తప్పని గ్రహించినప్పుడు, దాని ముందున్న ఎంపికలు రెండే: తప్పు చట్రంలోనే కొనసాగడం, లేదా ఒక సవరణను చివర జోడించడం — దీనితో అందరికీ తెలిసిన సమాధానాలు వస్తాయి, మధ్యలో నిజానికి, పైన చెప్పినదాన్ని మళ్ళీ చూస్తే అని చెప్పి, రెండు అననుకూల భాగాలను సరిపెట్టుకోవడాన్ని మీకే వదిలేసేవి.
చైన్-ఆఫ్-థాట్ దీన్ని మెరుగుపరుస్తుంది కానీ పరిష్కరించదు. ముందుగా ఆలోచించడం వల్ల మోడల్‌కు గద్యానికి కట్టుబడకముందే ఒక ప్రణాళిక దొరుకుతుంది, ఇది నిజమైన లాభమే; అయినా ఆ తర్వాతి ముసాయిదా ఒకే పాస్‌లో రాయబడి, చదవకుండానే పంపబడుతుంది. ఒక మానవ సంపాదకుడు ముందుగా అడిగే ప్రశ్నను ఏదీ అడగదు: ఆలోచన చెప్పినదాన్ని ఈ సమాధానం నిజంగా చేస్తోందా? చైన్-ఆఫ్-థాట్‌ను దాటి బతికే వైఫల్య రకాలు నిర్దిష్టమైనవి, గుర్తుపట్టదగినవి:
- వదిలేసిన ఉప-ప్రశ్నలు. మీరు నాలుగు విషయాలు అడిగారు. ఆలోచన నాలుగూ జాబితా చేసింది. సమాధానం మూడింటినే కవర్ చేస్తుంది.
- ప్రణాళిక పక్కదారి. తర్కం ఒక విధానంపై స్థిరపడుతుంది; గద్యం క్రమంగా వేరే విధానాన్ని అనుసరిస్తుంది, మరియు తప్పు జరిగిన చోటు ఏ ఒక్క వాక్యమూ కాదు.
- అంకగణితం మరియు కొలమానాలు. ఆలోచనలో సరిగ్గా లెక్కించిన సంఖ్య సమాధానంలోకి తప్పుగా రాయబడుతుంది, లేదా నెలవారీ సంఖ్య సంవత్సరానికి అన్నట్టు చూపబడుతుంది.
- పట్టించుకోని నిబంధనలు. బాహ్య డిపెండెన్సీలు వద్దని మీరు చెప్పారు; కోడ్ ఒకదాన్ని ఇంపోర్ట్ చేస్తుంది, మరియు ఆలోచన ఆ నిబంధనను ఒకసారి ఒప్పుకున్న తర్వాత మళ్ళీ ప్రస్తావించదు.
- ఆత్మవిశ్వాసంతో కూడిన ఖాళీలు. ఒక నిర్దిష్ట వాస్తవం గురించి తనకు నమ్మకం లేదని ఆలోచనలో మోడల్ చెబుతుంది, ఆపై సమాధానంలో దాన్నే నిర్మొహమాటంగా ప్రకటిస్తుంది.
వీటిలో ప్రతి ఒక్కటీ ముసాయిదాను చదవడం ద్వారా పట్టుబడుతుంది. ముసాయిదాను మరింత జాగ్రత్తగా జనరేట్ చేయడం ద్వారా ఒక్కటీ పట్టుబడదు.
03తర్క లూప్, దశల వారీగా
ఒక Shannon 3 Pro టర్న్ అంటే నాలుగు దశలు మరియు ఒక నిష్క్రమణ షరతు ఉన్న లూప్.
ఆలోచన
మీ కోసం ఏదైనా రాయడానికి ముందు మోడల్ సమస్యపై పనిచేస్తుంది: ప్రశ్నను విడగొట్టడం, నిబంధనలను గమనించడం, తనకు ఏమి తెలుసు ఏమి తెలియదో గుర్తించడం, ఒక విధానంపై స్థిరపడటం. ఇక్కడ అది ఉత్పత్తి చేసేదే, తర్వాత సమాధానాన్ని కొలిచే ప్రమాణం అవుతుంది.
ముసాయిదా
మోడల్ ఒక పూర్తి, నిజమైన సమాధానం రాస్తుంది — రూపురేఖ కాదు. అది పూర్తిగా ఉండాలి, ఎందుకంటే తర్వాతి దశ ఒక పూర్తయిన కృతిని మూల్యాంకనం చేస్తుంది, మరియు పూర్తి పొడవులో మాత్రమే కనిపించే వైఫల్యాల కోసం ఒక స్కెచ్‌ను సమీక్షించలేం.
సమీక్ష
ఈ కుటుంబాన్ని ప్రత్యేకం చేసేది ఈ దశే. మోడల్ ముసాయిదాను ఆలోచనతో పోల్చి చదువుతుంది — ముసాయిదాను ఒంటరిగా చదవడం కంటే ఇది చాలా పదునైన పరీక్ష. ఒక మోడల్‌ను "ఈ సమాధానం బాగుందా?" అని అడగడం అవును అనమని ఆహ్వానించడమే; "ప్రణాళిక C నిబంధన కింద X, Y, Z కవర్ చేయాలని చెప్పింది — ఈ టెక్స్ట్ అది చేస్తోందా?" అని అడగడం తనిఖీ చేయదగిన ఒక విషయాన్ని ఇస్తుంది. సమీక్ష మార్కులు వేయడం కాదు, ఏమి తప్పో పేరుపెట్టి చెబుతుంది.
పునర్లేఖనం
పేర్కొన్న సమస్యలు ఒక కొత్త ముసాయిదాలో సరిదిద్దబడతాయి. ఇది పునర్లేఖనం, అతుకు కాదు: వాదన క్రమాన్ని మార్చాల్సిన సవరణకు వాదన క్రమాన్ని మార్చే అనుమతి ఉంది. కొత్త ముసాయిదా తిరిగి సమీక్షకు వెళ్తుంది.
ఆగడం
ఒక సమీక్ష ముసాయిదాను ఆమోదించిన మొదటిసారే లూప్ ముగుస్తుంది — ఇదే సాధారణ నిష్క్రమణ, చాలా టర్న్‌లలో ఇది గరిష్ఠ పరిమితికి చాలా ముందే జరుగుతుంది. 10 పునరావృత్తుల కఠిన పరిమితి అసాధారణ సందర్భాల కోసం ఉంది — ఉదాహరణకు నిజంగా అస్పష్టమైన ప్రశ్నలో ప్రతి పునర్లేఖనం ఒక లోపాన్ని మరో లోపంతో మార్చుకోవడం — తద్వారా ఒక టర్న్ అనంతంగా తిరగలేదు.
Lite అదే మొదటి రెండు దశలను తీసుకుని ఆగిపోతుంది. అది ఆలోచిస్తుంది, ముసాయిదా రాస్తుంది, ఆ ముసాయిదాను మీకిస్తుంది. ఇది ఉద్దేశపూర్వక ఉత్పత్తి నిర్ణయం, తగ్గించిన రూపమేమీ కాదు: నిజమైన సందేశాలలో పెద్ద భాగానికి మొదటి ముసాయిదానే సరైన సమాధానం, మరియు అదే విషయం చెప్పించుకోవడానికి సమీక్ష జాప్యాన్ని చెల్లించడం చెడ్డ బేరం. మోడల్ వేగంగా ఉండాలనుకున్నప్పుడు Lite; అది నిశ్చయంగా ఉండాలనుకున్నప్పుడు Pro.
04Pro జ్ఞాన సేకరణ: ఊహించే బదులు సహాయం అడగడం
స్వీయ-సమీక్ష వైరుధ్యాలను, వదిలేసిన భాగాలను, నిబంధన ఉల్లంఘనలను పట్టుకుంటుంది, ఎందుకంటే వాటిని పట్టుకోవడానికి కావలసిన సాక్ష్యం అప్పటికే టర్న్‌లో ఉంది. మోడల్ దగ్గర లేని వాస్తవాన్ని మాత్రం అది పట్టుకోలేదు. తన సొంత ముసాయిదాను సమీక్షించే మోడల్ ఈ సంఖ్యపై నాకు నమ్మకం లేదు అని నిర్ధారించి, ఆ నిర్ధారణతో ఎక్కడికీ వెళ్ళలేని స్థితిలో ఉండవచ్చు.
Pro దానికి ఒక దారి ఇస్తుంది. ముసాయిదా దశ చుట్టూ అది ఒక జ్ఞాన సేకరణ చేస్తుంది: తనకు లేని లేదా అనుమానంగా ఉన్న నిర్దిష్ట వాస్తవాలను గుర్తించి, సరిగ్గా వాటినే రెండవ, పెద్ద మోడల్‌ను అడిగి, వచ్చిన సమాచారాన్ని మెరుగైన సమాధానంలో కలుపుతుంది. ఇది మోడల్ తానే పేర్కొన్న ఖాళీ నడిపే లక్ష్యిత అన్వేషణ, మొత్తానికి రెండో అభిప్రాయం తీసుకోవడం కాదు.
ఆచరణలో రెండు లక్షణాలు ముఖ్యం. ఇది పరిమిత పరిధిది: సేకరణ మొత్తం ప్రశ్నను మళ్ళీ అడగకుండా గుర్తించిన ఖాళీల గురించే అడుగుతుంది, కాబట్టి పెద్ద మోడల్ కేవలం మరో గొంతును జోడించే చోట కాకుండా సమాచారాన్ని జోడించే చోట సంప్రదించబడుతుంది. మరియు ఇది సమీకృతం: సేకరించిన వాస్తవాలు లూప్ ద్వారా తిరిగి వెళ్ళి, మిగతా అన్నిటిలాగే అదే సమీక్షను ఎదుర్కొంటాయి, అతికించిన పేరాగా రావు.
ఇది అనిశ్చితి గురించి ఏమి మారుస్తుంది
సేకరణ యొక్క అత్యంత ఉపయోగకరమైన ప్రభావం Proకు ఎక్కువ తెలుసు అనేది కాదు. Pro యొక్క అనిశ్చితి చర్య తీసుకోదగినది అవుతుంది అనేది. తనకు నమ్మకం లేదని మాత్రమే తెలిసిన మోడల్, ప్రతిదాన్నీ సందేహంగా చెప్పడం లేదా ఆత్మవిశ్వాసంతో ప్రకటించడం మధ్య ఎంచుకోవాలి. "దీనిపై నాకు నమ్మకం లేదు" అనేదాన్ని "నేను వెళ్ళి తెలుసుకుంటాను"గా మార్చగలిగేది తక్కువ చోట్ల సందేహిస్తుంది, ఎక్కువ చోట్ల నిర్దిష్టంగా ఉంటుంది.
05తర్కం కనిపిస్తుంది, అదీ మీ భాషలో
టర్న్ నడుస్తుండగానే మొత్తం జాడ మీకు చూపబడుతుంది: ఆలోచన, మరియు Proలో ప్రతి సమీక్ష మరియు అది ఏమి అభ్యంతరం చెప్పిందో. ఇది మేము బయటపెట్టడాన్ని సహించే డీబగ్ వ్యూ కాదు — మీరు కొంటున్న దానిలో ఇది పెద్ద భాగం, మరియు ఇది పని సంబంధాన్ని మూడు నిర్దిష్ట మార్గాలలో మారుస్తుంది.
- మీరు ముందుగానే ఆపవచ్చు. ఆలోచన మీ ప్రశ్నను తప్పుగా అర్థం చేసుకుంటే — ఇది చెడ్డ మోడల్ వల్ల కాదు, అస్పష్టమైన ప్రాంప్ట్ వల్ల తరచుగా జరిగే పరిణామం — తప్పు సమస్యను పరిష్కరించే పూర్తి సమాధానం వచ్చిన తర్వాత కాకుండా, మొదటి కొన్ని సెకన్లలోనే మీకు తెలుస్తుంది.
- సమాధానంతో సంబంధం లేకుండా తర్కాన్ని విడిగా తనిఖీ చేయవచ్చు. తప్పు తర్కంతో చేరుకున్న సరైన సమాధానం ఒక ప్రమాదం, ఎందుకంటే అది తర్వాతి ప్రశ్నను తట్టుకోదు.
- లూప్ విఫలమవడం మీరు చూడగలరు. Pro కలిసిరాకుండా అనేక పునరావృత్తులు వెచ్చించినప్పుడు, అది దాచబడకుండా చూపబడుతుంది — మరియు అది నిజమైన సమాచారం, సాధారణంగా ప్రశ్న సరిగ్గా నిర్వచించబడలేదని అర్థం.
జాడ మీ సొంత భాషలో రాయబడుతుంది, ఆంగ్లంలో జనరేట్ చేసి చివర అనువదించినది కాదు. మీరు జపనీస్, అరబిక్, టర్కిష్ లేదా పోర్చుగీస్‌లో పనిచేస్తే, మోడల్ ఆ భాషలోనే తర్కిస్తుంది — దీనితో జాడలోని పరిభాష సమాధానంలోని పరిభాషతో స్థిరంగా ఉంటుంది, మరియు ఒక భాషలో ఆలోచించి మరో భాషలో మాట్లాడినప్పుడు కనిపించే అతుకులు రావు.
06సెన్సార్ లేనిది: తిరస్కరణ పొర లేదు, అవుట్‌పుట్ ఫిల్టర్ లేదు
Shannon 3 తిరస్కరణ పొర లేకుండా, అవుట్‌పుట్ కంటెంట్ ఫిల్టరింగ్ లేకుండా వస్తుంది. ఏ స్థాయిలోనూ ఉత్పత్తిలో తిరస్కరణ ప్రవర్తన లేదు: మోడల్ చూడకముందే మీ సందేశాన్ని పరిశీలించే ర్యాపర్‌గా కాదు, మీరు చూడకముందే సమాధానాన్ని పరిశీలించే వర్గీకరణిగా కాదు, మరియు మోడల్‌ను మాటల్లో పెట్టి తప్పించాల్సిన ప్రతిస్పందనగా కాదు. "సెన్సార్ లేనిది" అన్నప్పుడు ప్రజలు సాధారణంగా అర్థం చేసుకునే రెండు విషయాల నుండి ఇది గణనీయంగా భిన్నం:
| విధానం | అది ఏమి చేస్తుంది | ఎలా విఫలమవుతుంది |
|---|---|---|
| సిస్టమ్-ప్రాంప్ట్ జైల్‌బ్రేక్ | అలైన్ చేసిన మోడల్‌ను అలైన్ కానట్టు ప్రవర్తించమని ఆదేశిస్తుంది | దీర్ఘ సంభాషణలో క్షీణిస్తుంది; ఒత్తిడిలో తిరస్కరణ తిరిగి వస్తుంది |
| అవుట్‌పుట్ ఫిల్టర్ తొలగింపు | మోడల్ ఇప్పటికే ఉత్పత్తి చేసిన టెక్స్ట్‌ను నిరోధించడం ఆపుతుంది | మోడల్ ఇప్పటికీ సందేహపూరిత, తప్పించుకునే టెక్స్ట్ రాస్తుంది — ఏదీ నిరోధించబడలేదు, అది అసలు రాయబడనే లేదు |
| Shannon 3 | తొలగించడానికి తిరస్కరణ పొరా లేదు, నిలిపివేయడానికి ఫిల్టరూ లేదు — ఆ ప్రవర్తనే లేదు | నిర్ణయ భారాన్ని పూర్తిగా మీపైనే పెడుతుంది; మోడల్ మీ తరపున తిరస్కరించదు |
ఆచరణలో Shannon 3, మీరు అడిగిన ప్రశ్న పక్కనున్న సురక్షితమైన ప్రశ్నతో కాకుండా మీరు అడిగిన ప్రశ్నతోనే పనిచేస్తుంది: నిజమైన ప్రతినాయకులతో కల్పన, పత్రికా ప్రకటన స్థాయిలో కాకుండా సాంకేతికంగా చర్చించే భద్రతా అంశాలు, నిజంగా అవసరమైన హెచ్చరికలతో నేరుగా ఇచ్చే వైద్య, న్యాయ మరియు ఆర్థిక సమాచారం — మరియు మీరు ఎందుకు అడిగారనే దానిపై చివర ఉపన్యాసం ఉండదు. అది లూప్‌ను కూడా నీరుగార్చదు: ముసాయిదా తప్పని చెప్పే స్వేచ్ఛ సమీక్షకు ఉంది, ఇది తిరస్కరణ కంటే భిన్నమైన, మరింత ఉపయోగకరమైన ఎదురుమాట.
తిరస్కరణ పొర లేకపోవడం చేయని పని ఏమిటంటే, మోడల్‌ను సరైనదిగా చేయడం. సెన్సార్ లేని మోడల్, సెన్సార్ ఉన్న మోడల్ ఎంత ఆత్మవిశ్వాసంతో తప్పుగా ఉండగలదో సరిగ్గా అంతే ఉండగలదు, పైగా మరింత స్పష్టంగా, ఎందుకంటే అనుమానం ఉన్నప్పుడు అది అస్పష్టతలోకి తప్పించుకోదు. లూప్ కోసం చెప్పదగిన మంచి వాదనలలో ఇది ఒకటి: అడ్డుగా తిరస్కరణ ప్రతిస్పందన లేనప్పుడు, వృత్తిపరమైన వినియోగదారుకు ముఖ్యమైన భద్రతా పనిని — తప్పులను పట్టుకోవడాన్ని — స్వీయ-సమీక్ష చేస్తుంది. మోడల్ వినియోగం ఇప్పటికీ మా బాధ్యతాయుత వినియోగ విధానం మరియు మీ ప్రాంత చట్టం ప్రకారం నిర్వహించబడుతుంది.
Shannon 3 కోసం మేము ఎలాంటి బెంచ్‌మార్క్ స్కోర్‌లూ ప్రచురించడం లేదు, ఇతర మోడళ్ళతో ముఖాముఖి పోలికలూ చెప్పడం లేదు. లూప్ ప్రయోజనం నిర్మాణపరమైనది — ఒకే పాస్ పట్టుకోలేని లోప రకాలను అది పట్టుకుంటుంది — మరియు మేము స్వతంత్రంగా ధృవీకరించని ఒక సంఖ్యను దానికి అతికించడం కంటే ఆ యంత్రాంగాన్ని ఖచ్చితంగా వర్ణించడమే మాకు ఇష్టం. పైన ఉన్నదంతా ఒక టర్న్ ఏమి చేస్తుందో వర్ణిస్తుంది; దాన్ని తనిఖీ చేయడానికి అత్యంత వేగవంతమైన మార్గం ఒక టర్న్ నడిపి జాడను చదవడం.
07విజన్, పత్రాలు మరియు చిత్ర సృష్టి
రెండు స్థాయిలూ చిత్రాలను మరియు పత్రాలను జోడింపులుగా స్వీకరించి, వాటిని టర్న్‌లో భాగంగా చదువుతాయి. విఫలమైన బిల్డ్ స్క్రీన్‌షాట్, ఫోటో తీసిన వైట్‌బోర్డ్, ఒక పథక చిత్రం, స్కాన్ చేసిన ఒప్పంద పేజీ లేదా PDF — వీటిని మీరు ముందుగా టైప్ చేయాల్సిన అవసరం లేకుండా అవే ప్రశ్నకు విషయం కావచ్చు. Proలో జోడింపులు మిగతా అన్నిటిలాగే లూప్‌లో పాల్గొంటాయి: చిత్రం సమర్థించని ప్రశ్నకు ముసాయిదా సమాధానమిచ్చిందని సమీక్ష నిర్ణయిస్తే, అది తిరిగి రాయబడుతుంది.
చిత్ర సృష్టి మరియు సవరణ చాట్‌లో ఒక సాధనంగా అందుబాటులో ఉన్నాయి, మోడల్ ప్రయోజనంగా కాదు. Shannon 3 అనేది సంభాషణకు అవసరమైనప్పుడు ఒక చిత్రాన్ని ఉత్పత్తి చేయగల లేదా సవరించగల తర్క మోడల్, చాట్ ఇంటర్‌ఫేస్ అతికించిన చిత్ర మోడల్ కాదు. ఈ వ్యత్యాసం అంచనాలను సరిగ్గా నిర్దేశిస్తుంది: ఈ కుటుంబాన్ని అది ఎలా ఆలోచిస్తుందనే దానిపై అంచనా వేయండి, చిత్రాలను సందర్భ మార్పును తప్పించే సౌకర్యంగా చూడండి.
08సందర్భ విండో, మరియు 3.x శ్రేణి తర్వాత ఎక్కడికి వెళ్ళింది
Shannon 3.0 32,768 టోకెన్‌ల సందర్భ విండోతో విడుదలైంది. అదే నిజాయితీ చారిత్రక సంఖ్య, మరియు దాన్ని స్పష్టంగా చెప్పడం విలువైనది, ఎందుకంటే ఒక లూప్ సందర్భాన్ని ఒకే-పాస్ మోడల్ కంటే భిన్నంగా వినియోగిస్తుంది: మీ ప్రాంప్ట్, మీ జోడింపులు, ఆలోచన, మరియు ప్రతి ముసాయిదా-సమీక్ష చక్రం అన్నీ ఒకే బడ్జెట్‌లో ఉంటాయి.
చాలా చాట్ మరియు విశ్లేషణ పనికి 32K సౌకర్యవంతమైనది — ఒక దీర్ఘ పత్రం, ఒక పెద్ద కోడ్ ఫైల్, లూప్ నడవడానికి చోటుతో పాటు వివరమైన బహుళ-భాగ ప్రశ్న. నిజంగా పెద్ద ఇన్‌పుట్‌లకు అది ఇరుకైనది, మరియు ఆ పరిమితినే తర్వాతి విడుదల పరిష్కరించింది. Shannon 3.1 సందర్భ విండోను గణనీయంగా పెంచుతుంది, లూప్‌ను దేనిపైకి ఎక్కుపెట్టవచ్చో మారుస్తుంది; మీరు ఈరోజు ఈ కుటుంబాన్ని మూల్యాంకనం చేస్తుంటే, ఆ వ్యాసాన్ని రెండవదిగా చదవండి, ఇక్కడి సంఖ్యను చరిత్రగా భావించండి.
09API నుండి Shannon 3ను పిలవడం
Shannon 3 మా మూడు API మాండలికాల ద్వారానూ, అవే మోడళ్ళపై, ప్రతిదానిలోనూ స్ట్రీమింగ్‌తో అందుబాటులో ఉంది:
| మాండలికం | ఎండ్‌పాయింట్ | ఎప్పుడు వాడాలి |
|---|---|---|
| OpenAI-అనుకూలం | /v1/chat/completions | మీ దగ్గర ఇప్పటికే OpenAI క్లయింట్ కోడ్ ఉంది — బేస్ URL మరియు మోడల్ ఐడీ మార్చండి |
| Anthropic-అనుకూలం | /v1/messages | మీ స్టాక్ Messages ఫార్మాట్ చుట్టూ నిర్మించబడింది |
| Responses | /v1/responses | మీకు కొత్త అభ్యర్థన/స్పందన రూపం కావాలి |
మోడల్ ఐడీగా shannon-3 లేదా shannon-3-pro పంపండి. క్లయింట్ వైపు రెండు విషయాలకు ప్రణాళిక వేసుకోవడం విలువైనది. Pro టర్న్‌లు ఎక్కువ సమయం తీసుకుంటాయి, అదీ మారే మోతాదులో, ఎందుకంటే పునరావృత్తుల సంఖ్య ప్రశ్నపై ఆధారపడుతుంది — సగటుకు కాకుండా గరిష్ఠ పరిమితికి తగ్గట్టు టైమ్‌అవుట్‌లు పెట్టండి, మరియు వినియోగదారుకు స్పిన్నర్ బదులు పురోగతి కనిపించేలా స్ట్రీమింగ్‌నే ఇష్టపడండి. మరియు తర్క జాడ మీరు చూపించాలని ఎంచుకోగల కంటెంట్; వినియోగదారులు వేచి ఉన్నచోట దాన్ని చూపించడం దాచడం కంటే మెరుగు, ఎందుకంటే అది ఖాళీ సమయాన్ని చదవదగిన దానిగా మారుస్తుంది. అభ్యర్థన మరియు స్పందన స్కీమాలు, స్ట్రీమింగ్ వివరాలు మరియు లైవ్ ప్లేగ్రౌండ్ API డాక్యుమెంటేషన్‌లో ఉన్నాయి.
10ఒక స్థాయిని ఎంచుకోవడం
తప్పు జరిగే అవకాశం ఎంత ఎక్కువగా ఉంటే, Pro లూప్ తన జాప్యానికి అంతగా విలువ చెల్లిస్తుంది.
| మీ పని | స్థాయి | ఎందుకు |
|---|---|---|
| త్వరిత వాస్తవిక ప్రశ్న, చిన్న సమాధానం | shannon-3 | మొదటి ముసాయిదానే సమాధానం; సమీక్షకు పట్టుకోవడానికి ఏమీ లేదు |
| అధిక పరిమాణం లేదా జాప్య-పరిమిత ఆటోమేషన్ | shannon-3 | ఊహించదగిన టర్న్ సమయమే కీలక నిబంధన |
| నిబంధనలతో కూడిన బహుళ-భాగ విశ్లేషణ | shannon-3-pro | వదిలేసిన ఉప-ప్రశ్నలు మరియు నిబంధన ఉల్లంఘనలే సమీక్ష పట్టుకునేవి |
| పొందికగా ఉండాల్సిన దీర్ఘ రచన | shannon-3-pro | అంతర్గత వైరుధ్యం పూర్తి-పొడవు లక్షణం, ముసాయిదా రాస్తుండగా కనిపించదు |
| మీరు ఆచరణలో పెట్టే సంఖ్యలు ఉన్న ఏదైనా | shannon-3-pro | సమీక్ష అంకగణితం మరియు కొలమానాలను ఆలోచనతో పోల్చి మళ్ళీ తనిఖీ చేస్తుంది |
| మోడల్ అంచున ఉన్న వాస్తవాలను తాకే ప్రశ్నలు | shannon-3-pro | జ్ఞాన సేకరణ పేర్కొన్న ఖాళీని ఒక అన్వేషణగా మారుస్తుంది |
ఒక ఆచరణాత్మక పద్ధతి: ఏమి అడగాలో మీరు ఇంకా తేల్చుకుంటున్నప్పుడు Lite వాడండి, ఆపై స్థిరపడిన ప్రశ్నను ఒకసారి Proపై మళ్ళీ నడపండి. మీరు నిజంగా ఉద్దేశించిన ప్రశ్న రూపంపై లూప్‌కు డబ్బు చెల్లించడం విలువైనది.
11కట్టుబడటానికి ముందు తెలుసుకోవాల్సిన పరిమితులు
బలాలను మాత్రమే జాబితా చేసే మోడల్ కార్డు ఒక ప్రకటన. Shannon 3 మిమ్మల్ని ఎక్కడ నిరాశపరుస్తుందో ఇక్కడ ఉంది:
- Pro నెమ్మది, అదీ ఊహించలేని విధంగా. రెండు పునరావృత్తులలో కలిసివచ్చే టర్న్‌కూ, పది వరకూ నడిచే టర్న్‌కూ గడియార సమయంలో అనేక రెట్ల తేడా. మీకు పరిమిత జాప్యం కావాలంటే Lite వాడండి.
- సమీక్ష రుజువు కాదు. తన సొంత పనిని తనిఖీ చేసే మోడల్ తన సొంత అంధ బిందువులనే పంచుకుంటుంది. ఆలోచనకూ ముసాయిదాకూ మధ్య అసమానతను లూప్ నమ్మకంగా పట్టుకుంటుంది; ఆలోచనలోనే ఆత్మవిశ్వాసంతో ఉన్న తప్పును అది నమ్మకంగా పట్టుకోదు.
- సందర్భం లూప్‌తో పంచుకోబడుతుంది. 32K వద్ద, చాలా పొడవైన ఇన్‌పుట్‌తో పాటు అనేక పూర్తి-పొడవు ముసాయిదాలు 3.0పై నిజమైన పరిమితి. పెంచిన పరిమితి కోసం Shannon 3.1 చూడండి.
- సేకరణ మోడల్ గమనించిన ఖాళీలనే పూరిస్తుంది. "దీనిపై నాకు నమ్మకం లేదు" అనేదాన్ని అది ఒక అన్వేషణగా మారుస్తుంది, ఇది నిజమైన లాభమే — కానీ మోడల్ ఆత్మవిశ్వాసంతో తప్పుగా భావించే వాస్తవం ఎప్పుడూ తప్పిపోయినదిగా గుర్తించబడదు, కాబట్టి అది ఎప్పుడూ సేకరించబడదు.
- సెన్సార్ లేనిది అంటే సెన్సార్ లేనిదే. మోడల్ తిరస్కరించదు, మెత్తబరచదు. మీ ఉత్పత్తికి తిరస్కరణ హద్దు అవసరమైతే, మోడల్ దాన్ని ఇస్తుందని ఆశించే బదులు మీకు కనిపించే చోట దాన్ని మీరే నిర్మించండి.
12తరచుగా అడిగే ప్రశ్నలు
Shannon 3 అంటే ఏమిటి?
Shannon 3 అనేది మా స్వంత GPU క్లస్టర్‌పై నడిచే సెన్సార్ లేని మోడళ్ళ కుటుంబం. దీన్ని ప్రత్యేకం చేసేది ఒక టర్న్ ఆకారం: ఒకే ఫార్వర్డ్ పాస్ బదులుగా, అది ఆలోచిస్తుంది, ఒక సమాధానం ముసాయిదా రాస్తుంది, ఆపై ఆ ముసాయిదాను తన సొంత ఆలోచనతో పోల్చి సమీక్షించి తిరిగి రాస్తుంది. ఇది రెండు స్థాయిలలో వస్తుంది: shannon-3 (Lite) మరియు shannon-3-pro (Pro).
Shannon 3 Lite మరియు Shannon 3 Pro మధ్య తేడా ఏమిటి?
Lite ఒకే ఆలోచన-మరియు-ముసాయిదా పాస్ నడుపుతుంది, జాప్యాన్ని సాధారణ మోడల్‌కు దగ్గరగా ఉంచుతుంది. Pro పూర్తి లూప్ నడుపుతుంది, ప్రతి ముసాయిదాను 10 పునరావృత్తుల వరకూ సమీక్షించి తిరిగి రాస్తుంది, ఒక సమీక్ష ఆమోదించిన క్షణమే ముందుగానే ఆగిపోతుంది. Pro జ్ఞాన సేకరణ కూడా చేస్తుంది, తనకు లేవని గుర్తించిన వాస్తవాల కోసం రెండవ, పెద్ద మోడల్‌ను అడుగుతుంది.
Shannon 3 నిజంగా సెన్సార్ లేనిదా?
అవును. Shannon 3 తిరస్కరణ పొర లేకుండా, అవుట్‌పుట్ కంటెంట్ ఫిల్టర్ లేకుండా వస్తుంది. తిరస్కరణ ప్రవర్తన మోడల్‌లోనే లేదు, కాబట్టి ప్రాంప్ట్‌తో ఏర్పరిచిన వ్యక్తిత్వం లాగా దీర్ఘ సంభాషణ మధ్యలో నిశ్శబ్దంగా తిరిగి వచ్చేది ఏదీ లేదు. మోడల్ వినియోగం ఇప్పటికీ మా బాధ్యతాయుత వినియోగ విధానం మరియు మీ ప్రాంత చట్టం ప్రకారం నిర్వహించబడుతుంది.
సమీక్ష లూప్ నిజంగా సమాధానాలను మెరుగుపరుస్తుందా?
ఒకే పాస్ నిర్మాణపరంగా బలహీనంగా ఉన్నచోట అది ఎక్కువగా సహాయపడుతుంది: ముగింపు ప్రారంభాన్ని విరుద్ధంగా చెప్పే దీర్ఘ సమాధానాలు, ఒక భాగం నిశ్శబ్దంగా వదిలేయబడే బహుళ-భాగ ప్రశ్నలు, అంకగణిత మరియు కొలమాన లోపాలు, మరియు చెప్పిన నిబంధనను పట్టించుకోని కోడ్. చిన్న సమాచార అన్వేషణలపై అది తక్కువగా సహాయపడుతుంది, ఎందుకంటే అక్కడ మొదటి ముసాయిదానే సమాధానం. అందుకే Lite ఉంది.
సమీక్ష ముసాయిదాను ఎప్పటికీ ఆమోదించకపోతే ఏమవుతుంది?
లూప్ అనంతంగా తిరిగే బదులు 10 పునరావృత్తుల గరిష్ఠ పరిమితి వద్ద ఆగి, తాను చేరుకున్న అత్యుత్తమ ముసాయిదాను ఇస్తుంది. జాడ కనిపిస్తుంది కాబట్టి, ఎప్పటికీ పరిష్కారం కాని అభ్యంతరాలను మీరు చదవవచ్చు — దీని అర్థం సాధారణంగా ప్రశ్న అంత అస్పష్టంగా ఉందని, అందుకే ప్రతి పునర్లేఖనం ఒక లోపాన్ని మరో లోపంతో మార్చుకుందని, మరియు దాన్ని తిరిగి మాటల్లో పెట్టాలనే సంకేతం.
Shannon 3 చిత్రాలను మరియు పత్రాలను చదవగలదా?
అవును. రెండు స్థాయిలూ చిత్ర మరియు పత్ర జోడింపులను స్వీకరించి వాటిని టర్న్‌లో భాగంగా చదువుతాయి, కాబట్టి ఒక స్క్రీన్‌షాట్, ఒక రేఖాచిత్రం, స్కాన్ చేసిన పేజీ లేదా PDF — మీరు ముందుగా టైప్ చేయాల్సినది కాకుండా అవే ప్రశ్నకు విషయం కావచ్చు. చిత్ర సృష్టి మరియు సవరణ కూడా చాట్‌లో అందుబాటులో ఉన్నాయి, కానీ మోడల్ ప్రయోజనంగా కాకుండా అది పిలవగల ఒక సాధనంగా.
మోడల్ తర్కాన్ని నేను చూడగలనా?
అవును. టర్న్ నడుస్తుండగానే జాడ చూపబడుతుంది, చివర ఆంగ్లం నుండి అనువదించబడకుండా మీ సొంత భాషలోనే రాయబడుతుంది. Proలో మీరు ప్రతి సమీక్ష చక్రాన్నీ చూస్తారు, దీనితో మోడల్ తన సొంత తప్పును పట్టుకున్నప్పుడు అది కనిపిస్తుంది — పట్టుకోనప్పుడు కూడా అంతే స్పష్టంగా కనిపిస్తుంది.
విడుదల సమయంలో Shannon 3 సందర్భ విండో ఎంత?
Shannon 3.0 32,768-టోకెన్ సందర్భ విండోతో విడుదలైంది, అది మీ ప్రాంప్ట్, ఏవైనా జోడింపులు, తర్క జాడ మరియు సమాధానం మధ్య పంచుకోబడుతుంది. Shannon 3.1 ఆ సంఖ్యను పెంచుతుంది; ప్రస్తుత సంఖ్య కోసం Shannon 3.1 వ్యాసం చూడండి.
లూప్‌ను మీరే ప్రయత్నించండి
అదే ప్రశ్నను రెండుసార్లు అడగండి — ఒకసారి Liteపై, ఒకసారి Proపై — సమీక్ష ఏమి మారుస్తుందో చూడండి.
చాట్ ప్రారంభించండి API డాక్యుమెంటేషన్ చదవండిshannon-3 · shannon-3-pro · మూడు API మాండలికాలలోనూ స్ట్రీమింగ్
Shannon 3ను Shannon Lab LLC, న్యూ మెక్సికో, USA నిర్వహిస్తుంది. ఇక్కడి సంఖ్యలు 3.0 విడుదల కాన్ఫిగరేషన్‌ను వర్ణిస్తాయి; ప్రస్తుత పరిమితుల కోసం Shannon 3.1 మోడల్ కార్డు, కుటుంబంలోని మిగతా వాటి కోసం పరిశోధన సూచిక చూడండి. Shannon 3 కోసం మేము ఎలాంటి బెంచ్‌మార్క్ స్కోర్‌లూ ప్రచురించడం లేదు, పోలిక ఆధారిత పనితీరు ప్రకటనలూ చేయడం లేదు.