Shannon 3.1

చాలా మోడల్ విడుదలలు మిమ్మల్ని ఒక సామర్థ్య ప్రకటనను నమ్మమని అడుగుతాయి, ఆపై వాదనను తేల్చడానికి ఒక బెంచ్‌మార్క్ పట్టిక కోసం వేచి ఉండమంటాయి. దీన్ని తనిఖీ చేయడం సులభం: రెండు ట్యాబ్‌లు తెరిచి, అదే ప్రాంప్ట్‌ను shannon-3 మరియు shannon-3.1లో పెట్టి చూడండి. సమాధానం ఎంత వేగంగా వస్తుందనే తేడా సూక్ష్మమైనది కాదు, అది రెండరింగ్ ట్రిక్కూ కాదు. Shannon 3.0 ఉద్దేశపూర్వకంగా నియంత్రించబడింది. Shannon 3.1 కాదు.

01Shannon 3.1లో నిజంగా ఏమి మారింది

ఈ కుటుంబాన్ని నిర్వచించే విషయాన్ని Shannon 3.0 పరిచయం చేసింది: ఒక పునరావృత తర్క లూప్. మోడల్ తన మొదటి ఆలోచనతోనే సమాధానం ఇవ్వదు. అది ఆలోచిస్తుంది, ముసాయిదా రాస్తుంది, ప్రశ్నకు వ్యతిరేకంగా తన సొంత ముసాయిదాను సమీక్షిస్తుంది, ఆపై దానిని మెరుగుపరుస్తుంది. Lite ఆ లూప్‌ను ఒకసారి నడుపుతుంది; Pro పూర్తి లూప్‌ను నడుపుతుంది, ముసాయిదా రాయడానికి ముందు జ్ఞాన సేకరణ దశతో సహా. ఆ డిజైన్ Shannon 3 పరిశోధన వ్యాసంలో వివరంగా వర్ణించబడింది, మరియు 3.1లో అందులో ఏదీ మారలేదు.

మారినది కింద ఉన్న యంత్రాంగం. Shannon 3.0 ఒక మూడవ-పక్ష ఇన్ఫరెన్స్ హోస్ట్ ద్వారా అందించబడింది — ఒక మోడల్‌ను ప్రారంభించడానికి ఇది తెలివైన మార్గం, కానీ దానిని నడపడానికి పరిమితమైన మార్గం. మీరు వేరొకరి సర్వింగ్ కాన్ఫిగరేషన్‌ను, వేరొకరి క్యూను, వేరొకరి సందర్భ పరిమితిని, మరియు మీకు సెకనుకు ఎన్ని టోకెన్‌లు అనుమతించబడతాయనే వేరొకరి ఆలోచనను వారసత్వంగా పొందుతారు. Shannon 3.1 మా స్వంత GPU క్లస్టర్పై, మేము కాన్ఫిగర్ చేసిన సర్వింగ్ స్టాక్‌పై నడుస్తుంది, మరియు ఈ వ్యాసంలోని ప్రతి ప్రధాన సంఖ్యా ఆ ఒక్క నిర్ణయం నుండి వచ్చినదే.

	Shannon 3.0	Shannon 3.1
ఎక్కడ నడుస్తుంది	మూడవ-పక్ష హోస్ట్	మా స్వంత GPU క్లస్టర్
సందర్భ విండో	32,768	196,608
అవుట్‌పుట్ స్ట్రీమింగ్	పేస్ చేయబడినది / రేటు-పరిమితం	పూర్తి ఇంజిన్ వేగం
వెయిట్‌లు	హోస్ట్ డిఫాల్ట్	4-బిట్ NVFP4
డీకోడింగ్	ప్రామాణికం	స్పెక్యులేటివ్
తర్క లూప్	ఆలోచన → ముసాయిదా → సమీక్ష → మెరుగుదల	మారలేదు
తిరస్కరణ పొర	ఏదీ లేదు	ఏదీ లేదు
మోడల్ ఐడీలు	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Shannon 3.1 ఎందుకు 10-15x వేగంగా అనిపిస్తుంది

వేగ సంఖ్య గురించే ప్రజలు ముందుగా అడుగుతారు, కాబట్టి అది ఎక్కడ నుండి వస్తుందో ఖచ్చితంగా చెప్పడం విలువైనది. దీనికి రెండు స్వతంత్ర కారణాలు ఉన్నాయి, మరియు వాటిలో పెద్దది తక్కువ ఆకర్షణీయమైనది.

మేము వేగ నియంత్రణను తొలగించాం

Shannon 3.0 అవుట్‌పుట్ ఒక పేసింగ్ పొర ద్వారా వెళ్ళేది. టోకెన్‌లు ఇంజిన్‌ను వదిలి, పట్టి ఉంచబడి, ఒక షెడ్యూల్ ప్రకారం మీ కనెక్షన్‌కు విడుదల చేయబడేవి. ఇది ప్రమాదవశాత్తు జరిగినదీ కాదు, బగ్‌నూ కాదు. ఒక భాగస్వామ్య ఇన్ఫరెన్స్ హోస్ట్ అడ్డంకిగా ఉన్నప్పుడు, అవుట్‌పుట్‌ను పేస్ చేయడం లోడ్‌ను సమతుల్యం చేస్తుంది, ఒక దీర్ఘ జనరేషన్ ఒక స్లాట్‌ను గుత్తాధిపత్యం చేయకుండా ఆపుతుంది, మరియు స్ట్రీమ్ ఆకస్మిక విడతలుగా కాకుండా ఊహించదగిన, చదవదగిన లయలో రావేలా చేస్తుంది. ఇది సమర్థించదగిన ఇంజినీరింగ్ ఎంపిక, మరియు ఇది ప్రతి ఒక్క సమాధానంలోనూ ప్రతి వినియోగదారుకూ నిజమైన గడియార సమయాన్ని ఖర్చు చేసింది.

Shannon 3.1లో వేగ నియంత్రణ లేదు, రివీల్ పేసింగ్ లేదు. ఇంజిన్ ఉత్పత్తి చేసినట్లే టోకెన్‌లు మీ స్ట్రీమ్‌కు రాయబడతాయి. ఇంజిన్ వేగంగా జనరేట్ చేస్తుంటే, అది వేగంగా జనరేట్ చేయడాన్ని మీరు చూస్తారు. మోడల్‌కూ మీ టెర్మినల్, మీ చాట్ విండో లేదా మీ SSE రీడర్‌కూ మధ్య ఎలాంటి స్మూతింగ్ బఫర్ లేదు. ఒక దీర్ఘ సమాధానానికి — 2,000-టోకెన్ విశ్లేషణ, జనరేట్ చేసిన కోడ్ ఫైల్ — మీరు గమనించే మెరుగుదలలో ఎక్కువ భాగానికి ఇది ఒక్కటే కారణం.

ఒక నిజాయితీ పరిణామం: స్ట్రీమ్ ఇప్పుడు విడతలుగా వస్తుంది. స్పెక్యులేటివ్ డీకోడింగ్ (కింద చూడండి) ఆమోదించిన టోకెన్‌లను చిన్న సముదాయాలుగా విడుదల చేస్తుంది, కాబట్టి టెక్స్ట్ ఒక్కో పదం చొప్పున లయబద్ధంగా కాకుండా కనిపించే గుంపులుగా రావచ్చు. మీరు 3.0 యొక్క మృదువైన లయ చుట్టూ UI నిర్మించి ఉంటే, అది ఇప్పటికీ పనిచేస్తుంది — టోకెన్ క్రమం మరియు కంటెంట్ ప్రభావితం కావు — కానీ మీకు టైప్‌రైటర్ రూపం నచ్చితే మీ స్వంత క్లయింట్-వైపు ఈజింగ్‌ను తిరిగి ప్రవేశపెట్టవచ్చు. చాలామంది సెకన్లను తిరిగి పొందడాన్నే ఇష్టపడతారని మేము భావిస్తున్నాం.

ఇంజిన్ కూడా వేగవంతమైంది

నియంత్రణను తొలగించడం, దాని వెనుక ఉన్నది వేగంగా ఉంటేనే ఉపయోగపడుతుంది. రెండవ కారణం విభాగం 03లో వర్ణించిన సర్వింగ్ స్టాక్: మా స్వంత క్లస్టర్‌లోని ప్రస్తుత-తరం, FP4-స్థానిక యాక్సిలరేటర్‌లపై 4-బిట్ NVFP4 వెయిట్‌లు మరియు స్పెక్యులేటివ్ డీకోడింగ్. కలిసి ఇవి, నియంత్రణ తొలగింపు బహిర్గతం చేసే గరిష్ఠ పరిమితిని పెంచుతాయి.

సాపేక్ష ఎండ్-టు-ఎండ్ సమాధాన జాప్యం, Shannon Lab అంతర్గత మూల్యాంకనం, సెప్టెంబర్ 2026. ఈ శ్రేణి ప్రాంప్ట్ పొడవు మరియు స్థాయిని ప్రతిబింబిస్తుంది: Liteపై చిన్న ప్రాంప్ట్‌లు తక్కువ చివరకు దగ్గరగా, Proపై దీర్ఘ జనరేషన్‌లు ఎక్కువ చివరకు దగ్గరగా ఉంటాయి.

03స్పెక్యులేటివ్ డీకోడింగ్ నిజంగా ఏమి చేస్తుంది

"స్పెక్యులేటివ్ డీకోడింగ్ ఇన్ఫరెన్స్" ఒక మార్కెటింగ్ పదంగా వాడబడుతుంది, కాబట్టి ఇక్కడ ఆ యంత్రాంగాన్ని సరళంగా చెబుతున్నాం.

ఒక భాషా మోడల్ సాధారణంగా ఒక ఫార్వర్డ్ పాస్‌కు ఒక టోకెన్‌ను ఉత్పత్తి చేస్తుంది. ఆ పాస్‌ను నియంత్రించేది గణితం కాదు, మెమరీ బ్యాండ్‌విడ్త్ — ఏదైనా లెక్కించాలంటే వెయిట్‌లను చదవాలి, మరియు వాటిని చదవడం గణితం కంటే చాలా ఎక్కువ సమయం తీసుకుంటుంది. GPU తన కంప్యూట్ యూనిట్లు ఖాళీగా ఉండగా చాలా సమయం మెమరీ కోసం వేచి ఉంటుంది. 500 టోకెన్‌లు జనరేట్ చేయడమంటే ఆ జాప్యాన్ని 500 సార్లు, వరుసగా చెల్లించడం.

స్పెక్యులేటివ్ డీకోడింగ్ ఆ వరుస భాగంపై దాడి చేస్తుంది. ఒక చిన్న, చౌక డ్రాఫ్ట్ మోడల్ తర్వాత రావచ్చనుకున్న టోకెన్‌ల చిన్న సముదాయాన్ని — నాలుగు లేదా ఎనిమిది అనుకోండి — ప్రతిపాదిస్తుంది. ఆపై ప్రధాన మోడల్ ఆ మొత్తం సముదాయాన్ని ఒకే బ్యాచ్ ఫార్వర్డ్ పాస్‌లో మూల్యాంకనం చేస్తుంది, ఇది ఒక్క టోకెన్‌ను మూల్యాంకనం చేయడం కంటే కొంచెం మాత్రమే ఎక్కువ ఖర్చవుతుంది, ఎందుకంటే ఖరీదైన భాగం (వెయిట్‌లను చదవడం) ఎలాగైనా ఒకసారే జరుగుతుంది. ప్రధాన మోడల్ అంగీకరించే ప్రతి ప్రతిపాదిత టోకెన్ ఆమోదించబడి వెంటనే విడుదల చేయబడుతుంది. మొదటి అసమ్మతి వద్ద, ఆ సముదాయం కత్తిరించబడి, అక్కడి నుండి సాధారణ డీకోడింగ్ కొనసాగుతుంది.

ఆమోద రేటే పని చేస్తుంది. ఊహించదగిన టెక్స్ట్‌పై — మూస కోడ్, కోడ్ నిర్మాణం, ఒక వాదనను కలిపే అనుసంధాన భాగాలు — డ్రాఫ్ట్ మోడల్ బాగా ఊహిస్తుంది మరియు పొడవైన సముదాయాలు ఒకేసారి వస్తాయి. నిజంగా కష్టమైన టోకెన్‌లపై, ఆమోదం తగ్గి, వ్యవస్థ సున్నితంగా సాధారణ ఒక్కో-టోకెన్ డీకోడింగ్‌కు దిగజారుతుంది. మీకు కావలసిన అసమానత అదే: ఇది సులభమైన భాగాలను వేగవంతం చేస్తుంది, కష్టమైన వాటిని ముట్టుకోదు.

4-బిట్ వెయిట్‌లు ఇదే పేరాలో ఎందుకు ఉన్నాయి

అడ్డంకి మెమరీ బ్యాండ్‌విడ్త్ కాబట్టి, వెయిట్‌లను చిన్నవి చేయడం కేవలం మెమరీ పరిమాణానికే కాదు, నేరుగా వేగానికీ ఒక లివర్. NVFP4 అనేది సూక్ష్మ-స్థాయి ప్రతి-బ్లాక్ స్కేలింగ్ ఉన్న 4-బిట్ ఫ్లోటింగ్-పాయింట్ ఫార్మాట్, పాత 4-బిట్ ఇంటీజర్ క్వాంటైజేషన్ పథకాలు కోల్పోయిన ఖచ్చితత్వాన్ని అది నిలుపుకోగలగడానికి కారణం ఇదే. ప్రతి ఫార్వర్డ్ పాస్‌కు చదవాల్సిన బైట్‌లు దాదాపు నాలుగో వంతు అంటే మెమరీ కోసం వేచి ఉండే సమయం అనుపాతంగా తక్కువ, అంతేకాక 196K విండోకు అవసరమైన దీర్ఘ-సందర్భ KV కాష్‌కు చాలా ఎక్కువ చోటు మిగులుతుంది.

ఈ రెండూ కేవలం కలవడం కాదు, గుణించబడతాయి: ప్రతి పాస్‌కు తక్కువ బైట్‌లు, మరియు విడుదలయ్యే ప్రతి టోకెన్‌కు తక్కువ పాస్‌లు. నియంత్రణ లేని, పూర్తి-వేగ స్ట్రీమింగ్‌ను, పేసింగ్ ద్వారా తిరిగి రాబట్టుకోవాల్సిన ఖర్చుగా కాకుండా సేవలందించడానికి సాధ్యమైనదిగా చేసేది ఇదే — 3.0లో పేసింగ్ పొర చేస్తున్నది సరిగ్గా అదే.

04196,608 టోకెన్‌లు: 6x విండో దేన్ని సాధ్యం చేస్తుంది

Shannon 3.0కు 32,768-టోకెన్ విండో ఉండేది: అది ఒక పని సెషన్, ఒక పత్రం కాదు. దాదాపు 70-80 పేజీల గద్యం, అందులో తర్క లూప్ తన సొంత ఆలోచన కోసం వాడేది తీసివేస్తే, మీ సిస్టమ్ ప్రాంప్ట్ తీసివేస్తే, ఇప్పటివరకూ జరిగిన సంభాషణ తీసివేస్తే. నిజమైన పని ఆ గోడను నిరంతరం తాకేది, మరియు ప్రత్యామ్నాయాలు — భాగాలుగా విడగొట్టడం, సంక్షిప్తీకరించడం, మీ సొంత విషయంపై రిట్రీవల్ — అన్నీ మీరు కాపాడాలనుకున్న దాన్నే దెబ్బతీస్తాయి. 196,608 టోకెన్‌లు అనేది వేరే తరగతి సమస్య.

నిర్దిష్టంగా చెప్పాలంటే, అది దాదాపు 400-500 పేజీల ఆంగ్ల టెక్స్ట్, లేదా దాని పరీక్షలు మరియు README సహా మధ్యస్థ పరిమాణపు కోడ్‌బేస్, లేదా ఒక ప్రాజెక్ట్ యొక్క ఒక సంవత్సరపు సమావేశ నోట్‌లు, లేదా అన్ని అనుబంధాలతో కూడిన పూర్తి ఒప్పంద సమూహం — ఇవన్నీ ఒకే సంభాషణలో, ఒకే ప్రశ్నతో చేరుకోదగినవి, మీకూ ఆ విషయానికీ మధ్య ఎలాంటి చంకింగ్ పొర లేకుండా.

• మొత్తం-రిపాజిటరీ ప్రశ్నలు. మీరు ఇప్పటికే అనుమానించిన మూడు ఫైళ్ళను అతికించే బదులు, కోడ్‌ను లోడ్ చేసి ఒక బగ్ ఉత్పత్తికి ఎందుకు చేరుకుంటుందో అడగండి. మీరు చేర్చాలని ఆలోచించని ఫైల్‌ను మోడల్ కనుగొనగలదు.
• రిట్రీవల్ లేకుండా దీర్ఘ-పత్ర విశ్లేషణ. రిట్రీవల్ అనేది మోడల్ ఏమి చూడవచ్చో నిర్ణయించే నష్టపూరిత ముందస్తు వడపోత. 196K వద్ద మీరు దాన్ని తరచుగా దాటవేసి మోడల్‌ను అంతా చదవనివ్వవచ్చు, దీనితో సరైన భాగం ఎప్పుడూ రిట్రీవ్ కాకపోవడం అనే మొత్తం వైఫల్య తరగతి తొలగిపోతుంది.
• పొందికగా ఉండే సంభాషణలు. ఒక దీర్ఘ పని సెషన్ ఇక తన సొంత ఆరంభాన్ని నిశ్శబ్దంగా వదిలేయదు. మీరు మూడవ సందేశంలో పెట్టిన నిబంధనలు ఎనభైవ సందేశంలోనూ వర్తిస్తాయి.
• తర్క లూప్‌కు చోటు. లూప్ యొక్క సొంత ఆలోచన, ముసాయిదా మరియు సమీక్ష సందర్భాన్ని వినియోగిస్తాయి. 3.0లో ఆ దశలు కొరత బడ్జెట్ కోసం మీ విషయంతో పోటీపడేవి. 3.1లో అవి సౌకర్యంగా ఇమిడిపోతాయి, నాణ్యత పెరుగుదల మరియు విండో పెరుగుదల కలిసి రావడానికి ఇది కూడా ఒక కారణం.
• పెద్ద మిశ్రమ ఇన్‌పుట్‌లు. ఒకే టర్న్‌లో చిత్రాలు, సేకరించిన పత్ర టెక్స్ట్ మరియు కోడ్ — వీటిలో దేన్ని చేర్చగలరో ముందుగా ఎంపిక చేసుకోవాల్సిన అవసరం లేకుండా.

మాదితో సహా ప్రతి దీర్ఘ-సందర్భ మోడల్‌కు వర్తించే ఒక నిజాయితీ హెచ్చరిక: పెద్ద విండో అనేది ఒక సామర్థ్యం, దాని అంతటా ఏకరీతి శ్రద్ధకు హామీ కాదు. నిర్మాణం ఇప్పటికీ సహాయపడుతుంది. ప్రశ్నను చివరకు దగ్గరగా పెట్టడం, మీ పత్రాలకు లేబుళ్ళు ఇవ్వడం, మరియు దేని కోసం చూడాలో మోడల్‌కు చెప్పడం — ఇవన్నీ 150K టోకెన్‌ల వద్ద ఫలితాలను గణనీయంగా మెరుగుపరుస్తాయి, 5K వద్ద అవి అలా చేయవు.

05Lite మరియు Pro: shannon-3.1 మరియు shannon-3.1-pro

ఈ రెండు స్థాయిలు తర్క లూప్‌లో ఎంత భాగం నడుపుతాయనే విషయంలో వేరుపడతాయి, మరియు వాటి మధ్య ఎంచుకోవడానికి ముఖ్యమైన తేడా అదొక్కటే.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
తర్కం	ఒకే పాస్	పూర్తి లూప్ + జ్ఞాన సేకరణ
స్వీయ-సమీక్ష	లేదు	ఉంది
సందర్భ విండో	196,608	196,608
స్ట్రీమింగ్	పూర్తి వేగం, నియంత్రణ లేనిది	పూర్తి వేగం, నియంత్రణ లేనిది
విజన్ & పత్రాలు	ఉంది	ఉంది
చిత్ర సృష్టి సాధనం	ఉంది	ఉంది
దీనికి ఉత్తమం	చాలా పనులు, అధిక పరిమాణం	కష్టమైన ప్రశ్నలు, మొదటి ముసాయిదా సరిపోనప్పుడు

డిఫాల్ట్‌గా Lite వాడండి. మంచి తర్క మోడల్ యొక్క ఒక పాస్ నిజమైన అభ్యర్థనలలో అత్యధిక భాగాన్ని నిర్వహిస్తుంది, మరియు 3.1లో అది ఎంత వేగంగా ఉందంటే లూప్ కోసం మీరు వేచి ఉన్నట్టు అనిపించదు. మొదటి సమాధానం సాధారణంగా బోధప్రదంగా తప్పుగా ఉండే ప్రశ్నలకు Pro వైపు మొగ్గండి: నిర్మాణ సంబంధ రాజీలు, ప్రతికూల విశ్లేషణ, ఒక సమర్థుడైన సహోద్యోగి ఒక రాత్రి ఆలోచించి చెప్పాలని మీరు కోరుకునే ఏదైనా. Pro యొక్క స్వీయ-సమీక్ష దశ అలంకారం కాదు — మీరు కనిపెట్టాల్సిన అవసరం రాకముందే మోడల్ తన సొంత తప్పులను కనిపెట్టడం అది.

0632% తెలివి పెరుగుదల, దాన్ని ఎలా చదవాలి

Shannon Lab సొంత మూల్యాంకనం Shannon 3.1ను Shannon 3.0 కంటే 32% తెలివి మెరుగుదలగా ఉంచుతుంది. అది ఏమిటో, ఏమి కాదో స్పష్టంగా చెప్పాలనుకుంటున్నాం.

ఇది మా సంఖ్య, మా అంతర్గత మూల్యాంకన సూట్ నుండి, ప్రజలు నిజంగా ఈ మోడళ్ళకు తీసుకువచ్చే వాటికి ప్రాతినిధ్యం వహిస్తాయని మేము భావించే పనులపై కొలవబడింది. ఇది మూడవ-పక్ష బెంచ్‌మార్క్ కాదు, మరియు మేము ఒక అంతర్గత సమాహారం చుట్టూ లీడర్‌బోర్డ్ పట్టికను నిర్మించడం లేదా ప్రతి-బెంచ్‌మార్క్ విభజనను ప్రచురించడం చేయడం లేదు — అలాంటి విభజన, ఒక అంతర్గత సూట్‌కు లేని బాహ్య పోల్చదగిన స్థాయిని సూచిస్తుంది.

మేము చెప్పగలిగేది ఈ లాభం ఎక్కడ నుండి వస్తుందో, ఎందుకంటే ఆ భాగం రహస్యమేమీ కాదు. పెద్ద సందర్భ విండో అంటే మోడల్ తర్కించడానికి ముందు తక్కువ విషయాన్ని పారవేయాల్సి వస్తుంది, మరియు దీర్ఘ సెషన్లలో కనిపించే చాలా అబుద్ధి నిజానికి కేవలం మతిమరుపే. మేము నియంత్రించే సర్వింగ్ స్టాక్ అంటే మోడల్ హోస్ట్ డిఫాల్ట్ కాకుండా మేము ఉద్దేశించిన కాన్ఫిగరేషన్‌తో నడుస్తుంది. మరియు తర్క లూప్ — డిజైన్‌లో మారనిది — ఇప్పుడు మీ ఇన్‌పుట్‌తో పంచుకున్న 32K పరిమితికి వ్యతిరేకంగా నొక్కబడకుండా, విండో లోపల నిజంగా నడవడానికి చోటు కలిగి ఉంది.

07విజన్, పత్రాలు మరియు చిత్ర సృష్టి

Shannon 3.1 చిత్రాలను మరియు పత్రాలను చదువుతుంది. స్క్రీన్‌షాట్‌లు, రేఖాచిత్రాలు, ఛాయాచిత్రాలు, స్కాన్ చేసిన పేజీలు, PDFలు మరియు టెక్స్ట్ పత్రాలు సంభాషణలోకి వెళ్ళి, మిగతా అన్నిటితో పాటు తర్కించబడతాయి. 196K విండోతో కలిపి, మొత్తం-పత్ర పని విధానాలను ఆచరణాత్మకంగా చేసేది ఇదే: ఒక దీర్ఘ నివేదిక మరియు దాని చార్టులు ఒకే టర్న్‌లో, మోడల్ ఏ పేజీలను చూడవచ్చో ముందుగా నిర్ణయించాల్సిన అవసరం లేకుండా.

చిత్ర సృష్టి మరియు సవరణ చాట్‌లో ఒక సాధనంగా అందుబాటులో ఉన్నాయి. ఒక చిత్రాన్ని అడగండి, అప్పటివరకూ చర్చించిన అన్నిటి సందర్భంతో, అదే సంభాషణలో మోడల్ ఆ సాధనాన్ని ఇన్‌లైన్‌గా పిలుస్తుంది. సవరణ కూడా అలాగే పనిచేస్తుంది — ఒక చిత్రాన్ని ఇచ్చి, మార్పును వివరించండి. మారాల్సిన ప్రత్యేక మోడ్ ఏదీ లేదు, నేర్చుకోవాల్సిన ప్రత్యేక ఇంటర్‌ఫేస్ ఏదీ లేదు.

08API నుండి Shannon 3.1ను పిలవడం

Shannon 3.1 మూడు API మాండలికాలలోనూ అందుబాటులో ఉంది, ప్రతిదానిలోనూ స్ట్రీమింగ్‌తో. అవే మోడళ్ళు, మూడు అభ్యర్థన రూపాలు — మీ దగ్గర ఇప్పటికే ఉన్న SDKకి సరిపోయేదాన్ని ఎంచుకోండి.

ఎండ్‌పాయింట్	రూపం	స్ట్రీమింగ్
/v1/chat/completions	OpenAI-అనుకూలం	ఉంది
/v1/messages	Anthropic-అనుకూలం	ఉంది
/v1/responses	Responses	ఉంది

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

పూర్తి తర్క లూప్‌ను నడపడానికి "shannon-3.1"ను "shannon-3.1-pro"తో మార్చండి. మీరు ఇప్పటికే shannon-3ను పిలుస్తుంటే, మైగ్రేషన్ అంటే మోడల్ ఐడీ మార్చడం మాత్రమే: అభ్యర్థన మరియు స్పందన రూపాలు మారలేదు, ప్రస్తుత స్ట్రీమింగ్ క్లయింట్‌లు పనిచేస్తూనే ఉంటాయి. ఆశించాల్సిన ఒకే ఒక ప్రవర్తనా తేడా విభాగం 02లో వర్ణించిన విడతల స్ట్రీమ్ — అవే టోకెన్‌లు, అదే క్రమం, కేవలం తొందరగా మరియు తక్కువ సమానమైన గుంపులుగా వస్తాయి.

పూర్తి పారామీటర్ సూచిక, ప్రామాణీకరణ, లోప అర్థశాస్త్రం మరియు ఇంటరాక్టివ్ ప్లేగ్రౌండ్ API డాక్యుమెంటేషన్‌లో ఉన్నాయి. ఇతర మోడల్ కార్డులు మరియు సాంకేతిక వ్యాసాలు Shannon పరిశోధనలో ఉన్నాయి.

09ఇప్పటికీ సెన్సార్ లేనిది, ఆ విషయంలో మారనిది

Shannon 3.1లో తిరస్కరణ పొర లేదు, అవుట్‌పుట్‌పై కంటెంట్ ఫిల్టరింగ్ లేదు. ఇది Shannon శ్రేణిలోని మిగతా వాటి వైఖరే, మరియు మా స్వంత క్లస్టర్‌కు తరలింపుతో ఇది మారలేదు — ఏదైనా ఉంటే, సర్వింగ్ స్టాక్‌ను నియంత్రించడం దీనికి హామీ ఇవ్వడాన్ని సులభతరం చేస్తుంది, ఎందుకంటే మోడల్‌కూ మీకూ మధ్య తన సొంత విధానం ఉన్న మధ్యవర్తి హోస్ట్ ఏదీ లేదు.

మొత్తం అవుట్‌పుట్ మార్గాన్ని మార్చిన ఒక విడుదల గురించి సహజంగా వచ్చే సందేహం ఇదే కాబట్టి దీన్ని స్పష్టంగా చెప్పడం విలువైనది: పేసింగ్ పొరను తొలగించడమంటే దాని స్థానంలో ఒక మోడరేషన్ పొరను పెట్టడం కాదు. స్ట్రీమ్‌ను ఏదీ పరిశీలించదు, తిరిగి రాయదు, లేదా నియంత్రించదు. మోడల్ ఉత్పత్తి చేసినదే మీకు చేరుతుంది. మాకు తెలిసినంతవరకూ, ఇంత పెద్ద సందర్భ విండోతో అందుబాటులో ఉన్న అత్యంత వేగవంతమైన సెన్సార్ లేని AI మోడల్ Shannon 3.1 — మరియు ఈ రెండు లక్షణాలు సంబంధం ఉన్నవే, ఎందుకంటే రెండూ, వేరొకరి నుండి కంప్లయన్స్-ఆకారపు సామర్థ్యాన్ని అద్దెకు తీసుకోవడం కాకుండా మా స్వంత మౌలిక సదుపాయాలను నడపడం నుండి వచ్చాయి.

సెన్సార్ లేకపోవడమంటే జవాబుదారీతనం లేకపోవడం కాదు. వినియోగం మా బాధ్యతాయుత వినియోగ విధానం ప్రకారం నిర్వహించబడుతుంది, మరియు కష్టమైన విషయంతోనూ పనిచేసే మోడల్‌తో వచ్చే బాధ్యత ఏమిటంటే మీరు దానితో బాధ్యతాయుతంగా వ్యవహరించాలి.

10పోలికను మీరే నడపండి

ఇక్కడి ప్రతి ప్రకటనా దాదాపు రెండు నిమిషాల్లో తనిఖీ చేయదగినది, మరియు మమ్మల్ని నమ్మడం కంటే మీరు తనిఖీ చేయడమే మాకు ఇష్టం.

1. మీరు నిజంగా చేసే పని నుండి ఒక ప్రాంప్ట్ ఎంచుకోండి. పొడవైనది మంచిది — అది విండోను, స్ట్రీమింగ్‌ను రెండింటినీ పరీక్షిస్తుంది.
2. దాన్ని shannon-3పై నడపండి. మొదటి టోకెన్ వరకూ ఎంత సమయం, సమాధానం పూర్తయ్యే వరకూ ఎంత సమయం పట్టిందో గమనించండి.
3. అదే ప్రాంప్ట్‌ను shannon-3.1పై నడపండి. అవే రెండు సంఖ్యలను గమనించండి.
4. ఆపై గడియారాన్ని పట్టించుకోకుండా రెండు సమాధానాలనూ చదివి, మీకు ఏది కావాలో నిర్ణయించండి.

వేగ తేడా వెంటనే, స్పష్టంగా కనిపిస్తుంది. ఆలోచించదగినది నాణ్యతా తేడానే — అది దీర్ఘ ఇన్‌పుట్‌లపై అత్యంత స్పష్టంగా కనిపిస్తుంది, ఎందుకంటే అక్కడ 3.0 మీరు అనుకున్నదాని కంటే మీ విషయంలో తక్కువ భాగంతోనే నిశ్శబ్దంగా పనిచేస్తుండేది.

11తరచుగా అడిగే ప్రశ్నలు

---

ఈ వ్యాసంలోని పనితీరు మరియు తెలివి సంఖ్యలు Shannon Lab అంతర్గత మూల్యాంకనం నుండి వచ్చిన సొంత కొలతలు, సెప్టెంబర్ 2026, మరియు అవి మూడవ-పక్ష బెంచ్‌మార్క్ ఫలితాలుగా కాకుండా ఉత్పత్తి సంఖ్యలుగా పేర్కొనబడ్డాయి. సందర్భ విండో, మోడల్ ఐడీలు మరియు API లభ్యత ఉత్పత్తి వివరణలు. Shannon AI ను Shannon Lab LLC, న్యూ మెక్సికో, USA నిర్వహిస్తుంది. సంబంధిత పఠనం: Shannon 3 · Shannon పరిశోధన సూచిక · API డాక్యుమెంటేషన్.