పరిమితులు మరియు బ్యాలెన్స్

ఈ పేజీ మీ బ్యాలెన్స్ దేనితో తయారైందో, ఒక రిక్వెస్ట్ ఏమి రిజర్వ్ చేస్తుందో మరియు ఎంత ఖర్చవుతుందో, మీరు ఎన్ని రిక్వెస్ట్‌లు పంపవచ్చో, మరియు ఒక్క రిక్వెస్ట్ ఎదుర్కొనే కొన్ని పరిమితులను వివరిస్తుంది.

1M tokens బ్యాలెన్స్ విలువ

$5.00

రోజువారీ అలౌన్స్ పునరుద్ధరించబడుతుంది

00:00 UTC

ఫ్లడ్ ప్రొటెక్షన్, ఖాతాకు

120 రిక్వెస్ట్‌లు / నిమిషం

రిక్వెస్ట్‌లకు ఎలా సేవ అందుతుంది

• రేట్ టియర్‌లు లేవు — రిక్వెస్ట్‌లు ఎంత వేగంగా రావచ్చో ఒక నియమం పరిమితం చేస్తుంది, మరియు అది ప్రతి ఖాతాకు మరియు ప్రతి ప్లాన్‌కు ఒకటే: నిమిషానికి 120 రిక్వెస్ట్‌లు. నిమిషానికి tokens పై పరిమితి లేదు.
• ప్రత్యేక API కోటా లేదు — API చాట్ ఖర్చు చేసే అదే బ్యాలెన్స్‌ను ఖర్చు చేస్తుంది. ప్లాన్ ఈరోజు అలౌన్స్ పరిమాణాన్ని నిర్ణయిస్తుంది. అది రిక్వెస్ట్ రేటును నిర్ణయించదు.
• మీకు నచ్చినంత వేగంగా — సమాంతరంగా పంపిన రిక్వెస్ట్‌లు అంగీకరించబడి వరుసలో వేచి ఉంటాయి. సమాంతరంగా ఉన్నందుకు అవి తిరస్కరించబడవు.

మీ బ్యాలెన్స్

మీ బ్యాలెన్స్ tokens లో లెక్కించబడుతుంది. 1,000,000 tokens బ్యాలెన్స్ విలువ $5.00, మరియు Models & pricing పేజీలోని ప్రతి ధర ఆ విలువకు ఒక రేటు.

ఏ క్షణంలోనైనా బ్యాలెన్స్ అనేది రెండు భాగాల మొత్తం.

• ఈరోజు ప్లాన్ అలౌన్స్ — మీ ప్లాన్ నిర్ణయించే tokens సంఖ్య. ఇది ప్రతిరోజూ 00:00 UTC కి కొత్తగా వస్తుంది. రోజు చివరన మిగిలినది తర్వాతి రోజుకు చేరదు.
• కొనుగోలు చేసిన క్రెడిట్ — మీరు ప్యాక్‌గా కొన్న tokens. క్రెడిట్ గడువు ముగియదు మరియు Free తో సహా ప్రతి ప్లాన్‌లో పనిచేస్తుంది.

• ఖర్చు చేసే క్రమం — ప్రతి రిక్వెస్ట్ ముందుగా ఈరోజు ప్లాన్ అలౌన్స్‌ను ఖర్చు చేస్తుంది. ఆ రోజు అలౌన్స్‌ను మించిన దానికి మాత్రమే కొనుగోలు చేసిన క్రెడిట్ ఉపయోగించబడుతుంది.
• చాట్ మరియు API దీన్ని పంచుకుంటాయి — ఒక ఖాతాకు ఒక బ్యాలెన్స్ ఉంటుంది. API కీ దానిని కలిగి ఉన్న ఖాతా బ్యాలెన్స్ నుండి, చాట్‌లో ఉన్న అవే ధరలతో ఖర్చు చేస్తుంది.
• ప్యాక్‌లు — క్రెడిట్ 1,000,000 ($5.00), 2,000,000 ($10.00) మరియు 5,000,000 ($25.00) tokens ప్యాక్‌లుగా, లేదా మీరు ఎంచుకున్న 1,000,000 నుండి 100,000,000 tokens వరకు మొత్తంగా 1,000,000 కి $5.00 చొప్పున అమ్మబడుతుంది.

క్రెడిట్‌ను టాప్ అప్ చేయండి ప్లాన్‌ను మార్చండి

రిక్వెస్ట్ ఏమి రిజర్వ్ చేస్తుంది మరియు ఎంత ఖర్చవుతుంది

• రిజర్వ్ — రిక్వెస్ట్ వచ్చినప్పుడు అది తన అవుట్‌పుట్ బడ్జెట్‌ను మీ బ్యాలెన్స్ నుండి రిజర్వ్ చేస్తుంది: /v1/chat/completions మరియు /v1/messages లో max_tokens, /v1/responses లో max_output_tokens. /v1/chat/completions max_completion_tokens ను కూడా చదువుతుంది. డిఫాల్ట్ 4,096 మరియు పరిధి 1 నుండి 65,536.
• అంగీకరణ — రిజర్వేషన్ మీ బ్యాలెన్స్‌లో మిగిలిన దానిలో సరిపోతేనే రిక్వెస్ట్ అంగీకరించబడుతుంది. సున్నా కంటే ఎక్కువగా ఉండి అవుట్‌పుట్ బడ్జెట్ కంటే తక్కువగా ఉన్న బ్యాలెన్స్‌కు Quota exceeded సమాధానం వస్తుంది. మిగిలినదాన్ని ఉపయోగించడానికి చిన్న max_tokens పంపండి.
• సెటిల్ — సమాధానం పూర్తయినప్పుడు, రిజర్వేషన్ నిజమైన ఛార్జ్‌తో భర్తీ అవుతుంది. ఛార్జ్ రిజర్వేషన్ కంటే తక్కువగా లేదా ఎక్కువగా ఉండవచ్చు.
• తిరిగి ఇవ్వడం — ఎరర్ స్టేటస్‌తో ముగిసే రిక్వెస్ట్ తన రిజర్వేషన్‌ను పూర్తిగా తిరిగి ఇస్తుంది.

నిజమైన ఛార్జ్ మోడల్ ఫ్యామిలీపై ఆధారపడి ఉంటుంది.

USD లో మొత్తం మీ బ్యాలెన్స్ నుండి 1,000,000 కి $5.00 చొప్పున tokens లో తీసుకోబడుతుంది, పూర్ణ token కు పూర్తి చేయబడుతుంది.

POST /v1/tokenize లేదా POST /v1/messages/count_tokens తో tokens ను లెక్కించడం ఉచితం మరియు ఏదీ రిజర్వ్ చేయదు. Token లెక్కింపు

బ్యాలెన్స్ మరియు వినియోగాన్ని ఎక్కడ చూడాలి

Keys & usage పేజీ ఇప్పుడు మీరు ఖర్చు చేయగలిగినది, ఈరోజు ప్లాన్ అలౌన్స్, మీరు కొనుగోలు చేసిన క్రెడిట్ మరియు గత 30 రోజుల API ఖర్చును చూపిస్తుంది. దాని కింద మీ కీ చేసిన ప్రతి రిక్వెస్ట్‌ను జాబితా చేస్తుంది: సమయం, ఎండ్‌పాయింట్, మోడల్, క్యాష్ చేసిన ఇన్‌పుట్, బిల్ చేసిన tokens మరియు ఖర్చు. Keys & usage

ప్రతి సమాధానంలో ఆ కాల్ tokens లెక్కలతో usage ఆబ్జెక్ట్ కూడా ఉంటుంది.

• usage మోడల్ tokens లెక్కలను కలిగి ఉంటుంది. మీ బ్యాలెన్స్ నుండి తీసుకున్న మొత్తం సమాధానంలో ఉండదు: అది Keys & usage లోని రిక్వెస్ట్ జాబితాలోని Billed tokens కాలమ్.
• హోస్ట్ చేసిన ఓపెన్-వెయిట్ మోడల్‌తో /v1/messages లో, input_tokens ఇన్‌పుట్‌లో క్యాష్ చేయని భాగం, cache_read_input_tokens క్యాష్ చేసిన భాగం మరియు cache_creation_input_tokens ఎల్లప్పుడూ 0.
• /v1/chat/completions లో స్ట్రీమ్ [DONE] ముందు తన చివరి చంక్‌లో usage ను తీసుకువస్తుంది. స్ట్రీమింగ్

బ్యాలెన్స్ అయిపోయినప్పుడు

రిజర్వేషన్ మీ బ్యాలెన్స్‌లో సరిపోని రిక్వెస్ట్‌కు స్టేటస్ 429, type rate_limit_error మరియు దిగువ మెసేజ్‌తో సమాధానం వస్తుంది. ఏదీ ఛార్జ్ చేయబడదు. బ్యాలెన్స్ సున్నా కంటే ఎక్కువగా ఉండి రిక్వెస్ట్ అవుట్‌పుట్ బడ్జెట్ కంటే తక్కువగా ఉన్నప్పుడు కూడా అదే సమాధానం పంపబడుతుంది.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses లో error ఆబ్జెక్ట్‌లో code మరియు param కూడా ఉండవచ్చు, రెండూ null.

మీరు ఏమి చేయవచ్చు:

• 00:00 UTC కి తదుపరి ప్లాన్ అలౌన్స్ కోసం వేచి ఉండండి.
• క్రెడిట్ టాప్ అప్ చేయండి. క్రెడిట్ ప్లాన్ అలౌన్స్ తర్వాత ఖర్చవుతుంది మరియు గడువు ముగియదు. క్రెడిట్‌ను టాప్ అప్ చేయండి
• పెద్ద రోజువారీ అలౌన్స్ ఉన్న ప్లాన్‌కు మారండి. ప్లాన్‌ను మార్చండి
• కొంత బ్యాలెన్స్ మిగిలి ఉంటే చిన్న max_tokens పంపండి: అప్పుడు రిజర్వేషన్ చిన్నదవుతుంది.

Shannon Coder కాల్ అలౌన్స్

/v1/chat/completions మరియు /v1/messages లో shannon-coder-1 tokens లో కాకుండా కాల్స్‌లో లెక్కించబడుతుంది. ప్రతి ప్లాన్‌లో 4-గంటల విండోకు కొన్ని కాల్స్ ఉంటాయి. ఒక రిక్వెస్ట్ ఒక కాల్.

• విండోలు 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC కి మొదలవుతాయి. విండో చివర మిగిలిన కాల్స్ తర్వాతి విండోకు చేరవు.
• రిక్వెస్ట్ అంగీకరించబడినప్పుడు, మోడల్ సమాధానం ఇచ్చే ముందే, కాల్ లెక్కించబడుతుంది. ఆ తర్వాత విఫలమయ్యే రిక్వెస్ట్ కూడా కాల్‌గా లెక్కలోకి వస్తుంది.
• ఈ కాల్స్ tokens ను రిజర్వ్ చేయవు మరియు మీ బ్యాలెన్స్ నుండి ఏదీ తీసుకోవు. Keys & usage లోని రిక్వెస్ట్ జాబితా వాటి tokens సంఖ్యను మరియు జాబితా ధర వద్ద దాని విలువను చూపిస్తుంది.
• ఈ రెండు ఎండ్‌పాయింట్‌లలో shannon-coder-1 డిఫాల్ట్ max_tokens 65,536.
• కాల్స్ మిగలనప్పుడు సమాధానం స్టేటస్ 429, type rate_limit_error, మెసేజ్ Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan.
• /v1/responses లో shannon-coder-1 కు కాల్ అలౌన్స్ లేదు: ఇతర ప్రతి మోడల్ లాగే ఇది మీ బ్యాలెన్స్ నుండి 1M కి $8.00 చొప్పున tokens లో ఛార్జ్ చేయబడుతుంది.

Flood protection

ఒక ఖాతా నిమిషానికి 120 రిక్వెస్ట్‌లు పంపవచ్చు. రిక్వెస్ట్ రేటుపై ఉన్న ఏకైక పరిమితి ఇదే, మరియు ఇది ప్రతి ప్లాన్‌లో ఒకటే. ఇది ఫ్లడ్‌లను ఆపడానికి ఉంది, సాధారణ వినియోగాన్ని నెమ్మదింపజేయడానికి కాదు.

• నిమిషం అనేది మీ మొదటి రిక్వెస్ట్‌తో తెరుచుకునే 60 సెకన్ల స్థిర విండో. అది ముగిసినప్పుడు లెక్క మళ్ళీ సున్నా నుండి మొదలవుతుంది.
• లెక్క ఖాతా ప్రకారం, కీ ప్రకారం కాదు మరియు IP చిరునామా ప్రకారం కాదు. కీని రొటేట్ చేసినా కొత్త విండో తెరుచుకోదు.
• విండోలో 121వ రిక్వెస్ట్‌కు స్టేటస్ 429, type rate_limit_error మరియు మెసేజ్ Too many requests. Retry in <N>s. తో సమాధానం వస్తుంది. N అనేది విండో ముగిసే వరకు సెకన్ల సంఖ్య, 1 నుండి 60 వరకు.
• బ్యాలెన్స్ కంటే ముందు Flood protection తనిఖీ చేయబడుతుంది. అది తిరస్కరించిన రిక్వెస్ట్ ఏదీ రిజర్వ్ చేయదు మరియు ఏమీ ఖర్చు కాదు.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

సమాంతర రిక్వెస్ట్‌లు

ఒక ఖాతా ఒకే సమయంలో ఎన్ని రిక్వెస్ట్‌లు తెరిచి ఉంచవచ్చనే పరిమితి లేదు, మరియు రిక్వెస్ట్‌లను సమాంతరంగా పంపినందుకు ఎరర్ లేదు. వెంటనే మొదలు కాలేని రిక్వెస్ట్‌లు వరుసలో వేచి ఉండి క్రమంగా సమాధానం పొందుతాయి.

• ప్రతి రిక్వెస్ట్ వచ్చినప్పుడు నిమిషానికి 120 లో లెక్కించబడుతుంది, మునుపటి రిక్వెస్ట్‌లు ముగిసినా ముగియకపోయినా.
• ప్రతి రిక్వెస్ట్ ముగిసే వరకు తన సొంత రిజర్వేషన్‌ను ఉంచుతుంది. డిఫాల్ట్ అవుట్‌పుట్ బడ్జెట్‌తో ఇరవై తెరిచిన రిక్వెస్ట్‌లు 20 × 4,096 = 81,920 tokens బ్యాలెన్స్‌ను ఉంచుతాయి. రిజర్వేషన్‌లన్నీ కలిపి మీ బ్యాలెన్స్ కంటే పెద్దవైతే, ముగిసిన కాల్స్ తక్కువ ఖర్చయ్యేవే అయినా తదుపరి రిక్వెస్ట్‌కు Quota exceeded సమాధానం వస్తుంది. చిన్న max_tokens తక్కువ ఉంచుతుంది.
• స్ట్రీమింగ్ లేని రిక్వెస్ట్ సమాధానం పూర్తయ్యే వరకు ఏదీ పంపదు, కాబట్టి ఆ నిరీక్షణను కవర్ చేసే టైమ్‌అవుట్‌ను మీ క్లయింట్‌కు ఇవ్వండి. స్ట్రీమ్ వేచి ఉన్నప్పుడు తన కనెక్షన్‌ను తెరిచి ఉంచుతుంది. స్ట్రీమింగ్

ఒక్క రిక్వెస్ట్ పరిమితులు

ఎరర్‌లు

ఈ పేజీలోని సమాధానాలు. /v1/messages లో అదే error ఆబ్జెక్ట్ {"type": "error", "error": {…}} గా చుట్టబడుతుంది.