सीमाएँ और बैलेंस

यह पेज समझाता है कि आपका बैलेंस किससे बना है, एक अनुरोध क्या रिज़र्व करता है और कितना लागत वाला है, आप कितने अनुरोध भेज सकते हैं, और वे कुछ सीमाएँ जो एक अकेले अनुरोध को मिल सकती हैं।

बैलेंस के 1M टोकन का मान

$5.00

दैनिक अलाउंस नया होता है

00:00 UTC

flood protection, प्रति अकाउंट

120 अनुरोध / मिनट

अनुरोध कैसे पूरे किए जाते हैं

• कोई रेट टियर नहीं — एक नियम तय करता है कि अनुरोध कितनी तेज़ी से आ सकते हैं, और वह हर अकाउंट और हर प्लान के लिए समान है: प्रति मिनट 120 अनुरोध। प्रति मिनट टोकन पर कोई सीमा नहीं है।
• कोई अलग API कोटा नहीं — API वही बैलेंस खर्च करती है जो चैट करती है। प्लान आज के अलाउंस का आकार तय करता है। वह अनुरोध दर तय नहीं करता।
• जितनी तेज़ चाहें — समानांतर भेजे गए अनुरोध स्वीकार होते हैं और कतार में इंतज़ार करते हैं। उन्हें समानांतर होने के कारण मना नहीं किया जाता।

आपका बैलेंस

आपका बैलेंस टोकन में गिना जाता है। बैलेंस के 1,000,000 टोकन की कीमत $5.00 है, और Models & pricing पेज की हर कीमत इसी मान के मुकाबले एक दर है।

किसी भी क्षण बैलेंस दो हिस्सों का योग होता है।

• आज का प्लान अलाउंस — टोकन की एक संख्या जो आपका प्लान तय करता है। यह हर दिन 00:00 UTC पर नई हो जाती है। दिन के अंत में जो बचता है वह आगे नहीं जाता।
• खरीदा गया क्रेडिट — वे टोकन जो आपने पैक के रूप में खरीदे। क्रेडिट की समय-सीमा खत्म नहीं होती और यह हर प्लान पर चलता है, Free पर भी।

• खर्च का क्रम — हर अनुरोध पहले आज का प्लान अलाउंस खर्च करता है। खरीदा गया क्रेडिट केवल उसी के लिए इस्तेमाल होता है जो उस दिन अलाउंस से ज़्यादा हो।
• चैट और API इसे साझा करते हैं — हर अकाउंट का एक ही बैलेंस होता है। API key उस अकाउंट के बैलेंस से खर्च करती है जिसकी वह है, चैट वाली ही कीमतों पर।
• पैक — क्रेडिट 1,000,000 ($5.00), 2,000,000 ($10.00) और 5,000,000 ($25.00) टोकन के पैक में बिकता है, या 1,000,000 से 100,000,000 टोकन के बीच आपकी चुनी हुई मात्रा में, $5.00 प्रति 1,000,000 की दर से।

क्रेडिट टॉप-अप करें प्लान बदलें

अनुरोध क्या रिज़र्व करता है और उसकी लागत क्या है

• रिज़र्व — अनुरोध आने पर वह आपके बैलेंस से अपना आउटपुट बजट रिज़र्व करता है: /v1/chat/completions और /v1/messages पर max_tokens, /v1/responses पर max_output_tokens। /v1/chat/completions max_completion_tokens भी पढ़ता है। डिफ़ॉल्ट 4,096 है और सीमा 1 से 65,536 है।
• स्वीकार — अनुरोध तभी स्वीकार होता है जब रिज़र्वेशन आपके बैलेंस के बचे हिस्से में समा जाए। जो बैलेंस शून्य से ऊपर है पर आउटपुट बजट से छोटा है, उसे Quota exceeded उत्तर मिलता है। बाकी बैलेंस इस्तेमाल करने के लिए छोटा max_tokens भेजें।
• निपटान — उत्तर पूरा होने पर रिज़र्वेशन की जगह असली शुल्क ले लेता है। शुल्क रिज़र्वेशन से कम या ज़्यादा हो सकता है।
• वापसी — जो अनुरोध एरर स्टेटस के साथ खत्म होता है, वह अपना रिज़र्वेशन पूरा वापस दे देता है।

असली शुल्क मॉडल परिवार पर निर्भर करता है।

USD की राशि आपके बैलेंस से टोकन में $5.00 प्रति 1,000,000 की दर से ली जाती है, और पूरे टोकन में पूर्णांकित की जाती है।

POST /v1/tokenize या POST /v1/messages/count_tokens से टोकन गिनना मुफ़्त है और कुछ रिज़र्व नहीं करता। टोकन गिनती

बैलेंस और उपयोग कहाँ देखें

Keys & usage पेज दिखाता है कि आप अभी क्या खर्च कर सकते हैं, आज का प्लान अलाउंस, आपका खरीदा गया क्रेडिट और पिछले 30 दिनों का API खर्च। उसके नीचे आपकी key के हर अनुरोध की सूची है: समय, endpoint, मॉडल, कैश किया गया इनपुट, बिल किए गए टोकन और लागत। Keys और उपयोग

हर उत्तर में एक usage ऑब्जेक्ट भी होता है, जिसमें उस कॉल की टोकन गिनती होती है।

• usage में मॉडल की टोकन गिनती होती है। आपके बैलेंस से ली गई राशि उत्तर में नहीं होती: वह Keys & usage की अनुरोध सूची का Billed tokens कॉलम है।
• होस्टेड ओपन-वेट मॉडल के साथ /v1/messages पर, input_tokens इनपुट का अनकैश्ड हिस्सा है, cache_read_input_tokens कैश किया गया हिस्सा है और cache_creation_input_tokens हमेशा 0 होता है।
• /v1/chat/completions की स्ट्रीम [DONE] से पहले अपने अंतिम चंक में usage देती है। स्ट्रीमिंग

जब बैलेंस खत्म हो जाए

जिस अनुरोध का रिज़र्वेशन आपके बैलेंस में नहीं समाता, उसका उत्तर स्टेटस 429, प्रकार rate_limit_error और नीचे दिए संदेश के साथ आता है। कुछ चार्ज नहीं होता। यही उत्तर तब भी भेजा जाता है जब बैलेंस शून्य से ऊपर है पर अनुरोध के आउटपुट बजट से छोटा है।

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses पर error ऑब्जेक्ट में code और param भी हो सकते हैं, दोनों null।

आप यह कर सकते हैं:

• 00:00 UTC पर अगले प्लान अलाउंस का इंतज़ार करें।
• क्रेडिट टॉप-अप करें। क्रेडिट प्लान अलाउंस के बाद खर्च होता है और उसकी समय-सीमा खत्म नहीं होती। क्रेडिट टॉप-अप करें
• बड़े दैनिक अलाउंस वाले प्लान पर जाएँ। प्लान बदलें
• अगर कुछ बैलेंस बचा है, तो छोटा max_tokens भेजें: तब रिज़र्वेशन छोटा होगा।

Shannon Coder कॉल अलाउंस

/v1/chat/completions और /v1/messages पर shannon-coder-1 कॉल में गिना जाता है, टोकन में नहीं। हर प्लान में हर 4 घंटे की विंडो के लिए कुछ कॉल शामिल हैं। एक अनुरोध एक कॉल है।

• विंडो 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC पर शुरू होती हैं। विंडो के अंत में बची कॉल आगे नहीं जातीं।
• कॉल तब गिनी जाती है जब अनुरोध स्वीकार होता है, मॉडल के उत्तर देने से पहले। जो अनुरोध बाद में विफल होता है वह भी एक कॉल गिना जाता है।
• ये कॉल कोई टोकन रिज़र्व नहीं करतीं और आपके बैलेंस से कुछ नहीं लेतीं। Keys & usage की अनुरोध सूची इनकी टोकन संख्या और सूचीबद्ध कीमत पर उसका मान दिखाती है।
• इन दोनों endpoints पर shannon-coder-1 का डिफ़ॉल्ट max_tokens 65,536 है।
• कॉल खत्म होने पर उत्तर स्टेटस 429, प्रकार rate_limit_error और संदेश Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan होता है।
• /v1/responses पर shannon-coder-1 का कोई कॉल अलाउंस नहीं है: इसका शुल्क आपके बैलेंस से टोकन में $8.00 प्रति 1M पर लगता है, हर दूसरे मॉडल की तरह।

Flood protection

एक अकाउंट प्रति मिनट 120 अनुरोध भेज सकता है। अनुरोध दर पर यही एकमात्र सीमा है, और यह हर प्लान पर समान है। यह बाढ़ रोकने के लिए है, सामान्य उपयोग धीमा करने के लिए नहीं।

• मिनट 60 सेकंड की एक तय विंडो है जो आपके पहले अनुरोध से खुलती है। खत्म होने पर गिनती फिर शून्य से शुरू होती है।
• गिनती प्रति अकाउंट होती है, प्रति key या प्रति IP पते नहीं। key बदलने से नई विंडो नहीं खुलती।
• विंडो के भीतर 121वें अनुरोध का उत्तर स्टेटस 429, प्रकार rate_limit_error और संदेश Too many requests. Retry in <N>s. के साथ आता है। N विंडो खत्म होने तक के सेकंड हैं, 1 से 60 तक।
• Flood protection बैलेंस से पहले जाँचा जाता है। जिस अनुरोध को वह मना करता है, वह कुछ रिज़र्व नहीं करता और उसकी कोई लागत नहीं होती।

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

समानांतर अनुरोध

एक अकाउंट के एक साथ कितने अनुरोध खुले हो सकते हैं, इस पर कोई सीमा नहीं है, और समानांतर अनुरोध भेजने पर कोई एरर नहीं है। जो अनुरोध तुरंत शुरू नहीं हो सकते वे कतार में इंतज़ार करते हैं और बारी-बारी से जवाब पाते हैं।

• हर अनुरोध आते ही प्रति मिनट 120 में गिना जाता है, चाहे पिछले अनुरोध पूरे हुए हों या नहीं।
• हर अनुरोध अपने खत्म होने तक अपना रिज़र्वेशन रोके रखता है। डिफ़ॉल्ट आउटपुट बजट वाले बीस खुले अनुरोध 20 × 4,096 = 81,920 टोकन का बैलेंस रोकते हैं। अगर रिज़र्वेशन मिलाकर आपके बैलेंस से बड़े हैं, तो अगले अनुरोध को Quota exceeded उत्तर मिलता है, भले ही पूरी हो चुकी कॉल की लागत कम होती। छोटा max_tokens कम रोकता है।
• स्ट्रीमिंग के बिना अनुरोध उत्तर पूरा होने तक कुछ नहीं भेजता, इसलिए अपने क्लाइंट को ऐसा टाइमआउट दें जो इस प्रतीक्षा को कवर करे। स्ट्रीम प्रतीक्षा के दौरान अपना कनेक्शन खुला रखती है। स्ट्रीमिंग

एक अनुरोध की सीमाएँ

एरर

इस पेज के उत्तर। /v1/messages पर यही error ऑब्जेक्ट {"type": "error", "error": {…}} के रूप में लिपटा होता है।