મર્યાદાઓ અને બેલેન્સ

આ પેજ સમજાવે છે કે તમારું બેલેન્સ શેનું બનેલું છે, એક રિક્વેસ્ટ શું અલગ રાખે છે અને તેનો શું ખર્ચ થાય છે, તમે કેટલી રિક્વેસ્ટ મોકલી શકો છો, અને એક રિક્વેસ્ટને મળી શકે તેવી થોડી મર્યાદાઓ.

બેલેન્સના 1M ટોકન્સનું મૂલ્ય

$5.00

દૈનિક એલાઉન્સ નવું થાય છે

00:00 UTC

flood protection, એકાઉન્ટ દીઠ

120 રિક્વેસ્ટ / મિનિટ

રિક્વેસ્ટ્સ કેવી રીતે પીરસાય છે

• કોઈ rate ટિયર નથી — એક નિયમ રિક્વેસ્ટ્સ કેટલી ઝડપે આવી શકે તે મર્યાદિત કરે છે, અને તે દરેક એકાઉન્ટ અને દરેક પ્લાન માટે સમાન છે: પ્રતિ મિનિટ 120 રિક્વેસ્ટ. પ્રતિ મિનિટ ટોકન્સ પર કોઈ મર્યાદા નથી.
• કોઈ અલગ API ક્વોટા નથી — API ચેટ જેટલું જ બેલેન્સ વાપરે છે. પ્લાન આજના એલાઉન્સનું કદ નક્કી કરે છે. તે રિક્વેસ્ટ દર નક્કી કરતો નથી.
• તમને ગમે તેટલી ઝડપથી — સમાંતર મોકલેલી રિક્વેસ્ટ્સ સ્વીકારાય છે અને કતારમાં રાહ જુએ છે. સમાંતર હોવાને કારણે તે નકારાતી નથી.

તમારું બેલેન્સ

તમારું બેલેન્સ ટોકન્સમાં ગણાય છે. બેલેન્સના 1,000,000 ટોકન્સની કિંમત $5.00 છે, અને Models & pricing પેજ પરની દરેક કિંમત તે મૂલ્ય સામેનો દર છે.

કોઈપણ ક્ષણે બેલેન્સ બે ભાગોનો સરવાળો હોય છે.

• આજનું પ્લાન એલાઉન્સ — તમારા પ્લાન દ્વારા નક્કી થયેલી ટોકન્સની સંખ્યા. તે દરરોજ 00:00 UTC એ નવી મળે છે. દિવસના અંતે જે બાકી રહે તે આગળ લઈ જવાતું નથી.
• ખરીદેલ ક્રેડિટ — પેક તરીકે ખરીદેલા ટોકન્સ. ક્રેડિટની મુદત પૂરી થતી નથી અને Free સહિત દરેક પ્લાન પર કામ કરે છે.

• ખર્ચનો ક્રમ — દરેક રિક્વેસ્ટ પહેલા આજનું પ્લાન એલાઉન્સ વાપરે છે. ખરીદેલ ક્રેડિટ ફક્ત તે દિવસે એલાઉન્સથી વધુ જે જાય તેના માટે વપરાય છે.
• ચેટ અને API તેને વહેંચે છે — એકાઉન્ટ દીઠ એક બેલેન્સ છે. API કી તેની માલિકી ધરાવતા એકાઉન્ટના બેલેન્સમાંથી, ચેટ જેવી જ કિંમતે ખર્ચ કરે છે.
• પેક્સ — ક્રેડિટ 1,000,000 ($5.00), 2,000,000 ($10.00) અને 5,000,000 ($25.00) ટોકન્સના પેકમાં વેચાય છે, અથવા 1,000,000 થી 100,000,000 ટોકન્સની તમારી પસંદગીની રકમ તરીકે, 1,000,000 દીઠ $5.00 ના ભાવે.

ક્રેડિટ ટોપ-અપ કરો પ્લાન બદલો

રિક્વેસ્ટ શું અલગ રાખે છે અને તેનો શું ખર્ચ છે

• અલગ રાખવું — રિક્વેસ્ટ આવે ત્યારે તે તમારા બેલેન્સમાંથી તેનું આઉટપુટ બજેટ અલગ રાખે છે: /v1/chat/completions અને /v1/messages પર max_tokens, /v1/responses પર max_output_tokens. /v1/chat/completions max_completion_tokens પણ વાંચે છે. ડિફોલ્ટ 4,096 છે અને શ્રેણી 1 થી 65,536 છે.
• સ્વીકાર — રિઝર્વેશન તમારા બેલેન્સમાં જે બાકી છે તેમાં સમાય તો જ રિક્વેસ્ટ સ્વીકારાય છે. શૂન્યથી ઉપર પણ આઉટપુટ બજેટથી નાનું બેલેન્સ Quota exceeded જવાબ મેળવે છે. બાકીનું વાપરવા નાનું max_tokens મોકલો.
• પતાવટ — જવાબ પૂરો થાય ત્યારે રિઝર્વેશન વાસ્તવિક ચાર્જથી બદલાય છે. ચાર્જ રિઝર્વેશન કરતાં ઓછો કે વધુ હોઈ શકે.
• પરત — એરર સ્ટેટસ સાથે પૂરી થતી રિક્વેસ્ટ તેનું રિઝર્વેશન પૂરેપૂરું પાછું આપે છે.

વાસ્તવિક ચાર્જ મોડેલ ફેમિલી પર આધારિત છે.

USD માં રકમ તમારા બેલેન્સમાંથી ટોકન્સમાં 1,000,000 દીઠ $5.00 ના ભાવે લેવાય છે, આખા ટોકન સુધી ગોળ કરેલી.

POST /v1/tokenize અથવા POST /v1/messages/count_tokens થી ટોકન્સ ગણવા મફત છે અને કંઈ અલગ રાખતા નથી. ટોકન ગણતરી

બેલેન્સ અને વપરાશ ક્યાં જોવા

Keys & usage પેજ બતાવે છે કે તમે અત્યારે શું ખર્ચ કરી શકો છો, આજનું પ્લાન એલાઉન્સ, તમારું ખરીદેલ ક્રેડિટ અને છેલ્લા 30 દિવસનો API ખર્ચ. તેની નીચે તમારી કીએ કરેલી દરેક રિક્વેસ્ટ યાદી થાય છે: સમય, એન્ડપોઇન્ટ, મોડેલ, કેશ્ડ ઇનપુટ, બિલ થયેલા ટોકન્સ અને ખર્ચ. Keys & usage

દરેક જવાબ તે કોલની ટોકન ગણતરી સાથેનો usage ઓબ્જેક્ટ પણ લઈ જાય છે.

• usage માં મોડેલની ટોકન ગણતરી હોય છે. તમારા બેલેન્સમાંથી લેવાયેલી રકમ જવાબમાં નથી: તે Keys & usage પરની રિક્વેસ્ટ યાદીનો Billed tokens કૉલમ છે.
• હોસ્ટેડ open-weight મોડેલ સાથે /v1/messages પર, input_tokens ઇનપુટનો કેશ વિનાનો ભાગ છે, cache_read_input_tokens કેશ્ડ ભાગ છે અને cache_creation_input_tokens હંમેશા 0 છે.
• /v1/chat/completions પરનો સ્ટ્રીમ [DONE] પહેલાના છેલ્લા chunk માં usage લઈ જાય છે. સ્ટ્રીમિંગ

જ્યારે બેલેન્સ પૂરું થાય

જેનું રિઝર્વેશન તમારા બેલેન્સમાં ન સમાય તેવી રિક્વેસ્ટનો જવાબ સ્ટેટસ 429, પ્રકાર rate_limit_error અને નીચેના મેસેજ સાથે અપાય છે. કંઈ ચાર્જ થતું નથી. બેલેન્સ શૂન્યથી ઉપર પણ રિક્વેસ્ટના આઉટપુટ બજેટથી નાનું હોય ત્યારે પણ એ જ જવાબ મોકલાય છે.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses પર error ઓબ્જેક્ટમાં code અને param પણ હોઈ શકે, બંને null.

તમે શું કરી શકો:

• 00:00 UTC એ આગલા પ્લાન એલાઉન્સની રાહ જુઓ.
• ક્રેડિટ ટોપ-અપ કરો. ક્રેડિટ પ્લાન એલાઉન્સ પછી વપરાય છે અને તેની મુદત પૂરી થતી નથી. ક્રેડિટ ટોપ-અપ કરો
• મોટા દૈનિક એલાઉન્સવાળા પ્લાન પર બદલો. પ્લાન બદલો
• થોડું બેલેન્સ બાકી હોય તો નાનું max_tokens મોકલો: ત્યારે રિઝર્વેશન નાનું હોય છે.

Shannon Coder કોલ એલાઉન્સ

/v1/chat/completions અને /v1/messages પર shannon-coder-1 કોલ્સમાં ગણાય છે, ટોકન્સમાં નહીં. દરેક પ્લાનમાં 4-કલાકની વિન્ડો દીઠ ચોક્કસ કોલ્સ શામેલ છે. એક રિક્વેસ્ટ એટલે એક કોલ.

• વિન્ડો 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC એ શરૂ થાય છે. વિન્ડોના અંતે બાકી રહેલા કોલ્સ આગળ લઈ જવાતા નથી.
• કોલ ત્યારે ગણાય છે જ્યારે રિક્વેસ્ટ સ્વીકારાય છે, મોડેલ જવાબ આપે તે પહેલાં. પછીથી નિષ્ફળ જતી રિક્વેસ્ટ પણ કોલ તરીકે ગણાય છે.
• આ કોલ્સ કોઈ ટોકન્સ અલગ રાખતા નથી અને તમારા બેલેન્સમાંથી કંઈ લેતા નથી. Keys & usage પરની રિક્વેસ્ટ યાદી તેમની ટોકન સંખ્યા અને યાદી કરેલી કિંમતે તેનું મૂલ્ય બતાવે છે.
• આ બે એન્ડપોઇન્ટ્સ પર shannon-coder-1 નું ડિફોલ્ટ max_tokens 65,536 છે.
• કોલ્સ બાકી ન હોય ત્યારે જવાબ સ્ટેટસ 429, પ્રકાર rate_limit_error, મેસેજ Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan હોય છે.
• /v1/responses પર, shannon-coder-1 પાસે કોઈ કોલ એલાઉન્સ નથી: અન્ય દરેક મોડેલની જેમ તેનો ચાર્જ તમારા બેલેન્સના ટોકન્સમાં 1M દીઠ $8.00 ના ભાવે લાગે છે.

Flood protection

એકાઉન્ટ પ્રતિ મિનિટ 120 રિક્વેસ્ટ મોકલી શકે છે. રિક્વેસ્ટ દર પરની તે એકમાત્ર મર્યાદા છે, અને દરેક પ્લાન પર સમાન છે. તે ફ્લડ અટકાવવા માટે છે, સામાન્ય ઉપયોગ ધીમો કરવા માટે નહીં.

• મિનિટ એ 60 સેકન્ડની નિશ્ચિત વિન્ડો છે જે તમારી પહેલી રિક્વેસ્ટથી ખૂલે છે. જ્યારે તે પૂરી થાય, ગણતરી ફરી શૂન્યથી શરૂ થાય છે.
• ગણતરી એકાઉન્ટ દીઠ છે, કી દીઠ નહીં અને IP સરનામા દીઠ નહીં. કી રોટેટ કરવાથી નવી વિન્ડો ખૂલતી નથી.
• વિન્ડોની અંદર 121મી રિક્વેસ્ટનો જવાબ સ્ટેટસ 429, પ્રકાર rate_limit_error અને મેસેજ Too many requests. Retry in <N>s. થી અપાય છે. N એ વિન્ડો પૂરી થવા સુધીની સેકન્ડ છે, 1 થી 60.
• Flood protection બેલેન્સ પહેલાં તપાસાય છે. તે જે રિક્વેસ્ટ નકારે તે કંઈ અલગ રાખતી નથી અને તેનો કોઈ ખર્ચ નથી.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

સમાંતર રિક્વેસ્ટ્સ

એકાઉન્ટ એક સાથે કેટલી રિક્વેસ્ટ ખુલ્લી રાખી શકે તેની કોઈ મર્યાદા નથી, અને સમાંતર રિક્વેસ્ટ મોકલવા માટે કોઈ એરર નથી. જે રિક્વેસ્ટ્સ તરત શરૂ થઈ શકતી નથી તે કતારમાં રાહ જુએ છે અને વારા પ્રમાણે જવાબ મળે છે.

• દરેક રિક્વેસ્ટ આવે ત્યારે પ્રતિ મિનિટ 120 તરફ ગણાય છે, અગાઉની રિક્વેસ્ટ્સ પૂરી થઈ હોય કે નહીં.
• દરેક રિક્વેસ્ટ પૂરી થાય ત્યાં સુધી પોતાનું રિઝર્વેશન પકડી રાખે છે. ડિફોલ્ટ આઉટપુટ બજેટ સાથેની વીસ ખુલ્લી રિક્વેસ્ટ્સ બેલેન્સના 20 × 4,096 = 81,920 ટોકન્સ પકડી રાખે છે. જો રિઝર્વેશન્સ ભેગા તમારા બેલેન્સ કરતાં મોટા હોય, તો આગલી રિક્વેસ્ટને Quota exceeded જવાબ મળે છે, ભલે પૂરા થયેલા કોલ્સનો ખર્ચ ઓછો થયો હોત. નાનું max_tokens ઓછું પકડે છે.
• streaming વિનાની રિક્વેસ્ટ જવાબ પૂરો થાય ત્યાં સુધી કંઈ મોકલતી નથી, તેથી તમારા ક્લાયન્ટને રાહ આવરી લેતો ટાઇમઆઉટ આપો. સ્ટ્રીમ રાહ જોતાં પણ તેનું કનેક્શન ખુલ્લું રાખે છે. સ્ટ્રીમિંગ

એક રિક્વેસ્ટની મર્યાદાઓ

એરર્સ

આ પેજના જવાબો. /v1/messages પર એ જ error ઓબ્જેક્ટ {"type": "error", "error": {…}} તરીકે વીંટાળાય છે.