Limitlər və balans

Bu səhifə balansınızın nədən ibarət olduğunu, bir sorğunun nəyi rezerv etdiyini və nəyə başa gəldiyini, neçə sorğu göndərə biləcəyinizi və tək sorğunun rastlaşa biləcəyi az sayda limiti izah edir.

1M token balansın dəyəri

$5.00

gündəlik limit yenilənir

00:00 UTC

flood protection, hesab üzrə

120 sorğu / dəq

Sorğular necə xidmət edilir

• Tarif pillələri yoxdur — Sorğuların nə qədər sürətlə gələ biləcəyini bir qayda məhdudlaşdırır və bu hər hesab və hər plan üçün eynidir: dəqiqədə 120 sorğu. Dəqiqədə token limiti yoxdur.
• Ayrıca API kvotası yoxdur — API çatla eyni balansı xərcləyir. Plan bugünkü limitin ölçüsünü təyin edir. Sorğu sürətini təyin etmir.
• İstədiyiniz qədər sürətlə — Paralel göndərilən sorğular qəbul edilir və növbədə gözləyir. Paralel olduqları üçün rədd edilmirlər.

Balansınız

Balansınız tokenlərlə hesablanır. 1,000,000 token balans $5.00 dəyərindədir və Models & pricing səhifəsindəki hər qiymət bu dəyərə nisbətdə bir tarifdir.

İstənilən anda balans iki hissənin cəmidir.

• Bugünkü plan limiti — Planınızın təyin etdiyi token sayı. Hər gün 00:00 UTC-də yenilənir. Günün sonunda qalan növbəti günə keçmir.
• Alınmış kredit — Paket kimi aldığınız tokenlər. Kreditin müddəti bitmir və Free daxil olmaqla hər planda işləyir.

• Xərcləmə sırası — Hər sorğu əvvəlcə bugünkü plan limitini xərcləyir. Alınmış kredit yalnız həmin gün limitdən artıq olan hissə üçün istifadə olunur.
• Çat və API onu bölüşür — Hər hesab üçün bir balans var. API açarı onun sahibi olan hesabın balansından, çatla eyni qiymətlərlə xərcləyir.
• Paketlər — Kredit 1,000,000 ($5.00), 2,000,000 ($10.00) və 5,000,000 ($25.00) tokenlik paketlərlə və ya 1,000,000 ilə 100,000,000 token arasında seçdiyiniz miqdarla, 1,000,000 üçün $5.00 qiymətlə satılır.

Krediti artır Planı dəyiş

Sorğu nəyi rezerv edir və nəyə başa gəlir

• Rezerv — Sorğu gəldikdə output büdcəsini balansınızdan rezerv edir: /v1/chat/completions və /v1/messages-də max_tokens, /v1/responses-da max_output_tokens. /v1/chat/completions həmçinin max_completion_tokens-i oxuyur. Standart dəyər 4,096, aralıq 1-dən 65,536-ya qədərdir.
• Qəbul — Sorğu yalnız rezerv balansınızın qalan hissəsinə sığarsa qəbul edilir. Sıfırdan yuxarı, lakin output büdcəsindən kiçik balans Quota exceeded cavabını alır. Qalanından istifadə etmək üçün daha kiçik max_tokens göndərin.
• Hesablaşma — Cavab tamamlandıqda rezerv real ödənişlə əvəz olunur. Ödəniş rezervdən az və ya çox ola bilər.
• Geri qaytarma — Xəta statusu ilə bitən sorğu rezervini tam geri qaytarır.

Real ödəniş model ailəsindən asılıdır.

USD məbləği balansınızdan tokenlərlə, 1,000,000 üçün $5.00 qiymətlə götürülür və tam tokenə yuvarlaqlaşdırılır.

POST /v1/tokenize və ya POST /v1/messages/count_tokens ilə tokenlərin sayılması pulsuzdur və heç nə rezerv etmir. Tokenlərin sayılması

Balans və istifadəni harada görmək olar

Keys & usage səhifəsi hazırda xərcləyə biləcəyinizi, bugünkü plan limitini, alınmış kreditinizi və son 30 günün API xərcini göstərir. Aşağıda açarınızın etdiyi hər sorğu siyahıya alınır: vaxt, endpoint, model, keşlənmiş giriş, hesablanmış tokenlər və xərc. Keys & usage

Hər cavab həmçinin həmin çağırışın token saylarını saxlayan usage obyekti daşıyır.

• usage modelin token saylarını saxlayır. Balansınızdan götürülən məbləğ cavabda yoxdur: o, Keys & usage səhifəsindəki sorğu siyahısının Billed tokens sütunudur.
• Host edilən açıq çəkili modellə /v1/messages-də input_tokens girişin keşlənməmiş hissəsi, cache_read_input_tokens keşlənmiş hissə, cache_creation_input_tokens isə həmişə 0-dır.
• /v1/chat/completions-da axın usage-i [DONE]-dan əvvəlki son chunk-da daşıyır. Axın

Balans bitdikdə

Rezervi balansınıza sığmayan sorğu 429 statusu, rate_limit_error tipi və aşağıdakı mesajla cavablandırılır. Heç nə hesablanmır. Balans sıfırdan yuxarı, lakin sorğunun output büdcəsindən kiçik olduqda da eyni cavab göndərilir.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses-da error obyektində həmçinin hər ikisi null olan code və param ola bilər.

Nə edə bilərsiniz:

• 00:00 UTC-də növbəti plan limitini gözləyin.
• Krediti artırın. Kredit plan limitindən sonra xərclənir və müddəti bitmir. Krediti artır
• Daha böyük gündəlik limiti olan plana keçin. Planı dəyiş
• Balansdan nəsə qalıbsa, daha kiçik max_tokens göndərin: onda rezerv də kiçik olur.

Shannon Coder çağırış limiti

/v1/chat/completions və /v1/messages-də shannon-coder-1 tokenlərlə deyil, çağırışlarla sayılır. Hər plana 4 saatlıq pəncərə üçün müəyyən sayda çağırış daxildir. Bir sorğu bir çağırışdır.

• Pəncərələr 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC-də başlayır. Pəncərənin sonunda qalan çağırışlar növbəti pəncərəyə keçmir.
• Çağırış sorğu qəbul edildikdə, model cavab verməzdən əvvəl sayılır. Sonradan uğursuz olan sorğu da çağırış sayılır.
• Bu çağırışlar token rezerv etmir və balansınızdan heç nə çıxmır. Keys & usage səhifəsindəki sorğu siyahısı onların token sayını və elan olunmuş qiymətlə dəyərini göstərir.
• shannon-coder-1-in bu iki endpoint-də standart max_tokens dəyəri 65,536-dir.
• Çağırış qalmadıqda cavab 429 statusu, rate_limit_error tipi və Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan mesajı ilə olur.
• /v1/responses-da shannon-coder-1 üçün çağırış limiti yoxdur: o, hər digər model kimi balansınızdan 1M üçün $8.00 qiymətlə tokenlərlə hesablanır.

Flood protection

Hesab dəqiqədə 120 sorğu göndərə bilər. Bu, sorğu sürətinə yeganə limitdir və hər planda eynidir. O, daşqınların qarşısını almaq üçündür, normal istifadəni yavaşlatmaq üçün deyil.

• Dəqiqə ilk sorğunuzla açılan 60 saniyəlik sabit pəncərədir. Pəncərə bitdikdə say yenidən sıfırdan başlayır.
• Say hesab üzrədir, açar və ya IP ünvanı üzrə deyil. Açarı dəyişmək yeni pəncərə açmır.
• Pəncərə daxilində 121-ci sorğu 429 statusu, rate_limit_error tipi və Too many requests. Retry in <N>s. mesajı ilə cavablandırılır. N pəncərənin bitməsinə qədər 1-dən 60-a qədər saniyə sayıdır.
• Flood protection balansdan əvvəl yoxlanılır. Onun rədd etdiyi sorğu heç nə rezerv etmir və heç nəyə başa gəlmir.

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

Paralel sorğular

Hesabın eyni vaxtda neçə açıq sorğusu ola biləcəyinə limit yoxdur və sorğuları paralel göndərməyə görə xəta yoxdur. Dərhal başlaya bilməyən sorğular növbədə gözləyir və növbə ilə cavablandırılır.

• Hər sorğu, əvvəlki sorğular bitsin-bitməsin, gəldiyi anda dəqiqədə 120 limitinə sayılır.
• Hər sorğu bitənə qədər öz rezervini saxlayır. Standart output büdcəsi ilə iyirmi açıq sorğu 20 × 4,096 = 81,920 token balans saxlayır. Rezervlərin cəmi balansınızdan böyükdürsə, bitmiş çağırışlar daha az tutsa belə, növbəti sorğu Quota exceeded cavabını alır. Daha kiçik max_tokens daha az saxlayır.
• Axınsız sorğu cavabı tamamlanana qədər heç nə göndərmir, ona görə klientinizə gözləməni əhatə edən timeout verin. Axın gözləyərkən bağlantını açıq saxlayır. Axın

Tək sorğunun limitləri

Xətalar

Bu səhifənin cavabları. /v1/messages-də eyni error obyekti {"type": "error", "error": {…}} kimi bükülür.