حدود اور بیلنس

یہ صفحہ بتاتا ہے کہ آپ کا بیلنس کس چیز سے بنتا ہے، ایک درخواست کیا محفوظ کرتی ہے اور اس پر کتنا خرچ آتا ہے، آپ کتنی درخواستیں بھیج سکتے ہیں، اور وہ چند حدود جن سے ایک درخواست کا واسطہ پڑ سکتا ہے۔

بیلنس کے 1M ٹوکنز کی مالیت

$5.00

روزانہ الاؤنس نیا ہوتا ہے

00:00 UTC

flood protection، فی اکاؤنٹ

120 درخواستیں / منٹ

درخواستوں کو سروس کیسے دی جاتی ہے

• کوئی ریٹ درجے نہیں — ایک اصول طے کرتا ہے کہ درخواستیں کتنی تیزی سے آ سکتی ہیں، اور یہ ہر اکاؤنٹ اور ہر پلان کے لیے یکساں ہے: 120 درخواستیں فی منٹ۔ ٹوکنز فی منٹ پر کوئی حد نہیں۔
• کوئی الگ API کوٹہ نہیں — API وہی بیلنس خرچ کرتی ہے جو چیٹ کرتی ہے۔ پلان آج کے الاؤنس کا حجم طے کرتا ہے۔ یہ درخواستوں کی رفتار طے نہیں کرتا۔
• جتنی تیزی سے چاہیں — متوازی بھیجی گئی درخواستیں قبول کی جاتی ہیں اور قطار میں انتظار کرتی ہیں۔ انہیں متوازی ہونے کی وجہ سے مسترد نہیں کیا جاتا۔

آپ کا بیلنس

آپ کا بیلنس ٹوکنز میں گنا جاتا ہے۔ بیلنس کے 1,000,000 ٹوکنز کی مالیت $5.00 ہے، اور ماڈلز اور قیمتیں صفحے کی ہر قیمت اسی مالیت کے مقابلے میں ایک نرخ ہے۔

کسی بھی لمحے بیلنس دو حصوں کا مجموعہ ہوتا ہے۔

• آج کا پلان الاؤنس — ٹوکنز کی وہ تعداد جو آپ کا پلان طے کرتا ہے۔ یہ ہر روز 00:00 UTC پر نئی ہو جاتی ہے۔ دن کے آخر میں جو بچ جائے وہ آگے منتقل نہیں ہوتا۔
• خریدا ہوا کریڈٹ — وہ ٹوکنز جو آپ نے پیک کے طور پر خریدے۔ کریڈٹ ختم نہیں ہوتا اور ہر پلان پر کام کرتا ہے، Free سمیت۔

• خرچ کی ترتیب — ہر درخواست پہلے آج کا پلان الاؤنس خرچ کرتی ہے۔ خریدا ہوا کریڈٹ صرف اس کے لیے استعمال ہوتا ہے جو اس دن الاؤنس سے زیادہ ہو۔
• چیٹ اور API اسے مشترکہ استعمال کرتے ہیں — ہر اکاؤنٹ کا ایک بیلنس ہے۔ API کلید اپنے مالک اکاؤنٹ کے بیلنس سے خرچ کرتی ہے، چیٹ والی ہی قیمتوں پر۔
• پیکس — کریڈٹ 1,000,000 ($5.00)، 2,000,000 ($10.00) اور 5,000,000 ($25.00) ٹوکنز کے پیکس میں فروخت ہوتا ہے، یا آپ کی پسند کی مقدار میں 1,000,000 سے 100,000,000 ٹوکنز تک، $5.00 فی 1,000,000 پر۔

کریڈٹ ٹاپ اپ کریں پلان تبدیل کریں

درخواست کیا محفوظ کرتی ہے اور اس پر کتنا خرچ آتا ہے

• محفوظ کرنا — جب درخواست آتی ہے تو وہ آپ کے بیلنس میں سے اپنا آؤٹ پٹ بجٹ محفوظ کرتی ہے: /v1/chat/completions اور /v1/messages پر max_tokens، /v1/responses پر max_output_tokens۔ /v1/chat/completions max_completion_tokens بھی پڑھتا ہے۔ ڈیفالٹ 4,096 ہے اور دائرہ 1 سے 65,536 ہے۔
• قبولیت — درخواست صرف تب قبول ہوتی ہے جب محفوظ کی گئی مقدار آپ کے بیلنس میں باقی مقدار میں سما جائے۔ جو بیلنس صفر سے اوپر ہو مگر آؤٹ پٹ بجٹ سے کم ہو اسے Quota exceeded کا جواب ملتا ہے۔ باقی بیلنس استعمال کرنے کے لیے چھوٹا max_tokens بھیجیں۔
• تصفیہ — جب جواب مکمل ہو جائے تو محفوظ کی گئی مقدار اصل چارج سے بدل دی جاتی ہے۔ چارج محفوظ کی گئی مقدار سے کم بھی ہو سکتا ہے اور زیادہ بھی۔
• واپسی — جو درخواست ایرر اسٹیٹس پر ختم ہو وہ اپنی محفوظ کی گئی مقدار پوری واپس کر دیتی ہے۔

اصل چارج ماڈل فیملی پر منحصر ہے۔

USD میں رقم آپ کے بیلنس سے ٹوکنز میں $5.00 فی 1,000,000 پر لی جاتی ہے، اور پورے ٹوکن تک گول کی جاتی ہے۔

POST /v1/tokenize یا POST /v1/messages/count_tokens سے ٹوکنز کی گنتی مفت ہے اور کچھ محفوظ نہیں کرتی۔ ٹوکن گنتی

بیلنس اور استعمال کہاں دیکھیں

Keys & usage صفحہ دکھاتا ہے کہ آپ ابھی کیا خرچ کر سکتے ہیں، آج کا پلان الاؤنس، آپ کا خریدا ہوا کریڈٹ اور پچھلے 30 دنوں کا API خرچ۔ اس کے نیچے وہ ہر درخواست درج کرتا ہے جو آپ کی کلید نے کی: وقت، endpoint، ماڈل، کیشڈ ان پٹ، بل شدہ ٹوکنز اور لاگت۔ Keys & usage

ہر جواب میں usage آبجیکٹ بھی ہوتا ہے جس میں اس کال کے ٹوکنز کی گنتی ہوتی ہے۔

• usage ماڈل کے ٹوکنز کی گنتی رکھتا ہے۔ آپ کے بیلنس سے لی جانے والی رقم جواب میں نہیں ہوتی: وہ Keys & usage پر درخواستوں کی فہرست کا Billed tokens کالم ہے۔
• ہوسٹڈ اوپن ویٹ ماڈل کے ساتھ /v1/messages پر input_tokens ان پٹ کا غیر کیشڈ حصہ ہے، cache_read_input_tokens کیشڈ حصہ ہے اور cache_creation_input_tokens ہمیشہ 0 ہوتا ہے۔
• /v1/chat/completions پر سٹریم [DONE] سے پہلے اپنے آخری chunk میں usage رکھتی ہے۔ اسٹریمنگ

جب بیلنس ختم ہو جائے

جس درخواست کی محفوظ کی جانے والی مقدار آپ کے بیلنس میں نہ سمائے اس کا جواب اسٹیٹس 429، type rate_limit_error اور نیچے دیے گئے پیغام سے دیا جاتا ہے۔ کوئی چارج نہیں لگتا۔ یہی جواب تب بھی بھیجا جاتا ہے جب بیلنس صفر سے اوپر ہو مگر درخواست کے آؤٹ پٹ بجٹ سے کم ہو۔

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses پر error آبجیکٹ میں code اور param بھی ہو سکتے ہیں، دونوں null۔

آپ یہ کر سکتے ہیں:

• 00:00 UTC پر اگلے پلان الاؤنس کا انتظار کریں۔
• کریڈٹ ٹاپ اپ کریں۔ کریڈٹ پلان الاؤنس کے بعد خرچ ہوتا ہے اور ختم نہیں ہوتا۔ کریڈٹ ٹاپ اپ کریں
• بڑے روزانہ الاؤنس والے پلان پر جائیں۔ پلان تبدیل کریں
• اگر کچھ بیلنس باقی ہے تو چھوٹا max_tokens بھیجیں: اس سے محفوظ کی جانے والی مقدار کم ہو جاتی ہے۔

Shannon Coder کال الاؤنس

/v1/chat/completions اور /v1/messages پر shannon-coder-1 کالز میں گنا جاتا ہے، ٹوکنز میں نہیں۔ ہر پلان میں فی 4 گھنٹے ونڈو کالز کی ایک تعداد شامل ہے۔ ایک درخواست ایک کال ہے۔

• ونڈوز 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC پر شروع ہوتی ہیں۔ ونڈو کے آخر میں جو کالز باقی ہوں وہ آگے منتقل نہیں ہوتیں۔
• کال درخواست قبول ہوتے ہی، ماڈل کے جواب دینے سے پہلے، گنی جاتی ہے۔ جو درخواست بعد میں ناکام ہو وہ بھی کال میں شمار ہوتی ہے۔
• یہ کالز کوئی ٹوکنز محفوظ نہیں کرتیں اور آپ کے بیلنس سے کچھ نہیں لیتیں۔ Keys & usage پر درخواستوں کی فہرست ان کے ٹوکنز کی تعداد اور درج قیمت پر اس کی مالیت دکھاتی ہے۔
• ان دونوں endpoints پر shannon-coder-1 کا ڈیفالٹ max_tokens 65,536 ہے۔
• کالز باقی نہ ہوں تو جواب اسٹیٹس 429، type rate_limit_error اور پیغام Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan ہوتا ہے۔
• /v1/responses پر shannon-coder-1 کا کوئی کال الاؤنس نہیں: اس کا چارج آپ کے بیلنس سے ٹوکنز میں $8.00 فی 1M پر لگتا ہے، ہر دوسرے ماڈل کی طرح۔

Flood protection

ایک اکاؤنٹ فی منٹ 120 درخواستیں بھیج سکتا ہے۔ درخواستوں کی رفتار پر یہی واحد حد ہے، اور یہ ہر پلان پر یکساں ہے۔ یہ سیلاب روکنے کے لیے ہے، عام استعمال سست کرنے کے لیے نہیں۔

• منٹ 60 سیکنڈ کی مقررہ ونڈو ہے جو آپ کی پہلی درخواست سے کھلتی ہے۔ ختم ہونے پر گنتی دوبارہ صفر سے شروع ہوتی ہے۔
• گنتی فی اکاؤنٹ ہے، فی کلید یا فی IP پتہ نہیں۔ کلید rotate کرنے سے نئی ونڈو نہیں کھلتی۔
• ونڈو کے اندر 121ویں درخواست کا جواب اسٹیٹس 429، type rate_limit_error اور پیغام Too many requests. Retry in <N>s. سے دیا جاتا ہے۔ N ونڈو کے ختم ہونے تک کے سیکنڈ ہیں، 1 سے 60 تک۔
• Flood protection بیلنس سے پہلے جانچا جاتا ہے۔ جو درخواست یہ مسترد کرے وہ کچھ محفوظ نہیں کرتی اور اس پر کچھ خرچ نہیں آتا۔

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

متوازی درخواستیں

ایک اکاؤنٹ بیک وقت کتنی درخواستیں کھلی رکھ سکتا ہے اس کی کوئی حد نہیں، اور متوازی درخواستیں بھیجنے پر کوئی ایرر نہیں۔ جو درخواستیں فوراً شروع نہ ہو سکیں وہ قطار میں انتظار کرتی ہیں اور باری باری جواب پاتی ہیں۔

• ہر درخواست آتے ہی فی منٹ 120 میں شمار ہوتی ہے، چاہے پچھلی درخواستیں ختم ہوئی ہوں یا نہیں۔
• ہر درخواست ختم ہونے تک اپنی محفوظ کی گئی مقدار روکے رکھتی ہے۔ ڈیفالٹ آؤٹ پٹ بجٹ کے ساتھ بیس کھلی درخواستیں 20 × 4,096 = 81,920 ٹوکنز بیلنس روکتی ہیں۔ اگر مجموعی محفوظ مقداریں آپ کے بیلنس سے بڑی ہوں تو اگلی درخواست کو Quota exceeded کا جواب ملتا ہے، چاہے مکمل شدہ کالز کی لاگت کم ہوتی۔ چھوٹا max_tokens کم روکتا ہے۔
• سٹریمنگ کے بغیر درخواست جواب مکمل ہونے تک کچھ نہیں بھیجتی، اس لیے اپنے کلائنٹ کو ایسا ٹائم آؤٹ دیں جو اس انتظار کو سمیٹ سکے۔ سٹریم انتظار کے دوران اپنا کنکشن کھلا رکھتی ہے۔ اسٹریمنگ

ایک درخواست کی حدود

ایررز

اس صفحے کے جوابات۔ /v1/messages پر وہی error آبجیکٹ {"type": "error", "error": {…}} کے اندر لپٹا ہوتا ہے۔