সীমা ও ব্যালেন্স

এই পেজে ব্যাখ্যা করা হয়েছে আপনার ব্যালেন্স কী দিয়ে তৈরি, একটি রিকোয়েস্ট কী সংরক্ষণ করে ও তার খরচ কত, আপনি কতগুলো রিকোয়েস্ট পাঠাতে পারেন, এবং একটি রিকোয়েস্ট যে কয়েকটি সীমায় পড়তে পারে।

1M tokens ব্যালেন্সের মূল্য

$5.00

দৈনিক এলাউন্স নবায়ন

00:00 UTC

ফ্লাড প্রোটেকশন, প্রতি অ্যাকাউন্টে

120 রিকোয়েস্ট / মিনিট

রিকোয়েস্ট কীভাবে সরবরাহ হয়

• কোনো রেট টিয়ার নেই — একটি নিয়ম রিকোয়েস্ট কত দ্রুত আসতে পারবে তা সীমিত করে, এবং তা প্রতিটি অ্যাকাউন্ট ও প্রতিটি প্ল্যানে এক: প্রতি মিনিটে 120টি রিকোয়েস্ট। প্রতি মিনিটে tokens-এর কোনো সীমা নেই।
• আলাদা কোনো API কোটা নেই — API চ্যাটের একই ব্যালেন্স খরচ করে। প্ল্যান আজকের এলাউন্সের আকার ঠিক করে। রিকোয়েস্টের হার ঠিক করে না।
• যত দ্রুত খুশি — সমান্তরালে পাঠানো রিকোয়েস্ট গ্রহণ করা হয় এবং সারিতে অপেক্ষা করে। সমান্তরাল বলে সেগুলো প্রত্যাখ্যাত হয় না।

আপনার ব্যালেন্স

আপনার ব্যালেন্স tokens-এ গোনা হয়। 1,000,000 tokens ব্যালেন্সের মূল্য $5.00, এবং Models & pricing পেজের প্রতিটি দাম ওই মূল্যের বিপরীতে একটি হার।

যেকোনো মুহূর্তে ব্যালেন্স দুই অংশের যোগফল।

• আজকের প্ল্যান এলাউন্স — আপনার প্ল্যান নির্ধারিত tokens-এর একটি সংখ্যা। এটি প্রতিদিন 00:00 UTC-তে নতুন হয়। দিনের শেষে যা বাকি থাকে তা পরের দিনে যায় না।
• কেনা ক্রেডিট — প্যাক হিসেবে কেনা tokens। ক্রেডিটের মেয়াদ শেষ হয় না এবং Free সহ প্রতিটি প্ল্যানে কাজ করে।

• খরচের ক্রম — প্রতিটি রিকোয়েস্ট আগে আজকের প্ল্যান এলাউন্স খরচ করে। কেনা ক্রেডিট শুধু সেদিনের এলাউন্সের বাইরের অংশের জন্য ব্যবহার হয়।
• চ্যাট ও API একই ব্যালেন্স ব্যবহার করে — প্রতি অ্যাকাউন্টে একটি ব্যালেন্স। API key তার মালিক অ্যাকাউন্টের ব্যালেন্স থেকে খরচ করে, চ্যাটের সমান দামে।
• প্যাক — ক্রেডিট বিক্রি হয় 1,000,000 ($5.00), 2,000,000 ($10.00) ও 5,000,000 ($25.00) tokens-এর প্যাকে, অথবা 1,000,000 থেকে 100,000,000 tokens পর্যন্ত আপনার পছন্দের পরিমাণে, প্রতি 1,000,000-এ $5.00 হারে।

ক্রেডিট টপ-আপ প্ল্যান পরিবর্তন করুন

একটি রিকোয়েস্ট কী সংরক্ষণ করে এবং তার খরচ কত

• সংরক্ষণ — রিকোয়েস্ট এলে সে আপনার ব্যালেন্স থেকে নিজের আউটপুট বাজেট সংরক্ষণ করে: /v1/chat/completions ও /v1/messages-এ max_tokens, /v1/responses-এ max_output_tokens। /v1/chat/completions max_completion_tokens-ও পড়ে। ডিফল্ট 4,096 এবং সীমা 1 থেকে 65,536।
• গ্রহণ — সংরক্ষণ আপনার অবশিষ্ট ব্যালেন্সে ধরলেই কেবল রিকোয়েস্ট গ্রহণ করা হয়। ব্যালেন্স শূন্যের বেশি কিন্তু আউটপুট বাজেটের চেয়ে কম হলে Quota exceeded উত্তর আসে। বাকিটা ব্যবহার করতে ছোট max_tokens পাঠান।
• নিষ্পত্তি — উত্তর সম্পূর্ণ হলে সংরক্ষণের জায়গায় প্রকৃত চার্জ বসে। চার্জ সংরক্ষণের চেয়ে কম বা বেশি হতে পারে।
• ফেরত — এরর স্ট্যাটাসে শেষ হওয়া রিকোয়েস্ট তার সংরক্ষণ পুরোপুরি ফেরত দেয়।

প্রকৃত চার্জ মডেল পরিবারের ওপর নির্ভর করে।

USD পরিমাণটি আপনার ব্যালেন্স থেকে tokens-এ নেওয়া হয়, প্রতি 1,000,000-এ $5.00 হারে, পূর্ণ token-এ গোল করে।

POST /v1/tokenize বা POST /v1/messages/count_tokens দিয়ে tokens গোনা বিনামূল্যে এবং কিছু সংরক্ষণ করে না। Token গণনা

ব্যালেন্স ও ব্যবহার কোথায় দেখবেন

Keys & usage পেজ দেখায় আপনি এখন কত খরচ করতে পারেন, আজকের প্ল্যান এলাউন্স, আপনার কেনা ক্রেডিট এবং শেষ 30 দিনের API খরচ। তার নিচে আপনার key-র করা প্রতিটি রিকোয়েস্ট তালিকাভুক্ত থাকে: সময়, এন্ডপয়েন্ট, মডেল, ক্যাশড ইনপুট, বিল হওয়া tokens ও খরচ। Keys & usage

প্রতিটি উত্তরে ওই কলের token সংখ্যাসহ একটি usage অবজেক্টও থাকে।

• usage-এ মডেলের token সংখ্যা থাকে। আপনার ব্যালেন্স থেকে যা কাটা হলো তা উত্তরে নেই: সেটি Keys & usage-এর রিকোয়েস্ট তালিকার Billed tokens কলামে আছে।
• হোস্টেড ওপেন-ওয়েট মডেলসহ /v1/messages-এ input_tokens ইনপুটের আনক্যাশড অংশ, cache_read_input_tokens ক্যাশড অংশ এবং cache_creation_input_tokens সবসময় 0।
• /v1/chat/completions-এ স্ট্রিম [DONE]-এর আগে শেষ চাঙ্কে usage বহন করে। স্ট্রিমিং

ব্যালেন্স ফুরিয়ে গেলে

যে রিকোয়েস্টের সংরক্ষণ আপনার ব্যালেন্সে ধরে না তার উত্তর আসে স্ট্যাটাস 429, type rate_limit_error এবং নিচের বার্তা দিয়ে। কিছু চার্জ হয় না। ব্যালেন্স শূন্যের বেশি কিন্তু রিকোয়েস্টের আউটপুট বাজেটের চেয়ে কম হলেও একই উত্তর আসে।

{
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Quota exceeded. Upgrade your plan at shannon-ai.com/plan"
  }
}

/v1/responses-এ error অবজেক্টে code ও param-ও থাকতে পারে, দুটোই null।

আপনি যা করতে পারেন:

• 00:00 UTC-তে পরবর্তী প্ল্যান এলাউন্সের জন্য অপেক্ষা করুন।
• ক্রেডিট টপ-আপ করুন। ক্রেডিট প্ল্যান এলাউন্সের পরে খরচ হয় এবং এর মেয়াদ শেষ হয় না। ক্রেডিট টপ-আপ
• বড় দৈনিক এলাউন্সের প্ল্যানে যান। প্ল্যান পরিবর্তন করুন
• কিছু ব্যালেন্স বাকি থাকলে ছোট max_tokens পাঠান: তখন সংরক্ষণ ছোট হয়।

Shannon Coder কল এলাউন্স

/v1/chat/completions ও /v1/messages-এ shannon-coder-1 tokens-এ নয়, কলে গোনা হয়। প্রতিটি প্ল্যানে প্রতি 4 ঘণ্টার উইন্ডোতে কিছু কল অন্তর্ভুক্ত। একটি রিকোয়েস্ট একটি কল।

• উইন্ডো শুরু হয় 00:00, 04:00, 08:00, 12:00, 16:00, 20:00 UTC-তে। উইন্ডোর শেষে যে কল বাকি থাকে তা পরের উইন্ডোতে যায় না।
• রিকোয়েস্ট গ্রহণের সময়, মডেল উত্তর দেওয়ার আগে, একটি কল গোনা হয়। পরে ব্যর্থ হওয়া রিকোয়েস্টও একটি কল হিসেবে গণ্য হয়।
• এই কলগুলো কোনো tokens সংরক্ষণ করে না এবং আপনার ব্যালেন্স থেকে কিছু নেয় না। Keys & usage-এর রিকোয়েস্ট তালিকায় তাদের token সংখ্যা এবং তালিকাভুক্ত দামে তার মূল্য দেখা যায়।
• এই দুটি এন্ডপয়েন্টে shannon-coder-1-এর ডিফল্ট max_tokens হলো 65,536।
• কল শেষ হলে উত্তর হয় স্ট্যাটাস 429, type rate_limit_error, বার্তা Shannon Coder call quota reached. Upgrade your plan at shannon-ai.com/plan।
• /v1/responses-এ shannon-coder-1-এর কোনো কল এলাউন্স নেই: অন্য প্রতিটি মডেলের মতো এটি আপনার ব্যালেন্স থেকে tokens-এ, প্রতি 1M-এ $8.00 হারে চার্জ হয়।

ফ্লাড প্রোটেকশন

একটি অ্যাকাউন্ট প্রতি মিনিটে 120টি রিকোয়েস্ট পাঠাতে পারে। রিকোয়েস্টের হারের ওপর এটিই একমাত্র সীমা, এবং প্রতিটি প্ল্যানে তা এক। এটি ফ্লাড ঠেকাতে আছে, স্বাভাবিক ব্যবহার ধীর করতে নয়।

• মিনিটটি 60 সেকেন্ডের একটি স্থির উইন্ডো, যা আপনার প্রথম রিকোয়েস্টে খোলে। শেষ হলে গণনা আবার শূন্য থেকে শুরু হয়।
• গণনা অ্যাকাউন্ট ধরে, key বা IP ঠিকানা ধরে নয়। key বদলালে নতুন উইন্ডো খোলে না।
• উইন্ডোর ভেতরে 121তম রিকোয়েস্টের উত্তর আসে স্ট্যাটাস 429, type rate_limit_error এবং বার্তা Too many requests. Retry in <N>s. দিয়ে। N হলো উইন্ডো শেষ হতে বাকি সেকেন্ড, 1 থেকে 60।
• ফ্লাড প্রোটেকশন ব্যালেন্সের আগে যাচাই হয়। সে যে রিকোয়েস্ট প্রত্যাখ্যান করে তা কিছু সংরক্ষণ করে না এবং কোনো খরচ হয় না।

{
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "Too many requests. Retry in 37s."
  }
}

সমান্তরাল রিকোয়েস্ট

একটি অ্যাকাউন্টের একসাথে কতগুলো রিকোয়েস্ট খোলা থাকতে পারে তার কোনো সীমা নেই, এবং সমান্তরালে রিকোয়েস্ট পাঠানোর জন্য কোনো এরর নেই। যেসব রিকোয়েস্ট সাথে সাথে শুরু হতে পারে না সেগুলো সারিতে অপেক্ষা করে এবং পালাক্রমে উত্তর পায়।

• প্রতিটি রিকোয়েস্ট এসে পৌঁছানোর সময়ই প্রতি মিনিটে 120-র গণনায় ধরা হয়, আগের রিকোয়েস্ট শেষ হোক বা না হোক।
• প্রতিটি রিকোয়েস্ট শেষ না হওয়া পর্যন্ত নিজের সংরক্ষণ ধরে রাখে। ডিফল্ট আউটপুট বাজেটসহ বিশটি খোলা রিকোয়েস্ট 20 × 4,096 = 81,920 tokens ব্যালেন্স ধরে রাখে। সংরক্ষণগুলো মিলে ব্যালেন্সের চেয়ে বড় হলে পরের রিকোয়েস্ট Quota exceeded উত্তর পায়, যদিও শেষ হওয়া কলগুলোর খরচ কম হতো। ছোট max_tokens কম ধরে রাখে।
• স্ট্রিম ছাড়া রিকোয়েস্ট উত্তর সম্পূর্ণ না হওয়া পর্যন্ত কিছু পাঠায় না, তাই আপনার ক্লায়েন্টে এমন টাইমআউট দিন যা এই অপেক্ষা পুষিয়ে নেয়। স্ট্রিম অপেক্ষার সময় সংযোগ খোলা রাখে। স্ট্রিমিং

একটি রিকোয়েস্টের সীমা

এরর

এই পেজের উত্তরগুলো। /v1/messages-এ একই error অবজেক্ট {"type": "error", "error": {…}} হিসেবে মোড়ানো থাকে।