ಟೋಕನ್ ಎಣಿಕೆ
ಪಠ್ಯದ ಅಥವಾ ಇಡೀ ವಿನಂತಿಯ ಟೋಕನ್ಗಳನ್ನು ಕಳುಹಿಸುವ ಮೊದಲು ಎಣಿಸಿ.
POST https://api.shannon-ai.com/v1/tokenize
POST https://api.shannon-ai.com/v1/messages/count_tokens
ಎರಡೂ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳು ನೀವು ಹೆಸರಿಸುವ ಮಾಡೆಲ್ನ tokenizer ನಿಂದ ಎಣಿಸುತ್ತವೆ, ಮತ್ತು ಯಾವುದೇ ಮಾಡೆಲ್ ಚಲಿಸುವುದಿಲ್ಲ. ಅವು ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ಗಳನ್ನು ಒಳಗೊಳ್ಳುತ್ತವೆ. /v1/tokenize ಸರಳ ಪಠ್ಯ ಅಥವಾ Chat Completions ಸಂಭಾಷಣೆಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. /v1/messages/count_tokens Anthropic Messages ಫಾರ್ಮ್ಯಾಟ್ನ ವಿನಂತಿಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ, ಅದು Anthropic SDK ಮತ್ತು Claude Code ಮಾಡುವ ಕರೆ.
ಎಣಿಕೆ ಉಚಿತ. ಕರೆಗೆ ನಿಮ್ಮ API ಕೀ ಬೇಕು, ನಿಮ್ಮ ಬ್ಯಾಲೆನ್ಸ್ನಿಂದ ಏನನ್ನೂ ತೆಗೆದುಕೊಳ್ಳುವುದಿಲ್ಲ ಮತ್ತು ನಿಮ್ಮ ಬಳಕೆ ಲಾಗ್ನಲ್ಲಿ ಕಾಣಿಸುವುದಿಲ್ಲ.
ಪಠ್ಯವನ್ನು ಎಣಿಸಿ
model ಮತ್ತು text ಕಳುಹಿಸಿ. ಪಠ್ಯವನ್ನು ಇದ್ದಂತೆಯೇ, ಅದರ ಸುತ್ತ ಯಾವುದೇ ಚಾಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಇಲ್ಲದೆ ಎಣಿಸಲಾಗುತ್ತದೆ.
import requests
response = requests.post(
"https://api.shannon-ai.com/v1/tokenize",
headers={"Authorization": "Bearer YOUR_API_KEY"},
json={
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"text": "Hello, world",
},
)
print(response.json()["tokens"]) const response = await fetch("https://api.shannon-ai.com/v1/tokenize", {
method: "POST",
headers: {
Authorization: "Bearer YOUR_API_KEY",
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
text: "Hello, world",
}),
});
const { tokens } = await response.json();
console.log(tokens); curl https://api.shannon-ai.com/v1/tokenize \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"text": "Hello, world"
}' {
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"tokens": 3
} ಈ ಪುಟದ ಉತ್ತರಗಳಲ್ಲಿನ ಸಂಖ್ಯೆಗಳು ಉದಾಹರಣೆಗಳು. ಅದೇ ಪಠ್ಯ ಬೇರೆ ಮಾಡೆಲ್ನಲ್ಲಿ ಬೇರೆ ಎಣಿಕೆ ನೀಡುತ್ತದೆ.
ಚಾಟ್ ವಿನಂತಿಯನ್ನು ಎಣಿಸಿ
model ಮತ್ತು messages ಅನ್ನು, ವಿನಂತಿಗೆ ಟೂಲ್ಗಳಿದ್ದರೆ tools ಜೊತೆ, /v1/chat/completions ಗೆ ಕಳುಹಿಸುವಂತೆಯೇ ಕಳುಹಿಸಿ. ಉತ್ತರ ಇಡೀ ಇನ್ಪುಟ್ನ ಗಾತ್ರ.
import requests
request = {
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "What is the weather in Paris?"},
],
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}
],
}
response = requests.post(
"https://api.shannon-ai.com/v1/tokenize",
headers={"Authorization": "Bearer YOUR_API_KEY"},
json=request,
)
print(response.json()["tokens"]) const request = {
model: "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
messages: [
{ role: "system", content: "You are a concise assistant." },
{ role: "user", content: "What is the weather in Paris?" },
],
tools: [
{
type: "function",
function: {
name: "get_weather",
description: "Current weather for a city",
parameters: {
type: "object",
properties: { city: { type: "string" } },
required: ["city"],
},
},
},
],
};
const response = await fetch("https://api.shannon-ai.com/v1/tokenize", {
method: "POST",
headers: {
Authorization: "Bearer YOUR_API_KEY",
"Content-Type": "application/json",
},
body: JSON.stringify(request),
});
const { tokens } = await response.json();
console.log(tokens); curl https://api.shannon-ai.com/v1/tokenize \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "What is the weather in Paris?"}
],
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}
]
}' {
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"tokens": 164
} /v1/tokenize ನ ಫೀಲ್ಡ್ಗಳು
| ಫೀಲ್ಡ್ | ವಿಧ | ವಿವರಣೆ |
|---|---|---|
model | string | ಕಡ್ಡಾಯ. ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ id. ದೊಡ್ಡಕ್ಷರ ಮತ್ತು ಸಣ್ಣಕ್ಷರವನ್ನು ಒಂದೇ ರೀತಿ ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ. |
text | string | ಚಾಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಇಲ್ಲದೆ ಇದ್ದಂತೆಯೇ ಎಣಿಸಬೇಕಾದ ಪಠ್ಯ. 4,000,000 ಬೈಟ್ಗಳವರೆಗೆ. text ಅಥವಾ messages ಕಳುಹಿಸಿ; ಎರಡೂ ಇದ್ದರೆ text ಅನ್ನು ಎಣಿಸಲಾಗುತ್ತದೆ. |
messages | array | Chat Completions ಫಾರ್ಮ್ಯಾಟ್ನಲ್ಲಿ ಚಾಟ್ ಸಂದೇಶಗಳು. ಅವನ್ನು ವಿನಂತಿಯ ಪೂರ್ಣ ಇನ್ಪುಟ್ ಆಗಿ ಎಣಿಸಲಾಗುತ್ತದೆ: ಮಾಡೆಲ್ನ ಚಾಟ್ ಟೆಂಪ್ಲೇಟ್ ಸುತ್ತ ಇಡುವ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ನೊಂದಿಗೆ ಪ್ರತಿ ಸಂದೇಶ. |
tools | array | ಎಣಿಕೆಯಲ್ಲಿ ಸೇರಿಸಬೇಕಾದ ಟೂಲ್ ವ್ಯಾಖ್ಯಾನಗಳು. messages ಜೊತೆಗೆ ಬಳಸಲಾಗುತ್ತದೆ. |
ಉತ್ತರ ಈ ಫೀಲ್ಡ್ಗಳಿರುವ JSON ಆಬ್ಜೆಕ್ಟ್:
| ಫೀಲ್ಡ್ | ವಿಧ | ವಿವರಣೆ |
|---|---|---|
model | string | ಎಣಿಕೆ ಯಾವ ಮಾಡೆಲ್ಗೆ ಮಾಡಲಾಯಿತೋ ಆ id, ಅದರ ಪ್ರಕಟಿತ ಕಾಗುಣಿತದಲ್ಲಿ. |
tokens | integer | text ಜೊತೆ: ಪಠ್ಯದ ಟೋಕನ್ಗಳು. messages ಜೊತೆ: ಚಿತ್ರಗಳು ಸೇರಿದಂತೆ ಇಡೀ ಇನ್ಪುಟ್ನ ಟೋಕನ್ಗಳು. |
Messages ವಿನಂತಿಯನ್ನು ಎಣಿಸಿ
/v1/messages ಗೆ ನೀವು ಕಳುಹಿಸುವ ಬಾಡಿಯನ್ನೇ ಕಳುಹಿಸಿ: model, messages, ಮತ್ತು ಬಳಸುವುದಾದರೆ system ಹಾಗೂ tools. ಅಧಿಕೃತ Anthropic SDK ಗಳು ಈ ಎಂಡ್ಪಾಯಿಂಟ್ ಅನ್ನು messages.count_tokens ಮೂಲಕ ಕರೆಯುತ್ತವೆ.
import anthropic
client = anthropic.Anthropic(
api_key="YOUR_API_KEY",
base_url="https://api.shannon-ai.com",
)
count = client.messages.count_tokens(
model="DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
system="You are a concise assistant.",
messages=[
{"role": "user", "content": "Summarise the attached report."}
],
)
print(count.input_tokens) import Anthropic from "@anthropic-ai/sdk";
const client = new Anthropic({
apiKey: "YOUR_API_KEY",
baseURL: "https://api.shannon-ai.com",
});
const count = await client.messages.countTokens({
model: "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
system: "You are a concise assistant.",
messages: [
{ role: "user", content: "Summarise the attached report." },
],
});
console.log(count.input_tokens); curl https://api.shannon-ai.com/v1/messages/count_tokens \
-H "x-api-key: YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"system": "You are a concise assistant.",
"messages": [
{"role": "user", "content": "Summarise the attached report."}
]
}' {
"input_tokens": 21
} /v1/messages/count_tokens ಗೆ ಸೇರಿದ ಫೀಲ್ಡ್ಗಳು
| ಫೀಲ್ಡ್ | ವಿಧ | ವಿವರಣೆ |
|---|---|---|
model | string | ಕಡ್ಡಾಯ. ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ id. |
messages | array | ಕಡ್ಡಾಯ. Anthropic Messages ಫಾರ್ಮ್ಯಾಟ್ನಲ್ಲಿ ಸಂದೇಶಗಳು. text, image, tool_use ಮತ್ತು tool_result ಬ್ಲಾಕ್ಗಳನ್ನು ಎಣಿಸಲಾಗುತ್ತದೆ. |
system | string | array | system ಪ್ರಾಂಪ್ಟ್: ಒಂದು string ಅಥವಾ ಪಠ್ಯ ಬ್ಲಾಕ್ಗಳ array. |
tools | array | name, description ಮತ್ತು input_schema ಇರುವ ಟೂಲ್ ವ್ಯಾಖ್ಯಾನಗಳು. |
ಹೊಂದಾಣಿಕೆಗಾಗಿ ಸ್ವೀಕರಿಸಲಾಗುತ್ತದೆ, ಎಣಿಕೆಯ ಮೇಲೆ ಪರಿಣಾಮವಿಲ್ಲದೆ: tool_choice, max_tokens, temperature, top_p, stop_sequences, stream, thinking. ನೀವು ನಿಜವಾದ ವಿನಂತಿಯ ಬಾಡಿಯನ್ನು ಬದಲಾಯಿಸದೆ ನೀಡಬಹುದು.
ಉತ್ತರ ಈ ಫೀಲ್ಡ್ಗಳಿರುವ JSON ಆಬ್ಜೆಕ್ಟ್:
| ಫೀಲ್ಡ್ | ವಿಧ | ವಿವರಣೆ |
|---|---|---|
input_tokens | integer | ಇಡೀ ಇನ್ಪುಟ್ನ ಟೋಕನ್ಗಳು: system ಪ್ರಾಂಪ್ಟ್, ಸಂದೇಶಗಳು, ಟೂಲ್ಗಳು ಮತ್ತು ಚಿತ್ರಗಳು. |
ಬೆಂಬಲಿತ ಮಾಡೆಲ್ಗಳು
ಎರಡೂ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳು ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ಗಳಿಗೆ ಎಣಿಸುತ್ತವೆ. GET /v1/models ಅವನ್ನು ಬೆಂಬಲಿಸುವ ಪ್ರತಿ ಮಾಡೆಲ್ನ endpoints ನಲ್ಲಿ /v1/tokenize ಮತ್ತು /v1/messages/count_tokens ಅನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ. ಬೇರೆ ಯಾವುದೇ model ಮೌಲ್ಯಕ್ಕೆ, Shannon id ಗಳು ಸೇರಿದಂತೆ, 400 ನೊಂದಿಗೆ ಉತ್ತರಿಸಲಾಗುತ್ತದೆ.
DeepSeek-V4-Pro-0813-3BIT-REAPGLM-5.2-3BIT-REAPKimi-K3-3BIT-REAPNemotron3Ultra-3BIT-REAPMiniMax-M3-3BIT-REAPDeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAPKimi-K2.6-W4A16-AUTOROUND-REAPLaguna-S-2.1-W4A16-AUTOROUND-REAPinkling-W4A16-AUTOROUND-REAPMiMo-V2.5-Pro-W8A16MiMo-V2.5-W8A16Hy3-W8A16
Shannon ಮಾಡೆಲ್ಗೆ, ಟೋಕನ್ ಎಣಿಕೆಗಳನ್ನು ಉತ್ತರದ usage ಆಬ್ಜೆಕ್ಟ್ನಿಂದ ಓದಿ.
ಎಣಿಕೆಯನ್ನು ಹೇಗೆ ಮಾಡಲಾಗುತ್ತದೆ
ಪ್ರತಿ ಮಾಡೆಲ್ ಅನ್ನು ಅದರ ಸ್ವಂತ tokenizer ಮತ್ತು ಸ್ವಂತ ಚಾಟ್ ಟೆಂಪ್ಲೇಟ್ನೊಂದಿಗೆ ಎಣಿಸಲಾಗುತ್ತದೆ. ಅಕ್ಷರಗಳು ಅಥವಾ ಪದಗಳಿಂದ ಮಾಡಿದ ಅಂದಾಜನ್ನು ಬಳಸಲಾಗುವುದಿಲ್ಲ.
| ಏನನ್ನು ಎಣಿಸಲಾಗುತ್ತದೆ | ನಿಯಮ |
|---|---|
| ಪಠ್ಯ | ಕಳುಹಿಸಿದಂತೆಯೇ string ನ ಟೋಕನ್ಗಳು. ಖಾಲಿ string 0 ಎಂದು ಎಣಿಕೆಯಾಗುತ್ತದೆ. |
| ಸಂದೇಶಗಳು | ಸಂದೇಶಗಳು ಮತ್ತು ಟೂಲ್ಗಳನ್ನು ಮಾಡೆಲ್ನ ಸ್ವಂತ ಚಾಟ್ ಟೆಂಪ್ಲೇಟ್ನಲ್ಲಿ, ಉತ್ತರ ಆರಂಭವಾಗುವ ಬಿಂದುವಿನವರೆಗೆ ಜೋಡಿಸಲಾಗುತ್ತದೆ, ಮತ್ತು ಆ ಇಡೀ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಎಣಿಸಲಾಗುತ್ತದೆ. |
| ಪಾತ್ರಗಳು | system, user, assistant ಮತ್ತು tool ಸಂದೇಶಗಳನ್ನು ಎಣಿಸಲಾಗುತ್ತದೆ. developer ಅನ್ನು system ಎಂದು ಎಣಿಸಲಾಗುತ್ತದೆ. ವಿಷಯ ಮತ್ತು ಟೂಲ್ ಕರೆ ಎರಡೂ ಇಲ್ಲದ ಸಂದೇಶ ಏನನ್ನೂ ಸೇರಿಸುವುದಿಲ್ಲ. |
| ಟೂಲ್ ಕರೆಗಳು ಮತ್ತು ಫಲಿತಾಂಶಗಳು | ಹಿಂದಿನ assistant ಟರ್ನ್ಗಳ ಟೂಲ್ ಕರೆಗಳು ಮತ್ತು ಅವುಗಳ ಫಲಿತಾಂಶಗಳು ಎರಡೂ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳಲ್ಲಿ ಎಣಿಕೆಯ ಭಾಗವಾಗಿವೆ. |
| ಚಿತ್ರಗಳು | ಬಾಡಿಯೊಳಗೆ ಕಳುಹಿಸಿದ ಚಿತ್ರ (base64 ಅಥವಾ data: URL) ಪ್ರತಿ 28 × 28 ಪಿಕ್ಸೆಲ್ ಪ್ಯಾಚ್ಗೆ ಒಂದು ಟೋಕನ್ ಸೇರಿಸುತ್ತದೆ: ceil(width / 28) × ceil(height / 28). http(s) URL ಆಗಿ ನೀಡಿದ ಚಿತ್ರವನ್ನು ಈ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳು ಡೌನ್ಲೋಡ್ ಮಾಡುವುದಿಲ್ಲ ಮತ್ತು ಅದು 1,024 ಎಂದು ಎಣಿಕೆಯಾಗುತ್ತದೆ. |
ಉದಾಹರಣೆ: 1,024 × 768 ಪಿಕ್ಸೆಲ್ಗಳ ಚಿತ್ರ ceil(1024 / 28) × ceil(768 / 28) = 37 × 28 = 1,036 ಟೋಕನ್ಗಳೆಂದು ಎಣಿಕೆಯಾಗುತ್ತದೆ.
ಎಣಿಕೆ ಮತ್ತು ವಿನಂತಿಗೆ ಏನು ಶುಲ್ಕ ವಿಧಿಸಲಾಗುತ್ತದೆ
ಇಡೀ ವಿನಂತಿಯ ಎಣಿಕೆಯನ್ನು ಅದೇ ಮಾಡೆಲ್, ಸಂದೇಶಗಳು ಮತ್ತು ಟೂಲ್ಗಳಿರುವ ನಿಜವಾದ ವಿನಂತಿಯ ಇನ್ಪುಟ್ ಎಣಿಕೆಯಂತೆಯೇ ಮಾಡಲಾಗುತ್ತದೆ. ಉತ್ತರ ಆ ಸಂಖ್ಯೆಯನ್ನು Chat Completions ನಲ್ಲಿ usage.prompt_tokens ಆಗಿ, Responses ನಲ್ಲಿ usage.input_tokens ಆಗಿ, ಮತ್ತು Messages ನಲ್ಲಿ usage.input_tokens ಜೊತೆಗೆ usage.cache_read_input_tokens ಆಗಿ ವರದಿ ಮಾಡುತ್ತದೆ.
- ಎಣಿಕೆ ಎಂದರೆ ಕ್ಯಾಶ್ ಆದ ಇನ್ಪುಟ್ ರಿಯಾಯಿತಿಯ ಮೊದಲಿನ ಇನ್ಪುಟ್. ನಿಜವಾದ ವಿನಂತಿ ಆ ಇನ್ಪುಟ್ನ ಒಂದು ಭಾಗವನ್ನು ಕ್ಯಾಶ್ನಿಂದ ಓದಿ ಆ ಭಾಗವನ್ನು ಕ್ಯಾಶ್ ದರದಲ್ಲಿ ಬಿಲ್ ಮಾಡಬಹುದು. ಪ್ರಾಂಪ್ಟ್ ಕ್ಯಾಶಿಂಗ್
http(s)URL ಆಗಿ ನೀಡಿದ ಚಿತ್ರ ಇಲ್ಲಿ 1,024 ಎಂದು ಎಣಿಕೆಯಾಗುತ್ತದೆ. ನಿಜವಾದ ವಿನಂತಿ ಚಿತ್ರವನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಿ ಅದರ ಪಿಕ್ಸೆಲ್ ಗಾತ್ರದಿಂದ ಎಣಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ಎರಡು ಸಂಖ್ಯೆಗಳು ಭಿನ್ನವಾಗಿರಬಹುದು. ಅದೇ ಸಂಖ್ಯೆ ಪಡೆಯಲು ಚಿತ್ರವನ್ನು base64 ಆಗಿ ಕಳುಹಿಸಿ.- ಔಟ್ಪುಟ್ ಎಣಿಕೆಯ ಭಾಗವಲ್ಲ. ನಿಜವಾದ ವಿನಂತಿಯ ಉತ್ತರವನ್ನು, ರೀಸನಿಂಗ್ ಸೇರಿದಂತೆ, ಹೆಚ್ಚುವರಿಯಾಗಿ ಔಟ್ಪುಟ್ ಟೋಕನ್ಗಳಾಗಿ ಬಿಲ್ ಮಾಡಲಾಗುತ್ತದೆ.
textಎಣಿಕೆಗೆ ಚಾಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಇಲ್ಲ. ಡಾಕ್ಯುಮೆಂಟ್ ಅಥವಾ ಪ್ರಾಂಪ್ಟ್ನ ಭಾಗವನ್ನು ಅಳೆಯಲು ಇದನ್ನು, ಮತ್ತು ವಿನಂತಿಯನ್ನು ಅಳೆಯಲುmessagesರೂಪವನ್ನು ಬಳಸಿ.
ಎಣಿಕೆಯನ್ನು ವೆಚ್ಚವಾಗಿ ಪರಿವರ್ತಿಸಲು, ಅದನ್ನು ಮಾಡೆಲ್ನ 1M ಟೋಕನ್ಗಳ ಇನ್ಪುಟ್ ಬೆಲೆಯಿಂದ ಗುಣಿಸಿ. ಮಾಡೆಲ್ಗಳು ಮತ್ತು ಬೆಲೆ
ಮಿತಿಗಳು
| ಮಿತಿ | ಮೌಲ್ಯ | ಅದನ್ನು ಮೀರಿದರೆ |
|---|---|---|
text ನ ಉದ್ದ | 4,000,000 ಬೈಟ್ಗಳು (UTF-8) | text too long ಸಂದೇಶದೊಂದಿಗೆ 413 |
| ವಿನಂತಿ ಬಾಡಿ | 32 MiB | 413 |
| ಪ್ರತಿ ವಿನಂತಿಗೆ | ಒಂದು ಪಠ್ಯ ಅಥವಾ ಒಂದು ಸಂಭಾಷಣೆ | ಹಲವು ಪಠ್ಯಗಳನ್ನು ಎಣಿಸಲು, ಪ್ರತಿ ಪಠ್ಯಕ್ಕೆ ಒಂದು ವಿನಂತಿ ಕಳುಹಿಸಿ. |
ಎಣಿಕೆ ಕರೆಗಳು ನಿಮಿಷಕ್ಕೆ 120 ವಿನಂತಿಗಳ ಮಿತಿಗೆ ಎಣಿಕೆಯಾಗುವುದಿಲ್ಲ. ಮಿತಿಗಳು ಮತ್ತು ಬ್ಯಾಲೆನ್ಸ್
ದೋಷಗಳು
| ಸ್ಥಿತಿ | ವಿಧ | ಸಂದೇಶ | ಯಾವಾಗ |
|---|---|---|---|
400 | invalid_request_error | tokenize is available for the hosted open models; unknown model: <model> | ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ id ಅಲ್ಲದ model ಜೊತೆ /v1/tokenize. |
400 | invalid_request_error | count_tokens is available for the hosted open models; unknown model: <model> | ಹೋಸ್ಟ್ ಮಾಡಿದ ಓಪನ್-ವೇಟ್ id ಅಲ್ಲದ model ಜೊತೆ, ಅಥವಾ model ಇಲ್ಲದೆ /v1/messages/count_tokens. |
400 | invalid_request_error | send `text` or `messages` | text ಅಥವಾ messages ಎರಡೂ ಇಲ್ಲದೆ /v1/tokenize. |
401 | authentication_error | Missing authentication / Invalid API key | ಯಾವುದೇ ಕೀ ಕಳುಹಿಸಲಾಗಿಲ್ಲ, ಅಥವಾ ಕೀ ಮಾನ್ಯವಲ್ಲ. |
413 | invalid_request_error | text too long | text 4,000,000 ಬೈಟ್ಗಳಿಗಿಂತ ಉದ್ದವಾಗಿದೆ. 32 MiB ಗಿಂತ ದೊಡ್ಡ ಬಾಡಿಗೂ 413 ನೊಂದಿಗೆ ಉತ್ತರಿಸಲಾಗುತ್ತದೆ. |
415 | invalid_request_error | Expected request with `Content-Type: application/json` | ವಿನಂತಿಗೆ JSON content type ಇಲ್ಲ. |
422 | invalid_request_error | Failed to deserialize the JSON body into the target type: … | ಅಗತ್ಯ ಫೀಲ್ಡ್ ಇಲ್ಲ (/v1/tokenize ನಲ್ಲಿ model, /v1/messages/count_tokens ನಲ್ಲಿ messages) ಅಥವಾ ಫೀಲ್ಡ್ಗೆ ತಪ್ಪಾದ ವಿಧವಿದೆ. |
503 | api_error | token counting is temporarily unavailable for this model | ಈ ಮಾಡೆಲ್ಗೆ ಎಣಿಕೆಯನ್ನು ಈ ಕ್ಷಣದಲ್ಲಿ ಮಾಡಲಾಗದು. ನಂತರ ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ. |
/v1/tokenize ದೋಷಗಳನ್ನು OpenAI ರೂಪದಲ್ಲಿ ಹಿಂತಿರುಗಿಸುತ್ತದೆ. /v1/messages/count_tokens ನಲ್ಲಿ ಎಂಡ್ಪಾಯಿಂಟ್ನ ಸ್ವಂತ ದೋಷಗಳು (ಮಾಡೆಲ್ಗೆ 400, 503) Anthropic ರೂಪದಲ್ಲಿ ಬರುತ್ತವೆ, ಮತ್ತು 401, 413, 415 ಹಾಗೂ 422 OpenAI ರೂಪದಲ್ಲಿ ಬರುತ್ತವೆ. ಮೊದಲು ಸ್ಥಿತಿ ಕೋಡ್ ಓದಿ, ನಂತರ ಎರಡೂ ರೂಪಗಳಲ್ಲಿರುವ error.type ಮತ್ತು error.message ಓದಿ.
{
"error": {
"type": "invalid_request_error",
"message": "tokenize is available for the hosted open models; unknown model: shannon-3"
}
} {
"type": "error",
"error": {
"type": "invalid_request_error",
"message": "count_tokens is available for the hosted open models; unknown model: shannon-3"
}
}