Chat Completions

POST https://api.shannon-ai.com/v1/chat/completions

Эң кичинекей сурам — модель id'си жана бир колдонуучу билдирүүсү.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.shannon-ai.com/v1",
)

response = client.chat.completions.create(
    model="shannon-3",
    messages=[{"role": "user", "content": "Say hello in one sentence."}],
)

print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: "YOUR_API_KEY",
  baseURL: "https://api.shannon-ai.com/v1",
});

const response = await client.chat.completions.create({
  model: "shannon-3",
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});

console.log(response.choices[0].message.content);

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "shannon-3",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}]
  }'

Жооп — бир JSON объекти:

{
  "id": "chatcmpl-5f0c1e7a9b3d4c62a8e1f07d2b46c9a3",
  "object": "chat.completion",
  "created": 1791625200,
  "model": "shannon-3",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Hello, it is good to meet you.",
        "reasoning_content": "The user wants a greeting in one sentence. Keep it short and friendly."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 1184,
    "completion_tokens": 46,
    "total_tokens": 1230
  }
}

Баштар

Сурам баштары

Жооп баштары

Сурам талаалары

Милдеттүү талаа — messages гана. Колдонгон мамычасы талаа жоопту өзгөрткөн моделдерди атайт. Хостингдеги ачык салмактуу моделдер — модель тизмесиндеги он эки id; Shannon 3 үй-бүлөсү — shannon-3, shannon-3-pro, shannon-3.1 жана shannon-3.1-pro. Моделдер жана баалар

Башка OpenAI талаалары, мисалы n, user, stream_options, parallel_tool_calls, presence_penalty, frequency_penalty, logit_bias, logprobs, metadata, store жана prompt_cache_key, учурдагы клиент коду өзгөрүүсүз иштеши үчүн кабыл алынат. Алар жоопту өзгөртпөйт: ар дайым бир гана choice болот, ал эми стрим ар дайым usage менен аяктайт.

JSON түрү туура эмес талаа, мисалы "max_tokens": "100", 422 кайтарат. messages жок сурам да ошондой.

Куралдар, структураланган чыгыш, reasoning жана веб-издөөнүн ар биринин өз бети бар: Функция чакыруу, Түзүмдүү чыгыштар, Reasoning аракет деңгээли, Веб издөө.

Опциялары бар сурам

Бул сурам система билдирүүсүн, сэмплинг талааларын жана reasoning аракет деңгээлин коёт. Ал хостингдеги ачык салмактуу модельди колдонот, ал булардын баарын колдонот.

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.shannon-ai.com/v1",
)

response = client.chat.completions.create(
    model="DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    messages=[
        {"role": "system", "content": "You are a physics teacher. Answer in two sentences."},
        {"role": "user", "content": "Why is the sky blue?"},
    ],
    max_tokens=512,
    temperature=0.3,
    top_p=0.9,
    seed=7,
    stop=["\n\n"],
    reasoning_effort="low",
)

message = response.choices[0].message
print(message.reasoning_content)  # the reasoning
print(message.content)            # the answer
print(response.usage)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: "YOUR_API_KEY",
  baseURL: "https://api.shannon-ai.com/v1",
});

const response = await client.chat.completions.create({
  model: "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
  messages: [
    { role: "system", content: "You are a physics teacher. Answer in two sentences." },
    { role: "user", content: "Why is the sky blue?" },
  ],
  max_tokens: 512,
  temperature: 0.3,
  top_p: 0.9,
  seed: 7,
  stop: ["\n\n"],
  reasoning_effort: "low",
});

const message = response.choices[0].message;
console.log(message.reasoning_content); // the reasoning
console.log(message.content);           // the answer
console.log(response.usage);

curl https://api.shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
    "messages": [
      {"role": "system", "content": "You are a physics teacher. Answer in two sentences."},
      {"role": "user", "content": "Why is the sky blue?"}
    ],
    "max_tokens": 512,
    "temperature": 0.3,
    "top_p": 0.9,
    "seed": 7,
    "stop": ["\n\n"],
    "reasoning_effort": "low"
  }'

Жооптун формасы жогорудагыдай эле. Хостингдеги ачык салмактуу моделдерде анын usage'и эки деталь кошот: кэштен окулган промпт токендери жана reasoning'ге сарпталган токендер.

{
  "usage": {
    "prompt_tokens": 31,
    "completion_tokens": 62,
    "total_tokens": 93,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 21
    }
  }
}

Чыгыш узундугу

max_tokens эки иш кылат. Биринчиден, ал сурам башталганда балансыңыздан бөлүп коюлган токендердин саны. Жооп аяктаганда ал сумма сурам колдонгон токендерге алмаштырылат. max_tokens балансыңыздын калдыгынан чоң болсо, жооптун өзү батса да, сурам 429 Quota exceeded кайтарат. Азыраак бөлүп коюу үчүн кичирээк max_tokens жөнөтүңүз.

shannon-coder-1 бул endpoint'те башкача эсептелет: ар бир сурам планыңыздын Shannon Coder чалууларынын бири, ал үчүн токен бөлүп коюлбайт. Чектөөлөр жана баланс

Экинчиден, ал бул моделдерде жооптун узундугун чектейт:

max_tokens же max_completion_tokens болбосо, мааниси 4,096. shannon-coder-1де ал 65,536.

Билдирүүлөр

Ар бир билдирүү — role жана content бар объект. content — сап, же билдирүү текстен башканы да алып жүрсө бөлүктөр массиви.

Shannon 3 үй-бүлөсүнүн id'си менен сөзсүз аткарылышы керек нускамаларды user билдирүүсүнө жазыңыз.

Shannon деңгээлдеринде колдонуучу тексти да, tools да жок сурам 400 No user message provided кайтарат.

Мазмун бөлүктөрү

Өлчөмдөр, чектөөлөр жана формалардын толук тизмеси өз бетинде. Сүрөттөр жана файлдар

Жооп объекти

Аяктоо себептери

Стримсиз жооп stop же tool_calls билдирет.

Usage

Хостингдеги ачык салмактуу моделдерде prompt_tokens — билдирүүлөрүңүз менен курал аныктамаларынын модельдин өз токенизатору менен саналганы, кошумча сүрөттөрдүн токендери. Токен саноо endpoint'тери жөнөтөрдөн мурун ошол эле санды кайтарат. Токен саноо

Shannon деңгээлдеринде prompt_tokens жооп жазуу үчүн модель окуган бардыгын санайт, ошондуктан ал жалаң билдирүүлөрүңүздүн текстинен чоңураак.

Стриминг

stream true кылынганда жооп chat.completion.chunk окуялары катары келет жана data: [DONE] менен аяктайт. Андан мурунку акыркы чанк finish_reason жана usage алып жүрөт; stream_options керек эмес. Чанк формалары, keep-alive саптары жана стримдин ичиндеги каталар өз бетинде. Стриминг

Каталар

Ката — error мүчөсү бар JSON объекти. Текшерүүлөр ушул тартипте аткарылат: API ачкыч, сурам денеси, модель id'си, андан кийин баланс. Таблицада бул endpoint көбүнчө кайтарган каталар берилген. Толук тизме жана эмнени кайра аракет кылуу керектиги өз бетинде. Ката иштетүү

{
  "error": {
    "type": "invalid_request_error",
    "message": "unknown model: no-such-model"
  }
}