İmkanlar

Hər modelə eyni üç endpoint vasitəsilə eyni açarla müraciət olunur. İki cədvəl modellərin nə ilə fərqləndiyini göstərir. Tire modelin həmin imkan olmadan cavab verdiyini bildirir.

Shannon modelləri

Host edilmiş açıq çəkili modellər

Host edilmiş modelin id-si onun adı və variantının defislə birləşməsidir, məsələn DeepSeek-V4-Pro-0813-3BIT-REAP.

Hər sütun nə deməkdir

• Alətlər. Funksiyaları tools daxilində təsvir edirsiniz, model çağırılmasını istədiyi çağırışlarla cavab verir və kodunuz onları işlədir. Hər model alətləri qəbul edir. Məcburi tool_choice host edilmiş açıq çəkili modellər tərəfindən tətbiq olunur. Funksiya çağırışı
• Şəkil girişi. Model istifadəçi mesajının içində data URL və ya ünvan kimi göndərilən şəkilləri oxuyur. shannon-2-lite və shannon-2-pro tools və ya response_format də göndərən sorğularda şəkilləri oxuyur. Shannon 3 ailəsi sənədləri də oxuyur. Təsvirlər və fayllar
• Reasoning. Cavab modelin reasoning mətnini cavabın yanında ayrıca sahədə daşıya bilər. Reasoning effort
• Reasoning effort. Sorğu sahəsi modelin nə dərinlikdə reasoning apardığını təyin edir: off, low, medium və ya high. Shannon modelləri dərinliyi özləri təyin edir. Reasoning effort
• JSON obyekti. response_format: {"type": "json_object"} ilə cavab əvvəlcədən müəyyən edilməmiş formada JSON olur. /v1/chat/completions və /v1/responses üzərində. Strukturlaşdırılmış çıxışlar
• JSON sxemi. json_schema tipli response_format ilə cavab göndərdiyiniz sxemə uyğun olur. /v1/chat/completions və /v1/responses üzərində. Strukturlaşdırılmış çıxışlar
• Prompt keşləmə. Eyni modeldə yaxınlarda göndərilmiş promptla eyni başlayan prompt keşdən oxunur və keşlənmiş hissə giriş qiymətinin 25%-i ilə hesablanır. Bunun üçün sorğu sahəsi lazım deyil. Prompt keşləmə
• Veb axtarışı. web_search: true ilə API veb-də axtarış edir və nəticələri model cavab verməzdən əvvəl ona verir. /v1/chat/completions və /v1/messages üzərində. Bu sorğu sahəsidir və GET /v1/models daxilində flag-i yoxdur. Veb axtarışı
• Streaming. stream: true ilə cavab model yazarkən server-sent events kimi gəlir. Hər model bütün üç endpoint-də stream edir. Axın

GET /v1/models-dən eyni faktlar

GET https://api.shannon-ai.com/v1/models

GET /v1/models hər modeli capabilities obyekti ilə siyahıya alır, beləliklə proqram bu faktları bu səhifə əvəzinə oxuya bilər. Endpoint açar tələb etmir.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

import OpenAI from "openai";

const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });

for await (const model of client.models.list()) {
  console.log(model.id, model.capabilities);
}

curl https://api.shannon-ai.com/v1/models

data massivinin iki elementinin id və capabilities sahələri:

[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]

• response_format və prompt_caching host edilmiş açıq çəkili elementlərin flag-ləridir. Shannon elementi JSON çıxışını yalnız hər iki JSON rejimini ifadə edən json_schema ilə bildirir.
• vision dəyəri shannon-2-lite və shannon-2-pro üçün true-dur: onlar tools və ya response_format də göndərən sorğularda şəkilləri oxuyur.

Modelin cərgəsindən kənarda

Host edilmiş açıq çəkili model öz cərgəsindən kənar şəkli və ya JSON rejimini rədd edir. Rədd balansınızdan nəsə tutulmazdan əvvəl baş verir:

Shannon modeli belə sorğuya 200 statusu ilə cavab verir: cərgəsindən kənar imkan cavabda iştirak etmir. Xəta idarəetməsi