Kalo te përmbajtja
Aftësitë

Aftësitë

Çfarë mund të bëjë çdo model përmes API-t, model pas modeli: mjete, hyrje imazhi, arsyetim, dalje JSON, caching i prompt-it, kërkim në ueb dhe streaming.

Çdo model arrihet përmes të njëjtave tri endpoint-e me të njëjtin çelës. Dy tabelat tregojnë ku ndryshojnë modelet. Një vizë do të thotë se modeli përgjigjet pa atë aftësi.

Modelet Shannon

Modeli MjeteImazheArsyetimPërpjekjaObjekt JSONSkemë JSONCachingKërkimStreaming
shannon-1.6-lite PoPo——PoPo—PoPo
shannon-1.6-pro PoPoPo—PoPo—PoPo
shannon-2-lite Po—Po—PoPo—PoPo
shannon-2-pro Po—Po—PoPo—PoPo
shannon-3 PoPoPo—PoPo—PoPo
shannon-3-pro PoPoPo—PoPo—PoPo
shannon-3.1 PoPoPo—PoPo—PoPo
shannon-3.1-pro PoPoPo—PoPo—PoPo
shannon-3.5 Po———PoPo——Po
shannon-coder-1 Po—Po—PoPo——Po

Modele open-weight të hostuara

Id-ja e një modeli të hostuar është emri i tij dhe varianti i tij të bashkuar me një vizë ndarëse, për shembull DeepSeek-V4-Pro-0813-3BIT-REAP.

Modeli MjeteImazheArsyetimPërpjekjaObjekt JSONSkemë JSONCachingKërkimStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Po—PoPoPoPoPo—Po
GLM-5.2 3BIT-REAP Po—PoPoPoPoPo—Po
Kimi-K3 3BIT-REAP PoPoPoPoPoPoPo—Po
Nemotron3Ultra 3BIT-REAP Po—PoPoPoPoPo—Po
MiniMax-M3 3BIT-REAP PoPoPoPoPoPoPo—Po
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Po—PoPoPoPoPo—Po
Kimi-K2.6 W4A16-AUTOROUND-REAP PoPoPoPoPoPoPo—Po
Laguna-S-2.1 W4A16-AUTOROUND-REAP Po—PoPo——Po—Po
inkling W4A16-AUTOROUND-REAP PoPoPoPoPo—Po—Po
MiMo-V2.5-Pro W8A16 Po—PoPoPoPoPo—Po
MiMo-V2.5 W8A16 PoPoPoPoPoPoPo—Po
Hy3 W8A16 Po—PoPoPoPoPo—Po

Çfarë do të thotë çdo kolonë

  • Mjete. Ju përshkruani funksione te tools, modeli përgjigjet me thirrjet që dëshiron të bëhen dhe kodi juaj i ekzekuton. Çdo model pranon mjete. Një tool_choice i detyruar zbatohet nga modelet open-weight të hostuara. Thirrje funksionesh
  • Hyrje imazhi. Modeli lexon imazhe të dërguara brenda një mesazhi përdoruesi, si data URL ose si adresë. shannon-2-lite dhe shannon-2-pro lexojnë imazhe në kërkesa që dërgojnë edhe tools ose response_format. Familja Shannon 3 lexon edhe dokumente. Imazhet dhe skedarët
  • Arsyetim. Përgjigjja mund të mbajë tekstin e arsyetimit të modelit pranë përgjigjes, në një fushë më vete. Përpjekja e arsyetimit
  • Përpjekja e arsyetimit. Një fushë kërkese cakton sa thellë arsyeton modeli: off, low, medium ose high. Modelet Shannon e caktojnë vetë thellësinë. Përpjekja e arsyetimit
  • Objekt JSON. Me response_format: {"type": "json_object"} përgjigjja është JSON pa formë të përcaktuar. Në /v1/chat/completions dhe /v1/responses. Dalje të strukturuara
  • Skemë JSON. Me response_format të llojit json_schema përgjigjja ndjek një skemë që ju dërgoni. Në /v1/chat/completions dhe /v1/responses. Dalje të strukturuara
  • Caching i prompt-it. Një prompt që fillon si një i fundit në të njëjtin model lexohet nga cache-i, dhe pjesa e ruajtur në cache faturohet me 25% të çmimit të hyrjes. Nuk ka nevojë për fushë kërkese. Caching i prompt-it
  • Kërkim në ueb. Me web_search: true API-ja kërkon në ueb dhe ia jep rezultatet modelit para se të përgjigjet. Në /v1/chat/completions dhe /v1/messages. Është fushë e kërkesës dhe nuk ka flag në GET /v1/models. Kërkim i integruar në ueb
  • Streaming. Me stream: true përgjigjja arrin si server-sent events ndërsa modeli shkruan. Çdo model bën streaming në të tri endpoint-et. Transmetim

Të njëjtat fakte nga GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models liston çdo model me një objekt capabilities, kështu që një program mund t'i lexojë këto fakte në vend të kësaj faqeje. Endpoint-i nuk kërkon çelës.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id dhe capabilities të dy hyrjeve të data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Kolona Flag te capabilities
Mjete tools
Hyrje imazhi vision
Arsyetim reasoning
Përpjekja e arsyetimit reasoning_effort
Objekt JSON response_format
Skemë JSON json_schema
Caching i prompt-it prompt_caching
Kërkim në ueb Nuk është flag: fusha e kërkesës web_search.
Streaming streaming
  • response_format dhe prompt_caching janë flag-e të hyrjeve open-weight të hostuara. Një hyrje Shannon raporton daljen JSON vetëm me json_schema, që qëndron për të dyja mënyrat JSON.
  • vision është true për shannon-2-lite dhe shannon-2-pro: ata lexojnë imazhe në kërkesa që dërgojnë edhe tools ose response_format.

Jashtë rreshtit të një modeli

Një model open-weight i hostuar refuzon një imazh ose një mënyrë JSON që është jashtë rreshtit të tij. Refuzimi vjen para se nga bilanci juaj të tërhiqet ndonjë gjë:

Statusi Lloji Mesazhi Kur
400 invalid_request_error <id> does not accept image input Një imazh iu dërgua një modeli open-weight të hostuar pa hyrje imazhi.
400 invalid_request_error <id> does not accept response_format Dalje JSON iu kërkua një modeli open-weight të hostuar që nuk ka asnjë nga dy mënyrat JSON.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Një skemë iu dërgua një modeli open-weight të hostuar që ka vetëm mënyrën e objektit JSON.

Një model Shannon i përgjigjet një kërkese të tillë me status 200: aftësia jashtë rreshtit të tij nuk merr pjesë në përgjigje. Trajtimi i gabimeve