Preskoči na vsebino
Zmožnosti

Zmožnosti

Kaj zmore vsak model prek API-ja, model za modelom: orodja, vhod s slikami, razmišljanje, izhod JSON, predpomnjenje promptov, spletno iskanje in pretakanje.

Do vsakega modela pridete prek istih treh endpointov z istim ključem. Tabeli kažeta, kje se modeli razlikujejo. Pomišljaj pomeni, da model odgovarja brez te zmožnosti.

Modeli Shannon

Model OrodjaSlikeRazmišljanjeNaporObjekt JSONShema JSONPredpomnjenjeIskanjePretakanje
shannon-1.6-lite DaDa——DaDa—DaDa
shannon-1.6-pro DaDaDa—DaDa—DaDa
shannon-2-lite Da—Da—DaDa—DaDa
shannon-2-pro Da—Da—DaDa—DaDa
shannon-3 DaDaDa—DaDa—DaDa
shannon-3-pro DaDaDa—DaDa—DaDa
shannon-3.1 DaDaDa—DaDa—DaDa
shannon-3.1-pro DaDaDa—DaDa—DaDa
shannon-3.5 Da———DaDa——Da
shannon-coder-1 Da—Da—DaDa——Da

Gostovani modeli z odprtimi utežmi

Id gostovanega modela je njegovo ime in različica, povezana s vezajem, na primer DeepSeek-V4-Pro-0813-3BIT-REAP.

Model OrodjaSlikeRazmišljanjeNaporObjekt JSONShema JSONPredpomnjenjeIskanjePretakanje
DeepSeek-V4-Pro-0813 3BIT-REAP Da—DaDaDaDaDa—Da
GLM-5.2 3BIT-REAP Da—DaDaDaDaDa—Da
Kimi-K3 3BIT-REAP DaDaDaDaDaDaDa—Da
Nemotron3Ultra 3BIT-REAP Da—DaDaDaDaDa—Da
MiniMax-M3 3BIT-REAP DaDaDaDaDaDaDa—Da
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Da—DaDaDaDaDa—Da
Kimi-K2.6 W4A16-AUTOROUND-REAP DaDaDaDaDaDaDa—Da
Laguna-S-2.1 W4A16-AUTOROUND-REAP Da—DaDa——Da—Da
inkling W4A16-AUTOROUND-REAP DaDaDaDaDa—Da—Da
MiMo-V2.5-Pro W8A16 Da—DaDaDaDaDa—Da
MiMo-V2.5 W8A16 DaDaDaDaDaDaDa—Da
Hy3 W8A16 Da—DaDaDaDaDa—Da

Kaj pomeni vsak stolpec

  • Orodja. Funkcije opišete v tools, model odgovori s klici, ki jih želi izvesti, vaša koda pa jih zažene. Vsak model sprejme orodja. Vsiljen tool_choice upoštevajo gostovani modeli z odprtimi utežmi. Klicanje funkcij
  • Vhod s slikami. Model prebere slike, poslane znotraj uporabnikovega sporočila, kot data URL ali kot naslov. shannon-2-lite in shannon-2-pro bereta slike tudi v zahtevkih, ki pošiljajo tools ali response_format. Družina Shannon 3 bere tudi dokumente. Slike in datoteke
  • Razmišljanje. Odgovor lahko poleg odgovora nosi besedilo razmišljanja modela v svojem polju. Napor razmišljanja
  • Napor razmišljanja. Polje zahtevka določa, kako globoko model razmišlja: off, low, medium ali high. Modeli Shannon globino določijo sami. Napor razmišljanja
  • Objekt JSON. Z response_format: {"type": "json_object"} je odgovor JSON brez predpisane oblike. Na /v1/chat/completions in /v1/responses. Strukturirani izhodi
  • Shema JSON. Z response_format tipa json_schema odgovor sledi shemi, ki jo pošljete. Na /v1/chat/completions in /v1/responses. Strukturirani izhodi
  • Predpomnjenje promptov. Prompt, ki se začne kot nedavni prompt na istem modelu, se prebere iz predpomnilnika, predpomnjeni del pa se obračuna po 25% vhodne cene. Polje zahtevka ni potrebno. Predpomaganje promptov
  • Spletno iskanje. Z web_search: true API poišče po spletu in rezultate preda modelu, preden odgovori. Na /v1/chat/completions in /v1/messages. To je polje zahtevka in nima zastavice v GET /v1/models. Vgrajeno spletno iskanje
  • Pretakanje. Z stream: true odgovor prihaja kot dogodki, ki jih pošilja strežnik, medtem ko model piše. Vsak model pretaka na vseh treh endpointih. Pretakanje

Ista dejstva iz GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models navede vsak model z objektom capabilities, zato lahko program prebere ta dejstva namesto te strani. Endpoint ne potrebuje ključa.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id in capabilities dveh vnosov v data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Stolpec Zastavica v capabilities
Orodja tools
Vhod s slikami vision
Razmišljanje reasoning
Napor razmišljanja reasoning_effort
Objekt JSON response_format
Shema JSON json_schema
Predpomnjenje promptov prompt_caching
Spletno iskanje Ni zastavica: polje zahtevka web_search.
Pretakanje streaming
  • response_format in prompt_caching sta zastavici vnosov gostovanih modelov z odprtimi utežmi. Vnos Shannon sporoča izhod JSON samo z json_schema, kar pomeni oba načina JSON.
  • vision je true za shannon-2-lite in shannon-2-pro: slike berejo tudi v zahtevkih, ki pošiljajo tools ali response_format.

Zunaj vrstice modela

Gostovani model z odprtimi utežmi zavrne sliko ali način JSON, ki je zunaj njegove vrstice. Zavrnitev pride, preden se karkoli odbije z vašega stanja:

Stanje Vrsta Sporočilo Kdaj
400 invalid_request_error <id> does not accept image input Slika je bila poslana gostovanemu modelu z odprtimi utežmi brez vhoda s slikami.
400 invalid_request_error <id> does not accept response_format Izhod JSON je bil zahtevan od gostovanega modela z odprtimi utežmi, ki nima nobenega načina JSON.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Shema je bila poslana gostovanemu modelu z odprtimi utežmi, ki ima samo način objekta JSON.

Model Shannon na tak zahtevek odgovori s statusom 200: zmožnost zunaj njegove vrstice pri odgovoru ne sodeluje. Obravnava napak