Hopp til innholdet
Funksjoner

Funksjoner

Hva hver modell kan gjøre gjennom API-et, modell for modell: verktøy, bilde som input, resonnering, JSON-output, prompt-caching, nettsøk og strømming.

Alle modeller nås gjennom de samme tre endepunktene med samme nøkkel. De to tabellene viser hvor modellene skiller seg fra hverandre. En strek betyr at modellen svarer uten den funksjonen.

Shannon-modeller

Modell VerktøyBilderResonneringInnsatsJSON-objektJSON-skjemaCachingSøkStrømming
shannon-1.6-lite JaJa——JaJa—JaJa
shannon-1.6-pro JaJaJa—JaJa—JaJa
shannon-2-lite Ja—Ja—JaJa—JaJa
shannon-2-pro Ja—Ja—JaJa—JaJa
shannon-3 JaJaJa—JaJa—JaJa
shannon-3-pro JaJaJa—JaJa—JaJa
shannon-3.1 JaJaJa—JaJa—JaJa
shannon-3.1-pro JaJaJa—JaJa—JaJa
shannon-3.5 Ja———JaJa——Ja
shannon-coder-1 Ja—Ja—JaJa——Ja

Hostede åpne vektmodeller

Id-en til en hostet modell er navnet og varianten knyttet sammen med en bindestrek, for eksempel DeepSeek-V4-Pro-0813-3BIT-REAP.

Modell VerktøyBilderResonneringInnsatsJSON-objektJSON-skjemaCachingSøkStrømming
DeepSeek-V4-Pro-0813 3BIT-REAP Ja—JaJaJaJaJa—Ja
GLM-5.2 3BIT-REAP Ja—JaJaJaJaJa—Ja
Kimi-K3 3BIT-REAP JaJaJaJaJaJaJa—Ja
Nemotron3Ultra 3BIT-REAP Ja—JaJaJaJaJa—Ja
MiniMax-M3 3BIT-REAP JaJaJaJaJaJaJa—Ja
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Ja—JaJaJaJaJa—Ja
Kimi-K2.6 W4A16-AUTOROUND-REAP JaJaJaJaJaJaJa—Ja
Laguna-S-2.1 W4A16-AUTOROUND-REAP Ja—JaJa——Ja—Ja
inkling W4A16-AUTOROUND-REAP JaJaJaJaJa—Ja—Ja
MiMo-V2.5-Pro W8A16 Ja—JaJaJaJaJa—Ja
MiMo-V2.5 W8A16 JaJaJaJaJaJaJa—Ja
Hy3 W8A16 Ja—JaJaJaJaJa—Ja

Hva hver kolonne betyr

  • Verktøy. Du beskriver funksjoner i tools, modellen svarer med kallene den vil ha utført, og koden din kjører dem. Alle modeller støtter verktøy. Et tvunget tool_choice brukes av de hostede åpne vektmodellene. Funksjonskall
  • Bilde som input. Modellen leser bilder som sendes i en brukermelding, som data-URL eller som adresse. shannon-2-lite og shannon-2-pro leser bilder i forespørsler som også sender tools eller response_format. Shannon 3-familien leser også dokumenter. Bilder og filer
  • Resonnering. Svaret kan inneholde modellens resonneringstekst ved siden av svaret, i et eget felt. Resonneringsinnsats
  • Resonneringsinnsats. Et forespørselsfelt styrer hvor dypt modellen resonnerer: off, low, medium eller high. Shannon-modellene velger selv dybden. Resonneringsinnsats
  • JSON-objekt. Med response_format: {"type": "json_object"} er svaret JSON uten foreskrevet form. På /v1/chat/completions og /v1/responses. Strukturerte utdata
  • JSON-skjema. Med response_format av typen json_schema følger svaret et skjema du sender. På /v1/chat/completions og /v1/responses. Strukturerte utdata
  • Prompt-caching. En prompt som begynner som en nylig prompt på samme modell, leses fra cachen, og den cachede delen faktureres til 25 % av inputprisen. Den trenger ikke noe forespørselsfelt. Prompt-caching
  • Nettsøk. Med web_search: true søker API-et på nettet og gir resultatene til modellen før den svarer. På /v1/chat/completions og /v1/messages. Det er et felt i forespørselen og har ikke noe flagg i GET /v1/models. Innebygd websøk
  • Strømming. Med stream: true kommer svaret som server-sent events mens modellen skriver. Alle modeller strømmer på alle tre endepunktene. Strømming

De samme opplysningene fra GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models lister hver modell med et capabilities-objekt, slik at et program kan lese disse opplysningene i stedet for denne siden. Endepunktet trenger ingen nøkkel.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id og capabilities for to oppføringer i data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Kolonne Flagg i capabilities
Verktøy tools
Bilde som input vision
Resonnering reasoning
Resonneringsinnsats reasoning_effort
JSON-objekt response_format
JSON-skjema json_schema
Prompt-caching prompt_caching
Nettsøk Ikke et flagg: forespørselsfeltet web_search.
Strømming streaming
  • response_format og prompt_caching er flagg på de hostede åpne vektmodellene. En Shannon-oppføring rapporterer JSON-output kun med json_schema, som står for begge JSON-modusene.
  • vision er true for shannon-2-lite og shannon-2-pro: de leser bilder i forespørsler som også sender tools eller response_format.

Utenfor en modells rad

En hostet åpen vektmodell avviser et bilde eller en JSON-modus som ligger utenfor raden sin. Avvisningen kommer før noe trekkes fra saldoen din:

Status Type Melding Når
400 invalid_request_error <id> does not accept image input Et bilde ble sendt til en hostet åpen vektmodell uten støtte for bilde som input.
400 invalid_request_error <id> does not accept response_format JSON-output ble etterspurt fra en hostet åpen vektmodell som ikke har noen av JSON-modusene.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Et skjema ble sendt til en hostet åpen vektmodell som bare har JSON-objektmodus.

En Shannon-modell svarer på en slik forespørsel med status 200: funksjonen utenfor raden dens deltar ikke i svaret. Feilhåndtering