Gå til indhold
Funktioner

Funktioner

Hvad hver model kan gøre gennem API'et, model for model: værktøjer, billedinput, reasoning, JSON-output, prompt caching, websøgning og streaming.

Alle modeller nås gennem de samme tre endpoints med den samme nøgle. De to tabeller viser, hvor modellerne er forskellige. En tankestreg betyder, at modellen svarer uden den funktion.

Shannon-modeller

Model VærktøjerBillederReasoningEffortJSON-objektJSON-skemaCachingSøgningStreaming
shannon-1.6-lite JaJa——JaJa—JaJa
shannon-1.6-pro JaJaJa—JaJa—JaJa
shannon-2-lite Ja—Ja—JaJa—JaJa
shannon-2-pro Ja—Ja—JaJa—JaJa
shannon-3 JaJaJa—JaJa—JaJa
shannon-3-pro JaJaJa—JaJa—JaJa
shannon-3.1 JaJaJa—JaJa—JaJa
shannon-3.1-pro JaJaJa—JaJa—JaJa
shannon-3.5 Ja———JaJa——Ja
shannon-coder-1 Ja—Ja—JaJa——Ja

Hostede open-weight-modeller

Id'et på en hostet model er dens navn og dens variant sat sammen med en bindestreg, f.eks. DeepSeek-V4-Pro-0813-3BIT-REAP.

Model VærktøjerBillederReasoningEffortJSON-objektJSON-skemaCachingSøgningStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Ja—JaJaJaJaJa—Ja
GLM-5.2 3BIT-REAP Ja—JaJaJaJaJa—Ja
Kimi-K3 3BIT-REAP JaJaJaJaJaJaJa—Ja
Nemotron3Ultra 3BIT-REAP Ja—JaJaJaJaJa—Ja
MiniMax-M3 3BIT-REAP JaJaJaJaJaJaJa—Ja
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Ja—JaJaJaJaJa—Ja
Kimi-K2.6 W4A16-AUTOROUND-REAP JaJaJaJaJaJaJa—Ja
Laguna-S-2.1 W4A16-AUTOROUND-REAP Ja—JaJa——Ja—Ja
inkling W4A16-AUTOROUND-REAP JaJaJaJaJa—Ja—Ja
MiMo-V2.5-Pro W8A16 Ja—JaJaJaJaJa—Ja
MiMo-V2.5 W8A16 JaJaJaJaJaJaJa—Ja
Hy3 W8A16 Ja—JaJaJaJaJa—Ja

Hvad hver kolonne betyder

  • Værktøjer. Du beskriver funktioner i tools, modellen svarer med de kald, den vil have udført, og din kode kører dem. Alle modeller understøtter værktøjer. Et gennemtvunget tool_choice anvendes af de hostede open-weight-modeller. Funktionskald
  • Billedinput. Modellen læser billeder, der sendes i en brugerbesked, som en data-URL eller som en adresse. shannon-2-lite og shannon-2-pro læser billeder i anmodninger, der også sender tools eller response_format. Shannon 3-familien læser også dokumenter. Billeder og filer
  • Reasoning. Svaret kan indeholde modellens reasoning-tekst ved siden af svaret, i et felt for sig. Reasoning effort
  • Reasoning effort. Et anmodningsfelt angiver, hvor dybt modellen ræsonnerer: off, low, medium eller high. Shannon-modellerne vælger selv deres dybde. Reasoning effort
  • JSON-objekt. Med response_format: {"type": "json_object"} er svaret JSON uden en foreskrevet form. På /v1/chat/completions og /v1/responses. Strukturerede outputs
  • JSON-skema. Med response_format af typen json_schema følger svaret et skema, du sender. På /v1/chat/completions og /v1/responses. Strukturerede outputs
  • Prompt caching. En prompt, der begynder som en nylig prompt på samme model, læses fra cachen, og den cachede del afregnes til 25% af inputprisen. Den kræver intet anmodningsfelt. Prompt-caching
  • Websøgning. Med web_search: true søger API'et på nettet og giver resultaterne til modellen, før den svarer. På /v1/chat/completions og /v1/messages. Det er et felt i anmodningen og har intet flag i GET /v1/models. Indbygget websøgning
  • Streaming. Med stream: true kommer svaret som server-sent events, mens modellen skriver. Alle modeller streamer på alle tre endpoints. Streaming

De samme oplysninger fra GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models viser hver model med et capabilities-objekt, så et program kan læse disse oplysninger i stedet for denne side. Endpointet kræver ingen nøgle.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

id og capabilities for to poster i data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Kolonne Flag i capabilities
Værktøjer tools
Billedinput vision
Reasoning reasoning
Reasoning effort reasoning_effort
JSON-objekt response_format
JSON-skema json_schema
Prompt caching prompt_caching
Websøgning Ikke et flag: anmodningsfeltet web_search.
Streaming streaming
  • response_format og prompt_caching er flag på de hostede open-weight-poster. En Shannon-post rapporterer JSON-output alene med json_schema, som står for begge JSON-tilstande.
  • vision er true for shannon-2-lite og shannon-2-pro: de læser billeder i anmodninger, der også sender tools eller response_format.

Uden for en models række

En hostet open-weight-model afviser et billede eller en JSON-tilstand, der ligger uden for dens række. Afvisningen kommer, før der trækkes noget fra din saldo:

Status Type Besked Hvornår
400 invalid_request_error <id> does not accept image input Et billede blev sendt til en hostet open-weight-model uden billedinput.
400 invalid_request_error <id> does not accept response_format JSON-output blev bedt om fra en hostet open-weight-model, der ikke har nogen af JSON-tilstandene.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Et skema blev sendt til en hostet open-weight-model, der kun har JSON-objekttilstand.

En Shannon-model besvarer en sådan anmodning med status 200: den funktion, der ligger uden for dens række, indgår ikke i svaret. Fejlhåndtering