Zum Inhalt springen
Funktionen

Funktionen

Was jedes Modell über die API kann, Modell für Modell: Tools, Bild-Input, Reasoning, JSON-Ausgabe, Prompt-Caching, Websuche und Streaming.

Jedes Modell wird über dieselben drei Endpunkte mit demselben Key erreicht. Die beiden Tabellen zeigen, wo sich die Modelle unterscheiden. Ein Strich bedeutet, dass das Modell ohne diese Funktion antwortet.

Shannon-Modelle

Modell ToolsBilderReasoningAufwandJSON-ObjektJSON-SchemaCachingSucheStreaming
shannon-1.6-lite JaJa——JaJa—JaJa
shannon-1.6-pro JaJaJa—JaJa—JaJa
shannon-2-lite Ja—Ja—JaJa—JaJa
shannon-2-pro Ja—Ja—JaJa—JaJa
shannon-3 JaJaJa—JaJa—JaJa
shannon-3-pro JaJaJa—JaJa—JaJa
shannon-3.1 JaJaJa—JaJa—JaJa
shannon-3.1-pro JaJaJa—JaJa—JaJa
shannon-3.5 Ja———JaJa——Ja
shannon-coder-1 Ja—Ja—JaJa——Ja

Gehostete Open-Weight-Modelle

Die ID eines gehosteten Modells besteht aus seinem Namen und seiner Variante, verbunden durch einen Bindestrich, zum Beispiel DeepSeek-V4-Pro-0813-3BIT-REAP.

Modell ToolsBilderReasoningAufwandJSON-ObjektJSON-SchemaCachingSucheStreaming
DeepSeek-V4-Pro-0813 3BIT-REAP Ja—JaJaJaJaJa—Ja
GLM-5.2 3BIT-REAP Ja—JaJaJaJaJa—Ja
Kimi-K3 3BIT-REAP JaJaJaJaJaJaJa—Ja
Nemotron3Ultra 3BIT-REAP Ja—JaJaJaJaJa—Ja
MiniMax-M3 3BIT-REAP JaJaJaJaJaJaJa—Ja
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP Ja—JaJaJaJaJa—Ja
Kimi-K2.6 W4A16-AUTOROUND-REAP JaJaJaJaJaJaJa—Ja
Laguna-S-2.1 W4A16-AUTOROUND-REAP Ja—JaJa——Ja—Ja
inkling W4A16-AUTOROUND-REAP JaJaJaJaJa—Ja—Ja
MiMo-V2.5-Pro W8A16 Ja—JaJaJaJaJa—Ja
MiMo-V2.5 W8A16 JaJaJaJaJaJaJa—Ja
Hy3 W8A16 Ja—JaJaJaJaJa—Ja

Was jede Spalte bedeutet

  • Tools. Sie beschreiben Funktionen in tools, das Modell antwortet mit den Aufrufen, die ausgeführt werden sollen, und Ihr Code führt sie aus. Jedes Modell nimmt Tools an. Ein erzwungenes tool_choice wird von den gehosteten Open-Weight-Modellen angewendet. Funktionsaufrufe
  • Bild-Input. Das Modell liest Bilder, die in einer User-Nachricht gesendet werden, als Data-URL oder als Adresse. shannon-2-lite und shannon-2-pro lesen Bilder auch in Anfragen, die zusätzlich tools oder response_format senden. Die Shannon-3-Familie liest auch Dokumente. Bilder und Dateien
  • Reasoning. Die Antwort kann den Reasoning-Text des Modells neben der Antwort in einem eigenen Feld enthalten. Reasoning-Aufwand
  • Reasoning-Aufwand. Ein Anfragefeld legt fest, wie tief das Modell nachdenkt: off, low, medium oder high. Die Shannon-Modelle bestimmen ihre Tiefe selbst. Reasoning-Aufwand
  • JSON-Objekt. Mit response_format: {"type": "json_object"} ist die Antwort JSON ohne vorgeschriebene Form. Bei /v1/chat/completions und /v1/responses. Strukturierte Ausgaben
  • JSON-Schema. Mit response_format vom Typ json_schema folgt die Antwort einem Schema, das Sie senden. Bei /v1/chat/completions und /v1/responses. Strukturierte Ausgaben
  • Prompt-Caching. Ein Prompt, der wie ein kürzlicher beim selben Modell beginnt, wird aus dem Cache gelesen, und der gecachte Teil wird mit 25% des Input-Preises berechnet. Dafür ist kein Anfragefeld nötig. Prompt-Caching
  • Websuche. Mit web_search: true durchsucht die API das Web und gibt die Ergebnisse an das Modell, bevor es antwortet. Bei /v1/chat/completions und /v1/messages. Es ist ein Feld der Anfrage und hat kein Flag in GET /v1/models. Integrierte Websuche
  • Streaming. Mit stream: true trifft die Antwort als Server-Sent Events ein, während das Modell schreibt. Jedes Modell streamt an allen drei Endpunkten. Streaming

Dieselben Fakten aus GET /v1/models

GET https://api.shannon-ai.com/v1/models

GET /v1/models listet jedes Modell mit einem Objekt capabilities auf, sodass ein Programm diese Fakten lesen kann, statt diese Seite zu verwenden. Der Endpunkt braucht keinen Key.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

Die id und die capabilities von zwei Einträgen in data:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
Spalte Flag in capabilities
Tools tools
Bild-Input vision
Reasoning reasoning
Reasoning-Aufwand reasoning_effort
JSON-Objekt response_format
JSON-Schema json_schema
Prompt-Caching prompt_caching
Websuche Kein Flag: das Anfragefeld web_search.
Streaming streaming
  • response_format und prompt_caching sind Flags der gehosteten Open-Weight-Einträge. Ein Shannon-Eintrag meldet JSON-Ausgabe nur mit json_schema, das für beide JSON-Modi steht.
  • vision ist true für shannon-2-lite und shannon-2-pro: Sie lesen Bilder auch in Anfragen, die zusätzlich tools oder response_format senden.

Außerhalb der Zeile eines Modells

Ein gehostetes Open-Weight-Modell lehnt ein Bild oder einen JSON-Modus ab, die außerhalb seiner Zeile liegen. Die Ablehnung erfolgt, bevor etwas von Ihrem Guthaben abgebucht wird:

Status Typ Nachricht Wann
400 invalid_request_error <id> does not accept image input Ein Bild wurde an ein gehostetes Open-Weight-Modell ohne Bild-Input gesendet.
400 invalid_request_error <id> does not accept response_format JSON-Ausgabe wurde von einem gehosteten Open-Weight-Modell verlangt, das keinen der beiden JSON-Modi hat.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object Ein Schema wurde an ein gehostetes Open-Weight-Modell gesendet, das nur den JSON-Objekt-Modus hat.

Ein Shannon-Modell beantwortet eine solche Anfrage mit dem Status 200: Die Funktion außerhalb seiner Zeile spielt für die Antwort keine Rolle. Fehlerbehandlung