본문으로 건너뛰기
기능

기능

API를 통해 각 모델이 할 수 있는 일을 모델별로 정리했습니다: 도구, 이미지 입력, 추론, JSON 출력, 프롬프트 캐싱, 웹 검색, 스트리밍.

모든 모델은 동일한 세 엔드포인트에서 같은 키로 사용합니다. 두 표는 모델 간의 차이를 보여 줍니다. 대시는 해당 기능 없이 모델이 응답한다는 뜻입니다.

Shannon 모델

모델 도구이미지추론EffortJSON 객체JSON 스키마캐싱검색스트리밍
shannon-1.6-lite 예예——예예—예예
shannon-1.6-pro 예예예—예예—예예
shannon-2-lite 예—예—예예—예예
shannon-2-pro 예—예—예예—예예
shannon-3 예예예—예예—예예
shannon-3-pro 예예예—예예—예예
shannon-3.1 예예예—예예—예예
shannon-3.1-pro 예예예—예예—예예
shannon-3.5 예———예예——예
shannon-coder-1 예—예—예예——예

호스팅 오픈 웨이트 모델

호스팅 모델의 id는 모델 이름과 변형을 하이픈으로 연결한 것입니다. 예: DeepSeek-V4-Pro-0813-3BIT-REAP.

모델 도구이미지추론EffortJSON 객체JSON 스키마캐싱검색스트리밍
DeepSeek-V4-Pro-0813 3BIT-REAP 예—예예예예예—예
GLM-5.2 3BIT-REAP 예—예예예예예—예
Kimi-K3 3BIT-REAP 예예예예예예예—예
Nemotron3Ultra 3BIT-REAP 예—예예예예예—예
MiniMax-M3 3BIT-REAP 예예예예예예예—예
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP 예—예예예예예—예
Kimi-K2.6 W4A16-AUTOROUND-REAP 예예예예예예예—예
Laguna-S-2.1 W4A16-AUTOROUND-REAP 예—예예——예—예
inkling W4A16-AUTOROUND-REAP 예예예예예—예—예
MiMo-V2.5-Pro W8A16 예—예예예예예—예
MiMo-V2.5 W8A16 예예예예예예예—예
Hy3 W8A16 예—예예예예예—예

각 열의 의미

  • 도구. tools에 함수를 설명하면 모델이 호출하려는 함수를 응답으로 알려 주고, 사용자의 코드가 이를 실행합니다. 모든 모델이 도구를 지원합니다. 강제된 tool_choice는 호스팅 오픈 웨이트 모델에서 적용됩니다. 함수 호출
  • 이미지 입력. 모델은 사용자 메시지 안에 data URL 또는 주소로 보낸 이미지를 읽습니다. shannon-2-lite와 shannon-2-pro는 tools 또는 response_format도 함께 보내는 요청에서 이미지를 읽습니다. Shannon 3 제품군은 문서도 읽습니다. 이미지와 파일
  • 추론. 응답에는 답변과 함께 모델의 추론 텍스트가 별도 필드로 담길 수 있습니다. 추론 effort
  • 추론 effort. 요청 필드로 모델이 얼마나 깊이 추론할지 설정합니다: off, low, medium, high. Shannon 모델은 깊이를 스스로 정합니다. 추론 effort
  • JSON 객체. response_format: {"type": "json_object"}를 사용하면 정해진 구조 없이 JSON으로 답합니다. /v1/chat/completions와 /v1/responses에서 사용합니다. 구조화된 출력
  • JSON 스키마. json_schema 유형의 response_format을 사용하면 사용자가 보낸 스키마에 따라 답합니다. /v1/chat/completions와 /v1/responses에서 사용합니다. 구조화된 출력
  • 프롬프트 캐싱. 같은 모델에서 최근 프롬프트와 시작 부분이 같은 프롬프트는 캐시에서 읽으며, 캐시된 부분은 입력 가격의 25%로 청구됩니다. 요청 필드는 필요 없습니다. 프롬프트 캐싱
  • 웹 검색. web_search: true를 사용하면 API가 웹을 검색하고 모델이 답하기 전에 그 결과를 전달합니다. /v1/chat/completions와 /v1/messages에서 사용합니다. 요청 필드이며 GET /v1/models에는 플래그가 없습니다. 내장 웹 검색
  • 스트리밍. stream: true를 사용하면 모델이 작성하는 동안 응답이 server-sent events로 도착합니다. 모든 모델이 세 엔드포인트 모두에서 스트리밍을 지원합니다. 스트리밍

GET /v1/models에서 가져온 동일한 정보

GET https://api.shannon-ai.com/v1/models

GET /v1/models는 모든 모델을 capabilities 객체와 함께 나열하므로, 프로그램이 이 페이지 대신 이 정보를 읽을 수 있습니다. 이 엔드포인트에는 키가 필요하지 않습니다.

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

for model in client.models.list():
    print(model.id, getattr(model, "capabilities", None))

data의 두 항목에서 가져온 id와 capabilities:

200 JSON
[
  {
    "id": "shannon-3",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": false,
      "streaming": true,
      "json_schema": true
    }
  },
  {
    "id": "Kimi-K3-3BIT-REAP",
    "capabilities": {
      "tools": true,
      "vision": true,
      "reasoning": true,
      "reasoning_effort": true,
      "streaming": true,
      "response_format": true,
      "json_schema": true,
      "prompt_caching": true
    }
  }
]
열 capabilities의 플래그
도구 tools
이미지 입력 vision
추론 reasoning
추론 effort reasoning_effort
JSON 객체 response_format
JSON 스키마 json_schema
프롬프트 캐싱 prompt_caching
웹 검색 플래그가 아님: 요청 필드 web_search.
스트리밍 streaming
  • response_format과 prompt_caching은 호스팅 오픈 웨이트 항목의 플래그입니다. Shannon 항목은 JSON 출력을 json_schema 하나로만 보고하며, 이는 두 JSON 모드를 모두 의미합니다.
  • vision은 shannon-2-lite와 shannon-2-pro에서 true입니다. 이 모델들은 tools 또는 response_format도 함께 보내는 요청에서 이미지를 읽습니다.

모델의 행에 없는 기능

호스팅 오픈 웨이트 모델은 해당 행에 없는 이미지나 JSON 모드를 거부합니다. 거부는 잔액에서 아무것도 차감되기 전에 이루어집니다:

상태 유형 메시지 시점
400 invalid_request_error <id> does not accept image input 이미지 입력을 지원하지 않는 호스팅 오픈 웨이트 모델에 이미지를 보냈습니다.
400 invalid_request_error <id> does not accept response_format 두 JSON 모드 모두 없는 호스팅 오픈 웨이트 모델에 JSON 출력을 요청했습니다.
400 invalid_request_error <id> does not accept response_format json_schema; use json_object JSON 객체 모드만 있는 호스팅 오픈 웨이트 모델에 스키마를 보냈습니다.

Shannon 모델은 이런 요청에 상태 200으로 응답합니다. 해당 행에 없는 기능은 답변에 반영되지 않습니다. 오류 처리