기능
API를 통해 각 모델이 할 수 있는 일을 모델별로 정리했습니다: 도구, 이미지 입력, 추론, JSON 출력, 프롬프트 캐싱, 웹 검색, 스트리밍.
모든 모델은 동일한 세 엔드포인트에서 같은 키로 사용합니다. 두 표는 모델 간의 차이를 보여 줍니다. 대시는 해당 기능 없이 모델이 응답한다는 뜻입니다.
Shannon 모델
| 모델 | 도구 | 이미지 | 추론 | Effort | JSON 객체 | JSON 스키마 | 캐싱 | 검색 | 스트리밍 |
|---|---|---|---|---|---|---|---|---|---|
shannon-1.6-lite | 예 | 예 | — | — | 예 | 예 | — | 예 | 예 |
shannon-1.6-pro | 예 | 예 | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-2-lite | 예 | — | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-2-pro | 예 | — | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-3 | 예 | 예 | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-3-pro | 예 | 예 | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-3.1 | 예 | 예 | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-3.1-pro | 예 | 예 | 예 | — | 예 | 예 | — | 예 | 예 |
shannon-3.5 | 예 | — | — | — | 예 | 예 | — | — | 예 |
shannon-coder-1 | 예 | — | 예 | — | 예 | 예 | — | — | 예 |
호스팅 오픈 웨이트 모델
호스팅 모델의 id는 모델 이름과 변형을 하이픈으로 연결한 것입니다. 예: DeepSeek-V4-Pro-0813-3BIT-REAP.
| 모델 | 도구 | 이미지 | 추론 | Effort | JSON 객체 | JSON 스키마 | 캐싱 | 검색 | 스트리밍 |
|---|---|---|---|---|---|---|---|---|---|
DeepSeek-V4-Pro-0813 3BIT-REAP | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
GLM-5.2 3BIT-REAP | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
Kimi-K3 3BIT-REAP | 예 | 예 | 예 | 예 | 예 | 예 | 예 | — | 예 |
Nemotron3Ultra 3BIT-REAP | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
MiniMax-M3 3BIT-REAP | 예 | 예 | 예 | 예 | 예 | 예 | 예 | — | 예 |
DeepSeek-V4-Flash-0731 W4A16-AUTOROUND-REAP | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
Kimi-K2.6 W4A16-AUTOROUND-REAP | 예 | 예 | 예 | 예 | 예 | 예 | 예 | — | 예 |
Laguna-S-2.1 W4A16-AUTOROUND-REAP | 예 | — | 예 | 예 | — | — | 예 | — | 예 |
inkling W4A16-AUTOROUND-REAP | 예 | 예 | 예 | 예 | 예 | — | 예 | — | 예 |
MiMo-V2.5-Pro W8A16 | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
MiMo-V2.5 W8A16 | 예 | 예 | 예 | 예 | 예 | 예 | 예 | — | 예 |
Hy3 W8A16 | 예 | — | 예 | 예 | 예 | 예 | 예 | — | 예 |
각 열의 의미
- 도구.
tools에 함수를 설명하면 모델이 호출하려는 함수를 응답으로 알려 주고, 사용자의 코드가 이를 실행합니다. 모든 모델이 도구를 지원합니다. 강제된tool_choice는 호스팅 오픈 웨이트 모델에서 적용됩니다. 함수 호출 - 이미지 입력. 모델은 사용자 메시지 안에 data URL 또는 주소로 보낸 이미지를 읽습니다.
shannon-2-lite와shannon-2-pro는tools또는response_format도 함께 보내는 요청에서 이미지를 읽습니다. Shannon 3 제품군은 문서도 읽습니다. 이미지와 파일 - 추론. 응답에는 답변과 함께 모델의 추론 텍스트가 별도 필드로 담길 수 있습니다. 추론 effort
- 추론 effort. 요청 필드로 모델이 얼마나 깊이 추론할지 설정합니다:
off,low,medium,high. Shannon 모델은 깊이를 스스로 정합니다. 추론 effort - JSON 객체.
response_format: {"type": "json_object"}를 사용하면 정해진 구조 없이 JSON으로 답합니다./v1/chat/completions와/v1/responses에서 사용합니다. 구조화된 출력 - JSON 스키마.
json_schema유형의response_format을 사용하면 사용자가 보낸 스키마에 따라 답합니다./v1/chat/completions와/v1/responses에서 사용합니다. 구조화된 출력 - 프롬프트 캐싱. 같은 모델에서 최근 프롬프트와 시작 부분이 같은 프롬프트는 캐시에서 읽으며, 캐시된 부분은 입력 가격의 25%로 청구됩니다. 요청 필드는 필요 없습니다. 프롬프트 캐싱
- 웹 검색.
web_search: true를 사용하면 API가 웹을 검색하고 모델이 답하기 전에 그 결과를 전달합니다./v1/chat/completions와/v1/messages에서 사용합니다. 요청 필드이며GET /v1/models에는 플래그가 없습니다. 내장 웹 검색 - 스트리밍.
stream: true를 사용하면 모델이 작성하는 동안 응답이 server-sent events로 도착합니다. 모든 모델이 세 엔드포인트 모두에서 스트리밍을 지원합니다. 스트리밍
GET /v1/models에서 가져온 동일한 정보
GET https://api.shannon-ai.com/v1/models
GET /v1/models는 모든 모델을 capabilities 객체와 함께 나열하므로, 프로그램이 이 페이지 대신 이 정보를 읽을 수 있습니다. 이 엔드포인트에는 키가 필요하지 않습니다.
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")
for model in client.models.list():
print(model.id, getattr(model, "capabilities", None)) import OpenAI from "openai";
const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });
for await (const model of client.models.list()) {
console.log(model.id, model.capabilities);
} curl https://api.shannon-ai.com/v1/models data의 두 항목에서 가져온 id와 capabilities:
200 JSON
[
{
"id": "shannon-3",
"capabilities": {
"tools": true,
"vision": true,
"reasoning": true,
"reasoning_effort": false,
"streaming": true,
"json_schema": true
}
},
{
"id": "Kimi-K3-3BIT-REAP",
"capabilities": {
"tools": true,
"vision": true,
"reasoning": true,
"reasoning_effort": true,
"streaming": true,
"response_format": true,
"json_schema": true,
"prompt_caching": true
}
}
] | 열 | capabilities의 플래그 |
|---|---|
| 도구 | tools |
| 이미지 입력 | vision |
| 추론 | reasoning |
| 추론 effort | reasoning_effort |
| JSON 객체 | response_format |
| JSON 스키마 | json_schema |
| 프롬프트 캐싱 | prompt_caching |
| 웹 검색 | 플래그가 아님: 요청 필드 web_search. |
| 스트리밍 | streaming |
response_format과prompt_caching은 호스팅 오픈 웨이트 항목의 플래그입니다. Shannon 항목은 JSON 출력을json_schema하나로만 보고하며, 이는 두 JSON 모드를 모두 의미합니다.vision은shannon-2-lite와shannon-2-pro에서true입니다. 이 모델들은tools또는response_format도 함께 보내는 요청에서 이미지를 읽습니다.
모델의 행에 없는 기능
호스팅 오픈 웨이트 모델은 해당 행에 없는 이미지나 JSON 모드를 거부합니다. 거부는 잔액에서 아무것도 차감되기 전에 이루어집니다:
| 상태 | 유형 | 메시지 | 시점 |
|---|---|---|---|
400 | invalid_request_error | <id> does not accept image input | 이미지 입력을 지원하지 않는 호스팅 오픈 웨이트 모델에 이미지를 보냈습니다. |
400 | invalid_request_error | <id> does not accept response_format | 두 JSON 모드 모두 없는 호스팅 오픈 웨이트 모델에 JSON 출력을 요청했습니다. |
400 | invalid_request_error | <id> does not accept response_format json_schema; use json_object | JSON 객체 모드만 있는 호스팅 오픈 웨이트 모델에 스키마를 보냈습니다. |
Shannon 모델은 이런 요청에 상태 200으로 응답합니다. 해당 행에 없는 기능은 답변에 반영되지 않습니다. 오류 처리