Iarracht réasúnaíochta
NuaFilleann múnla a dhéanann réasúnaíocht a théacs réasúnaíochta taobh leis an bhfreagra, i réimse dá chuid féin. Ar na múnlaí open-weight óstáilte socraíonn réimse iarratais amháin cé chomh domhain a dhéanann an múnla réasúnaíocht sula bhfreagraíonn sé.
POST https://api.shannon-ai.com/v1/chat/completions
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")
response = client.chat.completions.create(
model="Kimi-K3-3BIT-REAP",
reasoning_effort="low",
messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)
message = response.choices[0].message
print("Reasoning:", getattr(message, "reasoning_content", None))
print("Answer:", message.content)
print("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens) import OpenAI from "openai";
const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });
const response = await client.chat.completions.create({
model: "Kimi-K3-3BIT-REAP",
reasoning_effort: "low",
messages: [{ role: "user", content: "Is 221 a prime number?" }],
});
const message = response.choices[0].message;
console.log("Reasoning:", message.reasoning_content);
console.log("Answer:", message.content);
console.log("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens); curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "low",
"messages": [
{"role": "user", "content": "Is 221 a prime number?"}
]
}' Iompraíonn an freagra an téacs réasúnaíochta i reasoning_content, an freagra i content, agus na tokens réasúnaíochta i usage:
{
"id": "chatcmpl-2a6c8e0b4d1f4a3c9e7b5d3f1a8c6e4b",
"object": "chat.completion",
"created": 1791590400,
"model": "Kimi-K3-3BIT-REAP",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "No. 221 = 13 x 17, so it is not prime.",
"reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 14,
"completion_tokens": 43,
"total_tokens": 57,
"prompt_tokens_details": {"cached_tokens": 0},
"completion_tokens_details": {"reasoning_tokens": 27}
}
} Cé acu múnlaí a dhéanann réasúnaíocht
| Múnla | Filleann téacs réasúnaíochta | Cuireann an réimse iarrachta i bhfeidhm |
|---|---|---|
shannon-1.6-lite | — | — |
shannon-1.6-pro, shannon-2-lite, shannon-2-pro, shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro, shannon-coder-1 | Tá | — |
| Gach múnla open-weight óstáilte | Tá | Tá |
Seo na brataí capabilities.reasoning agus capabilities.reasoning_effort a thuairiscíonn GET /v1/models do gach id. Iompraíonn freagra téacs réasúnaíochta amháin nuair a tháirg an múnla roinnt. Múnlaí agus praghsáil
An iarracht a shocrú
Tá litriú dá chuid féin ag gach críochphointe don iarracht. Roghnaíonn gach ceann acu ceann de na ceithre leibhéal chéanna.
| Réimse | Cineál | Réamhshocrú | Cur síos | Curtha i bhfeidhm ag |
|---|---|---|---|---|
reasoning_effort | string | high | /v1/chat/completions. Cé chomh domhain a dhéanann an múnla réasúnaíocht sula bhfreagraíonn sé: off, low, medium nó high. | Múnlaí open-weight óstáilte |
reasoning | object | string | /v1/chat/completions. An luach céanna mar {"effort": "low"} nó mar shreang lom. Nuair a sheoltar an dá réimse, cuirtear reasoning_effort san áireamh. | Múnlaí open-weight óstáilte | |
reasoning.effort | string | high | /v1/responses. Scríofa mar an réad {"effort": "low"}. | Múnlaí open-weight óstáilte |
thinking | object | /v1/messages. {"type": "enabled", "budget_tokens": n} nó {"type": "disabled"}. Roghnaíonn an buiséad ceann de na leibhéil; féach an tábla níos faide anuas. | Múnlaí open-weight óstáilte |
{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "low",
"messages": [{"role": "user", "content": "Is 221 a prime number?"}]
} {
"model": "Kimi-K3-3BIT-REAP",
"reasoning": {"effort": "low"},
"input": "Is 221 a prime number?"
} {
"model": "Kimi-K3-3BIT-REAP",
"max_tokens": 1024,
"thinking": {"type": "enabled", "budget_tokens": 2048},
"messages": [{"role": "user", "content": "Is 221 a prime number?"}]
} | Luach | Glactar leis freisin | Éifeacht |
|---|---|---|
off | none, minimal | Gan réasúnaíocht. Ní iompraíonn an freagra aon téacs réasúnaíochta. |
low | Réasúnaíocht ghearr. | |
medium | default | Doimhneacht mheánach. |
high | max | An leibhéal is doimhne. Seo leibhéal iarratais nach seolann aon luach. |
- Léitear na luachanna gan aird ar litreacha móra nó beaga.
- Ciallaíonn an luach
defaultmedium. Má fhágann tú an réimse ar lár, ciallaíonn séhigh. - Socraíonn múnlaí Shannon (
shannon-*) a ndoimhneacht féin i ngach iarratas; tuairiscíonnGET /v1/modelsreasoning_effort: falsedóibh.
An buiséad smaointeoireachta ar /v1/messages
Ar /v1/messages roghnaíonn an réimse thinking an leibhéal. Roghnaíonn budget_tokens ceann de na leibhéil thuas; ní teorainn token dá chuid féin é. Léitear adaptive cosúil le enabled.
| Seolann tú | Leibhéal |
|---|---|
{"type": "disabled"} | off |
{"type": "enabled", "budget_tokens": n} le n suas le 2,048 | low |
n ó 2,049 go 8,192 | medium |
n níos mó, nó enabled gan budget_tokens | high |
Gan réimse thinking | high |
Cá dtagann an téacs réasúnaíochta
Bíonn téacs réasúnaíochta scartha ón bhfreagra i gcónaí. Tá áit dá chuid féin ag gach formáid dó:
| Críochphointe | Gan sruthú | Sruthaithe |
|---|---|---|
/v1/chat/completions | choices[0].message.reasoning_content: sreang, nó null nuair nár tháirg an múnla aon cheann. | Blúirí le choices[0].delta.reasoning_content, roimh na blúirí le delta.content. |
/v1/responses | Mír output {"type": "reasoning", "summary": [{"type": "summary_text", "text": "…"}]} roimh an mír message. Gan mír nuair nach bhfuil aon réasúnaíocht ann. | response.output_item.added le mír reasoning, ansin imeachtaí response.reasoning_summary_text.delta agus response.reasoning_summary_text.done amháin. |
/v1/messages | Céad bhloc ábhair {"type": "thinking", "thinking": "…"}, agus ansin an bloc text. Gan bloc thinking nuair nach bhfuil aon réasúnaíocht ann. | Bloc ábhair thinking: content_block_start, imeachtaí content_block_delta le thinking_delta, content_block_stop. Leanann an bloc téacs. |
{
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "No. 221 = 13 x 17, so it is not prime.",
"reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 14,
"completion_tokens": 43,
"total_tokens": 57,
"prompt_tokens_details": {"cached_tokens": 0},
"completion_tokens_details": {"reasoning_tokens": 27}
}
} {
"output": [
{
"id": "rs_6f0a2c4e8b1d4f3a9c7e5b3d1f8a6c4e",
"type": "reasoning",
"summary": [
{
"type": "summary_text",
"text": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
}
]
},
{
"id": "msg_1b3d5f7a9c2e4b6d8f0a2c4e6b8d0f1a",
"type": "message",
"role": "assistant",
"status": "completed",
"content": [
{
"type": "output_text",
"text": "No. 221 = 13 x 17, so it is not prime.",
"annotations": []
}
]
}
],
"usage": {
"input_tokens": 14,
"input_tokens_details": {"cached_tokens": 0},
"output_tokens": 43,
"output_tokens_details": {"reasoning_tokens": 27},
"total_tokens": 57
}
} {
"content": [
{
"type": "thinking",
"thinking": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
{"type": "text", "text": "No. 221 = 13 x 17, so it is not prime."}
],
"stop_reason": "end_turn",
"usage": {
"input_tokens": 14,
"cache_read_input_tokens": 0,
"cache_creation_input_tokens": 0,
"output_tokens": 43
}
} Cá bhféachaint, do gach múnla:
| Múnlaí | Cá dtagann an téacs |
|---|---|
| Múnlaí open-weight óstáilte | Ar gach críochphointe, sruthaithe nó nach ea. Freagraítear iarratas le hiarracht off, nó le response_format / text.format, gan téacs réasúnaíochta. |
shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro | Ar gach críochphointe, sruthaithe nó nach ea, aon uair a tháirg an múnla téacs réasúnaíochta. |
shannon-2-lite, shannon-2-pro | /v1/chat/completions, gan sruthú: i message.reasoning_content. Sruthaithe, in iarratas gan tools ná response_format: iompraíonn an sruth línte nótaí tráchta : thinking fad a dhéanann an múnla réasúnaíocht, agus ansin blúirí an fhreagra. /v1/messages, sruthaithe: bloc thinking roimh an mbloc téacs. |
shannon-1.6-pro, shannon-coder-1 | I bhfreagraí sruthaithe agus i bhfreagraí ar iarratais a iompraíonn tools, aon uair a tháirg an múnla téacs réasúnaíochta. |
Ar /v1/responses, iompraíonn freagra gan sruthú an mhír reasoning do theaghlach Shannon 3 agus do na múnlaí open-weight óstáilte.
Sruth a léamh
I sruth tagann an téacs réasúnaíochta ar dtús, i ndeilteanna dá gcuid féin, agus leanann an freagra. Priontáil nó stóráil an dá cheann ar leith:
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")
stream = client.chat.completions.create(
model="Kimi-K3-3BIT-REAP",
reasoning_effort="medium",
stream=True,
messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
reasoning = getattr(delta, "reasoning_content", None)
if reasoning:
print(reasoning, end="", flush=True) # the reasoning text comes first
if delta.content:
print(delta.content, end="", flush=True) # then the answer import OpenAI from "openai";
const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });
const stream = await client.chat.completions.create({
model: "Kimi-K3-3BIT-REAP",
reasoning_effort: "medium",
stream: true,
messages: [{ role: "user", content: "Is 221 a prime number?" }],
});
for await (const chunk of stream) {
const delta = chunk.choices[0]?.delta ?? {};
if (delta.reasoning_content) process.stdout.write(delta.reasoning_content); // the reasoning text comes first
if (delta.content) process.stdout.write(delta.content); // then the answer
} curl -N https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Is 221 a prime number?"}
]
}' Iompraíonn an chéad bhlúire de mhúnla open-weight óstáilte, réasúnaíocht nó freagra, delta.role: "assistant" freisin. Sruthú
Tokens réasúnaíochta agus billeáil
Ar na múnlaí open-weight óstáilte is tokens aschuir iad tokens réasúnaíochta: muirearaítear iad ar phraghas aschuir an mhúnla, agus tá siad san áireamh cheana sa chomhaireamh aschuir. Taispeánann usage sciar na réasúnaíochta anseo:
| Críochphointe | Réimse | Nóta |
|---|---|---|
/v1/chat/completions | usage.completion_tokens_details.reasoning_tokens | San áireamh cheana i completion_tokens. |
/v1/responses | usage.output_tokens_details.reasoning_tokens | San áireamh cheana i output_tokens. |
/v1/messages | usage.output_tokens | Réasúnaíocht agus freagra le chéile. Níl comhaireamh ar leith sa fhormáid seo. |
- Ar na múnlaí open-weight óstáilte cuireann
max_tokensteorainn le téacs an fhreagra. Ní áirítear tokens réasúnaíochta ina choinne. - Mar go muirearaítear réasúnaíocht mar aschur, is socrú costais é leibhéal na hiarrachta freisin: ní tháirgeann
offaon tokens réasúnaíochta. - Tuairiscíonn múnlaí Shannon
prompt_tokens,completion_tokensagustotal_tokens(input_tokensagusoutput_tokensar/v1/messages) gan sciar réasúnaíochta, agus muirearaíonn siad praghas cothrom amháin in aghaidh gach token. Múnlaí agus praghsáil
Réasúnaíocht san iarratas eile
Ní gá duit réasúnaíocht a sheoladh ar ais. Ní chuirtear bloc thinking ná mír reasoning sa chomhrá a sheolann tú ar aghaidh chuig an múnla, mar sin is féidir cas cúntóra a sheoladh ar ais leis nó gan é. Tá an dá réimse type agus thinking i mbloc thinking; níl signature air.
Earráidí
| Stádas | Cineál | Teachtaireacht | Cathain |
|---|---|---|---|
400 | invalid_request_error | unknown reasoning effort '<value>'; expected off, low, medium or high | Fuair múnla open-weight óstáilte luach lasmuigh den liosta, mar shampla xhigh. Ní thógtar faic as d'iarmhéid. |
422 | invalid_request_error | Failed to deserialize the JSON body into the target type: … | Ní sreang é reasoning_effort. |
Tá earráidí fíordheimhnithe, iarmhéid agus freastalaí mar a chéile le gach iarratas. Láimhseáil Earráide