Rökhugsunarátak
NýttLíkan sem rökhugsar skilar rökhugsunartexta sínum við hlið svarsins, í sérstökum reit. Á hýstum líkönum með opnum þyngdum stillir einn beiðnireitur hversu djúpt líkanið rökhugsar áður en það svarar.
POST https://api.shannon-ai.com/v1/chat/completions
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")
response = client.chat.completions.create(
model="Kimi-K3-3BIT-REAP",
reasoning_effort="low",
messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)
message = response.choices[0].message
print("Reasoning:", getattr(message, "reasoning_content", None))
print("Answer:", message.content)
print("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens) import OpenAI from "openai";
const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });
const response = await client.chat.completions.create({
model: "Kimi-K3-3BIT-REAP",
reasoning_effort: "low",
messages: [{ role: "user", content: "Is 221 a prime number?" }],
});
const message = response.choices[0].message;
console.log("Reasoning:", message.reasoning_content);
console.log("Answer:", message.content);
console.log("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens); curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "low",
"messages": [
{"role": "user", "content": "Is 221 a prime number?"}
]
}' Svarið ber rökhugsunartextann í reasoning_content, svarið í content og rökhugsunartáknin í usage:
{
"id": "chatcmpl-2a6c8e0b4d1f4a3c9e7b5d3f1a8c6e4b",
"object": "chat.completion",
"created": 1791590400,
"model": "Kimi-K3-3BIT-REAP",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "No. 221 = 13 x 17, so it is not prime.",
"reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 14,
"completion_tokens": 43,
"total_tokens": 57,
"prompt_tokens_details": {"cached_tokens": 0},
"completion_tokens_details": {"reasoning_tokens": 27}
}
} Hvaða líkön rökhugsa
| Líkan | Skilar rökhugsunartexta | Virðir átaksreitinn |
|---|---|---|
shannon-1.6-lite | — | — |
shannon-1.6-pro, shannon-2-lite, shannon-2-pro, shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro, shannon-coder-1 | Já | — |
| Hvert hýst líkan með opnum þyngdum | Já | Já |
Þetta eru flöggin capabilities.reasoning og capabilities.reasoning_effort sem GET /v1/models sýnir fyrir hvert auðkenni. Svar ber rökhugsunartexta aðeins þegar líkanið skilaði einhverjum. Líkön og verð
Átak stillt
Hver endapunktur hefur sína eigin ritun átaksins. Þær velja allar eitt af sömu fjórum stigunum.
| Reitur | Gerð | Sjálfgefið | Lýsing | Notað af |
|---|---|---|---|---|
reasoning_effort | string | high | /v1/chat/completions. Hversu djúpt líkanið rökhugsar áður en það svarar: off, low, medium eða high. | Hýst líkön með opnum þyngdum |
reasoning | object | string | /v1/chat/completions. Sama gildi sem {"effort": "low"} eða sem hreinn strengur. Þegar báðir reitirnir eru sendir gildir reasoning_effort. | Hýst líkön með opnum þyngdum | |
reasoning.effort | string | high | /v1/responses. Skrifað sem hluturinn {"effort": "low"}. | Hýst líkön með opnum þyngdum |
thinking | object | /v1/messages. {"type": "enabled", "budget_tokens": n} eða {"type": "disabled"}. Fjárhagsáætlunin velur eitt stiganna; sjá töfluna hér neðar. | Hýst líkön með opnum þyngdum |
{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "low",
"messages": [{"role": "user", "content": "Is 221 a prime number?"}]
} {
"model": "Kimi-K3-3BIT-REAP",
"reasoning": {"effort": "low"},
"input": "Is 221 a prime number?"
} {
"model": "Kimi-K3-3BIT-REAP",
"max_tokens": 1024,
"thinking": {"type": "enabled", "budget_tokens": 2048},
"messages": [{"role": "user", "content": "Is 221 a prime number?"}]
} | Gildi | Einnig samþykkt | Áhrif |
|---|---|---|
off | none, minimal | Engin rökhugsun. Svarið ber engan rökhugsunartexta. |
low | Stutt rökhugsun. | |
medium | default | Miðlungsdýpt. |
high | max | Dýpsta stigið. Þetta er stig beiðni sem sendir ekkert gildi. |
- Gildi eru lesin án tillits til há- eða lágstafa.
- Gildið
defaultþýðirmedium. Að sleppa reitnum þýðirhigh. - Shannon-líkönin (
shannon-*) stilla dýpt sína sjálf í hverri beiðni;GET /v1/modelssýnirreasoning_effort: falsefyrir þau.
Thinking-fjárhagsáætlunin á /v1/messages
Á /v1/messages velur thinking reiturinn stigið. budget_tokens velur eitt stiganna hér að ofan; það eru ekki sérstök táknamörk. adaptive er lesið eins og enabled.
| Þú sendir | Stig |
|---|---|
{"type": "disabled"} | off |
{"type": "enabled", "budget_tokens": n} með n allt að 2,048 | low |
n frá 2,049 til 8,192 | medium |
Stærra n, eða enabled án budget_tokens | high |
Enginn thinking reitur | high |
Hvar rökhugsunartextinn berst
Rökhugsunartexti er alltaf aðskilinn frá svarinu. Hvert snið hefur sinn stað fyrir hann:
| Endapunktur | Ekki streymt | Streymt |
|---|---|---|
/v1/chat/completions | choices[0].message.reasoning_content: strengur, eða null þegar líkanið skilaði engri. | Bútar með choices[0].delta.reasoning_content, á undan bútunum með delta.content. |
/v1/responses | output færsla {"type": "reasoning", "summary": [{"type": "summary_text", "text": "…"}]} á undan message færslunni. Engin færsla þegar engin rökhugsun er. | response.output_item.added með reasoning færslu, síðan response.reasoning_summary_text.delta atburðir og einn response.reasoning_summary_text.done. |
/v1/messages | Fyrsta efnisblokk {"type": "thinking", "thinking": "…"}, síðan text blokkin. Engin thinking blokk þegar engin rökhugsun er. | thinking efnisblokk: content_block_start, content_block_delta atburðir með thinking_delta, content_block_stop. Textablokkin fylgir. |
{
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "No. 221 = 13 x 17, so it is not prime.",
"reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 14,
"completion_tokens": 43,
"total_tokens": 57,
"prompt_tokens_details": {"cached_tokens": 0},
"completion_tokens_details": {"reasoning_tokens": 27}
}
} {
"output": [
{
"id": "rs_6f0a2c4e8b1d4f3a9c7e5b3d1f8a6c4e",
"type": "reasoning",
"summary": [
{
"type": "summary_text",
"text": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
}
]
},
{
"id": "msg_1b3d5f7a9c2e4b6d8f0a2c4e6b8d0f1a",
"type": "message",
"role": "assistant",
"status": "completed",
"content": [
{
"type": "output_text",
"text": "No. 221 = 13 x 17, so it is not prime.",
"annotations": []
}
]
}
],
"usage": {
"input_tokens": 14,
"input_tokens_details": {"cached_tokens": 0},
"output_tokens": 43,
"output_tokens_details": {"reasoning_tokens": 27},
"total_tokens": 57
}
} {
"content": [
{
"type": "thinking",
"thinking": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
},
{"type": "text", "text": "No. 221 = 13 x 17, so it is not prime."}
],
"stop_reason": "end_turn",
"usage": {
"input_tokens": 14,
"cache_read_input_tokens": 0,
"cache_creation_input_tokens": 0,
"output_tokens": 43
}
} Hvar á að leita, eftir líkani:
| Líkön | Hvar textinn berst |
|---|---|
| Hýst líkön með opnum þyngdum | Á hverjum endapunkti, streymt eða ekki. Beiðni með átakið off, eða með response_format / text.format, er svarað án rökhugsunartexta. |
shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro | Á hverjum endapunkti, streymt eða ekki, hvenær sem líkanið skilaði rökhugsunartexta. |
shannon-2-lite, shannon-2-pro | /v1/chat/completions, ekki streymt: í message.reasoning_content. Streymt, í beiðni án tools eða response_format: straumurinn ber athugasemdarlínur : thinking meðan líkanið rökhugsar, síðan svarbútana. /v1/messages, streymt: thinking blokk á undan textablokkinni. |
shannon-1.6-pro, shannon-coder-1 | Í streymdum svörum og í svörum við beiðnum sem bera tools, hvenær sem líkanið skilaði rökhugsunartexta. |
Á /v1/responses ber svar sem er ekki streymt reasoning færsluna fyrir Shannon 3 fjölskylduna og hýst líkön með opnum þyngdum.
Straumur lesinn
Í streymi kemur rökhugsunartextinn fyrst, í sérstökum deltum, og svarið fylgir. Prentaðu eða geymdu þetta tvennt aðskilið:
from openai import OpenAI
client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")
stream = client.chat.completions.create(
model="Kimi-K3-3BIT-REAP",
reasoning_effort="medium",
stream=True,
messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
reasoning = getattr(delta, "reasoning_content", None)
if reasoning:
print(reasoning, end="", flush=True) # the reasoning text comes first
if delta.content:
print(delta.content, end="", flush=True) # then the answer import OpenAI from "openai";
const client = new OpenAI({ apiKey: "YOUR_API_KEY", baseURL: "https://api.shannon-ai.com/v1" });
const stream = await client.chat.completions.create({
model: "Kimi-K3-3BIT-REAP",
reasoning_effort: "medium",
stream: true,
messages: [{ role: "user", content: "Is 221 a prime number?" }],
});
for await (const chunk of stream) {
const delta = chunk.choices[0]?.delta ?? {};
if (delta.reasoning_content) process.stdout.write(delta.reasoning_content); // the reasoning text comes first
if (delta.content) process.stdout.write(delta.content); // then the answer
} curl -N https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Kimi-K3-3BIT-REAP",
"reasoning_effort": "medium",
"stream": true,
"messages": [
{"role": "user", "content": "Is 221 a prime number?"}
]
}' Fyrsti búttur hýsts líkans með opnum þyngdum, rökhugsun eða svar, ber einnig delta.role: "assistant". Streymi
Rökhugsunartákn og gjaldfærsla
Á hýstum líkönum með opnum þyngdum eru rökhugsunartákn úttakstákn: þau eru gjaldfærð á úttaksverði líkansins, og úttakstalan inniheldur þau nú þegar. usage sýnir hlut rökhugsunar hér:
| Endapunktur | Reitur | Athugasemd |
|---|---|---|
/v1/chat/completions | usage.completion_tokens_details.reasoning_tokens | Þegar innifalið í completion_tokens. |
/v1/responses | usage.output_tokens_details.reasoning_tokens | Þegar innifalið í output_tokens. |
/v1/messages | usage.output_tokens | Rökhugsun og svar saman. Þetta snið hefur enga sérstaka talningu. |
- Á hýstum líkönum með opnum þyngdum takmarkar
max_tokenssvartextann. Rökhugsunartákn teljast ekki með. - Þar sem rökhugsun er gjaldfærð sem úttak er átaksstigið einnig kostnaðarstilling:
offframleiðir engin rökhugsunartákn. - Shannon-líkönin skrá
prompt_tokens,completion_tokensogtotal_tokens(input_tokensogoutput_tokensá/v1/messages) án hlutar rökhugsunar, og gjaldfæra eitt fast verð á tákn. Líkön og verð
Rökhugsun í næstu beiðni
Þú þarft ekki að senda rökhugsun til baka. thinking blokk eða reasoning færsla í samtalinu sem þú sendir er ekki send áfram til líkansins, svo assistant-lota getur farið til baka með eða án hennar. thinking blokk hefur reitina tvo type og thinking; hún hefur ekkert signature.
Villur
| Staða | Gerð | Skilaboð | Hvenær |
|---|---|---|---|
400 | invalid_request_error | unknown reasoning effort '<value>'; expected off, low, medium or high | Hýst líkan með opnum þyngdum fékk gildi utan listans, til dæmis xhigh. Ekkert er dregið af stöðunni þinni. |
422 | invalid_request_error | Failed to deserialize the JSON body into the target type: … | reasoning_effort er ekki strengur. |
Auðkenning, staða og þjónsvillur eru þær sömu og fyrir allar beiðnir. Villumeðhöndlun