Fara í efni
Rökhugsunarátak

Rökhugsunarátak

Nýtt

Líkan sem rökhugsar skilar rökhugsunartexta sínum við hlið svarsins, í sérstökum reit. Á hýstum líkönum með opnum þyngdum stillir einn beiðnireitur hversu djúpt líkanið rökhugsar áður en það svarar.

POST https://api.shannon-ai.com/v1/chat/completions

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

response = client.chat.completions.create(
    model="Kimi-K3-3BIT-REAP",
    reasoning_effort="low",
    messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)

message = response.choices[0].message
print("Reasoning:", getattr(message, "reasoning_content", None))
print("Answer:", message.content)
print("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens)

Svarið ber rökhugsunartextann í reasoning_content, svarið í content og rökhugsunartáknin í usage:

200 JSON
{
  "id": "chatcmpl-2a6c8e0b4d1f4a3c9e7b5d3f1a8c6e4b",
  "object": "chat.completion",
  "created": 1791590400,
  "model": "Kimi-K3-3BIT-REAP",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "No. 221 = 13 x 17, so it is not prime.",
        "reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 43,
    "total_tokens": 57,
    "prompt_tokens_details": {"cached_tokens": 0},
    "completion_tokens_details": {"reasoning_tokens": 27}
  }
}

Hvaða líkön rökhugsa

Líkan Skilar rökhugsunartexta Virðir átaksreitinn
shannon-1.6-lite — —
shannon-1.6-pro, shannon-2-lite, shannon-2-pro, shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro, shannon-coder-1 Já —
Hvert hýst líkan með opnum þyngdum Já Já

Þetta eru flöggin capabilities.reasoning og capabilities.reasoning_effort sem GET /v1/models sýnir fyrir hvert auðkenni. Svar ber rökhugsunartexta aðeins þegar líkanið skilaði einhverjum. Líkön og verð

Átak stillt

Hver endapunktur hefur sína eigin ritun átaksins. Þær velja allar eitt af sömu fjórum stigunum.

Reitur Gerð Sjálfgefið Lýsing Notað af
reasoning_effort string high /v1/chat/completions. Hversu djúpt líkanið rökhugsar áður en það svarar: off, low, medium eða high. Hýst líkön með opnum þyngdum
reasoning object | string /v1/chat/completions. Sama gildi sem {"effort": "low"} eða sem hreinn strengur. Þegar báðir reitirnir eru sendir gildir reasoning_effort. Hýst líkön með opnum þyngdum
reasoning.effort string high /v1/responses. Skrifað sem hluturinn {"effort": "low"}. Hýst líkön með opnum þyngdum
thinking object /v1/messages. {"type": "enabled", "budget_tokens": n} eða {"type": "disabled"}. Fjárhagsáætlunin velur eitt stiganna; sjá töfluna hér neðar. Hýst líkön með opnum þyngdum
{
  "model": "Kimi-K3-3BIT-REAP",
  "reasoning_effort": "low",
  "messages": [{"role": "user", "content": "Is 221 a prime number?"}]
}
Gildi Einnig samþykkt Áhrif
off none, minimal Engin rökhugsun. Svarið ber engan rökhugsunartexta.
low Stutt rökhugsun.
medium default Miðlungsdýpt.
high max Dýpsta stigið. Þetta er stig beiðni sem sendir ekkert gildi.
  • Gildi eru lesin án tillits til há- eða lágstafa.
  • Gildið default þýðir medium. Að sleppa reitnum þýðir high.
  • Shannon-líkönin (shannon-*) stilla dýpt sína sjálf í hverri beiðni; GET /v1/models sýnir reasoning_effort: false fyrir þau.

Thinking-fjárhagsáætlunin á /v1/messages

Á /v1/messages velur thinking reiturinn stigið. budget_tokens velur eitt stiganna hér að ofan; það eru ekki sérstök táknamörk. adaptive er lesið eins og enabled.

Þú sendir Stig
{"type": "disabled"} off
{"type": "enabled", "budget_tokens": n} með n allt að 2,048 low
n frá 2,049 til 8,192 medium
Stærra n, eða enabled án budget_tokens high
Enginn thinking reitur high

Hvar rökhugsunartextinn berst

Rökhugsunartexti er alltaf aðskilinn frá svarinu. Hvert snið hefur sinn stað fyrir hann:

Endapunktur Ekki streymt Streymt
/v1/chat/completions choices[0].message.reasoning_content: strengur, eða null þegar líkanið skilaði engri. Bútar með choices[0].delta.reasoning_content, á undan bútunum með delta.content.
/v1/responses output færsla {"type": "reasoning", "summary": [{"type": "summary_text", "text": "…"}]} á undan message færslunni. Engin færsla þegar engin rökhugsun er. response.output_item.added með reasoning færslu, síðan response.reasoning_summary_text.delta atburðir og einn response.reasoning_summary_text.done.
/v1/messages Fyrsta efnisblokk {"type": "thinking", "thinking": "…"}, síðan text blokkin. Engin thinking blokk þegar engin rökhugsun er. thinking efnisblokk: content_block_start, content_block_delta atburðir með thinking_delta, content_block_stop. Textablokkin fylgir.
{
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "No. 221 = 13 x 17, so it is not prime.",
        "reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 43,
    "total_tokens": 57,
    "prompt_tokens_details": {"cached_tokens": 0},
    "completion_tokens_details": {"reasoning_tokens": 27}
  }
}

Hvar á að leita, eftir líkani:

Líkön Hvar textinn berst
Hýst líkön með opnum þyngdum Á hverjum endapunkti, streymt eða ekki. Beiðni með átakið off, eða með response_format / text.format, er svarað án rökhugsunartexta.
shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro Á hverjum endapunkti, streymt eða ekki, hvenær sem líkanið skilaði rökhugsunartexta.
shannon-2-lite, shannon-2-pro /v1/chat/completions, ekki streymt: í message.reasoning_content. Streymt, í beiðni án tools eða response_format: straumurinn ber athugasemdarlínur : thinking meðan líkanið rökhugsar, síðan svarbútana. /v1/messages, streymt: thinking blokk á undan textablokkinni.
shannon-1.6-pro, shannon-coder-1 Í streymdum svörum og í svörum við beiðnum sem bera tools, hvenær sem líkanið skilaði rökhugsunartexta.

Á /v1/responses ber svar sem er ekki streymt reasoning færsluna fyrir Shannon 3 fjölskylduna og hýst líkön með opnum þyngdum.

Straumur lesinn

Í streymi kemur rökhugsunartextinn fyrst, í sérstökum deltum, og svarið fylgir. Prentaðu eða geymdu þetta tvennt aðskilið:

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

stream = client.chat.completions.create(
    model="Kimi-K3-3BIT-REAP",
    reasoning_effort="medium",
    stream=True,
    messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)

for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    reasoning = getattr(delta, "reasoning_content", None)
    if reasoning:
        print(reasoning, end="", flush=True)      # the reasoning text comes first
    if delta.content:
        print(delta.content, end="", flush=True)  # then the answer

Fyrsti búttur hýsts líkans með opnum þyngdum, rökhugsun eða svar, ber einnig delta.role: "assistant". Streymi

Rökhugsunartákn og gjaldfærsla

Á hýstum líkönum með opnum þyngdum eru rökhugsunartákn úttakstákn: þau eru gjaldfærð á úttaksverði líkansins, og úttakstalan inniheldur þau nú þegar. usage sýnir hlut rökhugsunar hér:

Endapunktur Reitur Athugasemd
/v1/chat/completions usage.completion_tokens_details.reasoning_tokens Þegar innifalið í completion_tokens.
/v1/responses usage.output_tokens_details.reasoning_tokens Þegar innifalið í output_tokens.
/v1/messages usage.output_tokens Rökhugsun og svar saman. Þetta snið hefur enga sérstaka talningu.
  • Á hýstum líkönum með opnum þyngdum takmarkar max_tokens svartextann. Rökhugsunartákn teljast ekki með.
  • Þar sem rökhugsun er gjaldfærð sem úttak er átaksstigið einnig kostnaðarstilling: off framleiðir engin rökhugsunartákn.
  • Shannon-líkönin skrá prompt_tokens, completion_tokens og total_tokens (input_tokens og output_tokens á /v1/messages) án hlutar rökhugsunar, og gjaldfæra eitt fast verð á tákn. Líkön og verð

Rökhugsun í næstu beiðni

Þú þarft ekki að senda rökhugsun til baka. thinking blokk eða reasoning færsla í samtalinu sem þú sendir er ekki send áfram til líkansins, svo assistant-lota getur farið til baka með eða án hennar. thinking blokk hefur reitina tvo type og thinking; hún hefur ekkert signature.

Villur

Staða Gerð Skilaboð Hvenær
400 invalid_request_error unknown reasoning effort '<value>'; expected off, low, medium or high Hýst líkan með opnum þyngdum fékk gildi utan listans, til dæmis xhigh. Ekkert er dregið af stöðunni þinni.
422 invalid_request_error Failed to deserialize the JSON body into the target type: … reasoning_effort er ekki strengur.

Auðkenning, staða og þjónsvillur eru þær sömu og fyrir allar beiðnir. Villumeðhöndlun