Léim go dtí an t-ábhar
Iarracht réasúnaíochta

Iarracht réasúnaíochta

Nua

Filleann múnla a dhéanann réasúnaíocht a théacs réasúnaíochta taobh leis an bhfreagra, i réimse dá chuid féin. Ar na múnlaí open-weight óstáilte socraíonn réimse iarratais amháin cé chomh domhain a dhéanann an múnla réasúnaíocht sula bhfreagraíonn sé.

POST https://api.shannon-ai.com/v1/chat/completions

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

response = client.chat.completions.create(
    model="Kimi-K3-3BIT-REAP",
    reasoning_effort="low",
    messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)

message = response.choices[0].message
print("Reasoning:", getattr(message, "reasoning_content", None))
print("Answer:", message.content)
print("Reasoning tokens:", response.usage.completion_tokens_details.reasoning_tokens)

Iompraíonn an freagra an téacs réasúnaíochta i reasoning_content, an freagra i content, agus na tokens réasúnaíochta i usage:

200 JSON
{
  "id": "chatcmpl-2a6c8e0b4d1f4a3c9e7b5d3f1a8c6e4b",
  "object": "chat.completion",
  "created": 1791590400,
  "model": "Kimi-K3-3BIT-REAP",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "No. 221 = 13 x 17, so it is not prime.",
        "reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 43,
    "total_tokens": 57,
    "prompt_tokens_details": {"cached_tokens": 0},
    "completion_tokens_details": {"reasoning_tokens": 27}
  }
}

Cé acu múnlaí a dhéanann réasúnaíocht

Múnla Filleann téacs réasúnaíochta Cuireann an réimse iarrachta i bhfeidhm
shannon-1.6-lite — —
shannon-1.6-pro, shannon-2-lite, shannon-2-pro, shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro, shannon-coder-1 Tá —
Gach múnla open-weight óstáilte Tá Tá

Seo na brataí capabilities.reasoning agus capabilities.reasoning_effort a thuairiscíonn GET /v1/models do gach id. Iompraíonn freagra téacs réasúnaíochta amháin nuair a tháirg an múnla roinnt. Múnlaí agus praghsáil

An iarracht a shocrú

Tá litriú dá chuid féin ag gach críochphointe don iarracht. Roghnaíonn gach ceann acu ceann de na ceithre leibhéal chéanna.

Réimse Cineál Réamhshocrú Cur síos Curtha i bhfeidhm ag
reasoning_effort string high /v1/chat/completions. Cé chomh domhain a dhéanann an múnla réasúnaíocht sula bhfreagraíonn sé: off, low, medium nó high. Múnlaí open-weight óstáilte
reasoning object | string /v1/chat/completions. An luach céanna mar {"effort": "low"} nó mar shreang lom. Nuair a sheoltar an dá réimse, cuirtear reasoning_effort san áireamh. Múnlaí open-weight óstáilte
reasoning.effort string high /v1/responses. Scríofa mar an réad {"effort": "low"}. Múnlaí open-weight óstáilte
thinking object /v1/messages. {"type": "enabled", "budget_tokens": n} nó {"type": "disabled"}. Roghnaíonn an buiséad ceann de na leibhéil; féach an tábla níos faide anuas. Múnlaí open-weight óstáilte
{
  "model": "Kimi-K3-3BIT-REAP",
  "reasoning_effort": "low",
  "messages": [{"role": "user", "content": "Is 221 a prime number?"}]
}
Luach Glactar leis freisin Éifeacht
off none, minimal Gan réasúnaíocht. Ní iompraíonn an freagra aon téacs réasúnaíochta.
low Réasúnaíocht ghearr.
medium default Doimhneacht mheánach.
high max An leibhéal is doimhne. Seo leibhéal iarratais nach seolann aon luach.
  • Léitear na luachanna gan aird ar litreacha móra nó beaga.
  • Ciallaíonn an luach default medium. Má fhágann tú an réimse ar lár, ciallaíonn sé high.
  • Socraíonn múnlaí Shannon (shannon-*) a ndoimhneacht féin i ngach iarratas; tuairiscíonn GET /v1/models reasoning_effort: false dóibh.

An buiséad smaointeoireachta ar /v1/messages

Ar /v1/messages roghnaíonn an réimse thinking an leibhéal. Roghnaíonn budget_tokens ceann de na leibhéil thuas; ní teorainn token dá chuid féin é. Léitear adaptive cosúil le enabled.

Seolann tú Leibhéal
{"type": "disabled"} off
{"type": "enabled", "budget_tokens": n} le n suas le 2,048 low
n ó 2,049 go 8,192 medium
n níos mó, nó enabled gan budget_tokens high
Gan réimse thinking high

Cá dtagann an téacs réasúnaíochta

Bíonn téacs réasúnaíochta scartha ón bhfreagra i gcónaí. Tá áit dá chuid féin ag gach formáid dó:

Críochphointe Gan sruthú Sruthaithe
/v1/chat/completions choices[0].message.reasoning_content: sreang, nó null nuair nár tháirg an múnla aon cheann. Blúirí le choices[0].delta.reasoning_content, roimh na blúirí le delta.content.
/v1/responses Mír output {"type": "reasoning", "summary": [{"type": "summary_text", "text": "…"}]} roimh an mír message. Gan mír nuair nach bhfuil aon réasúnaíocht ann. response.output_item.added le mír reasoning, ansin imeachtaí response.reasoning_summary_text.delta agus response.reasoning_summary_text.done amháin.
/v1/messages Céad bhloc ábhair {"type": "thinking", "thinking": "…"}, agus ansin an bloc text. Gan bloc thinking nuair nach bhfuil aon réasúnaíocht ann. Bloc ábhair thinking: content_block_start, imeachtaí content_block_delta le thinking_delta, content_block_stop. Leanann an bloc téacs.
{
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "No. 221 = 13 x 17, so it is not prime.",
        "reasoning_content": "Try small primes. 221 / 13 = 17, so 221 = 13 x 17."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 43,
    "total_tokens": 57,
    "prompt_tokens_details": {"cached_tokens": 0},
    "completion_tokens_details": {"reasoning_tokens": 27}
  }
}

Cá bhféachaint, do gach múnla:

Múnlaí Cá dtagann an téacs
Múnlaí open-weight óstáilte Ar gach críochphointe, sruthaithe nó nach ea. Freagraítear iarratas le hiarracht off, nó le response_format / text.format, gan téacs réasúnaíochta.
shannon-3, shannon-3-pro, shannon-3.1, shannon-3.1-pro Ar gach críochphointe, sruthaithe nó nach ea, aon uair a tháirg an múnla téacs réasúnaíochta.
shannon-2-lite, shannon-2-pro /v1/chat/completions, gan sruthú: i message.reasoning_content. Sruthaithe, in iarratas gan tools ná response_format: iompraíonn an sruth línte nótaí tráchta : thinking fad a dhéanann an múnla réasúnaíocht, agus ansin blúirí an fhreagra. /v1/messages, sruthaithe: bloc thinking roimh an mbloc téacs.
shannon-1.6-pro, shannon-coder-1 I bhfreagraí sruthaithe agus i bhfreagraí ar iarratais a iompraíonn tools, aon uair a tháirg an múnla téacs réasúnaíochta.

Ar /v1/responses, iompraíonn freagra gan sruthú an mhír reasoning do theaghlach Shannon 3 agus do na múnlaí open-weight óstáilte.

Sruth a léamh

I sruth tagann an téacs réasúnaíochta ar dtús, i ndeilteanna dá gcuid féin, agus leanann an freagra. Priontáil nó stóráil an dá cheann ar leith:

from openai import OpenAI

client = OpenAI(api_key="YOUR_API_KEY", base_url="https://api.shannon-ai.com/v1")

stream = client.chat.completions.create(
    model="Kimi-K3-3BIT-REAP",
    reasoning_effort="medium",
    stream=True,
    messages=[{"role": "user", "content": "Is 221 a prime number?"}],
)

for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    reasoning = getattr(delta, "reasoning_content", None)
    if reasoning:
        print(reasoning, end="", flush=True)      # the reasoning text comes first
    if delta.content:
        print(delta.content, end="", flush=True)  # then the answer

Iompraíonn an chéad bhlúire de mhúnla open-weight óstáilte, réasúnaíocht nó freagra, delta.role: "assistant" freisin. Sruthú

Tokens réasúnaíochta agus billeáil

Ar na múnlaí open-weight óstáilte is tokens aschuir iad tokens réasúnaíochta: muirearaítear iad ar phraghas aschuir an mhúnla, agus tá siad san áireamh cheana sa chomhaireamh aschuir. Taispeánann usage sciar na réasúnaíochta anseo:

Críochphointe Réimse Nóta
/v1/chat/completions usage.completion_tokens_details.reasoning_tokens San áireamh cheana i completion_tokens.
/v1/responses usage.output_tokens_details.reasoning_tokens San áireamh cheana i output_tokens.
/v1/messages usage.output_tokens Réasúnaíocht agus freagra le chéile. Níl comhaireamh ar leith sa fhormáid seo.
  • Ar na múnlaí open-weight óstáilte cuireann max_tokens teorainn le téacs an fhreagra. Ní áirítear tokens réasúnaíochta ina choinne.
  • Mar go muirearaítear réasúnaíocht mar aschur, is socrú costais é leibhéal na hiarrachta freisin: ní tháirgeann off aon tokens réasúnaíochta.
  • Tuairiscíonn múnlaí Shannon prompt_tokens, completion_tokens agus total_tokens (input_tokens agus output_tokens ar /v1/messages) gan sciar réasúnaíochta, agus muirearaíonn siad praghas cothrom amháin in aghaidh gach token. Múnlaí agus praghsáil

Réasúnaíocht san iarratas eile

Ní gá duit réasúnaíocht a sheoladh ar ais. Ní chuirtear bloc thinking ná mír reasoning sa chomhrá a sheolann tú ar aghaidh chuig an múnla, mar sin is féidir cas cúntóra a sheoladh ar ais leis nó gan é. Tá an dá réimse type agus thinking i mbloc thinking; níl signature air.

Earráidí

Stádas Cineál Teachtaireacht Cathain
400 invalid_request_error unknown reasoning effort '<value>'; expected off, low, medium or high Fuair múnla open-weight óstáilte luach lasmuigh den liosta, mar shampla xhigh. Ní thógtar faic as d'iarmhéid.
422 invalid_request_error Failed to deserialize the JSON body into the target type: … Ní sreang é reasoning_effort.

Tá earráidí fíordheimhnithe, iarmhéid agus freastalaí mar a chéile le gach iarratas. Láimhseáil Earráide