Цензургүй Inkling Загварын API

Манай gateway дээрх арван хоёр загварын ихэнх нь зөвхөн текстийнх. Дөрөв нь тийм биш бөгөөд тэр дөрвийн дунд Inkling тодорхой байр суурь эзэлдэг: зураг нь бодлогын хэцүү хэсэг байгаа ч төсөв нь тэргүүн загварт хүрэхгүй үед хандах хараатай загвар. Энэ карт нь суурь загвар хаанаас гаралтай, W4A16-AUTOROUND-REAP дагавар түүнд юу хийсэн, API-н гадаргуу дээр юу хийх, юу хийхгүй, мөн — үнэнээр хэлэхэд — ижил каталог дахь хямд загвар хэзээ дээр сонголт болохыг хамардаг.

01Inkling гэж юу вэ, хэн бүтээсэн бэ?

Inkling бол Thinking Machines Lab-ийн анхны нээлттэй жинтэй загвар бөгөөд 2026 оны 7 сарын 15-нд нийтлэгдсэн. «Нээлттэй» гэж байрлуулагдсан ихэнх гаралтаас ялгаатай нь энэ нь Hugging Face дээр бүрэн татаж авах боломжтой жинтэйгээр, мөн transformers, SGLang, vLLM, llama.cpp дээр эхний өдрөөс дэмжлэгтэйгээр гарсан — яг үүний ачаар манайх шиг дэд бүтцэд ажиллуулах боломжтой болсон юм. Thinking Machines-ийн өөрсдийн гаралтын материалаас авсан гол тоонууд:

Энэ бол сийрэг Mixture-of-Experts бүтэц: 6,144 нуугдмал хэмжээтэй 66 декодерын давхарга бөгөөд эхний хоёр нь нягт, үлдсэн 64 нь 256 чиглүүлсэн мэргэжилтэн дээр нэмээд 2 хуваалцсан мэргэжилтэнтэй, токен тутамд 6 чиглүүлсэн мэргэжилтэн идэвхтэй байдаг. Аль ч токен дээр параметрийн ойролцоогоор 4% нь асдаг — яг үүний ачаар триллионд ойрхон параметртэй загварыг үйлчлүүлэх боломжтой болдог.

Хоёр архитектурын сонголт нэрлэхийн хэрээр ер бусын. Анхаарал нь сэлгэсэн — 512 токены цонхон дээгүүр гүйдэг цонхны 55 давхарга, глобал 11 давхаргын эсрэг, 5:1 давтагдах хэв маягаар. Мөн Inkling нь RoPE ашигладаггүй: түүний оронд сурсан, оролтоос хамаарсан харьцангуй байршлын хазайлт, түүнчлэн түлхүүр/утгын төсөөлөл ба үлдэгдэл салаанууд дээр богино учир шалтгааны эрчилбэрүүд ашигладаг. Sebastian Raschka-ийн архитектурын тэмдэглэл хоёуланг нь 2026 оны стандарт жороос гарсан бодит хазайлт гэж тэмдэглэсэн. Сургалтад том матрицын параметрүүдэд Muon, бусдад нь Adam ашиглаж, дараа нь сургалтын дараах үе шатанд 30 сая гаруй асинхрон RL гүйлтүүд хийсэн.

API хэрэглэгчийн хувьд гол зүйл нь эдгээр нарийн ширийн зүйл биш. Гол зүйл нь энэ бол текст, зураг, аудио, видеог хамарсан 45 триллион токен дээр сургагдсан тэргүүн эгнээний хэмжээний, төрөлхөөсөө олон горимт суурь загвар — дараа нь хараа адаптер залгасан текстийн загвар биш. Зургууд дөрвөн давхаргат шатлалт MLP хэсэглэгчээр дамжин 40×40 пикселийн хэсгүүд болж кодлогдож, ижил декодер дотор текстийн хамт хамтад нь боловсруулагддаг. Харааны ойлголт урьдчилсан сургалтын зорилгод байсан.

02W4A16-AUTOROUND-REAP гэж юу гэсэн үг вэ?

Тэр дагаварт гурван тусдаа техник давхарлагдсан бөгөөд тэдгээр нь өөр өөр ажил хийдэг. Ойлгох нь зүйтэй, учир нь тэр дагавар бол та манай API дээр дуудаж буй загвар ба Thinking Machines-ийн нийтэлсэн шалгалтын цэг хоёрын хамгийн том ганц ялгаа юм.

REAP — хэн ч чиглүүлдэггүй мэргэжилтнүүдийг хасах нь

REAP бол Cerebras Research-ийн Router-weighted Expert Activation Pruning (arXiv 2510.13999, ICLR 2026-д хүлээн авагдсан) юм. Давхарга тутамд 256 мэргэжилтэнтэй MoE-д чиглүүлэгч ажлыг жигд хуваарилдаггүй: зарим мэргэжилтэн рүү байнга ханддаг бол зарим нь ховор асаж, асахдаа ч бага хувь нэмэр оруулдаг. REAP нь мэргэжилтэн бүрийг чиглүүлэгчийн хаалганы утга ба мэргэжилтний идэвхжүүлэлтийн норм хоёуланг нь ашиглан оноодог — байнга сонгогддог ч бага хэмжээний шинэчлэл оруулдаг мэргэжилтэн нь сонголтын тоо нь илэрхийлж байгаагаас бага ач холбогдолтой — мөн ач холбогдол багатайг нь квантчилахаас өмнө нэг цохилтоор хасдаг.

Бид илүү моод болсон мэргэжилтэн нэгтгэхийн оронд хасалт ашигладаг шалтгаан нь тэр хоёр даалгаврын төрлөөр салбарладагт байгаа юм. Нэгтгэх нь ялгах жишиг тестүүд дээр өрсөлдөхүйц харагддаг ч үүсгэх тестүүд дээр нурдаг. REAP-ийн зохиогчид 20B-ээс 1T параметр хүртэлх загваруудад 50%-иас давсан шахалтын харьцаанд ч хасалт нь хүмүүсийн API худалдаж авдаг яг тэр ажлын ачаалалд — кодын синтез, хэрэгсэл дуудалт, олон ээлжийн дүгнэлт — чанарыг илүү сайн хадгалдаг гэж мэдээлсэн. Нэгтгэх нь чиглүүлэгчийн мэргэшлийг устгадаг; хасах нь амьд үлдсэн мэргэжилтнүүд болон тэдгээрийн хоорондох чиглүүлэлтийг бүрэн бүтэн үлдээдэг.

AutoRound — хаана бүхэлчлэхийг сурах нь

AutoRound бол Intel-ийн сургалтын дараах квантчилалын арга (arXiv 2309.05516, SignRound нэрээр нийтлэгдсэн). Энгийн квантчилал нь жин бүрийг хамгийн ойрын илэрхийлэгдэх 4 битийн утга руу бүхэлчилдэг — боломжийн анхдагч ч том хэмжээнд муу шийдэл, учир нь бүхэлчлэлийн алдаанууд бие даасан биш бөгөөд 66 давхаргын стекээр дамжин хуримтлагддаг. AutoRound бүхэлчлэх шийдвэрийг оновчлох ёстой зүйл гэж үздэг: тэмдэгт градиент буурлалт нь хэдэн зуун алхмын турш бүхэлчлэх чиглэл ба жин таслах мужуудыг хамтад нь тохируулж, квантчилалд зохицсон сургалтын нарийвчлалыг дахин сургалтгүйгээр авдаг. Intel хамгийн их ашгийг маш бага битийн тохиргоонд, INT4 дээр өрсөлдөхүйц давуу талтайгаа мэдээлдэг.

W4A16 — битүүд хаашаа явдаг вэ

W4A16 бол тоон формат: 4 битийн жин, 16 битийн идэвхжүүлэлт. 975B загварт санах ойд давамгайлдаг жингүүд нь BF16-ийн ойролцоогоор дөрөвний нэг болж хумигдах бол арифметик нь 16 бит хэвээр үлддэг. Энэхүү хуваалт нь ялангуяа хараатай загварт чухал: идэвхжүүлэлтийг квантчилдаг схемүүд нь зураг ойлгох чадвар түшиглэдэг яг тэр нарийн ширхэгтэй тоон ажлыг гэмтээдэг — жижиг тэнхлэгийн шошгыг унших, диаграмм дахь нимгэн шугамыг ялгах, ойролцоо хоёр өнгийг салгах. Идэвхжүүлэлтийг 16 бит дээр байлгах нь дамжуулах хүчин чадлын үнээр ирдэг ч харааны ажлын ачаалал анзаардаг газарт нарийвчлалыг эргүүлж авчирдаг.

Давхарлан нийлүүлбэл эдгээр гурав нь хамгийн том суурь загваруудад бидний ашигладаг түрэмгий 3BIT-REAP түвшний чанарын уналтгүйгээр багтаж, хурдан хэвээр байдаг загвар өгдөг. Үнэ нь яг тэр солилцоог тусгаж байгаа юм.

03Хараа: татгалзалгүй зураг шинжлэх API

Inkling бол манай каталог дахь Kimi-K3, Kimi-K2.6, MiniMax-M3-ын хамт хараатай дөрвөн загварын нэг. Thinking Machines-ийн гаралтаас авсан суурь загварын нийтлэгдсэн харааны үр дүн нь MMMU Pro (Standard 10) дээр 73.3%, CharXiv-ийн дүгнэлтийн асуултууд дээр 78.1% — загварыг график эсрэг Python ажиллуулахыг зөвшөөрөх үед 82.0% хүртэл өсдөг. Эдгээр нь квантчлагдаагүй шалгалтын цэгийн хувьд лабораторийн өөрсдийн тоо баримт; тэдгээрийг бидний бүтээцийн хэмжилт биш, гэр бүлийн дээд хязгаар гэж үзээрэй.

CharXiv дээр удаан зогсох нь зүйтэй, учир нь энэ нь хүмүүс яагаад OCR үйлчилгээ биш, хараатай API худалдаж авдаг шалтгаантай тохирдог. Энэ нь шинжлэх ухааны график дээрх дүгнэлтийг шалгадаг — тэнхлэгээс утга унших, хоёр цувааг харьцуулах, чиг хандлагын эргэлтийг анзаарах. «Энэ зурган дээр ямар текст байна» биш, «энэ зураглал юу нотолж байна, тэр нотолгоо үнэн үү» гэдэг асуулт. Жижиг тайлбарлагч биш, 975B дүгнэлтийн загвар руу зураг илгээхийг зөвтгөдөг зүйл яг энэ юм.

Зураг илгээх нь ердийн OpenAI-той нийцтэй ажил — /v1/chat/completions дээрх image_url агуулгын хэсэг, /v1/messages дээрх Anthropic маягийн image блок, эсвэл /v1/responses дээрх түүний эквивалент. Гурван аялгуу бүгд ижил жингүүд рүү ханддаг бөгөөд гурвуулан стримингтэй; таны одоо байгаа SDK аль хэлээр нь ярьдаг бол түүнийг сонго. Боловсруулсан жишээ нь 09-р хэсэгт байгаа.

Цензургүй тал нь текстээс илүү хараанд чухал. Хараатай endpoint дээрх татгалзах давхарга нь ер бусын бүдүүлэг байдаг, учир нь энэ нь ихэвчлэн загварыг хүсэлтийн талаар дүгнэхээс өмнө зургийг ангилдаг. Хууль ёсны ажил байнга баригддаг: эмнэлгийн тэмдэглэлийн дамжлага дахь шархны гэрэл зураг, ослын тайлан дахь шүүх шинжилгээний дэлгэцийн зураг, шүүмжлэлийн нийтлэлд дүн шинжилгээ хийж буй киноны кадр, эмнэлгийн скан, санамсаргүйгээр нэр агуулсан баримтын зураг. Манай gateway дээрх Inkling-ийн өмнө ийм ангилагч байхгүй. Энэ нь таны илгээсэн зүйлийг хараад таны асуусан асуултад хариулдаг. Бүтээгдэхүүн нь тэр.

04Бүтэцтэй гаралт: response_format тийм, json_schema үгүй

Энэ бол Inkling каталогийн ихэнхээс чадвар багатай байдаг ганц газар бөгөөд үүнийг үйлдвэрлэл дээр илрүүлэхээс илүү урьдчилан төлөвлөх нь дээр.

Боломж	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Хараа (зургийн оролт)	Тийм	Тийм	Тийм	Үгүй
response_format	Тийм	Тийм	Тийм	Үгүй
json_schema	Үгүй	Тийм	Тийм	Үгүй
Хэрэгсэл дуудалт	Тийм	Тийм	Тийм	Тийм
Дүгнэлтийн хүчин чармайлт	Тийм	Тийм	Тийм	Тийм

response_format: {"type": "json_object"} ажилладаг — та синтаксийн хувьд зөв JSON авна. Таны авахгүй зүйл бол таны өгсөн схемийн эсрэг дүрмээр хязгаарлагдсан декодчилол буюу түүвэрлэгчийг таны бүтцийг зөрчих токен гаргахаас биечлэн сэргийлдэг механизм юм. Талбарын нэр, тоочилолын гишүүнчлэл, шаардлагатай түлхүүрийн оршихуй нь баталгаа биш, загварын сонголт байна.

Үүнтэй хамт амьдрах гурван арга, найдвартай байдлын өсөх дарааллаар:

1. Схемийг промптод оруулаад шалга. Схемийг системийн промптод бодит JSON хэлбэрээр тавь, response_format-ыг json_object болго, хариуг өөрийн талдаа шалга. Шалгалт бүтэлгүйтвэл шалгагчийн алдааны мэдэгдлийг хавсаргаж дахин оролдоорой. Хямд, ажилладаг, дахин оролдох төсөв шаарддаг.
2. Хэрэгслийн тодорхойлолтыг схем болгон ашигла. Хэрэгсэл дуудалт дэмжигддэг бөгөөд функцийн параметрийн тодорхойлолт нь JSON Schema юм. Хүссэн задлан авалтаараа нэрлэсэн ганц хэрэгсэл зарлаад, түүнийг албадаж, аргументуудыг нь уншаарай. Энэ нь Inkling дээр ихэвчлэн хамгийн хүчтэй сонголт бөгөөд танд нэмэлт зардал гаргахгүй.
3. Ажлыг хоёр загварын хооронд хуваа. Inkling-ээр хараа ба дүгнэлтийг зохиол хэлбэрээр хийлгээд, тэр зохиолыг бүтэцчлэх дамжлагад бодит json_schema-тай MiMo-V2.5-W8A16 руу $0.50 / $2.00 үнээр өгөөрэй. Хоёр дуудлага, гэхдээ хоёр дахь нь хямд, хэлбэрийн хувьд тодорхой бөгөөд ухаалаг байх шаардлагатай загвар нь зургийг харсан загвар байна.

3 дахь сонголт бол их эзлэхүүнтэй задлан авах дамжлагад бидний зөвлөх хэв маяг. Нэмэлт төлбөрийг зөвхөн түүнийг шаардаж байгаа алхамд төлөөрэй.

05Үнийн нэмэгдэл юу авчирдаг вэ?

Сая токен тутамд $1.42 оролт / $6.07 гаралт дээр Inkling манай каталогийн дунд хэсэгт зориудаар байрладаг. Арван хоёр загварын зургаа нь $0.50 / $2.00 доод түвшинд байна. Тэргүүн загвар бөгөөд мөн хараатай Kimi-K3 нь $3.83 / $19.12. Inkling нь гаралт дээр доод түвшнээс ойролцоогоор гурав дахин, тэргүүн загварын гуравны нэг орчим байна.

Гаралтын үнэ, 1M токен тутамд ам.доллараар, Shannon AI Gateway-ийн жагсаалтын тариф, 2026 оны 9 сар. Баганын өргөн нь үнэтэй пропорциональ; урт нь илүү үнэтэй.

Тэр нэмэгдэл хаана өөрийгөө нөхдөг, хаана нөхдөггүйг үнэнчээр уншья.

Ажлын ачаалал	Inkling ашиглах уу?	Яагаад
График / диаграммын дүгнэлт	Тийм	Нийтлэгдсэн CharXiv ба MMMU Pro тоо баримт нь энэ суурь загварын хамгийн хүчтэй тал юм.
Дэлгэцийн зурагт суурилсан агент	Тийм	Хараа, хэрэгсэл дуудалт, 262K түүх нэг загварт, дамжуулалтгүйгээр.
Зураглалтай урт баримт бичиг	Тийм	Текст ба зураг нэг декодер, нэг контекстын цонхыг хуваалцдаг.
Энгийн текст үүсгэлт	Үгүй	$0.50 / $2.00 үнэтэй зургаан загвар үүнийг хийдэг. Та хэзээ ч дуудахгүй харааны замын төлөө төлж байна.
Бөөнөөр схемээр задлан авах	Үгүй	json_schema байхгүй. MiMo-V2.5 хямд бөгөөд хязгаарлагдсан.
Үнэмлэхүй тэргүүн эгнээний дээд хязгаар	Үгүй	Kimi-K3 бол тэргүүн загвар. Хэрэв дээд хязгаар нь хязгаарлалт бол 3.1 дахин их төл.
Хамгийн хямд боломжит хараа	Үгүй	MiniMax-M3 нь $0.50 / $2.00 үнээр хараатай. Тэндээс эхэл, чанар шаардвал дээшлүүл.

Үүнийг эрэмбэ биш, чиглүүлэлтийн дүрэм гэж уншаарай. Inkling нь маркетингийн хуудас мэдэгдэхээс илүү нарийн зурвасын ажилд тохирдог бөгөөд тэр зурваст үнээрээ давуулахад хэцүү. Түүнээс гадна бид танд хямд загварыг зараад таныг үлдээх нь дээр.

06262K контекстын цонх ба үнэндээ юу багтдаг вэ

Gateway дээрх арван хоёр загвар бүгд 262,144 токены оролтын контекст, хүсэлт тутамд 16,384 токены дээд гаралттайгаар үйлчилдэг. Зориудаар жигд: контекст боловсруулалт таны кодод хэзээ ч загвар тутмын салаа болох ёсгүй бөгөөд тохиргооны файлд inkling-г MiniMax-M3-аар солих нь юу багтахыг чимээгүй өөрчлөх ёсгүй.

Нийтлэгдсэн суурь загвартай харьцуулсан зөрүүг анзаараарай: Thinking Machines Inkling-г 1,048,576 токеноор баримтжуулдаг бол бид түүний 262K зүсмэлийг үйлчилдэг. Хэрэв танд нэг хүсэлтэд сая токены жинхэнэ ажлын ачаалал байгаа бол бид үүний endpoint биш бөгөөд барихаасаа өмнө мэдсэн нь дээр.

262K дээрх хэмжээг төсөөлөхөд: 400 хуудас техникийн PDF зураглалынх нь хамт, дунд хэмжээний кодын бааз, хэдэн цагийн бичлэг, эсвэл олон арван хэрэгслийн үр дүн ба хэдэн дэлгэцийн зураг агуулсан урт агентийн сесс — тус бүр нэг хүсэлтэд багтана. Хараатай загвар дээр зургууд бас контекст иддэгийг санаарай; нягт дэлгэцийн зураг үнэгүй биш бөгөөд кадр урсгадаг сесс зөвхөн текстийнхээс хурдан цонхыг дүүргэдэг. Архитектур үүнд сайн тохирдог: 5:1 гүйдэг цонх-глобал хэв маяг нь ихэнх давхарга 512 токены хөршийн дотор анхаардаг бөгөөд глобал давхаргууд үе үе урт зайн бүтцийг эргүүлэн авчирдаг гэсэн үг.

07Дүгнэлтийн хүчин чармайлт: бодохын төлөө зөвхөн хэрэгтэй үед төлөх нь

Inkling нь удирдаж болох дүгнэлтийн хүчин чармайлтыг нээлттэй болгодог — каталог дахь илүү хэрэгтэй хөшүүргүүдийн нэг. Дээд урсгалын загвар нь none ба minimal-аас эхлээд low, medium, high, xhigh, max хүртэлх түвшнүүдийг хүлээж авдаг бөгөөд эдгээр нь стандарт reasoning_effort параметрээр гурван аялгуу дээр бүгд гарч ирдэг.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Энэ бол шүдтэй зардлын хөшүүрэг, учир нь дүгнэлтийн токенууд сая тутамд $6.07-оор гаралтын токен болж тооцогддог. Thinking Machines Terminal Bench 2.1 дээр Inkling нь Nemotron 3 Ultra-тай харьцуулж болохуйц оноог ойролцоогоор гуравны нэг токеноор авдаг гэж мэдээлдэг — токены үр ашиг нь санамсаргүй биш, хүчин чармайлтын системийн зарлагдсан зорилго юм.

Практик дээр: хариулт нь зурган дээр байгаа бөгөөд дүгнэлтийн гинж шаардлагагүй тайлбар бичих, ангилах, шууд задлан авах ажилд low эсвэл minimal ажиллуул. График дүгнэх, олон алхамт харааны харьцуулалт, буруу завсрын алхам үнэтэй байдаг агентийн ээлжүүдэд high ба түүнээс дээшийг нөөцөл. Ихэнх баг энэ параметрийг огт тохируулдаггүй бөгөөд гаралтын зардлын хэдэн дахин зөрүүг ширээн дээр орхидог.

08«Цензургүй» гэдэг нь энд юу гэсэн үг вэ — мөн юу биш вэ

Тодорхой хэлбэл: бид энэ загварыг татгалзах давхаргагүй, гаралтад шүүлтгүйгээр ажиллуулдаг. Таны промптыг уншаад загвар хариулж болох эсэхийг шийддэг ямар ч ангилагч байхгүй бөгөөд хариуг стримингээр гарахаас өмнө уншдаг нэг ч ангилагч байхгүй. Загвар эргэлзэж байвал эсвэл мэдлэг дутуу байвал үүнийгээ хэлдэг — энэ бол бодлого биш, загвар өөрөө. Таны авахгүй зүйл бол ерөнхий хэрэглэгчийн бүтээгдэхүүн хориотой гэж үздэг сэдэв дээрх рефлекс татгалзал юм.

Хараанд энэ бол бүхэл бүтэн үнэ цэнийн санал юм. Хараатай API-уудын өмнөх зургийн ангилагчид нарийвчлал муутай бөгөөд худал эерэг илэрцийн түвшин нь энэ чадварыг хамгийн их шаарддаг мэргэжлийн ажилд хамгийн хүчтэй буудаг: аюулгүй байдлын судалгаа, эмнэлгийн орчин, сэтгүүл зүй ба шүүх шинжилгээ, кино ба урлагийн шүүмж, модерацлаж буй зүйлээ харах ёстой модерацийн хэрэгслүүд. Ангилалаар татгалздаг endpoint эдгээрийн алинд нь ч найдвартай үйлчилж чадахгүй.

Хоёр үнэнч тайлбар. Нэгдүгээрт, Thinking Machines өөрсдийн лавлагаа байршуулалтын аюулгүй байдлын үнэлгээг нийтэлдэг — FORTRESS adversarial дээр 78.0%, FORTRESS benign дээр 95.9%, StrongREJECT дээр 98.6%. Эдгээр тоо нь тэдний хамгаалалтууд байрандаа байгаа тэдний стекийг тодорхойлдог. Тэдгээр нь манайхыг тодорхойлдоггүй бөгөөд бид тэднийг тодорхойлдог мэтээр иш татахгүй. Бид тэр тоонуудын хэсэгчлэн хэмждэг давхаргыг хассан; бүтээгдэхүүн ч, хариуцлага ч тэр юм.

Хоёрдугаарт, «татгалзах давхарга байхгүй» гэдэг нь «дүрэм байхгүй» гэсэн үг биш. Shannon Lab LLC нь Хариуцлагатай Хэрэглээний Бодлого ба АНУ-ын холбогдох хуулийн дагуу үйл ажиллагаа явуулдаг. Ангилагчийг хасах нь дүгнэлтийг тан руу шилжүүлдэг болохоос устгадаггүй. Хэрэв та үүн дээр бүтээж байгаа бол өргөжүүлэхээсээ өмнө бодлогыг уншаарай.

09Эхлэх нь

Ижил суурь URL, ижил түлхүүр, гурван аялгуу. Хэрэв таны код аль хэдийн OpenAI, Anthropic, эсвэл Responses API руу ханддаг бол загварын мөрийг солих нь ихэвчлэн бүхэл шилжилт болдог.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Бүрэн параметрийн лавлагаа, /v1/messages ба /v1/responses-ийн хэлбэрүүд, стримингийн үйл явдлын формат, шууд туршилтын талбар нь API баримт бичигт байгаа. Бусад арван нэгэн загварын карт нь Shannon Research дээр байна.

Суурь загварын тоо баримт нь квантчлагдаагүй Inkling шалгалтын цэгийн хувьд Thinking Machines Lab-ийн нийтэлсэн тоонууд бөгөөд бидний квантчлагдсан бүтээцийг биш, гэр бүлийн дээд хязгаарыг тодорхойлдог. Үнэ ба боломжийн тэмдэглэгээ нь 2026 оны 9 сарын байдлаарх Shannon AI Gateway-ийн жагсаалтын утгууд юм.

10Түгээмэл асуултууд

---

Эх сурвалж: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling архитектур ба жишиг тестийн тэмдэглэл. Суурь загварын жишиг тестүүд нь квантчлагдаагүй шалгалтын цэгийн хувьд лабораторийн мэдээлсэн тоо юм.