Առանց ցենզուրայի Inkling մոդելի API

Մեր դարպասի տասներկու մոդելների մեծ մասը միայն տեքստային է: Չորսը՝ ոչ, և այդ չորսի մեջ Inkling-ը զբաղեցնում է առանձնահատուկ դիրք. տեսողական մոդել, որին դիմում եք, երբ նկարն է խնդրի դժվար մասը, բայց բյուջեն չի ձգվում մինչև առաջատար մոդել: Այս քարտը ներկայացնում է, թե որտեղից է հիմքային մոդելը, ինչ արեց նրա հետ W4A16-AUTOROUND-REAP վերջածանցը, ինչ կանի և ինչ չի անի API մակարդակում, և — անկեղծորեն — երբ նույն կատալոգում ավելի էժան մոդելը ավելի լավ ընտրություն է:

01Ի՞նչ է Inkling-ը, և ո՞վ է ստեղծել այն

Inkling-ը Thinking Machines Lab-ի առաջին բաց-կշիռների մոդելն է, հրապարակված 2026 թ. հուլիսի 15-ին: Ի տարբերություն «բաց» ներկայացվող մեծ մասի թողարկումների, այն ուղեկցվել է Hugging Face-ում ամբողջությամբ ներբեռնվող կշիռներով և առաջին իսկ օրվանից աջակցությամբ transformers, SGLang, vLLM և llama.cpp-ում — ինչն էլ դարձրեց այն մեր նման ենթակառուցվածքի վրա ընդհանրապես գործարկելի: Հիմնական թվերը, ըստ Thinking Machines-ի սեփական թողարկման նյութերի.

Սա հազվաբեր Mixture-of-Experts կառուցվածք է. 66 դեկոդերի շերտ՝ 6,144 թաքնված չափայնությամբ, առաջին երկուսը՝ խիտ, մնացած 64-ը կրում են 256 երթուղավորվող էքսպերտ գումարած 2 ընդհանուր էքսպերտ, 6 երթուղավորվող էքսպերտ ակտիվ մեկ տոկենի համար: Պարամետրերի մոտավորապես 4%-ն է ակտիվանում ցանկացած տոկենի վրա — ինչն էլ գրեթե տրիլիոն պարամետրով մոդելը դարձնում է ընդհանրապես մատուցելի:

Երկու ճարտարապետական որոշում բավականաչափ անսովոր են, որ արժե անվանել: Ուշադրությունը փոխադրված է — 55 շերտ սահող-պատուհանով ուշադրություն 512-տոկեն պատուհանի վրա, ընդդեմ 11 գլոբալ շերտի, 5:1 կրկնվող օրինաչափությամբ: Եվ Inkling-ը չի օգտագործում RoPE. այն օգտագործում է սովորած, մուտքից կախված հարաբերական-դիրքի շեղում, կողքին՝ կարճ պատճառահետևանքային կոնվոլյուցիաներ key/value պրոեկցիաների և մնացորդային ճյուղերի վրա: Sebastian Raschka-ի ճարտարապետական նշումները երկուսն էլ նշում են որպես 2026-ի ստանդարտ բաղադրատոմսից իրական շեղումներ: Վարժեցումն օգտագործել է Muon մեծ մատրիցային պարամետրերի համար և Adam՝ մնացածի, ապա հետվարժեցման ընթացքում՝ ավելի քան 30 միլիոն ասինխրոն RL փուլ:

API սպառողի համար կարևորն ամենևին ոչ մանրամասներն են: Կարևորն այն է, որ սա ֆրոնտիեր մասշտաբի, բնականորեն մուլտիմոդալ հիմքային մոդել է, վարժեցված 45 տրիլիոն տոկենի վրա՝ ընդգրկելով տեքստ, պատկեր, ձայն և տեսանյութ — ոչ թե տեքստային մոդել՝ ավելի ուշ կպցված տեսողական ադապտերով: Պատկերները կոդավորվում են որպես 40×40 պիքսել կտորներ քառաշերտ հիերարխիկ MLP patchifier-ի միջոցով և մշակվում համատեղ տեքստի հետ նույն դեկոդերում: Տեսողական ընկալումը եղել է հենց նախավարժեցման նպատակի մեջ:

02Ի՞նչ է նշանակում W4A16-AUTOROUND-REAP

Այդ վերջածանցում դասավորված են երեք առանձին տեխնիկա, և նրանք տարբեր գործեր են անում: Արժե հասկանալ, քանի որ այդ վերջածանցը մեր API-ում կանչվող մոդելի և Thinking Machines-ի հրապարակած ստուգակետի միջև ամենամեծ տարբերությունն է:

REAP — էքսպերտների կրճատում, որոնց ոչ ոք չի ուղղորդում

REAP-ը Router-weighted Expert Activation Pruning է, Cerebras Research-ից (arXiv 2510.13999, ընդունված ICLR 2026-ում): 256 էքսպերտով MoE-ում երթուղիչը աշխատանքը հավասարաչափ չի բաշխում. որոշ էքսպերտներ մշտապես կանչվում են, մյուսները հազվադեպ են ակտիվանում և քիչ բան են ներդնում, երբ ակտիվանում են: REAP-ը գնահատում է յուրաքանչյուր էքսպերտ ե՛ւ երթուղիչի gate արժեքներով, ե՛ւ էքսպերտի ակտիվացման նորմերով — հաճախ ընտրվող, բայց փոքր-մասշտաբի թարմացումներով ներդրող էքսպերտը կարևոր է ավելի քիչ, քան նրա ընտրության հաճախականությունը կհուշեր — և կրճատում ցածր նշանակալիությամբ էքսպերտները մեկ քայլով, մինչև քվանտացումը:

Մենք կրճատում ենք, ոչ թե ընտրում ավելի մոդայիկ էքսպերտների միաձուլումը, քանի որ երկուսը տարբերվում են ըստ առաջադրանքի տեսակի: Միաձուլումը մրցունակ է թվում տարբերակիչ բենչմարկների վրա և փլուզվում է գեներատիվների վրա: REAP-ի հեղինակները հայտնում են, որ կրճատումն ավելի լավ է պահպանում որակը հենց այն բեռների վրա, որոնց համար մարդիկ գնում են API՝ կոդի սինթեզ, գործիքի կանչ, բազմաշրջանային դատողություն — 50%-ից բարձր սեղմման հարաբերակցությունների դեպքում, 20B-ից մինչև 1T պարամետրանոց մոդելների միջով: Միաձուլումը ոչնչացնում է երթուղիչի մասնագիտացումը. կրճատումը անձեռնմխելի է թողնում ողջ մնացած էքսպերտներն ու նրանց միջև երթուղավորումը:

AutoRound — որտեղ կլորացնել՝ սովորելը

AutoRound-ը Intel-ի հետվարժեցման քվանտացման մեթոդն է (arXiv 2309.05516, հրապարակված որպես SignRound): Միամիտ քվանտացումը կլորացնում է յուրաքանչյուր կշիռ մոտակա ներկայացվող 4-բիթանոց արժեքին — ողջամիտ լռելյայն, բայց վատ մասշտաբում, քանի որ կլորացման սխալները անկախ չեն և կուտակվում են 66-շերտանոց ստեկով: AutoRound-ը կլորացման որոշումը դիտում է որպես ինչ-որ բան, որը պետք է օպտիմալացնել. նշանավոր գրադիենտի իջեցումը համատեղ կարգավորում է կլորացման ուղղությունն ու կշիռների կտրման միջակայքերը մի քանի հարյուր քայլով, փոխառելով քվանտացում-գիտակից վարժեցման ճշգրտությունը՝ առանց վերավարժեցման: Intel-ը հայտնում է ամենամեծ շահույթների մասին ծայրահեղ ցածր-բիթ կարգավորումների դեպքում և մրցունակ առավելության մասին INT4-ում:

W4A16 — որտեղ են գնում բիթերը

W4A16-ը թվային ձևաչափն է. 4-բիթանոց կշիռներ, 16-բիթանոց ակտիվացումներ: Կշիռները — որոնք գերիշխում են 975B մոդելի հիշողության մեջ — փոքրանում են մոտավորապես BF16 ծավալի քառորդին, մինչդեռ թվաբանությունը մնում է 16 բիթ: Այդ բաժանումը կոնկրետ կարևոր է տեսողական մոդելի համար. ակտիվացում-քվանտացված սխեմաները վնասում են հենց այն մանրահատիկ թվային աշխատանքին, որից կախված է պատկերի ընկալումը — փոքր առանցքային պիտակ կարդալը, դիագրամում բարակ գիծ լուծելը, երկու նման երանգ տարանջատելը: Ակտիվացումները 16 բիթում պահելը ծախսում է թողունակություն, բայց հետ է գնում ճշգրտություն, որտեղ տեսողական բեռն այն նկատում է:

Դասավորված միասին՝ երեքը տալիս են մոդել, որը տեղավորվում ու արագ մնում է՝ առանց ամենամեծ հիմքային մոդելների վրա մեր օգտագործած ագրեսիվ 3BIT-REAP մակարդակի որակի անկումի: Դա հենց այն փոխանակումն է, որն արտացոլում է գինը:

03Տեսողություն. առանց մերժման պատկերի վերլուծության API

Inkling-ը մեր կատալոգի չորս տեսողական մոդելներից մեկն է, Kimi-K3-ի, Kimi-K2.6-ի և MiniMax-M3-ի կողքին: Հիմքային մոդելի հրապարակված տեսողական արդյունքները, ըստ Thinking Machines-ի թողարկման, 73.3% MMMU Pro-ում (Standard 10) և 78.1% CharXiv դատողության հարցերում են — բարձրանալով մինչև 82.0%, երբ մոդելին թույլատրվում է գծապատկերի դեմ Python գործարկել: Դրանք լաբորատորիայի սեփական թվերն են չքվանտացված ստուգակետի համար. վերաբերվեք դրանց որպես ընտանիքի առաստաղի, ոչ թե մեր տարբերակի չափման:

CharXiv-ն այն է, որի վրա արժե կանգ առնել, քանի որ այն ցույց է տալիս, թե ինչու են մարդիկ ընդհանրապես գնում տեսողական API, ոչ թե OCR ծառայություն: Այն ստուգում է դատողությունը գիտական գծապատկերների վրա — առանցքից արժեք կարդալը, երկու շարք համեմատելը, միտումի շրջադարձ նկատելը: Ոչ թե «ինչ տեքստ կա այս պատկերում», այլ «ինչ է հայտարարում այս գծապատկերը, և արդյո՞ք հայտարարությունը վավեր է»: Դա հենց արդարացնում է պատկեր ուղարկելը 975B դատողական մոդելին, ոչ թե փոքր ենթագրիչի:

Պատկեր ուղարկելը սովորական, OpenAI-համատեղելի աշխատանք է — image_url բովանդակության մաս /v1/chat/completions-ի վրա, Anthropic-ոճի image բլոկ /v1/messages-ի վրա, կամ համարժեքը /v1/responses-ի վրա: Երեք բարբառներն էլ հասնում են նույն կշիռներին, և երեքն էլ հոսքային են. ընտրեք այն, որին ձեր առկա SDK-ն արդեն խոսում է: Մշակված օրինակը 09 բաժնում է:

Առանց ցենզուրայի լինելը տեսողության համար ավելի կարևոր է, քան տեքստի համար: Տեսողական վերջնակետի վրա մերժման շերտն անսովոր կոպիտ է, քանի որ այն սովորաբար դասակարգում է պատկերը, նախքան մոդելը դատողություն կանի հարցման վերաբերյալ: Օրինական աշխատանքը մշտապես բռնվում է. վերքի լուսանկարը կլինիկական գրառումների խողովակում, դատաբժշկական սքրինշոթը միջադեպի հաշվետվության մեջ, կրիտիկայի հոդվածի համար վերլուծվող ֆիլմի կադր, բժշկական սկան, փաստաթղթի պատկեր, որը պատահաբար պարունակում է անուն: Inkling-ը մեր դարպասում այդպիսի դասակարգիչ չունի իր առջև: Այն նայում է ձեր ուղարկածին և պատասխանում ձեր տված հարցին: Դա հենց արտադրանքն է:

04Կառուցվածքային արտածում. response_format՝ այո, json_schema՝ ոչ

Սա միակ տեղն է, որտեղ Inkling-ը կատալոգի մեծ մասից պակաս հնարավորություն ունի, և ավելի լավ է դրան պլանավորել, քան արտադրության մեջ հայտնաբերել:

Հնարավորություն	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Տեսողություն (պատկերի մուտք)	Այո	Այո	Այո	Ոչ
response_format	Այո	Այո	Այո	Ոչ
json_schema	Ոչ	Այո	Այո	Ոչ
Գործիքի կանչ	Այո	Այո	Այո	Այո
Մտածողության ջանք	Այո	Այո	Այո	Այո

response_format: {"type": "json_object"} աշխատում է — ստանում եք շարահյուսորեն վավեր JSON: Ինչ չեք ստանում, դա ձեր տրամադրած սխեմայի հանդեպ քերականորեն ամրագրված վերծանումն է, որտեղ sampler-ը ֆիզիկապես զրկված է ձեր կառուցվածքը խախտող տոկեն թողարկելու հնարավորությունից: Դաշտերի անունները, enum-ի անդամակցությունը և պարտադիր բանալիների առկայությունը մոդելի ընտրությունն են, ոչ թե երաշխիք:

Երեք ձև, թե ինչպես ապրել դրա հետ, հուսալիության աճող կարգով.

1. Հուշեք սխեման և ստուգեք: Դրեք սխեման համակարգային հրահանգում որպես բառացի JSON, դրեք response_format-ը json_object, և ստուգեք պատասխանը ձեր կողմից: Կրկնեք վավերացման ձախողման դեպքում՝ ավելացնելով վավերացնողի սխալի հաղորդագրությունը: Էժան է, աշխատում է, պահանջում է կրկնման բյուջե:
2. Օգտագործեք գործիքի սահմանում որպես սխեմա: Գործիքի կանչն աջակցվում է, և ֆունկցիայի պարամետրերի սահմանումը JSON Schema է: Հայտարարեք մեկ գործիք՝ ձեզ պետք եղած արդյունահանման անունով, հարկադրեք այն, և կարդացեք արգումենտները: Սովորաբար սա Inkling-ի ամենաուժեղ տարբերակն է, և այն ձեզ լրացուցիչ ոչինչ չի արժենում:
3. Բաժանեք աշխատանքը երկու մոդելի միջև: Թողեք, որ Inkling-ը կատարի տեսողությունն ու դատողությունն արձակով, ապա հանձնեք այդ արձակը MiMo-V2.5-W8A16-ին՝ $0.50 / $2.00 գնով, իրական json_schema-ով կառուցվածքավորման փուլի համար: Երկու կանչ, բայց երկրորդը էժան է, ձևով որոշված, և խելացի պետք է լինի հենց այն մոդելը, որը տեսել է պատկերը:

3-րդ տարբերակը այն օրինաչափությունն է, որը մենք կառաջարկեինք ցանկացած մեծածավալ արդյունահանման խողովակաշարի համար: Հավելավճար վճարեք միայն այն քայլի համար, որին դա իսկապես անհրաժեշտ է:

05Ի՞նչ է գնում գնային հավելավճարը

Մեկ միլիոն տոկենի համար $1.42 մուտք / $6.07 ելք գնով Inkling-ը միտումնավոր տեղակայված է մեր կատալոգի միջին հատվածում: Տասներկու մոդելներից վեցը $0.50 / $2.00 ամենացածր մակարդակում են: Kimi-K3-ը — առաջատար մոդելը, նույնպես տեսողական — $3.83 / $19.12 է: Inkling-ը ելքի գնով մոտավորապես երեք անգամ գերազանցում է ամենացածր մակարդակին և կազմում է առաջատար մոդելի մոտավորապես մեկ երրորդը:

Ելքի գին, ԱՄՆ դոլար մեկ միլիոն տոկենի համար, Shannon AI Gateway-ի ցուցակային գներ, 2026 թ. սեպտեմբեր: Գծի լայնությունը համաչափ է գնին. ավելի երկարը՝ ավելի թանկ:

Ահա անկեղծ գնահատականը, թե որտեղ է հավելավճարն արդարացնում իրեն — և որտեղ՝ ոչ:

Բեռ	Օգտագործե՞լ Inkling-ը	Ինչու
Գծապատկերի / դիագրամի դատողություն	Այո	Հրապարակված CharXiv և MMMU Pro թվերն ասում են, թե ինչում է ուժեղագույնը այս հիմքային մոդելը:
Սքրինշոթ-ղեկավարվող գործակալներ	Այո	Տեսողություն, գործիքի կանչ և 262K պատմություն մեկ մոդելում, առանց փոխանցման:
Երկար փաստաթղթեր՝ գծագրերով	Այո	Տեքստն ու պատկերները կիսում են մեկ դեկոդեր և մեկ համատեքստի պատուհան:
Պարզ տեքստի գեներացիա	Ոչ	Վեց մոդել $0.50 / $2.00 գնով անում են սա: Դուք վճարում եք տեսողական ուղու համար, որը երբեք չեք կանչում:
Մեծածավալ սխեմայի արդյունահանում	Ոչ	Չկա json_schema: MiMo-V2.5-ը ավելի էժան է և ամրագրված:
Բացարձակ ֆրոնտիեր առաստաղ	Ոչ	Kimi-K3-ն է առաջատարը: Վճարեք 3.1×-ը, եթե առաստաղն է սահմանափակող գործոնը:
Հնարավոր ամենաէժան տեսողություն	Ոչ	MiniMax-M3-ն ունի տեսողություն $0.50 / $2.00 գնով: Սկսեք այնտեղից, բարձրացրեք միայն եթե որակը հարկադրում է:

Կարդացեք սա որպես երթուղավորման կանոն, ոչ թե վարկանիշ: Inkling-ը ճիշտ է աշխատանքի ավելի նեղ գոտու համար, քան մարկետինգային էջը կպնդեր, և այդ գոտու ներսում այն դժվար է հաղթահարել գնով: Դրանից դուրս, մենք ավելի կնախընտրենք վաճառել ձեզ ավելի էժան մոդելը և պահել ձեզ:

06262K համատեքստի պատուհանը, և ինչն իրականում տեղավորվում է

Dարպասի բոլոր տասներկու մոդելները մատուցվում են 262,144-տոկեն մուտքային համատեքստով և 16,384-տոկեն առավելագույն ելքով մեկ հարցման համար: Միանման է՝ միտումնավոր. համատեքստի կառավարումը երբեք չպետք է դառնա մոդել-առ-մոդել ճյուղավորում ձեր կոդում, և կոնֆիգուրացիայի ֆայլում inkling-ը MiniMax-M3-ով փոխարինելը չպետք է լուռ փոխի, թե ինչ է տեղավորվում:

Նշենք բացը հրապարակված հիմքային մոդելի հանդեպ. Thinking Machines-ը փաստագրում է Inkling-ը 1,048,576 տոկենով, և մենք մատուցում ենք դրա 262K հատվածը: Եթե ունեք իսկապես միլիոն-տոկեն մեկ-հարցումով բեռ, մենք դրա համար վերջնակետը չենք, և ավելի լավ է իմանաք, նախքան կկառուցեք:

Մասշտաբի համար 262K-ում. 400-էջանոց տեխնիկական PDF՝ իր գծագրերով, միջին չափի կոդի բազա, մի քանի ժամվա արտագրություն, կամ երկար գործակալային նստաշրջան, որը կրում է տասնյակ գործիքային արդյունքներ և մի քանի սքրինշոթ — յուրաքանչյուրը տեղավորվում է մեկ հարցման մեջ: Տեսողական մոդելի վրա հիշեք, որ պատկերներն էլ են ծախսում համատեքստ. հագեցած սքրինշոթը անվճար չէ, և կադրեր հոսքով ուղարկող նստաշրջանն ավելի արագ է լցնում պատուհանը, քան միայն-տեքստայինը: Ճարտարապետությունն այս գործին լավ է ծառայում. 5:1 սահող-պատուհան-ընդդեմ-գլոբալ օրինաչափությունը նշանակում է, որ շերտերի մեծ մասը ուշադրություն է դարձնում 512-տոկեն հարևանության վրա, մինչդեռ գլոբալ շերտերը պարբերաբար հետ են բերում երկար-հեռավորության կառուցվածքը:

07Մտածողության ջանք. վճարել մտածելու համար միայն երբ պետք է

Inkling-ը ցուցադրում է կառավարելի մտածողության ջանք — կատալոգի ամենաօգտակար կարգավորիչներից մեկը: Վերնահոսքի մոդելն ընդունում է աստիճաններ none և minimal-ից մինչև low, medium, high, xhigh, մինչև max, բոլոր երեք բարբառներում մատչելի ստանդարտ reasoning_effort պարամետրի միջոցով:

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Սա ատամներով ծախսերի կարգավորիչ է, քանի որ մտածողության տոկենները հաշվարկվում են որպես ելքային տոկեններ՝ $6.07 մեկ միլիոնի համար: Thinking Machines-ը հայտնում է, որ Terminal Bench 2.1-ում Inkling-ը հասնում է Nemotron 3 Ultra-ի հետ համադրելի արդյունքների՝ մոտավորապես նրա տոկենների մեկ երրորդով. տոկենի արդյունավետությունը ջանքի համակարգի հայտարարված նպատակն է, ոչ թե պատահականություն:

Գործնականում. գործարկեք low կամ minimal ենթագրման, դասակարգման և ուղղակի արդյունահանման համար, որտեղ պատասխանը պատկերում է, և եզրահանգումների շղթա պետք չէ: Պահեք high-ը և ավելին գծապատկերային դատողության, բազմաքայլ տեսողական համեմատության և գործակալային շրջադարձերի համար, որտեղ սխալ միջանկյալ քայլը թանկ արժե: Թիմերի մեծ մասը երբեք չի կարգավորում այս պարամետրը՝ սեղանին թողնելով ելքի ծախսի մի քանիապատիկ տարբերություն:

08Ինչ է նշանակում «առանց ցենզուրայի» այստեղ — և ինչ չի նշանակում

Կոնկրետ. մենք գործարկում ենք այս մոդելը առանց մերժման շերտի և առանց ելքի զտման: Ոչ մի դասակարգիչ չի կարդում ձեր հրահանգը՝ որոշելու, թե մոդելը կարո՞ղ է պատասխանել, և ոչ մեկը չի կարդում պատասխանը, նախքան այն հոսելը: Երբ մոդելը վստահ չէ կամ չունի գիտելիք, այն ասում է դա — դա մոդելն է, ոչ թե քաղաքականություն: Ինչ չեք ստանալու, դա ընդհանուր-սպառողի արտադրանքի արգելված համարվող թեմայի ռեֆլեքսային մերժումն է:

Տեսողության համար սա ամբողջ արժեքային առաջարկն է: Տեսողական API-ների առջևի պատկերի դասակարգիչներն անճշգրիտ են, և կեղծ-դրական մակարդակն ամենածանրը իջնում է հենց այն մասնագիտական աշխատանքի վրա, որին ամենաշատն է անհրաժեշտ այդ հնարավորությունը. անվտանգության հետազոտություն, կլինիկական համատեքստեր, լրագրություն և դատաբժշկագիտություն, ֆիլմի ու արվեստի քննադատություն, մոդերացիայի գործիքներ, որոնք պետք է նայեն այն, ինչ մոդերացնում են: Կատեգորիայի հիմքով մերժող վերջնակետը դրանցից ոչ մեկին հուսալիորեն ծառայել չի կարող:

Երկու անկեղծ նախազգուշացում: Առաջին, Thinking Machines-ը հրապարակում է անվտանգության գնահատումներ իրենց հղումային տեղակայման համար — 78.0% FORTRESS adversarial-ում, 95.9% FORTRESS benign-ում, 98.6% StrongREJECT-ում: Այդ թվերը նկարագրում են իրենց ստեկը՝ իրենց պահապանական շերտերով տեղում: Դրանք չեն նկարագրում մերը, և մենք դրանք չենք մեջբերի, կարծես նկարագրեին: Մենք հեռացրինք այն շերտը, որը մասամբ չափում է այդ թվերը. դա արտադրանքն է, և պատասխանատվությունը:

Երկրորդ, «առանց մերժման շերտի»-ն «առանց կանոնների» չէ: Shannon Lab LLC-ն գործում է Պատասխանատու օգտագործման քաղաքականությամբ և կիրառելի ԱՄՆ օրենսդրությամբ: Դասակարգիչի հեռացումը դատողությունը տեղափոխում է ձեզ, չի ջնջում այն: Եթե սրա հիման վրա եք կառուցում, կարդացեք քաղաքականությունը, նախքան կմասշտաբավորեք:

09Սկսելը

Նույն base URL, նույն բանալի, երեք բարբառ: Եթե ձեր կոդն արդեն կանչում է OpenAI, Anthropic, կամ Responses API, մոդելի տողի փոփոխությունը սովորաբար ամբողջ միգրացիան է:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Ամբողջական պարամետրերի հղումը, /v1/messages և /v1/responses ձևերը, հոսքային իրադարձությունների ձևաչափերը և կենդանի փորձադաշտը են API փաստաթղթերում: Մյուս տասնմեկ մոդելների մոդելային քարտերը՝ Shannon Research-ում:

Հիմքային մոդելի թվերը Thinking Machines Lab-ի հրապարակած արժեքներն են չքվանտացված Inkling ստուգակետի համար և նկարագրում են ընտանիքի առաստաղը, ոչ թե մեր քվանտացված տարբերակը: Գները և հնարավորությունների դրոշները Shannon AI Gateway-ի ցուցակային արժեքներն են, 2026 թ. սեպտեմբերի դրությամբ:

10Հաճախ տրվող հարցեր

---

Աղբյուրներ. Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling architecture and benchmark notes: Հիմքային մոդելի բենշմարկները լաբորատորիայի հայտարարածն են՝ չքվանտացված ստուգակետի համար: