უცენზურო Inkling მოდელის API

ჩვენი გეითვეის თორმეტი მოდელიდან უმეტესობა მხოლოდ-ტექსტურია. ოთხი ასეთი არაა, და ამ ოთხს შორის Inkling კონკრეტულ პოზიციას იკავებს: ხედვის მოდელი, რომელსაც მიმართავთ, როცა სურათი პრობლემის რთული ნაწილია, მაგრამ ბიუჯეტი ფლაგმანამდე არ ჭიმულობს. ეს ბარათი ფარავს, საიდან მოდის საფუძველი, რა გაუკეთა მას W4A16-AUTOROUND-REAP სუფიქსმა, რას გააკეთებს და რას არ გააკეთებს API-ის ზედაპირზე, და — პატიოსნად — როდის არის იმავე კატალოგში უფრო იაფი მოდელი უკეთესი არჩევანი.

01რა არის Inkling, და ვინ ააშენა ის?

Inkling არის პირველი ღია წონების მოდელი Thinking Machines Lab-ისგან, გამოქვეყნებული 2026 წლის 15 ივლისს. „ღიად" პოზიციონირებული გამოშვებების უმეტესობისგან განსხვავებით, ის სრულად ჩამოსატვირთი წონებით გამოვიდა Hugging Face-ზე და ნულოვანი დღიდან მხარდაჭერით transformers-ში, SGLang-ში, vLLM-სა და llama.cpp-ში — და სწორედ ამის გამო გახდა ის საერთოდ გამშვები ჩვენისთანა ინფრასტრუქტურაზე. მთავარი ციფრები, Thinking Machines-ის საკუთარი გამოშვების მასალებიდან:

ეს მეჩხერი ექსპერტთა ნაზავის განლაგებაა: 66 დეკოდერის ფენა 6,144 დამალული ზომით, პირველი ორი მკვრივი, დარჩენილი 64 ატარებს 256 მარშრუტიზებულ ექსპერტსა და 2 საზიარო ექსპერტს, ტოკენზე 6 მარშრუტიზებული ექსპერტის აქტივაციით. პარამეტრების დაახლოებით 4% ჩნდება ნებისმიერ ცალკეულ ტოკენზე — რაც საერთოდ შესაძლებელს ხდის ტრილიონთან მიახლოებული პარამეტრების მოდელის მომსახურებას.

ორი არქიტექტურული გადაწყვეტილება საკმარისად უჩვეულოა, რომ დასახელდეს. ყურადღება მონაცვლეობითია — 55 ფენა მოსრიალე-ფანჯრიანი ყურადღების 512-ტოკენიან ფანჯარაზე 11 გლობალური ფენის წინააღმდეგ, 5:1 განმეორებადი შაბლონით. და Inkling RoPE-ს არ იყენებს: ის ნასწავლ, შემავალზე დამოკიდებულ ფარდობითი პოზიციის მიკერძოებას იყენებს, გასაღებ/მნიშვნელობის პროექციებზე მოკლე მიზეზობრივ კონვოლუციებთან და ნარჩენ განშტოებებთან ერთად. სებასტიან რაშკას არქიტექტურის შენიშვნები ორივეს ნიშნავს, როგორც ნამდვილ გადახრებს სტანდარტული 2026 წლის რეცეპტისგან. წვრთნამ დიდი მატრიცული პარამეტრებისთვის Muon გამოიყენა და დანარჩენისთვის — Adam, შემდეგ კი 30 მილიონზე მეტი ასინქრონული RL გაშვება წვრთნის შემდგომ ეტაპზე.

API-ის მომხმარებლისთვის საკითხი წვრილმანები არაა. საკითხია, რომ ეს სასაზღვრო-მასშტაბის, მშობლიურად მულტიმოდალური საფუძველია, გაწვრთნილი 45 ტრილიონ ტოკენზე, რომელიც ტექსტს, სურათებს, ხმასა და ვიდეოს მოიცავს — და არა ტექსტური მოდელი მოგვიანებით მიდაშენებული ხედვის ადაპტერით. სურათები კოდირდება 40×40 პიქსელის პაჩებად ოთხფენიანი იერარქიული MLP პაჩერით და ამუშავდება ტექსტთან ერთად იმავე დეკოდერში. ვიზუალური გაგება წინასწარი წვრთნის ამოცანაში იყო.

02რას ნიშნავს W4A16-AUTOROUND-REAP?

ამ სუფიქსში სამი ცალკეული ტექნიკაა დაშენებული, და თითოეული სხვადასხვა საქმეს აკეთებს. ღირს გაგება, რადგან ეს სუფიქსი ერთადერთი ყველაზე დიდი განსხვავებაა მოდელს, რომელსაც ჩვენს API-ზე იძახებთ, და ჩექფოინთს შორის, რომელიც Thinking Machines-მა გამოაქვეყნა.

REAP — ექსპერტების გასხვლა, რომლებთანაც არავინ მარშრუტიზდება

REAP არის Router-weighted Expert Activation Pruning, Cerebras Research-იდან (arXiv 2510.13999, მიღებული ICLR 2026-ზე). MoE-ში, სადაც ფენაზე 256 ექსპერტია, მარშრუტიზატორი სამუშაოს თანაბრად არ ანაწილებს: ზოგიერთ ექსპერტს მუდმივად მიმართავენ, სხვები იშვიათად ჩნდება და ცოტას წვლილს დებს, როცა ჩნდება. REAP თითოეულ ექსპერტს ორივე სიგნალით აფასებს — მარშრუტიზატორის კარიბჭის მნიშვნელობებითა და ექსპერტის აქტივაციის ნორმებით — ექსპერტი, რომელსაც ხშირად ირჩევენ, მაგრამ მცირე სიდიდის განახლებებით წვლილს დებს, ნაკლებ მნიშვნელოვანია, ვიდრე მისი შერჩევის რაოდენობა გვთავაზობს — და ერთჯერადად შლის დაბალმნიშვნელოვნებს, კვანტიზაციამდე.

მიზეზი, რის გამოც ჩვენ გასხვლას ვიყენებთ და არა უფრო მოდურ ექსპერტების შერწყმას, ისაა, რომ ეს ორი ამოცანის ტიპის მიხედვით სხვაობს. შერწყმა კონკურენტულად გამოიყურება დისკრიმინაციულ ბენჩმარკებზე და იშლება გენერაციულებზე. REAP-ის ავტორები აფიქსირებენ, რომ გასხვლა ხარისხს უკეთესად ინარჩუნებს ზუსტად იმ დატვირთვებზე, რომლისთვისაც ხალხი API-ს ყიდულობს — კოდის სინთეზი, ინსტრუმენტების გამოძახება, მრავალრაუნდიანი მსჯელობა — 50%-ს გადაცილებულ შეკუმშვის კოეფიციენტებზე, 20B-დან 1T-პარამეტრიან მოდელებზე. შერწყმა მარშრუტიზატორის სპეციალიზაციას ანგრევს; გასხვლა გადარჩენილ ექსპერტებსა და მათ შორის მარშრუტიზაციას ხელუხლებელს ტოვებს.

AutoRound — სად დამრგვალდეს, ამის სწავლა

AutoRound არის Intel-ის წვრთნის-შემდგომი კვანტიზაციის მეთოდი (arXiv 2309.05516, გამოქვეყნებული როგორც SignRound). გულუბრყვილო კვანტიზაცია ყოველ წონას უახლოეს წარმოსადგენ 4-ბიტიან მნიშვნელობამდე ამრგვალებს — გონივრული ნაგულისხმევი და ცუდი მასშტაბზე, რადგან დამრგვალების ცდომილებები დამოუკიდებელი არაა და 66-ფენიან სტეკში გროვდება. AutoRound დამრგვალების გადაწყვეტილებას ოპტიმიზაციის საგნად აქცევს: ნიშნიანი გრადიენტული დაშვება ერთობლივად არეგულირებს დამრგვალების მიმართულებასა და წონის ჭრის დიაპაზონებს რამდენიმე ასეულ ნაბიჯზე, სესხულობს კვანტიზაციაზე-გათვლილი წვრთნის სიზუსტეს ხელახლა წვრთნის გარეშე. Intel აფიქსირებს ყველაზე დიდ მოგებას უკიდურესად დაბალბიტიან პარამეტრებზე და კონკურენტულ უპირატესობას INT4-ზე.

W4A16 — სად მიდის ბიტები

W4A16 რიცხობრივი ფორმატია: 4-ბიტიანი წონები, 16-ბიტიანი აქტივაციები. წონები — რომლებიც მეხსიერებაზე დომინირებს 975B მოდელში — BF16-ის ზომის დაახლოებით მეოთხედამდე იკლებს, ხოლო არითმეტიკა 16 ბიტზე რჩება. ეს დაყოფა კონკრეტულად ხედვის მოდელისთვის მნიშვნელოვანია: აქტივაცია-კვანტიზებული სქემები ზიანს ზუსტად იმ წვრილმარცვლოვან რიცხობრივ სამუშაოს აყენებს, რასაც სურათის გაგება ეყრდნობა — მცირე ღერძის წარწერის წაკითხვა, დიაგრამაში წვრილი ხაზის გარჩევა, ორი მსგავსი ტონის განცალკევება. აქტივაციების 16 ბიტზე შენარჩუნება გამტარუნარიანობას ხარჯავს და სიზუსტეს იბრუნებს იქ, სადაც ხედვის დატვირთვა ამას ამჩნევს.

დაშენებული, სამივე გვაძლევს მოდელს, რომელიც ეტევა და სწრაფად რჩება იმ ხარისხის ვარდნის გარეშე, რასაც აგრესიული 3BIT-REAP დონე იწვევს, რომელსაც ყველაზე დიდ საფუძვლებზე ვიყენებთ. ეს არის გარიგება, რომელსაც ფასი ასახავს.

03ხედვა: სურათის ანალიზის API უარის გარეშე

Inkling ჩვენი კატალოგის ხედვაზე უნარიან ოთხ მოდელს შორის ერთ-ერთია, Kimi-K3-სთან, Kimi-K2.6-სთან და MiniMax-M3-სთან ერთად. საბაზისო მოდელის გამოქვეყნებული ხედვის შედეგები, Thinking Machines-ის გამოშვებიდან, არის 73.3% MMMU Pro-ზე (Standard 10) და 78.1% CharXiv-ის მსჯელობის კითხვებზე — 82.0%-მდე იზრდება, როცა მოდელს დიაგრამაზე Python-ის გაშვების უფლება აქვს. ეს ლაბორატორიის საკუთარი ციფრებია შეუკუმშავი ჩექფოინთისთვის; ეს ოჯახის ჭერად მიიჩნიეთ და არა ჩვენი ბილდის გაზომვად.

CharXiv არის ის, რომელზეც ღირს შეჩერება, რადგან ის სწორედ იმას ასახავს, რატომ ყიდულობს ხალხი ხედვის API-ს და არა OCR სერვისს. ის ამოწმებს მსჯელობას სამეცნიერო დიაგრამებზე — მნიშვნელობის წაკითხვას ღერძიდან, ორი სერიის შედარებას, ტენდენციის შებრუნების შემჩნევას. არა „რა ტექსტია ამ სურათზე", არამედ „რას ამტკიცებს ეს ფიგურა, და ჭერდება თუ არა ეს მტკიცება". სწორედ ეს ამართლებს სურათის გაგზავნას 975B მსჯელობის მოდელთან პატარა წარწერების გენერატორის ნაცვლად.

სურათის გაგზავნა ჩვეულებრივი OpenAI-თან თავსებადი სამუშაოა — image_url ტიპის კონტენტის ნაწილი /v1/chat/completions-ზე, Anthropic-ის სტილის image ბლოკი /v1/messages-ზე, ან ეკვივალენტი /v1/responses-ზე. სამივე დიალექტი იმავე წონებს აღწევს და სამივე გასტრიმავს; აირჩიეთ ის, რასაც თქვენი არსებული SDK უკვე ლაპარაკობს. გამოთვლილი მაგალითი 09-ე ნაწილშია.

უცენზურო ნაწილს ხედვისთვის მეტი მნიშვნელობა აქვს, ვიდრე ტექსტისთვის. ხედვის ენდპოინტზე უარის ფენა უჩვეულოდ ხისტია, რადგან ის ჩვეულებრივ სურათს ჯერ კლასიფიცირებს, სანამ მოდელი მოთხოვნაზე იმსჯელებდეს. ლეგიტიმური სამუშაო მუდმივად ხვდება მახეში: ჭრილობის ფოტოსურათი კლინიკური ჩანაწერების კონვეიერში, სასამართლო-ექსპერტული ეკრანის სურათი ინციდენტის ანგარიშში, ფილმის კადრი, რომელსაც კრიტიკის სტატიისთვის აანალიზებენ, სამედიცინო სკანირება, დოკუმენტის სურათი, რომელიც შემთხვევით სახელს შეიცავს. Inkling-ს ჩვენს გეითვეიზე ასეთი კლასიფიკატორი წინ არ დგას. ის უყურებს იმას, რაც გამოგზავნეთ, და პასუხობს იმ კითხვას, რომელიც დასვით. ეს არის პროდუქტი.

04სტრუქტურირებული გამოსავალი: response_format დიახ, json_schema არა

ეს ერთადერთი ადგილია, სადაც Inkling კატალოგის უმეტესობაზე ნაკლებად შესაძლებლიანია, და ამის დაგეგმვა უკეთესია, ვიდრე წარმოებაში აღმოჩენა.

შესაძლებლობა	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ხედვა (სურათის შემავალი)	დიახ	დიახ	დიახ	არა
response_format	დიახ	დიახ	დიახ	არა
json_schema	არა	დიახ	დიახ	არა
ინსტრუმენტების გამოძახება	დიახ	დიახ	დიახ	დიახ
მსჯელობის ძალისხმევა	დიახ	დიახ	დიახ	დიახ

response_format: {"type": "json_object"} მუშაობს — იღებთ სინტაქსურად ვალიდურ JSON-ს. რასაც არ იღებთ, არის გრამატიკით შეზღუდული დეკოდირება თქვენ მიერ მოწოდებული სქემის მიმართ, სადაც სემპლერი ფიზიკურად შეზღუდულია, გამოსცეს ტოკენი, რომელიც თქვენს სტრუქტურას არღვევს. ველების სახელები, ჩამონათვალის წევრობა და სავალდებულო გასაღებების არსებობა მოდელის არჩევანია და არა გარანტია.

სამი გზა, ამასთან როგორ იცხოვროთ, საიმედოობის ზრდადი რიგით:

1. სქემა პრომპტში მიუთითეთ და გადაამოწმეთ. ჩასვით სქემა სისტემურ პრომპტში პირდაპირ JSON-ად, დააყენეთ response_format json_object-ად, და გადაამოწმეთ პასუხი თქვენივე მხრიდან. ხელახლა სცადეთ ვალიდაციის ჩავარდნისას, ვალიდატორის შეცდომის შეტყობინების დამატებით. იაფია, მუშაობს, ხელახლა ცდის ბიუჯეტს საჭიროებს.
2. გამოიყენეთ ინსტრუმენტის განსაზღვრება როგორც სქემა. ინსტრუმენტების გამოძახება მხარდაჭერილია, და ფუნქციის პარამეტრის განსაზღვრება JSON სქემაა. გამოაცხადეთ ერთი ინსტრუმენტი, დასახელებული იმ ამოღებისთვის, რომელიც გინდათ, ძალდატანებით გამოიყენეთ და წაიკითხეთ არგუმენტები. ეს ჩვეულებრივ ყველაზე ძლიერი ვარიანტია Inkling-ზე და დამატებით არაფერს გიჯდებათ.
3. გაყავით სამუშაო ორ მოდელს შორის. მიეცით Inkling-ს ხედვისა და მსჯელობის გაკეთება პროზაში, შემდეგ გადასცით ეს პროზა MiMo-V2.5-W8A16-ს $0.50 / $2.00-ად ნამდვილი json_schema-თი სტრუქტურირების გავლისთვის. ორი გამოძახება, მაგრამ მეორე იაფია, ფორმით დეტერმინისტული, და მოდელი, რომელსაც ჭკვიანი უნდა იყოს, არის ის, ვინც სურათი ნახა.

მე-3 ვარიანტი შაბლონია, რომელსაც ნებისმიერი მაღალმოცულობიანი ამოღების კონვეიერისთვის გირჩევდით. გადაიხადეთ პრემიუმი მხოლოდ იმ საფეხურზე, რომელსაც ეს სჭირდება.

05რას იძლევა ფასის პრემიუმი?

$1.42 შემავალზე / $6.07 გამომავალზე მილიონ ტოკენზე, Inkling განზრახ ჩვენი კატალოგის შუაში დგას. თორმეტი მოდელიდან ექვსი $0.50 / $2.00 ფსკერზეა. Kimi-K3 — ფლაგმანი, ასევე ხედვაზე უნარიანი — $3.83 / $19.12-ია. Inkling გამომავალზე დაახლოებით ფსკერის სამჯერაა და ფლაგმანის დაახლოებით მესამედი.

გამომავალი ფასი, აშშ დოლარი 1M ტოკენზე, Shannon AI-ს გეითვეის სასაქონლო ტარიფები, 2026 წლის სექტემბერი. ზოლის სიგანე ფასის პროპორციულია; უფრო გრძელი — უფრო ძვირი.

აი, პატიოსანი წაკითხვა იმისა, სად იმართლებს ეს პრემიუმი თავს — და სად არა.

დატვირთვა	გამოვიყენოთ Inkling?	რატომ
დიაგრამის / სქემის მსჯელობა	დიახ	გამოქვეყნებული CharXiv-ისა და MMMU Pro-ს ციფრები არის ის, რაშიც ეს საფუძველი ყველაზე ძლიერია.
ეკრანის სურათებზე მომუშავე აგენტები	დიახ	ხედვა, პლუს ინსტრუმენტების გამოძახება, პლუს 262K ისტორია ერთ მოდელში, გადაცემის გარეშე.
გრძელი დოკუმენტები ფიგურებით	დიახ	ტექსტი და სურათები ერთ დეკოდერსა და ერთ კონტექსტის ფანჯარას იზიარებს.
უბრალო ტექსტის გენერაცია	არა	ექვსი მოდელი $0.50 / $2.00-ზე ამას აკეთებს. იხდით ხედვის გზისთვის, რომელსაც ვერასდროს გამოიძახებთ.
მასობრივი სქემის ამოღება	არა	json_schema არ აქვს. MiMo-V2.5 იაფია და შეზღუდული.
აბსოლუტური სასაზღვრო ჭერი	არა	Kimi-K3 ფლაგმანია. გადაიხადეთ 3.1-ჯერადი, თუ ჭერია შემზღუდველი.
შესაძლო ყველაზე იაფი ხედვა	არა	MiniMax-M3-ს აქვს ხედვა $0.50 / $2.00-ზე. დაიწყეთ იქიდან, ეზარდეთ, თუ ხარისხი აიძულებს.

ეს მარშრუტიზაციის წესად წაიკითხეთ და არა რეიტინგად. Inkling სწორია სამუშაოს უფრო ვიწრო ზოლისთვის, ვიდრე მარკეტინგული გვერდი ამტკიცებდა, და ამ ზოლის შიგნით მას ფასზე ძნელია ჯობო. მის გარეთ, გვირჩევნია გაგიყიდოთ იაფი მოდელი და შეგინარჩუნოთ.

06262K კონტექსტის ფანჯარა, და რა ეტევა სინამდვილეში

გეითვეის თორმეტივე მოდელს 262,144-ტოკენიანი შემავალი კონტექსტი და 16,384-ტოკენიანი მაქსიმალური გამომავალი აქვს მოთხოვნაზე. განზრახ ერთგვაროვანი: კონტექსტის დამუშავება არასოდეს უნდა გახდეს მოდელზე დამოკიდებული განშტოება თქვენს კოდში, და inkling-ის MiniMax-M3-ით შეცვლამ კონფიგურაციის ფაილში ჩუმად არ უნდა შეცვალოს, რა ეტევა.

შენიშნეთ სხვაობა გამოქვეყნებულ საფუძველთან: Thinking Machines Inkling-ს 1,048,576 ტოკენზე აღწერს, და ჩვენ ამის 262K ნაწილს ვემსახურებით. თუ გაქვთ ნამდვილი მილიონ-ტოკენიანი ერთმოთხოვნიანი დატვირთვა, ჩვენ ამისთვის ენდპოინტი არ ვართ, და უკეთესია, ეს იცოდეთ ააშენებამდე.

262K-ის მასშტაბისთვის: 400-გვერდიანი ტექნიკური PDF თავისი ფიგურებით, საშუალო ზომის კოდის ბაზა, რამდენიმე საათის სტენოგრამა, ან გრძელი აგენტური სესია ათეულობით ინსტრუმენტული შედეგითა და რამდენიმე ეკრანის სურათით — თითოეული ერთ მოთხოვნაში ეტევა. ხედვის მოდელზე, გახსოვდეთ, რომ სურათებიც კონტექსტს ხარჯავს; მკვრივი ეკრანის სურათი უფასო არაა, და სესია, რომელიც კადრებს ასტრიმებს, ფანჯარას უფრო სწრაფად ავსებს, ვიდრე მხოლოდ-ტექსტური. არქიტექტურა ამას კარგად ერგება: 5:1 მოსრიალე-ფანჯრიდან-გლობალურამდე შაბლონი ნიშნავს, რომ ფენების უმეტესობა 512-ტოკენიან სამეზობლოში ყურადღებას აქცევს, გლობალური ფენები კი პერიოდულად გრძელი დიაპაზონის სტრუქტურას აბრუნებს.

07მსჯელობის ძალისხმევა: გადაიხადეთ ფიქრისთვის მხოლოდ მაშინ, როცა გჭირდებათ

Inkling-ს მართვადი მსჯელობის ძალისხმევა გამოააშკარავებს — კატალოგში ერთ-ერთი ყველაზე გამოსადეგი სახელური. საწყისი მოდელი იღებს დონეებს none-იდან და minimal-იდან low-მდე, medium-მდე, high-მდე, xhigh-მდე, max-მდე, გამოაშკარავებული სამივე დიალექტზე სტანდარტული reasoning_effort პარამეტრით.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

ეს ხარჯის ბერკეტია კბილებით, რადგან მსჯელობის ტოკენები გამომავალ ტოკენებად ითვლება $6.07-ად მილიონზე. Thinking Machines აფიქსირებს, რომ Terminal Bench 2.1-ზე Inkling Nemotron 3 Ultra-ს შესადარ ქულებს აღწევს დაახლოებით ტოკენების მესამედით — ტოკენების ეფექტიანობა ძალისხმევის სისტემის განზრახული დიზაინის მიზანია და არა შემთხვევითობა.

პრაქტიკაში: გაუშვით low ან minimal წარწერების გენერაციისთვის, კლასიფიკაციისთვის და პირდაპირი ამოღებისთვის, სადაც პასუხი სურათშია და დასკვნის ჯაჭვი არ სჭირდება. შეინახეთ high და უფრო მაღალი დიაგრამის მსჯელობისთვის, მრავალსაფეხურიანი ვიზუალური შედარებისთვის და აგენტური სვლებისთვის, სადაც არასწორი შუალედური ნაბიჯი ძვირია. გუნდების უმეტესობა ამ პარამეტრს საერთოდ არ აყენებს, და მაგიდაზე ტოვებს გამომავალი ხარჯის რამდენჯერმე სხვაობას.

08რას ნიშნავს „უცენზურო" აქ — და რას არ ნიშნავს

კონკრეტულად: ჩვენ ამ მოდელს უარის ფენისა და გამოსავალზე ფილტრაციის გარეშე ვუშვებთ. კლასიფიკატორი არ კითხულობს თქვენს პრომპტს და არ წყვეტს, შეუძლია თუ არა მოდელს პასუხის გაცემა, და არცერთი არ კითხულობს პასუხს, სანამ ის გასტრიმდება. როცა მოდელი გაურკვეველია ან ცოდნა არ ჰყოფნის, ის ამას ამბობს — ეს მოდელია და არა პოლიტიკა. რასაც არ მიიღებთ, არის რეფლექსური უარი თემაზე, რომელსაც ზოგადი-სამომხმარებლო პროდუქტი აკრძალულად თვლის.

ხედვისთვის ეს მთელი ღირებულების წინადადებაა. ხედვის API-ების წინ მდგომი სურათის კლასიფიკატორები არაზუსტია, და ცრუ-დადებითი მაჩვენებელი ყველაზე მძიმედ სწორედ იმ პროფესიულ სამუშაოზე ეშვება, რომელსაც ეს შესაძლებლობა ყველაზე მეტად სჭირდება: უსაფრთხოების კვლევა, კლინიკური კონტექსტები, ჟურნალისტიკა და სასამართლო-ექსპერტიზა, ფილმისა და ხელოვნების კრიტიკა, მოდერაციის ინსტრუმენტები, რომლებმაც უნდა შეხედონ იმას, რასაც მოდერირებენ. ენდპოინტი, რომელიც კატეგორიაზე უარს ამბობს, ამათგან არცერთს ვერ ემსახურება საიმედოდ.

ორი პატიოსანი დათქმა. პირველი, Thinking Machines აქვეყნებს უსაფრთხოების შეფასებებს თავიანთი საეტალონო დანერგვისთვის — 78.0% FORTRESS-ის მოწინააღმდეგე ტესტზე, 95.9% FORTRESS-ის კეთილთვისებურ ტესტზე, 98.6% StrongREJECT-ზე. ეს ციფრები მათ სტეკს აღწერს მათივე დამცავებით ჩართული. ისინი ჩვენს არ აღწერს, და ჩვენ არ დავიმოწმებთ მათ, თითქოს აღწერდნენ. ჩვენ მოვხსენით ფენა, რომელსაც ეს რიცხვები ნაწილობრივ ზომავს; ეს არის პროდუქტი, და პასუხისმგებლობა.

მეორე, „უარის ფენის გარეშე" არ ნიშნავს „წესების გარეშე". Shannon Lab LLC პასუხისმგებლიანი გამოყენების პოლიტიკისა და მოქმედი აშშ-ის კანონის ფარგლებში მოქმედებს. კლასიფიკატორის მოხსნა განსჯას თქვენზე გადააქვს და არ შლის მას. თუ ამაზე აშენებთ, წაიკითხეთ პოლიტიკა მასშტაბირებამდე.

09დაწყება

იგივე საბაზო URL, იგივე გასაღები, სამი დიალექტი. თუ თქვენი კოდი უკვე OpenAI-ს, Anthropic-ს ან Responses API-ს იძახებს, მოდელის სტრიქონის შეცვლა ჩვეულებრივ მთელი მიგრაციაა.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

პარამეტრების სრული ცნობარი, /v1/messages-ისა და /v1/responses-ის ფორმები, სტრიმინგის მოვლენების ფორმატები და ცოცხალი სათამაშო მოედანი API-ის დოკუმენტაციაშია. დანარჩენი თერთმეტი მოდელის ბარათები Shannon Research-შია.

საფუძვლის ციფრები Thinking Machines Lab-ის გამოქვეყნებული რიცხვებია შეუკუმშავი Inkling ჩექფოინთისთვის და ოჯახის ჭერს აღწერს და არა ჩვენს კვანტიზებულ ბილდს. ფასები და შესაძლებლობების დროშები Shannon AI-ს გეითვეის სასაქონლო მნიშვნელობებია 2026 წლის სექტემბრის მდგომარეობით.

10ხშირად დასმული კითხვები

---

წყაროები: Thinking Machines Lab — Inkling-ის წარდგენა · Hugging Face — Inkling-ის მისალმება · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · სებასტიან რაშკა — Inkling-ის არქიტექტურისა და ბენჩმარკის შენიშვნები. საფუძვლის ბენჩმარკები ლაბორატორიის მიერაა მოხსენებული შეუკუმშავი ჩექფოინთისთვის.