Sansürsüz Inkling Model API

Ağ geçidimizdeki on iki modelin çoğu yalnızca metindir. Dördü değildir ve o dördü arasında Inkling özel bir yer tutar: problemin zor kısmı resim olduğunda ama bütçe bir amiral gemisine yetmediğinde uzandığınız görü modeli. Bu kart temelin nereden geldiğini, W4A16-AUTOROUND-REAP son ekinin ona ne yaptığını, API yüzeyinde neyi yapıp neyi yapmayacağını ve — dürüstçe — aynı katalogdaki daha ucuz bir modelin ne zaman daha doğru tercih olduğunu anlatıyor.

01Inkling nedir ve onu kim kurdu?

Inkling, Thinking Machines Lab'in 15 Temmuz 2026'da yayımlanan ilk açık ağırlıklı modelidir. "Açık" diye konumlandırılan çoğu yayımın aksine, Hugging Face üzerinde tam indirilebilir ağırlıklarla ve transformers, SGLang, vLLM ile llama.cpp'de sıfırıncı gün desteğiyle çıktı — zaten bizimki gibi altyapılarda koşturulabilir olmasının nedeni de bu. Thinking Machines'in kendi yayım materyallerinden manşet rakamlar:

Bu seyrek bir Uzmanlar Karışımı düzeni: 6.144 gizli boyutta 66 kod çözücü katmanı; ilk ikisi yoğun, kalan 64'ü 256 yönlendirilen uzman artı 2 paylaşılan uzman taşıyor ve token başına 6 yönlendirilen uzman etkin. Herhangi bir tokenda parametrelerin kabaca %4'ü ateşleniyor — bir trilyona yakın parametreli bir modelin hiç olmazsa sunulabilir olmasını sağlayan da bu.

İki mimari tercih adlandırılacak kadar sıra dışı. Dikkat iç içe geçirilmiş — 512 tokenlık bir pencerede 55 kayan pencere katmanına karşı 11 global katman, 5:1 tekrar eden bir örüntüde. Ve Inkling RoPE kullanmıyor: anahtar/değer izdüşümlerinde ve artık dallarda kısa nedensel evrişimlerin yanında, öğrenilmiş ve girdiye bağlı bir göreli konum yanlılığı kullanıyor. Sebastian Raschka'nın mimari notları ikisini de standart 2026 tarifinden gerçek sapmalar olarak işaretliyor. Eğitimde büyük matris parametreleri için Muon, geri kalanı için Adam kullanıldı; ardından eğitim sonrasında 30 milyondan fazla eşzamansız RL koşusu yapıldı.

Bir API tüketicisi için asıl mesele bu ayrıntılar değil. Mesele şu: bu, metin, görsel, ses ve video kapsayan 45 trilyon token üzerinde eğitilmiş, sınır ölçekli, yerel olarak çok kipli bir temel — sonradan görü adaptörü takılmış bir metin modeli değil. Görseller, dört katmanlı hiyerarşik bir MLP yamalayıcı üzerinden 40×40 piksellik yamalar olarak kodlanıyor ve metinle aynı kod çözücüde birlikte işleniyor. Görsel anlama, ön eğitim hedefinin içindeydi.

02W4A16-AUTOROUND-REAP ne demek?

O son ekte üç ayrı teknik üst üste yığılmış ve farklı işler yapıyorlar. Anlamaya değer, çünkü bu son ek, API'mizde çağırdığınız modelle Thinking Machines'in yayımladığı kontrol noktası arasındaki tek en büyük farktır.

REAP — kimsenin yönlendirmediği uzmanları budamak

REAP, Cerebras Research'ten Router-weighted Expert Activation Pruning'dir (arXiv 2510.13999, ICLR 2026'ya kabul edildi). Katman başına 256 uzmanlı bir MoE'de yönlendirici işi eşit dağıtmaz: bazı uzmanlara sürekli vurulur, bazıları nadiren ateşlenir ve ateşlendiğinde de az katkı verir. REAP her uzmanı hem yönlendiricinin geçit değerleri hem de uzmanın aktivasyon normları üzerinden puanlar — sık seçilen ama küçük büyüklükte güncellemeler katan bir uzman, seçilme sayısının ima ettiğinden daha az önemlidir — ve düşük belirginlikte olanları niceleme öncesinde tek atışta atar.

Daha moda olan uzman birleştirme yerine budamayı kullanmamızın nedeni, ikisinin görev türüne göre ayrışmasıdır. Birleştirme ayırt edici kıyaslamalarda rekabetçi görünür ve üretken olanlarda dağılır. REAP'in yazarları, budamanın kalitesi tam olarak insanların bir API satın aldığı iş yüklerinde — kod sentezi, araç çağırma, çok turlu akıl yürütme — %50'yi aşan sıkıştırma oranlarında ve 20B'den 1T parametreye kadar modellerde daha iyi koruduğunu bildiriyor. Birleştirme yönlendiricinin uzmanlaşmasını yok eder; budama, hayatta kalan uzmanları ve aralarındaki yönlendirmeyi olduğu gibi bırakır.

AutoRound — nereye yuvarlanacağını öğrenmek

AutoRound, Intel'in eğitim sonrası niceleme yöntemidir (arXiv 2309.05516, SignRound olarak yayımlandı). Naif niceleme her ağırlığı en yakın temsil edilebilir 4 bit değere yuvarlar — makul bir varsayılan ve ölçekte kötü bir tercih, çünkü yuvarlama hataları bağımsız değildir ve 66 katmanlık bir yığın boyunca birikir. AutoRound yuvarlama kararını optimize edilecek bir şey olarak ele alır: işaretli gradyan inişi, birkaç yüz adım boyunca yuvarlama yönünü ve ağırlık kırpma aralıklarını birlikte ayarlar; niceleme farkındalıklı eğitimin doğruluğunu yeniden eğitim olmadan ödünç alır. Intel, en büyük kazançları uç düşük bit ayarlarında ve INT4'te rekabetçi bir üstünlük olarak bildiriyor.

W4A16 — bitler nereye gidiyor

W4A16 sayısal biçimdir: 4 bit ağırlık, 16 bit aktivasyon. 975B'lik bir modelde belleğe hükmeden ağırlıklar, BF16 ayak izinin kabaca dörtte birine küçülürken aritmetik 16 bitte kalır. Bu ayrım özellikle bir görü modeli için önemli: aktivasyonu nicelenmiş şemalar tam olarak görsel anlamanın dayandığı ince taneli sayısal işi bozar — küçük bir eksen etiketini okumak, bir şemadaki ince bir çizgiyi ayırt etmek, birbirine yakın iki tonu ayırmak. Aktivasyonları 16 bitte tutmak bant genişliğine mal olur ve bir görü iş yükünün fark ettiği yerde hassasiyeti geri kazandırır.

Üçü üst üste bindiğinde, en büyük temellerde kullandığımız agresif 3BIT-REAP katmanının kalite uçurumu olmadan sığan ve hızlı kalan bir model elde ediyorsunuz. Fiyatın yansıttığı takas budur.

03Görü: reddetmesiz bir görsel analiz API'si

Inkling, kataloğumuzdaki Kimi-K3, Kimi-K2.6 ve MiniMax-M3 ile birlikte görü yetenekli dört modelden biri. Temel modelin Thinking Machines yayımından gelen yayımlanmış görü sonuçları MMMU Pro'da (Standard 10) %73,3 ve CharXiv akıl yürütme sorularında %78,1 — modelin grafik üzerinde Python koşturmasına izin verildiğinde %82,0'a çıkıyor. Bunlar nicelenmemiş kontrol noktası için laboratuvarın kendi rakamları; ailenin tavanı olarak görün, bizim derlememizin ölçümü olarak değil.

Üzerinde durmaya değer olan CharXiv, çünkü insanların neden bir OCR hizmeti değil de bir görü API'si satın aldığıyla örtüşüyor. Bilimsel grafikler üzerinde akıl yürütmeyi sınıyor — bir eksenden değer okumak, iki seriyi karşılaştırmak, bir eğilimin tersine döndüğünü fark etmek. "Bu görselde hangi metin var" değil, "bu şekil neyi iddia ediyor ve iddia tutuyor mu". Bir resmi küçük bir altyazılayıcı yerine 975B'lik bir akıl yürütme modeline göndermeyi haklı çıkaran da budur.

Bir görsel göndermek sıradan, OpenAI uyumlu bir iştir — /v1/chat/completions üzerinde bir image_url içerik parçası, /v1/messages üzerinde Anthropic tarzı bir image bloğu ya da /v1/responses üzerinde eşdeğeri. Üç lehçe de aynı ağırlıklara vurur ve üçü de akıtır; mevcut SDK'nız hangisini konuşuyorsa onu seçin. İşlenmiş bir örnek 09. bölümde.

Sansürsüz kısım, görü için metinden daha çok önemli. Bir görü uç noktasındaki reddetme katmanı alışılmadık ölçüde kabadır, çünkü model istek hakkında akıl yürütmeden önce genellikle görseli sınıflandırır. Meşru iş sürekli takılır: klinik not hattındaki bir yara fotoğrafı, olay raporundaki adli bir ekran görüntüsü, bir eleştiri yazısı için çözümlenen filmden bir kare, tıbbi bir tarama, içinde tesadüfen bir ad geçen bir belgenin görüntüsü. Ağ geçidimizdeki Inkling'in önünde böyle bir sınıflandırıcı yok. Gönderdiğinize bakar ve sorduğunuz soruyu yanıtlar. Ürün budur.

04Yapılandırılmış çıktı: response_format var, json_schema yok

Inkling'in katalogun çoğundan daha yeteneksiz olduğu tek yer burası ve bunu üretimde keşfetmektense önceden planlamak daha iyi.

Yetenek	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
Görü (görsel girdi)	Evet	Evet	Evet	Hayır
response_format	Evet	Evet	Evet	Hayır
json_schema	Hayır	Evet	Evet	Hayır
Araç çağırma	Evet	Evet	Evet	Evet
Akıl yürütme çabası	Evet	Evet	Evet	Evet

response_format: {"type": "json_object"} çalışır — sözdizimsel olarak geçerli JSON alırsınız. Alamadığınız şey, örnekleyicinin yapınızı ihlal eden bir token üretmesinin fiziksel olarak engellendiği, sizin verdiğiniz bir şemaya karşı dilbilgisi kısıtlı kod çözme. Alan adları, enum üyeliği ve zorunlu anahtarların varlığı bir garanti değil, modelin tercihidir.

Bununla yaşamanın, güvenilirlik sırasına göre üç yolu var:

1. Şemayı isteme koyun ve doğrulayın. Şemayı sistem istemine düz JSON olarak yerleştirin, response_format'ı json_object yapın ve yanıtı kendi tarafınızda doğrulayın. Doğrulama başarısız olursa doğrulayıcının hata iletisini ekleyerek yeniden deneyin. Ucuz, işe yarar, bir yeniden deneme bütçesi ister.
2. Şema olarak bir araç tanımı kullanın. Araç çağırma destekleniyor zaten ve bir fonksiyonun parametre tanımı bir JSON Şemasıdır. İstediğiniz çıkarımın adını taşıyan tek bir araç bildirin, onu zorunlu kılın ve argümanları okuyun. Inkling'de genellikle en güçlü seçenek budur ve size fazladan hiçbir maliyeti yoktur.
3. İşi iki modele bölün. Görüyü ve akıl yürütmeyi düzyazı olarak Inkling'e yaptırın, sonra o düzyazıyı yapılandırma geçişi için gerçek bir json_schema ile 0,50 $ / 2,00 $ fiyatlı MiMo-V2.5-W8A16'ya verin. İki çağrı, ama ikincisi ucuz ve biçim olarak belirlenimci; akıllı olması gereken model de görseli gören model.

3. seçenek, yüksek hacimli her çıkarım hattı için önereceğimiz örüntüdür. Primi yalnızca ona ihtiyaç duyan adım için ödeyin.

05Fiyat primi ne satın alıyor?

Milyon token başına 1,42 $ giriş / 6,07 $ çıkış ile Inkling, kataloğumuzun kasten ortasında duruyor. On iki modelin altısı 0,50 $ / 2,00 $ tabanında. Amiral gemisi ve aynı zamanda görü yetenekli olan Kimi-K3 ise 3,83 $ / 19,12 $. Inkling, çıkışta tabanın kabaca üç katı ve amiral geminin kabaca üçte biri.

Çıkış fiyatı, 1M token başına USD, Shannon AI Gateway liste tarifeleri, Eylül 2026. Çubuk genişliği fiyatla orantılıdır; uzun olan daha pahalıdır.

Bu primin hakkını nerede verdiğine — ve nerede vermediğine — dair dürüst okuma şöyle.

İş yükü	Inkling kullanılsın mı?	Neden
Grafik / şema akıl yürütme	Evet	Yayımlanan CharXiv ve MMMU Pro rakamları bu temelin en güçlü olduğu yer.
Ekran görüntüsü güdümlü ajanlar	Evet	Tek modelde görü artı araç çağırma artı 262K geçmiş, devretme yok.
Şekil içeren uzun belgeler	Evet	Metin ve görseller tek bir kod çözücüyü ve tek bir bağlam penceresini paylaşır.
Düz metin üretimi	Hayır	0,50 $ / 2,00 $ fiyatlı altı model bunu yapıyor. Hiç çağırmayacağınız bir görü yolu için ödüyorsunuz.
Toplu şema çıkarımı	Hayır	json_schema yok. MiMo-V2.5 hem daha ucuz hem kısıtlı.
Mutlak sınır tavanı	Hayır	Amiral gemisi Kimi-K3. Kısıtınız tavansa 3,1 katı ödeyin.
Mümkün olan en ucuz görü	Hayır	MiniMax-M3'te 0,50 $ / 2,00 $ fiyata görü var. Oradan başlayın, kalite zorlarsa yükseltin.

Bunu bir sıralama değil, bir yönlendirme kuralı olarak okuyun. Inkling, bir pazarlama sayfasının iddia edeceğinden daha dar bir iş bandı için doğrudur ve o bandın içinde fiyatta yenilmesi zordur. Dışında ise size daha ucuz modeli satıp sizi elimizde tutmayı yeğleriz.

06262K bağlam penceresi ve gerçekte ne sığıyor

Ağ geçidindeki on iki modelin hepsi 262.144 tokenlık giriş bağlamı ve istek başına 16.384 tokenlık azami çıktıyla sunuluyor. Bilerek tek tip: bağlam işleyişi kodunuzda asla modele göre dallanan bir şey olmamalı ve bir yapılandırma dosyasında inkling'i MiniMax-M3 ile değiştirmek neyin sığdığını sessizce değiştirmemeli.

Yayımlanan temele göre farka dikkat edin: Thinking Machines, Inkling'i 1.048.576 token olarak belgeliyor ve biz onun 262K'lık bir dilimini sunuyoruz. Gerçekten milyon tokenlık tek istekli bir iş yükünüz varsa uç noktanız biz değiliz ve bunu inşa etmeden önce bilmeniz daha iyi.

262K'nın ölçeği için: şekilleriyle birlikte 400 sayfalık teknik bir PDF, orta boy bir kod tabanı, birkaç saatlik döküm ya da düzinelerce araç sonucu ve bir avuç ekran görüntüsü taşıyan uzun bir ajan oturumu — her biri tek bir isteğe sığar. Bir görü modelinde görsellerin de bağlam tükettiğini unutmayın; yoğun bir ekran görüntüsü bedava değildir ve kare akıtan bir oturum pencereyi yalnızca metin işleyen bir oturumdan daha hızlı doldurur. Mimari buna iyi uyuyor: 5:1'lik kayan pencere-global örüntüsü, katmanların çoğunun 512 tokenlık bir komşuluk içinde dikkat gösterdiği, global katmanların ise uzun menzilli yapıyı düzenli aralıklarla geri getirdiği anlamına geliyor.

07Akıl yürütme çabası: düşünmeye yalnızca ihtiyaç duyduğunuzda ödemek

Inkling denetlenebilir akıl yürütme çabası sunuyor — katalogdaki daha kullanışlı düğmelerden biri. Memba modeli none ve minimal'den low, medium, high, xhigh üzerinden max'a kadar düzeyleri kabul ediyor; üç lehçenin hepsinde standart reasoning_effort parametresiyle sunuluyor.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

Bu dişli bir maliyet kolu, çünkü akıl yürütme tokenları milyon başına 6,07 $ ile çıkış tokeni olarak faturalanıyor. Thinking Machines, Terminal Bench 2.1'de Inkling'in kabaca üçte bir token ile Nemotron 3 Ultra'yla kıyaslanabilir skorlara ulaştığını bildiriyor — token verimliliği, çaba sisteminin kaza eseri değil, açıkça belirtilmiş bir tasarım hedefi.

Pratikte: altyazılama, sınıflandırma ve cevabın görselde olduğu, hiçbir çıkarım zincirinin gerekmediği düz veri çıkarma için low ya da minimal koşturun. high ve üstünü grafik akıl yürütmeye, çok adımlı görsel karşılaştırmaya ve yanlış bir ara adımın pahalıya patladığı ajan turlarına ayırın. Çoğu ekip bu parametreyi hiç ayarlamıyor ve birkaç kat çıkış maliyeti farkını masada bırakıyor.

08Burada "sansürsüz" ne demek — ve ne demek değil

Somut olarak: bu modeli reddetme katmanı olmadan ve çıktıda filtre olmadan koşturuyoruz. Hiçbir sınıflandırıcı isteminizi okuyup modelin yanıtlayıp yanıtlayamayacağına karar vermiyor ve hiçbiri yanıtı akmadan önce okumuyor. Model emin değilse ya da bilgisi yoksa bunu söyler — bu modelin kendisidir, bir politika değil. Alamayacağınız şey, genel tüketici ürünlerinin yasak saydığı bir konuda refleks hâline gelmiş bir geri çevirmedir.

Görü için bütün değer önerisi budur. Görü API'lerinin önündeki görsel sınıflandırıcılar kaba saba çalışır ve yanlış pozitif oranı en ağır biçimde, bu yeteneğe en çok ihtiyaç duyan profesyonel işe iner: güvenlik araştırması, klinik bağlamlar, gazetecilik ve adli bilim, sinema ve sanat eleştirisi, modere ettiği şeye bakmak zorunda olan moderasyon araçları. Kategoriye bakıp reddeden bir uç nokta bunların hiçbirine güvenilir biçimde hizmet edemez.

İki dürüst çekince. Birincisi, Thinking Machines kendi referans dağıtımı için güvenlik değerlendirmeleri yayımlıyor — FORTRESS çekişmelide %78,0, FORTRESS zararsızda %95,9, StrongREJECT'te %98,6. Bu rakamlar, kendi korkulukları yerindeyken kendi yığınlarını tarif ediyor. Bizimkini tarif etmiyorlar ve biz de ediyormuş gibi onları alıntılamayacağız. O sayıların kısmen ölçtüğü katmanı kaldırdık; ürün de sorumluluk da bu.

İkincisi, "reddetme katmanı yok", "kural yok" demek değildir. Shannon Lab LLC bir Sorumlu Kullanım Politikası ve geçerli ABD yasası altında çalışır. Bir sınıflandırıcıyı kaldırmak muhakemeyi size kaydırır, onu silmez. Bunun üzerine inşa ediyorsanız ölçeklenmeden önce politikayı okuyun.

09Başlarken

Aynı temel URL, aynı anahtar, üç lehçe. Kodunuz zaten OpenAI'yi, Anthropic'i ya da Responses API'sini çağırıyorsa, model dizesini değiştirmek genellikle göçün tamamıdır.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Tam parametre referansı, /v1/messages ve /v1/responses biçimleri, akış olay formatları ve canlı bir deneme alanı API dokümantasyonunda. Diğer on bir modelin model kartları Shannon Research'te.

Temel rakamları, Thinking Machines Lab'in nicelenmemiş Inkling kontrol noktası için yayımladığı sayılardır ve bizim nicelenmiş derlememizi değil, ailenin tavanını tarif eder. Fiyatlar ve yetenek bayrakları Eylül 2026 itibarıyla Shannon AI Gateway liste değerleridir.

10Sıkça sorulan sorular

---

Kaynaklar: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — Inkling mimari ve kıyaslama notları. Temel kıyaslamaları, nicelenmemiş kontrol noktası için laboratuvar beyanıdır.