API של מודל Inkling ללא צנזורה

רוב שנים-עשר המודלים בשער שלנו הם טקסט בלבד. ארבעה אינם, ובתוך הארבעה האלה ל-Inkling יש עמדה ספציפית: זהו מודל הראייה שאליו אתה פונה כשהתמונה היא החלק הקשה בבעיה אבל התקציב לא נמתח עד מודל דגל. הכרטיס הזה מכסה מאיפה מגיע מודל היסוד, מה הסיומת W4A16-AUTOROUND-REAP עשתה לו, מה הוא יעשה ומה לא במשטח ה-API, ו — בכנות — מתי מודל זול יותר באותו קטלוג הוא הבחירה הנכונה.

01מהו Inkling, ומי בנה אותו?

Inkling הוא המודל הראשון במשקלים פתוחים של Thinking Machines Lab, שפורסם ב-15 ביולי 2026. בשונה מרוב השחרורים שממצבים את עצמם כ"פתוחים", הוא נשלח עם משקלים מלאים להורדה ב-Hugging Face ועם תמיכה מיום אפס ב-transformers, ב-SGLang, ב-vLLM וב-llama.cpp — וזו הסיבה שהוא בכלל ניתן להרצה על תשתית כמו שלנו. מספרי הכותרת, מחומרי השחרור של Thinking Machines עצמה:

זהו פריסת Mixture-of-Experts דלילה: 66 שכבות מפענח בגודל חבוי 6,144, שתי הראשונות צפופות ו-64 הנותרות נושאות 256 מומחים מנותבים ועוד 2 מומחים משותפים, עם 6 מומחים מנותבים פעילים לכל טוקן. בערך 4% מהפרמטרים נדלקים על כל טוקן נתון — וזה מה שהופך מודל שקרוב לטריליון פרמטרים לבר-הגשה בכלל.

שתי בחירות ארכיטקטוניות חריגות מספיק כדי לנקוב בשמן. תשומת הלב שזורה — 55 שכבות של תשומת לב בחלון מחליק על פני חלון של 512 טוקנים מול 11 שכבות גלובליות, בתבנית חוזרת של 5:1. ו-Inkling אינו משתמש ב-RoPE: הוא משתמש בהטיית מיקום יחסית נלמדת ותלוית-קלט, לצד קונבולוציות סיבתיות קצרות על היטלי המפתח/ערך ועל ענפי השארית. הערות הארכיטקטורה של Sebastian Raschka מסמנות את שתיהן כסטיות אמיתיות ממתכון 2026 הסטנדרטי. האימון השתמש ב-Muon לפרמטרי המטריצות הגדולים וב-Adam לשאר, ואז ביותר מ-30 מיליון גלגולי למידת חיזוק אסינכרוניים באימון שאחרי האימון המקדים.

הנקודה מבחינת צרכן API אינה הטריוויה. היא שזהו מודל יסוד בקנה מידה חזיתי ורב-מודאלי מובנה שאומן על 45 טריליון טוקנים המשתרעים על טקסט, תמונות, שמע ווידאו — לא מודל טקסט עם מתאם ראייה שהוברג עליו אחר כך. תמונות מקודדות כטלאים בגודל 40×40 פיקסלים דרך מטליא MLP היררכי בן ארבע שכבות ומעובדות יחד עם טקסט באותו מפענח. הבנה ויזואלית הייתה בתוך יעד האימון המקדים.

02מה המשמעות של W4A16-AUTOROUND-REAP?

שלוש טכניקות נפרדות נערמות בסיומת הזו, והן עושות עבודות שונות. שווה להבין, כי הסיומת היא ההבדל הגדול ביותר בין המודל שאתה קורא לו ב-API שלנו לבין נקודת הבדיקה ש-Thinking Machines פרסמה.

REAP — גיזום המומחים שאיש לא מנתב אליהם

REAP היא Router-weighted Expert Activation Pruning, מבית Cerebras Research (arXiv 2510.13999, התקבלה ל-ICLR 2026). ב-MoE עם 256 מומחים לשכבה הנתב אינו מחלק את העבודה באופן שווה: לחלק מהמומחים פונים כל הזמן, אחרים נדלקים לעיתים רחוקות ותורמים מעט כשהם כן. REAP מדרגת כל מומחה לפי שני האותות — ערכי שער הנתב ונורמות ההפעלה של המומחה — מומחה שנבחר לעיתים קרובות אך תורם עדכונים קטני-עוצמה חשוב פחות ממה שמספר הבחירות שלו מרמז — ומסירה את בעלי הבולטות הנמוכה בשלב יחיד, לפני הקוונטיזציה.

הסיבה שאנחנו משתמשים בגיזום ולא במיזוג מומחים האופנתי יותר היא ששני אלה מתפצלים לפי סוג המשימה. מיזוג נראה תחרותי בבנצ'מרקים מבחינים ומתפרק בבנצ'מרקים יוצרים. מחברי REAP מדווחים שגיזום שומר על האיכות טוב יותר בדיוק בעומסים שבשבילם אנשים קונים API — סינתזת קוד, קריאת כלים, חשיבה רבת-סבבים — ביחסי דחיסה שמעבר ל-50%, במודלים מ-20B ועד טריליון פרמטרים. מיזוג הורס את ההתמחות של הנתב; גיזום משאיר את המומחים ששרדו ואת הניתוב ביניהם שלמים.

AutoRound — ללמוד איפה לעגל

AutoRound היא שיטת הקוונטיזציה שאחרי האימון של Intel (arXiv 2309.05516, פורסמה בשם SignRound). קוונטיזציה נאיבית מעגלת כל משקל לערך בן 4 הסיביות הקרוב ביותר — ברירת מחדל סבירה, וגרועה בקנה מידה, כי שגיאות עיגול אינן בלתי תלויות והן מצטברות דרך ערימה בת 66 שכבות. AutoRound מתייחסת להחלטת העיגול כאל משהו שיש למטב: ירידת גרדיאנט מסומנת מכווננת יחד את כיוון העיגול ואת טווחי הגזירה של המשקלים על פני כמה מאות צעדים, ומשאילה את הדיוק של אימון מודע-קוונטיזציה בלי אימון מחדש. Intel מדווחת על הרווחים הגדולים ביותר בהגדרות קיצוניות של מעט סיביות ועל יתרון תחרותי ב-INT4.

W4A16 — לאן הולכות הסיביות

W4A16 הוא הפורמט הנומרי: משקלים ב-4 סיביות, הפעלות ב-16 סיביות. המשקלים — ששולטים בזיכרון במודל בן 975B — מתכווצים לכרבע מטביעת הרגל של BF16, בעוד שהאריתמטיקה נשארת ב-16 סיביות. הפיצול הזה חשוב במיוחד למודל ראייה: סכמות שמקוונטזות גם את ההפעלות פוגעות בדיוק בעבודה הנומרית העדינה שהבנת תמונות תלויה בה — קריאת תווית ציר קטנה, הפרדת קו דק בתרשים, הבחנה בין שני גוונים דומים. השארת ההפעלות ב-16 סיביות עולה ברוחב פס וקונה בחזרה דיוק במקום שבו עומס ראייה מבחין בכך.

יחד, השלושה נותנים מודל שנכנס ונשאר מהיר בלי מפל האיכות של דרג ה-3BIT-REAP האגרסיבי שאנחנו משתמשים בו במודלי היסוד הגדולים ביותר. זו הפשרה שהמחיר משקף.

03ראייה: API לניתוח תמונות בלי סירוב

Inkling הוא אחד מארבעה מודלים עם יכולת ראייה בקטלוג שלנו, לצד Kimi-K3, Kimi-K2.6 ו-MiniMax-M3. תוצאות הראייה שפורסמו למודל הבסיס, מתוך השחרור של Thinking Machines, הן 73.3% ב-MMMU Pro (Standard 10) ו-78.1% בשאלות החשיבה של CharXiv — ועולות ל-82.0% כשמותר למודל להריץ Python מול התרשים. אלה נתוני המעבדה עצמה לנקודת הבדיקה הלא מקוונטזת; התייחס אליהם כאל התקרה של המשפחה, לא כאל מדידה של הבנייה שלנו.

CharXiv הוא זה ששווה להתעכב עליו, כי הוא ממופה לסיבה שבגללה אנשים קונים API של ראייה ולא שירות OCR. הוא בודק חשיבה על תרשימים מדעיים — קריאת ערך מציר, השוואת שתי סדרות, הבחנה בהיפוך מגמה. לא "איזה טקסט יש בתמונה" אלא "מה האיור הזה טוען, והאם הטענה מחזיקה". זה מה שמצדיק לשלוח תמונה למודל חשיבה בן 975B במקום לכתבן קטן.

שליחת תמונה היא עבודה רגילה תואמת-OpenAI — חלק תוכן image_url ב-/v1/chat/completions, בלוק image בסגנון Anthropic ב-/v1/messages, או המקבילה ב-/v1/responses. שלושת הדיאלקטים פונים לאותם משקלים ושלושתם מזרימים; בחר במה שה-SDK הקיים שלך כבר מדבר. דוגמה מלאה נמצאת בסעיף 09.

החלק של היעדר הצנזורה חשוב יותר לראייה מאשר לטקסט. שכבת סירוב על נקודת קצה של ראייה בוטה באופן חריג, כי היא בדרך כלל מסווגת את התמונה לפני שהמודל חשב על הבקשה. עבודה לגיטימית נתפסת כל הזמן: צילום פצע בצינור רשומות קליניות, צילום מסך פורנזי בדוח אירוע, פריים מסרט שמנותח לביקורת, סריקה רפואית, תמונה של מסמך שבמקרה יש בו שם. ל-Inkling בשער שלנו אין מסווג כזה מלפניו. הוא מסתכל על מה ששלחת ועונה על השאלה ששאלת. זה המוצר.

04פלט מובנה: response_format כן, json_schema לא

זהו המקום היחיד שבו Inkling פחות יכולתי מרוב הקטלוג, ועדיף לתכנן לזה מאשר לגלות את זה בייצור.

יכולת	inkling	Kimi-K2.6	MiMo-V2.5	Laguna-S-2.1
ראייה (קלט תמונה)	כן	כן	כן	לא
response_format	כן	כן	כן	לא
json_schema	לא	כן	כן	לא
קריאת כלים	כן	כן	כן	כן
מאמץ חשיבה	כן	כן	כן	כן

response_format: {"type": "json_object"} עובד — אתה מקבל JSON תקין תחבירית. מה שאינך מקבל הוא פענוח מוגבל-דקדוק מול סכמה שאתה מספק, שבו הדוגם מנוע פיזית מלפלוט טוקן שמפר את המבנה שלך. שמות שדות, השתייכות ל-enum ונוכחות מפתחות נדרשים הם בחירת המודל, לא הבטחה.

שלוש דרכים לחיות עם זה, בסדר עולה של אמינות:

1. הנחה את הסכמה ואמת. שים את הסכמה בהנחיית המערכת כ-JSON מילולי, הגדר את response_format ל-json_object, ואמת את התשובה בצד שלך. נסה שוב בכישלון אימות עם הודעת השגיאה של המאמת מצורפת. זול, עובד, דורש תקציב לניסיונות חוזרים.
2. השתמש בהגדרת כלי כסכמה. קריאת כלים כן נתמכת, והגדרת הפרמטרים של פונקציה היא סכמת JSON. הכרז על כלי יחיד שנקרא על שם החילוץ שאתה רוצה, כפה אותו, וקרא את הארגומנטים. זו בדרך כלל האפשרות החזקה ביותר ב-Inkling והיא לא עולה לך דבר נוסף.
3. פצל את העבודה בין שני מודלים. תן ל-Inkling לעשות את הראייה ואת החשיבה בפרוזה, ואז מסור את הפרוזה ל-MiMo-V2.5-W8A16 במחיר $0.50 / $2.00 עם json_schema אמיתי למעבר המבנֶה. שתי קריאות, אבל השנייה זולה, קבועה בצורתה, והמודל שצריך להיות חכם הוא זה שראה את התמונה.

אפשרות 3 היא התבנית שהיינו ממליצים עליה לכל צינור חילוץ בנפח גבוה. שלם את הפרמיה רק על השלב שזקוק לה.

05מה פרמיית המחיר קונה?

ב-$1.42 קלט / $6.07 פלט למיליון טוקנים, Inkling יושב במכוון באמצע הקטלוג שלנו. שישה משנים-עשר המודלים נמצאים ברצפה של $0.50 / $2.00. Kimi-K3 — הדגל, גם הוא בעל יכולת ראייה — עולה $3.83 / $19.12. Inkling הוא בערך פי שלושה מהרצפה בפלט ובערך שליש מהדגל.

מחיר פלט, דולר למיליון טוקנים, מחירון השער של Shannon AI, ספטמבר 2026. רוחב העמודה פרופורציוני למחיר; ארוך יותר הוא יקר יותר.

הנה הקריאה הכנה של המקום שבו הפרמיה הזו מרוויחה את קיומה — ושל המקום שבו לא.

עומס עבודה	להשתמש ב-Inkling?	למה
חשיבה על תרשימים / דיאגרמות	כן	נתוני CharXiv ו-MMMU Pro שפורסמו הם מה שמודל היסוד הזה חזק בו ביותר.
סוכנים מונעי צילומי מסך	כן	ראייה ועוד קריאת כלים ועוד 262K של היסטוריה במודל אחד, בלי העברה.
מסמכים ארוכים עם איורים	כן	טקסט ותמונות חולקים מפענח אחד וחלון הקשר אחד.
ייצור טקסט פשוט	לא	שישה מודלים ב-$0.50 / $2.00 עושים את זה. אתה משלם על מסלול ראייה שלעולם אינך קורא לו.
חילוץ סכמה בנפח	לא	אין json_schema. MiMo-V2.5 זול יותר ומוגבל סכמה.
תקרה חזיתית מוחלטת	לא	Kimi-K3 הוא הדגל. שלם את פי 3.1 אם התקרה היא האילוץ.
הראייה הזולה ביותר האפשרית	לא	ל-MiniMax-M3 יש ראייה ב-$0.50 / $2.00. התחל שם, והסלם אם האיכות מכריחה.

קרא את זה ככלל ניתוב, לא כדירוג. Inkling נכון לרצועת עבודה צרה יותר משדף שיווקי היה טוען, ובתוך הרצועה הזו קשה לנצח אותו במחיר. מחוצה לה, אנחנו מעדיפים למכור לך את המודל הזול יותר ולשמור עליך.

06חלון ההקשר של 262K, ומה באמת נכנס בו

כל שנים-עשר המודלים בשער מוגשים עם הקשר קלט של 262,144 טוקנים ועם פלט מרבי של 16,384 טוקנים לבקשה. אחיד במכוון: טיפול בהקשר לעולם לא צריך להפוך להסתעפות לכל מודל בקוד שלך, והחלפת inkling ב-MiniMax-M3 בקובץ תצורה לא צריכה לשנות בשקט מה נכנס.

שים לב לפער מול מודל היסוד שפורסם: Thinking Machines מתעדת את Inkling ב-1,048,576 טוקנים, ואנחנו מגישים פרוסה של 262K מתוכם. אם יש לך עומס אמיתי של מיליון טוקנים בבקשה אחת, אנחנו לא נקודת הקצה בשבילו, ועדיף שתדע לפני שאתה בונה.

לתחושת קנה מידה ב-262K: מסמך PDF טכני בן 400 עמודים עם האיורים שלו, בסיס קוד בגודל בינוני, כמה שעות של תמליל, או מפגש סוכני ארוך שנושא עשרות תוצאות כלים וקומץ צילומי מסך — כל אחד מהם נכנס בבקשה אחת. במודל ראייה, זכור שגם תמונות צורכות הקשר; צילום מסך צפוף אינו חינם, ומפגש שמזרים פריימים ממלא את החלון מהר יותר ממפגש טקסט בלבד. הארכיטקטורה מתאימה לכך היטב: תבנית 5:1 של חלון מחליק מול גלובלי אומרת שרוב השכבות מתייחסות לשכנות של 512 טוקנים, בעוד שכבות גלובליות מושכות חזרה פנימה מבנה ארוך-טווח מדי פעם.

07מאמץ חשיבה: לשלם על חשיבה רק כשאתה זקוק לה

Inkling חושף מאמץ חשיבה בר-שליטה — אחד הכפתורים השימושיים יותר בקטלוג. המודל שבמעלה הזרם מקבל רמות מ-none ומ-minimal דרך low, medium, high, xhigh, ועד max, חשופות בשלושת הדיאלקטים דרך הפרמטר הסטנדרטי reasoning_effort.

{
  "model": "inkling-W4A16-AUTOROUND-REAP",
  "reasoning_effort": "low",
  "messages": [ ... ]
}

זהו מנוף עלות עם שיניים, כי טוקני חשיבה מחויבים כטוקני פלט ב-$6.07 למיליון. Thinking Machines מדווחת ש-Inkling מגיע ב-Terminal Bench 2.1 לציונים דומים ל-Nemotron 3 Ultra בערך בשליש מהטוקנים — יעילות טוקנים היא יעד עיצוב מוצהר של מערכת המאמץ, לא מקרה.

בפועל: הרץ low או minimal לכיתוב, לסיווג ולחילוץ פשוט, שבהם התשובה נמצאת בתמונה ואין צורך בשרשרת הסקה. שמור את high ומעלה לחשיבה על תרשימים, להשוואה ויזואלית רבת-שלבים ולסבבים סוכניים שבהם צעד ביניים שגוי יקר. רוב הצוותים לא מגדירים את הפרמטר בכלל, ומשאירים על השולחן הפרש עלות פלט של פי כמה.

08מה המשמעות של "ללא צנזורה" כאן — ומה לא

באופן מוחשי: אנחנו מריצים את המודל הזה בלי שכבת סירוב ובלי סינון על הפלט. שום מסווג לא קורא את ההנחיה שלך ומחליט אם למודל מותר לענות, ואף אחד לא קורא את התשובה לפני שהיא מוזרמת. כשהמודל אינו בטוח או חסר לו הידע, הוא אומר זאת — זה המודל, לא מדיניות. מה שלא תקבל הוא סירוב רפלקסיבי בנושא שמוצר צריכה כללי מתייחס אליו כאסור.

לראייה זו כל הצעת הערך. מסווגי תמונות שיושבים לפני ממשקי API של ראייה אינם מדויקים, ושיעור החיוב השגוי נוחת הכי חזק על העבודה המקצועית שהכי זקוקה ליכולת: מחקר אבטחה, הקשרים קליניים, עיתונאות ופורנזיקה, ביקורת קולנוע ואמנות, כלי מיתון שחייבים להסתכל על הדבר שהם ממתנים. נקודת קצה שמסרבת לפי קטגוריה אינה יכולה לשרת אף אחד מאלה באמינות.

שתי הסתייגויות כנות. ראשית, Thinking Machines מפרסמת הערכות בטיחות לפריסה הייחוסית שלה — 78.0% ב-FORTRESS יריב, 95.9% ב-FORTRESS שפיר, 98.6% ב-StrongREJECT. הנתונים האלה מתארים את הערימה שלהם עם מעקות הבטיחות שלהם במקום. הם אינם מתארים את שלנו, ואנחנו לא נצטט אותם כאילו כן. הסרנו את השכבה שהמספרים האלה מודדים בחלקם; זה המוצר, וזו האחריות.

שנית, "בלי שכבת סירוב" אינו "בלי כללים". Shannon Lab LLC פועלת תחת מדיניות שימוש אחראי ותחת החוק האמריקאי החל. הסרת מסווג מעבירה את השיפוט אליך, היא לא מוחקת אותו. אם אתה בונה על זה, קרא את המדיניות לפני שאתה מגדיל קנה מידה.

09איך מתחילים

אותה כתובת בסיס, אותו מפתח, שלושה דיאלקטים. אם הקוד שלך כבר קורא ל-OpenAI, ל-Anthropic או ל-Responses API, שינוי מחרוזת המודל הוא בדרך כלל כל ההגירה.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.shannon-ai.com/v1",
    api_key=SHANNON_API_KEY,
)

stream = client.chat.completions.create(
    model="inkling-W4A16-AUTOROUND-REAP",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "What does this figure actually show?"},
        {"type": "image_url", "image_url": {"url": image_data_url}},
    ]}],
    reasoning_effort="high",
    max_tokens=4000,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

הפניה מלאה לפרמטרים, הצורות של /v1/messages ושל /v1/responses, פורמטי אירועי ההזרמה ומגרש משחקים חי נמצאים בתיעוד ה-API. כרטיסי המודל לאחד-עשר המודלים האחרים נמצאים בShannon Research.

נתוני מודל היסוד הם המספרים ש-Thinking Machines Lab פרסמה לנקודת הבדיקה הלא מקוונטזת של Inkling והם מתארים את תקרת המשפחה, לא את הבנייה המקוונטזת שלנו. המחירים ודגלי היכולות הם ערכי המחירון של השער של Shannon AI נכון לספטמבר 2026.

10שאלות נפוצות

---

מקורות: Thinking Machines Lab — Introducing Inkling · Hugging Face — Welcome Inkling · REAP the Experts (arXiv 2510.13999) · Optimize Weight Rounding via Signed Gradient Descent (arXiv 2309.05516) · Sebastian Raschka — הערות ארכיטקטורה ובנצ'מרקים על Inkling. הבנצ'מרקים של מודל היסוד מדווחים על ידי המעבדה עבור נקודת הבדיקה הלא מקוונטזת.