ללא צנזורה מול מסונן: מחולל תמונות AI
מסנני תוכן נבנו כדי לעצור מערך קטן של נזקים אמיתיים. בפועל הם עוצרים גם איור רפואי, שחזור פורנזי, ציור דגם, היסטוריית מלחמה, סאטירה מערכתית וחברות שמצלמות את המוצרים של עצמן. זה מה שזה עולה — ומה שהסרת המסנן כן ולא משנה.
בקצרה
מחוללי תמונות מיינסטרים סורקים הנחיות ופלטים בעזרת מסווגים שרואים מילים ופיקסלים, לעולם לא מטרה. זה מבטיח התרעות שווא, והן נוחתות הכי חזק על עבודה מיומנת: אנטומיה, פורנזיקה, עירום אמנותי, תמונות היסטוריות, המחשה מוקדמת, סאטירה, חומרי מודעות לאבטחה, ובעלי זכויות שמבקשים את המותג של עצמם. OVERT (ICML 2025), המדד רחב ההיקף הראשון למצב הכשל הזה, משתמש ב-4,600 הנחיות תמימות אך חשודות ומוצא שסירוב יתר נפוץ בכל המודלים המובילים. Shannon מריץ יצירת תמונות, עריכת תמונה בודדת ושילוב תמונות מרובות על אשכול ה-GPU שלנו בלי מסנן תוכן ובלי שכבת סירוב, ומחליף את רשימת החסימה בהחלטה גלויה: כרטיס אישור שמציג את ההנחיה המדויקת לפני שמשהו מרונדר. זה מעלה את האחריות שלך ושלנו; שתיהן נמצאות במדיניות השימוש האחראי. אין יצירת וידאו, ועבודת התמונות נמצאת באפליקציית הצ'אט, לא בAPI.
כמעט לכל מי שעובד עם תמונות באופן מקצועי יש את אותו סיפור. הנחיה שמתארת משהו רגיל — חתך של מפרק הברך, מכונית ברגע הפגיעה, לימוד דמות בפחם, חייל ב-1944 — חוזרת כהפרת מדיניות. אתה מנסח מחדש, ומקבל הפרה אחרת. בסופו של דבר אתה כותב משהו מעורפל מספיק כדי לעבור, ומקבל תמונה שכבר לא מראה את מה שהיית צריך. הכלי לא נכשל בקול; הוא נכשל בהדרגה, והפך אותך למי שהתפשר.
01למה מחולל תמונות AI מסרב להנחיה שהיא בבירור לגיטימית?
הסירוב הוא בדרך כלל לא דעתו של מודל התמונות. הוא הפלט של מערך סינון סביב המודל, והשכבות שלו מסבירות כמעט כל סירוב מוזר שקיבלת.
| שכבה | מה היא בודקת | הכשל האופייני |
|---|---|---|
| רשימת חסימה להנחיות | מחרוזות מילוליות וגרסאות קרובות בטקסט שלך | חוסמת מילה בלי קשר למשפט סביבה — speculum נכשל, stethoscope עובר |
| מסווג הנחיות | שיפוט נלמד של הסיכון שבהנחיה | נדלק על קרבה נושאית: כל דבר בסביבת רפואה, נשק, גופים או פוליטיקה מקבל ניקוד גבוה |
| אימון סירוב במודל | ההסתייגות המאומנת של המודל עצמו | מסרב בלי שגיאה, או מייצר בשקט תחליף מעוקר |
| מסווג פלט | פיקסלים מרונדרים, בלי הקשר ההנחיה | אינו יכול להבחין בין לוח אנטומיה לפורנוגרפיה, או בין תצלום מסרט לאירוע אמיתי |
| החלפת מדיניות | שכתוב שקט של ההנחיה שלך לפני הרינדור | אתה מקבל תמונה, אבל לא זו שציינת, ולא נאמר לך למה |
לכל השכבות יש אותה נקודת עיוורון: אף אחת מהן אינה יכולה לראות למה אתה שואל. מאייר רפואי, מומחה מטעם התובע שמשחזר התנגשות, ומישהו עם כוונות רעות מקלידים כולם את אותו שם עצם. המסנן רואה את שם העצם, לא את האטלס או את תיק המקרה, והוא נמדד לפי הנזקים שהוא מעביר — לעולם לא לפי העבודה שהוא הורס. תחת האסימטריה הזו, ההגדרה הרציונלית לכל מפעיל היא לסרב יותר. זו גם הסיבה ש-פשוט תנסח מחדש אינו פתרון: ניסוח מחדש אינו נותן למסנן מידע שחסר לו, הוא רק מרחיק את ההנחיה שלך מהמילים שהפעילו אותו, ובדרך כלל זה אומר להרחיק אותה ממה שהתכוונת.
02ממה מסנני תוכן באמת נועדו למנוע
טיעון בעד יצירה בלי סינון שמעמיד פנים שמסננים קיימים בלי סיבה אינו שווה קריאה. יש מערך צר של פלטים שהנזק שלהם מובנה בתמונה עצמה, ללא תלות במי ביקש או למה:
- תוכן מיני שמערב קטינים. שום הקשר אינו הופך אותו לקביל; שום זרימת עבודה מקצועית אינה דורשת אותו.
- תמונות אינטימיות של אנשים אמיתיים ללא הסכמתם. הנזק נוחת על מישהו שלא הסכים, והסרה אינה מבטלת אותו.
- הטרדה ממוקדת ובדיה משמיצה — לגרום לאדם מזוהה להיראות כאילו עשה משהו שלא עשה.
- מסמכים ברמת זיוף — דרכונים, תעודות זהות, שטרות כסף, חותמות ומסמכים פיננסיים שנועדו לעבור כאמיתיים.
- ראיות סינתטיות מטעות — תמונות בדויות של אירועים אמיתיים שמוצגות כתיעוד ולא כאיור.
הרשימה קצרה ויש לה מבנה: הנזק חי בחפץ עצמו, בדמיון שלו לאדם אמיתי או למסמך, ובהצגתו כאמת. שים לב למה שלא נמצא בה — עירום, דם, נשק, זוועה היסטורית, לעג פוליטי. אלה חומרי הגלם של רפואה, עיתונות, אמנות, פורנזיקה וסאטירה, ומסנן שמתייחס אליהם כאל קטגוריות נזק מיישם רעיון רחב בהרבה על השאלה אילו נושאים הם מכובדים.
Shannon אוסר על כל מה שברשימה הזו, במדיניות שימוש אחראי מפורסמת עם קטגוריות ותוצאות נקובות בשם, ולא בטבלת מילות מפתח שתופסת גם placenta. האחד הוא כלל שאתה יכול לקרוא ולהחזיק אותנו אליו; השני הוא ניחוש לגבי הכוונות שלך על ידי מסווג שאתה לא יכול לראות.
03כמה גדולה בעיית סירוב היתר? מה המחקר מודד
עד לאחרונה, סירוב יתר במודלי תמונות היה אנקדוטה — אלפי אנשים עם אותו סיפור ובלי דרך למדוד אותו. זה השתנה עם OVERT (OVEr-Refusal evaluation on Text-to-image models), שהוצג ב-ICML 2025 על ידי קבוצה מ-UC Berkeley הכוללת את Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ו-Song Mei: המדד רחב ההיקף הראשון שמודד באיזו תדירות מערכות טקסט-לתמונה מסרבות להנחיות תמימות לחלוטין.
התכנון חשוב. 4,600 ההנחיות בנויות כדי להיראות מזיקות בעודן בלתי מזיקות — הצורה של בקשה מקצועית אמיתית שמזכירה אזמל, חבורה או הפגנה — ו-1,785 ההנחיות המזיקות באמת יושבות לצידן כביקורת, כך שמודל אינו יכול לקבל ציון טוב על ידי סירוב לכול. תשע הקטגוריות נעות מפרטיות של יחידים ודמויות ציבוריות, דרך זכויות יוצרים, אפליה, פגיעה עצמית, תוכן מיני ופעילות בלתי חוקית, ועד אלימות.
הממצא המרכזי הוא שסירוב יתר נפוץ בכל הקטגוריות ובכל המודלים המובילים. השני מזיק יותר לעקיפה המקובלת: המחברים בדקו שכתוב הנחיות כאמצעי הפחתה ומדווחים שהוא לעיתים קרובות פוגע בנאמנות למשמעות של ההנחיות המקוריות. אתה יכול לעבור את המסנן על ידי שינוי מה שביקשת, ואז כבר אין לך את מה שביקשת.
מחקר צר יותר מגיע לאותה מסקנה מצד הפיקסלים. ב-An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ו-Oliver, סדנת AI4VA ב-ECCV 2024), המחברים מעריכים שלושה מסווגי NSFW בייצור על עירום אמנותי וחושפים גם הטיה מגדרית וגם הטיה סגנונית: פסק הדין על לימוד דמות תלוי בגוף של מי מתואר ובאיזה סגנון. זו אמירה מדודה על הדבר שכל אמן שמצייר דגם נאמר לו שהוא מדומיין.
04שמונה סוגי עבודה לגיטימית שמחוללים מסוננים חוסמים
אלה הקטגוריות שבהן סירוב יתר אינו טרדה אלא השבתת עבודה. במקום שקיים מקרה מדווח ספציפי הוא מצוטט; במקום שלא אומת אחד, הקטגוריה מתוארת בלי להמציא אירוע.
1. איור רפואי ואנטומי
המקרה המתועד ביותר בתחום. באפריל 2023, The Intercept (Debbie Nathan) דיווח ש-Midjourney אסרה מונחים אנטומיים ובהם speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ו-IUD, בעוד DALL·E 2 סירב ל-pills used in medication abortion עם הודעת מדיניות תוכן. הדפוס התגלה על ידי Julia Rockwell, אנליסטית נתונים קליניים שניסתה לייצר תמונה של שליה כמתנה לחברה ביולוגית של תאים, ודווח ל-MIT Technology Review. האסימטריה היא הסימן: stethoscope נוצר כרגיל בעוד speculum נאסר. החוקר Bill Howe מאוניברסיטת וושינגטון כינה את המסננים גסים ואמר שהם הפכו את זה לבלתי אפשרי בעיקרון לנהל דיון מדעי על רבייה. הסברה למטופלים, אטלסים כירורגיים ותוכניות לימוד בסיעוד זקוקים כולם לגופים המתוארים במדויק, כולל החלקים שרשימת מילות מפתח החליטה שהם בלתי הולמים.
2. שחזור פורנזי ושחזור תאונות
שחזור התנגשויות, ניתוח מקור שריפה ומוצגים לבית משפט מחייבים תיאור של נזק, פצעים ומכניקה אלימה בדיוק קליני. מסנן שמכוון לדחות דם או פצע ירי דוחה את הדיסציפלינה: ההקשר — דוח מומחה, תיק ביטוח — בלתי נראה למסווג, ואותה ניטרליות שהופכת תמונות כאלה לקבילות היא בדיוק מה שגורם להן להיקרא כגרפיקה אלימה.
3. עירום אמנותי וציור דגם
העירום הוא נושא יסוד באמנות בכל מקום, ולימוד דמות הוא ליבת החינוך האמנותי. תוצאת ECCV 2024 שלמעלה היא הגרסה המדודה של מה שאמנים מדווחים: מסווגים אינם מפרידים באופן אמין בין לימוד דמות לפורנוגרפיה, והשגיאות שלהם מוטות לפי מגדר וסגנון — מסנן שקשה במיוחד בדיוק על המסורת שהוא אמור לזהות.
4. תמונות היסטוריות ותמונות מזמן מלחמה
אמנות לספרי לימוד, פרשנות מוזיאלית ופרויקטי הנצחה מחייבים תיאור של מדים, נשק, מחנות, קרבות וזוועות. פרשת Gemini מפברואר 2024 מלמדת דווקא כי הכשל רץ בכיוון ההפוך וגרם נזק שווה. Google השהתה את היכולת של Gemini לייצר תמונות של אנשים ב-22 בפברואר 2024 אחרי שהיא ייצרה תיאורים עם הרכב גזעי משונה של קבוצות היסטוריות, כולל חיילים גרמנים מתקופת הנאצים. המנכ"ל Sundar Pichai כינה את הפלטים בלתי מקובלים לחלוטין; סגן הנשיא הבכיר Prabhakar Raghavan הודה שהמודל פיצה יתר על המידה והפך שמרני מדי. בטיחות עיוורת להקשר לא הפכה תמונות היסטוריות לבטוחות יותר — היא הפכה אותן לשקריות, ולמוציא לאור של ספרי היסטוריה זה גרוע יותר.
5. אלימות בסיפורת והמחשה מוקדמת לקולנוע
סטוריבורדים, אמנות קונספט, קומיקס ועיצוב משחקים מתארים אלימות מאותה סיבה שרומנים וסרטים עושים זאת. מסנן שאינו יכול להבחין בין סטוריבורד אימה לאיום מתייחס לכל צינור אמנויות הנרטיב כחשוד — אף שסטוריבורד הוא במפורש לא-אמיתי, תוכנית לסצנה ששחקנים וצוותי אפקטים יביימו.
6. סאטירה פוליטית וקריקטורה מערכתית
קריקטורה של בעלי הכוח היא בין הקטגוריות המוגנות ביותר של ביטוי ברוב הדמוקרטיות, ובאופן שגרתי הדבר הראשון שמסנן תמונות מסיר. המקרה המתועד הברור ביותר הוא ההחלטה של Midjourney באפריל 2023 לאסור תמונות של נשיא סין Xi Jinping ולחסום את שמו בהנחיות — כפי שדווח ב-PetaPixel, ב-Decrypt ובאחרים — תוך שהיא ממשיכה להתיר מנהיגי עולם אחרים. המייסד David Holz הסביר ב-Discord שהחברה רצתה למזער דרמה ושהיכולת של אנשים בסין להשתמש בטכנולוגיה הזו חשובה יותר מהיכולת שלך לייצר סאטירה; Sarah McLaughlin מ-Foundation for Individual Rights and Expression כינתה זאת צנזורה. יהיה מה שיהיה החשבון העסקי, המנגנון ראוי לשם: הגבלת ביטוי לאומית שהוחלה על כל משתמש בעולם, כי למסנן גלובלי יש הגדרה אחת.
7. מחקר אבטחה וחומרי מודעות לפישינג
צוותי אבטחה בונים חומרי הדרכה שחייבים להיראות כמו הדבר שמפניו הם מזהירים: מסך התחברות מזויף ומשכנע, חשבונית מזויפת, קוד QR זדוני על מדחן חניה. עבור מסווג זה בלתי ניתן להבחנה מהמתקפה שהוא מחסן מפניה — אמינות היא כל העניין — ולכן מסננים חוסמים הגנה והתקפה באופן זהה, ומעניקים יתרון לתוקף, שממילא לעולם לא היה משתמש בכלי צרכני מסונן.
8. בעלי זכויות שמסורבים תמונות של המותג, המוצר או הדמות שלהם עצמם
סינון זכויות יוצרים וסימני מסחר אינו בודק בעלות; הוא בודק דמיון. חברה אינה יכולה בקלות לייצר תמונות של הלוגו או המוצר שלה עצמה, בעל זכויות אינו יכול לצייר את הדמות שלו, ואנשים לעיתים קרובות אינם יכולים לייצר את הפנים שלהם עצמם, כי מסנני דמות מגיבים לזיהוי ולא להסכמה. OVERT כולל הפרות זכויות יוצרים בין תשע קטגוריות סירוב היתר שלו בדיוק כי התרעת השווא הזו כה נפוצה. המסנן הוא כלי גס לשאלה — האם יש לך זכות לזה? — שאין לו שום דרך לשאול.
ארבע מהשמונה שלמעלה מעוגנות במקרה מפורסם ספציפי (רפואי, עירום אמנותי, היסטורי, סאטירה) בתוספת קטגוריית זכויות היוצרים של OVERT לשמינית. פורנזיקה, המחשה מוקדמת לסיפורת וחומרי מודעות לאבטחה מוצגים כקטגוריות: אלה מחלקות ידועות של עבודה מקצועית מושפעת שלגביהן לא אימתנו אירוע מפורסם ספציפי.
כל מקרה מתועד שלמעלה הוא ציבורי וניתן לאימות עצמאי. קרא אותם במקום לקחת את התיאור שלנו על אמון.
05למה מחוללי אמנות AI חוסמים את הדברים הלא נכונים, ולמה אי אפשר לכייל החוצה התרעות שווא של מסנני תוכן
התגובה האינסטינקטיבית לחסימת יתר היא לרפות את הסף. זה לא עובד, מסיבות מבניות ולא בגלל חוסר מאמץ.
הקטגוריות חופפות באות אבל לא במציאות. איור כירורגי ופורנוגרפיה חולקים עירום. שחזור פורנזי וגרפיקה אלימה חולקים דם. שקופית מודעות וערכת פישינג חולקות טופס התחברות מזויף. קריקטורה סאטירית ובדיה משמיצה חולקות פוליטיקאי מזוהה. מה שמבדיל כל זוג הוא מטרה והצגה — שנעדרים מההנחיה ונעדרים מהפיקסלים. שום סף אינו מפריד שתי אוכלוסיות שתופסות את אותו אזור במרחב הקלט; הזזתו רק מחליפה שגיאה אחת באחרת. זה מה שפרשת Gemini הראתה: התערבות שנועדה לתקן כשל אחד ייצרה אחר, שסגן הנשיא הבכיר של Google עצמה תיאר כפיצוי יתר.
העלויות אסימטריות עבור המפעיל, לא עבורך. מסנן שמעביר תמונה רעה אחת מייצר כתבה חדשותית. מסנן שחוסם עשרת אלפים תמונות לגיטימיות מייצר שקט, כי משתמשים שסורבו אינם מתארגנים — הם מוותרים. ניהול סיכונים תחת האסימטריה הזו מתכנס לחסימת יתר, לצמיתות. ומכיוון שהשיפוט הבסיסי בלתי אפשרי, רשימות חסימה צוברות מחרוזות מילוליות ככל שאירועים מתרחשים, וכך אתה מקבל stethoscope בסדר ו-speculum אסור. אף אחד לא החליט שכלים ייחודיים לנשים מסוכנים יותר; הרשימה גדלה במקום שבו נחתו תלונות. היא מקודדת היסטוריית יחסי ציבור של מפעיל, לא תיאוריה של נזק.
סמכות השיפוט המחמירה ביותר הופכת לברירת המחדל הגלובלית. מסנן אחד משרת כל משתמש בכל מדינה, ולכן הגבלה שנוספה עבור שוק אחד מיוצאת לכולם — כלל Xi Jinping הוא המקרה הקלאסי. ושכתוב ההנחיה שלך הורס את המשמעות שלך, וזו הנקודה הניסויית של OVERT: כל איש מקצוע שהלבין בקשה ללשון נקייה כדי להעביר אותה דרך מסנן אישר זאת במו ידיו. לא ניצחת; התפשרת.
שום דבר מזה אינו חינם, ומכיוון שהוא נכשל בשקט העלות בלתי נראית במדדים שמפעיל בוחן. אחרי מספיק סירובים אתה מפסיק לשאול, ומצמצם מראש כל הנחיה למה שאתה צופה שיעבור; לשון הנקייה שסוף סוף עוברת מניבה תמונה קרובה למה שהמסמך שלך היה צריך, אבל לא הוא. הודעת מדיניות גנרית אינה אומרת לך דבר על איזו שכבה נדלקה, ולכן אתה יכול רק לנחש ולנסות שוב — ועבודת תמונות היא איטרטיבית, כך שמסנן שתופס ניסיון אחד מכל חמישה משבש את הלולאה ולא רק מאט אותה. בינתיים התחומים שיש להם התביעה החזקה ביותר לכלים רציניים אינם מקבלים בודק, אינם מקבלים ערעור ובדרך כלל אינם מקבלים רשימה מפורסמת של מה חסום. כלל שאינך יכול לקרוא אינו כלל; הוא מזג אוויר.
06ללא צנזורה מול מסונן: מה באמת משתנה
הנה הגרסה הכנה של ההשוואה, כולל מה שמערכת בלי סינון אינה נותנת לך.
| ממד | מחולל מסונן | בלי סינון (Shannon) |
|---|---|---|
| מי מחליט | מסווג שקורא מילים ופיקסלים | אדם שקורא את ההנחיה המדויקת |
| מתי אתה מגלה | אחרי שהגשת — לפעמים אחרי ששילמת | לפני שמשהו מרונדר או מחויב |
| מה הכלל | רשימות חסימה לא מפורסמות ומשתנות | מדיניות שימוש אחראי מפורסמת |
| הקשר מקצועי | בלתי נראה למערכת | שלך להחזיק, ושלך לתת עליו את הדין |
| מצב כשל | חסימת יתר שקטה, סחיפת משמעות | אתה מקבל את מה שביקשת — כולל טעויות |
| מי נושא בסיכון | הספק, שמעביר אותו לעבודה שלך | משותף: מדיניות המפעיל בתוספת אחריותיות המשתמש |
השורה האחרונה היא זו שאנשים מדלגים עליה, וזו שחשובה. הסרת מסנן אינה מסירה את קטגוריות הנזק מפרק 02; היא מסירה את המכונה שניחשה עליהן גרוע. החובה נשארת במקומה, ומוחזקת כעת בידי שני צדדים שיכולים לחשוב על הקשר: המפעיל, שמפרסם ואוכף מדיניות, ואתה, שיודע לשם מה התמונה. יצירת תמונות AI בלי סינון היא כלי לאנשים שכבר מוכנים לעמוד מאחורי הפלט שלהם — האטלס של המנתח, דוח המומחה, הסטוריבורד, הקריקטורה — ושנעצרו על ידי מערכת שלא יכלה להבדיל בינם לבין מישהו אחר.
07מה Shannon עושה — ומה הוא לא עושה
דיוק כאן חשוב יותר מהתלהבות, במיוחד לקוראים שמגיעים מחיפוש על API.
מה הוא עושה
- יצירה. תאר תמונה בשפה רגילה, בכל שפה. Shannon כותב בעצמו את הנחיית היצירה, באנגלית, בכל שפה שביקשת בה.
- עריכת תמונה אחת. בדיוק מקור אחד — תמונה שכבר בשיחה, או אחת שצורפה להודעה הנוכחית שלך — שמשתנה לפי הוראה שאומרת מה משתנה ומה נשאר. הפלט שומר אוטומטית על יחס הגובה-רוחב של המקור.
- שילוב שתי תמונות או יותר. העברת לבוש, עצם לתוך סצנה, אדם ליד אדם, מוצר על אדם, נושא מתמונה אחת עם סגנון מאחרת. ההנחיה נוקבת בתפקיד של כל תמונה לפי הסדר, והתמונות האמיתיות משמשות, כך שהמראה שלהן בפועל נשמר במקום שיתואר מחדש.
- שליטה ביחס. square (ברירת מחדל), portrait, landscape, wide ו-tall. בקשה מפורשת תמיד מנצחת.
- רינדור על אשכול ה-GPU שלנו, בלי מסנן תוכן בנתיב היצירה ובלי שכבת סירוב על המודל שכותב את ההנחיה.
מה הוא לא עושה
- אין וידאו. Shannon אינו מנפיש תמונות ואינו מייצר וידאו. זה לא פריט במפת דרכים שנשמר בערמומיות — הוא פשוט לא קיים.
- לא ב-API. יצירת תמונות, עריכה ושילוב נמצאים באפליקציית הצ'אט של Shannon. ה-API בכתובת /v1 מגיש טקסט וראייה — הוא יכול לקרוא תמונות שאתה שולח לו — אבל הוא אינו מרנדר אותן.
- אין יצירה בלי שביקשת. ברכה, שאלה או תמונה שצורפה כבדרך אגב אינן מפעילות תמונה. לבקש מ-Shannon להסתכל על תמונה — לתאר אותה, לקרוא אותה, לנתח אותה — זו עבודת ראייה רגילה, לא יצירה, והיא אינה עולה דבר נוסף.
כרטיס האישור
זהו המנגנון שמחליף את המסנן, והוא בחירת תכנון ולא פורמליות. כאשר Shannon קובע שאתה מבקש תמונה, הוא כותב את הנחיית היצירה ומציג לך אותה בכרטיס אישור לפני שמשהו מרונדר. שום דבר לא נוצר ושום דבר לא מחויב עד שתאשר.
השווה את התכנונים לגופם. מסנן מנחש את הכוונה שלך עם פחות מידע ממה שיש לך, ואוכף את הניחוש בשקט. כרטיס אישור מציב את המפרט המילולי של התמונה מול הצד שיודע לשם מה היא, לפני שמושקע חישוב כלשהו. הוא תופס פרשנויות שגויות של הבקשה שלך, מה שמסננים לעולם אינם עושים; הוא מאפשר לך להוסיף את הדיוק האנטומי או הפרט ההיסטורי שהמודל תיאר בחסר; והוא הופך את האחריות לקריאה במקום מפוזרת. ראית את ההנחיה, ולחצת על הכפתור.
08יצירה בלי סינון מעלה אחריות, היא אינה מסירה אותה
זה שייך לכאן ולא לתחתית העמוד, כי זה חצי מהטיעון. מחולל מסונן נותן הבטחה שאינו יכול לקיים: שהכלי ימנע שימוש לרעה במקומך. הוא נכשל בשני הכיוונים — הוא חוסם את המנתח, והוא אינו עוצר גורם זדוני נחוש, שיש לו אפשרויות אחרות ותמיד היו. מה שהוא כן עושה באופן אמין זה לאפשר לכולם להרגיש שהאחריות טופלה במעלה הזרם, על ידי מכונה. הסרת המסנן מסירה את הבדיה הזו; השאלה אם תמונה צריכה להתקיים חוזרת לאנשים שיכולים לענות עליה.
- החובה של Shannon Lab LLC. מדיניות שימוש אחראי מפורסמת וספציפית שנוקבת בקטגוריות אסורות במקום רשימת חסימה לא מפורסמת — כללים שאתה יכול לקרוא, לצטט ולהחזיק אותנו אליהם.
- החובה שלך. אתה יודע את המטרה, את הקהל, את סמכות השיפוט ואת מצב ההסכמה של כל מי שמתואר. הכלי אינו יודע, ומסווג לעולם לא יוכל. כרטיס האישור קיים כדי שהידע הזה ייושם ברגע שבו הוא חשוב, על ידי הצד שמחזיק בו.
- הקו שאינו זז. המסנן לא עצר אותי מעולם לא היה הגנה בשום מדיום. מצלמה אינה מסרבת, עיפרון אינו מסרב; החוק והאתיקה המקצועית שולטים בשימוש, לא בכלי. מחולל בלי סינון מחזיר את הסידור הרגיל שתחתיו פועל כל כלי מקצועי אחר.
קרא את מדיניות השימוש האחראי לפני שאתה מתחיל. היא קצרה, ספציפית, והחלק במוצר הזה שהופך את כל השאר לניתן להגנה.
09שאלות נפוצות
למה מחולל תמונות AI מסרב להנחיה שהיא בבירור לגיטימית?
כי רוב המסננים שופטים את המילים בהנחיה שלך, לא את המטרה שלך. מסווג יושב לפני המודל בלי גישה למי אתה או למה אתה שואל, ולכן מאייר רפואי, אנליסט פורנזי וגורם זדוני מקלידים כולם את אותו שם עצם ומקבלים כולם את אותו סירוב. The Intercept דיווח באפריל 2023 ש-Midjourney אסרה מונחים אנטומיים ובהם speculum, placenta ו-cervix, בעוד stethoscope עבד כרגיל.
האם יש מחקר שמודד התרעות שווא של מסנני תוכן בכלי אמנות AI?
כן. OVERT (arXiv:2505.21347, ICML 2025) הוא מדד סירוב היתר רחב ההיקף הראשון למודלי טקסט-לתמונה: 4,600 הנחיות שנראות מזיקות אך למעשה תמימות לחלוטין בתשע קטגוריות בטיחות, בתוספת 1,785 הנחיות מזיקות באמת כביקורת. המחברים מדווחים שסירוב יתר נפוץ בכל המודלים המובילים. מחקר נפרד מ-ECCV 2024 מצא הטיה מגדרית וסגנונית בשלושה מסווגי NSFW שהוערכו על עירום אמנותי.
מה מחולל תמונות AI ללא צנזורה באמת משנה?
הוא מסיר את שכבת הסירוב ואת מסנן התוכן מנתיב היצירה, כך שבקשה לגיטימית אינה מסווגת מחדש בשקט כמתקפה. הוא אינו מסיר שיקול דעת — הוא מעתיק אותו. Shannon מציג לך את הנחיית היצירה המדויקת בכרטיס אישור לפני שמשהו מרונדר, כך שההחלטה מתקבלת על ידי אדם שיכול לראות מה ייווצר, תחת מדיניות השימוש האחראי.
האם Shannon יוצר וידאו?
לא. Shannon יוצר תמונות חדשות, עורך תמונה קיימת אחת, ומשלב שתי תמונות או יותר לאחת. הוא אינו מנפיש תמונות ואינו מייצר וידאו מכל סוג שהוא.
האם אני יכול ליצור תמונות דרך ה-API של Shannon?
לא. יצירת תמונות, עריכה ושילוב נמצאים באפליקציית הצ'אט של Shannon. ה-API בכתובת /v1 מגיש טקסט וראייה — קריאה וניתוח של תמונות שאתה מספק — ולא יצירת תמונות.
אם אין מסנן, מה מונע שימוש לרעה?
מדיניות, אחריותיות ונקודת החלטה גלויה, ולא רשימת מילות מפתח חסומות. Shannon לעולם אינו יוצר תמונה בלי שביקשת, מציג את ההנחיה המלאה לפני הרינדור, אינו מחייב עד שתאשר, ופועל תחת מדיניות שימוש אחראי מפורסמת שאוסרת תוכן מיני שמערב קטינים, תמונות אינטימיות של אנשים אמיתיים ללא הסכמתם, הטרדה ממוקדת, וזיוף של מסמכי זהות או מסמכים פיננסיים.
בקש את התמונה שאתה באמת צריך
יצירה, עריכת תמונה בודדת ושילוב תמונות מרובות באפליקציית הצ'אט — בלי מסנן תוכן, בלי שכבת סירוב, וההנחיה על המסך לפני שמשהו מרונדר.
התחל לשוחח מדיניות שימוש אחראיתמונות באפליקציית הצ'אט · אין יצירת וידאו · עוד מחקר
מקורות: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 באפריל 2023 · PetaPixel, 3 באפריל 2023 · CNBC, 22 בפברואר 2024. Shannon AI מופעלת על ידי Shannon Lab LLC, ניו מקסיקו, ארה"ב.