Ongesensureerd teenoor Gefiltreerde AI-beeldgenerator

Byna elkeen wat professioneel met beelde werk, het dieselfde storie. 'n Opdrag wat iets gewoons beskryf — 'n deursnee van 'n kniegewrig, 'n motor op die oomblik van botsing, 'n figuurstudie in houtskool, 'n soldaat in 1944 — kom terug as 'n beleidsoortreding. Jy herformuleer, en kry 'n ander oortreding. Uiteindelik skryf jy iets vaag genoeg om deur te kom, en kry 'n beeld wat nie meer wys wat jy nodig gehad het nie. Die gereedskap het nie hardop gefaal nie; dit het geleidelik gefaal, en jou die een gemaak wat toegegee het.

01Waarom weier 'n AI-beeldgenerator 'n opdrag wat duidelik wettig is?

Die weiering is gewoonlik nie die beeldmodel se mening nie. Dit is die uitvoer van 'n filterstapel rondom die model, en die lae daarvan verklaar byna elke vreemde weiering wat jy al ontvang het.

Laag	Wat dit inspekteer	Kenmerkende faling
Opdragblokkeerlys	Letterlike stringe en nabye variante in jou teks	Blokkeer 'n woord ongeag die sin daarrondom — "speculum" faal, "stethoscope" gaan deur
Opdragklassifiseerder	'n Aangeleerde oordeel van die opdrag se "risiko"	Vuur op onderwerpnabyheid: enigiets naby medisyne, wapens, liggame of politiek punt hoog
Weieringsafrigting van die model	Die model se eie afgerigte teensin	Weier sonder 'n fout, of produseer stilweg 'n gesuiwerde plaasvervanger
Uitvoerklassifiseerder	Uitgebeelde beeldpunte, sonder opdragkonteks	Kan nie 'n anatomieplaat van pornografie onderskei nie, of 'n filmstil van 'n werklike gebeurtenis nie
Beleidsvervanging	Stille herskrywing van jou opdrag voor uitbeelding	Jy kry 'n beeld, maar nie die een wat jy gespesifiseer het nie, en jy word nie vertel waarom nie

Elke laag deel een blindekol: nie een kan sien waarom jy vra nie. 'n Mediese illustreerder, 'n eiser se deskundige wat 'n botsing rekonstrueer, en iemand met slegte bedoelings tik almal dieselfde selfstandige naamwoord. Die filter sien die selfstandige naamwoord, nie die atlas of die saakleêr nie, en dit word beoordeel op die skades wat dit deurlaat — nooit op die werk wat dit vernietig nie. Onder daardie asimmetrie is die rasionele instelling vir enige operateur weier meer. Dit is ook waarom "herformuleer dit net" nie 'n oplossing is nie: herformulering gee die filter geen inligting wat dit nie gehad het nie, dit skuif jou opdrag net weg van die woorde wat dit laat struikel het, wat gewoonlik beteken weg van wat jy bedoel het.

02Wat inhoudsfilters werklik daar is om te verhoed

'n Argument vir ongefiltreerde generering wat voorgee dat filters sonder rede bestaan, is nie die moeite werd om te lees nie. Daar is 'n nou stel uitvoere waarvan die skade inherent aan die beeld self is, ongeag wie gevra het of waarom:

• Seksuele inhoud wat minderjariges betrek. Geen konteks maak dit aanvaarbaar nie; geen professionele werkvloei vereis dit nie.
• Nie-konsensuele intieme beelde van werklike mense. Die skade tref iemand wat nie ingestem het nie, en 'n verwyderingsbevel maak dit nie ongedaan nie.
• Geteikende teistering en lasterlike versinsels — om 'n benoemde individu te laat lyk asof hulle iets gedoen het wat hulle nie gedoen het nie.
• Vervalsingsgraad-dokumente — paspoorte, identiteitskaarte, banknote, seëls en finansiële instrumente wat gemaak is om as eg deur te gaan.
• Misleidende sintetiese bewyse — versinde beelde van werklike gebeure wat as dokumentasie eerder as illustrasie aangebied word.

Die lys is kort en dit het 'n struktuur: die skade leef in die voorwerp, in sy ooreenkoms met 'n werklike persoon of dokument, en in sy aanbieding as waarheid. Let op wat nie daarop is nie — naaktheid, bloed, wapens, historiese gruweldade, politieke bespotting. Dit is die roumateriaal van medisyne, joernalistiek, kuns, forensika en satire, en 'n filter wat hulle as skadekategorieë behandel, implementeer 'n veel breër idee oor watter onderwerpe respektabel is.

Shannon verbied alles op daardie lys, in 'n gepubliseerde Beleid vir Verantwoordelike Gebruik met benoemde kategorieë en gevolge, eerder as 'n sleutelwoordtabel wat ook "placenta" vang. Die een is 'n reël wat jy kan lees en ons aan kan hou; die ander is 'n raaiskoot oor jou bedoelings deur 'n klassifiseerder wat jy nie kan sien nie.

03Hoe groot is die oormatige-weieringsprobleem? Wat die navorsing meet

Tot onlangs was oormatige weiering in beeldmodelle 'n anekdote — duisende mense met dieselfde storie en geen manier om dit te meet nie. Dit het verander met OVERT (OVEr-Refusal evaluation on Text-to-image models), aangebied by ICML 2025 deur 'n UC Berkeley-groep insluitend Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song en Song Mei: die eerste grootskaalse maatstaf wat meet hoe dikwels teks-na-beeld stelsels opdragte weier wat heeltemal onskadelik is.

Die ontwerp maak saak. Die 4,600 opdragte is gebou om skadelik te lyk terwyl hulle onskadelik is — die vorm van 'n werklike professionele versoek wat 'n skalpel, 'n kneusplek of 'n betoging noem — en die 1,785 werklik skadelike opdragte sit daarnaas as 'n kontrole, sodat 'n model nie goed kan punt deur alles te weier nie. Die nege kategorieë strek van individuele en openbare-figuur privaatheid deur kopiereg, diskriminasie, selfbeskadiging, seksuele inhoud en onwettige aktiwiteit tot geweld.

Die hoofbevinding is dat oormatige weiering wydverspreid oor kategorieë en oor toonaangewende modelle heen is. Die tweede is meer skadelik vir die standaard-omweg: die outeurs het opdragherskrywing as versagting getoets en rapporteer dat dit "dikwels getrouheid aan die betekenis van die oorspronklike opdragte in gevaar stel." Jy kan by die filter verbykom deur te verander wat jy gevra het, en dan het jy nie meer wat jy gevra het nie.

'n Nouer studie kom vanaf die beeldpuntkant by dieselfde gevolgtrekking uit. In An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann en Oliver, AI4VA-werkswinkel by ECCV 2024) evalueer die outeurs drie produksie-NSFW-klassifiseerders op artistieke naaktheid en ontdek sowel 'n geslagsydigheid as 'n stilistiese sydigheid: die uitspraak oor 'n figuurstudie hang af van wie se liggaam uitgebeeld word en in watter styl. Dit is 'n gemete stelling van die ding waarvan elke lewende-tekene kunstenaar vertel is dat dit denkbeeldig is.

04Agt soorte wettige werk wat gefiltreerde generators blokkeer

Dit is die kategorieë waar oormatige weiering nie 'n ongerief is nie maar 'n werkstaking. Waar 'n spesifieke gerapporteerde geval bestaan, word dit aangehaal; waar niks geverifieer is nie, word die kategorie beskryf sonder om 'n voorval uit te dink.

1. Mediese en anatomiese illustrasie

Die beste gedokumenteerde geval in die veld. In April 2023 het The Intercept (Debbie Nathan) berig dat Midjourney anatomiese terme verbied het, insluitend speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom en IUD, terwyl DALL·E 2 "pills used in medication abortion" met 'n inhoudsbeleidsboodskap geweier het. Die patroon is gevind deur Julia Rockwell, 'n kliniese data-ontleder wat probeer het om 'n prent van 'n plasenta as 'n geskenk vir 'n selbioloog-vriendin te genereer, en aan MIT Technology Review gerapporteer is. Die asimmetrie is die verklikker: "stethoscope" het normaal gegenereer terwyl "speculum" verbode was. Universiteit van Washington-navorser Bill Howe het die filters "ham-fisted" genoem en gesê dit maak dit "basically impossible to have a scientific discussion about reproduction." Pasiëntopvoeding, chirurgiese atlasse en verpleegkundekurrikulums het almal liggame nodig wat akkuraat uitgebeeld word, insluitend die dele wat 'n sleutelwoordlys as onwelvoeglik besluit het.

2. Forensiese en ongeluksrekonstruksie

Botsingsrekonstruksie, brandoorsprong-ontleding en hofdemonstrasies vereis die uitbeelding van skade, wonde en gewelddadige meganika met kliniese akkuraatheid. 'n Filter wat ingestel is om "bloed" of "skietwond" te verwerp, verwerp die dissipline: die konteks — 'n deskundige verslag, 'n versekeringsleêr — is onsigbaar vir die klassifiseerder, en juis die neutraliteit wat sulke beelde toelaatbaar maak, is wat dit soos gruwel laat lees.

3. Kunsnaakstudies en lewende tekene

Die naakfiguur is 'n grondliggende onderwerp van kuns oral, en figuurstudie is kern tot kunsopvoeding. Die ECCV 2024-resultaat hierbo is die gemete weergawe van wat kunstenaars rapporteer: klassifiseerders skei nie betroubaar 'n figuurstudie van pornografie nie, en hulle foute is sydig volgens geslag en styl — 'n filter wat die strengste is op juis die tradisie wat dit behoort te herken.

4. Historiese en oorlogstydse beelde

Handboekkuns, museuminterpretasie en gedenkprojekte vereis die uitbeelding van uniforms, wapens, kampe, gevegte en gruweldade. Die Februarie 2024 Gemini-episode is leersaam omdat die faling in die teenoorgestelde rigting geloop het en gelyke skade aangerig het. Google het Gemini se vermoë om beelde van mense te genereer op 22 Februarie 2024 opgeskort nadat dit rasgewys hersaamgestelde uitbeeldings van historiese groepe geproduseer het, insluitend Duitse soldate uit die Nazi-era. HUB Sundar Pichai het die uitvoere "completely unacceptable" genoem; SVP Prabhakar Raghavan het erken die model het "overcompensated" en "over-conservative" geword. Konteksblinde veiligheid het nie historiese beelde veiliger gemaak nie — dit het dit vals gemaak, wat vir 'n geskiedenisuitgewer erger is.

5. Geweld in fiksie en filmvoorvisualisering

Storieborde, konsepkuns, strokiesprente en spelontwerp beeld geweld uit om dieselfde rede as wat romans en films dit doen. 'n Filter wat nie 'n gruwelstoriebord van 'n dreigement kan onderskei nie, behandel die hele narratiewe-kuns pyplyn as verdag — hoewel 'n storiebord uitdruklik nie-werklik is, 'n plan vir 'n toneel wat akteurs en effekspanne sal opvoer.

6. Politieke satire en redaksionele spotprente

Karikatuur van die magtiges is onder die mees beskermde kategorieë van spraak in die meeste demokrasieë, en roetineweg die eerste ding wat 'n beeldfilter verwyder. Die duidelikste gedokumenteerde geval is Midjourney se April 2023-besluit om beelde van die Chinese president Xi Jinping te verbied en sy naam in opdragte te blokkeer — berig deur PetaPixel, Decrypt en ander — terwyl ander wêreldleiers steeds toegelaat is. Stigter David Holz het op Discord verduidelik dat die maatskappy "drama wou minimaliseer" en dat "the ability for people in China to use this tech is more important than your ability to generate satire"; Sarah McLaughlin van die Foundation for Individual Rights and Expression het dit sensuur genoem. Wat 'n mens ook al oor die sakeberekening aflei, die meganisme verdien 'n naam: 'n nasionale spraakbeperking wat op elke gebruiker wêreldwyd toegepas word, want 'n globale filter het een instelling.

7. Sekuriteitsnavorsing en uitvissingsbewustheidsmateriaal

Sekuriteitspanne bou opleidingsmateriaal wat moet lyk soos die ding waarteen dit waarsku: 'n oortuigende vals aanmeldskerm, 'n vervalste faktuur, 'n kwaadwillige QR-kode op 'n parkeermeter. Vir 'n klassifiseerder is dit ononderskeibaar van die aanval waarteen dit inent — die egtheidsvoorkoms is die punt — so filters blokkeer verdediging en aanval ewe veel, tot voordeel van die aanvaller, wat in elk geval nooit 'n gefiltreerde verbruikersgereedskap sou gebruik het nie.

8. Reghebbendes wat beelde van hulle eie handelsmerk, produk of gelykenis geweier word

Kopiereg- en handelsmerkfiltrering kontroleer nie eienaarskap nie; dit kontroleer ooreenkoms. 'n Maatskappy kan nie maklik beelde van sy eie logo of produk genereer nie, 'n reghebbende kan nie sy eie karakter uitbeeld nie, en mense kan dikwels nie hulle eie gesig genereer nie, want gelykenisfilters werk op herkenbaarheid eerder as toestemming. OVERT sluit "kopieregskendings" onder sy nege oormatige-weieringskategorieë in juis omdat hierdie vals positiewe so algemeen is. Die filter is 'n stomp instrument vir 'n vraag — het jy die reg hierop? — wat dit op geen manier kan vra nie.

Vier van die agt hierbo is aan 'n spesifieke gepubliseerde geval geanker (medies, kunsnaakstudies, histories, satire) plus OVERT se kopieregkategorie vir die agtste. Forensika, fiksie-voorvisualisering en sekuriteitsbewustheidsmateriaal word as kategorieë gestel: hulle is bekende klasse van geraakte professionele werk waarvoor ons nie 'n spesifieke gepubliseerde voorval geverifieer het nie.

05Waarom AI-kunsgenerators die verkeerde dinge blokkeer, en waarom vals positiewes van inhoudsfilters nie weggestel kan word nie

Die instinktiewe reaksie op oorblokkering is "verslap die drempel." Dit werk nie, om strukturele redes eerder as 'n gebrek aan moeite.

Die kategorieë oorvleuel in die sein maar nie in die werklikheid nie. 'n Chirurgiese illustrasie en pornografie deel naaktheid. 'n Forensiese rekonstruksie en gruwel deel bloed. 'n Bewustheidskyfie en 'n uitvissingstel deel 'n vals aanmeldvorm. 'n Satiriese spotprent en 'n lasterlike versinsel deel 'n herkenbare politikus. Wat elke paar onderskei, is doel en aanbieding — afwesig uit die opdrag en afwesig uit die beeldpunte. Geen drempel skei twee populasies wat dieselfde streek van die insetruimte beset nie; om dit te skuif, verruil net een fout vir die ander. Dit is wat die Gemini-episode gewys het: 'n ingryping wat bedoel was om een faling reg te maak, het 'n ander geproduseer, deur Google se eie SVP beskryf as "overcompensated."

Die koste is asimmetries vir die operateur, nie vir jou nie. 'n Filter wat een slegte beeld deurlaat, lewer 'n nuusberig op. 'n Filter wat tienduisend wettiges blokkeer, lewer stilte op, want geweierde gebruikers organiseer nie — hulle gee op. Risikobestuur onder daardie asimmetrie konvergeer permanent op oorblokkering. En omdat die onderliggende oordeel onmoontlik is, versamel blokkeerlyste letterlike stringe soos voorvalle gebeur, wat is hoe jy "stethoscope" reg en "speculum" verbode kry. Niemand het besluit vroulik-spesifieke instrumente is gevaarliker nie; die lys het gegroei waar klagtes geland het. Dit kodeer 'n operateur se PR-geskiedenis, nie 'n teorie van skade nie.

Die strengste jurisdiksie word die globale verstek. Een filter bedien elke gebruiker in elke land, so 'n beperking wat vir een mark bygevoeg is, word na almal uitgevoer — met die Xi Jinping-reël as die handboekgeval. En om jou opdrag te herskryf, vernietig jou betekenis, wat OVERT se eksperimentele punt is: elke professionele persoon wat 'n versoek in eufemisme gewas het om dit by 'n filter verby te kry, het dit met die hand bevestig. Jy het nie gewen nie; jy het toegegee.

Niks hiervan is gratis nie, en omdat dit stil faal, is die koste onsigbaar in die metrieke wat 'n operateur dophou. Ná genoeg weierings hou jy op vra, en vernou jy elke opdrag vooraf tot wat jy voorspel sal deurgaan; die eufemisme wat uiteindelik deurgaan, lewer 'n beeld op wat naby is aan, maar nie is nie, wat jou dokument nodig gehad het. 'n Generiese beleidsboodskap sê jou niks oor watter laag gevuur het nie, so jy kan net raai en weer probeer — en beeldwerk is iteratief, so 'n filter wat een uit vyf pogings vang, ontwrig die lus eerder as om dit bloot te vertraag. Intussen kry die velde met die sterkste aanspraak op ernstige gereedskap geen beoordelaar, geen appèl en gewoonlik geen gepubliseerde lys van wat geblokkeer word nie. 'n Reël wat jy nie kan lees nie, is nie 'n reël nie; dit is weer.

06Ongesensureerd teenoor gefiltreerde AI-beeldgenerator: wat werklik verander

Hier is die eerlike weergawe van die vergelyking, insluitend wat 'n ongefiltreerde stelsel jou nie gee nie.

Dimensie	Gefiltreerde generator	Ongefiltreerd (Shannon)
Wat besluit	'n Klassifiseerder wat woorde en beeldpunte lees	'n Mens wat die presiese opdrag lees
Wanneer jy uitvind	Ná jy indien — soms ná jy betaal	Voordat iets uitgebeeld of gefaktureer word
Wat die reël is	Ongepubliseerde, verskuiwende blokkeerlyste	'n Gepubliseerde Beleid vir Verantwoordelike Gebruik
Professionele konteks	Onsigbaar vir die stelsel	Joune om te hou, en joune om voor te antwoord
Falingswyse	Stille oorblokkering, betekenisdrywing	Jy kry wat jy gevra het — foute ingesluit
Wie die risiko dra	Die verskaffer, afgelaai op jou werk	Gedeel: operateursbeleid plus gebruikersaanspreeklikheid

Die laaste ry is die een wat mense oorslaan, en die een wat saak maak. Om 'n filter te verwyder, verwyder nie die skadekategorieë in afdeling 02 nie; dit verwyder die masjien wat swak daaroor geraai het. Die verpligting bly waar dit was, nou gehou deur twee partye wat oor konteks kan redeneer: die operateur, wat 'n beleid publiseer en afdwing, en jy, wat weet waarvoor die beeld is. Ongefiltreerde AI-beeldgenerering is 'n gereedskap vir mense wat reeds gereed is om agter hulle uitvoer te staan — die chirurg se atlas, die deskundige verslag, die storiebord, die spotprent — wat gestop is deur 'n stelsel wat hulle nie van iemand anders kon onderskei nie.

07Wat Shannon doen — en wat dit nie doen nie

Presisie maak hier meer saak as geesdrif, veral vir lesers wat van 'n API-soektog af aankom.

Wat dit doen

• Generering. Beskryf 'n beeld in gewone taal, in enige taal. Shannon skryf self die genereringsopdrag, in Engels, in watter taal jy ook al gevra het.
• Redigering van een beeld. Presies een bron — 'n prent wat reeds in die gesprek is, of een wat aan jou huidige boodskap geheg is — verander deur 'n instruksie wat sê wat verander en wat bly. Die uitvoer behou outomaties die bron se aspekverhouding.
• Kombinering van twee of meer beelde. Uitrusting-oordrag, voorwerp-in-toneel, persoon langs persoon, produk-op-persoon, onderwerp uit een beeld met styl uit 'n ander. Die opdrag benoem die rol van elke beeld in volgorde, en die werklike beelde word gebruik, sodat hulle werklike voorkoms bewaar word eerder as herbeskryf.
• Verhoudingsbeheer. square (verstek), portrait, landscape, wide en tall. 'n Uitdruklike versoek wen altyd.
• Uitbeelding op ons eie GPU-tros, sonder inhoudsfilter op die genereringspad en sonder weieringslaag op die model wat die opdrag skryf.

Wat dit nie doen nie

• Geen video nie. Shannon animeer nie beelde nie en produseer nie video nie. Nie 'n padkaartitem wat skelm teruggehou word nie — dit bestaan nie.
• Nie op die API nie. Beeldgenerering, -redigering en -kombinasie leef in die Shannon-kletsprogram. Die /v1 API bedien teks en visie — dit kan beelde wat jy stuur lees — maar dit beeld hulle nie uit nie.
• Geen ongenooide generering nie. 'n Groet, 'n vraag of 'n terloops aangehegte foto sneller nie 'n beeld nie. Om Shannon te vra om na 'n beeld te kyk — dit te beskryf, te lees, te ontleed — is gewone visiewerk, nie 'n generering nie, en kos niks ekstra nie.

Die bevestigingskaart

Dit is die meganisme wat die filter vervang, en dit is 'n ontwerpkeuse eerder as 'n formaliteit. Wanneer Shannon bepaal dat jy vir 'n beeld vra, skryf dit die genereringsopdrag en wys dit aan jou op 'n bevestigingskaart voordat iets uitgebeeld word. Niks word gegenereer en niks word gefaktureer voordat jy bevestig nie.

Vergelyk die ontwerpe op hulle meriete. 'n Filter raai jou bedoeling met minder inligting as wat jy het, en dwing die raaiskoot stilweg af. 'n Bevestigingskaart plaas die letterlike spesifikasie van die beeld voor die party wat weet waarvoor dit is, voordat enige rekenkrag bestee word. Dit vang verkeerde lesings van jou versoek, wat filters nooit doen nie; dit laat jou die anatomiese presisie of historiese detail byvoeg wat die model onderspesifiseer het; en dit maak verantwoordelikheid leesbaar eerder as diffuus. Jy het die opdrag gesien, en jy het die knoppie gedruk.

08Ongefiltreerde generering verhoog verantwoordelikheid, dit verwyder dit nie

Dit hoort hier eerder as in 'n voetstuk, want dit is die helfte van die argument. 'n Gefiltreerde generator maak 'n belofte wat dit nie kan hou nie: dat die gereedskap misbruik namens jou sal verhoed. Dit faal in albei rigtings — dit blokkeer die chirurg, en dit stop nie 'n vasberade kwaadwillige akteur nie, wat ander opsies het en altyd gehad het. Wat dit betroubaar wel doen, is om almal te laat voel verantwoordelikheid is stroomop hanteer, deur masjien. Om die filter te verwyder, verwyder daardie fiksie; die vraag of 'n beeld behoort te bestaan, keer terug na die mense wat dit kan beantwoord.

• Shannon Lab LLC se verpligting. 'n Gepubliseerde, spesifieke Beleid vir Verantwoordelike Gebruik wat verbode kategorieë benoem eerder as 'n ongepubliseerde blokkeerlys — reëls wat jy kan lees, aanhaal en ons aan kan hou.
• Jou verpligting. Jy ken die doel, die gehoor, die jurisdiksie en die toestemmingstatus van almal wat uitgebeeld word. Die gereedskap weet dit nie, en 'n klassifiseerder kon dit nooit nie. Die bevestigingskaart bestaan sodat daardie kennis toegepas word op die oomblik wanneer dit saak maak, deur die party wat dit het.
• Die lyn wat nie skuif nie. "Die filter het my nie gestop nie" was nog nooit 'n verweer in enige medium nie. 'n Kamera weier nie, 'n potlood weier nie; die reg en professionele etiek beheer die gebruik, nie die instrument nie. 'n Ongefiltreerde generator herstel die gewone reëling waaronder elke ander professionele gereedskap werk.

Lees die Beleid vir Verantwoordelike Gebruik voordat jy begin. Dit is kort, spesifiek, en die deel van hierdie produk wat die res daarvan verdedigbaar maak.

09Gereelde vrae

---

Bronne: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 April 2023 · PetaPixel, 3 April 2023 · CNBC, 22 Februarie 2024. Shannon AI word bedryf deur Shannon Lab LLC, New Mexico, VSA.