Ocensurerad kontra filtrerad AI-bildgenerator

Nästan alla som arbetar yrkesmässigt med bilder har samma historia. En prompt som beskriver något helt vardagligt — ett tvärsnitt av en knäled, en bil i kollisionsögonblicket, en kolteckning av en kroppsstudie, en soldat 1944 — kommer tillbaka som en policyöverträdelse. Du formulerar om, och får en annan överträdelse. Till slut skriver du något tillräckligt vagt för att slippa igenom, och får en bild som inte längre visar det du behövde. Verktyget misslyckades inte högljutt; det misslyckades gradvis, och gjorde dig till den som kompromissade.

01Varför vägrar en AI-bildgenerator en prompt som uppenbart är legitim?

Vägran är oftast inte bildmodellens uppfattning. Den är utdata från en filterstack runt modellen, och dess lager förklarar nästan varje märklig vägran du har fått.

Lager	Vad det inspekterar	Typiskt misslyckande
Blocklista för prompter	Bokstavliga strängar och närbesläktade varianter i din text	Blockerar ett ord oavsett meningen omkring det — "speculum" faller, "stethoscope" går igenom
Promptklassificerare	En inlärd bedömning av promptens "risk"	Utlöses av ämnesnärhet: allt i närheten av medicin, vapen, kroppar eller politik får hög poäng
Vägranträning i modellen	Modellens egen inlärda ovilja	Vägrar utan felmeddelande, eller producerar tyst ett sanerat substitut
Utdataklassificerare	Renderade pixlar, utan promptens sammanhang	Kan inte skilja en anatomiplansch från pornografi, eller en filmbild från en verklig händelse
Policysubstitution	Tyst omskrivning av din prompt före rendering	Du får en bild, men inte den du angav, och du får inte veta varför

Varje lager delar en blind fläck: inget av dem kan se varför du frågar. En medicinsk illustratör, en expert som rekonstruerar en kollision åt en kärande, och någon med onda avsikter skriver alla samma substantiv. Filtret ser substantivet, inte atlasen eller akten, och det bedöms utifrån de skador det släpper igenom — aldrig utifrån det arbete det förstör. Under den asymmetrin är den rationella inställningen för varje operatör vägra mer. Det är också därför "formulera bara om" inte är någon lösning: en omformulering ger filtret ingen information det saknade, den flyttar bara din prompt bort från de ord som utlöste det, vilket oftast betyder bort från det du menade.

02Vad innehållsfilter faktiskt finns till för att förhindra

Ett argument för ofiltrerad generering som låtsas att filter finns utan skäl är inte värt att läsa. Det finns en smal uppsättning utdata vars skada är inneboende i själva bilden, oberoende av vem som frågade eller varför:

• Sexuellt innehåll som involverar minderåriga. Inget sammanhang gör det acceptabelt; inget yrkesmässigt arbetsflöde kräver det.
• Intima bilder av verkliga personer utan samtycke. Skadan drabbar någon som inte gick med på det, och en borttagning gör den inte ogjord.
• Riktade trakasserier och förtalande fabrikat — att få en namngiven individ att framstå som att ha gjort något hen inte gjort.
• Handlingar av förfalskningskvalitet — pass, id-kort, sedlar, sigill och finansiella instrument gjorda för att passera som äkta.
• Vilseledande syntetiska bevis — fabricerade bilder av verkliga händelser presenterade som dokumentation snarare än illustration.

Listan är kort och den har en struktur: skadan bor i artefakten, i dess likhet med en verklig person eller handling, och i att den presenteras som sanning. Lägg märke till vad som inte står på den — nakenhet, blod, vapen, historiska övergrepp, politiskt förlöjligande. Det är råmaterialet i medicin, journalistik, konst, rättsmedicin och satir, och ett filter som behandlar dem som skadekategorier genomdriver en mycket bredare idé om vilka ämnen som är rumsrena.

Shannon förbjuder allt på den listan, i en publicerad policy för ansvarsfull användning med namngivna kategorier och konsekvenser, snarare än en nyckelordstabell som också fångar "placenta". Det ena är en regel du kan läsa och hålla oss till; det andra är en gissning om dina avsikter av en klassificerare du inte kan se.

03Hur stort är problemet med överdriven vägran? Vad forskningen mäter

Fram till nyligen var överdriven vägran i bildmodeller en anekdot — tusentals människor med samma historia och inget sätt att mäta omfattningen. Det ändrades med OVERT (OVEr-Refusal evaluation on Text-to-image models), presenterad på ICML 2025 av en grupp vid UC Berkeley med Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song och Song Mei: den första storskaliga benchmarken som mäter hur ofta text-till-bild-system vägrar prompter som är helt harmlösa.

Utformningen spelar roll. De 4 600 prompterna är byggda för att se skadliga ut medan de är harmlösa — formen på en verklig yrkesförfrågan som nämner en skalpell, ett blåmärke eller en demonstration — och de 1 785 verkligt skadliga prompterna ligger bredvid som kontroll, så att en modell inte kan få bra resultat genom att vägra allt. De nio kategorierna sträcker sig från integritet för enskilda och offentliga personer via upphovsrätt, diskriminering, självskada, sexuellt innehåll och olaglig verksamhet till våld.

Huvudfyndet är att överdriven vägran är utbredd över kategorier och över ledande modeller. Det andra fyndet är mer förödande för den vanliga kringgåendemetoden: författarna testade omskrivning av prompten som åtgärd och rapporterar att den "ofta äventyrar troheten mot de ursprungliga prompternas innebörd". Du kan ta dig förbi filtret genom att ändra vad du bad om, och då har du inte längre det du bad om.

En snävare studie når samma slutsats från pixelhållet. I An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann och Oliver, AI4VA-workshopen på ECCV 2024) utvärderar författarna tre NSFW-klassificerare i produktion på konstnärlig nakenhet och avtäcker både en könsbias och en stilbias: utslaget för en kroppsstudie beror på vems kropp som avbildas och i vilken stil. Det är ett uppmätt konstaterande av det som varje krokitecknare fått höra är inbillning.

04Åtta sorters legitimt arbete som filtrerade generatorer blockerar

Det här är kategorierna där överdriven vägran inte är en olägenhet utan ett arbetsstopp. Där ett specifikt rapporterat fall finns anges det; där inget verifierats beskrivs kategorin utan att någon incident hittas på.

1. Medicinsk och anatomisk illustration

Det bäst dokumenterade fallet på området. I april 2023 rapporterade The Intercept (Debbie Nathan) att Midjourney hade förbjudit anatomiska termer som speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom och IUD, medan DALL·E 2 vägrade "pills used in medication abortion" med ett innehållspolicymeddelande. Mönstret upptäcktes av Julia Rockwell, en klinisk dataanalytiker som hade försökt generera en bild av en moderkaka som present till en cellbiologvän, och rapporterades till MIT Technology Review. Asymmetrin är det avslöjande: "stethoscope" genererades normalt medan "speculum" var förbjudet. Bill Howe, forskare vid University of Washington, kallade filtren "ham-fisted" och sa att de gjorde det "basically impossible to have a scientific discussion about reproduction". Patientinformation, kirurgiska atlaser och sjuksköterskeutbildningar behöver alla kroppar avbildade korrekt, inklusive de delar som en nyckelordslista har beslutat är oanständiga.

2. Rättsmedicinsk rekonstruktion och olycksrekonstruktion

Kollisionsrekonstruktion, brandorsaksanalys och åskådliggörande material i rättssalen kräver att skador, sår och våldsam mekanik avbildas med klinisk exakthet. Ett filter inställt på att avvisa "blod" eller "skottskada" avvisar hela disciplinen: sammanhanget — ett expertutlåtande, en försäkringsakt — är osynligt för klassificeraren, och just den neutralitet som gör sådana bilder tillåtliga som bevis är det som får dem att läsas som blodig grafik.

3. Konstnärlig nakenhet och kroki

Nakenstudien är ett grundläggande motiv i konsten överallt, och kroki är kärnan i konstutbildning. ECCV 2024-resultatet ovan är den uppmätta versionen av det konstnärer rapporterar: klassificerare skiljer inte tillförlitligt en kroppsstudie från pornografi, och deras fel är snedvridna av kön och stil — ett filter som är hårdast mot precis den tradition det borde känna igen.

4. Historiska bilder och krigsbilder

Läroboksbilder, museiförmedling och minnesprojekt kräver att uniformer, vapen, läger, slag och övergrepp avbildas. Gemini-episoden i februari 2024 är lärorik eftersom misslyckandet gick i motsatt riktning och gjorde lika stor skada. Google pausade Geminis förmåga att generera bilder av människor den 22 februari 2024 efter att den producerat rasmässigt omkomponerade avbildningar av historiska grupper, däribland tyska soldater från nazitiden. Vd:n Sundar Pichai kallade resultaten "completely unacceptable"; SVP Prabhakar Raghavan medgav att modellen hade "overcompensated" och blivit "over-conservative". Kontextblind säkerhet gjorde inte historiska bilder tryggare — den gjorde dem falska, vilket för ett historieförlag är värre.

5. Våld i fiktion och förvisualisering för film

Storyboards, konceptkonst, serier och speldesign avbildar våld av samma skäl som romaner och filmer gör det. Ett filter som inte kan skilja en skräckstoryboard från ett hot behandlar hela den narrativa konstens produktionskedja som misstänkt — trots att en storyboard uttryckligen är overklig, en plan för en scen som skådespelare och effektteam ska iscensätta.

6. Politisk satir och skämtteckningar

Karikatyrer av makthavare hör till de mest skyddade yttrandekategorierna i de flesta demokratier, och är rutinmässigt det första ett bildfilter tar bort. Det tydligaste dokumenterade fallet är Midjourneys beslut i april 2023 att förbjuda bilder av Kinas president Xi Jinping och blockera hans namn i prompter — rapporterat av PetaPixel, Decrypt med flera — medan andra världsledare fortsatt tilläts. Grundaren David Holz förklarade på Discord att företaget ville "minimize drama" och att "the ability for people in China to use this tech is more important than your ability to generate satire"; Sarah McLaughlin vid Foundation for Individual Rights and Expression kallade det censur. Vad man än drar för slutsats om affärskalkylen förtjänar mekanismen att namnges: en nationell yttrandebegränsning tillämpad på varje användare i hela världen, eftersom ett globalt filter bara har ett läge.

7. Säkerhetsforskning och utbildningsmaterial om nätfiske

Säkerhetsteam bygger utbildningsmaterial som måste se ut som det de varnar för: en övertygande falsk inloggningsskärm, en förfalskad faktura, en skadlig QR-kod på en parkeringsautomat. För en klassificerare går det inte att skilja från det angrepp det vaccinerar mot — verklighetstroheten är hela poängen — så filter blockerar försvar och angrepp likadant, till fördel för angriparen, som ändå aldrig tänkte använda ett filtrerat konsumentverktyg.

8. Rättighetsinnehavare som nekas bilder av sitt eget varumärke, sin produkt eller sitt utseende

Filtrering för upphovsrätt och varumärken kontrollerar inte ägarskap; den kontrollerar likhet. Ett företag kan inte enkelt generera bilder av sin egen logotyp eller produkt, en rättighetsinnehavare kan inte avbilda sin egen figur, och människor kan ofta inte generera sitt eget ansikte, eftersom filter för personlikhet utgår från igenkännbarhet snarare än samtycke. OVERT har med "copyright violations" bland sina nio kategorier av överdriven vägran just för att det här falska positiva är så vanligt. Filtret är ett trubbigt instrument för en fråga — har du rätten till det här? — som det inte har något sätt att ställa.

Fyra av de åtta ovan är förankrade i ett specifikt publicerat fall (medicin, konstnärlig nakenhet, historia, satir) plus OVERT:s upphovsrättskategori för den åttonde. Rättsmedicin, förvisualisering av fiktion och säkerhetsutbildningsmaterial anges som kategorier: de är välkända klasser av påverkat yrkesarbete för vilka vi inte verifierat någon specifik publicerad incident.

05Varför AI-konstgeneratorer blockerar fel saker, och varför falska positiva från innehållsfilter inte går att justera bort

Den instinktiva reaktionen på överblockering är "sänk tröskeln". Det fungerar inte, av strukturella skäl snarare än brist på ansträngning.

Kategorierna överlappar i signalen men inte i verkligheten. En kirurgisk illustration och pornografi delar nakenhet. En rättsmedicinsk rekonstruktion och blodig grafik delar blod. En utbildningsbild och ett nätfiskekit delar ett falskt inloggningsformulär. En satirteckning och ett förtalande fabrikat delar en igenkännbar politiker. Det som skiljer varje par är syfte och presentation — frånvarande i prompten och frånvarande i pixlarna. Ingen tröskel skiljer två populationer som upptar samma område av inmatningsrummet; att flytta den byter bara ett fel mot det andra. Det var vad Gemini-episoden visade: ett ingrepp avsett att åtgärda ett misslyckande producerade ett annat, av Googles egen SVP beskrivet som "overcompensated".

Kostnaderna är asymmetriska för operatören, inte för dig. Ett filter som släpper igenom en dålig bild ger en nyhetsartikel. Ett filter som blockerar tiotusen legitima ger tystnad, eftersom nekade användare inte organiserar sig — de ger upp. Riskhantering under den asymmetrin konvergerar mot överblockering, permanent. Och eftersom den underliggande bedömningen är omöjlig växer blocklistor med bokstavliga strängar allteftersom incidenter inträffar, och det är så du får "stethoscope" godkänt och "speculum" förbjudet. Ingen beslutade att kvinnospecifika instrument var farligare; listan växte där klagomålen landade. Den kodifierar en operatörs PR-historik, inte en teori om skada.

Den strängaste jurisdiktionen blir global standard. Ett filter betjänar varje användare i varje land, så en begränsning som lagts till för en marknad exporteras till alla — Xi Jinping-regeln är skolboksexemplet. Och att skriva om din prompt förstör din innebörd, vilket är OVERT:s experimentella poäng: varje yrkesperson som tvättat en förfrågan till eufemism för att ta sig förbi ett filter har bekräftat det för hand. Du vann inte; du gav dig.

Inget av detta är gratis, och eftersom det misslyckas tyst är kostnaden osynlig i de mått en operatör följer. Efter tillräckligt många vägranden slutar du fråga, och förhandssmalnar varje prompt till det du förutser kommer att passera; eufemismen som till slut går igenom ger en bild som ligger nära, men inte är, det ditt dokument behövde. Ett generiskt policymeddelande säger dig ingenting om vilket lager som utlöstes, så du kan bara gissa och försöka igen — och bildarbete är iterativt, så ett filter som fångar ett försök av fem stör loopen snarare än bara bromsar den. Under tiden får de fält som har starkast anspråk på seriösa verktyg ingen granskare, ingen möjlighet att överklaga och oftast ingen publicerad lista över vad som är blockerat. En regel du inte kan läsa är ingen regel; det är väderlek.

06Ocensurerad kontra filtrerad AI-bildgenerator: vad som faktiskt ändras

Här är den ärliga versionen av jämförelsen, inklusive vad ett ofiltrerat system inte ger dig.

Dimension	Filtrerad generator	Ofiltrerad (Shannon)
Vad som avgör	En klassificerare som läser ord och pixlar	En människa som läser exakt prompt
När du får veta	Efter att du skickat in — ibland efter att du betalat	Innan något renderas eller debiteras
Vad regeln är	Opublicerade, föränderliga blocklistor	En publicerad policy för ansvarsfull användning
Yrkesmässigt sammanhang	Osynligt för systemet	Ditt att bära, och ditt att svara för
Felmönster	Tyst överblockering, innebörden glider	Du får det du bad om — inklusive misstagen
Vem som bär risken	Leverantören, avlastad på ditt arbete	Delad: operatörens policy plus användarens ansvar

Den sista raden är den folk hoppar över, och den som betyder något. Att ta bort ett filter tar inte bort skadekategorierna i avsnitt 02; det tar bort den maskin som gissade dåligt om dem. Skyldigheten stannar där den var, nu buren av två parter som kan resonera om sammanhang: operatören, som publicerar och upprätthåller en policy, och du, som vet vad bilden ska användas till. Ofiltrerad AI-bildgenerering är ett verktyg för människor som redan är beredda att stå för det de producerar — kirurgens atlas, expertutlåtandet, storyboarden, skämtteckningen — som stoppades av ett system som inte kunde skilja dem från någon annan.

07Vad Shannon gör — och vad den inte gör

Exakthet betyder mer här än entusiasm, särskilt för läsare som kommer från en API-sökning.

Vad den gör

• Generering. Beskriv en bild på vanligt språk, på vilket språk som helst. Shannon skriver själv genereringsprompten, på engelska, oavsett vilket språk du frågade på.
• Redigering av en bild. Exakt en källa — en bild som redan finns i konversationen, eller en som bifogas ditt aktuella meddelande — ändrad av en instruktion som säger vad som ändras och vad som stannar. Resultatet behåller källans bildformat automatiskt.
• Kombination av två eller flera bilder. Överföring av klädsel, föremål in i scen, person bredvid person, produkt på person, motiv från en bild med stil från en annan. Prompten namnger varje bilds roll i ordning, och de verkliga bilderna används, så att deras faktiska utseende bevaras i stället för att beskrivas om.
• Formatkontroll. square (standard), portrait, landscape, wide och tall. En uttrycklig önskan vinner alltid.
• Rendering på vårt eget GPU-kluster, utan innehållsfilter på genereringsvägen och utan vägranslager på modellen som skriver prompten.

Vad den inte gör

• Ingen video. Shannon animerar inte bilder och producerar inte video. Det är ingen punkt på en färdplan som undanhålls kokett — den existerar inte.
• Inte i API:et. Bildgenerering, bildredigering och kombination finns i Shannons chattapp. API:et /v1 levererar text och vision — det kan läsa bilder du skickar in — men det renderar dem inte.
• Ingen generering man inte bett om. En hälsning, en fråga eller ett foto som bifogas i förbigående utlöser ingen bild. Att be Shannon titta på en bild — beskriva den, läsa den, analysera den — är vanligt visionarbete, inte en generering, och kostar inget extra.

Bekräftelsekortet

Det här är mekanismen som ersätter filtret, och det är ett designval snarare än en formalitet. När Shannon bedömer att du ber om en bild skriver den genereringsprompten och visar den för dig på ett bekräftelsekort innan något renderas. Ingenting genereras och ingenting debiteras förrän du bekräftar.

Jämför konstruktionerna på deras egna meriter. Ett filter gissar din avsikt med mindre information än du har, och verkställer gissningen tyst. Ett bekräftelsekort lägger den bokstavliga specifikationen av bilden framför den part som vet vad den ska användas till, innan någon beräkning spenderats. Det fångar misstolkningar av din förfrågan, vilket filter aldrig gör; det låter dig lägga till den anatomiska precision eller historiska detalj som modellen underspecificerade; och det gör ansvaret läsbart i stället för utsuddat. Du såg prompten, och du tryckte på knappen.

08Ofiltrerad generering höjer ansvaret, den tar inte bort det

Det här hör hemma här och inte i en sidfot, eftersom det är halva argumentet. En filtrerad generator ger ett löfte den inte kan hålla: att verktyget ska förhindra missbruk å dina vägnar. Det misslyckas åt båda hållen — det blockerar kirurgen, och det stoppar inte en beslutsam illvillig aktör, som har andra alternativ och alltid haft det. Vad det tillförlitligt gör är att låta alla känna att ansvaret hanterades tidigare i kedjan, av en maskin. Att ta bort filtret tar bort den fiktionen; frågan om huruvida en bild bör existera återgår till de människor som kan besvara den.

• Shannon Lab LLC:s skyldighet. En publicerad, specifik policy för ansvarsfull användning som namnger förbjudna kategorier i stället för en opublicerad blocklista — regler du kan läsa, citera och hålla oss till.
• Din skyldighet. Du känner syftet, publiken, jurisdiktionen och samtyckesstatusen för alla som avbildas. Verktyget gör det inte, och en klassificerare kunde aldrig göra det. Bekräftelsekortet finns för att den kunskapen ska tillämpas i det ögonblick det spelar roll, av den part som har den.
• Gränsen som inte flyttar sig. "Filtret hindrade mig inte" har aldrig varit ett försvar i något medium. En kamera vägrar inte, en penna vägrar inte; lag och yrkesetik styr användningen, inte instrumentet. En ofiltrerad generator återställer den vanliga ordning som varje annat yrkesverktyg fungerar under.

Läs policyn för ansvarsfull användning innan du börjar. Den är kort, specifik och den del av produkten som gör resten av den försvarbar.

09Vanliga frågor

---

Källor: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 april 2023 · PetaPixel, 3 april 2023 · CNBC, 22 februari 2024. Shannon AI drivs av Shannon Lab LLC, New Mexico, USA.