Ucensureret vs. filtreret AI-billedgenerator

Næsten alle, der arbejder professionelt med billeder, har den samme historie. En prompt, der beskriver noget helt almindeligt — et tværsnit af et knæled, en bil i sammenstødsøjeblikket, et croquisstudie i kul, en soldat i 1944 — kommer tilbage som en politikovertrædelse. Du omformulerer og får en anden overtrædelse. Til sidst skriver du noget vagt nok til at slippe igennem og får et billede, der ikke længere viser det, du havde brug for. Værktøjet fejlede ikke højlydt; det fejlede gradvist og gjorde dig til den, der gik på kompromis.

01Hvorfor afviser en AI-billedgenerator en prompt, der tydeligvis er legitim?

Afvisningen er som regel ikke billedmodellens holdning. Den er resultatet af en filterstak rundt om modellen, og dens lag forklarer næsten alle de mærkelige afvisninger, du har fået.

Lag	Hvad det inspicerer	Karakteristisk fejl
Promptblokliste	Bogstavelige strenge og nære varianter i din tekst	Blokerer et ord uanset sætningen omkring det — »speculum« fejler, »stethoscope« slipper igennem
Promptklassifikator	En indlært vurdering af promptens »risiko«	Udløses af emnenærhed: alt i nærheden af medicin, våben, kroppe eller politik scorer højt
Afvisningstræning i modellen	Modellens egen indtrænede tilbageholdenhed	Afviser uden en fejlmeddelelse eller leverer stiltiende en renset erstatning
Outputklassifikator	Renderede pixels, uden kontekst fra prompten	Kan ikke skelne en anatomisk planche fra pornografi eller et filmstill fra en virkelig begivenhed
Politikerstatning	Stiltiende omskrivning af din prompt før rendering	Du får et billede, men ikke det, du angav, og du får ikke at vide hvorfor

Hvert lag deler den samme blinde vinkel: ingen af dem kan se, hvorfor du spørger. En medicinsk illustrator, en sagsøgers sagkyndige, der rekonstruerer et sammenstød, og en person med onde hensigter skriver alle det samme navneord. Filteret ser navneordet, ikke atlasset eller sagsakterne, og det bedømmes på de skader, det lader passere — aldrig på det arbejde, det ødelægger. Under den asymmetri er den rationelle indstilling for enhver udbyder afvis mere. Det er også derfor, »omformulér det bare« ikke er en løsning: en omformulering giver ikke filteret information, det manglede, den flytter blot din prompt væk fra de ord, der udløste det, hvilket som regel betyder væk fra det, du mente.

02Hvad indholdsfiltre reelt er sat i verden for at forhindre

Et argument for ufiltreret generering, der lader som om filtre findes uden grund, er ikke værd at læse. Der findes et snævert sæt af output, hvis skade er iboende i selve billedet, uafhængigt af hvem der spurgte, og hvorfor:

• Seksuelt indhold med mindreårige. Ingen sammenhæng gør det acceptabelt; ingen faglig arbejdsgang kræver det.
• Intime billeder af virkelige personer uden samtykke. Skaden rammer nogen, der ikke sagde ja, og en fjernelse gør den ikke ugjort.
• Målrettet chikane og bagvaskende fabrikation — at få en navngiven person til at se ud, som om vedkommende har gjort noget, de ikke har.
• Dokumenter i forfalskningskvalitet — pas, identitetskort, pengesedler, segl og finansielle papirer lavet til at gå for at være ægte.
• Vildledende syntetisk bevismateriale — fabrikerede billeder af virkelige begivenheder fremstillet som dokumentation frem for som illustration.

Listen er kort, og den har en struktur: skaden ligger i artefaktet, i dets lighed med en virkelig person eller et virkeligt dokument og i, at det fremstilles som sandhed. Læg mærke til, hvad der ikke står på den — nøgenhed, blod, våben, historiske grusomheder, politisk latterliggørelse. Det er råstoffet i medicin, journalistik, kunst, retsmedicin og satire, og et filter, der behandler dem som skadeskategorier, implementerer en langt bredere idé om, hvilke emner der er respektable.

Shannon forbyder alt på den liste i en offentliggjort politik for ansvarlig brug med navngivne kategorier og konsekvenser frem for en nøgleordstabel, der også fanger »placenta«. Det ene er en regel, du kan læse og holde os op på; det andet er en klassifikators gæt på dine hensigter, som du ikke kan se.

03Hvor stort er problemet med overafvisning? Hvad forskningen måler

Indtil for nylig var overafvisning i billedmodeller en anekdote — tusindvis af mennesker med den samme historie og ingen måde at måle omfanget på. Det ændrede sig med OVERT (OVEr-Refusal evaluation on Text-to-image models), præsenteret på ICML 2025 af en gruppe fra UC Berkeley med blandt andre Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song og Song Mei: den første storskala-benchmark, der måler, hvor ofte tekst-til-billede-systemer afviser prompts, der er fuldstændig harmløse.

Designet betyder noget. De 4,600 prompts er bygget til at se skadelige ud, mens de er harmløse — formen på en rigtig faglig forespørgsel, der nævner en skalpel, et blåt mærke eller en demonstration — og de 1,785 reelt skadelige prompts ligger ved siden af dem som kontrol, så en model ikke kan score godt ved at afvise alt. De ni kategorier spænder fra privatlivets fred for enkeltpersoner og offentlige personer over ophavsret, diskrimination, selvskade, seksuelt indhold og ulovlig aktivitet til vold.

Hovedresultatet er, at overafvisning er udbredt på tværs af kategorier og på tværs af de førende modeller. Det andet er mere ødelæggende for den gængse omvej: forfatterne testede omskrivning af prompten som afhjælpning og rapporterer, at den »ofte går på kompromis med troskaben mod de oprindelige prompters betydning«. Du kan komme forbi filteret ved at ændre det, du bad om, og så har du ikke længere det, du bad om.

Et snævrere studie når frem til den samme konklusion fra pixelsiden. I An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann og Oliver, AI4VA-workshoppen på ECCV 2024) evaluerer forfatterne tre NSFW-klassifikatorer i drift på kunstnerisk nøgenhed og afdækker både en kønsbias og en stilbias: dommen over et croquisstudie afhænger af, hvis krop der er afbildet, og i hvilken stil. Det er en målt formulering af netop dét, enhver croquistegner har fået at vide var indbildning.

04Otte former for legitimt arbejde, som filtrerede generatorer blokerer

Det er kategorierne, hvor overafvisning ikke er en gene, men et arbejdsstop. Hvor der findes en konkret rapporteret sag, henvises der til den; hvor ingen er verificeret, beskrives kategorien uden at opdigte en hændelse.

1. Medicinsk og anatomisk illustration

Det bedst dokumenterede tilfælde på feltet. I april 2023 fortalte The Intercept (Debbie Nathan), at Midjourney havde forbudt anatomiske ord som speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom og IUD, mens DALL·E 2 afviste »pills used in medication abortion« med en indholdspolitisk besked. Mønstret blev fundet af Julia Rockwell, en klinisk dataanalytiker, der havde forsøgt at generere et billede af en placenta som gave til en cellebiolog-veninde, og rapporteret til MIT Technology Review. Asymmetrien afslører det hele: »stethoscope« blev genereret normalt, mens »speculum« var forbudt. Bill Howe, forsker ved University of Washington, kaldte filtrene »ham-fisted« og sagde, at de gjorde det »basically impossible to have a scientific discussion about reproduction«. Patientinformation, kirurgiske atlas og sygeplejerskeuddannelser har alle brug for kroppe afbildet præcist, inklusive de dele, en nøgleordsliste har besluttet er usømmelige.

2. Retsmedicinsk rekonstruktion og ulykkesrekonstruktion

Rekonstruktion af sammenstød, brandårsagsanalyse og demonstrationsmateriale til retssale kræver, at skader, sår og voldsom mekanik afbildes med klinisk præcision. Et filter, der er indstillet til at afvise »blod« eller »skudsår«, afviser hele disciplinen: sammenhængen — en sagkyndig erklæring, en forsikringssag — er usynlig for klassifikatoren, og netop den neutralitet, der gør sådanne billeder anvendelige som bevis, er dét, der får dem til at læses som splatter.

3. Nøgenkunst og croquistegning

Nøgenmotivet er et grundlæggende kunstmotiv overalt, og croquisstudiet er kernen i kunstundervisning. ECCV 2024-resultatet ovenfor er den målte version af det, kunstnere fortæller: klassifikatorer skiller ikke pålideligt et croquisstudie fra pornografi, og deres fejl er skævvredet af køn og stil — et filter, der er hårdest ved præcis den tradition, det burde genkende.

4. Historiske billeder og krigsbilleder

Lærebogskunst, museumsformidling og mindeprojekter kræver afbildning af uniformer, våben, lejre, slag og grusomheder. Gemini-episoden fra februar 2024 er lærerig, fordi fejlen løb i modsat retning og gjorde lige så stor skade. Google satte Gemini's evne til at generere billeder af mennesker på pause 22. februar 2024, efter at den havde produceret racemæssigt omkomponerede skildringer af historiske grupper, herunder tyske soldater fra nazitiden. Administrerende direktør Sundar Pichai kaldte resultaterne »completely unacceptable«; SVP Prabhakar Raghavan erkendte, at modellen havde »overcompensated« og var blevet »over-conservative«. Kontekstblind sikkerhed gjorde ikke historiske billeder mere sikre — den gjorde dem falske, hvilket for et historieforlag er værre.

5. Vold i fiktion og previsualisering til film

Storyboards, konceptkunst, tegneserier og spildesign skildrer vold af samme grund som romaner og film gør det. Et filter, der ikke kan skelne et gyserstoryboard fra en trussel, behandler hele den narrative kunstproduktion som mistænkelig — skønt et storyboard udtrykkeligt er ikke-virkeligt, en plan for en scene, som skuespillere og effektfolk skal iscenesætte.

6. Politisk satire og bladtegning

Karikatur af de magtfulde er blandt de mest beskyttede ytringsformer i de fleste demokratier og rutinemæssigt det første, et billedfilter fjerner. Det tydeligst dokumenterede tilfælde er Midjourneys beslutning i april 2023 om at forbyde billeder af Kinas præsident Xi Jinping og blokere hans navn i prompts — rapporteret af PetaPixel, Decrypt og andre — mens andre verdensledere fortsat var tilladt. Stifteren David Holz forklarede på Discord, at virksomheden ville »minimize drama«, og at »the ability for people in China to use this tech is more important than your ability to generate satire«; Sarah McLaughlin fra Foundation for Individual Rights and Expression kaldte det censur. Uanset hvad man konkluderer om forretningsregnestykket, fortjener mekanismen at blive navngivet: en national ytringsbegrænsning anvendt på hver eneste bruger i hele verden, fordi et globalt filter kun har én indstilling.

7. Sikkerhedsforskning og materiale til phishing-oplysning

Sikkerhedsafdelinger bygger undervisningsmateriale, der skal ligne det, det advarer imod: en overbevisende falsk loginskærm, en forfalsket faktura, en ondsindet QR-kode på en parkeringsautomat. For en klassifikator kan det ikke skelnes fra det angreb, det vaccinerer mod — troværdigheden er hele pointen — så filtre blokerer forsvar og angreb ens og begunstiger angriberen, som alligevel aldrig ville have brugt et filtreret forbrugerværktøj.

8. Rettighedshavere, der nægtes billeder af deres eget brand, produkt eller portræt

Filtrering på ophavsret og varemærker tjekker ikke ejerskab; den tjekker lighed. En virksomhed kan ikke uden videre generere billeder af sit eget logo eller produkt, en rettighedshaver kan ikke afbilde sin egen figur, og folk kan ofte ikke generere deres eget ansigt, fordi portrætfiltre reagerer på genkendelighed frem for på samtykke. OVERT har netop »copyright violations« med blandt sine ni overafvisningskategorier, fordi denne falske positiv er så almindelig. Filteret er et groft redskab til et spørgsmål — har du ret til det her? — som det ikke har nogen måde at stille på.

Fire af de otte ovenfor er forankret i en konkret offentliggjort sag (medicin, nøgenkunst, historie, satire) plus OVERTs ophavsretskategori for den ottende. Retsmedicin, previsualisering til fiktion og materiale til sikkerhedsoplysning er angivet som kategorier: de er velkendte klasser af berørt professionelt arbejde, som vi ikke har verificeret en konkret offentliggjort hændelse for.

05Hvorfor AI-kunstgeneratorer blokerer de forkerte ting, og hvorfor falske positiver i indholdsfiltre ikke kan justeres væk

Den instinktive reaktion på overblokering er »løsn tærsklen«. Det virker ikke, af strukturelle grunde snarere end af mangel på indsats.

Kategorierne overlapper i signalet, men ikke i virkeligheden. En kirurgisk illustration og pornografi deler nøgenhed. En retsmedicinsk rekonstruktion og splatter deler blod. Et oplysningsslide og et phishing-kit deler en falsk loginformular. En satiretegning og en bagvaskende fabrikation deler en genkendelig politiker. Det, der adskiller hvert par, er formål og fremstilling — fraværende i prompten og fraværende i pixlerne. Ingen tærskel adskiller to populationer, der optager det samme område af inputrummet; at flytte den bytter blot den ene fejl ud med den anden. Det var, hvad Gemini-episoden viste: et indgreb, der skulle rette én fejl, frembragte en anden, beskrevet af Googles egen SVP som »overcompensated«.

Omkostningerne er asymmetriske for udbyderen, ikke for dig. Et filter, der lader ét dårligt billede slippe igennem, giver en nyhedshistorie. Et filter, der blokerer ti tusind legitime, giver stilhed, for afviste brugere organiserer sig ikke — de giver op. Risikostyring under den asymmetri konvergerer permanent mod overblokering. Og fordi den underliggende vurdering er umulig, vokser bloklister med bogstavelige strenge, efterhånden som hændelser opstår, og det er sådan, man ender med, at »stethoscope« er fint og »speculum« forbudt. Ingen besluttede, at kvindespecifikke instrumenter var farligere; listen voksede, hvor klagerne landede. Den koder en udbyders PR-historik, ikke en teori om skade.

Den strengeste jurisdiktion bliver den globale standard. Ét filter betjener alle brugere i alle lande, så en begrænsning, der tilføjes for ét marked, eksporteres til dem alle — Xi Jinping-reglen er lærebogseksemplet. Og at omskrive din prompt ødelægger din mening, hvilket er OVERTs eksperimentelle pointe: enhver fagperson, der har vasket en forespørgsel gennem eufemismer for at få den forbi et filter, har bekræftet det i praksis. Du vandt ikke; du bøjede af.

Intet af det er gratis, og fordi det fejler stille, er omkostningen usynlig i de målepunkter, en udbyder følger. Efter tilstrækkeligt mange afvisninger holder du op med at spørge og indsnævrer på forhånd hver prompt til det, du forudser vil slippe igennem; den eufemisme, der endelig går igennem, giver et billede, der ligner, men ikke er, det, dit dokument havde brug for. En generisk politikbesked fortæller dig intet om, hvilket lag der udløste, så du kan kun gætte og prøve igen — og billedarbejde er iterativt, så et filter, der fanger ét forsøg ud af fem, ødelægger arbejdsrytmen frem for blot at sænke den. Imens får de fagområder, der har det stærkeste krav på seriøse værktøjer, ingen sagsbehandler, ingen ankemulighed og som regel ingen offentliggjort liste over, hvad der er blokeret. En regel, du ikke kan læse, er ikke en regel; det er vejrlig.

06Ucensureret vs. filtreret AI-billedgenerator: hvad der faktisk ændrer sig

Her er den ærlige version af sammenligningen, inklusive hvad et ufiltreret system ikke giver dig.

Dimension	Filtreret generator	Ufiltreret (Shannon)
Hvad der afgør	En klassifikator, der læser ord og pixels	Et menneske, der læser den præcise prompt
Hvornår du finder ud af det	Efter du har sendt — nogle gange efter du har betalt	Før noget renderes eller faktureres
Hvad reglen er	Uoffentliggjorte, foranderlige bloklister	En offentliggjort politik for ansvarlig brug
Faglig sammenhæng	Usynlig for systemet	Din at bære, og din at svare for
Fejltype	Stiltiende overblokering, betydningsdrift	Du får det, du bad om — inklusive fejl
Hvem bærer risikoen	Leverandøren, væltet over på dit arbejde	Delt: udbyderens politik plus brugerens ansvar

Den sidste række er den, folk springer over, og den, der betyder noget. At fjerne et filter fjerner ikke skadeskategorierne i afsnit 02; det fjerner den maskine, der gættede dårligt om dem. Forpligtelsen bliver, hvor den var, båret nu af to parter, der kan ræsonnere om sammenhæng: udbyderen, som offentliggør og håndhæver en politik, og dig, som ved, hvad billedet skal bruges til. Ufiltreret AI-billedgenerering er et værktøj til folk, der allerede er parate til at stå på mål for deres resultat — kirurgens atlas, den sagkyndige erklæring, storyboardet, satiretegningen — og som blev standset af et system, der ikke kunne skelne dem fra andre.

07Hvad Shannon gør — og hvad den ikke gør

Præcision betyder mere end begejstring her, især for læsere, der kommer fra en API-søgning.

Hvad den gør

• Generering. Beskriv et billede i almindeligt sprog, på ethvert sprog. Shannon skriver selv genereringsprompten, på engelsk, uanset hvilket sprog du spurgte på.
• Redigering af ét billede. Præcis én kilde — et billede, der allerede er i samtalen, eller et vedhæftet din aktuelle besked — ændret af en instruktion, der siger, hvad der ændres, og hvad der bliver. Outputtet beholder automatisk kildens billedformat.
• Kombination af to eller flere billeder. Overførsel af tøj, objekt-ind-i-scene, person ved siden af person, produkt-på-person, motiv fra ét billede med stil fra et andet. Prompten navngiver hvert billedes rolle i rækkefølge, og de rigtige billeder bruges, så deres faktiske udseende bevares frem for at blive genbeskrevet.
• Formatstyring. square (standard), portrait, landscape, wide og tall. Et udtrykkeligt ønske vinder altid.
• Rendering på vores egen GPU-klynge, uden indholdsfilter på genereringsvejen og uden afvisningslag på den model, der skriver prompten.

Hvad den ikke gør

• Ingen video. Shannon animerer ikke billeder og producerer ikke video. Ikke et punkt på en køreplan, der koket holdes tilbage — det findes ikke.
• Ikke på API'et. Billedgenerering, -redigering og -kombination findes i Shannon-chatappen. /v1-API'et leverer tekst og vision — det kan læse billeder, du sender til det — men det renderer dem ikke.
• Ingen uopfordret generering. En hilsen, et spørgsmål eller et løst vedhæftet foto udløser ikke et billede. At bede Shannon om at kigge på et billede — beskrive det, læse det, analysere det — er almindeligt vision-arbejde, ikke en generering, og koster ikke ekstra.

Bekræftelseskortet

Det er den mekanisme, der erstatter filteret, og det er et designvalg snarere end en formalitet. Når Shannon fastslår, at du beder om et billede, skriver den genereringsprompten og viser dig den på et bekræftelseskort, før noget renderes. Intet bliver genereret, og intet bliver faktureret, før du bekræfter.

Sammenlign de to designs på deres meritter. Et filter gætter på din hensigt med mindre information, end du har, og håndhæver gættet stiltiende. Et bekræftelseskort lægger den bogstavelige specifikation af billedet foran den part, der ved, hvad det skal bruges til, før der bruges regnekraft. Det fanger fejllæsninger af din forespørgsel, hvilket filtre aldrig gør; det lader dig tilføje den anatomiske præcision eller historiske detalje, modellen underspecificerede; og det gør ansvaret læsbart frem for udflydende. Du så prompten, og du trykkede på knappen.

08Ufiltreret generering øger ansvaret, den fjerner det ikke

Det her hører hjemme her og ikke i en fodnote, for det er halvdelen af argumentet. En filtreret generator giver et løfte, den ikke kan holde: at værktøjet vil forhindre misbrug på dine vegne. Det fejler i begge retninger — det blokerer kirurgen, og det standser ikke en beslutsom ondsindet bruger, som har andre muligheder og altid har haft det. Det, det pålideligt gør, er at lade alle føle, at ansvaret blev håndteret opstrøms, af en maskine. At fjerne filteret fjerner den fiktion; spørgsmålet om, hvorvidt et billede bør eksistere, vender tilbage til de mennesker, der kan besvare det.

• Shannon Lab LLC's forpligtelse. En offentliggjort, konkret politik for ansvarlig brug, der navngiver forbudte kategorier frem for en uoffentliggjort blokliste — regler, du kan læse, citere og holde os op på.
• Din forpligtelse. Du kender formålet, publikum, jurisdiktionen og samtykkestatus for alle afbildede. Det gør værktøjet ikke, og det kunne en klassifikator aldrig. Bekræftelseskortet findes, for at den viden bliver brugt i det øjeblik, den betyder noget, af den part, der har den.
• Den grænse, der ikke flytter sig. »Filteret stoppede mig ikke« har aldrig været et forsvar i noget medie. Et kamera afviser ikke, en blyant afviser ikke; lov og faglig etik regulerer brugen, ikke instrumentet. En ufiltreret generator genindfører den almindelige ordning, som ethvert andet professionelt værktøj fungerer under.

Læs politikken for ansvarlig brug, før du går i gang. Den er kort, konkret og den del af dette produkt, der gør resten af det forsvarligt.

09Ofte stillede spørgsmål

---

Kilder: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. april 2023 · PetaPixel, 3. april 2023 · CNBC, 22. februar 2024. Shannon AI drives af Shannon Lab LLC, New Mexico, USA.