Usensurert kontra filtrert AI-bildegenerator

Nesten alle som jobber profesjonelt med bilder, har den samme historien. En prompt som beskriver noe helt alminnelig — et tverrsnitt av et kneledd, en bil i kollisjonsøyeblikket, en figurstudie i kull, en soldat i 1944 — kommer tilbake som et brudd på retningslinjene. Du omformulerer, og får et annet brudd. Til slutt skriver du noe vagt nok til å slippe gjennom, og får et bilde som ikke lenger viser det du trengte. Verktøyet sviktet ikke høylytt; det sviktet gradvis, og gjorde deg til den som inngikk kompromisset.

01Hvorfor avviser en AI-bildegenerator en prompt som åpenbart er legitim?

Avslaget er som regel ikke bildemodellens mening. Det er resultatet av en filtreringsstakk rundt modellen, og lagene i den forklarer nesten alle merkelige avslag du har fått.

Lag	Hva det inspiserer	Karakteristisk svikt
Sperreliste for prompter	Bokstavelige strenger og nære varianter i teksten din	Blokkerer et ord uansett hvilken setning det står i — «speculum» feiler, «stethoscope» slipper gjennom
Promptklassifiserer	En innlært vurdering av promptens «risiko»	Utløses av temanærhet: alt i nærheten av medisin, våpen, kropper eller politikk scorer høyt
Avvisningstrening i modellen	Modellens egen innlærte motvilje	Avviser uten feilmelding, eller lager stille en renvasket erstatning
Utdataklassifiserer	Rendrede piksler, uten promptkontekst	Kan ikke skille en anatomiplansje fra pornografi, eller et filmstillbilde fra en virkelig hendelse
Policyerstatning	Stille omskriving av prompten din før rendring	Du får et bilde, men ikke det du spesifiserte, og du får ikke vite hvorfor

Alle lagene deler den samme blindsonen: ingen av dem kan se hvorfor du spør. En medisinsk illustratør, en sakkyndig som rekonstruerer en kollisjon for en saksøker, og en person med onde hensikter skriver alle det samme substantivet. Filteret ser substantivet, ikke atlaset eller saksmappen, og det måles på skadene det slipper gjennom — aldri på arbeidet det ødelegger. Under den skjevheten er den rasjonelle innstillingen for enhver operatør avvis mer. Det er også derfor «bare omformuler det» ikke er noen løsning: omformulering gir filteret ingen informasjon det manglet, den flytter bare prompten din bort fra ordene som utløste det, og dermed som regel bort fra det du mente.

02Hva innholdsfiltre faktisk er der for å hindre

Et argument for ufiltrert generering som later som om filtre finnes uten grunn, er ikke verdt å lese. Det finnes et smalt sett av resultater der skaden ligger i selve bildet, uavhengig av hvem som spurte eller hvorfor:

• Seksuelt innhold som involverer mindreårige. Ingen kontekst gjør det akseptabelt; ingen profesjonell arbeidsflyt krever det.
• Intime bilder av virkelige personer uten samtykke. Skaden rammer noen som ikke sa ja, og en fjerning gjør den ikke ugjort.
• Målrettet trakassering og ærekrenkende fabrikasjon — å få en navngitt person til å framstå som om vedkommende har gjort noe de ikke har gjort.
• Dokumenter av forfalskningskvalitet — pass, ID-kort, sedler, segl og finansielle instrumenter laget for å passere som ekte.
• Villedende syntetiske bevis — fabrikkerte bilder av virkelige hendelser presentert som dokumentasjon snarere enn illustrasjon.

Listen er kort, og den har en struktur: skaden ligger i objektet, i dets likhet med en virkelig person eller et virkelig dokument, og i at det presenteres som sannhet. Legg merke til hva som ikke står på den — nakenhet, blod, våpen, historiske grusomheter, politisk latterliggjøring. Det er råmaterialet i medisin, journalistikk, kunst, rettsmedisin og satire, og et filter som behandler dem som skadekategorier, gjennomfører en langt bredere idé om hvilke emner som er respektable.

Shannon forbyr alt på den listen, i en publisert policy for ansvarlig bruk med navngitte kategorier og konsekvenser, snarere enn i en nøkkelordtabell som også fanger «placenta». Det ene er en regel du kan lese og holde oss til; det andre er en gjetning om dine hensikter, gjort av en klassifiserer du ikke kan se.

03Hvor stort er problemet med overdreven avvisning? Hva forskningen måler

Fram til nylig var overdreven avvisning i bildemodeller en anekdote — tusenvis av mennesker med den samme historien og ingen måte å måle omfanget på. Det endret seg med OVERT (OVEr-Refusal evaluation on Text-to-image models), presentert på ICML 2025 av en gruppe fra UC Berkeley med blant andre Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song og Song Mei: den første storskala benchmarken som måler hvor ofte tekst-til-bilde-systemer avviser prompter som er fullstendig harmløse.

Utformingen er viktig. De 4,600 promptene er laget for å se skadelige ut samtidig som de er harmløse — formen på en ekte fagforespørsel som nevner en skalpell, et blåmerke eller en demonstrasjon — og de 1,785 virkelig skadelige promptene ligger ved siden av dem som kontroll, slik at en modell ikke kan score godt ved å avvise alt. De ni kategoriene spenner fra personvern for enkeltpersoner og offentlige personer, via opphavsrett, diskriminering, selvskading, seksuelt innhold og ulovlig aktivitet, til vold.

Hovedfunnet er at overdreven avvisning er utbredt på tvers av kategorier og på tvers av ledende modeller. Det andre funnet er mer ødeleggende for standardomveien: forfatterne testet omskriving av prompter som avbøtende tiltak og rapporterer at det «ofte går på bekostning av troskapen mot meningen i de opprinnelige promptene». Du kan komme forbi filteret ved å endre det du ba om, og da har du ikke lenger det du ba om.

En smalere studie kommer til den samme konklusjonen fra pikselsiden. I An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann og Oliver, AI4VA-workshopen på ECCV 2024) vurderer forfatterne tre NSFW-klassifiserere i produksjon på kunstnerisk nakenhet, og avdekker både en kjønnsskjevhet og en stilskjevhet: dommen over en figurstudie avhenger av hvem sin kropp som er avbildet, og i hvilken stil. Det er en målt bekreftelse av det enhver croquis-kunstner har fått høre at de innbiller seg.

04Åtte typer legitimt arbeid som filtrerte generatorer blokkerer

Dette er kategoriene der overdreven avvisning ikke er en ulempe, men en arbeidsstans. Der det finnes et konkret rapportert tilfelle, er det sitert; der ingen er verifisert, beskrives kategorien uten at det dikter opp en hendelse.

1. Medisinsk og anatomisk illustrasjon

Det best dokumenterte tilfellet på feltet. I april 2023 rapporterte The Intercept (Debbie Nathan) at Midjourney hadde forbudt anatomiske termer som speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom og IUD, mens DALL·E 2 avviste «pills used in medication abortion» med en melding om innholdsretningslinjer. Mønsteret ble oppdaget av Julia Rockwell, en klinisk dataanalytiker som hadde forsøkt å generere et bilde av en morkake som gave til en venn som er cellebiolog, og rapportert til MIT Technology Review. Skjevheten er avslørende: «stethoscope» genererte som normalt, mens «speculum» var forbudt. Bill Howe, forsker ved University of Washington, kalte filtrene «ham-fisted» og sa at de gjorde det «basically impossible to have a scientific discussion about reproduction». Pasientinformasjon, kirurgiske atlas og sykepleierutdanning trenger alle kropper avbildet nøyaktig, inkludert de delene en nøkkelordliste har bestemt at er uanstendige.

2. Rettsmedisinsk rekonstruksjon og ulykkesrekonstruksjon

Kollisjonsrekonstruksjon, brannårsaksanalyse og illustrasjoner til rettssaler krever at skader, sår og voldelig mekanikk framstilles med klinisk nøyaktighet. Et filter innstilt på å avvise «blod» eller «skuddskade» avviser hele fagfeltet: konteksten — en sakkyndig rapport, en forsikringssak — er usynlig for klassifisereren, og nettopp den nøkternheten som gjør slike bilder brukbare som bevis, er det som får dem til å leses som blodig grafikk.

3. Kunstnerisk akt og croquis

Akten er et grunnleggende motiv i kunsten overalt, og figurstudier er kjernen i kunstutdanning. ECCV 2024-resultatet over er den målte versjonen av det kunstnere rapporterer: klassifiserere skiller ikke pålitelig en figurstudie fra pornografi, og feilene deres er skjeve etter kjønn og stil — et filter som er hardest mot nettopp den tradisjonen det burde gjenkjenne.

4. Historiske bilder og krigsbilder

Lærebokillustrasjon, museumsformidling og minneprosjekter krever framstillinger av uniformer, våpen, leirer, slag og grusomheter. Gemini-episoden i februar 2024 er lærerik, fordi svikten gikk i motsatt retning og gjorde like stor skade. Google satte Geminis evne til å generere bilder av mennesker på pause 22. februar 2024, etter at den produserte rasemessig omkomponerte framstillinger av historiske grupper, blant annet tyske soldater fra nazitiden. Konsernsjef Sundar Pichai kalte resultatene «completely unacceptable»; SVP Prabhakar Raghavan erkjente at modellen hadde «overcompensated» og blitt «over-conservative». Kontekstblind sikkerhet gjorde ikke historiske bilder tryggere — den gjorde dem usanne, noe som for et historieforlag er verre.

5. Vold i fiksjon og forhåndsvisualisering for film

Storyboards, konseptkunst, tegneserier og spilldesign framstiller vold av samme grunn som romaner og filmer gjør det. Et filter som ikke kan skille et skrekkstoryboard fra en trussel, behandler hele den fortellende bransjen som mistenkelig — enda et storyboard uttrykkelig er ikke-virkelig, en plan for en scene skuespillere og effektfolk skal iscenesette.

6. Politisk satire og politisk vittighetstegning

Karikatur av de mektige er blant de mest beskyttede ytringskategoriene i de fleste demokratier, og rutinemessig det første et bildefilter fjerner. Det klareste dokumenterte tilfellet er Midjourneys beslutning i april 2023 om å forby bilder av Kinas president Xi Jinping og blokkere navnet hans i prompter — rapportert av PetaPixel, Decrypt og andre — samtidig som andre statsledere fortsatt var tillatt. Grunnlegger David Holz forklarte på Discord at selskapet ville «minimize drama», og at «the ability for people in China to use this tech is more important than your ability to generate satire»; Sarah McLaughlin i Foundation for Individual Rights and Expression kalte det sensur. Uansett hva man mener om forretningsregnestykket, fortjener mekanismen et navn: en nasjonal ytringsbegrensning anvendt på alle brukere i hele verden, fordi et globalt filter bare har én innstilling.

7. Sikkerhetsforskning og materiell for phishing-bevissthet

Sikkerhetsteam lager opplæringsmateriell som må se ut som det de advarer mot: et overbevisende falskt innloggingsbilde, en forfalsket faktura, en ondsinnet QR-kode på en parkeringsautomat. For en klassifiserer er det ikke til å skille fra angrepet det vaksinerer mot — realismen er hele poenget — så filtre blokkerer forsvar og angrep likt, til fordel for angriperen, som uansett aldri kom til å bruke et filtrert forbrukerverktøy.

8. Rettighetshavere som nektes bilder av sin egen merkevare, sitt eget produkt eller sitt eget ansikt

Filtrering på opphavsrett og varemerker sjekker ikke eierskap; den sjekker likhet. Et selskap kan ikke uten videre generere bilder av sin egen logo eller sitt eget produkt, en rettighetshaver kan ikke avbilde sin egen figur, og folk kan ofte ikke generere sitt eget ansikt, fordi likhetsfiltre reagerer på gjenkjennelighet snarere enn på samtykke. OVERT inkluderer «brudd på opphavsrett» blant sine ni kategorier for overdreven avvisning nettopp fordi denne falske positiven er så vanlig. Filteret er et grovt verktøy for et spørsmål — har du rett til dette? — som det ikke har noen måte å stille på.

Fire av de åtte over er forankret i et konkret publisert tilfelle (medisin, kunstnerisk akt, historie, satire), pluss OVERTs opphavsrettskategori for den åttende. Rettsmedisin, forhåndsvisualisering av fiksjon og materiell for sikkerhetsbevissthet er oppgitt som kategorier: de er velkjente klasser av berørt profesjonelt arbeid der vi ikke har verifisert en konkret publisert hendelse.

05Hvorfor AI-kunstgeneratorer blokkerer feil ting, og hvorfor falske positiver i innholdsfiltre ikke kan finjusteres bort

Den instinktive responsen på overblokkering er «løsne terskelen». Det virker ikke, av strukturelle grunner snarere enn av mangel på innsats.

Kategoriene overlapper i signalet, men ikke i virkeligheten. En kirurgisk illustrasjon og pornografi deler nakenhet. En rettsmedisinsk rekonstruksjon og blodig grafikk deler blod. Et bevisstgjøringslysbilde og et phishing-sett deler et falskt innloggingsskjema. En satirisk tegning og en ærekrenkende fabrikasjon deler en gjenkjennelig politiker. Det som skiller hvert par, er formål og presentasjon — fraværende fra prompten og fraværende fra pikslene. Ingen terskel skiller to populasjoner som opptar det samme området i inndatarommet; å flytte den bytter bare én feil mot den andre. Det var det Gemini-episoden viste: et inngrep ment å rette én svikt, produserte en annen, beskrevet av Googles egen SVP som «overcompensated».

Kostnadene er skjevfordelt for operatøren, ikke for deg. Et filter som slipper gjennom ett dårlig bilde, gir en nyhetssak. Et filter som blokkerer ti tusen legitime, gir stillhet, fordi avviste brukere ikke organiserer seg — de gir opp. Risikostyring under den skjevheten konvergerer mot overblokkering, permanent. Og fordi den underliggende vurderingen er umulig, vokser sperrelister med bokstavelige strenger etter hvert som hendelser oppstår, og det er slik du ender opp med at «stethoscope» går fint mens «speculum» er forbudt. Ingen bestemte at kvinnespesifikke instrumenter var farligere; listen vokste der klagene landet. Den koder en operatørs PR-historie, ikke en teori om skade.

Den strengeste jurisdiksjonen blir den globale standarden. Ett filter betjener alle brukere i alle land, så en begrensning lagt til for ett marked eksporteres til alle — Xi Jinping-regelen er skoleeksempelet. Og å skrive om prompten din ødelegger meningen din, som er OVERTs eksperimentelle poeng: enhver fagperson som har vasket en forespørsel gjennom eufemismer for å få den forbi et filter, har bekreftet det for hånd. Du vant ikke; du slo av på kravene.

Ingenting av dette er gratis, og fordi det svikter i stillhet, er kostnaden usynlig i de målene en operatør følger med på. Etter nok avslag slutter du å spørre, og snevrer inn hver prompt på forhånd til det du tror vil slippe gjennom; eufemismen som endelig går gjennom, gir et bilde nær, men ikke likt, det dokumentet ditt trengte. En generisk retningslinjemelding sier deg ingenting om hvilket lag som utløste, så du kan bare gjette og prøve igjen — og bildearbeid er iterativt, så et filter som fanger ett forsøk av fem, bryter opp arbeidsflyten snarere enn bare å bremse den. Samtidig får de fagfeltene som har det sterkeste kravet på seriøse verktøy, ingen saksbehandler, ingen ankemulighet og som regel ingen publisert liste over hva som er blokkert. En regel du ikke kan lese, er ikke en regel; det er vær.

06Usensurert kontra filtrert AI-bildegenerator: hva som faktisk endres

Her er den ærlige versjonen av sammenligningen, inkludert hva et ufiltrert system ikke gir deg.

Dimensjon	Filtrert generator	Ufiltrert (Shannon)
Hva som avgjør	En klassifiserer som leser ord og piksler	Et menneske som leser den nøyaktige prompten
Når du får vite det	Etter at du har sendt inn — noen ganger etter at du har betalt	Før noe rendres eller faktureres
Hva regelen er	Upubliserte, skiftende sperrelister	En publisert policy for ansvarlig bruk
Faglig kontekst	Usynlig for systemet	Din å inneha, og din å svare for
Feilmåte	Stille overblokkering, meningsdrift	Du får det du ba om — feil inkludert
Hvem som bærer risikoen	Leverandøren, veltet over på arbeidet ditt	Delt: operatørens policy pluss brukerens ansvar

Den siste raden er den folk hopper over, og den som betyr noe. Å fjerne et filter fjerner ikke skadekategoriene i seksjon 02; det fjerner maskinen som gjettet dårlig om dem. Forpliktelsen blir der den var, båret nå av to parter som kan resonnere om kontekst: operatøren, som publiserer og håndhever en policy, og du, som vet hva bildet skal brukes til. Ufiltrert AI-bildegenerering er et verktøy for folk som allerede er innstilt på å stå for det de lager — kirurgens atlas, den sakkyndige rapporten, storyboardet, vittighetstegningen — og som ble stoppet av et system som ikke kunne skille dem fra noen andre.

07Hva Shannon gjør — og hva den ikke gjør

Presisjon er viktigere enn entusiasme her, særlig for lesere som kommer fra et API-søk.

Hva den gjør

• Generering. Beskriv et bilde på vanlig språk, på hvilket som helst språk. Shannon skriver selv genereringsprompten, på engelsk, uansett hvilket språk du spurte på.
• Redigering av ett bilde. Nøyaktig én kilde — et bilde som allerede er i samtalen, eller ett vedlagt den aktuelle meldingen — endret av en instruksjon som sier hva som endres og hva som blir stående. Resultatet beholder kildens bildeformat automatisk.
• Sammenslåing av to eller flere bilder. Overføring av antrekk, objekt-inn-i-scene, person ved siden av person, produkt-på-person, motiv fra ett bilde med stil fra et annet. Prompten navngir rollen til hvert bilde i rekkefølge, og de virkelige bildene brukes, slik at deres faktiske utseende bevares i stedet for å bli beskrevet på nytt.
• Formatkontroll. square (standard), portrait, landscape, wide og tall. En uttrykkelig forespørsel vinner alltid.
• Rendring på vår egen GPU-klynge, uten innholdsfilter på genereringsveien og uten avvisningslag på modellen som skriver prompten.

Hva den ikke gjør

• Ingen video. Shannon animerer ikke bilder og lager ikke video. Ikke et veikartpunkt som holdes koket tilbake — det finnes ikke.
• Ikke på API-et. Bildegenerering, bilderedigering og sammenslåing hører hjemme i Shannon-chatappen. /v1-API-et betjener tekst og syn — det kan lese bilder du sender det — men det rendrer dem ikke.
• Ingen uoppfordret generering. En hilsen, et spørsmål eller et tilfeldig vedlagt bilde utløser ikke et bilde. Å be Shannon se på et bilde — beskrive det, lese det, analysere det — er vanlig synsarbeid, ikke en generering, og koster ingenting ekstra.

Bekreftelseskortet

Dette er mekanismen som erstatter filteret, og det er et designvalg snarere enn en formalitet. Når Shannon fastslår at du ber om et bilde, skriver den genereringsprompten og viser den til deg på et bekreftelseskort før noe rendres. Ingenting genereres og ingenting faktureres før du bekrefter.

Sammenlign designene på deres egne premisser. Et filter gjetter på hensikten din med mindre informasjon enn du selv har, og håndhever gjetningen i stillhet. Et bekreftelseskort legger den bokstavelige spesifikasjonen av bildet foran den parten som vet hva det skal brukes til, før noe regnekraft er brukt. Det fanger opp feillesninger av forespørselen din, noe filtre aldri gjør; det lar deg legge til den anatomiske presisjonen eller den historiske detaljen modellen underspesifiserte; og det gjør ansvaret leselig i stedet for diffust. Du så prompten, og du trykket på knappen.

08Ufiltrert generering øker ansvaret, den fjerner det ikke

Dette hører hjemme her og ikke i en fotnote, fordi det er halve argumentet. En filtrert generator gir et løfte den ikke kan holde: at verktøyet skal hindre misbruk på dine vegne. Det svikter i begge retninger — det blokkerer kirurgen, og det stopper ikke en målbevisst ondsinnet aktør, som har andre muligheter og alltid har hatt det. Det det pålitelig gjør, er å la alle føle at ansvaret ble håndtert lenger oppstrøms, av en maskin. Å fjerne filteret fjerner den fiksjonen; spørsmålet om et bilde bør finnes, vender tilbake til dem som kan svare på det.

• Shannon Lab LLCs forpliktelse. En publisert, konkret policy for ansvarlig bruk som navngir forbudte kategorier, i stedet for en upublisert sperreliste — regler du kan lese, sitere og holde oss til.
• Din forpliktelse. Du kjenner formålet, publikummet, jurisdiksjonen og samtykkestatusen til alle som er avbildet. Det gjør ikke verktøyet, og en klassifiserer kunne aldri gjort det. Bekreftelseskortet finnes for at den kunnskapen skal brukes i det øyeblikket den betyr noe, av den parten som har den.
• Grensen som ikke flytter seg. «Filteret stoppet meg ikke» har aldri vært et forsvar i noe medium. Et kamera nekter ikke, en blyant nekter ikke; lov og yrkesetikk styrer bruken, ikke instrumentet. En ufiltrert generator gjenoppretter den vanlige ordningen alle andre profesjonelle verktøy opererer under.

Les policyen for ansvarlig bruk før du setter i gang. Den er kort, konkret, og den delen av dette produktet som gjør resten av det forsvarlig.

09Ofte stilte spørsmål

---

Kilder: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. april 2023 · PetaPixel, 3. april 2023 · CNBC, 22. februar 2024. Shannon AI drives av Shannon Lab LLC, New Mexico, USA.