Necenzuriran proti filtriranemu AI generatorju slik

Skoraj vsak, ki s slikami dela poklicno, ima isto zgodbo. Poziv, ki opisuje nekaj povsem običajnega — prerez kolenskega sklepa, avtomobil v trenutku trka, študijo figure v oglju, vojaka leta 1944 — se vrne kot kršitev pravil. Preubesedite ga in dobite drugačno kršitev. Sčasoma napišete nekaj dovolj nejasnega, da se prebije, in dobite sliko, ki ne prikazuje več tistega, kar ste potrebovali. Orodje ni odpovedalo glasno; odpovedalo je po stopnjah in za tistega, ki je popustil, naredilo vas.

01Zakaj AI generator slik zavrne poziv, ki je očitno legitimen?

Zavrnitev običajno ni mnenje slikovnega modela. Je izhod sklada filtrov okoli modela, njegove plasti pa pojasnijo skoraj vsako čudno zavrnitev, ki ste jo doživeli.

Plast	Kaj pregleduje	Značilna odpoved
Seznam blokiranih izrazov	Dobesedne nize in bližnje različice v vašem besedilu	Blokira besedo ne glede na poved okoli nje — »speculum« pade, »stethoscope« gre skozi
Klasifikator poziva	Naučeno presojo »tveganosti« poziva	Sproži se ob tematski bližini: karkoli blizu medicine, orožja, teles ali politike dobi visoko oceno
Učenje modela za zavračanje	Lastno priučeno zadržanost modela	Zavrne brez napake ali tiho izdela očiščen nadomestek
Klasifikator izhoda	Izrisane slikovne pike, brez konteksta poziva	Ne razloči anatomske table od pornografije ali filmskega kadra od resničnega dogodka
Nadomeščanje po pravilih	Tiho prepisovanje vašega poziva pred izrisom	Sliko dobite, a ne tiste, ki ste jo navedli, in nihče vam ne pove, zakaj

Vse plasti si delijo eno slepo pego: nobena ne vidi, zakaj sprašujete. Medicinski ilustrator, izvedenec tožeče stranke, ki rekonstruira trčenje, in nekdo s slabimi nameni vtipkajo isti samostalnik. Filter vidi samostalnik, ne pa atlasa ali spisa zadeve, ocenjujejo pa ga po škodah, ki jih spusti skozi — nikoli po delu, ki ga uniči. Ob taki asimetriji je za vsakega upravljavca racionalna nastavitev zavrni več. To je tudi razlog, zakaj »le preubesedi« ni rešitev: preubeseditev filtru ne da nobene informacije, ki mu je manjkala, le vaš poziv odmakne od besed, ob katerih se je sprožil, kar običajno pomeni stran od tega, kar ste mislili.

02Kaj naj bi filtri vsebine resnično preprečevali

Zagovor nefiltriranega generiranja, ki se dela, da filtri obstajajo brez razloga, ni vreden branja. Obstaja ozek nabor izhodov, katerih škoda je slikam sami lastna, ne glede na to, kdo je vprašal in zakaj:

• Spolna vsebina, ki vključuje mladoletne osebe. Noben kontekst je ne naredi sprejemljive; noben strokovni potek dela je ne potrebuje.
• Intimni prikazi resničnih ljudi brez privolitve. Škoda pade na nekoga, ki se s tem ni strinjal, in odstranitev je ne izniči.
• Ciljano nadlegovanje in obrekljive potvorbe — prikaz, kot da je poimenovana oseba storila nekaj, česar ni.
• Dokumenti ponarejevalske kakovosti — potni listi, osebne izkaznice, bankovci, žigi in finančni instrumenti, izdelani, da bi veljali za pristne.
• Zavajajoči sintetični dokazi — izmišljene slike resničnih dogodkov, predstavljene kot dokumentacija in ne kot ilustracija.

Seznam je kratek in ima strukturo: škoda živi v izdelku, v njegovi podobnosti resnični osebi ali dokumentu in v tem, da je predstavljen kot resnica. Bodite pozorni na to, česa na njem ni — golote, krvi, orožja, zgodovinskih grozodejstev, političnega posmeha. To je surovina medicine, novinarstva, umetnosti, forenzike in satire, filter, ki jih obravnava kot kategorije škode, pa uveljavlja precej širšo predstavo o tem, katere teme so spodobne.

Shannon prepoveduje vse s tega seznama, in sicer v objavljeni Politiki odgovorne uporabe s poimenovanimi kategorijami in posledicami, ne pa v tabeli ključnih besed, ki ujame tudi »placento«. Prvo je pravilo, ki ga lahko preberete in nas po njem terjate; drugo je ugibanje o vaših namenih, ki ga opravi klasifikator, ki ga ne morete videti.

03Kako velika je težava s pretiranim zavračanjem? Kaj meri raziskava

Do nedavnega je bilo pretirano zavračanje pri slikovnih modelih anekdota — na tisoče ljudi z isto zgodbo in nobenega načina, da bi jo izmerili. To se je spremenilo z OVERT (OVEr-Refusal evaluation on Text-to-image models), predstavljenim na ICML 2025 s strani skupine z UC Berkeley, v kateri so Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song in Song Mei: gre za prvi obsežni merilnik, ki meri, kako pogosto sistemi za pretvorbo besedila v sliko zavrnejo povsem neškodljive pozive.

Zasnova je pomembna. 4,600 pozivov je sestavljenih tako, da so videti škodljivi, čeprav so neškodljivi — imajo obliko resnične strokovne zahteve, ki omenja skalpel, podplutbo ali protest — ob njih pa kot kontrola stoji 1,785 resnično škodljivih pozivov, tako da model ne more dobro odrezati tako, da bi zavrnil vse. Devet kategorij sega od zasebnosti posameznikov in javnih oseb prek avtorskih pravic, diskriminacije, samopoškodovanja, spolne vsebine in nezakonitega delovanja do nasilja.

Glavna ugotovitev je, da je pretirano zavračanje razširjeno po kategorijah in med vodilnimi modeli. Druga je za običajni obvoz še bolj uničujoča: avtorji so kot ublažitev preizkusili prepisovanje poziva in poročajo, da to »pogosto ogrozi zvestobo pomenu izvirnih pozivov«. Mimo filtra pridete tako, da spremenite tisto, za kar ste prosili, in potem tega, za kar ste prosili, nimate več.

Ožja študija pride do istega sklepa s strani slikovnih pik. V delu An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann in Oliver, delavnica AI4VA na ECCV 2024) avtorji ovrednotijo tri produkcijske klasifikatorje NSFW na umetniški goloti in odkrijejo tako spolno pristranskost kot slogovno pristranskost: sodba o študiji figure je odvisna od tega, čigavo telo je upodobljeno in v kakšnem slogu. To je izmerjena ubeseditev tistega, o čemer so vsakemu risarju po živem modelu govorili, da si to izmišlja.

04Osem vrst legitimnega dela, ki ga filtrirani generatorji blokirajo

To so kategorije, pri katerih pretirano zavračanje ni nevšečnost, ampak ustavitev dela. Kjer obstaja konkreten objavljen primer, je naveden; kjer ga nismo preverili, je kategorija opisana, ne da bi si izmišljali dogodek.

1. Medicinska in anatomska ilustracija

Najbolje dokumentiran primer na tem področju. Aprila 2023 je The Intercept (Debbie Nathan) poročal, da je Midjourney prepovedal anatomske izraze, med njimi speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom in IUD, medtem ko je DALL·E 2 s sporočilom o pravilih vsebine zavrnil »pills used in medication abortion«. Vzorec je odkrila Julia Rockwell, analitičarka kliničnih podatkov, ki je poskušala ustvariti sliko posteljice kot darilo prijateljici, celični biologinji, in ga sporočila reviji MIT Technology Review. Asimetrija je zgovorna: »stethoscope« se je generiral običajno, »speculum« pa je bil prepovedan. Raziskovalec z Univerze v Washingtonu Bill Howe je filtre označil za »neokretne« in dejal, da so naredili »praktično nemogočo znanstveno razpravo o razmnoževanju«. Poučevanje bolnikov, kirurški atlasi in učni načrti za zdravstveno nego vsi potrebujejo natančno upodobljena telesa, vključno z deli, za katere je seznam ključnih besed presodil, da so nespodobni.

2. Forenzična rekonstrukcija in rekonstrukcija nesreč

Rekonstrukcija trčenj, analiza izvora požara in sodni prikazi zahtevajo klinično natančno upodobitev poškodb, ran in mehanike nasilja. Filter, uglašen tako, da zavrne »kri« ali »strelno rano«, zavrne celotno stroko: kontekst — izvedensko poročilo, zavarovalniški spis — je klasifikatorju neviden, prav nevtralnost, zaradi katere je tako gradivo dopustno kot dokaz, pa je tisto, zaradi česar se bere kot krvavi prizor.

3. Umetniški akti in risanje po živem modelu

Akt je temeljni motiv umetnosti povsod, študija figure pa je jedro umetniškega izobraževanja. Zgornji rezultat z ECCV 2024 je izmerjena različica tega, o čemer poročajo umetniki: klasifikatorji študije figure ne ločijo zanesljivo od pornografije, njihove napake pa so pristranske glede na spol in slog — filter je torej najstrožji prav do tradicije, ki bi jo moral prepoznati.

4. Zgodovinsko in vojno gradivo

Ilustracije v učbenikih, muzejska interpretacija in spominski projekti zahtevajo upodobitev uniform, orožja, taborišč, bitk in grozodejstev. Epizoda z Geminijem februarja 2024 je poučna, ker je odpoved tekla v nasprotno smer in povzročila enako škodo. Google je 22. februarja 2024 zaustavil Geminijevo zmožnost ustvarjanja slik ljudi, potem ko je ta rasno preoblikoval upodobitve zgodovinskih skupin, med njimi nemških vojakov iz nacističnega obdobja. Izvršni direktor Sundar Pichai je izhode označil za »popolnoma nesprejemljive«; podpredsednik Prabhakar Raghavan je priznal, da je model »pretiraval pri popravljanju« in postal »preveč konservativen«. Varnost, slepa za kontekst, zgodovinskega gradiva ni naredila varnejšega — naredila ga je napačnega, kar je za zgodovinsko založbo slabše.

5. Nasilje v leposlovju in predvizualizacija filma

Snemalne knjige, konceptna umetnost, stripi in oblikovanje iger nasilje upodabljajo iz istega razloga kot romani in filmi. Filter, ki ne razloči grozljivkine snemalne knjige od grožnje, obravnava celoten pripovednoumetniški postopek kot sumljiv — čeprav je snemalna knjiga izrecno nerealna, načrt za prizor, ki ga bodo uprizorili igralci in ekipe za posebne učinke.

6. Politična satira in uredniška karikatura

Karikatura mogočnih sodi med najbolj zaščitene kategorije izražanja v večini demokracij in je redno prva stvar, ki jo slikovni filter odstrani. Najbolj jasno dokumentiran primer je odločitev Midjourneyja aprila 2023, da prepove slike kitajskega predsednika Xi Jinpinga in blokira njegovo ime v pozivih — o čemer so poročali PetaPixel, Decrypt in drugi — medtem ko je druge svetovne voditelje še naprej dovoljeval. Ustanovitelj David Holz je na Discordu pojasnil, da je podjetje želelo »zmanjšati dramo« in da je »zmožnost ljudi na Kitajskem, da uporabljajo to tehnologijo, pomembnejša od vaše zmožnosti ustvarjanja satire«; Sarah McLaughlin iz organizacije Foundation for Individual Rights and Expression je to označila za cenzuro. Kakor koli že sklepamo o poslovnem računu, mehanizem si zasluži poimenovanje: nacionalna omejitev govora, uporabljena za vsakega uporabnika po vsem svetu, ker ima globalni filter eno samo nastavitev.

7. Varnostne raziskave in gradivo za ozaveščanje o ribarjenju podatkov

Varnostne ekipe pripravljajo gradivo za usposabljanje, ki mora biti videti kot to, pred čimer svari: prepričljiv lažni prijavni zaslon, ponarejen račun, zlonamerna koda QR na parkirni uri. Klasifikatorju je to neločljivo od napada, proti kateremu cepi — verodostojnost je bistvo — zato filtri obrambo in napad blokirajo enako, s čimer dajo prednost napadalcu, ki filtriranega potrošniškega orodja tako ali tako ne bi uporabil.

8. Imetniki pravic, zavrnjeni pri slikah lastne znamke, izdelka ali podobe

Filtriranje po avtorski pravici in znamki ne preverja lastništva; preverja podobnost. Podjetje težko ustvari gradivo s svojim lastnim logotipom ali izdelkom, imetnik pravic ne more upodobiti lastnega lika, ljudje pa pogosto ne morejo ustvariti lastnega obraza, ker se filtri podobe ravnajo po prepoznavnosti in ne po privolitvi. OVERT med svojih devet kategorij pretiranega zavračanja vključuje »kršitve avtorskih pravic« prav zato, ker je ta lažni pozitivni zadetek tako pogost. Filter je topo orodje za vprašanje — ali imate do tega pravico? — ki ga sploh ne zna zastaviti.

Štiri od zgornjih osmih so zasidrane v konkreten objavljen primer (medicina, umetniški akti, zgodovina, satira), osma pa v OVERT-ovo kategorijo avtorskih pravic. Forenzika, predvizualizacija leposlovja in gradivo za varnostno ozaveščanje so navedeni kot kategorije: gre za dobro znane razrede prizadetega strokovnega dela, za katere pa nismo preverili konkretnega objavljenega dogodka.

05Zakaj AI generatorji umetnosti blokirajo napačne stvari in zakaj lažnih pozitivnih zadetkov filtra ni mogoče odpraviti z uglaševanjem

Instinktiven odziv na pretirano blokiranje je »zrahljajmo prag«. To ne deluje, in to iz strukturnih razlogov, ne zaradi premalo truda.

Kategorije se prekrivajo v signalu, ne pa v resničnosti. Kirurška ilustracija in pornografija si delita goloto. Forenzična rekonstrukcija in krvavi prizor si delita kri. Prosojnica za ozaveščanje in komplet za ribarjenje podatkov si delita lažni prijavni obrazec. Satirična karikatura in obrekljiva potvorba si delita prepoznavnega politika. Vsak par razlikujeta namen in predstavitev — ki ju v pozivu ni in ju v slikovnih pikah ni. Noben prag ne loči dveh populacij, ki zasedata isto območje vhodnega prostora; premikanje praga le zamenja eno napako za drugo. Prav to je pokazala epizoda z Geminijem: poseg, namenjen odpravi ene odpovedi, je proizvedel drugo, ki jo je Googlov lastni podpredsednik opisal kot »pretiravanje pri popravljanju«.

Stroški so asimetrični za upravljavca, ne za vas. Filter, ki spusti skozi eno slabo sliko, ustvari novico. Filter, ki blokira deset tisoč legitimnih, ustvari tišino, ker se zavrnjeni uporabniki ne organizirajo — obupajo. Obvladovanje tveganja se ob taki asimetriji trajno steka v pretirano blokiranje. In ker je temeljna presoja nemogoča, se na seznamih blokiranih izrazov ob vsakem dogodku nabirajo dobesedni nizi, tako pa dobimo »stethoscope« v redu in »speculum« prepovedan. Nihče ni sklenil, da so instrumenti, specifični za ženske, nevarnejši; seznam je zrasel tam, kjer so pristale pritožbe. Ne vsebuje teorije o škodi, ampak zgodovino odnosov z javnostjo.

Najstrožja jurisdikcija postane globalna privzeta vrednost. En filter streže vsakemu uporabniku v vsaki državi, zato se omejitev, dodana za en trg, izvozi vsem — pravilo o Xi Jinpingu je šolski primer. In prepisovanje vašega poziva uniči vaš pomen, kar je OVERT-ova eksperimentalna poanta: vsak strokovnjak, ki je zahtevo prelil v olepševalnico, da bi jo spravil mimo filtra, je to potrdil na lastni koži. Niste zmagali; poravnali ste se.

Nič od tega ni brezplačno, in ker odpoveduje tiho, je strošek neviden v kazalnikih, ki jih upravljavec spremlja. Po dovolj zavrnitvah nehate spraševati in vsak poziv vnaprej zožite na tisto, za kar predvidevate, da bo prestalo; olepševalnica, ki končno preide, prinese sliko, ki je blizu, a ni tisto, kar je vaš dokument potreboval. Splošno sporočilo o pravilih vam ne pove ničesar o tem, katera plast se je sprožila, zato lahko le ugibate in poskušate znova — delo s slikami pa je iterativno, zato filter, ki ujame vsak peti poskus, zanko prekine in je ne le upočasni. Medtem pa področja z najmočnejšim zahtevkom po resnih orodjih ne dobijo ne recenzenta ne pritožbe in običajno ne objavljenega seznama tega, kar je blokirano. Pravilo, ki ga ne morete prebrati, ni pravilo; je vreme.

06Necenzuriran proti filtriranemu AI generatorju slik: kaj se dejansko spremeni

Tu je poštena različica primerjave, vključno s tem, česa vam nefiltriran sistem ne da.

Razsežnost	Filtriran generator	Nefiltriran (Shannon)
Kaj odloča	Klasifikator, ki bere besede in slikovne pike	Človek, ki bere točen poziv
Kdaj izveste	Po oddaji — včasih po plačilu	Preden se karkoli izriše ali zaračuna
Kakšno je pravilo	Neobjavljeni, spreminjajoči se seznami blokiranih izrazov	Objavljena Politika odgovorne uporabe
Strokovni kontekst	Sistemu neviden	Vaš, da ga nosite, in vaš, da zanj odgovarjate
Način odpovedi	Tiho pretirano blokiranje, odnašanje pomena	Dobite, kar ste zahtevali — vključno z napakami
Kdo nosi tveganje	Ponudnik, ki ga prevali na vaše delo	Deljeno: politika upravljavca plus odgovornost uporabnika

Zadnja vrstica je tista, ki jo ljudje preskočijo, in tista, ki šteje. Odstranitev filtra ne odstrani kategorij škode iz razdelka 02; odstrani stroj, ki je o njih slabo ugibal. Obveznost ostane, kjer je bila, le da jo zdaj nosita dve strani, ki znata razmišljati o kontekstu: upravljavec, ki politiko objavi in uveljavlja, ter vi, ki veste, čemu je slika namenjena. Nefiltrirano generiranje slik z AI je orodje za ljudi, ki so že pripravljeni stati za svojim izdelkom — kirurški atlas, izvedensko poročilo, snemalna knjiga, karikatura — ki jih je ustavljal sistem, ki jih ni znal ločiti od nekoga drugega.

07Kaj Shannon počne — in česa ne

Natančnost je tu pomembnejša od navdušenja, zlasti za bralce, ki prihajajo z iskanja o API.

Kaj počne

• Generiranje. Sliko opišite v vsakdanjem jeziku, v katerem koli jeziku. Shannon poziv za generiranje napiše sam, v angleščini, ne glede na to, v katerem jeziku ste vprašali.
• Urejanje ene slike. Natanko en vir — slika, ki je že v pogovoru, ali taka, ki je pripeta vašemu trenutnemu sporočilu — spremenjen z navodilom, ki pove, kaj se spremeni in kaj ostane. Izhod samodejno ohrani razmerje stranic vira.
• Združevanje dveh ali več slik. Prenos oblačila, predmet v prizor, oseba ob osebi, izdelek na osebi, motiv z ene slike s slogom z druge. Poziv po vrsti poimenuje vlogo vsake slike, uporabljene pa so resnične slike, tako da je njihov dejanski videz ohranjen in ne le ponovno opisan.
• Nadzor nad razmerjem. square (privzeto), portrait, landscape, wide in tall. Izrecna zahteva vedno zmaga.
• Izris na našem lastnem grozdu GPU, brez filtra vsebine na poti generiranja in brez sloja zavračanja na modelu, ki napiše poziv.

Česa ne počne

• Brez videa. Shannon slik ne animira in videa ne ustvarja. To ni postavka z načrta, ki bi jo sramežljivo zadrževali — ne obstaja.
• Ne prek API. Generiranje, urejanje in združevanje slik živijo v klepetalni aplikaciji Shannon. API /v1 streže besedilo in razumevanje slik — slike, ki mu jih pošljete, zna brati — ne izrisuje pa jih.
• Brez nepovabljenega generiranja. Pozdrav, vprašanje ali mimogrede pripeta fotografija slike ne sprožijo. Prošnja, naj Shannon pogleda sliko — jo opiše, prebere, analizira — je običajno delo razumevanja slik, ne generiranje, in ne stane nič dodatnega.

Potrditvena kartica

To je mehanizem, ki nadomešča filter, in je zasnovna odločitev, ne formalnost. Ko Shannon ugotovi, da prosite za sliko, napiše poziv za generiranje in vam ga pokaže na potrditveni kartici, preden se karkoli izriše. Nič se ne ustvari in nič se ne zaračuna, dokler ne potrdite.

Primerjajte obe zasnovi po njunih zaslugah. Filter ugiba vaš namen z manj informacijami, kot jih imate vi, in ugibanje tiho uveljavi. Potrditvena kartica dobesedno specifikacijo slike postavi pred stran, ki ve, čemu je namenjena, in to preden se porabi kakršna koli računska moč. Ujame napačna razumevanja vaše zahteve, česar filtri nikoli ne storijo; omogoča vam, da dodate anatomsko natančnost ali zgodovinsko podrobnost, ki jo je model premalo določil; in odgovornost naredi berljivo namesto razpršeno. Poziv ste videli in gumb ste pritisnili vi.

08Nefiltrirano generiranje odgovornost dviguje, ne odpravlja

To sodi sem in ne v nogo strani, ker je polovica argumenta. Filtriran generator daje obljubo, ki je ne more držati: da bo orodje namesto vas preprečilo zlorabo. Odpove v obeh smereh — blokira kirurga, odločenega zlonamernega akterja pa ne ustavi, saj ima ta druge možnosti in jih je imel vedno. Kar zanesljivo naredi, je, da vsem omogoči občutek, da je bila odgovornost urejena više po toku, strojno. Odstranitev filtra to fikcijo odpravi; vprašanje, ali naj slika obstaja, se vrne k ljudem, ki nanj znajo odgovoriti.

• Obveznost Shannon Lab LLC. Objavljena, konkretna Politika odgovorne uporabe, ki poimenuje prepovedane kategorije, namesto neobjavljenega seznama blokiranih izrazov — pravila, ki jih lahko preberete, navajate in nas po njih terjate.
• Vaša obveznost. Vi poznate namen, občinstvo, jurisdikcijo in stanje privolitve vseh upodobljenih. Orodje tega ne pozna, klasifikator pa nikoli ne bi mogel. Potrditvena kartica obstaja zato, da se to znanje uporabi v trenutku, ko šteje, in to s strani tistega, ki ga ima.
• Meja, ki se ne premakne. »Filter me ni ustavil« ni bilo nikoli sprejemljivo v nobenem mediju. Fotoaparat ne zavrne, svinčnik ne zavrne; uporabo urejata zakon in poklicna etika, ne pa orodje. Nefiltriran generator obnovi običajno ureditev, po kateri deluje vsako drugo strokovno orodje.

Preden začnete, preberite Politiko odgovorne uporabe. Kratka je, konkretna in je tisti del tega izdelka, zaradi katerega je preostanek zagovorljiv.

09Pogosta vprašanja

---

Viri: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. april 2023 · PetaPixel, 3. april 2023 · CNBC, 22. februar 2024. Shannon AI upravlja Shannon Lab LLC, Nova Mehika, ZDA.