Bez cenzure naspram filtriranog AI generatora slika

Gotovo svatko tko profesionalno radi sa slikama ima istu priču. Prompt koji opisuje nešto posve obično — presjek koljenog zgloba, automobil u trenutku sudara, studiju figure ugljenom, vojnika 1944. — vrati se kao kršenje pravila. Preformulirate i dobijete drugo kršenje. Na kraju napišete nešto dovoljno maglovito da prođe i dobijete sliku koja više ne prikazuje ono što vam je trebalo. Alat nije zakazao glasno; zakazao je postupno, a vas učinio onim tko je popustio.

01Zašto AI generator slika odbija prompt koji je očito legitiman?

Odbijanje obično nije mišljenje modela za slike. To je ishod sloja filtriranja oko modela, a njegove razine objašnjavaju gotovo svako čudno odbijanje koje ste dobili.

Razina	Što pregledava	Karakteristično otkazivanje
Popis zabranjenih riječi	Doslovne nizove i njihove bliske inačice u vašem tekstu	Blokira riječ bez obzira na rečenicu oko nje — „speculum” pada, „stethoscope” prolazi
Klasifikator prompta	Naučenu procjenu „rizika” prompta	Okida na tematsku blizinu: sve blizu medicine, oružja, tijela ili politike dobiva visoku ocjenu
Trenirano odbijanje modela	Vlastitu, uvježbanu nesklonost modela	Odbija bez greške ili potiho proizvede pročišćenu zamjenu
Klasifikator izlaza	Iscrtane piksele, bez konteksta prompta	Ne razlikuje anatomsku ploču od pornografije ni filmski kadar od stvarnog događaja
Zamjena po pravilima	Tiho prepisivanje vašeg prompta prije iscrtavanja	Dobijete sliku, ali ne onu koju ste zadali, i ne kaže vam se zašto

Sve razine dijele jednu slijepu točku: nijedna ne vidi zašto pitate. Medicinski ilustrator, vještak koji rekonstruira sudar i netko s lošim namjerama upisuju istu imenicu. Filtar vidi imenicu, a ne atlas ni spis predmeta, i ocjenjuje ga se po štetama koje propusti — nikad po radu koji uništi. Uz tu asimetriju racionalna je postavka za svakog operatera odbijaj više. Zato ni „samo preformulirajte” nije rješenje: preformuliranje filtru ne daje nikakvu informaciju koja mu je nedostajala, samo vaš prompt udaljava od riječi koje su ga okinule, što obično znači i od onoga što ste mislili.

02Što filtri sadržaja doista trebaju spriječiti

Argument za nefiltrirano generiranje koji se pretvara da filtri postoje bez razloga ne vrijedi čitati. Postoji uzak skup izlaza čija je šteta svojstvena samoj slici, neovisno o tome tko je tražio i zašto:

• Seksualni sadržaj koji uključuje maloljetnike. Nijedan ga kontekst ne čini prihvatljivim; nijedan profesionalni radni tok ga ne traži.
• Intimne slike stvarnih osoba bez njihova pristanka. Šteta pogađa nekoga tko na to nije pristao, a uklanjanje je ne poništava.
• Ciljano uznemiravanje i klevetničke izmišljotine — prikazivanje imenovane osobe kao da je učinila nešto što nije.
• Dokumenti krivotvoriteljske kvalitete — putovnice, osobne iskaznice, novčanice, pečati i financijski instrumenti izrađeni da prođu kao pravi.
• Obmanjujući sintetički dokazi — izmišljene slike stvarnih događaja predstavljene kao dokumentacija, a ne kao ilustracija.

Popis je kratak i ima strukturu: šteta živi u samom artefaktu, u njegovoj sličnosti sa stvarnom osobom ili dokumentom te u tome što se predstavlja kao istina. Primijetite što nije na njemu — golotinja, krv, oružje, povijesni zločin, politička poruga. To je sirovina medicine, novinarstva, umjetnosti, forenzike i satire, a filtar koji ih tretira kao kategorije štete zapravo provodi mnogo širu ideju o tome koje su teme pristojne.

Shannon zabranjuje sve s tog popisa, u objavljenim Pravilima odgovornog korištenja s imenovanim kategorijama i posljedicama, a ne u tablici ključnih riječi koja usput ulovi i „placenta”. Jedno je pravilo koje možete pročitati i po kojem nas možete držati; drugo je nagađanje o vašim namjerama od strane klasifikatora kojeg ne vidite.

03Koliko je velik problem pretjeranog odbijanja? Što istraživanja mjere

Donedavno je pretjerano odbijanje kod modela za slike bilo anegdota — tisuće ljudi s istom pričom i bez načina da se izmjeri. To se promijenilo s OVERT-om (OVEr-Refusal evaluation on Text-to-image models), predstavljenim na ICML 2025 od skupine s UC Berkeleyja koju čine Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song i Song Mei: prvim velikim mjerenjem koliko često sustavi za pretvaranje teksta u sliku odbijaju posve bezopasne promptove.

Zamisao je bitna. Tih 4,600 promptova sastavljeno je tako da izgleda štetno, a bude bezopasno — oblik stvarnog profesionalnog zahtjeva koji spominje skalpel, modricu ili prosvjed — a uz njih kao kontrola stoji 1,785 doista štetnih promptova, kako model ne bi mogao dobro proći odbijajući sve. Devet kategorija ide od privatnosti pojedinaca i javnih osoba preko autorskih prava, diskriminacije, samoozljeđivanja, seksualnog sadržaja i nezakonitih radnji do nasilja.

Glavni je nalaz da je pretjerano odbijanje rašireno po kategorijama i po vodećim modelima. Drugi je nalaz porazniji za uobičajeno zaobilazno rješenje: autori su testirali prepisivanje prompta kao ublažavanje i navode da ono „često narušava vjernost značenju izvornih promptova”. Filtar možete zaobići tako da promijenite ono što ste tražili, a onda više nemate ono što ste tražili.

Uže istraživanje dolazi do istog zaključka sa strane piksela. U radu An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann i Oliver, radionica AI4VA na ECCV 2024) autori ocjenjuju tri produkcijska NSFW klasifikatora na umjetničkoj golotinji i otkrivaju i rodnu i stilsku pristranost: presuda o studiji figure ovisi o tome čije je tijelo prikazano i u kojem stilu. To je izmjerena tvrdnja o onome za što je svakom crtaču po živom modelu rečeno da umišlja.

04Osam vrsta legitimnog posla koje filtrirani generatori blokiraju

To su kategorije u kojima pretjerano odbijanje nije neugodnost nego zastoj u poslu. Gdje postoji konkretan prijavljen slučaj, navodi se; gdje nijedan nije provjeren, kategorija je opisana bez izmišljanja incidenta.

1. Medicinska i anatomska ilustracija

Najbolje dokumentiran slučaj u ovom području. U travnju 2023. The Intercept (Debbie Nathan) objavio je da je Midjourney zabranio anatomske pojmove uključujući speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom i IUD, dok je DALL·E 2 odbio „pills used in medication abortion” uz poruku o pravilima o sadržaju. Obrazac je uočila Julia Rockwell, klinička analitičarka podataka koja je pokušala generirati sliku posteljice kao dar prijateljici staničnoj biologinji, i prijavila ga MIT Technology Reviewu. Asimetrija je znak: „stethoscope” se generirao normalno, dok je „speculum” bio zabranjen. Istraživač sa Sveučilišta u Washingtonu Bill Howe nazvao je filtre „nespretnima” i rekao da su „u osnovi onemogućili znanstvenu raspravu o reprodukciji”. Edukacija pacijenata, kirurški atlasi i sestrinski nastavni programi trebaju točan prikaz tijela, uključujući i dijelove za koje je popis ključnih riječi odlučio da su nepristojni.

2. Forenzička rekonstrukcija i rekonstrukcija nesreća

Rekonstrukcija sudara, analiza uzroka požara i sudski prikazi zahtijevaju klinički točan prikaz štete, rana i mehanike nasilja. Filtar podešen da odbija „krv” ili „prostrijelnu ranu” odbija čitavu struku: kontekst — vještački nalaz, spis osiguranja — klasifikatoru je nevidljiv, a upravo ona neutralnost koja takve slike čini dopuštenim dokazom čini da izgledaju kao krvoproliće.

3. Umjetnički aktovi i crtanje po živom modelu

Akt je temeljna tema umjetnosti posvuda, a studija figure je jezgra likovne izobrazbe. Gornji rezultat s ECCV 2024 izmjerena je verzija onoga što umjetnici prijavljuju: klasifikatori ne razdvajaju pouzdano studiju figure od pornografije, a njihove su greške pristrane po rodu i stilu — filtar najstroži prema upravo onoj tradiciji koju bi trebao prepoznati.

4. Povijesne i ratne slike

Ilustracije u udžbenicima, muzejska tumačenja i spomen-projekti zahtijevaju prikaz odora, oružja, logora, bitaka i zločina. Epizoda s Geminijem iz veljače 2024. poučna je jer je otkazivanje išlo u suprotnom smjeru i napravilo jednaku štetu. Google je 22. veljače 2024. zaustavio Geminijevu sposobnost generiranja slika ljudi nakon što je proizveo rasno prekomponirane prikaze povijesnih skupina, uključujući njemačke vojnike iz nacističkog razdoblja. Direktor Sundar Pichai nazvao je te izlaze „potpuno neprihvatljivima”; potpredsjednik Prabhakar Raghavan priznao je da je model „pretjerano kompenzirao” i postao „pretjerano konzervativan”. Sigurnost slijepa na kontekst nije povijesne slike učinila sigurnijima — učinila ih je lažnima, što je za izdavača povijesnih djela gore.

5. Nasilje u fikciji i filmska predvizualizacija

Storyboardi, konceptualna umjetnost, stripovi i dizajn igara prikazuju nasilje iz istog razloga iz kojeg to čine romani i filmovi. Filtar koji ne razlikuje horor storyboard od prijetnje tretira cijeli lanac pripovjednih umjetnosti kao sumnjiv — iako je storyboard izričito nestvaran, plan prizora koji će postaviti glumci i tim za efekte.

6. Politička satira i novinska karikatura

Karikatura moćnika u većini je demokracija među najzaštićenijim kategorijama izražavanja, a redovito je prvo što filtar za slike ukloni. Najjasniji dokumentiran slučaj je odluka Midjourneyja iz travnja 2023. da zabrani slike kineskog predsjednika Xi Jinpinga i blokira njegovo ime u promptovima — o čemu su izvijestili PetaPixel, Decrypt i drugi — dok su drugi svjetski čelnici i dalje bili dopušteni. Osnivač David Holz objasnio je na Discordu da tvrtka želi „svesti dramu na najmanju mjeru” i da je „mogućnost da ljudi u Kini koriste ovu tehnologiju važnija od vaše mogućnosti da stvarate satiru”; Sarah McLaughlin iz Foundation for Individual Rights and Expression nazvala je to cenzurom. Što god zaključili o poslovnom računu, mehanizam zaslužuje ime: nacionalno ograničenje govora primijenjeno na svakog korisnika u svijetu, jer globalni filtar ima jednu postavku.

7. Sigurnosna istraživanja i materijali za podizanje svijesti o phishingu

Sigurnosni timovi rade materijale za obuku koji moraju izgledati kao ono na što upozoravaju: uvjerljiv lažni zaslon za prijavu, lažirani račun, zloćudni QR kod na parkirnom automatu. Klasifikatoru je to nerazlučivo od napada od kojeg cijepi — vjerodostojnost je i poanta — pa filtri jednako blokiraju obranu i napad, čime pogoduju napadaču, koji ionako nikad ne bi koristio filtrirani potrošački alat.

8. Nositelji prava kojima se odbijaju slike vlastitog brenda, proizvoda ili lika

Filtriranje po autorskom pravu i žigu ne provjerava vlasništvo; provjerava sličnost. Tvrtka teško može generirati slike vlastitog logotipa ili proizvoda, nositelj prava ne može prikazati vlastiti lik, a ljudi često ne mogu generirati vlastito lice, jer se filtri lika oslanjaju na prepoznatljivost, a ne na pristanak. OVERT među svojih devet kategorija pretjeranog odbijanja uključuje i „kršenja autorskih prava” upravo zato što je taj lažno pozitivan rezultat tako čest. Filtar je tupo oruđe za pitanje — imate li pravo na ovo? — koje nema načina postaviti.

Četiri od gornjih osam kategorija oslonjene su na konkretan objavljen slučaj (medicina, aktovi, povijest, satira), a osma na OVERT-ovu kategoriju autorskih prava. Forenzika, predvizualizacija fikcije i materijali za sigurnosnu svijest navedeni su kao kategorije: to su dobro poznate skupine pogođenog profesionalnog posla za koje nismo provjerili konkretan objavljen incident.

05Zašto AI generatori umjetnosti blokiraju krive stvari i zašto se lažno pozitivni rezultati filtra sadržaja ne mogu podesiti

Instinktivan odgovor na pretjerano blokiranje glasi „olabavite prag”. Ne funkcionira, i to iz strukturnih razloga, a ne zbog nedostatka truda.

Kategorije se preklapaju u signalu, ali ne u stvarnosti. Kirurška ilustracija i pornografija dijele golotinju. Forenzička rekonstrukcija i krvoproliće dijele krv. Slajd za podizanje svijesti i phishing komplet dijele lažni obrazac za prijavu. Satirička karikatura i klevetnička izmišljotina dijele prepoznatljivog političara. Svaki par razlikuju svrha i predstavljanje — kojih nema ni u promptu ni u pikselima. Nijedan prag ne razdvaja dvije populacije koje zauzimaju isto područje ulaznog prostora; pomicanje praga samo mijenja jednu vrstu greške za drugu. Upravo je to pokazala epizoda s Geminijem: zahvat kojim se htjelo popraviti jedno otkazivanje proizveo je drugo, koje je Googleov vlastiti potpredsjednik opisao kao „pretjeranu kompenzaciju”.

Troškovi su asimetrični za operatera, ne za vas. Filtar koji propusti jednu lošu sliku proizvede vijest. Filtar koji blokira deset tisuća legitimnih proizvede tišinu, jer se odbijeni korisnici ne organiziraju — odustanu. Upravljanje rizikom uz tu asimetriju trajno konvergira prema pretjeranom blokiranju. A budući da je temeljna prosudba nemoguća, popisi zabrana gomilaju doslovne nizove kako incidenti pristižu, i tako dobijete da je „stethoscope” u redu, a „speculum” zabranjen. Nitko nije odlučio da su ženski instrumenti opasniji; popis je narastao ondje gdje su pristizale pritužbe. On kodira operaterovu povijest s javnošću, a ne teoriju štete.

Najstroža jurisdikcija postaje globalno zadana. Jedan filtar poslužuje svakog korisnika u svakoj zemlji, pa se ograničenje dodano za jedno tržište izvozi svima — slučaj s Xi Jinpingom je udžbenički primjer. A prepisivanje vašeg prompta uništava vaše značenje, što je i eksperimentalna poanta OVERT-a: svaki stručnjak koji je zahtjev provukao kroz eufemizam da prođe filtar to je potvrdio vlastitom rukom. Niste pobijedili; nagodili ste se.

Ništa od toga nije besplatno, a budući da otkazuje tiho, trošak je nevidljiv u pokazateljima koje operater prati. Nakon dovoljno odbijanja prestanete pitati i unaprijed sužavate svaki prompt na ono što predviđate da će proći; eufemizam koji napokon prođe daje sliku blizu one koja je vašem dokumentu trebala, ali ne baš nju. Općenita poruka o pravilima ne kaže vam koja je razina okinula, pa možete samo nagađati i pokušavati ponovno — a rad sa slikama je iterativan, pa filtar koji uhvati jedan od pet pokušaja razbija petlju, a ne samo usporava. U međuvremenu područja s najjačim pravom na ozbiljne alate nemaju ni recenzenta, ni žalbu, ni obično objavljen popis onoga što je blokirano. Pravilo koje ne možete pročitati nije pravilo; ono je vremenska prognoza.

06Bez cenzure naspram filtriranog AI generatora slika: što se zapravo mijenja

Evo poštene verzije usporedbe, uključujući i ono što vam nefiltrirani sustav ne daje.

Dimenzija	Filtrirani generator	Nefiltrirani (Shannon)
Tko odlučuje	Klasifikator koji čita riječi i piksele	Čovjek koji čita točan prompt
Kad saznate	Nakon slanja — ponekad nakon plaćanja	Prije nego što se išta iscrta ili naplati
Koje je pravilo	Neobjavljeni, promjenjivi popisi zabrana	Objavljena Pravila odgovornog korištenja
Profesionalni kontekst	Sustavu nevidljiv	Vaš da ga imate i vaš da za njega odgovarate
Način otkazivanja	Tiho pretjerano blokiranje, odmicanje značenja	Dobijete ono što ste tražili — uključujući greške
Tko nosi rizik	Dobavljač, prebačeno na vaš rad	Dijeljeno: pravila operatera plus odgovornost korisnika

Posljednji je redak onaj koji ljudi preskaču i onaj koji je bitan. Uklanjanje filtra ne uklanja kategorije štete iz odjeljka 02; uklanja stroj koji je o njima loše nagađao. Obveza ostaje ondje gdje je bila, samo je sada drže dvije strane koje mogu razmišljati o kontekstu: operater, koji objavljuje i provodi pravila, i vi, koji znate čemu slika služi. Nefiltrirano generiranje slika AI-jem alat je za ljude koji su već spremni stati iza svog rezultata — kirurški atlas, vještački nalaz, storyboard, karikatura — a zaustavljao ih je sustav koji ih nije mogao razlikovati od nekoga drugog.

07Što Shannon radi — i što ne radi

Preciznost je ovdje važnija od entuzijazma, osobito za čitatelje koji stižu iz pretrage o API-ju.

Što radi

• Generiranje. Opišite sliku običnim jezikom, na bilo kojem jeziku. Shannon sam piše prompt za generiranje, na engleskom, na kojem god jeziku pitali.
• Uređivanje jedne slike. Točno jedan izvor — slika koja je već u razgovoru ili priložena vašoj trenutnoj poruci — izmijenjen uputom koja kaže što se mijenja, a što ostaje. Izlaz automatski zadržava omjer stranica izvora.
• Spajanje dviju ili više slika. Prijenos odjeće, predmet u prizoru, osoba pokraj osobe, proizvod na osobi, subjekt s jedne slike u stilu druge. Prompt imenuje ulogu svake slike redom i koriste se stvarne slike, pa se njihov doista postojeći izgled čuva, a ne opisuje iznova.
• Upravljanje omjerom. square (zadano), portrait, landscape, wide i tall. Izričit zahtjev uvijek pobjeđuje.
• Iscrtavanje na našem vlastitom GPU klasteru, bez filtra sadržaja na putu generiranja i bez sloja odbijanja na modelu koji piše prompt.

Što ne radi

• Bez videa. Shannon ne animira slike i ne proizvodi video. Nije riječ o stavci s plana koju sramežljivo prešućujemo — toga nema.
• Nije na API-ju. Generiranje, uređivanje i spajanje slika žive u Shannon chat aplikaciji. API /v1 poslužuje tekst i vid — može čitati slike koje mu pošaljete — ali ih ne iscrtava.
• Bez nepozvanog generiranja. Pozdrav, pitanje ili usput priložena fotografija ne pokreću sliku. Tražiti od Shannona da pogleda sliku — da je opiše, pročita, analizira — obično je rad s vidom, a ne generiranje, i ne stoji ništa dodatno.

Kartica potvrde

To je mehanizam koji zamjenjuje filtar i on je odluka u dizajnu, a ne formalnost. Kad Shannon utvrdi da tražite sliku, napiše prompt za generiranje i pokaže vam ga na kartici potvrde prije nego što se išta iscrta. Ništa se ne generira i ništa se ne naplaćuje dok ne potvrdite.

Usporedite ta dva dizajna po njihovim zaslugama. Filtar nagađa vašu namjeru s manje informacija nego što ih imate vi i tiho provodi to nagađanje. Kartica potvrde stavlja doslovnu specifikaciju slike pred stranu koja zna čemu ta slika služi, prije nego što se potroši ijedan ciklus računanja. Hvata krivo shvaćene zahtjeve, što filtri nikad ne rade; omogućuje vam da dodate anatomsku preciznost ili povijesni detalj koji je model nedovoljno odredio; i čini odgovornost čitljivom umjesto raspršenom. Vidjeli ste prompt i pritisnuli gumb.

08Nefiltrirano generiranje podiže odgovornost, ne ukida je

Ovo spada ovamo, a ne u podnožje, jer je pola argumenta. Filtrirani generator daje obećanje koje ne može održati: da će alat umjesto vas spriječiti zlouporabu. Zakazuje u oba smjera — blokira kirurga i ne zaustavlja odlučnog zlonamjernika, koji ima druge mogućnosti i oduvijek ih je imao. Ono što pouzdano čini jest da svima daje osjećaj da je odgovornost riješena uzvodno, strojno. Uklanjanje filtra uklanja tu fikciju; pitanje treba li neka slika postojati vraća se ljudima koji na njega mogu odgovoriti.

• Obveza tvrtke Shannon Lab LLC. Objavljena, konkretna Pravila odgovornog korištenja koja imenuju zabranjene kategorije umjesto neobjavljenog popisa zabrana — pravila koja možete pročitati, citirati i po kojima nas možete držati.
• Vaša obveza. Vi znate svrhu, publiku, jurisdikciju i stanje pristanka svih prikazanih osoba. Alat to ne zna, a klasifikator nikad ne bi ni mogao. Kartica potvrde postoji da se to znanje primijeni u trenutku kad je važno, i to od strane koja ga ima.
• Granica koja se ne pomiče. „Filtar me nije zaustavio” nikad nije bila obrana ni u jednom mediju. Fotoaparat ne odbija, olovka ne odbija; zakon i profesionalna etika uređuju uporabu, a ne instrument. Nefiltrirani generator vraća uobičajeni odnos po kojem posluje svaki drugi profesionalni alat.

Pročitajte Pravila odgovornog korištenja prije nego što počnete. Kratka su, konkretna i dio su proizvoda koji sve ostalo čini obranjivim.

09Često postavljana pitanja

---

Izvori: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. travnja 2023. · PetaPixel, 3. travnja 2023. · CNBC, 22. veljače 2024.. Shannon AI vodi Shannon Lab LLC, Novi Meksiko, SAD.