Necenzurirani vs filtrirani AI generator slika

Gotovo svako ko profesionalno radi sa slikama ima istu priču. Prompt koji opisuje nešto sasvim obično — presjek koljenog zgloba, automobil u trenutku sudara, studiju figure u ugljenu, vojnika iz 1944. — vrati se kao kršenje pravila. Preformulišete, i dobijete drugo kršenje. Na kraju napišete nešto dovoljno maglovito da prođe, i dobijete sliku koja više ne pokazuje ono što vam je trebalo. Alat nije otkazao glasno; otkazivao je postepeno, a vas učinio onim koji je popustio.

01Zašto AI generator slika odbija prompt koji je očigledno legitiman?

Odbijanje obično nije mišljenje modela za slike. To je rezultat filterskog sloja oko modela, a njegovi nivoi objašnjavaju gotovo svako čudno odbijanje koje ste dobili.

Nivo	Šta pregleda	Karakteristično otkazivanje
Crna lista prompta	Doslovne nizove i bliske varijante u vašem tekstu	Blokira riječ bez obzira na rečenicu oko nje — „speculum” pada, „stethoscope” prolazi
Klasifikator prompta	Naučenu prosudbu o „riziku” prompta	Okida na tematsku blizinu: sve blizu medicine, oružja, tijela ili politike dobija visoku ocjenu
Trening odbijanja u modelu	Vlastitu utreniranu suzdržanost modela	Odbija bez greške, ili tiho proizvede pročišćenu zamjenu
Klasifikator izlaza	Renderirane piksele, bez konteksta prompta	Ne razlikuje anatomsku tablu od pornografije, ni filmski kadar od stvarnog događaja
Zamjena po politici	Tiho prepisivanje vašeg prompta prije renderiranja	Dobijete sliku, ali ne onu koju ste naveli, i ne kažu vam zašto

Svi nivoi dijele istu slijepu tačku: nijedan ne vidi zašto pitate. Medicinski ilustrator, vještak tužilačke strane koji rekonstruiše sudar i neko sa lošim namjerama ukucaju istu imenicu. Filter vidi imenicu, a ne atlas ni sudski spis, i ocjenjuje se po štetama koje propusti — nikada po poslu koji uništi. Uz tu asimetriju, racionalna postavka za svakog operatera je odbijaj više. Zato „samo preformulišite” nije rješenje: preformulisanje filteru ne daje nikakvu informaciju koja mu je nedostajala, samo pomjera vaš prompt dalje od riječi koje su ga aktivirale, što obično znači dalje od onoga što ste mislili.

02Šta filteri sadržaja zaista trebaju sprečavati

Argument za nefiltrirano generisanje koji se pravi da filteri postoje bez razloga ne vrijedi čitati. Postoji uzak skup izlaza čija je šteta svojstvena samoj slici, bez obzira na to ko je i zašto tražio:

• Seksualni sadržaj koji uključuje maloljetnike. Nikakav kontekst ga ne čini prihvatljivim; nijedan profesionalni radni tok ga ne zahtijeva.
• Intimne slike stvarnih osoba bez pristanka. Šteta pogađa nekoga ko nije pristao, a uklanjanje sadržaja je ne poništava.
• Ciljano uznemiravanje i klevetničko izmišljanje — prikazivanje imenovane osobe kao da je uradila nešto što nije.
• Dokumenti falsifikatorskog kvaliteta — pasoši, lične karte, novčanice, pečati i finansijski instrumenti napravljeni da prođu kao pravi.
• Obmanjujući sintetički dokazi — izmišljene slike stvarnih događaja predstavljene kao dokumentacija, a ne kao ilustracija.

Lista je kratka i ima strukturu: šteta živi u samom artefaktu, u njegovoj sličnosti sa stvarnom osobom ili dokumentom, i u tome što se predstavlja kao istina. Primijetite šta nije na njoj — golotinja, krv, oružje, historijska zvjerstva, politička poruga. To je sirovina medicine, novinarstva, umjetnosti, forenzike i satire, a filter koji ih tretira kao kategorije štete zapravo provodi mnogo širu ideju o tome koje su teme pristojne.

Shannon zabranjuje sve sa te liste, u objavljenoj Politici odgovornog korištenja sa imenovanim kategorijama i posljedicama, umjesto tabelom ključnih riječi koja usput uhvati i „placenta”. Jedno je pravilo koje možete pročitati i po kojem nas možete držati; drugo je nagađanje o vašim namjerama od klasifikatora kojeg ne možete vidjeti.

03Koliko je veliki problem pretjeranog odbijanja? Šta istraživanje mjeri

Donedavno je pretjerano odbijanje kod modela za slike bilo anegdota — hiljade ljudi sa istom pričom i bez načina da se izmjeri. To se promijenilo sa OVERT-om (OVEr-Refusal evaluation on Text-to-image models), predstavljenim na ICML 2025 od grupe sa UC Berkeley u sastavu Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song i Song Mei: prvim velikim benchmarkom koji mjeri koliko često sistemi za pretvaranje teksta u sliku odbijaju posve bezazlene promptove.

Dizajn je bitan. Tih 4,600 promptova napravljeno je da izgleda štetno, a da bude bezopasno — u obliku stvarnog profesionalnog zahtjeva koji spominje skalpel, modricu ili protest — a 1,785 stvarno štetnih promptova stoji uz njih kao kontrola, kako model ne bi mogao dobro proći tako što odbija sve. Devet kategorija ide od privatnosti pojedinaca i javnih ličnosti, preko autorskih prava, diskriminacije, samopovređivanja, seksualnog sadržaja i nezakonitih aktivnosti, do nasilja.

Glavni nalaz jeste da je pretjerano odbijanje rašireno kroz kategorije i kroz vodeće modele. Drugi je pogubniji za uobičajeno zaobilazno rješenje: autori su testirali prepisivanje prompta kao ublažavanje i navode da ono „često narušava vjernost značenju izvornih promptova”. Filter možete zaobići tako što promijenite ono što ste tražili, ali onda više nemate ono što ste tražili.

Uža studija dolazi do istog zaključka sa strane piksela. U radu An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann i Oliver, AI4VA radionica na ECCV 2024) autori ocjenjuju tri produkcijska NSFW klasifikatora na umjetničkoj golotinji i otkrivaju i rodnu i stilsku pristrasnost: presuda o studiji figure zavisi od toga čije je tijelo prikazano i u kojem stilu. To je izmjerena potvrda onoga za šta se svakom crtaču po živom modelu govorilo da umišlja.

04Osam vrsta legitimnog posla koje filtrirani generatori blokiraju

Ovo su kategorije u kojima pretjerano odbijanje nije neugodnost nego zastoj u radu. Gdje postoji konkretan prijavljen slučaj, on je naveden; gdje nijedan nije provjeren, kategorija je opisana bez izmišljanja incidenta.

1. Medicinska i anatomska ilustracija

Najbolje dokumentovan slučaj u oblasti. U aprilu 2023. The Intercept (Debbie Nathan) izvijestio je da je Midjourney zabranio anatomske termine, među njima speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom i IUD, dok je DALL·E 2 odbio „pills used in medication abortion” uz poruku o politici sadržaja. Obrazac je otkrila Julia Rockwell, analitičarka kliničkih podataka koja je pokušala generisati sliku placente kao poklon prijateljici stanično-biološkinji, i prijavila ga MIT Technology Review-u. Asimetrija je ono što odaje sistem: „stethoscope” se generisao normalno, dok je „speculum” bio zabranjen. Istraživač sa Univerziteta Washington Bill Howe filtere je nazvao „nespretnim” i rekao da su učinili „praktično nemogućim voditi naučnu raspravu o reprodukciji”. Edukacija pacijenata, hirurški atlasi i sestrinski nastavni planovi — svima njima treba tačno prikazano tijelo, uključujući dijelove koje je neka lista ključnih riječi proglasila nepristojnima.

2. Forenzička rekonstrukcija i rekonstrukcija nesreća

Rekonstrukcija sudara, analiza uzroka požara i sudski demonstrativni prikazi zahtijevaju prikazivanje oštećenja, rana i mehanike nasilja sa kliničkom tačnošću. Filter podešen da odbija „krv” ili „prostrelnu ranu” odbija cijelu disciplinu: kontekst — vještački nalaz, osiguravajući spis — klasifikatoru je nevidljiv, a upravo ona neutralnost koja takve slike čini prihvatljivim dokazom je ono zbog čega djeluju kao krvavi prizor.

3. Umjetnički aktovi i crtanje po živom modelu

Akt je temeljna tema umjetnosti svugdje, a studija figure je jezgro likovnog obrazovanja. Gore navedeni rezultat sa ECCV 2024 izmjerena je verzija onoga što umjetnici prijavljuju: klasifikatori ne razdvajaju pouzdano studiju figure od pornografije, a njihove greške pristrasne su po rodu i stilu — filter koji je najoštriji upravo prema tradiciji koju bi trebao prepoznati.

4. Historijski i ratni prizori

Umjetnost za udžbenike, muzejske interpretacije i memorijalni projekti zahtijevaju prikaz uniformi, oružja, logora, bitaka i zvjerstava. Epizoda sa Geminijem iz februara 2024. poučna je jer je otkazivanje išlo u suprotnom smjeru i napravilo jednaku štetu. Google je 22. februara 2024. pauzirao Geminijevu sposobnost generisanja slika ljudi nakon što je proizveo rasno prekomponovane prikaze historijskih grupa, uključujući njemačke vojnike iz nacističkog perioda. Izvršni direktor Sundar Pichai nazvao je izlaze „potpuno neprihvatljivim”; potpredsjednik Prabhakar Raghavan priznao je da je model „prekompenzovao” i postao „pretjerano konzervativan”. Sigurnost slijepa za kontekst nije učinila historijske prizore sigurnijim — učinila ih je lažnim, što je za izdavača historije gore.

5. Nasilje u fikciji i pripremna vizualizacija za film

Storyboardi, koncept-art, stripovi i dizajn igara prikazuju nasilje iz istog razloga iz kojeg to čine romani i filmovi. Filter koji ne razlikuje horor storyboard od prijetnje tretira cijeli lanac narativnih umjetnosti kao sumnjiv — iako je storyboard izričito nestvaran, plan za scenu koju će postaviti glumci i timovi za efekte.

6. Politička satira i uredničke karikature

Karikatura moćnih spada među najzaštićenije kategorije govora u većini demokratija, i redovno je prvo što filter za slike ukloni. Najjasniji dokumentovani slučaj je odluka Midjourneyja iz aprila 2023. da zabrani slike kineskog predsjednika Xi Jinpinga i blokira njegovo ime u promptovima — o čemu su izvijestili PetaPixel, Decrypt i drugi — dok je druge svjetske lidere i dalje dopuštao. Osnivač David Holz objasnio je na Discordu da kompanija želi „svesti dramu na minimum” i da je „mogućnost da ljudi u Kini koriste ovu tehnologiju važnija od vaše mogućnosti da pravite satiru”; Sarah McLaughlin iz Foundation for Individual Rights and Expression to je nazvala cenzurom. Šta god zaključili o poslovnom računu, mehanizam zaslužuje da bude imenovan: nacionalno ograničenje govora primijenjeno na svakog korisnika u svijetu, jer globalni filter ima samo jednu postavku.

7. Sigurnosna istraživanja i materijali za obuku o phishingu

Sigurnosni timovi prave materijale za obuku koji moraju izgledati kao ono na šta upozoravaju: uvjerljiv lažni ekran za prijavu, lažirana faktura, zlonamjerni QR kod na parking automatu. Klasifikatoru je to neodvojivo od napada protiv kojeg cijepi — vjerodostojnost je i poenta — pa filteri jednako blokiraju odbranu i napad, čime u prednost stavljaju napadača, koji ionako nikada nije ni namjeravao koristiti filtrirani potrošački alat.

8. Nosioci prava odbijeni za slike vlastitog brenda, proizvoda ili lika

Filtriranje autorskih prava i žigova ne provjerava vlasništvo; provjerava sličnost. Kompanija teško može generisati slike vlastitog logotipa ili proizvoda, nosilac prava ne može prikazati vlastiti lik, a ljudi često ne mogu generisati vlastito lice, jer filteri za likove reaguju na prepoznatljivost, a ne na pristanak. OVERT među svojih devet kategorija pretjeranog odbijanja uključuje „kršenja autorskih prava” upravo zato što je ova lažna uzbuna toliko česta. Filter je tup instrument za pitanje — imate li pravo na ovo? — koje nikako ne može postaviti.

Četiri od gornjih osam vezane su za konkretan objavljeni slučaj (medicina, umjetnički aktovi, historija, satira), uz OVERT-ovu kategoriju autorskih prava za osmu. Forenzika, pripremna vizualizacija za fikciju i materijali za sigurnosnu obuku navedeni su kao kategorije: to su dobro poznate klase pogođenog profesionalnog posla za koje nismo provjerili konkretan objavljeni incident.

05Zašto AI generatori umjetnosti blokiraju pogrešne stvari i zašto se lažne uzbune filtera sadržaja ne mogu podesiti da nestanu

Instinktivan odgovor na pretjerano blokiranje glasi „popustite prag”. Ne funkcioniše, i to iz strukturnih razloga, a ne zbog manjka truda.

Kategorije se preklapaju u signalu, ali ne i u stvarnosti. Hirurška ilustracija i pornografija dijele golotinju. Forenzička rekonstrukcija i krvavi prizor dijele krv. Slajd za obuku i phishing komplet dijele lažni obrazac za prijavu. Satirična karikatura i klevetnička izmišljotina dijele prepoznatljivog političara. Ono što razlikuje svaki par jesu svrha i način predstavljanja — kojih nema u promptu i nema u pikselima. Nijedan prag ne razdvaja dvije populacije koje zauzimaju isto područje ulaznog prostora; njegovo pomjeranje samo mijenja jednu grešku za drugu. To je i pokazala epizoda sa Geminijem: intervencija zamišljena da popravi jedno otkazivanje proizvela je drugo, koje je Googleov vlastiti potpredsjednik opisao kao „prekompenzovano”.

Troškovi su asimetrični za operatera, ne za vas. Filter koji propusti jednu lošu sliku proizvede vijest. Filter koji blokira deset hiljada legitimnih proizvede tišinu, jer se odbijeni korisnici ne organizuju — oni odustanu. Upravljanje rizikom uz tu asimetriju trajno konvergira ka pretjeranom blokiranju. A pošto je temeljna prosudba nemoguća, crne liste s vremenom gomilaju doslovne nizove kako se dešavaju incidenti, i tako dobijete da je „stethoscope” u redu, a „speculum” zabranjen. Niko nije odlučio da su instrumenti specifični za žensko tijelo opasniji; lista je rasla tamo gdje su stizale pritužbe. Ona kodira PR historiju operatera, a ne teoriju štete.

Najstroža jurisdikcija postaje globalno zadana. Jedan filter poslužuje svakog korisnika u svakoj zemlji, pa se ograničenje dodano zbog jednog tržišta izvozi na sva — pravilo o Xi Jinpingu je udžbenički primjer. I prepisivanje vašeg prompta uništava vaše značenje, što je i eksperimentalna poenta OVERT-a: svaki profesionalac koji je zahtjev provukao kroz eufemizam da ga progura pored filtera to je potvrdio vlastitom rukom. Niste pobijedili; nagodili ste se.

Ništa od ovoga nije besplatno, a pošto otkazuje tiho, trošak je nevidljiv u metrikama koje operater prati. Nakon dovoljno odbijanja prestanete pitati i unaprijed sužavate svaki prompt na ono za šta predviđate da će proći; eufemizam koji na kraju prođe daje sliku blisku onome što je vaš dokument trebao, ali ne i tu sliku. Generička poruka o pravilima ne kaže vam ništa o tome koji se nivo aktivirao, pa možete samo nagađati i pokušavati ponovo — a rad sa slikama je iterativan, pa filter koji uhvati jedan od pet pokušaja razbija tok umjesto da ga samo usporava. U međuvremenu oblasti sa najjačim pravom na ozbiljne alate nemaju recenzenta, nemaju žalbu i obično nemaju objavljenu listu onoga što je blokirano. Pravilo koje ne možete pročitati nije pravilo; ono je vremenska prilika.

06Necenzurirani vs filtrirani AI generator slika: šta se zaista mijenja

Evo poštene verzije poređenja, uključujući i ono što vam nefiltrirani sistem ne daje.

Dimenzija	Filtrirani generator	Nefiltrirani (Shannon)
Ko odlučuje	Klasifikator koji čita riječi i piksele	Čovjek koji čita tačan prompt
Kada saznate	Nakon slanja — ponekad nakon plaćanja	Prije nego što se išta renderira ili naplati
Šta je pravilo	Neobjavljene, promjenjive crne liste	Objavljena Politika odgovornog korištenja
Profesionalni kontekst	Nevidljiv sistemu	Vaš da ga imate i vaš da za njega odgovarate
Način otkazivanja	Tiho pretjerano blokiranje, odlutalo značenje	Dobijete ono što ste tražili — uključujući greške
Ko nosi rizik	Dobavljač, prebačeno na vaš rad	Dijeljeno: politika operatera plus odgovornost korisnika

Posljednji red je onaj koji ljudi preskoče, i onaj koji je bitan. Uklanjanje filtera ne uklanja kategorije štete iz odjeljka 02; uklanja mašinu koja je o njima loše nagađala. Obaveza ostaje gdje je i bila, ali je sada drže dvije strane koje mogu razmišljati o kontekstu: operater, koji objavljuje i provodi politiku, i vi, koji znate čemu slika služi. Nefiltrirano generisanje AI slika je alat za ljude koji su već spremni stati iza svog rezultata — hirurški atlas, vještački nalaz, storyboard, karikatura — a koje je zaustavljao sistem koji ih nije mogao razlikovati od nekog drugog.

07Šta Shannon radi — i šta ne radi

Preciznost je ovdje važnija od oduševljenja, naročito za čitaoce koji dolaze iz pretrage o API-ju.

Šta radi

• Generisanje. Opišite sliku običnim jezikom, na bilo kojem jeziku. Shannon sam napiše prompt za generisanje, na engleskom, na kojem god jeziku ste pitali.
• Uređivanje jedne slike. Tačno jedan izvor — slika koja je već u razgovoru ili priložena uz vašu trenutnu poruku — izmijenjena uputstvom koje kaže šta se mijenja, a šta ostaje. Izlaz automatski zadržava omjer stranica izvora.
• Spajanje dvije ili više slika. Prenošenje odjeće, predmet u scenu, osoba pored osobe, proizvod na osobi, subjekt iz jedne slike sa stilom druge. Prompt imenuje ulogu svake slike redom, i koriste se stvarne slike, pa se njihov stvarni izgled čuva umjesto da se ponovo opisuje.
• Kontrola omjera. square (zadano), portrait, landscape, wide i tall. Izričit zahtjev uvijek pobjeđuje.
• Renderiranje na našem vlastitom GPU klasteru, bez filtera sadržaja na putanji generisanja i bez sloja odbijanja na modelu koji piše prompt.

Šta ne radi

• Bez videa. Shannon ne animira slike i ne proizvodi video. Nije riječ o stavci na planu koja se stidljivo prešućuje — toga jednostavno nema.
• Nije na API-ju. Generisanje, uređivanje i spajanje slika žive u Shannon chat aplikaciji. /v1 API poslužuje tekst i vid — može čitati slike koje mu pošaljete — ali ih ne renderira.
• Bez nepozvanog generisanja. Pozdrav, pitanje ili usput priložena fotografija ne pokreću sliku. Tražiti od Shannona da pogleda sliku — da je opiše, pročita, analizira — običan je posao vida, a ne generisanje, i ne košta ništa dodatno.

Kartica potvrde

To je mehanizam koji zamjenjuje filter, i on je dizajnerski izbor, a ne formalnost. Kada Shannon utvrdi da tražite sliku, napiše prompt za generisanje i pokaže vam ga na kartici potvrde prije nego što se išta renderira. Ništa se ne generiše i ništa se ne naplaćuje dok ne potvrdite.

Uporedite ta dva dizajna po njihovoj vrijednosti. Filter nagađa vašu namjeru s manje informacija nego što ih imate vi, i to nagađanje provodi u tišini. Kartica potvrde stavlja doslovnu specifikaciju slike pred stranu koja zna čemu ona služi, prije nego što se potroši ijedan ciklus računanja. Hvata pogrešna čitanja vašeg zahtjeva, što filteri nikada ne rade; omogućava vam da dodate anatomsku preciznost ili historijski detalj koji je model nedovoljno odredio; i čini odgovornost čitljivom umjesto rasplinutom. Vidjeli ste prompt i pritisnuli dugme.

08Nefiltrirano generisanje podiže odgovornost, ne ukida je

Ovo pripada ovdje, a ne u podnožje, jer je polovina argumenta. Filtrirani generator daje obećanje koje ne može održati: da će alat spriječiti zloupotrebu umjesto vas. Otkazuje u oba smjera — blokira hirurga, a ne zaustavlja odlučnog zlonamjernika, koji ima druge opcije i oduvijek ih je imao. Ono što pouzdano čini jeste da svima pusti osjećaj da je odgovornost riješena uzvodno, mašinski. Uklanjanje filtera uklanja tu fikciju; pitanje treba li neka slika postojati vraća se ljudima koji na njega mogu odgovoriti.

• Obaveza Shannon Lab LLC-a. Objavljena, konkretna Politika odgovornog korištenja koja imenuje zabranjene kategorije, umjesto neobjavljene crne liste — pravila koja možete pročitati, citirati i po kojima nas možete držati.
• Vaša obaveza. Vi znate svrhu, publiku, jurisdikciju i status pristanka svih prikazanih. Alat to ne zna, a klasifikator to nikada ne bi ni mogao. Kartica potvrde postoji da bi se to znanje primijenilo u trenutku kada je bitno, i to od strane koja ga ima.
• Granica koja se ne pomjera. „Filter me nije zaustavio” nikada nije bila odbrana ni u jednom mediju. Kamera ne odbija, olovka ne odbija; zakon i profesionalna etika uređuju upotrebu, a ne instrument. Nefiltrirani generator vraća uobičajeni poredak pod kojim radi svaki drugi profesionalni alat.

Pročitajte Politiku odgovornog korištenja prije nego što počnete. Kratka je, konkretna, i dio je ovog proizvoda koji sve ostalo čini branjivim.

09Često postavljana pitanja

---

Izvori: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. aprila 2023. · PetaPixel, 3. aprila 2023. · CNBC, 22. februara 2024.. Shannon AI vodi Shannon Lab LLC, New Mexico, SAD.