Bez cenzure naspram filtriranog AI generatora slika

Skoro svi koji profesionalno rade sa slikama imaju istu priču. Upit koji opisuje nešto sasvim obično — presek kolena, automobil u trenutku sudara, studiju figure u uglju, vojnika 1944. godine — vraća se kao kršenje pravila. Preformulišete ga i dobijete drugačije kršenje. Na kraju napišete nešto dovoljno neodređeno da prođe i dobijete sliku koja više ne prikazuje ono što vam je trebalo. Alat nije otkazao glasno; otkazao je postepeno i vas učinio onim koji je popustio.

01Zašto AI generator slika odbija upit koji je očigledno legitiman?

Odbijanje obično nije mišljenje modela za slike. To je izlaz sloja za filtriranje oko modela, a njegovi nivoi objašnjavaju gotovo svako čudno odbijanje koje ste dobili.

Nivo	Šta pregleda	Karakteristično otkazivanje
Lista zabranjenih reči	Doslovne nizove i bliske varijante u vašem tekstu	Blokira reč bez obzira na rečenicu oko nje — „spekulum” pada, „stetoskop” prolazi
Klasifikator upita	Naučenu procenu „rizika” upita	Okida na tematsku blizinu: sve blizu medicine, oružja, tela ili politike dobija visok rezultat
Obuka modela za odbijanje	Sopstvenu izvežbanu uzdržanost modela	Odbija bez greške ili tiho proizvodi ublaženu zamenu
Klasifikator izlaza	Iscrtane piksele, bez konteksta upita	Ne razlikuje anatomsku tablu od pornografije, ni filmski kadar od stvarnog događaja
Zamena po politici	Tiho prepisivanje vašeg upita pre iscrtavanja	Dobijate sliku, ali ne onu koju ste naveli, i ne kažu vam zašto

Svaki nivo deli istu slepu mrlju: nijedan ne vidi zašto pitate. Medicinski ilustrator, veštak tužilačke strane koji rekonstruiše sudar i neko sa lošim namerama otkucaju istu imenicu. Filter vidi imenicu, a ne atlas ni spis predmeta, i ocenjuje ga se po štetama koje propusti — nikada po poslu koji uništi. Pod tom asimetrijom razumno podešavanje za svakog operatera jeste odbijaj više. To je i razlog zašto „samo preformuliši” nije rešenje: preformulisanje filteru ne daje nikakav podatak koji mu je nedostajao, samo pomera vaš upit dalje od reči koje su ga aktivirale, što obično znači dalje od onoga što ste mislili.

02Šta filteri sadržaja zaista treba da spreče

Argument za nefiltrirano generisanje koji se pretvara da filteri postoje bez razloga ne vredi čitati. Postoji uzak skup izlaza čija je šteta svojstvena samoj slici, bez obzira na to ko je tražio i zašto:

• Seksualni sadržaj koji uključuje maloletnike. Nijedan kontekst ga ne čini prihvatljivim; nijedan profesionalni tok rada ga ne zahteva.
• Intimne slike stvarnih ljudi bez njihovog pristanka. Šteta pogađa nekoga ko nije pristao, a uklanjanje je ne poništava.
• Ciljano uznemiravanje i klevetničko izmišljanje — prikazivanje imenovane osobe kao da je uradila nešto što nije.
• Dokumenta na nivou falsifikata — pasoši, lične karte, novčanice, pečati i finansijski instrumenti napravljeni da prođu kao pravi.
• Obmanjujući sintetički dokazi — izmišljene slike stvarnih događaja predstavljene kao dokumentacija, a ne kao ilustracija.

Lista je kratka i ima strukturu: šteta živi u samom predmetu, u njegovoj sličnosti sa stvarnom osobom ili dokumentom i u tome što se predstavlja kao istina. Primetite šta nije na njoj — golotinja, krv, oružje, istorijska zverstva, politička poruga. To je sirovina medicine, novinarstva, umetnosti, forenzike i satire, a filter koji ih tretira kao kategorije štete sprovodi mnogo širu ideju o tome koje su teme pristojne.

Shannon zabranjuje sve sa te liste, kroz objavljenu Politiku odgovorne upotrebe sa imenovanim kategorijama i posledicama, a ne kroz tabelu ključnih reči koja usput hvata i „placentu”. Jedno je pravilo koje možete pročitati i po kojem nas možete držati; drugo je nagađanje o vašim namerama od strane klasifikatora koji ne vidite.

03Koliko je veliki problem preteranog odbijanja? Šta istraživanje meri

Donedavno je preterano odbijanje kod modela za slike bilo anegdota — hiljade ljudi sa istom pričom i bez načina da se izmeri. To se promenilo sa OVERT-om (OVEr-Refusal evaluation on Text-to-image models), predstavljenim na ICML 2025 od strane grupe sa UC Berkeley koju čine Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song i Song Mei: prvo veliko merenje toga koliko često sistemi za pretvaranje teksta u sliku odbijaju potpuno bezopasne upite.

Zamisao je bitna. Tih 4.600 upita napravljeno je tako da deluje štetno, a da bude bezopasno — u obliku stvarnog profesionalnog zahteva koji pominje skalpel, modricu ili protest — a 1.785 zaista štetnih upita stoji pored njih kao kontrola, pa model ne može dobro da prođe tako što sve odbija. Devet kategorija ide od privatnosti pojedinaca i javnih ličnosti, preko autorskih prava, diskriminacije, samopovređivanja, seksualnog sadržaja i nezakonitih radnji, do nasilja.

Glavni nalaz je da je preterano odbijanje rašireno kroz kategorije i kroz vodeće modele. Drugi je pogubniji po uobičajeno zaobilazno rešenje: autori su ispitali prepisivanje upita kao ublažavanje i navode da ono „često narušava vernost značenju izvornih upita”. Možete proći filter tako što ćete promeniti ono što ste tražili, a onda više nemate ono što ste tražili.

Uža studija dolazi do istog zaključka sa strane piksela. U radu An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann i Oliver, radionica AI4VA na ECCV 2024) autori ocenjuju tri produkciona NSFW klasifikatora na umetničkoj golotinji i otkrivaju i rodnu pristrasnost i stilsku pristrasnost: presuda o studiji figure zavisi od toga čije je telo prikazano i u kom stilu. To je izmerena tvrdnja o onome za šta se svakom crtaču po modelu govorilo da umišlja.

04Osam vrsta legitimnog posla koje filtrirani generatori blokiraju

Ovo su kategorije u kojima preterano odbijanje nije nezgoda nego zaustavljanje posla. Gde postoji konkretan prijavljen slučaj, on je naveden; gde nijedan nije proveren, kategorija je opisana bez izmišljanja incidenta.

1. Medicinska i anatomska ilustracija

Najbolje dokumentovan slučaj u oblasti. U aprilu 2023. The Intercept (Debbie Nathan) objavio je da je Midjourney zabranio anatomske termine uključujući spekulum, placentu, grlić materice, vulvu, jajovode, mlečne žlezde, materične, uretru, himen, spermu, kondom i spiralu, dok je DALL·E 2 odbio „pilule koje se koriste u medikamentoznom prekidu trudnoće” uz poruku o pravilima sadržaja. Obrazac je otkrila Julia Rockwell, klinička analitičarka podataka koja je pokušala da generiše sliku placente kao poklon prijateljici ćelijskoj biološkinji, i prijavila ga MIT Technology Review-u. Asimetrija je dokaz: „stetoskop” se generisao normalno dok je „spekulum” bio zabranjen. Istraživač Univerziteta u Vašingtonu Bill Howe nazvao je filtere „nespretnim” i rekao da su učinili „u suštini nemogućim vođenje naučne rasprave o reprodukciji”. Edukaciji pacijenata, hirurškim atlasima i sestrinskim programima podjednako trebaju tačno prikazana tela, uključujući i delove za koje je lista ključnih reči odlučila da su nepristojni.

2. Forenzička rekonstrukcija i rekonstrukcija nesreća

Rekonstrukcija sudara, analiza uzroka požara i sudski demonstrativni prilozi zahtevaju klinički tačno prikazivanje oštećenja, povreda i nasilne mehanike. Filter podešen da odbija „krv” ili „prostrelnu ranu” odbija celu struku: kontekst — nalaz veštaka, osiguravajući spis — klasifikatoru je nevidljiv, a upravo ona neutralnost zbog koje su takve slike prihvatljive kao dokaz čini da izgledaju kao krvavi prizor.

3. Umetnički aktovi i crtanje po modelu

Akt je temeljna tema umetnosti svuda, a studija figure je srž likovnog obrazovanja. Gornji rezultat sa ECCV 2024 je izmerena verzija onoga što umetnici prijavljuju: klasifikatori pouzdano ne razdvajaju studiju figure od pornografije, a njihove greške pristrasne su po polu i stilu — filter najstroži baš prema tradiciji koju bi trebalo da prepozna.

4. Istorijske i ratne slike

Ilustracije u udžbenicima, muzejska tumačenja i memorijalni projekti zahtevaju prikaz uniformi, oružja, logora, bitaka i zverstava. Epizoda sa Gemini-jem iz februara 2024. poučna je jer je otkazivanje išlo u suprotnom smeru i napravilo jednaku štetu. Google je 22. februara 2024. pauzirao Gemini-jevu mogućnost generisanja slika ljudi pošto je proizveo rasno prekomponovane prikaze istorijskih grupa, uključujući nemačke vojnike iz nacističkog perioda. Izvršni direktor Sundar Pichai nazvao je izlaze „potpuno neprihvatljivim”; potpredsednik Prabhakar Raghavan priznao je da je model „prekompenzovao” i postao „preterano konzervativan”. Bezbednost slepa za kontekst nije učinila istorijske slike bezbednijim — učinila ih je lažnim, što je za izdavača istorijskih knjiga gore.

5. Nasilje u fikciji i pripremna vizualizacija filma

Storibordi, konceptualna umetnost, stripovi i dizajn igara prikazuju nasilje iz istog razloga iz kojeg to čine romani i filmovi. Filter koji ne razlikuje horor storibord od pretnje tretira ceo tok narativnih umetnosti kao sumnjiv — iako je storibord izričito nestvaran, plan za scenu koju će glumci i timovi za efekte tek postaviti.

6. Politička satira i novinska karikatura

Karikatura moćnih spada među najzaštićenije kategorije izražavanja u većini demokratija, a redovno je prva stvar koju filter za slike ukloni. Najjasniji dokumentovan slučaj je odluka Midjourney-ja iz aprila 2023. da zabrani slike kineskog predsednika Si Đinpinga i blokira njegovo ime u upitima — o čemu su izvestili PetaPixel, Decrypt i drugi — uz nastavak dozvole za druge svetske lidere. Osnivač David Holz objasnio je na Discord-u da kompanija želi da „svede dramu na najmanju meru” i da je „mogućnost ljudi u Kini da koriste ovu tehnologiju važnija od vaše mogućnosti da pravite satiru”; Sarah McLaughlin iz Foundation for Individual Rights and Expression nazvala je to cenzurom. Šta god zaključili o poslovnom računu, mehanizam zaslužuje da bude imenovan: nacionalno ograničenje govora primenjeno na svakog korisnika na svetu, jer globalni filter ima samo jedno podešavanje.

7. Bezbednosna istraživanja i materijal za obuku o fišingu

Bezbednosni timovi prave materijal za obuku koji mora da izgleda kao ono na šta upozorava: uverljiv lažni ekran za prijavu, podmetnuta faktura, zlonamerni QR kôd na parkirnom automatu. Klasifikatoru je to nerazlučivo od napada protiv kojeg imunizuje — verodostojnost i jeste poenta — pa filteri jednako blokiraju odbranu i napad, u korist napadača, koji ionako nikada nije nameravao da koristi filtrirani potrošački alat.

8. Nosioci prava kojima se odbijaju slike sopstvenog brenda, proizvoda ili lika

Filtriranje autorskih prava i žigova ne proverava vlasništvo; proverava sličnost. Kompanija teško može da generiše sliku sopstvenog logotipa ili proizvoda, nosilac prava ne može da prikaže sopstvenog junaka, a ljudi često ne mogu da generišu sopstveno lice, jer se filteri za lik oslanjaju na prepoznatljivost, a ne na pristanak. OVERT uključuje „kršenja autorskih prava” među svojih devet kategorija preteranog odbijanja upravo zato što je ovaj lažno pozitivan slučaj toliko čest. Filter je tupo oruđe za pitanje — imate li pravo na ovo? — koje nikako ne može da postavi.

Četiri od gornjih osam vezane su za konkretan objavljen slučaj (medicina, umetnički aktovi, istorija, satira), uz OVERT-ovu kategoriju autorskih prava za osmu. Forenzika, pripremna vizualizacija fikcije i materijal za bezbednosnu obuku navedeni su kao kategorije: to su dobro poznate klase pogođenog profesionalnog posla za koje nismo proverili konkretan objavljen incident.

05Zašto AI generatori umetnosti blokiraju pogrešne stvari i zašto se lažno pozitivni rezultati filtera ne mogu podesiti da nestanu

Nagonski odgovor na preterano blokiranje glasi „olabavite prag”. Ne funkcioniše, iz strukturnih razloga, a ne zbog manjka truda.

Kategorije se preklapaju u signalu, ali ne u stvarnosti. Hirurška ilustracija i pornografija dele golotinju. Forenzička rekonstrukcija i krvavi prizor dele krv. Slajd za obuku i fišing komplet dele lažni obrazac za prijavu. Satirična karikatura i klevetnička izmišljotina dele prepoznatljivog političara. Ono što razdvaja svaki par jesu svrha i način predstavljanja — kojih nema ni u upitu ni u pikselima. Nijedan prag ne razdvaja dve populacije koje zauzimaju istu oblast ulaznog prostora; pomeranje praga samo menja jednu grešku za drugu. To je i pokazala epizoda sa Gemini-jem: zahvat namenjen ispravljanju jednog otkazivanja proizveo je drugo, koje je Google-ov sopstveni potpredsednik opisao kao „prekompenzovano”.

Troškovi su asimetrični za operatera, ne za vas. Filter koji propusti jednu lošu sliku proizvodi vest. Filter koji blokira deset hiljada legitimnih proizvodi tišinu, jer se odbijeni korisnici ne organizuju — oni odustanu. Upravljanje rizikom pod tom asimetrijom trajno se svodi na preterano blokiranje. A pošto je osnovna procena nemoguća, liste zabrana nakupljaju doslovne nizove kako incidenti nastaju, i tako dobijate da je „stetoskop” u redu, a „spekulum” zabranjen. Niko nije odlučio da su ženski instrumenti opasniji; lista je rasla tamo gde su stizale pritužbe. Ona beleži istoriju odnosa s javnošću jednog operatera, a ne teoriju štete.

Najstroža jurisdikcija postaje globalno podrazumevano stanje. Jedan filter opslužuje svakog korisnika u svakoj zemlji, pa se ograničenje dodato zbog jednog tržišta izvozi na sva — pravilo o Si Đinpingu je udžbenički primer. A prepisivanje vašeg upita uništava vaše značenje, što je i eksperimentalna poenta OVERT-a: svaki profesionalac koji je zahtev pretočio u eufemizam da bi prošao filter potvrdio je to ručno. Niste pobedili; nagodili ste se.

Ništa od ovoga nije besplatno, a pošto otkazuje tiho, trošak je nevidljiv u merilima koja operater prati. Posle dovoljno odbijanja prestanete da pitate i unapred sužavate svaki upit na ono za šta predviđate da će proći; eufemizam koji konačno prođe daje sliku blisku onome što je vašem dokumentu trebalo, ali ne i tu sliku. Uopštena poruka o pravilima ne kaže vam koji je nivo okinuo, pa možete samo da nagađate i pokušavate ponovo — a rad sa slikama je iterativan, pa filter koji hvata jedan pokušaj od pet remeti petlju, a ne samo usporava. U međuvremenu oblasti sa najjačim pravom na ozbiljne alate nemaju recenzenta, nemaju žalbu i obično nemaju objavljenu listu onoga što je blokirano. Pravilo koje ne možete pročitati nije pravilo; to je vreme.

06Bez cenzure naspram filtriranog AI generatora slika: šta se zaista menja

Evo poštene verzije poređenja, uključujući i ono što vam nefiltriran sistem ne daje.

Dimenzija	Filtriran generator	Nefiltriran (Shannon)
Ko odlučuje	Klasifikator koji čita reči i piksele	Čovek koji čita tačan upit
Kada saznate	Pošto pošaljete — ponekad pošto platite	Pre nego što se išta iscrta ili naplati
Šta je pravilo	Neobjavljene, promenljive liste zabrana	Objavljena Politika odgovorne upotrebe
Profesionalni kontekst	Nevidljiv sistemu	Vaš da ga držite i za njega odgovarate
Način otkazivanja	Tiho preterano blokiranje, odlutalo značenje	Dobijate ono što ste tražili — uključujući greške
Ko nosi rizik	Dobavljač, prebačeno na vaš rad	Zajednički: politika operatera plus odgovornost korisnika

Poslednji red je onaj koji ljudi preskaču, a koji je bitan. Uklanjanje filtera ne uklanja kategorije štete iz odeljka 02; uklanja mašinu koja je o njima loše nagađala. Obaveza ostaje gde je i bila, a sada je drže dve strane koje mogu da rasuđuju o kontekstu: operater, koji objavljuje i sprovodi politiku, i vi, koji znate čemu slika služi. Nefiltrirano generisanje slika jeste alat za ljude koji su već spremni da stanu iza svog izlaza — hirurški atlas, nalaz veštaka, storibord, karikatura — a koje je zaustavljao sistem koji ih nije razlikovao od nekog drugog.

07Šta Shannon radi — i šta ne radi

Preciznost je ovde važnija od oduševljenja, naročito za čitaoce koji dolaze iz pretrage o API-ju.

Šta radi

• Generisanje. Opišete sliku običnim jezikom, na bilo kom jeziku. Shannon sam piše upit za generisanje, na engleskom, bez obzira na jezik na kojem ste pitali.
• Uređivanje jedne slike. Tačno jedan izvor — slika koja je već u razgovoru ili priložena uz tekuću poruku — izmenjen uputstvom koje kaže šta se menja, a šta ostaje. Izlaz automatski zadržava odnos stranica izvora.
• Spajanje dve ili više slika. Prenos odeće, predmet u scenu, osoba pored osobe, proizvod na osobi, motiv sa jedne slike sa stilom druge. Upit imenuje ulogu svake slike redom, a koriste se stvarne slike, pa se njihov pravi izgled čuva umesto da se ponovo opisuje.
• Kontrola odnosa. square (podrazumevano), portrait, landscape, wide i tall. Izričit zahtev uvek pobeđuje.
• Iscrtavanje na našem sopstvenom GPU klasteru, bez filtera sadržaja na putanji generisanja i bez sloja odbijanja na modelu koji piše upit.

Šta ne radi

• Nema videa. Shannon ne animira slike i ne proizvodi video. Nije stavka na planu koja se stidljivo prećutkuje — ne postoji.
• Nije na API-ju. Generisanje, uređivanje i spajanje slika žive u Shannon aplikaciji za ćaskanje. /v1 API služi za tekst i vizuelni ulaz — može da čita slike koje mu pošaljete — ali ih ne iscrtava.
• Nema nepozvanog generisanja. Pozdrav, pitanje ili uzgred priložena fotografija ne pokreću sliku. Tražiti od Shannon-a da pogleda sliku — opiše je, pročita, analizira — običan je vizuelni posao, a ne generisanje, i ne košta ništa dodatno.

Kartica potvrde

To je mehanizam koji zamenjuje filter i on je odluka u dizajnu, a ne formalnost. Kada Shannon utvrdi da tražite sliku, napiše upit za generisanje i pokaže vam ga na kartici potvrde pre nego što se išta iscrta. Ništa se ne generiše i ništa se ne naplaćuje dok ne potvrdite.

Uporedite ta dva rešenja po zaslugama. Filter nagađa vašu nameru sa manje podataka nego što ih vi imate i tiho sprovodi to nagađanje. Kartica potvrde stavlja doslovnu specifikaciju slike pred onoga ko zna čemu ona služi, pre nego što se potroši ijedan računski ciklus. Hvata pogrešna čitanja vašeg zahteva, što filteri nikada ne rade; omogućava vam da dodate anatomsku preciznost ili istorijski detalj koji je model nedovoljno odredio; i čini odgovornost čitljivom umesto razlivenom. Videli ste upit i pritisnuli dugme.

08Nefiltrirano generisanje podiže odgovornost, ne ukida je

Ovo pripada ovde, a ne u podnožje, jer je polovina argumenta. Filtriran generator daje obećanje koje ne može da ispuni: da će alat sprečiti zloupotrebu umesto vas. Otkazuje u oba smera — blokira hirurga, a ne zaustavlja odlučnog zlonamernika, koji ima druge opcije i oduvek ih je imao. Ono što pouzdano čini jeste da svima dopušta osećaj da je odgovornost rešena uzvodno, mašinski. Uklanjanje filtera uklanja tu fikciju; pitanje da li slika treba da postoji vraća se ljudima koji na njega mogu da odgovore.

• Obaveza Shannon Lab LLC-a. Objavljena, konkretna Politika odgovorne upotrebe sa imenovanim zabranjenim kategorijama umesto neobjavljene liste zabrana — pravila koja možete pročitati, citirati i po kojima nas možete držati.
• Vaša obaveza. Vi znate svrhu, publiku, jurisdikciju i status pristanka svih prikazanih. Alat to ne zna, a klasifikator to nikada nije ni mogao. Kartica potvrde postoji da bi se to znanje primenilo u trenutku kada je bitno, od strane one strane koja ga ima.
• Granica koja se ne pomera. „Filter me nije zaustavio” nikada nije bila odbrana ni u jednom mediju. Fotoaparat ne odbija, olovka ne odbija; zakon i profesionalna etika uređuju upotrebu, a ne instrument. Nefiltriran generator vraća uobičajeni poredak po kojem posluje svaki drugi profesionalni alat.

Pročitajte Politiku odgovorne upotrebe pre nego što počnete. Kratka je, konkretna i deo je ovog proizvoda koji sve ostalo čini odbranjivim.

09Često postavljana pitanja

---

Izvori: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. april 2023. · PetaPixel, 3. april 2023. · CNBC, 22. februar 2024.. Shannon AI posluje pod Shannon Lab LLC, Nju Meksiko, SAD.