Necenzurovaný vs. filtrovaný AI generátor obrázkov

Takmer každý, kto profesionálne pracuje s obrazom, má rovnakú historku. Prompt opisujúci niečo úplne bežné — priečny rez kolenným kĺbom, auto v okamihu nárazu, štúdia postavy uhlíkom, vojak v roku 1944 — sa vráti ako porušenie pravidiel. Preformulujete to a dostanete iné porušenie. Nakoniec napíšete niečo dosť vágne na to, aby to prešlo, a dostanete obrázok, ktorý už neukazuje to, čo ste potrebovali. Nástroj nezlyhal nahlas; zlyhával postupne a spravil z vás toho, kto ustúpil.

01Prečo AI generátor obrázkov odmietne prompt, ktorý je zjavne legitímny?

Odmietnutie zvyčajne nie je názor obrazového modelu. Je to výstup filtrovacieho zásobníka okolo modelu a jeho vrstvy vysvetľujú takmer každé zvláštne odmietnutie, ktoré ste dostali.

Vrstva	Čo kontroluje	Typické zlyhanie
Zoznam zakázaných slov	Doslovné reťazce a blízke varianty vo vašom texte	Blokuje slovo bez ohľadu na vetu okolo neho — „spekulum“ neprejde, „stetoskop“ prejde
Klasifikátor promptu	Naučený odhad „rizikovosti“ promptu	Spúšťa sa podľa tematickej blízkosti: čokoľvek blízke medicíne, zbraniam, telám či politike má vysoké skóre
Tréning modelu na odmietanie	Vlastná natrénovaná zdržanlivosť modelu	Odmietne bez chybovej hlášky alebo potichu vytvorí sterilnú náhradu
Klasifikátor výstupu	Vykreslené pixely, bez kontextu promptu	Nerozozná anatomickú tabuľu od pornografie ani filmový záber od reálnej udalosti
Nahradenie podľa pravidiel	Tiché prepísanie vášho promptu pred vykreslením	Obrázok dostanete, ale nie ten, ktorý ste zadali, a nikto vám nepovie prečo

Všetky vrstvy majú jedno spoločné slepé miesto: ani jedna nevidí, prečo sa pýtate. Medicínsky ilustrátor, znalec rekonštruujúci zrážku aj človek so zlým úmyslom napíšu to isté podstatné meno. Filter vidí podstatné meno, nie atlas či spis, a hodnotí sa podľa škôd, ktoré prepustí — nikdy podľa práce, ktorú zničí. Pri takejto asymetrii je racionálnym nastavením pre každého prevádzkovateľa odmietaj viac. Preto ani „len to preformulujte“ nie je riešenie: preformulovanie nedá filtru žiadnu informáciu, ktorá mu chýbala, iba odsunie váš prompt od slov, ktoré ho spustili, čo obvykle znamená aj od toho, čo ste mysleli.

02Čomu majú filtre obsahu naozaj brániť

Argument pre generovanie bez filtrov, ktorý predstiera, že filtre existujú bezdôvodne, nestojí za čítanie. Existuje úzka množina výstupov, ktorých škodlivosť je vlastná samotnému obrázku, bez ohľadu na to, kto oň požiadal a prečo:

• Sexuálny obsah s maloletými. Žiadny kontext ho nerobí prijateľným; žiadny odborný postup ho nevyžaduje.
• Intímne zábery reálnych osôb bez ich súhlasu. Škoda dopadne na niekoho, kto nesúhlasil, a stiahnutie ju neodčiní.
• Cielené obťažovanie a ohováračské výmysly — vytváranie zdania, že konkrétny človek urobil niečo, čo neurobil.
• Dokumenty na úrovni falzifikátu — pasy, občianske preukazy, bankovky, pečate a finančné nástroje vyrobené tak, aby prešli ako pravé.
• Klamlivé syntetické dôkazy — vymyslené zábery reálnych udalostí predkladané ako dokumentácia, nie ako ilustrácia.

Zoznam je krátky a má štruktúru: škoda žije v samotnom artefakte, v jeho podobnosti s reálnou osobou alebo dokumentom a v tom, že sa predkladá ako pravda. Všimnite si, čo na ňom nie je — nahota, krv, zbrane, historické zverstvá, politický posmech. To je surovina medicíny, žurnalistiky, umenia, forenznej analýzy a satiry a filter, ktorý ich považuje za kategórie škody, presadzuje oveľa širšiu predstavu o tom, ktoré témy sú slušné.

Shannon zakazuje všetko z toho zoznamu v zverejnených Pravidlách zodpovedného používania s pomenovanými kategóriami a dôsledkami, nie v tabuľke kľúčových slov, ktorá zachytí aj „placentu“. Jedno je pravidlo, ktoré si môžete prečítať a vymáhať od nás; druhé je odhad vašich úmyslov klasifikátorom, ktorý nevidíte.

03Aký veľký je problém nadmerného odmietania? Čo meria výskum

Donedávna bolo nadmerné odmietanie pri obrazových modeloch iba anekdotou — tisíce ľudí s rovnakou historkou a žiadny spôsob, ako to zmerať. To sa zmenilo s benchmarkom OVERT (OVEr-Refusal evaluation on Text-to-image models), predstaveným na ICML 2025 skupinou z UC Berkeley v zložení Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song a Song Mei: prvým rozsiahlym meraním toho, ako často systémy text na obrázok odmietajú úplne neškodné prompty.

Na návrhu záleží. Tých 4,600 promptov je zostavených tak, aby vyzerali škodlivo, hoci škodlivé nie sú — majú tvar reálnej odbornej požiadavky spomínajúcej skalpel, modrinu či protest — a 1,785 naozaj škodlivých promptov stojí vedľa nich ako kontrola, aby model nemohol získať dobré skóre tým, že odmietne všetko. Deviatka kategórií siaha od súkromia jednotlivcov a verejných osôb cez autorské práva, diskrimináciu, sebapoškodzovanie, sexuálny obsah a nezákonnú činnosť až po násilie.

Hlavným zistením je, že nadmerné odmietanie je rozšírené naprieč kategóriami aj naprieč vedúcimi modelmi. Druhé zistenie je ešte ničivejšie pre bežné obchádzanie: autori otestovali prepisovanie promptu ako opatrenie a uvádzajú, že „často narúša vernosť významu pôvodných promptov“. Filter prejdete tým, že zmeníte, o čo ste žiadali — a potom už nemáte to, o čo ste žiadali.

K rovnakému záveru dochádza aj užšia štúdia zo strany pixelov. V práci An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann a Oliver, workshop AI4VA na ECCV 2024) autori hodnotia tri produkčné NSFW klasifikátory na umeleckej nahote a odhaľujú rodovú zaujatosť aj štýlovú zaujatosť: verdikt nad štúdiou postavy závisí od toho, čie telo je zobrazené a v akom štýle. To je zmeraná verzia niečoho, o čom každému kresliarovi podľa modelu tvrdili, že si to vymýšľa.

04Osem druhov legitímnej práce, ktoré filtrované generátory blokujú

Toto sú kategórie, kde nadmerné odmietanie nie je nepohodlie, ale zastavenie práce. Kde existuje konkrétny zdokumentovaný prípad, je citovaný; kde sa žiadny nepodarilo overiť, je kategória opísaná bez vymýšľania incidentu.

1. Medicínska a anatomická ilustrácia

Najlepšie zdokumentovaný prípad v obore. V apríli 2023 The Intercept (Debbie Nathan) informoval, že Midjourney zakázal anatomické pojmy vrátane slov spekulum, placenta, krčok maternice, vulva, vajcovody, mliečne žľazy, maternicový, močová rúra, panenská blana, spermie, kondóm a vnútromaternicové teliesko, zatiaľ čo DALL·E 2 odmietol „tabletky používané pri medikamentóznom potrate“ s hláškou o porušení pravidiel obsahu. Vzorec odhalila Julia Rockwell, klinická dátová analytička, ktorá sa pokúšala vygenerovať obrázok placenty ako darček pre priateľku bunkovú biologičku, a nahlásila ho magazínu MIT Technology Review. Prezrádza to asymetria: „stetoskop“ sa generoval normálne, kým „spekulum“ bolo zakázané. Výskumník z University of Washington Bill Howe označil filtre za „nemotorné“ a povedal, že robia „v podstate nemožnou vedeckú diskusiu o reprodukcii“. Vzdelávanie pacientov, chirurgické atlasy aj študijné programy ošetrovateľstva potrebujú presne zobrazené telá vrátane častí, o ktorých zoznam kľúčových slov rozhodol, že sú neslušné.

2. Forenzná rekonštrukcia a rekonštrukcia nehôd

Rekonštrukcia zrážok, analýza ohniska požiaru a súdne demonštračné materiály si vyžadujú klinicky presné zobrazenie poškodenia, zranení a mechaniky násilia. Filter nastavený na odmietanie „krvi“ alebo „strelného poranenia“ odmieta celý odbor: kontext — znalecký posudok, poistný spis — je pre klasifikátor neviditeľný a práve tá neutralita, vďaka ktorej sú takéto zábery prípustné, spôsobuje, že pôsobia ako brutalita.

3. Umelecké akty a kreslenie podľa modelu

Akt je základnou témou umenia všade a štúdia postavy je jadrom umeleckého vzdelávania. Výsledok z ECCV 2024 uvedený vyššie je zmeranou verziou toho, čo umelci hlásia: klasifikátory spoľahlivo neoddelia štúdiu postavy od pornografie a ich chyby sú skreslené rodom a štýlom — filter je najprísnejší práve k tradícii, ktorú by mal rozpoznať.

4. Historické a vojnové obrazy

Učebnicové ilustrácie, múzejná interpretácia a pamätníkové projekty si vyžadujú zobrazenie uniforiem, zbraní, táborov, bitiek a zverstiev. Epizóda s Gemini z februára 2024 je poučná, pretože zlyhanie prebehlo opačným smerom a napáchalo rovnakú škodu. Google pozastavil schopnosť Gemini generovať obrázky ľudí 22. februára 2024 po tom, ako vytvoril rasovo prekomponované zobrazenia historických skupín vrátane nemeckých vojakov z nacistickej éry. Generálny riaditeľ Sundar Pichai označil výstupy za „úplne neprijateľné“; senior viceprezident Prabhakar Raghavan pripustil, že model „nadmerne kompenzoval“ a stal sa „príliš konzervatívnym“. Bezpečnosť slepá voči kontextu nespravila historické obrazy bezpečnejšími — spravila ich nepravdivými, čo je pre vydavateľa historickej literatúry horšie.

5. Násilie vo fikcii a predvizualizácia filmu

Storyboardy, koncepčné výtvarníctvo, komiksy a herný dizajn zobrazujú násilie z rovnakého dôvodu ako romány a filmy. Filter, ktorý nerozozná hororový storyboard od vyhrážky, považuje celú výrobnú linku naratívnych umení za podozrivú — hoci storyboard je výslovne nereálny, je to plán scény, ktorú herci a tímy efektov len postavia.

6. Politická satira a redakčná karikatúra

Karikatúra mocných patrí vo väčšine demokracií medzi najchránenejšie kategórie prejavu a rutinne je prvým, čo obrazový filter odstráni. Najjasnejším zdokumentovaným prípadom je rozhodnutie Midjourney z apríla 2023 zakázať obrázky čínskeho prezidenta Si Ťin-pchinga a blokovať jeho meno v promptoch — informovali o tom PetaPixel, Decrypt a ďalší — pričom ostatných svetových lídrov naďalej povoľoval. Zakladateľ David Holz na Discorde vysvetlil, že firma chce „minimalizovať drámu“ a že „možnosť ľudí v Číne používať túto technológiu je dôležitejšia než vaša možnosť tvoriť satiru“; Sarah McLaughlin z Foundation for Individual Rights and Expression to označila za cenzúru. Nech si o obchodnej kalkulácii myslíme čokoľvek, mechanizmus si zaslúži pomenovať: národné obmedzenie prejavu uplatnené na každého používateľa na svete, pretože globálny filter má len jedno nastavenie.

7. Bezpečnostný výskum a materiály o phishingu

Bezpečnostné tímy tvoria školiace materiály, ktoré musia vyzerať ako to, pred čím varujú: presvedčivá falošná prihlasovacia stránka, podvrhnutá faktúra, škodlivý QR kód na parkovacom automate. Pre klasifikátor je to nerozoznateľné od útoku, proti ktorému očkuje — vierohodnosť je celý zmysel — takže filtre blokujú obranu aj útok rovnako, čím zvýhodňujú útočníka, ktorý filtrovaný spotrebiteľský nástroj aj tak nikdy použiť nemienil.

8. Vlastníci práv, ktorým odmietnu obrázky ich vlastnej značky, produktu či podobizne

Filtrovanie podľa autorského práva a ochranných známok neoveruje vlastníctvo; overuje podobnosť. Firma len ťažko vygeneruje obrázky vlastného loga či produktu, vlastník práv nedokáže zobraziť vlastnú postavu a ľudia často nevygenerujú ani vlastnú tvár, pretože filtre podobizne reagujú na rozpoznateľnosť, nie na súhlas. OVERT zaraďuje „porušenia autorských práv“ medzi svojich deväť kategórií nadmerného odmietania práve preto, že tento falošne pozitívny výsledok je taký častý. Filter je tupý nástroj na otázku — máte na to právo? — ktorú nemá ako položiť.

Štyri z ôsmich vyššie sú ukotvené v konkrétnom zverejnenom prípade (medicína, umelecké akty, história, satira) plus kategória autorských práv z OVERT pre ôsmy. Forenzná analýza, predvizualizácia fikcie a materiály o bezpečnostnom povedomí sú uvedené ako kategórie: sú to dobre známe triedy zasiahnutej odbornej práce, pre ktoré sme neoverili konkrétny zverejnený incident.

05Prečo AI generátory obrázkov blokujú nesprávne veci a prečo sa falošne pozitívne výsledky nedajú doladiť

Inštinktívnou reakciou na nadmerné blokovanie je „uvoľnite prah“. Nefunguje to, a to zo štrukturálnych dôvodov, nie pre nedostatok snahy.

Kategórie sa prekrývajú v signáli, no nie v skutočnosti. Chirurgická ilustrácia a pornografia zdieľajú nahotu. Forenzná rekonštrukcia a brutalita zdieľajú krv. Školiaci slajd a phishingová sada zdieľajú falošný prihlasovací formulár. Satirická karikatúra a ohováračský výmysel zdieľajú rozpoznateľného politika. To, čo každú dvojicu odlišuje, je zámer a podanie — chýbajúce v prompte aj v pixeloch. Žiadny prah neoddelí dve populácie, ktoré obsadzujú tú istú oblasť vstupného priestoru; jeho posun len vymení jednu chybu za druhú. Presne to ukázala epizóda s Gemini: zásah, ktorý mal opraviť jedno zlyhanie, vytvoril druhé, opísané vlastným senior viceprezidentom Googlu ako „nadmerná kompenzácia“.

Náklady sú asymetrické pre prevádzkovateľa, nie pre vás. Filter, ktorý prepustí jeden zlý obrázok, vyrobí novinový článok. Filter, ktorý zablokuje desaťtisíc legitímnych, vyrobí ticho, pretože odmietnutí používatelia sa neorganizujú — jednoducho to vzdajú. Riadenie rizika pri takejto asymetrii trvalo konverguje k nadmernému blokovaniu. A pretože samotný úsudok je nemožný, zoznamy zákazov naberajú doslovné reťazce podľa toho, ako prichádzajú incidenty — tak vznikne stav, keď je „stetoskop“ v poriadku a „spekulum“ zakázané. Nikto nerozhodol, že nástroje špecifické pre ženskú anatómiu sú nebezpečnejšie; zoznam narástol tam, kam dopadli sťažnosti. Kóduje PR históriu prevádzkovateľa, nie teóriu škody.

Najprísnejšia jurisdikcia sa stáva globálnym východiskom. Jeden filter obsluhuje každého používateľa v každej krajine, takže obmedzenie pridané pre jeden trh sa vyváža do všetkých ostatných — učebnicovým prípadom je pravidlo o Si Ťin-pchingovi. A prepísanie promptu ničí váš význam, čo je experimentálna pointa OVERT: potvrdil to vlastnou rukou každý profesionál, ktorý prepral požiadavku do eufemizmu, aby prešla filtrom. Nevyhrali ste; uspokojili ste sa s menej.

Nič z toho nie je zadarmo a pretože zlyháva potichu, náklad je v metrikách, ktoré prevádzkovateľ sleduje, neviditeľný. Po dostatočnom počte odmietnutí sa prestanete pýtať a každý prompt si vopred zúžite na to, o čom predpokladáte, že prejde; eufemizmus, ktorý nakoniec prejde, dá obrázok blízky tomu, čo váš dokument potreboval, ale nie ten správny. Všeobecná hláška o porušení pravidiel vám nepovie nič o tom, ktorá vrstva sa spustila, takže môžete len hádať a skúšať znova — a práca s obrazom je iteratívna, takže filter, ktorý zachytí jeden pokus z piatich, celý cyklus rozbíja, nielen spomaľuje. Medzitým odbory s najsilnejším nárokom na seriózne nástroje nemajú ani recenzenta, ani odvolanie a spravidla ani zverejnený zoznam toho, čo je zablokované. Pravidlo, ktoré si nemôžete prečítať, nie je pravidlo; je to počasie.

06Necenzurovaný vs. filtrovaný AI generátor obrázkov: čo sa naozaj mení

Tu je poctivá verzia porovnania vrátane toho, čo vám systém bez filtrov nedá.

Rozmer	Filtrovaný generátor	Bez filtra (Shannon)
Kto rozhoduje	Klasifikátor čítajúci slová a pixely	Človek čítajúci presný prompt
Kedy sa to dozviete	Až po odoslaní — niekedy až po zaplatení	Skôr, než sa čokoľvek vykreslí alebo naúčtuje
Aké je pravidlo	Nezverejnené, meniace sa zoznamy zákazov	Zverejnené Pravidlá zodpovedného používania
Odborný kontext	Pre systém neviditeľný	Váš, aj so zodpovednosťou zaň
Spôsob zlyhania	Tiché nadmerné blokovanie, posun významu	Dostanete to, o čo ste žiadali — aj s chybami
Kto nesie riziko	Dodávateľ, presunuté na vašu prácu	Zdieľané: pravidlá prevádzkovateľa plus zodpovednosť používateľa

Posledný riadok ľudia preskakujú a práve on je podstatný. Odstránenie filtra neodstraňuje kategórie škody z časti 02; odstraňuje stroj, ktorý o nich zle hádal. Povinnosť zostáva tam, kde bola, len ju teraz držia dve strany, ktoré vedia uvažovať o kontexte: prevádzkovateľ, ktorý zverejňuje a vymáha pravidlá, a vy, ktorí viete, načo obrázok je. Generovanie obrázkov AI bez filtrov je nástroj pre ľudí, ktorí sú už pripravení stáť si za svojím výstupom — chirurgov atlas, znalecký posudok, storyboard, karikatúra — a ktorých zastavoval systém neschopný odlíšiť ich od niekoho iného.

07Čo Shannon robí — a čo nerobí

Presnosť tu znamená viac než nadšenie, najmä pre čitateľov, ktorí prišli z vyhľadávania k API.

Čo robí

• Generovanie. Opíšte obrázok bežnou rečou, v ľubovoľnom jazyku. Prompt na generovanie napíše Shannon sám, po anglicky, nech ste sa pýtali v akomkoľvek jazyku.
• Úprava jedného obrázka. Presne jeden zdroj — obrázok, ktorý už je v konverzácii, alebo priložený k vašej aktuálnej správe — zmenený pokynom, ktorý hovorí, čo sa mení a čo zostáva. Výstup automaticky zachová pomer strán zdroja.
• Skladanie dvoch alebo viacerých obrázkov. Prenos oblečenia, objekt do scény, človek vedľa človeka, produkt na osobe, objekt z jedného obrázka so štýlom z iného. Prompt pomenuje úlohu každého obrázka v poradí a použijú sa skutočné obrázky, takže sa zachová ich reálny vzhľad namiesto opätovného opisu.
• Ovládanie pomeru strán. square (predvolené), portrait, landscape, wide a tall. Výslovná požiadavka vždy vyhráva.
• Vykresľovanie na vlastnom GPU klastri, bez filtra obsahu na ceste generovania a bez vrstvy odmietania na modeli, ktorý píše prompt.

Čo nerobí

• Žiadne video. Shannon obrázky neanimuje a video neprodukuje. Nie je to bod v pláne, ktorý by sme koketne zamlčiavali — jednoducho neexistuje.
• Nie je to v API. Generovanie, úprava a skladanie obrázkov žijú v chatovacej aplikácii Shannon. /v1 API obsluhuje text a videnie — dokáže obrázky, ktoré mu pošlete, čítať — ale nevykresľuje ich.
• Žiadne generovanie bez vyzvania. Pozdrav, otázka ani mimochodom priložená fotka obrázok nespustia. Požiadať Shannona, aby sa na obrázok pozrel — opísal ho, prečítal, analyzoval — je bežná práca s videním, nie generovanie, a nestojí nič navyše.

Potvrdzovacia karta

Toto je mechanizmus, ktorý nahrádza filter, a je to zámer návrhu, nie formalita. Keď Shannon vyhodnotí, že žiadate obrázok, napíše prompt na generovanie a ukáže vám ho na potvrdzovacej karte skôr, než sa čokoľvek vykreslí. Nič sa nevygeneruje a nič sa neúčtuje, kým nepotvrdíte.

Porovnajte oba návrhy podľa ich podstaty. Filter háda váš zámer s menším množstvom informácií, než máte vy, a svoj odhad presadí potichu. Potvrdzovacia karta kladie doslovnú špecifikáciu obrázka pred stranu, ktorá vie, načo obrázok je, ešte pred spotrebovaním akéhokoľvek výpočtového výkonu. Zachytáva nesprávne pochopenia vašej požiadavky, čo filtre nikdy nerobia; umožňuje vám doplniť anatomickú presnosť alebo historický detail, ktorý model nedostatočne určil; a robí zodpovednosť čitateľnou namiesto rozptýlenej. Videli ste prompt a stlačili ste tlačidlo.

08Generovanie bez filtrov zodpovednosť zvyšuje, neodstraňuje ju

Patrí to sem, nie do pätičky, pretože je to polovica argumentu. Filtrovaný generátor dáva sľub, ktorý nemôže dodržať: že nástroj zabráni zneužitiu za vás. Zlyháva v oboch smeroch — zablokuje chirurga a nezastaví odhodlaného zlomyseľného používateľa, ktorý má iné možnosti a vždy ich mal. Čo spoľahlivo dosiahne, je pocit všetkých zúčastnených, že zodpovednosť vybavil niekto vyššie, strojovo. Odstránenie filtra túto fikciu odstraňuje; otázka, či má obrázok vzniknúť, sa vracia k ľuďom, ktorí na ňu vedia odpovedať.

• Povinnosť Shannon Lab LLC. Zverejnené, konkrétne Pravidlá zodpovedného používania pomenúvajúce zakázané kategórie namiesto nezverejneného zoznamu zákazov — pravidlá, ktoré si môžete prečítať, citovať a vymáhať od nás.
• Vaša povinnosť. Vy poznáte účel, publikum, jurisdikciu aj stav súhlasu každého zobrazeného. Nástroj ich nepozná a klasifikátor by ich nikdy poznať nemohol. Potvrdzovacia karta existuje preto, aby sa táto znalosť uplatnila vo chvíli, keď na tom záleží, tou stranou, ktorá ju má.
• Hranica, ktorá sa neposúva. „Filter ma nezastavil“ nebolo nikdy obhajobou v žiadnom médiu. Fotoaparát neodmieta, ceruzka neodmieta; použitie riadi zákon a profesijná etika, nie nástroj. Generátor bez filtrov obnovuje bežné usporiadanie, v ktorom funguje každý iný profesionálny nástroj.

Pred začiatkom si prečítajte Pravidlá zodpovedného používania. Sú krátke, konkrétne a sú tou časťou produktu, ktorá robí zvyšok obhájiteľným.

09Často kladené otázky

---

Zdroje: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. apríla 2023 · PetaPixel, 3. apríla 2023 · CNBC, 22. februára 2024. Shannon AI prevádzkuje Shannon Lab LLC, Nové Mexiko, USA.