Bez cenzury vs filtrovaný generátor obrázků AI

Skoro každý, kdo s obrázky pracuje profesionálně, má stejnou historku. Prompt popisující něco docela obyčejného — řez kolenním kloubem, auto v okamžiku nárazu, studii figury v uhlu, vojáka v roce 1944 — se vrátí jako porušení pravidel. Přeformulujete a dostanete jiné porušení. Nakonec napíšete něco tak mlhavého, že to projde, a dostanete obrázek, který už neukazuje, co jste potřebovali. Nástroj neselhal hlasitě; selhal po stupních a udělal z vás toho, kdo ustoupil.

01Proč generátor obrázků AI odmítne prompt, který je zjevně legitimní?

Odmítnutí obvykle není názor obrázkového modelu. Je to výstup filtrovací vrstvy kolem něj a její patra vysvětlují téměř každé podivné odmítnutí, které jste dostali.

Vrstva	Co prohlíží	Charakteristické selhání
Seznam zakázaných slov	Doslovné řetězce a jejich blízké varianty ve vašem textu	Blokuje slovo bez ohledu na větu kolem — „speculum“ neprojde, „stethoscope“ projde
Klasifikátor promptu	Naučený odhad „rizikovosti“ promptu	Spouští se na tematické blízkosti: cokoli blízko medicíně, zbraním, tělům nebo politice dostane vysoké skóre
Trénink odmítání v modelu	Vlastní natrénovaná zdrženlivost modelu	Odmítne bez chybové hlášky, nebo potichu vytvoří umravněnou náhradu
Klasifikátor výstupu	Vykreslené pixely, bez kontextu promptu	Nerozezná anatomickou tabuli od pornografie ani filmový záběr od skutečné události
Nahrazení podle politiky	Tiché přepsání vašeho promptu před vykreslením	Obrázek dostanete, ale ne ten, který jste zadali, a nikdo vám neřekne proč

Všechna patra mají jedno společné slepé místo: žádné nevidí, proč se ptáte. Lékařský ilustrátor, znalec žalobce rekonstruující srážku i člověk se špatnými úmysly napíšou totéž podstatné jméno. Filtr vidí to podstatné jméno, ne atlas ani spis, a hodnotí se podle škod, které propustí — nikdy podle práce, kterou zničí. Za takové asymetrie je racionálním nastavením pro každého provozovatele odmítat víc. Je to také důvod, proč „prostě to přeformulujte“ není řešení: přeformulování nedá filtru žádnou informaci, která mu chyběla, jen odsune váš prompt od slov, která ho spustila, což obvykle znamená pryč od toho, co jste mysleli.

02Čemu mají filtry obsahu skutečně bránit

Argumentace pro nefiltrované generování, která předstírá, že filtry existují bez důvodu, nestojí za čtení. Existuje úzká množina výstupů, jejichž škodlivost je vlastní samotnému obrázku, nezávisle na tom, kdo o něj požádal a proč:

• Sexuální obsah zahrnující nezletilé. Žádný kontext ho nečiní přijatelným; žádný profesionální postup ho nevyžaduje.
• Nekonsenzuální intimní snímky skutečných osob. Škoda dopadá na někoho, kdo nesouhlasil, a stažení ji nezvrátí.
• Cílené obtěžování a pomlouvačné výmysly — vytváření dojmu, že jmenovaná osoba udělala něco, co neudělala.
• Dokumenty v padělatelské kvalitě — pasy, občanské průkazy, bankovky, pečeti a finanční instrumenty vyrobené tak, aby prošly jako pravé.
• Klamavé syntetické důkazy — vymyšlené snímky skutečných událostí prezentované jako dokumentace, ne jako ilustrace.

Ten seznam je krátký a má strukturu: škoda leží ve výtvoru samotném, v jeho podobnosti se skutečnou osobou nebo dokumentem a v tom, že se vydává za pravdu. Všimněte si, co na něm není — nahota, krev, zbraně, historické zvěrstvo, politický posměch. To je surovina medicíny, žurnalistiky, umění, forenziky a satiry a filtr, který je považuje za kategorie škody, uplatňuje mnohem širší představu o tom, která témata jsou počestná.

Shannon zakazuje vše z toho seznamu, a to ve zveřejněných Zásadách odpovědného použití s pojmenovanými kategoriemi a důsledky, ne tabulkou klíčových slov, která zachytí i „placentu“. Jedno je pravidlo, které si můžete přečíst a vymáhat po nás; druhé je odhad vašich úmyslů klasifikátorem, na který nevidíte.

03Jak velký je problém nadměrného odmítání? Co měří výzkum

Až donedávna bylo nadměrné odmítání u obrázkových modelů historkou — tisíce lidí se stejným příběhem a žádný způsob, jak to změřit. To se změnilo s OVERT (OVEr-Refusal evaluation on Text-to-image models), představeným na ICML 2025 skupinou z UC Berkeley ve složení Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song a Song Mei: prvním rozsáhlým benchmarkem měřícím, jak často systémy převádějící text na obrázek odmítají zcela neškodné prompty.

Na návrhu záleží. Těch 4,600 promptů je sestaveno tak, aby vypadaly škodlivě, přestože škodlivé nejsou — mají tvar skutečného profesionálního požadavku zmiňujícího skalpel, modřinu nebo protest — a vedle nich stojí 1,785 skutečně škodlivých promptů jako kontrola, takže model nemůže uspět tím, že odmítne všechno. Devět kategorií sahá od soukromí jednotlivců a veřejně činných osob přes autorská práva, diskriminaci, sebepoškozování, sexuální obsah a nezákonnou činnost až po násilí.

Hlavním zjištěním je, že nadměrné odmítání je rozšířené napříč kategoriemi i napříč předními modely. Druhé zjištění je pro obvyklý obchvat ještě zničující: autoři testovali přepisování promptů jako zmírnění a uvádějí, že „často narušuje věrnost významu původních promptů“. Filtr obejít můžete tím, že změníte, o co jste žádali — a pak už nemáte to, oč jste žádali.

Užší studie dochází ke stejnému závěru ze strany pixelů. V práci An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann a Oliver, workshop AI4VA na ECCV 2024) autoři hodnotí tři produkční NSFW klasifikátory na umělecké nahotě a odhalují jak genderovou zaujatost, tak stylovou zaujatost: verdikt nad studií figury závisí na tom, čí tělo je zobrazeno a v jakém stylu. To je změřené konstatování něčeho, o čem každému kreslíři podle modelu tvrdili, že si to vymýšlí.

04Osm druhů legitimní práce, kterou filtrované generátory blokují

To jsou kategorie, kde nadměrné odmítání není nepohodlí, ale zastavení práce. Kde existuje konkrétní doložený případ, je citován; kde žádný ověřen nebyl, je kategorie popsána bez vymýšlení incidentu.

1. Lékařská a anatomická ilustrace

Nejlépe doložený případ v oboru. V dubnu 2023 The Intercept (Debbie Nathan) informoval, že Midjourney zakázal anatomické termíny včetně speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom a IUD, zatímco DALL·E 2 odmítl „pills used in medication abortion“ hláškou o pravidlech obsahu. Vzorec odhalila Julia Rockwell, analytička klinických dat, která se pokusila vygenerovat obrázek placenty jako dárek pro kamarádku buněčnou bioložku, a nahlásila ho MIT Technology Review. Prozrazující je ta asymetrie: „stethoscope“ se generoval běžně, zatímco „speculum“ byl zakázaný. Bill Howe, výzkumník z University of Washington, označil filtry za „neomalené“ a řekl, že kvůli nim je „v podstatě nemožné vést vědeckou diskuzi o reprodukci“. Poučení pacientů, chirurgické atlasy i ošetřovatelské osnovy potřebují těla zobrazená přesně, včetně částí, o kterých seznam klíčových slov rozhodl, že jsou neslušné.

2. Forenzní rekonstrukce a rekonstrukce nehod

Rekonstrukce srážek, analýza ohniska požáru a názorné soudní pomůcky vyžadují zobrazit poškození, zranění a násilnou mechaniku s klinickou přesností. Filtr nastavený tak, aby odmítal „krev“ nebo „střelné poranění“, odmítá celou disciplínu: kontext — znalecký posudek, pojistný spis — je pro klasifikátor neviditelný a právě ta neutralita, díky níž jsou takové snímky přípustné jako důkaz, je tím, co je nechává působit jako brutalita.

3. Umělecké akty a kresba podle modelu

Akt je základním námětem umění všude na světě a studie figury je jádrem výtvarného vzdělání. Výsledek z ECCV 2024 výše je změřenou verzí toho, co umělci hlásí: klasifikátory spolehlivě neoddělí studii figury od pornografie a jejich chyby jsou zkreslené pohlavím a stylem — filtr nejtvrdší přesně vůči tradici, kterou by měl poznat.

4. Historické a válečné snímky

Ilustrace do učebnic, muzejní interpretace a pietní projekty vyžadují zobrazit uniformy, zbraně, tábory, bitvy i zvěrstva. Epizoda s Gemini z února 2024 je poučná, protože selhání proběhlo opačným směrem a napáchalo stejnou škodu. Google 22. února 2024 pozastavil schopnost Gemini generovat obrázky lidí poté, co model vytvořil rasově přeskládaná zobrazení historických skupin včetně německých vojáků z doby nacismu. Generální ředitel Sundar Pichai označil výstupy za „naprosto nepřijatelné“; viceprezident Prabhakar Raghavan připustil, že model „překompenzoval“ a stal se „přehnaně konzervativním“. Bezpečnost slepá ke kontextu neudělala historické snímky bezpečnějšími — udělala je nepravdivými, což je pro nakladatele historické literatury horší.

5. Násilí v beletrii a přípravná vizualizace filmu

Storyboardy, koncept art, komiksy a herní design zobrazují násilí ze stejného důvodu jako romány a filmy. Filtr, který nerozezná hororový storyboard od výhrůžky, považuje celý řetězec vyprávěcích umění za podezřelý — ačkoli storyboard je výslovně neskutečný, je to plán scény, kterou teprve nazkoušejí herci a tým efektů.

6. Politická satira a redakční karikatura

Karikatura mocných patří ve většině demokracií k nejchráněnějším kategoriím projevu a rutinně je první věcí, kterou obrázkový filtr odstraní. Nejzřetelněji doloženým případem je rozhodnutí Midjourney z dubna 2023 zakázat obrázky čínského prezidenta Si Ťin-pchinga a blokovat jeho jméno v promptech — informoval o tom PetaPixel, Decrypt a další — zatímco jiní světoví lídři povoleni zůstali. Zakladatel David Holz na Discordu vysvětlil, že firma chce „minimalizovat drama“ a že „schopnost lidí v Číně používat tuto technologii je důležitější než vaše schopnost vytvářet satiru“; Sarah McLaughlin z Foundation for Individual Rights and Expression to označila za cenzuru. Ať už si o té obchodní kalkulaci myslíme cokoli, mechanismus si zaslouží pojmenovat: národní omezení projevu uplatněné na každého uživatele na světě, protože globální filtr má jen jedno nastavení.

7. Bezpečnostní výzkum a materiály o phishingu

Bezpečnostní týmy vytvářejí školicí materiály, které musí vypadat jako to, před čím varují: přesvědčivá falešná přihlašovací obrazovka, podvržená faktura, škodlivý QR kód na parkovacím automatu. Pro klasifikátor je to k nerozeznání od útoku, proti němuž očkuje — věrohodnost je celý smysl — takže filtry blokují obranu i útok stejně, čímž zvýhodňují útočníka, který by filtrovaný spotřebitelský nástroj stejně nikdy nepoužil.

8. Držitelé práv odmítnutí u obrázků vlastní značky, produktu nebo podobizny

Filtrování autorských práv a ochranných známek nekontroluje vlastnictví; kontroluje podobnost. Firma jen těžko vygeneruje snímek vlastního loga nebo produktu, držitel práv nemůže zobrazit vlastní postavu a lidé často nemohou vygenerovat vlastní obličej, protože filtry podobizen reagují na rozpoznatelnost, ne na souhlas. OVERT zahrnuje „porušení autorských práv“ mezi svých devět kategorií nadměrného odmítání právě proto, že je tenhle falešně pozitivní zásah tak častý. Filtr je tupý nástroj na otázku — máte na to právo? — kterou se nemá jak zeptat.

Čtyři z osmi výše jsou ukotveny v konkrétním publikovaném případu (lékařská, umělecké akty, historická, satira) plus kategorie autorských práv u OVERT pro osmý bod. Forenzika, přípravná vizualizace beletrie a materiály pro bezpečnostní osvětu jsou uvedeny jako kategorie: jde o dobře známé třídy zasažené profesionální práce, u nichž jsme konkrétní publikovaný incident neověřili.

05Proč AI generátory blokují nesprávné věci a proč falešně pozitivní zásahy filtrů nelze doladit pryč

Instinktivní reakcí na nadměrné blokování je „povolit práh“. Nefunguje to, a to ze strukturálních důvodů, ne z nedostatku snahy.

Kategorie se překrývají v signálu, ale ne ve skutečnosti. Chirurgická ilustrace a pornografie sdílejí nahotu. Forenzní rekonstrukce a brutalita sdílejí krev. Osvětový slide a phishingová sada sdílejí falešný přihlašovací formulář. Satirická karikatura a pomlouvačný výmysl sdílejí rozpoznatelného politika. Každou dvojici odlišuje účel a způsob prezentace — obojí chybí v promptu i v pixelech. Žádný práh neoddělí dvě populace obývající tutéž oblast vstupního prostoru; jeho posun jen vymění jednu chybu za druhou. Přesně to ukázala epizoda s Gemini: zásah, který měl napravit jedno selhání, vyvolal druhé, popsané vlastním viceprezidentem Googlu jako „překompenzované“.

Náklady jsou asymetrické pro provozovatele, ne pro vás. Filtr, který propustí jeden špatný obrázek, vyrobí zprávu v médiích. Filtr, který zablokuje deset tisíc legitimních, vyrobí ticho, protože odmítnutí uživatelé se neorganizují — vzdají to. Řízení rizik za takové asymetrie konverguje k nadměrnému blokování, trvale. A protože je základní úsudek nemožný, seznamy zakázaných slov nabalují doslovné řetězce, jak přicházejí incidenty, a tak vznikne stav, kdy „stethoscope“ projde a „speculum“ je zakázané. Nikdo nerozhodl, že jsou nástroje pro ženskou anatomii nebezpečnější; seznam narostl tam, kam dopadly stížnosti. Kóduje PR historii provozovatele, ne teorii škody.

Nejpřísnější jurisdikce se stává globálním výchozím nastavením. Jeden filtr obsluhuje každého uživatele v každé zemi, takže omezení přidané pro jeden trh se vyveze do všech — učebnicovým případem je pravidlo o Si Ťin-pchingovi. A přepsání vašeho promptu ničí váš význam, což je experimentální pointa OVERT: potvrdil ji vlastní rukou každý profesionál, který svůj požadavek přepral do eufemismu, aby prošel filtrem. Nevyhráli jste; dohodli jste se na méně.

Nic z toho není zadarmo, a protože selhání probíhá potichu, je jeho cena v metrikách, které provozovatel sleduje, neviditelná. Po dostatečném počtu odmítnutí se ptát přestanete a každý prompt si předem zúžíte na to, o čem předpokládáte, že projde; eufemismus, který nakonec projde, dá obrázek blízký tomu, co váš dokument potřeboval, ale ne ten. Obecná hláška o pravidlech vám neřekne, které patro se spustilo, takže můžete jen hádat a zkoušet znovu — a práce s obrázky je iterativní, takže filtr, který zachytí jeden pokus z pěti, ten cyklus rozbíjí, ne pouze zpomaluje. Přitom obory s nejsilnějším nárokem na seriózní nástroje nemají žádného posuzovatele, žádné odvolání a obvykle ani zveřejněný seznam toho, co je zablokované. Pravidlo, které si nemůžete přečíst, není pravidlo; je to počasí.

06Bez cenzury vs filtrovaný generátor obrázků AI: co se skutečně mění

Tady je poctivá verze srovnání včetně toho, co vám nefiltrovaný systém nedá.

Hledisko	Filtrovaný generátor	Nefiltrovaný (Shannon)
Kdo rozhoduje	Klasifikátor čtoucí slova a pixely	Člověk čtoucí přesný prompt
Kdy se to dozvíte	Po odeslání — někdy až po zaplacení	Dřív, než se cokoli vykreslí nebo naúčtuje
Jaké je pravidlo	Nezveřejněné, měnící se seznamy zákazů	Zveřejněné Zásady odpovědného použití
Profesní kontext	Pro systém neviditelný	Váš, a vy za něj odpovídáte
Způsob selhání	Tiché nadměrné blokování, posun významu	Dostanete, oč jste žádali — včetně chyb
Kdo nese riziko	Dodavatel, přenesené na vaši práci	Sdílené: politika provozovatele plus odpovědnost uživatele

Poslední řádek lidé přeskakují a přitom je ten důležitý. Odstranění filtru neodstraňuje kategorie škod ze sekce 02; odstraňuje stroj, který o nich špatně hádal. Závazek zůstává tam, kde byl, jen ho teď drží dvě strany schopné uvažovat o kontextu: provozovatel, který zveřejňuje a vymáhá politiku, a vy, kteří víte, k čemu obrázek je. Nefiltrované generování obrázků AI je nástroj pro lidi, kteří jsou už připraveni za svůj výstup stát — chirurgův atlas, znalecký posudek, storyboard, karikatura — a které zastavoval systém, jenž je nedokázal odlišit od někoho jiného.

07Co Shannon dělá — a co nedělá

Přesnost je tu důležitější než nadšení, obzvlášť pro čtenáře přicházející z hledání API.

Co dělá

• Generování. Popište obrázek běžnou řečí, v jakémkoli jazyce. Shannon sám napíše generovací prompt, v angličtině, ať jste se ptali v jakémkoli jazyce.
• Úprava jednoho obrázku. Přesně jeden zdroj — snímek už v konverzaci, nebo přiložený k aktuální zprávě — změněný pokynem, který říká, co se mění a co zůstává. Výstup automaticky zachovává poměr stran zdroje.
• Spojení dvou či více obrázků. Přenos oblečení, objekt do scény, osoba vedle osoby, produkt na člověku, předmět z jednoho obrázku se stylem z druhého. Prompt pojmenuje roli každého obrázku v pořadí a používají se skutečné obrázky, takže se jejich skutečný vzhled zachová místo popisování.
• Řízení poměru stran. square (výchozí), portrait, landscape, wide a tall. Výslovný požadavek vždycky vyhrává.
• Vykreslování na našem vlastním GPU clusteru, bez filtru obsahu na cestě ke generování a bez vrstvy odmítání na modelu, který píše prompt.

Co nedělá

• Žádné video. Shannon obrázky neanimuje a nevytváří video. Není to položka v plánu, kterou bychom stydlivě zamlčovali — prostě neexistuje.
• Není v API. Generování, úpravy a spojování obrázků žijí v chatovací aplikaci Shannon. API /v1 obsluhuje text a vidění — obrázky, které mu pošlete, umí číst — ale nevykresluje je.
• Žádné nevyžádané generování. Pozdrav, otázka ani mimochodem přiložená fotka obrázek nespustí. Požádat Shannona, aby se na obrázek podíval — popsal ho, přečetl, analyzoval — je běžná práce s viděním, ne generování, a nestojí nic navíc.

Potvrzovací karta

Tohle je mechanismus, který nahrazuje filtr, a je to návrhové rozhodnutí, ne formalita. Když Shannon usoudí, že žádáte o obrázek, napíše generovací prompt a ukáže vám ho na potvrzovací kartě dřív, než se cokoli vykreslí. Dokud nepotvrdíte, nic se nevygeneruje a nic se neúčtuje.

Porovnejte oba návrhy podle jejich předností. Filtr hádá váš záměr s menším množstvím informací, než máte vy, a svůj odhad vymáhá potichu. Potvrzovací karta klade doslovné zadání obrázku před toho, kdo ví, k čemu je, ještě než se vydá jakýkoli výpočetní výkon. Zachytí špatné pochopení vašeho požadavku, což filtry nikdy nedělají; umožní vám doplnit anatomickou přesnost nebo historický detail, který model nedostatečně určil; a dělá odpovědnost čitelnou místo rozptýlené. Prompt jste viděli a tlačítko jste stiskli vy.

08Nefiltrované generování odpovědnost zvyšuje, neodstraňuje ji

Tohle patří sem, ne do patičky, protože je to polovina celé argumentace. Filtrovaný generátor dává slib, který nemůže splnit: že nástroj zabrání zneužití za vás. Selhává v obou směrech — zablokuje chirurga a nezastaví odhodlaného zlovolného aktéra, který má jiné možnosti a vždycky měl. Co spolehlivě dělá, je, že všem umožní cítit se, jako by odpovědnost byla vyřešena někde výš, strojově. Odstranění filtru tuhle fikci ruší; otázka, zda má obrázek existovat, se vrací k lidem, kteří na ni umějí odpovědět.

• Závazek Shannon Lab LLC. Zveřejněné, konkrétní Zásady odpovědného použití pojmenovávající zakázané kategorie namísto nezveřejněného seznamu zákazů — pravidla, která si můžete přečíst, citovat a vymáhat po nás.
• Váš závazek. Vy znáte účel, publikum, jurisdikci a stav souhlasu každého zobrazeného. Nástroj to neví a klasifikátor to nikdy vědět nemohl. Potvrzovací karta existuje proto, aby se tato znalost uplatnila v okamžiku, kdy na tom záleží, tou stranou, která ji má.
• Hranice, která se neposouvá. „Filtr mě nezastavil“ nikdy nebylo obhajobou v žádném médiu. Fotoaparát neodmítá, tužka neodmítá; použití upravuje právo a profesní etika, ne nástroj. Nefiltrovaný generátor obnovuje běžné uspořádání, ve kterém funguje každý jiný profesionální nástroj.

Než začnete, přečtěte si Zásady odpovědného použití. Jsou krátké, konkrétní a jsou tou částí tohoto produktu, díky které je zbytek obhajitelný.

09Často kladené dotazy

---

Zdroje: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. dubna 2023 · PetaPixel, 3. dubna 2023 · CNBC, 22. února 2024. Shannon AI provozuje Shannon Lab LLC, Nové Mexiko, USA.