Cenzúrázatlan kontra szűrt AI képgenerátor
A tartalomszűrőket azért építették, hogy megállítsanak néhány valódi ártalmat. A gyakorlatban megállítják az orvosi illusztrációt, az igazságügyi rekonstrukciót, az aktrajzolást, a hadtörténetet, a vezércikk-szatírát és azt is, ha egy cég a saját termékét akarja lerajzoltatni. Ez az ára — és ez az, amin a szűrő eltávolítása változtat, illetve amin nem.
Röviden
A nagy képgenerátorok olyan osztályozókkal szűrik a promptokat és a kimeneteket, amelyek szavakat és képpontokat látnak, célt soha. Ez garantálja a téves találatokat, és azok a szakértelmet igénylő munkát sújtják a legkeményebben: anatómia, igazságügy, művészi akt, történelmi képanyag, előzetes vizualizáció, szatíra, biztonságtudatossági anyagok, valamint jogtulajdonosok, akik a saját márkájukat kérik. Az OVERT (ICML 2025), az első nagy léptékű benchmark erre a hibamódra, 4,600 ártalmatlan, de gyanúsnak látszó promptot használ, és azt találja, hogy a túlzott elutasítás a vezető modelleknél széles körben elterjedt. A Shannon a képgenerálást, az egyképes szerkesztést és a többképes egyesítést a saját GPU-fürtünkön futtatja, tartalomszűrő és elutasítási réteg nélkül, és a tiltólistát látható döntésre cseréli: egy megerősítő kártyára, amely a renderelés előtt megmutatja a pontos promptot. Ez az Ön és a mi felelősségünket is növeli; mindkettő megtalálható a felelős használatra vonatkozó irányelvben. Videógenerálás nincs, a képes munka pedig a chatalkalmazásban él, nem az API-n.
Szinte mindenkinek, aki hivatásszerűen dolgozik képekkel, ugyanaz a története. Egy prompt, amely valami hétköznapit ír le — egy térdízület keresztmetszetét, egy autót az ütközés pillanatában, egy szénrajz alaktanulmányt, egy katonát 1944-ben —, irányelvsértésként jön vissza. Átfogalmazza, és másik sértést kap. Végül leír valamit, ami elég homályos ahhoz, hogy átmenjen, és olyan képet kap, amely már nem mutatja azt, amire szüksége volt. Az eszköz nem hangosan mondott csődöt; fokozatosan mondott csődöt, és Önt tette meg annak, aki engedett.
01Miért utasít el egy AI képgenerátor egy nyilvánvalóan jogszerű promptot?
Az elutasítás rendszerint nem a képmodell véleménye. A modell köré épült szűrőrendszer kimenete, és annak rétegei szinte minden furcsa elutasítást megmagyaráznak, amelyet valaha kapott.
| Réteg | Mit vizsgál | Jellemző hibája |
|---|---|---|
| Prompt-tiltólista | Szó szerinti karakterláncok és közeli változataik a szövegében | Blokkol egy szót az őt körülvevő mondattól függetlenül — a speculum elbukik, a stethoscope átmegy |
| Prompt-osztályozó | Tanult ítélet a prompt kockázatosságáról | Témaközelségre süt el: bármi, ami az orvoslás, a fegyverek, a testek vagy a politika közelébe esik, magas pontszámot kap |
| A modell elutasításra tanítása | A modell saját, betanított vonakodása | Hibaüzenet nélkül utasít el, vagy csendben fertőtlenített helyettesítőt gyárt |
| Kimeneti osztályozó | A renderelt képpontok, a prompt kontextusa nélkül | Nem tudja megkülönböztetni az anatómiai táblát a pornográfiától, sem egy filmkockát egy valós eseménytől |
| Irányelvi helyettesítés | A promptja csendes átírása renderelés előtt | Kap egy képet, de nem azt, amelyet megadott, és nem mondják meg, miért |
Minden rétegnek ugyanaz a vakfoltja: egyik sem látja, miért kérdez. Egy orvosi illusztrátor, egy ütközést rekonstruáló felperesi szakértő és egy rossz szándékú ember ugyanazt a főnevet gépeli be. A szűrő a főnevet látja, nem az atlaszt vagy az ügyiratot, és azon mérik, milyen ártalmakat enged át — azon soha, mennyi munkát tesz tönkre. Ilyen aszimmetria mellett bármely üzemeltető számára az ésszerű beállítás az, hogy utasítson el többet. Ezért sem megoldás a „fogalmazza át”: az átfogalmazás semmilyen hiányzó információt nem ad a szűrőnek, csak elviszi a promptját azoktól a szavaktól, amelyek kiütötték — ami rendszerint azt jelenti, hogy elviszi attól is, amire gondolt.
02Mit hivatottak valóban megelőzni a tartalomszűrők
Nem érdemes elolvasni azt az érvelést a szűretlen generálás mellett, amely úgy tesz, mintha a szűrők ok nélkül léteznének. Van a kimeneteknek egy szűk köre, amelynek ártalma magában a képben rejlik, függetlenül attól, ki kérte és miért:
- Kiskorúakat érintő szexuális tartalom. Semmilyen kontextus nem teszi elfogadhatóvá; semmilyen szakmai munkafolyamatnak nincs rá szüksége.
- Valódi emberekről beleegyezés nélkül készült intim képek. Az ártalom azt éri, aki nem egyezett bele, és egy eltávolítás nem teszi meg nem történtté.
- Célzott zaklatás és rágalmazó koholmány — amikor egy megnevezett személy úgy tűnik fel, mintha megtett volna valamit, amit nem tett meg.
- Okirat-hamisítási szintű dokumentumok — útlevelek, személyazonosító igazolványok, bankjegyek, pecsétek és pénzügyi eszközök, amelyeket valódinak szánnak.
- Megtévesztő szintetikus bizonyíték — valós eseményekről koholt képanyag, amelyet illusztráció helyett dokumentációként mutatnak be.
A lista rövid, és van szerkezete: az ártalom magában a képben él, abban, hogy hasonlít egy valódi személyre vagy okiratra, és abban, hogy igazságként tálalják. Vegye észre, mi nincs rajta — meztelenség, vér, fegyverek, történelmi szörnyűségek, politikai gúny. Ezek az orvoslás, az újságírás, a művészet, az igazságügyi szakértés és a szatíra nyersanyagai, és az a szűrő, amely ártalomkategóriaként kezeli őket, egy sokkal tágabb elképzelést valósít meg arról, mely témák tisztességesek.
A Shannon mindent tilt, ami azon a listán szerepel, egy közzétett, felelős használatra vonatkozó irányelvben, megnevezett kategóriákkal és következményekkel — nem pedig egy kulcsszótáblázattal, amely a placentát is elkapja. Az egyik szabály, amelyet elolvashat és számon kérhet rajtunk; a másik egy találgatás a szándékairól, egy osztályozótól, amelyet nem lát.
03Mekkora a túlzott elutasítás problémája? Mit mérnek a kutatások
A képmodellek túlzott elutasítása egészen a közelmúltig anekdota volt — emberek ezrei ugyanazzal a történettel, és semmilyen mód a méretének felbecsülésére. Ezen változtatott az OVERT (OVEr-Refusal evaluation on Text-to-image models), amelyet az ICML 2025-ön mutatott be egy UC Berkeley-s csoport, tagjai között Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song és Song Mei: az első nagy léptékű benchmark, amely azt méri, milyen gyakran utasítanak el a szövegből képet készítő rendszerek teljesen ártalmatlan promptokat.
A felépítés számít. A 4,600 promptot úgy állították össze, hogy ártalmasnak látsszanak, miközben ártalmatlanok — egy valódi szakmai kérés alakja, amely szikét, zúzódást vagy tüntetést említ —, az 1,785 valóban ártalmas prompt pedig kontrollként fut mellettük, hogy egy modell ne érhessen el jó eredményt azzal, hogy mindent elutasít. A kilenc kategória az egyéni és a közszereplői magánélettől a szerzői jogon, a diszkrimináción, az önkárosításon, a szexuális tartalmon és az illegális tevékenységen át az erőszakig terjed.
A fő megállapítás az, hogy a túlzott elutasítás kategóriákon és vezető modelleken átívelően elterjedt. A második még károsabb a szokásos kerülőútra nézve: a szerzők a prompt-átírást is tesztelték enyhítésként, és arról számolnak be, hogy az „gyakran csorbítja az eredeti promptok jelentéséhez való hűséget”. Átjuthat a szűrőn azzal, hogy megváltoztatja, mit kért — de akkor már nincs meg az, amit kért.
Egy szűkebb vizsgálat a képpontok felől jut ugyanerre a következtetésre. Az An Art-centric perspective on AI-based content moderation of nudity című munkában (Riccio, Curto, Hofmann és Oliver, AI4VA workshop az ECCV 2024-en) a szerzők három üzemi NSFW osztályozót értékeltek művészi aktokon, és nemi torzítást és stilisztikai torzítást is feltártak: egy alaktanulmányról hozott ítélet attól függ, kinek a testét ábrázolja és milyen stílusban. Ez a mért kimondása annak, amiről minden aktrajzoló művésznek azt mondták, hogy csak képzeli.
04Nyolcféle jogszerű munka, amelyet a szűrt generátorok blokkolnak
Ezekben a kategóriákban a túlzott elutasítás nem kellemetlenség, hanem munkaleállás. Ahol van konkrét, közölt eset, azt hivatkozzuk; ahol nem ellenőriztünk ilyet, ott a kategóriát eset kitalálása nélkül írjuk le.
1. Orvosi és anatómiai illusztráció
A terület legjobban dokumentált esete. 2023 áprilisában The Intercept (Debbie Nathan) arról számolt be, hogy a Midjourney betiltott anatómiai kifejezéseket, köztük a speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom és IUD szavakat, a DALL·E 2 pedig tartalomirányelvi üzenettel utasította el a gyógyszeres abortuszhoz használt tablettákra vonatkozó kérést. A mintázatot Julia Rockwell klinikai adatelemző fedezte fel, aki egy placentáról próbált képet generálni ajándékként egy sejtbiológus barátjának, és bejelentette az MIT Technology Review-nak. Az aszimmetria árulkodó: a stethoscope rendben generálódott, miközben a speculum tiltott volt. A Washingtoni Egyetem kutatója, Bill Howe a szűrőket esetlennek nevezte, és azt mondta, gyakorlatilag lehetetlenné teszik a szaporodásról szóló tudományos vitát. A betegoktatásnak, a sebészeti atlaszoknak és az ápolóképzésnek egyaránt pontosan ábrázolt testekre van szüksége, beleértve azokat a részeket is, amelyekről egy kulcsszólista úgy döntött, hogy illetlenek.
2. Igazságügyi és baleseti rekonstrukció
Az ütközésrekonstrukció, a tűzkeletkezés-elemzés és a bírósági szemléltetőanyagok klinikai pontossággal követelik meg a sérülések, sebek és erőszakos mechanikák ábrázolását. Az a szűrő, amelyet a vér vagy a lőtt seb elutasítására hangoltak, magát a szakterületet utasítja el: a kontextus — egy szakértői vélemény, egy biztosítási akta — láthatatlan az osztályozó számára, és éppen az a semlegesség, amely az ilyen képanyagot bizonyíthatóvá teszi, az, amitől vérengzésnek olvasódik.
3. Művészi akt és aktrajzolás
Az akt mindenütt a művészet alapvető témája, az alaktanulmány pedig a művészképzés magja. A fenti ECCV 2024-es eredmény annak mért változata, amit a művészek jeleznek: az osztályozók nem választják el megbízhatóan az alaktanulmányt a pornográfiától, és a tévedéseiket a nem és a stílus torzítja — olyan szűrő, amely pontosan azzal a hagyománnyal a legkeményebb, amelyet fel kellene ismernie.
4. Történelmi és háborús képanyag
A tankönyvi illusztráció, a múzeumi értelmezés és az emlékhelyprojektek megkövetelik az egyenruhák, fegyverek, táborok, csaták és szörnyűségek ábrázolását. A 2024. februári Gemini-eset azért tanulságos, mert a hiba az ellenkező irányba futott, és ugyanakkora kárt okozott. A Google 2024. február 22-én felfüggesztette a Gemini emberábrázoló képgenerálását, miután az faji szempontból átkomponált ábrázolásokat készített történelmi csoportokról, köztük náci korszakbeli német katonákról. Sundar Pichai vezérigazgató teljességgel elfogadhatatlannak nevezte a kimeneteket; Prabhakar Raghavan alelnök elismerte, hogy a modell túlkompenzált és túlzottan óvatossá vált. A kontextusvak biztonság nem tette biztonságosabbá a történelmi képanyagot — hamissá tette, ami egy történelmi könyvkiadó számára rosszabb.
5. Erőszak a szépirodalomban és a filmes előzetes vizualizációban
A storyboardok, a koncepciórajzok, a képregények és a játéktervezés ugyanazért ábrázolnak erőszakot, amiért a regények és a filmek. Az a szűrő, amely nem tudja megkülönböztetni egy horror storyboardját egy fenyegetéstől, az egész elbeszélő-művészeti munkafolyamatot gyanúsként kezeli — jóllehet a storyboard kifejezetten nem valóságos: terv egy jelenethez, amelyet színészek és effektcsapatok fognak megvalósítani.
6. Politikai szatíra és vezércikk-karikatúra
A hatalmasok karikírozása a legvédettebb beszédkategóriák közé tartozik a legtöbb demokráciában, és rendszerint az első, amit egy képszűrő eltávolít. A legvilágosabb dokumentált eset a Midjourney 2023. áprilisi döntése, hogy tiltja Hszi Csin-ping kínai elnök képeit és blokkolja a nevét a promptokban — erről a PetaPixel, a Decrypt és mások számoltak be —, miközben más világvezetőket továbbra is engedélyezett. David Holz alapító a Discordon azzal magyarázta, hogy a cég minimalizálni akarta a drámát, és hogy az, hogy Kínában használhassák ezt a technológiát, fontosabb, mint az Ön szatíragenerálási képessége; Sarah McLaughlin, a Foundation for Individual Rights and Expression munkatársa cenzúrának nevezte. Bárhogy is ítéljük meg az üzleti számítást, a mechanizmust érdemes néven nevezni: egy nemzeti beszédkorlátozás, amelyet minden felhasználóra, világszerte alkalmaznak, mert egy globális szűrőnek egyetlen beállítása van.
7. Biztonsági kutatás és adathalászat-tudatosítási anyagok
A biztonsági csapatok olyan oktatóanyagot készítenek, amelynek úgy kell kinéznie, mint annak, amitől óv: meggyőző hamis bejelentkezőképernyő, hamisított számla, rosszindulatú QR-kód egy parkolóautomatán. Egy osztályozó számára ez megkülönböztethetetlen attól a támadástól, amely ellen immunizál — épp a megtévesztő valósághűség a lényeg —, így a szűrők egyformán blokkolják a védelmet és a támadást, előnyhöz juttatva a támadót, aki egyébként sem szűrt lakossági eszközt akart használni.
8. Jogtulajdonosok, akiktől megtagadják a saját márkájuk, termékük vagy arcképük képeit
A szerzői jogi és védjegyszűrés nem a tulajdonjogot vizsgálja, hanem a hasonlóságot. Egy cég nem tud könnyen képet generálni a saját logójáról vagy termékéről, egy jogtulajdonos nem tudja lerajzoltatni a saját karakterét, és az emberek gyakran a saját arcukat sem tudják legenerálni, mert az arcképszűrők a felismerhetőségre és nem a beleegyezésre reagálnak. Az OVERT éppen azért sorolja a szerzői jogi jogsértéseket a kilenc túlzott elutasítási kategória közé, mert ez a téves találat annyira gyakori. A szűrő nyers eszköz egy kérdéshez — joga van ehhez? —, amelyet feltenni sem tud.
A fenti nyolcból négyet egy konkrét, közölt eset támaszt alá (orvosi, művészi akt, történelmi, szatíra), a nyolcadikat pedig az OVERT szerzői jogi kategóriája. Az igazságügyi szakértést, a szépirodalmi előzetes vizualizációt és a biztonságtudatossági anyagokat kategóriaként említjük: az érintett szakmai munka jól ismert osztályai, amelyekhez nem ellenőriztünk konkrét közölt esetet.
A fenti dokumentált esetek mind nyilvánosak és függetlenül ellenőrizhetők. Olvassa el őket, ahelyett hogy a mi értelmezésünket fogadná el bizalmi alapon.
05Miért rossz dolgokat blokkolnak az AI művészeti generátorok, és miért nem lehet kihangolni a tartalomszűrők téves találatait
A túlblokkolásra adott ösztönös válasz az, hogy „lazítsunk a küszöbön”. Ez nem működik, mégpedig szerkezeti okokból, nem erőfeszítés hiánya miatt.
A kategóriák a jelben átfedik egymást, a valóságban nem. Egy sebészeti illusztráció és a pornográfia osztozik a meztelenségen. Egy igazságügyi rekonstrukció és a vérengzés osztozik a véren. Egy tudatosító dia és egy adathalász készlet osztozik a hamis bejelentkezőűrlapon. Egy szatirikus karikatúra és egy rágalmazó koholmány osztozik a felismerhető politikuson. Amiben a párok különböznek, az a cél és a tálalás — ami hiányzik a promptból és hiányzik a képpontokból is. Semmilyen küszöb nem választ el két populációt, amelyek a bemeneti tér ugyanazon tartományában ülnek; az elmozdítása csak az egyik hibát cseréli a másikra. Ezt mutatta a Gemini-eset: az egyik hiba javítására szánt beavatkozás egy másikat szült, amelyet a Google saját alelnöke túlkompenzálásnak nevezett.
A költségek az üzemeltető felé aszimmetrikusak, nem Ön felé. Az a szűrő, amely átenged egy rossz képet, hírt csinál. Az a szűrő, amely tízezer jogszerűt blokkol, csendet csinál, mert az elutasított felhasználók nem szerveződnek — feladják. Ilyen aszimmetria mellett a kockázatkezelés tartósan a túlblokkolás felé konvergál. És mivel a mögöttes ítélet lehetetlen, a tiltólisták az esetek nyomán szó szerinti karakterláncokat halmoznak fel, így lesz a stethoscope rendben és a speculum tiltott. Senki nem döntött úgy, hogy a nőgyógyászati eszközök veszélyesebbek; a lista ott nőtt, ahová a panaszok érkeztek. Az üzemeltető sajtótörténetét kódolja, nem az ártalom elméletét.
A legszigorúbb joghatóság lesz a globális alapértelmezés. Egy szűrő szolgálja ki minden ország minden felhasználóját, így az egyetlen piac miatt hozzáadott korlátozás mindenkire exportálódik — a Hszi Csin-ping-szabály a tankönyvi eset. És a promptja átírása tönkreteszi a jelentését, ami az OVERT kísérleti tanulsága: minden szakember, aki eufemizmussá mosta a kérését, hogy átvigye a szűrőn, saját kezűleg igazolta ezt. Nem győzött; megalkudott.
Mindez nincs ingyen, és mivel csendben bukik el, a költség láthatatlan azokban a mérőszámokban, amelyeket egy üzemeltető figyel. Elegendő elutasítás után az ember abbahagyja a kérdezést, és minden promptot előre leszűkít arra, amiről azt jósolja, hogy átmegy; a végül átjutó eufemizmus olyan képet ad, amely közel áll ahhoz, de nem az, amire a dokumentumának szüksége volt. Egy általános irányelvi üzenet semmit nem árul el arról, melyik réteg sült el, így csak találgathat és újrapróbálkozhat — a képes munka pedig iteratív, tehát az a szűrő, amely ötből egy próbálkozást elkap, nem egyszerűen lassítja, hanem szétveri a ciklust. Eközben azok a szakterületek, amelyeknek a legerősebb igényük van komoly eszközökre, nem kapnak bírálót, nem kapnak fellebbezést, és rendszerint közzétett listát sem arról, mi van tiltva. Az a szabály, amelyet nem lehet elolvasni, nem szabály; hanem időjárás.
06Cenzúrázatlan kontra szűrt AI képgenerátor: min változtat ez valójában
Íme az összevetés őszinte változata, azt is beleértve, amit egy szűretlen rendszer nem ad meg Önnek.
| Szempont | Szűrt generátor | Szűretlen (Shannon) |
|---|---|---|
| Mi dönt | Egy osztályozó, amely szavakat és képpontokat olvas | Egy ember, aki a pontos promptot olvassa |
| Mikor tudja meg | A beküldés után — néha a fizetés után | Mielőtt bármi elkészülne vagy számlázásra kerülne |
| Mi a szabály | Közzé nem tett, változó tiltólisták | Közzétett, felelős használatra vonatkozó irányelv |
| Szakmai kontextus | Láthatatlan a rendszer számára | Az Öné, és Ön felel érte |
| Hibamód | Csendes túlblokkolás, jelentéselsodródás | Azt kapja, amit kért — a hibákkal együtt |
| Ki viseli a kockázatot | A szolgáltató, az Ön munkájára hárítva | Megosztva: üzemeltetői irányelv plusz felhasználói felelősség |
Az utolsó sort szokták átugrani, és éppen az számít. Egy szűrő eltávolítása nem távolítja el a 02. szakasz ártalomkategóriáit; azt a gépet távolítja el, amely rosszul találgatott róluk. A kötelezettség ott marad, ahol volt, csak most két olyan fél tartja, amely képes a kontextusról gondolkodni: az üzemeltető, aki irányelvet tesz közzé és érvényesít, és Ön, aki tudja, mire készül a kép. A szűretlen AI képgenerálás olyanoknak való eszköz, akik amúgy is készek kiállni a kimenetükért — a sebészi atlasz, a szakértői vélemény, a storyboard, a karikatúra —, és akiket olyan rendszer állított meg, amely nem tudta megkülönböztetni őket valaki mástól.
07Mit csinál a Shannon — és mit nem csinál
Itt a pontosság többet ér a lelkesedésnél, különösen azoknak az olvasóknak, akik API-keresésből érkeztek.
Amit csinál
- Generálás. Írja le a képet hétköznapi nyelven, bármely nyelven. A Shannon maga írja meg a generálási promptot, angolul, bármilyen nyelven is kérdezett.
- Egyetlen kép szerkesztése. Pontosan egy forrás — egy kép, amely már a beszélgetésben van, vagy amelyet az aktuális üzenetéhez csatolt —, amelyet egy utasítás módosít, megmondva, mi változik és mi marad. A kimenet automatikusan megtartja a forrás képarányát.
- Két vagy több kép egyesítése. Ruhaátvitel, tárgy jelenetbe, személy személy mellé, termék emberen, az egyik kép alanya a másik stílusával. A prompt sorrendben megnevezi minden kép szerepét, és a valódi képeket használjuk, így azok tényleges kinézete megmarad, nem újraírjuk le.
- Képarány-vezérlés. square (alapértelmezett), portrait, landscape, wide és tall. A kifejezett kérés mindig nyer.
- Renderelés a saját GPU-fürtünkön, tartalomszűrő nélkül a generálási úton, és elutasítási réteg nélkül a promptot megíró modellen.
Amit nem csinál
- Videó nincs. A Shannon nem animál képeket és nem állít elő videót. Nem egy szemérmesen visszatartott ütemtervi tétel — egyszerűen nem létezik.
- Nincs az API-n. A képgenerálás, a szerkesztés és az egyesítés a Shannon chatalkalmazásában él. A /v1 API szöveget és képfeldolgozást szolgál ki — olvassa a beküldött képeket —, de nem rendereli őket.
- Nincs hívatlan generálás. Egy köszönés, egy kérdés vagy egy csak úgy csatolt fotó nem indít képet. Ha megkéri a Shannont, hogy nézzen meg egy képet — írja le, olvassa el, elemezze —, az hétköznapi képfeldolgozás, nem generálás, és nem kerül semmi többletbe.
A megerősítő kártya
Ez az a mechanizmus, amely a szűrő helyébe lép, és tervezési döntés, nem formalitás. Amikor a Shannon megállapítja, hogy Ön képet kér, megírja a generálási promptot, és megmutatja Önnek egy megerősítő kártyán, mielőtt bármi elkészülne. Semmi nem generálódik és semmit nem számlázunk, amíg meg nem erősíti.
Hasonlítsa össze a két felépítést az érdemeik alapján. A szűrő kevesebb információval találgat a szándékáról, mint amennyi Önnek van, és csendben érvényesíti a találgatását. A megerősítő kártya a kép szó szerinti leírását teszi annak a félnek az orra elé, aki tudja, mire kell, még mielőtt bármennyi számítási kapacitás elmenne rá. Elkapja a kérése félreolvasásait, amit a szűrők soha; lehetővé teszi, hogy hozzátegye azt az anatómiai pontosságot vagy történelmi részletet, amelyet a modell alulspecifikált; és olvashatóvá, nem szétkenődötté teszi a felelősséget. Ön látta a promptot, és Ön nyomta meg a gombot.
08A szűretlen generálás növeli a felelősséget, nem megszünteti
Ez ide tartozik, nem a lábjegyzetbe, mert az érvelés fele. Egy szűrt generátor olyan ígéretet tesz, amelyet nem tud betartani: hogy az eszköz megakadályozza Ön helyett a visszaélést. Mindkét irányban elbukik — blokkolja a sebészt, és nem állítja meg az elszánt rosszhiszemű szereplőt, akinek más lehetőségei is vannak, és mindig is voltak. Amit megbízhatóan elér, az annyi, hogy mindenki úgy érezheti, a felelősséget feljebb, géppel elintézték. A szűrő eltávolítása ezt a fikciót számolja fel; a kérdés, hogy egy képnek léteznie kell-e, visszakerül azokhoz, akik meg tudják válaszolni.
- A Shannon Lab LLC kötelezettsége. Közzétett, konkrét felelős használatra vonatkozó irányelv, amely megnevezi a tiltott kategóriákat, nem pedig egy közzé nem tett tiltólista — olyan szabályok, amelyeket elolvashat, hivatkozhat, és számon kérhet rajtunk.
- Az Ön kötelezettsége. Ön ismeri a célt, a közönséget, a joghatóságot és minden ábrázolt személy beleegyezési státuszát. Az eszköz nem ismeri, és egy osztályozó soha nem is ismerhetné. A megerősítő kártya azért van, hogy ez a tudás akkor kerüljön alkalmazásra, amikor számít, attól a féltől, akinek megvan.
- A határ, amely nem mozdul. Az, hogy „a szűrő nem állított meg”, egyetlen médiumban sem volt soha védekezés. Egy fényképezőgép nem utasít el, egy ceruza nem utasít el; a használatot a jog és a szakmai etika szabályozza, nem a szerszám. Egy szűretlen generátor azt a hétköznapi rendet állítja helyre, amelyben minden más szakmai eszköz működik.
Olvassa el a felelős használatra vonatkozó irányelvet, mielőtt belekezd. Rövid, konkrét, és ez a terméknek az a része, amely a többit védhetővé teszi.
09Gyakran ismételt kérdések
Miért utasít el egy AI képgenerátor egy nyilvánvalóan jogszerű promptot?
Mert a legtöbb szűrő a promptban lévő szavakat ítéli meg, nem a célját. A modell elé ültetett osztályozó nem fér hozzá ahhoz, hogy Ön kicsoda vagy miért kérdez, így egy orvosi illusztrátor, egy igazságügyi szakértő és egy rosszhiszemű szereplő ugyanazt a főnevet gépeli be, és ugyanazt az elutasítást kapja. A The Intercept 2023 áprilisában arról számolt be, hogy a Midjourney betiltott anatómiai kifejezéseket, köztük a speculum, placenta és cervix szavakat, miközben a stethoscope rendben működött.
Van olyan kutatás, amely méri a tartalomszűrők téves találatait az AI művészeti eszközökben?
Igen. Az OVERT (arXiv:2505.21347, ICML 2025) az első nagy léptékű, túlzott elutasítást mérő benchmark szövegből képet készítő modellekhez: 4,600 látszólag ártalmas, valójában teljesen ártalmatlan prompt kilenc biztonsági kategóriában, plusz 1,785 valóban ártalmas prompt kontrollként. Szerzői arról számolnak be, hogy a túlzott elutasítás a vezető modelleknél széles körben elterjedt. Egy külön, ECCV 2024-es tanulmány nemi és stilisztikai torzítást talált három NSFW osztályozóban, amelyeket művészi aktokon értékeltek.
Min változtat valójában egy cenzúrázatlan AI képgenerátor?
Eltávolítja az elutasítási réteget és a tartalomszűrőt a generálási útról, így egy jogszerű kérést nem minősítenek át csendben támadássá. Nem szünteti meg a mérlegelést — áthelyezi. A Shannon megmutatja a pontos generálási promptot egy megerősítő kártyán, mielőtt bármi elkészülne, így a döntést olyan ember hozza meg, aki látja, mi fog születni, a felelős használatra vonatkozó irányelv keretében.
Generál a Shannon videót?
Nem. A Shannon új képeket generál, szerkeszt egyetlen meglévő képet, és két vagy több képet egyesít eggyé. Nem animál képeket, és semmilyen videót nem állít elő.
Tudok képeket generálni a Shannon API-n keresztül?
Nem. A képgenerálás, a képszerkesztés és az egyesítés a Shannon chatalkalmazásában él. A /v1 API szöveget és képfeldolgozást szolgál ki — a beküldött képeket olvassa és elemzi —, nem képgenerálást.
Ha nincs szűrő, mi akadályozza meg a visszaélést?
Irányelv, elszámoltathatóság és látható döntési pont egy kulcsszavas tiltólista helyett. A Shannon soha nem generál hívatlanul, renderelés előtt megmutatja a teljes promptot, semmit nem számláz a megerősítéséig, és közzétett felelős használatra vonatkozó irányelv szerint működik, amely tiltja a kiskorúakat érintő szexuális tartalmat, a valódi emberekről beleegyezés nélkül készült intim képeket, a célzott zaklatást, valamint a személyazonossági és pénzügyi okmányok hamisítását.
Kérje azt a képet, amelyre valóban szüksége van
Generálás, egyképes szerkesztés és többképes egyesítés a chatalkalmazásban — tartalomszűrő nélkül, elutasítási réteg nélkül, a prompttal a képernyőn, mielőtt bármi elkészülne.
Kezdjen beszélgetni Felelős használatra vonatkozó irányelvKépek a chatalkalmazásban · videógenerálás nincs · további kutatások
Források: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023. április 22. · PetaPixel, 2023. április 3. · CNBC, 2024. február 22. A Shannon AI-t a Shannon Lab LLC (Új-Mexikó, USA) üzemelteti.