Sencenzura kontraŭ filtrita AI-bildgeneratoro
Enhavfiltriloj estis konstruitaj por haltigi malgrandan aron da veraj damaĝoj. Praktike ili ankaŭ haltigas medicinan ilustradon, krimmedicinan rekonstruon, nudan modeladon, militan historion, redakcian satiron kaj kompaniojn prezentantajn siajn proprajn produktojn. Jen kion tio kostas — kaj kion forigi la filtrilon ŝanĝas kaj ne ŝanĝas.
Resume
Ĉefaj bildgeneratoroj kontrolas instrukciojn kaj rezultojn per klasifikiloj, kiuj vidas vortojn kaj rastrumerojn, neniam celon. Tio garantias falsajn pozitivojn, kaj ili trafas plej forte la spertan laboron: anatomion, krimmedicinon, artajn nudojn, historiajn bildojn, antaŭvidigadon, satiron, materialon pri sekureca konscio, kaj rajtohavantojn petantajn sian propran markon. OVERT (ICML 2025), la unua grandskala benchmark pri ĉi tiu malsukcesreĝimo, uzas 4,600 sendanĝerajn-sed-suspektindajn instrukciojn kaj trovas, ke troa rifuzado estas disvastigita tra la ĉefaj modeloj. Shannon rulas bildgeneradon, unubildan redaktadon kaj plurbildan kombinadon sur nia propra GPU-aro sen enhavfiltrilo kaj sen rifuza tavolo, anstataŭigante la blokliston per videbla decido: konfirmokarto montranta la ekzaktan instrukcion antaŭ ol io bildiĝas. Tio levas vian respondecon kaj la nian; ambaŭ troviĝas en la Politiko pri Respondeca Uzo. Ne ekzistas videogenerado, kaj bilda laboro troviĝas en la babilaplikaĵo, ne en la API.
Preskaŭ ĉiu, kiu profesie laboras kun bildoj, havas la saman rakonton. Instrukcio priskribanta ion ordinaran — sekcon de genuartiko, aŭton en la momento de kolizio, figurstudon per karbo, soldaton en 1944 — revenas kiel malobservo de politiko. Vi reformulas, kaj ricevas alian malobservon. Fine vi skribas ion sufiĉe vagan por trapasi, kaj ricevas bildon, kiu ne plu montras tion, kion vi bezonis. La ilo ne malsukcesis laŭte; ĝi malsukcesis grade, kaj faris vin la kompromisanto.
01Kial AI-bildgeneratoro rifuzas instrukcion, kiu evidente estas legitima?
La rifuzo kutime ne estas la opinio de la bildmodelo. Ĝi estas la rezulto de filtrila stako ĉirkaŭ la modelo, kaj ĝiaj tavoloj klarigas preskaŭ ĉiun strangan rifuzon, kiun vi ricevis.
| Tavolo | Kion ĝi inspektas | Karakteriza malsukceso |
|---|---|---|
| Instrukcia bloklisto | Laŭliterajn ĉenojn kaj proksimajn variantojn en via teksto | Blokas vorton sendepende de la frazo ĉirkaŭ ĝi — "speculum" malsukcesas, "stethoscope" trapasas |
| Instrukcia klasifikilo | Lernitan juĝon pri la "risko" de la instrukcio | Ekfunkcias laŭ tema proksimeco: ĉio proksima al medicino, armiloj, korpoj aŭ politiko poentas alte |
| Rifuza trejnado de la modelo | La propran trejnitan malemon de la modelo | Rifuzas sen erarmesaĝo, aŭ kviete produktas sterilan anstataŭaĵon |
| Eliga klasifikilo | Bildigitajn rastrumerojn, sen instrukcia kunteksto | Ne povas distingi anatomian tabulon disde pornografio, aŭ filman kadron disde reala evento |
| Politika anstataŭigo | Silentan reverkadon de via instrukcio antaŭ la bildigo | Vi ricevas bildon, sed ne tiun, kiun vi specifis, kaj oni ne diras al vi kial |
Ĉiu tavolo dividas unu blindan punkton: neniu povas vidi, kial vi demandas. Medicina ilustristo, fakulo de plendanto rekonstruanta kolizion, kaj iu kun malbonaj intencoj ĉiuj tajpas la saman substantivon. La filtrilo vidas la substantivon, ne la atlason aŭ la kazdosieron, kaj ĝi estas taksata laŭ la damaĝoj, kiujn ĝi tralasas — neniam laŭ la laboro, kiun ĝi detruas. Sub tiu malsimetrio, la racia agordo por ĉiu funkciiganto estas rifuzi pli. Tial ankaŭ "simple reformulu ĝin" ne estas riparo: reformulado donas al la filtrilo neniun informon, kiun ĝi ne havis, ĝi nur movas vian instrukcion for de la vortoj, kiuj ekigis ĝin, kio kutime signifas for de tio, kion vi celis.
02Kion enhavfiltriloj vere ekzistas por malhelpi
Argumento por nefiltrita generado, kiu ŝajnigas, ke filtriloj ekzistas sen kialo, ne indas legon. Ekzistas mallarĝa aro da rezultoj, kies damaĝo estas propra al la bildo mem, sendepende de tio, kiu petis aŭ kial:
- Seksa enhavo implikanta neplenaĝulojn. Neniu kunteksto faras ĝin akceptebla; neniu profesia laborfluo postulas ĝin.
- Nekonsentaj intimaj bildoj de realaj homoj. La damaĝo trafas iun, kiu ne konsentis, kaj forigo ne malfaras ĝin.
- Celita ĉikanado kaj kalumnia fabrikado — igi nomitan individuon aspekti, kvazaŭ ŝi aŭ li faris ion nefaritan.
- Falsad-kvalitaj dokumentoj — pasportoj, identigiloj, monbiletoj, sigeloj kaj financaj instrumentoj faritaj por pasi kiel aŭtentaj.
- Trompa sinteza evidenteco — fabrikitaj bildoj de realaj eventoj prezentataj kiel dokumentado anstataŭ kiel ilustraĵo.
La listo estas mallonga kaj ĝi havas strukturon: la damaĝo loĝas en la artefakto, en ĝia simileco al reala persono aŭ dokumento, kaj en ĝia prezento kiel vero. Rimarku, kio ne estas sur ĝi — nudeco, sango, armiloj, historia abomenaĵo, politika mokado. Tiuj estas la kruda materialo de medicino, ĵurnalismo, arto, krimmedicino kaj satiro, kaj filtrilo, kiu traktas ilin kiel damaĝkategoriojn, efektivigas multe pli larĝan ideon pri tio, kiuj temoj estas respektindaj.
Shannon malpermesas ĉion en tiu listo, en publikigita Politiko pri Respondeca Uzo kun nomitaj kategorioj kaj konsekvencoj, anstataŭ ŝlosilvorta tabelo, kiu ankaŭ kaptas "placenta". Unu estas regulo, kiun vi povas legi kaj laŭ kiu vi povas respondecigi nin; la alia estas diveno pri viaj intencoj fare de klasifikilo, kiun vi ne povas vidi.
03Kiom granda estas la problemo de troa rifuzado? Kion mezuras la esploro
Ĝis antaŭ nelonge, troa rifuzado en bildmodeloj estis anekdoto — miloj da homoj kun la sama rakonto kaj neniu maniero mezuri ĝin. Tio ŝanĝiĝis kun OVERT (OVEr-Refusal evaluation on Text-to-image models), prezentita ĉe ICML 2025 de grupo el UC Berkeley inkluzive de Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song kaj Song Mei: la unua grandskala benchmark mezuranta, kiom ofte teksto-al-bildaj sistemoj rifuzas instrukciojn, kiuj estas tute sendanĝeraj.
La dezajno gravas. La 4,600 instrukcioj estas konstruitaj por aspekti malutilaj dum ili estas sendanĝeraj — la formo de reala profesia peto menciante skalpelon, kontuzon aŭ protestmanifestacion — kaj la 1,785 vere malutilaj instrukcioj sidas apud ili kiel kontrolgrupo, por ke modelo ne povu poenti bone per rifuzado de ĉio. La naŭ kategorioj iras de privateco de individuoj kaj publikaj figuroj tra kopirajto, diskriminacio, memdamaĝo, seksa enhavo kaj kontraŭleĝa agado ĝis perforto.
La ĉefa trovo estas, ke troa rifuzado estas disvastigita tra la kategorioj kaj tra la ĉefaj modeloj. La dua estas pli damaĝa por la kutima ĉirkaŭvojo: la aŭtoroj testis reverkadon de instrukcioj kiel mildigon kaj raportas, ke ĝi "ofte kompromitas la fidelecon al la signifo de la originalaj instrukcioj". Vi povas trapasi la filtrilon ŝanĝante tion, kion vi petis, kaj tiam vi ne plu havas tion, kion vi petis.
Pli mallarĝa studo atingas la saman konkludon el la rastrumera flanko. En An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann kaj Oliver, laborrenkontiĝo AI4VA ĉe ECCV 2024), la aŭtoroj taksas tri produktajn NSFW-klasifikilojn sur arta nudeco kaj malkovras kaj genran antaŭjuĝon kaj stilan antaŭjuĝon: la verdikto pri figurstudo dependas de tio, kies korpo estas prezentita kaj en kiu stilo. Tio estas mezurita konstato pri tio, kion oni diris al ĉiu nudmodela desegnisto esti imaga.
04Ok specoj de legitima laboro, kiujn filtritaj generatoroj blokas
Jen la kategorioj, kie troa rifuzado ne estas ĝeno sed laborhalto. Kie ekzistas specifa raportita kazo, ĝi estas citita; kie neniu estis kontrolita, la kategorio estas priskribita sen elpensi okazaĵon.
1. Medicina kaj anatomia ilustrado
La plej bone dokumentita kazo en la kampo. En aprilo 2023, The Intercept (Debbie Nathan) raportis, ke Midjourney malpermesis anatomiajn terminojn inkluzive de speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom kaj IUD, dum DALL·E 2 rifuzis "pills used in medication abortion" per mesaĝo pri enhavpolitiko. La ŝablonon trovis Julia Rockwell, klinika datenanalizisto, kiu provis generi bildon de placento kiel donacon por amikino ĉelbiologo, kaj raportis ĝin al MIT Technology Review. La malsimetrio estas la indiko: "stethoscope" generiĝis normale dum "speculum" estis malpermesita. La esploristo Bill Howe el la Universitato de Vaŝingtonio nomis la filtrilojn "mallertaj" kaj diris, ke ili faris "esence neeble havi sciencan diskuton pri reproduktado". Pacienta edukado, kirurgiaj atlasoj kaj flegistaj instruplanoj ĉiuj bezonas korpojn prezentitajn precize, inkluzive de la partoj, kiujn ŝlosilvorta listo decidis esti maldecaj.
2. Krimmedicina kaj akcidenta rekonstruo
Koliziaj rekonstruoj, analizo de fajrofonto kaj tribunalaj demonstraĵoj postulas prezenti damaĝon, vundojn kaj perfortan mekanikon kun klinika precizeco. Filtrilo agordita por malakcepti "sangon" aŭ "pafvundon" malakceptas la disciplinon: la kunteksto — fakula raporto, asekura dosiero — estas nevidebla por la klasifikilo, kaj ĝuste tiu neŭtraleco, kiu igas tiajn bildojn akcepteblaj kiel evidentecon, estas tio, kio igas ilin legiĝi kiel sangoscenojn.
3. Artaj nudoj kaj nuda modelado
La nudo estas fundamenta temo de arto ĉie, kaj figurstudo estas kerna en arta edukado. La supra rezulto de ECCV 2024 estas la mezurita versio de tio, kion artistoj raportas: klasifikiloj ne fidinde apartigas figurstudon disde pornografio, kaj iliaj eraroj estas partiaj laŭ genro kaj stilo — filtrilo plej severa ĝuste kontraŭ la tradicio, kiun ĝi devus rekoni.
4. Historiaj kaj militaj bildoj
Lernolibra arto, muzea interpretado kaj memorprojektoj postulas prezenti uniformojn, armilojn, tendarojn, batalojn kaj abomenaĵojn. La epizodo de Gemini en februaro 2024 estas instrua, ĉar la malsukceso iris en la kontraŭan direkton kaj faris egalan damaĝon. Google paŭzigis la kapablon de Gemini generi bildojn de homoj la 22-an de februaro 2024, post kiam ĝi produktis rase rekomponitajn prezentojn de historiaj grupoj inkluzive de germanaj soldatoj el la nazia epoko. La ĉefoficisto Sundar Pichai nomis la rezultojn "tute neakcepteblaj"; la altranga vicprezidanto Prabhakar Raghavan agnoskis, ke la modelo "trokompensis" kaj fariĝis "trokonservativa". Kuntekst-blinda sekureco ne faris historiajn bildojn pli sekuraj — ĝi faris ilin malveraj, kio por historia eldonejo estas pli malbona.
5. Perforto en fikcio kaj antaŭvidigado por filmoj
Scenplanoj, koncepta arto, komiksoj kaj luddezajno prezentas perforton pro la sama kialo kiel romanoj kaj filmoj. Filtrilo, kiu ne povas distingi hororan scenplanon disde minaco, traktas la tutan rakontartan produktoĉenon kiel suspektindan — kvankam scenplano estas eksplicite nereala, plano por sceno, kiun aktoroj kaj efektoteamoj scenigos.
6. Politika satiro kaj redakcia karikaturado
Karikaturo de la potenculoj estas inter la plej protektataj kategorioj de esprimo en plej multaj demokratioj, kaj rutine la unua afero, kiun bildfiltrilo forigas. La plej klara dokumentita kazo estas la decido de Midjourney en aprilo 2023 malpermesi bildojn de la ĉina prezidanto Xi Jinping kaj bloki lian nomon en instrukcioj — raportita de PetaPixel, Decrypt kaj aliaj — dum ĝi daŭre permesis aliajn mondajn gvidantojn. La fondinto David Holz klarigis en Discord, ke la kompanio volis "minimumigi dramon" kaj ke "la kapablo de homoj en Ĉinio uzi ĉi tiun teknologion estas pli grava ol via kapablo generi satiron"; Sarah McLaughlin de la Foundation for Individual Rights and Expression nomis tion cenzuro. Kion ajn oni konkludu pri la komerca kalkulo, la mekanismo meritas nomon: nacia esprimlimigo aplikata al ĉiu uzanto tutmonde, ĉar tutmonda filtrilo havas nur unu agordon.
7. Sekureca esplorado kaj materialo pri phishing-konscio
Sekurecaj teamoj konstruas trejnmaterialon, kiu devas aspekti kiel tio, pri kio ĝi avertas: konvinka falsa ensalutekrano, falsigita fakturo, malica QR-kodo sur parkometro. Por klasifikilo tio estas nedistingebla disde la atako, kontraŭ kiu ĝi vakcinas — verŝajnaspekto estas la tuta celo — do filtriloj blokas defendon kaj atakon egale, avantaĝante la atakanton, kiu ĉiukaze neniam uzus filtritan konsumantan ilon.
8. Rajtohavantoj rifuzitaj pri bildoj de sia propra marko, produkto aŭ portreto
Filtrado pri kopirajto kaj varmarko ne kontrolas posedon; ĝi kontrolas similecon. Kompanio ne povas facile generi bildojn de sia propra emblemo aŭ produkto, rajtohavanto ne povas prezenti sian propran rolulon, kaj homoj ofte ne povas generi sian propran vizaĝon, ĉar portretfiltriloj bazas sin sur rekonebleco anstataŭ sur konsento. OVERT inkluzivas "kopirajtajn malobservojn" inter siaj naŭ kategorioj de troa rifuzado ĝuste ĉar tiu falsa pozitivo estas tiel ofta. La filtrilo estas kruda ilo por demando — ĉu vi havas la rajton al ĉi tio? — kiun ĝi neniel povas starigi.
Kvar el la supraj ok estas ankritaj al specifa publikigita kazo (medicina, artaj nudoj, historia, satiro) plus la kopirajta kategorio de OVERT por la oka. Krimmedicino, antaŭvidigado por fikcio kaj materialo pri sekureca konscio estas prezentitaj kiel kategorioj: ili estas bone konataj klasoj de trafita profesia laboro, por kiuj ni ne kontrolis specifan publikigitan okazaĵon.
Ĉiu dokumentita kazo supre estas publika kaj sendepende kontrolebla. Legu ilin anstataŭ fidi nian priskribon.
05Kial AI-artgeneratoroj blokas la malĝustajn aferojn, kaj kial falsaj pozitivoj de enhavfiltriloj ne estas forageordeblaj
La instinkta respondo al trobloko estas "malstreĉu la sojlon". Tio ne funkcias, pro strukturaj kialoj anstataŭ pro manko de klopodo.
La kategorioj interkovriĝas en la signalo sed ne en la realo. Kirurgia ilustraĵo kaj pornografio dividas nudecon. Krimmedicina rekonstruo kaj sangoscenoj dividas sangon. Konscia lumbildo kaj phishing-ilaro dividas falsan ensalutformularon. Satira karikaturo kaj kalumnia fabrikaĵo dividas rekoneblan politikiston. Kio distingas ĉiun paron, estas celo kaj prezento — mankantaj en la instrukcio kaj mankantaj en la rastrumeroj. Neniu sojlo apartigas du populaciojn okupantajn la saman regionon de la eniga spaco; movi ĝin nur interŝanĝas unu eraron kontraŭ la alia. Ĝuste tion montris la epizodo de Gemini: interveno celanta ripari unu malsukceson produktis alian, priskribitan de la propra altranga vicprezidanto de Google kiel "trokompensita".
La kostoj estas malsimetriaj por la funkciiganto, ne por vi. Filtrilo, kiu tralasas unu malbonan bildon, produktas novaĵartikolon. Filtrilo, kiu blokas dek mil legitimajn, produktas silenton, ĉar rifuzitaj uzantoj ne organiziĝas — ili rezignas. Riskomastrumado sub tiu malsimetrio konverĝas al trobloko, konstante. Kaj ĉar la subesta juĝo estas neebla, blokolistoj amasigas laŭliterajn ĉenojn dum okazas incidentoj, kaj tiel oni ricevas "stethoscope" en ordo kaj "speculum" malpermesita. Neniu decidis, ke virin-specifaj instrumentoj estas pli danĝeraj; la listo kreskis tie, kie alvenis plendoj. Ĝi enkodigas la publikrilatan historion de funkciiganto, ne teorion pri damaĝo.
La plej severa jurisdikcio fariĝas la tutmonda defaŭlto. Unu filtrilo servas ĉiun uzanton en ĉiu lando, do limigo aldonita por unu merkato estas eksportita al ĉiuj — la regulo pri Xi Jinping estas la lernolibra kazo. Kaj reverki vian instrukcion detruas vian signifon, kio estas la eksperimenta punkto de OVERT: ĉiu profesiulo, kiu lavis peton en eŭfemismon por trapasi filtrilon, konfirmis tion permane. Vi ne venkis; vi kompromisis.
Nenio el tio estas senkosta, kaj ĉar ĝi malsukcesas kviete, la kosto estas nevidebla en la mezuroj, kiujn funkciiganto observas. Post sufiĉe da rifuzoj vi ĉesas demandi, antaŭe mallarĝigante ĉiun instrukcion al tio, kion vi antaŭvidas trapasi; la eŭfemismo, kiu finfine trapasas, donas bildon proksiman al, sed ne egalan al, tio, kion via dokumento bezonis. Ĝenerala politika mesaĝo diras al vi nenion pri tio, kiu tavolo ekfunkciis, do vi povas nur diveni kaj reprovi — kaj bilda laboro estas iteracia, do filtrilo, kiu kaptas unu provon el kvin, rompas la buklon anstataŭ nur malrapidigi ĝin. Dume la fakoj kun la plej forta pretendo al seriozaj iloj ricevas neniun recenziston, neniun apelacion kaj kutime neniun publikigitan liston de tio, kio estas blokita. Regulo, kiun vi ne povas legi, ne estas regulo; ĝi estas vetero.
06Sencenzura kontraŭ filtrita AI-bildgeneratoro: kio efektive ŝanĝiĝas
Jen la honesta versio de la komparo, inkluzive de tio, kion nefiltrita sistemo ne donas al vi.
| Dimensio | Filtrita generatoro | Nefiltrita (Shannon) |
|---|---|---|
| Kio decidas | Klasifikilo leganta vortojn kaj rastrumerojn | Homo leganta la ekzaktan instrukcion |
| Kiam vi ekscias | Post kiam vi sendis — foje post kiam vi pagis | Antaŭ ol io bildiĝas aŭ estas fakturita |
| Kio estas la regulo | Nepublikigitaj, ŝanĝiĝemaj blokolistoj | Publikigita Politiko pri Respondeca Uzo |
| Profesia kunteksto | Nevidebla por la sistemo | Via por teni, kaj via por respondi pri ĝi |
| Malsukcesreĝimo | Silenta trobloko, drivo de signifo | Vi ricevas tion, kion vi petis — inkluzive de eraroj |
| Kiu portas la riskon | La vendisto, ŝarĝante ĝin sur vian laboron | Dividita: politiko de la funkciiganto plus respondeco de la uzanto |
La lasta vico estas tiu, kiun homoj preterlasas, kaj tiu, kiu gravas. Forigi filtrilon ne forigas la damaĝkategoriojn en sekcio 02; ĝi forigas la maŝinon, kiu malbone divenis pri ili. La devo restas tie, kie ĝi estis, tenata nun de du partioj, kiuj povas rezoni pri kunteksto: la funkciiganto, kiu publikigas kaj plenumas politikon, kaj vi, kiu scias, por kio la bildo estas. Nefiltrita AI-bildgenerado estas ilo por homoj jam pretaj respondeci pri sia rezulto — la atlaso de la kirurgo, la fakula raporto, la scenplano, la karikaturo — kiuj estis haltigataj de sistemo, kiu ne povis distingi ilin disde iu alia.
07Kion Shannon faras — kaj kion ĝi ne faras
Precizeco ĉi tie gravas pli ol entuziasmo, precipe por legantoj alvenantaj el serĉo pri API.
Kion ĝi faras
- Generado. Priskribu bildon per ordinara lingvaĵo, en ajna lingvo. Shannon mem verkas la generadan instrukcion, en la angla, en kiu ajn lingvo vi petis.
- Redaktado de unu bildo. Ekzakte unu fonto — bildo jam en la konversacio, aŭ alkroĉita al via aktuala mesaĝo — ŝanĝita per instrukcio diranta, kio ŝanĝiĝas kaj kio restas. La rezulto konservas la bildproporcion de la fonto aŭtomate.
- Kombinado de du aŭ pli da bildoj. Vestotransigo, objekto-en-scenon, persono apud persono, produkto-sur-persono, subjekto el unu bildo kun stilo el alia. La instrukcio nomas la rolon de ĉiu bildo laŭvice, kaj la veraj bildoj estas uzataj, do ilia efektiva aspekto estas konservata anstataŭ nur priskribata.
- Kontrolo de la proporcio. square (defaŭlta), portrait, landscape, wide kaj tall. Eksplicita peto ĉiam venkas.
- Bildigo sur nia propra GPU-aro, sen enhavfiltrilo sur la generada vojo kaj sen rifuza tavolo sur la modelo, kiu verkas la instrukcion.
Kion ĝi ne faras
- Neniu video. Shannon ne animacias bildojn kaj ne produktas videon. Ne temas pri planpunkto kokete retenata — ĝi ne ekzistas.
- Ne en la API. Bildgenerado, redaktado kaj kombinado troviĝas en la babilaplikaĵo Shannon. La API /v1 servas tekston kaj vidon — ĝi povas legi bildojn, kiujn vi sendas al ĝi — sed ĝi ne bildigas ilin.
- Neniu neinvitita generado. Saluto, demando aŭ hazarde alkroĉita foto ne ekigas bildon. Peti al Shannon rigardi bildon — priskribi ĝin, legi ĝin, analizi ĝin — estas ordinara vida laboro, ne generado, kaj kostas nenion kroman.
La konfirmokarto
Jen la mekanismo, kiu anstataŭas la filtrilon, kaj ĝi estas dezajna elekto anstataŭ formalaĵo. Kiam Shannon konstatas, ke vi petas bildon, ĝi verkas la generadan instrukcion kaj montras ĝin al vi sur konfirmokarto antaŭ ol io bildiĝas. Nenio estas generata kaj nenio estas fakturita ĝis vi konfirmas.
Komparu la dezajnojn laŭ iliaj meritoj. Filtrilo divenas vian intencon kun malpli da informoj ol vi havas, kaj trudas la divenon silente. Konfirmokarto metas la laŭliteran specifon de la bildo antaŭ la partion, kiu scias, por kio ĝi estas, antaŭ ol ajna komputado estas elspezita. Ĝi kaptas mislegojn de via peto, kion filtriloj neniam faras; ĝi permesas al vi aldoni la anatomian precizecon aŭ historian detalon, kiun la modelo subspecifis; kaj ĝi faras respondecon legebla anstataŭ difuza. Vi vidis la instrukcion, kaj vi premis la butonon.
08Nefiltrita generado levas respondecon, ĝi ne forigas ĝin
Ĉi tio apartenas ĉi tien anstataŭ en piedlinion, ĉar ĝi estas duono de la argumento. Filtrita generatoro faras promeson, kiun ĝi ne povas plenumi: ke la ilo malhelpos misuzon anstataŭ vi. Ĝi malsukcesas en ambaŭ direktoj — ĝi blokas la kirurgon, kaj ĝi ne haltigas decideman malbonintenculon, kiu havas aliajn eblecojn kaj ĉiam havis. Kion ĝi fidinde faras, estas lasi ĉiujn senti, ke respondeco estis traktita pli supre, de maŝino. Forigi la filtrilon forigas tiun fikcion; la demando, ĉu bildo devus ekzisti, revenas al la homoj, kiuj povas respondi ĝin.
- La devo de Shannon Lab LLC. Publikigita, specifa Politiko pri Respondeca Uzo, kiu nomas malpermesitajn kategoriojn anstataŭ nepublikigita bloklisto — reguloj, kiujn vi povas legi, citi kaj laŭ kiuj vi povas respondecigi nin.
- Via devo. Vi konas la celon, la publikon, la jurisdikcion kaj la konsentostaton de ĉiu prezentata persono. La ilo ne konas ilin, kaj klasifikilo neniam povus. La konfirmokarto ekzistas por ke tiu scio estu aplikata en la momento, kiam ĝi gravas, de la partio, kiu havas ĝin.
- La limo, kiu ne moviĝas. "La filtrilo ne haltigis min" neniam estis defendo en iu ajn medio. Fotilo ne rifuzas, krajono ne rifuzas; leĝo kaj profesia etiko regas la uzon, ne la instrumenton. Nefiltrita generatoro restarigas la ordinaran aranĝon, sub kiu funkcias ĉiu alia profesia ilo.
Legu la Politikon pri Respondeca Uzo antaŭ ol vi komencas. Ĝi estas mallonga, specifa, kaj la parto de ĉi tiu produkto, kiu faras la ceteron defendebla.
09Oftaj demandoj
Kial AI-bildgeneratoro rifuzas instrukcion, kiu evidente estas legitima?
Ĉar plej multaj filtriloj juĝas la vortojn en via instrukcio, ne vian celon. Klasifikilo sidas antaŭ la modelo sen ajna aliro al tio, kiu vi estas aŭ kial vi demandas, do medicina ilustristo, krimmedicina analizisto kaj malbonintenculo ĉiuj tajpas la saman substantivon kaj ĉiuj ricevas la saman rifuzon. The Intercept raportis en aprilo 2023, ke Midjourney malpermesis anatomiajn terminojn inkluzive de speculum, placenta kaj cervix, dum stethoscope funkciis normale.
Ĉu ekzistas esploro mezuranta falsajn pozitivojn de enhavfiltriloj en AI-artiloj?
Jes. OVERT (arXiv:2505.21347, ICML 2025) estas la unua grandskala benchmark pri troa rifuzado por teksto-al-bildaj modeloj: 4,600 ŝajne malutilaj sed vere sendanĝeraj instrukcioj tra naŭ sekurecaj kategorioj, plus 1,785 vere malutilaj instrukcioj kiel kontrolgrupo. Ĝiaj aŭtoroj raportas, ke troa rifuzado estas disvastigita tra la ĉefaj modeloj. Aparta studo de ECCV 2024 trovis genran kaj stilan antaŭjuĝon en tri NSFW-klasifikiloj taksitaj sur arta nudeco.
Kion sencenzura AI-bildgeneratoro efektive ŝanĝas?
Ĝi forigas la rifuzan tavolon kaj la enhavfiltrilon de la generada vojo, do legitima peto ne estas silente reklasifikita kiel atako. Ĝi ne forigas juĝon — ĝi translokas ĝin. Shannon montras al vi la ekzaktan generadan instrukcion sur konfirmokarto antaŭ ol io bildiĝas, do la decidon faras homo, kiu povas vidi, kio estos produktita, sub la Politiko pri Respondeca Uzo.
Ĉu Shannon generas videon?
Ne. Shannon generas novajn bildojn, redaktas unu ekzistantan bildon, kaj kombinas du aŭ pli da bildoj en unu. Ĝi ne animacias bildojn kaj ne produktas videon de ajna speco.
Ĉu mi povas generi bildojn per la API de Shannon?
Ne. Bildgenerado, bildoredaktado kaj kombinado troviĝas en la babilaplikaĵo Shannon. La API /v1 servas tekston kaj vidon — legante kaj analizante bildojn, kiujn vi provizas — ne bildgeneradon.
Se ne estas filtrilo, kio haltigas misuzon?
Politiko, respondeco kaj videbla decidopunkto anstataŭ ŝlosilvorta bloklisto. Shannon neniam generas neinvitite, montras la plenan instrukcion antaŭ la bildigo, fakturas nenion ĝis vi konfirmas, kaj funkcias sub publikigita Politiko pri Respondeca Uzo, kiu malpermesas seksan enhavon implikantan neplenaĝulojn, nekonsentajn intimajn bildojn de realaj homoj, celitan ĉikanadon, kaj falsadon de identecaj aŭ financaj dokumentoj.
Petu la bildon, kiun vi efektive bezonas
Generado, unubilda redaktado kaj plurbilda kombinado en la babilaplikaĵo — neniu enhavfiltrilo, neniu rifuza tavolo, kaj la instrukcio sur la ekrano antaŭ ol io bildiĝas.
Komencu babili Politiko pri Respondeca UzoBildoj en la babilaplikaĵo · neniu videogenerado · pli da esploro
Fontoj: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, la 22-an de aprilo 2023 · PetaPixel, la 3-an de aprilo 2023 · CNBC, la 22-an de februaro 2024. Shannon AI estas funkciigata de Shannon Lab LLC, Nov-Meksiko, Usono.