Tsenseerimata vs filtreeritud AI pildigeneraator
Sisufiltrid ehitati selleks, et peatada väike hulk päris kahjusid. Praktikas peatavad nad ka meditsiinilise illustratsiooni, kohtuekspertiisi rekonstruktsiooni, figuurijoonistuse, sõjaajaloo, poliitsatiiri ja ettevõtted, kes tahavad pildistada oma tooteid. Siin on selle hind — ja see, mida filtri eemaldamine muudab ja mida mitte.
Lühidalt
Peavoolu pildigeneraatorid sõeluvad päringuid ja väljundeid klassifikaatoritega, mis näevad sõnu ja piksleid, mitte kunagi eesmärki. See tagab valepositiivsed ja need tabavad kõige rängemalt oskustööd: anatoomiat, kohtuekspertiisi, kunstilist alastust, ajaloopilte, eelvisualiseerimist, satiiri, turvateadlikkuse materjale ja õiguste omanikke, kes küsivad oma brändi kohta. OVERT (ICML 2025), esimene suuremahuline võrdlustest selle tõrke kohta, kasutab 4,600 kahjutut, aga kahtlast päringut ja leiab, et ülemäärane keeldumine on juhtivate mudelite lõikes laialt levinud. Shannon käitab pildigenereerimist, ühe pildi töötlemist ja mitme pildi ühendamist meie enda GPU-klastris ilma sisufiltri ja keeldumiskihita, asendades keeluloendi nähtava otsusega: kinnituskaardiga, mis näitab täpset päringut enne renderdamist. See tõstab nii sinu kui ka meie vastutust; mõlemad on kirjas vastutustundliku kasutamise poliitikas. Videogenereerimist ei ole ja pilditöö elab vestlusrakenduses, mitte API-s.
Peaaegu kõigil, kes piltidega ametialaselt töötavad, on sama lugu. Päring, mis kirjeldab midagi tavalist — põlveliigese ristlõiget, autot kokkupõrke hetkel, söejoonistust figuurist, sõdurit 1944. aastal — tuleb tagasi reeglirikkumisena. Sa sõnastad ümber ja saad teise rikkumise. Lõpuks kirjutad midagi piisavalt ähmast, et läbi minna, ja saad pildi, mis enam ei näita seda, mida sa vajasid. Tööriist ei kukkunud läbi valjult; ta kukkus läbi kraadide kaupa ja tegi järeleandja sinust.
01Miks keeldub AI pildigeneraator päringust, mis on selgelt õiguspärane?
Keeldumine ei ole tavaliselt pildimudeli arvamus. See on mudeli ümber oleva filtrivirna väljund ja selle kihid selgitavad ära peaaegu iga kummalise keeldumise, mille oled saanud.
| Kiht | Mida see uurib | Iseloomulik tõrge |
|---|---|---|
| Päringu keeluloend | Sõnasõnalised stringid ja lähedased variandid sinu tekstis | Blokeerib sõna sõltumata ümbritsevast lausest — "speculum" kukub läbi, "stetoskoop" läheb läbi |
| Päringu klassifikaator | Õpitud hinnang päringu "riskile" | Reageerib teemalähedusele: kõik, mis on meditsiini, relvade, kehade või poliitika lähedal, skoorib kõrgelt |
| Mudeli keeldumistreening | Mudeli enda õpetatud tõrksus | Keeldub ilma veateateta või toodab vaikselt puhastatud asendusvariandi |
| Väljundi klassifikaator | Renderdatud pikslid, ilma päringu kontekstita | Ei suuda eristada anatoomiatahvlit pornograafiast ega filmikaadrit päris sündmusest |
| Poliitikapõhine asendus | Sinu päringu vaikne ümberkirjutamine enne renderdamist | Sa saad pildi, aga mitte selle, mille kirjeldasid, ja sulle ei öelda, miks |
Kõigil kihtidel on üks ühine pimeala: ükski neist ei näe, miks sa küsid. Meditsiiniillustraator, hageja ekspert, kes rekonstrueerib kokkupõrget, ja halbade kavatsustega inimene kirjutavad kõik sama nimisõna. Filter näeb nimisõna, mitte atlast ega toimikut, ja teda hinnatakse kahjude järgi, mille ta läbi laseb — mitte kunagi töö järgi, mille ta hävitab. Selle asümmeetria all on iga operaatori ratsionaalne seadistus keeldu rohkem. See on ka põhjus, miks "sõnasta lihtsalt ümber" ei ole lahendus: ümbersõnastamine ei anna filtrile mingit uut infot, see üksnes viib su päringu eemale sõnadest, mis ta käivitasid, mis tavaliselt tähendab eemale sellest, mida sa mõtlesid.
02Mida sisufiltrid tegelikult ära hoidma peavad
Filtreerimata genereerimise argument, mis teeb näo, nagu poleks filtritel mingit põhjust, ei ole lugemist väärt. On olemas kitsas hulk väljundeid, mille kahju on pildile endale omane, sõltumata sellest, kes ja miks küsis:
- Alaealisi puudutav seksuaalne sisu. Ükski kontekst ei tee seda vastuvõetavaks; ükski ametialane töövoog ei nõua seda.
- Päris inimeste intiimkujutised ilma nõusolekuta. Kahju tabab kedagi, kes ei nõustunud, ja eemaldamine ei tee seda olematuks.
- Sihitud ahistamine ja laimav väljamõeldis — nimeliselt tuvastatava inimese näitamine tegemas midagi, mida ta ei teinud.
- Võltsingukõlblikud dokumendid — passid, isikutunnistused, rahatähed, pitserid ja finantsinstrumendid, mis on tehtud ehtsatena läbiminemiseks.
- Petlik sünteetiline tõendusmaterjal — päris sündmuste väljamõeldud pildid, mis esitatakse dokumentatsiooni, mitte illustratsioonina.
Loend on lühike ja sellel on struktuur: kahju elab esemes endas, selle sarnasuses päris inimese või dokumendiga ning selle esitamises tõena. Pane tähele, mida seal ei ole — alastus, veri, relvad, ajaloolised julmused, poliitiline naeruvääristamine. Need on meditsiini, ajakirjanduse, kunsti, kohtuekspertiisi ja satiiri toormaterjal ning filter, mis käsitleb neid kahjukategooriatena, rakendab palju laiemat arusaama sellest, millised teemad on auväärsed.
Shannon keelab kõik selles loendis oleva avaldatud vastutustundliku kasutamise poliitikas, kus on nimetatud kategooriad ja tagajärjed, mitte märksõnatabelis, mis püüab kinni ka "platsenta". Üks on reegel, mida saad lugeda ja mille järgi meid vastutusele võtta; teine on nähtamatu klassifikaatori oletus sinu kavatsuste kohta.
03Kui suur on ülemäärase keeldumise probleem? Mida uuringud mõõdavad
Kuni hiljutise ajani oli ülemäärane keeldumine pildimudelites anekdoot — tuhanded inimesed sama looga ja mingit võimalust selle mahtu mõõta. See muutus OVERT-iga (OVEr-Refusal evaluation on Text-to-image models), mille esitas ICML 2025 konverentsil UC Berkeley rühm koosseisus Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ja Song Mei: esimene suuremahuline võrdlustest, mis mõõdab, kui sageli tekstist-pildiks süsteemid keelduvad täiesti kahjututest päringutest.
Ülesehitus loeb. Need 4,600 päringut on tehtud nii, et need näeksid välja kahjulikud, olles kahjutud — päris ametialase soovi kuju, kus mainitakse skalpelli, verevalumit või meeleavaldust — ja 1,785 tõeliselt kahjulikku päringut on nende kõrval kontrollrühmana, nii et mudel ei saa hästi skoorida, keeldudes kõigest. Üheksa kategooriat ulatuvad üksikisiku ja avaliku elu tegelase privaatsusest läbi autoriõiguse, diskrimineerimise, enesevigastamise, seksuaalse sisu ja ebaseadusliku tegevuse kuni vägivallani.
Peamine leid on see, et ülemäärane keeldumine on laialt levinud nii kategooriate kui ka juhtivate mudelite lõikes. Teine leid on tavalise ümbernurgalahenduse jaoks hävitavam: autorid katsetasid leevendusena päringu ümberkirjutamist ja teatavad, et see "seab sageli ohtu truuduse algsete päringute tähendusele". Sa saad filtrist mööda, muutes seda, mida küsisid, ja siis ei ole sul enam seda, mida küsisid.
Üks kitsam uuring jõuab sama järelduseni pikslite poolelt. Töös An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ja Oliver, AI4VA töötuba ECCV 2024 konverentsil) hindavad autorid kolme tootmises olevat NSFW-klassifikaatorit kunstilise alastuse peal ja toovad välja nii soolise kallutatuse kui ka stilistilise kallutatuse: otsus figuuriuuringu kohta sõltub sellest, kelle keha on kujutatud ja millises stiilis. See on mõõdetud kinnitus asjale, mille kohta igale figuurijoonistajale on öeldud, et see on tema väljamõeldis.
04Kaheksa liiki õiguspärast tööd, mida filtreeritud generaatorid blokeerivad
Need on kategooriad, kus ülemäärane keeldumine ei ole ebamugavus, vaid töö seiskumine. Kus on olemas konkreetne kajastatud juhtum, on see viidatud; kus midagi ei kontrollitud, kirjeldatakse kategooriat ilma juhtumit välja mõtlemata.
1. Meditsiiniline ja anatoomiline illustratsioon
Valdkonna kõige paremini dokumenteeritud juhtum. 2023. aasta aprillis teatas The Intercept (Debbie Nathan), et Midjourney oli keelanud anatoomilised terminid, sealhulgas speculum, platsenta, emakakael, häbe, munajuhad, piimanäärmed, emaka-, kusiti, neitsinahk, sperma, kondoom ja emakasisene vahend, samal ajal kui DALL·E 2 keeldus päringust "pills used in medication abortion" sisupoliitika teatega. Mustri leidis Julia Rockwell, kliiniliste andmete analüütik, kes oli üritanud genereerida platsenta pilti kingituseks rakubioloogist sõbrale, ja teatas sellest väljaandele MIT Technology Review. Asümmeetria on kõnekas: "stetoskoop" genereeriti tavapäraselt, samal ajal kui "speculum" oli keelatud. Washingtoni ülikooli teadlane Bill Howe nimetas filtreid "kohmakateks" ja ütles, et need muutsid "sisuliselt võimatuks pidada teaduslikku arutelu paljunemise üle". Patsiendiharidus, kirurgiaatlased ja õendusõppekavad vajavad kõik keha täpset kujutamist, sealhulgas neid osi, mille märksõnaloend on kuulutanud sündsusetuks.
2. Kohtuekspertiisi ja õnnetuste rekonstruktsioon
Kokkupõrgete rekonstruktsioon, tulekahju lähtekoha analüüs ja kohtus näitamiseks mõeldud materjalid nõuavad kahjustuste, vigastuste ja vägivaldse mehaanika kliiniliselt täpset kujutamist. Filter, mis on häälestatud tagasi lükkama sõnu "veri" või "laskehaav", lükkab tagasi kogu distsipliini: kontekst — eksperdiarvamus, kindlustustoimik — on klassifikaatorile nähtamatu ja just see neutraalsus, mis teeb sellised pildid kohtus vastuvõetavaks, paneb need verepildina paistma.
3. Kunstiline alastus ja figuurijoonistus
Akt on kõikjal kunsti alusteema ja figuuriuuring on kunstihariduse tuum. Ülalmainitud ECCV 2024 tulemus on mõõdetud versioon sellest, mida kunstnikud teatavad: klassifikaatorid ei erista usaldusväärselt figuuriuuringut pornograafiast ja nende vead on soo ja stiili suhtes kallutatud — filter on kõige karmim just selle traditsiooni suhtes, mille ta ära tundma peaks.
4. Ajaloo- ja sõjapildid
Õpikukunst, muuseumide tõlgendusmaterjal ja mälestusprojektid nõuavad vormiriiete, relvade, laagrite, lahingute ja julmuste kujutamist. 2024. aasta veebruari Gemini juhtum on õpetlik, sest tõrge jooksis vastupidises suunas ja tegi sama palju kahju. Google peatas 22. veebruaril 2024 Gemini võime inimeste pilte genereerida pärast seda, kui see tootis rassiliselt ümber kombineeritud kujutisi ajaloolistest rühmadest, sealhulgas natsiaegsetest Saksa sõduritest. Tegevjuht Sundar Pichai nimetas väljundeid "täiesti vastuvõetamatuteks"; asepresident Prabhakar Raghavan tunnistas, et mudel oli "ülekompenseerinud" ja muutunud "ülemäära konservatiivseks". Kontekstipime turvalisus ei muutnud ajaloopilte turvalisemaks — see muutis need valeks, mis on ajalookirjastuse jaoks halvem.
5. Vägivald ilukirjanduses ja filmi eelvisualiseerimine
Süžeeplaanid, kontseptsioonikunst, koomiksid ja mängudisain kujutavad vägivalda samal põhjusel nagu romaanid ja filmid. Filter, mis ei suuda eristada õudusfilmi süžeeplaani ähvardusest, kohtleb kogu narratiivsete kunstide tootmisliini kahtlasena — kuigi süžeeplaan on selgesõnaliselt mittereaalne, plaan stseeni jaoks, mille näitlejad ja efektimeeskonnad lavastavad.
6. Poliitiline satiir ja poliitkarikatuur
Võimulolijate karikeerimine on enamikus demokraatiates üks kõige kaitstumaid sõnavabaduse kategooriaid ja rutiinselt esimene asi, mille pildifilter eemaldab. Kõige selgem dokumenteeritud juhtum on Midjourney 2023. aasta aprilli otsus keelata Hiina presidendi Xi Jinpingi pildid ja blokeerida tema nimi päringutes — sellest kirjutasid PetaPixel, Decrypt ja teised — samal ajal kui teiste maailma liidrite kujutamine jäi lubatuks. Asutaja David Holz selgitas Discordis, et ettevõte tahtis "draamat minimeerida" ja et "hiinlaste võimalus seda tehnoloogiat kasutada on tähtsam kui sinu võimalus satiiri luua"; Sarah McLaughlin organisatsioonist Foundation for Individual Rights and Expression nimetas seda tsensuuriks. Ükskõik millisele järeldusele ärilise arvestuse osas jõuda, väärib mehhanism nimetamist: ühe riigi sõnavabaduse piirang rakendatuna igale kasutajale üle maailma, sest globaalsel filtril on ainult üks seadistus.
7. Turvauuringud ja õngitsusteadlikkuse materjalid
Turvameeskonnad koostavad koolitusmaterjale, mis peavad välja nägema nagu see, mille eest nad hoiatavad: veenev võltsitud sisselogimisekraan, võltsitud arve, pahatahtlik QR-kood parkimisautomaadil. Klassifikaatori jaoks on see eristamatu rünnakust, mille vastu see immuniseerib — tõepärasus ongi mõte — nii et filtrid blokeerivad kaitse ja rünnaku ühtemoodi, andes eelise ründajale, kes ei kavatsenud filtreeritud tarbijatööriista niikuinii kasutada.
8. Õiguste omanikud, kellele keeldutakse nende enda brändi, toote või näo piltidest
Autoriõiguse ja kaubamärgi filtreerimine ei kontrolli omandit; see kontrollib sarnasust. Ettevõte ei saa kergesti genereerida pilte oma logost või tootest, õiguste omanik ei saa kujutada oma tegelast ja inimesed ei saa sageli genereerida oma nägu, sest välimusefiltrid lähtuvad äratuntavusest, mitte nõusolekust. OVERT hõlmab oma üheksa ülemäärase keeldumise kategooria hulgas "autoriõiguse rikkumisi" just sellepärast, et see valepositiivne on nii tavaline. Filter on nüri riist küsimuse jaoks — kas sul on selleks õigus? —, mida tal ei ole mingit võimalust esitada.
Neli ülaltoodud kaheksast on seotud konkreetse avaldatud juhtumiga (meditsiin, kunstiline alastus, ajalugu, satiir) pluss OVERT-i autoriõiguse kategooria kaheksanda jaoks. Kohtuekspertiis, ilukirjanduse eelvisualiseerimine ja turvateadlikkuse materjalid on esitatud kategooriatena: need on hästi tuntud mõjutatud ametitöö klassid, mille kohta me ei kontrollinud konkreetset avaldatud juhtumit.
Iga ülaltoodud dokumenteeritud juhtum on avalik ja sõltumatult kontrollitav. Loe neid, selle asemel et võtta meie kirjeldust usu peale.
05Miks AI kunstigeneraatorid blokeerivad valesid asju ja miks sisufiltrite valepositiivseid ei saa häälestamisega ära kaotada
Instinktiivne vastus üleblokeerimisele on "lõdvenda läve". See ei toimi ja seda ehituslikel põhjustel, mitte pingutuse puudumise tõttu.
Kategooriad kattuvad signaalis, aga mitte tegelikkuses. Kirurgiline illustratsioon ja pornograafia jagavad alastust. Kohtuekspertiisi rekonstruktsioon ja verepilt jagavad verd. Teadlikkuse slaid ja õngitsuskomplekt jagavad võltsitud sisselogimisvormi. Satiiriline karikatuur ja laimav väljamõeldis jagavad äratuntavat poliitikut. Iga paari eristab eesmärk ja esitusviis — mis puuduvad nii päringust kui ka pikslitest. Ükski lävi ei erista kahte populatsiooni, mis asuvad sisendruumi samas piirkonnas; selle nihutamine vahetab ainult ühe vea teise vastu. Just seda Gemini juhtum näitaski: sekkumine, mis pidi parandama ühe tõrke, tekitas teise, mida Google'i enda asepresident nimetas "ülekompenseerimiseks".
Kulud on asümmeetrilised operaatorile, mitte sulle. Filter, mis laseb läbi ühe halva pildi, tekitab uudisloo. Filter, mis blokeerib kümme tuhat õiguspärast, tekitab vaikuse, sest keeldumise saanud kasutajad ei organiseeru — nad annavad alla. Riskijuhtimine selle asümmeetria all koondub püsivalt üleblokeerimisele. Ja kuna aluseks olev otsustus on võimatu, kogunevad keeluloenditesse sõnasõnalised stringid vastavalt juhtumitele, ja nii tulebki, et "stetoskoop" on korras ja "speculum" keelatud. Keegi ei otsustanud, et naisele omased instrumendid on ohtlikumad; loend kasvas seal, kuhu kaebused langesid. See kodeerib operaatori PR-ajaloo, mitte teooria kahjust.
Kõige rangemast jurisdiktsioonist saab globaalne vaikeväärtus. Üks filter teenindab iga kasutajat igas riigis, nii et ühe turu jaoks lisatud piirang eksporditakse kõigile — Xi Jinpingi reegel on selle õpikunäide. Ja sinu päringu ümberkirjutamine hävitab sinu tähenduse, mis ongi OVERT-i katseline point: iga spetsialist, kes on soovi eufemismiks pesnud, et see filtrist läbi saada, on seda oma käega kinnitanud. Sa ei võitnud; sa leppisid.
Miski sellest ei ole tasuta ja kuna see kukub läbi vaikselt, on kulu operaatori jälgitavates mõõdikutes nähtamatu. Piisava arvu keeldumiste järel lõpetad küsimise, kitsendades iga päringut juba ette selleks, mille läbiminekut ennustad; eufemism, mis lõpuks läbi läheb, annab pildi, mis on lähedal sellele, mida su dokument vajas, aga ei ole see. Üldine poliitikateade ei ütle sulle midagi selle kohta, milline kiht reageeris, nii et saad ainult oletada ja uuesti proovida — ja pilditöö on iteratiivne, nii et filter, mis püüab kinni iga viienda katse, katkestab tsükli, mitte lihtsalt ei aeglusta seda. Vahepeal ei saa valdkonnad, kellel on tõsistele tööriistadele kõige tugevam nõue, ei ülevaatajat, apellatsiooni ega tavaliselt ka avaldatud loendit sellest, mis on blokeeritud. Reegel, mida sa lugeda ei saa, ei ole reegel; see on ilm.
06Tsenseerimata vs filtreeritud AI pildigeneraator: mis tegelikult muutub
Siin on selle võrdluse aus versioon, sealhulgas see, mida filtreerimata süsteem sulle ei anna.
| Mõõde | Filtreeritud generaator | Filtreerimata (Shannon) |
|---|---|---|
| Kes otsustab | Klassifikaator, kes loeb sõnu ja piksleid | Inimene, kes loeb täpset päringut |
| Millal sa teada saad | Pärast esitamist — vahel pärast maksmist | Enne renderdamist ja arveldamist |
| Mis on reegel | Avaldamata, muutuvad keeluloendid | Avaldatud vastutustundliku kasutamise poliitika |
| Ametialane kontekst | Süsteemile nähtamatu | Sinu hoida ja sinu vastutada |
| Tõrkeviis | Vaikne üleblokeerimine, tähenduse triiv | Sa saad selle, mida palusid — sealhulgas vead |
| Kes riski kannab | Müüja, lükates selle sinu töö peale | Jagatud: operaatori poliitika pluss kasutaja vastutus |
Viimane rida on see, mille inimesed vahele jätavad, ja see, mis loeb. Filtri eemaldamine ei eemalda jaotises 02 loetletud kahjukategooriaid; see eemaldab masina, mis nende kohta halvasti oletas. Kohustus jääb sinna, kus ta oli, ja seda kannavad nüüd kaks poolt, kes suudavad konteksti üle arutleda: operaator, kes avaldab ja jõustab poliitika, ning sina, kes tead, milleks pilt on. Filtreerimata AI pildigenereerimine on tööriist inimestele, kes on juba valmis oma väljundi taga seisma — kirurgi atlas, eksperdiarvamus, süžeeplaan, karikatuur — ja keda peatas süsteem, mis ei suutnud neid kellestki teisest eristada.
07Mida Shannon teeb — ja mida ta ei tee
Täpsus loeb siin rohkem kui entusiasm, eriti lugejate jaoks, kes tulevad API otsingust.
Mida ta teeb
- Genereerimine. Kirjelda pilti tavakeeles, ükskõik millises keeles. Shannon kirjutab genereerimispäringu ise, inglise keeles, ükskõik mis keeles sa küsisid.
- Ühe pildi töötlemine. Täpselt üks lähtepilt — pilt, mis on juba vestluses, või praegusele sõnumile lisatud — muudetuna juhisega, mis ütleb, mis muutub ja mis jääb. Väljund säilitab automaatselt lähtepildi kuvasuhte.
- Kahe või enama pildi ühendamine. Riietuse ülekandmine, ese stseeni, inimene inimese kõrvale, toode inimese peal, ühe pildi subjekt teise pildi stiiliga. Päring nimetab iga pildi rolli järjekorras ja kasutatakse päris pilte, nii et nende tegelik välimus säilib, selle asemel et seda uuesti kirjeldada.
- Kuvasuhte juhtimine. square (vaikeväärtus), portrait, landscape, wide ja tall. Selgesõnaline soov võidab alati.
- Renderdamine meie enda GPU-klastris, ilma sisufiltrita genereerimisteel ja ilma keeldumiskihita mudelil, mis päringut kirjutab.
Mida ta ei tee
- Videot ei ole. Shannon ei anima pilte ega tooda videot. See ei ole teekaardi punkt, mida häbelikult kinni hoitakse — seda lihtsalt ei ole olemas.
- Mitte API-s. Pildigenereerimine, pilditöötlus ja ühendamine asuvad Shannoni vestlusrakenduses. /v1 API teenindab teksti ja piltide lugemist — see suudab lugeda pilte, mille sa saadad —, aga ta ei renderda neid.
- Kutsumata genereerimist ei ole. Tervitus, küsimus või muuseas lisatud foto ei käivita pilti. Shannonilt pildi vaatamise palumine — kirjelda seda, loe seda, analüüsi seda — on tavaline piltide lugemine, mitte genereerimine, ja ei maksa midagi lisaks.
Kinnituskaart
See on mehhanism, mis filtri asendab, ja see on disainivalik, mitte formaalsus. Kui Shannon otsustab, et sa palud pilti, kirjutab ta genereerimispäringu ja näitab seda sulle kinnituskaardil enne, kui midagi renderdatakse. Midagi ei genereerita ega arveldata enne, kui sa kinnitad.
Võrdle lahendusi nende sisu järgi. Filter oletab sinu kavatsust vähema infoga, kui sul endal on, ja jõustab oletuse vaikselt. Kinnituskaart paneb pildi sõnasõnalise kirjelduse selle poole ette, kes teab, milleks see on, enne kui kulutatakse arvutusaega. See püüab kinni sinu soovi valestimõistmised, mida filtrid kunagi ei tee; see laseb sul lisada anatoomilise täpsuse või ajaloolise detaili, mille mudel alamääratles; ja see teeb vastutuse loetavaks, mitte hajusaks. Sa nägid päringut ja sa vajutasid nuppu.
08Filtreerimata genereerimine tõstab vastutust, mitte ei kaota seda
See kuulub siia, mitte jalusesse, sest see on pool argumendist. Filtreeritud generaator annab lubaduse, mida ta pidada ei suuda: et tööriist hoiab sinu eest kuritarvitamise ära. See kukub läbi mõlemas suunas — ta blokeerib kirurgi ega peata otsustavat pahatahtlikku kasutajat, kellel on teisi võimalusi ja alati oli. Mida ta usaldusväärselt teeb, on see, et lubab kõigil tunda, nagu oleks vastutusega tegeletud eespool, masina poolt. Filtri eemaldamine eemaldab selle väljamõeldise; küsimus sellest, kas pilt peaks olemas olema, naaseb inimeste juurde, kes oskavad sellele vastata.
- Shannon Lab LLC kohustus. Avaldatud, konkreetne vastutustundliku kasutamise poliitika, kus on nimetatud keelatud kategooriad, mitte avaldamata keeluloend — reeglid, mida saad lugeda, tsiteerida ja mille järgi meid vastutusele võtta.
- Sinu kohustus. Sina tead eesmärki, sihtrühma, jurisdiktsiooni ja iga kujutatud inimese nõusoleku olemasolu. Tööriist ei tea ja klassifikaator ei saakski kunagi teada. Kinnituskaart on olemas selleks, et seda teadmist rakendataks hetkel, mil see loeb, poole poolt, kellel see on.
- Piir, mis ei liigu. "Filter ei peatanud mind" ei ole mitte üheski meediumis kunagi olnud kaitseargument. Kaamera ei keeldu, pliiats ei keeldu; kasutust reguleerivad seadus ja kutse-eetika, mitte instrument. Filtreerimata generaator taastab tavapärase korralduse, mille all iga teine ametialane tööriist tegutseb.
Loe enne alustamist vastutustundliku kasutamise poliitikat. See on lühike, konkreetne ja see osa sellest tootest, mis teeb ülejäänu kaitstavaks.
09Korduma kippuvad küsimused
Miks keeldub AI pildigeneraator päringust, mis on selgelt õiguspärane?
Sest enamik filtreid hindab sinu päringu sõnu, mitte su eesmärki. Mudeli ees istub klassifikaator, kellel puudub ligipääs sellele, kes sa oled ja miks sa küsid, nii et meditsiiniillustraator, kohtuekspert ja pahatahtlik kasutaja kirjutavad kõik sama nimisõna ja saavad kõik sama keeldumise. The Intercept teatas 2023. aasta aprillis, et Midjourney keelas anatoomilised terminid, sealhulgas speculum, platsenta ja emakakael, samal ajal kui stetoskoop töötas tavapäraselt.
Kas on olemas uuringuid, mis mõõdavad sisufiltrite valepositiivseid AI kunstitööriistades?
Jah. OVERT (arXiv:2505.21347, ICML 2025) on esimene suuremahuline ülemäärase keeldumise võrdlustest tekstist-pildiks mudelitele: 4,600 näiliselt kahjulikku, kuid tegelikult kahjutut päringut üheksas turvakategoorias, pluss 1,785 tõeliselt kahjulikku päringut kontrollrühmana. Autorid teatavad, et ülemäärane keeldumine on juhtivate mudelite lõikes laialt levinud. Eraldi ECCV 2024 uuring leidis soolise ja stilistilise kallutatuse kolmes NSFW-klassifikaatoris, mida hinnati kunstilise alastuse peal.
Mida tsenseerimata AI pildigeneraator tegelikult muudab?
See eemaldab genereerimisteelt keeldumiskihi ja sisufiltri, nii et õiguspärast soovi ei liigitata vaikselt ümber rünnakuks. See ei eemalda otsustusvõimet — see paigutab selle ümber. Shannon näitab sulle täpset genereerimispäringut kinnituskaardil enne, kui midagi renderdatakse, nii et otsuse teeb inimene, kes näeb, mis toodetakse, vastutustundliku kasutamise poliitika alusel.
Kas Shannon genereerib videot?
Ei. Shannon genereerib uusi pilte, töötleb ühte olemasolevat pilti ja ühendab kaks või enam pilti üheks. Ta ei anima pilte ega tooda mingit videot.
Kas ma saan pilte genereerida Shannoni API kaudu?
Ei. Pildigenereerimine, pilditöötlus ja ühendamine asuvad Shannoni vestlusrakenduses. /v1 API teenindab teksti ja piltide lugemist — sinu antud piltide lugemist ja analüüsimist —, mitte pildigenereerimist.
Kui filtrit ei ole, mis siis kuritarvitamist takistab?
Poliitika, vastutus ja nähtav otsustuskoht märksõnade keeluloendi asemel. Shannon ei genereeri kunagi kutsumata, näitab kogu päringut enne renderdamist, ei arvelda midagi enne sinu kinnitust ja tegutseb avaldatud vastutustundliku kasutamise poliitika alusel, mis keelab alaealisi puudutava seksuaalse sisu, päris inimeste intiimkujutised ilma nõusolekuta, sihitud ahistamise ning isiku- ja finantsdokumentide võltsimise.
Küsi pilti, mida sa tegelikult vajad
Genereerimine, ühe pildi töötlemine ja mitme pildi ühendamine vestlusrakenduses — ilma sisufiltrita, ilma keeldumiskihita ja päring ekraanil enne, kui midagi renderdatakse.
Alusta vestlust Vastutustundliku kasutamise poliitikaPildid vestlusrakenduses · videogenereerimist ei ole · rohkem uuringuid
Allikad: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. aprill 2023 · PetaPixel, 3. aprill 2023 · CNBC, 22. veebruar 2024. Shannon AI-d käitab Shannon Lab LLC, New Mexico, USA.