Sensuroimaton vs. suodatettu tekoälykuvageneraattori
Sisällönsuodattimet rakennettiin estämään pieni joukko todellisia haittoja. Käytännössä ne estävät myös lääketieteellisen kuvituksen, oikeuslääketieteellisen rekonstruktion, mallipiirustuksen, sotahistorian, poliittisen satiirin ja yritysten kuvat omista tuotteistaan. Tässä on sen hinta — ja se mitä suodattimen poistaminen muuttaa ja mitä ei.
Lyhyesti
Valtavirran kuvageneraattorit seulovat kehotteita ja tulosteita luokittelijoilla, jotka näkevät sanoja ja pikseleitä, eivät koskaan tarkoitusta. Se takaa väärät positiiviset, ja ne osuvat kovimmin ammattityöhön: anatomiaan, oikeuslääketieteeseen, taiteellisiin alastonkuviin, historiallisiin kuviin, ennakkovisualisointiin, satiiriin, tietoturvatietoisuuden materiaaliin ja oikeudenhaltijoihin, jotka pyytävät kuvaa omasta brändistään. OVERT (ICML 2025), ensimmäinen laajamittainen vertailutesti tälle virhetilalle, käyttää 4,600 vaaratonta mutta epäilyttävän näköistä kehotetta ja toteaa ylikieltäytymisen olevan yleistä johtavissa malleissa. Shannon ajaa kuvien generoinnin, yhden kuvan muokkauksen ja monikuvayhdistelyn omalla GPU-klusterillamme ilman sisällönsuodatinta ja ilman kieltäytymiskerrosta ja korvaa estolistan näkyvällä päätöksellä: vahvistuskortilla, joka näyttää tarkan kehotteen ennen kuin mitään renderöidään. Se kasvattaa sekä sinun että meidän vastuutamme; molemmat ovat vastuullisen käytön käytännössä. Videon generointia ei ole, ja kuvatyö on chat-sovelluksessa, ei API:ssa.
Lähes jokaisella kuvien parissa ammatikseen työskentelevällä on sama tarina. Kehote, joka kuvaa jotain tavanomaista — polvinivelen poikkileikkaus, auto törmäyshetkellä, hiilipiirroksena tehty mallitutkielma, sotilas vuonna 1944 — palautuu käytäntörikkomuksena. Muotoilet uudelleen ja saat toisen rikkomuksen. Lopulta kirjoitat jotain riittävän epämääräistä läpi mennäkseen ja saat kuvan, joka ei enää näytä sitä mitä tarvitsit. Työkalu ei epäonnistunut äänekkäästi; se epäonnistui asteittain ja teki sinusta sen joka joustaa.
01Miksi tekoälykuvageneraattori kieltäytyy kehotteesta joka on selvästi oikeutettu?
Kieltäytyminen ei yleensä ole kuvamallin mielipide. Se on mallin ympärille rakennetun suodatinpinon tulos, ja sen kerrokset selittävät lähes jokaisen oudon kieltäytymisen jonka olet saanut.
| Kerros | Mitä se tarkastaa | Tyypillinen virhe |
|---|---|---|
| Kehotteen estolista | Kirjaimelliset merkkijonot ja niiden lähimuunnelmat tekstissäsi | Estää sanan riippumatta ympäröivästä lauseesta — ”speculum” kaatuu, ”stethoscope” menee läpi |
| Kehoteluokittelija | Opittu arvio kehotteen ”riskistä” | Laukeaa aiheen läheisyydestä: kaikki lähellä lääketiedettä, aseita, kehoja tai politiikkaa saa korkeat pisteet |
| Mallin kieltäytymiskoulutus | Mallin oma koulutettu vastahakoisuus | Kieltäytyy ilman virheilmoitusta tai tuottaa hiljaa siistityn korvikkeen |
| Tulosteluokittelija | Renderöidyt pikselit, ilman kehotteen kontekstia | Ei erota anatomiakuvaa pornografiasta eikä elokuvan still-kuvaa todellisesta tapahtumasta |
| Käytäntökorvaus | Kehotteesi hiljainen uudelleenkirjoitus ennen renderöintiä | Saat kuvan, mutta et sitä jonka määrittelit, eikä sinulle kerrota miksi |
Kaikilla kerroksilla on sama sokea piste: yksikään ei näe miksi kysyt. Lääketieteellinen kuvittaja, kantajan asiantuntija joka rekonstruoi kolarin, ja pahaa tarkoittava kirjoittavat kaikki saman substantiivin. Suodatin näkee substantiivin, ei anatomista atlasta eikä tapauskansiota, ja sitä arvioidaan läpi päästämiensä haittojen perusteella — ei koskaan sen työn perusteella jonka se tuhoaa. Tuon epäsymmetrian alla rationaalinen asetus jokaiselle operaattorille on kieltäydy enemmän. Se on myös syy siihen miksi ”muotoile vain uudelleen” ei ole ratkaisu: uudelleenmuotoilu ei anna suodattimelle mitään tietoa jota siltä puuttui, se vain siirtää kehotteesi pois niistä sanoista jotka sen laukaisivat — mikä yleensä tarkoittaa pois siitä mitä tarkoitit.
02Mitä sisällönsuodattimet ovat aidosti estämässä
Suodattamattoman generoinnin puolustus, joka teeskentelee ettei suodattimille ole mitään syytä, ei ole lukemisen arvoinen. On olemassa kapea joukko tulosteita, joiden haitta on sisäsyntyistä itse kuvalle riippumatta siitä kuka pyysi ja miksi:
- Alaikäisiä koskeva seksuaalinen sisältö. Mikään konteksti ei tee siitä hyväksyttävää; mikään ammatillinen työnkulku ei vaadi sitä.
- Todellisten ihmisten intiimit kuvat ilman suostumusta. Haitta osuu johonkuhun joka ei suostunut, eikä poistopyyntö peru sitä.
- Kohdennettu häirintä ja kunniaa loukkaava keksintä — nimetyn yksilön saaminen näyttämään tehneen jotain mitä hän ei tehnyt.
- Väärennöstasoiset asiakirjat — passit, henkilökortit, setelit, sinetit ja rahoitusinstrumentit, jotka on tehty menemään aidosta.
- Harhauttava synteettinen todiste — keksityt kuvat todellisista tapahtumista esitettynä dokumentaationa eikä kuvituksena.
Lista on lyhyt ja siinä on rakenne: haitta elää itse tuotoksessa, sen samankaltaisuudessa todellisen henkilön tai asiakirjan kanssa, ja siinä että se esitetään totuutena. Huomaa mitä listalla ei ole — alastomuus, veri, aseet, historian julmuudet, poliittinen pilkka. Ne ovat lääketieteen, journalismin, taiteen, oikeuslääketieteen ja satiirin raaka-ainetta, ja suodatin joka kohtelee niitä haittakategorioina toteuttaa paljon laajempaa käsitystä siitä mitkä aiheet ovat kunniallisia.
Shannon kieltää kaiken tuolla listalla julkaistussa vastuullisen käytön käytännössä, jossa on nimetyt kategoriat ja seuraamukset, eikä avainsanataulukossa joka nappaa myös sanan ”placenta”. Toinen on sääntö jonka voit lukea ja josta voit pitää meidät vastuussa; toinen on näkymättömän luokittelijan arvaus aikeistasi.
03Kuinka suuri ylikieltäytymisongelma on? Mitä tutkimus mittaa
Vielä hiljattain ylikieltäytyminen kuvamalleissa oli anekdootti — tuhansia ihmisiä samalla tarinalla eikä mitään keinoa mitata sitä. Se muuttui OVERTin myötä (OVEr-Refusal evaluation on Text-to-image models), jonka esitteli ICML 2025 -konferenssissa UC Berkeleyn ryhmä johon kuuluivat Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ja Song Mei: ensimmäinen laajamittainen vertailutesti, joka mittaa kuinka usein tekstistä kuvaksi -järjestelmät kieltäytyvät täysin vaarattomista kehotteista.
Rakenteella on merkitystä. Nuo 4,600 kehotetta on tehty näyttämään haitallisilta ollen samalla vaarattomia — ne ovat todellisen ammatillisen pyynnön muotoisia ja mainitsevat skalpellin, mustelman tai mielenosoituksen — ja 1,785 aidosti haitallista kehotetta ovat niiden rinnalla verrokkina, jottei malli voi saada hyviä pisteitä kieltäytymällä kaikesta. Yhdeksän kategoriaa ulottuvat yksityishenkilöiden ja julkisuuden henkilöiden yksityisyydestä tekijänoikeuksien, syrjinnän, itsetuhoisuuden, seksuaalisen sisällön ja laittoman toiminnan kautta väkivaltaan.
Päälöydös on, että ylikieltäytyminen on yleistä kategorioiden ja johtavien mallien joukossa. Toinen löydös on vahingollisempi vakiokiertotielle: tekijät testasivat kehotteen uudelleenkirjoitusta lieventämiskeinona ja raportoivat sen ”usein vaarantavan uskollisuuden alkuperäisten kehotteiden merkitykselle”. Voit päästä suodattimen ohi muuttamalla sitä mitä pyysit, ja sen jälkeen sinulla ei enää ole sitä mitä pyysit.
Kapeampi tutkimus päätyy samaan johtopäätökseen pikselien puolelta. Artikkelissa An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ja Oliver, AI4VA-työpaja ECCV 2024 -konferenssissa) tekijät arvioivat kolmea tuotantokäytössä olevaa NSFW-luokittelijaa taiteellisella alastomuudella ja paljastavat sekä sukupuolivinouman että tyylivinouman: mallitutkielmasta annettu tuomio riippuu siitä kenen keho on kuvattuna ja missä tyylissä. Se on mitattu toteamus asiasta, jota jokaiselle elävän mallin piirtäjälle on vakuutettu olevan olemassa vain mielikuvituksessa.
04Kahdeksan oikeutetun työn lajia, jotka suodatetut generaattorit estävät
Nämä ovat kategorioita, joissa ylikieltäytyminen ei ole harmi vaan työn pysähdys. Missä on olemassa raportoitu yksittäistapaus, se on lähteistetty; missä sellaista ei varmistettu, kategoria kuvataan keksimättä tapausta.
1. Lääketieteellinen ja anatominen kuvitus
Alan parhaiten dokumentoitu tapaus. Huhtikuussa 2023 The Intercept (Debbie Nathan) raportoi, että Midjourney oli kieltänyt anatomisia termejä kuten speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ja IUD, ja DALL·E 2 kieltäytyi kehotteesta ”pills used in medication abortion” sisältökäytäntöviestillä. Kuvion havaitsi Julia Rockwell, kliininen data-analyytikko, joka oli yrittänyt generoida kuvan istukasta lahjaksi solubiologiystävälleen, ja raportoi siitä MIT Technology Review'lle. Epäsymmetria paljastaa kaiken: ”stethoscope” generoitui normaalisti, kun taas ”speculum” oli kielletty. Washingtonin yliopiston tutkija Bill Howe kutsui suodattimia ”kömpelöiksi” ja sanoi niiden tekevän ”käytännössä mahdottomaksi käydä tieteellistä keskustelua lisääntymisestä”. Potilasohjeet, kirurgiset atlakset ja hoitotyön opetussuunnitelmat tarvitsevat kaikki tarkasti kuvattuja kehoja, mukaan lukien ne osat jotka avainsanalista on päättänyt olevan sopimattomia.
2. Oikeuslääketieteellinen ja onnettomuusrekonstruktio
Kolarirekonstruktio, palon syttymissyyn analyysi ja oikeussalin havainnollistukset vaativat vaurioiden, vammojen ja väkivaltaisen mekaniikan kuvaamista kliinisellä tarkkuudella. Suodatin, joka on viritetty hylkäämään sanat ”blood” tai ”gunshot wound”, hylkää koko alan: konteksti — asiantuntijalausunto, vakuutuskansio — on luokittelijalle näkymätön, ja juuri se neutraalius joka tekee tällaisesta kuvastosta oikeudessa käyttökelpoista on se mikä saa sen näyttämään raakuudelta.
3. Taiteelliset alastonkuvat ja mallipiirustus
Alastonkuva on taiteen perustavia aiheita kaikkialla, ja mallitutkielma on taidekoulutuksen ydintä. Yllä mainittu ECCV 2024 -tulos on mitattu versio siitä mitä taiteilijat raportoivat: luokittelijat eivät erota luotettavasti mallitutkielmaa pornografiasta, ja niiden virheet ovat vinoutuneita sukupuolen ja tyylin mukaan — suodatin on ankarin juuri sitä perinnettä kohtaan jonka sen pitäisi tunnistaa.
4. Historialliset ja sota-ajan kuvat
Oppikirjakuvitus, museoiden tulkintamateriaali ja muistomerkkihankkeet vaativat univormujen, aseiden, leirien, taistelujen ja julmuuksien kuvaamista. Helmikuun 2024 Gemini-episodi on opettavainen, koska epäonnistuminen kulki vastakkaiseen suuntaan ja teki yhtä paljon vahinkoa. Google keskeytti Geminin kyvyn generoida kuvia ihmisistä 22. helmikuuta 2024 sen jälkeen kun se tuotti rodullisesti uudelleensommiteltuja kuvia historiallisista ryhmistä, mukaan lukien natsiajan saksalaissotilaista. Toimitusjohtaja Sundar Pichai kutsui tuloksia ”täysin hyväksymättömiksi”; varatoimitusjohtaja Prabhakar Raghavan myönsi mallin ”ylikompensoineen” ja muuttuneen ”ylivarovaiseksi”. Kontekstisokea turvallisuus ei tehnyt historiallisista kuvista turvallisempia — se teki niistä valheellisia, mikä on historiankustantajalle pahempaa.
5. Väkivalta fiktiossa ja elokuvan ennakkovisualisointi
Kuvakäsikirjoitukset, konseptitaide, sarjakuvat ja pelisuunnittelu kuvaavat väkivaltaa samasta syystä kuin romaanit ja elokuvat. Suodatin, joka ei erota kauhun kuvakäsikirjoitusta uhkauksesta, kohtelee koko kerronnallisten taiteiden tuotantoketjua epäiltynä — vaikka kuvakäsikirjoitus on nimenomaisesti epätodellinen, suunnitelma kohtaukselle jonka näyttelijät ja tehostetiimit lavastavat.
6. Poliittinen satiiri ja pilapiirtäminen
Vallanpitäjien karikatyyri on useimmissa demokratioissa suojatuimpia ilmaisun muotoja ja rutiininomaisesti ensimmäinen asia jonka kuvasuodatin poistaa. Selkein dokumentoitu tapaus on Midjourneyn huhtikuun 2023 päätös estää kuvat Kiinan presidentistä Xi Jinpingistä ja estää hänen nimensä kehotteissa — raportoituna PetaPixelissä, Decryptissä ja muualla — samalla kun muut maailman johtajat sallittiin edelleen. Perustaja David Holz selitti Discordissa, että yhtiö halusi ”minimoida draaman” ja että ”kiinalaisten mahdollisuus käyttää tätä teknologiaa on tärkeämpi kuin sinun mahdollisuutesi tuottaa satiiria”; Sarah McLaughlin Foundation for Individual Rights and Expression -järjestöstä kutsui sitä sensuuriksi. Mitä tahansa liiketoiminnallisesta laskelmasta päätteleekin, mekanismi ansaitsee tulla nimetyksi: kansallinen ilmaisunrajoitus sovellettuna jokaiseen käyttäjään maailmassa, koska globaalilla suodattimella on vain yksi asetus.
7. Tietoturvatutkimus ja kalastelutietoisuuden materiaali
Tietoturvatiimit rakentavat koulutusmateriaalia, jonka on näytettävä siltä miltä se varoittaa: vakuuttava valekirjautumissivu, väärennetty lasku, haitallinen QR-koodi parkkimittarissa. Luokittelijalle se on erottamaton siitä hyökkäyksestä jota vastaan se rokottaa — uskottavuus on koko pointti — joten suodattimet estävät puolustuksen ja hyökkäyksen samalla tavalla, mikä hyödyttää hyökkääjää, joka ei olisi muutenkaan käyttänyt suodatettua kuluttajatyökalua.
8. Oikeudenhaltijat, joilta kieltäydytään kuvista heidän omasta brändistään, tuotteestaan tai henkilökuvastaan
Tekijänoikeus- ja tavaramerkkisuodatus ei tarkista omistajuutta; se tarkistaa samankaltaisuuden. Yritys ei voi helposti generoida kuvia omasta logostaan tai tuotteestaan, oikeudenhaltija ei voi kuvittaa omaa hahmoaan, eivätkä ihmiset usein voi generoida omia kasvojaan, koska henkilökuvasuodattimet reagoivat tunnistettavuuteen eivätkä suostumukseen. OVERT sisällyttää ”tekijänoikeusrikkomukset” yhdeksään ylikieltäytymiskategoriaansa juuri siksi, että tämä väärä positiivinen on niin yleinen. Suodatin on tylppä väline kysymykseen — onko sinulla oikeus tähän? — jota se ei osaa millään tavalla esittää.
Neljä yllä olevasta kahdeksasta on ankkuroitu tiettyyn julkaistuun tapaukseen (lääketiede, taiteelliset alastonkuvat, historia, satiiri) sekä OVERTin tekijänoikeuskategoriaan kahdeksannen osalta. Oikeuslääketiede, fiktion ennakkovisualisointi ja tietoturvatietoisuuden materiaali esitetään kategorioina: ne ovat tunnettuja luokkia vaikutuksen kohteeksi joutuvasta ammattityöstä, joille emme varmistaneet tiettyä julkaistua tapausta.
Jokainen yllä dokumentoitu tapaus on julkinen ja itsenäisesti todennettavissa. Lue ne sen sijaan että luottaisit meidän luonnehdintaamme.
05Miksi tekoälytaidegeneraattorit estävät vääriä asioita, ja miksi sisällönsuodattimien vääriä positiivisia ei voi virittää pois
Vaistomainen vastaus ylisuodatukseen on ”löysätään kynnystä”. Se ei toimi, rakenteellisista syistä eikä yrityksen puutteesta.
Kategoriat menevät päällekkäin signaalissa mutta eivät todellisuudessa. Kirurginen kuvitus ja pornografia jakavat alastomuuden. Oikeuslääketieteellinen rekonstruktio ja raakuus jakavat veren. Tietoisuuskoulutuksen dia ja kalastelutyökalu jakavat valekirjautumislomakkeen. Satiirinen pilapiirros ja kunniaa loukkaava keksintä jakavat tunnistettavan poliitikon. Kunkin parin erottaa tarkoitus ja esittämistapa — puuttuvat kehotteesta ja puuttuvat pikseleistä. Mikään kynnys ei erota kahta populaatiota, jotka asuvat samassa syöteavaruuden osassa; sen siirtäminen vain vaihtaa yhden virheen toiseen. Juuri sen Gemini-episodi osoitti: yhden vian korjaamiseksi tarkoitettu toimenpide tuotti toisen, jota Googlen oma varatoimitusjohtaja kuvaili ”ylikompensoiduksi”.
Kustannukset ovat epäsymmetriset operaattorille, eivät sinulle. Suodatin joka päästää läpi yhden huonon kuvan tuottaa uutisjutun. Suodatin joka estää kymmenentuhatta oikeutettua tuottaa hiljaisuutta, koska torjutut käyttäjät eivät järjestäydy — he luovuttavat. Riskienhallinta tuon epäsymmetrian alla suppenee pysyvästi ylisuodatukseen. Ja koska taustalla oleva arvio on mahdoton, estolistoihin kertyy kirjaimellisia merkkijonoja sitä mukaa kuin välikohtauksia sattuu, ja niin päädytään siihen että ”stethoscope” on kunnossa ja ”speculum” kielletty. Kukaan ei päättänyt että naisille tarkoitetut instrumentit ovat vaarallisempia; lista kasvoi sinne minne valitukset osuivat. Se koodaa operaattorin viestintähistorian, ei teoriaa haitasta.
Tiukimmasta lainkäyttöalueesta tulee globaali oletus. Yksi suodatin palvelee jokaista käyttäjää jokaisessa maassa, joten yhtä markkinaa varten lisätty rajoitus viedään kaikille — Xi Jinping -sääntö on oppikirjaesimerkki. Ja kehotteesi uudelleenkirjoitus tuhoaa merkityksesi, mikä on OVERTin kokeellinen havainto: jokainen ammattilainen joka on pesnyt pyyntönsä kiertoilmaisuksi päästäkseen suodattimen ohi on vahvistanut sen käsin. Et voittanut; tyydyit vähempään.
Mikään tästä ei ole ilmaista, ja koska se epäonnistuu hiljaa, hinta on näkymätön niissä mittareissa joita operaattori seuraa. Riittävän monen kieltäytymisen jälkeen lakkaat kysymästä ja kavennat jokaisen kehotteen etukäteen siihen minkä ennustat menevän läpi; lopulta läpi menevä kiertoilmaisu tuottaa kuvan joka on lähellä sitä mutta ei sitä mitä dokumenttisi tarvitsi. Yleisluontoinen käytäntöviesti ei kerro sinulle mikä kerros laukesi, joten voit vain arvata ja yrittää uudelleen — ja kuvatyö on iteratiivista, joten suodatin joka nappaa joka viidennen yrityksen häiritsee koko silmukkaa eikä vain hidasta sitä. Samalla ne alat joilla on vahvin oikeus vakaviin työkaluihin eivät saa arvioijaa, valitusmahdollisuutta eivätkä yleensä julkaistua listaa siitä mikä on estetty. Sääntö jota et voi lukea ei ole sääntö; se on sää.
06Sensuroimaton vs. suodatettu tekoälykuvageneraattori: mikä oikeasti muuttuu
Tässä on rehellinen versio vertailusta, mukaan lukien se mitä suodattamaton järjestelmä ei anna sinulle.
| Ulottuvuus | Suodatettu generaattori | Suodattamaton (Shannon) |
|---|---|---|
| Mikä päättää | Luokittelija joka lukee sanoja ja pikseleitä | Ihminen joka lukee tarkan kehotteen |
| Milloin saat tietää | Lähettämisen jälkeen — joskus maksamisen jälkeen | Ennen kuin mitään renderöidään tai laskutetaan |
| Mikä sääntö on | Julkaisemattomat, muuttuvat estolistat | Julkaistu vastuullisen käytön käytäntö |
| Ammatillinen konteksti | Järjestelmälle näkymätön | Sinun hallussasi ja sinun vastattavanasi |
| Virhetila | Hiljainen ylisuodatus, merkityksen valuminen | Saat mitä pyysit — virheet mukaan lukien |
| Kuka kantaa riskin | Toimittaja, siirrettynä sinun työsi harteille | Jaettu: operaattorin käytäntö ja käyttäjän vastuu |
Viimeinen rivi on se jonka ihmiset ohittavat ja se jolla on merkitystä. Suodattimen poistaminen ei poista osion 02 haittakategorioita; se poistaa koneen joka arvaili niistä huonosti. Velvollisuus pysyy siellä missä se oli, nyt kahden sellaisen osapuolen hallussa jotka voivat päätellä kontekstista: operaattorin, joka julkaisee ja valvoo käytäntöä, ja sinun, joka tiedät mihin kuva on tarkoitettu. Suodattamaton tekoälykuvien generointi on työkalu ihmisille jotka ovat jo valmiita seisomaan tuotoksensa takana — kirurgin atlas, asiantuntijalausunto, kuvakäsikirjoitus, pilapiirros — ja joita oli pysäyttämässä järjestelmä, joka ei osannut erottaa heitä jostain toisesta.
07Mitä Shannon tekee — ja mitä se ei tee
Täsmällisyys on tässä innostusta tärkeämpää, erityisesti API-haun kautta saapuville lukijoille.
Mitä se tekee
- Generointi. Kuvaile kuva tavallisella kielellä, millä tahansa kielellä. Shannon kirjoittaa generointikehotteen itse, englanniksi, olipa kysymyskielesi mikä tahansa.
- Yhden kuvan muokkaus. Tasan yksi lähde — keskustelussa jo oleva kuva tai nykyiseen viestiisi liitetty — muutettuna ohjeella joka kertoo mikä muuttuu ja mikä pysyy. Tulos säilyttää lähteen kuvasuhteen automaattisesti.
- Kahden tai useamman kuvan yhdistäminen. Asukokonaisuuden siirto, esine ympäristöön, henkilö henkilön viereen, tuote päällä ihmisellä, yhden kuvan kohde toisen tyylillä. Kehote nimeää kunkin kuvan roolin järjestyksessä, ja aitoja kuvia käytetään, joten niiden todellinen ulkonäkö säilyy sen sijaan että se kuvailtaisiin uudelleen.
- Kuvasuhteen hallinta. square (oletus), portrait, landscape, wide ja tall. Nimenomainen pyyntö voittaa aina.
- Renderöinti omalla GPU-klusterillamme, ilman sisällönsuodatinta generointipolulla ja ilman kieltäytymiskerrosta kehotteen kirjoittavassa mallissa.
Mitä se ei tee
- Ei videota. Shannon ei animoi kuvia eikä tuota videota. Ei kyseessä ole tiekartan kohta jota pantataan kiemurrellen — sitä ei ole olemassa.
- Ei API:ssa. Kuvien generointi, muokkaus ja yhdistäminen ovat Shannonin chat-sovelluksessa. /v1-API tarjoaa tekstin ja näön — se voi lukea lähettämiäsi kuvia — mutta se ei renderöi niitä.
- Ei pyytämätöntä generointia. Tervehdys, kysymys tai ohimennen liitetty valokuva ei laukaise kuvaa. Kuvan katsominen Shannonin avulla — kuvaile se, lue se, analysoi se — on tavallista näkötyötä, ei generointia, eikä se maksa mitään ylimääräistä.
Vahvistuskortti
Tämä on mekanismi joka korvaa suodattimen, ja se on suunnitteluvalinta eikä muodollisuus. Kun Shannon päättelee että pyydät kuvaa, se kirjoittaa generointikehotteen ja näyttää sen sinulle vahvistuskortilla ennen kuin mitään renderöidään. Mitään ei generoida eikä laskuteta ennen kuin vahvistat.
Vertaa rakenteita niiden ansioilla. Suodatin arvaa aikeitasi vähemmällä tiedolla kuin sinulla on, ja panee arvauksen täytäntöön hiljaa. Vahvistuskortti asettaa kuvan kirjaimellisen määrittelyn sen osapuolen eteen joka tietää mihin se on tarkoitettu, ennen kuin laskentaa on kulutettu lainkaan. Se nappaa pyyntösi väärinluennat, mitä suodattimet eivät koskaan tee; se antaa sinun lisätä anatomisen tarkkuuden tai historiallisen yksityiskohdan jonka malli jätti alimäärittelemään; ja se tekee vastuusta luettavaa eikä hajanaista. Sinä näit kehotteen, ja sinä painoit nappia.
08Suodattamaton generointi lisää vastuuta, se ei poista sitä
Tämä kuuluu tänne eikä alatunnisteeseen, koska se on puolet perustelusta. Suodatettu generaattori antaa lupauksen jota se ei voi pitää: että työkalu estää väärinkäytön puolestasi. Se epäonnistuu molempiin suuntiin — se estää kirurgin, eikä se pysäytä päättäväistä pahantekijää, jolla on muita vaihtoehtoja ja on aina ollut. Mitä se luotettavasti tekee, on antaa kaikkien tuntea että vastuu hoidettiin ylävirrassa, koneella. Suodattimen poistaminen poistaa tuon fiktion; kysymys siitä pitäisikö kuvan olla olemassa palaa niille ihmisille jotka voivat siihen vastata.
- Shannon Lab LLC:n velvollisuus. Julkaistu, täsmällinen vastuullisen käytön käytäntö, jossa kielletyt kategoriat on nimetty, eikä julkaisematon estolista — sääntöjä jotka voit lukea, joihin voit vedota ja joista voit pitää meidät vastuussa.
- Sinun velvollisuutesi. Sinä tiedät tarkoituksen, yleisön, lainkäyttöalueen ja jokaisen kuvatun henkilön suostumustilanteen. Työkalu ei tiedä, eikä luokittelija voisi koskaan tietää. Vahvistuskortti on olemassa, jotta tuo tieto sovelletaan sillä hetkellä kun sillä on merkitystä, sen osapuolen toimesta jolla se on.
- Raja joka ei liiku. ”Suodatin ei estänyt minua” ei ole koskaan ollut puolustus missään välineessä. Kamera ei kieltäydy, kynä ei kieltäydy; laki ja ammattietiikka ohjaavat käyttöä, eivät välinettä. Suodattamaton generaattori palauttaa tavanomaisen järjestyksen, jonka alla jokainen muu ammattityökalu toimii.
Lue vastuullisen käytön käytäntö ennen kuin aloitat. Se on lyhyt, täsmällinen ja se osa tätä tuotetta joka tekee lopusta puolustettavan.
09Usein kysytyt kysymykset
Miksi tekoälykuvageneraattori kieltäytyy kehotteesta joka on selvästi oikeutettu?
Koska useimmat suodattimet arvioivat kehotteesi sanoja, eivät tarkoitustasi. Luokittelija istuu mallin edessä ilman tietoa siitä kuka olet tai miksi kysyt, joten lääketieteellinen kuvittaja, oikeuslääketieteen analyytikko ja pahantahtoinen toimija kirjoittavat kaikki saman substantiivin ja saavat kaikki saman kieltäytymisen. The Intercept raportoi huhtikuussa 2023, että Midjourney oli kieltänyt anatomisia termejä kuten speculum, placenta ja cervix, kun taas stethoscope toimi normaalisti.
Onko olemassa tutkimusta, joka mittaa sisällönsuodattimien vääriä positiivisia tekoälytaidetyökaluissa?
Kyllä. OVERT (arXiv:2505.21347, ICML 2025) on ensimmäinen laajamittainen ylikieltäytymisen vertailutesti tekstistä kuvaksi -malleille: 4,600 näennäisen haitallista mutta aidosti vaaratonta kehotetta yhdeksässä turvallisuuskategoriassa sekä 1,785 aidosti haitallista kehotetta verrokkina. Sen tekijät raportoivat ylikieltäytymisen olevan yleistä johtavissa malleissa. Erillinen ECCV 2024 -tutkimus löysi sukupuoleen ja tyyliin liittyvää vinoumaa kolmesta NSFW-luokittelijasta, joita arvioitiin taiteellisella alastomuudella.
Mitä sensuroimaton tekoälykuvageneraattori oikeastaan muuttaa?
Se poistaa kieltäytymiskerroksen ja sisällönsuodattimen generointipolulta, joten oikeutettua pyyntöä ei luokitella hiljaa hyökkäykseksi. Se ei poista harkintaa — se siirtää sen. Shannon näyttää sinulle tarkan generointikehotteen vahvistuskortilla ennen kuin mitään renderöidään, joten päätöksen tekee ihminen joka näkee mitä ollaan tuottamassa, vastuullisen käytön käytännön alaisuudessa.
Generoiko Shannon videota?
Ei. Shannon generoi uusia kuvia, muokkaa yhtä olemassa olevaa kuvaa ja yhdistää kaksi tai useampia kuvia yhdeksi. Se ei animoi kuvia eikä tuota minkäänlaista videota.
Voinko generoida kuvia Shannonin API:n kautta?
Ei. Kuvien generointi, muokkaus ja yhdistäminen ovat Shannonin chat-sovelluksessa. /v1-API tarjoaa tekstin ja näön — toimittamiesi kuvien lukemisen ja analysoinnin — ei kuvien generointia.
Jos suodatinta ei ole, mikä estää väärinkäytön?
Käytäntö, vastuu ja näkyvä päätöskohta avainsanaestolistan sijaan. Shannon ei koskaan generoi pyytämättä, näyttää koko kehotteen ennen renderöintiä, ei laskuta mitään ennen kuin vahvistat, ja toimii julkaistun vastuullisen käytön käytännön alaisuudessa, joka kieltää alaikäisiä koskevan seksuaalisen sisällön, todellisten ihmisten intiimit kuvat ilman suostumusta, kohdennetun häirinnän sekä henkilöllisyys- ja rahoitusasiakirjojen väärentämisen.
Pyydä sitä kuvaa jota oikeasti tarvitset
Generointi, yhden kuvan muokkaus ja monikuvayhdistely chat-sovelluksessa — ei sisällönsuodatinta, ei kieltäytymiskerrosta, ja kehote näytöllä ennen kuin mitään renderöidään.
Aloita keskustelu Vastuullisen käytön käytäntöKuvat chat-sovelluksessa · ei videon generointia · lisää tutkimusta
Lähteet: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. huhtikuuta 2023 · PetaPixel, 3. huhtikuuta 2023 · CNBC, 22. helmikuuta 2024. Shannon AI:ta operoi Shannon Lab LLC, New Mexico, USA.