Zentsurarik gabeko vs iragazkidun AI irudi-sortzailea
Eduki-iragazkiak benetako kalte multzo txiki bat eragozteko eraiki ziren. Praktikan ilustrazio medikoa, berreraikuntza forentsea, modelo bizidunaren marrazketa, gerra-historia, satira editoriala eta beren produktuak irudikatzen dituzten enpresak ere eragozten dituzte. Horrek zer kostatzen duen — eta iragazkia kentzeak zer aldatzen duen eta zer ez.
Laburpena
Irudi-sortzaile nagusiek promptak eta irteerak hitzak eta pixelak ikusten dituzten sailkatzaileekin arakatzen dituzte, inoiz ez helburua. Horrek positibo faltsuak bermatzen ditu, eta gogorren lan trebatuari erasaten diote: anatomia, forentsea, arte-biluziak, irudi historikoak, aurre-bisualizazioa, satira, segurtasun-kontzientziazioko materiala, eta beren marka eskatzen duten eskubide-jabeak. OVERT-ek (ICML 2025), hutsegite-modu honentzako lehen eskala handiko benchmarkak, kalterik gabeko baina susmagarriak diren 4,600 prompt erabiltzen ditu eta gehiegizko ukoa eredu nagusien artean hedatuta dagoela ondorioztatzen du. Shannon-ek irudi-sorkuntza, irudi bakarreko edizioa eta hainbat irudiren konbinazioa gure GPU kluster propioan, eduki-iragazkirik eta uko egiteko geruzarik gabe exekutatzen ditu, blokeo-zerrenda erabaki ikusgai batekin ordezkatuz: ezer errendatu aurretik prompt zehatza erakusten duen berrespen-txartel bat. Horrek zure erantzukizuna eta gurea igotzen ditu; biak Erabilera Arduratsuaren Politikan daude. Ez dago bideo-sorkuntzarik, eta irudi-lana txat aplikazioan dago, ez APIan.
Irudiekin profesionalki lan egiten duten ia guztiek istorio bera dute. Zerbait arrunta deskribatzen duen prompt bat — belaun-artikulazio baten ebakidura, auto bat talkaren unean, ikatzezko figura-azterketa bat, 1944ko soldadu bat — politika-urraketa gisa itzultzen da. Berridatzi egiten duzu, eta beste urraketa bat jasotzen duzu. Azkenean pasatzeko bezain lauso den zerbait idazten duzu, eta behar zenuena jada erakusten ez duen irudi bat jasotzen duzu. Tresnak ez zuen ozen huts egin; mailaz maila huts egin zuen, eta zu bihurtu zintuen amore eman zuena.
01Zergatik uko egiten dio AI irudi-sortzaile batek argi eta garbi legitimoa den prompt bati?
Ukoa ez da normalean irudi-ereduaren iritzia. Ereduaren inguruko iragazki-pilaren emaitza da, eta bere geruzek jaso dituzun uko bitxi ia guztiak azaltzen dituzte.
| Geruza | Zer aztertzen duen | Hutsegite bereizgarria |
|---|---|---|
| Promptaren blokeo-zerrenda | Zure testuko kate literalak eta antzeko aldaerak | Hitz bat blokeatzen du inguruko esaldia kontuan hartu gabe — «speculum» huts egiten du, «stethoscope» pasatzen da |
| Promptaren sailkatzailea | Promptaren «arriskuari» buruzko epai ikasi bat | Gaien hurbiltasunagatik aktibatzen da: medikuntzatik, armetatik, gorputzetatik edo politikatik hurbil dagoen orok puntuazio altua lortzen du |
| Ereduaren uko-entrenamendua | Ereduaren beraren errezelo entrenatua | Errorerik gabe ukatzen du, edo isilean ordezko garbitu bat sortzen du |
| Irteera-sailkatzailea | Errendatutako pixelak, promptaren testuingururik gabe | Ezin du anatomia-lamina bat pornografiatik bereizi, ez film-fotograma bat benetako gertaera batetik |
| Politika bidezko ordezkapena | Zure promptaren isilpeko berridazketa errendatu aurretik | Irudi bat jasotzen duzu, baina ez zehaztu zenuena, eta ez zaizu zergatik esaten |
Geruza guztiek itsu-puntu bera dute: bat ere ez da gai zergatik ari zaren galdetzen ikusteko. Ilustratzaile mediko batek, talka bat berreraikitzen ari den demandatzailearen adituak eta asmo txarreko batek izen bera idazten dute. Iragazkiak izena ikusten du, ez atlasa ez espedientea, eta uzten dituen kalteen arabera baloratzen dute — inoiz ez suntsitzen duen lanaren arabera. Asimetria horren pean, edozein operadoreren ezarpen arrazionala gehiago ukatzea da. Horregatik ere «berridatzi besterik ez» ez da konponbidea: berridazteak ez dio iragazkiari falta zitzaion informaziorik ematen, zure prompta aktibatu zuten hitzetatik urruntzen du besterik, eta horrek normalean esan nahi duzunetik urruntzea esan nahi du.
02Zer eragozteko dauden benetan eduki-iragazkiak
Iragazkiak arrazoirik gabe daudela dioen iragazkirik gabeko sorkuntzaren aldeko argudio bat ez du merezi irakurtzea. Badago irteera multzo estu bat, zeinen kaltea irudiaren beraren berezkoa den, nork eta zergatik eskatu duen alde batera utzita:
- Adingabeak dituen eduki sexuala. Testuinguru batek ere ez du onargarri egiten; lan-fluxu profesional batek ere ez du eskatzen.
- Benetako pertsonen baimenik gabeko irudi intimoak. Kaltea ados egon ez den norbaiti erasaten dio, eta ezabatzeak ez du hori desegiten.
- Jazarpen zuzendua eta asmakuntza difamatzailea — izendatutako pertsona batek egin ez duen zerbait egin duela ematea.
- Faltsutze-mailako dokumentuak — pasaporteak, nortasun-agiriak, billeteak, zigiluak eta finantza-tresnak benetakoak balira bezala pasatzeko eginak.
- Froga sintetiko engainagarria — benetako gertaeren irudi asmatuak, ilustrazio gisa barik dokumentazio gisa aurkeztuak.
Zerrenda laburra da eta egitura bat du: kaltea artefaktuan bizi da, benetako pertsona edo dokumentu batekiko antzekotasunean, eta egia gisa aurkeztean. Erreparatu zer ez dagoen bertan — biluztasuna, odola, armak, historiako basakeria, iseka politikoa. Horiek dira medikuntzaren, kazetaritzaren, artearen, forentsearen eta satiraren lehengaia, eta horiek kalte-kategoria gisa tratatzen dituen iragazki batek zein gai diren errespetagarri erabakitzen duen ideia askoz zabalago bat ari da ezartzen.
Shannon-ek zerrenda horretako guztia debekatzen du, argitaratutako Erabilera Arduratsuaren Politika batean, kategoria izendatuekin eta ondorioekin, eta ez «placenta» ere harrapatzen duen hitz gakoen taula batekin. Bata irakur eta gure aurka erabil dezakezun araua da; bestea ikusi ezin duzun sailkatzaile batek zure asmoez egindako igarpen bat.
03Zenbaterainokoa da gehiegizko ukoaren arazoa? Zer neurtzen duen ikerketak
Duela gutxi arte, irudi-ereduetako gehiegizko ukoa anekdota bat zen — istorio bera zuten milaka pertsona eta hura neurtzeko modurik ez. Hori aldatu zen OVERT-ekin (OVEr-Refusal evaluation on Text-to-image models), ICML 2025ean aurkeztua UC Berkeley-ko talde batek — Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song eta Song Mei barne: testutik irudirako sistemek erabat kalterik gabeko promptak zenbatetan ukatzen dituzten neurtzen duen lehen eskala handiko benchmarka.
Diseinuak garrantzia du. 4,600 promptak kaltegarriak ematen duten baina kalterik gabekoak izateko eraikita daude — bisturi bat, ubeldura bat edo protesta bat aipatzen duen benetako eskaera profesional baten forma — eta benetan kaltegarriak diren 1,785 promptak haien ondoan daude kontrol gisa, eredu batek dena ukatuz puntuazio ona lortu ez dezan. Bederatzi kategoriak norbanakoen eta pertsona publikoen pribatutasunetik hasi eta egile-eskubideetatik, diskriminaziotik, autolesiotik, eduki sexualetik eta jarduera ilegaletik indarkeriaraino doaz.
Emaitza nagusia da gehiegizko ukoa kategoria guztietan eta eredu nagusi guztietan hedatuta dagoela. Bigarrena kaltegarriagoa da ohiko konponbiderako: egileek promptaren berridazketa probatu zuten neurri arintzaile gisa eta diote horrek «askotan jatorrizko prompten esanahiarekiko leialtasuna arriskuan jartzen duela». Iragazkia gainditu dezakezu eskatu duzuna aldatuz, eta orduan jada ez duzu eskatu zenuena.
Ikerketa estuago batek ondorio berera iristen da pixelen aldetik. An Art-centric perspective on AI-based content moderation of nudity lanean (Riccio, Curto, Hofmann eta Oliver, AI4VA tailerra ECCV 2024n), egileek ekoizpeneko hiru NSFW sailkatzaile ebaluatzen dituzte biluztasun artistikoaren gainean eta genero-alborapena eta estilo-alborapena aurkitzen dituzte: figura-azterketa bati buruzko epaia noren gorputza irudikatzen den eta zein estilotan dagoen araberakoa da. Hori da modelo bizidunaren marrazkilari orori irudipena dela esan zaion horren neurketa-adierazpena.
04Iragazkidun sortzaileek blokeatzen dituzten lan legitimoaren zortzi mota
Hauek dira gehiegizko ukoa eragozpena barik lan-geldialdia den kategoriak. Jakinarazitako kasu zehatz bat dagoen tokian aipatzen da; bat ere egiaztatu ez den tokian, kategoria deskribatzen da gertakaririk asmatu gabe.
1. Ilustrazio medikoa eta anatomikoa
Alorreko kasurik dokumentatuena. 2023ko apirilean, The Intercept-ek (Debbie Nathan) jakinarazi zuen Midjourney-k anatomia-terminoak debekatu zituela, tartean speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom eta IUD, eta DALL·E 2-k «pills used in medication abortion» ukatu zuela eduki-politikako mezu batekin. Eredua Julia Rockwell datu klinikoen analistak aurkitu zuen, plazenta baten irudi bat sortzen saiatu ondoren zelula-biologo lagun batentzako opari gisa, eta MIT Technology Review-ri jakinarazi zion. Asimetria da seinalea: «stethoscope» normal sortzen zen eta «speculum» debekatuta zegoen bitartean. Washingtongo Unibertsitateko Bill Howe ikertzaileak iragazkiak «traketsak» zirela esan zuen eta haiek «ugalketari buruzko eztabaida zientifiko bat izatea funtsean ezinezko» bihurtzen zutela. Pazienteen hezkuntzak, kirurgia-atlasek eta erizaintzako curriculumek gorputzak zehaztasunez irudikatuta behar dituzte, hitz gakoen zerrenda batek lotsagarritzat jo dituen zatiak barne.
2. Berreraikuntza forentsea eta istripuena
Talka-berreraikuntzak, suaren jatorriaren analisiak eta auzitegiko frogek kalteak, zauriak eta mekanika bortitzak zehaztasun klinikoz irudikatzea eskatzen dute. «Odola» edo «tiro-zauria» baztertzeko doitutako iragazki batek diziplina osoa baztertzen du: testuingurua — aditu-txosten bat, aseguru-espediente bat — ikusezina da sailkatzailearentzat, eta halako irudiak onargarri egiten dituen neutraltasun horrexek egiten du odolkeria gisa irakur daitezen.
3. Arte-biluziak eta modelo bizidunaren marrazketa
Biluzia artearen oinarrizko gaia da nonahi, eta figura-azterketa arte-hezkuntzaren muina da. Goiko ECCV 2024ko emaitza artistek salatzen dutenaren bertsio neurtua da: sailkatzaileek ez dute modu fidagarrian bereizten figura-azterketa bat pornografiatik, eta haien akatsak generoak eta estiloak alboratzen dituzte — ezagutu beharko lukeen tradizio horrexekin gogorrena den iragazki bat.
4. Irudi historikoak eta gerrakoak
Testuliburuetako arteak, museoen interpretazioak eta oroimen-proiektuek uniformeak, armak, esparruak, batailak eta basakeria irudikatzea eskatzen dute. 2024ko otsaileko Gemini-ren gertakaria argigarria da hutsegitea kontrako norabidean joan zelako eta kalte bera egin zuelako. Google-k Gemini-ren pertsonen irudiak sortzeko gaitasuna eten zuen 2024ko otsailaren 22an, talde historikoen irudikapen arrazialki birmoldatuak sortu ondoren, nazi garaiko soldadu alemaniarrak barne. Sundar Pichai zuzendari nagusiak irteerak «erabat onartezinak» zirela esan zuen; Prabhakar Raghavan presidenteordeak onartu zuen ereduak «gehiegi konpentsatu» zuela eta «gehiegi kontserbadore» bihurtu zela. Testuingurua ikusten ez duen segurtasunak ez zituen irudi historikoak seguruago egin — faltsu bihurtu zituen, eta hori okerragoa da historia-argitaletxe batentzat.
5. Fikziozko indarkeria eta zinemaren aurre-bisualizazioa
Storyboardek, kontzeptu-arteak, komikiek eta joko-diseinuak indarkeria irudikatzen dute eleberriek eta filmek egiten duten arrazoi berberagatik. Beldurrezko storyboard bat mehatxu batetik bereizi ezin duen iragazki batek narrazio-arteen kate osoa susmagarritzat hartzen du — nahiz eta storyboard bat esplizituki ez-erreala izan, aktoreek eta efektu-taldeek antzeztuko duten eszena baten plana.
6. Satira politikoa eta editorial-marrazkigintza
Boteretsuen karikatura demokrazia gehienetan adierazpen-kategoriarik babestuenetakoa da, eta ohikoa da irudi-iragazki batek kentzen duen lehen gauza izatea. Kasurik dokumentatuena Midjourney-k 2023ko apirilean hartutako erabakia da, Xi Jinping Txinako presidentearen irudiak galarazi eta haren izena promptetan blokeatzea — PetaPixel-ek, Decrypt-ek eta besteek jakinarazia — beste munduko liderrak baimentzen jarraitzen zuen bitartean. David Holz sortzaileak Discord-en azaldu zuen enpresak «drama minimizatu» nahi zuela eta «jendeak Txinan teknologia hau erabiltzeko duen gaitasuna garrantzitsuagoa dela satira sortzeko duzun gaitasuna baino»; Sarah McLaughlin-ek, Foundation for Individual Rights and Expression erakundekoak, zentsura zela esan zuen. Negozio-kalkuluari buruz zer ondorioztatzen den ere, mekanismoak izena merezi du: nazio bateko adierazpen-murrizketa bat munduko erabiltzaile guztiei aplikatuta, iragazki global batek ezarpen bakarra duelako.
7. Segurtasun-ikerketa eta phishingari buruzko kontzientziazio-materiala
Segurtasun-taldeek abisatzen duten gauzaren itxura izan behar duen prestakuntza-materiala eraikitzen dute: saioa hasteko pantaila faltsu sinesgarri bat, faktura faltsutu bat, parkimetro bateko QR kode maltzur bat. Sailkatzaile batentzat hori bereiztezina da txertatu nahi duen erasotik — egiantzekotasuna da kontua — beraz iragazkiek defentsa eta erasoa berdin blokeatzen dituzte, erasotzailea abantailatuz, zeinak inoiz ez baitzuen iragazkidun kontsumo-tresna bat erabiliko.
8. Beren marka, produktu edo antzekotasunaren irudiak ukatuta dituzten eskubide-jabeak
Egile-eskubideen eta marken iragazketak ez du jabetza egiaztatzen; antzekotasuna egiaztatzen du. Enpresa batek ezin ditu erraz bere logotipoaren edo produktuaren irudiak sortu, eskubide-jabe batek ezin du bere pertsonaia irudikatu, eta jendeak askotan ezin du bere aurpegia sortu, antzekotasun-iragazkiek ezagutgarritasunean oinarritzen baitira eta ez baimenean. OVERT-ek «copyright violations» sartzen du bere bederatzi gehiegizko uko kategorien artean, hain zuzen ere positibo faltsu hau hain ohikoa delako. Iragazkia tresna baldar bat da egin ezin duen galdera batentzat: eskubiderik al duzu honetarako?
Goiko zortzietatik lau kasu argitaratu zehatz bati lotuta daude (medikoa, arte-biluziak, historikoa, satira), gehi OVERT-en egile-eskubideen kategoria zortzigarrenerako. Forentsea, fikzioaren aurre-bisualizazioa eta segurtasun-kontzientziazioko materiala kategoria gisa aurkezten dira: lan profesional kaltetuaren klase ezagunak dira, baina ez dugu gertakari argitaratu zehatzik egiaztatu haietarako.
Goiko dokumentatutako kasu bakoitza publikoa eta modu independentean egiaztagarria da. Irakur itzazu, gure interpretazioaz fidatu beharrean.
05Zergatik blokeatzen dituzten AI arte-sortzaileek gauza okerrak, eta zergatik ezin diren eduki-iragazkien positibo faltsuak doikuntzaz kendu
Gehiegizko blokeoaren aurrean berezko erantzuna «jaitsi atalasea» da. Ez du funtzionatzen, arrazoi estrukturalengatik eta ez ahalegin faltagatik.
Kategoriak seinalean gainjartzen dira, baina ez errealitatean. Kirurgia-ilustrazio batek eta pornografiak biluztasuna partekatzen dute. Berreraikuntza forentse batek eta odolkeriak odola partekatzen dute. Kontzientziazio-diapositiba batek eta phishing kit batek saioa hasteko inprimaki faltsu bat partekatzen dute. Marrazki satiriko batek eta asmakuntza difamatzaile batek politikari ezagun bat partekatzen dute. Bikote bakoitza bereizten duena helburua eta aurkezpena da — promptean ez dagoena eta pixeletan ez dagoena. Atalase batek ere ez ditu bereizten sarrera-espazioaren eskualde bera hartzen duten bi populazio; hura mugitzeak akats bat bestearekin trukatzea besterik ez dakar. Hori erakutsi zuen Gemini-ren gertakariak: hutsegite bat konpontzeko esku-hartze batek beste bat sortu zuen, Google-ren presidenteordeak berak «gehiegi konpentsatua» deitua.
Kostuak asimetrikoak dira operadorearentzat, ez zuretzat. Irudi txar bat pasatzen uzten duen iragazki batek albiste bat sortzen du. Hamar mila irudi legitimo blokeatzen dituen batek isiltasuna sortzen du, ukatutako erabiltzaileek ez baitute antolatzen — amore ematen dute. Asimetria horren pean, arrisku-kudeaketa betirako gehiegizko blokeora lerratzen da. Eta azpiko epaia ezinezkoa denez, blokeo-zerrendek kate literalak pilatzen dituzte gertakariak gertatu ahala, eta horrela lortzen da «stethoscope» ongi egotea eta «speculum» debekatuta. Inork ez zuen erabaki emakumeen tresna espezifikoak arriskutsuagoak zirenik; zerrenda kexak iritsi ziren lekuan hazi zen. Operadore baten PR historia kodetzen du, ez kaltearen teoria bat.
Jurisdikziorik zorrotzena mundu mailako balio lehenetsi bihurtzen da. Iragazki bakar batek herrialde guztietako erabiltzaile guztiak zerbitzatzen ditu, beraz merkatu batentzat gehitutako murrizketa bat guztiei esportatzen zaie — Xi Jinping-en araua eskuliburuko kasua izanik. Eta zure prompta berridazteak zure esanahia suntsitzen du, eta hori da OVERT-en puntu esperimentala: eskaera bat eufemismo bihurtu duen profesional orok eskuz baieztatu du. Ez zenuen irabazi; amore eman zenuen.
Honetako ezer ez da doakoa, eta isilean huts egiten duenez, kostua ikusezina da operadore batek begiratzen dituen neurketetan. Nahiko uko jaso ondoren, galdetzeari uzten diozu, prompt bakoitza aldez aurretik estutuz pasatuko dela aurreikusten duzunera; azkenean pasatzen den eufemismoak zure dokumentuak behar zuenetik hurbil dagoen baina hori ez den irudi bat ematen du. Politika-mezu generiko batek ez dizu esaten zein geruza aktibatu den, beraz asmatu eta berriro saiatu besterik ezin duzu egin — eta irudi-lana iteratiboa da, beraz bostetik saiakera bat harrapatzen duen iragazki batek begizta eteten du, moteldu besterik egin ordez. Bitartean, tresna serioetarako erreklamaziorik indartsuena duten alorrek ez dute berrikuslerik, ez errekurtsorik, eta normalean ez dute blokeatuta dagoenaren zerrenda argitaraturik. Irakur ezin duzun arau bat ez da araua; eguraldia da.
06Zentsurarik gabeko vs iragazkidun AI irudi-sortzailea: zer aldatzen den benetan
Hona hemen konparaketaren bertsio zintzoa, iragazkirik gabeko sistema batek zer ez dizun ematen barne.
| Dimentsioa | Iragazkidun sortzailea | Iragazkirik gabekoa (Shannon) |
|---|---|---|
| Zerk erabakitzen duen | Hitzak eta pixelak irakurtzen dituen sailkatzaile batek | Prompt zehatza irakurtzen duen pertsona batek |
| Noiz jakiten duzun | Bidali ondoren — batzuetan ordaindu ondoren | Ezer errendatu edo fakturatu aurretik |
| Zein den araua | Argitaratu gabeko blokeo-zerrenda aldakorrak | Argitaratutako Erabilera Arduratsuaren Politika bat |
| Testuinguru profesionala | Ikusezina sistemarentzat | Zurea eusteko, eta zurea erantzuteko |
| Hutsegite-modua | Isilpeko gehiegizko blokeoa, esanahiaren desbideratzea | Eskatu duzuna jasotzen duzu — akatsak barne |
| Nork daraman arriskua | Hornitzaileak, zure lanera deskargatuta | Partekatua: operadorearen politika gehi erabiltzailearen erantzukizuna |
Azken errenkada da jendeak saltatzen duena, eta garrantzia duena. Iragazki bat kentzeak ez ditu 02. ataleko kalte-kategoriak kentzen; haiei buruz gaizki asmatzen ari zen makina kentzen du. Betebeharra zegoen lekuan geratzen da, orain testuinguruaz arrazoi dezaketen bi alderdik eutsita: operadoreak, politika bat argitaratu eta betearazten duenak, eta zuk, irudia zertarako den dakizunak. Iragazkirik gabeko AI irudi-sorkuntza beren emaitzaren atzean jartzeko prest dagoen jendearentzako tresna bat da — kirurgialariaren atlasa, aditu-txostena, storyboarda, marrazkia — eta beste norbaitengandik bereizi ezin zituen sistema batek geldiarazten zituenak.
07Zer egiten duen Shannon-ek — eta zer ez duen egiten
Hemen zehaztasunak gogo onak baino gehiago axola du, batez ere APIaren bilaketa batetik iristen diren irakurleentzat.
Zer egiten duen
- Sorkuntza. Deskribatu irudi bat hizkera arruntean, edozein hizkuntzatan. Shannon-ek sorkuntza-prompta berak idazten du, ingelesez, zein hizkuntzatan eskatu duzun ere.
- Irudi bat editatzea. Zehazki iturri bat — dagoeneko elkarrizketan dagoen argazki bat, edo uneko mezuari erantsitako bat — zer aldatzen den eta zer geratzen den esaten duen argibide batek aldatuta. Irteerak jatorrizko aspektu-erlazioa mantentzen du automatikoki.
- Bi irudi edo gehiago konbinatzea. Jantzien transferentzia, objektua-eszenan, pertsona pertsonaren ondoan, produktua-pertsonaren-gainean, irudi bateko subjektua beste bateko estiloarekin. Promptak irudi bakoitzaren rola ordenan izendatzen du, eta benetako irudiak erabiltzen dira, beraz haien benetako itxura gorde egiten da, berriro deskribatu beharrean.
- Aspektu-kontrola. square (lehenetsia), portrait, landscape, wide eta tall. Eskaera esplizitu batek beti irabazten du.
- Errendatzea gure GPU kluster propioan, sorkuntza-bidean eduki-iragazkirik gabe eta prompta idazten duen ereduan uko egiteko geruzarik gabe.
Zer ez duen egiten
- Bideorik ez. Shannon-ek ez ditu irudiak animatzen eta ez du bideorik sortzen. Ez da nahita ezkutatzen ari garen bide-orriko puntu bat — ez da existitzen.
- APIan ez. Irudiak sortzea, editatzea eta konbinatzea Shannon txat aplikazioan daude. /v1 APIak testua eta ikusmena zerbitzatzen ditu — bidaltzen dizkiozun irudiak irakur ditzake — baina ez ditu errendatzen.
- Gonbidatu gabeko sorkuntzarik ez. Agur batek, galdera batek edo nolanahi erantsitako argazki batek ez du irudi bat abiarazten. Shannon-i irudi bat begiratzeko eskatzea — deskribatzea, irakurtzea, aztertzea — ikusmen-lan arrunta da, ez sorkuntza bat, eta ez du ezer gehiago kostatzen.
Berrespen-txartela
Hau da iragazkia ordezkatzen duen mekanismoa, eta diseinu-aukera bat da, ez formalismo bat. Shannon-ek irudi bat eskatzen ari zarela zehazten duenean, sorkuntza-prompta idazten du eta berrespen-txartel batean erakusten dizu ezer errendatu aurretik. Ez da ezer sortzen eta ez da ezer fakturatzen zuk berretsi arte.
Konparatu bi diseinuak beren merituengatik. Iragazki batek zure asmoa asmatzen du zuk duzuna baino informazio gutxiagorekin, eta igarpena isilean betearazten du. Berrespen-txartel batek irudiaren zehaztapen literala jartzen du zertarako den dakien alderdiaren aurrean, konputazioa gastatu aurretik. Zure eskaeraren gaizki-ulertuak harrapatzen ditu, eta iragazkiek ez dute inoiz hori egiten; ereduak gutxiegi zehaztu duen anatomia-zehaztasuna edo xehetasun historikoa gehitzen uzten dizu; eta erantzukizuna irakurgarri egiten du, lauso egin beharrean. Prompta ikusi zenuen, eta botoia sakatu zenuen.
08Iragazkirik gabeko sorkuntzak erantzukizuna igotzen du, ez du kentzen
Hau hemen dagokio eta ez oin-ohar batean, argudioaren erdia baita. Iragazkidun sortzaile batek bete ezin duen promes bat egiten du: tresnak zure ordez gehiegikeria eragotziko duela. Bi norabideetan huts egiten du — kirurgialaria blokeatzen du, eta ez du geldiarazten asmo txarreko erabaki bat duena, zeinak beste aukera batzuk baititu eta beti izan baititu. Modu fidagarrian egiten duena da guztiei sentiaraztea erantzukizuna gorago konpondu dela, makinaz. Iragazkia kentzeak fikzio hori kentzen du; irudi batek existitu behar duen ala ez erantzun dezaketen pertsonengana itzultzen da.
- Shannon Lab LLC-ren betebeharra. Argitaratutako Erabilera Arduratsuaren Politika zehatz bat, kategoria debekatuak izendatzen dituena, argitaratu gabeko blokeo-zerrenda bat baino — irakur, aipatu eta gure aurka erabil ditzakezun arauak.
- Zure betebeharra. Zuk dakizu helburua, ikuslegoa, jurisdikzioa eta irudikatutako guztien baimen-egoera. Tresnak ez daki, eta sailkatzaile batek ezingo luke inoiz jakin. Berrespen-txartela existitzen da ezagutza hori axola duen unean aplikatu dezan hura duen alderdiak.
- Mugitzen ez den muga. «Iragazkiak ez ninduen geldiarazi» ez da inoiz defentsa izan inolako euskarritan. Kamera batek ez du ukorik egiten, arkatz batek ez du ukorik egiten; legeak eta etika profesionalak erabilera arautzen dute, ez tresna. Iragazkirik gabeko sortzaile batek beste tresna profesional guztiek duten antolaketa arrunta berrezartzen du.
Irakurri Erabilera Arduratsuaren Politika hasi aurretik. Laburra da, zehatza, eta produktu honen gainerakoa defendagarri egiten duen zatia.
09Maiz egiten diren galderak
Zergatik uko egiten dio AI irudi-sortzaile batek argi eta garbi legitimoa den prompt bati?
Iragazki gehienek zure promptaren hitzak epaitzen dituztelako, eta ez zure helburua. Sailkatzaile bat dago ereduaren aurrean, zu nor zaren edo zergatik ari zaren galdetzen jakiteko modurik gabe; beraz, ilustratzaile mediko batek, analista forentse batek eta asmo txarreko batek izen bera idazten dute eta uko bera jasotzen dute. The Intercept-ek 2023ko apirilean jakinarazi zuen Midjourney-k anatomia-terminoak debekatu zituela, speculum, placenta eta cervix barne, stethoscope normal funtzionatzen zuen bitartean.
Ba al dago eduki-iragazkien positibo faltsuak neurtzen dituen ikerketarik AI arte-tresnetan?
Bai. OVERT (arXiv:2505.21347, ICML 2025) testutik irudirako ereduentzako gehiegizko ukoaren lehen eskala handiko benchmarka da: kaltegarriak diruditen baina benetan kalterik gabeko 4,600 prompt, bederatzi segurtasun-kategoriatan, gehi benetan kaltegarriak diren 1,785 prompt kontrol gisa. Egileek diote gehiegizko ukoa hedatuta dagoela eredu nagusien artean. ECCV 2024ko beste ikerketa batek genero- eta estilo-alborapena aurkitu zuen biluztasun artistikoaren gainean ebaluatutako hiru NSFW sailkatzailetan.
Zer aldatzen du benetan zentsurarik gabeko AI irudi-sortzaile batek?
Uko egiteko geruza eta eduki-iragazkia kentzen ditu sorkuntza-bidetik, eta horrela eskaera legitimo bat ez da isilean eraso gisa birsailkatzen. Ez du epaiketa kentzen — lekuz aldatzen du. Shannon-ek sorkuntza-prompt zehatza erakusten dizu berrespen-txartel batean ezer errendatu aurretik, eta beraz erabakia zer sortuko den ikus dezakeen pertsona batek hartzen du, Erabilera Arduratsuaren Politikaren pean.
Bideoa sortzen al du Shannon-ek?
Ez. Shannon-ek irudi berriak sortzen ditu, lehendik dagoen irudi bat editatzen du, eta bi irudi edo gehiago bakar batean konbinatzen ditu. Ez ditu irudiak animatzen eta ez du inolako bideorik sortzen.
Sor ditzaket irudiak Shannon APIaren bidez?
Ez. Irudiak sortzea, editatzea eta konbinatzea Shannon txat aplikazioan daude. /v1 APIak testua eta ikusmena zerbitzatzen ditu — ematen dizkiozun irudiak irakurtzea eta aztertzea — ez irudi-sorkuntza.
Iragazkirik ez badago, zerk eragozten du gehiegikeria?
Politikak, erantzukizunak eta erabaki-puntu ikusgai batek, hitz gakoen blokeo-zerrenda batek baino. Shannon-ek ez du inoiz gonbidatu gabe sortzen, prompt osoa erakusten du errendatu aurretik, ez du ezer fakturatzen zuk berretsi arte, eta argitaratutako Erabilera Arduratsuaren Politika baten pean funtzionatzen du, zeinak debekatzen baititu adingabeak dituen eduki sexuala, benetako pertsonen baimenik gabeko irudi intimoak, jazarpen zuzendua, eta nortasun- edo finantza-dokumentuen faltsutzea.
Eskatu benetan behar duzun irudia
Sorkuntza, irudi bakarreko edizioa eta hainbat irudiren konbinazioa txat aplikazioan — eduki-iragazkirik ez, uko egiteko geruzarik ez, eta prompta pantailan ezer errendatu aurretik.
Hasi txateatzen Erabilera Arduratsuaren PolitikaIrudiak txat aplikazioan · bideo-sorkuntzarik ez · ikerketa gehiago
Iturriak: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023ko apirilaren 22a · PetaPixel, 2023ko apirilaren 3a · CNBC, 2024ko otsailaren 22a. Shannon AI Shannon Lab LLC-k kudeatzen du, New Mexico, AEB.