Sense censura contra filtrat: generador d'imatges amb IA
Els filtres de contingut es van construir per aturar un conjunt reduït de danys reals. A la pràctica també aturen la il·lustració mèdica, la reconstrucció forense, el dibuix del natural, la història bèl·lica, la sàtira editorial i les empreses que volen retratar els seus propis productes. Això és el que costa — i què canvia i què no canvia treure el filtre.
Resum ràpid
Els generadors d'imatges convencionals filtren prompts i sortides amb classificadors que veuen paraules i píxels, mai la finalitat. Això garanteix falsos positius, i cauen amb més força sobre la feina especialitzada: anatomia, forense, nus artístics, imatgeria històrica, previsualització, sàtira, materials de conscienciació en seguretat i titulars de drets que demanen la seva pròpia marca. OVERT (ICML 2025), el primer benchmark a gran escala d'aquest mode de fallada, utilitza 4.600 prompts benignes però sospitosos i conclou que el refús excessiu està estès entre els models capdavanters. Shannon executa la generació d'imatges, l'edició d'una sola imatge i la combinació de múltiples imatges al nostre propi clúster de GPU sense cap filtre de contingut i sense cap capa de refús, i substitueix la llista negra per una decisió visible: una targeta de confirmació que mostra el prompt exacte abans que es renderitzi res. Això apuja la teva responsabilitat i la nostra; totes dues són a la Política d'ús responsable. No hi ha generació de vídeo, i la feina amb imatges viu a l'aplicació de xat, no a l'API.
Gairebé tothom que treballa professionalment amb imatges té la mateixa història. Un prompt que descriu una cosa corrent — una secció transversal d'una articulació del genoll, un cotxe en el moment de l'impacte, un estudi de figura al carbonet, un soldat el 1944 — torna com una violació de la política. El reformules i reps una violació diferent. Al final escrius alguna cosa prou vaga per passar i obtens una imatge que ja no mostra el que necessitaves. L'eina no va fallar de manera sorollosa; va fallar per graus, i et va convertir a tu en qui va cedir.
01Per què un generador d'imatges amb IA rebutja un prompt clarament legítim?
El refús normalment no és l'opinió del model d'imatge. És la sortida d'una pila de filtratge que envolta el model, i les seves capes expliquen gairebé tots els refusos estranys que has rebut.
| Capa | Què inspecciona | Fallada característica |
|---|---|---|
| Llista negra de prompts | Cadenes literals i variants properes dins del teu text | Bloqueja una paraula independentment de la frase que l'envolta — «espècul» falla, «estetoscopi» passa |
| Classificador de prompts | Un judici après sobre el «risc» del prompt | S'activa per proximitat temàtica: qualsevol cosa a prop de la medicina, les armes, els cossos o la política puntua alt |
| Entrenament de refús del model | La reticència apresa del mateix model | Rebutja sense donar cap error, o produeix discretament un substitut higienitzat |
| Classificador de sortida | Els píxels renderitzats, sense context del prompt | No pot distingir una làmina d'anatomia de la pornografia, ni un fotograma de pel·lícula d'un fet real |
| Substitució per política | Reescriptura silenciosa del teu prompt abans de renderitzar | Obtens una imatge, però no la que havies especificat, i no se't diu per què |
Totes les capes comparteixen un mateix punt cec: cap no pot veure per què ho demanes. Un il·lustrador mèdic, un perit que reconstrueix una col·lisió per a una demanda i algú amb males intencions escriuen tots el mateix substantiu. El filtre veu el substantiu, no l'atles ni l'expedient del cas, i se l'avalua pels danys que deixa passar — mai per la feina que destrueix. Sota aquesta asimetria, l'ajust racional per a qualsevol operador és rebutjar més. També és el motiu pel qual «prova de reformular-ho» no és cap solució: reformular no dona al filtre cap informació que li faltés, només allunya el teu prompt de les paraules que el van activar, cosa que normalment vol dir allunyar-lo del que volies dir.
02Què eviten realment els filtres de contingut
Un argument a favor de la generació sense filtres que fingeixi que els filtres existeixen sense cap motiu no val la pena llegir-lo. Hi ha un conjunt reduït de sortides el dany de les quals és intrínsec a la imatge mateixa, independentment de qui ho demani i per què:
- Contingut sexual que involucra menors. Cap context no ho fa acceptable; cap flux de treball professional no ho requereix.
- Imatges íntimes no consentides de persones reals. El dany recau sobre algú que no hi va accedir, i una retirada no el desfà.
- Assetjament dirigit i fabricació difamatòria — fer que sembli que una persona identificada ha fet una cosa que no va fer.
- Documents amb qualitat de falsificació — passaports, documents d'identitat, bitllets, segells i instruments financers fets per passar per autèntics.
- Proves sintètiques enganyoses — imatgeria fabricada de fets reals presentada com a documentació i no com a il·lustració.
La llista és curta i té una estructura: el dany viu a l'artefacte, en la seva semblança amb una persona o un document reals, i en la seva presentació com a veritat. Fixa't en què no hi ha: nuesa, sang, armes, atrocitats històriques, ridiculització política. Aquestes són la matèria primera de la medicina, el periodisme, l'art, la ciència forense i la sàtira, i un filtre que les tracta com a categories de dany està implementant una idea molt més àmplia sobre quins temes són respectables.
Shannon prohibeix tot el que hi ha en aquella llista, en una Política d'ús responsable publicada amb categories anomenades i conseqüències, i no pas en una taula de paraules clau que també atrapa «placenta». L'una és una regla que pots llegir i exigir-nos que complim; l'altra és una conjectura sobre les teves intencions feta per un classificador que no pots veure.
03Quina magnitud té el problema del refús excessiu? Què mesura la recerca
Fins fa poc, el refús excessiu als models d'imatge era una anècdota — milers de persones amb la mateixa història i sense manera de quantificar-ho. Això va canviar amb OVERT (OVEr-Refusal evaluation on Text-to-image models), presentat a ICML 2025 per un grup de la UC Berkeley que incloïa Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song i Song Mei: el primer benchmark a gran escala que mesura amb quina freqüència els sistemes de text a imatge rebutgen prompts completament benignes.
El disseny importa. Els 4.600 prompts estan construïts perquè semblin nocius tot sent inofensius — la forma d'una petició professional real que esmenta un bisturí, un blau o una manifestació — i els 1.785 prompts genuïnament nocius hi conviuen com a control, de manera que un model no pot puntuar bé rebutjant-ho tot. Les nou categories van de la privacitat individual i de figures públiques als drets d'autor, la discriminació, l'autolesió, el contingut sexual i l'activitat il·legal, fins a la violència.
La conclusió principal és que el refús excessiu està estès entre categories i entre models capdavanters. La segona és més demolidora per a l'apedaçament habitual: els autors van provar la reescriptura del prompt com a mitigació i informen que «sovint compromet la fidelitat al significat dels prompts originals». Pots superar el filtre canviant el que demanaves, i llavors ja no tens el que demanaves.
Un estudi més acotat arriba a la mateixa conclusió des del costat dels píxels. A An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann i Oliver, taller AI4VA a ECCV 2024), els autors avaluen tres classificadors NSFW de producció sobre nuesa artística i hi descobreixen tant un biaix de gènere com un biaix estilístic: el veredicte sobre un estudi de figura depèn del cos de qui es representa i en quin estil. Aquesta és la constatació mesurada d'allò que a tot artista de dibuix del natural li han dit que era imaginari.
04Vuit tipus de feina legítima que els generadors filtrats bloquegen
Aquestes són les categories on el refús excessiu no és una molèstia sinó una aturada de feina. Allà on existeix un cas concret documentat, se cita; allà on no se n'ha verificat cap, la categoria es descriu sense inventar cap incident.
1. Il·lustració mèdica i anatòmica
El cas millor documentat del camp. L'abril de 2023, The Intercept (Debbie Nathan) va informar que Midjourney havia prohibit termes anatòmics com ara espècul, placenta, cèrvix, vulva, trompes de Fal·lopi, glàndules mamàries, uterí, uretra, himen, esperma, preservatiu i DIU, mentre que DALL·E 2 rebutjava «pastilles usades en l'avortament farmacològic» amb un missatge de política de contingut. El patró el va descobrir Julia Rockwell, una analista de dades clíniques que havia intentat generar una imatge d'una placenta com a regal per a una amiga biòloga cel·lular, i el va comunicar a MIT Technology Review. L'asimetria és la clau: «estetoscopi» es generava amb normalitat mentre que «espècul» estava prohibit. L'investigador de la Universitat de Washington Bill Howe va qualificar els filtres de «matussers» i va dir que feien «bàsicament impossible mantenir una discussió científica sobre la reproducció». L'educació de pacients, els atles quirúrgics i els currículums d'infermeria necessiten tots representar cossos amb precisió, incloent-hi les parts que una llista de paraules clau ha decidit que són indecents.
2. Reconstrucció forense i d'accidents
La reconstrucció de col·lisions, l'anàlisi de l'origen d'incendis i les proves demostratives per a judicis exigeixen representar danys, ferides i mecàniques violentes amb precisió clínica. Un filtre ajustat per rebutjar «sang» o «ferida de bala» rebutja la disciplina sencera: el context — un informe pericial, un expedient d'assegurances — és invisible per al classificador, i justament la neutralitat que fa admissible aquesta imatgeria és el que fa que es llegeixi com a escena sagnant.
3. Nus artístics i dibuix del natural
El nu és un tema fundacional de l'art a tot arreu, i l'estudi de figura és central en la formació artística. El resultat d'ECCV 2024 esmentat més amunt és la versió mesurada d'allò que reporten els artistes: els classificadors no separen de manera fiable un estudi de figura de la pornografia, i els seus errors estan esbiaixats per gènere i estil — un filtre que colpeja amb més força justament la tradició que hauria de reconèixer.
4. Imatgeria històrica i bèl·lica
L'art de llibre de text, la interpretació museística i els projectes memorials exigeixen representar uniformes, armes, camps, batalles i atrocitats. L'episodi de Gemini del febrer de 2024 és instructiu perquè la fallada anava en direcció contrària i va fer un dany igual de gran. Google va aturar la capacitat de Gemini de generar imatges de persones el 22 de febrer de 2024 després que produís representacions racialment recompostes de grups històrics, incloent-hi soldats alemanys de l'època nazi. El conseller delegat Sundar Pichai va qualificar les sortides de «completament inacceptables»; el vicepresident sènior Prabhakar Raghavan va reconèixer que el model havia «sobrecompensat» i s'havia tornat «excessivament conservador». Una seguretat cega al context no va fer més segura la imatgeria històrica — la va fer falsa, cosa que per a una editorial d'història és pitjor.
5. Violència en la ficció i previsualització cinematogràfica
Els guions il·lustrats, l'art conceptual, el còmic i el disseny de videojocs representen violència pel mateix motiu que ho fan les novel·les i les pel·lícules. Un filtre que no pot distingir un guió il·lustrat de terror d'una amenaça tracta com a sospitosa tota la cadena de producció de les arts narratives — tot i que un guió il·lustrat és explícitament no real, un pla per a una escena que actors i equips d'efectes escenificaran.
6. Sàtira política i vinyeta editorial
La caricatura dels poderosos és una de les categories d'expressió més protegides a la majoria de democràcies, i habitualment la primera cosa que un filtre d'imatges elimina. El cas documentat més clar és la decisió de Midjourney, l'abril de 2023, de vetar imatges del president xinès Xi Jinping i de bloquejar-ne el nom als prompts — publicada per PetaPixel, Decrypt i d'altres — mentre continuava permetent altres líders mundials. El fundador David Holz va explicar a Discord que l'empresa volia «minimitzar el drama» i que «la capacitat de la gent de la Xina d'utilitzar aquesta tecnologia és més important que la teva capacitat de generar sàtira»; Sarah McLaughlin, de la Foundation for Individual Rights and Expression, ho va qualificar de censura. Sigui quina sigui la conclusió sobre el càlcul empresarial, el mecanisme mereix ser anomenat: una restricció nacional de l'expressió aplicada a tots els usuaris del món, perquè un filtre global només té un ajust.
7. Recerca de seguretat i material de conscienciació sobre phishing
Els equips de seguretat construeixen material de formació que ha d'assemblar-se a allò contra el qual adverteix: una pantalla d'inici de sessió falsa convincent, una factura suplantada, un codi QR maliciós en un parquímetre. Per a un classificador això és indistingible de l'atac contra el qual immunitza — la versemblança és justament la qüestió — de manera que els filtres bloquegen igual la defensa i l'atac, cosa que afavoreix l'atacant, que de tota manera mai no anava a utilitzar una eina de consum filtrada.
8. Titulars de drets a qui es rebutgen imatges de la seva pròpia marca, producte o semblança
El filtratge de drets d'autor i de marques no comprova la titularitat; comprova la semblança. Una empresa no pot generar fàcilment imatgeria del seu propi logotip o producte, un titular de drets no pot retratar el seu propi personatge, i sovint la gent no pot generar la seva pròpia cara, perquè els filtres de semblança es basen en la recognoscibilitat i no en el consentiment. OVERT inclou les «violacions de drets d'autor» entre les seves nou categories de refús excessiu justament perquè aquest fals positiu és molt habitual. El filtre és un instrument contundent per a una pregunta — tens el dret sobre això? — que no té cap manera de formular.
Quatre dels vuit punts anteriors estan ancorats a un cas publicat concret (mèdic, nus artístics, històric, sàtira), més la categoria de drets d'autor d'OVERT per al vuitè. La ciència forense, la previsualització de ficció i el material de conscienciació en seguretat es presenten com a categories: són classes ben conegudes de feina professional afectada per a les quals no hem verificat cap incident publicat concret.
Tots els casos documentats anteriors són públics i verificables de manera independent. Llegeix-los en lloc de fiar-te de la nostra caracterització.
05Per què els generadors d'art amb IA bloquegen les coses equivocades, i per què els falsos positius del filtre de contingut no es poden ajustar fins a fer-los desaparèixer
La reacció instintiva davant el bloqueig excessiu és «afluixem el llindar». No funciona, per motius estructurals i no per manca d'esforç.
Les categories se superposen en el senyal però no en la realitat. Una il·lustració quirúrgica i la pornografia comparteixen la nuesa. Una reconstrucció forense i una escena sagnant comparteixen la sang. Una diapositiva de conscienciació i un kit de phishing comparteixen un formulari d'inici de sessió fals. Una vinyeta satírica i una fabricació difamatòria comparteixen un polític reconeixible. El que distingeix cada parella és la finalitat i la presentació — absents del prompt i absents dels píxels. Cap llindar no separa dues poblacions que ocupen la mateixa regió de l'espai d'entrada; moure'l només canvia un error per l'altre. Això és el que va mostrar l'episodi de Gemini: una intervenció pensada per corregir una fallada en va produir una altra, descrita pel vicepresident sènior de la mateixa Google com a «sobrecompensada».
Els costos són asimètrics per a l'operador, no per a tu. Un filtre que deixa passar una imatge dolenta produeix una notícia. Un filtre que en bloqueja deu mil de legítimes produeix silenci, perquè els usuaris rebutjats no s'organitzen: es rendeixen. La gestió del risc sota aquesta asimetria convergeix cap al bloqueig excessiu, de manera permanent. I com que el judici de fons és impossible, les llistes negres acumulen cadenes literals a mesura que passen incidents, i així és com acabes amb «estetoscopi» permès i «espècul» prohibit. Ningú no va decidir que els instruments específicament femenins fossin més perillosos; la llista va créixer allà on van caure les queixes. Codifica l'historial de relacions públiques d'un operador, no una teoria del dany.
La jurisdicció més estricta esdevé el valor per defecte global. Un únic filtre serveix tots els usuaris de tots els països, de manera que una restricció afegida per a un mercat s'exporta a tots — el cas de Xi Jinping n'és l'exemple de manual. I reescriure el teu prompt destrueix el teu significat, que és la constatació experimental d'OVERT: tot professional que ha blanquejat una petició amb eufemismes per fer-la passar per un filtre ho ha confirmat de primera mà. No vas guanyar; et vas conformar.
Res d'això no és gratis i, com que falla en silenci, el cost és invisible en les mètriques que un operador vigila. Després de prou refusos deixes de demanar-ho, i estretes per endavant cada prompt cap al que preveus que passarà; l'eufemisme que finalment passa dona una imatge propera a — però que no és — la que necessitava el teu document. Un missatge de política genèric no et diu res sobre quina capa s'ha activat, així que només pots endevinar i tornar-ho a provar — i la feina amb imatges és iterativa, de manera que un filtre que atrapa un intent de cada cinc trenca el cicle en lloc de només alentir-lo. Mentrestant, els camps amb la reivindicació més forta d'eines serioses no tenen cap revisor, cap recurs i normalment cap llista publicada del que està bloquejat. Una regla que no pots llegir no és una regla; és meteorologia.
06Generador d'imatges amb IA sense censura contra filtrat: què canvia realment
Aquí tens la versió honesta de la comparació, incloent-hi el que un sistema sense filtres no et dona.
| Dimensió | Generador filtrat | Sense filtrar (Shannon) |
|---|---|---|
| Qui decideix | Un classificador que llegeix paraules i píxels | Una persona que llegeix el prompt exacte |
| Quan ho descobreixes | Després d'enviar-ho — de vegades després de pagar | Abans que es renderitzi o es facturi res |
| Quina és la regla | Llistes negres no publicades i canviants | Una Política d'ús responsable publicada |
| Context professional | Invisible per al sistema | Teu de sostenir, i teu de respondre'n |
| Mode de fallada | Bloqueig excessiu silenciós, deriva del significat | Obtens el que has demanat — errors inclosos |
| Qui assumeix el risc | El proveïdor, descarregat sobre la teva feina | Compartit: política de l'operador més responsabilitat de l'usuari |
L'última fila és la que la gent es salta, i la que importa. Treure un filtre no elimina les categories de dany de la secció 02; elimina la màquina que hi feia conjectures dolentes. L'obligació es queda on era, sostinguda ara per dues parts que sí que poden raonar sobre el context: l'operador, que publica i fa complir una política, i tu, que saps per a què serveix la imatge. La generació d'imatges amb IA sense filtres és una eina per a persones ja preparades per respondre del que produeixen — l'atles del cirurgià, l'informe pericial, el guió il·lustrat, la vinyeta — i que estaven sent aturades per un sistema incapaç de distingir-les d'algú altre.
07Què fa Shannon — i què no fa
Aquí la precisió importa més que l'entusiasme, sobretot per als lectors que arriben des d'una cerca sobre l'API.
Què fa
- Generació. Descriu una imatge en llenguatge planer, en qualsevol idioma. Shannon escriu ell mateix el prompt de generació, en anglès, sigui quin sigui l'idioma en què has preguntat.
- Edició d'una imatge. Exactament una font — una imatge ja present a la conversa, o una d'adjunta al teu missatge actual — modificada per una instrucció que diu què canvia i què es manté. La sortida conserva automàticament la relació d'aspecte de l'origen.
- Combinació de dues o més imatges. Transferència de vestuari, objecte dins d'escena, persona al costat de persona, producte sobre persona, subjecte d'una imatge amb estil d'una altra. El prompt anomena el paper de cada imatge en ordre, i s'utilitzen les imatges reals, així que se'n preserva l'aparença efectiva en lloc de tornar-la a descriure.
- Control de la forma. square (per defecte), portrait, landscape, wide i tall. Una petició explícita sempre mana.
- Renderitzat al nostre propi clúster de GPU, sense cap filtre de contingut al camí de generació i sense cap capa de refús al model que escriu el prompt.
Què no fa
- Res de vídeo. Shannon no anima imatges i no produeix vídeo. No és un element del full de ruta que amaguem amb coqueteria — no existeix.
- No és a l'API. La generació, l'edició i la combinació d'imatges viuen a l'aplicació de xat de Shannon. L'API /v1 serveix text i visió — pot llegir les imatges que li envies — però no les renderitza.
- Cap generació no demanada. Una salutació, una pregunta o una foto adjuntada de passada no activen cap imatge. Demanar a Shannon que miri una imatge — que la descrigui, la llegeixi, l'analitzi — és feina de visió ordinària, no una generació, i no costa res extra.
La targeta de confirmació
Aquest és el mecanisme que substitueix el filtre, i és una decisió de disseny i no una formalitat. Quan Shannon determina que estàs demanant una imatge, escriu el prompt de generació i te'l mostra en una targeta de confirmació abans que es renderitzi res. No es genera ni es factura res fins que confirmes.
Compara els dos dissenys pels seus mèrits. Un filtre endevina la teva intenció amb menys informació de la que tens tu, i imposa la conjectura en silenci. Una targeta de confirmació posa l'especificació literal de la imatge davant de qui sap per a què serveix, abans de gastar cap càlcul. Atrapa les males lectures de la teva petició, cosa que els filtres no fan mai; et deixa afegir la precisió anatòmica o el detall històric que el model havia infraespecificat; i fa que la responsabilitat sigui llegible en lloc de difusa. Vas veure el prompt, i vas prémer el botó.
08La generació sense filtres apuja la responsabilitat, no la treu
Això va aquí i no en un peu de pàgina, perquè és la meitat de l'argument. Un generador filtrat fa una promesa que no pot complir: que l'eina evitarà l'ús indegut en nom teu. Falla en totes dues direccions — bloqueja el cirurgià i no atura un actor malintencionat decidit, que té altres opcions i sempre les ha tingudes. El que sí que aconsegueix de manera fiable és que tothom senti que la responsabilitat s'ha resolt aigües amunt, per màquina. Treure el filtre elimina aquesta ficció; la pregunta de si una imatge hauria d'existir torna a les persones que la poden respondre.
- L'obligació de Shannon Lab LLC. Una Política d'ús responsable publicada i concreta que anomena les categories prohibides en lloc d'una llista negra no publicada — regles que pots llegir, citar i exigir-nos que complim.
- La teva obligació. Tu saps la finalitat, el públic, la jurisdicció i l'estat de consentiment de tothom qui hi apareix. L'eina no ho sap, i un classificador no ho podria saber mai. La targeta de confirmació existeix perquè aquest coneixement s'apliqui en el moment que importa, per la part que el té.
- La línia que no es mou. «El filtre no em va aturar» no ha estat mai una defensa en cap mitjà. Una càmera no refusa, un llapis no refusa; la llei i la deontologia professional regeixen l'ús, no l'instrument. Un generador sense filtres restitueix l'arranjament ordinari sota el qual funciona qualsevol altra eina professional.
Llegeix la Política d'ús responsable abans de començar. És curta, concreta, i la part d'aquest producte que fa defensable tota la resta.
09Preguntes freqüents
Per què un generador d'imatges amb IA rebutja un prompt clarament legítim?
Perquè la majoria de filtres jutgen les paraules del teu prompt, no la teva finalitat. Un classificador se situa davant del model sense accés a qui ets ni a per què ho demanes, de manera que un il·lustrador mèdic, un analista forense i un actor malintencionat escriuen tots el mateix substantiu i reben tots el mateix refús. The Intercept va informar l'abril de 2023 que Midjourney havia prohibit termes anatòmics com ara espècul, placenta i cèrvix, mentre que estetoscopi funcionava amb normalitat.
Hi ha recerca que mesuri els falsos positius dels filtres de contingut a les eines d'art amb IA?
Sí. OVERT (arXiv:2505.21347, ICML 2025) és el primer benchmark a gran escala de refús excessiu per a models de text a imatge: 4.600 prompts aparentment nocius però genuïnament benignes en nou categories de seguretat, més 1.785 prompts realment nocius com a control. Els seus autors informen que el refús excessiu està estès entre els models capdavanters. Un estudi independent d'ECCV 2024 va trobar biaix de gènere i estilístic en tres classificadors NSFW avaluats sobre nuesa artística.
Què canvia realment un generador d'imatges amb IA sense censura?
Treu la capa de refús i el filtre de contingut del camí de generació, de manera que una petició legítima no es reclassifica en silenci com un atac. No elimina el criteri — el reubica. Shannon et mostra el prompt de generació exacte en una targeta de confirmació abans que es renderitzi res, així que la decisió la pren una persona que pot veure què es produirà, sota la Política d'ús responsable.
Shannon genera vídeo?
No. Shannon genera imatges noves, edita una imatge existent i combina dues o més imatges en una. No anima imatges i no produeix vídeo de cap mena.
Puc generar imatges a través de l'API de Shannon?
No. La generació, l'edició i la combinació d'imatges viuen a l'aplicació de xat de Shannon. L'API /v1 serveix text i visió — llegir i analitzar les imatges que li proporciones — no generació d'imatges.
Si no hi ha filtre, què evita l'ús indegut?
La política, la responsabilitat i un punt de decisió visible en lloc d'una llista negra de paraules clau. Shannon no genera mai sense que li ho demanis, mostra el prompt complet abans de renderitzar, no factura res fins que confirmes, i opera sota una Política d'ús responsable publicada que prohibeix el contingut sexual que involucra menors, les imatges íntimes no consentides de persones reals, l'assetjament dirigit i la falsificació de documents d'identitat o financers.
Demana la imatge que realment necessites
Generació, edició d'una sola imatge i combinació de múltiples imatges a l'aplicació de xat — sense filtre de contingut, sense capa de refús, i el prompt en pantalla abans que es renderitzi res.
Comença a xatejar Política d'ús responsableImatges a l'aplicació de xat · sense generació de vídeo · més recerca
Fonts: Cheng, Huang, Xu, Sojoudi, Zhao, Song i Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann i Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 d'abril de 2023 · PetaPixel, 3 d'abril de 2023 · CNBC, 22 de febrer de 2024. Shannon AI és operat per Shannon Lab LLC, Nou Mèxic, EUA.