IA de imaxes sen censura fronte a filtrada

Case todo o mundo que traballa con imaxes profesionalmente ten a mesma historia. Un prompt que describe algo corrente — unha sección transversal dunha articulación do xeonllo, un coche no momento do impacto, un estudo de figura ao carbón, un soldado en 1944 — devólvese como unha violación de política. Reformúlalo, e recibes unha violación distinta. Ao final escribes algo o bastante vago como para pasar, e obtés unha imaxe que xa non amosa o que precisabas. A ferramenta non fallou en voz alta; fallou por graos, e converteute a ti en quen cedeu.

01Por que un xerador de imaxes con IA rexeita un prompt claramente lexítimo?

A negativa normalmente non é a opinión do modelo de imaxe. É a saída dunha pila de filtrado arredor do modelo, e as súas capas explican case todas as negativas estrañas que recibiches.

Capa	Que inspecciona	Fallo característico
Lista de bloqueo do prompt	Cadeas literais e variantes próximas no teu texto	Bloquea unha palabra sen importar a frase que a rodea — "speculum" falla, "stethoscope" pasa
Clasificador do prompt	Un xuízo aprendido sobre o "risco" do prompt	Actívase por proximidade temática: calquera cousa preto da medicina, as armas, os corpos ou a política puntúa alto
Adestramento de negativa no modelo	A propia reticencia adestrada do modelo	Rexeita sen erro, ou produce discretamente un substituto edulcorado
Clasificador da saída	Píxeles renderizados, sen contexto do prompt	Non pode distinguir unha lámina de anatomía da pornografía, nin un fotograma de cine dun feito real
Substitución por política	Reescritura silenciosa do teu prompt antes de renderizar	Recibes unha imaxe, pero non a que especificaches, e non se che di por que

Todas as capas comparten un mesmo punto cego: ningunha pode ver por que preguntas. Un ilustrador médico, un perito dunha demanda reconstruíndo unha colisión e alguén con malas intencións escriben todos o mesmo substantivo. O filtro ve o substantivo, non o atlas nin o expediente, e avalíaselle polos danos que deixa pasar — nunca polo traballo que destrúe. Baixo esa asimetría, o axuste racional para calquera operador é rexeitar máis. É tamén a razón pola que "reformúlao e xa está" non é unha solución: reformular non lle dá ao filtro ningunha información que lle faltase, só afasta o teu prompt das palabras que o activaron, o que adoita significar afastalo do que querías dicir.

02Que preveñen realmente os filtros de contido

Un argumento a favor da xeración sen filtros que finxa que os filtros existen sen razón non merece ser lido. Hai un conxunto estreito de saídas cuxo dano é intrínseco á propia imaxe, independentemente de quen a pediu e por que:

• Contido sexual que involucre menores. Ningún contexto o fai aceptable; ningún fluxo de traballo profesional o require.
• Imaxes íntimas non consentidas de persoas reais. O dano recae sobre alguén que non deu o seu consentimento, e unha retirada non o desfai.
• Acoso dirixido e fabricación difamatoria — facer que pareza que unha persoa concreta fixo algo que non fixo.
• Documentos con calidade de falsificación — pasaportes, documentos de identidade, billetes, selos e instrumentos financeiros feitos para pasar por auténticos.
• Probas sintéticas enganosas — imaxes fabricadas de feitos reais presentadas como documentación en lugar de como ilustración.

A lista é curta e ten unha estrutura: o dano vive no artefacto, na súa semellanza cunha persoa ou un documento reais, e na súa presentación como verdade. Fíxate no que non está nela — desnudez, sangue, armas, atrocidades históricas, burla política. Eses son a materia prima da medicina, o xornalismo, a arte, a forense e a sátira, e un filtro que os trata como categorías de dano está a impoñer unha idea moito máis ampla sobre que temas son respectables.

Shannon prohibe todo o desa lista, nunha Política de Uso Responsable publicada con categorías nomeadas e consecuencias, en lugar dunha táboa de palabras clave que tamén atrapa "placenta". Unha é unha regra que podes ler e esixirnos; a outra é unha conxectura sobre as túas intencións feita por un clasificador que non podes ver.

03Que tamaño ten o problema do exceso de negativas? Que mide a investigación

Ata hai pouco, o exceso de negativas nos modelos de imaxe era unha anécdota — miles de persoas coa mesma historia e sen forma de medila. Iso cambiou con OVERT (OVEr-Refusal evaluation on Text-to-image models), presentado en ICML 2025 por un grupo de UC Berkeley formado, entre outros, por Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song e Song Mei: o primeiro benchmark a grande escala que mide con que frecuencia os sistemas de texto a imaxe rexeitan prompts completamente benignos.

O deseño importa. Os 4,600 prompts están construídos para parecer daniños sendo inofensivos — a forma dunha petición profesional real que menciona un bisturí, unha contusión ou unha protesta — e os 1,785 prompts realmente daniños sitúanse ao seu carón como control, para que un modelo non poida puntuar ben rexeitándoo todo. As nove categorías van desde a privacidade individual e de figuras públicas pasando por dereitos de autor, discriminación, autolesión, contido sexual e actividade ilegal ata a violencia.

A conclusión principal é que o exceso de negativas está estendido entre categorías e entre os modelos punteiros. A segunda é máis demoledora para a solución habitual: os autores probaron a reescritura do prompt como mitigación e informan de que "a miúdo compromete a fidelidade ao significado dos prompts orixinais". Podes esquivar o filtro cambiando o que pediches, e entón xa non tes o que pediches.

Un estudo máis acoutado chega á mesma conclusión desde o lado dos píxeles. En An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann e Oliver, obradoiro AI4VA en ECCV 2024), os autores avalían tres clasificadores NSFW de produción sobre desnudo artístico e destapan tanto un nesgo de xénero como un nesgo estilístico: o veredicto sobre un estudo de figura depende de que corpo se representa e en que estilo. Iso é a formulación medida daquilo que a cada artista de debuxo do natural se lle dixo que era imaxinacións súas.

04Oito tipos de traballo lexítimo que os xeradores filtrados bloquean

Estas son as categorías nas que o exceso de negativas non é unha molestia senón unha parálise do traballo. Onde existe un caso concreto publicado, cítase; onde non se verificou ningún, a categoría descríbese sen inventar un incidente.

1. Ilustración médica e anatómica

O caso mellor documentado do campo. En abril de 2023, The Intercept (Debbie Nathan) informou de que Midjourney prohibira termos anatómicos como speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom e IUD, mentres que DALL·E 2 rexeitaba "pills used in medication abortion" cunha mensaxe de política de contido. O patrón atopouno Julia Rockwell, unha analista de datos clínicos que intentara xerar unha imaxe dunha placenta como agasallo para unha amiga bióloga celular, e informouno a MIT Technology Review. A asimetría é a chave: "stethoscope" xerábase con normalidade mentres que "speculum" estaba prohibido. O investigador da Universidade de Washington Bill Howe cualificou os filtros de "ham-fisted" e dixo que facían "basicamente imposible ter unha discusión científica sobre a reprodución". A educación de pacientes, os atlas cirúrxicos e os currículos de enfermaría precisan todos corpos representados con precisión, incluídas as partes que unha lista de palabras clave decidiu que son indecentes.

2. Reconstrución forense e de accidentes

A reconstrución de colisións, a análise da orixe dun incendio e as probas demostrativas xudiciais requiren representar danos, feridas e mecánicas violentas con precisión clínica. Un filtro axustado para rexeitar "sangue" ou "ferida de bala" rexeita a disciplina enteira: o contexto — un informe pericial, un expediente de seguro — é invisible para o clasificador, e a mesma neutralidade que fai admisibles esas imaxes é a que fai que se lean como gore.

3. Desnudos artísticos e debuxo do natural

O desnudo é un tema fundacional da arte en todas partes, e o estudo de figura é o núcleo da formación artística. O resultado de ECCV 2024 anterior é a versión medida do que informan os artistas: os clasificadores non separan de forma fiable un estudo de figura da pornografía, e os seus erros están nesgados por xénero e estilo — un filtro máis duro precisamente coa tradición que debería recoñecer.

4. Imaxes históricas e de guerra

A arte para libros de texto, a interpretación museística e os proxectos conmemorativos requiren representar uniformes, armas, campos, batallas e atrocidades. O episodio de Gemini de febreiro de 2024 é instrutivo porque o fallo foi na dirección contraria e causou o mesmo dano. Google suspendeu a capacidade de Gemini de xerar imaxes de persoas o 22 de febreiro de 2024 despois de que producise representacións racialmente recompostas de grupos históricos, incluídos soldados alemáns da era nazi. O CEO Sundar Pichai cualificou as saídas de "completamente inaceptables"; o vicepresidente sénior Prabhakar Raghavan recoñeceu que o modelo "sobrecompensara" e se volvera "excesivamente conservador". A seguridade cega ao contexto non fixo máis seguras as imaxes históricas — fíxoas falsas, o que para unha editorial de historia é peor.

5. Violencia na ficción e previsualización cinematográfica

Os storyboards, a arte conceptual, os cómics e o deseño de videoxogos representan violencia pola mesma razón que as novelas e as películas. Un filtro que non pode distinguir un storyboard de terror dunha ameaza trata toda a cadea das artes narrativas como sospeitosa — aínda que un storyboard é explicitamente irreal, un plan dunha escena que actores e equipos de efectos van poñer en escena.

6. Sátira política e viñeta editorial

A caricatura dos poderosos está entre as categorías de expresión máis protexidas na maioría das democracias, e adoita ser o primeiro que elimina un filtro de imaxes. O caso documentado máis claro é a decisión de Midjourney en abril de 2023 de vetar imaxes do presidente chinés Xi Jinping e bloquear o seu nome nos prompts — informada por PetaPixel, Decrypt e outros — mentres seguía permitindo outros líderes mundiais. O fundador David Holz explicou en Discord que a empresa quería "minimizar o drama" e que "a capacidade da xente en China de usar esta tecnoloxía é máis importante que a túa capacidade de xerar sátira"; Sarah McLaughlin, da Foundation for Individual Rights and Expression, cualificouno de censura. Conclúase o que se conclúa sobre o cálculo empresarial, o mecanismo merece ser nomeado: unha restrición nacional de expresión aplicada a todos os usuarios do mundo, porque un filtro global ten un só axuste.

7. Investigación de seguridade e material de concienciación sobre phishing

Os equipos de seguridade constrúen material de formación que ten que parecerse a aquilo do que advirte: unha pantalla de acceso falsa convincente, unha factura suplantada, un código QR malicioso nun parquímetro. Para un clasificador iso é indistinguible do ataque contra o que inmuniza — a verosimilitude é o obxectivo — así que os filtros bloquean por igual a defensa e o ataque, o que beneficia o atacante, que de todos os xeitos nunca ía usar unha ferramenta de consumo filtrada.

8. Titulares de dereitos aos que se lles negan imaxes da súa propia marca, produto ou semellanza

O filtrado de dereitos de autor e marcas non comproba a titularidade; comproba a semellanza. Unha empresa non pode xerar facilmente imaxes do seu propio logotipo ou produto, quen ten os dereitos non pode retratar o seu propio personaxe, e a xente moitas veces non pode xerar a súa propia cara, porque os filtros de semellanza actívanse pola recoñecibilidade e non polo consentimento. OVERT inclúe as "violacións de dereitos de autor" entre as súas nove categorías de exceso de negativas precisamente porque este falso positivo é moi común. O filtro é un instrumento tosco para unha pregunta — tes dereito a isto? — que non ten forma de facer.

Catro dos oito anteriores están ancorados a un caso publicado concreto (médico, desnudos artísticos, histórico, sátira) máis a categoría de dereitos de autor de OVERT para o oitavo. A forense, a previsualización de ficción e o material de concienciación en seguridade preséntanse como categorías: son clases ben coñecidas de traballo profesional afectado para as que non verificamos un incidente publicado concreto.

05Por que os xeradores de arte con IA bloquean o que non deben, e por que os falsos positivos dos filtros non se poden axustar ata desaparecer

A resposta instintiva ao bloqueo excesivo é "baixade o limiar". Non funciona, por razóns estruturais e non por falta de esforzo.

As categorías sepóñense no sinal pero non na realidade. Unha ilustración cirúrxica e a pornografía comparten a desnudez. Unha reconstrución forense e o gore comparten o sangue. Unha diapositiva de concienciación e un kit de phishing comparten un formulario de acceso falso. Unha viñeta satírica e unha fabricación difamatoria comparten un político recoñecible. O que distingue cada parella é o propósito e a presentación — ausentes do prompt e ausentes dos píxeles. Ningún limiar separa dúas poboacións que ocupan a mesma rexión do espazo de entrada; movelo só cambia un erro polo outro. Iso é o que amosou o episodio de Gemini: unha intervención destinada a arranxar un fallo produciu outro, descrito polo propio vicepresidente sénior de Google como "sobrecompensado".

Os custos son asimétricos para o operador, non para ti. Un filtro que deixa pasar unha mala imaxe produce unha noticia. Un filtro que bloquea dez mil lexítimas produce silencio, porque os usuarios rexeitados non se organizan — abandonan. A xestión de riscos baixo esa asimetría converxe no bloqueo excesivo, de forma permanente. E como o xuízo subxacente é imposible, as listas de bloqueo van acumulando cadeas literais a medida que ocorren incidentes, e así é como "stethoscope" está ben e "speculum" está prohibido. Ninguén decidiu que os instrumentos específicos das mulleres fosen máis perigosos; a lista creceu onde caeron as queixas. Codifica o historial de relacións públicas dun operador, non unha teoría do dano.

A xurisdición máis estrita convértese no valor predeterminado global. Un só filtro serve a todos os usuarios de todos os países, así que unha restrición engadida para un mercado expórtase a todos — sendo a regra de Xi Jinping o caso de manual. E reescribir o teu prompt destrúe o teu significado, que é o punto experimental de OVERT: todo profesional que branqueou unha petición en eufemismos para pasar un filtro confirmouno a man. Non gañaches; conformácheste.

Nada disto é gratis, e como falla en silencio o custo é invisible nas métricas que mira un operador. Despois de suficientes negativas deixas de preguntar, e estreitas de antemán cada prompt ao que predís que pasará; o eufemismo que por fin pasa dá unha imaxe próxima a, pero non igual a, o que precisaba o teu documento. Unha mensaxe xenérica de política non che di nada sobre que capa se activou, así que só podes adiviñar e reintentar — e o traballo con imaxes é iterativo, así que un filtro que atrapa un intento de cada cinco rompe o ciclo en lugar de simplemente retardalo. Mentres tanto, os campos coa reclamación máis forte de ferramentas serias non teñen revisor, nin recurso, nin normalmente unha lista publicada do que está bloqueado. Unha regra que non podes ler non é unha regra; é o tempo atmosférico.

06IA de imaxes sen censura fronte a filtrada: que cambia realmente

Aquí está a versión honesta da comparación, incluído o que un sistema sen filtros non che dá.

Dimensión	Xerador filtrado	Sen filtros (Shannon)
Quen decide	Un clasificador que le palabras e píxeles	Unha persoa que le o prompt exacto
Cando o descobres	Despois de enviar — ás veces despois de pagar	Antes de renderizar ou cobrar nada
Cal é a regra	Listas de bloqueo non publicadas e cambiantes	Unha Política de Uso Responsable publicada
Contexto profesional	Invisible para o sistema	Teu para sostelo, e teu para responder del
Modo de fallo	Bloqueo excesivo silencioso, deriva de significado	Obtés o que pediches — incluídos os erros
Quen carga co risco	O provedor, descargándoo sobre o teu traballo	Compartido: política do operador máis responsabilidade do usuario

A última fila é a que a xente salta, e a que importa. Retirar un filtro non retira as categorías de dano da sección 02; retira a máquina que adiviñaba mal sobre elas. A obriga queda onde estaba, sostida agora por dúas partes que si poden razoar sobre o contexto: o operador, que publica e fai cumprir unha política, e ti, que sabes para que é a imaxe. A xeración de imaxes con IA sen filtros é unha ferramenta para xente xa preparada para responder pola súa saída — o atlas do cirurxián, o informe pericial, o storyboard, a viñeta — á que estaba deténdoa un sistema que non podía distinguila doutra persoa.

07Que fai Shannon — e que non fai

Aquí importa máis a precisión que o entusiasmo, especialmente para quen chega desde unha busca sobre a API.

Que fai

• Xeración. Describe unha imaxe en linguaxe natural, en calquera idioma. Shannon escribe el mesmo o prompt de xeración, en inglés, sexa cal sexa o idioma no que preguntaches.
• Edición dunha imaxe. Exactamente unha orixe — unha imaxe xa presente na conversa, ou unha anexada á túa mensaxe actual — modificada por unha instrución que di que cambia e que se mantén. A saída conserva automaticamente a relación de aspecto da orixe.
• Combinación de dúas ou máis imaxes. Transferencia de vestiario, obxecto dentro dunha escena, persoa xunto a persoa, produto sobre persoa, suxeito dunha imaxe co estilo doutra. O prompt nomea o papel de cada imaxe por orde, e úsanse as imaxes reais, así que se preserva a súa aparencia auténtica en lugar de volver describila.
• Control do encadre. square (predeterminado), portrait, landscape, wide e tall. Unha petición explícita gaña sempre.
• Renderizado no noso propio clúster de GPU, sen filtro de contido na ruta de xeración e sen capa de negativas no modelo que escribe o prompt.

Que non fai

• Sen vídeo. Shannon non anima imaxes e non produce vídeo. Non é un elemento da folla de ruta que se agoche con coquetería — non existe.
• Non está na API. A xeración, edición e combinación de imaxes viven na aplicación de chat de Shannon. A API /v1 serve texto e visión — pode ler as imaxes que lle envías — pero non as renderiza.
• Sen xeración non solicitada. Un saúdo, unha pregunta ou unha foto anexada de pasada non disparan unha imaxe. Pedirlle a Shannon que mire unha imaxe — describila, lela, analizala — é traballo de visión ordinario, non unha xeración, e non custa nada adicional.

A tarxeta de confirmación

Este é o mecanismo que substitúe o filtro, e é unha decisión de deseño e non unha formalidade. Cando Shannon determina que estás a pedir unha imaxe, escribe o prompt de xeración e amóschao nunha tarxeta de confirmación antes de renderizar nada. Non se xera nada e non se cobra nada ata que confirmes.

Compara os dous deseños polos seus méritos. Un filtro adiviña a túa intención con menos información da que ti tes, e impón a conxectura en silencio. Unha tarxeta de confirmación pon a especificación literal da imaxe diante da parte que sabe para que é, antes de gastar nada de cómputo. Detecta as malas interpretacións da túa petición, cousa que os filtros nunca fan; permíteche engadir a precisión anatómica ou o detalle histórico que o modelo deixou pouco especificado; e fai a responsabilidade lexible en lugar de difusa. Viches o prompt, e premiches o botón.

08A xeración sen filtros eleva a responsabilidade, non a elimina

Isto vai aquí e non nun pé de páxina, porque é a metade do argumento. Un xerador filtrado fai unha promesa que non pode cumprir: que a ferramenta impedirá o mal uso no teu nome. Falla nas dúas direccións — bloquea o cirurxián, e non detén a un actor malicioso decidido, que ten outras opcións e sempre as tivo. O que si fai de forma fiable é deixar que todo o mundo sinta que a responsabilidade se resolveu augas arriba, por máquina. Retirar o filtro retira esa ficción; a pregunta de se unha imaxe debería existir volve á xente que pode respondela.

• A obriga de Shannon Lab LLC. Unha Política de Uso Responsable publicada e concreta que nomea as categorías prohibidas en lugar dunha lista de bloqueo non publicada — regras que podes ler, citar e esixirnos.
• A túa obriga. Ti sabes o propósito, o público, a xurisdición e o estado de consentimento de todas as persoas representadas. A ferramenta non, e un clasificador nunca podería. A tarxeta de confirmación existe para que ese coñecemento se aplique no momento que importa, pola parte que o ten.
• A liña que non se move. "O filtro non me detivo" nunca foi unha defensa en ningún medio. Unha cámara non se nega, un lapis non se nega; a lei e a ética profesional rexen o uso, non o instrumento. Un xerador sen filtros restablece o arranxo ordinario baixo o que opera calquera outra ferramenta profesional.

Le a Política de Uso Responsable antes de comezar. É curta, concreta, e é a parte deste produto que fai defendible todo o demais.

09Preguntas frecuentes

---

Fontes: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 de abril de 2023 · PetaPixel, 3 de abril de 2023 · CNBC, 22 de febreiro de 2024. Shannon AI está operado por Shannon Lab LLC, Novo México, EUA.