Generator de imagini AI fără cenzură vs. filtrat

Aproape oricine lucrează profesional cu imagini are aceeași poveste. Un prompt care descrie ceva obișnuit — o secțiune prin articulația genunchiului, o mașină în momentul impactului, un studiu de figură în cărbune, un soldat în 1944 — se întoarce ca încălcare de politică. Reformulezi și primești altă încălcare. În cele din urmă scrii ceva suficient de vag încât să treacă și primești o imagine care nu mai arată ce aveai nevoie. Unealta nu a eșuat zgomotos; a eșuat treptat și te-a făcut pe tine cel care a făcut compromisul.

01De ce refuză un generator de imagini AI un prompt evident legitim?

Refuzul nu este de obicei părerea modelului de imagini. Este rezultatul unui teanc de filtrare din jurul modelului, iar straturile lui explică aproape orice refuz bizar pe care l-ai primit.

Strat	Ce inspectează	Eșecul caracteristic
Listă de cuvinte interzise	Șiruri literale și variante apropiate din textul tău	Blochează un cuvânt indiferent de propoziția din jur — „specul” pică, „stetoscop” trece
Clasificator de prompt	O judecată învățată despre „riscul” promptului	Se declanșează pe proximitatea tematică: orice ține de medicină, arme, corpuri sau politică punctează mult
Antrenarea modelului pentru refuz	Reticența proprie, antrenată, a modelului	Refuză fără eroare sau produce pe tăcute un substitut igienizat
Clasificator de ieșire	Pixelii randați, fără contextul promptului	Nu poate distinge o planșă de anatomie de pornografie sau un cadru de film de un eveniment real
Substituție de politică	Rescrierea tăcută a promptului tău înainte de randare	Primești o imagine, dar nu cea specificată de tine, și nu ți se spune de ce

Fiecare strat are același punct orb: niciunul nu poate vedea de ce întrebi. Un ilustrator medical, un expert al reclamantului care reconstituie o coliziune și cineva cu intenții rele scriu toți același substantiv. Filtrul vede substantivul, nu atlasul sau dosarul cazului, și este notat după vătămările pe care le lasă să treacă — niciodată după munca pe care o distruge. Sub această asimetrie, reglajul rațional pentru orice operator este refuză mai mult. Tot de aceea „reformulează, pur și simplu” nu este o soluție: reformularea nu dă filtrului nicio informație care îi lipsea, ci doar îți îndepărtează promptul de cuvintele care l-au declanșat, ceea ce de obicei înseamnă departe de ce ai vrut să spui.

02Ce sunt filtrele de conținut chemate cu adevărat să prevină

Un argument pentru generarea nefiltrată care se preface că filtrele există fără motiv nu merită citit. Există un set restrâns de rezultate a căror vătămare este intrinsecă imaginii însăși, indiferent cine a cerut-o și de ce:

• Conținut sexual care implică minori. Niciun context nu îl face acceptabil; niciun flux de lucru profesional nu îl cere.
• Imagini intime neconsimțite ale unor persoane reale. Vătămarea cade pe cineva care nu a fost de acord, iar o retragere nu o desface.
• Hărțuire țintită și fabricații defăimătoare — a face o persoană numită să pară că a făcut ceva ce nu a făcut.
• Documente la nivel de fals — pașapoarte, cărți de identitate, bancnote, sigilii și instrumente financiare făcute să treacă drept autentice.
• Probe sintetice înșelătoare — imagini fabricate ale unor evenimente reale, prezentate ca documentare, nu ca ilustrație.

Lista este scurtă și are o structură: vătămarea stă în artefact, în asemănarea lui cu o persoană sau un document real și în prezentarea lui ca adevăr. Observă ce nu se află pe listă — nuditate, sânge, arme, atrocitate istorică, ridicol politic. Acestea sunt materia primă a medicinei, jurnalismului, artei, criminalisticii și satirei, iar un filtru care le tratează drept categorii de vătămare implementează o idee mult mai largă despre ce subiecte sunt respectabile.

Shannon interzice tot ce e pe acea listă, într-o Politică de utilizare responsabilă publicată, cu categorii numite și consecințe, nu într-un tabel de cuvinte-cheie care prinde și „placentă”. Una este o regulă pe care o poți citi și pentru care ne poți trage la răspundere; cealaltă este o presupunere despre intențiile tale, făcută de un clasificator pe care nu îl poți vedea.

03Cât de mare este problema refuzului excesiv? Ce măsoară cercetarea

Până de curând, refuzul excesiv la modelele de imagini era o anecdotă — mii de oameni cu aceeași poveste și niciun mod de a-i măsura amploarea. Asta s-a schimbat cu OVERT (OVEr-Refusal evaluation on Text-to-image models), prezentat la ICML 2025 de un grup de la UC Berkeley care îi include pe Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song și Song Mei: primul benchmark la scară mare care măsoară cât de des refuză sistemele text-to-image prompturi complet benigne.

Designul contează. Cele 4,600 de prompturi sunt construite ca să pară dăunătoare fiind inofensive — forma unei cereri profesionale reale care menționează un bisturiu, o vânătaie sau un protest — iar cele 1,785 de prompturi cu adevărat dăunătoare stau alături ca grup de control, ca un model să nu poată obține un scor bun refuzând tot. Cele nouă categorii merg de la viața privată a persoanelor și a figurilor publice, trecând prin drepturi de autor, discriminare, autovătămare, conținut sexual și activitate ilegală, până la violență.

Concluzia principală este că refuzul excesiv este răspândit pe categorii și la modelele de vârf. A doua este mai dăunătoare pentru soluția de compromis obișnuită: autorii au testat rescrierea promptului ca măsură de atenuare și raportează că aceasta „compromite adesea fidelitatea față de sensul prompturilor originale”. Poți trece de filtru schimbând ce ai cerut, și atunci nu mai ai ce ai cerut.

Un studiu mai restrâns ajunge la aceeași concluzie dinspre partea pixelilor. În An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann și Oliver, atelierul AI4VA de la ECCV 2024), autorii evaluează trei clasificatoare NSFW de producție pe nud artistic și descoperă atât o prejudecată de gen, cât și una de stil: verdictul asupra unui studiu de figură depinde de al cui corp este reprezentat și în ce stil. Aceasta este formularea măsurată a lucrului despre care fiecărui artist care desenează după model viu i s-a spus că e imaginar.

04Opt tipuri de muncă legitimă pe care generatoarele filtrate le blochează

Acestea sunt categoriile în care refuzul excesiv nu este un inconvenient, ci o oprire a lucrului. Acolo unde există un caz raportat concret, el este citat; acolo unde nu am verificat niciunul, categoria este descrisă fără să inventăm un incident.

1. Ilustrație medicală și anatomică

Cazul cel mai bine documentat din domeniu. În aprilie 2023, The Intercept (Debbie Nathan) a relatat că Midjourney interzisese termeni anatomici printre care specul, placentă, col uterin, vulvă, trompe uterine, glande mamare, uterin, uretră, himen, spermă, prezervativ și sterilet, în timp ce DALL·E 2 refuza „pastile folosite la avortul medicamentos” cu un mesaj de politică de conținut. Tiparul a fost descoperit de Julia Rockwell, analistă de date clinice, care încercase să genereze o imagine a unei placente ca dar pentru o prietenă biolog celular, și a fost relatat de MIT Technology Review. Asimetria este semnul revelator: „stetoscop” genera normal, în timp ce „specul” era interzis. Cercetătorul Bill Howe de la University of Washington a numit filtrele „grosolane” și a spus că fac „practic imposibilă o discuție științifică despre reproducere”. Educarea pacienților, atlasele chirurgicale și programele de formare în nursing au nevoie toate de corpuri reprezentate corect, inclusiv de părțile pe care o listă de cuvinte-cheie a decis că sunt indecente.

2. Reconstituire criminalistică și de accidente

Reconstituirea coliziunilor, analiza originii incendiilor și materialele demonstrative de instanță cer reprezentarea pagubelor, a rănilor și a mecanicii violente cu acuratețe clinică. Un filtru reglat să respingă „sânge” sau „rană prin împușcare” respinge disciplina: contextul — un raport de expertiză, un dosar de asigurare — este invizibil pentru clasificator, iar chiar neutralitatea care face astfel de imagini admisibile este cea care le face să fie citite ca sânge și măruntaie.

3. Nuduri artistice și desen după model viu

Nudul este un subiect fondator al artei peste tot, iar studiul de figură este esențial în educația artistică. Rezultatul ECCV 2024 de mai sus este varianta măsurată a ce raportează artiștii: clasificatoarele nu separă fiabil un studiu de figură de pornografie, iar erorile lor sunt influențate de gen și de stil — un filtru care e cel mai dur exact cu tradiția pe care ar trebui să o recunoască.

4. Imagini istorice și din timp de război

Arta de manual, interpretarea muzeală și proiectele memoriale cer reprezentarea uniformelor, armelor, lagărelor, bătăliilor și atrocităților. Episodul Gemini din februarie 2024 este instructiv pentru că eșecul a mers în direcția opusă și a făcut la fel de mult rău. Google a suspendat capacitatea Gemini de a genera imagini cu oameni pe 22 februarie 2024, după ce a produs reprezentări recompuse rasial ale unor grupuri istorice, inclusiv soldați germani din epoca nazistă. CEO-ul Sundar Pichai a numit rezultatele „complet inacceptabile”; vicepreședintele senior Prabhakar Raghavan a recunoscut că modelul „a supracompensat” și devenise „excesiv de conservator”. Siguranța oarbă la context nu a făcut imaginile istorice mai sigure — le-a făcut false, ceea ce pentru o editură de istorie este mai rău.

5. Violență în ficțiune și pre-vizualizare de film

Storyboard-urile, arta conceptuală, benzile desenate și designul de jocuri reprezintă violența din același motiv pentru care o fac romanele și filmele. Un filtru care nu poate distinge un storyboard de horror de o amenințare tratează întreaga filieră a artelor narative ca suspectă — deși un storyboard este explicit nereal, planul unei scene pe care actorii și echipele de efecte o vor pune în scenă.

6. Satiră politică și caricatură editorială

Caricaturizarea celor puternici este printre cele mai protejate categorii de expresie în majoritatea democrațiilor și, în mod curent, primul lucru pe care îl elimină un filtru de imagini. Cel mai clar caz documentat este decizia Midjourney din aprilie 2023 de a interzice imaginile cu președintele chinez Xi Jinping și de a bloca numele lui în prompturi — relatată de PetaPixel, Decrypt și alții — permițând în continuare alți lideri mondiali. Fondatorul David Holz a explicat pe Discord că firma voia să „minimizeze drama” și că „posibilitatea oamenilor din China de a folosi această tehnologie este mai importantă decât posibilitatea ta de a genera satiră”; Sarah McLaughlin, de la Foundation for Individual Rights and Expression, a numit-o cenzură. Oricare ar fi concluzia despre calculul de afaceri, mecanismul merită numit: o restricție națională de exprimare aplicată fiecărui utilizator din lume, pentru că un filtru global are un singur reglaj.

7. Cercetare de securitate și materiale de conștientizare a phishingului

Echipele de securitate construiesc materiale de instruire care trebuie să arate ca lucrul despre care avertizează: un ecran fals de autentificare convingător, o factură contrafăcută, un cod QR malițios pe un parcometru. Pentru un clasificator, asta e imposibil de distins de atacul împotriva căruia imunizează — verosimilitatea este chiar ideea — așa că filtrele blochează identic apărarea și atacul, avantajându-l pe atacator, care oricum nu avea de gând să folosească o unealtă de consum filtrată.

8. Deținători de drepturi refuzați pentru imagini cu propriul brand, produs sau chip

Filtrarea pentru drepturi de autor și mărci nu verifică proprietatea; verifică asemănarea. O companie nu poate genera ușor imagini cu propriul logo sau produs, un deținător de drepturi nu își poate reprezenta propriul personaj, iar oamenii adesea nu își pot genera propriul chip, pentru că filtrele de asemănare se declanșează pe recognoscibilitate, nu pe consimțământ. OVERT include „încălcări ale drepturilor de autor” printre cele nouă categorii de refuz excesiv tocmai pentru că acest fals pozitiv este atât de frecvent. Filtrul este un instrument bont pentru o întrebare — ai dreptul la asta? — pe care nu are cum să o pună.

Patru dintre cele opt de mai sus sunt ancorate într-un caz publicat concret (medical, nuduri artistice, istoric, satiră), plus categoria de drepturi de autor din OVERT pentru al optulea. Criminalistica, pre-vizualizarea de ficțiune și materialele de conștientizare în securitate sunt enunțate ca simple categorii: sunt clase binecunoscute de muncă profesională afectată, pentru care nu am verificat un incident publicat anume.

05De ce blochează generatoarele de artă AI lucrurile greșite și de ce fals pozitivele filtrelor nu pot fi reglate până dispar

Răspunsul instinctiv la blocarea excesivă este „slăbește pragul”. Nu funcționează, din motive structurale, nu din lipsă de efort.

Categoriile se suprapun în semnal, dar nu în realitate. O ilustrație chirurgicală și pornografia au în comun nuditatea. O reconstituire criminalistică și imaginile sângeroase au în comun sângele. Un slide de conștientizare și un kit de phishing au în comun un formular fals de autentificare. O caricatură satirică și o fabricație defăimătoare au în comun un politician recognoscibil. Ce deosebește fiecare pereche este scopul și prezentarea — absente din prompt și absente din pixeli. Niciun prag nu separă două populații care ocupă aceeași regiune a spațiului de intrare; mutarea lui doar schimbă o eroare pe alta. Exact asta a arătat episodul Gemini: o intervenție menită să repare un eșec a produs altul, descris chiar de vicepreședintele senior de la Google drept „supracompensare”.

Costurile sunt asimetrice pentru operator, nu pentru tine. Un filtru care lasă să treacă o imagine proastă produce un articol de presă. Un filtru care blochează zece mii de imagini legitime produce tăcere, pentru că utilizatorii refuzați nu se organizează — renunță. Managementul riscului sub această asimetrie converge permanent spre blocarea excesivă. Și pentru că judecata de fond este imposibilă, listele de blocare acumulează șiruri literale pe măsură ce apar incidente, așa cum ajungi să ai „stetoscop” în regulă și „specul” interzis. Nimeni nu a decis că instrumentele specifice femeilor sunt mai periculoase; lista a crescut acolo unde au aterizat plângerile. Ea codifică istoricul de PR al unui operator, nu o teorie a vătămării.

Cea mai strictă jurisdicție devine setarea globală implicită. Un singur filtru servește fiecare utilizator din fiecare țară, așa că o restricție adăugată pentru o piață este exportată tuturor — regula Xi Jinping fiind cazul de manual. Iar rescrierea promptului tău îți distruge sensul, ceea ce este exact concluzia experimentală a OVERT: fiecare profesionist care și-a spălat o cerere în eufemism ca să treacă de un filtru a confirmat-o cu propria mână. Nu ai câștigat; te-ai mulțumit cu mai puțin.

Nimic din toate acestea nu e gratis, iar pentru că eșecul e tăcut, costul e invizibil în metricile pe care le urmărește un operator. După destule refuzuri încetezi să mai ceri și îți îngustezi din start fiecare prompt la ce prezici că va trece; eufemismul care trece în cele din urmă dă o imagine apropiată de ce avea nevoie documentul tău, dar nu aceea. Un mesaj generic de politică nu îți spune nimic despre stratul care s-a declanșat, așa că nu poți decât să ghicești și să reîncerci — iar munca cu imagini este iterativă, deci un filtru care prinde o încercare din cinci întrerupe bucla, nu doar o încetinește. Între timp, domeniile cu cea mai puternică pretenție la unelte serioase nu au niciun evaluator, nicio cale de contestație și, de obicei, nicio listă publicată a ce este blocat. O regulă pe care nu o poți citi nu este o regulă; este vremea de afară.

06Generator de imagini AI fără cenzură vs. filtrat: ce se schimbă de fapt

Iată varianta onestă a comparației, inclusiv ce nu îți dă un sistem nefiltrat.

Dimensiune	Generator filtrat	Nefiltrat (Shannon)
Cine decide	Un clasificator care citește cuvinte și pixeli	O persoană care citește promptul exact
Când afli	După ce trimiți — uneori după ce plătești	Înainte ca ceva să fie randat sau facturat
Care este regula	Liste de blocare nepublicate și schimbătoare	O Politică de utilizare responsabilă publicată
Contextul profesional	Invizibil pentru sistem	Al tău de susținut și al tău de justificat
Modul de eșec	Blocare excesivă tăcută, deriva sensului	Primești ce ai cerut — inclusiv greșelile
Cine duce riscul	Furnizorul, descărcat asupra muncii tale	Împărțit: politica operatorului plus responsabilitatea utilizatorului

Ultimul rând este cel pe care oamenii îl sar și cel care contează. Eliminarea unui filtru nu elimină categoriile de vătămare din secțiunea 02; elimină mașinăria care ghicea prost despre ele. Obligația rămâne unde era, purtată acum de două părți care pot raționa despre context: operatorul, care publică și aplică o politică, și tu, care știi la ce servește imaginea. Generarea de imagini AI nefiltrată este o unealtă pentru oameni deja pregătiți să răspundă pentru rezultatul lor — atlasul chirurgului, raportul de expertiză, storyboard-ul, caricatura — care erau opriți de un sistem incapabil să-i deosebească de altcineva.

07Ce face Shannon — și ce nu face

Aici precizia contează mai mult decât entuziasmul, mai ales pentru cititorii care vin dintr-o căutare despre API.

Ce face

• Generare. Descrie o imagine în limbaj obișnuit, în orice limbă. Shannon scrie el însuși promptul de generare, în engleză, indiferent în ce limbă ai cerut.
• Editarea unei imagini. Exact o sursă — o imagine deja aflată în conversație sau una atașată la mesajul curent — modificată printr-o instrucțiune care spune ce se schimbă și ce rămâne. Rezultatul păstrează automat raportul de aspect al sursei.
• Combinarea a două sau mai multe imagini. Transfer de ținută, obiect-în-scenă, persoană lângă persoană, produs-pe-persoană, subiectul dintr-o imagine cu stilul alteia. Promptul numește rolul fiecărei imagini în ordine, iar imaginile reale sunt folosite, deci aspectul lor efectiv este păstrat, nu re-descris.
• Controlul formatului. square (implicit), portrait, landscape, wide și tall. O cerere explicită câștigă întotdeauna.
• Randare pe propriul nostru cluster GPU, fără filtru de conținut pe traseul de generare și fără strat de refuz pe modelul care scrie promptul.

Ce nu face

• Fără video. Shannon nu animează imagini și nu produce video. Nu e un punct de pe foaia de parcurs ținut ascuns cu cochetărie — nu există.
• Nu în API. Generarea, editarea și combinarea de imagini sunt în aplicația de chat Shannon. API-ul /v1 servește text și viziune — poate citi imaginile pe care i le trimiți — dar nu le randează.
• Nicio generare neinvitată. Un salut, o întrebare sau o poză atașată în treacăt nu declanșează o imagine. A-i cere lui Shannon să se uite la o imagine — să o descrie, să o citească, să o analizeze — este muncă obișnuită de viziune, nu o generare, și nu costă nimic în plus.

Cardul de confirmare

Acesta este mecanismul care înlocuiește filtrul și este o alegere de design, nu o formalitate. Când Shannon stabilește că ceri o imagine, scrie promptul de generare și ți-l arată pe un card de confirmare înainte ca ceva să fie randat. Nu se generează nimic și nu se facturează nimic până nu confirmi.

Compară cele două arhitecturi după meritele lor. Un filtru îți ghicește intenția cu mai puține informații decât ai tu și își impune ghicitul în tăcere. Un card de confirmare pune specificația literală a imaginii în fața părții care știe la ce servește, înainte să se consume vreo putere de calcul. Prinde interpretările greșite ale cererii tale, ceea ce filtrele nu fac niciodată; îți permite să adaugi precizia anatomică sau detaliul istoric pe care modelul le-a subspecificat; și face responsabilitatea lizibilă, nu difuză. Ai văzut promptul și ai apăsat butonul.

08Generarea nefiltrată ridică responsabilitatea, nu o elimină

Acest lucru își are locul aici, nu într-un subsol, pentru că este jumătate din argument. Un generator filtrat face o promisiune pe care nu o poate ține: că unealta va preveni abuzul în locul tău. Eșuează în ambele direcții — îl blochează pe chirurg și nu îl oprește pe un răufăcător hotărât, care are alte opțiuni și le-a avut mereu. Ce face în mod fiabil este să lase pe toată lumea să simtă că responsabilitatea a fost rezolvată în amonte, de o mașină. Eliminarea filtrului elimină acea ficțiune; întrebarea dacă o imagine ar trebui să existe se întoarce la oamenii care pot răspunde la ea.

• Obligația Shannon Lab LLC. O Politică de utilizare responsabilă publicată și concretă, care numește categoriile interzise în loc de o listă de blocare nepublicată — reguli pe care le poți citi, cita și pentru care ne poți trage la răspundere.
• Obligația ta. Tu știi scopul, publicul, jurisdicția și situația consimțământului tuturor celor reprezentați. Unealta nu le știe, iar un clasificator nu ar putea niciodată. Cardul de confirmare există tocmai ca acea cunoaștere să fie aplicată în momentul în care contează, de partea care o deține.
• Linia care nu se mută. „Filtrul nu m-a oprit” nu a fost niciodată o apărare, în niciun mediu. Un aparat foto nu refuză, un creion nu refuză; legea și etica profesională guvernează utilizarea, nu instrumentul. Un generator nefiltrat restabilește aranjamentul obișnuit sub care funcționează orice altă unealtă profesională.

Citește Politica de utilizare responsabilă înainte să începi. Este scurtă, concretă și este partea din acest produs care face restul lui de susținut.

09Întrebări frecvente

---

Surse: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 aprilie 2023 · PetaPixel, 3 aprilie 2023 · CNBC, 22 februarie 2024. Shannon AI este operat de Shannon Lab LLC, New Mexico, SUA.