Bla Ċensura vs Iffiltrat: Ġeneratur ta' Immaġni AI
Il-filtri tal-kontenut inbnew biex iwaqqfu sett żgħir ta' ħsarat reali. Fil-prattika, iwaqqfu wkoll l-illustrazzjoni medika, ir-rikostruzzjoni forensika, it-tpinġija tal-figura, l-istorja tal-gwerra, is-satira editorjali u kumpaniji li jixtiequ juru l-prodotti tagħhom stess. Dan hu dak li jiswa — u x'jinbidel u ma jinbidilx meta titneħħa l-filtru.
Fil-qosor
Il-ġeneraturi ta' immaġni mainstream jiffiltraw il-prompts u l-outputs b'klassifikaturi li jaraw kliem u pixels, qatt skop. Dan jiggarantixxi pożittivi foloz, u dawn jaqgħu l-aktar goff fuq xogħol tal-ħila: anatomija, forensika, nudi artistiċi, xbihat storiċi, pre-viżwalizzazzjoni, satira, materjal dwar l-għarfien tas-sigurtà, u detenturi tad-drittijiet li jitolbu l-marka tagħhom stess. OVERT (ICML 2025), l-ewwel benchmark fuq skala kbira għal dan il-mod ta' falliment, juża 4,600 prompts beninni-imma-suspettużi u jsib li r-rifjut eċċessiv hu mifrux fost il-mudelli ewlenin. Shannon iħaddem il-ġenerazzjoni ta' immaġni, l-editjar ta' immaġni waħda u t-taħlit ta' diversi immaġni fuq il-cluster GPU tagħna stess bla ebda filtru tal-kontenut u bla ebda saff ta' rifjut, u jissostitwixxi l-lista ta' mblukkar b'deċiżjoni viżibbli: karta ta' konferma li turi l-prompt eżatt qabel ma jiġi renderjat xejn. Dan jgħolli r-responsabbiltà tiegħek u tagħna; it-tnejn jinsabu fil-Politika ta' Użu Responsabbli. M'hemm ebda ġenerazzjoni ta' vidjo, u x-xogħol fuq l-immaġni jgħix fl-app taċ-chat, mhux fl-API.
Kważi kulħadd li jaħdem b'mod professjonali mal-immaġni għandu l-istess storja. Prompt li jiddeskrivi xi ħaġa ordinarja — sezzjoni trasversali ta' ġog l-irkoppa, karozza fil-mument tal-impatt, studju ta' figura bil-faħam, suldat fl-1944 — jerġa' lura bħala ksur ta' politika. Tikteb mill-ġdid, u tikseb ksur differenti. Eventwalment tikteb xi ħaġa vaga biżżejjed biex tgħaddi, u tikseb immaġni li ma turix aktar dak li kellek bżonn. L-għodda ma fallietx b'mod qawwi; falliet gradwalment, u għamlitek int min ikkompromettat.
01Għaliex ġeneratur ta' immaġni AI jirrifjuta prompt li hu ċarament leġittimu?
Ir-rifjut normalment mhuwiex l-opinjoni tal-mudell tal-immaġni. Hu l-output ta' stack ta' filtrazzjoni madwar il-mudell, u s-saffi tiegħu jispjegaw kważi kull rifjut stramb li rċevejt.
| Saff | X'jispezzjona | Falliment karatteristiku |
|---|---|---|
| Lista ta' mblukkar tal-prompt | Strings litterali u varjanti qrib fit-test tiegħek | Timblokka kelma irrispettivament mis-sentenza ta' madwarha — "speculum" jonqos, "stethoscope" jgħaddi |
| Klassifikatur tal-prompt | Ġudizzju mgħallem tar-"riskju" tal-prompt | Jispara fuq il-qrubija tas-suġġett: kull ma hu qrib il-mediċina, l-armi, il-ġisem jew il-politika jiskorja għoli |
| Taħriġ tar-rifjut tal-mudell | L-eżitazzjoni mħarrġa tal-mudell innifsu | Jirrifjuta mingħajr żball, jew jipproduċi bil-kwiet sostitut isseneġat |
| Klassifikatur tal-output | Pixels renderjati, mingħajr kuntest tal-prompt | Ma jistax jgħid pjanċa tal-anatomija minn pornografija, jew stampa ta' film minn avveniment reali |
| Sostituzzjoni tal-politika | Kitba mill-ġdid bil-kwiet tal-prompt tiegħek qabel ir-render | Tikseb immaġni, imma mhux dik li speċifikajt, u ma tingħatax raġuni |
Kull saff jaqsam nuqqas ta' viżjoni wieħed: ħadd ma jista' jara għaliex qed tistaqsi. Illustratur mediku, espert ta' parti li tħarrek li qed jirrikostruwixxi ħabta, u xi ħadd b'intenzjonijiet ħżiena, ilkoll jiktbu l-istess nom. Il-filtru jara n-nom, mhux l-atlas jew il-fajl tal-każ, u jiġi vvalutat fuq il-ħsara li jħalli tgħaddi — qatt fuq ix-xogħol li jeqred. Taħt dik l-asimmetrija, l-issettjar razzjonali għal kwalunkwe operatur hu irrifjuta aktar. Dan hu wkoll għaliex "sempliċement ikteb mill-ġdid" mhijiex soluzzjoni: il-kitba mill-ġdid ma tagħti l-filtru ebda informazzjoni li kien nieqes minnha, biss tbiegħed il-prompt tiegħek mill-kliem li qabbdu, li normalment ifisser 'il bogħod minn dak li ridt tgħid.
02X'hemm il-filtri tal-kontenut hemm tabilħaqq biex jipprevjenu
Argument favur ġenerazzjoni bla filtru li jippretendi li l-filtri jeżistu mingħajr raġuni ma jiswiex li tinqara. Hemm sett dejjaq ta' outputs li l-ħsara tagħhom hi intrinsika għall-immaġni nnifisha, indipendentement minn min staqsa jew għaliex:
- Kontenut sesswali li jinvolvi minorenni. L-ebda kuntest ma jagħmlu aċċettabbli; l-ebda proċess professjonali ma jeħtieġu.
- Immaġni intimi mingħajr kunsens ta' persuni reali. Il-ħsara taqa' fuq xi ħadd li ma qabilx, u tneħħija ma tħassarhiex.
- Fastidju mmirat u fabrikazzjoni malafamanti — li ġġiegħel individwu msemmi jidher li għamel xi ħaġa li ma għamilx.
- Dokumenti ta' kwalità ta' falsifikazzjoni — passaporti, karti tal-identità, karti tal-flus, siġilli u strumenti finanzjarji magħmula biex jgħaddu bħala ġenwini.
- Evidenza sintetika qarrieqa — xbihat iffabrikati ta' avvenimenti reali ppreżentati bħala dokumentazzjoni minflok illustrazzjoni.
Il-lista hi qasira u għandha struttura: il-ħsara tgħix fl-artefatt, fis-similarità tiegħu ma' persuna jew dokument reali, u fil-preżentazzjoni tiegħu bħala verità. Innota x'm'huwiex fuqha — nudità, demm, armi, atroċità storika, żeblieħ politiku. Dawk huma l-materja prima tal-mediċina, il-ġurnaliżmu, l-arti, il-forensika u s-satira, u filtru li jittrattahom bħala kategoriji ta' ħsara qed jimplimenta idea ħafna usa' dwar liema suġġetti huma rispettabbli.
Shannon jipprojbixxi kull ma hu f'dik il-lista, f'Politika ta' Użu Responsabbli ppubblikata b'kategoriji u konsegwenzi msemmija, minflok tabella ta' kliem li taqbad ukoll "plaċenta." Waħda hi regola li tista' taqra u żżommna responsabbli għaliha; l-oħra hi stima tal-intenzjonijiet tiegħek minn klassifikatur li ma tistax tara.
03Kemm hi kbira l-problema tar-rifjut eċċessiv? X'tkejjel ir-riċerka
Sa dan l-aħħar, ir-rifjut eċċessiv fil-mudelli tal-immaġni kien anekdotu — eluf ta' nies bl-istess storja u ebda mod kif tkejjilha. Dan biddel ma' OVERT (OVEr-Refusal evaluation on Text-to-image models), ippreżentat fl-ICML 2025 minn grupp tal-UC Berkeley li jinkludi lil Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song u Song Mei: l-ewwel benchmark fuq skala kbira li jkejjel kemm ta' spiss is-sistemi test-għal-immaġni jirrifjutaw prompts li huma kompletament beninni.
Id-disinn jgħodd. Il-4,600 prompts huma mibnija biex jidhru ta' ħsara filwaqt li huma inoffensivi — il-forma ta' talba professjonali reali li ssemmi mgħażel, tbenġila jew protesta — u l-1,785 prompts verament ta' ħsara joqogħdu ħdejhom bħala kontroll, għalhekk mudell ma jistax jiskorja tajjeb billi jirrifjuta kollox. Id-disa' kategoriji jmorru mill-privatezza individwali u ta' figura pubblika, permezz tad-drittijiet tal-awtur, id-diskriminazzjoni, il-ħsara awtoinflitta, il-kontenut sesswali u l-attività illegali, sal-vjolenza.
Is-sejba prinċipali hi li r-rifjut eċċessiv hu mifrux fost il-kategoriji u fost il-mudelli ewlenin. It-tieni waħda hi aktar ta' ħsara għas-soluzzjoni standard: l-awturi ttestjaw il-kitba mill-ġdid tal-prompt bħala mitigazzjoni u rrappurtaw li "spiss tikkomprometti l-fedeltà għat-tifsira tal-prompts oriġinali." Tista' tgħaddi mill-filtru billi tbiddel dak li tlabt, u mbagħad ma jkollokx aktar dak li tlabt.
Studju iżgħar jasal għall-istess konklużjoni min-naħa tal-pixels. Fi An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann u Oliver, AI4VA workshop fl-ECCV 2024), l-awturi jevalwaw tliet klassifikaturi NSFW tal-produzzjoni fuq nudità artistika u jiskopru kemm preġudizzju ta' ġeneru kif ukoll preġudizzju stilistiku: il-verdett fuq studju ta' figura jiddependi minn ġisem ta' min hu murija u b'liema stil. Dik hi dikjarazzjoni mkejla ta' dak li kull artist tat-tpinġija tal-figura ntqallu li kien immaġinarju.
04Tmien tipi ta' xogħol leġittimu li l-ġeneraturi ffiltrati jimblukkaw
Dawn huma l-kategoriji fejn ir-rifjut eċċessiv mhuwiex inkonvenjent imma waqfien tax-xogħol. Fejn jeżisti każ speċifiku rrapportat, hu ċċitat; fejn ħadd ma ġie vverifikat, il-kategorija hi deskritta mingħajr ma jiġi ivvintat inċident.
1. Illustrazzjoni medika u anatomika
L-aktar każ dokumentat sew fil-qasam. F'April 2023, The Intercept (Debbie Nathan) irrapporta li Midjourney kien ipprojbixxa termini anatomiċi inkluż speculum, plaċenta, ċerviċi, vulva, tubi fallopjani, glandoli mammarji, uterin, uretra, imene, sperma, kondom u IUD, filwaqt li DALL·E 2 irrifjuta "pills used in medication abortion" b'messaġġ ta' politika tal-kontenut. Il-mudell instab minn Julia Rockwell, analista ta' data klinika li kienet ipprovat tiġġenera stampa ta' plaċenta bħala rigal għal ħabiba bijologa ċellulari, u rrapportat lil MIT Technology Review. L-asimmetrija hi s-sinjal: "stethoscope" iġġenerat normalment filwaqt li "speculum" kien ipprojbit. Ir-riċerkatur tal-University of Washington Bill Howe sejjaħ il-filtri "ham-fisted" u qal li għamluha "prattikament impossibbli li jkollok diskussjoni xjentifika dwar ir-riproduzzjoni." L-edukazzjoni tal-pazjenti, l-atlanti kirurġiċi u l-kurrikuli tal-infermerija kollha jeħtieġu ġisem muri b'mod preċiż, inklużi l-partijiet li lista ta' kliem iddeċidiet li huma indeċenti.
2. Rikostruzzjoni forensika u ta' inċidenti
Ir-rikostruzzjoni ta' ħabtiet, l-analiżi tal-oriġini tan-nar u d-dimostrattivi tal-qorti jeħtieġu li juru ħsara, feriti u mekkanika vjolenti b'preċiżjoni klinika. Filtru mmirat biex jiċħad "demm" jew "feriti tal-arma tan-nar" jiċħad id-dixxiplina: il-kuntest — rapport ta' espert, fajl ta' assigurazzjoni — hu inviżibbli għall-klassifikatur, u l-istess newtralità li tagħmel xbihat bħal dawn ammissibbli hi dak li jġiegħlhom jinqraw bħala vjolenza kruda.
3. Nudi artistiċi u tpinġija tal-figura
In-nudu hu suġġett fundamentali tal-arti kullimkien, u l-istudju tal-figura hu ċentrali għall-edukazzjoni artistika. Ir-riżultat tal-ECCV 2024 hawn fuq hu l-verżjoni mkejla ta' dak li jirrapportaw l-artisti: il-klassifikaturi ma jifirdux b'mod affidabbli studju ta' figura minn pornografija, u l-iżbalji tagħhom huma ppreġudikati mill-ġeneru u l-istil — filtru l-aktar goff eżattament fuq it-tradizzjoni li għandu jagħraf.
4. Xbihat storiċi u tal-gwerra
L-arti tal-kotba tat-test, l-interpretazzjoni tal-mużewijiet u l-proġetti kommemorattivi jeħtieġu li juru uniformi, armi, kampijiet, battalji u atroċità. L-episodju ta' Gemini ta' Frar 2024 hu istruttiv għax il-falliment mar fid-direzzjoni opposta u għamel ħsara ndaqs. Google waqfet il-kapaċità ta' Gemini li tiġġenera immaġni ta' nies fit-22 ta' Frar 2024 wara li pproduċiet raffigurazzjonijiet rikomposti razzjalment ta' gruppi storiċi inklużi suldati Ġermaniżi tal-era Nażista. Is-CEO Sundar Pichai sejjaħ l-outputs "completely unacceptable"; is-SVP Prabhakar Raghavan ammetta li l-mudell kien "overcompensated" u sar "over-conservative." Is-sikurezza għamja għall-kuntest ma għamlitx ix-xbihat storiċi aktar siguri — għamlithom foloz, li għal pubblikatur tal-istorja hu agħar.
5. Vjolenza fil-finzjoni u pre-viżwalizzazzjoni ta' films
L-istoryboards, l-arti tal-kunċett, il-fumetti u d-disinn tal-logħob juru l-vjolenza għall-istess raġuni li r-rumanzi u l-films jagħmlu dan. Filtru li ma jistax jgħid storyboard ta' orrur minn theddida jittratta l-proċess sħiħ tal-arti narrattiva bħala suspettuż — għalkemm storyboard hu espliċitament mhux reali, pjan għal xena li l-atturi u t-timijiet tal-effetti se jinxxenjaw.
6. Satira politika u karikaturi editorjali
Il-karikatura tal-potenti hi fost l-aktar kategoriji protetti tal-espressjoni fil-biċċa l-kbira tad-demokraziji, u regolarment l-ewwel ħaġa li filtru tal-immaġni jneħħi. L-aktar każ ċar dokumentat hu d-deċiżjoni ta' Midjourney f'April 2023 li tipprojbixxi immaġni tal-President Ċiniż Xi Jinping u timblokka ismu fil-prompts — irrapportata minn PetaPixel, Decrypt u oħrajn — filwaqt li kompliet tippermetti mexxejja oħra dinjija. Il-fundatur David Holz spjega fuq Discord li l-kumpanija riedet "minimize drama" u li "l-abbiltà għan-nies fiċ-Ċina li jużaw din it-teknoloġija hi aktar importanti mill-abbiltà tiegħek li tiġġenera satira"; Sarah McLaughlin tal-Foundation for Individual Rights and Expression sejħitha ċensura. Ikun xi jkun il-kalkolu kummerċjali, il-mekkaniżmu jistħoqqlu jissemma: restrizzjoni nazzjonali tal-espressjoni applikata għal kull utent fid-dinja kollha, għax filtru globali għandu issettjar wieħed.
7. Riċerka tas-sigurtà u materjal ta' għarfien tal-phishing
It-timijiet tas-sigurtà jibnu materjal ta' taħriġ li jrid jidher bħall-ħaġa li jwissi dwarha: skrin ta' login falz konvinċenti, fattura ffalsifikata, kodiċi QR malizzjuż fuq mekkanizmu tal-parkeġġ. Għal klassifikatur dan ma jistax jiġi distint mill-attakk li jipproteġi kontrih — il-verosimiljanza hi l-punt — għalhekk il-filtri jimblukkaw id-difiża u l-attakk b'mod identiku, li jagħti vantaġġ lill-attakkant, li qatt ma kien se juża għodda tal-konsumatur iffiltrata xorta waħda.
8. Detenturi tad-drittijiet mċaħħda minn immaġni tal-marka, prodott jew xbieha tagħhom stess
Il-filtrazzjoni tad-drittijiet tal-awtur u tat-trademarks ma tivverifikax is-sjieda; tivverifika s-similarità. Kumpanija ma tistax faċilment tiġġenera xbihat tal-logo jew tal-prodott tagħha stess, detentur tad-drittijiet ma jistax jirrappreżenta l-karattru tiegħu stess, u n-nies spiss ma jistgħux jiġġeneraw wiċċhom stess, għax il-filtri tax-xebh jiffukaw fuq ir-rikonoxxibbiltà minflok il-kunsens. OVERT jinkludi "ksur tad-drittijiet tal-awtur" fost id-disa' kategoriji tiegħu ta' rifjut eċċessiv preċiżament għax dan il-pożittiv falz hu tant komuni. Il-filtru hu strument goff għal mistoqsija — għandek id-dritt għal dan? — m'għandu ebda mod kif jistaqsi.
Erbgħa mit-tmienja ta' hawn fuq huma msejsa fuq każ speċifiku ppubblikat (mediku, nudi artistiċi, storiku, satira) flimkien mal-kategorija tad-drittijiet tal-awtur ta' OVERT għat-tmienja. Il-forensika, il-pre-viżwalizzazzjoni tal-finzjoni u l-materjal ta' għarfien tas-sigurtà huma stabbiliti bħala kategoriji: huma klassijiet magħrufa sew ta' xogħol professjonali affettwat li għalihom ma vverifikajniex inċident speċifiku ppubblikat.
Kull każ dokumentat hawn fuq hu pubbliku u verifikabbli b'mod indipendenti. Aqrahom minflok ma tieħu l-karatterizzazzjoni tagħna b'fiduċja.
05Għaliex il-ġeneraturi tal-arti AI jimblukkaw l-affarijiet ħżiena, u għaliex il-pożittivi foloz tal-filtri tal-kontenut ma jistgħux jitneħħew billi jiġi rranġat il-limitu
It-tweġiba istintiva għall-imblukkar żejjed hi "illaxka l-limitu." Ma jaħdimx, għal raġunijiet strutturali aktar milli nuqqas ta' sforz.
Il-kategoriji jikkoinċidu fis-sinjal imma mhux fir-realtà. Illustrazzjoni kirurġika u pornografija jaqsmu n-nudità. Rikostruzzjoni forensika u vjolenza kruda jaqsmu d-demm. Slide ta' għarfien u kit ta' phishing jaqsmu formola ta' login falza. Karikatura satirika u fabrikazzjoni malafamanti jaqsmu politiku rikonoxxibbli. Dak li jiddistingwi kull par hu l-skop u l-preżentazzjoni — assenti mill-prompt u assenti mill-pixels. Ebda limitu ma jifred żewġ popolazzjonijiet li jokkupaw l-istess reġjun tal-ispazju tal-input; li tiċċaqlaqha biss tiskambja żball wieħed ma' ieħor. Dan hu dak li wera l-episodju ta' Gemini: intervent maħsub biex jirranġa falliment wieħed ipproduċa ieħor, deskritt mill-SVP stess ta' Google bħala "overcompensated."
L-ispejjeż huma asimmetriċi għall-operatur, mhux għalik. Filtru li jħalli immaġni ħażina waħda tgħaddi jipproduċi storja tal-aħbarijiet. Filtru li jimblokka għaxart elef leġittimi jipproduċi silenzju, għax l-utenti rrifjutati ma jorganizzawx ruħhom — jaqtgħu qalbhom. Il-ġestjoni tar-riskju taħt dik l-asimmetrija tikkonverġi fuq l-imblukkar żejjed, b'mod permanenti. U għax il-ġudizzju sottostanti hu impossibbli, il-listi ta' mblukkar jakkumulaw strings litterali hekk kif iseħħu l-inċidenti, li hu kif tikseb "stethoscope" tajjeb u "speculum" ipprojbit. Ħadd ma ddeċieda li strumenti speċifiċi għan-nisa kienu aktar perikolużi; il-lista kibret fejn waqgħu l-ilmenti. Tikkodifika l-istorja tal-PR ta' operatur, mhux teorija ta' ħsara.
Il-ġurisdizzjoni l-aktar stretta ssir id-default globali. Filtru wieħed jaqdi kull utent f'kull pajjiż, għalhekk restrizzjoni miżjuda għal suq wieħed tiġi esportata lejhom kollha — bir-regola ta' Xi Jinping bħala l-każ tal-ktieb tat-test. U l-kitba mill-ġdid tal-prompt tiegħek teqred it-tifsira tiegħek, li hu l-punt sperimentali ta' OVERT: kull professjonist li għamel talba f'eufemiżmu biex tgħaddi minn filtru kkonferma dan bl-idejn. Ma rbaħtx; ċedejt.
Xejn minn dan mhu b'xejn, u għax jonqos bil-kwiet, l-ispiża hi inviżibbli fil-metriċi li operatur josserva. Wara biżżejjed rifjuti, tieqaf titlob, tħejji minn qabel kull prompt għal dak li tbassar li se jgħaddi; l-eufemiżmu li fl-aħħar jgħaddi jagħti immaġni qrib, imma mhux, dak li kellu bżonn id-dokument tiegħek. Messaġġ ġeneriku tal-politika ma jgħidlek xejn dwar liema saff spara, għalhekk tista' biss tobsor u terġa' tipprova — u x-xogħol tal-immaġni hu iterattiv, għalhekk filtru li jaqbad tentattiv wieħed minn ħamsa jfixkel iċ-ċiklu minflok sempliċement inaqqas il-veloċità tiegħu. Sadanittant l-oqsma bl-aktar pretensjoni b'saħħitha għal għodod serji ma jiksbux reviżur, ebda appell u ġeneralment ebda lista ppubblikata ta' x'hu mblukkat. Regola li ma tistax taqra mhijiex regola; hi t-temp.
06Ġeneratur ta' immaġni AI bla ċensura vs iffiltrat: x'jinbidel tabilħaqq
Hawn hi l-verżjoni onesta tat-tqabbil, inkluż dak li sistema bla filtru ma tagħtikx.
| Dimensjoni | Ġeneratur iffiltrat | Bla filtru (Shannon) |
|---|---|---|
| X'jiddeċiedi | Klassifikatur li jaqra kliem u pixels | Persuna li taqra l-prompt eżatt |
| Meta ssir taf | Wara li tibgħat — kultant wara li tħallas | Qabel ma jiġi renderjat jew iffatturat xejn |
| X'inhi r-regola | Listi ta' mblukkar mhux ippubblikati u li jinbidlu | Politika ta' Użu Responsabbli ppubblikata |
| Kuntest professjonali | Inviżibbli għas-sistema | Tiegħek biex iżżomm, u tiegħek biex twieġeb għalih |
| Mod ta' falliment | Imblukkar żejjed bil-kwiet, tibdil fit-tifsira | Tikseb dak li tlabt — inklużi żbalji |
| Min iġorr ir-riskju | Il-bejjiegħ, mgħoddi fuq ix-xogħol tiegħek | Kondiviż: politika tal-operatur flimkien mar-responsabbiltà tal-utent |
L-aħħar ringiela hi dik li n-nies jaqbżu, u dik li tgħodd. It-tneħħija ta' filtru ma tneħħix il-kategoriji ta' ħsara fis-sezzjoni 02; tneħħi l-magna li kienet tobsor ħażin dwarhom. L-obbligu jibqa' fejn kien, miżmum issa minn żewġ partijiet li jistgħu jirraġunaw dwar il-kuntest: l-operatur, li jippubblika u jinforza politika, u int, li taf għal xiex hi l-immaġni. Il-ġenerazzjoni ta' immaġni AI bla ċensura hi għodda għal nies diġà lesti li jieqfu warajn l-output tagħhom — l-atlas tal-kirurgu, ir-rapport tal-espert, l-istoryboard, il-karikatura — li kienu qed jitwaqqfu minn sistema li ma setgħetx tiddistingwihom minn xi ħadd ieħor.
07X'jagħmel Shannon — u x'ma jagħmilx
Il-preċiżjoni hawn tgħodd aktar mill-entużjażmu, partikolarment għal qarrejja li waslu minn tfittxija dwar l-API.
X'jagħmel
- Ġenerazzjoni. Iddeskrivi immaġni b'lingwaġġ sempliċi, bi kwalunkwe lingwa. Shannon jikteb hu stess il-prompt tal-ġenerazzjoni, bl-Ingliż, ikun xi jkun il-lingwaġġ li tlabt bih.
- Editjar ta' immaġni waħda. Eżattament sors wieħed — stampa diġà fil-konverżazzjoni, jew waħda mwaħħla mal-messaġġ attwali tiegħek — mibdula minn istruzzjoni li tgħid x'jinbidel u x'jibqa'. L-output iżomm awtomatikament il-proporzjon tal-immaġni sors.
- It-taħlit ta' żewġ immaġni jew aktar. Trasferiment ta' lbies, oġġett-fix-xena, persuna ħdejn persuna, prodott-fuq-persuna, suġġett minn immaġni waħda bl-istil minn oħra. Il-prompt isemmi r-rwol ta' kull immaġni f'ordni, u l-immaġni reali jintużaw, għalhekk id-dehra reali tagħhom hi ppreservata minflok deskritta mill-ġdid.
- Kontroll tal-proporzjon. square (default), portrait, landscape, wide u tall. Talba espliċita dejjem tirbaħ.
- Rendering fuq il-cluster GPU tagħna stess, mingħajr filtru tal-kontenut fuq il-mogħdija tal-ġenerazzjoni u mingħajr saff ta' rifjut fuq il-mudell li jikteb il-prompt.
X'ma jagħmilx
- Ebda vidjo. Shannon ma janimax immaġni u ma jipproduċix vidjo. Mhuwiex artiklu tar-roadmap miżmum bil-mistħija — ma jeżistix.
- Mhux fuq l-API. Il-ġenerazzjoni, l-editjar u l-kompożizzjoni ta' immaġni jgħixu fl-app taċ-chat ta' Shannon. L-API /v1 taqdi test u viżjoni — tista' taqra l-immaġni li tibgħatilha — imma ma tirrenderjahomx.
- Ebda ġenerazzjoni mingħajr ma tintalab. Tislima, mistoqsija jew ritratt imwaħħal b'mod każwali ma jattivax immaġni. Li titlob lil Shannon iħares lejn immaġni — jiddeskriviha, jaqraha, janalizzaha — hu xogħol ordinarju ta' viżjoni, mhux ġenerazzjoni, u ma jiswa xejn żejjed.
Il-karta ta' konferma
Dan hu l-mekkaniżmu li jissostitwixxi l-filtru, u hu għażla ta' disinn aktar milli formalità. Meta Shannon jiddetermina li qed titlob immaġni, jikteb il-prompt tal-ġenerazzjoni u jurihulek fuq karta ta' konferma qabel ma jiġi renderjat xejn. Xejn ma jiġi ġġenerat u xejn ma jiġi ffatturat qabel ma tikkonferma.
Qabbel id-disinji fuq il-mertu tagħhom. Filtru jobsor l-intenzjoni tiegħek b'inqas informazzjoni minn dik li għandek int, u jinforza l-għażla bil-kwiet. Karta ta' konferma tqiegħed l-ispeċifikazzjoni litterali tal-immaġni quddiem il-parti li taf għal xiex hi — qabel ma jintefaq kwalunkwe compute. Taqbad qari ħażin tat-talba tiegħek, li l-filtri qatt ma jagħmlu; tħallik iżżid il-preċiżjoni anatomika jew id-dettall storiku li l-mudell speċifika inqas milli suppost; u tagħmel ir-responsabbiltà leġibbli minflok diffuża. Int rajt il-prompt, u int għafast il-buttuna.
08Il-ġenerazzjoni bla filtru tgħolli r-responsabbiltà, ma tneħħihiex
Dan jappartjeni hawn minflok f'footer, għax hu nofs l-argument. Ġeneratur iffiltrat jagħmel wegħda li ma jistax iżomm: li l-għodda se tipprevjeni l-abbuż f'ismek. Jonqos fiż-żewġ direzzjonijiet — jimblokka l-kirurgu, u ma jwaqqafx attur ħażin determinat, li għandu għażliet oħra u dejjem kellu. Dak li jagħmel b'mod affidabbli hu li jħalli lil kulħadd iħoss li r-responsabbiltà kienet ġiet immaniġġjata upstream, minn magna. It-tneħħija tal-filtru tneħħi dik il-fizzjoni; il-mistoqsija jekk immaġni għandhiex teżisti tirritorna għand in-nies li jistgħu jwieġbuha.
- L-obbligu ta' Shannon Lab LLC. Politika ta' Użu Responsabbli ppubblikata u speċifika li ssemmi kategoriji pprojbiti minflok lista ta' mblukkar mhux ippubblikata — regoli li tista' taqra, tiċċita u żżommna responsabbli għalihom.
- L-obbligu tiegħek. Int taf l-iskop, l-udjenza, il-ġurisdizzjoni u l-istat tal-kunsens ta' kull min hu murija. L-għodda ma tafx, u klassifikatur qatt ma seta'. Il-karta ta' konferma teżisti biex dik l-għarfien tiġi applikata fil-mument li tgħodd, mill-parti li għandha.
- Il-linja li ma tiċċaqlaqx. "Il-filtru ma waqqafnix" qatt ma kienet difiża fi kwalunkwe medju. Kamera ma tirrifjutax, lapes ma jirrifjutax; il-liġi u l-etika professjonali jirregolaw l-użu, mhux l-istrument. Ġeneratur bla filtru jirristabbilixxi l-arranġament ordinarju li kull għodda professjonali oħra topera taħtu.
Aqra l-Politika ta' Użu Responsabbli qabel ma tibda. Hi qasira, speċifika, u l-parti ta' dan il-prodott li tagħmel il-bqija tiegħu difendibbli.
09Mistoqsijiet frekwenti
Għaliex ġeneratur ta' immaġni AI jirrifjuta prompt li hu ċarament leġittimu?
Għax ħafna filtri jiġġudikaw il-kliem fil-prompt tiegħek, mhux l-iskop tiegħek. Klassifikatur joqgħod quddiem il-mudell mingħajr aċċess għal min int jew għaliex qed tistaqsi, għalhekk illustratur mediku, analista forensiku u attur ħażin ilkoll jiktbu l-istess nom u lkoll jirċievu l-istess rifjut. The Intercept irrapporta f'April 2023 li Midjourney kien ipprojbixxa termini anatomiċi inkluż speculum, plaċenta u ċerviċi, filwaqt li stethoscope kien jaħdem normalment.
Hemm riċerka li tkejjel il-pożittivi foloz tal-filtri tal-kontenut fl-għodod tal-arti AI?
Iva. OVERT (arXiv:2505.21347, ICML 2025) hu l-ewwel benchmark ta' rifjut eċċessiv fuq skala kbira għal mudelli test-għal-immaġni: 4,600 prompts li jidhru ta' ħsara imma li fil-fatt huma beninni, mifruxa fuq disa' kategoriji ta' sikurezza, flimkien ma' 1,785 prompts verament ta' ħsara bħala kontroll. L-awturi tagħha jirrappurtaw li r-rifjut eċċessiv hu mifrux fost il-mudelli ewlenin. Studju separat tal-ECCV 2024 sab preġudizzju ta' ġeneru u stilistiku fi tliet klassifikaturi NSFW evalwati fuq nudità artistika.
X'jinbidel tabilħaqq b'ġeneratur ta' immaġni AI bla ċensura?
Ineħħi s-saff ta' rifjut u l-filtru tal-kontenut mill-mogħdija tal-ġenerazzjoni, għalhekk talba leġittima ma tiġix riklassifikata bil-kwiet bħala attakk. Ma jneħħix il-ġudizzju — jittrasferih. Shannon jurik il-prompt eżatt tal-ġenerazzjoni fuq karta ta' konferma qabel ma jiġi renderjat xejn, għalhekk id-deċiżjoni tittieħed minn persuna li tista' tara x'se jiġi prodott, taħt il-Politika ta' Użu Responsabbli.
Shannon jiġġenera vidjo?
Le. Shannon jiġġenera immaġni ġodda, jeditja immaġni eżistenti waħda, u jgħaqqad żewġ immaġni jew aktar f'waħda. Ma janimax immaġni u ma jipproduċi ebda tip ta' vidjo.
Nista' niġġenera immaġni permezz tal-API ta' Shannon?
Le. Il-ġenerazzjoni, l-editjar u l-kompożizzjoni ta' immaġni jgħixu fl-app taċ-chat ta' Shannon. L-API /v1 taqdi test u viżjoni — taqra u tanalizza l-immaġni li tibgħatilha — mhux ġenerazzjoni ta' immaġni.
Jekk m'hemmx filtru, x'jimpedixxi l-abbuż?
Politika, responsabbiltà u punt ta' deċiżjoni viżibbli minflok lista ta' mblukkar bil-kliem. Shannon qatt ma jiġġenera mingħajr ma jintalab, juri l-prompt sħiħ qabel ir-render, ma jiffattura xejn qabel ma tikkonferma, u jopera taħt Politika ta' Użu Responsabbli ppubblikata li tipprojbixxi kontenut sesswali li jinvolvi minorenni, immaġni intimi mingħajr kunsens ta' persuni reali, fastidju mmirat, u falsifikazzjoni ta' dokumenti ta' identità jew finanzjarji.
Itlob l-immaġni li tabilħaqq teħtieġ
Ġenerazzjoni, editjar ta' immaġni waħda u taħlit ta' diversi immaġni fl-app taċ-chat — ebda filtru tal-kontenut, ebda saff ta' rifjut, u l-prompt fuq l-iskrin qabel ma jiġi renderjat xejn.
Ibda ċ-Chat Politika ta' Użu ResponsabbliImmaġni fl-app taċ-chat · ebda ġenerazzjoni ta' vidjo · aktar riċerka
Sorsi: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 ta' April, 2023 · PetaPixel, 3 ta' April, 2023 · CNBC, 22 ta' Frar, 2024. Shannon AI hu operat minn Shannon Lab LLC, New Mexico, USA.