Heb Sensoriaeth yn erbyn Wedi'i Hidlo: Cynhyrchydd Delweddau AI

Mae gan bron bawb sy'n gweithio gyda delweddau'n broffesiynol yr un stori. Mae anogaeth sy'n disgrifio rhywbeth cyffredin — trawsdoriad o gymal pen-glin, car ar foment gwrthdrawiad, astudiaeth ffigur mewn siarcol, milwr yn 1944 — yn dod yn ôl fel torri polisi. Rydych chi'n aralleirio, ac yn cael toriad gwahanol. Yn y pen draw rydych chi'n ysgrifennu rhywbeth digon amwys i basio, ac yn cael delwedd nad yw bellach yn dangos yr hyn oedd ei angen arnoch. Ni fethodd yr offeryn yn uchel; methodd fesul gradd, a'ch gwneud chi'n un a gyfaddawdodd.

01Pam mae cynhyrchydd delweddau AI yn gwrthod anogaeth sy'n amlwg ddilys?

Fel arfer nid barn y model delwedd yw'r gwrthodiad. Allbwn pentwr hidlo o gwmpas y model ydyw, ac mae ei haenau'n esbonio bron pob gwrthodiad rhyfedd rydych chi wedi'i gael.

Haen	Beth mae'n ei archwilio	Methiant nodweddiadol
Rhestr flocio anogaethau	Llinynnau llythrennol ac amrywiadau agos yn eich testun	Yn blocio gair waeth beth fo'r frawddeg o'i gwmpas — mae ‘speculum’ yn methu, mae ‘stethoscope’ yn pasio
Dosbarthydd anogaethau	Barn wedi'i dysgu am ‘risg’ yr anogaeth	Yn tanio ar agosrwydd pwnc: mae unrhyw beth yn agos at feddygaeth, arfau, cyrff neu wleidyddiaeth yn sgorio'n uchel
Hyfforddiant gwrthod y model	Amharodrwydd hyfforddedig y model ei hun	Yn gwrthod heb wall, neu'n cynhyrchu amnewidyn glanhaol yn dawel
Dosbarthydd allbwn	Picseli wedi'u rendro, heb gyd-destun yr anogaeth	Ni all wahaniaethu plât anatomeg oddi wrth bornograffi, na llonydd ffilm oddi wrth ddigwyddiad go iawn
Amnewid polisi	Ailysgrifennu eich anogaeth yn dawel cyn rendro	Rydych chi'n cael delwedd, ond nid yr un a nodoch, ac ni ddywedir wrthych pam

Mae gan bob haen yr un man dall: ni all yr un ohonynt weld pam rydych chi'n gofyn. Mae darlunydd meddygol, arbenigwr hawlydd yn ailadeiladu gwrthdrawiad, a rhywun â bwriadau drwg i gyd yn teipio'r un enw. Mae'r hidlydd yn gweld yr enw, nid yr atlas na'r ffeil achos, a chaiff ei raddio ar y niweidiau y mae'n eu gadael drwodd — byth ar y gwaith y mae'n ei ddinistrio. O dan yr anghymesuredd hwnnw, y gosodiad rhesymegol i unrhyw weithredwr yw gwrthod mwy. Dyna hefyd pam nad yw ‘aralleiriwch hi’ yn ateb: nid yw aralleirio'n rhoi unrhyw wybodaeth i'r hidlydd nad oedd ganddo, dim ond symud eich anogaeth i ffwrdd oddi wrth y geiriau a'i taniodd, sydd fel arfer yn golygu i ffwrdd oddi wrth yr hyn a olygoch.

02Beth y mae hidlyddion cynnwys yno'n wirioneddol i'w atal

Nid yw dadl dros gynhyrchu heb ei hidlo sy'n esgus bod hidlyddion yn bodoli am ddim rheswm yn werth ei darllen. Mae set gul o allbynnau y mae eu niwed yn gynhenid i'r ddelwedd ei hun, yn annibynnol ar bwy a ofynnodd neu pam:

• Cynnwys rhywiol yn cynnwys plant. Nid oes cyd-destun sy'n ei wneud yn dderbyniol; nid oes llif gwaith proffesiynol yn ei gwneud yn ofynnol.
• Delweddau agos-atoch anghydsyniol o bobl go iawn. Mae'r niwed yn glanio ar rywun na chytunodd, ac nid yw tynnu i lawr yn ei ddadwneud.
• Aflonyddu wedi'i dargedu a ffugio enllibus — gwneud i unigolyn a enwir ymddangos fel pe bai wedi gwneud rhywbeth na wnaeth.
• Dogfennau o safon ffugio — pasbortau, cardiau adnabod, papurau arian, seliau ac offerynnau ariannol a wnaed i basio fel rhai dilys.
• Tystiolaeth synthetig dwyllodrus — delweddau ffug o ddigwyddiadau go iawn a gyflwynir fel dogfennaeth yn hytrach na darlun.

Mae'r rhestr yn fyr ac mae ganddi strwythur: mae'r niwed yn byw yn yr arteffact, yn ei debygrwydd i berson neu ddogfen go iawn, ac yn ei gyflwyno fel gwirionedd. Sylwch ar yr hyn nad yw arni — noethni, gwaed, arfau, erchyllterau hanesyddol, gwatwar gwleidyddol. Y rheini yw defnydd crai meddygaeth, newyddiaduraeth, celf, fforensig a dychan, ac mae hidlydd sy'n eu trin fel categorïau niwed yn gweithredu syniad llawer ehangach am ba bynciau sy'n barchus.

Mae Shannon yn gwahardd popeth ar y rhestr honno, mewn Polisi Defnydd Cyfrifol cyhoeddedig gyda chategorïau wedi'u henwi a chanlyniadau, yn hytrach na thabl allweddeiriau sydd hefyd yn dal ‘placenta’. Mae un yn rheol y gallwch ei darllen a'n dal ni ati; dyfaliad gan ddosbarthydd na allwch ei weld am eich bwriadau yw'r llall.

03Pa mor fawr yw'r broblem gor-wrthod? Yr hyn y mae'r ymchwil yn ei fesur

Tan yn ddiweddar, anecdot oedd gor-wrthod mewn modelau delwedd — miloedd o bobl â'r un stori a dim ffordd o'i meintioli. Newidiodd hynny gydag OVERT (OVEr-Refusal evaluation on Text-to-image models), a gyflwynwyd yn ICML 2025 gan grŵp o UC Berkeley yn cynnwys Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song a Song Mei: y meincnod graddfa fawr cyntaf sy'n mesur pa mor aml y mae systemau testun-i-ddelwedd yn gwrthod anogaethau sy'n gwbl ddiniwed.

Mae'r cynllun yn bwysig. Adeiladwyd y 4,600 o anogaethau i edrych yn niweidiol tra'n ddiniwed — siâp cais proffesiynol go iawn sy'n crybwyll sgalpel, clais neu brotest — ac mae'r 1,785 o anogaethau gwirioneddol niweidiol yn eistedd ochr yn ochr â hwy fel rheolydd, fel na all model sgorio'n dda drwy wrthod popeth. Mae'r naw categori'n rhedeg o breifatrwydd unigolion a ffigurau cyhoeddus drwy hawlfraint, gwahaniaethu, hunan-niweidio, cynnwys rhywiol a gweithgaredd anghyfreithlon at drais.

Y prif ganfyddiad yw bod gor-wrthod yn eang ar draws categorïau ac ar draws modelau blaenllaw. Mae'r ail yn fwy niweidiol i'r ffordd arferol o'i osgoi: profodd yr awduron ailysgrifennu anogaethau fel lliniariad ac maent yn adrodd ei fod ‘yn aml yn peryglu ffyddlondeb i ystyr yr anogaethau gwreiddiol’. Gallwch fynd heibio'r hidlydd drwy newid yr hyn y gofynnoch amdano, ac wedyn nid oes gennych mwyach yr hyn y gofynnoch amdano.

Mae astudiaeth gulach yn cyrraedd yr un casgliad o ochr y picseli. Yn An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ac Oliver, gweithdy AI4VA yn ECCV 2024), mae'r awduron yn gwerthuso tri dosbarthydd NSFW cynhyrchu ar noethni artistig ac yn datgelu tuedd rhyw a thuedd arddull fel ei gilydd: mae'r dyfarniad ar astudiaeth ffigur yn dibynnu ar gorff pwy a ddarlunnir ac ym mha arddull. Mae hynny'n ddatganiad wedi'i fesur o'r peth y mae pob arlunydd sy'n arlunio o'r ffigur wedi cael ei ddweud wrtho ei fod yn ddychmygol.

04Wyth math o waith dilys y mae cynhyrchwyr wedi'u hidlo'n eu blocio

Dyma'r categorïau lle nad anghyfleustra yw gor-wrthod ond stopio gwaith. Lle mae achos penodol wedi'i adrodd, caiff ei ddyfynnu; lle na chafodd yr un ei wirio, disgrifir y categori heb ddyfeisio digwyddiad.

1. Darlunio meddygol ac anatomegol

Yr achos gorau ei ddogfennu yn y maes. Ym mis Ebrill 2023, adroddodd The Intercept (Debbie Nathan) fod Midjourney wedi gwahardd termau anatomegol gan gynnwys speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ac IUD, tra gwrthododd DALL·E 2 ‘pills used in medication abortion’ gyda neges polisi cynnwys. Canfuwyd y patrwm gan Julia Rockwell, dadansoddwr data clinigol a oedd wedi ceisio cynhyrchu llun o brych fel anrheg i ffrind a oedd yn fiolegydd celloedd, a'i adrodd i MIT Technology Review. Yr anghymesuredd yw'r arwydd: cynhyrchai ‘stethoscope’ yn normal tra gwaharddwyd ‘speculum’. Galwodd yr ymchwilydd Bill Howe o Brifysgol Washington yr hidlyddion yn ‘ham-fisted’ a dweud eu bod yn ei gwneud ‘basically impossible to have a scientific discussion about reproduction’. Mae addysg cleifion, atlasau llawfeddygol a chwricwla nyrsio i gyd angen cyrff wedi'u darlunio'n gywir, gan gynnwys y rhannau y mae rhestr allweddeiriau wedi penderfynu eu bod yn anweddus.

2. Ailadeiladu fforensig a damweiniau

Mae ailadeiladu gwrthdrawiadau, dadansoddi tarddiad tân a dangosion llys yn gofyn am ddarlunio difrod, clwyfau a mecaneg dreisgar gyda chywirdeb clinigol. Mae hidlydd wedi'i diwnio i wrthod ‘blood’ neu ‘gunshot wound’ yn gwrthod y ddisgyblaeth: mae'r cyd-destun — adroddiad arbenigol, ffeil yswiriant — yn anweledig i'r dosbarthydd, a'r union niwtraliaeth sy'n gwneud delweddau o'r fath yn dderbyniadwy yw'r hyn sy'n gwneud iddynt ddarllen fel gôr.

3. Nydau celf ac arlunio o'r ffigur

Mae'r noeth yn bwnc sylfaenol i gelf ym mhobman, ac mae astudio'r ffigur yn ganolog i addysg gelf. Canlyniad ECCV 2024 uchod yw'r fersiwn wedi'i mesur o'r hyn y mae artistiaid yn ei adrodd: nid yw dosbarthwyr yn gwahanu astudiaeth ffigur oddi wrth bornograffi'n ddibynadwy, ac mae eu gwallau'n rhagfarnllyd yn ôl rhyw ac arddull — hidlydd sydd galetaf ar yn union y traddodiad y dylai ei adnabod.

4. Delweddau hanesyddol ac amser rhyfel

Mae celf gwerslyfrau, dehongli amgueddfeydd a phrosiectau coffa'n gofyn am ddarlunio gwisgoedd, arfau, gwersylloedd, brwydrau ac erchyllterau. Mae pennod Gemini ym mis Chwefror 2024 yn addysgiadol oherwydd rhedodd y methiant i'r cyfeiriad arall a gwneud yr un faint o ddifrod. Oedodd Google allu Gemini i gynhyrchu delweddau o bobl ar 22 Chwefror 2024 ar ôl iddo gynhyrchu darluniau wedi'u hailgyfansoddi'n hiliol o grwpiau hanesyddol gan gynnwys milwyr Almaenig y cyfnod Natsïaidd. Galwodd y Prif Weithredwr Sundar Pichai yr allbynnau'n ‘completely unacceptable’; cydnabu'r Uwch Is-lywydd Prabhakar Raghavan fod y model wedi ‘overcompensated’ a dod yn ‘over-conservative’. Ni wnaeth diogelwch dall i gyd-destun ddelweddau hanesyddol yn fwy diogel — fe'u gwnaeth yn ffug, sydd i gyhoeddwr hanes yn waeth.

5. Trais mewn ffuglen a rhag-ddelweddu ffilm

Mae byrddluniau, celf gysyniad, comics a dylunio gemau'n darlunio trais am yr un rheswm ag y mae nofelau a ffilmiau'n ei wneud. Mae hidlydd na all wahaniaethu byrddlun arswyd oddi wrth fygythiad yn trin y biblinell celfyddydau naratif gyfan fel un amheus — er bod byrddlun yn benodol anwir, yn gynllun ar gyfer golygfa y bydd actorion a thimau effeithiau'n ei llwyfannu.

6. Dychan gwleidyddol a chartwnio golygyddol

Mae gwawdlunio'r pwerus ymhlith y categorïau lleferydd a warchodir fwyaf yn y rhan fwyaf o ddemocratiaethau, ac yn rheolaidd y peth cyntaf y mae hidlydd delweddau'n ei dynnu. Yr achos dogfenedig cliriaf yw penderfyniad Midjourney ym mis Ebrill 2023 i wahardd delweddau o Arlywydd Tsieina Xi Jinping a blocio ei enw mewn anogaethau — a adroddwyd gan PetaPixel, Decrypt ac eraill — tra'n parhau i ganiatáu arweinwyr byd eraill. Esboniodd y sylfaenydd David Holz ar Discord fod y cwmni am ‘minimize drama’ a bod ‘the ability for people in China to use this tech is more important than your ability to generate satire’; galwodd Sarah McLaughlin o'r Foundation for Individual Rights and Expression y peth yn sensoriaeth. Beth bynnag y daw rhywun i'w gasglu am y cyfrifiad busnes, mae'r mecanwaith yn haeddu ei enwi: cyfyngiad lleferydd cenedlaethol wedi'i gymhwyso i bob defnyddiwr ledled y byd, oherwydd un gosodiad sydd gan hidlydd byd-eang.

7. Ymchwil diogelwch a deunydd ymwybyddiaeth gwe-rwydo

Mae timau diogelwch yn adeiladu deunydd hyfforddi sy'n gorfod edrych fel y peth y mae'n rhybuddio amdano: sgrin fewngofnodi ffug argyhoeddiadol, anfoneb wedi'i ffugio, cod QR maleisus ar fesurydd parcio. I ddosbarthydd mae hynny'n anwahanadwy oddi wrth yr ymosodiad y mae'n imiwneiddio yn ei erbyn — y tebygrwydd i'r gwir yw'r pwynt — felly mae hidlyddion yn blocio amddiffyn a throsedd yr un fath, gan roi mantais i'r ymosodwr, nad oedd byth am ddefnyddio offeryn defnyddiwr wedi'i hidlo beth bynnag.

8. Deiliaid hawliau'n cael eu gwrthod am ddelweddau o'u brand, cynnyrch neu debygrwydd eu hunain

Nid yw hidlo hawlfraint a nod masnach yn gwirio perchnogaeth; mae'n gwirio tebygrwydd. Ni all cwmni gynhyrchu delweddau o'i logo neu ei gynnyrch ei hun yn hawdd, ni all deiliad hawliau ddarlunio ei gymeriad ei hun, ac yn aml ni all pobl gynhyrchu eu hwyneb eu hunain, oherwydd bod hidlyddion tebygrwydd yn allweddu ar adnabyddadwyedd yn hytrach na chydsyniad. Mae OVERT yn cynnwys ‘torri hawlfraint’ ymhlith ei naw categori gor-wrthod yn union oherwydd bod y positif ffug hwn mor gyffredin. Mae'r hidlydd yn offeryn di-fin ar gyfer cwestiwn — a oes gennych chi'r hawl i hyn? — nad oes ganddo ffordd o'i ofyn.

Mae pedwar o'r wyth uchod wedi'u hangori at achos cyhoeddedig penodol (meddygol, nydau celf, hanesyddol, dychan) ynghyd â chategori hawlfraint OVERT ar gyfer yr wythfed. Nodir fforensig, rhag-ddelweddu ffuglen a deunydd ymwybyddiaeth diogelwch fel categorïau: dosbarthiadau adnabyddus o waith proffesiynol yr effeithir arno ydynt lle na wnaethom wirio digwyddiad cyhoeddedig penodol.

05Pam mae cynhyrchwyr celf AI yn blocio'r pethau anghywir, a pham na ellir tiwnio positifau ffug hidlyddion cynnwys i ffwrdd

Yr ymateb greddfol i or-flocio yw ‘llaciwch y trothwy’. Nid yw'n gweithio, am resymau strwythurol yn hytrach na diffyg ymdrech.

Mae'r categorïau'n gorgyffwrdd yn y signal ond nid mewn gwirionedd. Mae darlun llawfeddygol a phornograffi'n rhannu noethni. Mae ailadeiladu fforensig a gôr yn rhannu gwaed. Mae sleid ymwybyddiaeth a phecyn gwe-rwydo'n rhannu ffurflen fewngofnodi ffug. Mae cartŵn dychanol a ffugio enllibus yn rhannu gwleidydd adnabyddadwy. Yr hyn sy'n gwahaniaethu pob pâr yw pwrpas a chyflwyniad — yn absennol o'r anogaeth ac yn absennol o'r picseli. Nid oes trothwy'n gwahanu dau boblogaeth sy'n meddiannu'r un rhanbarth o ofod y mewnbwn; nid yw ei symud ond yn cyfnewid un gwall am y llall. Dyna a ddangosodd pennod Gemini: cynhyrchodd ymyriad a fwriadwyd i drwsio un methiant un arall, a ddisgrifiwyd gan Uwch Is-lywydd Google ei hun fel ‘overcompensated’.

Mae'r costau'n anghymesur i'r gweithredwr, nid i chi. Mae hidlydd sy'n gadael un ddelwedd wael drwodd yn cynhyrchu stori newyddion. Mae hidlydd sy'n blocio deng mil o rai dilys yn cynhyrchu distawrwydd, oherwydd nid yw defnyddwyr a wrthodwyd yn trefnu — maent yn rhoi'r gorau iddi. Mae rheoli risg o dan yr anghymesuredd hwnnw'n cydgyfeirio ar or-flocio, yn barhaol. Ac oherwydd bod y farn sylfaenol yn amhosibl, mae rhestrau blocio'n cronni llinynnau llythrennol wrth i ddigwyddiadau ddigwydd, sef sut rydych chi'n cael ‘stethoscope’ yn iawn a ‘speculum’ wedi'i wahardd. Ni phenderfynodd neb fod offerynnau penodol i fenywod yn fwy peryglus; tyfodd y rhestr lle glaniodd cwynion. Mae'n amgodio hanes cysylltiadau cyhoeddus gweithredwr, nid damcaniaeth o niwed.

Mae'r awdurdodaeth lymaf yn dod yn rhagosodiad byd-eang. Mae un hidlydd yn gwasanaethu pob defnyddiwr ym mhob gwlad, felly caiff cyfyngiad a ychwanegwyd ar gyfer un farchnad ei allforio i bob un ohonynt — rheol Xi Jinping yw'r achos gwerslyfr. Ac mae ailysgrifennu eich anogaeth yn dinistrio eich ystyr, sef pwynt arbrofol OVERT: mae pob proffesiynolyn sydd wedi golchi cais yn ewffemistiaeth i'w gael heibio hidlydd wedi'i gadarnhau â llaw. Nid enilloch chi; setloch chi.

Nid oes dim o hyn yn rhad ac am ddim, ac oherwydd ei fod yn methu'n dawel mae'r gost yn anweledig yn y metrigau y mae gweithredwr yn eu gwylio. Ar ôl digon o wrthodiadau rydych chi'n rhoi'r gorau i ofyn, gan gulhau pob anogaeth ymlaen llaw at yr hyn rydych chi'n rhagweld a fydd yn pasio; mae'r ewffemistiaeth sydd o'r diwedd yn pasio'n rhoi delwedd sy'n agos at, ond nid, yr hyn oedd ei angen ar eich dogfen. Nid yw neges polisi generig yn dweud dim wrthych am ba haen a daniodd, felly ni allwch ond dyfalu ac ailgeisio — ac mae gwaith delwedd yn iteraidd, felly mae hidlydd sy'n dal un ymgais o bob pump yn tarfu ar y ddolen yn hytrach na dim ond ei harafu. Yn y cyfamser nid yw'r meysydd â'r hawliad cryfaf i offer difrifol yn cael adolygydd, apêl nac fel arfer rhestr gyhoeddedig o'r hyn sydd wedi'i flocio. Nid rheol yw rheol na allwch ei darllen; tywydd ydyw.

06Cynhyrchydd delweddau AI heb sensoriaeth yn erbyn un wedi'i hidlo: beth sy'n newid mewn gwirionedd

Dyma fersiwn onest y gymhariaeth, gan gynnwys yr hyn nad yw system heb ei hidlo yn ei roi i chi.

Dimensiwn	Cynhyrchydd wedi'i hidlo	Heb ei hidlo (Shannon)
Beth sy'n penderfynu	Dosbarthydd yn darllen geiriau a phicseli	Person yn darllen yr union anogaeth
Pryd rydych chi'n darganfod	Ar ôl i chi gyflwyno — weithiau ar ôl i chi dalu	Cyn i ddim rendro na chael ei bilio
Beth yw'r rheol	Rhestrau blocio anghyhoeddedig, cyfnewidiol	Polisi Defnydd Cyfrifol cyhoeddedig
Cyd-destun proffesiynol	Anweledig i'r system	Eich un chi i'w ddal, a'ch un chi i'w ateb
Modd methu	Gor-flocio tawel, drifft ystyr	Rydych chi'n cael yr hyn y gofynnoch amdano — gan gynnwys camgymeriadau
Pwy sy'n cario'r risg	Y gwerthwr, wedi'i dadlwytho ar eich gwaith chi	Wedi'i rhannu: polisi'r gweithredwr ynghyd ag atebolrwydd y defnyddiwr

Y rhes olaf yw'r un y mae pobl yn ei hepgor, a'r un sy'n bwysig. Nid yw tynnu hidlydd yn tynnu'r categorïau niwed yn adran 02; mae'n tynnu'r peiriant a oedd yn dyfalu'n wael amdanynt. Mae'r rhwymedigaeth yn aros lle roedd, wedi'i dal bellach gan ddau barti a all resymu am gyd-destun: y gweithredwr, sy'n cyhoeddi ac yn gorfodi polisi, a chi, sy'n gwybod at beth y mae'r ddelwedd. Mae cynhyrchu delweddau AI heb ei hidlo yn offeryn i bobl sydd eisoes yn barod i sefyll y tu ôl i'w hallbwn — atlas y llawfeddyg, yr adroddiad arbenigol, y byrddlun, y cartŵn — a oedd yn cael eu hatal gan system na allai eu gwahaniaethu oddi wrth rywun arall.

07Beth mae Shannon yn ei wneud — a beth nad yw'n ei wneud

Mae manwl gywirdeb yma'n bwysicach na brwdfrydedd, yn enwedig i ddarllenwyr sy'n cyrraedd o chwiliad am API.

Beth mae'n ei wneud

• Cynhyrchu. Disgrifiwch ddelwedd mewn iaith blaen, mewn unrhyw iaith. Mae Shannon yn ysgrifennu'r anogaeth gynhyrchu ei hun, yn Saesneg, pa bynnag iaith y gofynnoch ynddi.
• Golygu un ddelwedd. Un ffynhonnell yn union — llun sydd eisoes yn y sgwrs, neu un wedi'i atodi i'ch neges gyfredol — wedi'i newid gan gyfarwyddyd sy'n dweud beth sy'n newid a beth sy'n aros. Mae'r allbwn yn cadw cymhareb agwedd y ffynhonnell yn awtomatig.
• Cyfuno dwy neu fwy o ddelweddau. Trosglwyddo gwisg, gwrthrych-i-olygfa, person wrth ymyl person, cynnyrch-ar-berson, pwnc o un ddelwedd gydag arddull o un arall. Mae'r anogaeth yn enwi rôl pob delwedd yn eu trefn, a defnyddir y delweddau go iawn, felly cedwir eu golwg wirioneddol yn hytrach na'i hailddisgrifio.
• Rheoli agwedd. square (rhagosodiad), portrait, landscape, wide a tall. Mae cais penodol bob amser yn ennill.
• Rendro ar ein clwstwr GPU ein hunain, heb hidlydd cynnwys ar y llwybr cynhyrchu a heb haen wrthod ar y model sy'n ysgrifennu'r anogaeth.

Beth nad yw'n ei wneud

• Dim fideo. Nid yw Shannon yn animeiddio delweddau ac nid yw'n cynhyrchu fideo. Nid eitem map ffordd sy'n cael ei chadw'n ôl yn swil — nid yw'n bodoli.
• Nid ar yr API. Mae cynhyrchu, golygu a chyfuno delweddau'n byw yn ap sgwrsio Shannon. Mae'r API /v1 yn gwasanaethu testun a gweledol — gall ddarllen delweddau rydych chi'n eu hanfon ato — ond nid yw'n eu rendro.
• Dim cynhyrchu heb wahoddiad. Nid yw cyfarchiad, cwestiwn na llun wedi'i atodi'n achlysurol yn sbarduno delwedd. Mae gofyn i Shannon edrych ar ddelwedd — ei disgrifio, ei darllen, ei dadansoddi — yn waith gweledol cyffredin, nid yn gynhyrchiad, ac nid yw'n costio dim yn ychwanegol.

Y cerdyn cadarnhau

Dyma'r mecanwaith sy'n disodli'r hidlydd, a dewis cynllun ydyw yn hytrach na ffurfioldeb. Pan fydd Shannon yn penderfynu eich bod yn gofyn am ddelwedd, mae'n ysgrifennu'r anogaeth gynhyrchu ac yn ei dangos i chi ar gerdyn cadarnhau cyn i ddim rendro. Ni chynhyrchir dim ac ni bilir dim nes i chi gadarnhau.

Cymharwch y cynlluniau ar eu rhinweddau. Mae hidlydd yn dyfalu am eich bwriad gyda llai o wybodaeth nag sydd gennych chi, ac yn gorfodi'r dyfaliad yn dawel. Mae cerdyn cadarnhau'n rhoi manyleb lythrennol y ddelwedd o flaen y parti sy'n gwybod at beth y mae, cyn gwario unrhyw gyfrifiant. Mae'n dal camddarlleniadau o'ch cais, rhywbeth nad yw hidlyddion byth yn ei wneud; mae'n gadael i chi ychwanegu'r manwl gywirdeb anatomegol neu'r manylion hanesyddol y tan-nododd y model; ac mae'n gwneud cyfrifoldeb yn ddarllenadwy yn hytrach na gwasgaredig. Gweloch chi'r anogaeth, a gwasgoch chi'r botwm.

08Mae cynhyrchu heb ei hidlo'n codi cyfrifoldeb, nid yw'n ei dynnu

Mae hyn yn perthyn yma yn hytrach nag mewn troedyn, oherwydd mae'n hanner y ddadl. Mae cynhyrchydd wedi'i hidlo'n gwneud addewid na all ei gadw: y bydd yr offeryn yn atal camddefnydd ar eich rhan. Mae'n methu yn y ddau gyfeiriad — mae'n blocio'r llawfeddyg, ac nid yw'n atal actor drwg penderfynol, sydd ag opsiynau eraill ac a fu erioed. Yr hyn y mae'n ei wneud yn ddibynadwy yw gadael i bawb deimlo bod cyfrifoldeb wedi'i drin i fyny'r afon, gan beiriant. Mae tynnu'r hidlydd yn tynnu'r ffuglen honno; mae'r cwestiwn a ddylai delwedd fodoli'n dychwelyd at y bobl a all ei ateb.

• Rhwymedigaeth Shannon Lab LLC. Polisi Defnydd Cyfrifol cyhoeddedig, penodol sy'n enwi categorïau gwaharddedig yn hytrach na rhestr flocio anghyhoeddedig — rheolau y gallwch eu darllen, eu dyfynnu, a'n dal ni atynt.
• Eich rhwymedigaeth chi. Rydych chi'n gwybod y pwrpas, y gynulleidfa, yr awdurdodaeth a statws cydsyniad pawb a ddarlunnir. Nid yw'r offeryn yn gwybod, ac ni allai dosbarthydd byth. Mae'r cerdyn cadarnhau'n bodoli fel bod y wybodaeth honno'n cael ei chymhwyso ar y foment y mae'n bwysig, gan y parti sydd â hi.
• Y llinell nad yw'n symud. Nid yw ‘ni wnaeth yr hidlydd fy atal’ erioed wedi bod yn amddiffyniad mewn unrhyw gyfrwng. Nid yw camera'n gwrthod, nid yw pensil yn gwrthod; y gyfraith a moeseg broffesiynol sy'n llywodraethu'r defnydd, nid yr offeryn. Mae cynhyrchydd heb ei hidlo'n adfer y trefniant cyffredin y mae pob offeryn proffesiynol arall yn gweithredu oddi tano.

Darllenwch y Polisi Defnydd Cyfrifol cyn i chi ddechrau. Mae'n fyr, yn benodol, a dyma'r rhan o'r cynnyrch hwn sy'n gwneud y gweddill ohono'n amddiffynadwy.

09Cwestiynau cyffredin

---

Ffynonellau: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 Ebrill 2023 · PetaPixel, 3 Ebrill 2023 · CNBC, 22 Chwefror 2024. Gweithredir Shannon AI gan Shannon Lab LLC, New Mexico, UDA.