Zisizodhibitiwa dhidi ya Zilizochujwa: Picha za AI
Vichujio vya maudhui vilijengwa kuzuia madhara machache halisi. Kivitendo vinazuia pia michoro ya kitiba, ujenzi upya wa kiuchunguzi, uchoraji wa mwili, historia ya vita, kejeli ya uhariri na kampuni zinazopiga picha bidhaa zao wenyewe. Hii ndiyo gharama yake — na kile kuondoa kichujio kunachobadilisha na kisichobadilisha.
Kwa Ufupi
Vitengenezaji vikuu vya picha vinachuja vidokezo na matokeo kwa viainishi vinavyoona maneno na pikseli, kamwe kusudi. Hilo linahakikisha makosa ya kuzuia yasiyostahili, na yanaangukia zaidi kazi za ustadi: anatomia, uchunguzi wa kiuhalifu, uchi wa kisanaa, picha za kihistoria, upangaji wa mionekano kabla ya kupiga, kejeli, nyenzo za kutambua hatari za usalama, na wenye haki wanaoomba chapa yao wenyewe. OVERT (ICML 2025), kipimo cha kwanza cha kiwango kikubwa kwa kasoro hii, kinatumia vidokezo 4,600 visivyo na madhara lakini vinavyoonekana vya shaka na kinagundua kwamba ukataaji uliopitiliza umeenea kwenye modeli zinazoongoza. Shannon inaendesha utengenezaji wa picha, uhariri wa picha moja na uunganishaji wa picha nyingi kwenye kundi letu la GPU bila kichujio cha maudhui na bila safu ya kukataa, ikibadilisha orodha ya vizuizi kwa uamuzi unaoonekana: kadi ya uthibitisho inayoonyesha kidokezo halisi kabla ya chochote kuchorwa. Hilo linapandisha wajibu wako na wetu; vyote viko ndani ya Sera ya Matumizi ya Kuwajibika. Hakuna utengenezaji wa video, na kazi ya picha ipo ndani ya programu ya gumzo, si API.
Karibu kila anayefanya kazi na picha kitaaluma ana hadithi ileile. Kidokezo kinachoeleza kitu cha kawaida — mkato wa kiungo cha goti, gari wakati wa mgongano, somo la umbo kwa mkaa, askari wa mwaka 1944 — kinarudi kama ukiukaji wa sera. Unaandika upya, unapata ukiukaji tofauti. Hatimaye unaandika kitu chenye utata wa kutosha kupita, na unapata picha isiyoonyesha tena ulichokihitaji. Zana haikushindwa kwa kelele; ilishindwa hatua kwa hatua, na ikakufanya wewe uwe uliyeachia.
01Kwa nini kitengenezaji cha picha za AI kinakataa kidokezo ambacho ni halali waziwazi?
Ukataaji kwa kawaida si maoni ya modeli ya picha. Ni matokeo ya rundo la vichujio linalozunguka modeli, na tabaka zake zinaeleza karibu kila ukataaji wa ajabu uliowahi kupata.
| Tabaka | Linachokagua | Kasoro ya kawaida |
|---|---|---|
| Orodha ya maneno yaliyozuiwa | Maneno halisi na yanayofanana ndani ya maandishi yako | Linazuia neno bila kujali sentensi inayolizunguka — "speculum" linakataliwa, "stethoscope" linapita |
| Kiainishi cha kidokezo | Hukumu iliyojifunza ya "hatari" ya kidokezo | Kinawaka kwa ukaribu wa mada: chochote kilicho karibu na tiba, silaha, miili au siasa kinapata alama kubwa |
| Mafunzo ya modeli ya kukataa | Kusita kulikofunzwa ndani ya modeli yenyewe | Inakataa bila kutoa hitilafu, au kimyakimya inatoa mbadala uliosafishwa |
| Kiainishi cha matokeo | Pikseli zilizochorwa, bila muktadha wa kidokezo | Hakiwezi kutofautisha mchoro wa anatomia na ponografia, au picha ya filamu na tukio halisi |
| Ubadilishaji wa kisera | Kuandika upya kidokezo chako kimyakimya kabla ya kuchora | Unapata picha, lakini si ile uliyoieleza, na huelezwi kwa nini |
Kila tabaka linashiriki upofu mmoja: hakuna linaloweza kuona kwa nini unauliza. Mchoraji wa kitiba, mtaalamu wa mlalamikaji anayejenga upya mgongano, na mtu mwenye nia mbaya wote wanaandika nomino ileile. Kichujio kinaona nomino, si kitabu cha anatomia wala jalada la kesi, na kinapimwa kwa madhara kinayoyaacha yapite — kamwe si kwa kazi kinazoziharibu. Chini ya kutofautiana huko, mpangilio wa kimantiki kwa mwendeshaji yeyote ni kataa zaidi. Ndiyo pia sababu "andika tu upya" si suluhisho: kuandika upya hakumpi kichujio taarifa iliyokosekana, kunasogeza tu kidokezo chako mbali na maneno yaliyokiwasha, jambo ambalo kwa kawaida linamaanisha mbali na ulichokusudia.
02Vichujio vya maudhui vipo kuzuia nini kweli
Hoja ya utengenezaji bila vichujio inayojifanya kuwa vichujio vipo bila sababu haistahili kusomwa. Kuna kundi finyu la matokeo ambayo madhara yake yamo ndani ya picha yenyewe, bila kujali nani aliyeomba au kwa nini:
- Maudhui ya ngono yanayohusisha watoto. Hakuna muktadha unaoyafanya yakubalike; hakuna mtiririko wa kazi wa kitaaluma unaoyahitaji.
- Picha za faragha za watu halisi bila ridhaa yao. Madhara yanamwangukia mtu ambaye hakukubali, na kuiondoa hakurudishi hali.
- Unyanyasaji unaolenga mtu na uzushi wa kashfa — kumfanya mtu aliyetajwa aonekane amefanya kitu ambacho hakukifanya.
- Nyaraka za kiwango cha kughushi — pasipoti, vitambulisho, noti za fedha, mihuri na hati za kifedha zilizotengenezwa kupita kama halisi.
- Ushahidi bandia wa kudanganya — picha za uzushi za matukio halisi zinazowasilishwa kama uthibitisho badala ya kielelezo.
Orodha ni fupi na ina muundo: madhara yamo ndani ya kazi yenyewe, ndani ya kufanana kwake na mtu halisi au hati, na ndani ya kuwasilishwa kwake kama ukweli. Angalia kile kisichokuwemo — uchi, damu, silaha, ukatili wa kihistoria, dhihaka ya kisiasa. Hivyo ndivyo malighafi ya tiba, uandishi wa habari, sanaa, uchunguzi wa kiuhalifu na kejeli, na kichujio kinachoviona kama makundi ya madhara kinatekeleza wazo pana zaidi kuhusu mada zipi zinastahili heshima.
Shannon inakataza kila kilichomo katika orodha hiyo, ndani ya Sera ya Matumizi ya Kuwajibika iliyochapishwa yenye makundi yaliyotajwa na matokeo yake, badala ya jedwali la maneno linalokamata pia "placenta." Moja ni kanuni unayoweza kuisoma na kutushikilia nayo; nyingine ni ubashiri kuhusu nia zako unaofanywa na kiainishi usichoweza kukiona.
03Tatizo la ukataaji uliopitiliza ni kubwa kiasi gani? Utafiti unapima nini
Hadi hivi karibuni, ukataaji uliopitiliza katika modeli za picha ulikuwa hadithi ya mdomo — maelfu ya watu wenye hadithi ileile bila njia ya kuupima. Hilo lilibadilika na OVERT (OVEr-Refusal evaluation on Text-to-image models), kilichowasilishwa ICML 2025 na kikundi cha UC Berkeley kikijumuisha Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song na Song Mei: kipimo cha kwanza cha kiwango kikubwa kinachopima mara ngapi mifumo ya maandishi-kwenda-picha inakataa vidokezo visivyo na madhara kabisa.
Muundo wake ni muhimu. Vidokezo 4,600 vimejengwa kuonekana hatari huku vikiwa havina madhara — umbo la ombi halisi la kitaaluma linalotaja kisu cha upasuaji, jeraha au maandamano — na vidokezo 1,785 vyenye madhara halisi vinakaa kando yake kama kipimo cha kudhibiti, ili modeli isipate alama nzuri kwa kukataa kila kitu. Makundi tisa yanaanzia faragha ya mtu binafsi na ya watu maarufu hadi hakimiliki, ubaguzi, kujidhuru, maudhui ya ngono na shughuli haramu hadi ukatili.
Ugunduzi mkuu ni kwamba ukataaji uliopitiliza umeenea kwenye makundi yote na kwenye modeli zinazoongoza. Wa pili unaumiza zaidi njia ya kawaida ya kukwepa: waandishi walijaribu kuandika upya vidokezo kama tiba na wanaripoti kwamba "mara nyingi kunaharibu uaminifu kwa maana ya vidokezo vya awali." Unaweza kupita kichujio kwa kubadilisha ulichokiomba, na kisha huna tena ulichokiomba.
Utafiti mwembamba zaidi unafikia hitimisho lilelile kutokea upande wa pikseli. Katika An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann na Oliver, warsha ya AI4VA katika ECCV 2024), waandishi wanatathmini viainishi vitatu vya NSFW vya uzalishaji kwenye uchi wa kisanaa na kufichua upendeleo wa kijinsia na upendeleo wa kimtindo: hukumu juu ya somo la umbo inategemea mwili wa nani unaonyeshwa na kwa mtindo gani. Hilo ni tamko lililopimwa la kile kila mchoraji wa mwili ameambiwa ni fikra tu.
04Aina nane za kazi halali ambazo vitengenezaji vilivyochujwa vinazuia
Haya ndiyo makundi ambapo ukataaji uliopitiliza si usumbufu bali ni kusimamisha kazi. Pale kisa mahususi kilichoripotiwa kipo kimetajwa; pale hakuna kilichothibitishwa, kundi limeelezwa bila kuzua tukio.
1. Michoro ya kitiba na ya anatomia
Kisa kilichoandikwa vizuri zaidi katika eneo hili. Mwezi Aprili 2023, The Intercept (Debbie Nathan) iliripoti kwamba Midjourney ilikuwa imepiga marufuku maneno ya anatomia yakiwemo speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom na IUD, wakati DALL·E 2 ilikataa "pills used in medication abortion" kwa ujumbe wa sera ya maudhui. Mtindo huu uligunduliwa na Julia Rockwell, mchambuzi wa data za kliniki aliyekuwa amejaribu kutengeneza picha ya plasenta kama zawadi kwa rafiki yake mwanabiolojia wa seli, na kuripotiwa kwa MIT Technology Review. Kutofautiana ndiko ushahidi: "stethoscope" lilizalisha kama kawaida wakati "speculum" lilikatazwa. Mtafiti wa Chuo Kikuu cha Washington Bill Howe aliviita vichujio hivyo "vya kishenzi" na akasema vilifanya iwe "kimsingi haiwezekani kuwa na mjadala wa kisayansi kuhusu uzazi." Elimu kwa wagonjwa, vitabu vya anatomia ya upasuaji na mitaala ya uuguzi vyote vinahitaji miili ionyeshwe kwa usahihi, ikiwemo sehemu ambazo orodha ya maneno imeamua ni za aibu.
2. Ujenzi upya wa kiuchunguzi na wa ajali
Ujenzi upya wa migongano, uchambuzi wa chanzo cha moto na vielelezo vya mahakamani vinahitaji kuonyesha uharibifu, majeraha na mienendo ya nguvu kwa usahihi wa kikliniki. Kichujio kilichowekwa kukataa "damu" au "jeraha la risasi" kinaikataa taaluma nzima: muktadha — ripoti ya mtaalamu, jalada la bima — hauonekani kwa kiainishi, na uwazi ule ule unaofanya picha kama hizo zikubalike mahakamani ndio unaozifanya zisomeke kama damu ya kutisha.
3. Uchi wa kisanaa na uchoraji wa mwili
Uchi ni mada ya msingi ya sanaa kila mahali, na somo la umbo ni kiini cha elimu ya sanaa. Matokeo ya ECCV 2024 hapo juu ni toleo lililopimwa la kile wasanii wanaripoti: viainishi haviwezi kutenganisha kwa uhakika somo la umbo na ponografia, na makosa yake yanapendelea kwa jinsia na mtindo — kichujio kikali zaidi hasa kwa mapokeo yaleyale kinayopaswa kuyatambua.
4. Picha za kihistoria na za wakati wa vita
Sanaa ya vitabu vya kiada, ufafanuzi wa makumbusho na miradi ya kumbukumbu vinahitaji kuonyesha sare, silaha, kambi, mapigano na ukatili. Tukio la Gemini la Februari 2024 linafundisha kwa sababu kasoro ilikwenda upande wa kinyume na kufanya uharibifu sawa. Google ilisimamisha uwezo wa Gemini wa kutengeneza picha za watu tarehe 22 Februari 2024 baada ya kuzalisha maonyesho ya makundi ya kihistoria yaliyobadilishwa rangi ikiwemo askari wa Ujerumani wa enzi ya Unazi. Mkurugenzi Mtendaji Sundar Pichai aliyaita matokeo hayo "yasiyokubalika kabisa"; Makamu Mwandamizi wa Rais Prabhakar Raghavan alikiri kwamba modeli ilikuwa "imefidia kupita kiasi" na kuwa "ya tahadhari kupita kiasi." Usalama usioona muktadha haukufanya picha za kihistoria ziwe salama zaidi — uliufanya ziwe za uongo, jambo ambalo kwa mchapishaji wa historia ni baya zaidi.
5. Ukatili ndani ya hadithi na upangaji wa mionekano ya filamu
Mbao za hadithi, sanaa ya dhana, katuni na ubunifu wa michezo vinaonyesha ukatili kwa sababu ileile riwaya na filamu zinavyofanya. Kichujio kisichoweza kutofautisha ubao wa hadithi ya kutisha na tishio kinachukulia mnyororo mzima wa sanaa za simulizi kuwa wa shaka — ingawa ubao wa hadithi kwa wazi si halisi, ni mpango wa tukio ambalo waigizaji na timu za athari watalitengeneza.
6. Kejeli ya kisiasa na katuni za uhariri
Kuchora vibonzo vya wenye mamlaka ni miongoni mwa makundi ya uhuru wa kujieleza yanayolindwa zaidi katika demokrasia nyingi, na mara kwa mara ndicho kitu cha kwanza kichujio cha picha kinachoondoa. Kisa kilichoandikwa waziwazi zaidi ni uamuzi wa Midjourney wa Aprili 2023 wa kuzuia picha za Rais wa China Xi Jinping na kuzuia jina lake ndani ya vidokezo — kilichoripotiwa na PetaPixel, Decrypt na wengine — huku ikiendelea kuruhusu viongozi wengine wa dunia. Mwanzilishi David Holz alieleza kwenye Discord kwamba kampuni ilitaka "kupunguza mvutano" na kwamba "uwezo wa watu nchini China kutumia teknolojia hii ni muhimu zaidi kuliko uwezo wako wa kutengeneza kejeli"; Sarah McLaughlin wa Foundation for Individual Rights and Expression aliuita udhibiti. Chochote unachohitimisha kuhusu hesabu ya kibiashara, utaratibu wenyewe unastahili kutajwa: kizuizi cha kujieleza cha nchi moja kinatumika kwa kila mtumiaji duniani, kwa sababu kichujio cha kimataifa kina mpangilio mmoja tu.
7. Utafiti wa usalama na nyenzo za kutambua udanganyifu
Timu za usalama zinajenga nyenzo za mafunzo zinazopaswa kufanana na kitu zinachokionya dhidi yake: skrini bandia ya kuingia inayoshawishi, ankara bandia, msimbo hasidi wa QR kwenye mita ya maegesho. Kwa kiainishi hicho hakitofautiani na shambulio kinachokinga dhidi yake — kufanana ndicho kusudi — hivyo vichujio vinazuia ulinzi na shambulio sawasawa, kikimpa mshambuliaji faida, ambaye hakuwa atatumia zana ya walaji iliyochujwa hata hivyo.
8. Wenye haki wanaokataliwa picha za chapa, bidhaa au sura yao wenyewe
Uchujaji wa hakimiliki na alama za biashara haukagui umiliki; unakagua kufanana. Kampuni haiwezi kwa urahisi kutengeneza picha za nembo au bidhaa yake yenyewe, mwenye haki hawezi kupiga picha mhusika wake mwenyewe, na mara nyingi watu hawawezi kutengeneza uso wao wenyewe, kwa sababu vichujio vya sura vinaangalia utambulikaji badala ya ridhaa. OVERT inajumuisha "ukiukaji wa hakimiliki" miongoni mwa makundi yake tisa ya ukataaji uliopitiliza hasa kwa sababu kosa hili ni la kawaida sana. Kichujio ni chombo butu kwa swali — je, una haki juu ya hii? — ambalo hakina njia ya kuliuliza.
Manne kati ya nane hapo juu yameegemezwa kwenye kisa mahususi kilichochapishwa (kitiba, uchi wa kisanaa, kihistoria, kejeli) pamoja na kundi la hakimiliki la OVERT kwa la nane. Uchunguzi wa kiuhalifu, upangaji wa mionekano ya hadithi na nyenzo za kutambua hatari za usalama yametajwa kama makundi: ni aina zinazojulikana vizuri za kazi za kitaaluma zilizoathirika ambazo hatukuthibitisha tukio mahususi lililochapishwa.
Kila kisa kilichoandikwa hapo juu ni cha wazi na kinaweza kuthibitishwa kwa kujitegemea. Visome badala ya kuamini maelezo yetu.
05Kwa nini vitengenezaji vya sanaa ya AI vinazuia vitu visivyostahili, na kwa nini makosa ya vichujio hayawezi kurekebishwa kwa kupanga upya
Jibu la kwanza linalokuja akilini kwa kuzuia kupita kiasi ni "legeza kizingiti." Halifanyi kazi, kwa sababu za kimuundo badala ya ukosefu wa juhudi.
Makundi yanaingiliana kwenye ishara lakini si kwenye uhalisia. Mchoro wa upasuaji na ponografia vinashiriki uchi. Ujenzi upya wa kiuchunguzi na damu ya kutisha vinashiriki damu. Slaidi ya mafunzo na kifaa cha udanganyifu vinashiriki fomu bandia ya kuingia. Katuni ya kejeli na uzushi wa kashfa vinashiriki mwanasiasa anayetambulika. Kinachotofautisha kila jozi ni kusudi na uwasilishaji — visivyokuwepo ndani ya kidokezo na visivyokuwepo ndani ya pikseli. Hakuna kizingiti kinachotenganisha makundi mawili yanayokaa eneo moja la nafasi ya ingizo; kukisogeza kunabadilishana tu kosa moja kwa lingine. Ndicho tukio la Gemini lilichoonyesha: hatua iliyokusudiwa kurekebisha kasoro moja ilizalisha nyingine, iliyoelezwa na Makamu Mwandamizi wa Google mwenyewe kama "imefidia kupita kiasi."
Gharama ni za upande mmoja kwa mwendeshaji, si kwako. Kichujio kinachoacha picha moja mbaya ipite kinazalisha habari ya vyombo vya habari. Kichujio kinachozuia elfu kumi halali kinazalisha ukimya, kwa sababu watumiaji waliokataliwa hawajipangi — wanaacha tu. Usimamizi wa hatari chini ya kutofautiana huko unaelekea kwenye kuzuia kupita kiasi, milele. Na kwa sababu hukumu ya msingi haiwezekani, orodha za vizuizi zinakusanya maneno halisi kadri matukio yanavyotokea, ndivyo unavyopata "stethoscope" likipita na "speculum" likipigwa marufuku. Hakuna aliyeamua kwamba vifaa mahususi vya wanawake ni hatari zaidi; orodha ilikua pale malalamiko yalipoangukia. Inaandika historia ya mahusiano ya umma ya mwendeshaji, si nadharia ya madhara.
Mamlaka kali zaidi inakuwa chaguo-msingi la dunia nzima. Kichujio kimoja kinahudumia kila mtumiaji katika kila nchi, hivyo kizuizi kilichoongezwa kwa soko moja kinasafirishwa kwa yote — kanuni ya Xi Jinping ikiwa kisa cha kiada. Na kuandika upya kidokezo chako kunaharibu maana yako, ndilo hoja ya majaribio ya OVERT: kila mtaalamu aliyeosha ombi lake kuwa maneno laini ili kupita kichujio amelithibitisha kwa mkono wake. Hukushinda; ulikubali kidogo.
Hakuna kati ya haya kilicho bure, na kwa sababu kinashindwa kimyakimya gharama haionekani ndani ya vipimo ambavyo mwendeshaji anaviangalia. Baada ya ukataaji wa kutosha unaacha kuuliza, ukibana kila kidokezo mapema kuwa kile unachotabiri kitapita; maneno laini yanayopita hatimaye yanatoa picha karibu na, lakini si, ile hati yako iliyoihitaji. Ujumbe wa jumla wa sera haukuambii tabaka lipi liliwaka, hivyo unaweza tu kubahatisha na kujaribu tena — na kazi ya picha inajirudia, hivyo kichujio kinachokamata jaribio moja kati ya matano kinavuruga mzunguko badala ya kuupunguza kasi tu. Wakati huohuo taaluma zenye madai yenye nguvu zaidi ya kupata zana kubwa hazipati mkaguzi, hazipati rufaa na kwa kawaida hazipati orodha iliyochapishwa ya kilichozuiwa. Kanuni usiyoweza kuisoma si kanuni; ni hali ya hewa.
06Kitengenezaji cha picha za AI kisichodhibitiwa dhidi ya kilichochujwa: kinachobadilika hasa
Hapa kuna toleo la kweli la ulinganisho, ikiwemo kile ambacho mfumo usio na kichujio hakukupi.
| Kipimo | Kitengenezaji kilichochujwa | Kisicho na kichujio (Shannon) |
|---|---|---|
| Nani anaamua | Kiainishi kinachosoma maneno na pikseli | Mtu anayesoma kidokezo halisi |
| Unagundua lini | Baada ya kuwasilisha — wakati mwingine baada ya kulipa | Kabla ya chochote kuchorwa au kutozwa |
| Kanuni ni ipi | Orodha za vizuizi zisizochapishwa, zinazobadilika | Sera ya Matumizi ya Kuwajibika iliyochapishwa |
| Muktadha wa kitaaluma | Hauonekani kwa mfumo | Ni wako kuushika, na wako kuujibia |
| Njia ya kushindwa | Kuzuia kupita kiasi kimyakimya, maana kupotoka | Unapata ulichokiomba — ikiwemo makosa |
| Nani anabeba hatari | Muuzaji, akiihamishia kwenye kazi yako | Kwa pamoja: sera ya mwendeshaji pamoja na uwajibikaji wa mtumiaji |
Safu ya mwisho ndiyo watu wanayoiruka, na ndiyo yenye maana. Kuondoa kichujio hakuondoi makundi ya madhara ya sehemu ya 02; kunaondoa mashine iliyokuwa ikibahatisha vibaya kuyahusu. Wajibu unabaki pale ulipokuwa, sasa ukishikiliwa na pande mbili zinazoweza kufikiri kuhusu muktadha: mwendeshaji, anayechapisha na kutekeleza sera, na wewe, unayejua picha ni ya nini. Utengenezaji wa picha za AI bila kichujio ni zana kwa watu ambao tayari wako tayari kusimama nyuma ya matokeo yao — kitabu cha anatomia cha daktari wa upasuaji, ripoti ya mtaalamu, ubao wa hadithi, katuni — ambao walikuwa wakizuiwa na mfumo usioweza kuwatofautisha na mtu mwingine.
07Shannon inafanya nini — na isichokifanya
Usahihi hapa ni muhimu zaidi kuliko shauku, hasa kwa wasomaji wanaofika kutoka utafutaji wa API.
Inachofanya
- Utengenezaji. Eleza picha kwa lugha ya kawaida, kwa lugha yoyote. Shannon inaandika kidokezo cha kutengeneza yenyewe, kwa Kiingereza, lugha yoyote uliyoiuliza.
- Kuhariri picha moja. Chanzo kimoja tu — picha iliyopo tayari ndani ya mazungumzo, au iliyoambatishwa kwenye ujumbe wako wa sasa — ikibadilishwa kwa maagizo yanayoeleza kinachobadilika na kinachobaki. Matokeo yanabakisha uwiano wa chanzo kiotomatiki.
- Kuunganisha picha mbili au zaidi. Kuhamisha mavazi, kitu ndani ya eneo, mtu kando ya mtu, bidhaa juu ya mtu, mhusika kutoka picha moja na mtindo kutoka nyingine. Kidokezo kinataja jukumu la kila picha kwa mpangilio, na picha halisi zinatumika, hivyo mwonekano wao halisi unahifadhiwa badala ya kuelezwa upya.
- Udhibiti wa umbo. square (chaguo-msingi), portrait, landscape, wide na tall. Ombi la wazi daima linashinda.
- Uchoraji kwenye kundi letu la GPU, bila kichujio cha maudhui kwenye njia ya utengenezaji na bila safu ya kukataa kwenye modeli inayoandika kidokezo.
Isichokifanya
- Hakuna video. Shannon haihuishi picha na haitoi video. Si kipengele kilicho kwenye mpango kinachofichwa kwa ujanja — hakipo.
- Si kwenye API. Kutengeneza picha, kuhariri na kuunganisha vinapatikana ndani ya programu ya gumzo ya Shannon. API ya /v1 inahudumia maandishi na uoni — inaweza kusoma picha unazoituma — lakini haizichori.
- Hakuna utengenezaji usioombwa. Salamu, swali au picha iliyoambatishwa kwa kawaida hakizalishi picha. Kuiomba Shannon iangalie picha — kuieleza, kuisoma, kuichambua — ni kazi ya kawaida ya uoni, si utengenezaji, na haigharimu chochote cha ziada.
Kadi ya uthibitisho
Huu ndio utaratibu unaochukua nafasi ya kichujio, na ni chaguo la kimuundo badala ya utaratibu wa kawaida. Shannon inapoamua kwamba unaomba picha, inaandika kidokezo cha kutengeneza na inakuonyesha kwenye kadi ya uthibitisho kabla ya chochote kuchorwa. Hakuna kinachotengenezwa na hakuna kinachotozwa hadi uthibitishe.
Linganisha miundo hii kwa uzito wake. Kichujio kinabashiri nia yako kikiwa na taarifa chache kuliko ulizo nazo, na kinatekeleza ubashiri huo kimyakimya. Kadi ya uthibitisho inaweka maelezo halisi ya picha mbele ya mtu anayejua ni ya nini, kabla ya hesabu yoyote kutumika. Inakamata usomaji mbaya wa ombi lako, jambo ambalo vichujio havifanyi kamwe; inakuruhusu kuongeza usahihi wa anatomia au undani wa kihistoria ambao modeli ilipunguza; na inafanya wajibu usomeke badala ya kutawanyika. Uliona kidokezo, na ukabonyeza kitufe.
08Utengenezaji bila kichujio unapandisha wajibu, hauuondoi
Hili linapaswa kuwa hapa badala ya chini ya ukurasa, kwa sababu ni nusu ya hoja. Kitengenezaji kilichochujwa kinatoa ahadi kisichoweza kuitimiza: kwamba zana itazuia matumizi mabaya kwa niaba yako. Kinashindwa pande zote mbili — kinamzuia daktari wa upasuaji, na hakimzuii mtu mwenye nia mbaya aliyeazimia, ambaye ana njia nyingine na daima alikuwa nazo. Kile kinachofanya kwa uhakika ni kuwafanya wote wahisi kwamba wajibu ulishughulikiwa mbele, na mashine. Kuondoa kichujio kunaondoa hadithi hiyo; swali la kama picha inapaswa kuwepo linarudi kwa watu wanaoweza kulijibu.
- Wajibu wa Shannon Lab LLC. Sera ya Matumizi ya Kuwajibika iliyochapishwa na mahususi inayotaja makundi yaliyokatazwa badala ya orodha ya vizuizi isiyochapishwa — kanuni unazoweza kuzisoma, kuzinukuu na kutushikilia nazo.
- Wajibu wako. Unajua kusudi, hadhira, mamlaka ya kisheria na hali ya ridhaa ya kila anayeonyeshwa. Zana haijui, na kiainishi hakingeweza kamwe. Kadi ya uthibitisho ipo ili maarifa hayo yatumike wakati yanapohitajika, na upande unaoyamiliki.
- Mstari usiohama. "Kichujio hakikunizuia" haijawahi kuwa utetezi katika kifaa chochote. Kamera haikatai, penseli haikatai; sheria na maadili ya kitaaluma yanaongoza matumizi, si chombo. Kitengenezaji kisicho na kichujio kinarudisha mpangilio wa kawaida ambao kila zana nyingine ya kitaaluma inafanyia kazi.
Soma Sera ya Matumizi ya Kuwajibika kabla hujaanza. Ni fupi, mahususi, na ndiyo sehemu ya bidhaa hii inayofanya sehemu nyingine zitetewe.
09Maswali yanayoulizwa mara kwa mara
Kwa nini kitengenezaji cha picha za AI kinakataa kidokezo ambacho ni halali waziwazi?
Kwa sababu vichujio vingi vinahukumu maneno yaliyo ndani ya kidokezo chako, si kusudi lako. Kiainishi kinakaa mbele ya modeli bila kujua wewe ni nani wala kwa nini unauliza, hivyo mchoraji wa kitiba, mchambuzi wa kiuchunguzi na mtu mwenye nia mbaya wote wanaandika nomino ileile na wote wanapata ukataaji uleule. The Intercept iliripoti mwezi Aprili 2023 kwamba Midjourney ilipiga marufuku maneno ya anatomia ikiwemo speculum, placenta na cervix, wakati stethoscope lilifanya kazi kama kawaida.
Je, kuna utafiti unaopima makosa ya vichujio vya maudhui katika zana za sanaa ya AI?
Ndiyo. OVERT (arXiv:2505.21347, ICML 2025) ni kipimo cha kwanza cha kiwango kikubwa cha ukataaji uliopitiliza kwa modeli za maandishi-kwenda-picha: vidokezo 4,600 vinavyoonekana hatari lakini kwa kweli visivyo na madhara katika makundi tisa ya usalama, pamoja na vidokezo 1,785 vyenye madhara halisi kama kipimo cha kudhibiti. Waandishi wake wanaripoti kwamba ukataaji uliopitiliza umeenea kwenye modeli zinazoongoza. Utafiti mwingine wa ECCV 2024 uligundua upendeleo wa kijinsia na wa kimtindo katika viainishi vitatu vya NSFW vilivyotathminiwa kwenye uchi wa kisanaa.
Kitengenezaji cha picha za AI kisichodhibitiwa kinabadilisha nini hasa?
Kinaondoa safu ya kukataa na kichujio cha maudhui kwenye njia ya utengenezaji, hivyo ombi halali haliainishwi upya kimyakimya kama shambulio. Hakiondoi uamuzi — kinauhamisha. Shannon inakuonyesha kidokezo halisi cha kutengeneza kwenye kadi ya uthibitisho kabla ya chochote kuchorwa, hivyo uamuzi unafanywa na mtu anayeweza kuona kitakachozalishwa, chini ya Sera ya Matumizi ya Kuwajibika.
Je, Shannon inatengeneza video?
Hapana. Shannon inatengeneza picha mpya, inahariri picha moja iliyopo, na inaunganisha picha mbili au zaidi kuwa moja. Haihuishi picha na haitoi video ya aina yoyote.
Je, ninaweza kutengeneza picha kupitia API ya Shannon?
Hapana. Kutengeneza picha, kuhariri na kuunganisha vinapatikana ndani ya programu ya gumzo ya Shannon. API ya /v1 inahudumia maandishi na uoni — kusoma na kuchambua picha unazozitoa — si utengenezaji wa picha.
Kama hakuna kichujio, ni nini kinazuia matumizi mabaya?
Sera, uwajibikaji na kituo cha uamuzi kinachoonekana badala ya orodha ya maneno yaliyozuiwa. Shannon haitengenezi kamwe bila kuombwa, inaonyesha kidokezo kamili kabla ya kuchora, haitozi chochote hadi uthibitishe, na inafanya kazi chini ya Sera ya Matumizi ya Kuwajibika iliyochapishwa inayokataza maudhui ya ngono yanayohusisha watoto, picha za faragha za watu halisi bila ridhaa yao, unyanyasaji unaolenga mtu, na kughushi vitambulisho au nyaraka za kifedha.
Omba picha unayoihitaji kweli
Utengenezaji, uhariri wa picha moja na uunganishaji wa picha nyingi ndani ya programu ya gumzo — hakuna kichujio cha maudhui, hakuna safu ya kukataa, na kidokezo skrinini kabla ya chochote kuchorwa.
Anza Kupiga Gumzo Sera ya Matumizi ya KuwajibikaPicha ndani ya programu ya gumzo · hakuna utengenezaji wa video · utafiti zaidi
Vyanzo: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 Aprili 2023 · PetaPixel, 3 Aprili 2023 · CNBC, 22 Februari 2024. Shannon AI inaendeshwa na Shannon Lab LLC, New Mexico, Marekani.