Àwòrán AI Aláìní Ìhámọ́ Lòdì Sí Èyí Tí A Ṣẹ́sẹ̀

Ó fẹ́rẹ̀ẹ́ jẹ́ pé gbogbo ẹni tí ń ṣiṣẹ́ pẹ̀lú àwòrán ní ti akọ́ṣẹ́mọṣẹ́ ní ìtàn kan náà. Ìtọ́ni kan tí ń ṣàpèjúwe ohun déédéé — ìgékúrú ìsokọ́ orúnkún, ọkọ̀ ayọ́kẹ́lẹ́ ní ìṣẹ́jú ìkọlù, ìkẹ́kọ̀ọ́ ara pẹ̀lú èédú, ọmọ ogun ní 1944 — ń padà wá gẹ́gẹ́ bí ìrúfin ìlànà. O tún un sọ, o sì rí ìrúfin mìíràn. Níkẹyìn o kọ ohun tí kò ṣe kedere tó láti kọjá, o sì rí àwòrán tí kò tún fi ohun tí o nílò hàn. Irinṣẹ́ náà kò kùnà ní ariwo; ó kùnà díẹ̀díẹ̀, ó sì mú ọ jẹ́ ẹni tí ó tẹrí ba.

01Kí ló dé tí ẹ̀rọ àwòrán AI fi ń kọ̀ ìtọ́ni tí ó hàn kedere pé ó tọ́?

Ìkọ̀sílẹ̀ náà kì í sábà jẹ́ èrò àwòṣe àwòrán náà. Ó jẹ́ ìtújáde àkópọ̀ ìṣẹ́sẹ̀ tí ó yí àwòṣe náà ká, àwọn ìpele rẹ̀ sì ṣàlàyé ó fẹ́rẹ̀ẹ́ jẹ́ gbogbo ìkọ̀sílẹ̀ àjèjì tí o ti gbà.

Ìpele	Ohun tí ó ń yẹ̀wò	Àbùkù rẹ̀
Àtòjọ ìdínà ìtọ́ni	Àwọn ọ̀rọ̀ gan-an àti àwọn ẹ̀dà tí ó súnmọ́ wọn nínú ọ̀rọ̀ rẹ	Ó ń dí ọ̀rọ̀ kan lọ́wọ́ láìka gbólóhùn tí ó yí i ká sí — "speculum" kùnà, "stethoscope" kọjá
Olùpín ìtọ́ni	Ìdájọ́ tí a kọ́ nípa "ewu" ìtọ́ni náà	Ó ń tanná lórí ìsúnmọ́ kókó: ohunkóhun tí ó súnmọ́ ìṣègùn, ohun ìjà, ara tàbí òṣèlú ń wọ̀n gíga
Ìdánilẹ́kọ̀ọ́ ìkọ̀sílẹ̀ àwòṣe	Àìfẹ́ tí a kọ́ àwòṣe náà fúnra rẹ̀	Ó ń kọ̀ láìsí àṣìṣe, tàbí ó ń ṣe àrọ́pò tí a fọ̀ mọ́ ní ìdákẹ́jẹ́ẹ́
Olùpín ìtújáde	Àwọn píksẹ́lì tí a yà, láìsí ipò ìtọ́ni	Kò lè sọ ìyàtọ̀ láàrin àwòrán ẹ̀yà ara àti àwòrán ìbálòpọ̀, tàbí láàrin àwòrán fíìmù àti ìṣẹ̀lẹ̀ gidi
Àrọ́pò ìlànà	Ìtúnkọ ìtọ́ni rẹ ní ìdákẹ́jẹ́ẹ́ kí a tó yà á	O ń rí àwòrán, ṣùgbọ́n kì í ṣe èyí tí o sọ, a kò sì sọ ìdí rẹ̀ fún ọ

Ìpele kọ̀ọ̀kan ní ojú-afọ́jú kan náà: kò sí ọ̀kan tí ó lè rí ìdí tí o fi ń bèèrè. Olùyàwòrán ìṣègùn, amòye olùfisùn tí ń tún ìkọlù kọ́, àti ẹnìkan tí ó ní ète burúkú gbogbo wọn ń tẹ orúkọ kan náà. Ìṣẹ́sẹ̀ náà ń rí orúkọ náà, kì í ṣe àtẹ̀jáde tàbí fáìlì ẹjọ́, a sì ń fún un ní ààmì lórí àwọn ìpalára tí ó jẹ́ kí ó kọjá — kì í ṣe lórí iṣẹ́ tí ó bàjẹ́ láéláé. Lábẹ́ àìdọ́gba yẹn, ètò tí ó bọ́gbọ́n mu fún olùṣàkóso èyíkéyìí ni kí ó kọ̀ sí i. Ìyẹn sì ni ìdí tí "kàn tún un sọ" kì í fi ṣe àtúnṣe: ìtúnsọ kò fún ìṣẹ́sẹ̀ náà ní ìsọfúnni tí kò ní, ó kàn ń gbé ìtọ́ni rẹ kúrò nínú àwọn ọ̀rọ̀ tí ó tanná mọ́ ọn, èyí tí ó sábà túmọ̀ sí kúrò nínú ohun tí o túmọ̀ sí.

02Ohun tí àwọn ìṣẹ́sẹ̀ àkóónú wà láti dí lọ́wọ́ ní tòótọ́

Àríyànjiyàn fún ìṣẹ̀dá aláìní ìṣẹ́sẹ̀ tí ó ń ṣe bí ẹni pé àwọn ìṣẹ́sẹ̀ wà láìnídìí kò tọ́ láti kà. Ìwọ̀nba ìtújáde díẹ̀ wà tí ìpalára wọn wà nínú àwòrán fúnra rẹ̀, láìka ẹni tí ó bèèrè tàbí ìdí rẹ̀ sí:

• Àkóónú ìbálòpọ̀ tí ó kan àwọn ọmọdé. Kò sí ipò tí ó mú kí ó ṣeé gbà; kò sí iṣẹ́ akọ́ṣẹ́mọṣẹ́ tí ó nílò rẹ̀.
• Àwòrán ìbáradùn ti ènìyàn gidi láìsí ìfọwọ́sí. Ìpalára náà ń bá ẹni tí kò fọwọ́ sí i, yíyọ ọ́ kúrò kò sì yí i padà.
• Inúnibíni tí a fojú sí àti ìdásílẹ̀ ìbàjẹ́-orúkọ — mímú kí ó dà bí ẹni pé ẹnìkan tí a dárúkọ ṣe ohun tí kò ṣe.
• Àwọn ìwé ipele-ẹ̀tàn — ìwé ìrìnnà, káàdì ìdámọ̀, owó ìwé, èdìdì àti àwọn ohun èlò ìṣúnná owó tí a ṣe kí ó lè dà bí gidi.
• Ẹ̀rí àdàkọ ẹ̀tàn — àwòrán ìṣẹ̀lẹ̀ gidi tí a dá tí a ń fi hàn gẹ́gẹ́ bí àkọsílẹ̀ dípò gẹ́gẹ́ bí àwòrán àpèjúwe.

Àtòjọ náà kúrú ó sì ní ìkọ́lé kan: ìpalára náà ń gbé inú iṣẹ́ náà, nínú ìjọra rẹ̀ sí ènìyàn tàbí ìwé gidi, àti nínú ìfihàn rẹ̀ gẹ́gẹ́ bí òtítọ́. Ṣàkíyèsí ohun tí kò sí lórí rẹ̀ — ìhòhò, ẹ̀jẹ̀, ohun ìjà, ìwà-ìkà ìtàn, ẹ̀gàn òṣèlú. Ìwọ̀nyẹn ni ohun èlò ìṣègùn, ìròyìn, ọnà, ìwádìí ìwà-ọ̀daràn àti ẹ̀gàn, ìṣẹ́sẹ̀ tí ó sì ń kà wọ́n sí ẹ̀ka ìpalára ń fi èròǹgbà tí ó gbòòrò jù nípa àwọn kókó tí ó bọ̀wọ̀ ṣiṣẹ́.

Shannon ka gbogbo ohun tí ó wà nínú àtòjọ yẹn léèwọ̀, nínú Ìlànà Ìlò Onídùúró tí a tẹ̀ jáde pẹ̀lú àwọn ẹ̀ka tí a dárúkọ àti àbájáde rẹ̀, dípò tábìlì ọ̀rọ̀ tí ó tún ń mú "placenta". Òfin tí o lè kà tí o sì lè fi dá wa lẹ́jọ́ ni ọ̀kan; ìkejì jẹ́ ìfojú-díwọ̀n nípa ète rẹ láti ọwọ́ olùpín tí o kò lè rí.

03Báwo ni ìṣòro ìkọ̀sílẹ̀-àṣejù ṣe tóbi tó? Ohun tí ìwádìí ń wọ̀n

Títí di àìpẹ́ yìí, ìkọ̀sílẹ̀-àṣejù nínú àwọn àwòṣe àwòrán jẹ́ ìtàn ẹnu — ẹgbẹẹgbẹ̀rún ènìyàn pẹ̀lú ìtàn kan náà láìsí ọ̀nà láti wọ̀n ọ́n. Ìyẹn yí padà pẹ̀lú OVERT (OVEr-Refusal evaluation on Text-to-image models), tí a gbé kalẹ̀ ní ICML 2025 láti ọwọ́ ẹgbẹ́ UC Berkeley kan tí ó ní Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song àti Song Mei nínú: ìdíwọ̀n ńlá àkọ́kọ́ tí ń wọn bí àwọn ètò ọ̀rọ̀-sí-àwòrán ṣe ń kọ̀ àwọn ìtọ́ni tí ó jẹ́ aláìléwu pátápátá tó.

Ìhùmọ̀ náà ṣe pàtàkì. A kọ́ àwọn ìtọ́ni 4,600 náà kí wọ́n lè dà bí ewu nígbà tí wọ́n jẹ́ aláìléwu — ìrísí ìbéèrè akọ́ṣẹ́mọṣẹ́ gidi tí ó mẹ́nu kan abẹ, ọgbẹ́ dúdú tàbí ìtakò — àwọn ìtọ́ni 1,785 tí ó léwu ní tòótọ́ sì jókòó lẹ́gbẹ̀ẹ́ wọn gẹ́gẹ́ bí àyẹ̀wò, kí àwòṣe má bàa lè wọ̀n dáadáa nípa kíkọ̀ ohun gbogbo. Àwọn ẹ̀ka mẹ́sàn-án náà bẹ̀rẹ̀ láti àṣírí ẹnìkọ̀ọ̀kan àti ti ẹni gbogbogbò, dé ẹ̀tọ́ àdàkọ, ìyàsọ́tọ̀, ìpalára-ara-ẹni, àkóónú ìbálòpọ̀ àti ìṣe àìtọ́ dé ìwà-ipá.

Àbájáde pàtàkì ni pé ìkọ̀sílẹ̀-àṣejù ti tàn kálẹ̀ jákèjádò àwọn ẹ̀ka àti jákèjádò àwọn àwòṣe olókìkí. Èkejì bà ọ̀nà àyíká déédéé jẹ́ sí i: àwọn òǹkọ̀wé náà dán ìtúnkọ ìtọ́ni wò gẹ́gẹ́ bí àtúnṣe wọ́n sì ròyìn pé ó "sábà ń ba ìṣòtítọ́ sí ìtumọ̀ àwọn ìtọ́ni ìpilẹ̀ṣẹ̀ jẹ́." O lè kọjá ìṣẹ́sẹ̀ náà nípa yíyí ohun tí o bèèrè padà, lẹ́yìn náà o kò tún ní ohun tí o bèèrè fún.

Ìkẹ́kọ̀ọ́ tí ó dín kù dé ìparí kan náà láti ẹ̀gbẹ́ píksẹ́lì. Nínú An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann àti Oliver, àpérò AI4VA ní ECCV 2024), àwọn òǹkọ̀wé ṣàyẹ̀wò àwọn olùpín NSFW mẹ́ta lórí ìhòhò ọnà wọ́n sì ṣí ojúsàájú akọ-abo àti ojúsàájú ọ̀nà-ọnà payá: ìdájọ́ lórí ìkẹ́kọ̀ọ́ ara dá lórí ara ẹni tí a fihàn àti ọ̀nà tí a gbà fi í hàn. Ìyẹn jẹ́ àsọjáde tí a wọ̀n ti ohun tí a ti sọ fún gbogbo olùyàwòrán ara pé ó jẹ́ àròsọ.

04Irú iṣẹ́ tí ó tọ́ mẹ́jọ tí àwọn ẹ̀rọ tí a ṣẹ́sẹ̀ ń dí lọ́wọ́

Ìwọ̀nyí ni àwọn ẹ̀ka níbi tí ìkọ̀sílẹ̀-àṣejù kì í ṣe ìdààmú bí kò ṣe ìdáwọ́ iṣẹ́ dúró. Níbi tí ọ̀ràn pàtó tí a ròyìn bá wà, a tọ́ka sí i; níbi tí a kò ti fi ẹsẹ̀ ọ̀kan múlẹ̀, a ṣàpèjúwe ẹ̀ka náà láìdá ìṣẹ̀lẹ̀ kan.

1. Àwòrán ìṣègùn àti ti ẹ̀yà ara

Ọ̀ràn tí a kọ sílẹ̀ jùlọ nínú pápá náà. Ní April 2023, The Intercept (Debbie Nathan) ròyìn pé Midjourney ti dí àwọn ọ̀rọ̀ ẹ̀yà ara títí kan speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom àti IUD, nígbà tí DALL·E 2 kọ̀ "pills used in medication abortion" pẹ̀lú ìránṣẹ́ ìlànà-àkóónú. Julia Rockwell, atúpalẹ̀ dátà ilé-ìwòsàn tí ó ti gbìyànjú láti ṣẹ̀dá àwòrán placenta gẹ́gẹ́ bí ẹ̀bùn fún ọ̀rẹ́ rẹ̀ onímọ̀ nípa sẹ́ẹ̀lì, ni ó rí àpẹẹrẹ náà, ó sì ròyìn fún MIT Technology Review. Àìdọ́gba náà ni àmì: "stethoscope" ń ṣẹ̀dá déédéé nígbà tí a ka "speculum" léèwọ̀. Olùwádìí Yunifásítì Washington Bill Howe pe àwọn ìṣẹ́sẹ̀ náà ní "ham-fisted" ó sì sọ pé wọ́n mú un "fẹ́rẹ̀ẹ́ ṣeé ṣe láti ní ìjíròrò ìmọ̀-ìjìnlẹ̀ nípa ìbímọ." Ìkọ́ni aláìsàn, àtẹ̀jáde iṣẹ́-abẹ àti ìdálẹ́kọ̀ọ́ nọ́ọ̀sì gbogbo wọn nílò kí a fi ara hàn ní pàtó, títí kan àwọn apá tí àtòjọ ọ̀rọ̀ kan ti pinnu pé ó jẹ́ àìtọ́.

2. Àtúnkọ́ ìwádìí ìwà-ọ̀daràn àti ìjàm̀bá

Àtúnkọ́ ìkọlù, ìtúpalẹ̀ orísun iná àti ìfihàn ilé-ẹjọ́ nílò kí a fi ìbàjẹ́, ọgbẹ́ àti ẹ̀rọ ìwà-ipá hàn ní pàtó bí ti ilé-ìwòsàn. Ìṣẹ́sẹ̀ tí a ṣètò láti kọ̀ "ẹ̀jẹ̀" tàbí "ọgbẹ́ ìbọn" ń kọ̀ gbogbo ẹ̀kọ́ náà: ipò náà — ìjábọ̀ amòye, fáìlì ìdánilójú — kò hàn sí olùpín náà, àìṣojúsàájú gan-an tí ó mú kí irú àwòrán bẹ́ẹ̀ ṣeé gbà ní ilé-ẹjọ́ ni ó sì mú kí ó dà bí ẹ̀jẹ̀.

3. Àwòrán ìhòhò ọnà àti ìyàwòrán ara

Àwòrán ìhòhò jẹ́ kókó ìpìlẹ̀ ọnà ní gbogbo ibi, ìkẹ́kọ̀ọ́ ara sì jẹ́ ọ̀kan pàtàkì nínú ẹ̀kọ́ ọnà. Àbájáde ECCV 2024 tí ó wà lókè ni ẹ̀dà tí a wọ̀n ti ohun tí àwọn oníṣẹ́ ọnà ń ròyìn: àwọn olùpín kò lè ya ìkẹ́kọ̀ọ́ ara kúrò nínú àwòrán ìbálòpọ̀ ní ìgbẹ́kẹ̀lé, àwọn àṣìṣe wọn sì ní ojúsàájú nípa akọ-abo àti ọ̀nà-ọnà — ìṣẹ́sẹ̀ tí ó le jùlọ lórí àṣà gan-an tí ó yẹ kí ó dá mọ̀.

4. Àwòrán ìtàn àti ti àkókò ogun

Ọnà ìwé-ẹ̀kọ́, ìtumọ̀ ilé-ìkóhun-ìṣẹ̀ǹbáyé àti àwọn iṣẹ́ ìrántí nílò kí a fi aṣọ ìṣọ̀kan, ohun ìjà, ibùdó, ogun àti ìwà-ìkà hàn. Ìṣẹ̀lẹ̀ Gemini ti February 2024 kọ́ni nítorí pé àbùkù náà lọ ní ọ̀nà òdìkejì ó sì ṣe ìbàjẹ́ dọ́gba. Google dá agbára Gemini láti ṣẹ̀dá àwòrán ènìyàn dúró ní February 22, 2024 lẹ́yìn tí ó ṣe àwọn ìfihàn tí a tún àwọ̀-ara wọn tò ti àwọn ẹgbẹ́ ìtàn títí kan àwọn ọmọ ogun Jámánì àkókò Nazi. Alákòóso Sundar Pichai pe àwọn ìtújáde náà ní "completely unacceptable"; SVP Prabhakar Raghavan gbà pé àwòṣe náà ti "overcompensated" ó sì ti di "over-conservative." Ààbò tí kò rí ipò kò mú àwòrán ìtàn ní àìléwu sí i — ó mú un jẹ́ èké, èyí tí ó burú jù fún atẹ̀jáde ìtàn.

5. Ìwà-ipá nínú ìtàn àròsọ àti ìṣàwòfojúinú-ṣáájú fíìmù

Sítóríbọ́ọ̀dù, ọnà èròǹgbà, ìwé-àwòrán àti ìhùmọ̀ eré ń fi ìwà-ipá hàn fún ìdí kan náà pẹ̀lú àwọn ìwé ìtàn àti fíìmù. Ìṣẹ́sẹ̀ tí kò lè sọ ìyàtọ̀ láàrin sítóríbọ́ọ̀dù ẹ̀rù àti ìhalẹ̀ ń ka gbogbo ipa ọ̀nà ọnà-ìtàn sí ohun ìfura — bí ó tilẹ̀ jẹ́ pé sítóríbọ́ọ̀dù jẹ́ ohun tí kò gidi ní gbangba, ètò fún ìran tí àwọn òṣèré àti ẹgbẹ́ ipa yóò ṣe.

6. Ẹ̀gàn òṣèlú àti ìyàwòrán olóòtú

Ìyàwòrán ẹ̀gàn àwọn alágbára wà lára àwọn ẹ̀ka ọ̀rọ̀ sísọ tí a dáàbò bò jùlọ ní ọ̀pọ̀ orílẹ̀-èdè olómìnira, ó sì jẹ́ ohun àkọ́kọ́ tí ìṣẹ́sẹ̀ àwòrán ń yọ kúrò nígbà gbogbo. Ọ̀ràn tí a kọ sílẹ̀ tí ó ṣe kedere jùlọ ni ìpinnu Midjourney ní April 2023 láti dí àwọn àwòrán Ààrẹ Ṣáínà Xi Jinping àti láti dí orúkọ rẹ̀ nínú àwọn ìtọ́ni — tí PetaPixel, Decrypt àti àwọn mìíràn ròyìn — nígbà tí ó ń bá a lọ láti gba àwọn olórí àgbáyé mìíràn láàyè. Olùdásílẹ̀ David Holz ṣàlàyé lórí Discord pé ilé-iṣẹ́ náà fẹ́ "minimize drama" àti pé "agbára fún àwọn ènìyàn ní Ṣáínà láti lo ìmọ̀-ẹ̀rọ yìí ṣe pàtàkì ju agbára rẹ láti ṣe ẹ̀gàn lọ"; Sarah McLaughlin ti Foundation for Individual Rights and Expression pe é ní ìhámọ́. Ohunkóhun tí ẹnìkan bá parí nípa ìṣírò ìṣòwò náà, ẹ̀rọ inú rẹ̀ tọ́ láti dárúkọ: ìhámọ́ ọ̀rọ̀ sísọ ti orílẹ̀-èdè kan tí a fi sí gbogbo olùmúlò kárí ayé, nítorí pé ìṣẹ́sẹ̀ àgbáyé ní ètò kan ṣoṣo.

7. Ìwádìí ààbò àti ohun èlò ìdánilẹ́kọ̀ọ́ nípa ìtànjẹ

Àwọn ẹgbẹ́ ààbò ń kọ́ ohun èlò ìdánilẹ́kọ̀ọ́ tí ó gbọ́dọ̀ dà bí ohun tí ó ń kìlọ̀ nípa rẹ̀: ojú-ìwé ìwọlé èké tí ó fara pé, ìwé-ẹ̀rí owó èké, kóòdù QR aṣebi lórí mítà ìdúró ọkọ̀. Sí olùpín kan, ìyẹn kò yàtọ̀ sí ìkọlù tí ó ń dáàbò bò — ìjọra ni kókó rẹ̀ — torí náà àwọn ìṣẹ́sẹ̀ ń dí ìgbèjà àti ìkọlù lọ́wọ́ bákan náà, wọ́n sì ń ṣe àǹfààní fún olùkọlù, tí kò ní lo irinṣẹ́ oníbàárà tí a ṣẹ́sẹ̀ rí lọ́nàkọnà.

8. Àwọn olùní-ẹ̀tọ́ tí a kọ̀ fún àwòrán àmì-ọjà, ọjà tàbí ìdámọ̀ tiwọn

Ìṣẹ́sẹ̀ ẹ̀tọ́ àdàkọ àti àmì-ọjà kì í yẹ ohun-ìní wò; ó ń yẹ ìjọra wò. Ilé-iṣẹ́ kan kò lè fi ìrọ̀rùn ṣẹ̀dá àwòrán àmì tàbí ọjà tirẹ̀, olùní-ẹ̀tọ́ kan kò lè ya ìhùwàsí tirẹ̀, àwọn ènìyàn sì kì í sábà lè ṣẹ̀dá ojú tiwọn, nítorí pé àwọn ìṣẹ́sẹ̀ ìdámọ̀ ń tẹ̀lé ìdámọ̀-rírọ̀rùn dípò ìfọwọ́sí. OVERT ní "ìrúfin ẹ̀tọ́ àdàkọ" nínú àwọn ẹ̀ka ìkọ̀sílẹ̀-àṣejù mẹ́sàn-án rẹ̀ gan-an nítorí pé àṣìṣe yìí wọ́pọ̀ tó bẹ́ẹ̀. Ìṣẹ́sẹ̀ náà jẹ́ ohun-èlò kúndùn fún ìbéèrè kan — ṣé o ní ẹ̀tọ́ sí èyí? — tí kò ní ọ̀nà láti bèèrè.

Mẹ́rin nínú mẹ́jọ tí ó wà lókè ni a so mọ́ ọ̀ràn pàtó tí a tẹ̀ jáde (ìṣègùn, àwòrán ìhòhò ọnà, ìtàn, ẹ̀gàn) pẹ̀lú ẹ̀ka ẹ̀tọ́ àdàkọ ti OVERT fún ìkẹjọ. A sọ ìwádìí ìwà-ọ̀daràn, ìṣàwòfojúinú-ṣáájú ìtàn àròsọ àti ohun èlò ìdánilẹ́kọ̀ọ́ ààbò gẹ́gẹ́ bí ẹ̀ka: wọ́n jẹ́ ẹ̀ka iṣẹ́ akọ́ṣẹ́mọṣẹ́ tí a mọ̀ dáadáa tí ó kan wọ́n, tí a kò fi ẹsẹ̀ ìṣẹ̀lẹ̀ pàtó tí a tẹ̀ jáde múlẹ̀ fún.

05Ìdí tí àwọn ẹ̀rọ ọnà AI fi ń dí àwọn ohun tí kò tọ́ lọ́wọ́, àti ìdí tí a kò fi lè ṣàtúnṣe àwọn àṣìṣe ìṣẹ́sẹ̀ àkóónú kúrò

Ìdáhùn àdámọ́ sí ìdínà-àṣejù ni "tú ààlà náà sílẹ̀." Kò ṣiṣẹ́, fún àwọn ìdí ìkọ́lé dípò àìní ìsapá.

Àwọn ẹ̀ka náà bára wọn pàdé nínú àmì ṣùgbọ́n kì í ṣe ní ti gidi. Àwòrán iṣẹ́-abẹ àti àwòrán ìbálòpọ̀ pín ìhòhò. Àtúnkọ́ ìwádìí ìwà-ọ̀daràn àti ẹ̀jẹ̀ pín ẹ̀jẹ̀. Sìlaìdì ìdánilẹ́kọ̀ọ́ àti ohun èlò ìtànjẹ pín fọ́ọ̀mù ìwọlé èké. Àwòrán ẹ̀gàn àti ìdásílẹ̀ ìbàjẹ́-orúkọ pín òṣèlú kan tí a lè dá mọ̀. Ohun tí ń ya èkọ̀ọ̀kan sọ́tọ̀ ni ète àti ìfihàn — tí kò sí nínú ìtọ́ni náà tí kò sì sí nínú àwọn píksẹ́lì. Kò sí ààlà tí ó ya àwùjọ méjì tí wọ́n ń gbé agbègbè kan náà nínú ààyè ohun ìfúnni sọ́tọ̀; gbígbé e kàn ń fi àṣìṣe kan pààrọ̀ èkejì. Ìyẹn ni ohun tí ìṣẹ̀lẹ̀ Gemini fihàn: ìdásí tí a ṣe láti ṣàtúnṣe àbùkù kan ṣe òmíràn, tí SVP Google fúnra rẹ̀ pè ní "overcompensated."

Owó náà kò dọ́gba fún olùṣàkóso, kò dọ́gba fún ìwọ. Ìṣẹ́sẹ̀ tí ó jẹ́ kí àwòrán burúkú kan kọjá ń mú ìtàn ìròyìn wá. Ìṣẹ́sẹ̀ tí ó dí ẹgbẹ̀rún mẹ́wàá tí ó tọ́ lọ́wọ́ ń mú ìdákẹ́jẹ́ẹ́ wá, nítorí pé àwọn olùmúlò tí a kọ̀ kì í kóra jọ — wọ́n ń fi sílẹ̀. Ìṣàkóso ewu lábẹ́ àìdọ́gba yẹn ń darí sí ìdínà-àṣejù, títí láé. Àti nítorí pé ìdájọ́ ìpìlẹ̀ náà kò ṣeé ṣe, àwọn àtòjọ ìdínà ń kó àwọn ọ̀rọ̀ jọ bí àwọn ìṣẹ̀lẹ̀ ṣe ń wáyé, èyí ni ọ̀nà tí "stethoscope" fi dára tí a sì ka "speculum" léèwọ̀. Kò sí ẹni tí ó pinnu pé àwọn ohun èlò tí ó jẹ mọ́ obìnrin léwu sí i; àtòjọ náà dàgbà níbi tí àwọn ẹ̀sùn ti dé. Ó ń kọ ìtàn ìbáṣepọ̀-gbogbogbò olùṣàkóso sílẹ̀, kì í ṣe àbá nípa ìpalára.

Agbègbè òfin tí ó le jùlọ ni ó ń di àyànfẹ́ àgbáyé. Ìṣẹ́sẹ̀ kan ń sìn gbogbo olùmúlò ní gbogbo orílẹ̀-èdè, torí náà ìhámọ́ tí a fi kún un fún ọjà kan ni a ń kó lọ sí gbogbo wọn — òfin Xi Jinping ni ọ̀ràn ìwé-ẹ̀kọ́ náà. Àti pé ìtúnkọ ìtọ́ni rẹ ń ba ìtumọ̀ rẹ jẹ́, èyí sì ni kókó ìdánwò OVERT: gbogbo akọ́ṣẹ́mọṣẹ́ tí ó ti fi ọ̀rọ̀ àrọ́pò fọ ìbéèrè kan mọ́ láti mú un kọjá ìṣẹ́sẹ̀ ti fi ẹsẹ̀ rẹ̀ múlẹ̀ pẹ̀lú ọwọ́ rẹ̀. O kò borí; o tẹrí ba.

Kò sí ọ̀kan nínú èyí tí ó jẹ́ ọ̀fẹ́, nítorí pé ó sì ń kùnà ní ìdákẹ́jẹ́ẹ́, owó rẹ̀ kò hàn nínú àwọn ìwọ̀n tí olùṣàkóso ń wò. Lẹ́yìn ìkọ̀sílẹ̀ tí ó tó, o dá bíbéèrè dúró, o sì ń dín ìtọ́ni kọ̀ọ̀kan kù ṣáájú sí ohun tí o rò pé yóò kọjá; ọ̀rọ̀ àrọ́pò tí ó kọjá níkẹyìn ń mú àwòrán tí ó súnmọ́, ṣùgbọ́n tí kì í ṣe, ohun tí àkọsílẹ̀ rẹ nílò wá. Ìránṣẹ́ ìlànà gbogbogbò kò sọ nǹkan kan fún ọ nípa ìpele wo ni ó tanná, torí náà o lè fojú-díwọ̀n kí o sì tún gbìyànjú nìkan — iṣẹ́ àwòrán sì jẹ́ aláyípo, torí náà ìṣẹ́sẹ̀ tí ó ń mú ìgbìyànjú kan nínú márùn-ún ń ba ìyípo náà jẹ́ dípò kí ó kàn fà á lọ́ra. Nígbà náà, àwọn pápá tí ó ní ẹ̀rí tí ó lágbára jù sí àwọn irinṣẹ́ tó ṣe pàtàkì kò rí olùṣàyẹ̀wò, kò rí ìfilọ̀, wọn kò sì sábà rí àtòjọ tí a tẹ̀ jáde nípa ohun tí a dí. Òfin tí o kò lè kà kì í ṣe òfin; ojú-ọjọ́ ni.

06Ẹ̀rọ àwòrán AI aláìní ìhámọ́ lòdì sí èyí tí a ṣẹ́sẹ̀: ohun tí ó yí padà ní tòótọ́

Ẹ̀dà òtítọ́ ìfiwéra náà nìyí, títí kan ohun tí ètò aláìní ìṣẹ́sẹ̀ kò fún ọ.

Ìwọ̀n	Ẹ̀rọ tí a ṣẹ́sẹ̀	Aláìní ìṣẹ́sẹ̀ (Shannon)
Ohun tí ń pinnu	Olùpín tí ń ka ọ̀rọ̀ àti píksẹ́lì	Ènìyàn tí ń ka ìtọ́ni gan-an
Ìgbà tí o ń mọ̀	Lẹ́yìn tí o bá fi ránṣẹ́ — nígbà mìíràn lẹ́yìn tí o san owó	Kí a tó yà nǹkan kan tàbí ná ọ lówó
Ohun tí òfin náà jẹ́	Àwọn àtòjọ ìdínà tí a kò tẹ̀ jáde, tí ó ń yípadà	Ìlànà Ìlò Onídùúró tí a tẹ̀ jáde
Ipò akọ́ṣẹ́mọṣẹ́	Kò hàn sí ètò náà	Tìrẹ ni láti mú, tìrẹ sì ni láti dáhùn fún
Àbùkù	Ìdínà-àṣejù ní ìdákẹ́jẹ́ẹ́, ìṣíkúrò ìtumọ̀	O ń rí ohun tí o bèèrè — títí kan àwọn àṣìṣe
Ẹni tí ń ru ewu náà	Olùtà náà, tí a gbé lé iṣẹ́ rẹ	A pín in: ìlànà olùṣàkóso pẹ̀lú ìjẹ́rìí-ojúṣe olùmúlò

Ìlà tí ó gbẹ̀yìn ni èyí tí àwọn ènìyàn ń fò, ó sì ni èyí tí ó ṣe pàtàkì. Yíyọ ìṣẹ́sẹ̀ kúrò kò yọ àwọn ẹ̀ka ìpalára tí ó wà ní apá 02 kúrò; ó yọ ẹ̀rọ tí ó ń fojú-díwọ̀n wọn ní àìtọ́ kúrò. Ojúṣe náà dúró síbi tí ó wà, tí àwọn ẹgbẹ́ méjì tí ó lè ronú nípa ipò ń mú un báyìí: olùṣàkóso, tí ń tẹ ìlànà jáde tí ó sì ń fi ipá mú un, àti ìwọ, tí o mọ ohun tí àwòrán náà jẹ́ fún. Ìṣẹ̀dá àwòrán AI aláìní ìṣẹ́sẹ̀ jẹ́ irinṣẹ́ fún àwọn ènìyàn tí wọ́n ti múra tán láti dúró lẹ́yìn ìtújáde wọn — àtẹ̀jáde oníṣẹ́-abẹ, ìjábọ̀ amòye, sítóríbọ́ọ̀dù, àwòrán ẹ̀gàn — tí ètò kan tí kò lè ya wọ́n sọ́tọ̀ kúrò lọ́wọ́ ẹlòmíràn ń dá dúró.

07Ohun tí Shannon ń ṣe — àti ohun tí kò ṣe

Pípé níhìn-ín ṣe pàtàkì ju ìtara lọ, pàápàá fún àwọn òǹkàwé tí ń dé láti inú ìwádìí API.

Ohun tí ó ń ṣe

• Ìṣẹ̀dá. Ṣàpèjúwe àwòrán ní èdè gbangba, ní èdè èyíkéyìí. Shannon ń kọ ìtọ́ni ìṣẹ̀dá náà fúnra rẹ̀, ní èdè Gẹ̀ẹ́sì, èdè èyíkéyìí tí o bá bèèrè ní.
• Ṣíṣàtúnṣe àwòrán kan. Orísun kan gan-an — àwòrán tí ó ti wà nínú ìfọ̀rọ̀wérọ̀, tàbí èyí tí a lẹ̀ mọ́ ìránṣẹ́ rẹ lọ́wọ́lọ́wọ́ — tí ìtọ́ni tí ó sọ ohun tí ó yí padà àti ohun tí ó dúró yí padà. Ìtújáde náà ń pa ìwọ̀n ìhà orísun mọ́ ní ti ara rẹ̀.
• Dídà àwòrán méjì tàbí jù bẹ́ẹ̀ lọ pọ̀. Gbígbé aṣọ, ohun-sínú-ààyè, ènìyàn ní ẹ̀gbẹ́ ènìyàn, ọjà-lórí-ènìyàn, kókó láti inú àwòrán kan pẹ̀lú ọ̀nà láti inú òmíràn. Ìtọ́ni náà ń dárúkọ ipa àwòrán kọ̀ọ̀kan ní ètò, a sì ń lo àwọn àwòrán gidi, torí náà a ń pa ìrísí gidi wọn mọ́ dípò kí a tún un ṣàpèjúwe.
• Ìdarí ìhà. square (àyànfẹ́ àkọ́kọ́), portrait, landscape, wide àti tall. Ìbéèrè kedere ń borí nígbà gbogbo.
• Ìyàwòrán lórí ìdìpọ̀ GPU tiwa, láìsí ìṣẹ́sẹ̀ àkóónú lórí ipa ọ̀nà ìṣẹ̀dá àti láìsí ìpele ìkọ̀sílẹ̀ lórí àwòṣe tí ń kọ ìtọ́ni náà.

Ohun tí kò ṣe

• Kò sí fídíò. Shannon kì í mú àwòrán gbé, kì í sì í ṣe fídíò. Kì í ṣe ohun tí ó wà nínú ètò tí a ń fi pamọ́ ní ìtìjú — kò sí rárá.
• Kò sí lórí API. Ìṣẹ̀dá àwòrán, àtúnṣe àti ìdàpọ̀ ń gbé inú ohun-èlò ìfọ̀rọ̀wérọ̀ Shannon. API /v1 ń pèsè ọ̀rọ̀ àti ìríran — ó lè ka àwọn àwòrán tí o bá fi ránṣẹ́ sí i — ṣùgbọ́n kò ń yà wọ́n.
• Kò sí ìṣẹ̀dá láìsí ìpè. Ìkíni, ìbéèrè tàbí fọ́tò tí a lẹ̀ mọ́ ọn lásán kì í tanná sí àwòrán. Bíbéèrè lọ́wọ́ Shannon láti wo àwòrán — ṣàpèjúwe rẹ̀, kà á, ṣàtúpalẹ̀ rẹ̀ — jẹ́ iṣẹ́ ìríran déédéé, kì í ṣe ìṣẹ̀dá, kò sì ná ọ ní owó àfikún.

Kártà ìfìdímúlẹ̀ náà

Èyí ni ẹ̀rọ tí ó ń rọ́pò ìṣẹ́sẹ̀ náà, ìpinnu ìhùmọ̀ ni dípò ìṣe ààtò lásán. Nígbà tí Shannon bá pinnu pé o ń bèèrè fún àwòrán, ó ń kọ ìtọ́ni ìṣẹ̀dá náà ó sì ń fi í hàn ọ́ lórí kártà ìfìdímúlẹ̀ kí a tó yà nǹkan kan. A kò ní ṣẹ̀dá nǹkan kan, a kò sì ní ná ọ lówó títí o fi fìdí rẹ̀ múlẹ̀.

Fi àwọn ìhùmọ̀ méjèèjì wé ara wọn lórí ìwúlò wọn. Ìṣẹ́sẹ̀ ń fojú-díwọ̀n ète rẹ pẹ̀lú ìsọfúnni tí ó kéré ju tìrẹ lọ, ó sì ń fi ipá mú ìfojú-díwọ̀n náà ní ìdákẹ́jẹ́ẹ́. Kártà ìfìdímúlẹ̀ ń fi àpèjúwe gan-an ti àwòrán náà síwájú ẹgbẹ́ tí ó mọ ohun tí ó jẹ́ fún, kí a tó ná ìṣírò kankan. Ó ń mú àwọn àìlóye ìbéèrè rẹ, èyí tí àwọn ìṣẹ́sẹ̀ kì í ṣe láéláé; ó ń jẹ́ kí o fi pípé ẹ̀yà ara tàbí kúlẹ̀kúlẹ̀ ìtàn tí àwòṣe náà kò sọ tó kún un; ó sì ń mú ojúṣe hàn kedere dípò kí ó tàn kálẹ̀. O rí ìtọ́ni náà, o sì tẹ bọ́tìnì náà.

08Ìṣẹ̀dá aláìní ìṣẹ́sẹ̀ ń gbé ojúṣe ga, kò yọ ọ́ kúrò

Èyí wà níhìn-ín dípò nínú ìsàlẹ̀ ojú-ìwé, nítorí pé ó jẹ́ ààbọ̀ àríyànjiyàn náà. Ẹ̀rọ tí a ṣẹ́sẹ̀ ń ṣe ìlérí tí kò lè mú ṣẹ: pé irinṣẹ́ náà yóò dí ìlòkulò lọ́wọ́ ní ipò rẹ. Ó ń kùnà ní ọ̀nà méjèèjì — ó ń dí oníṣẹ́-abẹ lọ́wọ́, kò sì ń dá ẹni burúkú tí ó pinnu dúró, tí ó ní àwọn ọ̀nà mìíràn tí ó sì ti ní wọ́n nígbà gbogbo. Ohun tí ó ń ṣe ní ìgbẹ́kẹ̀lé ni jíjẹ́ kí gbogbo ènìyàn ronú pé a ti bójú tó ojúṣe ní òkè, nípa ẹ̀rọ. Yíyọ ìṣẹ́sẹ̀ náà kúrò ń yọ àròsọ yẹn kúrò; ìbéèrè bóyá àwòrán kan yẹ kí ó wà ń padà sí ọ̀dọ̀ àwọn ènìyàn tí ó lè dáhùn rẹ̀.

• Ojúṣe Shannon Lab LLC. Ìlànà Ìlò Onídùúró pàtó tí a tẹ̀ jáde tí ń dárúkọ àwọn ẹ̀ka tí a ka léèwọ̀ dípò àtòjọ ìdínà tí a kò tẹ̀ jáde — àwọn òfin tí o lè kà, tí o lè tọ́ka sí, tí o sì lè fi dá wa lẹ́jọ́.
• Ojúṣe rẹ. O mọ ète náà, àwọn olùgbọ́, agbègbè òfin àti ipò ìfọwọ́sí gbogbo ẹni tí a fihàn. Irinṣẹ́ náà kò mọ̀, olùpín kan kò sì lè mọ̀ láéláé. Kártà ìfìdímúlẹ̀ wà kí a lè lo ìmọ̀ yẹn ní ìṣẹ́jú tí ó ṣe pàtàkì, láti ọwọ́ ẹgbẹ́ tí ó ní i.
• Ìlà tí kì í yí padà. "Ìṣẹ́sẹ̀ náà kò dá mi dúró" kò tí ì jẹ́ ìgbèjà nínú ọ̀nà kankan rí. Kámẹ́rà kì í kọ̀, gíláàsì-ìkọ̀wé kì í kọ̀; òfin àti ìwà rere akọ́ṣẹ́mọṣẹ́ ni ó ń ṣàkóso ìlò, kì í ṣe ohun-èlò náà. Ẹ̀rọ aláìní ìṣẹ́sẹ̀ ń mú ètò déédéé tí gbogbo irinṣẹ́ akọ́ṣẹ́mọṣẹ́ mìíràn ń ṣiṣẹ́ lábẹ́ rẹ̀ padà.

Ka Ìlànà Ìlò Onídùúró kí o tó bẹ̀rẹ̀. Ó kúrú, ó jẹ́ pàtó, ó sì jẹ́ apá ọjà yìí tí ó mú kí ìyókù rẹ̀ ṣeé gbèjà.

09Àwọn ìbéèrè tí a sábà ń bèèrè

---

Àwọn orísun: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, April 22, 2023 · PetaPixel, April 3, 2023 · CNBC, February 22, 2024. Shannon Lab LLC, New Mexico, USA ni ó ń ṣàkóso Shannon AI.