Marar Tantancewa kan Janareton Hoto na AI da Aka Tantance
An gina matatun abun ciki don hana ƙananan cutarwa na gaske. A aikace suna kuma hana zanen likita, sake gina bincike na shari'a, zanen jiki, tarihin yaƙi, izgilin edita da kamfanoni suna zana kayansu. Wannan shi ne kuɗin hakan — da abin da cire matatar ke canjawa da abin da ba ya canjawa.
A Taƙaice
Manyan janaretocin hoto suna tantance umarni da fitarwa da masu rarrabawa waɗanda suke ganin kalmomi da pixels, ba manufa ba. Wannan yana tabbatar da kurakuran ƙi, kuma sun fi sauka a kan aiki na ƙwarai: jikin ɗan adam, bincike na shari'a, tsiraicin fasaha, hotunan tarihi, hangen nesa kafin fim, izgili, kayan wayar da kai game da tsaro, da masu haƙƙi da suke neman alamarsu. OVERT (ICML 2025), ma'auni na farko mai girma ga wannan gazawar, yana amfani da umarni 4,600 marasa illa amma masu shakku kuma ya gano cewa ƙi fiye da kima ya yaɗu a manyan samfuran. Shannon yana gudanar da ƙirƙirar hoto, gyaran hoto guda ɗaya da haɗa hotuna da yawa a gungun GPU namu ba tare da matatar abun ciki ba kuma ba tare da shimfidar ƙi ba, yana maye gurbin jerin haramtattun kalmomi da shawara da ake gani: katin tabbatarwa mai nuna ainihin umarnin kafin a zana komai. Wannan yana ɗaga alhakinka da namu; duka biyun suna cikin Manufar Amfani da Alhaki. Babu ƙirƙirar bidiyo, kuma aikin hoto yana cikin manhajar hira, ba API ba.
Kusan kowa da yake aiki da hotuna a matsayin sana'a yana da labari iri ɗaya. Umarni da ke bayyana wani abu na yau da kullum — yankan gwiwa, mota a lokacin karo, nazarin jiki da gawayi, soja a 1944 — yana dawowa a matsayin keta manufa. Ka sake rubutawa, sai ka samu wata keta daban. A ƙarshe sai ka rubuta wani abu mara bayyana har ya wuce, sai ka samu hoto da ba ya sake nuna abin da kake buƙata. Kayan aikin bai gaza da ƙarfi ba; ya gaza a hankali, kuma ya sa kai ne ka yi sulhu.
01Me ya sa janareton hoto na AI yake ƙin umarni da a fili yake na ƙwarai?
Ƙin yawanci ba ra'ayin samfurin hoto ba ne. Fitarwar tsarin matata ce da ke kewaye da samfurin, kuma shimfidunta suna bayyana kusan kowace ƙi mai ban mamaki da ka samu.
| Shimfida | Abin da take dubawa | Gazawar da ta saba |
|---|---|---|
| Jerin haramtattun kalmomi | Ainihin kalmomi da makamantansu a cikin rubutunka | Tana toshe kalma ba tare da la'akari da jimlar da ke kewaye da ita ba — "speculum" ya gaza, "stethoscope" ya wuce |
| Mai rarraba umarni | Hukuncin da aka koya kan "haɗarin" umarnin | Tana tashi bisa kusanci ga batu: duk abin da ke kusa da likitanci, makamai, jiki ko siyasa yana samun babban maki |
| Horar da samfurin kan ƙi | Ƙin da aka koyar wa samfurin kansa | Yana ƙi ba tare da kuskure ba, ko a shiru ya samar da wani abu mai tsafta |
| Mai rarraba fitarwa | Pixels da aka zana, ba tare da mahallin umarnin ba | Ba zai iya bambanta zanen jikin ɗan adam da batsa ba, ko hoton fim da abin da ya faru da gaske |
| Maye gurbin manufa | Sake rubuta umarninka a shiru kafin zanawa | Kana samun hoto, amma ba wanda ka bayyana ba, kuma ba a gaya maka dalili ba |
Kowace shimfida tana da makauniyar ido guda: babu wanda zai iya ganin dalilin da ya sa kake tambaya. Mai zanen likita, ƙwararren mai ƙara da yake sake gina karo, da wani mai mugun nufi duk suna rubuta suna iri ɗaya. Matatar tana ganin sunan, ba littafin jikin ɗan adam ko fayil ɗin shari'ar ba, kuma ana auna ta kan cutarwar da ta bari ta wuce — ba a taɓa auna ta kan aikin da ta lalata ba. A ƙarƙashin wannan rashin daidaito, saitin da ya dace ga kowane mai gudanarwa shi ne a ƙi ƙari. Shi ya sa kuma "kawai ka sake rubuta shi" ba magani ba ne: sake rubutawa ba ya ba matatar wani bayanin da ba ta da shi, kawai yana motsa umarninka daga kalmomin da suka taɓa ta, wanda yawanci yana nufin nesa da abin da ka nufa.
02Abin da matatun abun ciki suke nan don hanawa da gaske
Hujja don ƙirƙira marar matata da ke nuna kamar matatu ba su nan don wani dalili ba ba ta cancanci karantawa ba. Akwai ƴan fitarwa da cutarwarsu tana cikin hoton kansa, ba tare da la'akari da wanda ya tambaya ko dalili ba:
- Abun ciki na jima'i da ya shafi ƙananan yara. Babu wani mahalli da zai sa ya karɓu; babu aikin sana'a da yake buƙatarsa.
- Hotunan sirri na mutane na gaske ba tare da izininsu ba. Cutarwar tana sauka a kan wanda bai yarda ba, kuma cire su ba ya gyara hakan.
- Cin zarafi da aka yi niyya da ƙirƙirar ƙarya mai ɓata suna — sanya mutum mai suna ya bayyana kamar ya yi abin da bai yi ba.
- Takardun matakin jabu — fasfo, katunan shaida, takardun kuɗi, hatimai da kayan kuɗi da aka yi don su wuce a matsayin na gaske.
- Hujjar roba mai yaudara — hotunan da aka ƙirƙira na abubuwan da suka faru da gaske aka gabatar a matsayin takardar shaida maimakon zane.
Jerin gajere ne kuma yana da tsari: cutarwar tana cikin abin da aka samar, cikin kamanninsa da mutum ko takarda ta gaske, kuma cikin gabatar da shi a matsayin gaskiya. Ka lura da abin da ba ya cikinsa — tsiraici, jini, makamai, ta'asar tarihi, izgilin siyasa. Waɗannan su ne albarkatun likitanci, aikin jarida, fasaha, bincike na shari'a da izgili, kuma matatar da ta ɗauke su a matsayin nau'ikan cutarwa tana aiwatar da wani tunani mafi faɗi kan waɗanne batutuwa ne masu mutunci.
Shannon ya haramta duk abin da ke cikin wannan jerin, a cikin Manufar Amfani da Alhaki da aka buga tare da nau'ikan da aka bayyana da sakamako, maimakon teburin kalmomi da yake kama "placenta" ma. Ɗaya doka ce da za ka iya karantawa ka riƙe mu da ita; ɗayan hasashe ne kan niyyarka daga mai rarrabawa da ba za ka iya gani ba.
03Girman matsalar ƙi fiye da kima nawa ne? Abin da binciken ya auna
Har zuwa kwanan nan, ƙi fiye da kima a samfuran hoto labari ne kawai — dubban mutane da labari iri ɗaya kuma babu hanyar auna shi. Hakan ya canja da OVERT (OVEr-Refusal evaluation on Text-to-image models), da aka gabatar a ICML 2025 ta ƙungiyar UC Berkeley da suka haɗa da Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song da Song Mei: ma'auni na farko mai girma da yake auna sau nawa tsarin rubutu-zuwa-hoto ke ƙin umarnin da ba su da wata illa gaba ɗaya.
Ƙirar tana da muhimmanci. An gina umarni 4,600 don su yi kama da masu cutarwa yayin da ba su da illa — siffar buƙatar sana'a ta gaske da ta ambaci wuƙar tiyata, rauni ko zanga-zanga — kuma umarni 1,785 masu cutarwa da gaske suna zaune tare da su a matsayin ma'auni, don samfuri ya kasa samun maki mai kyau ta hanyar ƙin komai. Nau'ikan tara sun tashi daga sirrin mutum ɗaya da na shahararrun mutane ta haƙƙin mallaka, wariya, cutar da kai, abun ciki na jima'i da ayyukan haramun zuwa tashin hankali.
Babban abin da aka gano shi ne cewa ƙi fiye da kima ya yaɗu a nau'uka da a manyan samfuran. Na biyu ya fi cutar da maganin da aka saba: marubutan sun gwada sake rubuta umarni a matsayin magani sannan suka ba da rahoton cewa "sau da yawa yana lalata amincin ma'anar umarnin asali." Za ka iya wuce matatar ta hanyar canja abin da ka nema, sannan ba ka sake samun abin da ka nema ba.
Wani bincike mafi ƙunci ya kai ga matsaya iri ɗaya daga gefen pixel. A cikin An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann da Oliver, taron AI4VA a ECCV 2024), marubutan sun kimanta masu rarraba NSFW guda uku na samarwa a kan tsiraicin fasaha kuma sun gano duka son zuciya na jinsi da son zuciya na salo: hukuncin kan nazarin jiki ya dogara da jikin wa aka nuna da a wane salo. Wannan magana ce da aka auna kan abin da aka gaya wa kowane mai zanen jiki cewa tunani ne kawai.
04Nau'ikan aiki na ƙwarai guda takwas da janaretocin da aka tantance suke toshewa
Waɗannan su ne nau'ikan da ƙi fiye da kima ba wahala ba ne a cikinsu amma tsayawar aiki. Inda akwai takamaiman shari'a da aka ba da rahoto an ambace ta; inda ba a tabbatar da ko ɗaya ba, an bayyana nau'in ba tare da ƙirƙirar wani lamari ba.
1. Zanen likita da na jikin ɗan adam
Shari'ar da aka fi rubutawa a fannin. A Afrilu 2023, The Intercept (Debbie Nathan) ya ba da rahoton cewa Midjourney ya haramta kalmomin jikin ɗan adam da suka haɗa da speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom da IUD, yayin da DALL·E 2 ya ƙi "pills used in medication abortion" da saƙon manufar abun ciki. Julia Rockwell, manazarciyar bayanan asibiti da ta yi ƙoƙarin ƙirƙirar hoton placenta a matsayin kyauta ga abokiyarta masaniyar ilmin ƙwayoyin halitta, ta gano wannan salon sannan ta ba da rahoto ga MIT Technology Review. Rashin daidaiton shi ne alamar: "stethoscope" yana ƙirƙira kamar yadda aka saba yayin da aka haramta "speculum". Bill Howe, mai bincike a Jami'ar Washington, ya kira matatun "marasa kaifi" kuma ya ce sun sa ya zama "kusan ba zai yiwu a yi tattaunawa ta kimiyya game da haihuwa ba." Ilmantar da marasa lafiya, littattafan tiyata da tsarin karatun aikin jinya duk suna buƙatar a nuna jiki daidai, har da sassan da jerin kalmomi ya yanke shawarar cewa ba su da mutunci.
2. Sake gina bincike na shari'a da na haɗari
Sake gina karo, nazarin asalin wuta da nunin kotu suna buƙatar nuna lalacewa, raunuka da ilmin tashin hankali da daidaiton asibiti. Matatar da aka saita don ƙin "jini" ko "raunin harbi" tana ƙin fannin gaba ɗaya: mahallin — rahoton ƙwararre, fayil ɗin inshora — ba ya bayyana ga mai rarrabawa, kuma ainihin tsaka-tsakin da ke sa irin waɗannan hotunan karɓuwa shi ne abin da ke sa su yi kama da hoton jini.
3. Tsiraicin fasaha da zanen jiki
Tsiraici batu ne na tushe a fasaha a ko'ina, kuma nazarin jiki shi ne ginshiƙin ilimin fasaha. Sakamakon ECCV 2024 da ke sama shi ne nau'in da aka auna na abin da masu fasaha ke ba da rahoto: masu rarrabawa ba sa raba nazarin jiki da batsa cikin aminci, kuma kurakuransu suna da son zuciya na jinsi da salo — matata da ta fi tsanani a kan ainihin al'adar da ya kamata ta gane.
4. Hotunan tarihi da na yaƙi
Fasahar littafin karatu, fassarar gidan tarihi da ayyukan tunawa suna buƙatar nuna kayan sawa, makamai, sansanoni, yaƙe-yaƙe da ta'asa. Lamarin Gemini na Fabrairu 2024 yana koyarwa saboda gazawar ta gudana a hanya ta gaba kuma ta yi lalacewa daidai. Google ya dakatar da ikon Gemini na ƙirƙirar hotunan mutane a ranar 22 ga Fabrairu, 2024 bayan ya samar da nunin ƙungiyoyin tarihi da aka sake tsara launin fatarsu, har da sojojin Jamus na zamanin Nazi. Babban Darakta Sundar Pichai ya kira fitarwar "gaba ɗaya ba za a karɓa ba"; Babban Mataimakin Shugaba Prabhakar Raghavan ya amince cewa samfurin ya "wuce gona da iri" kuma ya zama "mai wuce gona da iri wajen taka tsantsan." Tsaro makauniya ga mahalli bai sa hotunan tarihi su fi aminci ba — ya sa su zama ƙarya, wanda ga mai buga littafin tarihi ya fi muni.
5. Tashin hankali cikin almara da hangen nesa kafin fim
Allon tsarin fim, zanen tunani, littattafan zane da ƙirar wasa suna nuna tashin hankali saboda dalili iri ɗaya da littattafai da fina-finai suke yi. Matatar da ba za ta iya bambanta allon tsarin fim na ban tsoro da barazana ba tana ɗaukar dukkan hanyar fasahar labari a matsayin abin shakku — ko da yake allon tsarin fim a bayyane ba na gaske ba ne, shiri ne na wurin da ƴan wasa da ƙungiyoyin tasiri za su shirya.
6. Izgilin siyasa da zanen ban dariya na edita
Zanen izgili ga masu iko yana cikin nau'ikan magana da aka fi kiyayewa a yawancin dimokuraɗiyya, kuma yawanci shi ne abu na farko da matatar hoto take cirewa. Shari'ar da aka fi rubutawa a fili ita ce shawarar Midjourney ta Afrilu 2023 na hana hotunan Shugaban China Xi Jinping da toshe sunansa a umarni — wanda PetaPixel, Decrypt da wasu suka ba da rahoto — yayin da yake ci gaba da barin sauran shugabannin duniya. Wanda ya kafa shi, David Holz, ya bayyana a Discord cewa kamfanin yana son "rage hayaniya" kuma cewa "ikon mutanen China na amfani da wannan fasahar ya fi muhimmanci fiye da ikonka na ƙirƙirar izgili"; Sarah McLaughlin ta Foundation for Individual Rights and Expression ta kira shi tantancewa. Ko da wane ra'ayi mutum ya kai kan lissafin kasuwanci, tsarin ya cancanci a bayyana shi: ƙuntatawar magana ta ƙasa ɗaya da aka yi amfani da ita a kan kowane mai amfani a duniya, saboda matata ta duniya tana da saiti guda ɗaya.
7. Binciken tsaro da kayan wayar da kai game da yaudara
Ƙungiyoyin tsaro suna gina kayan horo da dole su yi kama da abin da suke gargaɗi a kansa: shafin shiga na ƙarya mai gamsarwa, takardar biyan kuɗi ta jabu, lambar QR mai cutarwa a kan na'urar biyan kuɗin ajiye mota. Ga mai rarrabawa hakan ba a bambanta shi da harin da yake kariya daga gare shi ba — kamanni da gaske shi ne manufar — don haka matatu suna toshe kariya da hari daidai, suna ba maharin fifiko, wanda tun farko ba zai yi amfani da kayan aiki na masu amfani da aka tantance ba.
8. Masu haƙƙi da aka ƙi wa hotunan alamarsu, kayansu ko kamanninsu
Matatar haƙƙin mallaka da alamar kasuwanci ba ta duba mallaka; tana duba kamanni. Kamfani ba zai iya ƙirƙirar hotunan tambarinsa ko kayansa cikin sauƙi ba, mai haƙƙi ba zai iya zana halinsa ba, kuma mutane sau da yawa ba za su iya ƙirƙirar fuskarsu ba, saboda matatun kama suna aiki bisa iya ganewa maimakon izini. OVERT ya haɗa da "keta haƙƙin mallaka" a cikin nau'ikan ƙi fiye da kima guda tara daidai saboda wannan kuskuren ya yi yawa. Matatar kayan aiki ne mara kaifi ga tambaya — shin kana da haƙƙin wannan? — wadda ba ta da hanyar yin ta.
Huɗu daga cikin takwas ɗin da ke sama an ɗaure su da takamaiman shari'a da aka buga (likita, tsiraicin fasaha, tarihi, izgili) tare da nau'in haƙƙin mallaka na OVERT ga na takwas. Bincike na shari'a, hangen nesa kafin fim da kayan wayar da kai game da tsaro an bayyana su a matsayin nau'uka: sanannun nau'ikan aikin sana'a ne da abin ya shafa waɗanda ba mu tabbatar da takamaiman lamari da aka buga a kansu ba.
Kowace shari'a da aka rubuta a sama tana bainar jama'a kuma ana iya tabbatar da ita da kanka. Ka karanta su maimakon ka amince da yadda muka bayyana su.
05Me ya sa janaretocin zanen AI suke toshe abubuwan da ba daidai ba, kuma me ya sa ba a iya gyara kuskuren matatar abun ciki
Martanin da ake yi nan take ga toshewa fiye da kima shi ne "a sassauta ma'aunin." Ba ya aiki, saboda dalilai na tsari maimakon rashin ƙoƙari.
Nau'ukan suna haɗuwa a alamar amma ba a gaskiya ba. Zanen tiyata da batsa suna raba tsiraici. Sake gina bincike na shari'a da hoton jini suna raba jini. Sileda na wayar da kai da kayan yaudara suna raba shafin shiga na ƙarya. Zanen ban dariya na izgili da ƙirƙirar ƙarya mai ɓata suna suna raba ɗan siyasa da ake ganewa. Abin da ke bambanta kowane biyu shi ne manufa da gabatarwa — wanda ba ya cikin umarnin kuma ba ya cikin pixels. Babu ma'aunin da ke raba jama'a biyu da suke zaune a yanki ɗaya na sararin shigarwa; motsa shi kawai yana sauya wani kuskure da ɗayan. Wannan shi ne abin da lamarin Gemini ya nuna: shiga tsakani da aka nufa ya gyara wata gazawa ya haifar da wata, wadda Babban Mataimakin Shugaban Google da kansa ya kira "wuce gona da iri."
Kuɗin ba daidai yake ga mai gudanarwa ba, ba a gare ka ba. Matata da ta bar hoto ɗaya mara kyau ya wuce tana haifar da labarin jarida. Matata da ta toshe dubu goma na ƙwarai tana haifar da shiru, saboda masu amfani da aka ƙi ba sa haɗuwa — suna barin gwagwarmaya. Tafiyar da haɗari a ƙarƙashin wannan rashin daidaito tana taruwa a kan toshewa fiye da kima, har abada. Kuma saboda ainihin hukuncin ba zai yiwu ba, jerin haramtattun kalmomi suna taruwa da ainihin kalmomi yayin da abubuwa ke faruwa, wanda shi ne yadda kake samun "stethoscope" yana lafiya kuma "speculum" an haramta. Ba wanda ya yanke shawarar cewa kayan aikin mata sun fi haɗari; jerin ya girma inda ƙorafi ya sauka. Yana ɗauke da tarihin hulɗar jama'a na mai gudanarwa, ba wata ka'idar cutarwa ba.
Ƙasar da ta fi tsanani tana zama tsohon zaɓi na duniya. Matata ɗaya tana hidimar kowane mai amfani a kowace ƙasa, don haka ƙuntatawa da aka ƙara wa kasuwa ɗaya ana fitar da ita zuwa kowanne — dokar Xi Jinping ita ce shari'ar littafin karatu. Kuma sake rubuta umarninka yana lalata ma'anarka, wanda shi ne abin da gwajin OVERT ya nuna: kowane ƙwararre da ya juya buƙata zuwa kalmomi masu laushi don ta wuce matata ya tabbatar da hakan da hannunsa. Ba ka yi nasara ba; ka yi sulhu.
Babu ɗaya daga cikin wannan da yake kyauta, kuma saboda yana gazawa a shiru, kuɗinsa ba ya bayyana a ma'aunin da mai gudanarwa ke kallo. Bayan ƙi da yawa sai ka daina tambaya, kana rage kowane umarni tun da farko zuwa abin da ka hasashe zai wuce; kalmar laushi da ta wuce a ƙarshe tana haifar da hoto kusa da, amma ba, abin da takardarka ta buƙata. Saƙon manufa na gaba ɗaya ba ya gaya maka komai game da wace shimfida ce ta tashi, don haka za ka iya hasashe kawai ka sake gwadawa — kuma aikin hoto yana maimaitawa, don haka matata da take kama ƙoƙari ɗaya cikin biyar tana ɓata zagayen maimakon kawai ta rage saurinsa. A halin yanzu fannonin da suke da mafi ƙarfin da'awa kan kayan aiki na gaske ba sa samun mai dubawa, ba sa samun ɗaukaka ƙara kuma yawanci ba sa samun jerin abin da aka toshe da aka buga. Doka da ba za ka iya karantawa ba ba doka ba ce; yanayi ce.
06Janareton hoto na AI marar tantancewa kan wanda aka tantance: abin da ke canjawa da gaske
Ga nau'in kwatancin na gaskiya, har da abin da tsarin marar matata ba ya ba ka.
| Fanni | Janareto da aka tantance | Marar matata (Shannon) |
|---|---|---|
| Abin da ke yanke shawara | Mai rarrabawa yana karanta kalmomi da pixels | Mutum yana karanta ainihin umarnin |
| Lokacin da ka gano | Bayan ka aika — wani lokaci bayan ka biya | Kafin a zana komai ko a caje ka |
| Menene dokar | Jerin haramtattun kalmomi da ba a buga ba, masu sauyawa | Manufar Amfani da Alhaki da aka buga |
| Mahallin sana'a | Ba ya bayyana ga tsarin | Naka ne ka riƙe, kuma naka ne ka amsa a kansa |
| Hanyar gazawa | Toshewa fiye da kima a shiru, karkacewar ma'ana | Kana samun abin da ka nema — har da kurakurai |
| Wa ke ɗaukar haɗarin | Mai siyarwa, wanda ya jibge shi a kan aikinka | A raba: manufar mai gudanarwa tare da alhakin mai amfani |
Layin ƙarshe shi ne wanda mutane suke tsallakewa, kuma shi ne wanda yake da muhimmanci. Cire matata ba ya cire nau'ikan cutarwa a sashe na 02; yana cire injin da yake yin hasashe mara kyau a kansu. Nauyin ya kasance inda yake, yanzu bangarori biyu da za su iya yin tunani kan mahalli suna riƙe da shi: mai gudanarwa, wanda yake buga manufa ya aiwatar da ita, da kai, wanda ka san manufar hoton. Ƙirƙirar hoto ta AI marar matata kayan aiki ne ga mutanen da suka riga suka shirya su tsaya a bayan fitarwarsu — littafin likitan tiyata, rahoton ƙwararre, allon tsarin fim, zanen ban dariya — waɗanda tsarin da bai iya bambanta su da wani ke tsayar da su.
07Abin da Shannon yake yi — da abin da ba ya yi
Daidaito a nan ya fi sha'awa muhimmanci, musamman ga masu karatu da suka zo daga bincike kan API.
Abin da yake yi
- Ƙirƙira. Ka bayyana hoto da harshe mai sauƙi, cikin kowane yare. Shannon yana rubuta umarnin ƙirƙira da kansa, cikin Turanci, ko da wane yare ka tambaya.
- Gyara hoto ɗaya. Tushe guda ɗaya kawai — hoto da ya riga ya kasance cikin hirar, ko wanda aka haɗa da saƙonka na yanzu — da aka canja ta umarni da ke cewa me zai canja kuma me zai kasance. Fitarwa tana riƙe rabon gefe na tushe ta atomatik.
- Haɗa hotuna biyu ko fiye. Canja tufafi, abu-cikin-wuri, mutum kusa da mutum, kaya-a-kan-mutum, batu daga hoto ɗaya da salo daga wani. Umarnin yana bayyana rawar kowane hoto bisa tsari, kuma ana amfani da hotunan na gaske, don haka ana kiyaye ainihin kamanninsu maimakon a sake bayyana su.
- Sarrafa rabon gefe. square (tsohon zaɓi), portrait, landscape, wide da tall. Buƙata bayyananna koyaushe ta fi ƙarfi.
- Zanawa a gungun GPU namu, ba tare da matatar abun ciki a hanyar ƙirƙira ba kuma ba tare da shimfidar ƙi a kan samfurin da yake rubuta umarnin ba.
Abin da ba ya yi
- Babu bidiyo. Shannon ba ya motsa hotuna kuma ba ya samar da bidiyo. Ba wani abu ne da ke cikin shiri da ake ɓoyewa ba — ba ya nan ko kaɗan.
- Ba a kan API ba. Ƙirƙirar hoto, gyara da haɗawa suna cikin manhajar hira ta Shannon. API na /v1 yana hidimar rubutu da gani — zai iya karanta hotunan da ka aika masa — amma ba ya zana su.
- Babu ƙirƙira ba tare da an nemi hakan ba. Gaisuwa, tambaya ko hoton da aka haɗa kwatsam ba sa haifar da hoto. Neman Shannon ya duba hoto — ya bayyana shi, ya karanta shi, ya yi nazarinsa — aikin gani ne na yau da kullum, ba ƙirƙira ba, kuma ba ya ci komai na ƙari.
Katin tabbatarwa
Wannan shi ne tsarin da ya maye gurbin matatar, kuma zaɓin ƙira ne maimakon aikin gani-ka-bar. Lokacin da Shannon ya ƙudurta cewa kana neman hoto, yana rubuta umarnin ƙirƙira sannan ya nuna maka shi a katin tabbatarwa kafin a zana komai. Ba a ƙirƙirar komai kuma ba a caje ka har sai ka tabbatar.
Ka kwatanta ƙirar biyu bisa cancantarsu. Matata tana hasashen niyyarka da ƙarancin bayani fiye da naka, kuma tana aiwatar da hasashen a shiru. Katin tabbatarwa yana sanya ainihin bayanin hoton a gaban ɓangaren da ya san manufarsa, kafin a kashe wani lissafi. Yana kama fahimtar buƙatarka ba daidai ba, wanda matatu ba sa taɓa yi; yana ba ka damar ƙara daidaiton jikin ɗan adam ko cikakken bayanin tarihi da samfurin bai bayyana sosai ba; kuma yana sa alhaki ya bayyana maimakon ya watsu. Ka ga umarnin, kuma ka danna maɓallin.
08Ƙirƙira marar matata tana ɗaga alhaki, ba ta cire shi ba
Wannan yana nan maimakon a ƙasan shafi, saboda rabin hujjar ne. Janareto da aka tantance yana yin alkawarin da ba zai iya cikawa ba: cewa kayan aikin zai hana cin zarafi a madadinka. Yana gazawa a hanyoyi biyu — yana toshe likitan tiyata, kuma ba ya hana mai mugun nufi mai ƙwazo, wanda yake da wasu zaɓuɓɓuka kuma koyaushe yana da su. Abin da yake yi cikin aminci shi ne barin kowa ya ji cewa an ɗauki alhaki tun daga sama, ta na'ura. Cire matatar yana cire wannan almara; tambayar ko hoto ya kamata ya kasance tana komawa ga mutanen da za su iya amsa ta.
- Nauyin Shannon Lab LLC. Manufar Amfani da Alhaki da aka buga, takamaimai, tana bayyana nau'ikan da aka haramta maimakon jerin haramtattun kalmomi da ba a buga ba — dokoki da za ka iya karantawa, ka ambata kuma ka riƙe mu da su.
- Nauyinka. Ka san manufar, masu sauraro, hurumin doka da matsayin izini na kowa da aka nuna. Kayan aikin bai sani ba, kuma mai rarrabawa ba zai taɓa iya sani ba. Katin tabbatarwa yana nan don a yi amfani da wannan ilimin a lokacin da yake da muhimmanci, ta ɓangaren da yake da shi.
- Layin da ba ya motsi. "Matatar ba ta hana ni ba" ba ta taɓa zama kariya a kowace hanya ba. Kamara ba ta ƙi, fensir ba ya ƙi; doka da ɗabi'ar sana'a suna tafiyar da amfanin, ba kayan aikin ba. Janareto marar matata yana mayar da tsarin talakawa da kowane kayan aikin sana'a yake aiki a ƙarƙashinsa.
Karanta Manufar Amfani da Alhaki kafin ka fara. Gajera ce, takamaimai, kuma ita ce ɓangaren wannan samfurin da ya sa sauran ya zama abin karewa.
09Tambayoyin da ake yawan yi
Me ya sa janareton hoto na AI yake ƙin umarni da a fili yake na ƙwarai?
Saboda yawancin matatu suna hukunta kalmomin da ke cikin umarninka, ba manufarka ba. Mai rarrabawa yana zaune a gaban samfurin ba tare da damar sanin ko wanene kai ko dalilin da ya sa kake tambaya ba, don haka mai zanen likita, manazarcin bincike na shari'a da mai mugun nufi duk suna rubuta suna iri ɗaya kuma duk suna samun ƙi iri ɗaya. The Intercept ya ba da rahoto a Afrilu 2023 cewa Midjourney ya haramta kalmomin jikin ɗan adam da suka haɗa da speculum, placenta da cervix, yayin da stethoscope ke aiki kamar yadda aka saba.
Shin akwai bincike da yake auna kuskuren matatar abun ciki a kayan zanen AI?
Eh. OVERT (arXiv:2505.21347, ICML 2025) shi ne ma'auni na farko mai girma na ƙi fiye da kima ga samfuran rubutu-zuwa-hoto: umarni 4,600 da suke kama da masu cutarwa amma marasa illa da gaske a cikin nau'ikan tsaro tara, tare da umarni 1,785 masu cutarwa da gaske a matsayin ma'auni. Marubutansa sun ba da rahoton cewa ƙi fiye da kima ya yaɗu a manyan samfuran. Wani bincike daban na ECCV 2024 ya gano son zuciya na jinsi da na salo a masu rarraba NSFW guda uku da aka kimanta a kan tsiraicin fasaha.
Me janareton hoto na AI marar tantancewa yake canjawa da gaske?
Yana cire shimfidar ƙi da matatar abun ciki daga hanyar ƙirƙira, don haka ba a sake rarraba buƙata ta ƙwarai a matsayin hari a shiru ba. Ba ya cire hukunci — yana mayar da shi wuri. Shannon yana nuna maka ainihin umarnin ƙirƙira a katin tabbatarwa kafin a zana komai, don haka mutum ne yake yanke shawarar wanda zai iya ganin abin da za a samar, ƙarƙashin Manufar Amfani da Alhaki.
Shin Shannon yana ƙirƙirar bidiyo?
A'a. Shannon yana ƙirƙirar sabbin hotuna, yana gyara hoto guda ɗaya da ke akwai, kuma yana haɗa hotuna biyu ko fiye zuwa ɗaya. Ba ya motsa hotuna kuma ba ya samar da bidiyo na kowane iri.
Zan iya ƙirƙirar hotuna ta hanyar API na Shannon?
A'a. Ƙirƙirar hoto, gyara da haɗawa suna cikin manhajar hira ta Shannon. API na /v1 yana hidimar rubutu da gani — karanta da nazarin hotunan da ka bayar — ba ƙirƙirar hoto ba.
Idan babu matata, me zai hana cin zarafi?
Manufa, alhaki da wurin yanke shawara da ake gani maimakon jerin kalmomin da aka hana. Shannon ba ya taɓa ƙirƙira ba tare da an nemi hakan ba, yana nuna cikakken umarnin kafin zanawa, ba ya caji komai har sai ka tabbatar, kuma yana aiki ƙarƙashin Manufar Amfani da Alhaki da aka buga wadda ta haramta abun ciki na jima'i da ya shafi ƙananan yara, hotunan sirri na mutane na gaske ba tare da izininsu ba, cin zarafi da aka yi niyya, da jabun takardun shaida ko na kuɗi.
Nemi hoton da kake buƙata da gaske
Ƙirƙira, gyaran hoto guda ɗaya da haɗa hotuna da yawa a manhajar hira — babu matatar abun ciki, babu shimfidar ƙi, kuma umarnin a allo kafin a zana komai.
Fara Hira Manufar Amfani da AlhakiHotuna a manhajar hira · babu ƙirƙirar bidiyo · ƙarin bincike
Tushe: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 ga Afrilu, 2023 · PetaPixel, 3 ga Afrilu, 2023 · CNBC, 22 ga Fabrairu, 2024. Shannon Lab LLC, New Mexico, Amurka, ce ke tafiyar da Shannon AI.