ሳንሱር-አልባ vs የተጣራ የAI ምስል መፍጠሪያ

በሙያ ከምስል ጋር የሚሠራ ሁሉ ማለት ይቻላል አንድ ዓይነት ታሪክ አለው። ተራ ነገርን የሚገልጽ ጥያቄ — የጉልበት መገጣጠሚያ ተሻጋሪ ክፍል፣ በተጋጨችበት ቅጽበት ያለች መኪና፣ በከሰል የተሠራ የሰው አካል ጥናት፣ በ1944 የነበረ ወታደር — እንደ ፖሊሲ ጥሰት ተመልሶ ይመጣል። እንደገና ትጽፈዋለህ፣ ሌላ ጥሰት ትቀበላለህ። በመጨረሻም እንዲያልፍ በቂ የሆነ ግልጽ ያልሆነ ነገር ትጽፋለህ፣ የሚያስፈልግህን ነገር የማያሳይ ምስል ታገኛለህ። መሣሪያው በጩኸት አልወደቀም፤ በደረጃ በደረጃ ወደቀ፣ ተስማምቶ ወራጅ የሆነውም አንተ እንድትሆን አደረገ።

01አንድ የAI ምስል መፍጠሪያ በግልጽ ሕጋዊ የሆነን ጥያቄ ለምን እምቢ ይላል?

እምቢታው አብዛኛውን ጊዜ የምስል ሞዴሉ አስተያየት አይደለም። በሞዴሉ ዙሪያ ያለ የማጣሪያ ክምር ውጤት ነው፤ ንብርብሮቹም እስካሁን የተቀበልካቸውን እንግዳ እምቢታዎች ሁሉ ማለት ይቻላል ያብራራሉ።

ንብርብር	የሚመረምረው	የተለመደው ውድቀት
የጥያቄ እገዳ ዝርዝር	በጽሑፍህ ውስጥ ያሉ ቀጥተኛ ሐረጎችና ቅርብ ልዩነቶቻቸው	በዙሪያው ያለውን ዓረፍተ ነገር ሳይመለከት ቃል ያግዳል — "speculum" ይወድቃል፣ "stethoscope" ያልፋል
የጥያቄ መደብ ሰጪ	የጥያቄውን "አደጋ" የሚመለከት የተማረ ፍርድ	በርዕስ ቅርበት ይቀሰቀሳል፦ ከሕክምና፣ ከጦር መሣሪያ፣ ከሰውነትና ከፖለቲካ አጠገብ ያለ ማንኛውም ነገር ከፍተኛ ነጥብ ያገኛል
የሞዴል እምቢታ ሥልጠና	የሞዴሉ ራሱ የተማረ ማመንታት	ያለ ስህተት መልእክት እምቢ ይላል፣ ወይም በዝምታ የተጣራ ምትክ ያመርታል
የውጤት መደብ ሰጪ	የተሳሉ ፒክስሎች፣ ያለ ምንም የጥያቄ አውድ	የሰውነት አካል ሠንጠረዥን ከብልግና፣ ወይም የፊልም ትዕይንትን ከእውነተኛ ክስተት መለየት አይችልም
የፖሊሲ ምትክ	ከመሳሉ በፊት ጥያቄህን በዝምታ መቀየር	ምስል ታገኛለህ፣ ግን የገለጽከውን አይደለም፤ ለምን እንደሆነም አትነገርም

እያንዳንዱ ንብርብር አንድ የጋራ ዕውር ነጥብ አለው፦ አንዳቸውም ለምን እንደምትጠይቅ ማየት አይችሉም። የሕክምና ሠዓሊ፣ የከሳሽ ወገን ግጭትን ዳግም የሚገነባ ባለሙያ፣ እና መጥፎ ሐሳብ ያለው ሰው ሁሉም አንድ ዓይነት ስም ይጽፋሉ። ማጣሪያው የሚያየው ስሙን እንጂ አትላሱን ወይም የክሱን መዝገብ አይደለም፤ የሚመዘነውም በሚያሳልፋቸው ጉዳቶች ላይ ነው — በሚያጠፋው ሥራ ላይ ፈጽሞ አይደለም። በዚህ አለመመጣጠን ሥር ለማንኛውም አንቀሳቃሽ ምክንያታዊው ቅንብር ይበልጥ እምቢ ማለት ነው። "እንደገና ጻፈው" የሚለው ምክር መፍትሔ ያልሆነውም ለዚህ ነው፦ እንደገና መጻፍ ለማጣሪያው የጎደለውን መረጃ አይሰጠውም፤ ጥያቄህን ካስጣሉት ቃላት ያርቀዋል እንጂ፣ ይህ ማለት ደግሞ አብዛኛውን ጊዜ ከምትፈልገው ትርጉም ማራቅ ነው።

02የይዘት ማጣሪያዎች በእውነት ለመከላከል የተቀመጡት ምንድን ነው

ማጣሪያዎች ያለ ምንም ምክንያት እንደተፈጠሩ የሚያስመስል ላልተጣራ መፍጠር የቀረበ መከራከሪያ ማንበብ አይገባውም። ማን እንደጠየቀና ለምን እንደጠየቀ ሳይታይ ጉዳታቸው በምስሉ ውስጥ ራሱ የተሠረጸ ጠባብ የውጤት ስብስብ አለ፦

• ትናንሽ ልጆችን የሚያካትት ወሲባዊ ይዘት። ምንም አውድ ተቀባይነት ያለው አያደርገውም፤ ምንም ሙያዊ የሥራ ሂደትም አይፈልገውም።
• የእውነተኛ ሰዎች ያለፈቃድ የግል ምስሎች። ጉዳቱ ያላመነበት ሰው ላይ ይወርዳል፤ ማስወገድም አይመልሰውም።
• ዒላማ ያደረገ ትንኮሳና ስም የሚያጠፋ ፈጠራ — ስሙ የተጠቀሰ ግለሰብ ያላደረገውን ነገር እንዳደረገ ማስመሰል።
• የማጭበርበሪያ ደረጃ ሰነዶች — ፓስፖርቶች፣ የመታወቂያ ካርዶች፣ የገንዘብ ኖቶች፣ ማኅተሞችና እውነተኛ መስለው እንዲያልፉ የተሠሩ የገንዘብ ሰነዶች።
• አታላይ ሰው ሠራሽ ማስረጃ — የእውነተኛ ክስተቶች የተፈበረኩ ምስሎች እንደ ሥዕላዊ መግለጫ ሳይሆን እንደ ሰነድ ሆነው ሲቀርቡ።

ዝርዝሩ አጭር ነው፤ አወቃቀርም አለው፦ ጉዳቱ የሚኖረው በተሠራው ነገር ውስጥ፣ ከእውነተኛ ሰው ወይም ሰነድ ጋር ባለው መመሳሰል ውስጥ፣ እንዲሁም እንደ እውነት ሆኖ በመቅረቡ ውስጥ ነው። በዝርዝሩ ውስጥ ያልተካተተውን አስተውል — ራቁትነት፣ ደም፣ የጦር መሣሪያ፣ የታሪክ ግፍ፣ የፖለቲካ ፌዝ። እነዚህ የሕክምና፣ የጋዜጠኝነት፣ የጥበብ፣ የፎረንሲክና የሽሙጥ ጥሬ ዕቃዎች ናቸው፤ እነሱን እንደ ጉዳት ምድቦች የሚይዝ ማጣሪያ ደግሞ የትኞቹ ርዕሶች የተከበሩ እንደሆኑ የሚወስን ከዚህ በጣም የሰፋ ሐሳብ እየተገበረ ነው።

Shannon በዚያ ዝርዝር ውስጥ ያለውን ሁሉ ይከለክላል፤ ይህን የሚያደርገው ደግሞ "placenta"ንም በሚይዝ የቁልፍ ቃል ሠንጠረዥ ሳይሆን ምድቦችንና መዘዞችን በሚጠራ የታተመ የኃላፊነት አጠቃቀም ፖሊሲ ነው። አንዱ ማንበብና ተጠያቂ ልታደርገን የምትችልበት ደንብ ነው፤ ሌላው ልታየው በማትችል መደብ ሰጪ የሚደረግ የሐሳብህ ግምት ነው።

03የከልክ በላይ እምቢታ ችግር ምን ያህል ትልቅ ነው? ምርምሩ የሚለካው

እስከ ቅርብ ጊዜ ድረስ በምስል ሞዴሎች ውስጥ ያለ ከልክ በላይ እምቢታ ተራ ወሬ ነበር — አንድ ዓይነት ታሪክ ያላቸው ሺዎች ሰዎች፣ መጠኑን ለመለካት ግን ምንም መንገድ የለም። ይህ የተለወጠው በOVERT (OVEr-Refusal evaluation on Text-to-image models) ነው፤ በ ICML 2025 ላይ Ziheng Cheng፣ Somayeh Sojoudi፣ Xuandong Zhao፣ Dawn Song እና Song Mei የተካተቱበት የ UC Berkeley ቡድን ያቀረበው፦ ጽሑፍ-ወደ-ምስል ሥርዓቶች ሙሉ በሙሉ ንጹሕ የሆኑ ጥያቄዎችን ምን ያህል ጊዜ እንደሚያግዱ የሚለካ የመጀመሪያው ሰፊ መለኪያ።

ንድፉ ጠቃሚ ነው። እነዚያ 4,600 ጥያቄዎች የተሠሩት ጉዳት እንደሌላቸው ሆነው ጎጂ እንዲመስሉ ነው — ስለ ቀዶ ጥገና ቢላ፣ ስለ ቁስል ወይም ስለ ተቃውሞ የሚጠቅስ የእውነተኛ ሙያዊ ጥያቄ ቅርጽ ያላቸው — በእውነት ጎጂ የሆኑት 1,785 ጥያቄዎችም እንደ መቆጣጠሪያ ከጎናቸው ተቀምጠዋል፤ ስለዚህ አንድ ሞዴል ሁሉንም በማገድ ብቻ ጥሩ ውጤት ማምጣት አይችልም። ዘጠኙ ምድቦች ከግለሰብና ከታዋቂ ሰዎች ግላዊነት ጀምሮ በቅጂ መብት፣ በአድልዎ፣ በራስ ላይ ጉዳት፣ በወሲባዊ ይዘትና በሕገ ወጥ ተግባር አልፎ እስከ ጥቃት ይደርሳሉ።

ዋናው ግኝት ከልክ በላይ እምቢታ በምድቦችም በመሪ ሞዴሎችም ሁሉ ተስፋፍቶ መገኘቱ ነው። ሁለተኛው ግኝት ደግሞ ለተለመደው መፍትሔ ይበልጥ ጎጂ ነው፦ ደራሲዎቹ ጥያቄን እንደገና መጻፍን እንደ ማቃለያ ሞክረው ውጤቱ "ብዙ ጊዜ ለዋናዎቹ ጥያቄዎች ትርጉም ያለውን ታማኝነት ያበላሻል" ብለው ዘግበዋል። የጠየቅከውን በመቀየር ማጣሪያውን ማለፍ ትችላለህ፤ ከዚያ በኋላ ግን የጠየቅከው ነገር በእጅህ የለም።

ጠባብ ጥናት ደግሞ ከፒክስል በኩል ወደ ተመሳሳይ መደምደሚያ ይደርሳል። An Art-centric perspective on AI-based content moderation of nudity (Riccio፣ Curto፣ Hofmann እና Oliver፣ በ ECCV 2024 የ AI4VA አውደ ጥናት) ውስጥ ደራሲዎቹ ሦስት የምርት ደረጃ NSFW መደብ ሰጪዎችን በጥበባዊ ራቁት ላይ ገምግመው ሁለቱንም — የፆታ አድሏዊነትና የቅጥ አድሏዊነት — አግኝተዋል፦ በአንድ የሰው አካል ጥናት ላይ የሚሰጠው ፍርድ የማን አካል እንደተሳለና በምን ቅጥ እንደተሳለ ይወሰናል። ይህ ደግሞ እያንዳንዱ የሰው አካል ሥዕል አርቲስት "ምናባዊ ነው" እየተባለ የሚነገረውን ነገር በመለኪያ የተገለጸ ማረጋገጫ ነው።

04የተጣሩ መፍጠሪያዎች የሚያግዷቸው ስምንት ዓይነት ሕጋዊ ሥራዎች

እነዚህ ከልክ በላይ እምቢታ ችግር ብቻ ሳይሆን የሥራ ማቆም የሚሆንባቸው ምድቦች ናቸው። የተለየ የተዘገበ ጉዳይ ባለበት ቦታ ተጠቅሷል፤ ያልተረጋገጠበት ቦታ ደግሞ ክስተት ሳይፈጠር ምድቡ ብቻ ተገልጿል።

1. የሕክምናና የሰውነት አካል ሥዕል

በዘርፉ ውስጥ በሰነድ በጣም የተደገፈው ጉዳይ። በሚያዝያ 2023፣ The Intercept (Debbie Nathan) እንደዘገበው Midjourney speculum፣ placenta፣ cervix፣ vulva፣ fallopian tubes፣ mammary glands፣ uterine፣ urethra፣ hymen፣ sperm፣ condom እና IUD የሚሉትን ጨምሮ የሰውነት አካል ስሞችን አግዶ ነበር፤ DALL·E 2 ደግሞ "pills used in medication abortion" የሚለውን በይዘት ፖሊሲ መልእክት እምቢ አለ። ይህን ቅርጽ ያገኘችው Julia Rockwell የተባለች የክሊኒክ መረጃ ተንታኝ ናት፤ ለሕዋስ ባዮሎጂስት ጓደኛዋ ስጦታ እንዲሆን የ placenta ምስል ለመፍጠር ሞክራ ነበር፤ ለMIT Technology Reviewም ዘግባዋለች። አለመመጣጠኑ ማስረጃው ነው፦ "stethoscope" በመደበኛነት ሲፈጠር "speculum" ተከልክሎ ነበር። የዋሽንግተን ዩኒቨርሲቲ ተመራማሪ Bill Howe ማጣሪያዎቹን "ham-fisted" ብሎ ጠርቷቸው "ስለ መራባት ሳይንሳዊ ውይይት ማድረግ በመሠረቱ የማይቻል" አድርገውታል ብሏል። የታካሚ ትምህርት፣ የቀዶ ጥገና አትላሶችና የነርስ ሥርዓተ ትምህርቶች ሁሉ ሰውነትን በትክክል መሳልን ይፈልጋሉ — የቁልፍ ቃል ዝርዝር ነውር ናቸው ብሎ የወሰነባቸውን ክፍሎች ጨምሮ።

2. የፎረንሲክና የአደጋ ዳግም ግንባታ

የግጭት ዳግም ግንባታ፣ የእሳት መነሻ ትንተናና የፍርድ ቤት ማሳያዎች ጉዳትን፣ ቁስልንና የኃይል ሜካኒክስን በክሊኒካዊ ትክክለኛነት መሳልን ይጠይቃሉ። "ደም" ወይም "የጥይት ቁስል" የሚለውን እንዲያግድ የተስተካከለ ማጣሪያ ዘርፉን ራሱ ያግዳል፦ አውዱ — የባለሙያ ሪፖርት፣ የኢንሹራንስ መዝገብ — ለመደብ ሰጪው አይታይም፤ እንዲህ ያሉ ምስሎችን በፍርድ ቤት ተቀባይነት እንዲኖራቸው የሚያደርገው ገለልተኝነት ራሱ ደግሞ እንደ ደም አፋሳሽ ትዕይንት እንዲነበቡ ያደርጋቸዋል።

3. የጥበብ ራቁት ሥዕልና የሰው አካል ጥናት

ራቁት ሥዕል በሁሉም ቦታ የጥበብ መሠረታዊ ርዕስ ነው፤ የሰው አካል ጥናትም የጥበብ ትምህርት ዋና አካል ነው። ከላይ የተጠቀሰው የ ECCV 2024 ውጤት አርቲስቶች የሚዘግቡት ነገር በመለኪያ የተገለጸ ቅጂ ነው፦ መደብ ሰጪዎች የሰው አካል ጥናትን ከብልግና በአስተማማኝ ሁኔታ አይለዩም፤ ስህተቶቻቸውም በፆታና በቅጥ ያደላሉ — ማወቅ በሚገባው ወግ ላይ በጣም የከረረ ማጣሪያ።

4. የታሪክና የጦርነት ጊዜ ምስሎች

የመማሪያ መጽሐፍ ጥበብ፣ የሙዚየም ትርጓሜና የመታሰቢያ ፕሮጀክቶች ዩኒፎርሞችን፣ የጦር መሣሪያዎችን፣ ካምፖችን፣ ውጊያዎችንና ግፍን መሳልን ይጠይቃሉ። የየካቲት 2024 የ Gemini ክስተት አስተማሪ ነው፤ ምክንያቱም ውድቀቱ በተቃራኒ አቅጣጫ ሮጦ እኩል ጉዳት አድርሷል። Google ናዚ ዘመን የነበሩ የጀርመን ወታደሮችን ጨምሮ የታሪክ ቡድኖችን በዘር ደረጃ ዳግም አዋቅሮ ካሳየ በኋላ በየካቲት 22፣ 2024 የ Gemini የሰዎች ምስል የመፍጠር ችሎታን አቆመ። ዋና ሥራ አስፈጻሚው Sundar Pichai ውጤቶቹን "completely unacceptable" ብሏቸዋል፤ ከፍተኛው ምክትል ፕሬዚዳንት Prabhakar Raghavan ደግሞ ሞዴሉ "overcompensated" እንደሆነና "over-conservative" እንደሆነ አምኗል። አውድ የማያይ ደኅንነት የታሪክ ምስሎችን ይበልጥ ደኅንነታቸው የተጠበቀ አላደረጋቸውም — ሐሰተኛ አደረጋቸው እንጂ፤ ይህ ደግሞ ለታሪክ አሳታሚ የከፋ ነው።

5. በልብ ወለድና በፊልም ቅድመ-ዕይታ ውስጥ ያለ ጥቃት

ስቶሪቦርዶች፣ የፅንሰ ሐሳብ ጥበብ፣ ኮሚክሶችና የጨዋታ ንድፍ ጥቃትን የሚስሉት ልብ ወለዶችና ፊልሞች በሚስሉበት ምክንያት ነው። የፍርሃት ስቶሪቦርድን ከዛቻ መለየት የማይችል ማጣሪያ መላውን የትረካ ጥበባት ሂደት እንደ አጠራጣሪ ይይዘዋል — ስቶሪቦርድ ግን በግልጽ እውነተኛ ያልሆነ ነው፤ ተዋንያንና የተጽዕኖ ቡድኖች የሚያዘጋጁት ትዕይንት ዕቅድ ነው።

6. የፖለቲካ ሽሙጥና የአርታዒ ካርቱን

ኃያላንን በካሪካቸር መሳል በአብዛኞቹ ዲሞክራሲዎች ውስጥ ከሁሉ በላይ ከሚጠበቁ የመናገር ነፃነት ምድቦች አንዱ ነው፤ ሆኖም አንድ የምስል ማጣሪያ በመጀመሪያ የሚያስወግደው ይህንኑ ነው። በሰነድ በጣም ግልጽ የሆነው ጉዳይ Midjourney በሚያዝያ 2023 የቻይናውን ፕሬዚዳንት Xi Jinping ምስሎችን ለመከልከልና ስማቸውን በጥያቄዎች ውስጥ ለማገድ የወሰነው ውሳኔ ነው — በPetaPixel፣ በDecrypt እና በሌሎችም የተዘገበ — ሌሎች የዓለም መሪዎችን ግን መፍቀዱን ቀጥሎ ነበር። መሥራቹ David Holz በ Discord ላይ ኩባንያው "minimize drama" ማድረግ እንደፈለገና "the ability for people in China to use this tech is more important than your ability to generate satire" እንደሆነ አብራርቷል፤ የ Foundation for Individual Rights and Expression ተወካይ Sarah McLaughlin ደግሞ ይህን ሳንሱር ብላዋለች። ስለ ንግድ ስሌቱ ማንም ምንም ይደምድም፣ ዘዴው መጠራት ይገባዋል፦ ለአንድ አገር የተጣለ የመናገር ገደብ በመላው ዓለም ላሉ ተጠቃሚዎች ሁሉ ተግባራዊ ሆነ፤ ምክንያቱም ዓለም አቀፍ ማጣሪያ አንድ ብቻ ቅንብር አለው።

7. የደኅንነት ምርምርና የማስገር ግንዛቤ ማስጨበጫ ቁሳቁስ

የደኅንነት ቡድኖች የሚያስጠነቅቁትን ነገር መምሰል ያለበት የሥልጠና ቁሳቁስ ይሠራሉ፦ አሳማኝ የሐሰት የመግቢያ ማያ ገጽ፣ የተጭበረበረ ደረሰኝ፣ በመኪና ማቆሚያ መለኪያ ላይ ያለ አደገኛ QR ኮድ። ለመደብ ሰጪ ይህ ከሚከላከለው ጥቃት ጋር የማይለይ ነው — እውነተኛ መምሰል ራሱ ዓላማው ነው — ስለዚህ ማጣሪያዎች መከላከልንና ማጥቃትን በእኩል ያግዳሉ፤ ይህም ለአጥቂው ጥቅም ይሰጣል፤ አጥቂው ደግሞ በምንም መንገድ የተጣራ የተጠቃሚ መሣሪያ አይጠቀምም ነበር።

8. የራሳቸውን የምርት ስም፣ ምርት ወይም መልክ ምስሎች የተከለከሉ ባለመብቶች

የቅጂ መብትና የንግድ ምልክት ማጣሪያ ባለቤትነትን አይመረምርም፤ መመሳሰልን ይመረምራል እንጂ። አንድ ኩባንያ የራሱን ሎጎ ወይም ምርት ምስል በቀላሉ መፍጠር አይችልም፣ ባለመብት የራሱን ገጸ ባሕርይ መሳል አይችልም፣ ሰዎችም ብዙ ጊዜ የራሳቸውን ፊት መፍጠር አይችሉም፤ ምክንያቱም የመልክ ማጣሪያዎች የሚመሠረቱት በፈቃድ ሳይሆን በመታወቅ ላይ ነው። OVERT በዘጠኙ የከልክ በላይ እምቢታ ምድቦቹ ውስጥ "copyright violations" የሚለውን የሚያካትተው ይህ የተሳሳተ ማገድ በጣም የተለመደ ስለሆነ ነው። ማጣሪያው — ለዚህ መብት አለህ? — ለሚል ጥያቄ የማይመች ጥሬ መሣሪያ ነው፤ ጥያቄውንም የሚጠይቅበት መንገድ የለውም።

ከላይ ካሉት ስምንቱ ውስጥ አራቱ ከተለየ የታተመ ጉዳይ ጋር የተያያዙ ናቸው (ሕክምና፣ የጥበብ ራቁት፣ ታሪክ፣ ሽሙጥ)፤ ስምንተኛው ደግሞ ከ OVERT የቅጂ መብት ምድብ ጋር። ፎረንሲክ፣ የልብ ወለድ ቅድመ-ዕይታና የደኅንነት ግንዛቤ ማስጨበጫ ቁሳቁስ እንደ ምድቦች ተገልጸዋል፦ በደንብ የሚታወቁ የተጎዱ ሙያዊ ሥራ ዓይነቶች ናቸው፤ ለእነሱ ግን የተለየ የታተመ ክስተት አላረጋገጥንም።

05የAI ጥበብ መፍጠሪያዎች የተሳሳተውን ነገር ለምን ያግዳሉ፣ የይዘት ማጣሪያ የተሳሳተ ማገድስ ለምን በማስተካከል አይጠፋም

ከልክ በላይ ማገድን ለመፍታት የሚመጣው ተፈጥሯዊ ምላሽ "ገደቡን አላላ" የሚል ነው። ይህ ግን አይሠራም፤ ምክንያቱም ጥረት በማጣት ሳይሆን በአወቃቀር ምክንያት ነው።

ምድቦቹ በምልክቱ ውስጥ ይደራረባሉ፣ በእውነታው ውስጥ ግን አይደራረቡም። የቀዶ ጥገና ሥዕልና ብልግና ራቁትነትን ይጋራሉ። የፎረንሲክ ዳግም ግንባታና ደም አፋሳሽ ትዕይንት ደምን ይጋራሉ። የግንዛቤ ማስጨበጫ ስላይድና የማስገር ኪት የሐሰት የመግቢያ ቅጽን ይጋራሉ። የሽሙጥ ካርቱንና ስም የሚያጠፋ ፈጠራ የሚታወቅ ፖለቲከኛን ይጋራሉ። እያንዳንዱን ጥንድ የሚለየው ዓላማና አቀራረብ ነው — ይህ ደግሞ በጥያቄው ውስጥም በፒክስሎቹም ውስጥ የለም። በአንድ የግብዓት ክልል ውስጥ የሚኖሩ ሁለት ስብስቦችን የሚለይ ገደብ የለም፤ ገደቡን ማንቀሳቀስ አንዱን ስህተት በሌላው መለወጥ ብቻ ነው። የ Gemini ክስተት ያሳየው ይህንኑ ነው፦ አንድ ውድቀትን ለማስተካከል የታሰበ ጣልቃ ገብነት ሌላ ውድቀት አመረተ፤ ይህንም የ Google ራሱ ከፍተኛ ምክትል ፕሬዚዳንት "overcompensated" ብሎ ገልጾታል።

ወጪዎቹ ለአንቀሳቃሹ ሳይሆን ላንተ ያልተመጣጠኑ ናቸው። አንድ መጥፎ ምስል የሚያሳልፍ ማጣሪያ የዜና ታሪክ ያመርታል። አሥር ሺህ ሕጋዊ ምስሎችን የሚያግድ ማጣሪያ ግን ዝምታ ያመርታል፤ ምክንያቱም የተከለከሉ ተጠቃሚዎች አይደራጁም — ተስፋ ይቆርጣሉ እንጂ። በዚያ አለመመጣጠን ሥር ያለ የአደጋ አስተዳደር በቋሚነት ወደ ከልክ በላይ ማገድ ይሰበሰባል። መሠረታዊው ፍርድ የማይቻል ስለሆነም ክስተቶች እየተከሰቱ የእገዳ ዝርዝሮች ቀጥተኛ ሐረጎችን ያከማቻሉ፤ "stethoscope" ተፈቅዶ "speculum" የሚታገደውም በዚህ ምክንያት ነው። ለሴቶች የተለዩ መሣሪያዎች ይበልጥ አደገኛ ናቸው ብሎ ማንም አልወሰነም፤ ዝርዝሩ ያደገው ቅሬታዎች በወደቁበት ቦታ ነው። የሚያስቀምጠውም የአንድ አንቀሳቃሽ የሕዝብ ግንኙነት ታሪክ እንጂ የጉዳት ንድፈ ሐሳብ አይደለም።

በጣም ጥብቅ የሆነው ግዛት ዓለም አቀፍ ነባሪ ይሆናል። አንድ ማጣሪያ በእያንዳንዱ አገር ላሉ ተጠቃሚዎች ሁሉ ያገለግላል፤ ስለዚህ ለአንድ ገበያ የተጨመረ ገደብ ወደ ሁሉም ይላካል — የ Xi Jinping ደንብ የመማሪያ መጽሐፍ ምሳሌ ነው። እንዲሁም ጥያቄህን እንደገና መጻፍ ትርጉምህን ያጠፋል፤ ይህ የ OVERT የሙከራ ነጥብ ነው፦ ጥያቄውን ከማጣሪያ ለማሳለፍ ወደ ማለዘቢያ ቃል የቀየረ እያንዳንዱ ባለሙያ በእጁ አረጋግጦታል። አላሸነፍክም፤ ተስማምተህ ወረድክ እንጂ።

ከዚህ ውስጥ ምንም ነገር ነፃ አይደለም፤ በዝምታ ስለሚወድቅም ወጪው አንቀሳቃሽ በሚከታተላቸው መለኪያዎች ውስጥ አይታይም። በቂ እምቢታ ካጋጠመህ በኋላ መጠየቅ ታቆማለህ፤ እያንዳንዱን ጥያቄ ያልፋል ብለህ ወደምትገምተው ነገር አስቀድመህ ታጠባለህ፤ በመጨረሻ ያለፈው ማለዘቢያ ቃል ደግሞ ሰነድህ ከሚያስፈልገው ጋር ቅርብ የሆነ፣ ግን እሱ ያልሆነ ምስል ይሰጣል። ጠቅላላ የፖሊሲ መልእክት የትኛው ንብርብር እንደተቀሰቀሰ ምንም አይነግርህም፤ ስለዚህ መገመትና እንደገና መሞከር ብቻ ነው የምትችለው — የምስል ሥራ ደግሞ ተደጋጋሚ ነው፤ በአምስት ሙከራ አንዱን የሚይዝ ማጣሪያ እንዲሁ ከማዘግየት ይልቅ ዑደቱን ራሱ ያቋርጣል። በዚሁ ጊዜ ከባድ መሣሪያዎችን የመጠየቅ ጠንካራ መብት ያላቸው ዘርፎች ገምጋሚ የላቸውም፣ የይግባኝ መንገድ የላቸውም፣ አብዛኛውን ጊዜም የተከለከለው ነገር የታተመ ዝርዝር የላቸውም። ማንበብ የማትችለው ደንብ ደንብ አይደለም፤ የአየር ሁኔታ ነው።

06ሳንሱር-አልባ vs የተጣራ የAI ምስል መፍጠሪያ፦ በእውነት የሚለወጠው ምንድን ነው

ያልተጣራ ሥርዓት የማይሰጥህን ጨምሮ የንጽጽሩ ታማኝ ቅጂ ይህ ነው።

ልኬት	የተጣራ መፍጠሪያ	ያልተጣራ (Shannon)
የሚወስነው ማን ነው	ቃላትንና ፒክስሎችን የሚያነብ መደብ ሰጪ	ትክክለኛውን ጥያቄ የሚያነብ ሰው
መቼ ታውቃለህ	ካስገባህ በኋላ — አንዳንዴ ከከፈልክ በኋላ	ምንም ከመሳሉ ወይም ከመከፈሉ በፊት
ደንቡ ምንድን ነው	ያልታተሙ፣ የሚለዋወጡ የእገዳ ዝርዝሮች	የታተመ የኃላፊነት አጠቃቀም ፖሊሲ
ሙያዊ አውድ	ለሥርዓቱ አይታይም	አንተ የምትይዘውና አንተ የምትመልስበት
የውድቀት ዓይነት	በዝምታ ከልክ በላይ ማገድ፣ የትርጉም መንሸራተት	የጠየቅከውን ታገኛለህ — ስህተቶችንም ጨምሮ
አደጋውን የሚሸከመው ማን ነው	አቅራቢው፣ ሸክሙን ወደ ሥራህ አሳልፎ	የተጋራ፦ የአንቀሳቃሽ ፖሊሲ ከተጠቃሚ ተጠያቂነት ጋር

የመጨረሻው ረድፍ ሰዎች የሚዘሉት፣ ግን ዋናው ነው። ማጣሪያ ማንሳት በክፍል 02 ውስጥ ያሉትን የጉዳት ምድቦች አያስወግድም፤ የሚያስወግደው ስለ እነሱ በስህተት ይገምት የነበረውን ማሽን ነው። ግዴታው በነበረበት ይቆያል፤ አሁን ግን ስለ አውድ ማሰብ በሚችሉ ሁለት ወገኖች ተይዟል፦ ፖሊሲ የሚያትመውና የሚያስፈጽመው አንቀሳቃሽ፣ እንዲሁም ምስሉ ለምን እንደሆነ የምታውቀው አንተ። ያልተጣራ የAI ምስል መፍጠር ከውጤታቸው ጀርባ ለመቆም አስቀድመው ለተዘጋጁ ሰዎች የተሠራ መሣሪያ ነው — የቀዶ ጥገና ሐኪሙ አትላስ፣ የባለሙያው ሪፖርት፣ ስቶሪቦርዱ፣ ካርቱኑ — እነዚህ ደግሞ ከሌላ ሰው ሊለያቸው በማይችል ሥርዓት ይታገዱ ነበር።

07Shannon የሚያደርገው — እና የማያደርገው

እዚህ ላይ ትክክለኛነት ከጉጉት ይበልጣል፤ በተለይ ከ API ፍለጋ ለሚደርሱ አንባቢዎች።

የሚያደርገው

• መፍጠር። ምስልን በቀላል ቋንቋ፣ በማንኛውም ቋንቋ ግለጽ። በየትኛውም ቋንቋ ብትጠይቅ Shannon የመፍጠሪያውን ጥያቄ ራሱ በእንግሊዝኛ ይጽፋል።
• አንድ ምስል ማረም። በትክክል አንድ ምንጭ — አስቀድሞ በንግግሩ ውስጥ ያለ ምስል ወይም ከአሁኑ መልእክትህ ጋር የተያያዘ — ምን እንደሚለወጥና ምን እንደሚቆይ በሚገልጽ መመሪያ ይለወጣል። ውጤቱ የምንጩን የገጽታ ጥምርታ በራሱ ይይዛል።
• ሁለት ወይም ከዚያ በላይ ምስሎችን ማዋሃድ። የልብስ ዝውውር፣ ዕቃ-ወደ-ትዕይንት፣ ሰው ከሰው ጎን፣ ምርት-በሰው ላይ፣ ከአንድ ምስል የተወሰደ ርዕሰ ጉዳይ ከሌላው ቅጥ ጋር። ጥያቄው የእያንዳንዱን ምስል ሚና በተራ ይጠራል፤ እውነተኞቹ ምስሎችም ጥቅም ላይ ይውላሉ፤ ስለዚህ ትክክለኛ መልካቸው እንደገና ከመገለጽ ይልቅ ተጠብቆ ይቆያል።
• የገጽታ ቁጥጥር። square (ነባሪ)፣ portrait፣ landscape፣ wide እና tall። ግልጽ ጥያቄ ሁልጊዜ ያሸንፋል።
• በራሳችን GPU ክላስተር ላይ መሳል፤ በመፍጠሪያው መንገድ ላይ ምንም የይዘት ማጣሪያ የለም፤ ጥያቄውን በሚጽፈው ሞዴል ላይም ምንም የእምቢታ ንብርብር የለም።

የማያደርገው

• ቪዲዮ የለም። Shannon ምስሎችን አያንቀሳቅስም፤ ቪዲዮም አያመርትም። በጥንቃቄ የተያዘ የመንገድ ካርታ ንጥል አይደለም — ጨርሶ የለም።
• በ API ላይ አይደለም። ምስል መፍጠር፣ አርትዖትና ጥምረት የሚኖሩት በ Shannon የቻት መተግበሪያ ውስጥ ነው። የ/v1 API ጽሑፍንና ራእይን ያገለግላል — የምትልክለትን ምስሎች ማንበብ ይችላል — ግን አይስላቸውም።
• ሳይጠየቅ መፍጠር የለም። ሰላምታ፣ ጥያቄ ወይም በዘፈቀደ የተያያዘ ፎቶ ምስል አያስነሳም። Shannon አንድን ምስል እንዲመለከት መጠየቅ — እንዲገልጸው፣ እንዲያነበው፣ እንዲተነትነው — ተራ የራእይ ሥራ እንጂ መፍጠር አይደለም፤ ተጨማሪ ወጪም የለውም።

የማረጋገጫ ካርዱ

ማጣሪያውን የሚተካው ዘዴ ይህ ነው፤ ይህም ከመደበኛ ሥርዓት ይልቅ የንድፍ ምርጫ ነው። Shannon ምስል እየጠየቅህ እንደሆነ ሲወስን የመፍጠሪያውን ጥያቄ ይጽፍና ምንም ከመሳሉ በፊት በማረጋገጫ ካርድ ላይ ያሳይሃል። እስክታረጋግጥ ድረስ ምንም አይፈጠርም፤ ምንም አይከፈልም።

ንድፎቹን በብቃታቸው አወዳድር። ማጣሪያ ካንተ ባነሰ መረጃ ሐሳብህን ይገምታል፣ ግምቱንም በዝምታ ያስፈጽማል። የማረጋገጫ ካርድ ደግሞ የምስሉን ቀጥተኛ ዝርዝር መግለጫ ምስሉ ለምን እንደሆነ በሚያውቀው ወገን ፊት ያስቀምጣል፤ ይህም ማንኛውም ስሌት ከመውጣቱ በፊት ነው። ማጣሪያዎች ፈጽሞ የማያደርጉትን የጥያቄህን የተሳሳተ ንባብ ይይዛል፤ ሞዴሉ ያላብራራውን የሰውነት አካል ትክክለኛነት ወይም የታሪክ ዝርዝር እንድትጨምር ይፈቅድልሃል፤ ኃላፊነትንም ተበታትኖ ከመቅረት ይልቅ ግልጽ ያደርገዋል። ጥያቄውን አይተኸዋል፤ ቁልፉንም ተጭነሃል።

08ያልተጣራ መፍጠር ኃላፊነትን ከፍ ያደርጋል እንጂ አያስወግድም

ይህ በግርጌ ማስታወሻ ሳይሆን እዚህ ላይ መሆኑ ተገቢ ነው፤ ምክንያቱም የመከራከሪያው ግማሽ ነው። የተጣራ መፍጠሪያ ሊጠብቀው የማይችለውን ተስፋ ይሰጣል፦ መሣሪያው በአንተ ምትክ አላግባብ መጠቀምን ይከላከላል የሚል። ይህ ደግሞ በሁለቱም አቅጣጫ ይወድቃል — የቀዶ ጥገና ሐኪሙን ያግዳል፣ ቆርጦ የተነሳን መጥፎ አድራጊም አያቆምም፤ እሱ ሌሎች አማራጮች አሉት፣ ሁልጊዜም ነበሩት። በአስተማማኝነት የሚያደርገው ግን ሁሉም ሰው ኃላፊነት በማሽን አስቀድሞ እንደተያዘ እንዲሰማው ማድረግ ነው። ማጣሪያውን ማንሳት ያንን ልብ ወለድ ያስወግዳል፤ አንድ ምስል መኖር አለበት ወይ የሚለው ጥያቄም ሊመልሱት ወደሚችሉ ሰዎች ይመለሳል።

• የ Shannon Lab LLC ግዴታ። ካልታተመ የእገዳ ዝርዝር ይልቅ የተከለከሉ ምድቦችን የሚጠራ የታተመና የተለየ የኃላፊነት አጠቃቀም ፖሊሲ — ማንበብ የምትችላቸው፣ መጥቀስ የምትችላቸውና ተጠያቂ ልታደርገን የምትችልባቸው ደንቦች።
• የአንተ ግዴታ። ዓላማውን፣ ተመልካቹን፣ የሚመለከተውን ሕግና የተሳሉትን ሰዎች ሁሉ የፈቃድ ሁኔታ አንተ ታውቃለህ። መሣሪያው አያውቅም፤ መደብ ሰጪም ፈጽሞ ሊያውቀው አይችልም። የማረጋገጫ ካርዱ የሚኖረው ያ ዕውቀት በሚያስፈልግበት ቅጽበት፣ በያዘው ወገን እንዲተገበር ነው።
• የማይንቀሳቀሰው መስመር። "ማጣሪያው አላቆመኝም" የሚለው በየትኛውም መገናኛ ውስጥ ፈጽሞ መከላከያ ሆኖ አያውቅም። ካሜራ እምቢ አይልም፣ እርሳስ እምቢ አይልም፤ ሕግና ሙያዊ ሥነ ምግባር የሚያስተዳድሩት አጠቃቀሙን እንጂ መሣሪያውን አይደለም። ያልተጣራ መፍጠሪያ ሌላው ማንኛውም ሙያዊ መሣሪያ የሚሠራበትን ተራ አሠራር ይመልሳል።

ከመጀመርህ በፊት የኃላፊነት አጠቃቀም ፖሊሲውን አንብብ። አጭር ነው፣ የተለየ ነው፣ የቀረውን ሁሉ መከላከል የሚቻል የሚያደርገው የዚህ ምርት ክፍልም ነው።

09በተደጋጋሚ የሚጠየቁ ጥያቄዎች

---

ምንጮች፦ Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, ሚያዝያ 22, 2023 · PetaPixel, ሚያዝያ 3, 2023 · CNBC, የካቲት 22, 2024። Shannon AI የሚንቀሳቀሰው በ Shannon Lab LLC፣ New Mexico፣ USA ነው።