Бесензура ва филтршуда: генератори тасвири зеҳни сунъӣ
Филтрҳои мазмун барои боздоштани як гурӯҳи хурди зарарҳои воқеӣ сохта шуда буданд. Дар амал онҳо инчунин тасвири тиббӣ, бозсозии криминалистӣ, расмкашии зинда, таърихи ҷанг, ҳаҷви муҳарририя ва тасвири маҳсулоти худи ширкатҳоро боз медоранд. Инак ин чӣ қадар меарзад — ва хориҷ кардани филтр чиро иваз мекунад ва чиро не.
Мухтасар
Генераторҳои маъмули тасвир дархостҳо ва натиҷаҳоро бо таснифкунандаҳое филтр мекунанд, ки калимаҳо ва пикселҳо-ро мебинанд, вале ҳеҷ гоҳ мақсад-ро не. Ин хатоҳои мусбатро кафолат медиҳад, ва онҳо бештар ба кори моҳирона мезананд: анатомия, криминалистика, бараҳнагии бадеӣ, тасвирҳои таърихӣ, пешвизуализатсия, ҳаҷв, маводи огоҳии амниятӣ ва соҳибони ҳуқуқ, ки бренди худро мепурсанд. OVERT (ICML 2025), аввалин бенчмарки миқёси калон барои ин намуди нокомӣ, 4,600 дархости безарар вале шубҳанок-ро истифода мебарад ва мефаҳмад, ки рад кардани аз ҳад зиёд дар моделҳои пешрав васеъ паҳн шудааст. Shannon тавлиди тасвир, таҳрири як тасвир ва якҷоя кардани якчанд тасвирро дар кластери GPU-и худамон бе филтри мазмун ва бе қабати рад кардан иҷро мекунад ва рӯйхати мамнӯъро бо қарори намоён иваз мекунад: корти тасдиқ, ки дархости дақиқро пеш аз ҳар рендер нишон медиҳад. Ин масъулияти шумо ва моро баланд мебардорад; ҳар ду дар Сиёсати истифодаи масъулона ҳастанд. Тавлиди видео нест, ва кор бо тасвир дар барномаи сӯҳбат аст, на дар API.
Қариб ҳар касе, ки бо тасвирҳо ба таври касбӣ кор мекунад, ҳамон як ҳикоя дорад. Дархосте, ки чизи оддиеро тавсиф мекунад — буриши буғуми зону, мошин дар лаҳзаи бархӯрд, омӯзиши пайкар бо ангишт, сарбоз дар соли 1944 — ҳамчун вайронкунии сиёсат бармегардад. Шумо аз нав ифода мекунед ва вайронкунии дигар мегиред. Дар охир шумо чизи он қадар норӯшане менависед, ки мегузарад, ва тасвиреро мегиред, ки дигар он чиро, ки лозим буд, нишон намедиҳад. Абзор баланд ноком нашуд; он зина ба зина ноком шуд ва шуморо касе кард, ки муросо мекунад.
01Чаро генератори тасвири зеҳни сунъӣ дархостеро, ки ошкоро қонунист, рад мекунад?
Рад кардан одатан фикри модели тасвирӣ нест. Он натиҷаи стеки филтркунӣ дар атрофи модел аст, ва қабатҳои он қариб ҳар рад кардани аҷиберо, ки шумо гирифтаед, шарҳ медиҳанд.
| Қабат | Чиро тафтиш мекунад | Нокомии хос |
|---|---|---|
| Рӯйхати мамнӯи дархост | Сатрҳои айнан ва вариантҳои наздик дар матни шумо | Калимаро новобаста аз ҷумлаи атрофаш манъ мекунад — «speculum» ноком мешавад, «stethoscope» мегузарад |
| Таснифкунандаи дархост | Ҳукми омӯхташуда дар бораи «хатар»-и дархост | Аз наздикии мавзӯӣ фаъол мешавад: ҳар чизи наздик ба тиб, силоҳ, бадан ё сиёсат холи баланд мегирад |
| Омӯзиши рад кардани модел | Худдорӣ кардани омӯхташудаи худи модел | Бе хатогӣ рад мекунад ё оромона ивазкунандаи тозакардашударо тавлид мекунад |
| Таснифкунандаи баромад | Пикселҳои рендершуда, бе заминаи дархост | Варақи анатомиро аз порнография ё кадри филмро аз ҳодисаи воқеӣ фарқ карда наметавонад |
| Ивазкунии сиёсатӣ | Аз нав навиштани ноаёни дархости шумо пеш аз рендер | Шумо тасвир мегиред, вале на ҳамонеро, ки нишон додед, ва ба шумо сабабашро намегӯянд |
Ҳар қабат як нуқтаи кӯри умумӣ дорад: ҳеҷ кадом дида наметавонад, ки шумо чаро мепурсед. Рассоми тиббӣ, коршиноси даъвогар, ки бархӯрдро бозсозӣ мекунад, ва касе бо нияти бад ҳама ҳамон исмро менависанд. Филтр исмро мебинад, на атлас ё парвандаро, ва он аз рӯи зарарҳое, ки мегузаронад, баҳо дода мешавад — ҳеҷ гоҳ аз рӯи коре, ки нобуд мекунад. Дар ин номутаносибӣ танзими оқилона барои ҳар оператор бештар рад кун аст. Ҳамчунин ин сабабест, ки «танҳо аз нав ифода кун» ҳал нест: аз нав ифода кардан ба филтр маълумоти нав намедиҳад, он танҳо дархости шуморо аз калимаҳое, ки онро фаъол карданд, дур мекунад, ки одатан маънои дур шудан аз мақсади шуморо дорад.
02Филтрҳои мазмун воқеан барои пешгирии чӣ ҳастанд
Далеле барои тавлиди бефилтр, ки вонамуд мекунад филтрҳо бе сабаб вуҷуд доранд, арзиши хондан надорад. Маҷмӯи танги натиҷаҳо ҳаст, ки зарарашон ба худи тасвир хос аст, новобаста аз он ки кӣ ва чаро пурсид:
- Мазмуни ҷинсӣ бо иштироки ноболиғон. Ҳеҷ замина онро қобили қабул намекунад; ҳеҷ ҷараёни кории касбӣ онро талаб намекунад.
- Тасвирҳои маҳрамонаи бе розигии одамони воқеӣ. Зарар ба касе мерасад, ки розӣ нашуд, ва хориҷ кардани он ин зарарро барҳам намедиҳад.
- Таъқиби мақсаднок ва ҷаъли тӯҳматомез — вонамуд кардани он ки шахси номбаршуда коре кардааст, ки накардааст.
- Ҳуҷҷатҳои дараҷаи ҷаъл — шиноснома, корти шахсият, пулҳои коғазӣ, мӯҳрҳо ва воситаҳои молиявӣ, ки барои воқеӣ баромадан сохта шудаанд.
- Далели синтетикии фиребанда — тасвирҳои сохташудаи ҳодисаҳои воқеӣ, ки ҳамчун ҳуҷҷат, на ҳамчун тасвиркашӣ, пешниҳод мешаванд.
Рӯйхат кӯтоҳ аст ва сохтор дорад: зарар дар худи маҳсул, дар шабоҳати он ба шахс ё ҳуҷҷати воқеӣ ва дар пешниҳоди он ҳамчун ҳақиқат зиндагӣ мекунад. Диққат диҳед, ки дар он чӣ нест — бараҳнагӣ, хун, силоҳ, ваҳшонияти таърихӣ, тамасхури сиёсӣ. Инҳо ашёи хоми тиб, журналистика, санъат, криминалистика ва ҳаҷв мебошанд, ва филтре, ки онҳоро ҳамчун категорияи зарар меҳисобад, идеяи хеле васеътареро дар бораи он ки кадом мавзӯъҳо шоистаанд, амалӣ мекунад.
Shannon ҳама чизи ин рӯйхатро дар Сиёсати нашршудаи истифодаи масъулона бо категорияҳои номбаршуда ва оқибатҳо манъ мекунад, на бо ҷадвали калидвожаҳое, ки «placenta»-ро низ мегирад. Яке қоидаест, ки шумо метавонед хонед ва моро ба он ҷавобгар кунед; дигаре тахмин дар бораи ниятҳои шумост, ки таснифкунандаи барои шумо ноаён мекунад.
03Мушкили рад кардани аз ҳад зиёд чӣ қадар калон аст? Таҳқиқот чиро чен мекунад
То ба наздикӣ рад кардани аз ҳад зиёд дар моделҳои тасвирӣ як ривоят буд — ҳазорон одам бо ҳамон як ҳикоя ва бе роҳи чен кардани он. Ин бо OVERT (OVEr-Refusal evaluation on Text-to-image models) тағйир ёфт, ки дар ICML 2025 аз ҷониби гурӯҳи UC Berkeley бо иштироки Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ва Song Mei пешниҳод шуд: аввалин бенчмарки миқёси калон, ки чен мекунад системаҳои матн-ба-тасвир чанд маротиба дархостҳои комилан безарарро рад мекунанд.
Тарҳ муҳим аст. 4,600 дархост чунон сохта шудаанд, ки зараровар намоянд, вале безарар бошанд — шакли дархости воқеии касбӣ бо зикри скалпел, кабуди ё эътироз — ва 1,785 дархости воқеан зараровар дар паҳлӯи онҳо ҳамчун назорат меистанд, бинобар ин модел бо рад кардани ҳама чиз холи хуб гирифта наметавонад. Нӯҳ категория аз махфияти шахсони алоҳида ва ҷамъиятӣ то ҳуқуқи муаллифӣ, табъиз, худозорӣ, мазмуни ҷинсӣ ва фаъолияти ғайриқонунӣ то зӯроварӣ мераванд.
Хулосаи асосӣ ин аст, ки рад кардани аз ҳад зиёд дар категорияҳо ва дар моделҳои пешрав васеъ паҳн шудааст. Хулосаи дуюм барои усули маъмулии гурез харобтар аст: муаллифон аз нав навиштани дархост-ро ҳамчун чораи сабуккунӣ санҷиданд ва гузориш медиҳанд, ки он «аксаран садоқат ба маънои дархостҳои аслиро вайрон мекунад». Шумо метавонед бо тағйир додани пурсидаатон аз филтр гузаред, ва баъд шумо дигар он чиро, ки пурсида будед, надоред.
Таҳқиқоти тангтаре аз тарафи пиксел ба ҳамон хулоса меояд. Дар An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ва Oliver, семинари AI4VA дар ECCV 2024) муаллифон се таснифкунандаи истеҳсолии NSFW-ро дар бараҳнагии бадеӣ баҳо медиҳанд ва ҳам ғарази гендерӣ ва ҳам ғарази услубӣ-ро ошкор мекунанд: ҳукм дар бораи омӯзиши пайкар аз он вобаста аст, ки бадани кӣ ва бо кадом услуб тасвир шудааст. Ин баёни ченшудаи ҳамон чизест, ки ба ҳар рассоми расмкашии зинда гуфта мешуд, ки хаёлист.
04Ҳашт навъи кори қонунӣ, ки генераторҳои филтршуда манъ мекунанд
Инҳо категорияҳоеанд, ки дар онҳо рад кардани аз ҳад зиёд нороҳатӣ не, балки боздошти кор аст. Дар ҷое ки ҳолати мушаххаси гузоришшуда мавҷуд аст, он иқтибос оварда мешавад; дар ҷое ки чизе тасдиқ нашудааст, категория бе ихтироъ кардани ҳодиса тавсиф мешавад.
1. Тасвири тиббӣ ва анатомӣ
Беҳтарин ҳолати ҳуҷҷатгузоришуда дар ин соҳа. Дар апрели соли 2023 The Intercept (Debbie Nathan) хабар дод, ки Midjourney истилоҳоти анатомиро, аз ҷумла speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ва IUD манъ карда буд, дар ҳоле ки DALL·E 2 «pills used in medication abortion»-ро бо паёми сиёсати мазмун рад кард. Ин намунаро Julia Rockwell, таҳлилгари маълумоти клиникӣ, пайдо кард, ки кӯшиш карда буд ҳамчун тӯҳфа барои дӯсти биологи ҳуҷайрааш тасвири плацентаро тавлид кунад, ва ба MIT Technology Review хабар дод. Номутаносибӣ нишонаи асосист: «stethoscope» муқаррарӣ тавлид мешуд, дар ҳоле ки «speculum» манъ буд. Bill Howe, муҳаққиқи Донишгоҳи Вашингтон, филтрҳоро «дағал» номид ва гуфт, ки онҳо «муҳокимаи илмӣ дар бораи таҷдиди наслро асосан ғайриимкон» карданд. Таълими беморон, атласҳои ҷарроҳӣ ва барномаҳои ҳамширагӣ ҳама ба тасвири дақиқи бадан ниёз доранд, аз ҷумла ҳамон қисмҳое, ки рӯйхати калидвожаҳо беодобона ҳисоб кардааст.
2. Бозсозии криминалистӣ ва садама
Бозсозии бархӯрд, таҳлили манбаи оташ ва намоишҳои судӣ тасвири зарар, ҷароҳат ва механикаи зӯроваронаро бо дақиқии клиникӣ талаб мекунанд. Филтре, ки барои рад кардани «хун» ё «ҷароҳати тирпарронӣ» танзим шудааст, тамоми ин фаннро рад мекунад: замина — ҳисоботи коршинос, парвандаи суғурта — барои таснифкунанда ноаён аст, ва маҳз ҳамон бетарафие, ки чунин тасвирҳоро дар суд қобили қабул мекунад, боиси ҳамчун хунрезӣ хонда шудани онҳо мегардад.
3. Бараҳнагии бадеӣ ва расмкашии зинда
Бараҳнагӣ дар ҳама ҷо мавзӯи бунёдии санъат аст ва омӯзиши пайкар асоси таълими санъат аст. Натиҷаи ECCV 2024-и боло нусхаи ченшудаи он аст, ки рассомон мегӯянд: таснифкунандаҳо омӯзиши пайкарро аз порнография боэътимод ҷудо намекунанд, ва хатоҳои онҳо аз рӯи ҷинс ва услуб ғаразнок мебошанд — филтре, ки маҳз ба ҳамон анъанае, ки бояд шиносад, сахттарин аст.
4. Тасвирҳои таърихӣ ва ҷангӣ
Санъати китобҳои дарсӣ, тафсири музейҳо ва лоиҳаҳои ёдбудӣ тасвири либоси низомӣ, силоҳ, лагерҳо, ҷангҳо ва ваҳшониятро талаб мекунанд. Ҳодисаи Gemini дар феврали соли 2024 омӯзанда аст, зеро нокомӣ дар самти муқобил рафт ва ҳамон қадар зарар расонд. Google қобилияти Gemini-ро барои тавлиди тасвири одамон 22 феврали соли 2024 пас аз он ки он тасвирҳои аз ҷиҳати нажодӣ аз нав таркиббандишудаи гурӯҳҳои таърихӣ, аз ҷумла сарбозони немисии давраи нацистиро тавлид кард, боздошт. Sundar Pichai, роҳбари иҷроия, натиҷаҳоро «комилан ғайриқобили қабул» номид; Prabhakar Raghavan, ноиби президенти калон, эътироф кард, ки модел «аз ҳад зиёд ҷуброн карда» ва «аз ҳад зиёд эҳтиёткор» шудааст. Бехатарии нобино нисбат ба замина тасвирҳои таърихиро бехатартар накард — онро дурӯғ кард, ки барои ноширони таърих бадтар аст.
5. Зӯроварӣ дар асари бадеӣ ва пешвизуализатсияи филм
Сторибордҳо, санъати консептуалӣ, комиксҳо ва тарҳи бозиҳо зӯроварӣ тасвир мекунанд, бо ҳамон сабабе, ки романҳо ва филмҳо мекунанд. Филтре, ки сторибордҳои даҳшатро аз таҳдид фарқ карда наметавонад, тамоми занҷири санъатҳои ривоятиро шубҳанок меҳисобад — ҳарчанд сториборд ошкоро ғайривоқеӣ аст, нақшаи саҳнаест, ки актёрон ва гурӯҳҳои эффектҳо онро иҷро мекунанд.
6. Ҳаҷви сиёсӣ ва карикатураи муҳарририя
Карикатураи қудратмандон дар аксари демократияҳо яке аз ҳифзшудатарин категорияҳои баён аст ва мунтазам аввалин чизест, ки филтри тасвир хориҷ мекунад. Равшантарин ҳолати ҳуҷҷатгузоришуда қарори Midjourney дар апрели соли 2023 барои манъ кардани тасвирҳои Раиси ҷумҳури Чин Си Цзинпин ва манъи номи ӯ дар дархостҳост — ки аз ҷониби PetaPixel, Decrypt ва дигарон гузориш шуд — дар ҳоле ки дигар роҳбарони ҷаҳон иҷозат доштанд. Асосгузор David Holz дар Discord шарҳ дод, ки ширкат мехост «драмаро кам кунад» ва «имконияти истифодаи ин технология барои одамони Чин аз имконияти шумо барои тавлиди ҳаҷв муҳимтар аст»; Sarah McLaughlin аз Foundation for Individual Rights and Expression инро сензура номид. Ҳар хулосае, ки дар бораи ҳисоби тиҷоратӣ бароварда шавад, механизм арзиши номбар карданро дорад: маҳдудияти миллии баён, ки ба ҳар корбари ҷаҳон татбиқ мешавад, зеро филтри ҷаҳонӣ як танзим дорад.
7. Таҳқиқоти амниятӣ ва маводи огоҳӣ аз фишинг
Гурӯҳҳои амниятӣ маводи омӯзишӣ месозанд, ки бояд ба ҳамон чизе монанд бошад, ки дар борааш огоҳ мекунад: экрани сохтаи бовариноки вуруд, ҳисобномаи қалбакӣ, коди QR-и зараровар дар парконка. Барои таснифкунанда ин аз ҳамлае, ки алайҳаш эмгузаронӣ мекунад, фарқнашаванда аст — ҳақиқатнамоӣ ҳамон мақсад аст — бинобар ин филтрҳо мудофиа ва ҳуҷумро якхела манъ мекунанд ва бартариро ба ҳамлагар медиҳанд, ки ба ҳар ҳол ҳеҷ гоҳ абзори филтршудаи истеъмолиро истифода намебурд.
8. Соҳибони ҳуқуқ, ки барои тасвири бренд, маҳсулот ё симои худ рад мешаванд
Филтркунии ҳуқуқи муаллифӣ ва тамғаи молӣ моликиятро тафтиш намекунад; он шабоҳатро тафтиш мекунад. Ширкат тасвири логотип ё маҳсулоти худро осон тавлид карда наметавонад, соҳиби ҳуқуқ персонажи худро тасвир карда наметавонад ва одамон аксаран чеҳраи худро тавлид карда наметавонанд, зеро филтрҳои симо ба шинохташавандагӣ такя мекунанд, на ба розигӣ. OVERT «вайронкунии ҳуқуқи муаллифӣ»-ро дар байни нӯҳ категорияи рад кардани аз ҳад зиёди худ маҳз аз он сабаб дохил мекунад, ки ин хатои мусбат чунин маъмул аст. Филтр асбоби дағал барои саволест — оё шумо ба ин ҳуқуқ доред? — ки онро пурсида наметавонад.
Чортои ҳашти боло ба ҳолати мушаххаси нашршуда пайвастанд (тиббӣ, бараҳнагии бадеӣ, таърихӣ, ҳаҷв), плюс категорияи ҳуқуқи муаллифии OVERT барои ҳаштум. Криминалистика, пешвизуализатсияи бадеӣ ва маводи огоҳии амниятӣ ҳамчун категория баён шудаанд: инҳо синфҳои маъруфи кори касбии зарардида мебошанд, ки барояшон мо ҳодисаи мушаххаси нашршударо тасдиқ накардем.
Ҳар ҳолати ҳуҷҷатгузоришудаи боло ҷамъиятӣ ва мустақилона тафтишшаванда аст. Ба ҷои эътимод ба тавсифи мо онҳоро бихонед.
05Чаро генераторҳои санъати зеҳни сунъӣ чизҳои нодурустро манъ мекунанд ва чаро хатоҳои мусбати филтри мазмунро танзим карда наметавон
Вокуниши ғаризӣ ба манъи аз ҳад зиёд «остонаро суст кун» аст. Ин кор намекунад, бо сабабҳои сохторӣ, на аз набудани кӯшиш.
Категорияҳо дар сигнал бо ҳам мепайванданд, вале дар воқеият не. Тасвири ҷарроҳӣ ва порнография бараҳнагиро тақсим мекунанд. Бозсозии криминалистӣ ва хунрезӣ хунро тақсим мекунанд. Слайди огоҳӣ ва маҷмӯаи фишинг формаи сохтаи вурудро тақсим мекунанд. Карикатураи ҳаҷвӣ ва ҷаъли тӯҳматомез сиёсатмадори шинохташавандаро тақсим мекунанд. Он чи ҳар ҷуфтро фарқ мекунад, мақсад ва пешниҳод аст — ки на дар дархост ҳаст ва на дар пикселҳо. Ҳеҷ остона ду маҷмӯаеро, ки ҳамон минтақаи фазои вурудро ишғол мекунанд, ҷудо намекунад; ҳаракат додани он танҳо як хаторо ба хатои дигар иваз мекунад. Ҳамин чизро ҳодисаи Gemini нишон дод: дахолате, ки барои ислоҳи як нокомӣ пешбинӣ шуда буд, нокомии дигарро ба вуҷуд овард, ки худи ноиби президенти калони Google онро «аз ҳад зиёд ҷуброншуда» тавсиф кард.
Хароҷот барои оператор номутаносиб аст, на барои шумо. Филтре, ки як тасвири бадро мегузаронад, хабари матбуотӣ ба вуҷуд меорад. Филтре, ки даҳ ҳазор тасвири қонуниро манъ мекунад, хомӯшӣ ба вуҷуд меорад, зеро корбарони радшуда ташкил намешаванд — онҳо даст мекашанд. Идораи хатар дар ин номутаносибӣ доимо ба манъи аз ҳад зиёд наздик мешавад. Ва азбаски ҳукми асосӣ ғайриимкон аст, рӯйхатҳои мамнӯъ бо ҳар ҳодиса сатрҳои айниро ҷамъ мекунанд, ва маҳз ҳамин тавр «stethoscope» иҷозат дорад ва «speculum» манъ аст. Ҳеҷ кас қарор накард, ки асбобҳои махсуси занона хатарноктаранд; рӯйхат дар ҷое сабзид, ки шикоятҳо расиданд. Он таърихи PR-и операторро рамзгузорӣ мекунад, на назарияи зарарро.
Сахттарин қаламрави ҳуқуқӣ пешфарзи ҷаҳонӣ мешавад. Як филтр ба ҳар корбар дар ҳар кишвар хизмат мекунад, бинобар ин маҳдудияте, ки барои як бозор илова шудааст, ба ҳама содир мешавад — қоидаи Си Цзинпин ҳолати классикӣ аст. Ва аз нав навиштани дархости шумо маънои шуморо нобуд мекунад, ки нуқтаи таҷрибавии OVERT аст: ҳар мутахассисе, ки дархостро ба эвфемизм табдил додааст, то аз филтр гузарад, инро бо дасти худ тасдиқ кардааст. Шумо ғолиб нашудед; шумо ба муросо рафтед.
Ҳеҷ яке аз ин бепул нест, ва азбаски он оромона ноком мешавад, хароҷот дар нишондиҳандаҳое, ки оператор мебинад, ноаён аст. Пас аз шумораи кофии рад карданҳо шумо пурсиданро бас мекунед ва ҳар дархостро пешакӣ то он чи пешбинӣ мекунед мегузарад, танг мекунед; эвфемизме, ки ниҳоят мегузарад, тасвиреро медиҳад, ки ба он чи ҳуҷҷати шумо талаб мекард, наздик аст, вале худи он нест. Паёми умумии сиёсат ба шумо чизе намегӯяд, ки кадом қабат фаъол шуд, бинобар ин шумо танҳо тахмин ва такрор карда метавонед — ва кор бо тасвир такрорӣ аст, бинобар ин филтре, ки як кӯшишро аз панҷто мегирад, ҳалқаро вайрон мекунад, на танҳо суст.
06Генератори тасвири бесензура ва филтршуда: воқеан чӣ иваз мешавад
Инак нусхаи ростқавлонаи муқоиса, аз ҷумла он чи системаи бефилтр ба шумо намедиҳад.
| Ченак | Генератори филтршуда | Бефилтр (Shannon) |
|---|---|---|
| Кӣ қарор мекунад | Таснифкунандае, ки калимаҳо ва пикселҳоро мехонад | Шахсе, ки дархости дақиқро мехонад |
| Кай мефаҳмед | Пас аз фиристодан — баъзан пас аз пардохт | Пеш аз он ки чизе рендер ё ҳисоб шавад |
| Қоида чист | Рӯйхатҳои мамнӯи нашрнашуда ва тағйирёбанда | Сиёсати нашршудаи истифодаи масъулона |
| Заминаи касбӣ | Барои система ноаён | Аз они шумо, ва шумо барояш ҷавобгаред |
| Намуди нокомӣ | Манъи оромонаи аз ҳад зиёд, дуршавии маъно | Шумо ҳамон чизеро мегиред, ки пурсидед — аз ҷумла хатоҳоро |
| Хатарро кӣ бар дӯш дорад | Фурӯшанда, ки онро ба кори шумо мегузаронад | Муштарак: сиёсати оператор плюс масъулияти корбар |
Сатри охирин ҳамонест, ки одамон мепаранд, ва ҳамонест, ки муҳим аст. Хориҷ кардани филтр категорияҳои зарари бахши 02-ро хориҷ намекунад; он мошине-ро хориҷ мекунад, ки дар бораи онҳо бад тахмин мекард. Ӯҳдадорӣ дар ҷои худ мемонад ва акнун онро ду тарафе нигоҳ медоранд, ки дар бораи замина мулоҳиза карда метавонанд: оператор, ки сиёсатро нашр ва иҷро мекунад, ва шумо, ки медонед тасвир барои чист. Тавлиди бефилтри тасвир абзорест барои одамоне, ки аллакай омодаанд аз паси натиҷаи худ истанд — атласи ҷарроҳ, ҳисоботи коршинос, сториборд, карикатура — ва системае онҳоро боз медошт, ки аз дигарон фарқ карда наметавонист.
07Shannon чӣ мекунад — ва чӣ намекунад
Дақиқӣ дар ин ҷо аз шавқ муҳимтар аст, хусусан барои хонандагоне, ки аз ҷустуҷӯи API омадаанд.
Он чӣ мекунад
- Тавлид. Тасвирро бо забони одӣ, бо ҳар забон тавсиф кунед. Shannon дархости тавлидро худаш бо забони англисӣ менависад, бо ҳар забон, ки шумо пурсидед.
- Таҳрири як тасвир. Маҳз як манбаъ — сурате, ки аллакай дар сӯҳбат аст ё ба паёми ҷории шумо замима шудааст — бо дастуре иваз мешавад, ки мегӯяд чӣ иваз мешавад ва чӣ боқӣ мемонад. Натиҷа таносуби манбаъро худкор нигоҳ медорад.
- Якҷоя кардани ду ё зиёда тасвир. Интиқоли либос, ашё дар саҳна, шахс дар паҳлӯи шахс, маҳсулот дар одам, мавзӯъ аз як тасвир бо услуби дигар. Дархост нақши ҳар тасвирро бо тартиб номбар мекунад, ва тасвирҳои воқеӣ истифода мешаванд, бинобар ин намуди аслии онҳо нигоҳ дошта мешавад, на аз нав тавсиф.
- Идораи таносуб. square (пешфарз), portrait, landscape, wide ва tall. Дархости ошкоро ҳамеша ғолиб аст.
- Рендер дар кластери GPU-и худамон, бе филтри мазмун дар роҳи тавлид ва бе қабати рад кардан дар модели дархостнависанда.
Он чӣ намекунад
- Видео нест. Shannon тасвирҳоро аниматсия намекунад ва видео тавлид намекунад. Ин банди нақшаи роҳ нест, ки бо шармгинӣ пинҳон дошта шавад — он вуҷуд надорад.
- Дар API нест. Тавлид, таҳрир ва якҷоя кардани тасвирҳо дар барномаи сӯҳбати Shannon ҷойгиранд. API-и /v1 матн ва биноиро хизмат мерасонад — он метавонад тасвирҳои фиристодаи шуморо хонад — вале онҳоро рендер намекунад.
- Тавлиди бе даъват нест. Салом, савол ё акси тасодуфан замимашуда тасвирро оғоз намекунад. Хоҳиш кардани Shannon барои нигоҳ кардан ба тасвир — тавсиф, хондан, таҳлили он — кори оддии биноӣ аст, на тавлид, ва чизи иловагӣ намеарзад.
Корти тасдиқ
Ин ҳамон механизмест, ки филтрро иваз мекунад, ва ин интихоби тарҳ аст, на расмият. Вақте Shannon муайян мекунад, ки шумо тасвир мепурсед, он дархости тавлидро менависад ва онро дар корти тасдиқ пеш аз ҳар рендер ба шумо нишон медиҳад. То тасдиқи шумо чизе тавлид ва ҳисоб карда намешавад.
Тарҳҳоро аз рӯи арзишашон муқоиса кунед. Филтр нияти шуморо бо маълумоти камтар аз шумо тахмин мекунад ва тахминро оромона иҷро мекунад. Корти тасдиқ мушаххасоти айнии тасвирро дар пеши тарафе мегузорад, ки медонад он барои чист, пеш аз он ки ягон ҳисоббарорӣ сарф шавад. Он нодуруст хондани дархости шуморо мегирад, ки филтрҳо ҳеҷ гоҳ намегиранд; он ба шумо иҷозат медиҳад дақиқии анатомӣ ё тафсилоти таърихиеро, ки модел кам нишон додааст, илова кунед; ва он масъулиятро хонданӣ мекунад, на парешон. Шумо дархостро дидед ва шумо тугмаро пахш кардед.
08Тавлиди бефилтр масъулиятро баланд мебардорад, онро хориҷ намекунад
Ин ба ин ҷо тааллуқ дорад, на ба поварақ, зеро он нимаи далел аст. Генератори филтршуда ваъдае медиҳад, ки иҷро карда наметавонад: ки абзор ба ҷои шумо сӯиистифодаро пешгирӣ мекунад. Он дар ҳар ду самт ноком мешавад — ҷарроҳро манъ мекунад ва бадният-и мусаммамро боз намедорад, ки вариантҳои дигар дорад ва ҳамеша дошт. Он чи боэътимод мекунад, ин аст, ки ба ҳама эҳсос медиҳад, ки масъулият боло, аз ҷониби мошин, ҳал шудааст. Хориҷ кардани филтр ин афсонаро хориҷ мекунад; савол дар бораи он ки оё тасвир бояд вуҷуд дошта бошад, ба одамоне бармегардад, ки ба он ҷавоб дода метавонанд.
- Ӯҳдадории Shannon Lab LLC. Сиёсати истифодаи масъулона-и нашршуда ва мушаххас, ки категорияҳои манъшударо номбар мекунад, на рӯйхати мамнӯи нашрнашуда — қоидаҳое, ки шумо метавонед хонед, иқтибос оред ва моро ба онҳо ҷавобгар кунед.
- Ӯҳдадории шумо. Шумо мақсад, шунавандагон, қаламрави ҳуқуқӣ ва ҳолати розигии ҳар тасвиршавандаро медонед. Абзор намедонад ва таснифкунанда ҳеҷ гоҳ дониста наметавонист. Корти тасдиқ барои он вуҷуд дорад, ки ин дониш дар лаҳзаи муҳим, аз ҷониби тарафе, ки онро дорад, татбиқ шавад.
- Хатте, ки ҳаракат намекунад. «Филтр маро боз надошт» ҳеҷ гоҳ дар ҳеҷ восита мудофиа набуд. Камера рад намекунад, қалам рад намекунад; қонун ва одоби касбӣ истифодаро идора мекунанд, на асбобро. Генератори бефилтр ҳамон тартиби оддиеро барқарор мекунад, ки ҳар абзори дигари касбӣ таҳти он кор мекунад.
Пеш аз оғоз Сиёсати истифодаи масъулона-ро бихонед. Он кӯтоҳ, мушаххас ва ҳамон қисми ин маҳсулот аст, ки боқимондаашро ҳимояшаванда мекунад.
09Саволҳои маъмул
Чаро генератори тасвири зеҳни сунъӣ дархостеро, ки ошкоро қонунист, рад мекунад?
Зеро аксари филтрҳо калимаҳои дархости шуморо баҳо медиҳанд, на мақсади шуморо. Таснифкунанда дар пеши модел меистад ва ба он ки шумо кӣ ҳастед ва чаро мепурсед, дастрасӣ надорад, бинобар ин рассоми тиббӣ, таҳлилгари криминалистӣ ва бадният ҳама ҳамон исмро менависанд ва ҳама ҳамон рад карданро мегиранд. The Intercept дар апрели соли 2023 хабар дод, ки Midjourney истилоҳоти анатомиро, аз ҷумла speculum, placenta ва cervix манъ карда буд, дар ҳоле ки stethoscope муқаррарӣ кор мекард.
Оё таҳқиқоте ҳаст, ки хатоҳои мусбати филтри мазмунро дар абзорҳои санъати зеҳни сунъӣ чен кунад?
Бале. OVERT (arXiv:2505.21347, ICML 2025) аввалин бенчмарки миқёси калон оид ба рад кардани аз ҳад зиёд барои моделҳои матн-ба-тасвир аст: 4,600 дархосте, ки зоҳиран зараровар вале воқеан безарар мебошанд, дар нӯҳ категорияи бехатарӣ, плюс 1,785 дархости воқеан зараровар ҳамчун назорат. Муаллифони он гузориш медиҳанд, ки рад кардани аз ҳад зиёд дар моделҳои пешрав васеъ паҳн шудааст. Таҳқиқоти алоҳидаи ECCV 2024 дар се таснифкунандаи NSFW, ки дар бараҳнагии бадеӣ санҷида шуданд, ғаразҳои гендерӣ ва услубиро ошкор кард.
Генератори бесензураи тасвири зеҳни сунъӣ воқеан чиро иваз мекунад?
Он қабати рад кардан ва филтри мазмунро аз роҳи тавлид хориҷ мекунад, бинобар ин дархости қонунӣ оромона ҳамчун ҳамла аз нав тасниф намешавад. Он ҳукмро хориҷ намекунад — онро ҷойгузин мекунад. Shannon дархости дақиқи тавлидро дар корти тасдиқ пеш аз ҳар рендер ба шумо нишон медиҳад, бинобар ин қарорро шахсе қабул мекунад, ки натиҷаи ояндаро мебинад, таҳти Сиёсати истифодаи масъулона.
Оё Shannon видео тавлид мекунад?
Не. Shannon тасвирҳои нав тавлид мекунад, як тасвири мавҷударо таҳрир мекунад ва ду ё зиёда тасвирро ба яке якҷоя мекунад. Он тасвирҳоро аниматсия намекунад ва ҳеҷ навъ видео тавлид намекунад.
Оё ман метавонам тавассути API-и Shannon тасвир тавлид кунам?
Не. Тавлид, таҳрир ва якҷоя кардани тасвирҳо дар барномаи сӯҳбати Shannon ҷойгиранд. API-и /v1 матн ва биноиро хизмат мерасонад — хондан ва таҳлили тасвирҳое, ки шумо медиҳед — на тавлиди тасвир.
Агар филтр набошад, чӣ сӯиистифодаро бозмедорад?
Сиёсат, масъулият ва нуқтаи қарори намоён ба ҷои рӯйхати мамнӯи калидвожаҳо. Shannon ҳеҷ гоҳ бе даъват тавлид намекунад, дархости пурраро пеш аз рендер нишон медиҳад, то тасдиқи шумо чизе ҳисоб намекунад ва таҳти Сиёсати нашршудаи истифодаи масъулона кор мекунад, ки мазмуни ҷинсӣ бо иштироки ноболиғон, тасвирҳои маҳрамонаи бе розигии одамони воқеӣ, таъқиби мақсаднок ва ҷаъли ҳуҷҷатҳои шахсият ё молиявиро манъ мекунад.
Ҳамон тасвиреро, ки воқеан лозим доред, бипурсед
Тавлид, таҳрири як тасвир ва якҷоя кардани якчанд тасвир дар барномаи сӯҳбат — бе филтри мазмун, бе қабати рад кардан ва дархост дар экран пеш аз ҳар рендер.
Оғози сӯҳбат Сиёсати истифодаи масъулонаТасвирҳо дар барномаи сӯҳбат · тавлиди видео нест · таҳқиқоти бештар
Манбаъҳо: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 апрели соли 2023 · PetaPixel, 3 апрели соли 2023 · CNBC, 22 феврали соли 2024. Shannon AI-ро Shannon Lab LLC, Ню-Мексико, ИМА идора мекунад.