Цензурасыз жана чыпкаланган AI сүрөт генератору
Мазмун чыпкалары чыныгы зыяндардын кичине тобун токтотуш үчүн курулган. Иш жүзүндө алар медициналык иллюстрацияны, соттук реконструкцияны, натурадан сүрөт тартууну, согуш тарыхын, редакциялык сатираны жана компаниялардын өз товарларын тартуусун да токтотот. Мунун баасы ушул — жана чыпканы алып салуу эмнени өзгөртөрү, эмнени өзгөртпөсү.
Кыскача
Массалык сүрөт генераторлору промпттор менен чыгууларды сөздөрдү жана пикселдерди көргөн, бирок максатты эч качан көрбөгөн классификаторлор менен текшерет. Бул жалган иштөөгө кепилдик берет, ал эми алар эң катуу кесипкөй ишке тиет: анатомия, соттук экспертиза, көркөм жылаңач денелер, тарыхый сүрөттөр, алдын ала визуалдаштыруу, сатира, коопсуздуктан кабардар кылуу материалдары жана өз брендин сураган укук ээлери. OVERT (ICML 2025) — бул катанын биринчи ири масштабдуу бенчмарки — зыянсыз, бирок шектүү көрүнгөн 4,600 промптту колдонот жана ашыкча баш тартуу алдыңкы моделдердин баарында кеңири таралганын аныктайт. Shannon сүрөт жаратууну, бир сүрөттү оңдоону жана көп сүрөттү бириктирүүнү өз GPU кластерибизде, мазмун чыпкасысыз жана баш тартуу катмарысыз иштетет, ал эми бөгөт тизмесинин ордуна көрүнгөн чечим коёт: эч нерсе рендерленээрден мурун так промптту көрсөткөн ырастоо карточкасы. Бул сиздин да, биздин да жоопкерчиликти жогорулатат; экөө тең Жоопкерчиликтүү колдонуу саясатында. Видео жаратуу жок, ал эми сүрөт иши API'де эмес, чат колдонмосунда жашайт.
Сүрөт менен кесиптик деңгээлде иштегендердин дээрлик баарында бир эле окуя бар. Кадимки нерсени сүрөттөгөн промпт — тизе муунунун кесилиши, кагылышуу учурундагы машина, көмүр карандаш менен тартылган фигура изилдөөсү, 1944-жылдагы жоокер — саясатты бузуу катары кайтып келет. Сиз сөзүн өзгөртөсүз, башка бузуу аласыз. Акыры өтө турганчалык бүдөмүк нерсе жазып, сизге керек болгон нерсени эми көрсөтпөгөн сүрөт аласыз. Курал катуу үн менен ийгиликсиз болгон жок; ал акырындык менен ийгиликсиз болду жана компромисске барган адам катары сизди калтырды.
01Эмне үчүн AI сүрөт генератору ачык эле мыйзамдуу промпттон баш тартат?
Баш тартуу адатта сүрөт моделинин пикири эмес. Ал моделдин айланасындагы чыпкалоо стегинин натыйжасы, ал эми анын катмарлары сиз алган таң калыштуу баш тартуулардын дээрлик баарын түшүндүрөт.
| Катмар | Эмнени текшерет | Мүнөздүү катасы |
|---|---|---|
| Промпт бөгөт тизмеси | Текстиңиздеги так саптар жана аларга жакын варианттар | Айланасындагы сүйлөмгө карабай сөздү бөгөттөйт — «speculum» өтпөйт, «stethoscope» өтөт |
| Промпт классификатору | Промпттун «тобокелдиги» боюнча үйрөнүлгөн баа | Тема жакындыгынан иштейт: медицинага, куралга, денеге же саясатка жакын нерсенин баары жогорку упай алат |
| Моделди баш тартууга үйрөтүү | Моделдин өзүнүн үйрөтүлгөн каршылыгы | Ката билдирбей баш тартат же үнсүз тазаланган алмаштыргычты чыгарат |
| Чыгуу классификатору | Рендерленген пикселдер, промпт контексти жок | Анатомиялык таблицаны порнографиядан, тасма кадрын чыныгы окуядан айырмалай албайт |
| Саясат боюнча алмаштыруу | Рендерге чейин промптуңузду үнсүз кайра жазуу | Сиз сүрөт аласыз, бирок көрсөткөнүңүздү эмес, ал эми себебин сизге айтышпайт |
Ар бир катмардын бир эле көр аймагы бар: бирөө да сиз эмне үчүн сурап жатканыңызды көрө албайт. Медициналык иллюстратор да, кагылышууну реконструкциялаган талапкердин эксперти да, жаман ниеттүү бирөө да бир эле зат атоочту жазат. Чыпка зат атоочту көрөт, атласты же иш файлын эмес, ал эми ага өткөрүп жиберген зыяндар боюнча баа коюлат — жок кылган иши боюнча эч качан эмес. Ушул асимметрияда каалаган операторго акылга сыярлык жөндөө — көбүрөөк баш тартуу. «Жөн эле башкача жаз» деген да ушул себептен чечим эмес: башкача жазуу чыпкага мурда жок болгон маалыматты бербейт, ал болгону промптуңузду аны иштеткен сөздөрдөн алыстатат, ал эми бул адатта сиз ойлогон нерседен алыстоо дегенди билдирет.
02Мазмун чыпкалары чындап эмнени токтотуш үчүн бар
Чыпкалар эч себепсиз бар деп көрсөткөн, чыпкасыз жаратуунун пайдасына жазылган аргумент окууга татыбайт. Зыяны ким сурагандан жана эмне үчүн сурагандан көз карандысыз, сүрөттүн өзүнө таандык болгон тар чыгуулар тобу бар:
- Жашы жете электерди камтыган сексуалдык мазмун. Аны эч кандай контекст жол берерлик кылбайт; эч бир кесиптик процесс аны талап кылбайт.
- Чыныгы адамдардын макулдугусуз интимдик сүрөттөрү. Зыян макул болбогон адамга тиет, ал эми аны өчүрүү зыянды жокко чыгарбайт.
- Максаттуу кысым жана жалаа жабуучу жасалмалар — аты аталган адамды өзү кылбаган нерсени кылгандай көрсөтүү.
- Жасалмалоо деңгээлиндеги документтер — чыныгыдай өтүш үчүн жасалган паспорттор, инсандык күбөлүктөр, банкноттор, мөөрлөр жана каржылык документтер.
- Алдамчы синтетикалык далил — иллюстрация эмес, документ катары берилген чыныгы окуялардын ойдон чыгарылган сүрөттөрү.
Тизме кыска жана анын түзүлүшү бар: зыян нерсенин өзүндө, анын чыныгы адамга же документке окшоштугунда жана чындык катары берилишинде жашайт. Тизмеде эмне жок экенине көңүл буруңуз — жылаңачтык, кан, курал, тарыхый ырайымсыздык, саясий шылдың. Булар медицинанын, журналистиканын, көркөм өнөрдүн, соттук экспертизанын жана сатиранын чийки заты, ал эми аларды зыян категориялары катары караган чыпка кайсы темалар «сыйлуу» экени жөнүндөгү алда канча кеңири идеяны ишке ашырып жатат.
Shannon ал тизмедеги нерселердин баарына тыюу салат — «placenta» деген сөздү да кармаган ачкыч сөз таблицасы менен эмес, категориялары жана кесепеттери аталган жарыяланган Жоопкерчиликтүү колдонуу саясаты менен. Биринчиси — сиз окуй ала турган жана бизден талап кыла турган эреже; экинчиси — сиз көрө албаган классификатордун ниетиңиз тууралуу болжолу.
03Ашыкча баш тартуу көйгөйү канчалык чоң? Изилдөө эмнени өлчөйт
Жакынкы убакка чейин сүрөт моделдериндеги ашыкча баш тартуу — бул анекдот эле: миңдеген адам бир эле окуяны айтчу, бирок аны өлчөөнүн жолу жок болчу. Бул OVERT (OVEr-Refusal evaluation on Text-to-image models) менен өзгөрдү — ал ICML 2025'те Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song жана Song Mei кирген UC Berkeley тобу тарабынан көрсөтүлгөн: тексттен сүрөт жараткан системалар толугу менен зыянсыз промпттордон канчалык көп баш тартарын өлчөгөн биринчи ири масштабдуу бенчмарк.
Дизайн маанилүү. 4,600 промпт зыянсыз бойдон калып, зыяндуу болуп көрүнгүдөй курулган — скальпель, көгөргөн жер же нааразычылык акциясы эскерилген чыныгы кесиптик сурамдын формасында — ал эми 1,785 чындап зыяндуу промпт алардын жанында көзөмөл катары турат, ошондуктан модель баарынан баш тартуу менен жакшы упай ала албайт. Тогуз категория жеке адамдын жана коомдук ишмердин купуялыгынан баштап автордук укукка, кемсинтүүгө, өзүнө зыян келтирүүгө, сексуалдык мазмунга, мыйзамсыз аракетке жана зордук-зомбулукка чейин созулат.
Негизги жыйынтык: ашыкча баш тартуу категориялар боюнча да, алдыңкы моделдер боюнча да кеңири таралган. Экинчиси кадимки айланып өтүү ыкмасы үчүн андан да жаман: авторлор жумшартуучу чара катары промптту кайра жазууну сынап көрүшүп, ал «көп учурда баштапкы промпттордун маанисине ишенимдүүлүктү бузат» деп билдиришкен. Сиз сураган нерсеңизди өзгөртүү менен чыпкадан өтө аласыз, бирок анда сураган нерсеңиз эми колуңузда жок.
Тар изилдөө ошол эле тыянакка пиксель тарабынан келет. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann жана Oliver, ECCV 2024'төгү AI4VA семинары) макаласында авторлор өндүрүштө колдонулган үч NSFW классификаторун көркөм жылаңачтык боюнча баалап, экөөнү тең табышат: гендердик жактуулук жана стилистикалык жактуулук: фигура изилдөөсү боюнча чечим кимдин денеси жана кандай стилде тартылганына көз каранды. Бул натурадан сүрөт тарткан ар бир сүрөтчүгө «ойдон чыгарган нерсең» деп айтылып келген нерсенин өлчөнгөн ырастоосу.
04Чыпкаланган генераторлор бөгөттөгөн мыйзамдуу иштин сегиз түрү
Булар ашыкча баш тартуу ыңгайсыздык эмес, иштин токтоп калышы болгон категориялар. Конкреттүү жарыяланган учур бар жерде ал шилтеме менен берилет; текшерилбеген жерде категория окуя ойлоп чыгарылбастан сүрөттөлөт.
1. Медициналык жана анатомиялык иллюстрация
Тармактагы эң жакшы документтелген учур. 2023-жылдын апрелинде The Intercept (Debbie Nathan) Midjourney'дин анатомиялык терминдерге — анын ичинде speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom жана IUD — тыюу салганын билдирген, ал эми DALL·E 2 «pills used in medication abortion» деген сурамдан мазмун саясаты жөнүндөгү билдирүү менен баш тарткан. Бул үлгүнү клиникалык маалымат аналитиги Julia Rockwell тапкан: ал клетка биологу досуна белек катары плацентанын сүрөтүн жаратмакчы болуп, муну MIT Technology Review басылмасына билдирген. Асимметрия баарын ачат: «stethoscope» кадимкидей жаратылып жатканда «speculum» тыюу салынган болчу. Вашингтон университетинин изилдөөчүсү Bill Howe чыпкаларды «дөң» деп атап, алар «көбөйүү жөнүндө илимий талкуу жүргүзүүнү дээрлик мүмкүн эмес кылганын» айткан. Бейтапты окутуу, хирургиялык атластар жана медайымдарды даярдоо программасынын баары денелерди так сүрөттөөнү талап кылат, анын ичинде ачкыч сөз тизмеси уят деп чечкен бөлүктөрдү да.
2. Соттук-медициналык жана кырсык реконструкциясы
Кагылышууну реконструкциялоо, өрттүн чыккан жерин талдоо жана сот залындагы көрсөтмө материалдар зыянды, жараатты жана зордук механикасын клиникалык тактык менен сүрөттөөнү талап кылат. «Кан» же «ок жарасы» дегенди четке кагууга ыңгайлаштырылган чыпка бүт дисциплинаны четке кагат: контекст — эксперттик корутунду, камсыздандыруу иши — классификаторго көрүнбөйт, ал эми мындай сүрөттөрдү сотто кабыл алынарлык кылган нейтралдуулуктун өзү аларды кан-сөөл катары окуткан нерсе.
3. Көркөм жылаңач денелер жана натурадан сүрөт тартуу
Жылаңач дене — бардык жердеги көркөм өнөрдүн негизги темасы, ал эми фигура изилдөө көркөм билимдин өзөгү. Жогорудагы ECCV 2024 жыйынтыгы — сүрөтчүлөр айтып жүргөн нерсенин өлчөнгөн варианты: классификаторлор фигура изилдөөсүн порнографиядан ишенимдүү ажырата албайт, ал эми алардын каталары гендер жана стиль боюнча жактуу — өзү таанышы керек болгон салтка так эң катуу тийген чыпка.
4. Тарыхый жана согуш сүрөттөрү
Окуу китептеринин иллюстрациялары, музей интерпретациясы жана мемориалдык долбоорлор формаларды, куралдарды, лагерлерди, салгылашууларды жана ырайымсыздыкты сүрөттөөнү талап кылат. 2024-жылдын февралындагы Gemini окуясы үйрөтөрлүк, анткени ката тескери багытта кетип, бирдей зыян келтирген. Google 2024-жылдын 22-февралында Gemini'дин адамдардын сүрөттөрүн жаратуу жөндөмүн токтоткон, себеби ал тарыхый топторду, анын ичинде нацисттик доордогу немис жоокерлерин, расалык жактан кайра курулган түрдө чыгарган. Башкы директор Sundar Pichai чыгууларды «толугу менен кабыл алгыс» деп атаган; SVP Prabhakar Raghavan моделдин «ашыкча компенсациялаганын» жана «ашыкча консервативдүү» болуп калганын моюнга алган. Контекстти көрбөгөн коопсуздук тарыхый сүрөттөрдү коопсузураак кылган жок — ал аларды жалган кылды, ал эми тарых басып чыгаруучусу үчүн бул андан жаман.
5. Көркөм чыгармадагы зордук-зомбулук жана тасманы алдын ала визуалдаштыруу
Сториборддор, концепт-арт, комикстер жана оюн дизайны зордук-зомбулукту романдар менен тасмалар кандай себеп менен сүрөттөсө, ошол себеп менен сүрөттөйт. Коркунуч сториборду менен коркутууну ажырата албаган чыпка бүтүндөй баяндоо өнөрүнүн процессин шектүү катары карайт — ал эми сториборд ачык эле чыныгы эмес, актерлор менен эффект командалары коё турган көрүнүштүн планы.
6. Саясий сатира жана редакциялык карикатура
Бийликтегилерге карикатура — демократиялардын көбүндө сөз эркиндигинин эң корголгон категорияларынын бири жана сүрөт чыпкасы адатта биринчи алып салган нерсе. Эң ачык документтелген учур — Midjourney'дин 2023-жылдын апрелиндеги Кытай төрагасы Си Цзиньпиндин сүрөттөрүнө тыюу салуу жана анын атын промптто бөгөттөө чечими; муну PetaPixel, Decrypt жана башкалар билдирген, ошол эле учурда башка дүйнөлүк лидерлерге уруксат берилген. Негиздөөчү David Holz Discord'до компания «драманы азайтууну» каалаганын жана «Кытайдагы адамдардын бул технологияны колдоно алышы сиздин сатира жарата алууңуздан маанилүү» экенин түшүндүргөн; Foundation for Individual Rights and Expression уюмунан Sarah McLaughlin муну цензура деп атаган. Бизнес эсеби жөнүндө кандай тыянак чыгарбаңыз, механизмди атап коюу керек: бир өлкөнүн сөз эркиндигин чектөөсү дүйнөдөгү бардык колдонуучуларга колдонулду, анткени глобалдык чыпкада бир гана жөндөө бар.
7. Коопсуздук изилдөөсү жана фишингден кабардар кылуу материалдары
Коопсуздук командалары эскерткен нерсесине окшош болушу керек болгон окутуу материалдарын курат: ынандырарлык жасалма кирүү экраны, жасалма эсеп-фактура, унаа токтотуу автоматындагы зыяндуу QR коду. Классификатор үчүн бул ал каршы эмдеп жаткан чабуулдан айырмаланбайт — чындыкка окшоштук маани ушунда — ошондуктан чыпкалар коргонуу менен чабуулду бирдей бөгөттөйт жана чабуулчуга артыкчылык берет, ал болсо чыпкаланган керектөөчү куралын баары бир колдонмок эмес.
8. Өз брендинин, товарынын же окшоштугунун сүрөтүнөн баш тартылган укук ээлери
Автордук укук жана соода белгиси боюнча чыпкалоо ээлигин текшербейт; ал окшоштукту текшерет. Компания өз логотибинин же товарынын сүрөтүн оңой жарата албайт, укук ээси өз каарманын тарта албайт, ал эми адамдар өз жүзүн көп учурда жарата албайт, анткени окшоштук чыпкалары макулдукка эмес, таанылууга багытталган. OVERT «автордук укукту бузуу» дегенди тогуз ашыкча баш тартуу категориясынын бирине так ушул жалган иштөө абдан кеңири таралгандыктан киргизген. Чыпка — ал эч качан бере албаган суроого — сизде буга укугуңуз барбы? — дөң курал.
Жогорудагы сегизөөнүн төртөө конкреттүү жарыяланган учурга байланган (медицина, көркөм жылаңач дене, тарых, сатира), плюс сегизинчиси үчүн OVERT'тин автордук укук категориясы. Соттук экспертиза, тасманы алдын ала визуалдаштыруу жана коопсуздуктан кабардар кылуу материалдары категория катары айтылат: булар зыян тарткан кесиптик иштин белгилүү класстары, бирок алар үчүн конкреттүү жарыяланган окуяны биз текшерген жокпуз.
Жогорудагы ар бир документтелген учур ачык жана өз алдынча текшерилет. Биздин баяндообузга ишенбей, аларды өзүңүз окуңуз.
05Эмне үчүн AI арт генераторлору туура эмес нерселерди бөгөттөйт жана мазмун чыпкасынын жалган иштешин эмне үчүн жөндөп чыгууга болбойт
Ашыкча бөгөттөөгө инстинктивдүү жооп — «босогону бошоңдот». Бул иштебейт, себеби аракеттин жетишсиздиги эмес, структуралык.
Категориялар сигналда кайчылашат, чындыкта эмес. Хирургиялык иллюстрация менен порнография жылаңачтыкты бөлүшөт. Соттук реконструкция менен кан-сөөл канды бөлүшөт. Кабардар кылуу слайды менен фишинг топтому жасалма кирүү формасын бөлүшөт. Сатиралык карикатура менен жалаа жабуучу жасалма тааныла турган саясатчыны бөлүшөт. Ар бир жупту айырмалаган нерсе — максат жана берилиш формасы — промптто да, пикселдерде да жок. Кириш мейкиндигинин бир аймагын ээлеген эки топту эч бир босого ажыратпайт; аны жылдыруу бир катаны экинчисине алмаштырат гана. Gemini окуясы так ушуну көрсөттү: бир катаны оңдоо үчүн жасалган аракет экинчисин жаратты, аны Google'дун өз SVP'си «ашыкча компенсациялаган» деп сүрөттөгөн.
Чыгымдар сизге эмес, операторго асимметриялуу. Бир жаман сүрөттү өткөрүп жиберген чыпка жаңылык болуп чыгат. Он миң мыйзамдуусун бөгөттөгөн чыпка унчукпоо жаратат, анткени баш тартылган колдонуучулар уюшулбайт — алар жөн эле баш тартат. Ушул асимметриядагы тобокелдикти башкаруу түбөлүккө ашыкча бөгөттөөгө келет. Ал эми негизги баа берүү мүмкүн эмес болгондуктан, бөгөт тизмелери окуялар болгон сайын так саптарды топтойт, ошондон «stethoscope» жарайт да, «speculum» тыюу салынат. Аялдарга тиешелүү аспаптар кооптуураак деп эч ким чечкен эмес; тизме нааразычылык түшкөн жерде өскөн. Ал зыян теориясын эмес, оператордун PR тарыхын коддойт.
Эң катаал юрисдикция глобалдык демейкиге айланат. Бир чыпка бардык өлкөдөгү бардык колдонуучуга кызмат кылат, ошондуктан бир базар үчүн кошулган чектөө баарына экспорттолот — Си Цзиньпин эрежеси ушунун классикалык мисалы. Ал эми промптуңузду кайра жазуу маанисин жок кылат, бул — OVERT'тин эксперименталдык тыянагы: чыпкадан өткөрүү үчүн сурамын эвфемизмге айлантып жуугандардын ар бири муну өз колу менен ырастаган. Сиз жеңген жоксуз; сиз макул болдуңуз.
Мунун баары бекер эмес, ал эми ката үнсүз болгондуктан, чыгым оператор карап турган көрсөткүчтөрдө көрүнбөйт. Жетиштүү баш тартуудан кийин сиз сураганды токтотосуз, ар бир промптту өтөт деп болжолдогон нерсеге алдын ала тарытасыз; акыры өткөн эвфемизм документиңизге керек болгон нерсеге жакын, бирок ал эмес сүрөт берет. Жалпы саясат билдирүүсү кайсы катмар иштегенин айтпайт, ошондуктан сиз болжолдоп, кайра урунуп гана коёсуз — ал эми сүрөт иши кайталанма, ошондуктан беш аракеттин бирин кармаган чыпка процессти жайлатпайт, аны бузат. Ошол эле учурда олуттуу куралга эң күчтүү доомату бар тармактар рецензентти да, апелляцияны да албайт жана адатта эмне бөгөттөлгөнүнүн жарыяланган тизмесин да көрбөйт. Окуй албаган эреже — эреже эмес; ал аба ырайы.
06Цензурасыз жана чыпкаланган AI сүрөт генератору: чындыгында эмне өзгөрөт
Салыштыруунун чынчыл варианты, анын ичинде чыпкасыз система сизге эмне бербей турганы да.
| Өлчөм | Чыпкаланган генератор | Чыпкасыз (Shannon) |
|---|---|---|
| Ким чечет | Сөздөрдү жана пикселдерди окуган классификатор | Так промптту окуган адам |
| Качан билесиз | Жөнөткөндөн кийин — кээде төлөгөндөн кийин | Эч нерсе рендерленээрден жана эсептелээрден мурун |
| Эреже кандай | Жарыяланбаган, өзгөрүп турган бөгөт тизмелери | Жарыяланган Жоопкерчиликтүү колдонуу саясаты |
| Кесиптик контекст | Системага көрүнбөйт | Сиз кармайсыз жана сиз жооп бересиз |
| Ката түрү | Үнсүз ашыкча бөгөттөө, мааниден четтөө | Сураганыңызды аласыз — каталарды кошо алганда |
| Тобокелдикти ким көтөрөт | Сатуучу, аны сиздин ишиңизге ооздурат | Бөлүшүлөт: оператордун саясаты плюс колдонуучунун жоопкерчилиги |
Акыркы сапты адамдар өткөрүп жиберет, ал эми маанилүүсү ошол. Чыпканы алып салуу 02-бөлүктөгү зыян категорияларын жок кылбайт; ал алар жөнүндө начар болжолдоп жаткан машинаны алып салат. Милдет турган жеринде калат, аны эми контекст жөнүндө ой жүгүртө ала турган эки тарап кармайт: саясатты жарыялап, аны аткарган оператор жана сүрөт эмнеге керек экенин билген сиз. Чыпкасыз AI сүрөт жаратуу — өз натыйжасынын артында тура алганга мурунтан даяр адамдар үчүн курал — хирургдун атласы, эксперттик корутунду, сториборд, карикатура — аларды башка бирөөдөн ажырата албаган система токтотуп келген.
07Shannon эмне кылат — жана эмне кылбайт
Бул жерде дилгирликтен көрө тактык маанилүү, айрыкча API издеп келген окурмандар үчүн.
Эмне кылат
- Жаратуу. Каалаган тилде, жөнөкөй сөз менен сүрөттү сүрөттөңүз. Кайсы тилде сурасаңыз да, Shannon жаратуу промптун англис тилинде өзү жазат.
- Бир сүрөттү оңдоо. Так бир булак — маекте мурунтан бар сүрөт же учурдагы билдирүүңүзгө тиркелгени — эмне өзгөрөрүн жана эмне калаарын айткан көрсөтмө менен өзгөртүлөт. Чыгуу баштапкы аспект катышын автоматтык түрдө сактайт.
- Эки же андан көп сүрөттү бириктирүү. Кийимди өткөрүү, объектти көрүнүшкө коюу, адамды адамдын жанына коюу, товарды адамдын үстүндө көрсөтүү, бир сүрөттүн субъекти экинчисинин стили менен. Промпт ар бир сүрөттүн ролун тартиби менен атайт, ал эми чыныгы сүрөттөр колдонулат, ошондуктан алардын чыныгы келбети кайра сүрөттөлбөстөн сакталат.
- Аспект башкаруу. square (демейки), portrait, landscape, wide жана tall. Ачык сурам ар дайым жеңет.
- Рендер өз GPU кластерибизде, жаратуу жолунда мазмун чыпкасысыз жана промптту жазган моделде баш тартуу катмарысыз.
Эмне кылбайт
- Видео жок. Shannon сүрөттөрдү анимациялабайт жана видео чыгарбайт. Бул жашырылып жаткан жол картасынын пункту эмес — ал жөн эле жок.
- API'де эмес. Сүрөт жаратуу, оңдоо жана бириктирүү Shannon чат колдонмосунда жашайт. /v1 API текст менен көрүүнү тейлейт — ал сиз жөнөткөн сүрөттөрдү окуй алат — бирок аларды рендерлебейт.
- Сурабай туруп жаратуу жок. Саламдашуу, суроо же жөн эле тиркелген сүрөт сүрөт жаратууну иштетпейт. Shannon'дон сүрөттү кароону суроо — аны сүрөттөө, окуу, талдоо — кадимки көрүү иши, жаратуу эмес жана кошумча эч нерсеге турбайт.
Ырастоо карточкасы
Бул — чыпканын ордун баскан механизм жана ал формалдуулук эмес, дизайн чечими. Shannon сиз сүрөт сурап жатканыңызды аныктаганда, жаратуу промптун жазат жана эч нерсе рендерленээрден мурун аны ырастоо карточкасында сизге көрсөтөт. Сиз ырастамайынча эч нерсе жаратылбайт жана эсептелбейт.
Дизайндарды өз наркы боюнча салыштырыңыз. Чыпка сизде бар маалыматтан азыраагы менен ниетиңизди болжолдойт жана болжолун үнсүз аткарат. Ырастоо карточкасы болсо эч кандай эсептөө күчү сарпталганга чейин сүрөттүн так спецификациясын ал эмнеге керек экенин билген тараптын алдына коёт. Ал сурамыңыздын туура эмес түшүнүлүшүн кармайт, чыпкалар муну эч качан кылбайт; ал моделдин жетишсиз аныктаган анатомиялык тактыгын же тарыхый деталын кошууга мүмкүнчүлүк берет; жана жоопкерчиликти чачкын эмес, окулуучу кылат. Сиз промптту көрдүңүз жана баскычты бастыңыз.
08Чыпкасыз жаратуу жоопкерчиликти жогорулатат, аны жок кылбайт
Бул колонтитулда эмес, ушул жерде турушу керек, анткени бул аргументтин жарымы. Чыпкаланган генератор аткара албай турган убада берет: курал сиздин ордуңузга кыянат колдонууну болтурбайт деп. Ал эки багытта тең иштебейт — ал хирургду бөгөттөйт жана башка мүмкүнчүлүктөрү дайыма болгон чечкиндүү кыянатчыны токтотпойт. Ал ишенимдүү кыла турган нерсе — жоопкерчилик жогору жакта, машина тарабынан чечилгендей сезим бердирүү. Чыпканы алып салуу ошол ойдон чыгарылган нерсени алып салат; сүрөт болушу керекпи деген суроо ага жооп бере ала турган адамдарга кайтат.
- Shannon Lab LLC'нин милдети. Жарыяланбаган бөгөт тизмеси эмес, тыюу салынган категорияларды атаган жарыяланган, конкреттүү Жоопкерчиликтүү колдонуу саясаты — сиз окуй ала турган, шилтеме кыла турган жана бизден талап кыла турган эрежелер.
- Сиздин милдетиңиз. Сиз максатты, аудиторияны, юрисдикцияны жана тартылган ар бир адамдын макулдук абалын билесиз. Курал билбейт, ал эми классификатор эч качан биле алмак эмес. Ырастоо карточкасы ошол билим маанилүү учурда, ага ээ болгон тарап тарабынан колдонулушу үчүн бар.
- Жылбай турган чек. «Чыпка мени токтоткон жок» эч бир чөйрөдө коргонуу болгон эмес. Камера баш тартпайт, карандаш баш тартпайт; мыйзам жана кесиптик этика куралды эмес, колдонууну жөнгө салат. Чыпкасыз генератор башка бардык кесиптик курал иштеген кадимки тартипти калыбына келтирет.
Баштаардан мурун Жоопкерчиликтүү колдонуу саясатын окуп чыгыңыз. Ал кыска, конкреттүү жана бул продукттун калганын коргоого мүмкүн кылган бөлүгү.
09Көп берилүүчү суроолор
Эмне үчүн AI сүрөт генератору ачык эле мыйзамдуу промпттон баш тартат?
Анткени чыпкалардын көбү сиздин максатыңызды эмес, промптуңуздагы сөздөрдү баалайт. Моделдин алдында классификатор турат, ал сиздин ким экениңизди да, эмне үчүн сурап жатканыңызды да билбейт, ошондуктан медициналык иллюстратор да, соттук эксперт да, кыянат ниеттүү адам да бир эле зат атоочту жазат жана бир эле баш тартууну алат. The Intercept 2023-жылдын апрелинде Midjourney'дин speculum, placenta жана cervix сыяктуу анатомиялык терминдерге тыюу салганын, ал эми stethoscope кадимкидей иштегенин билдирген.
AI арт куралдарындагы мазмун чыпкасынын жалган иштешин өлчөгөн изилдөө барбы?
Ооба. OVERT (arXiv:2505.21347, ICML 2025) — тексттен сүрөт жараткан моделдер үчүн ашыкча баш тартууну өлчөгөн биринчи ири масштабдуу бенчмарк: тогуз коопсуздук категориясы боюнча зыяндуудай көрүнгөн, бирок чындыгында зыянсыз 4,600 промпт, плюс көзөмөл катары 1,785 чындап зыяндуу промпт. Анын авторлору ашыкча баш тартуу алдыңкы моделдердин баарында кеңири таралганын билдирет. Өзүнчө ECCV 2024 изилдөөсү көркөм жылаңачтык боюнча бааланган үч NSFW классификаторунан гендердик жана стилистикалык жактуулукту тапкан.
Цензурасыз AI сүрөт генератору чындыгында эмнени өзгөртөт?
Ал баш тартуу катмарын жана мазмун чыпкасын жаратуу жолунан алып салат, ошондуктан мыйзамдуу сурам үнсүз чабуул катары кайра классификацияланбайт. Ал чечим кабыл алууну жок кылбайт — аны башка жерге көчүрөт. Shannon эч нерсе рендерленээрден мурун так жаратуу промптун ырастоо карточкасында көрсөтөт, ошондуктан чечимди эмне жаралаарын көрө алган адам, Жоопкерчиликтүү колдонуу саясатынын алкагында кабыл алат.
Shannon видео жаратабы?
Жок. Shannon жаңы сүрөттөрдү жаратат, бир учурдагы сүрөттү оңдойт жана эки же андан көп сүрөттү бирине бириктирет. Ал сүрөттөрдү анимациялабайт жана эч кандай видео чыгарбайт.
Shannon API аркылуу сүрөт жарата аламбы?
Жок. Сүрөт жаратуу, оңдоо жана бириктирүү Shannon чат колдонмосунда жашайт. /v1 API текст менен көрүүнү тейлейт — сиз берген сүрөттөрдү окуйт жана талдайт — сүрөт жаратууну эмес.
Эгер чыпка жок болсо, кыянат колдонууну эмне токтотот?
Ачкыч сөздөрдүн бөгөт тизмеси эмес, саясат, жоопкерчилик жана көрүнгөн чечим чекити. Shannon эч качан сурабай туруп жаратпайт, рендерден мурун толук промптту көрсөтөт, сиз ырастамайынча эч нерсе эсептебейт жана жашы жете электерди камтыган сексуалдык мазмунга, чыныгы адамдардын макулдугусуз интимдик сүрөттөрүнө, максаттуу кысымга жана инсандыкты ырастаган же каржылык документтерди жасалмалоого тыюу салган жарыяланган Жоопкерчиликтүү колдонуу саясатынын алкагында иштейт.
Чындап керек болгон сүрөттү сураңыз
Чат колдонмосунда жаратуу, бир сүрөттү оңдоо жана көп сүрөттү бириктирүү — мазмун чыпкасы жок, баш тартуу катмары жок, ал эми эч нерсе рендерленээрден мурун промпт экранда.
Чатты баштоо Жоопкерчиликтүү колдонуу саясатыСүрөттөр чат колдонмосунда · видео жаратуу жок · дагы изилдөөлөр
Булактар: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023-жылдын 22-апрели · PetaPixel, 2023-жылдын 3-апрели · CNBC, 2024-жылдын 22-февралы. Shannon AI'ди Shannon Lab LLC (Нью-Мексико, АКШ) иштетет.