Цензурасыз және сүзгіленген AI сурет генераторы
Мазмұн сүзгілері шағын ғана нақты зияндар жиынын тоқтату үшін жасалған. Тәжірибеде олар медициналық иллюстрацияны, сот-медициналық реконструкцияны, натурадан сурет салуды, соғыс тарихын, редакциялық сатираны және компаниялардың өз өнімін бейнелеуін де тоқтатады. Міне, мұның бағасы — әрі сүзгіні алып тастау нені өзгертеді, нені өзгертпейді.
Қысқаша
Негізгі сурет генераторлары промпттар мен шығыстарды сөздер мен пиксельдерді көретін, бірақ мақсатты ешқашан көрмейтін жіктеуіштермен тексереді. Бұл жалған оң нәтижелерге кепілдік береді, ал олар білікті жұмысқа барынша ауыр соққы жасайды: анатомия, сот-медицина, көркем жалаңаш дене, тарихи суреттер, алдын ала визуализация, сатира, қауіпсіздік бойынша сақтандыру материалдары және өз брендін сұраған құқық иелері. OVERT (ICML 2025) — осы қателік түрі үшін жасалған алғашқы ауқымды бенчмарк — зиянсыз, бірақ күдікті көрінетін 4,600 промптты пайдаланады және шамадан тыс бас тартудың жетекші модельдер арасында кең тарағанын анықтайды. Shannon сурет генерациясын, бір суретті өңдеуді және көп суретті біріктіруді өз GPU кластерімізде, мазмұн сүзгісінсіз әрі бас тарту қабатынсыз жүргізеді, тыйым тізімін көрінетін шешіммен алмастырады: ештеңе рендерленбей тұрып нақты промптты көрсететін растау картасы. Бұл сіздің де, біздің де жауапкершілігімізді арттырады; екеуі де Жауапты пайдалану саясатында. Видео генерациясы жоқ, ал суретпен жұмыс API-да емес, чат қосымшасында тұрады.
Суреттермен кәсіби айналысатындардың бәрі дерлік бір оқиғаны айтады. Кәдімгі бір нәрсені сипаттайтын промпт — тізе буынының көлденең қимасы, соқтығысу сәтіндегі көлік, көмірмен салынған фигуралық зерттеу, 1944 жылғы солдат — саясатты бұзу деп қайтарылады. Сіз басқаша тұжырымдайсыз, басқа бұзушылық аласыз. Ақыры өтетіндей бұлыңғыр нәрсе жазасыз да, сізге керек нәрсені енді көрсетпейтін суретті аласыз. Құрал ашық сәтсіздікке ұшыраған жоқ; ол біртіндеп сәтсіздікке ұшырады әрі ымыраға барған сізді жасады.
01AI сурет генераторы анық заңды промптан неге бас тартады?
Бас тарту әдетте сурет моделінің пікірі емес. Ол модельдің айналасындағы сүзгі стегінің нәтижесі, әрі оның қабаттары сіз алған оғаш бас тартулардың бәрін дерлік түсіндіреді.
| Қабат | Нені тексереді | Тән қателігі |
|---|---|---|
| Промпт тыйым тізімі | Мәтініңіздегі нақты жолдар мен оларға жақын нұсқалар | Айналасындағы сөйлемге қарамай сөзді бұғаттайды — «speculum» өтпейді, «stethoscope» өтеді |
| Промпт жіктеуіші | Промпттың «қауіптілігі» туралы үйретілген пайым | Тақырыптық жақындықта іске қосылады: медицинаға, қаруға, денеге не саясатқа жақын кез келген нәрсе жоғары ұпай алады |
| Модельдің бас тартуға үйретілуі | Модельдің өз бойына сіңірілген құлықсыздығы | Қатесіз бас тартады немесе үнсіз тазартылған алмастыруды береді |
| Шығыс жіктеуіші | Промпт контексінсіз, рендерленген пиксельдер | Анатомиялық кестені порнографиядан, фильм кадрын нақты оқиғадан ажырата алмайды |
| Саясат бойынша алмастыру | Рендерге дейін промптыңызды үнсіз қайта жазу | Сіз сурет аласыз, бірақ өзіңіз көрсеткенін емес, әрі себебі айтылмайды |
Әр қабаттың бір соқыр тұсы ортақ: ешқайсысы сіздің неге сұрап отырғаныңызды көре алмайды. Медициналық суретші, соқтығысты қалпына келтіретін талапкер сарапшысы және жаман ниетті адам — бәрі бір зат есімді тереді. Сүзгі атласты да, іс материалдарын да емес, зат есімді көреді, әрі ол өткізіп жіберген зияны бойынша бағаланады — ешқашан жойған жұмысы бойынша емес. Осындай асимметрияда кез келген оператор үшін ұтымды параметр — көбірек бас тарту. Сондай-ақ «жай басқаша жазып көріңіз» деген нұсқаның шешім болмауының себебі осы: басқаша тұжырымдау сүзгіге ол білмеген ешқандай ақпарат бермейді, ол тек промптыңызды оны іске қосқан сөздерден алыстатады, ал бұл әдетте сіз меңзеген нәрседен алыстау деген сөз.
02Мазмұн сүзгілері шын мәнінде нені болдырмау үшін бар
Сүзгілер себепсіз бар деп көрсететін сүзгісіз генерацияның пайдасына дәлел оқуға тұрмайды. Зияны кім сұрағанына да, неге сұрағанына да тәуелсіз, суреттің өзіне тән болатын шығыстардың тар жиыны бар:
- Кәмелетке толмағандар қатысатын сексуалдық мазмұн. Ешбір контекст оны қолайлы етпейді; ешбір кәсіби үрдіс оны талап етпейді.
- Нақты адамдардың келісімінсіз жасалған жақын суреттері. Зиян келісім бермеген адамға тиеді, ал жойып жіберу оны қайтармайды.
- Мақсатты қудалау және жала жабатын жалғандық — аты аталған адамды өзі істемеген нәрсені істегендей көрсету.
- Қолдан жасауға жарамды құжаттар — шынайы болып өту үшін жасалған паспорттар, жеке куәліктер, банкноттар, мөрлер және қаржы құралдары.
- Алдамшы синтетикалық дәлел — нақты оқиғалардың иллюстрация емес, құжаттама ретінде ұсынылған жасанды суреттері.
Тізім қысқа әрі оның құрылымы бар: зиян артефактінің өзінде, оның нақты адамға не құжатқа ұқсастығында және оның шындық ретінде ұсынылуында тұрады. Мұнда жоқ нәрсеге назар аударыңыз — жалаңаштық, қан, қару, тарихи қатыгездік, саяси келеке. Бұлар — медицинаның, журналистиканың, өнердің, сот-медицинаның және сатираның шикізаты, ал оларды зиян санаттары ретінде қарайтын сүзгі қай тақырыптардың лайықты екені туралы әлдеқайда кең идеяны іске асырып отыр.
Shannon сол тізімдегінің бәріне тыйым салады, әрі мұны «placenta» сөзін де ұстап қалатын кілт сөздер кестесімен емес, аталған санаттары мен салдары бар жарияланған Жауапты пайдалану саясатымен істейді. Біріншісі — сіз оқып, бізден талап ете алатын ереже; екіншісі — сіз көре алмайтын жіктеуіштің ниетіңіз туралы болжамы.
03Шамадан тыс бас тарту мәселесі қаншалықты үлкен? Зерттеу нені өлшейді
Жақынға дейін сурет модельдеріндегі шамадан тыс бас тарту анекдот еді — мыңдаған адамда бір оқиға, ал көлемін өлшеудің жолы жоқ. Бұл OVERT (OVEr-Refusal evaluation on Text-to-image models) шыққанда өзгерді: оны ICML 2025-те Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song және Song Mei кіретін UC Berkeley тобы ұсынды — мәтіннен суретке жүйелерінің толығымен зиянсыз промпттардан қаншалықты жиі бас тартатынын өлшейтін алғашқы ауқымды бенчмарк.
Дизайны маңызды. 4,600 промпт зиянсыз бола тұра зиянды көрінетіндей жасалған — скальпельді, көгергенді немесе наразылықты еске алатын нағыз кәсіби сұраныстың пішіні — ал шынымен зиянды 1,785 промпт олардың қасында бақылау ретінде тұр, сондықтан модель бәрінен бас тарту арқылы жақсы нәтиже ала алмайды. Тоғыз санат жеке адамның және қоғам қайраткерінің құпиялылығынан бастап авторлық құқық, кемсіту, өзіне зиян келтіру, сексуалдық мазмұн және заңсыз әрекеттер арқылы зорлық-зомбылыққа дейін созылады.
Басты қорытынды — шамадан тыс бас тарту санаттар бойынша да, жетекші модельдер бойынша да кең тараған. Екіншісі әдеттегі айналып өту тәсіліне қаттырақ соққы: авторлар жеңілдету шарасы ретінде промптты қайта жазуды сынап көрді де, оның «бастапқы промпттардың мағынасына адалдықты жиі бұзатынын» хабарлады. Сіз сұрағаныңызды өзгерту арқылы сүзгіден өте аласыз, бірақ содан кейін сізде сұрағаныңыз болмайды.
Тар ауқымды зерттеу дәл сол қорытындыға пиксель жағынан келеді. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann және Oliver, ECCV 2024 аясындағы AI4VA семинары) жұмысында авторлар үш өндірістік NSFW жіктеуішін көркем жалаңаштықта бағалап, әрі гендерлік бұрмалауды, әрі стильдік бұрмалауды ашады: фигуралық зерттеу туралы шешім кімнің денесі бейнеленгеніне және қандай стильде салынғанына байланысты. Бұл — натурадан сурет салатын әр суретшіге ойдан шығарылған деп айтылып келген нәрсенің өлшенген тұжырымы.
04Сүзгіленген генераторлар бұғаттайтын заңды жұмыстың сегіз түрі
Бұлар — шамадан тыс бас тарту қолайсыздық емес, жұмыстың тоқтауы болатын санаттар. Нақты хабарланған жағдай бар жерде ол сілтемеленген; тексерілгені жоқ жерде санат оқиға ойдан шығарылмай сипатталған.
1. Медициналық және анатомиялық иллюстрация
Саладағы ең жақсы құжатталған жағдай. 2023 жылғы сәуірде The Intercept (Debbie Nathan) Midjourney-дің speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom және IUD сияқты анатомиялық терминдерге тыйым салғанын хабарлады, ал DALL·E 2 «pills used in medication abortion» сұранысынан мазмұн саясаты туралы хабарламамен бас тартты. Заңдылықты клиникалық деректер талдаушысы Julia Rockwell тапты: ол жасуша биологы досына сыйлыққа плацентаның суретін жасамақ болған еді, әрі бұл туралы MIT Technology Review басылымына хабарлады. Асимметрия бәрін ашып береді: «stethoscope» қалыпты генерацияланды, ал «speculum» тыйым салынды. Вашингтон университетінің зерттеушісі Bill Howe сүзгілерді «дөрекі» деп атап, олар «көбею туралы ғылыми талқылауды іс жүзінде мүмкін емес етті» деді. Пациенттерді оқыту, хирургиялық атластар және мейіргер ісі бағдарламалары — бәрі денені дәл бейнелеуді талап етеді, оның ішінде кілт сөздер тізімі әдепсіз деп шешкен бөліктерін де.
2. Сот-медициналық және апаттық реконструкция
Соқтығысты қалпына келтіру, өрт ошағын талдау және сотқа арналған көрнекіліктер зақымды, жараларды және зорлық механикасын клиникалық дәлдікпен бейнелеуді талап етеді. «Қан» немесе «оқ жарасын» қабылдамауға бапталған сүзгі бүкіл пәнді қабылдамайды: контекст — сарапшы қорытындысы, сақтандыру ісі — жіктеуішке көрінбейді, ал мұндай суреттерді дәлел ретінде қабылдауға жарамды ететін бейтараптықтың өзі оны қантөгіс сияқты етіп көрсетеді.
3. Көркем жалаңаш дене және натурадан сурет салу
Жалаңаш дене — барлық жердегі өнердің іргелі тақырыбы, ал фигураны зерттеу көркем білімнің өзегі. Жоғарыдағы ECCV 2024 нәтижесі — суретшілер айтып жүрген нәрсенің өлшенген нұсқасы: жіктеуіштер фигуралық зерттеуді порнографиядан сенімді ажыратпайды, әрі олардың қателері жыныс пен стиль бойынша бұрмаланған — яғни сүзгі дәл өзі тануға тиіс дәстүрге ең қатты соққы жасайды.
4. Тарихи және соғыс кезіндегі суреттер
Оқулық суреттері, мұражай түсіндірмелері және мемориалдық жобалар формаларды, қаруларды, лагерьлерді, шайқастар мен қатыгездікті бейнелеуді талап етеді. 2024 жылғы ақпандағы Gemini оқиғасы ғибратты, өйткені онда қателік қарама-қарсы бағытта жүріп, дәл сондай зиян келтірді. Google Gemini-дің адамдарды бейнелеу мүмкіндігін 2024 жылғы 22 ақпанда тоқтатты: ол нацистік дәуірдегі неміс солдаттарын қоса, тарихи топтардың нәсілдік құрамы өзгертілген бейнелерін өндірген еді. Бас директор Sundar Pichai шығысты «мүлдем қабылдауға болмайтын» деп атады; аға вице-президент Prabhakar Raghavan модельдің «шамадан тыс өтемдегенін» және «тым сақ» болып кеткенін мойындады. Контексті көрмейтін қауіпсіздік тарихи суреттерді қауіпсіздеу еткен жоқ — ол оларды жалған етті, ал тарих баспасы үшін бұл әлдеқайда жаман.
5. Көркем шығармадағы зорлық-зомбылық және фильмді алдын ала визуализациялау
Сториборд, концепт-арт, комикс және ойын дизайны зорлық-зомбылықты романдар мен фильмдер сияқты себеппен бейнелейді. Хоррор сторибордын қорқытудан ажырата алмайтын сүзгі бүкіл баяндау өнері үрдісін күдікті деп қарайды — ал сториборд ашық түрде шынайы емес, ол актерлер мен эффект тобы қоятын көріністің жоспары ғана.
6. Саяси сатира және редакциялық карикатура
Билік иелерінің карикатурасы көптеген демократияда сөз бостандығының ең қорғалатын санаттарының бірі, әрі сурет сүзгісі әдетте бірінші болып алып тастайтын нәрсе. Ең айқын құжатталған жағдай — Midjourney-дің 2023 жылғы сәуірде Қытай төрағасы Си Цзиньпиннің суреттеріне тыйым салып, оның есімін промпттарда бұғаттау шешімі — бұл туралы PetaPixel, Decrypt және басқалар хабарлады — ал басқа әлем көшбасшыларына рұқсат сақталды. Құрылтайшы David Holz Discord-та компанияның «дауды азайтқысы» келгенін және «Қытайдағы адамдардың бұл технологияны пайдалана алуы сіздің сатира жасай алуыңыздан маңыздырақ» екенін түсіндірді; Foundation for Individual Rights and Expression ұйымынан Sarah McLaughlin мұны цензура деп атады. Бизнес есебі туралы қандай қорытынды жасасаңыз да, механизмді атап өткен жөн: бір елдегі сөз шектеуі дүние жүзіндегі әр қолданушыға қолданылды, өйткені жаһандық сүзгінің бір ғана параметрі бар.
7. Қауіпсіздік зерттеулері және фишингтен сақтандыру материалдары
Қауіпсіздік топтары ескертетін нәрсесіне ұқсауы тиіс оқу материалын жасайды: сенімді жалған кіру экраны, жалғандалған шот-фактура, тұрақ есептеуішіндегі зиянды QR-код. Жіктеуіш үшін бұл өзі қарсы иммунитет қалыптастыратын шабуылдан ажыратылмайды — шынайылық дәл сол мақсат — сондықтан сүзгілер қорғаныс пен шабуылды бірдей бұғаттап, шабуылдаушыға артықшылық береді, ал ол бәрібір сүзгіленген тұтынушылық құралды пайдаланбақ емес еді.
8. Өз брендінің, өнімінің не бет-бейнесінің суретінен бас тарту алған құқық иелері
Авторлық құқық пен сауда белгісін сүзу иелікті тексермейді; ол ұқсастықты тексереді. Компания өз логотипінің не өнімінің суретін оңай жасай алмайды, құқық иесі өз кейіпкерін бейнелей алмайды, ал адамдар жиі өз бетінің суретін жасай алмайды, өйткені бейне сүзгілері келісімге емес, танылуға негізделеді. OVERT өзінің тоғыз шамадан тыс бас тарту санатының ішіне «авторлық құқықты бұзу» санатын дәл осы жалған оң нәтиженің жиілігі үшін қосады. Сүзгі — өзі қоя алмайтын сұраққа — сізде бұған құқық бар ма? — арналған дөрекі құрал.
Жоғарыдағы сегіздің төртеуі нақты жарияланған жағдайға негізделген (медициналық, көркем жалаңаш дене, тарихи, сатира), ал сегізіншісі OVERT-тің авторлық құқық санатына сүйенеді. Сот-медицина, көркем шығарманы алдын ала визуализациялау және қауіпсіздіктен сақтандыру материалдары санат ретінде берілген: бұлар — біз нақты жарияланған оқиғасын тексермеген, бірақ кеңінен белгілі зардап шеккен кәсіби жұмыс кластары.
Жоғарыдағы әрбір құжатталған жағдай ашық әрі тәуелсіз тексеруге келеді. Біздің сипаттамамызға сенудің орнына оларды өзіңіз оқыңыз.
05AI арт генераторлары неге дұрыс емес нәрселерді бұғаттайды және мазмұн сүзгісінің жалған оң нәтижелерін неге баптап жоюға болмайды
Шамадан тыс бұғаттауға инстинктивті жауап — «табалдырықты босатыңдар». Бұл жұмыс істемейді, әрі күштің жетпеуінен емес, құрылымдық себептермен.
Санаттар сигналда қабаттасады, шындықта емес. Хирургиялық иллюстрация мен порнографияда жалаңаштық ортақ. Сот-медициналық реконструкция мен қантөгісте қан ортақ. Сақтандыру слайды мен фишинг жинағында жалған кіру формасы ортақ. Сатиралық карикатура мен жала жабатын жалғандықта танылатын саясаткер ортақ. Әр жұпты ажырататын нәрсе — мақсат пен ұсыныс тәсілі — ол промптта да жоқ, пиксельдерде де жоқ. Кіріс кеңістігінің бір аймағын иеленетін екі жиынтықты ешбір табалдырық ажыратпайды; оны жылжыту бір қатені екіншісіне айырбастау ғана. Gemini оқиғасы дәл соны көрсетті: бір қатені түзетуге арналған араласу екіншісін тудырды, ал оны Google-дың өз аға вице-президенті «шамадан тыс өтемделген» деп сипаттады.
Шығындар сізге емес, операторға асимметриялы. Бір жаман суретті өткізіп жіберген сүзгі жаңалық тудырады. Он мың заңды суретті бұғаттаған сүзгі үнсіздік тудырады, өйткені бас тарту алған қолданушылар ұйымдаспайды — олар жай ғана бас тартады. Осындай асимметриядағы тәуекелді басқару тұрақты түрде шамадан тыс бұғаттауға жинақталады. Ал негізгі пайым мүмкін болмағандықтан, тыйым тізімдері оқиға болған сайын нақты жолдармен өсіп отырады, сондықтан «stethoscope» өтеді де, «speculum» тыйым салынады. Әйелдерге тән аспаптар қауіптірек деп ешкім шешкен жоқ; тізім шағымдар түскен жерде өсті. Ол зиян теориясын емес, оператордың PR тарихын кодтайды.
Ең қатаң юрисдикция жаһандық әдепкіге айналады. Бір сүзгі әр елдегі әр қолданушыға қызмет етеді, сондықтан бір нарық үшін қосылған шектеу бәріне экспортталады — Си Цзиньпин ережесі оқулықтық мысал. Әрі промптыңызды қайта жазу мағынаңызды жояды, ал бұл OVERT-тің эксперименттік тұжырымы: сұранысын сүзгіден өткізу үшін эвфемизмге айналдырған әрбір кәсіби маман мұны өз қолымен растады. Сіз жеңген жоқсыз; сіз көндіңіз.
Мұның бәрі тегін емес, әрі ол үнсіз істен шығатындықтан, шығын оператор бақылайтын метрикаларда көрінбейді. Жеткілікті бас тартудан кейін сіз сұрауды доғарасыз, әрбір промптты өтеді деп болжағаныңызға дейін алдын ала тарылтасыз; ақыры өткен эвфемизм құжатыңызға керек нәрсеге жақын, бірақ дәл сол емес суретті береді. Жалпылама саясат хабарламасы қай қабат іске қосылғаны туралы ештеңе айтпайды, сондықтан сіз тек болжап, қайта көруге мәжбүрсіз — ал суретпен жұмыс итеративті, сондықтан бес әрекеттің бірін ұстайтын сүзгі процесті жай баяулатпай, бұзады. Сол уақытта салмақты құралға ең күшті талабы бар салалар ешқандай рецензент, апелляция әрі әдетте нені бұғаттайтынының жарияланған тізімін алмайды. Сіз оқи алмайтын ереже — ереже емес; ол ауа райы.
06Цензурасыз және сүзгіленген AI сурет генераторы: шын мәнінде не өзгереді
Міне, салыстырудың адал нұсқасы, оның ішінде сүзгісіз жүйе сізге не бермейтіні де бар.
| Өлшем | Сүзгіленген генератор | Сүзгісіз (Shannon) |
|---|---|---|
| Кім шешеді | Сөздер мен пиксельдерді оқитын жіктеуіш | Нақты промптты оқитын адам |
| Қашан білесіз | Жібергеннен кейін — кейде төлегеннен кейін | Ештеңе рендерленбей әрі есептелмей тұрып |
| Ереже деген не | Жарияланбаған, өзгеріп отыратын тыйым тізімдері | Жарияланған Жауапты пайдалану саясаты |
| Кәсіби контекст | Жүйеге көрінбейді | Сіз ұстайсыз әрі сіз жауап бересіз |
| Қателік түрі | Үнсіз шамадан тыс бұғаттау, мағынаның ауытқуы | Сұрағаныңызды аласыз — қателеріңізді қоса |
| Тәуекелді кім көтереді | Жеткізуші, оны сіздің жұмысыңызға артып | Ортақ: оператор саясаты плюс қолданушы жауапкершілігі |
Соңғы жол — адамдар аттап кететін, әрі ең маңызды жол. Сүзгіні алып тастау 02-бөлімдегі зиян санаттарын жоймайды; ол олар туралы нашар болжап отырған машинаны жояды. Міндет қай жерде болса, сол жерде қалады, тек енді оны контекст туралы пайымдай алатын екі тарап ұстайды: саясатты жариялап, орындататын оператор және сурет не үшін керегін білетін сіз. Сүзгісіз AI сурет генерациясы — өз шығысының артында тұруға дайын адамдарға арналған құрал — хирург атласы, сарапшы қорытындысы, сториборд, карикатура — оларды өзгелерден ажырата алмайтын жүйе тоқтатып келген еді.
07Shannon не істейді — және не істемейді
Мұнда дәлдік ынтадан маңыздырақ, әсіресе API іздеуінен келген оқырмандар үшін.
Не істейді
- Генерация. Суретті кез келген тілде, кәдімгі сөзбен сипаттаңыз. Қай тілде сұрасаңыз да, Shannon генерация промптын ағылшын тілінде өзі жазады.
- Бір суретті өңдеу. Дәл бір бастапқы сурет — әңгімеде бұрыннан бар не ағымдағы хабарламаңызға тіркелген — не өзгеретінін әрі не қалатынын айтатын нұсқаумен өзгертіледі. Шығыс бастапқы кадр арақатынасын автоматты түрде сақтайды.
- Екі не одан көп суретті біріктіру. Киім ауыстыру, нысанды көрініске енгізу, адамды адамның қасына қою, өнімді адамға кигізу, бір суреттің тақырыбын екіншісінің стилімен қосу. Промпт әр суреттің рөлін ретімен атайды, әрі нағыз суреттер пайдаланылады, сондықтан олардың нақты келбеті қайта сипатталмай, сақталады.
- Арақатынасты басқару. square (әдепкі), portrait, landscape, wide және tall. Тікелей сұраныс әрқашан жеңеді.
- Өз GPU кластерімізде рендерлеу, генерация жолында мазмұн сүзгісінсіз әрі промпт жазатын модельде бас тарту қабатынсыз.
Не істемейді
- Видео жоқ. Shannon суреттерді анимацияламайды әрі видео өндірмейді. Бұл әдейі жасырылып отырған жол картасының тармағы емес — ол мүлде жоқ.
- API-да емес. Сурет генерациясы, өңдеу және біріктіру Shannon чат қосымшасында тұрады. /v1 API мәтін мен көруге қызмет етеді — ол сіз жіберген суреттерді оқи алады — бірақ оларды рендерлемейді.
- Сұралмай генерация жоқ. Сәлемдесу, сұрақ немесе кездейсоқ тіркелген фото сурет жасауды іске қоспайды. Shannon-нан суретке қарауды сұрау — сипаттау, оқу, талдау — генерация емес, кәдімгі көру жұмысы әрі ол қосымша ақы алмайды.
Растау картасы
Сүзгіні алмастыратын механизм осы, әрі бұл формалдылық емес, дизайн шешімі. Shannon сіз сурет сұрап отырғаныңызды анықтағанда, генерация промптын жазады да, ештеңе рендерленбей тұрып оны сізге растау картасында көрсетеді. Сіз растамайынша ештеңе жасалмайды әрі ештеңе есептелмейді.
Дизайндарды мәні бойынша салыстырыңыз. Сүзгі сіздің ниетіңізді сізде бар ақпараттан азырақ ақпаратпен болжайды әрі болжамын үнсіз орындатады. Растау картасы суреттің нақты сипаттамасын, есептеу қуаты жұмсалмай тұрып, ол не үшін керегін білетін тараптың алдына қояды. Ол сұранысыңыздың қате оқылуын ұстайды, ал сүзгілер мұны ешқашан істемейді; ол модель жетік бермеген анатомиялық дәлдікті не тарихи бөлшекті қосуға мүмкіндік береді; әрі жауапкершілікті шашыраңқы емес, оқуға болатын етеді. Сіз промптты көрдіңіз әрі түймені өзіңіз бастыңыз.
08Сүзгісіз генерация жауапкершілікті арттырады, оны жоймайды
Бұл төменгі колонтитулда емес, дәл осы жерде тұруға тиіс, өйткені бұл — дәлелдің жартысы. Сүзгіленген генератор орындай алмайтын уәде береді: құрал сіздің атыңыздан теріс пайдалануды болдырмайды деген уәде. Ол екі бағытта да сәтсіздікке ұшырайды — ол хирургты бұғаттайды, әрі басқа мүмкіндіктері бар және әрқашан болған табанды зиянкесті тоқтатпайды. Оның сенімді істейтіні — жауапкершілік машина арқылы, жоғарыда шешілді деп бәріне сездіру. Сүзгіні алып тастау сол қиялды жояды; суреттің болу-болмауы туралы сұрақ оған жауап бере алатын адамдарға қайтады.
- Shannon Lab LLC-нің міндеті. Жарияланбаған тыйым тізімінің орнына тыйым салынған санаттарды атайтын жарияланған, нақты Жауапты пайдалану саясаты — сіз оқи алатын, сілтеме жасай алатын және бізден талап ете алатын ережелер.
- Сіздің міндетіңіз. Мақсатты, аудиторияны, юрисдикцияны және бейнеленген әр адамның келісім күйін сіз білесіз. Құрал білмейді, ал жіктеуіш ешқашан біле алмас еді. Растау картасы сол білім маңызды сәтте, оған иелік ететін тарап арқылы қолданылуы үшін бар.
- Жылжымайтын шекара. «Сүзгі мені тоқтатқан жоқ» ешбір медиада ешқашан ақтау болған емес. Камера бас тартпайды, қарындаш бас тартпайды; қолданысты аспап емес, заң мен кәсіби этика реттейді. Сүзгісіз генератор кез келген басқа кәсіби құрал жұмыс істейтін қалыпты тәртіпті қалпына келтіреді.
Бастамас бұрын Жауапты пайдалану саясатын оқып шығыңыз. Ол қысқа, нақты әрі осы өнімнің қалғанын ақтауға болатын ететін бөлігі.
09Жиі қойылатын сұрақтар
AI сурет генераторы анық заңды промптан неге бас тартады?
Себебі сүзгілердің көбі сіздің мақсатыңызды емес, промптыңыздағы сөздерді бағалайды. Модельдің алдында сіздің кім екеніңізге де, неге сұрап отырғаныңызға да қолжетімі жоқ жіктеуіш тұрады, сондықтан медициналық суретші де, сот сарапшысы да, зиянкес те бір зат есімді тереді әрі бәрі бірдей бас тарту алады. The Intercept 2023 жылғы сәуірде Midjourney speculum, placenta және cervix сияқты анатомиялық терминдерге тыйым салғанын, ал stethoscope қалыпты жұмыс істегенін хабарлады.
AI арт құралдарындағы мазмұн сүзгісінің жалған оң нәтижелерін өлшейтін зерттеу бар ма?
Иә. OVERT (arXiv:2505.21347, ICML 2025) — мәтіннен суретке модельдері үшін шамадан тыс бас тартудың алғашқы ауқымды бенчмаркі: тоғыз қауіпсіздік санаты бойынша зиянды көрінетін, бірақ шын мәнінде зиянсыз 4,600 промпт және бақылау ретінде шынымен зиянды 1,785 промпт. Оның авторлары шамадан тыс бас тартудың жетекші модельдер арасында кең тарағанын хабарлайды. Бөлек ECCV 2024 зерттеуі көркем жалаңаштықта бағаланған үш NSFW жіктеуішінде гендерлік және стильдік бұрмалау тапты.
Цензурасыз AI сурет генераторы шын мәнінде нені өзгертеді?
Ол генерация жолынан бас тарту қабаты мен мазмұн сүзгісін алып тастайды, сөйтіп заңды сұраныс үнсіз шабуыл деп қайта жіктелмейді. Ол пайымдауды жоймайды — оның орнын ауыстырады. Shannon ештеңе рендерленбей тұрып нақты генерация промптын растау картасында көрсетеді, сөйтіп шешімді не өндірілетінін көре алатын адам, Жауапты пайдалану саясаты аясында қабылдайды.
Shannon видео жасай ма?
Жоқ. Shannon жаңа суреттер жасайды, бар бір суретті өңдейді және екі не одан көп суретті бір суретке біріктіреді. Ол суреттерді анимацияламайды әрі ешқандай түрде видео өндірмейді.
Shannon API арқылы сурет жасай аламын ба?
Жоқ. Сурет генерациясы, өңдеу және біріктіру Shannon чат қосымшасында тұрады. /v1 API мәтін мен көруге қызмет етеді — сіз берген суреттерді оқып, талдайды — сурет генерациясына емес.
Егер сүзгі болмаса, теріс пайдалануды не тоқтатады?
Кілт сөз тыйым тізімі емес, саясат, жауапкершілік және көрінетін шешім нүктесі. Shannon ешқашан сұралмай генерацияламайды, рендерге дейін толық промптты көрсетеді, сіз растамайынша ештеңе есептемейді және кәмелетке толмағандар қатысатын сексуалдық мазмұнға, нақты адамдардың келісімінсіз жасалған жақын суреттеріне, мақсатты қудалауға әрі жеке басты не қаржылық құжаттарды қолдан жасауға тыйым салатын жарияланған Жауапты пайдалану саясаты аясында жұмыс істейді.
Шын мәнінде керек суретті сұраңыз
Чат қосымшасында генерация, бір суретті өңдеу және көп суретті біріктіру — мазмұн сүзгісінсіз, бас тарту қабатынсыз, әрі ештеңе рендерленбей тұрып промпт экранда.
Чатты бастау Жауапты пайдалану саясатыСуреттер чат қосымшасында · видео генерациясы жоқ · тағы зерттеулер
Дереккөздер: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023 жылғы 22 сәуір · PetaPixel, 2023 жылғы 3 сәуір · CNBC, 2024 жылғы 22 ақпан. Shannon AI-ды Shannon Lab LLC (Нью-Мексико, АҚШ) басқарады.