Senzurasiz va filtrlangan AI rasm generatori
Kontent filtrlari kichik bir to'plam haqiqiy zararlarni to'xtatish uchun qurilgan edi. Amalda esa ular tibbiy illyustratsiyani, sud-tibbiy rekonstruksiyani, naturadan chizishni, urush tarixini, tahririy satirani va kompaniyalarning o'z mahsulotini tasvirlashini ham to'xtatadi. Mana bu nimaga tushadi — va filtrni olib tashlash nimani o'zgartiradi, nimani esa yo'q.
TL;DR
Ommaviy rasm generatorlari promptlar va chiqishlarni so'zlar va piksellarni ko'radigan, maqsadni esa hech qachon ko'rmaydigan klassifikatorlar bilan tekshiradi. Bu xato ishlashni kafolatlaydi va zarba eng qattiq malakali ishga tushadi: anatomiya, sud-tibbiyot, badiiy nyular, tarixiy tasvirlar, oldindan vizualizatsiya, satira, xavfsizlik bo'yicha o'quv materiallari va o'z brendini so'ragan huquq egalari. Bu nosozlik uchun birinchi keng ko'lamli benchmark bo'lgan OVERT (ICML 2025) 4,600 zararsiz-lekin-shubhali prompt dan foydalanadi va ortiqcha rad etish yetakchi modellar bo'ylab keng tarqalganini aniqlaydi. Shannon rasm generatsiyasini, bitta rasmni tahrirlashni va ko'p rasmni birlashtirishni o'z GPU klasterimizda, kontent filtrisiz va rad etish qatlamisiz bajaradi hamda qora ro'yxat o'rniga ko'rinadigan qaror qo'yadi: hech narsa render qilinishidan oldin aniq promptni ko'rsatadigan tasdiq kartasi. Bu sizning ham, bizning ham mas'uliyatimizni oshiradi; ikkalasi ham Mas'uliyatli foydalanish siyosatida. Video generatsiyasi yo'q va rasm ishi API da emas, chat ilovasida.
Rasmlar bilan kasbiy shug'ullanadigan deyarli har bir odamning hikoyasi bir xil. Oddiy narsani tasvirlaydigan prompt — tizza bo'g'imining kesimi, zarba lahzasidagi avtomobil, ko'mir qalamdagi natura etyudi, 1944-yildagi askar — siyosat buzilishi sifatida qaytadi. Siz qayta ifodalaysiz va boshqa buzilishni olasiz. Oxir-oqibat o'tib ketadigan darajada mavhum narsa yozasiz va endi sizga kerak bo'lgan narsani ko'rsatmaydigan rasm olasiz. Vosita baland ovozda ishdan chiqmadi; u bosqichma-bosqich ishdan chiqdi va murosaga borgan tomon sizni qildi.
01Nega AI rasm generatori aniq qonuniy promptni rad etadi?
Rad javobi odatda rasm modelining fikri emas. Bu model atrofidagi filtrlash stekining natijasi va uning qatlamlari siz olgan deyarli har bir g'alati rad javobini tushuntiradi.
| Qatlam | Nimani tekshiradi | Xarakterli nosozlik |
|---|---|---|
| Prompt qora ro'yxati | Matningizdagi so'zma-so'z satrlar va ularga yaqin shakllar | So'zni atrofidagi gapdan qat'i nazar to'sadi — "speculum" o'tmaydi, "stethoscope" o'tadi |
| Prompt klassifikatori | Promptning "xavfi" haqidagi o'rgatilgan hukm | Mavzuga yaqinlikdan ishlaydi: tibbiyot, qurol, tana yoki siyosatga yaqin har narsa yuqori ball oladi |
| Modelni rad etishga o'rgatish | Modelning o'zida tarbiyalangan istamaslik | Xato bermasdan rad etadi yoki jimgina tozalangan o'rinbosarni ishlab chiqaradi |
| Chiqish klassifikatori | Render qilingan piksellar, prompt konteksti bo'lmagan holda | Anatomiya rasmini pornografiyadan yoki kino kadrini haqiqiy voqeadan ajrata olmaydi |
| Siyosat bo'yicha almashtirish | Renderdan oldin promptingizni jimgina qayta yozish | Siz rasm olasiz, lekin siz ko'rsatganini emas va nega bunday bo'lgani sizga aytilmaydi |
Har bir qatlamda bitta umumiy ko'r nuqta bor: hech biri nega so'rayotganingizni ko'ra olmaydi. Tibbiy illyustrator, to'qnashuvni qayta tiklayotgan da'vogar eksperti va yomon niyatli odam bir xil otni yozadi. Filtr atlasni yoki ish jildini emas, otni ko'radi va u o'tkazib yuborgan zararlar bo'yicha baholanadi — hech qachon yo'q qilgan ishi bo'yicha emas. Bunday assimetriyada har qanday operator uchun oqilona sozlama — ko'proq rad etish. "Shunchaki boshqacha ifodalang" nega yechim emasligi ham shundan: qayta ifodalash filtrga u bilmagan hech qanday ma'lumot bermaydi, u faqat promptingizni ishga tushirgan so'zlardan uzoqlashtiradi, bu esa odatda siz nazarda tutgan narsadan uzoqlashish demakdir.
02Kontent filtrlari haqiqatan nimaning oldini olish uchun bor
Filtrlar hech qanday sababsiz mavjud degandek ko'rsatadigan filtrsiz generatsiya foydasiga dalil o'qishga arzimaydi. Zarari kim so'ragani va nima uchun so'raganidan qat'i nazar, rasmning o'ziga xos bo'lgan tor bir to'plam chiqishlar bor:
- Voyaga yetmaganlar ishtirokidagi jinsiy kontent. Hech qanday kontekst uni maqbul qilmaydi; hech qanday kasbiy jarayon buni talab qilmaydi.
- Haqiqiy odamlarning roziliksiz intim tasvirlari. Zarar rozilik bermagan odamga tushadi va o'chirish uni orqaga qaytarmaydi.
- Maqsadli ta'qib va tuhmatli soxtalashtirish — nomi ma'lum shaxsni qilmagan ishini qilgandek ko'rsatish.
- Soxtalashtirish darajasidagi hujjatlar — haqiqiy sifatida o'tishi uchun yasalgan pasportlar, shaxsni tasdiqlovchi kartalar, banknotlar, muhrlar va moliyaviy hujjatlar.
- Aldamchi sintetik dalil — haqiqiy voqealarning to'qilgan tasvirlari illyustratsiya emas, hujjat sifatida taqdim etilishi.
Ro'yxat qisqa va uning tuzilishi bor: zarar artefaktning o'zida, uning haqiqiy odam yoki hujjatga o'xshashligida va haqiqat sifatida taqdim etilishida yashaydi. Unda nima yo'qligiga e'tibor bering — yalang'ochlik, qon, qurollar, tarixiy vahshiylik, siyosiy masxara. Bular tibbiyot, jurnalistika, san'at, sud-tibbiyot va satiraning xomashyosi va ularni zarar toifasi deb hisoblaydigan filtr qaysi mavzular hurmatga loyiqligi haqidagi ancha kengroq g'oyani amalga oshiryapti.
Shannon o'sha ro'yxatdagi hamma narsani taqiqlaydi — "placenta" ni ham ushlab qoladigan kalit so'zlar jadvali bilan emas, nomlangan toifalari va oqibatlari ko'rsatilgan chop etilgan Mas'uliyatli foydalanish siyosati bilan. Biri — siz o'qiy oladigan va bizni javob berishga majbur qila oladigan qoida; ikkinchisi — siz ko'ra olmaydigan klassifikatorning niyatlaringiz haqidagi taxmini.
03Ortiqcha rad etish muammosi qanchalik katta? Tadqiqot nimani o'lchaydi
Yaqin vaqtgacha rasm modellaridagi ortiqcha rad etish anekdot edi — minglab odamda bir xil hikoya bor, uni o'lchashning yo'li esa yo'q. Buni OVERT (OVEr-Refusal evaluation on Text-to-image models) o'zgartirdi: ICML 2025 da Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song va Song Mei ni o'z ichiga olgan UC Berkeley guruhi taqdim etgan, matndan-rasmga tizimlar butunlay zararsiz promptlarni qanchalik tez-tez rad etishini o'lchagan birinchi keng ko'lamli benchmark.
Dizayn muhim. 4,600 prompt zararsiz bo'la turib zararli ko'rinishi uchun tuzilgan — skalpel, ko'karish yoki norozilik namoyishini tilga oladigan haqiqiy kasbiy so'rov shaklida — va ular yonida nazorat sifatida 1,785 ta chinakam zararli prompt turadi, shuning uchun model hamma narsani rad etib yaxshi ball ololmaydi. To'qqizta toifa shaxsiy va jamoat arboblari maxfiyligidan tortib mualliflik huquqi, kamsitish, o'z-o'ziga zarar, jinsiy kontent va noqonuniy faoliyat orqali zo'ravonlikkacha boradi.
Asosiy xulosa shuki, ortiqcha rad etish toifalar bo'ylab ham, yetakchi modellar bo'ylab ham keng tarqalgan. Ikkinchisi standart chetlab o'tish yo'li uchun yanada halokatli: mualliflar yumshatish sifatida promptni qayta yozishni sinab ko'rgan va u "ko'pincha asl promptlarning ma'nosiga sodiqlikni buzadi" deb xabar qiladi. Siz so'raganingizni o'zgartirib filtrdan o'tishingiz mumkin, keyin esa so'raganingiz sizda qolmaydi.
Torroq tadqiqot xuddi shu xulosaga piksel tomonidan keladi. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann va Oliver, ECCV 2024 dagi AI4VA seminari) da mualliflar uchta ishlab chiqarish NSFW klassifikatorini badiiy yalang'ochlikda baholaydi va ham gender tarafkashligini, ham uslubiy tarafkashlikni topadi: natura etyudi bo'yicha hukm kimning tanasi va qanday uslubda tasvirlanganiga bog'liq. Bu — har bir naturadan chizuvchi rassomga xayoliy deb aytilgan narsaning o'lchangan bayoni.
04Filtrlangan generatorlar to'sib qo'yadigan qonuniy ishning sakkiz turi
Bular ortiqcha rad etish noqulaylik emas, ishning to'xtashi bo'lgan toifalar. Aniq xabar qilingan holat mavjud bo'lganda u keltiriladi; tasdiqlanmagan joyda esa toifa voqea to'qimasdan tasvirlanadi.
1. Tibbiy va anatomik illyustratsiya
Sohadagi eng yaxshi hujjatlashtirilgan holat. 2023-yil aprelida The Intercept (Debbie Nathan) Midjourney speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom va IUD kabi anatomik atamalarni taqiqlaganini xabar qilgan, DALL·E 2 esa "pills used in medication abortion" so'rovini kontent siyosati xabari bilan rad etgan. Bu naqshni klinik ma'lumotlar tahlilchisi Julia Rockwell topgan: u hujayra biologi do'stiga sovg'a uchun platsenta rasmini yaratmoqchi bo'lgan va buni MIT Technology Review ga xabar qilgan. Assimetriya hamma narsani ochib beradi: "stethoscope" odatdagidek ishlagan, "speculum" esa taqiqlangan. Vashington universiteti tadqiqotchisi Bill Howe filtrlarni "qo'pol" deb atagan va ular "ko'payish haqida ilmiy muhokama qilishni deyarli imkonsiz" qilganini aytgan. Bemorlarni o'qitish, jarrohlik atlaslari va hamshiralik o'quv dasturlarining hammasiga tana aniq tasvirlangan holda kerak, jumladan kalit so'zlar ro'yxati odobsiz deb qaror qilgan qismlari ham.
2. Sud-tibbiy va avariya rekonstruksiyasi
To'qnashuvni qayta tiklash, yong'in manbaini tahlil qilish va sud uchun ko'rgazmali materiallar shikast, jarohat va zo'ravonlik mexanikasini klinik aniqlik bilan tasvirlashni talab qiladi. "Qon" yoki "o'q jarohati" ni rad etishga sozlangan filtr butun sohani rad etadi: kontekst — ekspert xulosasi, sug'urta ishi — klassifikatorga ko'rinmaydi va bunday tasvirlarni sudda qabul qilinadigan qiladigan betaraflikning o'zi ularni qonli sahna sifatida o'qilishiga sabab bo'ladi.
3. Badiiy nyular va naturadan chizish
Nyu — hamma joyda san'atning poydevor mavzusi va natura etyudi san'at ta'limining o'zagi. Yuqoridagi ECCV 2024 natijasi rassomlar aytadigan narsaning o'lchangan versiyasi: klassifikatorlar natura etyudini pornografiyadan ishonchli ajratmaydi va ularning xatolari gender hamda uslub bo'yicha tarafkash — filtr aynan tanishi kerak bo'lgan an'anaga eng qattiq zarba beradi.
4. Tarixiy va urush davri tasvirlari
Darslik rasmlari, muzey talqini va yodgorlik loyihalari harbiy formalar, qurollar, lagerlar, janglar va vahshiylikni tasvirlashni talab qiladi. 2024-yil fevralidagi Gemini voqeasi ibratli, chunki nosozlik teskari yo'nalishda kechgan va xuddi shunday zarar keltirgan. Google 2024-yil 22-fevralda Gemini ning odamlar tasvirini yaratish qobiliyatini to'xtatdi, chunki u tarixiy guruhlarni, jumladan natsistlar davridagi nemis askarlarini irqiy jihatdan qayta tuzilgan holda tasvirlagan edi. Bosh direktor Sundar Pichai chiqishlarni "mutlaqo qabul qilib bo'lmaydigan" deb atadi; SVP Prabhakar Raghavan model "ortiqcha kompensatsiya qilgan" va "haddan tashqari ehtiyotkor" bo'lib qolganini tan oldi. Kontekstni ko'rmaydigan xavfsizlik tarixiy tasvirlarni xavfsizroq qilmadi — u ularni yolg'on qildi, bu esa tarix nashriyoti uchun battar.
5. Badiiy asardagi zo'ravonlik va kino uchun oldindan vizualizatsiya
Storibordlar, konsept-art, komikslar va o'yin dizayni zo'ravonlikni romanlar va filmlar bilan bir sababdan tasvirlaydi. Xorror storibordini tahdiddan ajrata olmaydigan filtr butun hikoya san'ati konveyerini shubhali deb hisoblaydi — holbuki storibord ochiqchasiga haqiqiy emas, u aktyorlar va effekt guruhlari sahnalashtiradigan sahna rejasi.
6. Siyosiy satira va tahririy karikatura
Hokimiyatdagilarning karikaturasi ko'pchilik demokratiyalarda so'z erkinligining eng himoyalangan toifalaridan biri va rasm filtri birinchi bo'lib olib tashlaydigan narsa. Eng aniq hujjatlashtirilgan holat — Midjourney ning 2023-yil apreldagi qarori: Xitoy raisi Si Szinpin tasvirlarini taqiqlash va uning ismini promptlarda bloklash — bu haqda PetaPixel, Decrypt va boshqalar xabar bergan — boshqa dunyo yetakchilariga esa ruxsat berishda davom etilgan. Asoschi David Holz Discord da kompaniya "dramani kamaytirishni" xohlaganini va "Xitoydagi odamlarning bu texnologiyadan foydalana olishi sizning satira yaratish qobiliyatingizdan muhimroq" ekanini tushuntirgan; Foundation for Individual Rights and Expression dan Sarah McLaughlin buni senzura deb atagan. Biznes hisob-kitobi haqida qanday xulosa qilishdan qat'i nazar, mexanizmni nomlash kerak: milliy so'z cheklovi butun dunyodagi har bir foydalanuvchiga qo'llangan, chunki global filtrda faqat bitta sozlama bor.
7. Xavfsizlik tadqiqoti va fishingdan ogohlantirish materiallari
Xavfsizlik guruhlari o'zi ogohlantirayotgan narsaga o'xshashi shart bo'lgan o'quv materiallari yasaydi: ishonarli soxta kirish ekrani, soxta hisob-faktura, parkovka schyotchigidagi zararli QR kod. Klassifikator uchun bu o'zi emlaydigan hujumdan farq qilmaydi — haqiqatga o'xshashlik butun gap shu — shuning uchun filtrlar mudofaani va hujumni bir xil to'sadi va hujumchiga afzallik beradi, chunki u baribir hech qachon filtrlangan iste'molchi vositasidan foydalanmagan bo'lardi.
8. O'z brendi, mahsuloti yoki o'xshashligi rasmi rad etilgan huquq egalari
Mualliflik huquqi va tovar belgisi bo'yicha filtrlash egalikni tekshirmaydi; u o'xshashlikni tekshiradi. Kompaniya o'z logotipi yoki mahsuloti tasvirini oson yarata olmaydi, huquq egasi o'z personajini tasvirlay olmaydi va odamlar ko'pincha o'z yuzini yarata olmaydi, chunki o'xshashlik filtrlari rozilikka emas, tanib olinishga qaraydi. OVERT o'zining to'qqizta ortiqcha rad etish toifasiga "mualliflik huquqi buzilishi" ni aynan shu xato juda keng tarqalgani uchun kiritadi. Filtr — bunga haqingiz bormi? degan, o'zi so'rashning hech qanday yo'li bo'lmagan savol uchun qo'pol asbob.
Yuqoridagi sakkiztadan to'rttasi aniq chop etilgan holatga bog'langan (tibbiyot, badiiy nyular, tarix, satira), sakkizinchisi uchun esa OVERT ning mualliflik huquqi toifasi. Sud-tibbiyot, badiiy asar uchun oldindan vizualizatsiya va xavfsizlik bo'yicha o'quv materiallari toifa sifatida keltirilgan: bular ta'sir ko'rgan kasbiy ishning yaxshi ma'lum sinflari, ammo biz ular uchun aniq chop etilgan voqeani tasdiqlamadik.
Yuqoridagi har bir hujjatlashtirilgan holat ochiq va mustaqil tekshirilishi mumkin. Bizning bayonimizga ishonish o'rniga ularni o'zingiz o'qing.
05Nega AI art generatorlari noto'g'ri narsalarni to'sadi va nega kontent filtrining xato ishlashini sozlash bilan yo'q qilib bo'lmaydi
Ortiqcha to'sishga instinktiv javob — "chegarani yumshating". Bu ishlamaydi, sababi harakat yetishmasligi emas, tuzilma.
Toifalar signalda kesishadi, haqiqatda esa yo'q. Jarrohlik illyustratsiyasi va pornografiya yalang'ochlikni baham ko'radi. Sud-tibbiy rekonstruksiya va qonli sahna qonni baham ko'radi. Ogohlantirish slaydi va fishing to'plami soxta kirish formasini baham ko'radi. Satirik karikatura va tuhmatli soxta tasvir tanilgan siyosatchini baham ko'radi. Har bir juftni ajratadigan narsa — maqsad va taqdimot — promptda ham, piksellarda ham yo'q. Kirish fazosining bir xil hududini egallagan ikki to'plamni hech qanday chegara ajratmaydi; uni siljitish faqat bir xatoni ikkinchisiga almashtiradi. Gemini voqeasi ko'rsatgan narsa ham shu: bitta nosozlikni tuzatish uchun qilingan aralashuv boshqasini keltirib chiqardi va uni Google ning o'z SVP si "ortiqcha kompensatsiya qilgan" deb tavsifladi.
Xarajatlar operator uchun assimetrik, siz uchun emas. Bitta yomon rasmni o'tkazib yuborgan filtr yangilik mavzusiga aylanadi. O'n ming qonuniy rasmni to'sgan filtr esa sukunat keltiradi, chunki rad etilgan foydalanuvchilar uyushmaydi — ular voz kechadi. Bunday assimetriyadagi risk boshqaruvi doimiy ravishda ortiqcha to'sishga yaqinlashadi. Asosdagi hukm imkonsiz bo'lgani uchun qora ro'yxatlar voqealar sodir bo'lgan sari so'zma-so'z satrlarni yig'ib boradi va "stethoscope" ruxsat etilib, "speculum" taqiqlangani ham shundan. Hech kim ayollarga xos asboblarni xavfliroq deb qaror qilmagan; ro'yxat shikoyatlar tushgan joyda o'sgan. U zarar nazariyasini emas, operatorning PR tarixini kodlaydi.
Eng qattiq yurisdiksiya global standartga aylanadi. Bitta filtr har bir mamlakatdagi har bir foydalanuvchiga xizmat qiladi, shuning uchun bitta bozor uchun qo'shilgan cheklov hammasiga eksport qilinadi — Si Szinpin qoidasi klassik misol. Va promptingizni qayta yozish ma'nongizni yo'q qiladi, bu OVERT ning eksperimental xulosasi: filtrdan o'tkazish uchun so'rovini evfemizmga aylantirgan har bir mutaxassis buni qo'li bilan tasdiqlagan. Siz yutmadingiz; siz kelishdingiz.
Bularning hech biri tekin emas va u jimgina ishdan chiqqani uchun xarajat operator kuzatadigan ko'rsatkichlarda ko'rinmaydi. Yetarlicha rad javobidan keyin siz so'rashni to'xtatasiz va har bir promptni o'tadi deb o'ylagan narsangizga oldindan toraytirasiz; nihoyat o'tgan evfemizm esa hujjatingizga kerak bo'lgan narsaga yaqin, lekin o'sha bo'lmagan rasm beradi. Umumiy siyosat xabari sizga qaysi qatlam ishlaganini aytmaydi, shuning uchun siz faqat taxmin qilib qayta urinishingiz mumkin — rasm ishi esa iterativ, ya'ni besh urinishdan bittasini ushlaydigan filtr uni shunchaki sekinlatmaydi, siklni buzadi. Shu bilan birga jiddiy vositalarga eng kuchli da'vosi bor sohalar na ko'rib chiquvchi, na apellyatsiya, na odatda nima to'silgani haqidagi chop etilgan ro'yxatni oladi. O'qib bo'lmaydigan qoida — qoida emas; u ob-havo.
06Senzurasiz va filtrlangan AI rasm generatori: aslida nima o'zgaradi
Mana taqqoslashning halol versiyasi, jumladan filtrsiz tizim sizga nima bermasligi ham.
| O'lchov | Filtrlangan generator | Filtrsiz (Shannon) |
|---|---|---|
| Kim qaror qiladi | So'z va piksellarni o'qiydigan klassifikator | Aniq promptni o'qiydigan odam |
| Qachon bilib olasiz | Yuborganingizdan keyin — ba'zan to'laganingizdan keyin | Hech narsa render qilinmasdan va to'lov olinmasdan oldin |
| Qoida nima | Chop etilmagan, o'zgarib turadigan qora ro'yxatlar | Chop etilgan Mas'uliyatli foydalanish siyosati |
| Kasbiy kontekst | Tizimga ko'rinmaydi | Siz ushlaysiz va siz javob berasiz |
| Nosozlik ko'rinishi | Jimgina ortiqcha to'sish, ma'no siljishi | Siz so'raganingizni olasiz — xatolar bilan birga |
| Riskni kim ko'taradi | Sotuvchi, uni sizning ishingizga yuklab | Bo'lishilgan: operator siyosati plyus foydalanuvchi javobgarligi |
Oxirgi qator — odamlar tashlab ketadigani va aynan muhimi. Filtrni olib tashlash 02-bo'limdagi zarar toifalarini olib tashlamaydi; u ular haqida yomon taxmin qilayotgan mashinani olib tashlaydi. Majburiyat qayerda bo'lsa o'sha yerda qoladi, faqat endi uni kontekst haqida mulohaza yurita oladigan ikki tomon ushlaydi: siyosatni chop etadigan va uni qo'llaydigan operator hamda rasm nima uchun kerakligini biladigan siz. Filtrsiz AI rasm generatsiyasi — o'z chiqishi ortida turishga allaqachon tayyor odamlar uchun vosita — jarrohning atlasi, ekspert xulosasi, storibord, karikatura — ularni boshqa birovdan ajrata olmaydigan tizim to'xtatib turgan edi.
07Shannon nima qiladi — va nima qilmaydi
Bu yerda aniqlik ishtiyoqdan muhimroq, ayniqsa API qidiruvidan kelgan o'quvchilar uchun.
U nima qiladi
- Generatsiya. Rasmni oddiy tilda, istalgan tilda tasvirlang. Siz qaysi tilda so'ragan bo'lsangiz ham, Shannon generatsiya promptini o'zi ingliz tilida yozadi.
- Bitta rasmni tahrirlash. Aynan bitta manba — suhbatda allaqachon bor rasm yoki joriy xabaringizga biriktirilgani — nima o'zgaradi va nima qoladi deb aytadigan ko'rsatma bilan o'zgartiriladi. Chiqish manba tomonlar nisbatini avtomatik saqlaydi.
- Ikki yoki undan ortiq rasmni birlashtirish. Kiyimni ko'chirish, obyektni sahnaga, odamni odam yoniga, mahsulotni odam ustida, bir rasmning sub'ekti bilan boshqasining uslubi. Prompt har bir rasmning rolini tartib bilan nomlaydi va haqiqiy rasmlardan foydalaniladi, shuning uchun ularning aslidagi ko'rinishi qayta tasvirlanmaydi, saqlanadi.
- Nisbat nazorati. square (standart), portrait, landscape, wide va tall. Aniq so'rov doim g'olib.
- Render o'z GPU klasterimizda, generatsiya yo'lida kontent filtrisiz va promptni yozadigan modelda rad etish qatlamisiz.
U nima qilmaydi
- Video yo'q. Shannon rasmlarni jonlantirmaydi va video ishlab chiqarmaydi. Bu ayyorlik bilan yashirib turilgan reja bandi emas — u umuman mavjud emas.
- API da emas. Rasm generatsiyasi, tahriri va birlashtirilishi Shannon chat ilovasida joylashgan. /v1 API matn va tasvirga xizmat qiladi — u siz yuborgan rasmlarni o'qiy oladi — lekin ularni render qilmaydi.
- So'ralmagan generatsiya yo'q. Salomlashish, savol yoki shunchaki biriktirilgan foto rasm yaratishni ishga tushirmaydi. Shannon dan rasmga qarashni so'rash — uni tavsiflash, o'qish, tahlil qilish — oddiy tasvirni o'qish ishi, generatsiya emas va qo'shimcha xarajat talab qilmaydi.
Tasdiq kartasi
Bu — filtr o'rnini bosadigan mexanizm va u rasmiyatchilik emas, dizayn qarori. Shannon siz rasm so'rayotganingizni aniqlaganda, generatsiya promptini yozadi va hech narsa render qilinishidan oldin uni sizga tasdiq kartasida ko'rsatadi. Siz tasdiqlamaguningizcha hech narsa yaratilmaydi va hech narsa uchun to'lov olinmaydi.
Dizaynlarni mohiyati bo'yicha solishtiring. Filtr sizning niyatingizni sizdagidan kamroq ma'lumot bilan taxmin qiladi va bu taxminni jimgina amalga oshiradi. Tasdiq kartasi esa hech qanday hisoblash quvvati sarflanmasdan oldin rasmning so'zma-so'z spetsifikatsiyasini u nima uchun kerakligini biladigan tomon oldiga qo'yadi. U so'rovingiz noto'g'ri tushunilganini ushlaydi, filtrlar buni hech qachon qilmaydi; u model yetarlicha ko'rsatmagan anatomik aniqlik yoki tarixiy tafsilotni qo'shishga imkon beradi; va u mas'uliyatni tarqoq emas, o'qiladigan qiladi. Siz promptni ko'rdingiz va tugmani bosdingiz.
08Filtrsiz generatsiya mas'uliyatni oshiradi, uni olib tashlamaydi
Bu kolontitulda emas, shu yerda turishi kerak, chunki bu dalilning yarmi. Filtrlangan generator bajara olmaydigan va'da beradi: vosita siz uchun suiiste'molning oldini oladi. U ikkala yo'nalishda ham ishdan chiqadi — u jarrohni to'sadi va qat'iy niyatli yomon aktyorni to'xtatmaydi, chunki uning boshqa imkoniyatlari bor va doim bo'lgan. U ishonchli qiladigan narsa — hammaga mas'uliyat yuqorida, mashina tomonidan hal qilingandek tuyulishi. Filtrni olib tashlash bu uydirmani olib tashlaydi; rasm mavjud bo'lishi kerakmi degan savol unga javob bera oladigan odamlarga qaytadi.
- Shannon Lab LLC ning majburiyati. Chop etilmagan qora ro'yxat emas, taqiqlangan toifalarni nomlaydigan chop etilgan, aniq Mas'uliyatli foydalanish siyosati — siz o'qiy oladigan, iqtibos keltira oladigan va bizni javob berishga majbur qila oladigan qoidalar.
- Sizning majburiyatingiz. Siz maqsadni, auditoriyani, yurisdiksiyani va tasvirlangan har bir kishining rozilik holatini bilasiz. Vosita bilmaydi va klassifikator hech qachon bila olmasdi. Tasdiq kartasi shuning uchun mavjud-ki, bu bilim aynan muhim lahzada, unga ega bo'lgan tomon tomonidan qo'llansin.
- Siljimaydigan chegara. "Filtr meni to'xtatmadi" hech qachon, hech qanday muhitda himoya bo'lmagan. Kamera rad etmaydi, qalam rad etmaydi; qonun va kasbiy etika asbobni emas, foydalanishni tartibga soladi. Filtrsiz generator boshqa har bir kasbiy vosita ishlaydigan oddiy tartibni tiklaydi.
Boshlashdan oldin Mas'uliyatli foydalanish siyosatini o'qing. U qisqa, aniq va bu mahsulotning qolgan qismini oqlaydigan qismi.
09Tez-tez so'raladigan savollar
Nega AI rasm generatori aniq qonuniy promptni rad etadi?
Chunki ko'pchilik filtrlar sizning maqsadingizni emas, promptingizdagi so'zlarni baholaydi. Model oldida siz kimligingiz va nega so'rayotganingiz haqida hech qanday ma'lumotga ega bo'lmagan klassifikator turadi, shuning uchun tibbiy illyustrator, sud eksperti va yomon niyatli odam bir xil otni yozadi va bir xil rad javobini oladi. The Intercept 2023-yil aprelida Midjourney speculum, placenta va cervix kabi anatomik atamalarni taqiqlaganini, stethoscope esa odatdagidek ishlaganini xabar qilgan.
AI art vositalarida kontent filtrining xato ishlashini o'lchagan tadqiqot bormi?
Ha. OVERT (arXiv:2505.21347, ICML 2025) — matndan-rasmga modellar uchun birinchi keng ko'lamli ortiqcha rad etish benchmarki: to'qqizta xavfsizlik toifasi bo'yicha zararli ko'rinadigan, ammo aslida zararsiz 4,600 prompt va nazorat uchun 1,785 ta chinakam zararli prompt. Uning mualliflari ortiqcha rad etish yetakchi modellar bo'ylab keng tarqalganini xabar qiladi. Alohida ECCV 2024 tadqiqoti badiiy yalang'ochlikda baholangan uchta NSFW klassifikatorda gender va uslubiy tarafkashlikni aniqlagan.
Senzurasiz AI rasm generatori aslida nimani o'zgartiradi?
U generatsiya yo'lidan rad etish qatlamini va kontent filtrini olib tashlaydi, shuning uchun qonuniy so'rov jimgina hujum deb qayta tasniflanmaydi. U hukmni olib tashlamaydi — uning o'rnini almashtiradi. Shannon hech narsa render qilinishidan oldin sizga aniq generatsiya promptini tasdiq kartasida ko'rsatadi, shunday qilib qarorni nima ishlab chiqarilishini ko'ra oladigan odam qabul qiladi, Mas'uliyatli foydalanish siyosati doirasida.
Shannon video yaratadimi?
Yo'q. Shannon yangi rasmlar yaratadi, mavjud bitta rasmni tahrirlaydi va ikki yoki undan ortiq rasmni bittaga birlashtiradi. U rasmlarni jonlantirmaydi va hech qanday turdagi video ishlab chiqarmaydi.
Shannon API orqali rasm yarata olamanmi?
Yo'q. Rasm generatsiyasi, tahriri va birlashtirilishi Shannon chat ilovasida joylashgan. /v1 API matn va tasvirga xizmat qiladi — siz bergan rasmlarni o'qiydi va tahlil qiladi — rasm generatsiyasiga emas.
Agar filtr bo'lmasa, suiiste'molni nima to'xtatadi?
Kalit so'zlar qora ro'yxati emas, siyosat, javobgarlik va ko'rinadigan qaror nuqtasi. Shannon hech qachon so'ralmasdan rasm yaratmaydi, renderdan oldin to'liq promptni ko'rsatadi, siz tasdiqlamaguningizcha hech narsa uchun to'lov olmaydi va voyaga yetmaganlar ishtirokidagi jinsiy kontentni, haqiqiy odamlarning roziliksiz intim tasvirlarini, maqsadli ta'qibni hamda shaxsni tasdiqlovchi yoki moliyaviy hujjatlarni soxtalashtirishni taqiqlaydigan chop etilgan Mas'uliyatli foydalanish siyosati asosida ishlaydi.
Sizga haqiqatan kerak bo'lgan rasmni so'rang
Chat ilovasida generatsiya, bitta rasmni tahrirlash va ko'p rasmni birlashtirish — kontent filtrisiz, rad etish qatlamisiz va hech narsa render qilinishidan oldin prompt ekranda.
Chatni boshlash Mas'uliyatli foydalanish siyosatiRasmlar chat ilovasida · video generatsiyasi yo'q · boshqa research
Manbalar: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023-yil 22-aprel · PetaPixel, 2023-yil 3-aprel · CNBC, 2024-yil 22-fevral. Shannon AI ni Shannon Lab LLC, Nyu-Meksiko, AQSh boshqaradi.