Senzurasız və Filtrli AI Şəkil Generatoru
Məzmun filtrləri kiçik bir real zərər dəstinin qarşısını almaq üçün qurulmuşdu. Praktikada onlar həm də tibbi illüstrasiyanı, məhkəmə-tibbi rekonstruksiyanı, natura rəsmini, müharibə tarixini, redaksiya satirasını və şirkətlərin öz məhsullarını təsvir etməsini dayandırır. Bunun qiyməti budur — və filtrin götürülməsinin nəyi dəyişib nəyi dəyişmədiyi.
Qısaca
Əsas şəkil generatorları promptları və çıxışları sözləri və pikselləri görən, məqsədi isə heç vaxt görməyən təsnifatçılarla süzgəcdən keçirir. Bu, yalançı müsbətlərə zəmanət verir və onlar ən ağır şəkildə ixtisaslı işin üzərinə düşür: anatomiya, məhkəmə-tibbi ekspertiza, art nüdləri, tarixi şəkillər, ilkin vizuallaşdırma, satira, təhlükəsizlik maarifləndirmə materialları və öz brendini istəyən hüquq sahibləri. Bu uğursuzluq növü üçün ilk genişmiqyaslı benchmark olan OVERT (ICML 2025) 4,600 zərərsiz, lakin şübhəli görünən prompt istifadə edir və həddindən artıq imtinanın aparıcı modellər arasında geniş yayıldığını aşkarlayır. Shannon şəkil yaratmanı, tək şəkil redaktəsini və çoxşəkilli birləşdirməni öz GPU klasterimizdə, məzmun filtri və imtina qatı olmadan icra edir və qara siyahını görünən bir qərarla əvəz edir: render başlamazdan əvvəl dəqiq promptu göstərən təsdiq kartı. Bu, həm sizin, həm də bizim məsuliyyətimizi artırır; hər ikisi Məsuliyyətli İstifadə Siyasətindədir. Video generasiyası yoxdur və şəkil işi API-da deyil, çat tətbiqindədir.
Şəkillərlə peşəkar işləyən demək olar ki, hər kəsin eyni hekayəsi var. Adi bir şeyi təsvir edən prompt — diz oynağının kəsiyi, toqquşma anındakı avtomobil, kömürlə çəkilmiş fiqur etüdü, 1944-cü ildə bir əsgər — siyasət pozuntusu kimi geri qayıdır. Yenidən ifadə edirsiniz, başqa bir pozuntu alırsınız. Sonda keçəcək qədər qeyri-müəyyən nəsə yazırsınız və artıq sizə lazım olanı göstərməyən bir şəkil alırsınız. Alət ucadan uğursuz olmadı; dərəcə-dərəcə uğursuz oldu və güzəştə gedəni siz etdi.
01AI şəkil generatoru açıq-aydın qanuni olan promptdan niyə imtina edir?
İmtina adətən şəkil modelinin fikri deyil. O, modelin ətrafındakı filtrləmə yığınının nəticəsidir və onun qatları aldığınız demək olar ki, hər qəribə imtinanı izah edir.
| Qat | Nəyi yoxlayır | Xarakterik uğursuzluq |
|---|---|---|
| Prompt qara siyahısı | Mətninizdəki hərfi sətirlər və yaxın variantlar | Ətrafındakı cümlədən asılı olmayaraq sözü bloklayır — "speculum" keçmir, "stethoscope" keçir |
| Prompt təsnifatçısı | Promptun "riski" barədə öyrənilmiş mühakimə | Mövzu yaxınlığına görə işə düşür: tibbə, silaha, bədənə və ya siyasətə yaxın hər şey yüksək bal alır |
| Modelin imtina təlimi | Modelin öz öyrədilmiş çəkinməsi | Xəta vermədən imtina edir və ya səssizcə steril bir əvəzedici istehsal edir |
| Çıxış təsnifatçısı | Render olunmuş piksellər, prompt konteksti olmadan | Anatomiya lövhəsini pornoqrafiyadan və ya film kadrını real hadisədən ayıra bilmir |
| Siyasət əvəzləməsi | Renderdən əvvəl promptunuzun səssizcə yenidən yazılması | Şəkil alırsınız, amma göstərdiyinizi yox, üstəlik səbəbi sizə deyilmir |
Hər qat bir kor nöqtəni bölüşür: heç biri niyə soruşduğunuzu görə bilmir. Tibbi illüstrator, toqquşmanı bərpa edən iddiaçı eksperti və pis niyyətli adam eyni ismi yazır. Filtr atlası və ya iş qovluğunu deyil, ismi görür və o, buraxdığı zərərlərə görə qiymətləndirilir — heç vaxt məhv etdiyi işə görə yox. Bu asimmetriya altında istənilən operator üçün rasional tənzimləmə daha çox imtina etməkdir. "Sadəcə yenidən ifadə et" məsləhətinin həll olmamasının səbəbi də budur: yenidən ifadə etmək filtrə çatışmayan heç bir məlumat vermir, sadəcə promptunuzu onu işə salan sözlərdən uzaqlaşdırır, bu isə adətən nəzərdə tutduğunuzdan uzaqlaşmaq deməkdir.
02Məzmun filtrləri həqiqətən nəyin qarşısını almaq üçündür
Filtrlərin səbəbsiz mövcud olduğunu iddia edən filtrsiz generasiya arqumenti oxumağa dəyməz. Zərəri kimin və niyə istəməsindən asılı olmayaraq şəklin özünə xas olan dar bir çıxış dəsti var:
- Yetkinlik yaşına çatmayanların iştirakı ilə cinsi məzmun. Heç bir kontekst bunu qəbuledilən etmir; heç bir peşəkar iş axını bunu tələb etmir.
- Real insanların razılığı olmadan intim təsvirləri. Zərər razılıq verməmiş adamın üzərinə düşür və silinmə bunu geri qaytarmır.
- Hədəflənmiş təqib və böhtan xarakterli uydurma — adı çəkilən bir şəxsin etmədiyi bir şeyi etmiş kimi göstərilməsi.
- Saxtakarlıq səviyyəsində sənədlər — həqiqi kimi keçmək üçün hazırlanmış pasportlar, şəxsiyyət vəsiqələri, əskinaslar, möhürlər və maliyyə sənədləri.
- Aldadıcı sintetik sübutlar — real hadisələrin uydurulmuş təsvirlərinin illüstrasiya kimi deyil, sənəd kimi təqdim edilməsi.
Siyahı qısadır və onun bir strukturu var: zərər artefaktın özündə, onun real insana və ya sənədə oxşarlığında və həqiqət kimi təqdim olunmasındadır. Siyahıda olmayanlara diqqət edin — çılpaqlıq, qan, silahlar, tarixi vəhşiliklər, siyasi lağ. Bunlar tibbin, jurnalistikanın, incəsənətin, məhkəmə-tibbi ekspertizanın və satiranın xammalıdır və onları zərər kateqoriyası kimi qəbul edən filtr hansı mövzuların hörmətəlayiq olduğu barədə çox daha geniş bir fikri tətbiq edir.
Shannon o siyahıdakı hər şeyi qadağan edir və bunu "placenta"nı da tutan açar söz cədvəli ilə deyil, adlandırılmış kateqoriyaları və nəticələri olan dərc olunmuş Məsuliyyətli İstifadə Siyasəti ilə edir. Biri oxuya və bizi məsuliyyətə cəlb edə biləcəyiniz qaydadır; digəri isə görə bilmədiyiniz təsnifatçının niyyətiniz barədə təxminidir.
03Həddindən artıq imtina problemi nə qədər böyükdür? Tədqiqat nəyi ölçür
Bu yaxınlara qədər şəkil modellərində həddindən artıq imtina bir lətifə idi — eyni hekayəsi olan minlərlə adam və onu ölçməyin heç bir yolu. Bu, OVERT (OVEr-Refusal evaluation on Text-to-image models) ilə dəyişdi: Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song və Song Mei daxil olmaqla UC Berkeley qrupu tərəfindən ICML 2025-də təqdim edilən, mətndən-şəklə sistemlərin tamamilə zərərsiz promptlardan nə tezliyində imtina etdiyini ölçən ilk genişmiqyaslı benchmark.
Dizayn əhəmiyyətlidir. 4,600 prompt zərərsiz olduğu halda zərərli görünəcək şəkildə qurulub — skalpeldən, göyərmədən və ya etirazdan bəhs edən real peşəkar sorğunun forması — və həqiqətən zərərli 1,785 prompt nəzarət qrupu kimi onların yanında dayanır ki, model hər şeydən imtina edərək yaxşı bal toplaya bilməsin. Doqquz kateqoriya fərdi və ictimai xadim məxfiliyindən müəllif hüququ, ayrı-seçkilik, özünə zərər, cinsi məzmun və qeyri-qanuni fəaliyyətdən keçərək zorakılığa qədər uzanır.
Əsas nəticə odur ki, həddindən artıq imtina kateqoriyalar və aparıcı modellər arasında geniş yayılıb. İkinci nəticə isə standart çıxış yolu üçün daha dağıdıcıdır: müəlliflər azaldıcı tədbir kimi promptun yenidən yazılmasını sınayıb və bunun "çox vaxt orijinal promptların mənasına sadiqliyi pozduğunu" bildirir. Filtrdən istədiyinizi dəyişməklə keçə bilərsiniz, amma bundan sonra artıq istədiyiniz şey əlinizdə olmur.
Daha dar bir tədqiqat piksel tərəfindən eyni nəticəyə gəlir. An Art-centric perspective on AI-based content moderation of nudity işində (Riccio, Curto, Hofmann və Oliver, ECCV 2024-də AI4VA seminarı) müəlliflər üç istehsal NSFW təsnifatçısını bədii çılpaqlıq üzərində qiymətləndirir və həm gender qərəzi, həm də üslub qərəzi aşkarlayır: fiqur etüdü barədə hökm kimin bədəninin və hansı üslubda təsvir olunduğundan asılıdır. Bu, hər natura rəssamına xəyal məhsulu olduğu deyilən şeyin ölçülmüş ifadəsidir.
04Filtrli generatorların blokladığı səkkiz növ qanuni iş
Bunlar həddindən artıq imtinanın narahatlıq deyil, işin dayanması olduğu kateqoriyalardır. Konkret bildirilmiş hal mövcud olduqda istinad verilir; təsdiqlənməmiş yerlərdə isə kateqoriya hadisə uydurulmadan təsvir olunur.
1. Tibbi və anatomik illüstrasiya
Sahədə ən yaxşı sənədləşdirilmiş hal. 2023-cü ilin aprelində The Intercept (Debbie Nathan) xəbər verdi ki, Midjourney speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom və IUD daxil olmaqla anatomik terminləri qadağan edib, DALL·E 2 isə "pills used in medication abortion" sorğusunu məzmun siyasəti mesajı ilə rədd edib. Naxışı hüceyrə bioloqu dostuna hədiyyə üçün plasenta şəkli yaratmağa çalışan klinik məlumat analitiki Julia Rockwell aşkarlayıb və MIT Technology Review-a bildirib. Asimmetriya hər şeyi deyir: "stethoscope" normal generasiya olunurdu, "speculum" isə qadağan idi. Vaşinqton Universitetindən tədqiqatçı Bill Howe filtrləri "kobud" adlandırıb və onların "reproduksiya haqqında elmi müzakirəni əslində qeyri-mümkün etdiyini" deyib. Pasiyent maarifləndirməsi, cərrahi atlaslar və tibb bacısı kurikulumlarının hamısı bədənlərin dəqiq təsvirinə ehtiyac duyur — o cümlədən açar söz siyahısının ədəbsiz saydığı hissələrin.
2. Məhkəmə-tibbi və qəza rekonstruksiyası
Toqquşma rekonstruksiyası, yanğın mənbəyi təhlili və məhkəmə nümayiş materialları zədələrin, yaraların və zorakı mexanikanın klinik dəqiqliklə təsvirini tələb edir. "Qan" və ya "güllə yarası" ifadələrini rədd etməyə köklənmiş filtr bütöv bir sahəni rədd edir: kontekst — ekspert rəyi, sığorta işi — təsnifatçı üçün görünməzdir və belə təsvirləri məhkəmədə qəbuledilən edən həmin neytrallıq onların qanlı səhnə kimi oxunmasına səbəb olur.
3. Art nüdləri və natura rəsmi
Nüd hər yerdə incəsənətin təməl mövzusudur və fiqur etüdü bədii təhsilin əsasıdır. Yuxarıdakı ECCV 2024 nəticəsi rəssamların bildirdiyinin ölçülmüş versiyasıdır: təsnifatçılar fiqur etüdünü pornoqrafiyadan etibarlı şəkildə ayırmır və onların səhvləri gender və üsluba görə qərəzlidir — tanımalı olduğu ənənəyə qarşı ən sərt davranan filtr.
4. Tarixi və müharibə dövrü şəkilləri
Dərslik rəsmləri, muzey izahları və memorial layihələr formaların, silahların, düşərgələrin, döyüşlərin və vəhşiliklərin təsvirini tələb edir. 2024-cü ilin fevralındakı Gemini epizodu ibrətamizdir, çünki uğursuzluq əks istiqamətdə getdi və eyni dərəcədə zərər verdi. Google, model nasist dövrü alman əsgərləri daxil olmaqla tarixi qrupların irqi baxımdan yenidən qurulmuş təsvirlərini istehsal etdikdən sonra 22 fevral 2024-də Gemini-nin insan şəkilləri yaratma qabiliyyətini dayandırdı. Baş direktor Sundar Pichai çıxışları "tamamilə qəbuledilməz" adlandırdı; SVP Prabhakar Raghavan modelin "həddindən artıq kompensasiya etdiyini" və "həddindən artıq mühafizəkar" olduğunu etiraf etdi. Konteksti görməyən təhlükəsizlik tarixi şəkilləri daha təhlükəsiz etmədi — onları yalan etdi ki, bu da tarix nəşriyyatı üçün daha pisdir.
5. Bədii ədəbiyyatda zorakılıq və film üçün ilkin vizuallaşdırma
Storibordlar, konsept rəsmi, komikslər və oyun dizaynı zorakılığı romanların və filmlərin etdiyi səbəbdən təsvir edir. Dəhşət storibordunu təhdiddən ayıra bilməyən filtr bütöv povest sənətləri konveyerini şübhəli sayır — halbuki storibord açıq şəkildə qeyri-realdır, aktyorların və effekt komandalarının səhnələşdirəcəyi bir səhnənin planıdır.
6. Siyasi satira və redaksiya karikaturası
Güclülərin karikaturası əksər demokratiyalarda ifadə azadlığının ən qorunan kateqoriyalarındandır və müntəzəm olaraq şəkil filtrinin ilk sildiyi şeydir. Ən aydın sənədləşdirilmiş hal Midjourney-in 2023-cü ilin aprelində Çin prezidenti Si Cinpinin şəkillərini qadağan etmək və onun adını promptlarda bloklamaq qərarıdır — bunu PetaPixel, Decrypt və başqaları xəbər verdi — digər dünya liderlərinə isə icazə verilməyə davam edildi. Təsisçi David Holz Discord-da izah etdi ki, şirkət "dramı minimuma endirmək" istəyir və "Çindəki insanların bu texnologiyadan istifadə edə bilməsi sizin satira yarada bilmənizdən vacibdir"; Foundation for Individual Rights and Expression təşkilatından Sarah McLaughlin bunu senzura adlandırdı. Biznes hesablamaları barədə hansı nəticəyə gəlinməsindən asılı olmayaraq, mexanizmi adlandırmağa dəyər: bir ölkənin ifadə məhdudiyyəti dünyanın hər yerindəki hər istifadəçiyə tətbiq olunur, çünki qlobal filtrin tək bir tənzimləməsi var.
7. Təhlükəsizlik tədqiqatı və fişinq maarifləndirmə materialı
Təhlükəsizlik komandaları xəbərdarlıq etdikləri şeyə oxşamalı olan təlim materialları hazırlayır: inandırıcı saxta giriş ekranı, saxtalaşdırılmış qaimə, parkomat üzərində zərərli QR kod. Təsnifatçı üçün bu, qarşısını almağa çalışdığı hücumdan seçilmir — oxşarlığın özü məqsəddir — ona görə filtrlər müdafiəni və hücumu eyni cür bloklayır və onsuz da filtrli istehlakçı alətindən istifadə etməyəcək hücumçuya üstünlük verir.
8. Öz brendinin, məhsulunun və ya oxşarlığının şəkilləri rədd edilən hüquq sahibləri
Müəllif hüququ və ticarət nişanı filtrləməsi sahibliyi yoxlamır; oxşarlığı yoxlayır. Şirkət öz loqotipinin və ya məhsulunun şəklini asanlıqla yarada bilmir, hüquq sahibi öz personajını təsvir edə bilmir və insanlar tez-tez öz üzlərini yarada bilmirlər, çünki oxşarlıq filtrləri razılığa deyil, tanınma qabiliyyətinə köklənib. OVERT məhz bu yalançı müsbət bu qədər yayğın olduğu üçün doqquz həddindən artıq imtina kateqoriyası arasına "müəllif hüququ pozuntularını" da daxil edib. Filtr, verə bilmədiyi bir sual — buna haqqınız varmı? — üçün kobud alətdir.
Yuxarıdakı səkkizdən dördü konkret dərc olunmuş hala bağlıdır (tibbi, art nüdləri, tarixi, satira), səkkizinci üçün isə OVERT-in müəllif hüququ kateqoriyası əsas götürülüb. Məhkəmə-tibbi ekspertiza, bədii ilkin vizuallaşdırma və təhlükəsizlik maarifləndirmə materialları kateqoriya kimi verilir: bunlar təsirlənən peşəkar işin yaxşı tanınan sinifləridir, lakin onlar üçün konkret dərc olunmuş hadisə təsdiqləmədik.
Yuxarıdakı hər sənədləşdirilmiş hal ictimaidir və müstəqil şəkildə yoxlana bilər. Bizim şərhimizə inanmaq əvəzinə onları oxuyun.
05AI art generatorları niyə səhv şeyləri bloklayır və məzmun filtrinin yalançı müsbətləri niyə tənzimləmə ilə aradan qaldırıla bilmir
Həddindən artıq bloklamaya instinktiv cavab "həddi yumşalt" olur. Bu işləmir və səbəb səy çatışmazlığı deyil, strukturdur.
Kateqoriyalar siqnalda üst-üstə düşür, reallıqda isə yox. Cərrahi illüstrasiya ilə pornoqrafiya çılpaqlığı bölüşür. Məhkəmə-tibbi rekonstruksiya ilə qanlı səhnə qanı bölüşür. Maarifləndirmə slaydı ilə fişinq dəsti saxta giriş formasını bölüşür. Satirik karikatura ilə böhtan xarakterli uydurma tanınan siyasətçini bölüşür. Hər cütü ayıran şey məqsəd və təqdimatdır — bunlar nə promptda, nə də piksellərdə var. Giriş fəzasının eyni bölgəsində yerləşən iki populyasiyanı heç bir hədd ayırmır; həddi hərəkət etdirmək sadəcə bir səhvi digəri ilə dəyişir. Gemini epizodunun göstərdiyi də budur: bir uğursuzluğu düzəltmək üçün nəzərdə tutulmuş müdaxilə Google-un öz SVP-si tərəfindən "həddindən artıq kompensasiya edilmiş" adlandırılan başqa bir uğursuzluq doğurdu.
Xərclər operator üçün asimmetrikdir, sizin üçün yox. Bir pis şəkli buraxan filtr xəbər süjeti doğurur. On min qanuni şəkli bloklayan filtr sükut doğurur, çünki rədd edilmiş istifadəçilər təşkilatlanmır — onlar əl çəkir. Bu asimmetriya altında risk idarəçiliyi qalıcı olaraq həddindən artıq bloklamaya yaxınlaşır. Alt qatdakı mühakimə qeyri-mümkün olduğu üçün qara siyahılar hadisələr baş verdikcə hərfi sətirlər toplayır və "stethoscope" icazəli, "speculum" isə qadağan olan da belə yaranır. Heç kim qadınlara aid alətlərin daha təhlükəli olduğuna qərar vermədi; siyahı şikayətlərin düşdüyü yerdə böyüdü. O, zərər nəzəriyyəsini deyil, operatorun PR tarixini kodlaşdırır.
Ən sərt yurisdiksiya qlobal standarta çevrilir. Bir filtr hər ölkədəki hər istifadəçiyə xidmət edir, ona görə bir bazar üçün əlavə edilmiş məhdudiyyət hamıya ixrac olunur — Si Cinpin qaydası klassik nümunədir. Və promptunuzun yenidən yazılması mənanızı məhv edir, OVERT-in eksperimental nəticəsi də elə budur: sorğusunu filtrdən keçirmək üçün evfemizmə çevirən hər peşəkar bunu öz əli ilə təsdiqləyib. Siz qalib gəlmədiniz; razılaşdınız.
Bunların heç biri pulsuz deyil və səssizcə uğursuz olduğu üçün xərc operatorun izlədiyi göstəricilərdə görünmür. Kifayət qədər imtinadan sonra soruşmağı dayandırırsınız və hər promptu keçəcəyini proqnozlaşdırdığınız hala əvvəlcədən daraldırsınız; nəhayət keçən evfemizm sənədinizə lazım olana yaxın, amma o olmayan bir şəkil verir. Ümumi siyasət mesajı hansı qatın işə düşdüyü barədə sizə heç nə demir, ona görə yalnız təxmin edib yenidən cəhd edə bilərsiniz — şəkil işi isə iterativdir, ona görə beş cəhddən birini tutan filtr prosesi sadəcə yavaşlatmır, pozur. Bu arada ciddi alətlərə ən güclü iddiası olan sahələr nə rəyçi, nə şikayət imkanı, nə də adətən nəyin bloklandığının dərc olunmuş siyahısını alır. Oxuya bilmədiyiniz qayda qayda deyil; havadır.
06Senzurasız və filtrli AI şəkil generatoru: əslində nə dəyişir
Müqayisənin dürüst versiyası budur — filtrsiz sistemin sizə nə vermədiyi də daxil olmaqla.
| Ölçü | Filtrli generator | Filtrsiz (Shannon) |
|---|---|---|
| Kim qərar verir | Sözləri və pikselləri oxuyan təsnifatçı | Dəqiq promptu oxuyan insan |
| Nə vaxt öyrənirsiniz | Göndərdikdən sonra — bəzən ödədikdən sonra | Render və ya ödəniş başlamazdan əvvəl |
| Qayda nədir | Dərc olunmamış, dəyişkən qara siyahılar | Dərc olunmuş Məsuliyyətli İstifadə Siyasəti |
| Peşəkar kontekst | Sistem üçün görünməz | Sizin əlinizdə və sizin cavabdehliyinizdə |
| Uğursuzluq forması | Səssiz həddindən artıq bloklama, mənanın sürüşməsi | İstədiyinizi alırsınız — səhvləriniz də daxil olmaqla |
| Riski kim daşıyır | Satıcı, riski sizin işinizin üzərinə atmaqla | Paylaşılır: operator siyasəti üstəgəl istifadəçi cavabdehliyi |
Sonuncu sətir insanların atladığı və əslində əhəmiyyət daşıyan sətirdir. Filtrin götürülməsi 02-ci bölmədəki zərər kateqoriyalarını aradan qaldırmır; o, onlar barədə pis təxmin edən maşını aradan qaldırır. Öhdəlik yerində qalır, sadəcə artıq kontekst haqqında düşünə bilən iki tərəfin əlindədir: siyasəti dərc edən və tətbiq edən operator və şəklin nə üçün olduğunu bilən siz. Filtrsiz AI şəkil yaratma öz çıxışının arxasında durmağa artıq hazır olan insanlar üçün alətdir — cərrahın atlası, ekspert rəyi, storibord, karikatura — və onları başqasından ayıra bilməyən sistem dayandırırdı.
07Shannon nə edir — və nə etmir
Burada dəqiqlik həvəsdən vacibdir, xüsusən də API axtarışından gələn oxucular üçün.
Nə edir
- Şəkil yaratma. Şəkli istənilən dildə, adi dillə təsvir edin. Hansı dildə soruşmağınızdan asılı olmayaraq, Shannon generasiya promptunu özü, ingiliscə yazır.
- Bir şəklin redaktəsi. Dəqiq bir mənbə — artıq söhbətdə olan və ya cari mesajınıza əlavə edilmiş şəkil — nəyin dəyişdiyini və nəyin qaldığını deyən göstərişlə dəyişdirilir. Çıxış mənbənin en-boy nisbətini avtomatik saxlayır.
- İki və ya daha çox şəklin birləşdirilməsi. Geyim köçürməsi, obyekti səhnəyə salmaq, adamı adamın yanına qoymaq, məhsulu insan üzərində, bir şəklin subyektini digərinin üslubu ilə. Prompt hər şəklin rolunu sıra ilə adlandırır və real şəkillərdən istifadə olunur, beləliklə onların həqiqi görünüşü yenidən təsvir edilmək əvəzinə qorunur.
- Nisbətə nəzarət. square (standart), portrait, landscape, wide və tall. Açıq istəyiniz həmişə qalib gəlir.
- Render öz GPU klasterimizdə baş verir; generasiya yolunda məzmun filtri, promptu yazan modeldə isə imtina qatı yoxdur.
Nə etmir
- Video yoxdur. Shannon şəkilləri canlandırmır və video istehsal etmir. Bu, utana-utana gizlədilən yol xəritəsi maddəsi deyil — sadəcə mövcud deyil.
- API-da deyil. Şəkil yaratma, redaktə və birləşdirmə Shannon çat tətbiqindədir. /v1 API mətnə və görməyə xidmət edir — göndərdiyiniz şəkilləri oxuya bilir — amma onları render etmir.
- Dəvətsiz generasiya yoxdur. Salamlaşma, sual və ya ötəri əlavə edilmiş foto şəkil yaratmır. Shannon-dan şəklə baxmasını istəmək — təsvir et, oxu, təhlil et — adi görmə işidir, generasiya deyil və əlavə heç nəyə başa gəlmir.
Təsdiq kartı
Filtri əvəz edən mexanizm budur və bu, formallıq deyil, dizayn seçimidir. Shannon şəkil istədiyinizi müəyyən edəndə generasiya promptunu yazır və render başlamazdan əvvəl onu sizə təsdiq kartında göstərir. Siz təsdiqləməyincə heç nə yaradılmır və heç nə hesablanmır.
Dizaynları öz dəyərləri üzərində müqayisə edin. Filtr niyyətinizi sizdən az məlumatla təxmin edir və təxmini səssizcə tətbiq edir. Təsdiq kartı isə şəklin hərfi spesifikasiyasını, hər hansı hesablama gücü sərf olunmazdan əvvəl, onun nə üçün olduğunu bilən tərəfin qarşısına qoyur. O, sorğunuzun səhv anlaşılmasını tutur ki, filtrlər bunu heç vaxt etmir; modelin qeyd etmədiyi anatomik dəqiqliyi və ya tarixi detalı əlavə etməyə imkan verir; və məsuliyyəti dumanlı deyil, oxunaqlı edir. Promptu siz gördünüz və düyməni siz basdınız.
08Filtrsiz generasiya məsuliyyəti artırır, aradan qaldırmır
Bu, altbilgidə deyil, burada olmalıdır, çünki arqumentin yarısıdır. Filtrli generator yerinə yetirə bilməyəcəyi vəd verir: guya alət sizin əvəzinizə sui-istifadənin qarşısını alacaq. O, hər iki istiqamətdə uğursuz olur — cərrahı bloklayır və başqa seçimləri həmişə olmuş qətiyyətli pis niyyətli adamı dayandırmır. Etibarlı şəkildə etdiyi şey isə hamıya məsuliyyətin yuxarıda, maşın tərəfindən həll olunduğunu hiss etdirməkdir. Filtrin götürülməsi bu uydurmanı aradan qaldırır; şəklin mövcud olmalı olub-olmaması sualı ona cavab verə bilən insanlara qayıdır.
- Shannon Lab LLC-nin öhdəliyi. Dərc olunmamış qara siyahı əvəzinə qadağan olunmuş kateqoriyaları adlandıran, dərc olunmuş və konkret Məsuliyyətli İstifadə Siyasəti — oxuya, istinad edə və bizi məsuliyyətə cəlb edə biləcəyiniz qaydalar.
- Sizin öhdəliyiniz. Məqsədi, auditoriyanı, yurisdiksiyanı və təsvir olunan hər kəsin razılıq statusunu siz bilirsiniz. Alət bilmir və təsnifatçı heç vaxt bilə bilməzdi. Təsdiq kartı ona görə var ki, həmin bilik əhəmiyyət daşıdığı anda, ona sahib olan tərəf tərəfindən tətbiq olunsun.
- Dəyişməyən xətt. "Filtr məni dayandırmadı" heç bir mediumda müdafiə arqumenti olmayıb. Kamera imtina etmir, karandaş imtina etmir; qanun və peşə etikası aləti deyil, istifadəni tənzimləyir. Filtrsiz generator hər digər peşəkar alətin fəaliyyət göstərdiyi adi düzəni bərpa edir.
Başlamazdan əvvəl Məsuliyyətli İstifadə Siyasətini oxuyun. O qısa, konkretdir və bu məhsulun qalan hissəsini müdafiə oluna bilən edən hissədir.
09Tez-tez verilən suallar
AI şəkil generatoru açıq-aydın qanuni olan promptdan niyə imtina edir?
Çünki filtrlərin çoxu məqsədinizi deyil, promptunuzdakı sözləri qiymətləndirir. Modelin qarşısında kim olduğunuza və niyə soruşduğunuza çıxışı olmayan bir təsnifatçı dayanır, ona görə tibbi illüstrator, məhkəmə-tibbi ekspert və pis niyyətli adam eyni ismi yazır və hamısı eyni imtinanı alır. The Intercept 2023-cü ilin aprelində xəbər verdi ki, Midjourney speculum, placenta və cervix daxil olmaqla anatomik terminləri qadağan edib, stethoscope isə normal işləyib.
AI art alətlərində məzmun filtrinin yalançı müsbətlərini ölçən tədqiqat varmı?
Bəli. OVERT (arXiv:2505.21347, ICML 2025) mətndən-şəklə modellər üçün həddindən artıq imtinanı ölçən ilk genişmiqyaslı benchmarkdır: doqquz təhlükəsizlik kateqoriyası üzrə zərərli görünən, lakin həqiqətən zərərsiz 4,600 prompt, üstəgəl nəzarət qrupu kimi həqiqətən zərərli 1,785 prompt. Müəllifləri həddindən artıq imtinanın aparıcı modellər arasında geniş yayıldığını bildirir. Ayrıca bir ECCV 2024 tədqiqatı bədii çılpaqlıq üzərində qiymətləndirilən üç NSFW təsnifatçısında gender və üslub qərəzi aşkarlayıb.
Senzurasız AI şəkil generatoru əslində nəyi dəyişir?
O, imtina qatını və məzmun filtrini generasiya yolundan götürür, beləliklə qanuni sorğu səssizcə hücum kimi yenidən təsnif edilmir. Bu, mühakiməni aradan qaldırmır — onun yerini dəyişir. Shannon render başlamazdan əvvəl dəqiq generasiya promptunu təsdiq kartında göstərir, beləliklə qərarı nəyin istehsal olunacağını görə bilən insan verir və bu, Məsuliyyətli İstifadə Siyasəti çərçivəsində baş verir.
Shannon video yaradırmı?
Xeyr. Shannon yeni şəkillər yaradır, mövcud bir şəkli redaktə edir və iki və ya daha çox şəkli birində birləşdirir. O, şəkilləri canlandırmır və heç bir növ video istehsal etmir.
Shannon API vasitəsilə şəkil yarada bilərəmmi?
Xeyr. Şəkil yaratma, redaktə və birləşdirmə Shannon çat tətbiqindədir. /v1 API mətnə və görməyə xidmət edir — təqdim etdiyiniz şəkilləri oxuyur və təhlil edir — şəkil yaratmağa yox.
Filtr yoxdursa, sui-istifadənin qarşısını nə alır?
Açar söz qara siyahısı deyil, siyasət, cavabdehlik və görünən qərar nöqtəsi. Shannon heç vaxt dəvətsiz generasiya etmir, render başlamazdan əvvəl tam promptu göstərir, siz təsdiqləməyincə heç nə hesablamır və yetkinlik yaşına çatmayanların iştirakı ilə cinsi məzmunu, real insanların razılığı olmadan intim təsvirlərini, hədəflənmiş təqibi və şəxsiyyət yaxud maliyyə sənədlərinin saxtalaşdırılmasını qadağan edən dərc olunmuş Məsuliyyətli İstifadə Siyasəti çərçivəsində fəaliyyət göstərir.
Həqiqətən ehtiyacınız olan şəkli istəyin
Çat tətbiqində şəkil yaratma, tək şəkil redaktəsi və çoxşəkilli birləşdirmə — məzmun filtri yoxdur, imtina qatı yoxdur və render başlamazdan əvvəl prompt ekrandadır.
Söhbətə Başla Məsuliyyətli İstifadə SiyasətiŞəkillər çat tətbiqində · video generasiyası yoxdur · daha çox tədqiqat
Mənbələr: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 aprel 2023 · PetaPixel, 3 aprel 2023 · CNBC, 22 fevral 2024. Shannon AI Shannon Lab LLC (Nyu-Meksiko, ABŞ) tərəfindən idarə olunur.