უცენზურო vs ფილტრიანი AI სურათების გენერატორი

თითქმის ყველას, ვინც სურათებთან პროფესიულად მუშაობს, ერთი და იგივე ამბავი აქვს. პრომპტი, რომელიც სრულიად ჩვეულებრივ რამეს აღწერს — მუხლის სახსრის განაკვეთს, ავტომობილს დაჯახების მომენტში, ნახშირით შესრულებულ ფიგურულ ეტიუდს, ჯარისკაცს 1944 წელს — ბრუნდება როგორც პოლიტიკის დარღვევა. თქვენ გადააფორმულირებთ და სხვა დარღვევას იღებთ. საბოლოოდ წერთ იმდენად ბუნდოვან რამეს, რომ გაიაროს, და იღებთ სურათს, რომელიც უკვე აღარ აჩვენებს იმას, რაც გჭირდებოდათ. ინსტრუმენტი ხმაურით არ ჩავარდნილა; ის თანდათან ჩავარდა და თქვენ გაქციათ იმად, ვინც დათმო.

01რატომ უარობს AI სურათების გენერატორი აშკარად ლეგიტიმურ პრომპტს?

უარი ჩვეულებრივ სურათის მოდელის აზრი არ არის. ის მოდელის ირგვლივ არსებული ფილტრაციის სტეკის შედეგია, ხოლო ამ სტეკის ფენები თითქმის ყველა უცნაურ უარს ხსნის, რაც კი მიგიღიათ.

ფენა	რას ამოწმებს	დამახასიათებელი ჩავარდნა
პრომპტის აკრძალვების სია	ბუკვალურ სტრიქონებსა და მათ ვარიანტებს თქვენს ტექსტში	ბლოკავს სიტყვას მიმდებარე წინადადების მიუხედავად — „speculum“ ჩავარდება, „stethoscope“ გადის
პრომპტის კლასიფიკატორი	პრომპტის „რისკის“ ნასწავლ შეფასებას	ირთვება თემატური სიახლოვით: ყველაფერი, რაც მედიცინას, იარაღს, სხეულებს ან პოლიტიკას ეხება, მაღალ ქულას იღებს
მოდელის უარის წვრთნა	მოდელის საკუთარ ნასწავლ დათმობას	უარს ამბობს შეცდომის გარეშე ან ჩუმად აწარმოებს გასუფთავებულ შემცვლელს
გამოსავლის კლასიფიკატორი	დახატულ პიქსელებს, პრომპტის კონტექსტის გარეშე	ვერ განასხვავებს ანატომიურ ილუსტრაციას პორნოგრაფიისგან ან ფილმის კადრს რეალური მოვლენისგან
პოლიტიკური ჩანაცვლება	თქვენი პრომპტის ჩუმ გადაწერას გენერაციამდე	სურათს იღებთ, მაგრამ არა იმას, რომელიც მიუთითეთ, და მიზეზს არ გეუბნებიან

ყველა ფენას ერთი ბრმა ლაქა აქვს: ვერცერთი ვერ ხედავს, რატომ ითხოვთ. სამედიცინო ილუსტრატორი, მოსარჩელის ექსპერტი, რომელიც შეჯახებას აღადგენს, და ცუდი განზრახვის მქონე ადამიანი ერთსა და იმავე სიტყვას კრეფენ. ფილტრი ხედავს სიტყვას და არა ატლასს ან საქმის მასალებს, და მას აფასებენ იმ ზიანით, რომელსაც ატარებს — არასოდეს იმ სამუშაოთი, რომელსაც ანადგურებს. ამ ასიმეტრიაში ნებისმიერი ოპერატორისთვის რაციონალური პარამეტრია მეტი უარი. სწორედ ამიტომ არ არის „უბრალოდ გადააფორმულირე“ გამოსავალი: გადაფორმულირება ფილტრს ახალ ინფორმაციას არ აძლევს, ის მხოლოდ თქვენს პრომპტს აშორებს იმ სიტყვებს, რომლებმაც ის ჩართო — და ჩვეულებრივ ეს იმას ნიშნავს, რომ სიტყვებს იმ აზრსაც აშორებთ, რომელიც გულისხმობდით.

02რის აღსაკვეთადაა კონტენტ-ფილტრები ნამდვილად

არგუმენტი უფილტრო გენერაციის სასარგებლოდ, რომელიც თავს ისე იჩენს, თითქოს ფილტრები უმიზეზოდ არსებობს, წასაკითხადაც არ ღირს. არსებობს შედეგების ვიწრო ნაკრები, რომლის ზიანიც თავად სურათშია მოცემული, იმის მიუხედავად, ვინ და რატომ ითხოვდა:

• არასრულწლოვნების მონაწილეობით სექსუალური კონტენტი. არანაირი კონტექსტი მას მისაღებს არ ხდის; არცერთი პროფესიული პროცესი მას არ საჭიროებს.
• რეალური ადამიანების ინტიმური გამოსახულებები მათი თანხმობის გარეშე. ზიანი მას ეცემა, ვინც არ დათანხმებულა, და წაშლა ამას უკან არ აბრუნებს.
• მიზანმიმართული შევიწროება და ცილისმწამებლური გაყალბება — როცა კონკრეტულ ადამიანს ისე წარმოაჩენ, თითქოს გააკეთა ის, რაც არ გაუკეთებია.
• გაყალბების დონის დოკუმენტები — პასპორტები, პირადობის მოწმობები, ბანკნოტები, ბეჭდები და ფინანსური ინსტრუმენტები, შექმნილი ნამდვილად გასაღების მიზნით.
• მატყუარა სინთეზური მტკიცებულება — რეალური მოვლენების გამოგონილი გამოსახულებები, წარმოდგენილი როგორც დოკუმენტაცია და არა ილუსტრაცია.

სია მოკლეა და მას სტრუქტურა აქვს: ზიანი ცხოვრობს თავად ნაწარმოებში, მის მსგავსებაში რეალურ ადამიანთან ან დოკუმენტთან, და მის ჭეშმარიტებად წარმოჩენაში. შეამჩნიეთ, რა არ არის მასში — შიშვლობა, სისხლი, იარაღი, ისტორიული სისასტიკე, პოლიტიკური დაცინვა. ეს არის მედიცინის, ჟურნალისტიკის, ხელოვნების, სასამართლო ექსპერტიზისა და სატირის ნედლეული, ხოლო ფილტრი, რომელიც მათ ზიანის კატეგორიებად აღიქვამს, ბევრად უფრო ფართო წარმოდგენას ახორციელებს იმაზე, თუ რომელი თემებია წესიერი.

Shannon კრძალავს ყველაფერს ამ სიიდან, გამოქვეყნებულ პასუხისმგებლიანი გამოყენების პოლიტიკაში, დასახელებული კატეგორიებითა და შედეგებით, და არა საკვანძო სიტყვების ცხრილით, რომელიც სიტყვა „placenta“-საც იჭერს. ერთი წესია, რომელიც შეგიძლიათ წაიკითხოთ და ჩვენ მოგვთხოვოთ; მეორე თქვენს განზრახვებზე მინარჩუნებული ვარაუდია იმ კლასიფიკატორისგან, რომელსაც ვერ ხედავთ.

03რამდენად დიდია ჭარბი უარის პრობლემა? რას ზომავს კვლევა

ბოლო დრომდე ჭარბი უარი სურათების მოდელებში ანეკდოტი იყო — ათასობით ადამიანი ერთი და იმავე ამბით და მისი გაზომვის საშუალების გარეშე. ეს შეიცვალა OVERT-ით (OVEr-Refusal evaluation on Text-to-image models), რომელიც ICML 2025-ზე წარადგინა UC Berkeley-ის ჯგუფმა შემდეგი შემადგენლობით: Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song და Song Mei. ეს არის პირველი ფართომასშტაბიანი ბენჩმარკი, რომელიც ზომავს, რამდენად ხშირად უარობენ ტექსტიდან-სურათის სისტემები სრულიად უვნებელ პრომპტებს.

დიზაინს მნიშვნელობა აქვს. 4,600 პრომპტი ისეა აგებული, რომ საშიშად გამოიყურებოდეს და უვნებელი იყოს — ნამდვილი პროფესიული მოთხოვნის ფორმა, სადაც ნახსენებია სკალპელი, სისხლჩაქცევა ან საპროტესტო აქცია — ხოლო 1,785 ნამდვილად საშიში პრომპტი მათ გვერდით დგას საკონტროლოდ, ისე რომ მოდელმა ყველაფერზე უარის თქმით კარგი ქულა ვერ მიიღოს. ცხრა კატეგორია მოიცავს პირად და საჯარო პირთა კონფიდენციალურობას, საავტორო უფლებებს, დისკრიმინაციას, თვითდაზიანებას, სექსუალურ კონტენტს, უკანონო საქმიანობასა და ძალადობას.

მთავარი დასკვნა ისაა, რომ ჭარბი უარი ფართოდაა გავრცელებული როგორც კატეგორიებში, ისე წამყვან მოდელებში. მეორე დასკვნა უფრო მძიმეა სტანდარტული შემოვლითი გზისთვის: ავტორებმა შეამოწმეს პრომპტის გადაწერა როგორც შემარბილებელი ზომა და აღნიშნავენ, რომ ის „ხშირად აზიანებს საწყისი პრომპტების აზრის ერთგულებას“. ფილტრს გაივლით იმის შეცვლით, რასაც ითხოვდით — და შემდეგ უკვე აღარ გაქვთ ის, რაც ითხოვეთ.

უფრო ვიწრო კვლევა იმავე დასკვნამდე მიდის პიქსელების მხრიდან. ნაშრომში An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann და Oliver, AI4VA სამუშაო შეხვედრა ECCV 2024-ზე) ავტორები აფასებენ სამ სამრეწველო NSFW კლასიფიკატორს მხატვრულ შიშვლობაზე და აღმოაჩენენ როგორც გენდერულ, ისე სტილისტურ მიკერძოებას: ფიგურულ ეტიუდზე გამოტანილი განაჩენი დამოკიდებულია იმაზე, ვისი სხეულია გამოსახული და რა სტილში. ეს არის იმის გაზომილი დადასტურება, რასაც ნატურიდან მხატვრებს წარმოსახვას უწოდებდნენ.

04ლეგიტიმური სამუშაოს რვა სახეობა, რომელსაც ფილტრიანი გენერატორები ბლოკავენ

ეს ის კატეგორიებია, სადაც ჭარბი უარი უხერხულობა კი არა, სამუშაოს გაჩერებაა. სადაც კონკრეტული აღწერილი შემთხვევა არსებობს, ის მითითებულია; სადაც არაფერი დაგვიდასტურებია, კატეგორია აღწერილია ინციდენტის გამოგონების გარეშე.

1. სამედიცინო და ანატომიური ილუსტრაცია

ამ სფეროში ყველაზე კარგად დოკუმენტირებული შემთხვევა. 2023 წლის აპრილში The Intercept-მა (Debbie Nathan) დაწერა, რომ Midjourney-ს აკრძალული ჰქონდა ანატომიური ტერმინები, მათ შორის speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom და IUD, ხოლო DALL·E 2-მ უარი თქვა მოთხოვნაზე „pills used in medication abortion“ კონტენტ-პოლიტიკის შეტყობინებით. ეს ნიმუში აღმოაჩინა Julia Rockwell-მა, კლინიკური მონაცემების ანალიტიკოსმა, რომელიც ცდილობდა პლაცენტის სურათის დაგენერირებას საჩუქრად უჯრედების ბიოლოგი მეგობრისთვის, და შეატყობინა MIT Technology Review-ს. ასიმეტრია გამცემი ნიშანია: „stethoscope“ ჩვეულებრივ გენერირდებოდა, ხოლო „speculum“ აკრძალული იყო. ვაშინგტონის უნივერსიტეტის მკვლევარმა Bill Howe-მ ფილტრები „უხეშად მოქმედი“ უწოდა და თქვა, რომ მათ „პრაქტიკულად შეუძლებელი გახადეს რეპროდუქციაზე სამეცნიერო დისკუსია“. პაციენტების განათლებას, ქირურგიულ ატლასებსა და საექთნო სასწავლო პროგრამებს სჭირდება სხეულების ზუსტი გამოსახვა, იმ ნაწილების ჩათვლით, რომლებიც საკვანძო სიტყვების სიამ უწესოდ მიიჩნია.

2. სასამართლო-სამედიცინო და ავარიის რეკონსტრუქცია

შეჯახების რეკონსტრუქცია, ხანძრის წარმოშობის ანალიზი და სასამართლო დემონსტრაციული მასალა მოითხოვს დაზიანებების, ჭრილობებისა და ძალადობრივი მექანიკის კლინიკური სიზუსტით გამოსახვას. ფილტრი, რომელიც „სისხლს“ ან „ცეცხლსასროლ ჭრილობას“ უარყოფს, მთელ დისციპლინას უარყოფს: კონტექსტი — ექსპერტის დასკვნა, სადაზღვევო საქმე — კლასიფიკატორისთვის უხილავია, ხოლო სწორედ ის ნეიტრალობა, რაც ასეთ გამოსახულებას სასამართლოში დასაშვებს ხდის, არის ის, რაც მას სისხლიან სცენად აჩვენებს.

3. მხატვრული ნიუდები და ნატურიდან ხატვა

შიშველი სხეული ხელოვნების ფუნდამენტური თემაა ყველგან, ხოლო ფიგურული ეტიუდი მხატვრული განათლების ბირთვია. ზემოთ მოყვანილი ECCV 2024-ის შედეგი გაზომილი ვერსიაა იმისა, რასაც მხატვრები ამბობენ: კლასიფიკატორები საიმედოდ ვერ განასხვავებენ ფიგურულ ეტიუდს პორნოგრაფიისგან, ხოლო მათი შეცდომები გენდერითა და სტილითაა მიკერძოებული — ფილტრი ყველაზე მკაცრია ზუსტად იმ ტრადიციის მიმართ, რომელიც უნდა ეცნო.

4. ისტორიული და საომარი გამოსახულებები

სახელმძღვანელოების ილუსტრაცია, მუზეუმის ინტერპრეტაცია და მემორიალური პროექტები მოითხოვს ფორმების, იარაღის, ბანაკების, ბრძოლებისა და სისასტიკის გამოსახვას. 2024 წლის თებერვლის Gemini-ის ეპიზოდი სასწავლოა, რადგან ჩავარდნა საპირისპირო მიმართულებით მოხდა და თანაბარი ზიანი მოიტანა. Google-მა შეაჩერა Gemini-ის უნარი, ადამიანების სურათები დაეგენერირებინა 2024 წლის 22 თებერვალს, მას შემდეგ, რაც მან რასობრივად გადაწყობილი ისტორიული ჯგუფები აჩვენა, მათ შორის ნაცისტური ეპოქის გერმანელი ჯარისკაცები. აღმასრულებელმა დირექტორმა Sundar Pichai-მ შედეგები „სრულიად მიუღებელი“ უწოდა; ვიცე-პრეზიდენტმა Prabhakar Raghavan-მა აღიარა, რომ მოდელმა „ჭარბად აანაზღაურა“ და „ზედმეტად კონსერვატიული“ გახდა. კონტექსტისადმი ბრმა უსაფრთხოებამ ისტორიული გამოსახულებები უფრო უსაფრთხო კი არ გახადა — მან ისინი ყალბი გახადა, რაც ისტორიის გამომცემლისთვის უარესია.

5. ძალადობა მხატვრულ ნაწარმოებსა და ფილმის წინასწარ ვიზუალიზაციაში

სტორიბორდები, კონცეპტ-არტი, კომიქსები და თამაშების დიზაინი ძალადობას იმავე მიზეზით ასახავს, რითაც რომანები და ფილმები. ფილტრი, რომელიც საშინელებათა სტორიბორდს მუქარისგან ვერ არჩევს, მთელ ნარატიული ხელოვნების პროცესს საეჭვოდ მიიჩნევს — მიუხედავად იმისა, რომ სტორიბორდი აშკარად არარეალურია: ის სცენის გეგმაა, რომელსაც მსახიობები და ეფექტების გუნდი განახორციელებენ.

6. პოლიტიკური სატირა და სარედაქციო კარიკატურა

ძლიერთა ამა სოფლისათა კარიკატურა უმეტეს დემოკრატიაში გამოხატვის ერთ-ერთი ყველაზე დაცული კატეგორიაა და, ჩვეულებრივ, პირველი, რასაც სურათების ფილტრი აშორებს. ყველაზე ნათელი დოკუმენტირებული შემთხვევაა Midjourney-ის 2023 წლის აპრილის გადაწყვეტილება, აეკრძალა ჩინეთის პრეზიდენტის Xi Jinping-ის სურათები და დაებლოკა მისი სახელი პრომპტებში — ამის შესახებ დაწერეს PetaPixel-მა, Decrypt-მა და სხვებმა — მაშინ როცა სხვა მსოფლიო ლიდერები დაშვებული დარჩნენ. დამფუძნებელმა David Holz-მა Discord-ზე განმარტა, რომ კომპანიას სურდა „დრამის მინიმუმამდე დაყვანა“ და რომ „ჩინეთში მყოფი ხალხის შესაძლებლობა, ეს ტექნოლოგია გამოიყენონ, უფრო მნიშვნელოვანია, ვიდრე თქვენი შესაძლებლობა, სატირა შექმნათ“; Foundation for Individual Rights and Expression-ის წარმომადგენელმა Sarah McLaughlin-მა ეს ცენზურა უწოდა. რაც არ უნდა დავასკვნათ ბიზნეს-გათვლაზე, მექანიზმის დასახელება ღირს: ეროვნული სამეტყველო შეზღუდვა, გამოყენებული მსოფლიოს ყველა მომხმარებელზე, რადგან გლობალურ ფილტრს ერთი პარამეტრი აქვს.

7. უსაფრთხოების კვლევა და ფიშინგის ცნობიერების მასალა

უსაფრთხოების გუნდები ქმნიან სასწავლო მასალას, რომელიც უნდა გამოიყურებოდეს ისე, როგორც ის, რაზეც ის აფრთხილებს: დამაჯერებელი ყალბი ავტორიზაციის ეკრანი, გაყალბებული ინვოისი, მავნე QR-კოდი პარკირების აპარატზე. კლასიფიკატორისთვის ეს განურჩეველია იმ თავდასხმისგან, რომლის მიმართაც ის იმუნიტეტს გამოიმუშავებს — დამაჯერებლობა სწორედ არსია — ამიტომ ფილტრები თავდაცვასა და თავდასხმას იდენტურად ბლოკავენ, რითაც თავდამსხმელს ეხმარებიან, რომელიც ისედაც არასოდეს აპირებდა ფილტრიანი სამომხმარებლო ინსტრუმენტის გამოყენებას.

8. უფლების მფლობელები, რომლებსაც საკუთარი ბრენდის, პროდუქტის ან გარეგნობის სურათებზე ეუბნებიან უარს

საავტორო უფლებებისა და სავაჭრო ნიშნის ფილტრაცია არ ამოწმებს მფლობელობას; ის ამოწმებს მსგავსებას. კომპანიას ადვილად არ შეუძლია საკუთარი ლოგოს ან პროდუქტის გამოსახულების დაგენერირება, უფლების მფლობელს არ შეუძლია საკუთარი პერსონაჟის დახატვა, ხოლო ადამიანები ხშირად საკუთარ სახესაც ვერ აგენერირებენ, რადგან გარეგნობის ფილტრები თანხმობის ნაცვლად ამოცნობადობაზე რეაგირებენ. OVERT-ს „საავტორო უფლებების დარღვევები“ თავის ცხრა ჭარბი უარის კატეგორიაში სწორედ იმიტომ შეაქვს, რომ ეს ცრუ დადებითი შედეგი ასე ხშირია. ფილტრი უხეში ინსტრუმენტია კითხვისთვის — გაქვთ თუ არა ამის უფლება? — რომლის დასმაც მას არ შეუძლია.

ზემოთ ჩამოთვლილი რვიდან ოთხი დამაგრებულია კონკრეტულ გამოქვეყნებულ შემთხვევაზე (სამედიცინო, მხატვრული ნიუდები, ისტორიული, სატირა), მერვე კი — OVERT-ის საავტორო უფლებების კატეგორიაზე. სასამართლო ექსპერტიზა, მხატვრული ნაწარმოების წინასწარი ვიზუალიზაცია და უსაფრთხოების ცნობიერების მასალა მოცემულია როგორც კატეგორიები: ესენი დაზარალებული პროფესიული სამუშაოს კარგად ცნობილი კლასებია, რომლებისთვისაც კონკრეტული გამოქვეყნებული ინციდენტი არ დაგვიდასტურებია.

05რატომ ბლოკავენ AI არტ-გენერატორები არასწორ რამეს და რატომ ვერ გამოსწორდება კონტენტ-ფილტრის ცრუ დადებითი შედეგები რეგულირებით

ინსტინქტური პასუხი ჭარბ ბლოკირებაზე არის „შეამსუბუქეთ ზღვარი“. ეს არ მუშაობს — სტრუქტურული მიზეზების და არა ძალისხმევის ნაკლებობის გამო.

კატეგორიები სიგნალში ერთმანეთს ფარავს, სინამდვილეში კი — არა. ქირურგიულ ილუსტრაციასა და პორნოგრაფიას საერთო აქვს შიშვლობა. სასამართლო რეკონსტრუქციასა და სისხლიან სცენას — სისხლი. ცნობიერების სლაიდსა და ფიშინგის ნაკრებს — ყალბი ავტორიზაციის ფორმა. სატირულ კარიკატურასა და ცილისმწამებლურ გაყალბებას — ამოსაცნობი პოლიტიკოსი. თითოეულ წყვილს განასხვავებს დანიშნულება და წარმოჩენა — რაც არც პრომპტშია და არც პიქსელებში. არანაირი ზღვარი არ ჰყოფს ორ პოპულაციას, რომლებიც შესატანი სივრცის ერთსა და იმავე არეს იკავებენ; მისი გადაადგილება მხოლოდ ერთ შეცდომას მეორეზე ცვლის. სწორედ ეს აჩვენა Gemini-ის ეპიზოდმა: ჩარევამ, რომელსაც ერთი ჩავარდნის გამოსწორება უნდა, სხვა წარმოშვა, რომელიც თავად Google-ის ვიცე-პრეზიდენტმა „ჭარბად ანაზღაურებულად“ აღწერა.

ხარჯები ასიმეტრიულია ოპერატორისთვის და არა თქვენთვის. ფილტრი, რომელიც ერთ ცუდ სურათს გაატარებს, ახალ ამბებში მოხვდება. ფილტრი, რომელიც ათი ათას ლეგიტიმურს დაბლოკავს, სიჩუმეს წარმოშობს, რადგან უარყოფილი მომხმარებლები არ ორგანიზდებიან — ისინი ნებდებიან. რისკების მართვა ამ ასიმეტრიაში მუდმივად ჭარბ ბლოკირებამდე მიდის. და რადგან საფუძვლიანი განსჯა შეუძლებელია, აკრძალვების სიები ბუკვალურ სტრიქონებს ინციდენტების კვალდაკვალ იზრდიან — ასე ხდება, რომ „stethoscope“ ნებადართულია, „speculum“ კი აკრძალული. არავის გადაუწყვეტია, რომ ქალის სპეციფიკური ინსტრუმენტები უფრო საშიშია; სია იქ გაიზარდა, სადაც საჩივრები დაეცა. ის ოპერატორის PR-ისტორიას აღბეჭდავს და არა ზიანის თეორიას.

ყველაზე მკაცრი იურისდიქცია გლობალურ ნაგულისხმევად იქცევა. ერთი ფილტრი ემსახურება ყველა მომხმარებელს ყველა ქვეყანაში, ამიტომ ერთი ბაზრისთვის დამატებული შეზღუდვა ყველასთვის ექსპორტირდება — Xi Jinping-ის წესი სახელმძღვანელოს მაგალითია. ხოლო თქვენი პრომპტის გადაწერა თქვენს აზრს ანადგურებს, რაც OVERT-ის ექსპერიმენტული დასკვნაა: ყოველი პროფესიონალი, ვინც მოთხოვნა ევფემიზმად აქცია, რომ ფილტრი გაევლო, ამას ხელით დაადასტურებს. თქვენ არ გაგიმარჯვიათ; თქვენ დათმეთ.

არაფერი ამაში უფასო არ არის და, რადგან ჩავარდნა ჩუმია, ხარჯი უხილავია იმ მეტრიკებში, რომლებსაც ოპერატორი უყურებს. საკმარისი უარების შემდეგ თქვენ თხოვნას წყვეტთ და ყოველ პრომპტს წინასწარ ავიწროებთ იმამდე, რაც, თქვენი ვარაუდით, გაივლის; ევფემიზმი, რომელიც საბოლოოდ გაივლის, იძლევა სურათს, რომელიც ახლოსაა იმასთან, რაც თქვენს დოკუმენტს სჭირდებოდა, მაგრამ ის არაა. ზოგადი პოლიტიკის შეტყობინება არაფერს გეუბნებათ იმაზე, რომელი ფენა ჩაირთო, ამიტომ შეგიძლიათ მხოლოდ გამოცნობა და თავიდან ცდა — ხოლო სურათებთან მუშაობა იტერაციულია, ასე რომ ფილტრი, რომელიც ხუთიდან ერთ მცდელობას იჭერს, ციკლს არღვევს და არა უბრალოდ ანელებს. ამასობაში სფეროებს, რომლებსაც სერიოზულ ინსტრუმენტებზე ყველაზე ძლიერი პრეტენზია აქვთ, არ ჰყავთ არც განმხილველი, არც სააპელაციო ინსტანცია და, ჩვეულებრივ, არც აქვთ დაბლოკილის გამოქვეყნებული სია. წესი, რომელსაც ვერ კითხულობთ, წესი არ არის; ის ამინდია.

06უცენზურო vs ფილტრიანი AI სურათების გენერატორი: რა იცვლება სინამდვილეში

აი, ამ შედარების გულახდილი ვერსია, იმის ჩათვლით, რასაც უფილტრო სისტემა არ გაძლევთ.

განზომილება	ფილტრიანი გენერატორი	უფილტრო (Shannon)
ვინ წყვეტს	კლასიფიკატორი, რომელიც სიტყვებსა და პიქსელებს კითხულობს	ადამიანი, რომელიც ზუსტ პრომპტს კითხულობს
როდის იგებთ	გაგზავნის შემდეგ — ზოგჯერ გადახდის შემდეგ	სანამ რამე დაიხატება ან ჩამოგეჭრებათ
რა არის წესი	გამოუქვეყნებელი, ცვალებადი აკრძალვების სიები	გამოქვეყნებული პასუხისმგებლიანი გამოყენების პოლიტიკა
პროფესიული კონტექსტი	სისტემისთვის უხილავი	თქვენი შესანარჩუნებელი და თქვენი საპასუხისმგებლო
ჩავარდნის რეჟიმი	ჩუმი ჭარბი ბლოკირება, აზრის გადახრა	იღებთ იმას, რაც ითხოვეთ — შეცდომების ჩათვლით
ვინ ატარებს რისკს	მომწოდებელი, გადაბრალებული თქვენს სამუშაოზე	გაზიარებული: ოპერატორის პოლიტიკა პლუს მომხმარებლის ანგარიშვალდებულება

ბოლო რიგი ის არის, რომელსაც ხალხი გამოტოვებს — და რომელსაც მნიშვნელობა აქვს. ფილტრის მოხსნა 02 სექციაში ჩამოთვლილ ზიანის კატეგორიებს არ აქრობს; ის აქრობს მანქანას, რომელიც მათზე ცუდად ხვდებოდა. ვალდებულება იქვე რჩება, ოღონდ ახლა მას ორი მხარე ატარებს, რომელთაც კონტექსტზე მსჯელობა შეუძლიათ: ოპერატორი, რომელიც პოლიტიკას აქვეყნებს და აღასრულებს, და თქვენ, ვინც იცის, რისთვისაა სურათი. უფილტრო AI სურათების გენერაცია არის ინსტრუმენტი იმ ადამიანებისთვის, რომლებიც უკვე მზად არიან თავიანთ შედეგზე პასუხი აგონ — ქირურგის ატლასზე, ექსპერტის დასკვნაზე, სტორიბორდზე, კარიკატურაზე — და რომლებსაც აჩერებდა სისტემა, რომელსაც მათი სხვისგან გარჩევა არ შეეძლო.

07რას აკეთებს Shannon — და რას არ აკეთებს

აქ სიზუსტეს უფრო მეტი მნიშვნელობა აქვს, ვიდრე ენთუზიაზმს, განსაკუთრებით მკითხველებისთვის, რომლებიც API-ის ძიებიდან მოდიან.

რას აკეთებს

• გენერაცია. აღწერეთ სურათი ჩვეულებრივი ენით, ნებისმიერ ენაზე. Shannon თავად წერს გენერაციის პრომპტს ინგლისურად, რომელ ენაზეც არ უნდა გეკითხათ.
• ერთი სურათის რედაქტირება. ზუსტად ერთი წყარო — საუბარში უკვე არსებული ან მიმდინარე შეტყობინებაზე მიმაგრებული სურათი — შეცვლილი ინსტრუქციით, რომელიც ამბობს, რა იცვლება და რა რჩება. შედეგი ავტომატურად ინარჩუნებს წყაროს გვერდების თანაფარდობას.
• ორი ან მეტი სურათის გაერთიანება. ტანსაცმლის გადატანა, ობიექტი სცენაში, ადამიანი ადამიანის გვერდით, პროდუქტი ადამიანზე, ერთი სურათის სუბიექტი მეორის სტილით. პრომპტი თითოეული სურათის როლს თანმიმდევრობით ასახელებს და ნამდვილი სურათები გამოიყენება, ასე რომ მათი რეალური იერი ინახება და არა ხელახლა აღიწერება.
• ფორმის კონტროლი. square (ნაგულისხმევი), portrait, landscape, wide და tall. თქვენი პირდაპირი მოთხოვნა ყოველთვის იმარჯვებს.
• გენერაცია ჩვენსავე GPU კლასტერზე, გენერაციის გზაზე კონტენტ-ფილტრის გარეშე და პრომპტის დამწერ მოდელზე უარის ფენის გარეშე.

რას არ აკეთებს

• ვიდეო არ არის. Shannon არ ამოძრავებს სურათებს და არ აწარმოებს ვიდეოს. ეს არ არის გეგმაში მყოფი პუნქტი, რომელსაც კეკლუცად ვმალავთ — ის უბრალოდ არ არსებობს.
• API-ზე არ არის. სურათების გენერაცია, რედაქტირება და გაერთიანება Shannon-ის ჩატ-აპლიკაციაშია. /v1 API ემსახურება ტექსტსა და ხედვას — მას შეუძლია წაიკითხოს სურათები, რომლებსაც უგზავნით — მაგრამ ის მათ არ ხატავს.
• დაუპატიჟებელი გენერაცია არ არის. მისალმება, კითხვა ან უბრალოდ მიმაგრებული ფოტო სურათს არ იწვევს. Shannon-ისთვის სურათის დათვალიერების თხოვნა — აღწერე, წაიკითხე, გააანალიზე — ჩვეულებრივი ხედვის სამუშაოა და არა გენერაცია, და დამატებით არაფერი ღირს.

დამადასტურებელი ბარათი

ეს არის მექანიზმი, რომელიც ფილტრს ცვლის, და ის დიზაინის არჩევანია და არა ფორმალობა. როცა Shannon დაადგენს, რომ სურათს ითხოვთ, ის წერს გენერაციის პრომპტს და გაჩვენებთ მას დამადასტურებელ ბარათზე, სანამ რამე დაიხატება. სანამ არ დაადასტურებთ, არაფერი გენერირდება და არაფერი ჩამოგეჭრებათ.

შეადარეთ ეს ორი დიზაინი არსებითად. ფილტრი თქვენს განზრახვას გამოიცნობს იმაზე ნაკლები ინფორმაციით, ვიდრე თქვენ გაქვთ, და ამ ვარაუდს ჩუმად აღასრულებს. დამადასტურებელი ბარათი კი სურათის ბუკვალურ სპეციფიკაციას იმ მხარის წინაშე დებს, ვინც იცის, რისთვისაა ის, სანამ რაიმე გამოთვლითი რესურსი დაიხარჯება. ის იჭერს თქვენი მოთხოვნის არასწორად წაკითხვას, რასაც ფილტრები არასოდეს აკეთებენ; ის გაძლევთ საშუალებას დაამატოთ ის ანატომიური სიზუსტე ან ისტორიული დეტალი, რომელიც მოდელმა არასაკმარისად აღწერა; და ის პასუხისმგებლობას ცხადს ხდის და არა ბუნდოვანს. თქვენ ნახეთ პრომპტი და თქვენ დააჭირეთ ღილაკს.

08უფილტრო გენერაცია ზრდის პასუხისმგებლობას და არ ხსნის მას

ამის ადგილი აქ არის და არა ქვედა კოლონტიტულში, რადგან ეს არგუმენტის ნახევარია. ფილტრიანი გენერატორი დაპირებას იძლევა, რომელსაც ვერ ასრულებს: რომ ინსტრუმენტი თქვენ მაგივრად აღკვეთს ბოროტად გამოყენებას. ის ორივე მიმართულებით ჩავარდება — ბლოკავს ქირურგს და ვერ აჩერებს გადაწყვეტილ ბოროტმოქმედს, რომელსაც სხვა ვარიანტები აქვს და ყოველთვის ჰქონდა. რასაც ის საიმედოდ აკეთებს, არის იმის განცდის შექმნა, რომ პასუხისმგებლობა ზემოთ, მანქანამ, უკვე მოაგვარა. ფილტრის მოხსნა ამ ფიქციას აქრობს; კითხვა იმაზე, უნდა არსებობდეს თუ არა სურათი, უბრუნდება იმ ადამიანებს, ვისაც მასზე პასუხის გაცემა შეუძლია.

• Shannon Lab LLC-ის ვალდებულება. გამოქვეყნებული, კონკრეტული პასუხისმგებლიანი გამოყენების პოლიტიკა, რომელიც აკრძალულ კატეგორიებს ასახელებს და არა გამოუქვეყნებელი აკრძალვების სია — წესები, რომლებიც შეგიძლიათ წაიკითხოთ, დაიმოწმოთ და ჩვენ მოგვთხოვოთ.
• თქვენი ვალდებულება. თქვენ იცით დანიშნულება, აუდიტორია, იურისდიქცია და ყველა გამოსახული ადამიანის თანხმობის სტატუსი. ინსტრუმენტმა ეს არ იცის და კლასიფიკატორმა ვერასოდეს გაიგებდა. დამადასტურებელი ბარათი იმისთვის არსებობს, რომ ეს ცოდნა სწორედ იმ მომენტში გამოიყენოს ის მხარე, ვისაც ის აქვს.
• ხაზი, რომელიც არ ინაცვლებს. „ფილტრმა არ შემაჩერა“ არასოდეს ყოფილა თავდაცვა არცერთ მედიუმში. კამერა უარს არ ამბობს, ფანქარი უარს არ ამბობს; კანონი და პროფესიული ეთიკა არეგულირებს გამოყენებას და არა ინსტრუმენტს. უფილტრო გენერატორი აღადგენს იმ ჩვეულებრივ წესრიგს, რომელშიც ყველა სხვა პროფესიული ინსტრუმენტი მუშაობს.

წაიკითხეთ პასუხისმგებლიანი გამოყენების პოლიტიკა, სანამ დაიწყებთ. ის მოკლეა, კონკრეტული და სწორედ ის ნაწილია ამ პროდუქტისა, რომელიც დანარჩენს დასაცავს ხდის.

09ხშირად დასმული კითხვები

---

წყაროები: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023 წლის 22 აპრილი · PetaPixel, 2023 წლის 3 აპრილი · CNBC, 2024 წლის 22 თებერვალი. Shannon AI-ს ოპერირებს Shannon Lab LLC, ნიუ-მექსიკო, აშშ.