अनसेंसर्ड बनाम फ़िल्टर वाला AI इमेज जनरेटर

जो भी पेशेवर रूप से इमेज के साथ काम करता है, उसकी कहानी लगभग एक जैसी है। कोई साधारण-सी चीज़ बताने वाला प्रॉम्प्ट — घुटने के जोड़ का अनुप्रस्थ काट, टक्कर के क्षण की कार, चारकोल में एक फ़िगर स्टडी, 1944 का एक सैनिक — नीति उल्लंघन बनकर लौटता है। आप शब्द बदलते हैं, और अलग उल्लंघन मिलता है। आख़िरकार आप इतना धुँधला कुछ लिखते हैं कि वह पास हो जाए, और ऐसी इमेज मिलती है जो अब वह दिखाती ही नहीं जिसकी आपको ज़रूरत थी। औज़ार खुलकर विफल नहीं हुआ; वह क्रमशः विफल हुआ, और समझौता आपसे करवा गया।

01AI इमेज जनरेटर स्पष्ट रूप से वैध प्रॉम्प्ट से इनकार क्यों करता है?

यह इनकार आमतौर पर इमेज मॉडल की राय नहीं होता। यह मॉडल के इर्द-गिर्द बने फ़िल्टरिंग ढाँचे का नतीजा है, और उसकी परतें आपके मिले लगभग हर अजीब इनकार को समझा देती हैं।

परत	वह क्या जाँचती है	विशिष्ट विफलता
प्रॉम्प्ट ब्लॉकलिस्ट	आपके टेक्स्ट में शाब्दिक स्ट्रिंग और उनसे मिलते-जुलते रूप	वाक्य चाहे जो हो, शब्द को रोक देती है — "speculum" विफल, "stethoscope" पास
प्रॉम्प्ट क्लासिफ़ायर	प्रॉम्प्ट के "जोखिम" का सीखा हुआ आकलन	विषय की निकटता पर चल पड़ता है: चिकित्सा, हथियार, शरीर या राजनीति के आसपास की हर चीज़ ऊँचा स्कोर पाती है
मॉडल का रिफ्यूज़ल प्रशिक्षण	मॉडल की अपनी प्रशिक्षित हिचक	बिना किसी त्रुटि के इनकार कर देता है, या चुपचाप कोई सैनिटाइज़ किया विकल्प बना देता है
आउटपुट क्लासिफ़ायर	रेंडर किए गए पिक्सेल, प्रॉम्प्ट के संदर्भ के बिना	शरीर-रचना के चित्र को अश्लील सामग्री से, या फ़िल्म के स्टिल को किसी असली घटना से अलग नहीं कर पाता
नीतिगत प्रतिस्थापन	रेंडर से पहले आपके प्रॉम्प्ट का चुपचाप पुनर्लेखन	आपको इमेज मिलती है, पर वह नहीं जो आपने बताई थी, और आपको कारण नहीं बताया जाता

हर परत में एक ही अंधा कोना साझा है: कोई भी यह नहीं देख सकती कि आप क्यों पूछ रहे हैं। एक चिकित्सकीय इलस्ट्रेटर, टक्कर का पुनर्निर्माण करता वादी का विशेषज्ञ, और बुरी नीयत वाला कोई व्यक्ति — सब वही संज्ञा टाइप करते हैं। फ़िल्टर संज्ञा देखता है, एटलस या केस फ़ाइल नहीं, और उसका मूल्यांकन इस पर होता है कि उसने कितनी हानि निकलने दी — कभी इस पर नहीं कि उसने कितना काम नष्ट किया। इस विषमता में किसी भी संचालक के लिए तर्कसंगत सेटिंग यही है: और ज़्यादा इनकार करो। इसीलिए "बस शब्द बदल दीजिए" कोई समाधान नहीं है: शब्द बदलने से फ़िल्टर को वह जानकारी नहीं मिलती जो उसके पास नहीं थी, यह सिर्फ़ आपके प्रॉम्प्ट को उन शब्दों से दूर ले जाता है जिन पर वह अटका था — जिसका आमतौर पर मतलब है आपके अपने आशय से दूर।

02कंटेंट फ़िल्टर वास्तव में किसे रोकने के लिए हैं

फ़िल्टर रहित जनरेशन का ऐसा तर्क जो यह दिखावा करे कि फ़िल्टर बेवजह मौजूद हैं, पढ़ने लायक़ नहीं। आउटपुट का एक संकीर्ण समुच्चय है जिसकी हानि इमेज में ही अंतर्निहित है, चाहे पूछने वाला कोई भी हो और वजह कुछ भी:

• नाबालिगों से जुड़ी यौन सामग्री। कोई संदर्भ इसे स्वीकार्य नहीं बनाता; किसी पेशेवर कार्यप्रवाह को इसकी ज़रूरत नहीं।
• वास्तविक लोगों की सहमति के बिना बनी अंतरंग तस्वीरें। हानि उस पर पड़ती है जिसने सहमति नहीं दी, और हटाने से वह पलटती नहीं।
• लक्षित उत्पीड़न और मानहानिकारक गढ़ंत — किसी नामित व्यक्ति को ऐसा कुछ करते दिखाना जो उसने किया ही नहीं।
• जालसाज़ी-स्तर के दस्तावेज़ — पासपोर्ट, पहचान पत्र, नोट, मुहरें और वित्तीय दस्तावेज़ जो असली की तरह चलने के लिए बनाए गए हों।
• छलपूर्ण सिंथेटिक साक्ष्य — असली घटनाओं की गढ़ी हुई तस्वीरें, जिन्हें चित्रण के बजाय प्रमाण की तरह पेश किया जाए।

सूची छोटी है और उसकी एक संरचना है: हानि उस कृति में बसती है, किसी वास्तविक व्यक्ति या दस्तावेज़ से उसकी समानता में, और उसे सत्य के रूप में प्रस्तुत करने में। ध्यान दीजिए इसमें क्या नहीं है — नग्नता, ख़ून, हथियार, ऐतिहासिक अत्याचार, राजनीतिक उपहास। ये चिकित्सा, पत्रकारिता, कला, फ़ोरेंसिक और व्यंग्य का कच्चा माल हैं, और जो फ़िल्टर इन्हें हानि-श्रेणियों की तरह बरतता है, वह असल में इस बारे में कहीं व्यापक विचार लागू कर रहा है कि कौन-से विषय सम्मानजनक हैं।

Shannon उस सूची की हर चीज़ को निषिद्ध करता है, नामित श्रेणियों और परिणामों सहित एक प्रकाशित ज़िम्मेदार उपयोग नीति में — न कि ऐसी कीवर्ड तालिका से जो "placenta" को भी पकड़ ले। एक वह नियम है जिसे आप पढ़ सकते हैं और जिसके लिए हमें जवाबदेह ठहरा सकते हैं; दूसरा आपकी नीयत के बारे में ऐसे क्लासिफ़ायर का अनुमान है जिसे आप देख भी नहीं सकते।

03ओवर-रिफ्यूज़ल की समस्या कितनी बड़ी है? शोध क्या मापता है

हाल तक इमेज मॉडलों में ओवर-रिफ्यूज़ल एक क़िस्सा भर था — एक जैसी कहानी वाले हज़ारों लोग, और उसे नापने का कोई तरीक़ा नहीं। यह OVERT (OVEr-Refusal evaluation on Text-to-image models) से बदला, जिसे ICML 2025 में UC Berkeley के समूह ने प्रस्तुत किया, जिसमें Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song और Song Mei शामिल थे: यह पहला बड़े पैमाने का बेंचमार्क है जो मापता है कि टेक्स्ट-टू-इमेज सिस्टम कितनी बार पूरी तरह निर्दोष प्रॉम्प्ट से इनकार करते हैं।

डिज़ाइन मायने रखता है। वे 4,600 प्रॉम्प्ट इस तरह बनाए गए हैं कि वे हानिकारक दिखें पर हों निर्दोष — किसी असली पेशेवर अनुरोध का आकार, जिसमें स्केलपेल, चोट का निशान या कोई प्रदर्शन आ जाए — और उनके साथ नियंत्रण के तौर पर 1,785 सचमुच हानिकारक प्रॉम्प्ट रखे गए हैं, ताकि कोई मॉडल सब कुछ ठुकराकर अच्छा स्कोर न पा सके। नौ श्रेणियाँ व्यक्तिगत और सार्वजनिक-हस्ती की निजता से लेकर कॉपीराइट, भेदभाव, आत्म-हानि, यौन सामग्री और अवैध गतिविधि होते हुए हिंसा तक जाती हैं।

मुख्य निष्कर्ष यह है कि ओवर-रिफ्यूज़ल श्रेणियों और अग्रणी मॉडलों, दोनों के आर-पार व्यापक है। दूसरा निष्कर्ष प्रचलित जुगाड़ के लिए और भी घातक है: लेखकों ने उपशमन के तौर पर प्रॉम्प्ट पुनर्लेखन को परखा और बताया कि यह "अक्सर मूल प्रॉम्प्ट के अर्थ के प्रति निष्ठा से समझौता कर लेता है"। आप जो माँगा था उसे बदलकर फ़िल्टर पार कर सकते हैं, और फिर आपके पास वह रहता ही नहीं जो आपने माँगा था।

एक संकरा अध्ययन पिक्सेल की ओर से उसी निष्कर्ष पर पहुँचता है। An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann और Oliver, ECCV 2024 का AI4VA वर्कशॉप) में लेखक कलात्मक न्यूडिटी पर तीन प्रोडक्शन NSFW क्लासिफ़ायरों का मूल्यांकन करते हैं और लैंगिक पूर्वाग्रह तथा शैलीगत पूर्वाग्रह, दोनों उजागर करते हैं: किसी फ़िगर स्टडी पर फ़ैसला इस पर निर्भर करता है कि किसका शरीर और किस शैली में चित्रित है। यह उसी बात का मापा हुआ कथन है जिसे हर फ़िगर-ड्रॉइंग कलाकार से कहा जाता रहा है कि वह उसकी कल्पना है।

04वैध काम की आठ क़िस्में जिन्हें फ़िल्टर वाले जनरेटर रोक देते हैं

ये वे श्रेणियाँ हैं जहाँ ओवर-रिफ्यूज़ल असुविधा नहीं, काम की ठप्पी है। जहाँ कोई विशिष्ट रिपोर्ट किया गया मामला मौजूद है वहाँ उसका हवाला दिया गया है; जहाँ कोई सत्यापित नहीं हुआ, वहाँ श्रेणी का वर्णन बिना कोई घटना गढ़े किया गया है।

1. चिकित्सकीय और शारीरिक इलस्ट्रेशन

इस क्षेत्र का सबसे बेहतर प्रलेखित मामला। अप्रैल 2023 में The Intercept (Debbie Nathan) ने बताया कि Midjourney ने speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom और IUD सहित शरीर-रचना संबंधी शब्दों पर प्रतिबंध लगा रखा था, जबकि DALL·E 2 ने "pills used in medication abortion" को कंटेंट-पॉलिसी संदेश के साथ ठुकरा दिया। यह पैटर्न Julia Rockwell ने पकड़ा, जो एक क्लिनिकल डेटा विश्लेषक हैं और अपनी कोशिका-जीवविज्ञानी मित्र के लिए उपहार के तौर पर placenta की तस्वीर बनाना चाह रही थीं; उन्होंने इसकी सूचना MIT Technology Review को दी। विषमता ही असली सुराग़ है: "stethoscope" सामान्य रूप से बन जाता था जबकि "speculum" निषिद्ध था। University of Washington के शोधकर्ता Bill Howe ने इन फ़िल्टरों को "ham-fisted" कहा और कहा कि इन्होंने "प्रजनन पर वैज्ञानिक चर्चा करना मूलतः असंभव" बना दिया है। रोगी शिक्षा, शल्य एटलस और नर्सिंग पाठ्यक्रम, सबको शरीर का सटीक चित्रण चाहिए, उन हिस्सों सहित जिन्हें किसी कीवर्ड सूची ने अशोभनीय ठहरा दिया है।

2. फ़ोरेंसिक और दुर्घटना पुनर्निर्माण

टक्कर पुनर्निर्माण, आग के उद्गम का विश्लेषण और अदालती प्रदर्शों में क्षति, घाव और हिंसक यांत्रिकी को नैदानिक सटीकता से दिखाना ज़रूरी है। "blood" या "gunshot wound" को ठुकराने के लिए तैयार फ़िल्टर पूरे अनुशासन को ही ठुकरा देता है: संदर्भ — एक विशेषज्ञ रिपोर्ट, एक बीमा फ़ाइल — क्लासिफ़ायर को दिखता ही नहीं, और जो तटस्थता ऐसी तस्वीरों को साक्ष्य के योग्य बनाती है, वही उन्हें रक्तपात जैसा दिखा देती है।

3. कलात्मक न्यूड और फ़िगर ड्रॉइंग

नग्न आकृति हर जगह कला का एक मूलभूत विषय है, और फ़िगर स्टडी कला-शिक्षा का केंद्र। ऊपर दिया ECCV 2024 का परिणाम उसी बात का मापा हुआ रूप है जो कलाकार बताते रहे हैं: क्लासिफ़ायर फ़िगर स्टडी को अश्लील सामग्री से भरोसे के साथ अलग नहीं करते, और उनकी त्रुटियाँ लिंग और शैली से पक्षपाती हैं — यानी फ़िल्टर ठीक उसी परंपरा पर सबसे कठोर है जिसे उसे पहचानना चाहिए।

4. ऐतिहासिक और युद्धकालीन तस्वीरें

पाठ्यपुस्तक कला, संग्रहालय की व्याख्या और स्मारक परियोजनाओं में वर्दियाँ, हथियार, शिविर, युद्ध और अत्याचार दिखाने पड़ते हैं। फ़रवरी 2024 का Gemini प्रकरण शिक्षाप्रद है क्योंकि विफलता उल्टी दिशा में चली और नुक़सान बराबर का हुआ। Google ने 22 फ़रवरी 2024 को Gemini की लोगों की इमेज बनाने की क्षमता रोक दी, जब उसने नाज़ी-काल के जर्मन सैनिकों सहित ऐतिहासिक समूहों के नस्लीय रूप से बदले हुए चित्रण बना दिए। CEO Sundar Pichai ने इन आउटपुट को "completely unacceptable" कहा; SVP Prabhakar Raghavan ने माना कि मॉडल ने "overcompensated" किया और "over-conservative" हो गया। संदर्भ-अंधी सुरक्षा ने ऐतिहासिक तस्वीरों को सुरक्षित नहीं बनाया — उसने उन्हें झूठा बना दिया, जो किसी इतिहास प्रकाशक के लिए और भी बुरा है।

5. कथा-साहित्य में हिंसा और फ़िल्म प्री-विज़ुअलाइज़ेशन

स्टोरीबोर्ड, कॉन्सेप्ट आर्ट, कॉमिक्स और गेम डिज़ाइन हिंसा उसी वजह से दिखाते हैं जिस वजह से उपन्यास और फ़िल्में दिखाती हैं। जो फ़िल्टर हॉरर स्टोरीबोर्ड और धमकी में फ़र्क़ नहीं कर सकता, वह पूरी कथात्मक-कला शृंखला को संदिग्ध मान लेता है — जबकि स्टोरीबोर्ड स्पष्ट रूप से अवास्तविक है, एक ऐसे दृश्य की योजना जिसे अभिनेता और प्रभाव टीमें रचेंगी।

6. राजनीतिक व्यंग्य और संपादकीय कार्टून

शक्तिशाली लोगों का व्यंग्यचित्र ज़्यादातर लोकतंत्रों में अभिव्यक्ति की सबसे संरक्षित श्रेणियों में है, और इमेज फ़िल्टर आमतौर पर सबसे पहले उसी को हटाते हैं। सबसे स्पष्ट प्रलेखित मामला Midjourney का अप्रैल 2023 का वह निर्णय है जिसमें उसने चीन के राष्ट्रपति Xi Jinping की इमेज पर रोक लगाई और प्रॉम्प्ट में उनका नाम ब्लॉक कर दिया — इसकी रिपोर्ट PetaPixel, Decrypt और अन्य ने की — जबकि अन्य विश्व नेताओं की अनुमति बनी रही। संस्थापक David Holz ने Discord पर समझाया कि कंपनी "minimize drama" चाहती थी और कि "the ability for people in China to use this tech is more important than your ability to generate satire"; Foundation for Individual Rights and Expression की Sarah McLaughlin ने इसे सेंसरशिप कहा। कारोबारी गणित पर जो भी राय बने, तंत्र का नाम लेना ज़रूरी है: एक राष्ट्रीय अभिव्यक्ति-प्रतिबंध दुनिया भर के हर उपयोगकर्ता पर लागू हो गया, क्योंकि वैश्विक फ़िल्टर की एक ही सेटिंग होती है।

7. सुरक्षा शोध और फ़िशिंग-जागरूकता सामग्री

सुरक्षा टीमें ऐसी प्रशिक्षण सामग्री बनाती हैं जिसे ठीक उसी चीज़ जैसा दिखना होता है जिसके ख़िलाफ़ वह चेतावनी देती है: एक विश्वसनीय नक़ली लॉगिन स्क्रीन, एक जाली चालान, पार्किंग मीटर पर एक दुर्भावनापूर्ण QR कोड। किसी क्लासिफ़ायर के लिए यह उसी हमले से अभिन्न है जिसके ख़िलाफ़ वह टीका लगाती है — वास्तविकता जैसा दिखना ही तो मक़सद है — इसलिए फ़िल्टर बचाव और हमले, दोनों को एक जैसा रोकते हैं, जिससे फ़ायदा हमलावर को होता है, जो वैसे भी कभी किसी फ़िल्टर वाले उपभोक्ता टूल का इस्तेमाल करने वाला नहीं था।

8. अधिकार-धारकों को उनके ही ब्रांड, उत्पाद या चेहरे की इमेज से इनकार

कॉपीराइट और ट्रेडमार्क फ़िल्टरिंग स्वामित्व नहीं जाँचती; वह समानता जाँचती है। कोई कंपनी अपने ही लोगो या उत्पाद की इमेज आसानी से नहीं बना सकती, कोई अधिकार-धारक अपने ही किरदार को नहीं दिखा सकता, और लोग अक्सर अपना ही चेहरा नहीं बना पाते, क्योंकि लाइकनेस फ़िल्टर सहमति के बजाय पहचान-योग्यता पर चलते हैं। OVERT ने अपनी नौ ओवर-रिफ्यूज़ल श्रेणियों में "copyright violations" को ठीक इसीलिए रखा है कि यह फ़ॉल्स पॉज़िटिव इतना आम है। फ़िल्टर एक ऐसे सवाल के लिए भोथरा औज़ार है — क्या आपको इसका अधिकार है? — जिसे पूछने का उसके पास कोई रास्ता ही नहीं।

ऊपर की आठ में से चार किसी विशिष्ट प्रकाशित मामले से जुड़ी हैं (चिकित्सकीय, कलात्मक न्यूड, ऐतिहासिक, व्यंग्य), और आठवीं के लिए OVERT की कॉपीराइट श्रेणी। फ़ोरेंसिक, कथा-साहित्य के प्री-विज़ुअलाइज़ेशन और सुरक्षा-जागरूकता सामग्री को श्रेणियों के रूप में बताया गया है: ये प्रभावित पेशेवर काम की सुविख्यात क़िस्में हैं, जिनके लिए हमने कोई विशिष्ट प्रकाशित घटना सत्यापित नहीं की।

05AI आर्ट जनरेटर ग़लत चीज़ें क्यों रोकते हैं, और कंटेंट फ़िल्टर के फ़ॉल्स पॉज़िटिव ट्यूनिंग से क्यों नहीं मिटते

ज़्यादा रोकथाम पर सहज प्रतिक्रिया होती है "थ्रेशोल्ड ढीला कर दो"। यह काम नहीं करता, और वजह प्रयास की कमी नहीं, संरचना है।

श्रेणियाँ संकेत में तो ओवरलैप करती हैं, वास्तविकता में नहीं। शल्य इलस्ट्रेशन और अश्लील सामग्री, दोनों में नग्नता है। फ़ोरेंसिक पुनर्निर्माण और रक्तपात, दोनों में ख़ून है। जागरूकता स्लाइड और फ़िशिंग किट, दोनों में नक़ली लॉगिन फ़ॉर्म है। व्यंग्यचित्र और मानहानिकारक गढ़ंत, दोनों में पहचाना जा सकने वाला नेता है। हर जोड़े को जो अलग करता है वह है उद्देश्य और प्रस्तुति — जो न प्रॉम्प्ट में है, न पिक्सेल में। कोई थ्रेशोल्ड उन दो समूहों को अलग नहीं कर सकता जो इनपुट-स्पेस के एक ही क्षेत्र में बैठे हैं; उसे खिसकाने से बस एक त्रुटि दूसरी से बदल जाती है। Gemini प्रकरण ने यही दिखाया: एक विफलता ठीक करने के इरादे से किए गए हस्तक्षेप ने दूसरी विफलता पैदा कर दी, जिसे ख़ुद Google के SVP ने "overcompensated" बताया।

लागतें संचालक के लिए विषम हैं, आपके लिए नहीं। जो फ़िल्टर एक बुरी इमेज निकल जाने देता है, उससे ख़बर बनती है। जो फ़िल्टर दस हज़ार वैध इमेज रोक देता है, उससे चुप्पी बनती है, क्योंकि ठुकराए गए उपयोगकर्ता संगठित नहीं होते — वे हार मान लेते हैं। इस विषमता में जोखिम प्रबंधन स्थायी रूप से अति-रोकथाम पर आ टिकता है। और चूँकि असल निर्णय असंभव है, ब्लॉकलिस्ट घटनाओं के साथ-साथ शाब्दिक शब्द जोड़ती जाती हैं, और इसी तरह "stethoscope" ठीक रहता है और "speculum" प्रतिबंधित हो जाता है। किसी ने यह तय नहीं किया कि स्त्री-विशिष्ट उपकरण ज़्यादा ख़तरनाक हैं; सूची वहीं बढ़ी जहाँ शिकायतें आईं। वह किसी संचालक के PR इतिहास को दर्ज करती है, हानि के किसी सिद्धांत को नहीं।

सबसे सख़्त अधिकार-क्षेत्र वैश्विक डिफ़ॉल्ट बन जाता है। एक ही फ़िल्टर हर देश के हर उपयोगकर्ता को परोसा जाता है, इसलिए किसी एक बाज़ार के लिए जोड़ी गई पाबंदी सब पर निर्यात हो जाती है — Xi Jinping वाला नियम इसका पाठ्यपुस्तक उदाहरण है। और आपका प्रॉम्प्ट दोबारा लिखना आपका अर्थ नष्ट कर देता है, जो OVERT का प्रायोगिक निष्कर्ष है: हर उस पेशेवर ने इसे हाथों-हाथ प्रमाणित किया है जिसने फ़िल्टर पार कराने के लिए अपने अनुरोध को शब्दाडंबर में धो डाला। आप जीते नहीं; आपने समझौता किया।

इसमें से कुछ भी मुफ़्त नहीं है, और चूँकि यह चुपचाप विफल होता है, इसकी क़ीमत उन मापदंडों में अदृश्य रहती है जिन्हें कोई संचालक देखता है। पर्याप्त इनकार झेलने के बाद आप पूछना ही बंद कर देते हैं, हर प्रॉम्प्ट को पहले से सिकोड़कर वह बना देते हैं जिसके पास होने का आपको अंदाज़ा है; जो शब्दाडंबर आख़िरकार पास होता है वह ऐसी इमेज देता है जो आपके दस्तावेज़ की ज़रूरत के पास तो है, पर वह नहीं। नीति का कोई सामान्य संदेश आपको यह नहीं बताता कि कौन-सी परत चली, इसलिए आप बस अनुमान लगाकर दोबारा कोशिश कर सकते हैं — और इमेज का काम पुनरावृत्त होता है, इसलिए पाँच में से एक कोशिश पकड़ने वाला फ़िल्टर लूप को धीमा भर नहीं करता, तोड़ देता है। इस बीच जिन क्षेत्रों का गंभीर औज़ारों पर सबसे मज़बूत दावा है, उन्हें न कोई समीक्षक मिलता है, न अपील, और आमतौर पर यह प्रकाशित सूची भी नहीं कि क्या-क्या रोका गया है। जिस नियम को आप पढ़ ही नहीं सकते वह नियम नहीं; वह मौसम है।

06अनसेंसर्ड बनाम फ़िल्टर वाला AI इमेज जनरेटर: असल में क्या बदलता है

यहाँ तुलना का ईमानदार रूप है, यह भी शामिल करके कि फ़िल्टर रहित सिस्टम आपको क्या नहीं देता।

पहलू	फ़िल्टर वाला जनरेटर	फ़िल्टर रहित (Shannon)
फ़ैसला कौन करता है	शब्द और पिक्सेल पढ़ता एक क्लासिफ़ायर	पूरा प्रॉम्प्ट पढ़ता एक व्यक्ति
पता कब चलता है	भेजने के बाद — कभी-कभी भुगतान के बाद	कुछ भी रेंडर या बिल होने से पहले
नियम क्या है	अप्रकाशित, बदलती रहती ब्लॉकलिस्ट	एक प्रकाशित ज़िम्मेदार उपयोग नीति
पेशेवर संदर्भ	सिस्टम को दिखता ही नहीं	आपके पास, और उसका जवाब भी आपका
विफलता का ढंग	चुपचाप अति-रोकथाम, अर्थ का भटकाव	आपको वही मिलता है जो आपने माँगा — ग़लतियों समेत
जोखिम कौन उठाता है	विक्रेता, जो उसे आपके काम पर डाल देता है	साझा: संचालक की नीति और उपयोगकर्ता की जवाबदेही

आख़िरी पंक्ति वही है जिसे लोग छोड़ देते हैं, और वही मायने रखती है। फ़िल्टर हटाने से खंड 02 की हानि-श्रेणियाँ नहीं हटतीं; उससे वह मशीन हटती है जो उनके बारे में बुरी तरह अनुमान लगा रही थी। दायित्व वहीं रहता है, बस अब उसे दो ऐसे पक्ष थामे हैं जो संदर्भ पर सोच सकते हैं: संचालक, जो नीति प्रकाशित और लागू करता है, और आप, जो जानते हैं कि इमेज किस काम के लिए है। फ़िल्टर रहित AI इमेज जनरेशन उन लोगों के लिए औज़ार है जो पहले से अपने आउटपुट के पीछे खड़े होने को तैयार हैं — सर्जन का एटलस, विशेषज्ञ की रिपोर्ट, स्टोरीबोर्ड, कार्टून — और जिन्हें ऐसा सिस्टम रोक रहा था जो उन्हें किसी और से अलग ही नहीं कर पाता था।

07Shannon क्या करता है — और क्या नहीं करता

यहाँ उत्साह से ज़्यादा सटीकता मायने रखती है, ख़ासकर उन पाठकों के लिए जो API की खोज से आए हैं।

यह क्या करता है

• जनरेशन। इमेज का वर्णन सामान्य भाषा में, किसी भी भाषा में कीजिए। आपने चाहे किसी भी भाषा में पूछा हो, Shannon जनरेशन प्रॉम्प्ट स्वयं लिखता है, अंग्रेज़ी में।
• एक इमेज की एडिटिंग। ठीक एक स्रोत — बातचीत में पहले से मौजूद कोई तस्वीर, या आपके मौजूदा संदेश से संलग्न कोई — जिसे ऐसे निर्देश से बदला जाता है जो बताए कि क्या बदलेगा और क्या वैसा रहेगा। आउटपुट स्रोत का आस्पेक्ट रेशियो अपने आप बनाए रखता है।
• दो या अधिक इमेज मिलाना। आउटफ़िट ट्रांसफ़र, वस्तु-को-दृश्य-में, व्यक्ति के बगल में व्यक्ति, प्रोडक्ट-ऑन-पर्सन, एक इमेज का विषय दूसरी की शैली के साथ। प्रॉम्प्ट हर इमेज की भूमिका क्रम से बताता है, और असली इमेज इस्तेमाल होती हैं, इसलिए उनकी वास्तविक शक्ल दोबारा वर्णन किए जाने के बजाय बची रहती है।
• आकार नियंत्रण। square (डिफ़ॉल्ट), portrait, landscape, wide और tall। आपका स्पष्ट अनुरोध हमेशा ऊपर रहता है।
• रेंडरिंग हमारे अपने GPU क्लस्टर पर, जनरेशन पथ पर बिना किसी कंटेंट फ़िल्टर के और प्रॉम्प्ट लिखने वाले मॉडल पर बिना किसी रिफ्यूज़ल लेयर के।

यह क्या नहीं करता

• वीडियो नहीं। Shannon इमेज को एनिमेट नहीं करता और वीडियो नहीं बनाता। यह कोई रोडमैप आइटम नहीं है जिसे चालाकी से छिपाया जा रहा हो — यह है ही नहीं।
• API पर नहीं। इमेज जनरेशन, एडिटिंग और कंबिनेशन Shannon चैट ऐप में हैं। /v1 API टेक्स्ट और विज़न देता है — यह आपकी भेजी इमेज पढ़ सकता है — पर उन्हें रेंडर नहीं करता।
• बिना कहे कोई जनरेशन नहीं। अभिवादन, सवाल या यूँ ही जोड़ी गई तस्वीर से कोई इमेज नहीं बनती। Shannon से किसी इमेज को देखने को कहना — उसका वर्णन करना, पढ़ना, विश्लेषण करना — सामान्य विज़न कार्य है, जनरेशन नहीं, और इसका कोई अतिरिक्त शुल्क नहीं।

पुष्टिकरण कार्ड

यही वह तंत्र है जो फ़िल्टर की जगह लेता है, और यह औपचारिकता नहीं, एक डिज़ाइन निर्णय है। जब Shannon तय करता है कि आप इमेज माँग रहे हैं, तो वह जनरेशन प्रॉम्प्ट लिखता है और कुछ भी रेंडर होने से पहले उसे पुष्टिकरण कार्ड पर आपको दिखाता है। जब तक आप पुष्टि नहीं करते, न कुछ बनता है और न कोई बिलिंग होती है।

दोनों डिज़ाइनों की तुलना उनके गुणों पर कीजिए। फ़िल्टर आपकी नीयत का अनुमान आपसे कम जानकारी के साथ लगाता है, और उस अनुमान को चुपचाप लागू कर देता है। पुष्टिकरण कार्ड इमेज का शाब्दिक विवरण उस पक्ष के सामने रखता है जो जानता है कि वह किसलिए है, और वह भी किसी भी कंप्यूट खर्च होने से पहले। यह आपके अनुरोध की ग़लत पढ़ाई पकड़ लेता है, जो फ़िल्टर कभी नहीं करते; यह आपको वह शारीरिक सटीकता या ऐतिहासिक ब्योरा जोड़ने देता है जिसे मॉडल ने कम बताया था; और यह ज़िम्मेदारी को धुँधली नहीं, पठनीय बनाता है। आपने प्रॉम्प्ट देखा, और आपने बटन दबाया।

08फ़िल्टर रहित जनरेशन ज़िम्मेदारी बढ़ाती है, हटाती नहीं

यह बात फ़ुटर में नहीं, यहीं होनी चाहिए, क्योंकि यह पूरे तर्क का आधा हिस्सा है। फ़िल्टर वाला जनरेटर ऐसा वादा करता है जिसे वह निभा नहीं सकता: कि औज़ार आपकी ओर से दुरुपयोग रोक देगा। वह दोनों दिशाओं में विफल होता है — वह सर्जन को रोकता है, और किसी दृढ़ बदनीयत व्यक्ति को नहीं रोक पाता, जिसके पास और विकल्प हैं और हमेशा थे। वह भरोसे से बस इतना करता है कि सबको लगे ज़िम्मेदारी ऊपर ही, मशीन द्वारा, निपटा दी गई। फ़िल्टर हटाने से यह कल्पना हटती है; यह सवाल कि कोई इमेज होनी चाहिए या नहीं, उन लोगों के पास लौट आता है जो उसका जवाब दे सकते हैं।

• Shannon Lab LLC का दायित्व। किसी अप्रकाशित ब्लॉकलिस्ट के बजाय निषिद्ध श्रेणियों का नाम लेती एक प्रकाशित, विशिष्ट ज़िम्मेदार उपयोग नीति — ऐसे नियम जिन्हें आप पढ़ सकते हैं, उद्धृत कर सकते हैं और जिनके लिए हमें जवाबदेह ठहरा सकते हैं।
• आपका दायित्व। आप उद्देश्य, दर्शक, अधिकार-क्षेत्र और चित्रित हर व्यक्ति की सहमति की स्थिति जानते हैं। औज़ार नहीं जानता, और कोई क्लासिफ़ायर कभी जान भी नहीं सकता था। पुष्टिकरण कार्ड इसीलिए है कि वह जानकारी ठीक उसी क्षण, उसी पक्ष द्वारा लागू हो जिसके पास वह है।
• वह रेखा जो नहीं हिलती। "फ़िल्टर ने मुझे रोका नहीं" किसी भी माध्यम में कभी बचाव नहीं रहा। कैमरा इनकार नहीं करता, पेंसिल इनकार नहीं करती; क़ानून और पेशेवर नैतिकता उपयोग को नियंत्रित करते हैं, उपकरण को नहीं। फ़िल्टर रहित जनरेटर वही सामान्य व्यवस्था लौटाता है जिसके तहत हर दूसरा पेशेवर औज़ार चलता है।

शुरू करने से पहले ज़िम्मेदार उपयोग नीति पढ़िए। वह छोटी है, विशिष्ट है, और इस उत्पाद का वही हिस्सा है जो बाक़ी सबको बचाव-योग्य बनाता है।

09अक्सर पूछे जाने वाले सवाल

---

स्रोत: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 अप्रैल 2023 · PetaPixel, 3 अप्रैल 2023 · CNBC, 22 फ़रवरी 2024। Shannon AI का संचालन Shannon Lab LLC, न्यू मैक्सिको, USA द्वारा किया जाता है।