بغیر سنسر شپ بمقابلہ فلٹر شدہ AI امیج جنریٹر

تصاویر کے ساتھ پیشہ ورانہ طور پر کام کرنے والے تقریباً ہر شخص کی کہانی ایک جیسی ہے۔ ایک عام سی چیز بیان کرنے والا پرامپٹ — گھٹنے کے جوڑ کا مقطع، ٹکراؤ کے لمحے میں ایک گاڑی، کوئلے سے بنایا گیا فگر اسٹڈی، 1944 کا ایک سپاہی — پالیسی کی خلاف ورزی بن کر واپس آتا ہے۔ آپ الفاظ بدلتے ہیں، اور کوئی دوسری خلاف ورزی سامنے آ جاتی ہے۔ آخرکار آپ کچھ اتنا مبہم لکھتے ہیں کہ گزر جائے، اور جو تصویر ملتی ہے وہ اب وہ نہیں دکھاتی جو آپ کو درکار تھا۔ اوزار شور مچا کر ناکام نہیں ہوا؛ وہ درجہ بہ درجہ ناکام ہوا، اور سمجھوتہ کرنے والا آپ کو بنا گیا۔

01AI امیج جنریٹر ایسے پرامپٹ سے انکار کیوں کرتا ہے جو صاف طور پر جائز ہو؟

انکار عام طور پر خود امیج ماڈل کی رائے نہیں ہوتی۔ وہ ماڈل کے گرد لپٹی ہوئی چھانٹی کی تہوں کا نتیجہ ہوتا ہے، اور اس کی پرتیں آپ کو ملنے والے تقریباً ہر عجیب انکار کی وضاحت کر دیتی ہیں۔

پرت	یہ کیا جانچتی ہے	خصوصیت والی ناکامی
پرامپٹ بلاک لسٹ	آپ کے متن میں لفظی سلسلے اور ان کے قریبی روپ	لفظ کو اس کے گرد کے جملے سے قطع نظر روک دیتی ہے — «speculum» ناکام، «stethoscope» کامیاب
پرامپٹ درجہ بند	پرامپٹ کے «خطرے» کا سیکھا ہوا اندازہ	موضوعاتی قربت پر بھڑک اٹھتا ہے: طب، اسلحہ، جسم یا سیاست کے قریب ہر چیز کے نمبر بلند ہوتے ہیں
ماڈل کی انکار کی تربیت	خود ماڈل کی تربیت یافتہ ہچکچاہٹ	بغیر کسی خرابی کے انکار کر دیتا ہے، یا خاموشی سے ایک لیپا پوتی شدہ متبادل بنا دیتا ہے
آؤٹ پٹ درجہ بند	رینڈر شدہ پکسل، پرامپٹ کے سیاق کے بغیر	علمِ تشریح کے خاکے کو فحاشی سے، یا فلم کے منظر کو اصل واقعے سے الگ نہیں کر سکتا
پالیسی کا متبادل	رینڈر سے پہلے آپ کے پرامپٹ کی خاموش دوبارہ تحریر	آپ کو تصویر ملتی ہے، مگر وہ نہیں جو آپ نے بتائی تھی، اور آپ کو وجہ بھی نہیں بتائی جاتی

ہر پرت میں ایک ہی اندھا نقطہ مشترک ہے: کوئی بھی یہ نہیں دیکھ سکتی کہ آپ کیوں پوچھ رہے ہیں۔ ایک طبی مصور، تصادم کی بازسازی کرنے والا مدعی کا ماہر، اور ایک بدنیت شخص، سب وہی اسم لکھتے ہیں۔ چھلنی اسم دیکھتی ہے، اطلس یا مقدمے کی فائل نہیں، اور اس کی جانچ اس بنیاد پر ہوتی ہے کہ اس نے کتنے نقصان گزرنے دیے — کبھی اس بنیاد پر نہیں کہ اس نے کتنا کام تباہ کیا۔ اس عدمِ توازن کے تحت کسی بھی چلانے والے کے لیے معقول ترتیب یہی ہے کہ زیادہ انکار کرو۔ اسی لیے «الفاظ بدل لو» کوئی حل نہیں: الفاظ بدلنے سے چھلنی کو کوئی ایسی معلومات نہیں ملتی جو اس کے پاس نہ ہو، بس آپ کا پرامپٹ ان الفاظ سے دور ہٹ جاتا ہے جنہوں نے اسے بھڑکایا تھا، اور اس کا عام مطلب یہ ہے کہ وہ آپ کی مراد سے دور ہٹ جاتا ہے۔

02مواد کی چھلنیاں دراصل کس چیز کو روکنے کے لیے ہیں

بغیر فلٹر تصویر سازی کے حق میں ایسی دلیل جو یہ ظاہر کرے کہ چھلنیاں بلا وجہ موجود ہیں، پڑھنے کے قابل نہیں۔ نتائج کا ایک محدود مجموعہ ایسا ہے جس کا نقصان خود تصویر میں پیوست ہے، اس سے قطع نظر کہ کس نے اور کیوں مانگی:

• نابالغوں پر مشتمل جنسی مواد۔ کوئی سیاق اسے قابلِ قبول نہیں بناتا؛ کسی پیشہ ورانہ ورک فلو کو اس کی ضرورت نہیں۔
• حقیقی افراد کی بغیر رضامندی نجی تصاویر۔ نقصان اس شخص پر پڑتا ہے جس نے رضامندی دی ہی نہیں، اور مواد ہٹا دینے سے وہ واپس نہیں ہوتا۔
• ہدف بنا کر ہراسانی اور ہتک آمیز جعل سازی — یعنی کسی نامزد فرد کو ایسا دکھانا جیسے اس نے وہ کیا ہو جو اس نے نہیں کیا۔
• جعل سازی کے درجے کی دستاویزات — پاسپورٹ، شناختی کارڈ، کرنسی نوٹ، مہریں اور مالی دستاویزات جو اصل کے طور پر چل جانے کے لیے بنائی جائیں۔
• دھوکہ دینے والے مصنوعی شواہد — حقیقی واقعات کی گھڑی ہوئی تصاویر جنہیں تشریح کے بجائے دستاویزی ثبوت کے طور پر پیش کیا جائے۔

فہرست مختصر ہے اور اس کی ایک ساخت ہے: نقصان خود چیز میں، کسی حقیقی شخص یا دستاویز سے اس کی مشابہت میں، اور اسے سچ کے طور پر پیش کرنے میں ہے۔ غور کریں کہ اس میں کیا نہیں ہے — برہنگی، خون، اسلحہ، تاریخی مظالم، سیاسی تمسخر۔ یہ طب، صحافت، فن، فرانزک اور طنز کا خام مال ہیں، اور جو چھلنی انہیں نقصان کے زمرے سمجھتی ہے وہ دراصل اس بارے میں ایک کہیں وسیع تر خیال نافذ کر رہی ہے کہ کون سے موضوعات باعزت ہیں۔

Shannon اس فہرست کی ہر چیز کو ممنوع قرار دیتا ہے، ایک شائع شدہ ذمہ دارانہ استعمال کی پالیسی میں، جس میں زمرے اور نتائج نام بہ نام درج ہیں، نہ کہ کسی ایسی کلیدی الفاظ کی فہرست میں جو «placenta» کو بھی پکڑ لے۔ ایک وہ اصول ہے جسے آپ پڑھ سکتے ہیں اور جس پر ہمیں جوابدہ ٹھہرا سکتے ہیں؛ دوسرا آپ کی نیت کے بارے میں ایک ایسے درجہ بند کا اندازہ ہے جو آپ کو نظر ہی نہیں آتا۔

03حد سے زیادہ انکار کا مسئلہ کتنا بڑا ہے؟ تحقیق کیا ناپتی ہے

کچھ عرصہ پہلے تک امیج ماڈلز میں حد سے زیادہ انکار محض ایک روایت تھی — ہزاروں لوگ ایک ہی کہانی سناتے، اور اسے ناپنے کا کوئی طریقہ نہیں۔ یہ OVERT (OVEr-Refusal evaluation on Text-to-image models) کے ساتھ بدلا، جو ICML 2025 میں UC Berkeley کے ایک گروہ نے پیش کیا جس میں Ziheng Cheng، Somayeh Sojoudi، Xuandong Zhao، Dawn Song اور Song Mei شامل تھے: یہ پہلا بڑے پیمانے کا بینچ مارک ہے جو ناپتا ہے کہ متن سے تصویر بنانے والے نظام کتنی بار بالکل بےضرر پرامپٹ سے انکار کرتے ہیں۔

ڈیزائن اہم ہے۔ وہ 4,600 پرامپٹ اس طرح بنائے گئے ہیں کہ وہ نقصان دہ لگیں مگر بےضرر ہوں — اسکالپل، زخم کے نشان یا احتجاج کا ذکر کرتی ایک حقیقی پیشہ ورانہ درخواست کی شکل — اور ان کے ساتھ 1,785 واقعی نقصان دہ پرامپٹ کنٹرول کے طور پر رکھے گئے ہیں، تاکہ کوئی ماڈل ہر چیز سے انکار کر کے اچھے نمبر نہ لے سکے۔ نو زمرے انفرادی اور عوامی شخصیات کی نجی زندگی سے لے کر کاپی رائٹ، امتیاز، خود کو نقصان، جنسی مواد اور غیر قانونی سرگرمی سے ہوتے ہوئے تشدد تک پھیلے ہوئے ہیں۔

نمایاں نتیجہ یہ ہے کہ حد سے زیادہ انکار زمروں اور نمایاں ماڈلز، دونوں میں عام ہے۔ دوسرا نتیجہ رائج حل کے لیے زیادہ نقصان دہ ہے: مصنفین نے تدارک کے طور پر پرامپٹ کی دوبارہ تحریر کو جانچا اور بتایا کہ یہ «اکثر اصل پرامپٹ کے معنی سے وفاداری کو نقصان پہنچاتی ہے۔» آپ اپنی مانگی ہوئی چیز بدل کر چھلنی سے گزر سکتے ہیں، اور پھر آپ کے پاس وہ چیز رہتی ہی نہیں جو آپ نے مانگی تھی۔

ایک محدود تر مطالعہ پکسل کی جانب سے اسی نتیجے پر پہنچتا ہے۔ An Art-centric perspective on AI-based content moderation of nudity (Riccio، Curto، Hofmann اور Oliver، ECCV 2024 کی AI4VA ورکشاپ) میں مصنفین تین پیداواری NSFW درجہ بندوں کو فنی برہنگی پر جانچتے ہیں اور صنفی تعصب اور اسلوبی تعصب دونوں سامنے لاتے ہیں: کسی فگر اسٹڈی پر فیصلہ اس بات پر منحصر ہوتا ہے کہ کس کا جسم دکھایا گیا ہے اور کس اسلوب میں۔ یہ اسی چیز کا ناپا ہوا بیان ہے جسے ہر لائف ڈرائنگ کرنے والے فنکار سے کہا جاتا رہا ہے کہ وہ اس کا وہم ہے۔

04جائز کام کی آٹھ اقسام جنہیں فلٹر شدہ جنریٹر روک دیتے ہیں

یہ وہ زمرے ہیں جہاں حد سے زیادہ انکار محض تکلیف نہیں بلکہ کام کا رک جانا ہے۔ جہاں کوئی مخصوص رپورٹ شدہ واقعہ موجود ہے، اس کا حوالہ دیا گیا ہے؛ جہاں کسی کی تصدیق نہ ہو سکی، وہاں زمرہ بغیر کوئی واقعہ گھڑے بیان کیا گیا ہے۔

1. طبی اور تشریحی تصویر کشی

اس میدان کا سب سے زیادہ مستند کیس۔ اپریل 2023 میں The Intercept (Debbie Nathan) نے رپورٹ کیا کہ Midjourney نے speculum، placenta، cervix، vulva، fallopian tubes، mammary glands، uterine، urethra، hymen، sperm، condom اور IUD سمیت تشریحی اصطلاحات پر پابندی لگا رکھی تھی، جبکہ DALL·E 2 نے «pills used in medication abortion» پر پالیسی کے پیغام کے ساتھ انکار کیا۔ یہ نمونہ Julia Rockwell نے دریافت کیا، جو ایک کلینکل ڈیٹا تجزیہ کار ہیں اور اپنی ماہرِ خلیاتی حیاتیات دوست کے لیے تحفے کے طور پر placenta کی تصویر بنانے کی کوشش کر رہی تھیں، اور یہ MIT Technology Review کو رپورٹ کیا گیا۔ اصل نشانی یہ عدمِ توازن ہے: «stethoscope» معمول کے مطابق بن جاتا تھا جبکہ «speculum» ممنوع تھا۔ یونیورسٹی آف واشنگٹن کے محقق Bill Howe نے ان چھلنیوں کو «ham-fisted» کہا اور بتایا کہ ان کی وجہ سے «تولید پر کوئی سائنسی گفتگو کرنا بنیادی طور پر ناممکن» ہو گیا تھا۔ مریضوں کی تعلیم، جراحی کے اطلس اور نرسنگ کے نصاب، سب کو جسم درست انداز میں دکھانے کی ضرورت ہے، بشمول ان حصوں کے جنہیں کسی کلیدی الفاظ کی فہرست نے بےحیائی قرار دے دیا ہے۔

2. فرانزک اور حادثے کی بازسازی

تصادم کی بازسازی، آگ کے منبع کا تجزیہ اور عدالتی مظاہرے کے لیے نقصان، زخموں اور پرتشدد میکانیات کو طبی درستگی کے ساتھ دکھانا ضروری ہوتا ہے۔ «خون» یا «گولی کا زخم» رد کرنے پر ترتیب دی گئی چھلنی پورے شعبے کو رد کر دیتی ہے: سیاق — ایک ماہر کی رپورٹ، ایک انشورنس فائل — درجہ بند کو نظر ہی نہیں آتا، اور وہی غیر جانبداری جو ایسی تصاویر کو قابلِ قبول بناتی ہے، وہی انہیں خون ریزی کی طرح پڑھوا دیتی ہے۔

3. آرٹ برہنہ خاکے اور لائف ڈرائنگ

برہنہ پیکر ہر جگہ فن کا ایک بنیادی موضوع ہے، اور فگر اسٹڈی فنی تعلیم کا مرکز ہے۔ اوپر بیان کردہ ECCV 2024 کا نتیجہ اسی بات کا ناپا ہوا نسخہ ہے جو فنکار بتاتے ہیں: درجہ بند فگر اسٹڈی کو فحاشی سے بھروسے کے ساتھ الگ نہیں کرتے، اور ان کی غلطیاں صنف اور اسلوب سے متعصب ہوتی ہیں — یعنی ایک ایسی چھلنی جو عین اسی روایت پر سب سے سخت ہے جسے اسے پہچاننا چاہیے تھا۔

4. تاریخی اور جنگی تصاویر

درسی کتاب کے فن، عجائب گھر کی تشریح اور یادگاری منصوبوں کے لیے وردیاں، اسلحہ، کیمپ، جنگیں اور مظالم دکھانا ضروری ہوتا ہے۔ فروری 2024 کا Gemini واقعہ سبق آموز ہے کیونکہ ناکامی الٹی سمت میں ہوئی اور نقصان اتنا ہی ہوا۔ Google نے 22 فروری 2024 کو Gemini کی لوگوں کی تصاویر بنانے کی صلاحیت روک دی، جب اس نے نازی دور کے جرمن سپاہیوں سمیت تاریخی گروہوں کی نسلی طور پر بدلی ہوئی تصاویر بنا دیں۔ CEO Sundar Pichai نے ان نتائج کو «completely unacceptable» کہا؛ SVP Prabhakar Raghavan نے تسلیم کیا کہ ماڈل نے «overcompensated» کیا اور «over-conservative» ہو گیا۔ سیاق سے اندھی حفاظت نے تاریخی تصاویر کو محفوظ تر نہیں بنایا — اس نے انہیں جھوٹا بنا دیا، جو کسی تاریخ کے ناشر کے لیے اس سے بھی برا ہے۔

5. افسانے میں تشدد اور فلم کی پیشگی تصور سازی

اسٹوری بورڈ، تصوراتی آرٹ، کامکس اور گیم ڈیزائن اسی وجہ سے تشدد دکھاتے ہیں جس وجہ سے ناول اور فلمیں دکھاتی ہیں۔ جو چھلنی ہارر اسٹوری بورڈ کو دھمکی سے الگ نہیں کر سکتی، وہ بیانیہ فنون کی پوری زنجیر کو مشکوک سمجھتی ہے — حالانکہ اسٹوری بورڈ صراحتاً غیر حقیقی ہے، ایک ایسے منظر کا منصوبہ جسے اداکار اور اثرات کی ٹیمیں فلمائیں گی۔

6. سیاسی طنز اور اداریے کی کارٹون سازی

طاقتوروں کا خاکہ اڑانا زیادہ تر جمہوریتوں میں اظہار کے سب سے محفوظ زمروں میں سے ہے، اور معمول کے مطابق وہ پہلی چیز ہے جسے ایک امیج فلٹر ہٹا دیتا ہے۔ سب سے واضح مستند کیس Midjourney کا اپریل 2023 کا فیصلہ ہے کہ چینی صدر Xi Jinping کی تصاویر پر پابندی لگا دی جائے اور ان کا نام پرامپٹ میں روک دیا جائے — جس کی رپورٹ PetaPixel، Decrypt اور دیگر نے دی — جبکہ دوسرے عالمی رہنماؤں کی اجازت برقرار رہی۔ بانی David Holz نے Discord پر وضاحت کی کہ کمپنی «minimize drama» چاہتی تھی اور یہ کہ «چین میں لوگوں کی اس ٹیکنالوجی کے استعمال کی صلاحیت آپ کی طنز بنانے کی صلاحیت سے زیادہ اہم ہے»؛ Foundation for Individual Rights and Expression کی Sarah McLaughlin نے اسے سنسر شپ قرار دیا۔ کاروباری حساب کتاب کے بارے میں جو بھی نتیجہ نکالا جائے، اس طریقۂ کار کو نام دینا ضروری ہے: ایک ملکی اظہار کی پابندی دنیا بھر کے ہر صارف پر لاگو کر دی گئی، کیونکہ ایک عالمی فلٹر کی صرف ایک ہی ترتیب ہوتی ہے۔

7. سلامتی تحقیق اور فشنگ سے آگاہی کا مواد

سلامتی کی ٹیمیں ایسا تربیتی مواد بناتی ہیں جسے بالکل اسی چیز جیسا دکھنا ہوتا ہے جس سے وہ خبردار کرتا ہے: ایک قائل کن نقلی لاگ اِن اسکرین، ایک جعلی رسید، پارکنگ میٹر پر ایک بدنیت QR کوڈ۔ درجہ بند کے لیے یہ اسی حملے سے الگ نہیں جس کے خلاف یہ ٹیکہ لگاتا ہے — اصل جیسا دکھنا ہی تو مقصد ہے — اس لیے چھلنیاں دفاع اور حملہ دونوں کو یکساں روکتی ہیں، اور فائدہ حملہ آور کو ہوتا ہے، جو ویسے بھی کبھی کوئی فلٹر شدہ صارفی اوزار استعمال کرنے والا نہیں تھا۔

8. حق داروں کو ان کے اپنے برانڈ، مصنوع یا شبیہ کی تصاویر سے انکار

کاپی رائٹ اور ٹریڈ مارک کی چھانٹی ملکیت نہیں دیکھتی؛ وہ مشابہت دیکھتی ہے۔ ایک کمپنی آسانی سے اپنے ہی لوگو یا مصنوع کی تصاویر نہیں بنا سکتی، ایک حق دار اپنے ہی کردار کی تصویر نہیں بنا سکتا، اور لوگ اکثر اپنا ہی چہرہ نہیں بنا سکتے، کیونکہ شبیہ کی چھلنیاں رضامندی کے بجائے پہچانے جانے پر مبنی ہوتی ہیں۔ OVERT اپنے نو زمروں میں «copyright violations» کو اسی لیے شامل کرتی ہے کہ یہ غلط اشارہ بہت عام ہے۔ چھلنی ایک ایسے سوال کے لیے بھونڈا آلہ ہے — کیا آپ کو اس کا حق حاصل ہے؟ — جسے وہ پوچھ ہی نہیں سکتی۔

اوپر کے آٹھ میں سے چار کسی مخصوص شائع شدہ کیس سے جڑے ہیں (طبی، آرٹ برہنہ خاکے، تاریخی، طنز) اور آٹھویں کے لیے OVERT کا کاپی رائٹ زمرہ۔ فرانزک، افسانوی پیشگی تصور سازی اور سلامتی سے آگاہی کا مواد زمروں کے طور پر بیان کیے گئے ہیں: یہ متاثرہ پیشہ ورانہ کام کی معروف اقسام ہیں جن کے لیے ہم نے کسی مخصوص شائع شدہ واقعے کی تصدیق نہیں کی۔

05AI آرٹ جنریٹر غلط چیزیں کیوں روکتے ہیں، اور مواد کی چھلنی کے غلط اشارے ترتیب بدل کر ختم کیوں نہیں ہو سکتے

حد سے زیادہ روکنے پر فطری ردِعمل یہ ہوتا ہے کہ «حد ڈھیلی کر دو»۔ یہ کام نہیں کرتا، اور اس کی وجہ کوشش کی کمی نہیں بلکہ ساختی ہے۔

زمرے اشارے میں ایک دوسرے سے ملتے ہیں، حقیقت میں نہیں۔ ایک جراحی کا خاکہ اور فحاشی، دونوں میں برہنگی مشترک ہے۔ ایک فرانزک بازسازی اور خون ریزی، دونوں میں خون مشترک ہے۔ ایک آگاہی کی سلائیڈ اور ایک فشنگ کٹ، دونوں میں جعلی لاگ اِن فارم مشترک ہے۔ ایک طنزیہ کارٹون اور ایک ہتک آمیز جعل سازی، دونوں میں پہچانا جانے والا سیاست دان مشترک ہے۔ ہر جوڑے کو مقصد اور پیشکش الگ کرتی ہے — جو نہ پرامپٹ میں ہے نہ پکسل میں۔ کوئی حد ان دو آبادیوں کو الگ نہیں کر سکتی جو ان پٹ کی جگہ کے ایک ہی خطے میں بستی ہیں؛ حد سرکانے سے صرف ایک غلطی کی جگہ دوسری آ جاتی ہے۔ Gemini کے واقعے نے یہی دکھایا: ایک ناکامی درست کرنے کی کوشش نے دوسری پیدا کر دی، جسے خود Google کے SVP نے «overcompensated» کہا۔

قیمتیں چلانے والے کے لیے غیر متوازن ہیں، آپ کے لیے نہیں۔ جو چھلنی ایک بری تصویر گزرنے دے، وہ خبر بن جاتی ہے۔ جو چھلنی دس ہزار جائز تصاویر روک دے، وہ خاموشی پیدا کرتی ہے، کیونکہ رد کیے گئے صارف منظم نہیں ہوتے — وہ ہار مان لیتے ہیں۔ اس عدمِ توازن کے تحت خطرے کا انتظام مستقل طور پر حد سے زیادہ روکنے پر جا ٹھہرتا ہے۔ اور چونکہ بنیادی فیصلہ ناممکن ہے، اس لیے بلاک لسٹوں میں واقعات کے ساتھ ساتھ لفظی سلسلے جمع ہوتے جاتے ہیں، اور یوں «stethoscope» ٹھیک اور «speculum» ممنوع ہو جاتا ہے۔ کسی نے یہ فیصلہ نہیں کیا کہ خواتین سے مخصوص آلات زیادہ خطرناک ہیں؛ فہرست وہیں بڑھی جہاں شکایتیں آئیں۔ یہ چلانے والے کی تعلقاتِ عامہ کی تاریخ کو محفوظ کرتی ہے، نقصان کے کسی نظریے کو نہیں۔

سب سے سخت دائرۂ اختیار عالمی ڈیفالٹ بن جاتا ہے۔ ایک ہی فلٹر ہر ملک کے ہر صارف کو سروِس دیتا ہے، اس لیے ایک منڈی کے لیے لگائی گئی پابندی سب کو برآمد ہو جاتی ہے — Xi Jinping والا قاعدہ اس کی درسی مثال ہے۔ اور آپ کے پرامپٹ کی دوبارہ تحریر آپ کے معنی تباہ کر دیتی ہے، جو OVERT کا تجرباتی نکتہ ہے: ہر وہ پیشہ ور جس نے چھلنی سے گزارنے کے لیے اپنی درخواست کو ہلکے الفاظ میں دھویا ہے، اس نے یہ خود اپنے ہاتھ سے ثابت کیا ہے۔ آپ جیتے نہیں؛ آپ نے سمجھوتہ کیا۔

یہ سب مفت نہیں، اور چونکہ یہ خاموشی سے ناکام ہوتا ہے، اس لیے قیمت ان اعداد و شمار میں نظر نہیں آتی جن پر کوئی چلانے والا نظر رکھتا ہے۔ کافی انکاروں کے بعد آپ پوچھنا چھوڑ دیتے ہیں، اور ہر پرامپٹ کو پہلے ہی اس حد تک تنگ کر لیتے ہیں جس کے گزر جانے کی آپ کو توقع ہو؛ جو نرم لفظ آخرکار گزر جاتا ہے، وہ ایسی تصویر دیتا ہے جو آپ کی دستاویز کی ضرورت کے قریب تو ہے، مگر وہ نہیں۔ پالیسی کا ایک عمومی پیغام آپ کو یہ نہیں بتاتا کہ کون سی پرت بھڑکی، اس لیے آپ صرف اندازہ لگا کر دوبارہ کوشش کر سکتے ہیں — اور تصویری کام تکراری ہوتا ہے، اس لیے پانچ میں سے ایک کوشش پکڑنے والی چھلنی محض سست نہیں کرتی بلکہ پورا سلسلہ توڑ دیتی ہے۔ دریں اثنا وہ شعبے جن کا سنجیدہ اوزاروں پر سب سے مضبوط دعویٰ ہے، انہیں نہ کوئی جائزہ لینے والا ملتا ہے، نہ اپیل، اور عموماً نہ ہی روکی گئی چیزوں کی کوئی شائع شدہ فہرست۔ جو اصول آپ پڑھ نہ سکیں، وہ اصول نہیں؛ وہ موسم ہے۔

06بغیر سنسر شپ بمقابلہ فلٹر شدہ AI امیج جنریٹر: دراصل کیا بدلتا ہے

یہ رہا اس موازنے کا ایماندارانہ نسخہ، بشمول اس کے جو ایک بغیر فلٹر نظام آپ کو نہیں دیتا۔

پہلو	فلٹر شدہ جنریٹر	بغیر فلٹر (Shannon)
فیصلہ کون کرتا ہے	الفاظ اور پکسل پڑھتا ایک درجہ بند	عین وہی پرامپٹ پڑھتا ایک انسان
آپ کو کب پتہ چلتا ہے	بھیجنے کے بعد — کبھی کبھی ادائیگی کے بعد	کچھ بھی رینڈر یا بل ہونے سے پہلے
اصول کیا ہے	غیر شائع شدہ، بدلتی رہتی بلاک لسٹیں	ایک شائع شدہ ذمہ دارانہ استعمال کی پالیسی
پیشہ ورانہ سیاق	نظام کو نظر ہی نہیں آتا	آپ کے پاس، اور آپ ہی جوابدہ
ناکامی کا انداز	خاموش حد سے زیادہ روک، معنی کا بہکاؤ	آپ کو وہی ملتا ہے جو آپ نے مانگا — غلطیوں سمیت
خطرہ کون اٹھاتا ہے	فروخت کنندہ، جو اسے آپ کے کام پر ڈال دیتا ہے	مشترکہ: چلانے والے کی پالیسی اور صارف کی جوابدہی

آخری سطر وہی ہے جسے لوگ چھوڑ جاتے ہیں، اور وہی اہم ہے۔ فلٹر ہٹانے سے سیکشن 02 کے نقصان کے زمرے نہیں ہٹتے؛ اس سے وہ مشین ہٹتی ہے جو ان کے بارے میں برے اندازے لگا رہی تھی۔ ذمہ داری وہیں رہتی ہے جہاں تھی، اب دو ایسے فریقوں کے پاس جو سیاق پر سوچ سکتے ہیں: چلانے والا، جو پالیسی شائع کرتا اور نافذ کرتا ہے، اور آپ، جو جانتے ہیں کہ تصویر کس کام کے لیے ہے۔ بغیر فلٹر AI تصویر سازی ان لوگوں کے لیے اوزار ہے جو پہلے ہی اپنے نتیجے کے پیچھے کھڑے ہونے کو تیار ہیں — جراح کا اطلس، ماہر کی رپورٹ، اسٹوری بورڈ، کارٹون — اور جنہیں ایک ایسا نظام روک رہا تھا جو انہیں کسی اور سے الگ ہی نہیں کر سکتا تھا۔

07Shannon کیا کرتا ہے — اور کیا نہیں کرتا

یہاں جوش سے زیادہ درستگی اہم ہے، خاص طور پر ان قارئین کے لیے جو API کی تلاش سے پہنچے ہیں۔

یہ کیا کرتا ہے

• تصویر سازی۔ سادہ زبان میں، کسی بھی زبان میں تصویر بیان کریں۔ آپ نے جس بھی زبان میں پوچھا ہو، Shannon جنریشن پرامپٹ خود انگریزی میں لکھتا ہے۔
• ایک تصویر کی تدوین۔ بالکل ایک ماخذ — یا تو پہلے سے گفتگو میں موجود تصویر، یا آپ کے موجودہ پیغام کے ساتھ منسلک — جسے ایک ایسی ہدایت سے بدلا جاتا ہے جو بتائے کہ کیا بدلے گا اور کیا وہی رہے گا۔ نتیجہ خودبخود ماخذ کا aspect ratio برقرار رکھتا ہے۔
• دو یا زیادہ تصاویر جوڑنا۔ لباس کی منتقلی، شے کو منظر میں ڈالنا، شخص کے ساتھ شخص، مصنوع کسی شخص پر، ایک تصویر کا موضوع دوسری کے اسلوب کے ساتھ۔ پرامپٹ ہر تصویر کا کردار ترتیب سے بتاتا ہے، اور اصل تصاویر ہی استعمال ہوتی ہیں، اس لیے ان کی حقیقی شکل دوبارہ بیان کیے جانے کے بجائے محفوظ رہتی ہے۔
• فریم کا کنٹرول۔ square (ڈیفالٹ)، portrait، landscape، wide اور tall۔ آپ کی صریح درخواست ہمیشہ جیتتی ہے۔
• ہمارے اپنے GPU کلسٹر پر رینڈرنگ، جنریشن کے راستے پر کسی مواد کی چھلنی کے بغیر اور پرامپٹ لکھنے والے ماڈل پر کسی انکار کی پرت کے بغیر۔

یہ کیا نہیں کرتا

• ویڈیو نہیں۔ Shannon تصاویر کو متحرک نہیں کرتا اور ویڈیو نہیں بناتا۔ یہ کوئی روڈ میپ کی چیز نہیں جو شرما کر چھپائی جا رہی ہو — یہ ہے ہی نہیں۔
• API پر نہیں۔ تصویر سازی، تدوین اور ترکیب Shannon چیٹ ایپ میں ہیں۔ /v1 API متن اور وژن فراہم کرتا ہے — یہ آپ کی بھیجی ہوئی تصاویر پڑھ سکتا ہے — مگر انہیں رینڈر نہیں کرتا۔
• بن مانگے کوئی جنریشن نہیں۔ سلام، سوال یا یونہی منسلک کی گئی تصویر کسی تصویر سازی کو نہیں چھیڑتی۔ Shannon سے کسی تصویر کو دیکھنے کو کہنا — اسے بیان کرنا، پڑھنا، اس کا تجزیہ کرنا — عام وژن کا کام ہے، جنریشن نہیں، اور اس پر کوئی اضافی خرچ نہیں آتا۔

تصدیقی کارڈ

یہی وہ طریقۂ کار ہے جو فلٹر کی جگہ لیتا ہے، اور یہ رسمی کارروائی نہیں بلکہ ایک ڈیزائن کا فیصلہ ہے۔ جب Shannon طے کر لیتا ہے کہ آپ تصویر مانگ رہے ہیں، تو وہ جنریشن پرامپٹ لکھتا ہے اور کچھ بھی رینڈر ہونے سے پہلے اسے آپ کو ایک تصدیقی کارڈ پر دکھاتا ہے۔ آپ کی تصدیق تک نہ کچھ بنتا ہے اور نہ کوئی بل بنتا ہے۔

دونوں ڈیزائنوں کو ان کی خوبیوں پر پرکھیں۔ ایک فلٹر آپ کی نیت کا اندازہ آپ سے کم معلومات کے ساتھ لگاتا ہے، اور اس اندازے کو خاموشی سے نافذ کر دیتا ہے۔ ایک تصدیقی کارڈ تصویر کی لفظی تفصیل اُس فریق کے سامنے رکھ دیتا ہے جو جانتا ہے کہ یہ کس کام کے لیے ہے، اور یہ کسی بھی کمپیوٹ کے خرچ سے پہلے ہوتا ہے۔ یہ آپ کی درخواست کی غلط فہمیاں پکڑتا ہے، جو چھلنیاں کبھی نہیں پکڑتیں؛ یہ آپ کو وہ تشریحی درستگی یا تاریخی تفصیل جوڑنے دیتا ہے جو ماڈل نے ادھوری چھوڑی؛ اور یہ ذمہ داری کو منتشر رکھنے کے بجائے واضح کر دیتا ہے۔ آپ نے پرامپٹ دیکھا، اور آپ نے بٹن دبایا۔

08بغیر فلٹر تصویر سازی ذمہ داری بڑھاتی ہے، ہٹاتی نہیں

یہ بات کسی فٹ نوٹ کے بجائے یہاں ہونی چاہیے، کیونکہ یہ دلیل کا آدھا حصہ ہے۔ ایک فلٹر شدہ جنریٹر ایسا وعدہ کرتا ہے جو وہ پورا نہیں کر سکتا: کہ اوزار آپ کی طرف سے غلط استعمال روک دے گا۔ وہ دونوں سمتوں میں ناکام ہوتا ہے — وہ جراح کو روک دیتا ہے، اور کسی پکے بدنیت شخص کو نہیں روکتا، جس کے پاس اور راستے ہیں اور ہمیشہ رہے ہیں۔ وہ بھروسے کے ساتھ جو کرتا ہے وہ یہ ہے کہ سب کو یہ محسوس ہونے دیتا ہے کہ ذمہ داری اوپر کہیں، مشین کے ذریعے، نمٹا دی گئی۔ فلٹر ہٹانے سے یہ افسانہ ہٹ جاتا ہے؛ یہ سوال کہ کوئی تصویر ہونی چاہیے یا نہیں، ان لوگوں کے پاس واپس آ جاتا ہے جو اس کا جواب دے سکتے ہیں۔

• Shannon Lab LLC کی ذمہ داری۔ ایک شائع شدہ، مخصوص ذمہ دارانہ استعمال کی پالیسی جو ممنوعہ زمروں کے نام لیتی ہے، نہ کہ کوئی غیر شائع شدہ بلاک لسٹ — ایسے اصول جنہیں آپ پڑھ سکتے ہیں، جن کا حوالہ دے سکتے ہیں اور جن پر ہمیں جوابدہ ٹھہرا سکتے ہیں۔
• آپ کی ذمہ داری۔ آپ مقصد، سامعین، دائرۂ اختیار اور ہر دکھائے گئے شخص کی رضامندی کی حالت جانتے ہیں۔ اوزار نہیں جانتا، اور کوئی درجہ بند کبھی جان بھی نہیں سکتا تھا۔ تصدیقی کارڈ اسی لیے موجود ہے کہ یہ علم عین اُس لمحے، اُسی فریق کے ہاتھوں لاگو ہو جس کے پاس یہ موجود ہے۔
• وہ لکیر جو نہیں ہٹتی۔ «فلٹر نے مجھے نہیں روکا» کسی بھی ذریعے میں کبھی دفاع نہیں رہا۔ کیمرہ انکار نہیں کرتا، پنسل انکار نہیں کرتی؛ قانون اور پیشہ ورانہ اخلاقیات استعمال کو کنٹرول کرتے ہیں، آلے کو نہیں۔ ایک بغیر فلٹر جنریٹر وہی عام بندوبست بحال کرتا ہے جس کے تحت باقی ہر پیشہ ورانہ اوزار کام کرتا ہے۔

شروع کرنے سے پہلے ذمہ دارانہ استعمال کی پالیسی پڑھ لیں۔ یہ مختصر اور مخصوص ہے، اور اس مصنوع کا وہ حصہ ہے جو باقی سب کو قابلِ دفاع بناتا ہے۔

09اکثر پوچھے جانے والے سوالات

---

مآخذ: Cheng، Huang، Xu، Sojoudi، Zhao، Song & Mei — OVERT (arXiv:2505.21347، ICML 2025) · Riccio، Curto، Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156، AI4VA @ ECCV 2024) · Debbie Nathan، The Intercept، 22 اپریل 2023 · PetaPixel، 3 اپریل 2023 · CNBC، 22 فروری 2024۔ Shannon AI کو Shannon Lab LLC، نیو میکسیکو، امریکہ چلاتا ہے۔