بې سانسوره په وړاندې فلټر شوی AI انځور جوړوونکی
د محتوا فلټرونه د ریښتینو زیانونو د یوې کوچنۍ ډلې د مخنیوي لپاره جوړ شوي وو. په عمل کې دوی طبي انځورګري، عدلي بیا جوړونه، د ژوندي بدن انځورګري، د جګړې تاریخ، تحریري طنز او هغه شرکتونه هم دروي چې خپل محصولات انځوروي. دا يې لګښت دی — او دا چې د فلټر لرې کول څه بدلوي او څه نه بدلوي.
لنډیز
عام انځور جوړوونکي پرامپټونه او پایلې د داسې ټولګه بندوونکو په مرسته پلټي چې کلمې او پکسلونه ویني، هېڅکله موخه نه. دا غلط مثبتونه تضمینوي، او تر ټولو سخت پر مهارتي کار لګېږي: اناتومي، عدلي چارې، هنري لڅ انځورونه، تاریخي انځورونه، د فلم مخکینی تصور، طنز، د امنیتي پوهاوي مواد، او هغه د حق خاوندان چې خپل برنډ غواړي. OVERT (ICML 2025)، د دې ناکامۍ لپاره لومړی لوی کچې معیار، 4,600 بې زیانه خو شکمن ښکارېدونکي پرامپټونه کاروي او مومي چې زیات ردول په مخکښو ماډلونو کې پراخ خپاره شوي دي. Shannon د انځور جوړول، د یوه انځور سمون او څو انځوریز یوځای کول زموږ پر خپل GPU کلستر باندې پرته له د محتوا فلټره او پرته له د ردولو پرته چلوي، او د بندیز لیست پرځای یوه ښکاره پرېکړه ږدي: یو تاییدي کارت چې مخکې له رینډره دقیقه پرامپټ ښیي. دا ستاسو او زموږ دواړو مسؤلیت لوړوي؛ دواړه په د مسؤلانه کارونې پالیسي کې دي. د ویډیو جوړول نشته، او د انځور کار په چټ اپ کې دی، نه پر API.
نږدې هر څوک چې په مسلکي ډول له انځورونو سره کار کوي، هماغه یوه کیسه لري. یو پرامپټ چې یو عادي شی بیانوي — د زنګون د بند یوه پرېکړه، یوه موټر د ټکر په شېبه کې، په ډبره ډبره کې د بدن یوه مطالعه، په 1944 کې یو عسکر — د پالیسۍ د سرغړونې په توګه راګرځي. تاسو يې بیا لیکئ، او بله سرغړونه ترلاسه کوئ. په پای کې داسې څه لیکئ چې دومره ناڅرګند وي چې تېر شي، او یو داسې انځور ترلاسه کوئ چې نور هغه څه نه ښیي چې تاسو ته اړین وو. وسیلې په لوړ غږ ناکامي ونه کړه؛ په درجو کې ناکامه شوه، او تاسو هغه څوک وګرځولئ چې سازش يې وکړ.
01ولې یو AI انځور جوړوونکی داسې پرامپټ ردوي چې په څرګنده توګه مشروع وي؟
ردول معمولاً د انځوري ماډل نظر نه وي. دا د ماډل شاوخوا د یوه فلټري سټیک پایله ده، او پرتونه يې نږدې هره هغه عجیبه ردونه تشریح کوي چې تاسو ترلاسه کړې ده.
| پرت | څه پلټي | ځانګړې ناکامي |
|---|---|---|
| د پرامپټ بندیز لیست | ستاسو په متن کې لفظي کرښې او نږدې بڼې | یوه کلمه بندوي پرته له دې چې شاوخوا جملې ته وګوري — «speculum» ناکامېږي، «stethoscope» تېرېږي |
| د پرامپټ ټولګه بندوونکی | د پرامپټ د «خطر» یو زده شوی قضاوت | د موضوع پر نږدېوالي فعالېږي: هر څه چې طب، وسلو، بدنونو یا سیاست ته نږدې وي، لوړه نمره اخلي |
| د ماډل د ردولو روزنه | پخپله د ماډل روزل شوې بې زړګۍ | پرته له تېروتنې ردوي، یا په چوپتیا سره یو پاک شوی بدیل جوړوي |
| د وتلې ټولګه بندوونکی | رینډر شوي پکسلونه، پرته له د پرامپټ شالید | د اناتومۍ پاڼه له پورنوګرافۍ، یا د فلم یو انځور له یوې ریښتینې پېښې نشي بېلولی |
| د پالیسۍ ځای ناستي | مخکې له رینډره ستاسو د پرامپټ چوپه بیا لیکنه | یو انځور ترلاسه کوئ، خو هغه نه چې مشخص مو کړی و، او نه درته ویل کېږي چې ولې |
هر پرت یوه ړنده ټکی شریکوي: هېڅ یو نشي لیدلی چې تاسو ولې پوښتنه کوئ. یو طبي انځورګر، د مدعي یو کارپوه چې یو ټکر بیا جوړوي، او یو بد نیت لرونکی کس ټول هماغه یوه کلمه ټایپوي. فلټر کلمه ویني، نه اطلس او نه د قضیې دوسیه، او پر هغو زیانونو نمره کېږي چې تېر يې پرېږدي — هېڅکله پر هغه کار چې ورانوي يې. د دې ناانډولۍ لاندې، د هر چلوونکي عقلاني تنظیم ډېر ردول دي. همدا لامل دی چې «یوازې يې بیا ولیکه» حل نه دی: بیا لیکل فلټر ته هغه معلومات نه ورکوي چې نه يې لرل، یوازې ستاسو پرامپټ له هغو کلمو څخه لرې کوي چې فلټر يې پارولی و، چې دا معمولاً له هغه څه لرې کول دي چې تاسو مراد وو.
02د محتوا فلټرونه په حقیقت کې د څه شي د مخنیوي لپاره دي
د بې فلټره جوړولو هغه دلیل چې ځان داسې ښیي لکه فلټرونه بې لامله شته، د لوستلو وړ نه دی. د پایلو یوه تنګه ډله شته چې زیان يې پخپله په انځور کې دی، پرته له دې چې څوک يې غوښتلی یا ولې:
- هغه جنسي محتوا چې کمعمره پکې راځي. هېڅ شالید يې د منلو وړ نه ګرځوي؛ هېڅ مسلکي کاري بهیر ورته اړتیا نه لري.
- د ریښتینو خلکو بې رضایته خصوصي انځورونه. زیان پر هغه چا لګېږي چې راضي نه و، او لرې کول يې بېرته نه جوړوي.
- هدفي ځورونه او د تور جعل — داسې ښودل چې یوه نومول شوې کس هغه څه کړي چې نه يې دي کړي.
- د جعل کچې سندونه — پاسپورټونه، د هویت کارتونه، بانک نوټونه، مهرونه او مالي وسیلې چې د اصلي په توګه تېرېدو لپاره جوړ شوي.
- غولوونکي جوړ شوي شواهد — د ریښتینو پېښو جوړ شوي انځورونه چې د انځورګرۍ پرځای د سند په توګه وړاندې کېږي.
لړ لنډ دی او یو جوړښت لري: زیان په اثر کې، په یوه ریښتیني کس یا سند سره په ورته والي کې، او د حقیقت په توګه په وړاندې کولو کې دی. وګورئ چې څه پکې نشته — لڅوالی، وینه، وسلې، تاریخي ظلمونه، سیاسي ملنډې. هغه د طب، ژورنالیزم، هنر، عدلي چارو او طنز خام مواد دي، او هغه فلټر چې دوی د زیان کټګورۍ ګڼي، د دې په اړه یوه ډېره پراخه اند پلي کوي چې کوم موضوعات د درناوي وړ دي.
Shannon په هغه لړ کې هر څه منع کوي، په یوه خپره شوې د مسؤلانه کارونې پالیسي کې چې نومول شوې کټګورۍ او پایلې لري، نه په یوه د کلمو جدول کې چې «placenta» هم نیسي. یو هغه قاعده ده چې تاسو يې لوستلی شئ او موږ پرې نیولی شئ؛ بله د یوه ټولګه بندوونکي اټکل دی چې ستاسو د نیت په اړه يې کوي او تاسو يې نشئ لیدلی.
03د زیات ردولو ستونزه څومره لویه ده؟ څېړنه څه اندازه کوي
تر دې وروستیو پورې، په انځوري ماډلونو کې زیات ردول یوه کیسه وه — زرګونه خلک له هماغې یوې کیسې سره او د اندازه کولو هېڅ لار. دا په OVERT (OVEr-Refusal evaluation on Text-to-image models) سره بدل شو، چې په ICML 2025 کې د UC Berkeley یوې ډلې لخوا وړاندې شو، په ګډون د Ziheng Cheng، Somayeh Sojoudi، Xuandong Zhao، Dawn Song او Song Mei: لومړی لوی کچې معیار چې اندازه کوي متن-څخه-انځور سیسټمونه څومره ځله هغه پرامپټونه ردوي چې په بشپړ ډول بې زیانه دي.
ډیزاین يې مهم دی. 4,600 پرامپټونه داسې جوړ شوي چې زیانمن ښکاري خو بې زیانه وي — د یوې ریښتینې مسلکي غوښتنې بڼه چې د چاړې، ټپ یا لاریون یادونه کوي — او 1,785 په ریښتیا زیانمن پرامپټونه د کنټرول په توګه ورسره ناست دي، نو یو ماډل د هر څه په ردولو سره ښه نمره نشي اخیستلی. نهه کټګورۍ له انفرادي او د عامو څېرو خصوصیت څخه، د کاپي رایټ، تبعیض، ځان ته زیان، جنسي محتوا او غیرقانوني فعالیت له لارې، تر تاوتریخوالي پورې غځېږي.
سرلیکي موندنه دا ده چې زیات ردول په کټګوریو او مخکښو ماډلونو کې پراخ خپاره شوي دي. دویمه موندنه معیاري لار چارې ته ډېره زیانمنه ده: لیکوالانو د پرامپټ بیا لیکل د یوې لارې په توګه وازمویل او راپور ورکوي چې دا «اکثراً د اصلي پرامپټونو معنا ته وفاداري له منځه وړي.» تاسو کولی شئ د غوښتنې په بدلولو سره له فلټر څخه تېر شئ، او بیا نور هغه څه نه لرئ چې غوښتي مو وو.
یوه تنګه څېړنه د پکسل له اړخه هماغې نتیجې ته رسېږي. په An Art-centric perspective on AI-based content moderation of nudity (Riccio، Curto، Hofmann او Oliver، د ECCV 2024 په AI4VA ورکشاپ کې)، لیکوالان درې تولیدي NSFW ټولګه بندوونکي پر هنري لڅوالي ارزوي او دواړه جنسیتي تعصب او سټایلي تعصب راڅرګندوي: د بدن پر یوه مطالعه پرېکړه پر دې پورې اړه لري چې د چا بدن او په کوم سټایل کې انځور شوی. دا د هغه شي یوه اندازه شوې بیانونه ده چې هر د ژوندي بدن انځورګر ته ویل شوي چې خیالي دی.
04د مشروع کار اته ډولونه چې فلټر شوي جوړوونکي يې بندوي
دا هغه کټګورۍ دي چې زیات ردول پکې یوه ستونزه نه بلکې د کار درېدل دي. چېرې چې یوه ځانګړې راپور شوې پېښه شته، حواله شوې ده؛ چېرې چې هېڅ یوه تایید شوې نه ده، کټګورۍ پرته له دې بیان شوې چې پېښه جوړه کړو.
1. طبي او اناتومیکي انځورګري
په دې ډګر کې تر ټولو ښه مستنده پېښه. د 2023 په اپریل کې، The Intercept (Debbie Nathan) راپور ورکړ چې Midjourney د اناتومۍ اصطلاحات بند کړي وو، په ګډون د speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom او IUD، په داسې حال کې چې DALL·E 2 د «pills used in medication abortion» غوښتنه د محتوا د پالیسۍ په پیغام سره ردوله. دا بڼه Julia Rockwell وموندله، یوه کلینیکي ډاټا شنونکې چې د یوې د حجرو د بیولوژۍ ملګرې لپاره د تحفې په توګه يې د یوې پلاسنټا انځور جوړولو هڅه کړې وه، او MIT Technology Review ته يې راپور ورکړ. ناانډولي يې نښه ده: «stethoscope» په عادي ډول جوړېده په داسې حال کې چې «speculum» منع و. د واشنګټن پوهنتون څېړونکي Bill Howe فلټرونه «ناسم لاسي» وبلل او وویل چې دوی «د تولید په اړه علمي بحث اساساً ناشونی» کړی. د ناروغ زده کړه، د جراحۍ اطلسونه او د نرسنګ نصابونه ټول دې ته اړتیا لري چې بدنونه په سمه توګه انځور شي، په ګډون د هغو برخو چې د کلمو یوه لیست پرېکړه کړې چې بې حیا دي.
2. عدلي او د پېښې بیا جوړونه
د ټکر بیا جوړونه، د اور د سرچینې شننه او د محکمې ښکارندویان دا غواړي چې زیان، ټپونه او تاوتریخجنه میخانیک په کلینیکي دقت سره انځور شي. هغه فلټر چې د «وینې» یا «د ډزو ټپ» د ردولو لپاره تنظیم شوی، ټول مسلک ردوي: شالید — د کارپوه راپور، د بیمې دوسیه — ټولګه بندوونکي ته نه ښکاري، او هماغه بې پرېوالی چې دا انځورونه د محکمې منلو وړ ګرځوي، هماغه دی چې د وینې په توګه لوستل کېږي.
3. هنري لڅ انځورونه او د ژوندي بدن انځورګري
لڅ بدن هر ځای د هنر یوه بنسټیزه موضوع ده، او د بدن مطالعه د هنري زده کړې زړی دی. پورتنۍ د ECCV 2024 پایله د هغه څه اندازه شوې بڼه ده چې هنرمندان يې راپوروي: ټولګه بندوونکي په باور سره د بدن یوه مطالعه له پورنوګرافۍ نه بېلوي، او تېروتنې يې د جنسیت او سټایل له مخې تعصبي دي — یو فلټر چې دقیقاً پر هماغه دود تر ټولو سخت دی چې باید يې وپېژني.
4. تاریخي او د جګړې انځورونه
د درسي کتابونو هنر، د موزیم تشریح او یادګاري پروژې دا غواړي چې یونیفورمونه، وسلې، کمپونه، جګړې او ظلمونه انځور شي. د 2024 د فبرورۍ د Gemini پېښه زده کوونکې ده ځکه ناکامي يې برعکس لور ته روانه وه او هماغه اندازه يې زیان ورساوه. ګوګل د 2024 د فبرورۍ په 22 د Gemini د خلکو د انځورونو جوړولو وړتیا ودروله وروسته له دې چې د تاریخي ډلو نژادي بیا جوړ شوي انځورونه يې تولید کړل، په ګډون د نازي دورې د آلماني عسکرو. اجرايي رییس Sundar Pichai پایلې «په بشپړ ډول د نه منلو وړ» وبللې؛ SVP Prabhakar Raghavan ومنله چې ماډل «زیات جبران کړی» او «ډېر محافظه کار» شوی و. د شالید ړانده امنیت تاریخي انځورونه خوندي نه کړل — دروغجن يې کړل، چې دا د یوه تاریخي خپرندوی لپاره بدتر دی.
5. په داستان کې تاوتریخوالی او د فلم مخکینی تصور
سټوري بورډونه، مفهومي هنر، کامیکسونه او د لوبې ډیزاین تاوتریخوالی د هماغه لامل لپاره انځوروي چې ناولونه او فلمونه يې انځوروي. هغه فلټر چې د وحشت یو سټوري بورډ له یوې ګواښنې نشي بېلولی، ټول داستاني هنري بهیر مشکوک ګڼي — که څه هم یو سټوري بورډ په څرګنده توګه غیر ریښتینی دی، د یوې صحنې یو پلان دی چې لوبغاړي او د اغېزو ډلې به يې ترتیب کړي.
6. سیاسي طنز او تحریري کارټون
د واکمنو کارېکاتور په ډېری دیموکراسیو کې د بیان تر ټولو ساتل شوو کټګوریو څخه دی، او په عادي ډول لومړی شی دی چې یو انځوري فلټر يې لرې کوي. تر ټولو څرګنده مستنده پېښه د Midjourney د 2023 د اپریل پرېکړه ده چې د چین د ولسمشر Xi Jinping انځورونه يې منع کړل او په پرامپټونو کې يې د هغه نوم بند کړ — چې PetaPixel، Decrypt او نورو راپور کړ — په داسې حال کې چې نورو نړیوالو مشرانو ته يې اجازه ورکوله. بنسټګر David Holz په Discord کې تشریح کړه چې شرکت غوښتل «ډرامه لږه کړي» او دا چې «په چین کې د خلکو لپاره د دې تکنالوژۍ کارولو وړتیا ستاسو د طنز د جوړولو له وړتیا څخه ډېره مهمه ده»؛ د Foundation for Individual Rights and Expression څخه Sarah McLaughlin دا سانسور وباله. د سوداګریز حساب په اړه هر څه چې نتیجه واخلو، میکانیزم يې د نومولو وړ دی: د یوې هېواد د وینا محدودیت چې پر نړۍ کې پر هر کارونکي تطبیق شو، ځکه یو نړیوال فلټر یو تنظیم لري.
7. امنیتي څېړنه او د فشینګ د پوهاوي مواد
امنیتي ډلې داسې روزنیز مواد جوړوي چې باید هماغسې ښکاري لکه هغه شی چې خبرداری يې ورکوي: یو باوري جعلي ننوتلو پرده، یوه جعلي بیلنامه، د پارکینګ پر مېټر یو بدنیته QR کوډ. یوه ټولګه بندوونکي ته دا له هغه بریده نه بېلېږي چې مخنیوی يې کوي — ورته والی خو موخه ده — نو فلټرونه دفاع او برید یو شان بندوي، چې دا د برید کوونکي په ګټه ده، هغه چې له سره یوه فلټر شوې کارونکې وسیله نه کارول.
8. د حق خاوندان چې د خپل برنډ، محصول یا څېرې انځورونه يې رد شوي
د کاپي رایټ او سوداګریزې نښې فلټر ملکیت نه ګوري؛ ورته والی ګوري. یو شرکت په اسانۍ سره د خپل لوګو یا محصول انځور نشي جوړولی، د حق خاوند د خپل کرکټر انځور نشي جوړولی، او خلک اکثراً د خپلې څېرې انځور نشي جوړولی، ځکه د څېرې فلټرونه د رضایت پرځای پر پېژندل کېدو کلیدي دي. OVERT په خپلو نهو د زیات ردولو کټګوریو کې «د کاپي رایټ سرغړونې» دقیقاً ځکه شاملوي چې دا غلط مثبت دومره عام دی. فلټر د یوې پوښتنې لپاره یوه کنډه وسیله ده — آیا تاسو پر دې حق لرئ؟ — چې د پوښتلو هېڅ لار يې نه لري.
له پورتنیو اتو څخه څلور یوې ځانګړې خپرې شوې پېښې ته تړل شوي دي (طبي، هنري لڅ انځورونه، تاریخي، طنز) او اتم يې د OVERT د کاپي رایټ کټګورۍ ته. عدلي چارې، د فلم مخکینی تصور او د امنیتي پوهاوي مواد د کټګوریو په توګه بیان شوي: دوی د اغېزمن شوي مسلکي کار ښه پېژندل شوې ډلې دي چې موږ ورته یوه ځانګړې خپره شوې پېښه نه ده تایید کړې.
هره پورتنۍ مستنده پېښه عامه او په خپلواکه توګه د تایید وړ ده. د دې پرځای چې زموږ پر بیان باور وکړئ، پخپله يې ولولئ.
05ولې AI هنري جوړوونکي ناسم شیان بندوي، او ولې د محتوا د فلټر غلط مثبتونه په تنظیم سره نه لرې کېږي
پر زیات بندولو غریزي ځواب دا دی چې «حد نرم کړئ». دا کار نه کوي، د جوړښتي لاملونو له مخې نه د هڅې د کمښت له مخې.
کټګورۍ په نښه کې سره ورته دي خو په واقعیت کې نه. د جراحۍ انځورګري او پورنوګرافي لڅوالی شریکوي. عدلي بیا جوړونه او وینه ډکه صحنه وینه شریکوي. د پوهاوي سلایډ او د فشینګ وسیله یوه جعلي ننوتلو فورمه شریکوي. طنزي کارټون او د تور جعل یو پېژندل شوی سیاستوال شریکوي. هغه څه چې هره جوړه بېلوي، موخه او وړاندې کول دي — چې نه په پرامپټ کې دي او نه په پکسلونو کې. هېڅ حد دوه داسې نفوس نه بېلوي چې د ننوتنې په یوه سیمه کې اوسي؛ حد ښورول یوازې یوه تېروتنه په بلې بدلوي. همدا هغه څه دي چې د Gemini پېښې وښودل: یو مداخله چې د یوې ناکامۍ د سمولو لپاره وه، بله يې وزېږوله، چې پخپله د ګوګل SVP هغه «زیات جبران شوې» وبلله.
لګښتونه چلوونکي ته ناانډول دي، نه تاسو ته. هغه فلټر چې یو بد انځور تېر کړي، یوه خبري کیسه جوړوي. هغه فلټر چې لس زره مشروع انځورونه بند کړي، چوپتیا جوړوي، ځکه رد شوي کارونکي تنظیم نه کېږي — لاس اخلي. د دې ناانډولۍ لاندې د خطر اداره کول د تل لپاره پر زیات بندولو راټولېږي. او ځکه چې بنسټیز قضاوت ناشونی دی، بندیز لیستونه د پېښو په پېښېدو سره لفظي کرښې راټولوي، چې همدا لار ده چې «stethoscope» سم وي او «speculum» بند وي. هېچا پرېکړه ونه کړه چې د ښځو ځانګړي وسایل ډېر خطرناک دي؛ لیست هلته ولوېد چې شکایتونه پکې راغلل. دا د یوه چلوونکي د عامه اړیکو تاریخ کوډ کوي، نه د زیان یوه تیوري.
تر ټولو سخت قضايي حوزه نړیوال ډیفالټ ګرځي. یو فلټر په هر هېواد کې هر کارونکي ته خدمت کوي، نو هغه محدودیت چې د یوې بازار لپاره ورزیات شوی، ټولو ته صادرېږي — د Xi Jinping قاعده يې درسي بېلګه ده. او ستاسو د پرامپټ بیا لیکل ستاسو معنا ورانوي، چې دا د OVERT تجربوي ټکی دی: هر مسلکي کس چې یوه غوښتنه يې په نرمو کلمو کې پاکه کړې څو له فلټر څخه تېره شي، په خپل لاس دا تایید کړې ده. تاسو ونه ګټله؛ تاسو سازش وکړ.
له دې هېڅ یو وړیا نه دی، او ځکه چې په چوپتیا ناکامېږي، لګښت يې په هغو شمېرو کې نه ښکاري چې یو چلوونکی يې ګوري. له کافي ردونو وروسته تاسو پوښتل پرېږدئ، او هره پرامپټ له مخکې پر هغه څه تنګوئ چې اټکل کوئ به تېره شي؛ هغه نرمه کلمه چې بالاخره تېرېږي، یو داسې انځور راولي چې ستاسو سند ته اړین انځور ته نږدې دی، خو هغه نه دی. یو عمومي د پالیسۍ پیغام تاسو ته هېڅ نه وايي چې کوم پرت فعال شو، نو یوازې اټکل او بیا هڅه کولی شئ — او د انځور کار تکراري دی، نو هغه فلټر چې له پنځو څخه یوه هڅه نیسي، کړۍ ګډوډوي نه یوازې ورو کوي. په همدې وخت کې هغه ډګرونه چې پر جدي وسیلو تر ټولو قوي حق لري، هېڅ بیاکتونکی، هېڅ استیناف او معمولاً د بند شوو شیانو هېڅ خپور شوی لیست نه لري. هغه قاعده چې تاسو يې نشئ لوستلی، قاعده نه ده؛ هوا ده.
06بې سانسوره په وړاندې فلټر شوی AI انځور جوړوونکی: په حقیقت کې څه بدلېږي
دلته د پرتلې رښتینې بڼه ده، په ګډون د هغه څه چې یو بې فلټره سیسټم يې تاسو ته نه درکوي.
| اړخ | فلټر شوی جوړوونکی | بې فلټره (Shannon) |
|---|---|---|
| څوک پرېکړه کوي | یو ټولګه بندوونکی چې کلمې او پکسلونه لولي | یو کس چې دقیقه پرامپټ لولي |
| کله پرې پوهېږئ | وروسته له لېږلو — کله کله وروسته له پیسو ورکولو | مخکې له دې چې څه رینډر یا حساب شي |
| قاعده څه ده | ناخپاره شوي، بدلېدونکي بندیز لیستونه | یوه خپره شوې د مسؤلانه کارونې پالیسي |
| مسلکي شالید | سیسټم ته نه ښکاري | ستاسو دی چې ونیسئ، او ستاسو چې ځواب يې ورکړئ |
| د ناکامۍ بڼه | چوپ زیات بندول، د معنا کږېدل | هغه څه ترلاسه کوئ چې غوښتي مو دي — په ګډون د تېروتنو |
| خطر څوک وړي | پلورونکی، چې ستاسو پر کار يې اچوي | شریک: د چلوونکي پالیسي او د کارونکي ځواب ویل |
وروستۍ کرښه هغه ده چې خلک يې پرېږدي، او هغه ده چې اهمیت لري. د یوه فلټر لرې کول په 02 برخه کې د زیان کټګورۍ نه لرې کوي؛ هغه ماشین لرې کوي چې د دوی په اړه يې بد اټکل کاوه. مسؤلیت هلته پاتې کېږي چېرې چې و، خو اوس دوه اړخونه يې لري چې شالید تحلیلولی شي: چلوونکی، چې یوه پالیسي خپروي او پلي کوي يې، او تاسو، چې پوهېږئ انځور د څه لپاره دی. بې فلټره AI انځور جوړول د هغو خلکو لپاره یوه وسیله ده چې دمخه چمتو دي د خپلې پایلې شاته ودرېږي — د جراح اطلس، د کارپوه راپور، سټوري بورډ، کارټون — او یو داسې سیسټم يې دراوه چې دوی له بل چا نه بېلولی.
07Shannon څه کوي — او څه نه کوي
دلته دقت له لېوالتیا څخه ډېر اهمیت لري، په ځانګړې توګه د هغو لوستونکو لپاره چې د API له لټون څخه راځي.
څه کوي
- جوړول. یو انځور په ساده ژبه، په هره ژبه، بیان کړئ. Shannon د جوړولو پرامپټ پخپله، په انګلیسي لیکي، په هره ژبه چې مو غوښتنه کړې وي.
- د یوه انځور سمون. دقیقاً یوه سرچینه — یو انځور چې دمخه په خبرو اترو کې وي، یا ستاسو له اوسني پیغام سره نښلول شوی — چې د یوې لارښوونې له مخې بدلېږي چې وايي څه بدلېږي او څه پاتې کېږي. پایله په اتومات ډول د سرچینې د اړخونو تناسب ساتي.
- د دوو یا ډېرو انځورونو یوځای کول. د جامو لېږد، توکی-په-صحنه کې، کس تر څنګ کس، محصول-پر-کس، د یوه انځور موضوع له بل انځور سټایل سره. پرامپټ د هر انځور رول په ترتیب سره نوموي، او ریښتیني انځورونه کارول کېږي، نو د دوی ریښتینې بڼه ساتل کېږي نه دا چې بیا بیان شي.
- د تناسب کنټرول. square (ډیفالټ)، portrait، landscape، wide او tall. یوه څرګنده غوښتنه تل ګټي.
- زموږ پر خپل GPU کلستر باندې رینډر کول، د جوړولو پر لار پرته له د محتوا فلټره او پر هغه ماډل چې پرامپټ لیکي پرته له د ردولو پرته.
څه نه کوي
- ویډیو نشته. Shannon انځورونه نه ژوندي کوي او ویډیو نه جوړوي. دا د لارې نقشې یو توکی نه دی چې په شرمېدو سره پټ شوی وي — شتون نه لري.
- پر API باندې نه دی. د انځور جوړول، سمون او یوځای کول د Shannon په چټ اپ کې دي. د /v1 API متن او لید خدمت کوي — هغه انځورونه لوستلی شي چې تاسو يې ورلېږئ — خو نه يې رینډروي.
- بې غوښتنې جوړول نشته. سلام، یوه پوښتنه یا یو په ناڅاپي ډول نښلول شوی عکس انځور نه پیلوي. له Shannon څخه غوښتل چې یو انځور وګوري — بیان يې کړي، ولولي يې، وشني يې — عادي لیدنیز کار دی، نه یوه جوړونه، او هېڅ اضافي لګښت نه لري.
تاییدي کارت
دا هغه میکانیزم دی چې د فلټر ځای نیسي، او دا یوه ډیزاینې غوره ده نه یوه رسمي چاره. کله چې Shannon وټاکي چې تاسو یو انځور غواړئ، د جوړولو پرامپټ لیکي او مخکې له دې چې څه رینډر شي پر یوه تاییدي کارت يې درښیي. تر هغې چې تاسو تایید نه کړئ، هېڅ نه جوړېږي او هېڅ نه حسابېږي.
ډیزاینونه پر خپلو ارزښتونو وپرتله کړئ. یو فلټر ستاسو د نیت اټکل کوي، له تاسو څخه په لږو معلوماتو، او اټکل خپل په چوپتیا سره پلي کوي. تاییدي کارت د انځور لفظي مشخصات د هغه اړخ مخې ته ږدي چې پوهېږي انځور د څه لپاره دی، مخکې له دې چې کوم محاسبه مصرف شي. دا ستاسو د غوښتنې غلط لوستل نیسي، چې فلټرونه يې هېڅکله نه نیسي؛ تاسو ته پرېږدي چې هغه اناتومیکي دقت یا تاریخي تفصیل ورزیات کړئ چې ماډل کم مشخص کړی؛ او مسؤلیت لوستل کېدونکی ګرځوي نه خپور. تاسو پرامپټ ولید، او تاسو تڼۍ کېښوده.
08بې فلټره جوړول مسؤلیت لوړوي، لرې يې نه کوي
دا دلته ځای لري نه په یوه پاورقي کې، ځکه دا د دلیل نیمایي ده. یو فلټر شوی جوړوونکی داسې ژمنه کوي چې نشي پوره کولی: دا چې وسیله به ستاسو پرځای د ناوړه ګټې اخیستنې مخنیوی وکړي. په دواړو لورو ناکامېږي — جراح بندوي، او یو هوډمن بد نیت لرونکی کس نه دروي، هغه چې نورې لارې لري او تل يې لرلې. هغه څه چې په باور سره کوي، دا دي چې هر چا ته دا احساس ورکوي چې مسؤلیت پورته له ماشین لخوا اداره شوی. د فلټر لرې کول هغه افسانه لرې کوي؛ دا پوښتنه چې آیا یو انځور باید شتون ولري، هغو خلکو ته بېرته ځي چې ځواب يې ورکولی شي.
- د Shannon Lab LLC مسؤلیت. یوه خپره شوې، ځانګړې د مسؤلانه کارونې پالیسي چې منع شوې کټګورۍ نوموي، نه یو ناخپور بندیز لیست — هغه قواعد چې تاسو يې لوستلی، حواله کولی او موږ پرې نیولی شئ.
- ستاسو مسؤلیت. تاسو موخه، لیدونکي، قضايي حوزه او د هر انځور شوي کس د رضایت حالت پېژنئ. وسیله يې نه پېژني، او یو ټولګه بندوونکی يې هېڅکله نه شو پېژندلی. تاییدي کارت ځکه شته چې هغه پوهه په هماغه شېبه پلې شي چې اهمیت لري، د هغه اړخ لخوا چې لري يې.
- هغه کرښه چې نه ښوري. «فلټر مې ونه دراوه» په هېڅ رسنۍ کې هېڅکله دفاع نه ده وه. یوه کامره نه ردوي، یوه پنسل نه ردوي؛ قانون او مسلکي اخلاق کارول اداره کوي، نه وسیله. یو بې فلټره جوړوونکی هغه عادي ترتیب بېرته راولي چې هره بله مسلکي وسیله يې لاندې چلېږي.
مخکې له پیل کولو د مسؤلانه کارونې پالیسي ولولئ. لنډه، ځانګړې ده، او د دې محصول هغه برخه ده چې پاتې برخه يې د دفاع وړ ګرځوي.
09ډېرې پوښتل شوې پوښتنې
ولې یو AI انځور جوړوونکی داسې پرامپټ ردوي چې په څرګنده توګه مشروع وي؟
ځکه چې ډېری فلټرونه ستاسو په پرامپټ کې کلمې قضاوت کوي، نه ستاسو موخه. یو ټولګه بندوونکی د ماډل مخې ته ناست وي او هېڅ لاسرسی نه لري چې تاسو څوک یاست یا ولې پوښتنه کوئ، نو یو طبي انځورګر، یو عدلي شنونکی او یو بد نیت لرونکی کس ټول هماغه یوه کلمه ټایپوي او ټول هماغه رد ترلاسه کوي. The Intercept د 2023 په اپریل کې راپور ورکړ چې Midjourney د اناتومۍ اصطلاحات بند کړل، په ګډون د speculum، placenta او cervix، په داسې حال کې چې stethoscope په عادي ډول کار کاوه.
آیا داسې څېړنه شته چې په AI هنري وسیلو کې د محتوا د فلټر غلط مثبتونه اندازه کړي؟
هو. OVERT (arXiv:2505.21347، ICML 2025) د متن-څخه-انځور ماډلونو لپاره لومړی لوی کچې د زیات ردولو معیار دی: په نهو امنیتي کټګوریو کې 4,600 داسې پرامپټونه چې زیانمن ښکاري خو په ریښتیا بې زیانه دي، او د کنټرول په توګه 1,785 په ریښتیا زیانمن پرامپټونه. لیکوالان يې راپور ورکوي چې زیات ردول په مخکښو ماډلونو کې پراخ خپاره شوي دي. یوه بېله ECCV 2024 څېړنه په درېو NSFW ټولګه بندوونکو کې چې پر هنري لڅوالي ارزول شوي وو، جنسیتي او سټایلي تعصب وموند.
یو بې سانسوره AI انځور جوړوونکی په حقیقت کې څه بدلوي؟
د جوړولو له لارې څخه د ردولو پرت او د محتوا فلټر لرې کوي، نو یوه مشروع غوښتنه په چوپتیا سره د یوه برید په توګه بیا نه ټولګه بندي کېږي. قضاوت نه لرې کوي — بلکې ځای يې بدلوي. Shannon تاسو ته دقیقه د جوړولو پرامپټ پر یوه تاییدي کارت ښیي مخکې له دې چې څه رینډر شي، نو پرېکړه هغه کس کوي چې لیدلی شي څه به جوړ شي، د مسؤلانه کارونې پالیسۍ لاندې.
آیا Shannon ویډیو جوړوي؟
نه. Shannon نوي انځورونه جوړوي، یو موجود انځور سموي، او دوه یا ډېر انځورونه په یوه کې یوځای کوي. انځورونه نه ژوندي کوي او د هېڅ ډول ویډیو نه جوړوي.
آیا زه د Shannon د API له لارې انځورونه جوړولی شم؟
نه. د انځور جوړول، سمون او یوځای کول د Shannon په چټ اپ کې دي. د /v1 API متن او لید خدمت کوي — هغه انځورونه لولي او شني چې تاسو يې ورکوئ — نه د انځور جوړول.
که فلټر نشته، څه شی له ناوړه ګټې اخیستنې مخنیوی کوي؟
پالیسي، ځواب ویل او یو ښکاره د پرېکړې ټکی، نه د کلمو بندیز لیست. Shannon هېڅکله بې غوښتنې نه جوړوي، مخکې له رینډره بشپړه پرامپټ ښیي، تر هغې هېڅ نه حسابوي چې تاسو تایید نه کړئ، او د یوې خپرې شوې د مسؤلانه کارونې پالیسۍ لاندې چلېږي چې د کمعمرو په ګډون جنسي محتوا، د ریښتینو خلکو بې رضایته خصوصي انځورونه، هدفي ځورونه، او د هویت یا مالي سندونو جعل منع کوي.
هغه انځور وغواړئ چې په حقیقت کې يې غواړئ
جوړول، د یوه انځور سمون او څو انځوریز یوځای کول په چټ اپ کې — د محتوا فلټر نشته، د ردولو پرت نشته، او پرامپټ پر پرده مخکې له دې چې څه رینډر شي.
خبرې پیل کړئ د مسؤلانه کارونې پالیسيانځورونه په چټ اپ کې · د ویډیو جوړول نشته · نورې څېړنې
سرچینې: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, د 2023 د اپریل 22 · PetaPixel, د 2023 د اپریل 3 · CNBC, د 2024 د فبرورۍ 22. Shannon AI د Shannon Lab LLC، نیو مکسیکو، متحده ایالات لخوا چلېږي.