અનસેન્સર્ડ vs ફિલ્ટર કરેલું AI ઇમેજ જનરેટર

વ્યાવસાયિક રીતે ઇમેજ સાથે કામ કરતા લગભગ દરેકની એક જ કહાણી છે. કંઈક સામાન્ય વર્ણવતો પ્રોમ્પ્ટ — ઘૂંટણના સાંધાનો આડછેદ, અથડામણની ક્ષણે કાર, કોલસાથી કરેલો આકૃતિ-અભ્યાસ, 1944 નો સૈનિક — નીતિભંગ તરીકે પાછો આવે છે. તમે શબ્દો બદલો છો, અને બીજો ભંગ મળે છે. છેવટે તમે એટલું અસ્પષ્ટ લખો છો કે પસાર થઈ જાય, અને એવી ઇમેજ મળે છે જે તમને જે જોઈતું હતું તે હવે બતાવતી નથી. સાધન મોટા અવાજે નિષ્ફળ ન ગયું; તે ધીમે ધીમે નિષ્ફળ ગયું, અને સમાધાન કરનાર તમને બનાવી દીધા.

01AI ઇમેજ જનરેટર સ્પષ્ટપણે કાયદેસર હોય એવા પ્રોમ્પ્ટને કેમ નકારે છે?

ઇનકાર સામાન્ય રીતે ઇમેજ મોડેલનો અભિપ્રાય હોતો નથી. તે મોડેલની આસપાસના ફિલ્ટરિંગ સ્ટેકનું પરિણામ છે, અને તેનાં સ્તરો તમને મળેલા લગભગ દરેક વિચિત્ર ઇનકારને સમજાવે છે.

સ્તર	તે શું તપાસે છે	લાક્ષણિક નિષ્ફળતા
પ્રોમ્પ્ટ બ્લોકલિસ્ટ	તમારા લખાણમાંની શાબ્દિક સ્ટ્રિંગ અને તેની નજીકના પ્રકારો	આસપાસના વાક્યની પરવા કર્યા વગર શબ્દ રોકે છે — "speculum" નિષ્ફળ, "stethoscope" પસાર
પ્રોમ્પ્ટ ક્લાસિફાયર	પ્રોમ્પ્ટના "જોખમ" વિશે શીખેલો ચુકાદો	વિષયની નિકટતા પર ચાલુ થાય છે: દવા, હથિયાર, શરીર કે રાજકારણની નજીકનું બધું ઊંચો સ્કોર મેળવે છે
મોડેલની ઇનકાર તાલીમ	મોડેલની પોતાની તાલીમ પામેલી અનિચ્છા	ભૂલ બતાવ્યા વગર નકારે છે, અથવા ચૂપચાપ સ્વચ્છ કરેલો વિકલ્પ બનાવે છે
આઉટપુટ ક્લાસિફાયર	રેન્ડર થયેલા પિક્સેલ, પ્રોમ્પ્ટના સંદર્ભ વગર	એનાટોમી પ્લેટને પોર્નોગ્રાફીથી, કે ફિલ્મના સ્થિરચિત્રને સાચી ઘટનાથી અલગ પાડી શકતું નથી
નીતિ-આધારિત અવેજી	રેન્ડર પહેલાં તમારા પ્રોમ્પ્ટનું ચૂપચાપ પુનર્લેખન	તમને ઇમેજ મળે છે, પણ તમે જે નિર્દિષ્ટ કરી હતી તે નહીં, અને કારણ કહેવાતું નથી

દરેક સ્તરમાં એક જ અંધ ખૂણો સહિયારો છે: કોઈ જોઈ શકતું નથી કે તમે કેમ પૂછી રહ્યા છો. મેડિકલ ઇલસ્ટ્રેટર, અથડામણનું પુનર્નિર્માણ કરતો ફરિયાદી પક્ષનો નિષ્ણાત, અને ખરાબ ઇરાદાવાળી વ્યક્તિ — બધા એ જ સંજ્ઞા ટાઇપ કરે છે. ફિલ્ટર સંજ્ઞા જુએ છે, એટલસ કે કેસ ફાઇલ નહીં, અને તેનું મૂલ્યાંકન એ નુકસાન પરથી થાય છે જે તે પસાર થવા દે છે — ક્યારેય એ કામ પરથી નહીં જે તે નષ્ટ કરે છે. આ અસમતુલા હેઠળ કોઈપણ સંચાલક માટે તાર્કિક સેટિંગ વધુ નકારો છે. એટલા માટે જ "શબ્દો બદલી નાખો" એ ઉકેલ નથી: શબ્દો બદલવાથી ફિલ્ટરને એવી કોઈ માહિતી મળતી નથી જે તેની પાસે નહોતી, તે માત્ર તમારા પ્રોમ્પ્ટને એ શબ્દોથી દૂર ખસેડે છે જેમણે તેને ચાલુ કર્યું — જેનો સામાન્ય રીતે અર્થ થાય છે તમારા અર્થથી દૂર ખસવું.

02કન્ટેન્ટ ફિલ્ટર ખરેખર શું અટકાવવા માટે છે

ફિલ્ટર વગરના જનરેશનની એવી દલીલ, જે ડોળ કરે કે ફિલ્ટર કોઈ કારણ વગર અસ્તિત્વમાં છે, વાંચવા લાયક નથી. આઉટપુટનો એક સાંકડો સમૂહ છે જેનું નુકસાન ઇમેજમાં જ સમાયેલું છે, કોણે અને કેમ પૂછ્યું તેનાથી સ્વતંત્ર:

• સગીરોને સાંકળતું જાતીય કન્ટેન્ટ. કોઈ સંદર્ભ તેને સ્વીકાર્ય બનાવતો નથી; કોઈ વ્યાવસાયિક કાર્યપ્રવાહને તેની જરૂર નથી.
• સાચા લોકોની સંમતિ વગરની ખાનગી ઇમેજ. નુકસાન એવી વ્યક્તિ પર પડે છે જેણે સંમતિ આપી નહોતી, અને દૂર કરાવવાથી તે ભૂંસાતું નથી.
• લક્ષિત ઉત્પીડન અને બદનક્ષીભરી બનાવટ — નામ દઈને કોઈ વ્યક્તિએ એવું કંઈક કર્યું હોય એવું દેખાડવું જે તેણે કર્યું નથી.
• બનાવટી દસ્તાવેજ કક્ષાનું કામ — પાસપોર્ટ, ઓળખપત્ર, ચલણી નોટ, સીલ અને નાણાકીય સાધનો, જે અસલી તરીકે ચલાવવા બનાવાય.
• છેતરામણા કૃત્રિમ પુરાવા — સાચી ઘટનાઓનાં બનાવટી ચિત્રો જે ચિત્રણ નહીં પણ દસ્તાવેજ તરીકે રજૂ કરાય.

યાદી ટૂંકી છે અને તેમાં એક માળખું છે: નુકસાન કૃતિમાં છે, સાચી વ્યક્તિ કે દસ્તાવેજ સાથેની તેની સામ્યતામાં છે, અને તેને સત્ય તરીકે રજૂ કરવામાં છે. ધ્યાન આપો કે તેમાં શું નથી — નગ્નતા, લોહી, હથિયાર, ઐતિહાસિક અત્યાચાર, રાજકીય ઉપહાસ. એ તો દવા, પત્રકારત્વ, કલા, ફોરેન્સિક અને વ્યંગનો કાચો માલ છે, અને તેમને નુકસાનની શ્રેણી ગણતું ફિલ્ટર કયા વિષયો પ્રતિષ્ઠિત છે તે વિશેનો ઘણો વ્યાપક વિચાર અમલમાં મૂકે છે.

Shannon એ યાદીમાંની દરેક વસ્તુ પર પ્રતિબંધ મૂકે છે, નામ દઈને શ્રેણીઓ અને પરિણામો જણાવતી પ્રકાશિત જવાબદાર ઉપયોગ નીતિમાં — નહીં કે એવા કીવર્ડ કોષ્ટકમાં જે "placenta" ને પણ પકડી લે. એક એવો નિયમ છે જે તમે વાંચી શકો અને અમને તેની જવાબદારી સોંપી શકો; બીજું તમારા ઇરાદા વિશે એવા ક્લાસિફાયરનું અનુમાન છે જે તમે જોઈ પણ શકતા નથી.

03વધુ પડતા ઇનકારની સમસ્યા કેટલી મોટી છે? સંશોધન શું માપે છે

તાજેતર સુધી ઇમેજ મોડેલમાં વધુ પડતો ઇનકાર એક કિસ્સાકથા હતી — હજારો લોકો પાસે એ જ કહાણી અને તેને માપવાનો કોઈ રસ્તો નહીં. એ OVERT (OVEr-Refusal evaluation on Text-to-image models) સાથે બદલાયું, જે ICML 2025 માં UC Berkeley ના જૂથે — જેમાં Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song અને Song Mei સામેલ છે — રજૂ કર્યું: ટેક્સ્ટ-ટુ-ઇમેજ સિસ્ટમ સંપૂર્ણપણે નિર્દોષ પ્રોમ્પ્ટને કેટલી વાર નકારે છે તે માપતું પહેલું મોટા પાયાનું બેન્ચમાર્ક.

ડિઝાઇન મહત્ત્વની છે. 4,600 પ્રોમ્પ્ટ એવી રીતે બનાવાયા છે કે તે નુકસાનકારક લાગે પણ હાનિરહિત હોય — સ્કેલ્પેલ, ઉઝરડા કે વિરોધપ્રદર્શનનો ઉલ્લેખ કરતી સાચી વ્યાવસાયિક વિનંતીનો આકાર — અને તેમની સાથે નિયંત્રણ તરીકે 1,785 ખરેખર નુકસાનકારક પ્રોમ્પ્ટ મૂકાયા છે, જેથી બધું નકારીને મોડેલ સારો સ્કોર ન મેળવી શકે. નવ શ્રેણીઓ વ્યક્તિગત અને જાહેર-વ્યક્તિની ગોપનીયતાથી માંડીને કોપીરાઇટ, ભેદભાવ, સ્વ-નુકસાન, જાતીય કન્ટેન્ટ અને ગેરકાયદેસર પ્રવૃત્તિ થઈને હિંસા સુધી ફેલાયેલી છે.

મુખ્ય તારણ એ છે કે વધુ પડતો ઇનકાર શ્રેણીઓમાં અને અગ્રણી મોડેલોમાં વ્યાપક છે. બીજું તારણ પ્રચલિત ઉપાય માટે વધુ ઘાતક છે: લેખકોએ ઉપશમન તરીકે પ્રોમ્પ્ટ પુનર્લેખન ચકાસ્યું અને નોંધ્યું કે તે "ઘણી વાર મૂળ પ્રોમ્પ્ટના અર્થ પ્રત્યેની વફાદારી સાથે સમાધાન કરે છે." તમે જે માગ્યું હતું તે બદલીને ફિલ્ટર પાર કરી શકો છો, અને પછી તમારી પાસે તમે જે માગ્યું હતું તે રહેતું નથી.

એક વધુ સાંકડો અભ્યાસ પિક્સેલની બાજુથી એ જ નિષ્કર્ષ પર પહોંચે છે. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann અને Oliver, ECCV 2024 ખાતે AI4VA વર્કશોપ) માં લેખકો કલાત્મક નગ્નતા પર ત્રણ ઉત્પાદન-કક્ષાનાં NSFW ક્લાસિફાયર મૂલવે છે અને લિંગ પક્ષપાત તથા શૈલી પક્ષપાત બંને ઉજાગર કરે છે: આકૃતિ-અભ્યાસ પરનો ચુકાદો કોનું શરીર દર્શાવાયું છે અને કઈ શૈલીમાં તેના પર આધાર રાખે છે. લાઇફ-ડ્રોઇંગ કરતા દરેક કલાકારને જે વાત કાલ્પનિક કહેવાઈ છે, તેનું આ માપેલું નિવેદન છે.

04કાયદેસર કામના આઠ પ્રકાર જે ફિલ્ટર કરેલા જનરેટર રોકે છે

આ એ શ્રેણીઓ છે જ્યાં વધુ પડતો ઇનકાર અગવડ નહીં પણ કામ ઠપ થવા બરાબર છે. જ્યાં ચોક્કસ અહેવાલિત કિસ્સો છે ત્યાં તેનો સંદર્ભ આપ્યો છે; જ્યાં કોઈ ચકાસાયો નથી, ત્યાં ઘટના ઉપજાવ્યા વગર શ્રેણીનું વર્ણન કર્યું છે.

1. મેડિકલ અને એનાટોમિકલ ઇલસ્ટ્રેશન

આ ક્ષેત્રનો સૌથી સારી રીતે દસ્તાવેજી થયેલો કિસ્સો. એપ્રિલ 2023 માં The Intercept (Debbie Nathan) એ અહેવાલ આપ્યો કે Midjourney એ speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom અને IUD સહિતના શરીરરચનાના શબ્દો પર પ્રતિબંધ મૂક્યો હતો, જ્યારે DALL·E 2 એ "pills used in medication abortion" ને કન્ટેન્ટ-નીતિના સંદેશા સાથે નકાર્યું. આ ભાત Julia Rockwell એ શોધી, જે ક્લિનિકલ ડેટા વિશ્લેષક હતાં અને કોષ-જીવવિજ્ઞાની મિત્ર માટે ભેટ તરીકે placenta નું ચિત્ર બનાવવાનો પ્રયાસ કરી રહ્યાં હતાં, અને તેમણે MIT Technology Review ને જાણ કરી. અસમતુલા જ ચાડી ખાય છે: "stethoscope" સામાન્ય રીતે બનતું હતું જ્યારે "speculum" પ્રતિબંધિત હતું. યુનિવર્સિટી ઓફ વોશિંગ્ટનના સંશોધક Bill Howe એ ફિલ્ટરને "ham-fisted" કહ્યાં અને જણાવ્યું કે તેમણે "પ્રજનન વિશે વૈજ્ઞાનિક ચર્ચા કરવી મૂળભૂત રીતે અશક્ય" બનાવી દીધી. દર્દી-શિક્ષણ, સર્જિકલ એટલસ અને નર્સિંગ અભ્યાસક્રમ — બધાંને શરીર સચોટ રીતે દર્શાવવાની જરૂર છે, જેમાં એ ભાગો પણ આવે જેમને કીવર્ડ યાદીએ અભદ્ર ઠરાવ્યા છે.

2. ફોરેન્સિક અને અકસ્માત પુનર્નિર્માણ

અથડામણનું પુનર્નિર્માણ, આગના મૂળનું વિશ્લેષણ અને અદાલતી નિદર્શન માટે નુકસાન, ઘા અને હિંસક યાંત્રિકીને તબીબી ચોકસાઈથી દર્શાવવી પડે છે. "લોહી" કે "ગોળીનો ઘા" નકારવા માટે સેટ કરેલું ફિલ્ટર આખા વિષયને જ નકારે છે: સંદર્ભ — નિષ્ણાત અહેવાલ, વીમા ફાઇલ — ક્લાસિફાયર માટે અદૃશ્ય છે, અને જે તટસ્થતા આવાં ચિત્રોને માન્ય બનાવે છે એ જ તેમને લોહિયાળ દેખાડે છે.

3. આર્ટ ન્યૂડ અને લાઇફ ડ્રોઇંગ

નગ્ન આકૃતિ સર્વત્ર કલાનો પાયાનો વિષય છે, અને આકૃતિ-અભ્યાસ કલા-શિક્ષણનો ગર્ભ છે. ઉપરનું ECCV 2024 નું પરિણામ કલાકારો જે કહે છે તેની માપેલી આવૃત્તિ છે: ક્લાસિફાયર ભરોસાપાત્ર રીતે આકૃતિ-અભ્યાસને પોર્નોગ્રાફીથી અલગ પાડતાં નથી, અને તેમની ભૂલો લિંગ અને શૈલીથી પક્ષપાતી છે — એટલે કે ફિલ્ટર બરાબર એ જ પરંપરા પર સૌથી કઠોર છે જેને તેણે ઓળખવી જોઈએ.

4. ઐતિહાસિક અને યુદ્ધકાળનાં ચિત્રો

પાઠ્યપુસ્તકની કળા, સંગ્રહાલયનું અર્થઘટન અને સ્મારક પ્રોજેક્ટ માટે ગણવેશ, હથિયાર, છાવણીઓ, યુદ્ધો અને અત્યાચાર દર્શાવવા પડે છે. ફેબ્રુઆરી 2024 નો Gemini પ્રસંગ બોધક છે કારણ કે નિષ્ફળતા ઊલટી દિશામાં ચાલી અને એટલું જ નુકસાન કર્યું. Google એ 22 ફેબ્રુઆરી, 2024 ના રોજ Gemini ની લોકોની ઇમેજ બનાવવાની ક્ષમતા અટકાવી, જ્યારે તેણે નાઝી-યુગના જર્મન સૈનિકો સહિતના ઐતિહાસિક જૂથોનાં વંશીય રીતે ફેરવેલાં ચિત્રણો બનાવ્યાં. CEO Sundar Pichai એ આ આઉટપુટને "completely unacceptable" કહ્યાં; SVP Prabhakar Raghavan એ સ્વીકાર્યું કે મોડેલે "overcompensated" કર્યું હતું અને "over-conservative" બની ગયું હતું. સંદર્ભ-અંધ સલામતીએ ઐતિહાસિક ચિત્રોને વધુ સલામત ન બનાવ્યાં — તેમને ખોટાં બનાવ્યાં, જે ઇતિહાસના પ્રકાશક માટે વધુ ખરાબ છે.

5. કાલ્પનિક કથામાં હિંસા અને ફિલ્મનું પૂર્વ-કલ્પન

સ્ટોરીબોર્ડ, કન્સેપ્ટ આર્ટ, કોમિક્સ અને ગેમ ડિઝાઇન એ જ કારણસર હિંસા દર્શાવે છે જે કારણસર નવલકથાઓ અને ફિલ્મો દર્શાવે છે. જે ફિલ્ટર હોરર સ્ટોરીબોર્ડને ધમકીથી અલગ પાડી શકતું નથી તે આખી કથા-કળાની પ્રક્રિયાને શંકાસ્પદ ગણે છે — જ્યારે સ્ટોરીબોર્ડ સ્પષ્ટપણે અવાસ્તવિક છે, એવા દૃશ્યની યોજના જે કલાકારો અને ઇફેક્ટ ટીમો ભજવશે.

6. રાજકીય વ્યંગ અને સંપાદકીય કાર્ટૂનિંગ

સત્તાધારીઓનું વ્યંગચિત્ર મોટા ભાગની લોકશાહીઓમાં અભિવ્યક્તિની સૌથી સંરક્ષિત શ્રેણીઓમાંનું છે, અને નિયમિતપણે ઇમેજ ફિલ્ટર સૌથી પહેલાં એ જ દૂર કરે છે. સૌથી સ્પષ્ટ દસ્તાવેજી કિસ્સો છે એપ્રિલ 2023 માં Midjourney નો નિર્ણય કે ચીનના રાષ્ટ્રપતિ Xi Jinping ની ઇમેજ પર પ્રતિબંધ મૂકવો અને પ્રોમ્પ્ટમાં તેમનું નામ બ્લોક કરવું — જેનો અહેવાલ PetaPixel, Decrypt અને અન્યોએ આપ્યો — જ્યારે બીજા વિશ્વનેતાઓની છૂટ ચાલુ રહી. સ્થાપક David Holz એ Discord પર સમજાવ્યું કે કંપની "minimize drama" ઇચ્છતી હતી અને કે "ચીનના લોકો માટે આ ટેક વાપરવાની ક્ષમતા તમારી વ્યંગ બનાવવાની ક્ષમતા કરતાં વધુ મહત્ત્વની છે"; Foundation for Individual Rights and Expression નાં Sarah McLaughlin એ તેને સેન્સરશિપ ગણાવ્યું. ધંધાકીય ગણતરી વિશે ગમે તે તારણ કાઢો, પણ પદ્ધતિનું નામ પાડવું જરૂરી છે: એક દેશનો વાણી-પ્રતિબંધ દુનિયાભરના દરેક વપરાશકર્તા પર લાગુ કરાયો, કારણ કે વૈશ્વિક ફિલ્ટરમાં એક જ સેટિંગ હોય છે.

7. સિક્યુરિટી સંશોધન અને ફિશિંગ-જાગૃતિની સામગ્રી

સિક્યુરિટી ટીમો એવી તાલીમ સામગ્રી બનાવે છે જે એ જ વસ્તુ જેવી દેખાવી જોઈએ જેની સામે તે ચેતવે છે: ખાતરીલાયક નકલી લોગિન સ્ક્રીન, બનાવટી ઇન્વોઇસ, પાર્કિંગ મીટર પર દૂષિત QR કોડ. ક્લાસિફાયર માટે એ હુમલાથી અલગ પાડી શકાય તેવું નથી જેની સામે તે રસી આપે છે — વાસ્તવિકતા જેવું લાગવું એ જ તો મુદ્દો છે — એટલે ફિલ્ટર બચાવ અને હુમલો બંનેને સરખાં જ રોકે છે, જેનો ફાયદો હુમલાખોરને થાય છે, જે ફિલ્ટર કરેલું ગ્રાહક સાધન વાપરવાનો હતો જ નહીં.

8. હક ધારકોને પોતાની જ બ્રાન્ડ, પ્રોડક્ટ કે ચહેરાની ઇમેજ નકારાય છે

કોપીરાઇટ અને ટ્રેડમાર્ક ફિલ્ટરિંગ માલિકી તપાસતું નથી; તે સામ્યતા તપાસે છે. કંપની પોતાના જ લોગો કે પ્રોડક્ટની ઇમેજ સહેલાઈથી બનાવી શકતી નથી, હક ધારક પોતાના જ પાત્રનું ચિત્ર બનાવી શકતો નથી, અને લોકો ઘણી વાર પોતાનો જ ચહેરો બનાવી શકતા નથી, કારણ કે ચહેરાનાં ફિલ્ટર સંમતિ પર નહીં પણ ઓળખી શકાવા પર આધારિત છે. OVERT એ પોતાની નવ વધુ-પડતા-ઇનકારની શ્રેણીઓમાં "કોપીરાઇટ ઉલ્લંઘન" ને બરાબર એટલા માટે સામેલ કર્યું છે કે આ ખોટો પોઝિટિવ એટલો સામાન્ય છે. ફિલ્ટર એવા પ્રશ્ન માટેનું બુઠ્ઠું હથિયાર છે — શું તમારી પાસે આનો હક છે? — જે તે પૂછી જ શકતું નથી.

ઉપરનાં આઠમાંથી ચાર ચોક્કસ પ્રકાશિત કિસ્સા સાથે જોડાયેલાં છે (મેડિકલ, આર્ટ ન્યૂડ, ઐતિહાસિક, વ્યંગ), વત્તા આઠમા માટે OVERT ની કોપીરાઇટ શ્રેણી. ફોરેન્સિક, કથા-પૂર્વકલ્પન અને સિક્યુરિટી-જાગૃતિની સામગ્રી શ્રેણી તરીકે જણાવાયાં છે: તે અસરગ્રસ્ત વ્યાવસાયિક કામના જાણીતા વર્ગો છે જેમના માટે અમે કોઈ ચોક્કસ પ્રકાશિત ઘટના ચકાસી નથી.

05AI આર્ટ જનરેટર ખોટી વસ્તુઓ કેમ રોકે છે, અને કન્ટેન્ટ ફિલ્ટરના ખોટા પોઝિટિવ ટ્યુનિંગથી કેમ દૂર થઈ શકતા નથી

વધુ પડતા બ્લોકિંગ સામે સહજ પ્રતિભાવ છે "થ્રેશોલ્ડ ઢીલો કરો." તે કામ કરતું નથી, અને એ પ્રયત્નની ખામી નહીં પણ માળખાગત કારણો છે.

શ્રેણીઓ સંકેતમાં ભળે છે, વાસ્તવિકતામાં નહીં. સર્જિકલ ઇલસ્ટ્રેશન અને પોર્નોગ્રાફી નગ્નતા વહેંચે છે. ફોરેન્સિક પુનર્નિર્માણ અને લોહિયાળ દૃશ્ય લોહી વહેંચે છે. જાગૃતિની સ્લાઇડ અને ફિશિંગ કિટ નકલી લોગિન ફોર્મ વહેંચે છે. વ્યંગચિત્ર અને બદનક્ષીભરી બનાવટ ઓળખી શકાય તેવો રાજકારણી વહેંચે છે. દરેક જોડીને જે અલગ પાડે છે તે છે હેતુ અને રજૂઆત — જે પ્રોમ્પ્ટમાં પણ નથી અને પિક્સેલમાં પણ નથી. ઇનપુટ સ્પેસના એક જ પ્રદેશમાં રહેતી બે વસ્તીને કોઈ થ્રેશોલ્ડ અલગ પાડતો નથી; તેને ખસેડવાથી માત્ર એક ભૂલ સામે બીજી ભૂલનો સોદો થાય છે. Gemini પ્રસંગે એ જ બતાવ્યું: એક નિષ્ફળતા સુધારવા કરેલા હસ્તક્ષેપે બીજી પેદા કરી, જેને Google ના પોતાના SVP એ "overcompensated" ગણાવી.

ખર્ચ સંચાલક માટે અસમતુલ છે, તમારા માટે નહીં. એક ખરાબ ઇમેજ પસાર થવા દેતું ફિલ્ટર સમાચાર બનાવે છે. દસ હજાર કાયદેસર ઇમેજ રોકતું ફિલ્ટર મૌન પેદા કરે છે, કારણ કે નકારાયેલા વપરાશકર્તાઓ સંગઠિત થતા નથી — તેઓ હાર માની લે છે. એ અસમતુલા હેઠળનું જોખમ-સંચાલન કાયમ માટે વધુ પડતા બ્લોકિંગ પર જ સ્થિર થાય છે. અને કારણ કે અંતર્ગત ચુકાદો અશક્ય છે, ઘટનાઓ બનતાં બ્લોકલિસ્ટમાં શાબ્દિક સ્ટ્રિંગ ઉમેરાતી જાય છે, અને એટલે જ "stethoscope" ચાલે અને "speculum" પ્રતિબંધિત થાય. કોઈએ નક્કી નહોતું કર્યું કે સ્ત્રી-વિશિષ્ટ સાધનો વધુ ખતરનાક છે; યાદી ત્યાં ઊગી જ્યાં ફરિયાદો પડી. તે સંચાલકનો PR ઇતિહાસ સંગ્રહે છે, નુકસાનનો કોઈ સિદ્ધાંત નહીં.

સૌથી કડક અધિકારક્ષેત્ર વૈશ્વિક ડિફોલ્ટ બની જાય છે. એક જ ફિલ્ટર દરેક દેશના દરેક વપરાશકર્તાને સેવા આપે છે, એટલે એક બજાર માટે ઉમેરાયેલો પ્રતિબંધ બધાં પર નિકાસ થાય છે — Xi Jinping નો નિયમ પાઠ્યપુસ્તકનું ઉદાહરણ છે. અને તમારો પ્રોમ્પ્ટ ફરી લખવાથી તમારો અર્થ નાશ પામે છે, જે OVERT નો પ્રાયોગિક મુદ્દો છે: ફિલ્ટર પાર કરવા વિનંતીને નરમ શબ્દોમાં ધોઈ નાખનાર દરેક વ્યાવસાયિકે તેની જાતે પુષ્ટિ કરી છે. તમે જીત્યા નહોતા; તમે સમાધાન કર્યું હતું.

આમાંનું કશું મફત નથી, અને કારણ કે તે ચૂપચાપ નિષ્ફળ જાય છે, સંચાલક જે માપદંડો જુએ છે તેમાં આ કિંમત અદૃશ્ય રહે છે. પૂરતા ઇનકાર પછી તમે પૂછવાનું બંધ કરી દો છો, અને દરેક પ્રોમ્પ્ટને પહેલેથી જ એટલો સાંકડો કરી નાખો છો જેટલો પસાર થશે એવો તમારો અંદાજ હોય; જે નરમ શબ્દરચના આખરે પસાર થાય છે તે તમારા દસ્તાવેજને જોઈતી હતી તેની નજીકની, પણ તે નહીં, એવી ઇમેજ આપે છે. સામાન્ય નીતિ-સંદેશો કયું સ્તર ચાલુ થયું તે વિશે કશું કહેતો નથી, એટલે તમે માત્ર અનુમાન કરીને ફરી પ્રયાસ કરી શકો છો — અને ઇમેજ કામ પુનરાવર્તિત હોય છે, એટલે પાંચમાંથી એક પ્રયાસ પકડતું ફિલ્ટર માત્ર ધીમું નથી પાડતું, આખો લૂપ તોડે છે. દરમિયાન, ગંભીર સાધનો પર સૌથી મજબૂત દાવો ધરાવતાં ક્ષેત્રોને કોઈ સમીક્ષક મળતો નથી, કોઈ અપીલ મળતી નથી અને સામાન્ય રીતે શું બ્લોક થયું છે તેની કોઈ પ્રકાશિત યાદી પણ મળતી નથી. જે નિયમ તમે વાંચી ન શકો તે નિયમ નથી; તે હવામાન છે.

06અનસેન્સર્ડ vs ફિલ્ટર કરેલું AI ઇમેજ જનરેટર: ખરેખર શું બદલાય છે

અહીં સરખામણીની પ્રામાણિક આવૃત્તિ છે, જેમાં ફિલ્ટર વગરની સિસ્ટમ તમને શું નથી આપતી તે પણ સામેલ છે.

પરિમાણ	ફિલ્ટર કરેલું જનરેટર	ફિલ્ટર વગરનું (Shannon)
નિર્ણય કોણ કરે	શબ્દો અને પિક્સેલ વાંચતું ક્લાસિફાયર	ચોક્કસ પ્રોમ્પ્ટ વાંચતી વ્યક્તિ
તમને ક્યારે ખબર પડે	સબમિટ કર્યા પછી — ક્યારેક ચૂકવ્યા પછી	કશું રેન્ડર કે બિલ થાય તે પહેલાં
નિયમ શું છે	અપ્રકાશિત, બદલાતી બ્લોકલિસ્ટ	પ્રકાશિત જવાબદાર ઉપયોગ નીતિ
વ્યાવસાયિક સંદર્ભ	સિસ્ટમ માટે અદૃશ્ય	તમારો રાખવાનો, અને તમારે જ જવાબ આપવાનો
નિષ્ફળતાની રીત	ચૂપચાપ વધુ પડતું બ્લોકિંગ, અર્થનું ભટકવું	તમે જે માગ્યું તે મળે છે — ભૂલો સહિત
જોખમ કોણ ઉઠાવે	વિક્રેતા, જે તે તમારા કામ પર ઢોળી દે છે	વહેંચાયેલું: સંચાલકની નીતિ વત્તા વપરાશકર્તાની જવાબદારી

છેલ્લી પંક્તિ એ છે જે લોકો છોડી દે છે, અને એ જ મહત્ત્વની છે. ફિલ્ટર દૂર કરવાથી વિભાગ 02 ની નુકસાન શ્રેણીઓ દૂર થતી નથી; તેનાથી એ યંત્ર દૂર થાય છે જે તેમના વિશે ખરાબ અનુમાન કરી રહ્યું હતું. જવાબદારી જ્યાં હતી ત્યાં જ રહે છે, હવે એવા બે પક્ષોના હાથમાં જે સંદર્ભ વિશે વિચારી શકે છે: સંચાલક, જે નીતિ પ્રકાશિત કરે છે અને લાગુ કરે છે, અને તમે, જે જાણો છો કે ઇમેજ શેના માટે છે. ફિલ્ટર વગરનું AI ઇમેજ જનરેશન એ લોકો માટેનું સાધન છે જે પોતાના પરિણામની પાછળ ઊભા રહેવા પહેલેથી તૈયાર છે — સર્જનનું એટલસ, નિષ્ણાત અહેવાલ, સ્ટોરીબોર્ડ, કાર્ટૂન — અને જેમને એવી સિસ્ટમ રોકી રહી હતી જે તેમને બીજા કોઈથી અલગ પાડી શકતી નહોતી.

07Shannon શું કરે છે — અને શું નથી કરતું

અહીં ઉત્સાહ કરતાં ચોકસાઈ વધુ મહત્ત્વની છે, ખાસ કરીને API શોધમાંથી આવતા વાચકો માટે.

તે શું કરે છે

• જનરેશન. સાદી ભાષામાં, કોઈપણ ભાષામાં ઇમેજનું વર્ણન કરો. તમે જે ભાષામાં પૂછ્યું હોય, Shannon જનરેશન પ્રોમ્પ્ટ પોતે અંગ્રેજીમાં લખે છે.
• એક ઇમેજનું એડિટિંગ. બરાબર એક સ્રોત — વાતચીતમાં પહેલેથી હાજર ચિત્ર, અથવા તમારા હાલના સંદેશા સાથે જોડેલું — જેને શું બદલાય છે અને શું રહે છે તે કહેતી સૂચનાથી બદલાય છે. આઉટપુટ આપોઆપ સ્રોતનો એસ્પેક્ટ રેશિયો જાળવે છે.
• બે કે વધુ ઇમેજનું સંયોજન. પોશાકનું સ્થાનાંતર, વસ્તુ-ઇન-સીન, વ્યક્તિની બાજુમાં વ્યક્તિ, પ્રોડક્ટ-ઓન-પર્સન, એક ઇમેજનો વિષય અને બીજીની શૈલી. પ્રોમ્પ્ટ દરેક ઇમેજની ભૂમિકા ક્રમમાં જણાવે છે, અને સાચી ઇમેજ વપરાય છે, જેથી તેમનો ખરો દેખાવ ફરી વર્ણવવાને બદલે જળવાય છે.
• આકારનું નિયંત્રણ. square (ડિફોલ્ટ), portrait, landscape, wide અને tall. સ્પષ્ટ વિનંતી હંમેશાં જીતે છે.
• અમારા પોતાના GPU ક્લસ્ટર પર રેન્ડરિંગ, જનરેશન પાથ પર કોઈ કન્ટેન્ટ ફિલ્ટર વગર અને પ્રોમ્પ્ટ લખતા મોડેલ પર કોઈ ઇનકાર સ્તર વગર.

તે શું નથી કરતું

• વીડિયો નહીં. Shannon ઇમેજને એનિમેટ કરતું નથી અને વીડિયો બનાવતું નથી. આ કોઈ ચતુરાઈથી છુપાવેલી રોડમેપની વસ્તુ નથી — તે અસ્તિત્વમાં જ નથી.
• API પર નહીં. ઇમેજ જનરેશન, એડિટિંગ અને સંયોજન Shannon ચેટ એપમાં છે. /v1 API ટેક્સ્ટ અને વિઝન આપે છે — તમે મોકલેલી ઇમેજ તે વાંચી શકે છે — પણ તે તેમને રેન્ડર કરતું નથી.
• વગર માગ્યે જનરેશન નહીં. અભિવાદન, પ્રશ્ન કે અમસ્તો જોડેલો ફોટો ઇમેજ ચાલુ કરતો નથી. Shannon ને ઇમેજ જોવાનું કહેવું — તેનું વર્ણન કરવું, વાંચવું, વિશ્લેષણ કરવું — એ સામાન્ય વિઝન કામ છે, જનરેશન નહીં, અને તેનો કોઈ વધારાનો ખર્ચ થતો નથી.

પુષ્ટિકરણ કાર્ડ

આ એ પદ્ધતિ છે જે ફિલ્ટરની જગ્યા લે છે, અને તે ઔપચારિકતા નહીં પણ ડિઝાઇનની પસંદગી છે. જ્યારે Shannon નક્કી કરે છે કે તમે ઇમેજ માગી રહ્યા છો, ત્યારે તે જનરેશન પ્રોમ્પ્ટ લખે છે અને કશું રેન્ડર થાય તે પહેલાં તમને પુષ્ટિકરણ કાર્ડ પર બતાવે છે. તમે પુષ્ટિ ન કરો ત્યાં સુધી કશું બનતું નથી અને કશું બિલ થતું નથી.

બંને ડિઝાઇનની ગુણવત્તા સરખાવો. ફિલ્ટર તમારી પાસે છે તેના કરતાં ઓછી માહિતી સાથે તમારા ઇરાદાનું અનુમાન કરે છે, અને એ અનુમાનને ચૂપચાપ લાગુ કરે છે. પુષ્ટિકરણ કાર્ડ કોઈ કમ્પ્યુટ ખર્ચાય તે પહેલાં ઇમેજની શાબ્દિક વિશિષ્ટતા એ પક્ષની સામે મૂકે છે જે જાણે છે કે તે શેના માટે છે. તે તમારી વિનંતીની ગેરસમજ પકડે છે, જે ફિલ્ટર ક્યારેય કરતું નથી; તે તમને એ શરીરરચનાની ચોકસાઈ કે ઐતિહાસિક વિગત ઉમેરવા દે છે જે મોડેલે અધૂરી છોડી; અને તે જવાબદારીને ધૂંધળી નહીં પણ સ્પષ્ટ બનાવે છે. તમે પ્રોમ્પ્ટ જોયો, અને તમે બટન દબાવ્યું.

08ફિલ્ટર વગરનું જનરેશન જવાબદારી વધારે છે, દૂર કરતું નથી

આ ફૂટરમાં નહીં પણ અહીં જ છે, કારણ કે એ દલીલનો અડધો ભાગ છે. ફિલ્ટર કરેલું જનરેટર એવું વચન આપે છે જે તે પાળી શકતું નથી: કે સાધન તમારા વતી દુરુપયોગ અટકાવશે. તે બંને દિશામાં નિષ્ફળ જાય છે — તે સર્જનને રોકે છે, અને દૃઢ ઇરાદાવાળી દુષ્ટ વ્યક્તિને રોકતું નથી, જેની પાસે બીજા વિકલ્પો છે અને હંમેશાં હતા. તે ભરોસાપાત્ર રીતે એટલું જ કરે છે કે બધાને લાગે કે જવાબદારી ઉપરવાસમાં, યંત્રે સંભાળી લીધી છે. ફિલ્ટર દૂર કરવાથી એ કલ્પના દૂર થાય છે; ઇમેજ અસ્તિત્વમાં હોવી જોઈએ કે નહીં એ પ્રશ્ન એ લોકો પાસે પાછો આવે છે જે તેનો જવાબ આપી શકે છે.

• Shannon Lab LLC ની જવાબદારી. અપ્રકાશિત બ્લોકલિસ્ટને બદલે પ્રતિબંધિત શ્રેણીઓનાં નામ આપતી પ્રકાશિત, ચોક્કસ જવાબદાર ઉપયોગ નીતિ — એવા નિયમો જે તમે વાંચી શકો, ટાંકી શકો અને અમને તેની જવાબદારી સોંપી શકો.
• તમારી જવાબદારી. તમે હેતુ, પ્રેક્ષક, અધિકારક્ષેત્ર અને દર્શાવાયેલા દરેકની સંમતિની સ્થિતિ જાણો છો. સાધન નથી જાણતું, અને ક્લાસિફાયર ક્યારેય જાણી શકે નહીં. પુષ્ટિકરણ કાર્ડ એટલા માટે છે કે એ જ્ઞાન જે ક્ષણે મહત્ત્વનું છે તે ક્ષણે, જેની પાસે તે છે તે પક્ષ દ્વારા લાગુ થાય.
• જે રેખા ખસતી નથી. "ફિલ્ટરે મને રોક્યો નહોતો" એ કોઈ પણ માધ્યમમાં ક્યારેય બચાવ રહ્યો નથી. કેમેરા ના પાડતો નથી, પેન્સિલ ના પાડતી નથી; કાયદો અને વ્યાવસાયિક નીતિશાસ્ત્ર ઉપયોગને નિયંત્રિત કરે છે, સાધનને નહીં. ફિલ્ટર વગરનું જનરેટર એ સામાન્ય વ્યવસ્થા પાછી લાવે છે જેના હેઠળ બીજું દરેક વ્યાવસાયિક સાધન ચાલે છે.

શરૂ કરતાં પહેલાં જવાબદાર ઉપયોગ નીતિ વાંચો. તે ટૂંકી છે, ચોક્કસ છે, અને આ પ્રોડક્ટનો એ ભાગ છે જે બાકીના બધાને બચાવવા યોગ્ય બનાવે છે.

09વારંવાર પુછાતા પ્રશ્નો

---

સ્રોત: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 એપ્રિલ, 2023 · PetaPixel, 3 એપ્રિલ, 2023 · CNBC, 22 ફેબ્રુઆરી, 2024. Shannon AI નું સંચાલન Shannon Lab LLC, ન્યૂ મેક્સિકો, USA કરે છે.