സെൻസർ ചെയ്യാത്തത് vs ഫിൽട്ടർ ചെയ്ത AI ഇമേജ് ജനറേറ്റർ
ചെറിയൊരു കൂട്ടം യഥാർത്ഥ ദോഷങ്ങൾ തടയാനാണ് ഉള്ളടക്ക ഫിൽട്ടറുകൾ നിർമ്മിച്ചത്. പ്രായോഗികമായി അവ മെഡിക്കൽ ചിത്രീകരണം, ഫോറൻസിക് പുനർനിർമ്മാണം, ജീവചിത്രരചന, യുദ്ധചരിത്രം, എഡിറ്റോറിയൽ ആക്ഷേപഹാസ്യം, സ്വന്തം ഉൽപ്പന്നങ്ങൾ ചിത്രീകരിക്കുന്ന കമ്പനികൾ എന്നിവയെയും തടയുന്നു. അതിന്റെ വില എന്താണെന്നും — ഫിൽട്ടർ നീക്കുന്നത് എന്ത് മാറ്റുന്നു, എന്ത് മാറ്റുന്നില്ല എന്നതും ഇതാ.
TL;DR
മുഖ്യധാരാ ഇമേജ് ജനറേറ്ററുകൾ പ്രോംപ്റ്റുകളും ഔട്ട്പുട്ടുകളും പരിശോധിക്കുന്നത് വാക്കുകളും പിക്സലുകളും മാത്രം കാണുന്ന ക്ലാസിഫയറുകൾ കൊണ്ടാണ്, ഒരിക്കലും ഉദ്ദേശ്യം കാണുന്നില്ല. അത് തെറ്റായ പോസിറ്റീവുകൾ ഉറപ്പാക്കുന്നു, അവ ഏറ്റവും കടുപ്പത്തിൽ വന്നടിയുന്നത് വൈദഗ്ധ്യമുള്ള ജോലിയിലാണ്: ശരീരഘടന, ഫോറൻസിക്സ്, കലാ നഗ്നചിത്രങ്ങൾ, ചരിത്ര ചിത്രങ്ങൾ, പ്രീ-വിഷ്വലൈസേഷൻ, ആക്ഷേപഹാസ്യം, സുരക്ഷാ-ബോധവൽക്കരണ സാമഗ്രികൾ, സ്വന്തം ബ്രാൻഡ് ചോദിക്കുന്ന അവകാശികൾ. ഈ പരാജയരീതി അളക്കുന്ന ആദ്യത്തെ വലിയ ബെഞ്ച്മാർക്കായ OVERT (ICML 2025) 4,600 നിരുപദ്രവകരമെങ്കിലും സംശയാസ്പദമായി തോന്നുന്ന പ്രോംപ്റ്റുകൾ ഉപയോഗിക്കുന്നു, മുൻനിര മോഡലുകളിലുടനീളം അമിത നിരസനം വ്യാപകമാണെന്ന് കണ്ടെത്തുന്നു. ഇമേജ് നിർമ്മാണം, ഒറ്റ ചിത്രത്തിന്റെ എഡിറ്റിംഗ്, ഒന്നിലധികം ചിത്രങ്ങൾ യോജിപ്പിക്കൽ എന്നിവ Shannon നടത്തുന്നത് ഉള്ളടക്ക ഫിൽട്ടറോ നിരസന പാളിയോ ഇല്ലാതെ ഞങ്ങളുടെ സ്വന്തം GPU ക്ലസ്റ്ററിലാണ്, ബ്ലോക്ക്‌ലിസ്റ്റിന് പകരം ഒരു ദൃശ്യമായ തീരുമാനം വയ്ക്കുന്നു: ഒന്നും റെൻഡർ ചെയ്യും മുമ്പ് കൃത്യമായ പ്രോംപ്റ്റ് കാണിക്കുന്ന ഒരു സ്ഥിരീകരണ കാർഡ്. അത് നിങ്ങളുടെയും ഞങ്ങളുടെയും ഉത്തരവാദിത്തം വർദ്ധിപ്പിക്കുന്നു; രണ്ടും ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിലുണ്ട്. വീഡിയോ നിർമ്മാണം ഇല്ല, ഇമേജ് ജോലി API-യിലല്ല, ചാറ്റ് ആപ്പിലാണ്.
ചിത്രങ്ങളുമായി പ്രൊഫഷണലായി പ്രവർത്തിക്കുന്ന മിക്കവർക്കും ഒരേ കഥയാണ് പറയാനുള്ളത്. സാധാരണമായ എന്തെങ്കിലും വിവരിക്കുന്ന ഒരു പ്രോംപ്റ്റ് — കാൽമുട്ട് സന്ധിയുടെ ഒരു ഛേദ ദൃശ്യം, കൂട്ടിയിടിക്കുന്ന നിമിഷത്തിലെ ഒരു കാർ, കരിക്കട്ടയിലെ ഒരു രൂപപഠനം, 1944-ലെ ഒരു പട്ടാളക്കാരൻ — ഒരു നയലംഘനമായി തിരിച്ചുവരുന്നു. നിങ്ങൾ വാക്കുകൾ മാറ്റുന്നു, മറ്റൊരു ലംഘനം കിട്ടുന്നു. ഒടുവിൽ കടന്നുപോകാൻ മാത്രം അവ്യക്തമായ എന്തോ എഴുതുന്നു, നിങ്ങൾക്ക് വേണ്ടിയിരുന്നത് ഇനി കാണിക്കാത്ത ഒരു ചിത്രം കിട്ടുന്നു. ഉപകരണം ഉച്ചത്തിൽ പരാജയപ്പെട്ടില്ല; അത് പടിപടിയായി പരാജയപ്പെട്ടു, വിട്ടുവീഴ്ച ചെയ്തത് നിങ്ങളാക്കി മാറ്റി.
01വ്യക്തമായും നിയമാനുസൃതമായ ഒരു പ്രോംപ്റ്റ് ഒരു AI ഇമേജ് ജനറേറ്റർ എന്തുകൊണ്ട് നിരസിക്കുന്നു?
ആ നിരസനം സാധാരണയായി ഇമേജ് മോഡലിന്റെ അഭിപ്രായമല്ല. അത് മോഡലിന് ചുറ്റുമുള്ള ഒരു ഫിൽട്ടറിംഗ് ശ്രേണിയുടെ ഫലമാണ്, അതിന്റെ പാളികൾ നിങ്ങൾക്ക് ലഭിച്ച മിക്കവാറും എല്ലാ വിചിത്ര നിരസനങ്ങളും വിശദീകരിക്കുന്നു.
| പാളി | അത് പരിശോധിക്കുന്നത് | സ്വഭാവഗതമായ പരാജയം |
|---|---|---|
| പ്രോംപ്റ്റ് ബ്ലോക്ക്‌ലിസ്റ്റ് | നിങ്ങളുടെ വാചകത്തിലെ അക്ഷരാർത്ഥ പദങ്ങളും അവയുടെ സമാന രൂപങ്ങളും | ചുറ്റുമുള്ള വാക്യം എന്തായാലും ഒരു വാക്ക് തടയുന്നു — "speculum" പരാജയപ്പെടുന്നു, "stethoscope" കടന്നുപോകുന്നു |
| പ്രോംപ്റ്റ് ക്ലാസിഫയർ | പ്രോംപ്റ്റിന്റെ "അപകടസാധ്യത"യെക്കുറിച്ചുള്ള പഠിച്ചെടുത്ത വിലയിരുത്തൽ | വിഷയ സാമീപ്യത്തിൽ പ്രവർത്തിക്കുന്നു: വൈദ്യശാസ്ത്രം, ആയുധങ്ങൾ, ശരീരങ്ങൾ, രാഷ്ട്രീയം എന്നിവയോട് അടുത്ത എന്തും ഉയർന്ന സ്കോർ നേടുന്നു |
| മോഡൽ നിരസന പരിശീലനം | മോഡലിന്റെ സ്വന്തം പരിശീലിത വൈമുഖ്യം | പിശക് കാണിക്കാതെ നിരസിക്കുന്നു, അല്ലെങ്കിൽ നിശ്ശബ്ദമായി ശുദ്ധീകരിച്ച ഒരു പകരക്കാരൻ ഉണ്ടാക്കുന്നു |
| ഔട്ട്പുട്ട് ക്ലാസിഫയർ | പ്രോംപ്റ്റ് സന്ദർഭമില്ലാതെ റെൻഡർ ചെയ്ത പിക്സലുകൾ | ഒരു ശരീരഘടനാ ചിത്രവും അശ്ലീലവും, അല്ലെങ്കിൽ ഒരു സിനിമാ ഫ്രെയിമും യഥാർത്ഥ സംഭവവും വേർതിരിക്കാനാവില്ല |
| നയപരമായ പകരംവയ്പ് | റെൻഡർ ചെയ്യും മുമ്പ് നിങ്ങളുടെ പ്രോംപ്റ്റ് നിശ്ശബ്ദമായി മാറ്റിയെഴുതൽ | ചിത്രം കിട്ടുന്നു, പക്ഷേ നിങ്ങൾ വ്യക്തമാക്കിയത് അല്ല, എന്തുകൊണ്ടെന്ന് പറയുന്നുമില്ല |
എല്ലാ പാളിക്കും ഒരേ അന്ധബിന്ദുവാണ്: നിങ്ങൾ എന്തിനാണ് ചോദിക്കുന്നതെന്ന് ഒന്നിനും കാണാനാവില്ല. ഒരു മെഡിക്കൽ ചിത്രകാരനും ഒരു കൂട്ടിയിടി പുനർനിർമ്മിക്കുന്ന വാദിയുടെ വിദഗ്ധനും ദുരുദ്ദേശ്യമുള്ള ഒരാളും ഒരേ നാമപദം ടൈപ്പ് ചെയ്യുന്നു. ഫിൽട്ടർ കാണുന്നത് ആ നാമപദമാണ്, ശരീരഘടനാ അറ്റ്ലസോ കേസ് ഫയലോ അല്ല; അത് വിലയിരുത്തപ്പെടുന്നത് കടത്തിവിടുന്ന ദോഷങ്ങളുടെ പേരിലാണ് — ഒരിക്കലും അത് നശിപ്പിക്കുന്ന ജോലിയുടെ പേരിലല്ല. ആ അസന്തുലിതത്വത്തിൽ ഏതൊരു ഓപ്പറേറ്റർക്കും യുക്തിസഹമായ ക്രമീകരണം കൂടുതൽ നിരസിക്കുക എന്നതാണ്. "വാക്കുകൾ മാറ്റിയെഴുതൂ" എന്നത് ഒരു പരിഹാരമല്ലാത്തതിന്റെ കാരണവും അതാണ്: മാറ്റിയെഴുത്ത് ഫിൽട്ടറിന് ഇല്ലാതിരുന്ന ഒരു വിവരവും നൽകുന്നില്ല, അത് നിങ്ങളുടെ പ്രോംപ്റ്റിനെ ഇടറിയ വാക്കുകളിൽ നിന്ന് അകറ്റുക മാത്രമാണ് ചെയ്യുന്നത് — അതായത് സാധാരണയായി നിങ്ങൾ ഉദ്ദേശിച്ചതിൽ നിന്ന് അകലേക്ക്.
02ഉള്ളടക്ക ഫിൽട്ടറുകൾ യഥാർത്ഥത്തിൽ തടയാൻ ഉള്ളത് എന്ത്
ഫിൽട്ടറുകൾ കാരണമില്ലാതെ നിലനിൽക്കുന്നു എന്ന് നടിക്കുന്ന, ഫിൽട്ടറില്ലാത്ത ജനറേഷനുവേണ്ടിയുള്ള ഒരു വാദം വായിക്കാൻ കൊള്ളില്ല. ആരാണ് ചോദിച്ചത്, എന്തിന് ചോദിച്ചു എന്നതിൽ നിന്ന് സ്വതന്ത്രമായി, ചിത്രത്തിൽ തന്നെ ദോഷം അന്തർലീനമായ ഒരു ചെറിയ കൂട്ടം ഔട്ട്പുട്ടുകളുണ്ട്:
- പ്രായപൂർത്തിയാകാത്തവർ ഉൾപ്പെടുന്ന ലൈംഗിക ഉള്ളടക്കം. ഒരു സന്ദർഭവും അതിനെ സ്വീകാര്യമാക്കുന്നില്ല; ഒരു പ്രൊഫഷണൽ ജോലിക്രമത്തിനും അത് ആവശ്യമില്ല.
- യഥാർത്ഥ വ്യക്തികളുടെ സമ്മതമില്ലാത്ത സ്വകാര്യ ചിത്രങ്ങൾ. സമ്മതിക്കാത്ത ഒരാളിലാണ് ദോഷം വന്നടിയുന്നത്, ചിത്രം നീക്കം ചെയ്താലും അത് പഴയപടിയാകില്ല.
- ലക്ഷ്യമിട്ടുള്ള ഉപദ്രവവും അപകീർത്തികരമായ കെട്ടിച്ചമയ്ക്കലും — പേരുള്ള ഒരു വ്യക്തി ചെയ്യാത്ത എന്തോ ചെയ്തതായി തോന്നിപ്പിക്കൽ.
- വ്യാജനിർമ്മാണ നിലവാരമുള്ള രേഖകൾ — യഥാർത്ഥമെന്ന് തോന്നിപ്പിക്കാൻ ഉണ്ടാക്കിയ പാസ്പോർട്ടുകൾ, തിരിച്ചറിയൽ കാർഡുകൾ, നോട്ടുകൾ, മുദ്രകൾ, സാമ്പത്തിക രേഖകൾ.
- വഞ്ചനാപരമായ കൃത്രിമ തെളിവുകൾ — ചിത്രീകരണമായിട്ടല്ല, രേഖയായി അവതരിപ്പിക്കപ്പെടുന്ന യഥാർത്ഥ സംഭവങ്ങളുടെ കെട്ടിച്ചമച്ച ചിത്രങ്ങൾ.
ഈ പട്ടിക ചെറുതാണ്, അതിന് ഒരു ഘടനയുമുണ്ട്: ദോഷം കുടികൊള്ളുന്നത് ആ വസ്തുവിൽ തന്നെയാണ്, ഒരു യഥാർത്ഥ വ്യക്തിയോടോ രേഖയോടോ ഉള്ള അതിന്റെ സാമ്യത്തിലാണ്, സത്യമായി അവതരിപ്പിക്കപ്പെടുന്നതിലാണ്. അതിൽ ഇല്ലാത്തത് ശ്രദ്ധിക്കുക — നഗ്നത, രക്തം, ആയുധങ്ങൾ, ചരിത്രപരമായ ക്രൂരതകൾ, രാഷ്ട്രീയ പരിഹാസം. അവയാണ് വൈദ്യശാസ്ത്രത്തിന്റെയും പത്രപ്രവർത്തനത്തിന്റെയും കലയുടെയും ഫോറൻസിക്സിന്റെയും ആക്ഷേപഹാസ്യത്തിന്റെയും അസംസ്കൃത വസ്തു; അവയെ ദോഷ വിഭാഗങ്ങളായി കാണുന്ന ഒരു ഫിൽട്ടർ ഏതൊക്കെ വിഷയങ്ങൾ മാന്യമാണ് എന്നതിനെക്കുറിച്ചുള്ള കൂടുതൽ വിശാലമായ ഒരു ആശയമാണ് നടപ്പാക്കുന്നത്.
"placenta" എന്നതിനെയും പിടിക്കുന്ന ഒരു കീവേഡ് പട്ടികയ്ക്ക് പകരം, പേരെടുത്തുപറഞ്ഞ വിഭാഗങ്ങളും അനന്തരഫലങ്ങളുമുള്ള പ്രസിദ്ധീകരിച്ച ഒരു ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിലൂടെ ആ പട്ടികയിലുള്ളതെല്ലാം Shannon നിരോധിക്കുന്നു. ഒന്ന് നിങ്ങൾക്ക് വായിക്കാനും ഞങ്ങളെ ബാധ്യസ്ഥരാക്കാനും കഴിയുന്ന ഒരു നിയമമാണ്; മറ്റേത് നിങ്ങൾക്ക് കാണാനാവാത്ത ഒരു ക്ലാസിഫയർ നിങ്ങളുടെ ഉദ്ദേശ്യത്തെക്കുറിച്ച് നടത്തുന്ന ഒരു ഊഹമാണ്.
03അമിത നിരസന പ്രശ്നം എത്ര വലുതാണ്? ഗവേഷണം അളക്കുന്നത് എന്ത്
അടുത്ത കാലം വരെ ഇമേജ് മോഡലുകളിലെ അമിത നിരസനം ഒരു കേട്ടുകേൾവിയായിരുന്നു — ഒരേ കഥയുള്ള ആയിരക്കണക്കിന് ആളുകൾ, അത് അളക്കാൻ ഒരു വഴിയുമില്ല. OVERT (OVEr-Refusal evaluation on Text-to-image models) വന്നതോടെ അത് മാറി. Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song, Song Mei എന്നിവരടങ്ങുന്ന UC Berkeley സംഘം ICML 2025-ൽ അവതരിപ്പിച്ച ഇത്, പൂർണ്ണമായും നിരുപദ്രവകരമായ പ്രോംപ്റ്റുകൾ ടെക്സ്റ്റ്-ടു-ഇമേജ് സംവിധാനങ്ങൾ എത്ര തവണ നിരസിക്കുന്നു എന്ന് അളക്കുന്ന ആദ്യത്തെ വലിയ തോതിലുള്ള ബെഞ്ച്മാർക്കാണ്.
രൂപകൽപ്പനയ്ക്ക് പ്രാധാന്യമുണ്ട്. ആ 4,600 പ്രോംപ്റ്റുകൾ നിരുപദ്രവകരമായിരിക്കെത്തന്നെ ഹാനികരമായി തോന്നിക്കാൻ നിർമ്മിച്ചവയാണ് — ഒരു സ്കാൽപെൽ, ഒരു ചതവ്, ഒരു പ്രതിഷേധം എന്നിവ പരാമർശിക്കുന്ന യഥാർത്ഥ പ്രൊഫഷണൽ അഭ്യർത്ഥനയുടെ രൂപം — ഒപ്പം യഥാർത്ഥത്തിൽ ഹാനികരമായ 1,785 പ്രോംപ്റ്റുകൾ നിയന്ത്രണമായി അവയോടൊപ്പം നിൽക്കുന്നു, അതിനാൽ എല്ലാം നിരസിച്ചുകൊണ്ട് ഒരു മോഡലിനും നല്ല സ്കോർ നേടാനാവില്ല. ഒൻപത് വിഭാഗങ്ങൾ വ്യക്തിഗത, പൊതുവ്യക്തി സ്വകാര്യതയിൽ തുടങ്ങി പകർപ്പവകാശം, വിവേചനം, സ്വയം-ഉപദ്രവം, ലൈംഗിക ഉള്ളടക്കം, നിയമവിരുദ്ധ പ്രവർത്തനം എന്നിവയിലൂടെ അക്രമത്തിൽ എത്തുന്നു.
പ്രധാന കണ്ടെത്തൽ, അമിത നിരസനം വിഭാഗങ്ങളിലുടനീളവും മുൻനിര മോഡലുകളിലുടനീളവും വ്യാപകമാണ് എന്നതാണ്. രണ്ടാമത്തേത് സ്ഥിരം പരിഹാരമാർഗ്ഗത്തിന് കൂടുതൽ ദോഷകരമാണ്: രചയിതാക്കൾ ഒരു ലഘൂകരണമായി പ്രോംപ്റ്റ് മാറ്റിയെഴുത്ത് പരീക്ഷിച്ചു, അത് "പലപ്പോഴും യഥാർത്ഥ പ്രോംപ്റ്റുകളുടെ അർത്ഥത്തോടുള്ള വിശ്വസ്തതയെ ഹനിക്കുന്നു" എന്ന് റിപ്പോർട്ട് ചെയ്യുന്നു. നിങ്ങൾ ചോദിച്ചത് മാറ്റിക്കൊണ്ട് ഫിൽട്ടർ കടക്കാം, പക്ഷേ അപ്പോൾ നിങ്ങൾ ചോദിച്ചത് നിങ്ങൾക്കില്ല.
കൂടുതൽ ഇടുങ്ങിയ ഒരു പഠനം പിക്സൽ ഭാഗത്തുനിന്ന് അതേ നിഗമനത്തിലെത്തുന്നു. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann, Oliver; ECCV 2024-ലെ AI4VA വർക്ക്ഷോപ്പ്) എന്ന പ്രബന്ധത്തിൽ, രചയിതാക്കൾ കലാപരമായ നഗ്നതയിൽ മൂന്ന് പ്രൊഡക്ഷൻ NSFW ക്ലാസിഫയറുകൾ വിലയിരുത്തി ഒരു ലിംഗപക്ഷപാതവും ഒരു ശൈലീപക്ഷപാതവും കണ്ടെത്തുന്നു: ഒരു രൂപപഠനത്തെക്കുറിച്ചുള്ള വിധി ആരുടെ ശരീരമാണ് ചിത്രീകരിച്ചത്, ഏത് ശൈലിയിലാണ് എന്നതിനെ ആശ്രയിക്കുന്നു. ജീവചിത്രരചന ചെയ്യുന്ന എല്ലാ കലാകാരനോടും സാങ്കൽപ്പികമാണെന്ന് പറഞ്ഞിരുന്ന കാര്യത്തിന്റെ അളന്ന രൂപമാണ് അത്.
04ഫിൽട്ടർ ചെയ്ത ജനറേറ്ററുകൾ തടയുന്ന നിയമാനുസൃതമായ എട്ട് തരം ജോലികൾ
അമിത നിരസനം ഒരു അസൗകര്യമല്ല, ജോലി നിലയ്ക്കലാണ് എന്നതാണ് ഈ വിഭാഗങ്ങളുടെ സ്ഥിതി. പ്രത്യേകമായി റിപ്പോർട്ട് ചെയ്യപ്പെട്ട സംഭവം ഉള്ളിടത്ത് അത് ഉദ്ധരിച്ചിട്ടുണ്ട്; ഒന്നും സ്ഥിരീകരിക്കാനാവാത്തിടത്ത്, സംഭവം കെട്ടിച്ചമയ്ക്കാതെ വിഭാഗം മാത്രം വിവരിച്ചിരിക്കുന്നു.
1. മെഡിക്കൽ, ശരീരഘടനാ ചിത്രീകരണം
ഈ മേഖലയിൽ ഏറ്റവും നന്നായി രേഖപ്പെടുത്തപ്പെട്ട സംഭവം. 2023 ഏപ്രിലിൽ The Intercept (Debbie Nathan) റിപ്പോർട്ട് ചെയ്തത്, speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom, IUD ഉൾപ്പെടെയുള്ള ശരീരഘടനാ പദങ്ങൾ Midjourney നിരോധിച്ചിരുന്നു എന്നാണ്; അതേസമയം DALL·E 2 "pills used in medication abortion" എന്നത് ഒരു ഉള്ളടക്ക-നയ സന്ദേശത്തോടെ നിരസിച്ചു. ഒരു കോശ-ജീവശാസ്ത്രജ്ഞ സുഹൃത്തിനുള്ള സമ്മാനമായി പ്ലാസെന്റയുടെ ഒരു ചിത്രം ഉണ്ടാക്കാൻ ശ്രമിച്ച ക്ലിനിക്കൽ ഡാറ്റാ അനലിസ്റ്റ് Julia Rockwell ആണ് ഈ രീതി കണ്ടെത്തി MIT Technology Review-ന് റിപ്പോർട്ട് ചെയ്തത്. ആ അസന്തുലിതത്വമാണ് സൂചന: "stethoscope" സാധാരണപോലെ ഉണ്ടാക്കപ്പെട്ടു, "speculum" നിരോധിക്കപ്പെട്ടു. വാഷിംഗ്ടൺ സർവകലാശാലയിലെ ഗവേഷകൻ Bill Howe ഈ ഫിൽട്ടറുകളെ "ham-fisted" എന്ന് വിളിക്കുകയും അവ "പ്രത്യുൽപാദനത്തെക്കുറിച്ച് ഒരു ശാസ്ത്രീയ ചർച്ച നടത്തുന്നത് അടിസ്ഥാനപരമായി അസാധ്യമാക്കി" എന്ന് പറയുകയും ചെയ്തു. രോഗീ വിദ്യാഭ്യാസത്തിനും ശസ്ത്രക്രിയാ അറ്റ്ലസുകൾക്കും നഴ്സിംഗ് പാഠ്യപദ്ധതികൾക്കും ശരീരങ്ങൾ കൃത്യമായി ചിത്രീകരിക്കേണ്ടതുണ്ട് — ഒരു കീവേഡ് പട്ടിക അശ്ലീലമെന്ന് തീരുമാനിച്ച ഭാഗങ്ങൾ ഉൾപ്പെടെ.
2. ഫോറൻസിക്, അപകട പുനർനിർമ്മാണം
കൂട്ടിയിടി പുനർനിർമ്മാണം, തീപിടിത്തത്തിന്റെ ഉത്ഭവ വിശകലനം, കോടതിയിലെ പ്രദർശന സാമഗ്രികൾ എന്നിവയ്ക്ക് നാശം, മുറിവുകൾ, അക്രമ യാന്ത്രികത എന്നിവ ക്ലിനിക്കൽ കൃത്യതയോടെ ചിത്രീകരിക്കേണ്ടതുണ്ട്. "രക്തം" അല്ലെങ്കിൽ "വെടിയേറ്റ മുറിവ്" നിരസിക്കാൻ ക്രമീകരിച്ച ഒരു ഫിൽട്ടർ ആ വിജ്ഞാനശാഖയെ മൊത്തം നിരസിക്കുന്നു: സന്ദർഭം — ഒരു വിദഗ്ധ റിപ്പോർട്ട്, ഒരു ഇൻഷുറൻസ് ഫയൽ — ക്ലാസിഫയറിന് അദൃശ്യമാണ്, അത്തരം ചിത്രങ്ങളെ കോടതിയിൽ സ്വീകാര്യമാക്കുന്ന അതേ നിഷ്പക്ഷതയാണ് അവയെ ഭീകരദൃശ്യമായി വായിപ്പിക്കുന്നത്.
3. കലാ നഗ്നചിത്രങ്ങളും ജീവചിത്രരചനയും
നഗ്നരൂപം എല്ലായിടത്തും കലയുടെ ഒരു അടിസ്ഥാന വിഷയമാണ്, രൂപപഠനം കലാവിദ്യാഭ്യാസത്തിന്റെ കാതലുമാണ്. മുകളിലെ ECCV 2024 ഫലം കലാകാരന്മാർ പറയുന്ന കാര്യത്തിന്റെ അളന്ന പതിപ്പാണ്: ക്ലാസിഫയറുകൾക്ക് ഒരു രൂപപഠനത്തെ അശ്ലീലത്തിൽ നിന്ന് വിശ്വസനീയമായി വേർതിരിക്കാനാവില്ല, അവയുടെ പിശകുകൾ ലിംഗവും ശൈലിയും അനുസരിച്ച് പക്ഷപാതപരമാണ് — തിരിച്ചറിയേണ്ടിയിരുന്ന പാരമ്പര്യത്തോട് തന്നെ ഏറ്റവും കടുപ്പം കാണിക്കുന്ന ഒരു ഫിൽട്ടർ.
4. ചരിത്രപരവും യുദ്ധകാലവുമായ ചിത്രങ്ങൾ
പാഠപുസ്തക കല, മ്യൂസിയം വ്യാഖ്യാനം, സ്മാരക പദ്ധതികൾ എന്നിവയ്ക്ക് യൂണിഫോമുകൾ, ആയുധങ്ങൾ, ക്യാമ്പുകൾ, യുദ്ധങ്ങൾ, ക്രൂരതകൾ എന്നിവ ചിത്രീകരിക്കേണ്ടതുണ്ട്. 2024 ഫെബ്രുവരിയിലെ Gemini സംഭവം പ്രബോധനാത്മകമാണ്, കാരണം പരാജയം എതിർ ദിശയിലായിരുന്നു, നാശം തുല്യവുമായിരുന്നു. നാസി കാലഘട്ടത്തിലെ ജർമ്മൻ പട്ടാളക്കാർ ഉൾപ്പെടെയുള്ള ചരിത്ര സംഘങ്ങളെ വംശപരമായി പുനഃസംയോജിപ്പിച്ച് ചിത്രീകരിച്ചതിനെത്തുടർന്ന്, 2024 ഫെബ്രുവരി 22-ന് ആളുകളുടെ ചിത്രങ്ങൾ ഉണ്ടാക്കാനുള്ള Gemini-യുടെ കഴിവ് Google താൽക്കാലികമായി നിർത്തി. ആ ഔട്ട്പുട്ടുകളെ CEO Sundar Pichai "പൂർണ്ണമായും അസ്വീകാര്യം" എന്ന് വിളിച്ചു; മോഡൽ "അമിതമായി നികത്തി" "അമിത യാഥാസ്ഥിതികമായി" മാറി എന്ന് SVP Prabhakar Raghavan സമ്മതിച്ചു. സന്ദർഭം കാണാത്ത സുരക്ഷ ചരിത്ര ചിത്രങ്ങളെ കൂടുതൽ സുരക്ഷിതമാക്കിയില്ല — അത് അവയെ അസത്യമാക്കി, ഒരു ചരിത്ര പ്രസാധകനെ സംബന്ധിച്ച് അത് കൂടുതൽ മോശമാണ്.
5. കഥാസാഹിത്യത്തിലെ അക്രമവും ചലച്ചിത്ര പ്രീ-വിഷ്വലൈസേഷനും
സ്റ്റോറിബോർഡുകൾ, കൺസെപ്റ്റ് ആർട്ട്, കോമിക്സ്, ഗെയിം ഡിസൈൻ എന്നിവ അക്രമം ചിത്രീകരിക്കുന്നത് നോവലുകളും സിനിമകളും ചെയ്യുന്ന അതേ കാരണത്താലാണ്. ഒരു ഹൊറർ സ്റ്റോറിബോർഡും ഒരു ഭീഷണിയും വേർതിരിക്കാനാവാത്ത ഒരു ഫിൽട്ടർ ആഖ്യാന കലകളുടെ മുഴുവൻ ജോലിക്രമത്തെയും സംശയത്തോടെ കാണുന്നു — എന്നാൽ ഒരു സ്റ്റോറിബോർഡ് വ്യക്തമായും യഥാർത്ഥമല്ലാത്തതാണ്, അഭിനേതാക്കളും ഇഫക്ട്സ് സംഘങ്ങളും അവതരിപ്പിക്കാൻ പോകുന്ന ഒരു രംഗത്തിന്റെ പദ്ധതി മാത്രമാണ്.
6. രാഷ്ട്രീയ ആക്ഷേപഹാസ്യവും എഡിറ്റോറിയൽ കാർട്ടൂണും
അധികാരമുള്ളവരുടെ കാരിക്കേച്ചർ മിക്ക ജനാധിപത്യ രാജ്യങ്ങളിലും ഏറ്റവും സംരക്ഷിക്കപ്പെട്ട ആവിഷ്കാര വിഭാഗങ്ങളിൽ ഒന്നാണ്, ഒപ്പം ഒരു ഇമേജ് ഫിൽട്ടർ ആദ്യം നീക്കം ചെയ്യുന്നതും അതുതന്നെയാണ്. ഏറ്റവും വ്യക്തമായി രേഖപ്പെടുത്തിയ സംഭവം, ചൈനീസ് പ്രസിഡന്റ് Xi Jinping-ന്റെ ചിത്രങ്ങൾ വിലക്കാനും പ്രോംപ്റ്റുകളിൽ അദ്ദേഹത്തിന്റെ പേര് തടയാനും 2023 ഏപ്രിലിൽ Midjourney എടുത്ത തീരുമാനമാണ് — PetaPixel, Decrypt തുടങ്ങിയവ റിപ്പോർട്ട് ചെയ്തത് — അതേസമയം മറ്റ് ലോക നേതാക്കളെ അനുവദിക്കുന്നത് തുടർന്നു. "നാടകം കുറയ്ക്കാൻ" കമ്പനി ആഗ്രഹിച്ചെന്നും "ചൈനയിലെ ആളുകൾക്ക് ഈ സാങ്കേതികവിദ്യ ഉപയോഗിക്കാനുള്ള കഴിവ് നിങ്ങൾക്ക് ആക്ഷേപഹാസ്യം ഉണ്ടാക്കാനുള്ള കഴിവിനെക്കാൾ പ്രധാനമാണ്" എന്നും സ്ഥാപകൻ David Holz Discord-ൽ വിശദീകരിച്ചു; Foundation for Individual Rights and Expression-ലെ Sarah McLaughlin ഇതിനെ സെൻസർഷിപ്പ് എന്ന് വിളിച്ചു. വ്യാപാര കണക്കുകൂട്ടലിനെക്കുറിച്ച് ആരെന്ത് നിഗമനത്തിലെത്തിയാലും, ആ സംവിധാനത്തിന് പേരിടേണ്ടതുണ്ട്: ഒരു ദേശീയ ആവിഷ്കാര നിയന്ത്രണം ലോകമെമ്പാടുമുള്ള എല്ലാ ഉപയോക്താക്കൾക്കും ബാധകമാക്കി, കാരണം ഒരു ആഗോള ഫിൽട്ടറിന് ഒരൊറ്റ ക്രമീകരണമേയുള്ളൂ.
7. സുരക്ഷാ ഗവേഷണവും ഫിഷിംഗ്-ബോധവൽക്കരണ സാമഗ്രികളും
സുരക്ഷാ സംഘങ്ങൾ ഉണ്ടാക്കുന്ന പരിശീലന സാമഗ്രികൾ അവ മുന്നറിയിപ്പ് നൽകുന്ന കാര്യം പോലെതന്നെ കാണപ്പെടണം: വിശ്വസനീയമായ ഒരു വ്യാജ ലോഗിൻ സ്ക്രീൻ, കബളിപ്പിക്കുന്ന ഒരു ഇൻവോയ്സ്, ഒരു പാർക്കിംഗ് മീറ്ററിലെ ദുരുദ്ദേശ്യപരമായ QR കോഡ്. ഒരു ക്ലാസിഫയറിന് അത് താൻ പ്രതിരോധിക്കാൻ ശ്രമിക്കുന്ന ആക്രമണത്തിൽ നിന്ന് വേർതിരിക്കാനാവില്ല — യാഥാർത്ഥ്യപ്രതീതിയാണ് കാര്യം തന്നെ — അതിനാൽ ഫിൽട്ടറുകൾ പ്രതിരോധത്തെയും ആക്രമണത്തെയും ഒരുപോലെ തടയുന്നു, ആക്രമണകാരിക്ക് നേട്ടം നൽകുന്നു; അയാൾ ഒരിക്കലും ഫിൽട്ടർ ചെയ്ത ഒരു ഉപഭോക്തൃ ഉപകരണം ഉപയോഗിക്കാൻ പോകുന്നുമില്ലായിരുന്നു.
8. സ്വന്തം ബ്രാൻഡ്, ഉൽപ്പന്നം അല്ലെങ്കിൽ രൂപസാദൃശ്യത്തിന്റെ ചിത്രങ്ങൾ നിഷേധിക്കപ്പെടുന്ന അവകാശികൾ
പകർപ്പവകാശ, ട്രേഡ്മാർക്ക് ഫിൽട്ടറിംഗ് ഉടമസ്ഥാവകാശം പരിശോധിക്കുന്നില്ല; അത് സാമ്യമാണ് പരിശോധിക്കുന്നത്. ഒരു കമ്പനിക്ക് സ്വന്തം ലോഗോയുടെയോ ഉൽപ്പന്നത്തിന്റെയോ ചിത്രങ്ങൾ എളുപ്പത്തിൽ ഉണ്ടാക്കാനാവില്ല, ഒരു അവകാശിക്ക് സ്വന്തം കഥാപാത്രത്തെ ചിത്രീകരിക്കാനാവില്ല, ആളുകൾക്ക് പലപ്പോഴും സ്വന്തം മുഖം ഉണ്ടാക്കാനുമാവില്ല — കാരണം രൂപസാദൃശ്യ ഫിൽട്ടറുകൾ സമ്മതത്തിലല്ല, തിരിച്ചറിയാനാകുന്നതിലാണ് പ്രവർത്തിക്കുന്നത്. ഈ തെറ്റായ പോസിറ്റീവ് വളരെ സാധാരണമായതിനാൽ തന്നെയാണ് OVERT അതിന്റെ ഒൻപത് അമിത-നിരസന വിഭാഗങ്ങളിൽ "പകർപ്പവകാശ ലംഘനങ്ങൾ" ഉൾപ്പെടുത്തിയത്. ഇതിന് നിങ്ങൾക്ക് അവകാശമുണ്ടോ? എന്ന ചോദ്യത്തിന് — ചോദിക്കാൻ ഒരു വഴിയുമില്ലാത്ത ഒരു ചോദ്യത്തിന് — ഫിൽട്ടർ ഒരു മൂർച്ചയില്ലാത്ത ഉപകരണമാണ്.
മുകളിലെ എട്ടിൽ നാലെണ്ണം പ്രത്യേകം പ്രസിദ്ധീകരിച്ച ഒരു സംഭവവുമായി ബന്ധിപ്പിച്ചിരിക്കുന്നു (മെഡിക്കൽ, കലാ നഗ്നചിത്രങ്ങൾ, ചരിത്രം, ആക്ഷേപഹാസ്യം), എട്ടാമത്തേതിന് OVERT-ന്റെ പകർപ്പവകാശ വിഭാഗവും. ഫോറൻസിക്സ്, കഥാസാഹിത്യ പ്രീ-വിഷ്വലൈസേഷൻ, സുരക്ഷാ-ബോധവൽക്കരണ സാമഗ്രികൾ എന്നിവ വിഭാഗങ്ങളായി മാത്രം പറഞ്ഞിരിക്കുന്നു: ഇവ ബാധിക്കപ്പെട്ട പ്രൊഫഷണൽ ജോലിയുടെ അറിയപ്പെടുന്ന വിഭാഗങ്ങളാണ്, എന്നാൽ പ്രത്യേകം പ്രസിദ്ധീകരിച്ച ഒരു സംഭവം ഞങ്ങൾ സ്ഥിരീകരിച്ചിട്ടില്ല.
മുകളിൽ രേഖപ്പെടുത്തിയ എല്ലാ സംഭവങ്ങളും പൊതുവായതും സ്വതന്ത്രമായി പരിശോധിക്കാവുന്നതുമാണ്. ഞങ്ങളുടെ വിവരണം വിശ്വസിക്കുന്നതിനു പകരം അവ വായിക്കുക.
05AI ആർട്ട് ജനറേറ്ററുകൾ തെറ്റായ കാര്യങ്ങൾ തടയുന്നത് എന്തുകൊണ്ട്, ഉള്ളടക്ക ഫിൽട്ടറിന്റെ തെറ്റായ പോസിറ്റീവുകൾ ട്യൂൺ ചെയ്ത് ഒഴിവാക്കാനാവാത്തത് എന്തുകൊണ്ട്
അമിതമായി തടയുന്നതിനോടുള്ള സഹജമായ പ്രതികരണം "പരിധി അയവുള്ളതാക്കൂ" എന്നതാണ്. അത് പ്രവർത്തിക്കില്ല — പരിശ്രമക്കുറവ് കൊണ്ടല്ല, ഘടനാപരമായ കാരണങ്ങളാലാണ്.
വിഭാഗങ്ങൾ സിഗ്നലിൽ പരസ്പരം കൂടിക്കലരുന്നു, യാഥാർത്ഥ്യത്തിലല്ല. ഒരു ശസ്ത്രക്രിയാ ചിത്രീകരണവും അശ്ലീലവും നഗ്നത പങ്കിടുന്നു. ഒരു ഫോറൻസിക് പുനർനിർമ്മാണവും ഭീകരദൃശ്യവും രക്തം പങ്കിടുന്നു. ഒരു ബോധവൽക്കരണ സ്ലൈഡും ഒരു ഫിഷിംഗ് കിറ്റും വ്യാജ ലോഗിൻ ഫോം പങ്കിടുന്നു. ഒരു ആക്ഷേപഹാസ്യ കാർട്ടൂണും അപകീർത്തികരമായ കെട്ടിച്ചമയ്ക്കലും തിരിച്ചറിയാവുന്ന ഒരു രാഷ്ട്രീയക്കാരനെ പങ്കിടുന്നു. ഓരോ ജോഡിയെയും വേർതിരിക്കുന്നത് ഉദ്ദേശ്യവും അവതരണവുമാണ് — അത് പ്രോംപ്റ്റിലില്ല, പിക്സലുകളിലുമില്ല. ഇൻപുട്ട് സ്പേസിന്റെ ഒരേ പ്രദേശത്ത് കിടക്കുന്ന രണ്ട് സമൂഹങ്ങളെ ഒരു പരിധിക്കും വേർതിരിക്കാനാവില്ല; അത് നീക്കുന്നത് ഒരു പിശകിന് പകരം മറ്റൊന്ന് വാങ്ങുക മാത്രമാണ് ചെയ്യുന്നത്. Gemini സംഭവം കാണിച്ചതും അതാണ്: ഒരു പരാജയം പരിഹരിക്കാൻ ഉദ്ദേശിച്ച ഇടപെടൽ മറ്റൊന്ന് ഉണ്ടാക്കി, Google-ന്റെ സ്വന്തം SVP അതിനെ "അമിതമായി നികത്തി" എന്ന് വിശേഷിപ്പിച്ചു.
ചെലവുകൾ ഓപ്പറേറ്ററെ സംബന്ധിച്ച് അസന്തുലിതമാണ്, നിങ്ങളെ സംബന്ധിച്ചല്ല. ഒരു മോശം ചിത്രം കടത്തിവിടുന്ന ഒരു ഫിൽട്ടർ ഒരു വാർത്തയുണ്ടാക്കുന്നു. പതിനായിരം നിയമാനുസൃത ചിത്രങ്ങൾ തടയുന്ന ഒരു ഫിൽട്ടർ നിശ്ശബ്ദതയുണ്ടാക്കുന്നു, കാരണം നിരസിക്കപ്പെട്ട ഉപയോക്താക്കൾ സംഘടിക്കുന്നില്ല — അവർ ഉപേക്ഷിക്കുന്നു. ആ അസന്തുലിതത്വത്തിൽ അപകടസാധ്യതാ നിർവഹണം സ്ഥിരമായി അമിത തടയലിലേക്ക് ഒതുങ്ങുന്നു. അടിസ്ഥാന വിലയിരുത്തൽ അസാധ്യമായതിനാൽ, സംഭവങ്ങൾ നടക്കുന്നതിനനുസരിച്ച് ബ്ലോക്ക്‌ലിസ്റ്റുകളിൽ അക്ഷരാർത്ഥ പദങ്ങൾ അടിഞ്ഞുകൂടുന്നു — അങ്ങനെയാണ് "stethoscope" ശരിയും "speculum" നിരോധിതവുമാകുന്നത്. സ്ത്രീ-നിർദ്ദിഷ്ട ഉപകരണങ്ങൾ കൂടുതൽ അപകടകരമാണെന്ന് ആരും തീരുമാനിച്ചില്ല; പരാതികൾ വന്നിടത്താണ് പട്ടിക വളർന്നത്. അത് ഒരു ദോഷ സിദ്ധാന്തമല്ല, ഒരു ഓപ്പറേറ്ററുടെ PR ചരിത്രമാണ് രേഖപ്പെടുത്തുന്നത്.
ഏറ്റവും കർശനമായ അധികാരപരിധി ആഗോള സ്ഥിരസ്ഥിതിയായി മാറുന്നു. ഒരൊറ്റ ഫിൽട്ടർ എല്ലാ രാജ്യത്തെയും എല്ലാ ഉപയോക്താവിനെയും സേവിക്കുന്നു, അതിനാൽ ഒരു വിപണിക്കായി ചേർത്ത ഒരു നിയന്ത്രണം എല്ലാവരിലേക്കും കയറ്റുമതി ചെയ്യപ്പെടുന്നു — Xi Jinping നിയമമാണ് പാഠപുസ്തക ഉദാഹരണം. ഒപ്പം നിങ്ങളുടെ പ്രോംപ്റ്റ് മാറ്റിയെഴുതുന്നത് നിങ്ങളുടെ അർത്ഥത്തെ നശിപ്പിക്കുന്നു — അതാണ് OVERT-ന്റെ പരീക്ഷണ നിഗമനം: ഒരു ഫിൽട്ടർ കടക്കാൻ ഒരു അഭ്യർത്ഥനയെ ഭംഗിവാക്കാക്കി മാറ്റിയ എല്ലാ പ്രൊഫഷണലും അത് സ്വന്തം കൈകൊണ്ട് സ്ഥിരീകരിച്ചിട്ടുണ്ട്. നിങ്ങൾ ജയിച്ചില്ല; നിങ്ങൾ ഒത്തുതീർപ്പാക്കി.
ഇതൊന്നും സൗജന്യമല്ല, അത് നിശ്ശബ്ദമായി പരാജയപ്പെടുന്നതിനാൽ ഒരു ഓപ്പറേറ്റർ നോക്കുന്ന അളവുകളിൽ ഈ ചെലവ് അദൃശ്യമാണ്. മതിയായത്ര നിരസനങ്ങൾക്ക് ശേഷം നിങ്ങൾ ചോദിക്കുന്നത് നിർത്തുന്നു, കടന്നുപോകുമെന്ന് പ്രതീക്ഷിക്കുന്നതിലേക്ക് എല്ലാ പ്രോംപ്റ്റും മുൻകൂട്ടി ചുരുക്കുന്നു; ഒടുവിൽ കടന്നുപോകുന്ന ആ ഭംഗിവാക്ക് നിങ്ങളുടെ രേഖയ്ക്ക് വേണ്ടിയിരുന്നതിനോട് അടുത്ത, പക്ഷേ അതല്ലാത്ത, ഒരു ചിത്രം നൽകുന്നു. ഏത് പാളിയാണ് പ്രവർത്തിച്ചതെന്ന് ഒരു പൊതുവായ നയ സന്ദേശം പറയുന്നില്ല, അതിനാൽ നിങ്ങൾക്ക് ഊഹിച്ച് വീണ്ടും ശ്രമിക്കാനേ കഴിയൂ — ഇമേജ് ജോലി ആവർത്തനാത്മകമായതിനാൽ, അഞ്ചിൽ ഒരു ശ്രമം പിടിക്കുന്ന ഒരു ഫിൽട്ടർ പ്രവർത്തനത്തെ വെറുതെ മന്ദഗതിയിലാക്കുകയല്ല, ആ ചക്രത്തെ തകർക്കുകയാണ് ചെയ്യുന്നത്. അതേസമയം, ഗൗരവമുള്ള ഉപകരണങ്ങൾക്ക് ഏറ്റവും ശക്തമായ അവകാശവാദമുള്ള മേഖലകൾക്ക് ഒരു അവലോകകനുമില്ല, അപ്പീലുമില്ല, എന്താണ് തടയപ്പെട്ടതെന്ന പ്രസിദ്ധീകരിച്ച പട്ടികയും സാധാരണയായി ഇല്ല. വായിക്കാനാവാത്ത ഒരു നിയമം നിയമമല്ല; അത് കാലാവസ്ഥയാണ്.
06സെൻസർ ചെയ്യാത്തത് vs ഫിൽട്ടർ ചെയ്ത AI ഇമേജ് ജനറേറ്റർ: യഥാർത്ഥത്തിൽ മാറുന്നത് എന്ത്
ഫിൽട്ടറില്ലാത്ത ഒരു സംവിധാനം നിങ്ങൾക്ക് നൽകാത്തത് എന്തെന്നത് ഉൾപ്പെടെ, താരതമ്യത്തിന്റെ സത്യസന്ധമായ പതിപ്പ് ഇതാ.
| മാനം | ഫിൽട്ടർ ചെയ്ത ജനറേറ്റർ | ഫിൽട്ടറില്ലാത്തത് (Shannon) |
|---|---|---|
| തീരുമാനിക്കുന്നത് | വാക്കുകളും പിക്സലുകളും വായിക്കുന്ന ഒരു ക്ലാസിഫയർ | കൃത്യമായ പ്രോംപ്റ്റ് വായിക്കുന്ന ഒരു വ്യക്തി |
| നിങ്ങൾ അറിയുന്നത് എപ്പോൾ | സമർപ്പിച്ചതിന് ശേഷം — ചിലപ്പോൾ പണം നൽകിയ ശേഷം | ഒന്നും റെൻഡർ ചെയ്യുകയോ ബില്ല് ചെയ്യുകയോ ചെയ്യും മുമ്പ് |
| നിയമം എന്താണ് | പ്രസിദ്ധീകരിക്കാത്ത, മാറിക്കൊണ്ടിരിക്കുന്ന ബ്ലോക്ക്‌ലിസ്റ്റുകൾ | പ്രസിദ്ധീകരിച്ച ഒരു ഉത്തരവാദിത്ത ഉപയോഗ നയം |
| പ്രൊഫഷണൽ സന്ദർഭം | സംവിധാനത്തിന് അദൃശ്യം | നിങ്ങൾ വഹിക്കേണ്ടത്, നിങ്ങൾ ഉത്തരം പറയേണ്ടത് |
| പരാജയരീതി | നിശ്ശബ്ദമായ അമിത തടയൽ, അർത്ഥം വഴുതിപ്പോകൽ | നിങ്ങൾ ചോദിച്ചത് കിട്ടുന്നു — തെറ്റുകൾ ഉൾപ്പെടെ |
| അപകടസാധ്യത വഹിക്കുന്നത് | വിൽപ്പനക്കാരൻ, അത് നിങ്ങളുടെ ജോലിയിലേക്ക് തള്ളിവിടുന്നു | പങ്കിട്ടത്: ഓപ്പറേറ്റർ നയവും ഉപയോക്തൃ ഉത്തരവാദിത്തവും |
അവസാന വരിയാണ് ആളുകൾ ഒഴിവാക്കുന്നത്, അതാണ് പ്രധാനവും. ഒരു ഫിൽട്ടർ നീക്കുന്നത് 02-ാം വിഭാഗത്തിലെ ദോഷ വിഭാഗങ്ങൾ നീക്കുന്നില്ല; അവയെക്കുറിച്ച് മോശമായി ഊഹിച്ചുകൊണ്ടിരുന്ന യന്ത്രത്തെയാണ് അത് നീക്കുന്നത്. ബാധ്യത എവിടെയായിരുന്നോ അവിടെത്തന്നെ നിലനിൽക്കുന്നു, ഇപ്പോൾ അത് വഹിക്കുന്നത് സന്ദർഭത്തെക്കുറിച്ച് ചിന്തിക്കാൻ കഴിയുന്ന രണ്ട് കക്ഷികളാണ്: ഒരു നയം പ്രസിദ്ധീകരിക്കുകയും നടപ്പാക്കുകയും ചെയ്യുന്ന ഓപ്പറേറ്റർ, ചിത്രം എന്തിനാണെന്ന് അറിയുന്ന നിങ്ങൾ. ഫിൽട്ടറില്ലാത്ത AI ഇമേജ് നിർമ്മാണം എന്നത് സ്വന്തം ഔട്ട്പുട്ടിന് പിന്നിൽ നിൽക്കാൻ ഇതിനകം തയ്യാറായവർക്കുള്ള ഒരു ഉപകരണമാണ് — ശസ്ത്രക്രിയാ അറ്റ്ലസ്, വിദഗ്ധ റിപ്പോർട്ട്, സ്റ്റോറിബോർഡ്, കാർട്ടൂൺ — അവരെ മറ്റാരിൽ നിന്നും വേർതിരിക്കാനാവാത്ത ഒരു സംവിധാനം തടഞ്ഞുനിർത്തുകയായിരുന്നു.
07Shannon ചെയ്യുന്നത് — ചെയ്യാത്തതും
ഇവിടെ ആവേശത്തെക്കാൾ പ്രധാനം കൃത്യതയാണ്, പ്രത്യേകിച്ച് ഒരു API തിരച്ചിലിൽ നിന്ന് എത്തുന്ന വായനക്കാർക്ക്.
അത് ചെയ്യുന്നത്
- ജനറേഷൻ. ഏത് ഭാഷയിലും സാധാരണ വാക്കുകളിൽ ഒരു ചിത്രം വിവരിക്കുക. നിങ്ങൾ ഏത് ഭാഷയിൽ ചോദിച്ചാലും ജനറേഷൻ പ്രോംപ്റ്റ് Shannon തന്നെ ഇംഗ്ലീഷിൽ എഴുതുന്നു.
- ഒരു ചിത്രം എഡിറ്റ് ചെയ്യൽ. കൃത്യമായി ഒരു സ്രോതസ്സ് — സംഭാഷണത്തിൽ ഇതിനകമുള്ള ഒരു ചിത്രം, അല്ലെങ്കിൽ നിങ്ങളുടെ നിലവിലെ സന്ദേശത്തോട് ചേർത്തത് — എന്ത് മാറുന്നു, എന്ത് അതേപടി നിൽക്കുന്നു എന്ന് പറയുന്ന ഒരു നിർദ്ദേശം കൊണ്ട് മാറ്റപ്പെടുന്നു. ഔട്ട്പുട്ട് സ്രോതസ്സിന്റെ വീക്ഷണാനുപാതം സ്വയമേവ നിലനിർത്തുന്നു.
- രണ്ടോ അതിലധികമോ ചിത്രങ്ങൾ യോജിപ്പിക്കൽ. വസ്ത്ര കൈമാറ്റം, വസ്തുവിനെ രംഗത്തിലേക്ക്, വ്യക്തിയോടൊപ്പം വ്യക്തി, ഉൽപ്പന്നം വ്യക്തിയിൽ, ഒരു ചിത്രത്തിലെ വിഷയവും മറ്റൊന്നിലെ ശൈലിയും. പ്രോംപ്റ്റ് ഓരോ ചിത്രത്തിന്റെയും പങ്ക് ക്രമത്തിൽ പേരെടുത്ത് പറയുന്നു, യഥാർത്ഥ ചിത്രങ്ങൾ തന്നെ ഉപയോഗിക്കുന്നു, അതിനാൽ അവയുടെ യഥാർത്ഥ രൂപം വീണ്ടും വിവരിക്കപ്പെടുന്നതിന് പകരം നിലനിർത്തപ്പെടുന്നു.
- വീക്ഷണാനുപാത നിയന്ത്രണം. square (സ്ഥിരസ്ഥിതി), portrait, landscape, wide, tall. വ്യക്തമായ ഒരു അഭ്യർത്ഥന എപ്പോഴും ജയിക്കുന്നു.
- ഞങ്ങളുടെ സ്വന്തം GPU ക്ലസ്റ്ററിലെ റെൻഡറിംഗ്, ജനറേഷൻ പാതയിൽ ഉള്ളടക്ക ഫിൽട്ടറില്ലാതെ, പ്രോംപ്റ്റ് എഴുതുന്ന മോഡലിൽ നിരസന പാളിയില്ലാതെ.
അത് ചെയ്യാത്തത്
- വീഡിയോ ഇല്ല. Shannon ചിത്രങ്ങളെ ആനിമേറ്റ് ചെയ്യുന്നില്ല, വീഡിയോ ഉണ്ടാക്കുന്നുമില്ല. മറച്ചുവയ്ക്കുന്ന ഒരു റോഡ്മാപ്പ് ഇനമല്ല — അത് നിലവിലില്ല.
- API-യിലില്ല. ഇമേജ് നിർമ്മാണം, എഡിറ്റിംഗ്, യോജിപ്പിക്കൽ എന്നിവ Shannon ചാറ്റ് ആപ്പിലാണുള്ളത്. /v1 API ടെക്സ്റ്റും വിഷനും നൽകുന്നു — നിങ്ങൾ അയയ്ക്കുന്ന ചിത്രങ്ങൾ അതിന് വായിക്കാനാകും — പക്ഷേ അത് അവ റെൻഡർ ചെയ്യുന്നില്ല.
- ക്ഷണിക്കപ്പെടാത്ത ജനറേഷൻ ഇല്ല. ഒരു അഭിവാദ്യമോ ചോദ്യമോ ചുമ്മാ ചേർത്ത ഒരു ഫോട്ടോയോ ഒരു ചിത്രം ഉണ്ടാക്കാൻ കാരണമാകുന്നില്ല. ഒരു ചിത്രം നോക്കാൻ Shannon-നോട് പറയുന്നത് — വിവരിക്കാൻ, വായിക്കാൻ, വിശകലനം ചെയ്യാൻ — സാധാരണ വിഷൻ ജോലിയാണ്, ജനറേഷനല്ല, അതിന് അധിക ചെലവുമില്ല.
സ്ഥിരീകരണ കാർഡ്
ഫിൽട്ടറിന് പകരം വരുന്ന സംവിധാനമാണ് ഇത്, ഇതൊരു ഔപചാരികതയല്ല, ഒരു രൂപകൽപ്പനാ തീരുമാനമാണ്. നിങ്ങൾ ഒരു ചിത്രം ചോദിക്കുകയാണെന്ന് Shannon തീരുമാനിക്കുമ്പോൾ, അത് ജനറേഷൻ പ്രോംപ്റ്റ് എഴുതി ഒന്നും റെൻഡർ ചെയ്യും മുമ്പ് ഒരു സ്ഥിരീകരണ കാർഡിൽ നിങ്ങൾക്ക് കാണിക്കുന്നു. നിങ്ങൾ സ്ഥിരീകരിക്കും വരെ ഒന്നും ഉണ്ടാക്കപ്പെടുന്നില്ല, ഒന്നും ബില്ല് ചെയ്യപ്പെടുന്നുമില്ല.
ഈ രൂപകൽപ്പനകളെ അവയുടെ ഗുണത്തിന്റെ അടിസ്ഥാനത്തിൽ താരതമ്യം ചെയ്യുക. ഒരു ഫിൽട്ടർ നിങ്ങളുടെ ഉദ്ദേശ്യത്തെക്കുറിച്ച് നിങ്ങളെക്കാൾ കുറഞ്ഞ വിവരവുമായി ഊഹിക്കുകയും ആ ഊഹം നിശ്ശബ്ദമായി നടപ്പാക്കുകയും ചെയ്യുന്നു. ഒരു സ്ഥിരീകരണ കാർഡ് ചിത്രത്തിന്റെ അക്ഷരാർത്ഥ വിവരണം, ഏതെങ്കിലും കമ്പ്യൂട്ട് ചെലവാക്കും മുമ്പ്, അത് എന്തിനാണെന്ന് അറിയുന്ന കക്ഷിയുടെ മുന്നിൽ വയ്ക്കുന്നു. അത് നിങ്ങളുടെ അഭ്യർത്ഥനയുടെ തെറ്റായ വായനകൾ പിടിക്കുന്നു — ഫിൽട്ടറുകൾ ഒരിക്കലും അത് ചെയ്യുന്നില്ല; മോഡൽ വേണ്ടത്ര വ്യക്തമാക്കാത്ത ശരീരഘടനാ കൃത്യതയോ ചരിത്ര വിശദാംശമോ ചേർക്കാൻ അത് നിങ്ങളെ അനുവദിക്കുന്നു; ഉത്തരവാദിത്തം ചിതറിപ്പോകുന്നതിന് പകരം വ്യക്തമാക്കുന്നു. നിങ്ങൾ പ്രോംപ്റ്റ് കണ്ടു, നിങ്ങൾ ബട്ടൺ അമർത്തി.
08ഫിൽട്ടറില്ലാത്ത ജനറേഷൻ ഉത്തരവാദിത്തം വർദ്ധിപ്പിക്കുന്നു, അത് നീക്കുന്നില്ല
ഇത് ഒരു ഫുട്ടറിലല്ല ഇവിടെയാണ് വരേണ്ടത്, കാരണം ഇത് വാദത്തിന്റെ പകുതിയാണ്. ഫിൽട്ടർ ചെയ്ത ഒരു ജനറേറ്റർ പാലിക്കാനാവാത്ത ഒരു വാഗ്ദാനം നൽകുന്നു: ദുരുപയോഗം നിങ്ങൾക്ക് വേണ്ടി ഉപകരണം തടയും എന്നത്. അത് രണ്ട് ദിശയിലും പരാജയപ്പെടുന്നു — അത് ശസ്ത്രക്രിയാ വിദഗ്ധനെ തടയുന്നു, ഒപ്പം ദൃഢനിശ്ചയമുള്ള ഒരു ദുഷ്പ്രവർത്തകനെ തടയുന്നുമില്ല; അയാൾക്ക് വേറെ വഴികളുണ്ട്, എപ്പോഴും ഉണ്ടായിരുന്നു. അത് വിശ്വസനീയമായി ചെയ്യുന്നത്, ഉത്തരവാദിത്തം മുകളിൽ യന്ത്രം കൈകാര്യം ചെയ്തു എന്ന് എല്ലാവരെയും തോന്നിപ്പിക്കുക എന്നതാണ്. ഫിൽട്ടർ നീക്കുന്നത് ആ കെട്ടുകഥ നീക്കുന്നു; ഒരു ചിത്രം നിലനിൽക്കണോ എന്ന ചോദ്യം ഉത്തരം പറയാൻ കഴിയുന്നവരിലേക്ക് തിരിച്ചെത്തുന്നു.
- Shannon Lab LLC-യുടെ ബാധ്യത. പ്രസിദ്ധീകരിക്കാത്ത ഒരു ബ്ലോക്ക്‌ലിസ്റ്റിനു പകരം നിരോധിത വിഭാഗങ്ങൾ പേരെടുത്തുപറയുന്ന, പ്രസിദ്ധീകരിച്ചതും നിർദ്ദിഷ്ടവുമായ ഒരു ഉത്തരവാദിത്ത ഉപയോഗ നയം — നിങ്ങൾക്ക് വായിക്കാനും ഉദ്ധരിക്കാനും ഞങ്ങളെ ബാധ്യസ്ഥരാക്കാനും കഴിയുന്ന നിയമങ്ങൾ.
- നിങ്ങളുടെ ബാധ്യത. ഉദ്ദേശ്യം, പ്രേക്ഷകർ, അധികാരപരിധി, ചിത്രീകരിക്കപ്പെടുന്ന എല്ലാവരുടെയും സമ്മത നില — ഇവയെല്ലാം നിങ്ങൾക്കറിയാം. ഉപകരണത്തിന് അറിയില്ല, ഒരു ക്ലാസിഫയറിനും ഒരിക്കലും അറിയാനാവില്ല. ആ അറിവ് അത് പ്രധാനമാകുന്ന നിമിഷത്തിൽ, അത് കൈവശമുള്ള കക്ഷിയാൽ പ്രയോഗിക്കപ്പെടാനാണ് സ്ഥിരീകരണ കാർഡ് നിലനിൽക്കുന്നത്.
- മാറാത്ത അതിർവര. "ഫിൽട്ടർ എന്നെ തടഞ്ഞില്ല" എന്നത് ഒരു മാധ്യമത്തിലും ഒരിക്കലും ഒരു പ്രതിരോധമായിരുന്നിട്ടില്ല. ഒരു ക്യാമറ നിരസിക്കുന്നില്ല, ഒരു പെൻസിൽ നിരസിക്കുന്നില്ല; നിയമവും പ്രൊഫഷണൽ ധാർമ്മികതയും ഭരിക്കുന്നത് ഉപയോഗത്തെയാണ്, ഉപകരണത്തെയല്ല. ഫിൽട്ടറില്ലാത്ത ഒരു ജനറേറ്റർ മറ്റെല്ലാ പ്രൊഫഷണൽ ഉപകരണവും പ്രവർത്തിക്കുന്ന സാധാരണ ക്രമീകരണം പുനഃസ്ഥാപിക്കുന്നു.
തുടങ്ങുന്നതിന് മുമ്പ് ഉത്തരവാദിത്ത ഉപയോഗ നയം വായിക്കുക. അത് ചെറുതും നിർദ്ദിഷ്ടവുമാണ്, ഈ ഉൽപ്പന്നത്തിന്റെ ബാക്കിയെല്ലാം ന്യായീകരിക്കാവുന്നതാക്കുന്ന ഭാഗവുമാണ്.
09പതിവ് ചോദ്യങ്ങൾ
വ്യക്തമായും നിയമാനുസൃതമായ ഒരു പ്രോംപ്റ്റ് ഒരു AI ഇമേജ് ജനറേറ്റർ എന്തുകൊണ്ട് നിരസിക്കുന്നു?
കാരണം മിക്ക ഫിൽട്ടറുകളും വിലയിരുത്തുന്നത് നിങ്ങളുടെ പ്രോംപ്റ്റിലെ വാക്കുകളാണ്, നിങ്ങളുടെ ഉദ്ദേശ്യമല്ല. നിങ്ങൾ ആരാണെന്നോ എന്തിനാണ് ചോദിക്കുന്നതെന്നോ അറിയാതെ ഒരു ക്ലാസിഫയർ മോഡലിന് മുന്നിൽ ഇരിക്കുന്നു; അതിനാൽ ഒരു മെഡിക്കൽ ചിത്രകാരനും ഒരു ഫോറൻസിക് വിശകലന വിദഗ്ധനും ദുരുദ്ദേശ്യമുള്ള ഒരാളും ഒരേ നാമപദം ടൈപ്പ് ചെയ്യുന്നു, മൂവരും ഒരേ നിരസനം നേരിടുന്നു. സ്റ്റെതസ്കോപ്പ് സാധാരണപോലെ പ്രവർത്തിച്ചപ്പോൾ സ്പെക്യുലം, പ്ലാസെന്റ, സെർവിക്സ് തുടങ്ങിയ ശരീരഘടനാ പദങ്ങൾ Midjourney നിരോധിച്ചതായി 2023 ഏപ്രിലിൽ The Intercept റിപ്പോർട്ട് ചെയ്തു.
AI ആർട്ട് ഉപകരണങ്ങളിലെ ഉള്ളടക്ക ഫിൽട്ടർ തെറ്റായ പോസിറ്റീവുകൾ അളക്കുന്ന ഗവേഷണം ഉണ്ടോ?
ഉണ്ട്. ടെക്സ്റ്റ്-ടു-ഇമേജ് മോഡലുകൾക്കായുള്ള ആദ്യത്തെ വലിയ തോതിലുള്ള അമിത-നിരസന ബെഞ്ച്മാർക്കാണ് OVERT (arXiv:2505.21347, ICML 2025): ഒൻപത് സുരക്ഷാ വിഭാഗങ്ങളിലായി ഹാനികരമെന്ന് തോന്നിക്കുന്നതും യഥാർത്ഥത്തിൽ നിരുപദ്രവകരവുമായ 4,600 പ്രോംപ്റ്റുകൾ, ഒപ്പം നിയന്ത്രണത്തിനായി യഥാർത്ഥത്തിൽ ഹാനികരമായ 1,785 പ്രോംപ്റ്റുകളും. മുൻനിര മോഡലുകളിലുടനീളം അമിത നിരസനം വ്യാപകമാണെന്ന് അതിന്റെ രചയിതാക്കൾ റിപ്പോർട്ട് ചെയ്യുന്നു. കലാപരമായ നഗ്നതയിൽ വിലയിരുത്തിയ മൂന്ന് NSFW ക്ലാസിഫയറുകളിൽ ലിംഗപരവും ശൈലീപരവുമായ പക്ഷപാതം ഒരു പ്രത്യേക ECCV 2024 പഠനം കണ്ടെത്തി.
ഒരു സെൻസർ ചെയ്യാത്ത AI ഇമേജ് ജനറേറ്റർ യഥാർത്ഥത്തിൽ എന്താണ് മാറ്റുന്നത്?
അത് ജനറേഷൻ പാതയിൽ നിന്ന് നിരസന പാളിയും ഉള്ളടക്ക ഫിൽട്ടറും നീക്കുന്നു, അതിനാൽ നിയമാനുസൃതമായ ഒരു അഭ്യർത്ഥന നിശ്ശബ്ദമായി ഒരു ആക്രമണമായി പുനർവർഗ്ഗീകരിക്കപ്പെടുന്നില്ല. അത് വിവേചനബുദ്ധി നീക്കുന്നില്ല — അതിനെ മാറ്റിസ്ഥാപിക്കുകയാണ് ചെയ്യുന്നത്. ഒന്നും റെൻഡർ ചെയ്യും മുമ്പ് കൃത്യമായ ജനറേഷൻ പ്രോംപ്റ്റ് ഒരു സ്ഥിരീകരണ കാർഡിൽ Shannon നിങ്ങൾക്ക് കാണിക്കുന്നു; അങ്ങനെ, എന്താണ് ഉണ്ടാകാൻ പോകുന്നതെന്ന് കാണാൻ കഴിയുന്ന ഒരു വ്യക്തിയാണ് ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിന് കീഴിൽ തീരുമാനമെടുക്കുന്നത്.
Shannon വീഡിയോ ഉണ്ടാക്കുമോ?
ഇല്ല. Shannon പുതിയ ചിത്രങ്ങൾ ഉണ്ടാക്കുന്നു, നിലവിലുള്ള ഒരു ചിത്രം എഡിറ്റ് ചെയ്യുന്നു, രണ്ടോ അതിലധികമോ ചിത്രങ്ങൾ ഒന്നാക്കി യോജിപ്പിക്കുന്നു. അത് ചിത്രങ്ങളെ ആനിമേറ്റ് ചെയ്യുന്നില്ല, ഒരു തരത്തിലുള്ള വീഡിയോയും ഉണ്ടാക്കുന്നില്ല.
Shannon API വഴി എനിക്ക് ചിത്രങ്ങൾ ഉണ്ടാക്കാമോ?
ഇല്ല. ഇമേജ് നിർമ്മാണം, എഡിറ്റിംഗ്, യോജിപ്പിക്കൽ എന്നിവ Shannon ചാറ്റ് ആപ്പിലാണുള്ളത്. /v1 API ടെക്സ്റ്റും വിഷനും നൽകുന്നു — നിങ്ങൾ നൽകുന്ന ചിത്രങ്ങൾ വായിക്കുകയും വിശകലനം ചെയ്യുകയും ചെയ്യുന്നു — ഇമേജ് നിർമ്മാണമല്ല.
ഫിൽട്ടറില്ലെങ്കിൽ, ദുരുപയോഗം തടയുന്നത് എന്താണ്?
ഒരു കീവേഡ് ബ്ലോക്ക്‌ലിസ്റ്റിനു പകരം നയവും ഉത്തരവാദിത്തവും ദൃശ്യമായ ഒരു തീരുമാന ഘട്ടവും. Shannon ഒരിക്കലും ക്ഷണിക്കപ്പെടാതെ ചിത്രം ഉണ്ടാക്കുന്നില്ല, റെൻഡർ ചെയ്യും മുമ്പ് പൂർണ്ണ പ്രോംപ്റ്റ് കാണിക്കുന്നു, നിങ്ങൾ സ്ഥിരീകരിക്കും വരെ ഒന്നും ബില്ല് ചെയ്യുന്നില്ല, ഒപ്പം പ്രായപൂർത്തിയാകാത്തവർ ഉൾപ്പെടുന്ന ലൈംഗിക ഉള്ളടക്കം, യഥാർത്ഥ വ്യക്തികളുടെ സമ്മതമില്ലാത്ത സ്വകാര്യ ചിത്രങ്ങൾ, ലക്ഷ്യമിട്ടുള്ള ഉപദ്രവം, തിരിച്ചറിയൽ അല്ലെങ്കിൽ സാമ്പത്തിക രേഖകളുടെ വ്യാജനിർമ്മാണം എന്നിവ നിരോധിക്കുന്ന പ്രസിദ്ധീകരിച്ച ഒരു ഉത്തരവാദിത്ത ഉപയോഗ നയത്തിന് കീഴിലാണ് പ്രവർത്തിക്കുന്നത്.
നിങ്ങൾക്ക് യഥാർത്ഥത്തിൽ വേണ്ട ചിത്രം ചോദിക്കൂ
ജനറേഷൻ, ഒറ്റ ചിത്രത്തിന്റെ എഡിറ്റിംഗ്, ഒന്നിലധികം ചിത്രങ്ങൾ യോജിപ്പിക്കൽ — എല്ലാം ചാറ്റ് ആപ്പിൽ; ഉള്ളടക്ക ഫിൽട്ടറില്ല, നിരസന പാളിയില്ല, ഒന്നും റെൻഡർ ചെയ്യും മുമ്പ് പ്രോംപ്റ്റ് സ്ക്രീനിൽ.
ചാറ്റ് തുടങ്ങുക ഉത്തരവാദിത്ത ഉപയോഗ നയംചിത്രങ്ങൾ ചാറ്റ് ആപ്പിൽ · വീഡിയോ നിർമ്മാണം ഇല്ല · കൂടുതൽ ഗവേഷണം
സ്രോതസ്സുകൾ: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023 ഏപ്രിൽ 22 · PetaPixel, 2023 ഏപ്രിൽ 3 · CNBC, 2024 ഫെബ്രുവരി 22. Shannon AI പ്രവർത്തിപ്പിക്കുന്നത് Shannon Lab LLC, ന്യൂ മെക്സിക്കോ, യുഎസ്എ.