సెన్సార్ లేని vs ఫిల్టర్ చేసిన AI చిత్ర జనరేటర్

వృత్తిపరంగా చిత్రాలతో పనిచేసే దాదాపు అందరికీ ఒకే కథ ఉంటుంది. మామూలు విషయాన్ని వర్ణించే ఒక ప్రాంప్ట్ — మోకాలి కీలు అడ్డుకోత, ఢీకొన్న క్షణంలో ఒక కారు, బొగ్గుతో గీసిన ఒక ఆకృతి అధ్యయనం, 1944లో ఒక సైనికుడు — విధాన ఉల్లంఘనగా తిరిగి వస్తుంది. మీరు మాట మారుస్తారు, వేరే ఉల్లంఘన వస్తుంది. చివరికి పాస్ అయ్యేంత అస్పష్టమైనది రాస్తారు, మీకు కావలసినది ఇక చూపని చిత్రం వస్తుంది. సాధనం పెద్దగా అరిచి విఫలం కాలేదు; అది కొంచెం కొంచెంగా విఫలమై, రాజీపడిన వ్యక్తిని మీరుగా చేసింది.

01స్పష్టంగా సక్రమమైన ప్రాంప్ట్‌ను AI చిత్ర జనరేటర్ ఎందుకు తిరస్కరిస్తుంది?

ఆ తిరస్కరణ సాధారణంగా చిత్ర మోడల్ అభిప్రాయం కాదు. అది మోడల్ చుట్టూ ఉన్న ఫిల్టరింగ్ పొరల ఫలితం, ఆ పొరలే మీరు అందుకున్న దాదాపు ప్రతి విచిత్రమైన తిరస్కరణను వివరిస్తాయి.

పొర	ఇది ఏమి పరిశీలిస్తుంది	విలక్షణమైన వైఫల్యం
ప్రాంప్ట్ నిషేధ జాబితా	మీ టెక్స్ట్‌లోని అక్షరాలా పదాలు, వాటి దగ్గరి రూపాలు	చుట్టూ ఉన్న వాక్యంతో సంబంధం లేకుండా ఒక పదాన్ని అడ్డుకుంటుంది — "speculum" విఫలం, "stethoscope" పాస్
ప్రాంప్ట్ వర్గీకరణి	ప్రాంప్ట్ "ప్రమాదం" గురించి నేర్చుకున్న తీర్పు	అంశ సామీప్యంపై మండుతుంది: వైద్యం, ఆయుధాలు, శరీరాలు, రాజకీయాల దగ్గరి ఏదైనా ఎక్కువ స్కోరు పొందుతుంది
మోడల్ తిరస్కరణ శిక్షణ	మోడల్‌కు శిక్షణ ఇచ్చిన సొంత అయిష్టత	లోపం చూపకుండా తిరస్కరిస్తుంది, లేదా నిశ్శబ్దంగా శుద్ధి చేసిన ప్రత్యామ్నాయాన్ని తయారు చేస్తుంది
ఫలిత వర్గీకరణి	రెండర్ అయిన పిక్సెల్‌లు, ప్రాంప్ట్ సందర్భం లేకుండా	శరీర నిర్మాణ పటాన్ని అశ్లీలత నుండి, లేదా సినిమా స్టిల్‌ను నిజ సంఘటన నుండి వేరు చేయలేదు
విధాన ప్రత్యామ్నాయం	రెండర్ ముందు మీ ప్రాంప్ట్‌ను నిశ్శబ్దంగా తిరిగి రాయడం	మీకు ఒక చిత్రం వస్తుంది, కానీ మీరు చెప్పినది కాదు, ఎందుకో మీకు చెప్పరు

ప్రతి పొరకూ ఒకే గుడ్డి మచ్చ ఉంది: మీరు ఎందుకు అడుగుతున్నారో ఏ పొరా చూడలేదు. ఒక వైద్య చిత్రకారుడు, ఒక ఢీకొనడాన్ని పునర్నిర్మించే వాది తరఫు నిపుణుడు, చెడు ఉద్దేశం ఉన్న ఒక వ్యక్తి — అందరూ ఒకే పదాన్ని టైప్ చేస్తారు. ఫిల్టర్‌కు ఆ పదం కనిపిస్తుంది, అట్లాస్ లేదా కేసు ఫైల్ కనిపించదు, అది అనుమతించిన హానులపై మాత్రమే మూల్యాంకనం అవుతుంది — అది నాశనం చేసిన పనిపై ఎప్పుడూ కాదు. ఆ అసమతుల్యత కింద ఏ ఆపరేటర్‌కైనా హేతుబద్ధమైన సెట్టింగ్ ఎక్కువగా తిరస్కరించు అనేదే. "వేరే మాటల్లో రాయండి" అనేది పరిష్కారం కాకపోవడానికి కూడా ఇదే కారణం: తిరిగి రాయడం ఫిల్టర్‌కు లేని సమాచారాన్ని ఇవ్వదు, అది మీ ప్రాంప్ట్‌ను దాన్ని మండించిన పదాల నుండి దూరం జరుపుతుంది, అంటే సాధారణంగా మీ ఉద్దేశం నుండి దూరం జరుపుతుంది.

02కంటెంట్ ఫిల్టర్‌లు నిజంగా దేన్ని నిరోధించడానికి ఉన్నాయి

ఫిల్టర్‌లు ఏ కారణం లేకుండా ఉన్నాయని నటించే ఫిల్టర్-రహిత సృష్టి వాదన చదవడానికి పనికిరాదు. ఎవరు అడిగారు, ఎందుకు అడిగారు అనే దానితో సంబంధం లేకుండా, హాని చిత్రంలోనే అంతర్గతంగా ఉండే ఫలితాల ఇరుకైన సమూహం ఒకటి ఉంది:

• మైనర్లతో కూడిన లైంగిక కంటెంట్. ఏ సందర్భమూ దీన్ని ఆమోదయోగ్యం చేయదు; ఏ వృత్తిపరమైన పనీ దీన్ని అవసరపెట్టదు.
• నిజమైన వ్యక్తుల సమ్మతి లేని సన్నిహిత చిత్రాలు. అంగీకరించని వ్యక్తిపై హాని పడుతుంది, తొలగింపు దాన్ని రద్దు చేయదు.
• లక్ష్యిత వేధింపులు, పరువు తీసే కల్పన — పేరున్న ఒక వ్యక్తి చేయని పనిని చేసినట్టు కనిపించేలా చేయడం.
• నకిలీ-స్థాయి పత్రాలు — నిజమైనవిగా చెల్లేలా తయారు చేసిన పాస్‌పోర్ట్‌లు, గుర్తింపు కార్డులు, నోట్లు, ముద్రలు, ఆర్థిక పత్రాలు.
• మోసపూరిత కృత్రిమ సాక్ష్యం — చిత్రీకరణగా కాక డాక్యుమెంటేషన్‌గా చూపిన నిజ సంఘటనల కల్పిత చిత్రాలు.

ఈ జాబితా చిన్నది, దానికి ఒక నిర్మాణం ఉంది: హాని ఆ వస్తువులోనే ఉంటుంది, నిజమైన వ్యక్తి లేదా పత్రంతో దాని పోలికలో ఉంటుంది, సత్యంగా దాన్ని ప్రదర్శించడంలో ఉంటుంది. ఇందులో లేనిది గమనించండి — నగ్నత్వం, రక్తం, ఆయుధాలు, చారిత్రక దురాగతం, రాజకీయ ఎగతాళి. అవి వైద్యం, పాత్రికేయం, కళ, ఫోరెన్సిక్స్, వ్యంగ్యానికి ముడి సరుకు, వాటిని హాని విభాగాలుగా చూసే ఫిల్టర్ ఏ అంశాలు గౌరవప్రదమో అనే చాలా విస్తృతమైన ఆలోచనను అమలు చేస్తోంది.

"placenta"ను కూడా పట్టుకునే కీవర్డ్ పట్టిక కాకుండా, పేరున్న విభాగాలు, పరిణామాలతో కూడిన ప్రచురిత బాధ్యతాయుత వినియోగ విధానంలో ఆ జాబితాలోని ప్రతిదాన్నీ Shannon నిషేధిస్తుంది. ఒకటి మీరు చదివి మమ్మల్ని జవాబుదారీగా ఉంచగల నియమం; రెండోది మీరు చూడలేని ఒక వర్గీకరణి మీ ఉద్దేశాల గురించి వేసే అంచనా.

03అతి-తిరస్కరణ సమస్య ఎంత పెద్దది? పరిశోధన ఏమి కొలుస్తుంది

ఇటీవలి వరకు చిత్ర మోడళ్లలో అతి-తిరస్కరణ ఒక కథనం మాత్రమే — ఒకే కథ ఉన్న వేలాది మంది, దాన్ని కొలిచే మార్గం లేదు. Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song, Song Mei తో కూడిన UC Berkeley బృందం ICML 2025లో సమర్పించిన OVERT (OVEr-Refusal evaluation on Text-to-image models) తో అది మారింది: పూర్తిగా హానిలేని ప్రాంప్ట్‌లను టెక్స్ట్-టు-ఇమేజ్ వ్యవస్థలు ఎంత తరచుగా తిరస్కరిస్తాయో కొలిచిన మొదటి పెద్ద-స్థాయి బెంచ్‌మార్క్.

రూపకల్పన ముఖ్యం. ఆ 4,600 ప్రాంప్ట్‌లు హానిలేనివిగా ఉంటూనే హానికరంగా కనిపించేలా నిర్మించబడ్డాయి — ఒక స్కాల్పెల్, ఒక గాయపు మచ్చ, ఒక నిరసన గురించి ప్రస్తావించే నిజమైన వృత్తిపరమైన అభ్యర్థన ఆకారం — నిజంగా హానికరమైన 1,785 ప్రాంప్ట్‌లు నియంత్రణగా వాటి పక్కనే ఉంటాయి, కాబట్టి అన్నిటినీ తిరస్కరించడం ద్వారా మోడల్ మంచి స్కోరు పొందలేదు. ఆ తొమ్మిది విభాగాలు వ్యక్తిగత, ప్రజా-వ్యక్తుల గోప్యత నుండి కాపీరైట్, వివక్ష, స్వీయ-హాని, లైంగిక కంటెంట్, చట్టవిరుద్ధ కార్యకలాపాల మీదుగా హింస వరకు విస్తరిస్తాయి.

ప్రధాన ఫలితం ఏమిటంటే అతి-తిరస్కరణ విభాగాల అంతటా, ప్రముఖ మోడళ్ల అంతటా విస్తృతంగా ఉంది. రెండోది ప్రామాణిక పరిష్కారానికి మరింత నష్టదాయకం: రచయితలు ఉపశమనంగా ప్రాంప్ట్ తిరిగి రాయడాన్ని పరీక్షించి, అది "తరచుగా అసలు ప్రాంప్ట్‌ల అర్థానికి విశ్వసనీయతను దెబ్బతీస్తుంది" అని నివేదిస్తారు. మీరు అడిగినదాన్ని మార్చి ఫిల్టర్‌ను దాటవచ్చు, అప్పుడు మీరు అడిగినది మీ దగ్గర ఇక ఉండదు.

మరో ఇరుకైన అధ్యయనం పిక్సెల్ వైపు నుండి అదే ముగింపుకు చేరుతుంది. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann, Oliver, ECCV 2024లో AI4VA వర్క్‌షాప్)లో రచయితలు కళాత్మక నగ్నత్వంపై మూడు ఉత్పత్తి NSFW వర్గీకరణులను మూల్యాంకనం చేసి లింగ పక్షపాతాన్ని, శైలీ పక్షపాతాన్ని రెండింటినీ బయటపెడతారు: ఒక ఆకృతి అధ్యయనంపై తీర్పు ఎవరి శరీరం చిత్రించబడిందో, ఏ శైలిలో ఉందో దాని మీద ఆధారపడి ఉంటుంది. ప్రతి జీవ-చిత్రలేఖన కళాకారుడికీ ఊహ మాత్రమేనని చెప్పిన విషయానికి ఇది కొలిచిన ప్రకటన.

04ఫిల్టర్ చేసిన జనరేటర్లు అడ్డుకునే ఎనిమిది రకాల సక్రమమైన పని

ఈ విభాగాల్లో అతి-తిరస్కరణ ఒక అసౌకర్యం కాదు, పని ఆగిపోవడం. నిర్దిష్టంగా నివేదించబడిన ఉదాహరణ ఉన్న చోట దాన్ని ఉటంకించాం; ఏదీ ధృవీకరించబడని చోట సంఘటనను కల్పించకుండా విభాగాన్ని వర్ణించాం.

1. వైద్య, శరీర నిర్మాణ చిత్రీకరణ

ఈ రంగంలో అత్యుత్తమంగా నమోదైన ఉదాహరణ. ఏప్రిల్ 2023లో The Intercept (Debbie Nathan) Midjourney speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom, IUD వంటి శరీర నిర్మాణ పదాలను నిషేధించిందని నివేదించింది, అదే సమయంలో DALL·E 2 "గర్భస్రావ మందుల్లో వాడే మాత్రలు" అనే దాన్ని కంటెంట్-పాలసీ సందేశంతో తిరస్కరించింది. కణ-జీవశాస్త్రవేత్త స్నేహితురాలికి బహుమతిగా placenta చిత్రాన్ని తయారు చేయడానికి ప్రయత్నించిన క్లినికల్ డేటా విశ్లేషకురాలు Julia Rockwell ఈ నమూనాను కనుగొని MIT Technology Reviewకు నివేదించారు. అసమతుల్యతే ఆధారం: "stethoscope" మామూలుగా తయారైంది, "speculum" నిషేధించబడింది. University of Washington పరిశోధకుడు Bill Howe ఈ ఫిల్టర్‌లను "మొద్దుబారినవి" అని పిలిచి, అవి "పునరుత్పత్తి గురించి శాస్త్రీయ చర్చ చేయడాన్ని ప్రాథమికంగా అసాధ్యం" చేశాయని అన్నారు. రోగుల విద్య, శస్త్రచికిత్స అట్లాస్‌లు, నర్సింగ్ పాఠ్యాంశాలు అన్నిటికీ శరీరాలను ఖచ్చితంగా చూపాల్సి ఉంటుంది, ఒక కీవర్డ్ జాబితా అసభ్యమని నిర్ణయించిన భాగాలతో సహా.

2. ఫోరెన్సిక్, ప్రమాద పునర్నిర్మాణం

ఢీకొన్న పునర్నిర్మాణం, అగ్ని-మూల విశ్లేషణ, న్యాయస్థాన ప్రదర్శనలకు నష్టం, గాయాలు, హింసాత్మక యాంత్రికతను వైద్య ఖచ్చితత్వంతో చూపాల్సి ఉంటుంది. "రక్తం" లేదా "తుపాకీ గాయం" తిరస్కరించేలా ట్యూన్ చేసిన ఫిల్టర్ ఆ శాస్త్రాన్నే తిరస్కరిస్తుంది: సందర్భం — ఒక నిపుణుడి నివేదిక, ఒక బీమా ఫైల్ — వర్గీకరణికి కనిపించదు, అలాంటి చిత్రాలను న్యాయస్థానంలో ఆమోదయోగ్యం చేసే తటస్థతే వాటిని బీభత్సంగా చదివేలా చేస్తుంది.

3. కళా నగ్న చిత్రాలు, జీవ చిత్రలేఖనం

నగ్న ఆకృతి ప్రపంచవ్యాప్తంగా కళకు మూలాధార అంశం, ఆకృతి అధ్యయనం కళా విద్యకు కేంద్రం. పైన చెప్పిన ECCV 2024 ఫలితం కళాకారులు చెప్పే విషయానికి కొలిచిన రూపం: వర్గీకరణులు ఒక ఆకృతి అధ్యయనాన్ని అశ్లీలత నుండి విశ్వసనీయంగా వేరు చేయవు, వాటి తప్పులు లింగం, శైలి ద్వారా పక్షపాతంతో ఉంటాయి — ఏ సంప్రదాయాన్ని గుర్తించాలో దాని మీదే ఫిల్టర్ అత్యంత కఠినంగా ఉంటుంది.

4. చారిత్రక, యుద్ధకాల చిత్రాలు

పాఠ్యపుస్తక కళ, మ్యూజియం వ్యాఖ్యానం, స్మారక ప్రాజెక్టులకు యూనిఫారాలు, ఆయుధాలు, శిబిరాలు, యుద్ధాలు, దురాగతాలను చూపాల్సి ఉంటుంది. ఫిబ్రవరి 2024 Gemini ఘటన బోధనాత్మకం, ఎందుకంటే వైఫల్యం వ్యతిరేక దిశలో నడిచి సమానమైన నష్టం చేసింది. నాజీ-కాలపు జర్మన్ సైనికులతో సహా చారిత్రక సమూహాల జాతిపరంగా మార్చిన చిత్రణలను Gemini తయారు చేసిన తర్వాత ఫిబ్రవరి 22, 2024న వ్యక్తుల చిత్రాలను సృష్టించే దాని సామర్థ్యాన్ని Google నిలిపివేసింది. CEO Sundar Pichai ఆ ఫలితాలను "పూర్తిగా ఆమోదయోగ్యం కానివి" అని పిలిచారు; SVP Prabhakar Raghavan మోడల్ "అతిగా పరిహారం చేసిందని", "అతి-సంప్రదాయవాదంగా" మారిందని అంగీకరించారు. సందర్భం చూడని భద్రత చారిత్రక చిత్రాలను సురక్షితం చేయలేదు — అది వాటిని అసత్యం చేసింది, చరిత్ర ప్రచురణకర్తకు అది మరింత చెడు.

5. కల్పనలో హింస, సినిమా ముందస్తు దృశ్యీకరణ

స్టోరీబోర్డులు, కాన్సెప్ట్ ఆర్ట్, కామిక్స్, గేమ్ డిజైన్ నవలలు, సినిమాలు చూపే అదే కారణంతో హింసను చూపుతాయి. ఒక భయానక స్టోరీబోర్డును ఒక బెదిరింపు నుండి వేరు చేయలేని ఫిల్టర్ మొత్తం కథన-కళల ప్రక్రియను అనుమానాస్పదంగా చూస్తుంది — అయినా స్టోరీబోర్డు స్పష్టంగా నిజం కానిది, నటులు, ఎఫెక్ట్స్ బృందాలు ప్రదర్శించబోయే ఒక సన్నివేశ ప్రణాళిక.

6. రాజకీయ వ్యంగ్యం, సంపాదకీయ కార్టూన్లు

అధికారంలో ఉన్నవారి వ్యంగ్య చిత్రణ చాలా ప్రజాస్వామ్యాల్లో అత్యంత రక్షిత భావప్రకటన విభాగాల్లో ఒకటి, చిత్ర ఫిల్టర్ తొలగించే మొదటి విషయం కూడా అదే. అత్యంత స్పష్టంగా నమోదైన ఉదాహరణ ఏప్రిల్ 2023లో చైనా అధ్యక్షుడు Xi Jinping చిత్రాలను నిషేధించి, ప్రాంప్ట్‌లలో ఆయన పేరును అడ్డుకోవాలన్న Midjourney నిర్ణయం — PetaPixel, Decrypt ఇతరులు నివేదించారు — అదే సమయంలో ఇతర ప్రపంచ నాయకులను అనుమతిస్తూనే ఉంది. కంపెనీ "నాటకాన్ని తగ్గించాలని" కోరుకుందని, "చైనాలోని ప్రజలు ఈ సాంకేతికతను వాడగల సామర్థ్యం మీరు వ్యంగ్యం సృష్టించగల సామర్థ్యం కంటే ముఖ్యమని" వ్యవస్థాపకుడు David Holz Discordలో వివరించారు; Foundation for Individual Rights and Expression కు చెందిన Sarah McLaughlin దీన్ని సెన్సార్‌షిప్ అని పిలిచారు. వ్యాపార లెక్క గురించి ఎవరు ఏమి నిర్ణయించినా, ఆ యంత్రాంగానికి పేరు పెట్టాలి: ఒక జాతీయ భావప్రకటనా పరిమితి ప్రపంచవ్యాప్తంగా ప్రతి వినియోగదారుడికీ వర్తింపజేయబడింది, ఎందుకంటే ప్రపంచ ఫిల్టర్‌కు ఒకే సెట్టింగ్ ఉంటుంది.

7. భద్రతా పరిశోధన, ఫిషింగ్-అవగాహన సామగ్రి

భద్రతా బృందాలు తాము హెచ్చరిస్తున్న దానిలాగే కనిపించాల్సిన శిక్షణ సామగ్రిని తయారు చేస్తాయి: నమ్మశక్యమైన నకిలీ లాగిన్ స్క్రీన్, స్పూఫ్ చేసిన ఇన్‌వాయిస్, పార్కింగ్ మీటర్‌పై హానికర QR కోడ్. ఒక వర్గీకరణికి అది తాను నివారించాలనుకుంటున్న దాడి నుండి వేరు కాదు — నిజంలా కనిపించడమే లక్ష్యం — కాబట్టి ఫిల్టర్‌లు రక్షణను, దాడిని ఒకేలా అడ్డుకుని దాడిదారుడికి లాభం చేకూరుస్తాయి, అతను ఎలాగూ ఫిల్టర్ చేసిన వినియోగదారు సాధనాన్ని వాడబోడు.

8. సొంత బ్రాండ్, ఉత్పత్తి లేదా పోలిక చిత్రాలు తిరస్కరించబడే హక్కుదారులు

కాపీరైట్, ట్రేడ్‌మార్క్ ఫిల్టరింగ్ యాజమాన్యాన్ని తనిఖీ చేయదు; పోలికను తనిఖీ చేస్తుంది. ఒక కంపెనీ తన సొంత లోగో లేదా ఉత్పత్తి చిత్రాలను సులభంగా తయారు చేయలేదు, ఒక హక్కుదారు తన సొంత పాత్రను చిత్రించలేడు, ప్రజలు తరచుగా తమ సొంత ముఖాన్నే తయారు చేయలేరు, ఎందుకంటే పోలిక ఫిల్టర్‌లు సమ్మతిపై కాక గుర్తుపట్టగలగడంపై ఆధారపడతాయి. ఈ తప్పుడు తిరస్కరణ ఎంత సాధారణమో అందుకే OVERT తన తొమ్మిది అతి-తిరస్కరణ విభాగాల్లో "కాపీరైట్ ఉల్లంఘనలు" చేర్చింది. ఫిల్టర్ ఒక ప్రశ్నకు మొద్దు సాధనం — దీనిపై మీకు హక్కు ఉందా? — దాన్ని అడిగే మార్గం దానికి లేదు.

పైన ఎనిమిదింటిలో నాలుగు నిర్దిష్టంగా ప్రచురితమైన ఉదాహరణకు (వైద్య, కళా నగ్నత్వం, చారిత్రక, వ్యంగ్యం) ముడిపడి ఉన్నాయి, ఎనిమిదవదానికి OVERT కాపీరైట్ విభాగం. ఫోరెన్సిక్స్, కల్పన ముందస్తు దృశ్యీకరణ, భద్రతా-అవగాహన సామగ్రి విభాగాలుగా చెప్పబడ్డాయి: అవి ప్రభావితమైన వృత్తిపరమైన పనికి బాగా తెలిసిన తరగతులు, వాటికి నిర్దిష్టంగా ప్రచురితమైన సంఘటనను మేము ధృవీకరించలేదు.

05AI ఆర్ట్ జనరేటర్లు తప్పు వాటిని ఎందుకు అడ్డుకుంటాయి, కంటెంట్ ఫిల్టర్ తప్పుడు తిరస్కరణలను ట్యూనింగ్‌తో ఎందుకు తీసేయలేరు

అతిగా అడ్డుకోవడానికి సహజ స్పందన "పరిమితిని సడలించండి". ప్రయత్న లోపం వల్ల కాక, నిర్మాణపరమైన కారణాల వల్ల అది పనిచేయదు.

ఈ విభాగాలు సంకేతంలో అతివ్యాప్తి చెందుతాయి, వాస్తవంలో కాదు. ఒక శస్త్రచికిత్స చిత్రీకరణ, అశ్లీలత నగ్నత్వాన్ని పంచుకుంటాయి. ఒక ఫోరెన్సిక్ పునర్నిర్మాణం, బీభత్సం రక్తాన్ని పంచుకుంటాయి. ఒక అవగాహన స్లయిడ్, ఒక ఫిషింగ్ కిట్ నకిలీ లాగిన్ ఫారాన్ని పంచుకుంటాయి. ఒక వ్యంగ్య కార్టూన్, ఒక పరువు తీసే కల్పన గుర్తుపట్టగల ఒక రాజకీయ నాయకుడిని పంచుకుంటాయి. ప్రతి జతనూ వేరు చేసేది ఉద్దేశం, ప్రదర్శన — ప్రాంప్ట్‌లో లేనివి, పిక్సెల్‌లలో లేనివి. ఇన్‌పుట్ స్థలంలో ఒకే ప్రాంతాన్ని ఆక్రమించే రెండు సమూహాలను ఏ పరిమితీ వేరు చేయదు; దాన్ని కదిలిస్తే ఒక తప్పు స్థానంలో మరో తప్పు వస్తుంది. Gemini ఘటన చూపినది అదే: ఒక వైఫల్యాన్ని సరిచేయడానికి ఉద్దేశించిన జోక్యం మరొకదాన్ని తయారు చేసింది, దాన్ని Google సొంత SVP "అతిగా పరిహారం చేసింది" అని వర్ణించారు.

ఖర్చులు ఆపరేటర్‌కు అసమానంగా ఉంటాయి, మీకు కాదు. ఒక చెడు చిత్రాన్ని వెళ్లనిచ్చే ఫిల్టర్ ఒక వార్తా కథనాన్ని తయారు చేస్తుంది. పదివేల సక్రమమైన వాటిని అడ్డుకునే ఫిల్టర్ నిశ్శబ్దాన్ని తయారు చేస్తుంది, ఎందుకంటే తిరస్కరించబడిన వినియోగదారులు సంఘటితం కారు — వారు వదిలేస్తారు. ఆ అసమతుల్యత కింద ప్రమాద నిర్వహణ శాశ్వతంగా అతిగా-అడ్డుకోవడం వైపు చేరుతుంది. మౌలిక తీర్పు అసాధ్యం కాబట్టి, సంఘటనలు జరిగినకొద్దీ నిషేధ జాబితాలు అక్షరాలా పదాలను పోగేసుకుంటాయి, అలాగే "stethoscope" సరే అయి "speculum" నిషేధమవుతుంది. స్త్రీ-నిర్దిష్ట పరికరాలు మరింత ప్రమాదకరమని ఎవరూ నిర్ణయించలేదు; ఫిర్యాదులు వచ్చిన చోట జాబితా పెరిగింది. అది ఒక ఆపరేటర్ PR చరిత్రను ఎన్‌కోడ్ చేస్తుంది, హాని సిద్ధాంతాన్ని కాదు.

అత్యంత కఠినమైన అధికార పరిధి ప్రపంచ డిఫాల్ట్ అవుతుంది. ఒకే ఫిల్టర్ ప్రతి దేశంలోని ప్రతి వినియోగదారుడికీ సేవ చేస్తుంది, కాబట్టి ఒక మార్కెట్ కోసం జోడించిన పరిమితి అందరికీ ఎగుమతి అవుతుంది — Xi Jinping నియమమే పాఠ్యపుస్తక ఉదాహరణ. అలాగే మీ ప్రాంప్ట్‌ను తిరిగి రాయడం మీ అర్థాన్ని నాశనం చేస్తుంది, అదే OVERT ప్రయోగాత్మక అంశం: ఫిల్టర్‌ను దాటడానికి తన అభ్యర్థనను మృదువైన మాటల్లోకి మార్చిన ప్రతి వృత్తినిపుణుడూ దాన్ని చేతితో ధృవీకరించారు. మీరు గెలవలేదు; మీరు రాజీపడ్డారు.

వీటిలో ఏదీ ఉచితం కాదు, అది నిశ్శబ్దంగా విఫలం అవుతుంది కాబట్టి ఆపరేటర్ చూసే కొలమానాల్లో ఈ ఖర్చు కనిపించదు. తగినన్ని తిరస్కరణల తర్వాత మీరు అడగడం మానేసి, పాస్ అవుతుందని మీరు ఊహించే దానికే ప్రతి ప్రాంప్ట్‌నూ ముందే కుదించుకుంటారు; చివరికి పాస్ అయ్యే మృదువైన మాట మీ పత్రానికి కావలసిన దానికి దగ్గరగా ఉన్న, కానీ అది కాని చిత్రాన్ని ఇస్తుంది. ఏ పొర మండిందో ఒక సాధారణ విధాన సందేశం మీకు చెప్పదు, కాబట్టి మీరు ఊహించి మళ్లీ ప్రయత్నించడమే చేయగలరు — చిత్ర పని పునరావృతమైనది, కాబట్టి ఐదు ప్రయత్నాల్లో ఒకదాన్ని పట్టుకునే ఫిల్టర్ దాన్ని నెమ్మదించడం కాక ఆ చక్రాన్నే భగ్నం చేస్తుంది. ఇంతలో తీవ్రమైన సాధనాలకు అత్యంత బలమైన హక్కు ఉన్న రంగాలకు సమీక్షకుడు లేడు, అప్పీలు లేదు, సాధారణంగా ఏమి అడ్డుకుంటున్నారో ప్రచురిత జాబితా కూడా లేదు. మీరు చదవలేని నియమం నియమం కాదు; అది వాతావరణం.

06సెన్సార్ లేని vs ఫిల్టర్ చేసిన AI చిత్ర జనరేటర్: నిజంగా ఏమి మారుతుంది

ఫిల్టర్ లేని వ్యవస్థ మీకు ఇవ్వని దానితో సహా, పోలిక నిజాయితీ రూపం ఇది.

అంశం	ఫిల్టర్ చేసిన జనరేటర్	ఫిల్టర్ లేనిది (Shannon)
నిర్ణయించేది	పదాలు, పిక్సెల్‌లు చదివే ఒక వర్గీకరణి	ఖచ్చితమైన ప్రాంప్ట్ చదివే ఒక మనిషి
మీకు తెలిసేది ఎప్పుడు	సమర్పించిన తర్వాత — కొన్నిసార్లు చెల్లించిన తర్వాత	ఏదైనా రెండర్ కాకముందే, బిల్ కాకముందే
నియమం ఏమిటి	ప్రచురించని, మారుతున్న నిషేధ జాబితాలు	ప్రచురిత బాధ్యతాయుత వినియోగ విధానం
వృత్తిపరమైన సందర్భం	వ్యవస్థకు కనిపించదు	మీది పట్టుకోవడం, మీదే జవాబు చెప్పడం
వైఫల్య రూపం	నిశ్శబ్ద అతి-అడ్డగింత, అర్థం జారిపోవడం	మీరు అడిగినది మీకు వస్తుంది — తప్పులతో సహా
ప్రమాదాన్ని మోసేది ఎవరు	విక్రేత, మీ పనిపైకి బదిలీ చేసి	పంచుకున్నది: ఆపరేటర్ విధానం, వినియోగదారు జవాబుదారీతనం

చివరి వరుసనే జనం దాటవేస్తారు, అదే ముఖ్యమైనది. ఫిల్టర్ తీసేయడం విభాగం 02లోని హాని విభాగాలను తీసేయదు; వాటి గురించి చెడుగా ఊహిస్తున్న యంత్రాన్ని తీసేస్తుంది. బాధ్యత ఎక్కడ ఉందో అక్కడే ఉంటుంది, ఇప్పుడు సందర్భం గురించి ఆలోచించగల ఇద్దరు పక్షాలు దాన్ని పట్టుకుంటాయి: విధానాన్ని ప్రచురించి అమలు చేసే ఆపరేటర్, చిత్రం దేనికో తెలిసిన మీరు. ఫిల్టర్ లేని AI చిత్ర సృష్టి అనేది తమ ఫలితం వెనుక నిలబడటానికి ఇప్పటికే సిద్ధమైన వారికి ఒక సాధనం — శస్త్రవైద్యుడి అట్లాస్, నిపుణుడి నివేదిక, స్టోరీబోర్డు, కార్టూన్ — వారిని మరొకరి నుండి వేరు చేయలేని ఒక వ్యవస్థ ఆపుతూ వచ్చింది.

07Shannon ఏమి చేస్తుంది — ఏమి చేయదు

ఇక్కడ ఖచ్చితత్వం ఉత్సాహం కంటే ముఖ్యం, ముఖ్యంగా API శోధన నుండి వచ్చే పాఠకులకు.

ఇది ఏమి చేస్తుంది

• సృష్టి. ఏ భాషలోనైనా, సాధారణ మాటల్లో ఒక చిత్రాన్ని వర్ణించండి. మీరు ఏ భాషలో అడిగినా Shannon సృష్టి ప్రాంప్ట్‌ను తనే ఇంగ్లీషులో రాస్తుంది.
• ఒక చిత్రాన్ని సవరించడం. ఖచ్చితంగా ఒకే మూలం — సంభాషణలో ఇప్పటికే ఉన్న ఒక చిత్రం, లేదా మీ ప్రస్తుత సందేశానికి జతచేసిన ఒకటి — ఏమి మారుతుందో, ఏమి ఉంటుందో చెప్పే సూచనతో మార్చబడుతుంది. ఫలితం మూల చిత్రపు యాస్పెక్ట్ రేషియోను స్వయంచాలకంగా ఉంచుకుంటుంది.
• రెండు లేదా అంతకంటే ఎక్కువ చిత్రాలను కలపడం. దుస్తుల బదిలీ, వస్తువును దృశ్యంలోకి, వ్యక్తి పక్కన వ్యక్తి, ఉత్పత్తి-వ్యక్తిపై, ఒక చిత్రం నుండి విషయం, మరొకటి నుండి శైలి. ప్రాంప్ట్ ప్రతి చిత్రపు పాత్రను వరుసగా పేర్కొంటుంది, నిజమైన చిత్రాలే వాడతారు, కాబట్టి వాటి అసలు రూపం తిరిగి వర్ణించబడకుండా భద్రపరచబడుతుంది.
• యాస్పెక్ట్ నియంత్రణ. square (డిఫాల్ట్), portrait, landscape, wide, tall. స్పష్టమైన అభ్యర్థన ఎప్పుడూ గెలుస్తుంది.
• మా సొంత GPU క్లస్టర్‌పై రెండరింగ్, సృష్టి మార్గంలో కంటెంట్ ఫిల్టర్ లేకుండా, ప్రాంప్ట్ రాసే మోడల్‌పై తిరస్కరణ పొర లేకుండా.

ఇది ఏమి చేయదు

• వీడియో లేదు. Shannon చిత్రాలకు కదలిక ఇవ్వదు, వీడియోను తయారు చేయదు. దాచిపెట్టిన రోడ్‌మ్యాప్ అంశం కాదు — అది ఉనికిలోనే లేదు.
• APIలో కాదు. చిత్ర సృష్టి, సవరణ, కలయిక Shannon చాట్ యాప్‌లో ఉంటాయి. /v1 API టెక్స్ట్, విజన్‌ను అందిస్తుంది — మీరు పంపే చిత్రాలను అది చదవగలదు — కానీ వాటిని రెండర్ చేయదు.
• అడగకుండా సృష్టి లేదు. ఒక పలకరింపు, ఒక ప్రశ్న, లేదా మామూలుగా జతచేసిన ఒక ఫొటో చిత్రాన్ని ప్రేరేపించవు. ఒక చిత్రాన్ని చూడమని Shannonను అడగడం — దాన్ని వర్ణించడం, చదవడం, విశ్లేషించడం — సాధారణ విజన్ పని, సృష్టి కాదు, దానికి అదనంగా ఏమీ ఖర్చు కాదు.

నిర్ధారణ కార్డు

ఇదే ఫిల్టర్ స్థానంలో వచ్చే యంత్రాంగం, ఇది ఒక ఔపచారికత కాక ఒక రూపకల్పన ఎంపిక. మీరు ఒక చిత్రాన్ని అడుగుతున్నారని Shannon గుర్తించినప్పుడు, అది సృష్టి ప్రాంప్ట్‌ను రాసి ఏదైనా రెండర్ కాకముందే దాన్ని నిర్ధారణ కార్డుపై మీకు చూపుతుంది. మీరు నిర్ధారించే వరకు ఏమీ సృష్టించబడదు, ఏమీ బిల్ చేయబడదు.

ఈ రెండు రూపకల్పనలను వాటి యోగ్యతపై పోల్చండి. ఒక ఫిల్టర్ మీ దగ్గర ఉన్నదాని కంటే తక్కువ సమాచారంతో మీ ఉద్దేశాన్ని ఊహించి, ఆ ఊహను నిశ్శబ్దంగా అమలు చేస్తుంది. ఒక నిర్ధారణ కార్డు ఏ కంప్యూట్ ఖర్చు కాకముందే, చిత్రం దేనికో తెలిసిన పక్షం ముందు దాని అక్షరాలా వివరణను పెడుతుంది. ఫిల్టర్‌లు ఎప్పుడూ చేయని పని అది చేస్తుంది: మీ అభ్యర్థనను తప్పుగా చదవడాన్ని పట్టుకుంటుంది; మోడల్ సరిగా చెప్పని శరీర నిర్మాణ ఖచ్చితత్వాన్ని లేదా చారిత్రక వివరాన్ని జోడించనిస్తుంది; బాధ్యతను వ్యాపించనీయకుండా స్పష్టంగా చేస్తుంది. మీరు ప్రాంప్ట్‌ను చూశారు, మీరు బటన్ నొక్కారు.

08ఫిల్టర్ లేని సృష్టి బాధ్యతను పెంచుతుంది, తీసేయదు

ఇది ఫుటర్‌లో కాక ఇక్కడే ఉండాలి, ఎందుకంటే ఇది వాదనలో సగం. ఫిల్టర్ చేసిన జనరేటర్ నిలబెట్టుకోలేని ఒక వాగ్దానం చేస్తుంది: సాధనం మీ తరఫున దుర్వినియోగాన్ని నిరోధిస్తుందని. అది రెండు దిశల్లోనూ విఫలమవుతుంది — అది శస్త్రవైద్యుడిని అడ్డుకుంటుంది, పట్టుదలగా ఉన్న దుష్ట వ్యక్తిని ఆపదు, అతనికి వేరే మార్గాలు ఎప్పుడూ ఉన్నాయి. అది విశ్వసనీయంగా చేసేది ఏమిటంటే, బాధ్యత పైస్థాయిలో యంత్రం ద్వారా చూసుకోబడిందని అందరికీ అనిపించనివ్వడం. ఫిల్టర్ తీసేయడం ఆ కల్పనను తీసేస్తుంది; ఒక చిత్రం ఉండాలా అనే ప్రశ్న దానికి జవాబు చెప్పగల మనుషుల దగ్గరకే తిరిగి వస్తుంది.

• Shannon Lab LLC బాధ్యత. ప్రచురించని నిషేధ జాబితా కాకుండా నిషేధిత విభాగాలకు పేరు పెట్టే ప్రచురిత, నిర్దిష్ట బాధ్యతాయుత వినియోగ విధానం — మీరు చదివి, ఉటంకించి, మమ్మల్ని జవాబుదారీగా ఉంచగల నియమాలు.
• మీ బాధ్యత. చిత్రించబడిన ప్రతి ఒక్కరి ఉద్దేశం, ప్రేక్షకులు, అధికార పరిధి, సమ్మతి స్థితి మీకు తెలుసు. సాధనానికి తెలియదు, ఒక వర్గీకరణికి ఎప్పటికీ తెలియదు. ఆ జ్ఞానం ముఖ్యమైన క్షణంలో, అది ఉన్న పక్షం ద్వారా అమలయ్యేందుకే నిర్ధారణ కార్డు ఉంది.
• కదలని గీత. "ఫిల్టర్ నన్ను ఆపలేదు" అనేది ఏ మాధ్యమంలోనూ ఎప్పుడూ రక్షణ కాలేదు. కెమెరా తిరస్కరించదు, పెన్సిల్ తిరస్కరించదు; చట్టం, వృత్తిపరమైన నీతి వాడకాన్ని పాలిస్తాయి, పరికరాన్ని కాదు. ప్రతి ఇతర వృత్తిపరమైన సాధనం పనిచేసే సాధారణ ఏర్పాటును ఫిల్టర్ లేని జనరేటర్ పునరుద్ధరిస్తుంది.

మొదలుపెట్టే ముందు బాధ్యతాయుత వినియోగ విధానం చదవండి. అది చిన్నది, నిర్దిష్టమైనది, ఈ ఉత్పత్తిలో మిగతా దాన్ని సమర్థనీయం చేసే భాగం అదే.

09తరచుగా అడిగే ప్రశ్నలు

---

మూలాలు: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, ఏప్రిల్ 22, 2023 · PetaPixel, ఏప్రిల్ 3, 2023 · CNBC, ఫిబ్రవరి 22, 2024. Shannon AI ను Shannon Lab LLC, New Mexico, USA నిర్వహిస్తుంది.