எந்த பயனரின் தரவையும் நாங்கள் வைத்திருக்கவோ அணுகவோ செய்யவில்லை; சட்டபூர்வ அதிகாரம் அமலாக்க நடவடிக்கையை கோராத வரை கணக்குகளை இடைநிறுத்துவதில்லை.

ஆராய்ச்சி · நிலைப்பாடு

தணிக்கையற்ற எதிர் வடிகட்டப்பட்ட AI பட உருவாக்கி

உள்ளடக்க வடிகட்டிகள் ஒரு சிறிய தொகுப்பு உண்மையான தீங்குகளைத் தடுக்கவே கட்டப்பட்டன. நடைமுறையில் அவை மருத்துவ விளக்கப்படம், தடயவியல் மறுகட்டமைப்பு, உடல்-வரைதல், போர் வரலாறு, ஆசிரியர் நையாண்டி, சொந்தப் பொருட்களைப் படமாக்கும் நிறுவனங்கள் ஆகியவற்றையும் தடுக்கின்றன. அதன் விலை இதுதான் — வடிகட்டியை நீக்குவது எதை மாற்றுகிறது, எதை மாற்றுவதில்லை என்பதும்.

செப்டம்பர் 5, 2026 அன்று வெளியிடப்பட்டதுஆராய்ச்சிShannon Lab LLC

சுருக்கமாக

முன்னணி பட உருவாக்கிகள் வினவல்களையும் வெளியீடுகளையும் சொற்களையும் பிக்சல்களையும் மட்டுமே பார்க்கும், நோக்கத்தை ஒருபோதும் பார்க்காத வகைப்படுத்திகளால் திரையிடுகின்றன. இது தவறான மறுப்புகளை உறுதி செய்கிறது, மேலும் அவை திறன் சார்ந்த பணிகளையே கடுமையாகத் தாக்குகின்றன: உடற்கூறியல், தடயவியல், கலை நிர்வாணம், வரலாற்றுப் படங்கள், முன்-காட்சிப்படுத்தல், நையாண்டி, பாதுகாப்பு விழிப்புணர்வுப் பொருட்கள், தங்கள் சொந்த வணிகச் சின்னத்தைக் கேட்கும் உரிமையாளர்கள். இந்தச் செயலிழப்பை அளவிடும் முதல் பெரிய அளவீடான OVERT (ICML 2025), பாதிப்பற்ற ஆனால் சந்தேகத்திற்குரிய 4,600 வினவல்களை பயன்படுத்தி, முன்னணி மாதிரிகள் அனைத்திலும் அதிக மறுப்பு பரவலாக உள்ளது எனக் கண்டறிகிறது. Shannon பட உருவாக்கம், ஒற்றைப் பட திருத்தம், பல பட இணைப்பு ஆகியவற்றை எங்கள் சொந்த GPU கிளஸ்டரில், உள்ளடக்க வடிகட்டி இன்றி, மறுப்பு அடுக்கு இன்றி இயக்குகிறது; தடைப்பட்டியலுக்குப் பதிலாக ஒரு புலப்படும் முடிவு: எதுவும் உருவாக்கப்படும் முன் சரியான வினவலைக் காட்டும் உறுதிப்படுத்தல் அட்டை. இது உங்கள் பொறுப்பையும் எங்கள் பொறுப்பையும் உயர்த்துகிறது; இரண்டும் பொறுப்பான பயன்பாட்டுக் கொள்கையில் உள்ளன. வீடியோ உருவாக்கம் இல்லை, மேலும் பணி API இல் அல்ல, அரட்டைச் செயலியில் உள்ளது.

படங்களுடன் தொழில்முறையாக வேலை செய்யும் கிட்டத்தட்ட அனைவருக்கும் ஒரே கதைதான். சாதாரணமான ஒன்றை விவரிக்கும் ஒரு வினவல் — முழங்கால் மூட்டின் குறுக்குவெட்டு, மோதும் தருணத்தில் ஒரு கார், கரித்துண்டில் ஒரு உருவப் படிப்பு, 1944 இல் ஒரு வீரர் — கொள்கை மீறல் என்று திரும்பி வருகிறது. மாற்றி எழுதுகிறீர்கள், வேறொரு மீறல் வருகிறது. இறுதியில் கடந்து செல்லும் அளவுக்கு தெளிவற்ற ஒன்றை எழுதுகிறீர்கள், உங்களுக்குத் தேவைப்பட்டதை இனி காட்டாத ஒரு படத்தைப் பெறுகிறீர்கள். கருவி சத்தமாகத் தோற்கவில்லை; படிப்படியாகத் தோற்று, சமரசம் செய்தவர் நீங்கள் என ஆக்கிவிட்டது.

01தெளிவாக நியாயமான ஒரு வினவலை AI பட உருவாக்கி ஏன் மறுக்கிறது?

அந்த மறுப்பு பொதுவாக பட மாதிரியின் கருத்து அல்ல. அது மாதிரியைச் சுற்றியுள்ள வடிகட்டல் அடுக்குகளின் வெளியீடு, அதன் அடுக்குகளே நீங்கள் பெற்ற ஏறக்குறைய ஒவ்வொரு விந்தையான மறுப்பையும் விளக்குகின்றன.

அடுக்கு	எதைச் சோதிக்கிறது	தனித்துவமான செயலிழப்பு
வினவல் தடைப்பட்டியல்	உங்கள் உரையில் உள்ள சொல் வடிவங்களும் அவற்றின் அருகிய மாறுபாடுகளும்	சுற்றியுள்ள வாக்கியத்தைப் பொருட்படுத்தாமல் ஒரு சொல்லைத் தடுக்கிறது — ஸ்பெகுலம் தோல்வி, ஸ்டெதஸ்கோப் வெற்றி
வினவல் வகைப்படுத்தி	வினவலின் ஆபத்து குறித்த கற்றுக்கொண்ட மதிப்பீடு	தலைப்பு நெருக்கத்தில் இயங்குகிறது: மருத்துவம், ஆயுதம், உடல், அரசியலுக்கு அருகில் உள்ள எதுவும் அதிக மதிப்பெண் பெறுகிறது
மாதிரியின் மறுப்புப் பயிற்சி	மாதிரிக்கே பயிற்றுவிக்கப்பட்ட தயக்கம்	பிழையின்றி மறுக்கிறது, அல்லது அமைதியாக ஒரு சுத்திகரிக்கப்பட்ட மாற்றை உருவாக்குகிறது
வெளியீட்டு வகைப்படுத்தி	வினவல் சூழல் இன்றி, உருவாக்கப்பட்ட பிக்சல்கள்	உடற்கூறியல் படத்தை ஆபாசத்திலிருந்தும், திரைப்படக் காட்சியை உண்மை நிகழ்விலிருந்தும் பிரித்தறிய முடியாது
கொள்கைப் பதிலீடு	உருவாக்கும் முன் உங்கள் வினவலை அமைதியாக மாற்றி எழுதுதல்	ஒரு படம் கிடைக்கிறது, ஆனால் நீங்கள் குறிப்பிட்டது அல்ல, ஏன் என்பதும் சொல்லப்படுவதில்லை

ஒவ்வொரு அடுக்கும் ஒரே குருட்டுப் புள்ளியைப் பகிர்ந்து கொள்கிறது: நீங்கள் ஏன் கேட்கிறீர்கள் என்பதை எதுவும் பார்க்க முடியாது. ஒரு மருத்துவ ஓவியர், ஒரு மோதலை மறுகட்டமைக்கும் வழக்கு நிபுணர், தீய நோக்கம் கொண்ட ஒருவர் — அனைவரும் ஒரே பெயர்ச்சொல்லைத் தட்டச்சு செய்கிறார்கள். வடிகட்டி பெயர்ச்சொல்லைப் பார்க்கிறது, உடற்கூறியல் நூலையோ வழக்குக் கோப்பையோ அல்ல; அது தான் விட்டுவிட்ட தீங்குகளுக்காக மதிப்பிடப்படுகிறது — தான் அழித்த பணிக்காக ஒருபோதும் அல்ல. அந்தச் சமநிலையின்மையின் கீழ், எந்த இயக்குநருக்கும் பகுத்தறிவான அமைப்பு அதிகம் மறு என்பதே. வெறுமனே மாற்றி எழுதுங்கள் என்பது ஏன் தீர்வல்ல என்பதற்கும் இதுவே காரணம்: மாற்றி எழுதுவது வடிகட்டிக்கு அது இழந்த எந்தத் தகவலையும் தருவதில்லை, அது உங்கள் வினவலை அதைத் தூண்டிய சொற்களிலிருந்து மட்டுமே விலக்குகிறது, அதாவது பொதுவாக நீங்கள் கருதியதிலிருந்து விலக்குகிறது.

02உள்ளடக்க வடிகட்டிகள் உண்மையில் எதைத் தடுக்க இருக்கின்றன

வடிகட்டிகள் காரணமின்றி இருப்பதாக நடிக்கும் வடிகட்டாத உருவாக்கத்திற்கான வாதம் படிக்கத் தகுதியற்றது. யார் கேட்டார்கள், ஏன் என்பதைப் பொருட்படுத்தாமல், படத்திற்கே உரிய தீங்கு கொண்ட ஒரு குறுகிய வெளியீட்டுத் தொகுப்பு உள்ளது:

சிறார்கள் தொடர்பான பாலியல் உள்ளடக்கம். எந்தச் சூழலும் அதை ஏற்கத்தக்கதாக்காது; எந்தத் தொழில்முறைப் பணிப்பாதைக்கும் அது தேவையில்லை.
உண்மையான நபர்களின் சம்மதமற்ற அந்தரங்கப் படங்கள். ஒப்புக்கொள்ளாத ஒருவர் மீது தீங்கு விழுகிறது, அகற்றுதல் அதைத் திரும்பப் பெறாது.
இலக்கு வைத்த துன்புறுத்தலும் அவதூறான புனைவும் — பெயர் குறிப்பிடப்பட்ட ஒருவர் செய்யாத ஒன்றைச் செய்ததாகக் காட்டுவது.
போலி தரமான ஆவணங்கள் — உண்மையானவை போல கடந்து செல்ல உருவாக்கப்பட்ட கடவுச்சீட்டுகள், அடையாள அட்டைகள், பணத்தாள்கள், முத்திரைகள், நிதிக் கருவிகள்.
ஏமாற்றும் செயற்கை சான்றுகள் — விளக்கப்படமாக அல்லாமல் ஆவணமாக முன்வைக்கப்படும், உண்மை நிகழ்வுகளின் புனையப்பட்ட படங்கள்.

பட்டியல் குறுகியது, அதற்கு ஒரு அமைப்பு உண்டு: தீங்கு பொருளிலேயே, உண்மையான ஒரு நபர் அல்லது ஆவணத்துடன் அதற்குள்ள ஒற்றுமையிலேயே, அது உண்மை எனச் சமர்ப்பிக்கப்படுவதிலேயே உள்ளது. அதில் இல்லாதவற்றைக் கவனியுங்கள் — நிர்வாணம், இரத்தம், ஆயுதங்கள், வரலாற்றுக் கொடுமை, அரசியல் கேலி. அவை மருத்துவம், பத்திரிகை, கலை, தடயவியல், நையாண்டி ஆகியவற்றின் மூலப்பொருள்; அவற்றைத் தீங்கு வகைகளாகக் கருதும் வடிகட்டி, எந்தப் பொருள்கள் மரியாதைக்குரியவை என்ற மிக விரிவான ஒரு கருத்தையே செயல்படுத்துகிறது.

நஞ்சுக்கொடியையும் பிடிக்கும் ஒரு முக்கிய சொல் அட்டவணைக்குப் பதிலாக, பெயரிடப்பட்ட வகைகளும் விளைவுகளும் கொண்ட வெளியிடப்பட்ட பொறுப்பான பயன்பாட்டுக் கொள்கையில், அந்தப் பட்டியலில் உள்ள அனைத்தையும் Shannon தடை செய்கிறது. ஒன்று நீங்கள் படித்து, எங்களைப் பொறுப்பாக்கக்கூடிய விதி; மற்றொன்று நீங்கள் பார்க்க முடியாத ஒரு வகைப்படுத்தி உங்கள் நோக்கம் குறித்துச் செய்யும் ஊகம்.

03அதிக மறுப்புப் பிரச்சினை எவ்வளவு பெரியது? ஆய்வு எதை அளவிடுகிறது

சமீப காலம் வரை, பட மாதிரிகளில் அதிக மறுப்பு ஒரு கேள்விக் கதையாகவே இருந்தது — ஒரே கதையுடன் ஆயிரக்கணக்கானவர்கள், அளவிட வழியின்றி. Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song, Song Mei உள்ளிட்ட UC Berkeley குழுவால் ICML 2025 இல் முன்வைக்கப்பட்ட OVERT (OVEr-Refusal evaluation on Text-to-image models) உடன் அது மாறியது: முற்றிலும் பாதிப்பற்ற வினவல்களை உரையிலிருந்து படம் தரும் அமைப்புகள் எத்தனை முறை மறுக்கின்றன என்பதை அளவிடும் முதல் பெரிய அளவீடு.

4,600

பாதிப்பற்ற வினவல்கள்

பாதுகாப்பு வகைகள்

1,785

தீங்கான கட்டுப்பாடுகள்

ICML

2025

வடிவமைப்பு முக்கியம். அந்த 4,600 வினவல்களும் தீங்கற்றவையாக இருந்தபடியே தீங்கானவை போலத் தோன்றும்படி கட்டப்பட்டவை — அறுவை கத்தி, சிராய்ப்பு, ஆர்ப்பாட்டம் ஆகியவற்றைக் குறிப்பிடும் உண்மையான தொழில்முறைக் கோரிக்கையின் வடிவம் — மேலும் உண்மையிலேயே தீங்கான 1,785 வினவல்கள் கட்டுப்பாடாக அவற்றுடன் அமர்ந்திருக்கின்றன, எனவே அனைத்தையும் மறுப்பதன் மூலம் ஒரு மாதிரி நல்ல மதிப்பெண் பெற முடியாது. ஒன்பது வகைகள் தனிநபர் மற்றும் பொது நபர் தனியுரிமையிலிருந்து, பதிப்புரிமை, பாகுபாடு, சுய-தீங்கு, பாலியல் உள்ளடக்கம், சட்டவிரோதச் செயல்கள் வழியாக வன்முறை வரை நீள்கின்றன.

முதன்மைக் கண்டுபிடிப்பு: அதிக மறுப்பு வகைகள் முழுவதும், முன்னணி மாதிரிகள் முழுவதும் பரவலாக உள்ளது. இரண்டாவது கண்டுபிடிப்பு வழக்கமான சுற்றுவழிக்கு இன்னும் சேதம் தருகிறது: ஆசிரியர்கள் தணிப்பு முறையாக வினவல் மாற்றி எழுதுதலை சோதித்து, அது “மூல வினவல்களின் பொருளுக்கான நம்பகத்தன்மையை அடிக்கடி சிதைக்கிறது” என்று தெரிவிக்கிறார்கள். நீங்கள் கேட்டதை மாற்றுவதன் மூலம் வடிகட்டியைக் கடக்கலாம், ஆனால் அப்போது நீங்கள் கேட்டது உங்களிடம் இல்லை.

ஒரு குறுகிய ஆய்வு பிக்சல் பக்கத்திலிருந்து அதே முடிவை அடைகிறது. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann, Oliver, ECCV 2024 இல் AI4VA பட்டறை) இல், ஆசிரியர்கள் மூன்று உற்பத்தி NSFW வகைப்படுத்திகளை கலை நிர்வாணத்தில் மதிப்பிட்டு, பாலின சார்பு மற்றும் பாணி சார்பு இரண்டையும் வெளிப்படுத்துகிறார்கள்: ஒரு உருவப் படிப்பின் மீதான தீர்ப்பு, யாருடைய உடல் காட்டப்படுகிறது, எந்தப் பாணியில் என்பதைப் பொறுத்தது. ஒவ்வொரு உடல்-வரைதல் கலைஞரும் கற்பனை என்று சொல்லப்பட்டு வந்த ஒன்றின் அளவிடப்பட்ட கூற்று அதுவே.

04வடிகட்டப்பட்ட உருவாக்கிகள் தடுக்கும் நியாயமான பணிகளின் எட்டு வகைகள்

அதிக மறுப்பு ஒரு சிரமமாக அல்ல, பணி நிறுத்தமாக அமையும் வகைகள் இவை. குறிப்பிட்ட ஒரு பதிவான வழக்கு இருக்கும் இடத்தில் அது மேற்கோள் காட்டப்படுகிறது; எதுவும் சரிபார்க்கப்படாத இடத்தில், சம்பவத்தைக் கற்பனை செய்யாமல் வகை மட்டும் விவரிக்கப்படுகிறது.

1. மருத்துவ மற்றும் உடற்கூறியல் விளக்கப்படம்

இத்துறையில் மிகச் சிறப்பாக ஆவணப்படுத்தப்பட்ட வழக்கு. ஏப்ரல் 2023 இல், The Intercept (Debbie Nathan) ஸ்பெகுலம், நஞ்சுக்கொடி, கருப்பை வாய், வெளிப்பெண்ணுறுப்பு, கருக்குழாய்கள், பாலூட்டு சுரப்பிகள், கருப்பை சார்ந்த, சிறுநீர்க்குழாய், கன்னிச்சவ்வு, விந்து, ஆணுறை, IUD உள்ளிட்ட உடற்கூறியல் சொற்களை Midjourney தடை செய்திருந்ததாகத் தெரிவித்தது; அதே நேரம் DALL·E 2, “மருந்து மூலமான கருக்கலைப்பில் பயன்படுத்தப்படும் மாத்திரைகள்” என்பதை உள்ளடக்கக் கொள்கைச் செய்தியுடன் மறுத்தது. இந்த வடிவத்தை, செல் உயிரியலாளர் நண்பருக்குப் பரிசாக ஒரு நஞ்சுக்கொடியின் படத்தை உருவாக்க முயன்ற மருத்துவத் தரவு ஆய்வாளர் Julia Rockwell கண்டறிந்து MIT Technology Review இடம் தெரிவித்தார். சமநிலையின்மையே அடையாளம்: ஸ்டெதஸ்கோப் இயல்பாக உருவாகியது, ஸ்பெகுலம் தடை செய்யப்பட்டிருந்தது. வாஷிங்டன் பல்கலைக்கழக ஆய்வாளர் Bill Howe அந்த வடிகட்டிகளை “கைவிரல் மழுங்கியவை” என்று அழைத்து, அவை “இனப்பெருக்கம் குறித்த அறிவியல் விவாதத்தை அடிப்படையில் சாத்தியமற்றதாக்கிவிட்டன” என்றார். நோயாளிக் கல்வி, அறுவை சிகிச்சை நூல்கள், செவிலியர் பாடத்திட்டங்கள் அனைத்திற்கும் உடல்கள் துல்லியமாகக் காட்டப்பட வேண்டும் — ஒரு முக்கிய சொல் பட்டியல் ஆபாசம் என முடிவு செய்த பகுதிகளும் அடங்கும்.

2. தடயவியல் மற்றும் விபத்து மறுகட்டமைப்பு

மோதல் மறுகட்டமைப்பு, தீ மூலப் பகுப்பாய்வு, நீதிமன்ற விளக்கக் காட்சிகள் ஆகியவற்றுக்கு சேதம், காயங்கள், வன்முறை இயக்கவியல் ஆகியவை மருத்துவத் துல்லியத்துடன் காட்டப்பட வேண்டும். இரத்தம் அல்லது துப்பாக்கிக் காயம் ஆகியவற்றை நிராகரிக்கத் தயாரிக்கப்பட்ட ஒரு வடிகட்டி அத்துறையையே நிராகரிக்கிறது: சூழல் — நிபுணர் அறிக்கை, காப்பீட்டுக் கோப்பு — வகைப்படுத்திக்குப் புலப்படுவதில்லை; அத்தகைய படங்களை ஏற்கத்தக்கதாக்கும் அதே நடுநிலைமையே அவை கொடூரக் காட்சி போலப் படும்படி செய்கிறது.

3. கலை நிர்வாணமும் உடல்-வரைதலும்

நிர்வாணம் எங்கும் கலையின் அடிப்படைப் பொருள், உருவப் படிப்பு கலைக் கல்வியின் மையம். மேலே உள்ள ECCV 2024 முடிவு, கலைஞர்கள் சொல்வதன் அளவிடப்பட்ட வடிவம்: வகைப்படுத்திகள் உருவப் படிப்பை ஆபாசத்திலிருந்து நம்பகமாகப் பிரிப்பதில்லை, அவற்றின் பிழைகள் பாலினத்தாலும் பாணியாலும் சார்பு கொண்டவை — எந்த மரபை அது அடையாளம் காண வேண்டுமோ, அதன் மீதே மிகக் கடுமையாக இருக்கும் ஒரு வடிகட்டி.

4. வரலாற்று மற்றும் போர்க்காலப் படங்கள்

பாடநூல் ஓவியம், அருங்காட்சியக விளக்கம், நினைவுத் திட்டங்கள் ஆகியவற்றுக்கு சீருடைகள், ஆயுதங்கள், முகாம்கள், போர்கள், கொடுமைகள் ஆகியவற்றைக் காட்ட வேண்டியுள்ளது. பிப்ரவரி 2024 இன் Gemini சம்பவம் கற்றுத்தரக்கூடியது, ஏனெனில் அந்தச் செயலிழப்பு எதிர்த் திசையில் சென்று சமமான சேதத்தை ஏற்படுத்தியது. நாஜி காலத்து ஜெர்மானிய வீரர்கள் உட்பட வரலாற்றுக் குழுக்களை இனரீதியாக மறுஉருவாக்கம் செய்த பிறகு, மனிதர்களின் படங்களை உருவாக்கும் Gemini இன் திறனை Google பிப்ரவரி 22, 2024 அன்று நிறுத்தி வைத்தது. தலைமை நிர்வாக அதிகாரி Sundar Pichai அந்த வெளியீடுகளை “முற்றிலும் ஏற்க முடியாதவை” என்றார்; மூத்த துணைத் தலைவர் Prabhakar Raghavan, மாதிரி “அதிகமாக ஈடுசெய்து” “அதீதப் பழமைவாதமாக” ஆகிவிட்டதை ஒப்புக்கொண்டார். சூழலைப் பார்க்காத பாதுகாப்பு வரலாற்றுப் படங்களைப் பாதுகாப்பானதாக்கவில்லை — அவற்றைப் பொய்யானதாக்கியது, ஒரு வரலாற்று வெளியீட்டாளருக்கு அது மோசமானது.

5. புனைவில் வன்முறையும் திரைப்பட முன்-காட்சிப்படுத்தலும்

காட்சிப் பலகைகள், கருத்துக் கலை, காமிக்ஸ், விளையாட்டு வடிவமைப்பு ஆகியவை நாவல்களும் திரைப்படங்களும் காட்டும் அதே காரணத்திற்காக வன்முறையைக் காட்டுகின்றன. திகில் காட்சிப் பலகைக்கும் அச்சுறுத்தலுக்கும் வேறுபாடு தெரியாத ஒரு வடிகட்டி, முழு கதைசொல்லல் கலைப் பணிப்பாதையையும் சந்தேகத்திற்குரியதாகக் கருதுகிறது — ஆனால் காட்சிப் பலகை வெளிப்படையாகவே உண்மையற்றது, நடிகர்களும் விளைவுக் குழுக்களும் பின்னர் அமைக்கவிருக்கும் காட்சிக்கான திட்டம்.

6. அரசியல் நையாண்டியும் ஆசிரியர் கேலிச்சித்திரமும்

அதிகாரம் பெற்றவர்களின் கேலிச்சித்திரம் பெரும்பாலான ஜனநாயகங்களில் மிகவும் பாதுகாக்கப்பட்ட பேச்சு வகைகளில் ஒன்று, ஆனால் ஒரு பட வடிகட்டி முதலில் அகற்றுவதும் அதுவே. மிகத் தெளிவான ஆவணப்படுத்தப்பட்ட வழக்கு: ஏப்ரல் 2023 இல் சீன அதிபர் Xi Jinping இன் படங்களைத் தடை செய்து, வினவல்களில் அவரது பெயரையும் தடுக்க Midjourney எடுத்த முடிவு — PetaPixel, Decrypt மற்றும் பிறர் தெரிவித்தது — அதே நேரம் பிற உலகத் தலைவர்களை அனுமதித்தது தொடர்ந்தது. நிறுவனர் David Holz, நிறுவனம் “நாடகத்தைக் குறைக்க” விரும்புவதாகவும், “சீனாவில் உள்ளவர்கள் இந்தத் தொழில்நுட்பத்தைப் பயன்படுத்தும் திறன், நீங்கள் நையாண்டி உருவாக்கும் திறனை விட முக்கியமானது” என்றும் Discord இல் விளக்கினார்; Foundation for Individual Rights and Expression இன் Sarah McLaughlin அதைத் தணிக்கை என்று அழைத்தார். வணிகக் கணக்கீடு குறித்து என்ன முடிவெடுத்தாலும், அந்த வழிமுறைக்குப் பெயரிட வேண்டும்: ஒரு நாட்டின் பேச்சுக் கட்டுப்பாடு உலகெங்கிலும் உள்ள ஒவ்வொரு பயனருக்கும் பொருத்தப்படுகிறது, ஏனெனில் ஒரு உலகளாவிய வடிகட்டிக்கு ஒரே ஒரு அமைப்புதான் உண்டு.

7. பாதுகாப்பு ஆராய்ச்சியும் ஃபிஷிங் விழிப்புணர்வுப் பொருட்களும்

பாதுகாப்புக் குழுக்கள் எதைப் பற்றி எச்சரிக்கின்றனவோ அது போலவே தோற்றமளிக்க வேண்டிய பயிற்சிப் பொருட்களை உருவாக்குகின்றன: நம்பத்தகுந்த போலி உள்நுழைவுத் திரை, போலியான விலைப்பட்டியல், நிறுத்துமிட மீட்டரில் ஒரு தீங்கிழைக்கும் QR குறியீடு. ஒரு வகைப்படுத்திக்கு அது எதற்கெதிராகத் தடுப்பூசி போடுகிறதோ அந்தத் தாக்குதலிலிருந்து வேறுபடுத்த முடியாதது — நம்பத்தன்மையே நோக்கம் — எனவே வடிகட்டிகள் தற்காப்பையும் தாக்குதலையும் ஒரே மாதிரி தடுத்து, வடிகட்டப்பட்ட நுகர்வோர் கருவியை எப்படியும் பயன்படுத்தப் போவதில்லாத தாக்குபவருக்கே சாதகமாகின்றன.

8. சொந்த வணிகச் சின்னம், பொருள் அல்லது தோற்றப் படங்கள் மறுக்கப்படும் உரிமையாளர்கள்

பதிப்புரிமை மற்றும் வர்த்தக முத்திரை வடிகட்டல் உரிமையைச் சோதிப்பதில்லை; ஒற்றுமையையே சோதிக்கிறது. ஒரு நிறுவனம் தன் சொந்த சின்னம் அல்லது பொருளின் படத்தை எளிதில் உருவாக்க முடியாது, ஒரு உரிமையாளர் தன் சொந்தக் கதாபாத்திரத்தைப் படமாக்க முடியாது, மக்கள் தங்கள் சொந்த முகத்தையே அடிக்கடி உருவாக்க முடிவதில்லை, ஏனெனில் தோற்ற வடிகட்டிகள் சம்மதத்தை அல்ல, அடையாளம் காணும் தன்மையையே அடிப்படையாகக் கொள்கின்றன. இந்தத் தவறான மறுப்பு மிகவும் பொதுவானது என்பதாலேயே OVERT தன் ஒன்பது அதிக மறுப்பு வகைகளில் “பதிப்புரிமை மீறல்களை” சேர்க்கிறது. வடிகட்டி ஒரு கேள்விக்கான மழுங்கிய கருவி — இதற்கு உங்களுக்கு உரிமை உண்டா? — அதைக் கேட்க அதற்கு வழியே இல்லை.

மேலே உள்ள எட்டில் நான்கு ஒரு குறிப்பிட்ட வெளியிடப்பட்ட வழக்குடன் இணைக்கப்பட்டுள்ளன (மருத்துவம், கலை நிர்வாணம், வரலாறு, நையாண்டி), எட்டாவதற்கு OVERT இன் பதிப்புரிமை வகை. தடயவியல், புனைவு முன்-காட்சிப்படுத்தல், பாதுகாப்பு விழிப்புணர்வுப் பொருட்கள் ஆகியவை வகைகளாகக் கூறப்பட்டுள்ளன: இவை பாதிக்கப்பட்ட தொழில்முறைப் பணியின் நன்கறியப்பட்ட பிரிவுகள், ஆனால் ஒரு குறிப்பிட்ட வெளியிடப்பட்ட சம்பவத்தை நாங்கள் சரிபார்க்கவில்லை.

முதன்மை ஆதாரங்களைப் பாருங்கள்

மேலே உள்ள ஒவ்வொரு ஆவணப்படுத்தப்பட்ட வழக்கும் பொதுவானது, சுயாதீனமாகச் சரிபார்க்கக்கூடியது. எங்கள் விவரிப்பை நம்பாமல் அவற்றைப் படியுங்கள்.

OVERT அதிக மறுப்பு அளவீடு (ICML 2025) The Intercept — தடை செய்யப்பட்ட உடற்கூறியல் சொற்கள் NSFW வகைப்படுத்திகள் எதிர் கலை நிர்வாணம் (ECCV 2024) PetaPixel — Midjourney மற்றும் அரசியல் நையாண்டி CNBC — Gemini பட நிறுத்தம்

05AI கலை உருவாக்கிகள் ஏன் தவறானவற்றைத் தடுக்கின்றன, உள்ளடக்க வடிகட்டியின் தவறான மறுப்புகளை ஏன் சரிசெய்ய முடியாது

அதிகத் தடுப்புக்கான உள்ளுணர்வுப் பதில் “வரம்பைத் தளர்த்துங்கள்” என்பது. அது வேலை செய்யாது; முயற்சிக் குறைவால் அல்ல, கட்டமைப்புக் காரணங்களால்.

வகைகள் சமிக்ஞையில் ஒன்றுடன் ஒன்று மேவுகின்றன, உண்மையில் அல்ல. ஒரு அறுவை சிகிச்சை விளக்கப்படமும் ஆபாசமும் நிர்வாணத்தைப் பகிர்கின்றன. ஒரு தடயவியல் மறுகட்டமைப்பும் கொடூரக் காட்சியும் இரத்தத்தைப் பகிர்கின்றன. ஒரு விழிப்புணர்வு ஸ்லைடும் ஃபிஷிங் கருவித்தொகுப்பும் ஒரு போலி உள்நுழைவுப் படிவத்தைப் பகிர்கின்றன. ஒரு நையாண்டிச் சித்திரமும் அவதூறான புனைவும் அடையாளம் காணக்கூடிய ஒரு அரசியல்வாதியைப் பகிர்கின்றன. ஒவ்வொரு ஜோடியையும் வேறுபடுத்துவது நோக்கமும் சமர்ப்பிப்பும் — வினவலிலும் இல்லை, பிக்சல்களிலும் இல்லை. உள்ளீட்டு வெளியின் ஒரே பகுதியில் அமர்ந்திருக்கும் இரு தொகுதிகளை எந்த வரம்பும் பிரிக்காது; அதை நகர்த்துவது ஒரு பிழையை மற்றொன்றுக்கு மாற்றுவது மட்டுமே. Gemini சம்பவம் காட்டியதும் அதுவே: ஒரு செயலிழப்பைச் சரிசெய்யக் கருதப்பட்ட தலையீடு மற்றொன்றை உருவாக்கியது, அதை Google இன் சொந்த மூத்த துணைத் தலைவரே “அதிகமாக ஈடுசெய்யப்பட்டது” என்று விவரித்தார்.

செலவுகள் உங்களுக்கு அல்ல, இயக்குநருக்குச் சாதகமாகச் சமநிலையற்றவை. ஒரு மோசமான படத்தை விடும் வடிகட்டி ஒரு செய்தியை உருவாக்குகிறது. பத்தாயிரம் நியாயமான படங்களைத் தடுக்கும் வடிகட்டி அமைதியையே உருவாக்குகிறது, ஏனெனில் மறுக்கப்பட்ட பயனர்கள் ஒன்றுதிரள்வதில்லை — அவர்கள் விட்டுவிடுகிறார்கள். அந்தச் சமநிலையின்மையின் கீழ் இடர் மேலாண்மை நிரந்தரமாக அதிகத் தடுப்பிலேயே ஒன்றுசேர்கிறது. அடிப்படைத் தீர்ப்பு சாத்தியமற்றது என்பதால், சம்பவங்கள் நிகழ நிகழ தடைப்பட்டியல்கள் சொல் வடிவங்களைச் சேர்த்துக்கொள்கின்றன; அதனால்தான் ஸ்டெதஸ்கோப் சரி, ஸ்பெகுலம் தடை. பெண்களுக்கான கருவிகள் அதிக ஆபத்தானவை என யாரும் முடிவு செய்யவில்லை; புகார்கள் விழுந்த இடத்தில் பட்டியல் வளர்ந்தது. அது தீங்கின் கோட்பாட்டை அல்ல, ஒரு இயக்குநரின் பொதுஜன தொடர்பு வரலாற்றையே பதிவு செய்கிறது.

மிகக் கடுமையான அதிகார எல்லை உலகளாவிய இயல்புநிலையாகிறது. ஒரே வடிகட்டி ஒவ்வொரு நாட்டிலும் ஒவ்வொரு பயனருக்கும் சேவை செய்கிறது, எனவே ஒரு சந்தைக்காகச் சேர்க்கப்பட்ட கட்டுப்பாடு அனைத்திற்கும் ஏற்றுமதி செய்யப்படுகிறது — Xi Jinping விதி பாடநூல் வழக்கு. மேலும் உங்கள் வினவலை மாற்றி எழுதுவது உங்கள் பொருளை அழிக்கிறது, அதுவே OVERT இன் சோதனைக் கருத்து: ஒரு வடிகட்டியைக் கடக்க ஒரு கோரிக்கையை மறைமொழியாக்கிய ஒவ்வொரு தொழில்முறையாளரும் அதைக் கையாலேயே உறுதிப்படுத்தியுள்ளார். நீங்கள் வெல்லவில்லை; சமரசம் செய்தீர்கள்.

இவை எதுவும் இலவசம் அல்ல, அது அமைதியாகத் தோற்பதால், இயக்குநர் கவனிக்கும் அளவீடுகளில் அந்தச் செலவு புலப்படுவதில்லை. போதுமான மறுப்புகளுக்குப் பிறகு நீங்கள் கேட்பதையே நிறுத்தி, கடந்து செல்லும் என நீங்கள் கணிப்பதற்கே ஒவ்வொரு வினவலையும் முன்கூட்டியே சுருக்குகிறீர்கள்; இறுதியில் கடந்து செல்லும் மறைமொழி, உங்கள் ஆவணத்திற்குத் தேவைப்பட்டதற்கு அருகிலான, ஆனால் அதுவல்லாத ஒரு படத்தையே தருகிறது. ஒரு பொதுவான கொள்கைச் செய்தி எந்த அடுக்கு இயங்கியது என்பதைச் சொல்லாது, எனவே ஊகித்து மீண்டும் முயல்வதைத் தவிர வழியில்லை — பட வேலை மீள் சுழற்சி கொண்டது, எனவே ஐந்தில் ஒரு முயற்சியைப் பிடிக்கும் வடிகட்டி வேகத்தைக் குறைப்பதோடு நில்லாமல் சுழற்சியையே சிதைக்கிறது. இதற்கிடையில், தீவிரக் கருவிகளுக்கு மிக வலுவான உரிமை கொண்ட துறைகளுக்கு மதிப்பாய்வாளர் இல்லை, மேல்முறையீடு இல்லை, தடுக்கப்பட்டவற்றின் வெளியிடப்பட்ட பட்டியலும் பொதுவாக இல்லை. நீங்கள் படிக்க முடியாத ஒரு விதி விதியல்ல; அது வானிலை.

06தணிக்கையற்ற எதிர் வடிகட்டப்பட்ட AI பட உருவாக்கி: உண்மையில் எது மாறுகிறது

வடிகட்டாத அமைப்பு உங்களுக்கு எதைத் தராது என்பதையும் சேர்த்து, ஒப்பீட்டின் நேர்மையான வடிவம் இதோ.

பரிமாணம்	வடிகட்டப்பட்ட உருவாக்கி	வடிகட்டாதது (Shannon)
எது முடிவு செய்கிறது	சொற்களையும் பிக்சல்களையும் படிக்கும் வகைப்படுத்தி	சரியான வினவலைப் படிக்கும் ஒரு மனிதர்
எப்போது தெரிகிறது	சமர்ப்பித்த பிறகு — சில நேரம் பணம் செலுத்திய பிறகு	எதுவும் உருவாகும் அல்லது கட்டணமிடப்படும் முன்
விதி என்ன	வெளியிடப்படாத, மாறிக்கொண்டே இருக்கும் தடைப்பட்டியல்கள்	வெளியிடப்பட்ட பொறுப்பான பயன்பாட்டுக் கொள்கை
தொழில்முறைச் சூழல்	அமைப்புக்குப் புலப்படாதது	உங்களுடையது, அதற்குப் பதிலளிப்பதும் உங்களுடையதே
செயலிழப்பு முறை	அமைதியான அதிகத் தடுப்பு, பொருள் விலகல்	நீங்கள் கேட்டதைப் பெறுகிறீர்கள் — தவறுகள் உட்பட
இடரைச் சுமப்பவர்	விற்பனையாளர், உங்கள் பணியின் மீது இறக்கப்படுகிறது	பகிரப்பட்டது: இயக்குநர் கொள்கை மற்றும் பயனர் பொறுப்புணர்வு

கடைசி வரிசையையே மக்கள் தவறவிடுகிறார்கள், அதுவே முக்கியமானது. வடிகட்டியை நீக்குவது பிரிவு 02 இல் உள்ள தீங்கு வகைகளை நீக்குவதில்லை; அவற்றைப் பற்றி மோசமாக ஊகித்துக் கொண்டிருந்த இயந்திரத்தையே நீக்குகிறது. கடமை இருந்த இடத்திலேயே இருக்கிறது, இப்போது சூழலைப் பற்றிச் சிந்திக்கக்கூடிய இரு தரப்பினரால் ஏந்தப்படுகிறது: ஒரு கொள்கையை வெளியிட்டு அமல்படுத்தும் இயக்குநர், மேலும் அந்தப் படம் எதற்கு என்பதை அறிந்த நீங்கள். வடிகட்டாத AI பட உருவாக்கம் என்பது தங்கள் வெளியீட்டுக்குப் பின் நிற்கத் தயாராக ஏற்கெனவே இருப்பவர்களுக்கான கருவி — அறுவை சிகிச்சை நூல், நிபுணர் அறிக்கை, காட்சிப் பலகை, கேலிச்சித்திரம் — அவர்களை வேறு யாரிடமிருந்தும் பிரித்தறிய முடியாத ஓர் அமைப்பு தடுத்து நிறுத்திக் கொண்டிருந்தது.

07Shannon என்ன செய்கிறது — என்ன செய்வதில்லை

ஒரு API தேடலிலிருந்து வரும் வாசகர்களுக்கு, குறிப்பாக, ஆர்வத்தை விடத் துல்லியமே இங்கு முக்கியம்.

உருவாக்கம்

புதிய படங்கள்

திருத்தம்

ஒரு மூலப் படம்

இணைப்பு

இரண்டு அல்லது மேற்பட்ட படங்கள்

இல்லை

வீடியோ உருவாக்கம்

என்ன செய்கிறது

உருவாக்கம். எந்த மொழியிலும், எளிய மொழியில் ஒரு படத்தை விவரியுங்கள். நீங்கள் எந்த மொழியில் கேட்டாலும், உருவாக்க வினவலை Shannon தானே ஆங்கிலத்தில் எழுதுகிறது.
ஒரு படத்தைத் திருத்துதல். சரியாக ஒரு மூலம் — உரையாடலில் ஏற்கெனவே உள்ள படம், அல்லது தற்போதைய செய்தியுடன் இணைக்கப்பட்டது — எது மாறுகிறது, எது அப்படியே இருக்கிறது என்று சொல்லும் ஒரு அறிவுறுத்தலால் மாற்றப்படுகிறது. வெளியீடு மூலத்தின் விகிதத்தைத் தானாகவே தக்கவைக்கிறது.
இரண்டு அல்லது அதற்கு மேற்பட்ட படங்களை இணைத்தல். உடை மாற்றம், பொருளைக் காட்சிக்குள் சேர்த்தல், நபருக்கு அருகில் நபர், நபர் மீது பொருள், ஒரு படத்தின் பொருளுடன் மற்றொன்றின் பாணி. வினவல் ஒவ்வொரு படத்தின் பங்கையும் வரிசையாகப் பெயரிடுகிறது, உண்மையான படங்களே பயன்படுத்தப்படுகின்றன, எனவே அவற்றின் உண்மையான தோற்றம் மீண்டும் விவரிக்கப்படாமல் பாதுகாக்கப்படுகிறது.
விகிதக் கட்டுப்பாடு. square (இயல்புநிலை), portrait, landscape, wide, tall. வெளிப்படையான கோரிக்கை எப்போதும் வெல்லும்.
எங்கள் சொந்த GPU கிளஸ்டரில் உருவாக்கம், உருவாக்கப் பாதையில் உள்ளடக்க வடிகட்டி இன்றி, வினவலை எழுதும் மாதிரியில் மறுப்பு அடுக்கு இன்றி.

என்ன செய்வதில்லை

வீடியோ இல்லை. Shannon படங்களை அசைவூட்டுவதில்லை, வீடியோ தயாரிப்பதில்லை. வெட்கத்துடன் மறைக்கப்படும் திட்டவரைவுப் பொருள் அல்ல — அது இல்லவே இல்லை.
API இல் இல்லை. பட உருவாக்கம், திருத்தம், இணைப்பு ஆகியவை Shannon அரட்டைச் செயலியில் உள்ளன. /v1 API உரைக்கும் பார்வைக்கும் சேவை செய்கிறது — நீங்கள் அனுப்பும் படங்களைப் படிக்க முடியும் — ஆனால் அவற்றை உருவாக்குவதில்லை.
அழையாத உருவாக்கம் இல்லை. வாழ்த்து, கேள்வி, அல்லது சாதாரணமாக இணைக்கப்பட்ட புகைப்படம் ஒரு படத்தைத் தூண்டாது. Shannon ஐ ஒரு படத்தைப் பார்க்கச் சொல்வது — விவரிக்க, படிக்க, பகுப்பாய்வு செய்ய — சாதாரணப் பார்வைப் பணி, உருவாக்கம் அல்ல, கூடுதலாக எதுவும் செலவாகாது.

உறுதிப்படுத்தல் அட்டை

வடிகட்டிக்குப் பதிலாக வரும் வழிமுறை இதுவே, இது ஒரு சம்பிரதாயம் அல்ல, வடிவமைப்புத் தேர்வு. நீங்கள் ஒரு படத்தைக் கேட்கிறீர்கள் என Shannon தீர்மானிக்கும்போது, அது உருவாக்க வினவலை எழுதி, எதுவும் உருவாகும் முன் அதை உறுதிப்படுத்தல் அட்டையில் உங்களுக்குக் காட்டுகிறது. நீங்கள் உறுதிப்படுத்தும் வரை எதுவும் உருவாக்கப்படுவதில்லை, எதற்கும் கட்டணமிடப்படுவதில்லை.

இரு வடிவமைப்புகளையும் அவற்றின் தகுதியில் ஒப்பிடுங்கள். ஒரு வடிகட்டி, உங்களிடம் உள்ளதை விடக் குறைவான தகவலுடன் உங்கள் நோக்கத்தை ஊகித்து, அந்த ஊகத்தை அமைதியாக அமல்படுத்துகிறது. உறுதிப்படுத்தல் அட்டை, எந்தக் கணினி வளமும் செலவாகும் முன், படத்தின் நேரடிக் குறிப்பீட்டை அது எதற்கு என்பதை அறிந்த தரப்பின் முன் வைக்கிறது. உங்கள் கோரிக்கையின் தவறான வாசிப்புகளை அது பிடிக்கிறது, வடிகட்டிகள் ஒருபோதும் பிடிப்பதில்லை; மாதிரி போதுமான அளவு குறிப்பிடாத உடற்கூறியல் துல்லியத்தையோ வரலாற்று விவரத்தையோ சேர்க்க அது இடமளிக்கிறது; மேலும் பொறுப்பைப் பரவலாக அல்லாமல் படிக்கக்கூடியதாக ஆக்குகிறது. நீங்கள் வினவலைப் பார்த்தீர்கள், நீங்களே பொத்தானை அழுத்தினீர்கள்.

நல்ல வெளியீடு பெறுவது தனித் திறன். பட மாதிரி வினவல்களை ஒரு குறிச்சொல் பகுப்பாய்வி போலல்லாமல், ஒரு மொழி மாதிரி போலப் படிக்கிறது — காற்புள்ளியால் பிரிக்கப்பட்ட முக்கிய சொற்களை விட ஓடும் உரைநடை வெல்லும், மேலும் உரையிலிருந்து படம் தருதல் எதிர்மறை வினவலையே ஏற்பதில்லை. தணிக்கையற்ற பட வினவல் வழிகாட்டி பொருள்-முதல் வரிசை, புகைப்பட அடித்தளம், மாறாதவற்றை நங்கூரமிடும் திருத்த அறிவுறுத்தல்கள், இணைக்கும்போது படப் பங்குகளுக்குப் பெயரிடுவது ஆகியவற்றை உள்ளடக்குகிறது. திறன்கள் குறித்த மேலோட்டப் பார்வைக்கு தணிக்கையற்ற AI பட உருவாக்கம் பாருங்கள்.

08வடிகட்டாத உருவாக்கம் பொறுப்பை உயர்த்துகிறது, நீக்குவதில்லை

இது அடிக்குறிப்பில் அல்ல, இங்கேயே இடம்பெற வேண்டும், ஏனெனில் இது வாதத்தின் பாதி. வடிகட்டப்பட்ட உருவாக்கி நிறைவேற்ற முடியாத ஒரு வாக்குறுதியைத் தருகிறது: உங்களுக்காகத் தவறான பயன்பாட்டைக் கருவியே தடுக்கும் என்பது. அது இரு திசைகளிலும் தோற்கிறது — அறுவை சிகிச்சை நிபுணரைத் தடுக்கிறது, ஆனால் பிற வழிகள் எப்போதும் இருந்த, உறுதியான ஒரு தீயவரை நிறுத்துவதில்லை. அது நம்பகமாகச் செய்வது என்னவெனில், பொறுப்பு மேலோட்டமாக இயந்திரத்தால் கையாளப்பட்டுவிட்டது என்ற உணர்வை எல்லோருக்கும் தருவதே. வடிகட்டியை நீக்குவது அந்தப் புனைவை நீக்குகிறது; ஒரு படம் இருக்க வேண்டுமா என்ற கேள்வி, அதற்குப் பதிலளிக்கக்கூடியவர்களிடமே திரும்புகிறது.

Shannon Lab LLC இன் கடமை. வெளியிடப்படாத தடைப்பட்டியலுக்குப் பதிலாக, தடைசெய்யப்பட்ட வகைகளைப் பெயரிடும் வெளியிடப்பட்ட, குறிப்பான பொறுப்பான பயன்பாட்டுக் கொள்கை — நீங்கள் படிக்கவும், மேற்கோள் காட்டவும், எங்களைப் பொறுப்பாக்கவும் கூடிய விதிகள்.
உங்கள் கடமை. நோக்கம், பார்வையாளர்கள், அதிகார எல்லை, காட்டப்படும் அனைவரின் சம்மத நிலை ஆகியவற்றை நீங்கள் அறிவீர்கள். கருவி அறியாது, ஒரு வகைப்படுத்தியால் ஒருபோதும் அறிய முடியாது. அந்த அறிவு முக்கியமான தருணத்தில், அது வைத்திருக்கும் தரப்பினால் பயன்படுத்தப்பட வேண்டும் என்பதற்காகவே உறுதிப்படுத்தல் அட்டை உள்ளது.
நகராத எல்லை. “வடிகட்டி என்னைத் தடுக்கவில்லை” என்பது எந்த ஊடகத்திலும் ஒருபோதும் ஒரு தற்காப்பாக இருந்ததில்லை. ஒரு கேமரா மறுப்பதில்லை, ஒரு பென்சில் மறுப்பதில்லை; சட்டமும் தொழில்முறை நெறிமுறையும் கருவியை அல்ல, பயன்பாட்டையே ஆளுகின்றன. வடிகட்டாத உருவாக்கி, மற்ற எல்லாத் தொழில்முறைக் கருவிகளும் இயங்கும் சாதாரண ஏற்பாட்டையே மீட்டுத் தருகிறது.

தொடங்குவதற்கு முன் பொறுப்பான பயன்பாட்டுக் கொள்கையைப் படியுங்கள். அது குறுகியது, குறிப்பானது, மேலும் இந்தப் பொருளின் மற்ற எல்லாவற்றையும் நியாயப்படுத்தும் பகுதி.

09அடிக்கடி கேட்கப்படும் கேள்விகள்

தெளிவாக நியாயமான ஒரு வினவலை AI பட உருவாக்கி ஏன் மறுக்கிறது?

ஏனெனில் பெரும்பாலான வடிகட்டிகள் உங்கள் நோக்கத்தை அல்ல, உங்கள் வினவலில் உள்ள சொற்களை மட்டுமே தீர்ப்பிடுகின்றன. நீங்கள் யார், ஏன் கேட்கிறீர்கள் என்பதை அறியும் வழியின்றி ஒரு வகைப்படுத்தி மாதிரிக்கு முன் அமர்ந்திருக்கிறது, எனவே ஒரு மருத்துவ ஓவியரும், ஒரு தடயவியல் ஆய்வாளரும், ஒரு தீய நோக்கம் கொண்டவரும் ஒரே பெயர்ச்சொல்லைத் தட்டச்சு செய்து ஒரே மறுப்பையே பெறுகிறார்கள். ஸ்பெகுலம், நஞ்சுக்கொடி, கருப்பை வாய் உள்ளிட்ட உடற்கூறியல் சொற்களை Midjourney தடை செய்ததாக, ஸ்டெதஸ்கோப் இயல்பாக வேலை செய்த நிலையில், The Intercept ஏப்ரல் 2023 இல் தெரிவித்தது.

AI கலைக் கருவிகளில் உள்ளடக்க வடிகட்டியின் தவறான மறுப்புகளை அளவிடும் ஆய்வு உள்ளதா?

உள்ளது. OVERT (arXiv:2505.21347, ICML 2025) என்பது உரையிலிருந்து படம் தரும் மாதிரிகளுக்கான முதல் பெரிய அளவிலான அதிக மறுப்பு அளவீடு: ஒன்பது பாதுகாப்பு வகைகளில் தீங்கானவை போலத் தோன்றும், ஆனால் உண்மையில் பாதிப்பற்ற 4,600 வினவல்கள், மேலும் கட்டுப்பாட்டுக்காக உண்மையிலேயே தீங்கான 1,785 வினவல்கள். முன்னணி மாதிரிகள் அனைத்திலும் அதிக மறுப்பு பரவலாக உள்ளது என்று அதன் ஆசிரியர்கள் தெரிவிக்கின்றனர். தனியான ஒரு ECCV 2024 ஆய்வு, கலை நிர்வாணத்தில் மதிப்பிடப்பட்ட மூன்று NSFW வகைப்படுத்திகளில் பாலின மற்றும் பாணி சார்பைக் கண்டறிந்தது.

தணிக்கையற்ற AI பட உருவாக்கி உண்மையில் எதை மாற்றுகிறது?

உருவாக்கப் பாதையிலிருந்து மறுப்பு அடுக்கையும் உள்ளடக்க வடிகட்டியையும் அது நீக்குகிறது, எனவே ஒரு நியாயமான கோரிக்கை அமைதியாகத் தாக்குதலாக மறுவகைப்படுத்தப்படுவதில்லை. அது தீர்ப்பை நீக்கவில்லை — அதை இடம் மாற்றுகிறது. எதுவும் உருவாக்கப்படும் முன் சரியான உருவாக்க வினவலை உறுதிப்படுத்தல் அட்டையில் Shannon உங்களுக்குக் காட்டுகிறது, எனவே என்ன உருவாகும் என்பதைப் பார்க்கக்கூடிய ஒரு மனிதரே, பொறுப்பான பயன்பாட்டுக் கொள்கையின் கீழ், முடிவெடுக்கிறார்.

Shannon வீடியோ உருவாக்குகிறதா?

இல்லை. Shannon புதிய படங்களை உருவாக்குகிறது, ஏற்கெனவே உள்ள ஒரு படத்தைத் திருத்துகிறது, இரண்டு அல்லது அதற்கு மேற்பட்ட படங்களை ஒன்றாக இணைக்கிறது. அது படங்களை அசைவூட்டுவதில்லை, எந்த வகையிலும் வீடியோ தயாரிப்பதில்லை.

Shannon API வழியாக நான் படங்களை உருவாக்க முடியுமா?

முடியாது. பட உருவாக்கம், திருத்தம், இணைப்பு ஆகியவை Shannon அரட்டைச் செயலியில் உள்ளன. /v1 API உரைக்கும் பார்வைக்கும் சேவை செய்கிறது — நீங்கள் அளிக்கும் படங்களைப் படித்து பகுப்பாய்வு செய்கிறது — பட உருவாக்கத்திற்கு அல்ல.

வடிகட்டி இல்லை என்றால், தவறான பயன்பாட்டை எது தடுக்கிறது?

முக்கிய சொற்களின் தடைப்பட்டியல் அல்ல, கொள்கையும் பொறுப்புணர்வும் ஒரு புலப்படும் முடிவுப் புள்ளியும். Shannon அழையாமல் ஒருபோதும் உருவாக்குவதில்லை, உருவாக்கும் முன் முழு வினவலைக் காட்டுகிறது, நீங்கள் உறுதிப்படுத்தும் வரை எதற்கும் கட்டணமிடுவதில்லை, மேலும் சிறார்கள் தொடர்பான பாலியல் உள்ளடக்கம், உண்மையான நபர்களின் சம்மதமற்ற அந்தரங்கப் படங்கள், இலக்கு வைத்த துன்புறுத்தல், அடையாள அல்லது நிதி ஆவணப் போலிகள் ஆகியவற்றைத் தடை செய்யும் வெளியிடப்பட்ட பொறுப்பான பயன்பாட்டுக் கொள்கையின் கீழ் இயங்குகிறது.

உங்களுக்கு உண்மையில் தேவையான படத்தைக் கேளுங்கள்

அரட்டைச் செயலியில் உருவாக்கம், ஒற்றைப் பட திருத்தம், பல பட இணைப்பு — உள்ளடக்க வடிகட்டி இல்லை, மறுப்பு அடுக்கு இல்லை, எதுவும் உருவாகும் முன் வினவல் திரையில்.

அரட்டையைத் தொடங்குங்கள் பொறுப்பான பயன்பாட்டுக் கொள்கை

அரட்டைச் செயலியில் படங்கள் · வீடியோ உருவாக்கம் இல்லை · மேலும் ஆராய்ச்சி

ஆதாரங்கள்: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, ஏப்ரல் 22, 2023 · PetaPixel, ஏப்ரல் 3, 2023 · CNBC, பிப்ரவரி 22, 2024. Shannon AI ஆனது Shannon Lab LLC, நியூ மெக்சிகோ, அமெரிக்கா மூலம் இயக்கப்படுகிறது.

அனைத்து ஆராய்ச்சி இணைப்புகள்