වාරණයෙන් තොර එදිරිව පෙරහන් සහිත AI රූප උත්පාදක
අන්තර්ගත පෙරහන් තැනුවේ සැබෑ හානි කිහිපයක් නැවැත්වීමටය. ප්‍රායෝගිකව ඒවා වෛද්‍ය නිදර්ශන, අධිකරණ වෛද්‍ය ප්‍රතිනිර්මාණ, රූප අධ්‍යයන, යුද්ධ ඉතිහාසය, කතුවැකි උපහාසය සහ තම නිෂ්පාදන ම නිරූපණය කරන සමාගම් ද නවත්වයි. එයට ගෙවන මිල මෙයයි — සහ පෙරහන ඉවත් කිරීමෙන් වෙනස් වන දේ සහ නොවන දේ මෙයයි.
සාරාංශය
ප්‍රධාන ධාරාවේ රූප උත්පාදක ඔබේ විමසුම් සහ ප්‍රතිදාන පරීක්ෂා කරන්නේ වචන සහ පික්සල පමණක් දකින, අරමුණ කිසි විටෙක නොදකින වර්ගීකාරක මගිනි. එයින් ව්‍යාජ ධනාත්මක ප්‍රතිඵල නියත වශයෙන් ම ඇති වන අතර, ඒවා දරුණු ලෙස පතිත වන්නේ නිපුණ කටයුතු මතය: ශරීර ව්‍යුහය, අධිකරණ වෛද්‍ය විද්‍යාව, කලා නග්න රූප, ඓතිහාසික රූප, පූර්ව-දෘශ්‍යකරණය, උපහාසය, ආරක්ෂක දැනුවත් කිරීමේ ද්‍රව්‍ය, සහ තමන්ගේ ම වෙළෙඳ නාමය ඉල්ලන අයිතිය දරන්නන්. OVERT (ICML 2025) නම් මෙම දෝෂය සඳහා වූ පළමු මහා පරිමාණ මිණුම් සලකුණ හානිකර නොවන නමුත් සැක සහිත ලෙස පෙනෙන විමසුම් 4,600 ක් භාවිත කරමින්, ප්‍රමුඛ ආකෘති හරහා අධි-ප්‍රතික්ෂේපය පුළුල්ව පවතින බව සොයාගනී. Shannon රූප නිර්මාණය, තනි රූප සංස්කරණය සහ බහු-රූප සංයුතිය ක්‍රියාත්මක කරන්නේ අන්තර්ගත පෙරහනක් හෝ ප්‍රතික්ෂේප ස්තරයක් නොමැතිව අපගේම GPU පොකුරේය. අවහිර ලැයිස්තුව වෙනුවට එහි ඇත්තේ දෘශ්‍යමාන තීරණයකි: කිසිවක් සෑදීමට පෙර නිශ්චිත විමසුම පෙන්වන තහවුරු කිරීමේ කාඩ්පතක්. එය ඔබේ සහ අපගේ වගකීම දෙක ම වැඩි කරයි; දෙක ම ඇත්තේ වගකීම් සහගත භාවිත ප්‍රතිපත්තියේය. වීඩියෝ නිර්මාණයක් නැත, සහ රූප කටයුතු තිබෙන්නේ කතාබස් යෙදුමේ මිස API එකේ නොවේ.
රූප සමඟ වෘත්තීයමය වශයෙන් වැඩ කරන සෑම දෙනාට ම පාහේ එකම කතාවක් ඇත. සාමාන්‍ය දෙයක් විස්තර කරන විමසුමක් — දණහිසේ සන්ධියක හරස්කඩක්, ගැටෙන මොහොතේ මෝටර් රථයක්, අඟුරු මාධ්‍යයෙන් කළ රූප අධ්‍යයනයක්, 1944 සොල්දාදුවෙක් — ප්‍රතිපත්ති උල්ලංඝනයක් ලෙස ආපසු එයි. ඔබ වචන වෙනස් කරයි, වෙනත් උල්ලංඝනයක් ලැබෙයි. අවසානයේ ඔබ එය සමත් වන තරමට නොපැහැදිලි යමක් ලියන අතර, ඔබට අවශ්‍ය වූ දේ තවදුරටත් නොපෙන්වන රූපයක් ලැබෙයි. මෙවලම හඬ නගා අසමත් වූයේ නැත; එය පියවරෙන් පියවර අසමත් වූ අතර, සම්මුතියට එළැඹි තැනැත්තා ඔබ බවට පත් කළේය.
01පැහැදිලිව නීත්‍යානුකූල විමසුමක් AI රූප උත්පාදකයක් ප්‍රතික්ෂේප කරන්නේ ඇයි?
ප්‍රතික්ෂේපය සාමාන්‍යයෙන් රූප ආකෘතියේ මතය නොවේ. එය ආකෘතිය වටා ඇති පෙරහන් තට්ටුවේ ප්‍රතිදානය වන අතර, එහි ස්තර ඔබට ලැබී ඇති අමුතු ප්‍රතික්ෂේප සියල්ලක් ම පාහේ පැහැදිලි කරයි.
| ස්තරය | එය පරීක්ෂා කරන දේ | ලාක්ෂණික දෝෂය |
|---|---|---|
| විමසුම් අවහිර ලැයිස්තුව | ඔබේ පෙළෙහි නිශ්චිත වචන සහ ඒවාට සමීප ප්‍රභේද | වටා ඇති වාක්‍යය නොසලකා වචනයක් අවහිර කරයි — "speculum" අසමත් වේ, "stethoscope" සමත් වේ |
| විමසුම් වර්ගීකාරකය | විමසුමේ "අවදානම" පිළිබඳ ඉගෙනගත් විනිශ්චයක් | විෂය සමීපත්වය මත ක්‍රියාත්මක වේ: වෛද්‍ය, අවි, ශරීර හෝ දේශපාලනයට ආසන්න ඕනෑම දෙයක් ඉහළ අගයක් ලබයි |
| ආකෘතියේ ප්‍රතික්ෂේප පුහුණුව | ආකෘතියට ම පුහුණු කර ඇති මැළිකම | දෝෂයක් නොදක්වා ප්‍රතික්ෂේප කරයි, නැතහොත් නිහඬව පිරිසිදු කළ ආදේශකයක් සාදයි |
| ප්‍රතිදාන වර්ගීකාරකය | විමසුමේ සන්දර්භයක් නොමැතිව, සෑදූ පික්සල | ශරීර ව්‍යුහ නිදර්ශනයක් අශ්ලීල දෙයකින්, හෝ චිත්‍රපට දර්ශනයක් සැබෑ සිදුවීමකින් වෙන් කළ නොහැක |
| ප්‍රතිපත්ති ආදේශනය | රූපය සෑදීමට පෙර ඔබේ විමසුම නිහඬව නැවත ලිවීම | ඔබට රූපයක් ලැබෙයි, නමුත් ඔබ නියම කළ එක නොවේ, එසේ වූයේ ඇයිදැයි ඔබට කියන්නේ ද නැත |
සෑම ස්තරයක් ම එකම අන්ධ ලක්ෂ්‍යයක් බෙදාගනී: ඔබ ඇයි ඉල්ලන්නේ ද යන්න කිසිවකට දැකිය නොහැක. වෛද්‍ය ලේඛකයෙක්, ගැටීමක් ප්‍රතිනිර්මාණය කරන පැමිණිලිකරුගේ විශේෂඥයෙක්, සහ නරක අදහස් ඇති කෙනෙක් යන සියල්ලෝ ම එකම නාම පදය ලියති. පෙරහන දකින්නේ නාම පදය මිස ශරීර ව්‍යුහ ග්‍රන්ථය හෝ නඩු ලිපිගොනුව නොවේ, එය ශ්‍රේණිගත වන්නේ එය ඇතුළට යාමට ඉඩ දෙන හානි මත — එය විනාශ කරන කටයුතු මත කිසි විටෙක නොවේ. එම අසමානතාව යටතේ ඕනෑම ක්‍රියාකරුවෙකුට තර්කානුකූල සැකසුම වැඩිපුර ප්‍රතික්ෂේප කිරීමයි. "නැවත වචන වෙනස් කරන්න" යන්න විසඳුමක් නොවන්නේ ද එබැවිනි: නැවත ලිවීමෙන් පෙරහනට නොතිබූ තොරතුරු ලැබෙන්නේ නැත, එය හුදෙක් ඔබේ විමසුම එය අවුලුවා ගත් වචන වලින් ඈත් කරයි, එනම් සාමාන්‍යයෙන් ඔබ අදහස් කළ දෙයින් ඈත් වීමයි.
02අන්තර්ගත පෙරහන් සැබෑ ලෙසින් ම වළක්වන්නට ඇති දේ
පෙරහන් හේතුවක් නොමැතිව පවතින බව මවාපාන, පෙරහන් රහිත නිර්මාණය සඳහා වන තර්කයක් කියවීමට වටින්නේ නැත. කවුරුන් ඉල්ලුවා ද, ඇයි ඉල්ලුවා ද යන්නෙන් ස්වාධීනව, හානිය රූපයට ම අන්තර්ගත වන ප්‍රතිදාන පිළිබඳ පටු කුලකයක් ඇත:
- ළමයින් සම්බන්ධ ලිංගික අන්තර්ගතය. කිසිදු සන්දර්භයක් එය පිළිගත හැකි නොකරයි; කිසිදු වෘත්තීය ක්‍රියාවලියකට එය අවශ්‍ය නොවේ.
- සැබෑ පුද්ගලයන්ගේ එකඟතාවෙන් තොර පෞද්ගලික රූප. හානිය පතිත වන්නේ එකඟ නොවූ අයෙකු මතය, එය ඉවත් කිරීමෙන් සිදු වූ දේ අහෝසි නොවේ.
- ඉලක්කගත හිරිහැර සහ අපහාසාත්මක ගොතාගැනීම් — නම් කළ පුද්ගලයෙක් නොකළ දෙයක් කළා සේ පෙන්වීම.
- ව්‍යාජ ලේඛන — සැබෑ ලෙස සමත් වීමට සාදන ලද ගමන් බලපත්‍ර, හැඳුනුම්පත්, මුදල් නෝට්ටු, මුද්‍රා සහ මූල්‍ය ලේඛන.
- රැවටිලිකාර කෘත්‍රිම සාක්ෂි — නිදර්ශනයක් ලෙස නොව ලේඛනගත කිරීමක් ලෙස ඉදිරිපත් කරන, සැබෑ සිදුවීම් පිළිබඳ ගොතන ලද රූප.
ලැයිස්තුව කෙටි වන අතර එයට ව්‍යුහයක් ඇත: හානිය ජීවත් වන්නේ නිර්මිතය තුළ, එය සැබෑ පුද්ගලයෙකුට හෝ ලේඛනයකට සමාන වීම තුළ, සහ එය සත්‍යයක් ලෙස ඉදිරිපත් කිරීම තුළය. එහි නොමැති දේ සලකන්න — නග්නත්වය, ලේ, අවි, ඓතිහාසික කුරිරුකම්, දේශපාලන උපහාසය. ඒවා වෛද්‍ය විද්‍යාවේ, පුවත්පත් කලාවේ, කලාවේ, අධිකරණ වෛද්‍ය විද්‍යාවේ සහ උපහාසයේ අමුද්‍රව්‍ය වන අතර, ඒවා හානිකර ප්‍රවර්ග ලෙස සලකන පෙරහනක් ක්‍රියාත්මක කරන්නේ කුමන විෂයයන් ගරු කටයුතු ද යන්න පිළිබඳ බෙහෙවින් පුළුල් අදහසකි.
Shannon එම ලැයිස්තුවේ සියල්ල තහනම් කරන්නේ "placenta" ද අල්ලා ගන්නා මූල පද වගුවකින් නොව, නම් කළ ප්‍රවර්ග සහ ප්‍රතිවිපාක සහිත ප්‍රකාශිත වගකීම් සහගත භාවිත ප්‍රතිපත්තියකිනි. එකක් ඔබට කියවා අප වගකිව යුතු කළ හැකි නීතියකි; අනෙක ඔබට දැකිය නොහැකි වර්ගීකාරකයෙකු ඔබේ අභිප්‍රාය ගැන කරන අනුමානයකි.
03අධි-ප්‍රතික්ෂේප ගැටලුව කෙතරම් විශාල ද? පර්යේෂණ මනින දේ
මෑතක් වන තුරු, රූප ආකෘතිවල අධි-ප්‍රතික්ෂේපය හුදු කථාවක් විය — එකම කතාව ඇති දහස් ගණනක් අය, එහෙත් එහි ප්‍රමාණය මැනීමට ක්‍රමයක් නොවීය. එය වෙනස් වූයේ OVERT (OVEr-Refusal evaluation on Text-to-image models) සමඟය. Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song සහ Song Mei ඇතුළු UC Berkeley කණ්ඩායමක් විසින් ICML 2025 හි ඉදිරිපත් කරන ලද එය, පෙළ-සිට-රූප පද්ධති සම්පූර්ණයෙන් ම හානිකර නොවන විමසුම් කොපමණ වාර ගණනක් ප්‍රතික්ෂේප කරන්නේ ද යන්න මනින පළමු මහා පරිමාණ මිණුම් සලකුණයි.
එහි නිර්මාණය වැදගත්ය. එම විමසුම් 4,600 ගොඩනගා ඇත්තේ හානිකර නොවෙමින් හානිකර ලෙස පෙනෙන ආකාරයටය — සැත්කම් පිහියක්, තැලීමක් හෝ විරෝධතාවක් ගැන සඳහන් කරන සැබෑ වෘත්තීය ඉල්ලීමක හැඩය — සහ සැබවින් ම හානිකර විමසුම් 1,785 ඒවා අසල පාලකයක් ලෙස තිබේ, එනිසා සියල්ල ප්‍රතික්ෂේප කිරීමෙන් ආකෘතියකට හොඳ ලකුණු ලබාගත නොහැක. ප්‍රවර්ග නවය පුද්ගල සහ ප්‍රසිද්ධ පුද්ගල පෞද්ගලිකත්වයේ සිට ප්‍රකාශන හිමිකම, වෙනස්කම් කිරීම, ස්වයං-හානිය, ලිංගික අන්තර්ගතය සහ නීති විරෝධී ක්‍රියා හරහා ප්‍රචණ්ඩත්වය දක්වා විහිදේ.
ප්‍රධාන සොයාගැනීම නම් අධි-ප්‍රතික්ෂේපය ප්‍රවර්ග හරහා සහ ප්‍රමුඛ ආකෘති හරහා පුළුල්ව පවතින බවයි. දෙවැන්න සම්මත විසඳුමට වඩාත් හානිකරය: කතුවරු අවම කිරීමේ ක්‍රමයක් ලෙස විමසුම නැවත ලිවීම පරීක්ෂා කර වාර්තා කරන්නේ එය "බොහෝ විට මුල් විමසුම්වල අර්ථයට ඇති විශ්වාසවන්තභාවය කඩාකප්පල් කරන" බවයි. ඔබ ඉල්ලූ දේ වෙනස් කිරීමෙන් ඔබට පෙරහන පසුකර යා හැක, එවිට ඔබ ඉල්ලූ දේ ඔබ සතුව තවදුරටත් නැත.
පටු අධ්‍යයනයක් පික්සල පැත්තෙන් එකම නිගමනයට එළැඹේ. An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann සහ Oliver, ECCV 2024 හි AI4VA වැඩමුළුව) හි කතුවරු නිෂ්පාදන NSFW වර්ගීකාරක තුනක් කලාත්මක නග්නත්වය මත ඇගයීමට ලක් කර ස්ත්‍රී-පුරුෂ නැඹුරුවක් සහ ශෛලීය නැඹුරුවක් යන දෙක ම හෙළිදරව් කරති: රූප අධ්‍යයනයක් පිළිබඳ තීන්දුව රඳා පවතින්නේ කවුරුන්ගේ ශරීරය කුමන ශෛලියකින් නිරූපණය කර ඇත්ද යන්න මතය. එය සෑම රූප ඇඳීමේ කලාකරුවෙකුට ම මනඃකල්පිතයක් යැයි කියා ඇති දෙය පිළිබඳ මනින ලද ප්‍රකාශයකි.
04පෙරහන් සහිත උත්පාදක අවහිර කරන නීත්‍යානුකූල කටයුතු වර්ග අටක්
මේවා අධි-ප්‍රතික්ෂේපය අපහසුතාවක් නොව කාර්ය නැවතීමක් වන ප්‍රවර්ගයන්ය. නිශ්චිත වාර්තා වූ අවස්ථාවක් ඇති තැන එය උපුටා දක්වා ඇත; කිසිවක් තහවුරු නොවූ තැන, සිදුවීමක් ගොතන්නේ නැතිව ප්‍රවර්ගය විස්තර කර ඇත.
1. වෛද්‍ය සහ ශරීර ව්‍යුහ නිදර්ශන
මෙම ක්ෂේත්‍රයේ වඩාත් ම හොඳින් ලේඛනගත වූ අවස්ථාව. 2023 අප්‍රේල් මාසයේ දී The Intercept (Debbie Nathan) වාර්තා කළේ Midjourney විසින් speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom සහ IUD ඇතුළු ශරීර ව්‍යුහ පද තහනම් කර ඇති බවත්, DALL·E 2 විසින් "ගබ්සා ඖෂධවල භාවිත වන පෙති" අන්තර්ගත-ප්‍රතිපත්ති පණිවිඩයක් සමඟ ප්‍රතික්ෂේප කළ බවත්ය. මෙම රටාව සොයාගත්තේ සෛල ජීව විද්‍යාඥ මිතුරෙකුට තෑග්ගක් ලෙස placenta රූපයක් සෑදීමට උත්සාහ කළ සායනික දත්ත විශ්ලේෂිකා Julia Rockwell වන අතර, එය MIT Technology Review වෙත වාර්තා විය. අසමානතාව සලකුණයි: "stethoscope" සාමාන්‍ය ලෙස සෑදුණු අතර "speculum" තහනම් විය. University of Washington පර්යේෂක Bill Howe එම පෙරහන් "අවිචක්ෂණ" යැයි හඳුන්වා, ඒවා නිසා "ප්‍රජනනය ගැන විද්‍යාත්මක සාකච්ඡාවක් පැවැත්වීම මූලික වශයෙන් ම නොහැකි" වූ බව කීවේය. රෝගී අධ්‍යාපනය, සැත්කම් ග්‍රන්ථ සහ හෙද පාඨමාලා යන සියල්ලට ම ශරීර නිවැරදිව නිරූපණය කිරීම අවශ්‍ය වේ, මූල පද ලැයිස්තුවක් අශෝභන යැයි තීරණය කර ඇති කොටස් ද ඇතුළුවය.
2. අධිකරණ වෛද්‍ය සහ අනතුරු ප්‍රතිනිර්මාණය
ගැටුම් ප්‍රතිනිර්මාණය, ගිනි ආරම්භය විශ්ලේෂණය සහ උසාවි නිරූපණ සඳහා හානිය, තුවාල සහ ප්‍රචණ්ඩ යාන්ත්‍රණ සායනික නිරවද්‍යතාවෙන් නිරූපණය කිරීම අවශ්‍යය. "ලේ" හෝ "වෙඩි තුවාලය" ප්‍රතික්ෂේප කිරීමට සකසන ලද පෙරහනක් සමස්ත විෂය ක්ෂේත්‍රය ම ප්‍රතික්ෂේප කරයි: සන්දර්භය — විශේෂඥ වාර්තාවක්, රක්ෂණ ලිපිගොනුවක් — වර්ගීකාරකයාට නොපෙනේ, තවද එවැනි රූප උසාවියේ පිළිගත හැකි කරන එම මධ්‍යස්ථභාවය ම ඒවා ලේ වැකි දර්ශන ලෙස කියවීමට හේතු වේ.
3. කලා නග්න රූප සහ රූප අධ්‍යයන
නග්න රූපය සෑම තැනකම කලාවේ මූලික විෂයයක් වන අතර, රූප අධ්‍යයනය කලා අධ්‍යාපනයේ හරයයි. ඉහත ECCV 2024 ප්‍රතිඵලය කලාකරුවන් වාර්තා කරන දෙයෙහි මනින ලද අනුවාදයයි: වර්ගීකාරක රූප අධ්‍යයනයක් අශ්ලීල දෙයකින් විශ්වාසදායක ලෙස වෙන් නොකරන අතර, ඔවුන්ගේ දෝෂ ස්ත්‍රී-පුරුෂ භාවය සහ ශෛලිය අනුව නැඹුරු වේ — එය හඳුනාගත යුතු එම සම්ප්‍රදායට ම දරුණු වන පෙරහනකි.
4. ඓතිහාසික සහ යුධ සමයේ රූප
පෙළපොත් කලාව, කෞතුකාගාර අර්ථකථනය සහ ස්මාරක ව්‍යාපෘති සඳහා නිල ඇඳුම්, අවි, කඳවුරු, සටන් සහ කුරිරුකම් නිරූපණය කිරීම අවශ්‍යය. 2024 පෙබරවාරි Gemini සිදුවීම උපදේශාත්මක වන්නේ අසාර්ථකත්වය ප්‍රතිවිරුද්ධ දිශාවට ගිය නමුත් සමාන හානියක් කළ බැවිනි. නාසි යුගයේ ජර්මානු සොල්දාදුවන් ඇතුළු ඓතිහාසික කණ්ඩායම්වල ජාතිකව නැවත සකසන ලද නිරූපණ නිපදවීමෙන් පසු Google විසින් 2024 පෙබරවාරි 22 දින මිනිසුන්ගේ රූප සෑදීමේ Gemini හැකියාව නවතා දැමීය. ප්‍රතිදාන "සම්පූර්ණයෙන් ම පිළිගත නොහැකි" යැයි ප්‍රධාන විධායක නිලධාරී Sundar Pichai හැඳින්වීය; ආකෘතිය "අධික ලෙස වන්දි ගෙවා" ඇති බවත් "අධික ලෙස ගතානුගතික" වී ඇති බවත් SVP Prabhakar Raghavan පිළිගත්තේය. සන්දර්භය නොදකින ආරක්ෂාව ඓතිහාසික රූප වඩාත් ආරක්ෂිත කළේ නැත — එය ඒවා අසත්‍ය කළේය, ඉතිහාස ප්‍රකාශකයෙකුට එය නරකය.
5. ප්‍රබන්ධයේ ප්‍රචණ්ඩත්වය සහ චිත්‍රපට පූර්ව-දෘශ්‍යකරණය
කථා පුවරු, සංකල්ප කලාව, විකට කථා සහ ක්‍රීඩා නිර්මාණය ප්‍රචණ්ඩත්වය නිරූපණය කරන්නේ නවකතා සහ චිත්‍රපට කරන එකම හේතුව නිසාය. භීෂණ කථා පුවරුවක් තර්ජනයකින් වෙන් කළ නොහැකි පෙරහනක් සමස්ත ආඛ්‍යාන කලා ක්‍රියාවලිය ම සැක සහිත ලෙස සලකයි — කථා පුවරුවක් පැහැදිලිව ම සැබෑ නොවන, නළුවන් සහ ප්‍රයෝග කණ්ඩායම් වේදිකා ගත කරන දර්ශනයක් සඳහා වූ සැලැස්මක් වුව ද.
6. දේශපාලන උපහාසය සහ කතුවැකි කාටූන්
බලවතුන් උපහාසයට ලක් කිරීම බොහෝ ප්‍රජාතන්ත්‍රවාදී රටවල වඩාත් ම ආරක්ෂිත කථන ප්‍රවර්ග අතරින් එකක් වන අතර, රූප පෙරහනක් ඉවත් කරන පළමු දෙය ද එයයි. වඩාත් ම පැහැදිලිව ලේඛනගත වූ අවස්ථාව නම් 2023 අප්‍රේල් මාසයේ දී Midjourney විසින් චීන ජනාධිපති Xi Jinping ගේ රූප තහනම් කර ඔහුගේ නම විමසුම්වල අවහිර කිරීමට ගත් තීරණයයි — PetaPixel, Decrypt සහ තවත් අය විසින් වාර්තා කරන ලද — අනෙක් ලෝක නායකයන්ට දිගට ම ඉඩ දෙමිනි. සමාගමට "නාට්‍ය අවම කිරීමට" අවශ්‍ය බවත්, "චීනයේ මිනිසුන්ට මෙම තාක්ෂණය භාවිත කිරීමේ හැකියාව උපහාසය නිර්මාණය කිරීමේ ඔබේ හැකියාවට වඩා වැදගත්" බවත් නිර්මාතෘ David Holz Discord හි පැහැදිලි කළේය; Foundation for Individual Rights and Expression හි Sarah McLaughlin එය වාරණය ලෙස හැඳින්වූවාය. ව්‍යාපාරික ගණනය කිරීම ගැන කවරෙක් කුමක් නිගමනය කළ ද, යාන්ත්‍රණය නම් කිරීම වටී: ජාතික කථන සීමාවක් ලොව පුරා සෑම පරිශීලකයෙකුට ම යොදනු ලැබීම, මන්ද ගෝලීය පෙරහනකට ඇත්තේ එක් සැකසුමක් පමණි.
7. ආරක්ෂක පර්යේෂණ සහ ධීවර-ප්‍රහාර දැනුවත් කිරීමේ ද්‍රව්‍ය
ආරක්ෂක කණ්ඩායම් ගොඩනගන පුහුණු ද්‍රව්‍ය තමන් අනතුරු අඟවන දෙය මෙන් ම පෙනිය යුතුය: විශ්වාසදායක ව්‍යාජ පිවිසුම් තිරයක්, ව්‍යාජ ඉන්වොයිසයක්, වාහන නැවතුම් මීටරයක ඇති අනිෂ්ට QR කේතයක්. වර්ගීකාරකයෙකුට එය එරෙහිව එන්නත් කරන ප්‍රහාරයෙන් වෙන් කළ නොහැක — සත්‍ය බව ම එහි අරමුණයි — එබැවින් පෙරහන් ආරක්ෂාව සහ ප්‍රහාරය එකම ලෙස අවහිර කරමින්, කෙසේවත් පෙරහන් සහිත පාරිභෝගික මෙවලමක් භාවිත කිරීමට යන්නේ නොවූ ප්‍රහාරකයාට වාසිය දෙයි.
8. තමන්ගේ ම වෙළෙඳ නාමය, නිෂ්පාදනය හෝ පෙනුම ප්‍රතික්ෂේප වන අයිතිය දරන්නන්
ප්‍රකාශන හිමිකම් සහ වෙළෙඳ ලකුණු පෙරහන් අයිතිය පරීක්ෂා නොකරයි; ඒවා පරීක්ෂා කරන්නේ සමානත්වයයි. සමාගමකට තමන්ගේ ම ලාංඡනයේ හෝ නිෂ්පාදනයේ රූප පහසුවෙන් සෑදිය නොහැක, අයිතිය දරන්නෙකුට තමන්ගේ ම චරිතය නිරූපණය කළ නොහැක, තවද මිනිසුන්ට නිතර ම තමන්ගේ ම මුහුණ සෑදිය නොහැක, මන්ද පෙනුම් පෙරහන් යතුරු කරන්නේ එකඟතාව නොව හඳුනාගත හැකි බව මතය. මෙම ව්‍යාජ ධනාත්මකය කෙතරම් සුලබ ද යන්න නිසා ම OVERT තම අධි-ප්‍රතික්ෂේප ප්‍රවර්ග නවය අතරට "ප්‍රකාශන හිමිකම් උල්ලංඝන" ඇතුළත් කරයි. පෙරහන යනු එයට ඇසීමට ක්‍රමයක් නොමැති ප්‍රශ්නයකට — මේකට ඔබට අයිතියක් තිබේ ද? — යොදන මොට මෙවලමකි.
ඉහත අටෙන් හතරක් නිශ්චිත ප්‍රකාශිත අවස්ථාවකට ලංගු කර ඇත (වෛද්‍ය, කලා නග්න රූප, ඓතිහාසික, උපහාසය), අටවැන්න සඳහා OVERT හි ප්‍රකාශන හිමිකම් ප්‍රවර්ගය සමඟය. අධිකරණ වෛද්‍ය විද්‍යාව, ප්‍රබන්ධ පූර්ව-දෘශ්‍යකරණය සහ ආරක්ෂක දැනුවත් කිරීමේ ද්‍රව්‍ය ප්‍රවර්ග ලෙස දක්වා ඇත: ඒවා අප නිශ්චිත ප්‍රකාශිත සිදුවීමක් තහවුරු නොකළ, බලපෑමට ලක් වූ වෘත්තීය කටයුතුවල ප්‍රසිද්ධ පන්තීන්ය.
ඉහත ලේඛනගත සෑම අවස්ථාවක් ම ප්‍රසිද්ධ වන අතර ස්වාධීනව සත්‍යාපනය කළ හැක. අපගේ විස්තරය විශ්වාස කරනවා වෙනුවට ඒවා කියවන්න.
05AI කලා උත්පාදක වැරදි දේ අවහිර කරන්නේ ඇයි, සහ අන්තර්ගත පෙරහන් ව්‍යාජ ධනාත්මක ප්‍රතිඵල සකස් කිරීමෙන් ඉවත් කළ නොහැක්කේ ඇයි
අධික ලෙස අවහිර කිරීමට ලැබෙන සහජ ප්‍රතිචාරය "එළිපත්ත ලිහිල් කරන්න" යන්නයි. උත්සාහයේ අඩුවක් නිසා නොව ව්‍යුහාත්මක හේතු නිසා එය ක්‍රියා නොකරයි.
ප්‍රවර්ග සංඥාවෙන් අතිච්ඡාදනය වේ, එහෙත් යථාර්ථයේ දී නොවේ. සැත්කම් නිදර්ශනයක් සහ අශ්ලීල දෙයක් නග්නත්වය බෙදාගනී. අධිකරණ වෛද්‍ය ප්‍රතිනිර්මාණයක් සහ ලේ වැකි දර්ශනයක් ලේ බෙදාගනී. දැනුවත් කිරීමේ පිටුවක් සහ ධීවර-ප්‍රහාර කට්ටලයක් ව්‍යාජ පිවිසුම් පෝරමයක් බෙදාගනී. උපහාසාත්මක කාටූනයක් සහ අපහාසාත්මක ගොතාගැනීමක් හඳුනාගත හැකි දේශපාලනඥයෙකු බෙදාගනී. එක් එක් යුගලය වෙන් කරන්නේ අරමුණ සහ ඉදිරිපත් කිරීමයි — විමසුමේ නොමැති, පික්සලවල ද නොමැති. එකම ආදාන අවකාශ කලාපයේ රැඳී සිටින ජනගහන දෙකක් කිසිදු එළිපත්තකින් වෙන් නොවේ; එය චලනය කිරීමෙන් එක් දෝෂයක් අනෙකට හුවමාරු වන පමණි. Gemini සිදුවීමෙන් පෙන්නුම් කළේ එයයි: එක් අසාර්ථකත්වයක් නිවැරදි කිරීමට ගත් මැදිහත්වීමක් තවත් එකක් නිපදවූ අතර, Google හි SVP විසින් ම එය "අධික ලෙස වන්දි ගෙවීම" ලෙස විස්තර කරන ලදී.
පිරිවැය අසමාන වන්නේ ක්‍රියාකරුට මිස ඔබට නොවේ. එක් නරක රූපයක් ඇතුළට යාමට ඉඩ දෙන පෙරහනක් පුවත් කථාවක් නිපදවයි. නීත්‍යානුකූල දහස් දහසක් අවහිර කරන පෙරහනක් නිශ්ශබ්දතාවක් නිපදවයි, මන්ද ප්‍රතික්ෂේප වූ පරිශීලකයෝ සංවිධානය නොවෙති — ඔවුහු අත්හැර දමති. එම අසමානතාව යටතේ අවදානම් කළමනාකරණය ස්ථිර ලෙස ම අධික අවහිර කිරීම වෙත එකඟ වේ. යටින් පවතින විනිශ්චය කළ නොහැක්කක් නිසා, සිදුවීම් සිදු වන විට අවහිර ලැයිස්තු නිශ්චිත වචන එකතු කරගනී, "stethoscope" හොඳ වී "speculum" තහනම් වන්නේ එසේය. කාන්තා-විශේෂිත උපකරණ වඩාත් අනතුරුදායක යැයි කිසිවෙක් තීරණය කළේ නැත; පැමිණිලි පතිත වූ තැන ලැයිස්තුව වැඩුණි. එය සංකේතවත් කරන්නේ හානිය පිළිබඳ න්‍යායක් නොව ක්‍රියාකරුවෙකුගේ මහජන සම්බන්ධතා ඉතිහාසයයි.
දැඩිම අධිකරණ බලය ගෝලීය පෙරනිමිය බවට පත් වේ. එක් පෙරහනක් සෑම රටක ම සෑම පරිශීලකයෙකුට ම සේවය කරයි, එබැවින් එක් වෙළෙඳපොළක් සඳහා එකතු කළ සීමාවක් සියල්ලට ම අපනයනය වේ — Xi Jinping නීතිය එහි පෙළපොත් උදාහරණයයි. තවද ඔබේ විමසුම නැවත ලිවීමෙන් ඔබේ අර්ථය විනාශ වේ, එය OVERT හි පර්යේෂණාත්මක කරුණයි: පෙරහනක් පසුකර යාමට තම ඉල්ලීම වක්‍රෝක්තියක් බවට හරවා ඇති සෑම වෘත්තිකයෙක් ම එය අතින් තහවුරු කර ඇත. ඔබ දිනුවේ නැත; ඔබ සමථයකට එළැඹුණි.
මෙයින් කිසිවක් නොමිලේ නොවේ, තවද එය නිහඬව අසමත් වන නිසා ක්‍රියාකරුවෙක් නරඹන මිනුම්වල එහි පිරිවැය නොපෙනේ. ප්‍රමාණවත් තරම් ප්‍රතික්ෂේප වීමෙන් පසු ඔබ ඇසීම නවත්වයි, සමත් වේ යැයි ඔබ පුරෝකථනය කරන දෙයට සෑම විමසුමක් ම කලින් ම පටු කරයි; අවසානයේ සමත් වන වක්‍රෝක්තිය ඔබේ ලේඛනයට අවශ්‍ය වූ දෙයට ආසන්න, එහෙත් එය නොවන රූපයක් ලබා දෙයි. සාමාන්‍ය ප්‍රතිපත්ති පණිවිඩයක් කුමන ස්තරය ක්‍රියාත්මක වූයේ ද යන්න ගැන ඔබට කිසිවක් නොකියයි, එබැවින් ඔබට කළ හැක්කේ අනුමාන කර නැවත උත්සාහ කිරීම පමණි — තවද රූප කටයුතු පුනරාවර්තී බැවින්, පහෙන් එක් උත්සාහයක් අල්ලා ගන්නා පෙරහනක් හුදෙක් වේගය අඩු කරනවා වෙනුවට චක්‍රය ම කඩාකප්පල් කරයි. මේ අතර බැරෑරුම් මෙවලම් සඳහා ප්‍රබලම හිමිකම ඇති ක්ෂේත්‍රවලට සමාලෝචකයෙක්, අභියාචනයක් සහ සාමාන්‍යයෙන් අවහිර වී ඇති දේ පිළිබඳ ප්‍රකාශිත ලැයිස්තුවක් ලැබෙන්නේ නැත. ඔබට කියවිය නොහැකි නීතියක් නීතියක් නොවේ; එය කාලගුණයයි.
06වාරණයෙන් තොර එදිරිව පෙරහන් සහිත AI රූප උත්පාදකය: සැබවින් ම වෙනස් වන දේ
පෙරහන් රහිත පද්ධතියක් ඔබට ලබා නොදෙන දේ ද ඇතුළුව, සංසන්දනයේ අවංක අනුවාදය මෙයයි.
| මානය | පෙරහන් සහිත උත්පාදකය | පෙරහන් රහිත (Shannon) |
|---|---|---|
| තීරණය කරන්නේ කුමක් ද | වචන සහ පික්සල කියවන වර්ගීකාරකයෙක් | නිශ්චිත විමසුම කියවන පුද්ගලයෙක් |
| ඔබට දැනගන්නට ලැබෙන්නේ කවදා ද | ඔබ ඉදිරිපත් කළ පසු — සමහර විට ඔබ ගෙවූ පසු | කිසිවක් සෑදීමට හෝ අය කිරීමට පෙර |
| නීතිය කුමක් ද | ප්‍රකාශයට පත් නොකළ, වෙනස් වන අවහිර ලැයිස්තු | ප්‍රකාශිත වගකීම් සහගත භාවිත ප්‍රතිපත්තියක් |
| වෘත්තීය සන්දර්භය | පද්ධතියට නොපෙනේ | දරාගැනීම ඔබේය, පිළිතුරු දීම ද ඔබේය |
| අසමත් වන ආකාරය | නිහඬ අධි-අවහිර කිරීම, අර්ථය ගිලිහීම | ඔබ ඉල්ලූ දේ ඔබට ලැබේ — වැරදි ද ඇතුළුව |
| අවදානම දරන්නේ කවුද | ඔබේ කාර්යය මතට පවරන ලද, විකුණුම්කරු | බෙදාගත්: ක්‍රියාකරු ප්‍රතිපත්තිය සහ පරිශීලක වගකීම |
අවසාන පේළිය මිනිසුන් මඟ හරින එක වන අතර, වැදගත් වන්නේ ද එයයි. පෙරහනක් ඉවත් කිරීමෙන් 02 වන කොටසේ හානිකර ප්‍රවර්ග ඉවත් නොවේ; ඉවත් වන්නේ ඒවා ගැන නරක ලෙස අනුමාන කරමින් සිටි යන්ත්‍රයයි. බැඳීම තිබූ තැන ම පවතී, දැන් එය දරන්නේ සන්දර්භය ගැන තර්ක කළ හැකි පාර්ශ්ව දෙකකි: ප්‍රතිපත්තියක් ප්‍රකාශයට පත් කර ක්‍රියාත්මක කරන ක්‍රියාකරු, සහ රූපය කුමකට ද යන්න දන්නා ඔබ. පෙරහන් රහිත AI රූප නිර්මාණය යනු තම ප්‍රතිදානය පිටුපස සිටීමට දැනටමත් සූදානම් අය සඳහා වූ මෙවලමකි — සැත්කම් වෛද්‍යවරයාගේ ග්‍රන්ථය, විශේෂඥ වාර්තාව, කථා පුවරුව, කාටූනය — ඔවුන් වෙනත් අයෙකුගෙන් වෙන් කර හඳුනාගත නොහැකි වූ පද්ධතියක් විසින් නවත්වනු ලැබූහ.
07Shannon කරන දේ — සහ නොකරන දේ
විශේෂයෙන් ම API සෙවීමකින් පැමිණෙන පාඨකයන් සඳහා, මෙහි නිරවද්‍යතාව උද්‍යෝගයට වඩා වැදගත්ය.
එය කරන දේ
- නිර්මාණය. ඕනෑම භාෂාවකින්, සරල වචනවලින් රූපයක් විස්තර කරන්න. ඔබ කුමන භාෂාවෙන් ඇසුව ද, Shannon උත්පාදන විමසුම ඉංග්‍රීසියෙන් තමන් ම ලියයි.
- එක් රූපයක් සංස්කරණය කිරීම. හරියටම එක් මූලාශ්‍රයක් — සංවාදයේ දැනටමත් ඇති රූපයක්, හෝ ඔබේ වත්මන් පණිවිඩයට අමුණන ලද එකක් — කුමක් වෙනස් වේ ද කුමක් පවතී ද යන්න කියන උපදෙසකින් වෙනස් කරනු ලැබේ. ප්‍රතිදානය මූලාශ්‍රයේ දර්ශන අනුපාතය ස්වයංක්‍රීයව රඳවා ගනී.
- රූප දෙකක් හෝ වැඩි ගණනක් සම්බන්ධ කිරීම. ඇඳුම් මාරු කිරීම, වස්තුවක් දර්ශනයකට දැමීම, පුද්ගලයෙක් අසල පුද්ගලයෙක්, පුද්ගලයෙක් මත නිෂ්පාදනයක්, එක් රූපයකින් විෂයය සහ තවත් එකකින් ශෛලිය. විමසුම එක් එක් රූපයේ භූමිකාව අනුපිළිවෙළින් නම් කරන අතර, සැබෑ රූප ම භාවිත වන නිසා ඒවායේ සැබෑ පෙනුම නැවත විස්තර කරනවා වෙනුවට රඳවා ගැනේ.
- දර්ශන පාලනය. square (පෙරනිමිය), portrait, landscape, wide සහ tall. පැහැදිලි ඉල්ලීමක් සැම විට ම ජය ගනී.
- අපගේම GPU පොකුරේ සෑදීම, උත්පාදන මාර්ගයේ අන්තර්ගත පෙරහනක් නොමැතිව සහ විමසුම ලියන ආකෘතියේ ප්‍රතික්ෂේප ස්තරයක් නොමැතිව.
එය නොකරන දේ
- වීඩියෝ නැත. Shannon රූප සජීවිකරණය නොකරන අතර වීඩියෝ ද නොසාදයි. එය සූක්ෂම ලෙස වසන් කරන ලද සැලසුම් අයිතමයක් නොවේ — එය නොපවතී.
- API එකේ නොවේ. රූප නිර්මාණය, සංස්කරණය සහ සම්බන්ධ කිරීම තිබෙන්නේ Shannon කතාබස් යෙදුමේය. /v1 API එක පෙළ සහ දෘශ්‍ය හැකියාව සපයයි — එයට ඔබ එවන රූප කියවිය හැක — නමුත් එය ඒවා නොසාදයි.
- ඉල්ලීමකින් තොර නිර්මාණයක් නැත. ආචාරයක්, ප්‍රශ්නයක් හෝ අහම්බෙන් අමුණන ලද ඡායාරූපයක් රූපයක් අවුලුවන්නේ නැත. රූපයක් දෙස බැලීමට Shannon ගෙන් ඉල්ලීම — එය විස්තර කිරීම, කියවීම, විශ්ලේෂණය කිරීම — සාමාන්‍ය දෘශ්‍ය කටයුත්තක් මිස නිර්මාණයක් නොවන අතර, අමතර ගාස්තුවක් නැත.
තහවුරු කිරීමේ කාඩ්පත
මෙය පෙරහන වෙනුවට එන යාන්ත්‍රණය වන අතර, එය විධිමත් කටයුත්තක් නොව නිර්මාණ තේරීමකි. ඔබ රූපයක් ඉල්ලන බව Shannon තීරණය කරන විට, එය උත්පාදන විමසුම ලියා කිසිවක් සෑදීමට පෙර තහවුරු කිරීමේ කාඩ්පතක එය ඔබට පෙන්වයි. ඔබ තහවුරු කරන තුරු කිසිවක් සෑදෙන්නේ නැත, කිසිවක් අය කරන්නේ ද නැත.
නිර්මාණ දෙක ඒවායේ ගුණාංග මත සසඳන්න. පෙරහනක් ඔබට වඩා අඩු තොරතුරු සමඟ ඔබේ අභිප්‍රාය අනුමාන කර, එම අනුමානය නිහඬව බලාත්මක කරයි. තහවුරු කිරීමේ කාඩ්පතක් රූපයේ වචනාර්ථ පිරිවිතර, එය කුමකට ද යන්න දන්නා පාර්ශ්වය ඉදිරියේ, කිසිදු ගණනය කිරීමක් වැය වීමට පෙර තබයි. එය ඔබේ ඉල්ලීමේ වැරදි කියවීම් අල්ලා ගනී, පෙරහන් කිසි විටෙක එය නොකරයි; ආකෘතිය අඩුවෙන් නියම කළ ශරීර ව්‍යුහ නිරවද්‍යතාව හෝ ඓතිහාසික විස්තර එකතු කිරීමට එය ඔබට ඉඩ දෙයි; තවද එය වගකීම විසිරුණු දෙයක් නොව කියවිය හැකි දෙයක් කරයි. ඔබ විමසුම දුටුවා, සහ ඔබ බොත්තම ඔබා ඇත.
08පෙරහන් රහිත නිර්මාණය වගකීම වැඩි කරයි, එය ඉවත් නොකරයි
මෙය පාදක සටහනක නොව මෙහි තිබිය යුත්තේ, එය තර්කයෙන් අඩක් වන බැවිනි. පෙරහන් සහිත උත්පාදකයක් තමන්ට රැක ගත නොහැකි පොරොන්දුවක් දෙයි: මෙවලම ඔබ වෙනුවෙන් අනිසි භාවිතය වළක්වන බව. එය දෙපැත්තෙන් ම අසමත් වේ — එය සැත්කම් වෛද්‍යවරයා අවහිර කරයි, තවද අධිෂ්ඨානශීලී නරක ක්‍රියාකාරියෙකු නවත්වන්නේ ද නැත, ඔහුට වෙනත් විකල්ප තිබූ අතර සැම විට ම තිබුණි. එය විශ්වාසදායක ලෙස කරන්නේ වගකීම යන්ත්‍රයකින්, ඉහළ තැනක දී විසඳා ඇතැයි සැමට හැඟීමට ඉඩ දීමයි. පෙරහන ඉවත් කිරීමෙන් එම ප්‍රබන්ධය ඉවත් වේ; රූපයක් තිබිය යුතු ද යන ප්‍රශ්නය එයට පිළිතුරු දිය හැකි මිනිසුන් වෙත ආපසු පැමිණේ.
- Shannon Lab LLC හි බැඳීම. ප්‍රකාශයට පත් නොකළ අවහිර ලැයිස්තුවක් වෙනුවට තහනම් ප්‍රවර්ග නම් කරන ප්‍රකාශිත, නිශ්චිත වගකීම් සහගත භාවිත ප්‍රතිපත්තියක් — ඔබට කියවා, උපුටා දක්වා, අප වගකිව යුතු කළ හැකි නීති.
- ඔබේ බැඳීම. අරමුණ, ප්‍රේක්ෂකයා, අධිකරණ බලය සහ නිරූපණය වන සෑම කෙනෙකුගේ ම එකඟතා තත්ත්වය ඔබ දන්නවා. මෙවලම එය නොදනී, වර්ගීකාරකයෙකුට කිසි විටෙක එය දැනගත නොහැක. එම දැනුම වැදගත් වන මොහොතේ, එය සතු පාර්ශ්වය විසින් යෙදිය හැකි වන පිණිස තහවුරු කිරීමේ කාඩ්පත පවතී.
- වෙනස් නොවන රේඛාව. "පෙරහන මාව නැවැත්තුවේ නැත" යන්න කිසිදු මාධ්‍යයක ආරක්ෂාවක් වී නැත. කැමරාවක් ප්‍රතික්ෂේප නොකරයි, පැන්සලක් ප්‍රතික්ෂේප නොකරයි; නීතිය සහ වෘත්තීය සදාචාරය පාලනය කරන්නේ භාවිතය මිස උපකරණය නොවේ. පෙරහන් රහිත උත්පාදකයක් අනෙක් සෑම වෘත්තීය මෙවලමක් ම ක්‍රියාත්මක වන සාමාන්‍ය සැකැස්ම නැවත ස්ථාපිත කරයි.
ආරම්භ කිරීමට පෙර වගකීම් සහගත භාවිත ප්‍රතිපත්තිය කියවන්න. එය කෙටි, නිශ්චිත වන අතර, මෙම නිෂ්පාදනයේ ඉතිරි කොටස ආරක්ෂා කළ හැකි කරන කොටස එයයි.
09නිතර අසන ප්‍රශ්න
පැහැදිලිව නීත්‍යානුකූල විමසුමක් AI රූප උත්පාදකයක් ප්‍රතික්ෂේප කරන්නේ ඇයි?
මන්ද බොහෝ පෙරහන් විනිශ්චය කරන්නේ ඔබේ අරමුණ නොව ඔබේ විමසුමේ වචනයි. ඔබ කවුරුන් ද, ඔබ ඇසීමට හේතුව කුමක් ද යන්නට ප්‍රවේශයක් නොමැති වර්ගීකාරකයෙක් ආකෘතිය ඉදිරියේ සිටී, එබැවින් වෛද්‍ය ලේඛකයෙක්, අධිකරණ වෛද්‍ය විශ්ලේෂකයෙක් සහ නරක ක්‍රියාකාරියෙක් යන සියල්ලෝ ම එකම නාම පදය ලියා එකම ප්‍රතික්ෂේපය ලබති. speculum, placenta සහ cervix ඇතුළු ශරීර ව්‍යුහ පද Midjourney තහනම් කළ බවත්, stethoscope සාමාන්‍ය ලෙස ක්‍රියා කළ බවත් 2023 අප්‍රේල් මාසයේ දී The Intercept වාර්තා කළේය.
AI කලා මෙවලම්වල අන්තර්ගත පෙරහන් ව්‍යාජ ධනාත්මක ප්‍රතිඵල මනින පර්යේෂණ තිබේ ද?
ඔව්. OVERT (arXiv:2505.21347, ICML 2025) යනු පෙළ-සිට-රූප ආකෘති සඳහා වූ පළමු මහා පරිමාණ අධි-ප්‍රතික්ෂේප මිණුම් සලකුණයි: ආරක්ෂක ප්‍රවර්ග නවයක් හරහා හානිකර ලෙස පෙනෙන නමුත් සැබවින් ම හානිකර නොවන විමසුම් 4,600 ක්, සමඟ පාලකයක් ලෙස සැබවින් ම හානිකර විමසුම් 1,785 ක්. ප්‍රමුඛ ආකෘති හරහා අධි-ප්‍රතික්ෂේපය පුළුල්ව පවතින බව එහි කතුවරු වාර්තා කරති. වෙනම ECCV 2024 අධ්‍යයනයක් කලාත්මක නග්නත්වය මත ඇගයූ NSFW වර්ගීකාරක තුනක ස්ත්‍රී-පුරුෂ සහ ශෛලීය නැඹුරුව සොයාගත්තේය.
වාරණයෙන් තොර AI රූප උත්පාදකයක් සැබවින් ම වෙනස් කරන්නේ කුමක් ද?
එය උත්පාදන මාර්ගයෙන් ප්‍රතික්ෂේප ස්තරය සහ අන්තර්ගත පෙරහන ඉවත් කරයි, එනිසා නීත්‍යානුකූල ඉල්ලීමක් නිහඬව ප්‍රහාරයක් ලෙස නැවත වර්ග කරන්නේ නැත. එය විනිශ්චය ඉවත් නොකරයි — එය එය නැවත ස්ථානගත කරයි. කිසිවක් සෑදීමට පෙර නිශ්චිත උත්පාදන විමසුම තහවුරු කිරීමේ කාඩ්පතක Shannon ඔබට පෙන්වයි, එනිසා තීරණය ගනු ලබන්නේ වගකීම් සහගත භාවිත ප්‍රතිපත්තිය යටතේ, නිපදවෙන දේ දැකිය හැකි පුද්ගලයෙකු විසිනි.
Shannon වීඩියෝ සාදයි ද?
නැත. Shannon නව රූප සාදයි, පවතින එක් රූපයක් සංස්කරණය කරයි, සහ රූප දෙකක් හෝ වැඩි ගණනක් එකකට සම්බන්ධ කරයි. එය රූප සජීවිකරණය නොකරන අතර කිසිදු ආකාරයක වීඩියෝවක් ද නොසාදයි.
Shannon API එක හරහා මට රූප සෑදිය හැකි ද?
නැත. රූප නිර්මාණය, සංස්කරණය සහ සම්බන්ධ කිරීම තිබෙන්නේ Shannon කතාබස් යෙදුමේය. /v1 API එක පෙළ සහ දෘශ්‍ය හැකියාව සපයයි — ඔබ සපයන රූප කියවීම සහ විශ්ලේෂණය කිරීම — රූප නිර්මාණය නොවේ.
පෙරහනක් නොමැති නම්, අනිසි භාවිතය නවත්වන්නේ කුමක් ද?
මූල පද අවහිර ලැයිස්තුවක් නොව ප්‍රතිපත්තිය, වගවීම සහ දෘශ්‍යමාන තීරණ ලක්ෂ්‍යයකි. Shannon ඉල්ලීමකින් තොරව කිසි විටෙක නොසාදයි, සෑදීමට පෙර සම්පූර්ණ විමසුම පෙන්වයි, ඔබ තහවුරු කරන තුරු කිසිවක් අය නොකරයි, තවද බාලවයස්කරුවන් සම්බන්ධ ලිංගික අන්තර්ගතය, සැබෑ පුද්ගලයන්ගේ එකඟතාවෙන් තොර පෞද්ගලික රූප, ඉලක්කගත හිරිහැර, සහ අනන්‍යතා හෝ මූල්‍ය ලේඛන ව්‍යාජ ලෙස සෑදීම තහනම් කරන ප්‍රකාශිත වගකීම් සහගත භාවිත ප්‍රතිපත්තියක් යටතේ ක්‍රියාත්මක වේ.
ඔබට සැබවින් ම අවශ්‍ය රූපය ඉල්ලන්න
කතාබස් යෙදුමේ නිර්මාණය, තනි රූප සංස්කරණය සහ බහු-රූප සංයුතිය — අන්තර්ගත පෙරහනක් නැත, ප්‍රතික්ෂේප ස්තරයක් නැත, සහ කිසිවක් සෑදීමට පෙර විමසුම තිරය මතය.
කතාබස් ආරම්භ කරන්න වගකීම් සහගත භාවිත ප්රතිපත්තියරූප තිබෙන්නේ කතාබස් යෙදුමේ · වීඩියෝ නිර්මාණයක් නැත · තවත් පර්යේෂණ
මූලාශ්‍ර: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 2023 අප්‍රේල් 22 · PetaPixel, 2023 අප්‍රේල් 3 · CNBC, 2024 පෙබරවාරි 22. Shannon AI ක්‍රියාත්මක කරනු ලබන්නේ Shannon Lab LLC, New Mexico, USA විසිනි.