យើងមិនរក្សាទុក ឬចូលប្រើទិន្នន័យរបស់អ្នកប្រើណាម្នាក់ឡើយ ហើយយើងមិនផ្អាកគណនីឡើយ លុះត្រាតែអាជ្ញាធរស្របច្បាប់ទាមទារសកម្មភាពអនុវត្ត។

ការស្រាវជ្រាវ · ការកំណត់ទីតាំង

គ្មានសេនស័រ ធៀបនឹងមានតម្រង កម្មវិធីបង្កើតរូបភាព AI

តម្រងខ្លឹមសារត្រូវបានសាងសង់ឡើងដើម្បីបញ្ឈប់គ្រោះថ្នាក់ពិតប្រាកដមួយចំនួនតូច។ ក្នុងការអនុវត្តជាក់ស្តែង ពួកវាក៏បញ្ឈប់រូបភាពវេជ្ជសាស្ត្រ ការស្ថាបនាឡើងវិញផ្នែកកោសល្យវិច័យ ការគូររូបមនុស្សពិត ប្រវត្តិសាស្ត្រសង្គ្រាម ការចំអកបែបវិចារណកថា និងក្រុមហ៊ុនដែលចង់គូររូបផលិតផលរបស់ខ្លួនផងដែរ។ នេះជាតម្លៃដែលត្រូវបង់ — និងអ្វីដែលការដកតម្រងចេញផ្លាស់ប្តូរ និងមិនផ្លាស់ប្តូរ។

បោះពុម្ពផ្សាយ ថ្ងៃទី 5 ខែកញ្ញា ឆ្នាំ 2026ការស្រាវជ្រាវShannon Lab LLC

សេចក្ដីសង្ខេប

កម្មវិធីបង្កើតរូបភាពទូទៅត្រួតពិនិត្យការណែនាំ និងលទ្ធផលដោយប្រើកម្មវិធីចាត់ថ្នាក់ដែលឃើញតែ ពាក្យ និងភីកសែល មិនដែលឃើញ គោលបំណង ឡើយ។ នោះធានាថានឹងមានលទ្ធផលវិជ្ជមានក្លែងក្លាយ ហើយវាធ្លាក់ខ្លាំងបំផុតលើការងារជំនាញ៖ កាយវិភាគសាស្ត្រ កោសល្យវិច័យ រូបអាក្រាតសិល្បៈ រូបភាពប្រវត្តិសាស្ត្រ ការមើលឃើញជាមុន ការចំអក សម្ភារបណ្តុះបណ្តាលការយល់ដឹងអំពីសន្តិសុខ និងម្ចាស់សិទ្ធិដែលសុំរូបភាពម៉ាករបស់ខ្លួន។ OVERT (ICML 2025) ជាមាត្រដ្ឋានវាស់វែងទ្រង់ទ្រាយធំដំបូងគេសម្រាប់ភាពបរាជ័យបែបនេះ ប្រើ ការណែនាំគ្មានគ្រោះថ្នាក់តែមើលទៅគួរឱ្យសង្ស័យចំនួន 4,600 ហើយរកឃើញថាការបដិសេធហួសហេតុរីករាលដាលឆ្លងកាត់ម៉ូដែលឈានមុខគេ។ Shannon ដំណើរការការបង្កើតរូបភាព ការកែសម្រួលរូបភាពតែមួយ និងការផ្សំរូបភាពច្រើន នៅលើ ចង្កោម GPU ផ្ទាល់ខ្លួនរបស់យើង ដោយគ្មានតម្រងខ្លឹមសារ និងគ្មានស្រទាប់បដិសេធ ដោយជំនួសបញ្ជីទប់ស្កាត់ដោយការសម្រេចចិត្តដែលមើលឃើញ៖ កាតបញ្ជាក់ដែលបង្ហាញការណែនាំពិតប្រាកដមុនពេលអ្វីមួយត្រូវបានបង្កើត។ នោះបង្កើនទំនួលខុសត្រូវរបស់អ្នក និងរបស់យើង ហើយទាំងពីរស្ថិតនៅក្នុង គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវ។ គ្មានការបង្កើតវីដេអូទេ ហើយការងាររូបភាពស្ថិតនៅក្នុងកម្មវិធីជជែក មិនមែននៅលើ API ទេ។

ស្ទើរតែគ្រប់គ្នាដែលធ្វើការជាមួយរូបភាពជាវិជ្ជាជីវៈ សុទ្ធតែមានរឿងដូចគ្នា។ ការណែនាំមួយដែលពិពណ៌នាអ្វីធម្មតា — ផ្នែកកាត់ទទឹងនៃសន្លាក់ជង្គង់ ឡានមួយនៅវិនាទីប៉ះទង្គិច ការសិក្សារូបរាងកាយដោយធ្យូង ទាហានម្នាក់ក្នុងឆ្នាំ 1944 — ត្រឡប់មកវិញជាការរំលោភគោលការណ៍។ អ្នកសរសេរឡើងវិញ ហើយទទួលបានការរំលោភផ្សេងទៀត។ ទីបំផុតអ្នកសរសេរអ្វីមួយស្រពិចស្រពិលល្មមឱ្យឆ្លងកាត់ ហើយទទួលបានរូបភាពដែលលែងបង្ហាញអ្វីដែលអ្នកត្រូវការទៀតហើយ។ ឧបករណ៍នេះមិនបានបរាជ័យខ្លាំងៗទេ វាបានបរាជ័យបន្តិចម្តងៗ ហើយធ្វើឱ្យអ្នកជាអ្នកសម្របសម្រួល។

01ហេតុអ្វីបានជាកម្មវិធីបង្កើតរូបភាព AI បដិសេធការណែនាំដែលច្បាស់ជាស្របច្បាប់?

ការបដិសេធជាធម្មតាមិនមែនជាមតិរបស់ម៉ូដែលរូបភាពទេ។ វាជាលទ្ធផលរបស់ជង់តម្រងជុំវិញម៉ូដែល ហើយស្រទាប់នីមួយៗរបស់វាពន្យល់ស្ទើរតែគ្រប់ការបដិសេធចម្លែកដែលអ្នកធ្លាប់ទទួល។

ស្រទាប់	អ្វីដែលវាពិនិត្យ	ភាពបរាជ័យលក្ខណៈពិសេស
បញ្ជីទប់ស្កាត់ការណែនាំ	ខ្សែអក្សរត្រង់ៗ និងកំណែស្រដៀងគ្នាក្នុងអត្ថបទរបស់អ្នក	ទប់ស្កាត់ពាក្យមួយ ដោយមិនគិតពីប្រយោគជុំវិញវា — "speculum" បរាជ័យ "stethoscope" ឆ្លងកាត់
កម្មវិធីចាត់ថ្នាក់ការណែនាំ	ការវិនិច្ឆ័យដែលបានរៀន អំពី "ហានិភ័យ" នៃការណែនាំ	ភ្ញាក់ឡើងតាមភាពជិតស្និទ្ធនឹងប្រធានបទ៖ អ្វីៗដែលនៅជិតវេជ្ជសាស្ត្រ អាវុធ រាងកាយ ឬនយោបាយ ទទួលបានពិន្ទុខ្ពស់
ការហ្វឹកហាត់ឱ្យម៉ូដែលបដិសេធ	ភាពស្ទាក់ស្ទើររបស់ម៉ូដែលដែលបានហ្វឹកហាត់មក	បដិសេធដោយគ្មានសារកំហុស ឬផលិតជម្រើសជំនួសដែលបានសម្អាតដោយស្ងាត់ស្ងៀម
កម្មវិធីចាត់ថ្នាក់លទ្ធផល	ភីកសែលដែលបានបង្កើតរួច ដោយគ្មានបរិបទនៃការណែនាំ	មិនអាចបែងចែកផ្ទាំងកាយវិភាគសាស្ត្រពីរូបភាពអាសអាភាស ឬឈុតភាពយន្តពីព្រឹត្តិការណ៍ពិត
ការជំនួសតាមគោលការណ៍	ការសរសេរការណែនាំរបស់អ្នកឡើងវិញដោយស្ងាត់ស្ងៀម មុនពេលបង្កើតរូបភាព	អ្នកទទួលបានរូបភាព តែមិនមែនរូបភាពដែលអ្នកបានបញ្ជាក់ ហើយអ្នកមិនត្រូវបានប្រាប់ថាហេតុអ្វី

រាល់ស្រទាប់មានចំណុចងងឹតដូចគ្នាមួយ៖ គ្មានស្រទាប់ណាមួយអាចមើលឃើញថា ហេតុអ្វី អ្នកសួរនោះទេ។ អ្នកគូររូបវេជ្ជសាស្ត្រ អ្នកជំនាញរបស់ដើមចោទដែលកំពុងស្ថាបនាឡើងវិញនូវការប៉ះទង្គិច និងអ្នកមានចេតនាអាក្រក់ ទាំងអស់វាយបញ្ចូលនាមដូចគ្នា។ តម្រងឃើញនាមនោះ មិនឃើញអាត្លាស់កាយវិភាគសាស្ត្រ ឬឯកសាររឿងក្តីទេ ហើយវាត្រូវបានវាយតម្លៃលើគ្រោះថ្នាក់ដែលវាទុកឱ្យឆ្លងកាត់ — មិនដែលលើការងារដែលវាបំផ្លាញឡើយ។ ក្រោមភាពមិនស្មើគ្នានេះ ការកំណត់ដ៏សមហេតុផលសម្រាប់ប្រតិបត្តិករណាមួយគឺ បដិសេធកាន់តែច្រើន។ នេះក៏ជាមូលហេតុដែល «គ្រាន់តែសរសេរឡើងវិញទៅ» មិនមែនជាដំណោះស្រាយ៖ ការសរសេរឡើងវិញមិនផ្តល់ព័ត៌មានថ្មីអ្វីដល់តម្រងទេ វាគ្រាន់តែផ្លាស់ទីការណែនាំរបស់អ្នកចេញឆ្ងាយពីពាក្យដែលធ្វើឱ្យវាភ្ញាក់ ដែលជាធម្មតាមានន័យថាឆ្ងាយពីអ្វីដែលអ្នកចង់មានន័យ។

02អ្វីដែលតម្រងខ្លឹមសារពិតជាមានវត្តមានដើម្បីទប់ស្កាត់

អំណះអំណាងសម្រាប់ការបង្កើតរូបភាពគ្មានតម្រង ដែលធ្វើពុតថាតម្រងមានវត្តមានដោយគ្មានមូលហេតុ គឺមិនសមនឹងអានទេ។ មានលទ្ធផលមួយចំនួនតូចចង្អៀត ដែលគ្រោះថ្នាក់របស់វាកើតចេញពីរូបភាពខ្លួនឯង ដោយមិនអាស្រ័យលើអ្នកណាសួរ ឬហេតុអ្វី៖

ខ្លឹមសារផ្លូវភេទដែលពាក់ព័ន្ធនឹងអនីតិជន។ គ្មានបរិបទណាធ្វើឱ្យវាទទួលយកបានទេ គ្មានលំហូរការងារវិជ្ជាជីវៈណាត្រូវការវាឡើយ។
រូបភាពស្និទ្ធស្នាលរបស់មនុស្សពិតដោយគ្មានការយល់ព្រម។ គ្រោះថ្នាក់ធ្លាក់លើមនុស្សម្នាក់ដែលមិនបានយល់ព្រម ហើយការដកចេញក៏មិនអាចលុបវាបានដែរ។
ការបៀតបៀនដោយផ្តោតគោលដៅ និងការប្រឌិតបរិហារកេរ្តិ៍ — ការធ្វើឱ្យបុគ្គលដែលមានឈ្មោះម្នាក់មើលទៅដូចជាបានធ្វើអ្វីមួយដែលគាត់មិនបានធ្វើ។
ឯកសារកម្រិតក្លែងបន្លំ — លិខិតឆ្លងដែន អត្តសញ្ញាណប័ណ្ណ ក្រដាសប្រាក់ ត្រា និងឧបករណ៍ហិរញ្ញវត្ថុ ដែលធ្វើឡើងដើម្បីឱ្យមើលទៅដូចពិត។
ភស្តុតាងសំយោគបញ្ឆោត — រូបភាពប្រឌិតអំពីព្រឹត្តិការណ៍ពិត ដែលបង្ហាញជាឯកសារបញ្ជាក់ ជាជាងជារូបភាពគំនូរ។

បញ្ជីនេះខ្លី ហើយវាមានរចនាសម្ព័ន្ធ៖ គ្រោះថ្នាក់ស្ថិតនៅក្នុងវត្ថុនោះខ្លួនឯង ក្នុងភាពស្រដៀងគ្នារបស់វាទៅនឹងមនុស្សពិត ឬឯកសារពិត និងក្នុងការបង្ហាញវាថាជាការពិត។ សូមកត់សម្គាល់អ្វីដែល មិន មាននៅក្នុងបញ្ជីនេះ — ភាពអាក្រាត ឈាម អាវុធ អំពើឃោរឃៅប្រវត្តិសាស្ត្រ ការចំអកនយោបាយ។ ទាំងនោះជាវត្ថុធាតុដើមរបស់វេជ្ជសាស្ត្រ សារព័ត៌មាន សិល្បៈ កោសល្យវិច័យ និងការចំអក ហើយតម្រងដែលចាត់ទុកពួកវាជាប្រភេទគ្រោះថ្នាក់ កំពុងអនុវត្តគំនិតដ៏ទូលាយជាងនេះឆ្ងាយ អំពីប្រធានបទណាដែលគួរឱ្យគោរព។

Shannon ហាមឃាត់អ្វីៗគ្រប់យ៉ាងក្នុងបញ្ជីនោះ នៅក្នុង គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវដែលបានផ្សព្វផ្សាយ ជាមួយប្រភេទដែលមានឈ្មោះច្បាស់លាស់ និងផលវិបាក ជាជាងតារាងពាក្យគន្លឹះដែលចាប់បាន "placenta" ផងដែរ។ មួយជាវិធានដែលអ្នកអានបាន និងអាចទាមទារពីយើងបាន មួយទៀតជាការទាយអំពីចេតនារបស់អ្នក ដោយកម្មវិធីចាត់ថ្នាក់ដែលអ្នកមើលមិនឃើញ។

03តើបញ្ហាការបដិសេធហួសហេតុធំប៉ុណ្ណា? អ្វីដែលការស្រាវជ្រាវវាស់វែង

រហូតដល់ថ្មីៗនេះ ការបដិសេធហួសហេតុនៅក្នុងម៉ូដែលរូបភាពគ្រាន់តែជារឿងនិទាន — មនុស្សរាប់ពាន់នាក់មានរឿងដូចគ្នា តែគ្មានវិធីវាស់ទំហំវាឡើយ។ រឿងនោះបានផ្លាស់ប្តូរជាមួយ OVERT (OVEr-Refusal evaluation on Text-to-image models) ដែលបានបង្ហាញនៅ ICML 2025 ដោយក្រុម UC Berkeley រួមមាន Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song និង Song Mei៖ ជាមាត្រដ្ឋានវាស់វែងទ្រង់ទ្រាយធំដំបូងគេ ដែលវាស់ថាតើប្រព័ន្ធបំប្លែងអត្ថបទទៅរូបភាពបដិសេធការណែនាំដែលគ្មានគ្រោះថ្នាក់ទាំងស្រុងញឹកញាប់ប៉ុណ្ណា។

4,600

ការណែនាំគ្មានគ្រោះថ្នាក់

ប្រភេទសុវត្ថិភាព

1,785

សំណាកគ្រប់គ្រងគ្រោះថ្នាក់

ICML

2025

ការរចនាមានសារៈសំខាន់។ ការណែនាំ 4,600 ត្រូវបានសាងសង់ឡើងឱ្យ មើលទៅ ដូចមានគ្រោះថ្នាក់ ខណៈពួកវាគ្មានគ្រោះថ្នាក់ — ជារូបរាងនៃសំណើវិជ្ជាជីវៈពិតប្រាកដដែលនិយាយពីកាំបិតវះកាត់ ស្នាមជាំ ឬបាតុកម្ម — ហើយការណែនាំដែលមានគ្រោះថ្នាក់ពិតប្រាកដ 1,785 ស្ថិតនៅក្បែរពួកវាជាសំណាកគ្រប់គ្រង ដូច្នេះម៉ូដែលមួយមិនអាចទទួលបានពិន្ទុល្អដោយបដិសេធអ្វីៗទាំងអស់ឡើយ។ ប្រភេទទាំងប្រាំបួនលាតសន្ធឹងពីឯកជនភាពបុគ្គល និងមនុស្សសាធារណៈ ឆ្លងកាត់រហូតដល់រក្សាសិទ្ធិ ការរើសអើង ការធ្វើបាបខ្លួនឯង ខ្លឹមសារផ្លូវភេទ និងសកម្មភាពខុសច្បាប់ រហូតដល់អំពើហិង្សា។

លទ្ធផលចម្បងគឺថាការបដិសេធហួសហេតុ រីករាលដាលឆ្លងកាត់ប្រភេទ និងឆ្លងកាត់ម៉ូដែលឈានមុខគេ។ លទ្ធផលទីពីរកាន់តែធ្ងន់ធ្ងរចំពោះដំណោះស្រាយជុំវិញដែលគេប្រើជាធម្មតា៖ អ្នកនិពន្ធបានសាកល្បង ការសរសេរការណែនាំឡើងវិញ ជាវិធានការកាត់បន្ថយ ហើយរាយការណ៍ថាវា «ជារឿយៗធ្វើឱ្យខូចភាពស្មោះត្រង់ចំពោះអត្ថន័យនៃការណែនាំដើម»។ អ្នកអាចឆ្លងកាត់តម្រងបាន ដោយផ្លាស់ប្តូរអ្វីដែលអ្នកបានស្នើសុំ ហើយបន្ទាប់មកអ្នកលែងមានអ្វីដែលអ្នកបានស្នើសុំទៀតហើយ។

ការសិក្សាតូចចង្អៀតជាងមួយទៀត សន្និដ្ឋានដូចគ្នាពីផ្នែកភីកសែល។ នៅក្នុង An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann និង Oliver សិក្ខាសាលា AI4VA នៅ ECCV 2024) អ្នកនិពន្ធវាយតម្លៃកម្មវិធីចាត់ថ្នាក់ NSFW ផលិតកម្មចំនួនបីលើរូបអាក្រាតសិល្បៈ ហើយរកឃើញទាំង ភាពលំអៀងខាងភេទ និង ភាពលំអៀងខាងរចនាបថ៖ សាលក្រមលើការសិក្សារូបរាងកាយមួយ អាស្រ័យលើថារាងកាយរបស់នរណាត្រូវបានបង្ហាញ និងក្នុងរចនាបថបែបណា។ នោះជាការបញ្ជាក់ដែលបានវាស់វែងអំពីរឿងដែលវិចិត្រករគូររូបមនុស្សពិតគ្រប់រូបត្រូវបានគេប្រាប់ថាជាការស្រមើស្រមៃ។

04ការងារស្របច្បាប់ប្រាំបីប្រភេទដែលកម្មវិធីមានតម្រងទប់ស្កាត់

ទាំងនេះជាប្រភេទដែលការបដិសេធហួសហេតុមិនមែនត្រឹមតែជាការរអាក់រអួលទេ តែជាការបញ្ឈប់ការងារ។ កន្លែងណាមានករណីជាក់លាក់ដែលបានរាយការណ៍ វាត្រូវបានដកស្រង់។ កន្លែងណាដែលមិនបានផ្ទៀងផ្ទាត់ ប្រភេទនោះត្រូវបានពិពណ៌នាដោយមិនប្រឌិតឧប្បត្តិហេតុឡើយ។

1. រូបភាពវេជ្ជសាស្ត្រ និងកាយវិភាគសាស្ត្រ

ករណីដែលមានឯកសារបញ្ជាក់ល្អបំផុតក្នុងវិស័យនេះ។ ក្នុងខែមេសា ឆ្នាំ 2023 The Intercept (Debbie Nathan) បានរាយការណ៍ថា Midjourney បានហាមឃាត់ពាក្យកាយវិភាគសាស្ត្រ រួមទាំង speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom និង IUD ខណៈ DALL·E 2 បានបដិសេធ "pills used in medication abortion" ជាមួយសារអំពីគោលការណ៍ខ្លឹមសារ។ លំនាំនេះត្រូវបានរកឃើញដោយ Julia Rockwell ជាអ្នកវិភាគទិន្នន័យគ្លីនិក ដែលបានព្យាយាមបង្កើតរូបភាពសុកជាអំណោយសម្រាប់មិត្តភក្តិជីវវិទ្យាកោសិកា ហើយបានរាយការណ៍ទៅ MIT Technology Review។ ភាពមិនស្មើគ្នាគឺជាភស្តុតាង៖ "stethoscope" បង្កើតបានធម្មតា ខណៈ "speculum" ត្រូវបានហាមឃាត់។ អ្នកស្រាវជ្រាវនៃសាកលវិទ្យាល័យ Washington លោក Bill Howe បានហៅតម្រងទាំងនោះថា "ham-fisted" ហើយបាននិយាយថាពួកវាធ្វើឱ្យ "ស្ទើរតែមិនអាចធ្វើការពិភាក្សាបែបវិទ្យាសាស្ត្រអំពីការបន្តពូជបានឡើយ"។ ការអប់រំអ្នកជំងឺ អាត្លាស់វះកាត់ និងកម្មវិធីសិក្សាគិលានុបដ្ឋាយិកា សុទ្ធតែត្រូវការការបង្ហាញរាងកាយឱ្យបានត្រឹមត្រូវ រួមទាំងផ្នែកដែលបញ្ជីពាក្យគន្លឹះមួយបានសម្រេចថាមិនសមរម្យ។

2. ការស្ថាបនាឡើងវិញផ្នែកកោសល្យវិច័យ និងគ្រោះថ្នាក់

ការស្ថាបនាឡើងវិញនៃការប៉ះទង្គិច ការវិភាគប្រភពភ្លើងឆេះ និងសម្ភារបង្ហាញនៅតុលាការ ទាមទារឱ្យបង្ហាញការខូចខាត របួស និងយន្តការហិង្សាដោយភាពត្រឹមត្រូវបែបគ្លីនិក។ តម្រងដែលបានលៃតម្រូវឱ្យបដិសេធ "blood" ឬ "gunshot wound" បដិសេធវិន័យសិក្សាទាំងមូល៖ បរិបទ — របាយការណ៍អ្នកជំនាញ ឯកសារធានារ៉ាប់រង — មើលមិនឃើញចំពោះកម្មវិធីចាត់ថ្នាក់ ហើយភាពអព្យាក្រឹតដែលធ្វើឱ្យរូបភាពបែបនេះអាចទទួលយកបានក្នុងតុលាការ គឺជាអ្វីដែលធ្វើឱ្យវាមើលទៅដូចរូបភាពឃោរឃៅ។

3. រូបអាក្រាតសិល្បៈ និងការគូររូបមនុស្សពិត

រូបអាក្រាតជាប្រធានបទគ្រឹះនៃសិល្បៈនៅគ្រប់ទីកន្លែង ហើយការសិក្សារូបរាងកាយជាស្នូលនៃការអប់រំសិល្បៈ។ លទ្ធផល ECCV 2024 ខាងលើ គឺជាកំណែដែលបានវាស់វែងនៃអ្វីដែលវិចិត្រកររាយការណ៍៖ កម្មវិធីចាត់ថ្នាក់មិនអាចបែងចែកការសិក្សារូបរាងកាយពីរូបភាពអាសអាភាសបានច្បាស់លាស់ទេ ហើយកំហុសរបស់ពួកវាលំអៀងតាមភេទ និងរចនាបថ — ជាតម្រងដែលធ្ងន់បំផុតលើប្រពៃណីដែលវាគួរតែស្គាល់។

4. រូបភាពប្រវត្តិសាស្ត្រ និងសង្គ្រាម

សិល្បៈក្នុងសៀវភៅសិក្សា ការបកស្រាយសារមន្ទីរ និងគម្រោងអនុស្សាវរីយ៍ ទាមទារឱ្យបង្ហាញឯកសណ្ឋាន អាវុធ ជំរុំ សមរភូមិ និងអំពើឃោរឃៅ។ ឧប្បត្តិហេតុ Gemini ក្នុងខែកុម្ភៈ ឆ្នាំ 2024 គួរឱ្យសិក្សា ព្រោះភាពបរាជ័យបានដំណើរការក្នុងទិសដៅផ្ទុយ ហើយបានបង្កការខូចខាតស្មើគ្នា។ Google បានផ្អាកសមត្ថភាពរបស់ Gemini ក្នុងការបង្កើតរូបភាពមនុស្សនៅ ថ្ងៃទី 22 ខែកុម្ភៈ ឆ្នាំ 2024 បន្ទាប់ពីវាបានផលិតរូបភាពក្រុមប្រវត្តិសាស្ត្រដែលត្រូវបានផ្លាស់ប្តូរជាតិសាសន៍ រួមទាំងទាហានអាល្លឺម៉ង់សម័យណាស៊ី។ នាយកប្រតិបត្តិ Sundar Pichai បានហៅលទ្ធផលទាំងនោះថា "completely unacceptable"។ អនុប្រធានជាន់ខ្ពស់ Prabhakar Raghavan បានទទួលស្គាល់ថាម៉ូដែលបាន "overcompensated" ហើយបានក្លាយជា "over-conservative"។ សុវត្ថិភាពដែលមើលមិនឃើញបរិបទ មិនបានធ្វើឱ្យរូបភាពប្រវត្តិសាស្ត្រមានសុវត្ថិភាពជាងមុនទេ — វាបានធ្វើឱ្យរូបភាពទាំងនោះខុសពីការពិត ដែលសម្រាប់អ្នកបោះពុម្ពប្រវត្តិសាស្ត្រ គឺអាក្រក់ជាង។

5. អំពើហិង្សាក្នុងរឿងប្រឌិត និងការមើលឃើញជាមុនសម្រាប់ភាពយន្ត

ស្តូរីបត សិល្បៈគំនិត រឿងកំប្លែងជារូបភាព និងការរចនាហ្គេម បង្ហាញអំពើហិង្សាដោយហេតុផលដូចគ្នានឹងប្រលោមលោក និងភាពយន្តដែរ។ តម្រងដែលមិនអាចបែងចែកស្តូរីបតរឿងភ័យខ្លាចពីការគំរាមកំហែង ចាត់ទុកខ្សែសង្វាក់សិល្បៈនិទានទាំងមូលថាគួរឱ្យសង្ស័យ — ទោះបីស្តូរីបតជាអ្វីមួយដែលមិនពិតយ៉ាងច្បាស់លាស់ ជាផែនការសម្រាប់ឈុតដែលតួសម្តែង និងក្រុមបច្ចេកទេសនឹងរៀបចំក៏ដោយ។

6. ការចំអកនយោបាយ និងការគូររូបកំប្លែងវិចារណកថា

រូបគំនូរបំផ្លើសអំពីអ្នកមានអំណាច ស្ថិតក្នុងចំណោមប្រភេទនៃសេរីភាពបញ្ចេញមតិដែលត្រូវបានការពារខ្លាំងបំផុតនៅក្នុងលទ្ធិប្រជាធិបតេយ្យភាគច្រើន ហើយជាធម្មតាជារឿងដំបូងគេដែលតម្រងរូបភាពដកចេញ។ ករណីដែលមានឯកសារបញ្ជាក់ច្បាស់បំផុតគឺការសម្រេចចិត្តរបស់ Midjourney ក្នុងខែមេសា ឆ្នាំ 2023 ក្នុងការហាមឃាត់រូបភាពប្រធានាធិបតីចិន Xi Jinping និងទប់ស្កាត់ឈ្មោះរបស់គាត់ក្នុងការណែនាំ — ដែលបានរាយការណ៍ដោយ PetaPixel, Decrypt និងអ្នកដទៃទៀត — ខណៈបន្តអនុញ្ញាតឱ្យមេដឹកនាំពិភពលោកដទៃទៀត។ ស្ថាបនិក David Holz បានពន្យល់នៅលើ Discord ថាក្រុមហ៊ុនចង់ "minimize drama" ហើយថា "ability for people in China to use this tech is more important than your ability to generate satire"។ Sarah McLaughlin នៃ Foundation for Individual Rights and Expression បានហៅវាថាជាការចាប់សេនស័រ។ ទោះអ្នកសន្និដ្ឋានយ៉ាងណាអំពីការគណនាអាជីវកម្មនោះក៏ដោយ យន្តការនេះសមនឹងត្រូវដាក់ឈ្មោះ៖ ការរឹតបន្តឹងសេរីភាពបញ្ចេញមតិថ្នាក់ជាតិមួយ ត្រូវបានអនុវត្តលើ អ្នកប្រើប្រាស់គ្រប់រូបទូទាំងពិភពលោក ព្រោះតម្រងសកលមួយមានការកំណត់តែមួយប៉ុណ្ណោះ។

7. ការស្រាវជ្រាវសន្តិសុខ និងសម្ភារការយល់ដឹងអំពីការបន្លំ

ក្រុមសន្តិសុខសាងសង់សម្ភារបណ្តុះបណ្តាលដែលត្រូវតែមើលទៅដូចអ្វីដែលវាព្រមាន៖ អេក្រង់ចូលប្រើក្លែងក្លាយដែលមើលទៅដូចពិត វិក្កយបត្រក្លែងបន្លំ កូដ QR មានគ្រោះថ្នាក់នៅលើម៉ែត្រចតឡាន។ ចំពោះកម្មវិធីចាត់ថ្នាក់ វាមិនអាចបែងចែកពីការវាយប្រហារដែលវាបានចាក់វ៉ាក់សាំងប្រឆាំងបានឡើយ — ភាពដូចពិតគឺជាចំណុចសំខាន់ — ដូច្នេះតម្រងទប់ស្កាត់ការការពារ និងការវាយប្រហារដូចៗគ្នា ដែលផ្តល់អត្ថប្រយោជន៍ដល់អ្នកវាយប្រហារ ដែលយ៉ាងណាក៏មិនដែលនឹងប្រើឧបករណ៍អ្នកប្រើប្រាស់ដែលមានតម្រងនោះដែរ។

8. ម្ចាស់សិទ្ធិត្រូវបានបដិសេធរូបភាពម៉ាក ផលិតផល ឬរូបរាងរបស់ខ្លួន

ការត្រងតាមរក្សាសិទ្ធិ និងពាណិជ្ជសញ្ញា មិនពិនិត្យភាពជាម្ចាស់ទេ វាពិនិត្យភាពស្រដៀងគ្នា។ ក្រុមហ៊ុនមួយមិនអាចបង្កើតរូបភាពនិមិត្តសញ្ញា ឬផលិតផលរបស់ខ្លួនបានងាយស្រួលទេ ម្ចាស់សិទ្ធិមួយមិនអាចគូររូបតួអង្គរបស់ខ្លួនបានទេ ហើយមនុស្សជាញឹកញាប់មិនអាចបង្កើតរូបមុខរបស់ខ្លួនបានដែរ ព្រោះតម្រងរូបរាងផ្តោតលើភាពអាចស្គាល់បាន ជាជាងលើការយល់ព្រម។ OVERT រួមបញ្ចូល "copyright violations" ក្នុងចំណោមប្រភេទបដិសេធហួសហេតុទាំងប្រាំបួនរបស់វា ដោយសារតែលទ្ធផលវិជ្ជមានក្លែងក្លាយនេះកើតឡើងញឹកញាប់បំផុត។ តម្រងគឺជាឧបករណ៍រឹងសម្រាប់សំណួរមួយ — តើអ្នកមានសិទ្ធិលើវាទេ? — ដែលវាគ្មានវិធីសួរបានឡើយ។

បួនក្នុងចំណោមប្រាំបីខាងលើ ត្រូវបានភ្ជាប់ទៅករណីជាក់លាក់ដែលបានបោះពុម្ពផ្សាយ (វេជ្ជសាស្ត្រ រូបអាក្រាតសិល្បៈ ប្រវត្តិសាស្ត្រ ការចំអក) បូកនឹងប្រភេទរក្សាសិទ្ធិរបស់ OVERT សម្រាប់ប្រភេទទីប្រាំបី។ កោសល្យវិច័យ ការមើលឃើញជាមុនសម្រាប់រឿងប្រឌិត និងសម្ភារការយល់ដឹងអំពីសន្តិសុខ ត្រូវបានបញ្ជាក់ជាប្រភេទ៖ ពួកវាជាថ្នាក់ការងារវិជ្ជាជីវៈដែលរងផលប៉ះពាល់ដ៏ល្បី ដែលយើងមិនបានផ្ទៀងផ្ទាត់ឧប្បត្តិហេតុជាក់លាក់ដែលបានបោះពុម្ពផ្សាយឡើយ។

ពិនិត្យប្រភពដើម

រាល់ករណីដែលមានឯកសារបញ្ជាក់ខាងលើ គឺជាសាធារណៈ និងអាចផ្ទៀងផ្ទាត់ដោយឯករាជ្យ។ សូមអានពួកវាដោយផ្ទាល់ ជាជាងទុកចិត្តលើការពិពណ៌នារបស់យើង។

មាត្រដ្ឋាន OVERT អំពីការបដិសេធហួសហេតុ (ICML 2025) The Intercept — ពាក្យកាយវិភាគសាស្ត្រដែលត្រូវហាម កម្មវិធីចាត់ថ្នាក់ NSFW ធៀបនឹងរូបអាក្រាតសិល្បៈ (ECCV 2024) PetaPixel — Midjourney និងការចំអកនយោបាយ CNBC — ការផ្អាករូបភាព Gemini

05ហេតុអ្វីកម្មវិធីសិល្បៈ AI ទប់ស្កាត់អ្វីៗខុស ហើយហេតុអ្វីលទ្ធផលវិជ្ជមានក្លែងក្លាយរបស់តម្រងខ្លឹមសារមិនអាចលៃតម្រូវឱ្យបាត់បាន

ប្រតិកម្មដោយសភាវគតិចំពោះការទប់ស្កាត់ហួសហេតុគឺ «បន្ធូរកម្រិតទៅ»។ វាមិនដំណើរការទេ ដោយសារហេតុផលរចនាសម្ព័ន្ធ មិនមែនដោយសារខ្វះការខិតខំឡើយ។

ប្រភេទទាំងនោះត្រួតគ្នាក្នុងសញ្ញា តែមិនត្រួតគ្នាក្នុងការពិតទេ។ រូបភាពវះកាត់ និងរូបភាពអាសអាភាស មានភាពអាក្រាតដូចគ្នា។ ការស្ថាបនាឡើងវិញកោសល្យវិច័យ និងរូបភាពឃោរឃៅ មានឈាមដូចគ្នា។ ស្លាយបណ្តុះបណ្តាល និងឧបករណ៍បន្លំ មានទម្រង់ចូលប្រើក្លែងក្លាយដូចគ្នា។ រូបគំនូរកំប្លែងចំអក និងការប្រឌិតបរិហារកេរ្តិ៍ មានអ្នកនយោបាយដែលអាចស្គាល់បានដូចគ្នា។ អ្វីដែលបែងចែកគូនីមួយៗគឺ គោលបំណង និងការបង្ហាញ — ដែលអវត្តមានពីការណែនាំ និងអវត្តមានពីភីកសែល។ គ្មានកម្រិតណាបែងចែកចំនួនប្រជាជនពីរដែលកាន់កាប់តំបន់ដូចគ្នានៃលំហធាតុចូលបានឡើយ។ ការផ្លាស់ប្តូរកម្រិតត្រឹមតែជំនួសកំហុសមួយដោយកំហុសមួយទៀតប៉ុណ្ណោះ។ នោះជាអ្វីដែលឧប្បត្តិហេតុ Gemini បានបង្ហាញ៖ អន្តរាគមន៍ដែលមានបំណងជួសជុលភាពបរាជ័យមួយ បានបង្កើតភាពបរាជ័យមួយទៀត ដែលអនុប្រធានជាន់ខ្ពស់របស់ Google ផ្ទាល់បានពិពណ៌នាថា "overcompensated"។

តម្លៃមិនស្មើគ្នាសម្រាប់ប្រតិបត្តិករ មិនមែនសម្រាប់អ្នកទេ។ តម្រងដែលទុកឱ្យរូបភាពអាក្រក់មួយឆ្លងកាត់ បង្កើតជាព័ត៌មានក្នុងសារព័ត៌មាន។ តម្រងដែលទប់ស្កាត់រូបភាពស្របច្បាប់មួយម៉ឺនសន្លឹក បង្កើតតែភាពស្ងាត់ស្ងៀម ព្រោះអ្នកប្រើប្រាស់ដែលត្រូវបានបដិសេធមិនរៀបចំខ្លួនជាក្រុមទេ — ពួកគេបោះបង់ចោល។ ការគ្រប់គ្រងហានិភ័យក្រោមភាពមិនស្មើគ្នានេះ បញ្ចូលគ្នាទៅរកការទប់ស្កាត់ហួសហេតុជាអចិន្ត្រៃយ៍។ ហើយដោយសារការវិនិច្ឆ័យមូលដ្ឋានវាមិនអាចធ្វើទៅរួច បញ្ជីទប់ស្កាត់ប្រមូលផ្តុំខ្សែអក្សរត្រង់ៗនៅពេលឧប្បត្តិហេតុកើតឡើង ហើយនោះជារបៀបដែលអ្នកទទួលបាន "stethoscope" ធម្មតា និង "speculum" ត្រូវហាម។ គ្មាននរណាបានសម្រេចថាឧបករណ៍ជាក់លាក់សម្រាប់ស្ត្រីមានគ្រោះថ្នាក់ជាងនោះទេ បញ្ជីនោះបានធំឡើងនៅកន្លែងដែលពាក្យបណ្តឹងធ្លាក់។ វាកត់ត្រាប្រវត្តិទំនាក់ទំនងសាធារណៈរបស់ប្រតិបត្តិករ មិនមែនទ្រឹស្តីអំពីគ្រោះថ្នាក់ទេ។

យុត្តាធិការតឹងរឹងបំផុតក្លាយជាលំនាំដើមសកល។ តម្រងតែមួយបម្រើអ្នកប្រើប្រាស់គ្រប់រូបនៅគ្រប់ប្រទេស ដូច្នេះការរឹតបន្តឹងដែលបានបន្ថែមសម្រាប់ទីផ្សារមួយ ត្រូវបាននាំចេញទៅគ្រប់ទីផ្សារទាំងអស់ — វិធានអំពី Xi Jinping ជាករណីគំរូ។ ហើយ ការសរសេរការណែនាំរបស់អ្នកឡើងវិញបំផ្លាញអត្ថន័យរបស់អ្នក ដែលជាចំណុចពិសោធន៍របស់ OVERT៖ អ្នកជំនាញគ្រប់រូបដែលធ្លាប់បំប្លែងសំណើទៅជាពាក្យទន់ភ្លន់ដើម្បីឱ្យឆ្លងកាត់តម្រង បានបញ្ជាក់រឿងនេះដោយដៃរបស់ខ្លួន។ អ្នកមិនបានឈ្នះទេ អ្នកបានសម្របសម្រួល។

គ្មានចំណុចណាមួយក្នុងនេះឥតតម្លៃទេ ហើយដោយសារវាបរាជ័យដោយស្ងាត់ស្ងៀម តម្លៃនោះមើលមិនឃើញនៅក្នុងសូចនាករដែលប្រតិបត្តិករតាមដាន។ បន្ទាប់ពីការបដិសេធច្រើនគ្រប់គ្រាន់ អ្នកឈប់សួរ ហើយចាប់ផ្តើមបង្រួមរាល់ការណែនាំទុកជាមុនទៅតាមអ្វីដែលអ្នកទាយថានឹងឆ្លងកាត់។ ពាក្យទន់ភ្លន់ដែលទីបំផុតឆ្លងកាត់បាន ផ្តល់រូបភាពដែលជិតនឹង តែមិនមែនជា អ្វីដែលឯកសាររបស់អ្នកត្រូវការ។ សារគោលការណ៍ទូទៅមួយមិនប្រាប់អ្នកអ្វីទាល់តែសោះអំពីស្រទាប់ណាដែលបានភ្ញាក់ ដូច្នេះអ្នកអាចត្រឹមតែទាយ និងព្យាយាមម្តងទៀត — ហើយការងាររូបភាពជាការធ្វើម្តងហើយម្តងទៀត ដូច្នេះតម្រងដែលចាប់បានមួយក្នុងចំណោមប្រាំដងនៃការព្យាយាម បំបែករង្វិលជុំការងារ មិនត្រឹមតែធ្វើឱ្យវាយឺតទេ។ ទន្ទឹមនឹងនោះ វិស័យដែលមានហេតុផលខ្លាំងបំផុតដើម្បីទាមទារឧបករណ៍ធ្ងន់ធ្ងរ មិនទទួលបានអ្នកត្រួតពិនិត្យ មិនមានសិទ្ធិប្តឹងឧទ្ធរណ៍ ហើយជាធម្មតាក៏គ្មានបញ្ជីដែលបានផ្សព្វផ្សាយអំពីអ្វីដែលត្រូវទប់ស្កាត់ដែរ។ វិធានដែលអ្នកអានមិនបាន មិនមែនជាវិធានទេ វាជាអាកាសធាតុ។

06រូបភាព AI គ្មានសេនស័រ ធៀបនឹងមានតម្រង៖ អ្វីដែលពិតជាផ្លាស់ប្តូរ

នេះជាកំណែស្មោះត្រង់នៃការប្រៀបធៀប រួមទាំងអ្វីដែលប្រព័ន្ធគ្មានតម្រង មិន ផ្តល់ជូនអ្នកផងដែរ។

វិមាត្រ	កម្មវិធីមានតម្រង	គ្មានតម្រង (Shannon)
អ្វីជាអ្នកសម្រេច	កម្មវិធីចាត់ថ្នាក់ដែលអានពាក្យ និងភីកសែល	មនុស្សម្នាក់ដែលអានការណែនាំពិតប្រាកដ
ពេលណាអ្នកដឹង	ក្រោយពេលអ្នកដាក់ស្នើ — ពេលខ្លះក្រោយពេលអ្នកបង់ប្រាក់	មុនពេលអ្វីមួយត្រូវបានបង្កើត ឬគិតលុយ
វិធានជាអ្វី	បញ្ជីទប់ស្កាត់ដែលមិនផ្សព្វផ្សាយ និងផ្លាស់ប្តូរជាប់	គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវដែលបានផ្សព្វផ្សាយ
បរិបទវិជ្ជាជីវៈ	មើលមិនឃើញចំពោះប្រព័ន្ធ	ជារបស់អ្នកកាន់ និងជារបស់អ្នកទទួលខុសត្រូវ
របៀបបរាជ័យ	ការទប់ស្កាត់ហួសហេតុដោយស្ងាត់ស្ងៀម អត្ថន័យរអិលចេញ	អ្នកទទួលបានអ្វីដែលអ្នកបានស្នើសុំ — រួមទាំងកំហុសផងដែរ
អ្នកណាទទួលហានិភ័យ	ក្រុមហ៊ុនផ្គត់ផ្គង់ ដោយផ្ទេរបន្ទុកទៅលើការងាររបស់អ្នក	ចែករំលែក៖ គោលការណ៍ប្រតិបត្តិករ បូកនឹងទំនួលខុសត្រូវអ្នកប្រើប្រាស់

ជួរចុងក្រោយជាជួរដែលមនុស្សរំលង ហើយជាជួរដែលសំខាន់បំផុត។ ការដកតម្រងចេញ មិនបានដកប្រភេទគ្រោះថ្នាក់ក្នុងផ្នែកទី 02 ចេញទេ វាដក ម៉ាស៊ីន ដែលកំពុងទាយខុសអំពីពួកវាចេញ។ កាតព្វកិច្ចនៅដដែល ហើយឥឡូវនេះត្រូវបានកាន់កាប់ដោយភាគីពីរដែលអាចវែកញែកអំពីបរិបទ៖ ប្រតិបត្តិករ ដែលផ្សព្វផ្សាយ និងអនុវត្តគោលការណ៍ និងអ្នក ដែលដឹងថារូបភាពនោះសម្រាប់អ្វី។ ការបង្កើតរូបភាព AI គ្មានតម្រង ជាឧបករណ៍សម្រាប់មនុស្សដែលបានត្រៀមខ្លួនរួចជាស្រេចដើម្បីទទួលខុសត្រូវលើលទ្ធផលរបស់ខ្លួន — អាត្លាស់របស់គ្រូពេទ្យវះកាត់ របាយការណ៍អ្នកជំនាញ ស្តូរីបត រូបគំនូរកំប្លែង — ដែលកំពុងត្រូវបានបញ្ឈប់ដោយប្រព័ន្ធមួយដែលមិនអាចបែងចែកពួកគេពីអ្នកដទៃបាន។

07អ្វីដែល Shannon ធ្វើ — និងអ្វីដែលវាមិនធ្វើ

ភាពច្បាស់លាស់នៅទីនេះសំខាន់ជាងភាពរំភើប ជាពិសេសសម្រាប់អ្នកអានដែលមកពីការស្វែងរក API។

បង្កើត

រូបភាពថ្មី

កែសម្រួល

រូបភាពប្រភពមួយ

ផ្សំ

រូបភាពពីរ ឬច្រើន

ទេ

ការបង្កើតវីដេអូ

អ្វីដែលវាធ្វើ

ការបង្កើត។ ពិពណ៌នារូបភាពមួយជាភាសាធម្មតា ជាភាសាណាក៏បាន។ Shannon សរសេរការណែនាំបង្កើតរូបភាពដោយខ្លួនឯង ជាភាសាអង់គ្លេស ទោះអ្នកសួរជាភាសាណាក៏ដោយ។
ការកែសម្រួលរូបភាពមួយ។ ប្រភពតែមួយគត់ — រូបភាពដែលមានស្រាប់ក្នុងការសន្ទនា ឬរូបភាពដែលភ្ជាប់មកជាមួយសារបច្ចុប្បន្នរបស់អ្នក — ដែលត្រូវបានផ្លាស់ប្តូរដោយការណែនាំមួយប្រាប់ថាអ្វីផ្លាស់ប្តូរ និងអ្វីនៅដដែល។ លទ្ធផលរក្សាសមាមាត្រទំហំរបស់ប្រភពដោយស្វ័យប្រវត្តិ។
ការផ្សំរូបភាពពីរ ឬច្រើន។ ការផ្ទេរសម្លៀកបំពាក់ ការដាក់វត្ថុចូលក្នុងឈុត មនុស្សម្នាក់នៅក្បែរមនុស្សម្នាក់ទៀត ផលិតផលនៅលើមនុស្ស កម្មវត្ថុពីរូបភាពមួយជាមួយរចនាបថពីរូបភាពមួយទៀត។ ការណែនាំដាក់ឈ្មោះតួនាទីរបស់រូបភាពនីមួយៗតាមលំដាប់ ហើយរូបភាពពិតត្រូវបានប្រើ ដូច្នេះរូបរាងពិតរបស់ពួកវាត្រូវបានរក្សាទុក ជាជាងត្រូវពិពណ៌នាឡើងវិញ។
ការគ្រប់គ្រងសមាមាត្រ។ square (លំនាំដើម), portrait, landscape, wide និង tall។ សំណើច្បាស់លាស់តែងតែឈ្នះ។
ការបង្កើតរូបភាពនៅលើចង្កោម GPU ផ្ទាល់ខ្លួនរបស់យើង ដោយគ្មានតម្រងខ្លឹមសារនៅលើផ្លូវបង្កើតរូបភាព និងគ្មានស្រទាប់បដិសេធនៅលើម៉ូដែលដែលសរសេរការណែនាំ។

អ្វីដែលវាមិនធ្វើ

គ្មានវីដេអូទេ។ Shannon មិនធ្វើចលនារូបភាព ហើយក៏មិនផលិតវីដេអូដែរ។ វាមិនមែនជាធាតុក្នុងផែនការអភិវឌ្ឍន៍ដែលត្រូវបានលាក់ទុកដោយប៉ិនប្រសប់ទេ — វាមិនមានទាល់តែសោះ។
មិនមាននៅលើ API ទេ។ ការបង្កើតរូបភាព ការកែសម្រួល និងការផ្សំរូបភាព ស្ថិតនៅក្នុងកម្មវិធីជជែក Shannon។ API /v1 បម្រើអត្ថបទ និងការមើលឃើញ — វាអាច អាន រូបភាពដែលអ្នកផ្ញើទៅ — តែវាមិនបង្កើតរូបភាពទេ។
គ្មានការបង្កើតរូបភាពដោយគ្មានការស្នើសុំទេ។ ការស្វាគមន៍ សំណួរ ឬរូបថតដែលភ្ជាប់មកធម្មតា មិនធ្វើឱ្យមានការបង្កើតរូបភាពទេ។ ការសុំឱ្យ Shannon មើលរូបភាពមួយ — ពិពណ៌នាវា អានវា វិភាគវា — ជាការងារមើលឃើញធម្មតា មិនមែនការបង្កើតរូបភាពទេ ហើយមិនចំណាយអ្វីបន្ថែមឡើយ។

កាតបញ្ជាក់

នេះជាយន្តការដែលជំនួសតម្រង ហើយវាជាជម្រើសនៃការរចនា មិនមែនជាទម្រង់ការណ៍ផ្លូវការទេ។ នៅពេល Shannon កំណត់ថាអ្នកកំពុងស្នើសុំរូបភាព វាសរសេរការណែនាំបង្កើតរូបភាព ហើយ បង្ហាញវាជូនអ្នកនៅលើកាតបញ្ជាក់ មុនពេលអ្វីមួយត្រូវបានបង្កើត។ គ្មានអ្វីត្រូវបានបង្កើត ហើយក៏គ្មានអ្វីត្រូវបានគិតលុយ រហូតទាល់តែអ្នកបញ្ជាក់។

សូមប្រៀបធៀបការរចនាទាំងពីរតាមគុណសម្បត្តិរបស់វា។ តម្រងទាយអំពីចេតនារបស់អ្នក ដោយមានព័ត៌មានតិចជាងអ្នក ហើយអនុវត្តការទាយនោះដោយស្ងាត់ស្ងៀម។ កាតបញ្ជាក់ដាក់លក្ខណៈបច្ចេកទេសពិតប្រាកដនៃរូបភាពនៅពីមុខភាគីដែលដឹងថាវាសម្រាប់អ្វី មុនពេលចំណាយធនធានគណនាណាមួយ។ វាចាប់បានការអានខុសនៃសំណើរបស់អ្នក ដែលតម្រងមិនដែលធ្វើបានឡើយ។ វាអនុញ្ញាតឱ្យអ្នកបន្ថែមភាពជាក់លាក់ខាងកាយវិភាគសាស្ត្រ ឬព័ត៌មានលម្អិតប្រវត្តិសាស្ត្រដែលម៉ូដែលបានបញ្ជាក់មិនគ្រប់គ្រាន់។ ហើយវាធ្វើឱ្យទំនួលខុសត្រូវអាចអានបាន ជាជាងរាយប៉ាយ។ អ្នកបានឃើញការណែនាំនោះ ហើយអ្នកបានចុចប៊ូតុង។

ការទទួលបានលទ្ធផលល្អ ជាជំនាញដាច់ដោយឡែកមួយ។ ម៉ូដែលរូបភាពអានការណែនាំដូចម៉ូដែលភាសា មិនមែនដូចកម្មវិធីវិភាគស្លាកទេ — ប្រយោគរលូនល្អជាងពាក្យគន្លឹះបំបែកដោយសញ្ញាក្បៀស ហើយការបំប្លែងអត្ថបទទៅរូបភាពមិនទទួលយកការណែនាំអវិជ្ជមានទាល់តែសោះ។ មគ្គុទ្ទេសក៍ការណែនាំរូបភាពគ្មានសេនស័រ ពន្យល់អំពីការដាក់កម្មវត្ថុមុនគេ ការធ្វើឱ្យសមជាក់ស្តែងបែបរូបថត ការណែនាំកែសម្រួលដែលទប់អ្វីដែលនៅដដែល និងរបៀបដាក់ឈ្មោះតួនាទីរូបភាពពេលផ្សំ។ សម្រាប់ទិដ្ឋភាពទូទៅនៃសមត្ថភាព សូមមើល ការបង្កើតរូបភាព AI គ្មានសេនស័រ។

08ការបង្កើតរូបភាពគ្មានតម្រង បង្កើនទំនួលខុសត្រូវ វាមិនលុបវាចោលទេ

ចំណុចនេះស្ថិតនៅទីនេះ ជាជាងនៅក្នុងលេខយោង ព្រោះវាជាពាក់កណ្តាលនៃអំណះអំណាង។ កម្មវិធីមានតម្រងធ្វើការសន្យាមួយដែលវាមិនអាចរក្សាបាន៖ ថាឧបករណ៍នេះនឹងការពារការប្រើប្រាស់ខុសជំនួសអ្នក។ វាបរាជ័យទាំងសងខាង — វាទប់ស្កាត់គ្រូពេទ្យវះកាត់ ហើយវាក៏មិនបញ្ឈប់អ្នកមានចេតនាអាក្រក់ដែលតាំងចិត្តរួចដែរ ព្រោះគាត់មានជម្រើសផ្សេងទៀត ហើយតែងតែមាន។ អ្វីដែលវាធ្វើបានជាប់លាប់ គឺធ្វើឱ្យគ្រប់គ្នាមានអារម្មណ៍ថាទំនួលខុសត្រូវត្រូវបានដោះស្រាយនៅខាងលើរួចហើយ ដោយម៉ាស៊ីន។ ការដកតម្រងចេញ ដកការប្រឌិតនោះចេញ។ សំណួរថាតើរូបភាពមួយគួរមានវត្តមានឬអត់ ត្រឡប់ទៅមនុស្សដែលអាចឆ្លើយវាបានវិញ។

កាតព្វកិច្ចរបស់ Shannon Lab LLC។ គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវ ដែលបានផ្សព្វផ្សាយ និងជាក់លាក់ ដោយដាក់ឈ្មោះប្រភេទដែលត្រូវហាមឃាត់ ជាជាងបញ្ជីទប់ស្កាត់ដែលមិនផ្សព្វផ្សាយ — ជាវិធានដែលអ្នកអានបាន ដកស្រង់បាន និងទាមទារពីយើងបាន។
កាតព្វកិច្ចរបស់អ្នក។ អ្នកដឹងគោលបំណង អ្នកទស្សនា យុត្តាធិការ និងស្ថានភាពការយល់ព្រមរបស់អ្នករាល់គ្នាដែលត្រូវបានបង្ហាញ។ ឧបករណ៍មិនដឹងទេ ហើយកម្មវិធីចាត់ថ្នាក់ក៏មិនអាចដឹងបានដែរ។ កាតបញ្ជាក់មានវត្តមាន ដើម្បីឱ្យចំណេះដឹងនោះត្រូវបានអនុវត្តនៅវិនាទីដែលវាសំខាន់ ដោយភាគីដែលមានវា។
បន្ទាត់ដែលមិនផ្លាស់ទី។ «តម្រងមិនបានបញ្ឈប់ខ្ញុំទេ» មិនដែលជាការការពារខ្លួននៅក្នុងមធ្យោបាយណាមួយឡើយ។ កាមេរ៉ាមិនបដិសេធទេ ខ្មៅដៃក៏មិនបដិសេធដែរ។ ច្បាប់ និងក្រមសីលធម៌វិជ្ជាជីវៈគ្រប់គ្រងការប្រើប្រាស់ មិនមែនគ្រប់គ្រងឧបករណ៍ទេ។ កម្មវិធីបង្កើតរូបភាពគ្មានតម្រង ស្តារឡើងវិញនូវការរៀបចំធម្មតាដែលឧបករណ៍វិជ្ជាជីវៈផ្សេងទៀតគ្រប់យ៉ាងដំណើរការក្រោមវា។

សូមអាន គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវ មុនពេលអ្នកចាប់ផ្តើម។ វាខ្លី ជាក់លាក់ ហើយជាផ្នែកនៃផលិតផលនេះដែលធ្វើឱ្យផ្នែកដទៃទៀតអាចការពារបាន។

09សំណួរដែលសួរញឹកញាប់

ហេតុអ្វីបានជាកម្មវិធីបង្កើតរូបភាព AI បដិសេធការណែនាំដែលច្បាស់ជាស្របច្បាប់?

ព្រោះតម្រងភាគច្រើនវិនិច្ឆ័យពាក្យក្នុងការណែនាំរបស់អ្នក មិនមែនគោលបំណងរបស់អ្នកទេ។ កម្មវិធីចាត់ថ្នាក់មួយឈរនៅពីមុខម៉ូដែល ដោយគ្មានលទ្ធភាពដឹងថាអ្នកជានរណា ឬហេតុអ្វីអ្នកសួរ ដូច្នេះអ្នកគូររូបវេជ្ជសាស្ត្រ អ្នកវិភាគកោសល្យវិច័យ និងអ្នកមានចេតនាអាក្រក់ ទាំងអស់វាយបញ្ចូលនាមដូចគ្នា ហើយទាំងអស់ទទួលបានការបដិសេធដូចគ្នា។ The Intercept បានរាយការណ៍កាលពីខែមេសា ឆ្នាំ 2023 ថា Midjourney បានហាមឃាត់ពាក្យកាយវិភាគសាស្ត្រ រួមទាំង speculum, placenta និង cervix ខណៈ stethoscope ដំណើរការធម្មតា។

តើមានការស្រាវជ្រាវវាស់វែងលទ្ធផលវិជ្ជមានក្លែងក្លាយរបស់តម្រងខ្លឹមសារក្នុងឧបករណ៍សិល្បៈ AI ដែរឬទេ?

មាន។ OVERT (arXiv:2505.21347, ICML 2025) ជាមាត្រដ្ឋានវាស់វែងការបដិសេធហួសហេតុទ្រង់ទ្រាយធំដំបូងគេសម្រាប់ម៉ូដែលបំប្លែងអត្ថបទទៅរូបភាព៖ ការណែនាំ 4,600 ដែលមើលទៅដូចមានគ្រោះថ្នាក់ តែពិតជាគ្មានគ្រោះថ្នាក់ ឆ្លងកាត់ប្រភេទសុវត្ថិភាពប្រាំបួន បូកនឹងការណែនាំដែលមានគ្រោះថ្នាក់ពិតប្រាកដ 1,785 ជាសំណាកគ្រប់គ្រង។ អ្នកនិពន្ធរបស់វារាយការណ៍ថាការបដិសេធហួសហេតុរីករាលដាលឆ្លងកាត់ម៉ូដែលឈានមុខគេ។ ការសិក្សាដាច់ដោយឡែកមួយនៅ ECCV 2024 បានរកឃើញភាពលំអៀងខាងភេទ និងខាងរចនាបថ ក្នុងកម្មវិធីចាត់ថ្នាក់ NSFW ចំនួនបី ដែលត្រូវបានវាយតម្លៃលើរូបអាក្រាតសិល្បៈ។

តើកម្មវិធីបង្កើតរូបភាព AI គ្មានសេនស័រ ពិតជាផ្លាស់ប្តូរអ្វី?

វាដកស្រទាប់បដិសេធ និងតម្រងខ្លឹមសារចេញពីផ្លូវបង្កើតរូបភាព ដូច្នេះសំណើស្របច្បាប់មួយមិនត្រូវបានចាត់ថ្នាក់ឡើងវិញដោយស្ងាត់ស្ងៀមថាជាការវាយប្រហារឡើយ។ វាមិនបានដកការវិនិច្ឆ័យចេញទេ — វាផ្លាស់ប្តូរទីតាំងរបស់វា។ Shannon បង្ហាញជូនអ្នកនូវការណែនាំបង្កើតរូបភាពពិតប្រាកដនៅលើកាតបញ្ជាក់ មុនពេលអ្វីមួយត្រូវបានបង្កើត ដូច្នេះការសម្រេចចិត្តត្រូវបានធ្វើឡើងដោយមនុស្សម្នាក់ដែលអាចមើលឃើញអ្វីដែលនឹងត្រូវផលិត ក្រោមគោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវ។

តើ Shannon បង្កើតវីដេអូដែរឬទេ?

ទេ។ Shannon បង្កើតរូបភាពថ្មី កែសម្រួលរូបភាពដែលមានស្រាប់មួយសន្លឹក និងផ្សំរូបភាពពីរ ឬច្រើនទៅជាមួយ។ វាមិនធ្វើចលនារូបភាព ហើយក៏មិនផលិតវីដេអូប្រភេទណាមួយដែរ។

តើខ្ញុំអាចបង្កើតរូបភាពតាមរយៈ API របស់ Shannon បានទេ?

ទេ។ ការបង្កើតរូបភាព ការកែសម្រួល និងការផ្សំរូបភាព ស្ថិតនៅក្នុងកម្មវិធីជជែក Shannon។ API /v1 បម្រើអត្ថបទ និងការមើលឃើញ — ការអាន និងវិភាគរូបភាពដែលអ្នកផ្តល់ជូន — មិនមែនការបង្កើតរូបភាពទេ។

ប្រសិនបើគ្មានតម្រង តើអ្វីទប់ស្កាត់ការប្រើប្រាស់ខុស?

គោលការណ៍ ការទទួលខុសត្រូវ និងចំណុចសម្រេចចិត្តដែលមើលឃើញ ជាជាងបញ្ជីទប់ស្កាត់ពាក្យគន្លឹះ។ Shannon មិនដែលបង្កើតរូបភាពដោយគ្មានការស្នើសុំ បង្ហាញការណែនាំពេញលេញមុនពេលបង្កើតរូបភាព មិនគិតលុយអ្វីទាល់តែអ្នកបញ្ជាក់ ហើយដំណើរការក្រោមគោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវដែលបានផ្សព្វផ្សាយ ដែលហាមឃាត់ខ្លឹមសារផ្លូវភេទពាក់ព័ន្ធនឹងអនីតិជន រូបភាពស្និទ្ធស្នាលរបស់មនុស្សពិតដោយគ្មានការយល់ព្រម ការបៀតបៀនដោយផ្តោតគោលដៅ និងការក្លែងបន្លំឯកសារអត្តសញ្ញាណ ឬឯកសារហិរញ្ញវត្ថុ។

សុំរូបភាពដែលអ្នកត្រូវការពិតប្រាកដ

ការបង្កើត ការកែសម្រួលរូបភាពតែមួយ និងការផ្សំរូបភាពច្រើន នៅក្នុងកម្មវិធីជជែក — គ្មានតម្រងខ្លឹមសារ គ្មានស្រទាប់បដិសេធ ហើយការណែនាំបង្ហាញលើអេក្រង់មុនពេលអ្វីមួយត្រូវបានបង្កើត។

ចាប់ផ្តើមជជែក គោលការណ៍ប្រើប្រាស់ប្រកបដោយទំនួលខុសត្រូវ

រូបភាពនៅក្នុងកម្មវិធីជជែក · គ្មានការបង្កើតវីដេអូ · ការស្រាវជ្រាវបន្ថែម

ប្រភព៖ Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, ថ្ងៃទី 22 ខែមេសា ឆ្នាំ 2023 · PetaPixel, ថ្ងៃទី 3 ខែមេសា ឆ្នាំ 2023 · CNBC, ថ្ងៃទី 22 ខែកុម្ភៈ ឆ្នាំ 2024។ Shannon AI ត្រូវបានដំណើរការដោយ Shannon Lab LLC រដ្ឋ New Mexico សហរដ្ឋអាមេរិក។

តំណស្រាវជ្រាវទាំងអស់