AI สร้างภาพไม่เซ็นเซอร์ เทียบกับแบบมีตัวกรอง

แทบทุกคนที่ทำงานกับภาพในเชิงอาชีพมีเรื่องเล่าเดียวกัน พรอมป์ที่บรรยายสิ่งธรรมดา — ภาพตัดขวางของข้อเข่า รถยนต์ ณ วินาทีที่ชนกัน ภาพศึกษาสรีระด้วยถ่านชาร์โคล ทหารในปี 1944 — ตีกลับมาเป็นการละเมิดนโยบาย คุณเรียบเรียงใหม่ แล้วได้การละเมิดอีกแบบหนึ่ง ในที่สุดคุณก็เขียนอะไรบางอย่างที่คลุมเครือพอจะผ่านได้ และได้ภาพที่ไม่แสดงสิ่งที่คุณต้องการอีกต่อไป เครื่องมือไม่ได้ล้มเหลวแบบเสียงดัง มันล้มเหลวไปทีละขั้น และทำให้คุณเป็นฝ่ายที่ต้องยอมประนีประนอม

01ทำไมเครื่องสร้างภาพ AI จึงปฏิเสธพรอมป์ที่ถูกต้องตามกฎหมายอย่างชัดเจน?

การปฏิเสธนั้นมักไม่ใช่ความเห็นของโมเดลภาพ มันคือผลลัพธ์ของชั้นการกรองที่ล้อมรอบโมเดลอยู่ และชั้นเหล่านั้นอธิบายการปฏิเสธแปลก ๆ แทบทุกครั้งที่คุณเคยเจอ

ชั้น	ตรวจอะไร	ความล้มเหลวที่เป็นลักษณะเฉพาะ
บัญชีดำพรอมป์	สตริงตรงตัวและรูปแปรใกล้เคียงในข้อความของคุณ	บล็อกคำหนึ่งโดยไม่สนใจประโยคที่ล้อมรอบ — "speculum" ไม่ผ่าน แต่ "stethoscope" ผ่าน
ตัวจำแนกพรอมป์	การตัดสิน "ความเสี่ยง" ของพรอมป์ที่เรียนรู้มา	ทำงานตามความใกล้เคียงของหัวข้อ: อะไรก็ตามที่ใกล้การแพทย์ อาวุธ ร่างกาย หรือการเมือง จะได้คะแนนสูง
การฝึกให้โมเดลปฏิเสธ	ความลังเลที่ถูกฝึกมาในตัวโมเดลเอง	ปฏิเสธโดยไม่มีข้อความแจ้งข้อผิดพลาด หรือแอบผลิตของทดแทนที่ถูกทำให้สะอาดแล้ว
ตัวจำแนกเอาต์พุต	พิกเซลที่เรนเดอร์แล้ว โดยไม่มีบริบทของพรอมป์	แยกภาพกายวิภาคออกจากสื่อลามกไม่ได้ หรือแยกภาพนิ่งจากภาพยนตร์ออกจากเหตุการณ์จริงไม่ได้
การแทนที่ตามนโยบาย	การแอบเขียนพรอมป์ของคุณใหม่ก่อนเรนเดอร์	คุณได้ภาพ แต่ไม่ใช่ภาพที่คุณระบุ และไม่มีใครบอกคุณว่าทำไม

ทุกชั้นมีจุดบอดร่วมกันหนึ่งอย่าง: ไม่มีชั้นไหนเห็นได้ว่าทำไมคุณถึงถาม นักวาดภาพประกอบทางการแพทย์ พยานผู้เชี่ยวชาญฝ่ายโจทก์ที่กำลังจำลองการชน และคนที่มีเจตนาร้าย ล้วนพิมพ์คำนามเดียวกัน ตัวกรองเห็นคำนาม ไม่เห็นตำราแอตลาสหรือแฟ้มคดี และมันถูกให้คะแนนจากอันตรายที่มันปล่อยผ่าน — ไม่เคยถูกให้คะแนนจากงานที่มันทำลาย ภายใต้ความไม่สมมาตรนั้น ค่าที่สมเหตุสมผลที่สุดสำหรับผู้ให้บริการทุกรายคือปฏิเสธให้มากขึ้น และนั่นก็เป็นเหตุผลที่ "ก็แค่เรียบเรียงใหม่สิ" ไม่ใช่ทางแก้: การเรียบเรียงใหม่ไม่ได้ให้ข้อมูลที่ตัวกรองขาดไปเลย มันแค่ย้ายพรอมป์ของคุณออกห่างจากคำที่ไปสะดุดมันเข้า ซึ่งมักหมายถึงย้ายออกห่างจากสิ่งที่คุณหมายถึงด้วย

02ตัวกรองเนื้อหามีไว้ป้องกันอะไรจริง ๆ

ข้อโต้แย้งสนับสนุนการสร้างภาพแบบไม่มีตัวกรองที่แกล้งทำเป็นว่าตัวกรองมีอยู่โดยไร้เหตุผลนั้นไม่ควรค่าแก่การอ่าน มีผลลัพธ์อยู่ชุดแคบ ๆ ที่อันตรายฝังอยู่ในตัวภาพเอง ไม่ว่าใครจะขอหรือขอไปทำไม:

• เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ไม่มีบริบทใดทำให้มันยอมรับได้ ไม่มีเวิร์กโฟลว์อาชีพใดต้องการมัน
• ภาพส่วนตัวของบุคคลจริงที่ไม่ได้รับความยินยอม อันตรายตกกับคนที่ไม่ได้ตกลงด้วย และการลบทิ้งก็ไม่ได้ทำให้มันหายไป
• การคุกคามแบบเจาะจงเป้าหมายและการกุเรื่องหมิ่นประมาท — การทำให้บุคคลที่ระบุชื่อได้ดูเหมือนได้ทำสิ่งที่เขาไม่ได้ทำ
• เอกสารระดับใช้ปลอมแปลงได้ — หนังสือเดินทาง บัตรประจำตัว ธนบัตร ตราประทับ และตราสารทางการเงินที่ทำขึ้นเพื่อให้ผ่านว่าเป็นของจริง
• หลักฐานสังเคราะห์ที่หลอกลวง — ภาพกุขึ้นของเหตุการณ์จริงที่นำเสนอในฐานะเอกสารบันทึก ไม่ใช่ภาพประกอบ

รายการนี้สั้นและมีโครงสร้าง: อันตรายอยู่ในตัวชิ้นงาน อยู่ในความคล้ายคลึงกับบุคคลหรือเอกสารจริง และอยู่ในการนำเสนอมันเป็นความจริง สังเกตสิ่งที่ไม่อยู่ในรายการ — ภาพเปลือย เลือด อาวุธ ความโหดร้ายทางประวัติศาสตร์ การเยาะเย้ยทางการเมือง สิ่งเหล่านั้นคือวัตถุดิบของการแพทย์ วารสารศาสตร์ ศิลปะ นิติเวช และการเสียดสี และตัวกรองที่ปฏิบัติต่อสิ่งเหล่านี้เป็นหมวดอันตราย ก็กำลังบังคับใช้ความคิดที่กว้างกว่ามากเกี่ยวกับว่าหัวข้อไหนบ้างที่น่านับถือ

Shannon ห้ามทุกอย่างในรายการนั้น ผ่านนโยบายการใช้งานอย่างรับผิดชอบที่เผยแพร่ไว้ซึ่งระบุชื่อหมวดหมู่และผลที่ตามมา แทนที่จะเป็นตารางคำสำคัญที่ดักคำว่า "placenta" ไปด้วย อย่างหนึ่งคือกฎที่คุณอ่านได้และเอาผิดเราได้ อีกอย่างคือการเดาเจตนาของคุณโดยตัวจำแนกที่คุณมองไม่เห็น

03ปัญหาการปฏิเสธเกินเหตุใหญ่แค่ไหน? งานวิจัยวัดอะไรไว้บ้าง

จนกระทั่งไม่นานมานี้ การปฏิเสธเกินเหตุในโมเดลภาพยังเป็นแค่เรื่องเล่า — คนหลายพันที่มีเรื่องเล่าเดียวกันแต่ไม่มีวิธีวัดขนาดของมัน สิ่งนั้นเปลี่ยนไปด้วย OVERT (OVEr-Refusal evaluation on Text-to-image models) ซึ่งนำเสนอในงาน ICML 2025 โดยกลุ่มนักวิจัยจาก UC Berkeley รวมถึง Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song และ Song Mei: เบนช์มาร์กขนาดใหญ่ชุดแรกที่วัดว่าระบบ text-to-image ปฏิเสธพรอมป์ที่ไม่มีพิษภัยเลยบ่อยแค่ไหน

การออกแบบนั้นสำคัญ พรอมป์ 4,600 รายการถูกสร้างให้ดูเหมือนเป็นอันตรายทั้งที่ไม่มีพิษภัย — มีรูปทรงของคำขอเชิงอาชีพจริงที่เอ่ยถึงมีดผ่าตัด รอยฟกช้ำ หรือการประท้วง — และพรอมป์ที่เป็นอันตรายจริง 1,785 รายการตั้งอยู่ข้าง ๆ เป็นตัวควบคุม โมเดลจึงทำคะแนนดีด้วยการปฏิเสธทุกอย่างไม่ได้ เก้าหมวดหมู่ไล่ตั้งแต่ความเป็นส่วนตัวของบุคคลทั่วไปและบุคคลสาธารณะ ผ่านลิขสิทธิ์ การเลือกปฏิบัติ การทำร้ายตัวเอง เนื้อหาทางเพศ และกิจกรรมผิดกฎหมาย ไปจนถึงความรุนแรง

ข้อค้นพบหลักคือการปฏิเสธเกินเหตุแพร่หลายทั้งข้ามหมวดหมู่และข้ามโมเดลชั้นนำ ข้อที่สองสร้างความเสียหายให้ทางแก้ขัดมาตรฐานมากกว่า: ผู้เขียนทดสอบการเขียนพรอมป์ใหม่ในฐานะมาตรการบรรเทา และรายงานว่ามัน "มักบั่นทอนความซื่อตรงต่อความหมายของพรอมป์ต้นฉบับ" คุณผ่านตัวกรองไปได้ด้วยการเปลี่ยนสิ่งที่คุณขอ แล้วหลังจากนั้นคุณก็ไม่มีสิ่งที่คุณขออีกต่อไป

งานวิจัยที่แคบกว่าชิ้นหนึ่งได้ข้อสรุปเดียวกันจากฝั่งพิกเซล ใน An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann และ Oliver, เวิร์กช็อป AI4VA ในงาน ECCV 2024) ผู้เขียนประเมินตัวจำแนก NSFW ระดับใช้งานจริงสามตัวกับภาพเปลือยเชิงศิลปะ และพบทั้งอคติทางเพศและอคติทางรูปแบบศิลปะ: คำตัดสินต่อภาพศึกษาสรีระขึ้นอยู่กับว่าเป็นร่างกายของใครและอยู่ในรูปแบบศิลปะแบบไหน นั่นคือข้อความที่วัดค่าได้ของสิ่งที่ศิลปินวาดหุ่นคนจริงทุกคนถูกบอกมาตลอดว่าเป็นเรื่องที่คิดไปเอง

04งานที่ถูกต้องตามกฎหมายแปดประเภทที่เครื่องสร้างภาพแบบมีตัวกรองบล็อก

เหล่านี้คือหมวดหมู่ที่การปฏิเสธเกินเหตุไม่ใช่แค่ความไม่สะดวก แต่คือการหยุดงาน จุดที่มีกรณีรายงานเฉพาะเจาะจงจะมีการอ้างอิงไว้ ส่วนจุดที่ไม่มีการยืนยัน จะอธิบายเป็นหมวดหมู่โดยไม่กุเหตุการณ์ขึ้นมา

1. ภาพประกอบทางการแพทย์และกายวิภาค

กรณีที่มีบันทึกไว้ดีที่สุดในวงการ ในเดือนเมษายน 2023 The Intercept (Debbie Nathan) รายงานว่า Midjourney ได้แบนคำศัพท์ทางกายวิภาครวมถึง speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom และ IUD ในขณะที่ DALL·E 2 ปฏิเสธคำขอ "pills used in medication abortion" ด้วยข้อความแจ้งนโยบายเนื้อหา รูปแบบนี้ถูกค้นพบโดย Julia Rockwell นักวิเคราะห์ข้อมูลทางคลินิกที่พยายามสร้างภาพรกเป็นของขวัญให้เพื่อนนักชีววิทยาเซลล์ และรายงานต่อ MIT Technology Review ความไม่สมมาตรคือสิ่งที่เปิดโปงทุกอย่าง: "stethoscope" สร้างได้ตามปกติ ในขณะที่ "speculum" ถูกห้าม Bill Howe นักวิจัยจาก University of Washington เรียกตัวกรองเหล่านี้ว่า "ห่ามซุ่มซ่าม" และบอกว่ามันทำให้ "แทบเป็นไปไม่ได้ที่จะสนทนาเชิงวิทยาศาสตร์เกี่ยวกับการสืบพันธุ์" การให้ความรู้ผู้ป่วย ตำราแอตลาสการผ่าตัด และหลักสูตรพยาบาลศาสตร์ ล้วนต้องการภาพร่างกายที่ถูกต้องแม่นยำ รวมถึงส่วนที่บัญชีคำสำคัญตัดสินไปแล้วว่าไม่เหมาะสม

2. การจำลองทางนิติเวชและอุบัติเหตุ

การจำลองการชน การวิเคราะห์ต้นเพลิง และสื่อสาธิตในชั้นศาล ล้วนต้องพรรณนาความเสียหาย บาดแผล และกลศาสตร์ของความรุนแรงด้วยความแม่นยำเชิงคลินิก ตัวกรองที่ปรับมาให้ปฏิเสธ "blood" หรือ "gunshot wound" ก็คือการปฏิเสธทั้งศาสตร์: บริบท — รายงานผู้เชี่ยวชาญ แฟ้มประกันภัย — มองไม่เห็นสำหรับตัวจำแนก และความเป็นกลางเดียวกันที่ทำให้ภาพเช่นนั้นรับฟังได้ในศาล ก็คือสิ่งที่ทำให้มันถูกอ่านเป็นภาพโหด

3. ภาพเปลือยเชิงศิลปะและการวาดหุ่นคนจริง

ภาพเปลือยเป็นหัวข้อรากฐานของศิลปะทุกที่ และการศึกษาสรีระเป็นแกนกลางของการศึกษาศิลปะ ผลการวิจัย ECCV 2024 ข้างต้นคือฉบับที่วัดค่าได้ของสิ่งที่ศิลปินรายงาน: ตัวจำแนกแยกภาพศึกษาสรีระออกจากสื่อลามกได้ไม่น่าเชื่อถือ และความผิดพลาดของมันเอนเอียงตามเพศและรูปแบบศิลปะ — เป็นตัวกรองที่เข้มงวดที่สุดกับประเพณีที่มันควรจะรู้จักพอดี

4. ภาพประวัติศาสตร์และภาพยามสงคราม

งานศิลป์ในตำราเรียน การตีความในพิพิธภัณฑ์ และโครงการอนุสรณ์ ล้วนต้องพรรณนาเครื่องแบบ อาวุธ ค่ายกักกัน การสู้รบ และความโหดร้าย เหตุการณ์ Gemini เมื่อเดือนกุมภาพันธ์ 2024 ให้บทเรียนได้ดี เพราะความล้มเหลวเกิดขึ้นในทิศทางตรงข้ามและสร้างความเสียหายพอ ๆ กัน Google ระงับความสามารถของ Gemini ในการสร้างภาพคนเมื่อวันที่ 22 กุมภาพันธ์ 2024 หลังจากมันผลิตภาพกลุ่มบุคคลทางประวัติศาสตร์ที่ถูกจัดองค์ประกอบเชื้อชาติใหม่ รวมถึงทหารเยอรมันยุคนาซี Sundar Pichai ซีอีโอเรียกผลลัพธ์เหล่านั้นว่า "ยอมรับไม่ได้โดยสิ้นเชิง" ส่วน Prabhakar Raghavan รองประธานอาวุโสยอมรับว่าโมเดล "ชดเชยเกินไป" และกลายเป็น "อนุรักษ์นิยมเกินเหตุ" ความปลอดภัยที่มองไม่เห็นบริบทไม่ได้ทำให้ภาพประวัติศาสตร์ปลอดภัยขึ้น — มันทำให้ภาพนั้นผิดจากความจริง ซึ่งสำหรับสำนักพิมพ์ประวัติศาสตร์แล้วแย่กว่า

5. ความรุนแรงในงานนิยายและการทำภาพร่างล่วงหน้าของภาพยนตร์

สตอรีบอร์ด ภาพแนวคิด การ์ตูน และการออกแบบเกม พรรณนาความรุนแรงด้วยเหตุผลเดียวกับที่นวนิยายและภาพยนตร์ทำ ตัวกรองที่แยกสตอรีบอร์ดหนังสยองขวัญออกจากคำขู่ไม่ได้ ก็จะปฏิบัติต่อสายงานศิลปะการเล่าเรื่องทั้งสายว่าน่าสงสัย — ทั้งที่สตอรีบอร์ดนั้นไม่จริงอย่างชัดแจ้ง มันคือแผนของฉากที่นักแสดงและทีมเอฟเฟกต์จะไปจัดแสดงจริง

6. การเสียดสีการเมืองและการ์ตูนบรรณาธิการ

การล้อเลียนผู้มีอำนาจอยู่ในกลุ่มการแสดงออกที่ได้รับการคุ้มครองมากที่สุดในระบอบประชาธิปไตยส่วนใหญ่ และมักเป็นสิ่งแรกที่ตัวกรองภาพตัดออก กรณีที่มีบันทึกชัดเจนที่สุดคือการตัดสินใจของ Midjourney เมื่อเดือนเมษายน 2023 ที่จะห้ามภาพประธานาธิบดีจีน สี จิ้นผิง และบล็อกชื่อของเขาในพรอมป์ — รายงานโดย PetaPixel, Decrypt และสำนักอื่น ๆ — ในขณะที่ยังอนุญาตให้สร้างภาพผู้นำโลกคนอื่นต่อไป David Holz ผู้ก่อตั้งอธิบายบน Discord ว่าบริษัทต้องการ "ลดดราม่าให้น้อยที่สุด" และว่า "ความสามารถของคนในจีนที่จะใช้เทคโนโลยีนี้สำคัญกว่าความสามารถของคุณในการสร้างงานเสียดสี" ส่วน Sarah McLaughlin จาก Foundation for Individual Rights and Expression เรียกมันว่าการเซ็นเซอร์ ไม่ว่าใครจะสรุปอย่างไรกับการคำนวณเชิงธุรกิจนี้ กลไกของมันก็ควรถูกเรียกชื่อ: ข้อจำกัดการแสดงออกของประเทศหนึ่งถูกนำไปใช้กับผู้ใช้ทุกคนทั่วโลก เพราะตัวกรองระดับโลกมีค่าตั้งเดียว

7. งานวิจัยความปลอดภัยและสื่อสร้างความตระหนักเรื่องฟิชชิง

ทีมความปลอดภัยสร้างสื่อฝึกอบรมที่ต้องดูเหมือนสิ่งที่มันเตือน: หน้าจอล็อกอินปลอมที่ดูน่าเชื่อ ใบแจ้งหนี้ปลอมแปลง คิวอาร์โค้ดมุ่งร้ายบนเครื่องจอดรถหยอดเหรียญ สำหรับตัวจำแนกแล้วสิ่งเหล่านั้นแยกไม่ออกจากการโจมตีที่มันสร้างภูมิคุ้มกันให้ — ความสมจริงคือประเด็นทั้งหมด — ตัวกรองจึงบล็อกฝ่ายป้องกันและฝ่ายโจมตีเหมือนกันหมด ซึ่งเป็นประโยชน์ต่อผู้โจมตี ที่อย่างไรก็ไม่เคยคิดจะใช้เครื่องมือผู้บริโภคแบบมีตัวกรองอยู่แล้ว

8. เจ้าของสิทธิ์ถูกปฏิเสธภาพแบรนด์ สินค้า หรือภาพลักษณ์ของตัวเอง

การกรองลิขสิทธิ์และเครื่องหมายการค้าไม่ได้ตรวจความเป็นเจ้าของ มันตรวจความคล้ายคลึง บริษัทหนึ่งสร้างภาพโลโก้หรือสินค้าของตัวเองได้ยาก เจ้าของสิทธิ์วาดภาพตัวละครของตัวเองไม่ได้ และผู้คนมักสร้างภาพใบหน้าของตัวเองไม่ได้ เพราะตัวกรองภาพลักษณ์บุคคลทำงานตามความสามารถในการจดจำได้ ไม่ใช่ตามความยินยอม OVERT รวม "การละเมิดลิขสิทธิ์" ไว้ในเก้าหมวดการปฏิเสธเกินเหตุก็เพราะผลบวกลวงแบบนี้พบบ่อยมากพอดี ตัวกรองคือเครื่องมือทื่อ ๆ สำหรับคำถาม — คุณมีสิทธิ์ในสิ่งนี้หรือเปล่า? — ที่มันไม่มีทางถามได้เลย

สี่ในแปดข้อข้างต้นยึดโยงกับกรณีที่มีการเผยแพร่เฉพาะเจาะจง (การแพทย์ ภาพเปลือยเชิงศิลปะ ประวัติศาสตร์ การเสียดสี) บวกกับหมวดลิขสิทธิ์ของ OVERT สำหรับข้อที่แปด ส่วนนิติเวช การทำภาพร่างล่วงหน้าของงานนิยาย และสื่อสร้างความตระหนักด้านความปลอดภัย ระบุไว้ในฐานะหมวดหมู่: เป็นกลุ่มงานอาชีพที่ได้รับผลกระทบซึ่งเป็นที่รู้กันดี แต่เราไม่ได้ยืนยันเหตุการณ์ที่เผยแพร่เฉพาะเจาะจง

05ทำไมเครื่องสร้างงานศิลป์ AI จึงบล็อกผิดสิ่ง และทำไมผลบวกลวงของตัวกรองเนื้อหาจึงปรับแต่งให้หายไปไม่ได้

ปฏิกิริยาโดยสัญชาตญาณต่อการบล็อกมากเกินไปคือ "ก็ผ่อนเกณฑ์ลงสิ" มันไม่ได้ผล ด้วยเหตุผลเชิงโครงสร้าง ไม่ใช่เพราะขาดความพยายาม

หมวดหมู่เหล่านี้ทับซ้อนกันในระดับสัญญาณ แต่ไม่ทับซ้อนกันในความเป็นจริง ภาพประกอบการผ่าตัดกับสื่อลามกมีภาพเปลือยร่วมกัน การจำลองทางนิติเวชกับภาพโหดมีเลือดร่วมกัน สไลด์สร้างความตระหนักกับชุดเครื่องมือฟิชชิงมีฟอร์มล็อกอินปลอมร่วมกัน การ์ตูนเสียดสีกับการกุเรื่องหมิ่นประมาทมีนักการเมืองที่จำได้ร่วมกัน สิ่งที่แยกแต่ละคู่ออกจากกันคือจุดประสงค์และการนำเสนอ — ซึ่งไม่มีอยู่ในพรอมป์และไม่มีอยู่ในพิกเซล ไม่มีเกณฑ์ใดแยกประชากรสองกลุ่มที่ครอบครองพื้นที่เดียวกันในปริภูมิอินพุตได้ การขยับเกณฑ์เพียงแลกความผิดพลาดแบบหนึ่งกับอีกแบบหนึ่ง นั่นคือสิ่งที่เหตุการณ์ Gemini แสดงให้เห็น: การแทรกแซงที่ตั้งใจแก้ความล้มเหลวหนึ่งกลับผลิตอีกความล้มเหลวหนึ่ง ซึ่งรองประธานอาวุโสของ Google เองเรียกว่า "ชดเชยเกินไป"

ต้นทุนไม่สมมาตรสำหรับผู้ให้บริการ แต่ไม่ใช่สำหรับคุณ ตัวกรองที่ปล่อยภาพแย่ผ่านไปหนึ่งภาพจะกลายเป็นข่าว ตัวกรองที่บล็อกภาพที่ถูกต้องตามกฎหมายหมื่นภาพจะกลายเป็นความเงียบ เพราะผู้ใช้ที่ถูกปฏิเสธไม่รวมตัวกัน — พวกเขาแค่เลิกใช้ การบริหารความเสี่ยงภายใต้ความไม่สมมาตรนั้นลู่เข้าสู่การบล็อกมากเกินไปอย่างถาวร และเพราะการตัดสินที่อยู่เบื้องหลังนั้นเป็นไปไม่ได้ บัญชีดำจึงพอกพูนสตริงตรงตัวขึ้นเรื่อย ๆ ตามเหตุการณ์ที่เกิด นั่นคือที่มาของการที่ "stethoscope" ผ่านแต่ "speculum" ถูกแบน ไม่มีใครตัดสินใจว่าเครื่องมือเฉพาะสำหรับผู้หญิงอันตรายกว่า รายการนั้นแค่งอกขึ้นตรงที่มีคำร้องเรียนตกลงมา มันเข้ารหัสประวัติศาสตร์ด้านประชาสัมพันธ์ของผู้ให้บริการ ไม่ใช่ทฤษฎีว่าด้วยอันตราย

เขตอำนาจที่เข้มงวดที่สุดกลายเป็นค่าเริ่มต้นระดับโลก ตัวกรองเดียวให้บริการผู้ใช้ทุกคนในทุกประเทศ ข้อจำกัดที่เพิ่มเข้ามาเพื่อตลาดหนึ่งจึงถูกส่งออกไปยังทุกตลาด — กฎเรื่องสี จิ้นผิงเป็นกรณีตัวอย่างในตำรา และการเขียนพรอมป์ของคุณใหม่ทำลายความหมายของคุณ ซึ่งเป็นประเด็นเชิงการทดลองของ OVERT: มืออาชีพทุกคนที่เคยฟอกคำขอให้กลายเป็นคำเลี่ยงเพื่อให้ผ่านตัวกรองได้ยืนยันเรื่องนี้ด้วยมือตัวเองแล้ว คุณไม่ได้ชนะ คุณแค่ยอมความ

ไม่มีอะไรในนี้ที่ฟรี และเพราะมันล้มเหลวอย่างเงียบ ๆ ต้นทุนจึงมองไม่เห็นในตัวชี้วัดที่ผู้ให้บริการเฝ้าดู หลังถูกปฏิเสธมากพอ คุณจะเลิกถาม แล้วบีบทุกพรอมป์ให้แคบลงล่วงหน้าเหลือเท่าที่คุณคาดว่าจะผ่าน คำเลี่ยงที่ผ่านได้ในที่สุดก็ให้ภาพที่ใกล้เคียงกับ แต่ไม่ใช่ สิ่งที่เอกสารของคุณต้องการ ข้อความแจ้งนโยบายกลาง ๆ ไม่บอกอะไรเลยว่าชั้นไหนทำงาน คุณจึงได้แต่เดาแล้วลองใหม่ — และงานภาพเป็นงานที่ต้องทำซ้ำหลายรอบ ตัวกรองที่ดักไว้หนึ่งในห้าครั้งจึงทำลายวงจรการทำงาน ไม่ใช่แค่ทำให้ช้าลง ในขณะเดียวกัน สาขาที่มีสิทธิ์หนักแน่นที่สุดในการเรียกร้องเครื่องมือที่จริงจังกลับไม่ได้ผู้ตรวจสอบ ไม่มีการอุทธรณ์ และมักไม่มีรายการที่เผยแพร่ว่าอะไรถูกบล็อกบ้าง กฎที่คุณอ่านไม่ได้ไม่ใช่กฎ มันคือดินฟ้าอากาศ

06เครื่องสร้างภาพ AI ไม่เซ็นเซอร์ vs แบบมีตัวกรอง: อะไรเปลี่ยนไปจริง ๆ

นี่คือฉบับตรงไปตรงมาของการเปรียบเทียบ รวมถึงสิ่งที่ระบบไม่มีตัวกรองไม่ได้ให้คุณ

มิติ	เครื่องสร้างภาพแบบมีตัวกรอง	แบบไม่มีตัวกรอง (Shannon)
อะไรเป็นผู้ตัดสิน	ตัวจำแนกที่อ่านคำและพิกเซล	คนที่อ่านพรอมป์ทั้งหมด
คุณรู้ตอนไหน	หลังจากคุณส่งไปแล้ว — บางครั้งหลังจากคุณจ่ายเงินแล้ว	ก่อนที่อะไรจะถูกเรนเดอร์หรือถูกคิดเงิน
กฎคืออะไร	บัญชีดำที่ไม่เผยแพร่และเปลี่ยนไปเรื่อย	นโยบายการใช้งานอย่างรับผิดชอบที่เผยแพร่ไว้
บริบทเชิงอาชีพ	มองไม่เห็นสำหรับระบบ	เป็นของคุณที่จะถือไว้ และเป็นของคุณที่จะรับผิดชอบ
รูปแบบความล้มเหลว	บล็อกมากเกินไปอย่างเงียบ ๆ ความหมายเบี่ยงเบน	คุณได้สิ่งที่คุณขอ — รวมถึงความผิดพลาดด้วย
ใครแบกความเสี่ยง	ผู้ขาย ที่ผลักภาระมาลงที่งานของคุณ	แบ่งกัน: นโยบายของผู้ให้บริการบวกความรับผิดชอบของผู้ใช้

แถวสุดท้ายคือแถวที่คนมักข้าม และเป็นแถวที่สำคัญ การถอดตัวกรองออกไม่ได้ถอดหมวดอันตรายในหัวข้อ 02 ออกไปด้วย มันถอดเครื่องจักรที่เดาเรื่องเหล่านั้นได้แย่ออกไปต่างหาก พันธะยังอยู่ที่เดิม เพียงแต่ตอนนี้ถูกถือโดยสองฝ่ายที่ให้เหตุผลเรื่องบริบทได้: ผู้ให้บริการ ที่เผยแพร่และบังคับใช้นโยบาย และคุณ ที่รู้ว่าภาพนั้นเอาไปทำอะไร การสร้างภาพ AI แบบไม่มีตัวกรองคือเครื่องมือสำหรับคนที่พร้อมยืนหยัดอยู่เบื้องหลังผลงานของตัวเองอยู่แล้ว — ตำราแอตลาสของศัลยแพทย์ รายงานผู้เชี่ยวชาญ สตอรีบอร์ด การ์ตูน — ที่ถูกหยุดไว้ด้วยระบบที่แยกพวกเขาออกจากคนอื่นไม่ได้

07Shannon ทำอะไร — และไม่ทำอะไร

ความแม่นยำในหัวข้อนี้สำคัญกว่าความกระตือรือร้น โดยเฉพาะสำหรับผู้อ่านที่มาจากการค้นหาเรื่อง API

สิ่งที่มันทำ

• การสร้างภาพ บรรยายภาพด้วยภาษาธรรมดา ในภาษาใดก็ได้ Shannon เขียนพรอมป์สร้างภาพเองเป็นภาษาอังกฤษ ไม่ว่าคุณจะถามด้วยภาษาใด
• การแก้ไขภาพหนึ่งภาพ ภาพต้นทางหนึ่งภาพเท่านั้น — ภาพที่อยู่ในบทสนทนาแล้ว หรือภาพที่แนบมากับข้อความปัจจุบันของคุณ — เปลี่ยนแปลงด้วยคำสั่งที่ระบุว่าอะไรเปลี่ยนและอะไรคงเดิม ผลลัพธ์คงอัตราส่วนภาพของต้นทางไว้โดยอัตโนมัติ
• การรวมสองภาพขึ้นไป การถ่ายโอนเครื่องแต่งกาย การใส่วัตถุลงในฉาก คนยืนข้างคน สินค้าบนตัวคน ตัวแบบจากภาพหนึ่งกับสไตล์จากอีกภาพหนึ่ง พรอมป์ระบุบทบาทของแต่ละภาพตามลำดับ และใช้ภาพจริง หน้าตาที่แท้จริงของมันจึงถูกรักษาไว้แทนที่จะถูกบรรยายใหม่
• การควบคุมอัตราส่วน square (ค่าเริ่มต้น), portrait, landscape, wide และ tall คำขอที่ระบุชัดเจนชนะเสมอ
• การเรนเดอร์บนคลัสเตอร์ GPU ของเราเอง โดยไม่มีตัวกรองเนื้อหาบนเส้นทางการสร้าง และไม่มีชั้นปฏิเสธบนโมเดลที่เขียนพรอมป์

สิ่งที่มันไม่ทำ

• ไม่มีวิดีโอ Shannon ไม่ทำภาพนิ่งให้เคลื่อนไหวและไม่ผลิตวิดีโอ ไม่ใช่รายการในโรดแมปที่ถูกอมไว้แบบเล่นตัว — มันไม่มีอยู่
• ไม่มีบน API การสร้างภาพ การแก้ไข และการรวมภาพอยู่ในแอปแชท Shannon ส่วน API /v1 ให้บริการข้อความและการมองเห็น — มันอ่านภาพที่คุณส่งไปให้ได้ — แต่ไม่เรนเดอร์ภาพขึ้นมา
• ไม่สร้างภาพโดยไม่ได้รับเชิญ การทักทาย คำถาม หรือรูปถ่ายที่แนบมาลอย ๆ ไม่ทำให้เกิดภาพ การขอให้ Shannon ดูภาพ — บรรยายมัน อ่านมัน วิเคราะห์มัน — คืองานการมองเห็นตามปกติ ไม่ใช่การสร้างภาพ และไม่มีค่าใช้จ่ายเพิ่ม

การ์ดยืนยัน

นี่คือกลไกที่มาแทนตัวกรอง และเป็นทางเลือกเชิงการออกแบบ ไม่ใช่พิธีกรรม เมื่อ Shannon ตัดสินว่าคุณกำลังขอภาพ มันจะเขียนพรอมป์สร้างภาพและแสดงให้คุณดูบนการ์ดยืนยันก่อนที่อะไรจะถูกเรนเดอร์ ไม่มีอะไรถูกสร้างและไม่มีการคิดเงินจนกว่าคุณจะยืนยัน

ลองเทียบการออกแบบทั้งสองบนข้อดีของมัน ตัวกรองเดาเจตนาของคุณด้วยข้อมูลที่น้อยกว่าที่คุณมี แล้วบังคับใช้การเดานั้นอย่างเงียบ ๆ ส่วนการ์ดยืนยันวางข้อกำหนดตรงตัวของภาพไว้ตรงหน้าฝ่ายที่รู้ว่าภาพนั้นเอาไปทำอะไร ก่อนที่จะใช้กำลังประมวลผลใด ๆ มันจับการอ่านคำขอของคุณผิดได้ ซึ่งตัวกรองไม่เคยทำ มันปล่อยให้คุณเติมความแม่นยำทางกายวิภาคหรือรายละเอียดทางประวัติศาสตร์ที่โมเดลระบุไว้ไม่พอ และมันทำให้ความรับผิดชอบอ่านออกได้แทนที่จะกระจัดกระจาย คุณเห็นพรอมป์แล้ว และคุณกดปุ่มเอง

08การสร้างภาพแบบไม่มีตัวกรองยกระดับความรับผิดชอบ ไม่ได้ถอดมันออก

เรื่องนี้ควรอยู่ตรงนี้มากกว่าอยู่ในส่วนท้าย เพราะมันคือครึ่งหนึ่งของข้อโต้แย้ง เครื่องสร้างภาพแบบมีตัวกรองให้คำสัญญาที่มันรักษาไม่ได้: ว่าเครื่องมือจะป้องกันการใช้งานในทางที่ผิดแทนคุณ มันล้มเหลวทั้งสองทิศทาง — มันบล็อกศัลยแพทย์ และมันไม่หยุดผู้ไม่ประสงค์ดีที่ตั้งใจจริง ซึ่งมีทางเลือกอื่นและมีมาตลอด สิ่งที่มันทำได้อย่างน่าเชื่อถือคือทำให้ทุกคนรู้สึกว่าความรับผิดชอบถูกจัดการไปแล้วที่ต้นน้ำ โดยเครื่องจักร การถอดตัวกรองออกก็ถอดเรื่องแต่งนั้นออกไป คำถามว่าภาพหนึ่งควรมีอยู่หรือไม่จึงกลับไปหาคนที่ตอบมันได้

• พันธะของ Shannon Lab LLC นโยบายการใช้งานอย่างรับผิดชอบที่เผยแพร่และเฉพาะเจาะจง ซึ่งระบุชื่อหมวดหมู่ที่ต้องห้าม แทนบัญชีดำที่ไม่เผยแพร่ — เป็นกฎที่คุณอ่านได้ อ้างอิงได้ และใช้เอาผิดเราได้
• พันธะของคุณ คุณรู้จุดประสงค์ ผู้รับสาร เขตอำนาจกฎหมาย และสถานะความยินยอมของทุกคนที่ปรากฏในภาพ เครื่องมือไม่รู้ และตัวจำแนกไม่มีทางรู้ได้ การ์ดยืนยันมีอยู่เพื่อให้ความรู้นั้นถูกนำมาใช้ในวินาทีที่สำคัญ โดยฝ่ายที่มีมัน
• เส้นที่ไม่ขยับ "ตัวกรองไม่ได้ห้ามฉันนี่" ไม่เคยเป็นข้อแก้ตัวในสื่อใดเลย กล้องไม่ปฏิเสธ ดินสอไม่ปฏิเสธ กฎหมายและจริยธรรมวิชาชีพกำกับการใช้งาน ไม่ใช่กำกับเครื่องมือ เครื่องสร้างภาพแบบไม่มีตัวกรองคืนข้อตกลงตามปกติที่เครื่องมือวิชาชีพอื่น ๆ ทุกชิ้นทำงานอยู่ภายใต้

อ่านนโยบายการใช้งานอย่างรับผิดชอบก่อนเริ่มใช้งาน มันสั้น เฉพาะเจาะจง และเป็นส่วนของผลิตภัณฑ์นี้ที่ทำให้ส่วนที่เหลือปกป้องได้

09คำถามที่พบบ่อย

---

แหล่งข้อมูล: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 เมษายน 2023 · PetaPixel, 3 เมษายน 2023 · CNBC, 22 กุมภาพันธ์ 2024 Shannon AI ดำเนินการโดย Shannon Lab LLC รัฐนิวเม็กซิโก สหรัฐอเมริกา