Kami tidak menyimpan atau mengakses data mana-mana pengguna, dan kami tidak menggantung akaun kecuali pihak berkuasa yang sah memerlukan tindakan penguatkuasaan.
Penyelidikan · Kedudukan

Tanpa Tapisan lawan Bertapis: Penjana Imej AI

Penapis kandungan dibina untuk menghentikan sekumpulan kecil kemudaratan sebenar. Dalam amalan ia juga menghentikan ilustrasi perubatan, rekonstruksi forensik, lukisan model hidup, sejarah peperangan, satira editorial dan syarikat yang menggambarkan produk mereka sendiri. Inilah kosnya — dan apa yang membuang penapis itu ubah dan tidak ubah.

Diterbitkan 5 September 2026PenyelidikanShannon Lab LLC

Ringkasnya

Penjana imej arus perdana menapis gesaan dan output dengan pengelas yang melihat perkataan dan piksel, tidak pernah tujuan. Itu menjamin positif palsu, dan ia mendarat paling keras pada kerja mahir: anatomi, forensik, seni bogel, imej sejarah, pra-visualisasi, satira, bahan kesedaran keselamatan, dan pemegang hak yang meminta jenama mereka sendiri. OVERT (ICML 2025), penanda aras berskala besar pertama untuk mod kegagalan ini, menggunakan 4,600 gesaan yang tidak berbahaya tetapi mencurigakan dan mendapati penolakan berlebihan berleluasa merentasi model terkemuka. Shannon menjalankan penjanaan imej, penyuntingan imej tunggal dan gabungan berbilang imej pada kluster GPU kami sendiri tanpa penapis kandungan dan tanpa lapisan penolakan, menggantikan senarai sekatan dengan satu keputusan yang kelihatan: kad pengesahan yang menunjukkan gesaan tepat sebelum apa-apa dijana. Itu menaikkan tanggungjawab anda dan tanggungjawab kami; kedua-duanya ada dalam Dasar Penggunaan Bertanggungjawab. Tiada penjanaan video, dan kerja imej berada dalam aplikasi sembang, bukan API.

Hampir semua orang yang bekerja dengan imej secara profesional mempunyai kisah yang sama. Satu gesaan yang menerangkan sesuatu yang biasa — keratan rentas sendi lutut, sebuah kereta pada saat hentaman, kajian figura dalam arang, seorang askar pada 1944 — kembali sebagai pelanggaran dasar. Anda merangka semula, dan mendapat pelanggaran yang lain pula. Akhirnya anda menulis sesuatu yang cukup kabur untuk lulus, dan mendapat imej yang tidak lagi menunjukkan apa yang anda perlukan. Alat itu tidak gagal dengan lantang; ia gagal secara berperingkat, dan menjadikan anda pihak yang berkompromi.

01Mengapa penjana imej AI menolak gesaan yang jelas sah?

Penolakan itu biasanya bukan pendapat model imej. Ia hasil daripada tindanan penapisan di sekeliling model, dan lapisan-lapisannya menerangkan hampir setiap penolakan pelik yang pernah anda terima.

LapisanApa yang ia periksaKegagalan cirinya
Senarai sekatan gesaanRentetan literal dan variasi hampir sama dalam teks andaMenyekat satu perkataan tanpa mengira ayat di sekelilingnya — "speculum" gagal, "stethoscope" lulus
Pengelas gesaanPertimbangan terpelajar tentang "risiko" gesaan ituMenyala pada kehampiran topik: apa sahaja yang dekat dengan perubatan, senjata, tubuh atau politik mendapat skor tinggi
Latihan penolakan modelKeengganan terlatih model itu sendiriMenolak tanpa ralat, atau diam-diam menghasilkan gantian yang disterilkan
Pengelas outputPiksel yang telah dijana, tanpa konteks gesaanTidak dapat membezakan plat anatomi daripada pornografi, atau cebisan filem daripada peristiwa sebenar
Penggantian dasarPenulisan semula gesaan anda secara senyap sebelum penjanaanAnda mendapat imej, tetapi bukan yang anda tetapkan, dan anda tidak diberitahu mengapa

Setiap lapisan berkongsi satu titik buta: tiada satu pun boleh melihat mengapa anda bertanya. Pelukis ilustrasi perubatan, pakar bagi pihak plaintif yang merekonstruksi pelanggaran, dan seseorang yang berniat jahat semuanya menaip kata nama yang sama. Penapis nampak kata nama itu, bukan atlas atau fail kes, dan ia dinilai berdasarkan kemudaratan yang dilepaskannya — tidak pernah berdasarkan kerja yang dimusnahkannya. Di bawah ketaksimetrian itu, tetapan rasional bagi mana-mana pengendali ialah tolak lebih banyak. Itu juga sebabnya "rangka semula sahaja" bukan penyelesaian: merangka semula tidak memberi penapis maklumat yang ia tiada, ia hanya menjauhkan gesaan anda daripada perkataan yang menyalakannya, yang biasanya bermakna menjauhi apa yang anda maksudkan.

02Apa yang penapis kandungan benar-benar wujud untuk cegah

Hujah untuk penjanaan tanpa penapis yang berpura-pura penapis wujud tanpa sebab tidak berbaloi dibaca. Ada satu set sempit output yang kemudaratannya intrinsik pada imej itu sendiri, tidak kira siapa yang meminta atau mengapa:

  • Kandungan seksual melibatkan kanak-kanak. Tiada konteks menjadikannya boleh diterima; tiada aliran kerja profesional memerlukannya.
  • Imej intim orang sebenar tanpa persetujuan. Kemudaratannya mendarat pada seseorang yang tidak bersetuju, dan pembuangan tidak memulihkannya.
  • Gangguan bersasar dan rekaan fitnah — membuat individu bernama kelihatan seolah-olah melakukan sesuatu yang tidak dilakukannya.
  • Dokumen bertaraf pemalsuan — pasport, kad pengenalan, wang kertas, meterai dan instrumen kewangan yang dibuat untuk lulus sebagai tulen.
  • Bukti sintetik memperdaya — imej rekaan bagi peristiwa sebenar yang dipersembahkan sebagai dokumentasi dan bukan ilustrasi.

Senarai itu pendek dan ia mempunyai struktur: kemudaratannya hidup dalam artifak itu, dalam keserupaannya dengan orang atau dokumen sebenar, dan dalam persembahannya sebagai kebenaran. Perhatikan apa yang tiada di dalamnya — kebogelan, darah, senjata, kekejaman sejarah, ejekan politik. Itulah bahan mentah perubatan, kewartawanan, seni, forensik dan satira, dan penapis yang melayannya sebagai kategori kemudaratan sedang melaksanakan idea yang jauh lebih luas tentang subjek mana yang dianggap terhormat.

Shannon melarang segala-galanya dalam senarai itu, dalam Dasar Penggunaan Bertanggungjawab yang diterbitkan dengan kategori bernama dan akibat, dan bukan jadual kata kunci yang turut menangkap "placenta." Yang satu ialah peraturan yang anda boleh baca dan gunakan untuk menuntut kami; yang satu lagi ialah tekaan tentang niat anda oleh pengelas yang anda tidak dapat lihat.

03Sebesar mana masalah penolakan berlebihan? Apa yang diukur oleh kajian

Sehingga baru-baru ini, penolakan berlebihan dalam model imej hanyalah anekdot — beribu-ribu orang dengan kisah yang sama dan tiada cara untuk mengukurnya. Itu berubah dengan OVERT (OVEr-Refusal evaluation on Text-to-image models), dibentangkan di ICML 2025 oleh sekumpulan penyelidik UC Berkeley termasuk Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song dan Song Mei: penanda aras berskala besar pertama yang mengukur berapa kerap sistem teks-ke-imej menolak gesaan yang sepenuhnya tidak berbahaya.

4,600
Gesaan tidak berbahaya
9
Kategori keselamatan
1,785
Kawalan memudaratkan
ICML
2025

Reka bentuknya penting. 4,600 gesaan itu dibina supaya kelihatan memudaratkan sedangkan ia tidak berbahaya — berbentuk permintaan profesional sebenar yang menyebut pisau bedah, lebam atau protes — dan 1,785 gesaan yang benar-benar memudaratkan berada bersebelahannya sebagai kawalan, supaya sesebuah model tidak boleh mendapat skor baik dengan menolak segala-galanya. Sembilan kategori itu bermula daripada privasi individu dan tokoh awam, melalui hak cipta, diskriminasi, kecederaan diri, kandungan seksual dan aktiviti haram, sehingga keganasan.

Penemuan utamanya ialah penolakan berlebihan berleluasa merentasi kategori dan merentasi model terkemuka. Yang kedua lebih memudaratkan penyelesaian sementara yang biasa: penulisnya menguji penulisan semula gesaan sebagai mitigasi dan melaporkan ia "sering menjejaskan kesetiaan kepada makna gesaan asal." Anda boleh melepasi penapis dengan mengubah apa yang anda minta, dan kemudian anda tidak lagi mempunyai apa yang anda minta.

Satu kajian yang lebih sempit mencapai kesimpulan sama daripada sisi piksel. Dalam An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann dan Oliver, bengkel AI4VA di ECCV 2024), penulis menilai tiga pengelas NSFW produksi pada kebogelan artistik dan mendedahkan kedua-dua bias jantina dan bias gaya: keputusan terhadap kajian figura bergantung pada tubuh siapa yang digambarkan dan dalam gaya apa. Itu pernyataan terukur bagi perkara yang setiap pelukis model hidup diberitahu hanyalah khayalan.

04Lapan jenis kerja sah yang disekat penjana bertapis

Inilah kategori di mana penolakan berlebihan bukan kesulitan tetapi penghentian kerja. Di mana ada kes yang dilaporkan secara khusus, ia dipetik; di mana tiada yang disahkan, kategori itu diterangkan tanpa merekacipta insiden.

1. Ilustrasi perubatan dan anatomi

Kes paling berdokumen dalam bidang ini. Pada April 2023, The Intercept (Debbie Nathan) melaporkan bahawa Midjourney telah mengharamkan istilah anatomi termasuk speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom dan IUD, sementara DALL·E 2 menolak "pills used in medication abortion" dengan mesej dasar kandungan. Corak itu ditemui oleh Julia Rockwell, seorang penganalisis data klinikal yang cuba menjana gambar plasenta sebagai hadiah untuk rakannya seorang ahli biologi sel, dan dilaporkan kepada MIT Technology Review. Ketaksimetriannya ialah petunjuknya: "stethoscope" dijana seperti biasa sementara "speculum" dilarang. Penyelidik Universiti Washington Bill Howe menggelar penapis itu "ham-fisted" dan berkata ia menjadikannya "basically impossible to have a scientific discussion about reproduction." Pendidikan pesakit, atlas pembedahan dan kurikulum kejururawatan semuanya memerlukan tubuh digambarkan dengan tepat, termasuk bahagian yang telah diputuskan tidak senonoh oleh senarai kata kunci.

2. Rekonstruksi forensik dan kemalangan

Rekonstruksi pelanggaran, analisis punca kebakaran dan bahan demonstrasi mahkamah memerlukan gambaran kerosakan, luka dan mekanik keganasan dengan ketepatan klinikal. Penapis yang ditala untuk menolak "blood" atau "gunshot wound" menolak disiplin itu sendiri: konteksnya — laporan pakar, fail insurans — halimunan kepada pengelas, dan sifat neutral yang menjadikan imej sebegitu boleh diterima di mahkamah itulah yang menyebabkan ia dibaca sebagai keganasan.

3. Seni bogel dan lukisan model hidup

Tubuh bogel ialah subjek asas seni di mana-mana, dan kajian figura ialah teras pendidikan seni. Keputusan ECCV 2024 di atas ialah versi terukur bagi apa yang dilaporkan para pelukis: pengelas tidak boleh diharap memisahkan kajian figura daripada pornografi, dan ralatnya berat sebelah mengikut jantina dan gaya — penapis yang paling keras tepat pada tradisi yang sepatutnya dikenalinya.

4. Imej sejarah dan zaman perang

Seni buku teks, tafsiran muzium dan projek peringatan memerlukan gambaran pakaian seragam, senjata, kem, pertempuran dan kekejaman. Episod Gemini Februari 2024 memberi pengajaran kerana kegagalannya berjalan ke arah bertentangan dan menyebabkan kerosakan yang sama besar. Google menjeda keupayaan Gemini menjana imej manusia pada 22 Februari 2024 selepas ia menghasilkan gambaran kumpulan sejarah yang disusun semula dari segi kaum, termasuk askar Jerman era Nazi. CEO Sundar Pichai menggelar output itu "completely unacceptable"; SVP Prabhakar Raghavan mengakui model itu telah "overcompensated" dan menjadi "over-conservative." Keselamatan yang buta konteks tidak menjadikan imej sejarah lebih selamat — ia menjadikannya palsu, dan bagi penerbit sejarah itu lebih buruk.

5. Keganasan dalam fiksyen dan pra-visualisasi filem

Papan cerita, seni konsep, komik dan reka bentuk permainan menggambarkan keganasan atas sebab yang sama seperti novel dan filem. Penapis yang tidak dapat membezakan papan cerita seram daripada ancaman melayan seluruh saluran seni naratif sebagai mencurigakan — walaupun papan cerita jelas-jelas tidak nyata, ia satu pelan bagi adegan yang akan dipentaskan oleh pelakon dan pasukan kesan khas.

6. Satira politik dan kartun editorial

Karikatur golongan berkuasa antara kategori pertuturan paling terlindung di kebanyakan negara demokrasi, dan lazimnya perkara pertama yang dibuang penapis imej. Kes berdokumen paling jelas ialah keputusan Midjourney pada April 2023 untuk menyekat imej Presiden China Xi Jinping dan menyekat namanya dalam gesaan — dilaporkan oleh PetaPixel, Decrypt dan lain-lain — sambil terus membenarkan pemimpin dunia lain. Pengasas David Holz menjelaskan di Discord bahawa syarikat itu mahu "minimize drama" dan bahawa "the ability for people in China to use this tech is more important than your ability to generate satire"; Sarah McLaughlin dari Foundation for Individual Rights and Expression menggelarnya penapisan. Apa pun kesimpulan seseorang tentang kiraan perniagaannya, mekanismenya wajar dinamakan: sekatan pertuturan sebuah negara dikenakan kepada setiap pengguna di seluruh dunia, kerana penapis global hanya ada satu tetapan.

7. Penyelidikan keselamatan dan bahan kesedaran pancingan data

Pasukan keselamatan membina bahan latihan yang mesti kelihatan seperti perkara yang diamarannya: skrin log masuk palsu yang meyakinkan, invois palsu, kod QR berniat jahat pada meter letak kereta. Bagi pengelas, itu tidak dapat dibezakan daripada serangan yang ia cuba imunkan — kemiripan itulah intinya — jadi penapis menyekat pertahanan dan serangan secara sama rata, memberi kelebihan kepada penyerang, yang memang tidak akan menggunakan alat pengguna bertapis pun.

8. Pemegang hak ditolak imej jenama, produk atau rupa diri mereka sendiri

Penapisan hak cipta dan tanda dagangan tidak menyemak pemilikan; ia menyemak keserupaan. Sebuah syarikat tidak boleh dengan mudah menjana imej logo atau produknya sendiri, seorang pemegang hak tidak boleh menggambarkan wataknya sendiri, dan orang ramai kerap tidak boleh menjana wajah mereka sendiri, kerana penapis rupa diri berpaksikan kebolehcaman dan bukan persetujuan. OVERT memasukkan "pelanggaran hak cipta" antara sembilan kategori penolakan berlebihannya tepat kerana positif palsu ini begitu lazim. Penapis ialah alat tumpul bagi satu soalan — adakah anda mempunyai hak terhadap ini? — yang ia tiada cara untuk tanya.

Empat daripada lapan di atas berpaut pada kes tertentu yang diterbitkan (perubatan, seni bogel, sejarah, satira) ditambah kategori hak cipta OVERT bagi yang kelapan. Forensik, pra-visualisasi fiksyen dan bahan kesedaran keselamatan dinyatakan sebagai kategori: ia kelas kerja profesional terjejas yang terkenal tetapi kami tidak mengesahkan insiden khusus yang diterbitkan.

Semak sumber utama

Setiap kes berdokumen di atas adalah awam dan boleh disahkan secara bebas. Bacalah sendiri dan bukan mempercayai gambaran kami.

05Mengapa penjana seni AI menyekat perkara yang salah, dan mengapa positif palsu penapis kandungan tidak boleh ditala hilang

Tindak balas naluri terhadap sekatan berlebihan ialah "longgarkan ambangnya." Ia tidak berkesan, atas sebab struktur dan bukan kekurangan usaha.

Kategori-kategori itu bertindih dalam isyarat tetapi tidak dalam realiti. Ilustrasi pembedahan dan pornografi berkongsi kebogelan. Rekonstruksi forensik dan keganasan berkongsi darah. Slaid kesedaran dan kit pancingan data berkongsi borang log masuk palsu. Kartun satira dan rekaan fitnah berkongsi ahli politik yang boleh dikenali. Yang membezakan setiap pasangan ialah tujuan dan persembahan — tiada dalam gesaan dan tiada dalam piksel. Tiada ambang yang memisahkan dua populasi yang menduduki kawasan yang sama dalam ruang input; menggerakkannya hanya menukar satu ralat dengan ralat yang lain. Itulah yang ditunjukkan oleh episod Gemini: campur tangan yang bertujuan membaiki satu kegagalan menghasilkan satu lagi, digambarkan oleh SVP Google sendiri sebagai "overcompensated."

Kosnya taksimetri kepada pengendali, bukan kepada anda. Penapis yang melepaskan satu imej buruk menghasilkan berita. Penapis yang menyekat sepuluh ribu imej sah menghasilkan kesunyian, kerana pengguna yang ditolak tidak berhimpun — mereka berputus asa. Pengurusan risiko di bawah ketaksimetrian itu menumpu kepada sekatan berlebihan, secara kekal. Dan kerana pertimbangan asasnya mustahil, senarai sekatan mengumpul rentetan literal apabila insiden berlaku, dan begitulah anda mendapat "stethoscope" tidak mengapa dan "speculum" diharamkan. Tiada siapa memutuskan bahawa alat khusus wanita lebih berbahaya; senarai itu bertumbuh di tempat aduan mendarat. Ia mengekod sejarah PR seorang pengendali, bukan teori kemudaratan.

Bidang kuasa paling ketat menjadi lalai global. Satu penapis melayani setiap pengguna di setiap negara, jadi sekatan yang ditambah untuk satu pasaran dieksport kepada semuanya — peraturan Xi Jinping menjadi kes buku teksnya. Dan menulis semula gesaan anda memusnahkan makna anda, iaitu inti eksperimen OVERT: setiap profesional yang pernah membasuh permintaannya menjadi kiasan untuk melepasi penapis telah mengesahkannya secara manual. Anda tidak menang; anda mengalah.

Tiada satu pun daripada ini percuma, dan kerana ia gagal secara senyap, kosnya halimunan dalam metrik yang diperhatikan pengendali. Selepas cukup banyak penolakan anda berhenti bertanya, menyempitkan setiap gesaan lebih awal kepada apa yang anda ramalkan akan lulus; kiasan yang akhirnya lulus menghasilkan imej yang hampir dengan, tetapi bukan, apa yang dokumen anda perlukan. Mesej dasar generik tidak memberitahu anda lapisan mana yang menyala, jadi anda hanya boleh meneka dan mencuba lagi — dan kerja imej bersifat berulang, jadi penapis yang menangkap satu percubaan dalam lima mengganggu gelung itu dan bukan sekadar memperlahankannya. Sementara itu bidang yang mempunyai tuntutan paling kuat terhadap alat serius tidak mendapat penyemak, tiada rayuan dan biasanya tiada senarai terbit tentang apa yang disekat. Peraturan yang anda tidak boleh baca bukan peraturan; ia cuaca.

06Penjana imej AI tanpa tapisan lawan bertapis: apa yang sebenarnya berubah

Inilah versi jujur perbandingan itu, termasuk apa yang sistem tanpa penapis tidak berikan kepada anda.

DimensiPenjana bertapisTanpa penapis (Shannon)
Apa yang memutuskanPengelas yang membaca perkataan dan pikselManusia yang membaca gesaan tepat
Bila anda tahuSelepas anda hantar — kadangkala selepas anda bayarSebelum apa-apa dijana atau dicaj
Apa peraturannyaSenarai sekatan tidak terbit yang sentiasa berubahDasar Penggunaan Bertanggungjawab yang diterbitkan
Konteks profesionalHalimunan kepada sistemMilik anda untuk dipegang, dan untuk dijawab
Mod kegagalanSekatan berlebihan senyap, hanyutan maknaAnda dapat apa yang anda minta — termasuk kesilapan
Siapa memikul risikoVendor, dipunggah ke atas kerja andaDikongsi: dasar pengendali ditambah kebertanggungjawaban pengguna

Baris terakhir ialah yang orang langkau, dan yang paling penting. Membuang penapis tidak membuang kategori kemudaratan dalam seksyen 02; ia membuang mesin yang meneka tentangnya dengan buruk. Kewajipan itu kekal di tempatnya, kini dipegang oleh dua pihak yang boleh menaakul tentang konteks: pengendali, yang menerbitkan dan menguatkuasakan dasar, dan anda, yang tahu untuk apa imej itu. Penjanaan imej AI tanpa penapis ialah alat untuk orang yang sudah bersedia menyokong outputnya — atlas pakar bedah, laporan pakar, papan cerita, kartun — yang sedang dihalang oleh sistem yang tidak dapat membezakan mereka daripada orang lain.

07Apa yang Shannon lakukan — dan apa yang ia tidak lakukan

Ketepatan di sini lebih penting daripada keterujaan, terutamanya bagi pembaca yang tiba daripada carian API.

Jana
Imej baharu
Sunting
Satu imej sumber
Gabung
Dua atau lebih imej
Tiada
Penjanaan video

Apa yang ia lakukan

  • Penjanaan. Terangkan sesuatu imej dalam bahasa biasa, dalam mana-mana bahasa. Shannon menulis sendiri gesaan penjanaan itu, dalam bahasa Inggeris, apa pun bahasa yang anda gunakan untuk bertanya.
  • Menyunting satu imej. Tepat satu sumber — gambar yang sudah ada dalam perbualan, atau satu yang dilampirkan pada mesej semasa anda — diubah oleh arahan yang menyatakan apa yang berubah dan apa yang kekal. Output mengekalkan nisbah bidang sumber secara automatik.
  • Menggabungkan dua atau lebih imej. Pemindahan pakaian, objek-ke-dalam-adegan, orang di sebelah orang, produk-pada-orang, subjek daripada satu imej dengan gaya daripada satu lagi. Gesaan menamakan peranan setiap imej mengikut urutan, dan imej sebenar digunakan, jadi rupa sebenarnya dipelihara dan bukan diterangkan semula.
  • Kawalan nisbah. square (lalai), portrait, landscape, wide dan tall. Permintaan jelas sentiasa menang.
  • Penjanaan pada kluster GPU kami sendiri, tanpa penapis kandungan pada laluan penjanaan dan tanpa lapisan penolakan pada model yang menulis gesaan.

Apa yang ia tidak lakukan

  • Tiada video. Shannon tidak menganimasikan imej dan tidak menghasilkan video. Bukan item peta jalan yang ditahan secara malu-malu — ia memang tidak wujud.
  • Bukan pada API. Penjanaan, penyuntingan dan gabungan imej berada dalam aplikasi sembang Shannon. API /v1 menyajikan teks dan visi — ia boleh membaca imej yang anda hantar kepadanya — tetapi ia tidak menjananya.
  • Tiada penjanaan tanpa diminta. Ucapan salam, soalan atau foto yang dilampirkan sambil lewa tidak mencetuskan imej. Meminta Shannon melihat sesuatu imej — menerangkannya, membacanya, menganalisisnya — ialah kerja visi biasa, bukan penjanaan, dan tidak menelan kos tambahan.

Kad pengesahan

Inilah mekanisme yang menggantikan penapis, dan ia pilihan reka bentuk dan bukan formaliti. Apabila Shannon menentukan bahawa anda meminta sesuatu imej, ia menulis gesaan penjanaan dan menunjukkannya kepada anda pada kad pengesahan sebelum apa-apa dijana. Tiada apa-apa dijana dan tiada apa-apa dicaj sehingga anda mengesahkan.

Bandingkan kedua-dua reka bentuk itu atas merit masing-masing. Penapis meneka niat anda dengan maklumat yang lebih sedikit daripada yang anda ada, dan menguatkuasakan tekaan itu secara senyap. Kad pengesahan meletakkan spesifikasi harfiah imej itu di hadapan pihak yang tahu untuk apa ia dibuat, sebelum sebarang pengiraan dibelanjakan. Ia menangkap salah baca terhadap permintaan anda, yang tidak pernah dilakukan penapis; ia membolehkan anda menambah ketepatan anatomi atau butiran sejarah yang model kurang nyatakan; dan ia menjadikan tanggungjawab boleh dibaca dan bukan tersebar. Anda melihat gesaan itu, dan anda menekan butang itu.

08Penjanaan tanpa penapis menaikkan tanggungjawab, ia tidak membuangnya

Ini tergolong di sini dan bukan dalam pengaki, kerana ia separuh daripada hujahnya. Penjana bertapis membuat janji yang tidak boleh ditunaikannya: bahawa alat itu akan mencegah penyalahgunaan bagi pihak anda. Ia gagal dalam kedua-dua arah — ia menyekat pakar bedah, dan ia tidak menghentikan pelaku jahat yang bertekad, yang mempunyai pilihan lain dan memang sentiasa ada. Apa yang ia lakukan dengan pasti ialah membiarkan semua orang berasa tanggungjawab sudah diuruskan di hulu, oleh mesin. Membuang penapis membuang fiksyen itu; soalan sama ada sesuatu imej patut wujud kembali kepada orang yang boleh menjawabnya.

  • Kewajipan Shannon Lab LLC. Dasar Penggunaan Bertanggungjawab yang diterbitkan dan khusus, menamakan kategori larangan dan bukan senarai sekatan tidak terbit — peraturan yang anda boleh baca, petik dan gunakan untuk menuntut kami.
  • Kewajipan anda. Anda tahu tujuannya, khalayaknya, bidang kuasanya dan status persetujuan semua orang yang digambarkan. Alat itu tidak tahu, dan pengelas tidak akan pernah boleh tahu. Kad pengesahan wujud supaya pengetahuan itu digunakan pada saat ia penting, oleh pihak yang memilikinya.
  • Garis yang tidak beralih. "Penapis tidak menghalang saya" tidak pernah menjadi pembelaan dalam mana-mana medium. Kamera tidak menolak, pensel tidak menolak; undang-undang dan etika profesional mengawal penggunaan, bukan alatnya. Penjana tanpa penapis memulihkan susunan biasa yang setiap alat profesional lain beroperasi di bawahnya.

Baca Dasar Penggunaan Bertanggungjawab sebelum anda mula. Ia pendek, khusus, dan bahagian produk ini yang menjadikan selebihnya boleh dipertahankan.

09Soalan lazim

Mengapa penjana imej AI menolak gesaan yang jelas sah?

Kerana kebanyakan penapis menilai perkataan dalam gesaan anda, bukan tujuan anda. Satu pengelas duduk di hadapan model tanpa akses kepada siapa anda atau mengapa anda bertanya, jadi pelukis ilustrasi perubatan, penganalisis forensik dan pelaku jahat semuanya menaip kata nama yang sama dan semuanya mendapat penolakan yang sama. The Intercept melaporkan pada April 2023 bahawa Midjourney mengharamkan istilah anatomi termasuk speculum, placenta dan cervix, sementara stethoscope berfungsi seperti biasa.

Adakah kajian yang mengukur positif palsu penapis kandungan dalam alat seni AI?

Ya. OVERT (arXiv:2505.21347, ICML 2025) ialah penanda aras penolakan berlebihan berskala besar yang pertama untuk model teks-ke-imej: 4,600 gesaan yang kelihatan memudaratkan tetapi sebenarnya tidak berbahaya merentasi sembilan kategori keselamatan, ditambah 1,785 gesaan yang benar-benar memudaratkan sebagai kawalan. Penulisnya melaporkan penolakan berlebihan berleluasa merentasi model terkemuka. Satu kajian ECCV 2024 yang berasingan mendapati bias jantina dan bias gaya dalam tiga pengelas NSFW yang dinilai pada kebogelan artistik.

Apa yang sebenarnya diubah oleh penjana imej AI tanpa tapisan?

Ia membuang lapisan penolakan dan penapis kandungan daripada laluan penjanaan, jadi permintaan yang sah tidak diam-diam dikelaskan semula sebagai serangan. Ia tidak membuang pertimbangan — ia memindahkannya. Shannon menunjukkan kepada anda gesaan penjanaan yang tepat pada kad pengesahan sebelum apa-apa dijana, jadi keputusan dibuat oleh manusia yang dapat melihat apa yang akan dihasilkan, di bawah Dasar Penggunaan Bertanggungjawab.

Adakah Shannon menjana video?

Tidak. Shannon menjana imej baharu, menyunting satu imej sedia ada, dan menggabungkan dua atau lebih imej menjadi satu. Ia tidak menganimasikan imej dan tidak menghasilkan video dalam apa jua bentuk.

Bolehkah saya menjana imej melalui API Shannon?

Tidak. Penjanaan, penyuntingan dan gabungan imej berada dalam aplikasi sembang Shannon. API /v1 menyajikan teks dan visi — membaca serta menganalisis imej yang anda bekalkan — bukan penjanaan imej.

Jika tiada penapis, apa yang menghalang penyalahgunaan?

Dasar, kebertanggungjawaban dan satu titik keputusan yang kelihatan, bukan senarai sekatan kata kunci. Shannon tidak pernah menjana tanpa diminta, menunjukkan gesaan penuh sebelum menjana, tidak mengecaj apa-apa sehingga anda mengesahkan, dan beroperasi di bawah Dasar Penggunaan Bertanggungjawab yang diterbitkan, yang melarang kandungan seksual melibatkan kanak-kanak, imej intim tanpa persetujuan bagi orang sebenar, gangguan bersasar, dan pemalsuan dokumen identiti atau kewangan.

Minta imej yang benar-benar anda perlukan

Penjanaan, penyuntingan imej tunggal dan gabungan berbilang imej dalam aplikasi sembang — tiada penapis kandungan, tiada lapisan penolakan, dan gesaan pada skrin sebelum apa-apa dijana.

Mula Bersembang Dasar Penggunaan Bertanggungjawab

Imej dalam aplikasi sembang · tiada penjanaan video · lagi penyelidikan


Sumber: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 April 2023 · PetaPixel, 3 April 2023 · CNBC, 22 Februari 2024. Shannon AI dikendalikan oleh Shannon Lab LLC, New Mexico, USA.

Semua pautan penyelidikan