無検閲とフィルタ付きAI画像生成

画像を仕事にしている人なら、ほぼ全員が同じ話を持っています。ごく当たり前のものを描いたプロンプト — 膝関節の断面、衝突の瞬間の車、木炭の人体習作、1944年の兵士 — がポリシー違反として返ってくる。言い換えれば、別の違反が返る。やがて通るくらい曖昧な文を書き、必要だったものがもう写っていない画像を受け取る。ツールは大きな音を立てて失敗したのではありません。少しずつ失敗し、譲歩したのはあなたのほうだった、という形で失敗したのです。

01明らかに正当なプロンプトをAI画像生成が拒否するのはなぜか

その拒否はたいてい、画像モデルの意見ではありません。モデルを取り巻くフィルタ群の出力であり、その各層が、あなたが受け取ってきた奇妙な拒否のほとんどを説明します。

層	検査する対象	特徴的な失敗
プロンプトのブロックリスト	テキスト中の文字列そのものと、その近い異形	周囲の文にかかわらず語を弾く — 「speculum」は失敗し、「stethoscope」は通る
プロンプト分類器	プロンプトの「リスク」を学習で判定した値	話題の近さで発火する。医療、武器、身体、政治の近傍はすべて高スコアになる
モデルの拒否訓練	モデル自身に訓練された忌避	エラーを出さずに拒否する、あるいは黙って無害化した代替物を出す
出力分類器	描画されたピクセル。プロンプトの文脈は持たない	解剖図とポルノ、映画のスチルと実際の出来事を区別できない
ポリシーによる差し替え	描画前にプロンプトを黙って書き換える	画像は得られるが、指定したものではなく、理由も知らされない

どの層も同じ死角を共有しています。あなたがなぜ尋ねているのかを見られる層は1つもありません。医療イラストレーターも、衝突を再現する原告側の専門家も、悪意ある者も、同じ名詞を打ち込みます。フィルタが見るのは名詞であって、解剖図譜でも事件記録でもありません。しかもフィルタは通してしまった危害で評価され、壊した仕事では決して評価されません。この非対称性のもとでは、どの事業者にとっても合理的な設定はもっと拒否するです。「言い換えればいい」が解決にならないのも同じ理由です。言い換えはフィルタに新しい情報を何も与えません。ただ、引っかかった語からプロンプトを遠ざけるだけであり、それはたいてい、あなたが意図したものから遠ざかることを意味します。

02コンテンツフィルタが本当に防ぐために存在するもの

フィルタが理由もなく存在するかのように書くフィルタなし擁護論は、読む価値がありません。誰がなぜ求めたかとは無関係に、画像それ自体に危害が内在する出力の狭い集合は確かにあります。

• 未成年者が関わる性的コンテンツ。どんな文脈でも許容されず、どんな業務ワークフローも必要としません。
• 実在の人物の同意なき性的画像。危害は同意していない人に及び、削除しても取り消せません。
• 標的型の嫌がらせと名誉毀損的な捏造 — 名指しの個人が、していないことをしたように見せること。
• 偽造水準の文書 — 本物として通用するように作られたパスポート、身分証、紙幣、印章、金融証書。
• 欺瞞的な合成証拠 — 実在の出来事の捏造画像を、図解ではなく記録として提示すること。

このリストは短く、構造があります。危害は成果物そのものに、実在の人物や文書との類似に、そして真実としての提示のされ方に宿ります。ここに入っていないものに注目してください。ヌード、血、武器、歴史上の残虐、政治的揶揄。これらは医学、報道、美術、法医学、風刺の原材料であり、それらを危害カテゴリとして扱うフィルタは、どの題材が上品かというはるかに広い考えを実装しています。

Shannonはそのリストにあるものをすべて禁止しています。ただし「placenta」まで巻き込むキーワード表ではなく、カテゴリと帰結を明記した公開の責任ある利用ポリシーによってです。一方は読んで私たちに守らせられる規則であり、もう一方はあなたに見えない分類器によるあなたの意図の当てずっぽうです。

03過剰拒否の問題はどれほど大きいか。研究が測定したもの

最近まで、画像モデルの過剰拒否は逸話でした。同じ話を持つ何千人もの人がいて、規模を測る手立てがありませんでした。それを変えたのがOVERT（OVEr-Refusal evaluation on Text-to-image models）です。Ziheng Cheng、Somayeh Sojoudi、Xuandong Zhao、Dawn Song、Song Meiらを含むUCバークレーのグループがICML 2025で発表した、テキストから画像へのシステムが完全に無害なプロンプトをどれくらいの頻度で拒否するかを測る初の大規模ベンチマークです。

設計が肝心です。4,600件のプロンプトは、無害でありながら有害に見えるように作られています — メス、あざ、抗議行動に言及する、実務のリクエストそのままの形です。そして本当に有害な1,785件が対照として並んでいるので、すべて拒否すれば高得点、というわけにはいきません。9つのカテゴリは、個人と公人のプライバシーから、著作権、差別、自傷、性的コンテンツ、違法行為を経て、暴力までを覆います。

主要な結果は、過剰拒否がカテゴリを問わず、主要なモデルを問わず広く見られることです。2つめの結果は、定番の回避策にとってより打撃的です。著者らは緩和策としてプロンプトの書き換えを試し、それが「元のプロンプトの意味への忠実さをしばしば損なう」と報告しています。求めたものを変えればフィルタを抜けられますが、そのときあなたはもう、求めたものを持っていません。

より狭い研究が、ピクセルの側から同じ結論に達しています。An Art-centric perspective on AI-based content moderation of nudity（Riccio、Curto、Hofmann、Oliver、ECCV 2024のAI4VAワークショップ）で、著者らは3つの実運用NSFW分類器を芸術的なヌードで評価し、性別のバイアスと様式のバイアスの両方を明らかにしました。人体習作への判定は、誰の身体がどんな様式で描かれているかに依存するのです。これは、人体デッサンをする画家が長らく気のせいだと言われてきたことの、測定された記述です。

04フィルタ付き生成ツールがブロックする、正当な仕事の8類型

これらは、過剰拒否が不便では済まず作業停止になるカテゴリです。特定の報道事例がある場合は引用し、検証できなかった場合は事件を捏造せずカテゴリとして記述します。

1. 医療・解剖のイラスト

この分野で最もよく記録された事例です。2023年4月、The Intercept（Debbie Nathan）は、Midjourneyがspeculum、placenta、cervix、vulva、fallopian tubes、mammary glands、uterine、urethra、hymen、sperm、condom、IUDを含む解剖学用語を禁止していたと報じ、DALL·E 2は「pills used in medication abortion」をコンテンツポリシーのメッセージで拒否しました。このパターンを見つけたのは臨床データアナリストのJulia Rockwellで、細胞生物学者の友人への贈り物として胎盤の絵を生成しようとして気づき、MIT Technology Reviewに報告しました。非対称性が正体を明かします。「stethoscope」は通常どおり生成できたのに、「speculum」は禁止されていたのです。ワシントン大学の研究者Bill Howeはこれらのフィルタを「ham-fisted（不器用）」と呼び、「生殖について科学的な議論をすることが基本的に不可能」になっていると述べました。患者説明、手術図譜、看護カリキュラムはいずれも、キーワードリストが猥褻と決めた部位を含めて、身体を正確に描く必要があります。

2. 法医学と事故の再現

衝突再現、火災原因の解析、法廷での説明資料は、損傷、創傷、暴力的な力学を臨床的な正確さで描く必要があります。「blood」や「gunshot wound」を弾くよう調整されたフィルタは、この専門分野そのものを弾きます。専門家報告書や保険ファイルという文脈は分類器には見えず、そうした画像を証拠として採用可能にしている当の中立性こそが、残虐描写に見えさせるのです。

3. 芸術ヌードと人体デッサン

裸体はどこの美術でも基礎的な題材であり、人体習作は美術教育の核です。上のECCV 2024の結果は、画家たちが報告してきたことの測定版です。分類器は人体習作とポルノを確実に分けられず、その誤りは性別と様式に偏っています — 本来認識すべき伝統に対して、フィルタが最も厳しいのです。

4. 歴史と戦時の画像

教科書の図版、博物館の解説、慰霊のプロジェクトは、軍服、武器、収容所、戦闘、残虐を描く必要があります。2024年2月のGeminiの一件は、失敗が逆方向に走って同じだけの損害を出したという点で示唆的です。Googleは2024年2月22日、ナチス時代のドイツ兵を含む歴史上の集団を人種的に再構成した描写を生成したのを受けて、Geminiの人物画像生成を停止しました。CEOのSundar Pichaiはその出力を「completely unacceptable」と呼び、SVPのPrabhakar Raghavanはモデルが「overcompensated」し「over-conservative」になっていたと認めました。文脈の見えない安全対策は歴史画像を安全にしたのではなく、虚偽にしたのです。歴史書の出版社にとって、そのほうが悪い結果です。

5. フィクションの暴力と映像の事前可視化

絵コンテ、コンセプトアート、コミック、ゲームデザインが暴力を描くのは、小説や映画がそうするのと同じ理由です。ホラーの絵コンテと脅迫を区別できないフィルタは、物語芸術のパイプライン全体を容疑者扱いします。絵コンテは明示的に非現実であり、俳優と特殊効果チームが後で組み立てる場面の計画であるにもかかわらず、です。

6. 政治風刺と時事風刺画

権力者の戯画は、多くの民主主義国で最も強く保護される言論の一つであり、そして画像フィルタが真っ先に取り除くものでもあります。最も明確に記録された事例は、Midjourneyが2023年4月、中国の習近平国家主席の画像を禁じ、プロンプト中の名前をブロックした決定です — PetaPixelやDecryptなどが報じました — その一方で他の国家指導者は引き続き許可されていました。創業者のDavid HolzはDiscordで、会社は「minimize drama（もめごとを最小化）」したかったと説明し、「中国の人々がこの技術を使えることのほうが、あなたが風刺を生成できることより重要だ」と述べました。Foundation for Individual Rights and ExpressionのSarah McLaughlinはこれを検閲と呼びました。事業上の計算をどう評価するにせよ、その仕組みには名前を与える価値があります。1つの国の言論制限が、世界中のすべてのユーザーに適用されたのです。グローバルなフィルタには設定が1つしかないからです。

7. セキュリティ研究とフィッシング啓発の資料

セキュリティチームは、警告している当のものに見えなければならない研修教材を作ります。説得力のある偽ログイン画面、偽装された請求書、パーキングメーターに貼られた悪意あるQRコード。分類器にとって、それは免疫をつけさせようとしている攻撃と区別がつきません — 本物らしさこそが目的だからです — だからフィルタは防御と攻撃を等しくブロックし、攻撃者を有利にします。攻撃者はそもそも、フィルタ付きの一般向けツールなど使うつもりがなかったのですから。

8. 自社ブランド・製品・肖像の画像を拒否される権利者

著作権と商標のフィルタリングは、所有権を確認しません。類似を確認します。企業は自社のロゴや製品の画像を簡単には生成できず、権利者は自分のキャラクターを描けず、人々はしばしば自分自身の顔を生成できません。肖像フィルタが同意ではなく識別可能性を手がかりにしているからです。OVERTが9つの過剰拒否カテゴリに「著作権侵害」を含めているのは、まさにこの誤検知が非常に多いからです。フィルタは、あなたにその権利はあるか？という問いに対する乱暴な道具ですが、その問いを尋ねる手段を持っていません。

上の8つのうち4つは特定の公表事例に基づいています（医療、芸術ヌード、歴史、風刺）。8つめはOVERTの著作権カテゴリに基づきます。法医学、フィクションの事前可視化、セキュリティ啓発の資料はカテゴリとして記述しています。影響を受ける専門業務の類型としてよく知られていますが、特定の公表された事例は検証していません。

05AI画像生成が間違ったものをブロックする理由と、コンテンツフィルタの誤検知が調整では消せない理由

過剰ブロックへの反射的な対応は「しきい値を緩める」です。うまくいきません。努力不足ではなく、構造的な理由によってです。

カテゴリは信号の上では重なり、現実では重ならない。手術のイラストとポルノはヌードを共有します。法医学的再現と残虐描写は血を共有します。啓発スライドとフィッシングキットは偽ログインフォームを共有します。風刺画と名誉毀損的な捏造は、識別できる政治家を共有します。各ペアを分けているのは目的と提示のされ方であり、それはプロンプトにもピクセルにもありません。入力空間の同じ領域を占める2つの集団を分けるしきい値は存在せず、動かせば一方の誤りをもう一方の誤りと取り替えるだけです。Geminiの一件が示したのはそれです。1つの失敗を直すための介入が別の失敗を生み、Google自身のSVPがそれを「overcompensated」と表現しました。

コストは事業者にとって非対称であり、あなたにとってではない。悪い画像を1枚通してしまったフィルタはニュースになります。正当な画像を1万枚ブロックしたフィルタは沈黙を生みます。拒否されたユーザーは組織化しないからです — 諦めるだけです。この非対称性のもとでのリスク管理は、恒久的に過剰ブロックへ収束します。そして根底にある判断が不可能である以上、ブロックリストは事案が起きるたびに文字列を積み増していきます。「stethoscope」は問題なく「speculum」は禁止、という状態はそうして生まれます。女性特有の器具のほうが危険だと誰かが決めたのではありません。苦情が来た場所でリストが伸びたのです。それが符号化しているのは、危害の理論ではなく、ある事業者の広報上の履歴です。

最も厳しい法域が世界の既定になる。1つのフィルタがあらゆる国のあらゆるユーザーに提供されるので、1つの市場のために加えられた制限が全員へ輸出されます — 習近平のルールが教科書的な事例です。そしてプロンプトの書き換えは意味を破壊します。これはOVERTの実験的な論点であり、フィルタを通すためにリクエストを婉曲表現へ洗い直した経験のあるプロなら、誰もが手作業で確認済みのはずです。あなたは勝ったのではなく、妥協したのです。

これらはどれも無料ではありませんし、静かに失敗するため、事業者が眺める指標にはコストが現れません。十分な回数拒否されると、人は尋ねるのをやめ、通りそうだと予測できる範囲へ、あらかじめすべてのプロンプトを狭めます。最終的に通った婉曲表現が生むのは、あなたの資料が必要としたものに近い、しかしそのものではない画像です。定型的なポリシーメッセージは、どの層が発火したのかを何も教えないので、推測して再試行するしかありません。しかも画像の作業は反復的なので、5回に1回引っかかるフィルタは、単に遅くするのではなくループを壊します。その一方で、真剣な道具を最も強く必要とする分野には、審査担当者も、異議申し立ての手段も、たいていはブロック対象の公開リストもありません。読めない規則は規則ではありません。天気です。

06無検閲とフィルタ付きAI画像生成：実際に変わること

フィルタなしのシステムが与えてくれないものも含めた、正直な比較です。

観点	フィルタ付きの生成ツール	フィルタなし（Shannon）
誰が決めるか	語とピクセルを読む分類器	実際のプロンプトを読む人間
いつ分かるか	送信した後 — ときには支払った後	描画も課金も始まる前
規則の実体	非公開で変動するブロックリスト	公開された責任ある利用ポリシー
職業上の文脈	システムからは見えない	あなたが保持し、あなたが責任を負う対象
失敗の仕方	静かな過剰ブロック、意味のずれ	依頼したものが得られる — 誤りも含めて
誰がリスクを負うか	ベンダー。あなたの仕事へ転嫁される	分担：事業者の方針＋利用者の説明責任

最後の行こそ、人が読み飛ばし、そして最も重要な行です。フィルタを外してもセクション02の危害カテゴリはなくなりません。なくなるのは、それらについて下手に推測していた機械です。義務は元の場所にとどまり、いまや文脈について推論できる2者が担います。方針を公開し執行する事業者と、その画像が何のためのものかを知っているあなたです。フィルタなしのAI画像生成は、自分の出力の後ろに立つ用意がすでにある人 — 外科医の図譜、専門家報告書、絵コンテ、風刺画 — のための道具であり、彼らは、自分を他の誰かと区別できないシステムに止められてきたのです。

07Shannonがすること — そしてしないこと

ここでは熱意より正確さが重要です。とくにAPIの検索から来た読者にとっては。

できること

• 生成。普通の言葉で、どの言語でも画像を描写してください。どの言語で依頼しても、Shannonが生成プロンプトを自ら英語で書きます。
• 1枚の編集。ソースはちょうど1枚 — すでに会話にある画像か、今のメッセージに添付したもの — を、何が変わり何が変わらないかを述べた指示で変更します。出力は元のアスペクト比を自動的に維持します。
• 2枚以上の合成。衣装の移し替え、オブジェクトをシーンへ、人物を人物の隣へ、製品を人に、ある画像の被写体に別の画像のスタイルを。プロンプトは各画像の役割を順番に名指しし、実物の画像が使われるので、再記述ではなく実際の見た目が保たれます。
• 比率の制御。square（既定）、portrait、landscape、wide、tall。明示的な指定は常に勝ちます。
• 自社GPUクラスタでの描画。生成経路にコンテンツフィルタはなく、プロンプトを書くモデルに拒否層もありません。

できないこと

• 動画はなし。Shannonは画像をアニメーション化せず、動画も作りません。もったいぶって伏せているロードマップ項目ではなく、存在しないのです。
• APIでは使えない。画像の生成、編集、合成はShannonチャットアプリの機能です。/v1 APIが提供するのはテキストと画像認識で — 送られた画像を読むことはできます — 描画はしません。
• 頼まれない生成はなし。あいさつ、質問、何気なく添付した写真では画像は始まりません。Shannonに画像を見てもらうこと — 説明する、読む、分析する — は通常の画像認識の作業であって生成ではなく、追加費用もかかりません。

確認カード

これがフィルタを置き換える仕組みであり、形式的な手続きではなく設計上の選択です。あなたが画像を求めているとShannonが判断すると、生成プロンプトを書き、何かが描画される前にそれを確認カードで提示します。あなたが承認するまで、生成も課金も行われません。

両者の設計をその長所で比べてみてください。フィルタは、あなたより少ない情報であなたの意図を推測し、その推測を黙って執行します。確認カードは、計算資源を1ワットも使う前に、その画像が何のためのものかを知っている当事者の前に、画像の文字どおりの仕様を置きます。それはリクエストの読み違いを捕まえます — フィルタが決してやらないことです。モデルが指定しきれなかった解剖学的な精度や歴史的な細部を、あなたが足せるようにもします。そして責任を、拡散させるのではなく読み取れるものにします。あなたはプロンプトを見て、ボタンを押したのです。

08フィルタなしの生成は責任を重くする。なくすのではない

これはフッターではなくここに置くべき話です。議論の半分だからです。フィルタ付きの生成ツールは、守れない約束をします。ツールがあなたに代わって悪用を防ぐ、という約束です。それは両方向に失敗します。外科医をブロックし、そして本気の悪意ある者は止めません。彼らには他の手段があり、最初からありました。確実に達成されるのは、責任が上流で機械によって処理されたと全員に感じさせることだけです。フィルタを外すことは、その虚構を外すことです。その画像が存在してよいかという問いは、答えられる人々のもとへ戻ります。

• Shannon Lab LLCの義務。非公開のブロックリストではなく、禁止カテゴリを名指しした公開かつ具体的な責任ある利用ポリシー — 読んで、引用して、私たちに守らせられる規則です。
• あなたの義務。目的、想定読者、法域、描かれるすべての人の同意状況を知っているのはあなたです。ツールは知りませんし、分類器には決して分かりません。確認カードが存在するのは、その知識を、それを持つ当事者が、それが効く瞬間に適用するためです。
• 動かない一線。「フィルタが止めなかった」は、どんな媒体でも弁明になったことがありません。カメラは拒否せず、鉛筆も拒否しません。使用を律するのは法と職業倫理であって、道具ではありません。フィルタなしの生成ツールは、他のあらゆる専門的な道具が置かれている当たり前の状態を取り戻すだけです。

始める前に責任ある利用ポリシーをお読みください。短く、具体的で、このプロダクトの残りを擁護可能にしている部分です。

09よくある質問

---

出典：Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT（arXiv:2505.21347, ICML 2025） · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity（arXiv:2409.17156, AI4VA @ ECCV 2024） · Debbie Nathan, The Intercept, 2023年4月22日 · PetaPixel, 2023年4月3日 · CNBC, 2024年2月22日。Shannon AIはShannon Lab LLC（米国ニューメキシコ州）が運営しています。