画像生成AIとわいせつ性について
はじめに
せっかくブログがあるのに使わないのもあれなので、定期的になにか書こうと思います。
で、何について書こうかと考えていたところ、Twitterあたりで画像生成AIがエッチな画像を出力した場合にどうなるんだ、刑法に抵触するんじゃないのか、という話が展開されていたのを見ましたので、それについて書いてみることにします。
論点の整理
この問題は２つの別個の論点を含んでいるため、分けて考える必要があります。
すなわち、
①実際に出力された画像が、「わいせつな…図画」（刑法175条）にあたるか
②①が肯定されたとして、生成モデル提供者に対し刑事罰が課せられるか
という論点です。
①画像のわいせつ性について
「わいせつ」の意味について、古い判例では「徒らに性慾を興奮又は刺激せしめ且つ普通人の正常な性的羞恥心を害し善良な性的道義観念に反する」*1ものがわいせつだと定義づけられています。
…これ、意味わかります？私はいまだによく意味がわかってないです。司法試験本当に受かったのか不安になってきた*2。「善良な性的道義観念」って何なんですかね。
このとき問題になった記事の内容ですが、判決文によると
被告人は、第一「好色話の泉」と題した男女の性交並びに男女陰部を表現した、戲文等の記事を、第二「其の夜我慾情す」と題し死女を姦淫する光景を、また、「変態女の秘戲」と題し変態女の性交を夫々詳述した記事を、第三「処女の門、十七の犀ひらかる」と題する男女性交の光景を記述した記事を夫々掲載した新聞各一万二千部づつを販売した
というものらしく、ネクロフィリアはまあまあアブノーマルな性癖*3ですし、「変態女の秘戲」って書いてあるぐらいだからまあ変態ではあるのかなと思いますが、男女の性交を表現した記事なんてこの世には溢れてる気もしますし、線引きがよくわかりません。
ただ、最高裁が具体的に何を問題にしていたかというのは、「チャタレー夫人の恋人」事件*4の判決文で一部明らかになりますので、こちらが手がかりになるかもしれません。
およそ人間が人種、風土、歴史、文明の程度の差にかかわらず羞恥感情を有することは、人間を動物と区別するところの本質的特徴の一つである。…
…要するに人間に関する限り、性行為の非公然性は、人間性に由来するところの羞恥感情の当然の発露である。かような羞恥感情は尊重されなければならず、従つてこれを偽善として排斥することは人間性に反する。…
ところが猥褻文書は性欲を興奮、刺戟し、人間をしてその動物的存在の面を明瞭に意識させるから、羞恥の感情をいだかしめる。そしてそれは人間の性に関する良心を麻痺させ、理性による制限を度外視し、奔放、無制限に振舞い、性道徳、性秩序を無視することを誘発する危険を包蔵している。もちろん法はすべての道徳や善良の風俗を維持する任務を負わされているものではない。かような任務は教育や宗教の分野に属し、法は単に社会秩序の維持に関し重要な意義をもつ道徳すなわち「最少限度の道徳」だけを自己の中に取り入れ、それが実現を企図するのである。刑法各本条が犯罪として掲げているところのものは要するにかような最少限度の道徳に違反した行為だと認められる種類のものである。性道徳に関しても法はその最少限度を維持することを任務とする。そして刑法一七五条が猥褻文書の頒布販売を犯罪として禁止しているのも、かような趣旨に出ているのである。
要するに、エッチなものは規制しないと、それに触れた人がハジケリスト*5になってしまって社会が維持できなくなるので刑事罰で規制しないといけないんだ、ということのようです。
私は自分のことをまあまあな左翼だと思っていますので、上記のような文章を見ても「何言ってんだこいつ」としか思いませんが、最高裁がこう考えている以上、仕事として留意しなければいけないわけです。
じゃあ具体的にどういう表現が社会を頽廃させる危険があるんですかね、という話になりますが、最高裁は「四畳半襖の下張」事件*6でもう少し具体的な基準を出しています。
文書のわいせつ性の判断にあたつては、当該文書の性に関する露骨で詳細な描写叙述の程度とその手法、右描写叙述の文書全体に占める比重、文書に表現された思想等と右描写叙述との関連性、文書の構成や展開、さらには芸術性・思想性等による性的刺激の緩和の程度、これらの観点から該文書を全体としてみたときに、主として、読者の好色的興味にうつたえるものと認められるか否かなどの諸点を検討することが必要であり、これらの事情を総合し、その時代の健全な社会通念に照らして、それが「徒らに性欲を興奮又は刺激せしめ、かつ、普通人の正常な性的羞恥心を害し、善良な性的道義観念に反するもの」（前掲最高裁昭和三二年三月一三日大法廷判決参照）といえるか否かを決すべきである。
考慮要素はある程度見えてきた気がしますが、この中の「その時代の健全な社会通念に照らして」という記述が曲者です。
要するに、最高裁は、「わいせつ」かどうかはその時代の価値観に合わせて異なりうるということを言っているわけです。実際にも、同じ写真家の写真について、平成11年*7と平成20年*8で結論が異なったケース*9がありますし、「チャタレイ夫人の恋人」も、「四畳半襖の下張」も、今では普通に読むことができます。
また、現状性器部分にいわゆるモザイクがかかったものが広く流通しています（＝「わいせつ」ではないとされている）が、上記の基準を見てもらえばわかるとおり、はっきりと「性器が隠れていればOK」とされているわけではありません。判例上も、性器は消されていたものの、消しが甘く、かつ芸術的価値はないとしてわいせつと判断されたケース*10があります。
②違法行為を惹起するツール提供者の責任について
「違法行為を実行可能にするツール提供者が責任を負うか」という論点についてですが、殺人犯が使った包丁を売っているホームセンターが逮捕されないのと同様に、基本的にはネガティブに考えられています。
ツール提供者の刑事責任が問われたものとして、Winny事件*11が参考になります。本件は、P2Pファイル交換ソフトであるWinnyの開発者が、Winny上で権利者の許諾を得ずに著作物が送受信されていたことについて、幇助犯としての責任を負うかということが問題になった事件です。
Ｗｉｎｎｙは，１，２審判決が価値中立ソフトと称するように，適法な用途にも，著作権侵害という違法な用途にも利用できるソフトであり，これを著作権侵害に利用するか，その他の用途に利用するかは，あくまで個々の利用者の判断に委ねられている。また，被告人がしたように，開発途上のソフトをインターネット上で不特定多数の者に対して無償で公開，提供し，利用者の意見を聴取しながら当該ソフトの開発を進めるという方法は，ソフトの開発方法として特異なものではなく，合理的なものと受け止められている。…かかるソフトの開発行為に対する過度の萎縮効果を生じさせないためにも，単に他人の著作権侵害に利用される一般的可能性があり，それを提供者において認識，認容しつつ当該ソフトの公開，提供をし，それを用いて著作権侵害が行われたというだけで，直ちに著作権侵害の幇助行為に当たると解すべきではない。…
幇助犯が成立するためには，一般的可能性を超える具体的な侵害利用状況が必要であり，また，そのことを提供者においても認識，認容していることを要するというべきである。すなわち，ソフトの提供者において，当該ソフトを利用して現に行われようとしている具体的な著作権侵害を認識，認容しながら，その公開，提供を行い，実際に当該著作権侵害が行われた場合や，当該ソフトの性質，その客観的利用状況，提供方法などに照らし，同ソフトを入手する者のうち例外的とはいえない範囲の者が同ソフトを著作権侵害に利用する蓋然性が高いと認められる場合で，提供者もそのことを認識，認容しながら同ソフトの公開，提供を行い，実際にそれを用いて著作権侵害（正犯行為）が行われたときに限り，当該ソフトの公開，提供行為がそれらの著作権侵害の幇助行為に当たると解するのが相当である。
すなわち、ツール提供者が幇助犯にあたるのは、
①ツールを使って現に行われる違法行為を認識認容しながら（抽象的な違法行為への利用可能性では足りない）公開提供を行い、または
②ツールを利用する者のうち例外的とは言えない範囲の者が違法行為に利用する蓋然性が高く、かつ提供者もそのことを認識認容していて、
③実際に違法行為がなされた場合
となります。
Winny判決においては、まず①が否定されています。
また、被告人となった開発者が、掲示板において「もちろん，現状で人の著作物を勝手に流通させるのは違法ですので，βテスタの皆さんは，そこを踏み外さない範囲でβテスト参加をお願いします。これは Freenet 系 P2P が実用になるのかどうかの実験だということをお忘れなきように。」と発言していたこと等が認定され、②のうちの提供者の認識認容があったとはいえないとされています。
モデルを公開するときはどうすればいいのか
①についてですが、現在の日本の現状を考えたとき、少なくとも一般に流通しているアダルトビデオ等と同様レベルで性器が隠れているのであれば、出力画像が「わいせつ」にあたるとして摘発される可能性は限りなく少ないと思われます。とはいえ、理屈として「100％大丈夫です」と言い切れない面はあります、というのは上述のとおりです。
②について、モデル開発者としては、まず「わいせつ」にあたるような画像が出力される蓋然性が高いといえるようなモデルにならないよう留意することが考えられます。
- Stable diffusionのように、NSFWなワードをTxt2Imgの入力としてそもそも入れられないようにシステムで制御する
- 開発段階でデータセットに「わいせつ」に該当するような画像を含めない
という対応がありうるかと思います。
また、モデルを利用する者のうち例外的とは言えない範囲の者が違法行為を行うことを認識認容していた、といわれないために、
- 規約等で「わいせつに該当するような画像を出力せず、万が一意図せず出力されてしまった場合も削除等適切な対応を行う」ことを求める
等が考えられる対応かと思います。
*2:弁護士あるあるとして、「司法試験に落ちる夢をよく見る」というのがあるのですが、私は一度も見たことがないです。不安要素が追加されてしまった。
*5:わからない人は『ボボボーボ・ボーボボ』全21巻を読んでください。たぶん読んでもわからないと思います。
*9:厳密に言うと、関税法上の「風俗を害すべき書籍・図画」に該当するかどうかが争われたもので、刑法175条が直接問題となったわけではありません
