実在の人物に酷似した性的画像を画像生成AI で生成される問題は

~ 関西街歩き良い考えを思い付きたい

画像生成AI に「特定の人物の追加学習データ」を追加学習させる事で実在の人物に酷似したポルノ画像を製作できる事が問題になっています。現在の法規制では有効な対策を打てない状況ですが、海外では既に逮捕者が出ています。

個人に関する肖像を他人が勝手に販売した場合の賠償責任を非常に重くしたり、対価を求めなくても他人に譲渡した場合に同じく賠償責任を生じさせるのは一案でしょうか。生成AI サービスがその状況に対応しない場合は責任を負うべきか。

特にポルノ画像を生成した場合は情状酌量は無しとするようにして、画像生成AI や映像生成AI を使用する場合はパソコン入力のログを保存する事で、特定の個人を勝手に画像と映像で作成する者の意図を把握できるようにするべきなのか。

Gemini の場合

上記の文章を、Gemini に入力しました。

Gemini の応答

画像生成AIによる偽ポルノ画像問題：法規制と技術対策の課題と展望

画像生成AIの発展により、実在の人物に酷似したポルノ画像を容易に作成できるようになり、深刻な問題となっています。現行法では十分な対策が難しく、海外ではすでに逮捕者が出ている状況です。以下、法規制と技術対策の両面から、この問題への取り組みについて考察します。

1. 法規制

1.1 肖像権侵害の強化

  • 民法上の肖像権侵害について、損害賠償責任を大幅に強化することで、違法行為を抑制する効果が期待できます。
    • 具体的には、以下のような措置が考えられます。
      • 侵害行為の態様や悪質性に応じて、懲罰的損害賠償制度を導入する。
      • 侵害画像の拡散範囲に応じて、損害賠償額を算定する仕組みを構築する。
      • 侵害行為を行った者に対し、被害者からの請求に応じて、侵害画像の削除や差止めを行政処分により命じる制度を設ける。
  • ただし、表現の自由との兼ね合いを慎重に検討する必要があります。

1.2 不正利用目的のデータ流通の禁止

  • 偽ポルノ画像の製作に使用される個人情報や画像データの不正な流通を禁止することで、被害の拡大を防ぐことができます。
    • 具体的には、以下のような措置が考えられます。
      • 個人情報や画像データの売買を違法化する。
      • インターネット上の違法なデータ流通サイトを摘発・削除する。
      • 個人情報や画像データの取り扱いに関するガイドラインを策定・周知する。
  • 違法行為の検知・摘発体制の強化も必要です。

1.3 生成AIサービス事業者の責任

  • 偽ポルノ画像の生成に利用された生成AIサービス事業者に対して、一定の責任を負わせるべきか議論されています。
    • 具体的な責任内容としては、以下のようなものが考えられます。
      • 違法コンテンツの生成を防止するための措置を講じる義務を負わせる。
      • ユーザーによる違法行為を検知・報告する仕組みを構築する義務を負わせる。
      • 違法コンテンツが生成された場合、速やかに削除する義務を負わせる。
  • サービス事業者の責任範囲や、責任の所在を明確にする必要があります。

1.2 その他

  • 刑法上の処罰規定の強化も検討すべきです。
    • 具体的には、偽ポルノ画像の製作や頒布を、現行よりも重い罪として処罰する。
    • 偽ポルノ画像の被害者に対する支援制度を充実させる。

2. 技術対策

2.1 画像生成AIの技術的な対策

  • 偽ポルノ画像の生成を困難にする技術的な対策が必要です。
    • 具体的には、以下のような技術が考えられます。
      • 偽ポルノ画像の生成に利用されるような顔の特徴を検知し、生成をブロックする。
      • 生成された画像が実在の人物の画像であるかどうかを判別する技術を開発する。
      • 生成された画像に著作権情報を付与し、改変や無断使用を防止する。
  • これらの技術開発には、倫理的な問題も伴うため、慎重な議論が必要です。

2.2 ユーザー側の対策

  • ユーザーが偽ポルノ画像に遭遇するリスクを減らすための対策も重要です。
    • 偽ポルノ画像に関する情報提供や啓発活動を行う。
    • 偽ポルノ画像を検知・削除するツールを開発・提供する。
    • インターネット利用者向けの教育プログラムを充実させる。

3. 課題と展望

法規制と技術対策の両面から、偽ポルノ画像問題への取り組みを進めていく必要があります。しかし、法規制の強化や技術的な対策には、表現の自由やプライバシー保護との兼ね合いなど、様々な課題があります。

今後は、関係者間の連携を強化し、倫理的な観点も踏まえながら、より効果的な対策を模索していくことが重要です。

参考情報

当サイトの関連記事
・生成AIによる著作権侵害に対して著作権に関する現行法で歯止めか
・集英社が画像生成AIにより生まれた実在しない美少女の写真集出版
・人工知能が作り出す架空の女性がセクシーな作品に出て影響は？