生成AIで実在する女性芸能人を模したわいせつな画像を作成し、インターネットサイトで販売したとして、会社員の男が警視庁に逮捕されました。
警察署に並べられた押収品。犯行に使われたのはスマートフォンと多数の女性芸能人の画像でした。
きのう、警視庁に逮捕された秋田市の会社員・横井宏哉容疑者（31）。横井容疑者は生成AIで俳優の女性3人に似せたわいせつな画像を作成し、インターネットサイトで公開した疑いがもたれています。
横井容疑者は生成AIの無料ソフトを使用し、女性芸能人に酷似した262人の「性的ディープフェイク」画像2万点を作成していたということです。
横井容疑者
「閲覧者の反響が大きく、人気が出て多くの収益が見込めると思った」
画像は、海外のサイトを通じて月額1ドルから100ドルまでの“サブスク”形式で公開。横井容疑者はこれまでに120万円ほどを売り上げていたとみられています。
横井容疑者は性的ディープフェイクを作成した手口について…
横井容疑者
「インターネット上の動画や記事で学んだ知識で作りました」
記者
「インターネットで検索してみると、AI美女、作り方などと書かれた動画がたくさん公開されています」
このような動画で学び作成したのでしょうか？AIで作ったとされるわいせつ画像も多く出品されています。
誰もが簡単に被害者にも加害者にもなり得る「性的ディープフェイク」。警察庁によりますと、去年の性的ディープフェイクに関する相談や通報の件数は全国で100件を超えています。
専門家は「日本では法整備が追いついていない」と指摘します。
三井物産セキュアディレクション 福田美香さん
「韓国で（性的）ディープフェイクの画像を持ってるだけで犯罪になる。積極的に厳罰化を進めようという動きは他国ではある」
被害に巻き込まれないためにはどのような対策をとるべきなのでしょうか？
三井物産セキュアディレクション 福田美香さん
「個人の顔がはっきり単体で写るような写真をSNS上に広く公開しないとか、公開を限定するとか」
取り調べに対し、横井容疑者は容疑を認めていて、警視庁は生成AIのわいせつな画像について警戒を強めています。
・【全文公開】“ラブホテル密会” 小川晶・前橋市長の謝罪会見【前編】「最初にホテルへ誘ったのはどちらから？」記者と小川晶市長の一問一答（9月24日夜）
・見つかった娘(14)の遺体には「身を守れ」と父が願い伝えた“長袖・長ズボン”「1羽じゃかわいそう」中3・喜三翼音さんが家族に残した“生きた証”
・「あんな微罪で死ぬことはないだろう…」逮捕直前にホテルで命を絶った新井将敬 衆院議員「この場に帰って来れないかもしれないけども、最後の言葉に嘘はありませんから」【平成事件史の舞台裏（28）】
