生成AIを悪用したわいせつ画像販売事件—警視庁が摘発した新たな犯罪形態

生成AI技術が社会のさまざまな分野で活用される中、その悪用による犯罪が新たな問題として浮き彫りになっています。

水谷智浩容疑者（44）を含む、20代から50代の男女4人は、2024年10月頃、インターネットオークションサイトで複数回にわたり、生成AIを用いてわいせつな女性の裸画像を作成していた疑いです。

その画像を印刷したポスターを販売したとされています。

わいせつ物の販売事件での検挙は、全国で初めてだということです。

この記事では、この事件の詳細な経緯と法的・社会的背景を解説し、生成AIの利用に関する倫理的問題について考えます。

事件の概要：生成AIによるわいせつ画像作成と販売

2024年10月、警視庁は生成AIを利用して女性の裸のわいせつ画像を作成し、それをポスターとしてインターネットオークションで販売していたとして、男女4人を逮捕しました。

この事件は、生成AIを用いたわいせつ物の販売という点で全国初の事例となり、社会に大きな衝撃を与えました。

生成AIを悪用した手法

容疑者たちは、無料で提供されている生成AIソフトを使い、実在しない女性の裸の画像を作成していました。

その画像を印刷し、ポスターとして販売。

ポスターは1枚、数千円ほどで販売され、約1年間で水谷智浩容疑者（44歳）は1000万円以上の売り上げを上げていたとされています。

摘発の経緯と証拠

警視庁は、インターネットオークションサイトでの出品に着目し、画像がわいせつ物に該当すると判断し容疑者を逮捕しました。

この摘発は、生成AIを悪用した新たな犯罪に対して、法的な取り締まりが始まったことを示しています。

生成AI技術の進化とその悪用リスク

生成AI技術とは？

生成AIとは、人工知能（AI）を用いて新たなコンテンツを自動的に生成する技術です。

例えば、画像生成AIは、入力された情報やデータから、実在しない人物の顔や風景などをリアルに作り出すことができます。

この技術は、アートや広告、映画などでの活用が進んでおり、クリエイティブな領域で多くの可能性を持っています。

悪用のリスク

一方で、この技術が悪用される危険性もあります。

今回の事件に見られるように、生成AIを利用してわいせつ画像を作成し、それを商品化する行為は、深刻な社会問題となり得ます。

ディープフェイク技術と同様に、AIによって作られたコンテンツが現実の人物や状況を模倣することが可能になると、プライバシーの侵害や名誉毀損などが発生する可能性が高まります。

法的および社会的背景

生成AIによるわいせつ物販売の法的側面

生成AIを使用したわいせつ物の作成や販売は、刑法における「わいせつ物頒布罪」に該当する可能性があります。

この罪は、わいせつな内容を公共の場で配布することを禁止しており、販売行為も厳しく取り締まられています。

今回の事件では、生成AIによって作成された画像がわいせつ物として認定され、容疑者が逮捕されることになりました。

AI技術の悪用への対応

AI技術が急速に発展する中で、その悪用を防ぐための法整備が追いついていない現状もあります。

特に、生成AIによる画像作成やディープフェイク技術を使った犯罪は新たな形態であるため、既存の法体系では対応が難しいこともあります。

このため、AI技術に関する新たな規制やガイドラインの整備が急務となっているのです。

社会的影響と今後の展開

社会に与える影響

今回の事件は、生成AI技術が悪用される新たな犯罪の形態として、社会に大きな影響を与えることが予想されます。

AIを使ったわいせつ画像の生成は、他の形態の犯罪と同様に、倫理的な問題を引き起こします。

特に、実在しない女性の裸の画像が作成され、流通することは、社会全体に対する倫理的な警鐘となります。

生成AIの利用に対する警戒と取り締まり強化

警視庁は今後、生成AIを悪用した犯罪に対する取り締まりを強化する方針を示しており、AI技術の悪用を防ぐための法的枠組みの整備が進むことが期待されます。

これには、インターネット上での監視体制の強化や、AI技術の開発者による倫理的な指針の策定が含まれるでしょう。

AI技術の進化と倫理的責任

技術的側面と倫理的課題

生成AIを利用した画像生成技術は非常に強力であり、その可能性は広がり続けています。

しかし、技術の発展とともに、その倫理的責任についても議論されなければなりません。

特に、生成AIを使ったわいせつ物の作成やディープフェイクの問題は、既存の法的枠組みでは十分に対処できない部分が多いため、新たな法律の制定や社会的な合意形成が求められます。

AIの責任ある使用を促進するために

AI技術の利用に関しては、個々の利用者や開発者が責任を持つ必要があります。

技術が進化する中で、その利用が社会的に適切であるかを常に問い続け、悪用を防ぐための取り組みが欠かせません。

まとめ