ディープフェイク技術が悪用され、同意のない性的画像が生成される問題が深刻化する中、英国の規制当局が厳しい対策に乗り出します。英国の通信・放送・オンライン安全規当局であるOfcom（オフコム）は、特に子どもの性的虐待コンテンツ（CSAM）に繋がりかねない、「ディープフェイクヌード」画像を生成できるアプリやサービスを事実上禁止する新たな規制案を発表しました。
Ofcomによる新規制案の内容
今回の提案は、英国で施行された「オンライン安全法（Online Safety Act）」に基づくものです。この法律は、オンラインプラットフォームに対し、利用者を、特に子どもを有害なコンテンツから保護する法的義務（注意義務）を課しています。
- 規制対象: 主な機能または重要な機能として、既存の写真などを加工して、同意のないヌード画像（いわゆる「脱衣」ディープフェイク）を生成できるアプリ、ウェブサイト、オンラインサービス。特に、子どもの画像を悪用してAI生成CSAMを作り出すツールの根絶に重点が置かれています。
- 規制の仕組み: Ofcomは、オンライン安全法の対象となるプラットフォーム（検索エンジン、SNS、アプリストア、ホスティングサービスなど）に対し、これらの有害なツールに関連するリスクを特定し、評価し、軽減する措置を講じるよう求めます。
プラットフォームに求められる具体的な対策
規制案が施行された場合、プラットフォーム事業者は以下のような対策を講じる必要が出てきます。
- 対象となる有害なアプリやウェブサイトへのアクセスをブロックする。
- 自社のアプリストアから該当アプリを削除する。
- 検索エンジンにおいて、これらのツールに繋がる検索結果を除外（インデックス削除）する。
- 有害なディープフェイク画像の生成や共有を検知し、ブロックする技術を導入・運用する。
最優先課題：子どもの保護
Ofcomの提案は、AI技術が悪用され、最も弱い立場にある子どもたちが被害にあうことを防ぐことに最大の焦点を当てています。子どものディープフェイクヌード画像を生成することは、それ自体が違法なCSAMの作成にあたり、オンライン安全法の下で最優先で対処すべき課題とされています。
背景と今後の課題
生成AI技術の急速な発展は、ディープフェイクを用いた嫌がらせや詐欺、そしてCSAM作成といった深刻な問題も引き起こしており、世界的な懸念となっています。今回のOfcomの提案は、こうしたAIの悪用に対する規制当局の動きを反映したものです。
一方で、技術的に全ての有害ツールを特定・排除することの難しさや、表現の自由とのバランス（ただしCSAMに関しては議論の余地は少ない）、国際的な規制の足並みといった課題も存在します。
今後の流れ
今回発表されたのは、あくまでOfcomによる規制案です。今後、業界関係者や一般市民からの意見を募集するコンサルテーション（意見公募）期間が設けられ、そのフィードバックを踏まえて最終的なルールが決定・施行されることになります。
まとめ
英国の規制当局Ofcomが、子どものディープフェイクヌード画像などを生成できるアプリやサービスを事実上禁止する規制案を発表しました。これは、オンライン安全法に基づき、プラットフォーム事業者に対策を義務付けるもので、AI技術の悪用から子どもたちを守るための重要な一歩です。意見公募を経て最終決定されるこの規制が、オンライン空間の安全性向上にどう貢献するのか、今後の動向が注目されます。
コメント