FacebookやInstagramを運営するMeta社は、AI（人工知能）を用いて人物の写真を本人の同意なく裸の画像に加工する、いわゆる「nudify（ヌード化）」アプリやサービスの広告に対し、自社プラットフォーム上での取り締まりを強化していると、複数の海外メディアが報じています。この動きは、生成AIの悪用によって深刻化するデジタル上の性的搾取の問題に対し、プラットフォームとしての社会的責任を果たすための重要な一歩と見られています。
社会問題化する「Nudify」アプリの脅威
「Nudify」アプリは、生成AI技術を悪用し、主に女性や未成年者が服を着ている写真を元に、非常にリアルな裸の偽画像を生成するサービスです。これらの多くはスマートフォンアプリやウェブサイトとして提供されており、SNS上の広告などを通じて容易にアクセスできる状態にありました。
この手口で作成された画像は「ディープフェイクポルノ」や「非同意性的画像（NCSII）」としてオンライン上で拡散され、被害者に深刻な精神的苦痛や風評被害、いじめ、恐喝といった甚大なダメージを与えています。特に未成年者が被害に遭うケースも報告されており、早急な対策が求められる深刻な社会問題となっています。
Metaの取り締まり強化策（報道に基づく）
これまでのMetaのポリシーでも、このようなサービスは禁止されていましたが、実際には多くの広告がすり抜けて表示されていると、スタンフォード大学のインターネット観測所などの外部機関から指摘されていました。こうした批判を受け、Metaは対策を大幅に強化している模様です。
報道によると、具体的な対策として以下の内容が含まれています。
- 広告の全面的な禁止と削除: 「nudify」や関連キーワードを含むアプリやサービスの広告掲載を厳格に禁止し、既存の広告を積極的に削除。
- 検索結果からの排除: FacebookやInstagramの検索機能で関連キーワードを入力しても、これらの悪質なサービスに繋がるコンテンツが表示されないようにする対策。
- 関連アカウントの停止: これらのサービスを宣伝したり、拡散したりするFacebookページやInstagramアカウントを特定し、停止措置を講じる。
- 技術的検出の強化: AIを活用し、ポリシーに違反する画像、動画、リンク、テキストなどを自動的に検出し、削除するシステムを改善。
対策強化の背景
Metaが対策強化に踏み切った背景には、いくつかの要因が考えられます。
- 外部からの厳しい指摘: スタンフォード大学の報告書などで、Metaのプラットフォームがこれらの悪質サービスの温床となっている実態が明らかにされたこと。
- 高まる社会的・政治的圧力: 生成AIの悪用に対する社会的な批判が高まり、世界各国の政府や規制当局からも、プラットフォームに対策を求める声が強まっていること。
- プラットフォームの安全性確保: ユーザー、特に未成年者を保護し、自社プラットフォームが安全な場所であると示すことは、企業にとっての至上命題であること。
業界全体の課題と求められる対策
この問題はMeta一社に限ったものではありません。生成AI技術の悪用は、
- プラットフォーム横断的な協力: GoogleやAppleのアプリストアでの審査、X（旧Twitter）などの他のSNSでの拡散防止など、業界全体での協調した取り組み。
- 技術開発者の倫理: 生成AIモデルの開発段階から、悪用を防ぐための技術的な制限やセーフガードを組み込むこと。
- 法整備の推進: 被害者を迅速に救済し、加害者を厳しく処罰するための法整備を各国で進めること。 といった、多角的な対策が不可欠です。
まとめ：悪用との終わりなき戦い
Metaによる「nudify」アプリへの取り締まり強化は、生成AIの急速な普及がもたらした負の側面に対する、プラットフォームとしての当然の、そして重要な責務です。この対策強化が、悪質なサービスの蔓延を抑制し、被害の拡大を防ぐ上で一定の効果をもたらすことが期待されます。
しかし、これは巧妙化する悪用者との終わりなき「いたちごっこ」の始まりに過ぎないかもしれません。プラットフォームによる継続的な努力と同時に、私たちユーザー自身も、このような非人道的なサービスが存在することを認識し、利用しない・拡散しないという意識を持つことが、テクノロジーを悪用した性的搾取を根絶するための第一歩となります。
コメント