Google Playの生成AIアプリ向けNCII対策
非同意の性的コンテンツを扱うアプリへの方針
生成AI機能を持つアプリでも既存ポリシーを厳格に適用
Google Playは、生成AI機能を備えたアプリの増加に合わせて、非同意の性的コンテンツ、特にAI生成を含む non-consensual intimate content（NCII）への対策を改めて明確化しました。Google Playのポリシーでは、本人の同意がない性的コンテンツの作成、助長、配布を禁止しており、生成AIを使うアプリであっても例外にはなりません。
対象になるのは、単に不適切な画像を保存・共有するアプリだけではありません。個人を標的にした嫌がらせや搾取につながる用途、本人の同意がない性的画像の生成を容易にする機能、そうしたコンテンツの流通を支える設計も、Google Play上では認められないと位置付けています。Googleは、ユーザー保護と開発者エコシステムの健全性を両立させる観点から、この種のアプリをストアに置かない姿勢を示しています。
今回の発信は、生成AIが創作機能として広くアプリに組み込まれる一方で、安全上のリスクも同時に拡大していることを踏まえたものです。とくに画像生成や編集の機能は、利便性が高い反面、実在人物を使った性的な偽画像の作成や拡散に悪用される余地があるため、Google Playはポリシー違反の判断を従来より重要な審査観点として扱っていることが読み取れます。
開発者に求められる実装上の配慮
アプリの機能設計、公開前確認、運用面までが対象
Googleの案内は、ストアポリシーの説明にとどまらず、生成AI機能を実装する開発者に対して安全性を前提に機能を設計する必要があることを示しています。画像生成、顔の置き換え、写真編集、テキストからのメディア生成など、ユーザー入力やアップロード画像を扱う機能では、どのような出力が作れるか、第三者を傷つける利用を抑止できるかが重要になります。
そのため、開発時にはモデルやプロンプトの自由度だけでなく、利用規約、入力制限、出力制限、報告導線、モデレーションの仕組みまで含めて検討する必要があります。Google Playの観点では、問題のある生成結果を事後的に削除できるかどうかだけでなく、そもそも不適切な生成や配布を助ける構造になっていないかが問われます。
また、ポリシー違反はアプリの一部機能だけで成立し得るため、主機能が別にあるアプリでも注意が必要です。たとえば汎用的な画像編集やコミュニケーション機能を持つアプリであっても、個人を標的にした性的加工や共有を容易にする導線があれば、ストア審査や公開後の措置の対象になり得ます。生成AI機能を後から追加する場合も、既存アプリ全体のリスク評価が必要です。
Google Playの運用姿勢
有害アプリをストアに置かないことを明言
Googleは、個人を狙った嫌がらせや搾取を目的とする有害なアプリはGoogle Playに存在する余地がないと明言しています。これは、NCIIを直接生成するアプリだけでなく、そうした被害を助長する周辺的な仕組みも含めて、ストア全体で抑止する姿勢を示したものです。
生成AIはアプリの差別化要素として有効ですが、Google Playでは創造性や利便性より前に、安全性とポリシー順守が公開条件になります。モバイルアプリ開発では、生成AI機能の品質やUXだけでなく、濫用防止の制御を製品仕様の一部として組み込むことが、ストア配信を継続するうえで不可欠になっています。
—
参照元
– [android] Ensuring Safety in the Generative AI Ecosystem: Protecting Users from Non-Consensual Intimate Content
https://android-developers.googleblog.com/2026/08/ensuring-safety-genai-preventing-non-consensual-intimate-content.html
