画像生成AI「Stable Diffusion」で知られる英Stability AI社が、7月31日に利用規約を大幅改定します。新規約では性的なコンテンツの生成を営利・非営利を問わず全面的に禁止し、従来よりも厳格な規制を導入することが明らかになりました。
性的コンテンツの禁止範囲が大幅拡大
最も注目すべき変更点は、性的コンテンツに関する規制の大幅な強化です。旧規約では「合意のない裸体画像」や「違法なポルノコンテンツ」の作成を禁止していましたが、新規約ではさらに踏み込んで「性交や性行為、性的暴力に関するコンテンツ」全般を禁止対象としました。
これは事実上、成人向けコンテンツの生成を全面的に禁止することを意味しており、合法的な範囲内での成人向けコンテンツ制作も対象となります。この変更により、同社のAPIやオープンソースコードを使った商用・非商用のサービスでも、性的なコンテンツの生成は一切認められなくなります。
児童保護の規制をより具体的に明文化
児童に関する規制も大幅に強化されています。旧規約では「児童を搾取するようなコンテンツの作成・配布」を禁止していましたが、新規約では「児童性的虐待コンテンツ（CSAM）、未成年者の性的な搾取、グルーミング、人身売買」と具体的な行為を明示しました。
さらに、未成年者の暗示的な描写を含む小児性愛行為や、性的脅迫や搾取を目的とした未成年者へのなりすまし行為も明確に禁止されています。同社は該当するコンテンツを発見した場合、当局への通報を行うことも明言しており、違反行為への対応姿勢を強化しています。
安全対策の回避行為も禁止対象に
新規約では、同社が設けた安全対策や利用制限を意図的に回避する行為も新たに禁止されました。これには、製品の保護機能や制限を故意に迂回する行為や、アカウント停止を受けた後に新しいアカウントを作成する行為も含まれます。
さらに、悪意のあるコードやマルウェア、コンピュータウイルスの作成、ウェブサイトやシステムの完全性を損なう可能性のある活動も禁止対象となっています。
プライバシーと知的財産権の保護を強化
新規約では、他者の権利やプライバシーの侵害につながる利用についても、より具体的な禁止事項を明記しています。特に注目すべきは、本人の同意なく顔認証用のデータベースを作成・拡張する目的での利用が明確に禁止されたことです。
また、職場や教育機関での感情推定（医療や安全上の理由を除く）や、生体情報に基づく人種、政治的意見、労働組合への加入状況、宗教・哲学的信念、性的指向などの分類も禁止されています。
誤情報対策と透明性の向上
新規約では、誤情報や偽情報の拡散につながる利用も禁止されています。これには、本人の同意や法的権利なしに他人になりすます行為、AI技術の出力について人間が作成したものと偽って表示する行為も含まれます。
民主的プロセスや司法手続きを妨害する可能性のあるコンテンツの作成も禁止対象となっており、選挙への参加を妨げるようなコンテンツも含まれています。
実効性に対する疑問の声も
今回の規約変更は、海外の技術系コミュニティでも大きな話題となっています。特に、AI模型を共有するプラットフォーム「Civitai」などのサービスへの影響を懸念する声が上がっています。
一方で、Stable Diffusionはローカル環境で動作可能なオープンソースの模型であることから、規制の実効性を疑問視する意見も見られます。ローカル環境での利用について、同社がどのような監視や制限を実施できるかは不透明な部分も残っています。
新規約は7月31日から有効となり、違反が確認された場合は製品やサービスへのアクセスが停止される可能性があります。Stability AI社のこの動きは、生成AI業界全体の規制強化の流れを象徴する出来事として注目されています。
