X（旧ツイッター）を運営するX の日本語アカウントが2026年1月6日、同サービスに内蔵されている生成AI「Grok（グロック）」を使用した違法コンテンツなどについて、同社の公式Xアカウントを通じて注意喚起した。
-
X（写真はイメージ） -
X日本語版（@XcorpJP）の投稿より
投稿の削除やアカウントの永久凍結などの対応を取る
この注意喚起では、児童性的虐待素材を含む違法コンテンツを伴う投稿に対し、投稿の削除やアカウントの永久凍結などの対応を取るとの方針を示した。さらに、行政や法執行機関と協力するとしている。
また、「Grok」を使用して違法コンテンツを作成したり、違法コンテンツの作成を促したりした場合、違法コンテンツをアップロードした場合と同様の措置を取るとも記した。
Xでは、「Grok」を使用してSNS上の写真を性的に加工するケースが国内外で相次いでいる。たとえば、アイドルグループ「STU48」の運営会社は、メンバーをモデルとしたAI生成コンテンツなどに対して注意喚起した。
今回のX投稿は、1月4日の英語の投稿を翻訳したものだ。「Grok」を使った性的加工の問題を受けて投稿したとみられる。