日本保守党の北村晴男参院議員が2026年3月7日、自身の声や姿を使った「生成AIによるフェイク動画」が拡散されているとして、Xで注意喚起を行った。「私は全く関与していません」問題となったのは、「中国は崩壊中」とのYouTubeチャンネルが公開した「【大炎上】『SANAETOKEN』急落で波紋拡大 仮想通貨市場と政治の関係に注目集まる#高市早苗#中国#自民党#岡田克也#立憲民主党#石破茂」と題したYouTube動画だった。サムネイルには「3月5日速報」として「SANAEトークン大暴落 黒幕は誰？」の煽り文句とともに、北村氏のバストショットが使用されている。本編では、高市早苗首相が関与を否定したことで波紋を広げた仮想通貨「SANAETOKEN」について、北村氏が話しているかのような演出が施されていた。画面左側には高市氏の写真と、SANAETOKENの発行元であり「NoBorder」を手掛ける実業家の溝口勇児氏の写真が配置され、右側にはワイシャツ姿の北村氏が映っている。口元の動きや瞬きなど自然な様子で話しているように見えるが、北村氏の映像や音声は生成AIによって加工された、いわゆる「ディープフェイク」と呼ばれるものだ。北村氏はこの動画について、Xで「上の動画は生成AIによるフェイク動画です。私は全く関与していません」とした。別の投稿でも、「この動画は生成物によるフェイク動画です」としている。「AI生成動画に関する法整備が全く追いついてないですね」北村氏が言及した動画は8日までに削除されているが、同アカウントは北村氏の画像をサムネイルに用いた同様の動画を投稿し続けている。8日10時頃にも、新たな動画が公開されていた。北村氏の訴えには、「早いところ生成AIの利用について法整備が必要ですね。今回の物は日本人なら間違えようのない漢字の読みを間違えているので偽物だとわかりますが、そう言った部分を気をつければ見分けはつかなくなります」「AI生成動画に関する法整備が全く追いついてないですね 北村先生のように被害にあう著名人が増える前にいち早く法整備が必要ですよね」といった声が寄せられている。過去には小泉氏・小野田氏らも注意喚起生成AIによる「ディープフェイク」をめぐっては、政治家の映像や音声を悪用したとみられる事例が相次いでおり、対策の必要性を指摘する声も広がっている。小泉進次郎防衛相は26年1月29日、Xで自身の「なりすまし」をめぐる注意喚起を行っていた。小泉氏の秘書を名乗る人物からの不審な電話の報告が相次いでいたといい、「おそらくAIなどで生成されたであろう私の映像と音声によってチグハグな受け答えをする、といった事例もありました」としていた。小野田紀美経済安全保障担当相も25年11月9日、自身の画像を利用して作られた動画のスクリーンショットを公開し「AI画像＆虚偽にご注意ください」と注意喚起。あたかも小野田大臣の音声が流出したかのような印章を与える動画が拡散されていることを明かしていた。
記事に戻る