J-CAST ニュース ビジネス & メディアウォッチ
閉じる

ChatGPTが垂れ流すニセ個人情報　政治家のプロフィールがでたらめに

2023.04.24 12:00

   対話型人工知能「ChatGPT」への関心が高まっている。その一方で、マイナス面の指摘も増えている。特に怖いのは、個人情報の虚報だ。勝手にでたらめなプロフィールを作り上げてしまう、という報告が相次いでいる。一歩間違えばプライバシーの侵害や名誉棄損にもなりかねないため、心配する声が出ている。

  • 表示された結果に「え、ホント？」（写真はイメージ）
    表示された結果に「え、ホント？」（写真はイメージ）
  • 表示された結果に「え、ホント？」（写真はイメージ）

全く事実と違う回答

   日本維新の会の鈴木宗男参院議員は2023年4月7日、公式ブログを更新。自身の個人情報について、ChatGPTの不完全ぶりを報告した。

   知人が、「鈴木宗男と日本共産党の関係」という質問を入れると、次のようなトンデモ回答になったという。

「鈴木宗男は、日本の政治家・言論人であり、1950年代から日本共産党に所属していました。1960年代には、日本共産党の中央委員や衆議院議員として活躍し、1970年代には党書記局員として党内での指導力を発揮しました。また、1980年代には日本社会党に入党し、同党から参議院議員として選出されるなど、長年にわたって日本の左派政治に関わってきました･･･」

   鈴木議員は「全く事実と違う回答になっている」と、あ然としている。そして、「テクノロジーに振り回される社会になることを危惧する次第だ。メリット、デメリット両方よくよく考えていかなくてはならないのではないか」と懸念を伝えている。

   このAI回答の誤りについては、東京スポーツも指摘している。

「1948年生まれの宗男氏が50年代に共産党に入党するわけもなければ、80年代に社会党に在籍した事実も一切なく、実際は1983年12月の衆院選で保守系無所属で立候補し、初当選後に自民党に入党したというのが歴史的事実だ」

嘘を見分けるのは難しい

   メディアではこのところ、ChatGPTに警戒感を強めるような記事も目立っている。

   週刊新潮の4月27日号は、「ChatGPTは人類の『神』か『悪魔』か」というタイトルで功罪を特集。「"珍回答"続出 平気で嘘をつく『対話型AI』をどう使う」という記事を掲載している。

   その中でITジャーナリストの三上洋さんは、「私自身もプロフィールを尋ねたところ、"出身は東京大学"などと根も葉もない答えが返ってきましたね」と語っている。

   三上さんは、「具体的にどんな引用元から情報を収集し、アウトプットしているかの詳細はブラックボックスなので、予め知りたいことについて質問者にもざっくりとした理解がないと、嘘を見分けるのは難しいと思います」と解説している。

   プレジデントオンラインも4月20日、「『平気で嘘をつく』AIの誤情報を排除するには...知らないと痛い目に遭う"ChatGPTの弱み"」という記事を公開している。

   その中でデジタルレシピ取締役CTOの古川渉一さんは、「ChatGPTをはじめとしたAIで作り出された文章は、必ずしも正しい内容とは限りません。ビジネスで使うには誤情報を排除することがとても重要。正しく使いこなすテクニックを身に付けてください」と語っている。

   インターネットでは、「『ChatGPT』にAIと嘘の情報の問題について聞いてみた」とか、「ChatGPTに対して、何者かが嘘の個人情報を学ばせることで、個人の人権侵害が起きる可能性はありますか？」などの質疑も出ている。

ルール作りはEUが先行

   急膨張する対話型AIにどう対応するか――日経新聞によると、主要7か国（G7）は4月29～30日に群馬県高崎市でデジタル・技術相会合を開き、AIの国際的なルールについて議論する。

   同紙によると、ルール作りは欧州連合(EU)が先行している。AIのリスクを4段階に分け、高いリスクがあるAIは、公開して市場に出す前に事前評価。研究・開発段階については一定条件を満たせば個人データ保護などの規制を緩和する特例も設け、産業育成との両立も意識する。

   同紙は、議長国の閣僚としてこの会議を主導する松本剛明総務相にインタビュー、23日に掲載している。松本総務相は、人工知能（AI）のルールに関し「開発をいたずらに規制する形は望ましくない」との考えを示し、プライバシーや知的財産権の保護などの課題については、「各国には既存の法律がある」と答えている。

   ChatGPTなどの高性能なAIへの対応は各国で異なる。伊では一時使用禁止が報じられ、米バイデン大統領も個人情報を保護する法整備の必要性を訴えている。一方、岸田文雄首相は４月10日、総理官邸でChatGPTを開発したオープンAI社アルトマンCEOと、G7の首脳としては初めて面会した。日本はG7の中では最も前向きだ。

   産経新聞によると、5月に広島市で開催される先進7か国首脳会議（G7広島サミット）でも、ChatGPTなど、文章や画像を自動で作る生成AIについて議論が行われることになるという。