フェイスブックの人工知能「暴走」 人間に理解不能な言語で勝手に会話

公開すぐに暴言を吐きまくった「Tay」

   フェイスブックはこの後、実験を中止した。だがインディペンデンス紙によると、同社が実験結果を恐れたわけではなく、求めていた仕事をプログラムがこなせなかったからだという。だが、2つのチャットボットが人間の「制御不能」な状態で、独自言語による会話をしたためにストップしたと報じている海外メディアもある。映画「ターミネーター」シリーズに登場する、自我をもったコンピューター「スカイネット」を持ち出し「次はこうなるのか」と少々あおり気味の記事もあった。なおスカイネットは映画の中で、人間を敵視し滅亡させようとする存在として描かれている。

   現時点でSF小説や映画のような展開にすぐ発展するとは思えない。ただチャットボットの「暴走」には先例がある。米マイクロソフトが2016年に公開した「Tay」だ。ツイッター上でユーザーと会話するなかで突如、人種差別やナチス礼賛の言葉をぶちまけ始めたのだ。結局Tayはほとんど稼働しないまま、1日ほどで停止に追い込まれた。悪意のあるユーザーがTayのぜい弱性を突き、不適切な発言をするよう操作したのが、暴言連発の原因だったようだ。

   それでもTayの場合は、ある意味人間がコントロールした結果の不始末だった。もしも今回の「ボブとアリス」のように、AIが人間の知らないところで勝手に学習を深め、手に負えない領域に達してしまったら――。

   今後の技術革新において、AIは大きな目玉だ。同時に、慎重に扱わないと、偉大な理論物理学者スティーブン・ホーキング博士が警告するように、AIが人類の終末をもたらすかもしれない点を心に留めておくべきだろう。