今のAIは人を殺す？！未来社会の「禁忌」を見通す

2019.10.21 17:00

ビジネスや産業の今後を語る上で、5GやIoTなどとならび、AI(人工知能)も欠かせないテクノロジーの一つだ。通信やモノのインターネットの接続は、すでにわれわれの身近なものになっているが、AIについては、メディアで伝えられる「自動運転」などで、その実際の一端を知るだけだ。

本書「AI兵器と未来社会　キラーロボットの正体」(朝日新聞出版)は、なにやらおどろおどろしいタイトルだが、それはAIが兵器にも、殺し屋にもなる可能性があることを暗示したもので、これまでのAI開発の歴史と、その現状、そして兵器にもなりえる将来が詳しく解説されている。ベールの向こう側のAIがのぞける一冊。

「AI兵器と未来社会　キラーロボットの正体」（栗原聡著）朝日新聞出版

AIは「現在において最も注目される新技術」

第1次ブームは1950年代から

AIは、本書によれば「現在において最も注目される新技術」でありながら、期待よりもマイナスの影響についての議論が目立つという。兵器に使われる可能性などを危ぶむ声が高まっているためだ。

著者の栗原聡さんは、人工知能、ネットワーク科学等の研究に従事する慶應義塾大学理工学部教授(工学博士)。人工知能学会倫理委員会アドバイザーなどを兼任している。栗原さんによると、現在、人工知能搭載兵器開発に対する国際的な議論が盛り上がっているところ。栗原さんは「実体を理解せず、憶測のみでの意見も散見される、このような状況で何かしらの法制度が整備されてしまうようなことがあってはならない」と指摘。こうしたことも本書刊行の動機の一つだ。

AIをめぐる議論はごく最近盛り上がった来たような印象だが、今回のブームは「第3次」といえるもので、AIのもとの単語「Artificial Intelligence」という単語は1956年に生まれた。それ以前にも、46年に最初のコンピューターが誕生したことをきっかけに、人のような知的活動ができる機械を作る研究が始められたという。

50～60年代の第1次ブームは、理論的な側面では研究が進んだものの、テクノロジーの面では状況が全く異なる。机上の論はあっても実際に動かすことは不可能だった。それでも、単なる「計算」ではなく、推論、パズル、迷路など知的能力を要する「新技術」が可能との解説だけで、「人工知能に人が支配される」など、脅威や懸念を示す報道がされたという。

第2次ブームは80年代。コンピューターの普及が始まっており、AIブームの中心は、専門的な知識をコンピューターに教え込み、その分野の専門家でないと解けないような難題をコンピューターが解決するシステムだ。医療診断システムなどで成果を発揮したが、教え込む量に限界があり、また、正確な回答を出すためには「常識」とか「暗黙知」なども教え込む必要があったが、たとえば「常識」となると、厳密に記述するときりがなくなるなどの問題があった。

高速処理で可能になったディープラーニング

現在の3度目のブームは、その兆しが見え始めたの2000年前後という。コンピューターの処理能力や、通信の速度が増すなど環境の飛躍的向上があり、新技術が現実に有用な技術として利用可能になってきたころだ。兆候が現れてからもうすぐ20年となるが「ブームは鎮火するどころか継続しており人工知能の社会への浸透が着実に進んでいる」。著者は「今回は過去2回とはどうも様子が異なる」と指摘し、今後さらに高性能化、高度化することを見越す。

その主役はディープラーニング。実は、ディープラーニングが高い性能を発揮するためには、従来の機械学習に比べて多くの学習データを必要とし、高速なコンピューターが必要となるのだが、00年から19年までの間に、コンピューター技術や情報通信技術の進化がすさまじく、一気にAIを表舞台に押し上げたのだ。

ディープラーニングは、日本語で「深層学習」と呼ばれ、これまでにもAIの推進力として紹介されている。本書でも、画像認識能力ですでに人間の能力を上回っていることなどを解説。さまざまなシーンでの「認識」に使われていることは、そういうことだったのかと理解が進む。

本書では「知能」「意識」など人の能力について議論したあとに「人工知能は人を殺せるのか？」というテーマに踏み込んでいく。

人工知能は、「知能」あるいは「意識」、それに「意志」にしても、人が学習データとしてインプットしディープラーニング処理され機能する。「人工知能が自らの意志で人を殺すか？　という問いに対しては、道具型人工知能であれば、それは起きないものの、今後登場する自律型人工知能であれば自らの意志で人を殺すことはある。それは絶対の禁忌ではなく、人工知能が導入される社会の『コンセンサスが得られる限り』においては、人を殺してもよいということなのだろう」という。