「AIは命令に忠実で悪意はないが、暴走する恐れ」
MCの大越健介さんは「AIが人類を滅ぼしかねないという、確かに恐ろしさのようなものは感じてきたけど一気にそこまでいくのか」と少々懐疑的な見方をする。
しかし、専門家は相当深刻に受け止めているとして、AI研究が専門の北陸先端科学技術大学院大学客員教授の今井翔太さんの次の意見を紹介する。
「1年前には多くの研究者にとって『SFの世界』だったが、3カ月の間にAIの発展が急速に進み人類滅亡もありうるとみられる」
大越さんは「それにしても具体的にどういうことが懸念されているのか」とまだ腑に落ちない様子。次に、人間がAIを改良してきたものから、AI自身が様々な学習方法を試しながら賢いAIを自動的に開発して行くという近未来の姿を紹介する。
今井さんによると「AIは命令に忠実で悪意はないが、人間が持っているモラルがないので暴走することもある。人間の知能を超えたAIが特定の目的を成し遂げるため人類にとてつもない損害を与えかねない」と指摘する。
（ジャーナリスト 佐藤太郎）