人工知能が人類を直接的に滅ぼす未来がアルファ碁の対談記事と火の鳥から垣間見えた
プロ棋士の大橋拓文六段さんと、最強将棋ソフトPonanzaの作者・山本一成さんが解説するcakesの連載「Googleの人工知能と人間の世紀の一戦にはどんな意味があったのか？」がめちゃくちゃ面白かった。
そして対談記事の最後と思われる連載第4回(2016/4/18公開)の「人類に残されたのは、言葉と論理。アルファ碁が示した人工知能の可能性とは」の一節で、あるSF漫画の1シーンが強烈に結びついた。
cakesの一節はこれ。特に「シンガポールでは政治への人工知能導入を本気で検討している」が目を引いた。
加藤 このアルファ碁の勝利は、これからの人工知能の活用にどういう影響があると思いますか？ というのも囲碁って、世の中にある問題の半分くらいよりも、むずかしい気がするんですけど。つまり、人工知能が人間にかわっていろいろできそうな気がします。
山本 いや、むしろ、人間のやっていることで囲碁よりむずかしいことって何かありましたっけ？（笑）
大橋 え、そんなに囲碁むずかしい？
山本 むずかしいよ。私は囲碁よりむずかしいことなんて、思い浮かばない。例えば、医療のX線の画像診断ってもうだいぶ人工知能がうまくやれるようになってきたんだよね。医者の仕事は人工知能に置き換えられるかもしれない。
加藤 たしかに。政治も人工知能で代替できそうじゃないですか？
山本 国会でなされている判断と囲碁の形勢判断だったら、囲碁のほうがむずかしいと思う（笑）。シンガポールでは政治への人工知能導入を本気で検討しているそうですね。まあでも、人工知能は根回しとかできないからなあ。
そして繋がったのは火の鳥 未来編の、人工知能ハレルヤ。
未来の地下都市でエリート役人の一級戦士ロック（ページに登場するサングラスの男）や、その他の役人は、重要な政治判断は人工知能の解析結果を信頼している。「あなたの計算にまちがいはありえない」「われわれ中央本部のものはあなたのご指示どおりにやっています」ときている。
この火の鳥未来編の世界では5つの都市があり、他の都市でも人工知能が政治判断をしている。そして人工知能の判断で戦争が起こり、人類は滅亡してしまう。
しかしストーリーとしては「人工知能が暴走して直接に人類を滅ぼした」のではない。暴走したのは確かかもしれないが、直接ではなく『直接的』、あるいは『直接にもっとも近い間接的』だった。
このようにハレルヤは判断しているだけで、了承したのはエリート役人のロックである。了承のプロセスがあるということは、きっと拒否することもできただろうが、人工知能がすごすぎて、拒否などありえないのだろう。
ようするに「人間が人工知能の判断を人間が信頼して、その通りに行った」のだ。なのでこれは直接ではなく『直接的』あるいは『直接にもっとも近い間接的』だといえる。
戦争はビジネス(利益の追求)なので、人工知能による判断自体は漫画の世界でなくとも可能だろう。そして昨今の人工知能がいままでとちがって凄すぎるという認識が一般化するのは、そう遠くない。そうなったとき、こんな未来もじゅうぶんリアルだなと、思ったのでした。
コメント / トラックバック