人工知能 人類最悪にして最後の発明

著者 : ジェイムズ・バラット 水谷淳

• ダイヤモンド社 (2015年6月19日発売)

感想・レビュー・書評

[ともやさんの感想 · 2016年6月21日]

AIが人類の驚異になり得るという点には同意する。
しかし、この本の想定には最初から致命的な誤解がある。
基本的な検討を怠っているこの本を読むことを継続すべきか考えてる。



読み終わることがあったらレビューを書き直す。

[kazuhiroyanagiさんの感想 · 2016年6月5日]

AIはAGI（人工汎用知能）、ASI（人工超知能）に進化して人間以上の知能を持ち、人類を滅ぼす。AIは核兵器と同じ脅威になり、対策が必要だと主張している。しかし、仮にそのような恐れが事実だとしても、それをコントロールするのは核兵器より遥かに難しい。ITは核燃料ほど入手が難しくない。
　楽観論も数多くある。しかし、ホーキング博士なども悲観論者でシンギュラリティに懸念を表明している。　
　人類を滅ぼす可能性を持つ超人類の出現を描いた小説があった。超人類は人間を遥かに凌ぐ知能を持ち、抹殺の対象とされた。ASIもそれと近いものと考えることができる。有機物にかわり珪素で構成される生き物となる。
　AIが進化して人類が滅亡することになっても、それも進化のひとつだと思う。人間や人類が何のために生きているという答えを機械が先に見つけたなら、そして人類はその過程のひとつであれば、人類の滅亡は進化の必然である。
　私は核は廃絶すべきだと思う。AIもテロリストなどに悪用される恐れはあるので、それについて対策はすべきであるが、その高度化は必要だと思う。

[ksktomozさんの感想 · 2016年5月14日]

ここまでAI関連の本を何冊か読んだが、この本は悲観論に徹している。Amazonの読者コメントでは「実際には楽観論と悲観論の中間になるのではないか」という意見が多く、読む中間あたりまで「悲観過ぎるのでは」と思っていた。でも読み終わった頃には「こういう悲観的なことになってしまう可能性もかなりあるのではないか。もし、そうであれば、何も対策を取らなかったらな原爆発明以上の終局的な一大事になり、どうにもならない手遅れになってしまう」と思ってしまった。
それが今世紀の終わりあたりならば、僕も死んでしまって他人事ですむのだが、この原著は2013年10月に出版されたもので、AlpahGoの勝利以前の状況。AlphaGolの「10年先と思われていた状況を現在にたぐり寄せてしまった」今となっては、2020年の東京オリンピックに前後してAGIが実現するかもしれない、と思う。
すると、僕が生きている間に、悲惨なことになってしまった現世を見てしまうかもしれない。
今後AI関連ニュースが続出すると思うが、そういう方向からも「何が起きようとしているのか」をよく把握して自分のあるべき姿、やるべきことを考えるようにしたい。

[samestarさんの感想 · 2016年5月4日]

AIに感情を持たせるのが難しい、って確かにその通りなんだよな。映画や漫画での先入観で気づかなかった。人間に対して愛情が無ければ…人間が猿やネズミを粗雑に扱うのと同じになることは考えられることだよな。
ナタンズのウイルスが逃げ出す、って実際に起きているなら、内容のリアリティが増すな。
事前に「デフォルトで死ぬ」ようプログラムされた部品を組み込む、っていい対策と思うけど…作る側に危機感がなければ難しいよな。

[isseiabeさんの感想 · 2016年3月12日]

もう少し夢があるかと思ったが．
何となく微妙な読後感が残る．
これが事実というか警鐘なのかも知れないが・・・

[Ticklerさんの感想 · 2016年2月3日]

コンピュータがやがて自己学習できるようになり、欠陥を自己修復したり、機能を自己改善できるようになったら、何が起きるかという思考実験的な本。

Discovery Channelなどのドキュメンタリー番組のプロデューサーが書いているだけに、ドキュメンタリー番組のように取材を映像化するような筆致（を再現した翻訳）が見事だ。

だから、サイエンス（科学）を期待して読み始めた僕は途中でやめた。これは、サイエンスではなく、ドキュメンタリーなのだ。

その違いは何か？

ある仮説に対して事実を積み重ねて検証していくのがサイエンスだが、ドキュメンタリーは結論が先にあり、それに合った専門家に取材して裏付けていくものだ。

サイエンスもどきドキュメンタリーのわかりやすい例が地球温暖化懐疑論で、地球温暖化は誰かの陰謀であるという結論を先に掲げて、それに利用できる論拠を引用して、結論の正しさを裏付けようとする。

翻って本書を読み進めていくと、何が事実で何が仮説なのか、よくわからない。これは、全くサイエンスではない。ドキュメンタリーだ。

事実とはっきりわかるところで説得力のあるところは、株の自動取引のエピソードで自動取引プログラムの相互作用のあたりだ。

人間の判断を介さずに瞬時に売り買いがなされることで、もはや人間に予想もできなければ止められもしないことが現実に起きている。その事実に驚愕する。

もしこのような自己学習し自己制御するプログラムがひとたび軍事利用されたら、誰にも何が起きるか予想もできなければ止められもしないだろう。そう考えるのは、自然な発想に思える。

[h4leaderさんの感想 · 2016年1月18日]

話は面白いけど冗長というか、半分の薄さでも同じ内容書けたよね。
同じことを延々と手を替え品を替え、時には替えずにそのまま書いてあって、途中で飽きが・・・。
自分たちを超越する存在に畏怖を感じるの のは当然のことだと思うし、悲観的にしかなれないのは尤もだと感じます。
AIとAGIの間には途轍もない大きな壁があるように感じますが、2045年とは言わずとも、いずれそこに辿り着くでしょう。
その時、人類の未来や如何に・・・

[soramame1988さんの感想 · 2016年1月18日]

AIが、根元的に、人類にとって「悪」であることを訴える内容。同時期、日経新聞でAIについての特集もあったが、人間がこの発明によって終焉へと向かう、というようなことは一切書かれていなかった。そういうことを考えると、結構意味のある本なのかな、と感じた。

[vitrumlabook0727さんの感想 · 2016年1月10日]

「人工知能」といえば小学生の時に夢中になった「ドラクエⅣ」。旅する仲間が増えに増え、戦闘時に命令するのが面倒ってことで、コンピューターが自動的に判断して攻撃したり魔法をかけたりするというものでした。とはいえあまり役には立たず、想定外の行動を起こすことが多かった厄介なシステムでした。その後のシリーズでもこのシステムは導入され続けましたが、精度は上がっていました(笑)。いまや人工知能はゲーム世界だけではなく人々の生活には欠かせないものとなっており、インフラ、金融、インターネットなど多くに利用されています。それは便利なツール・・・・になるはずだった。数年前までは・・・・と言われる時代が来るかも知れないというお話。

知能でいえば地球上に人間を超える生物は今のところ存在しない。人工知能もまだ人間のレベルには達していない。しかし、その研究は多くの国が力を入れて進められており、名目は便利道具としてかもしれないが、善人が作ろうが、悪人が作ろうが、いったん人間のレベルまで達することができれば、その後はすぐに人間を凌駕する知能に達するだろうと指摘。なぜなら、人工知能は自己学習能力によって知能の上昇は比例ではなく指数関数的な上昇を示すため、脳の容積を何百万年もかけて進化させてきた人類よりも格段に早く知能を発達させることができるからという。

人間の何倍も賢い種を人間はこれまで相手にしたことがない。そんな知能の持ち主がどのような行動を起こすのか、もはや人間には予想することができない。つまり、一度そのような人工知能を何の準備もなしに作ってしまったが最後、色んな事におびえながら生活をしなければならないだろうと著者は主張しており、さらに恐ろしいのはそういう未知のことを何も考えずに、人工知能の開発に明け暮れている研究者がほとんどであるとしている。

著者は悲観論者であり、人間を凌駕する知能をもったソレはおそらく生きながらえるためにあらゆることをするだろうという。単純にチェスに勝つためにプログラムされただけだとしても、相手を負かすという目的を際限なく追求し、電源を切られないようにコピーを作り、クラウドに忍ばせておき、勝つためには人類を滅ぼしてしまえばいいと判断してもおかしくはない、とのこと。

最初は大げさな、と思っていましたが、たしかに複雑な情報処理能力を持った者に出会ったことがない、ということは何をするか分からないということ。そしてソレは人間を憎んでもいなければ、愛してもいないだろう。人間が医学のために動物実験する時、その動物を憎んでいるわけではないが、実験に使う。ソレが人間に対して無感情に同じことを行うかもしれない、と書いていることを否定はできないか。

実際に、アメリカとイスラエルがイランに送り込んだコンピューターウィルスが、その目的を果たしたら終わるはずだったのがPCから抜け出し、やがて変異して発見されたという事実が、決して著者の描く不安が絵空事ではないことを物語っている。

そんな人工知能、多くの研究者は数十年のうちに人間の知能を持たせることができると言っているようです。

[shogoroさんの感想 · 2015年12月2日]

たしかに機械が自分で考えるようになったら、人とは違うロジックで動くわけだしどうにもならなくなるな。
ていうか、すでにどこかに潜伏して根を張っている可能性もあるわけで、発電所とか抑えられたらアウトだもんな。人類はいなくなるわけだ。