シンギュラリティ:人工知能から超知能へ

著者 : マレー・シャナハン ドミニク・チェン ヨーズン・チェン パトリック・チェン

• NTT出版 (2016年1月29日発売)

作品紹介・あらすじ

イギリスの人工知能(AI)研究の第一人者によるAI入門書。
本書では、「全脳エミュレーション」などの最先端のAI研究を手際よく解説し、さらにAIの政治・経済的インパクト、AIと意識の問題、そしてシンギュラリティ問題までを、さまざまな思考実験を通して考察する。
はたしてシンギュラリティはやって来るのだろうか?

※シンギュラリティ:人工知能が人間の知能を超える「特異点」のこと。

感想・レビュー・書評

[ykikuchiさんの感想 · 2020年2月20日]

AI崩壊という映画を見て、本書を読んでみた。
シンギュラリティとは、日本語では技術的特異点。AI・人工知能が自らのフィードバック機能や高度化した技術で、人類に変わって文明進歩の主役になる瞬間をさしている。シンギュラリティはいつなのか？というような問があり、未来学者が予測していたりする。『AIｖｓ教科書の読めない子供たち』の著者である国立情報学研究所教授の新井紀子さんは、シンギュラリティは永久にやってこないというコメントをしている。
本書は、人工知能をどうやって作り上げていくのかを現在の科学的技術をベースに描いてくれる。全脳エミュレーション、システム構築へのステップは、報酬関数は何で、何をどのように学習するのか？期待報酬のための最適化をどう図るのか？等
本書を読んでいると、私は人工知能が人類の叡智を超えることはないという懐疑派だが、シンギュラリティはいつかやってくると信じられそうな気になってくる。
AIに関する書物を読み見識を深めたい人にお勧めする本。

[mm1525youさんの感想 · 2017年5月28日]

哲学的な内容
銀河への飛躍はやり過ぎ
※用語集のコピー

[武蔵野大学・武蔵野図書館さんの感想 · 2021年6月26日]

武蔵野大学図書館OPAC
https://opac.musashino-u.ac.jp/detail?bbid=1000129177

[千莉さんの感想 · 2018年11月25日]

　汎用人工知能の到来はまだまだ先の話らしい。

[フロッガーさんの感想 · 2018年2月18日]

AIの進化についての本。AIがどのように発展していくのかということと、人間並みになった時点で動作時間や数を増やすことで、人間を超えてしまうということについて書かれていた。まだしばらくAIは人間の一部を超える程度にとどまるであろうが、いずれ全脳コピーのようなAIが出現した場合、人類の地位が揺らぐかもしれないと思う。

[tomohixさんの感想 · 2016年10月16日]

技術面をしっかり抑えつつ、歴史や哲学を盛り込みながら、強烈な主張をしていて面白かった。
人工知能の大きな流れをおさえるのにもよい本だと思う。

人工知能が人を超えるかという検討から、知能とはなにか人間とはなにか、ということを振り返って考えているところがよかった。

[ijklmnさんの感想 · 2016年6月28日]

出だし良かったのに中盤から報酬の話で堂々巡り

[kenkenyanjaさんの感想 · 2016年4月23日]

倫理的エラーを防ぐための評価関数の設計を主張するが、人間の手によるものなのでリスクは避けられない。
いわゆる超知能も人間を超えるのは「知性」だけで、「倫理」は人間を超えられない。そもそも、倫理は周りの人間が決めるものだから、仮に超知能が倫理をアップグレードしようとしても人間はついていけない。

人工知能に関する楽観的な意見が多かったが、現在のシンギュラリティの議論の流れが分かりやすいのでおすすめ。文章も平易

[ryhさんの感想 · 2016年4月22日]

人間並みのあ汎用人工知能がこのような特技を発揮するためには、同様に常識と創造性を混合できなくてはならない。p21

人間に近づくAIを構想する上での3つの設問 p95
1. 報酬関数
2. 学習
3. 最適化

ゼロから作製され、その設計に生物学的なカウンターパートが含まれないシステムにおいて、超知能はどのように生じるだろうか。
汎用人工知能の実現は、
1. 正しい報酬関数を定めること、
2. 世界モデルを作るべく、有効な学習技術を実行すること、
3. その学習されたモデルに見合った期待報酬を最大化しうる強力な最適化方法を展開することによって可能となる。p109

＜メモ＞
一つのプールで猿と人間が同時に溺れていたとすれば、おそらく大半の人はまず人間に救いの手を差し伸べるだろう。理由は多岐にわたるにせよ、人間の方が猿よりも高い知性を有しているため、大局的に見た場合の価値が高いという判断がなされている。
だとすれば、人間よりも遥かに高い知性を有する”超知性”と人間では、前者の方が生かされるべき存在ということになってしまう。
人間には生命の保存（生殖）という目的があるが、例えば超知能が地球の保全、ひいては宇宙空間の安寧を至上命題に設定したとき、人間は取るに足りないちんけな存在となってしまうのか？

シンギュラリティ周辺の重要な思考実験が一通り把握できる良書。
ドミニクさん監訳ということもあり、本文も非常に読みやすかったです！

[本江正茂さんの感想 · 2016年4月4日]

脳をエミュレートすることで意識をもった人工知能を作る。意識をもった脳がもうここにあるのだから、全く新たに意識を作るよりも勝ち目があるはずだ。
飛行機の発明の味噌は鳥を真似ないことだとよく言うのだが，意識ほどに高次の、あることが奇跡であるようなものを作ろうとすれば、もう稼働している意識のあり方を使うにしくはないということだろう。

意識をもった超知能が現れたら、人類の思想や哲学や倫理はどうなるのか。おそらくはできてしまってから泥縄で考えることになるであろう問題の見取り図が描き出されている。

仕事を奪われるとか、自動運転の自動車とかいった卑近な話どころではない、人間存在の根幹を問う哲学的問いとの対峙が求められることになりそうだ。楽しみだ。

著者プロフィール

インペリアル・カレッジ・ロンドン教授(認知ロボット工学)。関心は幅広く、著作は人工知能、ロボット工学、論理学、力学系、計算神経科学、心の哲学にまで及ぶ。

「2016年 『シンギュラリティ 人工知能から超知能へ』 で使われていた紹介文から引用しています。」