シンギュラリティ:人工知能から超知能へ

著者 : マレー・シャナハン ドミニク・チェン ヨーズン・チェン パトリック・チェン

• NTT出版 (2016年1月29日発売)

感想・レビュー・書評

[tomohixさんの感想 · 2016年10月16日]

技術面をしっかり抑えつつ、歴史や哲学を盛り込みながら、強烈な主張をしていて面白かった。
人工知能の大きな流れをおさえるのにもよい本だと思う。

人工知能が人を超えるかという検討から、知能とはなにか人間とはなにか、ということを振り返って考えているところがよかった。

[kenkenyanjaさんの感想 · 2016年4月23日]

倫理的エラーを防ぐための評価関数の設計を主張するが、人間の手によるものなのでリスクは避けられない。
いわゆる超知能も人間を超えるのは「知性」だけで、「倫理」は人間を超えられない。そもそも、倫理は周りの人間が決めるものだから、仮に超知能が倫理をアップグレードしようとしても人間はついていけない。

人工知能に関する楽観的な意見が多かったが、現在のシンギュラリティの議論の流れが分かりやすいのでおすすめ。文章も平易

[ryhさんの感想 · 2016年4月22日]

人間並みのあ汎用人工知能がこのような特技を発揮するためには、同様に常識と創造性を混合できなくてはならない。p21

人間に近づくAIを構想する上での3つの設問 p95
1. 報酬関数
2. 学習
3. 最適化

ゼロから作製され、その設計に生物学的なカウンターパートが含まれないシステムにおいて、超知能はどのように生じるだろうか。
汎用人工知能の実現は、
1. 正しい報酬関数を定めること、
2. 世界モデルを作るべく、有効な学習技術を実行すること、
3. その学習されたモデルに見合った期待報酬を最大化しうる強力な最適化方法を展開することによって可能となる。p109

＜メモ＞
一つのプールで猿と人間が同時に溺れていたとすれば、おそらく大半の人はまず人間に救いの手を差し伸べるだろう。理由は多岐にわたるにせよ、人間の方が猿よりも高い知性を有しているため、大局的に見た場合の価値が高いという判断がなされている。
だとすれば、人間よりも遥かに高い知性を有する”超知性”と人間では、前者の方が生かされるべき存在ということになってしまう。
人間には生命の保存（生殖）という目的があるが、例えば超知能が地球の保全、ひいては宇宙空間の安寧を至上命題に設定したとき、人間は取るに足りないちんけな存在となってしまうのか？

シンギュラリティ周辺の重要な思考実験が一通り把握できる良書。
ドミニクさん監訳ということもあり、本文も非常に読みやすかったです！

著者プロフィール

インペリアル・カレッジ・ロンドン教授(認知ロボット工学)。関心は幅広く、著作は人工知能、ロボット工学、論理学、力学系、計算神経科学、心の哲学にまで及ぶ。

「2016年 『シンギュラリティ 人工知能から超知能へ』 で使われていた紹介文から引用しています。」