ＡＩ以後　変貌するテクノロジーの危機と希望 (ＮＨＫ出版新書) [Kindle]

著者 : 丸山俊一 ＮＨＫ取材班

• NHK出版 (2019年10月10日発売)

感想・レビュー・書評

[Tomotaさんの感想 · 2021年5月16日]

AIの真のリスクと可能性とは？様々なジャンルの“世界的知性”が、今、そしてこれからのAIについて考察する。NHKの番組「世界の知性が語るパラダイム転換」をまとめた書籍。

■意識（マックス・テグマーク／物理学者）
・AI研究の究極の目標は、学習能力があり、何でも人間より上手くできる汎用人工知能（AGI）の開発である。
・AGIを考える時、「意識とは何か」という根源的な問いについて考える必要がある。
・意識とは「主観的体験」であり、「情報処理」の一種でもある。
・今後、研究が進み、何が意識を伴う情報処理かを判断できるようになれば、AIが意識を持つ上で必要なものがわかる。

■倫理（ウェンデル・ウォラック／倫理学者）
・自律したAIが意思決定を下すことで、甚大な社会的被害が起こりうる。よって、AI自身が道徳的判断を下せるようにする必要がある。
・そのためには、人間がどのように道徳的判断を行い、道徳を学習しているかにも目を向けねばならない。
・善悪の概念は人によって異なる。そのため、AIに正しい価値観を教えることは、不可能かもしれない。

■自律（ダニエル・デネット／哲学者）
・AIが「自律」するようになると、人間の命令を拒否する可能性もある。
・そうなった場合、人間はAI を動かすために説得する必要性が出てくる。また、AIが自律性を持てば、人間に隠しごとをするようになるだろう。
・こうした点を考えれば、人間と同等、またはより賢いAIをつくることには、慎重になるべきである。

[nomitomo13さんの感想 · 2020年8月25日]

進化し続けるAIの今後と、AIが社会や人間にどう影響を与えるかについて、4人の研究者の意見をまとめた本。

本書は哲学的なアプローチからAIの今後について読み解いています。

著者プロフィール

丸山　俊一（マルヤマ シュンイチ）
NHKエンタープライズ　エグゼクティブ・プロデューサー
1962年生まれ。慶應義塾大学経済学部卒業後、NHK入局。「欲望の資本主義」「欲望の時代の哲学」などの「欲望」シリーズをはじめ「世界サブカルチャー史　欲望の系譜」「人間ってナンだ？超AI入門」「ネコメンタリー 猫も、杓子も。」「地球タクシー」他、異色の教養番組を企画・制作。
著書『14歳からの資本主義』『14歳からの個人主義』『結論は出さなくていい』他。制作班などとの共著に『欲望の資本主義』『欲望の資本主義２～５』『岩井克人「欲望の貨幣論」を語る』『欲望の民主主義』『マルクス・ガブリエル 欲望の時代を哲学する』『マルクス・ガブリエル 欲望の時代を哲学するⅡ』『マルクス・ガブリエル 危機の時代を語る』『マルクス・ガブリエル 新時代に生きる「道徳哲学」』『AI以後』『世界サブカルチャー史 欲望の系譜 アメリカ70～90s「超大国」の憂鬱』他。東京藝術大学客員教授を兼務。

「2022年 『脱成長と欲望の資本主義』 で使われていた紹介文から引用しています。」