AI原論 神の支配と人間の自由 (講談社選書メチエ)

著者 : 西垣通

• 講談社 (2018年4月10日発売)

作品紹介・あらすじ

ここのところ「スマートスピーカー」の宣伝をよく目にします。名だたる企業が競うように発売し、これを導入すると、どれほど生活が便利になるかを伝えています。スマートスピーカーは「ＡＩスピーカー」とも呼ばれるように、ＡＩ（人工知能）が搭載されています。囲碁や将棋でＡＩがプロに勝った、というニュースを聞くようになってから、もうずいぶん経ちますが、今や自動運転、投資相談、医療診断など、以前では想像もできなかった領域にＡＩは進出しつつあります。そして、30年以内にＡＩの知性が人間を超越する、という「シンギュラリティ（技術特異点）」仮説を唱える専門家さえ出てきています。
そこに待っているのは「薔薇色の未来」でしょうか？　便利さ、というものに目を奪われて、しっかり考えることなく、さまざまな判断をコンピュータに委ねてしまうことになって、だいじょうぶなのでしょうか？
本書は、半世紀近くにわたってＡＩの栄枯盛衰を間近で見てきた第一人者からの提案の書です。──先に進む前に、いったん立ち止まって、きちんと考えてみませんか？
現在のＡＩブームとも呼ぶべき状況は、1950～60年代の第一次ブーム、1980年代の第二次ブームに続く三度目のものになります。本書は、それらの歴史を振り返り、それぞれの時期に何が可能になったのか、何が不可能であることが分かったのか、そしてそれは今日に至って解決されたのか、といった点を分かりやすく整理します。
その上で、今、世界中で注目されるフランスの哲学者カンタン・メイヤスーの議論を手がかりにして、ＡＩが目指しているのはどんな世界なのかを探っていきます。そこで明らかになるもの、それは「絶対知をもつ神に人間が近づいていく壮大なストーリー」にほかなりません。もしもそのストーリーが現実のものになったとしたら、「自由意思」や「責任」といったものはどうなるのでしょう？
ＡＩとよく付き合うために、本書は大切な問いを投げかけます。

【本書の内容】
まえがき
第一章　機械に心はあるのか
第二章　汎用ＡＩネットワーク
第三章　思弁的実在論
第四章　生命とＡＩがつくる未来
第五章　ＡＩと一神教

感想・レビュー・書評

[Mkengarさんの感想 · 2023年5月8日]

AIについては全くの素人なのですが、著者の本は何冊か読んだことがあり本書も手に取りました。結論から言うと非常に面白かったです。独特な視点からAIに切り込んだ書籍だと言えます。本書はAIの技術的な解説書ではありません。そのような本は巷にあふれています。著者がこの本で指摘するのは、日本でAIを研究している専門家ですら、AIの背後にある哲学的思想や宗教的思想について理解しておらず、それは非常に危ういという点です。

本書は、これまでのAIブーム（1950年代の第1次、80年代の第2次、そして2010年代からの第3次ブーム）について概観し、第3次ブームに火をつけたと言ってもよいカーツワイルの「シンギュラリティ仮説」について紹介します。そしてこのシンギュラリティ仮説を中心に、それらがどのような思想のもと生まれたか、それがいかに「ありえない」かについて哲学や宗教の視点から解説しています。

本書は重要なキーワードが多数ちりばめられていたと思います。まず科学者が持ちがちな「素朴実在論」。それに対抗する、カントからはじまる「相関主義」（世の中の事象はすべて人間という主観的主体を通してしか理解できない）、そしてそれを突き詰めていくことで生まれたメイヤスーの「思弁的実在論」。また相関主義と似た思想としての「オートポイエーシス」理論で、人間や生命体だけが真の意味で「閉鎖・自律的」な存在であり、AIは「開放・他律的」存在でしかないことを示します（ただし本書で示されているように、深層学習しているAIは疑似的な意味で自律的存在として人間の目には映る）。

私が興味深かったのは、メイヤスーが提唱している２つの種類の不確定性と、それを用いた著者による人間・AIの違いについての説明でした。１つめは確率分布で表示できるもの（潜勢力と訳されている）、もう１つは確率分布で表示できないもの（潜在性と訳されている）があって、AIは前者にしか対応できないが、人間は前者だけでなく、後者の不確定性にも柔軟に対応できること（対応できない固体が死ぬ）、つまり言い換えれば行動ルール自体が時々刻々変化する存在だということです。AIはメタルールを自分で変えられません。それに対して人間はいざとなればメタルールすらリライトできるからです。

ちなみにこの２つの不確定性については、フランク・ナイトという経済学者もだいぶ前に区別をしています。彼は、確率分布で表示できるものを「リスク（risk）」、そうでないもの、たとえば世界大恐慌を引き起こすような株価下落については「不確実性（uncertainty）」と区分しています。ナイトは逆に、人間がすべての事象をリスクとして扱おうとする態度が世界大恐慌のような不確実性を見過ごすという警告をしています。ナイトもメイヤスーも後者の不確定性の存在を強調しているわけです。

なお本書の後半では、ギリシャ哲学（ヘレニズム）とユダヤ教（ヘブライニズム）の混交した西洋文化がAIの背後にあることを解説します。私としては、仏教の思想とAIがどのような関係にありそうか、という点に興味が湧いてきましたので、もしそのような本があれば手に取りたいなと感じました。繰り返しになりますが、本書はAIを通じて様々な哲学思想と宗教思想が学べる本になっていて、知的好奇心を満たしてくれる良書でした。個人的にはとても満足しています。

[グアルデリコさんの感想 · 2019年12月11日]

AIと人間の思考原理の根本的違いとして、AIは「他律的」、生き物は「自律的」として原理的にAI（ここでは汎用AI）は生き物になることはできないということを解説した書籍。
生き物だということは他者からは「不可知的」であるとし、その生き物の行動原理（人間の思考原理も含む）を哲学者メイヤスー「思弁的実在論」の「偶然性」の概念を参照しつつ「自律的」とは「偶然性が必然」であるという考え方から解説。
そもそも西洋人が汎用AIを人智を超えた存在として位置付けたがるのはキリスト教の三位一体の考え方が染み付いているのではないか、とその西洋人の思考原理も紹介。一方でAIはいずれ人間を知能を超える賢い機械になる可能性が高いという点は一般的なAI論者に賛同。

[takeshishimizuさんの感想 · 2018年5月3日]

これはちょっと難しかったなあ。まあ、ほとんど哲学の話でした。あいだにキリスト教の話も登場。内容はほとんど頭に残っていません。原論というのだから仕方ないのでしょうが、もう少し具体的な話が出てくるとよかった。それは、また次の著作となるのでしょうか。ＡＩによる医療診断とか自動運転とか株式投資とか、何か問題が起こったときだれが責任をとるのか。こういうことは、もうまもなく具体的にいくつも世の中をにぎわすことになるのでしょう。そのときにあわてなくていいように、しっかり議論しておくべきなのでしょう。２０４５年のシンギュラリティというのを楽観的に信じている科学者はもはや少ないのかも知れませんが、一般の、特に子育て世代の人たちは、子どもたちが社会に出て行くとき世の中がどう変わっているのかは心配事の一つでしょう。どんな職業が残っているのか、ＡＩが活躍する社会でこの子たちはどんなふうな活動をしていけばよいのか。どのような世の中になっても、活躍できるためにいま備えておいた方がよい力とはいかなるものか。などなど、著者には本書から進んでより具体的なアドバイスをいただけるとうれしいですね。

[Amnesiaさんの感想 · 2023年1月9日]

最終章にこの本の内容を簡潔にまとめているので、そっちから読んでも良いかも

以下は、読んだ感想
・AI関する哲学関係の用語、本を一通りは網羅できる
・思弁的実在論
・AIのあり方(絶対知を求めるのか、人間の手助けなのか)をしっかり区別したほうがいいよね

[milessmilesさんの感想 · 2018年4月28日]

AIについてはシンギュラリティーの議論を含め、実業に近い方と著者の様な学者では見解が分かれる傾向にあり、学者の方々は概ねシンギュラリティーには否定的である。著者もその見解であるが特に面白かったのは実業家が唱えるAIの未来にはアングロサクソン的な功利性があるというものでおそらくこの見解を示しているのは著者だけであると思われるがその主張は説得力があり面白かった。

[yasutowさんの感想 · 2021年1月6日]

シンギュラリティ仮説への批判。
最終章にすべてのエッセンス。

素朴実在論に立脚し得ない点は既に決着済。フレーム問題や記号接地問題は解決し得ない。相関主義哲学に基づけばシンギュラリティーはありえない。唯一の可能性は思弁的実在論によるものであろうが、その場合、現在喧伝されているような楽観的なシンギュラリティー後の社会は描き得ない。
シンギュラリティー仮説の背後にある、創造神、ロゴス中心主義、選民思想、この3つがセットとなった一神教的世界観。
過去の蓄積に準拠する機械と、創発性のある生命体との相違。
AIよりもIA Intelligence Amplifierと捉えるべき。

[historytheoryさんの感想 · 2019年6月2日]

NTa

[トグサさんの感想 · 2019年1月27日]

長谷川眞理子2018年の3冊

[H.Satoさんの感想 · 2018年12月29日]

GoogleがAI企業を買収している理由は、AIを使って検索機能を改良するためではなく、むしろ検索機能を使ってAIを改良するためだとも考えられる。
AIとコンピュータにとって、ユダヤ人の学者、企業家が多い。古来のユダヤ的思想の並外れたパワーと伝播力を物語っている。

[reso100さんの感想 · 2018年12月29日]

AIに関して哲学的な議論を展開しているが、難しい。第6章に総括があるが、気になった言葉を列挙してみる．疑似的自律性、不可知性、ニューラルネット・モデル、深層学習、フレーム問題、記号接地問題、オートポイエーシス理論、シンギュラリティ仮説、クラウドAIネット、暫定的閉鎖系、IA(Intelligence Amplifier)、などなど．一神教からきている「創造神／ロゴス中心主義／選民思想」という独断的な思想に対して、反省の意味で文化的多元(相対)主義が生まれてきた由．"AIの宗教的背景を知っておれば、「やがてAIロボットが人間のように自律的に、主体として賢い判断を下せるようになる」などといったお伽噺に惑わされることはなくなる．" と強調しているが、分かるような気がしてきた．

著者プロフィール

東京経済大学コミュニケーション学部教授／東京大学名誉教授

「2018年 『基礎情報学のフロンティア』 で使われていた紹介文から引用しています。」