相対化する知性 人工知能が世界の見方をどう変えるのか

著者 : 西山圭太 松尾豊 小林慶一郎

• 日本評論社 (2020年3月25日発売)

作品紹介・あらすじ

人工知能と人間が共存する社会において、知性をどう認識し、人間はどのように生きればよいのか。3名の著者がこの問題を論じる。

感想・レビュー・書評

[tosyokan175さんの感想 · 2020年8月23日]

副題にあるように「人工知能が世界の見方をどう変えるのか」ということに惹かれて。３部構成になっていて、第1部を今をときめくディープラーニングのエバンジェリスト、松尾豊が人工知能の技術基盤の発展について、第2部を経済産業省商務情報政策局長、西山圭太が人工知能がもたらす新しい認知構造への転換について、第3部を経済学者、小林慶一郎が人工知能によって生まれる可能性のある新しい公共性（政治哲学）について、それぞれにバトンを受け渡しながら論考を重ねていっています。あとがきで、著者を代表して西山圭太が本書の執筆理由について「一言で言えばこんな本が読んでみたいがそれが世の中に見つからない」と語っていましたが、確かに広く深く大きな視野を与えてくれる本でした。人工知能という人間にとって初めての存在は、経済学を含む社会科学と量子力学を含む自然科学を、理系・文系という枠を超えて再統合させないとつかみきれないものなのかもしれません。本書でもたびたび言及される「サピエンス全史」のような大きなスッキリ感とは違う、大きなモヤモヤ感を与えてくれて、これはこれでうれしい読後感でした。

[室蘭工業大学附属図書館おすすめ電子ブックさんの感想 · 2022年8月10日]

【電子ブックへのリンク先】
https://kinoden.kinokuniya.co.jp/muroran-it/bookdetail/p/KP00030969/
学外からのアクセス方法は
https://www.lib.muroran-it.ac.jp/searches/searches_eb.html#kinoden
を参照してください。

[osawatさんの感想 · 2022年4月13日]

ふむ

[saltuscafeさんの感想 · 2021年10月24日]

人工知能がもたらす、我々が世界を理解する方法への変化と、その変化を取り込んだ新しい社会の構想について論じている本。

これまでの人間にとって、物事を理解するとは、対象そのものの実態を捨象して記号化された要素の集まりとして捉え、それらの記号を操作して法則を見いだすという認知の方法を指すことが多い。一方、人工知能は、大量のデータをそのままインプットとして用い、そこから計算される特徴量を用いて結論を導き出す。

このような、人工知能が扱う数億のパラメータを入れることで予測精度が上がる多変数系の科学は、認知構造に対する考え方を変える可能性を秘めている。

本書では、この新しい認知構造の発展過程に対する考え方を「強い同型論」という言い方で整理している。同型性とは、生命体にも、人間の脳にも、人工知能にも繰り返し現れる同じメカニズムがあるということを指しており、その要素は主に2つある。

1つ目は、多変数系の科学であっても、その情報処理にはいくつかのサブシステムともいえるローカルな領域があり、データの相互作用は主に「近い」サブシステムの間で行われ、「遠い」サブシステム同士は相互作用をしない、ということである。

人間の細胞膜にもそのような機能は見られる。ウチとソトを作り出すことで、外部の情報をとり入れて内部の状態に反映させるというプロセスであり、このウチとソトを分ける膜は、「マルコフ・ブランケット」と呼ばれる。

2つ目は、マクロの領域においては、ミクロの個々の要素には還元できない特徴や因果関係が立ち現れることがあるということである。生命がその生命体を構成する個々の分子の機能に還元できない働きを持っているのと同様に、知の発展も、個々のデータには還元されないマクロの構造によって生み出される。このことを「エマージェンス（立ち現れ）」と呼んでいる。

知の発展のあり方をこのような形で捉え直すことは、人間の知性にも宇宙の進化や生命の誕生と同じようなメカニズムがあるという考えに立つということであり、人間の理性を世界の外から内へ引き戻す働きがある。

これまで、世界を外側から観察することによってその仕組みを理解し、活用しようとしてきた人間が、改めて世界の内側にあり、その中で情報の処理やそこから生まれてくる構造の1つとして動いているという認識に戻るということである。

人工知能との関わりで言えば、人工知能はこのような情報の相互作用をそのまま模式化し、処理を行うので、この情報世界を「外から」見る位置にいる。つまり、情報世界の内側にいる人間には理解不可能な知の構造も、人工知能の中ではモデル化され得るということである。

このような人工知能と共存する社会のあり方を、どのように構想して行けばよいのか？本書では、ロールズの正義論のベースになっている正義のシステムの考え方を使いながら、この問いに答えている。

人工知能が導き出す知の構造は、人間よりも圧倒的に多くの情報をより多層のディープラーニングによって処理した結果であるため、人間には理解ができない。このような知を受け入れるということは、人工知能がビッグブラザー的に人間を支配するというディストピアを生む可能性があるという議論もある。しかし、本書では、必ずしもそうではないと述べている。

人工知能によって人間の認知を超える形で知が新たに更新される世界では、その新たな知を受け止めた新たな社会の構想が随時更新されることになる。これは、知の更新が行われるたびにロールズのいう「無知のヴェール」の状態が生まれるということであり、その都度新たな合意により社会が構想される。

無知のヴェールの状態においては、人々は自己の属性を知らない状態であるので、ロールズの正義論に倣えば、「正義の二原理」に戻づいた社会が構想される。

そして、人工知能は、このような社会の進化のサイクルを新たに生むことができるテクノロジーであるという。

ただし、この議論には前提がある。それは、人工知能による知に可謬性を認めるということである。

人工知能による知は、その構造を人間には理解ができないものであるが、データをもとにモデル化されたひとつの知識であることに変わりはない。したがって、間違いであることが後から明らかになる可能性を含んでいる。

そのような認識に基づいて、人工知能の知による全体主義ではなく、可謬性を認識したうえで人工知能を取り込んだ社会の発展の仕組みを作っていくべきであると本書では述べられている。

人工知能による知が、人間の認知構造とは大きく異なる位置に立ちうるという指摘には、この技術のインパクトを改めて認識させられた。

一般的には、人工知能のもつブラックボックス性をどのように人間の知性の理解できる世界に引き戻すかという議論が多いが、本書ではその違いを認めたうえで、ロールズの正義論をベースにしながら人工知能による知の創発を取り込んだ新しい社会の構想を検討しているところが斬新であると感じた。

本書でも警戒されている全体主義的な人工知能による支配の可能性は、依然として気をつけていかなければならないと思うが、単にこの技術を抑制したり、現在の社会システムの中に部分的に挿入したりするというのではなく、新しい社会の進化の方法を探っていこうという方向性は、建設的な議論であると思う。

その中で、データの独占を禁じ、可謬性のある結論に対してオープンな再検討の機会を確保することの必要性を指摘している点も重要である。

技術の発展には不可避的な側面があるため、それによる我々の世界の見方の変化を社会としてどう受け止めるかを考えておくことは、大切なことである。本書もその試みの一つとして、議論を投げかけてくれるという意義があると感じた。

[kさんの感想 · 2021年8月15日]

各分野の専門家三名の共著として、人工知能技術とその活用の現在地について書かれた一冊。
内容は抽象度が高い上に専門用語も多く、非常に難解。しかし人工知能の概要と今後の発展を理解するには適した著作であると言える。
認知における過去の展開含めて学術的にも幅広い内容について言及されており、興味が持てる。特に「強い同型論」「AIの可謬性の許容」「複雑性増大」の理論らは非常に面白かった。

[T.Fukuyamaさんの感想 · 2021年4月12日]

【概要】
●第１部　人工知能－ディープラーニングの新展開（松尾豊）
　第２部　人工知能と世界の見方－強い同型論（西山圭太）
　第３部　人工知能と社会－可謬性の哲学（小林慶一郎）

【感想】
●第１部は、ディープラーニングについて詳しく書かれていて、ある程度理解しやすい内容であった。
●第２部・第３部は哲学的で理解が非常に難しい。筆者の自己満足で終わっているような気がする。

[hosinotukiさんの感想 · 2021年2月17日]

３部構成で執筆者を代えてディープラーニングや同型論などいろんなアプローチから人口知能を論じ人間との関係性を見直している．２部３部の数式ははっきり言って理解し難かったけれど３部の市場経済の仕組みについてイノベーションの正義論，可謬性から論じているのが興味深かった．

[jiromup02さんの感想 · 2021年2月5日]

第1部は松尾豊執筆、人工知能－ディープラーニングの新展開
第2部は西山圭太執筆、人工知能と世界の見方－強い同型論
第3部は小林慶一郎執筆、人工知能と社会－可謬性の哲学
松尾豊は東大の教授、人工知能の専門家。1975年生まれ。
西山圭太は経済産業省商務情報政策局長。1963年生まれ。
小林慶一郎は経済産業省を経て東京財団政策研究所研究主幹。1966年生まれ。

[yukisaitoさんの感想 · 2021年1月11日]

ディープラーニングの仕組みと人間の認知のメカニズムを対比させることを通じて、「拡張された理性」としての人工知能を我々の社会の中でどう位置付け、生かすべきなのかを、幅広い学際的視点から考察した一冊。

深い階層を持った関数を学習することで、有効なパターン（特徴量）を見出すというディープラーニングの仕組みが、画像認識のような外部環境のモデル化において大きな成果を上げたことは、人工知能も人間と同様に、知覚運動系と記号系という二つの系の有機的な連携によって発達し得ることを示唆しており、このような人工知能の発達は、認知革命と科学革命がもたらした”人類だけが理性を持ち、この世界の全てを真に理解することができる”という前提を覆すとともに、還元主義や自然主義といった生命観をも転換させるとして、著者らは人間と人工知能に共通する新たな認知構造としての「強い同型論」を提唱する。

人工知能が人間を凌駕するという脅威論に対しては、著者らは人間も人工知能も間違い得るのだという「可謬説」の立場から、あくまで人間が謙虚にイノベーションを推進することが、経済学でいうところの「神の見えざる手」のように、人工知能も含めて社会全体に利益をもたらすと反論する。政治哲学論から量子力学まで、幅広い観点から「人間の知性」を見つめる著者らの思索の深さに圧倒される、パワフルな教養書となっている。

[redwing66さんの感想 · 2021年1月8日]

人工知能発展の社会への影響に関心があったので、この本を手に取った。色々と参考になる話も多かったが、特に第2部の「強い同型論」の部分は分かりにくかった。
ユヴァル・ノア・ハラリの「ホモ・デウス」の理解は少しずれているように感じたが、どうなのだろうか。
他方、この本で紹介されたヨシュア・ベンジオの「意識プライア」という考え方に興味を持った。これが汎用人工知能の開発に繋がっていくことを期待したい。

著者プロフィール

経済産業研究所コンサルティングフェロー、経済産業省商務情報政策局長

「2020年 『相対化する知性』 で使われていた紹介文から引用しています。」