クオリアと人工意識 (講談社現代新書)

著者 : 茂木健一郎

• 講談社 (2020年7月15日発売)

作品紹介・あらすじ

「意識」は「コピー」できるか？
人工知能に「意識」は生まれるか？
茂木健一郎が、自身のメインテーマである「意識」と「クオリア」について、
16年の沈黙を破って書き下ろした、新たな代表作にして問題作！

人工知能の研究の進展が目覚ましい。
だが、人間は、なぜ人工知能を生み出すのだろうか？
その根底にあるのは、自分の「似姿」をつくろうとする本能である気がしてならない。
人間は、その知性を通して、「万物の霊長」たる地位を確立してきた。
そのような人間の知性の一つの究極の応用として、人工知能の研究、開発がある。人工知能の研究には、もちろん、実用的な意義も大きいが、それに加えて人間が自分自身の成り立ちを理解するという意義もある。
人工知能は、私たちの「鏡」なのだ。
その「鏡」の中には、果たして、「クオリア」に満ちた私たちの「意識」もまた、映っているのだろうか？
人工知能をつくることは、「人工意識」を生み出すことにつながっていくのだろうか。　　　
　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　＜本文より＞

☆本書で考察するテーマの一部
〇眠る前の「私」と、目覚めた後の「私」はなぜ同じなのか？
〇私たちは、「ホモサピエンス」（知性を持つ人間）である以上に「ホモコンシャス」（意識を持つ人間）である。
〇物質に過ぎない脳から、「意識」や「クオリア」が生まれてくる不思議。
〇「意識」は「コピー」できるか？
〇「人工意識」をつくることは可能か？　
〇人工知能が生成した文章は、「どこにもたどり着かない」？
〇統計的アプローチでは、「意識の謎」の解明はできない。
〇人工知能をめぐる議論に、ときに驚くほど終末感が漂うのはどうしてなのか？
〇記憶を「外套」だとすると、脳は、その外套を引っ掛けておくための壁に打たれた「釘」に過ぎないという考え方。
〇「私」という「意識」は、この宇宙の全歴史の中で一回だけのものであり、一度死んでしまえば二度と戻らないという「セントラルドグマ」は正しいのか？

感想・レビュー・書評

[Isseiさんの感想 · 2020年10月30日]

読みづらい…。思考の過程が丁寧にかかれているのだが、いろんな例を引き合いに出しつつ、話があっちへいったりこっちへいったりしており、「結局なにが言いたいんだろ？」と感じた。

[chi-sanさんの感想 · 2021年1月27日]

難解な内容だったが、なんとか読破。

人工知能が発達しても
人間の脳になるととは限らないと、基本的なことやっと理解。

「脳とクオリア」も読んでみたい。

[なかちゅうさんの感想 · 2020年11月16日]

人工知能と意識の関係性をテーマにした筆者十数年振りの著書となり、読みごたえのあるボリューム。身体性を軽視し、ビックデータに基づく統計的な学習で知性を高めて行こうとする現在の人工知能研究の方向性に、危うさと警鐘を鳴らしている。
幻想である意識や自由意思の産み出し方を解明できないと人工意識は作れず人工知能に心を宿すことはできないという主張は納得。人工知能分野における最先端の課題と認識が理解できた。そのメカニズムも含め意識とは何なのか、この未解明の謎に答えが出るのが待ち遠しい。

[いすけさんの感想 · 2023年3月15日]

意識とは何なのかということと
命とは何なのかということは
ずっとずっと解決できないでいる気がかりなこと

意識という現象を読み解いたものであるとか
（脳のここがこういう物理的な反応をしているときに意識ではこういう知覚ないし感情が起きているとか、そういう意識と物質の対応関係みたいなもの）、
命という現象を読み解いたものはあるけれど、

意識とはそもそも何なん？
命ってそもそも何なん？
ということについては皆目わからない。

それがわからないことには、
死んだらこのわたしの意識がどうなるか
全くわかれへんやん意味ないやん。

この辺の感覚はどうやら茂木さんと共通するらしく、ペンローズの『皇帝の新しい心』が至る所に顔を出す。この題名を見て若かったわたしは「わたしの知りたいことはきっとこの中に書いてある」と確信を持ちその重い本を買った。だけど、茂木さんのようにその本を読みこなせるだけの頭の出来がわたしにはなかったことから、この本は未だに本棚に死蔵されたままになっている。

余談だけど、本の中で話題になっていた小ネタでわたしが思ったことを幾つか書いておく。
☆AIが意識を持つのはいつなのか？意識を持つようになるのか？
処理する情報量が閾値を超えたら持つんじゃないか、とはわたしも思うが、なんつーか腑に落ちなさが半端ない。意識とはそういうものなのか？という疑念が払拭できない。
しかし一方で、人間に意識があるかどうかは実は外からはわからない（怖い）ということを示した本をつい最近読んだこともあって、機械に意識があるかどうかは実は外からわからないのでは？とも思う（怖い）。
☆脳をAIにコピーすることで永遠の命を得る、ということを考えている科学者がいるそうだが、茂木さんと同じく「それは全く違う！」と声を大にして言いたい。だってDNAが全く同じな一卵性の双子が同じように育たず双子はお互いに相手を別人だと思っているように、わたしの脳をコピーしたAIが出現したとしても、わたしと同じように同じことを考える別人が出現したとしか思えないだろう。それが「わたしという意識」の本質だろう。
☆そういう頭のいい茂木さんが、雑談的にではあるものの、神秘主義的な解決法を持ち出していたのには衝撃を受けた。頭よくても頭のあまりよくないわたしみたいに、そういう考え方をすることあるねんな〜。神秘主義いいよね〜。結局仏教の密教って神秘主義的な行為の行き着いた果を力業でもたらそうというものじゃないん？とわたしは思っている。

[1472639番目の読書家さんの感想 · 2022年10月1日]

日比谷

[kaota01さんの感想 · 2022年5月15日]

テーマは面白い(興味深い)。
賛同できるかどうかは別にして。特に人口意識は必要か？は意見がわかれるところだろう。暗いところで落とした鍵を明るいところで探す。理由は「明かりがあるから」は、このテーマに限らずあるある。

[aiaitaro8さんの感想 · 2022年2月26日]

とても面白かった。人工知能研究の現在。研究者達の考えていること。意識とは。知性とは。生命とは。自己意識とは。自由意思とは。身体性について。人工意識について。興味深い議論満載でエキサイティングな一書。人工知能、馬鹿にしたものでもないし、また恐れることもない、ということが良く分かった。

[tolastさんの感想 · 2022年2月18日]

脳科学の教科書。
情報工学、生物学、文学、哲学などの多面的な知識を交えながら「（自己）意識」を考察する。
クオリアというのは知覚の仕組みのようなものだと思った。
脳は脳でもハードウェアなのか、VHDLなのか、ソフトウェアなのかといったところなのだと思う。

[いゔどっとさんの感想 · 2022年1月15日]

P.107
…外界の事物を直接表現する「感覚的クオリア」と、志向性を内包した「志向的クオリア」がある。

…認識のメカニズムは、感覚的クオリアによって外界の基本的な様子が表現されて、それに対して志向的クオリアで「解釈」や「意味づけ」が行われていくというかたちで成立している。

感覚的クオリア　ボトムアップ
志向的クオリア　トップダウン

空間的志向性

signifié signifiant

意識は生命の「随伴現象」である

コンファビュレーション
口からでまかせの嘘、フィクションを発話するプロセス

[尚美学園大学メディアセンター（図書館）さんの感想 · 2021年12月26日]

https://library.shobi-u.ac.jp/mylimedio/search/search.do?target=local&mode=comp&materialid=00079013

著者プロフィール

茂木健一郎（もぎ・けんいちろう）
1962年生まれ。ソニーコンピュータサイエンス研究所シニアリサーチャー。東京大学大学院特任教授。専門は脳科学、認知科学。著書に『脳とクオリア』（講談社学術文庫）、『脳と仮想』（第4回小林秀雄賞、新潮社）、『今、ここからすべての場所へ』（第12回桑原武夫学芸賞、筑摩書房）、『クオリアと人工意識』（講談社現代新書）ほか。IKIGAIやNAGOMIに関する英語の著作が多くの言語に翻訳されている。

「2023年 『ミラーニューロン 新装版』 で使われていた紹介文から引用しています。」