動物と機械から離れて: AIが変える世界と人間の未来

著者 : 菅付雅信

• 新潮社 (2019年12月24日発売)

作品紹介・あらすじ

AIは人を幸福にするか？　自動化が進む中で、未来の労働は、自由意志は、人間の幸福はどうなる？　人は機械と一体化するのか、それとも動物に成り下がるのか――ライフスタイルの新潮流を探る編集者がアメリカ、中国、ロシアを現地取材し、トップ研究者、起業家、思想家51人に訊いた、AI発展後の世界と〈わたし〉の行方。最新の未来図がここにある。

感想・レビュー・書評

[inu-no-mimiさんの感想 · 2020年5月3日]

テレワーク化じゃなんじゃらの対応で忙しいことこの上なくこの１か月あまりは全然読書が進まなかった。応急措置は済んだが、これから「元には戻らない世界」での仕事のし方させ方を考えていかなければならないところ。

発行は19年12月20日。武漢で原因不明の肺炎患者が出て新型ウィルス？と報じられ始めたころだ。
その後わずか4か月でこんな世の中になるとは、著者も取材対象ももちろん想定していなかっただろう。
そんな中、BGI(北京ゲノム研究所）のCEO尹燁氏に取材しているのは偶然だろうが慧眼だった。彼は、AIよりバイオテクノロジーのほうがはるかに危険だと述べているのだ・・・

AIに関して、幅広くさまざまな領域や立場の識者に取材し、その内容をそのまままとめた本なので、通読しても著者が訴えてくるものはないのだが、取材対象が語る言葉は示唆に富んでいて興味深く、いま持っておくべき視点が一冊で網羅できるって感じ。「元には戻らない世界」での働き方を考えるヒントにもなりうると思った。


P9 常にスマートフォンを持ち、ネットと常時接続している状態＝ＷＩＲＥＤな状態は、いわば人間と機械がほぼ一体となった状態だ。[中略]しかし、現在進行する人間と機械の一体化は、一方で人間の動物化を招く。[中略]我従う、ゆえに我あり」の状態になりつつあるのだ。それを人間の機械化や動物化と呼び嘆かわしいと思うこと自体が、もはや21世紀的でないのかもしれない。

P32「暇になる将来を嘆くのではなく、自己決定感が幸せの根源だという概念自体を変えないといけないと思います。 人間が新たな充実感を味わえるように適合していかないといけないですね」（松原仁）

P38　ウォズニアックは、初めて入る他人の家で、家主にコーヒーを淹れられる機械を作ることはできないと予測した。（「ウォズニアック・テスト」）自律性というテーマを抱えた汎用型AIは、まだその開発の端緒についたばかりだ。

P47「ベーシックインカムという基盤が生まれれば、小学校のようなユートピアを目指せると思うんです。将来のこともお金の心配もしなくていい。興味が持てる遊びを考えて、問題解決をして、知識を獲得できる。そんな世界を作り出したいと思いますね」「そもそも人間の尊厳なんて、得体のしれないものです。[中略]ただ人は生きていくうえで出口のない問題にぶつかることがあります。答えがないと知りながら、そのの問題についてあれこれ考え苦悩する、よりよい選択肢があるのではないかと探求する。そんな人間の姿に誇らしさを感じますし、言ってみればそれが尊厳だと思うんです。」（池上高志）

P63　「生物とAI,つまり炭素とシリコンは近くなって行くでしょう。多分それらが融合する未来がやってきます。しかし私たちはシリコンについては理解しているけれど、生物についてはよく知りません。」「バイオテクノロジーの最も危険な領域は、AIよりも危険である」（尹燁）

P84「一般論ですが、幸福には目的が必要です。今までとは異なる新たな目標が、人々を幸福にするために必要となるでしょうね。結局、幸福というものは、わたしたちに内在しているのではないでしょうか」（リチャード・ヨンク）

P117「動物は自分たちを「動物化」していると思ったり語ったりしないので、人間だけが「動物化」について考える動物なんですよ。でも人間とは（考えなくてよくなっていったとしても)そういう理性的な主体であることから完全には降りることができない生き物だと思います。」（大屋雄裕）

P119「日本人は個人主義が弱い側面があると思います。もしかすると、「データの幽霊」のほうに自分自身を寄せていってしまうことも起こりうる。」「データの網の目にとらわれ、ここが分断されたy等個人主義を打破するためには、偶然性を生み出す仕組み＝セレンディピティ・アーキテクチャ」の設計が重要だ」（山本龍彦）

P131　ロシアではソ連時代に社会主義教育やマルクス主義教育の束縛から逃れるため、教育者が意図的にマルクス主義に抵触しない数学に力を入れたという説がある。ロシアでは大学生の6割が理工系に進む。

P133「クレムリンやペンタゴンにいるエージェントが、プロパガンダのためにフェイクニュースを流していると信じることは簡単です。でも実際の状況はもっと複雑なんです。[中略]人々は自分たちが投稿した反体制的ニュースが権力側の人間によって取り消されたことを目にし、さらにフェイクニュースの拡散ボタンを押すことを決めたのです。なぜ人々はそのニュースがフェイクであると知らされているにもかかわらず拡散することをやめないのかについては、認知科学によるさらなる解明が必要だと思いますね」（ボリスラフ・コズロフスキー）

P141「米国がファーウェイを追い出し、中国がFBやツイッターを追い出し、ロシアがリンクドインを追い出しているように、テクノロジーをめぐる地政学的対立が起きていると考えています。またヨーロッパでは政治的な議論の多くは、GDPRのようなデータ主権にまつわるものです。いま改めて、政治的主権とは何か、境界とは何か、領土というものをどのように定義できるのかを考えて行かなければなりません。今の時代において、政治は技術的環境に依存し、テクノロジーの開発は政治的な意味を持つだけでなく、それ自体が政治なんです」（ベンジャミン・ブラットン）

P177「情報が新たに入ってくること自体を直接報酬として定義すれば、強化学習の枠組みの中で、好奇心を持ったAIをつくれるんです。」「人間の場合は「生きる」ことが内発的動機に含まれている、そして声明ではない機会にも、自己保存という内発的動機を与えることによって、意識が発生するのではないか」（金井良太）

P195「私は人間が生き残るために仕事が必要だとは思いません。仕事を失う人に対する再教育が難しいといわれていますよね。でもそれはとても失礼な考えだと思いますよ。どんな人間だって、複雑なことをする方法を学び、理解することができるはずです。学ぶためのサポートをし、次のステップを示せばいいわけですから。」（ロブ・ネイル）

P225「人間にも機械にも、将来を託すことを期待できないのが、一番まずい。ただ、なぜ将来に人類が滅びることが嫌だ、と我々の多くが思うのかは、実はまだよくわかっていません。将来、人類が滅びることは自分が死んだ後の出来と後なのにどうして嫌なのだろうと。でももしかすると人間には、自分が死んだ後の未来にコミットしないと現在が充実しない、という根源的な欲求があるようにも思えるんですね」（稲葉振一郎）

P229　未来には労働と仕事が分離する＝「もしも、食べていくためにやるものを労働と呼んで、それ以外に自発的にやっている作業のことを仕事と呼ぶのであれば、仕事のほうが広がっていく社会が見えてきます。そうであれば、それは仕事大好き人間にとっても嫌な社会にはならないと思うんです。」（井上智洋）

P246　「AIに富が集中しておかしくないかな?でもやむなし」と適度に対処するだけだと思うんです。僕らが考える以上に人間は支配や権力に対して柔軟です。[中略]いまや人間性は、動物性や機械性のノイズとしてしか存在しないんです。」（東浩紀）

P255「（西田幾多郎の哲学は）主客合一、様々な視点で自分がその何に入ったような形で世界を認識するべき。さらに排中律ではなく容中律という考え方」（山極寿一）

P269　AIは記号や言葉の校正そのもの（シンタックス）は理解できるが、それが意味すること（セマンティクス）は理解できないのではないか、アメリカ西海岸のシンギュラリティ派の人々は、ディープラーニングの計算量を上げていけば、そのシンタックスの過剰な追及がセマンティクスになる、つまり新しい意識になる、と考えているが、彼らにはそういうしかないと思います。いつ終わるかわからないけど意識が生まれるまで途中でやめずに最後までやるのが科学的姿勢というわけです。失敗するまでは失敗しないので、ある意味では守備力がとても高い立場ですね。（森田真夫）

P274　人間の知能は(ディープラーニングとは逆で）微妙に異なるものを同じものとしてくくる、「同値関係」を捉える能力があると思います。なぜそれができるかがわかっていないので、アルゴリズムにも落とし込めません。ほかにもアブダクションのような仮説形成も人間にしかできない能力です。（津田一郎）

P281　コンピュータのスピードが驚異的に早くなり続けるというのも間違った考えです。ムーアの法則は限界に近づいています。（ルチアーノ・フロリディ）

P296　企業はグローバリゼーションの中でアップデートを余儀なくされるのに対して多くの国家がグローバル化に追い付かず内向きになっている。

[yudaiさんの感想 · 2020年3月1日]

『動物と機械から離れて: AIが変える世界と人間の未来』
https://booklog.jp/item/1/4103530715

・この前六本木の美術館で「未来と芸術展」に行ったときに、テクノロジーがもたらす問題が考え深く、もっと知りたいと思って読んでみた。
結果、非常に刺激的な一冊になった。

・前の本で書いていたとおり、人間は環境の産物でしかない。そして、これからその環境をコントロール下に置くのがAIになる。たとえば、何を選択するにもAIなしでは選択できなくなるし、AIが己の感情を学習して、これまでの経験から一番自分にとってよいと思われる選択肢を提案してくる。それは仕事でもそうだし、恋愛でもそうだし、何を食べるか、何を見るかまでもがそうだ。このような状況にあたっては、人間は自律性をなくしてしまう。（そもそも自律性なんてものはなかったけど、）
・また、中国ではAIが人の信頼をスコアリングして、AIが決める基準が人生を決めてしまう世界が来ている。そんな状況では、自分の思う私と周りの思う私とAIの思う私といった３つの私がでてきて、私に影響をしようとしてくる。そうなってしまえば、本当の<私>というものはなくなってしまう。まだそうなっていない今が、私を知る最後のチャンスだ
・今後、テクノロジーを使いこなす層とそれ以外の層が分かれる。そして、それ以外の層はテクノロジーに仕事を代替され、大失業時代の到来。ベーシックインカムによる保護が必要。
・AIを活用すれば、世界政府を作り、個人個人をID管理することも可能。テクノロジーの倫理問題や環境問題など世界規模の課題を解決するには、国連以上の世界政府が必要だ。（ここ難しかった。。）
etc...

特に面白いなと思ったのが、シンギュラリティは来ないが、ケインズが予言した「余暇が十分にある、平凡な人にとっては暇すぎる時代がくる」という時代が来ようしていることだ。
これは、AIはあくまで計算＋記憶装置なので、人間のコントロールを超えて自律することはない（シンギュラリティはない）。ただし、テクノロジーを使えない層はテクノロジーによって仕事をしなくて良くはなり、暇な時間が増えるだろう、
ということを意味している。
僕自身今24歳で間違いなく、この転換期を過ごすことになるので、まずは自分を知る努力を続け、新しいことを学び挑戦し続ける意思を持ち続けたいなと思った。また、テクノロジーを使いこなすそうになったとしても、暇な時間が今後増えることは間違いないので、自分が暇な時間に熱中できることはいまのうちにたくさん見つけておきたい。

[ばさんの感想 · 2023年1月22日]

AIを語ることは人間を語ること
AIが労働を支え労働時間が減少したとき我々の生活はどう変化していくのか

[s8さんの感想 · 2022年11月17日]

機械化が進んでくると単純労働はどんどん無くなっていくから遊びが大事になってくる

頭の良い人はそういう答えになる人多いけど必然なんだろうな

WIRED.jpの連載の書籍化だから様々な情報がまとめられてて面白かった

[Bluewhaleさんの感想 · 2021年3月21日]

雑誌編集などを手掛ける著者が、AIの研究者・起業家・社会学者たちに対して、「AIはこれから社会をどう変えて、人々はどう向きあっていけば良いか」をテーマにしたインタビューを通じて様々な視点での論考をまとめた一冊。

タイトルにもある『動物』とは、AIによるリコメンデーションによって自動的に選択肢が与えられ、無意識にそれを受容して自分の欲求を満たしていく状態のことを、端的に表した言葉。
社会機能の多くの部分をAIが担うようになり、ベーシック・インカムのような制度が実装されれば、必然的に人間の労働時間が減少して、単に己の欲望を満たすためだけの存在になることが危惧される。

結局は人間自身がどうありたいか、どんな社会を築いていきたいかを考え抜くしかないのかと感じる。

AIを生み出すのは人間であり、それを利用するのも人間であるからには、自分たちがそのテクノロジーの影響をもっと考えていく必要がある。おそらく、それほど社会的にインパクトのあるテクノロジーである（になっていく）ことは間違いない。

国内外の様々な立場にある専門家の考えがのっていて、これからのAIとの付き合い方を考えるには良い一冊と思う。

[reso100さんの感想 · 2020年12月21日]

AIに関する動向を丹念に調査して、的確なコメントが満載の好著だ．中国の深圳で一線の研究者との面談が出てきた段階で彼らの動向に圧倒されたが、日本にも鋭い視点を持って研究している多くの人の紹介があり、ほっとした感じだ．シンギュラリティに関して、AIを追及するとどうしても人間の脳の働きとのリンクになるが、脳自体のことは未だ良く分かっていない．従って、汎用型AIはここ数年で出来上がるようなものではないようだ．多くの人が出てきたが、日本人だけをリストしておく．下地貴明、山崎はずむ、山本龍彦、大屋雄裕、成原慧、徳井直生、金井良太、渡辺正峰、松尾豊、稲葉振一郎、井上智洋、東浩紀、山極寿一、森田真生、津田一郎、石田英敬．

[osawatさんの感想 · 2020年12月7日]

ふむ

[tamamura57さんの感想 · 2020年9月6日]

アマゾンからお勧めがあった時に妙に哲学的なタイトルに惹かれてポチりました。編集者を生業とする文系の著者が米国、ロシア、中国、韓国そして日本の研究者や起業家にインタビューしながら人工知能とは何か、どのような役に立つのかを解き明かします。「人間の意識を機械にアップロードする」ことを掲げた起業家、「AIは意識を持つことが可能になる」と断言するシンギュラリティ大学のCEOなど興味深い話が満載です。歴史や哲学そして文学などからのもちろん読んでるよね的な引用がやや鼻につく感じもしますが、とてもワクワクしながら読めました。GAFAなどの言いなりにならないユザーの側に立ったAIエージェントってマジで必要ですね。

[mhaya3さんの感想 · 2020年4月19日]

各分野でぜひ話を聞いてみたいキーパーソンを人選し、その取材を直接あるいはリモートなど手法を駆使して実現、未来へ向けた問いへの旅として、確かな編集の力でまとめられており、感服です。読み進めれば進めるほど、この企画とそれを実現しまとめる力がうらやましくなります。この本のおかげで私も好奇心を満たし、視野を広げ、また整理する旅に一緒に出れた気分です。

[tetubb2000さんの感想 · 2020年3月1日]

AIを考えることで、人間とは本質的に何なのか、どうするべきなのかという点について、様々な知識人の考えを横断的に俯瞰しながらまとめた著書。
人間は人生経験を持っていて、機械は持っていない。そのことから機会に主観的判断をさせることは難しいとあった。もし主観や自律性というものが意識と同じように無意識の行った脳の判断に対する幻想だとすると、主観的判断というのは過去の経験に基づいてトレーニングされた無意識のネットワークの出した答えに過ぎないのかもしれない。
インターネットに『つながらない』ことが贅沢であり、幸福なことだと言われることがあるが、それはAIやSNSの発展が、＜わたし＞を評価し相対的に決定づけるサイクルが加速することで、本当の＜わたし＞が希薄になっていくことを『不幸』として捉えることで、わかりやすく説明ができそうだと思った。

著者プロフィール

編集者／株式会社グーテンベルクオーケストラ代表取締役。1964年生。法政大学経済学部中退。角川書店『月刊カドカワ』、ロッキング・オン『カット』、UPU『エスクァイア日本版』編集部を経て独立。『コンポジット』『インビテーション』『エココロ』の編集長を務め、出版物の編集から、内外のクライアントのプランニングやコンサルティングまでを手掛ける。著書に『東京の編集』『中身化する社会』『物欲なき世界』、対談集『これからの教養』等がある。またアートブック出版社ユナイテッドヴァガボンズの代表も務める。『コマーシャル・フォト』『WIRED JAPAN』WEBで連載中。下北沢の本屋B&Bで「編集スパルタ塾」を主宰。NYADC銀賞受賞。

「2019年 『新装版 はじめての編集』 で使われていた紹介文から引用しています。」