- Amazon.co.jp ・本 (512ページ)
- / ISBN・EAN: 9784314011716
作品紹介・あらすじ
「我々の未来は我々が作るものだ」
──AI論の決定版!
レイ・カーツワイルはAIが明るい未来を開くと説き、イーロン・マスクはAIが人類を絶滅させると警告する。
AIの脅威が耳目を集めるなかで、その安全性を研究するべく「生命の未来研究所」を共同で設立した著者が、来るべきAIと共存する世界を考察。機械の意識と感情や、労働、法律、軍事、倫理など、幅広い問題を見渡し、さまざまな可能性を探って思索した宇宙物理学者による、29か国で刊行の世界的ベストセラー!
「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」
──スティーブン・ホーキング(理論物理学者)
イーロン・マスク(スペースX、テスラ CEO)、エリック・ブリニョルフソン(『ザ・セカンド・マシン・エイジ』共著者)、レイ・カーツワイル(発明家、『シンギュラリティは近い』著者)、ニック・ボストロム(『スーパーインテリジェンス』著者)推薦!
NY Timesベストセラー、
Daily Telegraph およびThe TimesでBooks of the year 2017
★NHK Eテレで今年放映された番組「超AI入門特別編(全5回)」の、第1回目(6/26)と5回目(7/31)に著者が出演しています。
感想・レビュー・書評
-
図書館借りして読んだが、話題が多岐に渡るので手元に残しておくと振り返りやすいなーって思う本。
しかし、AIの安全性を今から議論していくべきという明るい未来を目指した取り組みには同感であります。詳細をみるコメント0件をすべて表示 -
【筆者の主張】
AIにはリスクがあるが、長期的には生命の未来に対してプラスの効果をもたらす。ただしそれは、AIの安全性を高めるために慎重に計画を積み重ねたうえでのことだ。この宇宙が生命に満ちた場所として豊かな未来を迎えるかどうかは、他でもない我々の肩にかかっている。
決してネガティブな未来を想像してはいけない。どんな未来を恐れるかではなく、どんな未来を望むかを考えて行動しよう。
【本書の概要】
①生命の定義とAIに対しての世間の反応
本書での生命の定義は以下の通り。
ライフ1.0=「生き延びて自らを複製できるか?」を満たす存在。ウイルスなど。
ライフ2.0=加えて、「自らのソフトウエア(言語やスポーツや世界観などの複雑なアルゴリズムや知識)を設計できるか?」を満たす存在。人間。
ライフ3.0=加えて、「自らのハードウェアを設計できるか?(生命が自分自身をデザインできるか?)」を満たす存在。シンギュラリティ到達後の機械。
人工知能の発展について、我々はどのような未来を目指すべきで、どうすればそれを実現できるかに関する魅力的な議論が起こっており、主に3つの陣営が存在する。
1 技術懐疑論者…汎用人工知能は実現しない。
2 デジタルユートピア論者…汎用人工知能は今世紀中に誕生する。それは世界にとって自然で望ましいものである。
3 有益AI運動の活動家…今世紀中に誕生するが、良い結果になるかはわからない。安全性の研究が必要である。
以上3つは専門家がAIについて抱いている予測である。
一方、一般の人々がAIについて抱いている認識もあるが、この多くは誤解である。よくある誤解は次の通りだ。
(誤)超知能は今世紀中に出現する/しない
(正)わからない
(誤)AIに懸念を抱いているのはラッダイトだけ
(正)トップクラスのAI研究者の多くが懸念を抱いている
(誤)AIは邪悪になる/意識を持つようになる
(正)AIが有能になって、その目標が我々と合致しなくなる
②物質が知能を持つ
本書では「知能」の定義を、「複雑な目標を達成する能力」という広範的な意味合いで用いている。
知能は、IQというたった1つの値では測定できない。作詞に必要とされる知能とパズルに必要とされる知能が違うように、あらゆる目標における「個々の」能力の程度によってでしか測定できない。そのため、今のAIの知能は「狭い特化型」であり、人間の知能は「幅広型」である。
AIの知能の話をする前に、知能そのものに目を向けてみると、知能というものは随分と抽象的で漠然としたものに見える。実態のある物理的肉体が、どのようにして知能のような実態がない曖昧なものを生み出せるのだろうか?
そもそも、知能や記憶や計算が漠然としたものに見えるのは、物質から独立して振る舞うからである。似顔絵を書くときは、書かれた顔のパターンが誰に似ているかで描写されたものを特定するわけであり、クレヨンの粒子一粒ひとつぶを見て書かれている意味を理解するわけではない。計算とは時空内での粒子の配置のパターンであって、本当に重要なのは粒子ではなく粒子が描くパターンを読み解くことだ。
そのため、計算をするためには粒子と空間という「最低限の物質」は必要だが、どんな物質かは問わない。物質はハードウェア、パターンはソフトウエアである。知能にはもともと血や肉は必要ないのだ。
そう考えると、どんな物質も、安定状態を取ることができれば「記憶」の基盤になる。そして、組み合わさって任意の関数を実装できる万能構成部品を含んでいる限り、どんな物質も「計算」の基盤となる。そうした万能構成基盤は何も難解な構造ではない。コンピュータにおいては「0・1」と「not andゲート」である。これは理論上「どんなに複雑な計算も」行うことができると考えられている。脳においてはニューロンがこの役割を果たしており、ニューロンはNANDゲートよりも少ない個数で計算を行うことができる。
しかし、この世には無限に物があるのに、どうしてありとあらゆる状態の計算が出来ると言い切れるのだろうか?
この答えは意外にも物理学との関係性によって導かれる。「ありとあらゆる」と言っているが、実際には無限回の計算をしているわけではない。宇宙は単純な物理法則によって縛られており、我々が計算したいと思う状態は、無限個の解の中で物理法則に規定されたものだけである。いきなり椅子が飛び上がって部屋中を暴れまわって大爆発する確率の計算など、我々には複雑すぎて出来やしないが、そもそも物理法則を無視した計算など行う必要がないから念頭に置かなくていい。そうして除外を繰り返した結果、「考えられる」ありとあらゆる計算を行うことができる。
それを計算するのに驚くほど秀でているのがニューラルネットワークだ。ニューラルネットワークは、単純な物理法則に従って、目的の計算を次々にうまく実装できるよう自らを組み換えて「学習」を行っている。
③近未来――ブレイクスルー、バグ、法律、兵器、仕事
AIの可能性について論じてきたが、実際問題、AIが進歩していくことは人間であることの意味をどのように変えるのだろうか?視点を変えれば、我々が今のままの人間と機械の関係性を保ち続けるには彼らに何をすればいいのだろうか?
もしAIに我々の望み通りのことをやらせるとしたら、検証・確証・セキュリティ・制御に関する困難な技術的問題を解決する必要がある。検証とは「システムが仕様に合致しているか」を確かめること、確証とは「正しい仕様を選んだか」を確かめること、セキュリティとは「ハッキングに対する防御策を高めること」であり、制御とは「人間と機械の間の情報伝達がうまく行っているか」を確かめることである。
テクノロジーに頼れば頼るほど、目的の作業をやってもらう上でそのテクノロジーが堅牢で信頼できるかが重要になる。AIが人間の生活に介入する度合いが高くなるにつれ、彼らが扱う事象は部屋の掃除からミサイルの撃墜まで幅広くなり、たった一度の事故でも取り返しのつかない損害を生む恐れがあるからだ。試行錯誤による事後的な対策ではなく、事前的な対策を取るべきである。
AIの発展において特に注意すべき分野は軍事だ。野放図な軍拡競争が起こり、誰もが手軽に使える暗殺マシンが生み出されるという事態を防ぐため、一流のAI研究者やロボット研究者の多くはある種の自立型兵器を禁止する国際条約を求めている。
他にも、労働をAIに奪われるかどうかも議論がつきない問題である。
AIとオートメーションの進歩が続けば経済のパイは大きくなり続けるが、誰もが恩恵を受けるという経済法則が成り立つのかは微妙である。短期的には失業者が増えるかもしれないが、長期的にはAIが生み出した富を使い、仕事することなく衣食住を満たしながら人生の意義を追求できるユートピアができるかもしれない。もっとも、AIが生み出した富の一部を社会がうまく再配分できればの話だが。
一つ言えるのは、汎用人工知能が人間のレベルまで進歩して更に追い抜く可能性(知能爆発)は無視できないということだ。
④知能爆発
知能爆発が起こった後はどうなるのだろうか、多くの科学者や素人を悩ませてきた問題であるが、「答えはわからない」というのが現状である。あまりにも不確定要素が多いため、知能爆発が起こりうる時期や影響の予想は識者によってバラバラである。
何とか予想できるのは、急速な知能爆発は単一の世界権力を生み出す可能性が高いが、何十年もかかるゆっくりとした知能爆発は他局的なシナリオに繋がり、互いに比較的独立した多数の主体の間で権力の均衡が取られる可能性が高いということだ。
人間にとって最高の出来事が起きるのか最悪の惨事になるのかは定かではないが、大切なのは「何が起こるか?」という問いではなく「我々がどのような結果を望み、どのように進んでいくべきか?」という問いである。目的が見えない未知のエイリアンと違って、我々はAIに対して大きな影響を与えることができる。ならば社会にとって望ましい未来を考えることが、よい結果を生むことにつながる。
⑤未来の世界
AGIを目指す現在の競争が今後数千年のうちに行き着く可能性のあるシナリオは、驚くほど幅広い。
そのシナリオは、超知能を抑制し強制的に共存すること、有効的関係の中で超知能が保護者や善意の独裁者としての役割を持つこと、超知能の支配下における動物―飼育係の関係に収束することなどがある。また、超知能の出現自体を食い止め、技術を捨てて先祖返りしたり、核戦争により全滅したりするといったシナリオもある。いずれのシナリオにも好ましくない要素が含まれているため、不幸な方向に流されたりしないよう、我々の未来の目標をめぐる議論をさらに深めていくことが重要だ。
⑥我々が生物圏を拡大する限界は?
テクノロジーのレベルは、物理法則による限界であっという間に――十万年程度という宇宙規模で言うあっという間に――頭打ちになる。
といっても、頭打ちになったテクノロジーのレベルは今よりも遥かに高く、同じ量の物質からでも約100億倍のエネルギーを発生させたり、ある物質を分解しすることで好きな物質に変換させたりすることができる。
もし素粒子を組み替えてどんな形の物質でも容易に作れるテクノロジーを超知能が開発したら、長距離の交易をする動機はほぼなくなってしまう。超知能に満ちた宇宙では、長距離にわたって輸送する価値のある商品は「情報」だけだ。
超知能生命は、そうしたテクノロジーを使って宇宙に進出し、生物圏を約32桁分大きいサイズに拡大することができる。そこではワームホールの建設など、大規模な宇宙エンジニアリングプロジェクトが進められるだろう。
ここで注意すべきなのは、人間が光速と等しい速さで移動できたとしても、宇宙の果てまで行き着くことはできないということだ。アインシュタインの相対性理論は、空間内の物質は光速より速く移動することはできないと証明しているが、それは「空間自体」には当てはまらない。空間が光の速さ以上に膨張し続ければ――現にダークエネルギーによって宇宙の膨張は加速している――自分より速く進む列車に飛び移ることが出来ないように、宇宙の果てに行き着くことはできない。
この速度制限の中で、我々が観測して到達することのできる宇宙を「観測可能な宇宙」と言う。その大きさは約10^26mだ。
この「観測可能な宇宙」の視点に立つと、「宇宙は無限なのだから、どこかに知的生命体が存在し出会うことができる」という議論には、少し落とし穴があることがわかる。
まず、宇宙は無限ではない。前述したとおり、我々がタッチできるのは「観測可能な宇宙」の中だけである。すると、我々から一番近い文明は少なくとも10^26mの中にいなければ認知できないし、その確率はかなり低いと言わざるを得ない。
⑦生命とAIの目標
自然は、何かをおこなうために選ぶことのできるあらゆる方法の中から、一般的には何らかの量が最小化または最大化されるような最適な方法を選ぶ。これを物理学では「フェルマーの原理」と呼ぶ。
自然そのものが何かを最適化しようとしているのであれば、目標指向的な振る舞いが出現することには何の不思議もない。(※作者は「目標指向」を、「ある存在が最適な経路選択をすること」と同義と考えている)
物理法則が粒子に与える目標とは、周囲からできるだけ効率的にエネルギーを取り出せるよう、自らを組織化することである。これを推し進めるには自分のコピーを作って、さらに多くのエネルギー吸収体を作り出すのが好ましい。そのような粒子の集合体のことを、我々は「生命」と呼び、自分のコピーを作ることを「増殖」と呼ぶ。
生命は効率的なエネルギーを作り出すために「増殖」をするが、我々人間は真に最適な増殖戦略のリソースを持っているとは限らないため、目標のための判断の道標として、痛みや空腹や肉欲などの感情を進化させた。感情は増殖という究極の目標を目指すための意思決定であるがゆえ、脳は増殖よりも感情のほうに重きを置くようになった。感情に従うことが目的のための最適化行動だからだ。しかし、人間の脳は遺伝子よりも賢く、理想よりも目の前の欲望に忠実であった。避妊や禁欲など究極の目標に背く行為をするのは、自分の感情だけに忠実であるようできているからだ。
我々は大小さまざまな目標を持つが、その目標はどのようなものであっても、根底に次の「小目標」が存在する。
1 自己保存
2 リソースの獲得
3 「世界をもっと理解しよう」という好奇心
我々は、こうした自分たちの目標の達成に役立つような賢い機械を次々に作り出している。
そのため、機械の目標を我々の目標と合致させることがますます重要になってくる。
それには、機械に我々の目標を理解させ、取り入れさせ、持ち続けさせるという、3つの未解決問題を片付けなければならない。
また、AIの目的と人間の目的が合致しても、倫理的原理まで合致するとは限らない。この宇宙の未来をどのように作っていくべきなのか、AIが意識を持つのか、という哲学や倫理に関する議論を早急に行う必要がある。
【感想】
AIが人間にどのような影響を及ぼし、我々はどう対処するべきなのか。この手の本はたくさんありそれぞれ扱っている話題も異なるが、「LIFE3.0」は500ページにも及ぶ文章によって全ての問題を網羅的に扱っている。AIにまつわる課題を総ざらいしたい人にはおすすめの一冊だ。
この本を読み解く鍵は「物理法則の限界」である。一見して無限に見える宇宙のパターンは、実は物理法則によって縛りが設けられている。この制約は人類にとってメリットでもありデメリットでもある。メリットとしては、起こりうる事象に制限がかかることでAIの計算が森羅万象にまで及ぶことであり、デメリットとしては、広がり続ける宇宙を全て開拓することへの限界が挙げられる。
本の中身であるが、本書は差し迫った問題から遠くの未来で起こる問題まで幅広く扱っているものの、未来の事柄に対してはかなりのSF的創作が混じっている。作者自身の想像力はブラックホールエンジンやスペースコロニー、ワームホール移動など、「おいおいそれは無理なんじゃないか?」と感じるものにまで多岐に展開するが、あくまでも「物理法則による制約」という一線は引いている。
しかし、これらは作者が単にオタク知識を並べ立てたくて書き連ねたものではない。(若干はそのケがあったのかもしれないが)
というのも、筆者は起こり得る事象を取捨せず網羅的に捉えることに重きを置いているからだ。
作者自身はシンギュラリティを肯定でも否定でもなく「起こる可能性は否定できない」という立場で論じており、科学と人間の可能性に限界を設けていない。SF的妄想を「それは無いだろう」と打ち棄てることはせず、可能性のあるストーリーの全てを念頭に置き、「リスクに気を付けながらも、ネガティブではなくポジティブに議論をしようね」というスタンスを取っているのだ。
本書はそうしたスタンスで書かれているため、話があっちこっちに行ったり無関係な文章が挿入されたりとなかなか忙しい。苦手な人は思い切って飛ばし、章のまとめを軽くさらっていく読み方もありだと思う。 -
時代的にまだ機械学習やディープラーニングだったような気がするが、生成 AI が出てきている今でも使える本。
AI が進んだ世代において、人とは何かということを自問するために良いのでは?。 -
ずいぶん前から少しずつ読んでいるので、最初のほうは何が書いてあったか忘れてしまった。
しかし、この本の予測よりも早く時代は進んでいるような気がする。 -
人工知能のブームで山ほどの本が出ているが、少し前の本ではあるが、バランスよく大きな目配りのされた本である。
熱力学第二法則と生命の関係が書かれた、第7章がわたしにはハイライト。
アシロマAI原則を踏まえた「留意を伴う楽観論者」として未来をつくりたい。 -
宇宙から意識まで、科学的な考察がたまらなく知的好奇心を掻き立てる。量子力学の専門書を読みたくなった。
AIによって仕事がなくなる可能性は否定できない。しかし、仕事がなくなること自体が問題ではなく、仕事によって得られるもの、収入と生きる目的、が喪失されることだ。AIの普及により低雇用社会になったとしても、富を再分配したり、生きがいを見出せるような社会ネットワークやコミュニティを形成するなど、人が幸福になれるための政治的介入があってもいい。なるほど、AI研究者だけでなく社会学、心理学の専門家も交えるべきな話だが、AI研究者達がこうした社会的、倫理的側面を強く考える点は人徳に溢れ高い教養があるんだなーと思う。
この本では未来を論ずることが、その中でひとつ明確に認識できたことがある。過去つまり歴史を学ぶことは未来を考える上で重要だ。過去がわかったからといって未来を予測することはできない。しかし、過去がわかると現在我々がどのような変遷を経てきたのかが分かり、未来が少なくとも現在の価値観や技術を踏襲することはないということを強く意識づけられる。この考え方は聞くと当たり前のようだけど、我々が普段思考する際は無意識の前提として遠い未来を最新の現在というフィルターを通してしかみていない気がする。 -
生命形態:感覚器で情報収集・処理し・反応決定=知的エージェント ライフ1.0は約40億年前・ライフ2.0(人間)は約10万年前・ライフ3.0は次の世紀? デジタルユートピア論者・技術懐疑論者・有益AI運動の活動家 自らのハードウェアとソフトウェアを進化させる生物学的段階(ライフ1.0)→学習を通じて自らのソフトウェアをデザインできる文化的段階(ライフ2.0)→自らのハードウェアもデザインできて、自身の運命を司ることのできる技術的段階(ライフ3.0)最小限の倫理的原理:功利主義・多様性・自主性意識・継承性
-
この本では、AIが人よりも、優れた能力をもち、みずからAIを設計する能力を獲得するだろう将来を視野に入れる。その事態に陥ったとき、AIの能力は、人間の知能をはるかに凌駕しているだろう。そのようなAIの存在することが予測される未来、人はどのような生活を送っているのだろう。もし、このようなAIをだれかが恣意的に利用できたとしたら、専制は簡単だろう。だが、もしAIが人を要らないものと判断したなら?また、人が機械にみずからをアップロードしたとき、機械が意識のクオリアをもち得なければ、それははるかに長い寿命を得たつもりでゾンビ化した機械人間が存在する、ということになる。ただ、技術というものを考えたとき、宇宙の広さと、人間の物理的限界を考えると時間を克服するには、電波で送れる情報と、優れた能力をもつAIなしで何光年はなれた宇宙で、資源を手に入れるのは、難しい。社会の変化に備える必要があると、筆者はいう。アシロマ宣言つき。