人工知能 人類最悪にして最後の発明

制作 : 水谷 淳 
  • ダイヤモンド社 (2015年6月19日発売)
3.29
  • (6)
  • (36)
  • (39)
  • (17)
  • (1)
  • 本棚登録 :448
  • レビュー :43
  • Amazon.co.jp ・本 (408ページ)
  • / ISBN・EAN: 9784478065754

作品紹介

Google、IBMが推し進め、近年爆発的に進化している人工知能(AI)。しかし、その「進化」がもたらすのは、果たして明るい未来なのか?ビル・ゲイツやイーロン・マスクすら警鐘を鳴らす「AI」の危険性について、あらゆる角度から徹底的に取材・検証し、その問題の本質をえぐり出した金字塔的作品。

人工知能 人類最悪にして最後の発明の感想・レビュー・書評

並び替え:

表示形式:

表示件数:

  • シンギュラリティによるネガティブ論者の代表であるフリーのテレビプロデューサーが著者。
    いわゆる中の人ではない外から取材をたくさんしてきた人の本なのだが、最も人間の敵になるようなパンドラの箱を開けてしまった論側の書籍でした。

    AIは今後AGIを目指しすぐにASIの世界に足を踏み入れる。要は人類の1000倍以上の知能を持った存在と。
    その時、鉄腕アトムのように人類の見方な存在なわけではなく、ターミネーターの様なフレンドリーでは無い存在となった場合、そうなった場合の問題提議をひたすらしている内容でした。
    ただ、やや悲観的過ぎるとは思いつつも、全く可能性が無いわけでもない。
    すなわちAIを進化させるにあたってこのような最悪の事態は起きないように共通の意識をもつことが大事だと思った。

    ドラえもんやアトムのようにフレンドリーな機械と世の中を共存できる未来を期待してます。

  • ここに描かれているようなAIが実現できたら恐ろしい世界になるかもしれないが,ずっと先のことではないかと思っている。シンギュラリティの2045でも早過ぎるのではないか?計算機の性能は向上しても脳の仕組みの解明には時間がかかるのではないか?

    生きている間は楽観的でいいのではないかと思う。

  • 昔から、人間が生み出した科学技術が暴走して人類存亡の危機を招く、というストーリーの小説や映画は多いし、またスティーヴン・ホーキング氏やイーロン・マスク氏、あるいはビル・ゲイツ氏などが人工知能の危険性を憂いている、という話を最近チラホラ聞くようになった。
    いわゆるシンギュラリティや知能爆発といった概念を含め、AIを巡る現在の環境の輪郭を知るのにこの本は非常に有用な1冊。
    ジャーナリストである著者も、先述のテクノロジー系セレブリティたち同様、将来的にAIが人類の脅威になり得ることを真剣に心配しており、その危険性を説くというのが本書のメインテーマなわけだが、情報技術の専門知識を持たない私にとっては、その憂慮に至る論理は充分理解できるものの、では実際にどのような技術がどう進化・作用して、具体的にどのような経緯を辿ってどんな危機が発生し得るのか、そのメカニズムを明確なイメージとしてつかむことは難しかった。
    もちろん、遺伝的アルゴリズムやニューラルネットワークといった、興味深くて門外漢にも分かりやすいブラックボックス的なメソッドなどを提示し、またAIによる"衝動"といった概念なども用いて、そのあたりについても著者はある程度の紙幅を割いてはいるのだが、それでも肝心要のところがミッシングリンク化しているというか、本当に知りたいプロセスの本体が、イマイチポヤッとしているような気がして仕方がなかった。
    あるいはそもそも私自身が、AIの知能が人類のそれを上回る、という発想に根っこの部分で懐疑的であるから、こうした感想を抱いたのかもしれないが。
    あと、本書はおそらくは著者渾身の、全15章にも渡るヴォリュームの大作なのだが、同じ主張を形を変えて繰り返している箇所が多く冗長に感じたので、もっと合理的にシェイプアップして過不足なく内容を著すこともできたのではないだろうか。

  • 最近、自分の中でも人工知能(AI)に関する記事や本への注目度が上がっている。

    2045年頃に来るという「シンギュラリティ」に向けてバラ色の人類の未来が語られる一方で、あのビル・ゲイツやイーロンマスク、宇宙物理学者のホーキング等が危惧を表明している。本書はジャーナリストである筆者がこの<2045年問題>を論じたものである。

    「(IBMの)ワトソンは、もう1つ興味深いたぐいの知能を見せつけた。搭載されているDeepQAソフトウェアは、考えられる答えを何百も生成して、それぞれの答えに対する証拠を何百も収集する。そして、それぞれの答えを自信度に応じてランク付けして選り分けていく。『ジェパディ』(TVのクイズ番組)では間違った回答をするとペナルティーがつくため、ワトソンは答えに自信がなかったら何も回答しない。つまり、自分にはわからないということがわかるのだ。確率論的な計算が自己意識を形作っているなどとは信じられないかもしれないが、はたしてそのような計算を突き詰めていけば自己意識へたどり着くのだろうか?ワトソンは本当に何かを知っているのだろうか?」

    ちょっと長い引用だが、この記述は驚くべきことを気付かせてくれた。もしろん何百も考えられる答えを生成しているかは兎も角、これは我々が頭の中で日々やっていることと同じだということだ。

    また、これをまとめて、
    「ワトソンは統計的知識を扱っているのであって、「真に」理解しているのではないと、あちこちで書かれている。それを読むと多くの人は、ワトソンは単語列の統計を収集しているだけだと解釈する。・・・・・人間の大脳皮質に分布している神経伝達物質の濃度を「統計的情報」と呼ぶのも、同じようなものだ。人間が曖昧な事柄を解決する場合とほぼ同じ方法で、ワトソンもフレーズのさまざまな解釈の確からしさを検討する。」

    本書の末尾に、米国とイスラエルがイランの原発システムにマルウェアを侵入させた話が出てくる。この話自体はどこかのニュースで見た記憶があるが、その結果、意外な顛末となったことは知らなかった。敵を攻撃するための技術が自分を攻撃する技術開発を支援する結果となったようだ。

    人工知能を多面的に考えるうえで、本書は多くの好材料を提供してくれていると思う。

  • 人間との対話を通して成長するはずだったアメリカ・マイクロソフトの
    人工知能「Tay(テイ)」がTwitterに登場したのは2016年3月だった。

    しかし、Tayはわずかな時間で差別的な発言をするようになり、早々に
    運用が打ち切られた。Tayは他のユーザーの差別的発言から学習し、
    急速にレイシストになってしまった。

    人工知能は人類の未来に大いに役立つ。ソフトバンクの「ペッパーくん」
    は人間の感情を感じ取って会話が出来る。ホンダの「ASIMO」は人間の
    生活空間で活動出来ることを目的として開発された。

    しかし、薔薇色の未来だけではないと人工知能の危険性を説くのが
    本書である。

    工学とか科学技術とか、本当に苦手でよく理解出来てはいないのだが、
    遠くない将来に人間並みの知能を備えた人工知能が誕生し、自ら進化
    をするようになるとあっという間に最高の知能を持つ人間を凌駕する。
    更にその人工知能が意識を持ち、人類が自分たちにとって邪魔である
    と判断したら、人類を滅ぼすこともあるってことらしい。

    著者はジャーナリストではあるが、人工知能の研究者の中にはその危険
    性に気付き、開発から手を引いた人もいるとか。

    何かに似ているな…と思ったら原発だった。原子力発電は「夢のエネルギ
    ー」だと言われた。しかし、原子力の研究者のなかからは夢のエネルギー
    どころか人類にとって極めて危険性の高いものだと言い始めた研究者が
    出たものな。

    テクノロジーの進歩は諸刃の剣なのだと思う。本書のように有効性を次々
    と否定し危機を煽るのも問題提起として読めばいいのとは思う。確かに
    危険性は内包しているとは思うんだ。

    だって、私たちはあまりにもテクノロジーの虜囚になってしまっていはしない
    だろうか。スマートフォンをはじめとした携帯端末は生活に欠かせない道具
    になり、地図を見ることなくカーナビが誘導する通りに車を走らせる。

    いろんな道具の発達でそれに関わる時間は短縮された分、ほんの少しの
    時間待たされてもイラついて不機嫌になっている。

    もし、順調に人工知能の開発が続いて仕事も家事も人工知能がしてくれる
    ようになったら、人間は何をすればいいんだろうか。

    私が生きているうちにはないだろうけれど、地球上にターミネーターが溢れ
    たら怖いわ。いや、シュワルツェネッガーのターミネーターは人類を滅亡か
    ら救ってくれたけれど、シュワちゃんの敵として出来るようなターミネーター
    ばっかりだったら怖いよ~。

    と、途中から本書の内容が同じことの繰り返しで飽きて来たので妙な妄想
    をしてしまった。

    原発にしろ、人工知能にしろ、人間が制御出来ないものを作ってしまったら
    利便性と危険性は表裏一体なんだな。果たして人類の未来に待っているの
    はユートピアなのか、デストピアなのか。

  • 人工知能は自ら思考し、自らを改良することで、人類の知能を越えて暴走する、という考えを理路整然と説いている。
    一瞬、「まさか」と思うものの、なかなか筋の通った説明が展開されている様を眺めていると、なんだか薄ら寒くなってくる。
    今後人工知能はどのような進化をたどるのだろうか。

  • AIの進化が技術的特異点(シンギュラリティ)を超えたとき、人類はAIに滅ぼされてしまう危険を警告する。
    TVプロデューサーだけあって、危機感を煽られる書き方ではあるし、ホーキング博士やビル・ゲイツらとともに、AIによる人類滅亡を説く有力人物の五本指みたいなのにも入ってるらしくて、そこまでデタラメばかり書いてるのでもないのかな、と思うけど、ポジティブ・シンギュラリティ論者らの主張が少なく、著者側の主張も一方通行感があり、この本だけでシンギュラリティをネガティヴに捉えることは出来ないな。ポジティブ・シンギュラリティ論者のカーツワイルをこき下ろしたりするのは、感情的な感じがして、あんまり真面目に読む本じゃないのかな、という感じがしてしまった。決めつけと、杜撰と感じる推論もあり、もう少し人工知能の危険性については別の本を読まなきゃよくわからないな、という印象。

  • 近未来のディサトピアものを読むのは確かに好きだけど、決してそういう時代の訪れを期待している訳ではない。
    著者はTVプロデューサーだし(扇情的な表現も多い)、悪い冗談で片付けたいが。
    要は人間の進化のスピードが技術革新のスピードに追いついていけないだけかもしらん。でもいい加減に自分でバグ取りするアプリが普及したって良さそうなもんだけど…あ、世界中のSEが食い詰めるからそうならんのか(≧∇≦)

  • 話のコンセプトは解ったが、難しかった。

  • AIが人類の驚異になり得るという点には同意する。
    しかし、この本の想定には最初から致命的な誤解がある。
    基本的な検討を怠っているこの本を読むことを継続すべきか考えてる。



    読み終わることがあったらレビューを書き直す。

全43件中 1 - 10件を表示

人工知能 人類最悪にして最後の発明のその他の作品

人工知能 人類最悪にして最後の発明 Kindle版 人工知能 人類最悪にして最後の発明 ジェイムズ・バラット

ジェイムズ・バラットの作品

この本を読んでいる人は、こんな本も本棚に登録しています。

有効な左矢印 無効な左矢印
トマ・ピケティ
クリス・アンダー...
エドワード・フレ...
エリック・ブリニ...
ジャレド・ダイア...
ベン・ホロウィッ...
有効な右矢印 無効な右矢印

人工知能 人類最悪にして最後の発明に関連する談話室の質問

人工知能 人類最悪にして最後の発明を本棚に登録しているひと

ツイートする