- ダイヤモンド社 (2015年6月18日発売)
本棚登録 : 639人
感想 : 55件
本ページはアフィリエイトプログラムによる収益を得ています
Amazon.co.jp ・本 (416ページ) / ISBN・EAN: 9784478065754
感想・レビュー・書評
-
コメント0件をすべて表示
-
シンギュラリティによるネガティブ論者の代表であるフリーのテレビプロデューサーが著者。
いわゆる中の人ではない外から取材をたくさんしてきた人の本なのだが、最も人間の敵になるようなパンドラの箱を開けてしまった論側の書籍でした。
AIは今後AGIを目指しすぐにASIの世界に足を踏み入れる。要は人類の1000倍以上の知能を持った存在と。
その時、鉄腕アトムのように人類の見方な存在なわけではなく、ターミネーターの様なフレンドリーでは無い存在となった場合、そうなった場合の問題提議をひたすらしている内容でした。
ただ、やや悲観的過ぎるとは思いつつも、全く可能性が無いわけでもない。
すなわちAIを進化させるにあたってこのような最悪の事態は起きないように共通の意識をもつことが大事だと思った。
ドラえもんやアトムのようにフレンドリーな機械と世の中を共存できる未来を期待してます。
1
-
ここに描かれているようなAIが実現できたら恐ろしい世界になるかもしれないが，ずっと先のことではないかと思っている。シンギュラリティの2045でも早過ぎるのではないか？計算機の性能は向上しても脳の仕組みの解明には時間がかかるのではないか？
生きている間は楽観的でいいのではないかと思う。
1
-
昔から、人間が生み出した科学技術が暴走して人類存亡の危機を招く、というストーリーの小説や映画は多いし、またスティーヴン・ホーキング氏やイーロン・マスク氏、あるいはビル・ゲイツ氏などが人工知能の危険性を憂いている、という話を最近チラホラ聞くようになった。
いわゆるシンギュラリティや知能爆発といった概念を含め、AIを巡る現在の環境の輪郭を知るのにこの本は非常に有用な1冊。
ジャーナリストである著者も、先述のテクノロジー系セレブリティたち同様、将来的にAIが人類の脅威になり得ることを真剣に心配しており、その危険性を説くというのが本書のメインテーマなわけだが、情報技術の専門知識を持たない私にとっては、その憂慮に至る論理は充分理解できるものの、では実際にどのような技術がどう進化・作用して、具体的にどのような経緯を辿ってどんな危機が発生し得るのか、そのメカニズムを明確なイメージとしてつかむことは難しかった。
もちろん、遺伝的アルゴリズムやニューラルネットワークといった、興味深くて門外漢にも分かりやすいブラックボックス的なメソッドなどを提示し、またAIによる"衝動"といった概念なども用いて、そのあたりについても著者はある程度の紙幅を割いてはいるのだが、それでも肝心要のところがミッシングリンク化しているというか、本当に知りたいプロセスの本体が、イマイチポヤッとしているような気がして仕方がなかった。
あるいはそもそも私自身が、AIの知能が人類のそれを上回る、という発想に根っこの部分で懐疑的であるから、こうした感想を抱いたのかもしれないが。
あと、本書はおそらくは著者渾身の、全15章にも渡るヴォリュームの大作なのだが、同じ主張を形を変えて繰り返している箇所が多く冗長に感じたので、もっと合理的にシェイプアップして過不足なく内容を著すこともできたのではないだろうか。
1
-
●読んで得たもの
ＡＩに関する議論には楽観論と悲観論がある。
共通する前提は、ＡＩと人類の共存。
●感想
ＡＩによる発展は必至である。
ＡＩによって将来がどう変わるか、良くも悪くもそれを扱う人間によって決まるのであろう。
1
-
人間との対話を通して成長するはずだったアメリカ・マイクロソフトの
人工知能「Tay（テイ）」がTwitterに登場したのは2016年3月だった。
しかし、Tayはわずかな時間で差別的な発言をするようになり、早々に
運用が打ち切られた。Tayは他のユーザーの差別的発言から学習し、
急速にレイシストになってしまった。
人工知能は人類の未来に大いに役立つ。ソフトバンクの「ペッパーくん」
は人間の感情を感じ取って会話が出来る。ホンダの「ASIMO」は人間の
生活空間で活動出来ることを目的として開発された。
しかし、薔薇色の未来だけではないと人工知能の危険性を説くのが
本書である。
工学とか科学技術とか、本当に苦手でよく理解出来てはいないのだが、
遠くない将来に人間並みの知能を備えた人工知能が誕生し、自ら進化
をするようになるとあっという間に最高の知能を持つ人間を凌駕する。
更にその人工知能が意識を持ち、人類が自分たちにとって邪魔である
と判断したら、人類を滅ぼすこともあるってことらしい。
著者はジャーナリストではあるが、人工知能の研究者の中にはその危険
性に気付き、開発から手を引いた人もいるとか。
何かに似ているな…と思ったら原発だった。原子力発電は「夢のエネルギ
ー」だと言われた。しかし、原子力の研究者のなかからは夢のエネルギー
どころか人類にとって極めて危険性の高いものだと言い始めた研究者が
出たものな。
テクノロジーの進歩は諸刃の剣なのだと思う。本書のように有効性を次々
と否定し危機を煽るのも問題提起として読めばいいのとは思う。確かに
危険性は内包しているとは思うんだ。
だって、私たちはあまりにもテクノロジーの虜囚になってしまっていはしない
だろうか。スマートフォンをはじめとした携帯端末は生活に欠かせない道具
になり、地図を見ることなくカーナビが誘導する通りに車を走らせる。
いろんな道具の発達でそれに関わる時間は短縮された分、ほんの少しの
時間待たされてもイラついて不機嫌になっている。
もし、順調に人工知能の開発が続いて仕事も家事も人工知能がしてくれる
ようになったら、人間は何をすればいいんだろうか。
私が生きているうちにはないだろうけれど、地球上にターミネーターが溢れ
たら怖いわ。いや、シュワルツェネッガーのターミネーターは人類を滅亡か
ら救ってくれたけれど、シュワちゃんの敵として出来るようなターミネーター
ばっかりだったら怖いよ～。
と、途中から本書の内容が同じことの繰り返しで飽きて来たので妙な妄想
をしてしまった。
原発にしろ、人工知能にしろ、人間が制御出来ないものを作ってしまったら
利便性と危険性は表裏一体なんだな。果たして人類の未来に待っているの
はユートピアなのか、デストピアなのか。
0
-
人工知能は自ら思考し、自らを改良することで、人類の知能を越えて暴走する、という考えを理路整然と説いている。
一瞬、「まさか」と思うものの、なかなか筋の通った説明が展開されている様を眺めていると、なんだか薄ら寒くなってくる。
今後人工知能はどのような進化をたどるのだろうか。
0
-
AIの進化が技術的特異点(シンギュラリティ)を超えたとき、人類はAIに滅ぼされてしまう危険を警告する。
TVプロデューサーだけあって、危機感を煽られる書き方ではあるし、ホーキング博士やビル・ゲイツらとともに、AIによる人類滅亡を説く有力人物の五本指みたいなのにも入ってるらしくて、そこまでデタラメばかり書いてるのでもないのかな、と思うけど、ポジティブ・シンギュラリティ論者らの主張が少なく、著者側の主張も一方通行感があり、この本だけでシンギュラリティをネガティヴに捉えることは出来ないな。ポジティブ・シンギュラリティ論者のカーツワイルをこき下ろしたりするのは、感情的な感じがして、あんまり真面目に読む本じゃないのかな、という感じがしてしまった。決めつけと、杜撰と感じる推論もあり、もう少し人工知能の危険性については別の本を読まなきゃよくわからないな、という印象。
0
-
近未来のディサトピアものを読むのは確かに好きだけど、決してそういう時代の訪れを期待している訳ではない。
著者はTVプロデューサーだし(扇情的な表現も多い)、悪い冗談で片付けたいが。
要は人間の進化のスピードが技術革新のスピードに追いついていけないだけかもしらん。でもいい加減に自分でバグ取りするアプリが普及したって良さそうなもんだけど…あ、世界中のSEが食い詰めるからそうならんのか（≧∇≦）
0
-
-
AIが人類の驚異になり得るという点には同意する。
しかし、この本の想定には最初から致命的な誤解がある。
基本的な検討を怠っているこの本を読むことを継続すべきか考えてる。
読み終わることがあったらレビューを書き直す。
0
-
AIはAGI（人工汎用知能）、ASI（人工超知能）に進化して人間以上の知能を持ち、人類を滅ぼす。AIは核兵器と同じ脅威になり、対策が必要だと主張している。しかし、仮にそのような恐れが事実だとしても、それをコントロールするのは核兵器より遥かに難しい。ITは核燃料ほど入手が難しくない。
楽観論も数多くある。しかし、ホーキング博士なども悲観論者でシンギュラリティに懸念を表明している。
人類を滅ぼす可能性を持つ超人類の出現を描いた小説があった。超人類は人間を遥かに凌ぐ知能を持ち、抹殺の対象とされた。ASIもそれと近いものと考えることができる。有機物にかわり珪素で構成される生き物となる。
AIが進化して人類が滅亡することになっても、それも進化のひとつだと思う。人間や人類が何のために生きているという答えを機械が先に見つけたなら、そして人類はその過程のひとつであれば、人類の滅亡は進化の必然である。
私は核は廃絶すべきだと思う。AIもテロリストなどに悪用される恐れはあるので、それについて対策はすべきであるが、その高度化は必要だと思う。
0
-
AIに感情を持たせるのが難しい、って確かにその通りなんだよな。映画や漫画での先入観で気づかなかった。人間に対して愛情が無ければ…人間が猿やネズミを粗雑に扱うのと同じになることは考えられることだよな。
ナタンズのウイルスが逃げ出す、って実際に起きているなら、内容のリアリティが増すな。
事前に「デフォルトで死ぬ」ようプログラムされた部品を組み込む、っていい対策と思うけど…作る側に危機感がなければ難しいよな。
0
-
コンピュータがやがて自己学習できるようになり、欠陥を自己修復したり、機能を自己改善できるようになったら、何が起きるかという思考実験的な本。
Discovery Channelなどのドキュメンタリー番組のプロデューサーが書いているだけに、ドキュメンタリー番組のように取材を映像化するような筆致（を再現した翻訳）が見事だ。
だから、サイエンス（科学）を期待して読み始めた僕は途中でやめた。これは、サイエンスではなく、ドキュメンタリーなのだ。
その違いは何か？
ある仮説に対して事実を積み重ねて検証していくのがサイエンスだが、ドキュメンタリーは結論が先にあり、それに合った専門家に取材して裏付けていくものだ。
サイエンスもどきドキュメンタリーのわかりやすい例が地球温暖化懐疑論で、地球温暖化は誰かの陰謀であるという結論を先に掲げて、それに利用できる論拠を引用して、結論の正しさを裏付けようとする。
翻って本書を読み進めていくと、何が事実で何が仮説なのか、よくわからない。これは、全くサイエンスではない。ドキュメンタリーだ。
事実とはっきりわかるところで説得力のあるところは、株の自動取引のエピソードで自動取引プログラムの相互作用のあたりだ。
人間の判断を介さずに瞬時に売り買いがなされることで、もはや人間に予想もできなければ止められもしないことが現実に起きている。その事実に驚愕する。
もしこのような自己学習し自己制御するプログラムがひとたび軍事利用されたら、誰にも何が起きるか予想もできなければ止められもしないだろう。そう考えるのは、自然な発想に思える。
0
-
話は面白いけど冗長というか、半分の薄さでも同じ内容書けたよね。
同じことを延々と手を替え品を替え、時には替えずにそのまま書いてあって、途中で飽きが・・・。
自分たちを超越する存在に畏怖を感じるの のは当然のことだと思うし、悲観的にしかなれないのは尤もだと感じます。
AIとAGIの間には途轍もない大きな壁があるように感じますが、2045年とは言わずとも、いずれそこに辿り着くでしょう。
その時、人類の未来や如何に・・・
0
-
AIが、根元的に、人類にとって「悪」であることを訴える内容。同時期、日経新聞でAIについての特集もあったが、人間がこの発明によって終焉へと向かう、というようなことは一切書かれていなかった。そういうことを考えると、結構意味のある本なのかな、と感じた。
0
-
「人工知能」といえば小学生の時に夢中になった「ドラクエⅣ」。旅する仲間が増えに増え、戦闘時に命令するのが面倒ってことで、コンピューターが自動的に判断して攻撃したり魔法をかけたりするというものでした。とはいえあまり役には立たず、想定外の行動を起こすことが多かった厄介なシステムでした。その後のシリーズでもこのシステムは導入され続けましたが、精度は上がっていました(笑)。いまや人工知能はゲーム世界だけではなく人々の生活には欠かせないものとなっており、インフラ、金融、インターネットなど多くに利用されています。それは便利なツール・・・・になるはずだった。数年前までは・・・・と言われる時代が来るかも知れないというお話。
知能でいえば地球上に人間を超える生物は今のところ存在しない。人工知能もまだ人間のレベルには達していない。しかし、その研究は多くの国が力を入れて進められており、名目は便利道具としてかもしれないが、善人が作ろうが、悪人が作ろうが、いったん人間のレベルまで達することができれば、その後はすぐに人間を凌駕する知能に達するだろうと指摘。なぜなら、人工知能は自己学習能力によって知能の上昇は比例ではなく指数関数的な上昇を示すため、脳の容積を何百万年もかけて進化させてきた人類よりも格段に早く知能を発達させることができるからという。
人間の何倍も賢い種を人間はこれまで相手にしたことがない。そんな知能の持ち主がどのような行動を起こすのか、もはや人間には予想することができない。つまり、一度そのような人工知能を何の準備もなしに作ってしまったが最後、色んな事におびえながら生活をしなければならないだろうと著者は主張しており、さらに恐ろしいのはそういう未知のことを何も考えずに、人工知能の開発に明け暮れている研究者がほとんどであるとしている。
著者は悲観論者であり、人間を凌駕する知能をもったソレはおそらく生きながらえるためにあらゆることをするだろうという。単純にチェスに勝つためにプログラムされただけだとしても、相手を負かすという目的を際限なく追求し、電源を切られないようにコピーを作り、クラウドに忍ばせておき、勝つためには人類を滅ぼしてしまえばいいと判断してもおかしくはない、とのこと。
最初は大げさな、と思っていましたが、たしかに複雑な情報処理能力を持った者に出会ったことがない、ということは何をするか分からないということ。そしてソレは人間を憎んでもいなければ、愛してもいないだろう。人間が医学のために動物実験する時、その動物を憎んでいるわけではないが、実験に使う。ソレが人間に対して無感情に同じことを行うかもしれない、と書いていることを否定はできないか。
実際に、アメリカとイスラエルがイランに送り込んだコンピューターウィルスが、その目的を果たしたら終わるはずだったのがPCから抜け出し、やがて変異して発見されたという事実が、決して著者の描く不安が絵空事ではないことを物語っている。
そんな人工知能、多くの研究者は数十年のうちに人間の知能を持たせることができると言っているようです。
0
