AIが人間を殺す日 車、医療、兵器に組み込まれる人工知能 (集英社新書)

著者 : 小林雅一

• 集英社 (2017年7月14日発売)

作品紹介・あらすじ

人工知能が雇用を奪うといった「AI脅威論」が叫ばれているが、真の脅威は人の命を奪うことにある。これはSFの世界ではなく、「自動車」「医療」「兵器」の分野ですでに現実になりつつある。衝撃の一冊!

感想・レビュー・書評

[mkt99さんの感想 · 2017年8月7日]

近年、ＡＩをネタにした話題が巷を賑わせています。
中でも、囲碁や将棋のトップ棋士を打ち負かしたことなどは大いにニュースや情報番組を盛り上げていましたね。
こうしたゲームでの取り組みは、ＡＩの現状の力を測るとともに、以後の研究の発展に役立てる先駆けをなすものと思われますが、実社会で役立てるものとしてこれまたマスコミで再三取り上げられ最も脚光を浴びている分野が、本書のテーマである「車」「医療」「兵器」といえるでしょう。

私もこうしたＡＩを取り上げた情報番組などをみていてつくづく思うのは、車だったり医療だったり、ＡＩによる自動化が人間の導き出している局面局面の判断の一端を大きく凌駕しつつある現状で、ＡＩによる結論をどこまで信じることができるのかというところです。
ＡＩによる自動化が人間社会に大きな恩恵をもたらすことの反面、ＡＩが行う自動学習の過程はもはやブラックボックス化されてしまい、開発者ですらなぜこの結論に至ったのかを追求することができない。（追求するためのＡＩを別に開発中）
車の場合、なぜこの動きをして事故ったのかとか、医療の場合、なぜこの治療法を提示したのか、誰にもわからない状態で、果たして理由説明なしに人は受け入れることが可能なんだろうか？映画『ターミネーター２』のように人間の存在そのものが否定されることはないんだろうか？と不安に思うわけです。

こうした不安を、やっぱりそうか！と思う手助けをしてくれるのと（笑）、ＡＩ技術の前線について事例を交えながらわかりやすく解説してくれるのが本書になります。
著者が最も力説していたのは、「Human out of the Loop（制御の環から人間が除外される）」の危険性と、現状のＡＩのレベルでは、「Human in the Loop（制御の環に人間を含む）」の方が実際にかなっているということだと思われます。
アメリカの電動自動車メーカー「テスラ」が販売している「自動運転」車の事故の事例では、そもそも車が完全「自動運転」車ではないのに運転手が「自動運転」を過信したがために発生した事故であるとの結論とのことだし、インドやシンガポールなどでは既に医療分野でＡＩが運用されているものの最終判断は当然のことながら医師の手に委ねられているということで、つまり現状では、きっちりとした倫理的、法的な統一見解が整うまではこうした利用方法が最も最適で過信は禁物ということなんだと思います。当たり前か！

「Human out of the Loop（制御の環から人間が除外される）」であることの一番わかりやすい事例だったのはやはり医療での用途の方ですね。
仮に患者の病名や治療方法をＡＩが提示したとして、しかし、ＡＩは可能性が最も高い結論を提示してくるだけでその論理プロセスはブラックボックス、それが１００％確実だとも限らない。さらに仮に医師がＡＩに従った結果、患者を死なせた場合、責任はどこにいくのか？また逆に医師が信念に基づきＡＩとは異なる選択をして患者を死なせた場合、ＡＩに従わなかったという責任まで医師は負うことになるのか？などなど、人間の関与をどこまで認めるのかという議論になりかねず、実社会におけるＡＩの本格的な運用には越えなければいけないハードルがいくつもあるということですね。
また１０年に１度くらい発生しているＡＩの暴走による世界同時株価暴落や、刑事罰の量刑やバス運転手の適正診断、はたまた予知データとしての人事考課への活用など、論理プロセスもわからないのに人間社会がＡＩに振り回される様はまさに寒々とした光景だと言えます。
私は兵器面での活用で、『ターミネーター２』のようになったらコワイなあと内心思っていたのですが、ちゃんとターミネーター問題ってあるんですね！（怖っ！）
アメリカのロボット大会の興行が軍事費で賄われていて、日本人研究者もそちらの研究の方にとられているようで、ホントに「ターミネーター」の方に向かわないよね！？

ＡＩが構想されてから現在は第三次ブーム（？）のような状況であるとのことです。
第一世代はいわゆるプログラムング主体の命令文をコンピュータに覚え込ませる「ルール・ベースのＡＩ」と言われるものだったのが、その限界からしばらく冷え込み、次に第二世代として「統計・確立型のＡＩ」が主体となったそうです。そして、その限界からまたしばらく冷え込み、現在は第三世代として「自動学習」（ディープ・ラーニング）による「パターン認識」が世を騒がせているようです。
ＩＢＭの誇るＡＩ「ワトソン」などは「ルール・ベース」と「統計・確立型」の組み合わせが主体とのことで、現在は、何から何まで「ＡＩ」概念でひとまとめにされているので注意する必要がありそうです。
「自動学習」による「パターン認識」は、これまで人間が「勘」に頼ってきた部分を、プロセスはブラックボックスながら、人間よりも確実に結果を出せるという部分で人間の能力を上回ってきたものの、イレギュラーデータの対応の難しさや、自然言語処理に代表されるように複雑な状況への対応には「パターン認識」だけではまだまだ不十分のようです。
この感じからすると第四世代まではもう少しありそうなので、半分残念、半分ほっとした感じですかね。（笑）

本書ではこれらＡＩの現状をわかりやすく説明されていて、即興知識として勉強になりましたが、はじめにと第一章での前振りがそれぞれ本書の内容の簡潔編になっていて、程度の差がありこそすれ、都合３回、同じ話が繰り返されるのと、「兵器」の章では世界の軍事情勢の話など本論には関係ない話への脱線もあったりするので、正味は７０％くらいなのではないかと思います。まあ新書だし、こんなもんなのかな？（笑）

[mkt99さん · 2017/08/27]

lacuoさん、こんにちわ。
コメントいただきありがとうございます！(^o^)/

シンギュラリティとか、そんなにコワければ作らなければいいですけど、人間のエゴとの両面でやっぱり作っちゃうんですね～。(^_^;
あ～、こわー！

[だいさん · 2017/11/03]

読みました。
大事になってますね。
疲れました。
たぶん、死者が出ても問題ない社会になるのではないですかねぇ？

[mkt99さん · 2017/11/05]

だいさん、こんにちわ。
コメントいただきありがとうございます！(^o^)/

読まれましたか！(^o^)

毎年、交通事故で何千人もの人がお亡くなりになられていると思いますが、それでも自動車にスピード抑制装置をつけないのと同様なことのように思います。

おそらく、死者が出ても個別案件として処理されるのです・・・。(+_+)
便利さには勝てないんですね～。(^_^;

[徳島文理大学 徳島キャンパス附属図書館さんの感想 · 2021年12月22日]

【貸出状況・配架場所はこちらから確認できます】
https://lib-opac.bunri-u.ac.jp/opac/volume/685657

[かおりさんの感想 · 2021年10月12日]

この一つ前に読んだ『人工知能の最適解と人間の選択』がとても良かったので、こちらはちょっと見劣りしてしまう。が、ハイリスクな分野を３つに絞っている良さはある。小論文対策にはこっちかな。

[磐城高校図書館さんの感想 · 2021年9月30日]

007-K
小論文・進路コーナー

[dai-aiさんの感想 · 2021年9月6日]

● AIは一般のユーザだけでなく、研究技術者でさえ、メカニズムや思考回路を把握しきれなくなってきた。たとえどんな病気を発症するか予測できても、その根拠となる理由を決して人には教えてくれない。
●東京大学医科学研究所がワトソンを導入。
●ミサイル自体が、敵の戦艦など攻撃対象を見つけて破壊することができる。
●オートパイロットの資格。立ち塞がったトレーラーを認識できず、これに向かって突っ込んだ。トレーラーの白色の車体と、背景の空の青さを区別ができなかった。
●車、医療、平気

[まっち7さんの感想 · 2020年1月23日]

【読後感想】#AIの裏側
AIが人にもらたすモノは、全てが受け入れられるものばかりではない。自律的兵器と文中では表されている「殺人ロボット」が筆頭である。すでに実証の段階にある兵器をあると聞く。今後の戦闘の様相が間違いなく変わっていく。その時に攻撃対象を決めて、攻撃を許可するのは果たして…
※最終判断はAIにはならないと個人的には思います。

[daisennkeiさんの感想 · 2019年9月23日]

大丈夫！人間が必ずAIをコントロールできます

[おんぷさんの感想 · 2019年6月12日]

自動運転、医療、兵器の3分野でそれぞれのAIの活躍と将来について過激なタイトルの割にはわかりやすい説明。職業柄自動運転に興味があり購入したけど医療の分野が興味深かった

[yaszさんの感想 · 2019年4月7日]

人工知能（AI）がこの数年で飛躍的に進歩したと聞いたことがあります。インターネット（スマホ等）の発達による大量データの取得可能、それを保存する記憶容量の拡大等、それを下支えする技術の発展もそれに起因していると思います。

映画のターミネータのワンシーンをいまでも覚えていますが、ある時点（あの時はターミネータロボットの一部が送られてくる、でしたが）から急激に技術が進歩するようですね。これは人工知能が暴走して、人間に反乱を起こした例でしたね。

この本では、人工知能が組み込まれて、それが暴走することで人間を脅かす可能性のある例として、車・医療・兵器、にとりあげて解説しています。自動運転車が普及するころには、自動車メーカも今のビジネスモデルを大幅に変えていることになると思います。

多くの仕事が人工知能に置き換わるということは、果たして人間にとって福音なのか、そうでないのか、人工知能を上手に使いこなして、人間にしかできないことは何なのか、果たしてそれを探すことが人間を幸せにすることなのか等、を考えていきたいと思いました。

以下は気になったポイントです。

・病気の予測システム（ディープ・ペイシェント）は、その並外れた病気が発生する予知能力があるが、一抹の不安がある。その根拠・理由は教えてくれない（ｐ８）

・パターン認識において、人工知能は今や人間を抜き去ったと見られている、ある職種がパターン認識に依存する度合いが高ければ高いほど、それはコンピュータやAIに奪われる可能性が高い（ｐ１９）

・現在進みつつある第四次産業革命では、人間にとっての最後の砦として残されてきた「制御系のシステム」つまり「マシンをコントロールする権利」が、ついに私たち人間からマシン自体へと委譲されようとしている、自動化の最終プロセスである点が今までと異なる（ｐ２５）

・内部がブラックボックス化されている、ディープラーニングでは、それがどのようにして何等かの結論に至ったかを医師は説明することが出来ない（ｐ５５）
・AI脅威論の本質は、その制御に人間が関与しないこと、である。（ｐ６０）

・車体周囲の３Dマップを作成するには、様々な技術（LIDAR、超音波センサー、DMI、振動センサー等）が必要であるが、どう組み合わせるかは、車の開発・製造コストとの兼ね合いである、テスラ「モデルS」には、高額なLIDARの代わりに、超音波センサー（測定距離５メートル程度）が使われている（ｐ８１）

・理論（正規分布）と現実（ファットテール）との「ずれ」がしばしば問題となる、現実世界では「ファットテール曲線」に従っている（ｐ９９）

・人工知能は絶対的に正しい診断や治療法ではなく、最も確信度（正解確率）が高い回答候補を返してくれるに過ぎない、どれほど性能がアップしても、誤った答えを返す可能性がある（ｐ１２７）

・不愛想なロボドクターは腕は良さそうだが、理由を説明して患者を安心させるところまでは気が回らない（ｐ１７０）

・米軍の「第三の軍事刷新」では、AIを搭載した自律的兵器の導入により、兵士の「戦死」「負傷」が減少するといわれている（ｐ１７８）

・現在のAIが苦手とするのは、戦場のように何が起きるかわからない複雑な状況下で、臨機応変に行動する柔軟な対応力である（ｐ１７９）

・現在のAIは、通常の人間なら敵わないような難題を楽々とこなす一方で、梯子を上る・ノブを回してドアを開ける・ボトルの蓋を閉める、といった子供でも簡単にできる日常行為に四苦八苦している（ｐ２２０）

2019年4月7日作成

[だいさんの感想 · 2019年3月10日]

大丈夫です
不安を煽るだけ

著者プロフィール

1963年群馬県生まれ。KDDI総合研究所リサーチフェロー、情報セキュリティ大学院大学客員准教授。専門はITやライフ・サイエンスなど先端技術の動向調査。東京大学理学部物理学科卒業、同大学院理学系研究科を修了後、雑誌記者などを経てボストン大学に留学、マスコミ論を専攻。ニューヨークで新聞社勤務、慶應義塾大学メディア・コミュニケーション研究所などで教鞭をとった後、現職。著書に『AIの衝撃 人工知能は人類の敵か』『ゲノム編集とは何か 「DNAのメス」クリスパーの衝撃』『仕事の未来 「ジョブ・オートメーション」の罠と「ギグ・エコノミー」の現実』（以上、講談社現代新書）、『ブレインテックの衝撃 脳×テクノロジーの最前線』（祥伝社新書）、『「スパコン富岳」後の日本　科学技術立国は復活できるか』（中公新書ラクレ）など多数。

「2022年 『ゼロからわかる量子コンピュータ』 で使われていた紹介文から引用しています。」