AI倫理-人工知能は「責任」をとれるのか (中公新書ラクレ (667))

著者 : 西垣通 河島茂生

• 中央公論新社 (2019年9月6日発売)

作品紹介・あらすじ

自動運転の車が事故を起こしたとき、誰が責任をとるのか。ＡＩによる創作物は果たしてフェアな作品と言えるのか。ＡＩを活用していく上で、避けることのできない倫理的な問題を、この分野の第一人者が正面から論じる。近未来にシンギュラリティが訪れ、ＡＩが「人格」を持ったり「超知性」となることを信じている人にこそ読んでもらいたい一冊。

感想・レビュー・書評

[katamu-kouzeさんの感想 · 2024年4月7日]

2019年 中公新書ラクレ
AIと倫理を考えるにあたり、それぞれを定義する必要がある。例えばAIであれば、推論プログラムを用いるもの、膨大な情報から瞬間的に抽出するもの、深層学習を行うもの、対話型プログラムを行うもの等々が存在する。
倫理は、功利主義、自由平等主義、自由至上主義、共同体主義等の観点がある。(優位性は無い)
しかしAIと倫理の諸問題を考える際、それぞれを十分に整理された状況ではなく、論じることが出来ない。そもそもAIは他律型機械(プログラミングによって答えを出す）為、客観的責任を撮ることが出来ない。
その為自動運転、監視選別社会、AIによる創作物等は、官民学の連携が必要である。(例えば、自動運転で誤作動による事故の責任は、プログラミングした人ではなく、国が補償する)

感想
AIや倫理には様々な段階、種類があり、一概にAI責任論について論じる事は出来ないというのは確かにその通りだと思った。ただ、人工知能が「責任」を取れないからと言って国が補償するのは、極論では無いか？と思った。シンギュラリティやデータ至上主義、AIが人間社会よりも優位性を持つ事は、ユダヤ教やキリスト教に基づくSFであるという著者の意見
が興味深いと思った。

ハラリ
人間の代わりにAIが意思決定をする。
人間至上主義から機械的なデータが信頼されるデータ至上主義に変更する。

フロリディ
ハイパーヒストリー時代
コペルニクス革命、ダーウィン革命、フロイト革命、情報革命

[osawatさんの感想 · 2022年12月7日]

☆何か、日本の神話構造の話を思い出す。中空構造なので、だれも責任を取らない。

[pippin幸せさんの感想 · 2022年6月28日]

私が初めて筆者西垣通氏の名前を知ったのは、2004年朝日新聞に掲載された「情報伝達という神話」というコラムだった。西垣氏は、東京大学名誉教授であり、また日立でコンピュータソフトの研究開発に関わってこられたバリバリの”専門家”であるが、そのコラムは専門的なうんちくではなく、意外な内容だった。情報が伝わるとはどういうことか、そもそも情報って、本当に伝わるものなのかという反論から展開されていた。「人工知能は責任をとれるのか」と題された本書のタイトルと西垣氏の名前を見て、即買い。特に第６章監視選別社会が印象に残った。AIによって便利な社会になることは言わずもがなであるが、それにより我々が選別される社会になること、そのことに対する警鐘を忘れてはならない。

[ルーさんの感想 · 2021年3月12日]

タイトルの意味するところを、非常に的確に答えてくれている。責任がとれるとれないというより、ロボットと生物の認知の違いを明らかにし、人工知能と生物との境界線はどこにあるのかというところに、論の主眼があると思う。

１）〈ロボットの設計者には、ロボットにどういう入力をあたえればどういう出力が現れるか、つまりロボットがいかに行動するか、基本的にはわかっている。たとえ細部で不明確なところがあるにせよ、まったく予想外の出力が出現することは原則として無い。もしそうなれば、ロボットは壊れており、廃品ということになる。〉

２）〈出力（行為）を予測できる以上、機械には原理的にいかなる自律性も自由意志もなく、責任を問うことなどできない。〉

非常に説得的である。以下生物との対比で、さらにわかりやすい。

３）〈生物は、意識するかしないかは別として、自分が所与の環境条件のもとでいかなる行為を実行するかの内部ルールをもっている。内部ルールそのものを自分でつくりあげるのだ。〉→だから生物は原理的に「予測不可能」

４）〈生物は環境との相互作用のなかで、自ら周囲を観察し、内部的に世界を構築しつつ、行動を続けていく。誤りが生じたら自らの観察の仕方を反省して、世界のイメージを修正しつつ生きていくわけだ。〉

５）〈つまり生物は「情報をうけとって客観的世界を認知している」のではなく「（生存をつづけられるように）情報を解釈して主観的世界を構成している」のである。〉

６）〈コンピュータのような機械は外部から情報をそっくり入力できる開放系だが、人間をふくめ生物は外部から情報を直接入力できず、主観的な意味解釈を経由せざるをえない閉鎖系なのである。〉

[yosuさんの感想 · 2020年2月2日]

タイトルの解答はどこに書いてあるんだっけか？

人工知能は人間が作成して倫理などの自律的な思考を人工知能が持つことはない。複雑な問題を人工知能が解答するので、人間側が人工知能に意識があると錯覚する可能性がある。そのため人工知能に責任は無い。ということかな。


AIに関する書籍で、車の自動運転がよく話題に出てくる。

車の自動運転の問題点は、トロッコ問題と関連付けられる事が多い。車の自動運転は、電車（JR）管理のように、共通規約を用意して、全自動車の挙動を把握していれば、ある程度の事故は防げるんじゃないだろうか。

[fudaidsecさんの感想 · 2020年1月23日]

007.13||Ni

[中央公論新社さんの感想 · 2020年1月15日]

自動運転の車の事故は誰が責任をとるのか？　ＡＩの創作物はどう評価すべきか？　ＡＩ応用の過程で避けられない倫理的問題を徹底考察

[学習院大学 法経図書センターさんの感想 · 2019年10月8日]

東2法経図・6F開架：B1/5A/667/K

[T.Maedaさんの感想 · 2019年9月27日]

AIが最近では大きな話題になり、人間はAIをどう使うのか、いやAIに人間は使われる時代がくるのではとの予想もありうるという時代になってきた。
本書では、AIはあくまでも人間が作りだしたものであり、人間の作るプログラムやアルゴリズムの元でのみ作動する機械であり「自律型機械」には決してなりえないと説く。納得のいく詳細な解説がある。
しかし、人間とAIがコラボするときそこに今まではあり得なかった新しい切り口の創造物が産まれてくる可能性も現実のものとしてありうると説かれている。
AIが自律型機械的に扱われて、人間にマイナスの効用をもたらすシーンは多様に予想が付く。そのとき、人間はだれに責任を取らせるのかも大きな課題。
最終章では、AIと人間がコラボして芸術活動をなすことが近い将来に想定されることを書いている。その最後の文章が示唆に富む。
「AIは近代芸術の息の根をとめる強烈な毒を孕んでいる。だが一方でそれは、近代芸術を一挙に革新するツールともなりうるのだ。＿

著者プロフィール

東京経済大学コミュニケーション学部教授／東京大学名誉教授

「2018年 『基礎情報学のフロンティア』 で使われていた紹介文から引用しています。」