あなたを支配し、社会を破壊する、AI・ビッグデータの罠

著者 : キャシー・オニール 久保尚子

• インターシフト (2018年6月18日発売)

作品紹介・あらすじ

:::: AI・ビッグデータの暴走を止めよ！ ::::

全米を、世界を、震わせた人類への警鐘

★「必読です！」
ーー新井紀子（『AI vs. 教科書が読めない子どもたち』）
待望の邦訳。ビッグデータとAIの被害に遭うのは「あなた」かもしれない

★「年間ベストブック」
ーーユヴァル・ノア・ハラリ（『サピエンス全史』）
魅了され、深く心をかき乱される　『ガーディアン』紙

いまやAI・ビッグデータは、人間の能力・適性・信用、
さらには善悪や身体までも評価し、選別し始めた。

問題は、こうしたAI・ビッグデータの仕組みや活用法の多くが、
偏見や誤りなどであふれていることだ。

中立・公正のように見えるアルゴリズムにも、
作り手の「見解」や「目的」が埋め込まれている。

数値化しにくいリアルな世界の複雑さや公平性を欠いたまま、
効率・収益を優先するアルゴリズムによって私たちの生活・社会が導かれていく。

さらに信用格付けが下がるなど、アルゴリズムによる評価を落とすと、
他分野にも影響がおよび、悪循環のフィードバックループが待っている。

私たちは、こうした破壊的なAI・ビッグデータとは何かを知り、
変えていくことによって、主導権を人間に取り戻さなくてはならない。

★ 世界的ベストセラー、年間ベストブック＆賞、多数！

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

::著者:: キャシー・オニール
データサイエンティスト。ハーバード大学で数学の博士号を取得。
バーナードカレッジ教授を経て、企業に転職し、金融、リスク分析、eコマースなどの
分野で、アルゴリズム作成などに従事。
ブログ「mathbabe」を開き、「ORCAA（オニール・リスク・コンサルティング＆アルゴリズム・オーディティング）」を創設。

::訳者:: 久保尚子
翻訳家。IT企業勤務を経て、翻訳業に従事。訳書にスティーヴ・ロー『データサイエンティストが創る未来』、
マイケル・ブルックス＆サイモン・ブラックバーン『ビッグクエスチョンズ 物理』など。

・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・

::目次::

はじめに： ＡＩ・ビッグデータは破壊兵器になる
第１章［モデル］ 良いモデル、悪いモデル
第２章［内幕］ データビジネスの恐るべき真実
第３章［教育］ 大学ランキング評価が多様性を奪う
第４章［宣伝］ 弱みにつけこむオンライン広告
第５章［正義］ 「公平」が「効率」の犠牲になる
第６章［就職］ ふさわしい求職者でも落とされる
第７章［仕事］ 職場を支配する最悪のプログラム
第８章［信用］ どこまでもついて回る格付け評価
第９章［身体］ 行動や健康のデータも利用される
第10章［政治］ 民主主義の土台を壊す
おわりに： 人間だけが未来を創造できる

感想・レビュー・書評

[ikutoraさんの感想 · 2018年8月14日]

原題「weapon of math destruction (数学破壊兵器)」

著者は基礎数学分野の教授を経て金融民間企業でクォンツ　として従事し，リーマンショックの体験から結局独立(？)データサイエンスの負の部分を警告するブログの運営しているという．

今日ますます進歩いくと思われるデータサイエンスは
不透明かつ大規模に運用されるとディストピアをもたらすだろうという警告．以下のような恐ろしいことが既に起こっているという．

教育：2次的データを用いた大学ランキングはいい加減である．
宣伝：貧困層を食い物にするターゲット広告は貧富の差を増長する
正義：公平性より効率性を重視する法の執行は貧困層にきついが富裕層の知能犯には甘い傾向がある
就職：個人ではなく集団を管理する不透明な適性検査による犠牲になる人は文句をいう相手もいない（機械には文句をいってもしょうがない）
仕事：利潤だけを追求した無茶な労働スケジューリングは人をモノあつかいしている
信用：クレジット情報と不透明なｅスコアの格付けが濫用されている
身体：個人の健康情報が今後おかしな使われ方をするかも．みんなで不幸な一人を救うという保険のありかたも本質的に変わってしまう
政治：中立と思われているインターネット・SNSも操作されている

一読の価値あり．

[M. Nakamotoさんの感想 · 2019年8月6日]

昨今のAI至上主義、効率至上主義に一石を投じる良書です。AIやその使い手を鵜呑みにしてはだめだとつくづく思いました。

[littlebambさんの感想 · 2019年7月28日]

不適切なビッグデータ活用によって不当な扱いが生じる危険を警告する本。
著者はデータサイエンティスト。データ活用そのものの有効性に異を唱える訳ではなく、技術でできることを理解した上で、
有害なデータ活用モデルを数学破壊兵器（weapons of math destruction）と称する。キャッチー過ぎて、それ言いたかっただけとちゃうんか、という感もあるが。
・サンプルデータの規模
本来数万件規模のサンプルが無ければできないような判断を、一クラスの成績といった場面に当てはめることにより不適切な判断がなされる。
・フィードバック、透明性の欠如
ビッグデータ解析により下された判断について、当事者にはモデルが開示されていなかったり、事後に再評価してモデルを改良する仕組みも設けられていない場合が多い。
・現状の格差の固定化
個人に対する評価というよりも、当人と似た要素を持つ集団への評価を個人に当てはめるという形。
人種や経済状況による格差を固定化する。

[正木 伸城さんの感想 · 2024年3月17日]

メモ→ https://x.com/nobushiromasaki/status/1769204917439472038?s=46&t=z75bb9jRqQkzTbvnO6hSdw

[Yoshieeさんの感想 · 2023年7月22日]

読み切るまでにとても時間がかかった。翻訳本としての性格もあるが、全般的に同じ話題が複数の章で繰り返して引用されていて冗長感が非常にある。「数学破壊兵器」は分かるが解説にあるようにAI・ビッグデータの活用を著者が本当に否定していないのならば、もう少しバランスの取り方があったと思われる。

[随你行さんの感想 · 2023年7月1日]

ビッグデータ利用によって作られた数学破壊兵器。ビジネスにおける効率至上主義と利益至上主義の極地とも言える数々の分析モデル。あらゆる分野や政治、営利大学まで実例が挙げられていてわかりやすい。

[鎌倉女子大学図書館さんの感想 · 2023年6月21日]

貸出状況はこちらから確認してください↓
https://libopac.kamakura-u.ac.jp/webopac/BB00288262

[ほえしゃさんの感想 · 2023年4月26日]

拝金主義アルゴリズム怖いンゴ！
IoT家電やスマートデバイスの類の使用を控えようと思ったンゴ！

[桜美林大学図書館さんの感想 · 2022年6月22日]

https://cool.obirin.ac.jp/opac/volume/892191

[showideさんの感想 · 2022年3月27日]

ＡＩ・ビックデータは，データサイエンティスト等のモラルの徹底が重要。間違った判断で，犠牲者をださないように。

著者プロフィール

データサイエンティスト。ハーバード大学で数学の博士号を取得。
バーナードカレッジ教授を経て、企業に転職し、金融、リスク分析、eコマースなどの
分野で、アルゴリズム作成などに従事。
ブログ「mathbabe」を開き、「ORCAA（オニール・リスク・コンサルティング＆アルゴリズム・オーディティング）」を創設。

「2018年 『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』 で使われていた紹介文から引用しています。」