NOISE 下: 組織はなぜ判断を誤るのか?

著者 : ダニエル・カーネマン オリヴィエ・シボニー キャス・R・サンスティーン 村井章子

制作 : 　 

• 早川書房 (2021年12月2日発売)

作品紹介・あらすじ

保険料の見積りや企業の人事評価、また医師の診断や裁判など、均一な判断を下すことが前提とされる組織において判断のばらつき（ノイズ）が生じるのはなぜか？　フェアな社会を実現するために、行動経済学の第一人者たちが真に合理的な意思決定のあり方を考える

感想・レビュー・書評

[まさのりさんの感想 · 2022年1月7日]

この本は、裁判官や医者などの社会的地位が高く、信用の高い人たちの判断にもノイズ（判断のばらつき）がありますよー！しかも思ったより大きなばらつきです❕と考察しています。
めちゃくちゃ論理的で納得できるいい本でした！
ぜひぜひ読んでみてください。

[横さんの感想 · 2022年5月22日]

下巻は、統計的な手法から距離を置き、各人の資質、個人の判断を中心として、バイアス、ノイズの排除に関する考察です。

下巻の範囲は以下

第４部　人間心理に立ち戻り、ノイズが生じる根本原因の検討（途中から）
第５部　判断を改善しエラーを防ぐ実際的な問題への取組み
第６部　ノイズの適正水準はどの程度なのか。経済的な要請からの考察

終章に展開される結論は以下です。

人間の判断を補うために、今日よりずっと幅広くアルゴリズムが導入されるようになる
複雑な判断はシンプルな媒介評価項目によって分解される
できるだけ多くの独立した判断を集めて統合される。
統計的な視点が組織的な判断プロセスに組み込まれるようになる。意見の不一致が表面化するようになり、それを建設的に解決できるようになる
その結果、ノイズの少ない世界が実現され、無駄な支出や、損失が大幅に減り、公共の安全と健康が改善される。

下巻にて気になったことばは次です。

・良い判断は、良い人材から。専門家の中には、同業者から尊敬されるリスクペクト専門家がいる。
・ＩＱ（知能指数）よりも、ＧＭＡ（一般知的能力）とよい判断との相関性がある。つまり、知的であれば、判断もよりよくなる。
・認知スタイル：判断すべき問題に直面したときのアプローチ　問題を深く考えるタイプか、それとも、直感的に判断をするタイプか。
　あきらかに、直感的に判断をするタイプの方が、判断エラーを犯しやすい
・判断からバイアスを排除する方法は２つある。
　事前方式　体重計がくるっている場合、事前に調整をして、計測の結果を正確にする　⇒ナッジという
　事後方式　体重計がくるっている場合、計測して、誤差を計測結果から修正する
・バイアスは存在するが、すべてを排除することはできない
・リアルタイムでバイアスを排除するアプローチ：オブザーバー
・判断ハイジーン：ノイズは予測不能なエラーであるが、ノイズを減らすアプローチ
　　バイアスの排除⇒病気の治療
　　ノイズの排除　⇒予防的な衛生管理：これを判断ハイジーン　という
・予測精度の向上：各判断者には、状況や他判断者の判断結果を知らせずに情報を与える。それぞれの判断を最後に総合的に判断する
・判断にガイドラインを利用する
・グーグル面接の３つの原則
　①媒体評価項目　構成要素に分解し、ガイドラインとして作成する
　②独立：評価項目ごとに質問し、情報を収集し、個別に評価する。項目ごとに独立して行う
　③総合判断：最後の最後まで判断を遅らせる

・ノイズの排除　ノイズをゼロにすることはできない
・アルゴリズムはノイズを排除するがバイアスを排除できない
・データにバイアスがかかっているケースがある
・ノイズを削除するためにルール化をするのかそれとも規範とすべきか。ルール化するためには、多様な人々の賛同を得にくい。

目次は以下です。（上下巻　通し）

上巻

序章　二種類のエラー

第１部　ノイズをさがせ
　第１章　犯罪と刑罰
　第２章　システムノイズ

第２部　ノイズを測るものさしは？
　第４章　判断を要する問題
　第５章　エラーの計測
　第６章　ノイズの分析
　第７章　機会ノイズ
　第８章　集団によるノイズの増幅

第３部　予測的判断のノイズ
　第９章　人間の判断とモデル
　第１０章　ルールとノイズ
　第１１章　客観的無知
　第１２章　正常の谷

第４部　ノイズはなぜ起きるのか
　第１３章　ヒューリスティクス、バイアス、ノイズ
　第１４章　レベル合わせ
　第１５章　尺度

下巻

　第１６章　パターン
　第１７章　ノイズの原因

第５部　よりよい判断のために
　第１８章　よい判断はよい人材から
　第１９章　バイアスの排除と判断ハイジーン
　第２０章　科学捜査における情報管理
　第２１章　予測の選別と統合
　第２２章　診断ガイドライン
　第２３章　人事評価の尺度
　第２４章　採用面接の構造化
　第２５章　媒体評価プロトコル

第６部　ノイズの最適水準
　第２６章　ノイズ削減のコスト
　第２７章　尊厳
　第２８章　ルール、それとも規範？

まとめと結論　ノイズを真剣に受け止める
　終章　ノイズの少ない世界へ

[Katsuさんの感想 · 2023年8月24日]

上下巻感想
自分の判断、会社としての判断は正しいのか？大丈夫？と考え読み始めた。
例えば難民認定の許可は審査官によって大きく違い、ある人は5％ある人は88％の許可していた事や100人の精神科医の診断結果は54％しか一致しなかったなどなどの沢山の事例や調査結果に驚かされた。そう言った判断は明確な基準があり間違いがないと考えていたがほとんどの場合、大きな乖離があるという。ではそれが何なのか？その原因は大きくバイアスとノイズに分類され違いは簡単に言うと、銃で的を狙い一定方向に的を外す要因はバイアス、上下左右などランダムに外す要因がノイズということだった。ノイズにもいろいろなものがあり、発生の事例や要因や測定方法や対処法が分かりやすく書かれていた。この本を読むことによって自分が思っているより自分が冷静で客観的な判断ができていないという事実を認識して、対処法を講じていく必要があると感じた。またアルゴリズムでの判断と人間の判断の違いや有効性は人事評価などノイズが発生しやすい場面で適応できるシステムの必要性を感じた。
また、前作でも感じたが作者がノーベル賞受賞者でありながら、専門家の無能を辛辣に笑い飛ばす語り口がとても痛快だった。自分の馬鹿さ加減も深く認識させられる。

[wespoさんの感想 · 2022年7月27日]

判断ある所にはノイズがある。アルゴリズムで判断した方が直感よりもノイズが少ないという理論は理解できるが、そればかりで面白味のない世の中になるような気がする。その弊害も指摘されているが、思ったよりもノイズが多いこととその弊害も多いことがわかった。

[ABAKAHEMPさんの感想 · 2022年3月13日]

多くの人は自分の判断に潜む重大な欠陥に気づいていない。
目の前で起きた出来事の原因探しは苦もなくできるが、統計的に考えてみることはしない。
なぜなら、それだけ因果論的思考に囚われているからで、バイアスはすぐに目につくが、ノイズは容易く見落としてしまう。
目に見え、見つけ出しやすいバイアスは、ナッジなどで抑え込むことが可能だが、見えにくく予測不能なノイズは、そもそも対策を立てにくい。

ノイズとは、統計的思考によってはじめて見つかるばらつきであり、データに基づく予測によって導かれ、射撃を行った時に穿たれる着弾範囲でもある。

判断のあるところノイズあり。
見えない敵の脅威に対処するという点では、新型コロナ対策と似ていて、ノイズに対しても、予防的な衛生管理が援用できると説く。
つまり、判断においても、手洗いに似た予防習慣を徹底するといい。

究極的に言えば、人間による判断をルールやアルゴリズムに置き換えれば、システムノイズを完全に排除できる。
判断の余地を減らすべくガイドラインを厳格化すれば、ルールになる。
しかし大半の人は、厳格なルールは行動の自由を制限し、賛同を得にくいと判断し却けて、ルールではなく規範で良しとする。

例えば、児童虐待やいじめの実態を見抜けず、深刻な事態に発展した責任を問われた時も、本来であれば、現場の状況を把握し、自分たちで実効性あるルール作りをすべきところなのに、わざわざ第三者委員会などを設置して外部に下駄を預け、その結果、大量のノイズにまみれた弥縫策で良しとするのだ。
そんなことなら、規範ではなくルールとして機能するアルゴリズムに任せた方がよっぽどマシではないかと指摘している。

根底にあるのは、直感に対する不信や否定。
直感を禁止するわけではないが、総合判断は最後の最後まで遅らせるべきだと主張する。

思い込みは不味いと思うが、直感はそれほど信を置けないものなのか?
これはおそらく、同じ判断でも、難民認定や量刑の決定、指紋やDNAの鑑定などと、体調不良や機械の故障の原因特定や、将来の結果の予測を伴う判断とでは大いに異なっているからだろう。

棋士の長考は、まず鋭い直感によって得られた一手に対する反証や証明に費やされるし、プロの修理屋や医者も、最初に感じた違和感(色や膨らみや異音など)を頭の片隅に留め、様々な基本的な項目を確認した後に、最初の直感に立ち戻り、真の原因を探り当てる。
この意味で、本書でも紹介される超予測力を備えた人のように、経験を凌駕するプロがいるということで、どうしてもこうした専門家に頼れない時に、本書の薦める対策が有効となるだろう。

プーチンは2021年9月から、側近の新型コロナ感染が相次いだため、自主隔離に入り外部との接触を絶った。
この間に彼は、歴史書を読み漁り、独自の世界観を偏狭な形で醸成させていったと言われている。
執務室の中で彼は、ソ連解体から30年を振り返り、国際社会で占めるロシアの地位の低下を憂い、欧米からの度重なる嘘や裏切り、辱めに対して、被害妄想にも似た形で怒りを蓄積・増幅させていった。
ウクライナの歴史とロシアとの関係について深く探求する内に、ロシアとウクライナは一体であるとの確信を得て、ウクライナの主権は認めず、欧米からの干渉は許さないと決心する。

判断を下すとき、誰もが固有の価値観や信条、記憶、経験などを背負っている。
こうしたものは、様々な要素に対する安定した反応バターンであり、一過性のものではない。
パターンノイズが、判断者としての性格や個性の副産物だとすれば、今回のプーチンの下したウクライナ侵攻は、どのような判断だったのだろう。
胸襟を開いて言い合える中だったドイツのメルケルは退陣し、そもそも隔離によって周囲とおいそれと会えず、側近はプーチンの判断に疑問を呈すると昇進できないのでロクに進言をしない。
こうした中で、ウクライナの歴史を巡る深い彼の信念の方が、ロシアの体制維持よりも重要になっていったのかもしれない。

[akitaroさんの感想 · 2022年3月12日]

判断あるところにノイズあり。
私たちは一日に何回もさまざまな判断をしているが、そこには大なり小なりノイズが含まれている。

プライベートなことに関する判断は、ノイズがあろうとなかろうと自分自身で納得すれば済む話かも知れないが、仕事上の判断にひそむノイズは分かりにくいだけで、どこかしらに損害を生んでいる可能性があるようだ。

バイアスに関しては一般的に浸透していると思うが、これからはノイズに関してもっと注意する必要があると感じた。

[こんちゃんさんの感想 · 2022年2月16日]

上巻の方では、ノイズとは何かについて紙幅が割かれていた。
今回の下巻の方では、ノイズを防ぐ方法について言及されている。
本書（上下両巻）を読んでいくと「ノイズは厄介だ！良い判断をするためにも、全ての意思決定プロセスを厳しく取り決めよう！」という発想に陥りやすい。たしかに、筆者たちは「判断ある所にノイズあり」と繰り返し訴えている。ノイズが意思決定において好ましくない存在であることはその通りなのだ。その領域が、医療業界など、専門性の高い分野なら尚更のことである。
しかし、全ての判断をアルゴリズムやAIに委ねることも危険だと筆者らは言う。結局のところ、最終的な判断は人によって下されることが望ましい。筆者らが訴えるのは、最終判断を下すまでの過程に問題があるということなのだ。
ノイズを減らす方法として、筆者たちは「判断ハイジーン」という手法を提供している。ハイジーンというのは日本語で「衛生管理」を意味する。本書を読めばわかるが、往々にしてノイズの存在は気付きにくいもので、それゆえに対策をしたところで明白な効果が出ているかどうかが分かりにくい。が、確実にノイズによる影響は存在するし、それが悪いものなら対策をするに越したことはない。これは、私たちが日常的に行う「手洗い」と似たようなものだ。手にどんな菌が付着しているかわからないけれども、手を洗えばそれらの菌は消滅する。
このように、ノイズ対策と手洗いは、悪影響をもたらす正体が不明瞭だがそれが悪い影響をもたらすのは確実なので事前に対策をしたほうが良い、という点で非常に似ている。それゆえに「ハイジーン（衛生管理）」という名前がつけられた。
下巻では「判断ハイジーン」における6つの原則が紹介されている。良い判断を下すためにはこれらを遵守することが求められる。

原則1
判断の目標は正確性であって、自己表現ではない

原則2
統計的視点を取り入れ、統計的に考えるようにする

原則3
判断を構造化し、独立したタスクに分解する

原則4
早い段階で直感を働かせない

原則5
複数の判断者による独立した判断を統合する

原則6
相対的な判断を行い、相対的な尺度を使う

以上の原則を守れば、良い判断が下せる可能性が高い。本書における最重要部分はこの原則だと言えよう。この部分さえ意識し判断を行えば御の字である。
人は往々にして自分の力のみで判断を下したい生き物だ。しかしそれは自分が懊悩して出した結論に対する自分へのご褒美のようなものだと筆者たちは指摘する。その判断がたとえ気持ちの良いものであったとしても、そのことが優れた判断だと言える根拠にはならない。
しかし、悲しいかな、彼らはその快楽に浸りたいために、意思決定プロセスにおけるノイズの削減を拒む。それが最悪の状況を招く可能性があったとしても。挙句の果てには、ノイズの削減はコストが嵩むなどと主張して己の怠慢を正当化する。
実際、ノイズの削減には多くの批判が投げられ回避されていきたと筆者は言う。たしかに、判断ハイジーンのみならず、アルゴリズムやAIですら間違うことがある。だからと言ってノイズ削減を怠るのは優れた決定者としてあるまじき行為だろう。良い意思決定者として行うべきは、ノイズを削減する効果的な方法を模索することなのだ。断じて、それを等閑にすることではない。
本書の最後では、筆者らがノイズのなくなった世界を夢想する。その世界では、「無駄な支出や損失が大幅に減り、公共の安全も健康も改善され、何より公平性が向上して回避可能な多くのエラーが防止される」そして、この世界に少しでも近づくために「ノイズ」という厄介者に目を向けてほしいと読者に訴えていた。

[pinkfishさんの感想 · 2022年1月27日]

簡単にノイズを知りたいなら、この下巻のまとめと結論の章を読めばわかります。
ただし、事例があった方がわかりやすいので、上下巻をを読むことをおすすめします。

[スタヰルさんの感想 · 2024年1月18日]

# 組織的エラーの仕組みと正しさへの道標

## 面白かったところ

- バイアスが強いエラーなのか、ノイズ起因のエラーなのか、この下巻を読むことでより明瞭になった点

- 企業理念やルールや規範が人間社会で長生きしている理由がわかる点

## 微妙だったところ

- 特になし

## 感想

組織により踏み込んだ、エラーとバイアスについての内容。

特に面白かったこととして、アメリカの指紋分析官の話があった。国家随一の専門職である指紋分析官という役職に加えて、指紋鑑定という信頼度の高い（より正解に近い）証拠という組み合わせだからこそ、容疑者の冤罪をなかなか立証できなかったという事実。

これは組織の中で輝かしい存在、例えばエキスパートとかスペシャリストなどの肩書だと身近に映るだろう。

この人たちの決断が必ずしも正解とは限らないし、反芻努力の欠如が無関係の人を悪い意味で巻き込むことになる良い事例だった。

上記の特別な人達も `人間` なので、文字通りヒューマンエラーを起こしうる。

この現実を教訓として我々は意味のあるルールや規範を整える必要があるし、より正解に近づくために時にはノイズをかけて群衆の叡智の力を借りねばならんということなんだろう。

アニメ『PSYCHO-PASS』の世界観と照らし合わせると、どこか自分の中で腑に落ちた。

人間じゃない何かが決断し、裁き、すべてが決められた社会では、ノイズが起きようもないしバイアスのみが存在する。

人間の判断というノイズがないとバイアスの方向転換はできないし、人間社会とは到底言えないものである。

主人公の常守朱が発したセリフの中で、よいものがある

常守「法が人を守るんじゃない、人が法を守るんです」

法を `バイアス` 、人を `ノイズ` と読み替えると、どちらかが悪や正義ではなく共存するものだということがよく理解できた。

[zo3zo3さんの感想 · 2023年8月6日]

興味深い本だった。
ノイズやバイアスは時に、不公平を生み出し、様々なところで影響を及ぼす。
人間の思考からノイズやバイアスをいかに除去するか、色々な方法がある。

著者プロフィール

心理学者。プリンストン大学名誉教授。2002年ノーベル経済学賞受賞（心理学的研究から得られた洞察を経済学に統合した功績による）。
1934年、テル・アビブ（現イスラエル）に生まれへ移住。ヘブライ大学で学ぶ。専攻は心理学、副専攻は数学。イスラエルでの兵役を務めたのち、米国へ留学。カリフォルニア大学バークレー校で博士号（心理学）取得。その後、人間が不確実な状況下で下す判断・意思決定に関する研究を行い、その研究が行動経済学の誕生とノーベル賞受賞につながる。近年は、人間の満足度（幸福度）を測定しその向上をはかるための研究を行なっている。著作多数。より詳しくは本文第2章「自伝」および年譜を参照。

「2011年 『ダニエル・カーネマン 心理と経済を語る』 で使われていた紹介文から引用しています。」