オートメーション・バカ -先端技術がわたしたちにしていること-

著者 : ニコラス・G・カー 篠儀直子

• 青土社 (2014年12月25日発売)

感想・レビュー・書評

[taka_2さんの感想 · 2023年7月12日]

オートメーションに依存すると、人間の能力は低下するというような主張。
例として、オートパイロットが効かなくなったときの人間の操縦が正しく行われなかったことでの事故や、GPSを使ったときの人間の感覚の話なんかが出てくる。
とはいえ、時代は移りゆくものだし、事故もいろいろ起きるものだけれども、それを反省してまた進んでいくのも人間なのかなと思う。個人的にはオートメーションバカでいいかなと思った。

[Mkengarさんの感想 · 2023年5月2日]

本書は”IT doesn’t matter”で名を馳せたニコラス・カー氏によるオートメーション批判の本です。まずこれは第一印象なのですが、邦題がかなり軽い感じの名前になっているため、ビジネス雑誌程度の軽い調子でオートメーションを批判している読み物かと思ったのですが、いざ読み始めるとかなり骨太な本でギャップを感じました（この邦題は著者のキーメッセージを伝えているとはいえ、本の格を落としている気もします）。カー氏は基本的にテクノロジーの負の側面に焦点をあてる、あるいはテクノロジー過信論者を戒めるのがスタイルですが、それは本書でも踏襲されています。かなりの数のインタビューに加えて、アカデミック界の研究成果などもふんだんに参照しているので、簡単に読めるような本ではありませんが、逆にいえば予想外に中味が濃くて満足しました。

本書の主張は邦題通り（オートメーション・バカ）です。技術をオートメーション推進（人間代替）の方向で使っていくと、人間の可能性や能力が衰えていって我々自身の世界の認知能力低下にもつながってしまうので、技術を人間拡張的に用いるべきだ、というのがカー氏のキーメッセージになります。飛行機のオートパイロット機能が人間のパイロットの能力低下につながっていることや、イヌイットがGPS機能つきナビゲーション機器を使って狩をしはじめたら、むしろ狩の能力が低下した、というような興味深い事例が紹介されています。

カー氏の主張はなるほどと思う点も多々ありましたが、本書を読んで強く感じたのは、人間という存在をどう見るかという意味での価値観あるいは視点の対立があるという点です。一方では、カー氏のような人間礼賛型の人々がおり、我々人類の真の進化のためには人間を中心としたテクノロジー社会を目指すべきだと言いますが、他方、人間不信型の価値観を持つ人々がいる。つまり、人間は悪いことをする存在で、人間が関与するから汚職も戦争もあるし、事故も度々起こるのだから、いかに人間を重要な活動領域から排除し機械に任せていくかがユートピア構築への真の道なのだ、という価値観です。つまりテクノユートピア主義者は、裏返すと人間落胆（不信）主義者でもと呼べる存在で、結局は人間をどう見るかの対立だと思いました。私自身はどちらかといえばカー氏のように人間礼賛型なのですが、テクノユートピア主義者の主張もある程度は理解できます。おそらく両者ともにある程度は正しい、ということなのでしょうが、本書を読んでそのあたりを深く考えるきっかけになりました。

[kaota01さんの感想 · 2022年7月18日]

オートメーションバカ、というなんとも刺激的なタイトルだが、本家はautomation and us. だという。なんとも自分好みの翻訳。

で、肝心の中身は、まぁまぁ同意しまくり。
最近富に職場がバカばっかでなんで？この会社ってエリートの集まりなんでないの？とか思ってたけど、やはり便利すぎるのもよくないのかと。
自動化ツールの本質を正しく使いこなせるのは、必要に迫られて自動化した本人だけってこと。むろんツールである以上、それを他人が使っちゃダメってことはない(でないとあんまり意味もない)けど、ただのりしてるだけのやつはやはりダメになっていく。
気をつけよう。

[takehiko102982さんの感想 · 2018年2月17日]

いやー長い本だった…けども、色々考えさせられたかな。
一番は効率化＝良いこと、とは限らないってことかな。これは日々の生活でもいえることかも。

効率化で人を減らしますって言うのは、効果も見えやすいしよく使われるけど、多分本質はそうじゃない。人の思考をより高みに持っていくためにつかわれるべきなんだろうな、と。ただ、それを測るのは難しいんだけど… コグニティブで言われる知識拡張の考え方が少しは腹落ちした気もする。人にとって変わるものではなく、人をサポートするもの、っていうのが。

また、一見非効率な中にも色んな意味があるっていうのは確かに、と。その非効率に見えるプロセス中に思考することが、実はキモだったりする。

以下は読みながらのメモ。


人間の知識は暗黙知と形式知に分かれ、形式知はいわゆる手順を明確にかけるもので、自動化できるもの、暗黙知は難しいもの、だが、最近は暗黙知でさえ、自動化されそうになっている。
人工知能と人間の知能の違いはマインド、精神がそこにあるかどうか。

機械化が進み職を失うのでは、といって機械化を悪として捉えるキライもあったが、それをテクノロジー的失業と呼んだらしい。それはあくまで一時的なものであり、長期的にはより創造的な職などでカバーされていくのだが。とはいえ、実際の労働者からすれば、明日の飯の種がなくなるわけで、機械化が進む中で反乱？もあったらしい。

オートメーションの定義は、工場など場所において、以前存在していたよりも著しくオートマティックなもの、らしい。ちょっと効率化するだけでは、オートメーションとは言わないのか。この定義に照らすと、技術だけじゃなくて、色んな進歩を表す気がするな。

オートメーションの始まりは、厳密にはわからないけど、やはり戦争と繋がるらしい。迎撃装置は、まさしく自動で弾道を計算して、迎撃するための方法を自動で取るわけで。やはり技術の圧倒的な進歩は、戦争が絡むのだろうか… まぁ命を晒してるわけだから、その極限状況ならものすごいアイデアとかが出やすいのか。

自動化のメリットはやはりそこに精神的な話しがないこと、なきがする。クレーム処理とかは精神的に疲れるし、単純作業も人には不向きな部分もある。

自動操縦とかも出てくるだろうけど、計算結果と人の判断に差があるとき、人間はどちらを信じるべきなのだろう？ 難しいところだよね。特に初期のうちはそういうことが往々にして起きそう。そして、自動操縦が安定し始めると、きっと人はもう自分では操縦できなくなってきるんだろうなぁ。一部の運転が趣味の人を除いて。果たしてそれは正しい姿なのだろうか。まぁでもオートマ車か出たときも同じか。マニュアル車が運転できなくても困りはしない。マニュアル車が楽しいというのはもちろん、わかるけども。

それにしても、オートパイロットが出て来た1947年に言われていた、パイロットは計器の確認をする人になり、機関士は無くなるだろう、というのは、今や現実になってるよね。となると、今のオートメーションを進めた先は…？ そして、オートメーションによってパイロットのスキルは昔と比べると低下し、オートメーションがトラブルを起こした時に対処できなくなっている…
最近のオートパイロットって、人の操作をコンピュータが却下できるらしい。もはや人の管理下にコンピュータがあるわけじゃなくて、逆になっているのか…

オートメーションは、切り離せる一部の作業を代替するのではなく、作業と作業者の両方を作り変えるらしい。確かにただの切り出し、と捉えると物事を単純化しすぎな気もする。

人間の中にもオートメーション性というのがあるらしい。ようは無意識にいろんなことをできるのは、このオートメーション性によるもので、これによって、新たに思考するための余裕を生み出しているそうな。とはいえそれは、人間が苦労して経験を積んだ結果であり、いきなりできるものではない。それを機械がサポートしてしまったら、人間はそれができなくなってしまう。電卓もそれで、基礎の計算力なくして電卓を覚えてしまうと、結局計算がぜんぜんできない人になってしまう。

またオートメーションによって作業を減らすことで、より高度な仕事をやる時間を増やす、という狙いも、作業を減らしすぎると、パフォーマンスが悪化することもあるらしく、そのさじ加減は難しそうだ。確かにやることが多い時の方がアイデアがでたり、一つ一つのパフォーマンスが高いのは、よくある。

電子カルテの例が長く取り上げられているが、手書きからパソコン入力に変わってことで、医師は患者個々人に対してあまり考えなくなった、と感じているらしい。それは手書きの方が書いている事柄の質や独自性を深く考察しながら書くから、だそうな。
となると手書きは残しつつ、OCRとかで読み取り、それを理解する、というのが大事なのかも。
また、レントゲン写真を、すぐに見られるようにしたことで、撮影頻度が下がると考えていたが、実際は上がったらしい。レントゲン撮影が簡単に出来る、という心理状態になったから、らしい。効率化が図れる、と思っても時に逆効果を生むこともある。

やはりオートメーションのキモ？は、それを契機にしてプロセスを整理することと、如何に単純な作業に分解できるか、なきがする。ま、ようは普通のシステム化と変わらない気がする。

また、人工知能などによる効率化は、個人的にはオートメーションではなく、ボトムアップ思考の強化だと思う。人間のトップダウン的な思考(大雑把に全体像を把握して、そこから判断する)と並存することで、より効果的になる。

オートメーションによって効率的になり作業時間が短縮されるのは良いことだと思っていたけど、その分、思考する時間は減ってるのね… 思考が必要ないタスクならいいけど…

オートメーションにもテクノロジー中心オートメーションと人間中心的オートメーションがあるらしい。よくやってしまう技術スタートの検討ではなく、人間の行動やタスクから検討しないと… 目的と手段を取り違えるパターンね。全部をオートメーション化してしまうと、人間が受動的で観察的な役割に引き下がってしまう。これだとスキルが失われたりするので、もっと人の関わりを増やして、人間にもやりがいのあるタスクを割り振ることでスキルは失われないようにできる、らしい。このバランスは難しい気がするなぁ。簡単だって言ってるけど。

アダプティブオートメーションなるものがあるらしい。人間のタスクが難しくなるとオートメーションの幅を広げるようなイメージっぽい。また、人間に考えさせるようなオートメーションが最良、という考え方もあるようだ。意思決定支援系のシステムでは、意思決定を自動化するのではなく、人間の考え方に対して、別の解釈や仮設、選択肢を提示して、人間がより考えるようにする。これ、拡張知能って言ってる話とリンクする気が… とはいえ、オートメーションの恩恵である効率化(時間や金銭的コストの削減)と相反する話だと思うので難しい。人が何かを学ぶには、ある程度の非効率性が必要といえる。

写真家にとってデジカメは最良のツールとならないケースもある。簡単に撮れて、パソコンで簡単に直せる故に、あまり考えずに撮ってしまい、結果的にあまりいい写真が撮れなくなる、と言った具合に。フィルムのように制限があるからこそ、よく考え準備をし、結果として良い作品ができる。オートメーションも同じで気軽にできるようにすることは、必ずしも最良とは限らない。それはスキルが失われると言ったことも含めて、効率化が全てではない、ということだろう。

[nabesinさんの感想 · 2017年4月26日]

ニコラス・G・カー『オートメーション・バカ』（青土社、2014年、原著2014年）は、オートメーション（以下自動化）が人間や社会に与える影響を、かつての産業革命や機械生産の歴史や、先行例である航空業界（自動操縦）および医療業界（電子カルテ）から考察した書籍である。自動化は平均的には事故を減らすものであるため、浸透は不可避だろう。副作用をいかに低減させるかという考え方を同書から学ぶことができた。

同書はかなり話題が拡散しているが、次段落以降で内容を整理してみる。なお、「オートメーション」という言葉自体は比較的新しい用語で、フォードの副社長が1946年に会議で使ったのが初出だという（p.50）。

ジェイムズ・ブライトは『オートメーションと経営』（1958年）の中で、13の職場の労働者に対して自動化の影響を検証した。手作業から完全自動化までを18段階に分けて、その段階ごとにどのようなスキル項目が労働者に要求されるかを調査している。結果、スキル要求が増加するのは自動化の初期だけであり、最終的にはスキル要求は激減する。労働者は「機械工（machinist）」から「機械操作者（machine operator）」になるのだ（pp.144-145）。

上は製造業の例だが、航空業界にも当てはまる。1940年代、民間旅客機の操縦室には5名の席があった。コミュニケーションシステムによって通信士が1950年代に、慣性航法システムによってナビゲーターが1960年代に、グラスコックピットによってフライト・エンジニアが1980年代に座席を失い、今では操縦士2名の席を残すのみである。旅客機操縦士の業務は軽視されるようになり、その報酬は着実に減少している（p.81）。

技術の進展は航空機事故を100万人に2人の水準にまで減らす半面、従来には見られなかった事故を登場させている。自動化によって乗務員の「スキル棄却」が発生し、想定外の事態が発生した場合に人間が致命的なミスを引き起こすことが増えた（p.75）。2009年2月のボンバルディアQ400事故や5月のエアバスA330事故（pp.62-64）が操縦ミスと結論づけられたことを受け、連邦航空局は2013年1月に「オペレータへの安全警告」を発し、自動操縦の多用が「パイロットが望ましくない状態から飛行機を立て直す能力を低下させる」として航空会社に対し手動操縦に時間を割くことを推奨している（p.9）。

このような事態は、単純化すれば次の悪循環によって生じる（p.203）。①設計者は往々にして人間を不安定・不確実なものと見なし、プロセスにおける人間の役割を減らそうとする。→②人間はスクリーン上で異常を監視するだけの存在になる。→③ところが、このような単調作業は人間には不向きな上、自分でやりくりするスキルが劣化する。→④異常事態への気づきが遅れ、かつ気づいたときには不適切な行動を取ってしまう。→①へ戻る。

密接に関連するタスクが関連する複雑な活動の一部を切り離し、他に影響を与えずに自動化することはできない（p.90）。また、知的労働と肉体労働とを分離する心身二元論も幻想である。実際には人々は「目や耳、鼻や口、手足や胴体によっても思考している」（p.192）。従って悪循環を断つためには、人間の五感に対して適切なフィードバックを与えるような設計（人間中心の自動化）が必要であり、ボーイングはその方向に進んでいる（p.217）。

専門的活動の場合、意思決定支援アプリケーションが最良の働きをするのは、特定の行為を推奨することなしに関連情報を必要な瞬間に専門家に伝え、人間に考える余地を与えた場合である（p.214）。人間の認知バイアスを訂正し、問題を別の角度から見るよう促すものである。我々が監視するのではなく、我々が監視されるように設計した上で、最終的な判断は人間に委ねるのがよい。

[fantaさんの感想 · 2021年5月16日]

'オートメーションはわれわれを、行為者から観察者へと変える傾向があるのだ。操縦桿を握る代わりに、われわれはスクリーンを見つめる。この移行は人間の生活を楽にしているかもしれないが、専門技術や知識を学習し、発達させる能力を抑制しうるものである。所与のタスクにおいてわれわれのパフォーマンスを向上させているにせよ衰退させているにせよ、長期的に見ればオートメーションは、われわれの既存のスキルを低下させ、新たなスキルの獲得を阻むことになるかもしれない。'

'「ツールが鋭くなれば、頭は鈍くなる」'

'「われわれは多くの場合、情報を内部でエンコードする必要性を感じなくなってしまうのかもしれない。必要になったら調べればよいのだから」'

'知識には、物事を調べる以上ことが含まれる。事実や経験を、個人的記憶のなかでエンコードする必要があるのだ。何かを真にするためには、それを神経回路のなかに織りこみ、そののち繰り返し記憶から引き出しては、新たに使用せねばならない。'

'グーグルや、他のソフトウェア会社はもちろん、われわれの生活を楽にする事業を行っている。それをわれわれが求めているのであり、だからこそわれわれはこれらの会社を支持している。だが彼らの作るプログラムが、われわれの思考の代行に熟達するにつレ、当然われわれは自分の知性よりも、ソフトウェアのほうに頼るようになってしまった。精神を生成作業に駆り立てることも少なくなった。そうなると最終的にわれわれは、学ぶことも知ることも少なくなってしまう。能力も減っていく。現代のソフトウェアに関し、テキサス大学のコンピュータ科学者ミハイ・ナディーンが述べるように、「インターフェイスが人間の活動を肩代わりすればするほど、新しい状況に対するユーザーの適応性は下がる」。生成効果に代わって、コンピュータ・オートメーションは逆のものをわれわれに与えたー脱育成効果である。'



macOS、そのテキスト入力ツールを使うようになり、ストレスが上がった。

勝手な推測変換。恐らく、高速で膨大な数の中からこちらが求めているだろう正解を、数撃ちゃ当たる作戦で、ただし瞬間的にほぼ正解を示してくるようなツールだ。それが鬱陶しくて堪らない。そんなことは求めていない。自分で言葉を選択したいんだ。単語を頭の中に浮かべて、取り上げて、並べて、ときには正しくない使い方で、普通ではない在り方を選んで、そうやって文章を作る。そのことを求めているのだ。勝手な、余計な、独りよがりな便利さを押し付けないでほしい。世の中なんていうニーズ、自分ではない他人が褒め称えている便利さなんて、これっぽっちも欲しくもないものが山程あるのだ。

ようやく終わった建築工事の竣工図を作っている。現場が進む中で起こった膨大な変更内容。そもそも元々の設計図が、よく知りもしない素人のような自分が作り出したものだから、その最初の姿形がなくなってしまうくらい、書き換えなければならない、一新しなければならない図面を一斉に更新しているところだ。

ただし、いま自分が取り組んでいるようなレベルで厳密に精緻に竣工図を作る＝当初の設計図を書き換えることは、普通しない。施工者が作り出した部分毎の施工図をまとめて綴じることと、仕上げ情報の更新や大きく変わった内容が後々に参照できるように、おおよそを変更点を反映すること。その程度の更新を図ることしか、一般的には行われていない。終わったことに時間と労力をそれほど掛けている場合ではないからだ。時間に余裕があるという状況があったとしても、こんなことを普通はしない。側から見たら、無駄なことをしていると受け取られているだろう。

だが、全く意味が違う。自分にとって必要で良い結果を招くと考えているから、この地味で膨大な作業を行っているのだ。仕事のためだけれど、それだけではない。自分を更新するために、自分のために行っているのだ。無駄なんてどこにも見当たらない。



'刺激のレヴェルが非常に低いとき、人は注意も向かず意欲も起こらず不活性なママで、パフォーマンスもほぼゼロのままである。刺激の程度が上昇すると、それにつれてパフォーマンスも向上し、曲線は逆U字型の左側にあたる部分を描いてやがて頂点に達する。すると、刺激が強まり続けているにもかかわらずパフォーマンスは低下しはじめ、逆U字型の右側が描かれはじめる。刺激が最高度に達したとき、人はストレスのせいで実質上麻痺してしまっており、パフォーマンスは再びゼロになる。マイネズミ同様われわれ人間もまた、学習とパフォーマンスの質が最も上がるのはヤーキーズ・ドッドソン曲線の頂点にあるとき、すなわち、難題に直面してはいるけれども圧倒されていないときである。曲線の頂点にあるとき、われわれはフロー状態に入っている。'

'…情報過少がもたらす怠惰さは、次世代の自動運転車にとって、とりわけ危険な要素になるだろうと二人は憂慮する。ステアリングやブレーキ操作をいっそうソフトウェアが引き受けてしまうので、運転席にいる人間はやることがなくなり、チューン・アウトしてしまう。さらに悪いことに、オートメーションの使用法やリスクについて、ドライバーはほとんど、もしくはまったく訓練を受けないかもしれない。よくあるタイプの事故は回避されるかもしれないが、結局のところ、ひどいドライバーたちがこれまで以上の数、路上に放たれるわけだ。'



奴隷になることを、従属することを、恐らく何ら迷いもなく選択している人々を毎日眺めていると、人間の実存や限界というものに思考は繋がっていく。諦めや悲歎しか辿り着くところがないかのようにそれはやってくるけれど、きっとそうではない。そうではないものが存在していることを、いま自分が捉えていることを同じように捉え、自分というものに立ち返り、自分というもので思考し、自分が本当に欲しているものを選択することに舵を切ろうとする人達はこの目には映らないとしても、確かに自分と同じようにこの世界で生きているはずなのだ。



'「いかに単純なことであろうと、ある技術の使用がどれだけ最初の意図を置き換え、書き換え、変更し、ねじ曲げているかに気づかないとしたら、それは単純に、われわれが手段を変えることで目的を変えてしまったからであり、意思が滑り落ちてしまったせいで、初めに望んだものとかけ離れたものを願うようになったからだ」'

'「グーグルのアーバニズムは、同社の自動運転車でショッピングモールへ行く人のそれだ。ひたすらに実用性を追い求めるもので、性質的に利己的ですらあり、公共空間がどのように経験されるかについて、ほとんど、またはまったく関心がない。」グーグルの世界における公共空間とは、あなたが死ぬほど行きたいと思っている高評価のレストランとのあいだにある何かでしかない。」便宜主義が全てに勝利するのである。'

'フェイスブックは、タイムラインなどの記録機能を通じ、会員がみずからのパブリックイメージとアイデンティティを同一視するよう勧める。幼少期から始まって、おそらく死で終わるだろう一貫した物語のなかで、展開し、一生涯持続する、単一で均一な「自己」のなかに会員を閉じこめようとする。これは、自己とその可能性についての、創業者の狭い味方と一致している。マーク・ザッカーバーグはかつて「アイデンティティはひとつだ」と言った。「仕事仲間や同僚に対してと、ほかの知り合いに対してとで違うイメージを見せる時代は、きっとあっという間に終わりになる」。さらには「アイデンティティを二つ持つことは、誠実さの欠如の実例である」とまで主張する。驚くべきことではないが、この考え方は、広告主のためにきちんと一貫したデータのセットとして会員をパッケージしたいという、フェイスブックの欲望にぴたりとはまるものである。'

'ソフトウェアを作成する人々の商業的・政治的・知的・倫理的動機を理解していなければ、あるいは、自動データ処理が本質的に持つ限界をわかっていなければ、われわれは操作されるがままになってしまう。ラトゥールが示唆するように、交換が起こったことに気づくことすらないまま、みずからの意図と他社のそれとを取り違える危険を冒すことになるのだ。テクノロジーに順応するほど、そのリスクは高まる。'


'のちにフロストは振り返っている。

だが、彼が作家として、および芸術家として認められたのは、デリーで暮らしたこの寂寥たる日々のことだった。農業にまつわる何かがー繰り返される長く単調な毎日、孤独な労働、自然の美への近さ、気楽さが、彼に霊感を与えたのである。労働の重荷は人生の重荷を軽くした。のちに彼は、デリーでの日々についてこう書くことになる。「無時間性や不死の感覚をわたしが感じているとすれば、それは、デリーで五、六年ものあいだ、時間の感覚を失くしていたことから来ているのだろう。わたしたちは、時計のねじを巻くのをやめた。長いこと新聞を取らなかったので、世間の感覚ともずれてしまった。あらかじめ計画していたり、予見していたのであれば、これほど完璧には行かなかっただろう」'

[大阪公立大学 中百舌鳥図書館さんの感想 · 2021年4月2日]

安全性や利便性を高めるためのオートメーション化が人間にもたらす影響について、数多の事例に基づき深く考察されています。オートメーションに過度に依存しすぎることによる「人間らしさの消失」を考えるきっかけとなる一冊です。

大阪府立大学図書館OPACへ↓
https://opac.osakafu-u.ac.jp/opac/opac_details/?reqCode=fromlist&lang=0&amode=11&bibid=2000945852

[iadutikaさんの感想 · 2021年3月17日]

オートメーション・バカ
先端技術がわたしたちにしていること

著者　ニコラス・G・カー
訳者　篠儀直子
青土社
2014年12月25日 第1刷印刷
2015年1月15日 第1刷発行


イヌイットのナビゲーション能力は飛び抜けているそうだ。カナダ北部のイヌイットたちは、四千年もの間、獲物を求め、島にある家を離れて氷上とツンドラを何マイルも移動。目印はほとんどなく、雪の積もり方も絶えず変わり、足跡はひと晩で消えてしまう、広大で不毛な北極地方を旅するハンターたちの能力は、旅行者や科学者たちを驚かせてきた。地図やコンパスなどの道具を使わず、風、雪の吹きだまり、動物の行動、星、潮、海流についての深い理解から来ている。

ところが、ＧＰＳデバイスが普及するにつれ、狩りの最中の深刻な事故が報告されはじめた。なかには怪我や死にさえつながったものもある。原因は多くの場合、衛星を信用しすぎたことだとされた。レシーバーが故障したり、バッテリーが凍ったりすると、ナビゲーション・スキルが発達していないハンターは、何の目印もない荒野でたやすく迷ってしまい、のたれ死にすることすらある。また、衛星マップに詳細に描かれたルートをたどるうちに、トンネル視野に陥ってしまい、以前なら回避していた薄い氷や崖などの危険な場所へ突っ込んでしまうような事故もある。

我々も、ワープロを使い始めてから漢字が出てこなくなった。携帯を使うようになって電話番号を覚えなくなった。ちょっとした計算でもすぐに電卓（機能）を使ってしまう。

この本を読んで気になるのは、そうしたオートメーションが我々から奪っているものが、以前の生活では当たり前だったスキルや思考能力だけではないという点。イヌイットの場合もそうだが、オートメーションの使用をやめれば元に戻るように思えるが、実はそう単純な話ではないらしい。

例えば、ナビゲーション行為と人の知覚や記憶とは大きな関係があることを、神経科学者たちが次々と見出している。特定の場所を通過するたびに海馬のなかの特定ニューロンに活動電位が発生することが分かった。それを「場所細胞」と呼ぶらしい。また、場所に関係なく、抽象的な空間地図を提示し、内的な推測航法の感覚を与える「グリッド細胞」の存在も明らかになっている。この２つの細胞が核となって人のナビゲーション・システムを創り出しているらしい。

恐ろしいのは、この源泉が枯れてしまった時のこと。アルツハイマーを始め、認知症の初期の徴候のひとつが、これら細胞の変質による場所に関する記憶の喪失である。では、どっちが先なのか？と心配になる。認知症になったからナビ能力がなくなったのか、ナビ能力を失ったことが認知症へと繋がったのか？

ブェロニク・ボボという心理学者で記憶に関する専門家が、ナビゲーシヨン・スキルの行使が海馬の機能、さらには大きさにまで影響する、そしておそらく、記憶力の劣化を防止するかもしれない、ということを研究で実証したのである。
極解すれば、スマホのナビばかり使っていると認知症になりやすい、ということになる。

人は忙しく働いている時、早く解放されたいと思う。しかし、心理学者が調べてみると、余暇の時より労働中の方が、幸福感が高かったそうだ。
機械化によって人は”しんどい”仕事からかなり解放された。そこに問題はないのか。例えば、複雑なプラモデルを作るとき、その煩雑さにうんざりするが、完璧に自動で作ってくれる機械があったらどうなるか？ジグソーパズルの適切なピースを選んでくれる機械があったらどうなるか？完成の喜びは多少味わえるかもしれないが、自分がしている行為の意義をそこに見出すことは難しくなるだろう。

煩雑で面倒な作業から解放され、それをモニターで監視するだけの存在になった時、元々手や頭を使って行ってきたスキルが失われるだけでなく、人の様々な面に影響が出始めるのである。

日本語でオートメーションと言うと、何か少しレトロな響きすらある。ベルトコンベアに乗った製品をラインで作っていくような作業なんかを思い浮かべたりする。もちろん、英語でいうオートメーションはそうではなく、最先端の技術、しかも、パソコンソフトなどソフト面も含めたものをいう。
この本は、オートメーションが人間にもたらすさまざまな影響について気づかせてくれる。

[満田 弘樹さんの感想 · 2019年12月28日]

オートメーション化された社会が人間の知性や人生にどのような影響を与えているかを事例で紹介。最終章は感動的。

[gon78さんの感想 · 2019年11月26日]

単なる工程の自動化ではなく、人間の技能や判断を機械やソフトに任せること全般について、その問題点と人に及ぼす影響を論じている。
顕著な事例として航空機の自動運転が発展してきた経緯が解説されているが、安定的な飛行確保と操縦しやすさは飛行機にとって相反するものであるらしい。
パイロットがそれを制御し続けているからこそとっさのときに危機を回避できるのだが、自動化していると突然の緊急事態に対応できず初歩的なミスで事故が発生してしまう。
自動運転によって事故そのものは減少したが、緊急時には簡単なことでも却って重大な事故になる。
突き詰めれば何のためにパイロットがそこにいるのかという問いにつながっていくが、常に操縦していないと熟練パイロットでも対応ができなくなるというのがここでの問題。
精度よく制御しつつ最適の条件を短時間で選定するという機械能力には人間はかなわない。
ただしとっさの場合や想定していない場合の判断は機械にはできない。
機械だけでなくソフトも同じ。
記憶や事例に基づく最適条件の選定は人の頭脳をはるかにしのぐ。
ただ、それは理解や問題解決の成果ではなく、膨大な過去データから短時間での選定に過ぎない。
そしてより深刻な問題は、人が本来は道具であるべき自動化システムやソフトによって自らの思考や判断を制限され、限られた選択、範囲内でしか世界と向かい合えなくなるということ。
本来人が持っている感覚や感性を自動化が封じてしまう。
そして感性を持つ機会をも減らしていってしまう。
ルンバは虫をも吸い込む、自動草刈機は小動物をも狩る。
自動運転の車は飛び出してきた動物と自身の損傷のどちらを選択するのか、軍用ロボットは民間人と戦闘員の区別があいまいな時には何を優先順位とするのか…。
これはそのソフトが作られる背景とは無関係ではいられず、そこには直接操作する人の意志は入らなくなる。
グーグルで検索した結果や地図は誰にとっても同じ結果ではない、それはサーチエンジンやPC履歴による選択や選別等余計なお節介によりカスタマイズされた世界。
人が忘れてはいけないことは理解すること、考えること、その上で判断すること…。
でもそのための材料そのものがあらかじめ選択されていることを認識しておくことが一番大事なのかもしれない。