- Amazon.co.jp ・本 (336ページ)
- / ISBN・EAN: 9784791768448
感想・レビュー・書評
-
オートメーションに依存すると、人間の能力は低下するというような主張。
例として、オートパイロットが効かなくなったときの人間の操縦が正しく行われなかったことでの事故や、GPSを使ったときの人間の感覚の話なんかが出てくる。
とはいえ、時代は移りゆくものだし、事故もいろいろ起きるものだけれども、それを反省してまた進んでいくのも人間なのかなと思う。個人的にはオートメーションバカでいいかなと思った。詳細をみるコメント0件をすべて表示 -
本書は”IT doesn’t matter”で名を馳せたニコラス・カー氏によるオートメーション批判の本です。まずこれは第一印象なのですが、邦題がかなり軽い感じの名前になっているため、ビジネス雑誌程度の軽い調子でオートメーションを批判している読み物かと思ったのですが、いざ読み始めるとかなり骨太な本でギャップを感じました(この邦題は著者のキーメッセージを伝えているとはいえ、本の格を落としている気もします)。カー氏は基本的にテクノロジーの負の側面に焦点をあてる、あるいはテクノロジー過信論者を戒めるのがスタイルですが、それは本書でも踏襲されています。かなりの数のインタビューに加えて、アカデミック界の研究成果などもふんだんに参照しているので、簡単に読めるような本ではありませんが、逆にいえば予想外に中味が濃くて満足しました。
本書の主張は邦題通り(オートメーション・バカ)です。技術をオートメーション推進(人間代替)の方向で使っていくと、人間の可能性や能力が衰えていって我々自身の世界の認知能力低下にもつながってしまうので、技術を人間拡張的に用いるべきだ、というのがカー氏のキーメッセージになります。飛行機のオートパイロット機能が人間のパイロットの能力低下につながっていることや、イヌイットがGPS機能つきナビゲーション機器を使って狩をしはじめたら、むしろ狩の能力が低下した、というような興味深い事例が紹介されています。
カー氏の主張はなるほどと思う点も多々ありましたが、本書を読んで強く感じたのは、人間という存在をどう見るかという意味での価値観あるいは視点の対立があるという点です。一方では、カー氏のような人間礼賛型の人々がおり、我々人類の真の進化のためには人間を中心としたテクノロジー社会を目指すべきだと言いますが、他方、人間不信型の価値観を持つ人々がいる。つまり、人間は悪いことをする存在で、人間が関与するから汚職も戦争もあるし、事故も度々起こるのだから、いかに人間を重要な活動領域から排除し機械に任せていくかがユートピア構築への真の道なのだ、という価値観です。つまりテクノユートピア主義者は、裏返すと人間落胆(不信)主義者でもと呼べる存在で、結局は人間をどう見るかの対立だと思いました。私自身はどちらかといえばカー氏のように人間礼賛型なのですが、テクノユートピア主義者の主張もある程度は理解できます。おそらく両者ともにある程度は正しい、ということなのでしょうが、本書を読んでそのあたりを深く考えるきっかけになりました。 -
オートメーションバカ、というなんとも刺激的なタイトルだが、本家はautomation and us. だという。なんとも自分好みの翻訳。
で、肝心の中身は、まぁまぁ同意しまくり。
最近富に職場がバカばっかでなんで?この会社ってエリートの集まりなんでないの?とか思ってたけど、やはり便利すぎるのもよくないのかと。
自動化ツールの本質を正しく使いこなせるのは、必要に迫られて自動化した本人だけってこと。むろんツールである以上、それを他人が使っちゃダメってことはない(でないとあんまり意味もない)けど、ただのりしてるだけのやつはやはりダメになっていく。
気をつけよう。 -
ニコラス・G・カー『オートメーション・バカ』(青土社、2014年、原著2014年)は、オートメーション(以下自動化)が人間や社会に与える影響を、かつての産業革命や機械生産の歴史や、先行例である航空業界(自動操縦)および医療業界(電子カルテ)から考察した書籍である。自動化は平均的には事故を減らすものであるため、浸透は不可避だろう。副作用をいかに低減させるかという考え方を同書から学ぶことができた。
同書はかなり話題が拡散しているが、次段落以降で内容を整理してみる。なお、「オートメーション」という言葉自体は比較的新しい用語で、フォードの副社長が1946年に会議で使ったのが初出だという(p.50)。
ジェイムズ・ブライトは『オートメーションと経営』(1958年)の中で、13の職場の労働者に対して自動化の影響を検証した。手作業から完全自動化までを18段階に分けて、その段階ごとにどのようなスキル項目が労働者に要求されるかを調査している。結果、スキル要求が増加するのは自動化の初期だけであり、最終的にはスキル要求は激減する。労働者は「機械工(machinist)」から「機械操作者(machine operator)」になるのだ(pp.144-145)。
上は製造業の例だが、航空業界にも当てはまる。1940年代、民間旅客機の操縦室には5名の席があった。コミュニケーションシステムによって通信士が1950年代に、慣性航法システムによってナビゲーターが1960年代に、グラスコックピットによってフライト・エンジニアが1980年代に座席を失い、今では操縦士2名の席を残すのみである。旅客機操縦士の業務は軽視されるようになり、その報酬は着実に減少している(p.81)。
技術の進展は航空機事故を100万人に2人の水準にまで減らす半面、従来には見られなかった事故を登場させている。自動化によって乗務員の「スキル棄却」が発生し、想定外の事態が発生した場合に人間が致命的なミスを引き起こすことが増えた(p.75)。2009年2月のボンバルディアQ400事故や5月のエアバスA330事故(pp.62-64)が操縦ミスと結論づけられたことを受け、連邦航空局は2013年1月に「オペレータへの安全警告」を発し、自動操縦の多用が「パイロットが望ましくない状態から飛行機を立て直す能力を低下させる」として航空会社に対し手動操縦に時間を割くことを推奨している(p.9)。
このような事態は、単純化すれば次の悪循環によって生じる(p.203)。①設計者は往々にして人間を不安定・不確実なものと見なし、プロセスにおける人間の役割を減らそうとする。→②人間はスクリーン上で異常を監視するだけの存在になる。→③ところが、このような単調作業は人間には不向きな上、自分でやりくりするスキルが劣化する。→④異常事態への気づきが遅れ、かつ気づいたときには不適切な行動を取ってしまう。→①へ戻る。
密接に関連するタスクが関連する複雑な活動の一部を切り離し、他に影響を与えずに自動化することはできない(p.90)。また、知的労働と肉体労働とを分離する心身二元論も幻想である。実際には人々は「目や耳、鼻や口、手足や胴体によっても思考している」(p.192)。従って悪循環を断つためには、人間の五感に対して適切なフィードバックを与えるような設計(人間中心の自動化)が必要であり、ボーイングはその方向に進んでいる(p.217)。
専門的活動の場合、意思決定支援アプリケーションが最良の働きをするのは、特定の行為を推奨することなしに関連情報を必要な瞬間に専門家に伝え、人間に考える余地を与えた場合である(p.214)。人間の認知バイアスを訂正し、問題を別の角度から見るよう促すものである。我々が監視するのではなく、我々が監視されるように設計した上で、最終的な判断は人間に委ねるのがよい。 -
'オートメーションはわれわれを、行為者から観察者へと変える傾向があるのだ。操縦桿を握る代わりに、われわれはスクリーンを見つめる。この移行は人間の生活を楽にしているかもしれないが、専門技術や知識を学習し、発達させる能力を抑制しうるものである。所与のタスクにおいてわれわれのパフォーマンスを向上させているにせよ衰退させているにせよ、長期的に見ればオートメーションは、われわれの既存のスキルを低下させ、新たなスキルの獲得を阻むことになるかもしれない。'
'「ツールが鋭くなれば、頭は鈍くなる」'
'「われわれは多くの場合、情報を内部でエンコードする必要性を感じなくなってしまうのかもしれない。必要になったら調べればよいのだから」'
'知識には、物事を調べる以上ことが含まれる。事実や経験を、個人的記憶のなかでエンコードする必要があるのだ。何かを真にするためには、それを神経回路のなかに織りこみ、そののち繰り返し記憶から引き出しては、新たに使用せねばならない。'
'グーグルや、他のソフトウェア会社はもちろん、われわれの生活を楽にする事業を行っている。それをわれわれが求めているのであり、だからこそわれわれはこれらの会社を支持している。だが彼らの作るプログラムが、われわれの思考の代行に熟達するにつレ、当然われわれは自分の知性よりも、ソフトウェアのほうに頼るようになってしまった。精神を生成作業に駆り立てることも少なくなった。そうなると最終的にわれわれは、学ぶことも知ることも少なくなってしまう。能力も減っていく。現代のソフトウェアに関し、テキサス大学のコンピュータ科学者ミハイ・ナディーンが述べるように、「インターフェイスが人間の活動を肩代わりすればするほど、新しい状況に対するユーザーの適応性は下がる」。生成効果に代わって、コンピュータ・オートメーションは逆のものをわれわれに与えたー脱育成効果である。'
macOS、そのテキスト入力ツールを使うようになり、ストレスが上がった。
勝手な推測変換。恐らく、高速で膨大な数の中からこちらが求めているだろう正解を、数撃ちゃ当たる作戦で、ただし瞬間的にほぼ正解を示してくるようなツールだ。それが鬱陶しくて堪らない。そんなことは求めていない。自分で言葉を選択したいんだ。単語を頭の中に浮かべて、取り上げて、並べて、ときには正しくない使い方で、普通ではない在り方を選んで、そうやって文章を作る。そのことを求めているのだ。勝手な、余計な、独りよがりな便利さを押し付けないでほしい。世の中なんていうニーズ、自分ではない他人が褒め称えている便利さなんて、これっぽっちも欲しくもないものが山程あるのだ。
ようやく終わった建築工事の竣工図を作っている。現場が進む中で起こった膨大な変更内容。そもそも元々の設計図が、よく知りもしない素人のような自分が作り出したものだから、その最初の姿形がなくなってしまうくらい、書き換えなければならない、一新しなければならない図面を一斉に更新しているところだ。
ただし、いま自分が取り組んでいるようなレベルで厳密に精緻に竣工図を作る=当初の設計図を書き換えることは、普通しない。施工者が作り出した部分毎の施工図をまとめて綴じることと、仕上げ情報の更新や大きく変わった内容が後々に参照できるように、おおよそを変更点を反映すること。その程度の更新を図ることしか、一般的には行われていない。終わったことに時間と労力をそれほど掛けている場合ではないからだ。時間に余裕があるという状況があったとしても、こんなことを普通はしない。側から見たら、無駄なことをしていると受け取られているだろう。
だが、全く意味が違う。自分にとって必要で良い結果を招くと考えているから、この地味で膨大な作業を行っているのだ。仕事のためだけれど、それだけではない。自分を更新するために、自分のために行っているのだ。無駄なんてどこにも見当たらない。
'刺激のレヴェルが非常に低いとき、人は注意も向かず意欲も起こらず不活性なママで、パフォーマンスもほぼゼロのままである。刺激の程度が上昇すると、それにつれてパフォーマンスも向上し、曲線は逆U字型の左側にあたる部分を描いてやがて頂点に達する。すると、刺激が強まり続けているにもかかわらずパフォーマンスは低下しはじめ、逆U字型の右側が描かれはじめる。刺激が最高度に達したとき、人はストレスのせいで実質上麻痺してしまっており、パフォーマンスは再びゼロになる。マイネズミ同様われわれ人間もまた、学習とパフォーマンスの質が最も上がるのはヤーキーズ・ドッドソン曲線の頂点にあるとき、すなわち、難題に直面してはいるけれども圧倒されていないときである。曲線の頂点にあるとき、われわれはフロー状態に入っている。'
'…情報過少がもたらす怠惰さは、次世代の自動運転車にとって、とりわけ危険な要素になるだろうと二人は憂慮する。ステアリングやブレーキ操作をいっそうソフトウェアが引き受けてしまうので、運転席にいる人間はやることがなくなり、チューン・アウトしてしまう。さらに悪いことに、オートメーションの使用法やリスクについて、ドライバーはほとんど、もしくはまったく訓練を受けないかもしれない。よくあるタイプの事故は回避されるかもしれないが、結局のところ、ひどいドライバーたちがこれまで以上の数、路上に放たれるわけだ。'
奴隷になることを、従属することを、恐らく何ら迷いもなく選択している人々を毎日眺めていると、人間の実存や限界というものに思考は繋がっていく。諦めや悲歎しか辿り着くところがないかのようにそれはやってくるけれど、きっとそうではない。そうではないものが存在していることを、いま自分が捉えていることを同じように捉え、自分というものに立ち返り、自分というもので思考し、自分が本当に欲しているものを選択することに舵を切ろうとする人達はこの目には映らないとしても、確かに自分と同じようにこの世界で生きているはずなのだ。
'「いかに単純なことであろうと、ある技術の使用がどれだけ最初の意図を置き換え、書き換え、変更し、ねじ曲げているかに気づかないとしたら、それは単純に、われわれが手段を変えることで目的を変えてしまったからであり、意思が滑り落ちてしまったせいで、初めに望んだものとかけ離れたものを願うようになったからだ」'
'「グーグルのアーバニズムは、同社の自動運転車でショッピングモールへ行く人のそれだ。ひたすらに実用性を追い求めるもので、性質的に利己的ですらあり、公共空間がどのように経験されるかについて、ほとんど、またはまったく関心がない。」グーグルの世界における公共空間とは、あなたが死ぬほど行きたいと思っている高評価のレストランとのあいだにある何かでしかない。」便宜主義が全てに勝利するのである。'
'フェイスブックは、タイムラインなどの記録機能を通じ、会員がみずからのパブリックイメージとアイデンティティを同一視するよう勧める。幼少期から始まって、おそらく死で終わるだろう一貫した物語のなかで、展開し、一生涯持続する、単一で均一な「自己」のなかに会員を閉じこめようとする。これは、自己とその可能性についての、創業者の狭い味方と一致している。マーク・ザッカーバーグはかつて「アイデンティティはひとつだ」と言った。「仕事仲間や同僚に対してと、ほかの知り合いに対してとで違うイメージを見せる時代は、きっとあっという間に終わりになる」。さらには「アイデンティティを二つ持つことは、誠実さの欠如の実例である」とまで主張する。驚くべきことではないが、この考え方は、広告主のためにきちんと一貫したデータのセットとして会員をパッケージしたいという、フェイスブックの欲望にぴたりとはまるものである。'
'ソフトウェアを作成する人々の商業的・政治的・知的・倫理的動機を理解していなければ、あるいは、自動データ処理が本質的に持つ限界をわかっていなければ、われわれは操作されるがままになってしまう。ラトゥールが示唆するように、交換が起こったことに気づくことすらないまま、みずからの意図と他社のそれとを取り違える危険を冒すことになるのだ。テクノロジーに順応するほど、そのリスクは高まる。'
'のちにフロストは振り返っている。
だが、彼が作家として、および芸術家として認められたのは、デリーで暮らしたこの寂寥たる日々のことだった。農業にまつわる何かがー繰り返される長く単調な毎日、孤独な労働、自然の美への近さ、気楽さが、彼に霊感を与えたのである。労働の重荷は人生の重荷を軽くした。のちに彼は、デリーでの日々についてこう書くことになる。「無時間性や不死の感覚をわたしが感じているとすれば、それは、デリーで五、六年ものあいだ、時間の感覚を失くしていたことから来ているのだろう。わたしたちは、時計のねじを巻くのをやめた。長いこと新聞を取らなかったので、世間の感覚ともずれてしまった。あらかじめ計画していたり、予見していたのであれば、これほど完璧には行かなかっただろう」' -
安全性や利便性を高めるためのオートメーション化が人間にもたらす影響について、数多の事例に基づき深く考察されています。オートメーションに過度に依存しすぎることによる「人間らしさの消失」を考えるきっかけとなる一冊です。
大阪府立大学図書館OPACへ↓
https://opac.osakafu-u.ac.jp/opac/opac_details/?reqCode=fromlist&lang=0&amode=11&bibid=2000945852 -
オートメーション化された社会が人間の知性や人生にどのような影響を与えているかを事例で紹介。最終章は感動的。
-
単なる工程の自動化ではなく、人間の技能や判断を機械やソフトに任せること全般について、その問題点と人に及ぼす影響を論じている。
顕著な事例として航空機の自動運転が発展してきた経緯が解説されているが、安定的な飛行確保と操縦しやすさは飛行機にとって相反するものであるらしい。
パイロットがそれを制御し続けているからこそとっさのときに危機を回避できるのだが、自動化していると突然の緊急事態に対応できず初歩的なミスで事故が発生してしまう。
自動運転によって事故そのものは減少したが、緊急時には簡単なことでも却って重大な事故になる。
突き詰めれば何のためにパイロットがそこにいるのかという問いにつながっていくが、常に操縦していないと熟練パイロットでも対応ができなくなるというのがここでの問題。
精度よく制御しつつ最適の条件を短時間で選定するという機械能力には人間はかなわない。
ただしとっさの場合や想定していない場合の判断は機械にはできない。
機械だけでなくソフトも同じ。
記憶や事例に基づく最適条件の選定は人の頭脳をはるかにしのぐ。
ただ、それは理解や問題解決の成果ではなく、膨大な過去データから短時間での選定に過ぎない。
そしてより深刻な問題は、人が本来は道具であるべき自動化システムやソフトによって自らの思考や判断を制限され、限られた選択、範囲内でしか世界と向かい合えなくなるということ。
本来人が持っている感覚や感性を自動化が封じてしまう。
そして感性を持つ機会をも減らしていってしまう。
ルンバは虫をも吸い込む、自動草刈機は小動物をも狩る。
自動運転の車は飛び出してきた動物と自身の損傷のどちらを選択するのか、軍用ロボットは民間人と戦闘員の区別があいまいな時には何を優先順位とするのか…。
これはそのソフトが作られる背景とは無関係ではいられず、そこには直接操作する人の意志は入らなくなる。
グーグルで検索した結果や地図は誰にとっても同じ結果ではない、それはサーチエンジンやPC履歴による選択や選別等余計なお節介によりカスタマイズされた世界。
人が忘れてはいけないことは理解すること、考えること、その上で判断すること…。
でもそのための材料そのものがあらかじめ選択されていることを認識しておくことが一番大事なのかもしれない。