- KADOKAWA (2024年8月26日発売)
本棚登録 : 291人
感想 : 21件
本ページはアフィリエイトプログラムによる収益を得ています
Amazon.co.jp ・本 (368ページ) / ISBN・EAN: 9784041118450
作品紹介・あらすじ
人々の「関心」が価値をもち取引される世界――アテンション・エコノミー。
この情報空間が私たちの自己決定から民主主義の行方までを左右する。
デジタル社会の法秩序論（憲法学）の第一人者がその突破口を探る。
【目次】
第１章 変容する言論空間
対談――メディアに与える影響 新谷学（株式会社文藝春秋取締役・総局長）
対談を終えて ナビゲーションを受ける自由と、ナビゲーションからの自由
対談――コミュニケーションの変容と法（code） 水谷瑛嗣郎（関西大学社会学部准教授）
対談を終えて 情報空間に対する国家の“現れ”という難問
第２章 個人情報と広告
対談――アテンション・エコノミーとプライバシー・個人データ保護 森亮二（弁護士）
対談を終えて 個人データに対する主体性は必要か？
対談――広告ビジネスの行方 馬籠太郎（株式会社電通デジタル）
対談を終えて 「クリエイティブ」は本当にクリエイティブなのか？
第３章 認知の仕組みと自己決定
対談――認知神経科学から見た認知と自由 下條信輔（カリフォルニア工科大学 ボルティモア冠教授）
対談を終えて 「やわらかいクッション」による対抗と「自由」
第４章 生成ＡＩがもたらすもの
対談――生成ＡＩが人に与える影響 栗原聡（慶應義塾大学理工学部教授）
対談を終えて 憲法ＡＩと民主主義
第５章 民主主義の再考
対談――これからの民主主義 結城東輝（弁護士／スマートニュース株式会社）
対談を終えて 「民主主義」の均衡（バランス）を再定義する
第６章 ネット空間の行く末
対談――インターネット文化と思想 木澤佐登志（文筆家・ブロガー）
対談を終えて 私たちが向かう場所、そして憲法――あとがきに代えて
みんなの感想まとめ
人々の「関心」が取引される現代社会における問題を深く掘り下げた本書は、デジタル時代における言論空間や広告、個人情報の扱い、さらには生成AIの影響についての対談を通じて、私たちの自己決定や民主主義のあり...
感想・レビュー・書評
-
コメント0件をすべて表示
-
人間の判断や感情は操作できるものである。人間は常に深く考えることはできない。そのような新しい人間像を私たちは持って、それに基づいて民主主義をアップデートする必要があるし、市場原理にもなにかしら歯止めをかける仕組みが必要というのが基本的なメッセージ。法にはそもそもそういう考え方が全然なかったわけではなくて、あらかじめルールを作って人間の行動を制限しておくとか、フェイルセーフの仕組みを作っておくというものである。市場競争の中でそれをどうルール化するかが難しいところ。
教育によって、あらかじめ人間に免疫をつけさせていおく、ということもひとつの方法として提案されている。確かに教育は、ビジネスの影響を直接受けにくいところだから、そのような教育の実現は可能かもしれず、実現すれば政治に対しても広告に対しても効果があるかもしれない。そのためには教科書をちゃんと作る必要がある。
４章「生成AIがもたらすもの」の章は若干話が繰り返し、浅いという印象があった。そこで言っているのは、生成AIは格差や分断を悪化させる一方で、問題を改善するために、ドラえもんがのび太にするように、人間をしつけてくれるAIの実現も可能なのではないか、という話。これはいかにも大学の工学者と思わせられるような、ある種の夢のある話ではあるが、ユーザーに短期的な利益を放棄させるようなAIは実装することは難しくないにしても、広く使われることになるとは考えがたく、社会を良い方向に変えたり悪化のブレーキをかけたりするような社会的インパクトは期待できないと思った。
面白く読めはしたが全体的な印象としては、対談形式で書かれた本というものは、話が横に広がりはするけど、同じことが繰り返されがちになり、効率的に前には進みはしないものなのだなと思った。
5
-
アリスが落ちたラビット・ホール 底なし沼
p6 アテンションエコノミー このビジネスモデルの下では、ユーザのクリック＝反射を得られるかどうかが至上命題になるため、内容のクオリティや信頼性はどうでもよい。そこでは当然ながら、丹念な取材をもとに書かれた退屈な真実よりも、「クリックを得られる刺激的で魅惑的な偽情報のほうが経済的な利益を生むのである
p7 人間は認知バイアスとして、繰り返し同じ情報に接触することでその情報を正しいと感じるようになるという、真実錯誤効果 illusory truth effectをもつ
p9 マイクロソフトの研究では、デジタル化の影響で、人間の注意持続時間が、集中力がないことで知られる金魚の平均的な注意持続時間（９秒）を下回ったと報告されている
p37 ヤフーは、ヤフコメの順位付けにすでにAIを導入していて、建設的なコメントが上位に行くようになっている。 またコメント多様化モデルを導入して、AIが同じ意見ばかり並べないようになっている
p45 プロパブリカ NPO 調査報道のみ
フランス メディアパルト
p70 SNS パーフェクトスロットマシン、デジタルクラック・コカイン
p78 アテンショナルコモンズ
p77 衆議院 任期４年だが実質１−２年で解散 アジャイル 参議院 任期６年で３年毎に半数が入れ替わる 実はスロー
p81 テクノロジーは中立ではない 多くの人は人間より機械のほうが中立公平だと思っている節がある
p136 ケンブリッジ・アナリティカの事件
p187 いまや広告コンテンツは、ユーザのアテンションやコンバージョンを示す詳細なデータをもとによって、逆算してつくられる。
創造的に作るのではなく、データがあるいはAIが作るようになる
クリエータはコンテンツをクリエイトする存在でなく、データの手先であり、奴隷ということになるだろう
p194 下條信輔 サブリミナルインパクト ちくま新書
p198 だれもが鉄板の真実として共有できるものがなくなったことに私は危機感をもっている
p203 よく子どもは、あんなにゲームばかりしていて大丈夫なのですかといった質問を受けることがあるのですが、初期の論文でhあ、むしろ頭がよくなるという知見のほうが多いんですね。何がよくなるかといえば、注意の集中力が高まるという皮肉な結論なのですが。つまりそれは下手をすると、アテンション・エコノミーに引っ狩りやすくなるということにもなるのでしょうか。
p206 フロイト（心理学）とチューリング（情報科学）の強力なタッグに、カント（啓蒙哲学）はもう太刀打ちできません。
規範を内面化させるような道徳的倫理的な規制をしても、心理学や認知科学を応用した現在のテクノロジーには対抗できない
p208 心理学的介入には心理学的対抗を 予防接種李理論
心理学的に徹底的に基づいたリテラシー教育などを行い、誤情報などに対して事前に免疫を作り、将来の心理操作に対する抵抗力を鍛える
p225 認知的共感(合理的な判断に基づく共感）は政治には必要だが、情動的共感は害のほうが多い
アテンション・エコノミーでは、刺激的な情報を用意して、注意をトリガーすると、それに連動して情動的な反応が喚起されます。ディープフェイクについても、それがあとで否定されたとき、論理的な認知の部分では完全に消えたとしても、情動的な反応は抑制されないでのこるという図式で、よく理解できます。
p229 共感についてはバイアスが悪いというよりは、注意がなにかに引き付けられ、それを記憶、ないし情動に固定化する認知メカニズムが本来生物学的に人間に沿わなっており、元来は適応的だったが、現代のテクノロジー環境の中で不適応をきたした
p237 現代のアテンション・エコノミーが恐ろしいのは、私たちの注意を、経験や勘ではなく、認知科学の知見を踏まえた情報テクノロジーによって、意図的かつ自覚的に操作できるようになったということである。AIの時代とは、認知科学が急速に発展し、その知見が生活の至るところに配備される、認知科学の時代ということもできる。かつて消費者保護の文脈では、事業者消費者間の情報の非対称性が説かれていたが、今後私たちが気にしなければならないのは、認知の非対称だろう
p240 自由のためには、私たちが認知的に脆弱な弱い存在であることを自覚し、他者からの認知的介入に対して抵抗力をもっておく必要がある。
p248 生成AIのしつけが大事
ChatGPTと同じくらいの大きさの大規模言語モデルは、googleもfacebookも開発していて、openAIより前に公開したのですが、半社会的なことを言ったり間違いだらけだたっため、公開をすぐ止める事態にとなったのです。
それから一年ほどしてopenAIが公開したのがchatGPTなのです。では、１年間、彼らが何をしていたかというと、開発ではなく、chatGPTのトレーニングです。１年間かけてひたすら、反社会的なことや倫理に反することを言わないようにトレーニングをした
どういう手ほどきをしたか今のところ見えてこない。手ほどきに部分はやはり透明化すべきと思います。
p249 逆に危険なのは、アライメントが施されていないAIがどんどん開発され、野に解き放たれているということです。
p251 AIを使いこなすためには、人工知能にどう入力するか、プロンプトが重要です。
つまり、生成AIを使うためにはちゃんとした文章を書かないといけない
生成AIが登場してきたいま、なんと蓋をあけたら、最新型の人工知能を使うには超アナログな能力が必要だったということです。
p284 プラトン、ソクラテス以来、先人たちはずっと民意、大衆に意思決定権を与えることへのリスクを説いてきました。結果的に、君主制、共和制など様々な政体がためされ、現在の代議制民主主義が発展してきたわけですが、結局ほとんどの先人がおそれたような大衆迎合的な民主主義に対してよき対策をまだ人類は出せていません。
p286 今までは、積極的に望んでいないものを目にする機会が、いわば強制的に与えられてきた
今は一人にデバイス一台
AIがこのユーザはこういった動画に反応がいいなということで似たような動画を流してくる。
でもそれは、ユーザが本当に見たいと思っているものなのかは不明。望んでいる求めているものなのか。
反射的で無意識な認知システムを刺激されて、見させられているという部分もあるのではないか？
p295 駒村圭吾 主権者を疑う ちくま新書
アルゴリズムを神とみなし、また人間が主権を神に委ねてしまう世界が遠くない将来に来るのではないかと思っています。
p296 JAPAN CHOICE
p296 それらを見続けた結果、徐々に自らの投票先が自然に決まっていくのです。有権者の投票に関する意思決定が間接的にアルゴリズムに支配される状況があちこちで現出していたわけです。
p297 人間が思考を処理するとき、システム1（自動的で速い処理）とシステム２（意識的で遅い処理）の２つのモードがあるという考え方があります。人間がシステム２を常に駆動させて民主的な意思決定を下し続けるのは困難ですが、選挙期間のように、熟慮、理性を働かせて意思決定しなければいけないタイミングだけは、システム２を駆動できる情報空間を設計しておきたい
p302 アテンション・エコノミーの文脈において民主主義が維持されうるとすれば、それは他者の認知、他者の共感がキーになる
いかにシステム２を働かせるか いかに共感を駆動維持させるか
p304 アメリカは地方紙が１週間に２紙ずつ廃刊
p305 smartnews アメリカ版 news from all sides ユーザがあるトピックについて、保守寄りの意見を見たい、リベラルよりの意見をみたい、中道の意見を見たいと思えば、それぞれの基準に分類された記事を左から右に調整しながら選択できる。フィルターバブルに閉じない
p307 ボストンの歴史学者 無料のニュースレター letters from an american コメントが有料
p304 民主主義の統治とアルゴリズムによる統治とをミックスさせたハイブリッド型の政治システム わたしたちの情動的な要素と、AIの数理的統計的な要素をかけ合わせたもの
p316 カーネマンの二重過程論 人間の思考モードにはシステム１（反射系）とシステム２（熟慮系）のふたつがある
p321 ニック・ランド 暗黒の啓蒙書
p328 スワイプするという行為によって、自分で決定しているという感覚を作り出している tinder,tiktok
p332 現在のアテンション・エコノミーでは、システム１の世界が異様に拡大してきている
人間には自他を傷つけようという私心人心と道徳的な道心が同居してる 二宮尊徳
p334 システム２を使って反省的に熟慮するというのはどても面倒くさくてコストがかかる。だから人はこれを回避したいという欲望がある
p342 AI規制では、常に透明性が説かれる
AIは結局、人間の過去の歴史をデータとして学んでいるので、AIによる差別は、人間による差別の一つの表現でしかない
p352 インドネシアの大統領選挙では、TikTokにダンス動画を投稿した踊るプラボウォ・スビアントが（かつでは民主化運動を弾圧した強面であったのにかかわらず）若者からかわいいなどと形容され、勝利を収めた
これは私たち人間が、選挙時でさえもアテンション・エコノミーの広告的リズムの中で反射的に思考行動しつつあること、市民としての公共的理性を失いつつあることを象徴的に示しているように思われる
p353 生まれたときからアテンション・エコノミーの世界にいるアテンション・エコノミーネイティブにとって、見たいものを見る、言いたいことを言う、投稿がバスれば承認だけでなく、収入も得られるという文化こそが彼らの唯一の文化なのかもしれない
p355 アテンション・エコノミーを可能にしているのは、個人データを用いて個々のユーザの属性等とAIに分析させるための技術、プロファイリングである。DMA(EUのデジタル市場法）は、この技術にメスをいれることで、アテンション・エコノミーの行き過ぎに対処しているように思える
p356 2024/3に欧州議会で可決したAI法は、人間の意識を超えたサブリミナル的技法や、操作的欺瞞的な技法を意図的に繰り出して人間の自律的で熟慮的な意思決定能力を奪い、個人や社会に重大な損害を与えるようなAIシステムを禁止している
2
-
ネット社会以降人間の注意持続時間は、
短いことで有名な金魚を下回る
という大変キャッチーな言葉から始まり、
エコーチェンバーの話、広告と法の見通し、広告業界のクリエイティブ、認知心理学の観点からetc非常に幅広く網羅的に語られていて
大変面白かった。はー面白かった。
1
-
法律家の思考回路を垣間見たように思う。
今私はITエンジニアとして働いていて、昔は飲食店で働いていたこともあるが、およそ多くの仕事では早さが強い武器になる。
裏返せば、遅い、長いというだけで大きなロスを生む。
それが故か、普段から裁判手続き、法律の改定、政治討論、議会、教育システムの進化などが鈍足過ぎて、それが多くの社会の歪みを生んでいると考えていた。
本書も冒頭からどうも読みにくく、くどい、重い、冗長だと感じて仕方なかった。
特に「慎重に議論する必要がある」といった言い回しには「本当に社会を改善する気があるのか？結局意見ばかりでアクションが伴ってないのではなんの意味もないのでは？」と疑念を抱かずにはいられない。
しかし、本書のある部分で、私のその考えに対する回答を見つけられた。曰く、
法律には解釈の余地があって、その解釈の妥当性を裏付けるために徹底的に説明を尽くさなければならない。
システム2を働かせるために、しっかりと考える時間を設けることが必要。
なるほど、だからだ。
もちろんスピーディであることは「三文の得」であることにあることに変わりはないし、早さの益は、経済合理性だけでなく、例えば人命救助や被害の拡大を抑えるといったことにも関係してくる。
枝葉末節、長々と議論を尽くせばいいというものでもないので、そこはTPOに応じて柔軟にする必要はあるだろう。
長くなったので全文はnoteにて公開。
https://note.com/ronnio/n/n6fe0f77e32ad
1
-
生成AIを本当に使いこなせる事ができるのは「アナログ的」なスキルに精通した人材であると言うコメントが目から鱗であった。考えてみれば当然で、生成AIは元々人間にトレーニングされたものだからだ。
現在進行形の「エンゲージメント獲得競争」のからくりについて詳細に、識者との対話を通じて浮き彫りにしている。それが今後の社会にもたらすリスクについても良く理解出来る。
しかしながら、やはり人間は「パブロフの犬」や実験用モルモットとはいささか異なると思う。つまり、アルゴリズムによる誘導が「何かおかしい」と言う感覚、ダマシオの唱える「ソマティック・マーカー仮説」を体現する存在である筈とも思う。人間はそれだけ歴史を積み重ねて進歩して来ている筈で「パブロフの犬」に突然変異する様な危うい存在とも思えない。現在の「アルゴリズム」はその様な「パブロフの犬」への変化の誘因となるとすると、過去の人間の「経験値」をも凌ぐわけで、その様な「退行」の予防の為には「個」としての精進しかないとの思いを強くした。
1
-
1
-
アメリカ大統領選挙や兵庫県知事選で話題のSNSによって作り出される世論。
対談形式でそれぞれの専門分野から歴史も踏まえて解説してくれる。
人の本能的な所にまで食い込んでいるアテンションエコノミーを前提にした社会システムを考える必要がある。
1
-
アテンションエコノミーという言葉をはじめて聞いたので衝撃となるほどがありました。
関心が取引されている、関心を得るためのアルゴリズムによって、人々の思考がコントロールされている、この点は納得できるものです。今に始まったことではないが、その量とアルゴリズムとsnsとが合わさりより深刻になっているのもその通りだと思いました。
一番衝撃だったのは、フェイクニュースに代表される情動的な情報は、後でデマだとわかっても効果が潜在意識に残ること、そして人は顕在意識よりも潜在意識に左右される傾向があるとことです。ファクトチェックを公開すれば改善できると思っていたのですが、これだけでは不十分だとわかりました。
後半の対談はよく理解できないところもありましたが、理性的な民主主義を目指すのか、国単位の支配を過去のものとして退出自由なクラスターを目指すのか、考えさせられる内容でした。
0
-
日常生活の中で意識せずに使用しているインターネット世界で起きている事象のうち、その仕組みを提供しているプラットフォーム企業の位置付けを明確にする試みが、著者とIT関連の学者や事業者との対話であからさまになってくる経験を与えてくれた．知らないうちに特定のサイトに誘導されたことは頻繁に経験しているが、アテンション・エコノミーとして改めて議論されていることを知り、このような事象を真剣に考察している人たちがいることに何故か安心感を得たのはなぜだろう．表現の自由の価値を再認識する機会を得た感じがしている．事実錯覚効果、匿名表現、プロミネンス政策、情報的健康、デジタル立憲主義、自由放任、適切関与、情動的共感、認知的共感、ハイブリッド型の政治システム などなど目新しい言葉が頻出だった．個人データ保護の観点で、「まずはやっぱり同意説」と「特に同意はいらんよね説」に分けた議論が面白かった．
0
-
トランプ大統領、兵庫県知事など「なぜ？」と思うことのひとつの答え、問題の分析をしてくれたと思う。スマホへの粘着性を生むアルゴリズムはビビる。意識してスマホから遠ざかってみた。
0
著者プロフィール
山本龍彦の作品
