そろそろ、人工知能の真実を話そう

著者 : ジャン=ガブリエルガナシア 伊藤直子 小林重裕

• 早川書房 (2017年5月26日発売)

作品紹介・あらすじ

人工知能（AI）は言うほどまだまだすごくない。シンギュラリティは来ない。人類がAIに支配されるとのたまう悲観論者を信じるな！　空前のAIブームに潜む「大うそ」を、フランス人哲学者が宗教論的アプローチを駆使してラディカルかつロジカルに暴き出す

感想・レビュー・書評

[よっしーさんの感想 · 2022年11月28日]

著者の伝えたい事は第八章に見事に要約されていると分かった。
最初は専門用語も多く、少し難解だと感じたが読み進めるにつれて、著者の哲学的思考とデータを生かして過去の偉人の意見を引用したりとか、GAFAの政治的な進入について警告を出したりとかしてるところが割りと読んでいて面白いと感じました。
そして、この本を読んで、今後の科学や政治といった情報を鵜呑みではなく背景にシンギュラリティの仮説があるんだろうなという前提で判断できるいいきっかけになったと思いました。

[torumatsukiさんの感想 · 2020年12月3日]

シンギュラリティとは神話であり、説得性に欠ける代物。

GAFAMにより喧伝されているが、裏には巨大IT企業の陰謀を見ざるを得ない、との主張。

技術論より主に哲学の視点から述べており、邦題はミスリーディングかもしれない。

[dai-aiさんの感想 · 2020年3月24日]

●最初のシナリオはSF小説だった。1980年代、アメリカのSF作家、ヴァーナード・ヴィンチの小説によってシンギュラリティーと言う言葉が広く世の中に普及したのである。
●すべての理論に共通するのは、テクノロジーの進歩が制御できないほどに加速化していくだろうと言う予想と、その結果、もう引き返すことができないほどの重要な変化が生じ、この変化に対して、われわれに為せる事は何もない、と言う考え方である。
●ムーアの法則には、物理的な限界がある。ただしそれでも人間の脳を遥かに凌駕する。
●コンピュータの演算能力と、知能を再現する能力には、直接的な関連性は無い。仮にムーアの法則が通用するとしても、超賢いコンピュータが誕生するとは言いきれない。

[valleysideさんの感想 · 2018年3月11日]

目次は以下のとおり。
・状況は切迫している（らしい）
・シンギュラリティ
・指数関数的な爆発
・コンピュータは自律できるか？
・現代のグノーシス
・来たるべき未来
・シンギュラリティと終末論
・偽りの人類愛

原題のフランス語をグーグル翻訳にかけると、「特異性の神話 人工知能を恐れるべきか？」なので、邦題とはおもむきが異なるイメージ。

読んでみると、この本には、マシンラーニングやディープラーニングなどの技術的、学術的、事例の類は書かれていないので、邦題からのイメージだけで買った人はなんじゃこりゃ？と思うかもしれない。

本の流れとしては、シンギュラリティブームの火付け役のレイカーツァイルが言ってることって信用に足るものなのか？という点を論破していきながら、このブームに乗ってる米国企業は、悲観論を前面に出しつつ、自分達は悪くないという防御線をはり、更に、国が持つ特権を密かに侵害しとるという警告の書。

これまでいくつかの人工知能本を読んでいたので、この本の仕立てについて、自分は好意的な印象。

著者が哲学者って言うのもいいし、フランス人って言うのも良い。個人的には、フランスって過去の人工知能ブームで先導していたイメージがあるので、その国からこういう警鐘が出つつも、自国ではいろいろやってるんだろうなぁと思わせる感じは好き。

「トーマス・クーンが「パラダイムシフト」と称した既成概念の変化は、既存の概念が確立されるよりも、はるかにゆっくりと偶発的に進むものである。ひるがえって、今日の機械学習の手法は、既知のデータから経験的法則を求めることは得意だが、新たな概念を創造するまでには至っていない。教師なし学習では、期待されるものの、新たな概念を創造創造するどころか、概念装置すら想像できていないのが現状。」

ジョン・サールが、1980年代に「中国語の部屋」論文の前書きで、強い人工知能と弱い人工知能という言葉を作ったのは知らなかった。 この強い人工知能、弱い人工知能というのも、弱いイコール専門機能、強いイコール汎用機能という整理になって、今でも使われたりするので、認識の整理という点では、使い勝手が良さそう。

グノーシス主義との関連性については、ちと難しかった。

シンギュラリティと終末論の章では、「円環としての時間」と「無限の直線」という、人類のもつ概念から、特に一神教がもつ終末論的発想からシンギュラリティが導き出されていると論じ、更に、これはヒューマニズムの名の下に進歩を限りなく続けていこうという理想を持つ啓蒙主義とも違うと。

この本を翻訳したチームは凄い。だって、この一般受けしなさそうな骨のある本を翻訳してくれたんだもの。日本語で読める事に感謝。そして、後書きには、東大名誉教授の西垣通先生の気合の入った論説。

この本は、かみごたえがあり、前提のいくつかの本を読んでおくとより楽しめるのではないかと思う。自分は、レイ・カーツァイルの『シンギュラリティはちかい』はもちろんのこと、佐藤優氏の『牙をとげ』の第2章あたりを読んでいたので、この本が楽しく読めました。

じっくり読んで考えて楽しむという本。

[tamamura57さんの感想 · 2017年6月18日]

レイ・カーツワイルを筆頭にビル・ジョイやスティーブ・ホーキンスなどが主張するシンギュラリティをその源流となったＳＦなどを振り返るともにその成り立ちを考察、ムーアの法則には斉一性が無い、汎用人工知能は実証的アプローチが無いまま仮像と化しているなど、論理的な批判を展開し、更にはキリスト教・ユダヤ教などの一神教の宗教観にも言及し、現代のグノーシス（現世の否定、二元論）と看破する。世界のトップＩＴ企業がその支配力を強めるための隠れ蓑としてシンギュラリティを利用しているというのが著者の主張です。アングロサクソン（最近腰砕けですがｗ）が主導するグローバル資本主義に否定的なフランス人らしい思想がとても興味深く読めました。日本人的にはシンギュラリティは面白いからネタにするけど誰も本気にしていないと思うのですが、こんな本がわざわざ書かれるという事は、一神教の人たちは本気で心配している人が多いのでしょうか、とても気になります。

[osawatさんの感想 · 2023年5月9日]

☆シンギュラリティ仮説はグノーシス主義と類似。　解説（西垣）AIの深奥にあるのは一神教的な文化。

[suさんの感想 · 2020年1月29日]

シンギュラリティはじめ人工知能に潜む危険について考えさせられる。

[takeutさんの感想 · 2018年12月30日]

１．この本を一言で表すと？
・シンギュラリティという概念を否定した本
２．よかった点を 3〜5 つ
・シンギュラリティがムーアの法則に依存しているのは確かにおかしいと感じる (p20)
２．参考にならなかった所（つっこみ所）
・現在の技術レベルが低いことを理由に、自律するコンピュータが起こりえないとするのは論理に無理がある(p68)
・第五章 現代のグノーシス は主張がよくわからない。シンギュラリティとグノーシスが似ているから…どうなの？
・第八章 ネット企業のシンギュラリティに対する姿勢を批判しても、シンギュラリティは起こらないとは言えない
し、シンギュラリティそのものを否定することには論理的につながらないのではないか？
4．全体の感想・その他
・シンギュラリティを否定するのには全体的に根拠が弱い。
・技術的な側面については、あまり得るものはない。

[波瀬龍さんの感想 · 2018年10月28日]

【由来】
・

【期待したもの】
・
※「それは何か」を意識する、つまり、とりあえずの速読用か、テーマに関連していて、何を掴みたいのか、などを明確にする習慣を身につける訓練。

【要約】
・

【ノート】
・途中（P79）までで時間切れだが、何か、否定しているロジックがダメダメな気がする。自分のことを頭がいいと信じてて、その自分が言ってるからダメなのは明らかだろ、という感じがする。が、それは自分の読み込みが浅いからかも知れないので、もう少し丁寧に読んでみないと。

【目次】

[ハマーさんの感想 · 2018年6月2日]

AI技術そのものではなく、「シンギュラリティ」という言葉の構造が露わにされている本です。
著者は哲学者でありながらCS教授としてフランスの人工知能研究チームのトップを務めている人のようで、表紙の雰囲気の割にはポピュラーサイエンス本のような内容では無く、哲学の知識を幾分か持ち合わせていないと難しい内容かもしれません。