- 講談社 (2025年1月23日発売)
本棚登録 : 409人
感想 : 39件
本ページはアフィリエイトプログラムによる収益を得ています
Amazon.co.jp ・本 (208ページ) / ISBN・EAN: 9784065384671
作品紹介・あらすじ
「ＡＩは人類を上回る知能を持つか？」
「シンギュラリティは起きるのか」。
今世紀最大の論点に機械学習に精通した物理学者が挑む
チャットGPTに代表される生成AIは、機能を限定されることなく、幅広い学習ができる汎用性を持っている、そのため、将来、AIが何を学ぶかを人間が制御できなくなってしまう危険は否定できない。しかし、だからといって、AIが自我や意識を獲得し、自発的に行動して、人類を排除したり、抹殺したりするようになるだろうか。この命題については、著者はそのような恐れはないと主張する。少なくとも、現在の生成AIの延長線上には、人類に匹敵する知能と自我を持つ人工知能が誕生することはない、というのだ。
その理由は、知能という言葉で一括りされているが、人工知能と私たち人類の持つ知能とは似て非なるものであるからだ。
実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。そこで、本書では、曖昧模糊とした「知能」を再定義し、人工知能と私たち人類が持つ「脳」という臓器が生み出す「ヒトの知能」との共通点と相違点を整理したうえで、自律的なAIが自己フィードバックによる改良を繰り返すことによって、人間を上回る知能が誕生するという「シンギュラリティ」（技術的特異点）に達するという仮説の妥当性を論じていく。
生成ＡＩをめぐる混沌とした状況を物理学者が鮮やかに読み解く
本書の内容
はじめに
第０章 生成ＡＩ狂騒曲
第１章 過去の知能研究
第２章 深層学習から生成ＡＩへ
第３章 脳の機能としての「知能」
第４章 ニューロンの集合体としての脳
第５章 世界のシミュレーターとしての生成ＡＩ
第６章 なぜ人間の脳は少ないサンプルで学習できるのか？
第７章 古典力学はまがい物？
第８章 知能研究の今後
第９章 非線形系非平衡多自由度系と生成ＡＩ
みんなの感想まとめ
知能の定義やその本質について深く考察する本書は、人工知能と人間の知能の違いを明確にすることを目指しています。著者は、生成AIが自我や意識を持つことはないと主張し、知能を「世界をシミュレートする装置」と...
感想・レビュー・書評
-
この肉体を守りたいとか、この肉体を満たしたいという、個々に与えられた身体に帰属するミッションが自我であり個性だが、その上層で思考する（最適解を検討したり、推理したり）部分は能力差や経験差はあるものの、査定可能で大差はない。大差はないから、相手の思考をある程度見抜く事が可能なのだ。
だとしたら、自我と知能は区別すべきである。本書もズバリ言い切るが、我々が「知能」として特別視してきたものは、既にAIが代替出来ていて、チューリングテストには軽く合格するし、人知の応用を必要とする問いにも答えられるレベルだ。
人間と人間以外を区別するのは「知能」ではない。まあ、直観的にも分かる気はする。人間と同じ言葉を話し、思考力を持った猫や犬が誕生したとしても、人間とは言わないのだから。
擬人化して自らの理解可能な物語に取り込む所作は、人間を上位に置くから可能であり、その限りにおいて「知能」とは人間だけの専売特許であった。擬人化、同族化の決定権は神である人間のみに許されたはずだ。
同族以外は、利用すべき道具である。
道具を上手く使うために優れた知能が必要だ。異なる存在がより優れた知能ならば、自らが道具になる可能性がある。道具化の覇権を争う関係性になりかねない。
ー 我々が知的な作業だと思っていたものは別に知能などなくても実行可能なタスクだった（我々はそれを知能を使ってやっているにしても）
しかし、そんな一抹の不安こそ人間である事の証左となる。人間とは、知能が存在証明になるのではなく、身体から生じる「感情」こそ、一個体単位にユニークな存在なのだから。つまり、知能は普遍的で、感情こそ唯一性があるのだ。
本書を読んで、そんな事を考えた。
77
-
「シンギュラリティ」の実現可能性に代表される生成AIの話題が出るたびに、期待も不安もどこか極端な話に傾きがちだなと感じる。本書は機械学習に詳しい物理学者が書いているので、違った視点を得られるのではと期待し手に取ってみた。
筆者は前提を一度ばらす。そもそもタイトルにある、「知能」の定義はヒトの脳ですら固まっていない。私たちは日常的に「知能」という言葉を使っているが、その中身を説明しようとすると途端に曖昧になる。これでは人工知能のシンギュラリティや、人工超知能、汎用AIといわれても定義が定まらない。ふむ。
著者の定義は知能を「世界をシミュレートする装置」と捉える。そのうえでヒトの脳と生成AIを比べながら、その共通点と決定的な違いを整理していく。人間が少ない経験から学べる理由や、シンプルな古典力学を脳が採用し、だから脳のエネルギー効率は高いといった話は興味深い。知能を能力ではなく仕組みとして考えると見え方も変わってくる。
また著者は、生成AIが汎用性を高め、将来どこまで広がるか分からない存在であるまでは認めている。ただし、そのまま自我や意識を獲得し、人類を脅かす主体になるというストーリーには与しない。「シミュレーション装置」である現在の生成AIの延長線上には、人間と同質の知能や自律的な意志は見えてこない、という姿勢を貫く。それは恐怖を否定するための楽観論ではなく、あくまで技術の仕組みを踏まえた線引きなのだと感じた。
終盤で念押しされる、生成AIを「非線形・非平衡・多自由度系」と捉える考え方も印象的だ。AIの振る舞いが予測しにくかったり、変な画像をときに奇妙に見えたりするのは、人間とは異なるやり方で世界を近似しているからだ、という。AIを万能視するでも過度に恐れるでもなく、仕組みを理解し、「何者なのか」を理解したうえで付き合うことが肝要。この本はその見取り図だと思えば良いのだろう。
少し引いた場所から全体を見渡そうとする姿勢が一貫しているのだが、章末コラムも味わいがあってよい。ところどころで、生成AIは物理学者が開発できたはずだった、と悔しがるのもおもしろい。
9
-
AIの歴史や概要について掴むのにわかりやすい本。人工知能の研究に、人間の知能から進めていって行き詰まり、全く異なるアプローチが今の人工知能に繋がるというとは面白い。
そういう観点で見ると、今の生成AIはスカスカで、自我に繋がるものでなく人間の脅威に当たらないというのは論理的にすっきりしている。
また、人間の脳も現実のシミュレーションの一種に過ぎないというのもなるほどと納得できる。
しかし、今後のAIの進歩についてはどうなるのかという点はあまり書かれていない。
画像と深層学習の組み合わせを考えれば、現実社会への浸透はどんどん進んでくるだろう。
そもそも人間の生活のほとんどは知能ではなく、習慣とルールで成り立つものであり、自我のないAIで十分対応できるもの。
効率的な社会の実現により、ますます多数の人間が不適合になるのではないかと危惧している。
2
-
借りたもの。
AI研究の歴史を概観しつつ、現在の生成AIを「非線形非平衡多自由度系」という物理学の概念を用いて分析している本。
松尾豊『人工知能は人間を超えるか』( https://booklog.jp/item/1/4040800206 )でも言及されていた過去の知能研究や、脳の機能を比較して、その違いを踏まえた上で、物理学的な考察へと議論が展開されていく。
AIと人間の脳を「現実世界のシミュレーター」として比較する視点が提示されており、両者の違いを非線形非平衡多自由度系――多くの要素が複雑に影響し合い、予測が難しいシステムのようだ――から解説。
何より、AIが自律的に進化して人間を超えるというシンギュラリティの可能性についても、著者は懐疑的な見方を示している。
何故なら、人間の知能――生物学的知能――と、AIの「知能」――アルゴリズム的知能」――が構造的に別物であるためだ。
AIが大量のデータを効率的に処理できる一方で、人間のような柔軟性や少ないデータからの学習能力に欠けている点を指摘。
…しかし、人間の脳然り、ディープラーニングさえもその解析の行程がブラックボックスであろうし、私自身がこの分野に無知なので……私は読んでいて次第に、人工知能は似て非なるものでありながら人間とは異なるアプローチで自我のようなものを持つのではないか？とファンタジーな妄想に走ってしまいそうになる。
だが、それもお門違いなのだろう。
「知能」とは現実世界をシミュレートするための装置であると定義しなおす。
人間の脳もAIも、それぞれの方法で外界のモデル（仮想世界）を頭の中に作り上げ、未来を予測したり判断を下したりしているという視点で語る。このシミュレーター理論によれば、一見共通する機能を持つように見えるヒトとAIの知能も、その中身は大きく異なってゆく。
すなわち、人間の脳は“「もっともありそうな」仮説(実用的な近似)を無意識に選んでシミュレーションする”のに対し、AIは“人間とは異なるアプローチで「それらしく見える」世界を作っている”に過ぎない事を指摘している。
あとがきには姉妹シリーズである講談社ブルーバックスから出ている『はじめての機械学習』( https://booklog.jp/item/1/4065239605 )も紹介。
…こっちを先に読んだ方が良かったか？
2
-
著者自ら評価する通り、生成AI研究の間近にいながらその可能性を見抜けなかった人なので、この人の未来に関する見通しはアテにならないが、これまでのAI 研究の経緯や動作原理などは非常にわかりやすく書かれていて、素人でも十分に深いところまで理解できる。自然言語処理がこう言う原理で動いていたなんて驚き。単純に確率だけで次の言葉を選んでいると思っていたが、脳内(メモリ内？)に関連度の距離に関する地図を持っているのね。その意味では人間の言語処理と似ていると思った。その地図がもっと精巧で広範囲になればヒトが持つスキーマに近いものになると思われる。恐らく時間の問題だろう。
ただ知能が高いことと、意思や感情を持つことは全く別なので、ロボットが人間を支配するようになるには別の発明が必要になるだろう。そしてそれは案外良いことなのかも知れない。少なくとも自民党の爺さん達よりは優秀そうだ。
2
-
議論の設定だけをみれば、昨今のAi技術の興隆の中ではありがちなもののひとつであるが、物理学者としての見地と、過去の研究におけるAI技術のブレイクスルーとの類似性といった観点からの解説は、哲学上の議論やAI開発者の理論とも異なる視座として貴重に思われた。内容自体は比較的初学者にも優しい。
1
-
結局、知能とはなんだったのだろうか。人間の脳については分からずじまいだ。生成AIとは、人間の脳の仕組みをまねることをあきらめて、単に人間の脳と同じようなはたらきをしているように見えるもの、と考えていいのだろうか。技術の進歩によってそういうものを作ることに成功したということなのだろう。著者がどこかで「こんなスカスカなもの」と書かれていたと思うが、僕の脳の中にも最近の生成AIについてはそういうイメージが出来上がっている。しかし、だからこそ、すごいものを作ったなあ、という感想なのだろう。もっとも、僕なんかはスマホでちょこっと調べ物をするときにたずねるくらいで、そんなにご利益は感じていないし、ちょっときわどい質問でもすれば、「そういう質問にはお答えすることができません」なんて逃げられることもあるから、こいつ大したことないなとか思ってしまう。まあ、人間でも同じような答えしか返ってこないのかもしれないが。ところで、最後にジャイアントロボの話が出て来るが、そんなのはすっかり記憶の彼方に行ってしまっていたから、ちょっと懐かしく思った。それで思い出したのがマグマ大使だ。笛を吹いて呼び出すのだったかな。僕はどちらかというとそっちの方が好きだったなあ。なにしろ、小学生になるかどうかくらいのころの記憶だから定かではないが。さて、本書には非線形非平衡多自由度系ということばが何度も出て来るが、僕自身、学生時代、沢田康次先生の「生体物理学」という集中講義を受けて興味を持ち、プリゴンジンの本なんかも何冊か読んでいたので、大変懐かしい思いがした。４０年くらい前の話だけれど、カオスとかフラクタルとかの話をワクワクしながら聴いたものだ。非整数次元とか衝撃的だった。津田先生の「カオス的脳観」が注に上がっていたのもうれしい。３年間、東京で編集の仕事をしていて、唯一自分で企画編集した本だったから。あとは、甘利先生がノーベル賞を取っていたら言うことなしだったのだけれど。２個見つけた誤植。図表９-１でリザバーとある。こういうのこそ、AIがしっかり見つけてくれたら良さそうなものだが、図版の中だから無理だったのだろうか。それともう一つ、３９ページ後ろから７行目のＳはいったい何の間違いなのだろうか。
1
-
-
脳は現実世界のシミュレーター。非線性非平衡多自由度系。線形・平衡で物事を考えている。すっきりした世界。かといって非線形非平衡がすっきりしないわけではなく，それはそれで1つの解だろう。キーワードになりそうな感覚はあるが，それをうまく関連づけられる状態ではない。第6章「なぜ人間の脳は少ないサンプルで学習できるのか」は関連知識があるので読みやすかった。基盤モデル＋転移学習，というのも興味深い。一般知能ｇと広範能力・限定能力にたいなもの？異種間の知能では身体性に言及される。知能についての研究を思い出させてくれた。
0
-
著者は物理学者。大規模言語モデルは、著者が研究していた非線形非平衡多自由度系の亜種だという。
脳は、限られた情報から外の世界を脳内で再構成しているという意味で、現実世界のシュミレーターである。生成AIも、現実世界のシミュレーションを実行している機械システムと考えることができる。
脳の動作原理は、ニューラルネットワークや深層学習とは別物であり、その延長上にある生成AIとは異なるものである。 脳と生成AIはどちらも世界シミュレーターであるが、世界を全く異なったように解釈している。
ジェフ・ホーキンスは、「1000の脳理論」の中で、知能とは事物の地図を脳内に作ることだと断言している。「1000の脳理論」とは、脳が、いろいろなあり得る現実を記述する可能性の中から適当なものを選んでいるに過ぎないという意味。
深層学習は複雑なモデルを導入しているにも関わらず、過学習せず高度な般化性能を獲得する。トランスフォーマーは、文章中の単語の関係の理解込みで単語の地図を作る機能を実装するアルゴリズムだが、穴埋め問題を解かせると文中の単語の関係を学習してしまう機能を持っている。
Google DeepMind社のAlphaFoldは、タンパク質がどのように折りたたまれてどのような立体構造をとるかをニューラルネットワークの手法で解くもので、2024年度のノーベル化学賞を受賞した。創薬の分野では、疾患の原因となっているタンパク質を作る遺伝子が特定されているものもあるため、そのタンパク質と結合する化合物を探すために機械学習を用いる試みが始められている。マテリアルズインフォマティクスの分野では、化合物の組成から物性を予測する機械学習が行われている。
0
-
著者は非線形非平衡多自由度系の研究をしていた物理学者だそうで、その当時は大量にデータを学習させられる計算機がなかったばっかりに、その研究が今日のような生成AIに結び付けられなかったのだそうだ。そうでなければ物理学者が生成AIでノーベル賞を取っていてもおかしくなかったという悔しさがときどきにじみ出ていた。今日の生成AIは、単語の位置関係を学んだだけの言語基盤モデルだそうなのだが、それが、これまで人工知能の研究がめざしてきたパフォーマンスを実現してしまったわけで、それならば「我々が知的な作業だと思っていたものは別に知能などなくても実行可能なタスクだった（我々はそれを知能を使ってやっているにしても）」という事実が興味深かった。著者が言うには人間の脳と生成AIはどちらもいわば「現実シミュレーター」であるが、使用している手段が違うのだそうで、そうであれば他の種類の現実シミュレーターがこれから出てきてもまったく不思議ではない。おもしろい例えが、かつて人間は鳥のように空を飛びたいと思って様々な研究を重ねてきたが、結局できあがった飛行機は鳥とは別の方法で空を飛ぶ物だったということだ。いずれAIが自律性を持つことになるという点に関しては著者は懐疑的で、こういう方面に関してまったく素人の私の単なる想像と合っていたので安心した。
0
-
著者の考えるAIは、「現実世界のシミュレーター」。物理学者であり、バイオインフォマティクスを専門であった著者の、近年の人工知能についての見解が述べられている本。
実は、「知能」の実態はつかめていないらしく、どんなに発達しても、人間の持つ知能と同じにはならないだろうと予想している。例えば、脳細胞がどんな形をしていて、どんな物質をやり取りしているか、は既知である。一方、知能はどんな反応によるものか、そもそも何をもって知能があるといえるのか、言葉の定義すら決められないのだそう。言われてみれば、知能とはぼやっとした概念に聞こえる。
膨大なデータで世の中の事象を予測するAIに対して、人間はもっと少数のサンプルから本質をつかむことができるという。このことから、どんなにAIが発達しても人間の知能とは異なる仕組みによるもので、機能が同じとは言えないのでは、との立場。
感情論と理論的側面の２つで記述されている。
機械学習に疎くても読みやすく、納得感があった。
0
-
近年盛り上がっている生成ＡＩと人の知能を比較することで、知能について考察した本。
著者の田口氏の本といえば、30年ほど前に『砂時計の不思議』を読んだことがあります。
非常に面白かった記憶があるので、本書は、著者の名前を見つけた瞬間に手に取っていました。
現在の生成ＡＩは、「非線形非平衡多自由度系」と呼ばれるモデルの延長線上にあるそうで、これは、人の知能とはまったく違う形での知能の実現、とのこと。
かつて非線形非平衡多自由度系の研究者であった田口氏は、生成ＡＩに到達できる可能性があったわけで、そのことをかなり悔しがっているように見受けられます。
それゆえ、若干感情的な論調なので、「客観性に欠けるのでは？」という印象も受けました。
ちなみに、「知能とは何か？」について、学術的な定義は現時点では確定していないようですが、田口氏は「現実世界のシミュレーター」と定義。
これについては、生成ＡＩと人の知能の比較から、納得できる定義だと思いました。
しかしながら、シミュレートの方法が、生成ＡＩと人の知能ではまったく異なるため、生成ＡＩが人の知能の脅威になることはないだろう、というのが田口氏の見立て。
とはいえ、「現実世界のシミュレーター」にはいくつも方法があると考えられるので、人の知能を脅かすＡＩが登場する可能性は否定できないのかな、と。
現在の生成ＡＩは、かつて田口氏が研究に携わった「非線形非平衡多自由度系」の延長線上にある、ということで、全体的に生成ＡＩに対して斜に構えていて感情的なのですが、ご自身もそのことを理解しているようです。
そのあたりをうまく差し引いて読むことができれば、もう少し高評価なのですが、自分にはそれができなかったので、★★★☆☆で。
0
-
なぜ物理学者が「知能とはなにか」を問うのか？
物理学者の書いた本を普段読むことはないのだが、取り合わせの妙というか、「なぜ？」という思いがぬぐえず、読むことにした。
結論として、筆者によれば「知能とは現実世界のシミュレーター」。
人工知能は「意味」を理解していないが、事物の関係の地図＝世界を構築することができる。
膨大なデータが利用できるようになり、一時はとん挫していたAI研究が一気に進み、今や実用化した。
著者によれば、「現実世界のシミュレーター」である点では、人間の脳もAIも等価である、と喝破する。
もちろん、仕組みの違うシミュレーターであるとも言っているので、同一視はすべきでないのだが。
知能とは何かという問題に関しては、脳科学者も、人工知能研究者も取り組んできたけれど、きちんとした答えはまだ出ていない状況なのだそうだ。
脳から知能を研究するアプローチでは、部位と機能の関係についてのデータは蓄積されているが、知能の定義には至っていないのだとか。
人工知能研究はこれとは違った知能についてのアプローチ法を提供した。
複雑な知的作業も、単純な論理演算で実現できるのだから、脳の機能がわからなくても、それを再現できると考える「古典的記号処理パラダイム」が生まれる。
ところが、論理では導き出せない「常識」の学習でつまずき、頓挫する。
これを打開する二つのアプローチがさらに考え出され、その一つがニューラルネットワークだったのだが、花開かずに消えたもう一つのアプローチが面白い。
人工知能に身体を持たせてしまえ、というものだ。
ちなみに、このアプローチが進展しなかったのは、一つは残存する「古典的記号処理パラダイム」との対立と、ロボット研究との境界があいまいであったことだそうだが、この考え方が将来また芽を吹いたりしないのかな、なんて夢想したりする。
0
-
AI研究の発展と知能研究の交差や関係について物理学者の目線で語るという内容。昨今の生成AIの隆盛の中で開発に関わる技術者からの解説や、あるいはAIと人類あるいは社会との関係を哲学的な視点から考察するものなど、関連する書籍は多数あるが、本書の特徴はAI研究という意味で関連はしているけれど生成AI的なものを生み出すには至らなかった分野の物理学者として、これまでのAI研究の技術的な変遷などが俯瞰的に構成されていて全体像がわかりやすいという意味で新書として良い内容だと感じる。
知能とは世界をシミュレートするものであり、生成AIもまた世界シミュレーターだが人間の知能とは異なるやり方でそれを実現しているのであり、生成AIによって知能が再現されたということをどう捉えるのか、という辺りの話は面白かった。生成AIの発展によって知能とは何かという問いに新たな発見や考察が今後も生まれてくるのだろうなという感覚を得られて良かった。今後が楽しみです。
0
著者プロフィール
田口善弘の作品
Rafさんの感想を読んで、この本、俄然読みたくなりました。
『LIFE 3.0』を読んで、AIの進化は待っ...
Rafさんの感想を読んで、この本、俄然読みたくなりました。
『LIFE 3.0』を読んで、AIの進化は待ったなしで、シンギュラリティを超えたその先に、わたしは危機感を持つようになりましたが、この本はそうではないAIの展開を予想しているようですね。
読むのが楽しみです。
コメントありがとうございます。LIFE3.0も面白そうですね。
AIは、人間の悪意に利用される時が脅威ですかね。既に詐欺行為には...
コメントありがとうございます。LIFE3.0も面白そうですね。
AIは、人間の悪意に利用される時が脅威ですかね。既に詐欺行為には利用され始めています。AIが道具である初期段階では、悪意を成就するための銃や核などの武器、それを抑制するための武器という、人間の意思を成就させるツール論に近い構図だという気がしました。