AIにはできない 人工知能研究者が正しく伝える限界と可能性 (角川新書)

栗原聡

• KADOKAWA (2024年11月8日発売)

作品紹介・あらすじ

ChatGPTを初めとする生成ＡＩの登場により、その万能性が人間への脅威としても論じられているが、現在のＡＩは決して万能ではない。
ＡＩに何ができ、何ができないかを理解しないことには、正しく恐れることもできない。人工知能研究の専門家が、ＡＩの「現在の限界」をわかりやすく解説。
AIがまだ苦手とする「人間力」とは何か。人とAIの共生は可能か。日本のAI産業に復活の可能性はあるか。注目企業のサカナAI（sakana.ai）はなぜ日本で起業したのか――
その先にある「次世代ＡＩの可能性」を探る。


【目次】
第１章　ＡＩ開発の歴史は未来のためにある
第２章　生成ＡＩには何ができ、何ができないか
第３章　ＡＩは経済の浮揚に寄与するのか
第４章　ＡＩを使うか、ＡＩに使われるか
第５章　社会が生成ＡＩを受け入れるための課題
第６章　人とＡＩの共生
第７章　ＡＩのスケール化と日本の未来

感想・レビュー・書評

[fuji3さんの感想 · 2025年7月6日]

AIが進化する現代、私たち人間にしかできないことって何だろう？という問いに、人工知能研究の第一人者が優しく答えてくれる一冊です。本書を読むと、AIにはない「身体」を使って動いたり、人と直接会って話したりすることの大切さにあらためて気づかされます。

効率だけでは測れない、経験や偶然の出会いから生まれる知恵こそが人間の強みなのだと、温かい気持ちになりました。ドラえもんで育った世代としては、AIと共に生きる未来へ、前向きな希望を与えてくれる素敵な本でした。

[echigonojizakeさんの感想 · 2025年12月30日]

物理学者の『知能とは何か』読了後、冬休みAI集中コースと勝手に位置付けて本書を読んでみた。AI研究者である著者はAIを私たちの知的作業を劇的に加速させる「増幅器」だととらえる一方で、主体のない道具ともみる。本書が提示する「統計的処理」と「意味理解」の境界線は、冷静にAIの議論をみる参考になりそうだ。

筆者は、生成AIの劇的な進化を評価しつつ、それらはもっともらしい文章や画像を生み出すが、それは意味や意図を把握した結果ではないと指摘する。目的を持たず、価値を選ばず、責任を引き受けることもない。

なぜか？AIには「なぜそれをするのか」という内発的な動機がないからだという。AIがどれほどもっともらしい言葉を紡いでも、そこには生存の切実さも、伝えることへの情熱も介在しない。記号の羅列を血の通った「意味」へと変換できるのは人間。だからこそ人間が最後に責任を背負うという点を改めて認識した。楽して逃げてはダメなのだ。

AIの限界を知ることは、人間が本来担うべき「問いを立てる」「価値を選ぶ」という役割を再定義すること、と置き換えてもよい。AIを使いこなすべき「知的な文房具」として、その主導権を人間が手放さないことごできるか、各国・地域の規制の動きと合わせて今後のトレンドにも注視したい。

なお、本書の栗原氏が知能の根源を「生命としての自律性や意味理解」に求め、AIをあくまで「主体のない道具」と位置づけたのに対し、『知能とは何か』の田口善弘氏は知能を「物理現象としての情報の次元圧縮」＝シミュレーション装置、と捉える点が対照的。この二冊を読み比べることで、知能を人間がAIとの線引きを意識していく「意志」の話としてみるのか、それとも世界のあらゆるものを計算する「秩序」の話なのかという、問いが浮かんだ。場面で使い分けるイメージなのかもしれない。

[oldcat31さんの感想 · 2026年3月10日]

　「AIにはできない」というタイトルだけど、AI時代にAIに奪われない仕事はこれだ！みたいな内容ではない。

　むしろ、AIの現状と展望を学術的に分析・解説して、今やAIは人間の道具から自律型にシフトしている。今後はさらに進化するAIと共存して、AIの提案に耳を傾けて、よりよい人間社会を築いていこうっていうのが本旨。

　人工知能の工学のみならず、生物学、心理学などの知見も交えて非常にわかりやすく、説得的に書かれている。個人的には、最後通牒ゲームによるAIの限界や、スケールによる「創発」、スケールの個人レベルと社会レベルの関係などの話が面白かった。日本の抱える教育政策、AIをめぐる法規制の課題や、SNSの弊害など、著者の鋭い指摘も示唆に富む。
　
　本書の初版が出てから１年以上経つ。もしかしたらもうここに書かれているAIに関するいくつかは時代遅れかもしれない…そんなAIの進化のすごさも改めて実感できる一冊。

[T.Fukuyamaさんの感想 · 2025年4月23日]

最新（2024年後半）のＡＩの可能性を知りたい人におすすめ。

【概要】
●ＡＩの歴史
●生成ＡＩにできることと、できないこと
●ＡＩに使うか、使われるか
●ＡＩとの共生

【感想】
●ＡＩの歴史について一連の事項を復習できる。
●人工知能学会の会長の発言として、人にＩＴリテラシーは不要だという記述には驚いた。なぜなら経済産業省やＪＤＬＡの考えに同意して、ＩＴリテラシーだけは持っておかないといけないと自分は思っていたからである。
●ＡＩに使われないようにするために何が必要なのかを頭の中を整理することができた。そして、ＡＩを利活用（共生）していくためには、人のマインドセットが重要だということを理解できた。

[前原政之さんの感想 · 2025年5月7日]

この人、文章うまいなァ(たぶん本人が書いている)。
学者の文章にありがちな論文臭はなく、なめらかでわかりやすく、心地よいリズムがある。AI概説書としてもすこぶる秀逸だ。

[三鷹牛蔵さんの感想 · 2025年10月8日]

本書の中では最も「遠い将来」について語っている「第7章　AIのスケール化と日本の未来」が面白かった。

「量がスケールする（指数関数的に増加する）ことで、そこから生み出される質が大きく変化する現象自体は珍しいことではない。」「［細胞が］超多数集合して臓器を組織した途端、個々の細胞が持ち得ない臓器としての能力」が現れるというのがLLM（大規模言語モデル）になぞらえられている。
この辺の「スケール」概念の話が面白かった。

まあ「組織のためには構成要素を犠牲にする」ことに抵抗感がない口振りなのはマッドサイエンティストを思わせるところがあるけれど。

第6章までは退屈で、半ば義務的に読んでいた。
その中にあっても、生成AIの発展は、行動経済学（ダニエル・カーネマン）でいうところの「システム１（脊髄反射的な思考）」を極めることで、「システム２（熟慮する思考）」を必要とせずに思考の精度を高めたという説明は興味深かった。
これも「スケール」の話と通じるのか。

[katak-aiさんの感想 · 2025年1月28日]

群知能　アリやイワシの集団行動　群れることで創発が起こる
知能には専門知識だけでなく常識が必要　その量はとんでもなく多い
統計から ディープラーニングへ　インターネットによる大量データで実現に

脳が行っていることをすべて言葉にはできない
脳と同じレベルで詳細な特徴を抽出するのがAI
言葉＝単語が時系列に並んだデータ　　並び方の特徴
Transformer　文法ではなく言葉と言葉のつながり方を学習
データ量とAIのサイズと計算能力を指数関数的に増やして AIの性能が飛躍的向上

ChatGPT＝汎用AI　≠　自律型システム
　高度な論理的思考や数学的思考や　適応的な思考 はまだできない
　人間の他者理解　相手の思考と 相手が自分をどう見ているかシミュレーション
　人間は60W、脳だけなら20Wの電力で動く

イノベーションは偶発性から生まれる　自分の持つ種と他人の種をつなぐ
　五感のフル活用　自律性が必要

生きること ≒適度なストレス状態を維持すること

小粒AIの連携で ASIを創発　　
　創発された側ではなく、する側に介入する
　木を見る西洋人、森を見る東洋人
　西洋では人を超える存在は神と人の間となり、認められない　AIも道具
　日本では自然にも神が宿る　AIも受け入れやすい　ドラえもんのように
　

[gomanjpさんの感想 · 2025年1月12日]

”巨大A Iが開発できないことのデメリットを打破できる可能性がある（それに気がつき始めたのが海外の研究者であるというのが残念なところだが）。何かというと、まさに先に述べた「スケール化」による性能の向上という手である。
一つの巨大AIを作るのではなく、小粒AIを束ねてスケール化することで、上位のスケールとして大粒を越える性能のAIを構築しようという戦略である。”

リチャード.E.ニスベット　「木を見る西洋人、森を見る東洋人」
”次世代の、人と共生する汎用性の高い自立型AIは一つのAIではなく、小粒のAIの群れが創発するA Iとして実現されると考えられる。そうなると、生物のような郡知能型に基づく構築への期待が高まってくる。そのときこそ、東洋的感性を持つ研究者がブレークスルーを起こす可能性があるのだ。”

”日本においてChat GPTを実際に活用している人の割合が極めて低いことは前述したが、その理由としてよく耳にするのが、生成AIのキラーアプリがないということだ。”
”その意味では、具体的な効果が見えやすいイノベーションへの活用を急いだ方がよく、そのためのアプリケーション開発に注力すべきであろう。”

信頼とおもてなしによる共生

[チョロQさんの感想 · 2025年9月16日]

　これからの生活や仕事の在り方を大きく変える可能性があるAIについて、何ができて何ができないのか、知りたいと思い手に取った。
　現状、AIにとって得意なことは、与えられた指示があり、目的が明確であることであり、人間からの指示の元で動くことが前提であるようだ。一方、5感を使って考えたり創造したり、人の気持ちに共感したり、自律的に動くことはまだまだ苦手な領域と書かれていた。ただ、これらの苦手なことは、現状では苦手なことであるが、将来的には克服される可能性が高いとのこと。AIが自律的に目的や課題意識を持って動き始めると、いよいよ人間がAIを使うのではなく、AIが人間を使う側になる気がしてならなかった。筆者は、知能の進化という観点から見ると、今までは人間が知能の進化に大きく貢献してきたが、これからはAIが知能の進化に貢献するだけで、知能の進化が続くだけである、と述べている。そのような世界になったとき、人間の生活は、仕事はどうなるのか？結局こういった話はあくまでも予想であり、誰にも分からないのだから、目の前のことを頑張ろう、、と元も子もない感想をもった。

[amano225さんの感想 · 2025年5月25日]

AIの歴史を振り返ったうえで、AIの限界について語った本。

System1の速い思考とSystem2の遅い思考についての話があって、ChatGPTは速い思考でSystem2を行えるという話はなるほどと思った。
読んでいると、System1をする人に考慮したほうがいいのではないかという話もあったのだけど、AIのだす回答自体はSystem2のもののものでいいようには思う。ただ、そのうえでなぜそう回答したのかと、できればSystem1的な思考ではダメな理由も伝えてくればよりいいだろうなとは思った。

AIでは偶発的なイベントはない、ようはセレンディピティ的なことは起こらないということだろうけど、これは場合によるような気はする。
それこそ、強化学習を行うことで、人が思いつかない方法を獲得することだってあるだろうし。
ただ、確かに五感が必要なことはまだまだ難しいのかもしれない。

スタンレー・ミルグラムのスモールワールド実験について書いてあったけど、個人的にはこの実験には懐疑的。手紙が届いた人は平均で６人で届いたとのことだけど、ほとんどは手紙が届かなかったわけだし(平均の計算には届かなかった人は含まれていない)。届かなかった人は、最大で何人経由したのだろうと思う。

日本には、積極的なAIインフラの整備が必要というのは、確かにそうだろうなと思う。ただでさえ少子高齢化で働き手が減ってきているのに、労働生産性が低いといわれている国なので、もっとAIで労働生産性を増やせる社会になったほうがいいだろうと思う。

sakana.aiについては名前しか知らなかったけど、小粒モデルを集合させて高い性能を発揮する基盤モデルを目指しているものだそう。それで、集合して大きくなる魚なのか(スイミーとかそうだよね)

『木を見る西洋人 森を見る東洋人 』という書籍は初めて知った。グループ1とグループ2に分かれたひまわりの画像を見せた後に、別のひまわりの画像がどちらのグループに属するか調査すると、西洋人か東洋人でどちらのグループに分けるかに偏りがあったのだとか。
文章だけだとよく分からないので、図で解説されているサイトが無いか調べてみると下記ページを見つけた。
https://www.walight.jp/2018/07/12/%E6%9C%A8%E3%82%92%E8%A6%8B%E3%82%8B%E8%A5%BF%E6%B4%8B%E4%BA%BA-%E6%A3%AE%E3%82%92%E8%A6%8B%E3%82%8B%E6%9D%B1%E6%B4%8B%E4%BA%BA/
ぱっと見てグループ2だと自分は思ったけど、東洋人の日本人はグループ1と思う人が多いらしい。これをグループ1と考えると矛盾があるように思うんだけどなぁ…。全体的に丸みがあるように感じるということなら、グループ2の右下はどうなんだと…。

ところで、本編と関係ないのだけど、「ドラえもんは未来ののび太が過去に送った」という記述があったのだけど、いったいどういうことだろうと思った。ドラえもんをのび太のもとに送ったのは、子孫のセワシだけど、子孫なのだからのび太が送ったようなものとということなんだろうか…。

[ABAKAHEMPさんの感想 · 2025年4月8日]

本書の中で語られるChatGPTと日本酒の醸造のたとえ話は、非常に分かりやすく、AIの学習プロセスを理解する上で重要な示唆を与えてくれる。
日本酒を造るには、米という原料と、それを発酵させる醸造システムが必要だ。
同様に、学習するタイプのAIにおいては、データが原料となり、AIシステムがそのデータを基に大規模言語モデルを生成する。
私たちがChatGPTを利用する際、それはChatGPTというシステムそのものではなく、膨大なデータから構築された言語モデルからの出力、つまり多くの人々の知識や意見を取りまとめたものを受け取っているのである。
このたとえ話は、AIの背後にあるデータと学習というプロセスが、まるで微生物の働きによって風味豊かな日本酒が生まれるような深遠さへの気づきを与えると同時に、これまでの設計された製品自体を使用するというテクノロジー利用とは根本的な差異を教えられる。

タイトルの「AIにできない」ことは何か?
それは人間レベルの高い自律性であり、自らの目的に従い、状況に応じてどのように振る舞えばよいか自ら判断し、人から指示されなくとも能動的に先回りして動作してくれる主体性の欠如ということになる。
そのため現在のAIはまだ道具の域を脱しておらず、人とともに豊かな社会性を構築する相手とはなり得ていないと語る。
自律性は本質的に必要な能力で、創造性を発揮するためには不可欠な要素。
その意味で「道具型の汎用AI」ではなく「自律型のAI」が求められている。

しかしChatGPTの登場で、これまでのAIで直面していた知覚の壁を突破できる環境が整いつつある。
まず、これまでのAIが何に苦労していたかを整理すると、状況に応じたアフォーダンスの知覚に問題を抱えていたことを指摘する。
どれだけ蓄積した知識が豊富でも、単にカメラなどで物体を認識するだけでは、状況を理解したとはいえない。
要はこれまでのAIは、場の空気を読む能力が欠けていた。

しかしChatGPTは、常識レベルの知識も扱うため、そうした欠点も克服しつつある。
予め決められた動作ではなく、目的達成のために、状況において最適な動作を適宜選択できる自律型のAIとはつまり、「おもてなし」ができるAIであり、人を思いやることのできるAIの誕生だ。
そうした自律型AIが意識を持つことはないだろう。
本当に人の気持ちを理解できるとは言えなくとも、AIが理解したかのように振る舞えるというだけで、人と心を通わせることは可能だ。
必ずしもAIが、人と同じレベルの意識や感情を持つ必要はない。

そのような自律型AI誕生のためには、これまで以上の更なる性能向上、ひいてはAIの進化が必要だ。
その点ではスケール化による質の変化が鍵を握る。
量がスケールする(指数関数的に増加する)ことで、そこから生み出される質は大きく向上するからだ。
人体を構成する60兆個もの細胞も、個々の細胞が日々していることは、アリの群れと大差はない。
しかし、それらが超多数集合して臓器を組織した途端、個々の細胞が持ち得ない臓器としての機能が出現する。
それら臓器が多数集合することで人体が組織化され、人体の集合が社会というスケールを生み出し、社会というスケールが文明を創発していく。
肝心なことは、それぞれのスケールには、独自の世界が別個に確立していること。
胃の調子が悪い時に、胃を構成する細胞の話はしないように、アリの行列の話をするとき、個々のアリの行動に言及したりしない。
しかし間違いなく、胃の調子を整えているのは個々の細胞であり、行列を作っているも個々のアリの振る舞いなのだ。
密接に関連しているにもかかわらず、スケールが異なることで、これほど独立して存在している。

こうした創発を生むスケーリング則において必然的に生まれるのが、スケール同士のジレンマだ。
自動運転AIは、明らかに社会レベルの安全に寄与しつつも、それなりに事故も起こしている。
下位の個人のスケールは、上位の社会のスケールを創発しているが、両者のスケールは、基本的にはそれぞれ独立したダイナミズムで機能しており、双方のスケールは必ずしも並び立たない。
個々の尊い犠牲と考えるか、全体の利益を資する意義ある犠牲と考えるか。
必ず天秤は揺れ動くが、無理に両立させようなどと考えないほうがいい。
アリであれば、自分たちがよもや行列を創発させ、効率的に餌を収集しているなんて思いもしないだろうし、客観的に認識もできぬ。
だが、人間には悲しかなできてしまう。
ゆえにこの「スケールのジレンマ」が感じられてしまう。
誰もが個人のスケールで生きつつ、同時に社会のスケールも知覚できるから。
昔は確かに無理だったかもしれないが、情報インフラが発達した現代は可能だ。
異なるスケールの横断はダイナミクスを生むと同時に、混乱も生む。

ここから著者は、自助のみでは解決しない地球規模の問題は、信頼できるAIに判断を委ねてしまえと提言する。
人と共生できる「おもてなし」のできる自律型AIであれば、個人は自由意志に基づき行動しつつも、お釈迦様の手のひらで踊る孫悟空のように、知らぬ間に行動を操られ、結果的に地球規模の課題も解決できるかもしれないと。
もちろんスケールの壁ゆえに知覚できないというのもあるが、人の理解も及ばぬ超知能体が誕生した暁には、そのように陰から我々を見守り支える、縁の下の力持ち的AIが何から何まですべからく差配してくれるのではないか。

こんな発想は西洋人には無理だろう。
なぜなら彼らは、AIはいくら進化しても道具という立ち位置のままであるからだ。
対して我々東洋人は、人と共生する相棒として、いつでも社会の一員として受け入れる準備ができている。
なんと言っても日本は、『ドラえもん』を生んだ国である。
ドラえもんはのび太を「ちゃんとした人間に変えるため」に未来からやってくるロボットだ。
明らかにEUのAI規制法における最も危険なAIに分類される可能性が高く、開発など許されるはずがない。
国が違えば、AIによる「能動的な介入」に対する受けとめ方は異なる。
人の個性や考え方を強制的に操作するサブリミナルAIと映りかねないドラえもんも、皆が抵抗なく受け入れる日本社会は、実はAI研究において一発逆転を起こせる可能性があるのではないか。
著者の理想とする未来をどう判断するかは読者によって賛否わかれるかもしれない。
ただ第7章は本書の読みどころの一つであることは間違いない。

学習データ量や計算リソースを指数関数的に増加させることで、質的な変化が生まれるというスケーリング則は、まるで微細な細胞が集まって複雑な臓器を構成し、個々のアリの行動が予測不可能なアリの行列という集合知を生み出すように、AIにおいても同様の創発的な現象が起こり得ることを示唆している。
著者は、細胞のスケールが臓器のスケールを生み出す一方で、それぞれのスケールには固有の世界があり、異なるスケール同士が同じ世界に登場することはないと述べる。
同様に、個々のアリの行動を理解しても、アリの行列全体の機能を完全に予測することは困難だ。
このアナロジーは、私たちが個々のAIの能力を理解していたとしても、それらがスケール化し、連携することで生み出されるより高次の知能や機能は、私たちの理解を超えたものになる可能性を示唆している。
それは、AIが高度にスケール化することで、私たちはその個々の動作や判断を意識することなく、より抽象的なレベルでその恩恵や影響を受けるようになるのかもしれない。

著者はさらに、小粒AIを束ねてスケール化することで、単体の巨大AIを超える性能を持つAIを構築する戦略や、そのようなスケール化の先に人工超知能（ASI）が見えてくる可能性にも言及している。
もし、私たちが構築するAIが群れることで、上位のスケールのAI、すなわちASIを創発するならば、それはアリの群れが創発する行列の機能を個々のアリからは認識できないように、ASIはそれを創発させたAIを越える能力を持ち、私たち人間、そしてASIを創発したAIでさえ、ASIの知能を完全に理解できないかもしれない。
この考察は、AIの進化が、私たちの予測や理解の範疇を超えて、気づかないうちに全く新しい段階へと進んでいく可能性を示唆しており、深い畏怖の念を抱かせる。

[MYさんの感想 · 2025年4月5日]

AIに興味を持つきっかけを作ってくれた本である。「ITリテラシー」よりも「人間としての基本的な思考能力、アナログ的なロジカルシンキング能力」がこれからのAIと向き合っていくために必須であると言う事はよくわかった。「創発」と言うコンセプトや、「スケール」と言う物事の整理の仕方についてもこの本で知ることができた。大切なことは、我々がAIを、そのポテンシャルフルに発揮させる形で使い倒していけるのか、そのためには何が必要なのかということについて位に考えさせられた本であった。

[2264991番目の読書家さんの感想 · 2025年3月30日]

AIの潮流を理解するには簡潔でわかりやすい。後半は専門的で読みにくかったので飛ばしながら。今読んでおいてよかった。咀嚼しきれてない部分はまた読み返せたらベスト。

[masahiroakutsuさんの感想 · 2026年3月30日]

栗原聡先生の「AIにはできない」を読了。キーワードとして抜き出したのは、群知能、創発、Transformer 、言語モデルのスケーリング則、おもてなし、早い思考・遅い思考、因果推論、そして「木を見る西洋人、森を見る東洋人」。群知能はAI(エージェント)が多数存在する状況において、それぞれが連携することで、エージェント全体が合目的的に動作し、単体のAIでは解決できない問題をチームとして解決すること。創発は、あるレベルの要素が、多数群れることで、個々の要素には無い大きな機能が現れる現象。
結論はAIエージェントを多数組み合わせて創発を狙うこと。目指しているのは、人間が信頼できる自律型AIであるおもてなしAI。これは、相手の状況を詳細に観察し、相手が何をしたいのかを推測し、相手がその目的を達成しようとする時、それらに先んじて適切な動作を実行するAI。キーとして、速い思考と遅い思考を適切に切り替えられることもひとつ。現在のAIはこれもできていない。群で捉える思考は日本人に合っている的なことでしょうか

[ブク郎太さんの感想 · 2025年12月9日]

わりと想定できる内容

[猫吸いさんの感想 · 2025年11月9日]

なぜ孫正義さんは壁打ちにAIを使うのか？

世界的大企業の社長なら、
日本最高峰の人間知能を使えるはずなのに。

なのになぜAIを壁打ち相手にするのか。
それはたぶん「AIにしかできない」ことがあるから。

それが「速いシステム2思考」だ。

システム2とは、論理を一歩一歩たどってゆっくり答えにたどりつこうとする論理的思考のことだが、AIはこれが高速でできる。

だから、システム2を使う相談とか壁打ちなんかの問題解決的対話はAIの超得意分野になっているんだろう。まさにAIにしかできない領域だ。

逆に言えばシステム1の直観的思考はまだ人間に残されているのかな。五感に当たるインプットがまだAIは整ってないので今はまだ人間の領域だけど、そのうち思考の全領域を開け渡すことになるんだろうな。飛脚が電子メールになるくらい、次元の違う知性が生まれるかもしれない

[葵高校図書館さんの感想 · 2025年9月22日]

【請求記号：007　ク】

[からべーさんの感想 · 2025年8月23日]

■感想

TOPPOINTで読了。

[福島西高校図書館さんの感想 · 2025年8月6日]

007/ク

[磐城高校図書館さんの感想 · 2025年7月18日]

007-K
閲覧新書

著者プロフィール

慶應義塾大学理工学部（管理工学科）教授。専門は人工知能・複雑ネットワーク科学・計算社会科学。著書に『AI兵器と未来社会』（朝日新書）、『人と共生するAI革命』（共著、エヌ・ティー・エス）ほか。共訳書にワッツ『スモールワールド』（東京電機大学出版局）がある。

「2020年 『スマートマシンはこうして思考する』 で使われていた紹介文から引用しています。」