人工知能に未来を託せますか? 誕生と変遷から考える

松田雄馬

• 岩波書店 (2020年6月29日発売)

作品紹介・あらすじ

未来は人工知能(AI)にお任せ？ 今の情報社会への違和感を訴える著者は、人間の知能の研究者、新技術を開発する技術者、技術や思想を通じて世の中を変革しようとする事業家の顔をもつ。そもそもAIの誕生・開発に携わった人たちは、どんな思いを込めたのか？ AIの課題や問題点、可能性を考え、未来の社会のありようを論じる。

感想・レビュー・書評

[つちしたのぶひとさんの感想 · 2020年7月29日]

現在、向き合うべき技術的な課題は、人工知能にある。巷に溢れる人工知能論は、あたかも万能なように言われている。人工知能が、人間の行為を代変えできるがごとく言われている。人工知能と人間の将棋や囲碁を見て、「人間は勝てない」そして「人間は人工知能に、仕事を奪われる」とさえ言われる。ある小学生が「AIが仕事をやってくれるなら、私は勉強しなくても大丈夫だよね」とさええいうようになった。人工知能が全能の神になるようだ。
著者は、そのことを人工知能の歴史から解きほぐし、まず「創造的でない単純作業は人工知能に任せればいいというが、人間が行なって仕事は、簡単に人工知能に置き換えるほど単純ではない」という。
現在、人間の知能が十分明らかにされていない。また人間の持つ潜在的な能力について、十分にわかっていない。だから、知能をうわまることができると言えるのか？創造力を人工知能が持つには、結局　人間がなぜ創造力を持っているのかがわからなければ、人間を超えることができないのではないか？
人間の感覚は、身体を通じ、「その場」から得られる情報から作られる。その場において発想を膨らませ、自分自身の思いで行動していく。そのことで、人間は、創造性を発揮する。人間は身体を持ち、自分自身の人生という物語を生きている。この物語が自分自身が今、存在する場である。人間の認識は、意味を見出す行為であり、自分の人生を生きる。独自の物語を生きている。
身体感覚を持たない人工知能は、データを用いた確率的な表現に頼らざるを得ない。人工知能に創造性を発揮せよと指示しても、システムの範囲内でしかできない。人工知能は、創造することもできず、錯覚することもできず、自らの物語を作ることもできない。
アメリカのヴァネヴァーブッシュは、ハイパーメディアという概念を打ち出し、現在のパソコンの基礎を打ち出した。その時には「人とコンピュータの共生」を考えていた。
リックライダーは、「人は目標を定め、仮説を立て、尺度を決め、評価を決める。計算機械はルーチン化された仕事はするが、それは技術的かつ科学的思考の洞察や決定の材料に過ぎない」とした。
地球規模のコンピュータネットワークを構想した。アランケイは、パソコンを手のひらで扱えるような「ダイナブック構想」を打ち出し、ジョブスはそれを見て、マッキントッシュを開発した。
人工知能は、学習データを用いた創作、定式化された問題の解決はできるが、人間の創造性は、自分が何をやりたいかを思うことで、問題を設定できる。目的をも、自ら設定し、自らの物語による創造や問題の創造ができる。つまり、人工知能とは何か？人工知能によって、何を実現したいか？ということが明らかになっていないので、人工知能が何に使えるのかが見えてこない。
ピータードラッカーは、予期せぬ成功が、イノベーションを実現する上で最も注目すべきものといい、人間は予期せぬものを見出すことができる。「たとえ真実とは異なるものであっても、そこに意味を見出すことによって、私たちはそこには描かれていない物語を想像していくこともできる」
人工知能の登場と開発によって、人間の持つ創造力とは何かを突き詰めることができる。
「クレタ人は嘘つき」だとクレタ人が言った。という自己矛盾は、数学にも同様の構造が含まれ「不完全性定理」によって証明される。ある温度になると温度センサーが検知するが、温度センサーが壊れた場合に、温度センサーチェックがいる。無限に温度センサーチェックがいるようになる。
グーグルのジョン・ジャナンドレアは、「人工知能という言葉自体が間違っている。誇大宣伝を生む温床だ」とさえいう。今、正確に人工知能について、考えるときこの本は最適である。
フィルターバブル、限定環境、場の関係性など、新しい知見がたくさん得られ、書評に収まりきらないほど豊潤な人工知能の考察。素晴らしい！
人工知能に未来を託せますか？という問いかけに、託せるのは人間だと堂々と宣言しているのが、清々しい。

[japapizzaさんの感想 · 2025年12月31日]

　写真のなかにいる馬を認識するという、コンピュータ科学における問題を考えるとき、そもそも「認識とは何なのか」ということを考えることなしに、その問題に対処することはできません。写真を、ナイフとフォークを使って食事を切り分けるようにして、画素に切り分けてしまっては、私たちの心のなかで起こる「そこに馬の親子がいて」「草を食んでいて」「平和そうだなぁ」などという感覚を得ることはできません。感覚は、視覚や聴覚を含め、単に画素情報を変換するだけの情報処理ではありません。今、ここに自分がいるからこそ、その感覚を得ることができます。自分自身の身体を使って、これまで培ってきた経験を通して育った身体感覚によって「感じる」ことは可能になります。 人間の感覚とは何か、心とは何か、そして、人間とは何か。日本文化には、近代科学に足りないものを補ってくれる可能性が眠っています。
　リックライダーが描いた「人とコンピュータの共生」という姿には、機械はルーチン化された事務作業を、そして人間が問題を発見して解決していくという明確な役割分担がありました。今、リックライダーの思想に対し、現代の人間や機械への理解を反映させると、異なる視点が見えてきます。 近年の科学技術による考察として、人間と機械の得意とするものを表0-1にまとめます。
　機械は、あくまでも「デジタル空間」のなかで行う、デジタルデータの処理を得意とします。とくに、映像や画像などのように、多くの情報が含まれるものについては「ここに馬がいる」など、人間がすでに意味付け(記号付け)を行っているものについては、処理することができます。しかし、人間が記号を与えなければ、映像や画像は「単なる画素の羅列」にすぎず、与えた記号以上の何かを生み出すことはなく、淡々と計算を行うにすぎません。人間が、コンピュータ上のデジタル空間で同じ計算を行えば、その速度も正確さも、コンピュータにまったく及びません。しかし、同じように見える作業であっても、現実世界で行う場合、状況は一変します。コンピュータと現実世界は相性が良くありません。画素の色は常に変化し、見つけたものがノイズに埋もれて消えてしまうこともあります。見たいものが物陰に隠れて一部が見えなくなってしまうことも頻繁に起こります。人間は、そうした状況であっても難なく情報を補完して「そこにいる馬はきっとこのような姿だ」と推測します。現実世界において、目の前の情報から、想像力を働かせ、目的を達成する行為は、人間のほうがはるかに得意なのです。


「人間の仕事をAIに」という安易な議論では、論理演算が自己矛盾を内包するという問題を無視していることがほとんどです。論理演算の土台にする以上、どのように優れたシステムを開発しても、 自己矛盾の問題から逃れることはできません。あらゆるシステムは、人間の手を完全に離れることはできず、それが単純作業に近いものであったとしても、100パーセントの自動化を実現することはできないのです。残念なことに、ラッセルが発見し、ゲーデルが体系化した論理演算の限界は、その後「人工知能」を研究する人びとすべてに伝わったわけではありませんでした。そこで「楽観主義者」と呼ばれる人びとが登場します。ヒルベルトらの学びを受け取らなかった「楽観主義者」らは、 同じ失敗を繰り返します。もちろん、彼らの試みすべてが無駄だったわけではなく、彼らもまた、現代に続く道を開拓します。


　もちろん、インターネットやSNSが発達したからといって、必ずしも簡単にデータが集められるわけではありません。海の中や森の奥地など、そもそも人間が足を踏み入れることが困難な場所は当然のこと、家庭内に子どもや動物がいれば、彼らは常に予測不可能な突拍子もない動きをします。そうした環境において、データは必ずしも意味をなさず、環境の変化に対してシステム自らが対処することが求められます。環境の変化に対処する仕組みは、生物の反射に見ることができます。「ぶつかったら避ける」「腹が減ったら食べる」などといった原始的な生物にも見られる仕組みは、どのような環境であったとしても、環境の変化に対して、システム自らが対処することを可能にします。こうした反射の仕組みを応用することで、近年、ロボット掃除機の「ルンバ」に代表される、単純だけれども環境の変化に対して自ら対処できるロボットが開発されました。彼らは「ぶつかったら避ける」 など、自らの身体と環境との相互作用を通して、環境の変化に対して適応的に振る舞います。こうししたシステムの設計思想は、生物が環境に適応していく仕組みに極めて近い考え方であり、生物が本来もつ「知能」との関連性が強いといえます。とはいえ、生物の仕組みに関しては、まだまだわかっていることのほうが少なく、極めて発展途上の設計思想であるといえます。
　現在のAIブームを支えるシステムの設計思想は、こうした発展途上の生物が本来もつ「知能」とは異なり、大量のデータを学習することによって「環境の変化をすべて予測する」という思想を源流とします。データを学習することを前提とする以上、適切に動作するかどうかは確率的にならざるを得ず、100パーセント正確に動作するということはあり得ません。そもそも、現代の情報システムは、すべて論理演算を行うコンピュータによって成り立っており、前述の通り論理演算が自己矛盾を内包する以上、完全に人間の手を離れることはできません。論理演算を行う以上、どれだけデータを学習しても、その判断は確率的にならざるを得ず、人間のように、見たり聞いたり感じたりすることはできないということは序章で述べた通りです。「想定外」が起こらないことが100パーセント保証されていない限り、人間の手を離れることはあり得ません。想定外に対して、見たり聞いたり感じたりといった感覚を総動員することができる人間がシステムに関与するのであれば、人間の感覚を最大限に発揮することができるシステムを設計する必要があります。
　これからの社会に求められる能力は、システムに関わるすべての人間、すなわちシステムを設計する設計者、実際に手を動かして開発する開発者だけでなく、日々メンテナンスを行う技術者や、システムを利用する利用者など、すべての人間の立場に立つことと考えられます。そのように、すべての他者の立場に立つことができるという能力は、設計者であっても開発者であっても、また利用者であっても立場を超えて役に立つものと考えられます。「きっと、相手はこのような立場だからこのように振る舞っているのだろう」ということが見えてくるようになれば、自分自身がどのように振る舞っていくべきかが見えてきます。


　インターネットを用いて情報にアクセスする際、何をするにも過去の傾向から、各個人が好むと予想されるものを「パーソナライズ」して提供されることによって、私たちは、一人ひとり、自分だけにカスタマイズされた情報に閉じ込められ、それが世界だと思い込まされてしまいます。こういった状態は、一人ひとりが小さな泡に閉じ込められるような状態にたとえられ「フィルターバブル」と呼ばれています。フィルターバブルは、パーソナライゼーションが当然のように行われている現代社会においては、単なる技術的な現象に留まることなく、社会全体の問題として認識されています。
　フィルターバブルに関する社会問題として取り上げられることが多いのは、民主主義に関する問題です。インターネットが登場した当初、誰もが自由に意見を表現でき、民主化が大きく進むものと思われていました。しかしながら、インターネットのユーザーである私たち一人ひとりが触れる情報が、 各々にとって「好ましい」ものであった場合、すなわち、私たち一人ひとりの見る世界がフィルターバブルに包まれ、視野が極端に狭くなってしまったとすると、客観的な判断はできるのでしょうか。 そして、フィルターバブルに関する真の問題は、単に触れる情報が偏ってしまうということに留まりません。本来はインターネットだけに閉じていたフィルターバブルという問題は、私たちの生きる現実世界そのものを、無味乾燥なものにしてしまう危険性をはらんでいます。


　しかし、インターネットを介したサービスのように、ネットワーク外部性が強い世界においては 「良い製品」を開発すること自体、容易ではありません。あるサービスに対してユーザーが多ければ多いほど、ユーザーが、いつ、どのようなときに、どのようにして、そのサービスを利用しているのかに関する情報(データ)が集まります。開発者はそれを見て、どのようにサービスを改善していけばよいのかがわかります。サービスが改善されることで、さらにユーザーが集まります。
　一度、ユーザーが集まってしまえば、このように正のスパイラルが回っていく一方で、ユーザーが集まらない限り、そもそも「良い製品」とは何なのかを知ることすら容易ではなく、開発の糸口をつかむことすらできません。インターネット出現以降、経済のルールは根本から覆ってしまいました。 新しい経済ルールを知ることで、より事業を拡大した世界規模の企業や、起業家や活動家として多くの個人が活躍できるようになった一方で、それを知らずに苦戦を強いられる企業や個人が多くなってしまったことも事実です。


　そうしたサービスが開発できるだけの人材に、日本は十分に恵まれていると考えられます。
　それでは、新しいルールに適応できる人材豊富な日本にあって、なぜ、企業はIT産業構造の転換に対応できなかったと揶揄されるまでに衰退してしまったのでしょうか。その答えは、前述した「フイルターバブル」にあると考えられます。本来、フィルターバブルは自分自身の過去の行動によってパーソナライズされた情報にのみアクセスすることで起こります。しかし今、日本に住む私たちが直面しているフィルターバブルは、日本という島国で、日本語という一つの言語でコミュニケーションをとることで、世界から切り離された島国のなかで、まるで世界を知っているかのように錯覚することで起こっているのです。これこそが、日本が「ガラパゴス化」している所以と考えられます。
　日本から世界を見るがゆえのフィルターバブルから抜け出すためには、フィルターバブルの構造を理解したうえで、他人からの情報で知ったつもりになるのではなく、世界に対し、能動的に自分の力で働きかける以外に方法はありません。


　簡単に解釈すると、「東洋思想は、「安心して生きる」ことが実現できている未来とはどのような未来かを描くことができる(必要条件を考えることができる)一方で、そうした未来はどのようにすれば実現できるか(十分条件を考える)については各人のその場その場の判断に委ねられる」ということです。たとえば弾は、心のもち方の重要性を説く一方で、そうした心の状態に至るまでのプロセスを理詰めで説明することはありません。これは、現代の日本の多くの企業にも見られます。新入社員に対して 「ビジネスマン」たる理想像を語る一方で、「要するに何をすればよいのか」は「働きながら自分で身につけろ」などと、背中を見て育つ職人にも似た精神を求められるのは、伝統的な日本が受け継ぐ東洋的な思想を背景にしています。東洋思想は、機械にすら真似できない「素材の声を聞く」ような職人芸を可能にする一方、「精神主義に結びつきやすい」という大きな問題を抱えています。


　リックライダーは、「人とコンピュータの共生」という、自らの生き方を人間らしく、クリエイテイブなものにする未来を思い描きました。皮肉なことに、彼が発明したインターネットは、現在、フイルターバブル問題を起こし、人びとの能動性を奪ってしまう一面をもちます。一方、その延長線上に発展した信用経済は、利他行動を促進し、心の豊かさにつながる一面があります。本来、東洋思想は、心の問題を扱うことを得意とします。「椅子を見る」という私たち人間が、普段、当たり前のように行う行為一つとっても、私たち一人ひとりが、独自の「物語」をもち、そのなかに「椅子」という物体を、能動的に位置づけていることに気づきます。独自の「物語」なくしては、私たちは、生きていくことすらできません。信用経済によって心の豊かさに気づき始めた情報社会のその先には、私たちの一人ひとりが創造する「物語」をより豊かにしていく社会が待っているのではないでしょうか。


　パソコンやスマートフォンなどの機械を使って操作するデジタル世界は、あるボタンをクリックすると何が起こるかは前もって決まっており、予想外の動きを見せた場合は、使い方が悪いか、プログラムにバグが含まれているか、あるいは機械そのものが故障しているかです。そして、私たちの目には現実世界も、首を右に振って右側を見れば、当然、右側の景色が見え、左側を見れば左側の景色が見え、マジシャンにでも騙されない限り、プログラムのバグのように、別の景色が見えることはないはずです。この点では、デジタル世界も現実世界も変わりがないように見えます。しかし、デジタル世界から現実世界を見ると、その様子は一変します。私たちが現実世界で右を向こうとする場合、当然ながら、クリックすべきボタンはありません。どれくらいのスピードで首を動かすのか、何を基準に右と判断すべきか、どれくらいの角度まで首を振って止めるか、一つひとつ数値化していかなければ、どのようにすれば動けるのかすら決めることができません。そして、その数値は状況によって常に変化します。右を向くのは、ほとんどの場合は、何か見たいものがあってのことです。しかし、そこに何があるのか、たとえば馬がいるとしても、その馬の姿形は常に変化し、数値で決められるものでではありません。このように、デジタル世界から現実世界を見たときに大きく立ちはだかる壁であり、 ボタンをクリックするように一つひとつの命令を「限定」することができない現実世界の様子を「無限定環境」と呼びます。無限定環境という現実世界の影響は、現実世界をデジタル情報で扱おうとしたときに、さまざまな問題を引き起こします。その代表として、オーストラリアなど国土の広い地域用いられているごみ収集ロボットの「失敗例」を紹介します。


　逆問題とは「結果から原因を探る」問題を指します。それに対して、「原因から結果を予測する」問題を「順問題」と呼びます。順問題は、原因がすべてわかっていれば、結果を一意に導くことができます。一方、逆問題は、無限の可能性が考えられることから、一般的には解くのが難しいとされます。しかしながら、脳は、まるで最初から答えがわかっているかのように、逆問題を解いているように見えます。
　逆問題は、「目的」を最初に決定したうえで、それを達成するための方法(道筋)を導き出すという意味で、私たち人間が日々行っている行為と同じです。空腹を感じたら「腹を満たす」という目的が生まれ、そこで初めて「何かを食べるための行動」という、目的を達成するための方法を導き出すことができるのです。そして、その方法は、順問題のように、原因が決まったら結果までの道筋が、順次一つひとつ定まっていくことは求めず、目的さえ達成できれば方法は問いません。それこそが、自らの置かれた環境との「調和的関係をつくる」所以です。実際に「腹を満たす」際には、口に入れれば何でもよいわけでなく、社会的に食べることが許されるものとそうでないもの、身体に対して良いものとそうでないもの、そもそも物理的に手に入れることができるものとそうでないもの、など、食べ物に制約があります。そうした制約をクリアし、かつ目的を最大限に達成するための最良の方法を、 その場その場で、常に変化する環境のなかで決定していくことこそが、「逆問題を解く」ということに対応します。私たち生物は、常に逆問題を解いているからこそ、脳のような複雑な構造物であっても、設計図通りに生成され、また、60兆もの細胞一つひとつが統制の取れた動きを行うことが可能なので連問題を解くという視点に立つと、身体を使って学習する、すなわち記憶を育むとはどういうことか、そのメカニズムが見えてきます。前述したゴンドラ猫は、自らの目的を達成するために身体を動かさなかったために記憶が育まれなかったと考えられます。身体を動かすことによって知覚するアクティブタッチもまた、自らの目的に沿うものかどうかを確認するための知覚であるといえます。ほかにも多くの事例が報告されています。前述の山口創は、人間の感覚が育つプロセスを、3段階に分けて説明しています。
　第1段階は、生まれる前の段階です。ヒトの受精卵は、受精後10週を過ぎる頃には、脊髄の神経細胞が手足の先にまで伸びます。18週を過ぎると脳の体性感覚野につながり、そのときには、触覚が生まれていると考えられています。このころから胎児は指しゃぶりを始めます。これにより、身体の感覚と自分自身の身体とを結びつけて知覚していると考えられ、自らの身体を知る(同定する)行為であると考えられています。指しゃぶりによって育まれる感覚は、指、唇、口内など、ホムンクルスにおいて肥大化が見られる部位によるものです。自分自身の指をしゃぶることで、指と唇や口内の感覚を同時に得、自分の身体であることを確かめることができると考えられます。
　第2段階は、生後2カ月を過ぎる頃です。このとき、身体のいろいろな部位を触って探索するようになります。仰向けになって足を触ったり、口に入れたりすることもあります。一本一本の指を紙めることで、それまで大雑把にひと塊の手として感じていたものが、一本一本、別々に知覚できるようになり、それぞれの指を身体感覚によって知ります。そして、仰向けになって手で足をつかむことで、手や足の位置感覚が正確なものになり、徐々に身体が思いのままに動かせるようになっていきます。このとき、身体の効率的な動かし方の基礎がつくられるのです。
　そして、そのような体験を積み重ねることで第3段階を迎えます。生後1年経つ頃、人間は、自己とその周囲の環境とを区別できるようになるといわれています。もちろん、このときの自己像は、正確なものではありません。身体像は誇張され、頭と手や口は大きく、胴体は小さい、ホムンクルスに似たものと認識します。4~5歳児の描く人物像がホムンクルスに似た傾向にあるのは、このときの自己認識を反映しているからです。そして、それが視覚的な身体像と合体されて、徐々に正確なものとなっていきます。
　人間の成長プロセスを、赤ちゃんから順に追っていくことで、人間に匹敵する知能を身につける口ボットに関する研究が盛んに行われています。しかしながら、単にそのプロセスを真似するだけでは、 自ら感覚を(アクティブに)身につけることはできません。逆問題の発想に基づいて、アクティブに環境と対峙するからこそ、知覚が身につけられるということを、ゴンドラ猫やアクティブタッチの実験、 そして、赤ちゃんの成長プロセスは教えてくれています。人間についての理解がここまで深まれば、 人間と情報社会が共生する未来を描くために必要な知見は十分に出揃っています。これらの知見を生かしていくことによってこそ、これからの情報社会、そして、そのなかでの私たちのあり方が見えてくるのではないでしょうか。

[osawatさんの感想 · 2024年12月11日]

ふむ

[fraserlibさんの感想 · 2020年9月15日]

請求記号　007.1/Ma 74

[学習院大学 法経図書センターさんの感想 · 2020年9月7日]

東2法経図・6F開架：007.1A/Ma74j//K

著者プロフィール

松田雄馬
博士（工学）。株式会社オンギガンツ代表取締役。一橋大学大学院（一橋ビジネススクール）非常勤講師。AI・脳科学研究者であり起業家。1982年徳島生まれ、大阪育ち。京都大学工学部を卒業後、同大学大学院情報学研究科修士課程修了。東北大学大学院工学研究科にて博士号を取得。著書に『人工知能の哲学』（東海大学出版部）、『人工知能はなぜ椅子に座れないのか』（新潮選書）など多数。

「2022年 『未来の教育設計図』 で使われていた紹介文から引用しています。」