働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」

川添愛 花松あゆみ

• 朝日出版社 (2017年6月17日発売)

作品紹介・あらすじ

なぜＡＩは、囲碁に勝てるのに、簡単な文がわからないの？

そもそも、言葉がわかるって、どういうこと？
中高生から大人まで「言葉を扱う機械」のしくみと、私たちの「わかり方」を考える。

--------------
「つまり、僕らはロボットにしてほしいことを言うだけで、あとはロボットが勝手にやってくれる。それが一番いいってことだね」
「いいね。そうすれば、誰も働かなくてよくなるね」
イタチたちはみなこの計画にうっとりして、なんてすてきなのだろうと思いました。
（序章「ことの始まり」より）
--------------

なんでも言うことを聞いてくれるロボットを作ることにしたイタチ村のイタチたち。彼らは、「言葉がわかる機械ができたらしい」といううわさを聞いては、フクロウ村やアリ村や、その他のあちこちの村へ、それがどのようなものかを見に行きます。ところが、どのロボットも「言葉の意味」を理解していないようなのです――

この本では、「言葉がわかる機械」をめぐるイタチたちの物語と、
実際の「言葉を扱う人工知能」のやさしい解説を通して、
そうした機械が「意味がわかっていると言えるのか」を考えていきます。

はたして、イタチたちは何でもできるロボットを完成させ、ひだりうちわで暮らせるようになるのでしょうか？

ロボットだけでなく、時に私たち人間も、言葉の理解に失敗することがありますが、なぜ、「言葉を理解すること」は、簡単なように見えて、難しいのでしょうか？

----------------------
――いま、さまざまな人がさまざまな機会に、「言葉を理解する機械がとうとう完成した」とか「今はできていないけれど、もうすぐできるだろう」とか「機械には本当の意味で言葉を理解することはできない」ということを言っています。いったいどれが正しいのでしょうか？
――私たちは普段から、「あの人が何を言っているかが理解できた」とか「あの言葉の意味が分からない」ということをよく口にします。しかし、自分がそう言うとき、どんな意味で言っているか、きちんと意識しているでしょうか？　実際のところ、私たちはさまざまなことを、「言葉が分かる」という便利な表現の中に放り込んでしまっています。それらを一つひとつ取り出してみないことには、「言葉が分かっているかどうか」という問題に答えを出すことはできません。
――この本では、「言葉が分かる」という言葉の意味を考えていくことで、機械のこと、そして人間である私たち自身のことを探っていきたいと思います。
――（問題の一部を知るだけでも）みなさんが、「人と機械の知性」について考えたり、またご自身の「言葉の使い方」や「理解の仕方」を振り返ったりする手がかりになると信じています。
（序章「ことの始まり」より）
----------------------

感想・レビュー・書評

[naosunayaさんの感想 · 2023年11月12日]

うちの娘は語学が好きである。英語とか古文とか、文法の勉強自体が好きらしく、活用とかイディオムとか覚えたりが苦でないらしい。
これは語学は仕方なく学ぶものでそれ自体はめんどくて仕方ない、という私とはえらい違いである。
したがって、というか娘はなんとなく自分を文系と思っているようなのだが、いよいよコードさえ書かなくてもAIを使える時代がやってくる。そうなると語学そのものが好きなことはAIの本質理解の上で立派な武器なのでこの本を推薦してみた。そして案の定自分が先に読んでいる。

川添愛さんの本は何冊目かわからないがこちらも予想どおりおもしろい。「自動人形の城」とほぼ同じタイミングの出版であり、いずれも「面倒なことを機械にやってもらおうとして四苦八苦する」話なのだが、あえて言うなら「自動人形」はプログラミングの話、本書は人工知能の言語認識の話と言えるかもしれない。

言葉がわかる、とはどういうことか？最近理解が進んできたとおり、人工知能がやっているのは煎じ詰めれば「似たような用例の文章を鬼のように学習して質問にそれっぽい回答を返す」プロセスに他ならない。それっぽさ、の再現のためには、人間がなぜかできてしまう「聞き取り、話し、関係付け、論理を理解し、しかも言わずもがなの常識をわきまえる」ことが必要になる。この辺を寓話的に説明するのは手練の川添節。

理論的に未解決でも大量のデータを食べているうちに、人工知能がとにかく実用に困らない程度にそれっぽい回答を出せるようになってきたことはいまや皆知っている。
それでも「『この課題をクリアしていない限り、言葉を理解しているとは言えない』という、『言語学者から見て絶対に譲れないライン』は提示したつもりです」（あとがきより）。
このかっこよさ。

押し付けるつもりは毛頭ないけれど、娘がこれを読んでおもしろい！と思ってくれるかどうか。ちょっと楽しみ。

[本ぶらさん · 2023/12/05]

ご無沙汰してます。

>語学そのものが好きなことはAIの本質理解の上で立派な武器
そう。それは自分も思いました。
パソコンもネットも人より全然遅れて手を出したITオンチwなんですけど、AIはミョーに興味があって、面白いんですよね。
それは、AIは理系よりも、むしろ文系の方が活躍の可能性のある分野だって気がするからなんです。

ただ、自分は文系といっても、naosunayaさんの娘さんと違って文法の勉強は苦手だったんで(^^ゞ
その点でAI方面には向かないかもしれませんけど、でも、娘さんがそういう資質を持っているなら、それは社会に出てから楽しみですよ。
ていうか、娘さん自身が社会に出てから楽しめるんじゃないですかね。

[ボマルツォさんの感想 · 2024年6月3日]

言葉が“わかる”ロボットを作るために、言葉がわかる、伝えられるってどういうことかってのを、言語研究の視点で寓話＋解説という形で、どんどん深掘りしていく構成は面白い。でも、後半ディープな話になると、とたんに寓話に無理が出てきて、解説を読んだほうが話が早いってなってしまった。寓話がメインで、解説がおまけってわけにいかないのはよくわかるんだけど。

[澤田拓也さんの感想 · 2018年8月18日]

知り合いの人工知能研究をやっている方が、「人工知能のできること・できないことが具体的にイメージできる、とても良い本」と言われていたので、早速読んでみた。「イタチ」に仮託した物語は面白く読めるし、言いたいことが事例とともに書かれているので説得力がある。確かにお奨め。

本の内容は、擬人化したイタチが、言葉がわかるロボットを作ろうと、他の動物たちが持つ技術を頼りにして機能強化していくというもの。その中で読者は、自然言語認識の課題と解決策について理解が深まっていくという形になっている。手に取る前は、擬人化しているので、自然言語研究のコアな部分をすっ飛ばして単純化した話になっているのかもしれないと思っていたが、そんな心配は無用であった。著者がしっかりとした技術知識と全体を把握する能力とそれを上手く表現にまとめる力があるので、この本が成り立っている。

著者はイタチの物語を通して、自然言語の理解には次の技術要素が必要だと説明する。「言葉が分かる」ということには少なくとも以下の要素が含まれており、少なくともそれらをうまくやり遂げられなくてはならない。

1. 言葉が聞き取れること
2. おしゃべりができること
3. 質問に正しく答えること
4. 言葉と外の世界を関係づけられること
5. 文と文との論理的な関係が分かること
6. 単語の意味についての知識をもつこと
7. 話し手の意図を理解すること

ディープラーニング技術が必要なもの、充分な質の高い学習データが必要なもの、豊富な知識ベースが必要なもの、いわゆる「常識」が必要なもの、レベルに応じて必要な要素は変わってくる。また、それぞれ要素は互いに独立ではなく、互いに複雑に影響し合っている。意味と意図の違い、多義語の曖昧性の解消という問題もある。

著者は、言葉がわかる機械を作るために全体に共通する課題を次の三点にまとめている。

A. 機械のための「例題」や「知識源」となる、大量の信頼できるデータをどう集めるか?
B. 機会にとっての「正解」が正しく、かつ網羅的であることをどう保証するのか?
C. 見える形で表しにくい情報をどうやって機械に与えるか?

その大変さは本書でイタチたちが苦労する様に象徴的に描かれている。一気に解決するようなものではなく、一歩一歩進めていくような課題である。

それでは、なぜ人間は「言葉がわかる」のか。それは現在の機械が言葉を理解する能力を持とうとして用いられるやり方とは明らかに異なるやり方で獲得された能力だからだ。著者は次のようにまとめる。

① 人間は言葉を習得するとき、生まれた後で接する言葉だけを手がかりにしているわけではない
② 言葉についてのメタな認識を持っている
③ 他人の知識や思考や感情の状態を推測する能力を持っている

これが人間の「言葉がわかる」ために必要であるとするならば、これらを機械に実装することは可能なのだろうか。進化の過程で言葉を獲得したことで人間は他の動物と異なる形で地球上で繁栄することとなったとされているが、一口に「言葉を獲得する」と言っても果たしてどのようにそれは成されていったのか、とても不思議で複雑な問題であるが、興味をそそるものでもある。


あとがきにおいて「言語能力の研究は、あまり報われない」と著者は嘆く。言葉の研究をしている、というと「何語の研究?」と聞かれる。日本語の研究と言うと、日本人なら誰でもできている日本語の何を研究しているの、と言われるらしい。機械による言語理解の研究と言うと、今は将棋や碁のプロに機械が勝つくらいなので、もうすぐできそうですよね、と言われるらしい。著者はロボットに東大の入学試験を解かせる「東ロボプロジェクト」に参加していたが、その中で言語理解について多くの課題が整理されて浮かびあがってきたことと、またそのことが適切に世の中に認知されてきたことが大きな成果だったと評価する。そして、この本もまた正しい理解に役立つことができればという気持ちで書かれたという。そうであれば、その意図はとても成功していると思う。誰もが思い付かず、やろうとしなかったフォーマットでそれを実現した。あとはより多くの人にこの本を手に取ってもらうこと、だろう。そして、著者が言語の研究も報われたと思うようになってほしい。ということで、ぜひぜひ手に取ってほしい。

[Rafmonさんの感想 · 2023年6月11日]

ChatGPTやSiriの音声認識とか原理について、非常にわかりやすく、勉強になる本。人間とは何か、言語とは何か。突き詰めると、会話は結局、パターン化され規則性のあるインプットとデコード、アウトプットで成立する事が分かる。

私たちの会話の中で重要な雑談。6割が雑談であると言う調査結果もあり、その中身はぼんやりしたやりとり、ぼんやりした理解で構成される。内容の正確さが必ずしも問われない、ぼんやりした言葉にはちゃんと共感してもらった、否定してくれた、興味を持ってくれたと言う自分の都合の良い解釈が成立するのだという。コミニュケーションで大切なのは、一問一答の正答率を上げる事ではないのだ。

また、言葉の意味と言うのは全て言葉の外の世界にあるのだろうか。言葉の意味がわかると言うのは、言葉と画像を結びつけられることに他ならないと言う主張もある。本当にそうなのだろうか。会話型AIは必ずしも、言葉の意味付けをしていない。画像と会話のAIが融合し、言語を用いぬコンパイルの更なる進化は胸熱だ。

画像を機械に認識させるには、無視すべき違いを無視し、無視してはいけない違いを無視していく。また、文脈を理解するために、推論のパターンを読み込ませていく。この推論作業を妨げるものは、感情や都合。間違い。言葉の定義。隠れた前提。曖昧性。

イタチはロボットを完成させ、労働から解放されるのか。シンギュラリティはもうそこまで来ている。AIに求められるのが正答率や生産性ならば、我々が必要とする雑談がどのような形態になるのか。少なくとも、相互理解のためのセンシングとしての雑談の必要性は変わらない。ならば、逆にそれをAIに実装する必要は無さそうだが。

[noguriさんの感想 · 2021年3月15日]

自然言語処理について、小説形式で、面白おかしく学べる本。
小説形式とは言え、自分のような素人には結構骨太な内容。
しっかり考えながら、読み進めないと、読み切れません。
一方、この分野をここまでかみ砕いてストーリーにして下さった
著者には感謝と尊敬の念を抱かざるを得ません。
この人、スゴイな。。

「最近、AI（機械）が人間のできることをどんどん奪っていく」といった
ホラー・ストーリーを至る所でよく聞くようになりましが、
現時点でAI（機械）に何ができて、何ができないのかを正確に知っておくことが
未来への備えの第一段（ファースト・ステップ）なような気がします。
チェス・将棋・囲碁では、プロが機械に勝てなくなりつつある昨今、
人の言葉を理解するロボットは作れるのか？
こういったことに興味のある人は読んでみると、とても楽しめるのではないかと思います。

改めて、人間ってすごいな、ということと
特に日本語って、ややこしい（誤解を生じやすい）、
そして、今は機会に限界があれども、いつブレイクスルーが起こってもおかしくない時代の流れの速さ、
そんなことを考えながら楽しませてもらいました。

[hiroshi1953さんの感想 · 2017年8月27日]

　著者は国立情報学研究所の研究者（2017年3月まで）．自己紹介によると専門は，理論言語学・自然言語処理．具体的には，言語（を理解する）とは何か・コンピュータに人間が使っている言語を処理（理解）させるにはどうしたらいいか，についての研究であると思われる．

　「働きたくない」と考えた「イタチ」たちは，「ロボットにしてほしいことを言うだけで，あとはロボットが勝手にやってくれる」ようなロボットを開発することにした．そのようなロボットは人間の言葉がわからなければならないということに気づいたイタチたちは，機械が「言葉を理解する」とはどういう状況をいうのかを，いろんな動物たちに教えてもらうことにした．というところから，このお話は始まる．

　――このお話では「言葉がわかる」ということの意味を，「言葉が分かった」といえるには少なくとも何ができなくてはならないか．また，「言葉が分かる」ということは少なくとも「何と違う」のか．という観点から考察していく．――

　このような記述を見ると，著者は文学部の出身にもかかわらず，バリバリの理系頭の持ち主だという気がする．少なくともこの書き出しは理系の論文の書き出しであろう．

　で，この本の概要も，９章　その後のイタチたち　の解説編でていねいにまとめられている．いわく，「言葉を理解するために必要な条件」として，
（１）音声や文字の列を単語の列に置き換えられること
（２）文の内容の真偽が問えること
（３）言葉と外の世界を結びつけられること
（４）文と文との意味の違いが分かること
（５）言葉を使った推論ができること
（６）単語の意味についての知識を持っていること
（７）相手の意図が推測できること
ということがあげられている．

　本文の章立てとは微妙に違っているのだが，その違いを分析するだけの能力は持ち合わせていない．イタチたちの企てと，友人たちの達成した成果を楽しみながら読んでいく．

　「あとはロボットが勝手にやってくれる」という状況には，まだまだ遠いことがよく分かる．そもそもそんな状況にいきつけるのかどうか．「あとは誰かが勝手にやってくれる」ことを望むこと自体が傲慢なのではないかという気がしてくる．


2017.08

[alouette18さんの感想 · 2025年4月15日]

「自動人形の城」がとてもおもしろかったのでこれも読んでみましたが、こちらは川添さんの他の著書とあまり変わらない印象。

私自身は決して開発者側にはなれないということを実感しました。

[mokuyoubiさんの感想 · 2024年11月3日]

978-4-255-01003-8
ｃ0095￥1700E

働きたくないイタチと 言葉がわかるロボット
-人工知能から考える「人と言葉」--

2017/06/20.　初版第1刷
2021/05/31.　初版第5刷

著者：川添愛　（かわぞえ　あい）
発行所：株式会社朝日出版社

--------------
イタチ
魚村　ロボット
カメレオン村
アリ村
モグラ村　耳（音声を判別する）
フクロウ村　目（画像認識する）
オコジョ村
メガネザル
タヌキ
----
「何でも分かって、何でもできるロボット」と「楽な暮らし」を望むイタチ達のお話。

ディープラーニングを例にして（日本語を含む）言語の世界と現実の世界（言葉の外の世界）を合致させるのは今のところなかなか難しい。という話。
意味と意図の違い、代名詞がどの部分に当たるのかという捉え方の違いは日常的（私がそそっかしいだけか？）
母語（子どもの頃自然に覚えた言葉）
母国語　当人の持つ国籍による。複数の国籍を持つ人もいるし、（当人の責任ではない場合も含むが）国籍を持たない人もいる。

モノリンガルの国とそうでない国（または、属するグループ）ではイタチの作るロボットは違う学習をすることになるでしょう。

パプアニューギニアが最も言語が多い国だそうで、840の言語が話されている（2021年）そこでのロボット作りはどうなることやらです。
また、日本のように（ほぼ）モノリンガルで、あっても、音が少ない言語は同じ音で色々な意味を含むでしょうし、興味深い。ただ、まだわからないことだらけ。
ブレイクスルーが有ったときには脳みその仕組みも分かるかもね。

[空飛ぶいかさんの感想 · 2020年10月1日]

装丁と挿画とタイトルに惹かれて読み始めました。
人工知能についての知識がなくても、言葉に興味があればスッと読めると思います。
一言で言えば、言葉を理解するってどういうことなのか？が書かれています。
何でもできるロボットが作れれば、働かなくて良くなるんじゃない？と考えたイタチ達が、機械に言葉を理解させられるよう(かなり他力本願に)取り組む物語パートと、解説パートが交互に続きます。
普段から他人に言葉で伝えるのは難しいと感じていたけれど、人間は想像以上に複雑なプロセスを経て言葉を使っているんだと改めて認識しました。他人の意図を推測するなんて、そりゃ機械にやらせるのは難しいよね、人間だってしょっちゅう間違えるのだし。(「暑いですね」と単なる世間話のつもりで言っても、「冷房付けますね」と気遣わせてしまうので本当に色んな人に申し訳なく思ってしまう......)
スマホに「○○に行きたい」といえば経路が出て来るのも、実はものすごく色んな人の研究や苦労があって出来ている機能なのだろうなと、あらためて言葉の奥深さ、面白さを感じました。

[ぬさんの感想 · 2025年3月18日]

人工知能について少しでも知見を深めたかったので読んだ。物語形式で大変わかりやすく、記憶にも残りやすい優れた作品だった。人工知能を作るにあたり、どのようなことが問題となってくるのか簡単に知れた。絵もかわいい。

著者プロフィール

作家（言語学）
1973年生まれ。九州大学文学部言語学科卒、同大大学院にて博士号（文学）取得。2008年津田塾大学女性研究者支援センター特任准教授、2012年から2016年まで国立情報学研究所社会共有知研究センター特任准教授。専門は言語学、自然言語処理。主な著書は『白と黒のとびら』（東京大学出版会、2013年）、『精霊の箱（上・下）』（東京大学出版会、2016年）、『自動人形の城』（東京大学出版会、2017年）、『働きたくないイタチと言葉がわかるロボット』（朝日出版社、2017年）、『コンピュータ、どうやってつくったんですか? 』（東京書籍、2018年）、『数の女王』（東京書籍、2019年）、『聖者のかけら』（新潮社、2019年）、『ヒトのコトバ　機械の言葉』（角川新書、2020年）、『ふだん使いの言語学』（新潮選書、2021年）、『論理と言葉の練習ノート』（東京図書、2021年）、『世にもあいまいなことばの秘密』（筑摩プリマ―新書、2023年）。

「2024年 『言語学バーリ・トゥード　Round 2』 で使われていた紹介文から引用しています。」