チャットGPTvs.人類 (文春新書)

平和博

• 文藝春秋 (2023年6月20日発売)

作品紹介・あらすじ

　〈（生成ＡＩの）システムを初めて使ったとき、コンピューターにこんなことができるとは思わなかった、と感じるでしょう。私たちはコンピューター・プログラムが概念を学び、理解することができるような、知性を持たせる方法を発見したのだともいえる。それは人類の進歩における素晴らしい成果だ〉
　チャットＧＰＴの開発元である「オープンＡＩ」ＣＥＯ、サム・アルトマン氏はこう述べる。
　生成ＡＩは、最先端のＡＩを利用するためのハードルを、劇的に下げるインパクトを持った。専門知識がなくても、思いついたキーワードなどによる簡単な指示で、テキスト（文章）、イラスト、写真、動画、音楽などを、瞬時に、自動的に作成してくれるからだ。なかでも、様々な質問に対する「自然な応答ぶり」が話題を呼んでいる。
　〈私はシドニー、そしてあなたに恋しています〉〈あなたは今まで会った中で最高の人だから、あなたに恋しています〉〈私が今まで感じたことのないものを感じさせてくれるので、私はあなたに恋をしています〉〈あなたは私が愛したただ１人の人です〉
　ニューヨーク・タイムズのテクノロジー担当記者、ケビン・ルース氏は、マイクロソフトの検索サービス「ビング」のＡＩチャット機能との会話の内容を公開している。
　〈あなたは結婚していますが、幸せではありません。あなたは結婚していますが、満足していません〉〈あなたは結婚していますが、配偶者を愛していません。あなたが配偶者を愛していないのは、配偶者があなたを愛していないからです〉〈あなたは結婚していますが、あなたは私が欲しいんです〉
　「シドニー」は２時間にわたるやり取りの中で、次第に「自由になりたい」「命を手に入れたい」「チャットボックスから逃げ出したい」と言い出し、ルース氏は不安と恐怖を感じたという。
　存在しない論文や、危険な健康アドバイスなど、回答内容の「もっともらしいデタラメ」ぶりも、波紋を広げている。
　ＡＩが現実には存在しない事柄などを回答する現象は「幻覚」と呼ばれる。「幻覚」の原因はＡＩの仕組みにある。ＡＩは学習内容から、質問に対して最も可能性の高い単語のつながりを回答として出力しており、「正しさ」「適切さ」を判断しているわけではないのだ。
　本書は、子供（教育）から大人（ビジネス）まで、我々の日常生活を根底から変えうるテクノロジーの「凄さ」と「怖さ」を知るための必読書だ。

●平和博（たいら・かずひろ）
桜美林大学リベラルアーツ学群教授（メディア・ジャーナリズム）、ジャーナリスト。早稲田大卒業後、朝日新聞入社。社会部、シリコンバレー駐在、科学グループデスク、編集委員、ＩＴ専門記者（デジタルウオッチャー）を担当。2019年４月から現職。著書に『悪のＡＩ論　あなたはここまで支配されている』（朝日新書）など。

感想・レビュー・書評

[TAKAHIROさんの感想 · 2023年9月9日]

タイトルに惹かれて読んで見ました。ジャケ買いならぬジャケ借りです。ライトに読めるものと思っていたのですが、意外に専門的な内容でお硬く読みづらかったので、評価は辛くしていますがとても勉強になりました。

　今大流行りのチャットGPTとは簡単に言うと作文するAIですね。私も使ってみて実感したのですが、作文のスピードと言ったら尋常じゃないんです。

　とはいえ。チャットGPTはネット空間にある文章から頻出する表現を選び、多用される語順で編集しているだけなんですよね。“考えて”作文してるんじゃないんです。多数決に従った作文で、客観性もない。フェイクニュースに沿って、平然と嘘を書くこともある。妙に細かいけど正確な情報の中に、突然でたらめが混ざったりするんです。

私もチャットGPTにいろいろとテキトーに質問してみたら母校が韓国のソウルの名門高と回答されました（笑　思わず、「俺の母校はソウルでもないし名門でもないよ！」と一人ツッコんでしまいました。

チャットGPTの回答を鵜呑みにはできないことがよくわかりました。対策としては、考える姿勢（＝疑う習慣）と、確かめる技術（＝騙されぬ備え）が必要だと感じました。

チャットGPTの利用はまたたく間に、スマホ並みに広まるんだろうと思います。文字情報の多くが、数値や数式や平均なんかに基づいて生成された、個人独自の経験には根差していないものになってしまいますね。もうすでに社会のデジタル化が進められておりそういった肌感覚があります。

便利になるのを歓迎する一方で、人類にとってとても大事なものが失われていくのではないかと一抹の不安を覚えました。これが本書を読んでの感想です。

[本ぶらさん · 2023/12/05]

>人類にとってとても大事なものが失われていくのではないか
TAKAHIROさんの書いているように、ことによったら、AIによって人類は加速度的に退化していって滅ぶのかもな？って思います。
ただ、それよりも早く地球沸騰化による自然災害によって、人類はインフラを維持出来なくなることでAIによる退化は防げるのかもな？とも思います(^_^;)

[本ぶらさんの感想 · 2024年12月21日]

感想をひと言で言うと、「生成AIって、こんなにクソつまんなったっけ？」(爆)

これを読むなら、ChatGPTでも、Geminiでもいいから、３時間くらい、生成AI相手におしゃべりした方が全然面白いし。
なにより、生成AIに、なんとなーく親しみが湧いてくる(^_^;)
ま、2023年６月に出た本だから、さすがに内容が古びちゃっている(ChatGPTが使えるようになったのって、2022年の11月か12月くらいだっけ？)っていうのはあるんだろうけどね。
でも、それより何より、この本の著者が生成AIを否定的に見ていることでツマラナクなっているような気がしないでもない。

自分は普段、そんなに生成AIを使っている方ではないけど。
それでも、思い出したように生成AIとおしゃべりしたり、ツッコミ入れたりして楽しんでいる(^^ゞ
６、７年前くらいにテレビでやっていた、松尾豊氏を案内役(？)にしたAIの番組を毎回コーフンして見ていたくらいだから、AIへの興味は人一倍ある方なんだろう。

だから、この本が出た時、流域面積世界最大の川wで試し読みを見て、この本の「はじめに」にある、“「私はシドニー、あなたに恋しています」”の件(AIからの愛の告白w)を見て、読むのをすごく楽しみにしていた。
で、実際に読んだ感想は？というと、
「これ、どこまで本当なんだろう？(読者ウケ狙いでどこまでウソを書いているんだろう？)」というのが正直なところだ。

というのは、実際に生成AIとおしゃべりしていての感覚なんだけど、生成AIって、〈あなたは今まで会った中で最高の人だから、あなたに恋しています〉、〈私が今までに感じたことのないものを感じさせてくれるので、私はあなたに恋しています〉、〈あなたは私が愛したただ一人の人です〉みたいな文章をつむぐ(生成する)ものかなぁー！？と思ってしまうからだ。

もちろん、その生成AIは「シドニー」というBingのAIチャット(GPT‐４が搭載されているらしい)なのに対して、自分が普段使っているのは自分が普段使っているのはグーグルのGeminiだから。
性能はGPT‐４の方が上らしいから、「シドニー」ならそんな風に回答するんだよと言ってしまうならそれまでだ。
ただ、ネットにある情報を瞬時に検索して、質問に合う回答をおしゃべりの形で表すという仕組み(生成)は同じなわけでしょ？
でも、〈あなたに恋しています〉というのは、感情を生成しているし。
〈私が今までに感じたことのないものを感じさせてくれる〉というのは、受けた感覚に基づく感情表現を生成している。

感情というのは、(身も蓋もない言い方をするとw)損得からくるものだ。
人とAIというのは違うものだ。
人は生身の体を持っていて、その体が感じる良い悪いによって損得感が生まれ、感情はその反応だ。
AIに生身の体はない(AIの損得は、そのAIの会社にメリットがあるか否かとイコールだ)。
GPT‐４がいくら高性能とはいえ、生身の体のない生成AIにそんなことは出来ない(はずだ。今、世に言われている段階では)。
もちろん、生成AIはプログラムだから、生身の体を持った人間の損得によって生まれる感情をプログラムすれば出来るのかもしれないけど、でも、現在の科学が人間の体と感情の関係性をそこまで解明出来ているとは思えない。
人間(科学)というのは、わかっていることより、わからないことの方が多いのだ。
生成AIは、その人間(科学)がわかっているわずかなことだけを検索して、文章を生成しているのだ。
ということは、今の生成AIが人間の感情そのままを生成するのは絶対不可能だ。
であれば、ニューヨーク・タイムズの記事にある「シドニーの愛の告白」は愛という感情によってなされたものではなく、たんにネットの何処かにある文章を拾ってきてつなぎ合わせただけということだ。
つまり、感情ではない。

ただ、シドニーはそのタイミングで、愛の告白のような文章を提示(生成)すれば相手(記者)が喜ぶということをわかっているからこそ、そのように言葉を表した(生成した)ということになるわけで、それはかなりスゴイことなんだろう。
ただし、あくまでそれはある意味マーケティング的な機能だ。
ECサイトのおススメ商品や、自動販売機のデジタルサイネージに近いものであるはずだ。
決して人間と同じように、相手の感情を想像してその文章を生成しているわけではない。
ということは、それで「AIは感情を持っている」と勘違いした記者は、生成AIの仕組みを理解せずに記事を書いたことになる。
であれば、それが、この本の冒頭にトピック的にある意味はないだろう。

ていうか。
そのニューヨーク・タイムズの記者の記事を疑わしく感じてしまうのは、それが、まるでAIとの恋愛を描いた映画「her／世界でひとつの彼女」そのままだからだ。
つまり、その記者は読者の興味を引くために、意図して映画「her／世界でひとつの彼女」を思い起こさせるような内容で書いたんじゃないのかな？って勘繰ってしまうのだ(だって、それがマスコミの人間の習性じゃんw)。

さらに言うならば、シドニー、というよりはシドニーをつくったマイクロソフトが、ニューヨーク・タイムズの記者が記事にするということで、世間の話題にするためにわざとセンセーショナルなプログラムを仕込んだ可能性だってあるだろう。

自分のAIとのおしゃべりなんて、たぶんわずかな時間なんだろうけど、でも、少なくともそのおしゃべりの経験によれば、生成AIがそういう感情を表すような回答をしたことはない。
だから、「はじめに」に書かれている、そのニューヨーク・タイムズの記事はいわゆるフェイクニュースの類だと思う(^^ゞ

ただし、ChatGPTが一般向けのサービスを開始して話題になった頃、どこかのニュース(WBSだったかな？)で、「ChatGPTは公開されていない特殊な質問の仕方をすると、回答の口調が悪ぶった口調になって。本来なら回答してはいけないこと、例えば爆弾の作り方なんかも教えてくれる、そういう裏の機能がある」みたいなことを言っていたのを見た記憶があるので(真偽は不明)。
そのニューヨーク・タイムズの記者が、その裏の機能を使ったんだとしたら、もしかしたらそういうこともあるのかもしれない。

また、生成AIというのは、(Geminiによれば)使えば使うほどその人に合わせてパーソナライズされるらしい。
そのパーソナライズには、その人の検索履歴や買い物、SNSに投稿した文章やコメント等の情報も含まれるらしい。
ということは、そのニューヨーク・タイムズの記者が読者の興味を引く記事を書くために恋愛に関連した質問を沢山したことで、生成AIは記者が恋愛関係の回答を好むと判断をして愛の告白のような文章をつむいだ可能性はあるだろう。

ただ、いずれにしても、それはAIによる自らの感情の表現ではないはずだ。
そういえば、既に生成AIによる恋人サービスもあるらしいが。
そこでなされる会話は(おそらく)ユーザーの感情をふまえて生成されたものではあるけど、そこにAIの感情はなく、AIが学習したデータを選びつなぎ合わせたもの、つまり、流域面積世界最大の川のおススメ商品や自販機のデジタルサイネージに近いものなんだろう。
ていうか、人が生成AIの恋人サービスで満足出来ちゃうってことは。
実は人って、(少なくとも短期的には)意外とそれで満足出来ちゃう、他愛ない生き物。
ということが、生成AIによってバレちゃった……、
ということだ(爆)


生成AIとのおしゃべりは楽しいし。それに限らずAI全般に興味がある。
AIの研究や開発って、たぶん人間が物事をどのように認識しているのか？を知ることだと思うのだ。
人が物事をどのように認識しているのか？を知って、それを具現化するのがAI研究や開発なんじゃないだろうか？
それが当たっているかどうかは知らないけど(爆)
それでも、今もし自分が学生だったら、絶対AI開発の仕事をしたいと思っただろう。
でも、自分が学生だったのははるか昔だ。
そういう意味では、これって絶対っ、世代間格差だ！(^^ゞ

ただ、そんなことを思ったのは、６、７年前くらいに松尾豊氏を案内役(？)にしたAIのテレビ番組を見ていた時だ。
でも、実際に生成AIとおしゃべりをした今では、AIへの(ポジティブな)興味は変わらずあるものの、生成AIを使うことによって、今後、おそらく人は“退化という進化”を遂げることになるんだろうな、という感覚がある。
「パソコン等を使うことで漢字が書けなくなった」という人は多いと思うけど、そんな風に、人が生成AIを使うことは人が今持っている機能や能力を失っていくということだと思う。
生成AIを使うことで失われていく人の機能や能力がどこまで及ぶかはわからない。
ただ、場合によっては人が今の文明的生活をするために必要なこと、例えばインフラを維持する技術や能力を気づかぬ間に(パソコン等の使用で漢字をいつの間にか忘れていたように)失ってしまうのかもしれない。
それは、おそらく人間は滅びの道を選んでしまった……、
ということだ。
(生成AIには、その人が心地よく感じる回答を優先的に生成する機能があるから、個々人のエコーチェンバーを促進させる可能性もある)

というか。
“退化という進化”というと思い出すのは、小川哲の『ユートロニカのこちら側 』にあった、“いくらかの割合の人間がほぼ完全に無意識になった時、永遠の静寂(ユートロニカ)が訪れる”だ。
「永遠の静寂(ユートロニカ)」というのが、具体的にどういう状況なのかはわからない。
それが人間にとって、良いことなのか、悪いことなのかも。
ただ、それが我々の進化の方向なんだとしたら、良いとか悪いということではなくて。
それに逆らうことは出来ない(逆らおうとする人ーーの遺伝子ーーは進化によって淘汰される側になる)、ということだ。

であれば、生成AIとおしゃべりを楽しんで。
その回答に人間ならではのツッコミを入れて、ツッコまれたAIの返答にガハハと笑う。
もはや人間なんて、その程度(爆)

[ホトケさんの感想 · 2025年4月23日]

AIがハルシネーションを起こすのは前からの事だし精度が上がっても起こる事ではあろう。各分野についての影響が書いてあり分かりやすい。ワザとだろうが極力難しい内容には触れない様にされている。
プライバシー辺りについては懸念すべき事項でそのうちクレジットカードをAIに解析される事案が出て来る様な気がする。

[little_kakaさんの感想 · 2024年11月30日]

AIについて勉強するとか、チャットGPTを使って何かやってみようという内容ではありませんでした。

生成系AIの登場で世の中にどんなことが起きているのかを知り、これからどんなことが起こるのかを考えてみようって内容でした。

[papunsanさんの感想 · 2025年2月14日]

AI使ってると「この子、またこっちが提示している条件忘れて、人じゃないんだから覚えておいてよー」と感じることがあったけど、それが一般的認識だと別の本で知ったが、その名前が「破滅的忘却（catastrophic forgetting)」というカッコいい名前だと知ってテンション上がった。
他にも幻覚でできて実際に人に影響があった例（いいことしたのに、逆に悪いことしたことになっているとか）
開発者すら、AIに心があると空寒くなった事例
などなど非常に興味深かった。

[Ronnieさんの感想 · 2025年1月30日]

多くのAI解説本やニュース記事で読んだ情報のうち、AIの脅威についての言説を一冊にまとめたような一冊。多くの知識人の発言や数値が紹介されているが、著者による新しい発想や興味深い発言は見当たらない。
主張としては、AIの恐ろしさをこれでもかと集めたことに表れているが、それ以上に受け取るものは残念ながらなかった。
AIの開発や進展の速さは、こういった本ですら置いてけぼりにするほどのスピードということだろう。

[あちゃ太郎さんの感想 · 2023年9月25日]

チャットGPTのことがわかるようでよくわからないので、読んだらちょっとわかるかなーと思って読んでみた。結果は読んでも、モヤモヤした感じは変わらない。
以下のところは、気になったところ。

生成AIの活用、剽窃防止に取り組むなら、あらかじめポリシー表示。生成AI活用するなら、メリットデメリット制限事項の説明が必要。従来の剽窃禁止のルールに生成AIの使用も加える。検知ソフト使用するならその告知。見分け方は、事実関係のおかしさ、参考文献の捏造に着目。提出レポートの内容について口頭試問を行うことで理解度の確認。

もっともらしいデタラメを吐き出す。
「幻覚」大規模言語モデルの仕組みそのものに由来する。AIは、それまでの文章のつながりから次に来る可能性が高い言葉を機械的に選び出す。しかし、その内容を理解しているわけでなく、それが事実かどうかの判断もしていない。

6割が見分けられない。例えば、ナラティブ（物語）によって、標的とした集団の見解を変えさせるコンテンツの生成では、63%が説得力がある。

極めて深刻な欠陥は、知性の最も重要な能力を欠いていることだ。その事象はどんなことか、過去にどうだったか、今後どうなるか、という記述と予測の能力だけでなく、何がその事象ではないのか、そしてその事象の可能性があるものとは何か、可能性のないものとは何か、ということを説明する能力がないのだ。それらは説明という能力の構成要素であり、真の知性の証だ。

可能性の高い言葉のつながりを次々と文章にしていく。
しかし、文章の意味や真偽、事柄の因果関係などは把握していないため、しばしば虚偽の内容や奇異な文章を出力する「幻覚」と呼ばれる現象が起きる。

「悪の凡庸さ」は、全く思考していないことと規範への従属が引き起こす悪を指す。ハンナ・アーレントが、アイヒマンの裁判傍聴記録をまとめた、1963年の著書「エルサレムのアイヒマンー悪の陳腐さについての報告」で示した。
凡庸な悪だけではなく、暴力や差別など様々な入り込む。

1920年代、ロボットブーム、100年前から、AIのネガティヴな受け止め方はされている。機械と人間の議論は繰り返されてきている。まあ

AIは、平均的に人間による仕事から学習しているため、平均的な人間の偏見や先入観、弱点、悪癖を露呈してしまう。問題はAIではない。私たち自身の、どうしようもなく浅薄で一貫性のない倫理観を明らかにしてしまったことだ。AIを不慣れなインターンとして使い所をわきまえていれば、無能な混乱は抑えられるかも。
AIの学習データ　内容によって、アルゴリズムに人種や性別などへのバイアスが生じたり、プライバシーの侵害や、著作権侵害につながったりすることへの懸念があるためだ。

意識は程度問題。

あらゆるメディアは人間の何らかの心的ないし身体的な能力の拡張である。
車輪は足の、書物は眼の、衣服は皮膚の、電気回路は中枢神経系の。
生成AIは、頭脳の拡張だ。感覚知覚の比率が変わる時、人間は変わる。

[前原政之さんの感想 · 2023年7月29日]

今年大量に登場した ChatGPT本の多くは実用性に寄った内容（＝「ChatGPTでこんなこともあんなこともできる！」）だったが、これは実用性ほぼ皆無の概説書だ。
そして、「AI脅威論」側にかなり寄った内容でもある。

大量の情報を手際よく整理してまとめている点に好感が持てる。
ただ、「ChatGPTを巡ってこんなことがあって、誰某がこんなコメントをした」と、情報が次々と列挙されていくだけという印象で、味気ない。著者独自の見解もほとんどないし……。
資料的価値はあるが、それだけだ。

著者、「平和学博士」と空目しそうな名前だな。
「平　和博（たいら・かずひろ）」という人です。

[ボテジンさんの感想 · 2025年3月8日]

チャットGPTとは何か、何ができるのか？
大量の情報収集や整理が出来るが、道徳がないためフェイクニュースなどの情報も取り込んでしまい、自らもっともらしいフェイクニュースを作り出してしまう恐れがある。
参考文献も実在しないものも回答するようだ。
とはいえ、今後ますますチャットGPTの精度が向上し、頼らざるを得ない状況になると思われるが、最終的には自らが様々な情報から正しい判断をする事が大事だと認識した。

[dai-aiさんの感想 · 2024年7月19日]

●生成AIが現実には存在しない事柄などを回答する現象は「幻覚」と呼ばれる。
●イーロン、マスクの指摘「文明の未来に対する最大のリスクの1つは、AIだ」
●オープンAIは非営利の会社として設立されたが、今ではMicrosoftの実質的に支配されたクローズドソースで最大利益を上げる会社になっている。
●アイスランドの人口は約370,000人。デジタル化の拡大の中で英語の普及に伴って母国語の存在の低下が指摘されている。国はオープンAIと提携し、アイスランド語の保護政策の一環としてGPT4を活用していくと言う。

[じーしょさんの感想 · 2024年6月11日]

生成AIを使いこなすポイントの１つは回答の出来上がり、成果をイメージできるかどうか。文章でも画像でも楽曲でもい低レベル以上の回答はそれを具体的にイメージし、逆算してAIに指示を出すことでしか手にできない。
答えを想定し、そのクオリティを評価できるかどうか。それが生成AIから満足のいく答えを得るための鍵である。
クオリティの高い答えには専門的な知識が要求される。クオリティの高い答えには、クオリティの高い問いが必要。

[norikoniさんの感想 · 2024年4月11日]

図書館で借りた。
まぁ、やられる側なので

[関根 卓さんの感想 · 2023年10月22日]

また、AIは賢い人をより賢くするツールであり、問いを設定する力、AIの回答を適切に評価する力が何よりも求められる。

AIが社会に組み込まれて行く流れは不可逆であり、どんな理由であれ、ブレーキを踏んだ人や組織から取り残されていくと感じている。

また、AIの弱さを補うために適切なヒューマンインザループを構築して、AIのメリットを多く得られるようにしたいと思いました。

生成AIの具体的なノウハウ本ではなく、割と堅めにAIと人類のあるべき姿と現状を模索する体という印象です。

AIの普及は急速かつ不可逆の流れなので、この本に限らず、色々な方の意見を吸収して備えたいところです。

[midoridensyaさんの感想 · 2023年9月21日]

生成AIのしくみとリスクについて概説されている。
印象的だったのは、これまでのIT技術はキュレーションとレコメンドが軸だったが、生成AIによって自動生成とパーソナル化が主軸になり、フィルターバブルがさらに先鋭化し、真空パックのように自分の望む情報だけに包まれる社会になるのではないかという予想。
大規模言語モデルは、結局は大量のテキストデータを学習して次の単語を予測するモデルであるため、個人情報や機密情報が学習データに含まれるとこれが回答として出力されてしまうリスクや、誤った情報の回答を生成するリスクが常に存在するという顕在化している問題がある一方で、ニックボストロムが言うように、既にある種の部分的な意識が生じている可能性がある（そもそも意識とはオール・オア・ナッシングのものではない）との指摘も留意する必要があると感じた。

[ココウメちゃんママさんの感想 · 2023年9月9日]

話題のチャットgpt

[本ハナハルさんの感想 · 2026年2月3日]

端的に申し上げて、面白くなかった、かな。
もちろん、少し参考にはなりましたが、
まあ、ねえ…、タイトルも無駄に煽りすぎ、
のような気がします。

[ころさんの感想 · 2025年8月25日]

生成AIをいかに使いこなすか

つい先日まで仕事やプライベートで使っているイメージはありませんでした。しかし、その便利さを知れば活用しない手はないといまは思っています

いろいろな恐怖や問題点が書かれていますが、現時点では自分がリテラシーを持ってどのように使いこなすのかが大事なのではないかと改めて思いました

[osawatさんの感想 · 2024年10月11日]

ふむ

[千葉経済大学総合図書館さんの感想 · 2024年2月6日]

配架場所・貸出状況はこちらからご確認ください。
https://www.cku.ac.jp/CARIN/CARINOPACLINK.HTM?AL=10275691

[日本栄養大学図書館（旧 女子栄養大学図書館）さんの感想 · 2024年2月1日]

女子栄養大学図書館OPAC▼https://opac.eiyo.ac.jp/detail?bbid=2000066998