人類滅亡2つのシナリオ AIと遺伝子操作が悪用された未来 (朝日新書925)

小川和也

• 朝日新聞出版 (2023年9月13日発売)

作品紹介・あらすじ

画期的なテクノロジーほど、暗転したときのリスクは大きい。特にＡＩとゲノム編集技術は強力で、取扱いを誤れば、人類に破滅をもたらす因子となりうる。「制度設計の不備」と「科学への欲望」がもたらす、人類最悪のシナリオとは。

感想・レビュー・書評

[norisukeさんの感想 · 2024年1月16日]

フューチャリスト（？）の著者が、２つの人類滅亡シナリオ（ＡＩによる滅亡シナリオ、ゲノム編集による滅亡シナリオ）と、最悪な未来を回避するためのアプローチを語った書。

う～ん、内容薄いし文章もいけてないなあ（読みにくい！）。自分でも思い描けるような常識的なことしか描かれてなくて、ＳＦもどきのドラマチックな未来予想はなし。回避策も一般論に終始してて具体的でないし…。期待はずれだった。

人工知能が人間を大きく越えてしまうと「知能の勝負を諦めたホモ・サピエンスが進化を止め、自ら退化の道を歩み始めることこそが、人類滅亡への下り坂となるのではないか」。まあそうかもしれない。でも、それを言うなら、人間の活動全般が機械にアシストされ、自動化されていく中で人類はどうなってきたのか、振り返ってみる必要がある。移動手段が自動化されても、健脚を競う老若男女は一定数いるわけで、そうすると、ＡＩが賢くなったところで、人間同士（娯楽として？）知能を競い合う営みは続いていくんじゃないかな。人間は人間として知能の限界に挑む、みたいな。

[Ogawa Koichiさんの感想 · 2026年9月12日]

まさにAIの暴走を人類は止められない。
そして遺伝子操作は、異次元の進化を人類にもたらし、その暴走も止められない。
何億年もかけて、少しずつ育んできた進化のプロセスが一気にショートカットされる。
この副作用が、人類にどんな影響を与えるのかを想像するのは、非常に難しい。
何百年後かに何らかの影響が出たとしても、それはもう後の祭りである。
AIについては2022年の大ブレイクから、すでに数年経過している。
2026年の時点で、シンギュラリティは「既に訪れている」と指摘する識者もいるくらいだ。
進化の歩みを慎重に進めたいと思っていても、きっと誰かの思惑や私利私欲によって暴走することは大いにあり得るだろう。
人間はそもそも不完全な存在である。
だからこそ間違いは必ず起こり得る訳で、それだけ人間とは完璧と程遠いのだ。
そういう前提で社会を作っていかないと、間違ってからでは取り返しがつかないことになる。
そう考えると、「遺伝子操作」についても、慎重に進めたいところだ。
遺伝的な病気をお持ちの方にとっては、もしかすると救いの手のように感じるかもしれない。
しかし、病気を治す一方で、その他の問題を引き出してしまうリスクをどう先読みすればよいのだろうか。
私自身も「こうすれば」という明確な答えを持っている訳ではない。
本書を読みながらも、未来を想像すると、なかなか難しい課題を突きつけられたものだと思ってしまう。
生成AIの登場によって、私たちの生活は劇的に変化してしまった。
どんな質問をしても、とにかく答えてくれる。
瞬時に文章や画像を生成してくれる。
当初はハルシネーションや、AIの嘘が問題になったが、徐々に精度は高まっている。
まさに、指数関数的なスピードで進化している、と言える。
このままAIが自己増殖と自己進化を始めたらどうなるのだろうか。
AIには、人間の感情や、倫理観のようなものは存在しない。
もし人間が、AIに対し「地球環境を最適化する行動をとってくれ」と命令したらどうなるか。
その最適解が「環境を破壊している人類を排除すること」となった場合にどうすればよいのか。
これは極端な例かもしれないが、論理的には十分に起こり得る話だと思う。
AIが人間をはるかに超える知能を獲得したとき、我々人間はAIを止める術を持たない。
AIの暴走は、決して空想の話ではないと言える。
さらに恐ろしいのは、人間自身の劣化である。
AIが全ての仕事をこなしてくれるようになれば、人間は思考することをやめてしまう。
自分で考え、判断し、行動する力を失っていく。
計算や情報処理の速度において、もはや人間はコンピューターに勝つことはできない。
事務的なルーティーン作業や、膨大なデータ分析は、AIに任せるのが合理的だ。
しかし、便利さに甘えきった結果、人間はAIの家畜のような存在になり下がるかもしれない。
向上心も失い、ただAIから与えられるものを消費するだけになる。
困難を乗り越え、試行錯誤するからこそ、人間は成長できる。
そんな成長の機会を奪われた人類に、果たして生きていく意味はあるのだろうか。
AIを賢く使いこなす側になるのか。
それとも、AIに使われる側になるのか。
私たちは今、その大きな分岐点に立たされているのだと思う。
どうすれば人間としての矜持を保てるのか。
真剣に向き合わなければならない、大きな課題である。
もう一つの悲劇のシナリオが、ゲノム編集である。
生命の設計図であるDNAを、まるで文章を編集するように書き換える技術。
医療の分野では、難病の治療など大きな期待が寄せられている。
農作物の品種改良など、食糧問題の解決にも繋がるだろう。
これらは間違いなく、人類を救う光の部分である。
しかし、これが人間にそのまま適用されたらどうなるか。
病気になりにくい体。高い知能。優れた運動能力。
両親が望むような能力を備えた「デザイナーベビー」が誕生する可能性は高い。
遺伝子改変が進んだ彼らを、「ホモ・サピエンス」と呼んでよいのだろうか。
明からな新人類。
名称は後付けするとしても、いわゆる「ポストヒューマン」の誕生だそこにある。
彼らから見れば、自然のままの私たちは、明らかに劣った存在に見えるだろう。
ホモ・サピエンスは、ポストヒューマンによって淘汰されてしまうのだろうか。
ホモ・サピエンスが他のホモ属を滅ぼしたように、これは進化の歴史において、過去の人類が辿ってきた道でもある。
AIもゲノム編集も、技術自体は人類を豊かにする可能性を秘めている。
しかし前述したように、人間とはそもそも不完全な生き物である。
誰かが私利私欲のために、あるいは悪意を持って技術を悪用するかもしれない。
「制度設計の不備」があれば、そこを突いて暴走する人間は必ず現れる。
たった一部の暴走が、全人類の破滅を招いてしまう。
そんな不安定な時代に、私たちは生きている。
だからこそ、国際的なルール作りが急務である。
確かな倫理観に基づく管理と規制。
それを世界で共有していくための仕組み作り。
不測の事態が起きれば、すぐに対処してルールを修正できるように。
その上で、何よりも大切なのは、私たち一人ひとりの意識である。
テクノロジーの進化は、確実に私たちの日常を変えていく。
その恩恵を受けるだけでなく、影の部分にも目を向けること。
常に最悪の事態を想定し、それに備えることだと思う。
人間には幸福を追求する権利がある。
どうすれば、世界の破滅を避けられるのか。
人類の叡智が試されていると感じるのだ。
（2026/1/25日）

[ター坊さんの感想 · 2024年6月12日]

確かにゲノムの編集は進み、デザイナーベビーが誕生したことも記憶に新しい。また、AIの進化は甚だしく、このまま進化が続けば著者が言うようなこともあり得ない話ではないと思う。また人類は技術の進化を必ず負の方向にも利用するのは歴史が証明している。

[ホトケさんの感想 · 2026年6月16日]

AIについては以前は読解力のなさから東大は難しいとされていたが、かなり偏差値が上がっておりAIよりも偏差値が低い人間（小生はその筆頭）が大量に発生しそうな状況。生成AIではプロンプトというか指示がヘボいというかそれなりのモノになる。AIが頭の悪い方に学習したりすると、本書の考えと重ならないかもだけどその様な滅亡にも繋がるやもしれぬ。
遺伝子操作については多様性は人類の強さの一つと考えているので全員がデザイナーチルドレンになったら案外簡単に滅亡するかもしれないと思った。

[krgokさんの感想 · 2026年3月29日]

【効率の呪縛を解き、地球と共生する道を探る】
「効率性」という名の神話が、いかに人類を破滅へ追い込んでいるか。本書は、私たちが当たり前だと思っていた進歩の定義を根底から覆します。産業革命以来、人類は地球を「資源」と見なしてきましたが、その報いとして気候崩壊という現実を突きつけられています。

著者が提唱するのは、効率よりも「回復力（レジリエンス）」、所有よりも「アクセス」、支配よりも「共生」を重視するパラダイムシフトです。単なる環境保護の啓蒙書ではなく、科学、歴史、経済を横断する壮大な文明論として、未来への羅針盤となる一冊でした。変化の激しい現代を生き抜くための「真の強さ」とは何かを深く考えさせられます。特にビジネスパーソンにこそ、この不都合な真実に触れてほしいと感じました。

[拙訓さんの感想 · 2024年4月10日]

AIと遺伝子操作。人間の運用の仕方違い一つで人類にとって有益な技術となるか、人類滅亡のリスクとなるかが決まる。
近年AIと遺伝子操作の技術の進歩目覚ましく幾何級数的に進歩している。どこにその歯止めの境界を置くかがポイントとなる。
遺伝子操作による身体性の拡張を無限に目指し、遺伝子操作によるデザイナーベビーの無秩序な導入は富を持つものがその技術を独占し、また、この技術が受精卵に対するものであることで改変されたDNAが世代を受け継いで行くことで、やがてはホモサピエンとは全く種の異なる「ポストヒューマン」化して、ホモサピエンスを駆逐してしまうという人類滅亡のシナリオが考えられる。
一方、AIは汎用的人工知能の開発が無制限に進むと、やがて「裏切りターン」を迎え、人類の制御が及ばない状態となる。現在の人間社会の在り方を全てAIが主導権を握り、人類は「アナログハック」により感情までもAIに乗っ取られ、またAIとの競争を諦めることにより、どんどんと退化していく。AIの決定に従順に従わざるを得ない存在と成り下がってしまう。また、そうならないために、AIとの競争意識から遺伝子操作により無限の身体拡張性を求めるという相互作用も懸念される。
人類が再認識すべきは人類にはAIには獲得できない感覚、知覚、認知を持つということ。AIは無限の情報を記号として扱い処理することが可能であるが、それが現実世界とどのように結びつくのかを認識することはできない。いわゆる「シンボルグラウディング問題（接地問題）」である。このAIが持つことの不可能な能力をいかに磨き、強みとするか。
人間がAIを制御できる技術開発の境界線をいかに設定するか、それを超えてしまうような研究を控えることを人間の技術開発の停滞と考えるのではなく、人間社会の存続と繁栄を第一に優先課題とする姿勢を人類が共通して有することが重要なのであろう。

[なっちゃんさんの感想 · 2024年4月5日]

だいぶ挑戦的なタイトル

汎用性人工知能はついに意思決定、マネジメント業務もできるようになった記載されていたが、どれのことだろう。
他のAIに関する本には人間に残されてた仕事へ決めること、責任を取ることとかかれていたけど少し違った。

[midoridensyaさんの感想 · 2024年2月9日]

AIとゲノム編集技術は、それぞれ人類滅亡のリスクを孕んでいると大真面目に語る。
AIが人間には制御不可能な超知能となることが人類滅亡につながる危険性を持つことは十分に同感。一方、ゲノム編集技術は少なくとも建前上は各個体が等しく尊重される存在であるはずの人類社会の前提を崩壊させる可能性がある意味で注視し続けなければならない技術だが、人類の滅亡ではなく、エンハンスされたポストヒューマンに置き換わるという話。
滅亡リスクは同感しつつも、その回避策として、ゲノム編集については国際的規範の確立を、AIについては汎用型の超知能を生むような開発をせず機能特化型に留めておくことが提示されていたが、どこかの誰かが抜け穴を抜ければ圧倒的優位性を確立できるような技術領域において、それを禁止し続けることがどこまで有効なのかは疑問であり、解決策については薄さを感じた。

[harmonixyさんの感想 · 2024年1月20日]

人類滅亡二つのシナリオ　小川和也　朝日新聞

一つは人工知能AIであり
もう一つはゲノム編集技術だと言う
確かに人間自体を制御する遺伝子操作は
人間のエゴや恐怖心によって
確実に歪んだ結果をもたらすだろうが
AIが人間の手を離れて
自己増殖する段階になると
アラジンのランプの聖とは別物になる
常に俯瞰した全体観をとらえて判断した
前向きな選択をすることになるのではないか
つまりパニクルこともなく
俯瞰の度合による誤差はあっても
精一杯の制度を出しながら決断していくだろう
しかし問題なのは人間が依存心から脱皮できずに精神的な進化を怠った場合である
そうした人間は感情や物欲から逃れられずに
ランプの聖を駆使して超越型の冷静なAIに戦いを挑もうとするだろうことである

楽観的私見はさておいて
この著者は冷静に紐解いていき
最終章で
この世の終末を避けるために何ができるかを考察しているが
善悪や損得が何を根拠とするのかを
語ることはない
そこで最も危険なのは
恐怖による悪意を持った
人間の手の内にある段階の
ランプの聖同士による代理戦争だろう
敵対する人間同士がそれぞれに操る
ランプの聖を開発して戦わせる戦争である

著者プロフィール

小川 和也(おがわ・かずや)

慶應義塾大学法学部卒業。起業家、著作家、研究者、ラジオ番組ナビゲーターとして、ばらばらの点をつなげて未来をつくる活動をしている。
起業家として独創的な事業を生み出し続け、2017年、世界的に権威のあるマーケティングアワード「DMA国際エコー賞」を受賞。
人間とテクノロジーの未来を説いた著書『デジタルは人間を奪うのか』(講談社現代新書)は高等学校現代文教科書をはじめとした多くの教材や入試問題に採用され、テクノロジー教育を担っている。
北海道大学客員教授として人工知能の研究を行い、FMラジオ放送局のJ-WAVEで番組ナビゲーターとして未来を生きる鍵を声で伝えている。
実業と学術を往来し、多様な表現方法を駆使しながら、未来のグランドデザインを描いている。

グランドデザイン株式会社 代表取締役社長
北海道大学客員教授
J−WAVE『FUTURISM』ナビゲーター

「2019年 『未来のためのあたたかい思考法』 で使われていた紹介文から引用しています。」