AIと憲法

著者 : 市川芳治

制作 : 山本 龍彦 

• 日経BPマーケティング(日本経済新聞出版 (2018年8月1日発売)

作品紹介・あらすじ

AIに選別される危機
法と権利の問題を、気鋭の研究者が論じる

『AIと憲法』。
「憲法論とは9条論だ」と考えている方、憲法にいかめしい「改憲・護憲論」をイメージしている方にとっては何とも意外な組み合わせに聞こえるかもしれない。
しかし、SF映画によく出てくる主題、つまり、全く善良な市民がAI(Artificial Intelligence)に「あなたは潜在的犯罪者だ」などと予測・分類され、社会的に排除されるような世界は、今やフィクションからノンフィクションへと変わりつつある。
実際、米国の警察や裁判所では、犯罪者予測にAIプロファイリングが使われ、それによる排除や差別が問題になっている。中国では、信用情報機関のAIが算出した個人の信用スコアが社会の至る所で利用され、スコアの低い人が差別を受ける事例が増えてきている。

日本でも、企業の採用活動や金融機関の与信の場面でAIのスコアリングが多く使われ始めているが、そのような人生の重要局面で、もしAIに「あなたはダメなやつだ」とレッテルを貼られたら、あなたの人生はいったいどうなっていくのだろうか。
こうしたAIの事前予測に基づく個人の効率的な「分類」(仕分け)と、それによる差別や社会的排除は、「個人の尊重」(日本国憲法13条)や「平等原則」(14条)を規定する憲法上の論点そのものと言える。

日本人がある一方向にぐんぐん進んでいって良い結果が得られた試しはない(先の戦
争や原発問題を想起していただければそれで十分だろう)。そうであるなら、今まさに、「個人の尊重」や「民主主義」といった「青臭い」憲法原理に思いを巡らせ、AIが本当に我々一人ひとりを幸せにするのかをじっくり考えてみる必要があるのではないのか。
それは、近年、米国で沸き起こっているような「反AI」運動を開始せよ、というのではない。AIは、うまく実装すれば憲法原理のより良い実現に資する。これはおそらく疑いのないことである。したがってポイントは、経済合理性や効率性の論理だけにとらわれない、憲法と調和的なAI社会の実現にある。

本書は、こうした「両眼主義」(福澤諭吉)を日本においても浸透させるべく編まれたのである。「AI、AIって言うけど、それって本当に大丈夫なの?」と漠然とした不安をお持ちの方は、ぜひ本書を手に取っていただきたい。その「不安」の根源がおわかりいただけると思う。
――「はじめに」より

感想・レビュー・書評

[basicfinfinさんの感想 · 2020年2月19日]

カナダのロースクールではすでに「AIと法」をテーマにしたカリキュラムとメソッドが確立しているらしい。曰く、法学徒だろうがとにかくまずは「R(統計に特化したプログラミング言語)」を勉強せよ、というところから始まるのだとか。

例えば。
自動運転自動車の事故責任を検証するには自動車の人工知能がどういう判断を下したのか。製造者責任該当性があるのかどうか。バグであるならそれは品質保証の範囲内か、外か。
そういうプログラムの挙動を把握しなければ法的問題を解決できないような、法学者もプログラミングをやんないとお話にならない時代がもうすでに来ている。

[saltuscafeさんの感想 · 2024年2月12日]

歴史上、さまざまな新しい技術が生まれ、その度に社会のあり方に大きな影響を与えてきた。それらの中には、産業革命が資本家と労働者という新たな社会構造を生み、それが労働者の団結権など、憲法レベルでの新たな仕組みを生んだという例もある。

AIもそれらに匹敵する大きなインパクトを社会に与える技術であり、憲法によって形が与えられている基本的人権や民主主義の仕組み、裁判などの国家権力のあり方に再考を促す可能性があるというのが、本書が書かれた背景にある問題意識である。

AIは、社会の幅広い領域で活用される「汎用技術」である。そのためAIは原子力技術のように個別法で規制される領域を超えた影響を社会に与える。

またAIは、分析、予測、判断といった我々の知的な活動に関わる技術でもある。従って、自立した個人の自由意志を前提とした社会システムそのものに深い影響を与え得る。

本書では、憲法学者だけではなく、経済法や民法など様々な分野の専門家が集まり、AIによって憲法が前提としてきた社会の仕組みや権利がどのように変化する可能性があるのか、そして憲法の規定やAIに対する規制をどのように考え直していく必要があるのかを論考している。


AIの浸透による課題として議論されることが多いのが、プライバシーや個人の尊重という論点である。プライバシーの権利が憲法のレベルで認められているのはもちろんのこと、個人の尊重に関しても、憲法は「すべて国民は、個人として尊重される」と規定している。一方でAIは、個人に関する大量の情報を収集した上で、それらの間に相関関係やパターンを見つけ出し、それに基づいて個人の行動や信用度を予測することができる。

この予測の活用が社会システムの中に組み込まれ、社会がそれを前提として動くようになると、我々が情報を提供しないことを選択する権利は事実上制約される。様々な社会サービスの提供から警察の捜査にいたるまで、AIによる予測やターゲティングに基づくようになると、日々の生活に関わる我々の自己決定権や個人としての尊厳も奪われるリスクが生じる。

このようなリスクは個別法においても規制されるべきであるが、国民一人ひとりの「個人として」の尊重と「公益及び公の秩序」の重要性のあいだで、どのようなバランスを取るべきかという憲法レベルでの議論も、非常に重要になる。中国におけるAIによるスコアリングの活用やアメリカの捜査当局によるAIによるプロファイリングの活用のように、このバランスのとり方は国により異なっている。個別のサービスがもたらす公益を論じると同時に、社会のあり方として日本がどのような方向性を目指すのかを議論することが重要であると感じさせられた。


AIがこれまでの他の汎用技術と異なる点は、予測だけではなくそれに基づく判断を下し、機械の操作や意思表示などの行動ができるということである。これにより、AIを搭載したシステムはあたかも自律性がある主体であるかのように見えることになり、法的にも新たな問題を提起することになる。

現在の法秩序の根底には、法的な主体は原則として人間に限定するという考え方がある。従って、動物や自然物に法的責任が問われることはなく、またそれらに人権が認められることもない。例外として「法人」という形で組織に人間のような主体としての位置付けを認めることがあるが、これも完全な主体ではない（法人にはいわゆる人権は存在しない）。

それでは、AIが人間のように行為するときに、我々の社会はこのような存在をどのように受け入れればよいのだろうか？　これは、例えば自動運転車が事故を起こしたときに、そのシステムの責任をどのように考えればよいかといった点で問題になる。本書ではさらに、AIに財産管理を信託するケースなども挙げている。

本書での「当面の」結論は、AIに全面的に人格を認めることはできないというものである。あくまで、製造物責任や利用者による所有者責任の枠内でAIの行為を管轄すべきであるという。その大きな理由は、AIが意思を持って行動していることを確認できないというものである。法的に権利と責任を持つためには、その主体が意思にもとづいて行為しているということが前提となるが、現在のAIにそのような意思の存在を認めることはできない。

今後AIの技術と人間の意思に関する研究が進展すると、この結論は変わりうるものかもしれない。AIにも法人のように一定の範囲内での意思を擬制出来るようになれば、AIに法的な行為主体としての地位を与えることも考えられる。しかし、AI自身に刑罰や過金を課すことができないということから、責任主体としてはやはり一定の限界が存在すると考えられる。AIやそれを搭載したロボットの技術が進展する中で、我々は法的主体としてのAIのあり方についても考えていかなければならない。


AIがより汎用的になり複雑な状況に対する判断もできるようになると、社会の仕組みの様々な場面でAIを組み込んだシステムが使われるようになる。このことは、利便性や効率性を高めることにもつながるが、一方でAIに全面的に依存することは、我々の主体性や人権に深刻な影響を及ぼす可能性もある。この本では、教育、選挙、政策立案、裁判と刑事手続といった例を挙げながら、AIの活用が憲法によって保護されている自由や権利にどのような影響を及ぼすかを考察している。

AIはデータ分析を基にした最適化に優れている。そしてこの最適化の単位はどんどん細分化され、一人ひとりの特性に対応した最適な答えを返すこともできるようになっている。このことが、教育においても政策形成においても、AI活用のメリットと言える。一方で、何が「最適」なのかという価値判断については、AIはそれに答えられる内発的な仕組みを持っていない。あくまで、現在の社会の中から収集したデータの相関関係やパターンを、あたかも価値であるかのように提示するにすぎない。

従って、どのような教育プログラムを選択するか、政策として何を重視するかといった判断においては、AIによる提案を参照しながらも最終的には人間が判断することが求められる。これは裁判における量刑や再犯可能性の判断においても同様である。

最終的な判断を人間が行うことに加えて、AIがその判断のプロセスにおいてどのように使われるかによって、我々の社会がより豊かになるか硬直したものになるかの方向性が左右されるという点も重要であると感じた。

例えば政策立案プロセスにおいては、政治家や市民の熟議のプロセスに資するような情報提供をAIが行うことは、プラスの影響を及ぼすであろう。一方で、AIによって「最適化」された情報のみによって作られたフィルターバブルの中で社会が分断化されていけば、熟議による合意形成そのものが存立の危機に晒されることになる。

AIは是か非かといった二分論ではなく、憲法が求めている個人の尊重、公共の利益、自由や平等といった価値が具体的な活用の場面でどのようにすれば実現されるかを考えながらAIを社会の仕組みの中に組み込んでいくことの大切さを、本書で挙げられている事例を通じて改めて考えさせられた。


AIは単に新しい技術であるだけではなく、人格や意思といった我々の存在自身をも問い直すほど、我々のなかに深く入り込んでくる力を持った技術である。そのため、AIという「他者」を我々の社会にどのように受け入れていくかという問いは、本書で掲げられているようにまさに憲法レベルに立ち返って考える必要がある。本書は、様々な論点を提示しながらそのような議論の端緒を示してくれている。

ともすれば、プライバシーや著作権、AIが操作する機器の安全性と責任といった各論レベルで論じられがちなAIの問題を、より俯瞰的で本質論的な立場で考えさせてくれる良いきっかけを与えてくれる本であると思う。

[やすおさんの感想 · 2022年5月25日]

AI技術を憲法の中でどのように解釈し、あるいはAIという人工物から人間個々人を保護しているか、あるいはAIそのものも権利の対象となるかなど非常にスリリングで、興味深いトピックが書かれている。

[komazawa-libさんの感想 · 2021年5月3日]

2021年5月「眼横鼻直」

https://www.komazawa-u.ac.jp/facilities/library/plan-special-feature/gannoubichoku/2021/0501-10278.html

[fudaidsecさんの感想 · 2021年3月23日]

323.1||Ya

[しゃんさんの感想 · 2020年7月24日]

本書を読んで、仮面ライダーゼロワンの映画を思った。その映画にヒューマギアというのが出てくるが、このヒューマギアがヒトを支配する社会が描かれていた。人間の技術が生み出した光と闇の分野は多くあるが、このＡＩも使い方次第では闇の部分が多くなるのかもしれない。そうならないためにも、今から、他者になりかねないＡＩを見据え、権利・義務の主体である人格、人権享有主体である個人の位置づけ、統治構造について思考をめぐらせておくことが必要なのではないかと思った。論者により、読みやすさが異なったが、全般的に面白く読み通せた。

[レンさんの感想 · 2020年7月1日]

AIによって提起される問題をもとに現在の社会の法律について読み解く事ができる

[よーへんさんの感想 · 2019年9月16日]

アバター倫理学・シンギュラリティ

[norytomoさんの感想 · 2019年8月6日]

最近気になるテーマのひとつ。AIによって精緻に最適化されると、人の不確かさに理由を付けていた諸々が色々困る。プライバシーとかレコメンドとか選挙とか。だがもっと難しいのは人権とは？というところ。サイボーグ、脳のアップロードとか今後できるとどうなるの？もうロボットにも人権認める社会になることしか想像できない。価値観が揺さぶられる

[yuusukeeさんの感想 · 2018年12月25日]

AIを筆頭とした技術革新は本来は指数関数的な進歩ができるポテンシャルを持つはずなんだけど、法や規制が追いつかないからそこまで急速な革新はおきない、のだろうか。
法そのものを書き換えるAIは想定してないけど、本当にその対策はあるんだろうか。
シンギュラリティを考えさせられる一冊でした。

著者プロフィール

市川 芳治（慶應義塾大学大学院法務研究科非常勤講師）

「2017年 『インターネットの自由と不自由』 で使われていた紹介文から引用しています。」