日常に浸透したAI技術。問題点がどこにあるのかを洗い出す
AI技術は、私たちの日常生活のあらゆる場面に浸透している。自分の生活を思い起こしてみても、朝起きてスマホやタブレットでその日の天気を確認したり、ニュースを読んだりする際、その天気予報やニュース記事の作成にAIが欠かせなくなってきている。通勤・通学で利用する電車でも、駅ホームに設置されたカメラや運行ダイヤ・時刻表、案内板でもAIの利用が進んでいる。また、知らないことがあればすぐに「ググる」ことが多くの人にとって習慣となった今日、検索エンジンのアルゴリズムにもAI技術 が当然ながら関わっている。そして、株価情報からオンラインショッピング、言語翻訳、さらには空港での入国管理や企業の人事採用、生殖医療など、AI技術は私たちの趣味嗜好の強化から、意思決定の仕方、ひいては私たちの身体のあり方にまで関与しつつある。
そんな私たちの日常生活に意識的・無意識的に入り込んでいるAIは、業務の時間短縮など、ある意味で仕事や生活を「便利」にしてくれる。だが一方で、様々な課題を抱えていることも周知の事実である。私たちの生活と切り離せなくなったAIが、どのような問題を孕み、また同時にいかなる可能性を秘めているのか、さらには今後AIといかに向き合うべきなのか、そんなことを考えるようになったのは、『AIから読み解く社会—権力化する最新技術』（東京大学出版会、2023年）の編集に共編者として関わらせていただいたことがきっかけの一つである。今回は、本書の紹介をしながら、AIと社会との関わりについて考えてみたい。
本書は、2020年に設立された東京大学とソフトバンクの共同研究拠点「Beyond AI 研究推進機構」内の研究グループ「B’AI グローバル・フォーラム（以下、B’AI）」のメンバーが中心となって編集・執筆した論考集である。B’AIは、AIの社会的影響を学際的視点から検討する研究グループで、文系・理系の区別や研究分野の壁をできる限り乗り換えてAIに関する会話・議論を発展させるきっかけを作ること、そして、AIや関連技術に関して、技術的側面のみならず、政治的・社会的・文化的観点から考察し発信していくことを目的としている。中でも特に目を向けているのが、社会的マイノリティと呼ばれる人々やジェンダーとAI技術との関係で、例えばAIをはじめとする技術が、社会内のバイアスや不平等をどのように生み出したり、助長したりすることにつながっているのか、また逆にいかにそれらの問題を解決しうるのか、これまで様々な研究活動を通じて考えてきた。
ディストピア的なものの見方では「AIの権力化」の本質は見えない
『AIから読み解く社会』は、こうしたB’AIのミッションを受けて、技術的機能や一過的・表面的な効果のみによってAIのあり方を評価するのではなく、より広く社会の中にAIを位置付け、その技術の意味や影響を多角的に明らかにすることを目指したものである。よって本書で扱っているテーマは幅広く、自然言語処理と言語のバイアス（第1章）、ヴァーチャルリアリティ（第2章）、ジャーナリズム（第4章）、労働問題（第5章）、感覚と身体性（第7章）、ポピュラーカルチャー（第13章）など多岐にわたる。また、執筆者も様々な学術分野の研究者が携わっており、AIと人・社会との関わり方について、多分野横断的に論じている。
これら多様な視点からAIについて考えるにあたって、本書が一つの軸として焦点を当てたのが「権力」である。副題の「権力化する最新技術」にあるように、AIという最新技術をめぐる権力のあり方について複数の観点から問題を提起している。ただここで意図しているのは、AI技術が強大な力を発揮して人間社会を征服するというような、ディストピア的な権力のあり方では必ずしも ない。また、技術が社会のあり方を決定づけるという技術決定論でもない。もちろん、技術力が向上し、昨今の大きな社会問題ともなっている生成AIのようなものが出てくると、私たちの意思決定や主体といったものが技術によって脅かされるのではないかといった懸念が出てくるかもしれない。実際、AIに恋愛感情を抱き、結果的に自殺に追い込まれた例もあり、AIという存在そのものが持つ力は、深刻な問題を孕んでおり到底看過できるものではない。ただ、技術決定論やディストピア的な見方の多くは、「人間＝主体」「AI（技術）＝客体」という主客分離の人間観に根差したものでもあり、果たして人間は確固たる「主体」を持っているのかという問題が立ち上がる。以前の論考でも述べたように、主体とは様々な関係性の中で立ち現れるものではないだろうか。これについては、本書の第６章でも詳述されているので参考にしてほしい。さらに、そもそも私たち人間と技術との境界というのは、それほど明確にあるわけではないのかもしれないし、その関係性は常に社会的分脈の中で理解されるべきだろう。
AIは差別や偏見を助長しうる
「人間社会を征服するAI」という、技術をある意味で擬人化・権力化した見方（つまり主客二元論に基づいた人間と機械の関係性）ではなく、ここで特に考えるべきは、目に見えない・意識さえされない「権力」の存在である。これは、ミシェル・フーコーのいう権力でもあり、アントニオ・グラムシのいわゆる「ヘゲモニー」に近いものだといえるかもしれな い。私たち人間は、何かしらある種の権力構造の中に組み込まれており、多かれ少なかれその影響下にある。AIの開発が、後期資本主義システム、特にネオリベラリズムという政治的・社会的・経済的イデオロギーに下支えされ進められてきたことなどもその一例である。目に見えない権力は、例えば、人が意識的または無意識的に持っているかもしれない人種やジェンダーなどへの認識や差別、バイアスなどを作り出したり、助長したりもする。また、私たちが社会的規範として考えているものや、流行なども、ある種の権力が働いていることになる。そこでは、例えば政府や大企業などのように、目にみえる分かりやすい形でその権力の行使者が存在する場合もあれば、社会の中に埋め込まれ、どこに権力が存在するのかや、誰の手中にあるのかが分かりづらい場合も多々ある。
こうした目に見えない権力の元で社会の中に根強く存在する偏見は、AI技術の中に組み込まれ、バイアスのかかった技術が生まれたりもする。例えば、検索エンジンに「医者」や「弁護士」といった言葉を入力して画像検索をすると、外見的には男性の医師・弁護士である写真が多くヒットし、一方で「看護師」と打てば女性の画像が多く出てくるなどである。ある職業が一つのジェンダー、そしてジェンダー化された身体と結びついた社会内のバイアスが、検索エンジンのアルゴリズムにも影響を及ぼすのだ。だが一方で、近年、AIを用いて逆にこうした偏見や差別を是正しようとする取り組みも進んでいる。AIは、偏見や差別を生み出す・助長する可能性があるものの、それを是正する可能性も大いに秘めているのだ。
本書の表紙は、こうした様々な意味の権力が見え隠れするAI技術を象徴するものでもある。このイラストは、カナダのスタートアップ企業が提供する画像作成のための生成AIを使って、本書編者らが作成した。この画像は、近年様々な場面で議論されているAIと人の創造性の問題や著作権などの問題を提起するものである。また、ヴァルター・ベンヤミンが論じたような19世紀以降の複製技術に関する議論の延長線上に据えることもできるだろう。さらには、先に述べた主体の問題とも関わっている。そして、こうした生成AIや関連する技術に対して私たちが考えるべきなのは、「AIに何ができるのか」（そこには暗に「AIは人間に取って代わるのか」という問いも隠れているかもしれない）ということだけではなく、むしろ、AIと人間との相互作用的な関係なのではないだろうか。
AIは既存の支配的な利益に奉仕するよう設計されている
ここで、AIをめぐる権力構造や様々な権力の影響を考察するにあたって、AI研究者ケイト・クロフォードによる議論を紹介したい。クロフォードの2021年の著書『Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence（AIの地図帳：人工知能をめぐる権力、政治性、地球規模の代償）』は、AIを物質的な「モノ」および「概念」として捉え、AIがいかに物理的に作られているのか、さらに社会的・文化的な影響のもとでAIに関する言説や考 え方がいかに構築されてきたのか論じている。例えば、機械（物質）としてのAIの製造に必要なレアメタルの掘削は地球規模での環境問題を引き起こし、同時に、データ収集のためにグローバルサウスの安価な労働力が搾取されている。さらにAI技術が利用されるAmazonの物流センターやテスラの自動車組立工場、そしてデータ解析を行う大学研究所など、様々な機関・人々がAIの開発・製造から利用に関わっており、そこでは、環境・労働・人権・国家間格差など様々な問題を生み出しているのだ。
クロフォードは、AIシステムは「結局のところ既存の支配的な利益に奉仕するよう設計されて」おり、「この意味で、AIは権力のレジストリ」（p.8）なのだと主張する。クロフォードが特に強調しているのが、AI開発やその利用が、経済的利権や政治的覇権闘争の道具となり、また利益追求の源泉となっている事実である。そうしたAI産業を取り巻く権力のあり方は、本書で比喩的に用いられている「アトラス（地図）」という概念にも表れている。15世紀以降、植民地主義が拡大する中で、植民者らが作成した地図は、単に地形や地理的情報を紙に写し取ったものではなく、国や人（統治者）の権力の象徴であり、また当時の人々の世界観の表象でもあった。こうした地図に反映されている権力、政治性、世界観は、まさにAIそのものが体現するものでもあるのだ。
「どのように利用するか」よりも先に問うべきこと
クロフォードが提起するのは、AIという技術を人や社会から切り離した一つのバブルの中に存在する技術として捉えるのではなく、その技術が誰によって・誰の （利益の）ために開発・利用されているのかを明らかにすることが、今後のAIのあり方を理解し、未来志向の開発につながるということである。つまり、クロフォードが述べるように、昨今の議論でよくみられるような「AI技術をどこで・どのように利用するのか」を考えるよりも、まず問うべきは、「そもそもAIを利用すべきかどうか」（p.226）だといえるだろう。
『AIから読み解く社会』は、こうしたクロフォードの議論と共鳴するものであり、その書名の通り、AIについて考えることは現代（そして過去や未来）の社会を理解することでもあるのだというメッセージが込められている。その際、AIを私たちの外側に置き、先述したような主客二元論に基づいた見方をするのではなく、例えばピーター＝ポール・フェルベークが論じた、人間とそれを取り巻く世界との「媒介者（mediator）」として技術を捉えるような、AIをめぐる存在論的・認識論的議論は、AIと私たち人間との関係を建設的に考えるヒントを与えてくれるような気もする。その第一歩として今の私たちに少なくともできることは、様々なAI技術が、いつ・なぜ・どのように・誰によって構想（時に妄想？）され、作られたのか、そしてその技術が誰に・どのような影響を与えるのかを具に検討することなのではないだろうか。そうすることで、新しい技術が開発されるたびに一喜一憂したり、ただ単に「便利さ」を礼賛したり（それが誰にとって・なぜ「便利」なのかを考えることなく）、一方で新しい技術に対して警戒や批判だけをするのではない、人とAIの関わり方が見えてくるように思う。
参考文献
『AIから読み解く社会』B’AIグローバルフォーラム・板津木綿子・久野愛編（東京大学出版会 2023年）
Crawford, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021.
Verbeek, Peter-Paul. What Things Do: Philosophical Reflections on Technology, Agency, and Design, translated by Robert P. Crease. Pennsylvania State University Press, 2005.
