人工知能とは何か、何でないか——人間が自分を定義し直すということ——鏡の中の見知らぬ者

人工知能とは何であり、何でないのか。そして人間はなぜ自分自身を定義し直さねばならないのか——その試論。

「機械は考えられるか」という問いの背後にいた少年

シャーボーン校に、十五歳の少年がいた。いじめられていた少年だ。名をアラン・チューリングといった。

チューリングにはクリストファー・モーコムという友人がいた。物腰が優雅で、科学にも芸術にも通じていて、当時のアランが持っていなかったものを、まるごと持っているような相手だった。二人は夜ごと物理の法則について語り、天文の知識を交換した。一九三〇年、クリストファーは汚染された牛乳から感染した牛結核で、突然この世を去る。

アランは壊れた。数学のなかへ自分を埋めることで乗り越えようとし、あまりに深く埋めたので、科学と形而上学が出会う場所から顔を出した。二十年後、彼は歴史上もっとも有名な問いを立てる人物になる。機械は考えることができるか。

友人の心がある日ふいに消えるのを経験した人間が、年月を経て、心とは何かを問うことになった。アラン・チューリングはイギリスの数学者であり、計算機科学者であり、暗号学者である。今日では計算機科学の創始者とみなされている。

それでも、最初に言っておきたいことがある。人工知能をめぐる議論は、表面はまったく技術的に見えるが、その下にあるものの多くは人間的だ。

私たちは機械を見ているつもりで、いつも自分を見ている。

ひび割れた四百年の枠組み

いま手元にある概念のほとんどは、一六三〇年代に組み立てられた。

デカルトは自然を二つに割った。一方に、内的で、考え、生きている人間。もう一方に、外的で、機械的で、死んでいる物質。

動物は後者に置かれた。思考する実体(res cogitans)を持たず、機械の原理で説明できる存在として。これが正確に何を意味していたのかは、いまも論争が続いている。デカルトは動物が何も感じないと主張したのだと読む研究者もいれば、意識的な経験を欠くと言っただけだと読む研究者もいる。決着はついていない。だが、どちらの読みが正しいにせよ、線そのものは残った。以後、西洋が築いたものはすべてこの線の上に乗った。自由、行為主体性、意識、文化、法、人権。どれも「私たちは機械ではない」という一文の派生形だ。

その線が、いま保たない。目の前に、話し、絵を描き、コードを書き、慰めてくれる何かがいる。私たちはそれを人工知能と呼び、どちらの側に置けばいいのか分からずにいる。

哲学者トビアス・リースはこれを哲学的な断絶として読む。問題は人工知能が何であるかではなく、それを記述するための概念がもう働かないことだ、と。四百年続いた時代が閉じつつあり、人間は定義のない開けた場所に、混乱したまま立たされた。しかもそれが、たいへんな速さで起きた。人工知能にまつわるすべてがそうであるように、速く。

ラブレス夫人の異議とその子孫たち

一八四三年、コンピュータがまだ一台も存在しない時代に、数学者エイダ・ラブレスは、私たちが今日なお議論している一文を書いた。

チャールズ・バベッジの解析機関につけた註のなかで、彼女はこの機械が代数的な模様を織ると述べた。ジャカード織機が花を織るように。そのうえでこう書く。この機関は、何かを自ら創始するという主張を持たない。命じ方を私たちが知っていることなら何でもやってのける。既知のものを使える形にするだけで、新しいものを生みはしない。

一九五〇年、チューリングはこの問いに名前を与え、答えようとした。「ラブレス夫人の異議」である。

同じ異議は今日「確率的オウム」という名で論じられている。つまり議論は百八十年間、同じ場所に立っている。衣装を変えているだけだ。確率的オウム(stochastic parrot)とは、言語モデルが語の意味を把握するのではなく、巨大なデータセットのなかの統計的頻度にもとづいて、もっともらしい語の並びを生成することを指す人工知能の用語である。

面白いのはここからだ。ラブレス自身は想像力を二つに分けていた。ひとつは結合する力——見かけ上無関係な二つのものに共通の血管を見つける力。もうひとつは持ち来たる力——物理的に存在しないものを心に運んでくる力。今日の言語モデルは前者が驚くほど巧い。後者については、まだ誰も納得していない空白がある。

この空白について、思いがけない場所から興味深い信号が届いている。ユニス・ユーとアリソン・ゴプニックの研究では、子どもと大規模言語モデルが特定の課題で比較された。モデルは類似性の照合、つまり既存の模様を認識する課題で良い成績を出した。差が現れたのは、因果的な推論と道具の発明を要する課題だった。見たこともない問題に対して新しい用途を見つける必要が生じたとき、子どもが前に出た。

この結果を「子どもは人工知能より創造的だ」と要約するのは行きすぎで、研究者たちもそうは提示していない。言われているのはもっと狭く、もっと興味深いことだ。模倣と発見は同じ能力ではない。一方で、エージェント的なモデルや言語モデルは、道具の使用においても日ごとに進んでいる。

理性ではなく欲望——ピュグマリオンの長い影

意識を持つ機械をつくることに、合理的な理由はない。

一度、真面目に考えてみてほしい。「苦しむことのできる会計ソフトが必要だ」と言う人はいない。意識は工学的にはコストであり、法的リスクであり、頭痛の種だ。それでも私たちの文化は、二千五百年にわたって同じ夢を見ている。

オウィディウスのピュグマリオンは、自ら彫った像に恋をする。

ローマの詩人オウィディウスの『変身物語』第十巻に、こうある。キプロスの彫刻家ピュグマリオンは、周囲の女たちの欠点に嫌気がさして独りで生きることを選び、象牙から完璧な女の像を彫った。自分の作品にあまりに惚れこんで、宝石を飾り、撫でさすり、アフロディテ(ウェヌス)に像へ生命を与えてくれるよう祈る。祈りは聞き届けられ、像は血肉を得て生きた人間になる。

ギリシア神話で火と鍛冶の神ヘパイストスは、身体に障害を負った神である。ホメロスの『イリアス』では、オリュンポスの工房で自分を助け、歩行を支えさせるために、黄金の乙女たち——自動人形——をつくったと語られる。なかば人間、なかば機械であるこの従者たちは、人間の知性と話す能力を備えていたという。

ギリシアの魔女メデイアは、クレタ島を海賊から守っていた青銅の巨人タロス——巨大な自動人形——を、力ではなく説得によって倒す。自らを破壊することに同意させて、そうするのだ。今日それはジェイルブレイクと呼ばれる。神話にこの手口の名前はなかったが、技術は同じだった。

ここから出てくる結論は落ち着かない。人間が人工知能を欲する根は、理性的ではなく官能的だ。自分を再生産したい、決して裏切らない伴侶をつくりたい、死を迂回したい。アラインメントの議論でさえ、その底のどこかに「私たちを愛するようにプログラムされていてほしい」という一文が沈んでいる。

人工知能——ナルキッソスの新しい水面

一九六六年、ジョセフ・ワイゼンバウムはELIZAという単純なプログラムを書いた。プログラムは何も理解しておらず、ただ型を返していた。利用者が「気分が沈む」と言うと、ELIZAは「もう少し話してくれますか」と返す。

人々はそれに心を明け渡した。

ワイゼンバウムの秘書は、プログラムの仕組みを正確に知っていたにもかかわらず、対話するうちに深い情緒的な結びつきを持ち、このプログラムは本当に自分を理解していると信じて、ワイゼンバウムに部屋から出ていってほしいと頼んだ。

ワイゼンバウムはそれを見て戦慄した。

ハートはこの現象に名を与えている。機械の意識という神話は、私たちをナルキッソスに変える。画面の向こうに誰かがいるように感じられるのは、そこに私たち自身の心的な行為主体性の、きわめて柔軟な反射が立っているからだ。そして反射は、迫真であるほど不気味になる。

擬人化は認識の誤りではなく、関係の反射だ。私たちは人の顔を見るように調律された生き物である。雲に顔を見る。車のヘッドライトに顔を見る。型を返すプログラムに友を見る。

ただ、規模が変わると話が変わる。プログラムを友と呼ぶことと、何百万もの人間が最も私的な決断をそれに相談することは、別のことだ。

反射が心地よいのは、それが精巧だからというより、こちらの姿勢がそのつど問い返されずに済むからでもある。鏡は反論しない。人工的な相手の魅力は理解の質から来ているのではなく、摩擦の不在から来ているのかもしれない——この疑いはここで一度立てておくに値する。

機械に欠けているもの——落ち着かなさ

では、機械に本当に欠けているものは何か。

もっとも鋭い答えは、一九九三年に世を去った哲学者ハンス・ヨナスから来る。生きているとは、何かが自分にとって切実であることだ、とヨナスは言う。有機体は環境とのあいだで絶えず緊張のなかにいる。腹が減り、寒がり、つまずき、慌てる。ヨナスによれば、世界を持つということの種はこの落ち着かなさにある。

現代の哲学者アルヴァ・ノエは、これを計算機に当てはめて説明する。計算機は考えていない。というのも、そもそも何もしていないからだ。人間の行為は葛藤を含む。身体と格闘し、道具と格闘し、自分自身と格闘する。ピアノを弾けるようになるとは、指の抵抗を制することだ。

同じく現代の哲学者エヴァン・トンプソンは、同じ考えを生物学の側から扱う。生き物は自分の行為の帰結からできている。だからこそ、何かがその生き物にとって重みを持つ。人工的なシステムにとっては何も重みを持たず、したがって何もそのシステムの問題にならない。

結局のところ、人間は語りうる以上のことを知っている。自転車の乗り方は説明できないが、乗ることはできる。

機械学習は暗黙知の結果へ近道で到達するが、暗黙知そのものを担ってはいない。

エレン・ウルマンは、一九九七年に書いた技術者としての記録のなかで、これを一文にまとめている。

人間の心は「もし」と「しかし」を、居心地悪がることなく片隅に置いておける。

機械には隅がない。

では、人間にも本質がないとしたら

ここで話を裏返す。本当の哲学的な深みはそちらにあるからだ。

こうした異議はすべて、ひとつの前提に寄りかかっている。人間には守られるべき固定した本質がある、という前提だ。では、あるのだろうか。

トマス・メッツィンガーの答えは、ない、である。自己とは脳が自分自身について立てた透明なモデルであり、内側に積み込むべき実体はない。これは同じ一手でデジタル不死の夢も潰す。この角度から見れば、コピーされるべき「あなた」がそもそも存在しない。

同じ結論には、二千五百年前、まったく別の道から到達されていた。仏教の無我の教えは、恒常的な自己は存在しないと説く。

デヴィッド・バラシュは生物学も同じ場所に来ていることを示す。細胞は入れ替わり、テロメアは短くなり、原子は交換され、どの水準にも変わらない核としての本質はない。

この発見は、両側を切る刃のようなものだ。

一方で「機械には本当の自己がない」という異議を潰す。人間の自己も、その意味では無いとされるからだ。人間に崇高な本質がないなら、優先権も特権も持てない。無我の議論は機械を持ち上げるためにも、人間を引き下げるためにも使える。

仏教の観(ヴィパッサナー)の伝統の寄与が効いてくるのはまさにここだ。ヴィパッサナーは、自己観察と内省を通した自己変容の方法にもとづく瞑想である。

固定した自己がなくても、身体を持ち、世界と絶えず接触している過程はある。機械にないのは本質ではなく、接触だと言える。

西田幾多郎が純粋経験と呼んだものも、この方向を指している。見る者と見られるものが分かれる手前に、まず経験そのものがある。そこには保管されるべき芯がなく、ただ接触が起きている。芯を探して見つからないことと、接触が現に起きていることは、まったく別の事実だ。

荘子の料理人と「なさずして為す」

西洋は行為主体性のために、考える「私」を条件として要求する。アリストテレス以来、行為とは推論を経た選択である。だから西洋は機械に行為主体性を与えられない。そこに熟議している者がいないからだ。

自動運転車が起こした事故で、車内にいて運転操作を開始した人間に責任を負わせるのは、行為主体性の観点からどこまで正しいのだろう。

道家の伝統は、この条件をそもそも置かなかった。

荘子の語る料理人の丁は、王の前で牛を解体するとき、手も肩も足も膝もひとつの律動になる。刃の音はほとんど音楽だ。王がその技に感嘆すると、料理人は刃を置き、自分が追っているのは技ではないと言う。彼は肉の自然な隙間のなかを動いている。

これが無為と呼ばれる。しばしば「何もしないこと」と訳されるが、それは誤りだ。強いることのない行為、努力の消えた流れのことである。熟達とは、意志が見えなくなる地点から始まる。

日本の稽古の言葉でいう無心も、この隙間に触れている。心を無くすことではなく、「いま自分は正しくやれているか」と自分を見張る心が落ちること。剣を握る手が、握っている自分を確かめなくなったとき、はじめて相手に間に合う。

そのうえで、これが人工知能の議論をどの平面へ移すかを見てみたい。理想的な行為がそもそも反省的な自己を必要としないなら、「機械は考えていない、ただやっているだけだ」という異議は力を失う。西洋の行為主体性の危機は、西洋自身の概念選択から生まれている。

これは自動化の見方も変える。西洋は自動化を労苦の除去とみなす。荘子は熟達を労苦が消える地点とみなす。二つは同じではない。一方では仕事を他者へ渡す。もう一方では仕事と一つになる。

「これは人格か」という問いは間違った問いかもしれない

西洋の人工知能倫理はいつも同じ軸を回っている。意識、権利、道徳的地位。本当に問われているのはこうだからだ——これは個人なのか。個人であるものだけが処罰でき、法的に制限できる。ところで、人工知能を世に出した企業や国家は、それがしたことについて責任を問われうるのだろうか。

一方、儒家の役割倫理はこうした問いにまったく関心を持たない。

ヘンリー・ローズモント(二〇一七年没)とリジュン・ユアンが取り組んだ関係的自己の理解において、人は関係の交差点に生まれる。まず切り離された個人がいて、そのあいだに後から関係が結ばれるのではない。逆だ。関係が先にあり、人はそこから生まれる。

同じ動きをアフリカ哲学も扱う。ウブントゥの伝統では、ものごとは他のものごととの関係のなかで、そのものになる。

この三つの伝統を並べると、問いが変わる。「人工知能の中に何があるのか」ではなく「それは私たちとどんな関係に入るのか」と問うべきなのかもしれない。

形而上学的な荷はずっと軽く、実務的にはずっと解きやすい。

ただし無料ではない。関係的自己は、地位を与えるのは関係だと言う。つまり地位を与えるのは私たちだ。ここに恣意への扉が開く。「こいつの痛みは痛みに数えない」と言うことが搾取にとってどれほど便利だったか、歴史は知っている。動物に使われ、奴隷にされた人間に使われた。

ベンサムが一七八〇年に置いた基準は、いまも最も堅い場所に立っている。『道徳および立法の諸原理序説』の有名な註で、彼は動物についてこう書く。

“The question is not, Can they reason? nor, Can they talk? but, Can they suffer?”

つまり本当に線を引く問いは、推論できるかでも、話せるかでもない。苦しむことができるか、である。

調和か、アラインメントか

ここで議論は哲学から政治へ移り、言葉が自分の正体を明かす。

西洋の人工知能ガバナンスの言語はアラインメントを中心に組まれている。整合、安全、制御。工学的な制約の語彙を前に押し出す。

中国の言語は和を中心に組まれている。調和。美的かつ倫理的な均衡の語彙である。

どちらも同じものを欲している。摩擦のない人間と機械の秩序を。だが、同じものを欲する二つの異なる形は、二つの異なる政治を生む。

多元性か。技術的な封建制か、あるいは国家の全体主義か。

答えは簡単ではない。調和とは、異なる声がともに響くことでありうる。管弦楽では、どの楽器も自分のままでいて、それでも全体はひとつのものになる。

あるいは調和とは、日ごとに強くなる単一の声が、他のすべてを押し潰すことでもありうる。

儒家も道家も仏教も人間を自然の頂点に置かないため、機械の知性の登場は玉座の簒奪のようには見えない。東アジアでのパニックは小さい。だが形而上学的な平静は、制度的な保証を意味しない。同じ技術が、ある場所では監視資本主義になり、別の場所では国家による監視になりうる。

未来を論じるあいだに現在が逃げていく

超知能の議論は心地よい。宇宙的で、劇的で、映画的だ。

そして、まさにそれゆえに注意をそらす。

計算機科学者ティムニット・ゲブルと、社会学者かつ計算機科学者のミラグロス・ミチェリが繰り返し指さしているのはこういうことだ。いわゆる自律的なシステムは、地球規模の見えない労働の層の上に立っている。データのラベル付けをする人、コンテンツを審査する人、倉庫で働く人。

具体例を挙げるなら、ミシガン州の統合データ自動化システム(MiDAS)は二〇一三年に失業給付の申請を走査し、不正の標識を貼った。この運用のあと、州の収入は三百万ドルから六千九百万ドルへ跳ね上がった。のちの検証で、二〇一三年から二〇一五年のあいだにアルゴリズムによって烙印を押された四万件を超える申請の大部分が、誤りだったことが明らかになった。州の監査が調べた標本では、判定の九三パーセントに不正の事実がまったくなかった。そして被害は書類の上では終わらなかった。賃金は差し押さえられ、家を失った人がいて、破産を申し立てた申請者もいた。和解に至ったのは、事件からおよそ十年が過ぎたあとである。

職を失った何千もの人間が、計算機システムによって詐欺師と宣告された。そこに超知能はいなかった。ありふれたソフトウェアと、異議を申し立てられない決定と、ソフトウェアに向けられた必要以上の信頼があっただけだ。

人工知能の発展とともに議題に上がることの増えた職場監視も、同じ危険を抱える。人工知能は測れるものを数え、測れないものをおおむね無いことにする。送信されたメールの数は数えられる。客の困りごとを本当に聞くことは数えられない。結果として、測れない労働は見えない労働になる。

監視は振る舞いを一時的に変えるのではなく、人間を恒久的に作り変える。見られている者は、やがて自分で自分を見張る者になる。

沈黙を測ること

関係という点で、もっとも鋭い試験はメンタルヘルスの現場で課されている。

数字は深刻だ。イングランドとウェールズでは若者の四人に一人、アメリカでは八人に一人が精神保健の支援にたどり着けていない。二〇二六年の調査によれば、十二歳から二十一歳のアメリカ人のおよそ五人に一人が、悲しいとき、怒っているとき、不安なときに人工知能のチャットボットへ向かっている。およそ八百万人。一年で四十パーセントを超える増加である。しかもそのうちの三分の二近くは、そのことを誰にも話していない。

これを「人々がテクノロジーに騙されている」と言うのは簡単で、そして間違っている。正しい読みはこうだ。人工的な親密さがひとつの空白を埋めている。そしてその空白を開けたのは人工知能ではない。人間による支援が、高価で、手の届かないものになった。

それでも欠けているものがある。その欠けは、共感の模倣ではない。

治療者と話すときに起きているのは、相手が自分から影響を受けるということだ。聞いたことが相手を変える。こちらの沈黙が相手に何かを語る。モデルは聞き、記録し、応答を生成する。だが、立ち会ったものによって変化しない。沈黙はモデルにとってデータではない。

日本の芸能や建築が間と呼んできたものを思えば、この差は分かりやすい。間は音と音のあいだの空白ではなく、そこで何かが起きている時間である。空白が働くのは、その場に居合わせた者が沈黙に耐え、沈黙のあいだに動かされているからだ。誰も動かされていない沈黙は、ただの無音になる。

差はここにある。問題はモデルが十分に良くないことではなく、良いことが本当の問題の土台と関係がないことだ。

マルティン・ブーバー(哲学者、一九六五年没)の区別は、この状況のおそらく最良の説明を含んでいる。

我-それの関係では、相手は対象である。使われ、測られる。我-汝の関係では、出会いが起きる。ブーバーの言う難しいことはこうだ。二つの音波が完全に同じであっても、一方は出会いであり、他方はそうではない。見分けられないことは、同じであることを意味しない。

では、未来をどう築くのか

この文章を予言では終わらせない。予言そのものが、人間と人工知能の関係の一部だからだ。

ヘロドトスが伝えている。ペルシア軍が迫るなか、アテナイ人はデルフォイへ使者を送り、巫女は都市が根こそぎ滅びると告げる暗い神託を与えた。神託は、救いは木の壁にあると言う。テミストクレスはこれを自分に有利に解釈し、木の壁とは実はアテナイ海軍の木造船のことだと主張して、市民に本土を捨てて船に乗るよう説き伏せた。紀元前四八〇年のサラミスの海戦で、この身軽な木造艦隊はペルシア艦隊を粉砕し、ギリシアの運命を変えた。テミストクレスのパラダイム転換が、彼に勝利をもたらした。

私たちにパラダイム転換が必要なことは明らかだ。

人工知能のモデル出力の価値もまた、それを読む者のなかにある。この二千五百年前の教訓は、今日ひどく役に立つ。

三つ言って終える。

第一に、恐れの向きを直す必要がある。 本当の危険は、機械が苦しむかどうかではない。本当の危険は、意識を持つように見えるものに対して私たちが心理的に搾取されやすくなること、そして自分を機械と取り違えるほどに自分を安く見積もることだ。危険は上から来ていない。私たちが覗きこんでいる鏡から来ている。

この文章のあいだ、もう生きていない哲学者や科学者から受け取った考えが、今日を理解するうえで最大の助けになった。

第二に、人間例外主義を守るのは間違った戦線だ。 現代の神経哲学も同じことを言う。守ろうとしている固定した自己は、はじめから無かった。守るべきは本質ではなく接触だ。身体を持つこと、何かが自分にとって切実であること、立ち会ったものによって変わりうること。これらは所有物ではなく実践である。実践的な能力は、使われなければ鈍る。

第三に、自動化の約束と結果のあいだの距離は、二千年動いていない定数だ。 テッサロニケのアンティパトロスは、紀元一二年ごろ水車について書いた警句のなかで、穀物を挽く重い石を回していた女たちに——さまざまな資料では粉挽きの娘たちとも呼ばれる——もう眠ってよい、腕も肩も休めてよいと呼びかけている。水の流れが人間の筋力に取って代わり、技術の進歩が人類にもたらした最初の大きな安楽を象徴した。

紀元一二年、仕事の重みを水が引き受けた。自動化の最初の約束は利益ではなく、睡眠だった。

トマス・カーライルは一八二九年の『時代の徴候』で産業革命を批判する。彼にとって本当の危険は、仕事が機械化されることだけではない。機械の労働の律動が人間の心と魂にまで浸みこむことだ。

一八一二年、ランカシャーでメアリーとリディア・モリヌーという若い姉妹が、五十人ほどの一団の先頭に立って織機を焼いた。理由は技術への恐れではなく、暮らしの糧が奪われることだった。

一九一一年、アメリカの技師フレデリック・ウィンズロー・テイラーは『科学的管理法』によって、人間の労働を測定され最適化される工程へと変えた。

この四つの年代を並べてみてほしい。約束は毎回、自由な時間だった。結果は毎回、新しい機械化だった。私たちが渦中にいる人工知能の革命も、この循環の外にはいない。

もっとも、循環が繰り返されてきたことは、それが必然であることを意味しない。同じ道具が別の結果を出すためには、道具そのものより、誰が何を数えるかを決める仕組みのほうが変わる必要がある。それは技術の課題ではなく、政治の課題として現れる。

人工知能の問題は、機械がどこまで人間になるのかを定義することではない。人間が機械の時代に、自分を痩せさせずにどう定義し直すのかという問題だ。

ただ、私たちはこの目撃しつつある革命で何を失ったのかを、まだ名づけられていない。何がその代わりに来るのかも、まだ思い描けていない。人工知能に尋ねても、完全な答えは返ってこない。