人工知能の行為主体性、法的責任、そして人間の取り分

人工知能の行為主体性、そこから生じる出来事の法的な帰結、そしてこの方程式における人間の取り分について

一五四六年に立てられた法の問い

一五四六年、マルティン・ルターの卓上語録に書き留められた一件がある。ひとつの訴えが語られている。

粉屋の驢馬が中庭から逃げ出し、川岸へ下りていく。水を飲もうとして、つないでいない漁師の小舟に足をかける。舟は流れに乗り、驢馬を乗せたまま流されていく。

粉屋は驢馬を失った。漁師は舟を失った。

粉屋は言う。漁師が舟をつなぐのを怠った。漁師は言う。粉屋が驢馬を家に留めるのを怠った。

文の途中に、ラテン語の問いが置かれている。Nunc sequitur quid sit juris? では、法は何と言うのか。

驢馬が舟を連れ去ったのか。舟が驢馬を連れ去ったのか。

ルターの裁定は二語だった。ambo peccaverunt。どちらにも落ち度がある。

この一節は五百年前に書かれた。そして今なお、私たちの手元にある最も難しい法律問題の、まさに中心に立っている。損害を生んだ動きは、二つの怠りが出会った場所で、ひとりでに始まった。悪意を抱いた者はいない。行為を完全に始動させた者もいない。あるのは、つながれていない何かと、放たれてしまった何かだけだ。

人工知能をめぐる法の全体が、この一枚の絵に収まってしまうように見える。

「責任の空白」という概念がある

二〇〇四年、アンドレアス・マティアスという思想家が、当時ほとんど誰も関心を払わなかった論文を書き、ひとつの概念に名前を与えた。責任の空白である。

論旨は単純で、そして落ち着かない。学習するシステムでは、製造者も使用者も、その機械の将来のふるまいを原理的に予見できない。予見できないことについて道徳的に責任を負わされるのは、公正ではない。とすれば、損害はあるのに、公正に責任を負わせられる者はどこにもいない。

二十年後、この文章は学術的な思考実験であることをやめた。人工知能は今日、与信を断り、採用を決め、診断を下して治療を勧め、私たちが乗る車のハンドルを切り、買い物のたびに契約を結んでいる。

そして損害が起きるたびに、同じ三つの言葉が順番に出てくる。

製造者はこう言う。モデルは我々が作ったが、どう使うかを選んだのはあなただ。 使用者はこう言う。我々はただシステムを信頼しただけだ。 システムは何も言わない。システムは語らない。語られるだけの存在だからだ。

ここで本当の問いを立てる時が来る。この空白は本物の形而上学的な空白なのか、それとも、たいへん役に立つ曖昧さなのか。

この文章の答えは後者である。そしてその証拠は、法自身の歴史のなかに横たわっている。

ローマ法の解決策——主体ではないが、行為する者

法が「人格ではないのに自ら行為する存在」という問題に出会ったのは、人工知能が最初ではない。二千年前、法はその問題のただ中で暮らしていた。

ローマ法において奴隷は人格ではなかった。法的には物であった。売られ、買われ、主人のために買い付け、売り、契約を結び、債務を生じさせ、事業を運営していた。つまり法人格を持たない存在が、法的効果を生む行為をしていた。

人工知能と奴隷という二つの語を同じ器に入れることには、強い抵抗がある。それでも法の側から眺めると、この二つはまったく同じ問いの前に立たされている。

ローマはこの矛盾を形而上学で解かなかった。仕組みで解いた。

ペクリウムと呼ばれたものは、奴隷が事実上運用していた独立の財産だった。奴隷はその財布のなかで商いをした。損害が生じたとき、主人の責任は原則としてその財布の大きさに限られた。責任は主人に丸ごと押しつけられもせず、宙に浮かせられもしなかった。ひとつの基金に結びつけられたのである。

これを今日、法律家たちが再び語り始めている。ケンブリッジの法学誌に載った研究は、人工知能の説明責任の空白について、ローマ法を直接参照することを勧めている。ウーゴ・パガッロの「デジタル・ペクリウム」という提案も同じ血筋から来ている。自律的なシステムを市場に出すのなら、その名において担保された独立の財産も示さなければならない、という考えだ。

ここから引き出される教訓は、優雅であり、同時に落ち着かない。

優雅なのはこの点だ。行為主体性は発見されるものではない。配分されるものである。 ローマ法は「奴隷に意志はあるか」とは問わなかった。問う必要がなかったからだ。法が必要としていたのは意志ではなく、相手方だった。

落ち着かないのはこの点だ。この解決策は、人類史上もっとも忌まわしい制度のひとつの内側で育てられた。

道具を奴隷になぞらえることには道徳的な代償がある。そのたとえは道具を持ち上げるのではなく、人間に対してなされたことを平常なものに見せてしまう。ここから受け取るべきは制度そのものではなく、その技術である。すなわち法は、人格を持たない行為者が生んだ損害を、その行為者を人格と宣言せずとも、どこかに結びつけることができる。

同じ技術は今日、別の名前を持っている。法人格。被用者の行為について雇主が負う責任——民法七一五条が使用者責任と呼ぶものもこれにあたる。危険な活動における無過失責任。どれも同じ目的の枠内で組み立てられた法的概念だ。損害があるなら、誰の意志も測らずに、その損害をひとつの財布に結びつけなければならない。

裁判所は何をしているか——三つの事例、ひとつの型

人工知能が私たちの生活に入ってきて、まだ日が浅い。だからこそ理論を離れ、この二年ほどの判断を見るほうが学びが多い。裁判所は、哲学者たちがいまだに議論している問いを、とうに立てるのをやめているからだ。

二〇二四年二月、カナダ。ジェイク・モファットという人物が、祖母を亡くしてエア・カナダのサイトから航空券を買おうとした。サイトのチャットボットに、遺族割引を受けられるかと尋ねる。エア・カナダのチャット・アシスタントは、遺族割引は後からでも請求できると答えた。これは誤りだった。会社の実際の方針はそうではない。

会社は法廷で興味深い主張をした。ボットは独立した存在であり、自らの発言については自ら責任を負う、と。

裁判所はこの主張を退けた。ボットは会社自身のサイトの一部である。会社は自社サイト上のすべての情報に責任を負う。その情報が静的なページから来ようと、チャットの窓から来ようと変わらない。賠償額は小さく、象徴的だった。およそ六百五十カナダドル。しかし原則は大きい。自分の組織の口から出たものについては、自分が責任を負う。

二〇二五年八月、フロリダ。オートパイロット作動中のテスラが交差点で停止せず、駐車中の車に衝突した。一人が死亡し、一人が重傷を負った。運転者は、携帯電話を落としたためにその瞬間注意が逸れていたと認めている。

裁判所は今度は過失を分けた。運転者六七パーセント、製造者三三パーセント。賠償総額は二億四千万ドルを超え、その大部分は懲罰的賠償である。会社は上訴し、手続きは続いていて、まだ決着していない。

ここで裁判所は「オートパイロットは行為主体だったか」とは問わなかった。過失を割合に分けたのである。 交通事故の実務で過失割合という言葉が日常語になっているのと、発想はまったく同じだ。ルターのambo peccaveruntが、五百年後にデジタルの姿で戻ってきた。

三つ目の例は裁判ではなく、契約の例だ。メルセデスは、ドライブ・パイロットと呼ぶシステムについて、定義された動作領域——特定の高速道路、特定の速度、特定の気象条件——のなかで起きた事象については法的責任を引き受けると表明した。

ここで起きていることは非常に明快だ。責任は発見としてではなく、約束として据えられた。製造者は、ある封筒の内側で行為主体性を引き受けたのである。

三つの出来事、ひとつの型。法はこう問わない。この存在に、つまり人工知能に意志はあるか。 法はこう問う。誰が止められる位置にいたのか。そして誰が得をし、誰が損をしたのか。

この二つの問いの組み合わせは、自動車損害賠償保障法にすでに埋め込まれている。運行供用者責任は、ハンドルを握っていた者ではなく、その運行を支配し、その運行から利益を得ていた者に賠償を負わせる。運行支配と運行利益。名前を変えれば、そのまま人工知能に向けられる二つの問いになる。

空白が塞がらないのは、塞ぐ気がないからだ

ここから政治の側面が始まり、そして景色は美しくない。

欧州連合の手元には何年も前からひとつの草案があった。人工知能責任指令である。二つのものをもたらすはずだった。

第一に、一定の条件下での因果関係の推定。つまり被害者は、箱の中で正確に何が起きたのかを立証しなくてよくなる。反証の負担が製造者へ移りうる仕組みだ。

第二に、高リスクのシステムにおける証拠開示の義務。裁判所が企業に記録の提出を求められるようになる。

この二つの条文は、責任の空白のまさに心臓部に狙いを定めていた。空白の本当の名前は、多くの場合「立証の不可能性」だからだ。被害者の手元にはモデルもなく、学習データもなく、記録もなく、専門家もいない。だから立証もできない。

欧州委員会は二〇二五年二月に草案の撤回方針を公表し、撤回は同じ年のうちに正式なものとなった。理由として挙げられたのは、関係者のあいだで合意が得られなかったこと、そしてデジタル分野の簡素化の要請だった。

二つの文を並べてみる。

マティアス、二〇〇四年——学習するシステムにおいて責任を公正に帰属させることは、構造的に難しい。 ブリュッセル、二〇二五年——その難しさを和らげるはずだった立証規則は、デジタル分野の簡素化の要請を理由に撤回された。

前者は哲学的な認識である。後者は政治的な選択である。そして二つが混ぜ合わされたとき、たいへん使い勝手のよいものが出来上がる。自然法則のように見える免責である。

責任の空白は発見ではない。開けたままにされた扉である。 そして開いた扉がすべてそうであるように、誰かがそこを通って自分に有利な利益を得ることができる。

人間の取り分・その一——「命令を受けた」の新しい版

ここから方程式の人間の側に入る。本題はそこにあるからだ。

歴史上最初の戦争犯罪裁判に戻ってみる。アメリカ南北戦争の末期、戦争最後の十四か月のあいだに開かれた収容所に、およそ四万五千人の北軍兵士が捕虜として留め置かれた。栄養不良、疾病、劣悪な環境によって、およそ一万三千人が命を落とした。

戦争が終わった直後、収容所長だったスイス出身の南軍大尉ヘンリー・ワーツが逮捕される。一八六五年のアンダーソンヴィル裁判で、彼の弁明は要するにこうだった。

——命令を受けた。

この裁判が打ち立てた法理は今日も生きている。人間は、自らが従う命令について内的な判断を下す。したがって、その命令が人間性を十分に深く傷つけるものであれば、人は従わないことができる。被告に向けられた言葉はこうだった。軍事上の上官は、道徳上の上位者ではない。

今日の人工知能版はこう話す。システムがそう勧めた。スコアが低かった。モデルが印をつけた。

これに対する解決策も用意されている。ループのなかに人間を置こう、というものだ。判断は機械が提案し、承認は人間が与える。

耳には良く響く。データを見ると、少し響きが悪くなる。

ミシガン州の失業給付システムでは、アルゴリズムが不正の印をつけた申請の大半が誤りだったことが後に判明した。しかし同じ時期に同じ仕事をしていた人間の判定者の誤り率も、低くはなかった。つまり「人間による監督」は、それ単体では安全策になりえない。

理由は心理的で、そして見覚えのあるものだ。システムが八十九パーセントの確信度を示しているとき、それに異を唱えるには時間だけでなく勇気がいる。承認は無料で、異議は高くつく。システムを追認した担当者は昇進し、システムを止めた担当者は説明を求められる。

決裁の印がいくつも並んだ書類ほど、責任の所在が薄れていくのと同じ構造がここにある。ループのなかの人間は、実際の権限と実際の時間がなければ、安全装置としては成り立たない。ただの吸収材である。損害が起きたとき、責めはそこで止まり、それより上には昇らない。

これははっきり言っておく必要がある。責任を引き受けたくない組織にとって理想的な形は、判断がシステムにあり、責めが人間にある状態である。

人間の取り分・その二——空白は空ではない

責任の空白と言うと、宇宙空間のような真空が思い浮かぶ。誰もいない場所だ。

そこには人がいる。ただ、その広大な空白のなかで、残念ながら見えていないだけだ。

自律的とされるシステムは、データにラベルを貼り、コンテンツを審査し、出力を整える世界規模の労働の層の上に立っている。この仕事は賃金が低く、可視性がなく、法的な保護が弱い。

もっとも印象的な細部を語るのは、ある配送ドライバーだ。監視システムはシートベルトを確認し、ノルマは停止を罰する。ドライバーたちはベルトを背中側で留める。システムはベルトが装着されたと記録し、人間はベルトなしで走る。

この小さな場面が、巨大な構造の要約になっている。上には計測があり、計測は正しく見え、記録は清潔だ。下にはリスクがあり、そのリスクは誰にも移転されず、ただ下へ流れていく。

オランダの児童手当の事件が重要なのは、この構図の例外だからだ。自動審査システムが数千の家族を不当に不正受給と断じ、事態は二〇二一年の内閣総辞職にまで至った。アルゴリズムによる損害が最上層まで問われた、数少ない例のひとつである。

それが稀であることが、通常の規則が何であるかを示している。 つまり責任の空白において、砲口の前に誰もいないわけではない。もっとも力の弱い者が、罪ある者として引き受けさせられている。

東洋の答え——行為ははじめから一人のものではなかった

西洋の法は、責任を単一化することの上に築かれている。行為主体をひとり見つけ、その意志を測り、その過失を確定する。

人工知能はこの仕組みを軋ませる。単一の行為主体が存在しないからだ。

中国古典思想において、これは問題にならなかった。そこでは行為がはじめから共同のものだったからだ。

馬に乗ることを考えてみる。それは乗り手の行為でもなく、馬の行為でもない。地形、訓練、馬具、飼葉、天候。すべてが行為に参加している。中国の古典は行為をこう記述する。ひとつの意志が世界にぶつかることではなく、多くのものが出会って生じるひとつの状態である、と。

儒家の役割倫理も同じ場所から続いていく。人は関係の交点において形づくられ、責任もまた個人の意志にではなく、役割に貼りつく。医師の責任は医師であることから来るのであって、その瞬間の意図から来るのではない。

これを今日に翻すと、こうなる。「モデルは行為主体か」という問いの代わりに、「この役割を誰が引き受けたのか」という問い。誰が提案を出し、誰が配り、誰が売り、誰が使い、誰が監督する任にあったのか。役割があれば責任がある。意志を測る必要はなくなる。

これは機械による損害について、思いがけず実務的な問いを生む。システムが損害を与えたとき、その過程の終点は何なのか。処罰か、修復か、是正か、停止か。

モデルを赦すということはない。しかし企業を免責するということはある。そしてそれは多くの場合、「不具合のあったモデルを更新しました」という一文で覆い隠される。

---

規模の問題——ホッブズの「実り多い罪」

もうひとつ加えておかなければならない。人工知能による損害を、ありふれた損害から分けているのはこの点だからだ。

哲学者トマス・ホッブズは『リヴァイアサン』で罪の重さを測るとき、ひとつの区別をした。今日だけを傷つける行いと、前例となることで未来をも傷つける行いは、同じ重さではない。 前者を不毛と呼び、後者を実り多いと呼ぶ。実り多い罪は増殖し、多くの人を傷つける。

ホッブズはさらに、行為者の地位が行いの重さを変えるとも述べている。 権限を持つ者による同じ行いは、名もなき者の行いより重い。

この二つの尺度は、今日の人工知能法にそのまま当てられる。

一人の人間の偏見はひとつの部屋に留まる。ひとつのモデルの偏見は数百万の判断で反復され、反復のたびに同じ方向へ押していく。 モデルとは定義上、実り多い誘導の機械である。善においても、悪においても。

イギリスの歴史家エドワード・ギボンは、その主著『ローマ帝国衰亡史』のユスティニアヌスについての評価のなかで、こう記している。 ローマ人は、法の数の多さと主君の恣意的な意志の両方によって、同時に押しつぶされた。

つまり規則の膨張と恣意性は、互いの解毒剤ではない。二つは難なく共存する。今日のコンプライアンス文書、倫理原則、透明性報告書は、ページ数において壮大である。他方で被害者の手元にある実際の手段は、依然として小さい。

では、どうすべきか

この文章の主張はひとつの文に収まる。 行為主体性は発見されるものではなく、配分されるものである。 そして配分されないとき、それはひとりでに最も弱い環へ落ちる。

四つの解決策を立てられる。

1)「この存在は、つまり人工知能は行為主体か」という問いは二千年間答えが出ておらず、この先の十年でも答えは出ない。 答えられる問いはこちらだ。誰が止められる位置にいたのか、誰が得たのか、誰が担いだのか。 法の成功した解決策はすべてこの問いから組み立てられた。奴隷のペクリウムから雇主の責任へ、法人格からテスラ裁判の陪審が下した六七パーセント対三三パーセントの割り付けまで。

2)自律的に、あるいは自由に放つものについては——それがエージェント型のワークフローであってもよい——担保を示すこと。 ローマの財布は今日、別の名前を取りうる。強制保険、切り分けられた基金、上限の定まった保証、あるいはまったく別の名前でもよい。自賠責保険が、自律しない機械である自動車について何十年も前に据えたのも、まさにこの発想である。 原則は同じであるべきだ。つないでいない舟を水に浮かべるのなら、それが流されたとき誰が払うのかが、あらかじめ決まっていなければならない。これは革新を止めない。不確実性に値段をつけるだけだ。保険と再保険の会社が、そこから自分たちの新しい経済を生み出すこともあるだろう。

3)ループのなかの人間は、権限がなければ責任も負えない。 異議を唱えることが昇進の代償になりうる担当者は、監督者にも最終決裁者にもなれない。 本当の監督は三つのものを要求する。システムを覆す権限、それを行うための時間、そして覆したときの保護。 これらがなければ、人間はループのなかにいるのではない。緩衝材の位置にいるだけである。

4)空白を自然法則とみなさないこと。 立証の規則、記録保持の義務、証拠の開示が、意図的にであれ無自覚にであれ取り払われるのを見過ごせば、責任の空白は広がる。

マルティン・ルターの驢馬と舟の一件では、双方が正しく、同時に双方に落ち度があった。五百年前にひとつの食卓で下された裁定は、誰も完全には有罪でない出来事において、誰も完全には無罪でもないと言っていた。

今日の危険は、その裁定のちょうど裏返しにある。 誰にも落ち度がないという結論に至るほうが、落ち度を定めるよりはるかに容易である、という点にある。

驢馬も舟もつながれていなければ、川が仕事を片づける。そして川に腹を立てても意味がない、とだけ言って終わりにしてはならない。