フィロウォッシング：哲学がシリコンバレーにお墨付きを与えるとき

哲学を学ぶ私たちは、それが何の役に立つのかと聞かれることに慣れっこだ。その問いは多少なりとも穏やかな形をとることもあるが、ほとんどの場合、ある本物の難しさを前提にしている。医学や工学や法学とは違って、哲学者が教育や研究の外でどんな居場所を持ちうるのかは、すぐにはわからないのだ。だからこそ、世界有数のテック企業のいくつかでいま起きていることを、学問分野としてのささやかな意趣返しと受け取りたくなる。何十年にもわたってエンジニアと起業家を時代のほとんど英雄的な存在に仕立て上げてきたあのシリコンバレーという生態系が、どうやら哲学者も必要だと気づいたらしいのである。

ケンブリッジとニューヨークで哲学を修めたアマンダ・アスケルは、Claudeを開発するAnthropicで最も顔の知られた人物の一人となり、同社のモデルのふるまいを方向づけるべき性格や価値観について取り組んでいる。オックスフォードで哲学の博士号を取得したイアソン・ガブリエルは、長年にわたりGoogle DeepMindで倫理、多元主義、ガバナンスに関わるさまざまな役職を務めてきた。これらは孤立した例ではない。人工知能が比較的専門的な技術であることをやめ、教育や仕事から医療、安全保障、人間関係に至るまでの領域に入り込みはじめるにつれ、つい最近まで大学のゼミにふさわしいと思われていたような問いが、思いがけない実践的な切迫性を帯びるようになった。人工知能システムはどんな価値を尊重すべきなのか。二つの道徳原則が衝突したとき、どうふるまうべきなのか。善とは何か、正義とは何か、さらには真実とは何かについてさえ合意が存在しない社会の多元性と共存できるモデルを設計することは可能なのか。

何十年にもわたってエンジニアと起業家を時代のほとんど英雄的な存在に仕立て上げてきたあのシリコンバレーという生態系が、どうやら哲学者も必要だと気づいたらしい。

こうした問いが人工知能の研究所に入り込んだこと自体は、基本的には良い知らせだ。同時に、それが単なるPR戦略にすぎないとも思えない。アスケルやガブリエル、その他の研究者たち(欧州連合司法裁判所で不利な判決が出たあと、「忘れられる権利」に取り組むためにGoogleで働いたルチアーノ・フロリディなど)は、哲学的に洗練された仕事を生み出し、本物の問題に向き合っている。そしてそうした問題に対しては、人文学的な素養が、チームにエンジニアをどんどん追加するだけでは得られない何かをもたらしうる。とはいえ、これらの哲学者が出す答えの質よりも、彼らが問いを立てる際の制度的な条件のほうを問いただすことは、正当だと私たちは考える。テック企業が、すでに作ると決めたシステムにどんな価値を組み込むべきかを考えさせるために哲学者を雇うのだとしたら、それに先立つ、そしておそらくはより居心地の悪い問い、つまりそのシステムが企業の割り当てようとしている場所を占めるべきなのかという問いは、どうなってしまうのか。

私たちの疑念は、これが単なるethics washing(つまり、ある行為に倫理的な上塗りを施すための見せかけの変更)のまた一つの事例にとどまらない、より根深いものだということだ。私たちが目撃しているのは、哲学という学問が介入できる問題の領域をあらかじめ限定するための、一種の学問の横領なのである。この仕組みを私たちはphilowashing(「哲学ウォッシュ」と言うとなんだか妙な響きだが!)と呼ぶことを提案したい。そしてその前例は、「テックブロ」たちによる現代のストア派の取り込みにあると考えている。

ストイシズムからブロイシズムへ

この20年ほどのあいだに、マルクス・アウレリウス、エピクテトス、セネカは、起業家や投資家、テック文化にまつわる人物たちのあいだで思いがけない人気を獲得した。ティム・フェリスはストア派を生産性と自己啓発の世界における定番の参照先に変えるのに一役買い、ライアン・ホリデイはその伝統を軸に本や講座や講演からなる大成功のエコシステムを築き上げた。そしてマルクス・アウレリウスの『自省録』は、ビジネス書の棚でリーダーシップの指南書やgrowth hacking、パフォーマンスの最適化の本と肩を並べることになった。奇妙な現象ではあるが、必ずしも咎めるべきことではない。仕事上の危機を乗り越える道具を求めてエピクテトスにたどり着いた人がいたとしても、その読書も、道中で出会う哲学も、それで無効になるわけではないのだから。

重要なのは、その取り込みがおこなう選別のほうだ。古代のストア派は生産性を上げるためのテクニック集ではなく、徳、義務、共同生活、そして自分次第のものと自分では制御できないものとの関係について、はるかに野心的な構想だった。ところが現代のビジネス文化へと翻訳される過程で、その哲学的な構造の大部分は脇に追いやられ、生き残るのはとりわけ自己管理のテクニックに変換できる考え方だけだ。逆境に耐えること、自分の反応をコントロールすること、自分が影響を及ぼせることに集中すること、そして変えられない外的状況に対してレジリエンスを養うこと。

テック企業が、すでに作ると決めたシステムにどんな価値を組み込むべきかを考えさせるために哲学者を雇うのだとしたら、それに先立つ、そしておそらくはより居心地の悪い問いはどうなってしまうのか。

その結果は、ときにブロイシズム、あるいはbroicismと呼ばれてきた。この言葉によって、ある重要な変化を見て取ることができる。職場が常時対応を求め、不安を生み出し、仕事と休息の境界をますます曖昧にしているとき、作り直されたストア派の問いは、もはやその環境のあり方には向かわず、そこでうまく生きていく個人の能力のほうへと向かう。かくして哲学は、主体に働きかけるための道具を提供する一方で、その人の不調を生み出している条件は議論の外に置かれたままになる。

哲学者、シリコンバレーでタイムカードを押す

アマンダ・アスケルの例は、この変化を理解するうえでとりわけ役に立つ。Anthropicでの彼女の仕事の一部は、Claudeがどうふるまうべきかを考えることだ。その「人格」はどんな特徴を持つべきか、どんな価値を表現すべきか、道徳的に複雑な状況にどう反応すべきか、そしてAIアシスタントがユーザーの信念や決定にどこまで影響を与えようとしてよいのか。AnthropicのConstitutional AIというプロジェクトは、その関心を訓練の仕組みそのものにまで持ち込んでいる。望ましくない応答を個別に修正するだけでなく、明示的な原則の集合によってモデルを方向づけようとするのだ。

こうした議論において、哲学は重要な役割を果たしうる。ユーザーの自律性を尊重するとはどういうことか、パターナリズムをどう避けるか、相容れない価値体系が共存する文脈で人工知能はどうふるまえるのか。こうした問いは、技術的なプロセスの最後に塗り足される人文学的なニスなどではなく、本物の規範的問題である。DeepMindでのイアソン・ガブリエルの多元主義とアラインメントに関する仕事についても、似たようなことが言える。しかし、Claudeの人格をめぐる問いも、大規模言語モデルがどんな価値を組み込むべきかという議論も、介入の余地がなさそうな先行する決定を出発点にしている。それはそのモデルのプロジェクトそのもの、その規模、ビジネスモデル、そして社会生活のなかでどのような位置を占めることになるのか、に関わる決定だ。哲学的な考察が始まるのは、問題の制度的な構造の大部分がすでに決まってしまったあとなのである。システムがどうふるまうべきかは議論されるが、どんな種類の決定をそれに委ねるべきか、それが誰に対して責任を負うべきか、あるいは性能にかかわらずその利用が排除されるべき領域があるのかどうかは、必ずしも議論されない。

間違えなかったアルゴリズム

2019年7月末、ギジェルモ・フェデリコ・イバロラはレティーロ駅で拘束された。ブエノスアイレス市政府が導入していた逃亡犯の顔認証システムが、彼をバイア・ブランカで起きた加重強盗事件の指名手配犯だと識別したのだ。彼は6日間拘束され、事件とはまったく無関係で、その街に行ったことすらないことがようやく確認された。

この事件は、ここ数年で積み上がった膨大なアルゴリズムの誤りの記録に難なく加えられそうに見える。ただし一点だけ、哲学的により興味深いところがある。アルゴリズムは間違えていなかったのだ。似た二つの顔を取り違えたわけでも、統計的な問題で誤検知を出したわけでもない。逮捕状はギジェルモ・ワルテル・イバロラに対するものだったが、誰かがその逮捕状にギジェルモ・フェデリコの身分証番号を紐づけてしまっていた。システムは受け取った情報を正しく処理し、正しい顔を誤ったデータベースと照合し、見事な効率で間違った人物を見つけ出した。言うなれば、誤ったデータに外科手術並みの精度が適用された事例だった。

重要なのは、顔認証アルゴリズムをどれだけ改良してもこの問題は解決しなかっただろう、ということだ。10倍精度が高く、人口統計的なバイアスもなく、利用可能な最高の監査を受けたシステムを想像してみても、ギジェルモ・フェデリコ・イバロラはやはり拘束されていただろう。誤りは別のところにあった。システムに入力されたデータに、そのデータを生み出した制度上の連鎖に、そして何よりも、警察官や役人や司法関係者が関わるプロセスのなかで技術的な推奨が占めていた位置に。

しかもその6日間、決定には人間が関与していた。この事実が重要なのは、自動化のリスクに対する最もよくある答えの一つが、まさに常にhuman in the loop、つまり最終判断を握る人間がいることを保証する、というものだからだ。イバロラ事件は、その定式がもっともらしくはあっても、見かけよりずっと多くを語っていないことを示している。回路のどこかに人間がいるだけでは、その人が関連する情報を受け取らず、確認する時間がなく、結果に異を唱えるインセンティブがなく、あるいはそもそもそれを変更する権限を持っていなければ、実効的な監督は保証されない。

回路のどこかに人間がいるだけでは、その人が関連する情報を受け取らず、あるいはそもそもそれを変更する権限を持っていなければ、実効的な監督は保証されない。

言い換えれば、「人間を回路にとどめる」という言葉は、まったく異なる制度的構成を指しうる。診断の提案を受け取り、検査結果を確認したうえでそれを無視できる医師と、一日に何百件もの自動推奨を処理し、それに従わないたびに書面で理由を説明しなければならない職員とでは、立場が同じではない。どちらの場合も形式上は人間による監督が存在するが、その人の判断が実質的な機能を保っていると言えるのは一方だけだ。だとすれば、監督とは機械にまだできないことを補うために最後に付け足される救済策ではない。それは誰かがあらかじめ設定するパラメータなのだ。確認する人がどれだけの情報を受け取るのか、どれだけの時間があるのか、どの方向に逸脱できるのか、そして逸脱したときにどんな結果に直面するのか。

形は残し、機能は失う

スペインのVioGénというシステムは、この問題を別の角度から見せてくれる。ジェンダー暴力事件のリスク評価に用いられるこのシステムは、リスクレベルを割り当て、それが被害届を出した女性が受ける保護措置に影響しうる。自動評価は人間の介入をなくすわけではない。担当官はシステムが提示したリスクレベルを修正できる。ただし、その権限には決まった方向がある。引き上げることはできても、引き下げることはできないのだ。

ここでも、この設計をテクノロジーの邪悪さの証拠として示したくなる誘惑には抗うことが大切だ。リスクの過小評価が取り返しのつかない結果を招きうるジェンダー暴力の状況では、予防的な基準を採用するもっともな理由がある。私たちはまさにその非対称性を望んでいるのかもしれない。だがもしそうなら、肝心なのは、人とシステムのあいだの権限配分がアルゴリズムによって発見されたものでも、その統計的精度から導かれたものでもないと気づくことだ。人間の担当官に何ができ、ツールに何ができ、両者の意見が食い違ったときにどちらの方向で決着をつけるべきかを決めたのは、誰か人間なのである。

この点を押さえると、人工知能をめぐる現代の議論でしばしば見えにくくなっている問題を、より正確に定式化できる。公共の議論を支配しているのは能力についての問いだ。AIに何ができるのか、医師より上手に診断できるのか、開発者より上手にプログラムを書けるのか、教師より上手に採点できるのか、警察官には気づけないパターンを見抜けるのか、と。正当な問いではある。だが、その答えから、AIに何をさせるべきかが導かれるわけではない。あるシステムが一定の精度で再犯を予測できると分かっても、その予測を判決に関与させたいかどうかは決まらない。あるモデルが医師よりうまく病気を見つけられると示しても、それが治療に対してどんな権限を持つべきかは決まらない。人工知能が教師より少ない誤りで試験を採点できると確かめても、その評価を中心に教育を組み立てたいかどうかは解決しない。

人間の行為者に何ができ、道具に何ができ、両者の意見が食い違ったときにどちらに軍配を上げるべきかを、誰かが決めたのだ。

要するに、しばしば混同される二つの問いを区別しなければならない。一つはシステムの振る舞いに関わる問いだ。何に答え、何を拒否し、どんな価値を尊重し、どれほどの精度でタスクをこなすべきか。もう一つは、その制度上の位置に関わる問いだ。どの決定を委ね、どれを手元に残すのか、誰がその結果から離れることができ、それはどんな条件のもとでなのか。前者は製品に手を加えることで答えられる。後者は、その製品が動作できる範囲の限界を決めることを求め、場合によっては、技術的に作れるとしても特定の用途は存在すべきではないと考えることを求める。

まったく正しい哲学

ここでシリコンバレーの哲学者たちに戻れば、どこにphilowashingが潜んでいるのかがよく見えてくる。問題は、アスケルやガブリエルやほかの研究者たちが必ずしも質の悪い哲学を生み出していることでも、雇い主に都合のいい結論を出すよう強いられていることでもない。実のところ、もしこの仕組みが、自分では偽だと思うことを平気で口にする哲学者頼みだったとしたら、ずっとつまらない話だろう。この種の正当化の特異さは、関わる全員が厳密さと知的誠実さをもって仕事をしていてもなお機能しうる点にある。

理由は制度的なものだ。モデルがどう振る舞うべきかという問いは、会社がすでに下した決定――どこに展開するか、どの顧客に売るか、人間のどの仕事を置き換えるか――とほぼどんなものとも両立する。チャットボットを人間の自律性を尊重し、多様な道徳観に対して多元的で、弱い立場のユーザーに配慮するものにするため莫大な労力を注ぎながら、そのデータを生み出す人々の労働条件も、学習に必要なインフラの物理的な影響も、その普及がもたらす権力の集中も、特定の顧客がこの技術をどう使いうるかも、まったく見直さないでいることは可能なのだ。

しかも、システムの振る舞いをめぐる哲学的作業には、とりわけ好都合な性質がある。製品を良くしてくれるのだ。人種差別的でなく、人を操作せず、より慎重で、よりよい説明を提供できるモデルは、展開しやすく売りやすい製品でもある。それ自体に何の問題もない。より安全な自動車を作ることに何の問題もないのと同じだ。厄介なのは、そうした改善の束が、重要な規範的問いはすでに提起済みだという証拠として示されるときだ。実際には、そのうちの特定の種類の問いに答えたにすぎないのに。

ここにphilowashingが現れる。それは主として不都合な結論を検閲することで作動するわけではない――そんな戦略はあまりに目立つし不器用だ。そうではなく、問いを制度的に振り分けることで作動する。内部設計の問題には予算もチームもキャリアパスもある。制度的な限界の問題は、はるかに心もとない状況に置かれている。企業は自社製品の市場を狭めかねないので、普通はこの問いを立てない。規制当局はたいてい技術がすでに展開されてから到着する。そして、収益性とは無関係にこの問いを立てる余地をまだ残しているアカデミアは、皮肉なことに、哲学者たちがようやく抜け出せた場所として描かれるのだ。

これは他の種類の評判ロンダリングとの重要な違いだ。greenwashingは、企業が実態に見合わない環境配慮の外見を作り上げるときに機能する。ethics washingは、倫理の語彙が権力の配分を実質的に変えることなく正当性を与えるときに機能する。ここで言うphilowashingは、偽りの外見を作り出す必要がないぶん、見抜くのがより難しいかもしれない。本物の哲学に資金を出し、知的に価値ある成果を得て、いくつかの製品を良い方向に変えることさえありうる。その正当化効果は、もっと基本的なところから生じる。哲学の領域の一部を全体の代表に仕立て上げ、特定の問いをテクノロジーについての「肝心な問い」に見せることだ。

ずらしは捏造によってというより、フレーミングによって起こる。哲学のそれと分かる一部は保たれる一方で、その問いのいくつかが政治的に不都合になりうる文脈が消えていくのだ。

その意味で、現代における哲学の流用は、先に触れたbroicismと同じ構造を持っている。問題は経営者たちがマルクス・アウレリウスの一文一文を読み誤っていたことではなく、ある種の選別によって、善き生と他者との関係をめぐる哲学が、議論の外に置かれたままの環境にうまく耐えるための個人向けテクノロジーに変えられてしまったことだった。どちらの場合も、ずらしは捏造によってというより、フレーミングによって起こる。哲学のそれと分かる一部は保たれる一方で、その問いのいくつかが政治的に不都合になりうる文脈が消えていくのだ。

持ち主のいない問い

これが重要なのは、人工知能の制度上の位置をめぐる決定が、目覚めた汎用人工知能が私たちをどうするか決めるといった仮想の未来で起こるわけではないからだ。それは今、はるかに地味なかたちで起きている。公的機関が顔認識システムを購入するたびに、企業が労働者を評価するツールを導入するたびに、病院が予測モデルを採用するたびに、学校が危機にある生徒を見つけるためにアルゴリズムを使うたびに。ハビエル・パジェロが421で監視技術の拡大を分析して示したように、重大な変化はしばしば入札ひとつ、政令ひとつと積み重なって進む。そこに組み込まれた権力観について議論を求めるには小さすぎるように見える、局所的な決定を通じて。

人工知能をめぐる議論も、同じような効果を生む危険をはらんでいる。大規模モデルは「理解」しているのか、汎用人工知能はいつ到来するのか、機械は意識を持ちうるのか――そんな議論をしているあいだに、映画映えしない無数の決定が静かに権限を再配分していく。レコメンド、リスクスコア、アラート、順位付けされたリスト、自動分類。どれもささやかな道具に見えるかもしれないが、そのひとつひとつが、誰が何を正当化しなければならないのか、どの結果がデフォルトとして働くのか、そこから外れるコストを誰が負うのかを定めている。

さらに、委任によって失われるもので、効率や精度だけでは言い表せないものがある。ある人に影響する決定を別の人が下すとき、少なくとも理想的には、理由を示し理由を求めるという実践が存在する。その理由は粗末だったり恣意的だったり、偽りだったりさえするかもしれないが、議論し、異議を申し立て、見直しの手続きにかけることができる。アルゴリズムのシステムは、結果に至った過程を実際には記述していない説得力ある説明を生成することで、その実践の外見を保つことができる。こうして見せかけの説明は、正当化の形式を保ちながらその機能を弱める。名ばかりの人間による監督が、監督しているはずの人から権限を抜き取ってもなお統制の形式を保つのと同じように。

だから、ループの中に常に人間がいることを求めるだけでは足りない。どの人間が、どのループの中で、正確に何をしているのかを問わなければならない。システムが説明可能であることを求めるだけでも足りない。説明が政治的に意味を持つのは、決定を生み出したものを理解し、議論し、場合によっては変えることを可能にするときだけだからだ。自律や責任や統制と結びつけて考えている制度の形式を保つのは比較的たやすい。その形式が果たすべき機能を保つには、技術が生み出す権力の具体的な配分に目を向ける必要がある。

では、哲学者は何の役に立つのか?

結局のところ、最初の問いに立ち返るべきなのかもしれない。人工知能はたしかに哲学を必要としている。だがそれは、哲学者を取り込むやり方がどれも同等だということでも、倫理部門があるからといってその組織が自らの決定を哲学的な検討にさらす覚悟があると証明されるということでもない。ある機関が優れた哲学者を抱えながら、同時に自らの活動の最も重要な前提のいくつかを議論の外に置き続けることは十分にありうる。

だから、私たちが最も急を要すると考える哲学の仕事は、テック企業から手を引くことでも、そこで働く人々を反射的に疑うことでもない。これらのシステムがどう振る舞うべきかを内側から議論できる人々は必要だ。同じように、どの企業も自発的に立てるだけの十分な動機を持たない問いを提起できる、独立した研究者や規制当局や市民社会の組織も必要だ。問題は、前者の種類の思考があることを、後者があることと取り違えてしまうときに生じる。

人工知能はたしかに哲学を必要としている。だがそれは、哲学者を取り込むやり方がどれも同等だということではない。

技術の変容を考える哲学は、さらに、人工知能の壮大なジレンマへの魅了によって脇に追いやられてしまったある種の志を取り戻すべきだろう。機械は思考できるのか、理解できるのか、意識を持ちうるのかという問いは哲学的に魅力的だが、それによって次のような問いを立てることを妨げられてはならない。システムを動かすデータを誰が生み出しているのか、自動化の陰にどんな人間の労働が隠れているのか、どんな資源を消費しているのか、どの機関がシステムを購入しているのか、どのベンダーが依存を生む立場を手にしているのか、影響を受ける人々がその結果に異議を唱える現実的な可能性はどれほどあるのか。ひとつの技術が存在論的、認識論的、倫理的、政治的な問題を同時に提起しうること、そして企業がそれぞれの分析に資金を出す理由はまったく異なるということを思い出す必要がある。物質的な批判を取り戻し、哲学的思考を再政治化する必要性もまた、もともとの構想の一部だった。

シリコンバレーはついに、哲学者が何の役に立つのかを発見したのかもしれない。私たちが問うべきはそれとは少し違う問いだ。哲学はなぜそこで働きたいと思うのか。前提そのものを吟味するという、かなり居心地の悪い習慣に歴史を貫かれてきた学問なら、テーブルに席を得たことにあまり早々と満足すべきではない。ときに最も重要な哲学の仕事とは、まさに、そのテーブルで何を議論してよいかを誰が決めたのかを問うことなのだから。