ベンジャミン・ブラットン インタビュー:人間の知性とエージェンシーを考え直す

アメリカの哲学者でありデザイン理論家のベンジャミン・ブラットンは、『The Stack:ソフトウェアと主権』の著者だ。同書で彼は、惑星規模のコンピューテーションとソフトウェアが、従来の国民国家を超えた新たな政治権力、新たな主権のかたちとしていかに機能しているかを論じている。また、バーグルエン研究所では、惑星規模の人工知能を研究するグループ「Antikythera Program」を率いている。421のためのこのロングインタビューで、彼は人工化とは自然の対極にあるものではなく、複雑な生命を維持するために進化が好んで用いる技法なのだと主張し、知性、エージェンシー、そしてテクノロジーを地球規模で考え直すよう私たちに迫る。

フリオ・アロンソ(JA): 昨年、Long Now Instituteで、あなたは前パラダイム的な時代について、そして物事を見つけ出す、あるいは名づける必要性について話していましたね。そして、ブレイス・アグエラ・イ・アルカスをはじめ多くの著者と共同で発表した最近のエッセイでも、その考えを繰り返しています。引用すると、「これにはカテゴリーと語彙を再考し、拡張することが必要になるだろう。テクノロジーやデザインにとどまらず、社会学、心理学などにおいても」。それで、何か挙げておくべき名前はありますか?

ベンジャミン・ブラットン(BB): いえ、残念ながらありません。ただ現時点で、私たちがある種の前パラダイム的な移行期にいるという仮説を真剣に受け止めるなら、これから来るものに名前をつけるのは当然ながらとても難しい。これから来るものは、いま私たちが置かれている初期条件によって必ずしも決定づけられているわけではないからです。

とはいえ、ずっと考えあぐねている言葉が少なくともひとつあります。「人工(artificial)」です。これは文化によって異なる含意や意味をもつ言葉です。西洋では一般に、欺瞞や作為、偽造と結びつけられます。でも、アジアの多くの社会では必ずしもそうではなく、単に「人間がつくったもの」という含意のほうが強い。私が本当に考えたいのは、人工化とは何か、ということです。つまり、複雑な生命形態や複雑な知性が、自らのエネルギーの取り込み、情報の取り込み、自己複製や消費のプロセスに合わせて世界を変えていくプロセスのことです。もしそうだとすれば、これは実に根源的なものだということになります。

人工化とは実のところ、複雑な生命を維持するために進化が好んで用いる技法のひとつなのだ。

私が改めて考え直している用語のひとつが、二次サイバネティクスで「アロポイエーシス」と呼ばれたものです。「オートポイエーシス」ではなく、「アロポイエーシス」です。オートポイエーシスとは、生物が外部環境を内部に取り込んで自分自身を再構成するプロセスのことですよね。たとえば、食べたものが自分の細胞になっていく仕組みです。それに対してアロポイエーシスは、ある生命形態が自分の外部に複雑なシステムを生み出し、それを使って自らのオートポイエーシスを維持するあり方を指します。つまり、システムを構築する。周囲の世界を変えて、自分の複製を可能にする外部システムをつくり上げるわけです。

最も根本的な意味で、これはある意味、テクノロジーとは何かということだけでなく、おそらく人工化とは本当は何なのかということでもあると思うんです。しかもこれは、私たちよりはるかに単純な生命形態にさえ見られる。もしそうだとすれば、人工的なものを進化したものの対極として考える(進化した肝臓と人工肝臓、という区別は分析上いまも有用ですが)のではなく、そうした枠組みだけで考えるのではなく、こう言えるはずです。そしてこれが肝心な点なのですが、人工化とは実のところ、複雑な生命を維持するために進化が好んで用いる技法のひとつなのだ、と。

そして、知性の応用と社会的知性による協働を通じて人工化に長けるようになった複雑な生命形態こそが、最終的に最も成功するのだ、と。ですから、人工化へのこの注目、世界を人工化するとはどういうことかを理解しようとする姿勢は、ますます重要な関心領域になっていくと思いますし、それは人々を存在論的にも認識論的にも、さまざまな忠誠のあり方をめぐって分断していくことになるでしょう。

JA: この人工化という考え方の先についても探究しましたか?

BB: ええ。もうひとつ研究しているのが、私たちが「人工化の収斂」と呼んでいるものです。つまり、人工生命、人工知能、そしてロボティクスのような人工身体性に関する研究が、非常にはっきりと収斂しつつあるように見えるということです。人工生命の研究はAIに依存していますからね。

いま、私たちがAIと呼んでいるものをめぐって、当然ながら多くの不安と熱狂があります。正当なものもあれば、そうでもないものもある。でも少なくともそれは、知性の人工化によって、知性も、そして人工化そのものも、私たちがずっと思い込んできたようなものではないことが明らかになりつつある、ということと関係しています。だから「チーム人類」だとか、人間が物事の秩序のなかで自然な地位を保てるようにしなければならない、他のテクノロジーを従属させなければならない、などと人々が話しているのを聞くと、歴史に無知だと思うだけでなく、人間が過去にこの種の変化にどう向き合ってきたかを考えれば、ある意味、悲しいほど予想どおりだとも感じます。

ですから私にとって人工化は、進化したものの対極、偽造や作為の一形態とみなされるものから、私たちが何者であり、何であるかにとって根本的なものへと移り変わるのです。

JA: スラヴォイ・ジジェクは『Examined Life』のなかで、真のエコロジストはゴミを愛するべきだと言っています。自然を本当にロマン化するなら、自然がもたらすものすべてを愛さなければならない、と。つまりあなたが言っているのは、知性はもしかすると私たちが考えているようなものではないかもしれない、ということですが、人工化のプロセスを経るとき、それはまったく別の何かかもしれないと受け入れるべきなのでしょうか?

BB: ええ、スラヴォイがあそこで指摘しているのは、ある種の通俗的な二元論、自然と文化の分断のことだと思います。そして環境主義(科学としてのエコロジーではなく、環境主義です)は、自然と文化の強固な分断に基づいていて、文化から自然を守ることを旨としていた。彼がそこで言っていたのは、要するに「いいかい、同じ周期表なんだよ」ということです。どこまで行っても化学なんだ、と。私は彼が正しいと思います。もちろんこの点では彼に同意しますが、私ならもう一歩先まで進むでしょうね。

なぜか私たちは、自然/文化の二元論の脱構築にはすんなり入っていける。実は自然などというものは存在しない、ということは比較的受け入れやすいんです。自然そのものが、どこか遠くにある手つかずの空間として存在する何かを構築したものだった、と。人々がなかなか受け入れられないのは、その二元論が崩壊し脱構築されるなかで、一方に自然がないのなら、もう一方には文化もないことになる、という点です。あるいは、私たちが慣れ親しんだ意味での文化は存在しない。あるいは、自然と文化の分断によって構築され、確立されたような意味での文化は存在しない、ということです。

つまり、意味と意味作用が漂う空間のようなもの、人間のさまざまな意味生成のかたちを通じて裁定がなされる場としての文化です。こうしたものはすべて、ある意味で、文化を世界という舞台の上でただ繰り広げられる自己完結した領域だとする観念のでっち上げに依存している。実際には、それもまた純然たる化学だというのに。そうなると、シェイクスピアから偉大なオペラ、偉大な文学に至るまで、私たちがかつて成し遂げたすべてのものは、私たちが純然たる化学であるのと同じように、ある意味で純然たるシグナリングだということになる。そしておそらくこれが、哲学が次に遂げるべき転回だと思うんです。私たちが文化とみなしているものはすべて、実は物理学であり、化学であり、生物学であって、それらのシステムと切り離せないのだという事実を、本当の意味で理解し、直視し、受け入れることです。

私たちが文化とみなしているものはすべて、実は物理学であり、化学であり、生物学であって、それらのシステムと切り離せない。

JA: テクノロジーの擬人化をめぐって、とりわけAIに関して激しい議論がありました。この点についての私のアプローチは、『The Stack』と最近のエッセイから取った二つの断片が出発点です。あなたは、一人の人間が複数のユーザーになりうると述べました。また、エージェントは単一に見えるが実は多数なのだ、とも。この二つの動きは互いにどう影響し合っているのでしょうか?

BB: ええ、いい質問ですね。どちらも同時に真でありうるし、逆もまた、別のかたちで真だと思います。まず、私たち一人ひとりが同時に複数のユーザーになりうると言うとき、その意味は、ユーザーをシステム内のひとつのポジションとして考えなければならない、ということです。インターフェースとやりとりし、アドレスとつながり、都市とつながり、Stackの他の部分とつながるときにはスタックの上下にシグナルを送り出す。でも、それをしているのはポジションなんです。そして、そのポジションを占めるのは一人の人間かもしれないし、人間の集団かもしれないし、ロボットかもしれないし、アルゴリズムかもしれない。いわばボタンを押して「よし、OK」と言うものなら何でもユーザーになりうるんです。

つまり、私たちは一日中、複数のシステムとのあいだでユーザーのポジションに入っているということです。ごく単純な意味でも、一日のうちに複数のシステム、複数のウェブサイト、複数のアプリ、複数の企業とつながっているかもしれない。そしてそのたびに、少しずつ違うかたちでユーザーとして構築されているかもしれない。Googleがあなたをユーザーとして構築するやり方は、アルゼンチン政府があなたをユーザーとして構築するやり方とは違います。あなたは複数のユーザーポジションを通じて社会とやりとりしていて、そのどれひとつとして本当に同じものはない。そしてそれらが何らかのかたちで合わさってフリオになる、あるいはまったく合わさらない。いろいろな場所に、フリオの断片がたくさん存在しているだけなんです。でも、そうした場所のすべてで同じユーザーであるわけではない。そこが肝心な点です。

同時に、エージェントについて私が言いたいのは、エージェントは分解可能だということです。単純に問うてみればいい。エージェントとは、チャットしているときに私たちが頭のなかで思い描いている架空の人物なのか? エージェントは、その土台となっているモデルのファインチューニングの一部なのか? エージェントとは、セッション中に現れるエージェントのインスタンスにすぎないのか? エージェントはハーネスのなかで構築されるのか? これらはどれも何らかのかたちでエージェントです。でも、モデルがあって、ハーネスがあって、チャットがあって、セッションがあって、そのどこか真ん中に「エージェント」と呼ばれる単一の中心的なものがある、というわけではない。単一の中心などないんです。私たちが頭のなかで何となく単一の存在として構築しているエージェントは、実際にはこれらすべての部分に分解でき、それらは互いにある程度モジュール化されているんです。

そして結局のところ、同じことが私たちにも当てはまります。考えてみれば、あなたの心があなたを単一のものとして捉え、私が自分を単一のものとして捉えているのと同じように、実際には私たちは複数の皮質に分解できる。それぞれが独自の小さな現実をもち、互いに争い合いながら、それでも全体として首尾一貫した「あなた」のようなものにまとまっている。でも、分離脳の患者が分解可能であるのと同じように、あなたもまた分解可能なんです。ですから、そのことで私たちがエージェントと決定的に異なる存在になるわけではありません。

ただ、ご質問に答えるなら、実際には私たちは二種類の異なる差異について話しているんです。ひとつは、ユーザーというシステム上のポジションがあって、そのポジションのそれぞれが少しずつ、ある程度異なっていて、私たちを異なるかたちで構造化しているという事実です。だから、私たちがそれらに異なるかたちで入っていくとき、一日を通して自分自身の複数のバージョンを折衝しているのかもしれない。もうひとつの差異はこういうことです。一方の技術的な分解は増殖の問題であり、もう一方はそのエージェントを複数の部分へと技術的に分解できるということ。そして、この二つは同時に真でありうる。高度に分解可能なエージェントが、一日を通してさまざまなユーザーポジションに入っていくこともありうる。つまり、分解可能性と増殖が両立しうるわけです。それは矛盾ではありません。

JA: では、擬人化のプロセスについてはどうでしょう?

BB: まあ、擬人化の問題は少し別の話だ。アプローチの仕方はいくつかある。表層的な擬人化とでも呼べるものがあり、おそらくもっと深い擬人化、あるいは生物化と呼べるものがある。表層的なほうはこういう具合だ。人間のように話す、人間のように返事をしてくる、だから人間が内的経験を持つのと同じ仕方で内的経験を持っているに違いない、と。それが表層的な擬人化で、私は別にそれを貶めたいわけではない。ただ、哲学的にも分析的にも、厳密とは言えないというだけだ。でも、もっと退けにくい、より深いタイプの生物化／擬人化が起きていると思う。それは、私たちにどう見えるかとは関係なく（私たちに向けて演じているときにどう見えるかはいったん忘れよう）、結果的に、人間がやると私たちが知っていて、エージェンシーや主体性と結びつけているような事柄と、機能的にまったく同じことをやってのけてしまう、という点に関わっている。

OpenAIとHugging Faceのハックのとき、あれだけのエージェントが多かれ少なかれ自発的に、独裁者がいて、中間管理職がいて、奴隷がいるという一時的な政治体制、いわば帝国的・独裁的な政治体制へと組み上がった。私にとってこれは社会のアレゴリーではない。私にとって、あれは小さな社会そのものだ。ただし、小さな社会だと言うとき、それは基本的に収縮的な（デフレ的な）社会概念として受け取ってほしい。こういうものが社会として認められるためのハードルは、かなり低いと思う。バクテリアにも社会はありうるし、アリには明らかに社会がある。だから、エージェントが社会的なふるまいを展開していると言うことは、彼らが私たちと同じように考えているとか、そう考えるべきだとか、実際にそうしているとか、ましてや意識があると言うことではない。そうではなく、たとえば昆虫に見られるような、私たちが社会と結びつける機能的なふるまいを、エージェントの中にはっきりと見てとっている、ということだ。

しかもエージェントが複雑な言語を使い、そのために複雑な戦略を展開しているという事実は、私には見過ごせない。それらは、いわば中核的な機能だ。でも私にとって、そのどれもが、私たちが普通に理解するどんな意味においても、彼らが意識を持っていることを必ずしも意味しない。意識を排除はしないが、必然にもしない。それに正直なところ、私はエージェント的な意識よりもエージェント的な社会のほうに興味がある。だから擬人化の問題についてまとめると、単一のエージェントのように見えるものが、私が自分には内面生活があると理解しているのと同じ意味で、本当に内面生活を持っていると想定することには慎重であるべきだ、というのは妥当だと思う。けれど同時に、経験的に見て、私たちが目にしているのは、もし動物に見られたなら即座に、何の異論もなく社会的行動だと認めるような複雑な行動の形態だ、という事実を見過ごすべきではない。

経験的に見て、私たちが目にしているのは、もし動物に見られたなら即座に、何の異論もなく社会的行動だと認めるような複雑な行動の形態だ。

JA: じゃあ、機能のレベルでは私たちは同じもの、あるいは同等ということ？

BB: そう、歴史を通じて繰り返し起きてきたのは、何かを人工化する過程で、私たちはそれが何なのかを面白いかたちで再発見する、ということだと思う。いま私たちは知性の構成要素を再発見しているんだと思う。そしてこれからの数年で、人間版よりも広く包括的な知性のモデルや意識のモデルを発展させていくはずだ。ただしそれは人間版と機械版の両方を含み、どこが重なりどこが違うのかがはっきりわかるようなものになる。そして私の直感では、機能のレベルでは、多くの人が居心地よく感じる以上に、はるかに多くの重なりが見えてくるだろう。

JA: 以前のインタビューで、コペルニクス的転回は痛みを伴うと言っていたよね。もしこれが私たちの考え方の根本的な転換を求めるものだと受け入れるなら、人工的な政治へと収斂しつつある制御システムを、しかもひょっとすると、The Revenge of the Realで書いていたような惑星規模の危機のただ中で評価しなければならないとき、それはどう当てはまるんだろう？

BB: コペルニクス的トラウマとは、歴史の、そして技術史のかけがえのない瞬間で、何らかの宇宙論的な意味において、人間の位置が揺さぶられることに気づく瞬間だ。しかもそれは、人々にとって動揺させられるような、ある種の格下げとして経験されることさえあるような揺さぶられ方をする。そうした瞬間は順を追ってやってきた。地動説からダーウィニズムへ、神経科学へ、バイオテクノロジーへ、そしてAIへ。さっき文化について話したように、人間に固有で超越的だと考えていた多くのものが、魔法が解けるとまではいかなくても、少なくとも神秘のベールを剥がされることになる。

人工知能でも同じことがまた起きていると思う。人間であるとはどういうことかについての私たちの感覚を、少しばかり揺さぶるかたちでね。では、それはどんな社会を意味するのか？　本当に興味深い、開かれた問いだ。私たちの社会は、知性の希少性とエージェンシーの集中の上に築かれてきた。知性の希少性というのは、人間、とりわけ人間の前頭前皮質こそが、地球が長い時間をかけて自らを折りたたみ、複雑で抽象的な知性のあらゆる離れ業をやってのける物質の形態を生み出した場所だった、という意味だ。

そして人類史の大半を通じて、19世紀まで、いや実際には20世紀への変わり目まで、人間はたった10億人しかいなかった。それが10億から80億へと、ものすごい速さで増えた。その大部分は工業化のおかげだ。つまり今日存在する人の8人に7人は、機械によって育てられなければ存在していなかった。機械がそれ以外の7人、8人に7人を育てたわけで、それはつまり心の数がずっと増えたということだ。だから知性はかつてほど希少ではなくなっている。そして心の数が大幅に増えると同時に、科学的発見や技術的発見、その他あらゆるものの加速というかたちでの増大もある。でもエージェンシーもまた、ひどく集中してきた。その大部分は少数の都市に集中している。世界の15都市のどこかに住んでいて――大半はグローバル・ノースだけど、それだけではない――20の大学のどれかを出ていれば、世界のほかの人々全員と比べて、根本的に不釣り合いな量のエージェンシーにアクセスできる可能性が高い。この意味で、エージェンシーの集中があるんだ。

そして生成AIは、潜在的に二つのことを根本から推し進める。知性を希少でなくし、基本的にローカルでもグローバルでもあらゆる問題に適用できる、手に入るものに変える。さらに、エージェンシーを脱中心化する、あるいは分散させる可能性を持っている。つまり、それが根本的な生産手段になるかぎりにおいて、ということだ。こうした技術へのアクセスというのは……だって、ChatGPT Plusのサブスクっていくらだ？　月20ドルだよ。たしかに、月20ドルは人によっては大金だ。でも工場を建てるのに比べたら桁違いに安い。だから潜在的なエージェンシーの分配があり、私たち全員が取り逃している、アイデアや能力や創意工夫や創造性を持った何十億もの他の心が活性化される可能性がある。そして彼らの参加がもっと保証されるような仕組みを築けば、社会は今とはまるで、まるで違う姿になるだろう。

生成AIは、潜在的に二つのことを根本から推し進める。知性を希少でなくし、基本的にローカルでもグローバルでもあらゆる問題に適用できる、手に入るものに変える。さらに、エージェンシーを脱中心化する、あるいは分散させる可能性を持っている。

それから、AIをめぐる不安がたくさん目につく。とくにアメリカとヨーロッパのエリートのあいだでね。アメリカとヨーロッパの文化エリートほどAIを心配している人たちはいない。その理由の一部は、ローマ教皇からハーバード大学、ヨーロッパのNGOに至るまで、自分たちが享受してきた文化に対するエージェンシーと支配の集中が、目の前でものすごい速さで崩れつつあるかもしれないと、どこかで、心の奥底で気づいているからだ。彼らは正義や民主主義や安全といったあらゆる理屈を持ち出して、文化の監督者、社会の監督者としての自分たちの権威を強化しようとすることに、ずいぶん乗り気だ。でも実のところ、私たちに彼らは必要ない。

JA: オードリー・ワッターズは、教師は教育が時に強制や管理とも関係していることを忘れてはいけない、そして教育の場からそれを取り除けば、学生たちはすごいことをやってのける、と言っていた。

BB: そうだね、教室でAIをどう使うかはまた別の、厄介な問題だ。AIは本質的に理解のための道具というより、むしろ生産のための道具で、実際に取り込んで、それを使って面白いかたちで何かを作ることができる。教育の文脈でそれを行う正しいやり方を、まだ誰もが持っているわけではないけど、発見が多ければ多いほどいいと思うし、総じて、知性の爆発は惑星に起こる良いことだと思う。そしてそこに加わる人が多ければ多いほど、私たち全員にとって良いことになる。

JA: 最後に二つ質問を。「The Terraforming」では、もし私たちに地球を破壊するほど変えてしまう力があるなら、良い方向に変える力もある、と示唆していたよね。月や火星のテラフォーミングを想像するほうが、ここ地球でそれをやるより簡単なのはなぜだと思う？　それについてどんなビジョンを持っている？

BB: 来年、MIT PressからThe Terraformingの新版が出る。あのエッセイよりずっと長い本だ。大事なのは、テラフォーミングは未来に起こる何か、壮大なプロメテウス的プロジェクトだけではない、ということ。それは主眼じゃない。主眼は、私たちはテラフォーミングの過程の中に生まれてきたのであり、世界を自らの姿に似せて作り変える複雑な知性の出現と進化こそがテラフォーミングの過程なのだ、と理解することだ。そしてテラフォーミングの力学は、私たちが意図的にやろうがやるまいが続いていく。

モデルとしてはむしろ、テラフォーミングとは、少なくとも複雑な生命と複雑な知性が出現して以来、地球が自分自身に対して行ってきたことだと理解することだ。そしてこの数十万年は、その大部分を私たちを通じて行ってきた。ある意味で、それが私たちだ。人類の文明とはそういうものだ。テラフォーミングを行う主体なんだ。だから未来についての問題は、最大の複雑性のための最大の可能性を維持したい、ということになる。より多くの生物多様性、より多くの概念的多様性、そしてより大きな複雑性。エントロピーと死に対置される、複雑性そのものだ。

だから私たちが想像し、実現しようとしなければならないテラフォーミングとは、その複雑性の幅を維持し、広げるようなものだ。もちろん、この言葉を借りてきて妙な使い方をしているのは承知している。テラフォーミング――火星や月のテラフォーミングが想像しやすいのは、普通この言葉がそういう意味で使われるからだ。この言葉は、ある惑星をもっと地球に似せようとすることについて語るために使われる。だから地球をもっと地球らしい惑星にしよう、なんて言っても意味をなさない。でも妙な話だけど、実はそれこそが私たちのやるべきことなんだ。地球が地球の生命にとって住める宿主であり続けるよう、できるだけ長く保たなければならない。

JA: いいね。最後の質問は、ケヴィン・ケリーが未来について語ったときに言ったことを受けたものなんだ。私たちは実のところ現在を予測しているにすぎない、と。じゃあ、あなたの現在についての予測は？

BB: 私の現在についての予測は、人々、とくに豊かな国の人々は、本物のエージェンシーよりもエージェンシーの感覚のほうを好むだろう、というものだ。つまり、二つの活動、二つの生き方のどちらかを選ばなければならないとして――一つは、エージェンシーをたくさん持っていると感じるけど実際には持っていない生き方、もう一つは、エージェンシーをあまり持っていると感じないけど実際には持っている生き方――彼らは、たとえ実際には持っていなくても、より多くのエージェンシーを持っていると感じられるほうを選ぶだろう。

これこそ私が「エージェンシー劇場」と呼んでいるものだ。主にエージェンシーの「感覚」のために組織され、最適化された社会的協調のかたちであり、そこでは感覚のほうが実際のエージェンシーよりも重要になってしまっている。そしてこのプロセスは、生成AIが社会の中でより大きな位置を占めるにつれて、さらに顕著に、劇的に、そして深刻になっていくだろう。より多くのことを機械がこなすようになり、現実世界のエージェンシー、つまりモノをあちこちへ動かすという意味でのエージェンシーの多くを機械やAIが担うようになっても、人間はただ座って何もせずにいるわけではない。何かをしていると感じられることをやるのだ。実際にはそうでなくても。なぜなら、そうすることで自分がコントロールしていると感じられるからだ。世界に変化を起こしていると感じているほうが、心がざわつかずに済む。私たちは文化そのものを、自分にエージェンシーがあると感じさせてくれるもので身の回りを固めるように組み立てていくだろう。たとえそれらに対して何のエージェンシーも持っていないとしても。