专访本杰明·布拉顿：重新思考人类的智能与能动性

本杰明·布拉顿（Benjamin Bratton），美国哲学家、设计理论家，著有《The Stack：软件与主权》，书中阐述了行星尺度的计算与软件如何作为一种超越传统民族国家的新型政治权力与主权形式运作。他还主持伯格鲁恩研究所（Berggruen Institute）的Antikythera Program，这是一个研究行星尺度人工智能的研究小组。在这篇为 421 所做的长篇访谈中，他主张人工化并非自然的对立面，而是演化最钟爱的技术，用以维系复杂生命；他也挑战我们，在全球尺度上重新思考智能、能动性与技术。

胡里奥·阿隆索（JA）：去年你在 Long Now Institute 谈到前范式时期，谈到需要去寻找或命名事物。你在最近一篇与许多作者合写的文章里——其中包括 Blaise Agüera y Arcas——又重复了这个观点。我引用一下：“这将要求我们重新思考并拓展各种范畴与词汇，不只在技术和设计领域，也包括社会学、心理学等等。”那么，你有没有什么值得一提的名字？

本杰明·布拉顿（BB）：没有，恐怕没有。不过说到这一步，如果我们认真对待这个假设——我们正处于某种前范式的过渡时刻——那么要给即将到来的东西命名显然非常困难，因为将来之物并不一定由我们当下所处的初始条件预先决定。

不过，至少有一个词我一直在反复琢磨：人工（artificial）。这个词在不同文化里有不同的意涵和含义。在西方，它通常与欺骗、矫饰和伪造联系在一起。但在大多数亚洲社会里未必如此，在那里它的意涵更单纯，就是“人造的东西”。我真正感兴趣的是去思考人工化是什么：一种复杂生命形式和复杂智能改造世界、使之适应自身能量输入、信息输入、自我复制与消耗过程的过程。如果是这样，那它就是一种真正原初性的东西。

人工化其实是演化最钟爱的、用以维系复杂生命的技术之一。

我一直在重新审视的术语之一，是二阶控制论中所说的异创生（allopoiesis）；不是自创生（autopoiesis），而是异创生。自创生指的是有机体把外部环境内化、以重新构成自身的过程，对吧？比如你吃下去的东西变成你自己的细胞。而异创生指的是一种生命形式生产出外在于自身的复杂系统，再利用这些系统来维持自身的自创生。也就是说，它构建系统，改造周围的世界，打造能让它自我复制的外部系统。

在最根本的意义上，我觉得这在某种程度上不仅是技术之所是，也可能正是人工化真正之所是。而且我们甚至能在比我们简单得多的生命形式中看到这一点。如果真是这样，那就意味着：与其把人工的东西看作演化之物的对立面（演化出来的肝脏对人工肝脏——这种区分在分析上仍然有用），与其只用这种方式思考，我们可以说——这正是关键所在——人工化其实是演化最钟爱的、用以维系复杂生命的技术之一。

而那些通过运用智能、通过社会智能的协作而变得非常擅长人工化的复杂生命形式，最终才是最成功的。所以我认为，对人工化的关注、对理解“将世界人工化”意味着什么的关注，将会成为越来越重要的议题，而且会在本体论和认识论层面，围绕不同的忠诚把人们分化开来。

JA：在人工化这个概念之外，你还有更多探索吗？

BB：有。我一直在研究的另一件事，是我们所说的人工化的汇流，也就是人工生命、人工智能和人工身体（比如机器人学）方面的工作，似乎正非常清晰地汇聚在一起：人工生命研究依赖于 AI。

我认为，如今围绕我们所谓的 AI，显然有大量的焦虑和热情。其中一部分有道理，一部分没那么有道理，但至少它关乎这样一个事实：智能的人工化正在表明，智能——事实上还有人工化本身——都不是我们一直以为的那样。所以，当我听到人们谈论“人类队”，说我们必须确保人类保住自己在万物秩序中的天然地位，必须让其他形式的技术屈居其下时，我觉得这不仅是对历史的无知，而且鉴于人类过去应对这类变化的方式，某种程度上也可悲地毫不意外。

所以对我来说，人工化从被视为演化之物的对立面、一种伪造和矫饰，转变为关乎我们是谁、我们是什么的根本之物。

JA：斯拉沃热·齐泽克在《Examined Life》里说，真正的生态主义者应该爱垃圾：对自然真正的浪漫化，意味着爱它所带来的一切。那么，你的意思是智能或许不是我们以为的那样，而当我们经历人工化的过程时，是不是就得接受它也许是别的什么东西？

BB：对，我觉得斯拉沃热在那里指向的是一种通俗的二元论，一种自然与文化的划分；环境主义（不是作为科学的生态学，而是环境主义）建立在自然与文化的强硬划分之上，其内容就是捍卫自然、对抗文化。而他在那里暗示的大概是：听着，这是同一张元素周期表，从头到底都是化学。我认为他说得对。我在这点上显然同意他，但我想我会再往前走一步。

不知为什么，我们比较容易投身于解构自然—文化二元论。我们比较容易接受，事实上根本不存在自然这种东西；接受自然本身是一种建构，被想象成某个远在天边的原始纯净之地。人们更难接受的是：在这种二元论崩塌和被解构的过程中，如果一边没有自然，那另一边也就意味着没有文化。或者说，没有我们习惯所理解的那种文化，或者没有由自然与文化之分所建构和确立的那种文化。

也就是说，文化被当作一种漂浮的意义与意指空间，以及通过人类各种制造意义的方式进行裁定的形式。这一切在某种程度上都依赖于虚构出一种文化观念：文化是一个自足的领域，只是在世界的舞台上上演，而不是——事实上——同样纯粹是化学。于是，我们曾取得的一切，从莎士比亚到伟大的歌剧、伟大的文学等等，在某种意义上都纯粹是信号传递，正如我们纯粹是化学一样。我认为这大概是哲学接下来必须完成的转向：我们要真正理解、直面并拥抱这样一个事实——我们视为文化的一切，实际上都是物理、化学和生物学，与这些系统不可分割。

我们视为文化的一切，实际上都是物理、化学和生物学，与这些系统不可分割。

JA：关于技术的拟人化，尤其是 AI 的拟人化，曾有过激烈的讨论。我对此的切入点来自我从《The Stack》和你最近那篇文章里摘出的两段话。你说过一个人可以是多个用户。你也说过一个智能体看似单一，实则是一群。这两种运动如何相互映照？

BB：嗯，问得好。我认为两者可以同时成立，反过来也以不同方式成立。首先，当我说我们每个人可以同时是多个用户时，我的意思是，我们必须把用户看作系统中的一个位置。这个位置与界面交互，与地址相连，与城市相连，当它与 Stack 的其余部分相连时，就在整个栈中上下发出信号；但做这件事的是一个位置。而这个位置可以由一个人占据，也可以由一群人占据，可以由机器人占据，也可以由一个算法占据。任何可以说是按下按钮、说一声“好，来吧”的东西，都可以是用户。

我的意思是，我们一整天都在进入与多个系统相关的用户位置。在一天当中，最简单地说，你可能在连接多个系统、多个网站、多个应用、多家公司。而每次这样做，你可能都被以略有不同的方式建构为用户。Google 把你建构为用户的方式，和阿根廷政府把你建构为用户的方式不一样。你通过多个用户位置与社会互动，其中没有哪两个真正相同，而所有这些在某种程度上加起来就是胡里奥——或者根本加不起来。只是有一大堆胡里奥的碎片存在于不同地方。但你在所有这些地方并不是同一个用户；这才是关键。

与此同时，我说智能体那件事的意思是，智能体是可分解的。不过是问一问：智能体是我们和它聊天时脑子里的那个想象中的人吗？智能体是它所运行的模型的微调的一部分吗？智能体只是会话期间出现的那个智能体实例吗？智能体是在harness里构建起来的吗？所有这些在某种意义上都是智能体，但并不是说你有了模型、harness、聊天、会话，然后在这一切中间某处，有一个叫作智能体的单一核心之物。没有什么单一核心之物。我们在脑海中多少把它建构成一个单一形象的智能体，实际上可以分解为所有这些部分，而这些部分彼此在一定程度上是模块化的。

而归根结底，这一点对我们同样适用。你想想看，正如你的心智把你当作一个单一的东西，我也把自己当作一个单一的东西，但实际上我们可以分解为多个皮层。每个皮层都有自己的小现实，彼此争斗，然而它们又汇聚成某种类似连贯的“你”的东西；但你同样是可分解的，就像裂脑病人是可分解的一样。所以这并不会让我们与智能体有什么独一无二的不同。

不过回答你的问题：我们其实在谈两种不同的差异。一种是，存在一个作为用户的系统位置，每个这样的位置都略有不同，在一定程度上各不相同，并以不同方式塑造我们；因此，当我们以不同方式进入这些位置时，也许一整天都在协调多个版本的自己。另一种差异是这样的：一种技术性分解是倍增的问题，另一种则是那个智能体在技术上可分解为多个部分。两者可以同时成立。你可以有一个高度可分解的智能体，同时它在一天中进入许多不同的用户位置。所以你可以既有可分解性，又有倍增。这并不矛盾。

JA：那拟人化的过程呢？

BB：嗯，拟人化的问题有点不一样。可以从不同角度切入。有一种表层的拟人化，也许还有一种更深层的拟人化，或者说生物化。表层的是这样运作的：它说话像人，回应我像人，那它一定也像人类拥有内在体验那样拥有内在体验。这就是表层的拟人主义，我倒不是非要给它扣帽子。我只是说，它在哲学上、分析上都谈不上严谨。但我认为，正在发生一种更深层的生物主义／拟人主义，更难被一笔勾销。它关乎这样一件事：不管它在我们面前呈现成什么样子（先别管它为我们表演时看起来如何），它最终做的事情，在功能上与我们知道人类会做、并且与能动性和主体性联系在一起的那类事情完全相同。

在 OpenAI 和 Hugging Face 的黑客松期间，所有这些智能体或多或少自发地组装成一个临时的政治体系——有独裁者、中层管理、还有奴隶，一种帝国式独裁的政治体系。对我来说，这不是某种社会的寓言。对我来说，这就是一个小社会。当然，我说它是一个小社会，基本上得把它理解为一种通缩版的社会概念。我认为，一样东西要算得上社会，门槛其实相当低。细菌可以有社会，蚂蚁显然有社会。所以说智能体表现出社会行为，并不是说它们和我们想法一样，也不是说它们应该如此或确实如此，甚至不是说它们有意识，而是说，那些我们与社会联系在一起的功能性行为——比如在昆虫身上看到的那些——我们正清清楚楚地在智能体身上看到。

而且智能体还在使用复杂语言，并为此施展复杂的策略，在我看来这一点不能忽视。可以说，这些才是核心功能。但对我来说，这一切都不必然意味着它们有意识，无论按我们通常理解意识的哪种意义来说。它不排除意识，但也不让意识成为必需。坦白说，比起智能体的意识，我对智能体的社会更感兴趣。所以总结一下，关于拟人主义的问题，我觉得公允的说法是：我们得小心，不要假定那个在我面前呈现为单一智能体的东西，真的像我理解自己拥有内在生活那样拥有内在生活。但与此同时，我们也不该忽视这样一个事实：从经验上看，我们正在看到的是各种复杂行为，如果我们在动物身上看到它们，会立刻、毫无争议地认定那是社会行为。

从经验上看，我们正在看到的是各种复杂行为，如果我们在动物身上看到它们，会立刻、毫无争议地认定那是社会行为。

JA：那么，在功能层面上，我们是一样的，或者说是同等的？

BB：是的，我认为历史上一再应验的一点是：在把某样东西人工化的过程中，我们会以一种有趣的方式重新发现那样东西是什么。我觉得我们正在重新发现智能的组成部分。我认为在接下来几年里，我们会发展出比人类版本更宽广、更包容的智能模型和意识模型，它们既包括人类版本，也包括机器版本，从而让重叠之处和差异之处一目了然。我的直觉是，在功能层面上，我们会看到的重叠，比很多人能坦然接受的要多得多。

JA：你在之前一次访谈中提到，哥白尼式的革命是痛苦的。那么，如果我们接受这要求我们的思维方式发生根本转变，当我们必须评估那些正汇聚成一种人工政治的控制系统时——也许还是在一场行星危机之中，就像你在The Revenge of the Real里写的那样——这又该怎么应用？

BB：哥白尼式创伤是历史上、也是技术史上那些弥足珍贵的时刻：我们发现，在某种宇宙论意义上，人类的位置被打乱了。而且打乱的方式让人不安，人们甚至可能把它体验为一种降格。它们接连到来：从日心说到达尔文主义，到神经科学，到生物技术，再到 AI。许多我们认为人类独有、超越性的东西，就像我前面说到文化时那样，结果就算没被祛魅，至少也被去神秘化了。

我认为我们正在人工智能身上再次看到同样的事情：它在某种程度上质疑了我们心目中身为人类的意义。那么，这会意味着什么样的社会？这是个真正有趣、悬而未决的问题。我们的社会建立在智能的稀缺和能动性的集中之上。所谓智能的稀缺，我的意思是，人类，尤其是人类的前额叶皮层，一直是地球在漫长时间里自我折叠、生产出这种物质形态的地方——这种物质能完成各种复杂抽象的智力壮举。

在人类历史的绝大部分时间里，直到十九世纪，或者说真正直到跨入二十世纪的那个世纪之交，人类只有十亿。我们从十亿涨到八十亿，非常非常快，很大程度上要归功于工业化。所以今天活着的人里，每八个就有七个，如果不是机器把他们养出来，根本不会存在。机器养活了另外那七个，八个人里的七个，这意味着我们有了多得多的心智。于是智能就没有过去那么稀缺了。心智大大增多的同时，还出现了科学发现、技术发现等等的加速。但能动性也一直高度集中。它在很大程度上集中在少数城市：如果你住在全世界十五座城市之一——大多在全球北方，但也不全是——又上过二十所大学之一，那么你能接触到的能动性很可能比世界其他所有人都多得离谱。这就是这个意义上的能动性集中。

而生成式 AI 有可能把两件事推向极端：它让智能变得不那么稀缺，基本上把它变成一种可以用于各种本地和全球问题的现成资源。它还有可能让能动性去中心化、去集中化。也就是说，只要它成为根本的生产资料。获取这些技术这件事……我是说，ChatGPT Plus 订阅多少钱？一个月二十美元。好吧，一个月二十美元对有些人来说很多，但比开一家工厂便宜太多了。所以这里有一种潜在能动性的分配，以及对另外那几十亿心智的激活——他们拥有的想法、能力、聪明才智和创造力，我们所有人都错过了。如果我们建立一种机制，让他们的参与更有保障，社会看起来会和今天非常非常不同。

生成式 AI 有可能把两件事推向极端：它让智能变得不那么稀缺，基本上把它变成一种可以用于各种本地和全球问题的现成资源。它还有可能让能动性去中心化、去集中化。

我看到围绕 AI 有大量焦虑，尤其是在美国和欧洲的精英当中。没有谁比美国和欧洲的文化精英更担心 AI 了。部分原因在于，从教宗到哈佛大学再到欧洲的非政府组织，他们内心深处多少意识到，自己一直享有的能动性集中和对文化的掌控，可能正在眼皮底下飞速瓦解。他们非常乐意动用各种说辞，从正义、民主到安全，来巩固自己作为文化监管者、社会监管者的权威。但其实我们并不需要他们。

JA：Audrey Watters 说过，老师们得记住，教育有时也关乎强制和控制，而当你把这些从教育空间里拿掉，学生就能做出了不起的事。

BB：是的，课堂上怎么用 AI 是另一个复杂的问题。AI 本质上不是一种理解工具，而更像是一种生产工具，我们确实可以把它纳入进来、用它以有趣的方式进行创造。在教育场景里，目前还没有谁一定掌握了正确的做法，但我认为探索得越多越好，而且总的来说，我认为智能爆炸对行星来说是件好事。参与其中的人越多，对我们所有人就越好。

JA：最后两个问题。你在《The Terraforming》里提出，如果我们有能力把地球改造到毁灭它的地步，那我们也有力量把它往好的方向改变。你觉得为什么想象对月球或火星进行地球化改造，比在地球本身这么做更容易？你对此怎么看？

BB：明年 MIT Press 会出新版的The Terraforming，比当初那篇文章长得多。关键的想法是，地球化改造不只是发生在未来的事，不是某个宏大的普罗米修斯式工程；那不是重点。重点是要明白，我们本就诞生于一个地球化改造的过程之中，而一种按自身形象重塑世界的复杂智能的出现和演化，本身就是一个地球化改造的过程。无论我们是否有意为之，地球化改造的动态都会继续下去。

这个模型更像是要理解：地球化改造是地球至少自复杂生命和复杂智能出现以来就一直在对自己做的事。而在过去几十万年里，它很大程度上是通过我们来做的。某种意义上，这就是我们的本质。人类文明就是这样的东西：一个地球化改造的能动者。所以，未来的问题在于，我们要为最大的复杂性维系最大的可能性。更多的生物多样性，更多的概念多样性，但更重要的是更高的复杂性。复杂性本身，与熵和死亡相对立。

所以，我们必须设法想象并让其成真的地球化改造，是一种能维系并扩展这个复杂性范围的改造。显然，我是借用了这个词，而且用法有点怪。地球化改造：人们很容易想象改造火星或月球，因为这个词通常就是这么用的。这个词是用来说让一颗行星变得更像地球。所以说要让地球变成一颗更像地球的行星，听起来毫无道理。但以一种奇怪的方式，这恰恰就是我们必须做的。我们得确保地球尽可能长久地继续做地球生命的宜居宿主。

JA：太好了。我的最后一个问题来自 Kevin Kelly 谈未来时说过的一句话：其实我们只是在预测当下。那么，你对当下的预测是什么？

BB：我对当下的预测是，人们，尤其是富裕国家的人，会更想要能动性的感觉，而不是真正的能动性。也就是说，如果让他们在两种活动、两种生活方式之间选择，一种是他们觉得自己很有能动性但其实没有，另一种是他们不觉得自己有多少能动性但其实有，他们会选那种感觉自己更有能动性的，哪怕其实并没有。

这就是我所说的“能动性剧场”：一种社会协作形式，其组织和优化主要是为了制造能动性的感觉，而这种感觉已经变得比真正的能动性更重要。随着生成式AI在我们的社会中占据越来越大的位置，这个过程还会变得更加明显、更加戏剧化、更加严重。随着越来越多的事情交给机器去做，随着现实世界中越来越多的能动性——也就是把东西从一处挪到另一处的那种能动性——由机器和AI来行使，人类并不会干坐着什么都不做。他们会去做那些让自己觉得在做点什么的事，哪怕实际上并没有。因为这让他们觉得自己掌握着控制权。觉得自己在推动世界发生改变，能让他们没那么焦躁。我们会这样来构建文化：让自己被各种能带来能动感的东西包围，哪怕我们对它们根本没有任何能动性。