Philowashing：当哲学为硅谷背书

我们这些学哲学的人，早就习惯了被人问“学这个有什么用”。这个问题的语气可客气可不客气，但几乎总是预设了一个真实存在的难题：和医学、工程或法律不同，哲学家在教书和做研究之外还能占据什么位置，并不是一眼就能看出来的。正因如此，我们很容易把世界上几家最重要的科技公司里正在发生的事，解读成哲学这门学科的一次小小翻身：硅谷——几十年来把工程师和创业者塑造成我们这个时代近乎英雄人物的那个生态——似乎发现自己也需要哲学家。

阿曼达·阿斯克尔（Amanda Askell）在剑桥和纽约受过哲学训练，如今成了 Anthropic——Claude 背后的公司——最具知名度的面孔之一，她在那里研究应当引导其模型行为的性格与价值观。牛津哲学博士伊森·加布里埃尔（Iason Gabriel）多年来在 Google DeepMind 担任过多个与伦理、多元主义和治理相关的职位。这并非个例：随着人工智能不再是一项相对专门的技术，而开始介入从教育、工作到医疗、安全乃至人际关系等各个领域，一些不久前还像是大学研讨课专属的问题，突然有了意想不到的现实紧迫性。一个人工智能系统应当尊重哪些价值？当两条道德原则发生冲突时，它该如何行事？在一个对何为善、何为正义乃至何为真都没有共识的多元社会里，能否设计出一个与这种多元共处的模型？

硅谷——几十年来把工程师和创业者塑造成我们这个时代近乎英雄人物的那个生态——似乎发现自己也需要哲学家。

这些问题能走进人工智能实验室，原则上是件好事。同时，这似乎也不只是一种公关策略：阿斯克尔、加布里埃尔以及其他研究者（比如卢西亚诺·弗洛里迪，他在欧盟法院作出一项对谷歌不利的裁决后，曾为谷歌处理“被遗忘权”问题）产出的是哲学上相当精深的成果，面对的也是真实的问题，而人文训练在这些问题上能贡献的东西，是往团队里一个劲儿地塞工程师换不来的。不过，我们认为有理由追问的，与其说是这些哲学家给出的答案质量如何，不如说是他们在什么样的制度条件下提出问题。如果一家科技公司雇用哲学家，去思考一个它早已决定要打造的系统应当内置哪些价值，那么那个更在先、也可能更令人不安的问题——这个系统究竟该不该占据公司打算给它的那个位置——又该何去何从？

我们怀疑，眼前的情况比又一桩ethics washing（即为某种行为刷上一层伦理清漆的表面功夫）更为深刻：我们正在目睹的，是对我们这门学科的某种挪用，用来预先划定它可以介入的问题范围。我们提议把这种机制称为philowashing（叫“哲洗”听着实在别扭！），并且认为它有一个先例：当代“科技兄弟”对斯多葛主义的挪用。

从斯多葛主义到“兄弟斯多葛主义”

过去二十年里，马可·奥勒留、爱比克泰德和塞涅卡在创业者、投资人以及与科技文化相关的人物之间意外走红。蒂姆·费里斯推动斯多葛主义成为效率与个人成长圈子里的常见参照；瑞安·霍利迪围绕这一传统打造了一个极其成功的书籍、课程和讲座生态；马可·奥勒留的《沉思录》最终和领导力手册、growth hacking、绩效优化之类的书一起摆上了企业书架。这一现象颇为奇特，但未必就该受到指摘：有人为了寻找熬过职业危机的工具而读到爱比克泰德，并不会让这份阅读或他一路上发现的哲学因此失效。

关键在于这种挪用所做的筛选。古代斯多葛主义并不是一套提高效率的技巧合集，而是一种远为宏大的观念，关乎德性、义务、共同生活，以及取决于我们的事物与我们无法掌控的事物之间的关系。然而在被翻译进当代企业文化的过程中，这座哲学大厦的大部分被束之高阁，幸存下来的主要是那些能被改造成自我管理技巧的观念：忍受逆境、控制自己的反应、专注于自己能施加影响的事，以及面对无法改变的外部环境时培养韧性。

如果一家科技公司雇用哲学家，去思考一个它早已决定要打造的系统应当内置哪些价值，那么那个更在先、也可能更令人不安的问题又该何去何从？

这种结果有时被称为“兄弟斯多葛主义”，即broicism，这个词让我们得以辨认出一个重要的转变。如果一个工作环境要求人随叫随到、制造焦虑，或者让工作与休息之间的界线越来越模糊，那么经过改写的斯多葛式问题便不再指向这个环境如何组织，而是指向个人能否在其中如鱼得水。于是，哲学提供的是作用于主体的工具，而造成其不适的条件则始终不在讨论之列。

哲学家去硅谷打卡上班

阿曼达·阿斯克尔的例子尤其有助于理解这一转变。她在 Anthropic 的部分工作，是思考Claude应当如何表现：它的“性格”应该有哪些特质，应该表达哪些价值，面对道德上复杂的情境该如何反应，以及一个人工智能助手在多大程度上可以试图影响用户的信念或决定。Anthropic 的Constitutional AI项目把这种关切直接带进了训练架构本身：不只是逐条纠正不理想的回答，而是试图通过一套明确的原则来引导模型。

哲学在这些讨论中可以发挥重要作用。追问尊重用户的自主性意味着什么、如何避免家长主义、人工智能如何在互不相容的价值体系并存的语境中行事——这些并不是在技术流程末尾刷上的一层人文清漆，而是真正的规范性问题。伊森·加布里埃尔在 DeepMind 关于多元主义与对齐的工作也是如此。但无论是关于 Claude 性格的问题，还是关于大型语言模型应当内置哪些价值的讨论，都始于一个似乎无从置喙的先行决定：它关系到这个模型项目本身、它的规模、它的商业模式，以及它将如何在社会生活中占据某些位置。哲学反思是在问题的大部分制度架构已经定型之后才开始的。人们讨论系统应该如何表现，却未必讨论应该把哪类决定交给它、它应当对谁负责，或者是否存在某些领域，无论它表现多好都应当禁止使用它。

没有出错的算法

2019年7月底，吉列尔莫·费德里科·伊瓦罗拉在雷蒂罗车站被捕，原因是布宜诺斯艾利斯市政府使用的逃犯人脸识别系统把他识别为一名因在巴伊亚布兰卡犯下加重抢劫罪而被通缉的男子。他被关了六天，直到证实他与该案毫无关系，甚至从没去过那座城市。

这个案子本可以毫不费力地归入我们近年来积攒的那一大摞算法错误档案，只是有一个细节让它在哲学上更有意思：算法并没有出错。它没有把两张相似的脸搞混，也没有因为统计问题产生误报。逮捕令对应的是吉列尔莫·瓦尔特·伊瓦罗拉，但有人把吉列尔莫·费德里科的身份证号码关联到了这张逮捕令上。系统正确处理了它收到的信息，把正确的脸和错误的数据库进行比对，并以令人赞叹的效率找到了错误的人。不妨说，这是一次施加在错误数据上的外科手术级精准。

重要的是，人脸识别算法再怎么改进也解决不了这个问题。我们可以设想一个精确十倍、没有人口统计偏差、接受了最好审计的系统，吉列尔莫·费德里科·伊瓦罗拉照样会被抓。错误出在别处：出在喂给系统的数据里，出在生产这些数据的制度链条里，尤其出在技术建议在一个涉及警察、公务员和司法人员的流程中所占据的位置上。

而且，在那六天里，一直有人类参与决策。这一点很重要，因为面对自动化风险，最常见的回应之一恰恰是确保始终有一个human in the loop，一个握有最终决定权的人。伊瓦罗拉案说明了，为什么这个说法虽然合理，所能说明的却远比看上去要少。如果那个人得不到相关信息、没有足够时间审查、没有动力去推翻结果，或者干脆没有修改结果的权限，那么流程中某处仅仅有个人在场，并不能保证有效的监督。

如果那个人得不到相关信息，或者干脆没有修改结果的权限，那么流程中某处仅仅有个人在场，并不能保证有效的监督。

换句话说，“让人留在回路中”可以描述截然不同的制度安排。一位收到诊断建议、在查看检查结果后可以不予理会的医生，和一名每天必须处理数百条自动建议、每次偏离都得书面说明理由的员工，所处的位置并不相同。两种情况下形式上都存在人工监督；但只有在其中一种情况下，才能合理地说人的判断仍具有实质作用。因此，监督并不是最后加上去、用来弥补机器尚做不到之事的补救措施。它是某个人事先设定好的参数：审查者能获得多少信息、有多少时间、可以朝哪个方向偏离，以及偏离时要承担什么后果。

保留形式，丧失功能

西班牙的 VioGén 系统让我们可以从另一个角度观察这个问题。它用于评估性别暴力案件中的风险，所给出的风险等级会影响一名女性报案后能获得哪些保护措施。自动化评估并没有排除人的介入：警员可以修改系统建议的风险等级。然而，这种权限是有方向的：他们可以调高，却不能调低。

这里同样要抵制诱惑，不要把这种设计当作技术之恶的证据。在性别暴力的情境中采取预防性标准是有充分理由的，低估风险可能造成无法挽回的后果。也许我们要的正是这种不对称。但如果是这样，关键在于意识到：人与系统之间的权力分配并不是算法发现的，也不是从其统计精度中推导出来的——是有人决定了人类警员能做什么、工具能做什么，以及两者意见相左时应当朝哪个方向裁决。

这一点让我们能够更精确地提出一个在当代人工智能争论中常被遮蔽的问题。公共讨论被一个关于能力的问题所主导：我们想知道AI能做什么，它诊断是否比医生更准、编程是否比开发者更强、批改是否比老师更好，或者能否发现警察察觉不到的规律。这是一个正当的问题，但从它的答案里推不出我们应该允许它做什么。知道一个系统能以某种精度预测再犯率，并不能决定我们是否希望这种预测介入判决；证明一个模型识别疾病比医生更准，并不能决定它对治疗应当拥有何种权威；确认人工智能批改试卷比教师出错更少，也解决不了我们是否愿意围绕这种评估来组织教育。

总有人决定了人类行动者可以做什么、工具可以做什么，以及两者出现分歧时应朝哪个方向裁决。

说到底，关键在于区分两个经常被混为一谈的问题。一个关乎系统的行为：它该回答什么、该拒绝什么、该尊重哪些价值、完成任务的精度如何。另一个关乎它的制度位置：我们把哪些决定交给它、哪些留在自己手里、谁可以偏离它的结果、在什么条件下可以偏离。第一个问题可以通过修改产品来回答。第二个问题则要求划定该产品能够运作的边界，有时甚至要认定某种应用即便技术上做得出来，也不应该存在。

一种无可挑剔的哲学

现在我们可以回到硅谷的哲学家们，更清楚地看出philowashing可能藏在哪里。问题不在于Askell、Gabriel或其他研究者必然在做糟糕的哲学，也不在于他们被迫得出有利于雇主的结论。事实上，如果这个机制要靠哲学家说出自己都认为是假的话才能运转，那它就远没有这么耐人寻味了。这种正当化方式的独特之处在于：即便所有参与者都以严谨和理智上的诚实在工作，它照样可以奏效。

原因在于制度。“模型应当如何行为”这个问题，几乎可以与公司早已做出的任何决定相容：在哪里部署、卖给哪些客户、取代哪些人类工作。你完全可以投入巨大精力，让一个聊天机器人尊重人的自主性、对不同的道德观念保持多元、对弱势用户小心谨慎，却丝毫不必因此去审视那些为它生产数据的人的劳动条件、训练它所需基础设施的物质影响、它的普及所造成的权力集中，或某些客户可能拿这项技术去做什么。

此外，关于系统行为的哲学工作还有一个格外方便的特性：它能改进产品。一个更少种族歧视、更少操纵、更审慎、更会解释的模型，也是一个更容易部署和销售的产品。这本身无可指摘，正如造一辆更安全的汽车无可指摘。困难出现在这一系列改进被当作证据，用来表明相关的规范性问题都已经被提出过了，而实际上被回答的只是其中特定的一类。

这就是philowashing登场的地方：它主要不是靠审查令人不快的结论来运作——那种策略太显眼、也太笨拙——而是靠对问题进行制度性的分配。内部设计的问题有预算、有团队、有职业前途。制度边界的问题则处境艰难得多：企业通常不会提出它，因为它可能限制产品的市场；监管者往往在技术已经铺开之后才姗姗来迟；而学术界——仍保有不计盈利、独立提出这一问题的空间——却吊诡地被描绘成哲学家们终于得以逃离的地方。

这是它与其他形式的声誉漂白的一个重要区别。greenwashing（漂绿）在企业营造出一种与其实际做法不符的环保承诺表象时奏效；ethics washing（伦理漂白）则在伦理词汇提供了正当性、却没有实质改变权力分配时奏效。而我们这里所理解的philowashing可能更难识别，因为它不需要制造虚假的表象。它可以资助真正的哲学，取得有思想价值的成果，甚至以积极的方式改进某些产品。它的正当化效果源自更基本的东西：把哲学空间的一部分变成整体的代表，让某些问题显得就是关于这项技术的那些重要问题。

这种偏移与其说靠伪造，不如说靠框定：哲学中可辨认的一部分被保留下来，而让其中某些问题可能在政治上令人不适的那个语境却消失了。

在这个意义上，当代对哲学的挪用与前面提到的broicism有着相同的结构。问题不在于高管们把马可·奥勒留的每句话都读错了，而在于某种特定的挑选，把一门关于美好生活和与他人关系的哲学，变成了一种个人技术，用来更好地忍受一个始终不容讨论的环境。两种情况下，偏移都与其说靠伪造，不如说靠框定：哲学中可辨认的一部分被保留下来，而让其中某些问题可能在政治上令人不适的那个语境却消失了。

无人认领的问题

这很重要，因为关于人工智能制度位置的决定，并不发生在某个通用人工智能觉醒、决定如何处置我们的假想未来里。它们此刻就在发生，而且远没有那么惊心动魄：每当一个公共机构采购人脸识别系统、一家公司引入评估员工的工具、一家医院采用预测模型，或一所学校用算法筛查“高风险”学生时，它就在发生。正如Javier Pallero在421分析监控技术扩张时所指出的，重大的变革往往是一次招标接一次招标、一纸法令接一纸法令地推进的，借助的是那些看起来太小、似乎不值得就其内含的权力观展开讨论的局部决定。

关于人工智能的争论也有产生类似效果的风险。当我们还在争论大模型是否“理解”、通用人工智能何时到来、机器能否拥有意识时，大量没那么有电影感的决定正在悄无声息地重新分配权威。一条推荐、一个风险评分、一次警报、一份排序列表或一项自动分类，看似都是不起眼的工具，但每一样都确立了谁必须为什么提供理由、哪个结果充当默认选项，以及谁要为偏离它付出代价。

此外，委托出去的过程中还会丢失某种东西，它无法仅用效率或精度来表达。当一个影响某人的决定由另一个人做出时，至少在理想状态下，存在一种给出理由、索要理由的实践。这些理由可能很糟糕、很武断，甚至是假的，但它们可以被讨论、被质疑、被提交复核程序。算法系统则可以保留这种实践的外表，生成令人信服的解释，而这些解释并不真正描述导致结果的过程。于是，装点门面的解释保留了论证的形式，却削弱了它的功能，正如徒有其名的人工监督保留了控制的形式，却已经掏空了那个据称在监督的人的权威。

因此，光要求回路中始终有一个人是不够的。我们必须追问：哪个人、在哪个回路里、具体在做什么。光要求系统可解释也不够，因为一种解释只有在能让人理解、讨论并最终修改产生该决定的东西时，才具有政治意义。保留我们与自主、责任和控制相联系的制度形式相对容易；要保留这些形式本应履行的功能，就必须正视技术所造成的具体权力分配。

那么，哲学家到底有什么用？

也许最后得回到开头的问题。人工智能确实需要哲学，但这并不意味着所有吸纳哲学家的方式都是等价的，也不意味着设有伦理部门就证明一个机构愿意让自己的决定接受哲学审视。一个机构可以拥有出色的哲学家，同时却把其活动中一些最重要的前提排除在讨论之外。

所以，在我们看来最紧迫的哲学任务，并不是抛弃科技公司，也不是本能地怀疑在里面工作的人。我们需要能够从内部讨论这些系统该如何行为的人，正如我们需要独立研究者、监管者和公民社会组织，去提出任何公司都没有足够动力主动提出的问题。问题出在我们把第一类思考的存在，误当成了第二类思考的在场。

人工智能确实需要哲学，但这并不意味着所有吸纳哲学家的方式都是等价的。

此外，一种思考技术变革的哲学，还应当找回某种被人工智能宏大难题的魅力挤到一边的志趣。机器能否思考、理解或拥有意识，这些问题在哲学上固然迷人，但不该妨碍我们追问：它运转所依赖的数据由谁生产，自动化背后隐藏着哪些人类劳动，它消耗哪些资源，哪些机构在采购这些系统，哪些供应商借此占据了让人依赖的位置，以及受影响的人究竟有多少真正的可能去质疑其结果。关键是要记住，一项技术可以同时引出本体论、认识论、伦理和政治问题，而企业资助对其中每一种问题的分析，理由会截然不同。找回一种物质性的批判、让哲学思考重新政治化，这种必要性也是最初构想的一部分。

硅谷也许终于发现了哲学家有什么用。而该由我们来问的问题则有些不同：哲学为什么会想在那里工作。因为一门学科，其历史贯穿着审视问题前提这种相当讨人嫌的习惯，不该那么快就满足于在桌边谋得一席之地。有时，最重要的哲学任务恰恰在于追问：是谁决定了这张桌上可以讨论什么。