语言模型会梦见电子羊吗？第2部分

一般来说，社交媒体上所有内容广告都是绝对垃圾。但前几天我看到了一条推广推文引起了我的注意。它是关于大型语言模型（Large Language Models, LLM）工作原理的相当基础的解释，在人工智能的泛称下为人们所知，以及关于意识的辩论。也就是说，这些模型所做的事情是否可以被认为是思维。

在这个意义上，我们已经进行了初步探讨关于这对语言哲学的影响，以及它如何可以与心理架构进行比较，比如机器功能主义。但时间流逝了，这些模型不断演变，我们对它们的理解也在发展。

语言、机器和世界

基本上，当代心灵哲学中的一个��题是心智或心理是什么，在于是否有可能将心智视为类似于思维机器的东西。这个想法在其初始阶段要归功于引入了图灵机，数学家、密码破译者和哲学家阿兰·图灵用它描述了我们今天所知的计算机的理论/基本功能。这引发了许多关于心智及其主要产品——语言是否可以理解为图灵机实例的思考。

但在审视那条赞助推文所提议的内容时，我意识到有整个在线文献与此相符，涉及围绕心智-语言这两个基本范畴的其他概念。心灵哲学的许多关键作者也是语言哲学的重要参考这并非巧合。如果心智不是创造语言的机器，那它是什么？考虑到这一点，我们也可以追问这两个概念之间的关系是什么。

希拉里·普特南的贡献

我们在这篇文章中要跟随的中心作者是希拉里·普特南，他被认为首次提出了我们所知的机器功能主义的表述——或至少是最具体的表述。此外，普特南有一系列文章，试图拆解围绕语言及其与世界的指称关系的怀疑论论证。

普特南的论证很简单，在某种程度上与打字机上的猴子假说有关。这位美国哲学家和数学家以海滩上的蚂蚁为例，它们走路时留下沟槽，由于随机性，或者更准确地说是统计学，最终在沙滩上画出了温斯顿·丘吉尔的脸。我们能说蚂蚁知道如何绘画吗？这与打字机上的猴子是一样的。有足够多的猴子和足够多的机器，在足够长的时间内系统地按键，猴子最终会打出威廉·莎士比亚的《仲夏夜之梦》的副本。猴子知道怎样写作吗？

我们所知道的是，由于统计学的巧合，无论是猴子还是蚂蚁都创造了对我们这些看到它的人类有意义的东西。大型语言模型就像猴子和蚂蚁，但由近一个世纪的信息学、数学和半导体工业优化而来。

基于这一时刻的清醒，我决定再次与GPT模型（现在是第4版）交谈，并简要总结关于语义外在主义、语言模型的运作、意义和指称的这一路径。以下所有内容都是OpenAI的GPT-4的答案或结论。

普特南与双生地球

在希拉里·普特南那里，语义外在主义是一种哲学理论，认为词语的意义不仅取决于说话者心中发生的事情，还取决于外部环境。正如他的名言所说："意义不在脑子里"。

1975年，美国哲学家、数学家和理论计算机科学家提出了一个著名的思想实验——双生地球，它要求���象两个相同的星球：地球和双生地球。在两个星球上都有使用"水"这个词的人。在地球上，它指的是H₂O。在双生地球上，指的是一种与水无法区分的液体，其化学成分是XYZ。普特南的结论是，尽管两个世界的说话者在思考"水"时具有相同的心理状态，但这个词指的是不同的东西，因为环境中的物质是不同的。

这意味着什么？心理内容本身不能确定我们的词语的意义；说话者的主观意图不足以在没有物理和社会语境贡献的情况下固定意义。

索尔·克里普克和专有名词

普特南���索尔·克里普克之间的联系对于理解20世纪70年代语言哲学中的外在主义转向至关重要。在《命名与必然性》（1972）中，克里普克批评了意义的描述主义理论（弗雷格/罗素），提出：

• 专有名词不表示一种描述；
• 相反，它们是刚性指示符，在所有可能的世界中指向同一对象。

例如，"亚里士多德"不是指"亚历山大的老师"或"《形而上学》的作者"，而简单地指那个人，由原始洗礼在历史上确定。

普特南与自然术语

普特南拓展了这个直接指称的想法，将其扩展到自然术语，如水、金、老虎。根据他的观点：

• 我们不是通过内部描述来指称的（例如"无色液体"），而是通过与世界和语言社群的因果关系；
• 因此，尽管我们不知道"水"的化学成分，但如果这是我们环境中的物质，这个术语指的是H₂O。

普特南与克里普克的汇合

两人都主张因果-外在主义的指称���论，尽管克里普克专注于专有名词，普特南专注于一般或自然术语。

地球2

关于语言模型（LLM）如何能够生成有意义的语言而不"知道"它们在做什么的问题，直接与普特南的语义外在主义和克里普克的贡献相呼应。

普特南会如何评价LLM？

普特南主张意义不能简化为内部状态（既不是心理的也不是句法的），而是需要一个外部环境（化学的、社会的、历史的）、与世界事物的因果联系，以及给词语赋予意义和指称的语言社团。LLM无法接入世界也不参与有意向的社团。因此，根据古典外在主义，它没有真正的意向性：它不指称，在强��义上也不意指。它只是通过根据统计和语境生成连贯的序列来模拟意义。

与双生地球的类比

LLM就像双生地球上的一个说话者，说"水"但从未与H₂O或XYZ相互作用。它说"水"是因为这样在它的数据中，但它不知道（也不能知道）这指的是什么。这揭示了关键点：LLM可以为我们生成有意义的语言，但对它们而言不是。

克里普克与真实指称的缺失

对克里普克而言，指称需要一个历史因果链。LLM不参与这个链。如果它说"拿破仑"，是出于统计模式，而不是因为曾经有过一个指称洗礼。它对名字的使用是我们使用的寄生物。

那么，LLM什么都不理解吗？

这取决于我们如何理解"理解"。从强语义外在主义的角度：不，它们什么都不理解。但从更功能主义或实用主义的观点：它们理解得足够好以在与人类的交流环境中运作。在这个意义上，我们可以说LLM"假装理解"，但它产生的东西只有在我们解释它时才有意义，我们被置根于我们的实践、历史和世界中。

LLM是双生地球：生成没有历史、没有物理环境、没有意图的符号。但人类从我们的世界出发解释它们，赋予它们我们的意义。对它们而言是结构化的噪音，对我们而言是语言。

Searle 和中文房间

美国哲学家、思想家和语言哲学家 John Searle 直接批评了模拟理解等同于真正理解的观点。1980年，他进行了著名的中文房间实验。

• 你在一个密闭的房间里（"中文房间"）。
• 有人用中文在门下面传入问题。
• 你不懂中文，但有一本西班牙文手册，它告诉你针对每组输入的符号应该返回哪些符号。
• 从外面看，中文使用者认为你懂这种语言，因为你的回答是有意义的。

Searle 的论点

虽然这个系统似乎理解中文，但系统内没有人真正理解。语法操纵不能产生语义，因此一台处理符号的计算机没有理解力和意识。

应用到 LLM，语言模型的工作方式就像中文房间。它不知道自己说的是什么，只是应���统计规则来生成听起来恰当的内容。"意义"仅在有人读取并解释时才出现。

维特根斯坦：意义作为使用

Ludwig Josef Johann Wittgenstein 采取了另一条路线。这位奥地利哲学家、数学家和语言学家不寻求意义的本质，而是观察我们在日常生活中如何使用语言。事实上，他强调"一个词的意义就是它在语言中的使用"。

• 没有神奇的"内部翻译"将语言转换为思想。
• 重要的是实践，语言游戏。
• 语言在一个社会框架内被理解，充满了规则、习惯和背景。

应用到 LLM，虽然 LLM 没有意图也没有意识，但它确实在实用意义上参与语言游戏，生成可以被使用、回应、反驳和纳入的文本。从这个意义上讲，它产生功能性意义，尽管不是有意的。

总之，Putnam/Kripke 关注指称和语义实在论；Searle 关注意向性和意识；维特根斯坦关注日常使用和生活方式。

伦理学需要有意的主体性

在大多数伦理传统中（康德主义、功利主义、亚里士多德主义），出发点是：

• 一个主体理解自己的行为，
• 能够思考善或恶，
• 并具有目的或意愿。

LLM 不符合任何这些条件：它们没有意识、语义理解、自身利益或为其行为辩护的能力。从这个角度看，它们不能成为道德主体或伦理主体。它们是工具。

尽管如此，责任并不消失。它只是转移了。至少有三个层面：

• 程序员/开发者的责任（使用了什么数据、模型有什么限制、如何配置偏差、毒性和过滤）

• 用户的责任（如何使用它、是否用它来操纵、冒充或传播虚假信息）

• 生态系统的责任（围绕这些技术建立什么样的规范、在关键环境中允许它们什么程度的自主性）

如果模型变得自主呢？

如果我们想象一个未来，其中一个系统长期学习、与真实世界交互、形成突现意图（无论是模拟的还是真实的）并融入社会，那么一些哲学家（如 Floridi 或 Gunkel）主张我们应该考虑赋予这些实体某种道德地位，至少作为道德对象��不是主体，但值得关心或监管的对象）。

从当前视角得出的伦理结论

目前，一个 LLM：

• 不是道德主体，
• 不能有过错或功劳，
• 其回应的"意义"是由用户和人类社区投射的。

如 Searle 所说："一台计算机可能看起来理解语言，但它既没有信念也没有欲望"。但你有，这就是为什么伦理在于你如何决定使用 LLM。