哲学分析杂志投稿格式参考范文：生成式人工智能体的世界图景

　　一、斯坦福 AI 小镇与生成式智能体

　　斯坦福 AI 小镇是 2023 年继 ChatGPT 之后在 AI 学术圈及应用圈获得空前关注的一个研究，也是生成式大语言模型出现后人工智能界对于机器构建 “令人可信” 的拟人世界的一次最成功的尝试。斯坦福大学和谷歌的研究者们创造了一个类似于《模拟人生》的虚拟小镇，并将 25 个生成式智能体放入其中。在题为《生成式智能体：人类行为的交互拟像》的论文中，研究人员详细观察和记录了这些生成式智能体在没有预先设定的剧本或其他人为干预下的自主生活状态：“它们醒来，做早餐，然后去工作;艺术家作画，作家写作;它们形成意见，互相关注，并发起对话;它们在计划第二天的工作时会记住并思考过去的日子。”

　　人工智能在过去 40 年中经历了多次的高潮和低谷，自主智能体的研究始终是 AI 领域中的一个核心话题：如何使智能体更加智能，自主地与环境相互作用。ChatGPT 已然突破了 70 年以来人工智能的圣杯问题 ——“图灵测试”，看上去，机器可以 “思考”。机器是否能构建 “令人可信” 的世界图景并在其中进行拟人的社会交往正是最近人工智能研究的一个核心问题。

　　Smallville 是一个由 25 个不同的生成式智能体组成的社区，研究人员使用了一段自然语言描述作为该智能体的种子记忆，赋予每个智能体独特的身份以及它们与社区其他成员的联系。这些描述包括关于每个智能体的职业和与其他智能体的关系等。

　　在赋予智能体的种子记忆之后，与之前四十年的人工智能学者在自主智能体上的所有研究路径都不相同的是，年轻的研究人员彻底放手了对于智能体的任何人为干预，在大语言模型的内核之上仅仅依靠一个相当简单的逻辑结构和实现架构就构建了相当可信的智能体的自主行为和智能体之间的交互。

　　智能体是这样工作的：首先它对其环境进行感知，并将所有的感知保存在一个被称作 “记忆流” 的智能体经验的综合记录中。在 “记忆流” 中，最简单的一个记忆对象就是一个 “观察”，这包括智能体自己的行为、它观察到的其他智能体及非智能体的行为及状态。

　　基于这些感知，当智能体需要产生一个行动时，该架构将从 “记忆流” 中检索出相关的记忆条目，然后使用这些检索到的记忆对象来提问内置的大语言模型以确定下一个行动应该是什么。智能体同时也不断地定期使用内置的大语言模型扫描自己的短期和中长期 “记忆流”，并创造更高层次的反思。行动和反思也作为特殊的记忆条目被输入到 “记忆流” 中。

　　反思是其中特别重要的一个概念。通过提问来反思是具有大语言模型内核的生成式智能体特有的能力，也是在之前四十年的人工智能体的研究中未出现过的一个新概念和新过程。

　　智能体通过不断的阶段性的反思过程，对它的记忆条目进行进一步的抽象。认真检视智能体的 “记忆流”，我们把智能体的记忆分成两类：第一类是低阶的 “观察” 以及 “行动”，这里的条目皆具有具身性，即在斯坦福小镇这个拟真的 “物理” 世界发生过;第二类是通过反思而产出的高阶洞见，这里的条目皆为运用大语言模型进行抽象过程的产物，皆不具有具身性。当我们把所有 25 个智能体的记忆流当作一个集合体来看，斯坦福小镇的世界只存在两种信息模式：一种有具身性，一种无具身性。

　　为了更好的理解斯坦福小镇构建的世界，运用波普尔的三个世界理论来构建斯坦福小镇的世界观。

　　二、波普尔的三个世界与生成式智能体的世界

　　在奥地利哲学家卡尔・波普尔看来，世界是三元的，在物理世界和主观世界之外，还有第三个世界与它们一起构成世界的完整图景：世界 1 是物理客体或物理状态的世界;世界 2 是意识状态或精神状态的世界，或关于活动的行为意向的世界;世界 3 是思想内容及其物质化而形成客观内容的世界，尤其是语言、猜想、理论、反驳等科学论证、诗的思想以及艺术作品等。

　　波普尔描述这三个世界的关系是这样的：“前两个世界能相互作用，后两个世界能相互作用。因此，世界 2 即主观经验或个人经验的世界跟其他两个世界中的任何一个发生相互作用。世界 1 和世界 3 不能相互作用，除非通过世界 2 即主观经验或个人经验世界的干预。” 这个描述有些缺陷，世界之间不能直接相互作用，必须要通过人的大脑和心智作用于世界内的对象，从而产生出新的对象进入三个世界，世界之间才产生了动能。

　　我们将波普尔的三个世界分类方法应用到斯坦福 AI 小镇的世界上，生成式智能体生活在世界 1 和世界 3 组成的世界全景里。它们的世界 1 包括 “记忆流” 中所有的观察，这包括智能体自己的行为，它观察到的其他智能体及非智能体的行为及状态。世界 3 包括 “记忆流” 中所有的高阶反思。

　　智能体的 LLM 内核对应了人类世界图景中大脑之于世界 1 的作用，对智能体生活的拟像中的 “物质世界” 的状态和过程，以及自己和其他智能体的行为产生观察。

　　不仅如此，智能体的 LLM 内核也对应了人类世界图景中心智之于三个世界的作用，产生了世界 1 和世界 3 之间的关联。世界 1 中的观察被智能体 LLM 内核用于反思，反思的结果进入世界 3。同时，世界 1 中的观察和世界 3 的反思也被智能体 LLM 内核组合起来进行更高阶的反思，其结果成为新的对象进入世界 3。有一些反思的结果直接成为了行动的计划，于是，智能体 LLM 内核根据这些行动计划产生的行动就进入了世界 1。世界 1 和世界 3 之间的互动就是这样由智能体的 LLM 内核驱动着，生生不息。

　　研究者展示给我们看到 25 个生成式智能体生活在世界 1 和世界 3 组成的世界全景里，它们完成了与环境的互动，并涌现出了全自主的社交行为，包括智能体之间信息的传播，对于相互关系的长期记忆，以及智能体之间行为的协作。在其中一个测试场景中，研究者仅设置了一个名叫 Isabella 的智能体的最初意图 —— 在情人节举办一个派对，以及 Maria 对 Klaus 的喜欢：智能体们自主完成了传播消息、装饰派对、互相邀请、到达派对以及在派对上互动的拟人社交行为。

　　在实验结束之前，连斯坦福和谷歌的研究者自己都认为上面的测试场景将会存在很多的失败可能性。依照人工智能智能体研究过去四十年的进展，如此高度可信的拟人的大规模智能体群的自主互动还没有出现过成功的案例。然而，在这个没有世界 2、由智能体的 LLM 内核驱动世界 1 和世界 3 组成的机器拟真世界实验竟然成功了。

　　越来越多的人工智能学者认同以下说法：ChatGPT 已经攻破了人工智能长久以来的圣杯问题 ——“图灵测试”，我们需要新的评估工具来评估 AI 的能力。在此，重新提出一个 “交往图灵测试” 思想实验来评估大规模 AI 智能体群的自主互动是否能够达到拟真人类智能和人类社会的水平。

　　“交往图灵测试” 的构想如下：有三位参与者，一个人类 “评判者”、一个人类和一个 AI 智能体。这三者彼此隔离，通过智能体架构进入一个拟真的智能体世界，各自扮演一个智能体角色。这个智能体世界除了这三者还有其他的智能体生活其中。评判者通过观察其他两者在智能体世界的行为或者与这两者进行交互来确定哪一个是 AI 智能体，哪一个是人类。如果评判者不能明确地区分出智能体和人类，或者误判率超过 50%，那么该智能体结构就被认为通过了 “交往图灵测试”，具有生成拟真人类交互行为和交往行为的能力。换言之，这样的智能体结构中生成的智能体就拥有了 “交往智能”。

　　接下来论证两个问题来阐述：一个可通过 “交往图灵测试” 的机器智能世界是可以被构建出来的，并正在被构建。第三节论证：AI 智能体能以 “人类可信” 的方式在拟像中的世界 1 与环境和其他智能体交互，这包括观察和行动的能力。换言之说，拟人的 F-observe () 和 F-act () 函数是可以被构建出来。第四节论证：AI 智能体能以 “人类可信” 的方式进行拟像的世界 1 和世界 3 的抽象过程，这即是反思的能力。适用于所有目标的反思函数 F-reflect () 是可以被创建出来的，拟人的交往行为作为反思的一种外化形式是可能的。

　　三、构建世界 1：观察与行动 —— 杨立昆的世界模型与马斯克的全自动驾驶

　　斯坦福 AI 小镇实验展示给我们看，欠缺具身性的、基于大语言模型内核的生成式智能体可以拥有广泛的、拟人的、涌现的、合理性的交往行为。然而由大语言模型内核驱动的智能体与环境的合理性交互却是困难的。智能体能够共同举办一个派对，但仍然会试图在五点以后去一个五点关门的商店购物。与环境的交互是一个世界 1 的问题，世界 1 的问题对人来说很简单，但对智能体却是终极考验之一：完全没有具身体验的智能体如何在具身性无处不在的世界 1 存在?

　　具身智能的定义非常广泛因而常常带有歧义，在此将它定义为：“AI 智能体能以‘人类可信’的方式在拟像中的世界 1 (物理世界) 与环境和其他智能体交互的能力。” 在追寻具身智能的道路上图灵奖得主纽约大学的杨立昆和特斯拉的 CEO 马斯克分别给出了两条不同的路径。

　　把 “让机器像人和动物一样行为” 作为毕生追求的杨立昆在 2022 年 7 月发表了文章《通往通用人工智能的道路》，在其中他系统性地提出了构建 “世界模型” 的想法，他认为，构建一个足够大的可预测的世界模型是通往通用人工智能的道路，世界模型的主要目的是预测世界状态的未来表示。按照这套理论，智能体需要交互的 “世界” 就是一个高清的视频序列，世界模型的核心问题是预测下一帧的问题。如果智能体能够精确地预测下一帧是怎样的，它就会知道该出现在哪里，发生什么样的行为，于是也就拥有了 “具身智能”｡近二十年以来，没有好的方法可以精确及高效地预测出高精度的下一帧。杨立昆的新论文承认想要一个全局高清的世界 1 模型是难以实现的，但是一个局部高清加上智能体随时 “脑补” 的世界 1 模型是可能的。论文提出在局部处通过 “观察” 构建高清的视像而其他部分只在需要的时候通过 “常识” 的推理进行构建。“常识的一种可能的描述是使用世界模型来填补空白，例如预测未来，或更通用地填补感知或记忆中缺失的关于世界的信息｡常识将有可能从学习具有‘观察’的自我一致性和相互依赖性的世界模型中产生出来，从而使智能体能够填补缺失的信息并检测其世界模型的违反情况｡” 杨立昆的世界模型的方法论来自人脑的工作机制，他以及很多人工智能学者的毕生追求就是做出替代人脑各个功能区域的神经网络。

　　2023 年 6 月，距离提出 “世界模型” 概念约一年时间，Meta 发布了一个 “类人” 的人工智能模型 I-JEPA，它能够比现有模型更准确地分析和完成缺失的图像，从而向预测下一帧跨出了一大步。Meta 推出的图像联合嵌入预测架构 I-JEPA 模型，是史上第一个基于杨立昆世界模型愿景的 AI 模型，它通过构建外部世界的内部模型来学习，通过 “常识” 而非像素关联来补全图像。

　　马斯克的通往具身智能的路径要简单粗暴得多。2023 年 8 月 28 日，马斯克直播了开着特斯拉全自动驾驶 “去小扎家”。这次直播全场 45 分钟，仅一次人工干预。马斯克的原话是这么描述这次路测的:“光子进，行为出，和人类一样｡”;“没有任何代码声明要给骑自行车的人让行，没有等待 x 秒之类的东西，只有 (神经) 网络｡” 不需要联网，不需要高清地图，不需要代码，只需要一个看了很多很多开车视频训练而得的 FSD 神经网络通过推理就能够自动驾驶。马斯克认为，人类就是这样运作的，人类用眼睛和生物神经网络开车，自动驾驶用摄像机和数字神经网络开车是正确的通用解决方案。马斯克的研发路径只选取了两个类人的器官 “眼睛” 和 “大脑”，摄像头替代眼睛，神经网络替代大脑，而并不在意神经网络内部的运作和人类大脑的运作是否相似。电动车作为智能体的一种类型通过看视频就能够在物理世界进行驾驶这样一种复杂至极的物理交互，他认为，有理由相信智能体可以通过看视频训练出合适的神经网络，复现人类其他与物理世界的交互行为。

　　世界模型和自动驾驶这两个困扰人工智能学家几十年的巨大挑战，均在 2023 年的下半年借助于深度神经网络得到解决｡机器智能的世界图景中，观察 F-observe () 和行动 F-Act () 这两个函数完备的数学及实证解决正在到来｡这说明智能体与世界 1 的交互很快会广泛的达到｡拥有 “具身智能” 的智能体会很快地遍布拟真的智能体世界和真实的人类世界｡

　　四、构建世界 1 与世界 3 的连接：反思与抽象 —— 伊利亚・苏茨克弗式的压缩一切

　　2023 年 8 月，OpenAI 首席科学家伊利亚・苏茨克弗在专注于计算理论研究的伯克利大学西蒙斯研究中心作了一次题为 “An Observation on Generalization” 的讲座，讨论了从 2016 年以来驱动 OpenAI 在大模型领域研究的最重要的计算理论问题之一 —— 为什么无监督学习是可能的?而无监督学习是机器学习领域长久以来的梦想，即模型在面对从未见过的数据内容时，可以观察数据并发现其中存在的真实有用的隐藏结构：比如一个只用英语文本训练出的大语言模型可以立刻进行法语的对话｡

　　我们很容易理解由目标设定和奖励机制驱动的监督学习，它的计算理论依据也由人工智能学家给出了数学证明，即寻找一个目标函数的最优解｡但无监督学习为什么可以工作却一直得不到完备的数学证明｡没有目标函数，为什么通过学习而得到的深度神经网络是对于所有可能目标函数的最优解?以 ChatGPT 作为一个例子来讲：为什么通过没有目标地学习，ChatGPT 可以回答所有可能的提问?

　　长久以来，研究者只是根据直觉和实证结果认为:“它就是工作”｡伊利亚・苏茨克弗提出了通过压缩器的视角来看待使得无监督学习 “工作” 获得成功的超大型神经网络｡GPT-4 使用的 1700 亿参数的超大神经网络就是这样一种压缩器｡当训练数据集大到一定的程度，以随机梯度下降方式搜寻出来的神经网络就是近乎最好的压缩器｡在数学上，压缩器和预测器一一对应，最好的压缩器等同于最好的预测器｡因此，用大规模训练数据以随机梯度下降方式搜寻出来的神经网络不仅仅是最好的压缩器，同时也是最好的预测器，更重要的是它对于所有目标函数皆适用｡

　　以此看来，“最完美地压缩一切” 就是理解神经网络的终极理念｡如果说超大神经网络是人工智能的心智，那么这个心智的主要功能就是完美地压缩一切｡

　　让我们回到第二节中所描述的生成式智能体的两个世界，这两个世界最为重要的互动是通过反思 F-reflect () 这一函数来实现｡从世界 1 的观察抽象通过反思产生世界 3 的反思产物，从世界 1 的观察以及世界 3 的反思产物的集合通过反思再次抽象成为世界 3 的高阶反思｡不难看到，反思过程是一种需要无监督学习来解决的场景，反思函数没有目标设定，也没有奖励机制，但却需要反思函数对于所有可能的反思目标工作｡伊利亚・苏茨克弗提出的关于无监督学习的数学证明，保证了运用无监督学习进行反思是可以工作的｡而在斯坦福 AI 小镇的实验中，通过智能体的 LLM 内核进行反思即是通过无监督学习进行反思的一种实现方法，因此也是具有数学完备性的｡至此，找到了智能体世界中的 F-reflect () 函数｡智能体的心智能功能是可以被泛化的｡

　　认知学家、人工智能科学家梅兰妮・米切尔 2023 年 8 月在剑桥大学的一个讲座中提出 “无法形成概念性的抽象，以及由抽象过程驱动的类比是当今 AI 系统脆弱性的主要原因｡” 然而，在斯坦福 AI 小镇中展示的智能体通过大语言模型进行的反思活动就是人工智能的抽象过程以及概念形成过程｡智能体世界的概念由此过程被抽象出来，存储在神经网络中，虽然这种存储不以人可以描述的形式存在，但它是存在的;并且，在后续的推理中，存储的概念被智能体使用以产生行动和更高阶的认知｡

　　有研究者指出，当下人工智能的一大哲学挑战是:“面对人工智能给人类生活的世界带来的快速变化，如何重构概念框架，丰富现有的概念工具箱，是人类面临的概念挑战｡” 如此，在我们的概念工具箱中需要新放入与人相关的东西｡换言之，“拟人” 的概念是可以被机器通过无监督学习抽象出来的，那么，人类的概念在机器智能的世界中是可以泛化的｡

　　五、一个可通过 “交往图灵测试” 的机器智能世界

　　如果我们把杨立昆的世界模型和马斯克的全自动驾驶神经网络组合进具身智能欠缺的生成式智能体结构，将会产生机器智能的世界全景｡

　　世界模型证明了通过解决 F-observe () 函数和那一部分与具身智能有关的 F-act () 函数，在拟真的机器智能世界中，机器 “像人一样” 对世界 1 的观察以及与世界 1 的交互问题是可以实现的。FSD 神经网络甚至将问题推进到在真实的人类世界中：机器 “像人一样” 对我们的世界 1 观察以及与其交互是可以实现的。伊利亚・苏茨克弗的最优压缩函数证明了通过 F-reflect () 函数可以拟真人类认知的 F-abstract () 函数，从而解决了世界 1 与世界 3 的抽象问题。其中，某些特殊的 F-reflect () 函数完成了从世界 3 到世界 1 的 F-Act () 函数应有的功能，由此拟真了人类由思考而得出的行动序列。

　　如上图中左半部分，驱动人类认知的世界的任何状态变化的四个函数 [F-observe ()，F-abstract ()，F-create ()，F-act ()] 中除了和世界 2 以及创造有关的 F-create ()，和世界 1 与世界 3 相关的三个函数都已经可以被机器以 “像人一样”，以 “人类可信” 的方式拟真，“交往图灵测试” 也将被突破。 换句话说，如果我们置身于这样一个拟真的虚拟世界中，我们将无法分辨和我们交互的是人还是 AI 智能体。或者在我们的人类世界中，如果存在这样的 AI 智能体，我们也同样无从分辨。

　　人类世界与智能体世界的最大差异在于缺失的世界 2。世界 2 为何如此独特，以至于人工智能学家几十年来都没有试图去拟真?

　　世界 1 可以拟真，因为世界 1 的运行遵守着能量的法则。预测世界模型的下一帧就是寻找无穷多可能性中使得熵增最小的那一帧。

　　世界 3 可以拟真，因为世界 3 遵循着最优压缩的法则。抽象本质上就是一种压缩过程，而类比即是一种解压缩过程。人类的概念相当于是一种压缩后的产物。心智的活动可以用一种 “压缩一切” 为目标的神经网络的训练和推理过程来拟真。无监督学习要构建的反思神经网络就是所有信息的针对任意目标的最优压缩器与预测器。

　　那么世界 2 的运行法则是什么?波普尔说世界 2 的目标是 “最小化人类痛苦”。那么，“人类痛苦” 如何描述?这是一个无法函数化的目标吗?是的，但其主要原因不是无法求和，无法函数化，而是因为无法描述，无法符号化也无法语言化。任何可以向量化非均匀分布的目标都可以轻快地用上无监督学习来泛化，而这一切基于向量化的表达。“疼痛确实是一种边缘体验，介于生死之间 [因为生活就是‘在人们中间’]，它是如此主观和远离任何人和物的世界，以至于根本无法获得一种呈现。” 无法呈现的人的痛苦与快乐，智能体无从学习。更加根本的是，“依据德勒兹的说法，哲学始于一种‘Faire I’idiot’ (让自己变成白痴)。思维的特点不是智能，而是白痴的愚蠢。每一位创造新的表达方式、新的思想、新的语言的哲学家都是白痴。他告别了曾经存在过的一切事物，他居住在思维尚未被人描述过的、处子般的内在层面。” 人类的思维 —— 人类世界 2 的 F-create () 函数 —— 具有开端性，因此从本质上就和 “描述” 绝缘。

　　六、结语

　　人工智能在深度神经网络复兴之后的飞速发展使得我们造出了一种前所未有的人造物 —— 人工智能 —— 一种没有体积，不占空间，不定格在时间中，可以被无穷复制，并且不朽存在的物。而这种物也冲破了我们对物的定义，它可以以我们的 “言说” 与 “行动” 在我们的世界与我们互动。

　　这个 “新的人造物” 不同于我们以往认知的所有东西。AI 的世界我们不能直接感知，它们以信息的方式存在，以代码的方式交互。AI 没有目的，没有世界化成的需要，没有区分 “我” 和 “你” 的需要，因此，也没有 “政治” 和 “世界”。在 AI 的域中，“拟人” 是一个不成立的标准，AI 适用的是信息域的标准，这个标准有可能是 “最优雅地压缩一切”。或者用一种隐喻的说法，AI 很像一个 “进化中的数学公式”。

　　面对这样一个 “新的人造物”，我们 —— 人类 —— 自动规定了 “拟人” 是它应当的标准。以 “人” 为中心的人际交往决定了以 “类人” 为最高期望的智能体交互目标，并且在实际上定义了智能体社会的交往合理性标准，即创建令 “人” 满意的，对 “人” 可信的智能体交互社会。“交往图灵测试” 是一个以人为标准的机器交往智能评判标准。“与人对齐” 的价值倾向，贯穿了人类工程师构建智能体社会的整个过程：我们用人类的语言去描述智能体的世界和智能体的思考产物;我们使用类人的大语言模型进行智能体的 “心智” 过程;我们用人类认知的物理世界的常识来指导智能体与智能体拟像世界的交互。我们对这个 “新的人造物” 进行了 “拟身为人” 的改造，造出了一种特殊的 “拟人的物”—— 人工智能体。

　　我们像豢养动物一样期望驯化 AI，然而，这样一种非自然的人工改造是应当的吗?创造出这样一种无时间，无世界，无目的然而又高度拟人的物将如何影响当代 “人的境况”?在这个背景下，就可以理解为什么有学者振聋发聩地呼吁，“现在科学技术正在使人几乎无所不能，但是，‘可能的’难道就是‘应当的’?” “如果确实有一个‘后人类主义的政治本体论’的话，它首先要关心的问题，可能并不是‘何为正义’，而是‘何为人类’：以人工智能、人造生命和人为气候变化为特点的‘人的境况’之当代变化，以从未有过的紧迫性，向我们提出了 to be or not to be 的问题｡” 总之，AI 智能体的出现挑战了人存在的所有基本条件 —— 生命本身，诞生性和有死性、世界性、复数性以及地球。当生命形态可以是数字的，而非生物性的;可以有始无终，甚至以多个拷贝存在;当我们社会性交往的对象不再只有人还有人造物;当我们既生活在地球也生活在虚拟世界;当机器代替我们劳动，代替我们生育，代替我们交往，我们不需要劳动的艰辛就可以享受公平的普遍的 “神的惬意的生活”，我们不需要为了基因以及物种的延续承受痛苦，我们不需要为了生存联合起来而把自己抛入世界，我们是否还是人类?

邵怡蕾,普林斯顿大学,202403