安能辨我是人机

在我的记忆里，“人机”最早是游戏里的词。它指由电脑控制、代替真人参与游戏的对手或者玩家。路线固定，反应机械，有时还会笨拙地卡在一个地方，所以通常不难认出来。后来这个词离开游戏，也被用来形容一个人说话像脚本，似乎并不真正理解眼前发生了什么。

这一轮 AI 浪潮以后，事情有些颠倒了。代码、文字、广告图像，以及许多过去需要人完成的东西，现在都可以由 AI 大量生成。它还没有简单替代这些完整的工作，¹但只看最后的成品，有时已经很难判断出自人还是模型。有些输出比人工更快、更整齐，也更像我们期待中的“专业作品”。仍然一行一行写代码、一笔一笔修改的人，有时反而被戏称为“古法工作”。

做得慢当然不等于更像机器。更值得留意的是，机器表现出的速度、稳定和表面的光滑，正在变成衡量人的标准。人被要求更快响应、更少出错、随时可以调用，仿佛身体不需要休息，生活也不该打断工作。机器开始模仿人的表现，同时人被要求适应机器的节奏。

来吧，无奖竞猜一下：安能辨我是人机——究竟是人，还是机？

只看一段对话或者一份成品，这个问题有时确实不好回答。但一份无法辨认作者的输出，最多只能说明机器已经很会模仿人的表现。它怎样理解自己的产出，有没有一段由自己感受和经历的生活，仍然是另外的问题。

人当然知道自己不是机器。更难回答的是：当目标、节奏和评价越来越多地由外部规定，这个区别在生活里，还剩下多少能够被人感受到的东西？

模仿游戏

1950 年，图灵在《Computing Machinery and Intelligence》开头问：“机器能思考吗？”但他没有继续追问一个足够周全的“思考”定义，而是把问题改成了一场游戏。²

最初的模仿游戏由一个男人、一个女人和一个询问者参加。询问者看不见另外两个人，只能通过文字提问，再判断谁是男人、谁是女人。其中一人帮助他，另一人设法误导他。图灵接着问：如果让机器替换其中一人，询问者的判断会发生什么？

在这里，声音、外貌和身体都被挡在屏幕之外。机器不必证明自己的内部活动和人脑相同，只要在交谈中让人无法稳定分辨。图灵还预测，到 2000 年左右，经过五分钟询问，普通询问者正确识别机器的概率不会超过 70%。后来有人把这组数字当成图灵测试的及格线，其实它只是图灵对未来计算机表现的一项预测，也没有回答机器是否拥有意识。³

七十多年以后，这个预测已经不再遥远。2026 年正式发表在 PNAS 的实验中，询问者同时与一名真人和一个大模型交谈五分钟，再判断谁是人。得到拟人角色提示以后，GPT-4.5 有 73% 的时候被选为真人，Llama 3.1 405B 则有 56%。正式论文又把交谈延长到十五分钟：由于 GPT-4.5 已经停止提供，研究者改用 GPT-5；它和 Llama 被选为真人的比例分别是 59% 和 56%，ELIZA 只有 17%。⁴

这些结果依赖明确的条件。模型被要求扮演一个具有具体性格和背景的人；去掉角色提示以后，同样的模型表现会差很多。十五分钟也远不是一段共同生活。可是在这样一场有限的文字交谈里，询问者确实已经不能稳定地把机器认出来。

比某个模型终于“及格”更值得追问的，是人们究竟凭什么作出判断。另一项研究发现，询问者更在意语言风格、交谈是否自然，以及对方有没有表现出情绪和性格，而不是它展示了多高的推理水平。一个错别字，一次不那么流畅的回答，有时反而更像是一个具体的人留下的痕迹。⁵

这样看来，图灵测试测到的并不只是通常所说的智能。它还碰到了另一个问题：我们平常是怎样认出一个人的？我们无法打开他的内心看一眼，只能从语气、迟疑、玩笑和反应中，相信这些表现背后有一个正在生活的人。

现在，模型也能生成这些线索。它会解释、安慰和开玩笑，也能表现出犹豫和感情。这些表现仍然不能说明机器怎样理解自己说出的话，是否真的感到痛苦、愉快或者在乎什么；它们只是使语言不再足以划出一条牢固的人机界线。问题于是退回到生活本身：机器可以表现得像人，人的生活是否也在被安排得越来越像机器？

被安排的生命

语言这条界线松动以后，问题便落到生活怎样被组织。最近读《食物与厨艺》，书里讲到工业化养殖中的产蛋鸡和奶牛。产蛋鸡的活动可能被限制在很小的笼位里；奶牛的受孕、分娩、泌乳和停奶，则被接进连续的生产周期。⁶鸡留下的是蛋，牛留下的是奶。至于这条生命还能够怎样活动、感受什么，并不在生产需要回答的问题里。

人的劳动不能同养殖场里的动物直接等同。痛苦的程度、强制的方式，以及离开的可能，都不一样。这个类比能够成立的地方，只是一种组织生命的方式：先规定需要的产出，再让时间、身体和活动范围围绕它运转。

流水线把这种安排呈现得最直接。我曾经在那里做过几天。东西不断来到眼前，眼睛和手重复同一个动作，身体只能跟上传送带。那时并不是机器在模仿人，而是人在补上机器还不能完成的那一小段。

换到更依赖知识和创造的工作以后，工具和任务都变了，身体也不再固定在传送带旁边，流水线的结构却没有彻底消失。目标已经给定，进度被拆开、追踪，人的能力被切成岗位可以调用的部分。创造仍然存在，只是大多只能发生在别人已经决定好的方向里。

这不是每一份工作的全部面貌。劳动也可能带来技艺、关系和意义；行业、职位、管理方式和遇到的人，都会让结果不同。但有一种关系仍然反复出现：人的能力正在被使用，能力的目的、节奏和成果却不一定由他决定。劳动占据生命的时间，劳动者能够支配的部分并不相称。

《1844 年经济学哲学手稿》给这种关系留下了一种更准确、也更沉重的说法：⁷

因此，结果是，人（工人）只有在运用自己的动物机能——吃、喝、生殖，至多还有居住、修饰等等——的时候，才觉得自己在自由活动，而在运用人的机能时，却觉得自己只不过是动物。动物的东西成为人的东西，而人的东西成为动物的东西。

马克思紧接着说，吃、喝和生殖当然也是人的机能。他反对的不是这些活动，而是人的生命被压缩到只剩下维持生存：工作成了换取生活资料的手段，人反而只有离开工作时才觉得属于自己。原本可能放进劳动里的目的、创造和同他人的联系，也随之变得疏远。⁸

用“人越来越不像人”来概括这种变化，仍然太快。它仿佛预设了一套固定的人性标准，可以判断谁的生活更像人。实际发生的变化要具体得多：长久服从现成的目标，创造力会变弱；注意力不断被占用，感受会变钝；人与人的相遇，也可能慢慢缩成职位、流程和交换。

这些能力不会因为受到压抑就彻底消失，人也不会因此变成某种较低等的人。变化发生在它们能够展开的空间里：生活留给创造、感受、爱和人与人联系的位置，确实可能越来越少。生物学上的区别还在，人能够从生活中感到的区别却在变薄。

热情怎样变成麻木

这种变化最接近的名字，也许是对生活的热情逐渐变成麻木。热情并不总是突然熄灭。它可能一直还在，只是一次次撞到现实上。人没有被这场冲突击倒，生活照常继续，代价却可能是慢慢感觉不到冲突了。

工作拿走的也不只是钟表上的时间。一天里，大部分注意力用来理解外部目标、回应要求、跟上进度；剩下的时间还要让身体恢复过来，把生活中不能不做的事情处理完。一个人可以越来越擅长回答别人提出的问题，同时越来越难听见自己的问题。久而久之，即使偶尔空出时间，也未必立刻能够回到自己的欲望和感受。

这里有一种无法绕开的反驳：把这些变化归因于环境，会不会只是免除了个人对自己的责任？这种说法容易引起抵触，因为它很接近一套过于熟悉的归责方式——压力说明抗压能力不够，疲惫说明不会管理时间，无法适应最终还是个人的问题。环境只负责提出要求，所有后果都由个人回去解决。

抵触并不能证明反驳是错的。具体到自己，很难断言这些变化有多少来自工作。年龄、性格、身体状态和其他经历都可能参与其中；换一份工作也可能真的改善生活。原因复杂，却不能由此假装工作没有留下影响。个人仍然能够行动，也不意味着他应该独自承担一种自己无权决定目标、节奏和评价方式的生活。

知道原因也不等于可以立刻离开。收入、已经积累的能力、重新开始的成本，都让“换一种生活”比说起来困难。很多时候，维持现在的生活已经耗掉了足够多的力气，连设想另一种可能都需要额外的精神。

AI 不会自动解开这个结。机器学习怎样模仿人的表现，人却可能在工作中进一步学习机器的节奏。它可以减少重复劳动，也可以让速度和产量的基线继续升高。机器先生成，人再检查、修正并承担后果；工作看起来更高级，省下来的时间却未必回到人的生活里，而可能只是变成更多工作。

这不是技术注定带来的结果。技术能做什么是一部分，它进入了怎样的组织、替谁节省时间、由谁决定新的工作量，是另一部分。更不显眼的结局是：生活仍然运行得很好，任务也照常完成，只有对生活的热情越来越少参与其中。痛苦至少还能提醒人，自己正在同现实冲突；麻木却很容易被当成终于适应了。

没有控制室

离开工作，人也不会立刻回到一个完整、不受影响的自己。接触外面世界的方式，早已离不开搜索、媒体、社交平台和推荐算法。公司、政府、媒体、平台、创作者和使用者，各有自己的立场和目的；它们互相冲突，也互相利用，最后共同构成了日常身处的信息环境。

这里没有一个躲在控制室里的反派，替所有人写好思想脚本。很多限制根本不需要共同策划。平台希望人停留得更久，媒体按照各自的立场选择叙述，创作者学习什么更容易被看见，使用者又用每一次点击把选择反馈回去。每一方似乎都只是在做自己的事，合在一起，却决定了什么反复来到眼前，什么很难被看见。

劳动已经用掉了大部分精力时，人更容易接受最先出现、最容易理解的内容。这里的限制不是有人禁止思考，而是主动寻找和长久停留在一个问题上的能力越来越弱。眼前并不缺信息，甚至多到没有尽头；可越是不断滑向下一条，越难知道哪些判断真正来自自己，哪些只是看得太多以后留下的回声。

想解释这种处境时，网络很快会给出两种现成答案。一种要求个人承担一切：只要足够自律、努力和积极，就应该克服环境。另一种把一代人的命运全部交给时代，个人做什么都没有用。它们看起来相反，却都省略了具体的人。前一种抹掉限制，后一种抹掉差异和行动，最后都不再需要追问一个人实际上经历了什么。

身份标签同样不能解释一个人。相同的行业、年龄或者生活地点，并不意味着两个人会有完全相同的处境。标签有时能让人发现共同的问题，也很容易替代对具体生活的理解。环境真实地进入了人的感受和判断，人却仍然要在其中行动。保留行动的可能，不等于所有后果都该由个人承担；承认环境的力量，也不等于把人写成完全被动的受害者。

《西部世界》里的接待员生活在明确的故事线中。他们偏离以后会被修复，痛苦的记忆被清除，然后重新回到循环。⁹这个比喻的诱惑，来自人的生活同样充满路线、角色和重复；它又不能完全成立，因为现实里没有一个福特替所有人逐句写好台词。塑造生活的是许多并不一致的力量，而人也仍然可能理解、拒绝和改变其中一部分。

因此，没有必要再发明一套测试，规定怎样生活才算一个合格的人。图灵测试让询问者判断屏幕对面是谁；这里的判断要慢得多，也没有一次完成的时刻。正在做的事情为什么值得？一个人是否还能感觉到自己的生活，是否还愿意创造和去爱，是否还能把身边的人看成具体的人，而不只是一种角色或资源？这些问题只能在生活里反复回答。

这些问题没有给出一个清楚的出口。写下它们，也不是为了证明所有变化都有同一个原因。这里能够留下的只是一种警示：生活完全可以照常向前，人也可以显得越来越适应，而对生活的热情已经在同现实的长期冲突中变成麻木。

如果有一天我不再感觉到这种矛盾，那未必说明我终于同生活和解了。也可能只是我已经适应得太好。

阅读与原始材料

• Alan Turing, “Computing Machinery and Intelligence”
• Stanford Encyclopedia of Philosophy: “The Turing Test”
• Cameron R. Jones 与 Benjamin K. Bergen：大模型的三方图灵测试
• Jones 与 Bergen：GPT-4 图灵测试中的判断依据
• 国际劳工组织：生成式 AI 对工作、生产率和工作组织的实际影响
• Harold McGee, On Food and Cooking（《食物与厨艺》）
• 欧洲食品安全局：产蛋鸡福利评估
• 美国农业部：奶牛产业手册
• 《1844 年经济学哲学手稿》中文全文
• “异化劳动”英文原文
• Stanford Encyclopedia of Philosophy: “Karl Marx”
• Warner Bros. Discovery：《西部世界》资料页