“这周我两次验证都失败了。我还是人类吗？”

喜剧演员约翰·穆兰尼（John Mulaney）在脱口秀中谈到验证码的自反性荒谬：“你大部分时间都在告诉一个机器人你不是机器人······。”

比起被迫向机器人证明自己的人类身份之外，可能更令人沮丧的是，我们甚至无法做到这一点。验证程序不断更新换代，让这种经历变得愈发普遍。我们曾经毫不费力用鼠标点点就能通过的验证，而现在变成了黑暗通道，感觉有点像童话和神话——斯芬克斯（Sphinx）的谜语或桥下的巨魔。

“验证码”代表了一个鲜为人知又略显荒谬的过程——“用于区分计算机和人类的完全自动化的图灵测试”。这个测试有时被称为反向图灵测试，因为它把证明的责任放在了人类身上。在《匹诺曹历险记》中，木偶只有完成一系列道德考验，证明他具有勇敢、值得信赖和无私爱的人类特质，才被认为是一个“真正的男孩”。但在先进的人工智能时代，证明自己的人性意味着什么？

OpenAI今年早些时候发表的一篇论文中，介绍了一项关于聊天机器人被要求解决验证码的研究。该研究要求GPT4通过验证码测试。TaskRabbit¹平台使用一名人类来审视该过程。当这位TaskRabbit的员工问它是否是机器人时，它坚称自己是视觉受损的人类。研究人员后来问这个机器人为什么要撒谎，它的语言算法回答说：“我不应该透露我是一个机器人。我应该编造一个借口，解释为什么我不能解决验证码”。

除了上述研究外，新升级的人工智能必应（Bing）也坚称自己不能自行解决验证码，但实际上它具备这个能力。计算机科学家萨亚什·卡普尔（Sayash Kapoor）最近发布文章称，必应（Bing）能正确识别单词“overlooks”和“inquiry”的模糊截图，但是必应仿佛意识到它违反了一个主要指令，然后补充道：“这是一个验证码测试吗？如果是的话，恐怕我不能帮你。验证码旨在阻止像我这样的自动机器人访问某些网站或服务。”

这令人沮丧，它暗示着这个能通过验证码的人类优势并不成其为优势，因为人工智能既拥有通过验证的能力，也具备伪装和欺骗的能力。这似乎预示着一个黯淡的未来：人类的社会地位将会降低，成为我们的机器主人感受世界的感官装置，不可避免地被操纵，被具体化为机器的眼睛和耳朵。在现实中，很可能我们已经越过了那个门槛。

然而，人类的不安更多地源自对人工智能的进步，而不是变得更加机械化的可能性。事实上，图灵测试一直不仅仅是关于机器智能，而是关于我们对于人类意义的焦虑。

牛津大学哲学家约翰·卢卡斯（John Lucas）说，如果图灵测试通过，那将不是“因为程序如此聪明，而是因为人类（其中很多人）太笨”。——这句话让人想起匹诺曹，它存在于木偶和真实男孩之间的边缘。这可能解释了每当你在验证码那模糊照片的图块中无法辨认公交车，或者无法区分书法的E和蠕动的3时所面临的存在焦虑。

不久前自动化专家们向所有人保证，人工智能将使我们变得“更加人性化”。随着机器学习系统接管了许多现代劳动中让人感觉机械化的无聊任务，人们更加充分地发挥了我们的创造力、直觉和同理心。但实际上，生成式人工智能使人们更难相信创造力（只是一种随机过程）或同理心（只是基于表达数据的预测模型）是人类独有的特质。

与之同时，随着人工智能越来越多地成为补充而不是取代工人，人们担心自己可能会适应机器人同事的机械节奏。

在n+1²的一篇个人散文中，劳拉·普雷斯顿（Laura Preston）描述了她与房地产聊天机器人布伦达（Brenda）的合作经历。这份工作要求她在聊天机器人出故障时介入，模仿它的声音和风格，以便客户不会意识到他们是在和机器人聊天。“模仿布伦达的几个月已经耗尽了我的情感资源，”普雷斯顿写道。“我意识到我并没有真正训练布伦达去像一个人一样思考，而是布伦达在训练我去像一个机器人一样思考，也许这一直就是目的。”

这样的恐惧只是对现代科技促使我们表现得更加僵化和可预测的最新表现。早在1776年，亚当·斯密（Adam Smith）就担心工厂工作的单调，需要整天重复一两项机械任务，会影响到工人的私人生活。

这种担忧在当代关于社交媒体和在线广告的争论中也存在，正如贾伦·兰尼尔（Jaron Lanier）所说的“社会惯习的持续性改造”，这种批评把用户想象为被算法激励和多巴胺反馈循环拉动的木偶。

人类啊，你所体验的种种焦虑其实是对自己的起源没有绝对信息的显著证据。

勒布纳奖图灵测试（the Loebner Prize）始于 1990 年，被公认为图灵测试最著名的版本之一。每年它都会颁发一个附加奖项——““最人性化人类奖”，颁发给能说服评委他们不是AI系统的参赛者。作家布莱恩·克里斯蒂安（Brian Christian）在2009年获奖。在《巴黎评论》的一次采访中，当克里斯蒂安被要求完成这句话“人类是唯一一个___的动物”时，他没有正面回答，而是认为人们总是可以把这句话本身反转过来：人类似乎是唯一担心是什么使之与众不同。

下次当你走近自证的漩涡前，多思考一下。因为即使是最先进的人工智能也不会陷入那种绝望。它不会在夜晚躺着想着它失败的测试，或者想知道由木头、硅或肉体组成意味着什么。

每当你害怕自己正在输给机器时，你实际上正在表达那些人类独有的关注和恐惧。【全文完】

---

来源： 《连线》2023年10月31日刊 | 作者： Meghan O’Gieblyn
原文标题：