选举年人工智能的威胁

2024年一月份的某天，美国一位选民盖尔·亨特利（Gail Huntley）接到了一通电话，电话中一个声音声称是拜登，告诉她不要在本周二的选举中投票，因为这只会帮助共和党重新选举，应该把选票留到11月的选举。亨特利最初以为这是拜登的真实声音，只是被断章取义。但当她得知这段录音是由人工智能生成时，她感到非常震惊。

几周后，美国禁止人工智能生成的声音自动拨号。“深度伪造”拜登事件成为政府、技术公司和民间社会团体首次面临的重大考验。就如何监管人工智能生成候选人照片或复制声音信息这一问题，他们展开了激烈的讨论。2024年，美国、印度和英国在内的几十个国家将进行投票选举，所以专家表示，民主进程可能会受到人工智能的严重干扰。但监管机构称，由于管理此项事务的技术公司裁员超4万人，所以数字媒体特别容易受到利用。

不可能的任务？

在电影《碟中谍》中，汤姆·克鲁斯（Tom Cruise）饰演的伊森·亨特（Ethan Hunt）击败了一个失控的人工智能，拜登在看完电影后看到了更多问题，所以他签署了一项行政命令，要求人工智能开发者与政府共享安全测试结果和其他信息。不止美国一个国家采取行动规范人工智能，欧盟即将通过一项最全面的法律规范人工智能，然而这项法律2026年才生效。

凯蒂·哈巴斯（Katie Harbath）认为，美国政府行动的力度远远不够。赫曼特拉（Hermantra）说，在短期内，规范和监管人工智能的任务将落在开发公司身上。“我们不知道这些公司是否准备充分，”哈巴斯说。“对于一些新平台来说，这次选举季是他们第一次真正的考验。”

上个月，几个重要的科技公司签署了一项协议，主要包括ChatGPT的开发者OpenAI、谷歌、Adobe和微软。他们表示自愿采取“合理的预防措施”，防止人工智能干扰全球民主选举。许多公司还制定了新规则禁止在政治竞选中使用其产品。但执行起来就是另外一回事。

Midjourney的首席执行官大卫·霍尔兹（David Holz）表示，公司即将禁止生成政治图像，包括总统候选人的图像。在《卫报》要求Midjourney生成一张拜登和特朗普在拳击场的图片时，该请求遭到拒绝，并被标记为违反公司准则。然而输入相同的要求，只是将拜登和特朗普替换为英国首相里希·苏纳克（Rishi Sunak）和反对党领袖基尔·斯塔默（Keir Starmer）时，该软件却生成了一系列图像。这个例子引发许多政策制定者担心美国之外的其他国家如何有效地规范人工智能。

大规模使用的“武器”

尽管美国政治竞选中已经禁止使用OpenAI，但据路透社报道，上个月印尼选举还是大规模使用了Open AI, 主要用于制作竞选宣传材料、追踪社交媒体动向、构建交互式聊天机器人和定位选民。哈巴斯说，如何积极地在海外执行公司新政策是一个亟待解决的问题。

去年在斯洛伐克国家选举中，一位亲俄的候选人与另一位主张亲欧盟的候选人展开了激烈竞争。随着对乌克兰的支持成为选举的核心议题，欧盟官员强调这次选举可能面临俄罗斯及其“数百万欧元操纵武器”的干预。大选临近，国家媒体封锁，这时支持欧盟的候选人米哈尔·西梅卡（Michal Šimečka）的录音被发布到Facebook上。在录音中，西梅卡似乎在讨论如何从边缘化地区购买选票来操纵选举。法新社（AFP）表示音频是假的，有使用人工智能的迹象。

这段音频似乎利用了Facebook监管人工智能的一个漏洞。根据其标准，禁止发布人工智能修改过的内容，以及经过编辑使某人说出“他们未曾说过的话”，但这一规定仅适用于视频。最终亲俄候选人罗伯特·菲科赢得了选举。

未来何时会来？

尽管危险重重，但有迹象表明，选民对信息的理解掌握比官方想象的更准备充分。

许多专家看来，最大的问题不是我们正在应对的技术，而是尚未出现、我们还无法想象的未来技术进步。麻省理工学院《技术评论》的学者们表示，谈到人工智能对民主造成的威胁时，公众的讨论“缺乏想象力”。因为真正的危险不是我们目前所担忧的事物，而是我们想象不到的。【全文完】

来源：《卫报》2024年3月1日刊 | 作者：Jonathan Yerushalmy
原文标题：The threat of AI in a year of elections