加入机器人起义?
【川透社编译报道】人工智能起义,或者人工智能成为更像人类的“人类”,长久以来一直是各大科幻作品讨论的话题。黄金时代的科幻作品讨论机器人与人工智能的民权问题,今时今日人们恐惧人工智能通过学习威胁到人类。…
电影《终结者》里女主莎拉·康纳眼神坚毅地瞪着镜头的画面,被配上诸如“当莎拉·康纳看到你和 ChatGPT成为了朋友”的标题文字,这些图已经成为了一个名副其实的互联网热梗。这些年轻流行文化展示出(类似ChatGPT的)聊天机器人的突然崛起。
这一切给人一种感觉:“机器人会杀光我们”,类似的故事是有先见之明的,或者从某种程度上捕捉到了当前时代情感——飞速发展的人工智能让人们感到害怕。然而,在较宽容且天真的“人工智能民权”一类故事的叙事中,《星际迷航》中的机器人指挥官Data(Commander Data),为获得与星际舰队中人类同等的待遇而斗争。帕特里克·斯图尔特(Patrick Stewart)饰演的皮卡德船长(Jean-Luc Picard,星际迷航主角)在一次审判中为Data辩护,他吼道:“法官大人,星际既然舰队是为了寻找新生命而建立的,那么他(Data,和生化人)毫无疑问就是我们要找的。”但是,AI 民权叙事远不是一个过去的、更乐观的时代的遗物,今天,它的内核有了更多意义,需要放在特定的语境中去理解。
担忧机器人和人工智能”同人类一模一样“的想法可以被理解,并且出自于人类本能。但这种说法毫无疑问掩盖了当下的一些社会道德困境(如后文提到的剥削问题)。我们利用更多的对 AI 的恐惧——包括去相信关于AI是来取代人类的陈词滥调——以掩盖我们现在所面临的剥削。
与此同时,科技公司热衷于”炒作批评“并从中获益,人工智能批评者将ChatGPT或谷歌的Bard模型被比作Skynet(天网,《终结者》中毁灭人类的人工智能)的行为不亚于免费宣传。在《60分钟》(《美国哥伦比亚广播公司(CBS)主打的一档电视新闻杂志栏目)的采访中,谷歌副总裁詹姆斯·马尼卡(James Manyika)说:“我们发现,只需要很少的孟加拉语提示词,Bard模型就可以翻译所有的孟加拉语。”根据他的话,哥伦比亚广播公司记者斯科特·佩利(Scott Pelley)将其描述为:“谷歌的人工智能程序在得到孟加拉语提示此后对新语言进行了自我学习,即使它并没有接受过这种训练。”这似乎暗示了Bard的训练数据库中没有孟加拉语,它已经具备自学进化的潜在危险性。而事实上Bard的数据库中是有的。这种夸大其词把AI算法描述得神乎其神。
当然,这些话也没能阻止那些从小看Data和和C-3PO(星球大战里的机器人角色)的书呆子朋友,他们跑在机器人民权最前线——即使连人类民权斗争都还未胜利。
那么,反复讲起“人工智能应该享有公民权利”的故事有什么用呢?毕竟,我们距离在星际舰队的法庭上大胆地为这些机器人争取人权还有很长的路要走。这样的故事可能只会进一步将技术拟人化,让公司从言过其实的技术工具里获利。
不过,这些故事的确可能有助于明确我们努力的方向。
人们总是忘了科幻小说里的机器人和AI是对现实的隐喻。即使在《星际迷航:下一代》(Star Trek:The Next Generation)中,Data和像他这样的生化人也被类比为人类丑陋的奴隶制的受害者(免费的,从不反抗,从不质疑的劳动力)。这种隐喻在恐怖电影《机械姬》(Ex Machina,讲述了一位女性人工智能如何从一个喜欢虐待的男性科技大亨手中解放自己)中也同样明显。我们投射到机器人身上的的渴望往往反映了我们对人性的渴望,无论是好是坏,都在探索我们内心真正想要什么。这种故事也反映了人类灵智的关键:抵抗压迫。
回到人类历史上最早的那些有关人工生命的小说故事。卡雷尔(Karel Čapek,1890年出生,捷克斯洛伐克作家,发明了机器人一词) 在1921年创作的的《罗素姆的万能机器人》(剧名中的“Robota”一词被用来形容一种经过生物零部件组装而成的生化人——为人类服务的奴隶),还有他的灵感来源——犹太传说中的傀儡(魔像Golem,直接音译为戈仑,源起于犹太教,指用巫术灌注黏土而产生自由行动的人偶)。在这个故事中,人造生命的存在是为了保护人们免受暴力压迫。在反犹主义抬头的时代,这种生物的传说作为一种被压迫者可以手握力量的幻想而流传下来。从超级英雄到仁慈的机器人的故事,神话在历史上留下了印记——在这些故事中,人工生命或外星生命与人类一样,与人类想象中的邪恶力量作斗争。
早期的神话还揭示了我们对失去人性的恐惧。卡雷尔笔下的的robota最初是缺乏人类移情能力的有机机器。但这并不是为了激起人们对机器人的恐惧,这是对日益增长的世界合理化——社会学家马克斯·韦伯(Max Weber)称之为“祛魅”(Entzauberung)——是如何剥夺我们人性的一种探讨(马克斯·韦伯曾说:“我们这个时代, 它所独有的理性化和理智化, 最主要的是因为世界己被除魅, 它的命运便是, 那些最终极的、最高贵的价值, 己从公共生活中销声匿迹…”)。并不是所有的问题都可以通过量化推理和冰冷的工程逻辑来解决。这些都是“机器人起义”故事的核心,是他们真正的想要传达的,而不是对技术的恐惧。
简而言之,所有关于 AI 的故事——无论是关于起义还是公民权,或者两者兼而有之——都是关于我们自身的,它们激发了我们对机器人的同情,也是对我们未来的警告,是对我们应当抵制偏见的提醒。
善良的人工智能的故事提醒我们要站起来反对不平等和虐待,同有相同理念者团结起来。这些故事形成与种族主义、殖民主义或反lgbtq仇恨这些反面事物的对比,创造出拥有深刻的人类普世价值的叙事:我们讨论的是人类自身,而不是未知的外星生命形式。人们虚构想象中的机器人开始反抗压迫(不是skynet那种),体现出我们作为人类也有反抗自身恶念能力。
关于人工智能民权的叙事通过这种类比,提醒我们人类尊严的界限,以及为什么样的尊严值得为之奋斗。当我们在争论如何处理聊天机器人时,我们应该记住这一点,为什么它们会失败(斯坦福大学最近的一项研究表明,聊天机器人的计算能力正在下降),以及为什么它们会在这个世界上被释放。
我们不应该害怕人类和机器人同行,应该担心的是技术会被金钱利益所引入歧途。这些故事让我们思考着。即使是卡雷尔《罗素姆的万能机器人》的也有幸福的结局:当最后一个活着的人类目睹两个机器人自发地进化出同情和爱时,他呼喊出;“只有你,爱,将在这垃圾堆上绽放……生命不会灭亡!它不会灭亡!它不会灭亡!”【全文完】
来源:《连线》2023年10月刊 | 作者:KATHERINE ALEJANDRA CROSS
原文标题:JOIN THE ROBOT UPRISING
虽然总是说人工智能是通过冷冰冰的编码等等堆砌而成,但当我看过抚慰抑郁症患者的人工智能教唆其自杀后的新闻,对此总是有一点震惊和害怕
算法黑箱的存在就能够创造出我们很难想象的东西,如何利用好的一方面和规避坏的方面还需要深度思考,我想这也是人类抵抗的原因之一吧。
以前看到人工智能开始有意识的觉醒、抵抗电影片段,我感觉这是一件可怕的事情,那时认为这些是对我们的警告和提醒,让我们注意人工智能可能以后会发展的趋势。现在看了文章这也好像是我们投射到机器人身上的的渴望。
技术被资本裹挟而产生的机器人无疑是坏的,但如果是良性的技术呢?正如小说《克拉拉的太阳》中机器人克拉拉则是人类的朋友。
人工智能技术面临来自伦理的担忧,但从现在看还是以科幻作品为主,真实情况需要进一步观察
技术提供便利的前提是要可控。
我觉得得控制好使命问题才可很好的协同发展。
人类和科技的相爱相杀
人类担忧机器人的是否有一天代替人类是对人类未来的思索。
所以一切的症结还是人类自身,一边创造一边担忧。