警惕数据决策的风险

如今，管理者们比以往更有条件做出明智的决策了。因为他们更加清楚人类的判断是容易出错的，他们掌握着海量的客户及产品的相关数据，能够利用人工智能（AI）以最快的速度对信息进行分析、总结和综合。但是，随着决策的依据势不可挡地从直觉转向基于数据，企业则需要意识到其中存在的各种风险。

在近期发表的一篇论文中，丰田研究所的琳达・张（Linda Chang）和及其合著者指出了一种名为 “量化执念” (“quantification fixation”)的认知偏差——仅依靠数据做决策的风险人们是众所周知的：它有时被称作 “麦克纳马拉谬误”（ McNamara fallacy），得名于一位美国国防部长通过量化一些容易测量的数据来衡量战争的成功，忽略了其他难以测量的重要因素，最终导致了战争的失利。张女士及其合著者也解释了人们为何会过度看重数字。

原因似乎在于数据非常适合用于做比较。在一项实验中，参与者被要求想象在两名软件工程师中选择一人晋升。其中一名工程师被评估为晋升可能性更大，但留在公司的可能性较小；相比之下，另一名工程师留任的概率更高，但晋升机会更低。研究人员改变了这些信息的呈现方式。他们发现，当只有未来晋升前景这一标准被量化时，参与者更有可能依据这一标准来做选择；而当只有留任概率被附上数字时，参与者则更倾向于依据留任概率进行选择。也就是说，当其中一个标准被数据化时，参与者会更加关注到被数据化的这一标准。

针对这种偏差，一种解决办法是将所有事物都量化。但正如作者们所指出的，有些事物是很难被量化的。对于求职者来说，一家公司的企业文化比其薪资水平更难用数字来体现。对于早期投资者来说，数据能更多地了解一家初创企业的财务状况，却很难体现创始人具有的能力。数字便于进行比较，但它们并不是总能说明全部情况。

同时还存在其他风险。人类在分析数据会和做其他决策时一样，产生相同的认知偏差。以确认偏差为例，它指的是人们倾向于将信息解读为支持自己观点的情况。在另一项实验中，纽约大学的伊泰・亚奈（Itai Yanai）和杜塞尔多夫大学（Heinrich Heine University）的马丁・勒切尔（Martin Lercher）让计算机科学专业的本科生先说出他们预期中财富与幸福之间存在的总体相关性，再向他们展示一份关于 1000 个人的财富与幸福之间关系的虚构数据集。面对同一张图表，预期正相关的学生更能在数据中看到正相关。可见，既有观念影响了对数据的解读。

很多人在基本的数据素养方面存在问题，对数据不够敏感：即使中奖概率其实完全相同，可以通过数据评估结果，但是顾客不太愿意参与一个人数很多的比赛，认为人多了中奖概率会变小。在一个AI 模型正盛的世界中，依靠算法似乎是解决这个问题的明智之举。在又一项实验中，法兰克福金融与管理学院的侯赛因・尼克帕亚姆（Hossein Nikpayam）、米尔科・克雷默（Mirko Kremer）以及柏林欧洲管理技术学院的弗朗西斯・德・韦里库尔（Francis de Véricourt）发现，当其他决策者无视机器给出的建议而自行做出判断时，管理者们不会留下深刻印象。如果结果不佳，他们会指责这些决策者；而即便结果良好，也不会给予奖励。过去人们常说，没人会因为购买 IBM的产品而被解雇。不难想象，“没人会因为遵循算法而被解雇” 会成为当今与之类似的说法，可见人们对AI算法的信任和依赖。这也是如今许多人会“无脑”听取AI建议的原因。

但有时候人类也有优势。例如，数据反映的是现实世界的样子，而不是世界可能变成的样子。通过查看现有模式来评估全新的想法很困难。在家庭影院频道（HBO）创立初期，作为一家具有开创性的电视频道，其高管们依靠直觉和逆向思维相结合的方式来制作打破常规的节目：世俗的喜剧特辑，这是一部在第一集就把主角写死的监狱题材剧集。其他电视网拒绝了一个接受心理治疗的暴力黑帮分子的节目创意，而 HBO 没有拒绝，这也这类特色节目成功的原因。依靠数据或许会带来更易于解释的决策，但这些决策也会更保守。

这一切并不是说直觉胜过数据，也不是宣称人类能比机器做出更好的决策。远非如此。但这是一个警示。数字意味着严谨、确定和客观，但它们也有缺陷。【全文完】

来源：《经济学人》2025年1月2日刊 | 作者：不详
原文标题：Beware the dangers of data