操控心灵的无形之手
行为科学 BEHAVIORAL SCIENCE
迈克尔·刘易斯的新书《抽丝剥茧》回顾了心理学家和诺贝尔奖获得者卡尼曼和特沃斯基之间的复杂友谊和卓越的学术合作，二者的研究成果为新行为科学奠定了基础。
Davide Bonazzi
TAMSIN SHAW | THE NEW YORK REVIEW OF BOOKS
当今世界，行为科学无孔不入。社会心理学和行为经济学的研究铺天盖地，被（政府、企业、媒体）用来左右我们看到的新闻、购买的产品，并且被用于构建我们的文化和知识环境，影响我们在网络和现实中的人际关系网络。过去，人们遵循个人习惯、本能或者社会传统、规范来做出行动，而现在，人们往往会参考心理学、行为科学的研究结果和科学理论来做决定，并且在此基础上有意或无意地塑造社会。
政府和私有企业使用的行为科学手段并不是为了要求我们运用理性；它们并不企求有意识地以信息和论据说服我们。相反，这些手段是利用我们的非理性动机、感情弱点和无意识偏见来改变行为的。假如心理学家们能够系统全面地理解这些非理性动机，他们将大权在握，上能治大国，下可烹小鲜。
认知科学
Elizabeth Kolbert
迈克尔·刘易斯（Michael Lewis）的《抽丝剥茧》（The Undoing Project）似乎注定要成为人类行为的长期理解和矫正方面最受欢迎的一部著作。本书回顾了丹尼尔·卡尼曼（Daniel Kahneman）和阿莫斯·特沃斯基（Amos Tversky）之间的复杂友谊和卓越的学术合作。这两位心理学家的研究成果为新行为科学奠定了基础。他们的研究成果首次提出，我们或许可以系统地理解人类的非理性。他们主张，即使我们的思维出错，其出错的方式也有规可循。卡尼曼告诉我们，他和特沃斯基在调查中得到了许多反直觉结论的支撑下，“我们现在理解了直觉思维的奥妙与缺陷。”
系统1运作迅速，且自动运行，它包括本能、情感、人与动物共有的先天技能，也包括后天习得的联想和技能；而系统2虽然缓慢，却很慎重，能让我们改正系统1产生的错误。
卡尼曼在2011年的著作《思考，快与慢》（Thinking, Fast and Slow）中，将两人新提出的心智模型呈现给大众读者。他将人类心智描述为两种关系密切的思考系统：系统1运作迅速，且自动运行，它包括本能、情感、人与动物共有的先天技能，也包括后天习得的联想和技能；而系统2虽然缓慢，却很慎重，能让我们改正系统1产生的错误。
刘易斯讲述了这次知识革命的经过：1955年，21岁的卡尼曼负责为以色列军方设计人格测验。他发现，如果设计的问卷能最大限度地排除测验者的直觉因素，问卷的精确度就能达到最高。在测试过程中，受测者调用了“系统1”的直觉式思维，这种思维会干扰他们的判断。而如果问卷的设计者和实施者能够防止受测者依靠任何主观判断和偏见，受测者就不会受到干扰。这是刘易斯非常喜欢的一个情节，因为他在畅销书《点球成金》（Moneyball, 2003年出版）中也讲了一个类似的故事。奥克兰运动家队（Oakland Athletics，美国职业棒球大联盟中的一支球队）的总经理比利·比恩（Billy Beane）利用了全新的数据分析方法，克服了球探在挑选球员时的直觉判断。
丹尼尔·卡尼曼和阿莫斯·特沃斯基
《抽丝剥茧》里也称颂了心理学家刘易斯·戈尔德堡（Lewis Goldberg）的事迹。他曾经是卡尼曼和特沃斯基的同事，当时他们都在俄勒冈州的西部城市尤金工作。戈尔德堡发现，用一个简单算法来诊断癌症的准确度能比高级专家还高，因为专家毕竟会被自己的情绪和错误的直觉所左右，而算法是用来处理数据的固定规则。《抽丝剥茧》中的人类主角们往往难以相处、感情用事，而算法则是书中“头脑简单的英雄”，它们防微杜渐，默默修正着人类思维的毫厘之差。
而卡尼曼和特沃斯基最具影响力的发现则是“前景理论”（prospect theory），该理论为行为科学的“偏见与启发法”奠定了非常重要的基础。他们考察了人们如何在不确定条件下做出决定，并发现了人们的行为并不符合效用理论的预期。效用理论是经济学理论的一个重要基本假设，它假设决策者会理性地追求利益最大化。卡尼曼和特沃斯基意识到，他们观察到的非理性行为并不是一些偶然误差，而是“博弈者在选择过程中对理性原则的系统性违背”。这些系统误差（误差分为偶然误差和系统误差，前者受随机因素影响，后者按一定规律变化）表明人类的非理性行为有规可循。
《抽丝剥茧》的作者刘易斯在讲述这段历史时，充分把握了以色列政局动荡不稳的历史背景，并阐释了卡尼曼和特沃斯基的发现：他们意识到，我们对概率和风险的直观分析很容易被情绪左右。因此，我们特别希望能够排除诸如懊悔和失落等负面情绪的干扰。刘易斯写道，在赢得赎罪日战争之后，以色列因为他们的损失感到懊悔不已——以色列被敌国偷袭，不得不背水一战，付出惨痛代价才赢得了战争。但是，原本还有这么一条路，卡尼曼和特沃斯基都认为这条路可以避免战争：归还在1967年战争中占领的土地。以色列人并不因自己没有这样做而懊悔。类似的案例还有很多，卡尼曼和特沃斯基认为：若行动A伴随损失，而损失本可被行动B避免，人们对损失的懊悔，会强于对没有采取行动B的懊悔。如果这是普遍情况的话，人们就能根据这一原理更好地评估风险。
“可得性启发法”指出：如果在一些偶然因素下，我们对某个现象非常在意，我们就会误以为那个现象特别容易发生。
这项研究最终催生了已经广为人知的启发法，也就是经验法则，用来指代直觉思维中的一些具体缺陷。其中一些经验法则似乎有着共同的情感基础，比如“禀赋效应”（高估我们所拥有事物的价值）、“现状偏见”（希望维持现状）和“损失厌恶”（在评估风险时，更多地关注潜在损失而不是潜在收益）都涉及一种固有的保守态度：我们更加喜欢和重视已经为之付出了很多的事情。
许多启发法就发生在我们身上。“可得性启发法”指出：如果在一些偶然因素下，我们对某个现象非常在意，我们就会误以为那个现象特别容易发生。例如，“9·11事件”发生后，人们非常害怕恐怖袭击会再次发生。然而相对于车祸和其他致死原因，恐怖袭击发生的概率其实非常小。只不过是电视上没有像报道恐怖袭击那样，一天到晚滚动播出车祸等事故的新闻罢了。很多这样的信息其实不应该左右我们的判断，但我们就是无法屏蔽之。
我们居然有这么多严重的思维缺陷。不过，刘易斯在书中一直流露着希望，他不断强调，这些心理学新知识也能让我们了解、正视和尽量消除非理性思维的不足，进而改善人类生活。由理查德·塞勒（Richard Thaler）创建的根植于卡尼曼和特沃斯基研究成果的行为经济学，旨在研究清楚我们该如何让自己变得更好，作出更好的决策。虽然根据可得性启发法，人们会为极力保护自己免受发生概率极小的灾难，但是我们可以用一些微调方式（nudges）来应对：我们可以写下明确的提示，来提醒自己哪些灾难更可能发生，从而作出更加符合实际的判断。虽然人们会有维持现状的偏见，不愿意做出对自己更有利的改变，例如我们可以不向人们提供多种可供选择的退休计划，而是选择一个更有利的方案：让计算机自动把他们录入某个退休计划，但保留他们自愿退出的权利。
凯斯·桑斯坦（Cass Sunstein）曾担任奥巴马政府的白宫信息与管制事务办公室主任，他上任不久便采取了上文中提到的方案。他设计了一些“选择结构”（choice architectures）和微调方式，来影响人们的直觉，从而影响决策。在刘易斯笔下，通过上述方式来做公益事业就像是一种魔法，如同月光悄悄爬进窗户一样，在全美国沉睡之际偷偷潜入千家万户。
数百万的美国企业和政府职员在21世纪初的某一天，一觉醒来后发现自己不需要再申请加入退休计划，他们已经被计算机自动录入了。
桑斯坦和塞勒将这种干预背后的政治理念称为“自由主义家长制”（Libertarian Paternalism）。它是“自由”的，因为它并不强制人们接受给定的选择，只是提供一些选择或者制造一些吸引力，来让人们“更好地判断这些选择并作出能改善生活的决策”。他们声称，这种形式的干预虽然通常在人们不知不觉中实施，但并不算玩弄权术和操控人心，毕竟人们总是有权选择别的方案。刘易斯在书末直白地称赞了这种有人引导、却号称是自由选择的形式。
刘易斯并没有提及，同样的行为科学原理也能用来有计划地蛊惑和操控人心——这也是行为科学原理的一种重要应用。弗兰克·巴别茨基（Frank Babetski）是美国中央情报局指挥部的一名情报分析员，也是中情局大学的谢尔曼·肯特情报分析学院的分析谍报学系主任。他将卡尼曼的《思考，快与慢》列入情报人员必读书目。
巴别茨基论述了情报人员如何利用行为科学原理进行情报欺骗，这是情报人员的一项重要技能。[1]他建议，这种做法应当受到法律约束，并且民主政府应当对情报目标有最终决定权。但他也指出，这些手段落在任何图谋不轨的人手上都有可能会导致滥用。
对于选择偏好的操控既驱动了行为科学的商业化，也成为了数字经济的基石，而数字经济塑造了现代生活中的大部分内容。
刘易斯轻描淡写的描述忽略了一个严重的问题：行为科学家声称已经有办法操控人们的情感生活，重塑他们最根本的偏好、价值观和欲望。卡尼曼和特沃斯基（于1996年去世）曾经在一篇合著论文中提出，我们并不能很好地判断自己的幸福，这一观点在卡尼曼最新的研究中得到完善。我们的直觉反复多变，还往往自相矛盾。回忆往事时，我们容易把它想得无比快乐，而当时记录下来的感受未必如此。卡尼曼和一些积极心理学家合作创建了一个新的子学科：快乐心理学（hedonic psychology）。该学科不仅关注快乐，也关注更广泛意义上的幸福，并试图找到一种更加客观的方式来评价生活状态，而不仅仅依赖于主观评价。
这个新的子学科开创性地将行为科学的成果与“大数据”相结合。刘易斯的《抽丝剥茧》中并未提及“大数据”，但“大数据”却让卡尼曼和特沃斯基的思想有了广泛的潜在应用价值。宾夕法尼亚大学“全球福祉项目”的心理学家与剑桥大学心理测量学中心的计算心理学家米哈尔·科辛斯基（Michal Kosinski）和大卫·史迪威（David Stillwell）开展了合作。科辛斯基和史迪威参与设计了名为 “myPersonality”的Facebook程序，用户可以用这一程序做心理测试。最终它收集了六百万份测试结果和四百万人的资料。研究者将测试分数与用户在Facebook上留下的海量信息结合起来，这些测试中包括大五人格测试。它又被称为OCEAN模型，测量开放性、尽责性、外倾性、宜人性和神经质这五种人格维度。举例来说，经常使用“apparently”（显然）和“actually”（其实）等字眼的用户往往比别人更加神经质。“myPersonality”的设计者声称，这些心理测试的结果与其它数据相结合，可以预测一个人的幸福水平。
全球福祉项目的主导思想是：主观判断并不完美，我们不应该依此来判定什么是快乐的，什么才有意义。[2]可若是我们追求的快乐和意义成为行为科学的研究对象，那么快乐和意义是否会被量化和操纵，我们还能否自由地追求想要的快乐和意义，并看清其本质？这种担忧可不是什么学术问题。对于选择偏好的操控既驱动了行为科学的商业化，也成为了数字经济的基石，而数字经济塑造了现代生活中的大部分内容。
卡尼曼分别在2007年和2008年开设了主题为“关于认知的认知”（Thinking About Thinking）的高级讲习班，参与学习的包括亚马逊创始人杰夫·贝佐斯，谷歌创始人拉里·佩奇和谢尔盖·布林，前微软首席技术官内森·麦沃尔德，Facebook首任总裁肖恩·帕克，SpaceX创始人、特拉斯汽车的联合创始人伊隆·马斯克，推特创始人埃文·威廉姆斯，以及维基百科创始人吉米·威尔士等人。[3]
在2008年的课上，理查德·塞勒也提及了克服思维陷阱的微调方式。在网上公开的片段中，我们也可以看见他对选择构架的描述：它们能引导人们做出特定的行为，但是只要被引导者不喜欢其结果，这种引导可能会立刻失效。然而，在与这些硅谷企业家的谈话中，卡尼曼指出“启发效应”（营造一种合适的心理氛围）是心理学研究中非常重要的课题之一，它通过提供潜意识的暗示（例如在屏幕上以某一速度闪过一张不令人察觉的笑脸）来影响情绪和行为。他还强调，启发效应能激发一些可预测的、连贯清晰的联想。如果被试对这种施加于潜意识的影响毫无所知，那么他们拒绝这些影响的自由意志不过是空中楼阁罢了。
硅谷大佬们既然参与了这样的课程，自然已经十分清楚行为科学的商业潜力，因为行为科学已经与科技产业密不可分。2011年，塞勒和桑斯坦对nudges.org的最后一次更新中有一篇对决策科学研究所的约翰·肯尼（John Kenny）的采访。肯尼在采访中说道：
“如果我们不理解行为经济学的理论，就不能明白诸如亚马逊、Facebook、Farmville、耐克+、高朋网等数字化网络平台的成功。行为经济学将提供越来越多关于人们行为的洞见，作为制定数字战略的依据。”
2015年4月，亚马逊的杰夫·贝佐斯在致股东的信中表示，“基于销售指导系统，我们利用自动化机器学习技术，稳定生成大量的“微调”（每周通常能生成7000万个以上）”，此举为亚马逊的卖家带来了巨大的业务优势。 很难想象在这7000万个“微调”的影响下，顾客还能充分自由地思考，并做出有悖于亚马逊系统推荐和期待的选择。
Facebook也采纳了卡尼曼和塞勒在行为科学方面的新发现，同时很多广告主利用启发效应间接地在Facebook上打广告，悄无声息地影响着用户的消费决策。2012年，Facebook内部的核心数据科学团队，协同康奈尔大学和加州大学旧金山分校的研究人员做了一项情绪启发式实验。实验对大约70万名Facebook用户在不知情的情况下进行测试，研究如果操纵他们的动态消息内容，他们所发布内容的积极性或消极性会否受到影响。当这项研究在2014年被披露时，大众普遍认为这是一种无法令人接受的心理操纵行为。但Facebook辩称用户在同意服务协议时已经默许了类似实验的进行。
Davide Bonazzi
微软前首席技术官内森·麦沃尔德也曾在2007年参加卡尼曼的高级讲习课。之后，他转职为卡尼曼的咨询公司TGG集团的一名咨询师。该公司的主席则是前花旗集团CEO克拉姆·潘迪特(Vikram Pandit)。根据官网介绍，这家公司旨在“发掘埋没在大数据中的信息”，“设计选择构架”，以及“减少决策中的噪音”(也就是消除组织中因为矛盾的主观判断造成的不一致)。
尽管官网并没有透露出TGG公司的任何一位客户，但早期的文章依然提及他们对接过德意志银行。在如今的商业和金融世界里，行为科学和大数据共同形成了一件极具威力的工具，而卡尼曼也并未因此感到惭愧或者畏惧。刘易斯的书以卡尼曼起居室里的一通电话的铃声作为结束。那是2002年十月的一个清晨，卡尼曼被告知他和特沃斯基一起完成的工作为他赢来了诺贝尔奖。然而，他们的理论正悄然转变整个社会，而我们也在向政府、企业、媒体等提供大量数据，这样的故事才刚刚开始。
在当前的政治竞选中，相较于传统的周密论证，无意识影响被赋予了更大的权重。
去年11月8日的美国总统大选的结果出人意料，它彻底改变了公众对行为科学的印象——它不再是一个“让世界更美好”的童话，而是一个更黑暗的故事。据顾问贾里德·库什纳（Jared Kushner）所言，特朗普的团队在选举中采取了《点球成金》中的策略——数据分析管理。新闻媒体声称，虽然奥巴马和希拉里的团队都使用了社交媒体、数据分析和细分目标群体的方式进行宣传和推广，但根据《福布斯》杂志的报道，“特朗普团队已经在研究信息个性化、情绪操控以及机器学习了”。[4]这种阴险的操控技术即使看起来尚不成熟，也多少反映了剑桥分析公司（Cambridge Analytica，CA）的得意技术。这家公司是英国战略传播实验室公司（British-based SCL Group）在美国注册的分公司，在美国大选时被特朗普团队雇用于进行这种操控。
特朗普的首席战略师史蒂夫·班农(Steve Bannon)是剑桥分析公司的董事会成员之一，媒体认为该公司同样要为2016年6月进行的英国退欧公投的结果负责。该公司的CEO亚历山大·尼克斯（Alexander Nix）做过一个报告，主题为“大数据和心理统计特征的力量”（Youtube上能找到该视频[5]）。在这个报告中，他介绍了剑桥分析公司如何运用大五人格测试和社交媒体上的数据为每个美国人建立“心理简述”( psychographic profiles)——这些模型能够很好地预测人格特质和行为。然而，剑桥分析公司在应用这项技术前并未经过其开发者科辛斯基和史迪威的准许。尼克斯还表示，经过对人格特质的调查和对社交媒体数据透露的“态度”信息的综合分析，针对每一个潜在投票者，他们拥有了四至五千个数据点。这些数据包括人们的信用卡支付习惯、消费偏好、Facebook点赞偏好以及政治参与度。
尼克斯的报告中有一个有趣的“误差”：他一方面表示共有几十万人参与完成了剑桥分析公司的问卷调查，另一方面又声称拥有每一位美国成年人的大量数据信息。显然，要么这是一场单纯的自我吹嘘，要么他们就欠我们一个如何得到这些数据的惊悚故事了。尼克斯还宣称，他们可以通过跟踪Cookies、电信公司数据以及其他媒体工具得到的数据并结合自己的数据，进行极其精准的目标细分。通过行为科学，他们可以发现那些容易动摇的潜在投票者，然后专门投放针对性的信息。
亚历山大·尼克斯
在描述如何用行为科学说服容易动摇的潜在支持者时，尼克斯还举了一个如何防止游客进入私人沙滩的例子。他说，一种方法是在私人沙滩的外面竖一块能表达态度的信息牌，比如：“公共沙滩到此结束，私人领域禁止进入。”更好的方法则是去寻求一种更有力、更能从对方角度劝说的表达方式，例如在牌子上写着：“警告：内有鲨鱼”。尼克斯认为，被鲨鱼吃掉的威胁会更有效。在剑桥分析公司的研究主力行为动力学研究所（Behavioral Dynamics Institute）制作的视频中，他们也表示，直接引发恐惧或欲望的策略是对行为经济学研究发现的延续。但在说服他人的过程中利用说谎或使用所谓的“半真半假的说法”来影响系统1的思考结果，则不够谨慎。
尼克斯声称，这种“基于行为的微精准投放”就是剑桥分析公司受雇于泰德·克鲁兹竞选总统时所使用的策略。但我们也不要忘了，这个引起广泛讨论的视频本身也是一个营销广告。
事实上，正如萨沙·伊森伯格(Sasha Issenberg)在2012年的著作《竞选胜利之数据分析》（ The Victory Lab: The Secret Science of Winning Campaigns ）里所言，行为科学的技巧、信息的微精准投放以及数据分析早已不是政治竞选上的新鲜事了。行为科学的生意里，精准详尽的心理变数档案非常抢手，尼克斯宣称他们自己就在出售这种档案。CA公司在官网上坚称，他们的策略对特朗普的竞选获胜起了很大作用，不过也有人怀疑特朗普团队到底有没有使用这些技术。还有一些人则质疑这种技术是否真如尼克斯所述一样高效。[6]
我们无法证明诸如剑桥分析这样的公司的宣传是否属实，毕竟我们根本不可能找到对照组，只能从充满“噪音”的环境里获得一些模棱两可的观测数据。然而，这也并不意味着，一旦我们更少依赖那些可以在无意识中操纵我们的网络信息，民主就不再受到威胁。
无论剑桥分析公司所声称的到底是真是假，这种公司的真实存在还是揭露了一些重要信息：在当前的政治竞选中，相较于传统的周密论证，无意识影响被赋予了更大的权重。卡尼曼的TGG集团并没有参与这些政治竞选的生意。但根据伊森伯格的说法，2006年，加州大学洛杉矶分校里的一个名为“行为科学家顾问团“的私人团体开始游说民主党人使用行为科学。这个由心理学家克雷格·福克斯（Craig Fox）带领的团队就包括卡尼曼和塞勒。显然，他们之所以秘密运作，正是为了避免公众质疑他们的动机。如今，行为科学的策略已广为人知，无所不在。“宣传”这个词也已经被“基于行为科学的、一种可量化结果的说服性沟通方式”代替。
包括SCL集团在内的一些公司宣称，他们已经拥有合适的武器，能让他们赢得大规模的意识形态斗争。我们可以在线观看SCL集团主席奈杰尔·奥克斯（Nigel Oakes）的一个视频，他当时正代表SCL集团的子公司SCLDefence向美国国务院进行业务展示。他指出，如果一家面向个人的传统广告主能占领所在市场0.6%的份额，那么它可以被认为是非常成功的。然而，战略传播需要向群体宣传。奥克斯认为，在叙利亚战争中，“仅仅得到0.6%的叙利亚人或者0.6%的基地组织成员的支持是没有意义的……我们必须说服完整的群体。”[7]至于具体操作，出于保密需要，展示中的这部分内容没有对外开放。
尽管SCL集团确实有实战经验，奥克斯的豪言壮语还是令人难以置信。SCL集团的史蒂夫·泰瑟姆（Steve Tatham）曾是英国海军中校，他指挥过多场心理战。其中一次，他和驻阿富汗英军指挥官安德鲁·麦基（Andrew Mackay）并肩作战。他们使用说服技术，来“赢得”某些“已被战火夷为平地”的地区的支持，而这些说服技术脱胎于行为经济学，并“在战场上”得到了提升。[8]
他们用到的许多技术，直接来源于卡尼曼和特沃斯基1995年所著《冲突解决：一个认知视角》（Conflict Resolution: A Cognitive Perspective）。 泰瑟姆和麦基也在他们2011年出版的《行为冲突：为何了解民众及其动机将是解决未来矛盾的关键》（ Behavioral Conflict: Why Understanding People and Their Motivations Will Prove Decisive in Future Conflict）一书中描述了这些行为科学如何被应用于阿富汗战争。例如，他们运用前景理论来推测人们的动机，然后意识到对于当地居民来说，避免进一步损失比获得潜在的收益更为重要。所以，重建阿富汗赫尔曼德省的卡贾基水库虽然有重要的战略意义，但比起平息水库周边的叛乱活动，这一计划就无足轻重了——他们有更要紧的事情要做。又如，卡尼曼和特沃斯基对于“群众的智慧”的见解也被用在了阿富汗“舒拉”（人民立法议会）的决策过程，英军希望把舒拉的决策权交给那些“想法正确，但没有权威”的人。
然而，我们并不能仅仅收集和分析那些成功案例的数据，因为其中的心理因素尚不明确，而反直觉的事情又复杂到无法理解。如果一个政党带着坦克、枪支和无人机去说服群众并且群众内部还有意见分歧，最后人民向占领军妥协了，我们无法简单地判断在人民与占领军的合作中，行为学技术发挥了多大的作用。军队如何能用非暴力手段大规模地影响冲突地区的群体行为，目前还没有科学证据。如果有人说某种方法在任意一个国家都能有效地影响大多数民众，那么这种说法肯定没有经过检验。
尽管如此， SCL集团还是宣称，他们已经掌握了在互联网上和战场上两方面的行为规律，并且SCL集团在最近还和美国国务院签署了一个价值50万美元的合同。此外，据《华盛顿邮报》报道，SCL集团正在与特朗普政府协商，讨论有关帮助五角大楼和其他政府机关打击极端组织的事宜。[9]他们还声称他们的相关服务已经获得了全球各国的邀约。毫无疑问，反过来这也将引起世界各地的竞争。
“自由主义家长制”是这样一种幻想：善良的自由派官员掌握着新兴行为科学的工具。这种幻想显得越来越不切实际了。在日渐动荡和不稳的环境中，我们必须加强对行为科学应用的监管，巩固基础研究，并在决定使用或者对抗某种行为学干预之前，首先搞清楚它背后的政治或经济动机。
非理性形式的说服手段明显不是什么新鲜事物。但是许多社会心理学家相信卡尼曼和特沃斯基的原创理论深刻地理解了人性，他们指出非理性具有系统性的无意识的来源，正如弗洛伊德对潜意识的观点被前几代心理学家所接纳的一样。正是因为人们相信社会心理学和行为经济学植根于像上面例子一样坚实的基础研究，这些前沿科学才会被广泛应用，目前全世界范围内正在实施的行为学干预数以百万计。
2011年，当卡尼曼的《思考，快与慢》出版时，有人将其比作笛卡尔、达尔文和弗洛伊德的理论创新。但是，一些哲学家早已对卡尼曼所提出的双系统模型抱有疑虑。 1981年，乔纳森·科恩（L. Jonathan Cohen）发表了一篇《人类的非理性能否在实验中被证明》，他在这篇论文中对卡尼曼和特沃斯基的工作提出了多番批评，其中有一个观点让卡尼曼尤为在意，促使他作出回复。那个观点是：我们很难将直觉与其他认知功能分开；我们即使在理性论证时，也终归要依赖直觉。
卡尼曼驳斥了这样一种观点：有些直觉不能被理性评估。卡尼曼的反驳如下：“人们常常会同时诉诸多个直觉，而它们相互矛盾”。[10]如果我们不同的直觉之间产生矛盾，就必然要用理性的思考来解决分歧（反之，假如再次诉诸直觉，只会增加相互矛盾的直觉数量，而不能解决矛盾）。然而，在他对自己立场的持续辩护中，他没能理解科恩和其他哲学家所说的“直觉”是什么，于是他没能反驳“直觉是理性思维的基础”这一观点。
在《思考，快与慢》中，卡尼曼将系统1的直觉式思维描述为快速且自动的，而系统2的推理式思维是缓慢而有意识的。换句话说，他根据现象来界定什么是直觉判断，具体指标是思维产生的速度和轻松程度。以此来界定，直觉判断就是瞬间的判断。然而，当（科恩等）哲学家描述我们对直觉的依赖时，他们所关心的并不是判断本身的现象学，而是用来界定判断的论据是什么结构。
这些哲学家认为，我们在推理论证终点还是不得不依赖直觉，比如在逻辑学基本规律的论证上，也就是矛盾律和基本的推理规则等问题。如果我们对这些原理尚存疑问，我们将无法完全信服它们。我们只能认为这些基本原理不证自明，才能确立它们的正当性。没有它们，我们就不能进行理性思考。既然我们的任何理性思考全都依赖这些基本原理，我们就不能简单地将某种心理机能划归为“直觉的系统”1或“理性的系统2”。
通过施加非理性影响而造成的行为改变不仅会比来自理性评价的行为改变更具强制性，而且前者也会侵蚀我们理性且批判性地思考社会生活的能力。塑造着社会行为、市场和政治的影响力，其来源越来越无形、越来越无迹可寻。
当我们试图将错误归咎于一组特定的系统偏差，或将其归咎于具体且有缺陷的启发法时，就会出现另一个问题。如果有个人说“可能”“或许”，而我们想要指责他对概率判断错误，我们就需要确保他理解的“概率”就是概率论的“概率”。如果我们想要指责一个人运用了错误的启发法，从而做出错误的概率判断，我们首先必须排除他有某种复杂的信念，比如相信运气、命运或者上帝等。
同样，当人们的判断似乎受到无关刺激的影响而产生不合理的偏见时（例如，提醒我们“人终有一死”，我们就更容易产生风险厌恶（也就是启发效应）），我们首先需要排除大量的潜在因素，才能确定这种不合理的偏见确实是系统1的固有缺陷。如果思维方式难以归结为两个不同的系统（即系统1和系统2），那我们就更难在案例分析中把无意识的偏见、固有的信念和有意识思考之间复杂的相互作用归结为一个可辨识的系统误差。
如果这些反对意见成立，那么卡尼曼在《思考，快与慢》一书中引用的许多心理学实验其实都不可重复。事实上，《思考，快与慢》出版的同一年，心理学领域就出现了可重复性危机，以社会心理学领域尤为严重。心理学家乌尔里希·薛穆马克（Ulrich Schimmack）最近提出来了“可重复性指数”，来分析已发表的心理学结论的统计学意义。乌尔里希·薛穆马克和他的合作者莫里茨·赫尼（Moritz Heene）与卡米尼·科萨万（Kamini Kesavan）已经用该指数来衡量《思考，快与慢》里引用的实验和结论，以预测它们的可重复性，并且为每一章评定一个字母等级。虽然卡尼曼和特沃斯基的研究都有很高的评级，但是其他人的研究评级很低。例如，“启发效应”一章的评级为F。[11]而且据《Slate》所报道，目前已被评级的章节，平均评级为C-。[12]卡尼曼对这些看法作出了礼貌的回应，为自己引用了一些样本容量较小的研究表示抱歉。[13]
这似乎对基于“偏见和启发法”的说服方式构成了严重的挑战。心理学家尚未发现人类心智的基本机制，也还没有找到了控制人心的秘诀。由于人类心智并不是一种单一的机制（或者至少我们还远不能证明这一点），而且它的运作方式极为复杂，到目前为止还没有人能理解，所以他们的研究可能永远不会成功。其中一些被他们认定是偏见的现象，其实可以被重新描述得完全不像是非理性的偏见；另一些则有特定的适用范围。关于系统1和系统2的区分的基本假设是无法维持的。
但这并不意味着我们可以忽视从卡尼曼和特沃斯基的工作中所得出的宣传策略。他们提出的许多说服技巧已经有几个世纪的历史，而且这些方法也普遍被政府、宗教和艺术创作者所使用。然而在现在，这些技术不但受到复杂数据分析的检验，也需要配合复杂数据分析来执行。双系统的观点广为流传，让那些技术显得有了合法性，而不再像以前一样让人觉得是强制手段。于是专家、算法和微调方式就能以“集体理性”的形象展现给世人，在市场和政府有组织的引导下，悄无声息地解决个体非理性制造的乱局。
似乎依照这种模式，“自上而下”地使用系统2，能将我们从系统1的缺陷中解脱出来。如果我们不去区分这两种本应相互独立的思维系统，而是将注意力放在一件事物能否通过理性评判的话，这样我们不难发现：通过施加非理性影响而造成的行为改变不仅会比来自理性评价的行为改变更具强制性，而且前者也会侵蚀我们理性且批判性地思考社会生活的能力。塑造着社会行为、市场和政治的影响力，其来源越来越无形、越来越无迹可寻。
相比之下，社会对克服已被心理学家发现的认知偏见的关注度还不够。目前有的只是为实现遏制极端主义的国家安全目标，用一些手段来对抗证实性偏见等心理学效应。[15]在提供公共教育的广泛的社会实践中，行为科学仍然有可能在培养我们社会中每个人的关键能力中发挥作用。但是，有更多的势力想要利用而非消除人们的非理性，并且各方势力争相利用人们的非理性，竞争激烈，恐怕已经混乱到难以控制。刘易斯通过《抽丝剥茧》讲述了这么一段往事：一对好友满怀希望，志在清除那些已经过时的假设。然而，卡尼曼和特沃斯基自身的思想却漏了出去，不再是他们二人之间的事情——不知将来那些思想又有多少需要被否定呢。
1. Babetski writes: “A target’s biases put the ‘plausible’ in plausible deniability during covert actions. Effective deceptions also fundamentally rely on a target’s unchallenged biases and so make it easy for the target to believe what they already are predisposed to believe. Effective fabricators, especially those with tantalizing access, rely on our biased desire to believe them.” Frank S. Babetski, “Intelligence in Public Literature: Thinking, Fast and Slow,” Studies in Intelligence, Vol. 56, No. 2 (June 2012).
2. The World Well-Being Project’s website states: “Ultimately, we hope that our insights and analyses will help individuals, organizations, and governments choose actions and policies that are not just in the best economic interest of the people or companies, but which truly improve their well-being.”
3. On Kahneman: A Reality Club Discussion on the Work of Daniel Kahneman
4. See Steven Bertoni, “Exclusive Interview: How Jared Kushner Won Trump the White House,” Forbes, December 20, 2016.
5. The Power of Big Data and Psychographics
6. Aleksandr Spectre, of the Cambridge University Psychology Department, worked with SCL Group (and has been involved in a dispute with Kosinski about whether he sold SCL Group Kosinski’s data). He claims that psychographic profiles are in fact too inaccurate to be useful at the individual level, but says that the kind of predicted data yielded by these methods is reliable in the aggregate, that “if you average all the scores for California, say, you get a pretty good estimate of California.” This is because the prediction is unbiased: “You are equally likely to under predict as to over predict.”
7. Nigel Oakes Lecture at CSCC, Department of State
8. Nudgestock 2 – Steve Tatham: Behavioural Conflict
9. Matea Gold and Frances Stead Sellers, “After Working for Trump’s Campaign, British Data Firm Eyes New US Government Contracts,” The Washington Post, February 17, 2017.
10. Response to Cohen, The Behavioral and Brain Sciences (1981), No. 4, pp. 339–340.
11. Ulrich Schimmack, Moritz Heene, and Kamini Kesavan, “Reconstruction of a Train Wreck: How Priming Research Went Off the Rails,” Replicability-Index, February 7, 2017.
12. Daniel Engber, “The Irony Effect,” Slate, December 21, 2016.
13. Kahneman’s response can be found in the comments section of Schimmack, Heene, and Kesavan’s article at the link just cited.
14. David Halpern, who directs the UK’s Behavioural Insights Team, and wrote Inside the Nudge Unit (2015), credits Frederick the Great with being a pioneer in these forms of manipulation. The advertising industry, as described in Vance Packard’s The Hidden Persuaders (1957), and the self-help industry, exemplified by books such as Dale Carnegie’s classic, How to Win Friends and Influence People (1936), have used many of the techniques now embraced by behavioral economists.
15. See Scott O. Lilienfeld, Rachel Ammirati, and Kristin Landfield, “Giving Debiasing Away: Can Psychological Research on Correcting Cognitive Errors Promote Human Welfare?,” Perspectives on Psychological Science, Vol. 4, No. 4 (July 2009).
Tamsin Shaw
纽约大学副教授，致力于欧洲和地中海研究与哲学，在剑桥大学获得学士和博士学位。曾任普林斯顿大学政治系政治理论助理教授、伦敦大学国王学院和剑桥大学的初级研究员，普林斯顿高等研究所社会科学学院的成员。著有《尼采的政治怀疑》（Nietzsche’s Political Skepticism，2007）。
翻译：ZDFFF、阿粟、吴逊
校对：ZDFFF、孙闰孙
审校：关嘉伟 编辑：EON
上一期
新的数学理论表明，意识体和其他宏观实体比它们的微观组件的总和在未来有更大的影响力。
近期热门
神经科学
Neuralink与大脑的神奇未来
Wait But Why长文解析埃隆·马斯克的脑机接口公司Neuralink。
医学
你在医院接受的治疗有可能无效？
当医学证据表明某些治疗无效时，为什么医生仍会坚持使用它们？
心理学
当我们相信不该相信的事情时，我们在相信什么？
为什么人们更乐于为错误的信念、行为、规范辩解，而不是吐故纳新？
语言学
凯库勒问题——语言源自何处？
CORMAC MCCARTHY
神经现实 | 大脑 心智 认知
神经现实是公益的科普翻译小组，致力于译介神经科学和认知科学领域内的深度文章和前沿研究，并关注生物、医学、哲学、技术和社会的发展。我们希望能与读者一起探索大脑、神经、意识、心理、思维、行为、基因、语言和认知，并进入我们未曾真正理解的现实。