（由Eric Wimsatt贡献）
您对曾经被视为朋友的人感到沮丧。 您的工作场所分为“保守派”和“自由派”。 您的家人争辩说哪个新闻台是“假货”。 对于那些支持您不喜欢的政客的人，您已经失去了全部同情。 您曾经认为合理的人在吹捧疯狂的阴谋论。
这是怎么回事？ 而且有什么办法摆脱这种混乱吗？
作为社会科学家，我们清楚地看到正在发生的事情。 我们正遭受大量误传，再加上心理学家称之为“逆火效应”的人类认知趋势。
在消除错误信息造成的损害方面，几乎没有像逆火效应那样严峻的挑战。 布伦丹·尼汉（Brendan Nyhan）和杰森·里弗勒（Jason Reifler）在2010年详细描述了这个术语，描述了人们出现与自己矛盾的证据时，会更加强烈地发掘自己的心理倾向并捍卫信念-包括明显错误的信念。 当您遇到它时，它是如此令人沮丧（通常是在与发疯理论的人争论时），足以让您举起手来。 如果有明确的证据不会改变一个人的想法，我们如何希望我们的分裂国家能够对现实有共同的看法？
我们到处都看到适得其反的效果。 这是党派新闻媒体和脱口秀节目大部分评论的基础。 我们都曾经经历过，可能既是作案者又是沮丧的受害者。 令人恐惧的是，许多理论表明，事与愿违的后果如此有害和普遍存在的原因在于，它是人类认知的一个特征，而不是错误。
要了解事与愿违的后果是如何运作的，我们首先需要了解信仰如何扎根。
我们比“真理”更相信彼此
在过去的几百年中，西方科学已经接受了一种观念，即我们都可以理解的“客观”现实。 我们大多数人都认为，了解客观现实的工作原理（物理定律，化学原理，生物学原理等）是有益的。 但是，对于像我们这样的社会物种，任何信仰价值的很大一部分也取决于它的受欢迎程度。 当我们与邻居达成共识时，我们将和谐相处。 如果我们不这样做，就会发生摩擦。
坚持和拥护信念，尤其是错误的信念，可能是表达对部落的忠诚的非常有效的方法。 属于部落对人类很重要。 这是我们获取资源的地方-社会，物质和经济。 不符合我们小组的信念可能导致我们被边缘化或被抛弃，这对人类来说是一种命运，可以说比命运更糟。 非理性的乐观信念也会在部落内部创造机会，而“现实”的悲观主义往往会遏制共生。 即使在社会环境之外，错误地相信风中的每一个沙沙声都是威胁性的掠食者，它们可以使家庭在危险的环境中生存。
此外，怀疑需要能量。 对于日常生存，当我们让错误信念的熟睡的狗躺下时，我们将以最佳效率运行。 不断地检查，审讯和验证我们的信仰体系正在精疲力尽。 我们的大脑通常会尝试“满足”，以使我们不断前进，做出足够而令人满意的工作。 除非信念的真实性或虚假性立即相关，否则我们没有动力去修改它。
信仰固执的原因与人们固执的原因相同。 如果我们不做任何不必要的更改，则管理我们的身份（部落，信仰系统等）所需的精力就更少。 在这种情况下，我们的身份就像其他生物和工程系统一样起作用。 管理我们的身份就像管理我们的恒温器。 为了保持适当的温度，您不必一直把手放在HVAC控制器上，而是每秒进行微调。 您设置了理想的温度范围，这样当温度低于或高于该范围时，系统将加热或冷却。 同样，通过我们的身份，我们对符合我们正常范围并保持和平的行为和信念有所了解，直到我们面临行为或信念威胁该范围的情况为止。 在那些时刻，我们可能会说我们在我们身旁，在我们身外，或者根本就不在我们自己。
为什么您在Facebook上打败战役
试图通过Facebook辩论让某人改变主意通常是浪费时间。 除非该人将自己的身份押在谨慎和开放新信息上（就像许多科学家一样），否则他们不会改变主意。 当受到压力时，他们将改换主题，大喊他们小组的口号，或者-正如“事与愿违的效果”所预言的那样-用更大的力量重申他们的原始立场。 要求别人改变主意，除非他们认为智力上的灵活性是其身份的关键组成部分，就像要求他们手动调节暖气或空调一样。 真痛苦 有时间时，他们可能偶尔会喜欢修补。 但是他们不希望它在他们身上如雨后春笋般涌现，当然也不会被那些将他们当场的人公开展示。
我们大多数人同样也很高兴尝试调节他人的加热器-而且我们似乎对此更加熟练。 正如Lord，Ross和Lepper在1979年的一项研究中发现的那样，人们更有可能在他们不同意的文章中发现逻辑错误和其他方法错误。 这种对确认偏见的推论，使我们倾向于轻信与我们的信仰体系相符的事实，从而完善了抵制变化的心理学。
你能反驳适得其反的效果吗？
当我们在互联网上遇到错误的东西（被证明，伪造或危险的东西）时，我们该怎么办？ 这个问题并非源于纯粹的小烦恼。 我们的社交媒体错误信息问题已经改变了主要选举结果，造成了严重伤害，并可能产生历史性后果。 情况很糟糕。 而且我们不能只是放弃。
但是，与人类心理作斗争也不是答案。 与抵抗者进行反动可以调动我们抵抗者的意愿。 人们只是在脚后跟挖得更深。 他们坚信。 但是也许有一种方法可以阻止人们首先形成如此多的虚假信念。 也许在这种情况下，一盎司的预防值得一磅的治疗。
历史为希望提供了一些理由。 尽管很难通过与他们争论来迅速改变人们的信念，但是教育是有效的。 在整个民主社会的最近几十年中，公立学校明确地教导了包容和沮丧的身份的价值，这些身份是建立在对历史上处于不利地位的人群的仇恨周围的。 这种对彼此的更人道关怀的转变欺骗了父母，父母激励他们保持自己的孩子认为良好和受人尊敬的身份，因此，我们看到了公众舆论的转变。 我们甚至目睹了政治家和宗教领袖，他们的生计和身份依赖于不改变主意，来支持他们建立自己的事业的想法。 像这样的海洋变化，以及其他的变化，例如几乎废除了奴隶制和赢得妇女的选举权，都需要数十年来全社会的努力。 但是，这些转变都没有发生，因为“领导人”失去了公开辩论并改变了主意。
现在，我们的群众社会比以往任何时候都更接近提供个人自由和安全，同时保持一种社会结构，使我们所有人都可以在我们愿意时进行协调与合作-民主共和主义的梦想。 这种织物现在感觉很肮脏和破旧。 但是在历史背景下，我们目前面临的挑战很小。 当我们面对奴隶制时，我们面对的是一系列连贯的（和可怕的）信念，这些信念支撑了整个国际经济。 目前，我们正面临着成千上万个不协调的错误，夸大和错误的推论，这些人将人们引向不同的方向并污染了我们的共同立场。 这是一个糟糕的情况。 但是我们比这更大-更大。
在Goodly Labs，我们知道解决问题需要了解它们。 我们不能仅仅通过与过去的胜利者联手或采用他们以前成功的方法（无论是游说运动，街头抗议还是静坐）来解决今天的问题，就获得成功。 当我们了解人类心理学如何确认并保护一个人的信念时，我们意识到，辩论个人想法是一个失败的主张。 从某种意义上说，抵抗是徒劳的。
但是，针对错误信息问题的一种真正解决方案-尊重并避免强大的适得其反的效果-可以部署了。 它被称为公共编辑器，可以合理地描述为文明的第一个BS检测器。 我们相信它会起作用，是因为它在设计时充分了解了信念的形成方式，其价值在很大程度上由社会确定，以及信念一旦扎下根深蒂固就难以根除。
公开编辑
严格来说，公共编辑器不会尝试直接抵消或解决事与愿违的后果。 例如，它没有提供直接改变人们在社交媒体上的想法的方法。 大多数人的社会心理系统会立即停止任何此类干预。 取而代之的是，公共编辑的工作原理是在新闻阅读器第一次遇到错误主张时就引入疑问，从而防止错误观念首先扎根。 这种方法之所以行之有效，是因为人们通常会在我们将新思想采纳为信念之前，先对其进行回顾。 我们将任何新想法与我们现有的信念进行比较，对其进行修改以适应需要，并在（有意识和无意识地）考虑如何将其应用于各种情况或与他人共享时进行了数周的演练。 研究表明，这种整合和排练期对于采用信念至关重要，甚至发现在引入新想法几周后产生的反效果比紧接其后的时刻更强。 信念一旦得到很好的整合，就很难放弃。
从新闻阅读器的角度来看，公共编辑器很容易被欣赏。 它的浏览器扩展插件装饰了任何新闻报道（在您阅读时），并带有标签，指出作者或出处在哪些地方犯了认知错误，论据性谬论，推断性错误或语言或语气错误。 在这种情况下阅读，您可以轻松地将错误的信息排除在脑海中。 公共编辑器将帮助您避免经常通过社交媒体传播的逻辑飞跃，夸张的言论和虚假结论。
对于自以为是的人或想成为解决方案的一部分的人，Public Editor提供了一种比论证更有效的工具，可帮助您传播支持采用识别的行为规范。 通过为志愿者提供任务和徽章，并通过培训和奖励人们对新闻内容的评估，公共编辑激发了我们去认识和表现“区别”和“中立”的优点。 最后，公共编辑为新闻阅读器提供了一个支持者加入的社区，这是我们许多人厌倦认同的政治部落的替代方案。
（如果有很多有钱的基金会，政府和技术公司正在阅读这篇文章，他们也许能够凑足几百万美元来扩大规模以在全国范围内使用，我们可以使用帮助。到目前为止，它已经被发明并由负担大量学生债务的非营利性数据科学志愿者组成的庞大团队开发。）
预防是治疗
“事与愿违的后果”是真实而强大的。 与之抗衡几乎没有用。 但是使用Public Editor，我们有一个短路它的工具，可以防止错误的想法首先扎根。 这是一个依靠志愿劳动运行的系统，因此它还有助于使人们融入社区中，使他们能够获得社会支持，以发展我们在信息繁重的社会中更需要的美德。
抵制与您所争论的人不友善的冲动。 相反，首先要帮助公共编辑阻止谎言传播到他们的脑海。
