为了抵制假新闻的传播，管理和过滤其传播比试图阻止其创作或试图使人们免受其影响更重要。
《纽约时报》最近发表的一篇关于内部人士对Facebook选举“作战室”的看法强调了这个问题，并引用了网络安全专家Priscilla Moriuchi的话：
如果您看看过去两年来外国影响力运营发生了什么变化，那么他们的关注点就不再是传播假新闻了。 “这是在增加已经存在的，对超党派听众说话的故事。”
因此，为应对新近承认的虚假新闻危机，俄罗斯虚假信息以及我们社交媒体中其他形式的破坏而做出的越来越多的努力未能解决问题的核心。 我们不能通过试图使系统远离假新闻来解决问题，也不能期望从根本上改变人们对认知偏见的自然倾向。 核心问题是我们的社交媒体平台缺乏有效的“认知免疫系统”，无法抵抗我们自己传播在我们的社会信息环境中流行的“认知病原体”的趋势。
考虑一下生物体如何进化以控制感染。 我们这样做不是通过开发可以依靠来阻止所有感染的不可渗透的皮肤，也不是通过使我们所有的细胞都变得如此无害以至于它们可以抵抗任何不可预测的传染原。
通过开发深深嵌入整个组织的细微差别的内部免疫系统，我们对这些方法所提供的功能进行了有力补充。 该免疫系统在整个系统范围内使用紧急过程-首先学习识别疾病的危险因素，然后学习在它们试图通过我们的系统传播时如何抵抗它们的复制和毒力。
问题在于我们的社交媒体缺乏这种有效的“认知免疫系统”。
实际上，我们的许多社交媒体平台都是由经营它们的企业设计的，以最大程度地提高参与度，以便他们可以销售广告。 通过这样做，他们了解到，传播煽动性的谣言使人们感到愤怒和沮丧，使他们两极分化为交战的派别，从而增加了他们的参与度。 结果，这些平台实际上学会了传播疾病而不是增强免疫力。 他们学会了利用人们具有认知偏见的事实，使他们希望被舒适的滤泡和感觉良好的回声腔所包围，并忽略和反驳任何可能挑战错误但舒适的信念的事物。 它们不利于我们的人类价值观，而不是为了他们。
我们在做什么呢？ 我们是在解决这个深层的豁免问题，还是只是在贴上创可贴，希望我们可以教人变得更聪明？ （作为一个相关问题，我们是否正在解决商业模式激励的根本问题？） 当前的工作似乎集中在社交媒体系统端点的措施上 ：
- 从源头上杜绝虚假信息 。 我们当然应该应用创可贴，以防止不良行为者向我们的媒体注入新闻，帖子和其他故意虚假和不诚实的内容。 当然，我们应该设法阻止此类物品和注射它们的人。 当我们发现细菌进入的开放性伤口时，创可贴非常有用。 但是创可贴仍然只是创可贴。
- 使个人更容易识别何时收到的物品可能有害，因为它们不是它们的外观 。 我们当然应该以类似于消费者报告的商品，发行者或生产者的评级（许多人都想这样做）的形式提供“免疫标记”。 使此类标记对用户可见可以帮助他们更加怀疑，甚至可以应用更批判性的思维-就像应用防腐剂一样。 但这取决于使用者是否愿意注意此类标记并使用防腐剂。 有充分的理由怀疑，鉴于人们天生的懒惰和快速思考而不是缓慢思考的本能，其效果将不只是适度。 （许多社交媒体用户仅根据点击诱饵标题“喜欢”这些项目，这些标题经常具有煽动性和误导性，甚至没有阅读该项目，通常足以使这些项目大量传播。）
这些端点措施是有帮助的，应积极采取，但我们需要紧急寻求更系统的防御策略。 我们需要解决传播和扩大本身的问题。 我们需要更加明智地传播什么-从谁，向谁以及为什么传播。
这样做意味着深入了解如何通过连接我们的媒体系统的“病毒”放大层，逐步过滤和传播我们的媒体。 这意味着将认知免疫系统整合到我们的社交媒体平台的核心中。 让平台所有者接受这一挑战将具有挑战性，但这是唯一有效的补救措施。
建立认知免疫系统–生物平行
这种观点来自我数十年来一直从事的工作，并在此博客上（以及自公开发布以来的专利申请中）写过。 该工作的重点是通过计算机支持来增强人类智能的想法。 更具体地说，它的重点是增强人群的智慧。 基于这样的思想，我们的智慧并不是多数表决的简单结果，而是源于应用智能过滤器对评分者进行评分和加权评分的新兴过程。 这提供了一种方法来了解哪些选票应该比其他选票更平等（这是民主和平等的，但也是基于功绩的）。 下面列出的帖子中介绍了这种方法。 它扩展了已经发展了数百年的方法。
为了支持这些观点，我最近转向了一些使用“认知免疫系统”一词的生物免疫研究。该研究突出了实际免疫系统的丰富信息方面，作为理解这些系统如何在系统水平上运行的模型。 正如一篇论文所述（请参阅下面的更多摘录*），生物免疫系统在概念上是“认知的，适应性的，容错的和模糊的。”我只是在这里开始思考相似之处，但是很明显，系统架构我在其他文章中提出的建议至少大致上是平行的，在概念上也是“认知，自适应，容错和模糊的。”（当然，“概念上模糊”使得解释和构建不是最容易的事情，但是当（这是问题的固有本质，也可能必然是解决方案的本质-就像对生物免疫系统一样。）
我称之为“真理之道”的一个重要方面是“概念上模糊”。 我们不能在摘要中明确地将善意的“语音”声明为“假”或“假”。 有效性是“模糊的”，因为它取决于上下文和解释。 （“模糊逻辑”认识到在现实世界中，事实常常并非完全正确或错误，而是具有一定程度的事实。）这就是为什么只有最明显的虚假信息才能安全地被切断的原因。来源。 但是，我们可以开发一个健壮的系统来对语音的可能（模糊）价值和真实性进行排名，修改这些排名，并以此来决定如何与他人共享。 出于实际目的，真理是一个过滤过程，我们可以更加聪明地了解如何运用集体智慧进行过滤 。 看来免疫系统中“危险”和“自我/非自我”的概念也有类似的道：许多微生物组的非“自我”居民对我们都是有益的，而且我们的免疫系统已经知道我们与他们一起生活在我们内部更好。
我的建议
我为认知免疫系统提出的体系结构的详细信息及其需求如下：
- 增强的人群智慧：给评分者评分，给评分加权 —社交媒体（以及更广泛的数字民主）的总体架构，其中包括“概念上是认知的，自适应的，容错的和模糊的”认知免疫系统。
- 假新闻之道 -我们逻辑中模糊性的基本需求：专家，主持人和评级机构的固有局限性-以及需要增强群众智慧的需求（这对于保持我们的民主/启蒙价值观的思想开放性至关重要）。
- 偶然性过滤—极端主义，“过滤器气泡”和“令人惊讶的验证器” -拥抱模糊性/道的真理的特定方法，可以打破我们过滤气泡的认知偏见（也可以帮助解决增加偶然性的相关问题）。
（这些工作并未明确解决与生物认知免疫系统的相似之处-探索这些相似之处很可能会导致这些策略的改进。）
对于那些没有现代信息平台技术背景的人来说，这个简短的概述似乎是抽象且不清楚的。 但是，正如在这些更详细的帖子中所指出的那样，这些方法是Google（在其PageRank算法中）使用近似的评估者评分和加权评估策略对搜索结果进行高度上下文相关的过滤的方法的概括。 （这在概念上也是“认知的，自适应的，容错的和模糊的。”）这些方法并不简单，但是与当前搜索引擎的计算方法或Facebook已经开发的广告定位方法相比，它们所占的比例很小和别的。 如果可以激发平台的积极性，便可以轻松地应用它们。
支持我们的认知免疫系统的广泛问题
这样做的动机问题至关重要 。 对于我认为要有效的那种认知免疫系统，必须将其深深地构建到我们的社交媒体平台的内胆中（无论是直接还是通过API）。 如上所述，获得现有平台来改变其业务模式以使其内部激励措施与该需求相一致将是具有挑战性的。 但是我建议它不必看起来那么困难。
- 有关调整激励措施的一些创新策略，请参阅我 给关注Facebook和其他平台的有影响力人士的公开信 。
许多人已经注意到的一个相关的非技术性问题是，需要对公民进行教育：1）进行批判性思维，2）在我们民主国家的公民中进行教育。 近几十年来，两者似乎都被严重忽视了。 积极地进行补救很重要，这有助于使用户免于虚假信息和草率的思考-但这将具有有限的效果，除非我们改变信息流的绝大多数动态（使用此处建议的认知免疫系统），否则将使我们变得更聪明，而不是面对如此泛滥的信息而感到愚蠢。
— — –
*背景 -从上述论文的引言“ 免疫系统反应启发的认知计算模型 ”（强调）：
免疫系统（IS）本质上是一个高度分布式，自适应且自组织的系统，可以保留对过去的遭遇的记忆，并能够不断了解新的遭遇。 整个免疫系统被解释为一种智能主体 。 免疫系统与中枢神经系统一起代表自然界中最复杂的生物系统[1]。 本文旨在研究和分析免疫系统反应（ISR），以期建立一个受ISR启发的框架。 该框架保持与IS本身相同的功能； 它在概念上是认知的，自适应的，容错的和模糊的 。 本文为ISR依次设置了三个阶段，即“识别”，“决策”和“执行”，以及另一个并行运行的阶段，即“成熟”。本文将这些阶段作为组成部分进行详细介绍。基于架构的模型。 然后，我们将为受ISR启发的新型混合和认知架构提出建议。 如ISR仿真所示，该框架可用于跨学科系统。 然后，我们将转向复杂自适应系统的高级体系结构。 作为一流的自适应系统，IS在身体环境（抗原，身体细胞和免疫细胞）上运行 。 ISR随时间而成熟并丰富了自己的知识库，而上下文和知识库都不是恒定的，因此即使免疫系统遇到相同的抗原，反应也不会完全相同 。 本文将讨论广泛的学科，包括 人工智能，计算免疫学，人工免疫系统和分布式复杂自适应系统 。 免疫学是生物学领域中公认的计算和数学建模与分析角色之一。
本文假设免疫系统是一种认知系统； IS具有对我们身体中具体事物的信念，知识和观点 （是从不断发生的紧急过程中创建的） ，这使IS能够对信息进行抽象，过滤和分类以做出正确的决策 。
