《关于信息完整性研究和开发优先事项的路线图》【信息战】2022.12最新73页报告，美国家科学技术委员会

范围

本文件在信息完整性研究和开发领域建立了一个联邦路线图。其目的是承认当今科学知识的差距，使研究界对联邦未来的研究重点有一个共同的认识。这些优先事项使政府内外的研究人员能够调整研究工作，确定富有成效的协调机会，并与各类社区合作，以保护基本自由和人权的方式探索信息完整性领域。

重要的是，本文件不是一个政策指令。它没有对管理数字信息生态系统的法律或法规作出任何决定或建议，也没有采取任何政策立场。相反，它的目的是激发研究，以加强信息生态系统在开放的思想交流中的作用，使健康的辩论和自由的表达蓬勃发展。

背景

准确和可靠的信息对人民和社会的福祉至关重要。被操纵的信息会对国家安全、民主进程、经济福利和发展、环境和自然生态系统、地方和国家危机应对工作、人权和保护、国内外的暴力和极端主义、医疗保健系统以及人们的个人健康和福利产生不稳定和有害的后果。快速的技术进步、真正的不确定性、坚定的外国对手或竞争者以及互联网规模的人机互动创造了复杂的动态，使这些风险变得更加复杂。

现在，数字互联性使数十亿人能够以前所未有的速度和规模交换信息。现在，许多人可以接触到数百、数千、甚至数百万人，这改变了信息流动的方式和传统的高完整性信息来源的运作方式。一方面，大规模的连接使建立支持系统、交流思想和实现集体目标的新机制成为可能；另一方面，当个人、公司和机构缺乏辨别可信信息和被操纵信息的手段以做出正确的决定时，欺诈、骚扰、剥削、安全隐患、犯罪、健康风险和其他类型伤害的机会就出现了。虽然操纵信息不是新事物，但其传播和影响因现代数字环境和使操纵信息蓬勃发展的动态因素而大大加剧了。新的和强大的人工智能技术可以被用来产生难以察觉的欺骗性内容，平台可能会放大被破坏的内容，而人们可能会无意中传播被操纵的叙述。

此外，与被操纵的信息有关的伤害影响到所有年龄、国籍和信仰的人；所有文化、民族和种族背景的人；所有性别的人；以及所有政治光谱的人。危害的确切性质各不相同。一些群体的风险较高，包括美国老年人，仅在2018年就经历了1.84亿美元的欺诈损失，以及退伍军人，包括军队退休人员，他们在2020年向联邦贸易委员会报告了6600万美元的欺诈。 其他人可能会从在线骚扰或虐待中经历更严重的影响，这对妇女、少女、LGBTQI+个人以及那些因为种族、民族、宗教或其他因素而成为额外目标的人影响更大。需要了解风险因素、普遍性和伤害的性质，以探索和验证减轻风险和解决潜在伤害的策略。

重要的是，要承认社交媒体公司、新闻机构和政府部分人员为向公众提供高诚信度信息所做的复杂工作。同样重要的是要承认，在某些情况下，这些努力是不够的，有时会加剧误解，引起对言论自由的关注，或造成意想不到的后果。对这些可能的后果进行范围界定，同时承认信息生态系统是动态的、复杂的，有时甚至是不可预测的，这对减轻危害至关重要。

认识到这些复杂性和广泛的风险，拜登-哈里斯政府明确表示，为了维护民主原则和保护公共安全，有必要对有可能造成危害的信息操纵行为进行研究，同时坚定地维护美国的公民权利和自由，包括第一修正案的权利。此外，前几届政府和国会的两党联盟都认为这些问题至关重要，采取了重要行动来调查和解决与信息操纵有关的风险。在白宫科技政策办公室的领导下，与国家科技委员会一起，并与国家安全委员会和国内政策委员会协调，成立了一个机构间工作组（IWG）。IWG与不同的联邦部门和机构一起，通过信息请求（RFI）从公众那里收集关于这些问题的信息，并听取了来自政府、私营部门、研究团体和社区组织的几十名成员的情况介绍。其主要目的是更好地了解与被操纵的信息相关的风险，在真正不确定的情况下交流高完整性信息的复杂性，知识和技术能力方面的差距，以及保障公民权利和自由的战略。

作为长达一年的研究结果，本文件为研究人员制定了一份与信息完整性研究和开发有关的优先事项路线图，以了解缺乏高完整性信息如何导致有害结果，以及哪些研究可以帮助解决这些挑战。该路线图为联邦资助的信息完整性研究（包括校外和校内）确立了目标，为协调信息完整性的研究和开发（R&D）提供了一个结构，并鼓励多学科研究，承认公共和私营部门的责任。路线图反映了不同政治派别的政府雇员的观点，并承认一些研究问题将受益于整个研究过程中更广泛的社区参与，以使研究问题与公众利益保持一致，并对公众关于理想的信息完整性水平、实现自由表达的方法和对人权的尊重的观点做出反应。

本路线图不对管理数字信息生态系统的法律或法规做出任何决定或建议，也不主张使用任何特定的方法或行动来应对信息完整性挑战。相反，它的目的是推动科学发展，扩大政府雇员和政策制定者、企业家和公司、个人和社区组织、教育工作者、非营利组织和外国合作伙伴的循证选择的数量，以加强信息生态系统在健康辩论和自由表达蓬勃发展的公开交流中的作用。

目标

信息完整性研发应侧重于了解人们如何辨别高完整性（即真实、准确、可信、透明的审查）和低完整性的信息和信息生态系统，如何应对不确定或模糊的信息，如何减轻和恢复信息操纵的影响，以及如何享受开放的信息生态系统的好处（见第1.6节和本文所用术语的解释）。同时，本路线图优先考虑的研究必须寻求为社区提供理解，以加强信息交流的完整性和美国社会在整个信息生态系统中维护基本自由。同样，它应该为人们和系统提供工具，使其能够有效地运作，即使在信息被操纵的情况下。为了实现高完整性的信息生态系统的愿景，研究应该集中在以下目标上。

• 完整性评估。加强人们用来或希望用来辨别高完整性和低完整性信息的方法、叙述和信息生态系统的特征。

• 危害缓解。识别可用于防止或减少信息操纵所造成的可避免的伤害的策略，并评估其在不同人群、文化、社区和伤害类型中的有效性。

• 复原力。确定使人们更容易在可能有问题的信息背景下进行操作的技能和策略，加强沟通策略和工具，使社区能够在开放的信息生态系统中逐步实现并保持适当的信息完整性水平，即使在存在不确定性或主动操纵的情况下。

• 高质量的证据。收集严格的经验证据，以评估旨在应对信息完整性挑战的战略和技术；向决策者明确传达高质量的证据，为制定相关的公共政策、组织层面的沟通过程以及关于采用、加强或淘汰哪些技术的决策提供信息。

研究优先级

为了实现这些目标，本路线图为促进和推动信息完整性科学及其在现实世界中的应用确定了研究重点。这些研究重点涉及信息完整性方面的广泛关注和挑战，描述了基础研究、使用启发研究、转化研究和成果研究的关键目标，以及为政策和实践提供信息的战略。预计各个联邦机构将根据自己的专长专注于研究重点的子集。因此，贡献机构将根据他们的重点和任务来制定和交流他们的优先事项。

总的来说，这些研究重点寻求回答这些问题。

1.信息生态系统中的人类、社会、技术和系统因素如何影响信息创造、交流和消费的完整性，以及如何通过建模、测量和分析来加强对基本机制的理解？

2.哪些保障措施、技能和策略可以帮助遇到被操纵的、误导的或不确定的信息的人，其风险和好处是什么，其有效性在不同的环境、文化、信息来源和人群中如何变化？

3.技术如何能使社区更容易促进和维持高集成度的信息生态系统？

4.哪些方法和工具可以帮助人们在保护第一修正案和人权的同时，识别、减轻、回应或主动揭穿被操纵的信息运动？

5.数据访问、研究基础设施和伙伴关系如何能够加速并提高信息完整性研究的严谨性？

6.信息完整性研究产生的知识和见解如何能够以帮助整个社会的方式为政策和实践提供信息？

以下六个研究重点试图解决这些问题。

研究重点1：分析、建模和测量信息生态系统。推进信息完整性科学需要模型和测量，用它来实例化、评估、迭代和改进信息生态系统的理论。计算机科学、认知科学、经济学、流行病学、语言学、政治学、心理学、社会和行为科学以及其他相关学科已经开发了方法、模型和理论，为信息生态系统的不同方面提供解释。推进信息完整性科学的一个挑战是将相关的方法、模型和理论联系起来，以捕捉系统中的相互依存关系，并解释出现的新情况，包括与信息供应链、激励结构、人类元素和技术组件有关的机制。需要跨学科的理论来推进科学理解，并提出研究问题，从而找到有效和高效的方法来减轻危害，支持信息完整性，并加强对信息操纵的抵御能力。需要在测量方面取得重大进展，以了解信息生态系统，测量跨媒体平台的动态，探索信息生态系统如何连接不同的人群，并评估减轻操纵信息的策略。

研究重点2：研究协助人们的保障措施。被操纵的信息很容易产生，可以在大范围内自由传播，而且不容易从源头上阻止。鉴于这些现实，研究帮助人们、社区和组织--包括那些遇到被操纵信息的人和应对被操纵信息运动的人--的保障措施至关重要。我们需要进行研究，以确定保障措施、技能和策略，以减少人们对被操纵信息的脆弱性，并使人们能够成为精明的信息消费者。重要的是，保障措施还必须尊重信息生态系统中的参与者的自主权，保护自由表达，并支持人们对信息进行知情和独立评估。需要研究在学校和其他正式的学习环境之外使个人和社区熟悉数字、媒体和信息素养的机会，以及如何使这些支持机制适应个人和社区的需要。

研究重点3：构思技术方法以加强高集成度的信息交流。信息生态系统中的设计决定会产生预期和非预期的效果，影响被操纵信息的产生、流行和持久性。例如，有证据表明，隐藏的设计特征，如内容可以被重新分享的次数或表情符号反应对内容传播的影响，可能会以用户看不见的方式影响被操纵信息的流行和范围。同样地，平台设计元素也有助于感知到的两极分化。这些经验性的发现提出了这样的问题：技术如何能更好地实现社区分享观点和汇聚到高完整性结论所需的信息交流类型。关键问题包括：技术如何帮助社区在开放的信息生态系统中建立和维持高完整性的交流，来源追踪技术如何帮助设计可信的信息渠道，以及用户定制如何使人们能够以吸引对对话有真正兴趣的用户的方式来影响信息生态系统，从而追求高完整性的理解。还需要对生态系统设计和信息完整性属性之间的因果关系进行更多的研究，包括对结果指标、算法设计以及设计选择、社会效益和与被操纵信息有关的危害之间的机理关系进行基础研究。

研究重点4：了解应对受操纵信息运动的有效策略。传播被操纵信息的运动值得特别关注，因为它们具有动态性，并不断开发新的策略来规避检测和测量。例如，深度造假技术使创建虚假身份变得非常容易，需要取得进展，以防止人们伪造政府身份，防止外国行为者在网上冒充美国人，以及防止不良行为者欺骗政府或公众。全球数字连接、沉浸式信息技术和广泛使用的数字营销技术的扩展使受操纵信息产业迅速增长。由外国、犯罪组织和其他恶意行为者发起的运动，由于战术和造假技术的快速发展，带来了复杂的技术挑战。在信息领域恶意行为者扩张的同时，越来越需要建立机制来解决导致伤害的信息运动，如负面的健康结果、金融盗窃、激进化、破坏国际联盟和民主进程的退化。需要人机合作的方法来实现早期预警、主动宣传和减轻广泛的伤害，既要改善与有可能成为目标的社区的沟通，又要迅速适应对手的策略。有效的方法必须解决传播被操纵的信息的低成本与预测、减轻和补救这种被操纵的信息和运动的影响的高成本之间的不对称问题。 需要研究了解操纵信息的动机，以及如何对操纵信息的活动施加成本，以阻止其启动。研究还需要一个多模态的视角，因为这些活动在众多的网络平台、电视、印刷和电子媒体以及线下渠道中流动。最后，跨学科的方法仍然至关重要，包括人工智能、国家安全、经济学、教育科学、行为和社会科学，以及与被操纵信息的目标人群相关的专业知识领域。

研究重点5：促进数据访问和伙伴关系。信息完整性研究的重大进展将需要关于低完整性和高完整性信息在多种模式、平台和渠道上的生产、传播（例如，数字路由）和消费的全面、纵向数据。与公共卫生或金融等领域的影响类似，研究将受益于联合体，联合体允许许多相关方--平台公司、研究人员、监管者和最终用户--以协调、负责、保护隐私和透明的方式汇总数据、工具、方法和洞察力。这种研究联合体需要解决与信息完整性生态系统有关的问题，如充分保护专有信息、个人身份信息和其他类型的敏感数据，以及旨在破坏参与研究者的欺骗性叙述的风险。此外，这种研究联合体必须考虑到第一修正案和人权因素，并承认私营公司在如何处理信息完整性问题上保留最终的自由裁量权，但要受到适当的法律约束。

研究重点6：将研究与政策和实践相结合。最终，合作关系应该超越数据的透明度和测量，以改善结果，如提高公众对如何减少信息操纵的认识。需要多种研究方法，包括基础研究人员提供健全的测量技术和可推广的知识，使用启发研究人员为新的原型消除风险，转化研究人员为政策制定者和实践者增加这些原型的效用，以及结果研究人员在真实世界的背景下测量纵向效果。

本路线图最后提出了一个行动计划，确定了公共和私人组织在信息完整性研发中的潜在作用，并描述了信息完整性研发界及其合作伙伴需要考虑的具体行动。