《可解释人工智能在多域作战中的智能增强》美国陆军、IBM、卡迪夫大学等论文

2022 年 11 月 2 日 专知

多域作战（MDO）概念的核心是利用由分布在多个合作伙伴之间的远程和自主传感器以及人类智能组成的重叠系统的情报、监视和侦察（ISR）网络。实现这一概念需要人工智能（AI）的进步，以改善分布式数据分析，以及智能增强（IA），以改善人机认知。本文的贡献有三点。(1)我们将联盟态势理解(CSU)的概念映射到MDO ISR的要求上，特别关注对有保障和可解释的人工智能的需求，以便在资产分布于多个合作伙伴的情况下进行强有力的人机决策。(2) 我们提出了MDO ISR中人工智能和IA的说明性情景，包括人机合作、密集的城市地形分析和增强资产互操作性；(3) 我们评估了与情景相关的可解释人工智能的最新进展，重点是人机合作，以实现更快速和敏捷的联盟决策。这三个要素的结合旨在展示CSU方法在MDO ISR背景下的潜在价值，基于三个不同的用例，强调了在多伙伴联盟环境下对可解释性的需求是如何的关键

引言

多域作战（MDO）需要在有争议的环境中，针对近邻对手，在多个领域--从密集的城市地形到空间和网络空间--开展行动的能力、能力和耐力（美国陆军2018年）。MDO作战环境的一个关键特征是，对手将在所有领域、电磁频谱和信息环境中进行争夺，而盟军的主导地位是无法保证的。敌人试图通过在时间上、空间上、功能上和政治上等多个方面将友军分开来实现对峙。通过降低盟军的识别、决策和行动的速度，以及通过多种手段（外交、经济、常规和非常规战争，包括信息战）瓦解联盟来实现对峙。在这种情况下，快速和持续地整合收集、处理、传播和利用可操作的信息和情报的能力变得比以往任何时候都更重要。

为了应对这一挑战，MDO中的分层ISR概念设想利用 "与合作伙伴开发的现有情报、监视和侦察（ISR）网络。...由远程和自主传感器、人类情报和友好的特种作战部队的重叠系统组成'（美国陆军2018年，第33-34页）。在空前激烈的竞争环境中实现ISR资产的价值最大化，需要有能力在合作伙伴之间共享资源--在作为联合、机构间和多国团队的一部分进行的行动中--在一个可控但开放的联盟环境中，以可知的信任和信心水平。

人工智能（AI）和机器学习（ML）技术被视为实现MDO中分层ISR愿景的关键："迅速将数据传播给采用人工智能或其他计算机辅助技术的野战军或军团分析小组，以分析大量数据"（美国陆军2018年，第39页）。事实上，MDO环境的要求被视为需要一种能力，以超过人类认知能力的速度和规模，融合包括ISR在内的多个领域的能力。强大的、可互操作的人工智能/ML被认为是融合来自多种资产的数据并在行动伙伴之间传播可操作的知识以告知决策和任务完成的关键（Spencer, Duncan, and Taliaferro 2019）。

总之，挑战是使人类和机器智能体（软件和机器人）能够在联合、机构间、多国和高度分散的团队中有效运作，arXiv:1910.07563v1 [cs.AI] 2019年10月16日在分布式、动态、复杂和杂乱的环境中。从人类的角度来看，人工智能和ML是克服人类因操作速度和规模而产生的认知限制的必要工具，其目的是增强--而不是取代--人类的认知和决策。在这里，我们把智能增强（IA）看作是对人工智能的补充，正如在人工智能历史的最早时期（Engelbart 1962）所设想的那样。我们专注于由人类和AI/ML智能体组成的快速形成的联盟团队，在网络边缘运作，具有有限的连接、带宽和计算资源，发挥决策作用，例如，陆军士兵在密集的城市环境中。然而，大部分的讨论也将适用于其他领域的一系列其他角色，例如，进行网络领域决策的情报分析员。

我们之前在一个相关的背景下研究了这一挑战：联盟情境理解（CSU）（Preece等人，2017年），其中我们确定了人机协作中两个特别重要的属性：可解释性以支撑信心，可讲述性以提高操作的灵活性和性能。本文主要关注其中的第一个属性，但也涉及到第二个属性。我们首先在MDO背景下重新审视了CSU的概念，然后研究了该概念在三个MDO小故事中的应用：人机协作、密集城市地形分析和增强资产互操作性。最后，我们评估了与小插曲相关的可解释人工智能的最先进技术，强调了分层解释的概念（Preece等人，2018）是如何与MDO分层ISR中的人工智能/ML保证需求相适应的。

在继续之前，我们退一步指出，MDO环境的关键特征--（i）快速变化的情况；（ii）获得真实数据来训练AI的机会有限；（iii）行动期间的嘈杂、不完整、不确定和错误的数据输入；以及（iv）采用欺骗性技术来击败算法的同行对手--并非军事背景所独有；它们通常在政府和公共部门的应用中更普遍存在，正如这些努力的联合、机构间和多国方面。事实上，一般来说，MDO概念的多领域广度及其对竞争和冲突阶段的考虑，意味着MDO影响到属于政府和公共部门的政治和社会领域。

MDO的联盟态势理解

形势理解（SU）是 "将分析和判断应用于单位的形势意识，以确定现有因素的关系，并形成关于对部队或任务完成的威胁、任务完成的机会和信息差距的逻辑结论的产物"（Dostal 2007）。英国的军事学说（英国国防部2010年）对理解的定义如下：

理解（洞察力）=对形势的认识和分析

理解力（预见力）=理解力和判断力

在这里，理解包括预见性，即推断（预测）潜在的未来状态的能力，这与SU涉及能够得出有关威胁的结论的常见定义是一致的（Dostal 2007）。预见性必然包括在时间上处理和推理信息的能力。这些关于SU的观点与信息融合有着内在的联系，因为它们涉及收集和处理来自多个环境来源的数据，作为得出SU的输入。就数据融合的JDL（Joint Directors of Laboratories）模型而言（Blasch 2006），就考虑的语义实体和关系的种类而言，CSU问题可能涉及相对较高或相对较低的理解水平。例如，在相对较低的层次上，CSU问题可能只涉及车辆或建筑物等物体的探测、识别和定位（JDL 1级和2级）。在更高层次上，CSU问题将涉及到确定威胁、意图或异常情况（JDL 3级）。此外，来源通常会跨越多种模式，例如，图像、声音和自然语言数据（Lahat, Adali, and Jutten 2015）。