《论网络军事行动中目标定位的可解释AI解决方案》，附中文完整版！

2022 年 8 月 12 日 专知

如今，很难想起有哪个领域、系统或问题没有使用或嵌入人工智能来解决。从AI发展的早期阶段开始，其技术和工艺就被军事力量成功地用于不同的军事行动中。由于网络空间代表了最后一个官方认可的作战战场，它也为在其内部或通过其进行的军事行动实施人工智能解决方案提供了一个直接的虚拟环境。然而，规划和开展基于人工智能的网络军事行动仍处于发展的初期。因此，从业者和学术界都需要付出努力，因为AI的使用可能会产生重大的影响，这就要求这种智能解决方案的输出可以向开发它们的工程师和他们的用户（例如军事决策者）可解释。因此，本文首先讨论了军事网络行动中目标定位的可解释人工智能的含义，接着分析了在不同目标定位阶段嵌入人工智能解决方案（如智能网络武器）的挑战，并将其结构化为设计框架中的相应分类法。它通过跨越目标开发、能力分析和目标交战的瞄准过程来实现这一目标。此外，本研究认为，特别是在这种无声无息、以难以置信的速度进行的作战中，相关的军事力量意识到以下几点是非常重要的。第一，嵌入的智能系统所做的决策。第二，不仅意识到，而且能够以适当、有效和高效的方式解释从人工智能解决方案中获得的结果。由此，本研究得出了可能的技术和以人为本的方法，促进XAI解决方案在军事网络行动中成功实施目标定位。

关键词：网络行动、网络武器、军事行动、目标定位、人工智能、可解释人工智能

1. 简介

自17世纪以来，基于经典的OODA（观察、定向、决定、行动）循环进行了一系列的战争，跨越了地方战争和世界大战，并进入了今天和未来的战争。因此，“观察”方式从望远镜（17世纪的战争）转移到无线电和雷达（二战），再到网络（未来的战争）。“定向”从几周（17世纪的战争）转移到几小时（二战），并将是连续的（未来的战争）。“决定”从几个月（17世纪的战争）转为几天（二战），并将是即时的（未来的战争）。“行动”根据季节（17世纪的战争），转变为几周（二战），并进入到几分钟（未来的战争）（Lehto，2016）。这些发展是可能的，因为科学界和行业专业人士提出并继续推动重大技术进步。在这些发展中，人工智能找到了自己的位置。不管是用于规划优化、目标识别还是效果评估，人工智能在网络空间处理的不同预测、模拟或探索问题上都显示出令人印象深刻的结果（Samek & Müller，2019）。在这里，行动是利用网络武器/能力来实现其内部和/或外部的军事目标（Maathuis, Pieters & Van den Berg, 2018a），对目标和附带实体产生（未）预见的（直接）影响（Maathuis, Pieters & Van den Berg., 2018b）。与其他军事行动相比，网络军事行动是在沉默中高速进行的，允许早期的情报收集和准备，并意味着根据目标的脆弱性、性质、目的和背景建立网络武器的不同选择。在这些时刻，所做的决定和考虑的影响，必须对相关的利益相关者来说是清楚和可以理解的。

机器学习，特别是深度学习，是人工智能不断发展和成功的核心。虽然这些范式的改进、可及性和使用代表了一种思维方式的改变和以数据为中心的应用的转变，但也意味着理解和处理所做的决定和模型获得的结果：这是一项复杂而困难的任务。然而，最近，这个方向的一个起点是DARPA计划（DARPA, 2016），旨在通过一套考虑可解释性-性能权衡的设计方案来创建人类可理解的人工智能模型。这条研究路线引起了不同领域的学术研究者和从业者的兴趣（Adadi & Berrada，2018），但目前还缺乏XAI的理论和一个普遍认同的定义（Samek & Müller，2019）。此外，特别是在这个领域，对于目标定位来说，重要的是决策者意识到哪些数据和如何使用数据，因为在这个战场上，数据可能是稀缺的，或者可能来自几个战场，了解模型在网络空间内部和外部采取哪些决策，并意识到提出的结果，以便在作战领域以最小或无风险的方式适当整合和部署，因为由于网络空间的特点，如相互连接和动态性质，这种风险及其相应的影响可以在数字和物理上大规模地经历。鉴于上述方面，在网络军事行动中理解和应用XAI是一项复杂的任务，必须从多个角度加以解决。在这个问题上，据我们所知，XAI还没有在军事网络背景下被定义和解决，因此我们旨在解决这个问题，有以下目标：

为军事网络行动中的XAI提出一个定义和共同理解。
通过技术-军事和社会-伦理的视角，解决军事网络行动中XAI的挑战，重点关注目标定位过程的第一个阶段。
提高决策者对设计和实施用于军事决策支持的XAI模型的认识水平和责任感，并扩大军事网络领域的范围。
为设计军事网络领域的XAI战略、标准和方法做出贡献。此外，强调对当前和未来决策者进行XAI教育的必要性。

为了实现这些目标，在广泛的文献回顾和分析基础上进行了多学科研究。此外，本研究的贡献有两个方面。首先，合并并强调在掌握、开发和评估XAI时应考虑的各个方面，重点是军事网络行动中目标定位的三个阶段。其次，作为一个设计框架，为决策者提供具体的发展建议。

本文的其余部分结构如下。第2节讨论了关于XAI的理论和实践方面的相关研究。第3节处理了目标定位过程，同时反思了本研究所关注的阶段。第4节讨论了提出XAI模型的必要性，反思了不同类型的参与利益相关者，分析了良好解释的特征，并提出了该领域中XAI的定义。第5节考虑了不同类型的解释、解释方法、以及解释方法的评价标准和机制。第6节探讨了XAI在军事网络行动中的目标定位方面的挑战。第7节对本研究的结果进行反思，并讨论了未来的想法。