《未来自主系统集成的人机协作研究路线图》2023最新53页报告

这项工作由 Calian 和 C3 人因咨询公司根据加拿大国防研究与发展-多伦多研究中心（DRDC TRC）任务 20 "未来自主系统集成的人机协作研究路线图 "进行，是更大的人机交互（HAI）任务授权合同（TAC；合同：W7719- 185397/001/TOR）的一部分。人机交互任务授权合同的总体目标是设计、开发、实施和评估人机协作（HAT）概念、方法和技术，以提高加拿大兵力（CAF）人机系统（HMS）的整体性能。

当前项目的目标是制定一个研究路线图，以指导未来自主系统（AS）的研发工作及其在加拿大武装部队中的集成。具体来说，路线图将指导未来对部署自主系统的心理、伦理、道德、社会和文化影响的调查。为实现这一目标，加利福尼亚空军和灾难恢复与发展中心的利益相关者参与了一项 HAT 调查。该调查由 13 个涉及 HAT 研究问题的问题组成，使用 Survey Monkey 进行在线管理。调查围绕四个研究主题展开：了解国防部/加拿大空军目前正在考虑的人工智能赋能的自动系统类型；根据这些系统的分类法识别风险因素并确定其优先次序；加拿大空军不同服务部门在使用和应用这些系统方面的异同；以及 DRDC 和加拿大空军利益相关者之间的一致程度。

这项研究的参与者包括 DRDC 和 CAF 的主题专家 (SME)，他们目前都活跃在与自主相关的项目中（例如，AS 项目中的 CONOPS 工作组）。代表作战和研究界不同组织的 50 多名受访者完成了 HAT 调查。调查结果显示：

1.总体而言，CAF 和 DRDC 利益相关者的主要关注点在于拥有非致命能力的半自主（S-A）系统。这些系统广泛应用于情报、监视和侦察（ISR）以及指挥与控制（C2）行动。对这些系统至关重要的基础技术包括计算机视觉、机器人技术和高级数据分析；

2.与加拿大皇家海军（RCN）和加拿大陆军（CA）相比，加拿大皇家空军（RCAF）有不同的优先事项，因为其对完全自主（F-A）系统以及具有致命能力的 S-A 和 F-A 系统的需求有所增加；

3.所有利益相关方都表达了对军事自主系统的一系列风险考虑。这些问题包括系统有效性、人类系统集成（HSI）和人工智能脆弱性等各个方面。值得注意的是，对具有致命能力的系统的关注程度明显更高，尤其是与道德、伦理和法律因素相关的风险；

4.关于人因专家确定的九个 HAT 研究主题，它们都被评为关键主题，亟需研究关注。在这些主题中，信任、权力转移和系统透明度/可解释性被列为最重要的研究课题；以及 5.

5.CAF 和 DRDC 的受访者在自主系统研究（包括其应用和基础技术）的精力分配方面达成了显著共识。但是，在致命自主武器系统领域存在明显差距，研究界似乎落后于作战界。