在需要做出重大决策的关键系统中,通常无法实现或不希望实现完全自动化。相反,人类-人工智能团队可以取得更好的效果。为了研究、开发、评估和验证适合这种团队合作的算法,有必要建立轻量级实验平台,实现人类与多个智能体之间的互动。然而,此类平台在国防环境中的应用实例非常有限。为了填补这一空白,我们提出了 Cogment 人机协同实验平台,该平台实现了以异构多智能体系统为特征的人机协同(HMT)用例,可涉及学习型人工智能智能体、静态人工智能智能体和人类。它建立在 Cogment 平台上,已被用于学术研究,包括在今年的 AAMAS 的 ALA 研讨会上展示的工作。希望通过这个平台,进一步促进关键系统和国防环境中的人机协作研究。

图 1:该图显示了 Cogment HMT 实验平台的主用户界面。左侧带帽的圆圈是由五个蓝色智能体组成的团队防守的禁区。右侧的单个红点是无人机攻击者。

嵌入式人工智能体,如无人驾驶飞行器(UAV,或无人机),有可能彻底改变各行各业,包括交通、农业和安防。然而,这些智能体在物理世界中发展,因此可能会产生危险影响,尤其是在无人监管的情况下。例如,无人机可能会出现故障或无法识别潜在危险,从而造成财产损失甚至人员伤亡。此外,智能体可以根据算法做出决策,而算法可能不会考虑伦理、道德或法律方面的影响。因此,人类必须有能力对这些智能体进行有意义的控制[2]和监督,以确保它们的安全和负责任的使用。人类操作员可以监控和干预系统故障,评估潜在风险,并在需要其判断的复杂情况下做出道德或法律决定。

除了监督,人类还可以通过协作在帮助智能体实现任务方面发挥关键作用。例如,对于无人机,控制中心的人类操作员可以提供实时指导和支持,确保无人机准确、高效地执行所需的功能。此外,人类还可以在现场充当队友,与具身的人工智能体并肩作战,实现既需要人类判断又需要机器精确度的复杂目标。

此外,必须认识到,人机协作(HMT),即人类与具身智能体建立双向协作的能力,是安全有效使用人工智能的一个关键方面。这类人工智能体的设计、训练、验证和操作不能孤立地进行,必须考虑它们如何融入包括它们在内的更大系统中。人类,尤其是作为操作员或队友的人类,从一开始就应被视为该系统不可分割的一部分。

除了这种双向协作之外,具身人工智能系统在运行过程中往往没有考虑到 “道德责任 ”和 “社会技术 ”因素[2]。有意义人类控制(MHC)的概念是由 Santoni de Sio 和 van den Hoven 提出的,目的是让人类能够影响具身人工智能体的行为[3]。然而,MHC 的原始定义并不一致,因为人类可能缺乏专业技能或知识,无法完全有效地控制人工智能系统。Cavalcante Siebert 等人[2]提出了四个附加属性来改进 MHC 的原始定义:“明确的道德操作设计领域”、“适当且相互兼容的表征”、“控制能力和权限 ”以及 “人工智能与人类行动之间的明确联系”。因此,至关重要的是设计一个协调平台,将有意义的人类控制和人类在环相结合,以确保人工智能系统的训练和操作方式符合人类价值观、社会规范和道德行为。

Cogment HMT 提供了一个设计和实验人机团队的平台,尤其是涉及无人机的人机团队。它以我们的 Cogment [4] 平台为基础,解决了协调自动决策系统(包括人工智能体)、人类之间的协作及其对数据的访问和对环境的影响等难题。Cogment HMT 实验平台目前使用一个模拟环境,可以很容易地进行调整,以适应更真实的模拟和现实世界的部署。我们将在第三节介绍该平台及其特性。

利用 Cogment HMT 实验平台,人工智能从业者可以开发出能够与人类协同工作的智能体,并从人类的知识和期望中学习,同时考虑有意义的人类控制、信任和认知负荷管理等因素,实现有效的双向人机协作。我们将在第四部分介绍早期成果。

成为VIP会员查看完整内容
47

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《将无人潜航器集成到海军应用中》
专知会员服务
38+阅读 · 4月24日
《综述:测试与评估中应用的人工智能工具》
专知会员服务
49+阅读 · 1月22日
《现代游戏和仿真的军事应用》
专知会员服务
49+阅读 · 2023年11月27日
《使用强化学习的自主无人飞行器导航:综述》
专知会员服务
63+阅读 · 2023年6月18日
《媒体分析军事应用中的协作需求图谱》
专知会员服务
36+阅读 · 2023年5月5日
《人工智能在军事武器系统中的崛起》
专知会员服务
124+阅读 · 2023年3月21日
无人机集群、蜂群与蜂群算法
无人机
83+阅读 · 2018年9月25日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2013年12月31日
Arxiv
142+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
348+阅读 · 2023年3月31日
Arxiv
18+阅读 · 2023年3月17日
VIP会员
相关VIP内容
《将无人潜航器集成到海军应用中》
专知会员服务
38+阅读 · 4月24日
《综述:测试与评估中应用的人工智能工具》
专知会员服务
49+阅读 · 1月22日
《现代游戏和仿真的军事应用》
专知会员服务
49+阅读 · 2023年11月27日
《使用强化学习的自主无人飞行器导航:综述》
专知会员服务
63+阅读 · 2023年6月18日
《媒体分析军事应用中的协作需求图谱》
专知会员服务
36+阅读 · 2023年5月5日
《人工智能在军事武器系统中的崛起》
专知会员服务
124+阅读 · 2023年3月21日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员