本背景资料简报概述人工智能(AI)与国防领域的交汇点。AI现部署于教育、金融、交通、医疗与国家安全等多领域。国防领域作为国家安全体系的核心构成,涵盖以维护国家主权与利益为目标的军事能力与行动。尽管AI有望提升国防活动效能,但其应用引发人权与国防领域善治相关的诸多挑战。本简报将界定AI概念,探讨其在国防领域的应用场景,剖析对善治的潜在风险,并就强化监管提出建议(包括完善监测机制、提升透明度、健全问责制及促进利益相关方协作)。

本背景资料简报解答以下问题
• 何为人工智能(AI)?
• 国防领域的定义为何?
• 国防领域为何使用AI?
• AI对国防领域构成哪些风险?
• AI如何影响国防领域善治?
• 如何强化国防领域AI应用的监管?

国防领域人工智能应用

主体 检测 规划 行动 后勤
​武装部队​ 收集分析多源数据,识别动态、威胁与异常 通过海量数据分析辅助战略战术规划,预测未来场景并优化资源配置 提供实时作战情报支持军事行动 自动化物流供应链管理与人员调度
​行政管控机构​ 分析风险并评估国防能力替代方案 起草国防立法框架,评估战备状态 实时监测作战效能,动态调整资源分配 自动化国防采购预算与资产追踪
​国内安全机构​ 处理海量数据识别模式趋势,研判潜在威胁 开发战略报告,建立威胁优先级体系 部署AI增强型监控侦察系统提升行动精度 自动化数据处理与信息分发流程
​监督委员会​ 监测分析国防开支与采购动态 制定战略监督报告,评估项目合规性 实时追踪国防项目执行情况 自动化审计程序与风险管理系统
​商业国防供应商​ 整合Tranche 0卫星追踪数据与地面传感器网络 开发下一代AI驱动武器系统,优化研发周期 维护升级AI作战平台软件系统 构建智能供应链,实现备件预测性维护
​民间社会组织​ 监控AI军事化应用伦理风险 推动制定AI军事应用国际规范框架 开展AI武器系统影响评估 建立AI军事技术双用途追踪数据库

国防领域人工智能应用监管框架

行为主体 国内监管框架 透明度与问责制 伙伴关系与协作
​武装部队​ 实施人工智能专项审计与审查流程,监测系统开发、部署及运行 通过披露数据源、算法与决策流程等非涉密信息,提升人工智能系统透明度 与民间社会组织、学术机构、研究组织及产业伙伴合作,共享经验教训,促进治理创新
​行政管控机构​ 建立专用监管机构/委员会,实施风险管理框架识别人工智能应用风险(技术/法律/安全) 发布人工智能影响评估报告,详述部署成效与运营结果 强化与议会委员会、政府监察机构及独立审计部门协作,确保人工智能倡议透明度
​国内安全机构​ 成立独立审查小组,监控人工智能在国内安防应用中的伦理与法律影响 推动人工智能治理透明化与问责机制建设 与人权组织、隐私倡导机构及技术专家合作开展独立评估,完善安防人工智能系统审查
​监督委员会​ 制定人工智能采购与部署专项监管条例 定期公开国防人工智能项目进展与资金流向 搭建跨部门人工智能治理协作平台,促进监管经验共享
​商业国防供应商​ 执行人工智能技术出口管制与双用途技术监管 建立人工智能研发应用全周期可追溯机制 参与行业联盟制定人工智能伦理标准,推动负责任技术创新
​民间社会组织​ 倡导建立人工智能军事应用伦理审查制度 开发公民监督平台,完善人工智能应用违规举报机制 联合国际智库开展人工智能军事化影响研究,推动全球治理框架构建
成为VIP会员查看完整内容
28

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《影响力作战本体论(IOO)​》最新报告
专知会员服务
34+阅读 · 3月27日
《军事领域中的人机交互和人类代理》最新报告
《人工智能对传统人工情报分析的影响》最新报告
专知会员服务
47+阅读 · 2024年10月10日
《人工智能支持战略传播能力》北约最新48页报告
专知会员服务
33+阅读 · 2024年8月11日
【2022新书】深度学习归一化技术,117页pdf
专知
27+阅读 · 2022年11月25日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
37+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
169+阅读 · 2023年4月20日
Arxiv
76+阅读 · 2023年3月26日
Arxiv
168+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
37+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员