对抗性机器学习与网络安全：风险、挑战和法律影响, 35页pdf

2022年7月，乔治城大学的安全与新兴技术中心(CSET)与斯坦福大学网络政策中心的地缘政治、技术与治理项目共同召集了一次专家研讨会，以研究人工智能系统中的漏洞与传统软件漏洞之间的关系。讨论的主题包括AI漏洞在多大程度上可以在标准的网络安全流程下处理，目前阻止准确分享AI漏洞信息的障碍，针对AI系统的对抗性攻击相关的法律问题，以及政府支持可能改进AI漏洞管理和缓解的潜在领域。 参加研讨会的人员包括网络安全和AI红队角色的行业代表；有进行对抗性机器学习研究经验的学者；网络安全法规、AI责任和计算机相关刑事法的法律专家；以及有重大AI监督责任的政府代表。 这份报告的目的是两个。首先，它提供了对AI漏洞的高级别讨论，包括它们与其他类型的漏洞的不相似之处，以及关于AI漏洞的信息共享和法律监管的当前状态。其次，它试图表述研讨会上大多数参与者支持的广泛建议。这些建议按四个高级别主题分类，如下：

主题：扩展传统网络安全以应对AI漏洞

1.1. 建议：构建或部署AI模型的组织应使用一个风险管理框架，涵盖AI系统生命周期中的安全性。1.2. 建议：对抗性机器学习研究者、网络安全实践者和AI组织应积极尝试扩展现有的网络安全流程以涵盖AI漏洞。1.3. 建议：对抗性机器学习领域的研究者和实践者应与处理AI偏见和鲁棒性的人员，以及其他具有相关专业知识的社区进行协商。 1. 主题：改善信息共享和组织安全思维

2.1. 建议：部署AI系统的组织应寻求信息共享安排，以促进对威胁的理解。2.2. 建议：AI部署者应强调在产品生命周期的每个阶段都将安全文化融入AI开发中。2.3. 建议：高风险AI系统的开发