在大数据时代下,深度学习、强化学习以及分布式学习等理论和技术取得的突破性进展,为机器学习提供了数据和算法层面的强有力支撑,同时促进了机器学习的规模化和产业化发展.然而,尽管机器学习模型在现实应用中有着出色的表现,但其本身仍然面临着诸多的安全威胁.机器学习在数据层、模型层以及应用层面临的安全和隐私威胁呈现出多样性、隐蔽性和动态演化的特点.机器学习的安全和隐私问题吸引了学术界和工业界的广泛关注,一大批学者分别从攻击和防御的角度对模型的安全和隐私问题进行了深入的研究,并且提出了一系列的攻防方法. 在本综述中,我们回顾了机器学习的安全和隐私问题,并对现有的研究工作进行了系统的总结和科学的归纳,同时明确了当前研究的优势和不足. 最后,我们探讨了机器学习模型安全与隐私保护研究当前所面临的挑战以及未来潜在的研究方向,旨在为后续学者进一步推动机器学习模型安全与隐私保护研究的发展和应用提供指导.

http://www.jos.org.cn/jos/ch/reader/view_abstract.aspx?file_no=6131&flag=1

成为VIP会员查看完整内容
107

相关内容

“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。” ——中文维基百科

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
94+阅读 · 2020年12月8日
多模态视觉语言表征学习研究综述
专知会员服务
185+阅读 · 2020年12月3日
专知会员服务
44+阅读 · 2020年11月20日
专知会员服务
111+阅读 · 2020年11月16日
专知会员服务
104+阅读 · 2020年10月27日
专知会员服务
111+阅读 · 2020年8月22日
专知会员服务
122+阅读 · 2020年8月7日
专知会员服务
215+阅读 · 2020年8月1日
【中国人民大学】机器学习的隐私保护研究综述
专知会员服务
130+阅读 · 2020年3月25日
深度学习模型可解释性的研究进展
专知
21+阅读 · 2020年8月1日
模型攻击:鲁棒性联邦学习研究的最新进展
机器之心
34+阅读 · 2020年6月3日
清华大学图神经网络综述:模型与应用
机器之心
72+阅读 · 2018年12月26日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
区块链隐私保护研究综述——祝烈煌详解
计算机研究与发展
22+阅读 · 2018年11月28日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
21+阅读 · 2017年10月24日
Backdoor Attacks on Federated Meta-Learning
Arxiv
0+阅读 · 2020年12月16日
Arxiv
0+阅读 · 2020年12月15日
Arxiv
1+阅读 · 2020年12月14日
Arxiv
98+阅读 · 2020年3月4日
Arxiv
108+阅读 · 2020年2月5日
Arxiv
33+阅读 · 2019年11月7日
VIP会员
相关VIP内容
专知会员服务
94+阅读 · 2020年12月8日
多模态视觉语言表征学习研究综述
专知会员服务
185+阅读 · 2020年12月3日
专知会员服务
44+阅读 · 2020年11月20日
专知会员服务
111+阅读 · 2020年11月16日
专知会员服务
104+阅读 · 2020年10月27日
专知会员服务
111+阅读 · 2020年8月22日
专知会员服务
122+阅读 · 2020年8月7日
专知会员服务
215+阅读 · 2020年8月1日
【中国人民大学】机器学习的隐私保护研究综述
专知会员服务
130+阅读 · 2020年3月25日
相关资讯
深度学习模型可解释性的研究进展
专知
21+阅读 · 2020年8月1日
模型攻击:鲁棒性联邦学习研究的最新进展
机器之心
34+阅读 · 2020年6月3日
清华大学图神经网络综述:模型与应用
机器之心
72+阅读 · 2018年12月26日
图神经网络综述:模型与应用
PaperWeekly
193+阅读 · 2018年12月26日
区块链隐私保护研究综述——祝烈煌详解
计算机研究与发展
22+阅读 · 2018年11月28日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
21+阅读 · 2017年10月24日
相关论文
Backdoor Attacks on Federated Meta-Learning
Arxiv
0+阅读 · 2020年12月16日
Arxiv
0+阅读 · 2020年12月15日
Arxiv
1+阅读 · 2020年12月14日
Arxiv
98+阅读 · 2020年3月4日
Arxiv
108+阅读 · 2020年2月5日
Arxiv
33+阅读 · 2019年11月7日
微信扫码咨询专知VIP会员