ECCV2018教程146页《对抗机器学习》PPT教程(附PPT下载)

2018 年 9 月 7 日 专知

导读全球计算机视觉三大顶会之一 ECCV 2018(European Conference on Computer Vision)于9月8日到14 日在德国举行。本文介绍该会议中146页的对抗机器学习PPT教程。


深度学习为人们带来了便利,同时也带来了安全隐患。深度学习模型在干扰下(尤其是精心设计的干扰)可能会产生错误的结果,带来严重的安全问题。对抗机器学习研究这种攻击以及抗攻击的机制。


请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“AML” 就可以获取论文下载链接~ 




教程中用一个很好的例子来解释了什么是对抗学习,给一个汽车图像加上一个随机的噪音,虽然从肉眼看来,噪音的加入并没有对图像产生什么变化,但是对深度模型却把这量车识别成了鸵鸟:



再例如,戴上下面这个精心设计的眼睛,左边的大叔会被深度网络识别为右边的女演员。



不仅是图像,其他领域的深度网络可以被对抗学习攻击。MalConv可以通过卷及网络基于软件的字节来识别恶意软件,Gradient-based attacks可以通过填补字节的方法来规避攻击。深度学习在给人们带来便利的同时,也带来了安全上的隐患。





参考文献:

  • https://www.pluribus-one.it/sec-ml/wild-patterns



-END-

专 · 知


人工智能领域26个主题知识资料全集获取与加入专知人工智能服务群: 欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询!




请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!


请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~

 AI 项目技术 & 商务合作:bd@zhuanzhi.ai, 或扫描上面二维码联系!

请关注专知公众号,获取人工智能的专业知识!

点击“阅读原文”,使用专知

登录查看更多
16

相关内容

对抗机器学习(Adverserial Machine Learning)作为机器学习研究中的安全细分方向,在一定程度上保证模型的安全性
【ACL2020】多模态信息抽取,365页ppt
专知会员服务
136+阅读 · 2020年7月6日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
167+阅读 · 2020年6月28日
模型优化基础,Sayak Paul,67页ppt
专知会员服务
74+阅读 · 2020年6月8日
少标签数据学习,54页ppt
专知会员服务
192+阅读 · 2020年5月22日
元学习与图神经网络逻辑推导,55页ppt
专知会员服务
127+阅读 · 2020年4月25日
因果图,Causal Graphs,52页ppt
专知会员服务
238+阅读 · 2020年4月19日
深度强化学习策略梯度教程,53页ppt
专知会员服务
175+阅读 · 2020年2月1日
深度强化学习简介
专知
29+阅读 · 2018年12月3日
基于深度学习的文本生成【附217页PPT下载】
专知
34+阅读 · 2018年11月24日
Pytorch作者Adam Paszke-53页Pytorch教程PPT
专知
34+阅读 · 2018年10月27日
机器学习数学基础【附PPT下载】
专知
44+阅读 · 2018年9月17日
ICML2018 模仿学习教程
专知
6+阅读 · 2018年7月14日
Arxiv
13+阅读 · 2019年1月26日
Arxiv
3+阅读 · 2018年4月10日
VIP会员
相关VIP内容
【ACL2020】多模态信息抽取,365页ppt
专知会员服务
136+阅读 · 2020年7月6日
最新《生成式对抗网络》简介,25页ppt
专知会员服务
167+阅读 · 2020年6月28日
模型优化基础,Sayak Paul,67页ppt
专知会员服务
74+阅读 · 2020年6月8日
少标签数据学习,54页ppt
专知会员服务
192+阅读 · 2020年5月22日
元学习与图神经网络逻辑推导,55页ppt
专知会员服务
127+阅读 · 2020年4月25日
因果图,Causal Graphs,52页ppt
专知会员服务
238+阅读 · 2020年4月19日
深度强化学习策略梯度教程,53页ppt
专知会员服务
175+阅读 · 2020年2月1日
Top
微信扫码咨询专知VIP会员