深度学习应用于网络空间安全所面临的十大问题与机遇

2018 年 6 月 7 日 计算机研究与发展
深度学习应用于网络空间安全所面临的十大问题与机遇

深度学习应用于网络空间安全的

现状、趋势与展望

近年来,深度学习应用于网络空间安全的研究逐渐受到国内外学者的关注,从分类算法、特征提取和学习效果等方面分析了深度学习应用于网络空间安全领域的研究现状与进展.目前,深度学习主要应用于恶意软件检测和入侵检测两大方面,指出了这些应用存在的问题:特征选择问题,需从原始数据中提取更全面的特征;自适应性问题,可通过early-exit策略对模型进行实时更新;可解释性问题,可使用影响函数得到特征与分类标签之间的相关性.

其次,归纳总结了深度学习发展面临的十大问题与机遇,在此基础上,首次归纳了深度学习应用于网络空间安全所面临的十大问题与机遇,并将十大问题与机遇归为3类:1)算法脆弱性问题,包括深度学习模型易受对抗攻击和隐私窃取攻击;2)序列化模型相关问题,包括程序语法分析、程序代码生成和序列建模长期依赖问题;3)算法性能问题,即可解释性和可追溯性问题、自适应性和自学习性问题、存在误报以及数据集不均衡的问题.

对十大问题与机遇中主要问题及其解决方案进行了分析,指出对于分类的应用易受对抗攻击,最有效的防御方案是对抗训练;基于协作性深度学习进行分类的安全应用易受隐私窃取攻击,防御的研究方向是教师学生模型.最后,指出了深度学习应用于网络空间安全未来的研究发展趋势. 

1 深度学习模型

1.1 深度神经网络

1.2 卷积神经网络

1.3 循环神经网络

1.4 深度信念网络

2 深度学习应用于网络空间安全的研究现状

2.1 恶意软件检测

2.2 入侵检测

2.3 其他应用

3 问题与机遇

4 问题1:易受对抗攻击

4.1 对抗攻击目标

4.2 对抗样本构造

4.3 对抗攻击

4.4 对抗攻击的防御

5 问题2:协作性模型易受隐私窃取攻击

5.1 隐私窃取攻击

5.2 针对隐私窃取的防御

6 未来研究展望

全文阅读

张玉清,董颖,柳彩云,雷柯楠,孙鸿宇. 深度学习应用于网络空间安全的现状、趋势与展望[J]. 计算机研究与发展, 2018, 55(6): 1117-1142.                                       
Zhang Yuqing, Dong Ying, Liu Caiyun, Lei Kenan,  Sun Hongyu. Situation, Trends and Prospects of Deep Learning Applied to Cyberspace Security. Journal of Computer Research and Development, 2018, 55(6): 1117-1142

登录查看更多
15

相关内容

自动驾驶一直是人工智能应用中最活跃的领域。几乎在同一时间,深度学习的几位先驱取得了突破,其中三位(也被称为深度学习之父)Hinton、Bengio和LeCun获得了2019年ACM图灵奖。这是一项关于采用深度学习方法的自动驾驶技术的综述。我们研究了自动驾驶系统的主要领域,如感知、地图和定位、预测、规划和控制、仿真、V2X和安全等。由于篇幅有限,我们将重点分析几个关键领域,即感知中的二维/三维物体检测、摄像机深度估计、数据、特征和任务级的多传感器融合、车辆行驶和行人轨迹的行为建模和预测。

https://arxiv.org/abs/2006.06091

成为VIP会员查看完整内容
1
48

题目: 机器学习的隐私保护研究综述

简介:

大规模数据收集大幅提升了机器学习算法的性能,实现了经济效益和社会效益的共赢,但也令个人隐私保护面临更大的风险与挑战.机器学习的训练模式主要分为集中学习和联邦学习2类,前者在模型训练前需统一收集各方数据,尽管易于部署,却存在极大数据隐私与安全隐患;后者实现了将各方数据保留在本地的同时进行模型训练,但该方式目前正处于研究的起步阶段,无论在技术还是部署中仍面临诸多问题与挑战.现有的隐私保护技术研究大致分为2条主线,即以同态加密和安全多方计算为代表的加密方法和以差分隐私为代表的扰动方法,二者各有利弊.为综述当前机器学习的隐私问题,并对现有隐私保护研究工作进行梳理和总结,首先分别针对传统机器学习和深度学习2类情况,探讨集中学习下差分隐私保护的算法设计;之后概述联邦学习中存的隐私问题及保护方法;最后总结目前隐私保护中面临的主要挑战,并着重指出隐私保护与模型可解释性研究、数据透明之间的问题与联系.

成为VIP会员查看完整内容
机器学习的隐私保护研究综述.pdf
0
70

简介

近年来,由于机器学习(ML)/深度学习(DL)技术使用多维医学图像,在从一维心脏信号的心脏骤停的预测到计算机辅助诊断(CADx)的各种医疗保健应用中的卓越性能,见证了机器学习(ML)/深度学习(DL)技术的广泛采用。尽管ML / DL的性能令人印象深刻,但对于ML / DL在医疗机构中的健壮性仍然存有疑虑(由于涉及众多安全性和隐私问题,传统上认为ML / DL的挑战性很大),尤其是鉴于最近的研究结果表明ML / DL容易受到对抗性攻击。在本文中,我们概述了医疗保健中各个应用领域,这些领域从安全性和隐私性的角度利用了这些技术,并提出了相关的挑战。此外,我们提出了潜在的方法来确保医疗保健应用程序的安全和隐私保护机器学习。最后,我们提供了有关当前研究挑战的见解以及未来研究的有希望的方向。

内容大纲

成为VIP会员查看完整内容
0
31

联邦学习(Federated Learning)是一种新兴的人工智能基础技术,在 2016 年由谷歌最先提出,原本用于解决安卓手机终端用户在本地更新模型的问题,其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下,在多参与方或多计算结点之间开展高效率的机器学习。其中,联邦学习可使用的机器学习算法不局限于神经网络,还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。最近来自斯坦福、CMU、Google等25家机构58位学者共同发表了关于联邦学习最新进展与开放问题的综述论文《Advances and Open Problems in Federated Learning》,共105页pdf调研了438篇文献,讲解了最新联邦学习进展,并提出大量开放型问题。

摘要

联邦学习(FL)是一种机器学习设置,在这种设置中,许多客户(例如移动设备或整个组织)在中央服务器(例如服务提供商)的协调下协作地训练模型,同时保持训练数据分散。FL体现了集中数据收集和最小化的原则,可以减轻由于传统的、集中的机器学习和数据科学方法所带来的许多系统隐私风险和成本。在FL研究爆炸性增长的推动下,本文讨论了近年来的进展,并提出了大量的开放问题和挑战。

目录

1 介绍

  • 1.1 跨设备联邦学习设置
  • 1.1.1 联邦学习中模型的生命周期
  • 1.1.2 典型的联邦训练过程
  • 1.2 联邦学习研究
  • 1.3 组织
  1. 放宽核心联邦学习假设:应用到新兴的设置和场景
  • 2.1 完全分散/点对点分布式学习
  • 2.2 跨竖井联邦学习
  • 2.3 分离学习
  1. 提高效率和效果
  • 3.1 联邦学习中的非iid数据
  • 3.2 联邦学习优化算法
  • 3.3 多任务学习、个性化和元学习
  • 3.4 为联邦学习调整ML工作流
  • 3.5 通信与压缩
  • 3.6 适用于更多类型的机器学习问题和模型

4 .保护用户数据的隐私

  • 4.1 深入研究参与者、威胁模型和隐私
  • 4.2 工具与技术
  • 4.3 对外部恶意行为者的保护
  • 4.4 对抗服务器的保护
  • 4.5 用户感知
  1. 对攻击和失败的健壮性
  • 5.1 模型性能的对抗性攻击
  • 5.2 非恶意失效模式
  • 5.3 探索隐私和健壮性之间的张力
  1. 确保公平,消除偏见
  • 6.1 训练数据的偏差
  • 6.2不访问敏感属性的公平性
  • 6.3公平、隐私和健壮性
  • 6.4利用联合来改善模型多样性
  • 6.5联邦公平:新的机遇和挑战

7 结束语

  • 用于联邦学习的软件和数据集
成为VIP会员查看完整内容
0
99

报告嘉宾:金连文(华南理工大学)

报告时间:2019年10月16日(星期三)晚上20:00(北京时间)

报告题目:浅谈文字识别:新思考、新挑战及新机遇

报告人简介:

金连文教授1991年本科毕业于中国科技大学,1996年于华南理工大学获博士学位,目前为华南理工大学二级教授,博士生导师,兼任中国图像图形学学会(CSIG)常务理事、广东省图像图形学会副理事长、CSIG文档图像分析与识别专委会主任、CSIG机器视觉专委会常务委员、CAAI模式识别专委会常务委员、CCF计算机视觉专委会委员等职。主要研究领域为深度学习、机器学习、文字识别、计算机视觉及应用等,在IEEE TPAIMI、IEEE TNNLS、IEEE TIFS、IEEE TMM、IEEE TCSVT、IEEE TCYB、IEEE TITS、IEEE TAFFC、Pattern Recognition、Information Science、Neurocomputing等主流国际期刊上发表学术论文60余篇(其中4篇论文先后入选ESI高被引论文),在ICDAR、CVPR、AAAI、IJCAI等主流国际会议发表论文100余篇,获得发明专利授权50余项,荣获省部级科技奖励5次,荣获国际学术竞赛第一名11次。

个人主页:

http://www.dlvc-lab.net/lianwen/

报告摘要:

文字识别技术在图像理解、信息录入、智慧教育、智慧金融、信息搜索、信息安全等诸多领域有非常广阔的应用前景,是目前计算机视觉及机器学习领域的研究热点问题之一。基于深度学习的文字识别技术近年来取得了极大进步及发展,虽然不少方法在许多复杂场景及各种数据集上取得了卓越性能,但仍存在不少问题及挑战。在此报告中,我将在简要回顾近期研究进展的基础上,对目前文字识别领域存在的一些重要问题及挑战谈一点个人的思考,并对未来发展方向进行讨论和展望。

参考文献:

[1] Zecheng Xie, Yiaoxiong Huang, Yuanzhi Zhu, Lianwen Jin, Yuliang Liu, Lele Xie, Aggregation Cross-Entropy for Sequence Recognition, CVPR 2019.

[2] Yuliang Liu, Lianwen Jin, Zecheng Xie, Canjie Luo, et al., Tightness-aware Evaluation Protocol for Scene Text Detection, CVPR 2019.

[3] Yuliang Liu, Sheng Zhang, Lianwen Jin, et al., Omnidirectional Scene Text Detection with Sequential-free Box Discretization, IJCAI 2019.

[4] Lele Xie, Yuliang Liu, Lianwen Jin, Zecheng Xie, DeRPN: Taking a further step toward more general object detection, AAAI 2019.

[5] Canjie Luo, Lianwen Jin, Zenghui Sun, MORAN: A Multi-Object Rectified Attention Network for Scene Text Recognition, Pattern Recognition, vol. 90, no.6, pp109-118, 2019.

成为VIP会员查看完整内容
20191017-浅谈文字识别:新观察、新思考、新机遇.pdf
0
19
小贴士
相关资讯
深度学习与医学图像分析
人工智能前沿讲习班
18+阅读 · 2019年6月8日
【深度学习】深度学习技术发展趋势浅析
产业智能官
8+阅读 · 2019年4月13日
打包看——2018安全与隐私保护论文
计算机研究与发展
5+阅读 · 2019年1月8日
区块链隐私保护研究综述——祝烈煌详解
计算机研究与发展
6+阅读 · 2018年11月28日
CNCC技术论坛 | 计算机视觉行业的挑战与契机
中国计算机学会
6+阅读 · 2018年10月21日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
9+阅读 · 2018年5月5日
综述:深度学习时代的目标检测算法
极市平台
22+阅读 · 2018年3月17日
相关论文
Bridging the Gap Between Spectral and Spatial Domains in Graph Neural Networks
Muhammet Balcilar,Guillaume Renton,Pierre Heroux,Benoit Gauzere,Sebastien Adam,Paul Honeine
11+阅读 · 2020年3月26日
Zixin Luo,Lei Zhou,Xuyang Bai,Hongkai Chen,Jiahui Zhang,Yao Yao,Shiwei Li,Tian Fang,Long Quan
3+阅读 · 2020年3月23日
Two-phase Hair Image Synthesis by Self-Enhancing Generative Model
Haonan Qiu,Chuan Wang,Hang Zhu,Xiangyu Zhu,Jinjin Gu,Xiaoguang Han
3+阅读 · 2019年2月28日
Wenqi Fan,Yao Ma,Qing Li,Yuan He,Eric Zhao,Jiliang Tang,Dawei Yin
6+阅读 · 2019年2月19日
Multi-Task Deep Neural Networks for Natural Language Understanding
Xiaodong Liu,Pengcheng He,Weizhu Chen,Jianfeng Gao
3+阅读 · 2019年1月31日
A Memory-Network Based Solution for Multivariate Time-Series Forecasting
Yen-Yu Chang,Fan-Yun Sun,Yueh-Hua Wu,Shou-De Lin
7+阅读 · 2018年9月6日
LaneNet: Real-Time Lane Detection Networks for Autonomous Driving
Ze Wang,Weiqiang Ren,Qiang Qiu
3+阅读 · 2018年7月4日
Yue Zhang,Jie Yang
12+阅读 · 2018年5月15日
Peter J. Liu,Mohammad Saleh,Etienne Pot,Ben Goodrich,Ryan Sepassi,Lukasz Kaiser,Noam Shazeer
6+阅读 · 2018年1月30日
Top