2019年NeurIPS有哪些值得关注的亮点?

有什么值得关注的新方向和新工作?
关注者
1,199
被浏览
170,153
登录后你可以
不限量看优质回答私信答主深度交流精彩内容一键收藏

神经网络防盗最新技术肯定算一个!

介绍下这篇论文:《Rethinking Deep Neural Network Ownership Verification: Embedding Passportsto Defeat Ambiguity Attacks》

近些年深度神经网络(DNN)快速发展,机器学习服务(MLaaS)等有潜力的商业模式也很明显地崛起中。也因此,怎样保护训练好的DNN模型免于被非法复制,重新分发或滥用(即知识产权侵权)就是AI产业化进程中必须要面临和解决的问题了。

传统用于保护神经网络所有权的水印方法存在缺陷:在训练过程当中,嵌入数字水印的神经网络,如同贴了主人姓名标签的车子,但别人还是可以把车开走,甚至可以贴上伪造的标签。这种情况下,被拷贝网络可以被检测出多个真假难辨的数字水印,其知识产权归属也就很难说清了。

而这篇论文就是针对此,提出了利用“数字护照”保护深度神经网络知识产权的新方法。

简单讲下论文里提到的这个方法

在训练过程当中,嵌入了数字护照的神经网络,如同加了锁的车子,必须使用与神经网络配套的数字护照,才能解锁来正常使用网络;实验证实一旦使用了经过修改或伪造的护照,网络性能会严重退化,以致无法使用。

而使用数字护照的另一个优点是,即使剽窃者进一步盗取并运用了原来的数字护照,来解锁正常使用网络,原主人也可以凭借数字护照上的个人签名ID,来举证其知识产权的归属。

在上述原理的基础上,研究者们还设计了黑盒,白盒和混合保护机制,来针对不同的应用场景,提供了一系列完善的知识产权保护方法。

新方法使得DNN模型的性能依赖于护照的真实性,对于去除攻击具有鲁棒性,能够抵御模糊攻击,并保证了原主人对神经网络所有权的可证明性。而使用了不同的护照而使网络性能有不同表现的这种思维也是非常新颖的,并通过了大量的实验验证,具有可操作性。

论文中这个技术有什么影响?

基于数字护照保护机制,剽窃者将处于两难境地:

一方面,如使用伪造数字护照, 则网络性能大幅下降几乎无用。而且伪造护照需要从新训练网络,耗时耗电,经济上无利可图。

另一方面,如非法使用原数字护照,则面临原主人的法律诉讼及追责索赔。

当今巨头公司和创业公司几乎每秒都在投资数十亿美元来探索新的DNN模型,论文中提出的数字护照在保护保护知识产权,不被滥用,防伪,防止被竞争对手利用方面都可以产生重要作用。


这篇论文是由我们微众银行首席人工智能科学家范力欣博士,与马来亚大学的陈志胜副教授和吴锦合作而成。

我们在NeurIPS 2019上还有一场联邦学习研讨会(wordshop),和Google等知名企业、高校联合举办,也推荐给大家。

这是首次在NeurIPS上举办的联邦学习研讨会,目前已收到数十篇论文投稿,会上我们会针对联邦学习这个基于多方安全计算的分布式机器学习技术进一步介绍及与大家讨论,还会展示目前基于此技术的一些应用及成果,相信会让各位收获满满。

点击下边的卡片也可以详细了解下,欢迎大家来参与:

以上,有用记得点个赞同,感谢!