【CVPR2020-Oral-浙江大学】深度知识迁移的深度归因图,DEPARA: Deep Attribution Graph

2020 年 3 月 19 日 专知


通过对异构任务的预训练深度神经网络(PR-DNNs)中编码的知识之间的内在联系,揭示了它们之间的互换性,从而使知识从一个任务转移到另一个任务,从而减少后者的训练工作量。本文提出了深度归因图(depa)来研究从PR-DNNs中学习到的知识的可转移性。在DEPARA中,节点对应于输入,并由与PR-DNN输出相关的向量化属性映射表示。边缘表示输入之间的相关性,并通过从PR-DNN中提取的特征的相似性来度量。两种PR-DNNs的知识转移能力是通过其对应基因间的相似性来衡量的。我们将DEPARA应用于转移学习中两个重要但尚未研究的问题:预先训练的模型选择和层选择。大量的实验证明了所提出的方法在解决这两个问题上的有效性和优越性。复制本文结果的代码、数据和模型可以在

https://github.com/zju-vipa/DEPARA


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“DAG” 就可以获取【CVPR2020-Oral-浙江大学】深度知识迁移的深度归因图,DEPARA: Deep Attribution Graph》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
5

相关内容

【ICML2020-浙江大学】对抗性互信息的文本生成
专知会员服务
43+阅读 · 2020年7月4日
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
专知会员服务
81+阅读 · 2020年6月9日
八篇NeurIPS 2019【图神经网络(GNN)】相关论文
专知会员服务
43+阅读 · 2020年1月10日
【资源】知识图谱本体构建论文合集
专知
61+阅读 · 2019年10月9日
最新《生成式对抗网络GAN进展》论文
专知
94+阅读 · 2019年4月5日
Arxiv
13+阅读 · 2019年1月26日
Arxiv
8+阅读 · 2018年5月15日
VIP会员
相关VIP内容
Top
微信扫码咨询专知VIP会员