会员服务
CVPR 2020 · 深度知识迁移 · 深度归因图 ·
2020 年 3 月 19 日
【CVPR2020-Oral-浙江大学】深度知识迁移的深度归因图，DEPARA: Deep Attribution Graph
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

通过对异构任务的预训练深度神经网络(PR-DNNs)中编码的知识之间的内在联系，揭示了它们之间的互换性，从而使知识从一个任务转移到另一个任务，从而减少后者的训练工作量。本文提出了深度归因图(depa)来研究从PR-DNNs中学习到的知识的可转移性。在DEPARA中，节点对应于输入，并由与PR-DNN输出相关的向量化属性映射表示。边缘表示输入之间的相关性，并通过从PR-DNN中提取的特征的相似性来度量。两种PR-DNNs的知识转移能力是通过其对应基因间的相似性来衡量的。我们将DEPARA应用于转移学习中两个重要但尚未研究的问题:预先训练的模型选择和层选择。大量的实验证明了所提出的方法在解决这两个问题上的有效性和优越性。复制本文结果的代码、数据和模型可以在

成为VIP会员查看完整内容
https://www.zhuanzhi.ai/paper/50db40792c9325b3209e90d0987dc835
DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
26

相关内容

CVPR is the premier annual computer vision event comprising the main conference and several co-located workshops and short courses. With its high quality and low cost, it provides an exceptional value for students, academics and industry researchers. CVPR 2020 will take place at The Washington State Convention Center in Seattle, WA, from June 16 to June 20, 2020. http://cvpr2020.thecvf.com/
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
专知会员服务
71+阅读 · 2020年7月6日
【CVPR 2020 Oral】小样本类增量学习
专知会员服务
109+阅读 · 2020年6月26日
【CVPR2020-浙江大学-阿里巴巴】深层知识迁移的深层归因图，DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
【CVPR2020-浙江大学-阿里巴巴】深层知识迁移的深层归因图，DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
专知会员服务
28+阅读 · 2020年4月17日
【CVPR2020-Oral】用于任务感知的持续学习的条件信道门控网络
专知会员服务
20+阅读 · 2020年4月2日
【CVPR2020-斯坦福】知识蒸馏时空图的视频描述，Spatio-Temporal Graph
【CVPR2020-斯坦福】知识蒸馏时空图的视频描述，Spatio-Temporal Graph
专知会员服务
33+阅读 · 2020年4月2日
图卷积神经网络蒸馏知识，Distillating Knowledge from GCN
图卷积神经网络蒸馏知识，Distillating Knowledge from GCN
专知会员服务
94+阅读 · 2020年3月25日
【AAAI2020-Tutorial-Penn】迁移表示学习最新进展，Recent Advances in Transferable Representation Learning
【AAAI2020-Tutorial-Penn】迁移表示学习最新进展，Recent Advances in Transferable Representation Learning
专知会员服务
51+阅读 · 2020年2月8日
【浙江大学-AAAI2020】领域自适应的对抗损失，Adversarial-Learned Loss for Domain Adaptation
【浙江大学-AAAI2020】领域自适应的对抗损失，Adversarial-Learned Loss for Domain Adaptation
专知会员服务
61+阅读 · 2020年1月11日
【ICLR2020】面向层次重要性属性:神经序列模型的组成语义解释（Towards Hierarchical Importance Attribution:explaining compositional semantics for Neural Sequence Models）
【ICLR2020】面向层次重要性属性:神经序列模型的组成语义解释（Towards Hierarchical Importance Attribution:explaining compositional semantics for Neural Sequence Models）
专知会员服务
9+阅读 · 2019年12月24日
【AAAI2020-中山大学】知识图谱迁移网络小样本识别，Knowledge Graph Transfer Network for Few-Shot Recognition(附pdf）
【AAAI2020-中山大学】知识图谱迁移网络小样本识别，Knowledge Graph Transfer Network for Few-Shot Recognition(附pdf）
专知会员服务
101+阅读 · 2019年11月24日
CVPR2020 | 一个全新角度：通过量化知识来解释知识蒸馏
CVPR2020 | 一个全新角度：通过量化知识来解释知识蒸馏
极市平台
11+阅读 · 2020年3月30日
论文浅尝 | 基于图匹配神经网络的跨语言知识图对齐 (ACL 2019)
论文浅尝 | 基于图匹配神经网络的跨语言知识图对齐 (ACL 2019)
开放知识图谱
15+阅读 · 2019年11月30日
【NeurIPS2019】图变换网络：Graph Transformer Network
【NeurIPS2019】图变换网络：Graph Transformer Network
专知
244+阅读 · 2019年11月18日
技术动态 | 跨句多元关系抽取
技术动态 | 跨句多元关系抽取
开放知识图谱
49+阅读 · 2019年10月24日
赛尔原创 | EMNLP 2019 常识信息增强的事件表示学习
赛尔原创 | EMNLP 2019 常识信息增强的事件表示学习
哈工大SCIR
28+阅读 · 2019年9月12日
图神经网络火了？谈下它的普适性与局限性
图神经网络火了？谈下它的普适性与局限性
机器之心
21+阅读 · 2019年7月29日
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
开放知识图谱
30+阅读 · 2019年3月26日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
学界 | 阿里巴巴AAAI 18论文CoLink：知识图谱实体链接无监督学习框架
学界 | 阿里巴巴AAAI 18论文CoLink：知识图谱实体链接无监督学习框架
AI科技评论
8+阅读 · 2018年3月21日
图上的归纳表示学习
图上的归纳表示学习
科技创新与创业
22+阅读 · 2017年11月9日
Simple and effective localized attribute representations for zero-shot learning
Simple and effective localized attribute representations for zero-shot learning
Arxiv
5+阅读 · 2020年6月10日
DPGN: Distribution Propagation Graph Network for Few-shot Learning
Arxiv
12+阅读 · 2020年3月31日
DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
Arxiv
6+阅读 · 2020年3月17日
Human-centric Transfer Learning Explanation via Knowledge Graph [Extended Abstract]
Arxiv
3+阅读 · 2019年1月20日
Physical Primitive Decomposition
Physical Primitive Decomposition
Arxiv
4+阅读 · 2018年9月13日
Open Set Chinese Character Recognition using Multi-typed Attributes
Open Set Chinese Character Recognition using Multi-typed Attributes
Arxiv
4+阅读 · 2018年8月27日
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design
Arxiv
4+阅读 · 2018年7月30日
Online Deep Metric Learning
Arxiv
8+阅读 · 2018年5月15日
Improving Deep Binary Embedding Networks by Order-aware Reweighting of Triplets
Arxiv
7+阅读 · 2018年4月17日
One-shot and few-shot learning of word embeddings
Arxiv
5+阅读 · 2017年10月27日
VIP会员
相关主题
CVPR 2020
深度知识迁移
深度归因图
相关VIP内容
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
【ICML2020】深度神经网络置信感知学习，Confidence-Aware Learning for Deep Neural Networks
专知会员服务
71+阅读 · 2020年7月6日
【CVPR 2020 Oral】小样本类增量学习
专知会员服务
109+阅读 · 2020年6月26日
【CVPR2020-浙江大学-阿里巴巴】深层知识迁移的深层归因图，DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
【CVPR2020-浙江大学-阿里巴巴】深层知识迁移的深层归因图，DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
专知会员服务
28+阅读 · 2020年4月17日
【CVPR2020-Oral】用于任务感知的持续学习的条件信道门控网络
专知会员服务
20+阅读 · 2020年4月2日
【CVPR2020-斯坦福】知识蒸馏时空图的视频描述，Spatio-Temporal Graph
【CVPR2020-斯坦福】知识蒸馏时空图的视频描述，Spatio-Temporal Graph
专知会员服务
33+阅读 · 2020年4月2日
图卷积神经网络蒸馏知识，Distillating Knowledge from GCN
图卷积神经网络蒸馏知识，Distillating Knowledge from GCN
专知会员服务
94+阅读 · 2020年3月25日
【AAAI2020-Tutorial-Penn】迁移表示学习最新进展，Recent Advances in Transferable Representation Learning
【AAAI2020-Tutorial-Penn】迁移表示学习最新进展，Recent Advances in Transferable Representation Learning
专知会员服务
51+阅读 · 2020年2月8日
【浙江大学-AAAI2020】领域自适应的对抗损失，Adversarial-Learned Loss for Domain Adaptation
【浙江大学-AAAI2020】领域自适应的对抗损失，Adversarial-Learned Loss for Domain Adaptation
专知会员服务
61+阅读 · 2020年1月11日
【ICLR2020】面向层次重要性属性:神经序列模型的组成语义解释（Towards Hierarchical Importance Attribution:explaining compositional semantics for Neural Sequence Models）
【ICLR2020】面向层次重要性属性:神经序列模型的组成语义解释（Towards Hierarchical Importance Attribution:explaining compositional semantics for Neural Sequence Models）
专知会员服务
9+阅读 · 2019年12月24日
【AAAI2020-中山大学】知识图谱迁移网络小样本识别，Knowledge Graph Transfer Network for Few-Shot Recognition(附pdf）
【AAAI2020-中山大学】知识图谱迁移网络小样本识别，Knowledge Graph Transfer Network for Few-Shot Recognition(附pdf）
专知会员服务
101+阅读 · 2019年11月24日
热门VIP内容
相关资讯
CVPR2020 | 一个全新角度：通过量化知识来解释知识蒸馏
CVPR2020 | 一个全新角度：通过量化知识来解释知识蒸馏
极市平台
11+阅读 · 2020年3月30日
论文浅尝 | 基于图匹配神经网络的跨语言知识图对齐 (ACL 2019)
论文浅尝 | 基于图匹配神经网络的跨语言知识图对齐 (ACL 2019)
开放知识图谱
15+阅读 · 2019年11月30日
【NeurIPS2019】图变换网络：Graph Transformer Network
【NeurIPS2019】图变换网络：Graph Transformer Network
专知
244+阅读 · 2019年11月18日
技术动态 | 跨句多元关系抽取
技术动态 | 跨句多元关系抽取
开放知识图谱
49+阅读 · 2019年10月24日
赛尔原创 | EMNLP 2019 常识信息增强的事件表示学习
赛尔原创 | EMNLP 2019 常识信息增强的事件表示学习
哈工大SCIR
28+阅读 · 2019年9月12日
图神经网络火了？谈下它的普适性与局限性
图神经网络火了？谈下它的普适性与局限性
机器之心
21+阅读 · 2019年7月29日
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
论文浅尝 | 基于属性嵌入的知识图谱间实体对齐方法
开放知识图谱
30+阅读 · 2019年3月26日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
学界 | 阿里巴巴AAAI 18论文CoLink：知识图谱实体链接无监督学习框架
学界 | 阿里巴巴AAAI 18论文CoLink：知识图谱实体链接无监督学习框架
AI科技评论
8+阅读 · 2018年3月21日
图上的归纳表示学习
图上的归纳表示学习
科技创新与创业
22+阅读 · 2017年11月9日
相关论文
Simple and effective localized attribute representations for zero-shot learning
Simple and effective localized attribute representations for zero-shot learning
Arxiv
5+阅读 · 2020年6月10日
DPGN: Distribution Propagation Graph Network for Few-shot Learning
Arxiv
12+阅读 · 2020年3月31日
DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
DEPARA: Deep Attribution Graph for Deep Knowledge Transferability
Arxiv
6+阅读 · 2020年3月17日
Human-centric Transfer Learning Explanation via Knowledge Graph [Extended Abstract]
Arxiv
3+阅读 · 2019年1月20日
Physical Primitive Decomposition
Physical Primitive Decomposition
Arxiv
4+阅读 · 2018年9月13日
Open Set Chinese Character Recognition using Multi-typed Attributes
Open Set Chinese Character Recognition using Multi-typed Attributes
Arxiv
4+阅读 · 2018年8月27日
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design
ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design
Arxiv
4+阅读 · 2018年7月30日
Online Deep Metric Learning
Arxiv
8+阅读 · 2018年5月15日
Improving Deep Binary Embedding Networks by Order-aware Reweighting of Triplets
Arxiv
7+阅读 · 2018年4月17日
One-shot and few-shot learning of word embeddings
Arxiv
5+阅读 · 2017年10月27日
微信扫码咨询专知VIP会员
Top