【CVPR2022】MSDN: 零样本学习的互语义蒸馏网络

2022 年 3 月 8 日 专知



零样本学习(zero-shot learning, ZSL)的关键挑战是如何推断已见类的视觉特征和属性特征之间的潜在语义知识,从而实现对未见类的知识迁移。以往的研究要么简单地将图像的整体特征与其关联的类语义向量对齐,要么利用单向注意学习有限的潜在语义表示,无法有效地发现视觉特征与属性特征之间的内在语义知识(如属性语义)。为了解决上述困境,我们提出了一种相互语义蒸馏网络(MSDN),该网络逐步提取ZSL的视觉特征和属性特征之间的内在语义表示。MSDN包含学习基于属性的视觉特征的属性→视觉注意子网和学习基于可视化的属性特征的属性→属性注意子网。通过进一步引入语义蒸馏损失,两个相互关注的子网络能够在整个训练过程中进行协作学习和相互教学。提议的MSDN在强大的基线上产生了显著的改进,导致在三个流行的具有挑战性的基准(即CUB、SUN和AWA2)上产生了新的最先进的性能。我们的代码已在:\url{https://github.com/shiming-chen/MSDN}。


https://arxiv.org/abs/2203.03137



专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“MSDN” 就可以获取【CVPR2022】MSDN: 零样本学习的互语义蒸馏网络》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取70000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取70000+AI主题知识资源
登录查看更多
1

相关内容

 Microsoft Developer Network 微软开发者网络

http:///msdn.microsoft.com

【CVPR2022】高分辨率和多样化的视频-文本预训练模型
专知会员服务
9+阅读 · 2022年3月6日
【CVPR2022】三元组对比学习的视觉-语言预训练
专知会员服务
31+阅读 · 2022年3月3日
专知会员服务
26+阅读 · 2021年6月18日
专知会员服务
38+阅读 · 2021年5月16日
【CVPR2021】端到端的全卷积目标检测器
专知
1+阅读 · 2021年4月5日
【CVPR2021】跨模态检索的概率嵌入
专知
16+阅读 · 2021年3月2日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
12+阅读 · 2020年10月19日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月18日
Arxiv
0+阅读 · 2022年4月15日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员