【NeurIPS 2021】实例依赖的偏标记学习

2021 年 11 月 28 日 专知


偏标记学习是一个典型的弱监督学习问题,每个训练示例都与一组候选标签相关联,其中只有一个标签为真。大多数现有的方法都假设每个训练示例的候选标记是由真实标记和随机选取的不正确的标签组成的。然而,这种假设是不切实际的,因为候选标签总是依赖实例的。


在本文中,我们考虑了实例依赖的偏标记学习,并假设每个实例都与每个标记的潜在标记分布相关联,其中标记分布代表了每个标记描述特征的程度。描述程度越高的不正确标签更有可能被注释为候选标签。因此,潜在标记分布是部分标签示例中必不可少的标记信息,值得用于预测模型训练。基于这种考虑,我们提出了一种新的偏标记学习方法,用标记增强 (LE) 恢复标记分布,并在每个阶段迭代训练预测模型。具体地说,我们假设潜在标记分布的真实后验密度是由推理模型参数化的变分近似狄利克雷密度,利用变分后验产生的标记分布对预测模型进行训练。最后在基准测试和真实数据集上进行实验,验证了该方法的有效性。


论文标题:

Instance-Dependent Partial Label Learning


论文链接:

https://www.zhuanzhi.ai/paper/70739bd32a8310f090296cf05f3ba5ae


代码链接:

https://github.com/palm-ml/valen



专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“IDPL” 就可以获取【NeurIPS 2021】实例依赖的偏标记学习》专知下载链接

专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!


欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
1

相关内容

偏标记学习(partial label learning)是一类重要的弱监督学习框架,在该框架下每个对象同时具有多个候选标记,但其中仅有一个为其真实标记。偏标记学习技术已在多媒体内容自动标注、自然语言处理、生态信息学等领域得到成功应用
【AAAI2022】跨域少样本图分类
专知会员服务
29+阅读 · 2022年1月22日
IEEE TPAMI | 基于标注偏差估计的实例相关PU学习
专知会员服务
10+阅读 · 2021年10月23日
专知会员服务
14+阅读 · 2021年10月15日
专知会员服务
15+阅读 · 2021年10月4日
专知会员服务
24+阅读 · 2021年9月10日
专知会员服务
26+阅读 · 2021年6月18日
【WWW2021】场矩阵分解机推荐系统
专知会员服务
30+阅读 · 2021年2月27日
专知会员服务
44+阅读 · 2020年10月5日
【WWW2021】高效的非抽样知识图谱嵌入
专知
0+阅读 · 2021年4月25日
【CVPR2021】跨模态检索的概率嵌入
专知
16+阅读 · 2021年3月2日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
31+阅读 · 2020年9月21日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
VIP会员
相关VIP内容
【AAAI2022】跨域少样本图分类
专知会员服务
29+阅读 · 2022年1月22日
IEEE TPAMI | 基于标注偏差估计的实例相关PU学习
专知会员服务
10+阅读 · 2021年10月23日
专知会员服务
14+阅读 · 2021年10月15日
专知会员服务
15+阅读 · 2021年10月4日
专知会员服务
24+阅读 · 2021年9月10日
专知会员服务
26+阅读 · 2021年6月18日
【WWW2021】场矩阵分解机推荐系统
专知会员服务
30+阅读 · 2021年2月27日
专知会员服务
44+阅读 · 2020年10月5日
相关基金
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员