直播 | NeurIPS 2021论文解读:实例依赖的偏标记学习

2021 年 11 月 25 日 PaperWeekly


「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

本期 AI Drive,我们邀请到东南大学计算机科学与工程学院硕士生乔聪玉,为大家在线解读其发表在 NeurIPS 2021 的最新研究成果:Instance-Dependent Partial Label Learning对本期主题感兴趣的小伙伴,11 月 25 日(本周四)晚 7 点,我们准时相约 PaperWeekly 直播间。



直播信息




偏标记学习是一个典型的弱监督学习问题,每个训练示例都与一组候选标签相关联,其中只有一个标签为真。大多数现有的方法都假设每个训练示例的候选标记是由真实标记和随机选取的不正确的标签组成的。然而,这种假设是不切实际的,因为候选标签总是依赖实例的。


在本文中,我们考虑了实例依赖的偏标记学习,并假设每个实例都与每个标记的潜在标记分布相关联,其中标记分布代表了每个标记描述特征的程度。描述程度越高的不正确标签更有可能被注释为候选标签。因此,潜在标记分布是部分标签示例中必不可少的标记信息,值得用于预测模型训练。基于这种考虑,我们提出了一种新的偏标记学习方法,用标记增强 (LE) 恢复标记分布,并在每个阶段迭代训练预测模型。具体地说,我们假设潜在标记分布的真实后验密度是由推理模型参数化的变分近似狄利克雷密度,利用变分后验产生的标记分布对预测模型进行训练。最后在基准测试和真实数据集上进行实验,验证了该方法的有效性。


论文标题:

Instance-Dependent Partial Label Learning


论文链接:

https://arxiv.org/abs/2110.12911


代码链接:

https://github.com/palm-ml/valen


本次分享的具体内容有:  
  • 偏标记学习介绍

  • 基于 DNN 的偏标记学习方法和传统的偏标记学习方法

  • 基于变分标记增强的实例依赖的偏标记学习框架

  • 指标对比和消融实验

  • 优势分析和未来展望



嘉宾介绍



 乔聪玉 / 东南大学硕士生 


乔聪玉,东南大学计算机科学与工程学院 PAttern Learning and Mining (PALM) Lab 2020 届硕士研究生,主要进行偏标记学习、标记增强等机器学习方面的研究,目前一篇关于偏标记学习的工作已被 NeurIPS 2021 接收。



直播地址 & 交流群




本次直播将在 PaperWeekly 视频号和 B 站直播间进行,扫描下方海报二维码点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道


视频号直播间:
扫描下方二维码关注 PaperWeekly 视频号,第一时间获取开播提醒。



B 站直播间:

https://live.bilibili.com/14884511



合作伙伴







🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧



·


登录查看更多
0

相关内容

偏标记学习(partial label learning)是一类重要的弱监督学习框架,在该框架下每个对象同时具有多个候选标记,但其中仅有一个为其真实标记。偏标记学习技术已在多媒体内容自动标注、自然语言处理、生态信息学等领域得到成功应用
【NeurIPS 2021】实例依赖的偏标记学习
专知会员服务
10+阅读 · 2021年11月28日
IEEE TPAMI | 基于标注偏差估计的实例相关PU学习
专知会员服务
10+阅读 · 2021年10月23日
专知会员服务
14+阅读 · 2021年10月15日
专知会员服务
42+阅读 · 2021年8月20日
专知会员服务
26+阅读 · 2021年6月18日
专知会员服务
51+阅读 · 2021年5月30日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
65+阅读 · 2020年10月20日
专知会员服务
113+阅读 · 2020年10月8日
近期必读的六篇 ICML 2020【因果推理】相关论文
专知会员服务
87+阅读 · 2020年9月8日
【NeurIPS 2021】实例依赖的偏标记学习
专知
1+阅读 · 2021年11月28日
国家自然科学基金
21+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
31+阅读 · 2020年9月21日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
Learning Embedding Adaptation for Few-Shot Learning
Arxiv
16+阅读 · 2018年12月10日
Arxiv
23+阅读 · 2018年10月24日
VIP会员
相关VIP内容
【NeurIPS 2021】实例依赖的偏标记学习
专知会员服务
10+阅读 · 2021年11月28日
IEEE TPAMI | 基于标注偏差估计的实例相关PU学习
专知会员服务
10+阅读 · 2021年10月23日
专知会员服务
14+阅读 · 2021年10月15日
专知会员服务
42+阅读 · 2021年8月20日
专知会员服务
26+阅读 · 2021年6月18日
专知会员服务
51+阅读 · 2021年5月30日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
65+阅读 · 2020年10月20日
专知会员服务
113+阅读 · 2020年10月8日
近期必读的六篇 ICML 2020【因果推理】相关论文
专知会员服务
87+阅读 · 2020年9月8日
相关基金
国家自然科学基金
21+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员