VIP内容

论文专栏: KDD 2020 元学习相关论文分享

论文解读者: 北邮 GAMMA Lab 硕士生 王春辰

题目: TAdaNet: Task-Adaptive Network for Graph-Enriched Meta-Learning

会议: KDD 2020

论文地址: https://dl.acm.org/doi/pdf/10.1145/3394486.3403230

推荐理由: 标准的元学习过程是共享全局的经验进行参数调整。具有全局共享知识的标准元学习不能很好地处理任务的异构性问题,即任务位于不同的分布。本文提出了一种可以融合领域知识的框架,并提供对于特定任务的参数定制。相比于标准元学习过程,该方法可以更好的使的参数适应于一种特定的任务。

1 引言 现实应用程序中带注释的数据样本通常是有限的。元学习利用从相关任务中学习到的先验知识,并将其推广到有监督经验有限的新任务中,是一种有效的少发式学习方法。然而,具有全局共享知识的标准元学习不能很好地处理任务的异构性问题,即任务位于不同的分布。而KDD2020上的这篇文章利用领域知识图来丰富数据表示,并提供特定于任务的定制。

2 动机与贡献 本文着眼于将领域图中的信息引入到元学习当中来,提出了一个任务自适应的元学习框架TAdaNet,该框架允许跨领域知识图的节点传递消息,并促进针对不同任务的元知识定制。该模型通过在记忆网络中组织历史任务中的任务知识来学习任务嵌入,并根据任务嵌入的条件产生任务感知参数调整来定制学习器参数。每项任务的学习者为分类任务的每个类生成一个原型。具体地说,该框架利用给定图上的类关系,通过注意力机制组合邻域信息来学习原型。数据表示可以通过聚合来自其邻居的信息来丰富,并且任务关系由图上链接类的路径来捕获。

成为VIP会员查看完整内容
0
6
Top