题目: Meta-Learning Initializations for Low-Resource Drug Discovery

摘要:

建立硅模型来预测化学性质和活性是药物发现的关键一步。然而,药物发现项目的特点是标记数据有限,这阻碍了深度学习在这种情况下的应用。与此同时,元学习的进步使得在小样本学习基准中的最优表现成为可能,这自然引发了这样一个问题:元学习能否提高在低资源药物发现项目中的深度学习性能?在这项工作中,我们评估了模型不可知元学习(MAML)算法的效率——以及它的变体FO-MAML和ANIL——在学习预测化学性质和活性方面的效率。使用ChEMBL20数据集来模拟低资源设置,我们的基准测试表明,在20个分布任务中的16个任务和所有分布任务中,元初始化的性能与多任务训练前基线相当或优于多任务训练基线,分别为AUPRC提供7.2%和14.9%的平均改进。最后,我们观察到,元初始化一致地在k∈{16,32,64,128,256}实例的微调集上产生性能最佳的模型。

成为VIP会员查看完整内容
26

相关内容

Meta Learning,元学习,也叫 Learning to Learn(学会学习)。是继Reinforcement Learning(增强学习)之后又一个重要的研究分支。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【ICML2020】小样本目标检测
专知会员服务
90+阅读 · 2020年6月2日
【KDD2020】多源深度域自适应的时序传感数据
专知会员服务
59+阅读 · 2020年5月25日
专知会员服务
107+阅读 · 2020年5月21日
【浙江大学】使用MAML元学习的少样本图分类
专知会员服务
62+阅读 · 2020年3月22日
专知会员服务
85+阅读 · 2020年1月20日
用于语音识别的数据增强
AI研习社
24+阅读 · 2019年6月5日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
无监督元学习表示学习
CreateAMind
25+阅读 · 2019年1月4日
OpenAI提出Reptile:可扩展的元学习算法
深度学习世界
7+阅读 · 2018年3月9日
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
Arxiv
26+阅读 · 2019年3月5日
Logically-Constrained Reinforcement Learning
Arxiv
3+阅读 · 2018年12月6日
Arxiv
135+阅读 · 2018年10月8日
Arxiv
7+阅读 · 2018年6月8日
VIP会员
相关VIP内容
【ICML2020】小样本目标检测
专知会员服务
90+阅读 · 2020年6月2日
【KDD2020】多源深度域自适应的时序传感数据
专知会员服务
59+阅读 · 2020年5月25日
专知会员服务
107+阅读 · 2020年5月21日
【浙江大学】使用MAML元学习的少样本图分类
专知会员服务
62+阅读 · 2020年3月22日
专知会员服务
85+阅读 · 2020年1月20日
相关论文
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
Arxiv
26+阅读 · 2019年3月5日
Logically-Constrained Reinforcement Learning
Arxiv
3+阅读 · 2018年12月6日
Arxiv
135+阅读 · 2018年10月8日
Arxiv
7+阅读 · 2018年6月8日
微信扫码咨询专知VIP会员