【NeurIPS2020】持续学习的元巩固

持续学习和适应新任务的能力，同时又不失去对已经获得的知识的掌握，是生物学习系统的一个特征，这是目前的深度学习系统所欠缺的。在这项工作中，我们提出了一种新的持续学习方法，称为MERLIN:持续学习的元巩固。

我们假设一个用于解决任务t的神经网络的权值是来自于一个元分布p(lenian| t)。这种元分布是逐步学习和巩固的。我们在具有挑战性的在线持续学习设置中操作，其中一个数据点只被模型看到一次。

我们对MNIST、CIFAR-10、CIFAR-100和Mini-ImageNet数据集的持续学习基准进行的实验显示，在五个基线上，包括最近的最先进水平，都证明了MERLIN的前景。

https://arxiv.org/abs/2010.00352