【ICML2021】为序列学习训练的时间关联型任务调度器

序列学习（Sequence Learning）是一类很重要的机器学习任务，在序列学习中，很多任务是时间相关联的（Temporally Correlated），例如，在同声传译中，给定输入的句子，不同延迟下的翻译是时序相关的；在股票预测中，未来几天的股票价格也是相关的。一组时序相关联任务的区别在于能够利用多少输入信息（如同传），以及需要预测未来哪一步的信息（如股票预测）。给定一个主任务，直观上来说，它的时序相关联任务对提升主任务效果是有帮助的，然而如何利用辅助任务并没有得到充分探索。为此，微软亚洲研究院的研究员们提出了一种基于 Bi-level Optimization 的方案，对于一个给定的序列学习任务，能够自适应地利用它的时间相关联任务，提升任务效果。