【NeurIPS2020】用于鲁棒估计和自动结构发现的多任务加性模型

Multi-task Additive Models for Robust Estimation and Automatic Structure Discovery

当前，面向高维数据的可解释模型大多构建在单任务学习框架下，且以学习条件均值为目标。此类模型往往不能直接用于多任务数据，且在非高斯噪声的数据处理中会出现性能的退化。特别地，传统的组稀疏可解释模型严重依赖变量结构的先验信息。针对此类问题，本文在多任务双层优化框架下，通过融合众数回归、可加模型与结构惩罚项，提出了一类新的多任务可加模型。该模型不仅能实现面向复杂噪声数据的稳健估计，而且能够自动地挖掘数据中潜在的变量组结构。优化上，针对模型非凸非光滑的特点，研究者基于半二次优化和前向后向切分算法提出了一类光滑优化策略，并给出了优化算法的收敛分析。应用上，模拟实验和日冕物质抛射实验从模型的估计误差、结构发现能力等多角度验证了构建模型的出色性能。

https://papers.nips.cc/paper/2020/file/8767bccb1ff4231a9962e3914f4f1f8f-Paper.pdf