我们考虑发现K个相关高斯有向无环图(DAG)的问题,其中涉及的图结构共享一个一致的因果顺序和稀疏的支持联合。在多任务学习环境下,我们提出一种l1/l2-正则化极大似然估计(MLE)来学习K个线性结构方程模型。我们从理论上证明,通过在相关任务中利用数据,联合估计器可以获得比单独估计更好的恢复因果顺序(或拓扑顺序)的样本复杂度。此外,联合估计器还可以将不可识别的DAG与一些可识别的DAG一起估计,从而恢复不可识别的DAG。最后,我们的分析也显示了结构的联合支持恢复的一致性。为了实现,我们设计了一个连续优化问题,它的优化器与联合估计器相同,可以用迭代算法有效地逼近。通过实验验证了理论分析和联合估计的有效性。

https://www.zhuanzhi.ai/paper/b3305f7188ba3f69e3025383d906f503

成为VIP会员查看完整内容
19

相关内容

多任务学习(MTL)是机器学习的一个子领域,可以同时解决多个学习任务,同时利用各个任务之间的共性和差异。与单独训练模型相比,这可以提高特定任务模型的学习效率和预测准确性。多任务学习是归纳传递的一种方法,它通过将相关任务的训练信号中包含的域信息用作归纳偏差来提高泛化能力。通过使用共享表示形式并行学习任务来实现,每个任务所学的知识可以帮助更好地学习其它任务。
专知会员服务
23+阅读 · 2021年10月20日
专知会员服务
14+阅读 · 2021年10月18日
专知会员服务
14+阅读 · 2021年8月10日
《多任务学习》最新综述论文,20页pdf
专知会员服务
121+阅读 · 2021年4月6日
专知会员服务
44+阅读 · 2021年1月31日
专知会员服务
23+阅读 · 2020年12月16日
专知会员服务
28+阅读 · 2020年10月2日
【ICML2020】持续终身学习的神经主题建模
专知会员服务
36+阅读 · 2020年6月22日
【NeurIPS2020】无限可能的联合对比学习
专知
3+阅读 · 2020年10月2日
最新《多任务学习》综述,39页pdf
专知
28+阅读 · 2020年7月10日
【ICML2020】对比多视角表示学习
专知
18+阅读 · 2020年6月28日
论文浅尝 | 时序与因果关系联合推理
开放知识图谱
33+阅读 · 2019年6月23日
Arxiv
5+阅读 · 2020年12月10日
Arxiv
3+阅读 · 2018年11月19日
VIP会员
相关VIP内容
专知会员服务
23+阅读 · 2021年10月20日
专知会员服务
14+阅读 · 2021年10月18日
专知会员服务
14+阅读 · 2021年8月10日
《多任务学习》最新综述论文,20页pdf
专知会员服务
121+阅读 · 2021年4月6日
专知会员服务
44+阅读 · 2021年1月31日
专知会员服务
23+阅读 · 2020年12月16日
专知会员服务
28+阅读 · 2020年10月2日
【ICML2020】持续终身学习的神经主题建模
专知会员服务
36+阅读 · 2020年6月22日
相关资讯
微信扫码咨询专知VIP会员