【NeurIPS 2020】学习神经网络中的不变性

平移的不变性为卷积神经网络注入了强大的泛化特性。然而，我们通常无法预先知道数据中存在哪些不变性，或者模型在多大程度上应该对给定的对称组保持不变。我们展示了如何通过参数化增强分布和同时优化网络参数和增强参数的训练损失来学习不变性和等方差。通过这个简单的过程，我们可以在一个很大的扩充空间中，仅在训练数据上，恢复图像分类、回归、分割和分子性质预测上的正确不变量集和范围。

https://arxiv.org/pdf/2010.11882.pdf