【ICML2020-伯克利-马毅老师组】深度等距学习的视觉识别，Deep Isometric Learning for Visual Recognition

题目： Deep Isometric Learning for Visual Recognition

简介： 初始化，正则化和skip连接被认为是训练非常深的卷积神经网络并获得最新性能的三种必不可少的技术。 本文表明，无需规范化或skip连接的深层卷积网络也可以训练出在标准图像识别基准上获得令人惊讶的良好性能。 这是通过在初始化和训练过程中强制卷积内核接近等距来实现的，还可以通过使用ReLU的变体来实现等距变迁。 进一步的实验表明，如果与skip连接结合使用，则即使完全不进行正则化，此类近等距网络也可以达到ResNet在ImageNet与COCO数据集上相同的性能。