如何评价Kaiming He的Momentum Contrast for Unsupervised?

https://arxiv.org/pdf/1911.05722.pdf
关注者
1,833
被浏览
273,435
登录后你可以
不限量看优质回答私信答主深度交流精彩内容一键收藏

这一波操作很迷啊,上半年发了一篇train from scratch可以和pre-training一样效果的work,搞的做self-supervised learning的人很绝望,supervised pre-training都没用我还做self-supercised learning干啥。结果现在继续把不要label的pre-training做成和要label的一样了。

所以到底是pre-train还是不pre-train啊