会员服务

Minnorm training: an algorithm for training over-parameterized deep neural networks

2018 年 6 月 21 日 Arxiv Yamini Bansal,Madhu Advani,David D Cox,Andrew M Saxe
登录查看更多
0

相关内容

【Google】平滑对抗训练，Smooth Adversarial Training
【Google】平滑对抗训练，Smooth Adversarial Training
专知会员服务
46+阅读 · 2020年7月4日
【CMU博士论文】用动态超参数优化改进深度学习训练和推理，Improving Deep Learning Training and Inference with Dynamic Hyperparameter Optimization
【CMU博士论文】用动态超参数优化改进深度学习训练和推理，Improving Deep Learning Training and Inference with Dynamic Hyperparameter Optimization
专知会员服务
54+阅读 · 2020年5月26日
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
专知会员服务
32+阅读 · 2020年2月27日
UC.Berkeley CS189讲义教材:《机器学习全面指南》，185页pdf
专知会员服务
158+阅读 · 2020年1月16日
【北京智源大会2019】 神经网络的优化Optimization for Overparametrized Deep Neural Networks，北京大学 | 王立威
【北京智源大会2019】 神经网络的优化Optimization for Overparametrized Deep Neural Networks，北京大学 | 王立威
专知会员服务
22+阅读 · 2019年11月21日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
45+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
56+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
53+阅读 · 2019年10月17日
强化学习最新教程，17页pdf
强化学习最新教程，17页pdf
专知会员服务
167+阅读 · 2019年10月11日
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
专知会员服务
77+阅读 · 2019年10月9日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
25+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
meta learning 17年：MAML SNAIL
meta learning 17年：MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
【SIGIR2018】五篇对抗训练文章
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
【论文推荐】最新六篇主题模型相关论文—领域特定知识库、神经变分推断、动态和静态主题模型
【论文推荐】最新六篇主题模型相关论文—领域特定知识库、神经变分推断、动态和静态主题模型
专知
19+阅读 · 2018年6月26日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
【论文推荐】最新七篇强化学习相关论文—逻辑约束、综述、多任务深度强化学习、参数服务器、事件抽取、分层强化学习、过拟合研究
【论文推荐】最新七篇强化学习相关论文—逻辑约束、综述、多任务深度强化学习、参数服务器、事件抽取、分层强化学习、过拟合研究
专知
25+阅读 · 2018年4月29日
【推荐】决策树/随机森林深入解析
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Go Wide, Then Narrow: Efficient Training of Deep Thin Networks
Arxiv
15+阅读 · 2020年7月1日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
A Comparison of Neural Network Training Methods for Text Classification
Arxiv
6+阅读 · 2019年10月28日
Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks
Arxiv
13+阅读 · 2019年8月8日
Stochastic Gradient Descent Optimizes Over-parameterized Deep ReLU Networks
Arxiv
8+阅读 · 2018年11月21日
Training Generative Adversarial Networks Via Turing Test
Training Generative Adversarial Networks Via Turing Test
Arxiv
3+阅读 · 2018年10月25日
Reducing Parameter Space for Neural Network Training
Arxiv
3+阅读 · 2018年8月17日
A Dual Approach to Scalable Verification of Deep Networks
A Dual Approach to Scalable Verification of Deep Networks
Arxiv
3+阅读 · 2018年8月3日
Constrained-CNN losses forweakly supervised segmentation
Arxiv
5+阅读 · 2018年5月12日
SpectralNet: Spectral Clustering using Deep Neural Networks
Arxiv
11+阅读 · 2018年1月10日
VIP会员
相关主题
泛化理论
Networking
可辨认的
约束优化
Performer
Neural Networks
机器学习
计算学习理论
进化计算
相关VIP内容
【Google】平滑对抗训练，Smooth Adversarial Training
【Google】平滑对抗训练，Smooth Adversarial Training
专知会员服务
46+阅读 · 2020年7月4日
【CMU博士论文】用动态超参数优化改进深度学习训练和推理，Improving Deep Learning Training and Inference with Dynamic Hyperparameter Optimization
【CMU博士论文】用动态超参数优化改进深度学习训练和推理，Improving Deep Learning Training and Inference with Dynamic Hyperparameter Optimization
专知会员服务
54+阅读 · 2020年5月26日
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
【ICLR2020】深度神经网络优化轨迹的平衡点，The Break-Even Point on Optimization Trajectories of Deep Neural Networks
专知会员服务
32+阅读 · 2020年2月27日
UC.Berkeley CS189讲义教材:《机器学习全面指南》，185页pdf
专知会员服务
158+阅读 · 2020年1月16日
【北京智源大会2019】 神经网络的优化Optimization for Overparametrized Deep Neural Networks，北京大学 | 王立威
【北京智源大会2019】 神经网络的优化Optimization for Overparametrized Deep Neural Networks，北京大学 | 王立威
专知会员服务
22+阅读 · 2019年11月21日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
45+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
56+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
53+阅读 · 2019年10月17日
强化学习最新教程，17页pdf
强化学习最新教程，17页pdf
专知会员服务
167+阅读 · 2019年10月11日
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
专知会员服务
77+阅读 · 2019年10月9日
热门VIP内容
相关资讯
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
25+阅读 · 2019年5月18日
强化学习的Unsupervised Meta-Learning
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
meta learning 17年：MAML SNAIL
meta learning 17年：MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
【SIGIR2018】五篇对抗训练文章
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
【论文推荐】最新六篇主题模型相关论文—领域特定知识库、神经变分推断、动态和静态主题模型
【论文推荐】最新六篇主题模型相关论文—领域特定知识库、神经变分推断、动态和静态主题模型
专知
19+阅读 · 2018年6月26日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
【论文推荐】最新七篇强化学习相关论文—逻辑约束、综述、多任务深度强化学习、参数服务器、事件抽取、分层强化学习、过拟合研究
【论文推荐】最新七篇强化学习相关论文—逻辑约束、综述、多任务深度强化学习、参数服务器、事件抽取、分层强化学习、过拟合研究
专知
25+阅读 · 2018年4月29日
【推荐】决策树/随机森林深入解析
【推荐】决策树/随机森林深入解析
机器学习研究会
5+阅读 · 2017年9月21日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
相关论文
Go Wide, Then Narrow: Efficient Training of Deep Thin Networks
Arxiv
15+阅读 · 2020年7月1日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
102+阅读 · 2019年12月19日
A Comparison of Neural Network Training Methods for Text Classification
Arxiv
6+阅读 · 2019年10月28日
Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks
Arxiv
13+阅读 · 2019年8月8日
Stochastic Gradient Descent Optimizes Over-parameterized Deep ReLU Networks
Arxiv
8+阅读 · 2018年11月21日
Training Generative Adversarial Networks Via Turing Test
Training Generative Adversarial Networks Via Turing Test
Arxiv
3+阅读 · 2018年10月25日
Reducing Parameter Space for Neural Network Training
Arxiv
3+阅读 · 2018年8月17日
A Dual Approach to Scalable Verification of Deep Networks
A Dual Approach to Scalable Verification of Deep Networks
Arxiv
3+阅读 · 2018年8月3日
Constrained-CNN losses forweakly supervised segmentation
Arxiv
5+阅读 · 2018年5月12日
SpectralNet: Spectral Clustering using Deep Neural Networks
Arxiv
11+阅读 · 2018年1月10日
大家都在搜
  1. TDGN
  2. 电力电子
  3. 无人地面车辆
  4. 生成式人工智能
  5. MIT博士论文
  6. 智能仓储
  7. ads-b
  8. 卡尔曼
  9. MoE
  10. 红外弱小目标检测算法综述
    11.
Top
微信扫码咨询专知VIP会员
Top