成为VIP会员查看完整内容
VIP会员码认证
首页
主题
发现
会员
服务
注册
·
登录
反向传播
关注
352
反向传播一词严格来说仅指用于计算梯度的算法,而不是指如何使用梯度。但是该术语通常被宽松地指整个学习算法,包括如何使用梯度,例如通过随机梯度下降。反向传播将增量计算概括为增量规则中的增量规则,该规则是反向传播的单层版本,然后通过自动微分进行广义化,其中反向传播是反向累积(或“反向模式”)的特例。 在机器学习中,反向传播(backprop)是一种广泛用于训练前馈神经网络以进行监督学习的算法。对于其他人工神经网络(ANN)都存在反向传播的一般化–一类算法,通常称为“反向传播”。反向传播算法的工作原理是,通过链规则计算损失函数相对于每个权重的梯度,一次计算一层,从最后一层开始向后迭代,以避免链规则中中间项的冗余计算。
综合
百科
VIP
热门
动态
论文
精华
Fermi-Bose Machine
Arxiv
0+阅读 · 4月21日
A Learning Paradigm for Interpretable Gradients
Arxiv
0+阅读 · 4月23日
On the relationship between predictive coding and backpropagation
Arxiv
0+阅读 · 4月16日
NRDF: Neural Riemannian Distance Fields for Learning Articulated Pose Priors
Arxiv
0+阅读 · 4月11日
Learning Topology Uniformed Face Mesh by Volume Rendering for Multi-view Reconstruction
Arxiv
0+阅读 · 4月8日
Differentiable All-pole Filters for Time-varying Audio Systems
Arxiv
0+阅读 · 4月12日
Differentiable All-pole Filters for Time-varying Audio Systems
Arxiv
0+阅读 · 4月11日
FTBC: Forward Temporal Bias Correction for Optimizing ANN-SNN Conversion
Arxiv
0+阅读 · 3月27日
One Backpropagation in Two Tower Recommendation Models
Arxiv
0+阅读 · 3月27日
Backpropagation through space, time, and the brain
Arxiv
0+阅读 · 3月25日
Time Series Compression using Quaternion Valued Neural Networks and Quaternion Backpropagation
Arxiv
1+阅读 · 3月25日
Scaling Learning based Policy Optimization for Temporal Tasks via Dropout
Arxiv
0+阅读 · 3月23日
Forward Learning with Top-Down Feedback: Empirical and Analytical Characterization
Arxiv
0+阅读 · 3月22日
AdjointDPM: Adjoint Sensitivity Method for Gradient Backpropagation of Diffusion Probabilistic Models
Arxiv
0+阅读 · 3月20日
Time Series Compression using Quaternion Valued Neural Networks and Quaternion Backpropagation
Arxiv
0+阅读 · 3月18日
参考链接
父主题
机器学习
数据挖掘
神经网络
子主题
梯度消失与爆炸问题
提示
微信扫码
咨询专知VIP会员与技术项目合作
(加微信请备注: "专知")
微信扫码咨询专知VIP会员
Top