主题: High-dimensional cost landscape and gradient descent in Tensor PCA and its generalisations

摘要: 张量PCA是一个典型的、特别困难的高维估计问题。在本次演讲中,我将讨论如何利用统计力学方法揭示高维景观的几何结构与基于梯度下降的算法性能之间的密切联系。我还将展示,关于成本环境的额外知识如何允许设计具体和潜在的一般策略,以大幅提高基于梯度下降的算法的性能。

作者简介: Chiara Cammarota,伦敦国王学院讲师。

成为VIP会员查看完整内容
High-dimensional cost landscape and gradient descent in Tensor PCA and its generalisations.pdf
12

相关内容

梯度下降法是一个最优化算法,通常也称为最速下降法。最速下降法是求解无约束优化问题最简单和最古老的方法之一,虽然现在已经不具有实用性,但是许多有效算法都是以它为基础进行改进和修正而得到的。最速下降法是用负梯度方向为搜索方向的,最速下降法越接近目标值,步长越小,前进越慢。可以用于求解非线性方程组
【实用书】数据科学基础,484页pdf,Foundations of Data Science
专知会员服务
117+阅读 · 2020年5月28日
介绍高维超参数调整 - 优化ML模型的最佳实践
AI研习社
7+阅读 · 2019年4月17日
误差反向传播——RNN
统计学习与视觉计算组
18+阅读 · 2018年9月6日
已删除
将门创投
10+阅读 · 2018年5月2日
干货|深度神经网络(DNN)反向传播算法(BP)
全球人工智能
7+阅读 · 2018年1月12日
Deep Learning for Energy Markets
Arxiv
8+阅读 · 2019年4月10日
Meta-Learning with Latent Embedding Optimization
Arxiv
6+阅读 · 2018年7月16日
Arxiv
5+阅读 · 2018年6月12日
Arxiv
4+阅读 · 2018年4月26日
VIP会员
相关VIP内容
【实用书】数据科学基础,484页pdf,Foundations of Data Science
专知会员服务
117+阅读 · 2020年5月28日
微信扫码咨询专知VIP会员