题目

深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi

关键词

深度学习,技能教授,知识速查

内容

  • 数据准备
  • 训练神经网络
  • 调参数
  • 正则化
  • 实验

论文作者

Afshine Amidi,来自Operations Research Center系的硕士学位,由Dimitris Bertsimas教授监督完成。曾与亚马逊和麦肯锡公司合作完成项目。

成为VIP会员查看完整内容
0
14

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等

从这些令人兴奋的课程中学习,让自己沉浸在深度学习、强化学习、机器学习、计算机视觉和NLP中!!

成为VIP会员查看完整内容
0
41

目录:

  • 数据处理
    • 数据扩充
    • 批量归一化
  • 训练神经网络
    • Epoch
    • 最小批量
    • 交叉熵损失
    • 反向传播
    • 梯度下降
    • 更新权重
    • 梯度检查
  • 参数调整
    • Xavier初始化
    • 转移学习
    • 学习率
    • 自适应学习率
  • 正则化
    • Dropout
    • 权重调整
    • 提前停止
  • 良好训练
    • 过度拟合小批量
    • 梯度检查
成为VIP会员查看完整内容
0
7

目录: -导引

  • 样本空间
  • 事件
  • 置换
  • 条件概率
    • 贝叶斯规则
    • 独立性
  • 随机变量
    • 定义
    • 期望
    • 方差
  • 概率分布
    • 切比雪夫不等式
    • 主要的分布
  • 联合分布随机变量
    • 密度函数
    • 协方差
    • 相关性
  • 参数估计
    • 均值
    • 方差
成为VIP会员查看完整内容
0
29

课程介绍

麻省理工学院深度学习和自动驾驶课程,介绍了深度学习的相关知识,以及深度学习在自动驾驶领域的实践和应用。

面向人群

课程主要面向机器学习初学者,也同样适用于深度学习、自动驾驶领域的高级研究人员,能够帮助学习者了解深度学习在自动驾驶中的应用。

课程大纲

  • 第一讲 - 深度学习
  • 第二讲 - 自动驾驶
  • 第三讲 - 深度增强学习
  • 第四讲 - 计算机视觉
  • 第五讲 - 能够感知人类的深度学习
  • 客邀讲座 - 自动驾驶机器学习的兴起
  • 客邀讲座 - 深度学习在自动驾驶领域的应用
  • 客邀讲座 - 深度学习在自动驾驶领域的应用

课程链接:https://selfdrivingcars.mit.edu/

中文字幕:http://www.mooc.ai/course/483

成为VIP会员查看完整内容
0
13

This paper is an attempt to explain all the matrix calculus you need in order to understand the training of deep neural networks. We assume no math knowledge beyond what you learned in calculus 1, and provide links to help you refresh the necessary math where needed. Note that you do not need to understand this material before you start learning to train and use deep learning in practice; rather, this material is for those who are already familiar with the basics of neural networks, and wish to deepen their understanding of the underlying math. Don't worry if you get stuck at some point along the way---just go back and reread the previous section, and try writing down and working through some examples. And if you're still stuck, we're happy to answer your questions in the Theory category at forums.fast.ai. Note: There is a reference section at the end of the paper summarizing all the key matrix calculus rules and terminology discussed here. See related articles at http://explained.ai

0
5
下载
预览
小贴士
相关VIP内容
【课程推荐】 深度学习中的几何(Geometry of Deep Learning)
深度学习界圣经“花书”《Deep Learning》中文版来了
专知会员服务
94+阅读 · 2019年10月26日
相关资讯
吐血整理!10 个机器学习教程汇总,爱可可推荐!
大数据技术
11+阅读 · 2019年9月2日
一份数据科学家必备的技能清单(附资源)
THU数据派
5+阅读 · 2018年5月29日
机器学习线性代数速查
机器学习研究会
5+阅读 · 2018年2月25日
【资源】15个在线机器学习课程和教程
专知
4+阅读 · 2017年12月22日
送你一份深度学习10大在线免费课程资源!
THU数据派
4+阅读 · 2017年12月11日
Deep Reinforcement Learning 深度增强学习资源
数据挖掘入门与实战
4+阅读 · 2017年11月4日
相关论文
Joost Verbraeken,Matthijs Wolting,Jonathan Katzy,Jeroen Kloppenburg,Tim Verbelen,Jan S. Rellermeyer
16+阅读 · 2019年12月20日
Learning Embedding Adaptation for Few-Shot Learning
Han-Jia Ye,Hexiang Hu,De-Chuan Zhan,Fei Sha
3+阅读 · 2018年12月10日
Ofir Press,Noah A. Smith
3+阅读 · 2018年10月31日
Antoine J. -P. Tixier
7+阅读 · 2018年8月30日
The Matrix Calculus You Need For Deep Learning
Terence Parr,Jeremy Howard
5+阅读 · 2018年7月2日
Martin Rajchl,Nick Pawlowski,Daniel Rueckert,Paul M. Matthews,Ben Glocker
5+阅读 · 2018年6月11日
Zhewei Wang,Bibo Shi,Charles D. Smith,Jundong Liu
4+阅读 · 2018年5月15日
Wenbin Li,Jing Huo,Yinghuan Shi,Yang Gao,Lei Wang,Jiebo Luo
7+阅读 · 2018年5月15日
Balazs Pejo,Qiang Tang
4+阅读 · 2018年2月28日
Oriol Vinyals,Charles Blundell,Timothy Lillicrap,Koray Kavukcuoglu,Daan Wierstra
7+阅读 · 2017年12月29日
Top