【导读】 本教程是Garrett Hoffman使用Python和tensorflow的实时实例以及stock Twits数据,为读者朋友介绍用于自然语言处理任务的深度学习方法,其中包括word2vec、RNN和其相关变体(LSTM、GRU),以及卷积神经网络。通过对本教程的学习,您将会了解这些模型的原理,并简要回顾每种方法中所运用的数学理论。

教程大纲:

使用word2vec词嵌入的文本表示学习

  • CBOW与skip-gram
  • 如何训练自定义的词嵌入
  • 如何使用预训练词嵌入

传统RNN

  • RNN变体比传统RNN具有更好性能的原因
  • RNN变体
  • 模型可以提高准确性的原因

卷积神经网络(CNN)

  • CNN为什么会被用于语言模型
  • CNN相对于RNN的优势
  • 如何使用RNN来学习文本合成的生成模型以及该方法的应用

本教程将理论与实践相结合,为了加强对理论部分的理解,作者分享了相关代码来实现模型,code地址:https://github.com/GarrettHoffman/AI_Conf_2019_DL_4_NLP

成为VIP会员查看完整内容
Deep learning methods for natural language processing Presentation 1.pdf
48

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
208+阅读 · 2020年4月26日
专知会员服务
102+阅读 · 2020年3月12日
【MIT深度学习课程】深度序列建模,Deep Sequence Modeling
专知会员服务
75+阅读 · 2020年2月3日
【电子书推荐】Data Science with Python and Dask
专知会员服务
42+阅读 · 2019年6月1日
【赠书】TensorFlow自然语言处理
AINLP
17+阅读 · 2019年7月14日
可视化循环神经网络的注意力机制
论智
22+阅读 · 2018年9月23日
<好书推荐> -《Pro Deep Learning with TensorFlow》分享
深度学习与NLP
12+阅读 · 2018年9月13日
自然语言处理 | 使用Spacy 进行自然语言处理(二)
机器学习和数学
10+阅读 · 2018年8月27日
自然语言处理 | 使用Spacy 进行自然语言处理
机器学习和数学
18+阅读 · 2018年8月22日
实践 | 如何快速训练免费的文本生成神经网络
黑龙江大学自然语言处理实验室
4+阅读 · 2018年6月4日
教程 | 在Python和TensorFlow上构建Word2Vec词嵌入模型
机器之心
6+阅读 · 2017年11月20日
最佳实践:深度学习用于自然语言处理(三)
待字闺中
3+阅读 · 2017年8月20日
On Feature Normalization and Data Augmentation
Arxiv
13+阅读 · 2020年2月25日
A Probe into Understanding GAN and VAE models
Arxiv
9+阅读 · 2018年12月13日
Arxiv
6+阅读 · 2018年11月1日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
3+阅读 · 2018年8月17日
Arxiv
5+阅读 · 2018年4月22日
VIP会员
相关资讯
【赠书】TensorFlow自然语言处理
AINLP
17+阅读 · 2019年7月14日
可视化循环神经网络的注意力机制
论智
22+阅读 · 2018年9月23日
<好书推荐> -《Pro Deep Learning with TensorFlow》分享
深度学习与NLP
12+阅读 · 2018年9月13日
自然语言处理 | 使用Spacy 进行自然语言处理(二)
机器学习和数学
10+阅读 · 2018年8月27日
自然语言处理 | 使用Spacy 进行自然语言处理
机器学习和数学
18+阅读 · 2018年8月22日
实践 | 如何快速训练免费的文本生成神经网络
黑龙江大学自然语言处理实验室
4+阅读 · 2018年6月4日
教程 | 在Python和TensorFlow上构建Word2Vec词嵌入模型
机器之心
6+阅读 · 2017年11月20日
最佳实践:深度学习用于自然语言处理(三)
待字闺中
3+阅读 · 2017年8月20日
微信扫码咨询专知VIP会员