深度学习NLP相关资源大列表

2017 年 9 月 17 日 机器学习研究会


点击上方 “机器学习研究会”可以订阅
摘要
 

转自:爱可可-爱生活

Contents

  • Courses 

  • Books

  • Tutorials / Demos

  • Talks / Lectures

  • Frameworks

  • Papers

  • Blog Posts

  • Researchers

  • Datasets

  • Miscellaneous

  • Contributing

Courses

  1. CS224d: Deep Learning for Natural Language Processing from Stanford

    • Course homepage A complete survey of the field with videos, lecture slides, and sample student projects.

    • Course Lectures Video playlist.

    • Course notes Probably the best "book" on DL for NLP.

  2. Neural Networks for NLP from Carnegie Mellon University

    • Coures homepage

    • Course Lectures

    • Course code

Books

  1. Neural Network Methods in Natural Language Processing by Yoav Goldberg and Graeme Hirst

  2. Deep Learning in Natural Language Processing by Li Deng and Dang Liu

  3. Natural Language Processing in Action by Hobson Lane, Cole Howard, and Hannes Hapke

Tutorials

  1. Deep Learning for Natural Language Processing (without Magic)

  2. A Primer on Neural Network Models for Natural Language Processing

  3. Deep Learning for Natural Language Processing: Theory and Practice (Tutorial)

  4. TensorFlow Tutorials

  5. Practical Neural Networks for NLP from EMNLP 2016 using DyNet framework

  6. Recurrent Neural Networks with Word Embeddings

  7. LSTM Networks for Sentiment Analysis

  8. TensorFlow demo using the Large Movie Review Dataset

  9. LSTMVis: Visual Analysis for Recurrent Neural Networks

Talks

  1. Ali Ghodsi's lecture on word2vec part 1 and part 2

  2. Richard Socher's talk on sentiment analysis, question answering, and sentence-image embeddings

  3. Deep Learning, an interactive introduction for NLP-ers

  4. Deep Natural Language Understanding

  5. Deep Learning Summer School, Montreal 2016 Includes state-of-art language modeling.

Frameworks

  1. Keras - The Python Deep Learning library Emphasis on user friendliness, modularity, easy extensibility, and Pythonic.

  2. TensorFlow - A cross-platform, general purpose Machine Intelligence library with Python and C++ API.

  3. Genism: Topic modeling for humans - A Python package that includes word2vec and doc2vec implementations.

  4. DyNet - The Dynamic Neural Network Toolkit "work well with networks that have dynamic structures that change for every training instance".

  5. Google’s original word2vec implementation

  6. Deeplearning4j’s NLP framework - Java implementation.

  7. deepnl - A Python library for NLP based on Deep Learning neural network architecture.

Papers

  1. Deep or shallow, NLP is breaking out - General overview of how Deep Learning is impacting NLP.

  2. Natural Language Processing from Research at Google - Not all Deep Learning (but mostly).

  3. Distributed Representations of Words and Phrases and their Compositionality - The original word2vec paper.

  4. word2vec Parameter Learning Explained

  5. Distributed Representations of Sentences and Documents

  6. Context Dependent Recurrent Neural Network Language Model

  7. Translation Modeling with Bidirectional Recurrent Neural Networks

  8. Contextual LSTM (CLSTM) models for Large scale NLP tasks

  9. LSTM Neural Networks for Language Modeling

  10. Exploring the Limits of Language Modeling

  11. Conversational Contextual Cues - Models context and participants in conversations.

  12. Sequence to sequence learning with neural networks

  13. Efficient Estimation of Word Representations in Vector Space

  14. Learning Character-level Representations for Part-of-Speech Tagging

  15. Representation Learning for Text-level Discourse Parsing

  16. Fast and Robust Neural Network Joint Models for Statistical Machine Translation

  17. Parsing With Compositional Vector Grammars

  18. Smart Reply: Automated Response Suggestion for Email

  19. Neural Architectures for Named Entity Recognition - State-of-the-art performance in NER with bidirectional LSTM with a sequential conditional random layer and transition-based parsing with stack LSTMs.

  20. GloVe: Global Vectors for Word Representation - A "count-based"/co-occurrence model to learn word embeddings.

  21. Grammar as a Foreign Language - State-of-the-art syntactic constituency parsing using generic sequence-to-sequence approach.

  22. Skip-Thought Vectors - "unsupervised learning of a generic, distributed sentence encoder"

    • Paper

    • Code

Blog Posts

  1. the morning paper: The amazing power of word vectors - Overview of word vectors.

  2. Deep Learning, NLP, and Representations

  3. The Unreasonable Effectiveness of Recurrent Neural Networks

  4. Machine Learning for Emoji Trends

  5. Teaching Robots to Feel: Emoji & Deep Learning

  6. Computational Linguistics and Deep Learning - Opinion piece on how Deep Learning fits into the broader picture of text processing.

Researchers

  1. Christopher Manning

  2. Ali Ghodsi

  3. Richard Socher

  4. Yoshua Bengio

Datasets

  1. Dataset from "One Billion Word Language Modeling Benchmark" - Almost 1B words, already pre-processed text.

Miscellaneous

  1. word2vec analogy demo


链接:

https://github.com/brianspiering/awesome-dl4nlp


原文链接:

https://m.weibo.cn/1402400261/4152655146704101

“完整内容”请点击【阅读原文】
↓↓↓
登录查看更多
3

相关内容

神经网络(Neural Networks)是世界上三个最古老的神经建模学会的档案期刊:国际神经网络学会(INNS)、欧洲神经网络学会(ENNS)和日本神经网络学会(JNNS)。神经网络提供了一个论坛,以发展和培育一个国际社会的学者和实践者感兴趣的所有方面的神经网络和相关方法的计算智能。神经网络欢迎高质量论文的提交,有助于全面的神经网络研究,从行为和大脑建模,学习算法,通过数学和计算分析,系统的工程和技术应用,大量使用神经网络的概念和技术。这一独特而广泛的范围促进了生物和技术研究之间的思想交流,并有助于促进对生物启发的计算智能感兴趣的跨学科社区的发展。因此,神经网络编委会代表的专家领域包括心理学,神经生物学,计算机科学,工程,数学,物理。该杂志发表文章、信件和评论以及给编辑的信件、社论、时事、软件调查和专利信息。文章发表在五个部分之一:认知科学,神经科学,学习系统,数学和计算分析、工程和应用。 官网地址:http://dblp.uni-trier.de/db/journals/nn/
【强化学习资源集合】Awesome Reinforcement Learning
专知会员服务
93+阅读 · 2019年12月23日
【深度学习视频分析/多模态学习资源大列表】
专知会员服务
90+阅读 · 2019年10月16日
开源书:PyTorch深度学习起步
专知会员服务
49+阅读 · 2019年10月11日
强化学习最新教程,17页pdf
专知会员服务
167+阅读 · 2019年10月11日
机器学习相关资源(框架、库、软件)大列表
专知会员服务
37+阅读 · 2019年10月9日
学习自然语言处理路线图
专知会员服务
133+阅读 · 2019年9月24日
金融领域自然语言处理研究资源大列表
专知
13+阅读 · 2020年2月27日
中文自然语言处理相关资料集合指南
专知
18+阅读 · 2019年3月10日
免费自然语言处理(NLP)课程及教材分享
深度学习与NLP
29+阅读 · 2019年1月18日
【资源】15个在线机器学习课程和教程
专知
8+阅读 · 2017年12月22日
自然语言处理 (NLP)资源大全
机械鸡
35+阅读 · 2017年9月17日
【推荐】SLAM相关资源大列表
机器学习研究会
10+阅读 · 2017年8月18日
A Survey on Bayesian Deep Learning
Arxiv
60+阅读 · 2020年7月2日
Image Segmentation Using Deep Learning: A Survey
Arxiv
43+阅读 · 2020年1月15日
Neural Image Captioning
Arxiv
5+阅读 · 2019年7月2日
Arxiv
53+阅读 · 2018年12月11日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
Arxiv
21+阅读 · 2018年8月30日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
10+阅读 · 2018年3月22日
VIP会员
相关VIP内容
【强化学习资源集合】Awesome Reinforcement Learning
专知会员服务
93+阅读 · 2019年12月23日
【深度学习视频分析/多模态学习资源大列表】
专知会员服务
90+阅读 · 2019年10月16日
开源书:PyTorch深度学习起步
专知会员服务
49+阅读 · 2019年10月11日
强化学习最新教程,17页pdf
专知会员服务
167+阅读 · 2019年10月11日
机器学习相关资源(框架、库、软件)大列表
专知会员服务
37+阅读 · 2019年10月9日
学习自然语言处理路线图
专知会员服务
133+阅读 · 2019年9月24日
相关资讯
金融领域自然语言处理研究资源大列表
专知
13+阅读 · 2020年2月27日
中文自然语言处理相关资料集合指南
专知
18+阅读 · 2019年3月10日
免费自然语言处理(NLP)课程及教材分享
深度学习与NLP
29+阅读 · 2019年1月18日
【资源】15个在线机器学习课程和教程
专知
8+阅读 · 2017年12月22日
自然语言处理 (NLP)资源大全
机械鸡
35+阅读 · 2017年9月17日
【推荐】SLAM相关资源大列表
机器学习研究会
10+阅读 · 2017年8月18日
相关论文
A Survey on Bayesian Deep Learning
Arxiv
60+阅读 · 2020年7月2日
Image Segmentation Using Deep Learning: A Survey
Arxiv
43+阅读 · 2020年1月15日
Neural Image Captioning
Arxiv
5+阅读 · 2019年7月2日
Arxiv
53+阅读 · 2018年12月11日
Deep Learning for Generic Object Detection: A Survey
Arxiv
13+阅读 · 2018年9月6日
Arxiv
21+阅读 · 2018年8月30日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
10+阅读 · 2018年3月22日
Top
微信扫码咨询专知VIP会员