会员服务
表示学习 · 学成 · Processing（编程语言） · NLP · 分布式表示 ·
2021 年 2 月 7 日
Representation Learning for Natural Language Processing
翻译：学习自然语言处理的代表情况
Zhiyuan Liu,Yankai Lin,Maosong Sun
Zhiyuan Liu,Yankai Lin,Maosong Sun
from arxiv, Published in Springer

This book aims to review and present the recent advances of distributed representation learning for NLP, including why representation learning can improve NLP, how representation learning takes part in various important topics of NLP, and what challenges are still not well addressed by distributed representation.


翻译：这本书旨在审查并介绍在为全国劳工大会分发的代表性学习方面的最新进展,包括为什么代表性学习可以改善全国劳工大会,代表性学习如何参与全国劳工大会的各个重要专题,以及哪些挑战仍然没有通过分发的代表性来很好地解决。
1
下载
关闭预览

相关内容

表示学习是通过利用训练数据来学习得到向量表示，这可以克服人工方法的局限性。 表示学习通常可分为两大类，无监督和有监督表示学习。大多数无监督表示学习方法利用自动编码器（如去噪自动编码器和稀疏自动编码器等）中的隐变量作为表示。 目前出现的变分自动编码器能够更好的容忍噪声和异常值。 然而，推断给定数据的潜在结构几乎是不可能的。 目前有一些近似推断的策略。 此外，一些无监督表示学习方法旨在近似某种特定的相似性度量。提出了一种无监督的相似性保持表示学习框架，该框架使用矩阵分解来保持成对的DTW相似性。 通过学习保持DTW的shaplets，即在转换后的空间中的欧式距离近似原始数据的真实DTW距离。有监督表示学习方法可以利用数据的标签信息，更好地捕获数据的语义结构。 孪生网络和三元组网络是目前两种比较流行的模型，它们的目标是最大化类别之间的距离并最小化了类别内部的距离。
最新《自然语言处理迁移学习》综述论文，A Survey on Transfer Learning in Natural Language Processing
最新《自然语言处理迁移学习》综述论文，A Survey on Transfer Learning in Natural Language Processing
专知会员服务
133+阅读 · 2020年7月10日
零样本文本分类，Zero-Shot Learning for Text Classification
零样本文本分类，Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
自然语言处理中的注意力机制，Attention in Natural Language Processing
自然语言处理中的注意力机制，Attention in Natural Language Processing
专知会员服务
131+阅读 · 2020年5月30日
深度学习自然语言处理综述论文，Natural Language Processing Advancements By Deep Learning: A Survey
深度学习自然语言处理综述论文，Natural Language Processing Advancements By Deep Learning: A Survey
专知会员服务
78+阅读 · 2020年3月5日
【芝加哥大学】GRAPH-BERT: Only Attention is Needed for Learning Graph Representations
【芝加哥大学】GRAPH-BERT: Only Attention is Needed for Learning Graph Representations
专知会员服务
84+阅读 · 2020年1月15日
【新书】深度学习自然语言处理，Deep Learning for Natural Language Processing
【新书】深度学习自然语言处理，Deep Learning for Natural Language Processing
专知会员服务
64+阅读 · 2019年12月27日
清华刘洋与邓力合著338页新书《Deep Learning in Natural Language Processing》
清华刘洋与邓力合著338页新书《Deep Learning in Natural Language Processing》
专知会员服务
127+阅读 · 2019年10月26日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
56+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
143+阅读 · 2019年10月12日
强化学习最新教程，17页pdf
强化学习最新教程，17页pdf
专知会员服务
167+阅读 · 2019年10月11日
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
深度学习自然语言处理
7+阅读 · 2020年4月8日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
15+阅读 · 2018年12月24日
Disentangled的假设的探讨
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
338页新书《Deep Learning in Natural Language Processing》
338页新书《Deep Learning in Natural Language Processing》
机器学习算法与Python学习
8+阅读 · 2018年11月6日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
Hierarchical Disentangled Representations
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
已删除
已删除
生物探索
3+阅读 · 2018年2月10日
Representation Learning on Network 网络表示学习
Representation Learning on Network 网络表示学习
全球人工智能
10+阅读 · 2017年10月19日
Deep Graph Structure Learning for Robust Representations: A Survey
Arxiv
20+阅读 · 2021年3月4日
Pre-training Text Representations as Meta Learning
Arxiv
13+阅读 · 2020年4月12日
Pre-trained Models for Natural Language Processing: A Survey
Arxiv
111+阅读 · 2020年3月18日
Deep Learning for Learning Graph Representations
Arxiv
34+阅读 · 2020年1月2日
Multimodal Intelligence: Representation Learning, Information Fusion, and Applications
Arxiv
77+阅读 · 2019年11月10日
A Survey of the Usages of Deep Learning in Natural Language Processing
A Survey of the Usages of Deep Learning in Natural Language Processing
Arxiv
118+阅读 · 2019年9月11日
Multi-task learning to improve natural language understanding
Arxiv
4+阅读 · 2018年12月17日
Dissecting Contextual Word Embeddings: Architecture and Representation
Dissecting Contextual Word Embeddings: Architecture and Representation
Arxiv
22+阅读 · 2018年8月27日
Deep contextualized word representations
Arxiv
10+阅读 · 2018年3月22日
Recent Trends in Deep Learning Based Natural Language Processing
Arxiv
7+阅读 · 2018年2月20日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
表示学习
学成
Processing（编程语言）
NLP
分布式表示
相关VIP内容
最新《自然语言处理迁移学习》综述论文，A Survey on Transfer Learning in Natural Language Processing
最新《自然语言处理迁移学习》综述论文，A Survey on Transfer Learning in Natural Language Processing
专知会员服务
133+阅读 · 2020年7月10日
零样本文本分类，Zero-Shot Learning for Text Classification
零样本文本分类，Zero-Shot Learning for Text Classification
专知会员服务
95+阅读 · 2020年5月31日
自然语言处理中的注意力机制，Attention in Natural Language Processing
自然语言处理中的注意力机制，Attention in Natural Language Processing
专知会员服务
131+阅读 · 2020年5月30日
深度学习自然语言处理综述论文，Natural Language Processing Advancements By Deep Learning: A Survey
深度学习自然语言处理综述论文，Natural Language Processing Advancements By Deep Learning: A Survey
专知会员服务
78+阅读 · 2020年3月5日
【芝加哥大学】GRAPH-BERT: Only Attention is Needed for Learning Graph Representations
【芝加哥大学】GRAPH-BERT: Only Attention is Needed for Learning Graph Representations
专知会员服务
84+阅读 · 2020年1月15日
【新书】深度学习自然语言处理，Deep Learning for Natural Language Processing
【新书】深度学习自然语言处理，Deep Learning for Natural Language Processing
专知会员服务
64+阅读 · 2019年12月27日
清华刘洋与邓力合著338页新书《Deep Learning in Natural Language Processing》
清华刘洋与邓力合著338页新书《Deep Learning in Natural Language Processing》
专知会员服务
127+阅读 · 2019年10月26日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
56+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
143+阅读 · 2019年10月12日
强化学习最新教程，17页pdf
强化学习最新教程，17页pdf
专知会员服务
167+阅读 · 2019年10月11日
热门VIP内容
相关资讯
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
【论文笔记】通俗理解少样本文本分类 (Few-Shot Text Classification) (1)
深度学习自然语言处理
7+阅读 · 2020年4月8日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
15+阅读 · 2018年12月24日
Disentangled的假设的探讨
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
338页新书《Deep Learning in Natural Language Processing》
338页新书《Deep Learning in Natural Language Processing》
机器学习算法与Python学习
8+阅读 · 2018年11月6日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
Hierarchical Imitation - Reinforcement Learning
Hierarchical Imitation - Reinforcement Learning
CreateAMind
19+阅读 · 2018年5月25日
Hierarchical Disentangled Representations
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
已删除
已删除
生物探索
3+阅读 · 2018年2月10日
Representation Learning on Network 网络表示学习
Representation Learning on Network 网络表示学习
全球人工智能
10+阅读 · 2017年10月19日
相关论文
Deep Graph Structure Learning for Robust Representations: A Survey
Arxiv
20+阅读 · 2021年3月4日
Pre-training Text Representations as Meta Learning
Arxiv
13+阅读 · 2020年4月12日
Pre-trained Models for Natural Language Processing: A Survey
Arxiv
111+阅读 · 2020年3月18日
Deep Learning for Learning Graph Representations
Arxiv
34+阅读 · 2020年1月2日
Multimodal Intelligence: Representation Learning, Information Fusion, and Applications
Arxiv
77+阅读 · 2019年11月10日
A Survey of the Usages of Deep Learning in Natural Language Processing
A Survey of the Usages of Deep Learning in Natural Language Processing
Arxiv
118+阅读 · 2019年9月11日
Multi-task learning to improve natural language understanding
Arxiv
4+阅读 · 2018年12月17日
Dissecting Contextual Word Embeddings: Architecture and Representation
Dissecting Contextual Word Embeddings: Architecture and Representation
Arxiv
22+阅读 · 2018年8月27日
Deep contextualized word representations
Arxiv
10+阅读 · 2018年3月22日
Recent Trends in Deep Learning Based Natural Language Processing
Arxiv
7+阅读 · 2018年2月20日
Top
微信扫码咨询专知VIP会员
Top