文本生成旨在为下游任务生成类人的自然语言输出。它涵盖了广泛的应用,如机器翻译,文档摘要,对话生成等。近年来,基于深度神经网络的端到端体系结构被广泛采用。端到端方法将所有子模块(过去由复杂的手工规则设计)合并成一个整体的编码-解码体系结构。如果有足够的训练数据,它就能够实现最先进的性能,同时避免了对语言/领域相关知识的需求。然而,众所周知,深度学习模型极度需要数据,由它们生成的文本通常缺乏多样性、可解释性和可控性。因此,在实际应用中,很难相信他们的输出。深度潜变量模型,通过指定中间潜过程的概率分布,提供了一种解决这些问题的潜在方法,同时保持深度神经网络的表达能力。这篇论文介绍了深度潜在变量模型是如何在文本生成的标准编码器-解码器模型之上改进的。

成为VIP会员查看完整内容
15

相关内容

在自然语言处理中,另外一个重要的应用领域,就是文本的自动撰写。关键词、关键短语、自动摘要提取都属于这个领域的一种应用。
【哥伦比亚大学博士论文】深度概率图建模147页pdf
专知会员服务
85+阅读 · 2021年4月27日
【CMU博士论文】可控文本生成,附107页pdf与Slides
专知会员服务
55+阅读 · 2021年4月21日
专知会员服务
53+阅读 · 2020年12月20日
【EMNLP2020】自然语言生成,Neural Language Generation
专知会员服务
38+阅读 · 2020年11月20日
最新《知识驱动的文本生成》综述论文,44页pdf
专知会员服务
73+阅读 · 2020年10月13日
《鲁棒和隐私保护的协同学习》综述论文
专知
4+阅读 · 2021年12月22日
强化学习与文本生成
微信AI
41+阅读 · 2019年4月4日
生成对抗网络的研究进展与趋势
中国计算机学会
35+阅读 · 2018年11月14日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
26+阅读 · 2011年12月31日
国家自然科学基金
5+阅读 · 2011年12月31日
Arxiv
0+阅读 · 2022年4月18日
Arxiv
28+阅读 · 2021年9月26日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
26+阅读 · 2011年12月31日
国家自然科学基金
5+阅读 · 2011年12月31日
微信扫码咨询专知VIP会员