【字节跳动-李航】一种按序列进行对话状态跟踪的方法

2020 年 11 月 25 日 专知


本文研究了面向任务的对话系统中的对话状态跟踪问题。最近,DST技术的发展取得了重大进展。然而,构建一个可扩展且有效的DST模块仍然是一个具有挑战性的问题。本文提出了一种对话状态跟踪的新方法Seq2Seq-DU,它将DST形式化为一个序列到序列的问题。它使用两个基于BERT的编码器分别对对话中的话语和模式的描述进行编码,使用一个关注器计算话语嵌入和模式嵌入之间的关注量,使用一个解码器生成指针来表示对话的当前状态。Seq2Seq-DU具有以下优点。它可以联合建模意图、插槽和插槽值之间的关系;它可以利用丰富的话语和图式的语言表征;它可以有效地处理分类槽、非分类槽和看不见的模式。此外,Seq2Seq-DU还可以用于对话系统的NLU(自然语言理解)模块。在基准数据集(SGD、MultiWOZ2.2、WOZ2.0、DSTC2、M2M、SNIPS和ATIS)上的实验结果表明,Seq2Seq-DU优于现有的方法。



https://arxiv.org/pdf/2011.09553


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“SDST” 就可以获取【字节跳动-李航】一种按序列进行对话状态跟踪的方法》专知下载链接

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

NLPCC 2020《预训练语言模型回顾》讲义下载,156页PPT
专知会员服务
47+阅读 · 2020年10月17日
手写实现李航《统计学习方法》书中全部算法
专知会员服务
47+阅读 · 2020年8月2日
【ICML2020-华为港科大】RNN和LSTM有长期记忆吗?
专知会员服务
73+阅读 · 2020年6月25日
资源 | 李航老师《统计学习方法》(第2版)课件下载
专知会员服务
248+阅读 · 2019年11月10日
【ICML2020】对比多视角表示学习
专知
18+阅读 · 2020年6月28日
对话系统近期进展
专知
37+阅读 · 2019年3月23日
基于深度学习的文本生成【附217页PPT下载】
专知
35+阅读 · 2018年11月24日
Arxiv
0+阅读 · 2021年1月30日
Arxiv
15+阅读 · 2020年2月5日
Sparse Sequence-to-Sequence Models
Arxiv
5+阅读 · 2019年5月14日
Phrase-Based & Neural Unsupervised Machine Translation
Arxiv
8+阅读 · 2018年5月15日
VIP会员
Top
微信扫码咨询专知VIP会员