摘要: 我们提出了EMU,一个从语义上增强多语言句子嵌入系统。我们的框架使用两个主要组件(语义分类器和语言鉴别器)对预先训练好的多语言句子嵌入进行了微调。语义分类器提高了相关句子的语义相似度,而语言鉴别器通过多语言对抗训练增强了嵌入语的多语言性。我们的实验结果基于几个语言对表明,我们的专门嵌入优于最先进的多语言句子嵌入模型的任务,跨语言意图分类仅使用单语标记的数据。

成为VIP会员查看完整内容
24

相关内容

语义分析的最终目的是理解句子表达的真实语义。但是,语义应该采用什么表示形式一直困扰着研究者们,至今这个问题也没有一个统一的答案。语义角色标注(semantic role labeling)是目前比较成熟的浅层语义分析技术。基于逻辑表达的语义分析也得到学术界的长期关注。
单语言表征如何迁移到多语言去?
AI科技评论
5+阅读 · 2019年11月21日
ACL 2019 | 多语言BERT的语言表征探索
AI科技评论
20+阅读 · 2019年9月6日
NAACL 2019自然语言处理亮点
专知
15+阅读 · 2019年6月15日
中文版-BERT-预训练的深度双向Transformer语言模型-详细介绍
Facebook开源增强版LASER库,包含93种语言工具包
机器之心
5+阅读 · 2019年1月23日
OpenAI NLP最新进展:通过无监督学习提升语言理解
人工智能头条
6+阅读 · 2018年6月18日
谷歌 AI:语义文本相似度研究进展
AI研习社
22+阅读 · 2018年6月13日
Arxiv
5+阅读 · 2019年9月25日
Arxiv
12+阅读 · 2019年2月28日
Arxiv
3+阅读 · 2018年8月27日
Arxiv
3+阅读 · 2018年3月21日
Arxiv
13+阅读 · 2017年12月5日
VIP会员
相关VIP内容
相关资讯
单语言表征如何迁移到多语言去?
AI科技评论
5+阅读 · 2019年11月21日
ACL 2019 | 多语言BERT的语言表征探索
AI科技评论
20+阅读 · 2019年9月6日
NAACL 2019自然语言处理亮点
专知
15+阅读 · 2019年6月15日
中文版-BERT-预训练的深度双向Transformer语言模型-详细介绍
Facebook开源增强版LASER库,包含93种语言工具包
机器之心
5+阅读 · 2019年1月23日
OpenAI NLP最新进展:通过无监督学习提升语言理解
人工智能头条
6+阅读 · 2018年6月18日
谷歌 AI:语义文本相似度研究进展
AI研习社
22+阅读 · 2018年6月13日
微信扫码咨询专知VIP会员