深度学习技术的发展使得神经机器翻译(NMT)模型在充分的训练数据和训练时间下变得极为强大。

然而,系统在翻译具有独特风格或词汇的新领域的文本时会遇到困难。对具有代表性的训练语料库进行调优可以实现良好的域内翻译,但这种以数据为中心的方法可能会导致对新数据的过度拟合和对之前学习过的行为的“灾难性遗忘”。

我们将重点放在更为鲁棒的领域适应方法上,特别是在一个系统可能需要翻译多个领域的句子的情况下。我们将技术分为数据选择技术、模型结构技术、参数自适应技术和推理技术。

最后,我们强调了领域适应和多领域适应技术对其他学科的研究的好处。

https://www.zhuanzhi.ai/paper/ded38c3d1df3a669bbf8d9c9bad96a5c

成为VIP会员查看完整内容
15

相关内容

神经机器翻译NMT使用基于神经网络的技术来实现更多上下文精确的翻译,而不是一次翻译一个单词的破碎句子。使用大型人工神经网络计算单词序列的概率,NMT将完整的句子放入一个集成模型中。
自然语言处理现代方法,176页pdf
专知会员服务
263+阅读 · 2021年2月22日
最新《低资源自然语言处理》综述论文,21页pdf
专知会员服务
58+阅读 · 2020年10月27日
【COLING2020】无监督依存解析的综述论文,12页pdf
专知会员服务
15+阅读 · 2020年10月27日
专知会员服务
25+阅读 · 2020年9月9日
最新《深度持续学习》综述论文,32页pdf
专知会员服务
178+阅读 · 2020年9月7日
《小样本元学习》2020最新综述论文
专知会员服务
172+阅读 · 2020年7月31日
专知会员服务
179+阅读 · 2020年6月21日
最新《深度多模态数据分析》综述论文,26页pdf
专知会员服务
294+阅读 · 2020年6月16日
最新《多任务学习》综述,39页pdf
专知
26+阅读 · 2020年7月10日
深度多模态表示学习综述论文,22页pdf
专知
28+阅读 · 2020年6月21日
自然语言处理常识推理综述论文,60页pdf
专知
69+阅读 · 2019年4月4日
迁移自适应学习最新综述,附21页论文下载
Arxiv
0+阅读 · 2021年6月8日
Arxiv
13+阅读 · 2021年3月29日
Arxiv
9+阅读 · 2021年2月8日
VIP会员
相关VIP内容
自然语言处理现代方法,176页pdf
专知会员服务
263+阅读 · 2021年2月22日
最新《低资源自然语言处理》综述论文,21页pdf
专知会员服务
58+阅读 · 2020年10月27日
【COLING2020】无监督依存解析的综述论文,12页pdf
专知会员服务
15+阅读 · 2020年10月27日
专知会员服务
25+阅读 · 2020年9月9日
最新《深度持续学习》综述论文,32页pdf
专知会员服务
178+阅读 · 2020年9月7日
《小样本元学习》2020最新综述论文
专知会员服务
172+阅读 · 2020年7月31日
专知会员服务
179+阅读 · 2020年6月21日
最新《深度多模态数据分析》综述论文,26页pdf
专知会员服务
294+阅读 · 2020年6月16日
微信扫码咨询专知VIP会员