Aspect-based sentiment analysis (ABSA) aims at automatically inferring the specific sentiment polarities toward certain aspects of products or services behind the social media texts or reviews, which has been a fundamental application to the real-world society. Since the early 2010s, ABSA has achieved extraordinarily high accuracy with various deep neural models. However, existing ABSA models with strong in-house performances may fail to generalize to some challenging cases where the contexts are variable, i.e., low robustness to real-world environments. In this study, we propose to enhance the ABSA robustness by systematically rethinking the bottlenecks from all possible angles, including model, data, and training. First, we strengthen the current best-robust syntax-aware models by further incorporating the rich external syntactic dependencies and the labels with aspect simultaneously with a universal-syntax graph convolutional network. In the corpus perspective, we propose to automatically induce high-quality synthetic training data with various types, allowing models to learn sufficient inductive bias for better robustness. Last, we based on the rich pseudo data perform adversarial training to enhance the resistance to the context perturbation and meanwhile employ contrastive learning to reinforce the representations of instances with contrastive sentiments. Extensive robustness evaluations are conducted. The results demonstrate that our enhanced syntax-aware model achieves better robustness performances than all the state-of-the-art baselines. By additionally incorporating our synthetic corpus, the robust testing results are pushed with around 10% accuracy, which are then further improved by installing the advanced training strategies. In-depth analyses are presented for revealing the factors influencing the ABSA robustness.


翻译:基于方面的情感分析(ABSA)旨在自动推断社交媒体文本或评论中产品或服务的某些方面的具体情感极性,这是对实际社会的基本应用。自2010年初以来,ABSA使用各种深度神经模型已经取得了极高的准确性。然而,现有的ABSA模型在内部表现良好的情况下可能无法推广到某些具有变量上下文的具有挑战性的情况,即对实际环境的鲁棒性较低。在本研究中,我们建议通过系统地重新思考从所有可能的角度,包括模型、数据和训练的瓶颈,来增强ABSA的鲁棒性。首先,我们通过使用通用语法图卷积网络同时进一步将丰富的外部语法依赖关系和具有方面标签加强到当前最佳的鲁棒语法感知模型中。在语料库角度上,我们提议自动诱导各种类型的高质量合成训练数据,让模型学习足够的归纳偏差,以获得更好的鲁棒性。最后,我们在丰富的伪数据基础上进行对抗训练,以提高上下文扰动的阻抗,并同时采用对比学习来加强具有对比情感的实例的表示。进行了广泛的鲁棒性评估。结果表明,我们的强化语法感知模型比所有最先进的基线模型具有更好的鲁棒性性能。通过额外结合我们的合成语料库,鲁棒性测试结果的准确性提高了约10%,然后通过采用先进的训练策略进一步得到改进。进行了深入的分析,以揭示影响ABSA鲁棒性的因素。

0
下载
关闭预览

相关内容

最新10篇对比学习推荐前沿工作
机器学习与推荐算法
2+阅读 · 2022年9月14日
细粒度情感分析任务(ABSA)的最新进展
PaperWeekly
18+阅读 · 2020年1月3日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
命名实体识别(NER)综述
AI研习社
65+阅读 · 2019年1月30日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
笔记 | Sentiment Analysis
黑龙江大学自然语言处理实验室
10+阅读 · 2018年5月6日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Transformers in Medical Image Analysis: A Review
Arxiv
39+阅读 · 2022年2月24日
Arxiv
20+阅读 · 2020年6月8日
Arxiv
25+阅读 · 2018年1月24日
VIP会员
相关VIP内容
相关资讯
最新10篇对比学习推荐前沿工作
机器学习与推荐算法
2+阅读 · 2022年9月14日
细粒度情感分析任务(ABSA)的最新进展
PaperWeekly
18+阅读 · 2020年1月3日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
命名实体识别(NER)综述
AI研习社
65+阅读 · 2019年1月30日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
笔记 | Sentiment Analysis
黑龙江大学自然语言处理实验室
10+阅读 · 2018年5月6日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员