Text-to-SQL is a crucial task toward developing methods for understanding natural language by computers. Recent neural approaches deliver excellent performance; however, models that are difficult to interpret inhibit future developments. Hence, this study aims to provide a better approach toward the interpretation of neural models. We hypothesize that the internal behavior of models at hand becomes much easier to analyze if we identify the detailed performance of schema linking simultaneously as the additional information of the text-to-SQL performance. We provide the ground-truth annotation of schema linking information onto the Spider dataset. We demonstrate the usefulness of the annotated data and how to analyze the current state-of-the-art neural models.


翻译:文本到 SQL 是开发计算机理解自然语言的方法的关键任务。 最近的神经方法提供了极好的性能; 但是, 很难解释未来发展的模型。 因此, 本研究旨在为神经模型的解释提供更好的方法。 我们假设,如果我们同时确定与文本到SQL性能的附加信息同时连接的系统模型的详细性能,那么,手头模型的内部行为就会更容易分析。 我们提供了将信息与蜘蛛数据集连接起来的系统模型的地面真实性注释。 我们展示了附加说明的数据的有用性以及如何分析当前最先进的神经模型。

0
下载
关闭预览

相关内容

零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
96+阅读 · 2020年5月31日
因果图,Causal Graphs,52页ppt
专知会员服务
250+阅读 · 2020年4月19日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
17篇知识图谱Knowledge Graphs论文 @AAAI2020
专知会员服务
172+阅读 · 2020年2月13日
【阿里技术论文】AliMe KBQA:阿里小蜜中的结构化知识问答
专知会员服务
83+阅读 · 2019年12月14日
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
已删除
将门创投
3+阅读 · 2019年1月15日
论文浅尝 | 基于Universal Schema与Memory Network的知识+文本问答
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
揭开知识库问答KB-QA的面纱3·信息抽取篇
PaperWeekly
15+阅读 · 2017年8月14日
Arxiv
92+阅读 · 2020年2月28日
Arxiv
6+阅读 · 2018年5月22日
VIP会员
相关VIP内容
零样本文本分类,Zero-Shot Learning for Text Classification
专知会员服务
96+阅读 · 2020年5月31日
因果图,Causal Graphs,52页ppt
专知会员服务
250+阅读 · 2020年4月19日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
17篇知识图谱Knowledge Graphs论文 @AAAI2020
专知会员服务
172+阅读 · 2020年2月13日
【阿里技术论文】AliMe KBQA:阿里小蜜中的结构化知识问答
专知会员服务
83+阅读 · 2019年12月14日
相关资讯
LibRec 精选:AutoML for Contextual Bandits
LibRec智能推荐
7+阅读 · 2019年9月19日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
已删除
将门创投
3+阅读 · 2019年1月15日
论文浅尝 | 基于Universal Schema与Memory Network的知识+文本问答
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
揭开知识库问答KB-QA的面纱3·信息抽取篇
PaperWeekly
15+阅读 · 2017年8月14日
Top
微信扫码咨询专知VIP会员