Natural language processing (NLP) is at the forefront of great advances in contemporary AI, and it is arguably one of the most challenging areas of the field. At the same time, in the area of Quantum Computing (QC), with the steady growth of quantum hardware and notable improvements towards implementations of quantum algorithms, we are approaching an era when quantum computers perform tasks that cannot be done on classical computers with a reasonable amount of resources. This provides a new range of opportunities for AI, and for NLP specifically. In this work, we work with the Categorical Distributional Compositional (DisCoCat) model of natural language meaning, whose underlying mathematical underpinnings make it amenable to quantum instantiations. Earlier work on fault-tolerant quantum algorithms has already demonstrated potential quantum advantage for NLP, notably employing DisCoCat. In this work, we focus on the capabilities of noisy intermediate-scale quantum (NISQ) hardware and perform the first implementation of an NLP task on a NISQ processor, using the DisCoCat framework. Sentences are instantiated as parameterised quantum circuits; word-meanings are embedded in quantum states using parameterised quantum-circuits and the sentence's grammatical structure faithfully manifests as a pattern of entangling operations which compose the word-circuits into a sentence-circuit. The circuits' parameters are trained using a classical optimiser in a supervised NLP task of binary classification. Our novel QNLP model shows concrete promise for scalability as the quality of the quantum hardware improves in the near future and solidifies a novel branch of experimental research at the intersection of QC and AI.


翻译:自然语言处理( NLP) 在当代AI 的伟大进步中处于前列, 可以说是这个领域最具挑战性的领域之一。 与此同时, 在量子计算(QC)领域, 量子硬件稳步增长, 量子算法的实施显著改进, 我们正接近一个量子计算机在古型计算机上执行无法完成的任务的时代。 这为AI, 特别是NLP提供了新的一系列机会。 在这项工作中, 我们与自然语言含义的分类分配构成( DisCoCat) 模型合作, 该模型的基底数学基础使得它能够适应量子快速化。 早期的量子计算法工作已经展示出NLP的潜在量子优势, 特别是使用DisCat。 量子计算机的杂音量计算( NISQ) 硬件硬件, 首次执行 NLP 任务, 使用 DiscoCat 框架, 将NCSL 的精确质子计算模型作为精确的量值模型, 将OFAL 的值显示在量子序列上, 的量子流流流中, 的量级的量级的量子值的量子值运行是用于 。

0
下载
关闭预览

相关内容

NLP:自然语言处理
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
41+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年3月31日
A Survey of Large Language Models
Arxiv
495+阅读 · 2023年3月31日
Arxiv
0+阅读 · 2023年3月31日
A Survey on Data Augmentation for Text Classification
Arxiv
11+阅读 · 2018年1月18日
VIP会员
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
【推荐】图像分类必读开创性论文汇总
机器学习研究会
14+阅读 · 2017年8月15日
相关论文
A Survey of Large Language Models
Arxiv
495+阅读 · 2023年3月31日
Arxiv
0+阅读 · 2023年3月31日
A Survey on Data Augmentation for Text Classification
Arxiv
11+阅读 · 2018年1月18日
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年3月31日
Top
微信扫码咨询专知VIP会员