基于知识图谱的行业问答系统搭建分几步?

2021 年 11 月 11 日 PaperWeekly
知识图谱的概念首先是由谷歌提出,其目的是描述真实世界中存在的各种实体和概念,以及他们之间的关系,在真实的行业中应用时,我们需要先根据业务需求进行领域确定,然后通过正常的知识图谱构建方式,进行基础内容的搭建,最后进行实测之后进行优化处理,从而满足原本的业务需求。

构建过程主要分为:知识体系搭建、知识抽取、知识融合、知识储存和检索、知识推理、知识问答等六步。

第一步:知识体系构建

采用什么样的方式表达知识,其核心是构建一个本体对目标知识进行描述:

  • 在这个本体中需要定义出知识的类别体系;

  • 每个类别下所属的概念和实体; 

  • 某类概念和实体所具有的属性以及概念之间、实体之间的语义关系;

  • 同时也包括定义在这个本体上的一些推理规则。

第二步:知识获取

知识获取可分为结构化和半结构化数据源中的知识抽取和非结构化文本中实体的知识抽取 。

  • 结构化和半结构化数据源中的知识抽取:因为数据噪声少,这类数据源的信息抽取方法相对简单,经过人工过滤后能够得到高质量的结构化三元组。是目前工业界常用的技术手段。
  • 非结构化文本中实体的知识抽取:因为涉及到自然语言分析和处理技术,难度较大。但是互联网上更多的信息都是以非结构化文本的形式存在,而非结构化文本的信息抽取能够为知识图谱提供大量高质量的三元组事实,因此是构建知识图谱的核心技术。目前也是学术研究的重点
第三步:知识融合
知识融合是对不同来源、不同语言或不同结构的知识进行融合,从而对于已有知识图谱进行补充、更新和去重。从融合的对象看,知识融合分为知识体系的融合和实例的融合。核心问题是计算两个知识图谱中两个 节点或边之间的语义映射关系。
第四步:知识存储和查询
目前知识图谱大多是基于图的数据结构,它的存储方式主要有两种形式:RDF格式存储(以三元组的形式存储数据)和图数据库(比RDF 数据库更加通用,目前典型的开源图数据库是Neo4j)。
第五步:知识推理
目前知识推理的研究主要集中在针对知识图谱中缺失关系的补足,即挖掘两个实体之间隐含的语义关系。所采用的方法可以分为两种:
  • 基于传统逻辑规则的方法进行推理:研究热点在于如何自动学习推理规则,以及如何解决推理过程中的规则冲突问题;
  • 基于表示学习的推理:采用学习的方式,将传统推理过程转化为基于分布式表示的语义向量相似度计算任务。这类方法优点是容错率高、可学习,缺点也显而易见,即不可解释,缺乏语义约束。
第六步:知识问答(完成最终应用)
看似简单的六步,却不知道应该怎么做?!这是现在大多数知识图谱入门者最头疼的问题。
很多初学者认为知识图谱的入门学习比较难,不仅仅是因为知识图谱的技术栈比较长,还因为涉及到NLP、ML、Database、知识工程等多个学科知识,找不到重点,自己摸索两个月,回头看“WC,还是啥也没明白呀!”,最后越学越累……

深蓝学院倾心打磨了《知识图谱理论与实践》课程,由于受疫情影响,我们基于以往6期的知识图谱线下课程,迭代精品线上课程。本课程将理论基础与实践相结合,让你实现基本知识图谱的问答系统~

实践项目


1

本体构建

是基于 Java 语言开发的本体开发工具,可以用于类模拟、实例编辑、模型处理与模型交换。课程将手把手教给大家用构建游戏相关的本体。

2

词向量表示模型

学习如何实现Word2Vec词向量表示,使用以及训练自己的Word2Vec模型,了解 Fine - turning 过程以及 hierarchical softmax 和 negative sampling 的优化策略。

3

基于 Bert 的文本分类

首先详细介绍 Bert 代码中的 BertEmbeddings 类、 BertEncoder 类和 BertPooler 类这3个模块的实现,然后讲解如何将 Bert 用于构建文本分类器,并以 CoLA 标准数据集为例,用 Bert 实现判断给定句子是否语法正确的任务,最后给出对于不同数据集,如何在不改变代码框架基础上,实现不同的数据预处理。

4

基于 LSTM + CRF 的命名实体识别

学习如何使用 PyTorch 实现 LSTM + CRF 序列标注模型,完成快递信息抽取任务的命名实体识别,在基本模型的基础上,完成 BiLSTM + CRF 模型。在实践过程中,大家可以对比 CRF 模型与 BiLSTM + CRF 模型在命名实体识别任务的表现。

5

基于 CNN 与 multi - head selection 的实体关系抽取

利用 CNN 表示句子级特征,进而进行实体关系的分类,对比位置向量对模型提升的效果;进一步讲解基于 multi - head selection 的关系分类,及其在语言与智能技术竞赛中数据集上的 Pytorch 实现。

6

D2RQ关系数据库转 RDF 

首先讲解将关系型数据转成 RDF 的多种方式,比如直接映射、R2RML映射、D2RQ映射,然后重点讲解D2RQ如何将关系型数据库当作虚拟的 RDF 图数据库进行访问的。

7

图数据库 Jena 

介绍图数据库 Jena 的基本使用方法,学习知识图谱本体构建,掌握如何将关系数据库( MySQL )中的表转换成图数据库中的 RDF 三元组。

8

基于规则的推理

基于 Jena 数据库,讲解规则的语法以及规则文件的配置,最后通过 SPARQL 查询,查询数据库中的喜剧演员名单。

9

基于分布式表示的推理

学习如何实现知识图谱分布式表示模型 TransE ,讲解 TransE 的关键模型的代码实现。

10

基于知识图谱的医药领域的问答系统

熟悉知识图谱应用的开发流程。对于医药领域的问答系统,将教给大家从数据爬虫开始,通过本体构建、RDF生成、问句解析、 SPARQL查询以及答案生成等步骤搭建完成的问答系统。

课程大纲

抢占优惠名额啦



扫码添加深蓝学院-子书

备注【图谱】,快速通过好友哦!

登录查看更多
2

相关内容

知识抽取,即从不同来源、不同结构的数据中进行知识提取,形成知识(结构化数据)存入到知识图谱。
达观智能制造知识图谱平台电力能源行业应用方案
专知会员服务
46+阅读 · 2022年4月13日
知识图谱嵌入技术研究综述
专知会员服务
127+阅读 · 2022年2月5日
浙江大学《知识图谱导论》课程
专知会员服务
186+阅读 · 2021年12月26日
面向知识图谱的知识推理综述
专知会员服务
144+阅读 · 2021年11月1日
知识图谱在智能制造领域的研究现状及其应用前景综述
专知会员服务
151+阅读 · 2021年2月25日
专知会员服务
64+阅读 · 2021年2月17日
专知会员服务
189+阅读 · 2020年10月14日
【人大】大规模知识图谱补全技术的研究进展
专知会员服务
81+阅读 · 2020年5月2日
知识图谱融合方法,140页ppt,南京大学胡伟老师
专知会员服务
137+阅读 · 2020年2月19日
基于知识图谱的问答系统
PaperWeekly
21+阅读 · 2021年2月8日
知识图谱的行业落地实现
竹间智能Emotibot
51+阅读 · 2019年9月16日
如何从零开始搭建知识图谱?
AI前线
23+阅读 · 2018年7月2日
【知识图谱】 一个有效的知识图谱是如何构建的?
产业智能官
56+阅读 · 2018年4月5日
医学知识图谱构建技术与研究进展
人工智能学家
16+阅读 · 2017年11月11日
【知识图谱】如何构建知识图谱
产业智能官
134+阅读 · 2017年9月19日
肖仰华 | 基于知识图谱的问答系统
开放知识图谱
27+阅读 · 2017年9月18日
项目实战:如何构建知识图谱
PaperWeekly
29+阅读 · 2017年9月14日
【知识图谱】大规模知识图谱的构建、推理及应用
产业智能官
35+阅读 · 2017年9月12日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2014年12月31日
国家自然科学基金
26+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年4月17日
CSKG: The CommonSense Knowledge Graph
Arxiv
18+阅读 · 2020年12月21日
Arxiv
99+阅读 · 2020年3月4日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
VIP会员
相关VIP内容
达观智能制造知识图谱平台电力能源行业应用方案
专知会员服务
46+阅读 · 2022年4月13日
知识图谱嵌入技术研究综述
专知会员服务
127+阅读 · 2022年2月5日
浙江大学《知识图谱导论》课程
专知会员服务
186+阅读 · 2021年12月26日
面向知识图谱的知识推理综述
专知会员服务
144+阅读 · 2021年11月1日
知识图谱在智能制造领域的研究现状及其应用前景综述
专知会员服务
151+阅读 · 2021年2月25日
专知会员服务
64+阅读 · 2021年2月17日
专知会员服务
189+阅读 · 2020年10月14日
【人大】大规模知识图谱补全技术的研究进展
专知会员服务
81+阅读 · 2020年5月2日
知识图谱融合方法,140页ppt,南京大学胡伟老师
专知会员服务
137+阅读 · 2020年2月19日
相关资讯
基于知识图谱的问答系统
PaperWeekly
21+阅读 · 2021年2月8日
知识图谱的行业落地实现
竹间智能Emotibot
51+阅读 · 2019年9月16日
如何从零开始搭建知识图谱?
AI前线
23+阅读 · 2018年7月2日
【知识图谱】 一个有效的知识图谱是如何构建的?
产业智能官
56+阅读 · 2018年4月5日
医学知识图谱构建技术与研究进展
人工智能学家
16+阅读 · 2017年11月11日
【知识图谱】如何构建知识图谱
产业智能官
134+阅读 · 2017年9月19日
肖仰华 | 基于知识图谱的问答系统
开放知识图谱
27+阅读 · 2017年9月18日
项目实战:如何构建知识图谱
PaperWeekly
29+阅读 · 2017年9月14日
【知识图谱】大规模知识图谱的构建、推理及应用
产业智能官
35+阅读 · 2017年9月12日
相关基金
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2014年12月31日
国家自然科学基金
26+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
4+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员