Understanding and analyzing big data is firmly recognized as a powerful and strategic priority. For deeper interpretation of and better intelligence with big data, it is important to transform raw data (unstructured, semi-structured and structured data sources, e.g., text, video, image data sets) into curated data: contextualized data and knowledge that is maintained and made available for use by end-users and applications. In particular, data curation acts as the glue between raw data and analytics, providing an abstraction layer that relieves users from time consuming, tedious and error prone curation tasks. In this context, the data curation process becomes a vital analytics asset for increasing added value and insights. In this paper, we identify and implement a set of curation APIs and make them available (on GitHub) to researchers and developers to assist them transforming their raw data into curated data. The curation APIs enable developers to easily add features - such as extracting keyword, part of speech, and named entities such as Persons, Locations, Organizations, Companies, Products, Diseases, Drugs, etc.; providing synonyms and stems for extracted information items leveraging lexical knowledge bases for the English language such as WordNet; linking extracted entities to external knowledge bases such as Google Knowledge Graph and Wikidata; discovering similarity among the extracted information items, such as calculating similarity between string, number, date and time data; classifying, sorting and categorizing data into various types, forms or any other distinct class; and indexing structured and unstructured data - into their applications.


翻译:对大数据进行更深的解读和对大数据进行更好的情报分析,重要的是将原始数据(结构化、半结构化和结构化的数据源,如文本、视频、图像数据集)转化为整理数据:保存并提供给终端用户和应用程序使用的背景化数据和知识。特别是,数据整理作为原始数据和分析工具之间的粘合作用,提供一个抽象层,使用户能够摆脱时间消耗、乏味和错误易变调任务。在这方面,数据整理过程成为重要的结构化分析资产,增加附加值和洞察力。在本文件中,我们确定并实施一套缩略图API(在GitHub上),并将其提供给研究人员和开发者,以协助他们将其原始数据转化为整理数据。 缩略图使开发者能够容易地添加一些特征,例如摘取关键词、部分演讲以及个人、地点、组织、公司、疾病、药物等命名实体的索引,成为重要的结构化分析工具。 数据整理过程成为一种重要的结构化分析资产分析资产结构,将类似的数据分类基础(如GITHHU),将各种数据流和图表数据转换成数据分类,例如数据库和数字数据流流流流数据,将各种数据序列和数据流化数据流化数据序列;将各种数据流数据流和图表数据流,如谷值和数据流数据流数据流数据流数据流数据流数据流数据流数据流和数据流,将等数据流数据流数据流数据流数据流,将数据流与数据流数据转换成等等数据流数据流,将数据转换成数据流数据流和数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流数据流,将数据流数据流和数据流数据流数据流数据流数据流数据流,将等等。

0
下载
关闭预览

相关内容

因果图,Causal Graphs,52页ppt
专知会员服务
238+阅读 · 2020年4月19日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
144+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
168+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
90+阅读 · 2019年10月10日
已删除
AI掘金志
7+阅读 · 2019年7月8日
计算机类 | PLDI 2020等国际会议信息6条
Call4Papers
3+阅读 · 2019年7月8日
计算机 | IUI 2020等国际会议信息4条
Call4Papers
6+阅读 · 2019年6月17日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
IEEE | DSC 2019诚邀稿件 (EI检索)
Call4Papers
10+阅读 · 2019年2月25日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
计算机类 | ISCC 2019等国际会议信息9条
Call4Papers
5+阅读 · 2018年12月25日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Facebook PyText 在 Github 上开源了
AINLP
7+阅读 · 2018年12月14日
计算机类 | 期刊专刊截稿信息9条
Call4Papers
4+阅读 · 2018年1月26日
Arxiv
34+阅读 · 2019年11月7日
Arxiv
3+阅读 · 2019年3月1日
Rapid Customization for Event Extraction
Arxiv
7+阅读 · 2018年9月20日
Mobile big data analysis with machine learning
Arxiv
6+阅读 · 2018年8月2日
Arxiv
5+阅读 · 2016年1月15日
VIP会员
相关资讯
已删除
AI掘金志
7+阅读 · 2019年7月8日
计算机类 | PLDI 2020等国际会议信息6条
Call4Papers
3+阅读 · 2019年7月8日
计算机 | IUI 2020等国际会议信息4条
Call4Papers
6+阅读 · 2019年6月17日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
IEEE | DSC 2019诚邀稿件 (EI检索)
Call4Papers
10+阅读 · 2019年2月25日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
计算机类 | ISCC 2019等国际会议信息9条
Call4Papers
5+阅读 · 2018年12月25日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Facebook PyText 在 Github 上开源了
AINLP
7+阅读 · 2018年12月14日
计算机类 | 期刊专刊截稿信息9条
Call4Papers
4+阅读 · 2018年1月26日
Top
微信扫码咨询专知VIP会员