Many platforms for benchmarking optimization algorithms offer users the possibility of sharing their experimental data with the purpose of promoting reproducible and reusable research. However, different platforms use different data models and formats, which drastically inhibits identification of relevant data sets, their interpretation, and their interoperability. Consequently, a semantically rich, ontology-based, machine-readable data model is highly desired. We report in this paper on the development of such an ontology, which we name OPTION (OPTImization algorithm benchmarking ONtology). Our ontology provides the vocabulary needed for semantic annotation of the core entities involved in the benchmarking process, such as algorithms, problems, and evaluation measures. It also provides means for automated data integration, improved interoperability, powerful querying capabilities and reasoning, thereby enriching the value of the benchmark data. We demonstrate the utility of OPTION by annotating and querying a corpus of benchmark performance data from the BBOB workshop data - a use case which can be easily extended to cover other benchmarking data collections.


翻译:许多衡量优化算法基准的平台为用户提供了分享实验数据的可能性,目的是促进可复制和可重复的研究,然而,不同的平台使用不同的数据模型和格式,这严重妨碍了相关数据集的识别、解释和互操作性。因此,非常希望有一个内容丰富的、基于本科学的、机器可读的数据模型。我们在本文件中报告开发这种本体学的情况,我们称之为“OPtion”(OPTIPE) 。我们的本体学提供了参与基准制定过程的核心实体的语义识别所需的词汇,例如算法、问题和评估措施。它还提供了自动化数据整合、改进互操作性、强大的查询能力和推理手段,从而丰富基准数据的价值。我们通过从BBOB讲习班数据中说明和查询一系列基准性能数据,展示了《设想》的效用。我们很容易扩大这一用途,以涵盖其他基准数据收集。

0
下载
关闭预览

相关内容

专知会员服务
34+阅读 · 2021年6月16日
专知会员服务
138+阅读 · 2021年3月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
144+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
169+阅读 · 2019年10月11日
机器学习入门的经验与建议
专知会员服务
90+阅读 · 2019年10月10日
已删除
将门创投
6+阅读 · 2019年4月22日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
MLPerf Tiny Benchmark
Arxiv
0+阅读 · 2021年6月14日
Arxiv
0+阅读 · 2021年3月7日
Arxiv
100+阅读 · 2020年3月4日
VIP会员
相关VIP内容
相关资讯
已删除
将门创投
6+阅读 · 2019年4月22日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
相关论文
Top
微信扫码咨询专知VIP会员