本文件定义异构人工智能加速器的统一接口及其语义和使用方法,描述了各加速器为实现此接口所需的接入方法和试验方法。 本文件适用于人工智能加速器接口的设计和实现,也可为人工智能加速器应用提供参考。

据统计,我国人工智能加速处理器研发机构多达2800 多家,每种加速器都有自建软件及应用生态的任务,这种现象将给人工智能计算企业和产业带来沉重负担。其核心问题如下: (1)技术生态:人工智能计算生态的严重割裂,加速器的技术生态林立,小且脆弱;(2)兼容适配:众多加速器需与众多计算框架(如机器学习框架)点对点适配,产业整体适配工作量巨大; (3)用户使用:异构人工智能加速器整合、使用的复杂度很高。加速器之间的互操作在如此大的规模上,较难实现和维护。本标准旨在在各人工智能加速器使能软件之上与机器学习框架之下,建立中间层。对上,屏蔽加速器的异构性;对下,屏蔽机器学习框架的多种接入方式,以达到让加速器或机器学习框架快速对接而建立或复用生态的目标。

《人工智能 异构人工智能加速器统一接口》标准定义了异构人工智能加速器的统一接口及其语义,给出了各加速器为实现此接口所需的接入方法、使用方法和试验方法。 该标准适用于人工智能加速器接口的设计和实现,也可为人工智能加速器应用提供参考。 该标准主要技术内容包括: (1)异构人工智能加速器统一接口概述,包括接口、接入方法、精度、接口参数等; (2)接口定义,包括模型操作接口、运行时接口、运算接口等;(3)符合性测试方法,包括测试过程、指标及测量方法等;(4)附录,包括 A 返回码(规范性)、B 测试项(规范性)、C算子定义(规范性)、D 枚举(规范性)、E 领域接口(资料性)。

成为VIP会员查看完整内容
29

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。
《信息技术实时定位系统性能测试方法》国家标准意见稿
国家标准《物联网 数据质量》(征求意见稿)
专知会员服务
42+阅读 · 2022年9月13日
《智能制造机器视觉在线检测测试方法》国家标准意见稿
《人工智能芯片基准测试评估方法》行业标准
专知会员服务
77+阅读 · 2022年2月20日
零样本图像识别综述论文
专知
20+阅读 · 2020年4月4日
基于人体骨架的行为识别【附PPT与视频资料】
人工智能前沿讲习班
31+阅读 · 2019年1月15日
从传统方法到深度学习,人脸关键点检测方法综述
机器之心
14+阅读 · 2017年12月17日
机器学习实现金融风控
凡人机器学习
15+阅读 · 2017年6月1日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
142+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
348+阅读 · 2023年3月31日
Arxiv
59+阅读 · 2023年3月26日
Arxiv
122+阅读 · 2023年3月24日
Arxiv
18+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员