深度学习推理引擎应用编程接口(API) (T/AI 117-2022) 团体名称为中关村视听产业技术创新联盟
主要起草人:胡晓光、杨超、翟季冬、梅敬青、蒋慧、党青青、严春伟、冯海军、李笑如、 李雨芮、马艳军、于佃海、高铁柱、赵乔、徐浩、蒋晓琳、张小飞、张艺伯、吴庚、毕然。
起草单位:北京百度网讯科技有限公司、北京大学、北京大学计算与数字经济研究院、清华 大学、北京旷视科技有限公司、上海商汤智能科技有限公司、上海燧原科技有限公司。
适用范围:《深度学习推理引擎应用编程接口(API)规范》规定了深度学习推理引擎应用编程接口规范,定义了模型管理接口、设备管理接口、输入输出接口、推理接口四类接口规范。本标准适用于部署在设备上的深度学习推理引擎,包括云侧(IDC)推理引擎及端侧(移动端、边缘端)推理引擎,可用于指导推理引擎API的设计与开发,个别条款不适用于特殊行业,专业应用。
内容简要 深度学习推理引擎是一种专门用于深度学习预测或推理的软件框架,提供一系列高层接口用于加载深度学习模型,搭载并适配硬件执行模型中涉及的所有运算,获得推理结果,可应用于图像识别、自然…