我院参与编制团体标准《人工智能 异构人工智能加速器统一接口》

       近日，中科南京软件技术研究院参与研制的团体标准《人工智能 异构人工智能加速器统一接口》（T/CESA 1303-2023）获批发布，自2023年12月20日实施。

       该标准由中国电子技术标准化研究院发起，联合华为技术有限公司、上海人工智能实验室、中科南京软件技术研究院等30余家单位共同完成。标准定义了异构人工智能加速器的统一接口及其语义和使用方法，提出各加速器为实现此接口所需的接入方法和试验方法，适用于人工智能加速器接口的设计和实现，也可为人工智能加速器应用提供参考。

      人工智能加速处理器是人工智能计算和应用的核心。据2020年不完全统计，我国人工智能加速处理器研发机构多达2800多家，每种加速器都有自建软件及应用生态的任务。这种现象将给人工智能计算企业和产业带来沉重负担，在技术生态层面、兼容适配层面以及用户使用层面存在问题。人工智能应用的建立，需要实现各种计算框架及各类加速器相对灵活搭配，但需尽可能少地侵入各类人工智能加速器的已有技术路线（各种加速器的已有指令级和算子实现库），不限制创新。针对上述问题，该标准提出标准化解决方案，实现为异构人工智能加速器提供接入方案，为机器学习软件框架提供统一接口，为用户提供统一接口的目标。