中国电工技术学会团体标准T/CES 103-2022《电力人工智能边端侧模型技术规范》由中国电工技术学会标准工作委员会能源智慧化工作组归口，国网信息通信产业集团有限公司等单位起草编制完成。该标准规定了电力人工智能边端侧模型技术应用相关的通用要求、安全性要求、效率要求、算子要求、模型应用封装要求和模型评价指标及方法，为电力边端侧数据汇集分析智能化提升水平，为构建低延时、低带宽依赖、经济智能、数据可控和高可靠性的边端人工智能算力体系赋能。

       1. 标准起草单位及主要起草人

       起草单位：国网信息通信产业集团有限公司、安徽继远软件有限公司、福建亿榕信息技术有限公司、北京国网信通埃森哲信息技术有限公司、国网重庆市电力公司电力科学研究院、四川大学、四川中电启明星信息技术有限公司、国网重庆市电力公司、中国电力科学研究院有限公司、国网四川省电力公司、重庆大学、国家电网有限公司大数据中心

主要起草人：李强、赵峰、邱镇、刘迪、庄莉、李炳森、廖逍、黄晓光、向辉、王秋琳、余江斌、许中平、谭洪恩、吕跃春、苏少春、杨迎春、周孔均、王晓东、钟加勇、彭舰、田鹏、刘礼、吕小红、厉仄平、黄飞虎、王金策、梁翀、郭庆、张琳瑜、崔迎宝、刘璟、宫晓辉、尹玉、周伟、梁翀、李温静、李道兴、陈振宇、浦正国

       2. 标准编制背景
       近年来，随着边缘计算的火热，电力人工智能边端侧模型得到迅速发展，电力领域各场景孵化了相应的各类边端侧模型，并在各场景积累的大量的实践经验。但是，随着电力人工智能边端侧模型规模和数量剧增，各厂家对模型定义以及模型精度遵循的是厂家内部的标准，导致各厂家对模型的把控力度不一，造成边端侧模型能力、精力和安全性有差异，增加了模型应用和准入的难度，也不利于工作流程的标准化。因此，拟制定电力人工智能边端侧模型统一标准规范，指导电力人工智能边端侧模型研发、模型测试、模型应用具有重要的指导意义。

       3. 标准主要内容
       从内容上来看，该标准主要包含以下几个部分：
       （1）范围
       本规范规定了电力人工智能边端侧模型技术应用相关的通用要求、安全性要求、效率要求、算子要求、模型应用封装要求和模型评价指标及方法。
       本规范适用于电力输变配和安检等数据采集终端智能分析应用场景。

       （2）规范性引用文件

       本规范主要引用的文件主要包括：

       GB/T 5271.28-2001 信息技术 词汇 第28部分：人工智能基本概念与专家系统

       GB/T 35312-2017 中文语音识别终端服务接口规范

       GB/T 38671-2020 信息安全技术 远程人脸识别系统技术要求

       （3）术语和定义

       主要包括电力人工智能边端侧模型、开放神经网络交换、算子、目标检测模型、测试数据集的术语和定义。

       （4）缩略语

       （5）通用要求

       主要包括应用场景、硬件架构适配、模型超参转换、边端推理效率、应用安全等。电力人工智能边端侧模型主要应用电力业务边端数据采集分析场景，需能够快速适配主流边缘计算硬件架构，支持基于不同运算框架之间的模型超参转换，边端推理效率和安全性方面符合基本要求。

       （6）通用算子要求

       边端侧应当支持常见的深度学习底层框架如下表所示，边端侧模型算子根据模型实际应用场景，进行差异化组合应用，分别对算子融合、自定义算子、高性能计算三方面做出要求。

       （7）模型封装要求

       包括模型初始化服务、数据管理服务和容器化模型打包。边端侧模型封装应考虑模型管理与数据贯通要求，实现与边缘智能服务平台或人工智能平台等管理系统的数据贯通，实现模型初始化消息队列服务和数据管理服务，并采用Docker容器化方式进行封装，如下图所示。

       （8）模型评价指标及方法

       包括模型评价体系、安全性评价、鲁棒性评价、模型推理效率评价、评价指标、评价方法、模型性能等级判定等。

       4. 标准制定效益

       该标准规范了电力人工智能边端侧模型评价方法，该标准效益主要体现在：

       （1）制定统一的电力人工智能边端侧模型评价方法，可以使得不同应用场景数据采集终端智能分析对边端侧人工智能模型做出统一的评价，有利于提升电力边端侧数据汇集分析智能化水平。

       （2）有利于构建低延时、低带宽依赖、经济智能、数据可控和高可靠性的边端人工智能算力体系。