(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210706194.1 (22)申请日 2022.06.21 (71)申请人 深圳鲲云信息科技有限公司 地址 518048 广东省深圳市福田区福保街 道福保社区市花路南侧长富金茂 大厦 1号楼1408 (72)发明人 张林生　蔡权雄　牛昕宇　 (74)专利代理 机构 深圳智汇远见知识产权代理 有限公司 4 4481 专利代理师 曹树鹏 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/28(2006.01) G06N 3/02(2006.01) (54)发明名称 基于AI加速器的任务处理方法、 装置、 设备 及存储介质 (57)摘要 本申请涉及一种基于AI加速器的任务处理 方法、 装置、 设备及存储介质。 所述方法包括： 获 取待处理任务的属性信息， 基于属性信息确定待 处理任务对应的至少一个子任务， 基于至少一个 子任务确定处理待处理任务所需的软硬件资源， 基于至少一个子任务及预先配置的映射关系表 确定待处理任务的计算量， 根据待处理任务的计 算量， 确定AI加速器处理待处理任务所需的第一 时长， 确定软硬件资源处理待处理任务的第二时 长， 令第二时长小于或等于第一时长。 本申请可 以使得AI加速器全速运行， 减小AI加速器的等待 时间或使得AI加速器无等待时间， 提高了AI加速 器的利用率， 从而提高任务处 理效率。 权利要求书2页 说明书9页 附图2页 CN 115185676 A 2022.10.14 CN 115185676 A 1.一种基于AI加速器的任务处 理方法， 其特 征在于， 所述方法包括： 获取待处理任务的属性信 息， 基于所述属性信 息确定所述待处理任务对应的至少一个 子任务； 基于所述至少一个子任务确定处 理所述待处 理任务所需的软硬件资源； 基于所述至少一个子任务及预 先配置的映射关系表确定所述待处 理任务的计算 量； 根据所述待处 理任务的计算 量， 确定AI加速器处 理所述待处 理任务所需的第一时长； 确定所述软硬件资源处理所述待处理任务的第 二时长， 令所述第 二时长小于或等于第 一时长。 2.如权利要求1所述的基于AI加速器的任务处理方法， 在令所述第二时长小于或等于 第一时长之后， 所述方法还 包括： 基于所述AI加速器和所述软硬件资源并行处 理所述待处 理任务。 3.如权利要求1所述的基于AI加速器的任务处理方法， 其特征在于， 在获取待处理任务 的属性信息之前， 所述方法还 包括： 接收任务处理请求， 解析所述请求得到所述请求对应的标识， 根据所述标识确定所述 待处理任务的属性信息 。 4.如权利要求1所述的基于AI加速器的任务处理方法， 其特征在于， 所述基于所述至少 一个子任务确定处 理所述待处 理任务所需的软硬件资源， 包括： 分别确定处 理每个子任务所需的软硬件资源； 将处理每个子任务所需的软硬件资源进行汇总， 得到所述待处理任务所需的软硬件资 源。 5.如权利要求1所述的基于AI加速器的任务处理方法， 其特征在于， 所述基于所述至少 一个子任务及预 先配置的映射关系表确定所述待处 理任务的计算 量， 包括： 基于所述映射关系表查找每 个子任务对应的计算 量； 将每个子任务对应的计算 量进行汇总， 得到所述待处 理任务的计算 量。 6.如权利要求1所述的基于AI加速器的任务处理方法， 其特征在于， 所述根据所述待处 理任务的计算 量， 确定AI加速器处 理所述待处 理任务所需的第一时长， 包括： 将所述待处理任务的子任务对应的计算步骤映射至所述AI加速器的运算单元， 得到所 述AI加速器处 理子任务的处 理时长； 汇总子任务的处 理时长， 得到所述AI加速器处 理所述待处 理任务所需的第一时长 。 7.如权利要求1所述的基于AI加速器的任务处理方法， 其特征在于， 所述确定所述软硬 件资源处 理所述待处 理任务的第二时长， 令所述第二时长小于或等于第一时长， 包括： 为所述软硬件资源的每个对象分配预设值， 基于所述预设值计算所述软硬件资源处理 所述待处 理任务的预计时长； 判断所述预计时长是否小于或等于所述第一时长； 若是， 将所述预计时长作为所述第二时长； 若否， 重新执行为所述软硬件资源的每个对象分配预设值的步骤， 直至所述预计时长 小于或等于第一时长 。 8.一种基于AI加速器的任务处 理装置， 其特 征在于， 所述装置包括： 获取模块： 用于获取待处理任务的属性信息， 基于所述属性信息确定所述待处理任务权　利　要　求　书 1/2 页 2 CN 115185676 A 2对应的至少一个子任务； 第一确定模块： 用于基于所述至少一个子任务确定处理所述待处理任务所需的软硬件 资源； 第二确定模块： 用于基于所述至少一个子任务及预先配置的映射关系表确定所述待处 理任务的计算 量； 计算模块： 用于根据所述待处理任务的计算量， 确定AI加速器处理所述待处理任务所 需的第一时长； 匹配模块： 用于确定所述软硬件资源处理所述待处理任务的第二时长， 令所述第二时 长小于或等于第一时长 。 9.一种电子设备， 其特征在于， 包括处理器、 通信接口、 存储器和通信总线， 其中， 处理 器， 通信接口， 存 储器通过通信总线完成相互间的通信； 存储器， 用于存放计算机程序； 处理器， 用于执行存储器上所存放的程序时， 实现权利要求1至7中任一项所述的基于 AI加速器的任务处 理方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 被处理器执行时实现如权利要求1至7中任一项所述基于AI加速器的任务处 理方法的步骤。权　利　要　求　书 2/2 页 3 CN 115185676 A 3