本申请涉及数据处理,尤其涉及一种基于加速芯片的数据处理方法、装置、设备及存储介质。
背景技术:
1、随着深度学习、云计算等数据处理技术的发展和应用,为了解决计算单元和存储单元之间的数据移动频繁、搬运慢、能耗大等问题,存算一体芯片应运而生。
2、该存算一体芯片将以计算为中心的架构转变为以数据为中心的架构,也就是直接利用存储单元进行数据处理,实现存储功能和计算功能的有机融合。存算一体芯片从根本上解决了传统的冯·诺依曼架构的芯片的“存储墙”和“功耗墙”问题,极大地提高了数据的并行度和能量效率。
3、相关技术中,存算一体芯片可以应用于模型训练和/或推理等计算任务,但是当存算一体芯片不足以处理相关计算任务的算子要求时,会导致计算任务的完成效果较差。而针对该问题,目前尚无有效解决方案。
技术实现思路
1、有鉴于此,本申请实施例提供了一种基于加速芯片的数据处理方法、装置、设备及存储介质,旨在改善数据处理任务的处理效果。
2、本申请实施例的技术方案是这样实现的:
3、第一方面,本申请实施例提供了一种基于加速芯片的数据处理方法,包括:
4、获取数据处理任务;
5、基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果;
6、基于所述拆分结果,将拆分后的算子任务部署至不同的加速芯片;
7、基于各加速芯片的运行结果,得到所述数据处理任务的结果;
8、其中,所述所管理的加速芯片至少包括存算一体芯片。
9、上述方案中,所述芯片信息至少包括:芯片类型,所述基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果,包括:
10、基于所述芯片类型,对所述数据处理任务的各算子任务与所述管理的加速芯片进行匹配,得到各算子任务对应的目标芯片;
11、基于各算子任务之间的数据流向,确定所述目标芯片之间的数据交互顺序;
12、基于所述各算子任务对应的目标芯片和所述目标芯片之间的数据交互顺序,得到所述数据处理任务的拆分结果。
13、上述方案中,所述拆分结果包括:表征拆分后的算子任务与目标芯片之间的对应关系的映射参数和表征目标芯片之间的数据交互顺序的数据流转参数,所述基于所述拆分结果,将拆分后的算子任务部署至不同的加速芯片,包括:
14、基于所述映射参数将拆分后的算子任务部署至对应的目标芯片;
15、基于所述数据流转参数确定各所述目标芯片之间的数据交互顺序。
16、上述方案中,所述方法还包括:
17、获取所管理的各加速芯片的芯片信息;
18、其中,所述芯片信息包括以下至少之一:芯片位置、计算精度、运算方式、厂商信息和芯片类型。
19、上述方案中,所述基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果,还包括:
20、获取所述数据处理任务的计算图;
21、基于所述计算图,对所述数据处理任务进行算子划分,得到所述数据处理任务的各算子任务。
22、上述方案中,所述基于所述计算图,对所述数据处理任务进行算子划分之前,所述方法还包括:
23、基于所述所管理的加速芯片的芯片信息和设定优化策略,对所述计算图进行优化更新,得到更新后的计算图;
24、其中,所述设定优化策略包括以下至少之一:性能优化策略和能耗优化策略。
25、上述方案中,所述数据处理任务为模型推理任务。
26、第二方面,本申请实施例提供了一种基于加速芯片的数据处理装置,包括:
27、获取模块,用于获取数据处理任务;
28、算子拆分模块,用于基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果;
29、部署模块,用于基于所述拆分结果,将拆分后的算子任务部署至不同的加速芯片;
30、处理模块,用于基于各加速芯片的运行结果,得到所述数据处理任务的结果;
31、其中,所述所管理的加速芯片至少包括存算一体芯片。
32、第三方面,本申请实施例提供了一种电子设备,包括:处理器和用于存储能够在处理器上运行的计算机程序的存储器,其中,所述处理器用于运行计算机程序时,执行本申请实施例第一方面所述方法的步骤。
33、第四方面,本申请实施例提供了一种计算机存储介质,所述计算机存储介质上存储有计算机程序,所述计算机程序被处理器执行时,实现本申请实施例第一方面所述方法的步骤。
34、本申请实施例提供的技术方案,获取数据处理任务;基于所管理的加速芯片的芯片信息,对数据处理任务进行算子任务拆分,得到拆分结果;基于拆分结果,将拆分后的算子任务部署至不同的加速芯片;基于各加速芯片的运行结果,得到数据处理任务的结果;其中,所管理的加速芯片至少包括存算一体芯片。如此,可以基于管理的加速芯片的芯片信息,对数据处理任务进行算子任务拆分,将拆分后的算子任务部署至不同的加速芯片,基于各加速芯片的运行结果,得到数据处理任务的结果,可以克服单一的存算一体芯片的性能不足的缺陷,有效改善数据处理任务的处理效果。
1.一种基于加速芯片的数据处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述芯片信息至少包括:芯片类型,所述基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果,包括:
3.根据权利要求1所述的方法,其特征在于,所述拆分结果包括:表征拆分后的算子任务与目标芯片之间的对应关系的映射参数和表征目标芯片之间的数据交互顺序的数据流转参数,所述基于所述拆分结果,将拆分后的算子任务部署至不同的加速芯片,包括:
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求2所述的方法,其特征在于,所述基于所管理的加速芯片的芯片信息,对所述数据处理任务进行算子任务拆分,得到拆分结果,还包括:
6.根据权利要求5所述的方法,其特征在于,所述基于所述计算图,对所述数据处理任务进行算子划分之前,所述方法还包括:
7.根据权利要求1所述的方法,其特征在于,
8.一种基于加速芯片的数据处理装置,其特征在于,包括:
9.一种电子设备,其特征在于,包括:处理器和用于存储能够在处理器上运行的计算机程序的存储器,其中,
10.一种计算机存储介质,所述计算机存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现权利要求1至7任一项所述方法的步骤。
