本技术涉及神经网络,尤其涉及一种神经网络模型的参数处理方法及相关装置。
背景技术:
1、在神经网络技术领域,神经网络模型往往是拥有者花费大量的金钱时间构建而成的,对拥有者来说具有巨大的商业价值,神经网络模型的结构参数和权重参数是核心部分,它们决定了神经网络模型的性能和应用价值,一旦神经网络模型的结构参数和权重参数遭到泄露,攻击者就能逃避付费或者开辟第三方服务从中获取商业利益,使神经网络模型拥有者的权益受到损害。可见,防止神经网络模型的结构参数和权重参数泄露显得尤为必要,防止神经网络模型的结构参数和权重参数泄露可以防止未经授权的访问和使用,确保神经网络模型的独特价值不受侵犯。
技术实现思路
1、鉴于上述问题,本技术提供了一种神经网络模型的参数处理方法及相关装置,以实现防止神经网络模型的结构参数和权重参数泄露的目的。具体方案如下:
2、本技术第一方面提供一种神经网络模型的参数处理方法,包括:
3、获取待进行参数处理的神经网络模型的模型文件,所述模型文件中包含所述神经网络模型的结构参数和权重参数;所述神经网络模型的结构参数用于指示所述神经网络模型中各个层的结构;
4、对所述神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理,生成所述神经网络模型的新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件;
5、将所述新的模型文件、所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件提供给模型部署与推理设备,以使所述模型部署与推理设备基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件。
6、在一种可能的实现中,所述获取待进行参数处理的神经网络模型的模型文件,包括:
7、获取基于任一神经网络框架完成模型训练之后得到的原始模型文件;
8、将所述原始模型文件作为所述待进行参数处理的神经网络模型的模型文件;
9、或者,对所述原始模型文件进行格式转换,得到预设格式的模型文件;
10、将所述预设格式的模型文件作为所述待进行参数处理的神经网络模型的模型文件。
11、在一种可能的实现中,所述对所述神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理,生成所述神经网络模型的新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件,包括:
12、对所述神经网络模型中各个层进行位置混淆处理,得到位置混淆处理后的结构参数,生成结构参数的位置混淆处理信息文件,并对所述结构参数的位置混淆处理信息文件进行加密,生成所述结构参数的位置混淆处理信息加密文件;
13、对所述神经网络模型的权重参数进行数据结构变换处理,得到数据结构变换处理后的权重参数,生成权重参数的数据结构变换处理信息文件,并对所述权重参数的数据结构变换处理信息文件进行加密,生成所述权重参数的数据结构变换处理信息加密文件;
14、基于所述位置混淆处理后的结构参数以及所述数据结构变换处理后的权重参数,生成所述神经网络模型的新的模型文件。
15、在一种可能的实现中,所述对所述神经网络模型中各个层进行位置混淆处理,包括:
16、对所述神经网络模型中各个层进行位置交换,使所述神经网络模型中各个层的堆叠顺序发生改变;
17、则,所述结构参数的位置混淆处理信息文件中记录有各个层的位置混淆处理信息,各个层的位置混淆处理信息用于指示各个层在位置混淆处理前后堆叠顺序编号的排列顺序。
18、在一种可能的实现中,所述对所述神经网络模型的权重参数进行数据结构变换处理,包括:
19、对所述神经网络模型的权重参数进行随机转置处理,使所述神经网络模型的权重参数的维度发生改变;
20、则,所述权重参数的数据结构变换处理信息文件中记录有每个权重参数的数据结构变换处理信息,每个权重参数的数据结构变换处理信息用于指示每个权重参数的转置次数。
21、本技术第二方面提供一种神经网络模型的参数处理方法,包括:
22、获取新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件;所述新的模型文件、所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件是神经网络模型构建设备在获取待进行参数处理的神经网络模型的模型文件之后,对神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理后生成的;
23、基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件。
24、在一种可能的实现中,所述基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件,包括:
25、对所述结构参数的位置混淆处理信息加密文件进行解密,得到结构参数的位置混淆处理信息文件,基于所述结构参数的位置混淆处理信息文件对所述新的模型文件中的位置混淆处理后的结构参数进行还原处理,得到还原处理后的结构参数;
26、对所述权重参数的数据结构变换处理信息加密文件进行解密,得到权重参数的数据结构变换处理信息文件,基于所述权重参数的数据结构变换处理信息文件对所述新的模型文件中的数据结构变换处理后的权重参数进行还原处理,得到还原处理后的权重参数;
27、基于所述还原处理后的结构参数以及所述还原处理后的权重参数,生成所述还原处理后的模型文件。
28、本技术第三方面提供一种神经网络模型的参数处理装置,包括:
29、第一获取单元,用于获取待进行参数处理的神经网络模型的模型文件,所述模型文件中包含所述神经网络模型的结构参数和权重参数;所述神经网络模型的结构参数用于指示所述神经网络模型中各个层的结构;
30、文件生成单元,用于对所述神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理,生成所述神经网络模型的新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件;
31、文件提供单元,用于将所述新的模型文件、所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件提供给模型部署与推理设备,以使所述模型部署与推理设备基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件。
32、在一种可能的实现中,所述第一获取单元,具体用于:
33、获取基于任一神经网络框架完成模型训练之后得到的原始模型文件;
34、将所述原始模型文件作为所述待进行参数处理的神经网络模型的模型文件;
35、或者,对所述原始模型文件进行格式转换,得到预设格式的模型文件;
36、将所述预设格式的模型文件作为所述待进行参数处理的神经网络模型的模型文件。
37、在一种可能的实现中,所述文件生成单元,包括:
38、第一文件生成单元,用于对所述神经网络模型中各个层进行位置混淆处理,得到位置混淆处理后的结构参数,生成结构参数的位置混淆处理信息文件,并对所述结构参数的位置混淆处理信息文件进行加密,生成所述结构参数的位置混淆处理信息加密文件;
39、第二文件生成单元,用于对所述神经网络模型的权重参数进行数据结构变换处理,得到数据结构变换处理后的权重参数,生成权重参数的数据结构变换处理信息文件,并对所述权重参数的数据结构变换处理信息文件进行加密,生成所述权重参数的数据结构变换处理信息加密文件;
40、第三文件生成单元,用于基于所述位置混淆处理后的结构参数以及所述数据结构变换处理后的权重参数,生成所述神经网络模型的新的模型文件。
41、在一种可能的实现中,所述第一文件生成单元,具体用于:
42、对所述神经网络模型中各个层进行位置交换,使所述神经网络模型中各个层的堆叠顺序发生改变;
43、则,所述结构参数的位置混淆处理信息文件中记录有各个层的位置混淆处理信息,各个层的位置混淆处理信息用于指示各个层在位置混淆处理前后堆叠顺序编号的排列顺序。
44、在一种可能的实现中,所述第二文件生成单元,具体用于:
45、对所述神经网络模型的权重参数进行随机转置处理,使所述神经网络模型的权重参数的维度发生改变;
46、则,所述权重参数的数据结构变换处理信息文件中记录有每个权重参数的数据结构变换处理信息,每个权重参数的数据结构变换处理信息用于指示每个权重参数的转置次数。
47、本技术第四方面提供一种神经网络模型的参数处理装置,包括:
48、第二获取单元,用于获取新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件;所述新的模型文件、所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件是神经网络模型构建设备在获取待进行参数处理的神经网络模型的模型文件之后,对神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理后生成的;
49、还原处理单元,用于基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件。
50、在一种可能的实现中,所述还原处理单元,具体用于:
51、对所述结构参数的位置混淆处理信息加密文件进行解密,得到结构参数的位置混淆处理信息文件,基于所述结构参数的位置混淆处理信息文件对所述新的模型文件中的位置混淆处理后的结构参数进行还原处理,得到还原处理后的结构参数;
52、对所述权重参数的数据结构变换处理信息加密文件进行解密,得到权重参数的数据结构变换处理信息文件,基于所述权重参数的数据结构变换处理信息文件对所述新的模型文件中的数据结构变换处理后的权重参数进行还原处理,得到还原处理后的权重参数;
53、基于所述还原处理后的结构参数以及所述还原处理后的权重参数,生成所述还原处理后的模型文件。
54、本技术第五方面提供一种计算机程序产品,包括计算机可读指令,当所述计算机可读指令在电子设备上运行时,使得所述电子设备实现上述第一方面或第一方面任一实现方式的神经网络模型的参数处理方法,和/或,上述第二方面或第二方面任一实现方式的神经网络模型的参数处理方法。
55、本技术第六方面提供一种电子设备,包括至少一个处理器和与所述处理器连接的存储器,其中:
56、所述存储器用于存储计算机程序;
57、所述处理器用于执行所述计算机程序,以使所述电子设备能够实现上述第一方面或第一方面任一实现方式的神经网络模型的参数处理方法,和/或,上述第二方面或第二方面任一实现方式的神经网络模型的参数处理方法。
58、本技术第七方面提供一种计算机存储介质,所述存储介质承载有一个或多个计算机程序,当所述一个或多个计算机程序被电子设备执行时,能够使所述电子设备实现上述第一方面或第一方面任一实现方式的神经网络模型的参数处理方法,和/或,上述第二方面或第二方面任一实现方式的神经网络模型的参数处理方法。
59、借由上述技术方案,本技术提供的神经网络模型的参数处理方法及相关装置,包括:获取待进行参数处理的神经网络模型的模型文件,对神经网络模型中各个层进行位置混淆处理以及对神经网络模型的权重参数进行数据结构变换处理,生成神经网络模型的新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件;将上述各个文件提供给模型部署与推理设备,以使模型部署与推理设备基于结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件对新的模型文件进行还原处理,得到还原处理后的模型文件。该方案能够实现防止神经网络模型的结构参数和权重参数泄露的目的。
1.一种神经网络模型的参数处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述获取待进行参数处理的神经网络模型的模型文件,包括:
3.根据权利要求1或2所述的方法,其特征在于,所述对所述神经网络模型中各个层进行位置混淆处理以及对所述神经网络模型的权重参数进行数据结构变换处理,生成所述神经网络模型的新的模型文件、结构参数的位置混淆处理信息加密文件以及权重参数的数据结构变换处理信息加密文件,包括:
4.根据权利要求3所述的方法,其特征在于,所述对所述神经网络模型中各个层进行位置混淆处理,包括:
5.根据权利要求3所述的方法,其特征在于,所述对所述神经网络模型的权重参数进行数据结构变换处理,包括:
6.一种神经网络模型的参数处理方法,其特征在于,包括:
7.根据权利要求6所述的方法,其特征在于,所述基于所述结构参数的位置混淆处理信息加密文件以及所述权重参数的数据结构变换处理信息加密文件对所述新的模型文件进行还原处理,得到还原处理后的模型文件,包括:
8.一种神经网络模型的参数处理装置,其特征在于,包括:
9.一种神经网络模型的参数处理装置,其特征在于,包括:
10.一种计算机程序产品,其特征在于,包括计算机可读指令,当所述计算机可读指令在电子设备上运行时,使得所述电子设备实现如权利要求1至5中任意一项所述的神经网络模型的参数处理方法,和/或,如权利要求6至7中任意一项所述的神经网络模型的参数处理方法。
11.一种电子设备,其特征在于,包括至少一个处理器和与所述处理器连接的存储器,其中:
12.一种计算机存储介质,其特征在于,所述计算机存储介质承载有一个或多个计算机程序,当所述一个或多个计算机程序被电子设备执行时,能够使所述电子设备实现如权利要求1至5中任意一项所述的神经网络模型的参数处理方法,和/或,如权利要求6至7中任意一项所述的神经网络模型的参数处理方法。