本技术涉及数据处理,尤其涉及大数据及深度学习领域,尤其涉及一种预排序模型的训练方法、预排序方法及其装置。
背景技术:
1、现有的推荐系统通常采用多阶段排序架构,这种架构通常包括匹配、预排序、排序和重排序阶段。相关技术中,一般按照发散性或者相关性对各个特征进行评分,设定阈值以选择特征,但这种方法独立于预排序模型的评估标准,容易导致所选的特征子集在预排序模型中的表现不佳。
技术实现思路
1、本技术旨在至少在一定程度上解决相关技术中的技术问题之一。
2、为此,本技术的一个目的在于提出一种预排序模型的训练方法,通过获取训练样本的特征矩阵和标签向量,其中,特征矩阵中包括训练样本的多个样本特征;在对初始预排序模型进行第i次训练时,获取第i-1次训练得到的特征矩阵的特征概率向量,其中,特征概率向量包括每个样本特征被选中用于训练初始预排序模型的概率;基于特征矩阵、标签向量和第i-1次训练后得到的特征概率向量,对初始预排序模型进行第i次训练,直至训练结束得到目标预排序模型。
3、本技术的第二个目的在于提出一种预排序方法。
4、本技术的第三个目的在于提出一种预排序模型的训练装置。
5、本技术的第四个目的在于提出一种预排序装置。
6、本技术的第五个目的在于提出一种电子设备。
7、本技术的第六个目的在于提出一种非瞬时计算机可读存储介质。
8、本技术的第七个目的在于提出一种计算机程序产品。
9、为达上述目的,本技术第一方面实施例提出了一种预排序模型的训练方法,包括:获取训练样本的特征矩阵和标签向量,其中,特征矩阵中包括训练样本的多个样本特征;在对初始预排序模型进行第i次训练时,获取第i-1次训练得到的特征矩阵的特征概率向量,其中,特征概率向量包括每个样本特征被选中用于训练初始预排序模型的概率;基于特征矩阵、标签向量和第i-1次训练后得到的特征概率向量,对初始预排序模型进行第i次训练,直至训练结束得到目标预排序模型。
10、根据本技术的一个实施例,预排序模型的训练方法还包括:在首次训练时,基于伯努利分布随机生成首次训练的特征概率向量。
11、根据本技术的一个实施例,获取第i-1次训练得到的特征矩阵的特征概率向量,包括:获取初始预排序模型在第i-1次训练时输出的样本排序结果;基于标签向量和样本排序结果,对特征概率向量进行调整,得到第i-1次的特征概率向量。
12、根据本技术的一个实施例,基于标签向量和样本排序结果,对特征概率向量进行调整,得到第i-1次的特征概率向量之后,还包括:针对第i-1次的特征概率向量中任一样本特征的特征概率,根据任一样本特征的特征概率和任一样本特征对应的随机生成的正态分布值,确定第i次训练时任一样本对应的变量参数值;其中,训练结束后得到的变量参数值用于指示样本特征是否被选中用于目标预排序模型的预测。
13、根据本技术的一个实施例,目标预排序模型的获取过程,包括:获取训练结束时预排序模型内每个样本特征最终的变量参数值;基于最终的变量参数值,确定可输入目标预排序模型的第一样本特征;基于第一样本特征,确定目标预排序模型的输入层,以得到最终的目标预排序模型。
14、根据本技术的一个实施例,基于最终的变量参数值,确定可输入目标预排序模型的第一样本特征,包括:将最终的变量参数值与预设的参考阈值进行对比,并将小于参考阈值的最终的变量参数值对应的样本特征,作为第一样本特征。
15、根据本技术的一个实施例,基于第一样本特征,确定目标预排序模型的输入层,以得到最终的目标预排序模型,包括:确定第一样本特征的第一输入通道,以及剩余的第二样本特征的第二输入通道;从训练结束时预排序模型的输入层中删除第一输入通道,并保留第二输入通道,构成目标预排序模型的输入层,以得到最终的目标预排序模型。
16、为达上述目的,本技术第二方面实施例提出了一种预排序方法,包括:将待排序内容输入目标预排序模型,以获取目标预排序模型输出的排序结果,其中,目标预排序模型为根据上述第一方面实施例的预排序模型的训练方法训练所得。
17、为达上述目的,本技术第三方面实施例提出了一种预排序模型的训练装置,包括:第一获取模块,用于获取训练样本的特征矩阵和标签向量,其中,特征矩阵中包括训练样本的多个样本特征;第二获取模块,用于在对初始预排序模型进行第i次训练时,获取第i-1次训练得到的特征矩阵的特征概率向量,其中,特征概率向量包括每个样本特征被选中用于训练初始预排序模型的概率;模型训练模块,用于基于特征矩阵、标签向量和第i-1次训练后得到的特征概率向量,对初始预排序模型进行第i次训练,直至训练结束得到目标预排序模型。
18、根据本技术的一个实施例,第二获取模块,还用于:在首次训练时,基于伯努利分布随机生成首次训练的特征概率向量。
19、根据本技术的一个实施例,第二获取模块,还用于:获取初始预排序模型在第i-1次训练时输出的样本排序结果;基于标签向量和样本排序结果,对特征概率向量进行调整,得到第i-1次的特征概率向量。
20、根据本技术的一个实施例,第二获取模块,还用于:针对第i-1次的特征概率向量中任一样本特征的特征概率,根据任一样本特征的特征概率和任一样本特征对应的随机生成的正态分布值,确定第i次训练时任一样本对应的变量参数值;其中,训练结束后得到的变量参数值用于指示样本特征是否被选中用于目标预排序模型的预测。
21、根据本技术的一个实施例,模型训练模块,还用于:获取训练结束时预排序模型内每个样本特征最终的变量参数值;基于最终的变量参数值,确定可输入目标预排序模型的第一样本特征;基于第一样本特征,确定目标预排序模型的输入层,以得到最终的目标预排序模型。
22、根据本技术的一个实施例,模型训练模块,还用于:将最终的变量参数值与预设的参考阈值进行对比,并将小于参考阈值的最终的变量参数值对应的样本特征,作为第一样本特征。
23、根据本技术的一个实施例,模型训练模块,还用于:确定第一样本特征的第一输入通道,以及剩余的第二样本特征的第二输入通道;从训练结束时预排序模型的输入层中删除第一输入通道,并保留第二输入通道,构成目标预排序模型的输入层,以得到最终的目标预排序模型。
24、为达上述目的,本技术第四方面实施例提出了一种预排序装置,包括:预排序模块,用于将待排序内容输入目标预排序模型,以获取目标预排序模型输出的排序结果,其中,目标预排序模型为根据上述第一方面实施例的预排序模型的训练方法训练所得。
25、为达上述目的,本技术第五方面实施例提出了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以实现如本技术第一方面实施例所述的预排序模型的训练方法或本技术第二方面实施例所述的预排序方法。
26、为达上述目的,本技术第六方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于实现如本技术第一方面实施例所述的预排序模型的训练方法或本技术第二方面实施例所述的预排序方法。
27、为达上述目的,本技术第七方面实施例提出了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如本技术第一方面实施例所述的预排序模型的训练方法或本技术第二方面实施例所述的预排序方法。
28、本技术至少实现以下有益效果:
29、本技术实现对预排序模型的输入层参数有效的稀疏化,从而降低模型整体的参数,进一步有效降低预排序模型的耗时,减轻排序系统的压力。
1.一种预排序模型的训练方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
3.根据权利要求1所述的方法,其特征在于,所述获取第i-1次训练得到的所述特征矩阵的特征概率向量,包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述标签向量和所述样本排序结果,对所述特征概率向量进行调整,得到所述第i-1次的特征概率向量之后,还包括:
5.根据权利要求4所述的方法,其特征在于,所述目标预排序模型的获取过程,包括:
6.根据权利要求5所述的方法,其特征在于,所述基于所述最终的变量参数值,确定可输入所述目标预排序模型的第一样本特征,包括:
7.根据权利要求5或6所述的方法,其特征在于,所述基于所述第一样本特征,确定所述目标预排序模型的输入层,以得到最终的目标预排序模型,包括:
8.一种预排序方法,其特征在于,包括:
9.一种预排序模型的训练装置,其特征在于,包括:
10.一种预排序装置,其特征在于,包括:
11.一种电子设备,包括:
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7或权利要求8中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时执行根据权利要求1-7或权利要求8中任一项所述的步骤。
