本公开总体上涉及对与机器学习模型相关联的数据的选择性和灵活性压缩。
背景技术:
1、机器学习模型可以基于训练数据来训练。机器学习模型可以执行迭代训练过程以基于训练数据(例如,经由梯度)来训练机器学习模型。机器学习模型在经过训练后,可以执行人工智能(artificial intelligence,ai)推理。ai推理可以是使用经训练的机器学习模型基于输入数据做出预测或决策的过程。例如,推理可以是使用经训练的模型进行预测的过程。
技术实现思路
1、一个或多个计算机的系统可以被配置为通过将软件、固件、硬件或它们的组合安装在该系统上来执行特定操作或动作,所述软件、固件、硬件或它们的组合运行时使该系统执行动作。一个或多个计算机程序可以被配置为通过包括指令来执行特定操作或动作,所述指令在被数据处理装置执行时使该数据处理装置执行这些动作。
2、一个总体方面包括至少一个计算机可读存储介质,该至少一个计算机可读存储介质包括指令集,该指令集在被计算设备执行时使得该计算设备基于第一压缩方案对第一数据进行压缩以生成第二数据,其中,该第一数据与第一机器学习模型相关联。这些指令在被执行时使得该计算设备将第二数据存储到存储器中,并根据第一数据是基于第一压缩方案而被压缩,来调整查找表的第一条目以对应于第一压缩方案。这些指令在被执行时使得计算设备在第一机器学习模型的执行期间向处理阵列的处理元件提供来自该存储器的第二数据,以及在该处理阵列处基于查找表对第二数据进行解压缩以获得第一数据。该方面的其它示例包括对应的计算机系统、装置和在一个或多个计算机存储设备上记录的计算机程序,每个计算机系统、装置和计算机程序被配置为执行这些方法的动作。
3、一个总体方面包括一种系统,该系统包括一个或多个处理器以及耦接到该一个或多个处理器的存储器,该存储器包括能够由该一个或多个处理器执行的指令,该一个或多个处理器在执行指令时能够操作以:基于第一压缩方案对第一数据进行压缩以生成第二数据,其中,第一数据与第一机器学习模型相关联。该一个或多个处理器在执行指令时还能够操作以:将第二数据存储到第二存储器中,根据第一数据是基于第一压缩方案而被压缩,来调整查找表的第一条目以对应于第一压缩方案,以及在第一机器学习模型的执行期间,向处理阵列的处理元件提供来自第二存储器的第二数据。该一个或多个处理器在执行指令时还能够操作以:在处理阵列处,基于查找表对第二数据进行解压缩以获得第一数据。该方面的其它示例包括对应的计算机系统、装置和在一个或多个计算机存储设备上记录的计算机程序,每个计算机系统、装置和计算机程序被配置为执行这些方法的动作。
4、一个总体方面包括一种方法,该方法包括基于第一压缩方案对第一数据进行压缩以生成第二数据,其中,第一数据与第一机器学习模型相关联。该方法还包括将第二数据存储到存储器中。该方法还包括根据第一数据是基于第一压缩方案而被压缩,来调整查找表的第一条目以对应于第一压缩方案。该方法还包括在第一机器学习模型的执行期间,向处理阵列的处理元件提供来自存储器的第二数据。该方法还包括在处理阵列处,基于查找表对第二数据进行解压缩以获得第一数据。该方面的其它示例包括对应的计算机系统、装置和在一个或多个计算机存储设备上记录的计算机程序,每个计算机系统、装置和计算机程序被配置为执行这些方法的动作。
1.至少一个计算机可读存储介质,所述至少一个计算机可读存储介质包括指令集,所述指令集在被计算设备执行时使所述计算设备:
2.根据权利要求1所述的至少一个计算机可读存储介质,其中,所述指令集在被执行时使所述计算设备:
3.根据权利要求2所述的至少一个计算机可读存储介质,其中,所述指令集在被执行时使所述计算设备:
4.根据权利要求2所述的至少一个计算机可读存储介质,其中,所述指令集在被执行时使所述计算设备:
5.根据权利要求1所述的至少一个计算机可读存储介质,其中,所述指令集在被执行时使所述计算设备:
6.根据权利要求1所述的至少一个计算机可读存储介质,其中,所述指令集在被执行时使所述计算设备:
7.根据权利要求1所述的至少一个计算机可读存储介质,其中:
8.一种系统,包括:
9.根据权利要求8所述的系统,其中,所述一个或多个处理器在执行所述指令时,还能够操作以:
10.根据权利要求9所述的系统,其中,所述一个或多个处理器在执行所述指令时还能够操作以:
11.根据权利要求9所述的系统,其中,所述一个或多个处理器在执行所述指令时还能够操作以:
12.根据权利要求8所述的系统,其中,所述一个或多个处理器在执行所述指令时还能够操作以:
13.根据权利要求8所述的系统,其中,所述一个或多个处理器在执行所述指令时还能够操作以:
14.根据权利要求8所述的系统,其中,
15.一种方法,包括:
16.根据权利要求15所述的方法,还包括:
17.根据权利要求16所述的方法,还包括:
18.根据权利要求16所述的方法,还包括:
19.根据权利要求15所述的方法,还包括:
20.根据权利要求15所述的方法,还包括: