大语言模型的多对象终端应对控制方法和系统与流程

    技术2025-03-13  44


    本发明涉及人工智能的领域,尤其涉及大语言模型的多对象终端应对控制方法和系统。


    背景技术:

    1、chatgpt等对话式语言聊天机器已经广泛应用,这些对话式语言聊天机器是基于大语言模型来实现,其能够对海量语言数据进行识别。为了保证语言聊天的正确性,需要对大语言模型进行训练以及将大语言模型加载在高性能服务器上运行,这样能够及时准确进行语言数据识别和互动。现有的对话式语言聊天机器主要还是承担一对一的语言互动任务,即在同一时间只与一个对象进行语言互动,这无法充分利用对话式语言聊天机器的语言互动算力,导致对话式语言聊天机器的算力闲置,降低大语言模型进行多对象语言互动的执行可靠性和稳定性。


    技术实现思路

    1、本发明的目的在于提供大语言模型的多对象终端应对控制方法和系统,将当前语言互动场景的所有对象终端划分为若干对象终端集群,便于对具有相同语言互动属性的对象终端进行统一模式处理,降低语言互动的运算量;基于对象终端集群的语言互动日子,选择匹配的服务器平台,并从大语言模型集合选择相应大语言模型,以此加载服务器平台,保证大语言模型的正常连续工作;还对来自对象终端集群的所有语言数据预处理,并将所有语言数据区分化存储在服务器平台的存储空间,提高语言数据的存储可靠性和辨识度;基于对象终端集群下属所有对象终端的工作状态,对存储空间的语言数据进行相应模式的识别处理而生成应答语言数据,提高大语言模型进行多对象语言互动的执行可靠性和稳定性。

    2、本发明是通过以下技术方案实现:

    3、大语言模型的多对象终端应对控制方法,包括:

    4、基于来自当前语言互动场景的所有对象终端的语言互动请求,将所有对象终端划分为若干对象终端集群;其中,每个对象终端集群包括多个具有相同语言互动属性的对象终端;基于所述对象终端集群的语言互动日志,选择与所述对象终端集群匹配的服务器平台;

    5、从大语言模型集合中选择相应的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台;在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行预处理后,将所有语言数据区分化存储在所述存储区间;

    6、基于所述对象终端集群下属所有对象终端的工作状态,通过所述大语言模型对所述存储空间存储的语言数据进行相应模式的识别处理,以此生成应答语言数据,再将所述应答语言数据返回相应的对象终端。

    7、可选地,基于来自当前语言互动场景的所有对象终端的语言互动请求,将所有对象终端划分为若干对象终端集群;其中,每个对象终端集群包括多个具有相同语言互动属性的对象终端;基于所述对象终端集群的语言互动日志,选择与所述对象终端集群匹配的服务器平台,包括:

    8、对来自当前语言互动场景的所有对象终端的语言互动请求进行解析处理,得到所有对象终端各自的终端身份信息;基于所述终端身份信息,获取所有对象终端各自的语言互动历史记录,并对所述语言互动历史记录进行分析,确定所有对象终端各自的语言数据形成错误率;

    9、再基于所有对象终端各自的语言数据形成错误率和进行语言互动的语言类型,将所有对象终端划分为若干对象终端集群;其中,每个对象终端集群包括多个具有相同语言类型和语言数据形成错误率;

    10、对所述对象终端集群的语言互动日志进行分析,预测所述对象终端集群整体进行语言互动对应的语言数据互动量,基于所述语言数据互动量,选择具有相应数据处理速度的服务器平台,以此执行与所述对象终端集群的语言互动操作。

    11、可选地,从大语言模型集合中选择相应的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台;在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行预处理后,将所有语言数据区分化存储在所述存储区间,包括:

    12、基于大语言模型集合下属所有大语言模型的模型训练状态信息,选择满足预设模型训练收敛条件的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台;

    13、基于所述选择的大语言模型的模型运行缓存空间需求,在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行降噪预处理后,将所有语言数据区分化存储在所述存储空间,从而使来自同一对象终端的语言数据存储在所述存储区间下属指定的子区间。

    14、可选地,将所有语言数据区分化存储在所述存储区间,包括:

    15、步骤s1,将所述对象终端集群的所有语言数据按照语音的类型分成多类后,利用下面公式(1),将所述对象终端集群的所有语言数据分别对应到分类的类别内,从而将相似数据筛选出来,

    16、rr=[(1≤a≤n)|x[yr,y(a)]>99%]  (1)

    17、在上述公式(1)中,r表示按照语音的类型分成的第r类的位数数组;y(a)表示所述对象终端集群的第a个语言数据;yr表示第r类语言数据的标准数据形式;x[yr,y(a)]表示求取yr,y(a)两个语言数据的相似度;n表示所述对象终端集群的语言数据总个数;[(1≤a≤n)|x[yr,y(a)]>99%]表示在1≤a≤n条件下将满足x[yr,y(a)]>99%的数值a挑选出来组成数组;

    18、步骤s2,利用下面公式(2),根据筛选出来的相似数据的语言数据进行数据简化,

    19、

    20、在上述公式(2)中,表示将第r类的位数数组中的元素对应的所有语言数据均简化为表示第r类的位数数组中第k个元素对应的语言数据;表示求取语言数据的数据量;kr表示第r类的位数数组中的元素个数;表示求取第r类的位数数组中的元素对应的所有语言数据最小值对应的k值;表示第r类的位数数组中第个元素对应的语言数据;

    21、步骤s3,将所有语言数据区分化存储在所述存储区间后,利用下面公式(3),根据所有语言数据的数据量以及所述存储区间的总储存量,控制所述服务器平台向外发送大语言模型的存储空间心跳自检数据的频率,

    22、

    23、在上述公式(3)中,f表示所述服务器平台向外发送大语言模型的存储空间心跳自检数据的频率;w表示所述对象终端集群的所有语言数据按照语音的类型分成多类的总类别个数;表示求取语言数据的数据量;sz表示所述存储区间的总储存量;fm表示所述服务器平台向外发送大语言模型的存储空间心跳自检数据的最大频率。

    24、可选地,基于所述对象终端集群下属所有对象终端的工作状态,通过所述大语言模型对所述存储空间存储的语言数据进行相应模式的识别处理,以此生成应答语言数据,再将所述应答语言数据返回相应的对象终端,包括:

    25、基于所述对象终端集群下属所有对象终端各自的语言数据发起频率状态,通过所述大语言模型对所述存储空间中关于相应对象终端存储的语言数据进行匹配频率模式的识别处理,以此在预设时间范围内生成应答语言数据;

    26、再基于所述服务器平台与对象终端集群之间的通信状态,将所有应答语言数据排列形成数据队列,并返回至所述对象终端集群下属相应的对象终端。

    27、大语言模型的多对象终端应对控制系统,包括:

    28、对象终端划分模块,用于基于来自当前语言互动场景的所有对象终端的语言互动请求,将所有对象终端划分为若干对象终端集群;其中,每个对象终端集群包括多个具有相同语言互动属性的对象终端;

    29、服务器平台选择模块,用于基于所述对象终端集群的语言互动日志,选择与所述对象终端集群匹配的服务器平台;

    30、大语言模型加载模块,用于从大语言模型集合中选择相应的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台;

    31、语言数据存储模块,用于在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行预处理后,将所有语言数据区分化存储在所述存储区间;

    32、应答语言数据生成模块,用于基于所述对象终端集群下属所有对象终端的工作状态,通过所述大语言模型对所述存储空间存储的语言数据进行相应模式的识别处理,以此生成应答语言数据;

    33、应答语言数据返回模块,用于将所述应答语言数据返回相应的对象终端。

    34、可选地,所述对象终端划分模块用于基于来自当前语言互动场景的所有对象终端的语言互动请求,将所有对象终端划分为若干对象终端集群,包括:

    35、对来自当前语言互动场景的所有对象终端的语言互动请求进行解析处理,得到所有对象终端各自的终端身份信息;基于所述终端身份信息,获取所有对象终端各自的语言互动历史记录,并对所述语言互动历史记录进行分析,确定所有对象终端各自的语言数据形成错误率;

    36、再基于所有对象终端各自的语言数据形成错误率和进行语言互动的语言类型,将所有对象终端划分为若干对象终端集群;其中,每个对象终端集群包括多个具有相同语言类型和语言数据形成错误率;

    37、所述服务器平台选择模块用于基于所述对象终端集群的语言互动日志,选择与所述对象终端集群匹配的服务器平台,包括:

    38、对所述对象终端集群的语言互动日志进行分析,预测所述对象终端集群整体进行语言互动对应的语言数据互动量,基于所述语言数据互动量,选择具有相应数据处理速度的服务器平台,以此执行与所述对象终端集群的语言互动操作。

    39、可选地,所述大语言模型加载模块用于从大语言模型集合中选择相应的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台,包括:

    40、基于大语言模型集合下属所有大语言模型的模型训练状态信息,选择满足预设模型训练收敛条件的大语言模型,并将选择的大语言模型加载至所述匹配的服务器平台;

    41、所述语言数据存储模块用于在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行预处理后,将所有语言数据区分化存储在所述存储区间,包括:

    42、基于所述选择的大语言模型的模型运行缓存空间需求,在所述服务器平台划分专用于所述选择的大语言模型的存储空间,对来自所述对象终端集群的所有语言数据进行降噪预处理后,将所有语言数据区分化存储在所述存储空间,从而使来自同一对象终端的语言数据存储在所述存储区间下属指定的子区间。

    43、可选地,所述应答语言数据生成模块用于基于所述对象终端集群下属所有对象终端的工作状态,通过所述大语言模型对所述存储空间存储的语言数据进行相应模式的识别处理,以此生成应答语言数据,包括:

    44、基于所述对象终端集群下属所有对象终端各自的语言数据发起频率状态,通过所述大语言模型对所述存储空间中关于相应对象终端存储的语言数据进行匹配频率模式的识别处理,以此在预设时间范围内生成应答语言数据;

    45、所述应答语言数据返回模块用于将所述应答语言数据返回相应的对象终端,包括:

    46、基于所述服务器平台与对象终端集群之间的通信状态,将所有应答语言数据排列形成数据队列,并返回至所述对象终端集群下属相应的对象终端。

    47、与现有技术相比,本发明具有如下有益效果:

    48、本技术提供的大语言模型的多对象终端应对控制方法和系统将当前语言互动场景的所有对象终端划分为若干对象终端集群,便于对具有相同语言互动属性的对象终端进行统一模式处理,降低语言互动的运算量;基于对象终端集群的语言互动日子,选择匹配的服务器平台,并从大语言模型集合选择相应大语言模型,以此加载服务器平台,保证大语言模型的正常连续工作;还对来自对象终端集群的所有语言数据预处理,并将所有语言数据区分化存储在服务器平台的存储空间,提高语言数据的存储可靠性和辨识度;基于对象终端集群下属所有对象终端的工作状态,对存储空间的语言数据进行相应模式的识别处理而生成应答语言数据,提高大语言模型进行多对象语言互动的执行可靠性和稳定性。


    技术特征:

    1.大语言模型的多对象终端应对控制方法,其特征在于,包括:

    2.如权利要求1所述的大语言模型的多对象终端应对控制方法,其特征在于:

    3.如权利要求1所述的大语言模型的多对象终端应对控制方法,其特征在于:

    4.如权利要求1所述的大语言模型的多对象终端应对控制方法,其特征在于:

    5.如权利要求1所述的大语言模型的多对象终端应对控制方法,其特征在于:

    6.大语言模型的多对象终端应对控制系统,其特征在于,包括:

    7.如权利要求6所述的大语言模型的多对象终端应对控制系统,其特征在于:

    8.如权利要求6所述的大语言模型的多对象终端应对控制系统,其特征在于:

    9.如权利要求6所述的大语言模型的多对象终端应对控制系统,其特征在于:


    技术总结
    本发明提供大语言模型的多对象终端应对控制方法和系统,将当前语言互动场景的所有对象终端划分为若干对象终端集群,便于对具有相同语言互动属性的对象终端进行统一模式处理,降低语言互动的运算量;基于对象终端集群的语言互动日子,选择匹配的服务器平台,并从大语言模型集合选择相应大语言模型,以此加载服务器平台;还对来自对象终端集群的所有语言数据预处理,并将所有语言数据区分化存储在服务器平台的存储空间,提高语言数据的存储可靠性和辨识度;基于对象终端集群下属所有对象终端的工作状态,对存储空间的语言数据进行相应模式的识别处理而生成应答语言数据,提高大语言模型进行多对象语言互动的执行可靠性和稳定性。

    技术研发人员:兰雨晴,余丹,陈哲平,邢智涣,王丹星
    受保护的技术使用者:慧之安信息技术股份有限公司
    技术研发日:
    技术公布日:2024/10/24
    转载请注明原文地址:https://symbian.8miu.com/read-27436.html

    最新回复(0)