本发明涉及一种用于抵御网络中断问题的模型对比联邦学习方法，属于边缘智能计算。
背景技术：
1、随着物联网技术的普及，数据孤岛以及隐私泄露问题日益突出，联邦学习作为一种新兴的分布式机器学习框架，受到学术界广泛关注。在联邦学习框架中，客户端使用本地数据集训练局部模型，向中心服务器上传模型更新而不是原始数据，因此，联邦学习成为隐私保护的模型训练范式。根据客户端类型，联邦学习可分为跨设备联邦学习和跨数据孤岛联邦学习。在移动边缘网络中，客户端通常是具有相对较小本地数据量的边缘设备，如个人计算机、手机、智能手表等，属于跨设备的联邦学习框架。
2、当联邦学习应用到边缘智能网络时，由于不同客户端之间资源(如计算能力、电池容量和网络质量等)的异构性相差很大，会由于各种不可预测的突发因素(如移动设备电量不足或与服务器通信中断等)导致某些客户端可能偶尔无法参与某些迭代的训练过程，即网络中断问题，退出的客户端称之为掉队客户端。在每次协作训练中，只有部分客户端能够完成本地训练任务并成功上传局部模型更新，这将导致全局聚合模型与全局最优解之间发生偏移，降低全局模型的效用，甚至无法通过额外的通信成本来确保全局模型的收敛。
3、此外，客户端的退出行为是自发的和不可控的，与常见的客户端采样问题有着本质区别，客户端采样虽然也是部分参与情况，但其是基于一个大的前提假设——服务器可以一定概率对每个客户端进行选取，即每个客户端都有一定概率参与迭代训练。
4、因此，联邦学习中的抵御网络中断问题存在一些关键性挑战。由于边缘设备的数据集通常是非独立同分布的，而联邦学习不允许本地数据集的传输或交换，因此无法减弱异构性。目前针对联邦学习中客户端掉队问题的研究尚不充分。若使用传统的联邦平均(fedavg、fedprox等)方法简单地忽略掉队客户端会导致全局聚合模型更新更偏向于未退出的客户端的局部模型，偏离全局训练目标，降低学习性能。简单地延用历史最新更新来代替掉队客户端退出期间上传的模型更新(mifa)，在一定程度上缓解了全局目标的偏离问题，但若某些客户端长时间退出，历史最新更新的过时性将逐渐凸显，掉队客户端贡献度逐渐减弱，对全局模型学习性能提升程度受到严重限制。
技术实现思路
1、为了解决现有联邦学习中由于客户端网络中断引发的全局目标偏离的问题，本发明的目的是提供一种用于任意客户端退出问题的模型对比联邦学习方法，该方法在联邦学习本地训练阶段针对活跃客户端构建模型对比模块，通过在模型对比模块中加入正则项使局部模型和全局模型尽可能的接近，减小全局目标向局部目标的偏移；针对退出客户端，采用历史更新延用策略，保证退出客户端对全局更新的贡献度，提升全局模型的泛化性和鲁棒性。在全局模型更新阶段，采用加权聚合模块，先对本轮次的客户端的更新量按贡献度加权聚合，结合不同客户端数据的多样性和质量差异，通过给予普遍性数据更大的权重，防止错误数据或个性化数据对模型性能的负面影响，得到该轮次局部更新的加权聚合量；还利用该加权聚合模块对该轮次局部更新的加权聚合量与上一轮次全局更新加权聚合，融合历史全局更新量，提升全局模型收敛速度，增强全局模型对数据异质性的鲁棒性。本发明能够在任意客户端退出的边缘智能网络中断场景中保证全局模型的收敛，同时提升全局模型的精度。
2、本发明的目的是通过下述技术方案实现的。
3、本发明公开的一种用于任意客户端退出问题的模型对比联邦学习方法，包括以下步骤：
4、步骤一：由一个中心服务器和n个客户端构成跨设备联邦学习系统，其中n个客户端表示为客户端i的本地数据集表示为所有客户端的数据集集合定义为客户端协作训练一个具有m个可调参数的网络模型训练网络模型的目标是在不交换原始数据的前提下，中心服务器采用经验风险最小化方法实现最小化所有客户端在数据样本上的损失值，即联邦学习任务的目标是通过各客户端的协作训练使得全局目标损失函数最小化，得到最小化的全局目标损失函数。整个网络模型训练过程总共包括t次通信迭代，在第t∈[t]次迭代中，所有客户端接收来自中心服务器广播的全局模型ωt，并将全局模型ωt作为本地训练的局部模型初始值，即
5、步骤一中得到的最小化的全局目标损失函数如式(1)所示：
6、
7、其中：为客户端i的经验损失函数，ξi为客户端i的采样数据集。
8、步骤二：针对活跃客户端通过引入正则项构建模型对比模块。在任意客户端退出的边缘智能网络中断场景中采用对抗策略更新活跃态客户端局部模型，使得全局模型更新方向尽可能地远离活跃态客户端的局部最优解，尽可能接近全局模型最优解方向，减小全局目标向局部目标的偏移。所述局部最优解指局部目标损失函数的最小值；所述全局模型最优解指全局目标损失函数的最小值。
9、针对活跃客户端通过引入正则项构建模型对比模块中的局部目标损失函数如式(3)所示。该局部目标损失函数由两部分组成，第一部分是监督学习任务中的交叉熵损失项，记为lcro，第二部分为模型对比损失项，记为lmc。所述正则项即为如式(2)所示的模型对比损失函数：
10、
11、其中，κ为温度参数。
12、客户端i对于数据样本(x,y)，其局部损失函数如下：
13、
14、其中，λ为调节模型对比损失权重的超参数。
15、在任意客户端退出的边缘智能网络中断场景中，采用对抗策略更新活跃态客户端局部模型，客户端i在第t轮本地训练过程中，先从服务器接收全局模型ωt作为该轮次本地训练的局部模型初始值，活跃客户端分别对局部模型进行k步本地训练，在第k∈[k]步本地训练中，客户端i的本地数据为局部模型更新过程如下式(4)所示：
16、
17、其中，ηl为局部学习率。
18、根据式(4)不断调整局部模型参数，以使得局部损失函数值最小化。完成k步本地训练后各活跃客户端将如式(5)所示的局部更新上传至服务器。
19、
20、根据式(4)、式(5)完成第t轮迭代中本地训练，将局部模型更新为从而增加和之间的差异，减少ωt和之间的差异，即使得全局模型更新方向尽可能地远离活跃态客户端的局部最优解，尽可能接近全局模型最优解方向，减小全局目标向局部目标的偏移。
21、步骤三：在每轮局部模型更新过程中，针对退出客户端，通过采用历史更新延用策略对退出客户端进行局部模型更新，保证退出客户端对全局更新的贡献度，提升全局模型的泛化性和鲁棒性。
22、在每轮局部模型更新过程中，为了考虑退出客户端本地数据集的异质性，采用历史更新延用策略对退出客户端进行局部模型更新。截至第t轮迭代，对客户端i本次退出持续时间定义为表示客户端i在连续个训练迭代中处于非活跃状态，即在第t次迭代前客户端i处于活跃态的最后一次为第次。当客户端发生退出行为则使用该客户端退出前最后一次训练的局部模型更新作为该客户端退出时期的局部模型更新，保证退出客户端对全局更新的贡献度，提升全局模型的泛化性和鲁棒性。所述客户端退出前最后一次训练指第轮训练。客户端发生退出行为包括无法在第t轮迭代中更新、未完成第t轮训练无法上传该轮模型更新两种情况。
23、步骤四：在全局模型更新阶段，服务器对各客户端的模型更新量进行存储或更新。采用加权聚合模块，先对本轮次的客户端的更新量按贡献度加权聚合，结合不同客户端数据的多样性和质量差异，通过给予普遍性数据更大的权重，防止错误数据或个性化数据对模型性能的负面影响，得到该轮次局部更新的加权聚合量；还利用该加权聚合模块对该轮次局部更新的加权聚合量与上一轮次全局更新加权聚合，得到该轮次的全局模型更新，通过融合历史全局更新量，提升全局模型收敛速度，增强全局模型对数据异质性的鲁棒性。根据全局模型更新对全局模型进行迭代，直至第t轮迭代结束，得到第t轮迭代后的全局模型，将第t轮迭代后的全局模型作为模型对比联邦学习方法训练得到的最终神经网络全局模型。
24、步骤4.1：在全局模型更新阶段，中心服务器接收到各客户端上传的模型更新后，首先需要对各客户端的模型更新量进行存储或更新。定义为第t轮时的更新存储数组。即对于活跃客户端，服务器将其上传的新一轮参数更新到数组中，对于非活跃态客户端，无需等待恢复通信，重复使用其历史最新模型更新作为响应，在加速收敛的同时，避免全局模型向活跃态客户端局部模型的过度偏移。
25、步骤4.2：采用加权聚合模块，服务器先根据式(6)对局部模型更新进行加权聚合得到本轮次的局部加权更新，权重参数取决于该客户端本地数据量与所有客户端数据集总和的占比。
26、
27、在该加权聚合模块中，服务器再根据式(7)对本轮次的局部加权更新与上一轮次的全局更新进行融合，得到本轮次的全局更新，增强全局模型对数据异质性的鲁棒性，同时加快收敛速度。
28、vt＝α*gt-1+(1-α)*gt,α∈[0,1] (7)
29、其中，α为调节本轮次的局部加权更新和上一轮次的全局更新的权重参数。
30、服务器根据式(8)对全局模型进行调整，得到该轮次的全局模型ωt+1：
31、ωt+1←ωt+ηvt(8)
32、其中，η为全局学习率。
33、步骤4.3：当t<t时，服务器将步骤4.2得到的全局模型ωt+1广播给各个客户端。各个客户端将全局模型ωt+1作为下一轮本地训练的局部模型初始值，返回步骤二迭代；当t＝t时，第t轮迭代结束，将步骤4.2得到的全局模型作为模型对比联邦学习方法训练得到的最终神经网络全局模型。
34、还包括步骤五：根据步骤四得到的最终神经网络全局模型，在任意客户端退出的边缘智能网络中断场景中保证全局模型的收敛，同时提升全局模型的精度。
35、有益效果：
36、1、本发明公开的一种用于任意客户端退出问题的模型对比联邦学习方法，在联邦学习本地训练阶段针对活跃客户端构建模型对比模块，与传统的联邦平均相比，提升模型精度，加强模型的泛化性和鲁棒性，适应于更复杂的数据集和神经网络，同时还充分考虑客户端数据异构性的影响，通过对全局模型与局部模型的正则化约束，使局部模型和全局模型尽可能的接近，减小全局目标向局部目标的偏移，能够对客户端偏移问题进行有效防止。
37、2、本发明公开的一种用于任意客户端退出问题的模型对比联邦学习方法，针对退出客户端，采用历史更新延用策略，保证退出客户端对全局更新的贡献度，防止全局目标向活跃客户端局部目标的过度偏移，增强全局模型的泛化能力。特别是当退出客户端的本地数据集信息量重要时，历史更新延用策略能够提供更广泛数据集的保证，从而提升全局模型的鲁棒性和精度。
38、3、本发明公开的一种用于任意客户端退出问题的模型对比联邦学习方法，通过对不同状态客户端采用不同的策略，对活跃客户端采用模型对比模块规范局部模型的更新方向；对退出客户端采用历史更新延用策略保证全局模型的泛化性。两者结合构成模型对比联邦学习方法的本地训练方法，在数据异质性背景下优化局部模型更新方向，同时增强全局模型的普适性，能够抵御联邦学习场景下的网络中断问题。
39、4、本发明公开的一种用于任意客户端退出问题的模型对比联邦学习方法，在全局模型中构建加权聚合模块，对于各客户端的局部更新采用按贡献度加权聚合方式，相比传统的平均聚合模式，更好地考虑到不同客户端数据的多样性和质量差异。再通过将本轮次的客户端加权更新与上一轮次的全局更新加权，增强全局模型对数据异质性的鲁棒性，加快全局模型的收敛。
1.一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：包括以下步骤，
2.如权利要求1所述的一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：还包括步骤五：根据步骤四得到的最终神经网络全局模型，在任意客户端退出的边缘智能网络中断场景中保证全局模型的收敛，同时提升全局模型的精度。
3.如权利要求1或2所述的一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：步骤一中得到的最小化的全局目标损失函数如式(1)所示：
4.如权利要求3所述的一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：步骤二实现方法为，
5.如权利要求4所述的一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：步骤三实现方法为，
6.如权利要求5所述的一种用于任意客户端退出问题的模型对比联邦学习方法，其特征在于：步骤四实现方法为，
