本申请涉及通信,具体而言,涉及一种针对大批量数据的中途失败数据处理方法及装置。
背景技术:
1、对于针对从社交媒体、新闻网站等平台采集的海量信息,在海量的数据的传输过程中,以及后续的管理过程中,在发送端和接收端可以基于实时传输协议进行数据的传输;但数据在传输过程中,可能由于发送端故障或网络故障导致数据传输失败,现有技术中的重传方案大多基于定时器、丢包率、重传数据门限等定时定量的重传策略,其核心是根据所设置的门限对重传数据进行控制,当达到门限时,减缓或者禁止重传数据的发送。
2、上述传统数据重传方案,一方面由于并不深入到对重传报文进行选择,对所有重传数据都进行传输,没有关注资源浪费问题;另一方面仅定时定量控制重传数据单元的发送,并没有真正避免不必要的重传,重传时依然存在浪费资源的问题。
技术实现思路
1、本申请实施例的目的在于提供一种针对大批量数据的中途失败数据处理方法及装置,用以解决了现有技术存在的上述问题,可避免数据在重传过程中的资源浪费。
2、第一方面,提供了一种针对大批量数据的中途失败数据处理方法,该方法可以包括:
3、发送端在持续向接收端发送数据包过程中,按照预设周期,接收接收端发送的数据接收响应;所述数据包包括多个业务数据;所述数据接收响应包括传输成功的业务数据的发送时间;
4、基于各数据包对应的传输成功的业务数据的发送时间,确定传输失败的数据包和相应数据包中传输失败的失败数据;
5、将各失败数据按照各失败数据的发送时间顺序和断点重传机制,通过配置的一条或多条重传通道重新发送至所述接收端。
6、在一种可能的实现中,确定所述重传通道的数量包括:
7、针对任一传输失败的数据包,对该数据包中各失败数据的重传时长进行预测;
8、基于各失败数据的重传时长,确定该数据包的数据包重传时长;
9、基于各数据包重传时长和数据包的包数量,确定所述重传通道的数量。
10、在一种可能的实现中,基于各数据包重传时长和数据包的包数量,确定所述重传通道的数量包括:
11、若所述包数量为1,则将所述重传通道的数量确定为1;
12、若所述包数量大于1,则确定各数据包重传时长中满足组合条件的数据包重传时长,对相应的多个数据包进行组合,确定组合数据包;基于组合数据包,确定所述重传通道的数量。
13、在一种可能的实现中,确定传输失败的数据包和相应数据包中传输失败的失败数据之后,所述方法还包括:
14、当所述发送端在所述预设周期对应的历史周期内发送数据包的发送量为不合格时,通过调节所述发送端发送全部数据包中剩余的数据包的发送时间间隔,以减少所述预设周期内失败数据的数据数量。
15、在一种可能的实现中,确定所述发送端在所述预设周期对应的历史周期内发送数据包的发送量为不合格,包括:
16、获取所述预设周期内失败数据的数据数量;
17、若所述数据数量不大于第一预设数量,则确定所述发送端在所述预设周期对应的历史周期内发送数据包的发送量为合格;
18、若所述数据数量大于第一预设数量且不大于第二预设数量,则确定所述发送端在所述历史周期内发送数据包的发送量为待确认状态;
19、若所述数据数量大于第二预设数据量,则确定所述发送端在所述历史周期内发送数据包的发送量为不合格。
20、在一种可能的实现中,所述数据接收响应还包括接收端接收各业务数据的接收时间;
21、当所述发送端在历史周期内发送数据包的发送量为待确认状态时,所述方法还包括:
22、基于各业务数据的接收时间、发送时间和业务数据的数据大小,确定传输成功的业务数据的平均传输速率;
23、若所述平均传输速率小于标准传输速率,则调节所述发送端发送全部数据包中剩余的数据包的发送时间间隔;
24、若所述平均传输速率不小于标准传输速率,则确定所述发送端在所述历史周期内发送数据包的发送量为不合格。
25、在一种可能的实现中,调节全部数据包中剩余的数据包的发送时间间隔包括:
26、对所述平均传输速率和标准传输速率进行计算,得到目标速率差值;
27、基于配置的速率差值范围与调节系数的对应关系,确定目标速率差值对应的目标调节系数;
28、采用目标调节系数,对所述发送时间间隔进行调节,得到目标间隔,以控制所述发送端根据目标间隔发送全部数据包中剩余的数据包。
29、第二方面,提供了一种针对大批量数据的中途失败数据处理装置,该装置可以包括:
30、接收单元,用于发送端在持续向接收端发送数据包过程中,按照预设周期,接收接收端发送的数据接收响应;所述数据包包括多个业务数据;所述数据接收响应包括传输成功的业务数据的发送时间;
31、确定单元,用于基于各数据包对应的传输成功的业务数据的发送时间,确定传输失败的数据包和相应数据包中传输失败的失败数据;
32、发送单元,用于将各失败数据按照各失败数据的发送时间顺序和断点重传机制,通过配置的一条或多条重传通道重新发送至所述接收端。
33、第三方面,提供了一种电子设备,该电子设备包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
34、存储器,用于存放计算机程序;
35、处理器,用于执行存储器上所存放的程序时,实现上述第一方面中任一所述的方法步骤。
36、第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面中任一所述的方法步骤。
37、本申请提供一种针对大批量数据的中途失败数据处理方法,该方法包括:发送端在持续向接收端发送数据包过程中,按照预设周期,接收接收端发送的数据接收响应;基于各数据包对应的传输成功的业务数据的发送时间,确定传输失败的数据包和相应数据包中传输失败的失败数据;将各失败数据按照各失败数据的发送时间顺序和断点重传机制,通过配置的一条或多条重传通道重新发送至接收端。该方法能够有针对性的对传输失败的业务数据(失败数据)进行重新传输,真正的避免了不必要的重传,进一步的避免了数据在重传过程中的资源浪费,提高数据传输效率。
1.一种针对大批量数据的中途失败数据处理方法,其特征在于,所述方法包括:
2.如权利要求1所述的方法,其特征在于,确定所述重传通道的数量包括:
3.如权利要求2所述的方法,其特征在于,基于各数据包重传时长和数据包的包数量,确定所述重传通道的数量包括:
4.如权利要求3所述的方法,其特征在于,确定传输失败的数据包和相应数据包中传输失败的失败数据之后,所述方法还包括:
5.如权利要求4所述的方法,其特征在于,确定所述发送端在所述预设周期对应的历史周期内发送数据包的发送量为不合格,包括:
6.如权利要求4所述的方法,其特征在于,所述数据接收响应还包括接收端接收各业务数据的接收时间;
7.如权利要求6所述的方法,其特征在于,调节全部数据包中剩余的数据包的发送时间间隔包括:
8.一种针对大批量数据的中途失败数据处理装置,其特征在于,所述装置包括: