本发明涉及航空电子,具体地,涉及一种基于航空视频流端口的错误处理方法及系统。
背景技术:
1、在现代航电系统中,越来越多的信息是以图像的形式进行传输,这些信息是通过复杂机载视频系统传递给飞行员和机组人员。视频系统包括:红外传感器、光学照相机、雷达、飞行记录仪、地图系统、视频叠加系统、抬头显示(hud)、多功能显示器和视频综合处理器等。视频系统被用在飞机滑行和起飞辅助系统,货物装载、导航、目标追踪、防撞系统及更加严格的任务处理方面。
2、特别是针对导航、目标追踪及更严格任务处理方面,保障视频流数据的准确性更为重要,而这些方面最重要的技术便是目标识别技术,由于航空场景下弱小目标数量多,且含有的信息较少,并且针对动态和静态目标采集的图像缺乏相应的校正手段,因此造成采集的图像数据(视频流数据)往往精度较低,准确性得不到保障。
技术实现思路
1、为解决现有航空技术中目标识别相关的视频流数据准确性和精度较低的问题,本发明提供了一种基于航空视频流端口的错误处理方法,该方法包括以下步骤:
2、s1.获取原始视频流,基于所述原始视频流,获取对应的多帧图像;
3、s2.对所述原始视频流进行一级判定,判断所述原始视频流是否能正常播放,若是,执行步骤s3,若否,采用第一措施对所述原始视频流进行处理,再执行步骤s3;
4、s3.对所述原始视频流进行二级判定,判断所述原始视频流对应的图像是否存在抖动,若是,采用第二措施对所述原始视频流进行处理,再执行步骤s4,若否,执行步骤s4;
5、s4.对所述原始视频流进行三级判定,基于所述原始视频流,确定需要追踪的第一目标的多个坐标位置数据,基于多个所述坐标位置数据,判断所述第一目标的类型是否为静态目标,若是,采用第三措施对所述原始视频流进行处理;若否,采用第四措施对所述原始视频流进行处理;
6、s5.对经过处理后的所述原始视频流上传至预设显示装置进行显示。
7、本发明是通过以下技术方案实现的:首先获取原始视频流,将原始视频流拆分为多帧图像;对原始视频流进行一级判定,一级判定属于基础判定,判断原始视频流是否能正常播放,判断因素包括但不限于卡顿或者黑屏等因素,如果判断出原始视频流能正常播放,则进行二级判定,如果判断出原始视频流无法正常播放,就需要采用第一措施进行处理后再进行二级判定,如针对卡顿,需要调整数据传输速率,针对黑屏,需要更新显示装置的驱动程序;二级判定是判断原始视频流是否存在抖动,由于采集设备和飞行设备无法一直保持稳定,因此会造成采集的视频流不稳定,造成视频流抖动的现象,从而对后续目标识别和目标追踪造成较大的影响,因此当判断出原始视频流存在抖动时,需要采用第二措施来消弱原始视频流抖动的程度,然后再进行三级判定,而当判断出原始视频流不存在抖动时,则直接进行三级判定;由于在航空场景下弱小目标数量多,且含有的信息较少,针对动态或静态目标采集的图像缺乏校正手段,造成采集的图像准确性得不到保障,因此设置了三级判定,通过原始视频流,确定需要追踪的第一目标的多个坐标位置数据,如果多个坐标位置数据相同或者差异较小,则判定第一目标的类型为静态目标,否则,判定第一目标的类型为动态目标,再分别针对静态目标和动态目标采用不同的措施进行处理,进一步提高目标采集图像的准确性和精度,即提高对应视频流数据的准确性,最后将经过处理后的原始视频流上传至预设显示装置进行显示。
8、进一步地,采用所述第三措施对所述原始视频流进行处理包括:
9、a1.获取t0时刻下的所述图像记为第一图像,在所述第一图像中确定所述第一目标至少一个关键特征点,并记录所述关键特征点的第一位置数据;
10、a2.获取t1时刻下的所述图像记为第二图像,在所述第二图像中获取并记录所述关键特征点的第二位置数据,t0和t1是相邻时刻且t0>t1;
11、a3.基于机载设备,获取飞行设备的第一速度特征数据,基于所述第一速度特征数据及所述第一位置数据,预测所述关键特征点t1时刻下在所述第二图像中的第三位置数据;
12、a4.判断所述第二位置数据是否与所述第三位置数据重合,若是,将所述第二图像作为新的第一图像;若否,则基于所述第二位置数据和所述第三位置数据,对所述第二图像做修正处理得到第二修正图像,将所述第二修正图像作为新的第一图像;
13、a5.循环执行步骤a1至步骤a4,直至处理完所述原始视频流的所有图像。
14、当判定第一目标为静态目标时,获取t0时刻下的第一图像,在第一图像中确定第一目标至少一个关键特征点,记录该关键特征点的第一位置数据,该第一位置数据为在图像中的矢量位置数据;获取下一时刻下第二图像中关键特征点的实际位置数据(第二位置数据);然后基于机载设备,获取飞行设备的第一速度特征数据,通过第一速度特征数据,预测该关键特征点下一时刻图像中的第三位置数据,判断第二位置数据是否和第三位置数据重合,如果重合,说明采集的第二图像准确,并将第二图像作为新的第一图像;如果不重合,说明采集的第二图像存在偏差,需要对第二图像进行修正,并将修正得到的第二修正图像作为新的第一图像;最后循环执行上述步骤,直至处理完成原始视频流的所有图像。
15、进一步地,对所述第二图像进行修正处理得到第二修正图像包括:
16、基于连续所述图像间像素的算术平均值,建立背景模型;
17、将所述第二图像与所述背景模型做像素差分得到像素差分结果,将所述像素差分结果与预设阈值作比较,如果所述像素差分结果大于所述预设阈值,则判定该像素属于目标区域,否则,判定该像素属于背景区域,并基于该像素的值,对所述背景模型进行更新;
18、所述关键特征点属于所述目标区域,计算所述第二位置数据与所述第三位置数据间的变化矢量;
19、基于所述变化矢量,获取所述目标区域需要平移的方向和距离得到获取结果;
20、基于所述获取结果,对所述目标区域进行处理得到修正目标区域;
21、基于所述背景区域和所述背景模型,生成所述第二修正图像的修正背景区域;
22、基于所述修正目标区域和所述修正背景区域,得到所述第二修正图像。
23、当采集的第二图像存在偏差时,需要对第二图像进行修正,其修正的核心思想就是将第二图像中包含关键特征点的目标区域进行平移,首先基于连续图像间像素的算术平均值,建立背景模型,然后将第二图像与背景模型做像素差分,筛选出第二图像的目标区域,该目标区域即需要追踪的第一目标对应的区域,计算第二位置数据与第三位置数据间的变化矢量,通过该变化矢量,可以得到目标区域平移的方向和距离,再对目标区域进行平移就能得到修正目标区域,针对第二修正图像中的修正背景区域,则通过第二图像的背景区域和背景模型自动生成,最终得到第二修正图像。
24、进一步地,采用所述第四措施对所述原始视频流进行处理包括:
25、基于多帧所述图像,生成所述第一目标的运动轨迹图,基于所述运动轨迹图,在雷达图中筛选匹配得到对应的第一雷达目标;
26、获取t时刻下的所述图像记为第三图像,确定所述第三图像中所述第一目标的中心特征点,并记录所述中心特征点的第四位置数据;
27、获取t+1时刻下的所述图像记为第四图像,在所述第四图像中获取并记录所述中心特征点的第五位置数据,t时刻和t+1时刻是相邻时刻;
28、基于所述雷达图和所述第一雷达目标,获取所述第一目标的第二速度特征数据,基于机载设备,获取飞行设备的第三速度特征数据,基于所述第二速度特征数据和所述第三速度特征数据,预测所述t+1时刻下所述中心特征点在所述第四图像中的第六位置数据;
29、计算所述第五位置数据和所述第六位置数据间的第一变化矢量;
30、基于所述第一变化矢量,对所述第四图像做修正处理得到第四修正图像。
31、当第一目标为动态目标时,与静态目标图像采集的区别在于,飞行设备和第一目标都存在运动情况,因此需采用不同措施进行处理。因为需要得到第一目标的速度特征数据,因此需要借助雷达图,首先基于多帧采集的图像,处理得到关于第一目标的运动轨迹,通过该第一目标的运动轨迹在雷达图中筛选匹配得到第一雷达目标,即第一雷达目标就是雷达图中的第一目标,然后通过第一雷达目标和雷达图,获取到第一目标的第二速度特征数据。获取t时刻下的第三图像,由于第一目标为动态目标,为了更好追踪和捕捉第一目标,确定第一目标的中心特征点(关键特征点),并记录中心特征点的第四位置数据,同理,获取t+1时刻下的第四图像,在第四图像中获取并记录中心特征点的第五位置数据;通过飞行设备的第三速度特征数据和第一目标的第二速度特征数据,预测t+1时刻下中心特征点在第四图像中的第六位置数据,计算第五位置数据和第六位置数据间的第一变化矢量,通过第一变化矢量,对第四图像进行修正得到第四修正图像,修正处理的措施与第二修正图像相似,不再继续阐述。
32、进一步地,采用所述第四措施对所述原始视频流进行处理还包括:
33、获取t时刻下所述第一雷达目标在所述雷达图中的第七位置数据,获取t+1时刻下所述第一雷达目标在所述雷达图中的第八位置数据,基于所述第一速度特征数据、所述第二速度特征数据及所述第七位置数据,预测所述t+1时刻下所述第一雷达目标在所述雷达图中的第九位置数据;
34、计算所述第八位置数据和所述第九位置数据间的第二变化矢量;
35、计算所述第一变化矢量和所述第二变化矢量的卷积和,并根据所述卷积和对所述第一变化矢量进行更新;
36、基于更新后的所述第一变化矢量,对所述第四图像做修正处理得到第五修正图像。
37、为了进一步提高动态目标采集图像的准确性,获取t时刻下第一雷达目标在雷达图中的第七位置数据和t+1时刻下的第八位置数据,基于第一速度特征数据、第二速度特征数据及第七位置数据,预测t+1时刻下第一雷达目标在雷达图中的第九位置数据,计算第八位置数据和第九位置数据间的第二变化矢量,由于第一变化矢量和第二变化矢量都是描述第一目标的运动情况,因此计算第一变化矢量和第二变化矢量的卷积和,利用卷积和对第一变化矢量进行更新,利用更新后的第一变化矢量,对第四图像做修正处理得到第五修正图像。
38、进一步地,对所述原始视频流进行一级判定包括:
39、将多帧所述图像转换为序列图像,抽取所有图像的图像信息;
40、基于所述图像信息,计算所有序列图像的图像运动量得到第一计算结果;
41、基于所述第一计算结果,计算所有序列图像的平均运动量得到第二计算结果;
42、基于所述第二计算结果,动态计算动态因子,基于所述第二计算结果和所述动态因子,输出判断结果,若判断结果为0,则判定所述原始视频流不存在卡顿,若判断结果为1,则判定所述原始视频流存在卡顿。
43、其中,在视频质量检测中,检测视频是否卡顿属于视频质量检测的标准之一,上述方法通过将视频流转换为序列图像,根据计算每帧图像之间的差值(运动量),来寻找序列图像中是否存在断层,依次来判断当前视频是否存在卡顿的现象,如果判断结果为0,则判定原始视频流不存在卡顿,如果判断结果为1,则判定原始视频流存在卡顿。
44、进一步地,采用第一措施对所述原始视频流进行处理包括:获取所述原始视频流存在卡顿的第一时间段,对所述第一时间段下所述原始视频流的传输速率进行调整。
45、其中,视频流存在卡顿的原因,大多是因为数据传输速率的影响,因此通过获取原始视频流存在卡顿的时间段,在该时间端内对视频流的传输速率进行调整(提升)。
46、进一步地,对所述原始视频流进行二级判定包括:基于图像灰度投影算法,判断所述原始视频流对应图像是否存在抖动。
47、其中,由于图像采集设备和飞行设备抖动的问题,造成视频采集不稳定,会使得视频流存在抖动的现象,视频发生抖动的最显著特征就是帧与帧之间会发生整体的位移,检测出位移之后再通过进一步的逻辑判定视频是否产生抖动,图像灰度投影算法就是通过图像整体行、列灰度投影曲线的相关性来估计相邻帧之间的全局运动向量,即检测视频序列帧间的平移向量,通过平移向量来判断视频是否产生抖动。
48、进一步地,采用第二措施对所述原始视频流进行处理包括:基于前后帧关联算法,优化所述原始视频流对应图像的抖动。
49、其中,采用前后帧关联算法,能有效削弱原始视频流对应图像的抖动程度,前后帧关联算法的原理是将原始视频流对应图像的第一帧和第二帧作为相邻两帧图像,将相邻两帧的目标区域进行两两匹配,匹配方式为目标区域的左上角距离与右下角距离之和,当两者之和小于阈值时,则相邻两帧图像匹配成功,并继续用第一帧图像作为下一帧图像(第三帧)的前一帧,再进行匹配,当两者之和大于或等于阈值时,则相邻两帧图像匹配失败,则将第二帧图像作为下一帧图像(第三帧图像)的前一帧,后续迭代进行运算。
50、为解决现有航空技术中目标识别相关的视频流数据准确性和精度较低的问题,本发明提供了一种基于航空视频流端口的错误处理系统,该系统包括:
51、获取单元,用于获取原始视频流,基于所述原始视频流,获取对应的多帧图像;
52、一级判定单元,用于对所述原始视频流进行一级判定,判断所述原始视频流是否能正常播放,若是,执行二级判定单元,若否,采用第一措施对所述原始视频流进行处理,再执行所述二级判定单元;
53、二级判定单元,用于对所述原始视频流进行二级判定,判断所述原始视频流对应的图像是否存在抖动,若是,采用第二措施对所述原始视频流进行处理,再执行三级判定单元,若否,执行所述三级判定单元;
54、三级判定单元,用于对所述原始视频流进行三级判定,基于所述原始视频流,确定需要追踪的第一目标的多个坐标位置数据,基于多个所述坐标位置数据,判断所述第一目标的类型是否为静态目标,若是,采用第三措施对所述原始视频流进行处理;若否,采用第四措施对所述原始视频流进行处理;
55、显示单元,用于对经过处理后的所述原始视频流上传至预设显示装置进行显示。
56、本发明提供的一个或多个技术方案,至少具有如下技术效果或优点:
57、本发明通过设置一级判定及相应措施来保障视频流正常播放,通过设置二级判定来消弱视频流抖动程度,通过设置三级判定,将目标追踪识别的第一目标分别静态和动态目标,在针对静态或者动态目标采集图像(视频流)时,采用不同措施进行修正和处理,以此来保障目标识别相关的视频流数据的准确性和精度。
58、本发明针对静态目标图像采集设计了相关图像偏差的判定方法,并对存在偏差的图像设计了相关修正方法,提高了对于静态目标图像采集的准确性。
59、本发明针对动态目标图像采集设计了相关图像偏差的判定方法,并对存在偏差的图像设计了相关修正方法,进一步地,还针对动态目标采集图像设计了优化方法,提高了对于动态目标图像采集的准确性。
1.一种基于航空视频流端口的错误处理方法,其特征在于,所述方法包括以下步骤:
2.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,采用所述第三措施对所述原始视频流进行处理包括:
3.根据权利要求2所述的一种基于航空视频流端口的错误处理方法,其特征在于,对所述第二图像进行修正处理得到第二修正图像包括:
4.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,采用所述第四措施对所述原始视频流进行处理包括:
5.根据权利要求4所述的一种基于航空视频流端口的错误处理方法,其特征在于,采用所述第四措施对所述原始视频流进行处理还包括:
6.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,对所述原始视频流进行一级判定包括:
7.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,采用第一措施对所述原始视频流进行处理包括:获取所述原始视频流存在卡顿的第一时间段,对所述第一时间段下所述原始视频流的传输速率进行调整。
8.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,对所述原始视频流进行二级判定包括:基于图像灰度投影算法,判断所述原始视频流对应图像是否存在抖动。
9.根据权利要求1所述的一种基于航空视频流端口的错误处理方法,其特征在于,采用第二措施对所述原始视频流进行处理包括:基于前后帧关联算法,优化所述原始视频流对应图像的抖动。
10.一种基于航空视频流端口的错误处理系统,其特征在于,所述系统包括: