本发明属于交通,具体涉及一种公路交通气象站异常数据自修复系统。
背景技术:
1、
2、现有高速公路气象站数据采集系统采用传统的多通道数据采集方式完成多种传感器数据的采集工作。此外,传统的高速公路气象站数据采集系统并未对采集到的数据进行自修复处理,接收端数据质量低、数据可参考性不高的问题尤为明显。综上,传统的高速公路气象站数据采集系统仅实现了数据采集、数据解析、数据回传功能,对数据分析、大模型构建等工作的开展造成一定困难。
3、针对异常数据或缺失数据的处理,目前普遍采用:
4、①异常数据删除法:此方法不利于接下来的数据分析、建模工作,易出现所建立的模型精度过低的严重后果。
5、②线性插值法:通过确定差值区间,从而计算斜率完成对插值的计算,而部分场景(凌晨时段)下的环境温度变化剧烈,线性插值在精度、适用性上的实现难度较大。
6、因此如何克服现有技术的不足是目前交通技术领域亟需解决的问题。
技术实现思路
1、本发明的目的是为了解决现有技术的不足,提供一种公路交通气象站异常数据自修复系统。
2、为实现上述目的,本发明采用的技术方案如下:
3、一种公路交通气象站异常数据自修复系统,包括电源供电器、电源保护电路、传感器接口电路、多通道公路气象站数据处理电路、主控芯片、缺失数据自修复模块、故障检测模块和通信电路;
4、电源供电器与电源保护电路相连;
5、电源保护电路分别与传感器接口电路、多通道公路气象站数据处理电路、主控芯片、缺失数据自修复模块、故障检测模块、通信电路相连;
6、传感器接口电路还与多通道公路气象站数据处理电路相连;
7、传感器接口电路,与气象站的传感器相连,用于采集多种类型的公路气象站数据;
8、多通道公路气象站数据处理电路用于接收传感器接口电路传来的多通道数据,并进行电平转换,随后传输至主控芯片;
9、主控芯片分别与多通道公路气象站数据处理电路、缺失数据自修复模块、故障检测模块、通信电路相连;
10、主控芯片用于将多通道公路气象站数据处理电路传来的多类型公路气象站数据中存在的因外部干扰因素影响造成的异常数据进行滤波以去除,并监测是否存在缺失数据;若存在缺失数据,则缺失数据自修复模块采用牛顿插值算法弥补缺失数据;然后主控芯片将修复后的数据通过通信电路传输给远程控制中心;
11、故障检测模块还分别与传感器接口电路、多通道公路气象站数据处理电路、主控芯片、通信电路相连;
12、故障检测模块用于实时监测电源保护电路电压、温度变化情况;用于实时监测传感器接口电路电压变化情况;用于实时监测多通道公路气象站数据处理电路中的数据通信情况;用于实时监测通信电路中电压变化情况;若监测发现故障,则将故障数据传输通过主控芯片、通信电路传输给远程控制中心。
13、优选地,电源供电器包括三个输出通道,分别为输出通道一、输出通道二、输出通道三;
14、输出通道一输出12v电压,输出通道二用于输出5v电压,输出通道三用于输出3.3v电压;
15、输出通道一通过电源保护电路与传感器接口电路相连,用于为传感器接口电路供电;
16、输出通道二通过电源保护电路分别与多通道公路气象站数据处理电路、故障检测模块、通信电路相连,用于为多通道公路气象站数据处理电路、故障检测模块、通信电路供电。
17、输出通道三通过电源保护电路分别与主控芯片缺失数据自修复模块相连,用于为主控芯片和缺失数据自修复模块供电。
18、优选地,通信电路包括gps电路、lora模块和4g-dtu模块。
19、优选地,gps电路代码和通信协议符合nema-0183协议,报文格式符合nema-0183协议标准。
20、优选地,当主控芯片与4g-dtu模块因通信故障导致数据传输失败,通过lora模块将故障所在气象站的位置坐标和多类型公路气象站数据发送至距离最近的气象站中,并由距离最近的气象站接收数据后,再传输给远程控制中心。
21、优选地,故障检测模块将故障数据采用串口通信的方式发送给主控芯片。
22、滤波采用限幅滤波算法。
23、电源保护电路用于将电源供电器与所接电路进行隔离,防止电源端功能失效导致对所连接的电路造成不可逆的破坏,起到保护作用。
24、优选,电源保护电路内置硬件隔离器,将电源供电器与后级电路进行隔离,在瞬时高压情况下硬件隔离器能自动熔断,并保护后级电路。
25、传感器接口电路可连接不同功能传感器,支持rs485、rs232等通信方式。
26、多通道公路气象站数据处理电路用于多通道数据的接收和电平转换;因为传感器接口电路支持rs485电平输出,而主控芯片支持ttl电平。因此,需要将rs485电平转换为ttl,才能实现数据向主控芯片的传输。
27、本发明中,外部干扰因素包括高速公路桥梁段的横风、车辆经过气象站时的震动。
28、优选,故障检测模块根据主控芯片片上资源分配独立串口进行通信,分配高优先级操作权限。
29、故障检测模块监测到的故障数据包括:①传感器接口电路故障,具体表现在接收到的传感器数据出现乱码或无数据传入的情况;②电源保护电路故障,具体表现在输出通道一、二、三的电压、电流输出异常;③多通道公路气象站数据处理电路故障,具体表现在传感器接口电路无数据传入。在接收到故障数据以后,将数据传输给主控制芯片,并通过4g-dtu将故障数据发送给远程控制中心。
30、本发明中,输出通道一输出12v电压,支持太阳能和市电的“双供电”方式。
31、本系统采用“lora+4g”双冗余通信设计完成公路气象站传感器数据的实时传输。。
32、主控芯片与4g-dtu模块因通信故障导致数据传输失败,通过lora模块将故障所在气象站的位置坐标和多类型公路气象站数据发送至距离最近的气象站中,并由距离最近的气象站接收数据后,再传输给远程控制中心,防止因故障导致的数据缺失。
33、本发明中,优选采用限幅滤波算法滤除公路气象站传感器发出数据中的异常值,对于滤除后的数据运用牛顿差值算法完成数据填补,确保数据的完整性、连续性的要求,提高数据分析精度。
34、优选,本发明中,多通道公路气象站数据处理电路内置rtc时钟电路,在电源供电器供电故障的情况下也能准确记录时间。
35、由于气象站根据出厂设定的数据协议格式不同,支持的通信协议(包括rs485、rs232、can等通信协议)也不同,导致最终发送出的数据(原始报文数据格式)存在差异。对此,多通道公路气象站数据处理电路能将不同通信协议统一成ttl通信协议。主控芯片能自动识别通信协议不同字段的字节大小转换成十进制数值,完成数据的解析。
36、公路气象站的外部随机干扰主要由车辆经过桥梁段时桥面产生的震动、强风作用下立杆带动传感器晃动,进而引入外部随机干扰信号造成数据读取异常。同时,包异常值的数据会使建模过程陷入混乱,导致不可靠输出。因此,为了减少数据处理过程中因随机干扰和尖脉冲效果引起的异常数据,解决因随机干扰和尖脉冲效果引入的干扰造成数据读取异常等问题。
37、本发明主控芯片内置限幅滤波算法,缺失数据自修复模块内置牛顿插值算法,采用限幅滤波算法能有效弥补传统硬件滤波器不能有效滤除外部干扰信号的缺陷,提高对于异常数据的滤除能力,有利于对本系统接收到数据的分析工作。在剔除异常数据后,为了确保数据连续性与有效性,适应不同的数据变化,将限幅滤波算法处理后的数据采用牛顿差值定理进行处理,并进行实时插值计算,根据实时插值计算后所得的数据进行空缺数据的计算和填充,以此实现数据连续性、完整性的要求。“限幅滤波+牛顿插值”算法结构如图2所示。采用“限幅滤波+牛顿插值”算法能精细化处理异常数据,避免了因传统误差值区间设置不合理,导致系统正常数据剔除的缺陷。
38、主控芯片对异常数据进行滤波以去除,并采用牛顿插值算法弥补缺失数据,其具体方法为:
39、步骤(1),多通道公路气象站数据处理电路接收气象站传感器采集多类型公路气象站数据,然后转换成成ttl通信协议,传输至主控芯片,主控芯片对接收到的数据进行数据解析;
40、步骤(2),主控芯片根据不同传感器数据进行归类,当主控芯片检测到某一传感器出现超阈值数据或缺失数据时,由缺失数据自修复模块根据传感器设定阈值进行数据切片(注:数据的切片就是把气象传感器采集到的数据按照不同类型、时段进行逐一拆分、归类的工作,该工作由缺失数据自修复模块独立完成。
41、步骤(3),阈值是根据气象传感器某一时段的数据变化范围所设定的一个上下限定数据值(例如:风速、温度、能见度等),当缺失数据自修复模块检测到数据超出阈值或缺失,则交由算法进行处理。
42、步骤(4),限幅滤波算法计算过程如下式:
43、
44、式(1)中,xn为接收到的气象传感器数据,xn-1为前一时刻接受到的气象传感器数据。如图2所示,α为数据切片数据集i设定的阈值,β是数据切片数据集ii设定设定的阈值。
45、当两次接收到的数据差的绝对值大于α时,主控芯片判定此次数据采集结果存在干扰信号,则按照上一次采集的数据作为本次采集数据;
46、当两次接收到的数据差的绝对值小于等于α时,则确认本次数据采集有效:
47、步骤(5),若存在缺失数据,则根据已知数据点横、纵坐标进行插值;已知数据点的横坐标为接收到的气象传感器数据的时间,纵坐标为气象传感器数据数值。本发明利用检测到缺失数据的前、后气象传感器数据进行;
48、步骤(6),根据选取的插值节点构造一阶差商公式,一阶差商公式如式(2)所示:
49、
50、式中,x0为第一个点的横坐标,x1为第二个点横坐标,f(x0)为第一个点的纵坐标,f(x1)为第二个点的纵坐标;
51、步骤(7),根据构造的一阶差商公式,建立牛顿插值多项式p(x),如式(3)所示:
52、p(x)=a0+a1(x-x0)+…+an(x-x0)(x-x1)…(x-xn) 式(3)
53、缺失数据点的横坐标x为时刻,x0、x1......xn为第一个点、第二个点、第n个点的横坐标,an(n=0,1,2…n)为待定系数,将横坐标x带入构造好的牛顿插值多项式p(x),反算出相应的纵坐标(气象数据),这样就完成了对缺失数据的补充。
54、牛顿插值法的优点之一是插值多项式的形式在添加新的节点时比较容易更新,因此适用于需要动态插值的情况。
55、故障诊断模块能监测硬件电路不同模块上的故障点,故障数据包括:①传感器接口电路故障,具体表现在接收到的传感器数据出现乱码或无数据传入的情况;②电源保护电路故障,具体表现在输出通道一、二、三的电压、电流输出异常;③多通道公路气象站数据处理电路故障,具体表现在传感器接口电路无数据传入。故障诊断模块接收到故障数据以后,将数据传输给主控制芯片,并通过4g-dtu将故障数据发送给远程控制中心。
56、本发明与现有技术相比,其有益效果为:
57、(1)针对传感器采集过程中,因外部干扰因素导致出现异常数据的问题,采用限幅滤波算法、牛顿插值算法进行异常数据的滤除和缺失数据的插补,原始数据与本发明算法处理后的数据如图4所示:
58、由图4中可以看出,在17~35min、60~80min的时间区间内,接收到的气象传感器原始数据中存在异常数据与部分数据缺失的现象,则通过以下步骤进行数据滤除、插补缺失值:
59、①根据不同传感器属性及其正常数据区间,设置相对应的的阈值,α、β(如图2所示);
60、②当出现异常数据时(与上一次接收数据的差值的绝对值大于设定阈值),若认定此次数据接受失败,则自动剔除此次数据;
61、③当缺失数据自修复模块检测到数据出现空缺时,通过牛顿差值算法插补缺失值;
62、(2)多通道公路气象站数据处理电路用于多通道数据的接收和电平转换(因为传感器支持rs485电平输出,而主控制芯片支持ttl电平。因此,需要将rs485电平转换为ttl,才能实现数据向主控芯片8的传输)。
63、(3)故障诊断模块能监测硬件电路不同模块上的故障点,故障数据包括:①传感器接口电路故障,具体表现在接收到的传感器数据出现乱码或无数据传入的情况;②电源保护电路故障,具体表现在输出通道一、二、三的电压、电流输出异常;③多通道公路气象站数据处理电路故障,具体表现在传感器接口电路无数据传入。故障诊断模块接收到故障数据以后,将数据传输给主控制芯片,并通过4g-dtu将故障数据发送给远程控制中心。
64、(4)从经济角度讲,本发明:①能有效弥补传统气象传感器在数据采集阶段数据质量差的痛点,提升数据质量的同时,降低数据处理难度,人工对数据处理的便捷程度将有大幅提升;②气象传感厂家无需修改现有设备,只需要接入此系统即可完成对异常数据的处理,降低设备改造成本。
65、(5)从社会角度讲,本发明:①提升传感设备的数据采集质量,提高交通气象灾害防治和恶劣气象条件的预测精度;②对于数据建模以及气象数据分析,提供强有力的优质气象数据集。
1.一种公路交通气象站异常数据自修复系统,其特征在于,包括电源供电器(1)、电源保护电路(5)、传感器接口电路(6)、多通道公路气象站数据处理电路(7)、主控芯片(8)、缺失数据自修复模块(9)、故障检测模块(10)和通信电路(14);
2.根据权利要求1所述的公路交通气象站异常数据自修复系统,其特征在于,电源供电器(1)包括三个输出通道,分别为输出通道一(2)、输出通道二(3)、输出通道三(4);
3.根据权利要求1所述的公路交通气象站异常数据自修复系统,其特征在于,通信电路(14)包括gps电路(12)、lora模块(11)和4g-dtu模块(13)。
4.根据权利要求3所述的公路交通气象站异常数据自修复系统,其特征在于,gps电路(12)代码和通信协议符合nema-0183协议,报文格式符合nema-0183协议标准。
5.根据权利要求3所述的公路交通气象站异常数据自修复系统,其特征在于,当主控芯片(8)与4g-dtu模块(13)因通信故障导致数据传输失败,通过lora模块(11)将故障所在气象站的位置坐标和多类型公路气象站数据发送至距离最近的气象站中,并由距离最近的气象站接收数据后,再传输给远程控制中心。
6.根据权利要求1所述的公路交通气象站异常数据自修复系统,其特征在于,故障检测模块(10)将故障数据采用串口通信的方式发送给主控芯片(8)。
7.根据权利要求1所述的公路交通气象站异常数据自修复系统,其特征在于,滤波采用限幅滤波算法。