本发明涉及人工智能,尤其涉及一种智能网联汽车协同感知方法、装置及存储介质。
背景技术:
1、随着自动驾驶技术的快速发展,车辆不仅需要依靠自身的传感器进行环境感知,还需要通过与外部交通基础设施的交互来提高决策的准确性和安全性。现有的车联网(v2x)技术通过融合来自不同传感器和位置的信息,提高了自动驾驶系统对周围环境的感知能力。
2、在智能交通系统中,多源数据的有效融合是实现高精度感知的重要前提。然而,由于摄像头的安装位置和角度不同,车端和路端摄像头采集的数据通常存在角度偏差。此外,不同摄像头的数据帧之间存在时间上的不一致性,这使得多源数据的融合变得复杂且不准确。传统的方法无法有效地解决这些问题,导致感知精度下降。因此,需要一种新的算法模型来解决这些问题,提高多源数据融合的准确性和效率。
技术实现思路
1、本发明提供一种智能网联汽车协同感知方法、装置及存储介质,用以解决现有技术中多源数据特征难以对齐和充分融合的技术问题。
2、本发明提供一种智能网联汽车协同感知方法,包括如下步骤。
3、获取空间对齐后的车端图像数据和空间对齐后的路端图像数据;
4、基于时序修正函数对齐所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧,得到时序对齐后的车端图像数据和时序对齐后的路端图像数据,所述第一前序帧和所述第二前序帧的帧数相同;
5、将所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据输入至预训练的协同感知模型中,基于低秩适应方法更新所述协同感知模型的权重矩阵,获取所述协同感知模型输出的感知结果。
6、在一些实施例中,所述方法还包括:
7、基于标定点在空间上对齐车端图像和路端图像,所述车端图像是车端摄像头获取的图像,所述路端图像是路端摄像头获取的图像;
8、基于空间对齐后的车端图像和空间对齐后的路端图像确定车端图像数据和路端图像数据。
9、在一些实施例中,所述基于标定点在空间上对齐车端图像和路端图像,包括:
10、确定标定点;
11、基于所述标定点确定所述车端摄像头的第一姿态和所述路端摄像头的第二姿态;
12、基于所述第一姿态和所述第二姿态在空间上对齐车端图像和路端图像。
13、在一些实施例中,所述基于时序修正函数对齐所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧,包括:
14、获取所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧;
15、将所述第一前序帧和所述第二前序帧输入到多头自注意力机制中,基于时序修正函数确定所述第一前序帧和所述第二前序帧之间的时间偏差;
16、基于所述时间偏差在时间上对齐所述车端图像数据和所述路端图像数据。
17、在一些实施例中,所述基于低秩适应方法更新所述协同感知模型的权重矩阵,包括:
18、基于所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据确定权重矩阵;
19、基于损失函数更新低秩矩阵;
20、基于所述权重矩阵和所述低秩矩阵确定更新后的权重矩阵。
21、在一些实施例中,所述获取所述协同感知模型输出的感知结果,包括:
22、基于更新后的权重矩阵对所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据进行特征融合,获取所述感知结果。
23、本发明还提供一种智能网联汽车协同感知装置,包括如下模块:
24、第一获取模块,用于获取空间对齐后的车端图像数据和空间对齐后的路端图像数据;
25、第一处理模块,用于基于时序修正函数对齐所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧,得到时序对齐后的车端图像数据和时序对齐后的路端图像数据,所述第一前序帧和所述第二前序帧的帧数相同;
26、第二获取模块,用于将所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据输入至预训练的协同感知模型中,基于低秩适应方法更新所述协同感知模型的权重矩阵,获取所述协同感知模型输出的感知结果。
27、在一些实施例中,所述智能网联汽车协同感知装置还包括:
28、第一处理子模块,用于基于标定点在空间上对齐车端图像和路端图像,所述车端图像是车端摄像头获取的图像,所述路端图像是路端摄像头获取的图像;
29、第一确定子模块,用于基于空间对齐后的车端图像和空间对齐后的路端图像确定车端图像数据和路端图像数据。
30、在一些实施例中,所述第一处理子模块包括:
31、第一确定单元,用于确定标定点;
32、第二确定单元,用于基于所述标定点确定所述车端摄像头的第一姿态和所述路端摄像头的第二姿态;
33、第一处理单元,用于基于所述第一姿态和所述第二姿态在空间上对齐车端图像和路端图像。
34、在一些实施例中,所述第一处理模块包括:
35、第一获取子模块,用于获取所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧;
36、第二确定子模块,用于将所述第一前序帧和所述第二前序帧输入到多头自注意力机制中,基于时序修正函数确定所述第一前序帧和所述第二前序帧之间的时间偏差;
37、第二处理子模块,用于基于所述时间偏差在时间上对齐所述车端图像数据和所述路端图像数据。
38、在一些实施例中,所述第二获取模块包括:
39、第三确定子模块,用于基于所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据确定权重矩阵;
40、第一更新子模块,用于基于损失函数更新低秩矩阵;
41、第四确定子模块,用于基于所述权重矩阵和所述低秩矩阵确定更新后的权重矩阵。
42、在一些实施例中,所述第二获取模块包括:
43、第二获取子模块,用于基于更新后的权重矩阵对所述时序对齐后的车端图像数据和所述时序对齐后的路端图像数据进行特征融合,获取所述感知结果。
44、本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述任一种所述智能网联汽车协同感知方法。
45、本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上述任一种所述智能网联汽车协同感知方法。
46、本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述智能网联汽车协同感知方法。
47、本发明提供的智能网联汽车协同感知方法、装置及存储介质,先通过在时间上对齐车端图像数据和路端图像数据,然后采用预训练的协同感知模型获取感知结果,能够有效处理多源异构数据,并通过简单的映射矩阵实现车端和路端的高效融合,从而可以提高数据融合的准确性和效率。
1.一种智能网联汽车协同感知方法,其特征在于,包括:
2.根据权利要求1所述的智能网联汽车协同感知方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的智能网联汽车协同感知方法,其特征在于,所述基于标定点在空间上对齐车端图像和路端图像,包括:
4.根据权利要求1所述的智能网联汽车协同感知方法,其特征在于,所述基于时序修正函数对齐所述车端图像数据的第一前序帧和所述路端图像数据的第二前序帧,包括:
5.根据权利要求1所述的智能网联汽车协同感知方法,其特征在于,所述基于低秩适应方法更新所述协同感知模型的权重矩阵,包括:
6.根据权利要求1所述的智能网联汽车协同感知方法,其特征在于,所述获取所述协同感知模型输出的感知结果,包括:
7.一种智能网联汽车协同感知装置,其特征在于,包括:
8.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述智能网联汽车协同感知方法。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述智能网联汽车协同感知方法。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述智能网联汽车协同感知方法。