本发明涉及民航机场登机桥,具体而言,涉及一种基于模糊融合的飞机舱门位姿检测方法与登机桥自动靠机控制方法。
背景技术:
1、近年来,随着全球航空业的快速发展,传统机场逐渐向智慧机场转型,以迎接不断增长的运输需求和服务压力等挑战。智慧机场通过全方位地引进自动化以及智能化技术,以优化改进机场的运作效率和质量。
2、登机桥作为连接航站楼与飞机的关键设备,其与飞机对接过程的数字化、自动化、智能化是本领与技术人员研究的方向。
3、目前,登机桥对接飞机过程依赖于人工操作。操作员操控登机桥,以目视方式完成对接,耗时约为3分钟。然而,基于人工操作的登机桥对接方式存在以下弊端:操作过程复杂繁琐;由于目视估计偏差和登机桥的运动惯性,很难保证对接准确性,且在恶劣天气条件下或疲劳驾驶时易发生事故;对操作员的技术专业水平要求很高,导致机场对操作员的培训成本高、周期长。为了解决上述弊端,本领域技术人员研发出了一些基于视觉技术或传感器技术的智能化登机桥自动对接系统,可以参考申请公布号为cn 115783294a的发明专利申请、申请公布号为cn111522345a的发明专利申请、申请公布号为cn118135356a的发明专利申请、授权公告号为cn111776243b的发明专利、授权公告号为cn 112034831b的发明专利。然而,采用单一检测方式(视觉技术或传感器技术)在不同工况下的鲁棒性不强,这些自动对接系统的对接准确性有待提高,环境适应性较差,对飞机舱门的定位不够准确、稳定性差、环境适应性差。
技术实现思路
1、本发明就是为了解决现有登机桥对接飞机舱门的对接准确性差、环境适应性差,对飞机舱门的定位不够准确、稳定性差、环境适应性差的技术问题,提供了一种基于模糊融合的飞机舱门位姿检测方法与登机桥自动靠机控制方法。
2、智能化登机桥自动对接系统的关键在于飞机舱门的位置检测。现有技术大多数采用的是单一的检测方法,分别是传统图像处理与基于深度学习的两中方法,虽然在良好工况下这两类检测方法单独表现良好,但在不同工况下的鲁棒性并不强。
3、本发明提供一种基于模糊融合的飞机舱门位姿检测方法,包括以下步骤:
4、步骤1,通过图像处理算法获取舱门的位置信息;
5、针对双目相机采集的包含舱门的图像,采用边缘检测算法获得舱门的轮廓;
6、获得舱门轮廓的最小外接矩形来表示舱门的外围轮廓;
7、根据最小外接矩形的纵横比判断最小外接矩形的位姿,得到最小外接矩形的方向,纵横比大于1是正向;在最小外接矩形是正向的情况下,获得左下角点的像素坐标d1l(u1l,v1l)和/或右下角点的像素坐标d1r(u1r,v1r);
8、步骤2,通过基于yolov5检测算法获取舱门的位置信息;
9、通过训练数据集建立yolov5目标检测模型;
10、将双目相机采集的包含舱门的图像输入给yolov5目标检测模型,yolov5目标检测模型输出检测结果,识别出舱门,检测结果图像中,舱门被检测框包围,获得检测框的左下角点像素坐标d2l(u2l,v2l)、和/或右下角点像素坐标d2r(u2r,v2r);
11、步骤3,通过模糊融合算法获得优化后的舱门位置信息;
12、步骤(1),确定系统输入输出变量;
13、系统的多个输入变量根据登机桥对接飞机舱门的实际工况确定,系统的两个输出变量为融合权重w1和融合权重w2;
14、步骤(2),输入输出变量的模糊化;
15、步骤(3),建立模糊规则库;
16、步骤(4),融合处理;
17、根据融合权重w1和w2,对步骤1获得的舱门位置信息和步骤2获得的舱门位置信息进行融合处理,得到优化后的舱门位置信息fl和/或fr,fl的计算公式如下:
18、fl=w1·d1l+w2·d2l
19、其中,d1l是步骤1得到的左下角点的像素坐标,d2l是步骤2得到的左下角点的像素坐标;
20、fr的计算公式如下:
21、fr=w1·d1r+w2·d2r
22、其中,d1r是步骤1得到的右下角点的像素坐标,d2r是步骤2得到的右下角点的像素坐标。
23、优选地,步骤1中,将最小外接矩形的四个顶点按y坐标从大到小排序,得到两个y坐标较大的点作为下方的两个角点,再对下方的两个角点按x坐标从小到大排序,分别得到左下角点和右下角点,进而得到左下角点的像素坐标是d1l(u1l,v1l)和/或右下角点的像素坐标d1r(u1r,v1r)。
24、优选地,将检测框的四个顶点按y坐标从大到小排序,得到两个y坐标较大的点作为下方的两个角点,再对下方的两个角点按x坐标从小到大排序,分别得到左下角点和右下角点,进而得到左下角点的像素坐标是d2l(u2l,v2l)和或右下角点的像素坐标d2r(u2r,v2r)。
25、优选地,步骤1中,采用边缘检测算法获得舱门的轮廓,首先对获取的包含舱门的图像进行灰度处理得到灰度图像,将高维的颜色信息进行降维,转换为一维的像素点强度信息;其次对灰度图像通过canny边缘检测算法处理得到边缘;再其次,提取出符合舱门形状的边缘,即得到舱门的轮廓。
26、优选地,步骤2中,在yolov5目标检测模型中增加cbam模块得到改进型yolov5目标检测模型,使用改进型yolov5目标检测模型进行舱门的识别检测。
27、优选地,步骤3的步骤(1)中:
28、系统的多个输入变量分别为登机桥的状态、环境的光照强度、距离以及检测视角;
29、登机桥状态的模糊等级划分为:静态和动态;光照强度的模糊等级划分为:强光、自然光和弱光;距离的模糊等级划分为:近距离、中距离和远距离;视角的模糊等级划分为:正视与斜视;融合权重w1的模糊集合与融合权重w2的模糊等级划分相同,均包括三个参数:低权重、中权重以及高权重。
30、优选地,步骤2中,构建训练数据集时分别采取了不同光照条件和不同角度下的图像。
31、优选地,根据优化后的舱门位置信息fl和/或fr,结合基于双目相机测距原理获取的深度信息,得到相机坐标系下的空间三维信息fl(xl,yl,zl)和/或fr(xr,yr,zr)。
32、本发明还提供一种使用空间三维信息fl(xl,yl,zl)和/或fr(xr,yr,zr)的登机桥自动靠机控制方法,包括以下步骤:
33、步骤1),建立登机桥的运动模型;
34、所述登机桥包括转台立柱、转台、内通道、外通道、升降行走组件和接机口前端,所述外通道与接机口前端之间还设有接机口前端水平转动驱动机构,所述升降行走组件设有控制登机桥前进、后退、转向的差速轮;升降行走组件还设有升降机构;
35、升降行走组件动作的控制量是差速轮的行进距离、差速轮的转动角度、升降机构的升降高度,接机口前端水平转动驱动机构动作的控制量是水平转动角度;
36、以转台立柱为基坐标系(x0,y0,z0),转台的中心所在的坐标系是(x1,y1,z2),内通道与转台连接处所在的坐标系是(x2,y2,z2),升降行走组件中差速轮的中心所在的坐标系是(zw,yw,zw),接机口前端的地板的中心点所在的坐标系是(xc,yc,zc);
37、通过正运动学建立登机桥的运动模型;
38、步骤2),通过逆运动学求解控制量目标值;
39、根据升降行走组件的差速轮行进距离当前值、差速轮转动角度的当前值、升降机构升降高度的当前值,接机口前端水平转动驱动机构的水平转动角度当前值,对接目标点的三维坐标和接机口前端的当前位置信息,基于逆运动学原理通过登机桥的运动模型反向求解出差速轮行进距离目标值、差速轮转动角度的目标值、升降机构升降高度的目标值,接机口前端水平转动驱动机构的水平转动角度目标值;
40、步骤3),根据差速轮行进距离目标值、差速轮转动角度的目标值、升降机构升降高度的目标值,接机口前端水平转动驱动机构的水平转动角度目标值生成运动指令发送到登机桥中的相应执行机构,使执行机构动作进而进行对接作业。
41、本发明的有益效果是:分别构建基于图像处理和基于深度学习的两种舱门位置检测算法,然后通过模糊逻辑推理方法将两种不同类型的检测结果进行融合,即通过在不同工况下为两种检测结果分配不同的权重,从而得到融合后的检测结果,以此在保证实时性的基础上提升舱门位置检测在不同工况下的鲁棒性,使飞机舱门的定位更加准确、稳定性强、环境适应性强。使用融合后的舱门位置检测结果进而控制登机桥完成对接作业,提高了对接准确性、增强了环境适应性,也提高了对接作业效率。
42、本发明进一步的特征和方面,将在以下参考附图的具体实施方式的描述中,得以清楚地记载。
1.一种基于模糊融合的飞机舱门位姿检测方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,所述步骤1中,将最小外接矩形的四个顶点按y坐标从大到小排序,得到两个y坐标较大的点作为下方的两个角点,再对下方的两个角点按x坐标从小到大排序,分别得到左下角点和右下角点,进而得到左下角点的像素坐标是d1l(u1l,v1l)和/或右下角点的像素坐标d1r(u1r,v1r)。
3.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,将检测框的四个顶点按y坐标从大到小排序,得到两个y坐标较大的点作为下方的两个角点,再对下方的两个角点按x坐标从小到大排序,分别得到左下角点和右下角点,进而得到左下角点的像素坐标是d2l(u2l,v2l)和或右下角点的像素坐标d2r(u2r,v2r)。
4.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,所述步骤1中,采用边缘检测算法获得舱门的轮廓,首先对获取的包含舱门的图像进行灰度处理得到灰度图像,将高维的颜色信息进行降维,转换为一维的像素点强度信息;其次对灰度图像通过canny边缘检测算法处理得到边缘;再其次,提取出符合舱门形状的边缘,即得到舱门的轮廓。
5.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,所述步骤2中,在yolov5目标检测模型中增加cbam模块得到改进型yolov5目标检测模型,使用改进型yolov5目标检测模型进行舱门的识别检测。
6.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,所述步骤3的步骤(1)中:
7.根据权利要求1所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,所述步骤2中,构建训练数据集时分别采取了不同光照条件和不同角度下的图像。
8.根据权利要求1至7任意一项所述的基于模糊融合的飞机舱门位姿检测方法,其特征在于,根据优化后的舱门位置信息fl和/或fr,结合基于双目相机测距原理获取的深度信息,得到相机坐标系下的空间三维信息fl(xl,yl,zl)和/或fr(xr,yr,zr)。
9.一种登机桥自动靠机控制方法,其特征在于,使用了权利要求1-8任意一项所述优化后的舱门位置信息。
10.一种使用权利要求8所述检测方法获得的优化后舱门位置信息的登机桥自动靠机控制方法,其特征在于,包括以下步骤: