本发明涉及道路垃圾检测领域、深度学习领域、图像处理领域或其他相关领域,具体而言,涉及一种基于车载摄像设备的路面垃圾清理方法及系统、电子设备。
背景技术:
1、当前,城市道路以及乡村道路是社会沟通的主要桥梁,然而随着城市以及乡村中产生的垃圾量不断增加,城市道路以及乡村道路上的垃圾类型以及垃圾数量也不断增加,不仅污染环境,也严重影响城市美观。
2、目前的垃圾清理方式主要依赖于定期的人工巡查和定点清理,或者由环保公司通过清扫设备对固定路线进行定时巡查打扫和清洁,这种方式存在着诸多问题,包括效率低下、成本高昂、覆盖范围有限等。垃圾清理的低效率不仅导致了资源的浪费,也给城市环境、乡村环境和居民生活带来了诸多不便和危害,且由于都是集中进行垃圾清理,无法进行灵活调度,清理效率低下。
3、针对上述的问题,目前尚未提出有效的解决方案。
技术实现思路
1、本发明实施例提供了一种基于车载摄像设备的路面垃圾清理方法及系统、电子设备,以至少解决相关技术中在对道路垃圾进行清理时,无法灵活调度,清理效率低下的技术问题。
2、根据本发明实施例的一个方面,提供了一种基于车载摄像设备的路面垃圾清理方法,包括:基于当前检测工况类型调整图像检测参数,其中,所述当前检测工况类型是基于天气条件、可视参数、道路类型以及行动对象数量匹配到;采集行驶道路的路面图像,将所述路面图像以及所述图像检测参数输入至目标检测模型中,由所述目标检测模型检测所述路面图像中的道路固定信息,过滤掉包含所述道路固定信息的区域中的干扰物体,对过滤后的所述路面图像进行垃圾位置定位,确定目标检测区域,输出所述目标检测区域中的垃圾信息,其中,所述垃圾信息包括:检测点、垃圾类型以及垃圾数量;对各检测点的垃圾分布情况进行统计,计算出不同目标检测区域的垃圾密度;根据计算出的所述垃圾密度制定垃圾车调度策略,依据所述垃圾车调度策略清理各检测点的垃圾。
3、可选地,基于当前检测工况类型调整图像检测参数的步骤,包括:采用基于resnet50的卷积神经网络模型分析初始图像的图像特征,基于所述图像特征确定所述当前检测工况类型,其中,所述当前检测工况类型为下述之一:正常图像、下雨工况、下雪工况、镜头脏污;在所述当前检测工况类型为下雪工况的情况下,将图像检测参数的置信度调高至目标置信度,并将路面对象检测的当前面积阈值调高至目标面积阈值;在所述当前检测工况类型为下雨工况的情况下,在采集到所述路面图像之后,对所述路面图像执行图像增强操作;在所述当前检测工况类型为镜头脏污的情况下,检测车载摄像设备的设备镜头是否出现遮挡区,在确认所述车载摄像设备的设备镜头出现遮挡区的情况下,输出异常提示和清洁维护报告。
4、可选地,由所述目标检测模型检测所述路面图像中的道路固定信息,过滤掉包含所述道路固定信息的区域中的干扰物体的步骤,包括:由所述目标检测模型检测所述路面图像中的路面标志物、路面占用物、车道线、路边绿化带、马路栅栏;由所述目标检测模型勾画所述路面标志物、所述路面占用物、所述车道线、所述路边绿化带、所述马路栅栏所处的图像边界;由所述目标检测模型基于勾画出的所述图像边界,过滤掉所述路面标志物、所述路面占用物、所述车道线、所述路边绿化带、所述马路栅栏所属的区域中的干扰物体。
5、可选地,由所述目标检测模型检测所述路面图像中的路面标志物、路面占用物、车道线、路边绿化带、马路栅栏的步骤,包括:由所述目标检测模型调用特征提取子模型,通过所述特征提取子模型提取所述路面图像中各像素点的特征信息以及特征类型,基于所述特征信息以及所述特征类型识别车道线的形态、宽度和色彩,得到车道线信息;由所述目标检测模型调用第一语义分割子模型,通过所述第一语义分割子模型分割出路面上的路边栏杆、交通锥和广告牌,得到路面标志物;由所述目标检测模型调用第二语义分割子模型,通过所述第二语义分割子模型分割出路面上的遗弃物、路障、行人携带物以及临时占用物,得到路面占用物。
6、可选地,所述第一语义分割子模型与所述第二语义分割子模型是通过如下方式训练得到:获取样本图像集合以及标注信息,其中,所述样本图像集合中包含n张样本图像,所述标注信息包括对每张所述样本图像进行垃圾标注、路面标志物标注、路面占用物标注后的信息,所述标注信息的类型包括:数字以及勾画框,n为大于2的正整数;将所述样本图像集合与所述标注信息输入至基于yolov7的神经网络中,控制所述神经网络输出每张图像中的垃圾位置、垃圾类别、垃圾数量、路面标志物、路面占用物,得到输出结果;在完成训练后,将测试集中的道路检测图像输入至所述神经网络中,在所述神经网络的输出结果中关联垃圾位置、垃圾类别、路面标志物、路面占用物的信息符合准确率要求的情况下,确认测试结束,基于已测试完毕的神经网络确定所述第一语义分割子模型与所述第二语义分割子模型。
7、可选地,对过滤后的所述路面图像进行垃圾位置定位,确定目标检测区域,输出所述目标检测区域中的垃圾信息的步骤,包括:对过滤后的多张所述路面图像进行垃圾位置定位,确定各个检测点的位置;基于各检测点的位置之间的关联关系确定目标检测区域;统计所述目标检测区域中单位长度区间内的垃圾数量;统计所述目标检测区域中单位长度区间内各垃圾类型的分布数据以及指定线路区间各垃圾类型的分布数据。
8、可选地,根据计算出的所述垃圾密度制定垃圾车调度策略,依据所述垃圾车调度策略清理各检测点的垃圾的步骤,包括:基于所述垃圾密度、垃圾分布动态图以及各检测点的清理优先级,生成各垃圾车的行驶规划路线和清理顺序,得到垃圾车调度策略,其中,所述垃圾分布动态图中包含各时间点在不同检测区域中的单位长度区间内的垃圾数量、单位长度区间内各垃圾类型的分布数据、指定线路区间各垃圾类型的分布数据。
9、根据本发明实施例的另一方面,还提供了一种路面垃圾清理系统,包括:车载摄像头,安装在检测车辆的车辆尾部,用于采集行驶道路的路面图像;定位单元,获取检测车辆的位置信息;路况参数调整单元,用于基于当前检测工况类型调整图像检测参数,其中,所述当前检测工况类型是基于天气条件、可视参数、道路类型以及行动对象数量匹配到;垃圾检测单元,用于将所述路面图像以及所述图像检测参数输入至目标检测模型中,由所述目标检测模型检测所述路面图像中的道路固定信息,过滤掉包含所述道路固定信息的区域中的干扰物体,对过滤后的所述路面图像进行垃圾位置定位,确定目标检测区域,输出所述目标检测区域中的垃圾信息,其中,所述垃圾信息包括:检测点、垃圾类型以及垃圾数量;垃圾车调度单元,用于对各检测点的垃圾分布情况进行统计,计算出不同目标检测区域的垃圾密度;根据计算出的所述垃圾密度制定垃圾车调度策略,依据所述垃圾车调度策略清理各检测点的垃圾。
10、可选地,路况参数调整单元包括:图像特征分析模块,采用基于resnet50的卷积神经网络模型分析初始图像的图像特征,基于所述图像特征确定所述当前检测工况类型,其中,所述当前检测工况类型为下述之一:正常图像、下雨工况、下雪工况、镜头脏污;第一调整模块,用于在所述当前检测工况类型为下雪工况的情况下,将图像检测参数的置信度调高至目标置信度,并将路面对象检测的当前面积阈值调高至目标面积阈值;第二调整模块,用于在所述当前检测工况类型为下雨工况的情况下,在采集到所述路面图像之后,对所述路面图像执行图像增强操作;清洁模块,用于在所述当前检测工况类型为镜头脏污的情况下,检测车载摄像设备的设备镜头是否出现遮挡区,在确认所述车载摄像设备的设备镜头出现遮挡区的情况下,输出异常提示和清洁维护报告。
11、可选地,所述垃圾检测单元包括:第一检测模块,用于由所述目标检测模型检测所述路面图像中的路面标志物、路面占用物、车道线、路边绿化带、马路栅栏;第二检测模块,用于由所述目标检测模型勾画所述路面标志物、所述路面占用物、所述车道线、所述路边绿化带、所述马路栅栏所处的图像边界;过滤模块,用于由所述目标检测模型基于勾画出的所述图像边界,过滤掉所述路面标志物、所述路面占用物、所述车道线、所述路边绿化带、所述马路栅栏所属的区域中的干扰物体。
12、可选地,所述第一检测模块包括:特征提取子模块,用于由所述目标检测模型调用特征提取子模型,通过所述特征提取子模型提取所述路面图像中各像素点的特征信息以及特征类型,基于所述特征信息以及所述特征类型识别车道线的形态、宽度和色彩,得到车道线信息;标志物分割子模块,用于由所述目标检测模型调用第一语义分割子模型,通过所述第一语义分割子模型分割出路面上的路边栏杆、交通锥和广告牌,得到路面标志物;占用物分割子模块,用于由所述目标检测模型调用第二语义分割子模型,通过所述第二语义分割子模型分割出路面上的遗弃物、路障、行人携带物以及临时占用物,得到路面占用物。
13、可选地,所述第一语义分割子模型与所述第二语义分割子模型是通过如下方式训练得到:获取样本图像集合以及标注信息,其中,所述样本图像集合中包含n张样本图像,所述标注信息包括对每张所述样本图像进行垃圾标注、路面标志物标注、路面占用物标注后的信息,所述标注信息的类型包括:数字以及勾画框,n为大于2的正整数;将所述样本图像集合与所述标注信息输入至基于yolov7的神经网络中,控制所述神经网络输出每张图像中的垃圾位置、垃圾类别、垃圾数量、路面标志物、路面占用物,得到输出结果;在完成训练后,将测试集中的道路检测图像输入至所述神经网络中,在所述神经网络的输出结果中关联垃圾位置、垃圾类别、路面标志物、路面占用物的信息符合准确率要求的情况下,确认测试结束,基于已测试完毕的神经网络确定所述第一语义分割子模型与所述第二语义分割子模型。
14、可选地,所述垃圾检测单元包括:垃圾定位模块,用于对过滤后的多张所述路面图像进行垃圾位置定位,确定各个检测点的位置;检测区域确定模块,用于基于各检测点的位置之间的关联关系确定目标检测区域;第一统计模块,用于统计所述目标检测区域中单位长度区间内的垃圾数量;第二统计模块,用于统计所述目标检测区域中单位长度区间内各垃圾类型的分布数据以及指定线路区间各垃圾类型的分布数据。
15、可选地,垃圾车调度单元包括:垃圾场调度生成模块,用于基于所述垃圾密度、垃圾分布动态图以及各检测点的清理优先级,生成各垃圾车的行驶规划路线和清理顺序,得到垃圾车调度策略,其中,所述垃圾分布动态图中包含各时间点在不同检测区域中的单位长度区间内的垃圾数量、单位长度区间内各垃圾类型的分布数据、指定线路区间各垃圾类型的分布数据。
16、根据本发明实施例的另一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行上述任意一项的基于车载摄像设备的路面垃圾清理方法。
17、根据本发明实施例的另一方面,还提供了一种电子设备,包括一个或多个处理器和存储器,所述存储器用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现上述任意一项的基于车载摄像设备的路面垃圾清理方法。
18、根据本发明实施例的另一方面,还提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的基于车载摄像设备的路面垃圾清理方法的步骤。
19、在本公开中,基于当前检测工况类型调整图像检测参数,其中,当前检测工况类型是基于天气条件、可视参数、道路类型以及行动对象数量匹配到;采集行驶道路的路面图像,将路面图像以及图像检测参数输入至目标检测模型中,由目标检测模型检测路面图像中的道路固定信息,过滤掉包含道路固定信息的区域中的干扰物体,对过滤后的路面图像进行垃圾位置定位,确定目标检测区域,输出目标检测区域中的垃圾信息,其中,垃圾信息包括:检测点、垃圾类型以及垃圾数量;对各检测点的垃圾分布情况进行统计,计算出不同目标检测区域的垃圾密度;根据计算出的垃圾密度制定垃圾车调度策略,依据垃圾车调度策略清理各检测点的垃圾。
20、在本公开中,可以基于车载摄像头和深度学习技术对道路进行垃圾检测,实时监测城市路面上的垃圾分布情况,能够同时识别路面上的检测点、垃圾类型、垃圾数量以及车道线、路面标识等目标,在保障召回率的同时大幅提升识别准确率,并通过智能调度垃圾清理车辆,提高了城市垃圾清理的效率,从而解决相关技术中在对道路垃圾进行清理时,无法灵活调度,清理效率低下的技术问题。
1.一种基于车载摄像设备的路面垃圾清理方法,其特征在于,包括:
2.根据权利要求1所述的路面垃圾清理方法,其特征在于,基于当前检测工况类型调整图像检测参数的步骤,包括:
3.根据权利要求1所述的路面垃圾清理方法,其特征在于,由所述目标检测模型检测所述路面图像中的道路固定信息,过滤掉包含所述道路固定信息的区域中的干扰物体的步骤,包括:
4.根据权利要求3所述的路面垃圾清理方法,其特征在于,由所述目标检测模型检测所述路面图像中的路面标志物、路面占用物、车道线、路边绿化带、马路栅栏的步骤,包括:
5.根据权利要求4所述的路面垃圾清理方法,其特征在于,所述第一语义分割子模型与所述第二语义分割子模型是通过如下方式训练得到:
6.根据权利要求1所述的路面垃圾清理方法,其特征在于,对过滤后的所述路面图像进行垃圾位置定位,确定目标检测区域,输出所述目标检测区域中的垃圾信息的步骤,包括:
7.根据权利要求1所述的路面垃圾清理方法,其特征在于,根据计算出的所述垃圾密度制定垃圾车调度策略,依据所述垃圾车调度策略清理各检测点的垃圾的步骤,包括:
8.一种路面垃圾清理系统,其特征在于,包括:
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至7中任意一项所述的基于车载摄像设备的路面垃圾清理方法。
10.一种电子设备,其特征在于,包括一个或多个处理器和存储器,所述存储器用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至7中任意一项所述的基于车载摄像设备的路面垃圾清理方法。
