CN111369541A - 一种智能汽车恶劣天气条件下车辆检测方法 - Google Patents
一种智能汽车恶劣天气条件下车辆检测方法 Download PDFInfo
- Publication number
- CN111369541A CN111369541A CN202010151618.3A CN202010151618A CN111369541A CN 111369541 A CN111369541 A CN 111369541A CN 202010151618 A CN202010151618 A CN 202010151618A CN 111369541 A CN111369541 A CN 111369541A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- detection
- target
- image
- targets
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10044—Radar image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Quality & Reliability (AREA)
- Radar Systems Or Details Thereof (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明公开了一种智能汽车恶劣天气条件下车辆检测方法,解决智能汽车在夜间、雨天、雾天、雪天等恶劣环境下车辆检测困难的问题。分别通过毫米波雷达和热成像相机进行车辆目标检测和图像捕获;将毫米波雷达检测到的车辆目标通过坐标变换投影到热成像相机捕获的红外热图像,获得车辆检测目标在红外热图像中的近似位置分布;提取与分割车辆感兴趣区域;采用DMP目标检测算法对车辆感兴趣区域进行假设验证,并对车辆的检测边框进行回归预测;通过计算代价矩阵对毫米波雷达及热成像相机的检测目标进行融合,最后采用卡尔曼滤波对融合后的车辆检测目标进行跟踪。
Description
技术领域
本发明涉及智能汽车环境感知领域,具体涉及一种基于红外热图像与毫米波雷达信息融合的恶劣天气车辆检测方法。
背景技术
环境感知是智能汽车决策和运动控制的基础和前提,而车辆作为交通的主要参与者又是环境感知的重点对象。良好天气条件下车辆检测的实时性和准确性已经具备了很高的水平,但是恶劣天气(夜间、雨天、雪天、雾天)条件下的车辆检测依然存在诸多挑战。
Iwasaki Y等人在其论文“Robust vehicle detection under variousenvironments to realize road traffic flow surveillance using an infraredthermal camera”中针对轮胎、排气筒、车窗等区域的具有明显的灰度和纹理特征利用红外热图像对车辆进行检测。Wang Hai等人在论文“Night-time vehicle sensing in farinfrared image with deep learning”中利用视觉显著性算法从红外热图像中提取车辆的感兴趣区域,然后采用深度置信网络DBN实现了对车辆的检测。蔡文靖等人在论文“基于SLPP-SHOG的红外图像车辆检测方法”、赵英男等人在论文“基于Gabor滤波器和 SVM分类器的红外车辆检测”、齐楠楠等人在论文“基于视觉显著性和目标置信度的红外车辆检测技术”、周燕在论文“基于SVM和均值平移的红外车辆目标跟踪算法研究”、聂霆在论文“基于红外图像的前方车辆识别与车距检测”、方圆在论文“基于视觉显著性的红外运动车辆目标检测”、裴嘉欣在论文“基于改进YOLOv3网络的无人车夜间环境感知”、聂霆在论文“基于红外图像的前方车辆识别与车距检测”张志娟在论文“用于重型卡车的夜间前方车辆检测方法”都利用红外图像采用不同方法实现了对交通车辆的检测。樊峻畅在其硕士论文“红外图像中基于卷积神经网络的车辆检测”中利用R-CNN模型和SSD模型对红外热图像中的车辆进行检测。赵晓枫等人在论文“基于改进SSD的特种车辆红外伪装检测方法”中提出了一种基于残缺窗口优化的SSD模型,利用红外图像方法提高了车辆检测的精度。
丁洪正在论文“基于毫米波雷达和机器视觉的前方车辆检测研究”利用毫米波和红外图像融合实现了弯道和夜间车辆检测。
通过分析现有的红外图像车辆检测技术,发现存在一些不够完善的地方:首先只依靠热成像相机无法获得车辆完备的感知信息,例如基于红外热图像的车辆检测算法无法获得车辆的距离和运动状态信息,而这些信息对于智能车辆行为决策和运动规划是至关重要的。另外很多车辆检测算法都依赖感兴趣区域生成,仅仅依靠图像处理的算法对车辆感兴趣区域进行提取很容易受到周围环境的干扰,车辆感兴趣区域(ROI)提取的质量和精度有待提高,而且额外的图像处理过程也容易降低整个车辆检测系统的实时性。
发明内容
本发明提出了一种智能汽车恶劣天气条件下车辆检测方法,解决智能汽车在夜间、雨天、雾天、雪天等恶劣环境下车辆检测困难的问题。
本发明的目的是通过以下技术方案实现的:
一种智能汽车恶劣天气条件下车辆检测方法,包括以下步骤:
步骤1、车辆感兴趣区域生成:分别通过毫米波雷达和热成像相机进行车辆目标检测和图像捕获;将毫米波雷达检测到的车辆目标通过坐标变换投影到热成像相机捕获的红外热图像,获得车辆检测目标在红外热图像中的近似位置分布;提取与分割车辆感兴趣区域;
步骤2、车辆假设验证:采用DMP目标检测算法对车辆感兴趣区域进行假设验证,并对车辆的检测边框进行回归预测;
步骤3、目标融合与跟踪:通过计算代价矩阵对毫米波雷达及热成像相机的车辆检测目标进行融合,最后采用卡尔曼滤波对融合后的车辆检测目标进行跟踪。
进一步地,所述步骤1车辆感兴趣区域生成具体包括以下步骤:
步骤1.1、将毫米波雷达及热成像相机分别固定在车辆指定位置;
步骤1.2、利用张定友标定法对热成像相机进行参数标定,根据相机成像原理和投影变换将环境中物点p(xw,yw,zw)转化到图像坐标p(u,v),转化公式如下:
步骤1.3、定义世界坐标系与车辆坐标系相同,且其中雷达坐标系XrOrYr平面和世界坐标系的XOY平面平行,两平面垂直方向的距离为Zo,Y方向的距离为Yo,则雷达坐标系下任意一点P(R,α),转化到车辆坐标系下可以表示为:
步骤1.4、根据步骤1.2和步骤1.3得到物点P在雷达坐标系和相机坐标系的转化关系为:
步骤1.5、采用时间戳对齐的方式确保毫米波雷达和热成像相机信息传输的同步;
步骤1.6、对毫米波雷达检测到的车辆目标进行筛选,获得有效车辆目标;
步骤1.7、利用步骤1.4的坐标转化公式,将步骤1.6筛选后的有效车辆目标投影到红外热图像,获得车辆检测目标在红外热图像中的近似位置分布;
步骤1.8、根据车辆分布热红外图像中的车辆感兴趣区域进行动态提取;
步骤1.9、采用适应灰度增强算法对每一块提取的车辆感兴趣区域进行图像增强,提高车辆检测目标的辨识度。
更进一步地,所述步骤1.8车辆感兴趣区域的动态提取具体包括以下步骤:
步骤1.8.1、选择实验场地,将道路长度均分并画线;
步骤1.8.2、选择实验车辆,并将试验车分别停靠在实验场地的画线上;
步骤1.8.3、保持相机不动,依次记录车辆距离相机不同距离的图像信息,对每一幅图像中车辆像素的宽度信息进行提取和记录;
步骤1.8.4、通过上述步骤获得若干组车辆在图像中的宽度与距离的映射组合K=(li,wi), i∈[1,20],其中li代表第i个测量点距相机的距离,wi代表在i个测量点车辆的像素宽度;
步骤1.8.5、采用不同函数对所述若干组测量点的函数关系进行回归拟合,车辆像素宽度 W与距离l的函数关系表达式如下所示:
W=905.6l-0.9246-3.472
步骤1.8.6、毫米波雷达可以精确探测到车辆的距离l,将l带入到步骤1.8.5的公式中求出车辆在图像中的像素宽度W。常见车辆宽高比的统计值为1.2,则车辆在图像中的像素高度 H=W/1.2;以毫米波雷达检测的车辆质心为中心,以求解的车辆像素宽度W和高度H为边界,建立车辆动态感兴趣区域;为了防止车辆细节的缺失对规划的感兴趣区区域再进行1.2 倍地拓展。
更进一步地,所述步骤2车辆假设验证包括以下具体步骤:
步骤2.1、训练样本采集与预处理:采用实车实验分别采集不同恶劣环境下的雷达和热成像相机的感知信息;对红外热图像的车辆目标和非车辆目标进行标注,收集正训练样本图片和负训练样本图片;
步骤2.2、训练样本增广;
步骤2.3、DPM建模与训练:随机选取80%的样本作为训练样本,20%的样本作为测试样本;训练样本被平均分成若干份,在训练时进行交叉验证;经过反复训练和迭代获得车辆检测分类器;
步骤2.4、采用多用多尺度滑动窗口对车辆感兴趣区域进行DPM特征提取,利用训练好的车辆分类器对车辆进行识别,最后采用非极大值抑制算法对车辆目标的检测边框进行回归预测。
更进一步地,所述步骤3目标融合与跟踪包括以下具体步骤:
步骤3.3、对所有检测目标的x和y分别采用最大最小值法进行归一化处理:
x=(x-xmin)/(xmax-xmin)
y=(y-ymin)/(ymax-ymin)
步骤3.4、计算任意两个传感器目标之间的代价函数值,代价矩阵的计算公式如下:
步骤3.5、根据代价函数的计算结果对两传感器的检测目标进行融合,获得有效车辆检测目标列表;
步骤3.6、雷达直接检测车辆的速度、距离、角度,热成像相机通过DPM目标检测算法获得车辆的检测边框,将检测边框的位置信息代入步骤1.4的公式中,求得实际车辆的高度、宽度,将融合后的测量信息更新到目标列表。
步骤3.7、采用卡尔曼滤波算法对融合后的车辆目标进行跟踪。
通过上述方案,本发明可带来如下有益效果:
(1)将毫米波雷达和热成像相机相结合,有利于两传感器优势互补,大大提高了恶劣天气中车辆检测的性能。一方面雷达的感知结果可以为图像提供车辆的深度信息和运动状态;另一方面基于热成像的车辆检测结果,可以协助雷达消除虚假目标,并为目标提供轮廓信息。
(2)通过传感器标定和坐标转换将毫米波雷达的车辆检测信息投影到红外热图像,快速而准确地实现车辆感兴趣区域的提取。训练后的DPM模型只需要对感兴趣区域的图像进行计算,相比于遍历整幅图像的检测算法,一方面大大提高了车辆检测的速度,另一方面也有效地避免了环境信息的干扰,有利于提高车辆检测的精度。
(3)采用像素回归拟合的思想建立了动态感兴趣区域提取窗口,提高了车辆感兴趣区域提取的精度,有效地避免了车辆特征和细节的缺失。
综上分析,本发明提出的一种智能汽车恶劣天气条件下车辆检测方法,充分利用了毫米波雷达和热成像相机的优势,一方面毫米波雷达能够全天候、全天时工作,同时毫米波雷达可以为红外热图像提供车辆的位置信息和运动状态;另一方面基于红外热成像可以抵抗夜间、雾天、雪天、雨天等恶劣天气条件,并提供车辆的轮廓、类型等毫米波雷达不能提供的信息。另外将毫米波雷达的车辆检测位置信息投影到红外热图像,可以快速而准确地实现红外图像车辆感兴趣区域的提取,有效地避免了环境信息的干扰,提高图像处理速度和精度,保证了车辆检测的实时性和准确性。
附图说明
图1为本发明一种智能汽车恶劣天气条件下车辆检测方法流程图
图2为传感器安装和坐标系定义主视图
图3为传感器安装与坐标系定义左视图
图4为毫米波雷达有效检测范围及危险区域划分示意图
图5为毫米波雷达目标映射图
图6为车辆像素宽度与距离拟合曲线图
图7为车辆动态感兴趣区域生成图
图8为车辆感兴趣区域自适应灰度增强图
具体实施方式
为了充分表达本发明的目的、技术方案和优点,结合以下附图和实施实例,对本发明实施方式进行详细说明。
本发明提出了一种智能汽车恶劣天气条件下车辆检测方法,主要解决智能汽车在夜间、雨天、雾天、雪天等恶劣环境下车辆检测困难的问题,整个方法的流程图如图1所示,具体包括如下步骤:
步骤1、车辆感兴趣区域生成。将毫米波雷达的车辆检测目标通过坐标变换投影到红外热图像,快速而准确地实现车辆感兴趣区域的提取与分割。具体包括以下步骤:
步骤1.1、如图2所示,将毫米波雷达固定在车辆前保险杠上方中央处,确保雷达发射面向外并与地面垂直,水平方向容许偏差±2°,垂直方向容许偏差±1°,离地高度为50cm。将热成像相机通过支架固定在车辆顶部中央,为保证热成像相机尽可能捕获道路信息,摄像头向地面倾斜15°。
步骤1.2、利用张定友标定法对热成像相机的内参数和外参数进行标定,根据相机成像原理和投影变换将环境中物点p(xw,yw,zw)转化到图像坐标p(u,v),转化公式如下:
步骤1.3、在本发明中定义世界坐标系与车辆坐标系相同,且其中雷达坐标系XrOrYr平面和世界坐标系的XOY平面平行,如图2和图3所示。两平面垂直方向的距离为Zo,Y方向的距离为Yo,则雷达坐标系下任意一点P(R,α),转化到车辆坐标系下可以表示为:
步骤1.4、根据步骤1.2和步骤1.3可得物点P在雷达坐标系和相机坐标系的转化关系如下所示:
步骤1.5、为了确保毫米波雷达和热成像相机信息传输时间同步,本发明基于系统本地时钟采用时间戳对齐的方式确保信息两传感器信息传输的同步。
步骤1.6、毫米波雷达通过接受障碍物的回波信号对目标进行检测,因此所检测到的障碍物除了具有潜在碰撞危险的车辆目标还包括无效目标、静止目标、非危险目标,这些目标并不影响车辆正常行驶,需要对其进行剔除,获得最终有效车辆目标。
无效目标是指由于车辆颠簸,电磁干扰等原因导致雷达回波信号不稳定所产生的虚假目标,这类目标一般持续时间较短,采用卡尔曼滤波和生命周期算法对这类目标进行过滤。
静止目标是指道路环境中的树木、护栏、绿化带等障碍物。假定本车车速为Vego,毫米波雷达探测目标的相对速度为Vv,被探测目标的绝对速度Vtar可表示为:
Vtar=Vego+Vv
由于静止目标的运动速度接近于0,设置速度阈值Vref=0.5,当探测目标的速度|Vtar|≤Vref时,该目标就会被舍弃,从而排出静止目标的干扰。
非危险目标指的是本车道和相邻车道以外的车辆目标,如图所示4。在毫米波雷达有效地检测范围内共包含车辆目标5个,其中存在潜在碰撞危险的目标只有Veh_2、Veh_3和Veh_4。Veh_1和Vec_5属于非危险目标,需要进行剔除。我国一级公路的车道宽度wroad为3.75,则横向距离的阈值wlimt为:
其中wvehicle为车辆的宽度,取道路车辆的平均宽度wvehicle=1.8m,则横向距离的阈值 wlimit=6.5m,即当雷达探测的目标横向距离|wdetection|>wlimit时,目标就会被舍弃,从而排出非危险目标的干扰。
步骤1.7、利用步骤1.4的雷达和相机的坐标转化公式,将步骤1.6筛选后的车辆有效目标投影到红外热图像,如图5所示,获得车辆目标在红外热图像中的近似位置分布。
步骤1.8、车辆感兴趣区域的大小在图像中是动态变化的,为了提高感兴趣区域提取的精度,本发明提出了一种基于像素回归的动态感兴趣区域提取方法,具体包括以下步骤:
步骤1.8.1、选择一块空旷的实验场地,保证道路长度≥100m,将道路长度均匀分成20 份,每隔5米画一条横线。
步骤1.8.2、通过对道路常见车辆进行统计发现,车辆的平均宽度为1.8,平均宽高比位 1.2。选择这类车辆作为实验车辆,并将试验车分别停靠在画好的横线上,车辆每次停靠时保证车辆尾部所在的平面与横线对齐。
步骤1.8.3、保持相机不动,依次记录车辆距离相机不同距离的图像信息。并采用图像处理工具,对每一幅图像中车辆像素的宽度信息进行提取和记录。
步骤1.8.4、通过上述实验共获得20组车辆在图像中的宽度与距离的映射组合K=(li,wi), i∈[1,20]。其中li代表第i个测量点距相机的距离,wi代表在i个测量点车辆的像素宽度。
步骤1.8.5、采用不同函数对20组测量点的函数关系进行回归拟合,拟合结果如图6所示。其中幂函数的拟合效果最好,拟合结果显示SSE为3.17,RMSE为0.4316,车辆像素宽度W与距离l的函数关系表达式如下所示:
W=905.6l-0.9246-3.472
步骤1.8.6、毫米波雷达可以精确探测到车辆的距离l,将l带入到步骤1.8.5的公式中可以求出车辆在图像中的像素宽度W。根据常见车型宽高比的统计结果可知,车辆的平均宽高比为1.2,可以求出车辆在图像中的像素高度H=W/1.2。以毫米波雷达检测的车辆质心为中心,以求解的车辆像素宽度W和高度H为边界,建立车辆动态感兴趣区域。
步骤1.8.7、考虑到车辆种类、姿态的变化以及雷达所提供的车辆质心位置存在一定的误差,为了防止车辆特征缺失和目标漏检,需要对规划的动态感兴趣区域再进行1.2倍的拓展,如图7所示。
步骤1.9、采用适应灰度增强算法对每一块提取的车辆感兴趣区域进行图像增强,提高车辆目标的辨识度,如图8所示。
步骤2、车辆假设验证。采用经典的DMP目标检测算法对车辆感兴趣区域进行假设验证,并对车辆的检测边框进行回归预测。主要包括以下步骤:
步骤2.1、训练样本采集与预处理。采用实车实验分别采集不同恶劣环境(夜间、雨天、雪天、雾天)下的雷达和热成像相机的感知信息。采用人工标注的方式,对红外热图像的车辆目标和非车辆目标进行标注,共收集正训练样本图片(车辆目标)8200张,负训练样本图片(非车辆目标)7900张。
步骤2.2、训练样本增广。为了增加训练数据,防止模型训练出现过拟合,提高模型训练精度。本发明采用以下四种方法对训练样本进行增广,具体包括:镜像翻转、改变对比度、改变亮度、自适应灰度增强。经过样本增广处理后,正训练样本有26800张,负训练样本25700 张。
步骤2.3、DPM建模与训练。本发明基于C++和OpenCV搭建DPM目标检测模型。随机选取80%的样本作为训练样本,20%的样本作为测试样本。其中80%的训练样本被平均分成5份,在训练时进行交叉验证。经过反复训练和迭代获得车辆检测分类器。
步骤2.4、采用多用多尺度滑动窗口对车辆感兴趣区域进行DPM特征提取,利用训练好的车辆分类器对车辆进行识别,最后采用非极大值抑制算法对车辆目标的检测边框进行回归预测。
步骤3、目标融合与跟踪。通过计算代价矩阵对雷达和热成像相机的检测目标进行融合,最后采用卡尔曼滤波对融合后的车辆检测目标进行跟踪。具体包括以下步骤:
步骤3.3、为了消除横坐标和纵坐标数值分布的差异,对所有检测目标的x和y分别采用最大最小值法进行归一化处理,如下所示:
x=(x-xmin)/(xmax-xmin)
y=(y-ymin)/(ymax-ymin)
步骤3.4、计算任意两个传感器目标之间的代价函数值,代价函数值越小的两个目标将会被判定为对同一目标,其中代价矩阵的计算公式如下。
步骤3.5、根据代价函数的计算结果对两传感器的检测目标进行融合,获得有效车辆检测目标列表。
步骤3.6、雷达可以直接检测车辆的速度、距离、角度,热成像相机可以通过DPM目标检测算法获得车辆的检测边框,将检测边框的位置信息代入步骤1.4的公式中,可以求得实际车辆的高度、宽度。融合后的车辆检测目标可以同时得到车辆的速度、距离、角度、宽度和高度信息。
步骤3.7、最后采用卡尔曼滤波算法对融合后的车辆目标进行跟踪。
Claims (5)
1.一种智能汽车恶劣天气条件下车辆检测方法,其特征在于,包括以下步骤:
步骤1、车辆感兴趣区域生成:分别通过毫米波雷达和热成像相机进行车辆目标检测和图像捕获;将毫米波雷达检测到的车辆目标通过坐标变换投影到热成像相机捕获的红外热图像,获得车辆检测目标在红外热图像中的近似位置分布;提取与分割车辆感兴趣区域;
步骤2、车辆假设验证:采用DMP目标检测算法对车辆感兴趣区域进行假设验证,并对车辆的检测边框进行回归预测;
步骤3、目标融合与跟踪:通过计算代价矩阵对毫米波雷达及热成像相机的车辆检测目标进行融合,最后采用卡尔曼滤波对融合后的车辆检测目标进行跟踪。
2.如权利要求1所述的一种智能汽车恶劣天气条件下车辆检测方法,其特征在于,所述步骤1车辆感兴趣区域生成具体包括以下步骤:
步骤1.1、将毫米波雷达及热成像相机分别固定在车辆指定位置;
步骤1.2、利用张定友标定法对热成像相机进行参数标定,根据相机成像原理和投影变换将环境中物点p(xw,yw,zw)转化到图像坐标p(u,v),转化公式如下:
步骤1.3、定义世界坐标系与车辆坐标系相同,且其中雷达坐标系XrOrYr平面和世界坐标系的XOY平面平行,两平面垂直方向的距离为Zo,Y方向的距离为Yo,则雷达坐标系下任意一点P(R,α),转化到车辆坐标系下可以表示为:
步骤1.4、根据步骤1.2和步骤1.3得到物点P在雷达坐标系和相机坐标系的转化关系为:
步骤1.5、采用时间戳对齐的方式确保毫米波雷达和热成像相机信息传输的同步;
步骤1.6、对毫米波雷达检测到的车辆目标进行筛选,获得有效车辆目标;
步骤1.7、利用步骤1.4的坐标转化公式,将步骤1.6筛选后的有效车辆目标投影到红外热图像,获得车辆检测目标在红外热图像中的近似位置分布;
步骤1.8、根据车辆分布对热红外图像中的车辆感兴趣区域进行动态提取;
步骤1.9、采用适应灰度增强算法对每一块提取的车辆感兴趣区域进行图像增强,提高车辆检测目标的辨识度。
3.如权利要求2所述的一种智能汽车恶劣天气条件下车辆检测方法,其特征在于,所述步骤1.8车辆感兴趣区域的动态提取具体包括以下步骤:
步骤1.8.1、选择实验场地,将道路长度均分并画线;
步骤1.8.2、选择实验车辆,并将试验车分别停靠在实验场地的画线上;
步骤1.8.3、保持相机不动,依次记录车辆距离相机不同距离的图像信息,对每一幅图像中车辆像素的宽度信息进行提取和记录;
步骤1.8.4、通过上述步骤获得若干组车辆在图像中的宽度与距离的映射组合K=(li,wi),i∈[1,20],其中li代表第i个测量点距相机的距离,wi代表在i个测量点车辆的像素宽度;
步骤1.8.5、采用不同函数对所述若干组测量点的函数关系进行回归拟合,车辆像素宽度W与距离l的函数关系表达式如下所示:
W=905.6l-0.9246-3.472
步骤1.8.6、毫米波雷达可以精确探测到车辆的距离l,将l带入到步骤1.8.5的公式中求出车辆在图像中的像素宽度W;车辆宽高比的统计值为1.2,则车辆在图像中的像素高度H=W/1.2;以毫米波雷达检测的车辆质心为中心,以求解的车辆像素宽度W和高度H为边界,建立车辆动态感兴趣区域;为了防止车辆细节的缺失,对规划的感兴趣区区域再进行1.2倍地拓展。
4.如权利要求2所述的一种智能汽车恶劣天气条件下车辆检测方法,其特征在于,所述步骤2车辆假设验证包括以下具体步骤:
步骤2.1、训练样本采集与预处理:采用实车实验分别采集不同恶劣环境下的雷达和热成像相机的感知信息;对红外热图像的车辆目标和非车辆目标进行标注,收集正训练样本图片和负训练样本图片;
步骤2.2、训练样本增广;
步骤2.3、DPM建模与训练:随机选取80%的样本作为训练样本,20%的样本作为测试样本;训练样本被平均分成若干份,在训练时进行交叉验证;经过反复训练和迭代获得车辆检测分类器;
步骤2.4、采用多用多尺度滑动窗口对车辆感兴趣区域进行DPM特征提取,利用训练好的车辆分类器对车辆进行识别,最后采用非极大值抑制算法对车辆目标的检测边框进行回归预测。
5.如权利要求4所述的一种智能汽车恶劣天气条件下车辆检测方法,其特征在于,所述步骤3目标融合与跟踪包括以下具体步骤:
步骤3.3、对所有检测目标的x和y分别采用最大最小值法进行归一化处理:
x=(x-xmin)/(xmax-xmin)
y=(y-ymin)/(ymax-ymin)
步骤3.4、计算任意两个传感器目标之间的代价函数值,代价矩阵的计算公式如下:
步骤3.5、根据代价函数的计算结果对两传感器的检测目标进行融合,获得有效车辆检测目标列表;
步骤3.6、雷达直接检测车辆的速度、距离、角度,热成像相机通过DPM目标检测算法获得车辆的检测边框,将检测边框的位置信息代入步骤1.4的公式中,求得实际车辆的高度、宽度,将融合后的测量信息更新到目标列表;
步骤3.7、采用卡尔曼滤波算法对融合后的车辆目标进行跟踪。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010151618.3A CN111369541B (zh) | 2020-03-06 | 2020-03-06 | 一种智能汽车恶劣天气条件下车辆检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010151618.3A CN111369541B (zh) | 2020-03-06 | 2020-03-06 | 一种智能汽车恶劣天气条件下车辆检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111369541A true CN111369541A (zh) | 2020-07-03 |
CN111369541B CN111369541B (zh) | 2022-07-08 |
Family
ID=71210360
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010151618.3A Active CN111369541B (zh) | 2020-03-06 | 2020-03-06 | 一种智能汽车恶劣天气条件下车辆检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111369541B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111967525A (zh) * | 2020-08-20 | 2020-11-20 | 广州小鹏汽车科技有限公司 | 一种数据处理的方法及装置、服务器、存储介质 |
CN112508081A (zh) * | 2020-12-02 | 2021-03-16 | 王刚 | 车辆识别方法、装置及计算机可读存储介质 |
CN112580695A (zh) * | 2020-12-02 | 2021-03-30 | 王刚 | 一种车型识别方法、装置、存储介质及电子设备 |
CN112633274A (zh) * | 2020-12-21 | 2021-04-09 | 中国航天空气动力技术研究院 | 一种声呐图像目标检测方法、装置、电子设备 |
CN112950671A (zh) * | 2020-08-06 | 2021-06-11 | 郑锴 | 一种无人机对运动目标实时高精度参数测量方法 |
CN113449632A (zh) * | 2021-06-28 | 2021-09-28 | 重庆长安汽车股份有限公司 | 一种基于融合感知的视觉与雷达感知算法优化方法、系统及汽车 |
CN113608355A (zh) * | 2021-08-06 | 2021-11-05 | 湖南龙特科技有限公司 | 一种基于毫米波雷达和红外热成像仪的交互式显示方式 |
CN113655460A (zh) * | 2021-10-18 | 2021-11-16 | 长沙莫之比智能科技有限公司 | 一种基于毫米波雷达的雨雪杂波识别方法 |
US11231498B1 (en) | 2020-07-21 | 2022-01-25 | International Business Machines Corporation | Concealed object detection |
CN114062961A (zh) * | 2021-11-17 | 2022-02-18 | 吉林大学 | 一种基于occ的自动驾驶车辆多特征解调方法 |
CN114155501A (zh) * | 2021-12-03 | 2022-03-08 | 北京理工大学 | 一种无人车在烟雾遮挡环境下的目标检测方法 |
CN116071707A (zh) * | 2023-02-27 | 2023-05-05 | 南京航空航天大学 | 一种机场特种车辆识别方法及系统 |
CN117495695A (zh) * | 2023-11-10 | 2024-02-02 | 苏州清研浩远汽车科技有限公司 | 基于毫米波和红外图像融合的低光照环境检测系统 |
CN117538860A (zh) * | 2023-11-24 | 2024-02-09 | 广州大学 | 一种室内浓雾环境下的伪三维雷达数据生成方法 |
CN117930224A (zh) * | 2024-03-19 | 2024-04-26 | 山东科技大学 | 一种基于单目视觉深度估计的车辆测距方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103324936A (zh) * | 2013-05-24 | 2013-09-25 | 北京理工大学 | 一种基于多传感器融合的车辆下边界检测方法 |
US20130335569A1 (en) * | 2012-03-14 | 2013-12-19 | Honda Motor Co., Ltd. | Vehicle with improved traffic-object position detection |
CN104637059A (zh) * | 2015-02-09 | 2015-05-20 | 吉林大学 | 基于毫米波雷达和机器视觉的夜间前方车辆检测方法 |
CN104777835A (zh) * | 2015-03-11 | 2015-07-15 | 武汉汉迪机器人科技有限公司 | 一种全向自动叉车及3d立体视觉导航定位方法 |
US20160238703A1 (en) * | 2015-02-16 | 2016-08-18 | Panasonic Intellectual Property Management Co., Ltd. | Object detection apparatus and method |
CN107609522A (zh) * | 2017-09-19 | 2018-01-19 | 东华大学 | 一种基于激光雷达和机器视觉的信息融合车辆检测系统 |
CN110532896A (zh) * | 2019-08-06 | 2019-12-03 | 北京航空航天大学 | 一种基于路侧毫米波雷达和机器视觉融合的道路车辆检测方法 |
-
2020
- 2020-03-06 CN CN202010151618.3A patent/CN111369541B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130335569A1 (en) * | 2012-03-14 | 2013-12-19 | Honda Motor Co., Ltd. | Vehicle with improved traffic-object position detection |
CN103324936A (zh) * | 2013-05-24 | 2013-09-25 | 北京理工大学 | 一种基于多传感器融合的车辆下边界检测方法 |
CN104637059A (zh) * | 2015-02-09 | 2015-05-20 | 吉林大学 | 基于毫米波雷达和机器视觉的夜间前方车辆检测方法 |
US20160238703A1 (en) * | 2015-02-16 | 2016-08-18 | Panasonic Intellectual Property Management Co., Ltd. | Object detection apparatus and method |
CN104777835A (zh) * | 2015-03-11 | 2015-07-15 | 武汉汉迪机器人科技有限公司 | 一种全向自动叉车及3d立体视觉导航定位方法 |
CN107609522A (zh) * | 2017-09-19 | 2018-01-19 | 东华大学 | 一种基于激光雷达和机器视觉的信息融合车辆检测系统 |
CN110532896A (zh) * | 2019-08-06 | 2019-12-03 | 北京航空航天大学 | 一种基于路侧毫米波雷达和机器视觉融合的道路车辆检测方法 |
Non-Patent Citations (4)
Title |
---|
DEOKKYU KIM 等: "Extrinsic parameter calibration of 2D radar-camera using point matching and generative optimization", 《2019 19TH INTERNATIONAL CONFERENCE ON CONTROL, AUTOMATION AND SYSTEMS (ICCAS)》 * |
ZHANGUWANG 等: "A new scheme of vehicle detection for severe weather based on multi-sensor fusion", 《MEASUREMENT》 * |
刘禹希: "基于机器视觉的智能驾驶车辆的目标识别研究", 《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》 * |
张书玮 等: "基于机器视觉和雷达数据融合的变电站巡检机器人自主导航方法研究", 《中国优秀硕士学位论文全文数据库 工程科技Ⅱ辑》 * |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11231498B1 (en) | 2020-07-21 | 2022-01-25 | International Business Machines Corporation | Concealed object detection |
US11774580B2 (en) | 2020-07-21 | 2023-10-03 | International Business Machines Corporation | Concealed object detection |
WO2022017005A1 (en) * | 2020-07-21 | 2022-01-27 | International Business Machines Corporation | Concealed object detection |
CN112950671B (zh) * | 2020-08-06 | 2024-02-13 | 中国人民解放军32146部队 | 一种无人机对运动目标实时高精度参数测量方法 |
CN112950671A (zh) * | 2020-08-06 | 2021-06-11 | 郑锴 | 一种无人机对运动目标实时高精度参数测量方法 |
CN111967525A (zh) * | 2020-08-20 | 2020-11-20 | 广州小鹏汽车科技有限公司 | 一种数据处理的方法及装置、服务器、存储介质 |
CN112580695A (zh) * | 2020-12-02 | 2021-03-30 | 王刚 | 一种车型识别方法、装置、存储介质及电子设备 |
CN112508081A (zh) * | 2020-12-02 | 2021-03-16 | 王刚 | 车辆识别方法、装置及计算机可读存储介质 |
CN112633274A (zh) * | 2020-12-21 | 2021-04-09 | 中国航天空气动力技术研究院 | 一种声呐图像目标检测方法、装置、电子设备 |
CN113449632A (zh) * | 2021-06-28 | 2021-09-28 | 重庆长安汽车股份有限公司 | 一种基于融合感知的视觉与雷达感知算法优化方法、系统及汽车 |
CN113449632B (zh) * | 2021-06-28 | 2023-04-07 | 重庆长安汽车股份有限公司 | 一种基于融合感知的视觉与雷达感知算法优化方法、系统及汽车 |
CN113608355A (zh) * | 2021-08-06 | 2021-11-05 | 湖南龙特科技有限公司 | 一种基于毫米波雷达和红外热成像仪的交互式显示方式 |
CN113608355B (zh) * | 2021-08-06 | 2023-07-21 | 湖南龙特科技有限公司 | 一种基于毫米波雷达和红外热成像仪的交互式显示方式 |
CN113655460A (zh) * | 2021-10-18 | 2021-11-16 | 长沙莫之比智能科技有限公司 | 一种基于毫米波雷达的雨雪杂波识别方法 |
CN113655460B (zh) * | 2021-10-18 | 2022-01-07 | 长沙莫之比智能科技有限公司 | 一种基于毫米波雷达的雨雪杂波识别方法 |
CN114062961A (zh) * | 2021-11-17 | 2022-02-18 | 吉林大学 | 一种基于occ的自动驾驶车辆多特征解调方法 |
CN114062961B (zh) * | 2021-11-17 | 2023-08-08 | 吉林大学 | 一种基于occ的自动驾驶车辆多特征解调方法 |
CN114155501A (zh) * | 2021-12-03 | 2022-03-08 | 北京理工大学 | 一种无人车在烟雾遮挡环境下的目标检测方法 |
CN116071707B (zh) * | 2023-02-27 | 2023-11-28 | 南京航空航天大学 | 一种机场特种车辆识别方法及系统 |
CN116071707A (zh) * | 2023-02-27 | 2023-05-05 | 南京航空航天大学 | 一种机场特种车辆识别方法及系统 |
CN117495695A (zh) * | 2023-11-10 | 2024-02-02 | 苏州清研浩远汽车科技有限公司 | 基于毫米波和红外图像融合的低光照环境检测系统 |
CN117495695B (zh) * | 2023-11-10 | 2024-05-03 | 苏州清研浩远汽车科技有限公司 | 基于毫米波和红外图像融合的低光照环境检测系统 |
CN117538860A (zh) * | 2023-11-24 | 2024-02-09 | 广州大学 | 一种室内浓雾环境下的伪三维雷达数据生成方法 |
CN117930224A (zh) * | 2024-03-19 | 2024-04-26 | 山东科技大学 | 一种基于单目视觉深度估计的车辆测距方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111369541B (zh) | 2022-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111369541B (zh) | 一种智能汽车恶劣天气条件下车辆检测方法 | |
CN110244322B (zh) | 基于多源传感器的路面施工机器人环境感知系统及方法 | |
CN112215306B (zh) | 一种基于单目视觉与毫米波雷达融合的目标检测方法 | |
CN110487562B (zh) | 一种用于无人驾驶的车道保持能力检测系统及方法 | |
CN113156421A (zh) | 基于毫米波雷达和摄像头信息融合的障碍物检测方法 | |
CN109359409A (zh) | 一种基于视觉与激光雷达传感器的车辆可通过性检测系统 | |
CN108983219A (zh) | 一种交通场景的图像信息和雷达信息的融合方法及系统 | |
CN105488454A (zh) | 基于单目视觉的前方车辆检测与测距 | |
CN104778444A (zh) | 道路场景下车辆图像的表观特征分析方法 | |
CN113848545B (zh) | 一种基于视觉和毫米波雷达的融合目标检测和跟踪方法 | |
CN113822221A (zh) | 一种基于对抗神经网络和多传感器融合的目标检测方法 | |
CN116978009A (zh) | 基于4d毫米波雷达的动态物体滤除方法 | |
CN114693909A (zh) | 一种基于多传感器机器视觉融合的微观车辆轨迹感知设备 | |
CN115327572A (zh) | 一种车辆前方障碍物检测方法 | |
CN116413725A (zh) | 一种基于摄像头与毫米波雷达数据融合的障碍物检测方法 | |
CN107220632B (zh) | 一种基于法向特征的路面图像分割方法 | |
CN116699602A (zh) | 一种基于毫米波雷达和相机融合的目标检测系统及方法 | |
Wang et al. | An improved hough transform method for detecting forward vehicle and lane in road | |
CN112733678A (zh) | 测距方法、装置、计算机设备和存储介质 | |
CN117710918A (zh) | 一种车道线检测方法和系统 | |
Deshpande et al. | Vehicle classification | |
CN115100618B (zh) | 一种多源异构感知信息多层级融合表征与目标识别方法 | |
Serfling et al. | Camera and imaging radar feature level sensorfusion for night vision pedestrian recognition | |
CN117334040A (zh) | 一种跨域路侧感知多车辆关联方法及系统 | |
CN112883813B (zh) | 一种基于监控视频的高速公路路面抛洒物检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |