CN113538283B - 一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 - Google Patents
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 Download PDFInfo
- Publication number
- CN113538283B CN113538283B CN202110829146.7A CN202110829146A CN113538283B CN 113538283 B CN113538283 B CN 113538283B CN 202110829146 A CN202110829146 A CN 202110829146A CN 113538283 B CN113538283 B CN 113538283B
- Authority
- CN
- China
- Prior art keywords
- image
- distortion
- resp
- correction
- distortion correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012937 correction Methods 0.000 title claims abstract description 121
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000013507 mapping Methods 0.000 claims abstract description 47
- 238000003384 imaging method Methods 0.000 claims abstract description 33
- 230000003287 optical effect Effects 0.000 claims abstract description 29
- 239000011159 matrix material Substances 0.000 claims abstract description 16
- 230000009466 transformation Effects 0.000 claims description 20
- YBJHBAHKTGYVGT-ZKWXMUAHSA-N (+)-Biotin Chemical compound N1C(=O)N[C@@H]2[C@H](CCCCC(=O)O)SC[C@@H]21 YBJHBAHKTGYVGT-ZKWXMUAHSA-N 0.000 claims description 17
- FEPMHVLSLDOMQC-UHFFFAOYSA-N virginiamycin-S1 Natural products CC1OC(=O)C(C=2C=CC=CC=2)NC(=O)C2CC(=O)CCN2C(=O)C(CC=2C=CC=CC=2)N(C)C(=O)C2CCCN2C(=O)C(CC)NC(=O)C1NC(=O)C1=NC=CC=C1O FEPMHVLSLDOMQC-UHFFFAOYSA-N 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000009434 installation Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 19
- 238000004519 manufacturing process Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 239000000446 fuel Substances 0.000 description 2
- 241000251468 Actinopterygii Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 208000001491 myopia Diseases 0.000 description 1
- 230000004379 myopia Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本发明提供一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,包括对拍摄的图像进行二次畸变矫正,通过利用光学畸变参数映射表对畸变图像进行第一畸变矫正后获取获得第一畸变矫正图像,在第二矫正中,通过获取预设靶图的特征点在第一畸变矫正图像的对应的第一坐标点以及在差异矫正平面对应的第一坐标点,利用透视变化,求解单应性矩阵Hdapos,利用单应性矩阵Hdapos进行反变化对第一畸变的图像进行第二次畸变矫正。通过对冗余鱼眼摄像头拍摄的图像进行二次畸变校正,能够获取较好的成像效果好并且极大降低计算量。
Description
技术领域
本发明涉及摄像头领域,尤其涉及一种冗余鱼眼摄像头拍摄图像的畸变矫正方法。
背景技术
现有汽车中,汽车相同区域的位置的摄像头都只有一个,当有摄像头发生毁坏时或镜头被污染时,就会缺乏相应位置的图像,无法完成智能汽车的某些功能,如环视拼接、倒车影像等。另外,为了扩大相机成像范围,现有智能汽车中,又采用鱼眼相机进行拍摄已获得较大范围的成像图,但是鱼眼相机拍摄时会发生畸变,使得最终拍摄的图像发生扭曲,因此需要对鱼眼相机进行畸变矫正。畸变矫正目前技术已经较为成熟,现有的惯常手段的畸变矫正方案已经被opencv固化,其采用多项式对r(θ)≈k0θ+k1θ3+k2θ5+k3θ7+k4θ9对鱼眼相机进行矫正,k0、k1、k2、k3、k4为畸变矫正系数,但是这种畸变矫正是假设相机符合理想的鱼眼相机模型的基础上进行。但是实际上,鱼眼相机由于受制于加工条件限制,相机模组在加工对位以及组装时,仍然存在较大的误差。为了解决这种缺陷,本申请发明人在专利(CN107248178B)一种基于畸变参数的鱼眼相机标定方法,考虑了鱼眼相机生产过程中的物方场角度和实际像高度,但是其计算过程中伴随着多个复杂的矩阵运算使其计算量增大,消耗资源多,在车载主机采用嵌入式硬件的情况下使得运行效率低下。另外,申请人在针对冗余鱼眼摄像头的研究过程中通过的大量的偶然发现,冗余鱼眼摄像头的安装位置存在空间差异,导致拍摄视场图像存在差异以及生产过程中存在精度差异,导致按照现有的畸变矫正方法进行矫正后的图像仍然存在畸变。
发明内容
基于现有技术中存在的缺陷,本发明提供一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,至少包括:
第一次畸变矫正,通过冗余鱼眼摄像头获取垂直于地面的预设靶图成像后的畸变图像,利用光学畸变参数映射表对畸变图像进行第一畸变矫正后获取第一畸变矫正图像;
第二次畸变矫正,建立差异矫正平面坐标系,分别获取预设靶图的特征点在第一畸变矫正图像的对应的第一坐标点以及在差异矫正平面对应的第一坐标点,利用透视变换,求解单应性矩阵Hdapos,利用单应性矩阵Hdapos进行反透视变换对第一畸变的图像进行第二次畸变矫正。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,在第二次畸变矫正中,获取单应性矩阵Hdapos并利用反透视变换将建立差异矫正平面对应的所有第一坐标点在第一畸变矫正图像对应第二坐标点,获取第二坐标点在第一畸变矫正图像对应的像素值,并将像素值赋值给第一坐标点。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,在差异矫正平面坐标系,预设靶图的特征点(Txn,Tyn)在差异矫正平面对应的第一坐标(Rxn,Ryn)的映射函数为:
Rxn=Txn×SC+OFSTx
Ryn=Tyn×SC+OFSTy
其中,SC为平面坐标尺度变换因子,OFSTx和OFSTy分别为水平和垂直像素偏移量。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,第二次畸变矫正还包括:
步骤S101,通过冗余鱼眼摄像头获取垂直于地面的预设靶图,获取预设靶图中多个特征点在靶图平面的实际物理坐标(Txn,Tyn);
步骤S102,根据实际物理坐标(Txn,Tyn),求解经过畸变校正后实际拍摄面U中与实际物理坐标(Txn,Tyn)相对应的特征点的像素坐标(RESPxn,RESPyn);
步骤S103,建立差异矫正平面坐标系,求解与靶图中多个特征点的坐标映射到差异矫正平面坐标系下相对应的特征点坐标(Rxn,Ryn);
步骤S104,根据透视变换,求解(Rxn,Ryn)至(RESPxn,RESPyn)的单应性矩阵Hdapos:
透视变换:
Hdapos:
其中,h1、h2、h3、h4、h5、h6、h7、h8代表矩阵中的元素值;
步骤S105,再次利用透视变换变化,将差异矫正图像所有像素坐标(Rxi,Ryi)替换(Rxn,Ryn),利用步骤S104中求出的Hdapos,计算出对应的畸变矫正后图像的对应坐标(RESPxi,RESPyi)。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,其中,第一次畸变矫正包括:
步骤S1,获取车载以太网摄像头的光学畸变参数,光学畸变参数包括摄像头镜头指定CMOS芯片条件下的实验模组进行实际实验环境图像采集的离散视场角度θ与其对应像高γ的映射表;
步骤S2,根据小孔成像原理,建立实际拍摄平面U各个像素点对应到成像面I上鱼眼图像的各个点的空间坐标关系,建立离散视场角度θ与物高λ的第一映射函数;
λ=tan(θ)
步骤S3,根据光学畸变参数映射表,构建像高γ与离散视场角度θ第二映射函数θ=G(γ);
步骤S4,根据成像几何关系,求解实际拍摄平面U与对应的矫正成像面、畸变成像面之间的矫正缩放因子SU和畸变缩放因子SI;
步骤S5:利用第一映射函数、第二映射函数以及矫正缩放因子SU和畸变缩放因子SI,建立矫正后的无畸变图像的像素级坐标RESPx,RESPy与畸变图像的像素级坐标RESp′x,RESp′y的对应第三映射函数,并将RESp′x,RESp′y坐标位置的像素值赋值给RESPx,RESPy表示的坐标位置,从而获取畸变矫正后的图像。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,在步骤S2中,对于任意角度θ,满足θ(n)≤θ≤θ(n+1);在光学畸变参数映射表中,查找θ(n)、θ(n+1)相对应的γ(n)与γ(n+1),则与θ对应的γ应满足满足γ(n)≤γ≤γ(n+1);
其中n为像素点的序号,θ(n)、θ(n+1)表示相邻离散角度,γ(n)、γ(n+1)表示相邻像高,θ(n)、θ(n+1)、γ(n)、γ(n+1)根据已知θ或γ从光学畸变参数映射表中查找获得。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,步骤S3中,视场角度θ与像高γ的第一映射函数的计算公式包括:
当γ为已知时,
当θ为已知时,
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,矫正缩放因子SU的计算公式为:
畸变缩放因子SI计算公式为:
其中,RESHI表示实际鱼眼畸变图像最大水平分辨率,RESHU表示畸变矫正图像最大水平分辨率,γmax摄像头的CMOS成像面水平方向最大宽度的一半。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,RESPx,RESPy与RESp′x,RESp′y的对应第三映射函数为:
其中,γ为P点的对应的像高,γmax为摄像头的CMOS成像面水平方向最大宽度的一半;为点P与拍摄平面U的中心O点的连线与水平方向的夹角,RESHI、RESVI表示实际鱼眼畸变图像最大水平分辨率和最大垂直分辨率,RESHU、RESVU表示畸变矫正图像最大水平分辨率和最大垂直分辨率。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,步骤S5中,(RESp′x,RESp′y)的位置像素值由其相邻周围像素值进行插值获取。
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,像素值VALp的插值获取具体包括:获取(RESp′x,RESp′y)周围距离最近的4个像素点坐标
获取p0、p1、p2、p3对应的像素值分别为VALp0、VALp1、VALp2、VALp3;
计算p0、p1、p2、p3相应的权重系数:
根据权重系数计算出像素值VALp:
VALp=VALp0×w0+VALp1×w1+VALp2×w2+VALp4×w3
一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,进一步地,冗余鱼眼摄像头包括多个摄像头并且安装在同一区域,对同一安装区域所有摄像头进行第一次畸变矫正和第二次畸变矫正获得最终图像。
有益效果:
1.本发明的实施方案中,通过对冗余鱼眼摄像头拍摄的图像进行二次畸变校正,能够获取较好的成像效果。
2.本发明的实施方案中,在第一次鱼眼摄像头的畸变校正过程中,并未采用传统的多项式对鱼眼摄像头的成像进行畸变矫正,而是通过在基于离散视场角度与其对应像高的畸变参数的基础上,进一步假设实际的离散视场角度与像高近视满足预设的关系式,避免传统方法中求解高次函数增加复杂的计算量。矫正结果表明,通过次方法,也能够获得较好的畸变矫正效果。
3.本发明的实施方案中,在第二次畸变过程中,通过建立差异矫正平面,根据差异矫正平面的坐标的特征点与第一畸变校正过程中的特征点的关系,能够消除不同的摄像头在生产过程中由于生产工艺精度也必然导致成像面与CMOS平面存在一定的光心偏移和焦平面角度误差。
附图说明
以下附图仅对本发明做示意性说明和解释,并不限定本发明的范围。
图1为本发明一实施例中LENS配型指定CMOS的情况下的实验模组进行实际实验环境图像采集得出的离散视场角度与其对应像高的映射表。
图2为本发明一实施例中鱼眼摄像头的成像模型原理示意图。
图3为本发明一实施例中鱼眼摄像头拍摄的未畸变矫正的棋盘格图片。
图4为本发明一实施例中经过第一次畸变矫正的棋盘格图片。
图5为本发明一实施例中经过第二次畸变矫正的图片。
具体实施方式
为了对本文的技术特征、目的和效果有更加清楚的理解,现对照附图说明本发明的具体实施方式,在各图中相同的标号表示相同的部分。为使图面简洁,各图中的示意性地表示出了与本发明相关部分,而并不代表其作为产品的实际结构。另外,为使图面简洁便于理解,在有些图中具有相同结构或功能的部件,仅示意性地绘示了其中的一个,或仅标出了其中的一个。
关于控制系统,功能模块、应用程序(APP)本领域技术人员熟知的是,其可以采用任何适当的形式,既可以是硬件也可以是软件,既可以是离散设置的多个功能模块,也可以是集成到一个硬件上的多个功能单元。作为最简单的形式,所述控制系统可以是控制器,例如组合逻辑控制器、微程序控制器等,只要能够实现本申请描述的操作即可。当然,控制系统也可以作为不同的模块集成到一个物理设备上,这些都不偏离本发明的基本原理和保护范围。
本发明中“连接”,即可包括直接连接、也可以包括间接连接、通信连接、电连接,特别说明除外。
本文中所使用的术语仅为了描述特定实施方案的目的并且不旨在限制本公开。如本文中所使用地,单数形式“一个”、“一种”、以及“该”旨在也包括复数形式,除非上下文明确地另作规定。还将理解的是,当在说明书中使用时,术语“包括”和/或“包含”是指存在有所陈述的特征、数值、步骤、操作、元件和/或组分,但是并不排除存在有或额外增加一个或多个其它的特征、数值、步骤、操作、元件、组分和/或其组成的群组。作为在本文中所使用的,术语“和/或”包括列举的相关项的一个或多个的任何和全部的组合
应当理解,此处所使用的术语“车辆”或“车辆的”或其它类似术语一般包括机动车辆,例如包括运动型多用途车辆(SUV)、公共汽车、卡车、各种商用车辆的乘用汽车,包括各种舟艇、船舶的船只,航空器等等,并且包括混合动力车辆、电动车辆、可插式混合动力电动车辆、氢动力车辆以及其它替代性燃料车辆(例如源于非石油的能源的燃料)。正如此处所提到的,混合动力车辆是具有两种或更多动力源的车辆,例如汽油动力和电力动力两者的车辆。
此外,本公开的控制器可被具体化为计算机可读介质上的非瞬态计算机可读介质,该计算机可读介质包含由处理器、控制器或类似物执行的可执行程序指令。计算机可读介质的示例包括,但不限于,ROM、RAM、光盘(CD)-ROM、磁带、软盘、闪存驱动器、智能卡和光学数据存储设备。计算机可读记录介质也可分布在通过网络耦合的计算机系统中,使得计算机可读介质例如通过远程信息处理服务器或控制器区域网络(CAN)以分布式方式存储和执行。
本实施例提供冗余鱼眼摄像头,冗余鱼眼摄像头安装在车内,冗余鱼眼摄像头安装在车身上的不同区域,如前、后、左、右的位置。
在车身左边的位置,冗余鱼眼摄像头安装左边车身的相同的区域,当其中一个摄像头被污染或损坏时,自动切换另外一个摄像头进行使用,提高可靠性。
冗余鱼眼摄像头可以包括二个或多个;
为了扩大拍摄角度,摄像头选用鱼眼摄像头。
图像数据传输采用车载以太网协议和TSN协议,以获得高传输距离和大流量传输;
本实施例提供冗余鱼眼摄像头拍摄图像的畸变矫正方法,具体包括:
第一次畸变矫正,通过冗余鱼眼摄像头获取垂直于地面的预设靶图成像的后的畸变图像,利用光学畸变参数映射表对畸变图像进行第一畸变矫正后获取获得第一畸变矫正图像;
第二次畸变矫正,建立差异矫正平面坐标系,分别获取预设靶图的特征点在第一畸变矫正图像的对应的第一坐标点以及在差异矫正平面对应的第一坐标点,利用透视变换,求解单应性矩阵Hdapos,利用单应性矩阵Hdapos进行反透视变换对第一畸变的图像进行第二次畸变矫正。
第一次畸变矫正具体包括:
车载以太网摄像头基本选择鱼眼镜头,镜头LENS供应商对该款镜头会提供光学畸变参数映射表,光学畸变参数映射表为LENS配型指定CMOS的情况下的实验模组进行实际实验环境图像采集得出的离散视场角度与其对应像高的映射表如图1。
获取车载以太网摄像头的光学畸变参数,光学畸变参数包括摄像头镜头指定CMOS芯片条件下的实验模组进行实际实验环境图像采集的离散视场角度θ与其对应像高γ的映射表;
根据小孔成像原理,建立实际拍摄平面U各个像素点对应到成像面I上鱼眼图像的各个点的空间坐标关系,建立离散视场角度θ与物高λ的第一映射函数;
具体地,参见图2,
物高为λ,图1中光学畸变参数映射表的角度θ单位为度,像高γ单位为mm。
设LENS光心到实际拍摄平面距离为1,满足关系,则:
λ = tan(θ),(γ -> θ) 公式(1)
θ= arctan(λ),(θ ->γ) 公式(2)
第一映射函数:λ=tan(θ)
根据光学畸变参数映射表,构建像高γ与离散视场角度θ第二映射函数θ=G(γ),
具体地,在本实施例中,假设:
对于任意角度θ,满足θ(n)≤θ≤θ(n+1);在光学畸变参数映射表中,查找θ(n)、θ(n+1)相对应的γ(n)与γ(n+1),则与θ对应的γ应满足满足γ(n)≤γ≤γ(n+1);
其中n为像素点的序号,θ(n)、θ(n+1)表示相邻离散角度,γ(n),γ(n+1)相邻像高,θ(n)、θ(n+1)、γ(n)、γ(n+1)根据已知θ或γ从光学畸变参数映射表中查找获得;
当γ为已知时,
当θ为已知时,
根据成像几何关系,求解实际拍摄平面U与对应的矫正成像面、畸变成像面之间的矫正缩放因子SU和畸变缩放因子SI;
具体包括:
设此时OP连线与水平方向夹角为ψ,ψ的取值范围为0~180度,则P点在实际拍摄平面U上面的水平坐标Px和垂直坐标Py和p′点在成像面I上面的水平坐标p′x和垂直坐标p′y满足关系,:
Px=λ×cos(ψ),Py=λ×sin(ψ) 公式(5)
p′x=γ×cos(ψ),p′y=γ×sin(ψ) 公式(6)
选择实际以太网摄像头的CMOS成像面水平方向最大宽度2γmax和实际鱼眼畸变图像最大水平分辨率RESHI、最大垂直分辨率RESVI和畸变矫正图像最大水平分辨率RESHU、最大垂直分辨率RESVU,带入式1,式2,即可得到无畸变实际拍摄图像的λmax和畸变缩放因子SI和矫正缩放因子SU,满足关系:
利用第一映射函数、第二映射函数以及矫正缩放因子SU和畸变缩放因子SI,建立矫正后的无畸变图像的像素级坐标RESPx,RESPy与畸变图像的像素级坐标RESp′x,RESp′y的对应第三映射函数,并将RESp′x,RESp′y坐标位置的像素值赋值给RESPx,RESPy的表示的坐标位置,从而获取畸变矫正后的图像。
具体包括:
成像面鱼眼畸变图像的像素级坐标RESp′x,RESp′y和实际拍摄面无畸变图像的像素级坐标RESPx,RESPy满足关系,
将公式(9)与公式(11)的等式两边分别相除,将公式(1),公式(5)、公式(6)、公式(7)和公式(8)代入,获取RESPx与RESp′x的对应第三映射函数:
同理:将公式(10)与公式(12)的等式两边分别相除,将公式(1),公式(5)、公式(6)、公式(7)和公式(8)代入,获取RESPy与RESp′y的对应第三映射函数:
其中,γ为P点的对应的像高,γmax摄像头的CMOS成像面水平方向最大宽度的一半;为点P与拍摄平面U的中心O点的连线与水平方向的夹角,RESHI、RESVI表示实际鱼眼畸变图像最大水平分辨率和最大垂直分辨率,RESHU、RESVU表示畸变矫正图像最大水平分辨率最大水平分辨率和最大垂直分辨率。
以某款CMOS水平长度4mm为例,成像面刚刚覆盖完CMOS水平方向时,成像的鱼眼畸变图片水平分辨率RESHI为1280个像素,此时op在水平方向上对应的γmax为2;
设光学畸变参数映射表最小精度满足γ(n)≤γ≤γ(n+1)时的γ(n)为1.95;
γ(n+1)为2.03,θ(n)为55.5,θ(n+1)为56,
则带入式1,式2可得此时实际拍摄平面U上面OP在水平方向上对应点P的λmax为1.4721,
设实际拍摄无畸变图像水平分辨率RESHU为1280像素,则根据式4可得SI为320,SU为434.75。
畸变矫正的图像即实际拍摄面U图像,其上任意像素点坐标(RESPx,RESPy)带入式公式(14)和公式(15),则可以求取到鱼眼畸变图像即成像面I图像对应的像素点坐标(RESp′x,RESp′y),由于图像像素坐标为整数,计算得到的对应像素点坐标为浮点数(RESpx,RESpy),因此实际P点的像素值可由p′点的周围像素值进行估值获取;
具体的估算方法如下:
(RESp′x,RESp′y)为浮点时,其周围距离最近的4个像素点p0、p1、p2、p3坐标分别为
获取p0、p1、p2、p3对应的像素值分别为VALp0、VALp1、VALp2、VALp3;计算p0、p1、p2、p3相应的权重系数:
根据权重系数计算出像素值VALp:
VALp=VALp0×w0+VALp1×w1+VALp2×w2+VALp4×w3
按照畸变矫正图像的图像分辨率遍历P点像素坐标(RESPx,RESPy)并计算出对应的鱼眼畸变图像p′点的像素坐标(RESp′x,RESp′y),将P点的像素值赋为p′点插值计算出的VALp,则完成了鱼眼基本图像的第一次畸变矫正。鱼眼畸变图像如图3,畸变矫正图像如图4。
冗余鱼眼摄像头安装位置必然存在空间差异,因此其拍摄视场图像必然存在差异,且不同的以太网摄像头在生产过程中由于生产工艺精度也必然导致成像面与CMOS平面存在一定的光心偏移和焦平面角度误差,这都导致按照既定畸变矫正数学模型将鱼眼畸变图像还原为畸变矫正图像的误差。
冗余鱼眼摄像头差异矫正将冗余的不同以太网摄像头的畸变矫正图像ROI区域差异进行最大限度的消除。
因此,需要在第一次畸变矫正图像的基础上进行第二次畸变矫正;
第二次畸变校正,建立差异矫正平面坐标系,分别获取预设靶图的特征点在第一畸变校正图像的对应的第一坐标点以及在差异矫正平面对应的第一坐标点,利用透视变换,求解单应性矩阵Hdapos,利用单应性矩阵Hdapos进行反透视变换对第一畸变的图像进行第二次畸变校正。
在第二次畸变校正中,利用单应性矩阵Hdapos利用反透视变换将建立差异矫正平面对应的所有第一坐标点在第一畸变校正图像对应第二坐标点,获取第二坐标点在第一畸变校正图像对应的像素值,并将像素值赋值给第一坐标点。
在差异矫正平面坐标系,预设靶图的特征点(Txn,Tyn)在在差异矫正平面对应的第一坐标(Rxn,Ryn)的映射函数为:
Rxn=Txn×SC+OFSTx
Ryn=Tyn×SC+OFSTy
其中,SC为平面坐标尺度变换因子,OFSTx和OFSTy分别为水平和垂直像素偏移量;
步骤S101,通过冗余鱼眼摄像头获取垂直于地面的预设靶图,获取预设靶图中多个特征点在靶图平面的实际物理坐标(Txn,Tyn);
步骤S102,根据实际物理坐标(Txn,Tyn),求解经过畸变校正后实际拍摄面U中与实际物理坐标(Txn,Tyn)相对应的特征点的像素坐标(RESPxn,RESPyn);
步骤S103,建立差异矫正平面坐标系,求解与靶图中多个特征点的坐标映射到差异矫正平面坐标系下相对应的特征点坐标(Rxn,Ryn);
步骤S104,根据透视变换,求解(Rxn,Ryn)至(RESPxn,RESPyn)的单应性矩阵Hdapos:
透视变换:
Hdapos:
步骤S105,再次利用透视变换变化,将差异矫正图像所有像素坐标(Rxi,Ryi)带入式7替换(Rxn,Ryn),利用步骤S104中求出的Hdapos,计算出对应的畸变矫正后图像的对应坐标(RESPxi,RESPyi)。
以上所述的仅是本发明的优选实施方式,本发明不限于以上实施例。本领域的技术人员可以清楚,该实施例中的形式不局限于此,同时可调整方式也不局限于此。可以理解,本领域技术人员在不脱离本发明的基本构思的前提下直接导出或联想到的其他改进和变化,均应认为包含在本发明的保护范围之内。
Claims (10)
1.一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,至少包括:
第一次畸变矫正,通过冗余鱼眼摄像头获取垂直于地面的预设靶图成像后的畸变图像,获取车载以太网摄像头的光学畸变参数,光学畸变参数包括摄像头镜头指定CMOS芯片条件下的实验模组进行实际实验环境图像采集的离散视场角度θ与其对应像高γ的映射表,利用光学畸变参数映射表对畸变图像进行第一畸变矫正后获取第一畸变矫正图像;
第二次畸变矫正,建立差异矫正平面坐标系,分别获取预设靶图的特征点在第一畸变矫正图像的对应的第一坐标点以及在差异矫正平面对应的第一坐标点,利用透视变换,求解单应性矩阵Hdapos,利用单应性矩阵Hdapos进行反透视变换对第一畸变的图像进行第二次畸变矫正;
在第二次畸变矫正中,获取单应性矩阵Hdapos并利用反透视变换将建立差异矫正平面对应的所有第一坐标点在第一畸变矫正图像对应第二坐标点,获取第二坐标点在第一畸变矫正图像对应的像素值,并将像素值赋值给第一坐标点;
第二次畸变矫正还包括:
步骤S101,通过冗余鱼眼摄像头获取垂直于地面的预设靶图,获取预设靶图中多个特征点在靶图平面的实际物理坐标(Txn,Tyn);
步骤S102,根据实际物理坐标(Txn,Tyn),求解经过畸变校正后实际拍摄面U中与实际物理坐标(Txn,Tyn)相对应的特征点的像素坐标(RESPxn,RESPyn);
步骤S103,建立差异矫正平面坐标系,求解与靶图中多个特征点的坐标映射到差异矫正平面坐标系下相对应的特征点坐标(Rxn,Ryn);
步骤S104,根据透视变换,求解(Rxn,Ryn)至(RESPxn,RESPyn)的单应性矩阵Hdapos:
透视变换:
Hdapos:
其中,h1、h2、h3、h4、h5、h6、h7、h8代表矩阵中的元素值;
步骤S105,再次利用透视变换,将差异矫正图像所有像素坐标(Rxi,Ryi)替换(Rxn,Ryn),利用步骤S104中求出的Hdapos,计算出对应的畸变矫正后图像的对应坐标(RESPxi,RESPyi)。
2.如权利要求1所述的一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,在差异矫正平面坐标系,预设靶图的特征点(Txn,Tyn)在差异矫正平面对应的第一坐标(Rxn,Ryn)的映射函数为:
Rxn=Txn×SC+OFSTx
Ryn=Tyn×SC+OFSTy
其中,SC为平面坐标尺度变换因子,OFSTx和OFSTy分别为水平和垂直像素偏移量。
3.如权利要求1所述的一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,其中,第一次畸变矫正包括:
步骤S1,获取车载以太网摄像头的光学畸变参数,光学畸变参数包括摄像头镜头指定CMOS芯片条件下的实验模组进行实际实验环境图像采集的离散视场角度θ与其对应像高γ的映射表;
步骤S2,根据小孔成像原理,建立实际拍摄平面U各个像素点对应到成像面I上鱼眼图像的各个点的空间坐标关系,建立离散视场角度θ与物高λ的第一映射函数;
λ=tan(θ)
步骤S3,根据光学畸变参数映射表,构建像高γ与离散视场角度θ第二映射函数θ=G(γ);
步骤S4,根据成像几何关系,求解实际拍摄平面U与对应的矫正成像面、畸变成像面之间的矫正缩放因子SU和畸变缩放因子SI;
步骤S5:利用第一映射函数、第二映射函数以及矫正缩放因子SU和畸变缩放因子SI,建立矫正后的无畸变图像的像素级坐标RESPx,RESPy与畸变图像的像素级坐标RESPp′x,RESPp′y的对应第三映射函数,并将RESp′x,RESp′y坐标位置的像素值赋值给RESPx,RESPy表示的坐标位置,从而获取畸变矫正后的图像。
4.如权利要求3所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,在步骤S2中,对于任意角度θ,满足θ(n)≤θ≤θ(n+1);在光学畸变参数映射表中,查找θ(n)、θ(n+1)相对应的γ(n)与γ(n+1),则与θ对应的γ应满足γ(n)≤γ≤γ(n+1);
其中n为像素点的序号,θ(n)、θ(n+1)表示相邻离散角度,γ(n)、γ(n+1)表示相邻像高,θ(n)、θ(n+1)、γ(n)、γ(n+1)根据已知θ或γ从光学畸变参数映射表中查找获得。
5.如权利要求3所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,步骤S3中,视场角度θ与像高γ的第一映射函数的计算公式包括:
当γ为已知时,
当θ为已知时,
6.如权利要求3所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,矫正缩放因子SU的计算公式为:
畸变缩放因子SI计算公式为:
其中,RESHI表示实际鱼眼畸变图像最大水平分辨率,RESHU表示畸变矫正图像最大水平分辨率,γmax摄像头的CMOS成像面水平方向最大宽度的一半。
7.如权利要求3所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,RESPx,RESPy与RESp′x,RESp′y的对应第三映射函数为:
其中,γ为P点的对应的像高,
γmax为摄像头的CMOS成像面水平方向最大宽度的一半;为点P与拍摄平面U的中心O点的连线与水平方向的夹角,RESHI、RESVI表示实际鱼眼畸变图像最大水平分辨率和最大垂直分辨率,RESHU、RESVU表示畸变矫正图像最大水平分辨率和最大垂直分辨率。
8.如权利要求3所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,步骤S5中,(RESp′x,RESp′y)的位置像素值由其相邻周围像素值进行插值获取。
9.如权利要求8所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,像素值VALp的插值获取具体包括:获取(RESp′x,RESp′y)周围距离最近的4个像素点坐标
获取p0、p1、p2、p3对应的像素值分别为VALp0、VALp1、VALp2、VALp3;
计算p0、p1、p2、p3相应的权重系数:
根据权重系数计算出像素值VALp:
VALp=VALp0×w0+VALp1×w1+VALp2×w2+VALp4×w3。
10.如权利要求1所述一种冗余鱼眼摄像头拍摄图像的畸变矫正方法,其特征在于,冗余鱼眼摄像头包括多个摄像头并且安装在同一区域,对同一安装区域所有摄像头进行第一次畸变矫正和第二次畸变矫正获得最终图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110829146.7A CN113538283B (zh) | 2021-07-22 | 2021-07-22 | 一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110829146.7A CN113538283B (zh) | 2021-07-22 | 2021-07-22 | 一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113538283A CN113538283A (zh) | 2021-10-22 |
CN113538283B true CN113538283B (zh) | 2024-04-30 |
Family
ID=78120404
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110829146.7A Active CN113538283B (zh) | 2021-07-22 | 2021-07-22 | 一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113538283B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115082355B (zh) * | 2022-07-20 | 2022-11-04 | 北京智汇云舟科技有限公司 | 鱼眼相机全像素图像校正方法、装置、鱼眼相机及介质 |
CN115314689A (zh) * | 2022-08-05 | 2022-11-08 | 深圳海翼智新科技有限公司 | 投影校正方法、装置、投影仪和计算机程序产品 |
CN118212161B (zh) * | 2024-05-14 | 2024-10-11 | 深圳市智岩科技有限公司 | 图像校正方法、装置、电子设备及系统 |
Citations (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201019715A (en) * | 2008-11-12 | 2010-05-16 | Avisonic Technology Corp | Fisheye correction with perspective distortion reduction method and related image processor |
CN103996172A (zh) * | 2014-05-08 | 2014-08-20 | 东北大学 | 一种基于多步校正的鱼眼图像校正方法 |
WO2015043507A1 (zh) * | 2013-09-27 | 2015-04-02 | 比亚迪股份有限公司 | 用于汽车的图像处理方法与装置、生成汽车环视图像的方法和汽车环视系统 |
CN106408511A (zh) * | 2016-09-22 | 2017-02-15 | 苏州大学 | 鱼眼图像的俯视变换、俯视图像获取及映射表构建方法 |
WO2017092631A1 (zh) * | 2015-11-30 | 2017-06-08 | 宁波舜宇光电信息有限公司 | 鱼眼图像的畸变图像校正方法及鱼眼相机的标定方法 |
CN107160046A (zh) * | 2017-04-18 | 2017-09-15 | 上海柏楚电子科技有限公司 | 一种视觉辅助大幅面机床板材切割的相机标定方法 |
RU2631765C1 (ru) * | 2016-04-26 | 2017-09-26 | Общество с ограниченной ответственностью "Аби Девелопмент" | Способ и система исправления перспективных искажений в изображениях, занимающих двухстраничный разворот |
CN107248178A (zh) * | 2017-06-08 | 2017-10-13 | 上海赫千电子科技有限公司 | 一种基于畸变参数的鱼眼相机标定方法 |
CN107274352A (zh) * | 2017-04-26 | 2017-10-20 | 睿舆自动化(上海)有限公司 | 一种图像处理方法及应用于镜头畸变和摄影畸变矫正的实时采样系统 |
WO2018119565A1 (zh) * | 2016-12-26 | 2018-07-05 | 深圳大学 | 一种桶形畸变图像的矫正重构方法及装置 |
KR101912396B1 (ko) * | 2017-06-13 | 2018-10-26 | 주식회사 아이닉스 | 가상 카메라 기반의 임의 시점 영상 생성 장치 및 방법 |
CN108830810A (zh) * | 2018-06-07 | 2018-11-16 | 辽宁工业大学 | 一种基于正交投影的鱼眼镜头图像畸变矫正方法 |
KR20180127671A (ko) * | 2017-05-22 | 2018-11-30 | 주식회사 와이즈오토모티브 | Avm 시스템의 자동 캘리브레이션 방법 |
CN108986172A (zh) * | 2018-07-25 | 2018-12-11 | 西北工业大学 | 一种面向小景深系统的单视图线性摄像机标定方法 |
JP2019012361A (ja) * | 2017-06-29 | 2019-01-24 | キヤノン株式会社 | 情報処理装置、プログラム及び情報処理方法 |
WO2019019172A1 (en) * | 2017-07-28 | 2019-01-31 | Qualcomm Incorporated | ADAPTIVE IMAGE PROCESSING IN A ROBOTIC VEHICLE |
CN109544484A (zh) * | 2019-02-20 | 2019-03-29 | 上海赫千电子科技有限公司 | 一种图像校正方法和装置 |
CN109961484A (zh) * | 2017-12-22 | 2019-07-02 | 比亚迪股份有限公司 | 摄像头标定方法、装置和车辆 |
CN110020656A (zh) * | 2019-01-30 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 图像的校正方法、装置及设备 |
CN110084842A (zh) * | 2019-05-05 | 2019-08-02 | 广东电网有限责任公司 | 一种机器人云台伺服二次对准方法及装置 |
KR102076635B1 (ko) * | 2018-10-16 | 2020-02-12 | (주)캠시스 | 산재된 고정 카메라를 이용한 파노라마 영상 생성 장치 및 방법 |
CN111199528A (zh) * | 2020-01-15 | 2020-05-26 | 江苏北斗星通汽车电子有限公司 | 一种鱼眼图像畸变矫正方法 |
CN111626227A (zh) * | 2020-05-28 | 2020-09-04 | 深圳市博维远景科技有限公司 | 一种基于双目视觉车底透视全景系统的实现方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7403658B2 (en) * | 2005-04-15 | 2008-07-22 | Microsoft Corporation | Direct homography computation by local linearization |
JP5057948B2 (ja) * | 2007-12-04 | 2012-10-24 | アルパイン株式会社 | 歪曲補正画像生成ユニットおよび歪曲補正画像生成方法 |
WO2019049331A1 (ja) * | 2017-09-08 | 2019-03-14 | 株式会社ソニー・インタラクティブエンタテインメント | キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法 |
-
2021
- 2021-07-22 CN CN202110829146.7A patent/CN113538283B/zh active Active
Patent Citations (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201019715A (en) * | 2008-11-12 | 2010-05-16 | Avisonic Technology Corp | Fisheye correction with perspective distortion reduction method and related image processor |
WO2015043507A1 (zh) * | 2013-09-27 | 2015-04-02 | 比亚迪股份有限公司 | 用于汽车的图像处理方法与装置、生成汽车环视图像的方法和汽车环视系统 |
CN103996172A (zh) * | 2014-05-08 | 2014-08-20 | 东北大学 | 一种基于多步校正的鱼眼图像校正方法 |
WO2017092631A1 (zh) * | 2015-11-30 | 2017-06-08 | 宁波舜宇光电信息有限公司 | 鱼眼图像的畸变图像校正方法及鱼眼相机的标定方法 |
RU2631765C1 (ru) * | 2016-04-26 | 2017-09-26 | Общество с ограниченной ответственностью "Аби Девелопмент" | Способ и система исправления перспективных искажений в изображениях, занимающих двухстраничный разворот |
CN106408511A (zh) * | 2016-09-22 | 2017-02-15 | 苏州大学 | 鱼眼图像的俯视变换、俯视图像获取及映射表构建方法 |
WO2018119565A1 (zh) * | 2016-12-26 | 2018-07-05 | 深圳大学 | 一种桶形畸变图像的矫正重构方法及装置 |
CN107160046A (zh) * | 2017-04-18 | 2017-09-15 | 上海柏楚电子科技有限公司 | 一种视觉辅助大幅面机床板材切割的相机标定方法 |
CN107274352A (zh) * | 2017-04-26 | 2017-10-20 | 睿舆自动化(上海)有限公司 | 一种图像处理方法及应用于镜头畸变和摄影畸变矫正的实时采样系统 |
KR20180127671A (ko) * | 2017-05-22 | 2018-11-30 | 주식회사 와이즈오토모티브 | Avm 시스템의 자동 캘리브레이션 방법 |
CN107248178A (zh) * | 2017-06-08 | 2017-10-13 | 上海赫千电子科技有限公司 | 一种基于畸变参数的鱼眼相机标定方法 |
KR101912396B1 (ko) * | 2017-06-13 | 2018-10-26 | 주식회사 아이닉스 | 가상 카메라 기반의 임의 시점 영상 생성 장치 및 방법 |
JP2019012361A (ja) * | 2017-06-29 | 2019-01-24 | キヤノン株式会社 | 情報処理装置、プログラム及び情報処理方法 |
WO2019019172A1 (en) * | 2017-07-28 | 2019-01-31 | Qualcomm Incorporated | ADAPTIVE IMAGE PROCESSING IN A ROBOTIC VEHICLE |
CN109961484A (zh) * | 2017-12-22 | 2019-07-02 | 比亚迪股份有限公司 | 摄像头标定方法、装置和车辆 |
CN108830810A (zh) * | 2018-06-07 | 2018-11-16 | 辽宁工业大学 | 一种基于正交投影的鱼眼镜头图像畸变矫正方法 |
CN108986172A (zh) * | 2018-07-25 | 2018-12-11 | 西北工业大学 | 一种面向小景深系统的单视图线性摄像机标定方法 |
KR102076635B1 (ko) * | 2018-10-16 | 2020-02-12 | (주)캠시스 | 산재된 고정 카메라를 이용한 파노라마 영상 생성 장치 및 방법 |
CN110020656A (zh) * | 2019-01-30 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 图像的校正方法、装置及设备 |
CN109544484A (zh) * | 2019-02-20 | 2019-03-29 | 上海赫千电子科技有限公司 | 一种图像校正方法和装置 |
CN110084842A (zh) * | 2019-05-05 | 2019-08-02 | 广东电网有限责任公司 | 一种机器人云台伺服二次对准方法及装置 |
CN111199528A (zh) * | 2020-01-15 | 2020-05-26 | 江苏北斗星通汽车电子有限公司 | 一种鱼眼图像畸变矫正方法 |
CN111626227A (zh) * | 2020-05-28 | 2020-09-04 | 深圳市博维远景科技有限公司 | 一种基于双目视觉车底透视全景系统的实现方法 |
Non-Patent Citations (3)
Title |
---|
图像几何校正算法和反混叠综述;李伟;;现代计算机(03);第83-87页 * |
航空大视场角镜头畸变校正技术;徐芳;刘晶红;;计算机应用(09);第2623-2626、2630页 * |
鱼眼镜头畸变校正算法的设计;王赛男;刘涛;左震宇;;科技创新导报(17);第9、10页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113538283A (zh) | 2021-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113538283B (zh) | 一种冗余鱼眼摄像头拍摄图像的畸变矫正方法 | |
CN111223038B (zh) | 一种车载环视图像的自动拼接方法及显示装置 | |
CN109064404A (zh) | 一种基于多相机标定的全景拼接方法、全景拼接系统 | |
CN111652937B (zh) | 车载相机标定方法和装置 | |
CN108052910A (zh) | 一种车辆全景成像系统的自动调整方法、装置及存储介质 | |
CN111199528A (zh) | 一种鱼眼图像畸变矫正方法 | |
CN110400255B (zh) | 车辆全景影像的生成方法、系统和车辆 | |
CN111292278B (zh) | 图像融合方法及装置、存储介质、终端 | |
CN113034616B (zh) | 车辆环视系统的相机外参标定方法、系统及环视系统 | |
CN110660105A (zh) | 一种全景环视系统的标定参数优化方法及装置 | |
Chang et al. | Auto-calibration around-view monitoring system | |
KR101705558B1 (ko) | Avm 시스템의 공차 보정 장치 및 방법 | |
CN113706624A (zh) | 相机外参修正方法、装置及车载环视系统 | |
CN104363421B (zh) | 实现多角度摄像头监控效果的方法和装置 | |
CN114928698B (zh) | 影像歪曲校正装置及方法 | |
CN109523489B (zh) | 一种生成俯视无畸变倒车影像的方法 | |
CN110910311A (zh) | 一种基于二维码的多路环视相机自动拼接方法 | |
Bangadkar et al. | Mapping matrix for perspective correction from fish eye distorted images | |
KR20130134086A (ko) | 광각 카메라를 이용한 영상 시스템 및 그 방법 | |
KR101230909B1 (ko) | 차량용 광각 영상 처리장치 및 그 방법 | |
CN114584688B (zh) | 拍摄和处理数字全景图像的方法 | |
CN106097357B (zh) | 汽车全景摄像头的校正方法 | |
US11682190B2 (en) | Method, system, and device for detecting an object in a distorted image | |
CN114612574A (zh) | 一种基于无人机的车载环视相机全景鸟瞰图标定及转换拼接方法 | |
CN114331867A (zh) | 一种环视系统图像校正方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |