发明内容
本发明的一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其能够定量化地解决内参不同的双目摄像光学系统与双目显像光学系统之间的匹配问题,有助于拓宽双目摄像光学系统的选型范围。
本发明的一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其能够使经由双目摄像光学系统拍摄的摄像画面在双目显像光学系统中看上去深度准确,有助于增强用户的视觉体验。
本发明的另一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其具有较好的普适性,便于被广泛地应用到各种类型的双目摄像光学系统和双目显像光学系统的选型中。
本发明的另一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其能够使双目摄像光学系统有选择性地在焦距、基线、视差等方面自由调节,有助于提高系统的灵活性与可靠性。
本发明的另一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其能够被广泛地应用到诸如3D电影拍摄和展示、无人驾驶空间建模、AR、VR等多个领域,具有较广的适用范围。
本发明的另一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其中,在本发明的一实施例中,所述双目异内参摄像-显像光学系统的匹配方法能够在双目摄像-显像光学系统之间视差相等的情况下,为同一双目显像光学系统匹配到多个焦距不同的双目摄像光学系统,以便满足3D电影的不同拍摄需求,改善用户的观看体验。
本发明的另一目的在于提供一种双目异内参摄像-显像光学系统的匹配方法及其系统和电子设备,其中,在本发明的一实施例中,所述双目异内参摄像-显像光学系统的匹配方法能够在双目摄像-显像光学系统之间基线想等等的情况下,为同一双目显像光学系统匹配到多个焦距不同的双目摄像光学系统,以便同时显示不同视距的车况环境。
为了实现上述至少一发明目的或其他目的和优点,本发明提供了一种双目异内参摄像-显像光学系统的匹配方法,用于将内参不同的一双目摄像光学系统与一双目显像光学系统进行匹配,包括步骤:
获取该双目显像光学系统的显像内参,以获得该双目显像光学系统在一深度下的视差,其中所述显像内参包括该双目显像光学系统的基线和焦距;和
藉由一双目匹配模型,基于该双目摄像光学系统在该深度下的视差,将该双目摄像光学系统与该双目显像光学系统进行匹配,以获得该双目摄像光学系统的摄像内参,使得通过该双目摄像光学系统采集的摄像画面在该双目显像光学系统中看上去深度准确。
在本发明的一实施例中,所述双目匹配模型为f1b1=kf2b2,其中:f1为该双目摄像光学系统的焦距;b1为该双目摄像光学系统的基线;f2为该双目显像光学系统的焦距;b2为该双目显像光学系统的基线;k为该双目摄像光学系统和该双目显像光学系统之间的视差比。
在本发明的一实施例中,所述的双目异内参摄像-显像光学系统的匹配方法,还包括步骤:
基于该双目摄像光学系统的焦距,自动地控制该双目摄像光学系统的基线调节,使得该双目摄像光学系统的基线满足所述双目匹配模型的要求。
根据本发明的另一方面,本发明还提供了一种双目异内参摄像-显像光学系统的匹配系统,用于将内参不同的一双目摄像光学系统与一双目显像光学系统进行匹配,包括:
一获取模块,其中所述获取模块适于与该双目摄像光学系统可通信地连接,用于获取该双目显像光学系统的显像内参,以获得该双目显像光学系统在一深度下的视差,其中所述显像内参包括该双目显像光学系统的基线和焦距;和
一双目匹配模块,其中所述双目匹配模块与所述获取模块可通信地连接,用于藉由一双目匹配模型,基于该双目摄像光学系统在该深度下的视差,将该双目摄像光学系统与该双目显像光学系统进行匹配,以获得该双目摄像光学系统的摄像内参,使得通过该双目摄像光学系统采集的摄像画面在该双目显像光学系统中看上去深度准确。
在本发明的一实施例中,所述双目匹配模型为f1b1=kf2b2,其中:f1为该双目摄像光学系统的焦距;b1为该双目摄像光学系统的基线;f2为该双目显像光学系统的焦距;b2为该双目显像光学系统的基线;k为该双目摄像光学系统和该双目显像光学系统之间的视差比。
在本发明的一实施例中,所述的双目异内参摄像-显像光学系统的匹配系统,还包括一与所述双目匹配模块可通信地连接的控制模块,其中所述控制模块适于与该双目摄像光学系统可通信的连接,用于基于该双目摄像光学系统的焦距,自动地控制该双目摄像光学系统的基线调节,使得该双目摄像光学系统的基线满足所述双目匹配模型的要求。
根据本发明的另一方面,本发明还提供了一种双目异内参摄像-显像光学系统的匹配方法,用于将内参不同的一双目摄像光学系统与一双目显像光学系统进行匹配,包括步骤:
获取该双目显像光学系统的显像内参,以获得该双目显像光学系统在一深度下的视差,其中所述显像内参包括该双目显像光学系统的基线和焦距;和
藉由一双目匹配模型,基于该双目摄像光学系统的基线,将该双目摄像光学系统与该双目显像光学系统进行匹配,以获得该双目摄像光学系统的焦距和该双目摄像光学系统在该深度下的视差,使得通过该双目摄像光学系统采集的摄像画面在该双目显像光学系统中看上去深度准确;
其中所述双目匹配模型为
其中:f
1为该双目摄像光学系统的焦距;f
2为该双目显像光学系统的焦距;d
1和d
2分别为该双目摄像光学系统和所述该显像光学系统在同一深度下的视差;k'为该双目显像光学系统和该双目摄像光学系统之间的基线比。
在本发明的一实施例中,所述的双目异内参摄像-显像光学系统的匹配方法,还包括步骤:
基于该双目摄像光学系统的视差,自动地控制该双目摄像光学系统的焦距调节,使得该双目摄像光学系统的焦距满足所述双目匹配模型的要求。
根据本发明的另一方面,本发明还提供了一种双目异内参摄像-显像光学系统的匹配系统,用于将内参不同的一双目摄像光学系统与一双目显像光学系统进行匹配,包括:
一获取模块,其中所述获取模块适于与该双目显像光学系统可通信地连接,用于获取该双目显像光学系统的显像内参,以获得该双目显像光学系统在一深度下的视差,其中所述显像内参包括该双目显像光学系统的基线和焦距;和
一双目匹配模块,其中所述双目匹配模块与所述获取模块可通信地连接,用于藉由一双目匹配模型,基于该双目摄像光学系统的基线,将该双目摄像光学系统与该双目显像光学系统进行匹配,以获得该双目摄像光学系统的焦距和该双目摄像光学系统在该深度下的视差,使得通过该双目摄像光学系统采集的摄像画面在该双目显像光学系统中看上去深度准确;
其中所述双目匹配模型为
其中:f
1为该双目摄像光学系统的焦距;f
2为该双目显像光学系统的焦距;d
1和d
2分别为该双目摄像光学系统和所述该显像光学系统在同一深度下的视差;k'为该双目显像光学系统和该双目摄像光学系统之间的基线比。
在本发明的一实施例中,所述的双目异内参摄像-显像光学系统的匹配系统,还包括一与所述双目匹配模块可通信地连接的控制模块,其中所述控制模块适于与该双目摄像光学系统可通信地连接,用于基于该双目摄像光学系统的视差,自动地控制该双目摄像光学系统的焦距调节,使得该双目摄像光学系统的焦距满足所述双目匹配模型的要求。
根据本发明的另一方面,本发明还提供了一种电子设备,包括:
至少一处理器;以及
与所述至少一处理器可通信地连接的存储器,其中,所述存储器具有至少一指令,其中,所述指令被所述至少一处理器执行,以使得所述至少一处理器执行上述任一所述的双目异内参摄像-显像光学系统的匹配方法。
根据本发明的另一方面,本发明还提供了一种计算机可读存储介质,用于存储一计算程序,当所述计算程序被一处理器执行时,上述任一所述的双目异内参摄像-显像光学系统的匹配方法得以被实现。
通过对随后的描述和附图的理解,本发明进一步的目的和优势将得以充分体现。
本发明的这些和其它目的、特点和优势,通过下述的详细说明,附图和权利要求得以充分体现。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
在本发明中,权利要求和说明书中术语“一”应理解为“一个或多个”,即在一个实施例,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个。除非在本发明的揭露中明确示意该元件的数量只有一个,否则术语“一”并不能理解为唯一或单一,术语“一”不能理解为对数量的限制。
在本发明的描述中,需要理解的是,属于“第一”、“第二”等仅用于描述目的,而不能理解为指示或者暗示相对重要性。本发明的描述中,需要说明的是,除非另有明确的规定和限定,属于“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接或者一体地连接;可以是机械连接,也可以是电连接;可以是直接连接,也可以是通过媒介间接连结。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
双目摄像光学系统与双目显像光学系统的匹配往往是建立在双目系统中各单目系统已完成匹配的基础上进行的,而单目系统的匹配通常是对于不同视场角的单目光学系统进行匹配,这点已在本申请人的另一篇专利申请文件《异视场角摄像-显像系统的匹配方法及其系统和计算系统》中详细描述并给出了相应的技术方案,本发明在此不再赘述。接下来,本发明主要是在单目系统已匹配完成的前提下,探讨和解决双目光学系统的匹配问题。
对于同一个双目光学系统,如双目相机,其中的左右单目相机的内参通常是相同的。而对于双目摄像光学系统和双目显像光学系统而言,如果在匹配时要求双目摄像光学系统和双目显像光学系统在硬件上完全匹配(即两个光学系统的内参完全相同),则会大幅地增大所述双目摄像光学系统或所述双目显像光学系统的选型难度,导致系统匹配和使用成本大幅变大,进而限制这种硬件匹配方法的适用范围。例如,大部分双目显像光学系统所显示的图像都是供人眼观看的,而人眼作为一种光学系统,其内参(即焦距和基线)是相对固定的,而如果使双目摄像光学系统在硬件上与人眼光学系统完全匹配,则双目摄像光学系统就只能具有固定的内参,这对双目摄像光学系统将是极其严苛的条件,很难适配不同的应用场景。
为了解决上述问题,本发明从双目光学系统的成像原理出发,给出了一种双目异内参摄像-显像光学系统的匹配方法及其系统,使得内参不同的双目摄像光学系统和双目显像光学系统从算法上进行校准匹配,从而使得本发明的所述双目异内参摄像-显像光学系统的匹配方法及其系统通用性强、匹配型好、操作简单、成本较低,并具有一定的普适性,可以大规模推广。
参考附图1至图4所示,根据本发明的一第一实施例的一种双目异内参摄像-显像光学系统的匹配方法及其系统被阐明。具体地,如图1所示,所述双目异内参摄像-显像光学系统的匹配方法,包括步骤:
S110:获取一双目显像光学系统的显像内参,以获得所述双目显像光学系统在一深度下的视差,其中所述显像内参包括所述双目显像光学系统的基线和焦距;和
S120:藉由一双目匹配模型,基于一双目摄像光学系统在同一所述深度下的视差,将所述双目摄像光学系统与所述双目显像光学系统进行匹配,以获得所述双目摄像光学系统的摄像内参,使得通过所述双目摄像光学系统采集的摄像画面在所述双目显像光学系统中看上去深度准确。
具体地,在本发明的这个实施例中,所述双目匹配模型被实施为:
f1b1=kf2b2
其中:f1为所述双目摄像光学系统的焦距;b1为所述双目摄像光学系统的基线;f2为所述双目显像光学系统的焦距;b2为所述双目显像光学系统的基线;k为所述双目摄像光学系统和所述双目显像光学系统之间的视差比。
值得注意的是,诸如双目相机的双目摄像光学系统之所以能够得到被拍物体的深度,主要是由所述双目摄像光学系统的视差决定的。而一旦所述双目摄像光学系统的内参(焦距和基线)确定之后,所述双目摄像光学系统的视差大小便决定了被拍物体在三维空间里的深度。同理地,一旦诸如AR眼镜、VR眼镜等等之类的双目显像光学系统的内参(焦距和基线)确定之后,所述双目显像光学系统的视差大小便决定了所显示的物体看上去在三维空间里的深度。
示例性地,如图2所示,以双目相机作为所述双目摄像光学系统为例,其中
和
分别为所述双目相机中左右相机的光心;P
1为现实三维空间中深度值为Z
1的实物点;P
1 L和P
1 R分别为点P
1在所述双目相机中左右像面上的成像点;f
1为所述双目相机的焦距;b
1为所述双目相机的基线。此外,点P
1 L和点P
1 R在所述双目相机中左右像面上的坐标偏移分别用
和
表示,并且规定向右偏移为正,向左偏移为负,则点P
1 L和点P
1 R在所述双目相机中左右像面上相对于各自光轴的偏移量记为:
和
这样,所述双目摄像光学系统的视差可以被记为:
由图2易知,ΔP
1P
1 LP
1 R与
为相似三角形,则根据三角相似关系可知:
根据公式(1)和公式(2)整理可得所述双目摄像光学系统的深度与视差之间的关系为:
式中:Z1为所述双目摄像光学系统拍摄的实物点P1与所述双目摄像光学系统的光心平面之间的距离;f1为所述双目摄像光学系统的焦距;b1为所述双目摄像光学系统的基线;d1为所述双目摄像光学系统的视差。
相应地,如图3所示,以AR眼镜作为所述双目显像光学系统为例,其中
和
分别为所述AR眼镜中左右眼镜的光心;P
2为显示在三维空间中深度值为Z
2的虚物点(点P
2的深度值Z
2为点P
2与所述AR眼镜的光心平面之间的距离);
和
分别为点P
2在所述AR眼镜中左右像面上的成像点;f
2为所述AR眼镜的焦距;b
2为所述AR眼镜的基线。此外,点
和点
在所述AR眼镜中左右像面上的坐标偏移分别用
和
表示,并且规定向右偏移为正,向左偏移为负,则点
和点
在所述AR眼镜中左右像面上相对于各自光轴的偏移量记为:
和
这样,所述双目显像光学系统的视差可以被记为:
由图3易知,
与
为相似三角形,则根据三角相似关系可知:
根据公式(4)和公式(5)整理可得所述双目显像光学系统的深度与视差之间的关系为:
式中:Z2为所述双目显像光学系统显示的虚物点P2与所述双目显像光学系统的光心平面之间的距离;f2为所述双目显像光学系统的焦距;b2为所述双目显像光学系统的基线;d2为所述双目显像光学系统的视差。
由于在各种应用场景中,用户更希望看到通过所述双目显像光学系统显示的虚物点P2的深度值Z2基本等于通过所述双目摄像光学系统拍摄的实物点P1的深度值Z1,即Z2=Z1,使得通过所述双目摄像光学系统采集的摄像画面在所述双目显像光学系统中“看上去”精度准确。因此,在Z2=Z1的基础上,联合公式(3)和公式(6)可得:
其中:f1为所述双目摄像光学系统的焦距;b1为所述双目摄像光学系统的基线;f2为所述双目显像光学系统的焦距;b2为所述双目显像光学系统的基线;d1和d2分别为所述双目摄像光学系统和所述双目显像光学系统在同一深度下的视差。
而对于供人眼使用的双目显像光学系统而言,所述双目显像光学系统的内参(焦距和基线)基本固定,并且所述双目显像光学系统在某一深度下的视差也是固定的。相应地,为了确保人眼看到通过所述双目摄像光学系统所拍摄的摄像画面的深度准确,则所述双目摄像光学系统与所述双目显像光学系统在同一深度下的视差比应为一定值
因此,将双目摄像光学系统与所述双目显像光学系统之间的视差比
代入公式(7)可得所述双目匹配模型:
f1b1=kf2b2 (8)
其中:f1为所述双目摄像光学系统的焦距;b1为所述双目摄像光学系统的基线;f2为所述双目显像光学系统的焦距;b2为所述双目显像光学系统的基线;k为所述双目摄像光学系统和所述双目显像光学系统之间的视差比。
值得注意的是,在利用所述双目匹配模型为所述双目显像光学系统匹配合适的所述双目摄像光学系统时,由于所述双目显像光学系统的焦距f2和基线b2是确定的,并且所需的所述双目摄像光学系统和所述双目显像光学系统之间的视差比k是某一定值,因此,只需要对应地调节所述双目摄像光学系统的焦距f1和基线b1,使得所述双目摄像光学系统的摄像内参与所述双目显像光学系统的显像内参满足所述双目匹配模型的条件即可。这样在诸如拍摄3D电影等应用场景中,虽然为了使3D电影的拍摄效果更为震撼,不可避免地会使用不同焦距的双目摄像光学系统(如摄像机)进行拍摄,但只需要在使用不同焦距的双目摄像光学系统时,对应地调节所述双目摄像光学系统的基线,使得所述双目摄像光学系统的摄像内参符合所述双目匹配模型的要求,从而使得通过具有不同焦距的双目摄像光学系统所拍摄的摄像画面在同一所述双目显像光学系统中看上去深度准确,有助于大幅改善用户的视觉体验。
特别地,当所述双目摄像光学系统的视差d1等于所述双目显像光学系统的视差d2,即所述双目摄像光学系统和所述双目显像光学系统之间的视差比k=1(所述双目摄像光学系统在摄像平面上的画幅等于所述双目显像光学系统在显像平面上的画幅)时,所述双目匹配模型可简化为:f1b1=f2b2。此时,只需要使所述双目摄像光学系统的焦距f1和基线b1之间的乘积等于所述双目显像光学系统的焦距f2和基线b2之间的乘积,就可以完成所述双目摄像光学系统与所述双目显像光学系统之间的匹配。
示例性地,在使用双目摄像光学系统(如摄像机)拍摄景物时,通常使用焦距较小的摄像机来拍摄近景,并使用焦距较大的摄像机来拍摄远景。而为了使用户能够通过同一双目显像光学系统观看到深度准确的近景画面和远景画面,并且不会出现因画面忽远忽近而导致用户产生观影疲劳的问题,就可以根据本发明的所述双目匹配模型来对应地调节所述双目摄像光学系统的基线,即在使用焦距较小的摄像机来拍摄近景时,调大所述摄像机的基线,使得所述摄像机的焦距与基线的乘积等于所述双目显像光学系统的焦距与基线的乘积;在使用焦距加大的摄像机来拍摄远景时,调小所述摄像机的基线,使得所述摄像机的焦距与基线的乘积仍等于所述双目显像光学系统的焦距与基线的乘积。
进一步地,在本发明的上述第一实施例中,如图1所示,所述双目异内参摄像-显像光学系统的匹配方法,还可以包括步骤:
S130:基于所述双目摄像光学系统的焦距,自动地控制所述双目摄像光学系统的基线调节,使得所述双目摄像光学系统的基线满足所述双目匹配模型的要求。
根据本发明的另一方面,如图4所示,本发明的上述第一实施例进一步提供了一种双目异内参摄像-显像光学系统的匹配系统30,用于对内参不同的双目摄像光学系统10和所述双目显像光学系统20进行匹配。具体地,如图4所示,所述双目异内参摄像-显像光学系统的匹配系统30包括相互可通信地连接的一获取模块31和一双目匹配模块32,其中所述获取模块31能够与一双目显像光学系统20可通信地连接,用于获取一双目显像光学系统的显像内参,以获得所述双目显像光学系统在一深度下的视差,其中所述显像内参包括所述双目显像光学系统的基线和焦距;和所述双目匹配模块32用于藉由一双目匹配模型,基于一双目摄像光学系统10在同一所述深度下的视差,将所述双目摄像光学系统10与所述双目显像光学系统20进行匹配,以获得所述双目摄像光学系统10的摄像内参,使得通过所述双目摄像光学系统10采集的摄像画面在所述双目显像光学系统20中看上去深度准确。
在本发明的一示例中,所述双目匹配模型为f1b1=kf2b2,其中:f1为所述双目摄像光学系统的焦距;b1为所述双目摄像光学系统的基线;f2为所述双目显像光学系统的焦距;b2为所述双目显像光学系统的基线;k为所述双目摄像光学系统和所述双目显像光学系统之间的视差比。
在本发明的一示例中,如图4所示,所述双目异内参摄像-显像光学系统的匹配系统30还可以包括一与所述双目匹配模块32可通信地连接的控制模块33,其中所述控制模块33能够与所述双目摄像光学系统10可通信地连接,用于基于所述双目摄像光学系统的焦距,自动地控制所述双目摄像光学系统的基线调节,使得所述双目摄像光学系统的基线满足所述双目匹配模型的要求。
值得一提的是,在诸如车载系统的应用场景中,为了确保系统的整体稳定性,通常会尽量减少系统中可移动的机械结构,因此车载系统中的双目设备(双目摄像光学系统和/或双目显像光学系统)的基线通常是固定的。而为了将不同基线的双目摄像光学系统所拍摄的摄像画面统一到同一个双目显像光学系统中显示出来,并确保所拍摄的摄像画面在所述双目显像光学系统中看起来深度精确,本发明的一第二实施例提供了一种双目异内参摄像-显像光学系统的匹配方法及其系统被阐明(如图5和图6所示)。
具体地,如图5所示,所述双目异内参摄像-显像光学系统的匹配方法包括步骤:
S210:获取一双目显像光学系统的显像内参,以获得所述双目显像光学系统在一深度下的视差,其中所述显像内参包括所述双目显像光学系统的基线和焦距;和
S220:藉由一双目匹配模型,基于一双目摄像光学系统的基线,将所述双目摄像光学系统与所述双目显像光学系统进行匹配,以获得所述双目摄像光学系统的焦距和所述双目摄像光学系统在所述深度下的视差,使得通过所述双目摄像光学系统采集的摄像画面在所述双目显像光学系统中看上去深度准确。
更具体地,所述双目匹配模型可以被实施为:
其中:f1为所述双目摄像光学系统的焦距;f2为所述双目显像光学系统的焦距;d1和d2分别为所述双目摄像光学系统和所述双目显像光学系统在同一深度下的视差;k'为所述双目显像光学系统和所述双目摄像光学系统之间的基线比。
值得注意的是,在根据本发明的上述第一实施例中,通过双目摄像-显像光学系统的成像原理得到公式(7):
式中:f
1为所述双目摄像光学系统的焦距;b
1为所述双目摄像光学系统的基线;f
2为所述双目显像光学系统的焦距;b
2为所述双目显像光学系统的基线;d
1和d
2分别为所述双目摄像光学系统和所述双目显像光学系统在同一深度下的视差。
而在本发明的这个第二实施例中,由于所述双目摄像光学系统和所述双目显像光学系统的基线均是固定的,即所述双目显像光学系统和所述双目摄像光学系统之间的基线比
为定值,因此,结合公式(7)可得到所述双目匹配模型为:
这样在为某一双目显像光学系统匹配相应的双目摄像光学系统时,由于双目显像光学系统的显像内参(焦距和基线)和在同一深度下的视差是固定的,并且所述双目显像光学系统和所述双目摄像光学系统之间的基线比也为定值,因此只需要确保所述双目摄像光学系统的焦距与所述双目摄像光学系统在同一深度下的视差之比满足所述双目匹配模型,就能够使得通过不同基线的双目摄像光学系统所拍摄的摄像画面在同一所述双目显像光学系统中看上去深度准确,从而定量化地解决了双目光学系统之间匹配的灵活性和可靠性权衡问题。
特别地,当所述双目显像光学系统的基线等于所述双目摄像光学系统的基线,即所述双目显像光学系统和所述双目摄像光学系统之间的基线比k'=1时,所述双目匹配模型可简化为
也就是说,只需要确保所述双目摄像光学系统与所述双目显像光学系统之间的焦距比等于其视差比
就能够实现所述双目摄像光学系统与所述双目显像光学系统之间的匹配。换句话说,如果所述双目摄像光学系统中单一摄像系统与所述双目显像光学系统中单一显像系统之间采用图像截取法进行匹配,则意味着所述双目摄像光学系统在摄像平面上的画幅等于所述双目显像光学系统在显像平面上的画幅,即所述双目摄像光学系统和所述双目显像光学系统在同一深度下的视差相等,因此只需要保证所述双目摄像光学系统的焦距等于所述双目显像光学系统的焦距即可。
进一步地,在本发明的上述第二实施例中,如图5所示,所述双目异内参摄像-显像光学系统的匹配方法还可以包括步骤:
S230:基于所述双目摄像光学系统的所述视差,自动地控制所述双目摄像光学系统的焦距调节,使得所述双目摄像光学系统的焦距满足所述双目匹配模型的要求。
示例性地,对于车载系统的应用场景中,前置的双目摄像光学系统(位于车辆前方)为了获得前方的路况信息往往需要拍摄较远距离的景物,后置的双目摄像光学系统(位于车辆后方)为了获得后方的路况信息往往需要拍摄较近距离的景物,因此前置的双目摄像光学系统的焦距通常较大,而后置的双目摄像光学系统的焦距通常较小。而为了在同一双目显像光学系统中准确地显示经由所述前置和后置的双目摄像光学系统拍摄的摄像画面,需要两个双目摄像光学系统的摄像内参与所述双目显像光学系统的显像内参均满足所述双目匹配模型,即所述前置的双目摄像光学系统的视差较大,并且所述后置的双目摄像光学系统的视差较小,以保证通过所述双目摄像光学系统拍摄的摄像画面在所述双目显像光学系统中看上去深度准确。
根据本发明的另一方面,如图6所示,本发明的上述第二实施例进一步提供了一种双目异内参摄像-显像光学系统的匹配系统40,用于对内参不同的双目摄像光学系统10和所述双目显像光学系统20进行匹配。具体地,如图6所示,所述双目异内参摄像-显像光学系统的匹配系统40包括相互可通信地连接的一获取模块41和一双目匹配模块42,其中所述获取模块41适于与一双目显像光学系统20可通信地连接,用于获取所述双目显像光学系统20的显像内参,以获得所述双目显像光学系统20在一深度下的视差,其中所述显像内参包括所述双目显像光学系统20的基线和焦距;其中所述双目匹配模块42用于藉由一双目匹配模型,基于一双目摄像光学系统10的基线,将所述双目摄像光学系统10与所述双目显像光学系统20进行匹配,以获得所述双目摄像光学系统10的焦距和所述双目摄像光学系统10在所述深度下的视差,使得通过所述双目摄像光学系统10采集的摄像画面在所述双目显像光学系统20中看上去深度准确。
在本发明的一示例中,所述双目匹配模型为
其中:f
1为所述双目摄像光学系统的焦距;f
2为所述双目显像光学系统的焦距;d
1和d
2分别为所述双目摄像光学系统和所述双目显像光学系统在同一深度下的视差;k'为所述双目显像光学系统和所述双目摄像光学系统之间的基线比。
在本发明的一示例中,如图6所示,所述双目异内参摄像-显像光学系统的匹配系统40还可以包括一与所述双目匹配模块42可通信地连接的控制模块43,其中所述控制模块43适于与所述双目摄像光学系统10可通信地连接,用于基于所述双目摄像光学系统10的所述视差,自动地控制所述双目摄像光学系统10的焦距调节,使得所述双目摄像光学系统10的焦距满足所述双目匹配模型的要求。
当然,在本发明的其他示例中,如果双目摄像光学系统与双目显像光学系统之间的焦距比固定时,则通过双目摄像-显像光学系统的成像原理得到公式(7)
可知:
其中k”为所述双目显像光学系统和所述双目摄像光学系统之间的焦距比,即所述双目摄像光学系统与所述双目显像光学系统之间的基线比正比于所述双目摄像光学系统与所述双目显像光学系统之间的视差比,因此可以对应地调节所述双目摄像光学系统的基线和视差,以使得所述双目摄像光学系统与所述双目显像光学系统相匹配,进而达到通过所述双目摄像光学系统拍摄的摄像画面在所述双目显像光学系统中看起来深度准确。
示意性电子设备
下面,参考图7来描述根据本发明实施例的电子设备(图7示出了根据本发明实施例的电子设备的框图)。如图7所示,电子设备50包括一个或多个处理器51和存储器52。
所述处理器51可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备50中的其他组件以执行期望的功能。
所述存储器52可以包括一个或多个计算程序产品,所述计算程序产品可以包括各种形式的计算可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算可读存储介质上可以存储一个或多个计算程序指令,所述处理器51可以运行所述程序指令,以实现上文所述的本发明的各个实施例的方法以及/或者其他期望的功能。
在一个示例中,电子设备50还可以包括:输入装置53和输出装置54,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,该输入装置53可以是例如用于采集图像数据或视频数据的摄像模组等等。
该输出装置54可以向外部输出各种信息,包括分类结果等。该输出设备54可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图7中仅示出了该电子设备50中与本发明有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备50还可以包括任何其他适当的组件。
示意性计算程序产品
除了上述方法和设备以外,本发明的实施例还可以是计算程序产品,其包括计算程序指令,所述计算程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本发明各种实施例的方法中的步骤。
所述计算程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如C语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本发明的实施例还可以是计算可读存储介质,其上存储有计算程序指令,所述计算程序指令在被处理器运行时使得所述处理器执行本说明书上述方法中的步骤。
所述计算可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本发明的基本原理,但是,需要指出的是,在本发明中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本发明的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本发明为必须采用上述具体的细节来实现。
本发明中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本发明的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本发明的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本发明。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本发明的范围。因此,本发明不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
本领域的技术人员应理解,上述描述及附图中所示的本发明的实施例只作为举例而并不限制本发明。本发明的目的已经完整并有效地实现。本发明的功能及结构原理已在实施例中展示和说明,在没有背离所述原理下,本发明的实施方式可以有任何变形或修改。