JP6138861B2 - Distance calculation device - Google Patents
Distance calculation device Download PDFInfo
- Publication number
- JP6138861B2 JP6138861B2 JP2015127202A JP2015127202A JP6138861B2 JP 6138861 B2 JP6138861 B2 JP 6138861B2 JP 2015127202 A JP2015127202 A JP 2015127202A JP 2015127202 A JP2015127202 A JP 2015127202A JP 6138861 B2 JP6138861 B2 JP 6138861B2
- Authority
- JP
- Japan
- Prior art keywords
- distance
- estimated
- estimated distance
- distance calculation
- calculated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004364 calculation method Methods 0.000 title claims description 143
- 238000003384 imaging method Methods 0.000 claims description 47
- 230000002159 abnormal effect Effects 0.000 claims description 4
- 238000005259 measurement Methods 0.000 description 16
- 238000000034 method Methods 0.000 description 10
- 238000001514 detection method Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 8
- 230000007423 decrease Effects 0.000 description 7
- 230000005856 abnormality Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Measurement Of Optical Distance (AREA)
Description
本発明は距離算出装置及び距離算出方法に関し、例えば複数の撮像手段を備えた撮像システムに適用される距離算出装置に関する。 The present invention relates to a distance calculation device and a distance calculation method, for example, a distance calculation device applied to an imaging system including a plurality of imaging units.
従来から、自動車分野等においては、安全性の向上を目的として様々な安全システムが装備されている。 Conventionally, in the automobile field and the like, various safety systems are equipped for the purpose of improving safety.
近年、そのような安全システムの一つとして、ステレオカメラなどの複数のカメラを用いて歩行者や車両等の対象物を検出する対象物検出システムが実用化されている。 In recent years, an object detection system for detecting an object such as a pedestrian or a vehicle using a plurality of cameras such as a stereo camera has been put into practical use as one of such safety systems.
上記する対象物検出システムは、例えばテンプレートマッチングを用いて複数のカメラ(撮像装置)で同時刻に撮像された複数の画像上における同一対象物の位置ずれ(視差)を算出し、前記視差と周知の変換式とを用いて対象物の実空間上の位置を算出することで、対象物を検出することができる。 The object detection system described above calculates the positional deviation (parallax) of the same object on a plurality of images captured at the same time by a plurality of cameras (imaging devices) using, for example, template matching, and is known as the parallax. The object can be detected by calculating the position of the object in the real space using
このような、複数のカメラ(撮像装置)で撮像された一対の画像を用いて対象物までの距離を算出して対象物の認識を行うステレオカメラの対象物検出システムは、上記する車両の安全システムのほか、不審者の侵入や異常を検知する監視システム等にも適用することができる。 Such an object detection system for a stereo camera that recognizes an object by calculating the distance to the object using a pair of images captured by a plurality of cameras (imaging devices) is a vehicle safety system described above. In addition to the system, it can also be applied to a monitoring system that detects intrusion or abnormality of a suspicious person.
前記安全システムや監視システムに適用されるステレオカメラの対象物検出システムは、所定の間隔を置いて配置された複数のカメラで対象物を撮像し、その複数のカメラで撮像された一対の撮像画像に対して三角測量技術を適用することによって、対象物までの距離を算出するシステムである。 A stereo camera target detection system applied to the safety system and the surveillance system is a pair of captured images captured by a plurality of cameras that are captured at a predetermined interval and captured by the plurality of cameras. Is a system that calculates the distance to an object by applying a triangulation technique.
具体的には、前記対象物検出システムは、一般に、すくなくとも2台の撮像装置(カメラ)と、これらの撮像装置から出力される少なくとも2つの撮像画像に対して三角測量処理を適用するステレオ画像処理LSI(Large Scale Integration)と、を備えており、このステレオ画像処理LSIは、複数のカメラで撮像された一対の撮像画像に含まれる画素情報を重ね合わせて2つの撮像画像の一致した位置のずれ量(視差)を算出する演算処理を行なうことによって三角測量処理を実行する。なお、このような対象物検出システムにおいては、複数のカメラで撮像された一対の撮像画像の間に視差以外のずれが発生しないように、各々の撮像装置毎に光学特性や信号特性のずれがないように調整したり、撮像装置間の距離等を予め精緻に求めておく必要がある。 Specifically, the object detection system generally includes at least two imaging devices (cameras) and stereo image processing that applies triangulation processing to at least two captured images output from these imaging devices. LSI (Large Scale Integration), and this stereo image processing LSI superimposes pixel information included in a pair of captured images captured by a plurality of cameras and shifts the matching position of the two captured images. Triangulation processing is executed by performing calculation processing for calculating the quantity (parallax). In such an object detection system, there is a difference in optical characteristics and signal characteristics for each imaging device so that a shift other than parallax does not occur between a pair of captured images captured by a plurality of cameras. It is necessary to make adjustments so that the distance between the imaging devices is not necessary, or to obtain the distance between the imaging devices in advance.
図7は、上記するステレオカメラを用いた対象物検出システムの原理を説明したものであり、図中、δは視差(一対の撮像画像の一致した位置のずれ量)、Zは対象物までの計測距離、fは撮像装置の焦点距離、bは基線長(撮像装置間の距離)をそれぞれ表しており、これらの間には以下の式(1)で示す関係が成立している。 FIG. 7 illustrates the principle of the object detection system using the above-described stereo camera. In the figure, δ is parallax (the amount of deviation of the position where a pair of captured images match), and Z is the distance to the object. The measurement distance, f represents the focal length of the imaging device, and b represents the base length (distance between the imaging devices), respectively, and the relationship represented by the following equation (1) is established between them.
ところで、ステレオカメラを用いた対象物検出システムにおいては、対象物までの計測距離が大きくなるに従って視差δが小さくなるため、この視差δの算出性能が低下すると対象物までの距離計測の精度が低下するといった問題がある。 By the way, in the object detection system using a stereo camera, since the parallax δ decreases as the measurement distance to the object increases, the accuracy of the distance measurement to the object decreases as the calculation performance of the parallax δ decreases. There is a problem such as.
このような問題に対して、特許文献1には、ステレオカメラと単眼カメラの技術を融合して双方の欠点を補完する技術が開示されている。 With respect to such a problem, Patent Document 1 discloses a technique for complementing the drawbacks of both the stereo camera and the monocular camera.
特許文献1に開示されている3次元座標取得装置は、単眼カメラとステレオカメラのそれぞれで撮像された画像から対象物の3次元座標を算出し、双方の算出結果を単純に切り替えあるいは統合する装置である。また、双方の算出結果を統合する際には、対象物のカメラからの距離や車速度、フローの数や精度に応じて双方の重みを変更する装置である。 A three-dimensional coordinate acquisition device disclosed in Patent Document 1 calculates a three-dimensional coordinate of an object from images captured by a monocular camera and a stereo camera, and simply switches or integrates the calculation results of both. It is. Moreover, when integrating both calculation results, it is an apparatus which changes both weight according to the distance from the camera of a target object, a vehicle speed, the number of flows, and precision.
特許文献1に開示されている3次元座標取得装置によれば、単眼カメラとステレオカメラのそれぞれで撮像された画像を用いることによって、単眼カメラとステレオカメラの双方の領域における対象物までの距離を計測することができると共に、単眼カメラとステレオカメラのそれぞれで撮像された画像から算出される対象物の3次元座標に対して対象物までの距離や車速度等に応じた重みを付けることによって、対象物までの距離計測の精度を高めることができる。 According to the three-dimensional coordinate acquisition device disclosed in Patent Document 1, by using images captured by a monocular camera and a stereo camera, the distance to an object in both the monocular camera and the stereo camera is determined. By being able to measure and weighting the three-dimensional coordinates of the object calculated from the images captured by the monocular camera and the stereo camera according to the distance to the object or the vehicle speed, The accuracy of distance measurement to the object can be increased.
しかしながら、特許文献1に開示されている3次元座標取得装置においては、上記する重みの配分方法については言及されていない。また、各々のカメラの撮像画像の信頼度が低下した場合には、単眼カメラとステレオカメラのそれぞれで撮像された画像から算出された対象物との距離計測の精度が低下するといった課題がある。 However, in the three-dimensional coordinate acquisition apparatus disclosed in Patent Document 1, the above-described weight distribution method is not mentioned. Moreover, when the reliability of the captured image of each camera falls, there exists a subject that the precision of the distance measurement with the target calculated from the image imaged with each of the monocular camera and the stereo camera falls.
本発明は、前記問題に鑑みてなされたものであって、その目的とするところは、ステレオカメラの視差分解能以下の距離計測を行うことができ、各々のカメラの撮像画像の信頼度が低下した場合であっても、対象物までの相対距離を精緻に計測することができる距離算出装置を提供することにある。 The present invention has been made in view of the above problems, and the object of the present invention is to perform distance measurement below the parallax resolution of a stereo camera, and the reliability of the captured images of each camera is reduced. Even if it is a case, it is providing the distance calculation apparatus which can measure the relative distance to a target object precisely.
本発明は、複数の撮像装置を備えた撮像システムの距離算出装置であって、前記複数の撮像装置のうち単数の撮像装置で撮像された単一の画像に基づいて対象物までの推定距離を算出する第1の推定距離算出部と、前記複数の撮像装置のうち少なくとも2つの撮像装置で撮像された画像に基づいて対象物までの推定距離を算出する第2の推定距離算出部と、前記第1の推定距離算出部によって算出された第1の推定距離、及び、前記第2の推定距離算出部によって算出された第2の推定距離に対して重み付けを行って、前記対象物までの出力距離を算出する出力距離算出部と、備えることを特徴とする。 The present invention is an apparatus for calculating a distance of an imaging system including a plurality of imaging devices, wherein an estimated distance to an object is calculated based on a single image captured by a single imaging device among the plurality of imaging devices. A first estimated distance calculator that calculates, a second estimated distance calculator that calculates an estimated distance to an object based on images captured by at least two of the plurality of imaging devices, and The first estimated distance calculated by the first estimated distance calculator and the second estimated distance calculated by the second estimated distance calculator are weighted and output to the object And an output distance calculation unit for calculating the distance.
本発明の距離算出装置によれば、複数の撮像装置を備えた撮像システ
ムにおいて、例えばステレオカメラの視差分解能以下の距離計測を行うことができ、各々のカメラの撮像画像の信頼度が低下した場合であっても、対象物までの相対距離を精緻に且つ安定して計測することができる。
According to the distance calculation device of the present invention, in an imaging system including a plurality of imaging devices, for example, distance measurement below the parallax resolution of a stereo camera can be performed, and the reliability of the captured image of each camera decreases. Even so, the relative distance to the object can be precisely and stably measured.
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。 Problems, configurations, and effects other than those described above will be clarified by the following description of embodiments.
以下、本発明に係る距離算出装置と距離算出方法の実施の形態を図面を参照して説明する。 Embodiments of a distance calculation device and a distance calculation method according to the present invention will be described below with reference to the drawings.
[第1の実施の形態]
図1は、本発明に係る距離算出装置の第1の実施の形態が適用される撮像システムを概略的に示したものである。
[First Embodiment]
FIG. 1 schematically shows an imaging system to which a first embodiment of a distance calculation apparatus according to the present invention is applied.
図示する撮像システム100は、主として、所定の間隔を置いて配置された2台のカメラ(撮像装置)101、102と、このカメラ101、102を制御するカメラ制御装置103と、カメラ101、102で撮像された撮像画像等の一時的な記憶領域であるRAM104と、プログラムや各種初期値を格納するROM105と、ブレーキ等の制御系やユーザに対してカメラの認識状態を通知するための通信手段である外部IF106と、対象物との距離を算出する距離算出装置107と、このシステム全体の制御を行うCPU108と、を備えており、それぞれがバス109を介して情報を授受できるようになっている。すなわち、この撮像システム100においては、2台のカメラ101、102を用いることで、ステレオカメラによる対象物との距離計測が可能な構成となっている。
The illustrated
なお、前記カメラ101、102は、例えばCCD(Charge Coupled Device Image Sensor)やCMOS(Complementary Metal Oxide Semiconductor)センサ等の撮像素子から構成されており、カメラ制御装置103によって各カメラ101、102の撮像タイミングが同一になるように制御されている。また、双方のカメラ101、102で撮像された画像における対応する点を探索する際に輝度値が同一となるように、各カメラ101、102の露光も同一になるように制御されている。
The
図2は、図1に示す第1の実施の形態の距離算出装置107の内部構成を示したものである。なお、カメラ101、102で撮像された撮像画像はそれぞれ、RAM104のカメラ画像保存部104a、104bに一時的に保存されている。
FIG. 2 shows an internal configuration of the
図示する距離算出装置107は、主として、単眼推定距離算出部(第1の推定距離算出部)203と、ステレオ推定距離算出部(第2の推定距離算出部)204と、推定距離比較部205と、出力距離算出部206と、HALT回路207と、を備えている。
The illustrated
前記単眼推定距離算出部203は、カメラ101で撮像されてカメラ画像保存部104aに保存された画像情報に基づいて対象物までの推定距離(第1の推定距離)を算出し、その算出結果を推定距離比較部205へ送信する。
The monocular estimated
上記する推定距離の算出方法としては、従来知られた種々の算出方法を適用することができるが、その一例として、例えば車両の車幅を用いた算出方法が挙げられる。具体的には、パターンマッチングによって、カメラ画像保存部104aから得られる画像情報から車両の領域(画面上の位置)を算出する。ここで、パターンマッチングとは、撮像された画像の輝度値の相関値を算出し、その輝度値が所定値以上であれば「車両」と判断してその領域を「車両の領域」とする方法である。これにより、カメラ画像保存部104aから得られる画像情報から車両の車幅を算出することができ、カメラの撮像方向と車両の背面とが略垂直であると仮定すると、仮定された車両の車幅等から対象物である車両までのおおよその距離を容易に算出することができる。
As the calculation method of the estimated distance described above, various conventionally known calculation methods can be applied. For example, a calculation method using the vehicle width of the vehicle can be given. Specifically, the vehicle region (position on the screen) is calculated from the image information obtained from the camera
図3は、カメラ101を用いた対象物までの距離算出方法を説明したものであり、図中、Wは先行車両の車幅、Zは先行車両までの距離、xは撮像面での車幅、fはカメラ101の焦点距離をそれぞれ表しており、これらの間には以下の式(2)で示す関係が成立していることから、先行車両までの距離Wを算出することができる。
FIG. 3 illustrates a method for calculating the distance to the object using the
しかしながら、単眼推定距離算出部203は、勾配やカーブのある路面等といったカメラの撮像方向と車両の背面とが略垂直でない場合には、先行車両までの距離を正確に算出することができない可能性がある。また、仮定された車両の車幅等を用いて先行車両までの距離を算出するため、対象物である車両の車幅が未知である場合にはその車両までの距離に誤差が生じる可能性がある。
However, the monocular estimated
そこで、図2で示すステレオ推定距離算出部204は、カメラ101、102で撮像されてカメラ画像保存部104a、104bに保存されたそれぞれの画像情報に基づいて対象物までの推定距離(第2の推定距離)を算出する。具体的には、カメラ画像保存部104a、104bから得られる画像情報から対応する画素を探索して視差を算出し、対象物までの推定距離を算出して(図7参照)、その算出結果を推定距離比較部205へ送信する。
Therefore, the estimated stereo
より具体的には、視差を算出するためにカメラ101、102で撮像された画像の対応する点を探索する方法として、例えば絶対差の総和(Sum of the Absolute Differences : SAD)を算出する方法を適用し、一方の画像の特定の一部をテンプレートとしてその画像内で対応する位置を探索し、各画素の輝度値の絶対値差分の和を算出し、その総和が最も相関が高いとして対応する位置とする。これにより、一方の画像と他方の画像の位置ずれを視差とすることができる。ここで、ハードウェアで効率的に処理するために、双方の画像の縦位置を予め合わせておき(「平行化する」という。)、一方の画像の特定の一部を4x4画素程度として他方の画像を横方向のみ探索する。この処理を一方の画像全体に行うことで作成された画像を「距離画像」と称する。次いで、このように作成された「距離画像」から対象物である車両を検出するために、「距離画像」群から距離が同一である平面を探索し、その平面における対象物の幅が車両らしい幅である場合には「車両」として探索する。そして、このように検出された複数の「車両」領域の距離の平均値を算出することで対象物である車両までの距離を算出する。
More specifically, as a method of searching for corresponding points in images captured by the
また、ステレオ推定距離算出部204は、推定距離精度算出部202を備えており、推定距離精度算出部202は、上記方法で検出した「車両」領域の視差値のばらつき度合い(分散)を算出し、その算出結果をステレオ推定距離算出部204の確信度(Confidence)として出力距離算出部206へ出力する。なお、前記推定距離精度算出部202は、撮像された画像全体のボケ度合い(例えば、コントラストの高低を判断指標とする)を算出し、その算出結果をステレオ推定距離算出部204の確信度としても良い。また、ハードウェアで効率的に処理するために、前記「距離画像」を4x4画素程度等の固定値で区切って作成すると、車両位置と4x4画素の境界で背景が含まれて対象物までの距離の誤差が生じ易くなる。特に、対象物が遠方に位置する場合には、視差値が小さくなると共に車両の大きさも小さくなることから、対象物までの距離の誤差が更に大きくなると考えられる。そこで、推定距離精度算出部202は、ステレオ推定距離算出部204で算出した対象物までの推定距離を用い、例えば対象物までの距離が近いときには大きく、対象物までの距離が遠いときには小さくなるような確信度を設定しても良い。なお、本実施の形態において、確信度は0から100に正規化されている。
The estimated stereo
ここで、単眼推定距離算出部203とステレオ推定距離算出部204とで算出される算出結果(推定距離)は同一であることが望ましいものの、上記するような算出方法の相違等に起因して双方の算出結果は必ずしも同一とは限らない。
Here, although it is desirable that the calculation results (estimated distances) calculated by the monocular estimated
そこで、上記する単眼推定距離算出部203とステレオ推定距離算出部204から算出結果を受信した推定距離比較部205は、距離計測が不正か否かを判断するために、単眼推定距離算出部203とステレオ推定距離算出部204とによって算出された双方の推定距離を比較する。そして、単眼推定距離算出部203とステレオ推定距離算出部204の推定距離の差が所定の閾値以上である場合には、HALT回路207に対して異常を通知する。なお、前記所定の閾値は、予めROM105に保存されており、必要に応じて推定距離比較部205へ送信されるようになっている。
Therefore, the estimated
また、出力距離算出部206は、単眼推定距離算出部203とステレオ推定距離算出部204の推定距離の差が所定の閾値よりも小さい場合には、単眼推定距離算出部203とステレオ推定距離算出部204の双方の推定距離と、推定距離精度算出部202によって算出されたステレオ推定距離算出部204の確信度と、に基づいて、ブレーキ等の制御系や表示系等に出力するための出力距離(最終距離)を算出する。その際、予めROM105に保存された確信度に応じた重みテーブルを用いて出力距離を算出する。
Further, the output
図4は、図2に示す出力距離算出部206で用いられる確信度に応じた重みテーブルの一例を示したものである。図中、単眼は、単眼推定距離算出部203によって算出された推定距離(単眼推定距離)の重み(使用率)、ステレオは、ステレオ推定距離算出部204によって算出された推定距離(ステレオ推定距離)の重みを表している。
FIG. 4 shows an example of a weight table corresponding to the certainty factor used in the output
例えば、ステレオ推定距離算出部204の確信度(Confidence)が80の場合には、出力距離算出部206は、以下の式(3)に基づいて出力距離(最終距離)を算出することができる。
For example, when the certainty factor (Confidence) of the stereo estimated
なお、図4で示す確信度の中間値については、その中間値の前後の値から線形的に補完することができる。 In addition, about the intermediate value of reliability shown in FIG. 4, it can complement linearly from the value before and behind the intermediate value.
このような構成とすることで、例えば視差値のばらつきや画像全体のボケ等によってステレオ推定距離算出部204の距離計測の精度が低下する場合であっても、対象物までの距離に関わらずその距離を安定して精度良く計測することができる。
By adopting such a configuration, even when the accuracy of distance measurement of the stereo estimated
なお、単眼距離算出部203とステレオ距離算出部204の双方の推定距離の差が大きい場合には、カメラのレンズに汚れが付着していたり、悪天候で計測が困難であったり、カメラのセンサに異常が発生している可能性が高い。そこで、HALT回路207は、前記推定距離比較部205から異常信号を受信すると、出力距離算出部206に対して中止信号を送信し、距離算出を中止して当該システムを停止させる。また、ユーザに対して当該システムが正常に動作していないことを通知して誤動作を抑制する。
If the difference between the estimated distances of the monocular
[第2の実施の形態]
図5は、本発明に係る距離算出装置の第2の実施の形態の内部構成を示したものである。図5に示す第2の実施の形態の距離算出装置107Aは、図2に示す第1の実施の形態の距離算出装置107に対して、各カメラで撮像されたカメラ画像を解析してカメラ画像の信頼度を算出する点が相違しており、その他の構成は、第1の実施の形態の距離算出装置107とほぼ同様である。したがって、第1の実施の形態の距離算出装置107と同様の構成については、同様の符号を付してその詳細な説明は省略する。
[Second Embodiment]
FIG. 5 shows the internal configuration of the second embodiment of the distance calculation apparatus according to the present invention. The
図示する距離算出装置107Aは、単眼推定距離算出部(第1の推定距離算出部)203Aと、ステレオ推定距離算出部(第2の推定距離算出部)204Aと、推定距離比較部205Aと、出力距離算出部206Aと、HALT回路207Aと、を備えると共に、カメラ102(図1参照)で撮像されてカメラ画像保存部104Abに保存された画像情報に基づいて対象物までの推定距離(第1の推定距離)を算出する単眼推定距離算出部(第1の推定距離算出部)208Aと、各カメラ画像保存部104Aa、104Abに保存された画像情報を解析して各カメラ画像の信頼度を算出する信頼度算出部201Aa、201Abと、を備えている。
The illustrated
単眼推定距離算出部208Aは、第1の実施の形態の単眼推定距離算出部203と同様
の演算を実行し、カメラ画像保存部104Abに保存された画像情報に基づいて対象物ま
での推定距離を算出して、その算出結果を推定距離比較部205Aへ送信する。
The monocular estimated
また、信頼度算出部201Aa、201Abは、各カメラ画像保存部104Aa、104Abに保存された画像の内容をそれぞれ解析し、各カメラ画像から対象物までの距離が精度良く計測されるか否かの信頼度を算出して、その算出結果を推定距離比較部205Aへ送信する。
Further, the reliability calculation units 201Aa and 201Ab analyze the contents of the images stored in the camera image storage units 104Aa and 104Ab, respectively, and determine whether or not the distance from each camera image to the object is accurately measured. The reliability is calculated, and the calculation result is transmitted to the estimated
上記する信頼度算出部201Aa、201Abにおける信頼度の算出方法としては、種々の算出方法を適用することができるが、その一例として、例えば画像のコントラストを算出し、算出されたコントラストが低い場合には信頼度を小さくし、コントラストが高い場合には信頼度を高くする方法が挙げられる。また、雨滴や泥等を検知してカメラの撮像状態を各カメラ画像の信頼度としても良い。 Various calculation methods can be applied as the reliability calculation method in the reliability calculation units 201Aa and 201Ab described above. For example, when the contrast of an image is calculated and the calculated contrast is low, for example. Is a method of decreasing the reliability and increasing the reliability when the contrast is high. Moreover, it is good also as a reliability of each camera image by detecting a raindrop, mud, etc., and the imaging state of a camera.
推定距離比較部205Aは、単眼推定距離算出部203A、208Aから送信された推定距離(単眼推定距離)と、ステレオ推定距離算出部204Aから送信された推定距離(ステレオ推定距離)と、信頼度算出部201Aa、201Abから送信された信頼度と、に基づいて、単眼推定距離算出部203A、208Aとステレオ推定距離算出部204Aとによって算出された双方の推定距離を比較する。具体的には、推定距離比較部205Aは、信頼度の高いカメラ画像に基づいて対象物までの推定距離を算出した単眼推定距離算出部を選択し、その単眼推定距離算出部から送信された推定距離とステレオ推定距離算出部204Aから送信された推定距離を比較する。そして、第1の実施の形態と同様に、その単眼推定距離算出部とステレオ推定距離算出部204Aの推定距離の差が所定の閾値以上である場合には、HALT回路207Aに対して異常を通知する。
The estimated
なお、推定距離比較部205Aは、信頼度の高いカメラ画像に基づいて対象物までの推定距離を算出した単眼推定距離算出部を選択する代わりに、各カメラ画像保存部104Aa、104Abに保存された各カメラ画像の信頼度の比率に応じて、単眼推定距離算出部203A、208Aによって算出された推定距離の結果を融合しても良い。このような構成とすることで、距離計測の際に単眼推定距離算出部203A、208A同士が頻繁に切り替わって単眼推定距離の算出結果が不安定となることを抑制することができる。
Note that the estimated
出力距離算出部206Aは、単眼推定距離算出部とステレオ推定距離算出部の推定距離の差が所定の閾値よりも小さい場合には、単眼推定距離算出部203A、208Aから送信された推定距離と、ステレオ推定距離算出部204Aから送信された推定距離と、推定距離精度算出部202Aによって算出されたステレオ推定距離算出部204Aの確信度と、信頼度算出部201Aa、201Abから送信された信頼度と、に基づいて、ブレーキ等の制御系や表示系等に出力するための出力距離(最終距離)を算出する。その際、予めROM105Aに保存された確信度に応じた重みテーブルを用いて出力距離を算出する。
When the difference between the estimated distances of the monocular estimated distance calculating unit and the stereo estimated distance calculating unit is smaller than a predetermined threshold, the output
図6は、図5に示す出力距離算出部206Aで用いられる確信度に応じた重みテーブルの一例を示したものである。図中、単眼1は、単眼推定距離算出部203Aによって算出された推定距離(単眼推定距離)の重み(使用率)、単眼2は、単眼推定距離算出部208Aによって算出された推定距離の重み、ステレオは、ステレオ推定距離算出部204Aによって算出された推定距離(ステレオ推定距離)の重みを表している。
FIG. 6 shows an example of a weight table corresponding to the certainty factor used in the output
図示するように、第2の実施の形態においては、単眼推定距離算出部203A、208Aによって算出された2つの推定距離と、ステレオ推定距離算出部204Aによって算出された推定距離と、に対して確信度に応じた重み付けを行うことによって、対象物までの相対距離を算出する。
As shown in the figure, in the second embodiment, the two estimated distances calculated by the monocular estimated
具体的には、例えばステレオ推定距離算出部204Aの確信度が低い場合には、単眼推定距離算出部203A、208Aによって算出された推定距離の重みを増加させ、主として単眼カメラによる距離計測を実行することによって、対象物までの距離を精緻に安定して算出することができる。その際、例えば泥や雨滴の影響等によって2台のカメラのうち一方の距離計測の精度が低下した場合であっても、2台の単眼カメラによる距離計測を組み合わせることによって、泥や雨滴の影響等に対するロバスト性を高めることができる。一方で、例えばステレオ推定距離算出部204Aの確信度が高い場合には、ステレオ推定距離算出部204Aによって算出された推定距離の重みを増加させ、主としてステレオカメラによる距離計測を実行することによって、対象物までの距離を精緻に安定して算出することができる。
Specifically, for example, when the certainty factor of the stereo estimated
また、図示例においては、単眼1と単眼2をステレオ推定距離算出部204Aの確信度毎に同値とする形態について示したが、各カメラ画像保存部104Aa、104Abに保存された各カメラ画像の信頼度に基づいて単眼推定距離算出部203A、208Aによって算出された推定距離のそれぞれの重みを算出し、各カメラ画像の信頼度に応じて単眼推定距離算出部203A、208Aによって算出された推定距離の重みを可変設定しても良い。例えば泥や雨滴等によって一方のカメラが汚れてしまった場合には、ステレオ推定距離算出部204Aの確信度が低下するとともに、その一方のカメラで撮像されたカメラ画像の信頼度も低下するものの、汚れのないカメラで撮像されたカメラ画像の信頼度は依然として維持されるため、汚れのないカメラで撮像されたカメラ画像に基づいて算出された単眼推定距離の重みを増加させることで、泥や雨滴の影響等に対するロバスト性を更に高めることができる。
In the illustrated example, the monocular 1 and the monocular 2 are shown to have the same value for each certainty factor of the stereo estimated
なお、上記する第1、2の実施の形態においては、2台のカメラ(撮像装置)を用いる形態について説明したが、少なくとも2つの撮像装置を有し、ステレオカメラによる対象物との距離計測が可能であれば、撮像装置の基数は適宜変更することができる。 In the first and second embodiments described above, the embodiment using two cameras (imaging devices) has been described. However, at least two imaging devices are provided, and distance measurement with an object using a stereo camera is possible. If possible, the radix of the imaging device can be changed as appropriate.
また、上記する第1、2の実施の形態においては、ステレオカメラを構成する2台のカメラ(撮像装置)の一方若しくは双方を単眼カメラに用いる形態について説明したが、例えばステレオカメラを構成するカメラと単眼カメラをそれぞれ別個に設けても良い。 In the first and second embodiments described above, the mode in which one or both of the two cameras (imaging devices) constituting the stereo camera are used for the monocular camera has been described. For example, the camera constituting the stereo camera And a monocular camera may be provided separately.
なお、本発明は上記した実施形態に限定されるものではなく、様々な変形形態が含まれる。例えば、上記した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。 In addition, this invention is not limited to above-described embodiment, Various deformation | transformation forms are included. For example, the above-described embodiment has been described in detail for easy understanding of the present invention, and is not necessarily limited to one having all the configurations described. Further, a part of the configuration of an embodiment can be replaced with the configuration of another embodiment, and the configuration of another embodiment can be added to the configuration of an embodiment. In addition, it is possible to add, delete, and replace other configurations for a part of the configuration of each embodiment.
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記憶装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。 Each of the above-described configurations, functions, processing units, processing means, and the like may be realized by hardware by designing a part or all of them with, for example, an integrated circuit. Each of the above-described configurations, functions, and the like may be realized by software by interpreting and executing a program that realizes each function by the processor. Information such as programs, tables, and files that realize each function can be stored in a storage device such as a memory, a hard disk, or an SSD (Solid State Drive), or a recording medium such as an IC card, an SD card, or a DVD.
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。 Further, the control lines and information lines are those that are considered necessary for the explanation, and not all the control lines and information lines on the product are necessarily shown. Actually, it may be considered that almost all the components are connected to each other.
100 撮像システム
101、102 カメラ(撮像装置)
103 カメラ制御装置
104 RAM
104a、104b カメラ画像保存部
105 ROM
106 外部IF
107 距離算出装置
108 CPU
109 バス
202 推定距離精度算出部
203 単眼推定距離算出部(第1の推定距離算出部)
204 ステレオ推定距離算出部(第2の推定距離算出部)
205 推定距離比較部
206 出力距離算出部
207 HALT回路
100
103
104a, 104b Camera
106 External IF
107
109
204 Stereo estimated distance calculation unit (second estimated distance calculation unit)
205 Estimated
Claims (9)
前記複数の撮像装置のうち単数の撮像装置で撮像された単一の画像に基づいて対象物までの推定距離を算出する第1の推定距離算出部と、
前記複数の撮像装置のうち少なくとも2つの撮像装置で撮像された画像に基づいて対象物までの推定距離を算出する第2の推定距離算出部と、
前記第1の推定距離算出部によって算出された第1の推定距離、及び、前記第2の推定距離算出部によって算出された第2の推定距離に対して重み付けを行って、前記対象物までの出力距離を算出する出力距離算出部と、を備え、
前記出力距離算出部は、(1)前記第2の推定距離に対する確信度が低い場合は前記第1の推定距離の重みを増加させること、及び(2)前記第2の推定距離に対する確信度が高い場合は前記第2の推定距離の重みを増加させることの少なくとも1つを行うことを特徴とする距離算出装置。 A distance calculation device for an imaging system including a plurality of imaging devices,
A first estimated distance calculation unit that calculates an estimated distance to an object based on a single image captured by a single imaging device among the plurality of imaging devices;
A second estimated distance calculation unit that calculates an estimated distance to an object based on images captured by at least two of the plurality of imaging devices;
Weighting is performed on the first estimated distance calculated by the first estimated distance calculating unit and the second estimated distance calculated by the second estimated distance calculating unit, and the distance to the target object is calculated. An output distance calculation unit for calculating the output distance,
The output distance calculating unit (1) increases the weight of the first estimated distance when the certainty factor for the second estimated distance is low, and (2) the certainty factor for the second estimated distance is When the distance is high, at least one of increasing the weight of the second estimated distance is performed.
前記推定距離比較部によって比較された前記第1の推定距離と前記第2の推定距離との差が所定の閾値以上である場合に、前記推定距離比較部から異常信号を受信するHALT回路と、を備えることを特徴とする請求項1から6のいずれか一項に記載の距離算出装置。 An estimated distance comparison unit that compares the first estimated distance and the second estimated distance;
A HALT circuit that receives an abnormal signal from the estimated distance comparison unit when a difference between the first estimated distance and the second estimated distance compared by the estimated distance comparison unit is equal to or greater than a predetermined threshold; The distance calculation device according to any one of claims 1 to 6, further comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015127202A JP6138861B2 (en) | 2015-06-25 | 2015-06-25 | Distance calculation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015127202A JP6138861B2 (en) | 2015-06-25 | 2015-06-25 | Distance calculation device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012052897A Division JP2013186042A (en) | 2012-03-09 | 2012-03-09 | Distance calculating device and distance calculating method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015206798A JP2015206798A (en) | 2015-11-19 |
JP6138861B2 true JP6138861B2 (en) | 2017-05-31 |
Family
ID=54603661
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015127202A Active JP6138861B2 (en) | 2015-06-25 | 2015-06-25 | Distance calculation device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6138861B2 (en) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6467685B2 (en) * | 2016-10-24 | 2019-02-13 | 株式会社菱和工業 | Grinder equipment |
JP2018115878A (en) * | 2017-01-16 | 2018-07-26 | キヤノン株式会社 | Measuring apparatus, system and product manufacturing method |
EP3659872B1 (en) | 2017-07-24 | 2023-05-03 | Fujitsu Limited | Vehicle parking assistance device, vehicle parking assistance program |
JP7353747B2 (en) * | 2018-01-12 | 2023-10-02 | キヤノン株式会社 | Information processing device, system, method, and program |
CN111954792B (en) * | 2018-04-17 | 2022-12-20 | 索尼公司 | Signal processing apparatus, signal processing method, and image capturing apparatus |
CN111971528B (en) * | 2018-04-23 | 2022-06-03 | 日立安斯泰莫株式会社 | Vehicle-mounted camera device |
JP7103077B2 (en) * | 2018-08-31 | 2022-07-20 | 株式会社豊田自動織機 | Remote control system for forklifts |
JP7347644B2 (en) * | 2020-02-19 | 2023-09-20 | 日本電気株式会社 | Object ranging device, method, and program |
JP7371549B2 (en) * | 2020-03-19 | 2023-10-31 | 株式会社リコー | Vehicle detection device, vehicle, vehicle detection method and program |
US20220268899A1 (en) | 2021-02-22 | 2022-08-25 | Shenzhen Camsense Technologies Co., Ltd | Ranging apparatus, lidar, and mobile robot |
CN118247765B (en) * | 2024-01-16 | 2024-10-29 | 广东六力智行科技有限公司 | Panoramic object detection method, device, vehicle and storage medium |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2923063B2 (en) * | 1991-02-19 | 1999-07-26 | 日本電信電話株式会社 | Multi-view stereo image measurement method |
JPH0814861A (en) * | 1994-07-01 | 1996-01-19 | Canon Inc | Method of measuring three-dimensional shape and device therefor |
JPH0843055A (en) * | 1994-07-29 | 1996-02-16 | Canon Inc | Method and apparatus for recognizing shape of three dimensional object |
JP3827368B2 (en) * | 1996-08-01 | 2006-09-27 | 富士通テン株式会社 | Inter-vehicle distance measuring device with compound eye camera |
JP4131392B2 (en) * | 2003-01-28 | 2008-08-13 | ソニー株式会社 | Robot apparatus, robot control method, recording medium, and program |
JP5293131B2 (en) * | 2008-12-09 | 2013-09-18 | 株式会社リコー | Compound eye distance measuring device for vehicle and compound eye distance measuring method |
-
2015
- 2015-06-25 JP JP2015127202A patent/JP6138861B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015206798A (en) | 2015-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6138861B2 (en) | Distance calculation device | |
WO2013132951A1 (en) | Distance calculation device and distance calculation method | |
JP5587930B2 (en) | Distance calculation device and distance calculation method | |
KR101411668B1 (en) | A calibration apparatus, a distance measurement system, a calibration method, and a computer readable medium recording a calibration program | |
KR100938195B1 (en) | Method for distance estimation and apparatus for the same using a stereo matching | |
CA3010997C (en) | Passenger counting device, system, method and program, and vehicle movement amount calculation device, method and program | |
EP2858037B1 (en) | Moving object detector | |
JP6544257B2 (en) | INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND INFORMATION PROCESSING PROGRAM | |
WO2014002692A1 (en) | Stereo camera | |
US10521915B2 (en) | Distance measurement device and distance measurement method | |
JP2013097675A (en) | Gradient estimation device, gradient estimation method, and gradient estimation program | |
JP5107154B2 (en) | Motion estimation device | |
JP2018503195A (en) | Object detection method and object detection apparatus | |
JP2014238409A (en) | Distance calculation device and distance calculation method | |
JP6602286B2 (en) | Image processing apparatus, image processing method, and program | |
JP2007037011A (en) | Image processing apparatus | |
JP6577595B2 (en) | Vehicle external recognition device | |
US20130142388A1 (en) | Arrival time estimation device, arrival time estimation method, arrival time estimation program, and information providing apparatus | |
WO2013069453A1 (en) | Image processing apparatus and image processing method | |
US20180268228A1 (en) | Obstacle detection device | |
JP7269130B2 (en) | Image processing device | |
KR101869226B1 (en) | Disparity map generating method for mono cameras | |
WO2024127757A1 (en) | Image processing device and image processing method | |
JP2013190938A (en) | Stereo image processing device | |
JP6334773B2 (en) | Stereo camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160607 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160711 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161220 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170119 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170426 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6138861 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |