[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP3822515B2 - 障害物検知装置及びその方法 - Google Patents

障害物検知装置及びその方法 Download PDF

Info

Publication number
JP3822515B2
JP3822515B2 JP2002097627A JP2002097627A JP3822515B2 JP 3822515 B2 JP3822515 B2 JP 3822515B2 JP 2002097627 A JP2002097627 A JP 2002097627A JP 2002097627 A JP2002097627 A JP 2002097627A JP 3822515 B2 JP3822515 B2 JP 3822515B2
Authority
JP
Japan
Prior art keywords
feature
obstacle
image
difference
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002097627A
Other languages
English (en)
Other versions
JP2003296736A (ja
Inventor
宏章 中井
信之 武田
寛 服部
一則 小野口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2002097627A priority Critical patent/JP3822515B2/ja
Priority to US10/387,465 priority patent/US7091837B2/en
Publication of JP2003296736A publication Critical patent/JP2003296736A/ja
Priority to US11/384,314 priority patent/US7209031B2/en
Application granted granted Critical
Publication of JP3822515B2 publication Critical patent/JP3822515B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/77Determining position or orientation of objects or cameras using statistical methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、主として、自動車の安全運転支援や自動走行を実現するために、車両に搭載されたカメラを用い、先行車、駐車車両、歩行者等、道路上に存在する障害物を検出するための障害物検知装置及びその方法に関する。
【0002】
【従来の技術】
道路上に存在する障害物を検知する方法としては、レーザ・レンジファインダ、超音波ソナー、ミリ波レーダーといった能動センサを用いる方法と、可視光TVカメラや赤外線カメラといった受動センサを使う方法がある。
【0003】
能動センサは、様々な目的において物体の位置を計測するのに使われており、その有用性は広く知られるところであるが、道路上の他車両といった自車両の走行に障害となる物を検知する目的においては、検出分解能が低い、計測範囲が十分に取れない、道路上の障害物以外のものを誤検知する、走行レーンを検知できないため障害とならない路側の物体を誤って検知するといった問題がある。したがって、これらの問題点を解決できるようにTVカメラ等の受動センサを用いた画像解析による高度な障害物検知技術が望まれている。
【0004】
車両に搭載されたTVカメラ等からの画像を解析することにより障害物を検知する方法は、概して画像の輝度パターン情報から障害物を検知したり走行レーンを認識したりするものであると言える。カメラ1台の画像からでも、灰色でテクスチャの少ない部分を切り出すといったことにより走行レーンを検出することは可能ではある。
【0005】
しかし、実際には道路に似た輝度やパターンを持つ障害物も多いため、誤検知の少ない実用性の高いものの実現は難しい。
【0006】
これに対し、複数のカメラを用いて障害物や走行レーンを検知する方法があり、一般に「ステレオ視」による方法と言われる。
【0007】
ステレオ視においては、検知対象領域の三次元情報を得ることができるので、より高精度な障害物検知やレーン検出の実現が期待されるが、複数のカメラ画像間に写っている実世界での同一点を見つけるという対応探索が一般には一意に解けないという問題がある。この点について、特開2001−76128や特開2000−293693といった方法では対応探索を行う必要がなく、レーン検出等の実現には非常に有用である。
【0008】
【発明が解決しようとする課題】
しかしながら、路側のガードレールや、坂道や自車両のピッチング等といった原因で路面の白線や標識といったテクスチャに視差が見られる場合、これらガードレールや路面のテクスチャは走行上の障害とはならないにもかかわらず、障害物として検知されてしまうという問題点があった。また、雨天においては、フロントガラスやカメラレンズ面に付着する雨滴が、障害物として誤検知されるという問題点もある。
【0009】
そこで、本発明はこのような事情を鑑みてなされたもので、複数のカメラ画像において求められた特徴を比較したり、画像特徴が障害物に由来するかどうかを示す指標値を算出することにより、上記のような誤検知を減少させ、障害物検知装置の性能を大幅に向上させることにある。
【0010】
【課題を解決するための手段】
本発明は、撮影方向が平行になるように配された複数の撮像装置によって共通の範囲を撮影し、前記範囲内に障害物が存在するか否かを検知する障害物検知装置において、前記複数の撮像装置から画像がそれぞれ入力する画像入力手段と、前記入力した複数の画像に関して予め定められた画像中における複数の画素からなる同じ大きさの領域の特徴量を算出する特徴算出手段と、前記算出した複数の画像に関する特徴量の差を求める特徴比較手段と、前記求めた特徴量の差と閾値とを比較して、前記特徴量の差が閾値より小さいときに前記範囲内に障害物が存在すると判定する結果判定手段と、を有することを特徴とする障害物検知装置である。
【0020】
【発明の実施の形態】
(第1の実施例)
以下、本発明の第1の実施例の障害物検知装置10について図1〜図5を用いて説明する。
【0021】
図1は、本実施例の障害物検知装置10の概略構成図である。
【0022】
障害物検知装置10は、画像入力部11と、特徴算出部12と、特徴比較部13と、結果判定部14とからなる。
【0023】
これら各部11〜14の各機能は、パソコン等のコンピュータに記憶されたプログラムによって実現できる。
【0024】
(1)画像入力部11
画像入力部11は、任意の撮像装置101から画像を供給される。撮像装置101は複数のTVカメラ等の撮像装置を有し、例えば、図2に示すように自車両前部の左側と右側の二個所に取りつけられる。
【0025】
画像入力部11は、撮像装置等から連続して出力される映像信号を逐次A/D変換し、画像入力部11内のメモリにディジタル画像あるいは時系列画像として保管する。そして、要求された任意時刻、任意領域の画像を次の特徴算出部12に出力する。
【0026】
(2)特徴算出部12
特徴算出部12では、画像入力部11から送られてくる画像あるいは画像列の任意時刻・任意領域について、予め定められた特徴量を算出する。
【0027】
この特徴量とは、各画素あるいは任意領域において求めることが可能な任意の情報を示す。
【0028】
例を挙げるならば、画素の輝度値や色情報といった単純なものから、空間あるいは時間での微分あるいは積分結果、任意のフィルタの重畳結果、平均や分散といった統計量等、任意の物体検出あるいは領域分割処理を行った結果、及び結果から得られる領域の特徴量、動き量等、画像から算出可能な任意のスカラー量あるいはベクトル量を用いることが可能である。
【0029】
ここでは、画素位置での輝度勾配を特徴量として用いる場合について説明する。
【0030】
輝度勾配とは、画素近傍での輝度変化の度合いを示すものであり、画像に映っている物体や物体内の構造の境界領域で大きな値となる(単にエッジとも呼ばれる)。
【0031】
輝度勾配を求める方法としては、例えばSobelオペレータのようなフィルタを画像に重畳する方法がある。図3を用いて方法を簡単に説明する。
【0032】
画像中の位置(x,y)での輝度値がI(x,y)で表され、フィルタ各要素値Fx(i,j)が図3の左図のように設定されていると、このフィルタを画像に重畳して得られる値
【数1】
Figure 0003822515
は、(x,y)近傍にて水平方向に輝度変化があるときに大きくなることから、Dxにより水平方向の輝度勾配を求めることができる。
【0033】
同様に、フィルタFy(i,j)が図3右図のように設定されていると、
【数2】
Figure 0003822515
を求めることにより、垂直方向の輝度勾配が求められる。
【0034】
これらから、
輝度勾配強度は、(Dx+Dy1/2
輝度勾配方向は、tan−1Dy/Dx、
等として求められる。
【0035】
他に輝度勾配を求めるフィルタとしては、Laplacian,Robinson,Canny等様々なものがあり、どれを用いてもかまわない。
【0036】
また、Hough変換等のような統計的手法により求めても良い。
【0037】
公知の輝度勾配算出方法は数多くあり、例えば参考文献1(高木、下田監修:画像解析ハンドブック、東京大学出版会、ISRN4−13−061107−0)に詳しい。
【0038】
(3)特徴比較部13
特徴比較部13では、特徴算出部12にて得られた複数の撮像装置からの画像の特徴量を比較することにより、障害物に由来する特徴だけを画像から取り出す。
【0039】
図4及び図5に処理画像の模式図を示す。図4,5は、図2のように設置された各カメラから得られる画像例である。カメラは、車体進行方向と平行に前方を向いて取りつけられているとする。
【0040】
図4は、前方に障害物(この図の例では先行車両)がある場合の例であり、左図は自車両左側に設置されたカメラ(左カメラ)からの画像の例、右図は右側のカメラ(右カメラ)からの画像例である。
【0041】
図5は、障害物がない場合の例であり、同様に左図は左カメラ、右図は右カメラからの画像である。
【0042】
今、左右の画像において、障害物検知処理の対象となる候補領域が各図中太線矩形R1及びR2にて示されているように設定されているものとし、この候補領域に障害物があるかどうかを判定することが目的であるとする。
【0043】
図4のように、候補領域内に障害物が含まれる場合、カメラとその障害物との距離に応じた視差に正しく候補領域が設定されていれば、左右の候補領域中に障害物に由来する同様の輝度パターン(この例では先行車両の背面)が見られる。ここで「視差」とは、ある物体を複数のカメラで捉えている場合の、カメラ間の位置の相違によって起こる、画像中での物体像の位置の“ずれ”を指す。この図の例で言えば、左右カメラの光軸が自車両進行方向と平行に設置されていることから、右図での先行車両像の位置が左図での位置よりも右側にずれる、ということに相当する。
【0044】
さらに、この例で、カメラと障害物との距離が障害物内部での各点の距離差(先行車両背面の凹凸)に比べて十分大きいと仮定できるとすると、障害物内部での視差は無視でき、左右カメラの画像間で障害物に由来する画像中の輝度パターンがほぼ一定の視差をもって単純に平行移動すると見なせる。
【0045】
これに対し、図5のように障害物が無い場合では、左右の候補領域中に見られる輝度パターンに違いがみられる。
【0046】
これは、候補領域内の障害物ではない物体(この図では道路面上の白線、ガードレール等の道路に付帯する構造物)の奥行き方向の広がりが、カメラと物体までの距離に対して無視できないほど大きく、その物体内での視差が距離に応じて大きく変化することによる。
【0047】
この視差による見え方の違いの性質を用いて、車両進行方向に対して垂直(と見なせるような)面を持つ障害物の画像特徴を選択的に出力するような特徴比較方法は、例えば次のようにして実現できる。
【0048】
今、左カメラ画像中に設定されている候補領域R1と右カメラ画像中の候補領域R2とが同じ大きさに設定されているとすると、R1を基準とした画素位置とR2を基準とした画素位置とは共通に表現でき、これを(x,y)とする。
【0049】
特徴算出部12にて算出される画素位置(x,y)での特徴量を左カメラ画像、右カメラ画像で各々F1,F2とすると、この位置(x,y)での特徴量の差を示す量
【数3】
Figure 0003822515
を定義し、この特徴量の差の小さいものだけを出力すれば、障害物に由来する特徴だけを出力できる。
【0050】
白線やガードレールといった、通常の運転では走行の障害とはならないものは、自車両進行方向に対して大きな奥行きを持つことから距離に応じて視差が大きく変わる。したがって、左右カメラの画像間で物体の射影像の“角度”に大きな違いが現れる。これに対し、先行車両等の障害物像は、左右カメラ画像間でほぼ平行移動するだけであるから、像の角度差はほとんどない。
【0051】
よって、両者を区別するには、左右カメラの画像において物体像の輝度勾配の方向を求め、その差を利用することが有効な方法の一つと言える。先に挙げた例のように特徴算出部12にて輝度勾配が求められているとすると、左カメラ画像の(x,y)での輝度勾配方向をd1(x,y)、右カメラ画像でのそれをd2(x,y)として、
【数4】
Figure 0003822515
と定義するのが最も単純な特徴量の差の例となる。
【0052】
また、輝度勾配強度と方向を要素とする特徴ベクトルf1(x,y)、f2(x,y)間のユークリッド距離
【数5】
Figure 0003822515
を求めれば、特徴量間の幾何学的な差を用いることもできるし、特徴算出部12にて算出される任意の特徴量F1(x,y)、F2(x,y)から計算される任意の量を、特徴量の差Dとして用いることができる。
【0053】
特徴比較部13では、任意の画素について特徴量の差Dを算出し、この値自身、あるいはDに対して一意に定められる量を、任意の画素(x,y)について出力する。
【0054】
(4)結果判定部14
結果判定部14では、特徴比較部13にて得られた障害物に由来する画像特徴を用い、画像中あるいは判定対象とする画像領域中に障害物が存在するかどうかを判定する。
【0055】
特徴比較部13にて、候補領域内の画素(x,y)において特徴量の差D(x,y)が小さい場合に大きな画素値I(x,y)を出力するようになっており、特徴の得られない画素については無視するようになっているとすれば、候補領域R内でのIの総和
【数6】
Figure 0003822515
を求めることより、障害物有無の判定をすることができる。
【0056】
前方に車両等の障害物があるときは、特徴量の差Dの小さな画素が多いことからSが大きくなり、逆に車両等の障害物がなくガードレールや路面のみが画像中に見られる場合には特徴量の差Dの小さな画素が少なくSが小さくなる。
【0057】
したがって、閾値thを定め、これと総和Sとを比較することにより、容易に障害物有無の判定を行うことができる。
【0058】
判定を行う方法としては、特徴比較部13にて得られた特徴量の差Dを用いて算出することができる任意の値を用いることができる。
【0059】
結果判定部14にて判定した結果、障害物があると判明すれば発報装置102にて運転者に警報を与えても良いし、車体制御装置103により制動をかける、操舵を行うといった車体制御を行っても良い。また、通信装置104等の任意の装置へ結果を出力あるいは転送しても良い。
【0060】
なお、閾値thはR中の全画素、全時刻で一定である必要はなく、予め定められた方法により画素毎あるいは時刻毎に別々の値が与えられても良いし、画像から求められる任意の量(スカラー量、または、ベクトル量)を元にして変化させることも可能である。
【0061】
(5)雨天時における障害物検知
ここで、雨天時における障害物検知を考える。
【0062】
自車両のフロントガラスあるいは搭載されているカメラのレンズ面に雨滴が付着した場合、従来の障害物検知では、これら雨滴像が障害物として誤検出されたり、障害物の検知結果を間違わせるといった重大なエラーが起きる可能性が高かった。
【0063】
これに対し、第1の実施例のように複数のカメラ画像間で特徴量を比較する場合では、全てのカメラ画像のある特定の視差に相当する場所に同時に同様の雨滴が付着する確率(偶然性)は小さいことから、雨滴が付着した画像部分の特徴量の差はカメラ画像間で大きくなる確率が十分高く、雨滴像による誤検出を効果的に低減できることがわかる。
【0064】
(6)変更例1
なお、第1の実施例では候補領域は矩形としているが、候補領域は予め定められた任意の形状とすることができる。
【0065】
また、左右カメラ画像での候補領域R1,R2は予め定められているとして説明を行ったが、特願2001−154569のような障害物検出方法を前処理として用い、この結果を用いて候補領域を設定しても良いし、如何なる走行レーン検出方法を用い、その結果から予め定められた方法によって候補領域を設定することも可能である。
【0066】
(7)変更例2
さらに、候補領域が予め定められていなくても、左右カメラ画像中で位置を変えてスキャンすることにより、各スキャン位置において本第1の実施例の操作を行えば、結果的に同様の障害物検知処理を行うことができる。
【0067】
このようにして、TVカメラ等撮像装置により得られた画像を解析することにより障害物を検知する場合、画像中に映っている路面のテクスチャやガードレールといった実際には走行の障害にはならない物体を誤って検知することなく、先行車両等の障害物のみを正しく検知でき、誤警報を発したり不要な車両制御を行うといった誤動作を大幅に減少させることができる。
【0068】
(第2の実施例)
本発明の第2の実施例の障害物検知装置20について、図6〜図8を用いて説明する。
【0069】
図6は、本実施例の障害物検知装置20の概略構成図である。
【0070】
この第2の実施例は、画像入力部21と、特徴算出部22と、指標算出部23と、結果判定部24とからなる。
【0071】
第1の実施例と同様に、画像入力部21は任意の撮像装置101等から画像を供給される。第2の実施例では、複数の撮像装置から得られる画像の特徴量を比較しないので、撮像装置201は必ずしも複数でなく、単一でもかまわない。
【0072】
また、本実施例での画像入力部21と特徴算出部22は、第1の実施例のそれらと全く同じものを用いることができる。
【0073】
(1)指標算出部23
指標算出部23では、特徴算出部22にて得られた画像特徴量を用い、画像特徴が障害物に由来するかどうかを示す指標を算出する。
【0074】
図7及び図8に処理画像の模式図を示す。
【0075】
第1の実施例と同様に、候補領域Rが画像中に予め設定されているものとし、画像特徴として輝度勾配を用いるものとする。図7は障害物(この例では前方車両)が含まれている場合の候補領域Rの例であり、図8は障害物がない場合の例である。
【0076】
指標算出部23では、候補領域R中に予め設定されている複数の要素領域Cn(n=1…N)において求められた要素指標Pnから、結果判定に用いる指標Pを求めて、次の結果判定部24に出力する。
【0077】
指標Pの算出方法とその利用方法を図7を用いて説明する。
【0078】
(1−1)要素領域Cnの設定
図7に示すように、要素領域Cnを、画像の候補領域R中の5つの縦長矩形として設定する。
【0079】
(1−2)要素指標Pnの算出
各要素領域Cn中での輝度勾配方向の頻度分布(ヒストグラム)から要素指標Pnを求める。このヒストグラムの例であるC1,C3,C5を図7に示す。
【0080】
輝度勾配方向θは、水平を0°、時計回りを正として、θが−90°から90°までの要素領域Cn中の輝度勾配の出現頻度f(θ)をプロットしている。
【0081】
これによりヒストグラムは、各要素領域Cn中に多く見られる輝度勾配(エッジ)の方向分布を示すことになる。
【0082】
例えば、C1及びC5中には、車両の両端が映っており垂直方向のエッジが顕著に見られるため、f(90)あるいはf(−90)の値が大きくなる。
【0083】
これに対し、C2からC4は、車両中央部の像を含んでおり水平方向のエッジが顕著に見られるため、f(0)の値が大きくなる。
【0084】
つまり、要素指標Pnを、n=1,5のときはPn=f(90)あるいはPn=f(−90)、n=2,3,4のときはPn=f(0)と予め定めておけば、障害物があるときにのみ全ての要素領域において要素指標Pnの値が大きくなる。
【0085】
ここで、要素指標Pnの定める方法としては、下記のような方法がある。
【0086】
第1の方法は、上記のようにPn毎に定められたあるθでのf(θ)の値をそのまま用いる方法である。
【0087】
第2の方法は、θの所定の範囲内のf(θ)の最大値や平均値といった統計量をとる方法もある。
【0088】
例えば、このθの範囲としては、n=1,5の時は、−90°=<θ−70°及び70°=<θ=<90°であり、n=2,3,4の時は、−30°=<θ=<30°等である。
【0089】
(1−3)指標Pの算出
ヒストグラムを全累積度数で正規化すれば、これはエッジ方向の確率分布と見なすこともできる。
【0090】
そのために、障害物があるということの結合尤度として指標Pを求めれば、
【数7】
Figure 0003822515
とすることができる。
【0091】
(1−4)指標Pの利用方法
このようにして指標Pを求めた場合、障害物がない図8のような場合では、各要素指標値Pnはnがいずれの場合でもほとんど0となるため、Pもほぼ0となる。
【0092】
これに対し、障害物がある場合のPは0に比べて大きな値となることから、このPは画像特徴が障害物に由来するかどうかを示す指標、つまり障害物があるかどうかを示す指標として判定に用いることができる。
【0093】
同様の方法により、ガードレールや路上の白線といった障害とならないようなものを検知する指標P′を算出することもできる。
【0094】
例えば、図8のC1及びC2だけを包括するような領域が候補領域R′と設定されているとする。
【0095】
C1,C2の輝度勾配方向分布がα°近傍をピークとするような分布になっているとすると(図から見ればα°は約50°である)、Pn=f(α)とし、n=1,2について
【数8】
Figure 0003822515
を計算すれば、このP′は路側左側のガードレールあるいは白線があることを示す指標として用いることができる。
【0096】
全く同様にして路側右側のガードレールあるいは白線があることの指標も計算できる等、任意の物体について、その物体特有の特徴分布を元にして、その物体があることの指標を計算することができる。
【0097】
(2)結果判定部24
結果判定部24では、指標算出部23にて得られた障害物があることの指標Pを用い、画像中あるいは判定対象とする画像領域中に障害物が存在するかどうかを判定する。
【0098】
ある閾値thを定め、これと指標Pとを比較することにより、障害物有無の判定を行っても良いし、先に述べたように、障害物があることの指標Pと障害物以外の物体があることの指標P′,P″,…とを比較することにより、障害物有無の判定を行っても良い。
【0099】
結果判定部24にて判定した結果、発報装置202、車体制御装置203、通信装置204等の任意の装置へ結果を伝えても良い。
【0100】
このようにして、画像中に映っている道路面の模様やガードレールといった実際には走行の障害にはならない物体とは区別して、先行車両等の障害物のみを正しく検知でき、誤警報を発したり不要な車両制御を行うといった誤動作を大幅に減少させることができる。
【0101】
(3)変更例1
判定を行う方法としては、指標算出部23にて得られた任意の指標Pを用いて算出することができる任意の値を用いることができる。
【0102】
(4)変更例2
この第2の実施例では、要素領域Cは同じ大きさの5つの矩形状に設定されていたが、任意の数、任意の形状に設定することが可能であり、互いに一部が重なるように設定しても良い。
【0103】
(5)変更例3
また、画像特徴として輝度勾配分布のみを用いて説明したが、特徴算出部から得られる任意の特徴量あるいは特徴ベクトルの分布を用いることができる。
【0104】
(6)変更例4
要素指標Pnも、nに応じて予め定められた角度θでの頻度値f(θ)を用いる方法を説明したが、Pnの求め方としては、例えば、ある角度範囲での最頻値、平均値、中央値、重み付け和といった任意の統計量等やf(θ)の任意の計算式によって得られる値が設定可能である。
【0105】
(7)変更例5
撮像装置が3個以上のw個ある場合の特徴量の差の求め方を説明する。
【0106】
例えば、w枚の画像の特徴量の分散値を求めれば、これらw個の特徴量のばらつきを示すことができ、この特徴量のばらつきを特徴量の差として用いることができる。
【0107】
(第3の実施例)
本発明の第3の実施例の障害物検知装置30について説明する。
【0108】
図9は、本発明の第3の実施例の概略構成図である。
【0109】
第3の実施例は、画像入力部31と、特徴算出部32と、特徴比較部33と、指標算出部34と、結果判定部35とからなる。
【0110】
画像入力部31と特徴算出部32と特徴比較部33は、第1の実施例のものと同じであり、指標算出部34と結果判定部35は、第2の実施例のものと同じである。
【0111】
特徴比較部33と指標算出部34とは連続に行うために、特徴比較部33に次のような機能を付加する。
【0112】
すなわち、左右カメラの画像中の候補領域R1及びR2での任意の位置(x,y)において、各候補領域R1、R2での特徴量がf1(x,y)、f2(x,y)で求められているとすると、閾値thに比べて特徴量の差Dが小さい場合には、特徴量f1(x,y)とf2(x,y)とを合成して特徴量f(x,y)が出力され、それ以外の場合は0で出力される。
【0113】
特徴量fの合成する方法としては、例えば、f、f1、f2が全てM次元のベクトル量であるとし(輝度勾配を特徴として用いている場合には、輝度勾配強度及び方向がベクトルの各要素となる)、fの各要素fm(m=1,2,3・・,M)を
fm(x,y)=min{f1m(x,y)、f2m(x,y)}
のように各要素毎に最小値を求めても良い。
【0114】
また、他の合成方法としては、f1(x,y)、f2(x,y)から算出される任意の値を用いることも可能である。
【0115】
このようにして、特徴比較部33と指標算出部34とを連続に行うことにより、より確実に障害物のみを正しく検知でき、誤警報を発したり不要な車両制御を行うといった誤動作を大幅に減少させることができる。
【0116】
【発明の効果】
本発明によれば、路側のガードレールや路面上の白線や標識等のテクスチャといった走行上の障害とはならない物体が障害物として誤検知されてしまうことや、雨天においてフロントガラスやカメラレンズ面に付着する雨滴が障害物として誤検知されてしまうことといった障害物検知装置のエラーを減少させ、性能を大幅に向上させることが可能となる等の実用上多大なる効果が奏せられる。
【図面の簡単な説明】
【図1】本発明の第1の実施例の障害物検知装置の概略構成図である。
【図2】撮像装置の設置状態を示す模式図である。
【図3】特徴算出部で輝度勾配を求める方法を示す模式図である。
【図4】障害物がある場合の特徴比較部での処理を説明する模式図である。
【図5】障害物がない場合の特徴比較部での処理を説明する模式図である。
【図6】本発明の第2の実施例の障害物検知装置の概略構成図である。
【図7】障害物がある場合の指標算出部での処理を説明する模式図である。
【図8】障害物がない場合の指標算出部での処理を説明する模式図である。
【図9】本発明の第3の実施例の障害物検知装置の概略構成図である。
【符号の説明】
10 障害物検知装置
11 画像入力部
12 特徴算出部
13 特徴比較部
14 結果判定部
20 障害物検知装置
21 画像入力部
22 特徴算出部
23 指標算出部
24 結果判定部
30 障害物検知装置
31 画像入力部
32 特徴算出部
33 特徴比較部
34 指標算出部
35 結果判定部

Claims (4)

  1. 撮影方向が平行になるように配された複数の撮像装置によって共通の範囲を撮影し、前記範囲内に障害物が存在するか否かを検知する障害物検知装置において、
    前記複数の撮像装置から画像がそれぞれ入力する画像入力手段と、
    前記入力した複数の画像に関して予め定められた画像中における複数の画素からなる同じ大きさの領域の特徴量を算出する特徴算出手段と、
    前記算出した複数の画像に関する特徴量の差を求める特徴比較手段と、
    前記求めた特徴量の差と閾値とを比較して、前記特徴量の差が閾値より小さいときに前記範囲内に障害物が存在すると判定する結果判定手段と、
    を有する
    ことを特徴とする障害物検知装置。
  2. 前記特徴算出手段は、
    前記領域の各画素での輝度勾配を算出して、この輝度勾配を前記特徴量とする
    ことを特徴とする請求項記載の障害物検知装置。
  3. 撮影方向が平行になるように配された複数の撮像装置によって共通の範囲を撮影し、前記範囲内に障害物が存在するか否かを検知する障害物検知方法において、
    前記複数の撮像装置から画像がそれぞれ入力する画像入力ステップと、
    前記入力した複数の画像に関して予め定められた画像中における複数の画素からなる同じ大きさの領域の特徴量を算出する特徴算出ステップと、
    前記算出した複数の画像に関する特徴量の差を求める特徴比較ステップと、
    前記求めた特徴量の差と閾値とを比較して、前記特徴量の差が閾値より小さいときに前記範囲内に障害物が存在すると判定する結果判定ステップと、
    を有する
    ことを特徴とする障害物検知方法。
  4. 撮影方向が平行になるように配された複数の撮像装置によって共通の範囲を撮影し、前記範囲内に障害物が存在するか否かを検知する障害物検知方法をコンピュータによって実現するプログラムにおいて、
    前記複数の撮像装置から画像がそれぞれ入力する画像入力機能と、
    前記入力した複数の画像に関して予め定められた画像中における複数の画素からなる同じ大きさの領域の特徴量を算出する特徴算出機能と、
    前記算出した複数の画像に関する特徴量の差を求める特徴比較機能と、
    前記求めた特徴量の差と閾値とを比較して、前記特徴量の差が閾値より小さいときに前記範囲内に障害物が存在すると判定する結果判定機能と、
    を実現する
    ことを特徴とする障害物検知方法のプログラム。
JP2002097627A 2002-03-29 2002-03-29 障害物検知装置及びその方法 Expired - Fee Related JP3822515B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002097627A JP3822515B2 (ja) 2002-03-29 2002-03-29 障害物検知装置及びその方法
US10/387,465 US7091837B2 (en) 2002-03-29 2003-03-14 Obstacle detecting apparatus and method
US11/384,314 US7209031B2 (en) 2002-03-29 2006-03-21 Obstacle detecting apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002097627A JP3822515B2 (ja) 2002-03-29 2002-03-29 障害物検知装置及びその方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2006129600A Division JP4381394B2 (ja) 2006-05-08 2006-05-08 障害物検知装置及びその方法

Publications (2)

Publication Number Publication Date
JP2003296736A JP2003296736A (ja) 2003-10-17
JP3822515B2 true JP3822515B2 (ja) 2006-09-20

Family

ID=29387726

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002097627A Expired - Fee Related JP3822515B2 (ja) 2002-03-29 2002-03-29 障害物検知装置及びその方法

Country Status (2)

Country Link
US (2) US7091837B2 (ja)
JP (1) JP3822515B2 (ja)

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5877897A (en) 1993-02-26 1999-03-02 Donnelly Corporation Automatic rearview mirror, vehicle lighting control and vehicle interior monitoring system using a photosensor array
US6822563B2 (en) 1997-09-22 2004-11-23 Donnelly Corporation Vehicle imaging system with accessory control
US6891563B2 (en) 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
US7655894B2 (en) 1996-03-25 2010-02-02 Donnelly Corporation Vehicular image sensing system
EP1504276B1 (en) 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
US7738725B2 (en) 2003-03-19 2010-06-15 Mitsubishi Electric Research Laboratories, Inc. Stylized rendering using a multi-flash camera
JP3879740B2 (ja) * 2004-02-13 2007-02-14 日産自動車株式会社 道路領域検出装置
US7526103B2 (en) 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
JP2006217447A (ja) * 2005-02-07 2006-08-17 Yazaki Corp 車両用表示装置
JP4548181B2 (ja) * 2005-03-31 2010-09-22 日産自動車株式会社 障害物検出装置
JP4710437B2 (ja) * 2005-07-01 2011-06-29 トヨタ自動車株式会社 対象物探索装置
JP4517972B2 (ja) * 2005-08-02 2010-08-04 日産自動車株式会社 障害物判断装置及び方法
DE102005044270A1 (de) * 2005-09-16 2007-03-29 Robert Bosch Gmbh Verfahren und Vorrichtung zur Unterstützung eines Einparkvorgangs eines Fahrzeugs
US9165464B2 (en) * 2005-09-16 2015-10-20 Robert Bosch Gmbh Method and device for providing assistance during a parking maneuver of a vehicle
US7972045B2 (en) 2006-08-11 2011-07-05 Donnelly Corporation Automatic headlamp control system
US8199975B2 (en) * 2006-12-12 2012-06-12 Cognex Corporation System and method for side vision detection of obstacles for vehicles
TWI327536B (en) * 2007-05-16 2010-07-21 Univ Nat Defense Device and method for detecting obstacle by stereo computer vision
US7859432B2 (en) * 2007-05-23 2010-12-28 Che Il Electric Wireing Devices Co., Ltd. Collision avoidance system based on detection of obstacles in blind spots of vehicle
US8068135B2 (en) * 2007-07-06 2011-11-29 Chol Kim Device and method for detection and prevention of motor vehicle accidents
JP4906683B2 (ja) * 2007-11-12 2012-03-28 日本放送協会 カメラパラメータ推定装置およびカメラパラメータ推定プログラム
WO2009122338A1 (en) * 2008-04-04 2009-10-08 Koninklijke Philips Electronics N.V. Simultaneous model-based segmentation of objects satisfying pre-defined spatial relationships
US8917933B2 (en) * 2008-04-07 2014-12-23 Koninklijke Philips N.V. Mesh collision avoidance
US7869306B2 (en) * 2008-07-21 2011-01-11 Northrop Grumman Guidance And Electronics Company, Inc. System and method for automatic detection of a sonar contact
JP5181937B2 (ja) * 2008-09-02 2013-04-10 株式会社デンソー 車両周辺画像表示装置
JP5267101B2 (ja) * 2008-12-18 2013-08-21 マツダ株式会社 車両用対象物検出装置
FR2940490B1 (fr) * 2008-12-19 2011-05-13 Thales Sa Procede d'imagerie passive et de detection de pluie
EP2293588A1 (en) * 2009-08-31 2011-03-09 Robert Bosch GmbH Method for using a stereovision camera arrangement
JP5404263B2 (ja) * 2009-09-07 2014-01-29 パナソニック株式会社 視差算出方法、および視差算出装置
JP5372680B2 (ja) * 2009-09-24 2013-12-18 日立オートモティブシステムズ株式会社 障害物検知装置
JP5751350B2 (ja) * 2012-01-26 2015-07-22 トヨタ自動車株式会社 物体認識装置および車両制御装置
US9726883B2 (en) * 2012-07-27 2017-08-08 Nissan Motor Co., Ltd Three-dimensional object detection device and foreign matter detection device
JP6160252B2 (ja) * 2013-05-29 2017-07-12 日産自動車株式会社 画像処理装置および画像処理方法
JP6151150B2 (ja) * 2013-10-07 2017-06-21 日立オートモティブシステムズ株式会社 物体検出装置及びそれを用いた車両
JP6476831B2 (ja) * 2013-12-26 2019-03-06 株式会社リコー 視差演算システム、情報処理装置、情報処理方法及びプログラム
US9390329B2 (en) * 2014-04-25 2016-07-12 Xerox Corporation Method and system for automatically locating static occlusions
JP6299630B2 (ja) * 2015-03-10 2018-03-28 株式会社Jvcケンウッド 警告装置、警告方法及び警告プログラム
EP3107063A1 (en) * 2015-06-16 2016-12-21 Continental Automotive GmbH Method for processing camera images
CN107924625B (zh) * 2015-08-19 2021-11-12 三菱电机株式会社 车道识别装置以及车道识别方法
JP6541119B2 (ja) * 2016-12-05 2019-07-10 パナソニックIpマネジメント株式会社 撮像装置
WO2018176000A1 (en) 2017-03-23 2018-09-27 DeepScale, Inc. Data synthesis for autonomous control systems
US11409692B2 (en) 2017-07-24 2022-08-09 Tesla, Inc. Vector computational unit
US11157441B2 (en) 2017-07-24 2021-10-26 Tesla, Inc. Computational array microprocessor system using non-consecutive data formatting
US11893393B2 (en) 2017-07-24 2024-02-06 Tesla, Inc. Computational array microprocessor system with hardware arbiter managing memory requests
US10671349B2 (en) 2017-07-24 2020-06-02 Tesla, Inc. Accelerated mathematical engine
US11561791B2 (en) 2018-02-01 2023-01-24 Tesla, Inc. Vector computational unit receiving data elements in parallel from a last row of a computational array
US11215999B2 (en) 2018-06-20 2022-01-04 Tesla, Inc. Data pipeline and deep learning system for autonomous driving
JP7064400B2 (ja) * 2018-07-19 2022-05-10 日立Astemo株式会社 物体検知装置
US11361457B2 (en) 2018-07-20 2022-06-14 Tesla, Inc. Annotation cross-labeling for autonomous control systems
US11636333B2 (en) 2018-07-26 2023-04-25 Tesla, Inc. Optimizing neural network structures for embedded systems
US11562231B2 (en) 2018-09-03 2023-01-24 Tesla, Inc. Neural networks for embedded devices
CN109271944B (zh) 2018-09-27 2021-03-12 百度在线网络技术(北京)有限公司 障碍物检测方法、装置、电子设备、车辆及存储介质
CA3115784A1 (en) 2018-10-11 2020-04-16 Matthew John COOPER Systems and methods for training machine models with augmented data
US11196678B2 (en) 2018-10-25 2021-12-07 Tesla, Inc. QOS manager for system on a chip communications
US11816585B2 (en) 2018-12-03 2023-11-14 Tesla, Inc. Machine learning models operating at different frequencies for autonomous vehicles
US11537811B2 (en) 2018-12-04 2022-12-27 Tesla, Inc. Enhanced object detection for autonomous vehicles based on field view
US11610117B2 (en) 2018-12-27 2023-03-21 Tesla, Inc. System and method for adapting a neural network model on a hardware platform
US11150664B2 (en) 2019-02-01 2021-10-19 Tesla, Inc. Predicting three-dimensional features for autonomous driving
US10997461B2 (en) 2019-02-01 2021-05-04 Tesla, Inc. Generating ground truth for machine learning from time series elements
US11567514B2 (en) 2019-02-11 2023-01-31 Tesla, Inc. Autonomous and user controlled vehicle summon to a target
US10956755B2 (en) 2019-02-19 2021-03-23 Tesla, Inc. Estimating object properties using visual image data
CN113109835B (zh) * 2021-03-16 2023-08-18 联想(北京)有限公司 一种信息处理方法及电子设备

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2989744B2 (ja) * 1994-06-13 1999-12-13 株式会社東芝 測定面抽出装置及びその方法
DE4431479A1 (de) 1994-09-03 1996-03-07 Bosch Gmbh Robert Vorrichtung und Verfahren zur Erkennung von Objekten
JP3726309B2 (ja) 1995-05-26 2005-12-14 日産自動車株式会社 車両認識装置及びそれを用いた車両接近報知装置
JP3866349B2 (ja) * 1996-12-27 2007-01-10 富士重工業株式会社 車両の衝突防止装置
JP3358709B2 (ja) * 1997-08-11 2002-12-24 富士重工業株式会社 車両用運転支援装置
JP2000293693A (ja) 1999-03-31 2000-10-20 Toshiba Corp 障害物検出方法および装置
JP2000293893A (ja) 1999-04-02 2000-10-20 Sony Corp 情報記録媒体
US6963661B1 (en) * 1999-09-09 2005-11-08 Kabushiki Kaisha Toshiba Obstacle detection system and method therefor
JP4256992B2 (ja) 1999-09-09 2009-04-22 株式会社東芝 障害物検出装置
US6819779B1 (en) * 2000-11-22 2004-11-16 Cognex Corporation Lane detection system and apparatus

Also Published As

Publication number Publication date
US7091837B2 (en) 2006-08-15
US7209031B2 (en) 2007-04-24
US20060182312A1 (en) 2006-08-17
JP2003296736A (ja) 2003-10-17
US20030227378A1 (en) 2003-12-11

Similar Documents

Publication Publication Date Title
JP3822515B2 (ja) 障害物検知装置及びその方法
EP2993654B1 (en) Method and system for forward collision warning
JP3596314B2 (ja) 物体端の位置計測装置および移動体の通行判断装置
JP3759429B2 (ja) 障害物検出装置及びその方法
EP1671216B1 (en) Moving object detection using low illumination depth capable computer vision
JP5297078B2 (ja) 車両の死角における移動物体を検知するための方法、および死角検知装置
US8320628B2 (en) Method and system for assisting driver
US7046822B1 (en) Method of detecting objects within a wide range of a road vehicle
US9846812B2 (en) Image recognition system for a vehicle and corresponding method
TWI417207B (zh) Image - based obstacle detection reversing warning system and method
US7103213B2 (en) Method and apparatus for classifying an object
CN106096512B (zh) 利用深度摄像头对车辆或行人进行识别的检测装置及方法
CN107423675B (zh) 对陷阱和行人进行前部碰撞警告的先进警告系统
JPH06124340A (ja) 車両用画像処理装置
KR101180621B1 (ko) 차량 검출 방법 및 장치
JP3656056B2 (ja) 割り込み車両検出装置及びその方法
JP4321142B2 (ja) 標識認識装置
JP3868915B2 (ja) 前方監視装置及びその方法
Kim et al. An intelligent and integrated driver assistance system for increased safety and convenience based on all-around sensing
JP3988657B2 (ja) 対象物検出装置
JP4381394B2 (ja) 障害物検知装置及びその方法
Bertozzi et al. Vision-based Automated Vehicle Guidance: the experience of the ARGO vehicle
Wu et al. A vision-based collision warning system by surrounding vehicles detection
JP2015179337A (ja) 画像判定装置、画像処理装置、画像判定プログラム、画像判定方法、移動体
JP2005135308A (ja) 車両用画像処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060622

R151 Written notification of patent or utility model registration

Ref document number: 3822515

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090630

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100630

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110630

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120630

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130630

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees