[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4905496B2 - 物体検出装置 - Google Patents

物体検出装置 Download PDF

Info

Publication number
JP4905496B2
JP4905496B2 JP2009098945A JP2009098945A JP4905496B2 JP 4905496 B2 JP4905496 B2 JP 4905496B2 JP 2009098945 A JP2009098945 A JP 2009098945A JP 2009098945 A JP2009098945 A JP 2009098945A JP 4905496 B2 JP4905496 B2 JP 4905496B2
Authority
JP
Japan
Prior art keywords
frame interval
image
object detection
lateral position
calculation unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009098945A
Other languages
English (en)
Other versions
JP2010249641A (ja
Inventor
尚秀 内田
剛 名波
征和 西嶋
宏晃 後藤
達也 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2009098945A priority Critical patent/JP4905496B2/ja
Priority to PCT/IB2010/000827 priority patent/WO2010119329A2/en
Priority to EP10720956.1A priority patent/EP2419881B1/en
Priority to US13/259,662 priority patent/US8854458B2/en
Priority to EP20120165186 priority patent/EP2482250B1/en
Priority to CN201080016738.7A priority patent/CN102396002B/zh
Publication of JP2010249641A publication Critical patent/JP2010249641A/ja
Application granted granted Critical
Publication of JP4905496B2 publication Critical patent/JP4905496B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、物体を検出する物体検出装置に関する。
従来、物体検出を行うものとして、移動体に搭載された撮像素子で撮像された動画像からオプティカルフローを検出する動画像処理装置を備え、当該動画像処理装置が、動画像に含まれるフレームを複数の領域に分割して領域ごとに異なる条件でオプティカルフローを算出する演算部と、移動体の状態に応じて分割の態様及び条件の少なくとも一方を適応的に変化させるパラメータ決定部とを備えるものが知られている。この物体検出装置では、近距離の物体検出時と遠距離の物体検出時とでオプティカルフロー演算におけるフレーム間隔を変更している。
特開2008−276308号公報
ここで、上述の物体検出装置にあっては、例えば、物体の横位置が中心から大きく離れている場合や自車両が大きくカーブした場合など、状況によっては想定外にオプティカルフローが大きくなってしまい正確に演算することができない場合があった。このような場合は物体の検出精度が低下してしまうという問題があった。
本発明は、このような問題を解決するためになされたものであり、状況によらず物体の検出精度を向上させることのできる物体検出装置を提供することを目的とする。
本発明に係る物体検出装置は、移動体に搭載された撮像手段によって画像を取得し、所定のフレーム間隔を有する二つの画像間における画像移動量に基づいて物体を検出する物体検出装置において、物体の画像中における横位置に基づいてフレーム間隔を変更することを特徴とする。
例えば、物体が画像中における周縁部付近に位置している場合は(すなわち、自車両の撮像手段の撮像中心線と物体との横位置偏差が大きい場合)、画像中の物体の横位置変化量が大きくなり、一方、画像中における中央部付近に位置している場合は横位置変化量が小さくなる。従って、本発明に係る物体検出装置によれば、物体の画像中における横位置に基づいてフレーム間隔を変更することによって、オプティカルフローを高精度に演算することが可能となり、物体の位置によらず精度よく物体を検出することができる。以上によって、状況によらず物体の検出精度を向上させることができる。
本発明に係る物体検出装置は、移動体に搭載された撮像手段によって画像を取得し、所定のフレーム間隔を有する二つの画像間における画像移動量に基づいて物体を検出する物体検出装置において、移動体の旋回状態に基づいてフレーム間隔を変更することを特徴とする。
例えば、自車両が旋回している場合は(すなわち推定Rが小さい場合)、画像中における横位置変化量が大きくなり、一方、直進している場合は横位置変化量が小さくなる。従って、本発明に係る物体検出装置によれば、旋回状態に基づいてフレーム間隔を変更することによって、オプティカルフローを高精度に演算することが可能となり、運転状態によらず精度よく物体を検出することができる。以上によって、状況によらず物体の検出精度を向上させることができる。
本発明に係る物体検出装置において、画像中における物体の横方向の移動量に基づいてフレーム間隔を変更することが好ましい。画像中における物体の横方向の移動量に基づいてフレーム間隔を変更することができるため、物体の横方向の移動量に応じた適切なフレーム間隔を設定することによって、オプティカルフローを高精度に演算することが可能となり、状況によらず物体の検出精度を向上させることができる。
具体的には、本発明に係る物体検出において、物体の画像中における横位置が大きいほどフレーム間隔を短くすることが好ましく、移動体の旋回半径が小さいほどフレーム間隔を短くすることが好ましい。
本発明によれば、状況によらず物体の検出精度を向上させることができる。
本発明の実施形態に係る物体検出装置のブロック構成図である。 本発明の実施形態に係る物体検出装置における制御処理を示すフローチャートである。 カメラで撮像した画像の一例を示す図である。 最適なフレーム間隔を演算するための線図の一例である。 最適なフレーム間隔を演算するための線図の一例である。 画像のフレーム間隔を模式的に示した図である。
以下、図面を参照して本発明に係る物体検出装置の好適な実施形態について詳細に説明する。
まず、本発明の実施形態に係る物体検出装置1の構成を説明する。図1は、本発明の実施形態に係る物体検出装置1のブロック構成を示した図である。物体検出装置1は、撮像した画像を用いてオプティカルフローを演算し、その演算結果に基づいて物体を検出する機能を有する装置である。図1に示すように、物体検出装置1は、ECU(Electronic Control Unit)2、ミリ波レーダ3、カメラ(撮像手段)4、を備えて構成されている。
ミリ波レーダ3は、ミリ波を利用して物体を検出するレーダセンサである。ミリ波レーダ3は、自車両(移動体)の前側の中央の所定の高さ位置(検出対象の障害物を確実に検出可能な高さ位置)に取り付けられる。ミリ波レーダ3では、ミリ波を左右方向に走査しながら自車両から前方に向けて送信し、反射してきたミリ波を受信する。ミリ波を送信する際の上下方向の角度は、固定であり、車両停止時には路面に対して平行となる角度が設定されている。ミリ波レーダ3では、反射ミリ波を受信できた各反射点についてのミリ波情報(左右方向の走査方位角、送信時刻、受信時刻、反射強度など)からなるミリ波信号をECU2に送信する。このミリ波レーダ3は、例えば、車両前方が図3に示すような状況である場合、検出点P1を検出することによって物体(図においては他車両M1である)を検出する。
カメラ4は、自車両の前方を撮像する単眼カメラである。カメラ4は、自車両の前側の中央に搭載される。カメラ4は、自車両前方を撮像し、その撮像画像情報を画像信号としてECU2に送信する。この撮像画像は、一定時間(例えば、1/30秒)毎のフレームの画像である。カメラ4は、左右方向に撮像範囲が広く、車線数が少ない場合には走行車線及び対向車線の外側の歩道や路肩までを十分に含む範囲まで撮像可能であり、例えば、図3のような画像を取得することができる。
ECU2は、運転支援装置1全体の制御を行う電子制御ユニットであり、例えばCPUを主体として構成され、ROM、RAM、入力信号回路、出力信号回路、電源回路などを備えている。ECU2は、画像処理領域抽出部11、相対速度演算部12、距離演算部13、横位置演算部14、推定R演算部16、フレーム間隔演算部17、オプティカルフロー演算部18、物体検出部19を備えて構成されている。
画像処理領域抽出部11は、ミリ波レーダ3から出力されたミリ波信号に基づいて車両前方の物体を検出し、その物体の位置情報に基づいて当該物体がカメラ4から出力された画像中のどの領域に存在するかを特定し、特定した領域を画像処理領域F1として抽出する機能を有している。具体的には、画像処理領域抽出部11は、現時刻でのミリ波情報を利用し、反射してきたミリ波の中で最も強く反射してきたミリ波の方向を検出し、その方向から自車両の進行方向と検出点P1の方向とのなす角度を求め、その角度から検出点P1の位置を算出することによって物体を検出する。そして、画像中で検出点P1を特定するとともに、その周辺の領域を画像処理領域F1として抽出する。
距離演算部13は、ミリ波情報に基づいて自車両と物体との相対距離を演算する機能を有している。具体的には、距離演算部13は、現時刻でのミリ波情報を利用し、ミリ波の送信から受信までの時間に基づいて前方の物体までの相対距離を算出する。
相対速度演算部12は、ミリ波情報に基づいて自車両と物体との相対速度を演算する機能を有している。具体的には、相対速度演算部12は、距離演算部13によって演算された現時刻における距離と所定の前時刻における距離の変化に基づいて前方の物体との相対速度を算出する。
横位置演算部14は、カメラ4から出力された撮像画像に基づいて物体の横位置を演算する機能を有している。ここで、横位置とはカメラ4の撮像中心線に対する物体の横位置偏差である。横位置演算部14は、撮像画像を解析することによって物体の横位置を演算し、例えば、画像データのヒストグラムにおけるピーク部分を物体の幅方向の端部と認定し、認定した両端部の位置から物体の幅方向の中心軸の位置を割り出すことによって、物体の横位置を導き出すことができる。なお、横位置演算部14は、ミリ波情報を用いて横位置を演算してもよい。
推定R演算部16は、自車両の旋回半径(推定R)を演算する機能を有している。この推定Rは、図示されないヨーレイトセンサや操舵角センサの出力情報に基づいて演算することができる。推定Rは自車両がまっすぐに走っているときほど大きくなり、急速にカーブしているときほど小さくなる。
フレーム間隔演算部17は、相対速度演算部12、距離演算部13、横位置演算部14、推定R演算部16の演算結果に基づいて、オプティカルフローを演算するのに最適なフレーム間隔を演算する機能を有している。ここで、フレーム間隔とは、図6に示すように、オプティカルフローを演算するのに用いられる二つの異なる画像同士の間の間隔であり、一つめの画像は現時刻(t)における画像であり、二つめの画像は前時刻(t−x)における画像である。従来においては一フレーム前の前時刻(t−1)における画像が用いられていたが、本実施形態においては条件に従ってオプティカルフローを演算するのに最適なフレーム間隔が演算される。
このフレーム間隔演算部17は、画像中における物体の横方向の移動量に基づいてフレーム間隔を変更する機能を有している。また、フレーム間隔演算部17は、物体の画像中における横位置に基づいてフレーム間隔を変更する機能を有し、自車両の旋回状態に基づいてフレーム間隔を変更する機能を有している。更に、フレーム間隔演算部17は、物体との相対距離に基づいてフレーム間隔を変更する機能を有し、物体との相対速度に基づいてフレーム間隔を変更する機能を有している。具体的には、フレーム間隔演算部17は、物体の横位置が大きいほどフレーム間隔を短く設定し横位置が小さいほどフレーム間隔を長く設定できるように、図4(a)に示すような曲線に従って最適なフレーム間隔を設定することができる。また、フレーム間隔演算部17は、自車両の推定Rが大きいほど(すなわち進路がまっすぐであるほど)フレーム間隔を長めに設定し推定Rが小さいほど(すなわち急カーブであるほど)フレーム間隔を短めに設定できるように、図4(b)に示すような曲線に従って最適なフレーム間隔を設定することができる。また、フレーム間隔演算部17は、相対速度が大きいほどフレーム間隔を短く設定し相対速度が小さいほどフレーム間隔を長く設定できるように、図5(a)に示すような曲線に従って最適なフレーム間隔を設定することができる。またフレーム間隔演算部17は、相対距離が大きいほどフレーム間隔を長く設定し、相対距離が小さいほどフレーム間隔を短めに設定することができるように、図5(b)に示すような曲線に従って最適なフレーム間隔を設定することができる。フレーム間隔演算部17は、相対距離、相対速度、横位置、及び推定Rからそれぞれ求められる最適なフレーム間隔を総合的に考慮してフレーム間隔を設定することができる。
オプティカルフロー演算部18は、フレーム間隔演算部17の演算結果にしたがって、二つの画像を用いてオプティカルフローを演算する機能を有している。ここで、オプティカルフローとは、画像内のある点や図形が次の瞬間にどのような方向へ、どの程度の距離移動するかを示すベクトルである。
物体検出部19は、オプティカルフロー演算部18で演算されたオプティカルフローの大きさに基づいて物体を検出する機能を有している。例えば、物体検出部19は、物体のオプティカルフローの大きさが所定値より大きい場合には、物体を障害物として検出する機能を有している。また、物体検出部19は、当該検出結果とミリ波レーダ3による物体の検出結果とを比較することによって装置の検出結果の信頼性を判定する機能を有している。更に、物体検出部19は、検出結果を例えば警報装置、車両制御装置、乗員保護装置等の運転支援装置に出力して警告などの運転支援を行わせる機能を備えている。
次に、本実施形態に係る物体検出装置1の動作について図2を用いて説明する。図2は、本実施形態に係る物体検出装置1の動作を示すフローチャートである。なお、以下では、説明理解の容易性を考慮し、自車両が走行しながら物体検知する場合において、検出する物体を図3に示す他車両M1とした場合を説明する。図2に示す制御処理は、例えばイグニッションオンされてから所定のタイミングでECU2内において繰り返し実行される。
まず、画像処理領域抽出部11は、図2に示すように画像処理領域を抽出する(ステップS10)。具体的に画像処理領域抽出部11は、ミリ波レーダ3から出力されたミリ波信号に基づいて他車両M1を検出するとともに、その他車両M1が画像中のどの領域に存在するかを特定すると共に、特定した領域を画像処理領域F1として抽出する。
次に、距離演算部13は、自車両と他車両M1との相対距離を演算する(ステップS12)。相対速度演算部12は、S12で演算した相対距離に基づいて自車両と他車両M1との相対速度を演算する(ステップS14)。また、横位置演算部14は、カメラ4から出力された撮像画像に基づいて他車両M1の横位置を演算する(ステップS16)。更に、推定R演算部16は、ヨーレイトセンサや操舵角センサからの出力情報に基づいて自車両の推定Rを演算する(ステップS18)。
次に、フレーム間隔演算部17は、S12で演算した相対距離、S14で演算した相対速度、S16で演算した横位置、及びS18で演算した推定Rに基づいて最適なフレーム間隔を演算する(ステップS20)。具体的には、フレーム間隔演算部17は、図4及び図5に示す各曲線と相対距離、相対速度、横位置、及び推定Rとをそれぞれ照らし合わすことによって各要素におけるフレーム間隔を求めるとともにそれらを総合的に考慮することで最適なフレーム間隔を演算する。その結果、フレーム間隔を短くした方がオプティカルフロー算出精度を高めることができる場合は、例えば図6におけるフレーム間隔D1を選択し、フレーム間隔を長くした方がオプティカルフロー算出精度を高めることができる場合は、例えば図6におけるフレーム間隔D2を選択する。
次に、オプティカルフロー演算部18は、S20で演算した最適なフレーム間隔に基づいて二つの画像を用いてオプティカルフローを演算する(ステップS22)。そして、物体検出部19は、S22の演算結果に基づいて他車両M1を検出する(ステップS24)。S24の処理が終了すると図2に示す制御処理は終了し、再びS10から処理を開始する。
以上によって、本実施形態に係る物体検出装置1では、物体の画像中における横位置に基づいてフレーム間隔を変更している。例えば、物体が画像中における周縁部付近に位置している場合は(すなわち、自車両のカメラ4の撮像中心線と物体との横位置偏差が大きい場合)、画像中の物体の横位置変化量が大きくなり、一方、画像中における中央部付近に位置している場合は横位置変化量が小さくなる。従って、物体の画像中における横位置に基づいてフレーム間隔を変更することによって、オプティカルフローを高精度に演算することが可能となり、物体の位置によらず精度よく物体を検出することができる。
また、本実施形態に係る物体検出装置1では、自車両の旋回状態に基づいてフレーム間隔を変更することができる。例えば、自車両が旋回している場合は(すなわち推定Rが小さい場合)、画像中における横位置変化量が大きくなり、一方、直進している場合は横位置変化量が小さくなる。従って、旋回状態に基づいてフレーム間隔を変更することによって、オプティカルフローを高精度に演算することが可能となり、運転状態によらず精度よく物体を検出することができる。
また、本実施形態に係る物体検出装置1では、画像中における物体の横方向の移動量に基づいてフレーム間隔を変更することができるため、物体の横方向の移動量に応じた適切なフレーム間隔を設定することによって、オプティカルフローを高精度に演算することが可能となり、状況によらず物体の検出精度を向上させることができる。
なお、上述した実施形態は本発明に係る物体検出装置の一例を示すものである。本発明に係る物体検出装置は、この実施形態に係る物体検出装置に限られるものではなく、各請求項に記載した要旨を変更しない範囲で、実施形態に係る物体検出装置を変形し、又は他のものに適用したものであってもよい。
例えば、上記実施形態では、相対速度、相対距離、横位置、推定Rの全てを演算し、その結果に基づいてフレーム間隔を演算したが、少なくとも横位置あるいは推定Rの一方を考慮して演算すればよい。
1…物体検出装置、4…カメラ、M1…物体、D1,D2…フレーム間隔。

Claims (6)

  1. 移動体に搭載された撮像手段によって画像を取得し、所定のフレーム間隔を有する二つの前記画像間における画像移動量に基づいて物体を検出する物体検出装置において、
    前記移動体が直進走行する際に、前記画像に基づいて前記物体の横位置を演算し、前記物体の前記画像中における横位置に基づいて前記フレーム間隔を変更することを特徴とする物体検出装置。
  2. 移動体に搭載された撮像手段によって画像を取得し、所定のフレーム間隔を有する二つの前記画像間における画像移動量に基づいて物体を検出する物体検出装置において、
    前記移動体の旋回状態に基づいて前記フレーム間隔を変更することを特徴とする請求項1記載の物体検出装置。
  3. 前記画像中における前記物体の横方向の移動量に基づいて前記フレーム間隔を変更することを特徴とする請求項1または2記載の物体検出装置。
  4. 前記物体の前記画像中における前記横位置が大きいほど前記フレーム間隔を短くすることを特徴とする請求項1記載の物体検出装置。
  5. 前記移動体の旋回半径が小さいほど前記フレーム間隔を短くすることを特徴とする請求項2記載の物体検出装置。
  6. 一定時間毎の前記フレーム間隔を変更することを特徴とする請求項1〜5のいずれか一項記載の物体検出装置。
JP2009098945A 2009-04-15 2009-04-15 物体検出装置 Active JP4905496B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2009098945A JP4905496B2 (ja) 2009-04-15 2009-04-15 物体検出装置
PCT/IB2010/000827 WO2010119329A2 (en) 2009-04-15 2010-04-14 Object detection device
EP10720956.1A EP2419881B1 (en) 2009-04-15 2010-04-14 Object detection device
US13/259,662 US8854458B2 (en) 2009-04-15 2010-04-14 Object detection device
EP20120165186 EP2482250B1 (en) 2009-04-15 2010-04-14 Object detection device
CN201080016738.7A CN102396002B (zh) 2009-04-15 2010-04-14 目标探测装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009098945A JP4905496B2 (ja) 2009-04-15 2009-04-15 物体検出装置

Publications (2)

Publication Number Publication Date
JP2010249641A JP2010249641A (ja) 2010-11-04
JP4905496B2 true JP4905496B2 (ja) 2012-03-28

Family

ID=43312146

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009098945A Active JP4905496B2 (ja) 2009-04-15 2009-04-15 物体検出装置

Country Status (1)

Country Link
JP (1) JP4905496B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6713368B2 (ja) * 2016-07-29 2020-06-24 エヌ・ティ・ティ・コムウェア株式会社 情報処理装置、表示装置、情報処理方法、及びプログラム
DE102017212175A1 (de) * 2017-07-17 2019-01-17 Robert Bosch Gmbh Verfahren und Vorrichtung zum Ermitteln eines optischen Flusses anhand einer von einer Kamera eines Fahrzeugs aufgenommenen Bildsequenz
JP6828719B2 (ja) * 2018-06-27 2021-02-10 トヨタ自動車株式会社 車載装置および制御方法
JP7561050B2 (ja) 2021-02-09 2024-10-03 株式会社Subaru 走行環境認識装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4319928B2 (ja) * 2004-03-09 2009-08-26 株式会社デンソー 車両状態検知システムおよび車両状態検知方法
JP3846494B2 (ja) * 2004-07-13 2006-11-15 日産自動車株式会社 移動障害物検出装置

Also Published As

Publication number Publication date
JP2010249641A (ja) 2010-11-04

Similar Documents

Publication Publication Date Title
JP4396400B2 (ja) 障害物認識装置
JP6369390B2 (ja) 車線合流判定装置
US8838372B2 (en) Collision probability calculation apparatus for vehicle
US9150223B2 (en) Collision mitigation apparatus
JP6022983B2 (ja) 運転支援装置
US9223311B2 (en) Vehicle driving support control apparatus
JP4883246B2 (ja) 物体検出装置及び物体検出方法
JP5910046B2 (ja) 障害物検出装置
US9053554B2 (en) Object detection device using an image captured with an imaging unit carried on a movable body
JP6212880B2 (ja) 物標認識装置
US11014566B2 (en) Object detection apparatus
WO2018056212A1 (ja) 物体検知装置及び物体検知方法
US11069241B2 (en) Driving support device and driving support method
US10665107B2 (en) Moving object control apparatus and method of controlling moving object
US20120019655A1 (en) Object detection device
JP2010039634A (ja) 画像処理装置
JP6855776B2 (ja) 物体検出装置、及び物体検出方法
JP2008276689A (ja) 車両用障害物認識装置
US10787170B2 (en) Vehicle control method and apparatus
JP6561704B2 (ja) 運転支援装置、及び運転支援方法
US10839232B2 (en) Vehicle control method and apparatus
JP6504078B2 (ja) 衝突予測装置
JP6354659B2 (ja) 走行支援装置
JP6432538B2 (ja) 衝突予測装置
JP2008037361A (ja) 障害物認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111213

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111226

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4905496

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150120

Year of fee payment: 3