[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2006215642A - 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体 - Google Patents

移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体 Download PDF

Info

Publication number
JP2006215642A
JP2006215642A JP2005025273A JP2005025273A JP2006215642A JP 2006215642 A JP2006215642 A JP 2006215642A JP 2005025273 A JP2005025273 A JP 2005025273A JP 2005025273 A JP2005025273 A JP 2005025273A JP 2006215642 A JP2006215642 A JP 2006215642A
Authority
JP
Japan
Prior art keywords
moving body
moving
movement
vector information
movement vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005025273A
Other languages
English (en)
Other versions
JP4107605B2 (ja
Inventor
Shinichi Yoshida
眞一 芳田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2005025273A priority Critical patent/JP4107605B2/ja
Priority to US11/344,541 priority patent/US7253389B2/en
Publication of JP2006215642A publication Critical patent/JP2006215642A/ja
Application granted granted Critical
Publication of JP4107605B2 publication Critical patent/JP4107605B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】 高度な演算処理を多く必要とせず、リアルタイムに高精度で、自移動体の移動方向の移動方向の変化に応じて自移動体に接近する他移動体の検出感度を自動調整して、自移動体周辺の他移動体を検知する。
【解決手段】 移動体周辺監視装置1Aは、撮像手段2により撮像された画像データに対し、フレーム画像の水平方向に平行で、かつ、横長帯状の特定領域を設定する設定手段31と、自移動体の移動方向を検知して移動方向情報を出力する自移動体移動方向検知手段11と、撮像手段2により時系列に撮像された一または複数フレーム画像毎に、特定領域の画像データを取り込んで移動ベクトル情報を抽出し、自移動体移動方向検知手段11からの移動方向情報に基づいて移動ベクトル情報の検出感度を調整して他移動体接近情報として抽出する画像処理手段32Aと、この他移動体接近情報に基づいて自移動体の周辺に存在する他移動体を検知する検知手段35とを有する。
【選択図】 図1

Description

本発明は、有人または無人の移動体、例えば船や車両(2輪車などのオートバイや自転車または4輪車などの自動車や電車などの乗り物)、人間などの移動時に安全監視などを行うために用いられ、例えば移動体(自移動体)が左右に移動するときなどに、その周辺に他の移動体(他移動体)が存在して両者が接触や衝突する危険性がある場合などに、移動体に関わる人に警報などにより、他移動体の接近による危険を報知して安全確認を支援するために用いられる移動体周辺監視装置、これを用いた移動体周辺監視方法、これをコンピュータに実行させるための制御プログラムおよびこれが記録されたコンピュータ読み取り可能な可読記録媒体に関する。
近年、移動体の事故、例えば、自動車の衝突事故などの交通事故の増大は、大きな社会問題となっている。特に、自動車の車線変更など左右への移動時、右折時や左折時などに起こる接触事故や衝突事故は、自動車の運転者が注意しているにも関わらず、しばしば起こっている。この接触事故や衝突事故は、自動車の運転者らが、特に、自車両(自移動体)の移動方向に対して後側方を、サイドミラーなどによって充分確認しきれていないことや、サイドミラーなどに映らない、いわゆる死角部分に他車両(他移動体)が存在することなどにより、事故が多発していると考えられる。
このような交通事故を防止するために、例えば特許文献1には、自車両に搭載したカメラから後方を撮影し、その撮影画像から他車両の存在を検出して、車線変更など左右の移動時、右折や左折時に、後側方から来る他車両に対して接触や衝突の危険性がある場合に、自車両の運転者に警報を発して他車両の接近を報知する報知手段を備えた移動体の衝突防止装置が開示されている。
この移動体の衝突防止装置では、撮像手段にて時系列に撮像された複数フレームの各画像に対して、走行中の道路に存在する白線や道路の稜線を構成する直線エッジとその交点である消失点(無限遠点)が検出される。これらの白線や稜線、消失点の位置情報を基にして検知領域が限定され、この検知領域を分割した小領域(ブロック)の各フレーム画像間における物体移動量が、オプティカルフローと称される手法により算出される。この場合の検知領域は、図12に点斜線で示す画面の半分程度の画像領域Eである。このようにして算出された画像領域Eでの他車両の移動量の情報は、自車両の後側方から急速に接近する例えば追い越し車両(他車両)の検出などに用いられる。
特開2000−285245号公報
しかしながら、上記特許文献1に開示されている従来の移動体の衝突防止装置には、以下のような問題がある。
即ち、自車両走行中に、車線を確認するために白線検出を行ったり、他車両の移動方向を求めるために消失点を求めたりしており、さらに、検知領域(画像領域E)を分割した各ブロックなどがどのように移動しているかを確認するためにオプティカルフローを用いているため、高度な演算処理が必要である。また、このような演算処理の質の面もさる事ながら、検知領域として、図12に点斜線で示す画面の半分程度の大きな画像領域Eが設定されており、演算処理量も非常に多い。
このように、演算処理量が多いためにリアルタイムに処理を行うことができず、これを補うために、時間経過に伴う移動量を算出して予測する方法などが利用されている。このため、他車両の移動方向を正確に検知することができず、誤りが発生し易くなる。さらに、道路状況によっては、白線が存在せず、物体の移動量を算出することができないなどの問題もあり、実用的ではなかった。
そこで、これらの上記問題を解決するために、本願出願人は、特願2004−031433号において、検知領域(画像領域E)を小さくし、さらに白線検出や消失点追跡を行わないことにより、高度な演算処理を多量に行わずに移動体周辺の監視を行うことが可能な手法を提案している。
以下に、特願2004−031433号の実施形態における移動体周辺監視装置およびこれを用いた移動体周辺監視方法について、図面を参照しながら詳細に説明する。
図13は、特願2004−031433号の実施形態における移動体周辺監視装置の要部構成例を示すブロック図であり、図14は、図13の移動体周辺監視装置を自動車に取り付けた場合の取り付け例をその周囲と共に模式的に示す上面図である。
図13に示すように、移動体周辺監視装置1は、自動車周辺の画像を撮像する撮像手段2と、自動車周辺の撮像画像に基づいて、詳細に後述する他移動体の接近による危険を検知するための警報検知演算処理を行う演算処理部3と、演算処理部3からの警報検知情報により、関係する人(運転者)に警報を報知する変化通知手段4とを有している。
撮像手段2は、アナログ出力カメラやデジタル出力カメラなどのカメラであって、この撮像手段2により自動車周辺の画像が撮像される。図14では、撮像手段2は、撮像装置として、自移動体5の後側方を撮像可能な側方位置(サイドミラーまたはドアミラーの上部または下部)に取り付けられており、図14に点斜線で示す撮像領域Aである後側方範囲の画像が撮像される。他移動体6は、自移動体5に左後方から接近している他の自動車を示している。撮像手段2がアナログ出力カメラの場合には、演算処理部3に画像データが入力される前に、図示しないAD変換機によってアナログ画像信号がデジタル画像信号に変換される。
演算処理部3は、特定領域設定手段31と、画像処理手段32と、記憶手段33と、変化検知閾値設定手段34と、変化検知手35とを備え、撮像手段2で撮像された画像データから、自移動体5の周辺に存在する他移動体6を検知するための演算処理を行う。
特定領域設定手段31は、撮像手段2で撮像された画像面に対して充分に小さい特定領域が設定される。この特定領域は、画像処理手段32および変化検知手段35で自移動体5の周辺に存在して自移動体5との相対的な移動状態(距離関係)が変化する他移動体6を検知する処理が行われる領域(検知領域)であり、撮像手段2で撮像された画像に対して、フレーム画像の水平方向に平行でかつ、横長で矩形状(帯状)の領域として設定されている。このように、水平方向に細長い帯状の特定領域を設定する理由は、演算処理量を大幅に減らしてリアルタイムでかつ有効な演算処理を可能にするためである。
画像処理手段32は、撮像手段2で時系列に撮像された複数フレーム画像の各画像毎に、特定領域設定手段31で設定した特定領域の画像データを撮像手段2から取り込み、この取り込んだ特定領域の画像データを基に、後述する抽出処理により移動ベクトル情報を抽出する。この移動ベクトル情報の抽出処理については、図15および図16を用いて詳細に後述する。
記憶手段33は、画像処理手段32による抽出処理結果を一時的に記憶する。この記憶手段33のメモリ構成は、例えば図17のメモリ構成例に示すように、前画面データ格納領域331、現画面データ格納領域332および移動ベクトル格納領域333を有している。このうち、前画面データ格納領域331と現画面データ格納領域332とは、メモリアドレスの切り替えにより1画面毎に切り替えられる。
変化検知閾値設定手段34は、自移動体5と他移動体6との相対的な移動状態を判定(危険かどうかの判定)するための判定閾値としての変化検知閾値を設定する。
変化検知手段35は、画像処理手段32で抽出されて記憶手段33に記憶された移動ベクトル情報を基に、後述する処理によって自移動体5の周辺に存在する他移動体6を検知し、変化検知閾値設定手段34で設定された判定閾値によって、自移動体5と他移動体6との相対的な移動状態(距離関係)が危険かどうかを判定する。自移動体5と他移動体6との相対的な移動状態(距離関係)が判定閾値を越えた場合には、この変化検知手段35による判定結果として警報検知情報を変化通知手段4に出力する。この自移動体5と他移動体6との相対的な移動状態の検知処理については、図18を用いて詳細に後述する。
変化通知手段4は、変化検知手段35で検出された自移動体5と他移動体6との相対的な移動状態、例えば他移動体6が自移動体5に接近し過ぎて衝突の危険性がある場合(危険判定閾値を越えた場合)などに出力される警報検知情報に基づいて警報音発生や警報表示などを行って、危険を自移動体5の運転者などに報知する。
これらの演算処理部3および変化通知手段4は、図14で示す移動体検知装置10としてワンパッケージ化されて自動車の運転席側の前方部分に収容され、これによって、運転者が容易に警報(音や表示)を確認できるようになっている。
以下に、上記構成の移動体周辺監視装置1を用いて行う移動体周辺監視方法について説明する。
図15(a)は、図13の撮像手段2で撮像された自移動体5の周辺撮像画像を模式的に示すイメージ図、図15(b)は、図15(a)のt時間後(フレーム期間;前フレームと後フレーム間の時間)に撮像手段2で撮像された自移動体5の周辺撮像画像を模式的に示すイメージ図である。
図15(a)および図15(b)に示すように、自移動体5から後側方側が撮像手段2で撮像されており、他移動体6が自移動体5に後側方から接近して来る場合を示している。
特定領域7は、特定領域設定手段31で設定される撮像画像の変化状態をチェックするための画像領域である。この特定領域7は、撮像手段2で撮像された画像に対して、フレーム画像の水平方向に平行でかつ、横長で矩形状(帯状)の画像領域になっており、自移動体5の撮像画像が含まれず、他移動体6の撮像画像の少なくとも一部が含まれるように設定されている。
この特定領域7に対して、画像処理手段32および変化検知手段35による各処理が行われて、他移動体6と自移動体5との危険判定のための相対的な移動状態(距離関係)が検知される。
図15(a)および図15(b)において、例えば電柱8などのような道路際で動かない物体は、t時間後には矢印Bで示す右方向に移動したように撮像される。これに対して、例えば他移動体6などのように自移動体5に後側方から接近してくる物体は、他移動体6の左端(図15では向かって右端)の位置9のように、t時間後には矢印Cで示すように左方向に移動したように撮像される。したがって、自移動体5に接近してくる物体(他移動体6)と、固定化されて動かない物体(電柱8)とでは、特定領域7上での移動方向(移動ベクトル)が逆方向で異なる。よって、この移動ベクトルを用いれば、消失点や白線などを求めたり、オプティカルフローなどの高度の演算処理を用いることなく、自移動体5と他移動体6との相対的な移動状態(位置関係;距離関係)を正確に検知して、自移動体5に接近してくる他移動体6を検知することが可能になる。
次に、図13の画像処理手段32による移動ベクトル情報の抽出処理例について、図16を用いて詳細に説明する。
図16は、図13の画像処理手段32による移動ベクトル情報の抽出処理例を説明するためのフローチャートである。
図16に示すように、まず、ステップS1では、撮像手段2で撮像された画像に対して、特定領域設定手段31で特定領域7が設定される。この特定領域7は、図15(a)および図15(b)で示すように、フレーム画像の水平方向に平行でかつ、横長の矩形状(帯状)に設定されている。また、特定領域7の左右の位置については、自移動体5の撮像画像を含まず、他移動体6の撮像画像の少なくとも一部が含まれるように設定される。
ステップS2では、撮像手段2で撮像された画像データのうち、設定された特定領域7に対応する画像データが画像処理手段32に取り込まれる。
ステップS3では、特定領域7において移動ベクトルを求めるために、特定領域7を複数の領域に分割し、各分割領域毎に画像データ値の合算値が算出される。合算される画像データとしては例えば輝度信号を用いることができるが、その他のR、G、B、Y、UおよびVのいずれかの色信号であってもよく、全ての色信号などであってもよい。また、特定領域7の分割数は、画像処理手段32の演算能力に応じて多数に分割してもよいが、ノイズなどによる誤り検知を防ぐためには、各分割領域のサイズは8画素×8画素以上であることが望ましい。
ステップS4では、各分割領域毎の合算値が、図17に示す記憶手段33の現画面データ格納領域332に各分割領域毎に保存される。
ステップS5では、t時間前に各分割領域毎に記憶手段33に保存された合算値データが、図17に示す記憶手段33の前画面データ格納領域331から読み出される。
ステップS6では、現画面データと前画面データとが比較され、現画面データの各分割領域(現画像位置)に対して、合算値の差分が最小となる前画面データの分割領域が抽出される。前画面データにおいて、現画面データのある分割領域に対して合算値の差分が最小となる分割領域は、t時間前にその分割領域が存在した位置と考えることができる。なお、ここではt時間前を前画面としているが、数画面前をt時間前としてもよい。
ステップS7では、ステップS6で抽出された領域の前画像位置と現画像位置との位置関係が左右のいずれであるかどうかが判断される。上記抽出領域の画像位置が現画像位置よりも左(ステップS7では「YES」)の場合にはステップS8の処理に進み、また、上記抽出領域の画像位置が現画像位置よりも右(ステップS7で「NO」)の場合にはステップS9の処理に進む。
ステップS8では、左への移動が図16に示す記憶手段33の移動ベクトル格納領域333に各分割領域毎に保存される。
ステップS9では、右への移動が図16に示す記憶手段33の移動ベクトル格納領域333に各分割領域毎に保存される。
図15(a)および図15(b)を用いて説明したように、左への移動は自移動体5に接近してくる物体(他移動体6)などであり、右への移動は自移動体5から遠ざかる物体または固定されて動かない物体(電柱8)などである。なお、ここでは移動ベクトル情報として、左右のベクトル方向のみを抽出しているが、移動ベクトル量を用いれば、他移動体6と自移動体5との相対速度も求めることができる。
ステップS10では、処理終了指令が運転者から入力されたかどうかが判断され、処理終了指令が運転者から入力されるまで、上記ステップS2〜S9の各処理が順次繰り返される。処理終了指令が運転者から入力されれば(YES)、処理が終了する。
次に、変化検知手段35による自移動体5と他移動体6との危険反対のための相対的な移動状態(距離関係)の検知処理について、図18を用いて詳細に説明する。
図18は、図13の変化検知手段35による自移動体5と他移動体6との相対的な移動状態の検知処理例を説明するためのフローチャートである。
図18に示すように、まず、ステップS11では、変化検知閾値設定手段34に変化検知閾値(危険判定閾値)が設定される。この変化検知閾値は、他移動体6の大きさおよび位置などから、変化検知閾値設定手段34に予め設定されている。通常は、他移動体6の大きさおよび距離などから、分割された特定領域数の半分程度に設定されるのが好ましい。
ステップS12では、画像処理手段32により記憶手段33の移動ベクトル格納領域333に書き込まれた移動ベクトル情報が変化検知手段35に読み出される。
ステップS13では、この読み出された移動ベクトル情報が左右のいずれであるかが判断される。移動ベクトル情報が左(ステップS13で「YES」)の場合にはステップS14の処理に進み、ステップS14で左移動ベクトル数が加算される。また、移動ベクトル情報が右(ステップS13で「NO」)の場合にはステップS15の処理に進む。
ステップS15では、ステップS12〜S14までの各処理が全分割領域に対して行われるまで繰り返され、これによりt時間前から現在までの左移動ベクトル数(左移動ベクトル数の加算値)が算出される。なお、ここでは、左移動ベクトル数を算出しているが、この場合とは逆に、撮像手段2が自移動体5の左側に設置されている場合には、右方向への移動ベクトルが自移動体5と他移動体6との接近を示すことになるため、右方向の移動ベクトル数が算出される。
ステップS16では、算出された左移動ベクトル数(加算値)がステップS11で設定された危険判定閾値よりも大きい場合に、自移動体5に接近する他移動体6が存在すると判定される。
ステップS17では、変化通知手段4で警報音や警報表示などにより自移動体5の運転者に、他移動体6の接近による危険が報知され、危険に対する注意が促される。なお、ここでは、自移動体5に接近する他移動体6が存在する場合に衝突などの危険性があるとして警報音や警報表示などを危険時に出力するが、これらをその前段階の安全時に出力するようにしてもよい。さらに、音声や、映像および光などの表示以外の振動や熱などによって警報を報知するようにしてもよい。このような危険報知により、運転者は自移動体5と他移動体6との接触や衝突の危険性を察知することができ、車両同士の接触や衝突などを未然に回避できる。また、ここでは、変化通知先(警報報知先)を自移動体5の運転者としているが、これに加えて、他移動体6の運転者に対して行ってもよく、それ以外の外部(周囲)に報知するようにしてもよい。
ステップS18では、処理終了指令が運転者から入力されたかどうかが判断され、処理終了指令が運転者から入力されるまで、上記ステップS12〜S17の各処理が順次繰り返される。処理終了指令が運転者から入力されれば(YES)、処理が終了する。
以上により、移動体周辺監視装置1および、これを用いた移動体周辺監視方法によれば、撮像手段2で撮像された画像データに対して、特定領域設定手段31により、フレーム画像の水平方向に平行でかつ横長で矩形状の特定領域7を設定する。画像処理手段32により、複数のフレーム画像毎に特定領域7の画像データを取り出し、取り出された画像データから移動ベクトルを抽出する。さらに、変化検知手段35では、移動ベクトル情報のうち、所定方向のベクトル値を加算した値が、変化検知閾値設定手段34で設定した閾値よりも大きい場合に他移動体6が自移動体5に接近し過ぎて危険であると判定し、変化通知手段4を介して警報発音や警報表示などを行って運転者に危険を通知して注意を促すことができる。これによって、従来のように高度な演算処理や大量の演算処理量を必要とせず、リアルタイムに自移動体5の周囲に存在する他移動体6を精度良く確実に検出して、接触事故や衝突事故などの危険性がある場合に、これを運転者などに警報を報知し、危険を未然に回避することができる。
しかしながら、上記特願2004−031433号による移動体周辺監視装置およびこれを用いた移動体周辺監視方法には、以下のような問題がある。
図15に示すイメージ図を上方から見た図を図19に示す。図19は、道路が直線であることを仮定して描かれている。図19では、図15(a)に示す自移動体5、他移動体6および電柱8を、図15(a)と同じ符号5、6および8で示している。また、図19では、図15(a)からt時間後の図15(b)における自移動体5および他移動体6を、それぞれ、5’および6’で示している。なお、電柱8は、位置固定物体であるため、t時間経過後も移動しない。
移動ベクトル情報の抽出は、自移動体5に固定された投影面に他移動体6や周辺の位置固定物(例えば電柱8)を投影し、投影位置の左右の移動を観測することに相当する。図15に示す電柱8の移動ベクトルBおよび他移動体6の移動ベクトルCは、図19ではt時間後の投影面上に同じ符号で示す移動ベクトルBおよびCに対応する。
図15(a)の時刻(前画像)において、自移動体5から他移動体6を見たときの角度をα、t時間後の図15(b)の時刻(現画像)において、自移動体5’から他移動体6’を見たときの角度をβとすると、他移動体6が接近している場合、α<βの関係が成り立つ。即ち、左移動ベクトルが検出されれば、自移動体5に接近している物体(他移動体6)が存在していることが判る。
一方、自移動体5が直進していない場合、例えば直線道路から右カーブに差し掛かった場合を仮定したときに、上方から見た図を図20に示す。図20では、自移動体5および他移動体6共に直進しており、そのt時間後に自移動体5’は右カーブに差し掛かり、他移動体6’は直進を続けている場合を示している。
図19のように自移動体5が直進している場合、t時間の経過前後で投影面は並行であるが、図20のように自移動体5が右カーブに差し掛かった場合、投影面が傾くため、投影面に投影された他移動体6の位置が直進の場合とは異なる。
図20の場合、t時刻経過前(前画像)に自移動体5から他移動体6を見たときの角度をα、t時間経過後(現画像)に自移動体5’から他移動体6’を見たときの角度をβとすると、α<βの関係が成り立ち、左移動ベクトルが検出されたとしても、他移動体6が自移動体5に接近しているかどうかを判断することができない。
これと同様に、自移動体5が直線道路から左カーブに差し掛かった場合に、α>βの関係が成り立ち、右移動ベクトルが検出されたとしても、他移動体6が自移動体5に接近している場合もあり得ることになる。
このように、上記した本出願人の特願2004−031433号では、左移動ベクトルを検出して自移動体5に接近する他移動体6の有無を判断していたが、これは、自移動体5と他移動体6が共に直進している場合、または、同じ曲率でカーブを移動中である場合に限って有効であり、カーブへの進入時やカーブの曲率自体が変化している場合は、接近してくる他移動体6を必ずしも正しく検出することができないという問題がある。
本発明は、上記課題を解決するもので、高度な演算処理を多く必要とせず、リアルタイムに高精度で自移動体周辺の他移動体を検知することが可能で、さらに、自移動体の移動方向を検知することにより、自移動体の移動方向の変化に応じて自移動体に接近する他移動体の検出感度を自動調整して、容易に検知できなかった危険を検知できる移動体周辺監視装置、これを用いた移動体周辺監視方法、これをコンピュータに実行させるための制御プログラムおよびこれが記録されたコンピュータ読み取り可能な可読記録媒体を提供することを目的とする。
本発明の移動体周辺監視装置は、自移動体周辺の画像を撮像する撮像手段と、該撮像手段により撮像された画像データに対して、フレーム画像の水平方向に平行で、かつ、横長帯状の特定領域を設定する特定領域設定手段と、該自移動体の移動方向を検知して移動方向情報を出力する自移動体移動方向検知手段と、該撮像手段により時系列に撮像された一または複数フレーム画像毎に、該特定領域の画像データを取り込んで、該移動方向情報に基づいて検出感度を調整して他移動体に関する移動ベクトル情報を抽出する移動ベクトル情報抽出手段と、該移動ベクトル情報に基づいて該自移動体の周辺に存在する該他移動体の移動状態を検知する変化検知手段とを有し、そのことにより上記目的が達成される。
また、好ましくは、本発明の移動体周辺監視装置における撮像手段は、前記自移動体の後側方を撮像可能な位置に取り付けられている。
さらに、好ましくは、本発明の移動体周辺監視装置における撮像手段は、前記自移動体が車両である場合に、運転席側および運転席とは反対側の少なくとも一方のサイドミラーまたはドアミラーに取り付けられている。
さらに、好ましくは、本発明の移動体周辺監視装置における特定領域設定手段は、前記自移動体の撮像画像を含まず、前記他移動体の撮像画像の少なくとも一部が含まれるように、前記撮像された画像データに前記特定領域を設定する。
さらに、好ましくは、本発明の移動体周辺監視装置における自移動体移動方向検知手段は、前記自移動体の進行方向制御手段が操作されたときの操作方向に応じた移動方向情報を該自移動体の移動方向として検知する。
さらに、好ましくは、本発明の移動体周辺監視装置における進行方向制御手段がハンドルである場合、該ハンドルの操作角度情報は、該ハンドルを右に切るときを正方向、該ハンドルを左に切るときを負方向として操作角度に応じて増減するように構成されている。
さらに、好ましくは、本発明の移動体周辺監視装置における移動ベクトル情報は、前記自移動体の周辺に存在する前記他移動体の移動状態を示す移動量および方向情報である。
さらに、好ましくは、本発明の移動体周辺監視装置における移動ベクトル情報抽出手段は、前記特定領域を複数に分割した各分割領域に対してそれぞれ、現在の画像データの合算値とt(t>0)時間前の前画像データの合算値とを比較してその差分値が最小となる両分割領域を抽出し、該抽出された前画像データの分割領域の位置をt時間前の現画像データの位置と判断して、該抽出された両分割領域の前画像データと現画像データとの位置関係を前記移動ベクトル情報の移動量として抽出すると共に、前記移動方向情報に基づいて前記移動ベクトル情報の方向情報を抽出する。
さらに、好ましくは、本発明の移動体周辺監視装置における移動ベクトル情報抽出手段は、前記抽出された両分割領域の位置関係に基づいて、該分割領域の現画像データが該分割領域の前画像データに対して左に移動しているか、または右に移動しているかを判定して前記移動ベクトル情報の方向情報を抽出する際の感度設定閾値を、前記移動方向情報に応じて大きくするかまたは小さくして、前記移動ベクトルの移動量と感度設定閾値を比較し、該移動ベクトルの移動量が該感度設定閾値以上である場合に前記自移動体に対して前記他移動体が接近していると判定した該移動ベクトル情報の方向情報を抽出する。
さらに、好ましくは、本発明の移動体周辺監視装置における移動ベクトル情報抽出手段は、撮像されたフレーム画像の画像データのうち、取り込んだ前記特定領域の画像データを複数の分割領域に分割する分割手段と、分割した分割領域毎に画像データ値の合算値を算出する合算値算出手段と、該現画像データの各分割領域毎の合算値に対する前画像データの各分割領域の合算値との各差分が最小となる前画像データの分割領域を抽出する分割領域抽出手段と、抽出された前画像データの分割領域に対して、これに対応する最小差分時の現画像データの分割領域が左右のいずれにあるかを前記移動方向情報に基づいて判断する左右判断手段と、前記移動ベクトル情報の方向情報として、左にある場合には左移動ベクトル情報とし、右にある場合には右移動ベクトル情報とする移動ベクトル情報決定手段とを有する。
さらに、好ましくは、本発明の移動体周辺監視装置における左右判断手段は、前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定手段と、該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を大きくして該移動ベクトル情報の検出感度を弱くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは小さくして該移動ベクトル情報の検出感度を変化させないかまたは強くする検出感度制御手段と、該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定手段とを有する。
さらに、好ましくは、本発明の移動体周辺監視装置における左右判断手段は、前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定手段と、該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を小さくして該移動ベクトル情報の検出感度を強くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは大きくして該移動ベクトル情報の検出感度を変化させないかまたは弱くする検出感度制御手段と、該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定手段とを有する。
さらに、好ましくは、本発明の移動体周辺監視装置における変化検知手段は、前記移動ベクトル情報に基づいて、前記自移動体と前記他移動体との相対的な移動状態を検知する。
さらに、好ましくは、本発明の移動体周辺監視装置における変化検知手段は、前記特定領域を複数に分割した各分割領域毎に前記移動ベクトル情報を読み出し、読み出した移動ベクトル情報のうち、所定方向情報の移動量のベクトル数を加算した加算値が所定の判定閾値よりも大きい場合に、前記自移動体に危険接近する前記他移動体が存在すると検知する。
さらに、好ましくは、本発明の移動体周辺監視装置における変化検知手段は、前記撮像手段が前記自移動体の右側に設置されている場合に前記方向情報として左方向のベクトル数を算出し、該撮像手段が該自移動体の左側に設置されている場合には該方向情報として右方向のベクトル数を算出する。
さらに、好ましくは、本発明の移動体周辺監視装置において、前記変化検知手段が検出した前記自移動体と前記他移動体との相対的な移動状態に応じて警報出力する変化通知手段をさらに有する。
さらに、好ましくは、本発明の移動体周辺監視装置において、前記移動ベクトル情報抽出手段の抽出結果を一時的に記憶する記憶手段をさらに有し、前記変化検知手段は、該記憶手段から該移動ベクトル情報抽出手段の抽出結果を読み出して前記変化検知処理に用いる。
本発明の移動体周辺監視方法は、自移動体周辺の画像データを時系列にフレーム画像として撮像手段に撮像させる撮像ステップと、撮像した一または複数のフレーム画像毎に、該フレーム画像の水方向に平行で、かつ、横長帯状の特定領域を設定する設定ステップと、該自移動体の移動方向を検知して移動方向情報を出力する自移動体移動方向検知ステップと、該撮像した一または複数のフレーム画像毎に、該特定領域の画像データを取り込み、該取り込んだ該特定領域の画像データと該移動方向情報とに基づいて他移動体に関する移動ベクトル情報を抽出する移動ベクトル情報抽出ステップと、該移動ベクトル情報に基づいて該自移動体の周辺に存在する該他移動体の移動状態を検知する変化検知ステップとを、 コンピュータが制御プログラムおよびそのデータを用いて実行するものであり、そのことにより上記目的が達成される。
また、好ましくは、本発明の移動体周辺監視方法における移動ベクトル情報抽出ステップは、撮像されたフレーム画像の画像データのうち、取り込んだ前記特定領域の画像データを複数の分割領域に分割する分割ステップと、分割した分割領域毎に画像データ値の合算値を算出する合算値算出ステップと、該現画像データの各分割領域毎の合算値に対する前画像データの各分割領域の合算値との各差分が最小となる前画像データの分割領域を抽出する分割領域抽出ステップと、抽出された前画像データの分割領域に対して、これに対応する最小差分時の現画像データの分割領域が左右いずれにあるかを移動方向情報に基づいて判断する左右判断ステップと、前記移動ベクトル情報の方向情報として、左にある場合には左移動ベクトル情報とし、右にある場合には右移動ベクトル情報とする移動ベクトル情報決定ステップとを有する。
さらに、好ましくは、本発明の移動体周辺監視方法における左右判断ステップは、前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップと、該操作角度が増加している場合に、前記移動ベクトルの移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を大きくして該移動ベクトル情報の検出感度を弱くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは小さくして該移動ベクトル情報の検出感度を変化させないかまたは強くする検出感度制御ステップと、該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定ステップとを有する。
さらに、好ましくは、本発明の移動体周辺監視方法における左右判断ステップは、前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップと、該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を小さくして該移動ベクトル情報の検出感度を強くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは大きくして該移動ベクトル情報の検出感度を変化させないかまたは弱くする検出感度制御ステップと、該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定ステップとを有する。
本発明の制御プログラムは、請求項18〜21のいずれかに記載の移動体周辺監視方法の各ステップをコンピュータに実行させるためのものであって、そのことにより上記目的が達成される。
本発明の可読記録媒体は、請求項22に記載の上記制御プログラムが記録されたコンピュータ読み取り可能なでものあって、そのことにより上記目的が達成される。
上記構成により、以下、本発明の作用を説明する。
本発明にあっては、検知範囲を特定領域に限定し、かつ、従来のように消失点や白線などを求めたり、オプティカルフローなどの手法を用いる高度な演算処理ではなく、フレーム画像間の前後の各特定領域における画像データを基に移動ベクトル情報を抽出し、その移動ベクトル情報の検知感度を自移動体の移動方向の変化に応じて調整して、他移動体接近情報として抽出する。この他移動体接近情報から、自移動体周辺(例えば後側方)に存在する他移動体を検知することが可能となる。
これによって、高度な演算処理が不要であり、より少ない演算処理量により、自移動体と他移動体との相対的な移動状態を検知することが可能となる。このため、高速処理可能な高価なCPUなどを用いることなく、移動体周辺監視装置を安価に作製することが可能である。このように、演算処理量が少なく、リアルタイム(高速)に演算処理することができるため、時間経過に伴う移動量の算出および予測が不要であり、検知精度を一層向上させることが可能となる。
また、複数のフレーム画像間で、フレーム画像の水平方向に平行で、かつ、横長帯状の各特定領域における画像データを基に検知処理を行って演算処理を簡略化することにより、ノイズなどによる誤りを減らすことが可能であり、検知精度をさらに向上させることが可能となる。
さらに、移動ベクトル情報の検知感度を自移動体の移動方向情報を用いて調整することによって、自移動体と他移動体が共に直進している場合、または同じ曲率でカーブを移動中である場合に限らず、カーブへの進入時やカーブの曲率自体が変化している場合にも、自移動体周辺に接近してくる他移動体を正しく検出して、危険を検知することが可能となる。
以上により、本発明によれば、自移動体の移動方向を検知することにより、自移動体の移動方向に応じて、自移動体に接近する他移動体の検出感度を自動調整して、検知精度を向上させることができる。
自移動体の周辺を監視して、自移動体の動作(左右への移動、右折や左折など)時に移動方向(例えば後側方)に他移動体が存在しないかということをカメラなどの撮像手段で撮像し、衝突の危険性がある場合には警報を発することにより関係者(運転者)に報知することができるため、目視確認を含めた確認漏れなどによる接触防止や衝突防止に有効である。
以下に、本発明の移動体周辺監視装置およびこれを用いた移動体周辺監視方法の実施形態1,2を、自動車に適用した場合について、図面を参照しながら詳細に説明する。
なお、以下では、移動体の例として自動車を用いて説明するが、本発明は自動車に限らず、有人または無人の移動体、例えば船や車両(2輪車などのオートバイや自転車または4輪車などの自動車や電車などの乗り物を含む)、さらには人間であってもよい。
(実施形態1)
図1は、本発明の移動体周辺監視装置の実施形態1における要部構成例を示すブロック図であり、図2は、図1の移動体周辺監視装置を自動車に取り付けた場合の取り付け例をその周囲と共に模式的に示す上面図である。これらの図1および図2において、本出願人の特願2004−031433号の図13および図14と同じ機能を有する構成部材については、同じ符号を付している。
図1に示すように、本実施形態1の移動体周辺監視装置1Aは、自移動体の移動方向を検知する自移動体移動方向検知手段11と、自動車周辺の画像を撮像する撮像手段2と、撮像手段2で撮像した自動車周辺の撮像画像および、自移動体移動方向検知手段11で検知した自移動体移動方向情報に基づいて、詳細に後述する他移動体の接近による危険を検知するための警報検知演算処理を行う演算処理部3Aと、この演算処理部3Aからの警報検知情報により、関係する人(運転者)に警報を報知する変化通知手段4とを有している。
自移動体移動方向検知手段11は、図2に示すように、自移動体5の進行方向制御手段としてのハンドルを操作したときの操舵角情報(操作角度情報)によって自移動体5の移動方向(操作方向)を検知し、この検知した移動方向(操作方向)に応じた自移動体5の移動方向情報を画像処理手段32に出力する。このハンドルの操作角度情報は、ハンドルを右に切るときを正方向、ハンドルを左に切るときを負方向として操作角度に応じて増減するように構成されている。
撮像手段2は、アナログ出力カメラやデジタル出力カメラなどのカメラであって、この撮像手段2により自動車周辺の画像が撮像される。図2では、撮像手段2は、撮像装置として、自移動体5の後側方を撮像可能な側方位置(サイドミラーまたはドアミラーの上部または下部)に取り付けられており、図2に黒色の撮像領域Aで示す左側の後側方範囲(自動車周辺)の画像が撮像される。他移動体6は、自移動体5に左後方から接近している他の自動車を示している。撮像手段2がアナログ出力カメラの場合には、演算処理部3に画像データが入力される前に、図示しないAD変換器によってアナログ画像信号がデジタル画像信号に変換される。
演算処理部3Aは、特定領域設定手段31と、移動ベクトル情報抽出手段としての画像処理手段32Aと、記憶手段33と、変化検知閾値設定手段34と、変化検知手35とを備え、撮像手段2で撮像された画像データから設定特定領域の画像データを取り込んで、自移動体移動方向検知手段11で検知した自移動体5の移動方向情報に基づいて検出感度を調整して、自移動体5の周辺に存在する他移動体6の移動状態を示す移動ベクトル情報を検知するための演算処理を行う。
特定領域設定手段31は、撮像手段2で撮像された画像面に対して充分に小さい特定領域7が設定される。この特定領域7(図15(a)参照)は、画像処理手段32および変化検知手段35で自移動体5の周辺に存在して自移動体5と他移動体6との相対的な移動状態(接近の有無と距離関係)が変化する他移動体6を検知する処理が行われる検知領域であり、撮像手段2で撮像された画像に対して、フレーム画像の水平方向に平行でかつ、横長で矩形状(横長帯状)の領域として設定されている。このように特定領域7を設定する理由は、演算処理量を大幅に減らしてリアルタイムでかつ有効な演算処理を可能にするためである。
画像処理手段32Aは、撮像手段2で時系列に撮像された一または複数フレーム画像の各画像毎に、特定領域設定手段31で設定した特定領域7の画像データを撮像手段2から取り込み、この取り込んだ特定領域7の画像データを基に、詳細に後述する移動ベクトル抽出処理により移動ベクトル情報を抽出する。このとき、自移動体移動方向検知手段11から入力される自移動体5の移動方向情報に基づいて、移動ベクトル情報の検出感度を調整し、その移動ベクトル抽出結果の移動ベクトル情報を他移動体6の接近情報(危険判定情報)として出力する。この移動ベクトル抽出処理については、図7を用いて詳細に後述する。
記憶手段33は、画像処理手段32Aによる移動ベクトル抽出処理結果を一時的に記憶する。この記憶手段33のメモリ構成は、上記特願2004−031433号のメモリ構成例である図17の場合と同様の構成である。即ち、図17に示すように、記憶手段33は、前画面データ格納領域331、現画面データ格納領域332および移動ベクトル格納領域333を有している。このうち、前画面データ格納領域331と現画面データ格納領域332とは、メモリアドレスの切り替えにより1画面毎に切り替えられる。また、移動ベクトル格納領域333には、自移動体移動方向検知手段11からの移動方向情報に基づいて調整された検出感度により抽出された移動ベクトル情報が画像処理手段32Aから供給されて、他移動体6の接近情報として格納される。
変化検知閾値設定手段34は、自移動体5と他移動体6との相対的な移動状態を危険かどうかを判定するための危険判定閾値としての変化検知閾値を設定する。
変化検知手段35は、画像処理手段32で抽出されて記憶手段33に記憶された移動ベクトル情報を基に、自移動体5の周辺に存在する他移動体6を検知し、変化検知閾値設定手段34で設定された危険判定閾値を用いて、自移動体5と他移動体6との相対的な移動状態(距離関係)が危険かどうかを判定する。自移動体5と他移動体6との相対的な移動状態(距離関係)が危険判定閾値を越えた場合には、この変化検知手段35による判定結果として警報検知情報を変化通知手段4に出力する。
変化通知手段4は、変化検知手段35で検出された自移動体5と他移動体6との相対的な移動状態、例えば他移動体6が自移動体5に接近し過ぎて衝突の危険性がある場合(危険判定閾値を越えた場合)などに出力される警報検知情報によって警報音発生や警報表示などを行って、危険を自移動体5の運転者などに報知する。
上記構成により、以下に、右ハンドル車の右側のミラー部に撮像手段2を取り付けた場合において、本実施形態1の移動体周辺監視装置1Aを用いて行う移動体周辺監視方法について説明する。自移動体5が直進、または、曲率が一定なカーブを移動中は、本出願人の上記特願2004−031433号について詳述した方法(図15〜図18)に従えば、危険判定のために、自移動体5に接近する他移動体6を検出することが可能である。
しかしながら、自移動体5がカーブに差し掛かった場合やカーブから抜ける場合など、カーブの曲率が変化する場合(自移動体5と他移動体6で互いの進路の方向が異なる場合)には、接近する他移動体6の検出精度を高めるために、本発明の特徴構成として、自移動体移動方向検知手段11からの移動方向情報に基づいて画像処理手段32Aにより検出感度の調整を行う必要がある。
図3は、直進してきた自移動体が右カーブに差し掛かった場合をその周囲と共に模式的に示している。t時間経過前(前画像)、自移動体5の位置aから見て、他移動体6が角度αの後方位置A1にあったとする。t時間経過後(現画像)の自移動体5の位置bから見た角度αと、他移動体6の経路が交差する位置をBとすると、他移動体6がBの位置を過ぎていれば、自移動体5から他移動体6の移動ベクトルは左向きに観測される。他移動体6がt時刻経過後(現画像)に位置Bを少しでも過ぎれば移動ベクトルは左向きとなるが、距離aA1と距離bCは同じであるから、明らかに他移動体6が自移動体5から遠ざかっている場合であっても、移動ベクトルは左向きとして検出されてしまう。したがって、この場合には、左方向の移動ベクトル検出感度を弱くする必要がある。
図4は、直進してきた自移動体5が図3の場合とは逆に左カーブに差し掛かった場合をその周囲と共に模式的に示している。t時間経過前(前画像)、自移動体5の位置aから見て、他移動体6が角度αの位置A1にあったとする。t時間経過後(現画像)の自移動体5の位置bから見た角度αと、他移動体6の経路が交差する位置をBとすると、他移動体6がBの位置を過ぎていれば、自移動体5から他移動体6の移動ベクトルは左向きに観測される。他移動体6がt時刻経過後(現画像)に位置Bから少しでも手前であれば移動ベクトルは右向きとなるが、距離aA1と距離bCは同じであるから、明らかに他移動体6が自移動体5に接近している場合であっても、移動ベクトルは右向きとして検出されてしまう。したがって、この場合には、左方向の移動ベクトル検出感度を強くする必要がある。
図5は、自移動体が左カーブから抜け出す場合をその周囲と共に模式的に示している。t時間経過前(前画像)、自移動体5の位置aから見て、他移動体6が角度αの位置A1にあったとする。t時間経過後(現画像)の自移動体5の位置bから見た角度αと、他移動体6の経路とが交差する位置をBとすると、他移動体6がBの位置を過ぎていれば、自移動体5から他移動体6の移動ベクトルは左向きに観測される。他移動体6がt時刻経過後(現画像)に位置Bを少しでも過ぎれば移動ベクトルは左向きとなるが、距離aCと距離bBは同じであるから、明らかに他移動体6が自移動体5から遠ざかっている場合であっても、移動ベクトルは左向きとして検出されてしまう。したがって、この場合には、左方向の移動ベクトル検出感度を弱くする必要がある。
図6は、自移動体が右カーブから抜け出す場合をその周囲と共に模式的に示している。t時間経過前(前画像)、自移動体5の位置aから見て、他移動体6が角度αの位置A1にあったとする。t時間経過後(現画像)の自移動体5の位置bから見た角度αと、他移動体6の経路とが交差する位置をBとすると、他移動体6がBの位置を過ぎていれば、自移動体5からは他移動体6の移動ベクトルは左向きに観測される。他移動体6がt時刻経過後(現画像)に位置Bから少しでも手前であれば移動ベクトルは右向きとなるが、距離aCと距離bBは同じであるから、明らかに他移動体6が自移動体5に接近している場合であっても、移動ベクトルは右向きとして検出されてしまう。したがって、この場合には、左方向の移動ベクトル検出感度を強くする必要がある。
上述したように、自移動体5がカーブに差し掛かった場合や、カーブから抜ける場合など、カーブの曲率が変化する場合(自移動体5と他移動体6の各進行方向が異なる場合)には、接近する他移動体6の検出精度を高めるために、検出感度の調整を行う必要がある。そこで、本実施形態1では、自移動体5の移動方向に基づいて、移動ベクトルの検出感度の調節を行う。
図7は、本実施形態1における図1の画像処理手段32Aによる移動ベクトル情報と他移動体情報の抽出処理を説明するためのフローチャートである。なお、図7では、図16に対して、ステップS7Aの内容だけが異なっているため、ここではステップS7Aのみ説明する。
図7に示すように、ステップS7Aでは、ステップS6で抽出された領域の前画像位置と現画像位置との位置関係と、自移動体移動方向検知手段11から入力される自移動体5の移動方向情報とに基づいて、自移動体5に対して他移動体6が接近しているかどうかを判断する。他移動体6が自移動体5に対して接近していると判断された場合(ステップS7Aでは「YES」)にはステップS8の処理に進み、他移動体6が自移動体5に対して接近していない(遠ざかっている)と判断された場合(ステップS7Aでは「NO」)にはステップS9の処理に進む。
自移動体移動方向検知手段11で検知される自移動体5の移動方向情報は、例えば移動体が自動車である場合、図8に示すように、操舵角情報(自移動体5のハンドルの角度)として入手することが可能である。操舵角は、例えばハンドルを右に切るときを正方向、左に切るときを負方向と定義する。
図9は、図7のステップS7Aにおける他移動体接近の有無検知処理を詳細に説明するためのフローチャートである。
図9に示すように、まず、ステップS71で、自移動体移動方向検知手段11から入力される移動方向情報に基づいて、自移動体5のハンドルの操舵角が変化しているかどうかを判断する。この操舵角が変化している場合(ステップS71では「YES」)にはステップS72の処理に進み、この操舵角が一定の角度である場合(ステップS71では「NO」)には、図7のステップS7Aの「NO側出力」でステップS9の処理に進む。
次に、ステップS72で、自移動体5のハンドルの操舵角が増加しているかどうかを判断する。この操舵角が増加している場合(ステップS72では「YES」)にはステップS73の処理に進み、この操舵角が減少している場合(ステップS72では「NO」)にはステップS74の処理に進む。なお、操舵角が増加している場合は上記図3および図5の場合のようにハンドルが右側にきられた場合(図8で右方向が正方向)に相当し、この操舵角が減少している場合は上記図4および図6の場合のようにハンドルが左側にきられた場合(図8で左方向が負方向)に相当する。
さらに、ステップS73で、移動ベクトルの移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を大きくし、移動ベクトル検出感度を弱くする。
さらに、ステップS74で、移動ベクトルの移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を小さくし、移動ベクトル検出感度を強くする。
さらに、ステップS75では、移動ベクトルの移動量と感度設定閾値を比較し、移動ベクトルの移動量が感度設定閾値以上かどうかを判定する。移動ベクトルの移動量が感度設定閾値以上の場合(ステップS75では「YES」)には、図7のステップS7Aの「YES側出力」でステップS8の処理に進み、移動ベクトルの移動量が感度設定閾値未満の場合(ステップS75では「NO」)には、図7のステップS7Aの「NO側出力」でステップS9の処理に進む。
このようにして検出された他移動体接近情報(自移動体移動方向検知手段11からの移動方向情報に基づいて調整された感度設定閾値を用いて検出された移動ベクトル)を用いて、上記特願2004−031433号における図18のフローチャートの場合と同様に、変化検知手段35による自移動体5と他移動体6との危険判定のための相対的な移動状態の検知処理が行われる。
なお、上記特願2004−031433号では、図18のステップS12の「移動ベクトルの読出」において、画像処理手段32Aにより記憶手段33の移動ベクトル格納領域333に書き込まれた移動ベクトル情報が変化検知手段35に読み出されるように構成したが、本実施形態1では、移動ベクトル格納領域333に、他移動体接近情報として調整された感度設定閾値を用いて検出された移動ベクトルが格納されており、図18のステップS13〜S16では、この移動ベクトルを用いて危険判定のための自移動体5と他移動体6との相対的な移動状態の検知処理が行われる。
このようにして、従来よりも自移動体5の周囲に存在する他移動体6を精度良く確実に検出できて、接触事故や衝突事故などの危険性がある場合に、運転者などに警報を報知し、運転者は危険を未然に回避することができる。
以上により、本実施形態1によれば、高度な演算処理や多量の演算処理を必要とせず、リアルタイム(高速)に自移動体周辺に存在する他移動体6の移動状態を精度良く検出して、接触事故や衝突事故などの危険性がある場合にそれを運転者などに通知することができる。
(実施形態2)
上記実施形態1では、右ハンドル車の右側のミラー部に撮像手段2を取り付けた場合の危険判定処理について説明したが、本実施形態2では、右ハンドル車の左側のミラー部に撮像手段2を取り付けた場合の危険判定処理について説明する。このように、撮像手段2が自移動体5の左側に取り付けられている場合には、右方向への移動ベクトルが自移動体5と他移動体6との接近を示すことになるため、他移動体接近情報抽出処理における移動ベクトルの検出感度調整、および自移動体5と他移動体6との相対的な移動状態の検知処理における移動量のベクトル数の加算は、右方向への移動ベクトル情報に対して行われる。図10および図11を用いて、右ハンドル車の左側のミラー部に撮像手段2を取り付けた場合の危険判定処理について説明する。
図10は、撮像手段2が自移動体の左側ミラーに取り付けられている本実施形態2の場合に、直進してきた自移動体5が左カーブに差し掛かったときの状態示す上面図である。
図10に示すように、t時間経過前(前画面)、自移動体5の位置aから見て、他移動体6が角度αの位置A2にあったとする。t時間経過後(現画面)の自移動体5の位置bから見た角度αと、他移動体6の経路とが交差する位置をBとすると、他移動体6がBの位置を過ぎていれば、自移動体5から他移動体6の移動ベクトルは右向きに観測される。他移動体6がt時刻経過後(現画像)に位置Bを少しでも過ぎれば移動ベクトルは右向きとなるが、距離aA2と距離bCは同じであるから、明らかに他移動体6が自移動体5から遠ざかっている場合であっても、移動ベクトルは右向きとして検出されてしまう。したがって、この場合には、右方向の移動ベクトル検出感度を弱くする必要がある。
同様に、撮像手段2が自移動体5の左側に取り付けられている場合、直進してきた自移動体5が右カーブに差し掛かった場合には右方向の移動ベクトル検出感度を強くする必要があり、また、自移動体5が左カーブから抜け出す場合には右方向の移動ベクトル検出感度を強くする必要があり、さらに、自移動体5が右カーブから抜け出す場合には右方向の移動ベクトル検出感度を弱くする必要がある。
図11は、撮像手段2が自移動体5の左側ミラーに取り付けられている本実施形態2の場合について、図7のステップS7Aの処理を詳細に説明するためのフローチャートである。なお、上記の場合と同様に、操舵角情報は、例えばハンドルを右に切るときを正方向、ハンドルを左に切るときを負方向とする。また、図11では、ステップS73’およびステップS74’だけが図9のステップS73および ステップS74と異なるだけでそれ以外のステップについては図7および図9の場合と同様である。
図11に示すように、まず、ステップS71で、自移動体移動方向検知手段11から入力される移動方向情報に基づいて、自移動体5のハンドルの操舵角が変化しているかどうかを判断する。この操舵角が変化している場合(ステップS71では「YES」)にはステップS72の処理に進み、この操舵角が一定の角度である場合(ステップS71では「NO」)には、図7のステップS7Aの「NO側出力」でステップS9の処理に進む。
次に、ステップS72で、自移動体5のハンドルの操舵角が増加しているかどうかを判断する。この操舵角が増加している場合(ステップS72では「YES」)にはステップS73’の処理に進み、この操舵角が減少している場合(ステップS72では「NO」)にはステップS74’の処理に進む。なお、操舵角が増加している場合は上記図3および図5の場合のようにハンドルが右側にきられた場合(図8で右方向が正方向)に相当し、この操舵角が減少している場合は上記図4および図6の場合のようにハンドルが左側にきられた場合(図8で左方向が負方向)に相当する。
さらに、ステップS73’では、移動ベクトルの移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を小さくし、移動ベクトル検出感度を強くする。
さらに、ステップS74’で、移動ベクトルの移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を大きくし、移動ベクトル検出感度を弱くする。
さらに、ステップS75では、移動ベクトルの移動量と感度設定閾値を比較し、移動ベクトルの移動量が感度設定閾値以上かどうかを判定する。移動ベクトルの移動量が感度設定閾値以上の場合(ステップS75では「YES」)には、図7のステップS7Aの「YES側出力」でステップS8の処理に進み、移動ベクトルの移動量が感度設定閾値未満の場合(ステップS75では「NO」)には、図7のステップS7Aの「NO側出力」でステップS9の処理に進む。
このようにして検出された他移動体接近情報(自移動体移動方向検知手段11からの移動方向情報に基づいて調整された感度設定閾値を用いて検出された移動ベクトル)を用いて、上記特願2004−031433号における図18のフローチャートの場合と同様に、変化検知手段35による自移動体5と他移動体6との相対的な移動状態の危険検知処理が行われる。ただし、撮像手段2が自移動体5の左側に設置されているため、ステップS15において、右方向への移動量のベクトル数が算出され、ステップS16では算出された右移動ベクトル数(加算値)がステップS11で設定された閾値よりも大きい場合に、自移動体5に接近する他移動体6が存在すると判定される。
なお、上記実施形態1では、右ハンドル車の右側のミラー部に撮像手段2を取り付けた場合の危険判定処理について説明し、上記実施形態2では、右ハンドル車の左側のミラー部に撮像手段2を取り付けた場合の危険判定処理について説明したが、これに限らず、運転席側およびその反対側の両サイドミラーまたは両ドアミラーにそれぞれ各撮像手段2がそれぞれ取り付けられていてもよく、要は、運転席側およびその反対側の少なくとも一方のサイドミラーまたはドアミラーに撮像手段2が取り付けられていればよい。
右ハンドルの場合、左側のミラー部に撮像手段2を取り付けることによって、1台の撮像手段2でも死角をカバーすることができるという効果がある。また、左ハンドルの場合には、右側のミラー部に撮像手段2を取り付けることによって、1台の撮像手段2で死角をカバーすることができるという効果がある。さらに、左右のミラー部に各撮像手段2をそれぞれ1台づつ取り付けることによって、右ハンドルの場合でも左ハンドルの場合でも、死角をより一層カバーすることができるという効果がある。
また、上記実施形態1,2では特に説明しなかったが、ハードウェア構成の他に、ソフトウェア構成によっても本発明を構成することができる。この場合、図1の演算処理部3Aを装置全体を制御しているコントローラ(CPUを有する制御部)内に収容し、上記フローチャートの各処理をコンピューターに実行させるための制御プログラムおよびそのデータを可読記録媒体としてコントローラ内のハードディスクなどのメモリに記憶させておき、このメモリからコントローラ内のワークメモリにその制御プログラムおよびデータを読み出して実行させることができる。
このような可読記録媒体としては、ハードディスクの他に、各種ICメモリ、CDやDVDなどの光ディスク、FDなどの磁気記録媒体などであってもよく、読み取られた制御プログラムおよびそのデータはコントローラ内のワークメモリとしてのRAM内に格納されてコントローラ内のCPU(制御部)によって実行可能とされる。
このようなコントローラ内のCPU(制御部)は、上記可読記録媒体(ROMまたはRAM)内の制御プログラムおよびそのデータに基づいて、自移動体5周辺の画像データを時系列にフレーム画像として撮像手段2に撮像させる撮像ステップ(手段)と、この撮像した一または複数のフレーム画像毎に、フレーム画像の水方向に平行で、かつ、横長帯状の特定領域を設定する設定ステップ(手段)と、自移動体5の移動方向を検知して移動方向情報を出力する自移動体移動方向検知ステップ(手段)と、撮像した一または複数のフレーム画像毎に、特定領域の画像データを取り込み、この取り込んだ特定領域の画像データとその移動方向情報とに基づいて他移動体6に関する移動ベクトル情報を抽出する移動ベクトル情報抽出ステップ(手段)と、この移動ベクトル情報に基づいて自移動体5の周辺に存在する他移動体6の移動状態を検知する変化検知ステップ(手段)とを実行する。

この場合に、上記移動ベクトル情報抽出ステップ(手段)は、撮像されたフレーム画像の画像データのうち、取り込んだ特定領域の画像データを複数の分割領域に分割する分割ステップ(手段)と、分割した分割領域毎に画像データ値の合算値を算出する合算値算出ステップ(手段)と、現画像データの各分割領域毎の合算値に対する前画像データの各分割領域の合算値との各差分が最小となる前画像データの分割領域を抽出する分割領域抽出ステップ(手段)と、この抽出された前画像データの分割領域に対して、これに対応する最小差分時の現画像データの分割領域が左右いずれにあるかを判断する左右判断ステップ(手段)と、「左」にある場合には左移動ベクトル情報とし、「右」にある場合には右移動ベクトル情報とする移動ベクトル情報決定ステップ(手段)とを有している。
さらに、この上記実施形態1の場合の左右判断ステップ(手段)としては、自移動体5が車両の場合に、自移動体5のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップ(手段)と、この操作角度が増加している場合に、移動ベクトル情報の移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を大きくして移動ベクトル情報の検出感度を弱くし、また、このハンドルの操作角度が増加していない場合に、その感度設定閾値を変化させないかまたは小さくして移動ベクトル情報の検出感度を変化させないかまたは強くする検出感度制御ステップ(手段)と、その移動ベクトル情報の移動量と感度設定閾値を比較して、その移動ベクトル情報の移動量が該感度設定閾値以上かどうかを判定することにより、前画像データの分割領域に対して、これに対応する現画像データの分割領域が「左」および「右」のいずれにあるかを判断する比較接近判定ステップ(手段)とを有している。
また、この上記実施形態2の場合の左右判断ステップ(手段)としては、自移動体5が車両の場合に、自移動体5のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップ(手段)と、この操作角度が増加している場合に、移動ベクトル情報の移動量から他移動体6が接近しているかどうかを判断する際の感度設定閾値を小さくして移動ベクトル情報の検出感度を強くし、また、この操作角度が増加していない場合に、その感度設定閾値を変化させないかまたは大きくして移動ベクトル情報の検出感度を変化させないかまたは弱くする検出感度制御ステップ(手段)と、移動ベクトル情報の移動量と感度設定閾値を比較して、この移動ベクトル情報の移動量が感度設定閾値以上かどうかを判定することにより、前画像データの分割領域に対して、これに対応する現画像データの分割領域が「左」および「右」のいずれにあるかを判断する接近判定ステップ(手段)とを有している。
以上のように、本発明の好ましい実施形態1,2を用いて本発明を例示してきたが、本発明は、この実施形態1,2に限定して解釈されるべきものではない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態1,2の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。本明細書において引用した特許、特許出願および文献は、その内容自体が具体的に本明細書に記載されているのと同様にその内容が本明細書に対する参考として援用されるべきであることが理解される。
本発明は、有人または無人の移動体、例えば船や車両(2輪車などのオートバイや自転車または4輪車などの自動車や電車などの乗り物)、人間などの移動時に安全監視などを行うために用いられ、例えば移動体(自移動体5)が左右に移動するときなどに、その周辺に他の移動体(他移動体6)が存在して両者が接触や衝突する危険性がある場合などに、移動体に関わる人(運転者)に対して警報などにより、他移動体の接近による危険を報知して安全確認を支援するために用いられる移動体周辺監視装置、これを用いた移動体周辺監視方法、これをコンピュータに実行させるための制御プログラムおよび、これが記録されたコンピュータ読み取り可能な可読記録媒体の分野において、高度な演算処理や多量の演算処理を必要とせず、リアルタイム(高速)に自移動体周辺に存在する他移動体を精度良く検出して、接触事故や衝突事故などの危険性がある場合にそれを運転者などに通知することができるため、車両安全システムや交通システムなどに広く利用できて、接触事故や衝突事故などの交通事故の発生を未然に防止することができる。
本発明の移動体周辺監視装置の実施形態1における要部構成例を示すブロック図である。 図1の移動体周辺監視装置を自動車に取り付けた場合の取り付け例をその周囲と共に模式的に示す上面図である。 直進してきた自移動体が右カーブに差し掛かった場合をその周囲と共に模式的に示す上面図である。 直進してきた自移動体が左カーブに差し掛かった場合をその周囲と共に模式的に示す上面図である。 自移動体が左カーブから抜け出て直線に差し掛かった場合をその周囲と共に模式的に示す上面図である。 自移動体が右カーブから抜け出て直線に差し掛かった場合をその周囲と共に模式的に示す上面図である。 図1の画像処理手段による移動ベクトル情報と他移動体情報の抽出処理を説明するためのフローチャートである。 操舵角情報の定義について説明するための図である。 図7に示すフローチャートのS7Aの内容を詳細に説明するためのフローチャートである。 撮像手段が自移動体の左側ミラーに取り付けられている本実施形態2の場合に、直進してきた自移動体5が左カーブに差し掛かったときの状態示す上面図である。 撮像手段が自移動体の左側ミラーに取り付けられている本実施形態2の場合について、図7のステップS7Aの処理を詳細に説明するためのフローチャートである。 従来技術(特許文献1)における検知領域を模式的に示すイメージ図である。 特願2004−031433号の実施形態における移動体周辺監視装置の要部構成例を示すブロック図である。 図13の移動体周辺監視装置を自動車に取り付けた場合の取り付け例をその周囲と共に模式的に示す上面図である。 (a)は、図13の撮像手段で撮像された自移動体の周辺撮像画像を模式的に示すイメージ図、(b)は、(a)のt時間後に撮像手段で撮像された自移動体の周辺撮像画像を模式的に示すイメージ図である。 図13の画像処理手段による移動ベクトル情報の抽出処理例を説明するためのフローチャートである。 図13の記憶手段のメモリ構成例を示すブロック図である。 図13の変化検知手段による自移動体と他移動体との相対的な移動状態の危険検知処理例を説明するためのフローチャートである。 図15に示すイメージ図を自移動体と他移動体が直進している場合について上方から見た図である。 図15に示すイメージ図を自移動体が右カーブに差し掛かった場合について上方から見た図である。
符号の説明
1A 移動体周辺監視装置
2 撮像手段
3A 演算処理部
31 特定領域設定手段
32A 画像処理手段
33 記憶手段
331 前画面データ格納領域
332 現画面データ格納領域
333 移動ベクトル格納領域
34 変化検知閾値設定手段
35 変化検知手段
4 変化通知手段
5 自移動体
6 他移動体
7 特定領域
8 位置固定物体(電柱)
9 他移動体(左端)の撮像判定位置
11 自移動体移動方向検知手段

Claims (23)

  1. 自移動体周辺の画像を撮像する撮像手段と、
    該撮像手段により撮像された画像データに対して、フレーム画像の水平方向に平行で、かつ、横長帯状の特定領域を設定する特定領域設定手段と、
    該自移動体の移動方向を検知して移動方向情報を出力する自移動体移動方向検知手段と、
    該撮像手段により時系列に撮像された一または複数フレーム画像毎に、該特定領域の画像データを取り込んで、該移動方向情報に基づいて検出感度を調整して他移動体に関する移動ベクトル情報を抽出する移動ベクトル情報抽出手段と、
    該移動ベクトル情報に基づいて該自移動体の周辺に存在する該他移動体の移動状態を検知する変化検知手段とを有する移動体周辺監視装置。
  2. 前記撮像手段は、前記自移動体の後側方を撮像可能な位置に取り付けられている請求項1に記載の移動体周辺監視装置。
  3. 前記撮像手段は、前記自移動体が車両である場合に、運転席側および運転席とは反対側の少なくとも一方のサイドミラーまたはドアミラーに取り付けられている請求項2に記載の移動体周辺監視装置。
  4. 前記特定領域設定手段は、前記自移動体の撮像画像を含まず、前記他移動体の撮像画像の少なくとも一部が含まれるように、前記撮像された画像データに前記特定領域を設定する請求項1に記載の移動体周辺監視装置。
  5. 前記自移動体移動方向検知手段は、前記自移動体の進行方向制御手段が操作されたときの操作方向に応じた移動方向情報を該自移動体の移動方向として検知する請求項1に記載の移動体周辺監視装置。
  6. 前記進行方向制御手段がハンドルである場合、該ハンドルの操作角度情報は、該ハンドルを右に切るときを正方向、該ハンドルを左に切るときを負方向として操作角度に応じて増減するように構成されている請求項5に記載の移動体周辺監視装置。
  7. 前記移動ベクトル情報は、前記自移動体の周辺に存在する前記他移動体の移動状態を示す移動量および方向情報である請求項1に記載の移動体周辺監視装置。
  8. 前記移動ベクトル情報抽出手段は、前記特定領域を複数に分割した各分割領域に対してそれぞれ、現在の画像データの合算値とt(t>0)時間前の前画像データの合算値とを比較してその差分値が最小となる両分割領域を抽出し、該抽出された前画像データの分割領域の位置をt時間前の現画像データの位置と判断して、該抽出された両分割領域の前画像データと現画像データとの位置関係を前記移動ベクトル情報の移動量として抽出すると共に、前記移動方向情報に基づいて前記移動ベクトル情報の方向情報を抽出する請求項1または7に記載の移動体周辺監視装置。
  9. 前記移動ベクトル情報抽出手段は、前記抽出された両分割領域の位置関係に基づいて、該分割領域の現画像データが該分割領域の前画像データに対して左に移動しているか、または右に移動しているかを判定して前記移動ベクトル情報の方向情報を抽出する際の感度設定閾値を、前記移動方向情報に応じて大きくするかまたは小さくして、前記移動ベクトルの移動量と感度設定閾値を比較し、該移動ベクトルの移動量が該感度設定閾値以上である場合に前記自移動体に対して前記他移動体が接近していると判定した該移動ベクトル情報の方向情報を抽出する請求項8に記載の移動体周辺監視装置。
  10. 前記移動ベクトル情報抽出手段は、
    撮像されたフレーム画像の画像データのうち、取り込んだ前記特定領域の画像データを複数の分割領域に分割する分割手段と、
    分割した分割領域毎に画像データ値の合算値を算出する合算値算出手段と、
    該現画像データの各分割領域毎の合算値に対する前画像データの各分割領域の合算値との各差分が最小となる前画像データの分割領域を抽出する分割領域抽出手段と、
    抽出された前画像データの分割領域に対して、これに対応する最小差分時の現画像データの分割領域が左右のいずれにあるかを前記移動方向情報に基づいて判断する左右判断手段と、
    前記移動ベクトル情報の方向情報として、左にある場合には左移動ベクトル情報とし、右にある場合には右移動ベクトル情報とする移動ベクトル情報決定手段とを有する請求項7〜9のいずれかに記載の移動体周辺監視装置。
  11. 前記左右判断手段は、
    前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定手段と、
    該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を大きくして該移動ベクトル情報の検出感度を弱くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは小さくして該移動ベクトル情報の検出感度を変化させないかまたは強くする検出感度制御手段と、
    該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定手段とを有する請求項10に記載の移動体周辺監視装置。
  12. 前記左右判断手段は、
    前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定手段と、
    該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を小さくして該移動ベクトル情報の検出感度を強くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは大きくして該移動ベクトル情報の検出感度を変化させないかまたは弱くする検出感度制御手段と、
    該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定手段とを有する請求項10に記載の移動体周辺監視装置。
  13. 前記変化検知手段は、前記移動ベクトル情報に基づいて、前記自移動体と前記他移動体との相対的な移動状態を検知する請求項1に記載の移動体周辺監視装置。
  14. 前記変化検知手段は、前記特定領域を複数に分割した各分割領域毎に前記移動ベクトル情報を読み出し、読み出した移動ベクトル情報のうち、所定方向情報の移動量のベクトル数を加算した加算値が所定の判定閾値よりも大きい場合に、前記自移動体に危険接近する前記他移動体が存在すると検知する請求項1または13に記載の移動体周辺監視装置。
  15. 前記変化検知手段は、前記撮像手段が前記自移動体の右側に設置されている場合に前記方向情報として左方向のベクトル数を算出し、該撮像手段が該自移動体の左側に設置されている場合には該方向情報として右方向のベクトル数を算出する請求項14に記載の移動体周辺監視装置。
  16. 前記変化検知手段が検出した前記自移動体と前記他移動体との相対的な移動状態に応じて警報出力する変化通知手段をさらに有する請求項1に記載の移動体周辺監視装置。
  17. 前記移動ベクトル情報抽出手段の抽出結果を一時的に記憶する記憶手段をさらに有し、前記変化検知手段は、該記憶手段から該移動ベクトル情報抽出手段の抽出結果を読み出して前記変化検知処理に用いる請求項1および8〜16のいずれかに記載の移動体周辺監視装置。
  18. 自移動体周辺の画像データを時系列にフレーム画像として撮像手段に撮像させる撮像ステップと、
    撮像した一または複数のフレーム画像毎に、該フレーム画像の水方向に平行で、かつ、横長帯状の特定領域を設定する設定ステップと、
    該自移動体の移動方向を検知して移動方向情報を出力する自移動体移動方向検知ステップと、
    該撮像した一または複数のフレーム画像毎に、該特定領域の画像データを取り込み、該取り込んだ該特定領域の画像データと該移動方向情報とに基づいて他移動体に関する移動ベクトル情報を抽出する移動ベクトル情報抽出ステップと、
    該移動ベクトル情報に基づいて該自移動体の周辺に存在する該他移動体の移動状態を検知する変化検知ステップとを、
    コンピュータが制御プログラムおよびそのデータを用いて実行する移動体周辺監視方法。
  19. 前記移動ベクトル情報抽出ステップは、
    撮像されたフレーム画像の画像データのうち、取り込んだ前記特定領域の画像データを複数の分割領域に分割する分割ステップと、
    分割した分割領域毎に画像データ値の合算値を算出する合算値算出ステップと、
    該現画像データの各分割領域毎の合算値に対する前画像データの各分割領域の合算値との各差分が最小となる前画像データの分割領域を抽出する分割領域抽出ステップと、
    抽出された前画像データの分割領域に対して、これに対応する最小差分時の現画像データの分割領域が左右いずれにあるかを移動方向情報に基づいて判断する左右判断ステップと、
    前記移動ベクトル情報の方向情報として、左にある場合には左移動ベクトル情報とし、右にある場合には右移動ベクトル情報とする移動ベクトル情報決定ステップとを有する請求項18に記載の移動体周辺監視方法。
  20. 前記左右判断ステップは、
    前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップと、
    該操作角度が増加している場合に、前記移動ベクトルの移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を大きくして該移動ベクトル情報の検出感度を弱くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは小さくして該移動ベクトル情報の検出感度を変化させないかまたは強くする検出感度制御ステップと、
    該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定ステップとを有する請求項19に記載の移動体周辺監視方法。
  21. 前記左右判断ステップは、
    前記自移動体が車両の場合に、該自移動体のハンドルの操作角度が増加しているかどうかを判定する操作角度増加判定ステップと、
    該操作角度が増加している場合に、前記移動ベクトル情報の移動量から前記他移動体が接近しているかどうかを判断する際の感度設定閾値を小さくして該移動ベクトル情報の検出感度を強くし、また、該操作角度が増加していない場合に、該感度設定閾値を変化させないかまたは大きくして該移動ベクトル情報の検出感度を変化させないかまたは弱くする検出感度制御ステップと、
    該移動ベクトル情報の移動量と該感度設定閾値を比較して、該移動量が該感度設定閾値以上かどうかを判定することにより前記左右のいずれにあるかを判断する比較判定ステップとを有する請求項19に記載の移動体周辺監視方法。
  22. 請求項18〜21のいずれかに記載の移動体周辺監視方法の各ステップをコンピュータに実行させるための制御プログラム。
  23. 請求項22に記載の制御プログラムが記録されたコンピュータ読み取り可能な可読記録媒体。
JP2005025273A 2005-02-01 2005-02-01 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体 Expired - Fee Related JP4107605B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005025273A JP4107605B2 (ja) 2005-02-01 2005-02-01 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体
US11/344,541 US7253389B2 (en) 2005-02-01 2006-02-01 Mobile body surrounding surveillance apparatus, mobile body surrounding surveillance method, control program and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005025273A JP4107605B2 (ja) 2005-02-01 2005-02-01 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体

Publications (2)

Publication Number Publication Date
JP2006215642A true JP2006215642A (ja) 2006-08-17
JP4107605B2 JP4107605B2 (ja) 2008-06-25

Family

ID=36756586

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005025273A Expired - Fee Related JP4107605B2 (ja) 2005-02-01 2005-02-01 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体

Country Status (2)

Country Link
US (1) US7253389B2 (ja)
JP (1) JP4107605B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014146084A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
US9045085B2 (en) 2013-01-28 2015-06-02 Fujitsu Ten Limited Object detector
US9505305B2 (en) 2014-03-25 2016-11-29 Fujitsu Ten Limited Vehicle device
JP2021526681A (ja) * 2018-06-13 2021-10-07 ライド ビジョン リミテッド ライダー支援システム及び方法

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3925112B2 (ja) * 2001-06-20 2007-06-06 富士ゼロックス株式会社 画像処理装置
US7542834B2 (en) * 2003-10-17 2009-06-02 Panasonic Corporation Mobile unit motion calculating method, apparatus and navigation system
JP2005215985A (ja) * 2004-01-29 2005-08-11 Fujitsu Ltd 走行車線判定プログラムおよびその記録媒体、走行車線判定装置ならびに走行車線判定方法
JP4533936B2 (ja) * 2008-02-01 2010-09-01 日立オートモティブシステムズ株式会社 画像処理装置、及びこれを備えた車両検知装置
US9082278B2 (en) * 2010-03-19 2015-07-14 University-Industry Cooperation Group Of Kyung Hee University Surveillance system
JP5850066B2 (ja) * 2012-02-06 2016-02-03 トヨタ自動車株式会社 物体検知装置
TWI495343B (zh) * 2012-04-13 2015-08-01 Dadny Inc 行車記錄系統及其位置判斷方法
JP5867273B2 (ja) * 2012-04-27 2016-02-24 富士通株式会社 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
EP2975481A4 (en) * 2013-03-11 2017-01-18 Hitachi, Ltd. Autonomous control device
US9451062B2 (en) * 2013-09-30 2016-09-20 Verizon Patent And Licensing Inc. Mobile device edge view display insert
DE102014214088A1 (de) * 2014-07-21 2016-01-21 Robert Bosch Gmbh Fahrerinformationssystem in einem Fahrzeug
JP2016099270A (ja) * 2014-11-25 2016-05-30 セイコーエプソン株式会社 位置算出方法、位置算出装置及び位置算出プログラム
US9566980B2 (en) * 2015-03-05 2017-02-14 Qualcomm Incorporated Automobile driver improved response times using priming
US10019805B1 (en) 2015-09-29 2018-07-10 Waymo Llc Detecting vehicle movement through wheel movement
CN105513371B (zh) * 2016-01-15 2017-12-22 昆明理工大学 一种基于核密度估计的高速公路违章停车检测方法
US10650526B2 (en) * 2016-06-28 2020-05-12 Canon Kabushiki Kaisha Image processing apparatus, image capturing apparatus, image processing method, and storage medium
US11126199B2 (en) * 2018-04-16 2021-09-21 Baidu Usa Llc Learning based speed planner for autonomous driving vehicles
CN109263557B (zh) * 2018-11-19 2020-10-09 威盛电子股份有限公司 车辆盲区侦测方法
CN115416547B (zh) * 2022-08-31 2023-10-13 东风柳州汽车有限公司 车辆座椅调整方法、装置、设备及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4377474B2 (ja) 1999-03-31 2009-12-02 株式会社東芝 移動体の衝突防止装置、衝突防止方法、および記録媒体
JP4425495B2 (ja) * 2001-06-08 2010-03-03 富士重工業株式会社 車外監視装置
JP3952305B2 (ja) 2004-02-06 2007-08-01 シャープ株式会社 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014146084A (ja) * 2013-01-28 2014-08-14 Fujitsu Ten Ltd 物体検出装置、物体検出システム及び物体検出方法
US9045085B2 (en) 2013-01-28 2015-06-02 Fujitsu Ten Limited Object detector
US9811741B2 (en) 2013-01-28 2017-11-07 Fujitsu Ten Limited Object detector
US9505305B2 (en) 2014-03-25 2016-11-29 Fujitsu Ten Limited Vehicle device
JP2021526681A (ja) * 2018-06-13 2021-10-07 ライド ビジョン リミテッド ライダー支援システム及び方法
JP2021192303A (ja) * 2018-06-13 2021-12-16 ライド ビジョン リミテッド ライダー支援システム及び方法
JP7295185B2 (ja) 2018-06-13 2023-06-20 ライド ビジョン リミテッド ライダー支援システム及び方法
JP7397807B2 (ja) 2018-06-13 2023-12-13 ライド ビジョン リミテッド ライダー支援システム及び方法

Also Published As

Publication number Publication date
US7253389B2 (en) 2007-08-07
JP4107605B2 (ja) 2008-06-25
US20060171562A1 (en) 2006-08-03

Similar Documents

Publication Publication Date Title
JP4107605B2 (ja) 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体
JP3897305B2 (ja) 車両周辺監視装置、車両周辺監視方法、制御プログラムおよび可読記録媒体
US10796171B2 (en) Object recognition apparatus, object recognition method, and object recognition program
EP3467698B1 (en) Method for monitoring blind spot of vehicle and blind spot monitor using the same
JP3952305B2 (ja) 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体
US11034294B2 (en) Driving notification method and driving notification system
JP6205640B2 (ja) 車両用警告装置
CN108162858B (zh) 车载监控装置及其方法
JP2010122821A (ja) 車両運転支援装置
JP2005309797A (ja) 歩行者警報装置
JP2013008070A (ja) 標識認識装置及び標識認識方法
KR20210138463A (ko) 보행자 사고방지 방법 및 그 장치
JP2011048520A (ja) 車両周辺監視装置および車両周辺監視方法
JP4840472B2 (ja) 物体検出装置
JP2018074286A (ja) 運転支援装置
CN112622774A (zh) 车辆及提供车辆周围信息的方法
KR101729030B1 (ko) 차량 주변의 위험요소 경고장치 및 경고방법
JP3984863B2 (ja) 発進報知装置
JP2005309660A (ja) 車両用右左折支援装置
US20210237758A1 (en) Method and system for detecting a dangerous driving condition for a vehicle, and non-transitory computer readable medium storing program for implementing the method
JP4013856B2 (ja) 後側方警報装置
KR101432727B1 (ko) 차량과 객체의 충돌을 방지하기 위한 헤드라이트 빔 패턴을 이용한 이동객체 검출 장치 및 이를 이용한 이동객체 검출 방법
KR20170133756A (ko) 단안 영상 기반 추월 및 합류 차량 인식 시스템 및 방법
WO2024190506A1 (ja) 電子機器、集中度算出方法、及び集中度算出プログラム
JP2005196666A (ja) 車両運転支援装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080328

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110411

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120411

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120411

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130411

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees