[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2011076214A - 障害物検出装置 - Google Patents

障害物検出装置 Download PDF

Info

Publication number
JP2011076214A
JP2011076214A JP2009224711A JP2009224711A JP2011076214A JP 2011076214 A JP2011076214 A JP 2011076214A JP 2009224711 A JP2009224711 A JP 2009224711A JP 2009224711 A JP2009224711 A JP 2009224711A JP 2011076214 A JP2011076214 A JP 2011076214A
Authority
JP
Japan
Prior art keywords
obstacle
road surface
input image
types
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009224711A
Other languages
English (en)
Inventor
Satoru Hayasaka
哲 早坂
Rinji Abe
林治 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alps Alpine Co Ltd
Original Assignee
Alps Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alps Electric Co Ltd filed Critical Alps Electric Co Ltd
Priority to JP2009224711A priority Critical patent/JP2011076214A/ja
Publication of JP2011076214A publication Critical patent/JP2011076214A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】障害物と判定できる対象の多様性を確保しつつ、路面等の対象の変化に対して誤判定を生じにくくする。
【解決手段】障害物検出装置は、カメラで撮影した路面Rの入力画像(カラー静止画像)をフレームFに則して複数の領域に分割し、これら分割領域毎に入力ファクターとして平均輝度や平均彩度を抽出する。そして、入力ファクターに基づいて基準空間における距離を演算し、この距離が閾値を超える場合に障害物があると判定する。
【選択図】図7

Description

本発明は、カメラにより撮影した画像を用いて対象範囲内の障害物について判定を行う障害物検出装置に関する。
この種の障害物検出装置に関して従来、ステレオ式ではなく単一のカメラで静止障害物を検出しようとする先行技術が知られている(例えば、特許文献1参照。)。この先行技術は、例えば車両が後進(バック)しようとする方向を車載のカメラで撮影した場合、一般的に道路(路面)の部分は色彩を有しないグレースケール画像であるが、その他の部分は色情報を有した有彩色画像となるため、画像中の色情報に基づいて路面部分とそれ以外の部分とを区別することができる点に着目したものである。このため先行技術によれば、たとえ単一のカメラで撮影した静止画像であっても、そこから静止障害物の存在を検出することができると考えられる。
特開2009−126493号公報
しかしながら上記の先行技術は、画像中の色情報だけに依存して障害物の検出(有無の判定)を行っているため、例えば画像に映った対象が赤色等の服装をした人物であれば、これを障害物として認識するものの、全身を黒色や白色等の無彩色の服装で統一した人物については、これを障害物として認識することができない。
すなわち先行技術の手法は、画像中の色情報という1つのファクターだけに依存して障害物の判定を行っているため、そのファクターが路面部分と大きく異なる対象であれば、これを容易に障害物として判定することができる。しかしその反面、色情報という唯一のファクターが路面部分とほとんど異ならない対象については、たとえその他のファクターが大きく異なっていたとしても、これを障害物と判定することができない。このように先行技術の手法には、障害物として認識できる対象のバリエーションに乏しく、障害物の認識性能が未だ十分でないという問題がある。
この点、静止画像中の複数のファクター(例えば、色情報と明度情報等)を観測して障害物の判定を行うという手法も考えられるものの、この場合は撮影時の路面状態の変化(例えば日照や照明等の明るさの変化)に対して判定結果が過敏になりやすく、障害物でない対象をも誤って障害物と判定するおそれがある。
そこで本発明は、障害物と判定できる対象の多様性を確保しつつ、路面等の対象の変化に対して誤判定を生じにくくする技術の提供を課題とする。
上記の課題を解決するため、本発明の以下の解決手段を採用する。
本発明の障害物検出装置は、所定の対象範囲を撮影するカメラと、このカメラにより撮影して得られた入力画像を用いて対象範囲内の障害物の有無を判定する制御手段とを備える。本発明において制御手段は、特に以下の手法により障害物の判定を行っている。なお、下記の(1)〜(3)の処理は、本発明の十分な開示のため便宜的に付したインデックスに過ぎず、ここで本発明の判定(検出)手法をこれらの手順ないしステップだけに限定する意図ではない。
(1)複数種類の入力ファクター抽出
制御手段は、カメラにより撮影された入力画像を分割した複数の分割領域毎に複数種類の入力ファクターを抽出(算出)する。ここで抽出する「入力ファクター」は、例えばカメラで撮影された入力画像を用いたデータ演算処理によって導き出すことができる。また、入力画像を複数の領域に分割することで、対象範囲についてより高精度な障害物の判定が可能となる。
(2)分割領域毎の距離演算
次に制御手段は、抽出した複数種類の入力ファクターに基づき入力画像の分割領域毎に距離を演算する。ここで演算する「距離」は、障害物の判定に関して予め記憶した複数種類の基準ファクターにより形成される基準空間において、個々の分割領域毎にそれぞれの位置を当てはめた場合に得られる統計上の指標や尺度等となる値である。
上記の「基準空間」を形成する複数種類の基準ファクターは、入力画像とは別に用意された複数の基準画像をそれぞれ複数の領域に分割した分割領域毎に抽出して得られる。制御手段は「距離」の演算に際して上記の「基準空間」を形成するため、予めこれら複数種類の基準ファクターを記憶しておくことができる。
また「基準画像」は、例えばカメラにより撮影される対象範囲について標準的な対象物(例えば、障害物が存在しない状態の一般的な路面等)を事前に撮影して得ることができる。このとき複数の「基準画像」を用いることから、例えば対象が路面(地面も含む)の場合であっても、その様々な変化(路面状況や環境、明るさ等の違い)を予め想定して複数種類の基準ファクターを抽出しておくことができる。このような「基準画像」の分割領域毎に複数種類の基準ファクターを抽出することで、そこから標準的な対象(基準画像)についての基準空間における統計上の距離の分布を既知としておくことができる。したがって、基準空間において新たに複数種類の入力ファクターに基づいて演算した「距離」は、入力画像について個々の分割領域が基準空間においてどのような位置に存在するかを判断するための尺度となる。
(3)障害物判定
制御手段は、演算した距離に基づき入力画像の分割領域毎に対象範囲内の障害物の有無を判定する。上記のように演算した「距離」は、今回の入力画像の各分割領域が基準空間においてどのような位置に存在するかを示すものである。このため例えば、演算した「距離」が予め設定しておいた閾値を超える場合は「障害物あり」と判定し、それ以外なら「障害物なし」と判定することができる。
つまり、「距離」が閾値を超える分割領域がある場合、その分割領域の「距離」は「基準画像」についての既知の分布からある程度かけ離れていると考えられるため、その入力画像中(分割領域内)に何らかの障害物が映り込んでいる(障害物あり)と判断することができる。一方、いずれの分割領域も「距離」が閾値を超えない場合、それは「基準画像」についての既知の分布に近いと考えられるため、その入力画像中(分割領域内)には障害物が映っていない(障害物なし)と判断することができる。
このように本発明の障害物検出装置によれば、障害物の判定に用いる「距離」の演算を複数種類の入力ファクターを用いて行うため、より多様な対象についても障害物の判定が可能となり、それだけ認識できる障害物のバリエーションを増やすことができる。また、予め複数種類の基準画像を用いて抽出した基準ファクターを記憶していることから、カメラで撮影する対象範囲の様々な変化に対して過剰に反応することなく、障害物の有無を正確に判断することができる。
より好ましくは、制御手段はマハラノビスの距離を用いて障害物の判定を行うものとする。すなわち制御手段は、上記(2)で複数種類の基準ファクターにより形成されるマハラノビス空間を基準空間として、このマハラノビス空間における入力画像の分割領域毎のマハラノビス距離を基準空間における距離として演算する。そして上記(3)では、演算したマハラノビス距離に基づき入力画像の分割領域毎に対象範囲内の障害物の有無を判定する。
この場合、基準画像について分割領域毎に求めたマハラノビス距離の分布を既知としておき、そこに入力画像から求めた分割領域毎のマハラノビス距離を演算して当てはめることで、容易に障害物の有無を判断することができる。すなわち、ある分割領域について演算したマハラノビス距離が大きいほど、その分割領域がマハラノビス空間において基準画像についての分布からかけ離れていることを意味する。このため、例えば予め障害物が存在しないと判断できるマハラノビス距離についての閾値を設定しておき、この閾値を超える場合は障害物があると判定し、それ以外は障害物がないと判定することができる。
より実用的には、制御手段は障害物の判定を行うに際し、入力画像から路面種類についての判別を行うものとする。すなわち制御手段は、カメラにより撮影される対象範囲に含まれる複数の路面種類のそれぞれについて、上記(2)で入力画像とは別に用意された複数の基準画像をそれぞれ複数の領域に分割し、これら分割領域毎に抽出して得られた複数種類の基準ファクターを予め複数の路面種類毎に記憶しておく。また制御手段は、複数の路面種類毎に基準空間における入力画像の分割領域毎の距離を複数種類の入力ファクターに基づき演算し、この演算した距離に基づいて対象範囲に含まれる路面種類を設定する。そして上記(3)で制御手段は、設定した路面種類について演算した距離に基づき分割領域毎に対象範囲内の障害物の有無を判定するものとする。
このような態様であれば、カメラで撮影する対象範囲が未知の路面種類を含むものであっても、その都度、複数の路面種類毎に演算した距離(マハラノビス距離でもよい)に基づきいずれかの路面種類を設定することができる。すなわち制御手段は、予め複数の路面種類(例えば路面種類a〜dとする)毎に複数種類の基準ファクターを記憶しておくことで、予め用意された複数の路面種類a〜d毎の基準画像についての距離の分布をいずれも既知とすることができる。そして、今回の入力画像から抽出した複数種類の入力ファクターに基づき複数の路面種類a〜d毎に距離(例えば距離Da〜Ddとする)をそれぞれ演算していくと、その中から最も距離が近くなるいずれかの路面種類(例えば路面種類b)を今回の対象範囲に含まれている路面種類として設定(推定)することができる。
その上で制御手段は、設定した路面種類について演算した距離が例えば閾値を超える場合、その分割領域に障害物が存在すると判定し、それ以外については障害物が存在しないと判定することができる。
以上のように本発明の障害物検出装置は、障害物として認識できる対象のバリエーションを多く確保することができ、より精度の高い判定を可能とする。
また、カメラで撮影する対象範囲が未知の路面種類を含む場合であっても、入力画像を用いて路面種類を設定し、その上で障害物の有無を高精度に判定することができる。このため、例えば車両(自動車、トラック・バス、二輪車等)のように、多種多様な路面(地面を含む)上を移動していく移動手段に搭載されたカメラを用いて路面上の障害物を検出する用途に好適である。
障害物検出装置を車両に搭載した場合の実施形態を示す概要図である。 障害物検出装置の構成を概略的に示した機能ブロック図である。 後方カメラで撮影された入力画像を複数の領域に分割する処理を示す概要図である。 複数枚の基準画像をそれぞれ複数領域に分割する事前処理を示した概念図である。 分割領域毎に演算されたマハラノビス距離を用いた障害物判定の手法を示す概念図である。 マハラノビス空間を用いた解析例を図解して示す概念図である。 後方カメラで撮影された別の入力画像を複数の領域に分割する処理を示す概要図である。 障害物が存在する入力画像について分割領域毎に演算されたマハラノビス距離を用いた障害物判定の手法を示す概念図である。 障害物が存在する場合のマハラノビス空間を用いた解析例を図解して示した概念図である。 砂利道を撮影した場合の入力画像の分割領域とその内部解析値を示す概要図である。 路面種類が未知である入力画像から路面種類を設定する手法を図解した概要図である。 路面上に障害物がある砂利道を撮影した場合の入力画像の分割領域とその内部解析値を示す概要図である。 障害物検出処理の手順例を示すフローチャートである。
以下、本発明の実施形態について図面を参照しながら説明する。
図1は、障害物検出装置を車両10に搭載した場合の実施形態を示す概要図である。車両10は、ここでは普通自動車(乗用車)を例に挙げているが、トラックやバスに障害物検出装置を搭載することもできる。以下、車両10に搭載された障害物検出装置の構成について説明する。
〔カメラ〕
障害物検出装置は、車両10の後部に搭載された後方カメラ12を備えている。この後方カメラ12は撮像素子(CCD、CMOS等)を有しており、例えば広角レンズを用いて車両10の後方を広範囲にわたって撮影することができる。後方カメラ12で撮影される対象範囲には、現在停車(駐車)している車両10の後方の路面Rが含まれる他、路上の空間や後方の遠景、場合によっては上空までをも含めることができる。ただし、後方カメラ12の撮影範囲(画角)をどの程度に設定するかは任意であり、少なくとも後方数メートル先までの路面Rやその上部の空間が撮影範囲に含まれていればよい。また車幅方向(水平方向)については、少なくとも車両10の全幅をカバーできる撮影範囲が確保されているものとする。
〔制御ユニット〕
また障害物検出装置は、上記の後方カメラ12とともに制御ユニット14を備えている。この制御ユニット14は、例えばマイクロコンピュータとしてのハードウェアリソースを有するものであり、本実施形態では車載の電子コントロールユニット(ECU)をそのまま制御ユニット14として利用することができる。制御ユニット14は、上記の後方カメラ12で撮影された画像(デジタルデータ化された画像)を入力画像として処理する。なお、公知のように車載のECUには、プロセッサやメモリデバイス、周辺ICといった各種のコンピュータハードウェアが内蔵されているため、これらリソースを障害物検出装置の制御ユニット14として好適に活用することができる。
〔表示器〕
本実施形態のように障害物検出装置を車両10に適用する場合、車載の液晶ディスプレイ16を障害物検出装置の一部として活用することができる。この液晶ディスプレイ16には、上記の後方カメラ12で撮影された入力画像が表示される他、車載のECUに予め組み込まれている各種のサービス機能(例えばカーナビゲーション機能、AV管理機能、空調管理機能等)に関する操作メニュー等が表示されるものとなっている。
〔シフト位置検出器〕
また障害物検出装置は、例えばシフト位置センサ18をその構成の一部として活用することもできる。シフト位置センサ18は、運転者によるシフトセレクタレバー20の操作状態に応じてそのときのシフト位置(「P」,「R」,「N」,「D」,「2」,「L」等)を表す信号(シフト位置信号)を出力する。本実施形態では主に、車両10の後方に位置する静止した障害物の検出を想定している。このため、運転者によりシフト位置が「R(後退)」に操作されたことをシフト位置信号に基づいて判断した場合、制御ユニット14は後方カメラ12による撮影機能や障害物検出機能をアクティブにすることができる。なおシフト位置センサ18には、車両10の電装部品をそのまま活用することができる。
〔障害物警報機〕
さらに障害物検出装置は、例えば車載のスピーカ22をその構成の一部として活用することができる。本実施形態では、障害物検出装置により車両10の後方に位置する障害物を検出した場合、車室内の後部に設置されているスピーカ22から警報音を出力することができる。なおスピーカ22についても、車両10の電装部品をそのまま活用することができる。
図2は、障害物検出装置の構成を概略的に示した機能ブロック図である。特に図2においては、制御ユニット14の内部構成がより具体的に示されている。
制御ユニット14は画像入力部24及び入力部26を有している。これら入力部24,26には、例えばECUに実装されている周辺IC(例えば入力ドライバ、画像メモリ等)の機能を割り当てることができる。このうち画像入力部24は、後方カメラ12から送信される画像信号(例えばシリアル信号)を入力画像のデータ(例えば8ビットRGBカラー)に変換し、これを画像メモリに展開して記憶する。また入力部26は、シフト位置センサ18からシフト位置信号を入力し、これをシフト位置情報として記憶する。
また制御ユニット14は処理部30を有している。この処理部30には、例えばECUに実装されているプロセッサ(例えばCPU)の機能を割り当てることができる。処理部30は、画像入力部24に記憶されている入力画像のデータを参照し、障害物の検出に必要な演算処理を実行する。また処理部30は、入力部26に記憶されているシフト位置情報を参照し、運転者によるシフトセレクタレバー20の操作状態(現在のシフト位置)を認識する。
制御ユニット14はさらに記憶部32を有している。この記憶部32には、例えばECUに実装されているRWM(RAM)やROM等のメモリデバイスの機能を割り当てることができる。記憶部32には、例えば処理部30による演算処理に用いられる各種のデータがその記憶領域内に記憶されており、処理部30はその記憶領域にアクセスして必要なデータを読み出すことができる。なお、演算処理に用いられる各種のデータについてはさらに後述する。
また制御ユニット14はLCDコントローラ34を有している。このLCDコントローラ34は、例えば処理部30からの表示信号に基づいて上記の液晶ディスプレイ16による表示動作を管理する他、液晶ディスプレイ16の表示領域に対応したVRAM(フレームバッファ)を有する。液晶ディスプレイ16には、LCDコントローラ34から出力される表示制御信号に基づき各種の画像(例えば後方カメラ12で撮影された画像)が表示される。本実施形態においてLCDコントローラ34には、ECUに実装されている電装部品をそのまま利用することができる。
この他に制御ユニット14は、音響出力部36を有している。この音響出力部36は、例えば処理部30からの音響出力信号に基づいて上記のスピーカ22に駆動信号を出力する。この駆動信号に基づき、スピーカ22から例えば上記の警報音(アラーム音)が発せられたり、カーナビゲーション用の音声や効果音、AV再生時の音声や音楽等が発せられたりする。
〔障害物検出手法〕
次に、障害物検出装置による障害物の検出手法について説明する。図3は、後方カメラ12で撮影された画像を入力画像とし、これを複数の領域に分割するまでの処理を示す概要図である。
〔入力画像〕
図3中(A):例えば、車両10の運転者がシフトセレクタレバー20を「R(後退)」に操作すると、制御ユニット14が後方カメラ12の撮影機能を起動することで、後方カメラ12により車両10の後方が撮影される。このとき撮影される画像には、車両10がこれから後進(バック)しようとする方向の路面Rが含まれる他、その周辺環境の様子が含まれている。いずれにしても制御ユニット14は、後方カメラ12で撮影された画像を入力画像として処理する。
なお、ここでは路面Rとして例えば駐車場内の舗装路面を想定している。このため入力画像中には、その大部分にアスファルトの表面が黒っぽい(チャコールグレー)画像として映っている。また入力画像中の右上には、例えば路肩用のコンクリートブロックが白っぽい画像として映っている。
〔分割領域〕
図3中(B):制御ユニット14の処理部30は、入力画像を複数の領域(例えば16個)に分割する処理を行う。このとき分割される範囲は、入力画像の中で車両10の数メートル後方までの路面Rが映っている部分に設定されている。このため図3中(B)には、画像処理上で分割される範囲が台形状のフレームFで示されるとともに、その内側に16個の分割領域が区画して示されている。この例では、後方カメラ12と路面Rとの位置関係やその画角との関係から、入力画像中で車両10が後進する際の進路に該当する範囲に合わせてフレームFが台形状に設定されているが、フレームFは例えば入力画像全体の外形に沿った矩形状であってもよい。
〔事前処理〕
一方で障害物検出装置は、予め上記の入力画像とは別に用意された複数の基準画像に基づく事前処理を行っている。具体的には、(1)複数の基準画像の取り込み、(2)各基準画像の分割、そして(3)基準ファクターの抽出である。以下、事前処理について具体的に説明する。
(1)複数の基準画像の取り込み
特に図示していないが、基準画像には例えば同種の舗装路(アスファルトの表面が多く露出している路面)を複数の場所や様々な環境下(明るさや天候、時間帯等が異なる条件下)で、かつ、障害物が存在しない状態で撮影したものを用いることができる。ここでは例として、m枚の画像(例えば10枚)を後方カメラ12で撮影したものを基準画像S1〜Smとして制御ユニット14に取り込むものとする。なお、基準画像の取り込みを含む以下の事前処理は、制御ユニット14とは別のコンピュータ機器を用いて行ってもよい。
(2)各基準画像の分割
図4は、m枚の基準画像S1〜Smについて、それぞれをフレームF内でn個の領域に分割する事前処理を示した概念図である。この事前処理では、取り込んだ基準画像Si(i=1〜m)のそれぞれを、さらにn個(この例では16個)の領域Si1〜Sinに分割する。分割領域の序列は、例えばフレームF内の左上隅をスタート地点として行方向に進み、各行の右端位置で折り返して下段に進むものとする。したがって、例えば1枚目の基準画像S1であれば、フレームF内の左上隅に分割領域S11を有し、右下隅に分割領域S116を有する。つまり任意の基準画像Siであれば、フレームF内に任意の分割領域Sijを有することになり、m枚目の基準画像Smであれば、フレームF内の右下隅に分割領域Smnを有することになる。
各分割領域Sijには、T個の画素(例えば平均して100個程度)が含まれるものとする。なお本実施形態では、台形状のフレームFに則して分割領域Si1〜Sinを区画しているため、上段から下段に向かうほど分割領域内の画素数が多くなるが、例えば上記のようにフレームFを矩形状として、全ての分割領域Si1〜Si16の画素数を共通に設定することもできる。
(3)基準ファクターの抽出
各基準画像Siについて、それぞれ分割領域Sij内に含まれるT個の画素から複数種類の基準ファクターxij,yij(2種類の場合)を計算により抽出する。このうち一方の基準ファクターxijは例えば分割領域Sij内の画素の平均輝度を示すファクターであり、もう一方の基準ファクターyijは例えば分割領域Sij内の画素の平均彩度を示すファクターである。ここで抽出される複数種類の基準ファクターxij,yijの組の数は、全m枚の基準画像についてm×n個(この例では全部で160組)となる。
〔平均輝度:xij〕
先ず、分割領域Sij内の画素の平均輝度xijは、例えば以下の式(1)から計算することができる。
xij=Σ(0.299R+0.587G+0.114B)/T ・・・(1)
上式(1)において、
R:各画素のR成分の値
G:各画素のG成分の値
B:各画素のB成分の値
T:分割領域内の全画素数
である。
〔平均彩度:yij〕
次に分割領域Sij内の画素の平均彩度yijは、例えば以下の式(2)から計算することができる。
yij=Σ√[{(R−Y)/1.14}+{(B−Y)/2.03}]/T ・・・(2)
上式(2)において、
Y:分割領域Sijの平均輝度
R:各画素のR成分の値
B:各画素のB成分の値
T:分割領域内の全画素数
である。
以上の計算結果をm×n個の基準ファクターの組(x11,y11),(x12,y12),・・・,(xmn,ymn)とし、さらにこれら基準ファクターから、全ての平均輝度の平均x_ave、平均彩度の平均y_ave、平均輝度の分散x_sigma、平均彩度の分散y_sigma及び平均輝度と平均彩度の共分散xy_sigmaをそれぞれ計算する。
〔平均輝度の平均:x_ave〕
先ず平均輝度の平均x_aveは、例えば以下の式(3)から計算することができる。
x_ave=Σx/n ・・・(3)
上式(3)において、
x:平均輝度xij(i=1〜m,j=1〜n)
m:基準画像枚数(=10)
n:分割領域数(=16)
である。
〔平均彩度の平均:y_ave〕
また平均彩度の平均y_aveは、例えば以下の式(4)から計算することができる。
y_ave=Σy/n ・・・(4)
上式(4)において、
y:平均彩度yij(i=1〜m,j=1〜n)
m:基準画像枚数(=10)
n:分割領域数(=16)
である。
〔平均輝度の分散:x_sigma〕
次に平均輝度の分散x_sigmaは、例えば以下の式(5)から計算することができる。
x_sigma=Σ(x−x_ave)/n ・・・(5)
上式(5)において、
x:平均輝度xij(i=1〜m,j=1〜n)
n:分割領域数(=16)
である。
〔平均彩度の分散:y_sigma〕
また平均彩度の分散y_sigmaは、例えば以下の式(6)から計算することができる。
y_sigma=Σ(y−y_ave)/n ・・・(6)
上式(6)において、
y:平均輝度yij(i=1〜m,j=1〜n)
n:分割領域数(=16)
である。
そして平均輝度と平均彩度の共分散xy_sigmaは、例えば以下の式(7)から計算することができる。
xy_sigma=Σ(x−x_ave)・(y−y_ave)/n ・・・(7)
事前処理において以上の各計算結果x_ave,y_ave,x_sigma,y_sigma,xy_sigma,は、いずれも制御ユニット14の記憶部32に予め記憶されているものとする。
〔静止障害物の検出手法〕
次に、実際の入力画像(例えば図3)を用いて静止した障害物を検出する手法について説明する。制御ユニット14の処理部30は、例えば以下の処理を通じて障害物の検出を行うことができる。
〔1〕入力画像の取り込み
処理部30は、上記のように後方カメラ12で撮影された入力画像を取り込む。ここでは入力画像として、図3中(A)に示されている舗装路面の画像を取り込むものとする。
〔2〕入力画像の分割
また処理部30は、入力画像を複数の領域に分割する処理を行う。ここでは図3中(B)に示されるフレームFに則して入力画像の一部をn(=16)個の領域に分割するものとする。
〔3〕入力ファクターの抽出
次に処理部30は、入力画像についての分割領域aj(j=1〜n)内に含まれるT個の画素(画素数は分割領域ajにより異なる)から、複数種類の入力ファクターxj,yjを計算により抽出する。このうち一方の入力ファクターxjは、入力画像について分割領域aj内の画素の平均輝度を示すファクターであり、もう一方の基準ファクターyjは例えば分割領域aj内の画素の平均彩度を示すファクターである。なお入力ファクターxjの計算には上式(1)の右辺、入力ファクターyjの計算には上式(2)の右辺をそれぞれ適用することができる。ここで抽出される複数種類の入力ファクターxj,yjの組の数は、今回の入力画像についてn個(この例では全部で16組)となる。
〔4〕マハラノビス距離の演算
次に処理部30は、抽出した入力ファクターxj,yjの組に基づき分割領域aj毎のマハラノビス距離Djを演算する。分割領域aj毎のマハラノビス距離Djは、予め記憶されている基準ファクターxij,yijの組により形成されるマハラノビス空間において、各分割領域ajがどのような位置付けとなるかを示す尺度ないし指標となるものである。マハラノビス距離Djは、例えば以下の計算式(8)により演算することができる。
〔5〕分割領域毎の障害物判定
図5は、分割領域aj毎に演算されたマハラノビス距離Djを用いた障害物判定の手法を示す概念図である。
〔内部解析画像〕
図5中(A):ここには、分割領域aj(a1〜a16)毎に演算されたマハラノビス距離Djの内部解析画像の例を示している。各分割領域aj内に示されている縦長のバー(棒図形)の長さは、分割領域aj毎のマハラノビス距離Djに相当する。このように処理部30による障害物判定の過程では、例えばその内部メモリ空間上で各分割領域ajのマハラノビス距離Djを仮想的にプロットし、1つの入力画像を分割領域aj毎に解析することができる。
〔閾値との比較〕
図5中(B):ここには、分割領域aj毎に演算したマハラノビス距離Djの結果を一覧にして示している。また縦軸上には、障害物の判定に用いられる閾値Bを合わせて示している。処理部30による障害物の判定は、例えば各分割領域ajのマハラノビス距離Djが閾値Bを超えるか否かによって行うことができる。この例では、いずれの分割領域ajについてもマハラノビス距離Djが閾値Bを超えていないため、今回の入力画像からは障害物が検出されなかった(障害物がない)と判定することができる。なお閾値Bは、障害物が存在しない状態で撮影された多くのサンプル画像に基づき統計的に設定することができる。
〔マハラノビス空間解析〕
図6は、マハラノビス空間を用いた解析例を図解して示す概念図である。上記のように、予め基準ファクターxij,yijとして平均輝度及び平均彩度を記憶部32に記憶しておくことにより、処理部30による内部解析上で仮想的にマハラノビス空間(この例では二次元空間)を形成することができる。
このようなマハラノビス空間において、今回の入力画像について各分割領域aj毎に演算したマハラノビス距離Djをドット(図6中の「●」)で表した場合を想定する。対象範囲内に障害物が存在しない状態で撮影された入力画像(図3)の場合、マハラノビス空間を用いた解析結果は、全てのドットが標準的なグループ(図6中の符号SG)の広がりの中に分布した状態となる。これはつまり、いずれの分割領域ajについてもマハラノビス距離Djが標準的なグループから大きくかけ離れていないことを意味する。したがってこの場合、いずれの分割領域aj内にも障害物が存在していない(画像に映り込んでいない)と判定することができる。
なお公知のように、マハラノビス空間においては、標準的なグループ(SG)の広がりを表す複重の楕円の1つ1つは等距離線に相当する。このため、例えば図6中に示される2つのドットaj1,aj2は、見かけ上(ユークリッド距離)で互いに長短差を有しているものの、これらのマハラノビス距離は互いに等しい。
〔障害物ありの場合〕
図7は、後方カメラ12で撮影された別の入力画像と、これを複数の領域に分割するまでの処理を示す概要図である。
〔入力画像〕
図7中(A):ここでも同様に、車両10の運転者がシフトセレクタレバー20を「R(後退)」に操作すると、制御ユニット14が後方カメラ12の撮影機能を起動することで、後方カメラ12により車両10の後方が撮影される。このとき車両10の後方に各種の障害物BX,CNが存在していた場合、入力画像には、車両10がこれから後進(バック)しようとする方向の路面Rとともに障害物BX,CNが含まれる。
なお、ここでは障害物BXとして例えば段ボール箱を想定し、別の障害物CNとして例えばロードコーン(パイロン)を想定している。このため入力画像中には、これら障害物BX,CNが明るく色彩の強い画像として映っている。また障害物は、段ボール箱やロードコーン以外の静止物体であってもよいし、人物であってもよい。
〔分割領域〕
図7中(B):いずれにしても、処理部30は同様に入力画像を複数の分割領域aj(j=1〜n)に分割する処理を行う。この例では、ある1つの分割領域内に1つの障害物CNの輪郭全体が収まっている様子が示されているが、通常多くは障害物BXのように、その輪郭が複数の分割領域にまたがっていたり、フレームFから一部がはみ出ていたりする。
図8は、障害物が存在する入力画像について分割領域aj毎に演算されたマハラノビス距離Djを用いた障害物判定の手法を示す概念図である。
〔内部解析画像〕
図8中(A):上記のように、障害物BX,CNが含まれている分割領域(例えば分割領域a3,a4,a7,a10等)では、いずれもマハラノビス距離が他の分割領域に比較して突出していることがわかる。なお図8中(A)では、縦長のバーが画像枠からはみ出た部分を破線で示している。
〔閾値との比較〕
図8中(B):この場合、分割領域a3,a4,a10のマハラノビス距離D3,D4,D10がいずれも閾値Bを超えるため、処理部30による内部解析では、これら分割領域a3,a4,a10内に障害物が存在する(映り込んでいる)と判定することができる。それ以外の分割領域ではマハラノビス距離Djが閾値Bを超えていないものの、いずれかの分割領域aj内(つまりフレームF内)に障害物が存在すると判定した場合、処理部30は今回の入力画像から障害物が検出されたと最終的に判定する。
〔マハラノビス空間解析〕
図9は、障害物が存在する場合のマハラノビス空間を用いた解析例を図解して示した概念図である。マハラノビス空間において、今回のように対象範囲内に障害物(BX,CN等)が存在する状態で撮影された入力画像(図7)の場合、マハラノビス空間を用いた解析結果は、実際に障害物が含まれている分割領域a3,a4,a10についてのドットが標準的なグループ(SG)の広がりよりも外側に大きくはみ出た状態となる。これはつまり、分割領域a3,a4,a10についてマハラノビス距離D3,D4,D10(それぞれ点線の矢印で示す)が標準的なグループから大きくかけ離れていることを意味する。したがってこの場合、これら分割領域a3,a4,a10内に障害物が存在する(画像に映り込んでいる)と判定することができる。
なお図9中、分割領域a10のドットが横軸(彩度)方向に大きく中心から離れているのは、入力画像中で障害物CNの彩度が大きく影響したためであると考えられる。それ以外の分割領域については、各ドットが標準的なグループ(SG)の広がりの中に分布した状態となる。
以上は、予め路面Rの種類が舗装路であることを想定した場合に適用できる障害物検出手法の第1例であるが、車両10の特性上、常に路面Rの種類が1つであるとは限らず、後方カメラ12で撮影される路面Rの種類は、車両10が移動した先の場所によって異なる場合がある。すなわち路面Rの種類は、車両10の移動に伴って舗装路だけでなく、例えば砂利道、農道、山道、林道等のように変化することがある。路面Rの種類が異なれば、それに伴って障害物検出に用いるべき基準ファクターも異なってくる。
そこで本実施形態では、予め複数の路面種類について基準ファクターを記憶しておくことにより、その都度、未知の入力画像を用いて演算したマハラノビス距離に基づいて路面Rの種類を設定(推定)し、その上で障害物を検出する手法として次の第2例を採用している。以下、第2例について説明する。
〔障害物検出手法の第2例〕
図10は、後方カメラ12で砂利道を撮影した場合の入力画像の分割領域とその内部解析値を示す概要図である。すなわち、ここでは路面Rの種類に例えば「舗装路」及び「砂利道」の2種類が含まれることを想定し、このうち「砂利道」が入力画像として撮影された場合を例に挙げている。
〔入力画像の分割〕
図10中(A):例えば、車両10が砂利道に停車(駐車)している状態で運転者がシフトセレクタレバー20を「R(後退)」に操作すると、後方カメラ12により車両10の後方が撮影される。このとき入力画像中には、その大部分に砂利道の表面(路面R)が灰色っぽい画像として映っており、その中に砂利や石塊等が点在して映っている。また入力画像中の右上には、例えばブロック塀が白っぽい画像として映っている。なおフレームFを用いた入力画像の分割についてはこれまでの処理と同様である。
〔内部解析画像〕
図10中(B):ここでも同様に、分割領域aj(a1〜a16)毎に演算されたマハラノビス距離Djの内部解析画像の例を示している。特に障害物が存在していなければ、路面Rの種類が砂利道に該当する場合についても、マハラノビス距離Djは上記の閾値Bを超えることはない。
第2例のように路面Rの種類が複数(例えば「舗装路」と「砂利道」の2種類)にまたがることを想定している場合、事前処理において予め路面種類毎に異なる基準ファクターxkij,ykij(k=1,2)の組が制御ユニット14の記憶部32に記憶されている。すなわち、記憶部32には舗装路についての基準ファクターx1ij,y1ijの組が記憶されている他、砂利道についての基準ファクターx2ij,y2ijの組が合わせて記憶されている。
このように、複数の路面種類毎に基準ファクターを記憶しておくため、障害物検出装置はその事前処理において、複数の路面種類毎に上述した(1)複数の基準画像の取り込み、(2)各基準画像の分割、及び(3)基準ファクターの抽出を行っている。
その上で処理部30は、今回の入力画像について路面種類のそれぞれについて分割領域akj毎のマハラノビス距離Dkjを演算し、その結果に基づきマハラノビス空間上で最もグループの中心に近い路面種類を設定することができる。
〔路面種類の設定例〕
図11は、路面Rの種類が未知である入力画像から路面種類を設定する手法を図解した概要図である。
上記のように記憶部32に複数の路面種類毎に基準ファクターxkij,ykijが記憶されている場合、これらに基づいて形成されるマハラノビス空間には、路面種類毎に標準的なグループ(SG1,SG2)の広がりが存在する。この例では舗装路についての標準的なグループ(SG1)と砂利道についての標準的なグループ(SG2)のみが示されているが、3つ以上の路面種類について基準ファクターxkij,ykijが予め記憶されていれば、その路面種類の数に応じた数(3つ以上)の標準的なグループの広がりがマハラノビス空間に存在することになる。
〔路面種類毎のマハラノビス距離〕
いずれにしても、路面Rの種類が未知である入力画像を取り込むと、ひとまず処理部30は、その分割領域aj毎に入力ファクターxj,yjを抽出した後、これら入力ファクターxj,yjに基づいて路面種類毎にマハラノビス距離Dkjを演算する。なお、路面種類毎のマハラノビス距離Dkjは、上式(8)において平均(x_ave,y_ave)や分散(x_sigma,y_sigma)、共分散(xy_sigma)等の諸変数を路面種類別に代入することで演算することができる。
したがって、例えば入力画像中のある分割領域ajについては、路面種類毎に複数通りのマハラノビス距離Dkj(k=1,2)が算出されることになる。これを図11のマハラノビス空間上にドットとしてプロットしてみると、ある分割領域(図11中のドットakj)のマハラノビス距離Dkjは、舗装路についての標準的なグループ(SG1)の広がりからは大きく離れているが、砂利道についての標準的なグループ(SG2)の広がりの中に存在していることが分かる。これはつまり、この分割領域(ドットakj)は、舗装路よりも砂利道についてのマハラノビス距離の方が短いことを意味する。これにより処理部30は、この分割領域(ドットakj)は砂利道についての標準的なグループ(SG2)に属するものと判断し、今回の入力画像に映っている路面Rの種類として「砂利道」の路面種類を設定する。
以上の処理を通じて路面種類を設定すると、処理部30はこれまでと同様に内部解析画像を用いて障害物についての判定を行うことができる。
〔障害物ありの場合〕
図12は、路面R上に障害物がある砂利道を後方カメラ12で撮影した場合の入力画像の分割領域とその内部解析値を示す概要図である。ここまでの処理において、処理部30は今回の入力画像に基づき路面Rの種類を「砂利道」に設定しているものとする。
〔入力画像の分割〕
図12中(A):車両10の後方に障害物BXが存在していた場合、入力画像には、車両10がこれから後進(バック)しようとする方向の路面Rとともに障害物BXが含まれる。このため入力画像中には、障害物BXが明るく色彩の強い画像として映っている。なお、フレームFを用いた入力画像の分割については、これまでの処理と同様に行われる。
〔内部解析画像〕
図12中(B):処理部30は、入力画像から抽出した入力ファクターxj,yjに基づき、設定した「砂利道」についての基準ファクターxij,yijを記憶部32から読み出してマハラノビス距離Djを演算する。その結果、障害物BXが含まれている分割領域a1,a2,a5,a6では、いずれもマハラノビス距離D1,D2,D5,D6が他の分割領域に比較して突出した状態となる。そして処理部30は、これらマハラノビス距離D1,D2,D5,D6が閾値Bを超える場合、分割領域a1,a2,a5,D6内に障害物が存在する(映り込んでいる)と判定することができる。これにより処理部30は、今回の入力画像から障害物が検出されたと最終的に判定することができる。
以上の第2例から明らかなように、本実施形態では路面Rの種類が未知の場合であっても、予め事前処理により複数の路面種類毎に基準ファクターxij,yijを記憶しておくことにより、入力画像に基づいて先ず路面種類を設定し、その上で分割領域毎に演算したマハラノビス距離に基づき障害物の有無を正確に判定することができる。
なお第2例では路面種類として主に「舗装路」と「砂利道」を想定しているが、本実施形態ではより多くの路面種類を想定した上で入力画像から路面種類を設定し、最終的に障害物の有無を判定することができる。このような障害物検出手法は、例えば以下の処理手順により一般化することができる。
〔障害物検出処理〕
図13は、多数の路面種類に対応した障害物検出処理の手順例を示すフローチャートである。例えば車両10のメインスイッチONに伴い、制御ユニット14の処理部30は定期的に(例えば割込処理として)この障害物検出処理を実行する。以下、障害物検出処理の内容を手順例に沿って説明する。
ステップS10:処理実行に伴い、先ず処理部30はシフト位置が「R(後退)」に切り替え操作されたか否かを確認する。この確認は、上記のシフト位置センサ18からの信号に基づいて行うことができる。特にシフト位置が「R(後退)」に操作されていなければ(No)、処理部30はここで障害物検出処理から従前の処理(例えばメインプログラム)に復帰する。
これに対し、シフト位置が「R(後退)」に操作されたことを確認した場合(Yes)、処理部30は次のステップS12に進む。なお、シフト位置が「P(駐車)」→「R(後退)」、あるいは「N(中立)」→「R(後退)」へ切り替え操作可能になるのは、通常、車速が0km/hで、かつ、ブレーキペダルが踏み込まれている必要がある(シフトロック解除時)ため、ステップS10の条件を満たす場合(Yes)、現時点で車両10は停車(駐車)中であると考えられる。
ステップS12:次に処理部30は、後方カメラ12を起動する。これにより、後方カメラ12による撮影機能がアクティブとなり、車両10の後方(対象範囲)の撮影が行われる。
ステップS14:後方カメラ12を起動すると、処理部30は今回の入力画像を取り込む。入力画像を取り込む処理の内容は、例えば図3に示される入力画像の例とともに説明したとおりである。
〔画像分割処理〕
ステップS16:次に処理部30は、画像分割処理を実行する。この処理では、処理部30は入力画像を複数の領域に分割する。具体的な分割処理の手法は、例えば図4に示されるフレームFに則した分割領域の例とともに説明したとおりである。
〔領域別抽出処理〕
ステップS18:画像分割処理から復帰すると、次に処理部30は領域別抽出処理を実行する。この処理では、処理部30は複数の分割領域毎に上記の入力ファクターxj,yjを計算により抽出する。ここでも、入力ファクターxjの計算には上式(1)の右辺、入力ファクターyjの計算には上式(2)の右辺をそれぞれ適用することができる。
〔路面種類設定処理〕
ステップS20:領域別演算処理から復帰すると、処理部30は路面種類設定処理を実行する。この処理では、処理部30は記憶部32に記憶されている路面種類毎の基準ファクターxij,yijに基づいて分割領域毎のマハラノビス距離を演算し、その中で最も距離が短くなる路面種類を設定する。複数の路面種類からいずれか1つの種類を設定する手法は、例えば図11に示される例とともに説明したとおりである。ただし、ここでは一般化に適した事前処理を例に挙げて路面種類の設定手法について説明する。
(1)路面種類別の複数の基準画像の取り込み
特に図示していないが、事前処理として上記の「舗装路」や「砂利道」の他、「農道」や「山道」、「林道」等のR種類(例えば10種類)の路面を複数の場所や様々な環境下で、かつ、障害物が存在しない状態で撮影した複数枚の基準画像を取り込む。なお基準画像は、例えば「舗装路」については10枚、「砂利道」については20枚といったように、各路面種類別にmk枚(k=1〜R)が用意されているものとする。
(2)各基準画像の分割
また事前処理として、取り込んだ路面種類別の基準画像Ski(i=1〜m)のそれぞれを、さらにn個(例えば16個)の領域Ski1〜Skinに分割する。なお分割の手法は、例えば図4の例を用いて既に説明したとおりである。また各分割領域Skijには、T個の画素(例えば平均して100個程度)が含まれるものとする。
(3)路面種類別の基準ファクターの抽出
路面種類別の各基準画像Skiについて、それぞれ分割領域Skij内に含まれるT個の画素から複数種類の基準ファクターxkij,ykij(2種類の場合)を計算により抽出する。このうち一方の基準ファクターxkijは例えば分割領域Skij内の画素の平均輝度を示すファクターであり、もう一方の基準ファクターykijは例えば分割領域Skij内の画素の平均彩度を示すファクターである。ここで抽出される複数種類の基準ファクターxkij,yikjの組の数は、路面種類毎にそれぞれm枚の基準画像についてm×n個(例えば「舗装路」が160組、「砂利道」が320組等)となる。なお、平均輝度xkij、平均彩度ykijはそれぞれ上式(1),(2)を用いて計算することができる。
各路面種類における以上の計算結果をm×n個の基準ファクターの組(xk11,yk11),(xk12,yk12),・・・,(xkmn,ykmn)とし(k=1〜R)、さらにこれら基準ファクターから、路面種類毎に全ての平均輝度の平均xk_ave、平均彩度の平均yk_ave、平均輝度の分散xk_sigma、平均彩度の分散yk_sigma及び平均輝度と平均彩度の共分散xyk_sigmaをそれぞれ計算する。これらの計算は、それぞれ上式(3)〜(7)を用いて行うことができる。
そして、事前処理において以上の各計算結果xk_ave,yk_ave,xk_sigma,yk_sigma,xyk_sigma,は、路面種類別に制御ユニット14の記憶部32に予め記憶されているものとする。
(4)マハラノビス距離の演算
その上で処理部30は、今回の入力画像について計算した入力ファクターxj,yijに基づき、分割領域aj毎にマハラノビス距離Dkj(k=1〜R)を演算する。計算式は上式(8)になぞらえて、例えば以下の一般式(9)を用いるものとする。
処理部30は、以上のマハラノビス距離Dkjの演算を路面種類数であるk回(k=1〜R)繰り返し、路面種類別のマハラノビス距離Dkj(j=1〜n)を演算する。
(5)路面種類の設定(推定)
そして処理部30は、演算結果Dkj(k=1〜R)のうち、最も小さい値となる路面種類kを今回の入力画像に映っている路面の種類として設定する。これにより、今回の入力画像について路面種類が1つに特定される結果、分割領域aj毎のマハラノビス距離Djが改めて確定した状態となる。
ステップS22:これにより処理部30は、分割領域aj毎のマハラノビス距離Djを閾値Bと比較することにより、分割領域aj毎に障害物があるか否か(障害物が映っているか否か)を判定することができる。その結果、特に障害物が存在しないと判定した場合(No)、処理部30はここで障害物検出処理から従前の処理に復帰する。これに対し、障害物があると判定した場合(Yes)、処理部30は次のステップS24を実行する。
〔警報出力処理〕
ステップS24:処理部30は、ここで警報出力処理を実行する。この処理では、処理部30は上記の音響出力部36に対して警報音の出力コマンドを発行する。これを受けて音響出力部36は、スピーカ22を駆動して実際に警報音を出力させる。このとき警報音は、車室内の後方位置から運転席に向かって発せられるため、直感的にも運転者が車両10の後方に障害物が存在することを認識しやすくなる。
また、このとき処理部30は、LCDコントローラ34に対して警報表示の出力コマンドを発行してもよい。これにより、液晶ディスプレイ16に例えば「障害物に注意」といった警報情報が表示されるため、それによって運転者に注意を喚起することができる。
〔障害物検出手法の第3例〕
ここまでに説明した障害物検出手法の第1例及び第2例では、ファクターとして平均輝度と平均彩度の2種類を用いているが、以下のようなファクターを用いて障害物の検出を行ってもよい。
例えば複数種類のファクター(基準ファクター及び入力ファクター)として、各分割領域内のR成分の平均r_ave、G成分の平均g_ave、B成分の平均b_ave、RG共分散rg_sigma、GB共分散gb_sigma、BR共分散br_sigmaの6種類を用いるものとする。これらファクターは、例えば以下の各計算式(10)〜(15)を用いてそれぞれ計算することができる。
r_ave=ΣR/n ・・・(10)
g_ave=ΣG/n ・・・(11)
b_ave=ΣB/n ・・・(12)
rg_sigma=Σ(R−r_ave)・(G−g_ave)/n ・・・(13)
gb_sigma=Σ(G−g_ave)・(B−b_ave)/n ・・・(14)
rb_sigma=Σ(R−r_ave)・(B−b_ave)/n ・・・(15)
上式(10)〜(15)において、
R:各画素のR成分の値
G:各画素のG成分の値
B:各画素のB成分の値
である。
また、上記のファクターを用いる場合、マハラノビス距離の計算式は次元数(この場合は6次元)に応じたものとなる。なお、ここではファクターとして上記の6種類を例に挙げているが、より多種類のファクターを用いてもよい。
以上のように本実施形態の障害物検出装置によれば、単一の後方カメラ12で撮影された静止画像に基づき、車両10の後方に障害物が存在するか否かを確実に判定することができる。また、複数種類の入力ファクターに基づいて障害物の判定を行っているため、それだけ障害物として認識できる対象のバリエーションを多くすることができる。
また本実施形態では、事前処理において路面を様々な条件下で撮影した基準画像から基準ファクターを抽出しておき、その上で、今回の入力画像についてマハラノビス距離(マハラノビス空間における距離)に基づき障害物の有無を判断している。したがって、路面状態の変化(日照や照明等の明るさの変化)に対して判定結果が過敏になりにくく、その分、誤判定を防止してより高精度な障害物の検出が可能となる。
本発明は上述した実施形態に制約されることなく、種々に変形して実施することができる。一実施形態では、後方カメラ12を用いて車両10の後方を対象範囲として障害物の検出を行っているが、車両10の前方や側方(周囲)にそれぞれカメラを設置し、多方向からの入力画像に基づいて障害物の検出を行ってもよい。
また、路面状態については昼間と夜間、あるいは晴天時と曇天時、雨天時等の条件を細かく分けて基準画像を用意してもよい。この場合、例えば明るさセンサや路面センサ等の補助装置を用いて入力画像の路面状態(天候や時間帯、ドライ路面、ウェット路面等の状態)を予め設定し、その上で基準画像を設定して障害物の検出を行うことができる。
また障害物検出装置は、車両10以外の移動体(例えば鉄道車両、牽引物、車椅子、カート等)に適用することもできる。
さらに、障害物の有無を判定する対象範囲は路面(道路面)に限らず、更地や運動場、河川敷、海岸、芝地、雑草地等であってもよい。これらの場合についても、予め想定される対象範囲について複数の基準画像を用意し、種類毎に基準ファクターを記憶しておくことで入力画像を用いた障害物の検出が可能である。
10 車両
12 後方カメラ
14 制御ユニット
16 液晶ディスプレイ
18 シフト位置センサ
20 シフトセレクタレバー
22 スピーカ
30 処理部
32 記憶部

Claims (3)

  1. 所定の対象範囲を撮影するカメラと、
    前記カメラにより撮影して得られた入力画像を用いて前記対象範囲内の障害物の有無を判定する制御手段とを備え、
    前記制御手段は、
    前記入力画像を分割した複数の分割領域毎に複数種類の入力ファクターを抽出するとともに、
    前記入力画像とは別に用意された複数の基準画像をそれぞれ複数の領域に分割した分割領域毎に抽出して得た複数種類の基準ファクターを予め記憶しておき、これら複数種類の基準ファクターにより形成される基準空間における前記入力画像の分割領域毎の距離を前記複数種類の入力ファクターに基づき演算し、
    前記演算した距離に基づき前記入力画像の分割領域毎に前記対象範囲内の障害物の有無を判定することを特徴とする障害物検出装置。
  2. 請求項1に記載の障害物検出装置において、
    前記制御手段は、
    前記複数種類の基準ファクターにより形成されるマハラノビス空間を前記基準空間として、前記マハラノビス空間における前記入力画像の分割領域毎のマハラノビス距離を前記基準空間における距離として演算し、
    前記マハラノビス距離に基づき前記入力画像の分割領域毎に前記対象範囲内の障害物の有無を判定することを特徴とする障害物検出装置。
  3. 請求項1又は2に記載の障害物検出装置において、
    前記制御手段は、
    前記対象範囲に含まれる複数の路面種類のそれぞれについて、前記入力画像とは別に用意された複数の基準画像をそれぞれ複数の領域に分割し、これら分割領域毎に抽出して得られた複数種類の基準ファクターを予め前記複数の路面種類毎に記憶しておき、前記複数の路面種類毎に前記基準空間における前記入力画像の分割領域毎の距離を前記複数種類の入力ファクターに基づき演算し、この演算した距離に基づいて前記対象範囲に含まれる路面種類を設定し、
    前記設定した路面種類について演算した距離に基づき前記分割領域毎に前記対象範囲内の障害物の有無を判定することを特徴とする障害物検出装置。
JP2009224711A 2009-09-29 2009-09-29 障害物検出装置 Withdrawn JP2011076214A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009224711A JP2011076214A (ja) 2009-09-29 2009-09-29 障害物検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009224711A JP2011076214A (ja) 2009-09-29 2009-09-29 障害物検出装置

Publications (1)

Publication Number Publication Date
JP2011076214A true JP2011076214A (ja) 2011-04-14

Family

ID=44020165

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009224711A Withdrawn JP2011076214A (ja) 2009-09-29 2009-09-29 障害物検出装置

Country Status (1)

Country Link
JP (1) JP2011076214A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012168098A (ja) * 2011-02-16 2012-09-06 Aisin Aw Co Ltd 撮影位置特定システム、撮影位置特定プログラム、及び撮影位置特定方法
KR101316501B1 (ko) * 2011-10-14 2013-10-10 현대자동차주식회사 메쉬형 공간 해석기법을 이용한 주차 공간 탐지방법 및 그 시스템
CN104331910A (zh) * 2014-11-24 2015-02-04 沈阳建筑大学 一种基于机器视觉的轨道障碍物检测系统
JP2016223915A (ja) * 2015-05-29 2016-12-28 Kyb株式会社 監視装置
JP2017005468A (ja) * 2015-06-09 2017-01-05 富士通テン株式会社 画像処理装置および画像処理方法
JP2018017101A (ja) * 2016-07-29 2018-02-01 エヌ・ティ・ティ・コムウェア株式会社 情報処理装置、情報処理方法、及びプログラム
JP2019125969A (ja) * 2018-01-18 2019-07-25 株式会社東芝 画像伝送システム、監視装置および画像伝送方法
JP2020501281A (ja) * 2016-12-19 2020-01-16 深▲せん▼前海達闥云端智能科技有限公司Cloudminds (Shenzhen) Robotics Systems Co.,Ltd. 障害物検出方法及び装置
CN113734048A (zh) * 2020-05-29 2021-12-03 广州汽车集团股份有限公司 一种倒车预警方法和装置

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06288936A (ja) * 1993-04-06 1994-10-18 Fujikura Ltd 異物検査方法
JP2000149026A (ja) * 1998-11-16 2000-05-30 Dainippon Printing Co Ltd 画像トリミング装置
JP2000306191A (ja) * 1999-04-16 2000-11-02 Matsushita Electric Ind Co Ltd 領域分割および対象物抽出装置
JP2002140789A (ja) * 2000-10-31 2002-05-17 Natl Inst For Land & Infrastructure Management Mlit 路面状況判定装置
JP2003344163A (ja) * 2002-05-23 2003-12-03 Ohbayashi Corp 石材の分類方法およびこの石材の分類方法を用いた構造物の製造方法
JP2004034946A (ja) * 2002-07-08 2004-02-05 Toyota Motor Corp 画像処理装置、駐車支援装置、及び画像処理方法
JP2004251886A (ja) * 2003-01-28 2004-09-09 Nissan Motor Co Ltd 周囲物体検出装置
JP2004274431A (ja) * 2003-03-10 2004-09-30 Fujitsu Ltd 路面状況判定方法および装置
JP2005353101A (ja) * 2005-08-25 2005-12-22 Ricoh Co Ltd 画像特徴抽出方法およびその方法の各工程をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006260310A (ja) * 2005-03-17 2006-09-28 Kyushu Institute Of Technology 物品判別方法および物品判別装置ならびにプログラム
JP2006268820A (ja) * 2004-11-02 2006-10-05 Matsushita Electric Ind Co Ltd 画像識別方法、画像処理方法、画像識別装置、画像識別プログラムおよび集積回路
JP2007164737A (ja) * 2005-12-16 2007-06-28 Mitsubishi Heavy Ind Ltd 色識別方法
JP2008544334A (ja) * 2005-06-27 2008-12-04 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド シーンをモデル化する方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06288936A (ja) * 1993-04-06 1994-10-18 Fujikura Ltd 異物検査方法
JP2000149026A (ja) * 1998-11-16 2000-05-30 Dainippon Printing Co Ltd 画像トリミング装置
JP2000306191A (ja) * 1999-04-16 2000-11-02 Matsushita Electric Ind Co Ltd 領域分割および対象物抽出装置
JP2002140789A (ja) * 2000-10-31 2002-05-17 Natl Inst For Land & Infrastructure Management Mlit 路面状況判定装置
JP2003344163A (ja) * 2002-05-23 2003-12-03 Ohbayashi Corp 石材の分類方法およびこの石材の分類方法を用いた構造物の製造方法
JP2004034946A (ja) * 2002-07-08 2004-02-05 Toyota Motor Corp 画像処理装置、駐車支援装置、及び画像処理方法
JP2004251886A (ja) * 2003-01-28 2004-09-09 Nissan Motor Co Ltd 周囲物体検出装置
JP2004274431A (ja) * 2003-03-10 2004-09-30 Fujitsu Ltd 路面状況判定方法および装置
JP2006268820A (ja) * 2004-11-02 2006-10-05 Matsushita Electric Ind Co Ltd 画像識別方法、画像処理方法、画像識別装置、画像識別プログラムおよび集積回路
JP2006260310A (ja) * 2005-03-17 2006-09-28 Kyushu Institute Of Technology 物品判別方法および物品判別装置ならびにプログラム
JP2008544334A (ja) * 2005-06-27 2008-12-04 ミツビシ・エレクトリック・リサーチ・ラボラトリーズ・インコーポレイテッド シーンをモデル化する方法
JP2005353101A (ja) * 2005-08-25 2005-12-22 Ricoh Co Ltd 画像特徴抽出方法およびその方法の各工程をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2007164737A (ja) * 2005-12-16 2007-06-28 Mitsubishi Heavy Ind Ltd 色識別方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200000966023; 山田 宗男、外3名: '"画像情報による路面状態の判別"' 情報処理学会論文誌 Vol.38, No.12, 19971215, p.2648-2655, 社団法人情報処理学会 *
JPN6013009612; 山田 宗男、外3名: '"画像情報による路面状態の判別"' 情報処理学会論文誌 Vol.38, No.12, 19971215, p.2648-2655, 社団法人情報処理学会 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012168098A (ja) * 2011-02-16 2012-09-06 Aisin Aw Co Ltd 撮影位置特定システム、撮影位置特定プログラム、及び撮影位置特定方法
KR101316501B1 (ko) * 2011-10-14 2013-10-10 현대자동차주식회사 메쉬형 공간 해석기법을 이용한 주차 공간 탐지방법 및 그 시스템
CN104331910A (zh) * 2014-11-24 2015-02-04 沈阳建筑大学 一种基于机器视觉的轨道障碍物检测系统
JP2016223915A (ja) * 2015-05-29 2016-12-28 Kyb株式会社 監視装置
JP2017005468A (ja) * 2015-06-09 2017-01-05 富士通テン株式会社 画像処理装置および画像処理方法
JP2018017101A (ja) * 2016-07-29 2018-02-01 エヌ・ティ・ティ・コムウェア株式会社 情報処理装置、情報処理方法、及びプログラム
JP2020501281A (ja) * 2016-12-19 2020-01-16 深▲せん▼前海達闥云端智能科技有限公司Cloudminds (Shenzhen) Robotics Systems Co.,Ltd. 障害物検出方法及び装置
US10997438B2 (en) 2016-12-19 2021-05-04 Cloudminds (Shanghai) Robotics Co., Ltd. Obstacle detection method and apparatus
JP2019125969A (ja) * 2018-01-18 2019-07-25 株式会社東芝 画像伝送システム、監視装置および画像伝送方法
CN113734048A (zh) * 2020-05-29 2021-12-03 广州汽车集团股份有限公司 一种倒车预警方法和装置
CN113734048B (zh) * 2020-05-29 2024-05-07 广州汽车集团股份有限公司 一种倒车预警方法和装置

Similar Documents

Publication Publication Date Title
US11606516B2 (en) Image processing device, image processing method, and image processing system
JP2011076214A (ja) 障害物検出装置
US10449899B2 (en) Vehicle vision system with road line sensing algorithm and lane departure warning
US10078789B2 (en) Vehicle parking assist system with vision-based parking space detection
US8766816B2 (en) System for monitoring the area around a vehicle
US8988276B2 (en) Vehicle surroundings monitoring device
JP6176028B2 (ja) 車両制御システム、画像センサ
US20130286205A1 (en) Approaching object detection device and method for detecting approaching objects
US9619716B2 (en) Vehicle vision system with image classification
JP4173902B2 (ja) 車両周辺監視装置
JP5648655B2 (ja) 対象物識別装置
US11532233B2 (en) Vehicle vision system with cross traffic detection
JP6376429B2 (ja) 対象地点到達検知装置、対象地点到達検知用プログラム、移動体機器制御システム及び移動体
JP5171723B2 (ja) 障害物検知装置、および当該装置を搭載した車両
CN104952254A (zh) 车辆识别方法、装置和车辆
WO2005036371A2 (en) Moving object detection using low illumination depth capable computer vision
JP4528283B2 (ja) 車両周辺監視装置
WO2009101660A1 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
JP2007241898A (ja) 停止車両分別検出装置および車両の周辺監視装置
JP5457224B2 (ja) 路面状態検出装置
WO2010007718A1 (ja) 車両周辺監視装置
JP4972116B2 (ja) 車両の周辺監視装置
JP4813304B2 (ja) 車両周辺監視装置
US20200118280A1 (en) Image Processing Device
JP6847709B2 (ja) カメラ装置、検出装置、検出システムおよび移動体

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120405

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120421

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130305

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131112

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20131126