[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4752158B2 - 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置 - Google Patents

環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置 Download PDF

Info

Publication number
JP4752158B2
JP4752158B2 JP2001258170A JP2001258170A JP4752158B2 JP 4752158 B2 JP4752158 B2 JP 4752158B2 JP 2001258170 A JP2001258170 A JP 2001258170A JP 2001258170 A JP2001258170 A JP 2001258170A JP 4752158 B2 JP4752158 B2 JP 4752158B2
Authority
JP
Japan
Prior art keywords
environment
obstacle
red
complexity
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001258170A
Other languages
English (en)
Other versions
JP2003067727A (ja
Inventor
哲郎 倉橋
祥之 梅村
浩之 古西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2001258170A priority Critical patent/JP4752158B2/ja
Publication of JP2003067727A publication Critical patent/JP2003067727A/ja
Application granted granted Critical
Publication of JP4752158B2 publication Critical patent/JP4752158B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置に係り、特に、車両周囲の交通環境に応じてドライバの障害物認識支援を行う環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置に関する。
【0002】
【従来の技術及び発明が解決しようとする課題】
車両の運転において、車両の直進時では左右からの飛び出しの確認をすることや、車両の右左折時では進行方向に対して左右の横断物の確認を行うことは、事故を防止する上で重要である。左右から飛び出したり横断する移動体は、例えば、歩行者、2輪車、4輪車などの種々のものが考えられる。
【0003】
特開平3−260813号公報では、このような移動体を検出する環境認識装置が提案されている。環境認識装置は、明度情報の差分や閉区間領域を抽出することで輪郭情報を得て、輪郭情報から移動物体を認識している。しかし、車両を取り巻く照明条件は刻々と変わり、また外乱光などの影響があるため、輪郭を完全にかつ鮮明に抽出できることは少ない。したがって、上記環境認識装置は、輪郭情報のみを用いて画像認識を行うので、情報量の少なさから環境変化への対応が弱い。特に、車両に搭載されて障害物等を検出する場合では、上述した影響を大きく受けるので、最適に移動体を検出することができるとは言いがたい。また、明度情報から直接閉区間を抽出する処理は、影や外乱光などの影響を受けやすく、外乱光によって変化した明度が直接に重心や面積の変化に影響を与えるため、困難である。
【0004】
このほか、テンプレートマッチングやテクスチャーマッチングなど輪郭情報に内部情報を加えた検出手法も提案されている。しかし、処理時間がかかってしまったり、テンプレートに関する膨大な情報を予め用意する手間がかかってしまうなどの問題がある。
【0005】
こうした背景の下、例えば近年、画像情報を圧縮する技術から派生して、カメラの撮像情報を明度データの分布ととらえる技術が提案されている。
【0006】
特開平11−142168号公報では、多変量解析の1つである主成分分析などを行い、撮像情報を正規化主成分特徴量で張られた情報空間に写像し、情報空間内でのデータの挙動を解析することによって画像認識する手法を改良した技術が提案されている。この技術は、正規化主成分特徴量を車両運動情報、操作情報を用いてよりロバストな環境認識を行うものである。また、特開2000−19259号公報では、可視光線映像情報と可視光以外の赤外線映像情報とを用いて物体を認識する技術が提案されている。
【0007】
しかし、これらの技術は、例えばガードレールや停止車輌等の物体の認識を妨げる要因が多く存在する場合、移動体を認識することが困難である。例えば、車両が通行する路面上以外の歩道や交差点における歩行者、自転車の待機場所や停止車輌間から飛び出してきた歩行者を認識することができない問題がある。
【0008】
これに対して、例えば特開平11−301343号では、障害物そのものだけでなく、カメラ(可視光、赤外)を用いた、環境(道路形状)認識により移動障害物の出現確率を予測する車両用照明装置が提案されている。また、特開平11−232569号では、交差点等に歩行者が近づいたか否かを車輌側へ発信する装置をもつ歩行者警報システムが提案されている。さらに、特開平6−144129号公報では、移動障害物を積極的に認識することなく、同一の注意すべき状態に対して複数用意されていた注意項目をランダムに1つ選択して運転手に報知することで注意喚起を図る注意喚起アシスト装置が提案されている。
【0009】
このように、移動障害物の自動認識、移動物体の出現確率を考慮したもの、あるいは歩行者の接近警告などを行うことによって、ドライバに対して障害物認識支援をする移動障害物認識支援が提案されている。
【0010】
しかし、最終的に移動障害物を認識するのはドライバ自身である。そのドライバの視覚認知、認知特性を考慮しなければ、大量の情報をドライバに提示しすぎたために、かえってドライバーを混乱させる可能性がある。また、注意項目を場所にあわせてランダムに提示する方法は、情報提示量は少ないものの非効率である。
【0011】
本発明は、上述した課題を解決するために提案されたものであり、ドライバに過剰な情報を提示することなく効率的かつ的確に障害物認識支援を行うことができる環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
請求項1記載の発明は、環境からの撮像光に基づいて撮像画像を生成する撮像手段と、前記撮像手段で生成された撮像画像に輝度分割ブロックを設定し、設定された輝度分割ブロック内において各画素の輝度値が均質であると判断されるまで、前記輝度分割ブロックを分割して新たな輝度分割ブロックを設定することを繰り返し、前記撮像画像に対して、各画素の輝度値が均質になった輝度分割ブロックの数に基づいて環境の複雑度を演算する複雑度演算手段と、を備えている。
【0013】
請求項1記載の発明では、撮像手段は、例えば車両前席から正面の交通環境を撮像するように設置されているのが好ましい
【0015】
雑度演算手段は、撮像画像に対して輝度分割ブロックを設定する。最初に設定される輝度分割ブロックは、複雑度を演算する領域を示している。そして、輝度分割ブロック内において、各画素の輝度値が均質であると判断されるまで、前記輝度分割ブロックを分割し、分割された輝度分割ブロックを新たな輝度分割ブロックとして設定し、この処理を繰り返す。ここで、各画素の輝度値が均質であるとは、各画素の輝度値が一致する場合に限らず、輝度値の最大値と輝度値の最小値の差が所定値以下であればよい。すなわち、各画素の輝度値のばらつきが所定値以下になっていればよい。
【0016】
そして、すべての輝度分割領域内の各画素の輝度値が均質であると判断されると、これらのすべての輝度分割ブロックの数を環境の複雑度として求める。このような輝度分割ブロックの数は空間周波数に対応している。すなわち、総数が多いと高周波成分が多く、撮像画像が複雑である。また、総数が少ないと高周波成分が少なく、撮像画像は単純である。このように、輝度分割ブロックの数を求めることで、環境の複雑度を求めることができる。
【0017】
請求項記載の発明は、環境からの撮像光に基づいて撮像画像を生成する撮像手段と、前記撮像手段で生成された撮像画像に赤色系分割ブロックを設定し、設定された赤色系分割ブロックが所定の赤色系画素のみで構成されるまで、前記赤色系分割ブロックを分割して新たな赤色系分割ブロックを設定することを繰り返し、前記撮像画像に対して、前記所定の赤色系画素のみで構成される赤色系分割ブロックの数に基づいて環境の複雑度を演算する複雑度演算手段と、を備えたことを特徴とする。
【0018】
請求項記載の発明では、複雑度演算手段は、撮像画像に対して赤色系分割ブロックを設定する。最初に設定される赤色系分割ブロックは、複雑度を演算する領域を示している。赤色系分割ブロックが所定の赤色系画素のみで構成されるまで、当該赤色系分割ブロックを分割する。そして、分割された赤色系分割ブロックを新たな赤色系分割ブロックとして設定し、この処理を繰り返す。すべての赤色系分割ブロックが所定の赤色系画素のみで構成されると、これらのすべての赤色系分割ブロックの数を環境の複雑度として求める。赤色は緑色に比べて誘目性が高い特性があり、赤色系分割ブロックの数は画像の複雑さを示している。したがって、上記赤色系分割ブロックの数を演算することで、環境の複雑度を求めることができる。
【0019】
請求項記載の発明は、環境からの撮像光に基づいて撮像画像を生成する撮像手段と、前記撮像手段で生成された撮像画像に輝度分割ブロックを設定し、設定された輝度分割ブロック内において各画素の輝度値が均質であると判断されるまで、前記輝度分割ブロックを分割して新たな輝度分割ブロックを設定することを繰り返し、前記撮像画像に対して、各画素の輝度値が均質になった輝度分割ブロックの数を演算し、前記撮像手段で生成された撮像画像に赤色系分割ブロックを設定し、設定された赤色系分割ブロックが所定の赤色系画素のみで構成されるまで、前記赤色系分割ブロックを分割して新たな赤色系分割ブロックを設定することを繰り返し、前記撮像画像に対して、前記所定の赤色系画素のみで構成される赤色系分割ブロックの数を演算し、前記輝度分割ブロックの数と、赤色系分割ブロックの数と、に基づいて環境の複雑度を演算する複雑度演算手段と、を備えたことを特徴とする。
【0020】
請求項記載の発明では、複雑度演算手段は、請求項記載の発明と同様にして輝度分割ブロックの数を求め、さらに、請求項記載の発明と同様にして赤色系分割ブロックの数を求め、これらの総数に基づいて環境の複雑度を求める。環境の複雑度としては、輝度分割ブロックの数、赤色系分割ブロックの数、輝度分割ブロックの数と赤色系分割ブロックの数との積、にそれぞれ所定の重み付け係数を乗して、これらの総和を求めるのが好ましい。
【0021】
請求項記載の発明は、請求項1からのいずれか1項記載の環境複雑度演算装置と、前記複雑度演算装置で演算された複雑度に基づいて、環境の認識度合を推定する環境認識度合推定手段と、を備えている。
【0022】
請求項記載の発明では、環境複雑度演算装置で演算された複雑度は、環境の撮像画像の複雑さを示していることから、観察者の環境の認識度合を推定するためのパラメータとして用いられる。すなわち、環境認識度合推定手段は、上記複雑度に基づいて環境の認識度合を推定することができる。
【0023】
請求項記載の発明は、請求項記載の発明において、前記環境認識度合推定手段は、前記複雑度演算装置で演算された複雑度が閾値以上であるときは環境の認識度合が低いと推定し、前記複雑度演算装置で演算された複雑度が閾値より小さいときは環境の認識度合が高いと推定することを特徴とする。
【0024】
請求項記載の発明では、環境の認識度合の基準値となる閾値を設定する。すなわち、閾値は、環境が複雑と単純の中間を示す複雑度の値である。そこで、環境認識度合推定手段は、この閾値を用いることで、複雑度が閾値以上であるときは環境の認識度合が低いと推定し、複雑度が閾値より小さいときは環境の認識度合が高いと推定することができる。
【0025】
請求項記載の発明は、請求項5載の発明において、環境の照度を検出する照度検出手段を更に備え、前記環境認識度合推定手段は、前記環境の照度に対応する前記閾値が記述された閾値テーブルに基づいて、前記照度検出手段により検出された照度に対応する前記閾値を設定ることを特徴とする。
【0026】
請求項記載の発明では、複雑度が一定であっても、車両外部が明るかったり暗くなったりすると、観察者は環境が複雑と感じたり単純と感じることがあることがある。そこで、このような照度の変化による環境の認識度合の変化を補正するため、照度に対応する閾値が予め記述された閾値テーブルを用いるこれにより、照度検出手段により照度が検出されると、検出された照度に対応する閾値を設定することができる。そして、設定された閾値を用いて環境の認識度合を推定することができる。この結果、照度がどのような値であっても、環境の認識度合を正確に推定することができる。
【0027】
請求項記載の発明は、請求項記載の発明において、観察者の姿勢変化を検出する姿勢変化検出手段を更に備え、前記環境認識度合推定手段は、前記姿勢変化検出手段で検出された観察者の姿勢変化が大きくなるに従って前記閾値テーブルに記述された前記閾値の最大値を大きく設定し、前記姿勢変化検出手段で検出された観察者の姿勢変化が小さくなるに従って前記閾値の最大値を小さく設定ることを特徴とする。
【0028】
請求項記載の発明では、観察者は、姿勢変化が大きい場合には、環境を認識する度合が高い傾向にある。環境認識度合推定手段は、観察者の姿勢変化が大きくなるに従って閾値テーブルに記述された閾値の最大値を大きく設定し、観察者の姿勢変化が小さくなるに従って閾値の最大値を小さく設定することで、観察者の実際の視覚特性に合致するように、環境の認識度合を正確に推定することができる。
【0029】
請求項記載の発明は、所定領域毎に環境の認識度合を推定する請求項からのいずれか1項記載の環境認識度合推定装置と、障害物の位置を検出する障害物位置検出手段と、前記障害物検出手段で検出された障害物の位置を含む所定領域が、前記環境認識度合推定手段によって環境の認識度合が低いと推定されたときに、前記障害物に関する警報を行う警報手段と、を備えている。
【0030】
請求項記載の発明では、障害物位置検出手段は、障害物の位置を検出する。このとき、環境認識度合推定装置は、障害物が検出された位置を含む所定領域の環境の認識度合を推定する。ここで、環境の認識度合が高い場合、観察者は、障害物位置検出手段によって検出された障害物を十分認識することができる。一方、環境の認識度合が低い場合、観察者は、障害物位置検出手段によって検出された障害物を認識することができない可能性がある。そこで、警報手段は、障害物の位置を含む所定領域が環境の認識度合が低いと推定されたときに、障害物に関する警報を行う。これにより、観察者は、環境の認識度合が低い領域に障害物がある場合でも、障害物があることを事前に認識して、事故を回避することができる。なお、警報手段は、画像又は音声を出力することによって、観察者に注意を喚起させることができる
また、警報手段は、障害物の位置を含む所定領域が環境の認識度合が高いと推定されたときに、障害物に関する警報は行わない。これにより、観察者は、環境の認識度合が高い領域に障害物がある場合では、その障害物を認識することができるので、余計な警報によって煩わしさを受けることがない。
【0031】
請求項記載の発明は、請求項記載の発明において、前記環境認識度合推定装置は、撮像画像の下部を除く領域を複数の推定領域に分割し、分割された推定領域毎に環境の認識度合を推定し、前記警報手段は、前記障害物位置検出手段により検出された障害物の位置が前記推定領域のいずれにあり、かつ、当該推定領域の環境の認識度合が前記環境認識度合推定手段によって低いと推定されたときに、優先度の高い推定領域に存在する障害物に関する警報を行うことを特徴とする。
【0032】
請求項記載の発明では、環境認識度合推定装置は、撮像画像の下部を除く領域を複数の推定領域に分割し、分割された推定領域毎に環境の認識度合を推定する。つまり、撮像画像の下部については環境の認識度合を推定しない。その理由は、撮像画面の下部は、観察者直前の環境の画像を示しており、その環境の認識の度合を推定する意味がないからである。
【0033】
警報手段は、前記障害物位置検出手段により検出された障害物の位置が前記推定領域のいずれにあり、かつ、当該推定領域の環境の認識度合が前記環境認識度合推定手段によって低いと推定されたかを判定する。ここでは、障害物が検出され、かつ環境の認識度合が低い推定領域をすべて選択する。そして、選択された指定領域のうち優先度の高い推定領域について、障害物が存在する旨の警報を行う。これにより、最も危険な領域を観察者に注意させることで大きな事故を回避することができると共に、あまり危険でない領域については観察者に報知しないことで観察者が情報過多になって混乱するのを防止することができる。
【0034】
【発明の実施の形態】
以下、本発明の好ましい実施の形態について図面を参照しながら詳細に説明する。
【0035】
[第1の実施の形態]
本発明の第1の実施の形態は、例えば図1に示す構成の障害物警報装置1に適用することができる。障害物警報装置1は、車両外部のインフラからインフラ情報を検出するインフラ情報をインフラ情報検出部10と、道路及びその周辺の障害物に関する情報を検出する障害物情報検出部20と、自車両の動作状態を検出する自車状態検出部30と、ドライバや車両外部の環境を検出する環境情報検出部40と、ドライバの環境認識の度合を示す視覚特性を入力するためのスライダパネル50と、障害物情報を出力する障害物情報出力部60と、各部において検出された情報に基づいて全体の制御を行うマイクロコンピュータ70と、を備えている。
【0036】
インフラ情報検出部10は、GPS(Global PositioningSystem)信号を受信するGPS受信回路11と、DVDディスクに記録されている地図情報を読み出すDVDドライブ12と、接近情報を受信する接近情報受信回路13と、を備えている。
【0037】
GPS受信回路11は、GPSアンテナ11aを介して、時刻及びGPS衛星の位置情報を有するGPS信号を受信し、データバス5を介してマイクロコンピュータ70に供給する。DVDドライブ12は、車両が現在走行している位置情報に基づいて、DVDディスクから地図情報を読み出し、データバス5を介して、マイクロコンピュータ70に供給する。接近情報受信回路13は、後述するデータキャリアリーダから送信された接近情報を受信し、データバス5を介して、マイクロコンピュータ70に供給する。
【0038】
障害物情報検出部20は、道路上や道路周囲の障害物を撮影するための障害物撮影用CCDカメラ21と、道路上や道路周囲の障害物を赤外線により撮影するための赤外カメラ22と、前方障害物を認識するためのレーダ送受信機23と、を備えている。
【0039】
障害物撮影用CCDカメラ21及び赤外カメラ22は、車両前方方向の物体を撮像できるように設置されている。そして、障害物撮影用CCDカメラ21及び赤外カメラ22は、撮影した撮影画像を、データバス5を介してマイクロコンピュータ70に供給する。レーダ送受信機23は、前方障害物を認識するために、当該障害物に対してパルス状の光レーダを鋭く絞って2次元方向に送信すると共に、障害物によって反射された光レーダを受光する。なお、レーダ送受信機23は、光レーダを送受信するもの限らず、電波レーダを送受信するものであってもよい。
【0040】
自車状態検出部30は、例えば、車輪速センサ、操舵角センサ、スロットルバルブセンサ、マスタシリンダ油圧センサ、ヨーレートセンサ、前後加速度センサ、横加速度センサ等を備えている。そして、自車状態検出部30は、車速、ハンドル操舵角度、アクセル操作量、ブレーキ操作量、ヨーレート、ロールレート、ピッチレート、前後加速度、横加速度、ウィンカ操作量を検出して、マイクロコンピュータ70に供給する。
【0041】
環境情報検出部40は、車両外部の照度を検出する照度センサ41と、ドライバを撮影するドライバ撮影用CCDカメラ42と、を備えている。ここでは、ドライバ撮影用CCDカメラ42は1つだけ設けられているが、ドライバの姿勢変化を容易に検出できるように、ドライバの正面前方、右前方、左前方をそれぞれ撮像する3つのCCDカメラを設けてもよい。
【0042】
スライダパネル50は、外部環境の複雑さを示す視覚特性をドライバの主観に従って操作入力するためのものである。スライダパネル50、図2に示すように、左右に移動可能なスライダ51を有している。ドライバは、例えば、自分自身が交通環境を見落としがちである場合、つまり車両外部の交通環境を認識しにくいと判断する場合は、スライダ51を「弱」の方向に操作する。また、ドライバは、交通環境をよく見ることができる場合、つまり車両外部の交通環境を認識しやすい場合はスライダ51を「強」の方向に操作する。これにより、詳しくは後述するが、マイクロコンピュータ70は、ドライバの現在の視覚特性を考慮して環境認識度合を推定することができる。
【0043】
障害物情報出力部60は、画像により障害物情報を出力するLCD(Liquid Crystal Display)61と、音声により障害物情報を出力するスピーカ62と、を備えている。
【0044】
マイクロコンピュータ70は、図示されていないCPU(Central Processing Unit)、データのワークエリアであるRAM(Random Access Memory)、後述する各種のルーチン処理を実行するプログラムや出現範囲推定テーブルや閾値テーブルが記憶されているROM(Read Only Memory)により構成されている。マイクロコンピュータ70は、各部からの情報に基づいて、出現可能性のある障害物を推定したり、ドライバの環境認識度合を推定したり、障害物情報の警報を行う。
【0045】
(メインルーチン)
以上のように構成された障害物警報装置1において、マイクロコンピュータ70は、図3に示すステップST1からステップST3までの処理を実行する。ここでは、最初にステップST1からステップST3までの処理を簡単に説明し、その後各処理の具体的なサブルーチンについて説明する。
【0046】
マイクロコンピュータ70は、インフラ情報検出部10で検出された情報に基づいて自車位置を検出すると共に、自車の進行方向に出現する可能性のある障害物を推定する(ステップST1)。そして、自車の進行方向の環境の撮像画像を分割し、分割された領域毎にドライバが認識しやすいかを示す環境認識度合を推定する(ステップST2)。最後に、マイクロコンピュータ70は、出現可能性のある障害物情報と、所定の領域毎の環境認識度合とに基づき、必要に応じて画像又は音声によりドライバに対して障害物に関する警報を行う(ステップST3)。
【0047】
(ステップST1)
ステップST1では、マイクロコンピュータ70は、自車の進行方向に出現する可能性のある障害物を推定すべく、具体的には図4に示すステップST11からステップST14までの処理を実行する。
【0048】
ステップST11では、マイクロコンピュータ70は、自車の位置を検出すると共に、自車位置周辺であってドライバの視界範囲外の移動障害物を検出する。なお、ここでは、例えば以下に説明するようなインフラが用いられている。
【0049】
例えば図5に示すように、歩行者は、データキャリア16が設けられた物品(例えば、携帯電話)を常時携帯している。また、2輪車や4輪車には、データキャリア16が設けられている。データキャリア16は数種類の接近情報を出力することができ、歩行者、2輪車及び4輪車のデータキャリア16はそれぞれ異なる接近情報を出力する。一方、見通しの悪い交差点や横断歩道には、接近情報を受信するデータキャリアリーダ17が設置されている。データキャリアリーダ17は、データキャリア16が接近すると、接近情報を受信して、この接近情報を障害物警報装置1に送信する。
【0050】
障害物警報装置1のマイクロコンピュータ70は、データキャリアリーダ17から送信された接近情報を接近情報受信回路13で受信すると、障害物の場所を特定することができ、さらにその障害物が歩行者、2輪車、4輪車のいずれであるかを認識することができる。
【0051】
そして、マイクロコンピュータ70は、GPS受信回路11により受信されたGPS信号と、DVDドライブ12から読み出された地図情報と、接近情報受信回路13により受信された接近情報と、に基づいて自車の位置を検出すると共に、自車位置周辺であってドライバの視界範囲外の移動障害物を検出し、当該移動障害物の種別(人、2輪車、4輪車のいずれか)を認識する。
【0052】
さらに、マイクロコンピュータ70は、図6に示す出現範囲推定テーブルを参照して、移動障害物の種別に基づいて、自車周辺の路上における移動障害物が出現する可能性のある範囲を推定する。例えば、マイクロコンピュータ70は、移動障害物として4輪車を認識したときは、当該4輪車は現在の位置から進行方向に10mの範囲内に出現する可能性があると推定する。また、移動障害物として歩行者を認識したときは、当該歩行者は現在位置から半径1mの範囲内に出現する可能性があると推定する。
【0053】
マイクロコンピュータ70は、自車の進行方向軸及び進行方向軸に直交する軸からなる座標系(以下「自車周辺座標系」という。)を設定し、移動障害物の出現可能性範囲を自車周辺座標系に記述して、ステップST12に移行する。
【0054】
ステップST12では、マイクロコンピュータ70は、ドライバの視界範囲内にある障害物を検出する。ここでは、マイクロコンピュータ70は、障害物撮影用CCDカメラ21及び赤外カメラ22を駆動させ、障害物撮影用CCDカメラ21及び赤外カメラ22により生成された撮像画像を取得する。そして、各カメラにより生成された画像の差分を求めることで、安全上特に問題となる人間や車をそれ以外のものと十分にコントラストを付けた画像を得ることによって、移動障害物を検出する。
【0055】
また、マイクロコンピュータ70は、レーダ送受信機23による送信から受信までの光レーダの往復時間に基づいて、自車の前方障害物の距離画像を得て、前方障害物を認識する。マイクロコンピュータ70は、このようにして認識された移動障害物を自車周辺座標系に記述して、ステップST13に移行する。
【0056】
ステップST13では、マイクロコンピュータ70は、自車状態検出部30からの情報に基づいて自車状態を検出する。ここでは、例えば特開平11−301343号公報に記載されているように、マイクロコンピュータ70は、車速、ハンドル操舵角度、アクセル操作量、ブレーキ操作量、ヨーレート、ロールレート、ピッチレート、前後加速度、横加速度及びウィンカ操作量を検出し、自車の進行方向を推定して、自車の進行方向の推定結果を自車周辺座標系に記述して、ステップST14に移行する。
【0057】
ステップST14では、マイクロコンピュータ70は、ステップST11からステップST13までの処理によって得られた自車周辺座標系に対して、自車の進行予測範囲内に出現する可能性のある移動障害物の情報のみを残し、その他の情報を除去する。そして、マイクロコンピュータ70は、自車周辺座標系に記述された移動障害物に関する情報を障害物表示画面としてLCD61に表示させると、サブルーチンを抜けて図3に示したステップST2に移行する。
【0058】
ここで、障害物表示画面は、例えば図7に示すように、自車が走行している周囲の地図と、自車の現在位置と、自車の進行予測範囲と、移動障害物(人や車など)及びその出現可能範囲を表示している。障害物表示画面に表示された移動障害物の大きさは、当該移動障害物が出現する可能性のある範囲を示している。
【0059】
(ステップST2)
ステップST2では、マイクロコンピュータ70は、車両周囲環境をドライバが認識する度合を推定すべく、具体的には図8に示すステップST21からステップST24までの処理を実行する。
【0060】
ステップST21では、マイクロコンピュータ70は、環境情報検出部40からの情報を用いてドライバの姿勢の変化を検出する。すなわち、マイクロコンピュータ70は、ドライバ撮影用CCDカメラ42からの撮像画像についてフレーム間毎に差分を求め、撮像画像の差分値をドライバの移動領域量として検出する。
【0061】
マイクロコンピュータ70は、移動領域量が所定の閾値以上のときは「1」をカウントし、移動領域量が所定の閾値より小さいときはカウントを行わない。そして、例えば過去5分間のカウント値を求め、当該カウント値が閾値TH1未満のときは姿勢変化が「小」であると判定し、当該カウント値が閾値TH1以上であり閾値TH2(>TH1)未満のときは姿勢変化が「中」であると判定し、当該カウント値が閾値TH2以上のときは姿勢変化が「大」であると判定する。また、マイクロコンピュータ70は、照度センサ41により検出された車両外部の照度を取得して、ステップST22に移行する。
【0062】
ステップST22では、マイクロコンピュータ70は、図7に示した障害物表示画面の所定領域毎に、環境の複雑度Cを演算する。なお、ここにいう複雑度Cとは、ドライバの交通環境の認識度合を推定するために用いられるパラメータをいう。
【0063】
最初に、マイクロコンピュータ70は、ステップST1で得られた障害物表示画面のうち、障害物及びその出現可能範囲のある領域を、距離・方向で4分割する。ここでは図9に示すように、障害物表示画面を領域A,領域B,領域C及び領域Dに分割する。これにより、上記障害物表示画面は、自車の前方正面近距離の領域である領域Aと、領域Aに隣接し、かつ自車の前方正面遠距離の領域である領域Bと、領域A及びBに隣接し、かつ自車の前方左遠距離の領域である領域Cと、領域A及びBに隣接し、かつ自車の前方右遠距離の領域である領域Dと、を有している。なお、障害物表示画面領域Aから領域Dは、模式的には図10に示すように分割される。
【0064】
次に、マイクロコンピュータ70は、領域B、領域C及び領域Dのそれぞれについて、次の式(1)に基づいて交通環境の複雑度Cを演算する。
【0065】
【数1】
Figure 0004752158
【0066】
指標C1は輝度分割ブロックの数、指標C2は赤色系分割ブロックの数を示している。また、α、β、γは、重み付け係数であり、それぞれ所定の値をとる。
【0067】
ここで、指標C1の演算について説明する。なお、マイクロコンピュータ70は、上述したように領域B、領域C及び領域Dについて指標C1を演算するが、ここでは、領域Bについて図11に示す撮像画像を用いて指標C1を演算することについて説明する。
【0068】
マイクロコンピュータ70は、障害物撮影用CCDカメラ21を駆動させ、例えば図11に示すような撮像画像を得る。そして、当該撮像画像全体を輝度分割ブロックとして設定する。
【0069】
マイクロコンピュータ70は、設定された輝度分割ブロック内において各画素の輝度値の最大値と最小値の差を演算する。マイクロコンピュータ70は、輝度値の最大値と最小値の差が所定の閾値以上であるかを判定し、上記差が所定の閾値を超えているときは輝度分割ブロックを4つに分割する。このとき、マイクロコンピュータ70は、縦横ほぼ同じ画素数で構成されるように、かつ可能な限り大きくするように、輝度分割ブロックを分割するのが好ましい。
【0070】
撮像画像の輝度値が例えば図12(A)に示すようになっている場合、マイクロコンピュータ70は、輝度値の最大値(180)と最小値(000)の差を演算する。そして、輝度値の最大値と最小値の差(180)が閾値(例えば40)以上であるかを判定し、ここでは上記差が閾値(40)を超えているので、図12(A)に示すように輝度分割ブロックを4つに分割する。
【0071】
マイクロコンピュータ70は、分割された各輝度分割ブロック内において各画素の輝度値の最大値と最小値の差が所定の閾値以下になるまで、前記輝度分割ブロックを4つに分割し、新たな輝度分割ブロックを設定することを繰り返す。
【0072】
例えば、図12(A)に示す輝度分割ブロックBK1は4×4画素で構成され、輝度値の最大値は180、輝度値の最小値は20である。マイクロコンピュータ70は、輝度分割ブロックBK1の輝度値の最大値と最小値の差(160)を求め、上記差が閾値(40)以上であるので、図12(B)に示すように、輝度分割ブロックBK1を4つ(BK2,BK3,BK4,BK5)に分割する。
【0073】
そして、マイクロコンピュータ70は、輝度分割ブロックBK2の輝度値の最大値と最小値の差(39)は閾値(40)以上でないので、輝度分割ブロックBK2に対しては分割を行わない。一方、輝度分割ブロックBK3,BK4,BK5については、輝度値の最大値と最小値の差は閾値(40)以上であるので、図12(C)に示すように、各輝度分割ブロックBKを分割する。
【0074】
このような処理を経て、マイクロコンピュータ70は、各画素の輝度値の最大値と最小値の差が所定の閾値(40)以下になった輝度分割ブロックの数を示す指標C1を求める。これにより、マイクロコンピュータ70は、輝度分割ブロックを構成する各画素の輝度値を均質にする。
【0075】
なお、指標C1は、各画素の輝度値の最大値と最小値の差が所定の閾値以下になった輝度分割ブロックの数に限定されるものではない。例えば、指標C1は、撮像画像の輝度値の分散値であってもよい。また、指標C1は、撮像画像の2次元高速フーリエ変換(FFT:Fast Fourier Transform)の高周波成分の総和であってもよい。
【0076】
また、マイクロコンピュータ70は、図12(C)に示すように、輝度分割ブロックBKが1×1画素になるまで分割したが、輝度分割ブロックBKを分割して予め定めた大きさ(例えば、4×4画素)になったときに、分割を終了してもよい。
【0077】
つぎに、指標C2の演算について説明する。なお、マイクロコンピュータ70は、上述したように所定領域毎に赤色系分割ブロックの数を示すC2を演算するが、ここでは、領域Bについて、図13(A)に示す撮像画像を用いて指標C2を演算することについて説明する。
【0078】
マイクロコンピュータ70は、障害物撮影用CCDカメラ21を駆動させ、例えば図13(A)に示すような撮像画像を得る。そして、当該撮像画像から明度0.3以上、彩度0.1以上を抽出して、例えば図13(B)に示すような撮像画像を得る。さらに、マイクロコンピュータ70は、0.1以下又は0.75以上の色相を抽出すると、図13(C)に示すような撮像画像を得る。
【0079】
マイクロコンピュータ70は、図13(C)に示すような撮像画像に対して、同一の赤色系分割ブロック内が赤色系画素のみで占めるようにブロック分割を繰り返し、図13(D)に示すように、赤色系画素(1)又は赤色系画素以外の画素(0)で構成された赤色系分割ブロックを得る。そして、マイクロコンピュータ70は、赤色系画素のみで構成された赤色系分割ブロックの数である指標C2を求める。
【0080】
マイクロコンピュータ70は、求められた輝度分割ブロックの数を示す指標C1及び赤色系分割ブロックの数を示す指標C2を用いて、上述した式(1)に従って環境の複雑度Cを演算して、ステップST23に移行する。なお、以上のようにして演算された複雑度Cの値は、例えば図14に示すように、時刻によって変化する。
【0081】
なお、指標C2は、赤色系分割ブロックの数に限定されるものではなく、例えば、次のような値でもよい。
【0082】
マイクロコンピュータ70は、所定の領域の撮像画像に対して、マンセル色票において色票が2.5RP,5RP,7.5RP,10RP,2.5R,5R,7.5R,10R,2.5YR,5YRに属し、クロマ2以上、明度3以上の赤色系の画素のみを抽出してもよい。そして、同一の分割ブロック内が上記赤色系画素のみ、赤色系画素以外の画素のみで構成されるまで、上記分割ブロックを分割することを繰り返し、得られた分割ブロックの数を指標C2とすればよい。
【0083】
また、マイクロコンピュータ70は、所定の領域の撮像画像に対して、マンセル色票において色票が2.5RP,5RP,7.5RP,10RP,2.5R,5R,7.5R,10R,2.5YR,5YRに属し、クロマ2以上、明度3以上の赤色系の画素のみを抽出し、上記赤色系の画素の数を指標C2としてもよい。あるいは、撮像画像の中央から上述した各赤色系画素の距離の総和を指標C2としてもよい。
【0084】
ステップST23では、マイクロコンピュータ70は、環境認識度合を判定するための閾値thを設定する。閾値thは、車両外部の環境照度によって異なるように設定される。その理由は、複雑度Cの値が一定であっても、車両外部が明るかったり暗くなったりすると、ドライバは交通環境が複雑と感じたり単純と感じることがあるからである。
【0085】
マイクロコンピュータ70には、例えば図15に示すように、環境照度に対する閾値thを記述した閾値テーブルが記憶されている。図15によると、閾値thは、環境照度がゼロからS1までの場合は最小値(一定)となり、環境照度がS1からS2まで大きくなるに従って一定の割合で大きくなる。そして、閾値thは、環境照度がS2からS3までの場合は最大値(一定)となり、環境照度がS3より大きくなるに従って一定の割合で小さくなる。なお、図15に示す閾値テーブルは本実施の形態の一例であり、本発明はこれに限定されるものではない。
【0086】
そこで、マイクロコンピュータ70は、上記閾値テーブルを参照して、照度センサ41によって検出された環境照度に基づいて、閾値thを設定する。さらに、マイクロコンピュータ70は、ドライバの操作入力値やドライバの姿勢変化に応じて、閾値thの最大値を再設定することができる。
【0087】
最初に、マイクロコンピュータ70は、スライダパネル50に設けられたスライダ51の入力値に応じて、閾値thの最大値を設定する。例えば、ドライバがスライダ51を「強」の方にスライドしている場合は、図15に示すように、マイクロコンピュータ70は閾値thの最大値を大きく設定する。逆に、ドライバがスライダ51を「弱」の方にスライドしている場合は、マイクロコンピュータ70は閾値thの最大値を小さく設定する。なお、スライダ51が「強」と「弱」の中間にある場合は、マイクロコンピュータ70は、環境照度に基づいて設定されたデフォルトの閾値thのままでよい。
【0088】
次に、マイクロコンピュータ70は、ドライバの姿勢変化に応じて、閾値thの最大値を設定する。その理由は、ドライバは、頻繁に姿勢の変化がある場合では種々の環境を認識し易い傾向があり、姿勢の変化がない場合では環境を認識しにくい傾向があるからである。そこで、マイクロコンピュータ70は、交通環境の認識のしやすさとドライバの姿勢変化の関係を考慮して、以下のように閾値thを設定する。
【0089】
マイクロコンピュータ70は、例えば上述したステップST21においてドライバの姿勢変化が「小」であると判定した場合、図16に示すように、閾値thの最大値を小さく設定する。逆に、例えばステップST21においてドライバの姿勢変化が「大」であると判定した場合は、閾値thの最大値を大きく設定する。なお、マイクロコンピュータ70は、ドライバの姿勢変化が「中」であると判定した場合は、環境照度に基づいて設定されたデフォルトの閾値thのままでよい。
【0090】
このように、マイクロコンピュータ70は、環境照度に対応する閾値thが記述された閾値テーブルと、スライダパネル50に設けられたスライダ51の入力値と、更にドライバの姿勢変化と、に基づいて閾値thを設定すると、ステップST24に移行する。
【0091】
ステップST24では、マイクロコンピュータ70は、図17に示すように、ステップST22で演算された複雑度Cと、ステップST23で設定された閾値thとを比較する。そして、複雑度Cが閾値thを超えていなかったときは、環境は複雑でない、すなわち単純であると判定する。また、複雑度Cが閾値thを超えていたときは、環境は複雑であると判定する。
【0092】
マイクロコンピュータ70は、障害物撮影用CCDカメラ21で得られた撮像画像が例えば図18に示すような前方風景の場合は、交通環境が「単純」であると判定し、例えば図19に示すような前方風景の場合は、交通環境が「複雑」であると判定する。そして、サブルーチン処理を終了して、図3に示すステップST3に移行する。
【0093】
(ステップST3)
ステップST3では、マイクロコンピュータ70は、ドライバに対して障害物の警報を行う。ここでは、領域毎に警報要請フラグがあるかを判定し、優先順位の高いフラグを用いてドライバに所定の警報を行う。なお、ここにいう警報要請フラグとは、上記所定領域について障害物等の存在によりドライバに警報を行う必要があることを示すフラグをいう。そして、マイクロコンピュータ70は、具体的には図20に示すステップST31からステップST42までの処理を実行する。
【0094】
ステップST31では、マイクロコンピュータ70は、領域Aの警報要請フラグを生成するか否かを判定する。ここでは、具体的には図21に示すステップST51からステップST54までのサブルーチンを実行する。
【0095】
ステップST51では、マイクロコンピュータ70は、領域Aにおいて障害物を検出したか、又は現在の自車位置が障害物出現範囲内にあるかを判定し、いずれか一方の条件を満たすときはステップST52に移行し、いずれの条件も満たさないときはサブルーチン処理を終了する。
【0096】
ステップST52では、マイクロコンピュータ70は、上述したステップST13で検出された自車状態に基づいて、障害物に対して自車が回避行動をとっているかを判定し、回避行動をとっているときはステップST53に移行し、回避行動をとっていないときはサブルーチン処理を終了する。
【0097】
ステップST53では、マイクロコンピュータ70は、ステップST1において検出された障害物に関する情報及び自車状態に基づいて、自車が障害物を回避することが不可能であるかを判定する。そして、例えばドライバがブレーキペダルを踏んだり、ハンドルを操作して、障害物に対する回避行動をとっていたとしても、自車が障害物を回避することができないときはステップST54に移行し、自車が障害物を回避することができるときはサブルーチン処理を終了する。
【0098】
ステップST54では、マイクロコンピュータ70は、領域Aにおける警報要請フラグを発生してサブルーチン処理を終了する。マイクロコンピュータ70は、このようなサブルーチン処理を終了すると、図20に示すステップST32に移行する。
【0099】
ステップST32では、マイクロコンピュータ70は、領域B,C及びDのそれぞれに対して警報要請フラグを生成するか否かの判定を行う。具体的には図22に示すステップST61からステップST64までのサブルーチン処理を実行する。なお、ここではいずれの領域でも同じ処理を行うので、領域Bの処理を例に挙げて説明する。
【0100】
ステップST61では、マイクロコンピュータ70は、領域Bにおいて障害物を検出したか、又は現在の自車位置が障害物出現範囲内にあるかを判定し、いずれか一方の条件を満たすときはステップST62に移行し、いずれの条件も満たさないときはサブルーチン処理を終了する。
【0101】
ステップST62では、マイクロコンピュータ70は、上述したステップST2において領域Bは複雑であると判定したか、すなわち、ステップST2において領域Bの複雑度Cが閾値thを超えたかを判定する。そして、領域Bの複雑度Cが閾値thを超えたときはステップST63に移行し、閾値thを超えていないときはサブルーチン処理を終了する。
【0102】
ステップST63では、マイクロコンピュータ70は、障害物又は障害物出現範囲の場所が初めて警報を発する場所であるかを判定し、初めて警報を発する場所であるときはステップST64に移行し、初めて警報を発する場所でないときはサブルーチン処理を終了する。
【0103】
ステップST64では、マイクロコンピュータ70は、領域Bにおける警報要請フラグを発生してサブルーチン処理を終了する。マイクロコンピュータ70は、以上のようなサブルーチン処理を終了すると、図20に示すステップST33に移行する。
【0104】
ステップST33では、マイクロコンピュータ70は、領域Aの警報要請フラグがあるか否かを判定し、領域Aの警報要請フラグがあったときはステップST39に移行し、領域Aの警報要請フラグがなかったときはステップST34に移行する。
【0105】
ステップST34では、マイクロコンピュータ70は、領域C又は領域Dの警報要請フラグがあるか否かを判定する。そして、各領域の少なくとも一方に警報要請フラグがあったときはステップST38に移行し、各領域のいずれにも警報要請フラグがないときはステップST35に移行する。
【0106】
ステップST35では、マイクロコンピュータ70は、領域Bの警報要請フラグがあるか否かを判定し、領域Bの警報要請フラグがあったときはステップST36に移行し、領域Bの警報要請フラグがなかったときはサブルーチン処理を終了する。
【0107】
このように、マイクロコンピュータ70は、ステップST33からステップST35の順に処理を実行することで、領域A、領域C又は領域D、領域Bの順に優先順位を設定し、優先順位の高い領域から障害物の警報を行っている。
【0108】
ステップST36では、マイクロコンピュータ70は、前回の判定処理で領域Aの警報要請フラグがあったかを判定し、領域Aの警報要請フラグがあったときはステップST37に移行し、領域Aの警報要請フラグがなかったときはサブルーチン処理を終了する。
【0109】
ステップST37では、マイクロコンピュータ70は、ドライバに領域Bの警報を行う。マイクロコンピュータ70は、ドライバに対する警報として、「前方障害物に注意してください。」、「交差点に近づきます。歩行者の飛び出しに注意してください。」などをLCD61に表示させたり、音声によりスピーカ62から出力させて、サブルーチン処理を終了する。
【0110】
また、ステップST34で領域C、領域Dの少なくとも一方の警報要請フラグがあったと判定して移行したときのステップST38では、マイクロコンピュータ70は、警報要請フラグのあった領域について、ドライバに対して警報を行う。警報要請の一例としては、ステップST37と同様である。
【0111】
一方、ステップST33で領域Aの警報要請フラグがあったと判定して移行したときのステップST39では、領域Aの警報要請フラグが所定数以上あるか否かを判定し、警報要請フラグが所定数以上あるときはステップST40に移行し、警報要請フラグが所定数以上ないときはステップST42に移行する。
【0112】
ステップST40では、マイクロコンピュータ70は、自車状態検出部30により検出された車速が所定値以上であるかを判定し、車速が所定値以上であるときはステップST41に移行し、車速が所定値以上でないときはステップST42に移行する。
【0113】
ステップST41では、マイクロコンピュータ70は、ドライバに対して領域Aにおける第1警報を行う。マイクロコンピュータ70は、ドライバに対する第1警報として、例えば「衝突注意。減速してください。」などをLCD61に表示させたり、音声によりスピーカ62から出力させて、サブルーチン処理を終了する。
【0114】
ステップST42では、マイクロコンピュータ70は、ドライバに対して領域Aにおける第2警報を行う。マイクロコンピュータ70は、ドライバに対する第2警報として、例えば「障害物を回避してください。」などをLCD61に表示させたり、音声によりスピーカ62から出力させて、サブルーチン処理を終了する。
【0115】
マイクロコンピュータ70は、ステップST3のサブルーチン処理を終了すると、ドライバに対する警報を終了する。このように、マイクロコンピュータ70は、各領域の警報要請フラグに優先順位を設定して処理を行うことによって、ドライバに対する警報を最小限に抑制し、情報過多になってドライバが混乱することを防止することができる。
【0116】
以上のように、第1の実施の形態に係る障害物警報装置1は、移動障害物を自動的に認識し、移動障害物の出現可能範囲を推定し、更に、移動障害物の出現場所において、ドライバの交通環境の認識度合を考慮することによって、ドライバを混乱させることなく、移動障害物をドライバに認識させることができる。また、障害物警報装置1は、ドライバに提示するべき情報量が多いときは、自車の車速を低下させるように促して、事故を未然に防止することができる。
【0117】
障害物警報装置1は、図10に示した領域Aから領域Dのいずれにおいても障害物を検出した場合には、自車直前の領域Aを最優先し、領域Aに存在する障害物に対して警報を行う。これにより、障害物警報装置1は、直前に迫った危機を回避することができる。
【0118】
[他の実施の形態]
つぎに、本発明の他の実施の形態について説明する。なお、第1の実施の形態と重複する箇所については同一の符号を付し、詳細な説明は省略する。
【0119】
(撮像画像の分割の態様)
第1の実施の形態では、マイクロコンピュータ70は、図10に示すように、撮像領域を領域Aから領域Dまでの4つに分割し、領域B、領域C及び領域Dにおいて指標C1及び指標C2を演算していた
これに対して、マイクロコンピュータ70は、例えば図23(A)に示す撮像画像を、図23(B)に示すように4つの領域に分割してもよい。つまり、マイクロコンピュータ70は、長方形状の撮像画像を2つの対角線に沿って分割することによって、撮像画像を4つの領域に分割している。そして、第1の実施の形態と同様に、各領域について指標C1及び指標C2を演算すればよい。
【0120】
また、マイクロコンピュータ70は、例えば図24(A)に示す撮像画像を、図24(B)に示すように、領域(1)、2つの領域(2)、領域(3)の4つの領域に分割してもよい。ここで、領域(1)は、自車の前方直前の車両を示す領域である。領域(2)は、領域(1)の両外側の領域である。領域(3)は、領域(1)及び領域(2)以外の領域である。
【0121】
マイクロコンピュータ70は、領域(1)については輝度分割ブロックを1×1画素まで分割し、領域(2)については2×2画素まで分割し、領域(3)については2×2画素まで分割して、各領域で指標C1を演算することができる。さらに、マイクロコンピュータ70は、各領域において赤色系分割ブロックを1×1画素まで分割して、図24(C)に示す画像を得て、各領域で指標C2を演算することができる。
【0122】
さらに、マイクロコンピュータ70は、撮像画像を次のように分割することもできる。例えば図25に示すように、撮像画像を「画面下部」、「画面中央」、「画面左方」、「画面右方」に分割してもよい。「画面下部」は、撮像画像の下側の縦方向約1/5から1/4までの長方形状の領域である。「画面中央」は、三角形状の領域であり、その三角形の一辺が「画面下部」に隣接し、その一辺の対角が撮像画面の上端に位置している。「画面左方」は、「画面下部」及び「画面中央」以外の領域のうち左側の台形状の領域である。「画面右方」は、「画面下部」及び「画面中央」以外の領域のうち右側の台形状の領域である。
【0123】
画面中央については、図26に示すように、さらに分割してもよい。
【0124】
(閾値thの設定)
マイクロコンピュータ70は、第1の実施の形態のように、ドライバ個人によって操作されたスライダ51の入力値に従って閾値thを設定する場合に限らず、例えば複数のドライバによって操作されたスライダ51の各入力値に従って設定するようにしてもよい。
【0125】
図27は、10名のドライバに10枚の撮像画像を提示した場合に、ドライバによって入力された環境の認識度合をプロットした図である。マイクロコンピュータ70は、例えばこれらの値の平均を演算することで妥当な閾値thを設定することができる。
【0126】
(複雑度Cの他の演算手法)
マイクロコンピュータ70は、式(1)に従って複雑度Cを演算し、複雑度Cと閾値thとを比較することによって環境認識度合を推定していたが、本発明はこれに限定されるものではない。
【0127】
マイクロコンピュータ70は、例えば図28に示すように、指標C1及び指標C2によって決定される認識度合を示す認識度合マップを記憶してもよい。このとき、マイクロコンピュータ70は、第1の実施の形態と同様にして指標C1及び指標C2を演算し、上記認識度合マップを参照して環境の認識度合を推定すればよい。例えば、マイクロコンピュータ70は、(C1,C2)=(a,b)のときは環境の認識度合が高いと判定し、(C1,C2)=(c,d)のときは環境の認識度合が低いと判定することができる。
【0128】
(3次元空間配置)
マイクロコンピュータ70は、撮像画像を予め所定領域に分割し、所定領域毎に、第1の実施の形態と同様に指標C1及び指標C2を演算し、さらに、指標C1・C2を演算する。そして、指標C1、指標C2、指標C1・C2を、図29に示すように、3次元ベクトル空間に配置し、各画素上での移動ベクトルの値(大きさ、向き)を複雑度Cとして用いることもできる。
【0129】
このとき、例えば図30に示すように、3次元ベクトル空間内に、環境の認識度合が低いと推定される第1の領域と、環境の認識度合が高いと推定される第2の領域とを設けてもよい。マイクロコンピュータ70は、上記3次元空間を用いて求められた複雑度Cが上記領域のいずれに属するかを判定し、複雑度Cが第1の領域にあるとドライバは環境認識の度合が低いと推定し、複雑度Cが第2の領域にあるとドライバは環境認識の度合が高いと推定することができる。
【0130】
(ニューラルネット)
マイクロコンピュータ70は、ニューラルネットを用いて環境の認識度合を推定してもよい。図31は、ニューラルネットを用いて環境の認識度合を推定するマイクロコンピュータ70の機能的な構成を示すブロック図である。
【0131】
マイクロコンピュータ70は、更新可能なデータベースを有する変換関数からなるニューラルネット71と、ドライバの環境の認識度合を推定する認識度合推定部72と、入力値から推定値を減算する処理を行う演算器73と、を備えている。なお、ニューラルネット71の代わりに、統計的手法によって学習機能を備えたものであってもよい
演算器73は、図2に示したスライダ51の入力値から、認識度合推定部72で推定された環境の認識度合の推定値を減算する。ニューラルネット71は、演算器73により減算された減算値と、複雑度Cとに基づいて逐次学習し、学習済みの複雑度Cを認識度合推定部72に供給する。認識度合推定部72は、ニューラルネット71からの学習済みの複雑度Cを用いて、ドライバ毎に環境の認識度合を推定すればよい。
【0132】
この結果、マイクロコンピュータ70は、ドライバの実際の環境認識を考慮して逐次学習し、ドライバ個人の視覚特性に応じて、交通環境の認識度合を正確に推定することができる。
【0133】
【発明の効果】
本発明に係る環境複雑度演算装置は、前記撮像手段で生成された撮像画像に含まれる輝度の変化の分布、前記撮像画像に含まれる赤色系画素の分布の少なくとも一方に基づいて、環境の複雑度を演算することによって、環境の認識のしにくさ、すなわち環境の複雑さを示す複雑度を求めることができる。
【0134】
本発明に係る環境認識度合推定装置は、複雑度演算装置で演算された複雑度に基づいて環境の認識度合を推定することによって、観察者の環境の認識度合を客観的かつ正確に推定することができる。
【0135】
本発明に係る障害物警報装置は、障害物の位置を検出し、検出された障害物の位置を含む所定領域が環境の認識度合が低いと推定されたときに、前記障害物に関する警報を行うことによって、環境の認識度合の低い領域に障害物があるときに当該障害物の存在を観察者に警報することができる。一方、環境の認識度合の高い領域に障害物があるときに警報を行わないので、観察者が余計な警報によって煩わしさを受けることを防止することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態に係る障害物警報装置の構成を示すブロック図である。
【図2】障害物警報装置に備えられたスライダパネルの構成を示す図である。
【図3】障害物警報装置に備えられたマイクロコンピュータの動作手順のメインルーチンを示すフローチャートである。
【図4】メインルーチンにおけるステップST1の具体的な動作手順を示すフローチャートである。
【図5】データキャリアとデータキャリアリーダの概要を説明するための図である。
【図6】マイクロコンピュータに記憶された出現範囲推定テーブルを示す図である。
【図7】LCDに表示される障害物表示画面を示す図である。
【図8】メインルーチンにおけるステップST2の具体的な動作手順を示すフローチャートである。
【図9】障害物表示画面を領域Aから領域Dに分割した状態を説明する図である。
【図10】障害物表示画面を模式的に領域Aから領域Dに分割した状態を説明する図である。
【図11】領域Bで指標C1を演算するときの撮像画像の一例を示す図である。
【図12】撮像画像の輝度値の一例を示す図である。
【図13】撮像画像の一例を示す図である。
【図14】複雑度Cが時刻によって変化する状態を説明する図である。
【図15】環境照度に対する閾値が記述された閾値テーブルを示す図である。
【図16】ドライバの姿勢変化に応じて閾値thが変化する状態を説明する図である。
【図17】複雑度Cと閾値thとを比較して環境の認識度合を推定するための図である。
【図18】交通環境が単純である風景画像の一例を示す図である。
【図19】交通環境が複雑である風景画像の一例を示す図である。
【図20】メインルーチンにおけるステップST3の具体的な動作手順を示すフローチャートである。
【図21】サブルーチンにおけるステップST31の具体的な動作手順を示すフローチャートである。
【図22】サブルーチンにおけるステップST32の具体的な動作手順を示すフローチャートである。
【図23】撮像画像の分割の他の手法を説明するための図である。
【図24】撮像画像の分割の他の手法を説明するための図である。
【図25】撮像画像の分割の他の手法を説明するための図である。
【図26】画面中央の分割の一例を示す図である。
【図27】10名のドライバに10枚の撮像画像を提示した場合に、ドライバによって入力された環境の認識度合をプロットした図である。
【図28】指標C1及び指標C2によって決定される認識度合を示す認識度合マップを示す図である。
【図29】指標C1、指標C2、指標C1・C2からなる3次元ベクトル空間を示す図である。
【図30】3次元ベクトル空間内に、環境の認識度合が低いと推定される第1の領域と、環境の認識度合が高いと推定される第2の領域とを設けた状態を説明する図である。
【図31】ニューラルネットを用いて環境の認識度合を推定するマイクロコンピュータの機能的な構成を示すブロック図である。
【符号の説明】
1 障害物警報装置
10 インフラ情報検出部
20 障害物情報検出部
40 環境情報検出部
60 障害物情報出力部
70 マイクロコンピュータ

Claims (9)

  1. 環境からの撮像光に基づいて撮像画像を生成する撮像手段と、
    前記撮像手段で生成された撮像画像に輝度分割ブロックを設定し、設定された輝度分割ブロック内において各画素の輝度値が均質であると判断されるまで、前記輝度分割ブロックを分割して新たな輝度分割ブロックを設定することを繰り返し、前記撮像画像に対して、各画素の輝度値が均質になった輝度分割ブロックの数に基づいて環境の複雑度を演算する複雑度演算手段と、
    を備えた環境複雑度演算装置。
  2. 環境からの撮像光に基づいて撮像画像を生成する撮像手段と、
    前記撮像手段で生成された撮像画像に赤色系分割ブロックを設定し、設定された赤色系分割ブロックが所定の赤色系画素のみで構成されるまで、前記赤色系分割ブロックを分割して新たな赤色系分割ブロックを設定することを繰り返し、前記撮像画像に対して、前記所定の赤色系画素のみで構成される赤色系分割ブロックの数に基づいて環境の複雑度を演算する複雑度演算手段と、
    備えた環境複雑度演算装置。
  3. 環境からの撮像光に基づいて撮像画像を生成する撮像手段と、
    前記撮像手段で生成された撮像画像に輝度分割ブロックを設定し、設定された輝度分割ブロック内において各画素の輝度値が均質であると判断されるまで、前記輝度分割ブロックを分割して新たな輝度分割ブロックを設定することを繰り返し、前記撮像画像に対して、各画素の輝度値が均質になった輝度分割ブロックの数を演算し、前記撮像手段で生成された撮像画像に赤色系分割ブロックを設定し、設定された赤色系分割ブロックが所定の赤色系画素のみで構成されるまで、前記赤色系分割ブロックを分割して新たな赤色系分割ブロックを設定することを繰り返し、前記撮像画像に対して、前記所定の赤色系画素のみで構成される赤色系分割ブロックの数を演算し、前記輝度分割ブロックの数と、赤色系分割ブロックの数と、に基づいて環境の複雑度を演算する複雑度演算手段と、
    備えた環境複雑度演算装置。
  4. 請求項1からのいずれか1項記載の環境複雑度演算装置と、
    前記複雑度演算装置で演算された複雑度に基づいて、環境の認識度合を推定する環境認識度合推定手段と、
    を備えた環境認識度合推定装置。
  5. 前記環境認識度合推定手段は、前記複雑度演算装置で演算された複雑度が閾値以上であるときは環境の認識度合が低いと推定し、前記複雑度演算装置で演算された複雑度が閾値より小さいときは環境の認識度合が高いと推定すること
    を特徴とする請求項記載の環境認識度合推定装置。
  6. 環境の照度を検出する照度検出手段を更に備え、
    前記環境認識度合推定手段は、前記環境の照度に対応する前記閾値が記述された閾値テーブルに基づいて、前記照度検出手段により検出された照度に対応する前記閾値を設定ること
    を特徴とする請求項5載の環境認識度合推定装置。
  7. 観察者の姿勢変化を検出する姿勢変化検出手段を更に備え、
    前記環境認識度合推定手段は、前記姿勢変化検出手段で検出された観察者の姿勢変化が大きくなるに従って前記閾値テーブルに記述された前記閾値の最大値を大きく設定し、前記姿勢変化検出手段で検出された観察者の姿勢変化が小さくなるに従って前記閾値の最大値を小さく設定ること
    を特徴とする請求項記載の環境認識度合推定装置。
  8. 所定領域毎に環境の認識度合を推定する請求項からのいずれか1項記載の環境認識度合推定装置と、
    障害物の位置を検出する障害物位置検出手段と、
    前記障害物検出手段で検出された障害物の位置を含む所定領域が、前記環境認識度合推定手段によって環境の認識度合が低いと推定されたときに、前記障害物に関する警報を行う警報手段と、
    を備えた障害物警報装置。
  9. 前記環境認識度合推定装置は、撮像画像の下部を除く領域を複数の推定領域に分割し、分割された推定領域毎に環境の認識度合を推定し、
    前記警報手段は、前記障害物位置検出手段により検出された障害物の位置が前記推定領域のいずれにあり、かつ、当該推定領域の環境の認識度合が前記環境認識度合推定手段によって低いと推定されたときに、優先度の高い推定領域に存在する障害物に関する警報を行うこと
    を特徴とする請求項記載の障害物警報装置。
JP2001258170A 2001-08-28 2001-08-28 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置 Expired - Fee Related JP4752158B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001258170A JP4752158B2 (ja) 2001-08-28 2001-08-28 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001258170A JP4752158B2 (ja) 2001-08-28 2001-08-28 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置

Publications (2)

Publication Number Publication Date
JP2003067727A JP2003067727A (ja) 2003-03-07
JP4752158B2 true JP4752158B2 (ja) 2011-08-17

Family

ID=19085738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001258170A Expired - Fee Related JP4752158B2 (ja) 2001-08-28 2001-08-28 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置

Country Status (1)

Country Link
JP (1) JP4752158B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3931860B2 (ja) 2003-07-30 2007-06-20 アイシン精機株式会社 移動体通信装置
JP4185545B2 (ja) 2004-03-29 2008-11-26 パイオニア株式会社 道路景観解析装置及び方法
JP4650079B2 (ja) * 2004-11-30 2011-03-16 日産自動車株式会社 物体検出装置、および方法
JP4628135B2 (ja) * 2005-02-23 2011-02-09 ユーテック株式会社 超音波識別装置、およびこの超音波識別装置を用いた制御装置
JP4811201B2 (ja) * 2005-12-06 2011-11-09 日産自動車株式会社 走路境界線検出装置、および走路境界線検出方法
JP4730131B2 (ja) * 2006-02-27 2011-07-20 マツダ株式会社 車両用走行支援装置
JP4670805B2 (ja) * 2006-12-13 2011-04-13 株式会社豊田中央研究所 運転支援装置、及びプログラム
JP2008191781A (ja) * 2007-02-01 2008-08-21 Hitachi Ltd 衝突回避システム
JP2010141755A (ja) * 2008-12-15 2010-06-24 Nippon Telegr & Teleph Corp <Ntt> 道路監視システム、道路監視方法および道路監視プログラム
WO2011117974A1 (ja) * 2010-03-23 2011-09-29 パイオニア株式会社 危険箇所警告装置及び危険箇所警告方法
US9070023B2 (en) * 2013-09-23 2015-06-30 Toyota Motor Engineering & Manufacturing North America, Inc. System and method of alerting a driver that visual perception of pedestrian may be difficult
JP6332383B2 (ja) * 2016-09-29 2018-05-30 マツダ株式会社 車両用物標検出システム
JP6384534B2 (ja) * 2016-09-29 2018-09-05 マツダ株式会社 車両用物標検出システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6462784A (en) * 1987-09-03 1989-03-09 Ricoh Kk Identifying method for picture attribute
JP2839100B2 (ja) * 1989-05-15 1998-12-16 マツダ株式会社 移動車の前方車認識装置及びその方法
JP3082507B2 (ja) * 1993-04-07 2000-08-28 日産自動車株式会社 移動体の画像処理装置
JP3138135B2 (ja) * 1994-04-27 2001-02-26 日野自動車株式会社 曲折警報装置
JPH0995194A (ja) * 1995-09-29 1997-04-08 Aisin Seiki Co Ltd 車両前方の物体検出装置
US6633611B2 (en) * 1997-04-24 2003-10-14 Mitsubishi Denki Kabushiki Kaisha Method and apparatus for region-based moving image encoding and decoding
US6154559A (en) * 1998-10-01 2000-11-28 Mitsubishi Electric Information Technology Center America, Inc. (Ita) System for classifying an individual's gaze direction
JP4366758B2 (ja) * 1999-05-27 2009-11-18 コニカミノルタホールディングス株式会社 領域抽出装置および領域抽出方法、ならびに領域抽出プログラムを記録した記録媒体
JP2000348184A (ja) * 1999-06-01 2000-12-15 Toshiba Corp 背景画像生成装置及びその方法

Also Published As

Publication number Publication date
JP2003067727A (ja) 2003-03-07

Similar Documents

Publication Publication Date Title
US11941873B2 (en) Determining drivable free-space for autonomous vehicles
US20230012645A1 (en) Deep neural network processing for sensor blindness detection in autonomous machine applications
CN111133447B (zh) 适于自主驾驶的对象检测和检测置信度的方法和系统
US11676364B2 (en) Real-time detection of lanes and boundaries by autonomous vehicles
CN112825136B (zh) 自主机器应用中使用radar传感器检测障碍物的深度神经网络
CN113811886B (zh) 自主机器应用中的路口检测和分类
US11675359B2 (en) Path detection for autonomous machines using deep neural networks
CN112825134B (zh) 自主机器应用中使用radar传感器检测障碍物的深度神经网络
US20200218979A1 (en) Distance estimation to objects and free-space boundaries in autonomous machine applications
CN113785302A (zh) 自主机器应用中的路口姿态检测
CN114450724A (zh) 用于自主机器应用的多活动者环境中的未来轨迹预测
JP5179686B2 (ja) 運転行動危険度演算装置
JP4678110B2 (ja) 環境危険度演算装置
US10336252B2 (en) Long term driving danger prediction system
CN108082037A (zh) 制动灯检测
JP4752158B2 (ja) 環境複雑度演算装置、環境認識度合推定装置及び障害物警報装置
WO2020098004A1 (zh) 车道通行状态提醒方法及设备
JPWO2012169029A1 (ja) 車線逸脱防止支援装置、車線逸脱防止方法、記憶媒体
JP2024019588A (ja) 地図データ生成装置
CN116795091A (zh) 自主系统和应用程序的环境重建和路径规划
CN114684062A (zh) 约束设备定位
JP2024045551A (ja) 情報出力装置
CN112970029B (zh) 用于自主机器应用中传感器视盲检测的深度神经网络处理
JP2021144311A (ja) 情報処理装置
CN114913507A (zh) 一种基于公交车尾屏的行人检测方法、装置及公交车尾屏

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080609

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110124

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110509

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140603

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees