JP2012071635A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2012071635A5 JP2012071635A5 JP2010216349A JP2010216349A JP2012071635A5 JP 2012071635 A5 JP2012071635 A5 JP 2012071635A5 JP 2010216349 A JP2010216349 A JP 2010216349A JP 2010216349 A JP2010216349 A JP 2010216349A JP 2012071635 A5 JP2012071635 A5 JP 2012071635A5
- Authority
- JP
- Japan
- Prior art keywords
- image
- vehicle
- parking
- area
- overhead image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Description
本発明は、駐車時における自車両周囲の状況を運転者に認識させるための俯瞰画像を表示することで運転者の運転操作を支援する駐車支援装置に関する。
従来、自車両(以下単に自車と略称する)の死角領域の確認のために車両上方の仮想視点から見下ろした俯瞰画像をモニタ表示して、運転者を支援する技術が知られている。この俯瞰画像は、複数の車載カメラで車両周囲を撮影し、これら複数の車載カメラで取得された撮影画像を車両上方の仮想視点から見下ろした画像に視点変換して繋ぎ合わせることにより得られる。その際、自車を表す自車イメージをモニタ表示される俯瞰画像の中心に合成することで、自車周囲の様子が運転者に容易に認識させる工夫がなされている。
そのような俯瞰画像を用いた従来の駐車支援装置の1つとして、自車の周囲の画像を取得する撮像手段と、自車の画像のデータを予め格納すると共に、撮像手段により取得された画像のデータを格納する記憶手段と、前記自車の周囲の画像及び自車の画像から前記自車を上方の仮想視点から見た俯瞰画像を生成する画像変換手段と、自車の周囲の障害物を検出し、障害物情報として障害物の自車からの距離及び相対速度を算出する障害物検出手段と、この障害物情報に基づいて障害物が移動体であると判定したとき、当該障害物が俯瞰画像の端に表示されるように縮尺を変更してモニタ表示させる装置が知られている(例えば、特許文献1参照)。この装置では、俯瞰画像の表示において、自車と周囲の障害物とが接近したとき、自車を中心として障害物が俯瞰画像の端になるように縮尺を変更して俯瞰画像が拡大して表示される。これにより、自車と障害物とが明確に表示されるが、障害物が検知されることが拡大表示のトリガーとなっているので、障害物が検知されなければ拡大表示はされない。そのため、運転者には拡大表示だけに頼るわけにはいかないという不安が生じる。
また、自車イメージが画面中央に固定されて自車周囲俯瞰画像が自車の移動に伴い変化する第1俯瞰画像表示形態と、自車周囲俯瞰画像が画面上で固定されて自車イメージの位置が自車の移動に伴い変化する第2俯瞰画像表示形態とをそのときの状況などに応じて選択的に切り替えながらモニタ表示する駐車支援装置も知られている(例えば、特許文献2参照)。この装置では、第1俯瞰画像表示形態と第2俯瞰画像表示形態とでは自車イメージの表示俯瞰画像中の位置は異なっているが、状況に応じて拡大表示されるわけではないので、自車が特別に注意を払うべき位置にいることが特別に示されるわけではない。
上記実情に鑑みて、本発明の目的は、駐車走行時に注意すべき領域が明確にモニタ表示される表示俯瞰画像が生成される駐車支援装置を提供することにある。
本発明による駐車支援装置の特徴は、自車周辺を撮影するカメラによって取得された撮影画像から視点変換を通じて俯瞰画像を生成する俯瞰画像生成部と、設定された駐車目標位置への駐車経路を生成する駐車経路生成部と、前記駐車経路に沿った経路進行に伴う曲率の変動に基づき、注意領域を決定する注意領域決定部と、前記俯瞰画像生成部によって生成された俯瞰画像における前記注意領域を含む俯瞰画像をモニタに表示する自車周辺の表示画像として入力し、当該入力した俯瞰画像における自車位置に自車イメージを合成して表示俯瞰画像を生成する画像合成部とを備えた点にある。
駐車目標位置を設定することで生成される駐車経路に沿った走行において自車が他の駐車自車や障害物との接触事故や脱輪などを起こしやすい領域は、例えば統計的に想定することができる。このことから、注意領域決定部によって決定された駐車経路に沿った駐車走行時に注意すべき注意領域がモニタに表示される表示俯瞰画像に含まれるように、撮影画像から生成された俯瞰画像を調整する。これにより、注意領域のモニタでの視認が可能となる。
さらに、この注目すべき注意領域が表示俯瞰画像に含まれるように調整する際に、自車イメージを表示俯瞰画像の中心に配置するという制約条件をなくすると好適である。これにより、モニタに注意領域と自車イメージが無駄なく表示され、駐車走行時に注意すべき領域を運転者が確認しやすい。しかも注意領域の確認が容易であり、自車イメージを中心からオフセットした俯瞰画像の表示のために、障害物検知といったイベントの発生をトリガーとしないので、より安定した駐車支援が可能となる。
さらに、この注目すべき注意領域が表示俯瞰画像に含まれるように調整する際に、自車イメージを表示俯瞰画像の中心に配置するという制約条件をなくすると好適である。これにより、モニタに注意領域と自車イメージが無駄なく表示され、駐車走行時に注意すべき領域を運転者が確認しやすい。しかも注意領域の確認が容易であり、自車イメージを中心からオフセットした俯瞰画像の表示のために、障害物検知といったイベントの発生をトリガーとしないので、より安定した駐車支援が可能となる。
注意領域のモニタでの視認を可能にする具体的な構成として、本発明による駐車支援装置では、自車周辺を撮影するカメラによって取得された撮影画像から視点変換を通じてモニタに表示する自車周辺の表示画像としての俯瞰画像を生成する俯瞰画像生成部と、設定された駐車目標位置への駐車経路を生成する駐車経路生成部と、前記俯瞰画像を前記モニタにおける俯瞰画像表示領域に表示するために前記俯瞰画像をトリミングする画像トリミング部と、前記俯瞰画像における自車位置に自車イメージを合成して表示俯瞰画像を生成する画像合成部と、前記駐車経路に沿った駐車走行時に注意すべき注意領域を決定する注意領域決定部と、前記注意領域を前記表示俯瞰画像に含めるために前記自車イメージが前記表示俯瞰画像の中心からオフセットされるトリミング条件情報を生成して画像トリミング部に与えるトリミング条件情報生成部とが備えられている点にある。
この構成では、注意領域決定部によって決定された駐車経路に沿った駐車走行時に注意すべき注意領域がモニタに表示される表示俯瞰画像に含まれるように、撮影画像から生成された俯瞰画像をトリミングする。さらに、この注目すべき注意領域が表示俯瞰画像に含まれるようにトリミングする際に、自車イメージを表示俯瞰画像の中心に配置するという制約条件をなくする。これにより、自車イメージを表示俯瞰画像の中心からオフセットするようなトリミングを行うこと可能となり、モニタに注意領域と自車イメージが無駄なく表示され、駐車走行時に注意すべき領域を運転者が確認しやすい。しかも注意領域の確認が容易であり、自車イメージを中心からオフセットした俯瞰画像の表示のために、障害物検知といったイベントの発生をトリガーとしないので、より安定した駐車支援が可能となる。
なお、注意領域が複数存在している場合、自車位置に応じて最も重要な注意領域つまりもっとも逼迫度の高い注意領域を注目すべき注意領域とするとよい。つまり、前記注意領域が複数存在する場合、高逼迫度の注意領域が前記表示俯瞰画像に含められる構成が好都合である。
なお、注意領域が複数存在している場合、自車位置に応じて最も重要な注意領域つまりもっとも逼迫度の高い注意領域を注目すべき注意領域とするとよい。つまり、前記注意領域が複数存在する場合、高逼迫度の注意領域が前記表示俯瞰画像に含められる構成が好都合である。
複数の注意領域のなかからトリミング時に注目すべき高逼迫度の注意領域を選ぶための好適な具体例の1つとして、本発明では、前記自車と前記注意領域とが所定距離内である場合に当該注意領域に前記高逼迫度を設定する、つまり注目注意領域として設定することが提案される。自車が設定された駐車経路に沿って走行しているので、自車の駐車経路での走行距離を算定することで簡単に自車と注意領域との間の距離が得られるので演算処理的に好都合である。
高逼迫度の注意領域と自車イメージとが含まれるように俯瞰画像から表示俯瞰画像をトリミングする際に、前記高逼迫度の注意領域と前記自車イメージとを含むことになる最小領域で前記俯瞰画像がトリミングされるようにすると、そのトリミングされた表示俯瞰画像は通常の表示俯瞰画像に比べて拡大された画像となる可能が高くなる。これにより、危険性がより明確な俯瞰画像がモニタ表示されることになる。
自動車等の操向特性から駐車時に実行されるカーブ走行では、車体のコーナ端部が大きく振れ、このコーナ端部が他の車両や障害物に接触する可能性が高い。従って、本発明の好適な実施形態の1つでは、前記注意領域決定部は、前記駐車経路に沿った駐車走行時において自車の端部が駐車経路から大きく振れる領域を前記注意領域として決定するように構成されている。
自車に障害物を検出する機能が備わっている場合、その障害物検出部で生成された自車周辺の障害物の存在に関する障害物情報に基づいて追加的な注意領域を設定することができる。従って、そのような車両においては、前記注意領域決定部は、自車周辺の障害物の存在に関する障害物情報に基づいて、前記駐車経路における自車と前記障害物とが所定距離内に接近する接近領域を求め、当該接近領域を特別注意領域として追加的に決定する好適な構成を採用することができる。このような障害物情報に基づく注意領域はより緊急度が高いとみなされるので、先の注意領域に比べ優先的に処理するようにすると好都合である。
以下、本発明の実施形態を図面に基づいて説明する。本実施形態では、自車に備えられた複数のカメラの撮影画像を元にして、自車を上方から見下ろした形態となる俯瞰画像を生成してモニタに表示することが可能な駐車支援装置が例示されている。
図1及び図2に示すように、左右の前輪11aと11bが操舵輪として、左右の後輪12aと12bが非操舵輪として構成されている車両に、複数の車載カメラが設置されている。車両後部、即ちバックドア91には後方カメラ1aが備えられている。左前部ドアに備えられた左サイドミラー92の下部には左サイドカメラ1bが備えられ、右前部ドアに備えられた右サイドミラー93の下部には右サイドカメラ1cが備えられている。また、車両前部には、前方カメラ1dが備えられている。以下の説明において、適宜、これらのカメラ1a〜1dを総称してカメラ1(車載カメラ)と称する。
カメラ1はCCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を用いて、毎秒15〜30フレームの2次元画像を時系列に撮影し、デジタル変換してその撮影画像をリアルタイムに出力するデジタルカメラである。カメラ1は、広角レンズを備えて構成される。特に、本実施形態においては、水平方向に140〜190°の視野角が確保されている。後方カメラ1a及び前方カメラ1dは、光軸に約30度程度の俯角を有して車両に設置され、車両からおおよそ8m程度までの領域を撮影可能である。左サイドカメラ1b及び右サイドカメラ1cはサイドミラー92及び93の底部に光軸を下方に向けて設置され、車両側面の一部と路面(地面)とがその被写体となる。図2に示すように、車両前部と後部の左右コーナ端部の外方位置には2つのカメラの撮影画像における重複領域W(図2を参照)が形成される。カメラ1による4つの撮影画像からの俯瞰画像の生成時にはこの重複領域Wを区分けする境界線を目立たなくするような画像処理が実施される。
駐車支援においては、カメラ1による撮影画像ないしは当該撮影画像を用いて生成された駐車支援用画像がモニタ21に表示される。また、駐車出発点から目標とする駐車領域までの駐車経路に基づく音声による駐車案内もスピーカ22から発せられる。駐車領域の確認やその他の操作入力はモニタ21に装着されたタッチパネル21Tを通じて行われる。
駐車支援においては、カメラ1による撮影画像ないしは当該撮影画像を用いて生成された駐車支援用画像がモニタ21に表示される。また、駐車出発点から目標とする駐車領域までの駐車経路に基づく音声による駐車案内もスピーカ22から発せられる。駐車領域の確認やその他の操作入力はモニタ21に装着されたタッチパネル21Tを通じて行われる。
車両内部には、本発明の駐車支援装置の中核をなす駐車支援制御ユニット(以下単にECUと称する)20が配置されている。このECU20は、図3に示すように、情報の入出力を行う入出力インターフェースとしてセンサ入力インターフェース23や通信インターフェース80などを備えると共に、入出力インターフェースを介して得られる情報を処理するマイクロプロセッサや、DSP(digital signal processor)を備えている。また、入出力インターフェースの一部又は全てがこのようなプロセッサに含まれていてもよい。
センサ入力インターフェース23には、運転操作や移動状態を検出するための車両状態検出センサ群が接続されている。車両状態検出センサ群には、ステアリング操作方向(操舵方向)と操作量(操舵量)とを計測するステアリングセンサ24、シフトレバーのシフト位置を判別するシフト位置センサ25、アクセルペダルの操作量を計測するアクセルセンサ26、ブレーキペダルの操作量を検出するブレーキセンサ27、自車の走行距離を検出する距離センサ28などが含まれている。
また、通信インターフェース80は、車載LANを採用しており、タッチパネル21Tやモニタ21だけでなく、パワーステアリングユニットPS、変速機構T、ブレーキ装置BKなどの制御ユニットがデータ伝送可能に接続されている。
また、通信インターフェース80は、車載LANを採用しており、タッチパネル21Tやモニタ21だけでなく、パワーステアリングユニットPS、変速機構T、ブレーキ装置BKなどの制御ユニットがデータ伝送可能に接続されている。
ECU20には、報知出力機能部として、DSPで構成される出力画像処理モジュール60と音声処理モジュール70が備えられている。出力画像処理モジュール60で生成されたGUI用の各種画像情報や車両誘導のための補助画像を含む撮影画像情報はモニタ21に表示される。音声処理モジュール70で生成された車両誘導のための音声ガイドや緊急時の警告音などはスピーカ22で鳴らされる。さらに、ECU20には、入力画像処理モジュール50と、駐車目標位置設定部31と、注意領域決定部32と、駐車経路生成部33と、誘導制御部34と、位置情報算定部35とである。この実施形態では障害物検出部36も備えられている。
入力画像処理モジュール50は、カメラ1によって取得された撮影画像を処理して得られた処理済み画像を、他の機能部や出力画像処理モジュール60に転送するが、入力画像処理モジュール50と出力画像処理モジュール60の機能は後で詳しく説明する。
駐車目標位置設定部31は、入力画像処理モジュール50で前処理を終えた撮影画像に基づいて画像処理的にまたは人為操作的にあるいはその両方で、図4で示すような、自車を駐車させるための目標駐車領域Paを設定するとともにその駐車走行の到達点となる目標駐車位置としての駐車完了位置Peを設定する。また、駐車目標位置設定部31は、この駐車のために停止した自車位置を駐車走行の出発点となる駐車出発点Psとして設定する機能も有する。なお、図4に示す例では、目標駐車領域Paとして、路面に作り出される1つ、または2つの区画線Y(駐車区画線または路肩境界線)を境界基準とする領域が設定されている。図4の(a)は、区画線Yとしての駐車白線によって境界付けられた目標駐車領域Paへの車庫入れ駐車を示しており、図4の(b)は、路肩境界線と自車幅によって境界付けられた目標駐車領域Paへの縦列駐車を示している。
駐車経路生成部33は、図4で例示するような、駐車経路Kを生成する。この駐車経路Kは、駐車出発点Psから駐車目標位置である駐車完了位置Peまでを結ぶ経路であり、部分的に直線が含まれたり、または全体として直線であったりしてもよいが、実質的には1つ以上の曲線で示すことができる。なお駐車経路Kの生成アルゴリズムは、従来から知られており、特開2003‐237511号公報や特開2008‐284969号公報などを参照することができる。
注意領域決定部32は、駐車経路生成部33によって生成された駐車経路Kに沿った駐車走行時に注意すべき注意領域Zを決定する。図4の(a)に示す例では、車庫入れ駐車時の駐車経路K1とK2に沿って現れる4つの注意領域Z(Z1,Z2,Z3,Z4)が決定されている。また、図4の(b)に示す例では、縦列駐車時の駐車経路Kに沿って現れる3つの注意領域Z(Z1,Z2,Z3)が決定されている。これらの注意領域Zは、自車の中心が駐車経路Kに沿って移動した際に、自車のコーナ端部が駐車経路から大きく振れることにより他の駐車車両や障害物などに接触する可能性が大きくなる領域である。注意領域決定部32は、決定した注意領域Zに関する座標位置等を含む注意領域Z1・・・のリスト情報である注意領域情報を生成して、出力画像処理モジュールに送る。
位置情報算定部35は、自車の移動時に、自車の誘導に必要な現在の車両位置と、自車に対する目標駐車領域Paの位置とを取得する。つまり、位置情報算定部35では自車の移動に伴って変化する自車の位置情報を検出する車両位置検出処理と、自車の移動に伴って変化する目標駐車領域Paとの相対的な位置関係を検出する駐車目標位置検出処理とを行う。これらの処理はカメラ1で取得された撮影画像と、距離センサ28で取得する車両移動量と、ステアリングセンサ24で計測されるステアリングホイールの操舵量とに基づいて行われる。
誘導制御部34は、駐車経路生成部33によって生成された直接駐車経路Kに基づく駐車を誘導する。その際、位置情報算定部35からの位置情報が参照される。誘導制御部34は、位置情報算定部35からの位置情報を参照しながら、駐車経路Kに沿うように誘導制御によって自車を走行させる制御を実現することができる。しかしながら、誘導制御部34がパワーステアリングユニットPS、変速機構T、ブレーキ装置BKを制御する自動操舵は後進走行だけに限定して、前進走行は人為操舵とするといったように、部分的に人為操舵を組み込んでもよい。いずれにせよ、この誘導制御部34が、誘導情報を出力画像処理モジュール60や音声処理モジュール70に送ることで操舵方向や操舵量をモニタ21に表示させたり、操舵方向や操舵量をスピーカ22から出力させたりすることが好ましい。
障害物検出部36は、それ自体はよく知られているので詳しい説明は省略するが、距離計測処理及び画像認識処理を用いて車両周辺近傍に存在する物体(障害物)を検出する。このため、ここでは図示されていない、車両前部、後部、左側部、右側部のそれぞれにおける両端箇所と中央箇所とに配置された複数の超音波センサが接続されている。なお、超音波センサに代えてレーザレーダ等の他の物体検出センサを用いても良い。障害物検出部36は、各超音波センサにおける反射波の戻り時間や振幅を処理することで車両から物体までの距離や物体の大きさを推定できるだけでなく、全ての超音波センサの検出結果を経時的に処理することで、物体の動きや横方向の外形形状を推定することも可能である。障害物検出部36は車両周辺の障害物の存在に関する障害物情報を生成して注意領域決定部32に送る。前記注意領域決定部32は、この障害物情報に基づいて、駐車経路Kにおける自車と障害物とが所定距離内に接近する接近領域を抽出して当該接近領域を特別注意領域として追加的に決定して優先的に処理される注意領域情報を生成することができる。
図5に、ECU20の入力画像処理モジュール50と出力画像処理モジュール60の機能ブロック図が示されている。入力画像処理モジュール50は、自車周辺を撮影するカメラによって取得された撮影画像から自車上方を視点とする視点変換によって俯瞰画像を生成する機能を有している。出力画像処理モジュール60は、入力画像処理モジュール50によって生成された俯瞰画像を上述した注意領域情報に基づいてトリミングしてモニタの俯瞰画像表示領域に合わせた表示俯瞰画像を生成する。
入力画像処理モジュール50は、撮影画像メモリ51、前処理部52、画像生成部53、表示用画像メモリ57を含んでいる。カメラ1によって取得された撮影画像は撮影画像メモリ51に展開され、前処理部52は4つのカメラ1a〜1dによって個々に取得された撮影画像間の輝度バランスやカラーバランス等を調整して、適切な画像境界線で区分けする。画像生成部53には、通常画像生成部54と俯瞰画像生成部55とマッピングテーブル56が含まれている。通常画像生成部54は、撮影画像をそのまま車両周辺画像としてモニタ表示するために適した画質に調整する。モニタ表示される車両周辺画像はカメラ1a〜1d毎に独立しており、そのモニタ表示を任意に選択することができる。
俯瞰画像生成部55は、撮影画像メモリ51に展開されている撮影画像を、マッピングテーブル56に記録されている変換情報に基づいて自車の周囲を上方から見たときの俯瞰画像に変換し表示用画像メモリ57に格納する。マッピングテーブル56は種々の形態で構築することができるが、撮影画像の画素データと俯瞰画像の画素データとの対応関係が記述されたテーブルとして構築し、1フレームの撮影画像の各画素に、俯瞰画像における行き先画素座標が記述されたものとするのが好都合である。図6には、縦列駐車時の4つの撮影画像から俯瞰画像への変換の様子が模式的に示されている。後方カメラ1aによる撮影画像はマッピングテーブル56によって後方撮影画像を俯瞰画像の後方領域画像に座標変換される。前方カメラ1dによる撮影画像はマッピングテーブル56によって前方撮影画像を俯瞰画像の前方領域画像に座標変換される。左サイドカメラ1bによる撮影画像はマッピングテーブル56によって左サイド撮影画像を俯瞰画像の左領域画像に座標変換される。右サイドカメラ1cによる撮影画像はマッピングテーブル56によって右サイド撮影画像を俯瞰画像の右領域画像に座標変換される。このため、マッピングテーブル56は各カメラの撮影画像を俯瞰画像に変換するために4つの異なる俯瞰画像マッピングテーブルを備えている。このような4つの撮影画像を用いた俯瞰画像生成は、自車が駐車経路Kに沿って走行する間逐次行われ、適切にトリミングされた形態でモニタ表示される。
出力画像処理モジュール60は、表示用画像メモリ61、トリミング情報生成部62、画像トリミング部63、自車イメージ生成部64、報知イメージ生成部65、画像合成部66、フレームメモリ67を含んでいる。表示用画像メモリ61は入力画像処理モジュール50からの俯瞰画像を一時的に格納するメモリであるが、入力画像処理モジュール50の表示用画像メモリ57と兼用してもよい。画像トリミング部63は、俯瞰画像をモニタ21における俯瞰画像表示領域に表示するために表示用画像メモリ61に展開されている俯瞰画像をトリミングする。画像合成部66は、自車イメージ生成部64で用意された自車イメージと、報知イメージ生成部65で駐車案内メッセージなどの報知情報をイメージ化した報知イメージとをトリミングされた俯瞰画像に合成して表示俯瞰画像を生成する。トリミング情報生成部62は、注意領域決定部32から送られてきた注意領域情報に基づいて自車位置の所定距離内に入っている注意領域Zを表示俯瞰画像に含めるようにトリミングするトリミング条件情報(特殊トリミング処理の実行内容)を生成して画像トリミング部63に与える。その際に、注意領域Zと前記自車イメージとが含まれるできる限り最小領域でトリミングすることで拡大表示が可能となる拡大トリミング条件情報の生成も可能である。
注意領域Zが所定距離内に入っている自車位置での俯瞰画像のトリミングの様子が図7に模式的に示されているが、図7の(a)は比較目的で、自車イメージを表示俯瞰画像の中心に位置させている従来のトリミング処理(ここでは通常トリミング処理と称している)を示している。この通常トリミング処理は、注目すべき注意領域Zつまり自車位置の所定距離内に入っている注意領域Zがない場合のトリミング処理である。図7の(b)は、自車位置の所定距離内に注意領域Zが入っている場合のトリミング処理(特殊トリミング処理)を示しており、ここでは、注目すべき注意領域Zが左下隅に自車イメージが右上端にくるようなトリミング領域でトリミングされている。つまり、点線で示されているトリミング枠が俯瞰画像の中心、つまり自車位置から注意領域が存在する方向にオフセットされている。これにより、最終的にモニタ表示される表示俯瞰画像では自車とともに注意領域、場合によっては接触可能性のある障害物(他車両など)が表示されることになり、運転者にとって好都合である。さらに、図8に示す例では、注意領域Zと自車位置とが含まれるできる限り最小領域となるように縮小されたトリミング枠が使用されている。その結果、モニタに表示される表示俯瞰画像は拡大画像となっており、運転者により精密な注意領域の情報を与えることができる。
なお、図7と図8で示すように、モニタ21の画面は、表示俯瞰画像を表示する俯瞰画像表示領域と、カメラ1による撮影画像(例えば自車進行方向の撮影画像)を表示する撮影画像領域とに区分けされている。
なお、図7と図8で示すように、モニタ21の画面は、表示俯瞰画像を表示する俯瞰画像表示領域と、カメラ1による撮影画像(例えば自車進行方向の撮影画像)を表示する撮影画像領域とに区分けされている。
次に、上述のように構成された駐車支援装置による駐車支援制御の流れを図8と図9のフローチャートを用いて説明する。図8は駐車支援制御のメインルーチンを示すフローチャートであり、図9は俯瞰画像に対するトリミング形式の選択を決定するルーチンを示すフローチャートである。
駐車支援制御によって後進駐車を行う場合には、駐車スペースの近傍位置で自車を停車し、停車した自車位置を駐車出発位置として読み込み(#02)、この駐車スペースを駐車目標位置として指定する(#04)。駐車出発位置と駐車目標位置との間の駐車経路を演算する(#06)。駐車経路が求められると、この駐車経路の形態、特に経路進行に伴う曲率の変動に基づいて、自車の一部が障害物と接触する可能性が高い箇所などを注意領域とする判定処理を行う(#08)。例えば、自車が駐車経路を移動する際にその周辺に障害物などが存在した場合に、当該障害物に自車が接触する可能性が高い領域は統計学的に推定することができる。もちろん、より高い信頼度でもって推定を行うためには、後進と前進のどちらで走行しているかという条件や、その車両特性、特に操向特性も考慮する必要がある。いずれにしても、予め多数の駐車経路パターンを想定して、その各駐車経路パターンにおける自車経路位置での接触可能性から、注意すべき周囲領域を推定し、その周囲領域を割り当てておくことで、簡単に注意領域の決定が実現できる。この判定処理で決定された注意領域は、その位置や大きさとともに注意領域リストに記録される。
駐車支援制御によって後進駐車を行う場合には、駐車スペースの近傍位置で自車を停車し、停車した自車位置を駐車出発位置として読み込み(#02)、この駐車スペースを駐車目標位置として指定する(#04)。駐車出発位置と駐車目標位置との間の駐車経路を演算する(#06)。駐車経路が求められると、この駐車経路の形態、特に経路進行に伴う曲率の変動に基づいて、自車の一部が障害物と接触する可能性が高い箇所などを注意領域とする判定処理を行う(#08)。例えば、自車が駐車経路を移動する際にその周辺に障害物などが存在した場合に、当該障害物に自車が接触する可能性が高い領域は統計学的に推定することができる。もちろん、より高い信頼度でもって推定を行うためには、後進と前進のどちらで走行しているかという条件や、その車両特性、特に操向特性も考慮する必要がある。いずれにしても、予め多数の駐車経路パターンを想定して、その各駐車経路パターンにおける自車経路位置での接触可能性から、注意すべき周囲領域を推定し、その周囲領域を割り当てておくことで、簡単に注意領域の決定が実現できる。この判定処理で決定された注意領域は、その位置や大きさとともに注意領域リストに記録される。
注意領域が決定すると(#08)、撮影画像が取り込まれ(#10)、この撮影画像から俯瞰画像が生成される(#12)。次いで、生成された俯瞰画像に対してトリミング処理を施して、生成された俯瞰画像全体をモニタ画面に表示すると、限られたモニタ画面サイズからさらに割り当てられている俯瞰画像の表示エリアに表示された俯瞰画像は小さすぎて見づらいという問題が生じる。これを解消するために、本発明では、俯瞰画像に対してトリミング処理を施す。利用されるトリミング処理タイプは、後で図10を用いながら詳しく説明されるトリミング選択フラグに書き込まれているので、このトリミング選択フラグ内容がチェックされる(#14)。この実施形態では、トリミング選択フラグの内容が「特殊」であるときに実行される特殊トリミング処理(#16)と、トリミング選択フラグの内容が「通常」であるときに実行される通常トリミング処理(#18)とが組み込まれている。なお、特殊トリミング処理を行う場合の対象となる注意領域は注意領域リストにおいて識別可能にマーキングされているので、そのマーキングされた注意領域が明確に表示されるようなトリミング処理が行われる。
いずれかのトリミング処理が終了すると、トリミングされた俯瞰画像を用いて表示俯瞰画像が生成され(#20)、モニタ21に表示される(#22)。車両誘導が始まると、モニタ21には駐車支援としての車両誘導メッセージなどの報知メッセージも表示される。所定距離の走行が行われると、自車が駐車目標点に到達したかどうかチェックされる(#24)。自車が駐車目標点に到達していなければ(#26No分岐)、新たな撮影画像での俯瞰画像を生成し、これをモニタ表示しながら車両誘導を続行するためにステップ#10に戻る。自車が駐車目標点に到達すれば(#26Yes分岐)、自車は停止し、この駐車支援ルーチンは終了する。
次に、図10のフローチャートを参照して、前述したトリミング選択フラグにトリミング処理タイプを設定するトリミング選択決定ルーチンを説明する。
まず、トリミング選択フラグに通常トリミング処理の実行を表す「通常」が代入される(#50)。さらに、障害物検出部36で障害物情報が生成され出力されているかどうかチェックされる(#52)。障害物情報があれば(#52Yes分岐)、障害物情報に含まれている障害物の領域を逼迫度の高い注意領域とみなして、重要注意領域として注意領域リストに加えられる(#54)。その後、または障害物情報がない場合(#52No分岐)、現在の自車位置が読み込まれる(#56)。さらに注意領域リストから注意領域が読み出され、その位置が所定の変数に代入される(#58)。
まず、トリミング選択フラグに通常トリミング処理の実行を表す「通常」が代入される(#50)。さらに、障害物検出部36で障害物情報が生成され出力されているかどうかチェックされる(#52)。障害物情報があれば(#52Yes分岐)、障害物情報に含まれている障害物の領域を逼迫度の高い注意領域とみなして、重要注意領域として注意領域リストに加えられる(#54)。その後、または障害物情報がない場合(#52No分岐)、現在の自車位置が読み込まれる(#56)。さらに注意領域リストから注意領域が読み出され、その位置が所定の変数に代入される(#58)。
通常は、注意領域リストから複数の注意領域が読み出されるので、以下の判定処理を行うために、1つずつ順番に注目注意領域として指定する(#60)。まずは、自車と注意領域との最短の間隔:Δxが算出される(#62)。さらに、その間隔:Δxが所定のしきい値:ΔXs未満(Δx<ΔXs)であるかどうかチェックされる(#64)。なお、注意領域が重要注意領域の場合は、しきい値:ΔXsを大きくしておくことが好都合である。
Δx<ΔXsが成立している場合(#64Yes分岐)、トリミング選択フラグに特殊トリミング処理の実行を表す「特殊」が代入され(#66)、その注目注意領域が注意領域リストにおいて特殊トリミング対象としてマーキングされる。
Δx<ΔXsが成立している場合(#64Yes分岐)、トリミング選択フラグに特殊トリミング処理の実行を表す「特殊」が代入され(#66)、その注目注意領域が注意領域リストにおいて特殊トリミング対象としてマーキングされる。
なお、1つの自車位置において、特殊トリミング対象となる注意領域が1つだけと限定すれば、トリミング選択フラグに「特殊」が代入された段階で、この判定処理を終了することができる。しかしながら、1つの自車位置において、特殊トリミング対象となる注意領域が複数決定されることも考慮するなら、注意領域リストにおいて特殊トリミング対象としてマーキングされる段階で、そのリミング選択フラグに「特殊」が代入された段階で間隔:Δxを注意領域リストに書き込んでおく。そして、新しく。Δx<ΔXsが成立する注意領域が見つかった場合には、その間隔:Δxが短い方を上書きして、特殊トリミング対象としてマーキングするようにするとよい。また、重要注意領域は、優先的に特殊トリミング対象としてマーキングするようにしてもよい。
Δx<ΔXsが成立しない場合(#64No分岐)、さらに次の処理すべき注意領域が存在しないかどうかチェックする(#68)。次の処理すべき注意領域があれば(#68No分岐)、ステップ#60に戻って、次の注意領域を注目注意領域として同様な処理を行う。次の処理すべき注意領域がなければ(#68Yes分岐)、このルーチンを繰り返すためにステップ#50に戻る。
〔別実施の形態〕
上述した実施の形態では、注意領域として検知された障害物の存在領域を含ませているが、本発明はそのような障害物検知の機能を有する車輌に限定されているわけではなく、障害物検知機能のない車輌においても、上述したような注意領域を予め駐車経路から推定することで、より優れた駐車支援画像をモニタ表示することができることが重要である。
上述した実施の形態では、注意領域として検知された障害物の存在領域を含ませているが、本発明はそのような障害物検知の機能を有する車輌に限定されているわけではなく、障害物検知機能のない車輌においても、上述したような注意領域を予め駐車経路から推定することで、より優れた駐車支援画像をモニタ表示することができることが重要である。
本発明は、駐車時における自車両周囲の状況を運転者に認識させるための俯瞰画像を表示することで運転者の運転操作を支援する駐車支援装置に利用することができる。
1:カメラ
31:駐車目標位置設定部
32:注意領域決定部
33:駐車経路生成部
34:誘導制御部
35:位置情報算定部
36:障害物検出部
50:入力画像処理モジュール
51:撮影画像メモリ
53:画像生成部
57:表示用画像メモリ
60:出力画像処理モジュール
62:トリミング情報生成部
63:画像トリミング部
64:自車イメージ生成部
65:報知イメージ生成部
66:画像合成部
67:フレームメモリ
31:駐車目標位置設定部
32:注意領域決定部
33:駐車経路生成部
34:誘導制御部
35:位置情報算定部
36:障害物検出部
50:入力画像処理モジュール
51:撮影画像メモリ
53:画像生成部
57:表示用画像メモリ
60:出力画像処理モジュール
62:トリミング情報生成部
63:画像トリミング部
64:自車イメージ生成部
65:報知イメージ生成部
66:画像合成部
67:フレームメモリ
Claims (7)
- 自車周辺を撮影するカメラによって取得された撮影画像から視点変換を通じて俯瞰画像を生成する俯瞰画像生成部と、
設定された駐車目標位置への駐車経路を生成する駐車経路生成部と、
前記駐車経路に沿った経路進行に伴う曲率の変動に基づき、駐車走行時に注意すべき注意領域を決定する注意領域決定部と、
前記俯瞰画像生成部によって生成された俯瞰画像における前記注意領域を含む俯瞰画像をモニタに表示する自車周辺の表示画像として入力し、当該入力した俯瞰画像における自車位置に自車イメージを合成して表示俯瞰画像を生成する画像合成部と、
を備えた駐車支援装置。 - 自車周辺を撮影するカメラによって取得された撮影画像から視点変換を通じてモニタに表示する自車周辺の表示画像としての俯瞰画像を生成する俯瞰画像生成部と、
設定された駐車目標位置への駐車経路を生成する駐車経路生成部と、
前記俯瞰画像を前記モニタにおける俯瞰画像表示領域に表示するために前記俯瞰画像をトリミングする画像トリミング部と、
前記俯瞰画像における自車位置に自車イメージを合成して表示俯瞰画像を生成する画像合成部と、
前記駐車経路に沿った駐車走行時に注意すべき注意領域を決定する注意領域決定部と、
前記注意領域を前記表示俯瞰画像に含めるために前記自車イメージが前記表示俯瞰画像の中心からオフセットされるトリミング条件情報を生成して画像トリミング部に与えるトリミング条件情報生成部と、
を備えた駐車支援装置。 - 前記注意領域が複数存在する場合、高逼迫度の注意領域が前記表示俯瞰画像に含められる請求項1または2に記載の駐車支援装置。
- 前記高逼迫度は前記自車と前記注意領域とが所定距離内である場合に設定される請求項3に記載の駐車支援装置。
- 前記表示俯瞰画像が拡大画像となるように前記高逼迫度の注意領域と前記自車イメージとを含むことになる最小領域で前記俯瞰画像がトリミングされる請求項3または4に記載の駐車支援装置。
- 前記注意領域決定部は、前記駐車経路に沿った駐車走行時において自車の端部が駐車経路から大きく振れる領域を前記注意領域として決定する請求項1から5のいずれかに記載の駐車支援装置。
- 前記注意領域決定部は、自車周辺の障害物の存在に関する障害物情報に基づいて、前記駐車経路における自車と前記障害物とが所定距離内に接近する接近領域を求め、当該接近領域を特別注意領域として追加的に決定する請求項1から6のいずれかに記載の駐車支援装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010216349A JP2012071635A (ja) | 2010-09-28 | 2010-09-28 | 駐車支援装置 |
EP11828745.7A EP2623376B1 (en) | 2010-09-28 | 2011-09-08 | Parking assistance device |
US13/811,076 US20130120161A1 (en) | 2010-09-28 | 2011-09-08 | Parking assistance device |
PCT/JP2011/070476 WO2012043184A1 (ja) | 2010-09-28 | 2011-09-08 | 駐車支援装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010216349A JP2012071635A (ja) | 2010-09-28 | 2010-09-28 | 駐車支援装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012071635A JP2012071635A (ja) | 2012-04-12 |
JP2012071635A5 true JP2012071635A5 (ja) | 2013-01-17 |
Family
ID=45892657
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010216349A Pending JP2012071635A (ja) | 2010-09-28 | 2010-09-28 | 駐車支援装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20130120161A1 (ja) |
EP (1) | EP2623376B1 (ja) |
JP (1) | JP2012071635A (ja) |
WO (1) | WO2012043184A1 (ja) |
Families Citing this family (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2447672B (en) | 2007-03-21 | 2011-12-14 | Ford Global Tech Llc | Vehicle manoeuvring aids |
US9969428B2 (en) | 2011-04-19 | 2018-05-15 | Ford Global Technologies, Llc | Trailer backup assist system with waypoint selection |
US9926008B2 (en) | 2011-04-19 | 2018-03-27 | Ford Global Technologies, Llc | Trailer backup assist system with waypoint selection |
US9854209B2 (en) | 2011-04-19 | 2017-12-26 | Ford Global Technologies, Llc | Display system utilizing vehicle and trailer dynamics |
US20150197281A1 (en) * | 2011-04-19 | 2015-07-16 | Ford Global Technologies, Llc | Trailer backup assist system with lane marker detection |
US9723274B2 (en) | 2011-04-19 | 2017-08-01 | Ford Global Technologies, Llc | System and method for adjusting an image capture setting |
US8873842B2 (en) | 2011-08-26 | 2014-10-28 | Skybox Imaging, Inc. | Using human intelligence tasks for precise image analysis |
DE202012013403U1 (de) | 2011-08-26 | 2016-10-27 | Terra Bella Technologies Inc. | Erfassen und Verarbeiten adaptiver Bilder mit Bildanalyse-Rückmeldung |
US9105128B2 (en) | 2011-08-26 | 2015-08-11 | Skybox Imaging, Inc. | Adaptive image acquisition and processing with image analysis feedback |
DE102011113916A1 (de) * | 2011-09-21 | 2013-03-21 | Volkswagen Aktiengesellschaft | Verfahren zur Klassifikation von Parkszenarien für ein Einparksystem eines Kraftfahrzeugs |
JP6100221B2 (ja) * | 2014-09-12 | 2017-03-22 | アイシン精機株式会社 | 出庫支援装置および出庫支援方法 |
EP3001272B1 (en) * | 2014-09-26 | 2017-04-12 | Volvo Car Corporation | Method of trajectory planning for yielding manoeuvres |
KR101637716B1 (ko) * | 2014-11-03 | 2016-07-07 | 현대자동차주식회사 | 차량의 장애물 위치 인식 장치 및 방법 |
US9751558B2 (en) | 2015-03-25 | 2017-09-05 | Ford Global Technologies, Llc | Handwheel obstruction detection and inertia compensation |
US9896130B2 (en) | 2015-09-11 | 2018-02-20 | Ford Global Technologies, Llc | Guidance system for a vehicle reversing a trailer along an intended backing path |
US9981656B2 (en) | 2015-10-13 | 2018-05-29 | Ford Global Technologies, Llc | Vehicle parking assist system |
US9836060B2 (en) | 2015-10-28 | 2017-12-05 | Ford Global Technologies, Llc | Trailer backup assist system with target management |
US10328933B2 (en) | 2015-10-29 | 2019-06-25 | Ford Global Technologies, Llc | Cognitive reverse speed limiting |
US10906530B2 (en) * | 2015-11-10 | 2021-02-02 | Hyundai Motor Company | Automatic parking system and automatic parking method |
US9895945B2 (en) | 2015-12-08 | 2018-02-20 | Ford Global Technologies, Llc | Trailer backup assist system with hitch assist |
US10683035B2 (en) | 2015-12-08 | 2020-06-16 | Panasonic Intellectual Property Management Co., Ltd. | Parking assistance device, parking assistance method, and non-transitory computer readable medium |
JP6745456B2 (ja) * | 2015-12-08 | 2020-08-26 | パナソニックIpマネジメント株式会社 | 駐車支援装置、駐車支援方法及び駐車支援プログラム |
JP6545108B2 (ja) * | 2016-01-14 | 2019-07-17 | アルパイン株式会社 | 駐車支援装置および駐車支援方法 |
KR102513745B1 (ko) * | 2016-04-15 | 2023-03-24 | 주식회사 에이치엘클레무브 | 운전 지원 장치 |
US10112646B2 (en) | 2016-05-05 | 2018-10-30 | Ford Global Technologies, Llc | Turn recovery human machine interface for trailer backup assist |
US11528413B2 (en) * | 2016-08-22 | 2022-12-13 | Sony Corporation | Image processing apparatus and image processing method to generate and display an image based on a vehicle movement |
JP6382896B2 (ja) * | 2016-08-31 | 2018-08-29 | 本田技研工業株式会社 | 出庫支援装置 |
US9829883B1 (en) | 2016-10-17 | 2017-11-28 | Ford Global Technologies, Llc | Trailer backup assist system having remote control and user sight management |
US9892642B1 (en) | 2017-05-08 | 2018-02-13 | Open Invention Network Llc | Mobile device transport parking notification and movement tracking |
US10403144B1 (en) * | 2017-05-08 | 2019-09-03 | Open Invention Network Llc | Mobile device transport parking notification and movement tracking |
US10747312B2 (en) * | 2018-03-14 | 2020-08-18 | Apple Inc. | Image enhancement devices with gaze tracking |
JP6917330B2 (ja) * | 2018-03-28 | 2021-08-11 | 日立Astemo株式会社 | 駐車支援装置 |
JP7133336B2 (ja) * | 2018-04-06 | 2022-09-08 | 日立Astemo株式会社 | 駐車支援装置 |
KR102521834B1 (ko) * | 2018-08-21 | 2023-04-17 | 삼성전자주식회사 | 차량으로 영상을 제공하는 방법 및 이를 위한 전자 장치 |
US10891866B2 (en) * | 2018-11-13 | 2021-01-12 | Hall Labs Llc | Parking assist apparatus |
US11107354B2 (en) * | 2019-02-11 | 2021-08-31 | Byton North America Corporation | Systems and methods to recognize parking |
DE102022100579A1 (de) | 2022-01-12 | 2023-07-13 | Zf Cv Systems Global Gmbh | Fahrerunterstützungssystem, Verfahren zur Unterstützung eines Bedienungsvorganges einer Vorrichtung seitens einer Bedienperson, sowie Fahrzeug und elektronische Verarbeitungseinheit |
WO2024013807A1 (ja) * | 2022-07-11 | 2024-01-18 | 日産自動車株式会社 | 駐車支援方法及び駐車支援装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3164439B2 (ja) * | 1992-10-21 | 2001-05-08 | マツダ株式会社 | 車両用障害物検出装置 |
US7366595B1 (en) * | 1999-06-25 | 2008-04-29 | Seiko Epson Corporation | Vehicle drive assist system |
JP2004114977A (ja) * | 2002-09-30 | 2004-04-15 | Aisin Seiki Co Ltd | 移動体周辺監視装置 |
JP4374850B2 (ja) * | 2002-12-24 | 2009-12-02 | アイシン精機株式会社 | 移動体周辺監視装置 |
JP4081548B2 (ja) * | 2004-02-02 | 2008-04-30 | 独立行政法人産業技術総合研究所 | 運転支援システム |
JP4817804B2 (ja) * | 2005-11-01 | 2011-11-16 | 株式会社デンソーアイティーラボラトリ | 方向呈示装置 |
JP4595902B2 (ja) * | 2006-07-31 | 2010-12-08 | アイシン・エィ・ダブリュ株式会社 | 車両周辺画像表示システム及び車両周辺画像表示方法 |
JP4980852B2 (ja) * | 2007-11-01 | 2012-07-18 | アルパイン株式会社 | 車両周囲画像提供装置 |
JP2009220592A (ja) * | 2008-03-13 | 2009-10-01 | Denso Corp | 車載用縦列駐車支援装置および車載用縦列駐車支援装置のプログラム |
JP4962739B2 (ja) * | 2008-07-10 | 2012-06-27 | トヨタ自動車株式会社 | 駐車支援装置 |
JP5136256B2 (ja) * | 2008-07-18 | 2013-02-06 | 日産自動車株式会社 | 駐車支援装置および画像表示方法 |
JP2010184588A (ja) * | 2009-02-12 | 2010-08-26 | Clarion Co Ltd | 車両周辺監視装置 |
-
2010
- 2010-09-28 JP JP2010216349A patent/JP2012071635A/ja active Pending
-
2011
- 2011-09-08 WO PCT/JP2011/070476 patent/WO2012043184A1/ja active Application Filing
- 2011-09-08 US US13/811,076 patent/US20130120161A1/en not_active Abandoned
- 2011-09-08 EP EP11828745.7A patent/EP2623376B1/en not_active Not-in-force
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2012043184A1 (ja) | 駐車支援装置 | |
JP2012071635A5 (ja) | ||
JP5454934B2 (ja) | 運転支援装置 | |
EP2763407B1 (en) | Vehicle surroundings monitoring device | |
JP5618138B2 (ja) | 駐車支援装置 | |
US20140118551A1 (en) | Vehicle surrounding-area monitoring apparatus | |
JP5870608B2 (ja) | 画像生成装置 | |
JP4687160B2 (ja) | 周辺監視装置 | |
US20070147664A1 (en) | Driving assist method and driving assist apparatus | |
JP2019509534A (ja) | 将来経路を推定するシステム及び方法 | |
JP5516998B2 (ja) | 画像生成装置 | |
JP5516988B2 (ja) | 駐車支援装置 | |
JP2007099261A (ja) | 駐車支援方法及び駐車支援装置 | |
JP2007295043A (ja) | 車両周囲監視装置 | |
JP2010184607A (ja) | 車両周辺表示装置 | |
JP5495071B2 (ja) | 車両周辺監視装置 | |
JP2004114977A (ja) | 移動体周辺監視装置 | |
JP2009211624A (ja) | 運転支援装置、運転支援方法及びコンピュータプログラム | |
JP2013078151A (ja) | 車両用表示装置 | |
JP4687411B2 (ja) | 車両周辺画像処理装置及びプログラム | |
JP2006054662A (ja) | 運転支援装置 | |
JP2005202787A (ja) | 車両用表示装置 | |
JP2012023505A (ja) | 運転支援装置 | |
JP5691339B2 (ja) | 運転支援装置 | |
JP2009211628A (ja) | 障害物警告装置、障害物警告方法及びコンピュータプログラム |