以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
本実施形態において、周辺監視装置(周辺監視システム)を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。車両1は、例えば、いわゆる「オンロード」(主として舗装された道路やそれと同等の道路)の走行に加え、「オフロード」(主として舗装されていない不整地路等)の走行も好適に行える車両である。駆動方式としては、4つある車輪3すべてに駆動力を伝え、4輪すべてを駆動輪として用いる四輪駆動車両とすることができる。車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。例えば、「オンロード」の走行を主目的とする車両でもよい。また、駆動方式も四輪駆動方式に限定されず、例えば、前輪駆動方式や後輪駆動方式でもよい。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
また、車室2a内には、表示装置8や、音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等で操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
また、図1、図2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図3に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。操舵システム13は、アクチュエータ13aによって操舵部4にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。この場合、アクチュエータ13aは、一つの車輪3を転舵してもよいし、複数の車輪3を転舵してもよい。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。
また、図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部15は、車両1が移動可能な路面やその周辺の物体(障害物、岩、窪み、水たまり、轍等)を含む車両1の周辺の外部環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパやフロントグリル等に設けられている。撮像部15dは、例えば、車体2の左側の端部2dに位置され、左側のドアミラー2gに設けられている。周辺監視システム100を構成するECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、撮像部15で得られた広角画像のデータに演算処理や画像処理を実行し、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像データを生成したり、特定の領域のみ強調されるような画像データを生成したりする。また、ECU14は、撮像画像データを撮像部15が撮像した視点とは異なる仮想視点から撮像したような仮想画像データに変換(視点変換)することができる。ECU14は、取得した画像データを表示装置8に表示することで、例えば、車両1の右側方や左側方の安全確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供する。
また、図3に例示されるように、周辺監視システム100(周辺監視装置)では、ECU14や、モニタ装置11、操舵システム13等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26(26a,26b)等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等の検出結果や、操作入力部10等の操作信号等を、受け取ることができる。
ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、ROM14b等の不揮発性の記憶装置に記憶された(インストールされた)プログラムを読み出し、当該プログラムに従って演算処理を実行する。CPU14aは、例えば、表示装置8で表示される画像に関連した画像処理を実行する。例えば、CPU14aは、撮像部15が撮像した撮像画像データに演算処理や画像処理を実行して、車両1の予測進路上に、注意すべき特定領域が存在する否か検出したり、注意すべき特定領域の存在を例えば、車両1の進行推定方向を示す進路指標(予測進路線)の表示態様を変化させることでユーザ(運転者や搭乗者)に報知したりする。
RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15で得られた撮像画像データを用いた画像処理や、表示装置8で表示される画像データの画像処理(一例としては画像合成)等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。また、SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合であってもデータを記憶することができる。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されることができる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、周辺監視用のECU14とは別に設けられてもよい。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部の位置を検出するセンサである。ブレーキセンサ18bは、可動部としてのブレーキペダルの位置を検出することができる。ブレーキセンサ18bは、変位センサを含む。
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。舵角センサ19は、例えば、ホール素子などを用いて構成される。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。なお、舵角センサ19は、操舵部4に含まれる回転部分の回転角度を検出する。舵角センサ19は、角度センサの一例である。
アクセルセンサ20は、例えば、加速操作部5の可動部の位置を検出するセンサである。アクセルセンサ20は、可動部としてのアクセルペダルの位置を検出することができる。アクセルセンサ20は、変位センサを含む。
シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。シフトセンサ21は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ21は、変位センサを含んでもよいし、スイッチとして構成されてもよい。
車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。車輪速センサ22は、例えば、ホール素子などを用いて構成されうる。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。なお、車輪速センサ22は、ブレーキシステム18に設けられている場合もある。その場合、ECU14は、車輪速センサ22の検出結果をブレーキシステム18を介して取得する。
加速度センサ26(26a,26b)は、例えば車両1に2個設けられている。ECU14は、加速度センサ26(26a,26b)からの信号に基づき、車両1の前後方向の傾き(ピッチ角)や左右方向の傾き(ロール角)を算出する。ピッチ角は、車両1の左右軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ピッチ角が0度となる。また、ロール角は、車両1の前後軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ロール角が0度となる。つまり、車両1が、水平な路面に存在するか否か、傾斜面(上り勾配の路面または下り勾配の路面)に存在するか否か等が検出できる。なお、車両1がESCを搭載する場合、ESCに従来から搭載されている加速度センサ26(26a,26b)を用いる。なお、本実施形態は、加速度センサ26を制限するものではなく、車両1の前後左右方向の加速度を検出可能なセンサであればよい。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
ECU14に含まれるCPU14aは、上述したように撮像画像データに基づく画像から車両1の予測進路上に、注意すべき特定領域が存在する否か検出したり、注意すべき特定領域の存在を例えば、予測進路を示す進路指標の表示態様を変化させたりすることでユーザに報知する。この機能を実現するために、CPU14aは、図4に示すような種々のモジュールを含む。CPU14aは、例えば、周辺画像取得部30、舵角取得部32、特定領域検出部34(検出部)、進路指標決定部36(指標決定部)、表示制御部38(制御部)、報知部40、出力部42等を含む。また、表示制御部38は、表示態様決定部44、重畳部46等を含む。これらのモジュールは、ROM14b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現可能である。
周辺画像取得部30は、車両1の進行方向における路面の状態を示す情報を取得する。例えば、撮像部15cから出力される撮像画像データを表示制御部14dを介して取得する。なお、周辺画像取得部30は、後述する図5に例示されるように、車両1の前方を示す画像とともに車両1の側方の情報を表示する場合、車両1の側方画像用の撮像画像データを撮像部15b,15dから取得してもよい。なお、表示装置8に車両1の周囲の画像を表示するのみの場合、表示制御部14dは、撮像部15で撮像した撮像画像データをそのままの状態で表示装置8に出力してもよい。また、CPU14aは、操作入力部10や操作部14g等の入力装置を用いて運転者に希望する表示内容を選択させるようにしてもよい。つまり、表示制御部14dは、操作入力部10や操作部14gの操作により選択された画像を選択的に表示することができる。例えば撮像部15aで撮像した車両1の後方画像を表示装置8に表示させたり、撮像部15dで撮像した左側方画像を表示させたりすることができる。
舵角取得部32は、舵角センサ19から出力される操舵部4(ステアリングホイール)の操作状態に関する情報を取得する。つまり、運転者がこれから車両1を走行させようとしている方向を定めるための情報を取得する。
特定領域検出部34は、周知の技術を用いて、撮像部15が撮像した撮像画像データに基づく画像から所定の条件を満たす特定領域を抽出する。例えば、特定領域として、画像内に存在する「水たまり」、「泥濘」、「ポットホール(甌穴)」、「轍」等を抽出する場合、画像の画質の均一性に基づく分類、例えば、画像の濃度、色、テクスチャ、輝度、光の反射程度の違い等に基づいて複数の個別領域に分類する。そして、個別領域ごとに特徴点を抽出し、ROM14bやSSD14f等に記憶されたデータベースと比較することにより所定の条件、「水たまり」の条件、「泥濘」の条件、「ポットホール(甌穴)」の条件、「轍」の条件等を満たす領域を抽出する。特定領域検出部34は、特定領域に対して例えばエッジ処理を施すことにより輪郭線を示すことが可能で画像上で特定領域以外の部分と区別することができる。
進路指標決定部36は、舵角取得部32が車内ネットワーク23を介して取得した舵角センサ19の検出結果(車両1の舵角(操舵角))に基づき、車両1の左右の前輪3Fごとに進行推定方向を示す進路指標を算出する。進路指標は、例えば前輪3Fの舵角に基づき車両1の向いている方向(前輪3Fが通過する方向)を取得し、その方向に沿って前輪3Fから例えば2m先まで延びる誘導線である。後述するが、進路指標は、進路に関して特に注意喚起を必要としない場合(主として予測進路を示す場合)は、第1表示態様(通常状態の表示)として、例えば「黄色」で表示される。進路指標は、操舵部4の操舵方向および操舵角度(舵角センサ19の検出結果)に連動して移動するので、操舵部4によって指定された車両1の進行方向を指すことができる。また、進路指標は、車輪3の幅と略同じ幅としてもよい。この場合、進路指標にしたがって車両1が移動する場合、進路指標が重畳された画像上の位置(路面)を実際の車輪3が通過することになる。したがって、進路指標を表示することにより、車輪3のこれからの通過状態を運転者にイメージさせやすくすることができる。
表示制御部38の表示態様決定部44は、特定領域検出部34が検出した特定領域の位置と進路指標決定部36が決定した左右の進路指標ごとに当該進路指標の重畳位置との位置関係に基づいて、進路指標ごとの表示態様、例えば、「表示色」を決定する。例えば、特定領域検出部34が検出した特定領域が、車両1の車輪3が通過するのには好ましくない領域である場合、例えば、「水たまり」や「泥濘」と見なされる場合、そのまま車輪3が移動するとスリップして走行不能になる可能性がある。また、特定領域が、例えば「ポットホール(甌穴)」と見なされる場合、車輪3がポットホールの段差等を通過することにより、車体2を破損したり、車両1の搭乗者に衝撃や揺れ等の不快感を与えてしまったりする場合がある。そこで、表示態様決定部44は、撮像画像データに基づく画像上において、車輪3が通過することを避けた方が好ましい特定領域の位置(例えば、泥濘の位置)と操舵部4の舵角に基づく進路指標の重畳位置とを取得する。そして、表示態様決定部44は、例えば特定領域に進路指標の少なくとも一部が重なる場合、このまま車両1(車輪3)が移動した場合、特定領域に進入して走行不能になったり、破損や衝撃が生じたりする可能性があると判定し、進路指標の表示色を注意喚起を促す表示色、例えば「赤色」に変更することを決定する。すなわち、進路に関して特に注意を必要としない第1表示態様(例えば、表示色「黄色」)から通過を避けるべきである(好ましい)ことを示す第2表示態様(例えば、表示色「赤色」)に変更することを決定する。つまり、表示態様決定部44は、特定領域に進路指標の少なくとも一部が重なる場合に、進路指標を第2表示態様で表示する変更条件が満たされたと判定して、表示色の変更を決定する。したがって、表示態様決定部44は、変更条件が満たされなくなった場合、つまり、特定領域と進路指標とが非接触となった場合、進路指標の表示態様を変更前の態様(第1表示態様)に戻す決定を行う。重畳部46は、表示態様が決定された進路指標と、特定領域または特定領域を示す輪郭線を撮像画像データに基づく画像に重畳する。
別の例では、例えば、特定領域検出部34が検出した特定領域が、車両1の車輪3が通過することを推奨する領域である場合、例えば、先行車両等によって形成された「轍」と見なされる場合、その轍に沿って車輪3が進むことによって、安全に走行できる確率が向上する。逆に「轍」からはみ出して走行した場合、ステアリング(ハンドル)がとられて操舵(舵角の修正)を頻繁に強いられ、疲労感が増したり、車両の揺れが増大したりする可能性がある。そこで、表示態様決定部44は、撮像画像データに基づく画像上において、車輪3の通過を推奨する特定領域の位置(轍の位置)と操舵部4の舵角に基づく進路指標の重畳位置とを取得する。そして、表示態様決定部44は、例えば特定領域(轍)からの進路指標のはみ出し程度が所定値以上になった場合、このまま車両1(車輪3)が移動した場合、特定領域(轍)から大きく外れ操舵にさらなる労力を有する可能性があると判定し、進路指標の表示色を注意喚起を促す、例えば「オレンジ色」に変更することを決定する。すなわち、轍に沿った走行であり進路に関して特に注意を必要としない第1表示態様(例えば、表示色「黄色」)から通過を避けることが望ましいことを示す第2表示態様(例えば、表示色「オレンジ色」)に変更することを決定する。つまり、表示態様決定部44は、特定領域からの進路指標のはみ出し程度が所定値以上の場合に、進路指標を第2表示態様で表示する変更条件が満たされたと判定して、表示色の変更を決定する。したがって、表示態様決定部44は、変更条件が満たされなくなった場合、つまり、特定領域からの進路指標のはみ出し程度が所定値未満になった場合、進路指標の表示態様を変更前の態様(第1表示態様)に戻す決定を行う。重畳部46は、表示態様が決定された進路指標と、特定領域または特定領域を示す例えば輪郭線を撮像画像データに基づく画像に重畳する。
なお、上述したように表示態様決定部44は、特定領域の種類に応じて、進路指標の表示態様を変えることで、ユーザに特定領域に対する注意喚起の程度を認識させやすくなる。その結果、進路選択の自由度を広げることが可能になり、車両1をよりスムーズに走行させるように案内することができる。例えば、進路指標の表示態様が「赤色」の場合、通過を避けるべき領域であると運転者に容易に認識させることができる。また、進路指標の表示態様が「オレンジ色」の場合、周囲の路面状況を確認しながら進路修正を行うことが可能な領域である等を運転者に認識させやすくなる。また、別の例では、第2表示態様の「赤色」表示でも注意喚起の必要性の程度に応じて、別の表示態様で表示してもよい。例えば、「オフロード」を走行中の場合に「水たまり」や「泥濘」と見なせる特定領域を検出した場合は、「水たまり」や「泥濘」が深い場合や底の凹凸が激しい場合がある。そのため、進路指標の表示態様を「実線」の「赤色」表示として回避を強く勧めるような表示としてもよい。一方、同じ「水たまり」と見なせる特定領域を検出した場合でも「オンロード」の走行中の場合、浅い場合や路面が舗装路のため凹凸が少ない可能性がある。そのため、進路指標の表示態様を「破線」の「赤色」表示として回避を強く勧めない表示としてもよい。なお、表示態様決定部44は、「オンロード」と「オフロード」との識別を、例えば、ナビゲーションシステムからの位置情報と地図情報に基づいて判定してもよい。また、オフロード走行中の場合、オンロード走行中に比べて車両1の傾き状態が大きかったり、車速が低速であったりするため、これらの情報に基づいて、オフロード走行中か否かを判定してもよい。
表示態様決定部44は、進路指標の表示態様として、第1表示態様と第2表示態様とで「表示色」を変える例を示したが、第1表示態様と第2表示態様とで識別ができればよく、これに限定されない。例えば、上述したように進路指標の「線種」を変えて識別させたり、点灯表示または点滅表示の違いにより識別させたりしてもよい。
報知部40は、進路指標が第2表示態様で表示されている場合に、そのことを音声等で報知する。例えば、「現在の進路上に通過が望ましくない領域が存在します。ステアリングを操作して進路を変更してください。」や「現在の進路のままだと、轍からはみ出す可能性があります。ステアリングを操作して進路を修正して轍に戻してください。」等の音声メッセージを出力するようにしてもよい。また、報知部40は、進路指標の修正方向を示す音声メッセージを出力するようにしてもよい。また、重畳部46に対して進路指標の修正方向を示す矢印を重畳するように指令を出してもよい。なお、報知部40による報知は、過剰になるとユーザに煩わしい印象を与えてしまう場合がある。そのため、数回(2〜3回程度)の報知で中止するようにしたり、ユーザの選択により音声による報知を中止できるようにしたりしてもよい。
出力部42は、特定領域検出部34が検出した特定領域と、進路指標決定部36が決定した重畳位置に表示制御部38が決定した表示態様で表示される進路指標と、を表示制御部14dに向けて出力する。
図5は、周辺監視システム100において、特定領域との位置関係に基づいて表示態様が決定される進路指標が表示される表示装置8の画面8aの表示例である。表示装置8には、進路指標R(右側の前輪3Fに対応する進路指標RR、左側の前輪3Fに対応する進路指標RL)を含む画面8aが示されている。図5に示すように、表示装置8は、表示領域を複数に分割して種々の方向の画像や車両1の姿勢を示す傾斜計50等を表示する。例えば、表示装置8の表示領域の中央上部に前方表示領域FVが配置され、その左斜め下に左側表示領域SVL、前方表示領域FVの右斜め下に右側表示領域SVRが配置されている。また、前方表示領域FVの下方に、傾斜計50を表示する姿勢表示領域PVが配置されている。前方表示領域FVには、車両1の進行推定方向を示す進路指標Rや車体2の前方側の端部2cからの距離の目安を示す前方参考線Qa、車体2の側方の端部2d,2fからの距離の目安を示す側方参考線Pa等が重畳表示されている。また、左側表示領域SVL、右側表示領域SVRにも前方参考線Qa、側方参考線Paが重畳され、前方表示領域FVと左側表示領域SVLおよび右側表示領域SVRとの対応が理解しやすいように表示されている。なお、左側表示領域SVLおよび右側表示領域SVRの側方参考線Paには、前輪3Fの接地位置を示す接地線Pabが付され、前輪3Fの位置が容易に理解できるようになっている。傾斜計50は、加速度センサ26(26a、26b)からの信号に基づき、車両1の左右方向の傾き(ロール角)や前後方向の傾き(ピッチ角)をシンボル52の姿勢で表示する。
図6は、上述した周辺監視システム100で特定領域との位置関係に基づいて表示態様が決定される進路指標を表示する場合の処理手順の一例を説明するフローチャートである。
CPU14aは、操作入力部10や操作部14gを介してユーザ(運転者、搭乗者)から進路指標を表示させる要求スイッチ(進路指標SW)がONされているか否か確認して(S100)、進路指標SWがONされていない場合(S100のNo)、図6のフローを一旦終了する。
S100において、CPU14aは、進路指標SWがONされていると判定した場合(S100のYes)、周辺画像取得部30を介して撮像部15cが撮像した車両1の前方を撮像した撮像画像データを取得する(S102)。なお、周辺画像取得部30は、撮像部15bから出力される右側方領域SVR用の撮像画像データと、撮像部15dから出力される左側方領域SVL用の撮像画像データとを併せて取得してもよい。また、舵角取得部32は、舵角センサ19が出力する現在の操舵部4(ステアリング)の舵角を取得する(S104)。
続いて、進路指標決定部36は、舵角取得部32の取得した舵角に基づいて撮像画像データに基づく画像上に重畳する左右の進路指標の形状と重畳位置を決定する(S106)。また、特定領域検出部34は、前述したように周知の技術を用いて撮像画像データに基づく画像から所定の条件を満たす特定領域を検出(抽出)する(S108)。表示制御部38の表示態様決定部44は、撮像画像データに基づく画像から所定の条件を満たす特定領域が検出されたと判定した場合(S110のYes)、検出された特定領域が「轍」と見なせるか否か判定する(S112)。表示態様決定部44は、検出された特定領域が「轍」とは見なせないと判断した場合(S112のNo)、つまり、特定領域は、「水たまり」、「泥濘」、「ポットホール」等であると見なした場合、S106で決定した左右の進路指標と検出した特定領域とが重なる部分があるか否か判定する(S114)。表示態様決定部44は、判定の結果、進路指標と特定領域との間で重なる部分が存在すると判定した場合(S114のYes)、通過を避けるべき特定領域に車輪3が向かっていると判定する。そして、表示態様決定部44は、進路指標の表示態様を通過が好ましくない、通過を回避すべきであると注意喚起する第2表示態様である「赤色」表示とすることを決定する(S116)。そして、重畳部46は、撮像画像データに基づく画像上に進路指標を重畳処理する。この重畳画像データは、出力部42を介して出力され、表示装置8上で表示される。
一方、撮像画像データに基づく画像から所定の条件を満たす特定領域が検出されなかった場合(S110のNo)、車両1を現在のステアリングの舵角に基づいて移動させるときに、その進路上に特別に注意すべき領域は存在しないと見なすことができる。その結果、表示態様決定部44は、通過を推奨する第1表示態様として、例えば「黄色」表示で進路指標を撮像画像データに基づく画像に重畳することを決定する(S118)。そして、重畳部46で画像上に進路指標が重畳処理され、出力部42を介して出力され、表示装置8上で表示される。
図5は、前方表示領域FVに表示される画面8a中に特定領域54として「泥濘」が検出され、右側の前輪3Fに対応する進路指標RRと特定領域54とが重なっている例が示されている。この場合、進路指標RRは、第2表示態様の「赤色」で表示される。なお、図5の場合、第2表示態様の「赤色」表示は便宜上太線で示されている。一方、特定領域54と非接触である進路指標RLは、第1表示態様の「黄色」で表示される。なお、図5の場合、第1表示態様の「黄色」表示は、便宜上進路指標RRより細い細線で示されている。
図5に示されるような画面8aをユーザ(運転者)に提供することにより、現在のステアリングの舵角のまま前進した場合、右側の前輪3Fが通過が好ましくない特定領域54(泥濘等)に進入してしまうということを容易にユーザに認識させることができる。また、注意すべき車輪3は、右側の前輪3Fであることが第2表示態様(赤色表示)で明確に表示されるので、右側の進路指標RRを特定領域54と非接触にするためにステアリングをいずれの方向に転舵することが望ましいかユーザに直感的に把握させやすくなる。なお、この場合、表示制御部38は、特定領域54の位置と進路指標R(RR,RL)の重畳位置の位置関係を取得しているので、報知部40は、いずれの方向にステアリングを転舵すれば、特定領域54と進路指標R(RR,RL)とを非接触状態にできるか取得することができる。したがって、報知部40は、例えば転舵方向を示唆する矢印等を画面8a上に表示してもよいし、その矢印の長さで転舵量を報知するようにしてもよい。
また、S112において、表示態様決定部44が、検出された特定領域は「轍」と見なせると判定した場合(S112のYes)、表示態様決定部44は、特定領域である「轍」からのはみ出し量(程度)が所定値以上か否か判定する(S120)。例えば、表示する進路指標の10%以上が、「轍」と見なされた特定領域からはみ出していた場合(S120のYes)、表示態様決定部44は、このままの舵角で走行を継続した場合、通過が推奨される「轍」から外れてしまい運転操作がしにくくなると判定して、進路指標の表示態様を注意を促す第2表示態様の「オレンジ色」表示とすることを決定する(S122)。そして、重畳部46で画像上に進路指標が重畳処理され、出力部42を介して出力され、表示装置8上で表示される。
一方、S120において、表示態様決定部44は、特定領域である「轍」からのはみ出し量(程度)が、所定値未満、例えば、表示する進路指標の10%未満の場合(S120のNo)、表示態様決定部44は、このままの舵角で走行を継続すれば、通過が推奨させる「轍」から外れず、運転操作が比較的容易になると判定して、S118に移行して進路指標の表示態様を特に注意を必要としない第1表示態様の「黄色」表示とすることを決定する。そして、重畳部46で画像上に進路指標が重畳処理され、出力部42を介して出力され、表示装置8上で表示される。なお、特定領域である「轍」からのはみ出し量(程度)の閾値の一例として10%を示したが、適宜変更可能である。例えば、閾値を小さくすれば、特定領域(轍)からのはみ出しを敏感に検出して、第2表示態様の表示を行うことができる。逆に、閾値を大きくすれば、特定領域(轍)からのはみ出しに鈍感になり過剰な警告(第2表示態様の表示)を抑制できる。
図7には、図5の前方表示領域FVに表示される画面8aの例として、車両1が雪道上に存在する場合の表示例が示されている。この場合、特定領域検出部34は、周知の画像処理技術を用いて、撮像画像データに基づく画像からエッジ60a,60bで規定される特定領域62R(右側の前輪3Fに対応する轍)と、エッジ60c,60dで規定される特定領域62L(左側の前輪3Fに対応する轍)とを検出する。図7の場合、舵角取得部32が取得する舵角センサ19の出力値に基づく舵角を用いて、進路指標決定部36が進路指標R(RR,RL)を画面8a上に重畳している。この場合、右側の前輪3Fに対応する進路指標RRは、特定領域62R(轍)に沿い、はみ出していないので、第1表示態様である、「黄色」表示として重畳されている。なお、図7では便宜上、第1表示態様である「黄色」表示の進路指標RRを細線で表している。一方、左側の前輪3Fに対応する進路指標RLは、特定領域62L(轍)から所定値以上はみ出している場合であり、第2表示態様である、「オレンジ色」表示として重畳されている。なお、図7では便宜上、第2表示態様である「オレンジ色」表示の進路指標RLを第1表示態様の進路指標RRより太い太線で表している。
図7に示されるような画面8aをユーザに(運転者)に提供することにより、現在のステアリングの舵角のまま前進した場合、左側の前輪3Fは通過が推奨される特定領域62L(轍)からはみ出してしまうということを容易にユーザに認識させることができる。また、図7に示されるように、画面8aには、特定領域62R,62Lと進路指標RR,RLとの位置関係が明確に表示されている。その結果、左側の進路指標RLを特定領域62Lからはみ出させず、また、右側の進路指標RRを特定領域62R内に留めるためにステアリングをいずれの方向にどの程度転舵することが望ましいか直感的に把握させやすくなる。なお、この場合、表示制御部38は、特定領域62R,62Lの位置と進路指標R(RR,RL)の重畳位置の位置関係を取得しているので、報知部40は、いずれの方向にステアリングを転舵すれば、特定領域62R,62Lからはみ出さずに進路指標R(RR,RL)を位置させることができるかを取得できる。したがって、報知部40は、例えば転舵方向を示唆する矢印等を画面8a上に表示してもよいし、その矢印の長さで転舵量を報知するようにしてもよい。
図6のフローチャートに戻り、CPU14aは、進路指標SWがOFFされたかを確認し(S124)、進路指標SWがOFFされていない場合(S124のNo)、S102の処理に移行し、次の処理周期における画像取得処理や進路指標決定処理を実行する。その結果、撮像画像データに基づく画像および舵角に基づく進路指標の向き、進路指標の表示態様は更新され、実質的にリアルタイムで、進路指標で示される方向が走行に適しているか否か、ステアリング操作(舵角)が適切か否かの情報をユーザに提供することができる。例えば、現在、第1表示態様で進路指標が表示されていても、車両1の移動に伴い、進路が不適切になった場合には、進路指標が直ちに第2表示態様に変更されるので、ユーザに迅速に舵角修正を行わせることができる。逆に現在第2表示態様で進路指標が表示されていても、車両1の移動や舵角の修正に伴い、進路が適切になった場合には、直ちに第1表示態様に変更されるので、ユーザに安心感を抱かせることができる。
なお、S124で、進路指標SWがOFFされた場合(S124のYes)、ユーザの要求により進路指標の表示は不要になったと判定して、CPU14aは、表示装置8の画面8aを車両1の周辺画像のみの表示に切り替えたり、ナビゲーション画面やオーディオ画面に切り替えたりして、このフローを一旦終了する。
なお、図8は、特定領域が「轍」と見なすことができる別の例で、車両1が山道上に存在する場合を示す画面8aの表示例である。この場合も、特定領域検出部34は、周知の画像処理技術を用いて、撮像画像データに基づく画像からエッジ64a,64bで規定される特定領域66R(右側の前輪3Fに対応する轍)と、エッジ64c,64dで規定される特定領域66L(左側の前輪3Fに対応する轍)とを検出する。図8の場合、舵角取得部32が取得する舵角センサ19の出力値に基づく舵角を用いて、進路指標決定部36が進路指標R(RR,RL)を画面8a上に重畳している。この場合、右側の前輪3Fに対応する進路指標RRおよび左側の前輪3Fに対応する進路指標RLは、いずれも特定領域66R,66L(轍)の中に位置し、轍からはみ出していないので、第1表示態様である、「黄色」表示として重畳されている。なお、図8において、「黄色」で表示される第1表示態様の進路指標RRは、便宜上細線で表している。
図8に示されるような画面8aをユーザに(運転者)に提供することにより、現在のステアリングの舵角のまま前進した場合、通過が推奨される特定領域66R,66L(轍)に沿った安定した走行が可能であることを直感的にユーザに認識させることができる。また、車両1の移動に伴い進路指標R(RR,RL)のうち少なくともいずれか一方の進路指標Rのはみ出し程度が所定値以上となった場合、直ちに、特定領域(66R,66L)からはみ出した側の進路指標Rの表示態様が「オレンジ色」に変更されるので、ユーザは、直ちにステアリングの修正(舵角の修正)の必要性を認識し、適切な轍走行を容易に継続することができる。図8の場合も図7の場合と同様に、報知部40は、第2表示形態の進路指標Rが表示された場合、例えば転舵方向を示唆する矢印等を画面8a上に表示してもよいし、その矢印の長さで転舵量を報知するようにしてもよい。
なお、上述した実施形態では、前輪3Fに対応する進路指標が重畳表示される場合に、検出された特定領域の位置との位置関係に応じて進路指標の表示態様を決定する例を示した。別の実施形態において、例えば、前輪3Fに加え、後輪3Rに対応する進路指標が重畳表示される場合に、後輪用の進路指標の重畳位置と検出された特定領域の位置との位置関係に応じて、後輪用の進路指標の表示態様を決定するようにしてもよい。例えば、車両1が旋回するような場合、内輪差に起因して、前輪3Fと後輪3Rの通過位置が異なる。そのため、前輪3Fは特定領域と接触しない、または、特定領域からはみ出さないとされる場合でも、後輪3Rが特定領域と接触する、または、特定領域からはみ出す場合がある。このような場合、前輪3F用の進路指標の重畳位置、および後輪3R用の進路指標の重畳位置と、特定領域の位置関係に応じて、それぞれの進路指標の表示態様を決定するようにしてもよい。この場合、四輪全てに対して、適切な進路の選択を行わせやすくなる。
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。