JP6962036B2 - 周辺監視装置 - Google Patents

Description

本発明の実施形態は、周辺監視装置に関する。

車両の前方を過去に撮像して得られた画像上に、現在の車両または車輪を表す画像を重畳した画像である過去フロントカメラ画像を、車両の車内に設けられたモニタ装置に表示させることによって、車両の周囲（特に、車輪の周囲）の状況を可視化して、運転手による車両の進路の判断を支援する技術が開発されている。

国際公開第２０１４／１５６２２０号

しかしながら、上述の過去フロントカメラ画像には、現在の車両または車輪を表す画像として、車両または車輪の外形を平面的に表す線が重畳されているため、現在の車両または車輪と、当該現在の車両または車輪の周囲に存在する障害物との位置関係が把握し難い場合がある。

実施形態の周辺監視装置は、一例として、第１時刻の車両の第１位置における車両の周囲を車両が搭載する撮像部により撮像して得られる撮像画像が、車両の周囲の三次元の面に貼り付けられたモデルと、第１時刻より後の第２時刻の車両の第２位置に設けられた三次元の車両画像と、を含む仮想空間内の注視点を、操作入力部を介して入力された仮想視点から見た表示用画像を生成する生成部と、表示用画像を表示部に出力する出力部と、を備える。よって、本実施形態の周辺監視装置によれば、一例として、車両と障害物との位置関係を把握し易くすることができる。

また、実施形態の周辺監視装置は、一例として、車両画像は、モデルを透視可能な画像である。よって、本実施形態の周辺監視装置によれば、一例として、仮想空間における車両画像の床下の画像を透視可能となる。

また、実施形態の周辺監視装置は、一例として、撮像画像は、第１位置における車両の周囲を１つの撮像部により撮像して得られる。よって、本実施形態の周辺監視装置によれば、一例として、車両とその周囲の障害物との位置関係をより確認し易くすることができる。

また、実施形態の周辺監視装置は、一例として、車両画像は、当該車両画像が含む車体の画像を介して、車両画像が含む車輪の画像の三次元の外形が視認可能な画像である。よって、本実施形態の周辺監視装置は、一例として、車輪画像から、表示用画像内における車両画像と障害物との位置関係を容易に把握することができる。

また、実施形態の周辺監視装置は、一例として、生成部は、仮想空間内において車両画像を上方から見た場合における当該車両画像の輪郭線を、仮想空間に配置する。よって、本実施形態の周辺監視装置は、一例として、車両と障害物との位置関係をより把握し易くすることができる。

また、実施形態の周辺監視装置は、一例として、生成部は、第２位置における車両の操舵量を取得し、当該取得した操舵量の分だけ回転させた車輪の画像を、車両画像に含める。よって、本実施形態の周辺監視装置は、一例として、車両が現在の舵角で走行した場合に、車両が障害物を接触するか否かを容易に把握できる。

また、実施形態の周辺監視装置は、一例として、撮像画像は、第２位置における車両の床下に対応する画像を含む。よって、本実施形態の周辺監視装置は、一例として、第２位置における車両の床下の状況を表示部を介して確認できる。

図１は、第１の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。 図２は、第１の実施形態にかかる車両の一例の平面図である。 図３は、第１の実施形態にかかる車両の機能構成の一例を示すブロック図である。 図４は、第１の実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。 図５は、第１の実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。 図６は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。 図７は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。 図８は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。 図９は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。 図１０は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。 図１１は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。 図１２は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。 図１３は、第２の実施形態にかかる車両による仮想空間の生成処理の一例を説明するための図である。 図１４は、第３の実施形態にかかる車両により生成する表示用画像の一例を示す図である。

以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によって実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも１つを得ることが可能である。

本実施形態にかかる周辺監視装置（周辺監視システム）を搭載する車両は、内燃機関（エンジン）を駆動源とする自動車（内燃機関自動車）であっても良いし、電動機（モータ）を駆動源とする自動車（電気自動車、燃料電池自動車等）であっても良いし、それらの双方を駆動源とする自動車（ハイブリッド自動車）であっても良い。また、車両は、種々の変速装置、内燃機関や電動機の駆動に必要な種々の装置（システム、部品等）を搭載可能である。また、車両における車輪の駆動に関わる装置の方式、個数、レイアウト等は、種々に設定可能である。

（第１の実施形態）
図１は、第１の実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。図１に示すように、車両１は、車体２と、操舵部４と、加速操作部５と、制動操作部６と、変速操作部７と、モニタ装置１１と、を備える。車体２は、乗員が乗車する車室２ａを有する。車室２ａ内には、乗員としての運転手が座席２ｂに臨む状態で、操舵部４や、加速操作部５、制動操作部６、変速操作部７等が設けられている。操舵部４は、例えば、ダッシュボード２４から突出したステアリングホイールである。加速操作部５は、例えば、運転手の足下に位置されたアクセルペダルである。制動操作部６は、例えば、運転手の足下に位置されたブレーキペダルである。変速操作部７は、例えば、センターコンソールから突出したシフトレバーである。

モニタ装置１１は、例えば、ダッシュボード２４の車幅方向（すなわち、左右方向）の中央部に設けられる。モニタ装置１１は、例えば、ナビゲーションシステムまたはオーディオシステム等の機能を有していても良い。モニタ装置１１は、表示装置８、音声出力装置９、および操作入力部１０を有する。また、モニタ装置１１は、スイッチ、ダイヤル、ジョイスティック、および押しボタン等の各種の操作入力部を有しても良い。

表示装置８は、ＬＣＤ（Liquid Crystal Display）やＯＥＬＤ（Organic Electroluminescent Display）等で構成され、画像データに基づいて各種画像を表示可能である。音声出力装置９は、スピーカ等で構成され、音声データに基づいて各種音声を出力する。音声出力装置９は、車室２ａ内において、モニタ装置１１以外の異なる位置に設けられていても良い。

操作入力部１０は、タッチパネル等で構成され、乗員による各種情報の入力を可能とする。また、操作入力部１０は、表示装置８の表示画面に設けられ、表示装置８に表示される画像を透過可能である。これにより、操作入力部１０は、表示装置８の表示画面に表示される画像を乗員に視認させることを可能とする。操作入力部１０は、表示装置８の表示画面上における乗員のタッチ操作を検出することによって、乗員による各種情報の入力を受け付ける。

図２は、第１の実施形態にかかる車両の一例の平面図である。図１および図２に示すように、車両１は、四輪自動車等であり、左右２つの前輪３Ｆと、左右２つの後輪３Ｒと、を有する。４つの車輪３の全てまたは一部が、転舵可能である。

車両１は、複数の撮像部１５を搭載する。本実施形態では、車両１は、例えば、４つの撮像部１５ａ〜１５ｄを搭載する。撮像部１５は、ＣＣＤ（Charge Coupled Device）またはＣＩＳ（CMOS Image Sensor）等の撮像素子を有するデジタルカメラである。撮像部１５は、所定のフレームレートで車両１の周囲を撮像可能である。そして、撮像部１５は、車両１の周囲を撮像して得られた撮像画像を出力する。撮像部１５は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には、例えば、１４０°〜２２０°の範囲を撮像可能である。また、撮像部１５の光軸は、斜め下方に向けて設定されている場合もある。

具体的には、撮像部１５ａは、例えば、車体２の後側の端部２ｅに位置し、リアハッチのドア２ｈのリアウィンドウの下方の壁部に設けられている。そして、撮像部１５ａは、車両１の周囲のうち、当該車両１の後方の領域を撮像可能である。撮像部１５ｂは、例えば、車体２の右側の端部２ｆに位置し、右側のドアミラー２ｇに設けられている。そして、撮像部１５ｂは、車両１の周囲のうち、当該車両１の側方の領域を撮像可能である。撮像部１５ｃは、例えば、車体２の前側、すなわち、車両１の前後方向の前方側の端部２ｃに位置し、フロントバンパやフロントグリル等に設けられている。そして、撮像部１５ｃは、車両１の周囲のうち、当該車両１の前方の領域を撮像可能である。撮像部１５ｄは、例えば、車体２の左側、すなわち、車幅方向の左側の端部２ｄに位置し、左側のドアミラー２ｇに設けられている。そして、撮像部１５ｄは、車両１の周囲のうち、当該車両１の側方の領域を撮像可能である。

図３は、第１の実施形態にかかる車両の機能構成の一例を示すブロック図である。図３に示すように、車両１は、操舵システム１３と、ブレーキシステム１８と、舵角センサ１９と、アクセルセンサ２０と、シフトセンサ２１と、車輪速センサ２２と、車内ネットワーク２３と、ＥＣＵ（Electronic Control Unit）１４と、を備える。モニタ装置１１、操舵システム１３、ブレーキシステム１８、舵角センサ１９、アクセルセンサ２０、シフトセンサ２１、車輪速センサ２２、およびＥＣＵ１４は、電気通信回線である車内ネットワーク２３を介して電気的に接続されている。車内ネットワーク２３は、ＣＡＮ（Controller Area Network）等により構成される。

操舵システム１３は、電動パワーステアリングシステムやＳＢＷ（Steer By Wire）システム等である。操舵システム１３は、アクチュエータ１３ａおよびトルクセンサ１３ｂを有する。そして、操舵システム１３は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１３ａを動作させて、操舵部４に対して、トルクを付加して操舵力を補うことによって、車輪３を転舵する。トルクセンサ１３ｂは、運転者が操舵部４に与えるトルクを検出し、その検出結果をＥＣＵ１４に送信する。

ブレーキシステム１８は、車両１のブレーキのロックを制御するＡＢＳ（Anti-lock Brake System）、コーナリング時の車両１の横滑りを抑制する横滑り防止装置（ＥＳＣ：Electronic Stability Control）、ブレーキ力を増強させてブレーキをアシストする電動ブレーキシステム、およびＢＢＷ（Brake By Wire）を含む。ブレーキシステム１８は、アクチュエータ１８ａおよびブレーキセンサ１８ｂを有する。ブレーキシステム１８は、ＥＣＵ１４等によって電気的に制御され、アクチュエータ１８ａを介して、車輪３に制動力を付与する。ブレーキシステム１８は、左右の車輪３の回転差等から、ブレーキのロック、車輪３の空回り、および横滑りの兆候等を検出して、ブレーキのロック、車輪３の空回り、および横滑りを抑制する制御を実行する。ブレーキセンサ１８ｂは、制動操作部６の可動部としてのブレーキペダルの位置を検出する変位センサであり、ブレーキペダルの位置の検出結果をＥＣＵ１４に送信する。

舵角センサ１９は、ステアリングホイール等の操舵部４の操舵量を検出するセンサである。本実施形態では、舵角センサ１９は、ホール素子等で構成され、操舵部４の回転部分の回転角度を操舵量として検出し、その検出結果をＥＣＵ１４に送信する。アクセルセンサ２０は、加速操作部５の可動部としてのアクセルペダルの位置を検出する変位センサであり、その検出結果をＥＣＵ１４に送信する。

シフトセンサ２１は、変速操作部７の可動部（バー、アーム、ボタン等）の位置を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。車輪速センサ２２は、ホール素子等を有し、車輪３の回転量や単位時間当たりの車輪３の回転数を検出するセンサであり、その検出結果をＥＣＵ１４に送信する。

ＥＣＵ１４は、撮像部１５により車両１の周囲を撮像して得られる撮像画像に基づいて、仮想視点から、車両１の周囲の注視点を見た画像を生成し、当該生成した画像を表示装置８に表示させる。ＥＣＵ１４は、コンピュータ等で構成され、ハードウェアとソフトウェアが協働することにより、車両１の制御全般を司る。具体的には、ＥＣＵ１４は、ＣＰＵ（Central Processing Unit）１４ａ、ＲＯＭ（Read Only Memory）１４ｂ、ＲＡＭ（Random Access Memory）１４ｃ、表示制御部１４ｄ、音声制御部１４ｅ、およびＳＳＤ（Solid State Drive）１４ｆを備える。ＣＰＵ１４ａ、ＲＯＭ１４ｂ、およびＲＡＭ１４ｃは、同一の回路基板内に設けられていても良い。

ＣＰＵ１４ａは、ＲＯＭ１４ｂ等の不揮発性の記憶装置に記憶されたプログラムを読み出し、当該プログラムに従って各種の演算処理を実行する。例えば、ＣＰＵ１４ａは、表示装置８に表示させる画像データに対する画像処理、車両１の周囲に存在する障害物までの距離の算出等を実行する。

ＲＯＭ１４ｂは、各種プログラムおよび当該プログラムの実行に必要なパラメータ等を記憶する。ＲＡＭ１４ｃは、ＣＰＵ１４ａでの演算で用いられる各種データを一時的に記憶する。表示制御部１４ｄは、ＥＣＵ１４での演算処理のうち、主として、撮像部１５から取得してＣＰＵ１４ａへ出力する画像データに対する画像処理、ＣＰＵ１４ａから取得した画像データを表示装置８に表示させる表示用の画像データへの変換等を実行する。音声制御部１４ｅは、ＥＣＵ１４での演算処理のうち、主として、ＣＰＵ１４ａから取得して音声出力装置９に出力させる音声の処理を実行する。ＳＳＤ１４ｆは、書き換え可能な不揮発性の記憶部であって、ＥＣＵ１４の電源がオフされた場合にあってもＣＰＵ１４ａから取得したデータを記憶し続ける。

図４は、第１の実施形態にかかる車両が有するＥＣＵの機能構成の一例を示すブロック図である。図４に示すように、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２を備える。例えば、回路基板に搭載されたＣＰＵ１４ａ等のプロセッサが、ＲＯＭ１４ｂまたはＳＳＤ１４ｆ等の記憶媒体内に格納された周辺監視用のプログラムを実行することにより、ＥＣＵ１４は、表示用画像生成部４０１および表示用画像出力部４０２の機能を実現する。表示用画像生成部４０１および表示用画像出力部４０２の一部または全部を回路等のハードウェアによって構成しても良い。

表示用画像生成部４０１は、撮像部１５から、ある時刻（以下、過去時刻と言う）の車両１の位置（以下、過去位置と言う）における当該車両１の周囲を撮像部１５によって撮像して得られる撮像画像を取得する。次いで、表示用画像生成部４０１は、取得した撮像画像に基づいて、車両１と当該車両１の周囲に存在する障害物との位置関係を視認可能とする表示用画像を生成する。

具体的には、表示用画像生成部４０１は、取得した撮像画像に基づいて、車両１の周囲の仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。ここで、仮想空間は、過去位置における車両１の周囲の空間であり、かつ当該空間内における、過去時刻より後の時刻（例えば、現在時刻）の車両１の位置（例えば、現在位置）に対して、車両画像を設けた空間である。車両画像は、三次元の車両１の画像である。本実施形態では、車両画像は、過去位置における車両１の周囲の空間を透視可能な三次元の車両１の画像である。これにより、仮想空間における車両画像の床下の画像を透視することが可能となる。本実施形態では、車両画像を、仮想空間を透視可能な画像としているが、これに限定するものではなく、車両画像を、不透明な画像（すなわち、仮想空間を透視できない画像）としても良い。

本実施形態では、表示用画像生成部４０１は、取得した撮像画像を、過去位置における車両１の周囲の三次元の面（以下、カメラ画モデルと言う）に対して貼り付け、当該カメラ画モデルを含む空間を、過去位置における車両１の周囲の空間として生成する。本実施形態では、表示用画像生成部４０１は、取得した撮像画像を、過去位置における車両１の周囲のカメラ画モデルに対して貼り付けているが、取得した撮像画像を、車両１の周囲のカメラ画モデルに貼り付けるものであれば良く、例えば、取得した撮像画像を、現在位置における車両１の周囲のカメラ画モデルに貼り付けても良い。次いで、表示用画像生成部４０１は、生成した空間内の車両１の現在位置に対して、車両画像を配置した空間を仮想空間として生成する。その後、表示用画像生成部４０１は、生成した仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た画像を表示用画像として生成する。

また、本実施形態では、表示用画像生成部４０１は、操作入力部１０を介して新たな仮想視点が入力される度に、仮想空間内の注視点を新たな仮想視点から見た表示用画像を生成し直す。表示用画像出力部４０２は、表示用画像生成部４０１により生成される表示用画像を、表示装置８に出力する。これにより、表示用画像に含まれる障害物の画像を立体的な車両画像と同時に視認できるので、車両１と障害物との位置関係を把握し易くすることができる。

次に、図５を用いて、本実施形態にかかる車両１による表示用画像の表示処理の流れの一例について説明する。図５は、第１の実施形態にかかる車両による表示用画像の表示処理の流れの一例を示すフローチャートである。

本実施形態では、表示用画像生成部４０１は、表示用画像の表示を指示する表示指示を取得する（ステップＳ５０１）。表示指示を取得した場合（ステップＳ５０２：Ｙｅｓ）、表示用画像生成部４０１は、過去位置における車両１の周囲を撮像部１５により撮像して得られる撮像画像を取得する（ステップＳ５０３）。例えば、表示用画像生成部４０１は、現在時刻より予め設定された時間（例えば、数秒）前の過去時刻の車両１の過去位置（若しくは、車両１の現在位置よりも予め設定された距離（例えば、２ｍ）手前の過去位置）において車両１の周囲を撮像部１５により撮像して得られた撮像画像を取得する。また、本実施形態では、表示用画像生成部４０１は、現在位置における車両１の床下に対応する画像を含む撮像画像を取得する。これにより、現在位置における車両１の床下の画像を含む表示用画像が生成可能となるので、現在位置における車両１の床下の状況を表示装置８を介して確認できる。

次に、表示用画像生成部４０１は、取得した撮像画像に基づいて、仮想空間内の注視点を、操作入力部１０を介して入力された仮想視点から見た表示用画像を生成する（ステップＳ５０４）。本実施形態では、表示用画像生成部４０１は、１つの撮像部１５により過去位置における車両１の周囲を撮像して得られる撮像画像をカメラ画モデルに貼り付ける。そして、表示用画像生成部４０１は、当該カメラ画モデルを含む空間を、仮想空間とする。これにより、複数の撮像部１５により車両１の周囲を撮像して得られる複数の撮像画像をカメラ画モデルに貼り付ける場合とは異なり、カメラ画モデルに貼り付ける撮像画像につなぎ目が生じることを防止できるので、車両１とその周囲の障害物との位置関係をより確認し易くすることができる。なお、本実施形態では、表示用画像生成部４０１は、１つの撮像部１５の撮像画像に基づいて表示用画像を生成しているが、複数の撮像部１５の撮像画像に基づいて表示用画像を生成しても良い。

表示用画像出力部４０２は、表示用画像生成部４０１により生成された表示用画像を表示装置８に出力して、表示装置８に対して表示用画像を表示させる（ステップＳ５０５）。その後、表示用画像生成部４０１は、表示用画像の表示終了を指示する終了指示を取得する（ステップＳ５０６）。終了指示が取得された場合（ステップＳ５０７：Ｙｅｓ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０８）。

一方、終了指示が取得されなかった場合（ステップＳ５０７：Ｎｏ）、表示用画像生成部４０１は、操作入力部１０を介して、新たな仮想視点が入力されたか否かを判断する（ステップＳ５０９）。新たな仮想視点が入力されずに、予め設定された時間が経過した場合（ステップＳ５０９：Ｎｏ）、表示用画像出力部４０２は、表示装置８に対する表示用画像の出力を停止して、表示装置８に対する表示用画像の表示を終了させる（ステップＳ５０８）。新たな仮想視点が入力された場合（ステップＳ５０９：Ｙｅｓ）、表示用画像生成部４０１は、ステップＳ５０４に戻り、仮想空間内における注視点を新たな仮想視点から見た表示用画像を生成し直す。

次に、図６〜９を用いて、本実施形態にかかる車両１による表示用画像の生成処理の一例について説明する。図６および図７は、第１の実施形態にかかる車両による表示用画像の生成に用いるカメラ画モデルの一例を説明するための図である。図６および図７において、車両１のタイヤの接地面（路面）と平行な１つの方向をＺ方向とし、車両１のタイヤの接地面と平行かつＺ方向と直交する方向をＸ方向とし、接地面に対して垂直な方向をＹ方向とする。図８および図９は、第１の実施形態にかかる車両における表示用画像の生成に用いるカメラ画モデルおよび車両画像の一例を説明するための図である。

本実施形態では、表示用画像生成部４０１は、図６および図７に示すように、第１面Ｓ１と第２面Ｓ２とを含むカメラ画モデルＳを予め生成する。本実施形態では、第１面Ｓ１は、車両１が存在する路面に対応する平坦な面である。例えば、第１面Ｓ１は、楕円形の平坦な面である。第２面Ｓ２は、第１面Ｓ１を基準として、第１面Ｓ１の外側（外縁）に連続して設けられ、かつ当該第１面Ｓ１から離れるに従ってＹ方向に徐々に立ち上がる曲面である。例えば、第２面Ｓ２は、第１面Ｓ１の外側から、Ｙ方向に楕円状または放物線状に立ち上がる曲面である。すなわち、表示用画像生成部４０１は、お椀型または円筒状の三次元の面をカメラ画モデルＳとして生成する。

本実施形態では、表示用画像生成部４０１は、平坦な第１面Ｓ１と、曲面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しているが、三次元の貼付面をカメラ画モデルＳとして生成するものであれば、これに限定するものではない。例えば、表示用画像生成部４０１は、平坦な第１面Ｓ１と、当該第１面Ｓ１の外側から当該第１面Ｓ１に対して垂直または徐々に立ち上がる平坦な面の第２面Ｓ２と、を有する三次元の貼付面をカメラ画モデルＳとして生成しても良い。

次に、表示用画像生成部４０１は、過去位置Ｐ１において車両１の周囲を撮像部１５によって撮像して得られた撮像画像を、カメラ画モデルＳに対して貼り付ける。本実施形態では、表示用画像生成部４０１は、過去位置Ｐ１を原点するワールド座標系で表されるカメラ画モデルＳ内の点（以下、貼付点と言う）の座標（以下、三次元座標と言う）と、当該三次元座標の貼付点に貼り付ける、撮像画像内の点（以下、カメラ画点と言う）の座標（以下、カメラ画座標と言う）と、を対応付ける座標テーブルを予め作成する。そして、表示用画像生成部４０１は、撮像画像内のカメラ画点を、座標テーブルにおいて当該カメラ画点のカメラ画座標と対応付けられる三次元座標の貼付点に貼り付ける。本実施形態では、表示用画像生成部４０１は、車両１の内燃機関または電動機がスタートされる度に、当該座標テーブルを作成する。

その後、表示用画像生成部４０１は、撮像画像を貼り付けたカメラ画モデルＳを、過去位置Ｐ１における車両１の周囲の空間に配置する。さらに、表示用画像生成部４０１は、図８および図９に示すように、当該空間内における車両１の現在位置Ｐ２に対して、車両画像ＣＧを配置した空間を仮想空間Ａとして生成する。仮想空間Ａを生成すると、表示用画像生成部４０１は、図６に示すように、当該仮想空間Ａにおいて車両１の現在位置Ｐ２に設けられた車両画像ＣＧの前端から、第１面Ｓ１に対して垂直に下した点を注視点Ｐ３に設定する。次いで、表示用画像生成部４０１は、図６、図８、および図９に示すように、操作入力部１０から入力された仮想視点Ｐ４から注視点Ｐ３を見た表示用画像を生成する。これにより、表示用画像に含まれる障害物の画像を立体的な車両画像ＣＧと同時に視認できるので、車両１と障害物との位置関係を把握し易くすることができる。

また、本実施形態では、表示用画像生成部４０１は、図８および図９に示すように、カメラ画モデルＳに貼り付けた撮像画像が車両画像ＣＧを介して透視できるように、車両画像ＣＧの透過度を調整した上で、当該車両画像ＣＧを、仮想空間Ａに対して配置する。その際、表示用画像生成部４０１は、車両画像ＣＧが含む車体の画像を介して、三次元の外形が視認可能な表示態様の車輪の画像ＴＧ（以下、車輪画像と言う）を、車両画像ＣＧに含める。例えば、表示用画像生成部４０１は、車両画像ＣＧ内の車輪画像ＴＧ以外の部分（例えば、車体の画像）の透過度を、車輪画像ＴＧの透過度より高くする。これにより、図８および図９に示すように、表示用画像に含まれる車輪画像ＴＧが、車両画像ＣＧ内の車輪画像ＴＧ以外の部分によって視認できなくなることを防止できるので、車輪画像ＴＧから、表示用画像内における車両画像ＣＧと障害物との位置関係を容易に把握することができる。

また、本実施形態では、表示用画像生成部４０１は、舵角センサ１９から、現在位置Ｐ２における車両１の操舵量を取得する。そして、表示用画像生成部４０１は、図８および図９に示すように、取得した操舵量に応じた舵角の分だけ回転させた車輪画像ＴＧを含む車両画像ＣＧを含む空間を仮想空間Ａとして生成する。これにより、表示用画像に含まれる車輪画像ＴＧから、車両１の車輪の舵角を確認できるので、車両１が現在の舵角で走行した場合に、車両１が障害物に接触するか否かを容易に把握できる。また、表示用画像生成部４０１は、車輪画像ＴＧの透過度を、仮想空間Ａ内において、当該車輪画像ＴＧが存在する位置の路面の画像が視認可能な透過度としても良い。これにより、車両１の車輪によって踏んでいる路面の状態を把握することができる。

また、本実施形態では、表示用画像生成部４０１は、車輪速センサ２２から、車輪３の回転数を取得し、取得した回転数に応じて、車輪画像ＴＧを回転させても良い。これにより、表示用画像内において、車輪画像ＴＧが回転しながら、車両画像ＣＧが移動するので、表示用画像内において、車輪画像ＴＧが回転することなく、車両画像ＣＧが動いている様子に対して、車両１の乗員が違和感を覚えることを防止できる。

また、本実施形態では、表示用画像生成部４０１は、図８および図９に示すように、車両１の三次元の画像を面で表した画像を車両画像ＣＧとして仮想空間Ａに設けているが、車両１の三次元の形状を視認可能な画像を車両画像ＣＧとして仮想空間Ａに設けるものであれば良い。例えば、表示用画像生成部４０１は、車両１の三次元の形状を輪郭線で表したワイヤーフレームモデルを車両画像ＣＧとして仮想空間Ａに設けても良い。これにより、車輪画像ＴＧが、車両画像ＣＧ内の車輪画像ＴＧ以外の部分によって視認できなくなることを防止できるので、車輪画像ＴＧから、表示用画像内における車両画像ＣＧと障害物との位置関係を容易に把握することができる。

また、過去位置Ｐ１における車両１の周囲（例えば、車両１の前方）を広角のカメラ（例えば、画角が１８０°のカメラ）により撮像して得られる撮像画像が貼り付けられたカメラ画モデルＳを含む仮想空間Ａの画像をそのまま表示装置８に表示させた場合、撮像画像に含まれる車両１の画像（例えば、車両１のフロントバンパの画像）が表示用画像に映り込んでしまい、車両１の乗員が、違和感を覚えることがある。これに対して、本実施形態では、表示用画像生成部４０１は、車両１の過去位置Ｐ１から、車両１の外側に向かって、隙間を空けて、カメラ画モデルＳを設けることにより、撮像画像に含まれる車両１の画像が表示用画像に映り込むことを防止できるので、車両１の乗員が違和感を覚えることを防止できる。

次に、図１０〜１２を用いて、本実施形態にかかる車両１において生成される表示用画像の一例について説明する。図１０〜１２は、第１の実施形態にかかる車両において生成される表示用画像の一例を示す図である。

表示用画像出力部４０２は、図１０に示すように、表示用画像生成部４０１により生成された表示用画像Ｇを表示装置８に出力して、表示装置８に対して表示用画像Ｇを表示させる。その後、図１０に示す表示用画像Ｇが表示された表示装置８の表示画面上において車両１の乗員がフリック等を行って、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から右方向への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、図１１に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から右側に移動させた仮想視点Ｐ４から、注視点Ｐ３を見た画像を表示用画像Ｇとして生成する。本実施形態では、表示用画像生成部４０１は、図１０および図１１に示すように、表示用画像Ｇ内における注視点Ｐ３の位置が、当該表示用画像Ｇ内の中心に位置するように、表示用画像Ｇを生成する。

一方、表示装置８の表示画面上において車両１の乗員がフリックを行って、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から左方向への仮想視点Ｐ４の移動が指示された場合、表示用画像生成部４０１は、図１２に示すように、車両画像ＣＧの車幅方向において当該車両画像ＣＧの中央から左側に移動させた仮想視点Ｐ４から、注視点Ｐ３を見た画像を表示用画像Ｇとして生成する。これにより、車両画像ＣＧと障害物との位置関係を様々な角度から見た表示用画像Ｇを表示できるので、車両１と障害物との位置関係をより把握し易くすることができる。

このように、第１の実施形態にかかる車両１によれば、表示用画像に含まれる障害物の画像を立体的な車両画像と同時に視認できるので、車両１と障害物との位置関係を把握し易くすることができる。

（第２の実施形態）
本実施形態は、車両の現在位置を原点とするワールド座標系で表されるカメラ画モデルに対して、過去位置において車両の周囲を撮像して得られる撮像画像を貼り付ける例である。以下の説明では、第１の実施形態と同様の構成については説明を省略する。

図１３は、第２の実施形態にかかる車両による仮想空間の生成処理の一例を説明するための図である。図１３において、車両１のタイヤの接地面（路面）と平行な１つの方向をＺ方向とし、車両１のタイヤの接地面と平行かつＺ方向と直交する方向をＸ方向とし、接地面に対して垂直な方向をＹ方向とする。表示用画像生成部４０１は、図１３に示すように、第１の実施形態と同様に、第１面Ｓ１と第２面Ｓ２とを含むカメラ画モデルＳを予め生成する。

また、表示用画像生成部４０１は、過去位置Ｐ１と、当該過去位置Ｐ１における車両１の進行方向（方位）と、を取得する。次いで、表示用画像生成部４０１は、過去位置Ｐ１における車両１の進行方向（方位）と現在位置Ｐ２における車両１の進行方向（方位）との差分である方位差と、過去位置Ｐ１と現在位置Ｐ２との差分である自車位置差とを求める。さらに、表示用画像生成部４０１は、図１３に示すように、求めた方位差および自車位置差に基づいて、現在位置Ｐ２を原点とするワールド座標系で表されるカメラ画モデルＳ内の各三次元座標（Ｘ１，Ｙ１，Ｚ１）について、回転や平行移動を行って、当該三次元座標（Ｘ１，Ｙ１，Ｚ１）を、過去位置Ｐ１を原点とするワールド座標系における三次元座標（Ｘ２，Ｙ２，Ｚ２）に変換する。

さらに、表示用画像生成部４０１は、図１３に示すように、過去位置Ｐ１を原点とするワールド座標系で表される三次元座標（Ｘ２，Ｙ２，Ｚ２）を投影変換して、当該三次元座標（Ｘ２，Ｙ２，Ｚ２）に貼り付けるカメラ画点のカメラ画座標（Ｕ，Ｖ）を求める。そして、表示用画像生成部４０１は、求めたカメラ画座標（Ｕ，Ｖ）のカメラ画点を、現在位置Ｐ２を原点とするワールド座標系で表される三次元座標（Ｘ１，Ｙ１，Ｚ１）の貼付点に貼り付ける。これにより、表示用画像生成部４０１は、車両１の現在位置Ｐ２を原点とするワールド座標系で表されるカメラ画モデルＳに対して、過去位置Ｐ１において車両１の周囲を撮像して得られる撮像画像を貼り付ける。

このように、第２の実施形態にかかる車両１によれば、第１の実施形態と同様の作用効果を得ることができる。

（第３の実施形態）
本実施形態は、仮想空間内において車両画像を上方から見た場合における当該車両画像の輪郭線を当該仮想空間に配置する例である。以下の説明では、第１の実施形態と同様の構成については説明を省略する。

図１４は、第３の実施形態にかかる車両により生成する表示用画像の一例を示す図である。本実施形態では、表示用画像生成部４０１は、仮想空間内の車両画像を当該車両画像の上方から見た場合における当該車両画像の輪郭線Ｌ１（例えば、破線）を仮想空間に配置する。具体的には、表示用画像生成部４０１は、車両画像をカメラ画モデルＳの第１面Ｓ１に投影した画像の輪郭を輪郭線Ｌ１として求める。そして、表示用画像生成部４０１は、求めた輪郭線Ｌ１を第１面Ｓ１に配置する。これにより、図１４に示すように、表示用画像Ｇ内にも輪郭線Ｌ１を含めることが可能となり、表示用画像Ｇに含まれる障害物の画像を平面的な車両画像ＣＧの位置と同時に視認できるので、車両１と障害物との位置関係をより把握し易くすることができる。

また、本実施形態では、表示用画像生成部４０１は、車両１の周囲に存在する路面と、車体２と、の距離を検出可能なステレオカメラを撮像部１５として有する場合、当該ステレオカメラにより検出された距離に基づいて、現在時刻より後の時刻までに車輪３が通る軌跡線Ｌ２（以下、予想軌跡線と言う）を求める。そして、表示用画像生成部４０１は、図１４に示すように、表示用画像Ｇのうち、路面の画像ＲＧ（以下、路面画像と言う）に対して、求めた予想軌跡線Ｌ２を重畳しても良い。これにより、車両１が走行する路面の路面状況を視認できるので、車両１の周囲の環境をより把握し易くすることができる。本実施形態では、ステレオカメラによって、車両１の周囲に存在する路面と、車体２と、の距離を検出することとしたが、これに限定するものではなく、例えば、レーザレーダ等によって、車両１の周囲に存在する路面と、車体２と、の距離を検出しても良い。

また、本実施形態では、表示用画像生成部４０１は、予想軌跡線Ｌ２を表示用画像Ｇに重畳しているが、車両１の周囲に存在する路面の凹凸を視認可能とする画像を表示用画像Ｇに含めるものであれば良い。例えば、表示用画像生成部４０１は、ステレオカメラやレーザレーダ等により検出される、車両１の周囲に存在する路面と、車体２と、の距離に応じて、車両１の周囲に存在する路面の凹凸を視認可能とするハッチング（例えば、半透明のハッチング）を表示用画像Ｇに重畳したり、表示用画像Ｇ内の路面画像ＲＧの陰影を強調したりしても良い。または、表示用画像生成部４０１は、カメラ画モデルＳの第１面Ｓ１に対して、車両１の周囲に存在する路面の凹凸に対応する凹凸を設けても良い。

さらに、本実施形態では、表示用画像生成部４０１は、サスペンションに設けられたストロークセンサによって、車両１が有するサスペンションのストロークを検出する。そして、表示用画像生成部４０１は、検出したストロークを視認可能とする車両画像を仮想空間に配置しても良い。これにより、車両１が走行する路面の路面状況を視認できるので、車両１の周囲の環境をより把握し易くすることができる。

具体的には、表示用画像生成部４０１は、検出したストロークに応じて、仮想空間内における、車両画像が含む車体の画像と車輪画像との間の距離を変化させる。例えば、表示用画像生成部４０１は、車両１の車輪３が路面の凹部に位置して、検出したストロークが予め設定されたストロークより長い場合には、車両画像が含む車体の画像と車輪画像との間の距離を予め設定された距離より長くする。これにより、図１４に示すように、車両１の車輪３が路面の凹部に位置する場合には、車両画像ＣＧが含む車体の画像と、車輪画像ＴＧ（実線で示す車輪画像ＴＧ）との間の距離を長くして、車輪３が凹部に位置することを表すことができるので、車両１の周囲の環境をより把握し易くすることができる。

一方、表示用画像生成部４０１は、車両１の車輪が路面の凸部に位置して、検出したストロークが予め設定されたストロークより短い場合には、車両画像が含む車体の画像と車輪画像との間の距離を予め設定された距離より短くする。これにより、図１４に示すように、車両１の車輪３が路面の凸部に位置する場合には、車両画像ＣＧが含む車体の画像と、車輪画像ＴＧ（破線で示す車輪画像ＴＧ）との間の距離を短くして、車輪３が凸部に位置することを表すことができるので、車両１の周囲の環境をより把握し易くすることができる。

このように、第３の実施形態にかかる車両１によれば、表示用画像Ｇに含まれる障害物の画像を平面的に表された車両画像の位置と同時に視認できるので、車両１と障害物との位置関係をより把握し易くすることができる。

１…車両、８…表示装置、１４…ＥＣＵ、１５…撮像部、１４ａ…ＣＰＵ、１４ｂ…ＲＯＭ、１４ｃ…ＲＡＭ、１４ｄ…表示制御部、１４ｆ…ＳＳＤ、４０１…表示用画像生成部、４０２…表示用画像出力部。

Claims (7)

1. 第１時刻の車両の第１位置における前記車両の周囲を前記車両が搭載する撮像部により撮像して得られる撮像画像が、前記第１位置を原点とする前記車両の周囲の三次元の面に貼り付けられたモデルと、前記第１時刻より後の第２時刻の前記車両の第２位置に設けられた三次元の車両画像と、を含む仮想空間内の注視点を、操作入力部を介して入力された仮想視点から見た表示用画像を生成する生成部と、
   前記表示用画像を表示部に出力する出力部と、
   を備える周辺監視装置。
2. 前記車両画像は、前記モデルを透視可能な画像である請求項１に記載の周辺監視装置。
3. 前記撮像画像は、前記第１位置における前記車両の周囲を１つの前記撮像部により撮像して得られる請求項１または２に記載の周辺監視装置。
4. 前記車両画像は、当該車両画像が含む車体の画像を介して、前記車両画像が含む車輪の画像の三次元の外形が視認可能な画像である請求項１から３のいずれか一に記載の周辺監視装置。
5. 前記生成部は、前記仮想空間内において前記車両画像を上方から見た場合における当該車両画像の輪郭線を、前記仮想空間に配置する請求項１から４のいずれか一に記載の周辺監視装置。
6. 前記生成部は、前記第２位置における前記車両の操舵量を取得し、当該取得した操舵量の分だけ回転させた前記車輪の画像を、前記車両画像に含める請求項４に記載の周辺監視装置。
7. 前記撮像画像は、前記第２位置における前記車両の床下に対応する画像を含む請求項１から６のいずれか一に記載の周辺監視装置。

Images