[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6838340B2 - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JP6838340B2
JP6838340B2 JP2016194400A JP2016194400A JP6838340B2 JP 6838340 B2 JP6838340 B2 JP 6838340B2 JP 2016194400 A JP2016194400 A JP 2016194400A JP 2016194400 A JP2016194400 A JP 2016194400A JP 6838340 B2 JP6838340 B2 JP 6838340B2
Authority
JP
Japan
Prior art keywords
road surface
index
vehicle
display
wire frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016194400A
Other languages
English (en)
Other versions
JP2018056953A (ja
Inventor
渡邊 一矢
一矢 渡邊
陽司 乾
陽司 乾
欣司 山本
欣司 山本
崇 平槙
崇 平槙
拓也 橋川
拓也 橋川
哲也 丸岡
哲也 丸岡
久保田 尚孝
尚孝 久保田
木村 修
修 木村
いつ子 大橋
いつ子 大橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2016194400A priority Critical patent/JP6838340B2/ja
Priority to US16/337,552 priority patent/US10793070B2/en
Priority to CN201780051312.7A priority patent/CN109643439B/zh
Priority to DE112017004936.9T priority patent/DE112017004936T5/de
Priority to PCT/JP2017/011646 priority patent/WO2018061256A1/ja
Publication of JP2018056953A publication Critical patent/JP2018056953A/ja
Application granted granted Critical
Publication of JP6838340B2 publication Critical patent/JP6838340B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8086Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for vehicle path indication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2012Colour editing, changing, or manipulating; Use of colour codes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Remote Sensing (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、周辺監視装置に関する。
従来、航空写真で取得した画像と高さ情報を含む位置情報とを用いて、立体視可能な地図を作成する技術が提案されている。
特開2003−98957号公報
しかしながら、上述したような地図作成技術は、主に広範囲を表示対象とするもので、例えば、車載の表示装置で車両周辺の限定的な領域を表示するのには向いていない場合が多い。また、車載の表示装置の場合、配置スペースが限られるため画面サイズの大型化は困難であり、表示内容を立体画像としている場合でも、その立体感が利用者に伝わり難いという問題があった。
そこで、本発明の課題の一つは、車室内に配置された表示装置に車両の周辺状況を示す周辺画像を表示する場合に、画像内容の立体感がより明確になり、車両の周辺状況の把握がより容易な表示が可能な周辺監視装置を提供することである。
本発明の実施形態にかかる周辺監視装置は、例えば、車両の進行方向の路面を含む周辺画像を撮像する撮像部から出力された撮像画像データと、上記周辺画像に表された上記路面の領域ごとの高さを示した高さデータと、を含む上記路面の凹凸状態を示す三次元モデル画像を取得する取得部と、取得した上記三次元モデル画像に含まれている上記領域ごとに上記高さデータに基づく上記路面の高さを示す指標を重畳して表示装置に表示する制御部と、を備え、上記制御部は、上記指標とともに、上記三次元モデル画像に上記車両の舵角に基づく進行推定方向を示す進路指標を重畳する場合、上記進路指標を重畳する領域と他の領域とで、上記指標の表示態様を異ならせる。この構成によれば、三次元モデル画像に含まれている領域ごとに路面の高さを示す指標が重畳表示されるので、例えば、路面の高さを直感的に把握させやすくなる。また、舵角に基づく進行推定方向を示す進路指標を重畳することで、例えば、車両の進行推定方向の路面の高さ(高低差)の把握が容易になり、走行しやすい進路の選択をより容易に行わせることができる。この場合、進路指標を重畳する領域と他の領域とで、指標の表示態様を異ならせることにより、車両の進行予定方向の路面の高さ情報をより詳細に提供できるととともに、進行予定方向以外の領域は、高さ情報の表示が、例えば簡略化できるので、演算処理の負荷を軽減できるとともに、画面全体の視認性を向上させることができる。
本発明の実施形態にかかる周辺監視装置の上記指標は、例えば、上記路面の上記凹凸状態を示すワイヤーフレームでもよい。この構成によれば、高さの変化はワイヤーフレームを構成するワイヤの傾きの変化で表現されるので、例えば、高さの変化がより顕著に表現され、路面の高さをより直感的に把握させやすくなる。
本発明の実施形態にかかる周辺監視装置の上記指標は、例えば、上記路面の所定の面を基準に同じ高さの複数の位置をつなぐ等高線でもよい。この構成によれば、例えば、路面の同程度の高さ部分が明確になるので、路面の高さ構成をより直感的に把握させやすくなる。
本発明の実施形態にかかる周辺監視装置の上記指標は、例えば、上記三次元モデル画像の上記領域ごとの勾配方向に応じて移動可能な複数の移動マークであり、上記制御部は、上記領域ごとの勾配状態に応じて上記移動マークの移動速度を異ならせてもよい。この構成によれば、例えば、移動する移動マークの存在により路面の凹凸がより明確になるとともに、移動マークの移動速度により路面の勾配を表現するので、路面の勾配構成をより直感的に把握させやすくなる。
本発明の実施形態にかかる周辺監視装置の上記指標は、例えば、上記高さデータに基づく上記路面の高さを示す、上記三次元モデル画像上で所定の方向に移動する走査線でもよい。この構成によれば、路面の形状に応じて、走査線の形状が変化しながら三次元モデル画像上を所定の方向に移動するので、例えば、部分的な路面形状を把握させやすくなる。なお、走査線は、例えば、一本でも複数本でもよく、走査線の本数を少なくすることで、三次元モデル画像で示される路面画像の視認性を向上させることができる。
本発明の実施形態にかかる周辺監視装置の上記制御部は、例えば、上記指標を、上記三次元モデル画像に上記指標を重畳する領域の上記路面の色の補色で表示してもよい。この構成によれば、指標の表示色を三次元モデル画像に含まれる路面の表示色の補色で表示することにより、例えば、指標の識別性がより向上して、路面の形状把握をより容易に行わせやすくなる。
本発明の実施形態にかかる周辺監視装置の上記制御部は、例えば、上記指標の表示態様を上記路面の高さに応じて異ならせてもよい。この構成によれば、例えば、路面の高さの把握をより容易に行わせることができる。
図1は、実施形態にかかる周辺監視装置を搭載する車両の車室の一部が透視された状態の一例が示された斜視図である。 図2は、実施形態にかかる周辺監視装置を搭載する車両の一例が示された平面図である。 図3は、実施形態にかかる周辺監視装置を含む周辺監視システムの一例が示されたブロック図である。 図4は、実施形態にかかる周辺監視装置のECU内に実現される指標を表示するため制御部(CPU)の構成の一例を示すブロック図である。 図5は、実施形態にかかる周辺監視装置において、指標としてワイヤーフレームを三次元モデル画像に重畳した例を説明する表示例である。 図6は、実施形態にかかる周辺監視装置において、指標が重畳されていない三次元モデル画像の例を説明する画像例である。 図7は、実施形態にかかる周辺監視装置において、三次元モデル画像に重畳する高さ情報を含むワイヤーフレームの態様を説明する画像例である。 図8は、実施形態にかかる周辺監視装置において、三次元モデル画像に、路面の高さを示す指標の一例として、路面の高さにしたがう等高線を重畳した場合の表示例である。 図9は、実施形態にかかる周辺監視装置において、指標としてワイヤーフレームが重畳された三次元モデル画像に、勾配方向に応じて移動可能な複数の移動マークを表示する表示例である。 図10は、実施形態にかかる周辺監視装置において、指標として三次元モデル画像上を第一の方向に移動する走査線の表示例を説明する図である。 図11は、実施形態にかかる周辺監視装置において、指標として三次元モデル画像上を第二の方向に移動する走査線の表示例を説明する図である。 図12は、実施形態にかかる周辺監視装置において、指標の表示色を決定する場合に参照されるデータに対応する色相環の例を示す図である。 図13は、実施形態にかかる周辺監視装置において、路面の高さに応じて指標の表示態様を変化させた表示例であり、ワイヤーフレームで囲まれた領域のうち所定高さを超える領域の表示色を変化させた例を示す図である。 図14は、実施形態にかかる周辺監視装置において、路面の高さに応じて指標の表示態様を変化させた表示例であり、ワイヤーフレームで囲まれた領域の表示色を路面の高さごとに変化させた場合を示す図である。 図15は、実施形態にかかる周辺監視装置において、進路指標を表示する場合に、進路指標の表示部分のみにワイヤーフレームによる路面の高さを示す指標を重畳した例を示す表示例である。 図16は、実施形態にかかる周辺監視装置において、車両の進路方向の領域のみにワイヤーフレームによる路面の高さを示す指標を重畳した例を示す表示例である。 図17は、実施形態にかかる周辺監視装置において、車両の進路方向の領域のワイヤーフレームのワイヤ密度(ピッチ)を「密」にして、それ以外の領域のワイヤーフレームのワイヤ密度を「疎」にした表示例である。 図18は、実施形態にかかる周辺監視装置において、指標を表示する場合の処理手順の前半部分を説明するフローチャートである。 図19は、実施形態にかかる周辺監視装置において、指標を表示する場合の処理手順の後半部分を説明するフローチャートである。 図20は、実施形態にかかる周辺監視装置において、指標としてワイヤーフレームを三次元モデル画像に重畳した例で、車両の前方の離間距離を示すようにワイヤーフレームで囲む領域の一部の表示色を変化させた表示例である。 図21は、実施形態にかかる周辺監視装置において、指標を表示する場合の表示装置における表示領域の他のレイアウト例を説明する説明である。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
本実施形態において、周辺監視装置(周辺監視システム)を搭載する車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよい。また、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。車両1は、例えば、いわゆる「オンロード」(主として舗装された道路やそれと同等の道路)の走行に加え、「オフロード」(主として舗装されていない不整地路等)の走行も好適に行える車両である。駆動方式としては、4つある車輪3すべてに駆動力を伝え、4輪すべてを駆動輪として用いる四輪駆動車両とすることができる。車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。また、駆動方式も四輪駆動方式に限定されず、例えば、前輪駆動方式や後輪駆動方式でもよい。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールであり、加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルであり、制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルであり、変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
また、車室2a内には、表示装置8や、音声出力装置9が設けられている。表示装置8は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等で操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置8、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
また、図1、図2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図3に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(electronic control unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。操舵システム13は、アクチュエータ13aによって操舵部4にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。この場合、アクチュエータ13aは、一つの車輪3を転舵してもよいし、複数の車輪3を転舵してもよい。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。
本実施形態の周辺監視装置(周辺監視システム)は、一例として、車両1の進行方向を含む周辺領域を撮像する撮像部15から出力された撮像画像データに基づく画像と、その画像に表された路面の領域ごとの高さを示した高さデータと、を含む路面の凹凸(起伏)状態を示す三次元モデル画像を取得する。なお、路面の領域とは、適宜設定可能な広さを示す領域であり、例えば画面を構成する画素ごとに規定される領域でもよいし、隣接する所定数の画素の集合として規定される領域でもよい。また、画面を複数に分割することによって規定される領域でもよい。そして、この三次元モデル画像に含まれている領域ごとに路面の高さを示す指標(例えば、高さを示す高さデータに基づき起伏状態が変化するワイヤーフレーム)を重畳して表示装置8に表示する。周辺監視装置は、三次元モデル画像に含まれる領域ごとに、路面の高さを示す指標(例えば、ワイヤーフレーム)を重畳表示することにより、路面の高さを直感的に利用者(ユーザ、運転者)に把握させやすくすることができる。
図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a〜15dが設けられている。撮像部15は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部15は、車両1が移動可能な路面やその周辺の物体(障害物、岩、窪み等)を含む外部環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リアハッチのドア2hのリアウインドウの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパやフロントグリル等に設けられている。なお、撮像部15cは、車室2aの内部の例えばルームミラーの裏面(フロントガラスに対向する面)に配置してもよい。この場合、撮像部15cの撮像範囲は、ワイパーの払拭領域内に入るように設置することが望ましい。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側のドアミラー2gに設けられている。周辺監視システム100を構成するECU14は、複数の撮像部15で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。また、ECU14は、撮像部15で得られた広角画像のデータに演算処理や画像処理を実行し、特定の領域を切り出した画像を生成したり、特定の領域のみを示す画像データを生成したり、特定の領域のみが強調されたような画像データを生成したりする。また、ECU14は、撮像画像データを撮像部15が撮像した視点とは異なる視点(仮想視点)から撮像したような仮想画像データに変換(視点変換)することができる。ECU14は、取得した画像データを表示装置8に表示することで、例えば、車両1の右側方や左側方の安全確認、車両1を俯瞰してその周囲の安全確認を実行できるような周辺監視情報を提供することができる。
上述したように、本実施形態のECU14は、路面の領域ごとの高さ示す高さデータに基づき、路面の凹凸状態(三次元形状)を示す三次元モデル画像を取得して、その三次元モデル画像を路面の領域ごとの高さを示す指標(例えば、ワイヤーフレーム)とともに表示装置8に表示する。路面の凹凸状態の検出は、種々の手法によって可能である。例えば、ステレオカメラを用いて、2台の撮像部(カメラ)で物体を同時に撮影し、各カメラで得られた物体の画像上での位置の違い(視差)から、その物体の位置や立体的な形状を検出する。したがって、車両1の前方の路面の凹凸情報を取得する場合には、撮像部15cをステレオカメラとしてもよい。この場合、撮像部15cは、指標を重畳する周辺画像を撮像するとともに、その周辺画像に含まれる路面の形状情報(三次元情報)を取得することができる。また、その路面の形状情報(三次元情報)を用いて、指標としての例えばワイヤーフレームの態様を決定することができる。
なお、路面の凹凸状態(立体情報、三次元情報)を検出する他の実施例としてレーザスキャナ28を利用することができる。この場合、撮像部15cは単眼のカメラとしてもよく、指標(例えば、ワイヤーフレーム)を重畳するための周辺画像(二次元画像)を撮像する。そして、単眼カメラである撮像部15cが取得した二次元画像にレーザスキャナ28が取得した路面の三次元情報(凹凸情報)を与えて三次元モデル画像とする。また、レーザスキャナ28が取得した路面の形状情報(三次元情報)を用いて、指標としての例えばワイヤーフレームの態様を決定する。なお、路面の三次元情報(凹凸情報)を用いて三次元モデル画像を生成する場合、路面の一部を三次元表示としてもよいし、全体を三次元表示としてもよい。また、車両1の後方の路面の凹凸状態(立体情報、三次元情報)を検出する場合は、撮像部15aをステレオカメラにしたり、車両1の後方を検出範囲とするレーザスキャナ28を設けたりすればよい。また、レーザスキャナ28とステレオカメラとを併用してもよく、この場合、路面の凹凸状態をより高精度で検出できる。
図3に例示されるように、周辺監視システム100(周辺監視装置)では、ECU14や、モニタ装置11、操舵システム13等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26(26a,26b)等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22、加速度センサ26等の検出結果や、操作入力部10等の操作信号を、受け取ることができる。なお、撮像部15cを単眼カメラとする場合は、車内ネットワーク23にレーザスキャナ28を接続し、ECU14は、レーザスキャナ28の検出結果に基づき路面の凹凸状態の検出を行いうる。
ECU14は、例えば、CPU14a(central processing unit)や、ROM14b(read only memory)、RAM14c(random access memory)、表示制御部14d、音声制御部14e、SSD14f(solid state drive、フラッシュメモリ)等を有している。CPU14aは、例えば、表示装置8で表示される画像に関連した画像処理として、三次元モデル画像の生成処理やその三次元モデル画像に重畳する指標としてのワイヤーフレーム等の生成や指標の表示態様の決定処理等を行う。またCPU14aは、車両1の進行推定方向を示す進路指標の算出処理や、路面の凹凸状態に対して注意喚起を行うための案内(報知)処理等の各種演算や各種処理を実行する。CPU14aは、ROM14b等の不揮発性の記憶装置に記憶された(インストールされた)プログラムを読み出し、当該プログラムに従って演算処理を実行する。
RAM14cは、CPU14aでの演算で用いられる各種データを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15で得られた撮像画像データを用いた画像処理や、表示装置8で表示される画像データの画像処理(一例としては画像合成)等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。また、SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合であってもデータを記憶することができる。なお、CPU14a、ROM14b、RAM14c等は、同一パッケージ内に集積されることができる。また、ECU14は、CPU14aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(hard disk drive)が設けられてもよいし、SSD14fやHDDは、周辺監視用のECU14とは別に設けられてもよい。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部(例えば、ブレーキペダル)の位置を検出するセンサである。ブレーキセンサ18bは、変位センサを含む。
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。舵角センサ19は、例えば、ホール素子などを用いて構成される。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。なお、舵角センサ19は、操舵部4に含まれる回転部分の回転角度を検出する。舵角センサ19は、角度センサの一例である。なお、舵角センサ19の検出結果は、進路指標を表示する場合、進路指標の方向を決定する際にも利用される。
アクセルセンサ20は、例えば、加速操作部5の可動部(例えば、アクセルペダル)の位置を検出するセンサである。アクセルセンサ20は、変位センサを含む。
シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。シフトセンサ21は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ21は、変位センサを含んでもよいし、スイッチとして構成されてもよい。
車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、各車輪3に配置され、各車輪3で検出した回転数を示す車輪速パルス数をセンサ値として出力する。車輪速センサ22は、例えば、ホール素子などを用いて構成されうる。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。ECU14は、各車輪速センサ22のセンサ値に基づいて車両1の車速を算出する場合、4輪のうち最も小さなセンサ値の車輪3の速度に基づき車両1の車速を決定し、各種制御を実行する。また、ECU14は、4輪の中で他の車輪3に比べてセンサ値が大きな車輪3が存在する場合、例えば、他の車輪3に比べて単位期間(単位時間や単位距離)の回転数が所定数以上多い車輪3が存在する場合、その車輪3はスリップ状態(空転状態)であると見なし、各種制御を実行する。なお、車輪速センサ22は、ブレーキシステム18に設けられている場合もある。その場合、ECU14は、車輪速センサ22の検出結果をブレーキシステム18を介して取得する。
加速度センサ26(26a,26b)は、例えば車両1に2個設けられている。ECU14は、加速度センサ26(26a,26b)からの信号に基づき、車両1の前後方向の傾き(ピッチ角)や左右方向の傾き(ロール角)を算出する。ピッチ角は、車両1の左右軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ピッチ角が0度となる。また、ロール角は、車両1の前後軸周りの傾きを示した角度であり、水平な面(地面、路面)上に車両1が存在する場合に、ロール角が0度となる。つまり、車両1が、水平な路面に存在するか否か、傾斜面(上り勾配の路面または下り勾配の路面)に存在するか否か等が検出できる。なお、車両1がESCを搭載する場合、ESCに従来から搭載されている加速度センサを用いてもよい。本実施形態は、加速度センサ26を制限するものではなく、車両1の前後左右方向の加速度を検出可能なセンサであればよい。
路面の凹凸状態を検出するために、レーザスキャナ28を備える場合がある。レーザスキャナ28は、例えば、車体2の前側の車体(車両前後方向の前方側の端部2c)に設けられ、車両1の進行方向における路面の状態を示す状態情報を取得する。レーザスキャナ28は、センサ内部の光源(レーザダイオード等)から照射されたレーザ光が、測定対象物(例えば、路面や立体物)にあたると反射され、受光素子で受光される。このとき受光した反射光を評価、演算することで、レーザ光が反射した位置までの距離を算出する。その結果、ECU14は、路面の状態、例えば凹凸(勾配)の有無や凹凸が存在する位置(凹凸位置)、凹凸の大きさ(勾配値)、凹凸(勾配)の状態(上り勾配、下り勾配)等の車両1が存在する路面を基準として当該車両1の前方の路面の相対的な状態情報(凹凸情報、相対的な傾き等)を取得する。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
ECU14に含まれるCPU14aは、上述したような三次元モデル画像に高さを示す指標(ワイヤーフレーム、等高線、移動マーク、走査線等)を重畳表示することを実現するために、図4に示されるような各種モジュールを備える。CPU14aは、モジュールとして、周辺情報取得部30、舵角取得部32、モデル画像取得部34、指標制御部36、案内処理部38、出力部40等を含む。そして、指標制御部36は、ワイヤーフレーム取得部42、等高線取得部44、移動マーク設定部46、走査線設定部48、表示態様設定部50、進路指標取得部52、重畳部54等を含む。これらのモジュールは、ROM14b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現可能である。CPU14aは、各種モジュールによる処理を実行することにより、図5に示すようなに三次元モデル画像で表示された路面60に指標の一例であるワイヤーフレーム62を重畳した状態の画面8aを表示装置8に表示させる。
図5に示すように、ワイヤーフレーム62は、複数のワイヤをメッシュ状に配列した扁平な基準ワイヤーフレームを三次元情報にしたがう方向に変形させることにより三次元情報を二次元画面上で視覚化するものである。具体的には、基準ワイヤーフレームは、例えば第一の方向(例えば車幅方向に対応する方向)に等間隔で複数本配置された第1ワイヤ62aと、第一の方向とは異なる第二の方向(例えば、車両前後方向に対応する方向)に複数本配置された第2ワイヤ62bとがそれぞれ例えば直交するように配列して形成される。そして、例えば、第1ワイヤ62aと第2ワイヤ62bとの交点を三次元情報にしたがい上下方向や左右方向に移動させることにより、第1ワイヤ62aと第2ワイヤ62bとで囲まれた複数の矩形の領域72の形状が三次元情報にしたがってそれぞれ変形する。この変形した複数の矩形の領域72で構成されるワイヤーフレーム62を全体的に見ることにより二次元画面上で三次元情報が視覚化される。また、図5に示すように、三次元モデル画像に三次元化されたワイヤーフレーム62を重畳することにより、三次元モデル画像をより立体的に見えるようにすることができる。
周辺情報取得部30は、車両1の進行方向における周辺領域に関する情報を取得し、例えば、RAM14c等に一時的に保持する。車両1の前方に配置される撮像部15cがステレオカメラの場合、周辺情報取得部30は表示制御部14dを介して撮像部15cから周辺画像を示す撮像画像データおよび撮像領域に含まれる三次元情報を取得する。このとき、周辺情報取得部30は、ステレオカメラで撮像された視差を有する二枚の二次元画像(撮像画像データ)を取得するとともに、二枚の二次元画像の視差に基づいて撮像領域の三次元情報を取得する。また、撮像部15cが単眼カメラであり、レーザスキャナ28を備える場合、周辺情報取得部30は、表示制御部14dを介して撮像部15cから二次元画像(撮像画像データ)を取得するとともに、車内ネットワーク23を介してレーザスキャナ28から車両1の前方の検出領域における三次元情報を取得する。なお、表示装置8に車両1の周囲の画像を表示するのみの場合、表示制御部14dは、撮像部15で撮像した撮像画像データをそのままの状態で表示装置8に出力してもよい。また、CPU14aは、操作入力部10や操作部14g等の入力装置を用いて利用者に希望する表示内容を選択させるようにしてもよい。つまり、表示制御部14dは、操作入力部10や操作部14gの操作により選択された画像を表示することができる。例えば撮像部15aで撮像した車両1の後方画像を表示装置8に表示させたり、撮像部15dで撮像した左側方画像を表示させたりすることができる。
舵角取得部32は、舵角センサ19から出力される操舵部4(ステアリングホイール)の操作状態に関する情報(舵角)を取得する。つまり、運転者がこれから車両1を走行させようとしている方向の舵角を取得する。
モデル画像取得部34は、周辺情報取得部30の取得した撮像画像データと三次元情報とに基づき、図6に示すように路面60等が立体的に見える三次元モデル画像3DGを取得する。撮像部15cがステレオカメラの場合、二つあるカメラのうちいずれか一方のカメラで撮像した撮像画像データに基づく二次元画像の各画素または所定数の画素で構成される領域ごとに周辺情報取得部30が取得した三次元情報を付与して、三次元モデル画像3DGを生成する。なお、この場合、遠景部分(図6では山等)に関しては、近景と同様に三次元化を施してもよいし、三次元化を省略してもよい。三次元化の処理を実行する領域を限定的にすることにより、演算負荷を軽減することができる。
指標制御部36は、モデル画像取得部34で生成された三次元モデル画像3DGに重畳する指標の取得および指標とともに表示する各種付随情報の設定や処理を行う。指標は、三次元モデル画像3DGに含まれている領域ごとに路面の高さを示す高さデータに基づき、当該路面の高さを視覚化して表示するものである。指標としては、例えば、図5、図7に示すような複数の第1ワイヤ62aおよび第2ワイヤ62bで構成されるワイヤーフレーム62や、図8に示すような同じ高さの複数の位置をつなぐ等高線64がある。また、別の指標として、図9に示すように、領域ごとの勾配方向に応じて移動可能な複数の移動マーク66や、図10,図11に示すように、三次元モデル画像3DG上で所定の方向、例えば第一の方向に移動する第1走査線68または第一の方向とは異なる第二の方向に移動する第2走査線70等がある。
ワイヤーフレーム取得部42は、指標としてワイヤーフレーム62を表示する旨の要求がなされた場合、扁平でメッシュ状の基準ワイヤーフレームの第1ワイヤ62aと第2ワイヤ62bとが交わる各交点に周辺情報取得部30が取得した三次元情報を付与して、路面60の三次元形状に倣う態様の三次元態様のワイヤーフレーム62を取得する(図7参照)。また、別の実施形態では、モデル画像取得部34で取得した三次元モデル画像3DGに扁平な態様の基準ワイヤーフレームを重ね合わせて、三次元モデル画像が備える三次元情報に倣うように基準ワイヤーフレームを変形させて、三次元態様のワイヤーフレーム62を取得してもよい。重畳部54は、ワイヤーフレーム取得部42が取得したワイヤーフレーム62をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図5に示すような画面8aを生成する。なお、画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係とを認識しやすくすることができる。
等高線取得部44は、指標として等高線64を表示する旨の要求がなされた場合、周辺情報取得部30が取得した三次元情報に基づき、同じ高さ情報が示す位置または同じ高さ範囲に属する位置をつなぎ、図8に示すような複数の等高線64を取得する。図8の場合、等高線64として、路面60の高さに応じて等高線64a,64b,64cが形成されている。重畳部54は、等高線取得部44が取得した等高線64をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図8に示すような画面8aを生成する。なお、重畳部54は、等高線64を三次元モデル画像3DGに重畳するのみでもよいが、より高さの変化を認識しやすくするために、表示態様設定部50は、等高線64a,64b,64cごとに表示態様を変化させてもよい。例えば、各等高線64a,64b,64cを高さに応じて、「赤色」、「黄色」「緑色」等に色分けして表示してもよい。また、図8に示すように、等高線64a,64b,64cで囲まれた領域を着色してもよい。例えば、等高線64aより高い領域を「赤色」、等高線64aと等高線64bとの間の領域を「黄色」、等高線64bと等高線64cとの間の領域を「緑色」等で表示する。なお、このように、領域に着色する場合、その領域の透過度を高く設定することにより、三次元モデル画像3DGの内容の視認性を確保することができる。また、図8の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係とを認識しやすくすることができる。
移動マーク設定部46は、指標として移動マーク66を表示する旨の要求がなされた場合、周辺情報取得部30が取得した三次元情報に基づき、モデル画像取得部34が取得した三次元モデル画像3DGに設定される領域ごとの勾配方向に応じて移動可能な複数の移動マーク66を設定する。移動マーク66は、三次元情報で高い位置を示す位置からより低い位置に移動する。例えば、三次元情報が三次元モデル画像3DGを構成する画素ごとに高さ情報を有する場合、隣接する画素の高さ情報を逐次比較して、より低い高さの方向に移動するような移動マーク66が設定される。また、三次元情報が三次元モデル画像3DGを構成する複数の画素で規定される領域ごとに高さ情報を有する場合、隣接する領域の高さ情報を逐次比較して、より低い高さの方向に移動するような移動マーク66が設定される。重畳部54は、移動マーク設定部46が取得した移動マーク66をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図9に示すような画面8aを生成する。また、図9の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係とを認識しやすくすることができる。
図9は、一例として、ワイヤーフレーム取得部42が取得したワイヤーフレーム62に沿って移動マーク66が移動する例を示している。この場合、ワイヤーフレーム62の第1ワイヤ62aおよび第2ワイヤ62bの交点に三次元情報の高さ情報が反映されているので、移動マーク設定部46は、ワイヤーフレーム62の各交点の高さ情報を比較することにより、移動マーク66の移動方向を設定している。なお、図9の場合、移動方向を明確にするため、矢印付きの円形の移動マーク66としているが、移動マーク66は低い方向に向かい常時移動するように表示されるので動的な変化が認識し易い。そのため、移動マーク66は、矢印等を省略した円形またはその他の形状のマークのみで構成されてもよい。このように、移動マーク66は、移動距離が長い部分ほど、移動距離は短い部分より路面60の高さが高いということを動的に示すことができる。なお、移動マーク66は、先行して移動する移動マーク66に追従するように一定間隔で複数個の移動マーク66を表示することにより、「粒子」が流れるように見せることが可能で、路面60の形状や高さをより明確に表現することができる。また、移動マーク66は、領域ごとの勾配状態に応じて移動速度を異ならせてもよい。例えば、勾配が急な程、移動速度が大きくなるようにしてもよい。路面60の勾配状態に応じて移動マーク66の移動速度を変化させることにより、路面60の起伏が変化している部分をより明確に表示可能となり、路面60の形状をより直感的に把握させやすくなる。なお、図9の場合、移動マーク66はワイヤーフレーム62の各第1ワイヤ62a上および各第2ワイヤ62b上を移動する例を示したが、別の実施形態では、ワイヤーフレーム62の表示を省略してもよい。この場合、移動マーク66は、例えば三次元モデル画像3DG上で水が高い部分から低い部分に向かい流れ落ちるように表示され、より路面60の形状を際立たせることが可能になり、路面60の起伏状態を認識させやすくすることができる。
走査線設定部48は、指標として第1走査線68または第2走査線70を表示する旨の要求がなされた場合、周辺情報取得部30が取得した三次元情報に基づき、三次元モデル画像3DG上で所定の方向、例えば第一の方向に移動する第1走査線68または第一の方向と異なる第二の方向に移動する第2走査線70を設定する。
第1走査線68は、モデル画像取得部34が取得した三次元モデル画像3DG上を第一の方向、例えば、車両1の車幅方向に所定速度で移動する線である。図10の場合、第1走査線68は、画面8aの例えば左端から右端に向かい一本の第1走査線68が移動する例が示されている。第1走査線68は、ワイヤーフレーム取得部42が取得するワイヤーフレーム62の第1ワイヤ62aの一本に相当する線であってもよい。第1走査線68は、周辺情報取得部30の取得した三次元情報に基づき第一の方向における走査位置に対応する路面60の凹凸形状に倣うような形状に決定される。重畳部54は、走査線設定部48が取得した第1走査線68をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図10に示すような画面8aを生成する。つまり、路面60の凹凸に倣うように変形しながら第1走査線68が画面8aの左端から右端に向かい移動する。右端に移動した第1走査線68は一旦非表示となり、再度左端に表示されて右端に向かい移動を再開する。第1走査線68の移動方向は逆でもよい。また、図10の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係とを認識しやすくすることができる。
第2走査線70は、モデル画像取得部34が取得した三次元モデル画像3DG上を第一の方向とは異なる第二の方向、例えば、車両1の前後方向に所定速度で移動する線である。図11の場合、第2走査線70は、画面8aの例えば下端から上端に向かい一本の第2走査線70が移動する例が示されている。第2走査線70は、ワイヤーフレーム取得部42が取得するワイヤーフレーム62の第2ワイヤ62bの一本に相当する線であってもよい。第2走査線70は、周辺情報取得部30の取得した三次元情報に基づき第二の方向における走査位置に対応する路面60の凹凸形状に倣うような形状に決定される。重畳部54は、走査線設定部48が取得した第2走査線70をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図11に示すような画面8aを生成する。つまり、路面60の凹凸に倣うように変形しながら第2走査線70が画面8aの下端から上端に向かい移動する。上端に移動した第2走査線70は一旦非表示となり、再度下端に表示されて上端に向かい移動を再開する。第2走査線70の移動方向は逆でもよい。また、図11の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係とを認識しやすくすることができる。
移動しながら表示される第1走査線68および第2走査線70の本数は一本でもよいし、所定間隔離間して表示される複数本、例えば三本でもよい。この場合、三本の第1走査線68(第2走査線70)は、所定間隔が維持された状態で、第一の方向(第二の方向)に移動する。このように、少数本(例えば一本〜三本)の第1走査線68(第2走査線70)を表示することにより、三次元モデル画像3DGの視認性を低下させることなく、第1走査線68(第2走査線70)が表示されている部分の路面60の凹凸形状を把握させることができる。また、第1走査線68(第2走査線70)は、残像を残しながら表示するようにしてもよい。この場合、三次元モデル画像3DGの視認性を担保するために第1走査線68(第2走査線70)の表示本数は、少数、例えば一本で表示することが望ましい。第1走査線68(第2走査線70)は、残像を残しながら表示することにより、路面60の凹凸状況を詳細に示す範囲が広くなり、路面60の形状をより把握しやすくすることができる。また、他の実施形態としては、第1走査線68(第2走査線70)の走査速度を路面60の状態に応じて早くしたり遅くしたりしてもよい。例えば、車両1の現在の位置を基準とした場合の路面60の高さが所定値以上の場合に、第1走査線68(第2走査線70)の走査速度を路面60の高さが所定値未満の場合より遅くする。逆に、路面60の高さが所定値未満の場合に、第1走査線68(第2走査線70)の走査速度を路面60の高さが所定値以上の場合より早くする。このように、走査速度を変化させることにより、注意が必要な路面60の部分の形状をより認識しやすくすることができる。
表示態様設定部50は、指標を三次元モデル画像3DG上に重畳表示する場合に、その表示態様を設定する。例えば、指標の表示色や表示範囲等を決定したり、指標の注目度を向上するために表示態様を決定したりする。例えば、路面60の高さに応じて、指標の表示色や輝度を変化させたり、指標を点滅表示させたりすることができる。
表示態様設定部50は、例えば、三次元モデル画像3DGの表示色(路面60の色)と重畳する指標の表示色との識別性を向上するために、指標を重畳する位置の路面60の色に応じて指標の表示色を決定する。例えば、ROM14bには、図12に示すような色相環に対応するデータが保持されている。表示態様設定部50は、周辺情報取得部30が取得した路面60の撮像画像データの色情報に基づき、指標の表示色を路面60の補色で表示するように設定する。図12は、一例として、色相を「C1」〜「C12」の12等分で示したRGBタイプの色相環が示されている。例えば、路面60において、指標を重畳する部分の色が図中符号「C6」に対応する場合、表示態様設定部50は、指標の表示色を「C12」の色に設定する。このように、指標の表示色を路面60の色の補色で表示することにより、例えばワイヤーフレーム62、第1走査線68、第2走査線70等のように細線で表示される指標や、移動マーク66のように粒子のような態様で表示される指標でも、路面60との識別が容易で、路面60の凹凸形状を認識させやすくすることができる。なお、図12に示す色相環は、一例であり、例えばマンセルタイプやRYBタイプでもよい。なお、路面60の色は不規則に連続的に変化しているので、指標の表示色も重畳される路面60の色に応じて変化する。したがって、例えば、ワイヤーフレーム62の場合、当該ワイヤーフレーム62を構成する第1ワイヤ62a(第2ワイヤ62b)は、単一色ではなく、一本の第1ワイヤ62a(第2ワイヤ62b)でも部分的に表示色が異なる。しかしながら三次元モデル画像3DG上に重畳されたワイヤーフレーム62全体を見た場合、三次元モデル画像3DGの表示色との識別が容易に行われ、第1ワイヤ62aや第2ワイヤ62bの認識および路面60に倣うような凹凸形状に認識が容易にできる。指標として、第1走査線68や第2走査線70を表示する場合も同様であり、表示態様設定部50は、走査位置に対応する三次元モデル画像3DGの表示色に対して第1走査線68や第2走査線70の表示色を補色で決定し、ワイヤーフレーム62を表示する場合と同様に識別性を向上する効果を得ることができる。
指標として、移動マーク66を表示する場合も同様であり、表示態様設定部50は、移動する移動マーク66の表示色を移動した位置の三次元モデル画像3DGの表示色の補色になるように決定する。移動マーク66の場合も、表示色が変化しながら三次元モデル画像3DG上を移動することになる。その結果、三次元モデル画像3DGの表示色との識別が容易に行われ、移動マーク66の認識および路面60の起伏状態の変化の認識を容易に行うことができる。
また、表示態様設定部50は、三次元モデル画像3DG上で注意を必要とする部分を強調表示するように、指標の表示態様を変化させてもよい。例えば、図13に示すように、車両1(自車)が現在存在する位置を基準に所定閾値以上の高さの領域の表示態様を変化させる。図13の場合、例えば、車両1の車高値より大きな高低差がある路面60の位置を明示するために、ワイヤーフレーム62の第1ワイヤ62aおよび第2ワイヤ62bで囲まれる領域72のうち、注意すべき高低差がある部分を含む領域72a(所定閾値以上の高さの部分を含む領域)に着色している。なお、領域72aに着色を施す場合、注意喚起させやすい色、例えば「赤色」で着色するとともに、透過度を高めて、三次元モデル画像3DG上の路面60の状態認識を妨げないようにすることができる。また、別の実施形態では、逆に着色した領域72aの透過度を下げて、通過不可であることを強調するようにしてもよい。このように、路面60の凹凸(起伏)状態を強調する指標(ワイヤーフレーム62)を表示するとともに、特に注意が必要な部分の表示態様を変化させることにより、路面60の凹凸(起伏)状態の認識をより直感的に行わせやすくなる。なお、図13の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係や注目すべき領域72aとの位置関係を認識しやすくすることができる。
同様に、図14の場合、表示態様設定部50は、例えば、車両1(自車)が現在存在する位置を基準に、路面60の高さに応じて段階的に領域の表示態様を変化させる。例えば、表示態様設定部50は、ワイヤーフレーム62の第1ワイヤ62aおよび第2ワイヤ62bで囲まれる領域72のうち、注意喚起「大」の第1領域74と、注意喚起「中」の第2領域76とを例えば異なる表示色で表示している。このように、路面60の凹凸(起伏)の高さに応じて複数の表示態様で表示することにより、路面60の凹凸(起伏)状態の認識をより直感的に行わせやすくなる。なお、図14の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係や注目すべき領域72aとの位置関係を認識しやすくすることができる。図14の場合、注意喚起する領域を二段階で示したが、これに限定されず、例えば三段階以上でもよい。また、図13、図14の例において、表示態様設定部50は、表示態様を変化させる部分について、表示色の変化の他、領域72aや第1領域74、第2領域76の輝度を変化させることにより強調するようにしてもよい。同様に、領域72aや第1領域74、第2領域76を点滅させることにより強調するようにしてもよい。
また、表示態様設定部50は、指標としてワイヤーフレーム62を表示する場合、当該ワイヤーフレーム62を三次元モデル画像3DG上の必要な部分のみに表示するように設定してもよい。
例えば、図15に示されるように、ECU14が進路指標として、前輪3Fの向いている方向に延びるタイヤ進路線78(左の前輪3F用のタイヤ進路線78Lと右の前輪3F用のタイヤ進路線78R)の表示要求を受けた場合、進路指標取得部52は、舵角取得部32が取得した舵角情報に基づきタイヤ進路線78を取得する。表示態様設定部50は、三次元モデル画像3DG上でタイヤ進路線78が重畳される領域のワイヤーフレーム80を設定する。重畳部54は、進路指標取得部52が取得したタイヤ進路線78と表示態様設定部50が設定したワイヤーフレーム80をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図15に示すような画面8aを生成する。この場合、表示態様設定部50は、ワイヤーフレーム取得部42が取得したワイヤーフレーム62に対して、タイヤ進路線78に対応する部分を切り出してワイヤーフレーム80として表示することができる。利用者が操舵部4を操作して舵角を変更した場合、進路指標取得部52は,その変更方向に対応するタイヤ進路線78を取得する。その結果、表示態様設定部50もタイヤ進路線78の重畳位置に対応するワイヤーフレーム80をワイヤーフレーム62から切り出して表示する。このように、タイヤ進路線78とともに当該タイヤ進路線78に対応する部分のワイヤーフレーム80を表示することにより、画面8a全体の表示内容をシンプル化して画面8aの視認性を向上するとともに、車両1が向かう可能性のある方向の路面60の凹凸形状を明確化することができる。その結果、車両1を走行させるために必要となる部分の路面60の状態を直感的に利用者に理解させやすくすることができる。なお、図15の場合、画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係やタイヤ進路線78との関係を認識しやすくすることができる。
なお、図15の場合、タイヤ進路線78は、路面60の凹凸状態に倣うような表示態様で表示する例を示した。このようにタイヤ進路線78を路面60の凹凸状態に倣うような表示態様で表示することにより、当該タイヤ進路線78の形状によっても路面60の凹凸形状をより際だたせることが可能で、ワイヤーフレーム80の表示との相乗効果により、路面60の凹凸形状をより認識しやすいようにすることができる。また、他の実施形態においては、タイヤ進路線78は、路面60の凹凸状態に拘わらず、直線で表示されてもよい。この場合、ワイヤーフレーム80により路面60の凹凸形状を認識させやすくするとともに、タイヤ進路線78を簡易的に表示することで表示のための算出処理の負荷が軽減できる。さらに他の実施形態では、ワイヤーフレーム取得部42は、タイヤ進路線78を重畳する部分のみ、ワイヤーフレーム62(80)を取得して表示するようにしてもよい。また、表示態様設定部50は、図13、図14で説明したように、路面60の高さに応じて、ワイヤーフレーム80の一部に着色したり、輝度を変化させたり、点滅表示したりすることにより、注意喚起するようにしてもよい。
図16に示すように、進路指標取得部52は、進路指標として、車両1が容易に走行できる推奨経路Gを取得することもできる。この場合、進路指標取得部52は、周辺情報取得部30が取得した三次元情報に基づき、例えば、車両1を走行させた場合に当該車両1の所定角度以上の傾きの回数や揺れの回数が最小になるような推奨経路Gを算出する。そして、表示態様設定部50は、推奨経路Gが示す方向にワイヤーフレーム82を設定する。重畳部54は、表示態様設定部50が設定したワイヤーフレーム82をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図16に示すような画面8aを生成する。図16の場合、表示態様設定部50は、ワイヤーフレーム取得部42が取得したワイヤーフレーム62から車両1(自車画像J)の車幅と同等または少し広い幅のワイヤーフレーム82を切り出して表示している例である。このように、推奨経路Gが示す方向にワイヤーフレーム82を表示することにより、画面8a全体の表示内容をシンプル化して画面8aの視認性を向上するとともに、車両1が向かう可能性のある方向の路面60の凹凸形状を明確化することができる。その結果、車両1を走行させるために必要となる部分の路面60の状態を直感的に利用者に理解させやすくすることができる。なお、図16の場合、推奨経路Gは一例として直進方向を示しているが、推奨経路Gが左方向または右方向に曲がっている場合、ワイヤーフレーム80もその方向にしたがって曲がった態様で表示される。また、図16の場合、画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係や推奨経路Gとの関係を認識しやすくすることができる。他の実施形態では、ワイヤーフレーム取得部42は、推奨経路Gが示す方向の車幅に対応する領域のみ、ワイヤーフレーム62(ワイヤーフレーム82)を取得して表示するようにしてもよい。また、表示態様設定部50は、図13、図14で説明したように、路面60の高さに応じて、ワイヤーフレーム82の一部に着色したり、輝度を変化させたり、点滅表示したりすることにより、注意喚起するようにしてもよい。なお、表示態様設定部50は、車両1推奨経路Gの取得の有無に拘わらず、車両1の前方に延びるワイヤーフレーム82を設定するようにしてもよい。
図17は、図16に示す例の変形例であり、表示態様設定部50は、路面60のうち注目させたい領域とそれ以外の領域とで指標(ワイヤーフレーム62)の表示態様を異ならせている。具体的には、ワイヤーフレーム取得部42は、推奨経路Gを含む領域のワイヤーフレーム62のワイヤ密度を「密」にして、より詳細に路面60の凹凸形状に倣い、凹凸形状を際だたせるワイヤーフレーム84を取得する。一方、ワイヤーフレーム取得部42は、推奨経路Gを含まない領域のワイヤーフレーム62のワイヤ密度をワイヤーフレーム84より「疎」にしたワイヤーフレーム86を取得する。図17の例では、ワイヤーフレーム84のワイヤ密度はワイヤーフレーム62のワイヤ密度の二倍であり、ワイヤーフレーム86のワイヤ密度はワイヤーフレーム62の半分である。この場合、ワイヤーフレーム取得部42は、ワイヤ密度が「密」のワイヤーフレーム84とワイヤ密度が「疎」のワイヤーフレーム86とを取得し、表示態様設定部50が推奨経路Gによって示される方向にしたがいそれぞれの領域を切り出し、ワイヤーフレーム84とワイヤーフレーム86とを設定する。そして、重畳部54は、表示態様設定部50が設定したワイヤーフレーム84とワイヤーフレーム86をモデル画像取得部34が取得した三次元モデル画像3DGに重畳することで、図17に示すような画面8aを生成する。なお、図17の場合も画面8aの下端に車両1を示す自車画像Jが表示されるため、車両1(自車)と路面60の凹凸部分の位置関係や注目すべきワイヤーフレーム84との関係や、それより注目度をさげてもよいワイヤーフレーム86との関係を認識しやすくすることができる。
このように、車両1が進む可能性の高い領域と車両1が進む可能性の低い領域とでワイヤ密度が異なるワイヤーフレーム84とワイヤーフレーム86を三次元モデル画像3DGに重畳表示することで、車両1が進む可能性の高い領域の路面60の形状をより把握しやすくすることができるとともに、図16の例の場合より、画面8aの路面60全体の凹凸状態を把握させやすくできる。また、三次元モデル画像3DG全体に対してメッシュ密度を高める場合に比べて、画面8aがシンプルになり見やすくなるとともに、ワイヤーフレーム62(ワイヤーフレーム84,ワイヤーフレーム86)を算出するための処理負荷を軽減することができる。なお、図17に示す場合も、推奨経路Gは一例として直進方向を示しているが、推奨経路Gが左方向または右方向に曲がっている場合、ワイヤーフレーム84やワイヤーフレーム86の表示領域も推奨経路Gにしたがって変化する。他の実施形態では、ワイヤーフレーム取得部42は、推奨経路Gに拘わらず、車両1の前方で車幅と同等幅の領域に関して、ワイヤ密度が「密」のワイヤーフレーム84を取得し、それ以外の領域でワイヤ密度が「疎」のワイヤーフレーム86を取得するようにしてもよい。また、表示態様設定部50は、図13、図14で説明したように、路面60の高さに応じて、ワイヤーフレーム84、ワイヤーフレーム86の一部に着色したり、輝度を変化させたり、点滅表示したりすることにより、注意喚起するようにしてもよい。なお、ワイヤーフレーム62(ワイヤーフレーム84,ワイヤーフレーム86)のワイヤ密度の程度は適宜設定可能である。また、表示態様設定部50は、標準表示として、ワイヤ密度が「疎」のワイヤーフレーム86を設定しておき、利用者が例えば操作入力部10や操作部14gで指定した領域のみ、ワイヤ密度が「密」のワイヤーフレーム84を設定するようにしてもよい。この場合、三次元モデル画像3DG上で、利用者が特に気になる部分のみ詳細な路面60の凹凸情報を提供できる。
案内処理部38は、指標が表示される際に注意喚起が必要なときに表示するメッセージや出力する音声メッセージ、警告音等に関するデータを例えばROM14bやSSD14fから選択する。また、進路指標(タイヤ進路線78)にしたがい走行を行わせる場合や、逆に案内指標とは異なる経路で走行することを推奨する場合等の車両1の操作方法(操舵部4、加速操作部5、制動操作部6等の操作指示等)を出力するためのデータを例えばROM14bやSSD14fから選択する。また、案内処理部38は、表示態様設定部50による強調表示が実行された場合、例えば、通過を避けた方がよい領域が提示された場合、その領域より容易に通過できる領域を示すようなマーク、またはその領域の方向を示すようなマーク(例えば、矢印)を表示してもよい。このようなマークを表示することで、走行可能な経路の探索がより容易になる。
出力部40は、重畳部54による重畳結果(三次元モデル画像3DGと指標の重畳)や、表示態様設定部50により設定された表示態様、案内処理部38による注意を喚起するメッセージや操作手順情報等を表示制御部14dに向けて出力する。また、案内処理部38が音声によるメッセージを選択した場合は、音声制御部14eに向けてメッセージデータを出力する。
上述したような指標の表示処理の一例を図18および図19のフローチャートを用いて説明する。なお、図18は、処理の前半部分を説明するフローチャートで、図19が処理の後半部分を説明するフローチャートである。
まず、CPU14aは、指標(ワイヤーフレーム62、等高線64、移動マーク66、第1走査線68、第2走査線70等)に関する情報提供を許可する条件が成立していることを示す信号の有無を検出する(S100)。例えば、表示装置8の表示モードとして、ナビゲーション表示モードやオーディオ画面表示モードが選択されている場合や、車両1の速度が所定速度以上(例えば20km/h以上)の場合、指標の表示要求はされていない、または指標の表示が望ましくない走行状態であると判定して、CPU14aは、一旦このフローを終了する(S100のNo)。なお、情報提供条件は、利用者等によって適宜変更可能とすることができる。
情報提供条件が満たされた場合(S100のYes)、例えば、利用者が操作入力部10や操作部14gを操作して指標を表示することを要求し、かつ車両1の車速が所定速度未満の場合、周辺情報取得部30は車両1の進路方向の情報を取得する(S102)。例えば、周辺情報取得部30は、変速操作部7が「後退」を示す位置以外の場合、撮像部15cにより車両1の前方の周辺領域を撮像範囲とする撮像画像データを取得する。撮像部15cがステレオカメラの場合、同時に撮像範囲の三次元情報も取得する。また、撮像部15cが単眼カメラの場合、周辺情報取得部30は撮像部15cから車両1の前方の周辺領域を撮像範囲とする撮像画像データを取得するとともに、レーザスキャナ28から車両1前方の三次元情報を取得する。続いて、CPU14aは、指標の表示とともに、進路指標(例えばタイヤ進路線78)の表示を要求する旨の信号を取得した場合(S104のYes)、舵角取得部32を介して舵角センサ19の検出結果から現在の車両1の舵角を取得するとともに、進路指標取得部52を介して現在の舵角に基づく進路指標(例えばタイヤ進路線78)を取得する(S106)。なお、CPU14aは、進路指標(例えばタイヤ進路線78)の表示を要求する旨の信号を所定期間内に取得できない場合(S104のNo)、S106の処理をスキップする。
続いて、CPU14aは、周辺情報取得部30が取得した車両1の前方の周辺領域を撮像範囲とする撮像画像データと三次元情報とに基づき、モデル画像取得部34に三次元モデル画像を生成させる(S108)。そして、CPU14aは、操作入力部10または操作部14gを介して利用者から指標として「ワイヤーフレーム」の表示を要求する信号を取得した場合(S110のYes)、ワイヤーフレームの表示態様を操作入力部10または操作部14gを介して利用者から受け付ける処理を実行する(S112)。このとき、ワイヤーフレーム取得部42では、図5、図15、図16、図17のいずれの表示態様でワイヤーフレーム(62,80,82,84,86)を表示するかが決定される。ワイヤーフレーム取得部42は、S112で決定された表示態様のワイヤーフレーム(62,80,82,84,86)を生成する処理を実行する(S114)。
S110において、CPU14aは、操作入力部10または操作部14gを介して指標として「ワイヤーフレーム」の表示を要求する信号を所定期間内に取得しない場合で(S110のNo)、「等高線」の表示を要求する信号を取得した場合(S116のYes)、等高線取得部44は、等高線64を生成する処理を実行する(S118)。
S116において、CPU14aは、操作入力部10または操作部14gを介して指標として「等高線」の表示を要求する信号を所定期間内に取得しない場合で(S116のNo)、「移動マーク」の表示を要求する信号を取得した場合(S120のYes)、移動マーク設定部46は、移動マーク66を生成する処理を実行する(S122)。
S120において、CPU14aは、操作入力部10または操作部14gを介して指標として「移動マーク」の表示を要求する信号を所定期間内に取得しない場合(S120のNo)、「走査線」を表示する旨を表示装置8に表示するとともに、表示装置8上で走査線を横方向に走査するか縦方向に走査するかを例えば操作入力部10または操作部14gを介して選択させる(S124)。走査線の走査方向として横方向(車幅方向)が選択された場合(S126のYes)、走査線設定部48は、第1走査線68を生成する処理を実行する(S128)。また、S126で走査線の走査方向として縦方向(車両前後方向)が選択された場合(S126のNo)、走査線設定部48は、第2走査線70を生成する処理を実行する(S130)。なお、表示する指標の種類を選択させる過程で、第1走査線68または第2走査線70を直接選択させる場合は、S124のステップは省略し得る。
三次元モデル画像3DGに重畳表示される指標が決定された場合、表示態様設定部50は、モデル画像取得部34が取得した三次元モデル画像3DGの路面60の表示色の補色になるように指標の表示色を決定する。
続いて、CPU14aは、路面60の高さが車両1の現在の位置を基準として所定閾値以上高い場合等を示す注目領域の表示要求を示す信号を操作入力部10や操作部14gを介して取得した場合(S132のYes)、表示態様設定部50は表示色決定処理を実行する(S134)。例えば、図13や図14に示すように注目させる領域72を着色する処理を実行する。そして、重畳部54は、三次元モデル画像3DGに決定された表示態様の指標を重畳し、出力部40を介して表示装置8に表示する(S136)。なお、S132で、CPU14aは、注目領域の表示要求を示す信号を取得しなかった場合(S132のNo)、S134の処理をスキップする。
CPU14aは、三次元モデル画像3DGに指標を重畳表示している間、情報提供解除条件が成立していることを示す信号の有無を検出する(S138)。例えば、表示装置8の表示モードとして、ナビゲーション画面表示モードやオーディオ画面表示モードが選択された場合や、車両1の速度が所定速度以上(例えば20km/h以上)になった場合、指標の表示要求が解除、または指標の表示が望ましくない走行状態に移行して情報提供解除条件が成立したと判定する(S138のYes)。そして、CPU14aは、表示装置8の表示を要求されたナビゲーション画面やオーディオ画面、または走行中に表示されていても特に支障のない通常画面を表示して(S140)、このフローを一旦終了する。
また、S138において、CPU14aが、情報提供解除条件が成立していないと判定した場合(S138のNo)、利用者が案内指標の表示の継続を要求していると判定して、S100に移行して、指標の表示(更新)処理を実行する。
このように、本実施形態の周辺監視システム100は、路面60の凹凸状態がより立体的に見えるように、またその立体感をより把握しやすいように、取得した三次元モデル画像3DGに含まれている領域ごとに路面60の高さデータに基づく路面60の高さを示す指標を重畳する。その結果、車両1がこれから走行する路面60の状態がより把握しやすくなり、例えば、より走行しやすい経路を容易に選択させ、効率的な走行を実現させることができる。また、本実施形態の周辺監視システム100によれば、路面60の凹凸形状がより把握しやすくなるので、例えば、険しい経路(悪路)を意図的に選択して、不整地路(オフロード)の走行を楽しませるという走行形態も提供することができる。また、その際にも路面60の凹凸状態に応じた経路を適宜選択させることができるので、オフロード走行の楽しさを向上させることができる。
図20は、ワイヤーフレーム62の強調表示の変形例である。図20に示す例の場合、三次元モデル画像3DGにワイヤーフレーム62を重畳表示することにより、路面60の凹凸状態をより立体的に鮮明に見えるようにしつつ、車両1(自車画像J)からの距離感を理解しやすくするために、表示態様設定部50が距離指標88を設定する例である。図20の場合、自車画像Jの前方に距離指標88a、距離指標88b、距離指標88cが表示されている。ワイヤーフレーム62を構成する第2ワイヤ62bには、三次元情報として、X方向(例えば車幅方向)、Y方向(例えば車両前後方向)、Z方向(例えば高さ方向)の情報が含まれているので、CPU14aは、車両1(自車画像J)からの距離を検出することができる。したがって、表示態様設定部50は、車両1から、例えば、1.0mの位置に対応する三次元モデル画像3DG上の位置に距離指標88aを表示する。また車両1から3.0mの位置に対応する三次元モデル画像3DG上の位置に距離指標88bを表示する。さらに、また車両1から5.0mの位置に対応する三次元モデル画像3DG上の位置に距離指標88cを表示する。このように、距離指標88を表示することにより立体的に見える三次元モデル画像3DGの奥行き感をさらに明確にして、路面60の凹凸状態の把握をより正確にできるようにすることができる。なお、距離指標88の表示本数は適宜変更可能であり、三本未満でも三本より多くてもよい。また、図20の場合、ワイヤーフレーム62を構成する第1ワイヤ62aと第2ワイヤ62bで囲まれた領域72を着色して距離指標88を表示しているが、第2ワイヤ62bの表示色を他の表示色と異ならせたり、輝度を変化させたり、第2ワイヤ62bを点滅表示したりして距離指標88を表示してもよい。
図21には、表示装置8において、他の付加情報が含まれる表示例が示されている。上述した各表示例では、画面8aが車両1の前方領域(一領域のみ)の情報を示している。一方、図21に示す変形例の場合、表示装置8は、表示領域を複数に分割して種々の方向の画像や車両1の姿勢を示す傾斜計90等を表示している。例えば、表示装置8の表示領域の中央上部に前方表示領域FVが配置され、その左斜め下に左側表示領域SVL、前方表示領域FVの右斜め下に右側表示領域SVRが配置されている。また、前方表示領域FVの下方に、傾斜計90を表示する姿勢表示領域PVが配置されている。前方表示領域FVには、図5、図8、図9〜図11、図13〜図17、図20の表示例のうちいずれか一つ(図21の場合、図5)または複数が表示可能である。左側表示領域SVLには、撮像部15dで取得した撮像画像データに基づく車両1の左側方画像(例えば、左側方見下ろし画像)が表示され、右側表示領域SVRには、撮像部15bで取得した撮像画像データに基づく車両1の右側方画像(例えば、右側方見下ろし画像)が表示される。左側方画像および右側方画像には、車両1の側方の路面60とそれぞれの車輪3の一部を映り込ませることができる。また、左側表示領域SVL、右側表示領域SVRには車体2の前方側の端部2cからの距離の目安を示す前方参考線Qaや車体2の側方の端部2d,2fからの距離の目安を示す側方参考線Pa等が重畳表示されることができる。
このような表示により、車両1の周囲の路面60の状態はより理解しやすくなる。また、前方表示領域FVと左側表示領域SVLおよび右側表示領域SVRとの対応関係がより理解しやすいように表示される。なお、左側表示領域SVLおよび右側表示領域SVRの側方参考線Paには、前輪3Fの接地位置を示す接地線Pabが付され、前輪3Fの位置が容易に理解できるようになっている。
傾斜計90は、加速度センサ26(26a、26b)からの信号に基づき、車両1の左右方向の傾き(ロール角)や前後方向の傾き(ピッチ角)をシンボル92の姿勢で表示する。シンボル92の姿勢と指標(ワイヤーフレーム62等)とを同一画面に表示することにより、車両1の周囲の路面60の状況をより把握させやすくすることができる。
図21に示す表示装置8の標示領域のレイアウトは一例であり、種々のレイアウトが採用できる。例えば、左側表示領域SVLおよび右側表示領域SVRの上下方向のサイズを拡大して、前方表示領域FVの側方まで延ばしてもよい。このように、前方表示領域FVを囲むように左側表示領域SVLおよび右側表示領域SVRを配置することにより、運転席を中心とする車両1の周囲の状況がより把握しやすい状態で表示装置8に表示できる。
また、撮像部15cをステレオカメラで構成している場合、二つ設けられたカメラのうち片方のカメラに不都合が生じた場合、三次元情報を取得できなくなる。この場合、周辺情報取得部30は、撮像部15cを周辺画像取得専用とし、少なくとも車両1の周辺画像(二次元画像)を提供できるように切り替えてもよい。
また、図17では、推奨経路Gの方向を含む領域のワイヤ密度を「密」とし,それ以外の領域のワイヤ密度を「疎」とする例を示した。別の実施形態では、路面60の勾配の大きさに応じてワイヤ密度を変化させてもよい。例えば、路面60の勾配が所定値以上の場合、ワイヤ密度を「密」として、所定値未満の場合にワイヤ密度を「疎」としてもよい。この場合、ワイヤ密度によって、路面60の勾配状態が把握しやすくなり、路面60の形状の直感的な把握が容易になる。
また、図15、図16では、進路指標が示す方向にワイヤーフレーム62(ワイヤーフレーム80,ワイヤーフレーム82)を重畳する例を示した。別の実施形態では、車両1の車体2の底面が接触する可能性のある部分のみにワイヤーフレーム62を重畳するようにしてもよい。この場合、ワイヤーフレーム62の表示量を最小限とすることができるため、路面60上で注意を払うべき部分を明確にしつつ、画面8aの表示内容をシンプル化して三次元モデル画像3DGの視認性を向上することができる。
また、上述した実施形態では、車両1の速度が所定速度未満であることを、三次元モデル画像3DGおよび指標を表示するために条件とする例を示した。他の実施形態では、車両1が停止しているときに三次元モデル画像3DGおよび指標を表示して、車両1が走行を開始した場合指標を非表示として、所定速度までは三次元モデル画像3DGは表示したままにしてもよい。この場合、指標が非表示になった分、画面8aの表示内容がシンプル化され、路面60の状況を把握させつつ、低速走行時の運転操作の集中力向上に寄与することができる。
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…車両、3…車輪、3F…前輪、4…操舵部、8…表示装置、8a…画面、10…操作入力部、11…モニタ装置、14…ECU、14a…CPU、14b…ROM、14c…RAM、15…撮像部、19…舵角センサ、26…加速度センサ、30…周辺情報取得部、32…舵角取得部、34…モデル画像取得部(取得部)、36…指標制御部(制御部)、38…案内処理部、40…出力部、42…ワイヤーフレーム取得部、44…等高線取得部、46…移動マーク設定部、48…走査線設定部、50…表示態様設定部、52…進路指標取得部、54…重畳部、60…路面、62,82,84,86…ワイヤーフレーム、62a…第1ワイヤ、62b…第2ワイヤ、64,64a,64b,64c…等高線、66…移動マーク、68…第1走査線、70…第2走査線、78…タイヤ進路線(進路指標)、3DG…三次元モデル画像。

Claims (7)

  1. 車両の進行方向の路面を含む周辺画像を撮像する撮像部から出力された撮像画像データと、前記周辺画像に表された前記路面の領域ごとの高さを示した高さデータと、を含む前記路面の凹凸状態を示す三次元モデル画像を取得する取得部と、
    取得した前記三次元モデル画像に含まれている前記領域ごとに前記高さデータに基づく前記路面の高さを示す指標を重畳して表示装置に表示する制御部と、
    を備え
    前記制御部は、前記指標とともに、前記三次元モデル画像に前記車両の舵角に基づく進行推定方向を示す進路指標を重畳する場合、前記進路指標を重畳する領域と他の領域とで、前記指標の表示態様を異ならせる、周辺監視装置。
  2. 前記指標は、前記路面の前記凹凸状態を示すワイヤーフレームである請求項1に記載の周辺監視装置。
  3. 前記指標は、前記路面の所定の面を基準に同じ高さの複数の位置をつなぐ等高線である請求項1に記載の周辺監視装置。
  4. 前記指標は、前記三次元モデル画像の前記領域ごとの勾配方向に応じて移動可能な複数の移動マークであり、
    前記制御部は、前記領域ごとの勾配状態に応じて前記移動マークの移動速度を異ならせる請求項1に記載の周辺監視装置。
  5. 前記指標は、前記高さデータに基づく前記路面の高さを示す、前記三次元モデル画像上で所定の方向に移動する走査線である請求項1に記載の周辺監視装置。
  6. 前記制御部は、前記指標を、前記三次元モデル画像に前記指標を重畳する領域の前記路面の色の補色で表示する請求項1から請求項5のいずれか1項に記載の周辺監視装置。
  7. 前記制御部は、前記指標の表示態様を前記路面の高さに応じて異ならせる請求項1から請求項6のいずれか1項に記載の周辺監視装置。
JP2016194400A 2016-09-30 2016-09-30 周辺監視装置 Active JP6838340B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016194400A JP6838340B2 (ja) 2016-09-30 2016-09-30 周辺監視装置
US16/337,552 US10793070B2 (en) 2016-09-30 2017-03-23 Periphery monitoring apparatus
CN201780051312.7A CN109643439B (zh) 2016-09-30 2017-03-23 周边监视装置
DE112017004936.9T DE112017004936T5 (de) 2016-09-30 2017-03-23 Peripherieüberwachungsvorrichtung
PCT/JP2017/011646 WO2018061256A1 (ja) 2016-09-30 2017-03-23 周辺監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016194400A JP6838340B2 (ja) 2016-09-30 2016-09-30 周辺監視装置

Publications (2)

Publication Number Publication Date
JP2018056953A JP2018056953A (ja) 2018-04-05
JP6838340B2 true JP6838340B2 (ja) 2021-03-03

Family

ID=61760507

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016194400A Active JP6838340B2 (ja) 2016-09-30 2016-09-30 周辺監視装置

Country Status (5)

Country Link
US (1) US10793070B2 (ja)
JP (1) JP6838340B2 (ja)
CN (1) CN109643439B (ja)
DE (1) DE112017004936T5 (ja)
WO (1) WO2018061256A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6723079B2 (ja) * 2016-06-08 2020-07-15 日立オートモティブシステムズ株式会社 物体距離検出装置
JP6611353B2 (ja) * 2016-08-01 2019-11-27 クラリオン株式会社 画像処理装置、外界認識装置
JP6324649B1 (ja) * 2017-10-25 2018-05-16 楽天株式会社 検出システム、検出方法、及びプログラム
JP7000822B2 (ja) * 2017-12-06 2022-01-19 株式会社アイシン 周辺監視装置
WO2019181890A1 (en) * 2018-03-19 2019-09-26 Ricoh Company, Ltd. Information processing apparatus, image capture apparatus, image processing system, and method of processing information
WO2020113202A1 (en) * 2018-11-30 2020-06-04 University Of Southern California Double-blinded, randomized trial of augmented reality low-vision mobility and grasp aid
JP7219099B2 (ja) * 2019-01-23 2023-02-07 株式会社小松製作所 作業機械のためのシステム及び方法
JP7507439B2 (ja) * 2019-04-11 2024-06-28 パナソニックIpマネジメント株式会社 勾配変化検出システム、それを用いた表示システム及び移動体用プログラム
JP7344675B2 (ja) * 2019-05-31 2023-09-14 株式会社小松製作所 表示システム、遠隔操作システムおよび表示方法
JP7304016B2 (ja) * 2019-07-29 2023-07-06 株式会社ソーシャル・キャピタル・デザイン 画像処理システム
KR20220026154A (ko) * 2020-08-25 2022-03-04 현대자동차주식회사 차량 및 그 제어방법
JP2022042420A (ja) * 2020-09-02 2022-03-14 株式会社Subaru 車両制御装置
US11699225B2 (en) * 2020-11-24 2023-07-11 Get Spiffy, Inc. Tire sensing and analysis system
JP2022126240A (ja) * 2021-02-18 2022-08-30 トヨタ自動車株式会社 車両用表示装置
WO2022202700A1 (ja) * 2021-03-22 2022-09-29 株式会社オルツ 画像を3次元的に表示するための方法、プログラムおよびシステム
DE102023209504B3 (de) 2023-09-28 2024-09-26 Volkswagen Aktiengesellschaft Fortbewegungsmittel, Anwenderschnittstelle und Verfahren zum Ausgeben einer Rückmeldung an einen Anwender über eine Fahrbahnbeschaffenheit

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3897191B2 (ja) * 1997-04-16 2007-03-22 コマツエンジニアリング株式会社 平面の段差計測装置
JP3386803B2 (ja) 2001-06-20 2003-03-17 株式会社ソニー・コンピュータエンタテインメント 画像処理プログラム、画像処理プログラムを記憶したコンピュータ読み取り可能な記憶媒体、画像処理方法、及び画像処理装置
US20020196269A1 (en) * 2001-06-25 2002-12-26 Arcsoft, Inc. Method and apparatus for real-time rendering of edited video stream
JP2003098957A (ja) 2001-09-21 2003-04-04 Mitsubishi Heavy Ind Ltd 地図作成システム
JP4593070B2 (ja) * 2001-12-12 2010-12-08 株式会社エクォス・リサーチ 車両の画像処理装置
US7567282B2 (en) * 2003-12-18 2009-07-28 Anthrotronix, Inc. Operator control unit with tracking
JP4307317B2 (ja) * 2004-04-28 2009-08-05 任天堂株式会社 ゲーム装置およびゲームプログラム
JP4321509B2 (ja) * 2005-10-17 2009-08-26 株式会社デンソー 移動体用通信装置
US8073791B2 (en) * 2007-04-20 2011-12-06 Mark Williams Vertical curve system for surface grading
JP2009168582A (ja) * 2008-01-15 2009-07-30 Saki Corp:Kk 外観検査装置
JP2009247463A (ja) * 2008-04-02 2009-10-29 Fujifilm Corp 画像処理装置、画像処理方法、およびプログラム
DE102008034594B4 (de) * 2008-07-25 2021-06-24 Bayerische Motoren Werke Aktiengesellschaft Verfahren sowie Informationssystem zur Information eines Insassen eines Fahrzeuges
JP5325765B2 (ja) * 2009-12-28 2013-10-23 日立オートモティブシステムズ株式会社 路肩検出装置及び路肩検出装置を用いた車両
JP5489890B2 (ja) 2010-07-05 2014-05-14 三菱重工業株式会社 エアフィルタ自動清掃機構およびそれを備えた空気調和機
KR101395089B1 (ko) * 2010-10-01 2014-05-16 안동대학교 산학협력단 장애물 감지 시스템 및 방법
US20120114181A1 (en) * 2010-11-01 2012-05-10 Borthwick James R Vehicle pose estimation and load profiling
JP5682788B2 (ja) * 2011-09-27 2015-03-11 アイシン精機株式会社 車両周辺監視装置
DE102012101085A1 (de) * 2012-02-10 2013-08-14 Conti Temic Microelectronic Gmbh Bestimmung einer Beschaffenheit einer Fahrbahnoberfläche mittels einer 3D-Kamera
JP2014000921A (ja) * 2012-06-20 2014-01-09 Aisin Seiki Co Ltd 車両周辺監視装置、車両周辺監視方法およびプログラム
EP2725323B1 (en) * 2012-10-29 2023-11-29 Harman Becker Automotive Systems GmbH Map viewer and method
JP6060910B2 (ja) * 2013-03-28 2017-01-18 アイシン精機株式会社 周辺監視装置、及びプログラム
JP6281289B2 (ja) * 2014-01-10 2018-02-21 アイシン精機株式会社 周辺監視装置、及びプログラム
RU2621823C1 (ru) * 2014-02-24 2017-06-07 Ниссан Мотор Ко., Лтд. Устройство вычисления собственного местоположения и способ вычисления собственного местоположения
AU2014202958A1 (en) * 2014-03-19 2015-10-08 Caterpillar Of Australia Pty Ltd Visualisation of work status for a mine worksite
JP6340969B2 (ja) * 2014-07-14 2018-06-13 アイシン精機株式会社 周辺監視装置、及びプログラム
RU2636235C1 (ru) * 2014-08-04 2017-11-21 Ниссан Мотор Ко., Лтд. Устройство вычисления собственной позиции и способ вычисления собственной позиции
JP6316161B2 (ja) * 2014-09-29 2018-04-25 クラリオン株式会社 車載用画像処理装置
US9659410B2 (en) * 2014-10-21 2017-05-23 Honeywell International Inc. Low latency augmented reality display
JP6594039B2 (ja) * 2015-05-20 2019-10-23 株式会社東芝 画像処理装置、方法及びプログラム
US9761000B2 (en) * 2015-09-18 2017-09-12 Qualcomm Incorporated Systems and methods for non-obstacle area detection
US11307042B2 (en) * 2015-09-24 2022-04-19 Allstate Insurance Company Three-dimensional risk maps
WO2016111148A1 (ja) * 2015-12-18 2016-07-14 株式会社小松製作所 施工情報表示装置および施工情報の表示方法
JP2018001901A (ja) * 2016-06-30 2018-01-11 アイシン精機株式会社 走行支援装置

Also Published As

Publication number Publication date
DE112017004936T5 (de) 2019-06-13
US10793070B2 (en) 2020-10-06
CN109643439B (zh) 2023-08-08
JP2018056953A (ja) 2018-04-05
CN109643439A (zh) 2019-04-16
US20200031281A1 (en) 2020-01-30
WO2018061256A1 (ja) 2018-04-05

Similar Documents

Publication Publication Date Title
JP6838340B2 (ja) 周辺監視装置
US10857944B2 (en) Periphery monitoring apparatus
JP6816389B2 (ja) 周辺監視装置
US10464551B2 (en) Traveling support device
JP6897340B2 (ja) 周辺監視装置
JP6281289B2 (ja) 周辺監視装置、及びプログラム
US20190244324A1 (en) Display control apparatus
JP2020120327A (ja) 周辺表示制御装置
WO2019073938A1 (ja) 駐車支援装置
JP2019057800A (ja) 表示制御装置
JP2017094922A (ja) 周辺監視装置
JP6876236B2 (ja) 表示制御装置
JP7009785B2 (ja) 周辺監視装置
CN109314770B (zh) 周边监控装置
US20200081612A1 (en) Display control device
JP2019054439A (ja) 画像処理装置
US11214197B2 (en) Vehicle surrounding area monitoring device, vehicle surrounding area monitoring method, vehicle, and storage medium storing program for the vehicle surrounding area monitoring device
JP6776702B2 (ja) 周辺監視装置
JP6977318B2 (ja) 周辺表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210125

R151 Written notification of patent or utility model registration

Ref document number: 6838340

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151