[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2008044612A - On-vehicle image display - Google Patents

On-vehicle image display Download PDF

Info

Publication number
JP2008044612A
JP2008044612A JP2007262977A JP2007262977A JP2008044612A JP 2008044612 A JP2008044612 A JP 2008044612A JP 2007262977 A JP2007262977 A JP 2007262977A JP 2007262977 A JP2007262977 A JP 2007262977A JP 2008044612 A JP2008044612 A JP 2008044612A
Authority
JP
Japan
Prior art keywords
image
vehicle
data
driver
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007262977A
Other languages
Japanese (ja)
Other versions
JP4702348B2 (en
Inventor
Atsushi Sato
敦 佐藤
Toshihiro Mori
俊宏 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2007262977A priority Critical patent/JP4702348B2/en
Publication of JP2008044612A publication Critical patent/JP2008044612A/en
Application granted granted Critical
Publication of JP4702348B2 publication Critical patent/JP4702348B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image display capable of complementing the dead zone produced by a forward vehicle. <P>SOLUTION: This on-vehicle image display receives images photographed by a camera mounted on the forward vehicle through a communication device 19, converts the received images to those displayed when the set position of the camera is changed to the visual point of the driver, and displays the visual point-converted image data on a windshield glass by a headup display 14a. When a marker is displayed on the windshield and the driver focuses on a marker, a marker image focused on the cornea is detected by a camera 14b for photographing eyeballs. When the marker image is detected, visual point converged image data is displayed. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

この発明は、車両の画像表示装置にかかり、詳しくは、前方車両によって生じる死角領域の画像を生成する車載画像表示装置に関するものである。   The present invention relates to an image display device for a vehicle, and more particularly to an in-vehicle image display device that generates an image of a blind spot area generated by a vehicle ahead.

走行している車両の運転者は、視界に入る進行方向の景色を確認し、認識した情報に応じて、適宜車両の運転操作を行う。例えば、運転者は、遠方の交差点の信号を認識し、自車両が通過する時の信号の色を予測して、車両の走行速度を調節する。一方、混雑時には、自車両の前方に他車両が存在することもあり、このような場合には、前方の視界は、前方の車両によって遮られ、死角が生じることとなる。特に、前方車両がトラックやバスなど、車高の高い大型車両である場合には、特に、広範囲で視界が遮られ、運転者が認識することのできない死角領域が広くなってしまう。このような場合に、運転者は、視覚情報を視界の中に入れるために、頭部を左右を大きく動かし、或いは、車両を若干左右に移動させて視点を変えてなるなどの動作を試みる。また、前方車両のウインドウ越しに前方の情報を認識し、又は車間距離を広げるなどの方法を採らざるを得ない。 The driver of the traveling vehicle confirms the scenery in the traveling direction entering the field of view, and appropriately performs the driving operation of the vehicle according to the recognized information. For example, the driver recognizes a signal at a distant intersection, predicts the color of the signal when the host vehicle passes, and adjusts the traveling speed of the vehicle. On the other hand, when the vehicle is congested, there may be other vehicles in front of the host vehicle. In such a case, the front field of view is blocked by the front vehicle and a blind spot is generated. In particular, when the preceding vehicle is a large vehicle having a high vehicle height such as a truck or a bus, the field of view is blocked in a wide range, and the blind spot area that cannot be recognized by the driver is widened. In such a case, in order to put the visual information in the field of view, the driver tries to move the head to the left or right, or move the vehicle slightly to the left or right to change the viewpoint. In addition, it is necessary to adopt a method of recognizing information ahead through the window of the vehicle ahead or increasing the distance between vehicles.

特開平7−9886号公報JP-A-7-9886

しかし、運転者が頭部を左右に動かす行為は、運転操作への意識が散漫になり、運転操作を損なう恐れがあり、又、そのような行為によって、必ずしも所望の情報が得られるものでもない。さらに、混雑時には、前方車両との車間距離を広く採ることは、後続車に不快感を与え、割り込みを誘発することにもなる。
一方、前方の情報が得られないために、直前の信号を認識できず、信号が赤に変わっているにもかかわらず、交差点に進入してしまう恐れがある。また、同様に、案内板を見ることができずに、意図しないレーンに進入してしまう可能性もある。
さらに、運転者側においても、必要な情報が得られないことによるストレスが重なり、通常運転時に比較して、過度の疲労が蓄積するといった問題もある。
However, when the driver moves his / her head to the left or right, the driver's consciousness about the driving operation may be distracted, and the driving operation may be impaired, and such an operation does not necessarily provide desired information. . Further, when the traffic is congested, widening the inter-vehicle distance with the preceding vehicle may cause discomfort to the following vehicle and induce an interruption.
On the other hand, since the information ahead cannot be obtained, the previous signal cannot be recognized, and there is a possibility that the vehicle may enter an intersection even though the signal has turned red. Similarly, there is a possibility that the guide plate cannot be seen and the vehicle enters an unintended lane.
Further, the driver side also has a problem that stress due to not being able to obtain necessary information overlaps, and excessive fatigue accumulates as compared with normal driving.

この発明は、前方車両によって生成される死角領域を補完することができる車載画像表示装置を提供することを目的とするものである。   An object of this invention is to provide the vehicle-mounted image display apparatus which can complement the blind spot area | region produced | generated by the front vehicle.

以上のような問題を解決する本発明は、以下のような構成を有する。
(1)自車の前方に存在する車両が取得した画像を、前記前方車両から受信する前方車両画像受信装置と、
該前方車両画像受信装置により受信した画像を、該画像のカメラ視点を運転者の視点位置とした場合の画像に変換する画像変換手段と、
該画像変換手段で生成された画像を表示する画像表示手段とを備えることを特徴とする車載画像表示装置。
The present invention for solving the above problems has the following configuration.
(1) a forward vehicle image receiving device that receives an image acquired by a vehicle in front of the host vehicle from the forward vehicle;
Image conversion means for converting the image received by the front vehicle image receiving device into an image when the camera viewpoint of the image is the driver's viewpoint position;
An in-vehicle image display device comprising image display means for displaying an image generated by the image conversion means.

(2)運転者の視点位置を検出する検出手段とを備え
前記画像変換手段は、前記検出手段により検出された運転者の視点位置とした場合の画像に変換する上記(1)に記載の車載画像表示装置。
(2) The vehicle-mounted vehicle according to (1), wherein the image conversion unit includes a detection unit that detects a viewpoint position of the driver, and the image conversion unit converts the image to a driver's viewpoint position detected by the detection unit. Image display device.

(3)前記画像変換手段で変換された画像が存在する場合、可視光、不可視光とによって構成されたマーカを投影するマーカ投影手段と、
該マーカ投影手段により投影されたマーカを、運転者が視覚的に認識しているか否かを判断する判断手段と、を備え、
前記画像表示手段は、前記判断手段により運転者がマーカを認識していると判断した場合、前記変換された画像を表示することを特徴とする上記(1)又は(2)に記載の車載画像表示装置。
(3) marker projection means for projecting a marker constituted by visible light and invisible light when the image converted by the image conversion means exists;
Judgment means for judging whether or not the driver visually recognizes the marker projected by the marker projection means,
The in-vehicle image according to (1) or (2), wherein the image display unit displays the converted image when the determination unit determines that the driver recognizes the marker. Display device.

(4)前記判断手段は、マーカの不可視光と運転者の眼球との関連性から判断することを特徴とする上記(3)に記載の車載画像表示装置。 (4) The in-vehicle image display device according to (3), wherein the determination unit determines from the relationship between the invisible light of the marker and the driver's eyeball.

(5)前記画像変換手段により変換された画像を、後方車両に送信する後方送信手段を備えることを特徴とする上記(2)から(4)のいずれか1に記載の車載画像表示装置。 (5) The in-vehicle image display device according to any one of (2) to (4), further including a rear transmission unit that transmits the image converted by the image conversion unit to a rear vehicle.

請求項1に記載の発明によれば、前方車両を透過した画像が得られるので、道路状況や道路標識の見落としや死角への不安感を低減できる。さらに、撮像手段が、あたかも運転者の視点の位置に設置されているように画像処理されているので、表示画像が運転者の視界に近い画像となり、進行方向の道路状況が、画像から把握し易くなる。 According to the first aspect of the present invention, since an image transmitted through the vehicle ahead is obtained, it is possible to reduce anxiety about road conditions, oversight of road signs, and blind spots. Furthermore, since the imaging means is image-processed as if it were installed at the position of the driver's viewpoint, the display image becomes an image close to the driver's field of view, and the road conditions in the traveling direction can be grasped from the image. It becomes easy.

請求項2に記載の発明によれば、撮像手段が、あたかも運転者の視点の位置に設置されているように画像処理されているので、表示画像が運転者の視界に近い画像となり、進行方向の道路状況が、画像から把握し易くなる。
請求項3に記載の発明によれば、表示されたマーカで、画像表示の切り換えができるので、特別の切換動作が不要となり、運転動作に対する負担が軽減される。また、画像表示が不要な場合には、画像が表示されず、必要な場合のみ表示されるので、視界を遮る恐れもない。
According to the second aspect of the present invention, since the imaging means is image-processed as if it were installed at the position of the driver's viewpoint, the display image becomes an image close to the driver's field of view, and the traveling direction This makes it easier to grasp the road conditions from the image.
According to the third aspect of the invention, since the image display can be switched with the displayed marker, a special switching operation is not required, and the burden on the driving operation is reduced. Further, when image display is unnecessary, the image is not displayed and is displayed only when necessary, so there is no possibility of blocking the view.

請求項4に記載の発明によれば、不可視光で構成されるマーカの結像を検出することにより、ノイズを抑制でき、検出精度を上げることが可能となる。
請求項5に記載の発明によれば、変換された画像をさらに後方車両に送信する手段を設けることで、前後方向に縦列して走行する車両間で、最前に位置する車両の画像情報を最後部の車両が受信することが可能となり、取得できる前方情況の範囲を拡大することができる。
According to the fourth aspect of the present invention, noise can be suppressed and detection accuracy can be improved by detecting the imaging of the marker composed of invisible light.
According to the fifth aspect of the present invention, by providing means for transmitting the converted image to the rear vehicle further, the image information of the vehicle positioned at the foremost position between the vehicles traveling in tandem in the front-rear direction is lastly stored. It becomes possible for some vehicles to receive, and the range of the front situation which can be acquired can be expanded.

以下、本発明の好適実施形態について、添付図面に基づいて詳細に説明する。
図1は本発明の車載画像表示装置1の構成を示すブロック図である。車載画像表示装置1は、画像処理を行う演算処理装置12と、車体に取り付けられた撮像手段としてのカメラ13と、画像を表示する表示手段としての表示装置14aと、眼球撮影用カメラ14bと、現在位置検出装置15と、データ通信装置19と、記憶装置10とを備え、これらの装置は、システムバス11を介して相互に接続されている。
DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.
FIG. 1 is a block diagram showing a configuration of an in-vehicle image display device 1 of the present invention. The vehicle-mounted image display device 1 includes an arithmetic processing device 12 that performs image processing, a camera 13 that is attached to a vehicle body as an imaging unit, a display device 14a that is a display unit that displays an image, an eyeball camera 14b, A current position detection device 15, a data communication device 19, and a storage device 10 are provided, and these devices are connected to each other via a system bus 11.

カメラ13は、A/D変換器131を介してシステムバス11に接続される。カメラ13は、車両の前方(前進する場合の進行方向)に向けて取り付けられ、車両の進行方向の画像が撮影できるように取り付けられている。
カメラ13から出力された画像信号は、A/D変換器131によってデジタル信号に変換される。また、接続されたカメラ13が、デジタル信号出力が可能なものである場合には、A/D変換器は不要である。カメラ13は魚眼レンズを用いている。
The camera 13 is connected to the system bus 11 via the A / D converter 131. The camera 13 is attached toward the front of the vehicle (advancing direction when moving forward) and is attached so that an image of the advancing direction of the vehicle can be taken.
The image signal output from the camera 13 is converted into a digital signal by the A / D converter 131. Further, when the connected camera 13 can output a digital signal, an A / D converter is not necessary. The camera 13 uses a fisheye lens.

現在位置検出装置15は、舵角センサ151、車速センサ152、GPS受信装置153、方位センサ154、距離センサ155とを備えている。舵角センサ151は、車の操舵角を検出する。操舵角は、ハンドルの回転角または前輪の角度を検出して得られる。車速センサ152は、車両の走行速度を検出する。GPS受信装置153は、車両の絶対位置を検出する。方位センサ154は、車両の向きを検出する。距離センサ155は、車両の移動距離を検出する。 The current position detection device 15 includes a steering angle sensor 151, a vehicle speed sensor 152, a GPS reception device 153, an orientation sensor 154, and a distance sensor 155. The steering angle sensor 151 detects the steering angle of the vehicle. The steering angle is obtained by detecting the rotation angle of the steering wheel or the angle of the front wheel. The vehicle speed sensor 152 detects the traveling speed of the vehicle. The GPS receiver 153 detects the absolute position of the vehicle. The direction sensor 154 detects the direction of the vehicle. The distance sensor 155 detects the moving distance of the vehicle.

記憶装置10は、自車データを記憶する自車データ記憶部16と、前方車両から受信したデータを記憶する受信データ記憶部17と、自車データと受信データとを合成したデータを記憶する合成データ記憶部18とを備えている。
自車データ記憶部16は、位置データメモリ161と、画象データメモリ162と、カメラ設定データメモリ164と、運転者視点データメモリ165と、視点変換パラメータメモリ166と、視点変換画像データメモリ167とを備えている。位置データメモリ161は、現在位置検出装置15で検出された自車両の位置データが記憶されるメモリである。画像データメモリ162は、カメラ13が写した画像を記憶するメモリで、カメラ13から出力される画像が連続して記憶される。
The storage device 10 stores a host vehicle data storage unit 16 that stores host vehicle data, a reception data storage unit 17 that stores data received from a preceding vehicle, and a combination that stores data obtained by combining the host vehicle data and reception data. And a data storage unit 18.
The own vehicle data storage unit 16 includes a position data memory 161, an image data memory 162, a camera setting data memory 164, a driver viewpoint data memory 165, a viewpoint conversion parameter memory 166, and a viewpoint conversion image data memory 167. It has. The position data memory 161 is a memory in which the position data of the host vehicle detected by the current position detection device 15 is stored. The image data memory 162 is a memory for storing images taken by the camera 13 and stores images output from the camera 13 continuously.

カメラ設定データメモリ164は、カメラ13のレンズ特性、画角、車体の基準位置からの相対位置等により特定される設置位置、同様に、車体の基準位置からの相対位置等により特定される視点位置、撮影方角等が記憶されるメモリである。レンズ特性には、例えば、撮影方式やレンズ種類、画角の範囲の像のひずみ率などが挙げられる。撮影方角は、方位センサ若しくは位置データを2つ以上取得することにより決定することができる。車体の基準位置とは、例えば、GPS受信装置のアンテナの位置、前輪又は後輪の位置、その他方位センサ等のセンサの設置位置などが挙げられる。運転者視点データメモリ165は、上記車体の基準位置からの相対位置として規定される運転者の視点の位置が記憶されるメモリである。視点変換パラメータメモリ166は、カメラ設定データ164に含まれるカメラの視点位置と、運転者視点データに含まれる運転者の視点位置とから算出された相対距離が記憶されるメモリである。視点変換画像データメモリ167は、画像データに視点変換処理を行った後の画像データを記憶するメモリである。 The camera setting data memory 164 stores an installation position specified by the lens characteristics of the camera 13, an angle of view, a relative position from the reference position of the vehicle body, and similarly a viewpoint position specified by a relative position from the reference position of the vehicle body. This is a memory in which shooting directions and the like are stored. Examples of the lens characteristics include a photographing method, a lens type, and a distortion rate of an image in a field angle range. The shooting direction can be determined by acquiring two or more azimuth sensors or position data. The reference position of the vehicle body includes, for example, the position of the antenna of the GPS receiver, the position of the front wheel or the rear wheel, and the installation position of other sensors such as a direction sensor. The driver viewpoint data memory 165 is a memory in which the position of the driver's viewpoint defined as a relative position from the reference position of the vehicle body is stored. The viewpoint conversion parameter memory 166 is a memory in which a relative distance calculated from the viewpoint position of the camera included in the camera setting data 164 and the viewpoint position of the driver included in the driver viewpoint data is stored. The viewpoint conversion image data memory 167 is a memory that stores image data after the viewpoint conversion processing is performed on the image data.

上記カメラ設定データメモリ164、運転者視点データメモリ165に記憶されている、数値が変更されることのないデータ(例えば、車両に対するカメラの撮影方向、画角など、数値が固定されているデータ)については、後述する演算処理装置12のリードオンリーメモリ[ROM]122に記憶してあってもよい。
受信データ記憶部17は、位置データメモリ171と、画象データメモリ172と、車両データメモリ173と、カメラ設定データメモリ174と、視点変換パラメータメモリ175と、視点変換画像データメモリ176とを備えている。位置データメモリ171は、前方車両の位置データが記憶されるメモリである。画像データメモリ172は、前方車両のカメラが取得した画像データが記憶されるメモリである。車両データメモリ173は、前方車両の車体の輪郭を表現した輪郭線データ、全長、全幅、全高などの寸法データが記憶されるメモリである。この輪郭線データは、例えば、車両を後方から見たときの輪郭線を表現した線画情報である。輪郭線の例としては、車体を象徴する部位の輪郭線であればよく、例えば、車体、バンパー、テールランプ、リヤウインドーの形状、リヤウインドウワイパー及び後部車輪等の少なくとも一つを含む輪郭線である。
Data that is stored in the camera setting data memory 164 and the driver viewpoint data memory 165 and whose numerical values are not changed (for example, data in which numerical values are fixed such as the shooting direction and angle of view of the camera with respect to the vehicle). May be stored in a read-only memory [ROM] 122 of the arithmetic processing unit 12 to be described later.
The reception data storage unit 17 includes a position data memory 171, an image data memory 172, a vehicle data memory 173, a camera setting data memory 174, a viewpoint conversion parameter memory 175, and a viewpoint conversion image data memory 176. Yes. The position data memory 171 is a memory in which position data of the vehicle ahead is stored. The image data memory 172 is a memory in which image data acquired by the camera of the vehicle ahead is stored. The vehicle data memory 173 is a memory that stores contour data representing the contour of the vehicle body of the preceding vehicle, and dimensional data such as a total length, a total width, and a total height. The contour line data is, for example, line drawing information that represents a contour line when the vehicle is viewed from behind. An example of the contour line may be a contour line that symbolizes a vehicle body, and includes, for example, a contour line including at least one of a vehicle body, a bumper, a tail lamp, a shape of a rear window, a rear window wiper, a rear wheel, and the like.

カメラ設定データ174は、カメラのレンズ特性、画角、車体の基準位置からの相対位置等により特定される設置位置、同様に、車体の基準位置からの相対位置等により特定される視点位置、撮影方角等が記憶されるメモリである。視点変換パラメータメモリ175は、カメラ設定データ174に含まれる前方車両のカメラの視点位置と、運転者の視点位置とから算出された相対距離を記憶するメモリである。視点変換画像データメモリ176は、画像データに視点変換処理を行った後の画像データを記憶するメモリである。 The camera setting data 174 includes an installation position specified by a camera lens characteristic, an angle of view, a relative position from a vehicle body reference position, a viewpoint position specified by a relative position from a vehicle body reference position, and the like. This is a memory in which directions and the like are stored. The viewpoint conversion parameter memory 175 is a memory that stores a relative distance calculated from the viewpoint position of the camera of the preceding vehicle included in the camera setting data 174 and the viewpoint position of the driver. The viewpoint conversion image data memory 176 is a memory for storing image data after the viewpoint conversion processing is performed on the image data.

合成データ記憶部18は、位置データメモリ181と、画象データメモリ182と、カメラ設定データメモリ184とを備えている。 The composite data storage unit 18 includes a position data memory 181, an image data memory 182, and a camera setting data memory 184.

位置データメモリ181には、自車位置データが記憶される。画像データメモリ182には、自車が取得した画像データと、受信した前方車両の画像データとを合成した合成画像データが記憶される。カメラ設定データメモリ184は、後に詳しく説明するが、前方車両からデータを受信し、合成が可能であった場合は、運転者視点データ165が記憶され、合成が不可能であった場合にはカメラ設定データ164が記憶される。 The position data memory 181 stores own vehicle position data. The image data memory 182 stores composite image data obtained by combining the image data acquired by the vehicle and the received image data of the preceding vehicle. As will be described in detail later, the camera setting data memory 184 receives the data from the vehicle ahead and stores the driver viewpoint data 165 when the data can be combined, and the camera when the data cannot be combined. Setting data 164 is stored.

画像表示手段としてのヘッドアップディスプレイ14aは、図2に示されているように、フロントガラス140全面に設けられたホログラフィックコンバイナ142と、これに画像を投影するための表示器143とから構成されている。表示器143は、例えばダッシュボード144内に配置され、ホログラフィックコンバイナ142に映像を映し出す。ヘッドアップディスプレイ14aによって、受信データ記憶部17の視点変換画像データメモリ176に格納された、画像データがホログラフィックコンバイナ142に表示される。あるいは、合成データ記憶部18の画像データ182に格納された合成画像を表示することもできる。 As shown in FIG. 2, the head-up display 14a as an image display means is composed of a holographic combiner 142 provided on the entire surface of the windshield 140 and a display 143 for projecting an image onto the holographic combiner 142. ing. The display 143 is disposed in the dashboard 144, for example, and displays an image on the holographic combiner 142. The image data stored in the viewpoint conversion image data memory 176 of the received data storage unit 17 is displayed on the holographic combiner 142 by the head-up display 14a. Alternatively, a composite image stored in the image data 182 of the composite data storage unit 18 can be displayed.

ホログラフィックコンバイナ142に表示される画像は、半透明であり、フロントガラス140の向こう側の景色も、充分視認することができる構成となっている。 The image displayed on the holographic combiner 142 is translucent, and the scenery beyond the windshield 140 can be sufficiently recognized.

ヘッドアップディスプレイ14aは、表示する画像情報がある場合には、図3に示されているように、ホログラフィックコンバイナ142(フロントガラス140)にマーカPを表示する。マーカPは、可視光で表示された可視光マーカP1と、不可視光で表示された不可視光マーカP2から構成されている。可視光マーカP1は、点状であって、不可視光マーカP2は、可視光マーカP1の位置で交差する十字形状に構成されている。マーカPは、運転者が前方車両を視認した時の、視線とフロントガラス140とが交差する位置又はその近傍に表示される。ヘッドアップディスプレイ14aへ送られるデータは、D/A変換器141aを介してアナログ信号に変換される。また、ヘッドアップディスプレイ14aがデジタル信号入力可能な場合には、D/A変換器は不要となる。ここでは、ヘッドアップディスプレイ14aは、マーカ投影手段としても機能する。 When there is image information to be displayed, the head-up display 14a displays the marker P on the holographic combiner 142 (windshield 140) as shown in FIG. The marker P includes a visible light marker P1 displayed with visible light and an invisible light marker P2 displayed with invisible light. The visible light marker P1 has a dot shape, and the invisible light marker P2 has a cross shape that intersects at the position of the visible light marker P1. The marker P is displayed at or near the position where the line of sight and the windshield 140 intersect when the driver visually recognizes the preceding vehicle. Data sent to the head-up display 14a is converted into an analog signal via the D / A converter 141a. Further, when the head-up display 14a can input a digital signal, the D / A converter is not necessary. Here, the head-up display 14a also functions as marker projection means.

判断手段である眼球撮影用カメラ14bは、運転者の眼球の角膜に映る像を撮影できるような位置に設置されている。眼球撮影用カメラ14bは、運転者の眼球の角膜に結像した不可視光マーカP2の有無を検出する。可視光とは、光の波長が380nm〜780nmの範囲内の光で、肉眼で見ることが可能な範囲の光である。不可視光とは、例えば、赤外線や紫外線のような、肉眼で見ることが不可能な光である。本実施形態における不可視光は、赤外線を使用している。 The eyeball camera 14b, which is a determination means, is installed at a position where an image reflected on the cornea of the driver's eyeball can be shot. The eyeball camera 14b detects the presence or absence of an invisible light marker P2 imaged on the cornea of the driver's eyeball. Visible light is light within a wavelength range of 380 nm to 780 nm and is visible to the naked eye. Invisible light is light that cannot be seen with the naked eye, such as infrared or ultraviolet light. Invisible light in this embodiment uses infrared rays.

この不可視光マーカP2の検出によって、運転者が、ホログラフィックコンバイナ142に映し出された可視光マーカP1に焦点を合わせたものと判断することができる。このように、不可視光の結像を検出する構成とすることによって、角膜に映し出される可視光像(景色等)によるノイズの影響を低減することができる。また、本実施形態では角膜に映された不可視光マーカを判断基準としているが、瞳孔や網膜に映された不可視光マーカから判断することも可能である。 By detecting the invisible light marker P2, it can be determined that the driver focuses on the visible light marker P1 displayed on the holographic combiner 142. In this way, by adopting a configuration for detecting the imaging of invisible light, it is possible to reduce the influence of noise caused by a visible light image (landscape or the like) projected on the cornea. In the present embodiment, the invisible light marker reflected on the cornea is used as a determination criterion. However, it is also possible to make a determination from the invisible light marker reflected on the pupil or the retina.

データ通信装置19は、前方車両が無線通信手段を用いて発信しているデータを受信し、受信したデータをバッファ191に蓄積する。蓄積された前方車両データは、バスライン11を介して受信データ記憶部17の各メモリへ送られる。さらに通信可能な車両が後方に存在する場合には、送信すべきデータを後方の車両に送信する。 The data communication device 19 receives data transmitted by the vehicle ahead using wireless communication means, and stores the received data in the buffer 191. The accumulated forward vehicle data is sent to each memory of the reception data storage unit 17 via the bus line 11. Further, when there is a vehicle that can communicate with the rear side, data to be transmitted is transmitted to the rear vehicle.

演算処理装置12は、中央処理装置[CPU(Central Processing Unit)]121と、リードオンリーメモリ[ROM]122と、ランダムアクセスメモリ[RAM]123とを備えている。中央処理装置121は、例えば、現在位置検出装置15から得られた位置データや車両の向きと、受信した前方車両に関する位置データから、前方車両と自車両との相対位置についての情報を算出し、或いは、記憶装置10から自車両の画像データ、受信した前方車両の画像データを取得し、これらのデータから合成画像データを生成するなどの作用を有する。
ROM122には、例えば、中央処理装置121が画像処理を行うためのソフトウエア等が格納されており、RAM123は、例えば、ワーキングエリアとして使用される。
The arithmetic processing unit 12 includes a central processing unit [CPU (Central Processing Unit)] 121, a read-only memory [ROM] 122, and a random access memory [RAM] 123. The central processing unit 121 calculates, for example, information on the relative position between the preceding vehicle and the host vehicle from the position data obtained from the current position detection device 15 and the vehicle orientation and the received position data regarding the preceding vehicle. Alternatively, the image data of the host vehicle and the received image data of the preceding vehicle are acquired from the storage device 10, and composite image data is generated from these data.
The ROM 122 stores, for example, software for the central processing unit 121 to perform image processing, and the RAM 123 is used as a working area, for example.

本発明の画像処理装置は、次のような作用をする。図4は、本発明の画像処理装置を搭載した自車両21と、その進行方向(前方)に位置する前方車両22の位置関係を示す側面全体図である。自車両21の前方を映すカメラ13aの撮影領域a内には、自車両21の進行方向(前方)と同じ方向に進む前方車両22が位置している。このような前方車両22は、自車両21と同様に前方を映すカメラ13bを備えている。また、この前方車両22は、自車両21と同じ車載画像表示装置を備えており、カメラ13bで取得した画像は、視点変換処理等の画像処理を行うことも可能である。また、前方車両22は、カメラ13bで撮影した画像を、後方の自車両21へ無線通信手段を介して送信している。 The image processing apparatus of the present invention operates as follows. FIG. 4 is an overall side view showing the positional relationship between the host vehicle 21 equipped with the image processing apparatus of the present invention and the forward vehicle 22 located in the traveling direction (front). A forward vehicle 22 that travels in the same direction as the traveling direction (forward) of the host vehicle 21 is located in the imaging region a of the camera 13a that reflects the front of the host vehicle 21. Such a forward vehicle 22 includes a camera 13b that reflects the front in the same manner as the host vehicle 21. Further, the preceding vehicle 22 includes the same on-vehicle image display device as the host vehicle 21, and the image acquired by the camera 13b can be subjected to image processing such as viewpoint conversion processing. Further, the front vehicle 22 transmits an image photographed by the camera 13b to the rear vehicle 21 via the wireless communication means.

自車両21の撮影領域a内には、前方車両22によって遮られた死角領域bが生成される。この死角領域bは、さらに、前方車両22のカメラ13bの撮影領域cと重なっている。従って、前方車両22の前方に位置する信号23は、死角領域bに含まれ、自車両21側の運転者は、認識できないが、前方車両22のカメラ13bには映し出されているので、前方車両22の画像データを取得することによって、死角領域bにある信号23の色の状態を把握することができる。 A blind spot area b blocked by the forward vehicle 22 is generated in the imaging area a of the host vehicle 21. The blind spot area b further overlaps with the imaging area c of the camera 13b of the vehicle 22 ahead. Accordingly, the signal 23 positioned in front of the front vehicle 22 is included in the blind spot area b and cannot be recognized by the driver on the own vehicle 21 side, but is reflected on the camera 13b of the front vehicle 22, and therefore the front vehicle By acquiring 22 image data, the color state of the signal 23 in the blind spot area b can be grasped.

カメラ13a、13bの設置位置は、運転者の視点の位置が最も好ましいが、この視点の位置に近い位置でもよい。例えば、バックミラーの位置の他、ダッシュボードの中央付近、座席の肩口の位置などか挙げられる。 The installation positions of the cameras 13a and 13b are most preferably the position of the driver's viewpoint, but may be a position close to the position of the viewpoint. For example, in addition to the position of the rearview mirror, the vicinity of the center of the dashboard, the position of the shoulder of the seat, and the like can be mentioned.

以上のように構成された本発明の画像処理装置1の作用について説明する。図5は、処理装置12の動作を示すフローチャートである。
処理の開始は、例えば、イグニッションオン、車速センサの検出値か一定の値以上となった場合(車両が走行している状態となった場合)、若しくは装置スイッチオン等の操作による。スイッチオンのきっかけは、この他、シフトチェンジレバーをD位置にセットしたときとしてもよい。
The operation of the image processing apparatus 1 of the present invention configured as described above will be described. FIG. 5 is a flowchart showing the operation of the processing device 12.
The process is started, for example, when the ignition is turned on, when the detected value of the vehicle speed sensor is equal to or higher than a certain value (when the vehicle is in a running state), or when the device is turned on. In addition to this, the switch-on may be triggered when the shift change lever is set to the D position.

最初に、初期化処理が行われる(ステップS101)。図6は、初期化処理のサブルーチンを示すフローチャートである。初期化処理では、最初に自車データのチェックを行う(ステップS201)。この自車データとしては、カメラ設定データ、運転者視点データである。チェックしたデータに不足データがあるか判断し(ステップS203)、不足データがある場合には、不足データの入力および記憶装置10への書き込みを行う(ステップS205)。 First, initialization processing is performed (step S101). FIG. 6 is a flowchart showing a subroutine of initialization processing. In the initialization process, the vehicle data is first checked (step S201). The vehicle data includes camera setting data and driver viewpoint data. It is determined whether there is insufficient data in the checked data (step S203). If there is insufficient data, the insufficient data is input and written to the storage device 10 (step S205).

データ不足がない場合には、視点変換パラメータを算出する(ステップS207)。視点変換パラメータは、カメラ設定データに含まれるカメラの視点位置と、運転者視点データに含まれる運転者の視点位置とから算出される。算出された視点変換パラメータを視点変換パラメータメモリ166に書き込む(ステップS209)。 If there is no data shortage, viewpoint conversion parameters are calculated (step S207). The viewpoint conversion parameter is calculated from the viewpoint position of the camera included in the camera setting data and the viewpoint position of the driver included in the driver viewpoint data. The calculated viewpoint conversion parameter is written into the viewpoint conversion parameter memory 166 (step S209).

記憶装置10の画像データメモリ162内のデータ書き込み先頭位置を検出し、データを書き込む準備をする(ステップS211)。例えば、視点変換用画像データメモリ167等に格納された画像の記憶データを更新するかを判断するための設定値を監視する変数などを初期化する。 The data writing head position in the image data memory 162 of the storage device 10 is detected, and preparations for writing data are made (step S211). For example, a variable or the like for monitoring a set value for determining whether to update the image storage data stored in the viewpoint conversion image data memory 167 or the like is initialized.

以上のように初期化処理(ステップS101)が終了すると、次に現在位置検出装置15と、カメラ13aから、データを取得する(ステップS103)。現在位置検出装置15からは、位置データを取得し、カメラ13aからは画像データを取得する。上述のように、自車両内の進行方向の画像を取得することをもって、本発明の撮像手段とする。 When the initialization process (step S101) is completed as described above, next, data is acquired from the current position detection device 15 and the camera 13a (step S103). Position data is acquired from the current position detection device 15, and image data is acquired from the camera 13a. As described above, the image capturing means of the present invention is obtained by acquiring an image in the traveling direction in the host vehicle.

取得された位置データは、自車データ記憶部16の、位置データメモリ161に書き込まれ、取得された画像データは、同じく、画象データメモリ162に書き込まれる(ステップS105)。自車データ記憶部16の視点変換パラメータメモリ166から、視点変換パラメータを読み出す(ステップS107)。読み出した視点変換パラメータに従い、自車画像データを自車運転者視点画像に変換する(ステップS109)。例えば、カメラ設置位置と運転者視点位置との、上下方向及び左右方向における距離が予め規定されており、その距離に応じて画像データの中心点(レンズの光軸が直交する位置)から、前述の規定されている値に基いて補正された位置が中心となるように補正する。この補正された中心点を画像の中心位置とした画像を視点変換画像とする。このように、自車両の画像と運転者から見た視点の画像に補正することをもって、本発明の自車両画像補正手段とする。
視点変換された画像データを、視点変換画像データメモリ167へ書き込む(ステップS111)。
The acquired position data is written in the position data memory 161 of the vehicle data storage unit 16, and the acquired image data is also written in the image data memory 162 (step S105). A viewpoint conversion parameter is read from the viewpoint conversion parameter memory 166 of the host vehicle data storage unit 16 (step S107). According to the read viewpoint conversion parameter, the host vehicle image data is converted into the host vehicle driver viewpoint image (step S109). For example, the distance in the vertical direction and the horizontal direction between the camera installation position and the driver viewpoint position is defined in advance, and from the center point of the image data (position where the optical axis of the lens is orthogonal) according to the distance, Correction is performed so that the position corrected on the basis of the prescribed value is centered. An image having the corrected center point as the center position of the image is defined as a viewpoint converted image. In this way, the vehicle image correction means of the present invention is obtained by correcting the image of the vehicle and the image of the viewpoint viewed from the driver.
The viewpoint-converted image data is written into the viewpoint-converted image data memory 167 (step S111).

前方車両22からデータ受信が可能か否か判断する(ステップS113)。つまり、前方車両からのデータ送信があるかを判断する。また、自車と前方車両との位置関係により、判断してもかまわない。データ通信が可能な距離か否かは、例えば、予め距離センサを設け、前方車両22との距離を測定し、この測定距離から、通信の可・不可を判断する。
受信が可能である場合には、前方車両22からデータを受信する(ステップS115)。受信するデータは、前方車両22の位置データ、前方車両22のカメラ13bが取得した画像データ、前方車両22のカメラ設定データ及び車両データである。車両データには、前方車両の車体、バンパー、ライト、ワイパー、タイヤ、座席、及び窓の形状のうち少なくとも1つを含む車体形状の輪郭線であり、上記車体形状の輪郭線を受信することをもって本発明の輪郭線受信手段とする。
It is determined whether data can be received from the preceding vehicle 22 (step S113). That is, it is determined whether there is data transmission from the vehicle ahead. Moreover, you may judge by the positional relationship of the own vehicle and a front vehicle. Whether or not the data communication is possible is determined by, for example, providing a distance sensor in advance, measuring the distance to the vehicle 22 ahead, and determining whether communication is possible or not from this measured distance.
If reception is possible, data is received from the preceding vehicle 22 (step S115). The received data includes position data of the preceding vehicle 22, image data acquired by the camera 13b of the preceding vehicle 22, camera setting data and vehicle data of the preceding vehicle 22. The vehicle data includes a contour line of a vehicle body shape including at least one of a vehicle body, a bumper, a light, a wiper, a tire, a seat, and a window shape of a preceding vehicle. The contour line receiving means of the present invention is used.

受信したこれらのデータを、データ通信装置19を介して受信バッファ191に受信データを格納する(ステップS117)。受信バッファ191からデータを読み出し、受信データ記憶部17の位置データメモリ171、画象データメモリ172、車両データメモリ173、カメラ設定データメモリ174に、それぞれ対応するデータを受信データとして書き込む(ステップS119)。このように、自車の前方に存在する車両が取得した画像を、前方車両から受信することをもって、本発明の前方車両画像受信装置(手段)とする。 The received data is stored in the reception buffer 191 via the data communication device 19 (step S117). Data is read from the reception buffer 191, and the corresponding data is written as reception data in the position data memory 171, image data memory 172, vehicle data memory 173, and camera setting data memory 174 of the reception data storage unit 17 (step S119). . In this way, the forward vehicle image receiving device (means) of the present invention is obtained by receiving an image acquired by a vehicle in front of the host vehicle from the forward vehicle.

受信した画像データについて、受信画像データ視点変換処理を行う(ステップS121)。図7は、受信画像データ視点変換処理サブルーチンを示すフローチャートである。以下、受信画像データ視点変換処理について説明する。自車データ記憶部16から、自車の位置データと運転者視点データを読み出す(ステップS301)。 A received image data viewpoint conversion process is performed on the received image data (step S121). FIG. 7 is a flowchart showing a received image data viewpoint conversion processing subroutine. The received image data viewpoint conversion process will be described below. The position data and driver viewpoint data of the own vehicle are read from the own vehicle data storage unit 16 (step S301).

読み出した位置データと運転者視点データに基いて、運転者視点の座標を算出する(ステップS303)。具体的には、位置データとして、GPS受信装置153のアンテナの座標値が得られる。そして、GPS受信装置153のアンテナを基準位置とし、この基準位置からの相対位置として規定されている運転者視点データにより、運転者視点の座標値が算出される。 Based on the read position data and driver viewpoint data, the coordinates of the driver viewpoint are calculated (step S303). Specifically, the coordinate value of the antenna of the GPS receiver 153 is obtained as the position data. And the coordinate value of a driver | operator viewpoint is calculated from the driver | operator viewpoint data prescribed | regulated as a relative position from this reference | standard position by making the antenna of GPS receiver 153 into a reference | standard position.

受信データ記憶部17から、前方車両22の位置データとカメラ設定データを読み出す(ステップS305)。読み出した位置データとカメラ設定データから、前方車両のカメラ視点の座標値を算出する(ステップS307)。具体的には、位置データとして、前方車両22のGPS受信装置のアンテナの座標値が得られる。そして、GPS受信装置のアンテナを基準位置とし、この基準位置からの相対位置として規定されているカメラ設置位置(視点位置)データにより、カメラ視点の座標値が算出される。上述のように、受信した画像の撮像位置までの距離を算出することをもって、本発明の距離算出手段とする。 The position data and camera setting data of the preceding vehicle 22 are read from the reception data storage unit 17 (step S305). A coordinate value of the camera viewpoint of the preceding vehicle is calculated from the read position data and camera setting data (step S307). Specifically, the coordinate value of the antenna of the GPS receiver of the preceding vehicle 22 is obtained as the position data. Then, the coordinate value of the camera viewpoint is calculated from the camera installation position (viewpoint position) data defined as the relative position from the reference position with the antenna of the GPS receiver as the reference position. As described above, the distance calculation means of the present invention is obtained by calculating the distance to the imaging position of the received image.

ステップS303で算出された自車両21の運転者視点位置の座標値と、ステップS307で算出された前方車両22のカメラ視点座標値とから、視点変換パラメータを算出する(ステップS309)。算出された視点変換パラメータを視点変換パラメータメモリ175に書き込む(ステップS311)。 A viewpoint conversion parameter is calculated from the coordinate value of the driver viewpoint position of the host vehicle 21 calculated in step S303 and the camera viewpoint coordinate value of the forward vehicle 22 calculated in step S307 (step S309). The calculated viewpoint conversion parameter is written into the viewpoint conversion parameter memory 175 (step S311).

次に、受信データ記憶部17の画像データメモリ172から、前方車両22の画象データを読み出し(ステップS313)、視点変換パラメータメモリ175に記憶されている視点変換パラメータに基づいて、受信画像データを自車両の運転者視点画像に変換する(ステップS315)。視点変換した画像データを視点変換画像データとして、視点変換画像データメモリ176に書き込む(ステップS317)。上述のように、距離算出手段により算出した距離に基いて、受信した前方車両の画像を、運転者から見た視点の画像に補正することをもって、本発明の画像変換手段とする。 Next, the image data of the preceding vehicle 22 is read from the image data memory 172 of the received data storage unit 17 (step S313), and the received image data is converted based on the viewpoint conversion parameters stored in the viewpoint conversion parameter memory 175. It converts into the driver viewpoint image of the own vehicle (step S315). The viewpoint-converted image data is written in the viewpoint-converted image data memory 176 as viewpoint-converted image data (step S317). As described above, the received image of the preceding vehicle is corrected to the viewpoint image viewed from the driver based on the distance calculated by the distance calculation means, thereby providing the image conversion means of the present invention.

以上のような受信画像データ視点変換処理の後、自車データ記憶部16の視点変換画像データメモリ167と、受信データ記憶部17の視点変換画像データメモリ176とから、それぞれ視点変換画像データを読み出す(ステップS123)。2つの視点変換画像データを合成する(ステップS125)。図8は、画像合成方法を示す図である。受信データ記憶部17の視点変換画像データメモリ176から、視点変換画像B0を読み出す。また、画像データメモリ162から自車両の前方画像A0を読み出し、必要ならば視点変換処理を行い、視点変換画像A1を作成する。視点変換画像A1から、Sobelフィルタ処理やラプラシアンフィルタ処理などにより前方車両の輪郭線を抽出し、前方車両が映し出されている領域を抽出する。この前方車両の領域に合致する領域を、画像B0から抽出し、サイズ調整等をおこなった画像B1を作成する。 After the received image data viewpoint conversion processing as described above, the viewpoint converted image data is read from the viewpoint converted image data memory 167 of the own vehicle data storage unit 16 and the viewpoint converted image data memory 176 of the received data storage unit 17, respectively. (Step S123). Two viewpoint conversion image data are synthesized (step S125). FIG. 8 is a diagram illustrating an image composition method. The viewpoint conversion image B0 is read from the viewpoint conversion image data memory 176 of the reception data storage unit 17. Further, the front image A0 of the host vehicle is read from the image data memory 162, and viewpoint conversion processing is performed if necessary to create a viewpoint conversion image A1. A contour line of the preceding vehicle is extracted from the viewpoint conversion image A1 by Sobel filter processing, Laplacian filter processing, or the like, and an area in which the preceding vehicle is projected is extracted. An area that matches the area of the preceding vehicle is extracted from the image B0, and an image B1 that has been subjected to size adjustment and the like is created.

視点変換画像A1の前方車両が映し出されている領域の上に画像B1を重ね合わせ、合成画像AB0を構成する。図8は、説明を解かりやすくするために、正像変換処理後の画像を用い、車両の輪郭線も立体的なものでなく平面的な表示とした。以上説明した画像合成処理は、魚眼レンズ画像のままで行われる。従って、次に、画像AB0を正像変換して、画像AB1とする処理が行われる。なお、カメラ13a、13bで取得した画像を最初に正像変換処理した後、上記処理を行ってもよい。このステップS125によって画像生成手段が構成される。 The composite image AB0 is formed by superimposing the image B1 on the area of the viewpoint conversion image A1 where the vehicle ahead is displayed. In FIG. 8, in order to make the explanation easy to understand, the image after the normal image conversion process is used, and the contour line of the vehicle is not a three-dimensional image but a two-dimensional display. The image composition process described above is performed with the fisheye lens image as it is. Therefore, next, the image AB0 is subjected to normal image conversion to obtain the image AB1. Note that the above processing may be performed after first performing normal image conversion processing on the images acquired by the cameras 13a and 13b. This step S125 constitutes an image generating means.

重ね合わせて生成された合成画像AB1は、合成データとして合成データ記憶部18の画像データメモリ182に書き込まれ、合成画像AB1の位置データは、位置データメモリ181に書き込まれ、自車両のカメラ設定データと、自車運転者視点データは、カメラ設定データメモリ184に書き込まれる(ステップS127)。
次に、視点変換処理された画像データの正像変換処理を行う(ステップS129)。そして、正像変換画像をワークメモリとして機能するRAM123に格納する(ステップS131)。
The composite image AB1 generated by superimposing is written into the image data memory 182 of the composite data storage unit 18 as composite data, and the position data of the composite image AB1 is written into the position data memory 181 and the camera setting data of the host vehicle. Then, the vehicle driver viewpoint data is written in the camera setting data memory 184 (step S127).
Next, a normal image conversion process is performed on the image data subjected to the viewpoint conversion process (step S129). Then, the normal image converted image is stored in the RAM 123 functioning as a work memory (step S131).

次に、表示装置用メモリに格納された画像を表示するための正像変換画像表示処理を行う(ステップS133)。図9に示されているのは、正像変換画像表示処理サブルーチンである。以下、正像変換画像表示処理について説明する。
ホログラフィックコンバイナ142(フロントガラス140)に、前回表示した画像またはマーカPが表示中か判断する(ステップS401)。表示中である場合には、新たに更新できる画像が存在するか判断する(ステップS403)。そして、マーカPに運転者の焦点が合っているか判断する(ステップS405)。この判断は、眼球撮影用カメラ14bによって、運転者の角膜に不可視光マーカP2が結像しているかを判断することによってなされる。結像している場合には、マーカPに焦点が合っていることを意味する。
Next, a normal image conversion image display process for displaying an image stored in the display device memory is performed (step S133). FIG. 9 shows a normal image converted image display processing subroutine. Hereinafter, the normal image converted image display process will be described.
It is determined whether the previously displayed image or marker P is being displayed on the holographic combiner 142 (front glass 140) (step S401). If it is being displayed, it is determined whether there is an image that can be newly updated (step S403). Then, it is determined whether the driver is focused on the marker P (step S405). This determination is made by determining whether the invisible light marker P2 is imaged on the driver's cornea by the eyeball camera 14b. When an image is formed, it means that the marker P is in focus.

焦点が合っている場合には、ホログラフィックコンバイナ142(フロントガラス140)の画像を更新する(ステップS407)。この場合、フロントガラス140には、画像とマーカPが映し出されている。
ステップS401で、前回の画像が表示されていないと判断した場合には、表示可能な画像が存在するか判断する(ステップS409)。存在しない場合には、画像はホログラフィックコンバイナ142に表示されず、また、表示画像が存在することを報知するマーカPも表示されない。
If the image is in focus, the image of the holographic combiner 142 (windshield 140) is updated (step S407). In this case, the image and the marker P are projected on the windshield 140.
If it is determined in step S401 that the previous image is not displayed, it is determined whether there is a displayable image (step S409). If it does not exist, the image is not displayed on the holographic combiner 142, and the marker P notifying that the display image exists is not displayed.

画像が存在する場合には、マーカPを表示する(ステップS411)。マーカPの表示によって、運転者には、表示できる画像が存在することが報知される。このように、生成された画像が存在する場合、可視光と不可視光とによってマーカをフロントガラス140(ホログラフィックコンバイナ)に投影する(映し出す)ことにより、本発明のマーカ投影手段が構成される。 If there is an image, the marker P is displayed (step S411). The display of the marker P notifies the driver that there is an image that can be displayed. As described above, when the generated image exists, the marker projection unit of the present invention is configured by projecting (projecting) the marker onto the windshield 140 (holographic combiner) with visible light and invisible light.

次に、運転者の焦点がマーカPに合っているか判断する(ステップS413)。合っていない場合には、運転者は画像表示を欲していないと判断し、画像表示はおこなわれず、フロントガラス140にはマーカPのみが表示される。
焦点が合っている場合には、運転者は画像表示を欲していると判断し、画像が表示される(ステップS415)。この時、フロントガラス140にはマーカPと画像とが表示される。本実施形態では焦点が合っているか否かを判断するが、さらに瞳孔/角膜反射方式を用い、運転者の視線を検知することにより、判断の精度を上げることも可能である。
Next, it is determined whether the driver is focused on the marker P (step S413). If they do not match, it is determined that the driver does not want image display, image display is not performed, and only the marker P is displayed on the windshield 140.
If it is in focus, it is determined that the driver wants to display an image, and an image is displayed (step S415). At this time, the marker P and the image are displayed on the windshield 140. In this embodiment, it is determined whether or not the subject is in focus, but it is also possible to increase the accuracy of the determination by detecting the driver's line of sight using the pupil / corneal reflection method.

ステップS403で、更新可能な画像が存在しないと判断した場合には、マーカP及び画像の表示はオフとなり、いずれも表示されない状態となる(ステップS417)。また、ステップS405で、運転者の焦点がマーカPに合っていないと判断した場合には、画像表示はオフされ(ステップS419)、フロントガラス140には、マーカPのみが表示される。以上のように表示された正像変換画像は、運転者の視界内に位置する前方車両によって遮られた死角領域を含んでおり、この画像が、フロントガラス140に、重ねて表示される。このため、死角となっている前方車両に重ねて、死角領域の透過画像が映し出され、運転者には、あたかも前方車両を透かしての向こう側の景色が視認できるように認識される。 If it is determined in step S403 that there is no updatable image, the display of the marker P and the image is turned off, and neither is displayed (step S417). If it is determined in step S405 that the driver is not focused on the marker P, the image display is turned off (step S419), and only the marker P is displayed on the windshield 140. The normal image conversion image displayed as described above includes a blind spot area obstructed by the preceding vehicle located in the driver's field of view, and this image is displayed on the windshield 140 in an overlapping manner. For this reason, a transmission image of the blind spot area is displayed on the front vehicle that is in the blind spot, and the driver recognizes the scenery as if it is visible through the front vehicle.

以上のとおり、正像変換画像表示処理(ステップS133)が終了すると、次に、合成データ記憶部18に記憶されている位置データ、画像データ、車両データ、カメラ設定データは、送信バッファ191に格納される(ステップS135)。また、ステップS113で、データ受信が不可能と判断された場合には、ステップS111で視点変換処理された画像データの正像変換処理を行う(ステップS139)。そして、正像変換画像をワークメモリとして機能するRAM123に格納する(ステップS141)。 As described above, when the normal image converted image display process (step S133) is completed, the position data, image data, vehicle data, and camera setting data stored in the composite data storage unit 18 are stored in the transmission buffer 191. (Step S135). If it is determined in step S113 that data cannot be received, normal image conversion processing is performed on the image data subjected to viewpoint conversion processing in step S111 (step S139). Then, the normal image converted image is stored in the RAM 123 functioning as a work memory (step S141).

次に、表示装置用メモリに格納された画像を表示するための正像変換画像表示処理を行う(ステップS143)。この処理の内容は、ステップS133の内容と同様であるので、説明を省略する。そして、自車両の位置データ、画像データ、自車両のカメラ設定データで構成される自車データを送信バッファ191に格納する(ステップS145)。 Next, a normal image conversion image display process for displaying an image stored in the display device memory is performed (step S143). Since the content of this process is the same as the content of step S133, description thereof is omitted. Then, the host vehicle data including the position data of the host vehicle, the image data, and the camera setting data of the host vehicle is stored in the transmission buffer 191 (step S145).

そして、送信バッファ191に格納されたデータは、データ通信装置19により後方車両へデータ送信される(ステップS137)。このように、合成された画像を後方車両に送信することをもって、本発明の後方送信手段とする。送信されたデータは、自車両の後続車に受信され、後続車の受信データとして処理される。 The data stored in the transmission buffer 191 is transmitted to the rear vehicle by the data communication device 19 (step S137). Thus, it is set as the back transmission means of this invention by transmitting the synthesized image to the rear vehicle. The transmitted data is received by the succeeding vehicle of the host vehicle and processed as received data of the following vehicle.

以上説明した画像処理装置では、前方車両に隠れた死角領域がフロントガラスに映し出されるため、運転者は、死角領域(信号や標識、歩行者の状況、渋滞状況等)の把握が容易となる。また、フロントガラスに画像が映し出されるので、視点移動をする必要がなく、運転者は、前方を見ながら、同時に画像の内容を把握することができ、より安全な運転操作をすることができる。 In the image processing apparatus described above, the blind spot area hidden behind the vehicle ahead is displayed on the windshield, so that the driver can easily understand the blind spot area (signals, signs, pedestrian situation, traffic jam situation, etc.). Further, since the image is displayed on the windshield, it is not necessary to move the viewpoint, and the driver can grasp the contents of the image at the same time while looking forward, and can perform a safer driving operation.

次に他の実施形態として、図10に示されているように、フロントガラス140に複数種のマーカPa、Pb、Pcを表示し、異なる画像情報を表示する構成とすることができる。例えば、色又は形状の異なる可視光マーカと、各可視光マーカ毎に形状の異なる不可視光マーカを配置し、それぞれのマーカに焦点を合わせることによって、各マーカに対応した、異なる情報が表示される構成とすることができる。表示される情報としては、文字情報、ナビゲーションシステムの地図情報、燃料計等の車両情報などが挙げられる。また、車両の位置情報が取得できるので、自車位置から一定の距離内に位置する店舗の情報を表示する構成としてもよい。このほか、道路工事情報など、日程や時間で情報の内容が変わる場合には、日程や時間に応じて表示内容を変更することができる。不可視光マーカの識別は、形状の他、点滅の間隔を違える(周波数を変更する)ことによって行うこともできる。 Next, as another embodiment, as shown in FIG. 10, a plurality of types of markers Pa, Pb, and Pc may be displayed on the windshield 140 to display different image information. For example, by arranging a visible light marker having a different color or shape and an invisible light marker having a different shape for each visible light marker and focusing each marker, different information corresponding to each marker is displayed. It can be configured. Examples of the information to be displayed include character information, navigation system map information, and vehicle information such as a fuel gauge. Moreover, since the position information of the vehicle can be acquired, the information on the stores located within a certain distance from the own vehicle position may be displayed. In addition, when the content of information such as road construction information changes according to the schedule and time, the display content can be changed according to the schedule and time. The invisible light marker can be identified by changing the blinking interval (changing the frequency) in addition to the shape.

さらに、マーカの位置は、使用者側で任意に設定する構成とすることができる。また、マーカ表示位置と、画像情報を表示する位置を分け、マーカに焦点を合わせることによって、表示のオン/オフを切り替える構成とすることもできる。 Further, the position of the marker can be arbitrarily set on the user side. Alternatively, the display can be switched on / off by dividing the marker display position and the position where the image information is displayed and focusing on the marker.

以上のように作用する本発明の車載画像表示装置では、全ての車に搭載されるカメラの設置高さを、最も車高の低い普通車のカメラの設置高さに合わせる構成とすることができる。この場合には、視点変換処理に対する装置の負担が軽減されるので、画像処理時間が短縮できる。また、実際の画像と変換画像との差も少なくなる。 In the vehicle-mounted image display device of the present invention that operates as described above, the installation height of the camera mounted on all the vehicles can be configured to match the installation height of the camera of the ordinary vehicle with the lowest vehicle height. . In this case, since the burden on the apparatus for the viewpoint conversion process is reduced, the image processing time can be shortened. Also, the difference between the actual image and the converted image is reduced.

また、大型車両に取り付けるカメラは、車体の上部に取り付けた構成とすることもできる。この場合には、遠くまで見通した画像を得ることができる。さらに、バスやトラックのフロントガラスの内側に取り付けてもよい。この場合には、取り付けが容易となり、また、車内に設置されているために、外部からの衝撃や風雨にさらされることがないので、故障の発生を抑制できる。 Moreover, the camera attached to a large vehicle can also be set as the structure attached to the upper part of the vehicle body. In this case, an image viewed from far can be obtained. Furthermore, you may attach inside the windshield of a bus | bath or a truck. In this case, it is easy to mount, and since it is installed in the vehicle, it is not exposed to external impacts or wind and rain, so that the occurrence of failure can be suppressed.

図11は、複数車線の道路を走行している状態で、後方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。各車両21a、21b、21cは、それぞれ独自に前方車両22から送信されるデータを受信し、画像処理を行い、前方車両22を輪郭線に置き換え、合成画像に重ね合わせて表示する。 FIG. 11 is a plan view of a road showing a state where a plurality of rear vehicles are arranged in a horizontal row in a state where the vehicle is traveling on a road having a plurality of lanes. Each of the vehicles 21a, 21b, and 21c individually receives data transmitted from the preceding vehicle 22, performs image processing, replaces the preceding vehicle 22 with a contour line, and displays the superimposed image on the composite image.

図12は、複数車線の道路を走行している状態で、前方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。この場合、後方の自車両21は、前方車両22a、22b、22cからデータを受信した順に画像処理を行う。また、各車両毎に識別信号を付し、受信された信号によって前方車両を識別できるように構成すれば、直前に位置する前方車両22aの処理を優先して行う構成とすることもできる。 FIG. 12 is a plan view of a road showing a state in which a plurality of front vehicles are arranged in a horizontal row in a state where the vehicle is traveling on a road having a plurality of lanes. In this case, the rear vehicle 21 performs image processing in the order in which data is received from the front vehicles 22a, 22b, and 22c. Further, if an identification signal is attached to each vehicle and the vehicle ahead can be identified by the received signal, the processing of the vehicle 22a positioned immediately before can be preferentially performed.

図13は、対向車線を走行する車両がある場合の道路の平面図である。この場合には、送信データが、対向車線を走行する車両に拾われることのないように、送信データに車両に対するカメラの撮影方向や、走行方向についてのデータも加える。そして、受信する側は、走行方向と同じ方向のデータのみ受信する構成とすることにより、対向車線の車両側の画像処理を防止できる。 FIG. 13 is a plan view of a road when there is a vehicle traveling in the oncoming lane. In this case, data about the shooting direction of the camera with respect to the vehicle and the traveling direction are also added to the transmission data so that the transmission data is not picked up by the vehicle traveling in the oncoming lane. The receiving side is configured to receive only data in the same direction as the traveling direction, thereby preventing image processing on the vehicle side of the oncoming lane.

図14は、渋滞している状態を示す道路の平面図である。前方車両22の前にも、車両23が存在し、連続して車両24が存在する場合、先頭車両24から送信したデータを次の車両23で受信し、合成処理、輪郭線付与処理を行った後、更に後方車両22に送信するというプロセスを繰り返すことで、最後方の車両21も、最前車両の画像を取得することができる。特に渋滞の場合に、前方の情況を把握するのに有益である。ここで、前方のつながっている車両が処理した全ての輪郭線を表示すると、後方の車両では輪郭線過多になり、十分な情報を表示画像から得られない恐れがある。そこで、車両毎に輪郭線の色を変更し、或いは、直前の車両の輪郭線のみを表示する構成とすることができる。 FIG. 14 is a plan view of a road showing a congested state. When there is a vehicle 23 in front of the preceding vehicle 22 and there are vehicles 24 in succession, the data transmitted from the leading vehicle 24 is received by the next vehicle 23, and the synthesis process and the contouring process are performed. Later, by repeating the process of transmitting to the rear vehicle 22, the rearmost vehicle 21 can also acquire the image of the foremost vehicle. This is especially useful for grasping the situation ahead in the case of traffic jams. Here, if all the contour lines processed by the vehicle connected in front are displayed, the contour line is excessive in the rear vehicle, and there is a possibility that sufficient information cannot be obtained from the display image. Accordingly, the color of the contour line can be changed for each vehicle, or only the contour line of the immediately preceding vehicle can be displayed.

本明細書は以下の内容を開示する。
自車両の進行方向の画像を取得する撮像手段と、
自車の前方に存在する車両が取得した画像を、前記前方車両から受信する前方車両画像受信装置と、
該前方車両画像受信手段により受信した画像に、前記撮像手段により取得した画像を重畳させ、前方車両を透過した画像を生成する画像生成手段と、
前記画像生成手段で生成された画像をフロントガラスに表示する画像表示手段とを備えることを特徴とする車載画像表示装置。
このような発明によれば、前方車両の画像に重ねて透過画像が表示されるので、死角領域の把握が一層容易となる。
This specification discloses the following contents.
Imaging means for acquiring an image of the traveling direction of the host vehicle;
A forward vehicle image receiving device for receiving an image acquired by a vehicle in front of the host vehicle from the forward vehicle;
Image generating means for superimposing the image acquired by the imaging means on the image received by the forward vehicle image receiving means, and generating an image transmitted through the forward vehicle;
An in-vehicle image display device comprising: an image display unit that displays an image generated by the image generation unit on a windshield.
According to such an invention, the transmission image is displayed so as to be superimposed on the image of the vehicle ahead, so that it is easier to grasp the blind spot area.

本発明の画像処理装置の構成を示すブロック図である。It is a block diagram which shows the structure of the image processing apparatus of this invention. ヘッドアップディスプレイの構成を示す模式図である。It is a schematic diagram which shows the structure of a head-up display. フロントガラスに表示されたマーカの構成を示す平面図である。It is a top view which shows the structure of the marker displayed on the windshield. 本発明の画像処理装置を搭載した2つの車両の側面図である。It is a side view of two vehicles carrying the image processing device of the present invention. 本発明の画像処理装置の作用を示すフローチャートである。It is a flowchart which shows the effect | action of the image processing apparatus of this invention. 本発明の画像処理装置の作用を示すフローチャートである。It is a flowchart which shows the effect | action of the image processing apparatus of this invention. 本発明の画像処理装置の作用を示すフローチャートである。It is a flowchart which shows the effect | action of the image processing apparatus of this invention. 本発明の画像処理装置の作用を示すフローチャートである。It is a flowchart which shows the effect | action of the image processing apparatus of this invention. 画像処理の手順を示す流れ図である。It is a flowchart which shows the procedure of an image process. フロントガラスに表示されるマーカの他の構成例を示す平面図である。It is a top view which shows the other structural example of the marker displayed on a windshield. 複数車線の道路を走行している状態で、後方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。It is a top view of the road which shows a state when a plurality of back vehicles are located in a line in the state where it is running on a road of multiple lanes. 複数車線の道路を走行している状態で、前方車両が、横一列に複数台並んだ場合の状態を示す道路の平面図である。It is a top view of the road which shows the state when the vehicle ahead is located in the horizontal line in the state which is drive | working the road of multiple lanes. 対向車線を走行する車両がある場合の道路の平面図である。It is a top view of the road when there is a vehicle traveling in the oncoming lane. 渋滞している状態を示す道路の平面図である。It is a top view of the road which shows the state which is congested.

符号の説明Explanation of symbols

1 画像処理装置
10 記憶装置
12 演算処理装置
13 カメラ
14a ヘッドアップディスプレイ
14b 眼球撮影用カメラ
15 現在位置検出装置
16 自車データ記憶部
17 受信データ記憶部
18 合成データ記憶部
19 データ通信装置
21 自車両
22 前方車両
DESCRIPTION OF SYMBOLS 1 Image processing apparatus 10 Storage apparatus 12 Arithmetic processing apparatus 13 Camera 14a Head-up display 14b Camera for eyeball 15 Current position detection apparatus 16 Own vehicle data storage part 17 Received data storage part 18 Composite data storage part 19 Data communication apparatus 21 Own vehicle 22 Vehicle ahead

Claims (5)

自車の前方に存在する車両が取得した画像を、前記前方車両から受信する前方車両画像受信装置と、
該前方車両画像受信装置により受信した画像を、該画像のカメラ視点を運転者の視点位置とした場合の画像に変換する画像変換手段と、
該画像変換手段で生成された画像を表示する画像表示手段とを備えることを特徴とする車載画像表示装置。
A forward vehicle image receiving device for receiving an image acquired by a vehicle in front of the host vehicle from the forward vehicle;
Image conversion means for converting the image received by the front vehicle image receiving device into an image when the camera viewpoint of the image is the driver's viewpoint position;
An in-vehicle image display device comprising image display means for displaying an image generated by the image conversion means.
運転者の視点位置を検出する検出手段とを備え
前記画像変換手段は、前記検出手段により検出された運転者の視点位置とした場合の画像に変換する請求項1に記載の車載画像表示装置。
2. The in-vehicle image display device according to claim 1, further comprising: a detecting unit that detects a viewpoint position of the driver, wherein the image converting unit converts the image into a driver's viewpoint position detected by the detecting unit.
前記画像変換手段で変換された画像が存在する場合、可視光、不可視光とによって構成されたマーカを投影するマーカ投影手段と、
該マーカ投影手段により投影されたマーカを、運転者が視覚的に認識しているか否かを判断する判断手段と、を備え、
前記画像表示手段は、前記判断手段により運転者がマーカを認識していると判断した場合、前記変換された画像を表示することを特徴とする請求項1又は2に記載の車載画像表示装置。
Marker projection means for projecting a marker constituted by visible light and invisible light when an image converted by the image conversion means exists;
Judgment means for judging whether or not the driver visually recognizes the marker projected by the marker projection means,
The in-vehicle image display device according to claim 1, wherein the image display unit displays the converted image when the determination unit determines that the driver recognizes the marker.
前記判断手段は、マーカの不可視光と運転者の眼球との関連性から判断することを特徴とする請求項3に記載の車載画像表示装置。 The in-vehicle image display apparatus according to claim 3, wherein the determination unit determines from the relationship between the invisible light of the marker and the eyeball of the driver. 前記画像変換手段により変換された画像を、後方車両に送信する後方送信手段を備えることを特徴とする請求項2から4のいずれか1に記載の車載画像表示装置。 5. The vehicle-mounted image display device according to claim 2, further comprising a rear transmission unit configured to transmit an image converted by the image conversion unit to a rear vehicle.
JP2007262977A 2007-10-09 2007-10-09 In-vehicle image display device Expired - Fee Related JP4702348B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007262977A JP4702348B2 (en) 2007-10-09 2007-10-09 In-vehicle image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007262977A JP4702348B2 (en) 2007-10-09 2007-10-09 In-vehicle image display device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2002276414A Division JP4103518B2 (en) 2002-09-20 2002-09-20 In-vehicle image display device

Publications (2)

Publication Number Publication Date
JP2008044612A true JP2008044612A (en) 2008-02-28
JP4702348B2 JP4702348B2 (en) 2011-06-15

Family

ID=39178735

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007262977A Expired - Fee Related JP4702348B2 (en) 2007-10-09 2007-10-09 In-vehicle image display device

Country Status (1)

Country Link
JP (1) JP4702348B2 (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010156929A (en) * 2009-01-05 2010-07-15 Toshiba Corp Display device
JP2010267052A (en) * 2009-05-14 2010-11-25 Denso Corp On-vehicle display device
JP2011196787A (en) * 2010-03-18 2011-10-06 Toshiba Corp Video processing apparatus, video processing method and video imaging apparatus
WO2011135778A1 (en) * 2010-04-26 2011-11-03 パナソニック株式会社 Image processing device, car navigation system, and on-street camera system
JP4909451B1 (en) * 2011-03-28 2012-04-04 パイオニア株式会社 Information display apparatus and control method
WO2013111491A1 (en) * 2012-01-26 2013-08-01 日産自動車株式会社 Monitoring system
KR20140030697A (en) * 2012-09-03 2014-03-12 현대모비스 주식회사 Front video providing method and display apparatus
DE102015007491A1 (en) * 2015-06-11 2016-12-15 Audi Ag Method for operating a driver information system of a motor vehicle and motor vehicle
KR20170049252A (en) * 2015-10-28 2017-05-10 현대자동차주식회사 Method for providing image of camera of vehicle
KR101856254B1 (en) * 2012-12-07 2018-05-09 현대자동차주식회사 Method of sharing video stream and apparatus for using the same
JP2018074315A (en) * 2016-10-27 2018-05-10 学校法人立命館 Image display system, image display method, and computer program
JP2019036100A (en) * 2017-08-14 2019-03-07 株式会社デンソー Driving support device
JP2021535507A (en) * 2018-08-30 2021-12-16 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance Conditional availability of mixed reality of vehicles

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102707598B1 (en) 2018-12-04 2024-09-19 삼성전자주식회사 Calibration method for 3d augmented reality and apparatus thereof

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH079886A (en) * 1993-06-29 1995-01-13 Hitachi Ltd Drive information device for vehicle
JPH11195196A (en) * 1997-12-26 1999-07-21 Toyota Motor Corp On-vehicle information providing device
JP2000211452A (en) * 1999-01-20 2000-08-02 Toyota Motor Corp Travel path shape display device and map data base recording medium
JP2002367080A (en) * 2001-06-12 2002-12-20 Clarion Co Ltd Method and device for visual support for vehicle

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH079886A (en) * 1993-06-29 1995-01-13 Hitachi Ltd Drive information device for vehicle
JPH11195196A (en) * 1997-12-26 1999-07-21 Toyota Motor Corp On-vehicle information providing device
JP2000211452A (en) * 1999-01-20 2000-08-02 Toyota Motor Corp Travel path shape display device and map data base recording medium
JP2002367080A (en) * 2001-06-12 2002-12-20 Clarion Co Ltd Method and device for visual support for vehicle

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010156929A (en) * 2009-01-05 2010-07-15 Toshiba Corp Display device
JP2010267052A (en) * 2009-05-14 2010-11-25 Denso Corp On-vehicle display device
JP2011196787A (en) * 2010-03-18 2011-10-06 Toshiba Corp Video processing apparatus, video processing method and video imaging apparatus
WO2011135778A1 (en) * 2010-04-26 2011-11-03 パナソニック株式会社 Image processing device, car navigation system, and on-street camera system
JP4909451B1 (en) * 2011-03-28 2012-04-04 パイオニア株式会社 Information display apparatus and control method
WO2013111491A1 (en) * 2012-01-26 2013-08-01 日産自動車株式会社 Monitoring system
KR102020624B1 (en) * 2012-09-03 2019-09-10 현대모비스 주식회사 Front Video Providing Method and Display Apparatus
KR20140030697A (en) * 2012-09-03 2014-03-12 현대모비스 주식회사 Front video providing method and display apparatus
KR101856254B1 (en) * 2012-12-07 2018-05-09 현대자동차주식회사 Method of sharing video stream and apparatus for using the same
DE102015007491A1 (en) * 2015-06-11 2016-12-15 Audi Ag Method for operating a driver information system of a motor vehicle and motor vehicle
KR20170049252A (en) * 2015-10-28 2017-05-10 현대자동차주식회사 Method for providing image of camera of vehicle
KR102200522B1 (en) 2015-10-28 2021-01-11 현대자동차주식회사 Method for providing image of camera of vehicle
JP2018074315A (en) * 2016-10-27 2018-05-10 学校法人立命館 Image display system, image display method, and computer program
JP2019036100A (en) * 2017-08-14 2019-03-07 株式会社デンソー Driving support device
JP2021535507A (en) * 2018-08-30 2021-12-16 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance Conditional availability of mixed reality of vehicles
JP7229336B2 (en) 2018-08-30 2023-02-27 ヴァレオ、コンフォート、アンド、ドライビング、アシスタンス Conditional Availability of Vehicle Mixed Reality

Also Published As

Publication number Publication date
JP4702348B2 (en) 2011-06-15

Similar Documents

Publication Publication Date Title
JP4702348B2 (en) In-vehicle image display device
JP4103518B2 (en) In-vehicle image display device
JP6354776B2 (en) Vehicle control device
JP3972722B2 (en) In-vehicle image processing device
JP6272375B2 (en) Display control device for vehicle
JP4791262B2 (en) Driving assistance device
JP6459205B2 (en) Vehicle display system
JP6460058B2 (en) Vehicle control device
JP6259482B2 (en) Display control device for vehicle
JP5723106B2 (en) Vehicle display device and vehicle display method
JP6460019B2 (en) Vehicle control device
JP2018092291A (en) Vehicle display device
JP2017185946A (en) Vehicular automatic drive system
JP5600256B2 (en) Information display device
JP6504431B2 (en) IMAGE DISPLAY DEVICE, MOBILE OBJECT, IMAGE DISPLAY METHOD, AND PROGRAM
JP2008222153A (en) Merging support device
JP6720732B2 (en) Vehicle control device
JP2024103486A (en) Vehicle display control device and vehicle display apparatus
JP5223289B2 (en) Visual information presentation device and visual information presentation method
JP2009214831A (en) Display for vehicle
JP2017199205A (en) Vehicular control apparatus
JP5289920B2 (en) Vehicle alarm device
JP6701913B2 (en) Vehicle control device
JP6658358B2 (en) Vehicle control device
JP5251673B2 (en) Vehicle display device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110221

R150 Certificate of patent or registration of utility model

Ref document number: 4702348

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees