[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4893593B2 - Vehicle driving support device - Google Patents

Vehicle driving support device Download PDF

Info

Publication number
JP4893593B2
JP4893593B2 JP2007294028A JP2007294028A JP4893593B2 JP 4893593 B2 JP4893593 B2 JP 4893593B2 JP 2007294028 A JP2007294028 A JP 2007294028A JP 2007294028 A JP2007294028 A JP 2007294028A JP 4893593 B2 JP4893593 B2 JP 4893593B2
Authority
JP
Japan
Prior art keywords
obstacle
driver
driving support
vehicle
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007294028A
Other languages
Japanese (ja)
Other versions
JP2009122808A (en
Inventor
孝則 久米
治久 是
悟 松岡
耕二 岩瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mazda Motor Corp
Original Assignee
Mazda Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mazda Motor Corp filed Critical Mazda Motor Corp
Priority to JP2007294028A priority Critical patent/JP4893593B2/en
Publication of JP2009122808A publication Critical patent/JP2009122808A/en
Application granted granted Critical
Publication of JP4893593B2 publication Critical patent/JP4893593B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Description

この発明は、車両用運転支援装置に関し、特に、運転者に障害物との衝突を回避させるため障害物の存在を運転者に報知させる車両用運転支援装置に関する。   The present invention relates to a vehicle driving support device, and more particularly to a vehicle driving support device that informs a driver of the presence of an obstacle so that the driver can avoid a collision with the obstacle.

従来より、車両用運転支援装置として、車両前方に障害物がある場合に所定距離まで近づいた際に、警報等を行い、運転者に注意を促すように構成したものが知られている。   2. Description of the Related Art Conventionally, there has been known a vehicle driving support device that is configured to issue an alarm or the like to call a driver's attention when approaching a predetermined distance when there is an obstacle in front of the vehicle.

そして、近年では、このようなシステムにおいて予め複数のモデル画像を用意しておき、このモデル画像と、車載カメラ等で撮影した画像とを比較する所謂パターンマッチング処理を実行することにより、障害物を検出するようにしているものがある(特許文献1参照)。   In recent years, a plurality of model images are prepared in advance in such a system, and a so-called pattern matching process for comparing the model image with an image photographed by an in-vehicle camera or the like is executed, whereby an obstacle is detected. Some are detected (see Patent Document 1).

特開2007−58805号公報JP 2007-58805 A

しかしながら、このような方法において障害物を検出する場合、様々な走行環境に応じて種々の障害物のパターンを事前に全て想定し、これを車載制御装置内のデータベースに蓄積しておくことは極めて困難である。   However, when detecting an obstacle in such a method, it is extremely presumed that various obstacle patterns are preliminarily assumed in accordance with various traveling environments and stored in a database in the in-vehicle control device. Have difficulty.

従って、予め用意されたモデル画像のれにも当てはまらない障害物が現れる可能性もあり、こういった事情から障害物の認識精度を向上させることができないという問題がある。 Therefore, there is a possibility that something Re in does not fit obstacle previously prepared model image appears, it is impossible to improve the recognition accuracy of the obstacle from these circumstances or.

この発明は、パターンマッチング処理に使用されるパターンマッチング用のデータベースの充実を図り、ひいては障害物の認識精度向上を実現させることができる車両用運転支援装置を提供することを目的とする。   SUMMARY OF THE INVENTION An object of the present invention is to provide a vehicle driving support device capable of enhancing a database for pattern matching used for pattern matching processing and thereby realizing improvement in obstacle recognition accuracy.

この発明の車両用運転支援装置は、障害物の存在を運転者に報知させる車両用運転支援装置であって、障害物を、記憶されているパターンマッチング用データと比較することで検出し、運転者の視線を上記障害物方向へ向けるように報知する障害物報知手段と、運転者の視線または顔向きを検出する視線方向検出手段と、上記障害物報知手段により報知の対象とされた障害物の方向と、上記運転者の視線方向とが一致していない頻度を示す不一致頻度、または不一致継続時間に基づいて視線方向の不一致レベルを検出する不一致レベル検出手段と、視線方向の不一致レベルが所定値以上である時、上記運転者の視線方向の障害物を推定する推定手段と、推定された上記障害物を新たなパターンマッチング用データとして追加記憶する記憶手段とを備えるものである。 The vehicle driving support device of the present invention is a vehicle driving support device that informs the driver of the presence of an obstacle, and detects the obstacle by comparing it with stored pattern matching data. Obstacle notifying means for informing the driver's line of sight toward the obstacle direction, gaze direction detecting means for detecting the driver's line of sight or face direction, and the obstacle targeted for notification by the obstacle notifying means And a mismatch level detecting means for detecting a mismatch level of the line of sight based on a mismatch frequency indicating a frequency at which the driver's line of sight does not match, or a mismatch duration, and a level of mismatch of the line of sight is predetermined. when it is less than the value storage means for adding storage and estimation means for estimating the driver's line of sight direction of the obstacle, the estimated the obstacle as a new pattern matching data It is those with a.

この構成によれば、報知の対象とされた障害物の方向と、運転者の視線方向との不一致レベルが所定値以上である時、運転者の視線方向の障害物を推定し、この推定された障害物を新たなパターンマッチング用データとして追加記憶するようにしたため、パターンマッチング用データの蓄積によってデータベースの充実を図ることができ、ひいては障害物認識精度を向上させることができる。
なお、本発明において、「不一致頻度」とは、単位時間当たりに視線方向の不一致が生じた回数を意味する。
According to this configuration, when the disagreement level between the direction of the obstacle to be notified and the driver's line-of-sight direction is equal to or higher than a predetermined value, the obstacle in the driver's line-of-sight direction is estimated, and the estimated Since the obstacle is additionally stored as new pattern matching data, the database can be enhanced by accumulating the pattern matching data, and the obstacle recognition accuracy can be improved.
In the present invention, the “mismatch frequency” means the number of times that the sight line direction mismatch occurs per unit time.

この発明の一実施態様においては、車両周辺を撮影する撮像手段と、上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段と、追加記憶の要否を運転者に判定させる手段とを備え、上記追加記憶に関する処理を、上記判定の結果に基づいて実行するものである。   In one embodiment of the present invention, an imaging means for photographing the periphery of the vehicle, a means for presenting a photographed image photographed when the discrepancy level is equal to or greater than a predetermined value, and whether additional storage is necessary or not to the driver. Means for determining, and performs the processing related to the additional storage based on the result of the determination.

この構成によれば、運転者にとって必要と思われるパターンマッチング用データのみを記憶させることができ、これにより障害物認識の精度を向上させることができる。   According to this configuration, it is possible to store only pattern matching data that is considered necessary for the driver, thereby improving the accuracy of obstacle recognition.

この発明の一実施態様においては、車両周辺を撮影する撮像手段と、上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段とを備え、上記追加記憶時には、運転者に提示した撮影画像に含まれる視線方向の障害物画像とともに、該障害物の危険度判定結果が併せて記憶されるものである。   In one embodiment of the present invention, the image processing apparatus includes an imaging unit that captures the periphery of the vehicle, and a unit that presents a captured image captured when the mismatch level is equal to or greater than a predetermined value to the driver. In addition to the obstacle image in the line-of-sight direction included in the captured image presented in Fig. 1, the risk determination result of the obstacle is also stored.

この構成によれば、パターンマッチング時に危険度を併せて判定することが可能になるため、障害物の認識精度を向上させることができ、危険度に応じた報知が可能になる。   According to this configuration, since it is possible to determine the degree of danger at the time of pattern matching, the recognition accuracy of the obstacle can be improved, and notification according to the degree of danger becomes possible.

この発明の一実施態様においては、上記危険度の判定が、運転者によりなされるものである。   In one embodiment of the present invention, the risk is determined by the driver.

この構成によれば、危険度をより正確に認識させることが可能になり、これによって障害物の認識精度をより向上させることができる。   According to this configuration, it is possible to recognize the degree of danger more accurately, thereby improving the recognition accuracy of the obstacle.

この発明の一実施態様においては、車両周辺を撮影する撮像手段と、上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段とを備え、上記追加記憶時には、運転者に提示した撮影画像に含まれる視線方向の障害物画像とともに、該障害物の種別判定結果が併せて記憶されるものである。   In one embodiment of the present invention, the image processing apparatus includes an imaging unit that captures the periphery of the vehicle, and a unit that presents a captured image captured when the mismatch level is equal to or greater than a predetermined value to the driver. The obstacle type determination result of the obstacle is stored together with the obstacle image in the line-of-sight direction included in the captured image presented in FIG.

この構成によれば、種別の特徴に応じた障害物認識が可能になり、その認識精度の向上を図ることができる。   According to this configuration, obstacle recognition according to the characteristics of the type can be performed, and the recognition accuracy can be improved.

この発明の一実施態様においては、上記種別の判定が、運転者によりなされるものである。   In one embodiment of the present invention, the determination of the type is made by the driver.

この構成によれば、種別をより正確に認識させることが可能になり、これによって障害物の認識精度をより向上させることができる。   According to this structure, it becomes possible to recognize a classification more correctly, and this can improve the recognition accuracy of an obstruction more.

この発明の一実施態様においては、上記運転者への画像提示が、上記不一致レベルが所定値以上となった後の最初の車両停止時に実行されるものである。   In an embodiment of the present invention, the image presentation to the driver is executed when the vehicle stops for the first time after the mismatch level becomes a predetermined value or more.

この構成によれば、車両運転中における表示内容の確認を確実に回避し、運転時の安全を確保することができる。さらに、運転者が障害物の存在を忘れないうちに、追加記憶に関する処理を実行することができる。   According to this configuration, it is possible to reliably avoid the confirmation of the display contents during driving of the vehicle and ensure safety during driving. Furthermore, before the driver forgets the presence of the obstacle, the process related to the additional storage can be executed.

この発明の一実施態様においては、上記追加記憶時に、上記不一致レベルが所定値以上となった時の車両走行環境が併せて記憶され、上記パターンマッチング用データの読み出し時、該データが走行環境に応じて読み出されるものである。   In one embodiment of the present invention, at the time of the additional storage, a vehicle driving environment when the mismatch level becomes a predetermined value or more is also stored, and when the pattern matching data is read, the data is stored in the driving environment. It is read out accordingly.

この構成によれば、走行環境の変化に応じて認識に使用するパターンマッチング用データを読み出すことにより、障害物認識をきめ細かく行うことが可能になり、これによって障害物認識精度を向上させることができる。   According to this configuration, it is possible to finely perform obstacle recognition by reading pattern matching data used for recognition according to changes in the driving environment, thereby improving obstacle recognition accuracy. .

この発明によれば、報知の対象とされた障害物の方向と運転者の視線方向との不一致レベルが所定値以上である時、運転者の視線方向の障害物を推定し、この推定された障害物を新たなパターンマッチング用データとして追加記憶するようにしたため、パターンマッチング用データの蓄積によってデータベースの充実を図ることができ、ひいては障害物認識精度を向上させることができる。 According to the present invention, when the mismatch level between the direction of the obstacle to be notified and the driver's line-of-sight direction is equal to or greater than a predetermined value, the obstacle in the driver's line-of-sight direction is estimated, and the estimated Since the obstacle is additionally stored as new pattern matching data, it is possible to enhance the database by accumulating the pattern matching data, thereby improving the obstacle recognition accuracy.

以下、図面に基づいて本発明の実施形態を詳述する。
図1は本発明の実施形態に係る車両用運転支援装置を採用した自動車の概略模式図、図2は車両用運転支援装置のシステムブロック図、図3は障害物の方向と運転者の視線方向とを比較する方法を説明するための説明図、図4は運転者の視線方向の障害物画像を抽出する方法を説明するフローチャート、図5は運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する方法を説明するフローチャート、図6は、運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する際の表示例を示す図である。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is a schematic diagram of an automobile employing a vehicle driving support apparatus according to an embodiment of the present invention, FIG. 2 is a system block diagram of the vehicle driving support apparatus, and FIG. 3 is an obstacle direction and a driver's line-of-sight direction. FIG. 4 is a flowchart for explaining a method for extracting an obstacle image in the driver's line-of-sight direction, and FIG. 5 is a diagram for pattern-matching the obstacle image in the driver's line-of-sight direction. FIG. 6 is a flowchart illustrating a method of additionally storing data as data, and FIG. 6 is a diagram illustrating a display example when additionally storing an obstacle image in the line of sight of the driver as pattern matching data.

図1に示すように、自動車1には複数のセンサ装置を設置しており、車両速度を検出する車速センサ2と、車両前方の障害物を検出する障害物検出用カメラ3と、走行環境を検出する環境検出センサとしての雨滴センサ4と、運転者の視線方向を検出する視線検出センサ5とを備えている。   As shown in FIG. 1, a plurality of sensor devices are installed in an automobile 1, a vehicle speed sensor 2 that detects a vehicle speed, an obstacle detection camera 3 that detects an obstacle ahead of the vehicle, and a traveling environment. A raindrop sensor 4 as an environment detection sensor to detect and a line-of-sight detection sensor 5 for detecting the driver's line-of-sight direction are provided.

障害物検出用カメラ3は、車室前部のサンバイザー(不図示)近傍に備えられた公知のステレオカメラであり、自動車1の周辺(特に前方)を撮像し、その結果得られたステレオ画像データの中から、接触を避けるべき他車両や歩行者等の障害物を抽出・特定するものである。   The obstacle detection camera 3 is a known stereo camera provided in the vicinity of a sun visor (not shown) in the front of the passenger compartment, and picks up the periphery (particularly in front) of the automobile 1 and obtains a stereo image obtained as a result. This is to extract and specify obstacles such as other vehicles and pedestrians that should avoid contact from the data.

また、自動車1は運転者への情報表示手段として、ウインドウディスプレイアクチュエータ6と、確認表示・入力操作兼用ディスプレイ7(以下、ディスプレイ7と略記する)とを備えている。   The automobile 1 also includes a window display actuator 6 and a confirmation display / input operation combined display 7 (hereinafter abbreviated as a display 7) as information display means for the driver.

これらのセンサ(2、4、5)と、障害物検出用カメラ3と、情報表示手段(6、7)とは、図2のブロック図に示すように、CPU等からなる制御装置10にそれぞれ連結されており、各センサ(2、4、5)は各検出信号を制御装置10に送信し、障害物検出用カメラ3は、撮影したステレオ画像データを制御装置10に送信する。また、各情報表示手段(6、7)は、制御装置10から送信された作動信号で所定の作動を行うように構成している。   These sensors (2, 4, 5), the obstacle detection camera 3, and the information display means (6, 7) are respectively connected to a control device 10 comprising a CPU or the like as shown in the block diagram of FIG. Each sensor (2, 4, 5) transmits each detection signal to the control device 10, and the obstacle detection camera 3 transmits the captured stereo image data to the control device 10. Each information display means (6, 7) is configured to perform a predetermined operation in response to an operation signal transmitted from the control device 10.

車速センサ2は車両速度信号を制御装置10に送信しており、雨滴センサ4は自動車1に接触する雨滴の圧力に基づいて降雨の状態を検出し、その検出信号を制御装置10に送信している。   The vehicle speed sensor 2 transmits a vehicle speed signal to the control device 10, and the raindrop sensor 4 detects a rainfall state based on the pressure of the raindrop contacting the vehicle 1, and transmits the detection signal to the control device 10. Yes.

また、視線検出センサ5は、例えば、運転者の黒目の位置に基づいて視線を検出するものや、顔画像撮影カメラで運転者の顔を撮影することにより運転者の顔向きを検出し、そこから視線を検出するもので構成される。一般的に、前者はサンバイザー近傍に備えられ、後者はステアリングコラム(不図示)に備えられる。   The line-of-sight detection sensor 5 detects the driver's face direction by, for example, detecting the line of sight based on the position of the driver's black eye or photographing the driver's face with a face image capturing camera. From the line of sight. Generally, the former is provided near the sun visor, and the latter is provided in a steering column (not shown).

また、視線検出センサ5は、視線の検出結果に対応する検出信号を制御装置10に送信している。   The line-of-sight detection sensor 5 transmits a detection signal corresponding to the line-of-sight detection result to the control device 10.

また、ディスプレイ7は、運転者の操作により送信される操作信号を制御装置10へ送信可能としている。   Further, the display 7 can transmit an operation signal transmitted by a driver's operation to the control device 10.

また、制御装置10には、記憶装置8が連結されており、記憶装置8においては、後述する障害物画像データや付随データからなるパターンマッチング用データ等の各種データが制御装置10により書込み、読み出し可能とされている。   A storage device 8 is connected to the control device 10, and various data such as pattern matching data including obstacle image data and accompanying data described later are written and read by the control device 10. It is possible.

また、制御装置10は、障害物抽出処理部11、障害物方向検出処理部12、検出障害物表示処理部13を備えている。障害物抽出処理部11は、障害物検出用カメラ3からの画像データに基づいて自動車1の周辺(特に前方)に他車両、歩行者、二輪車等の障害物が存在することを検出する。   In addition, the control device 10 includes an obstacle extraction processing unit 11, an obstacle direction detection processing unit 12, and a detected obstacle display processing unit 13. The obstacle extraction processing unit 11 detects the presence of obstacles such as other vehicles, pedestrians, and two-wheeled vehicles around the automobile 1 (particularly in front) based on the image data from the obstacle detection camera 3.

また、本実施形態では、障害物方向検出処理部12が、障害物検出用カメラ3から得られる画像データに基づいて、自動車1の進行方向と、検出された障害物I1(図3参照)の方向との角度差θA、即ち、自動車1から見える障害物の方向が検出されるようになっている。   Further, in the present embodiment, the obstacle direction detection processing unit 12 is based on the image data obtained from the obstacle detection camera 3, and the traveling direction of the automobile 1 and the detected obstacle I1 (see FIG. 3). The angle difference θA from the direction, that is, the direction of the obstacle seen from the automobile 1 is detected.

また、障害物I1が検出された時には、運転者への警告を行うべく、検出障害物表示処理部13が作動する。この時、検出障害物表示処理部13は、ウインドウディスプレイアクチュエータ6に対して作動信号を送信し、ウインドウディスプレイアクチュエータ6は、この作動信号に基づいてフロントウインドウ9(図1参照)上に警告表示を行う。   In addition, when the obstacle I1 is detected, the detected obstacle display processing unit 13 is activated to give a warning to the driver. At this time, the detected obstacle display processing unit 13 transmits an operation signal to the window display actuator 6, and the window display actuator 6 displays a warning on the front window 9 (see FIG. 1) based on the operation signal. Do.

具体的には、ウインドウディスプレイアクチュエータ6が上記作動信号を受信すると、フロントウインドウ9に対して警告表示用の所定の光を照射するようになっている。例えば、車両前方に存在する障害物の像の周囲を囲むような枠状の光をフロントウインドウ9上に重ね合わせることで、運転者の視線を障害物のほうへ向けるようにしており、これによって障害物I1の存在を報知し、警告を行うようになっている。   Specifically, when the window display actuator 6 receives the operation signal, the front window 9 is irradiated with predetermined light for warning display. For example, a frame-like light surrounding the obstacle image existing in front of the vehicle is superimposed on the front window 9 so that the driver's line of sight is directed toward the obstacle. The presence of the obstacle I1 is notified and a warning is given.

ところで、本実施形態では、記憶装置8において、障害物の特徴(例えば、色、エッジ情報、輝度分布、縦横比、距離分布等)を反映したモデル画像(以下、パターンマッチング用データという)が複数パターン記憶されており、障害物抽出処理部11は、障害物検出用カメラ3により撮影された画像データと、上記パターンマッチング用データとを比較することにより、画像中の障害物を検出している。   By the way, in the present embodiment, in the storage device 8, a plurality of model images (hereinafter referred to as pattern matching data) reflecting obstacle characteristics (for example, color, edge information, luminance distribution, aspect ratio, distance distribution, etc.) are provided. The pattern is stored, and the obstacle extraction processing unit 11 detects the obstacle in the image by comparing the image data photographed by the obstacle detection camera 3 with the pattern matching data. .

さらに、本実施形態では、制御装置10に備えられた方向比較処理部14が、視線検出センサ5から送信される検出信号を運転者視線方向検出処理部15を介して受信している。方向比較処理部14は、視線検出センサ5により検出された運転者の視線方向と、障害物方向検出処理部12により検出され、報知の対象とされた障害物I1の方向とを比較するようになっている。   Further, in the present embodiment, the direction comparison processing unit 14 provided in the control device 10 receives the detection signal transmitted from the line-of-sight detection sensor 5 via the driver line-of-sight direction detection processing unit 15. The direction comparison processing unit 14 compares the driver's gaze direction detected by the gaze detection sensor 5 with the direction of the obstacle I1 detected by the obstacle direction detection processing unit 12 and targeted for notification. It has become.

そして、両者の比較により、方向のずれが所定以上であると判定された時、運転者の視線方向と障害物I1の方向との不一致により、運転者がよそ見をしていると判定するようになっている。そして、この視線方向の不一致レベルが、所定値を超えている時には、運転者の視線方向に存在する物体を障害物I2(図3参照)と推定し、これを新たなパターンマッチング用データとして追加記憶することができるようになっている。   Then, when it is determined by comparison between the two that the direction deviation is equal to or greater than a predetermined value, it is determined that the driver is looking away due to a mismatch between the driver's line-of-sight direction and the direction of the obstacle I1. It has become. When the inconsistency level in the line-of-sight direction exceeds a predetermined value, an object existing in the driver's line-of-sight direction is estimated as an obstacle I2 (see FIG. 3), and this is added as new pattern matching data. It can be memorized.

そこで、次に、制御装置10により実行される障害物画像抽出処理、およパターンマッチング用データ追加記憶処理について、さらに図4、図5のフローチャートを参照しながら説明する。 Accordingly, next, the obstacle image extraction processing executed by the control unit 10, and, for data addition memory processing pattern matching further 4 will be described with reference to the flowchart of FIG.

ず、ステップS1では、各種信号を読み込む。これらの信号は上述した各種センサ(2、4、5)、および障害物検出用カメラ3等から読み込む。
次に、ステップS2では、障害物抽出処理部11において、撮影された画像データと記憶装置8内のパターンマッチング用データとの比較による障害物認識処理が実行され、両者の一致度が所定値以上である時には、障害物が存在していると判定して(ステップS3:YES)、ステップS4に移行し、両者の一致度が所定値未満である時には、障害物が存在していないと判定して(ステップS3:NO)、ステップS2に戻る。
Also not a, in step S1, reads various signals. These signals various sensors described above (2,4,5), read from and obstacle detection camera 3 and the like.
Next, in step S2, the obstacle extraction processing unit 11 executes an obstacle recognition process by comparing the captured image data with the pattern matching data in the storage device 8, and the degree of coincidence between the two is greater than or equal to a predetermined value. When it is, it is determined that there is an obstacle (step S3: YES), the process proceeds to step S4, and when the degree of coincidence between both is less than a predetermined value, it is determined that there is no obstacle. (Step S3: NO), the process returns to step S2.

ステップS3において障害物が存在していると判定された時、次のステップS4では、検出障害物表示処理部13が、ウインドウディスプレイアクチュエータ6に対して作動信号を送信し、フロントウインドウ9(図1参照)上に警告表示を行う。 When it is determined in step S3 that an obstacle is present, in the next step S4, the detected obstacle display processing unit 13 transmits an operation signal to the window display actuator 6, and the front window 9 (FIG. 1) Display a warning above.

そして、ステップS5では、障害物方向検出処理部12により、自動車1から見える障害物I1の方向が算出され、ここでは、自動車1の進行方向と、検出された障害物I1の位置する方向との角度差θAが算出される。   In step S5, the direction of the obstacle I1 seen from the automobile 1 is calculated by the obstacle direction detection processing unit 12, and here, the traveling direction of the automobile 1 and the direction in which the detected obstacle I1 is located are calculated. An angle difference θA is calculated.

次に、ステップS6に移行し、視線検出センサ5により検出された運転者の視線方向に基づき、制御装置10に備えられた運転者視線方向検出処理部15が、自動車1の進行方向と、検出された運転者の視線方向との角度差θB(図3参照)を算出する。   Next, the process proceeds to step S <b> 6, and based on the driver's line-of-sight direction detected by the line-of-sight detection sensor 5, the driver's line-of-sight direction detection processing unit 15 provided in the control device 10 detects the traveling direction of the automobile 1 and the detected direction. An angle difference θB (see FIG. 3) with the driver's line-of-sight direction is calculated.

そして、ステップS7に移行し、上述したステップS5、S6にて算出された角度差θA、θBの算出結果に基づき、方向比較処理部14は、報知の対象とされた障害物I1の方向と、運転者の視線方向との間の相対的なずれを算出する。例えば、図3に示す場合であれば、自動車1の進行方向を見た時の左側を正の方向、右側を負の方向と定義し、上記両角度差の差の絶対値を算出する。図示の場合であれば、方向のずれ=|θA−(−θB)|=θA+θBとなり、結果的に両角度差の和となる。   And it transfers to step S7, and based on the calculation result of angle difference (theta) A, (theta) B calculated in step S5, S6 mentioned above, the direction comparison process part 14 is the direction of the obstruction I1 used as alert | reporting object, The relative deviation from the driver's line-of-sight direction is calculated. For example, in the case shown in FIG. 3, the left side when the traveling direction of the automobile 1 is viewed is defined as a positive direction, and the right side is defined as a negative direction, and the absolute value of the difference between the two angle differences is calculated. In the case shown in the figure, the displacement of the direction = | θA − (− θB) | = θA + θB, resulting in the sum of the difference between the two angles.

そして、方向比較処理部14においては、上述した方向のずれの程度の大小を判定するための閾値が予め設定されており、ステップS7では、上記方向のずれθA+θBと閾値αとの比較がなされる。ここで、この方向のずれθA+θBが閾値αを上回っている場合には(ステップS7:YES)、運転者の視線方向と障害物I1の方向とが一致しておらず、運転者がよそ見をしていると判定する一方、閾値α以下である場合には(ステップS7:NO)、運転者が障害物I1を視認していると判定し、ステップS2に戻る。   In the direction comparison processing unit 14, a threshold value for determining the magnitude of the above-described direction deviation is set in advance, and in step S7, the direction deviation θA + θB is compared with the threshold value α. . Here, when the deviation θA + θB in this direction exceeds the threshold value α (step S7: YES), the driver's line-of-sight direction does not match the direction of the obstacle I1, and the driver looks away. On the other hand, if it is less than or equal to the threshold value α (step S7: NO), it is determined that the driver is viewing the obstacle I1, and the process returns to step S2.

さらに、方向比較処理部14は、ステップS7にて運転者がよそ見をしていると判定すると、ステップS8に移行し、視線方向の不一致レベルを判定する。具体的には、方向比較処理部14は、視線方向の不一致頻度、即ち単位時間当たりに視線方向の不一致が生じた回数N、および不一致状態が継続している時間Tとを計測しており、これらの数値N、Tの大小を上記不一致レベルとして定義している。 Furthermore, if the direction comparison processing unit 14 determines that the driver is looking away in step S7, the direction comparison processing unit 14 proceeds to step S8 and determines the inconsistency level of the line-of-sight direction. Specifically, direction comparing unit 14 measures the gaze direction of mismatch frequencies, i.e. the number per unit time viewing direction mismatch occurs N, continues and mismatch condition time T The magnitudes of these numerical values N and T are defined as the mismatch level.

そして、方向比較処理部14は、これらの数値N、Tを予め設定した閾値N0、T0と比較するようになっている。数値N、Tのれかが予め設定された閾値N0、T0を上回った時(ステップS8:YES)、警告対象として検出されなかった別の障害物が存在し、運転者はそれを注視している可能性があるとして、方向比較処理部14は、上記不一致レベルが大であるとの判定結果を制御装置10に備えられた仮登録処理部16に送信する。 Then, the direction comparison processing unit 14 compares these numerical values N and T with preset threshold values N0 and T0. Numerical N, when it exceeds the threshold value N0, T0 what Re or is preset T (Step S8: YES), another obstacle has not been detected as a warning target is present, the driver gazes it The direction comparison processing unit 14 transmits a determination result that the mismatch level is large to the temporary registration processing unit 16 provided in the control device 10.

一方、数値N、Tのいずれもが、閾値N0、T0以下である時には(ステップS8:NO)、方向比較処理部14は、上記不一致レベルが小であると判定してステップS6の処理に戻り、引き続き運転者の視線方向の算出処理を実行する。   On the other hand, when both the numerical values N and T are equal to or less than the threshold values N0 and T0 (step S8: NO), the direction comparison processing unit 14 determines that the mismatch level is small and returns to the process of step S6. Subsequently, the calculation process of the driver's line-of-sight direction is executed.

ステップS8にて上記不一致レベルが大であると判定された時、仮登録処理部16は、運転者の視線方向に基づいて、その時点の障害物検出用カメラ3の画像データ内から運転者が注視していた障害物I2(図3参照)を推定する。そして、この障害物I2を含む画像データを記憶装置8に仮登録保存する仮登録処理を実行する(ステップS9)。   When it is determined in step S8 that the disagreement level is large, the temporary registration processing unit 16 determines the driver from the image data of the obstacle detection camera 3 at that time based on the driver's line-of-sight direction. The obstacle I2 (see FIG. 3) being watched is estimated. Then, temporary registration processing for temporarily registering and saving the image data including the obstacle I2 in the storage device 8 is executed (step S9).

また、仮登録処理部16は、画像データとともに、雨滴センサ4等から走行環境検出処理部17を介して走行環境に関する検出信号(例えば、降雨の状態や時間帯等の走行環境データ)を受信しており、ステップS9では、この検出信号が付随データとして保存される。   In addition to the image data, the temporary registration processing unit 16 receives a detection signal related to the travel environment (for example, travel environment data such as a rainfall state or a time zone) from the raindrop sensor 4 or the like via the travel environment detection processing unit 17. In step S9, this detection signal is stored as accompanying data.

次に、上記仮登録処理が実行されると、ステップS10に移行し、車速センサ2の検出信号に基づいて、車速が0であるか否か、即ち自動車1を運転していない停車状態であるか否かが車両停止検出処理部18を介して検出され、車速が0であると判定されると(ステップS10:YES)、図5に示すステップS11以降の処理に移行し、車速が0でないと判定されると(ステップS10:NO)、ステップS2に戻る。 Next, when the temporary registration process is executed, the process proceeds to step S10, and based on the detection signal of the vehicle speed sensor 2, whether or not the vehicle speed is 0, that is, the vehicle 1 is not in operation. whether is detected via the car both stop detection processing unit 18, when it is determined that the vehicle speed is zero (step S10: YES), the process proceeds to step S11 and subsequent steps shown in FIG. 5, the vehicle speed is 0 If it is determined that it is not (step S10: NO), the process returns to step S2.

ここで、ステップS10において車速が0であると判定された時、図5のステップS11では、制御装置10に備えられた仮登録画像表示判定処理部19が、ディスプレイ7に対して所定の作動信号を送信し、図6(a)に示すように、ステップS9にて仮登録処理された、障害物I2を含む画像データを表示させる。 Here, when it is determined in step S10 that the vehicle speed is 0, in step S11 in FIG. 5, the temporarily registered image display determination processing unit 19 provided in the control device 10 sends a predetermined operation signal to the display 7. As shown in FIG. 6A, the image data including the obstacle I2 that has been provisionally registered in step S9 is displayed.

この時、ディスプレイ7においては、仮登録処理部16により推定された障害物I2を枠状に囲むような表示がなされ、引き続き、図6(b)に示すような画面に切替えられる。図6(b)に示す表示画面では、上記画像データから障害物I2の画像データのみが抽出され、確認表示部7a内の表示部X1に表示されるとともに、この障害物I2に対応する付随データが表示部X2に表示される。   At this time, the display 7 is displayed so as to surround the obstacle I2 estimated by the temporary registration processing unit 16 in a frame shape, and subsequently the screen is switched to a screen as shown in FIG. In the display screen shown in FIG. 6B, only the image data of the obstacle I2 is extracted from the image data and displayed on the display unit X1 in the confirmation display unit 7a, and accompanying data corresponding to the obstacle I2 is displayed. Is displayed on the display unit X2.

また、ディスプレイ7においては、仮登録画像表示判定処理部19により、確認表示部7aの他、正規登録操作入力部7bを構成するタッチパネル式の操作ボタン表示部X3、X4、X5が同時に表示されるようになっている。   On the display 7, the temporary registration image display determination processing unit 19 simultaneously displays the touch panel type operation button display units X 3, X 4, and X 5 constituting the regular registration operation input unit 7 b in addition to the confirmation display unit 7 a. It is like that.

ところで、記憶装置8においては、記憶された各障害物(パターンマッチング用データ)毎に、その障害物の危険度や種別が設定されている。種別としては、例えば、歩行者(子供)、歩行者(大人)、歩行者(高齢者)、二輪車等が挙げられ、歩行者(子供)→歩行者(高齢者)→歩行者(大人)→二輪車の順番で度数が低くなるように危険度が設定される。   By the way, in the storage device 8, for each stored obstacle (pattern matching data), the danger level and type of the obstacle are set. Types include, for example, pedestrians (children), pedestrians (adults), pedestrians (elderly persons), motorcycles, etc., and pedestrians (children) → pedestrians (elderly persons) → pedestrians (adults) → The degree of risk is set so that the frequency decreases in the order of the two-wheeled vehicle.

ここで、図6(b)において、正規登録操作入力部7bの表示部X2の「種別」欄には、「歩行者(子供)」がデフォルト表示され、「危険度」欄には、「1」がデフォルト表示されている。   Here, in FIG. 6B, “pedestrian (child)” is displayed by default in the “type” column of the display unit X2 of the regular registration operation input unit 7b, and “1” is displayed in the “risk level” column. "Is displayed by default.

運転者は、上述した付随データのうち、種別、危険度についての表示内容が障害物I2に正確に対応しているものか否かを判定することが許容され、その結果、デフォルト表示の内容が正確に対応しているものと判断すれば、「登録」との表示がなされた操作ボタン表示部X3を押圧操作する。   The driver is allowed to determine whether or not the display content about the type and the risk level corresponds to the obstacle I2 in the accompanying data described above, and as a result, the content of the default display is If it is determined that it corresponds accurately, the operation button display unit X3 on which “Register” is displayed is pressed.

この時、制御装置10内に備えられた正規登録判定処理部20は、デフォルト表示の内容を変更する必要はないものと判定し、正規登録処理部21は、この判定に基づいて障害物I2の画像データを新たなパターンマッチング用データとして追加記憶するようになっている。   At this time, the regular registration determination processing unit 20 provided in the control device 10 determines that it is not necessary to change the content of the default display, and the regular registration processing unit 21 determines the obstacle I2 based on this determination. The image data is additionally stored as new pattern matching data.

具体的には、正規登録判定処理部20は、ステップS12において、運転者により操作ボタン表示部X3の操作がなされたか否かを検出するようになっている。そして、操作ボタン表示部X3の操作がなされたと判定すると(ステップS12:YES)、ステップS13に移行し、仮登録された画像データ、およびデフォルト表示の内容のままの付随データを記憶装置8に正規登録保存(追加記憶)する正規登録処理を実行して、後述するステップS14に移行する。 Specifically, the regular registration determination processing unit 20 detects whether or not the operation button display unit X3 has been operated by the driver in step S12. If it is determined that the operation of the operation button display section X3 is made (step S12: YES), the process proceeds to step S13, temporarily registered image data, and stores the associated data in the default display of the content device 8 A regular registration process for saving (additionally storing) regular registration is executed, and the process proceeds to step S14 described later.

これに対し、運転者は、デフォルト表示された内容が障害物I2に正確に対応していないものと判定すれば、「データ修正」との表示がなされた操作ボタン表示部X4を操作し、制御装置10が障害物として検出をしたものの、障害物として認識する必要がないものと判定すれば、運転者は、「削除」との表示がなされた操作ボタン表示部X5を押圧操作する。   On the other hand, if the driver determines that the default displayed content does not accurately correspond to the obstacle I2, the driver operates the operation button display unit X4 on which “data correction” is displayed, and performs control. If it is determined that the device 10 detects an obstacle but does not need to be recognized as an obstacle, the driver presses the operation button display unit X5 on which “delete” is displayed.

ここで、運転者は、デフォルト表示の内容が正確に対応していないものと判定すれば、その表示内容を操作ボタン表示部X4の操作により修正できるようになっている。正規登録判定処理部20は、ステップS12において、正規登録の操作がなされていないと判定すると(ステップS12:NO)、ステップS15に移行し、操作ボタン表示部X4による付随データの修正操作がなされたか否かを判定する。   Here, if it is determined that the content of the default display does not correspond accurately, the driver can correct the display content by operating the operation button display unit X4. If the regular registration determination processing unit 20 determines in step S12 that the regular registration operation has not been performed (step S12: NO), the process proceeds to step S15, and whether the operation button display unit X4 has performed an operation for correcting accompanying data. Determine whether or not.

正規登録判定処理部20は、ステップS15にて付随データの修正操作がなされたと判定すると(ステップS15:YES)、ステップS16に移行し、運転者により操作された内容に基づいて付随データを上書き修正する。そして、正規登録処理部21は、障害物I2の画像データおよび修正後の付随データを記憶装置8に正規登録保存する正規登録処理を実行してステップS14に移行する。 If it is determined in step S15 that the accompanying data correction operation has been performed (step S15: YES), the regular registration determination processing unit 20 proceeds to step S16, and overwrites and corrects the accompanying data based on the content operated by the driver. To do. Then, the normal registration processing unit 21 executes the regular registration process for normalizing registers store additional data after the image data and correction of obstruction I2 in the storage device 8 proceeds to step S14.

また、正規登録判定処理部20は、ステップS15にて付随データの修正操作がなされていないと判定すると(ステップS15:NO)、運転者が残りの操作ボタン表示部X5を押圧操作したものと判定し、ステップS17に移行する。ステップS17では、正規登録判定処理部20が、操作ボタン表示部X5の操作がなされた仮登録データの削除処理を実行してステップS14に移行する。   Further, when the regular registration determination processing unit 20 determines that the accompanying data correction operation is not performed in step S15 (step S15: NO), it is determined that the driver has pressed the remaining operation button display unit X5. Then, the process proceeds to step S17. In step S17, the regular registration determination processing unit 20 executes a temporary registration data deletion process in which the operation button display unit X5 is operated, and the process proceeds to step S14.

このように、1つの仮登録データに対しては、ステップS13、S16、S17のれかの処理が実行されることになるが、車両走行中において複数のデータが仮登録された場合には、各仮登録データに対して順次ステップS13、S16、S17のれかの処理が実行される。 Thus, for a single provisional registration data, but will be something Re one of the processes of steps S13, S16, S17 are executed, when a plurality of data are temporarily registered in the vehicle traveling What Re or processing of sequential steps S13, S16, S17 for each provisional registration data is performed.

ステップS14では、1つの仮登録データに対する上記処理が実行されると、全ての仮登録データがディスプレイ7上に表示されたか否かが逐一判定される。   In step S <b> 14, when the above-described processing for one temporary registration data is executed, it is determined one by one whether or not all the temporary registration data is displayed on the display 7.

ここで、未だ表示されていない仮登録データが存在し、全ての画像データに対する登録または削除の操作が終了していない場合(ステップS14:NO)、ステップS11に戻り、仮登録画像表示判定処理部19が、未表示の次の仮登録データをディスプレイ7上に表示して、ステップS11〜S17の処理を繰り返す。そして、全ての画像データの表示がなされ、登録または削除の操作が終了した時(ステップS14:YES)、処理がリターンされる。   Here, if there is temporary registration data that has not yet been displayed and the registration or deletion operation for all the image data has not been completed (step S14: NO), the process returns to step S11 to return to the temporary registration image display determination processing unit. 19 displays the next temporary registration data that has not been displayed on the display 7 and repeats the processes of steps S11 to S17. When all the image data is displayed and the registration or deletion operation is completed (step S14: YES), the process is returned.

なお、記憶装置8では、図2に示すように、既存登録データ領域と追加登録データ領域とが設定されている。既存登録データ領域は、自動車1の製造時にメーカー側で予め設定されたデータが記憶され、上述した追加記憶により記憶されるデータは、追加登録データ領域に蓄積されるようになっている。   In the storage device 8, as shown in FIG. 2, an existing registration data area and an additional registration data area are set. In the existing registration data area, data preset by the manufacturer at the time of manufacturing the automobile 1 is stored, and the data stored by the additional storage described above is stored in the additional registration data area.

従って、上述したステップS2の処理においては、既存登録データ、およそれまでに追加登録された追加登録データの双方がパターンマッチング用データとして利用可能となっている。 Therefore, in step S2 described above, the existing registration data, and both the additional registration data added registered so far have become available as the pattern matching data.

以上のように、本実施形態では、報知の対象とされた障害物の方向と、運転者の視線方向との不一致レベルが所定値以上である時、運転者の視線方向の障害物I2を新たなパターンマッチング用データとして追加記憶するようにしたため、記憶装置8内のパターンマッチング用データの蓄積によってデータベースの充実を図ることができ、ひいては障害物認識精度を向上させることができる。   As described above, in this embodiment, when the mismatch level between the direction of the obstacle targeted for notification and the driver's line-of-sight direction is equal to or higher than a predetermined value, the obstacle I2 in the driver's line-of-sight direction is newly set. Therefore, the database can be enhanced by accumulating the pattern matching data in the storage device 8, and the obstacle recognition accuracy can be improved.

また、ステップS12〜S17において、仮登録データの追加登録の要否判定を運転者に行わせるようにし、上記追加記憶に関する処理を運転者の判定結果に基づいて行うようにしたことで、運転者にとって必要と思われるパターンマッチング用データのみを記憶させることができ、制御装置10における障害物認識の精度を向上させることができる。   In addition, in steps S12 to S17, the driver is made to determine whether or not additional registration of temporary registration data is necessary, and the processing related to the additional storage is performed based on the determination result of the driver. Only the data for pattern matching that is considered necessary for the user can be stored, and the accuracy of obstacle recognition in the control device 10 can be improved.

また、パターンマッチング用データを追加記憶するにあたり、ステップS2で記憶された走行環境に関する情報を付随データとして併せて記憶するようにしているが、これにより、パターンマッチング用データの読み出し時には、その時の走行環境に対応するパターンマッチング用データを絞り込んで読み出すことを可能にしている。   In addition, when the pattern matching data is additionally stored, the information on the driving environment stored in step S2 is also stored as accompanying data. However, when the pattern matching data is read out, the driving at that time is stored. The pattern matching data corresponding to the environment can be narrowed down and read out.

例えば、降雨時には、歩行者は傘をさしたり、雨合羽を着用したりするため、降雨時特有のパターンマッチング用データが必要になり、夕方、夜間であれば、障害物と周囲の風景との見分けがつきにくくなるという特別な事情が生じるため、時間帯に対応するパターンマッチング用データも必要となる。本実施形態では、このような走行環境の変化に応じて認識に使用するパターンマッチング用データを読み出すことで、障害物認識をきめ細かく行うことが可能になり、これによって障害物認識精度を向上させることができる。   For example, when it rains, pedestrians wear umbrellas and wear rain pants, so pattern matching data peculiar to rain is necessary.In the evening and at night, obstacles and surrounding scenery Since there is a special situation that it becomes difficult to distinguish, pattern matching data corresponding to the time zone is also required. In the present embodiment, it is possible to finely perform obstacle recognition by reading pattern matching data used for recognition according to such changes in the driving environment, thereby improving the obstacle recognition accuracy. Can do.

また、ステップS11において、運転者に視線方向不一致時の画像データを表示し、該画像データに含まれる障害物I2の危険度判定結果に関する付随データを記憶装置8に追加記憶するようにしたことで、パターンマッチング時には、危険度を併せて判定することが可能となり、これによって障害物の認識精度を向上させることができる。   Further, in step S11, the image data when the line-of-sight direction does not match is displayed to the driver, and the accompanying data related to the risk determination result of the obstacle I2 included in the image data is additionally stored in the storage device 8. At the time of pattern matching, it becomes possible to determine the degree of danger together, thereby improving the recognition accuracy of the obstacle.

このため、車両走行中に歩行者、自転車、バイク等の障害物が同時に現れた場合には、危険度の高い障害物から順番に警告表示したり、危険度の高いものを所定数だけ認識して警告したりする等、危険度に応じた報知が可能になる。   For this reason, when obstacles such as pedestrians, bicycles, motorcycles, etc. appear at the same time while the vehicle is running, warnings are displayed in order from the obstacles with the highest risk, or a predetermined number of the objects with the highest risk are recognized Warning according to the degree of danger.

また、障害物I2の種別判定結果に関する付随データを記憶装置8に追加記憶するようにしたことで、パターンマッチング時には、種別の特徴に応じた障害物認識が可能となり、その認識精度を向上させることができる。   In addition, the additional data related to the type determination result of the obstacle I2 is additionally stored in the storage device 8, so that the obstacle can be recognized according to the characteristics of the type at the time of pattern matching, and the recognition accuracy can be improved. Can do.

例えば、障害物が歩行者、自転車、バイクのれであったのか、さらには、歩行者の場合であれば、それが子供であるのか、乳母車やカート等を押しながら歩行している歩行者(保護者、高齢者等)であるのか等、種別の特徴に応じた障害物認識が可能になり、その認識精度の向上を図ることができる。 For example, the obstacle is a pedestrian, bicycle, what Re in which was the one of the bikes, and even, in the case of a pedestrian, the pedestrian it is you are walking while holding down whether a child, a baby carriage and cart, etc. Obstacles can be recognized according to the characteristics of the type, such as whether it is a guardian or an elderly person, and the recognition accuracy can be improved.

また、本実施形態では、ステップS15、S16において、運転者による上記各付随データの修正を可能にし、最終的には上記危険度や種別の判定が運転者によりなされるようにすることで、危険度、種別をより正確に認識させることが可能になり、これによって障害物の認識精度をより向上させることができる。   Further, in the present embodiment, in steps S15 and S16, it is possible to correct each of the accompanying data by the driver, and finally the risk and type are determined by the driver. It becomes possible to recognize the degree and type more accurately, thereby improving the recognition accuracy of the obstacle.

また、視線方向不一致時の画像データを仮登録した後のステップS10において、最初に車速0であることが検出された時に、仮登録データの表示処理を実行するようにしているが、これにより、車両運転中における表示内容の確認を確実に回避し、運転時の安全を確保することができる。さらに、運転者が障害物の存在を忘れないうちに、追加記憶に関する処理を実行することができる。   In addition, in step S10 after temporarily registering the image data when the line-of-sight direction does not match, when it is first detected that the vehicle speed is 0, the temporary registration data display process is executed. Confirmation of display contents during driving of the vehicle can be reliably avoided and safety during driving can be ensured. Furthermore, before the driver forgets the presence of the obstacle, the process related to the additional storage can be executed.

なお、上述した実施形態では、仮登録処理部16により障害物I2の存在を推定させ、このように推定された障害物I2の画像データを追加記憶の対象とするようにしているが、本発明は必ずしもこれに限定されるものではない。   In the above-described embodiment, the provisional registration processing unit 16 estimates the presence of the obstacle I2, and the image data of the obstacle I2 thus estimated is set as a target for additional storage. Is not necessarily limited to this.

例えば、図7、図8に示すように、タッチペン50等の公知の入力インターフェースを別途備え、該タッチペン50を用いてディスプレイ7に表示される画像データに対し、運転者が追加記憶の対象として障害物I2を直接指定することができるようにしてもよい。   For example, as shown in FIGS. 7 and 8, a known input interface such as a touch pen 50 is separately provided, and the driver is obstructed as an additional storage target for image data displayed on the display 7 using the touch pen 50. The object I2 may be directly designated.

この場合、運転者によりタッチペン50でタッチされたディスプレイ7の座標を操作信号として、制御装置10の仮登録画面表示判定処理部19’へ送信可能としている。   In this case, the coordinates of the display 7 touched by the driver with the touch pen 50 can be transmitted as an operation signal to the temporary registration screen display determination processing unit 19 ′ of the control device 10.

運転者は、図8(a)に示すように、ディスプレイ7上で障害物I2を囲むような枠をタッチペン50で描くことにより、障害物I2を追加記憶の対象として指定することができるようになっている。仮登録画面表示判定処理部19’は、図8(b)に示すように、タッチペン50により描かれた枠内の画像を抽出して表示し、この抽出された画像データについて、追加記憶の要否を運転者に判定させる。   As shown in FIG. 8A, the driver draws a frame that surrounds the obstacle I2 on the display 7 with the touch pen 50 so that the obstacle I2 can be designated as an additional storage target. It has become. As shown in FIG. 8B, the temporary registration screen display determination processing unit 19 ′ extracts and displays an image within the frame drawn by the touch pen 50, and the extracted image data needs to be additionally stored. Let the driver determine NO.

図9は運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する他の方法を説明するフローチャートである。仮登録画面表示判定処理部19’は、図5のステップS11に対応するステップS51の処理がなされた後、ステップS52にて、運転者がタッチペン50による障害物I2の指定を行ったか否かを判定する。そして、運転者が障害物I2の指定を行ったと判定すれば(ステップS52:YES)、図5のステップS12〜S17に対応するステップS53〜S58の処理を実行し、障害物I2の指定を行っていなければ(ステップS52:NO)、ステップS52の処理を繰り返し、引き続き運転者によるタッチペン50の操作状況を監視する。   FIG. 9 is a flowchart for explaining another method for additionally storing an obstacle image in the driver's line of sight as pattern matching data. The provisional registration screen display determination processing unit 19 ′ determines whether or not the driver has designated the obstacle I2 with the touch pen 50 in step S52 after the process of step S51 corresponding to step S11 of FIG. judge. If it is determined that the driver has specified the obstacle I2 (step S52: YES), the processing of steps S53 to S58 corresponding to steps S12 to S17 in FIG. 5 is executed to specify the obstacle I2. If not (step S52: NO), the process of step S52 is repeated, and the operation state of the touch pen 50 by the driver is continuously monitored.

ところで、上述した実施形態では、車速センサにより車速が0であることを検出した時に、仮登録データの表示処理を実行しているが、本発明は必ずしもこれに限定されない。例えば、運転時の安全性に対する配慮がさらに必要とされる場合には、信号待ち等の一時停止時における表示が回避されるようにしてもよく、例えばサイドブレーキ(不図示)の操作を検出するようにし、該検出結果に基づいてステップS10に対応する処理を実行するようにしてもよい。 By the way, in embodiment mentioned above, when the vehicle speed sensor 2 detects that the vehicle speed is 0, the temporary registration data display process is executed, but the present invention is not necessarily limited to this. For example, when further consideration for safety during driving is required, display during a pause such as waiting for a signal may be avoided. For example , an operation of a side brake (not shown) is detected. Thus, the process corresponding to step S10 may be executed based on the detection result.

また、エンジン停止操作時にキーポジションがACC(アクセサリ)となった状態を検出すると、キー操作を強制的に停止させるようにし、その状態下でステップS11に対応する処理を実行するようにしてもよい。また、一旦エンジンを停止させた後、次にエンジン始動操作がなされた時に、ステップS11に対応する処理を実行するようにしてもよい。   Further, when it is detected that the key position is ACC (accessory) during the engine stop operation, the key operation may be forcibly stopped, and the processing corresponding to step S11 may be executed under this state. . Alternatively, after the engine has been stopped once, the process corresponding to step S11 may be executed when the engine start operation is performed next time.

また、上述した実施形態では、正規登録操作入力部7bが、ディスプレイ7上に表示される操作ボタン表示部X3〜X5により構成されているが、例えばディスプレイ7の外枠部に専用の操作ボタンを配設するようにしてもよい。   In the embodiment described above, the regular registration operation input unit 7b is configured by the operation button display units X3 to X5 displayed on the display 7. For example, a dedicated operation button is provided on the outer frame portion of the display 7. It may be arranged.

また、ディスプレイ7に関しては、例えば自動車の走行経路を地図情報とともに表示しつつ、設定された目的地までの経路を案内するナビゲーション装置のディスプレイを兼用するものであってもよいし、専用のディスプレイを設けるようにしてもよい。 As for the display 7, for example , a display of a navigation device that guides the route to the set destination while displaying the travel route of the automobile 1 together with the map information may be used. A display may be provided.

また、上述したナビゲーション装置を自動車1に備える場合、例えば、図10に示すように、仮登録処理部16が、走行環境検出処理部17’を介してナビゲーション装置60から検出信号を受信できるようにし、ナビゲーション装置60から送信される車両の位置情報を付随データとして保存するようにしてもよい。   Further, when the automobile 1 includes the above-described navigation device, for example, as shown in FIG. 10, the temporary registration processing unit 16 can receive a detection signal from the navigation device 60 via the traveling environment detection processing unit 17 ′. The vehicle position information transmitted from the navigation device 60 may be stored as accompanying data.

例えば、樹木に覆われている林道や、トンネル内のように日光が遮られた場所は、日中であっても常に暗く、このような場所を走行する際には、夕方、夜間と同様障害物と周囲の風景との見分けがつきにくい。そこで、上述したように、ナビゲーション装置60からの位置情報データを付随データとして追加記憶すれば、ナビゲーション装置60からの位置情報に基づき、自動車1が走行している場所の変化に応じてパターンマッチング用データを読み出すことが可能になり、これによって障害物認識精度を向上させることができる。 For example, forest roads covered with trees and places where sunlight is blocked, such as in tunnels, are always dark, even during the day . Difficult to distinguish between obstacles and surrounding scenery. Therefore, as described above, if the positional information data from the navigation device 60 is additionally stored as accompanying data, the pattern matching pattern is used in accordance with the change in the location where the automobile 1 is traveling based on the positional information from the navigation device 60. Data can be read out, thereby improving obstacle recognition accuracy.

なお、図7〜図10に示す他の実施形態において、図1〜図6を参照して説明した最初の実施形態と同様の構成要素については、同一符号を付して、その詳しい説明を省略する。   In addition, in other embodiment shown in FIGS. 7-10, about the component similar to the first embodiment demonstrated with reference to FIGS. 1-6, the same code | symbol is attached | subjected and the detailed description is abbreviate | omitted. To do.

なお、上述した実施形態では、ステップS16、S17において、追加記憶される前の仮登録データとしてそのデータの修正、削除を行えるようにしているが、記憶装置8内の既存登録データに対してもこのような修正、削除が行えるようにしてもよい。   In the above-described embodiment, in steps S16 and S17, the data can be corrected and deleted as temporary registration data before being additionally stored. However, the existing registration data in the storage device 8 can also be corrected. Such correction and deletion may be performed.

この発明の構成と、上述の実施形態との対応において、
この発明の障害物報知手段は、ウインドウディスプレイアクチュエータ6に対応し、
以下同様に、
視線方向検出手段は、視線検出センサ5に対応し、
不一致レベル検出手段は、ステップS8を実行する制御装置10の方向比較処理部14に対応し、
記憶手段は、記憶装置8に対応し、
撮像手段は、障害物検出用カメラ3に対応し、
撮影画像を運転者に提示する手段は、確認表示・入力操作兼用ディスプレイ7の確認表示部7aに対応し、
追加記憶の要否を判定させる手段は、確認表示・入力操作兼用ディスプレイ7の正規登録操作入力部7bに対応するも、
この発明は、上述の実施形態の構成のみに限定されるものではなく、多くの実施の形態を得ることができる。
In correspondence between the configuration of the present invention and the above-described embodiment,
The obstacle notification means of the present invention corresponds to the window display actuator 6,
Similarly,
The line-of-sight direction detection means corresponds to the line-of-sight detection sensor 5,
The mismatch level detection means corresponds to the direction comparison processing unit 14 of the control device 10 that executes step S8,
The storage means corresponds to the storage device 8,
The imaging means corresponds to the obstacle detection camera 3,
The means for presenting the photographed image to the driver corresponds to the confirmation display portion 7a of the confirmation display / input operation combined display 7,
Means for determining the necessity of additional storage corresponds to the regular registration operation input unit 7b of the confirmation display / input operation combined display 7.
The present invention is not limited only to the configuration of the above-described embodiment, and many embodiments can be obtained.

本発明の実施形態に係る車両用運転支援装置を採用した自動車の概略模式図。1 is a schematic diagram of an automobile that employs a vehicle driving support apparatus according to an embodiment of the present invention. 車両用運転支援装置のシステムブロック図。The system block diagram of the driving assistance device for vehicles. 障害物の方向と運転者の視線方向とを比較する方法を説明するための説明図。Explanatory drawing for demonstrating the method of comparing the direction of an obstruction, and a driver | operator's gaze direction. 運転者の視線方向の障害物画像を抽出する方法を説明するフローチャート。The flowchart explaining the method of extracting the obstruction image of a driver | operator's gaze direction. 運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する方法を説明するフローチャート。The flowchart explaining the method of additionally storing the obstacle image of a driver | operator's gaze direction as pattern matching data. 運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する際の表示例を示す図。The figure which shows the example of a display at the time of additionally storing the obstacle image of a driver | operator's gaze direction as data for pattern matching. 本発明の他の実施形態に係る車両用運転支援装置のシステムブロック図。The system block diagram of the driving assistance device for vehicles concerning other embodiments of the present invention. 運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する際の操作例を示す図。The figure which shows the operation example at the time of additionally storing the obstacle image of a driver | operator's gaze direction as pattern matching data. 本発明の他の実施形態において、運転者の視線方向の障害物画像をパターンマッチング用データとして追加記憶する方法を説明するフローチャート。The flowchart explaining the method of additionally storing the obstacle image of a driver | operator's gaze direction as pattern matching data in other embodiment of this invention. 本発明のさらに他の実施形態に係る車両用運転支援装置のシステムブロック図。The system block diagram of the driving assistance device for vehicles concerning other embodiments of the present invention.

3…障害物検出用カメラ(撮像手段)
5…視線検出センサ(視線方向検出手段)
6…ウインドウディスプレイアクチュエータ(障害物報知手段)
7…確認表示・入力操作兼用ディスプレイ
8…記憶装置(記憶手段)
10…制御装置
14…方向比較処理部(不一致レベル検出手段)
19、19’…仮登録画像表示判定処理部
S9…推定手段
3. Obstacle detection camera (imaging means)
5: Gaze detection sensor (gaze direction detection means)
6 ... Window display actuator (obstacle notification means)
7: Display for both confirmation display and input operation 8: Storage device (storage means)
10: Control device 14: Direction comparison processing unit (mismatch level detection means)
19, 19 '... Temporarily registered image display determination processing unit
S9: Estimating means

Claims (8)

障害物の存在を運転者に報知させる車両用運転支援装置であって、
障害物を、記憶されているパターンマッチング用データと比較することで検出し、運転者の視線を上記障害物方向へ向けるように報知する障害物報知手段と、
運転者の視線または顔向きを検出する視線方向検出手段と、
上記障害物報知手段により報知の対象とされた障害物の方向と、上記運転者の視線方向とが一致していない頻度を示す不一致頻度、または不一致継続時間に基づいて視線方向の不一致レベルを検出する不一致レベル検出手段と、
視線方向の不一致レベルが所定値以上である時、上記運転者の視線方向の障害物を推定する推定手段と、
推定された上記障害物を新たなパターンマッチング用データとして追加記憶する記憶手段とを備える
車両用運転支援装置。
A vehicle driving support device that informs the driver of the presence of an obstacle,
Obstacle notifying means for detecting an obstacle by comparing it with stored pattern matching data and notifying the driver's line of sight toward the obstacle,
Gaze direction detection means for detecting the driver's gaze or face direction;
Detecting the inconsistency level of the line-of-sight direction based on the inconsistency frequency indicating the frequency that the direction of the obstacle to be notified by the obstacle informing means and the line-of-sight direction of the driver do not match, or the mismatch duration time A mismatch level detection means for
An estimation means for estimating an obstacle in the gaze direction of the driver when the gaze direction mismatch level is a predetermined value or more ;
Vehicular driving support apparatus and a storage means for adding storing estimated the obstacle as a new pattern matching data.
車両周辺を撮影する撮像手段と、
上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段と、
追加記憶の要否を運転者に判定させる手段とを備え、
上記追加記憶に関する処理を、上記判定の結果に基づいて実行する
請求項1記載の車両用運転支援装置。
Imaging means for photographing the periphery of the vehicle;
Means for presenting a driver with a photographed image taken when the mismatch level is equal to or higher than a predetermined value;
Means for allowing the driver to determine whether additional storage is necessary,
The vehicle driving support device according to claim 1, wherein the process related to the additional storage is executed based on a result of the determination.
車両周辺を撮影する撮像手段と、
上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段とを備え、
上記追加記憶時には、運転者に提示した撮影画像に含まれる視線方向の障害物画像とともに、該障害物の危険度判定結果が併せて記憶される
請求項1記載の車両用運転支援装置。
Imaging means for photographing the periphery of the vehicle;
Means for presenting a photographed image taken when the mismatch level is equal to or higher than a predetermined value to the driver,
The vehicle driving support device according to claim 1, wherein, at the time of the additional storage, the obstacle degree determination result of the obstacle is stored together with the obstacle image in the line-of-sight direction included in the photographed image presented to the driver.
上記危険度の判定は、運転者によりなされるものである
請求項3記載の車両用運転支援装置。
The vehicle driving support device according to claim 3, wherein the determination of the degree of risk is made by a driver.
車両周辺を撮影する撮像手段と、
上記不一致レベルが所定値以上である時に撮影した撮影画像を運転者に提示する手段とを備え、
上記追加記憶時には、運転者に提示した撮影画像に含まれる視線方向の障害物画像とともに、該障害物の種別判定結果が併せて記憶される
請求項1記載の車両用運転支援装置。
Imaging means for photographing the periphery of the vehicle;
Means for presenting a photographed image taken when the mismatch level is equal to or higher than a predetermined value to the driver,
The vehicular driving support apparatus according to claim 1, wherein, at the time of the additional storage, the obstacle type determination result of the obstacle is stored together with the obstacle image in the line-of-sight direction included in the photographed image presented to the driver.
上記種別の判定は、運転者によりなされるものである
請求項5記載の車両用運転支援装置。
The vehicle driving support device according to claim 5, wherein the determination of the type is made by a driver.
上記運転者への画像提示が、上記不一致レベルが所定値以上となった後の最初の車両停止時に実行される
請求項2〜6のいずれか一項に記載の車両用運転支援装置。
The vehicle driving support device according to any one of claims 2 to 6, wherein the image presentation to the driver is executed when the vehicle stops for the first time after the mismatch level becomes a predetermined value or more.
上記追加記憶時には、上記不一致レベルが所定値以上となった時の車両走行環境が併せて記憶され、
上記パターンマッチング用データの読み出し時、該データが走行環境に応じて読み出される
請求項1記載の車両用運転支援装置。
At the time of the additional storage, the vehicle traveling environment when the inconsistency level becomes a predetermined value or more is also stored.
The vehicle driving support device according to claim 1, wherein when the pattern matching data is read, the data is read according to a driving environment.
JP2007294028A 2007-11-13 2007-11-13 Vehicle driving support device Expired - Fee Related JP4893593B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007294028A JP4893593B2 (en) 2007-11-13 2007-11-13 Vehicle driving support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007294028A JP4893593B2 (en) 2007-11-13 2007-11-13 Vehicle driving support device

Publications (2)

Publication Number Publication Date
JP2009122808A JP2009122808A (en) 2009-06-04
JP4893593B2 true JP4893593B2 (en) 2012-03-07

Family

ID=40814921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007294028A Expired - Fee Related JP4893593B2 (en) 2007-11-13 2007-11-13 Vehicle driving support device

Country Status (1)

Country Link
JP (1) JP4893593B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2654028B1 (en) * 2012-04-20 2018-09-26 Honda Research Institute Europe GmbH Orientation sensitive traffic collision warning system
JP6593692B2 (en) 2015-09-07 2019-10-23 パナソニックIpマネジメント株式会社 Driving support method and driving support apparatus using the same
JP7014680B2 (en) * 2018-07-13 2022-02-01 株式会社デンソーアイティーラボラトリ Gaze object detection device, gaze object detection method, and program
JP7159716B2 (en) * 2018-09-07 2022-10-25 株式会社豊田中央研究所 Readiness estimation device, method, and program
WO2022209070A1 (en) * 2021-03-29 2022-10-06 本田技研工業株式会社 Driving support system and vehicle

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2929927B2 (en) * 1993-12-14 1999-08-03 日産自動車株式会社 Driving information providing device
JP2001021345A (en) * 1999-07-07 2001-01-26 Tokai Rika Co Ltd Obstacle detecting device
JP2001229488A (en) * 2000-02-15 2001-08-24 Hitachi Ltd Vehicle tracking method and traffic state tracking device
JP4023228B2 (en) * 2002-06-19 2007-12-19 日産自動車株式会社 In-vehicle obstacle detection device
JP3938532B2 (en) * 2002-09-05 2007-06-27 本田技研工業株式会社 Vehicle control apparatus, program and method
JP2005259031A (en) * 2004-03-15 2005-09-22 Sumitomo Electric Ind Ltd Human recognition system, human recognition device, storage device and human recognition method
JP2006268366A (en) * 2005-03-23 2006-10-05 Denso Corp Obstacle detecting device
JP2007112297A (en) * 2005-10-20 2007-05-10 Denso Corp System for avoiding collision of vehicle with obstacle
JP4946005B2 (en) * 2005-11-02 2012-06-06 トヨタ自動車株式会社 Driver psychological state determination device and driver psychological state determination system

Also Published As

Publication number Publication date
JP2009122808A (en) 2009-06-04

Similar Documents

Publication Publication Date Title
JP4882285B2 (en) Vehicle travel support device
US8896687B2 (en) Lane departure prevention support apparatus, method of displaying a lane boundary line and program
US8354944B2 (en) Night vision device
JP4992755B2 (en) Intersection driving support system, in-vehicle equipment, and roadside equipment
CN109204136B (en) Peripheral image display control device
KR100917330B1 (en) Top view monitor system and method of vehicle
JP4992764B2 (en) Safety confirmation judgment device and driving teaching support system
JP4983558B2 (en) Vehicle driving support device
JP2008222153A (en) Merging support device
US20200035102A1 (en) Drive assist device and drive assist method
JP4893593B2 (en) Vehicle driving support device
EP2981073B1 (en) Parking assistance system and parking assistance method
US20190275942A1 (en) Display control device, display control system, display control method, and program
JP2014120111A (en) Travel support system, travel support method, and computer program
CN113593301A (en) Method for pre-judging vehicle clogging, vehicle, and computer-readable storage medium
JP5003473B2 (en) Warning device
JP2014120114A (en) Travel support system, travel support method, and computer program
JP4184485B2 (en) Door mirror with camera and vehicle periphery recognition system
JP6136238B2 (en) Driving support system, driving support method, and computer program
JP4148229B2 (en) Vehicle display device
JP2014120113A (en) Travel support system, travel support method, and computer program
JP5723561B2 (en) Driving assistance device
JP2004310525A (en) Vehicular image processor
CN116946022A (en) Vehicle driving assistance system and vehicle thereof
JP6424775B2 (en) Information display device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110914

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111122

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111205

R150 Certificate of patent or registration of utility model

Ref document number: 4893593

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150106

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees