JP2006248365A - Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device - Google Patents
Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device Download PDFInfo
- Publication number
- JP2006248365A JP2006248365A JP2005067257A JP2005067257A JP2006248365A JP 2006248365 A JP2006248365 A JP 2006248365A JP 2005067257 A JP2005067257 A JP 2005067257A JP 2005067257 A JP2005067257 A JP 2005067257A JP 2006248365 A JP2006248365 A JP 2006248365A
- Authority
- JP
- Japan
- Prior art keywords
- driver
- mirror
- face
- infrared
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
この発明は、自動車等の移動体に好適な後方監視ミラー、このミラーを使用して運転者の顔面を撮影するために好適な運転者撮影装置およびこの運転者撮影装置を用いた運転者監視装置に関する。 The present invention relates to a rear monitoring mirror suitable for a moving body such as an automobile, a driver photographing apparatus suitable for photographing a driver's face using the mirror, and a driver monitoring apparatus using the driver photographing apparatus. About.
運転者の居眠り運転検知や脇見運転検知など自動車運転手の眼を中心とした顔面を画像撮影し運転者の状態を検知する安全技術が開発されている。 Safety technology has been developed to detect the state of a driver by taking a picture of the face centered on the eyes of the driver of the car, such as detecting the driver's drowsy driving or driving aside.
そのための画像撮影方法としては、ダッシュボードやインスツルメンツパネル、あるいはルームミラー周辺やルームミラー内部などに赤外線カメラを設置し、この赤外線カメラにより運転者の前方からその顔面を運転者を幻惑させたりすることがないように、且つ安定した照射が可能なように赤外線で直接撮影するようにしている。 For this purpose, an infrared camera is installed on the dashboard, instrument panel, around the rearview mirror, inside the rearview mirror, etc., and this infrared camera makes the driver look dazzled from the front of the driver. The image is directly taken with infrared rays so that there is no occurrence and stable irradiation is possible.
ところが、運転者の顔面の位置は体格、姿勢、座席シートの設定状態により大きく変化するため、それらの撮影方法では、想定される顔面の存在範囲を十分にカバーする大きな画角の赤外線カメラを使用することが必要であり、さらに、そのようにして撮影された大きな画角の画像から顔面部分を特定する処理が必要である。 そこで、適切に調整されたルームミラーを後方から見た場合にルームミラー内に運転手の眼部分が必ず映ることを利用して、ルームミラーを介して後方から撮像することにより、顔位置によらず常に眼部分の画像を取得する装置について提案されている(特許文献1)。
しかしながら、上記特許文献1のものでは、以下に述べるような問題点があった。 However, the above-mentioned Patent Document 1 has the following problems.
(1)撮影装置の設置位置が制限される。特に眼部分が画像の中心となる画像を取得するためには、撮影装置をルームミラーから後方へと向かう直線上に設置させる必要がある。 (1) The installation position of the photographing device is limited. In particular, in order to acquire an image whose eye portion is the center of the image, it is necessary to install the photographing device on a straight line that extends backward from the room mirror.
(2)後方視界が部分的に撮影装置により隠蔽される。したがって、ルームミラー本来の機能である運転者に対する後方視界提供機能を妨げる。 (2) The rear view is partially hidden by the photographing device. Therefore, the rear view providing function for the driver, which is the original function of the rearview mirror, is hindered.
(3)上記後方視界提供機能への妨げを小さくするには、撮影装置を小型にし、かつ撮影装置を可能な限りルームミラーから遠方へ配置する必要がある。 (3) In order to reduce the hindrance to the above-mentioned rear view providing function, it is necessary to reduce the size of the photographing apparatus and dispose the photographing apparatus as far as possible from the room mirror.
(4)撮影装置とルームミラーの距離を大きくすればするほど、ルームミラーを介して取得される画像は運転者の眼を中心とした狭い領域となり、眼以外の顔面の画像情報を得ることが困難になる。さらに、運転者の顔位置が変化した場合に画像内に眼部分が含まれなくなる可能性が増大する。 (4) As the distance between the photographing device and the rearview mirror increases, the image acquired through the rearview mirror becomes a narrow region centered on the driver's eyes, and facial image information other than the eyes can be obtained. It becomes difficult. Further, when the driver's face position changes, the possibility that the eye portion is not included in the image increases.
(5)撮影装置が運転者から視認されるため、運転者に対し監視されているという心理的圧迫感または不安感を与える。 (5) Since the photographing device is visually recognized by the driver, it gives a psychological pressure or anxiety that the driver is being monitored.
この発明は、運転者の後方視界を妨げず、且つ眼の部分を確実に撮影する装置に好適な後方監視ミラー、及び同ミラーを使用した運転者撮影装置の提供を目的とする。 SUMMARY OF THE INVENTION An object of the present invention is to provide a rear monitoring mirror suitable for a device that reliably captures an eye part without obstructing the driver's rear view, and a driver photographing device using the mirror.
この発明の移動体の後方監視ミラーは、可視光線を反射し赤外線を透過する第1の反射手段と、該第1の反射手段に対して所定角θでその背後に設けられ赤外線を反射する第2の反射手段とを備えたことを特徴とする。 The rear monitoring mirror of the moving body of the present invention includes a first reflecting means that reflects visible light and transmits infrared light, and a first reflecting means that is provided behind the first reflecting means at a predetermined angle θ and reflects infrared light. 2 reflection means.
この発明では、第1の反射手段を従来のルームミラーとして使用することにより、後方視界からの可視光線は第1の反射手段で反射して運転者の眼に必ず届く。一方、運転者の顔面に対応する領域に向けて赤外線を照射する運転者照明装置を、例えばダッシュボードなど設けることにより、運転者の顔面で反射した赤外線は第1の反射手段を透過して、第2の反射手段で反射する。第1の反射手段と第2の反射手段のなす角度は所定角θに設定されているために、上記赤外線が第2の反射手段で反射して進む方向は、上記後方視界からの可視光線の方向と完全に異なる。このため、上記第2の反射手段で反射した赤外線を受光する位置に撮影装置を設けると、この撮影装置により後方視界が妨げられることがない。 In the present invention, by using the first reflecting means as a conventional room mirror, visible light from the rear field of view is reflected by the first reflecting means and reaches the driver's eyes without fail. On the other hand, by providing a driver illumination device that irradiates infrared rays toward a region corresponding to the driver's face, for example, a dashboard, the infrared ray reflected on the driver's face is transmitted through the first reflecting means, Reflected by the second reflecting means. Since the angle formed by the first reflecting means and the second reflecting means is set to a predetermined angle θ, the direction in which the infrared light is reflected by the second reflecting means is the direction of visible light from the rear view. Completely different from the direction. For this reason, when a photographing device is provided at a position for receiving the infrared light reflected by the second reflecting means, the rear view is not hindered by the photographing device.
また、撮影装置が後方視界を妨げることがないため、第2の反射手段に接近した位置に設けたり、また、所定角θを適切な角度に設定することで自由度の高い位置に設置することが可能である。これにより、顔面の撮影位置の微調整が可能であり、また、眼の部分を含む広い範囲を撮影することも容易となる。 In addition, since the photographing apparatus does not interfere with the rear view, it is provided at a position close to the second reflecting means, or is set at a position with a high degree of freedom by setting the predetermined angle θ to an appropriate angle. Is possible. Thereby, fine adjustment of the photographing position of the face is possible, and it becomes easy to photograph a wide range including the eye part.
この発明の一つの実施態様では、前記第1の反射手段による後方視界の中心線に対して2θの方向に赤外線カメラ等のカメラが設置される。 In one embodiment of the present invention, a camera such as an infrared camera is installed in the direction of 2θ with respect to the center line of the rear field of view by the first reflecting means.
一般の光学原理から、第1の反射手段と第2の反射手段とのなす角度がθであるとき、同一方向から第1の反射手段に入射した可視光線と赤外線は、それぞれ第1と第2の反射手段で反射されそれぞれの方向に進む。それぞれの反射光線の方向が互いになす角度は、第1の反射手段に入射した入射角にかかわらず常に2θである。このことは、光の進行方向が逆であっても同様となる。 From the general optical principle, when the angle formed by the first reflecting means and the second reflecting means is θ, visible light and infrared light incident on the first reflecting means from the same direction are the first and second, respectively. Reflected by the reflecting means, and proceeds in the respective directions. The angle formed by the directions of the reflected light rays is always 2θ regardless of the incident angle incident on the first reflecting means. This is the same even if the traveling direction of light is reversed.
したがって、運転者が第1の反射手段で後方を視認するように調整された状態においては、カメラは、運転者の顔位置にかかわらず、常に運転者の眼を中心とした顔面の画像を後方視界を妨げることなく取得することができる。
前記カメラに後方監視ミラー以外からの光線を遮断するための画角制御手段を設けることにより、不要な光線によるフレアやゴースト等を防ぐことができる。
Therefore, in a state where the driver is adjusted so that the driver can visually recognize the rear with the first reflecting means, the camera always displays the facial image centered on the driver's eyes, regardless of the driver's face position. It can be acquired without obstructing the field of view.
By providing the camera with an angle-of-view control means for blocking light from other than the rear monitoring mirror, flare, ghost, and the like due to unnecessary light can be prevented.
また、前記カメラを、可視光線を透過せず赤外線を透過するカバーで覆うことにより、運転者からはカメラが見えなくなる。このため、カメラで監視されているような圧迫感がなくなる。 Further, by covering the camera with a cover that does not transmit visible light but transmits infrared light, the driver cannot see the camera. This eliminates the feeling of pressure as monitored by the camera.
また、この発明の運転者撮影装置は、前記赤外線カメラを高ダイナミックレンジのCMOS赤外線カメラ等のカメラで構成したことを特徴とする。
さらに、この発明の運転者監視装置は、上記運転者撮影装置と、この運転者撮影装置で撮影された画像から運転者の顔または眼を検出し、検出した顔または眼の画像に基づいて運転者の状態を判定する画像認識装置と、を備えたことを特徴とする。
The driver photographing apparatus of the present invention is characterized in that the infrared camera is a camera such as a CMOS infrared camera having a high dynamic range.
Furthermore, the driver monitoring device of the present invention detects the driver's face or eyes from the driver photographing device and an image photographed by the driver photographing device, and drives based on the detected face or eye image. And an image recognition device for determining the state of the person.
この発明では、高ダイナミックレンジのCMOS赤外線カメラ等のカメラを使用することにより、明暗差が大きい環境下でも運転者の顔や眼の部分の画像を綺麗に撮影でき、これにより、照明無しまたは空間全体を照明した場合と比べて、顔の特定や顔の認識が容易になり、運転者の状態を判定する場合においても、正確な判定が可能になる。 In the present invention, by using a camera such as a CMOS infrared camera with a high dynamic range, it is possible to take a beautiful image of the driver's face and eyes even in an environment where there is a large contrast between light and dark. Compared to the case where the entire screen is illuminated, it is easier to identify the face and recognize the face, and it is possible to make an accurate determination even when determining the state of the driver.
本発明においては、可視光領域にも感度を有する撮像手段(カメラ)を利用することも可能である。この場合には、近赤外光のみを透過するフィルタを使用すればよい。 In the present invention, it is also possible to use an imaging means (camera) having sensitivity in the visible light region. In this case, a filter that transmits only near infrared light may be used.
この発明によれば、運転者の視界を確保しつつ、その視界中心線と異なった角度で運転者の顔、特に眼やその付近の画像撮影が可能になる。このため、この後方監視ミラーを自動車等の移動体の運転者監視用に用いることで、運転者の後方視界を遮らずに、運転者の顔、特に眼やその付近の画像を正確に撮影することができ、運転者が居眠り状態や脇見運転状態にあるかどうかを正確に判定することができる。 According to the present invention, it is possible to capture an image of the driver's face, particularly the eyes and the vicinity thereof, at an angle different from the center line of view while securing the view of the driver. For this reason, this rear monitoring mirror is used for monitoring a driver of a moving body such as an automobile, so that the driver's face, in particular, the eye and its surroundings can be accurately captured without obstructing the driver's rear view. Therefore, it is possible to accurately determine whether the driver is in a dozing state or a side-by-side driving state.
図1はこの発明の実施形態である運転者撮影装置の構成を示す図である。この運転者撮影装置は、運転者の前方やや下方から運転者の顔面に向けて赤外線(近赤外線を含む。以下同様)を照射し、その反射光をルームミラーで反射させ、ルームミラーの後方の斜め上方に設置されている赤外線カメラにより運転者の顔を撮影する。 FIG. 1 is a diagram showing a configuration of a driver photographing apparatus according to an embodiment of the present invention. This driver photographing device emits infrared rays (including near infrared rays, the same applies hereinafter) toward the driver's face from the front or slightly below the driver, reflects the reflected light with the rearview mirror, and The driver's face is photographed by an infrared camera installed obliquely above.
撮影された画像は、画像認識装置に入力されて、顔の認識が行われ、居眠り/脇見運転/注意力の低下等の運転者の状態が判定され、その結果が必要に応じて警告等に用いられる。画像認識装置においては、運転者の状態が、例えば目の検出の有無、視線方向、視線方向の動き、顔方向、顔方向の動き、まぶたの状態、瞬き、瞳孔の状態、めがねの有無、など目周辺の画像から得られる情報によって検出され、居眠り/脇見運転/注意力の低下等の運転者の状態はこれらの情報から判定される。 The captured image is input to the image recognition device, the face is recognized, the driver's state is determined, such as dozing / aside driving / decrease in attention, and the result is used as a warning if necessary. Used. In the image recognition device, the driver's state is, for example, presence or absence of eye detection, gaze direction, gaze direction movement, face direction, face direction movement, eyelid state, blink, pupil state, presence of glasses, etc. It is detected by information obtained from images around the eyes, and the driver's state such as dozing / side-by-side driving / decrease in attention is determined from these information.
図1は自動車の車室を側面から表した図であるが、ルームミラー1は、車室内の中央前方の天井付近に、角度を調整可能に設けられている。このルームミラー1は、本発明の後方監視ミラーに対応している。 FIG. 1 is a side view of a passenger compartment of an automobile. The rearview mirror 1 is provided in the vicinity of the ceiling in front of the center inside the passenger compartment so that the angle can be adjusted. This room mirror 1 corresponds to the rear monitoring mirror of the present invention.
前記ルームミラー1は、運転者3が運転席に座ったとき、運転を開始する前に、このルームミラー1を介して後方の視界が確保できるように向き(角度)が調整される。運転者3は、ルームミラー1を介した視野がリアウィンドウ5をカバーできるように、すなわち、ルームミラー1およびリアウィンドウ5を介して後方の車両等を監視できるように調整する。このように調整されたときの運転者の後方の視野には、後述する赤外線カメラが存在していない。
When the
運転者の顔は、赤外線照射手段であるLED2により照射される。このLED2は、ダッシュボード6に設けられている。このLED2は、赤外の高輝度LEDであり、赤外線を発光する。このLED2の設置場所は、ダッシュボード6の他、ステアリング(ハンドル部)の中央部など、運転者の顔部分を照射可能な場所であればどこでも良い。運転者の顔は運転中に大きく変動することはないため、LED2の照射範囲はレンズ等(不図示)で適当に絞られる。その照射範囲は、運転者の顔、特に、少なくとも眼及びその周辺領域であれば良く、上半身などの大きな範囲にする必要がない。
The driver's face is irradiated by the
運転者の顔部分に照射された赤外線は乱反射してルームミラー1に進む。この赤外線は、ルームミラー1の第2の反射ミラーで反射され赤外線カメラ4に進む。これにより、運転者の顔、特に眼及びその周辺部分の画像は赤外線カメラ4で撮像される。
The infrared rays irradiated to the driver's face part are diffusely reflected and proceed to the room mirror 1. This infrared ray is reflected by the second reflection mirror of the room mirror 1 and proceeds to the
なお、運転者3のルームミラー1を介した後方視野10およびその中心線11は、運転者3(または運転者3の視覚)を構成要素とした要件ではなく、ルームミラー1の位置、リアウィンドウ5の位置・大きさ等によって決定される自動車の構造上の特性である。
Note that the rear view 10 and the center line 11 of the
ルームミラー1の後方の斜め上方の天井部には赤外線に感度を有する赤外線カメラ4が設けられている。この赤外線カメラ4は、ルームミラー1の第2の反射ミラーで反射される赤外線による運転者の顔を撮影する。この赤外線カメラは、望ましくは、高ダイナミックレンジのCMOS赤外線カメラ(HDRC)であることが望ましい。すなわち、自動車の車内:特に運転席は、直接外界に視野が開けており、たとえば直射日光による高いコントラストや夜間の極めて低い照度など撮影条件としては劣悪な条件である。このような条件であっても、高ダイナミックレンジのCMOS赤外線カメラであれば、人間の網膜に近いダイナミックレンジを有し、光の強さに対する応答が対数的な関係になるようにされている。これにより、同一画面内における明るい被写体と暗い被写体の明暗比が1000万倍の0.01ルクス〜10万ルクスの高いダイナミックレンジで撮像が可能である。
An
これにより、直射日光に照らされた顔面など明暗差が激しい(コントラストの強い)被写体であっても、従来の撮像素子のように、ハイライト部は真っ白になったり、シャドウ部は真っ黒になってしまう「白飛び」や「黒つぶれ」の画像になることがない。 As a result, even with a subject with a strong contrast (strong contrast), such as a face illuminated by direct sunlight, the highlight area becomes white and the shadow area becomes black as in the conventional image sensor. It will not be an image of “overexposure” or “blackout”.
ダッシュボード6内には、上記LED2の発光制御や赤外線カメラ4の出力に基づく画像認識処理等を行う画像認識装置7が設けられている。
In the
図2は上記ルームミラー1の構成を示す図である。図3は、ルームミラー1の具体的な構成図である。 FIG. 2 is a diagram showing the configuration of the room mirror 1. FIG. 3 is a specific configuration diagram of the room mirror 1.
このルームミラー1は、第1の反射ミラー1aと、この第1の反射ミラー1aに対して所定角θでその背後に設けられた第2の反射ミラー1bと、これらのミラー1a、1bを支持するハウジング1cと、ハウジング1cを保持し、車体に固定する支持アーム1dとで構成されている。運転者が良好な後方視界を得るよう調整可能なようにハウジング1cと支持アーム1dは回転可能な構造で接続され、上下左右方向に回転可能な構造となっている。第1の反射ミラー1aは、詳細については後述するコールドミラーで構成されている。
The room mirror 1 supports the
第1の反射ミラー1aと第2の反射ミラー1bとは、本実施形態では互いに所定角θを持って固定されるが、撮像しようとする顔面領域を変更する場合や赤外線カメラ4の位置を変更する場合などであれば角度を変更することが可能な構造であっても構わない。
In this embodiment, the first reflecting
第1の反射ミラー1aであるコールドミラーは、可視光線領域の光を反射し、LED2の発生する赤外線を透過する性質を持つ。本実施形態では、LED2の発生する赤外線は、波長950nmを中心として、900nmから1040nmの範囲の近赤外域にある。そこで、第1の反射ミラー1aは900nm以上の波長の光を透過し、かつ人間の眼の可視領域である400nmから700nmの光を反射する性質を持つ。本実施形態で使用するコールドミラーは、ガラス上の真空蒸着膜による干渉効果を原理とするものを使用するが、このような原理によらず、前記のような波長に応じた反射・透過の性質を持つものであれば、コールドミラーに代えて使用できる。
The cold mirror that is the first reflecting
第2の反射ミラー1bは800nmから1040nmの波長の近赤外線を反射する鏡である。その波長の光を反射する性質を有しておれば、それ以外の波長は反射しても吸収しても透過しても構わない。本実施形態では、容易に低コストで入手できる、ガラスに銀メッキを施した鏡を使用する。
The second reflecting
図3に示すように、ルームミラー1に対して後方視界中心線Aから入射した光のうち可視光線成分は第1の反射ミラー1aにより反射され、運転者の眼の方向Xに向かう。LED2から発した赤外線は、運転者の顔面に照射され、顔面より反射してルームミラー1に到達し第1の反射ミラー1aを透過し、第2の反射ミラー1bにより反射され、赤外線カメラ4の方向Yへ向かう。また、後方視界から入射した光のうち、第1の反射ミラー1aを透過した赤外線成分は第2の反射ミラー1bにより反射され運転者の眼と異なる方向Zへ向かう。
As shown in FIG. 3, the visible light component of the light incident on the rearview mirror 1 from the rear view center line A is reflected by the first reflecting
赤外線カメラ4は、車両の車室内の天井部において、後方視界中心線Aと角度2θをもって後方に向かう直線Y上に設置され、ルームミラー1の方向に向かってルームミラー1の全体を撮影するに足る画角で撮影する。
The
光学原理から、第1の反射ミラー1aと第2の反射ミラー1bとのなす角度がθであるとき、同一方向から第1の反射ミラー1aに方向Xから入射した可視光線と赤外線は、それぞれ第1と第2の反射ミラー1a、1bで反射されそれぞれの方向に進むが、このとき、それぞれの反射光の方向が互いになす角度は、第1の反射ミラー1aに入射した入射角にかかわらず常に2θである。このことは、光の進行方向が逆であっても同様となる。したがって、方向Xから入射して第2の反射ミラー1bで反射して方向Yに進む赤外線と、方向Aから入射する可視光線とのなす角度は、方向Aからの可視光線の入射角にかかわらず、常に2θとなる。
From the optical principle, when the angle formed by the first reflecting
ここで、方向Aは後方視界の中心に一致し、方向XはLED2から運転者の顔部分で反射した赤外線の照射方向であり、方向Yは赤外線カメラ4の画角の中心に一致する。
Here, the direction A coincides with the center of the rear field of view, the direction X is the irradiation direction of infrared rays reflected from the driver's face portion from the
上記の構成において、運転者3は、第1の反射ミラー1aを通常の後方監視ミラーとして使用する一方、赤外線を視認できない運転者はLED2から照射される赤外線を意識することはない。したがって、方向Aからの後方視界は第1の反射ミラー1aにより確保される。一方、LED2から照射される赤外線は運転者の顔で反射して第1の反射ミラーを透過し、さらに第2の反射ミラーで反射して赤外線カメラ4に到達する。したがって、運転者の顔画像は赤外線カメラ4で確実に撮影される。
In the above configuration, the
第1の反射ミラー1aは、運転者3が後方を視認できるように調整されているから、運転者の顔位置がどこであっても、赤外線カメラ4では、常に運転者の眼を中心とした顔画像を取得することができる。
Since the first reflecting
以上の説明は、垂直面について述べたが、水平面についても同様である。すなわち、水平と垂直のそれぞれの平面において、後方視界の中心線から第1と第2の反射ミラー1a、1bのなす角度θの2倍の角度をなす位置に赤外線カメラ4を設置することで、常に運転者3の眼を中心とした顔画像を撮影することができる。そして、そのようにして得られた画像は、画像中に顔の存在する可能性のある位置の範囲が限られるため、画像認識装置5により画像の中から眼またはその周辺部を探索する際の処理量は従来に比して大幅に軽減される。
In the above description, the vertical plane is described, but the same applies to the horizontal plane. That is, by installing the
図4は、LED2の内部構成図である。
FIG. 4 is an internal configuration diagram of the
点灯制御手段20は、投光の発光・非発光、および発光した場合の発光量を制御する。例えば撮影を行うときのみ発光し撮影しないときは非発光とすることにより無用な電力消費と発熱を避けることができる。あるいは、運転者の周囲に外部から赤外線が照射されているときには撮影に十分な強さになるに足るよう発光量を制御するような使い方も考えられる。さらには、赤外線カメラ4が画像を取得する瞬間に同期して発光する、あるいは発光時の画像と非発光時の画像を個別に取得し差を比較するというような使い方のための制御も考えられる。
The lighting control means 20 controls light emission / non-light emission of light projection and the light emission amount when light is emitted. For example, unnecessary power consumption and heat generation can be avoided by emitting light only when shooting and not emitting light when not shooting. Alternatively, it is also conceivable to use a method of controlling the light emission amount so that the driver is sufficiently strong for photographing when infrared rays are irradiated from the outside around the driver. Furthermore, it is possible to control for usage such that the
LED駆動手段21は、点灯制御手段11からの指示に応じてLED部22に電流を供給して発光を制御する。駆動電流を制御することにより、発光する赤外線の強度を制御することができる。
The
LED部22は、LED駆動手段12から供給される電流により赤外線を発生するひとつまたは複数の赤外LED素子である。本実施例では、950nmを中心に800nmから1040nmの範囲の波長の近赤外線を発生する近赤外LED素子(例えばシャープ株式会社製GL381)を使用する。赤外LED素子の使用個数は、必要とされる光量と、個々の素子の発光光量により決まる。発光する赤外線の波長は、人間に殆ど不可視で、運転手顔面が撮像するのに適当な反射率を持ち、安価に入手でき、安価な撮像素子で撮影でき、空気中で大きく減衰しない、などの特性を持つ必要がある。本実施形態で使用する波長域はその要件を満たすが、要件を満たすのであれば他の波長域を使用しても構わないことはもちろんである。
The
レンズ23は、LED部22により発生された赤外線を、適切な拡がり角度を持つように収束させる。本実施形態では運転者の顔の存在する可能性のある領域を一様に照射するような拡がりを光線に与えている。あるいは赤外LED素子自体が持つ発光指向性が素子が適切な拡がり角を満たす場合であればレンズ23は不要である。
The
図5は赤外線カメラ4の構成図である。
FIG. 5 is a configuration diagram of the
赤外線カメラ4に入射した赤外線は画角制御手段40を経て、レンズ41により収束させられ、赤外線撮像素子42上に結像し電子データに変換されて、画像データ出力手段43により画像データとして出力される。
The infrared rays incident on the
画角制限手段40は、撮影しようとする画像のルームミラー1以外の部分からの光を遮断するためのものである。本発明の課題の一つは、ルームミラー1を介して運転者の顔を撮影することであるので、ルームミラー1による反射光以外の光線は、不要であるばかりでなく、フレアやゴーストや迷光によるノイズの原因となり好ましくない。そのため、画角制限手段により赤外線撮像素子42に入射する光線を、ルームミラー1およびその周辺に制限することが望ましい。ルームミラー1は可動ではあるがその動きはハウジング1cと支持アーム1dとの接続部の回転機構を中心とした回転運動であることと、運転者が得るべき後方視界が車両のリアウィンドウ5を通しての視界であることから、その可動範囲は限定されており予測可能である。したがって、ルームミラー1が可動範囲内全体を撮影可能で範囲外が遮蔽されるような画角制限手段を使用することにより、必要以外の光線が赤外線撮像素子42に入射することを制限することができる。不要な光線による影響が問題にならない場合かあるいはレンズ41がそのような画角制限機能を併せ持つのであれば、画角制限手段40は無くても良い。
The angle-of-view restriction means 40 is for blocking light from a portion other than the room mirror 1 of the image to be photographed. Since one of the problems of the present invention is to photograph the driver's face through the rearview mirror 1, not only the light reflected by the rearview mirror 1 is unnecessary, but also flare, ghost and stray light. This is not preferable because it causes noise. Therefore, it is desirable to limit the light rays incident on the
赤外線撮像素子42は、LED2が発生する波長の赤外線に対して十分な感度を持つものを使用する。本実施形態では、LED2が発生する赤外線の波長は950nmをピーク波長とする800nmから1040nmの波長域である。一般にシリコンフォトダイオードは可視光線領域のみならず、1100nm程度の波長の近赤外線領域までの感度を持つため、シリコンフォトダイオードの原理を使用して製作されたCCD,CMOSなどの撮像素子を使用した赤外線カメラが使用できる。例えば、ソニー社製のCCD撮像素子ICX429ALLの例では、950nmの波長においてもピーク感度の20%程度の感度を持つので本実施形態における赤外線撮像素子42として感度の点では好適である。同様の赤外感度を持つシリコンフォトダイオードを使用して政策された高ダイナミックレンジのCMOS赤外線カメラであればさらに好適である。また、外乱光の影響を小さくするために、可視光線を遮断し赤外線を透過するフィルタなどの手段を用いて撮像素子がLED2からの光の波長域以外の波長の光を感知しないようにしても良い。
As the
赤外線カメラ4の撮影する画角は、ルームミラー1全体を撮影する大きさがあれば十分である。ルームミラー1を含む円の半径を100mm、赤外線カメラ4からルームミラー1までの距離を300mmであるとした場合、適切な拡がり角度は 2*tan-1(100/300)、すなわち約37度である。また、そのとき、ルームミラー1の大きさを水平方向に200mm、垂直方向に50mmであるとし、ルームミラー1から運転者の顔面までの距離を400mmとすると、運転者の顔面が撮影される範囲は、垂直方向に116mm、水平方向に466mmとなり、運転者の眼を撮影するのに十分な大きさを持つ。
It is sufficient that the angle of view of the
赤外線カメラ4で取得された画像は画像認識装置7(図1参照)に送られる。
The image acquired by the
画像認識装置7は受け取った画像データを処理し、画像中の運転者顔面情報から自動車の安全機能や快適機能を実現するために必要な運転者の状態に関する情報を認識し出力する。運転者の顔画像から得られる運転者の状態により実現される機能は多様であり、本発明は認識機能を特定するものでは無いが、本実施形態では一例として脇見検知機能のための視線検出機能を持つものとする。 The image recognition device 7 processes the received image data, and recognizes and outputs information relating to the driver's state necessary for realizing the safety function and comfort function of the vehicle from the driver face information in the image. There are various functions realized by the driver's state obtained from the driver's face image, and the present invention does not specify the recognition function, but in this embodiment, as an example, the line-of-sight detection function for the armpit detection function Shall have.
脇見検知を実現する一方法として、運転者の視線を検出し、視線方向が適切なタイミングで適切な方向を向いていることを判定する方法がある。視線を検知することによる方法は、別の実現方法である運手者の顔の向きにより判定する方法に比べて、実際の注視方向を検出するという点で高精度で確実度が高い。一方で、視線を検出する画像認識処理は、顔の向きを検出する画像認識処理に比べて大幅に高度な処理であり、入力される画像から運転者の眼を迅速かつ確実に検出することが要求される。本発明は、運転者の眼部分を撮影するものであるため、視線検出機能は本発明の実施形態として好適である。 As a method for realizing the side-by-side detection, there is a method of detecting the driver's line of sight and determining that the direction of the line of sight is directed in an appropriate direction at an appropriate timing. The method by detecting the line of sight is highly accurate and highly reliable in that it detects the actual gaze direction as compared to the method of determining by the direction of the face of the operator, which is another implementation method. On the other hand, the image recognition process for detecting the line of sight is significantly more advanced than the image recognition process for detecting the orientation of the face, and can quickly and reliably detect the driver's eyes from the input image. Required. Since the present invention captures the driver's eye part, the line-of-sight detection function is suitable as an embodiment of the present invention.
本発明においては、上記画像認識装置7に報知手段を接続することにより安全運転支援装置として使用することが可能である。
安全運転支援装置では、画像認識装置7は上記視線検出を行う。本実施形態では、画像認識装置7がルームミラーに映る運転者の目周辺の画像を用いて視線検出を行うことが可能であるため、運転者が後方を確認するためにルームミラーの方向に視線を向けたときに、眼球の正面がカメラ方向に向くことで視線を高精度で検出できる。これにより、運転者が後方の確認を行う行為の有無について運転席前方に取り付けたカメラよりも遥かに正確に検出することができる。したがって、例えば、運転者が前方の一定方向のみを見ていて5分間以上の長い時間の間、ルームミラーの方向に視線を向けなければ、注意力が低下していると判定することが可能となる。安全運転支援装置では、上記画像認識装置7において注意力が低下したことを検出したときに、報知手段により、音声メッセージや表示装置への表示、LEDの点滅、ステアリングやペダルへのキックバックなどで運転者に対して、後方を確認するよう注意を喚起する構成にする。このようにすれば、運転者の注意力が低下して前方以外の後方などの周囲の状況に十分な注意を払っていないときに注意力を回復させることができる。
In the present invention, the image recognition device 7 can be used as a safe driving support device by connecting a notification means.
In the safe driving support device, the image recognition device 7 performs the line-of-sight detection. In the present embodiment, the image recognition device 7 can detect the line of sight using an image around the eyes of the driver that is reflected in the rearview mirror, so that the driver can gaze in the direction of the rearview mirror in order to confirm the rear. When the eye is pointed, the line of sight can be detected with high accuracy because the front of the eyeball faces the camera. Accordingly, it is possible to detect the presence / absence of the action of the driver confirming backwards more accurately than a camera attached in front of the driver's seat. Therefore, for example, it is possible to determine that the driver's attention is reduced if the driver looks only in a certain forward direction and does not turn his gaze toward the rear mirror for a long time of 5 minutes or longer. Become. In the safe driving support device, when it is detected that the attention is reduced in the image recognizing device 7, an informing means performs a voice message, display on the display device, blinking LED, kickback to the steering wheel or pedal, etc. A configuration that alerts the driver to confirm the rear is adopted. In this way, the driver's attention can be reduced, and the driver's attention can be recovered when the driver is not paying sufficient attention to the surrounding situation other than the front.
また、上記安全運転支援装置において、顔方向も安全運転支援のための重要な情報として利用することができる。画像認識装置7では、ルームミラーに映る運転者の目付近の画像を使って顔方向を検出することが可能で、特に、運転者が助手席側のルームミラー方向に顔を向けたときに、目の画像が左右対称に近くなることから、これを判定することにより非常に正確に顔方向を検出できる。そして、一定の時間以上顔方向が正面を向いていないときには、報知手段により、上記と同様に、音声メッセージや表示装置への表示、LEDの点滅、ステアリングやペダルへのキックバックなどで運転者に対して、後方を確認するよう注意を喚起する構成にする。 In the safe driving support device, the face direction can also be used as important information for safe driving support. In the image recognition device 7, it is possible to detect the face direction using an image near the driver's eyes reflected in the rearview mirror, particularly when the driver turns his face in the rearview mirror direction on the passenger seat side. Since the image of the eyes is nearly symmetrical, the face direction can be detected very accurately by determining this. Then, when the face direction is not facing the front for a certain period of time, the notification means informs the driver by voice message, display on the display device, blinking of the LED, kickback to the steering wheel or pedal, etc. On the other hand, a structure that calls attention to confirm the rear is adopted.
なお、両目周辺の画像あるいは片目しか映っていない横顔の目周辺の画像を使って検出した顔方向についても、安全運転支援のために、視線に関する情報と同様に有効に活用することができる。 It should be noted that the face direction detected using the image around both eyes or the image around the side of the side face in which only one eye is reflected can be effectively used in the same manner as the information on the line of sight for safe driving support.
図6に画像認識装置7の構成例を示す。 FIG. 6 shows a configuration example of the image recognition device 7.
赤外線カメラ4から送られた画像データは眼検出手段70に送られる。眼検出手段70は、画像中から人間の眼を検出し、検出された眼部分画像データを視線検出手段71に送り、同時に眼検出の成否すなわち眼の検出結果の有無情報を判定手段に送る。
The image data sent from the
視線検出手段71は、眼部分の画像データから眼全体の形状と眼部分内の瞳の相対位置から視線方向を検出し、視線情報出力72として出力する。同時に、視線検出の成否すなわち視線の検出結果の有無情報を判定手段に送る。
The line-of-sight detection means 71 detects the line-of-sight direction from the shape of the entire eye and the relative position of the pupil in the eye part from the image data of the eye part, and outputs it as the line-of-
判定手段73は、眼検出の有無情報と視線検出の有無情報から、眼の状態を判定し判定情報出力74として出力する。判定情報出力74に出力される情報は、例えば眼が検出されないときは眼検出失敗とされるが、これは運転者が前方を向いていない可能性があることを示す情報として利用される。あるいは、眼検出は成功したが、視線が検出されない場合は視線検出失敗とされ、これは運転者が眼を閉じている可能性があることを示す情報として利用される。あるいは、眼検出失敗にかかわらず視線検出が成功した場合は、何らかの画像認識処理上の誤認識が発生とした可能性が高いとするというような、視線情報出力の信頼度を示す情報として利用されることも可能である。
The
図7は、赤外線カメラ4の設置位置例を示す図である。
FIG. 7 is a diagram illustrating an installation position example of the
前記第2の反射ミラー1bと第2の反射ミラー1bとのなす角度θはゼロから90度の範囲で任意に設定可能である。このため、この角度θを調整することにより、赤外線カメラ4の設置位置の自由度を高くできる。例えば、図7(A)のように、赤外線カメラ4を第2の反射ミラー1bに近づけると運転者3の眼を中心とした広い範囲を撮影することができ、反対に、図7(B)のように、赤外線カメラ4を第2の反射ミラー1bから遠ざけると運転者3の眼とその周辺の狭い範囲を撮影することができる。いずれの場合も、赤外線カメラ4が後方視界を妨げることがないから運転者3はいつの場合も問題なく後方を監視することができる。
The angle θ formed by the
なお、図3において説明したように、図8のように後方から赤外線を含む外光30、例えば後続車のヘッドライトの光などがルームミラー1に向けて照射されることがあり、その場合、従来のルームミラー1においては運転者3の顔面に強い赤外線が照射されることになるが、本実施形態では、この方向からの外光30は、図示のように第1の反射ミラー1bを通過し、第2の反射ミラー1bにより運転者3の顔面と異なる方向Zに反射されるため、撮影画像に影響を及ぼすことがない。
As described with reference to FIG. 3,
また、図8において、可視光線を透過せず、赤外線を透過するカバー31で赤外線カメラ4を覆うことにより、運転者3からは赤外線カメラ4が完全に隠蔽される。このように構成することで、運転者3に対する心理的圧迫感をなくし、また、内装デザイン上の制約もなくすことができる。
In FIG. 8, the
なお、この実施形態は、自動車に適用した例を示したが、自動車以外に、鉄道車両、船舶等に適用することも可能である。 In addition, although this embodiment showed the example applied to the motor vehicle, it is also possible to apply to a rail vehicle, a ship, etc. besides a motor vehicle.
1−ルームミラー
1a−第1の反射ミラー
1b−第2の反射ミラー
2−(近赤外高輝度)LED
3−運転者
4−赤外線カメラ
7−画像認識装置
1-
3-Driver 4-Infrared camera 7-Image recognition device
Claims (8)
運転者の顔面に対応する領域に向けて赤外線を照射する運転者照明装置と、
前記後方監視ミラーの後方の斜め上方に設置された赤外線に感度を有するカメラと、
を備えたことを特徴とする運転者撮影装置。 A first reflecting means that reflects visible light and transmits infrared light; and a second reflecting means that is provided behind the first reflecting means at a predetermined angle θ and reflects infrared light. A rear-viewing mirror installed obliquely above the front;
A driver illumination device that emits infrared rays toward an area corresponding to the driver's face;
A camera having sensitivity to infrared rays installed obliquely above and behind the rear monitoring mirror;
A driver photographing apparatus comprising:
この運転者撮影装置で撮影された画像から運転者の顔または眼を検出し、検出した顔または眼の画像に基づいて居眠り、脇見運転、注意力の低下等の運転者の状態を判定する画像認識装置と、
を備えた運転者監視装置。 The driver photographing apparatus according to any one of claims 2 to 6,
An image for detecting a driver's face or eyes from an image photographed by the driver photographing apparatus, and determining a driver's state such as a nap, a side-by-side driving, a decrease in attention, etc. based on the detected face or eye image A recognition device;
Driver monitoring device with
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005067257A JP2006248365A (en) | 2005-03-10 | 2005-03-10 | Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005067257A JP2006248365A (en) | 2005-03-10 | 2005-03-10 | Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006248365A true JP2006248365A (en) | 2006-09-21 |
Family
ID=37089308
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005067257A Pending JP2006248365A (en) | 2005-03-10 | 2005-03-10 | Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006248365A (en) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008171065A (en) * | 2007-01-09 | 2008-07-24 | Denso Corp | Sleepiness detection device |
US7946744B2 (en) | 2007-02-02 | 2011-05-24 | Denso Corporation | Projector and image pickup apparatus |
US8218832B2 (en) | 2007-12-07 | 2012-07-10 | Denso Corporation | Apparatus for detecting feature of driver's face |
JP2013103530A (en) * | 2011-11-10 | 2013-05-30 | Denso Corp | State monitor apparatus |
JP2015097087A (en) * | 2013-11-05 | 2015-05-21 | ビステオン グローバル テクノロジーズ インコーポレイテッド | System and method for monitoring driver of vehicle |
WO2016132848A1 (en) * | 2015-02-16 | 2016-08-25 | 株式会社デンソー | Driving assistance device and driving assistance method |
EP3153354A4 (en) * | 2014-06-09 | 2018-01-24 | Nippon Seiki Co., Ltd. | Blind spot assistance device |
US20180110428A1 (en) * | 2016-10-20 | 2018-04-26 | Panasonic Intellectual Property Management Co., Ltd. | Pulse wave measuring apparatus and pulse wave measuring method |
JP2018069026A (en) * | 2016-10-20 | 2018-05-10 | パナソニックIpマネジメント株式会社 | Pulse wave measurement device and pulse wave measurement method |
US10046705B2 (en) | 2013-12-25 | 2018-08-14 | Nippon Seiki Co., Ltd. | Blind spot assist device |
CN115398883A (en) * | 2020-07-29 | 2022-11-25 | Jvc建伍株式会社 | Infrared imaging device and infrared imaging system |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000225893A (en) * | 1999-02-08 | 2000-08-15 | Tokai Rika Co Ltd | Inner mirror |
-
2005
- 2005-03-10 JP JP2005067257A patent/JP2006248365A/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000225893A (en) * | 1999-02-08 | 2000-08-15 | Tokai Rika Co Ltd | Inner mirror |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008171065A (en) * | 2007-01-09 | 2008-07-24 | Denso Corp | Sleepiness detection device |
US7946744B2 (en) | 2007-02-02 | 2011-05-24 | Denso Corporation | Projector and image pickup apparatus |
US8218832B2 (en) | 2007-12-07 | 2012-07-10 | Denso Corporation | Apparatus for detecting feature of driver's face |
JP2013103530A (en) * | 2011-11-10 | 2013-05-30 | Denso Corp | State monitor apparatus |
JP2015097087A (en) * | 2013-11-05 | 2015-05-21 | ビステオン グローバル テクノロジーズ インコーポレイテッド | System and method for monitoring driver of vehicle |
US10046705B2 (en) | 2013-12-25 | 2018-08-14 | Nippon Seiki Co., Ltd. | Blind spot assist device |
EP3153354A4 (en) * | 2014-06-09 | 2018-01-24 | Nippon Seiki Co., Ltd. | Blind spot assistance device |
WO2016132848A1 (en) * | 2015-02-16 | 2016-08-25 | 株式会社デンソー | Driving assistance device and driving assistance method |
US20180110428A1 (en) * | 2016-10-20 | 2018-04-26 | Panasonic Intellectual Property Management Co., Ltd. | Pulse wave measuring apparatus and pulse wave measuring method |
JP2018069026A (en) * | 2016-10-20 | 2018-05-10 | パナソニックIpマネジメント株式会社 | Pulse wave measurement device and pulse wave measurement method |
US11147464B2 (en) | 2016-10-20 | 2021-10-19 | Panasonic Intellectual Property Management Co., Ltd. | Pulse wave measuring apparatus and pulse wave measuring method |
CN115398883A (en) * | 2020-07-29 | 2022-11-25 | Jvc建伍株式会社 | Infrared imaging device and infrared imaging system |
CN115398883B (en) * | 2020-07-29 | 2024-01-09 | Jvc建伍株式会社 | Infrared imaging device and infrared imaging system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2006252138A (en) | Apparatus for photographing driver and apparatus for monitoring driver | |
US7551987B2 (en) | Illuminating apparatus, image capturing apparatus, and monitoring apparatus, for vehicle driver | |
US10095914B2 (en) | Image pickup device, near infrared light emission device, and sunvisor | |
WO2014017061A1 (en) | State monitoring device | |
JP2008094221A (en) | Eye state detector, and eye state detector mounting method | |
JP5761046B2 (en) | Anti-glare control device | |
JP2002316580A (en) | Mirror device with built-in camera | |
JP2006248365A (en) | Back monitoring mirror of movement body, driver photographing device, driver monitoring device and safety driving support device | |
JP5368771B2 (en) | Crew monitoring device | |
JP4269998B2 (en) | Imaging device | |
JP2008189253A (en) | Anti-glare control device | |
JP2010179817A (en) | Anti-dazzling device for vehicle | |
JP2007029712A (en) | Visual axis detecting apparatus | |
JP2016167189A (en) | Drunken state detector and room mirror device | |
JP5573820B2 (en) | Condition monitoring device | |
JP2007004448A (en) | Line-of-sight detecting apparatus | |
JP5352266B2 (en) | Anti-glare device | |
CN110789455B (en) | Outside rear-view mirror and vehicle | |
JP5206190B2 (en) | Driver monitoring device | |
JP3296119B2 (en) | Gaze direction measuring device for vehicles | |
JP6572809B2 (en) | Image processing device | |
KR102320030B1 (en) | Camera system for internal monitoring of the vehicle | |
JP2003011722A (en) | Nighttime running support device | |
JP2009096323A (en) | Camera illumination control device | |
WO2021172333A1 (en) | Vehicle display device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080117 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100525 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20101005 |