JP7331729B2 - 運転者状態推定装置 - Google Patents
運転者状態推定装置 Download PDFInfo
- Publication number
- JP7331729B2 JP7331729B2 JP2020026633A JP2020026633A JP7331729B2 JP 7331729 B2 JP7331729 B2 JP 7331729B2 JP 2020026633 A JP2020026633 A JP 2020026633A JP 2020026633 A JP2020026633 A JP 2020026633A JP 7331729 B2 JP7331729 B2 JP 7331729B2
- Authority
- JP
- Japan
- Prior art keywords
- driver
- state
- attention
- vehicle
- saliency
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W10/00—Conjoint control of vehicle sub-units of different type or different function
- B60W10/04—Conjoint control of vehicle sub-units of different type or different function including control of propulsion units
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W10/00—Conjoint control of vehicle sub-units of different type or different function
- B60W10/18—Conjoint control of vehicle sub-units of different type or different function including control of braking systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W10/00—Conjoint control of vehicle sub-units of different type or different function
- B60W10/20—Conjoint control of vehicle sub-units of different type or different function including control of steering systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/105—Speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/107—Longitudinal acceleration
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/112—Roll movement
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0818—Inactivity or incapacity of driver
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0872—Driver physiology
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
- B60W2520/105—Longitudinal acceleration
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/10—Accelerator pedal position
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/12—Brake pedal position
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/18—Steering angle
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/22—Psychological state; Stress level or workload
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/221—Physiology, e.g. weight, heartbeat, health or special needs
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/223—Posture, e.g. hand, foot, or seat position, turned or inclined
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2540/00—Input parameters relating to occupants
- B60W2540/225—Direction of gaze
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Landscapes
- Engineering & Computer Science (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Mathematical Physics (AREA)
- Chemical & Material Sciences (AREA)
- Combustion & Propulsion (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Description
図1は、実施形態の車両制御システム10の構成を例示する。この車両制御システム10は、車両(具体的には自動四輪車)に設けられる。車両は、マニュアル運転とアシスト運転と自動運転とに切り換え可能である。マニュアル運転は、運転者の操作(例えばアクセルの操作など)に応じて走行する運転である。アシスト運転は、運転者の操作を支援して走行する運転である。自動運転は、運転者の操作なしに走行する運転である。車両制御システム10は、アシスト運転および自動運転において、車両を制御する。具体的には、車両制御システム10は、車両に設けられたアクチュエータ11を制御することで車両の動作(特に走行)を制御する。なお、車両制御システム10は、移動体に設けられる移動体制御システムの一例である。
アクチュエータ11は、駆動系のアクチュエータ、操舵系のアクチュエータ、制動系のアクチュエータなどを含む。駆動系のアクチュエータの例としては、エンジン、トランスミッション、モータが挙げられる。制動系のアクチュエータの例としては、ブレーキが挙げられる。操舵系のアクチュエータの例としては、ステアリングが挙げられる。
情報取得部20は、車両の制御に用いられる各種情報を取得する。この例では、情報取得部20は、複数のカメラ21と、複数のレーダ22と、位置センサ23と、通信部24と、車両状態センサ25と、運転操作センサ26と、運転者状態センサ27とを含む。
複数のカメラ21は、互いに同様の構成を有する。複数のカメラ21は、複数のカメラ21の撮像エリアが車両の周囲を囲うように車両に設けられる。複数のカメラ21は、車両の周囲に広がる環境(外部環境)を撮像することで、外部環境を示す画像データを取得する。複数のカメラ21の各々により得られた画像データは、車両制御装置30に送信される。
複数のレーダ22は、互いに同様の構成を有する。複数のレーダ22は、複数のレーダ22の探索エリアが車両の周囲を囲うように車両に設けられる。複数のレーダ22は、外部環境を検出する。具体的には、レーダ22は、車両の外部環境へ向けて探索波を送信して外部環境からの反射波を受信することで外部環境を検出する。複数のレーダ22の検出結果は、車両制御装置30に送信される。
位置センサ23は、車両の位置(例えば緯度および経度)を検出する。例えば、位置センサ23は、全地球測位システムからのGPS情報を受信し、GPS情報に基づいて車両の位置を検出する。位置センサ23により得られた情報(車両の位置)は、車両制御装置30に送信される。
通信部24は、車両の外部に設けられた車外ネットワーク(例えばインターネットなど)を通じて情報を受信する。例えば、通信部24は、車両の周囲に位置する他車両(図示省略)からの通信情報、ナビゲーションシステム(図示省略)からのカーナビゲーションデータ、交通情報、ダイナミックマップなどの高精度地図情報などを受信する。通信部24により得られた情報は、車両制御装置30に送信される。
車両状態センサ25は、車両の状態(例えば速度や加速度やヨーレートなど)を検出する。例えば、車両状態センサ25は、車両の速度を検出する車速センサ、車両の加速度を検出する加速度センサ、車両のヨーレートを検出するヨーレートセンサなどを含む。車両状態センサ25により得られた情報(車両の状態)は、車両制御装置30に送信される。
運転操作センサ26は、車両に加えられる運転操作を検出する。例えば、運転操作センサ26は、アクセル開度センサ、操舵角センサ、ブレーキ油圧センサなどを含む。アクセル開度センサは、車両のアクセルの操作量を検出する。操舵角センサは、車両のステアリングホイールの操舵角を検出する。ブレーキ油圧センサは、車両のブレーキの操作量を検出する。運転操作センサ26により得られた情報(車両の運転操作)は、車両制御装置30に送信される。
運転者状態センサ27は、車両に搭乗する運転者の状態(例えば運転者の身体挙動や生体情報など)を検出する。運転者状態センサ27により得られた情報(運転者の状態)は、車両制御装置30に送信される。この例では、運転者状態センサ27は、車内カメラ28と、生体情報センサ29とを含む。
車内カメラ28は、車両の内部に設けられる。車内カメラ28は、運転者を含む領域を撮像することで運転者を含む画像データを取得する。車内カメラ28により得られた画像データは、車両制御装置30に送信される。この例では、車内カメラ28は、運転者の前方に配置され、運転者の顔(特に眼球)が撮像範囲内に位置するように撮像範囲が設定される。なお、車内カメラ28は、運転者に装着されるゴーグル(図示省略)に設けられてもよい。
生体情報センサ29は、車両の内部に設けられる。生体情報センサ29は、運転者の生体情報を検出する。なお、運転者の生体情報の例としては、発汗、心拍、血流量、皮膚温などが挙げられる。生体情報センサ29により得られた情報(運転者の生体情報)は、車両制御装置30に送信される。例えば、生体情報センサ29は、運転者の手と接触する箇所(例えば後述するステアリングホイール76)に配置されてもよいし、運転者の身体に装着される部材(図示省略)に設けられてもよい。
車両制御装置30は、アクチュエータ11および車両制御システム10の各部(この例では情報取得部20と通知部40など)と信号伝送可能に接続される。そして、車両制御装置30は、車両制御システム10の各部により得られた情報に基づいてアクチュエータ11および車両制御システム10の各部を制御する。具体的には、車両制御装置30は、アシスト運転または自動運転において、情報取得部20により取得された各種情報に基づいて、車両が走行すべき経路である目標経路を決定し、目標経路を走行するために必要となる車両の運動である目標運動を決定する。そして、車両制御装置30は、車両の運動が目標運動となるように、アクチュエータ11の動作を制御する。なお、車両制御装置30は、運転者状態推定装置の一例である。
車両挙動認識部31は、車両状態センサ25の出力に基づいて車両の挙動(例えば速度や加速度やヨーレートなど)を推定する。例えば、車両挙動認識部31は、深層学習により生成された学習モデルを用いて、車両状態センサ25の出力から車両の挙動を示すデータを生成する。
運転操作認識部32は、運転操作センサ26の出力に基づいて車両に加えられる運転操作を認識する。例えば、運転操作認識部32は、深層学習により生成された学習モデルを用いて、運転操作センサ26の出力から車両に加えられる運転操作を示すデータを生成する。
外部環境認識部33は、複数のカメラ21の出力と、複数のレーダ22の出力と、位置センサ23の出力と、通信部24の出力と、車両挙動認識部31の出力に基づいて、車両の外部環境を認識する。
運転者状態認識部34は、運転者状態センサ27の出力に基づいて運転者の状態(例えば運転者の健康状態や感情や姿勢など)を認識する。例えば、運転者状態認識部34は、深層学習により生成された学習モデルを用いて、運転者状態センサ27の出力から運転者の状態を示すデータを生成する。この例では、運転者状態認識部34は、運転者状態推定部300を有する。運転者状態推定部300については、後で詳しく説明する。
車両制御部35は、車両挙動認識部31の出力と、運転操作認識部32の出力と、外部環境認識部33の出力と、運転者状態認識部34の出力に基づいて、アクチュエータ11を制御する。この例では、車両制御部35は、走行制御と、通知制御とを行う。
走行制御は、アシスト運転および自動運転において行われる。走行制御では、車両制御部35は、車両の走行を制御する。この例では、車両制御部35は、走行制御において、候補経路生成処理と、目標経路決定処理と、運動制御処理とを行う。
通知制御では、車両制御部35は、運転者に通知するための各種情報を出力する。この例では、車両制御部35は、運転者に通知するための各種情報を通知部40に出力する。
通知部40は、車両の内部に設けられる。そして、通知部40は、車両の運転者に各種情報を通知する。この例では、通知部40は、表示部41と、スピーカ42とを含む。表示部41は、各種情報を画像で出力する。スピーカ42は、各種情報を音声で出力する。
図2に示すように、車両の前側には、フロントウィンドウガラス60が設けられる。フロントウィンドウガラス60は、2つのフロントピラートリム71と、ルーフトリム72と、インストルメントパネル73とに囲まれる。2つのフロントピラートリム71は、フロントウィンドウガラス60の右側および左側の境界をそれぞれ構成する。2つのフロントピラートリム71は、上側へ向かうに連れて互いに離間するように傾斜している。ルーフトリム72およびインストルメントパネル73は、フロントウィンドウガラス60の上側および下側の境界をそれぞれ構成する。また、フロントウィンドウガラス60の上側中央部には、バックミラー74が設けられる。フロントピラートリム71よりも車幅方向の外側には、サイドミラー75が設けられる。インストルメントパネル73には、表示部41と、ステアリングホイール76と、メータークラスタ77とが設けられる。
次に、以下の説明において用いられる用語について説明する。以下の説明では、注意資源、トップダウン注意、トップダウン注意資源量、トップダウン注意ディマンド量、ボトムアップ注意、ボトムアップ注意資源量、ボトムアップ注意ディマンド量、タスクディマンド、注目箇所、サリエンシーという用語が用いられる。
注意資源は、人(運転者)の注意力を定量的に示す概念である。人の注意力は、有限の資源であると考えることができる。ある対象に対する注意に割り当てられる注意資源の量が不足している場合、その対象に対して人の注意力を十分に発揮することができず、その対象に対する人の注意が不十分となる。
トップダウン注意は、人が意図する箇所に視線を能動的に移動させる注意メカニズムのことである。例えば、選ぶべき刺激について事前知識をもっている場合、人は、能動的にバイアスをかけることによって目的とする刺激を選択することができる。
トップダウン注意資源量は、人のトップダウン注意に割り当てられる注意資源の量のことである。トップダウン注意ディマンド量は、人のトップダウン注意に対して要求される注意資源の量のことである。トップダウン注意資源量がトップダウン注意ディマンド量を下回ると、トップダウン注意が不十分となる。
ボトムアップ注意は、目立つ箇所に人の視線が受動的に惹きつけられる注意メカニズムのことである。例えば、複数の視覚刺激のうち1つの刺激が周囲の刺激と顕著に異なる場合、視覚刺激が突然出現した場合など、その刺激に対して人の視線が受動的に惹きつけられる。
ボトムアップ注意資源量は、人のボトムアップ注意に割り当てられる注意資源の量のことである。ボトムアップ注意ディマンド量は、人のボトムアップ注意に対して要求される注意資源の量のことである。ボトムアップ注意資源量がボトムアップ注意ディマンド量を下回ると、ボトムアップ注意が不十分となる。
タスクディマンドは、運転タスクの難易度のことである。運転タスクの難易度が高くなるに連れて、タスクディマンドが大きくなる。運転タスクは、車両を運転する運転者に課せられる仕事のことである。運転タスクには、車両の外部に関する外部タスクと、車両の内部に関する内部タスクとが含まれる。外部タスクの例としては、状況監視、危険回避、車速保持/調節、車線保持/調節、交通ルール遵守、目的地探索などが挙げられる。状況監視では、運転者の目視による車両の前方の確認、バックミラー74およびサイドミラー75を用いた車両の後方の確認が行われる。危険回避では、他車両、歩行者、路側物などの障害物の確認、危険回避のための運転操作が行われる。車速保持/調節では、自車両の前方を走行する他車両、道路勾配、道路線形などの確認、車速保持/調節のための運転操作が行われる。車線保持/調節では、道路線形、区画線、路肩などの確認、車線保持/調節のための運転操作が行われる。交通ルール遵守では、信号機、道路標識、路面標示などの確認が行われる。目的地探索では、目的地を示す看板などの確認が行われる。内部タスクの例としては、メータークラスタ77などの表示機器の確認、ナビゲーションシステムなどの操作機器の確認などが挙げられる。例えば、高速道路などの確認すべき箇所が少ない単調な運転シーンでは、タスクディマンドが小さくなり、市街地道路などの確認すべき箇所が多い複雑な運転シーンでは、タスクディマンドが大きくなる。
注目箇所は、車両に搭乗する運転者の周囲に広がる環境(以下では「運転者の周囲環境」と記載)において、運転者が注目すべき箇所のことである。注目箇所は、トップダウン注意において運転者が意図的に視線を向けるべき箇所である。注目箇所は、車両の運転シーン毎に定めることが可能である。注目箇所の例としては、バックミラー74、サイドミラー75、メータークラスタ77、他車両、歩行者、路側物、区画線、路肩、信号機、道路標識、路面標示などが挙げられる。なお、注目箇所は、経験的に定められてもよい。例えば、歩行者の飛び出しが予測される交差点が注目箇所に設定されてもよい。
サリエンシーは、ボトムアップ注意を誘引する視覚刺激の度合いを示す値であり、色、輝度、方向、動きなどの特徴により変化する値である。例えば、画像に含まれる任意の領域とその領域の周囲の領域との間において色、輝度、方向、動きなどの特徴の違いが顕著になるに連れて、ボトムアップ注意を誘引する視覚刺激が強くなり、その任意の領域におけるサリエンシーが高くなる。画像に含まれる任意の箇所におけるサリエンシーが高くなるほど、その任意の箇所に人の視線が惹きつけられやすくなる。
図3は、運転者状態推定部300の構成を例示する。運転者状態推定部300は、視線検出部310と、第1計測部320と、第2計測部330と、推定部340とを有する。
視線検出部310は、運転者の視線を検出する。この例では、視線検出部310は、車内カメラ28により得られた画像データに対して視線検出処理を行うことにより、運転者の視線を検出する。なお、この視線検出処理は、深層学習により生成された学習モデル(視線を検出するための学習モデル)を用いて行われる処理であってもよいし、周知の視線検出技術を用いて行われる処理であってもよい。例えば、視線検出部310は、車内カメラ28により得られた画像(画像データ)の中から運転者の瞳孔を検出し、その検出された瞳孔に基づいて運転者の視線を検出する。なお、運転者の視線は、運転者の右眼の視線であってもよいし、運転者の左眼の視線であってもよいし、運転者の右眼の視線および左眼の視線に基づいて導出される視線であってもよい。
第1計測部320は、運転者の周囲環境のうち運転者のトップダウン注意が支配的となる第1領域R10において、運転者のトップダウン注意資源量と相関のある第1指標値id1を計測する。運転者のトップダウン注意資源量が多くなるに連れて、第1領域R10における第1指標値id1が大きくなる。なお、第1領域R10については、後で詳しく説明する。この例では、第1計測部320は、注目箇所検出部321と、第1指標導出部322とを有する。
注目箇所検出部321は、運転者の周囲環境における注目箇所を検出する。この例では、注目箇所検出部321は、複数のカメラ21のうち車両の前方領域を撮像するカメラ21の出力に基づいて、運転者の周囲環境における注目箇所を示す注目箇所マップデータD3を生成する。具体的には、注目箇所検出部321は、以下の手順により、注目箇所マップデータD3を生成する。
第1指標導出部322は、運転者の周囲環境における注目箇所に対する運転者の視線の動きに基づいて、第1領域R10における第1指標値id1を導出する。具体的には、第1指標導出部322は、運転者の周囲環境における注目箇所と運転者の視線との合致度(合致頻度)に基づいて、第1領域R10における第1指標値id1を導出する。運転者のトップダウン注意資源量が増加すると、第1領域R10において運転者の周囲環境における注目箇所と運転者の視線との合致度が増加し、その結果、第1領域R10における第1指標値id1が増加する。
第2計測部330は、運転者の周囲環境のうち運転者のボトムアップ注意が支配的となる第2領域R20において、運転者のボトムアップ注意資源量と相関のある第2指標値id2を計測する。運転者のボトムアップ注意資源量が多くなるに連れて、第2領域R20における第2指標値id2が大きくなる。なお、第2領域R20については、後で詳しく説明する。この例では、第2計測部330は、注目箇所検出部321と、第2指標導出部332とを有する。
サリエンシー検出部331は、運転者の周囲環境におけるサリエンシーの分布を検出する。この例では、サリエンシー検出部331は、複数のカメラ21のうち車両の前方領域を撮像するカメラ21の出力に基づいて、運転者の周囲環境におけるサリエンシーの分布を示すサリエンシーマップデータD4を生成する。具体的には、サリエンシー検出部331は、以下の手順により、サリエンシーマップデータD4を生成する。
第2指標導出部332は、運転者の周囲環境におけるサリエンシーの分布に対する運転者の視線の動きに基づいて、第2領域R20における第2指標値id2を導出する。具体的には、第2指標導出部332は、運転者の周囲環境における高サリエンシー箇所と運転者の視線との第2領域R20における合致度(合致頻度)に基づいて、第2領域R20における第2指標値id2を導出する。高サリエンシー箇所は、運転者の周囲環境のうちサリエンシーが比較的に高い箇所である。例えば、高サリエンシー箇所は、サリエンシーが予め定められた基準サリエンシーを上回る箇所である。運転者のボトムアップ注意資源量が増加すると、第2領域R20において運転者の周囲環境における高サリエンシー箇所と運転者の視線との合致度が増加し、その結果、第2領域R20における第2指標値id2が増加する。
推定部340は、第1領域R10における第1指標値id1と、第2領域R20における第2指標値id2とに基づいて、運転者の状態を推定する。具体的には、推定部340は、第1領域R10における第1指標値id1の変化と、第2領域R20における第2指標値id2の変化とに基づいて、運転者の状態を推定する。なお、運転者の状態の推定については、後で詳しく説明する。
この例では、推定部340により推定される運転者の状態には、「注意機能低下状態」と「漫然状態」と「正常状態」とが含まれる。
本願発明者は、運転者の状態と運転者の挙動(特に視線の動き)との関係を調べるために、下記のような実験を実施した。
上述の実験により、本願発明者は、以下の知見を得た。以下の説明では、トップダウン注意資源量とボトムアップ注意資源量との総量を「注意資源総量」と記載する。
そして、以上の知見から、本願発明者は、図14に示すように、運転者の状態およびタスクディマンドに応じて運転者のトップダウン注意資源量およびボトムアップ注意資源量が変化することを見出した。図14の例において、右上がりの斜線のハッチングが付された上向きの三角形の高さは、運転者のトップダウン注意資源量を示す。破線の上向きの三角形の高さは、運転者のトップダウン注意ディマンド量を示す。左上がりの斜線のハッチングが付された下向きの三角形の高さは、運転者のボトムアップ注意資源量を示す。図14には、他の参考例として、歩行者のトップダウン注意資源量およびボトムアップ注意資源量と、運転者の意識喪失時のトップダウン注意資源量およびボトムアップ注意資源量とが図示されている。図14の例において、運転者の意識喪失時のトップダウン注意資源量およびボトムアップ注意資源量は、ゼロである。
また、本願発明者は、鋭意研究の結果、図15に示すように、運転者の周囲環境には、運転者のトップダウン注意が支配的となる第1領域R10と、運転者のボトムアップ注意が支配的となる第2領域R20とが含まれることを見出した。例えば、運転者が正常状態から注意機能低下状態になると、第1領域R10では、トップダウン注意資源量の減少が顕著に現れ、第2領域R20では、ボトムアップ注意資源量の減少が顕著に現れる。
第1領域R10は、運転者の周囲環境のうち車両の運転中に運転者により意識的に注視される頻度が高い領域である。第1領域R10の例としては、前方中央領域R11、メータークラスタ77を含むメータークラスタ領域R12、ヘッドアップディスプレイ(図示省略)を含む領域などが挙げられる。前方中央領域R11は、車両に搭乗する運転者の前方中央に位置する円形状の領域である。
第2領域R20は、運転者の周囲環境のうち車両の運転中に運転者により意識的に注視される頻度が低い領域である。第2領域R20の例としては、バックミラー74を含む領域、サイドミラー75を含む領域、空や雲などの車両の周囲の景色を含む領域、リアビークルモニタリングシステム(RVM)により点灯される表示灯(図示省略)などの点灯部を含む領域などが挙げられる。例えば、第2領域R20は、運転者の周囲環境のうち第1領域R10を除く領域であってもよい。
次に、図16を参照して、運転者の状態の推定について説明する。推定部340は、予め定められた推定周期毎に、以下の処理を行う。
推定部340は、第1領域R10における第1指標値id1が第1閾値th1を下回るか否かを判定する。第1領域R10における第1指標値id1が第1閾値th1を下回る場合には、ステップST11の処理が行われ、そうでない場合には、ステップST15の処理が行われる。
推定部340は、第2領域R20における第2指標値id2が第2閾値th2を下回るか否かを判定する。第2領域R20における第2指標値id2が第2閾値th2を下回る場合には、ステップST13の処理が行われ、そうでない場合には、ステップST14の処理が行われる。
第1領域R10における第1指標値id1が第1閾値th1を下回り、且つ、第2領域R20における第2指標値id2が第2閾値th2を下回る場合、推定部340は、運転者が注意機能低下状態であると推定する。この例では、推定部340は、注意機能低下状態であることを示すフラグを立てる。注意機能低下状態であることを示すフラグが立つと、車両制御部35は、注意機能低下状態に応じた動作を行う。注意機能低下状態に応じた動作の例としては、運転者の状態が注意機能低下状態(例えば疾患)であることを示す異常情報を出力する動作、運転者の状態が注意機能低下状態であることを車両の外部に通知するための動作、車両が安全経路を走行して安全領域で停車するようにアクチュエータ11を制御する動作などが挙げられる。異常情報を出力する動作の例としては、異常情報を通知部40に出力することで運転者の注意機能低下状態を車内に通知する動作が挙げられる。運転者が注意機能低下状態であることを車両の外部に通知するための動作の例としては、車両のハザードランプ(図示省略)を点滅させる動作が挙げられる。
一方、第1領域R10における第1指標値id1が第1閾値th1を下回り、且つ、第2領域R20における第2指標値id2が第2閾値th2を下回らない場合、推定部340は、運転者が注意機能低下状態であると推定せず、運転者が漫然状態であると推定する。この例では、推定部340は、漫然状態であることを示すフラグを立てる。漫然状態であることを示すフラグが立つと、車両制御部35は、漫然状態に応じた動作を行う。漫然状態に応じた動作の例としては、運転者の状態が漫然状態であることを示す漫然状態情報を出力する動作、運転者の漫然状態を解消するための動作などが挙げられる。漫然状態情報を出力する動作の例としては、漫然状態情報を通知部40に出力することで運転者の漫然状態を車内に通知する動作が挙げられる。運転者の漫然状態を解消するための動作の例としては、車両の運転に集中すること運転者に促すための情報を通知部40に出力する動作、休憩をとることを運転者に促すための情報を通知部40に出力する動作などが挙げられる。
また、第1領域R10における第1指標値id1が第1閾値th1を下回らない場合、推定部340は、運転者が正常状態であると推定する。この例では、推定部340は、正常状態であることを示すフラグを立てる。正常状態であることを示すフラグが立つと、車両制御部35は、正常状態に応じた動作を行う。正常状態に応じた動作の例としては、運転者の状態が正常状態であることを示す情報を出力する動作、走行制御を継続する動作などが挙げられる。
以上のように、第1領域R10における第1指標値id1と、第2領域R20における運転者のボトムアップ注意資源量と相関のある第2指標値id2とを用いることにより、運転者のトップダウン注意が支配的である第1領域R10における運転者のトップダウン注意資源量と、運転者のボトムアップ注意が支配的である第2領域R20における運転者のボトムアップ注意資源量とに基づいて、運転者の注意機能低下状態を含む運転者の状態を推定することができる。
なお、第2指標導出部332は、次のようにして、予め定められた計測期間毎に、第2領域R20における第2指標値id2を導出してもよい。第2指標導出部332による処理(第2指標値id2の導出)は、サリエンシー検出部331により生成されたサリエンシーマップデータD4のうち第2領域R20を対象として行われる。
次に、実施形態の変形例1による車両制御システム10について説明する。実施形態の変形例1による車両制御システム10は、推定部340の動作が実施形態による車両制御システム10と異なる。なお、実施形態の変形例1による車両制御システム10のその他の構成は、実施形態による車両制御システム10の構成と同様である。
本願発明者は、鋭意研究の結果、運転者が注意機能低下状態(例えば疾患)であったとして、運転者が注目箇所を見ようと頑張ることで、運転者のトップダウン注意資源量の減少が顕著に現れない場合があることを見出した。また、本願発明者は、このような場合であっても、運転者の状態が正常状態から注意機能低下状態になることで、運転者の注意資源総量が減少することを見出した。
実施形態の変形例1による車両制御システム10では、図16に示した処理に代えて、図17に示す処理が行われる。図17に示す処理では、図16に示したステップST15の処理に代えて、ステップST21~ST23の処理が行われる。
ステップST11において第1領域R10における第1指標値id1が第1閾値th1を下回らない場合、推定部340は、第2領域R20における第2指標値id2が第2閾値th2を下回るか否かを判定する。第2領域R20における第2指標値id2が第2閾値th2を下回る場合には、ステップST22の処理が行われ、そうでない場合には、ステップST23の処理が行われる。
第1領域R10における第1指標値id1が第1閾値th1を下回らず、且つ、第2領域R20における第2指標値id2が第2閾値th2を下回る場合、推定部340は、運転者が注意機能低下状態であると推定する。この例では、推定部340は、注意機能低下状態であることを示すフラグを立てる。
一方、第1領域R10における第1指標値id1が第1閾値th1を下回らず、且つ、第2領域R20における第2指標値id2が第2閾値th2を下回らない場合、推定部340は、運転者が正常状態であると推定する。この例では、推定部340は、正常状態であることを示すフラグを立てる。
以上のように、第1領域R10における第1指標値id1が第1閾値th1を下回らない場合に、第2領域R20における第2指標値id2と第2閾値th2との比較結果に基づいて運転者の状態を推定することにより、運転者が注意機能低下状態(例えば疾患)であるが運転者のトップダウン注意資源量の減少が顕著に現れない場合であっても、運転者が注意機能低下状態であると推定することができる。これにより、運転者の状態の推定精度を向上させることができる。
次に、実施形態の変形例2による車両制御システム10について説明する。実施形態の変形例2による車両制御システム10は、第1指標導出部322および第2指標導出部332の動作が実施形態による車両制御システム10と異なる。なお、実施形態の変形例1による車両制御システム10のその他の構成は、実施形態による車両制御システム10の構成と同様である。
視線検出部310により検出される運転者の視線の中には、運転者の周囲環境における注目箇所および高サリエンシー箇所のいずれにも合致しない運転者の視線が含まれる。このような運転者の視線は、第1指標値id1および第2指標値id2の導出においてノイズとして作用する可能性が高い。したがって、運転者の周囲環境における注目箇所および高サリエンシー箇所のいずれにも合致しない運転者の視線は、第1指標値id1および第2指標値id2の導出に利用されないことが好ましい。
以上のように、視線検出部310により検出された運転者の視線のうち運転者の周囲環境における注目箇所および高サリエンシー箇所のいずれにも合致しない運転者の視線(すなわちノイズとなる運転者の視線)を、第1領域R10における第1指標値id1の導出および第2領域R20における第2指標値id2の導出から排除することができる。これにより、運転者の状態の推定精度を向上させることができる。
以上の説明では、第1領域R10における第1指標値id1が注目合致割合(計測期間内に含まれる注視点の総数に対して注目箇所と合致する注視点の数が占める割合)に応じた値である場合を例に挙げたが、これに限定されない。これと同様に、第2領域R20における第2指標値id2が高指標割合(計測期間内に含まれるサリエンシー指標値の総数に対して高サリエンシー閾値を上回るサリエンシー指標値の数が占める割合)または高サリエンシー合致割合(計測期間内に含まれる注視点の総数に対して高サリエンシー箇所と合致する注視点の数が占める割合)に応じた値である場合を例に挙げたが、これに限定されない。
11 アクチュエータ
20 情報取得部
21 カメラ
22 レーダ
23 位置センサ
24 通信部
25 車両状態センサ
26 運転操作センサ
27 運転者状態センサ
28 車内カメラ
29 生体情報センサ
30 車両制御装置(運転者状態推定装置)
31 車両挙動認識部
32 運転操作認識部
33 外部環境認識部
34 運転者状態認識部
35 車両制御部
300 運転者状態推定部
310 視線検出部
320 第1計測部
321 注目箇所検出部
322 第1指標導出部
330 第2計測部
331 サリエンシー検出部
332 第2指標導出部
340 推定部
R10 第1領域
R11 前方中央領域
R12 メータークラスタ領域
R20 第2領域
Claims (4)
- 移動体に搭乗する運転者の状態を推定する運転者状態推定装置であって、
前記運転者の周囲環境のうち前記運転者のトップダウン注意が支配的となる第1領域において、前記運転者のトップダウン注意に割り当てられる注意資源の量であるトップダウン注意資源量と相関のある第1指標値を計測する第1計測部と、
前記運転者の周囲環境のうち前記運転者のボトムアップ注意が支配的となる第2領域において、前記運転者のボトムアップ注意に割り当てられる注意資源の量であるボトムアップ注意資源量と相関のある第2指標値を計測する第2計測部と、
前記第1領域における前記第1指標値と、前記第2領域における前記第2指標値とに基づいて、前記運転者の注意機能低下状態を含む前記運転者の状態を推定する推定部とを備え、
前記運転者が前記注意機能低下状態であるときの前記運転者の前記トップダウン注意資源量と前記ボトムアップ注意資源量との総量である注意資源総量は、前記運転者が正常状態であるときの前記運転者の前記注意資源総量よりも少なく、
前記推定部は、前記第1指標値が予め定められた第1閾値を下回る場合において、前記第2指標値が予め定められた第2閾値を下回る場合に、前記運転者が前記注意機能低下状態であると推定し、前記第2指標値が前記第2閾値を下回らない場合に、前記運転者が前記注意機能低下状態であると推定しない
ことを特徴とする運転者状態推定装置。 - 請求項1において、
前記運転者が漫然状態であるときの前記運転者のトップダウン注意資源量は、前記運転者が前記正常状態であるときの前記運転者のトップダウン注意資源量よりも少なく、
前記運転者が前記漫然状態であるときの前記運転者のボトムアップ注意資源量は、前記運転者が前記正常状態であるときの前記運転者のボトムアップ注意資源量よりも多く、
前記推定部は、前記第1指標値が前記第1閾値を下回る場合において、前記第2指標値が前記第2閾値を下回らない場合に、前記運転者が前記漫然状態であると推定する
ことを特徴とする運転者状態推定装置。 - 請求項1または2において、
前記運転者の視線を検出する視線検出部を備え、
前記第1計測部は、前記運転者の周囲環境における注目箇所を検出する注目箇所検出部と、前記運転者の周囲環境における注目箇所に対する前記運転者の視線の動きに基づいて前記第1領域における前記第1指標値を導出する第1指標導出部とを有し、
前記第2計測部は、前記運転者の周囲環境におけるサリエンシーの分布を検出するサリエンシー検出部と、前記運転者の周囲環境におけるサリエンシーの分布に対する前記運転者の視線の動きに基づいて前記第2領域における前記第2指標値を導出する第2指標導出部とを有する
ことを特徴とする運転者状態推定装置。 - 請求項1~3のいずれか1つにおいて、
前記第1領域は、前記運転者の周囲環境のうち前記移動体の運転中に前記運転者により注視される頻度が高い領域である
ことを特徴とする運転者状態推定装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020026633A JP7331729B2 (ja) | 2020-02-19 | 2020-02-19 | 運転者状態推定装置 |
CN202110067957.8A CN113276822B (zh) | 2020-02-19 | 2021-01-19 | 驾驶员状态推断装置 |
US17/160,397 US11247687B2 (en) | 2020-02-19 | 2021-01-28 | Driver state estimation device, method and computer program therefor |
EP21156774.8A EP3868622B1 (en) | 2020-02-19 | 2021-02-12 | Driver state estimation device and movable body |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020026633A JP7331729B2 (ja) | 2020-02-19 | 2020-02-19 | 運転者状態推定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021130390A JP2021130390A (ja) | 2021-09-09 |
JP7331729B2 true JP7331729B2 (ja) | 2023-08-23 |
Family
ID=74595113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020026633A Active JP7331729B2 (ja) | 2020-02-19 | 2020-02-19 | 運転者状態推定装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11247687B2 (ja) |
EP (1) | EP3868622B1 (ja) |
JP (1) | JP7331729B2 (ja) |
CN (1) | CN113276822B (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11787429B2 (en) * | 2021-04-27 | 2023-10-17 | Toyota Research Institute, Inc. | Vehicle sneeze control system and method |
CN114266513B (zh) * | 2022-03-01 | 2022-06-21 | 四川省公路规划勘察设计研究院有限公司 | 连续纵坡路段安全性评价模型构建、诊断方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013009825A (ja) | 2011-06-29 | 2013-01-17 | Denso Corp | 視認負荷量推定装置、運転支援装置、および視認負荷量推定プログラム |
JP2013254409A (ja) | 2012-06-08 | 2013-12-19 | Toyota Central R&D Labs Inc | 漫然運転検出装置及びプログラム |
WO2018145028A1 (en) | 2017-02-06 | 2018-08-09 | Honda Motor Co., Ltd. | Systems and methods of a computational framework for a driver's visual attention using a fully convolutional architecture |
JP2019215688A (ja) | 2018-06-12 | 2019-12-19 | 国立大学法人神戸大学 | 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム |
JP2021077135A (ja) | 2019-11-11 | 2021-05-20 | マツダ株式会社 | 車両制御装置および運転者状態判定方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3027786B2 (ja) | 1993-02-23 | 2000-04-04 | 三菱電機株式会社 | 運転者状態判定装置 |
JP5036814B2 (ja) * | 2006-06-11 | 2012-09-26 | ボルボ テクノロジー コーポレイション | 視覚的関心場所の決定および分析のための方法および装置 |
EP2256667B1 (en) * | 2009-05-28 | 2012-06-27 | Honda Research Institute Europe GmbH | Driver assistance system or robot with dynamic attention module |
CN103770733B (zh) * | 2014-01-15 | 2017-01-11 | 中国人民解放军国防科学技术大学 | 一种驾驶员安全驾驶状态检测方法及装置 |
JP6638701B2 (ja) * | 2017-06-08 | 2020-01-29 | トヨタ自動車株式会社 | 運転意識推定装置 |
US11017249B2 (en) * | 2018-01-29 | 2021-05-25 | Futurewei Technologies, Inc. | Primary preview region and gaze based driver distraction detection |
JP7222216B2 (ja) * | 2018-10-29 | 2023-02-15 | 株式会社アイシン | 運転支援装置 |
US10882398B2 (en) * | 2019-02-13 | 2021-01-05 | Xevo Inc. | System and method for correlating user attention direction and outside view |
-
2020
- 2020-02-19 JP JP2020026633A patent/JP7331729B2/ja active Active
-
2021
- 2021-01-19 CN CN202110067957.8A patent/CN113276822B/zh active Active
- 2021-01-28 US US17/160,397 patent/US11247687B2/en active Active
- 2021-02-12 EP EP21156774.8A patent/EP3868622B1/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013009825A (ja) | 2011-06-29 | 2013-01-17 | Denso Corp | 視認負荷量推定装置、運転支援装置、および視認負荷量推定プログラム |
JP2013254409A (ja) | 2012-06-08 | 2013-12-19 | Toyota Central R&D Labs Inc | 漫然運転検出装置及びプログラム |
WO2018145028A1 (en) | 2017-02-06 | 2018-08-09 | Honda Motor Co., Ltd. | Systems and methods of a computational framework for a driver's visual attention using a fully convolutional architecture |
JP2019215688A (ja) | 2018-06-12 | 2019-12-19 | 国立大学法人神戸大学 | 自動キャリブレーションを行う視線計測装置、視線計測方法および視線計測プログラム |
JP2021077135A (ja) | 2019-11-11 | 2021-05-20 | マツダ株式会社 | 車両制御装置および運転者状態判定方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113276822B (zh) | 2023-10-20 |
EP3868622A1 (en) | 2021-08-25 |
US20210253110A1 (en) | 2021-08-19 |
US11247687B2 (en) | 2022-02-15 |
EP3868622B1 (en) | 2023-11-08 |
JP2021130390A (ja) | 2021-09-09 |
CN113276822A (zh) | 2021-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7080598B2 (ja) | 車両制御装置および車両制御方法 | |
KR102669020B1 (ko) | 정보 처리 장치, 이동 장치, 및 방법, 그리고 프로그램 | |
JP7560486B2 (ja) | 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム | |
JPWO2019202881A1 (ja) | 情報処理装置、移動装置、情報処理システム、および方法、並びにプログラム | |
JP7459634B2 (ja) | ドライバ異常判定システム | |
CN110826369A (zh) | 一种驾驶员驾驶时注意力检测方法和系统 | |
JP7331728B2 (ja) | 運転者状態推定装置 | |
JP7342638B2 (ja) | 運転者状態検出装置 | |
JP7331729B2 (ja) | 運転者状態推定装置 | |
JP7342636B2 (ja) | 車両制御装置および運転者状態判定方法 | |
JP7342637B2 (ja) | 車両制御装置および運転者状態判定方法 | |
US20240051585A1 (en) | Information processing apparatus, information processing method, and information processing program | |
JP7415460B2 (ja) | 車両制御装置及び運転者状態判定方法 | |
JP7415459B2 (ja) | 車両制御装置及び運転者状態判定方法 | |
JP7318560B2 (ja) | 状態推定装置 | |
JP7298509B2 (ja) | 状態推定装置 | |
JP7298510B2 (ja) | 状態推定装置 | |
JP7298508B2 (ja) | 状態推定装置 | |
JP2023022409A (ja) | 運転者状態判定方法及びその判定システム | |
JP2023022410A (ja) | 運転者状態判定方法及びその判定システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220419 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230424 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230711 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230724 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7331729 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |