FR3012029A1 - METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE - Google Patents
METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE Download PDFInfo
- Publication number
- FR3012029A1 FR3012029A1 FR1360351A FR1360351A FR3012029A1 FR 3012029 A1 FR3012029 A1 FR 3012029A1 FR 1360351 A FR1360351 A FR 1360351A FR 1360351 A FR1360351 A FR 1360351A FR 3012029 A1 FR3012029 A1 FR 3012029A1
- Authority
- FR
- France
- Prior art keywords
- driver
- vigilance
- detection threshold
- sdp
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/117—Identification of persons
- A61B5/1171—Identification of persons based on the shapes or appearances of their bodies or parts thereof
- A61B5/1176—Recognition of faces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
- B60K28/00—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions
- B60K28/02—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver
- B60K28/06—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver
- B60K28/066—Safety devices for propulsion-unit control, specially adapted for, or arranged in, vehicles, e.g. preventing fuel supply or ignition in the event of potentially dangerous conditions responsive to conditions relating to the driver responsive to incapacity of driver actuating a signalling device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Public Health (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Child & Adolescent Psychology (AREA)
- Developmental Disabilities (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
Abstract
Procédé de détection de la baisse de vigilance du conducteur, comportant les étapes de comparaison (500 ; 600) du niveau de vigilance courant (NVC) dudit conducteur avec un seuil de détection (SDS ; SDP), de transmission (800) de l'ordre d'envoyer un message d'avertissement dès que ledit niveau de vigilance courant (NVC) est inférieur audit seuil de détection (SDS ; SDP) ; ledit procédé comportant précédemment à ladite étape de comparaison (500 ; 600), les étapes de détermination (100) du profil conducteur par reconnaissance faciale et de sélection (200, 400) du seuil de détection (SDS ; SDP) à adopter, ladite étape de sélection consistant lorsque ledit profil conducteur correspond à un profil déjà connu et associé à un seuil de détection personnalisé (SDP), à opter pour ledit seuil de détection personnalisé, et lorsque ces conditions ne sont pas réunies à opter pour un seuil de détection standard prédéfini (SDS), ledit seuil de détection personnalisé (SDP) étant calculé en fonction du niveau de vigilance nominal dudit conducteur déterminé au terme d'une phase d'apprentissage.A method for detecting the driver's vigilance decrease, comprising the steps of comparing (500; 600) the current vigilance level (NVC) of said driver with a detection threshold (SDS; SDP), transmission (800) of the order to send a warning message as soon as said current vigilance level (NVC) is below said detection threshold (SDS; SDP); said method comprising previously in said comparing step (500; 600), the steps of determining (100) the conductive profile by facial recognition and selection (200, 400) of the detection threshold (SDS; SDP) to be adopted, said step of selection consisting when said conductive profile corresponds to a profile already known and associated with a personalized detection threshold (SDP), to opt for said personalized detection threshold, and when these conditions are not met to opt for a standard detection threshold predefined (SDS), said personalized detection threshold (SDP) being calculated according to the nominal vigilance level of said driver determined at the end of a learning phase.
Description
Titre de l'invention Procédé de détection de la baisse de vigilance du conducteur d'un véhicule automobile Domaine de l'invention La présente invention se rapporte au domaine des dispositifs d'aides à la conduite à destination du conducteur d'un véhicule automobile, et en particulier aux dispositifs de détection de la baisse de vigilance de ce conducteur.FIELD OF THE INVENTION The method relates to the field of driver assistance devices intended for the driver of a motor vehicle, and in particular the devices for detecting the decline in alertness of this driver.
Arrière-plan de l'invention Les résultats convergents de très nombreuses études montrent que la distraction et la baisse de vigilance au volant du conducteur constituent l'une des principales causes d'accidents graves de la circulation. Cette hypovigilance s'installe progressivement de façon insidieuse, de sorte que les conducteurs en prennent souvent conscience trop tardivement alors que leur perception de la route ainsi que leur faculté de réaction sont déjà considérablement altérées.BACKGROUND OF THE INVENTION The converging results of numerous studies show that distraction and reduced vigilance at the wheel of the driver constitute one of the main causes of serious traffic accidents. This hypovigilance gradually sets in insidiously, so that drivers are often aware of it too late, while their perception of the road and their ability to react are already considerably altered.
Ces dernières années, un certain nombre de dispositifs ont été développés afin de détecter la survenance de la baisse de vigilance chez le conducteur. On connait ainsi des dispositifs embarqués à l'intérieur du véhicule comportant une caméra orientée vers la route qui est reliée à une unité d'analyse et de contrôle. Celle-ci vérifie que le véhicule suit correctement le tracé de sa voie de circulation en comparant sa position par rapport à celles des lignes de marquage de cette voie. Lorsque le dispositif estime que le véhicule s'écarte de manière répétée de la trajectoire idéale, ce dernier émet un message d'avertissement sonore et/ou visuel à destination du conducteur. D'autres dispositifs de détection de l'hypovigilance reposent sur l'analyse du visage du conducteur par l'intermédiaire d'une caméra. Le module de détection analyse l'image fournie par cette caméra et en déduit un état de fatigue en fonction de certains paramètres tels que la fréquence de fermeture des paupières, la durée des clignements, ou encore la vitesse de déplacement des pupilles. Dès que cet état de fatigue dépasse un certain seuil, le dispositif émet une alerte à l'intention du conducteur.In recent years, a number of devices have been developed to detect the occurrence of the decline of vigilance in the driver. Thus, embedded devices are known inside the vehicle comprising a camera oriented towards the road which is connected to a unit of analysis and control. This verifies that the vehicle correctly follows the route of its lane by comparing its position with respect to those marking lines of this lane. When the device estimates that the vehicle repeatedly deviates from the ideal trajectory, it emits an audible and / or visual warning message to the driver. Other devices for detecting hypovigilance are based on the analysis of the driver's face via a camera. The detection module analyzes the image provided by this camera and deduces a state of fatigue according to certain parameters such as the closing frequency of the eyelids, the duration of blinking, or the speed of movement of the pupils. As soon as this state of fatigue exceeds a certain threshold, the device sends an alert to the driver.
On connaît également de la demande japonaise JP 2009-208739 un système associant un premier dispositif d'analyse du visage du conducteur du véhicule à l'aide d'une première caméra, et un second dispositif de surveillance de la position du véhicule dans la voie de circulation par l'intermédiaire d'une deuxième caméra.Japanese application JP 2009-208739 also discloses a system associating a first device for analyzing the face of the driver of the vehicle with the aid of a first camera, and a second device for monitoring the position of the vehicle in the track. traffic through a second camera.
Une alerte sonore est activée lorsque chacun des deux dispositifs détecte un niveau de somnolence supérieur à un seuil prédéterminé. Le fait d'associer ces deux moyens de détection a pour objectif de limiter le nombre de fausses alertes générées par le système. Malgré tout, ces dernières demeurent encore trop fréquentes, les seuils de détection choisis n'étant pas forcément les plus appropriés. Objet et résumé de l'invention La présente invention vise à améliorer l'efficacité d'un tel système de détection de l'hypovigilance du conducteur.An audible alert is activated when each of the two devices detects a level of drowsiness greater than a predetermined threshold. The purpose of combining these two detection means is to limit the number of false alerts generated by the system. Nevertheless, the latter are still too frequent, the chosen detection thresholds are not necessarily the most appropriate. OBJECT AND SUMMARY OF THE INVENTION The present invention aims at improving the efficiency of such a system for detecting driver hypovigilance.
Elle propose à cet effet, un procédé de détection de la baisse de vigilance du conducteur d'un véhicule automobile, ledit procédé comportant les étapes suivantes : - comparaison du niveau de vigilance courant dudit conducteur au volant dudit véhicule avec un seuil de détection du niveau de vigilance limite ; - transmission à un module d'alerte dudit véhicule, de l'ordre d'envoyer un message d'avertissement à l'intention dudit conducteur ; - ladite étape de transmission étant mise en oeuvre dès que ledit niveau de vigilance courant est inférieur audit seuil de détection ; ledit procédé étant caractérisé en ce qu'il comporte précédemment à ladite étape de comparaison, les étapes suivantes : - détermination du profil conducteur par reconnaissance faciale ; - sélection du seuil de détection à adopter pour ledit conducteur, ladite étape de sélection consistant : - lorsque ledit profil conducteur correspond à un profil déjà connu et associé à un seuil de détection personnalisé, à opter pour ledit seuil de détection personnalisé ; - lorsque ces conditions ne sont pas réunies, à opter pour un seuil de détection standard prédéfini ; ledit seuil de détection personnalisé étant calculé en fonction du niveau de vigilance nominal dudit conducteur déterminé au terme d'une phase d'apprentissage. Plutôt que d'utiliser un même seuil de détection du niveau de vigilance limite pour l'ensemble des conducteurs, le procédé selon l'invention adopte, sous réserves que le conducteur du véhicule ait été reconnu et qu'il ait subi une phase d'apprentissage au préalable, un seuil de détection personnalisé qui est déduit à partir du niveau de vigilance nominal de ce conducteur. L'expérience montre en effet que les paramètres physiologiques visibles sur le visage du conducteur, ainsi que ceux de maitrise du véhicule, correspondant au niveau de vigilance nominal représentatif des périodes de conduite où le conducteur est parfaitement éveillé et attentif, peuvent varier de manière importante en fonction des conducteurs. Ainsi, un conducteur peut par exemple avoir en permanence, y compris à son niveau de vigilance nominal, les paupières qui clignent pour des raisons ophtalmiques ou neurologiques, De la même manière, un autre conducteur peut avoir un style de conduite naturel associé à une fréquence élevée de correction de trajectoire via le volant. La prise en compte de cette variabilité inter-individus dans le calcul du seuil de détection personnalisé entraîne une limitation conséquente des risques d'erreur d'appréciation de la part du procédé selon l'invention. Selon des caractéristiques préférées du procédé selon l'invention, prises seules ou en combinaison : - les niveaux de vigilance courant et nominal dudit conducteur sont déterminés au moins partiellement à l'aide de certains paramètres physiologiques, tels que le temps de focalisation, la fréquence et la durée de fermeture des paupières, la fréquence et la vitesse des mouvements oculaires ou le rythme cardiaque, lesdits paramètres physiologiques étant eux mêmes calculés grâce à l'analyse du visage dudit conducteur à partir des mesures réalisées sur les images transmises par une première caméra dirigée sur ledit visage ; - ledit profil conducteur est déterminé grâce à l'analyse 10 faciale de son visage à partir de mesures réalisées sur les images transmises par ladite première caméra ; - les niveaux de vigilance courant et nominal dudit conducteur sont déterminés également à l'aide de certains paramètres comportementaux, tels que le degré d'oscillation de la trajectoire ou la 15 fréquence de correction de la trajectoire via le volant, lesdits paramètres comportementaux étant eux-mêmes calculés grâce à l'analyse du comportement dudit véhicule à partir des mesures réalisées sur les images transmises par une deuxième caméra dirigée vers la route, et des données dynamiques fournies par des capteurs embarqués 20 dans ledit véhicule ; - lesdits capteurs embarqués comportent un capteur de vitesse dudit véhicule, un capteur de rapport de boîte de vitesse engagé, un capteur d'angle de braquage du volant, un capteur de la vitesse de rotation du volant et un capteur de position des pédales de 25 frein et d'accélération ; - ladite phase d'apprentissage est réalisée de manière automatique pendant des intervalles de temps où certaines conditions relatives à la tranche horaire, aux conditions de roulage et/ou au niveau de vigilance courant dudit conducteur sont remplies, ladite phase 30 d'apprentissage cessant lorsque le temps passé ou le nombre de kilomètres parcourus dans lesdites conditions a atteint une durée ou un nombre de kilomètres prédéfini ; - ladite phase d'apprentissage est reproduite régulièrement au bout d'une certaine durée de conduite ou d'une certaine distance parcourue par ledit conducteur, afin de s'assurer que ledit seuil de détection personnalisé associé audit conducteur soit toujours représentatif. - ledit profil conducteur est stocké en mémoire lorsqu'il ne correspond à aucun profil conducteur déjà connu ; et/ou - ladite étape de transmission consiste également à transmette audit module d'alerte dudit véhicule, l'ordre d'actionner certains dispositifs d'aide à la conduite dont ledit véhicule est équipé.It proposes for this purpose, a method of detecting the decline of vigilance of the driver of a motor vehicle, said method comprising the following steps: - comparison of the current level of vigilance of said driver at the wheel of said vehicle with a level detection threshold limited vigilance; transmission to an alert module of said vehicle, of the order to send a warning message to said driver; said transmission step being implemented as soon as said current vigilance level is below said detection threshold; said method being characterized in that it comprises previously in said comparison step, the following steps: - determination of the conductive profile by facial recognition; selecting the detection threshold to be adopted for said conductor, said selecting step consisting of: when said conductive profile corresponds to a profile already known and associated with a personalized detection threshold, to opt for said personalized detection threshold; - when these conditions are not met, to opt for a predefined standard detection threshold; said personalized detection threshold being calculated according to the nominal vigilance level of said driver determined at the end of a learning phase. Rather than using the same threshold of detection of the level of vigilance limit for all drivers, the method according to the invention adopts, provided that the driver of the vehicle has been recognized and has undergone a phase of prior learning, a personalized detection threshold that is deduced from the nominal alertness level of this driver. Experience shows that the physiological parameters visible on the driver's face, as well as those of control of the vehicle, corresponding to the nominal vigilance level representative of driving periods where the driver is fully awake and attentive, can vary significantly. according to the drivers. Thus, a driver may for example always have, at his nominal level of vigilance, eyelids that blink for ophthalmic or neurological reasons, In the same way, another driver may have a natural driving style associated with a frequency high trajectory correction via the steering wheel. The taking into account of this inter-individual variability in the calculation of the personalized detection threshold entails a consequent limitation of the risks of error of judgment on the part of the process according to the invention. According to preferred features of the method according to the invention, taken alone or in combination: the current and nominal vigilance levels of said conductor are determined at least partially by means of certain physiological parameters, such as the focusing time, the frequency and the eyelid closing time, the frequency and the speed of eye movements or the heart rate, said physiological parameters themselves being calculated by analyzing the face of said driver from the measurements made on the images transmitted by a first camera directed on said face; said conductive profile is determined by means of the facial analysis of its face from measurements made on the images transmitted by said first camera; the current and nominal vigilance levels of said conductor are also determined by means of certain behavioral parameters, such as the degree of oscillation of the trajectory or the frequency of correction of the trajectory via the steering wheel, said behavioral parameters being they the same ones calculated by analyzing the behavior of said vehicle from the measurements made on the images transmitted by a second camera directed towards the road, and dynamic data provided by sensors embedded in said vehicle; said on-board sensors comprise a speed sensor of said vehicle, a gearbox gear engaged sensor, a steering wheel steering angle sensor, a steering wheel rotation speed sensor and a pedal position sensor; brake and acceleration; said learning phase is performed automatically during time intervals when certain conditions relating to the time slot, the driving conditions and / or the current level of vigilance of said driver are fulfilled, said learning phase ceasing when the time spent or the number of kilometers traveled under those conditions has reached a predefined duration or number of kilometers; said learning phase is reproduced regularly after a certain driving time or a certain distance traveled by said driver, in order to ensure that said personalized detection threshold associated with said driver is always representative. said conductive profile is stored in memory when it does not correspond to any already known conducting profile; and / or - said transmitting step also comprises transmitting to said alert module of said vehicle, the order to operate certain driving assistance devices of which said vehicle is equipped.
Brève description des dessins L'exposé de l'invention sera maintenant poursuivi par la description détaillée d'un exemple de réalisation, donnée ci-après à titre illustratif mais non limitatif, en référence aux dessins annexés, sur lesquels : - la figure 1 représente un schéma fonctionnel d'un système de détection de la baisse de vigilance apte à mettre en oeuvre le procédé selon l'invention ; et - la figure 2 représente un organigramme du procédé de détection de la baisse de vigilance du conducteur selon l'invention. 20 Description détaillée d'un mode de réalisation Le système de détection de l'hypovigilance du conducteur 1 illustré sur la figure 1 comporte une première caméra 10 dirigée sur le visage du conducteur, une seconde caméra 11 dirigée sur la route, un 25 capteur 12 de vitesse du véhicule, un capteur 13 du rapport de boîte de vitesse engagé, un capteur 14 d'angle de braquage du volant, un capteur 15 de la vitesse de rotation du volant, un capteur 16 de position des pédales de frein et d'accélération, une unité de détection et de commande 20 ainsi qu'un module d'alerte 30. 30 Les données recueillies par les deux caméras 10, 11 et les capteurs 12, 13, 14, 15 et 16 sont acheminées en temps réel vers l'unité de détection et de commande 20. Celle-ci comporte un calculateur 21, un module de stockage 22 qui comprend de la mémoire non volatile de type EEPROM ou FLASH et de la mémoire vive, ainsi que des interfaces d'entrée 23 et de sortie 24. La mémoire non volatile stocke un processus de détection de la baisse de vigilance du conducteur du véhicule qui est mis en oeuvre dans cette unité 20 et dont l'organigramme est représenté sur la figure 2. Selon un mode préféré de réalisation, l'ensemble des informations contenues dans cette mémoire non volatile peut être mis à jour par des moyens de communication ou des moyens de lecture d'un support de données. Le processus qui est mis en oeuvre au démarrage du roulage du véhicule, va déterminer l'état de vigilance du conducteur en fonction des données reçus en provenance des deux caméras 10, 11 et des capteurs 12, 13, 14, 15 et 16.Brief description of the drawings The description of the invention will now be continued by the detailed description of an exemplary embodiment, given below by way of illustration but without limitation, with reference to the appended drawings, in which: FIG. a block diagram of a vigilance decrease detection system adapted to implement the method according to the invention; and FIG. 2 represents a flowchart of the method for detecting the driver's vigilance decrease according to the invention. DETAILED DESCRIPTION OF THE EMBODIMENT The driver's hypovigilance detection system 1 illustrated in FIG. 1 comprises a first camera 10 directed on the driver's face, a second camera 11 facing the road, a sensor 12 vehicle speed, a sensor 13 of the engaged gear ratio, a steering wheel angle sensor 14, a steering wheel speed sensor 15, a brake pedal position sensor 16 and acceleration, a detection and control unit 20 and an alert module 30. The data collected by the two cameras 10, 11 and the sensors 12, 13, 14, 15 and 16 are conveyed in real time to the camera. detection and control unit 20. This comprises a computer 21, a storage module 22 which comprises non-volatile memory type EEPROM or FLASH and RAM, as well as input interfaces 23 and output 24. The nonvolatile memory tocke a process for detecting the vehicle driver's vigilance decrease which is implemented in this unit 20 and whose flowchart is shown in FIG. 2. According to a preferred embodiment, all the information contained in this non-volatile memory can be updated by means of communication or reading means of a data medium. The process that is implemented at the start of the rolling of the vehicle, will determine the state of alertness of the driver based on data received from the two cameras 10, 11 and sensors 12, 13, 14, 15 and 16.
Si le processus juge que le conducteur est entré dans une phase d'hypovigilance, l'unité de commande 20 enverra un signal au module d'alerte 30 afin que ce dernier transmettre un message d'avertissement à son attention et/ou actionne certains dispositifs d'aide à la conduite dont le véhicule est équipé (ADAS).If the process judges that the driver has entered a hypovigilance phase, the control unit 20 will send a signal to the alert module 30 so that the latter sends a warning message to its attention and / or actuates certain devices. driver assistance system with which the vehicle is equipped (ADAS).
On va maintenant décrire en détails et à l'appui de l'organigramme de la figure 2, les différentes étapes de ce processus. A l'étape 100, celui-ci détermine le profil conducteur grâce à l'analyse faciale de son visage à partir de mesures réalisées sur les images transmises par la première caméra 10.We will now describe in detail and in support of the flowchart in Figure 2, the different stages of this process. In step 100, the latter determines the conductive profile by means of facial analysis of its face from measurements made on the images transmitted by the first camera 10.
Le calculateur 21 va ensuite comparer le profil conducteur déterminé à l'étape 100 avec l'ensemble des profils conducteurs stockés dans la mémoire non volatile du module de stockage 22 (étape 200). Si ce profil conducteur ne correspond à aucun des profils connus, le processus va enregistrer ce nouveau profil conducteur dans cette mémoire non volatile du module de stockage 22 (étape 300). Le processus se poursuit alors par l'étape 500 au cours de laquelle le calculateur 21 compare le niveau de vigilance courant Nvc du conducteur à un seuil de détection standard Sm du niveau de vigilance limite.The computer 21 will then compare the conductive profile determined in step 100 with all the conductive profiles stored in the non-volatile memory of the storage module 22 (step 200). If this conductive profile does not correspond to any of the known profiles, the process will record this new conductive profile in this non-volatile memory of the storage module 22 (step 300). The process then continues with step 500 during which the computer 21 compares the driver's current level of vigilance Nvc with a standard detection threshold Sm of the level of vigilance limit.
Ce niveau de vigilance courant Nvc du conducteur est déterminé à l'aide des valeurs courantes de certains paramètres physiologiques et comportementaux du conducteur, tels que le temps de focalisation, la fréquence et la durée de fermeture des paupières, la fréquence et la vitesse des mouvements oculaires, le rythme cardiaque, le degré d'oscillation de la trajectoire du véhicule ou la fréquence de correction de la trajectoire via le volant. Ces paramètres physiologiques et comportementaux sont calculés grâce à l'analyse simultanée : - du visage du conducteur à partir des mesures réalisées sur les images transmises par la première caméra 10 (position des paupières et des pupilles, orientation de la tête, direction du regard) ; et - du comportement du véhicule à partir des mesures réalisées sur les images transmises par la deuxième caméra 11 (position du véhicule dans sa voie, par rapport aux obstacles de l'environnement et à la signalisation), et des données dynamiques fournies par le capteur 12 de vitesse du véhicule, le capteur 13 de rapport de boîte de vitesse engagé, le capteur 14 d'angle de braquage du volant, le capteur 15 de la vitesse de rotation de ce volant et le capteur 16 de position des pédales de frein et d'accélération. Le seuil de détection standard Sm, est quant à lui déterminé au préalable grâce à l'étude d'un large panel représentatif de l'ensemble de conducteurs, et stocké dans la mémoire non volatile du module de stockage 22. Afin de réduire les fausses alertes, celui-ci ne prend en compte que les situations les plus à risques (longs clignements, hautes fréquences de clignements longs, fortes oscillations de trajectoires). Si le niveau de vigilance courant Nvc du conducteur est supérieur ou égal au seuil de détection standard SM/ le processus estime que ce conducteur est suffisamment attentif et vigilant, de sorte qu'il décide de ne transmettre aucun ordre à l'intention du module d'alerte 30 (étape 700). A l'inverse, si le niveau de vigilance courant Nvc du conducteur est inférieur à ce seuil de détection standard SM/ le processus en déduit que le conducteur est en phase d'hypovigilance, de sorte qu'il décide de 35 transmettre au module d'alerte, l'ordre d'envoyer un message d'avertissement (visuel, sonore et/ou haptique) à l'intention du conducteur (étape 800). Lorsque le véhicule est équipé de certains dispositifs d'aides à la conduite, on peut également prévoir qu'un ordre d'activation de ces dispositifs soit également transmis au module d'alerte lors de cette étape 800. Nous allons maintenant revenir à l'étape 200 dans laquelle le calculateur 21 compare le profil conducteur déterminé à l'étape 100 avec l'ensemble des profils connus, stockés dans la mémoire non volatile du module de stockage 22. Si ce profil conducteur correspond à l'un des profils conducteur stockés en mémoire, le processus va vérifier au cours d'une étape 400 si un seuil de détection personnalisé SDp du niveau de vigilance limite a été associé à ce conducteur.This current level of alertness Nvc of the driver is determined using the current values of certain physiological and behavioral parameters of the driver, such as the focusing time, the frequency and duration of closure of the eyelids, the frequency and the speed of the movements. eyepieces, the heart rate, the degree of oscillation of the vehicle trajectory or the frequency of correction of the trajectory via the steering wheel. These physiological and behavioral parameters are calculated by means of the simultaneous analysis: of the driver's face from measurements made on the images transmitted by the first camera 10 (position of the eyelids and pupils, orientation of the head, direction of gaze) ; and - the behavior of the vehicle based on the measurements made on the images transmitted by the second camera 11 (position of the vehicle in its lane, with respect to the obstacles of the environment and to the signaling), and dynamic data provided by the sensor 12 of the vehicle speed, the gearbox gearbox sensor 13 engaged, the steering wheel steering angle sensor 14, the steering wheel rotation speed sensor 15 and the brake pedal position sensor 16 and acceleration. The standard detection threshold Sm is determined in advance by studying a wide representative panel of the set of conductors, and stored in the non-volatile memory of the storage module 22. In order to reduce the false alerts, this one takes into account only the most risky situations (long blinks, high frequencies of long blinks, strong oscillations of trajectories). If the current Nvc level of alertness of the driver is greater than or equal to the standard detection threshold SM / the process considers that this driver is sufficiently attentive and vigilant, so that he decides not to transmit any order to the module of alert 30 (step 700). On the other hand, if the driver's current level of vigilance Nvc is below this standard detection threshold SM, the process deduces that the driver is in the hypovigilance phase, so that he decides to transmit the module to the module. alert, the order to send a warning message (visual, audible and / or haptic) to the driver (step 800). When the vehicle is equipped with certain driving aids devices, it is also possible that an activation order of these devices is also transmitted to the alert module during this step 800. We will now return to the step 200 in which the computer 21 compares the conductive profile determined in step 100 with all the known profiles, stored in the non-volatile memory of the storage module 22. If this conductive profile corresponds to one of the stored driver profiles in memory, the process will check during a step 400 if a custom detection threshold SDp of the level of vigilance limit has been associated with this driver.
Comme on le verra en détails par la suite, chaque seuil de détection personnalisé SDp est calculé en fonction du niveau de vigilance nominal du conducteur déterminé au terme d'une phase d'apprentissage. Si aucun seuil de détection personnalisé SDp n'est encore associé au conducteur, le processus passe à l'étape 500 où la détection de l'hypovigilance du conducteur s'effectue comme indiqué précédemment en comparant le niveau de vigilance courant Nvc du conducteur au seuil de détection standard prédéfini SDS- A l'inverse, si un tel seuil de détection personnalisé SDp est associé au conducteur, le processus passe à l'étape 600 au cours de laquelle le calculateur 21 compare le niveau de vigilance courant Nvc du conducteur à ce seuil de détection personnalisé SDP- Si ce niveau de vigilance courant Nvc du conducteur est supérieur ou égal au seuil de détection personnalisé SDp, le processus estime que ce conducteur est suffisamment attentif et vigilant, de sorte qu'il décide de ne transmettre aucun ordre à l'intention du module d'alerte 30 (étape 700). A l'inverse, si le niveau de vigilance courant Nvc du conducteur est inférieur à ce seuil de détection personnalisé SDp, le processus en déduit que le conducteur est en phase de d'hypovigilance, de sorte qu'il décide de transmettre au module d'alerte, l'ordre d'envoyer un message d'avertissement (visuel, sonore et/ou haptique) à l'intention du conducteur (étape 800). On va maintenant revenir de manière plus détaillée sur le fonctionnement de la phase d'apprentissage. Celle-ci s'effectue de manière automatique en parallèle du processus de détection de la baisse de vigilance du conducteur, pendant des intervalles de temps durant lesquels au moins l'une des conditions suivantes est remplie : - l'horaire courant se situe dans une tranche horaire associée selon le rythme circadien (horloge biologique) à un état d'éveil maximal (par exemple entre 9 et 11 heures ou entre 16 et 18 heures) ; - les conditions de roulage sont favorables (conditions nécessitant de l'attention et générant de l'éveil telles que la conduite en ville avec du traffic) ; et/ou - le niveau de vigilance courant du conducteur est supérieur ou égal à un second seuil de détection prédéfini du niveau de vigilance limite, différent et plus élevé que le seuil de détection standard SDS utilisé au cours de l'étape 500 évoquée précédemment.As will be discussed in detail below, each personalized detection threshold SDp is calculated according to the nominal vigilance level of the driver determined at the end of a learning phase. If no personalized detection threshold SDp is still associated with the driver, the process proceeds to step 500 where the detection of driver hypovigilance is carried out as indicated above by comparing the level of current vigilance Nvc of the driver to the threshold On the other hand, if such a personalized detection threshold SDp is associated with the driver, the process proceeds to step 600 during which the computer 21 compares the driver's current level of vigilance Nvc with that driver. Personalized detection threshold SDP- If this level of current alertness Nvc of the driver is greater than or equal to the personalized detection threshold SDp, the process considers that this driver is sufficiently attentive and vigilant, so that he decides not to transmit any order to the intention of the alert module 30 (step 700). Conversely, if the current level of vigilance Nvc of the driver is lower than this custom detection threshold SDp, the process deduces that the driver is in a phase of hypovigilance, so that he decides to transmit to the module d alert, the order to send a warning message (visual, audible and / or haptic) to the driver (step 800). We will now return in more detail on the operation of the learning phase. This is done automatically in parallel with the process of detecting the driver's loss of vigilance during periods of time during which at least one of the following conditions is met: - the current schedule is within a range of associated time slot according to the circadian rhythm (biological clock) at a maximum waking state (for example between 9 and 11 o'clock or between 16 and 18 o'clock); - the driving conditions are favorable (conditions requiring attention and generating awakening such as driving in the city with traffic); and / or the current level of vigilance of the driver is greater than or equal to a second predefined detection threshold of the level of vigilance limit, different and higher than the standard detection threshold SDS used during step 500 mentioned above.
En variante, on peut prévoir que l'apprentissage s'effectue de manière plus sélective, uniquement lorsque plusieurs de ces conditions sont remplies (voire même la totalité). L'apprentissage cesse lorsque le temps passé ou le nombre de kilomètres parcourus dans ces conditions a atteint une durée ou un nombre de kilomètres prédéfini. Dès lors, un seuil de détection personnalisé SDp sera associé au profil conducteur correspondant, ce seuil étant calculé en fonction du niveau de vigilance nominal déterminé au terme de cette phase d'apprentissage.Alternatively, it can be provided that the learning is performed more selectively, only when several of these conditions are met (or even all). The learning stops when the time spent or the number of kilometers traveled under these conditions has reached a predefined duration or number of kilometers. Therefore, a personalized detection threshold SDp will be associated with the corresponding driver profile, this threshold being calculated according to the nominal vigilance level determined at the end of this learning phase.
Ce niveau de vigilance nominal du conducteur est déterminé à l'aide des valeurs nominales de certains paramètres physiologiques et comportementaux du conducteur, tels que le temps de focalisation, la fréquence et la durée de fermeture des paupières, la fréquence et la vitesse des mouvements oculaires, le rythme cardiaque, le degré d'oscillation de la trajectoire du véhicule ou la fréquence de correction de la trajectoire via le volant. Ces paramètres physiologiques et comportementaux nominaux sont calculés grâce à l'analyse simultanée : - du visage du conducteur à partir des mesures réalisées sur les images transmises par la première caméra 10 (position des paupières et des pupilles, orientation de la tête, direction du regard) ; et - du comportement du véhicule à partir des mesures réalisées sur les images transmises par la deuxième caméra 11 (position du véhicule dans sa voie, par rapport aux obstacles de l'environnement et à la signalisation), et des données dynamiques fournies par le capteur 12 de vitesse du véhicule, le capteur 13 de rapport de boîte de vitesse engagé, le capteur 14 d'angle de braquage du volant, le capteur 15 de la vitesse de rotation de ce volant et le capteur 16 de position des pédales de frein et d'accélération. Après avoir été calculés, ces paramètres physiologiques et comportementaux nominaux sont ensuite sauvegardés dans la mémoire non volatile du module de stockage 22 et associés au profil conducteur. Concrètement, ce niveau de vigilance nominal correspond au moment au cours duquel les valeurs relevées pour ces paramètres ont été les plus favorables, sous réserve que ces dernières ne soient pas trop écartées des valeurs moyennes relevées pour ces mêmes paramètres pendant la phase d'apprentissage (un écart trop important pourrait en effet révéler une valeur accidentelle).This level of nominal driver vigilance is determined using the nominal values of certain physiological and behavioral parameters of the driver, such as the focusing time, the frequency and duration of closure of the eyelids, the frequency and the speed of the eye movements. , the heart rate, the degree of oscillation of the vehicle trajectory or the frequency of correction of the trajectory via the steering wheel. These nominal physiological and behavioral parameters are calculated by means of the simultaneous analysis: of the driver's face from the measurements made on the images transmitted by the first camera 10 (position of the eyelids and pupils, orientation of the head, direction of gaze ); and - the behavior of the vehicle based on the measurements made on the images transmitted by the second camera 11 (position of the vehicle in its lane, with respect to the obstacles of the environment and to the signaling), and dynamic data provided by the sensor 12 of the vehicle speed, the gearbox gearbox sensor 13 engaged, the steering wheel steering angle sensor 14, the steering wheel rotation speed sensor 15 and the brake pedal position sensor 16 and acceleration. After having been calculated, these nominal physiological and behavioral parameters are then saved in the non-volatile memory of the storage module 22 and associated with the conductive profile. Specifically, this level of nominal vigilance corresponds to the moment in which the values recorded for these parameters were the most favorable, provided that these are not too far removed from the average values recorded for these parameters during the learning phase ( an excessively large deviation could indeed reveal an accidental value).
Dans ce cas, une nouvelle phase d'apprentissage devra être réalisée avant qu'un seuil de détection personnalisé ne soit associé au conducteur. En outre, afin de s'assurer que le seuil de détection personnalisé SDp associé à un conducteur soit toujours représentatif, la phase d'apprentissage est reproduite régulièrement au bout d'une certaine durée de conduite ou d'une certaine distance parcourue par ce conducteur. Selon des variantes non représentées, les niveaux de vigilance courant et nominal du conducteur sont uniquement déterminés à l'aide de paramètres physiologiques, tels que le temps de focalisation, la fréquence et la durée de fermeture des paupières, la fréquence et la vitesse des mouvements oculaires ou le rythme cardiaque. Selon encore d'autres variantes non représentées, les données dynamiques permettant d'analyser le comportement du véhicule peuvent provenir d'autres types de capteurs embarqués. Bien entendu, la présente invention ne se limite pas aux formes de réalisation décrites et représentées, mais elle englobe toute variante d'exécution.10In this case, a new learning phase must be performed before a personalized detection threshold is associated with the driver. In addition, in order to ensure that the personalized detection threshold SDp associated with a driver is always representative, the learning phase is reproduced regularly after a certain driving time or a certain distance traveled by this driver . According to variants not shown, the driver's current and nominal vigilance levels are determined solely by means of physiological parameters, such as the focusing time, the frequency and duration of closure of the eyelids, the frequency and the speed of the movements. eyepieces or heart rate. According to other variants not shown, the dynamic data for analyzing the behavior of the vehicle can come from other types of onboard sensors. Of course, the present invention is not limited to the embodiments described and shown, but encompasses any alternative embodiment.
Claims (9)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1360351A FR3012029B1 (en) | 2013-10-23 | 2013-10-23 | METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1360351A FR3012029B1 (en) | 2013-10-23 | 2013-10-23 | METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE |
Publications (2)
Publication Number | Publication Date |
---|---|
FR3012029A1 true FR3012029A1 (en) | 2015-04-24 |
FR3012029B1 FR3012029B1 (en) | 2015-12-04 |
Family
ID=49998448
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
FR1360351A Expired - Fee Related FR3012029B1 (en) | 2013-10-23 | 2013-10-23 | METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE |
Country Status (1)
Country | Link |
---|---|
FR (1) | FR3012029B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017149045A1 (en) * | 2016-03-01 | 2017-09-08 | Valeo Comfort And Driving Assistance | Personalized device and method for monitoring a motor vehicle driver |
CN116118511A (en) * | 2023-04-18 | 2023-05-16 | 中国第一汽车股份有限公司 | Safety monitoring method and device for power battery outage function of electric vehicle |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108638877B (en) * | 2018-04-28 | 2021-05-07 | 北京新能源汽车股份有限公司 | Vehicle starting method and device and electric vehicle |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6661345B1 (en) * | 1999-10-22 | 2003-12-09 | The Johns Hopkins University | Alertness monitoring system |
US6717518B1 (en) * | 1998-01-15 | 2004-04-06 | Holding B.E.V.S.A. | Method and apparatus for detection of drowsiness |
JP2009208739A (en) * | 2008-03-06 | 2009-09-17 | Clarion Co Ltd | Sleepiness awakening device |
US20120112879A1 (en) * | 2010-11-09 | 2012-05-10 | Ekchian Caroline M | Apparatus and method for improved vehicle safety |
US20120161954A1 (en) * | 2010-12-28 | 2012-06-28 | Automotive Research & Testing Center | Method and system for detecting a driving state of a driver in a vehicle |
US20130116856A1 (en) * | 2011-11-08 | 2013-05-09 | Audi Ag | Method for operating a vehicle system of a motor vehicle and motor vehicle |
-
2013
- 2013-10-23 FR FR1360351A patent/FR3012029B1/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6717518B1 (en) * | 1998-01-15 | 2004-04-06 | Holding B.E.V.S.A. | Method and apparatus for detection of drowsiness |
US6661345B1 (en) * | 1999-10-22 | 2003-12-09 | The Johns Hopkins University | Alertness monitoring system |
JP2009208739A (en) * | 2008-03-06 | 2009-09-17 | Clarion Co Ltd | Sleepiness awakening device |
US20120112879A1 (en) * | 2010-11-09 | 2012-05-10 | Ekchian Caroline M | Apparatus and method for improved vehicle safety |
US20120161954A1 (en) * | 2010-12-28 | 2012-06-28 | Automotive Research & Testing Center | Method and system for detecting a driving state of a driver in a vehicle |
US20130116856A1 (en) * | 2011-11-08 | 2013-05-09 | Audi Ag | Method for operating a vehicle system of a motor vehicle and motor vehicle |
Non-Patent Citations (2)
Title |
---|
CHUANG-WEN YOU ET AL: "CarSafe app", PROCEEDING OF THE 11TH ANNUAL INTERNATIONAL CONFERENCE ON MOBILE SYSTEMS, APPLICATIONS, AND SERVICES, MOBISYS '13, vol. 13, 1 June 2013 (2013-06-01), New York, New York, USA, pages 13, XP055127047, ISBN: 978-1-45-031672-9, DOI: 10.1145/2462456.2465428 * |
KEYLEMONSOFTWARE: "KeyLemon brings face recognition to cars", 3 May 2012 (2012-05-03), XP054975443, Retrieved from the Internet <URL:https://www.youtube.com/watch?v=0c4AzB7ZkRA> [retrieved on 20140704] * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017149045A1 (en) * | 2016-03-01 | 2017-09-08 | Valeo Comfort And Driving Assistance | Personalized device and method for monitoring a motor vehicle driver |
FR3048542A1 (en) * | 2016-03-01 | 2017-09-08 | Valeo Comfort & Driving Assistance | DEVICE AND METHOD FOR PERSONALIZED MONITORING OF A DRIVER OF A MOTOR VEHICLE |
CN109690640A (en) * | 2016-03-01 | 2019-04-26 | 法雷奥舒适驾驶助手公司 | For monitoring the personalization means and method of motor vehicle operator |
US11312384B2 (en) | 2016-03-01 | 2022-04-26 | Valeo Comfort And Driving Assistance | Personalized device and method for monitoring a motor vehicle driver |
CN116118511A (en) * | 2023-04-18 | 2023-05-16 | 中国第一汽车股份有限公司 | Safety monitoring method and device for power battery outage function of electric vehicle |
Also Published As
Publication number | Publication date |
---|---|
FR3012029B1 (en) | 2015-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0527665A1 (en) | Board device and method for detecting and following the position of a vehicle on the road and driving-aid device applying the method | |
WO2017149047A1 (en) | Device and method for monitoring a driver of an automotive vehicle | |
FR3049560A1 (en) | METHOD AND SYSTEM FOR ASSISTING THE CHANGE OF THE TRACK TRACK FOR A MOTOR VEHICLE | |
EP3344508B1 (en) | Method for assisting a driver in transitioning from a first autonomous mode to a second autonomous mode | |
WO2017149045A1 (en) | Personalized device and method for monitoring a motor vehicle driver | |
WO2017149046A1 (en) | Device and method for monitoring a driver of a transport vehicle | |
FR3041778A1 (en) | MOTOR VEHICLE RECOVERY ASSISTING METHOD | |
EP3400158B1 (en) | Method for controlling an automated driving assistance system of a motor vehicle | |
WO2017202901A1 (en) | Device for monitoring the driving habits of a driver of a transport vehicle and corresponding method | |
EP3895142A1 (en) | Method for determining a drowsiness level of a motor vehicle driver | |
FR3012029A1 (en) | METHOD FOR DETECTING THE VIGILANCE DROP OF THE DRIVER OF A MOTOR VEHICLE | |
WO2017137612A1 (en) | Anticollision device and method for a motor vehicle | |
EP1235052B1 (en) | Lane keeping assistance system for a vehicle | |
FR3065935A1 (en) | SECURED TRANSITION STEERING METHOD OF A DRIVING ASSISTANCE SYSTEM FOR A MOTOR VEHICLE. | |
WO2017006015A1 (en) | Driver assistance method that suggests a driving position according to a driving situation | |
WO2022144529A1 (en) | Device for analysing a vehicle driver's perception of a danger and associated method | |
FR3057517A1 (en) | DEVICE FOR PREVENTING DANGEROUS SITUATIONS FOR A CONDUCTOR OF A TRANSPORT VEHICLE AND ASSOCIATED METHOD | |
FR3122391A1 (en) | Method and device for determining a state of attention of a driver of an autonomous vehicle | |
FR2938365A1 (en) | Data e.g. traffic sign, operating device for use in motor vehicle e.g. car, has regulation unit automatically acting on assistance device when speed is lower than real speed of vehicle and when no action by driver | |
FR2978719A1 (en) | METHOD AND SYSTEM FOR PREDICTIVE STATE OF SOMNOLENCE OF VEHICLE DRIVER | |
EP4211010B1 (en) | Method for secure display of information in a vehicle | |
EP3465535B1 (en) | Device and method for monitoring a driver of a transport vehicle | |
FR2888536A1 (en) | Inter-vehicle time limiting method for motor vehicle, involves comparing instantaneous inter-vehicle time with reference inter-vehicle time value and limiting engine torque of vehicle when inter-vehicle time reaches reference time value | |
WO2020120751A1 (en) | Method for determining a level of alertness of a driver | |
FR3087406A1 (en) | METHOD AND DEVICE FOR ASSISTING THE DRIVING OF A MOTOR VEHICLE IN BACK-UP PHASE |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PLFP | Fee payment |
Year of fee payment: 3 |
|
PLFP | Fee payment |
Year of fee payment: 4 |
|
PLFP | Fee payment |
Year of fee payment: 5 |
|
CA | Change of address |
Effective date: 20180312 |
|
CD | Change of name or company name |
Owner name: PEUGEOT CITROEN AUTOMOBILES SA, FR Effective date: 20180312 |
|
PLFP | Fee payment |
Year of fee payment: 6 |
|
PLFP | Fee payment |
Year of fee payment: 7 |
|
ST | Notification of lapse |
Effective date: 20210605 |