CN114998229B - 一种基于深度学习与多参数融合的非接触式睡眠监测方法 - Google Patents
一种基于深度学习与多参数融合的非接触式睡眠监测方法 Download PDFInfo
- Publication number
- CN114998229B CN114998229B CN202210561402.3A CN202210561402A CN114998229B CN 114998229 B CN114998229 B CN 114998229B CN 202210561402 A CN202210561402 A CN 202210561402A CN 114998229 B CN114998229 B CN 114998229B
- Authority
- CN
- China
- Prior art keywords
- sleep
- tester
- sleeping
- video image
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007958 sleep Effects 0.000 title claims abstract description 67
- 238000012544 monitoring process Methods 0.000 title claims abstract description 59
- 238000013135 deep learning Methods 0.000 title claims abstract description 22
- 230000004927 fusion Effects 0.000 title claims abstract description 17
- 238000000034 method Methods 0.000 title claims description 17
- 210000002216 heart Anatomy 0.000 claims abstract description 52
- 230000004424 eye movement Effects 0.000 claims abstract description 38
- 210000001061 forehead Anatomy 0.000 claims abstract description 32
- 238000013528 artificial neural network Methods 0.000 claims abstract description 30
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 29
- 238000001228 spectrum Methods 0.000 claims abstract description 22
- 230000003321 amplification Effects 0.000 claims abstract description 17
- 238000003199 nucleic acid amplification method Methods 0.000 claims abstract description 17
- 230000003860 sleep quality Effects 0.000 claims abstract description 13
- 239000000284 extract Substances 0.000 claims abstract description 5
- 210000001508 eye Anatomy 0.000 claims description 48
- 230000036544 posture Effects 0.000 claims description 28
- 230000007306 turnover Effects 0.000 claims description 16
- 230000006870 function Effects 0.000 claims description 13
- 238000012549 training Methods 0.000 claims description 12
- 230000004461 rapid eye movement Effects 0.000 claims description 9
- 206010041235 Snoring Diseases 0.000 claims description 6
- 230000004913 activation Effects 0.000 claims description 6
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 claims description 6
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 6
- 238000003709 image segmentation Methods 0.000 claims description 6
- 210000004279 orbit Anatomy 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 6
- 208000023504 respiratory system disease Diseases 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 5
- 230000036385 rapid eye movement (rem) sleep Effects 0.000 claims description 5
- 230000008859 change Effects 0.000 claims description 4
- 201000010099 disease Diseases 0.000 claims description 4
- 238000010183 spectrum analysis Methods 0.000 claims description 4
- 206010002383 Angina Pectoris Diseases 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims description 3
- BHPQYMZQTOCNFJ-UHFFFAOYSA-N Calcium cation Chemical compound [Ca+2] BHPQYMZQTOCNFJ-UHFFFAOYSA-N 0.000 claims description 3
- 206010062519 Poor quality sleep Diseases 0.000 claims description 3
- 208000006673 asthma Diseases 0.000 claims description 3
- 210000005252 bulbus oculi Anatomy 0.000 claims description 3
- 229910001424 calcium ion Inorganic materials 0.000 claims description 3
- 210000004709 eyebrow Anatomy 0.000 claims description 3
- 230000003340 mental effect Effects 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000000926 separation method Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 3
- 230000036387 respiratory rate Effects 0.000 abstract description 2
- 230000009466 transformation Effects 0.000 abstract description 2
- 208000019116 sleep disease Diseases 0.000 description 5
- 208000020685 sleep-wake disease Diseases 0.000 description 4
- 238000012360 testing method Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 208000035475 disorder Diseases 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000000630 rising effect Effects 0.000 description 2
- 208000007590 Disorders of Excessive Somnolence Diseases 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000003759 clinical diagnosis Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 206010020765 hypersomnia Diseases 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4809—Sleep detection, i.e. determining whether a subject is asleep or not
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4812—Detecting sleep stages or cycles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4815—Sleep quality
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7253—Details of waveform analysis characterised by using transforms
- A61B5/7257—Details of waveform analysis characterised by using transforms using Fourier transforms
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Animal Behavior & Ethology (AREA)
- Pathology (AREA)
- Heart & Thoracic Surgery (AREA)
- Surgery (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Physiology (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Psychiatry (AREA)
- Evolutionary Computation (AREA)
- Signal Processing (AREA)
- Cardiology (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Anesthesiology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Radiology & Medical Imaging (AREA)
- Computational Linguistics (AREA)
- Quality & Reliability (AREA)
- Pulmonology (AREA)
- Fuzzy Systems (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明是一种基于深度学习与多参数融合的非接触式睡眠监测系统,属于图像处理领域和深度学习领域。该系统首先对获取到的睡眠视频图像进行分割,然后搭建生理信号提取与放大的深层卷积神经网络,通过设置网络不同的放大因子,对额头区域的心率信号和眼睛区域的眼动频率进行放大,得到放大心率信号的额头区域视频图像和放大眼动频率后的眼睛区域视频图像,再利用快速傅里叶变换提取相应频谱,找出频谱峰值对应的频率作为监测到的心率信号和眼动频率。对于三方位躯体视频图像,搭建基于深度学习的睡姿监测神经网络结构,将网络中提取的睡姿特征输入到全连接层进行六分类,分类结果对应为仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿,再通过六种睡姿中的不同睡姿的切换,统计翻身次数。最后综合上述监测到的生理信号,对睡眠质量进行综合评估。本发明具有高舒适度、多参数融合、高度自动化的特点,非接触性的实现了心率、呼吸频率、眼动频率、睡姿、翻身次数等生理参数的监测。
Description
技术领域
本发明属于图像处理领域和深度学习领域,具体涉及视频图像处理技术和深度卷积网络相结合实现多参数融合的非接触式睡眠监测系统。
技术背景
睡眠过程中,人体的大脑、肌肉、眼睛、心脏、呼吸等的一系列机能都会发生变化,监测这些变化可以促进对人体睡眠质量的判断。睡眠障碍通常是指睡眠量或质的异常或在睡眠时发生某些临床症状,如睡眠减少或睡眠过多,睡眠呼吸障碍,快速眼动睡眠行为障碍等。医学证明,长期具有睡眠障碍的人群会诱发多种疾病,因此及时诊断与治疗睡眠障碍对人类健康有着重要意义。
多导睡眠图被称为睡眠障碍诊断和治疗的金方法,主要监测患者的脑电图、心电图、眼电图、口鼻气流通量、血氧饱和度等通道的生理信号,根据收集到的信号进行诊断。利用多导睡眠图监测时需要在被测者身上安装多种传感器,给被测者带来极大的不舒适感,此外,即使其对很多参数进行监测,医生还是会根据被测者的既往病史和监测期间的主观感受作为评估的依据之一,判读结果带有较强的主观性。随着深度学习的发展,出现了许多小型化的睡眠监测设备,如智能枕头、床垫、手环等。智能枕头、床垫通过压力传感器监测睡眠过程中的压力变化,统计被测者的翻身次数。智能手环佩戴时可监测睡眠时的心率。虽然现有的睡眠监测设备降低了监测过程中佩戴传感器的不舒适感,但其仅能对单一生理参数进行监测,导致睡眠质量的评估结果不准确,不完整。
针对上述睡眠监测中的问题,我们设计了一种基于深度学习与多参数融合的非接触式睡眠监测系统。对于心率和眼动频率,通过深层卷积神经网络从睡眠视频中提取微小生理信号并进行放大,同时抑制伪影的产生,实现有效生理信号放大,最后对放大的生理信号进行频谱分析。对于睡姿和翻身次数,利用卷积神经网络自动提取三方位摄像头获取的视频帧的睡姿特征,并对其进行六分类,其中根据不同睡姿之间的切换可以监测睡眠过程中的翻身次数。
发明内容
本发明针对多导睡眠图的接触性监测给被测者带来不舒适感和人工判读的主观性以及其他睡眠监测设备监测生理参数的单一性等问题,设计了一种基于深度学习与多参数融合的非接触式睡眠监测系统,以实现对于心率、眼动频率、睡姿、翻身次数等多项生理参数的非接触式监测。
本发明技术方案是一种基于深度学习与多参数融合的非接触式睡眠监测方法,该方法包括以下步骤:
步骤1:搭建睡眠监测平台,在测试者身体的上、左、右三个位置分别放置三个摄像头,以获取测试者睡眠过程中的视频图像;
步骤2:对步骤1中位于测试者身体上方摄像头所获视频图像进行图像分割,得到测试者额头区域视频图像和眼睛区域视频图像;
步骤3:搭建生理信号提取与放大的深层卷积神经网络,利用其提取视频中微小的生理信号并进行放大;
步骤4:将步骤2所获额头区域视频图像和眼睛区域视频图像分别输入到步骤3搭建的深层卷积神经网络中,分别提取与放大额头区域的心率信号和眼睛区域的眼动信号,输出放大心率信号后的额头区域视频图像和放大眼动频率后的眼睛区域视频图像;
步骤5:对步骤4所获放大心率信号后的额头区域视频图像中的每一帧图像进行RGB三通道分离,对R、G、B三个通道内的像素点求平均值,然后进行时间序列堆叠,得到脉搏波信号;
步骤6:对步骤5得到的脉搏波信号通过快速傅里叶变换,得到人体脉搏波的时间序列频谱;
步骤7:对步骤6所获时间序列频谱进行频谱分析,选取频谱峰值对应的频率作为心率的监测结果;
步骤8:对步骤4所获放大眼动频率后的眼睛区域视频图像按照时间序列进行堆叠,并进行快速傅里叶变换,得到眼睛区域视频图像频谱;
步骤9:对步骤8所获眼睛区域视频图像频谱提取频谱峰值对应的频率作为眼动频率的监测结果;
步骤10:搭建基于深度学习的睡姿监测神经网络结构,若睡姿监测神经网络未训练完毕,则执行步骤11,若睡姿监测神经网络已经训练完毕,则执行步骤13;
步骤11:预先通过部署在人身体上、左、右的三个摄像头各收集1000张以上测试者睡眠时的图像,对所获图像进行特征标注,人工标注出测试者所处睡姿状态,对应仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤12:将所获步骤11标注后的图像数据送入神经网络进行训练,按照8:2的比例划分训练集和验证集对网络进行训练,直至验证集准确度达到95%以上,网络训练完毕;
步骤13:将步骤1中三个摄像头中的测试者三方位躯体视频图像输入训练好的神经网络,并对其进行六分类输出,分类结果对应为仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤14:若测试者发生所述步骤13中六种睡姿中任意两种睡姿的切换时,记为一次翻身,但是左侧直卧和左侧蜷卧的相互转换以及右侧直卧和右侧蜷卧的相互转换不计入翻身次数的统计;
步骤15:结合步骤7所获心率参数,步骤9所获眼动频率,步骤13所获睡姿状态,步骤14所获翻身次数,对测试者的睡眠质量结果进行综合评估。
其中,所述步骤2具体为:
步骤2.1:对位于测试者身体上方摄像头所获取的视频图像,调用python中的dlib库,分割出人脸所在区域,提取出测试者脸部视频图像;
步骤2.2:对步骤2.1所获脸部视频图像进行人脸关键点检测,调用python中的dlib库进行人脸关键点检测,得到测试者的人脸68个关键点所处位置;
步骤2.3:通过步骤2.2中所获人脸关键点位置对步骤2.1所获视频图像再次进行图像分割;通过标识人脸左右眼眉毛中心的关键点,以及通过dlib库识别到的人脸的上边界,分割出一块矩形区域的额头区域视频图像;
步骤2.4:通过标识人脸左右眼的关键点,找到代表左眼眼角、右眼眼角、眼眶最上方和眼眶最下方的关键点,通过上述四个关键点分割出一块矩形区域的眼睛区域视频图像;
其中,所述步骤3具体为:
步骤3.1:搭建生理信号提取与放大的深层卷积神经网络的编码器结构,其结构首先为:2个卷积层每个卷积层后均使用Relu激活函数,然后是3个残差网络,再通过一个卷积层提取睡眠视频中的生理信号,其步长设置为2,最后连接两个残差结构输出;
步骤3.2:搭建深层卷积神经网络的调制放大结构,先通过一个卷积层对两帧睡眠图像生理信号的差分进行卷积运算,激活函数为Relu函数,然后乘以放大因子α,再一次利用卷积层和残差结构对放大后的特征进行非线性变化,得到放大的生理信号差分特征;
步骤3.3:搭建深层卷积神经网络的解码器结构,将放大的生理信号差分特征叠加到初始睡眠图像上,再通过上采样和两个卷积层对放大的视频进行解码输出,实现睡眠视频中生理信号的放大。
其中,所述步骤4具体为:
步骤4.1:将步骤2中获得的额头区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=15,对额头区域的心率进行提取与放大,输出放大心率信号后的额头区域视频图像;
步骤4.2:将步骤2中获得的眼睛区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=30,对眼睛区域的眼动频率进行提取与放大,输出放大眼动频率后的眼睛区域视频图像;
其中,所述步骤10具体为:
步骤10.1:搭建神经网络结构,包括4个卷积层,3个最大池化层,1个全连接层和1个分类器;
步骤10.2:防止计算量过大,每隔1s提取一次视频当前时刻关键帧,分别从位于测试者身体上、左、右的摄像头中提取1帧图像,组成三通道图像数据输入到步骤10.1的神经网络中;
步骤10.3:步骤10.2中的三通道图像数据分别通过卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,进行图像特征的提取;
步骤10.4:对上述提取的特征输入到全连接层进行六分类,分类结果对应到六种睡姿:仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧。
其中,所述步骤15具体为:
步骤15.1:人在正常睡眠时的心率为每分钟60~100次,深睡时可降低至每分钟50次,对测试者睡眠时的心率进行监测,当心率明显下降时,认为测试者进入深睡期,而当心率逐渐上升时,则认为退出深睡期,最终统计测试者睡眠中深睡期所占比例,深睡期占比越大睡眠质量越高;
步骤15.2:处于睡眠分期中的快速眼动期时,眼球会快速转动,对测试者的眼动进行监测,若眼动频率出现明显变大,结合步骤14.1中的心率上升,可认为测试者进入快速眼动期,统计快速眼动期的持续时间,若快速眼动睡眠突然中断,往往是心绞痛、哮喘等疾病发作的信号;
步骤15.3:平卧被认为是睡眠期间比较好的一种睡姿,但不适合患有呼吸道疾病或是经常打呼噜的人群,而应采用侧卧睡姿;对测试者的睡姿进行监测,若测试者患有呼吸道疾病或是打呼噜,则在他们采用了非侧卧睡姿时对其进行睡姿调整建议;
步骤15.4:对测试者的翻身次数进行监测,若翻身次数过多,则提示测试者可能缺乏钙离子或精神压力大,睡眠质量差。
本发明是一种基于深度学习与多参数融合的非接触式睡眠监测系统,该系统首先对获取到的视频图像进行分割,分割出额头区域视频图像、眼睛区域视频图像、三方位躯体视频图像,然后搭建生理信号提取与放大的深层卷积神经网络,通过设置网络不同的放大因子,对额头区域的心率信号和眼睛区域的眼动频率进行放大,得到放大心率信号的额头区域视频图像和放大眼动频率后的眼睛区域视频图像,再利用快速傅里叶变换提取相应频谱,找出频谱峰值对应的频率作为监测到的心率信号和眼动频率。对于三方位躯体视频图像,搭建基于深度学习的睡姿监测神经网络结构,将网络中提取的睡姿特征输入到全连接层进行六分类,分类结果对应为仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿,再通过六种睡姿中的不同睡姿的切换,统计翻身次d数。最后综合上述监测到的生理信号,对睡眠质量进行综合评估。本发明为测试者提供了一种高舒适度、多参数融合、高度自动化的睡眠监测系统,非接触性的实现了心率、呼吸频率、眼动频率、睡姿、翻身次数等生理参数的监测,提高了监测的可靠性,对睡眠质量的临床诊断及对睡眠障碍患者或潜在患者的临床治疗和尽早干预具有关键作用。
附图说明
图1是生理信号提取与放大的深层卷积神经网络图
图2是心率监测流程图
图3是眼动监测流程图
图4是睡姿、翻身次数监测流程图
图5是睡姿监测神经网络结构图
具体实施方式
下面结合附图,对本发明一种基于深度学习与多参数融合的非接触式睡眠监测系统进行详细说明:
步骤1:搭建睡眠监测平台。在测试者身体的上、左、右三个位置分别放置三个摄像头,以获取测试者睡眠过程中的视频图像;
步骤2:对步骤1中位于测试者身体上方摄像头所获视频图像进行图像分割,得到测试者额头区域视频图像和眼睛区域视频图像;
步骤2.1:对位于测试者身体上方摄像头所获取的视频图像,调用python中的dlib库,分割出人脸所在区域,提取出测试者脸部视频图像;
步骤2.2:对步骤2.1所获脸部视频图像进行人脸关键点检测,调用python中的dlib库进行人脸关键点检测,得到测试者的人脸68个关键点所处位置;
步骤2.3:通过步骤2.2中所获人脸关键点位置对步骤2.1所获视频图像再次进行图像分割。通过标识人脸左右眼眉毛中心的关键点,以及通过dlib库识别到的人脸的上边界,分割出一块矩形区域的额头区域视频图像;
步骤2.4:通过标识人脸左右眼的关键点,找到代表左眼眼角、右眼眼角、眼眶最上方和眼眶最下方的关键点,通过上述四个关键点分割出一块矩形区域的眼睛区域视频图像。
步骤3:搭建生理信号提取与放大的深层卷积神经网络,利用其提取视频中微小的生理信号并进行放大;
步骤3.1:搭建生理信号提取与放大的深层卷积神经网络的编码器结构,其包括2个卷积层和3个残差网络,每个卷积层后均使用了Relu激活函数,然后再通过一个卷积层提取睡眠视频中的生理信号,其步长设置为2,最后连接两个残差结构输出;
步骤3.2:搭建深层卷积神经网络的调制放大结构,先通过一个卷积层对两帧睡眠图像生理信号的差分进行卷积运算,激活函数为Relu函数,然后乘以放大因子α,再利用卷积层和残差结构对放大后的特征进行非线性变化,得到放大的生理信号差分特征;
步骤3.3:搭建深层卷积神经网络的解码器结构,将放大的生理信号差分特征叠加到初始睡眠图像上,再通过上采样和两个卷积层对放大的视频进行解码输出,实现睡眠视频中生理信号的放大。
步骤4:将步骤2所获额头区域视频图像和眼睛区域视频图像分别输入到步骤3搭建的深层卷积神经网络中,分别提取与放大额头区域的心率信号和眼睛区域的眼动信号,输出放大心率信号后的额头区域视频图像和放大眼动频率后的眼睛区域视频图像;
步骤4.1:将步骤2中获得的额头区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=15,对额头区域的心率进行提取与放大,输出放大心率信号后的额头区域视频图像;
步骤4.2:将步骤2中获得的眼睛区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=30,对眼睛区域的眼动频率进行提取与放大,输出放大眼动频率后的眼睛区域视频图像;
步骤5:对步骤4所获放大心率信号后的额头区域视频图像中的每一帧图像进行RGB三通道分离,对R、G、B三个通道内的像素点求平均值,然后进行时间序列堆叠,得到脉搏波信号;
步骤6:对步骤5得到的脉搏波信号通过快速傅里叶变换,得到人体脉搏波的时间序列频谱;
步骤7:对步骤6所获时间序列频谱进行频谱分析,选取频谱峰值对应的频率作为心率的监测结果;
步骤8:对步骤4所获放大眼动频率后的眼睛区域视频图像按照时间序列进行堆叠,并进行快速傅里叶变换,得到眼睛区域视频图像频谱;
步骤9:对步骤8所获眼睛区域视频图像频谱提取频谱峰值对应的频率作为眼动频率的监测结果;
步骤10:搭建基于深度学习的睡姿监测神经网络结构,若睡姿监测神经网络未训练完毕,则执行步骤11。若睡姿监测神经网络已经训练完毕,则执行步骤13;
步骤10.1:搭建神经网络结构,包括4个卷积层,3个最大池化层,1个全连接层和1个分类器;
步骤10.2:防止计算量过大,每隔1s提取一次视频当前时刻关键帧,分别从位于测试者身体上、左、右的摄像头中提取1帧图像,组成三通道图像数据输入到步骤10.1的神经网络中;
步骤10.3:步骤10.2中的三通道图像数据分别通过卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,进行图像特征的提取;
步骤10.4:对上述提取的特征输入到全连接层进行六分类,分类结果对应到六种睡姿:仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧。
步骤11:预先通过部署在人身体上、左、右的三个摄像头各收集1000张以上测试者睡眠时的图像,对所获图像进行特征标注,人工标注出测试者所处睡姿状态,对应仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤12:将所获步骤11标注后的图像数据送入神经网络进行训练,按照8:2的比例划分训练集和验证集对网络进行训练,直至验证集准确度达到95%以上,网络训练完毕;
步骤13:将步骤1中三个摄像头中的测试者三方位躯体视频图像输入训练好的神经网络,并对其进行六分类输出,分类结果对应为仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤14:若测试者发生所述步骤13中六种睡姿中任意两种睡姿的切换时,记为一次翻身,但是左侧直卧和左侧蜷卧的相互转换以及右侧直卧和右侧蜷卧的相互转换不计入翻身次数的统计;
步骤15:结合步骤7所获心率参数,步骤9所获眼动频率,步骤13所获睡姿状态,步骤14所获翻身次数,对测试者的睡眠质量结果进行综合评估。
步骤15.1:人在正常睡眠时的心率为每分钟60~100次,深睡时可降低至每分钟50次。本发明对测试者睡眠时的心率进行监测,当心率明显下降时,认为测试者进入深睡期,而当心率逐渐上升时,则认为退出深睡期。最终统计测试者睡眠中深睡期所占比例,深睡期占比越大睡眠质量越高;
步骤15.2:处于睡眠分期中的快速眼动期时,眼球会快速转动。本发明对测试者的眼动进行监测,若眼动频率出现明显变大,结合步骤14.1中的心率上升,可认为测试者进入快速眼动期,统计快速眼动期的持续时间,若快速眼动睡眠突然中断,往往是心绞痛、哮喘等疾病发作的信号;
步骤15.3:平卧被认为是睡眠期间比较好的一种睡姿,但不适合患有呼吸道疾病或是经常打呼噜的人群,而应采用侧卧睡姿。本发明对测试者的睡姿进行监测,若测试者患有呼吸道疾病或是打呼噜,则在他们采用了非侧卧睡姿时对其进行睡姿调整建议;
步骤15.4:本发明对测试者的翻身次数进行监测,若翻身次数过多,则提示测试者可能缺乏钙离子或精神压力大,睡眠质量差。
Claims (6)
1.一种基于深度学习与多参数融合的非接触式睡眠监测方法,该方法包括以下步骤:
步骤1:搭建睡眠监测平台;在测试者身体的上、左、右三个位置分别放置三个摄像头,以获取测试者睡眠过程中的视频图像;
步骤2:对步骤1中位于测试者身体上方摄像头所获视频图像进行图像分割,得到测试者额头区域视频图像和眼睛区域视频图像;
步骤3:搭建生理信号提取与放大的深层卷积神经网络,利用其提取视频中微小的生理信号并进行放大;
步骤4:将步骤2所获额头区域视频图像和眼睛区域视频图像分别输入到步骤3搭建的深层卷积神经网络中,分别提取与放大额头区域的心率信号和眼睛区域的眼动信号,输出放大心率信号后的额头区域视频图像和放大眼动频率后的眼睛区域视频图像;
步骤5:对步骤4所获放大心率信号后的额头区域视频图像中的每一帧图像进行RGB三通道分离,对R、G、B三个通道内的像素点求平均值,然后进行时间序列堆叠,得到脉搏波信号;
步骤6:对步骤5得到的脉搏波信号通过快速傅里叶变换,得到人体脉搏波的时间序列频谱;
步骤7:对步骤6所获时间序列频谱进行频谱分析,选取频谱峰值对应的频率作为心率的监测结果;
步骤8:对步骤4所获放大眼动频率后的眼睛区域视频图像按照时间序列进行堆叠,并进行快速傅里叶变换,得到眼睛区域视频图像频谱;
步骤9:对步骤8所获眼睛区域视频图像频谱提取频谱峰值对应的频率作为眼动频率的监测结果;
步骤10:搭建基于深度学习的睡姿监测神经网络结构,若睡姿监测神经网络未训练完毕,则执行步骤11;若睡姿监测神经网络已经训练完毕,则执行步骤13;
步骤11:预先通过部署在人身体上、左、右的三个摄像头各收集1000张以上测试者睡眠时的图像,对所获图像进行特征标注,人工标注出测试者所处睡姿状态,对应仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤12:将所获步骤11标注后的图像数据送入神经网络进行训练,按照8:2的比例划分训练集和验证集对网络进行训练,直至验证集准确度达到95%以上,网络训练完毕;
步骤13:将步骤1中三个摄像头中的测试者三方位躯体视频图像输入训练好的神经网络,并对其进行六分类输出,分类结果对应为仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧六种睡姿;
步骤14:若测试者发生所述步骤13中六种睡姿中任意两种睡姿的切换时,记为一次翻身,但是左侧直卧和左侧蜷卧的相互转换以及右侧直卧和右侧蜷卧的相互转换不计入翻身次数的统计;
步骤15:结合步骤7所获心率参数,步骤9所获眼动频率,步骤13所获睡姿状态,步骤14所获翻身次数,对测试者的睡眠质量结果进行综合评估。
2.如权利要求1所述一种基于深度学习与多参数融合的非接触式睡眠监测系统,其特征在于步骤2具体为:
步骤2.1:对位于测试者身体上方摄像头所获取的视频图像,调用python中的dlib库,分割出人脸所在区域,提取出测试者脸部视频图像;
步骤2.2:对步骤2.1所获脸部视频图像进行人脸关键点检测,调用python中的dlib库进行人脸关键点检测,得到测试者的人脸68个关键点所处位置;
步骤2.3:通过步骤2.2中所获人脸关键点位置对步骤2.1所获视频图像再次进行图像分割;通过标识人脸左右眼眉毛中心的关键点,以及通过dlib库识别到的人脸的上边界,分割出一块矩形区域的额头区域视频图像;
步骤2.4:通过标识人脸左右眼的关键点,找到代表左眼眼角、右眼眼角、眼眶最上方和眼眶最下方的关键点,通过上述四个关键点分割出一块矩形区域的眼睛区域视频图像。
3.如权利要求1所述一种基于深度学习与多参数融合的非接触式睡眠监测系统,其特征在于步骤3具体为:
步骤3.1:搭建生理信号提取与放大的深层卷积神经网络的编码器结构,其包括2个卷积层和3个残差网络,每个卷积层后均使用了Relu激活函数,然后再通过一个卷积层提取睡眠视频中的生理信号,其步长设置为2,最后连接两个残差结构输出;
步骤3.2:搭建深层卷积神经网络的调制放大结构,先通过一个卷积层对两帧睡眠图像生理信号的差分进行卷积运算,激活函数为Relu函数,然后乘以放大因子α,再利用卷积层和残差结构对放大后的特征进行非线性变化,得到放大的生理信号差分特征;
步骤3.3:搭建深层卷积神经网络的解码器结构,将放大的生理信号差分特征叠加到初始睡眠图像上,再通过上采样和两个卷积层对放大的视频进行解码输出,实现睡眠视频中生理信号的放大。
4.如权利要求1所述一种基于深度学习与多参数融合的非接触式睡眠监测系统,其特征在于步骤4具体为:
步骤4.1:将步骤2中获得的额头区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=15,对额头区域的心率进行提取与放大,输出放大心率信号后的额头区域视频图像;
步骤4.2:将步骤2中获得的眼睛区域视频图像输入到步骤3搭建的深层卷积神经网络中,设置放大因子α=30,对眼睛区域的眼动频率进行提取与放大,输出放大眼动频率后的眼睛区域视频图像。
5.如权利要求1所述一种基于深度学习与多参数融合的非接触式睡眠监测系统,其特征在于步骤10具体为:
步骤10.1:搭建神经网络结构,包括4个卷积层,3个最大池化层,1个全连接层和1个分类器;
步骤10.2:防止计算量过大,每隔1s提取一次视频当前时刻关键帧,分别从位于测试者身体上、左、右的摄像头中提取1帧图像,组成三通道图像数据输入到步骤10.1的神经网络中;
步骤10.3:步骤10.2中的三通道图像数据分别通过卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,2×2的最大池化层,卷积核为10×10的卷积层,进行图像特征的提取;
步骤10.4:对上述提取的特征输入到全连接层进行六分类,分类结果对应到六种睡姿:仰卧、俯卧、左侧直卧、左侧蜷卧、右侧直卧和右侧蜷卧。
6.如权利要求1所述一种基于深度学习与多参数融合的非接触式睡眠监测系统,其特征在于步骤15具体为:
步骤15.1:人在正常睡眠时的心率为每分钟60~100次,深睡时可降低至每分钟50次;对测试者睡眠时的心率进行监测,当心率明显下降时,认为测试者进入深睡期,而当心率逐渐上升时,则认为退出深睡期;最终统计测试者睡眠中深睡期所占比例,深睡期占比越大睡眠质量越高;
步骤15.2:处于睡眠分期中的快速眼动期时,眼球会快速转动;对测试者的眼动进行监测,若眼动频率出现明显变大,结合步骤14.1中的心率上升,可认为测试者进入快速眼动期,统计快速眼动期的持续时间,若快速眼动睡眠突然中断,往往是心绞痛、哮喘等疾病发作的信号;
步骤15.3:平卧被认为是睡眠期间比较好的一种睡姿,但不适合患有呼吸道疾病或是经常打呼噜的人群,而应采用侧卧睡姿;对测试者的睡姿进行监测,若测试者患有呼吸道疾病或是打呼噜,则在他们采用了非侧卧睡姿时对其进行睡姿调整建议;
步骤15.4:对测试者的翻身次数进行监测,若翻身次数过多,则提示测试者可能缺乏钙离子或精神压力大,睡眠质量差。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210561402.3A CN114998229B (zh) | 2022-05-23 | 2022-05-23 | 一种基于深度学习与多参数融合的非接触式睡眠监测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210561402.3A CN114998229B (zh) | 2022-05-23 | 2022-05-23 | 一种基于深度学习与多参数融合的非接触式睡眠监测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114998229A CN114998229A (zh) | 2022-09-02 |
CN114998229B true CN114998229B (zh) | 2024-04-12 |
Family
ID=83027622
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210561402.3A Active CN114998229B (zh) | 2022-05-23 | 2022-05-23 | 一种基于深度学习与多参数融合的非接触式睡眠监测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114998229B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116563887B (zh) * | 2023-04-21 | 2024-03-12 | 华北理工大学 | 一种基于轻量化卷积神经网络的睡姿监测方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004187961A (ja) * | 2002-12-12 | 2004-07-08 | Toshiba Corp | 睡眠状態検出装置および睡眠状態管理システム |
CN105997004A (zh) * | 2016-06-17 | 2016-10-12 | 美的集团股份有限公司 | 一种睡眠提醒的方法及睡眠监测装置 |
US9993166B1 (en) * | 2013-06-21 | 2018-06-12 | Fitbit, Inc. | Monitoring device using radar and measuring motion with a non-contact device |
CN108836269A (zh) * | 2018-05-10 | 2018-11-20 | 电子科技大学 | 一种融合心率呼吸体动的自动睡眠分期方法 |
CN109431681A (zh) * | 2018-09-25 | 2019-03-08 | 吉林大学 | 一种检测睡眠质量的智能眼罩及其检测方法 |
CN110957030A (zh) * | 2019-12-04 | 2020-04-03 | 中国人民解放军第二军医大学 | 一种睡眠质量监测及交互系统 |
CN111248868A (zh) * | 2020-02-20 | 2020-06-09 | 长沙湖湘医疗器械有限公司 | 一种快眼动睡眠分析方法、系统及设备 |
CN112451834A (zh) * | 2020-11-24 | 2021-03-09 | 珠海格力电器股份有限公司 | 一种睡眠质量管理方法、装置、系统及存储介质 |
CN112806975A (zh) * | 2021-02-01 | 2021-05-18 | 深圳益卡思科技发展有限公司 | 基于毫米波雷达的睡眠监测装置、方法及介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10374863B2 (en) * | 2012-12-05 | 2019-08-06 | Origin Wireless, Inc. | Apparatus, systems and methods for event recognition based on a wireless signal |
US11439344B2 (en) * | 2015-07-17 | 2022-09-13 | Origin Wireless, Inc. | Method, apparatus, and system for wireless sleep monitoring |
-
2022
- 2022-05-23 CN CN202210561402.3A patent/CN114998229B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004187961A (ja) * | 2002-12-12 | 2004-07-08 | Toshiba Corp | 睡眠状態検出装置および睡眠状態管理システム |
US9993166B1 (en) * | 2013-06-21 | 2018-06-12 | Fitbit, Inc. | Monitoring device using radar and measuring motion with a non-contact device |
CN105997004A (zh) * | 2016-06-17 | 2016-10-12 | 美的集团股份有限公司 | 一种睡眠提醒的方法及睡眠监测装置 |
CN108836269A (zh) * | 2018-05-10 | 2018-11-20 | 电子科技大学 | 一种融合心率呼吸体动的自动睡眠分期方法 |
CN109431681A (zh) * | 2018-09-25 | 2019-03-08 | 吉林大学 | 一种检测睡眠质量的智能眼罩及其检测方法 |
CN110957030A (zh) * | 2019-12-04 | 2020-04-03 | 中国人民解放军第二军医大学 | 一种睡眠质量监测及交互系统 |
CN111248868A (zh) * | 2020-02-20 | 2020-06-09 | 长沙湖湘医疗器械有限公司 | 一种快眼动睡眠分析方法、系统及设备 |
CN112451834A (zh) * | 2020-11-24 | 2021-03-09 | 珠海格力电器股份有限公司 | 一种睡眠质量管理方法、装置、系统及存储介质 |
CN112806975A (zh) * | 2021-02-01 | 2021-05-18 | 深圳益卡思科技发展有限公司 | 基于毫米波雷达的睡眠监测装置、方法及介质 |
Non-Patent Citations (3)
Title |
---|
Deep learning for automated sleep staging using instantaneous heart rate;Niranjan Sridhar等;《npj digital medicine》;20200820;全文 * |
基于IPPG技术的生理参数检测综述;张煜;刘保真;单聪淼;牟锴钰;;医疗卫生装备;20200215(02);全文 * |
基于心率和呼吸特征结合的睡眠分期研究;冯静达;焦学军;李启杰;郭娅美;杨涵钧;楚洪祚;;航天医学与医学工程;20200415(02);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114998229A (zh) | 2022-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104834946B (zh) | 一种非接触式睡眠监测方法及系统 | |
JP5859979B2 (ja) | 人間の健康の監視のための多変量残差に基づく健康指標 | |
Pouyan et al. | A pressure map dataset for posture and subject analytics | |
US20140275829A1 (en) | Sleep stage annotation device | |
US9436984B2 (en) | Compensating for motion induced artifacts in a physiological signal extracted from a single video | |
US20190343457A1 (en) | Pain assessment method and apparatus for patients unable to self-report pain | |
Bousefsaf et al. | Remote assessment of the heart rate variability to detect mental stress | |
CN113347916A (zh) | 用于多变量卒中检测的系统和方法 | |
US20140376789A1 (en) | Compensating for motion induced artifacts in a physiological signal extracted from multiple videos | |
Waltisberg et al. | Detecting disordered breathing and limb movement using in-bed force sensors | |
CN111887858B (zh) | 基于跨模态映射的心冲击图信号心率估计方法 | |
Ganfure | Using video stream for continuous monitoring of breathing rate for general setting | |
CN111544001A (zh) | 一种非接触式呼吸暂停检测装置及方法 | |
Bennett et al. | The detection of breathing behavior using Eulerian-enhanced thermal video | |
CN114998229B (zh) | 一种基于深度学习与多参数融合的非接触式睡眠监测方法 | |
CN109044275B (zh) | 基于模糊推论系统的非侵入感测睡眠质量分析系统与方法 | |
Kau et al. | Pressure-sensor-based sleep status and quality evaluation system | |
JP2023521573A (ja) | 筋肉活性化をマッピングするためのシステムおよび方法 | |
CN116807405A (zh) | 基于人体压力分布图像的睡眠状态及睡眠疾病检测系统 | |
Pediaditis et al. | Contactless respiratory rate estimation from video in a real-life clinical environment using eulerian magnification and 3D CNNs | |
Suriani et al. | Non-contact facial based vital sign estimation using convolutional neural network approach | |
CN107280673A (zh) | 一种基于关键帧提取技术的红外成像呼吸信号检测方法 | |
KR102340670B1 (ko) | 딥러닝 기반의 심리생리검사 시스템 및 방법 | |
Rosli et al. | Electrocardiographic (ECG) and Electromyographic (EMG) signals fusion for physiological device in rehab application | |
CN113040734A (zh) | 一种基于信号筛选的非接触血压估计方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |