JP2019519053A - 視覚機能データを獲得し、分析し、生成する、かつデータに基づいてメディアを修正するための方法およびシステム - Google Patents
視覚機能データを獲得し、分析し、生成する、かつデータに基づいてメディアを修正するための方法およびシステム Download PDFInfo
- Publication number
- JP2019519053A JP2019519053A JP2019503640A JP2019503640A JP2019519053A JP 2019519053 A JP2019519053 A JP 2019519053A JP 2019503640 A JP2019503640 A JP 2019503640A JP 2019503640 A JP2019503640 A JP 2019503640A JP 2019519053 A JP2019519053 A JP 2019519053A
- Authority
- JP
- Japan
- Prior art keywords
- data
- user
- media
- medium
- saccade
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 196
- 230000004382 visual function Effects 0.000 title description 15
- 230000000007 visual effect Effects 0.000 claims abstract description 204
- 230000003190 augmentative effect Effects 0.000 claims abstract description 34
- 230000004434 saccadic eye movement Effects 0.000 claims description 596
- 230000008859 change Effects 0.000 claims description 571
- 238000012545 processing Methods 0.000 claims description 352
- 230000001965 increasing effect Effects 0.000 claims description 268
- 230000004044 response Effects 0.000 claims description 264
- 230000009467 reduction Effects 0.000 claims description 257
- 230000007423 decrease Effects 0.000 claims description 243
- 210000001747 pupil Anatomy 0.000 claims description 236
- 210000003128 head Anatomy 0.000 claims description 205
- 230000033001 locomotion Effects 0.000 claims description 203
- 230000036760 body temperature Effects 0.000 claims description 136
- 210000000744 eyelid Anatomy 0.000 claims description 125
- 210000001508 eye Anatomy 0.000 claims description 123
- 230000004424 eye movement Effects 0.000 claims description 98
- 230000008921 facial expression Effects 0.000 claims description 93
- 238000004458 analytical method Methods 0.000 claims description 88
- 238000002567 electromyography Methods 0.000 claims description 81
- 230000000638 stimulation Effects 0.000 claims description 77
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 claims description 75
- 229910052760 oxygen Inorganic materials 0.000 claims description 75
- 239000001301 oxygen Substances 0.000 claims description 75
- 208000024891 symptom Diseases 0.000 claims description 75
- 230000036772 blood pressure Effects 0.000 claims description 64
- 230000036387 respiratory rate Effects 0.000 claims description 64
- 230000029058 respiratory gaseous exchange Effects 0.000 claims description 60
- 206010052143 Ocular discomfort Diseases 0.000 claims description 48
- 230000000694 effects Effects 0.000 claims description 47
- 230000004438 eyesight Effects 0.000 claims description 47
- 230000005043 peripheral vision Effects 0.000 claims description 47
- 230000035484 reaction time Effects 0.000 claims description 41
- 206010047700 Vomiting Diseases 0.000 claims description 40
- 238000006243 chemical reaction Methods 0.000 claims description 40
- 238000002565 electrocardiography Methods 0.000 claims description 39
- 230000001144 postural effect Effects 0.000 claims description 35
- 208000028173 post-traumatic stress disease Diseases 0.000 claims description 34
- 230000003054 hormonal effect Effects 0.000 claims description 32
- 206010019233 Headaches Diseases 0.000 claims description 30
- 230000004886 head movement Effects 0.000 claims description 30
- 231100000869 headache Toxicity 0.000 claims description 30
- 230000004379 myopia Effects 0.000 claims description 29
- 208000001491 myopia Diseases 0.000 claims description 29
- 230000001720 vestibular Effects 0.000 claims description 27
- 230000008673 vomiting Effects 0.000 claims description 26
- 206010034972 Photosensitivity reaction Diseases 0.000 claims description 24
- 208000007578 phototoxic dermatitis Diseases 0.000 claims description 24
- 231100000018 phototoxicity Toxicity 0.000 claims description 24
- 230000009340 pathogen transmission Effects 0.000 claims description 21
- 238000012217 deletion Methods 0.000 claims description 17
- 230000037430 deletion Effects 0.000 claims description 17
- 238000002570 electrooculography Methods 0.000 claims description 15
- 208000003164 Diplopia Diseases 0.000 claims description 14
- 208000003464 asthenopia Diseases 0.000 claims description 14
- 206010025482 malaise Diseases 0.000 claims description 14
- 230000001105 regulatory effect Effects 0.000 claims description 14
- 230000004064 dysfunction Effects 0.000 claims description 13
- 230000002093 peripheral effect Effects 0.000 claims description 11
- 208000003556 Dry Eye Syndromes Diseases 0.000 claims description 8
- 206010013774 Dry eye Diseases 0.000 claims description 8
- 208000002193 Pain Diseases 0.000 claims description 7
- 206010000059 abdominal discomfort Diseases 0.000 claims description 5
- 208000029444 double vision Diseases 0.000 claims description 5
- 230000002708 enhancing effect Effects 0.000 claims description 4
- 238000012546 transfer Methods 0.000 claims description 4
- 238000000926 separation method Methods 0.000 claims description 3
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 2
- 208000035475 disorder Diseases 0.000 claims description 2
- 208000019505 Deglutition disease Diseases 0.000 claims 1
- 206010047513 Vision blurred Diseases 0.000 claims 1
- 230000015556 catabolic process Effects 0.000 claims 1
- 238000006731 degradation reaction Methods 0.000 claims 1
- 239000006185 dispersion Substances 0.000 claims 1
- 230000001953 sensory effect Effects 0.000 abstract description 24
- 210000003414 extremity Anatomy 0.000 description 275
- 238000005259 measurement Methods 0.000 description 259
- 238000000537 electroencephalography Methods 0.000 description 139
- 238000011156 evaluation Methods 0.000 description 133
- 238000009826 distribution Methods 0.000 description 111
- 230000003247 decreasing effect Effects 0.000 description 81
- 230000008569 process Effects 0.000 description 70
- 230000002829 reductive effect Effects 0.000 description 69
- 230000003993 interaction Effects 0.000 description 68
- 230000006870 function Effects 0.000 description 64
- 230000036961 partial effect Effects 0.000 description 55
- 231100000430 skin reaction Toxicity 0.000 description 53
- 230000008482 dysregulation Effects 0.000 description 49
- 230000005764 inhibitory process Effects 0.000 description 47
- 238000010801 machine learning Methods 0.000 description 44
- 230000009471 action Effects 0.000 description 40
- 230000006872 improvement Effects 0.000 description 40
- 238000012360 testing method Methods 0.000 description 40
- 230000014509 gene expression Effects 0.000 description 35
- 238000001514 detection method Methods 0.000 description 34
- 230000002123 temporal effect Effects 0.000 description 34
- 238000002571 electroretinography Methods 0.000 description 32
- 238000004422 calculation algorithm Methods 0.000 description 27
- 230000001629 suppression Effects 0.000 description 27
- 206010040914 Skin reaction Diseases 0.000 description 26
- 230000000630 rising effect Effects 0.000 description 26
- 230000035483 skin reaction Effects 0.000 description 26
- 241000699666 Mus <mouse, genus> Species 0.000 description 25
- 230000002496 gastric effect Effects 0.000 description 25
- 230000004048 modification Effects 0.000 description 25
- 238000012986 modification Methods 0.000 description 25
- 238000012937 correction Methods 0.000 description 23
- 239000008280 blood Substances 0.000 description 22
- 210000004369 blood Anatomy 0.000 description 22
- 241000699670 Mus sp. Species 0.000 description 21
- 230000035945 sensitivity Effects 0.000 description 20
- 230000001815 facial effect Effects 0.000 description 19
- 230000001133 acceleration Effects 0.000 description 18
- 238000012544 monitoring process Methods 0.000 description 18
- 238000002001 electrophysiology Methods 0.000 description 17
- 230000007831 electrophysiology Effects 0.000 description 17
- 230000002567 autonomic effect Effects 0.000 description 16
- 210000004709 eyebrow Anatomy 0.000 description 16
- 210000003403 autonomic nervous system Anatomy 0.000 description 15
- 230000018109 developmental process Effects 0.000 description 15
- 230000008451 emotion Effects 0.000 description 15
- 230000007613 environmental effect Effects 0.000 description 15
- 238000006213 oxygenation reaction Methods 0.000 description 15
- 208000001953 Hypotension Diseases 0.000 description 14
- 230000003542 behavioural effect Effects 0.000 description 14
- 230000000744 blepharospasm Effects 0.000 description 14
- 206010005159 blepharospasm Diseases 0.000 description 14
- 230000037396 body weight Effects 0.000 description 14
- 230000013016 learning Effects 0.000 description 14
- 238000005728 strengthening Methods 0.000 description 14
- 239000003826 tablet Substances 0.000 description 14
- 210000004556 brain Anatomy 0.000 description 13
- 210000004027 cell Anatomy 0.000 description 13
- 230000000193 eyeblink Effects 0.000 description 13
- 208000015181 infectious disease Diseases 0.000 description 13
- 210000000467 autonomic pathway Anatomy 0.000 description 12
- 238000011161 development Methods 0.000 description 12
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 12
- 208000012866 low blood pressure Diseases 0.000 description 12
- 230000001537 neural effect Effects 0.000 description 12
- 210000001525 retina Anatomy 0.000 description 12
- 230000007704 transition Effects 0.000 description 12
- 230000015654 memory Effects 0.000 description 11
- 238000011084 recovery Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 10
- 230000008447 perception Effects 0.000 description 10
- 230000010344 pupil dilation Effects 0.000 description 10
- 206010028813 Nausea Diseases 0.000 description 9
- 230000037007 arousal Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000001976 improved effect Effects 0.000 description 9
- 230000008693 nausea Effects 0.000 description 9
- 230000001149 cognitive effect Effects 0.000 description 8
- 230000007774 longterm Effects 0.000 description 8
- 230000003647 oxidation Effects 0.000 description 8
- 238000007254 oxidation reaction Methods 0.000 description 8
- 238000005549 size reduction Methods 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 230000008685 targeting Effects 0.000 description 8
- 230000000875 corresponding effect Effects 0.000 description 7
- 230000036541 health Effects 0.000 description 7
- 230000004459 microsaccades Effects 0.000 description 7
- 201000003152 motion sickness Diseases 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 230000004962 physiological condition Effects 0.000 description 7
- 230000035807 sensation Effects 0.000 description 7
- 235000019615 sensations Nutrition 0.000 description 7
- 208000003443 Unconsciousness Diseases 0.000 description 6
- 230000006399 behavior Effects 0.000 description 6
- 239000003086 colorant Substances 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000008602 contraction Effects 0.000 description 6
- 230000001419 dependent effect Effects 0.000 description 6
- 238000013461 design Methods 0.000 description 6
- 230000004439 pupillary reactions Effects 0.000 description 6
- 238000005070 sampling Methods 0.000 description 6
- 238000012216 screening Methods 0.000 description 6
- 238000010361 transduction Methods 0.000 description 6
- 230000026683 transduction Effects 0.000 description 6
- 230000006978 adaptation Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 5
- 230000019771 cognition Effects 0.000 description 5
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 230000002596 correlated effect Effects 0.000 description 5
- 238000007405 data analysis Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 230000010339 dilation Effects 0.000 description 5
- 238000010191 image analysis Methods 0.000 description 5
- 238000002595 magnetic resonance imaging Methods 0.000 description 5
- 210000003205 muscle Anatomy 0.000 description 5
- 206010029864 nystagmus Diseases 0.000 description 5
- 238000002047 photoemission electron microscopy Methods 0.000 description 5
- 230000037081 physical activity Effects 0.000 description 5
- 229920001483 poly(ethyl methacrylate) polymer Polymers 0.000 description 5
- 230000011664 signaling Effects 0.000 description 5
- 230000017105 transposition Effects 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 5
- 238000012935 Averaging Methods 0.000 description 4
- 241001282135 Poromitra oscitans Species 0.000 description 4
- 206010048232 Yawning Diseases 0.000 description 4
- 239000011521 glass Substances 0.000 description 4
- 239000007943 implant Substances 0.000 description 4
- 238000002582 magnetoencephalography Methods 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 210000004126 nerve fiber Anatomy 0.000 description 4
- 230000011514 reflex Effects 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 230000000284 resting effect Effects 0.000 description 4
- 230000007958 sleep Effects 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 239000000126 substance Substances 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 206010021143 Hypoxia Diseases 0.000 description 3
- 206010040007 Sense of oppression Diseases 0.000 description 3
- 206010041349 Somnolence Diseases 0.000 description 3
- 206010047571 Visual impairment Diseases 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000004397 blinking Effects 0.000 description 3
- 230000027288 circadian rhythm Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 230000001054 cortical effect Effects 0.000 description 3
- 238000013480 data collection Methods 0.000 description 3
- 230000008034 disappearance Effects 0.000 description 3
- 238000002599 functional magnetic resonance imaging Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 210000005036 nerve Anatomy 0.000 description 3
- 238000003909 pattern recognition Methods 0.000 description 3
- 230000001179 pupillary effect Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000002207 retinal effect Effects 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000002269 spontaneous effect Effects 0.000 description 3
- 238000002604 ultrasonography Methods 0.000 description 3
- 230000004393 visual impairment Effects 0.000 description 3
- 230000002747 voluntary effect Effects 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 206010065042 Immune reconstitution inflammatory syndrome Diseases 0.000 description 2
- 206010062519 Poor quality sleep Diseases 0.000 description 2
- 208000032140 Sleepiness Diseases 0.000 description 2
- 206010041235 Snoring Diseases 0.000 description 2
- 208000004350 Strabismus Diseases 0.000 description 2
- 208000030886 Traumatic Brain injury Diseases 0.000 description 2
- 230000004308 accommodation Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009910 autonomic response Effects 0.000 description 2
- 210000003050 axon Anatomy 0.000 description 2
- 230000000903 blocking effect Effects 0.000 description 2
- RYYVLZVUVIJVGH-UHFFFAOYSA-N caffeine Chemical compound CN1C(=O)N(C)C(=O)C2=C1N=CN2C RYYVLZVUVIJVGH-UHFFFAOYSA-N 0.000 description 2
- 210000003169 central nervous system Anatomy 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 210000004087 cornea Anatomy 0.000 description 2
- 238000013481 data capture Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 230000006735 deficit Effects 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 230000002996 emotional effect Effects 0.000 description 2
- 210000000750 endocrine system Anatomy 0.000 description 2
- 230000000763 evoking effect Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000004217 heart function Effects 0.000 description 2
- 230000036543 hypotension Effects 0.000 description 2
- 230000007954 hypoxia Effects 0.000 description 2
- 238000007654 immersion Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000006742 locomotor activity Effects 0.000 description 2
- 230000007787 long-term memory Effects 0.000 description 2
- 230000002232 neuromuscular Effects 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 231100000760 phototoxic Toxicity 0.000 description 2
- 238000000053 physical method Methods 0.000 description 2
- 230000035479 physiological effects, processes and functions Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 230000002035 prolonged effect Effects 0.000 description 2
- 238000006748 scratching Methods 0.000 description 2
- 230000002393 scratching effect Effects 0.000 description 2
- 230000031893 sensory processing Effects 0.000 description 2
- 210000002027 skeletal muscle Anatomy 0.000 description 2
- 230000037321 sleepiness Effects 0.000 description 2
- 230000004936 stimulating effect Effects 0.000 description 2
- 230000009897 systematic effect Effects 0.000 description 2
- 238000012353 t test Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000012384 transportation and delivery Methods 0.000 description 2
- 230000009529 traumatic brain injury Effects 0.000 description 2
- 208000029257 vision disease Diseases 0.000 description 2
- 201000009487 Amblyopia Diseases 0.000 description 1
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 201000004569 Blindness Diseases 0.000 description 1
- 206010068906 Computer vision syndrome Diseases 0.000 description 1
- 206010010904 Convulsion Diseases 0.000 description 1
- 206010052804 Drug tolerance Diseases 0.000 description 1
- 206010013954 Dysphoria Diseases 0.000 description 1
- 206010022998 Irritability Diseases 0.000 description 1
- LPHGQDQBBGAPDZ-UHFFFAOYSA-N Isocaffeine Natural products CN1C(=O)N(C)C(=O)C2=C1N(C)C=N2 LPHGQDQBBGAPDZ-UHFFFAOYSA-N 0.000 description 1
- 206010023644 Lacrimation increased Diseases 0.000 description 1
- 208000010415 Low Vision Diseases 0.000 description 1
- YJPIGAIKUZMOQA-UHFFFAOYSA-N Melatonin Natural products COC1=CC=C2N(C(C)=O)C=C(CCN)C2=C1 YJPIGAIKUZMOQA-UHFFFAOYSA-N 0.000 description 1
- 208000019695 Migraine disease Diseases 0.000 description 1
- 206010027646 Miosis Diseases 0.000 description 1
- 206010049816 Muscle tightness Diseases 0.000 description 1
- 208000006550 Mydriasis Diseases 0.000 description 1
- 206010036790 Productive cough Diseases 0.000 description 1
- 206010061549 Sensation of foreign body Diseases 0.000 description 1
- 208000014604 Specific Language disease Diseases 0.000 description 1
- 206010044565 Tremor Diseases 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 210000003766 afferent neuron Anatomy 0.000 description 1
- 230000008485 antagonism Effects 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 201000007201 aphasia Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009118 appropriate response Effects 0.000 description 1
- 230000035045 associative learning Effects 0.000 description 1
- 230000037424 autonomic function Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000009529 body temperature measurement Methods 0.000 description 1
- 230000007177 brain activity Effects 0.000 description 1
- 230000003925 brain function Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 229960001948 caffeine Drugs 0.000 description 1
- VJEONQKOZGKCAK-UHFFFAOYSA-N caffeine Natural products CN1C(=O)N(C)C(=O)C2=C1C=CN2C VJEONQKOZGKCAK-UHFFFAOYSA-N 0.000 description 1
- 210000004903 cardiac system Anatomy 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000002060 circadian Effects 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000036461 convulsion Effects 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 238000013497 data interchange Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000006837 decompression Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000012938 design process Methods 0.000 description 1
- 230000001066 destructive effect Effects 0.000 description 1
- 230000005857 detection of stimulus Effects 0.000 description 1
- 230000037213 diet Effects 0.000 description 1
- 235000005911 diet Nutrition 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000005059 dormancy Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 235000005686 eating Nutrition 0.000 description 1
- 235000006694 eating habits Nutrition 0.000 description 1
- 230000002526 effect on cardiovascular system Effects 0.000 description 1
- 210000000268 efferent neuron Anatomy 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 230000002124 endocrine Effects 0.000 description 1
- 230000008713 feedback mechanism Effects 0.000 description 1
- 238000005755 formation reaction Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 230000008717 functional decline Effects 0.000 description 1
- 230000009760 functional impairment Effects 0.000 description 1
- 210000004907 gland Anatomy 0.000 description 1
- 230000026781 habituation Effects 0.000 description 1
- 230000006266 hibernation Effects 0.000 description 1
- 231100000508 hormonal effect Toxicity 0.000 description 1
- 229940088597 hormone Drugs 0.000 description 1
- 239000005556 hormone Substances 0.000 description 1
- 230000001146 hypoxic effect Effects 0.000 description 1
- 210000000987 immune system Anatomy 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000035987 intoxication Effects 0.000 description 1
- 231100000566 intoxication Toxicity 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 230000004317 lacrimation Effects 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 210000002414 leg Anatomy 0.000 description 1
- 230000004298 light response Effects 0.000 description 1
- 208000018769 loss of vision Diseases 0.000 description 1
- 231100000864 loss of vision Toxicity 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229960003987 melatonin Drugs 0.000 description 1
- DRLFMBDRBRZALE-UHFFFAOYSA-N melatonin Chemical compound COC1=CC=C2NC=C(CCNC(C)=O)C2=C1 DRLFMBDRBRZALE-UHFFFAOYSA-N 0.000 description 1
- 230000006386 memory function Effects 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 230000002503 metabolic effect Effects 0.000 description 1
- 206010027599 migraine Diseases 0.000 description 1
- 230000003547 miosis Effects 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 210000002161 motor neuron Anatomy 0.000 description 1
- 230000003387 muscular Effects 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 230000004751 neurological system process Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 210000001428 peripheral nervous system Anatomy 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 230000010399 physical interaction Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000002106 pulse oximetry Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000009257 reactivity Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 230000000241 respiratory effect Effects 0.000 description 1
- 230000004243 retinal function Effects 0.000 description 1
- 210000003994 retinal ganglion cell Anatomy 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 230000001020 rhythmical effect Effects 0.000 description 1
- 210000004761 scalp Anatomy 0.000 description 1
- 238000005204 segregation Methods 0.000 description 1
- 210000001044 sensory neuron Anatomy 0.000 description 1
- 210000000697 sensory organ Anatomy 0.000 description 1
- 230000008786 sensory perception of smell Effects 0.000 description 1
- 210000002265 sensory receptor cell Anatomy 0.000 description 1
- 102000027509 sensory receptors Human genes 0.000 description 1
- 108091008691 sensory receptors Proteins 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000004622 sleep time Effects 0.000 description 1
- 230000004599 slow eye movement Effects 0.000 description 1
- 230000037322 slow-wave sleep Effects 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 210000003802 sputum Anatomy 0.000 description 1
- 208000024794 sputum Diseases 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 210000004243 sweat Anatomy 0.000 description 1
- 230000035900 sweating Effects 0.000 description 1
- 210000002820 sympathetic nervous system Anatomy 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
- 230000001225 therapeutic effect Effects 0.000 description 1
- 238000002560 therapeutic procedure Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 238000004448 titration Methods 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000012043 vestibular reflex Effects 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- 208000008918 voyeurism Diseases 0.000 description 1
- 210000000216 zygoma Anatomy 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7271—Specific aspects of physiological measurement analysis
- A61B5/7275—Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/0091—Fixation targets for viewing direction
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/02—Subjective types, i.e. testing apparatus requiring the active assistance of the patient
- A61B3/024—Subjective types, i.e. testing apparatus requiring the active assistance of the patient for determining the visual field, e.g. perimeter types
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/02—Subjective types, i.e. testing apparatus requiring the active assistance of the patient
- A61B3/028—Subjective types, i.e. testing apparatus requiring the active assistance of the patient for testing visual acuity; for determination of refraction, e.g. phoropters
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
- A61B5/377—Electroencephalography [EEG] using evoked responses
- A61B5/378—Visual stimuli
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/212—Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
- G09G5/006—Details of the interface to the display terminal
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
- A61B5/377—Electroencephalography [EEG] using evoked responses
- A61B5/38—Acoustic or auditory stimuli
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0693—Calibration of display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Veterinary Medicine (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Ophthalmology & Optometry (AREA)
- Multimedia (AREA)
- Pathology (AREA)
- Psychiatry (AREA)
- Optics & Photonics (AREA)
- Cardiology (AREA)
- Psychology (AREA)
- Physiology (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Developmental Disabilities (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Databases & Information Systems (AREA)
- Dentistry (AREA)
- Child & Adolescent Psychology (AREA)
- Data Mining & Analysis (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Oral & Maxillofacial Surgery (AREA)
Abstract
本明細書は、視覚プロファイル又はターゲットアプリケーションに基づいて、例えば仮想現実、拡張現実、又は複合現実感(VR/AR/MxR)媒体等の媒体を修正するための方法及びシステムを説明する。本明細書の実施形態では、ユーザ及びユーザグループのために種々の視覚プロファイルの識別を可能にする感覚データ交換(SDE)が作成される。SDEは、各種のユーザ及び/又はユーザグループに応じて1つ以上の媒体を修正するために活用されてよい。
【選択図】図20
【選択図】図20
Description
相互参照
本出願は、主に以下の米国特許仮出願、すなわち
「視覚機能データを集め、視覚機能データに基づいてメディアを修正するための方法およびシステム」の名称で、2016年11月23日に出願された米国特許仮出願第62/425,736号、
同じ名称で2016年8月31日に出願された米国特許仮出願第62/381,784号、
「感覚データ交換プラットフォームを介してビジュアルコンテンツ表示を生成するためのシステムおよび方法」の名称で、2016年7月15日に出願された米国特許仮出願第62/363,074号、
「ビジュアルコンテンツ表示」の名称で、2016年7月8日に出願された米国特許仮出願第62/359,796号、
同じ名称で2016年4月14日に出願された米国特許仮出願第62/322,741号、ならびに
同じ名称で2016年4月8日に出願された米国特許仮出願第62/319,825号に依拠し、またこれら全体が参照により本明細書にも組み込まれる。
本出願は、主に以下の米国特許仮出願、すなわち
「視覚機能データを集め、視覚機能データに基づいてメディアを修正するための方法およびシステム」の名称で、2016年11月23日に出願された米国特許仮出願第62/425,736号、
同じ名称で2016年8月31日に出願された米国特許仮出願第62/381,784号、
「感覚データ交換プラットフォームを介してビジュアルコンテンツ表示を生成するためのシステムおよび方法」の名称で、2016年7月15日に出願された米国特許仮出願第62/363,074号、
「ビジュアルコンテンツ表示」の名称で、2016年7月8日に出願された米国特許仮出願第62/359,796号、
同じ名称で2016年4月14日に出願された米国特許仮出願第62/322,741号、ならびに
同じ名称で2016年4月8日に出願された米国特許仮出願第62/319,825号に依拠し、またこれら全体が参照により本明細書にも組み込まれる。
本明細書は、一般に仮想環境に関し、より詳細には仮想現実に基づいた、拡張現実に基づいた、または複合現実に基づいた(VR/AR/MxR)メディアなどのメディアを、人の視覚プロファイルおよび/またはオブジェクトアプリケーションに基づいて修正するための方法およびシステムに関する。
近年、仮想現実(VR)環境、拡張現実(AR)、および複合現実(MxR)のアプリケーションが益々普及している。VRは、その中で人々が現実世界に存在するかのように課題を行い、行為を経験する、没入型の現実的な三次元(3D)をコンピュータがシミュレーションした環境を提供する非侵襲シミュレーション技術である一方で、ARは、コンピュータが生成したメディアによって拡張または補足された現実世界の環境を描く。VR/AR/MxRの最も直接的な経験は完全に没入型のVR/AR/MxRシステムによって提供され、最も広く採用されたVR/AR/MxRシステムは、特殊な着用可能なヘッドマウント表示装置(HMD)を通してそれらがシミュレーションされた環境を表示する。HMDは、通常眼鏡、ヘルメットまたはゴーグルに嵌合された画面およびレンズからなり、表示装置は単眼(片目のみによって見られる表示装置)、双眼(binocular)(両眼で単一画面を見る)、または両眼(bichoptic)(それぞれの眼が、追加の奥行きの合図を与える、立体的であることが可能な異なる画面または画像を見る)であってもよい。
最近HMDは一般市民に導入されてきたが、HMDは新しい現象ではない。早くも1960年代には、コンピュータ・グラフィックスの先駆者であるIvan Sutherlandが初期HMDを開発し、これは仮想画像を現実世界に重ね合わせることを可能にした。HMD技術は、概して1970年代に軍隊、産業界、科学研究および芸能分野にわたる使用を通して発展した。Virtual Research Flight Helmet(登録商標)、Virtual I/O I−Glasses(登録商標)、およびDynovisor(登録商標)などの初期に市販のHMDは、それらの視野(FOV)が狭く、重量、物理的制約、およびシステムパラメータにおける固有の煩わしさに起因して、適用が限定されていた。最近の進歩は、HMDをより長時間の使用に対してより快適にするように向けた。Google Glass(登録商標)、Epson Moverio(登録商標)、Vuzix Wrap(登録商標)、およびOculus Rift(登録商標)を含む最近のHMD製品が市販されるようになり、技術発展の結果として益々ありきたりになっている。例えばOculus Rift(登録商標)の1つの型である、Development Kit2(開発キット2)(DK2)は、高解像度、高いリフレッシュレート(すなわち表示装置の画像が更新される頻度)、低残像(これはモーションブラーを除去する働きをする)、およびその先行モデルに比べると、より低遅延および正確な動きに対して進歩した位置追跡を有する。HMD技術の進歩および費用低減により、その広範囲の使用の可能性が増している。
遺憾ながら、多くの視覚に関連した状態はこのような技術の使用に関連する。例えば映像酔い(VIMS)またはシミュレータ酔いは視覚と前庭の不一致に関係し、HMDの使用に関連した固有の顕著な体系的および知覚的問題が原因であり、VR/AR/MxRに基づいたHMDに関連した技術の広範囲の採用および商業開発の障害になったままである。従来の表示装置に通常関連しないHMDの体系的および知覚的問題は、吐き気、胃の不快感、失見当、姿勢の不安定性および視覚的不快感を含む。
吐き気および不安定性の症状は、位置と動きの合図の不一致を含む様々な感覚入力の不一致から生じ、視覚系および前庭系に不調和効果をもたらす。加えてHMDの特定の型、および仮想環境を提供する他の装置も、不適切な光学設計に起因するユーザの視覚系に不一致の問題を有することがあり、輻輳性調節の不一致および視覚的不快感または疲労をもたらす。眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、眼の周囲の痛み、頭痛、霧視、および焦点調節困難症を含む、視覚的不快感の高い発生率を報告している。近視、斜位、固視ずれ、開散調節障害、および涙液層破壊時間(TBUT)の異常などの他の視覚問題も報告されている。HMDを使用することにより調節痙攣を起こすことがあり、次いで一過性近視を生じることがある。輻輳と調節との間の不一致が続くと、ユーザの瞳孔間距離(IPD)、および/またはシステムの光学距離間(IOD)が斜位および固視ずれの変化をもたらすことがある。さらに視覚症状は、必ずしも実際に仮想環境(VE)に没頭部している時に限定されず、むしろ視覚疲労、減少視野および斜位を含む視覚変化は、HMDに基づいたVEに曝された後に続くことがある。ユーザは、VR/AR/MxRに曝された後、VIMSおよび姿勢の不安定性が消失するまで運転または重機の操作を避ける必要があることが多い。VR/AR/MxRに曝されている間および後の複雑な視作業および読解は、VIMSの重症度を増すことがある。
HMD技術の進歩は、VR/AR/MxRにおけるその幅広い使用の可能性を提供している。しかしVIMSは、この技術の公共の採用および商業開発に依然として障害になったままである。VEにおいてVR/AR/MxRによって誘発された視覚的不快感は、HMDなどのVR/AR/MxR装置の品質および設計を最適化することによって低減することができる。しかしVIMSを最小にし、かつ/または取り除くために、視覚と前庭の不一致を解決し、VR/AR/MxRをユーザおよび/またはユーザの群の視覚能力に適応させることができる方法およびシステムが依然として必要とされている。VR/AR/MxRに対する現在の視覚測定および評価システムは本質的に定性的である。またVR/AR/MxR環境でユーザが経験する品質を向上するために、定性的測定を確立することも必要である。
また必要とされているものは、視覚メディアの許容できる修正を同定し、したがって不快感のレベルを低減するために、人口構成または他の共通因子に基づいて人をグループ化することができるシステムでもある。また不快感を低減するVR/AR/MxRメディアを修正し、提示するために、同定されたユーザまたはグループに適応できるシステムも必要とされている。またデータおよびパターンに基づいてVR/AR/MxR環境を推奨し、かつ/または自動的もしくは動的に変えるために、生体データおよびそれらのパターンを含むデータの遅延および他の形を同定できるシステムも必要とされている。
一部の実施形態では、本明細書はユーザが経験した状態を改善し、または治療する方法をオブジェクトとする一方で、該ユーザは、これに限定されないが、従来のラップトップ、携帯電話、タブレットコンピュータ、デスクトップコンピュータ、ゲーム機、仮想現実、拡張現実、および複合現実視覚装置などの表示装置を備えたコンピュータ装置を使用してメディアを経験している。方法は、該コンピュータ装置を使用して複数のデータの少なくとも1つに対する第1の値を取得すること、該コンピュータ装置を使用して複数のデータの少なくとも1つに対する第2の値を取得すること、該第1の値および第2の値を使用して、複数のデータの少なくとも1つの継時的な変化を決定すること、複数のデータの少なくとも1つの継時的な該変化に基づいて、該状態の程度を決定すること、ならびに該状態の程度の決定に基づいて該メディアを修正することを含む。
任意選別で、コンピュータ装置は仮想現実、拡張現実、または複合現実視覚装置である。
任意選別で、仮想現実、拡張現実、または複合現実視覚装置は、眼振データを取得するように構成されたカメラ、頭部運動の速度および/または向きを検出するように構成されたセンサ、心拍数を検出するように構成されたセンサ、ならびに脳波を検出するためのEEGセンサのうちの少なくとも1つを含む。
任意選別で、眼振データは、迅速な走査、サッケード運動、瞬目率データ、固視データ、瞳孔径、および眼瞼裂距離を含む。
任意選別で、状態は、把握力、疲労、取組み、能力、視覚と前庭の不一致に続発する映像酔いに関連した症状、心的外傷後ストレス障害に関連した症状、調節機能障害に関係する複視、意図しない周辺視野刺激に起因する感染、転導調節障害、固視ずれ、霧視および近視、頭痛、焦点調節困難症(difficulties in focusing)、失見当、姿勢の不安定性、視覚的不快感、眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、眼の周囲の痛み、吐き気、胃の不快感、画面表示装置への過度の露出に由来する光毒性の可能性、過度のブルーライトへの露出から起きるホルモン性調節異常、斜位、肯定的感情の低減、ならびに否定的感情の増加のうちの少なくとも1つである。
任意選別で、複数のデータは、迅速な走査、サッケード運動、固視、瞬目率、瞳孔径、頭部運動の速度、頭部運動の方向、心拍数、モータの反応時間、滑動性追従、眼瞼裂距離、脳波活動の程度および速度、輻輳の程度、ならびに輻輳の程度のうちの少なくとも1つを含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアのコントラストを低減すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアに表示された関心対象のオブジェクトの大きさをより小さくすること、メディアの輝度を増加すること、メディアの輝度を低減すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を低減して、周辺視野における関心オブジェクトの該オブジェクトを増加すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加し、外部データ、人口統計、または傾向データに基づいて該メディアのRGB値を変えることのうちの少なくとも1つを含む。
任意選別で、状態は把握力である。
任意選別で、変化は、迅速な走査の増加、サッケード運動の増加、固視の低減、瞬目率の増加、瞳孔直径の増加、頭部運動の増加、心拍数の増加、反応時間の低減、瞼の分離の低減、脳波活動の変化、および滑動性追従の増加のうちの少なくとも1つである。
任意選別で、状態の程度は、ユーザの把握力の低減である。
任意選別で、ユーザの該低減した把握力に基づいて、該メディアは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ、人口統計、または傾向データに基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正される。
任意選別で、状態は疲労である。
任意選別で、変化は、固視の低減、瞬目率の増加、ならびに輻輳および開散の変化のうちの少なくとも1つである。
任意選別で、状態の程度はユーザの疲労の増加である。
任意選別で、ユーザの該増加した疲労に基づいて、該メディアは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、およびより多くの動作を増加しまたは導入することのうちの少なくとも1つによって修正される。
一部の実施形態では、本明細書は、ユーザが経験した把握力を向上させる方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの低減した把握力の程度を決定すること、ならびに低減した把握力の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された遠心性応答、呼吸数、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、把握力に既定の増加を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザが経験した疲労を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの増加した疲労の程度を決定すること、ならびに増加した疲労の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの1つまたは複数を使用することのうちの少なくとも1つまたは複数を使用することを取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視速度、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、疲労に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの取組みを増加する方法をオブジェクトとする一方で、ユーザは、表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの低減した取組みの程度を決定すること、ならびに低減した取組みの程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、取組みに既定の増加を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの能力を向上する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの能力の向上の程度を決定すること、ならびに向上した能力の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動/回転/向き/速度/振幅を検出するように構成されたセンサ、四肢の運動/回転/向き/速度/振幅を測定するように構成されたセンサ、脈拍数および酸素濃度と同様の他のパラメータを測定するように構成されたセンサ、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、能力に既定の増加を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの視覚と前庭の不一致に続発する映像酔い(VIMS)に関連した症状を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザのVIMS症状の低減の程度を決定すること、ならびにVIMS症状の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、VIMS症状に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの心的外傷後ストレス障害(PTSD)に関連した症状を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザのPTSD症状の低減の程度を決定すること、ならびにPTSD症状の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、方法は、画像処理方法、機械学習方法、電気刺激、および化学的刺激のうちの少なくとも1つを複数のデータの継時的な変化と組み合わせることをさらに含み、組合せは神経プログラミングのために使用される。
任意選別で、方法は、画像処理方法、機械学習方法、電気刺激、および化学的刺激のうちの少なくとも1つを複数のデータの継時的な変化と組み合わせることをさらに含み、組合せは光刺激を修正するために使用される一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を通してメディアを経験している。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、PTSD症状に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの調節機能障害に関係する複視を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの複視の低減の程度を決定すること、ならびに複視の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、複視に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの意図しない周辺視野刺激に起因する感染を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの感染の低減の程度を決定すること、ならびに感染の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、感染に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの過度のブルーライトへの露出から起きるホルモン性調節異常を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ホルモン性調節異常の低減の程度を決定すること、ならびにホルモン性調節異常の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、ホルモン性調節異常に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの画面表示装置への過度の露出に由来する光毒性を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの光毒性の低減の程度を決定すること、ならびに光毒性の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、光毒性に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの吐き気および胃の不快感を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、ユーザの吐き気および胃の不快感の低減の程度を決定すること、ならびに吐き気および胃の不快感の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、吐き気および胃の不快感に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの視覚的不快感を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、視覚的不快感の低減の程度を決定すること、ならびに視覚的不快感の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、視覚的不快感に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの失見当および姿勢の不安定性を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、失見当および姿勢の不安定性の低減の程度を決定すること、ならびに失見当および姿勢の不安定性の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの1つまたは複数を使用することのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、失見当および姿勢の不安定性に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの頭痛および焦点調節困難症を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用するこ、複数のデータの継時的な変化に基づいて、頭痛および焦点調節困難症の低減の程度を決定すること、ならびに頭痛および焦点調節困難症の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、頭痛および焦点調節困難症に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの霧視および近視を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、霧視および近視の低減の程度を決定すること、ならびに霧視および近視の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、霧視および近視に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの斜位を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、斜位の低減の程度を決定すること、ならびに斜位の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、斜位に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの固視ずれを低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、固視ずれの低減の程度を決定すること、ならびに固視ずれの低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、固視ずれに既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの転導調節障害を低減する方法をオブジェクトとする一方で、ユーザは、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、転導調節障害の低減の程度を決定すること、ならびに転導調節障害の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えること、可能であればより長い視距離の使用を増加すること、シミュレーションされた距離をより接近した焦点距離に一致させること、オブジェクトをより遅い速さで奥行きから行き来させること、および既存のオブジェクトの衝突をあまり大きくさせないことのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、転導調節障害に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの肯定的感情を増加する方法をオブジェクトとする一方で、ユーザは、表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、肯定的感情の増加の程度を決定すること、ならびに肯定的感情の増加の程度の決定に基づいてメディアを修正することとを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、肯定的感情に既定の増加を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザの否定的感情を低減する方法をオブジェクトとする一方で、ユーザは、表示装置を備えたコンピュータ装置を通してメディアを経験しており、方法は、複数のデータに対する第1の値を取得すること、複数のデータに対する第2の値を取得すること、複数のデータの継時的な変化を決定するために第1の値および第2の値を使用すること、複数のデータの継時的な変化に基づいて、否定的感情の低減の程度を決定すること、ならびに否定的感情の低減の程度の決定に基づいてメディアを修正することを含む。
任意選別で、複数のデータの第1の値および第2の値を取得することは、基礎体温、心拍数、身体運動、身体の回転、身体の方向、身体の速度、または身体の振幅を検出するように構成されたセンサ、四肢の運動、四肢の回転、四肢の方向、四肢の速度、または四肢の振幅を測定するように構成されたセンサ、酸素濃度計、聴覚処理を測定するように構成されたセンサ、味覚および嗅覚処理を測定するように構成されたセンサ、圧力を測定するセンサ、従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの入力装置、脳波計、心電計、筋電計、電気眼振検査、網膜電図計、ガルバニック皮膚反応を測定するように構成されたセンサのうちの少なくとも1つまたは複数を取得することを含む。
任意選別で、複数のデータは、眼瞼裂、瞬目率、瞳孔径、瞳孔位置、凝視方向、凝視位置、開散、固視位置、固視期間、固視率、固視回数、サッケード位置、サッケード角度、サッケードの大きさ、プロサッケード、アンティサッケード、復帰抑制、サッケード速度、サッケード率、画面距離、頭部方向、頭部固定、四肢追跡、重量配分、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、発声、推定された輸出性反応、呼吸、顔の表情、嗅覚処理、味覚処理、および聴覚処理の少なくとも1つまたは複数を含む。
任意選別で、メディアを修正することは、メディアのコントラストを増加すること、メディアに表示された関心対象のオブジェクトの大きさをより大きくすること、メディアの輝度を増加すること、中心視野に示されたメディアに表示された関心対象のオブジェクトの量を増加して、周辺視野における関心オブジェクトの該オブジェクトを低減すること、メディアに表示されたコンテンツの焦点をより中心位置に変えること、視野からオブジェクトを除去して、ユーザが該除去を認識するかどうかを測定すること、該メディアの色の量を増加すること、該メディアに示されたオブジェクト内の陰影の程度を増加すること、および外部データ(人口構成または傾向データ)に基づいて該メディアのRGB値を変えることのうちの少なくとも1つによって修正することを含む。
任意選別で、メディアを修正することは、否定的感情に既定の低減を提供するために修正することを含む。
一部の実施形態では、本明細書は、ユーザとの相互作用を実行する方法をオブジェクトとする一方で、該ユーザは、ユーザから心理情報、感覚情報、および生体情報の少なくとも1つを獲得することであって、心理情報、感覚情報、および生体情報の少なくとも1つは、該仮想現実、拡張現実、または複合現実視覚装置を使用して複数のデータの少なくとも1つに対して1つまたは複数の値を含む、獲得すること、ユーザに獲得した心理情報、感覚情報、および生体情報の少なくとも1つに対して恩恵を与えること、複数のデータの少なくとも1つの継時的な変化を決定するために該1つまたは複数の値を使用すること、ならびに複数のデータの少なくとも1つの継時的な該変化に基づいて、該メディアを修正することを含む、仮想現実、拡張現実、または複合現実視覚装置を含む表示装置を備えたコンピュータ装置を使用してメディアを経験している。
本明細書の前述および他の実施形態は、以下に提供された図面および詳細な説明においてより深く説明されるものである。
本明細書のこれらの、および他の特徴および利点は、添付図面に関連して考慮すると以下の詳細な説明を参照することによって、それらをより良く把握されることが諒解されよう。
様々な実施形態において、本明細書は、ユーザおよび/またはユーザの群の視覚プロファイルに従ってメディアを修正することができるための方法およびシステムを提供する。
別の実施形態では、本明細書は、方法、システムおよびメディア(広告および芸能)のサードパーティ開発者に提供されるソフトウェアを説明し、サードパーティ開発者は、次いでユーザの特有な視覚特徴に対してそのメディアの提示を最適化するために、ソフトウェアおよびデータを使用する。
なお別の実施形態では、本明細書は、ユーザが経験したときにそのユーザの特有な視覚特徴をリアルタイムで最適化することができる、ソフトウェアおよびデータをすでに組み込んだメディア(広告および芸能)を直接提供するための方法、システム、およびソフトウェアを説明する。
一実施形態では、感覚データ交換プラットフォーム(SDEP)が提供され、SDEPにより、仮想現実(VR)、拡張現実(AR)、もしくは複合現実(MxR)システムならびに/またはソフトウェアのメディアの開発者が、ユーザおよび/またはユーザの群のためにメディアを最適化することができてもよい。実施形態では、ユーザには、モバイルプラットフォームおよびウェブサイトのプログラマおよび開発者を含んでもよい。実施形態では、VR、AR、および/もしくはMxRのメディアは、コンピュータ、携帯コンピュータ装置、携帯機器、またはVR、AR、および/もしくはMxRのメディアを提示することができるあらゆる他の装置を含む、1つまたは複数の電子メディア装置を通してエンドユーザに提示される。
一実施形態では、ユーザは、ソフトウェアがユーザデータを収集し、それをSDEPに提供できる手法で、SDEPの少なくとも一部を具現化するソフトウェア・プログラムと相互作用する。一実施形態では、ユーザは、データ収集を促進するためにSDEPと直接または間接的に相互作用してもよい。一実施形態では、SDEPは、複数の感覚および生体データ入力、感覚および生体データを分析するための複数のプログラム命令、ならびに一体化された視覚評価の配信のための複数の出力を備えた、動的な双方向データ交換プラットフォームである。
一部の実施形態では、SDEPは、一般の収集出力として「視覚データプロファイル」または「視覚機能指数」(VPI)を出力する。視覚データプロファイルまたは視覚機能指数を使用して、VR/AR/MxRシステムまたは従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境に広告、ゲーム、またはコンテンツのメディア提示を最適化してもよい。実施形態では、本明細書のプラットフォームは、人の生活様式および習慣の理解を高めることがある多くの他のデータセットを取り入れることができる。加えて機械学習、コンピュータ視覚、および深層学習技法を利用して、個人データの分析を通して健康転帰を監視し予測する助けになる。
一実施形態では、SDEPは、ハードウェア(携帯電話、コンピュータまたはヘッドマウント表示装置(HMD)など)で実行されるオペレーティングシステムを介して使用される。別の実施形態では、SDEPは、1つまたは複数のコンテンツ開発者によって使用される。一実施形態では、ハードウェアおよびコンテンツ開発者の両方がSDEPを使用する。SDEPは、ユーザが表されたコンテンツとどのように相互作用するか、ユーザはコンテンツのどの側面に最も取り組むか、またユーザはどのように取り組むかに関するデータを収集することができることがある。SDEPを通して収集されたデータは、同様の人口構成をもつユーザおよびまたはユーザの群に対してプロファイルを生成するために加工されてもよい。コンテンツは、特定のプロファイルに対してそのユーザおよび同様のプロファイルをもつ他のユーザの経験を最適化する手法で、VR/AR/MxRシステムのハードウェア機能に一致するやり方で表されてもよい。
例えば経験は、斜位動作、具体的には視覚と前庭の不一致を最小にするために頭部運動と同時に長期間の輻輳を低減できる手法でメディアを表すこと、調節性分離/機能障害を最小にするためにVE内のオブジェクトの光学帯/集束帯を混合すること、感染の経験を低減するために中心刺激に取組み中に大きい周辺刺激を無効にすること、とりわけ高められたVR/AR/MxRの経験が可能な方法でメディアを表すことによって最適化されてもよい。
本明細書は多数の実施形態をオブジェクトとする。以下の開示は、当業者が本発明を実施できるように提供される。本明細書に使用される言語は、いかなる特定の実施形態の一般的な否定として解釈されるべきではなく、またはそこに使用された用語の意味を越えて特許請求の範囲を限定するために使用されるべきではない。本明細書に画定された一般原理は、本発明の精神および範囲を逸脱することなく、他の実施形態およびアプリケーションに適用されてもよい。また使用された専門用語および言い回しは例示的実施形態を説明するためにあり、限定とみなされるべきではない。したがって本発明は、最も広い範囲を網羅する多数の代替形態、修正形態ならびに開示された原理および特徴と一致する等価物と合致するべきである。わかりやすくするために、本発明に関係した技術分野で公知の技術材料についての詳細は、本発明を無用に不明瞭にしないように詳述されていない。
用語「および/または」は、一覧にされた要素の1つもしくはすべて、または一覧にされた要素のあらゆる2つ以上の組合せを意味する。
用語「含む」およびその変形は、これらの用語が本明細書および特許請求の範囲に現れた場合に限定の意味を有するものではない。
別段の指定がない限り、「a」、「an」、「the」、「one or more(1つまたは複数)」、および「at least one(少なくとも1つ)」は交換可能に使用され、1つまたは2つ以上を意味する。
個別のステップを含む本明細書に開示されたあらゆる方法に対して、ステップはあらゆる実行可能な順番で行われてもよい。また必要に応じて、2つ以上のステップのあらゆる組合せが同時に行われてもよい。
また本明細書では、終点による数的範囲の列挙は、その範囲内に包含されるすべての整数および少数を含む(例えば1〜5は1、1.5、2、2.75、3、3.80、4、5、その他を含む)。別段の指定がない限り、本明細書および特許請求の範囲に使用されたコンポーネント、分子量、その他の量を表すすべての数は、用語「約」により、いかなる場合も修正されると把握するべきである。したがってそれと反対に示されていない限り、本明細書および特許請求の範囲に説明された数値パラメータは近似値であり、これは本発明によって獲得するように求められた所望の特性に依存して変化してもよい。少なくとも、また特許請求の範囲に対して均等論を限定する試みとしてではなく、それぞれの数値パラメータは報告された有効桁の数字を踏まえて、また通常の丸めの技法を適用することによって少なくとも解釈されるべきである
本発明の広い範囲を示す数値範囲およびパラメータは近似値であるにもかかわらず、特定の例に示された数値は、可能な限り正確に報告されている。しかしすべての数値は、それらのそれぞれの試験測定において見出された標準偏差に必然的に起因する範囲を本質的に含む。
本明細書では、特定の実施形態に関連して説明されたあらゆる特徴またはコンポーネントは、明確にそうではないと示されない限り、あらゆる他の実施形態に使用して実施されてもよいことに留意されたい。
本明細書に表された求心性データおよび収集された遠心性データのすべては、携帯電話、ラップトップ、タブレットコンピュータ、または特殊なハードウェア装置などのハードウェア装置を使用し、以下にさらに論じるように求心性データを表し、追跡し、監視し、また、遠心性データを監視し、測定し、追跡するように明白に設計された複数のプログラム命令を実行して行われることをさらに把握されたい。
一般的問題
VIMSの潜在的な誘発因子は、以下の要因領域に広く分類することができる、すなわち、ハードウェア、ユーザ、課題、およびサービスである。方法およびシステムは、VR/AR/MxRの開発および採用を容易にするために、これらの要因の1つまたは組合せを最適化できる必要がある。これらの要因をここで簡単に検討する。
VIMSの潜在的な誘発因子は、以下の要因領域に広く分類することができる、すなわち、ハードウェア、ユーザ、課題、およびサービスである。方法およびシステムは、VR/AR/MxRの開発および採用を容易にするために、これらの要因の1つまたは組合せを最適化できる必要がある。これらの要因をここで簡単に検討する。
ハードウェア要因
VIMSに影響を与えるハードウェア装置システムの変数は、閲覧モード(例えば単眼、双眼または両眼)、ヘッドセット設計(例えば適合度、重量)、光学(例えば光学の不整合、コントラスト、輝度)、視野(FOV)、および時間差(すなわち伝達遅延)を含む。HMDの重量は、視覚的不快感および傷害の経験に関連してきた。したがってハードウェア要因は、他の変数の中でとりわけ視野、解像度および/またはフレームレート、ならびに時間差または潜伏時間を含む。
VIMSに影響を与えるハードウェア装置システムの変数は、閲覧モード(例えば単眼、双眼または両眼)、ヘッドセット設計(例えば適合度、重量)、光学(例えば光学の不整合、コントラスト、輝度)、視野(FOV)、および時間差(すなわち伝達遅延)を含む。HMDの重量は、視覚的不快感および傷害の経験に関連してきた。したがってハードウェア要因は、他の変数の中でとりわけ視野、解像度および/またはフレームレート、ならびに時間差または潜伏時間を含む。
例えば視野(FOV)は視覚的不快感の症状の発生に関与することがある。FOVの研究は、狭いFOV(<50度)は自発運動の認知を低減し、広いFOV(>100度)はシミュレータ酔いの現れ、およびレベルを増加することがあることを示す。完全な没入経験に対して、少なくとも60度のFOVが推奨される。没入の感覚は水平および垂直FOVを分析することによって提供することができ、これによりコンテンツの提示を柔軟にすることができる。フライト・シミュレーション・アプリケーションでは、例えば水平FOVが40度、垂直FOVが30度内でオブジェクトの提示をセグメント化することにより、人間工学を向上させ、パイロットの能力を向上させる。
画質全体に影響を与えることは別として、解像度もユーザのVIMS経験に影響を与えることがある。ノイズがあり、または不鮮明な低質の画像を閲覧することは不快であることが多い。ヒトにおける視覚解像度は1分角であり、多くのHMDシステムへの技術的限界である。VR環境において知覚された距離に依存して、解像度が増加されると、オブジェクトが近づくにつれて「画素知覚」が軽減する。とは言うものの、仮想現実(およびARおよびMxR)のアプリケーションにおける没入課題をより良好に果たすために、設計工程に可能な最高の解像度を提供することが重要である。リフレッシュまたはフレームレートは、視覚的快感に影響を与える別の要因である。
ほとんどのVR/ARおよび混合された環境システムは、乗り物酔いおよび視覚的不快感に関係した同様の問題を有する。これらの問題の源の1つは、潜伏時間または遅延である。遅延は、ユーザが行為を引き起こした時から、ユーザが引き起こした行為の結果がVR/AR/MxRメディアを通して見える時までにかかる時間を指す。また遅延は、VR/AR/MxRメディアを表示するために使用される画面に帰することがある。具体的には画面の更新および応答時間などの画面の特徴は、遅延の測定値に帰することがある。遅延の許容できるレベル、または乗り物酔いもしくは他の形の不快感をもたらす恐れがない遅延の測定値は、人によって異なることがある。
人およびシステムの行為と反応との間の時間差は、視覚および前庭の合図のヒトの知覚に影響を与えるので、VIMS症状のユーザの経験に潜在的に影響を及ぼす可能性がある。したがってHMDシステムのセンサ誤差を低減することにより、VIMSの経験を最小にすることがある。瞳距離(接眼レンズからその射出瞳までの固定距離)、輻輳需要、水平視差、表示装置の垂直不整合、両眼間回転差、垂直水平の倍率差、輝度、焦点差、一時非同期性、焦点距離、像面湾曲差および瞳孔間距離(IPD)などのHMDの光学特性はすべてが潜在的な要因であり、これらが不整合し、または最適に調整されないときに、視覚的不快感および頭痛を引き起こす可能性がある。
ユーザ要因
VIMSの影響に関係した別の要因は、VIMSに対して人の感受性が異なることが公知であるので、ユーザの特性である。ユーザの特性は、とりわけ年齢および性別、視覚障害、可塑性、ならびに姿勢を含むことがある。
VIMSの影響に関係した別の要因は、VIMSに対して人の感受性が異なることが公知であるので、ユーザの特性である。ユーザの特性は、とりわけ年齢および性別、視覚障害、可塑性、ならびに姿勢を含むことがある。
年齢は、HMDに関係した眼精疲労症状と非常に関係があることが示されている。2〜12歳の小児は、未成熟な視覚系および成人の両眼機能より劣る両眼機能を有し、これにより、HMDによって生じる視覚的不快感、および視力の低下、弱視、または斜視を含む眼振の副作用の両方に小児がより影響を受けやすくなる。限定された融像範囲をもつ成人は、より多くの視覚的不快感、具体的にはVEにおける刺激に応答して輻輳眼球運動を経験した。したがってHMDに影響を及ぼす年齢については、さらに研究し、将来のHMDの設計に組み込む必要がある。性別については、女性は、男性の参加者に比べるとシミュレータ酔いがより多く報告され、HMDに基づいたVEからより多く離脱した。この差は男性(いわゆる「マッチョ効果(macho effect)」)すなわちホルモン効果により自己報告からの過小報告に起因することがある。別の可能性はFOVにおける性差であり、女性はより広いFOVを有し、ちらつき知覚、感染および乗り物酔いの感受性に対する危険性が増加する。
視覚障害のある人々は、そのような障害のない人々に比べて眼球運動の副作用を起こしやすいことがあるが、この分野についてはより多くの研究が必要である。またこれらの症状(片頭痛)を防止する乗り物酔いの過去の歴史または条件も、HMDに基づくVEにおける乗り物酔いになりやすさを予測するために注目に値する。人はHMDに基づくVEに慣れ、または適合することがあり(すなわち可塑性)、仮想環境に繰り返し曝された後に症状が改善する。しかしこの慣れは群の中で差があり、ある特定の人々は他の人々より刺激に繰り返し曝された後にはるかに速く適合する。
より可塑性の多い人々はVIMSを経験し難いことがあるが、VEに適合するために必要な時間には差があることがある。可塑性がより多いことは、初期症状を低減またはなくすのではなく、むしろ典型的にはVEに繰り返し曝された後に症状の起こしやすさをより速く向上させる機能と言い換えられる。
姿勢の安定性理論に基づいて、人の姿勢もVIMSに寄与することがある。姿勢の安定はVIMSに対する原因およびVIMSの結果である可能性があるので、姿勢の安定はVIMSにおいて特有の役割を有する。研究により、安定した姿勢の人はVIMSを起こし難く、姿勢の安定とVIMSとの間に逆相関関係を示唆することが指摘されている。姿勢の安定は、視覚、前庭および実際の体性感覚である感覚入力の融合である。姿勢の安定に関与する2つの神経反射は、前庭眼反射(網膜上のオブジェクトを安定化させる)および前庭脊髄反射(身体が動いている間に姿勢を安定化させる)を含む。視覚入力と前庭入力が同期しないとき、その結果は姿勢の不安定、VIMS、またはその両方である。姿勢の不安定は露出後に数時間続くことがある。姿勢の不安定の危険に関係する際に、HMDユーザの安全のための特別の考慮が留意されなければならない。HMDのユーザは、運転または運動などの潜在的に危険な活動に取り組む前に再適応/回復時間を許可する推奨が、妥当であることがある。
課題要因
課題特性もVIMSに潜在的に影響を及ぼすと定義されている。これらの課題の中で、仮想環境(VE)における期間が最も注目に値する。VEにより長く曝されるとVIMSの発生率は増加する。これらの症状は、露出後最高60分まで続くことがある。VIMSに影響を与えると示される別の重要な要因は感染(すなわち自発運動の錯覚)であり、感染が速いほど吐き気の症状がより重度になる。HMDに基づくVRを座位で閲覧することは、座位が姿勢制御への要求を低減するので、症状を低減することがある。読解などのより複雑な課題は、映画またはゲームを見た人より著しく高い、症状の重症度の点数および眼球運動に関係した症状の点数の合計を誘発することがある。これらの発見は、需要がより多くなる課題により恐らくある程度の眼精疲労が生み出されることを示唆している。映画を見る、またはゲームをすることに比べると、読解の感度が増加したことは、読解が他の課題より複雑にさせることがある脳の異なる領域の活動に起因するのかもしれない。別法として、読解は注意および瞬目率に影響を及ぼす可能性があり、これらはVIMSの増加にも寄与することがある。さらに不適切な垂直凝視角度により、動眼の変化および視覚的不快感を増加させることがある。
課題特性もVIMSに潜在的に影響を及ぼすと定義されている。これらの課題の中で、仮想環境(VE)における期間が最も注目に値する。VEにより長く曝されるとVIMSの発生率は増加する。これらの症状は、露出後最高60分まで続くことがある。VIMSに影響を与えると示される別の重要な要因は感染(すなわち自発運動の錯覚)であり、感染が速いほど吐き気の症状がより重度になる。HMDに基づくVRを座位で閲覧することは、座位が姿勢制御への要求を低減するので、症状を低減することがある。読解などのより複雑な課題は、映画またはゲームを見た人より著しく高い、症状の重症度の点数および眼球運動に関係した症状の点数の合計を誘発することがある。これらの発見は、需要がより多くなる課題により恐らくある程度の眼精疲労が生み出されることを示唆している。映画を見る、またはゲームをすることに比べると、読解の感度が増加したことは、読解が他の課題より複雑にさせることがある脳の異なる領域の活動に起因するのかもしれない。別法として、読解は注意および瞬目率に影響を及ぼす可能性があり、これらはVIMSの増加にも寄与することがある。さらに不適切な垂直凝視角度により、動眼の変化および視覚的不快感を増加させることがある。
サービス要因
ハードウェア・コンポーネントにおける技術の進歩は、HMDの重量、システム時間の遅延、および輝度を含む、生理学的人間工学的問題を低減する。しかしVIMSの多元的な性質を考えると、視覚入力と前庭入力との間の不一致は重大な問題のままである。VIMSをさらに低減するには、コンテンツがどのように生成されるか、またコンテンツがサービス要因にどのように影響を与えるかを考慮することが必要である。サービス要因は、次いで閲覧者へのVIMSの影響を考慮することを必要とする。
ハードウェア・コンポーネントにおける技術の進歩は、HMDの重量、システム時間の遅延、および輝度を含む、生理学的人間工学的問題を低減する。しかしVIMSの多元的な性質を考えると、視覚入力と前庭入力との間の不一致は重大な問題のままである。VIMSをさらに低減するには、コンテンツがどのように生成されるか、またコンテンツがサービス要因にどのように影響を与えるかを考慮することが必要である。サービス要因は、次いで閲覧者へのVIMSの影響を考慮することを必要とする。
サービスは、幅広い視聴者が共有した経験(例えば放送)、または狭い特定分野の視聴者の経験(例えばビデオ・オン・デマンドシステムのロングテール・コンテンツ)を意図して作成することができる。大規模の視聴者に対して、さらにVIMSを低減するにはコンテンツの生成に非常に依存し、この場合FOVは、映画を見る、またはゲームをすることが読解よりむしろ好まれるはずである没頭部環境を生成する。ユーザ要因は、感覚入力の不一致を生み出す視覚的合図を低減することによって緩和することができる。このことは、閲覧者を固視からより多くそらすようにさせ(すなわち感染を低減する)、UHD/HDR材料を閲覧することがすでに人気となってきた景色型のコンテンツをより多く作成することによって行うことができる。
コンテンツは、他の手段の中でとりわけリニア放送、オンデマンド、またはダウンロードを介して送信されてもよい。VRのためのサービス要因は、HMDに配信されたビットを認識する必要がある。ビットのこのストリーミングは、解像度およびフレームレートを制約する一方で、フレームレートが潜伏時間のためのゲーティング要因である時間差または潜伏時間にも影響を与える。この程度のサービスを生成する方法は、プログレッシブ・ダウンロード、オンデマンド・ストリーミング、またはリアルタイムのリニア・ストリーミング配信を許可するべきである。このプログレッションは、コーデックの圧縮効率および帯域幅の伸張が十分に進んで、オンライン・ストリーミングが可能になり、最終的にリアルタイムの符号化/ストリーミングが起きるまで、プログレッシブ・ダウンロードが最初に行われた、映像ストリーミングのエボリューションのように追跡する。
VR環境は閲覧者と観察する環境との間の双方向性のレベルに左右される。認められた量の双方向性はサービスに考案することができ、VIMSの影響を低減すると考えるべきである。
最適化されたサービス要因は、HMDの使用に対して最適化した視覚の人間工学の指針一式を作成し、ユーザおよびコンテンツ社会に知らせることにより、VIMSの影響を低減することができる。
次世代のコンピュータによる計算は、ユーザとコンテンツと技術との間の相乗効果の新しいレベルを表す、没入型プラットフォームが優位に立つであろう。VR/AR/MxRは、PC、ウェブ、および電子メールの後の第4の主要なプラットフォームに移行する。またVR/AR/MxRは、ブレイン・マシン(コンピュータ)インターフェース(BMI/BCI)として一般に公知の技術の一部である。BMI/BCIは、これに限定されないが、EEG、MRI、fMRI、および超音波などの臨床アプリケーションを有する。これらの臨床インターフェースのほとんどは実際にはモジュール式である。これらは侵襲性または非侵襲性、および携帯用または非携帯用であることが可能である。非臨床アプリケーションはゲーム、軍隊などを含んでもよい。これらの異なる潜在的インターフェースの間で臨床および非臨床状況の分割は、インターフェースの移植性にある程度限定され、非臨床は伝統的に移植性がより多い。最も集中する将来の開発および投資の領域は、特にAR、VR、およびMxRを備えた非侵襲性BMIを組み込む、ゲームなどの移植可能な非侵襲性システムである可能性が高いと予想される。臨床および非臨床アプリケーションのためにBMIを標準化するために開発が必要である。
BMI全体の標準化には、多くが閉ループである脳との多感覚インターフェースの相互運用性、接続性およびモジュール方式を標準化する必要がある。したがって閉ループシステムの電流制限を考えると、これらの要件の標準化を支援することができる方法およびシステムが必要とされている。
現在のBMIの健康危機は、視覚と前庭の不一致に続発する映像酔い、調節機能障害に関係する複視、意図しない周辺視野刺激に起因する感染、ブルーライトへの露出からのホルモン性調節異常(概日リズム)、および画面表示装置への過度の露出に由来する光毒性の可能性を含む。またHMDは、性別、瞳孔間距離の差異、調節性振幅(年齢に依存する)、姿勢の安定性、およびコンテンツに向けられた視覚的課題が多いほど、より破壊的である傾向があるので、表示されるソフトウェア・コンテンツの型を含む、ユーザ要因によって影響を及ぼされる。
定義
用語「仮想現実」すなわち「VR」は本明細書全体を通して使用され、また実施形態では、没入型コンピュータがシミュレーションした現実、すなわち三次元画像または人が内側に画面を備えたヘルメットおよび/もしくはセンサと合致した手袋などの特殊な電子機器を使用することにより、一見現実的な方法または物理的な方法で相互作用することができる環境のコンピュータが発生したシミュレーションを指す。
用語「仮想現実」すなわち「VR」は本明細書全体を通して使用され、また実施形態では、没入型コンピュータがシミュレーションした現実、すなわち三次元画像または人が内側に画面を備えたヘルメットおよび/もしくはセンサと合致した手袋などの特殊な電子機器を使用することにより、一見現実的な方法または物理的な方法で相互作用することができる環境のコンピュータが発生したシミュレーションを指す。
実施形態では、これも本明細書全体を通してVRとともに使用される拡張現実(AR)は、現実世界のユーザの視点にコンピュータが発生した画像を重ね合わせ、したがって合成図を提供する技術である。実施形態では、一般的なヘルメット状の装置は、頭部またはヘルメットの一部として着用する表示装置デバイスであるHMDであり、ヘルメットは片目(単眼HMD)または両眼(双眼HMD)の正面に小型の表示光学を有する。実施形態では、SDEPは、あらゆる当事者が視覚的に表れた製品もしくはサービスを向上させ、または別法として修正するためにアクセスできるクラウドベースのサービスである。
さらに実施形態では、複合現実(MxR)も本明細書全体を通してVRおよびARとともに使用される。MxRは、ハイブリッド・リアリティとも呼ばれ、物理的およびデジタルオブジェクトが共存しリアルタイムで作用する視覚経験の新しいレベルを生成するために、VRおよび/またはAR環境を現実環境と融合することである。
実施形態では、VR、AR、およびMxR装置は、電子メディア装置、コンピューティング装置、携帯電話を含む携帯コンピューティング装置、ラップトップ、パーソナルデジタル端末(PDA)、またはVR、AR、およびMxRメディアを支援できるあらゆる他の電子装置の1つまたは複数を含むことができる。本明細書は仮想現実のコンテンツに開示されているが、以下に説明されるシステムおよび方法の任意およびすべても、拡張現実環境ならびに複合現実環境に利用されてもよいことが、本明細書では留意されるべきである。そのため仮想現実(VR)システムが説明されている場合、同じ概念は拡張現実(AR)および複合現実(MxR)システムに適用してもよいことを当業者には把握されるべきである。
視線追跡の定義
機能の用語では、いくつかの視線追跡の測定値は、視覚機能指数(VPI)コンポーネントの概念に入れることができ、VPIコンポーネントについては本明細書の次の章に定義し説明する。瞬目率および転導の測定値は、疲労および回復の測定値に入れることができる。凝視およびより具体的には固視位置は、反応および標的の測定値を見積もるために使用することができる。また追跡眼球運動中の連続した誤差率も、標的測定値になることができる。
機能の用語では、いくつかの視線追跡の測定値は、視覚機能指数(VPI)コンポーネントの概念に入れることができ、VPIコンポーネントについては本明細書の次の章に定義し説明する。瞬目率および転導の測定値は、疲労および回復の測定値に入れることができる。凝視およびより具体的には固視位置は、反応および標的の測定値を見積もるために使用することができる。また追跡眼球運動中の連続した誤差率も、標的測定値になることができる。
視線追跡のための物理的測定値の様々な例は、測定された値に対する予想された範囲、および/または該当する場合それらの測定値に基づいた様々な状況もしくは分類に対する閾値を所望の標準設備で入手可能であることがある。一部の参照値は、視線追跡の様々なコンポーネントおよびサブコンポーネントを検討する章を通して提供される。
以下の用語は、動画記録および画像処理技法の組合せ、熟練者の採点、および/または電気眼振検査(EOG)記録から作成されるような視線追跡測定値に関連する。動画視線追跡(VET)技法は、比例的瞼の開/閉、瞳孔径、瞳孔位置(顔に対する)およびそれぞれの眼と無関係な凝視方向を見積もるために、明白なアルゴリズム分析および/または機械学習を使用してもよい。EOG記録は、瞼および眼球の動きを見積もるために、また限定された精度で眼球の凝視方向を見積もるために使用されてもよい。どちらの記録様式も、1秒当たり数十〜数千回の率でサンプリングし、様々な測定値に対する位置、速度、方向、および加速度の分析が可能であることがある。両眼の間の比較により転導の測定が可能になり、次いでこれにより三次元(3D)の凝視方向を見積もることが可能になる。
眼瞼裂は瞼の開きを指す。典型的には幅が約30ミリメートル(mm)で高さが10mmであるが、ほとんどの測定結果は動画上で測定されたベースライン距離に比較することができる。特に興味深いのは、以下の用語に関係する際の高さ(瞼間の亀裂の高さ)である。
開きパーセント(peye open)は、左眼(pleft eye open)、右眼(pright eye open)、または両眼(pboth eye open)が、最大開き距離に対してどの位開いているかを指し、通常所定の期間にわたって測定される。
開き割合(peyes open)は、眼が一定期間(例えば1セッション中(P_(eyes open|session)))にわたって開いている時間の割合を指す。「開き」に対する閾値は変化してもよい(例えばPeyes open(但しPboth eyes open≧25%である))。
瞬目は、およそ10〜400ミリ秒(ms)に両眼(pboth eyes open=0%)の完全な閉じと画定することができ、具体的に測定された瞬目閉じ時間は、ユーザと視線追跡方法との間の差に基づく。
瞬目率(頻度)(fblink)は、すべての瞬目および/または一定期間にわたる瞬目(例えばf_(blink|target present))に対して測定された1秒当たり(s−1またはHz)の瞬目の平均数を指す。瞬目率は、瞬目率の変化の率または部分瞬目の完全瞬目に対する割合と呼ばれてもよい。
瞬目回数(N_blink)は、すべての瞬目および/または一定期間にわたる瞬目(例えばN_(blink|target present))に対して測定された瞬目の数を指す。
瞳孔径(S_pupil)は、瞳孔径、具体的にはミリメートル(mm)単位の直径を指す。
瞳孔位置([x,y]_pupil)は、顔の固定された参照フレーム内で、典型的には時間の関数として左の瞳孔([x,y]_(left_pupil))または右の瞳孔([x,y_(right_pupil))の位置を指す。瞳孔位置の定義は初期瞳孔位置および最終瞳孔位置を含み、初期瞳孔位置および最終瞳孔位置に依存する。
凝視方向([θ,Ф]_gaze)は、顔に対する、典型的には時間の関数として左眼([θ,Ф]_(left_gaze))または右眼([θ,Ф]_(right_gaze))の視線の3D極座標における方向を指す。これは眼が見るものに関係なく眼が面しているところの測定値である。さらにこれは課題または標的に依存して関係の有無に分類されてもよい。
凝視位置([x,y,z]_gazeまたは[γ,θ,φ]_gaze)は、デカルトまたは球の3D座標において、典型的には時間の関数として環境内の凝視の位置(もしくは目的地)を指す。参照フレームは、ユーザ、装置または空間における他の何らかの点に対してでもよいが、最も一般的には座標空間の原点がユーザの眼(一方または他方またはその間の中間点)になる。凝視位置の定義は初期凝視位置および最終凝視位置を含み、初期凝視位置および最終凝視位置に依存する。
転導は見積もられた凝視方向から導出され、両眼の角度差として数値化されてもよい(正の差は開散であり、負の差は輻輳である)。凝視位置から導出されると、転導は眼/顔から凝視位置の距離として数値化に寄与し、数値化され得る。輻輳および開散はそれぞれがその期間および変化率によって画定されてもよい。
固視位置([x,y,z]fixationまたは[γ,θ,φ]fixation)は、ある時点でユーザの凝視の見積もられた位置として測定されたデカルトまたは球の3D空間における固定の位置である。固視位置の定義は初期固視位置および最終固視位置を含み、初期固視位置および最終固視位置に依存する。
固視継続時間(Dfixation)は、典型的にはミリ秒または秒(s)単位で測定された固視の継続時間(すなわち眼の凝視が固視位置に到着した時とそれが離れる時との間の期間)である。平均継続時間は下線D fixationで表示され、すべての固視、一定期間にわたる固視(例えば_D_(fixation|target present))および/または特定領域内の固視(例えば_D_(fixation|display center))を表してもよい。固視継続時間の定義は固視の変化率を含み、固視の変化率に依存する。
固視率(頻度)(f_fixation)は、すべての固視、一定期間にわたる固視(例えばf_(fixation|target present))および/または特定領域内の固視(例えばf_(fixation|display center))に対して測定された1秒当たり(s−1またはHz)の固視の平均数を指す。
固視回数(数)(Nfixation)は、すべての固視、一定期間にわたる固視(例えばN_(fixation|target present))および/または特定領域内の固視(例えばN_(fixation|display center))に対して測定された固視の数を指す。
サッケード位置([x1,y1,z1|x2,y2,z2]saccadeまたは[γ1,θ1,φ1|γ2,θ2,φ2]saccade)は、デカルトまたは球の3D空間におけるサッケード眼球運動の開始位置(1)および終了位置(2)を指す。参照フレームは、概して所与のシナリオ内で凝視位置のために使用するシナリオと同じ参照フレームになる。サッケード位置の定義は、変更率、初期サッケード位置、および最終サッケード位置を含み、変更率、初期サッケード位置、および最終サッケード位置に依存する。
サッケード角度(θsaccade)は、一部のレベルの度(°)または弧度(rad)に対するサッケードの二次元(深さを無視する)方向を説明する角度を指す。そうではないと明記されない限り、基準は垂直に上がり、角度は時計回りに増加する。基準は一部の所望の方向からの(すなわち標的に向かって)サッケード方向の偏向を表示するために特定されてもよい(例えばθsaccade−target)。平均サッケード方向は下線θ saccadeで表示され、サッケードのすべてまたは一部分を表してもよく(例えば_θ_(saccade|target present))、方向は角度があるので(すなわち円形)、平均方向は、関連基準が特定されない限り無原則であってもよい(例えば_θ_(saccade|target present))。サッケード角度は標的がユーザにどれほど関係するかを決定するために使用されてもよく、また標的に向かって関連性の状況とも呼ばれる。
サッケードの大きさ(Msaccade)は、移動した距離についてのサッケードの大きさを指し、これは視角の度(°)または弧度(rad)、見積もられた凝視位置に関する物理的距離(例えばセンチメートル(cm)もしくはインチ(in))、または表示装置上の見積もられた凝視位置に関する表示空間における距離(例えば画素(px))として与えられてもよい。空間における特定点(P)を参照して、その点までの直線に平行なサッケードの大きさのコンポーネントは以下のように与えられてもよい。
Msaccade−p=Msaccade・cos(θsaccade−p)
上式で、Msaccadeはサッケードの大きさであり、θsaccade−pはサッケード方向と点Pに向かうベクトルとの間の角度である。平均のサッケードの大きさは下線M saccadeで表示され、この表記はすべてのサッケードおよび/または時間もしくは空間およびサッケードの大きさに関する一部分、あるいは指定された点に対するサッケードの大きさのコンポーネントに適用されてもよい。
Msaccade−p=Msaccade・cos(θsaccade−p)
上式で、Msaccadeはサッケードの大きさであり、θsaccade−pはサッケード方向と点Pに向かうベクトルとの間の角度である。平均のサッケードの大きさは下線M saccadeで表示され、この表記はすべてのサッケードおよび/または時間もしくは空間およびサッケードの大きさに関する一部分、あるいは指定された点に対するサッケードの大きさのコンポーネントに適用されてもよい。
プロサッケードは、空間内のある点、多くは標的、関心対象の領域またはある注意を捕捉する事象に向かう動きを指す。上記の専門用語により、プロサッケードは、指定された位置に対して比較的小さいサッケード角度および正の強度要素を有するはずである。
アンティサッケードは、多くは反感に起因し、または課題(目を離す指示)に基づいて空間内のある点から離れる動きを指す。上記の専門用語により、アンティサッケードは、指定された位置に対して比較的大きいサッケード角度(約±180°または±π rad)および負の強度要素を有するはずである。
復帰抑制(IOR)はアンティサッケードに関係し、情報が少ない最近固視した領域を避けるために検索または自由閲覧中の傾向を説明する。IORは場面のサンプリングを有効にするための一般戦略を反映する。IORはアンティサッケードによってさらに定義が促進されてもよく、またはアンティサッケードの機能であってもよい。
サッケード速度(vsaccade)すなわちサッケードの速度は、継時的な大きさの変化(であり、概して強度要素から基準点に向かわない)と取られる。サッケード速度の強度および方向の程度に基づいて、サッケード速度はユーザに対する標的の関連性の程度を示してもよい。平均サッケード速度は下線v saccadeで表示され、すべてのサッケードまたは時間および/もしくは空間内の一部分に適用されてもよい。
サッケード率(頻度)(fsaccade)は、すべてのサッケード、一定期間にわたるサッケード(例えばf_(saccade|target present))、特定領域内のサッケード(例えばf_(saccade|display center))および/またはそれらの方向によって画定されたサッケード(例えばf_(saccade|towards target))に対して測定された1秒当たり(s−1またはHz)のサッケードの平均数を示す。
サッケード回数(数)(Nsaccade)は、すべてのサッケード、一定期間にわたるサッケード(例えばN_(saccade|target present))、特定領域内のサッケード(例えばN_(saccade|display center))および/またはそれらの方向によって画定されたサッケード(例えばN_(saccade|towards target))に対して測定されたサッケードの数である。
追従眼球運動(PEM)は、凝視が空間を通して動くオブジェクトを追跡する滑動性追従眼球運動、および頭部または身体運動に対して補完する前庭動眼運動の両方を指すために使用される。PEMは滑動性PEMの開始、継続時間、および/または方向を示すデータによってさらに画定されてもよい。また動く参照フレームから静止したオブジェクトの補完的追跡も含む。PEMは、概して固視およびサッケードではなく、むしろ時折誤差を修正するサッケードによって中断される連続した比較的遅い動きからなる。PEM跡の滑動性サッケード部は取り去られ、個別に分析されてもよい。
身体追跡の定義
身体追跡は、時間関数および/または動きの階級(例えば頭部の頷き)に関連した時の個別の事象として、身体および四肢の位置を測定することならびに見積もることを伴う。情報源は、画像処理および分析の役に立つためのマーカ、位置追跡器、加速度計、ならびに様々な手持ち式もしくは着用式装置、プラットフォーム、椅子、またはベッドの着用の有無にかかわらず動画追跡を含む。
身体追跡は、時間関数および/または動きの階級(例えば頭部の頷き)に関連した時の個別の事象として、身体および四肢の位置を測定することならびに見積もることを伴う。情報源は、画像処理および分析の役に立つためのマーカ、位置追跡器、加速度計、ならびに様々な手持ち式もしくは着用式装置、プラットフォーム、椅子、またはベッドの着用の有無にかかわらず動画追跡を含む。
画面距離(dscreen)は、ユーザの眼(顔)と所与の表示装置との間の距離を指す。統計量として、画面距離は画面上の様々な要素に向かう方向(視角)を決定するために重要であるが、時間的な変数として、画面距離は画面に向かい、また画面から離れるユーザの動きを測定することができる。画面距離はユーザの眼(顔)と所与の表示装置との間の変化率、初期位置、および最終位置に依存する。顔検出アルゴリズムと組み合わせて、この測定はデバイスカメラおよび表示装置に対して公知の位置をもつ分離したカメラから行われてもよい。
頭部方向(向き)([θ,φ]facing)は、身体に対して、または表示装置もしくは環境内の他のオブジェクトに対して頭部が向く方向の3D極座標における方向を指す。継時的に追跡して、これは頷き(取組みおよび疲労の両方)、振動、上下運動、またはあらゆる他の形の配向のような事象を抽出するために使用することができる。頭部方向は、身体に対して、または表示装置もしくは環境内の他のオブジェクトに対する方向に向かう変化率、初期位置、および最終位置に依存する。
固視および眼球運動に関連した様々な測定と同様だが、頭部固定が測定され、行為が推測されてもよい。概して頭部固定は眼の固定よりはるかに長くなる。頭部運動は、前庭眼球の補完と組み合わせたときに必ずしも眼球の凝視方向の変化を示すわけではない。頭部固定は、頭部固定の変化率、初期位置、および最終位置に依存する。
サッケードおよびそれらの眼球運動に関連した様々な測定と同様だが、頭部サッケードが迅速な個別の頭部運動として測定されてもよい。これらは、大きい視角にわたって凝視をシフトするときにサッケード眼球運動に付随して起こる傾向がある。また頭部サッケードを配向することは聴覚処理の一部でもあり、環境内の新規または予期しない音に応答して起きることがある。
頭部追跡は、追従眼球運動と同様だが、しばしば動くオブジェクトを追跡し、かつ/または動く参照フレームを補完する際に、より遅く持続する動きである傾向がある。
四肢追跡は、画像処理を備えた動画、またはそれら自体が動画、加速度計もしくは三角測量によって追跡される着用型/携帯型装置を使用して、継時的に四肢の位置から行われてもよい様々な測定を指す。これは、コンピュータマウスおよび携帯用運動制御装置のようなポインティングデバイスを含む。相対四肢位置は、指示方向のような二次測定を導出するために使用されてもよい。四肢追跡は四肢の変化率、初期位置、および最終位置に依存する。
重量配分は、ユーザが立っている、座っている、または横になっている間に身体運動、位置および姿勢を測定するために使用できる、センサの空間配置の上の重量の配分を指す。重量配分は、重量の変化率、初期位置、および最終位置に依存する。
また微表情、眉の位置、人の口の縁部、口角、および境界線、ならびにユーザの頬骨の位置を含む顔の表情も記録されてもよい。
電気生理学および自律神経の定義
電気生理学測定は、典型的には皮膚上に置かれた導電性電極による電位(電圧)または電位差の記録に基づく。電極が置かれた身体の部分に依存して、様々な生理学および/または行為の測定が一連のメトリックおよび分析に基づいて行われてもよい。典型的な電圧(非常に小さいマイクロボルトμV)が、1秒当たり(kHz)数千回のサンプルレートをもつ時間関数として記録される。電気生理学の記録は自律神経の機能を測定することができる一方で、様々なセンサに関与する他の方法も使用することができる。圧力変換器、光学センサ(例えばパルス酸化)、加速度計、その他は、連続したまたは事象に関係したデータを提供することができる。
電気生理学測定は、典型的には皮膚上に置かれた導電性電極による電位(電圧)または電位差の記録に基づく。電極が置かれた身体の部分に依存して、様々な生理学および/または行為の測定が一連のメトリックおよび分析に基づいて行われてもよい。典型的な電圧(非常に小さいマイクロボルトμV)が、1秒当たり(kHz)数千回のサンプルレートをもつ時間関数として記録される。電気生理学の記録は自律神経の機能を測定することができる一方で、様々なセンサに関与する他の方法も使用することができる。圧力変換器、光学センサ(例えばパルス酸化)、加速度計、その他は、連続したまたは事象に関係したデータを提供することができる。
周波数領域(フーリエ)分析は、時間関数(時間領域)としての電位差を周波数関数としての波形エネルギーに変換することができる。これは、スペクトログラムを生成するために動く時間枠にわたって行うことができる。時間関数としての特定の周波数または周波数の範囲の総エネルギーは、応答および状態の変化を測定するために使用することができる。
脳波検査(EEG)は脳機能の電気生理学の記録を指す。時間平均および周波数領域分析(以下に詳述されている)は状態の測定値を提供する。刺激、事象に関係した電位(EEG−ERP)についての正確な時間情報と組み合わせて、情報処理の特定の側面の波形特性として分析することができる。
周波数帯は、通常脳活動(EEG)と関連し、周波数領域分析の状況において周波数の異なる範囲は、一般的に特有の神経工程または一般的状態の活動特性を探すために使用される。周波数範囲は1秒当たり(s−1またはHz)の周期を以下のように特定される。
・デルタ−4Hz未満の周波数。典型的には除波睡眠に関連する。
・シータ−4〜7Hzの周波数。典型的には眠気に関連する。
・アルファ−8〜15Hzの周波数。
・ベータ−16〜31Hzの周波数。
・ガンマ−32Hzを超す周波数。
・デルタ−4Hz未満の周波数。典型的には除波睡眠に関連する。
・シータ−4〜7Hzの周波数。典型的には眠気に関連する。
・アルファ−8〜15Hzの周波数。
・ベータ−16〜31Hzの周波数。
・ガンマ−32Hzを超す周波数。
心電図検査(ECG)は、心臓機能の電気生理学の記録を指す。この状況における関心対象の主要測定は心拍数である。
筋電図検査(EMG)は、筋肉の緊張および動きの電気生理学の記録を指す。必ずしも明白な動きをもたらさない、微妙な筋肉活動の測定が行われてもよい。顔の上の電極は顔の表情および反応を検出するために使用することができる。
電気眼振検査(EOG)は、眼を横切る電気生理学の記録を指す。これは眼および瞼の動きの繊細な測定値を提供できるが、瞳孔位置および凝視位置の抽出での使用に限定される。
網膜電図検査(ERG)は、網膜活動の電気生理学の記録を指す。
ガルバニック皮膚反応(GSR)(皮膚電気反応)は皮膚伝導性の測定である。これは発汗に関係するような交感神経系の間接測定である。
体温測定は、離散または連続した手法でなされてもよい。体温の比較的急速な移行は、刺激に応答する測定値であることがある。移行は、温度の変化率、初期温度、および最終温度を追跡することによって測定されてもよい。
呼吸数は息の速度を指し、光学/動画、呼吸記録および聴覚を含む多くの源から測定されてもよく、通常1分当たり(min−1)の息で測定される。呼吸における短い休止(すなわち息を止めた)は、発現および継続の時間に関して測定されてもよい。
心拍数は、1分当たり(min−1)の脈拍で測定され、多数の源から測定されてもよく、自律神経機能および生理状態の表示として使用されてもよい。
血圧は、通常2つの値、すなわち最高(収縮)圧および最低(拡張)圧を水銀のミリメートル(mmHg)で測定される。血圧は自律神経機能および生理状態の表示として使用されてもよい。
遠心性音声記録の定義
付近のマイクロフォンからの音声記録は、行為およびユーザからの自律反応さえも測定することができる。声の応答は応答時間、応答の意味または内容(すなわち言ったこと)、ならびに応答の継続時間(例えば「yeah(うん)」に対して「yeeeeeeeaaaah(うーーーん)」)の測定値を提供することができる。あくび、うめき声またはいびきのような他の発話が測定されてもよい。たたく、揺れる、引っ掻くまたは概ねそわそわした行為のような他の可聴行為が測定されてもよい。ある特定の状況では、呼吸のような自律神経の行為が記録されてもよい。
付近のマイクロフォンからの音声記録は、行為およびユーザからの自律反応さえも測定することができる。声の応答は応答時間、応答の意味または内容(すなわち言ったこと)、ならびに応答の継続時間(例えば「yeah(うん)」に対して「yeeeeeeeaaaah(うーーーん)」)の測定値を提供することができる。あくび、うめき声またはいびきのような他の発話が測定されてもよい。たたく、揺れる、引っ掻くまたは概ねそわそわした行為のような他の可聴行為が測定されてもよい。ある特定の状況では、呼吸のような自律神経の行為が記録されてもよい。
話し言葉、語句およびより長い構文などの発声が記録され、特殊な応答を導出するためにアルゴリズムでテキスト文字列に変換されてもよい。各コンポーネント(反応、単語、音節)の発現および継続の時間が測定されてもよい。また他の非言語応答(怒声、うめき声、鼻歌、その他)も特徴付けられてもよい。発声は、高さ、大きさ、および意味を含む声のパラメータの範囲を反映することがある。
推定された遠心性応答は、音声によって記録され、一般的な状態もしくは雰囲気における刺激または信号のいずれかに離散的応答を示してもよい、関心対象のある特定の遠心性応答を指す。関心対象の行為は、たたく、引っ掻く、反復される機械的相互作用(例えばペンをカチカチ鳴らす)、四肢の弾みもしくは振動、揺れるおよび他の反復または別法として顕著な行為を含む。
呼吸数、強度(大きさ)および潜在的様式(口に対する鼻)の測定などの呼吸も行われてもよい。
求心性分類/定義
以下に論じる状態は、概して様々な刺激の状況において、または様々な刺激の応答で、ならびに刺激と環境状態の組合せで測定される。刺激は求心性入力様式(視覚、聴覚、触覚、その他)によって画定し、その特性によって説明することができる。特性はアプリケーション(例えば画面上に表示されたスプライトの位置、大きさ、透明度の設定)によって設定され、または画像/音声処理分析(例えばフーリエ変換、突起マッピング、オブジェクト分類、その他)によって推測されてもよい。
以下に論じる状態は、概して様々な刺激の状況において、または様々な刺激の応答で、ならびに刺激と環境状態の組合せで測定される。刺激は求心性入力様式(視覚、聴覚、触覚、その他)によって画定し、その特性によって説明することができる。特性はアプリケーション(例えば画面上に表示されたスプライトの位置、大きさ、透明度の設定)によって設定され、または画像/音声処理分析(例えばフーリエ変換、突起マッピング、オブジェクト分類、その他)によって推測されてもよい。
以下に論じるように関心対象の領域は、事前に公知でありアプリケーションによって設定されてもよく、様々な視覚刺激の位置および程度によって画定されてもよく、ならびに/または連続し、関連し、かつ/もしくは突出した領域を同定する画像処理分析によってデータを収集後に導出されてもよい。刺激特性に加えて、遠心性測定は、関心対象の領域(例えばユーザが固視する傾向がある領域は凝視位置データによって画定される)を同定するために使用されてもよい。同様に求心性および遠心性のどちらの測定も、概略分析(例えば息を止めている間の固視の総数)のために期間を分割するために使用されてもよい。
感覚データ交換プラットフォームの概説
本明細書の一実施形態による、例示的SDEPとのユーザの相互作用を示すブロック図100を示す、図1Aを参照する。一実施形態では、ユーザ102はVR/AR/MxRシステム104と相互作用する。VR/AR/MxRシステム104は、HMD、センサ、および/またはあらゆる他の形のハードウェア要素106などの装置を含んでもよく、ハードウェア要素106は刺激の形でユーザにVR/AR/MxRメディアを表し、ユーザが表れたメディアと相互作用をしている間にユーザの応答データを収集することができる。メディアは、サーバによって、ネットワークを通して、またはHMDにコンテンツを提供できるあらゆる他の型のコンテンツ・プラットフォームによって連通されてもよい。センサは、ユーザ102を監視するために生理学的センサ、生体認証センサ、または他の基本的センサおよび高度なセンサであってもよい。加えてセンサは、音声、視覚、触覚、またはユーザ102の視覚機能に直接または間接的に影響を与えることがある、あらゆる他の型の環境条件を記録する環境センサを含んでもよい。またVR/AR/MxRシステム104は、ソフトウェア要素108も含んでもよく、ソフトウェア要素108はハードウェア要素106と関連して実行されてもよい。例示的ソフトウェア要素108は、ゲームプログラム、ソフトウェア・アプリケーション(apps)、またはユーザ102にVR/AR/MxRメディアを表すために寄与することがある、あらゆる他の型のソフトウェア要素を含む。またソフトウェア要素108によりシステムがユーザの応答データを収集できることもある。収集されたデータは、ユーザ、ソフトウェア・アプリケーション、ゲーム(ある場合)、ユーザに表されたメディア、ユーザがシステムと相互作用する間のセッション、またはあらゆる他のデータについての情報にタグ付けされてもよい。ハードウェア要素106とソフトウェア要素108の組合せは、ユーザ102にVR/AR/MxRメディアを表すために使用されてもよい。
本明細書の一実施形態による、例示的SDEPとのユーザの相互作用を示すブロック図100を示す、図1Aを参照する。一実施形態では、ユーザ102はVR/AR/MxRシステム104と相互作用する。VR/AR/MxRシステム104は、HMD、センサ、および/またはあらゆる他の形のハードウェア要素106などの装置を含んでもよく、ハードウェア要素106は刺激の形でユーザにVR/AR/MxRメディアを表し、ユーザが表れたメディアと相互作用をしている間にユーザの応答データを収集することができる。メディアは、サーバによって、ネットワークを通して、またはHMDにコンテンツを提供できるあらゆる他の型のコンテンツ・プラットフォームによって連通されてもよい。センサは、ユーザ102を監視するために生理学的センサ、生体認証センサ、または他の基本的センサおよび高度なセンサであってもよい。加えてセンサは、音声、視覚、触覚、またはユーザ102の視覚機能に直接または間接的に影響を与えることがある、あらゆる他の型の環境条件を記録する環境センサを含んでもよい。またVR/AR/MxRシステム104は、ソフトウェア要素108も含んでもよく、ソフトウェア要素108はハードウェア要素106と関連して実行されてもよい。例示的ソフトウェア要素108は、ゲームプログラム、ソフトウェア・アプリケーション(apps)、またはユーザ102にVR/AR/MxRメディアを表すために寄与することがある、あらゆる他の型のソフトウェア要素を含む。またソフトウェア要素108によりシステムがユーザの応答データを収集できることもある。収集されたデータは、ユーザ、ソフトウェア・アプリケーション、ゲーム(ある場合)、ユーザに表されたメディア、ユーザがシステムと相互作用する間のセッション、またはあらゆる他のデータについての情報にタグ付けされてもよい。ハードウェア要素106とソフトウェア要素108の組合せは、ユーザ102にVR/AR/MxRメディアを表すために使用されてもよい。
一実施形態では、ユーザ102のVR/AR/MxRシステム104との相互作用から収集された刺激および応答データは、データ源110を構成してもよい。データ源110は、ソフトウェア要素108とSDEP118との間の相互作用に基づいて、SDEP118内に生成されてもよい。またソフトウェア要素108は、開発者のためのソフトウェア開発キット(SDK)に含まれた専用の関数呼び出しを通してSDEP118と相互作用もしてもよい(すなわち開発者は既定の機能を使用してSDEP118から、またはSDEP118にデータを送受信してもよい)。SDEP118は、記憶装置および処理コンポーネントを含んでもよく、コンピュータシステムであることが可能である。SDEP118の機能性は、大部分が1つまたは複数のサーバおよびクラウドサービスに記憶し、クラウドサービスから取り戻したデータ上に存在してもよい。データ源は、視覚データ、音声データ、VR/AR/MxRシステム104とともに開発されたセンサによって収集されたデータ、ユーザプロファイルデータ、またはユーザ102に関係してもよいあらゆる他のデータの形であってもよい。視覚データは大部分が刺激データを含んでもよく、カメラ(携帯電話のカメラもしくは他の画像処理機器/装置など)から、またはゲームおよびアプリケーション(apps)などの他の間接源から調達されてもよい。ユーザデータは、ログイン情報、またはユーザプロファイルから、ソーシャルメディア・アプリケーションから、または他の個人源から導出された他のユーザの特殊情報に関連してもよい。実施形態では、データ源は、求心性データ源および遠心性データ源に大マーカに分類され、それらについては本明細書の次の章でより詳細に説明する。一実施形態では、ユーザプロファイルデータは、別のデータベースから収集されてもよく、異なる源を通して提供されてもよい。例示的一実施形態では、ユーザプロファイルデータは、1つまたは複数の眼の健康保険会社を含むサービス提供会社によって提供されてもよい。他の実施形態では、ユーザプロファイルデータは、ユーザの装置、アプリケーション/ゲームにおけるオプトインオプション、またはあらゆる他の源から収集されてもよい。
データ源110はデータ採取システム112に提供されてもよい。データ採取システム112は、データ処理システム114内でさらに処理に備えてデータを抽出し、かつ/または変換してもよい。データ源とデータセットとの間で連通するために使用されるオブジェクトの組であるデータアダプタは、データ採取システム112を構成してもよい。例えば画像データのアダプタモジュールは、画像からメタデータを抽出してもよく、また画像データの処理もしてもよい。別の例では、動画データアダプタモジュールも画像データ源からメタデータも抽出してもよく、また大量の動画を配分されたファイルシステムに記憶するために動画変換器も含んでもよい。別の例では、時系列データアダプタモジュールは時系列にセンサデータを解析する。別の実施形態では、空間データアダプタモジュールは、皮膚などの比較的小さい面積からデータを利用し、面積の測定結果に対するデータを空間的に変換してもよい。別の例では、ユーザプロファイルデータアダプタモジュールは、ログイン、ソーシャルメディア接続API、電話による固有識別子などを通して一般的なユーザデータをソートしてもよい。
SDEP118は、データ採取システム112から調整されたデータを受信するデータ処理システム114をさらに含んでもよい。データ処理システム114内の機械学習モジュール152は、データをデータ提供システム116にデータを出力するために記憶装置およびリアルタイムキューと連通してもよく、データ提供システム116はアプリケーション・プログラム・インタフェース(API)を含んでもよい。実施形態では、機械学習システムは、データ採取システム112から出力されたデータを処理するために、1つまたは複数の公知のカスタムモデルを実装してもよい。
図1Bは、データ採取システム112およびデータ処理システム114によって行われた機能の分割の例示的工程を示す。実施形態では、172でシステム104にあるアプリケーションが刺激および応答データを収集する。刺激および応答データは、表示装置、色、光、画像、位置、時間、ユーザ、セッション、およびユーザ相互作用に関係した他のデータに関係した情報の形で転送される。データは、表示装置上に画像を提示する、スピーカを通して音声を再生する、またアプリケーションの流れに関連するユーザ入力情報を取るために使用された未加工の形でアプリケーション内に表されてもよい。追加の遠隔情報ならびにより高度なシステムから記録する動画および音声(すなわちVR/AR/MxR)も含まれてもよい。
174でソフトウェア・ツールキットはアプリケーションから未加工のプログラム情報に取り込み、より物理的および/または生理学的に関連した形でデータを表すために、様々な変換を適用してもよい。画像および動画は、表示装置ハードウェアについての情報と組み合わせて、赤、緑および青(RGB)値をCIE1931の色輝度の値(および/または何らかの他の生理学に関連した色輝度空間)に変換されてもよい。空間的表示装置の情報(水平および垂直画素座標)は、物理的表示装置の大きさの見積もりおよびユーザの閲覧距離と組み合わせて、頭部中心の視角および距離に変換されてもよい。データは視線追跡から見積もられた凝視方向とさらに組み合わされてもよく、これは網膜座標にさらに変換されてもよい。同様にユーザインタフェースのマーカ(例えばマウスカーソル)はそれらの変換された位置を有してもよい。実施形態では、何らかの他の関連データが変換せずに通過してもよい。一部のアプリケーションでは、現在および前の相互作用についての情報は、見積もる心理測定パラメータ(ブラケティング情報として示されている)に向かう有益なサンプリングのための提案を備えるアプリケーションを提供するために、ツールキットによって利用されてもよい。
176では、機械学習または深層学習のアプリケーションに依拠する画像処理および分析は、画像または音声情報を関連した特性(例えばエッジ、輪郭、質感など)およびオブジェクトに分割されてもよく、それらに対して識別、空間的場所および範囲、動きなどのようなパラメータが見積もられてもよい。
178では、刺激および応答の未加工の物理的パラメータは組み合わされ、検出、弁別、反応、精度、記憶、および他の派生的測定の心理測定の見積もりに分析されてもよい。実施形態では、派生的測定は傾向分析のための測定を含んでもよい。
ユーザおよびセッションのデータは、後の表示および/または分析のための状況を提供するために、刺激、応答、および分析データにタグ付けするために図1Bに例示された工程全体を通して転送されてもよい。
実施形態では、174で分析から出力されたデータは、標的、反応、検出、弁別、および視覚データを処理し表すために有益な、他のパラメータに対するグラフを含んでもよい。
図1Cは、本明細書の一実施形態による例示的機械学習システム152を示す。上記のように、視覚データ、音声データ、センサデータ、およびユーザデータの形の入力データはSDEP118と連結し、データ採取システム112を通して前処理される。処理された/変換されたデータは、機械学習システム152に提供される。実施形態では、機械学習(ML)システムは、これに限定されないが、単純ベイズ、決定木などの1つまたは複数の公知のカスタマイズされたデータモデルを使用して、変換されたデータを処理する。実施形態では、MLシステム152は、Keystone MLおよびVeloxなどのソフトウェア・フレームワークに基づいてデータパイプラインを生成する。モデル化されたデータはデータベース154に記憶されてもよい。一実施形態では、NoSQL(Accumulo/HBase)、SQL(MySQL)、およびオブジェクト記憶装置(未加工の画像および動画データ用)の組合せが使用される。実施形態では、セルレベルのセキュリティがHIPAA(米国、医療保険の積算と責任に関する法律)に準拠して記憶装置154に提供される。
一実施形態では、リアルタイムキュー156は処理パイプラインにストリーミングするためにMLシステム152と連通する。一実施形態では、リアルタイムキュー156はKafkaなどの配分された出版・購読型メッセージシステムを使用して機能する。一実施形態では、Kafkaの代理店は、源から所望の頻度で画像、動画、および時系列データを収集し、これらは次いで様々なOpenCV(オープンCV)およびカスタム画像処理ライブラリを実行時に使用して処理される。
SDEP118は、ユーザ装置(例えばHMD)のハードウェア作動システムを介して、かつ/またはコンテンツ開発者によって使用されてもよい。一例では、ハードウェアおよびコンテンツ開発者の両方がSDEPを使用してもよい。この例では、データは、ユーザが表れたコンテンツとどのようにインターフェースで接続するか、ユーザはコンテンツの何の側面に最も取り組むか、どのように取り組むかについて収集されてもよい。さらに取組みは、そのユーザおよび/または同じ層の類似したユーザに関する知見に基づいて増加されてもよい。コンテンツは、人間工学的視点から経験を最適化する手法で、ハードウェア能力に合わせるように表されてもよい。
実施形態では、SDEP118は、別のAPI122を供給するバックエンド分析のためのモジュール120をさらに含んでもよい。API122は、次いでユーザ102とインターフェースで接続してユーザ102に修正されたメディアを提供してもよい。
図2は、本明細書の一実施形態による、クエリプロセッサに達する前のセンサデータストリームの処理を示すブロック図である。一実施形態では、図2は、SDEPによって受信されたセンサデータストリームのためのラムダアーキテクチャ200を示す。データ処理アーキテクチャ200は、データストリームおよびバッチを並行に処理することにより、大量のデータを取り扱うように設計されてもよい。一実施形態では、リアルタイムでユーザから収集されたセンサデータを含むセンサデータストリーム202は、リアルタイム層204に提供される。リアルタイム層204はリアルタイムプロセッサ214を通してオンラインデータを受信して処理してもよい。バッチ内に収集されたデータはバッチ層206に提供されてもよい。バッチ層206は、既存の事象に付加される処理時間スタンプ事象を受信して利用するために、マスターデータセット222を含む。バッチ層206は、非常に大量のデータを取り扱うことができるバッチプロセッサ216を伴う、配分された処理システムを使用して結果を事前に計算してもよい。バッチ層206は、バッチ表示218を発生するためにすべての利用可能なセンサデータを処理できることにより、正確なデータを提供することを目指してもよい。バルクアップローダ220はデータベース210内に記憶される出力をアップロードしてもよく、更新は既存の事前に計算されたバッチ表示を完全に交換する。両方の層から処理されたデータは、リアルタイムサービスおよびバッチサービスに対してそれぞれのデータベース208および210にアップロードされてもよい。データベース208および210からのデータは、続いてクエリプロセッサ212を通ってアクセスされてもよく、クエリプロセッサ212はサービス層の一部であってもよい。クエリプロセッサ212は、事前に計算された表示を戻す、または処理されたデータから表示を構築することにより、アドホッククエリに応答してもよい。実施形態では、リアルタイム層204、バッチ層206、およびサービス層は独立して利用されてもよい。
データ取得
事象は、アプリケーション、ユーザおよび環境センサに由来する可能性があるデータストリーム内でコード化されてもよく、物事が起きたときを示す時間スタンプを担持してもよい。発生の時間が明白なものはいずれも、「事象」と認められてもよい。関心対象のほとんどの事象は、時間が離散してもよく、時間スタンプはある状態の開始または終了のいずれかを示す。例外として、電気生理学的データは連続して記録され、概して他の事象とともに時間内に同期されたデータセグメントを平均することによって、または何らかの他の分析によって分析されてもよい。
事象は、アプリケーション、ユーザおよび環境センサに由来する可能性があるデータストリーム内でコード化されてもよく、物事が起きたときを示す時間スタンプを担持してもよい。発生の時間が明白なものはいずれも、「事象」と認められてもよい。関心対象のほとんどの事象は、時間が離散してもよく、時間スタンプはある状態の開始または終了のいずれかを示す。例外として、電気生理学的データは連続して記録され、概して他の事象とともに時間内に同期されたデータセグメントを平均することによって、または何らかの他の分析によって分析されてもよい。
一実施形態では、ユーザ102との相互作用から収集されたデータは、求心性事象および遠心性事象に対応して求心性データおよび遠心性データに大きく分類される。末梢神経系では、求心性神経線維は求心性ニューロン(知覚ニューロン)の神経線維(軸索)である。これは、感覚受容器または感覚器官から中枢神経系に向かって神経インパルスを運ぶ、神経細胞体から離れて延在する長い突起(突出)である。神経活動の反対方向は遠心性伝導である。逆に遠心性神経線維は、遠心性ニューロン(運動ニューロン)の神経線維(軸索)である。これは、中枢神経系から離れて末梢効果器官(主に筋肉および腺)に向かって神経インパルスを運ぶ、神経細胞体から離れて延在する長い突起(突出)である。
「刺激」は、通常ユーザが応答することがある物質界に離散した発生を形成する求心である、1つまたは複数の事象に分類されてもよい。刺激事象はユーザから応答を生じても生じなくてもよく、実際に全く意識して気付かない、または検知しないことさえあり、したがって事象が起きた場合に、これは分析に利用可能にされる。刺激的事象階級は、「特別用途向け事象」ならびに「一般および/または派生的刺激事象」を含んでもよい。
特別用途向け事象は、視覚、音、および特定用途の他の感覚効果に特有であることがある多くの刺激事象階級を含んでもよい。すべての芸術資源が潜在的な視覚刺激であり、すべての音声資源が潜在的な聴覚刺激である。これに限定されないが、味覚、嗅覚、触覚、生理学的入力とともに心拍数、酸素濃度、基礎体温、位置データとともに加速度計、視覚運動、四肢運動、姿勢制御装置、頭部運動/身体運動の方向、力、およびタイミングを含む他の形の入力が存在してもよい。これらの要素の突然のもしくは段階的な出現もしくは消滅、動きの発現もしくは消失、再生もしくは一時停止またはこれらの要素の状態の他の変化が、それらの特殊な時間スタンプを決定する。これらの刺激事象階級を定義することは、SDEと連携するためにアプリケーション開発者を必要とすることがあり、画像/音声処理および分析コードの特殊な開発を含んでもよい。
一般および/または派生的刺激事象は、すべてのアプリケーションにわたって包括的であり得るそれらの刺激事象である。これらは、場面を記録した動画(例えばヘッドマウントカメラ)または音声データから抽出され、アプリケーション(それ自体はそれらの事象のより正確な記録を提供する)に直接由来しないそれらの求心性事象を含んでもよい。装置の特殊だが特別用途ではない事象も分類されてもよい。同様にすべてのアプリケーションに行われた較正および他のアクティビティは、一般的であるとみなしてよい(しかし恐らく使用されようとしているアプリケーションによって依然として分類されることが可能である)。
一部の刺激事象は、大量のデータが収集されて分析された後まで明らかでなくてもよい。新しい刺激事象階級がユーザ間の応答のパターンを説明するために生成された場合に、検出されて調査される傾向があってもよい。加えて記述および予測分析は、ユーザの経験を個人向けにするように、傾向/パターンに依存して刺激/コンテンツのリアルタイムの交換を促すために行われてもよい。
「応答」は、通常は(実際にまたは想像で)気付いた刺激に潜在的に応答する、ユーザによる離散行為または行為のパターンを形成する遠心である、1つまたは複数の事象に分類されてもよい。応答は、電気生理学および/または自律神経監視センサによって測定される際に、生理学状態のあらゆる変化をさらに含んでもよい。応答は必ずしも意識され、または自主的でなくてもよいが、応答は、可能な時は常に意識/無意識および自主的/非自主的であると識別される。応答事象階級は、離散応答、時間ロックされた平均応答、時間微分応答、および/または導出した応答事象を含んでもよい。
「離散応答」は、ユーザの意志に基づく行為に関連した最も一般的な応答事象を表し、開始と終了が明らかな時間内(通常は約数秒または数ミリ秒続く)に離散する。これらは、とりわけマウスまたはタッチスクリーン入力、発声、サッケードおよび追従眼球運動、瞬目(自主的もしくは非自主的)、頭部または他の身体部運動および電気生理学的に検出された筋肉運動を含む。
一部のデータ記録、特に電気生理的記録のノイズの性質に起因して、個別の刺激事象への応答を検査することは困難である。時間ロックされた平均応答は、特定の刺激事象に応答するパターンを指し、特定の刺激事象は多数の刺激応答事象を平均することにより抽出されてもよい。特定の刺激のそれぞれの出現の直後の時間の長さ(通常は約数秒)に対するデータは別にして、次いでデータ内のノイズ(実際には恐らく無原則である)自体がその特徴を測定され得る平均応答を残して打ち消すように、多くの「実験」を通じて平均される。
時間微分応答は、一部の応答、具体的には自律神経応答が継時的にゆっくりと変化することを反映し、場合によって遅過ぎるので離散した刺激事象と関連付けられない。しかし平均値、変化の速度、またはある特定の期間内の速度の加速(および他の導出された測定)は、他の測定状態(求心または遠心)と相互関連してもよい。
刺激事象と同様に、一部の応答事象はデータ収集前に明らかではなくてもよいが、その代わりに継時的にそれらの事象自体が表れてもよい。人間または機械が導いた分析のどちらを通しても、一部の特徴応答はデータ内に出現することがあり、それゆえ推定応答事象と呼ばれることがある。
可能なときは常に応答は、引き起こした(引き起こすかもしれない)刺激と対にされる。一部のアプリケーションは、(心理物理学的実験の場合でそうであるように)刺激および応答がどのように対にされるかをデータストリーム内で明確化させてもよい。一般的場合については、刺激事象階級は、現れた直後に応答がなされる傾向が確かな間の一定期間与えられる。この時間枠に起きるあらゆる応答は刺激と対にされてもよい。応答が起きない場合は、ユーザがその刺激事象に応答しなかったと想定される。同様に応答事象は、作用の直前に刺激が作用を引き起こす傾向がある間に一定期間与えられる。刺激の後および応答の前の両方の時間枠は、以前に想定されなかった新しい刺激および応答事象階級の発見の役に立つために調べられてもよい。
刺激および応答事象階級は、それらの特性(パラメータ、値、分類、その他)によって画定されて弁別されてもよい。事象階級の一部の特性は、データ内の群または分類を確立するために使用されてもよい。一部の特性は(もまた)様々なメトリックを計算するために使用されてもよい。特性は、事象階級または事象の個々の場合に固有の特定値を保持する、実際の数値であってもよい。特性は、グループ化または分析に依存して後に数値表現に変換される可能性のいずれかのために名前付き同一性を保持する、分類別であってもよい。
刺激事象の特徴は主に刺激の物理的記述を構成してもよい。これらの特性には刺激の事象階級を画定してよいものもあれば、刺激の特殊な発生(例えば時間スタンプ)を記載してよいものもある。刺激の名前付き同一性(例えばスプライト・ファイル名)および状態情報(例えば配向または姿勢)は刺激特性である。画像の画素構成または音の波形は、刺激の無数の異なる記述的特性を発生するために使用することができる。一部の刺激特徴は、まさに一部の刺激事象階級自体が分析から出現することがあるように、データ分析を通して発見する必要があることがある。
応答特性は、概して行われた応答の型もしくは分類、位置情報(例えばマウスクリックが起きた場所、またはサッケードが生じた/達した場所、触感、凝視、固視、頭部の回転、身体の回転、頭部の方向および速度、または身体/四肢運動)ならびに時間情報を含んでもよい。一部の導出された特性は、それに対して応答が行われる刺激の調査、例えば応答が「正しかった」かまたは「間違っていた」かに由来してもよい。
図3は、デジタルデータの源の概略300を示す。実施形態では、求心性データ304は、視覚情報307、聴覚情報308、空間情報310、またはこれに限定されないが、温度、圧力、および湿度を含む他の環境的に測定された状態を提供する源から収集されてもよい。求心性データ304の源は、ユーザ302によって認識されたことを意味する事象を含んでもよい。ユーザ302は、本明細書の様々な実施形態によるVR/AR/MxRシステムとインターフェースで接続するユーザであってもよい。
求心性および遠心性データは、複数の人々のために収集され、複数の人々のそれぞれに対するプロファイルに対応する人口統計データに関係してもよく、人口統計データは、複数の人々のそれぞれの少なくとも性別および年齢を含む。一旦このようなデータベースが作成されると、視覚コンテンツ、電子公告、および他の個人用サービスが、作成されることが可能であり、これらはそのサービスのメディアコンテンツに標的群の網膜・外側膝状体・皮質路の上により大きな影響を与えることにより、少なくとも1つの特定の人口統計学的属性を有する人々の群を標的とする。
求心性データ
求心性(刺激)事象はVEにおいてユーザ302に提供された表示装置上に発生するあらゆるもの、スピーカもしくはヘッドホン/イヤホンに由来する事象、またはアプリケーションによって発生された触覚入力であってもよい。またデータはこれに限定されないが、アプリケーション自体によって発生されないが、ユーザ302によって見て、聞いて、または感じることがあるものの記録を保存することを意図した、ヘッドマウントカメラおよびマイクロフォンを含む環境センサによって収集されてもよい。求心性データ304は刺激の形であってもよく、これは分析的メトリックを構築するために使用される未加工のコンポーネント(特徴または特徴の組)に分割されてもよい。
求心性(刺激)事象はVEにおいてユーザ302に提供された表示装置上に発生するあらゆるもの、スピーカもしくはヘッドホン/イヤホンに由来する事象、またはアプリケーションによって発生された触覚入力であってもよい。またデータはこれに限定されないが、アプリケーション自体によって発生されないが、ユーザ302によって見て、聞いて、または感じることがあるものの記録を保存することを意図した、ヘッドマウントカメラおよびマイクロフォンを含む環境センサによって収集されてもよい。求心性データ304は刺激の形であってもよく、これは分析的メトリックを構築するために使用される未加工のコンポーネント(特徴または特徴の組)に分割されてもよい。
実施形態では、求心性(刺激)事象は遠心性(応答)事象と対にされる。対にする際に、各コンポーネントの刺激特性は、分析のための各コンポーネントの応答特性と対にされてもよい。場合によっては、刺激特性の対または応答特性の対を、相関関係または依存関係について調べてもよい。刺激/応答特性の対は、発生すると考えられるメトリックのほとんどの原因である。すべての分析は、様々な他の利用可能な事象特性に従ってグループ化されフィルタリングされる前に、これらの特性の対によって分割されてもよい。実施形態では、求心性304データおよび遠心性306データの源を含むすべてのデータ源に対して、時間情報はユーザ302の感覚系への入力、およびユーザ302の感覚系からの出力に相互に関係付ける必要がある。相互関係はユーザに対する特徴メトリックまたは心理物理的メトリックを同定するために利用されてもよい。例えばVR/AR/MxRシステム104が、オブジェクトが時間tS(刺激)に画面上に描かれたことを記録し、かつユーザが時間tR(応答)に特定のキーを押したことも記録する場合、ユーザが刺激に応答するのに掛かった時間はtRからtSを引くことによって導出される。代替実施形態では、ユーザはキーを押し、または身振りを行い、またはタッチもしくは身振りを通してAR/VR/MxR環境と相互作用してもよい。この例は求心性データ304および遠心性データ306を相互に関係付ける。
2つの型の求心性データ304を相互に関係付ける例は、ユーザが動くオブジェクトを追跡していたことを示す所与の期間にわたってユーザの凝視位置が円滑に変化したことを凝視追跡器が示す場合であってもよい。しかし同時に頭部追跡器も反対方向に円滑な動きを示す場合、これはユーザの頭部が動いている間にユーザが静止したオブジェクトを追跡していたことも示すことがある。
2つの型の求心性データ304を相互に関係付ける別の例は、視覚オブジェクトが時間t1に現れ、音声ファイルが時間t2に再生された場合であってもよい。t1とt2との差が小さい(またはない)場合、t1およびt2は同じ源に由来すると認識されてもよい。差が大きい場合、t1およびt2は異なる源に属することがある。
蓄積された応答事象から取り込んだデータは、行為のパターンを説明するために使用されてもよい。応答のパターンは、取り出されることがあるパターンが何の刺激かとは無関係に、ユーザの様々な行為または生理学状態を分類するために使用することができる。パターンを取り出した刺激による応答をグループ化することにより、知覚機能の測定値を提供することができる。場合によっては、刺激事象の分析はアプリケーション自体について、またはユーザが取り組むように選別するのは何の経験かについての有益な情報を提供することがある。分析は、以下のパラメータ、すなわち独自の事象、記述的統計、および/または心理測定関数を含んでもよい。
独自の事象は、未加工のデータが関心対象であり得る場合の例を表す。一部の珍しい刺激または応答事象は、平均する機会を提供しないことがあるが、その代わりにそれらの希少性ゆえに興味深い。一部の事象は、関心対象のセッションもしくは期間の終了を引き起こし(例えばユーザが課題に失敗してやり直さなければならない)、または相互作用のある曲面の開始の信号を送ってもよい。
記述的統計は要約されたメトリックを提供する。したがって事象もしくは刺激/応答の事象の複数の発生または特性を対にすることが、一部の共通性によってグループ化されることがある場合、中心傾向(例えば平均)および変動性(例えば標準偏差)の測定値が見積もられてもよい。これらの要約されたメトリックにより、未加工のデータにわたる行為のより特別な意味合いをもつ簡潔な記載が可能になることがある。一部の最小レベルのデータの蓄積はかなり正確であることを求められることがある。
心理測定関数は知覚感覚および知覚力の測定基準を形成してもよい。刺激事象の特定の階級は、表示の中で変化する少なくとも1つの特徴とともに繰り返し示されるときは常に、その刺激特性(応答も同様に変化すると仮定する)に対するユーザの応答パターンをマッピングする機会がある。例えばゲーム内の特定のオブジェクトの大きさ(刺激特性)が変化し、ユーザがそれを発見することもあれば、ユーザが発見しない(特性に応答しない)こともある場合は、そのオブジェクトをユーザが発見する確率は、その大きさの関数として割り出されてもよい。これは複数の刺激/応答特性の対に対して、単一の刺激/応答事象を対にすることに対して、または偶然同じ特性を対にすること(例えば大きさ/検出)を有する多くの異なる刺激/応答事象の対に対して行われてもよい。刺激特性(大きさ、コントラスト、継続期間、速度、その他)に対して割り出された応答特性(検出、弁別、嗜好、その他)が複数の刺激レベルに対する平均応答で利用可能であるとき、そのデータに対する関数(例えば検出に対する大きさ)が適合されてもよい。その関数を説明する変数自体が、行為を記述することができる。閾値は、一方では失敗し、他方では成功する、またはとりわけ一方ではAを選択し、他方ではBを選択する場合を画定されてもよい。
視覚データ
図3に戻って参照すると、一実施形態では、1つのアプリケーションに対して物理的表示装置(複数可)および視覚環境からの視覚情報データ307は、1つまたは複数のカメラによって捕捉された静止画像ファイルおよび/または動画ファイルの形である。一実施形態では、データは、特定の刺激または場面を描くための命令の形である(はるかに少ないデータ量が必要とされ、レンダリングの際に若干の追加時間が必要とされる)。
図3に戻って参照すると、一実施形態では、1つのアプリケーションに対して物理的表示装置(複数可)および視覚環境からの視覚情報データ307は、1つまたは複数のカメラによって捕捉された静止画像ファイルおよび/または動画ファイルの形である。一実施形態では、データは、特定の刺激または場面を描くための命令の形である(はるかに少ないデータ量が必要とされ、レンダリングの際に若干の追加時間が必要とされる)。
図4Aは、本明細書の一実施形態による視覚データに対する特徴メトリックを示すブロック図400である。特徴メトリックはユーザセッションを特徴付けてもよく、時間平均であってもよい。図4Aを参照すると、スコープ402は、視覚データが場面全体(画像表示装置全体またはユーザのヘッドマウントカメラからの画像全体)に対するかどうかを指す。物理属性404は、場面またはその中のオブジェクトの客観的測定を指してもよい。物理属性404は、網膜、頭部および身体に対する場所、直交3D色輝度、コントラスト対空間周波数対配向を含んでもよい。分類属性406は画像の名前付き特性であってもよく、これはオブジェクトの名前付き同一性および/またはグループの同一性を含んでもよい。
視覚刺激は、概してアプリケーションによって発生された(例えばアプリケーションによって直接提供された画像データ)、または(例えばヘッドマウントカメラから)記録された動画から取り込まれたデジタルとしてトゥルーカラー画像(24ビット)に取り込まれてもよい。画像および動画は非可逆圧縮方式で圧縮されてもよく、この場合データの荷重平均は非可逆圧縮によるものであってもよいが、その点を除いては、画像処理はとにかく同じ処理を進めるはずである。開発者は、一部の画像処理ステップを飛ばすことができ、かつ/または分析のために場面のポストホック(事後)レンダリングができることがある、刺激の表示についての情報を提供するように選別してもよい。視覚刺激は、これに限定されないが、以下のコンポーネント、すなわちオブジェクト、大きさ、色度距離、輝度コントラスト、色度コントラスト、空間特性抽出、突起マップおよび/または時間的力学を含んでもよい。
オブジェクト(刺激)はアプリケーション自体からの情報によって、または機械学習(ハールライク(Haar−like)特性分類カスケード、または類似のもの)を介して見出した画像(または動画フレーム)において同定されてもよい。一旦同定されると、オブジェクト自体に属する(またはオブジェクトの中心の公知の大きさに対応する境界領域内の)画素は、「オブジェクト」とタグ付けされる。オブジェクトの同じ幅/高さをもつ(すなわちオブジェクトを含む中心領域を除いて、領域はオブジェクトの幅3、およびオブジェクトの高さ3)オブジェクトの周囲の環帯内の画素(必ず画像/場面自体の境界内にある)は、「周囲」とタグ付けされる。別の画像が周囲とまさに同じ領域で存在するがオブジェクトが存在しない(したがってオブジェクトの「背後」にあるものが示されている)場合、オブジェクトのない領域全体は「背景」とタグ付けされてもよい。メトリックは周囲に対して、かつ可能であるときは背景に対して計算されてもよい。オブジェクトの断片または一部は、オブジェクトを他のオブジェクトに分割するために使用されてもよく、また同一性または分類変数のためにも使用されてもよい。オブジェクトは物理的オブジェクトに対応する必要はなく、場面内の領域もしくは境界を含んでもよく、または単一の画像特性(例えばエッジ)を含んでもよい。
オブジェクトの大きさは、明瞭度を決定するために、または公知の明瞭度からユーザがオブジェクトを検出し、もしくは正しく同定するかどうかを予測するために重要である。オブジェクトの大きさは、オブジェクト内の画素位置間の最長の水平および垂直距離に基づいて幅および高さを、またはオブジェクトの位置を画定する長方形の境界ボックスの幅および高さを画定されてもよい。首尾よく検出し、または他からオブジェクトを弁別する必要があり得るより小さい特性は、オブジェクト内に配置されてもよい。オブジェクト内の最小の特性は、その二次元(幅および高さ)の小さい方の10%であると想定されてもよい。また最小の特性の大きさは、所与の閲覧距離に対して表示装置上の画素の大きさに比例すると想定されてもよい。最小の特性の大きさは、画像のフーリエ変換の分析、またはオブジェクト上で訓練したHaar−like特性分類カスケード(もしくは同様の機械学習に基づいたオブジェクト検出)から重要な特性を調べることによって、より明確に見出されてもよい。
色、色度距離による2つの分割の1つ目は、いかなる輝度差と無関係にオブジェクとその周囲/背景との間の色差の測定である。赤、緑および青の値は、オブジェクのすべての画素、および周囲/背景のすべての画素にわたって独立して平均されてもよい。これらの平均RGB値はCIE3刺激値(X、YおよびZ)に、次いで標準変換定数または(利用可能な場合)使用された表示装置に特有の定数を使用してCIE色度(xおよびy)に変換される。一実施形態では、標準主要色度、D65における白色点、および最大白輝度1に基づいてOpenCV機能「cvtColor」から取り込んだ、RGBからXYZへの変換に対する変換定数は、以下の通りである。
オブジェクの色度と周囲/背景の色度との間の絶対距離は、色度距離としてログされる。次に線が2つの色度とL、MおよびS型錐体に対する3つの共通涙点(copunctal point)のそれぞれとの間の中点から引かれる。これらの線はL、MおよびS型錐体の欠如に対する混同線であり、混同線に沿ってそれらの錐体型の1つがない人は、色度を弁別できないはずである。オブジェクとこれらの3つの混同線のそれぞれに平行な周囲/背景の色度との間の線のコンポーネントは、L、MおよびS型の特殊な色度距離としてログされる。
図4Bは、本明細書の一実施形態による色の対の混同コンポーネントのグラフ表示を提供する。図を参照すると、線1308は与えられた2つの色度の間に引かれている。図に見られるように、3つの大きいドット、赤410、緑412、および青414はL、MおよびS型錐体のそれぞれに対する共通点である。各ドットから同様に色分けされた破線が伸びる。太線416は3つの破線が交差する中点を有する。線416と中点から各共通点まで引かれた線との間の角度に基づいて、3つの得られる混同線のそれぞれに対してその線の平行なコンポーネントが決定される。実施形態では、色の間の平行線が特定の混同線に近づくほど、対応する錐体が欠如した人は弁別することがより困難になる。コンポーネントの長さを全長で割ると(商は区間[0,1]になる)、ほぼ混同される色になるはずである。
図4Cは、3D色輝度空間に投影された表示装置の色域の上面に落ちる所与の色度に対して輝度がどのように見出され得るかを示すグラフを示す。グラフは、コンピュータ画面に対する完全な表示装置の色域の、CIE1931色輝度空間への投影を示す。表示装置上の画素の色を画定するために使用されるRGB空間は完全立法で表すことができる一方で、輝度の実際の物理的特性はそれらの値から若干複雑に導出され、図6に見られる形状によって表される。輝度コントラストは3方向に画定されてもよい。概して分析の状況は3つのうち1つを使用するように提案するが、3つすべてがあらゆるオブジェクおよびその周囲/背景に対してコンピュータで計算されてもよい。小さいオブジェクが大きい均一な背景(例えばテキスト刺激に対して)の上に表された場合、ウェーバー・コントラストは、オブジェクおよび周囲/背景の平均RGBから算出されたCIE3刺激値Y(輝度に対応する)を使用してコンピュータで計算されてもよい。ここでは平均輝度は周囲輝度にほぼ等しいと想定される。ウェーバー・コントラストは正または負であることが可能であり、理論的に結合されない。実際に周期的であり、特に勾配(例えば正弦波格子)を備えるオブジェク/周囲については、マイケルソン・コントラストは刺激内の最小および最大輝度値からコンピュータで計算されてもよい。マイケルソン・コントラストは、常に0〜1の値になる。ほとんどの場合、平均から、または最小および最大からではなく、すべての画素値からのコントラストをコンピュータで計算する必要がある。RMSコントラスト(二乗平均平方根、または標準偏差)は、すべての画素に対するCIE3刺激値Yの標準偏差を取り込むことによって見出すことができる。オブジェクのRMSコントラストは1つの測定レベルである。周囲/背景のRMSコントラストに対するオブジェクのRMSコントラストは、もう1つの測定値である。最後にオブジェクおよび周囲の両方のRMSコントラストは、使用できるRMSコントラストのさらに第3の測定値である。
色コントラストは、輝度コントラストに対して上述のすべての方法と無関係に、あらゆる対の色度値を算出されてもよい。これらの最も有益なものは、CIELAB色空間のa*およびb*コンポーネント、または錐体拮抗型色空間のL対MおよびS対LMコンポーネントのいずれかになる。あらゆる対の寸法に対して、ウェーバー、マイケルソンおよび/またはRMSコントラストは、分析される刺激の型に依存して算出されてもよい。加えてRMSコントラストは、L、MおよびS型錐体の欠如に対して算出される。すべての画素に対するCIE色度値は、L、MおよびS型共通点に集中した3組の極座標に変換される。一実施形態では、以下の方程式はデカルト座標を極座標に変換するために使用され、任意選別で[0,0]以外の中心点を提供する。
RMSコントラストは、それぞれの変換に対する半径座標に基づいて算出されてもよい。
オブジェクの発見に加えて、アルゴリズムも、場面またはオブジェクト内に現れる、注意を引き付け、ユーザが行っている課題に有益であり、もしくは別法として行為と相互に関係するために独立変数として興味深い顕著な特性を同定してもよい。同定されたオブジェクの内側のエッジおよびその他は、固視または他の応答に対する標的であってもよく、それらの位置は応答する際に観察された位置誤差の原因となることがあり、正しい応答および間違った応答と相互関係をもつに値することがある。領域、輪郭、表面、反射、影および多くの他の特性はこのデータから抽出されてもよい。
突起マップは、刺激場面の将来の分析のために突起モデルを通知するためにユーザとの相互作用から収集されるデータを指す。エッジ、輪郭および他の画像特性は、突起を測定し、視線の固定を含むユーザ応答が落ちるかもしれないところを予測するために使用されてもよい。複数のアルゴリズムは、場面における異なる型の特徴を強調するために適用されてもよい。
また時間的力学も視覚表示装置または環境の特徴のために重要であり、あらゆるオブジェクおよびそのオブジェクト特性は継時的に変化してもよい。あらゆる変化の時間、特に出現/消失またはオブジェクトもしくは特徴の明度/コントラストの変化、動きの開始/停止または急激な位置変化(x、y、z平面において)、速度変化(または加速度もしくは位置のあらゆるより高次の時間導関数)ならびにオブジェクトまたは特徴の状態または同一性の任意のおよびすべての変化をログすることが重要になる。またオブジェクトまたは特徴の色度もしくは輝度の変化もログされるべきである。オブジェクの配向もしくはポーズまたは周囲/背景に対するオブジェクの位置の変化からもたらされる出現の二次的変化もログされてもよい。
聴覚データ
図3に戻って参照すると、聴覚情報308は、スピーカなどの音声出力およびマイクロフォンを使用することにより環境から受信されてもよい。一実施形態では、聴覚情報308は未加工の波形ファイルまたはより記述的用語(例えばこの音声ファイルはこの時に再生された)で利用可能であってもよい。
図3に戻って参照すると、聴覚情報308は、スピーカなどの音声出力およびマイクロフォンを使用することにより環境から受信されてもよい。一実施形態では、聴覚情報308は未加工の波形ファイルまたはより記述的用語(例えばこの音声ファイルはこの時に再生された)で利用可能であってもよい。
図5は、本明細書の一実施形態による聴覚情報308(図3に示されている)に対する特徴メトリック500を示す。図5を参照すると、位置基準502は音の場所を同定することが留意されることがある。環境内のオブジェクトまたはスピーカの、ユーザの頭部に対する位置は、ユーザが頭部を動かすに際に変化する。ヘッドホンを通して把握された仮想源の位置は、ユーザが頭部の方向を変える際に(頭部追跡および音処理がそれらの変化を模擬するように一緒に作用しない限り)変化しなくてもよい。
音の物理属性504は(耳の間の強度、タイミングおよび周波数の差から導出された)それらの場所、(波形から導出された)周波数成分、および源の成分差を含んでもよい。分類属性506は画像の名前付き特性であってもよく、これらはオブジェクの名前付き同一性、および/またはグループ同一性を含んでもよく、視覚刺激に関しては同様の説明に従ってもよい。
聴覚(音)刺激は、概してアプリケーションによって発生され、または録音された音声(例えばヘッドマウントマイクロフォン、好ましくは両耳)から取り込まれたデジタル波形(空間的および時間的分解能またはビットレートおよび恐らく圧縮が変更しながら)として取り込まれてもよい。存在する場合は圧縮パラメータが記録されてもよい。開発者は、一部の処理を飛ばすことができ得る、刺激の提示についての情報を提供するように選別してもよい。視覚情報は、音反射または不明瞭化を考慮できるように、音声環境をモデル化するために使用されてもよい。音声刺激は以下のパラメータ、すなわちフーリエ分解、頭部中心位置、音環境、および/またはオブジェクを含むために分割されてもよい。
フーリエ分解は音波を音オブジェクに基づいて成分に分割するために行われてもよい。時間領域波形データは、継時的に異なる音声周波数の振幅および位相が分析されてもよいように、周波数領域に変換されてもよい。これは、独立変数として音パラメータ(例えば周波数、振幅、波長、形状およびエンベロープ、音質、位相、その他)の利用が可能になる。
頭部中心位置または頭部追跡データは環境音に必要であることがある。ユーザの耳に対する音源の位置が導出されてもよく、可能なときは常に音波形がユーザの耳に存在する音波形は、(理想的には両耳用のヘッドマウントマイクロフォンから)記録されてもよい。両耳用ヘッドセット音源(例えばヘッドフォン/イヤホン)はこのための必要性を未然に防いでもよい。
同様に身体および/または四肢に対する追跡データは、環境音に必要であることがある。ユーザの身体および四肢に対する音源の位置が導出されてもよい。このデータは、環境音を同定した頭部追跡データに関係してもよい。データにより、身体および四肢が頭部の動きにどのように反応するかを理解できることがある。
音環境はほとんどの一般的な使用の場合(例えば音はヘッドセットから、またはユーザの正面から直接もたらされる)には重要ではないが、ユーザが回答すると予測される環境音を考慮するために重要になる。音を反映し、かつ/または遮断する(一般的に特殊な周波数)環境内のオブジェクトは、明白な音源場所および音の他の周波数に依存する特性を変えてもよい。物理的環境がその源からユーザへの音の伝播に影響を与える際に、物理的環境を大雑把に特徴付けることは有益であることがある。
音声オブジェクトは、視覚オブジェクトを検出しセグメント化するために使用される、同じ型の機械学習アルゴリズム(Haar−like特性分類サッケードまたは類似のもの)を使用して検出され、セグメント化されてもよい。これは、可能なときは常に正確な音声事象の詳細を獲得するために使用されるべきであり、また局在化のために聴覚システムによって使用される音声パラメータを抽出するために有益であることがある。
ほとんどの分析は、時間内に離散的に起きる視覚および(比較的程度は低いが)聴覚刺激を中心に展開してもよい。他の刺激は、他の様式(例えば触感、味、匂い、その他)で検知する刺激、またはアプリケーションとのユーザの相互作用の状況を画定する(例えば環境照明および背景音声)、一般環境状態変数を含んでもよい。
他の刺激の例は以下を含んでもよい。
触覚刺激、この場合、開発者は、触覚フィードバック機構を使用することを選別してもよく、開発者がそのように選別した場合、それらの事象の性質およびタイミングについての詳細を提供する。また触覚刺激は、直接の記録(可能性は低い)を介して導出されてもよく、または他の源(例えばマイクロフォンを介して物理的振動の騒音の聞き取り)から導出されてもよい。
他の様式刺激、この場合、開発者は、匂い、味、温度、圧力、痛みまたはまだ論じていない刺激事象を生み出す、離散的時間における他の感覚を開始することができることがある。触覚刺激と同様に、このような刺激のあらゆる記録は、関数呼び出しを介してアプリケーション自体から直接もたらされることが最良であるはずである。
環境刺激、すなわち離散的時間に起きず、絶え間ない状態または途切れなく繰り返す刺激は、セッション中に起きる離散的刺激および応答に重要な状況を提供することがある。環境光のレベルは一定感度、基線の瞳孔径、概日パターンおよびユーザの他の生理学的状態に影響を及ぼすことがある。環境音は聴覚感度に影響を及ぼすことがあり、ある特定の聴覚刺激を隠すことがあり、またユーザの生理学および他の状態にも影響を及ぼすことがある。また時刻が分類および相関関係に重要な変数であることもある。恐らくアプリケーションによってまだ記録されていないが、ユーザ入力は睡眠パターン、食生活および他の生理学的な関連状態変数、ならびに温度、圧力、湿度を含む空間の分類の詳細(これらは場所および他のサービスから導出されてもよい)についての情報を提供することができる。
空間情報
図3に戻って参照すると、一実施形態では、空間情報310はユーザ302の周りの設定の詳細から構成されてもよい。これはユーザ302の空間配向およびユーザ302の周りの物理空間を含んでもよい。
図3に戻って参照すると、一実施形態では、空間情報310はユーザ302の周りの設定の詳細から構成されてもよい。これはユーザ302の空間配向およびユーザ302の周りの物理空間を含んでもよい。
一実施形態では、設定はユーザ302とアプリケーションとの間の相互作用が行われる環境である。設定データは、物理的設定、環境光レベル、室温、および他の型の設定情報を含む、セッション中のほとんど静止しているものを指してもよい。実施形態では、空間情報310は設定データの一部である。設定データは概してユーザ302とのセッションの間中一定であってもよく、したがって前に説明したように「事象」に分割されなくてもよい。設定データは物理的設定に関連してもよく、またはユーザ302の個人情報に関係してもよい。
物理的設定データは、これに限定されないが、室内または屋外の設定などの物理空間のあらゆる詳細に対応してもよく、データを分類またはフィルタリングするために有益であることがある。例示的一実施形態では、環境照明の存在などの物理的設定データは、瞳孔径、コントラスト感度などの測定値に直接影響を及ぼすことがある。照明は動画視線追跡、ならびに場面の動画記録から導出されたあらゆる求心性事象の質に影響を及ぼすことがある。同様に、環境音はユーザの感度、ならびに音声記録から導出された求心性事象を特徴付ける機能に影響を及ぼすことがある。
ユーザの個人情報は、ユーザについてのあらゆる個人の大きい人口統計のデータ、またはユーザの現在の生理学的もしくは知覚状態(それらはセッションの間中ほとんど変わらないままである)についての情報に関連してもよい。またこのデータは分類およびフィルタリングに有益であることがある。個人情報は、ユーザの眼の視力(例えばそれらはユーザの眼鏡またはコンタクトレンズの認識から導出される)についてのあらゆる情報を含んでもよい。また個人情報は、直近の食事履歴などの食生活に関連した情報も含んでもよい。さらに最新の睡眠時間の時刻、期間、および質、最近摂取したあらゆる精神活性物質(例えばカフェイン)、ならびに最近の運動または他の身体活動がすべてデータ全体に影響を与えてもよい。
遠心性データ
視線追跡
動画視線追跡および電気眼振検査は、眼球運動、凝視方向、瞬目および瞳孔径についての情報を提供する。転導、疲労、覚醒、反感および視覚検索行為についての情報の測定がこれらから導出される。眼球運動に関連する情報は、プロサッケード運動(標的に向かう)、アンティサッケード運動(意図しない標的に向かう)の開始、継続時間、および型、アンティサッケード誤差の量(時間および意図した標的から意図しない標的への方向)、滑動性追従、固視継続時間を備えた凝視、運動中および固視中の瞳孔の変化、瞬目率の頻度および速度、ならびに眼球運動の頻度および速度を含む。転導に関連する情報は、(開始および継続時間の観点から)輻輳および開散の両方を含んでもよい。情景、精度、検索時間および効率(検索におけるサッケードの回数を最小にする)についての情報と組み合わせることができる。
視線追跡
動画視線追跡および電気眼振検査は、眼球運動、凝視方向、瞬目および瞳孔径についての情報を提供する。転導、疲労、覚醒、反感および視覚検索行為についての情報の測定がこれらから導出される。眼球運動に関連する情報は、プロサッケード運動(標的に向かう)、アンティサッケード運動(意図しない標的に向かう)の開始、継続時間、および型、アンティサッケード誤差の量(時間および意図した標的から意図しない標的への方向)、滑動性追従、固視継続時間を備えた凝視、運動中および固視中の瞳孔の変化、瞬目率の頻度および速度、ならびに眼球運動の頻度および速度を含む。転導に関連する情報は、(開始および継続時間の観点から)輻輳および開散の両方を含んでもよい。情景、精度、検索時間および効率(検索におけるサッケードの回数を最小にする)についての情報と組み合わせることができる。
動画視線追跡データから導出された自律神経測定値は、覚醒および/または反感を増加または低減させるものに向かって刺激選別を導くために使用されてもよい。凝視位置についての要約情報は、関心または取組みを示してもよく、同様に刺激選別を導くために使用されてもよい。
図3を参照すると、遠心性データ源306は動画視線追跡データ312を含んでもよい。データ312は、凝視方向、瞳孔径、瞬目、およびビデオアイトラッカー(VET)または電気眼振計を使用して測定されてもよいユーザ302の眼に関連したあらゆる他のデータを測定してもよい。またこれは、本明細書の例示的一実施形態による視線追跡のための特徴メトリック600を示す、図6にも示されている。動画視線追跡602は、概してユーザの眼(複数可)の画像を記録すること、および瞳孔径および凝視方向の測定値が導出されてもよい公知の光源(通常は赤外線)の瞳孔および特殊な反射を同定するために、画像処理を使用することを伴う。(眼球の凝視方向の)角度分解能および時間的分解能(1秒当たりのフレーム)は、一部の測定の可用性を制限することがある。離散的事象として記録される測定値もあれば、時代にわたる傾向および統計の分析のために時間をかけて記録される測定値もある。
凝視方向
典型的には視線追跡ハードウェアで提供されるソフトウェアは、較正のために使用される表示装置に繋がった座標に凝視方向の較正された見積もりを提供してもよい。この変換の一部は別個に行うことができる/必要があることがある。外部ビューカメラを備えたヘッドマウント設備については、凝視位置は頭部中心座標に、またはその環境において特定オブジェクト(恐らく参照オブジェクトが提供される)に対する座標にあってもよい。凝視方向は、1秒当たり試料内に一定の割合で提供されると想定される。以下のメトリックのほとんどは、凝視方向データ、すなわちサッケード、追従、転導、パターン、および/またはマイクロサッケードのこのストリームから導出される。
典型的には視線追跡ハードウェアで提供されるソフトウェアは、較正のために使用される表示装置に繋がった座標に凝視方向の較正された見積もりを提供してもよい。この変換の一部は別個に行うことができる/必要があることがある。外部ビューカメラを備えたヘッドマウント設備については、凝視位置は頭部中心座標に、またはその環境において特定オブジェクト(恐らく参照オブジェクトが提供される)に対する座標にあってもよい。凝視方向は、1秒当たり試料内に一定の割合で提供されると想定される。以下のメトリックのほとんどは、凝視方向データ、すなわちサッケード、追従、転導、パターン、および/またはマイクロサッケードのこのストリームから導出される。
サッケード:(わずか数ミリ秒間の)凝視の急激な変化によって分離された比較的固定した凝視方向の長引いた期間は、「固視」として、またその間の跳躍を「サッケード」としてログされてもよい。固視は、位置、開始時間および終了時間、ならびに継続時間に留意される。また場合によって、固視は安定性(固視している間の凝視方向の変動性)で評価されてもよい。サッケードはそれらの方向(角度)、速さおよび距離に留意される。視覚情報が(完全に)処理されていないとき、サッケード中に皮質抑制の期間が存在することは注目に値し、概して想定される。このサッケード抑制は、表示要素の中での動き、出現または消失を知覚させることなく、表示装置を変えるために開発者によって活用されてもよい。
追従:追従眼球運動は、凝視方向に通常のサッケードより遅い(視覚処理の皮質抑制なしに)円滑な変化を特徴としてもよい。これらの滑動性眼球運動は、頭部が面する方向に対して動いているオブジェクト、頭部が動いている間に静止したオブジェクト、または頭部も動いている間に動いているオブジェクトを眼が追従/追跡するときに概して起きる。また身体または参照フレームの動きも、オブジェクトを追跡するために追従眼球運動を起こすことができる。追従は、見えないまたはぼやけている標的の予測した位置に基づいて、視覚刺激がないときに起こすことができる。
転導:この測定値は、眼の間の凝視方向の差が凝視に対する深度座標を決定するために使用できるように、両眼に対して同時に比較的細かい解像度の凝視方向を必要とすることがある。転導は、輻輳の近点と無限に遠方に向かう間(そのすべては輻輳と開散との間の転導の測定結果に基づいてモデル化されてもよい)のオブジェクトを測定するために、ユーザから見たオブジェクトの距離に関連する。
パターン:眼球運動の繰り返されるパターンは、眼球の凝視方向データの機械学習分析から導出されてもよく、応答事象、ユーザ相互作用の状態を特徴とするため、または適合、訓練もしくは学習の効果を測定するために使用されてもよい。標的の視覚検索または課題の完了に向かって場面の自由閲覧(例えば記憶課題において遅れた認識に対する場面の詳細の学習)中のパターンが顕著である。また眼球運動パターンは、場面の突起マップを生成するために、画像処理を誘導してモデルを生み出すために使用されてもよい。
マイクロサッケード:比較的高精度の方向および時間分解能で、マイクロサッケードの作用を測定して特徴とすることが可能であることがある。マイクロサッケードは概して固視中に現れ、動かずに、または長期に固視している間は特に興味深い。表示システムに入るフィードバックは、トロクスラー消失をもたらす網膜上に静止したままである画像を生成できることがある。マイクロサッケードは意識的な制御または自覚している意識を対象としない。
一定期間にわたって回答してもよい視線追跡マトリックスに関する質問例は、ユーザはどこを最も見ているか(繰り返す事象に応答する可能性)、サッケードの眼球運動はどの位の速さおよび精度か、ユーザはどの位迅速に標的を見つけるか、ユーザは標的を正しく同定するか、どの位正確に追従/追跡するか、ある特定領域/刺激に対して嗜好性があるかを含んでもよい。
自由閲覧または検索中に、サッケード間の固視(比較的安定した眼球の凝視方向)は通常約200〜300ミリ秒続く。サッケードは、1秒当たり最高500度までの急速な加速を有し、急速な減速で終了する。追従眼球運動は、オブジェクトの動き、もしくはオブジェクトに対する頭部の動き、または両方から、動くオブジェクトを着実に固視するために起きる。転導眼球運動は、オブジェクトの近くに焦点を合わせるように眼を一緒に移動させるために使用される。前庭の眼球運動は、頭部および/または身体運動から導出された補完的眼球運動である。
本明細書と少なくとも一部が共通の発明者の要件を有する、「脳の評価および監視のための非侵襲的方法」の名称の国際公開第2015003097A1号パンフレットを参照する。一例では、プロサッケード視線追跡試験が行われる。プロサッケード試験は、人の凝視が静止オブジェクトから点滅した標的に向かって移動するために必要な時間量を測定する。プロサッケード視線追跡試験は、例えばThe Antisaccade: A Review of Basic Research and Clinical Studies, by S. Everling and B. Fischer, Neuropsychologia Volume 36, Issue 9, 1 September 1998, pages 885−899 (“Everling”)に記載されたように行われてもよい。
プロサッケード試験は、人が視覚刺激の標準化されたセットを提示している間に行われてもよい。一部の実施形態では、プロサッケード試験は、平均結果を獲得するために同じまたは異なる刺激で複数回行われてもよい。プロサッケード試験の結果は、例えばプロサッケード反応時間を含んでもよい。プロサッケード反応時間は、自発的なサッケードの開始の潜伏時間であり、正常な値はおよそ200〜250msに収まる。プロサッケード反応時間は、高速プロサッケード80〜134ms、速い標準135〜175ms、遅い標準180〜399ms、および低速(400〜699ms)の下位グループにさらに分けられてもよい。
同様に、アンティサッケード視線追跡試験が行われてもよい。アンティサッケード試験は、人の凝視が点滅した標的から離れて静止オブジェクトから所望の焦点に向かって移動するために必要な時間量を測定する。アンティサッケード視線追跡試験は、例えばEverlingに説明されたように実施することができる。一部の例では、アンティサッケード試験はエラー時間および/またはエラー距離、すなわち視線が誤った方向に(点滅した標的に向かって)動く時間または距離の量も測定してもよい。アンティサッケード試験は、視覚刺激の標準セットを使用して行われてもよい。アンティサッケード試験の結果は、例えばプロサッケードについて上記のように平均反応時間を含んでもよく、典型的な平均反応時間はおよそ190〜270msの範囲に収まる。他の結果は、眼球運動の初期方向、眼の最終安静位置、最終安静位置までの時間、初期中心窩距離(すなわち中心窩が点滅した標的の方向に動く距離)、中心窩の最後安静位置、および最終中心窩距離(すなわち中心窩が所望の焦点の方向に動く距離)を含んでもよい。
また滑動性追従試験が行われてもよい。滑動性追従試験は、動く視覚刺激を円滑に追跡するための人の能力を評価する。滑動性追従試験は、標的が画面を横切って動く際に人が標的を視覚で追うように求めることによって実施することができる。滑動性追従試験は視覚刺激の標準セットを使用して行ってもよく、平均結果を獲得するために同じまたは異なる刺激で複数回実施してもよい。一部の実施形態では、滑動性追従試験は次第に明るくなる(フェードイン)、次第に暗くなる(フェードアウト)視覚刺激の使用に基づく試験を含んでもよく、この刺激において人が標的を追跡するにつれて、標的はフェードインおよびフェードアウトする。滑動性追従試験中に集められたデータは、例えば初期応答潜伏時間および標的追跡中に動きの方向に沿って中心窩位置を捕捉する試料の数を含んでもよい。試料にされたそれぞれの中心窩の位置は、各試料に対するエラー値を発生するように同時に標的の中心位置と比較されてもよい。
より高精度の追跡ハードウェアについては、眼振(眼の一定の震え)、ドリフト(不完全制御に起因する)およびマイクロサッケード(ドリフトに対する補正)を測定することも可能であることがある。またこれらは凝視位置のグロス測定結果に対するノイズにも寄与し、結果として固視は比較的安定した凝視位置測定にわたる平均位置を特徴とすることが多い。別法として、凝視速度(角度/秒)の閾値を設定することができ、それより下の値ではあらゆる小さい動きが固視内にあると考えられる。
サッケードは計画して実行する時間を必要とし、遅延または潜伏時間は、通常例えばサッケードを引き出す視覚刺激の開始後少なくとも150msである。サッケードおよび延長または短縮してもよい様々な状況の前に、潜伏時間について多くのことが言える。眼球運動および視覚的場面で起きる事象の相対タイミングについての正確な情報を多く有するほど、サッケードにおける刺激パラメータの効果についてより多くのことが言える。
通常相互に関連しているが、注意の移動および凝視は必ずしも一緒に起きない。状況によっては、ユーザがユーザの視界周辺にある点に直接注意を向ける、例えば別の場所を観察しながら1つの場所を監視することが効果的であることがある。これらのシナリオは、視野および複数追跡に関係した測定値を発生するために有益であることがある。
視覚系のモデルに基づいてより大きい突出の場面内の領域を強調するために、画像処理技法を使用することができる。例えばより高い空間周波数コントラストの領域(すなわちエッジおよび線)は、注意および固視を捕捉する傾向がある。何であっても観察者が取り組むことがある課題と組み合わせた視覚的場面で利用可能な情報に基づいて、カスタムの突出マップを開発するために眼球の凝視方向を使用することが特殊な状況内で可能である。このツールは、関心対象の領域またはより大きい取組みを強調するために使用することができる。
瞳孔径
瞳孔径は、凝視方向を導出するために必要な画像処理の一部として測定されてもよい。瞳孔径は、概して光レベルに応答して、また自律神経過程を介してある特定の刺激事象にも応答して変化してもよい。瞳孔応答は、意識的な制御または自覚を対象としない(極端な照明変化の二次的な場合を除く)。一定期間にわたって回答してもよい視線追跡メトリックに関する質問例は、瞳孔は異なる刺激にどのように応答するか、瞳孔は継時的にどのように振る舞うかを含んでもよい。
瞳孔径は、凝視方向を導出するために必要な画像処理の一部として測定されてもよい。瞳孔径は、概して光レベルに応答して、また自律神経過程を介してある特定の刺激事象にも応答して変化してもよい。瞳孔応答は、意識的な制御または自覚を対象としない(極端な照明変化の二次的な場合を除く)。一定期間にわたって回答してもよい視線追跡メトリックに関する質問例は、瞳孔は異なる刺激にどのように応答するか、瞳孔は継時的にどのように振る舞うかを含んでもよい。
瞳孔径は、概して極めて明るいおよび暗いそれぞれで2〜8mmの間に収まる。瞳孔は様々な内部および外部刺激に応答して拡張および収縮する。両方の観察者の間で基線の異なる瞳孔径に起因して、また環境照明および生理学的状態に起因して、瞳孔応答は概して基線から変化する割合として測定されてもよい。例えば基線の瞳孔径は、極端な刺激事象の瞬間(画像が出現する)の直径であってもよく、応答は刺激事象後1秒間に瞳孔が拡張または収縮する程度を測定される。眼色は収縮程度に影響を及ぼすことがあり、また年齢も要因になることがある。
光への応答、距離および他の空間に対する調整および動きの合図に加えて、瞳孔径は認知的負荷、ある特定の画像および読解によって調節されることが多い。瞳孔径は視覚検索の間および終了時に調節されることがある。比例した変化は数パーセント〜数10パーセントの範囲であることが可能である。
応答がなされた場合、コンピュータで決定するための閾値は、状況および使用されるハードウェアの感度に応じて変化する。また環境照明および/または表示装置の平均輝度の変化も瞳孔径および比例した変化に大きく影響を有するので、閾値は適合性が必要であり、データ自体によって決定される傾向がある(例えば事象自体が収縮するための閾値は、1人のユーザに対して1セッション内に記録された瞳孔径値の範囲の百分率である)。
再度本明細書と少なくとも一部が共通の発明者の要件を有する、「脳の評価および監視のための非侵襲的方法」の名称の国際公開第2015003097A1号パンフレットを参照する。一例では、瞳孔応答が評価される。瞳孔応答は人の眼の中に明るい光を照らすこと、およびその応答を評価することによって評価されることが多い。照明の制御が難しい設定場所では、瞳孔応答は、国際情動写真システム(IAPS)規格などの写真の標準化されたセットを使用して評価されてもよい。これらの写真は、瞳孔拡張を含む予想可能な覚醒パターンを引き出すために決定されている。瞳孔応答試験は、照明条件の変化(人の眼の中に光を照らすことを含む)などの種々の刺激、または写真、動画、もしくは他の型の視覚データの提示を使用して行われてもよい。一部の実施形態では、瞳孔試験は、平均結果を獲得するために同じまたは異なる刺激で複数回実施されてもよい。瞳孔応答試験は、人の瞳孔径、瞳孔高さ、および/または瞳孔幅の初期読取りを取り込み、次いで瞳孔応答を引き出すために人に視覚刺激を表すことによって実施されてもよい。瞳孔拡張の変化(例えば直径、高さ、幅および/またはこれらの測定結果の一部もしくはすべてに基づいて算出された面積の変化)、ならびに拡張に必要な時間が測定される。瞳孔応答試験の結果は、例えば拡張(散瞳)結果のセット、収縮(縮瞳)結果のセットを含んでもよく、この場合、各セットは振幅、速度(拡張/収縮の速さ)、瞳孔径、瞳孔高さ、瞳孔幅、および応答発現に対する遅延を含んでもよい。
瞬目
動画視線追跡器、ならびにユーザの顔/眼領域のあまり専門的でない動画撮像は、閉眼の素早さまたは長引いた期間を検出してもよい。取得の損失もデータ損失の期間の原因になることがあるので、事前注意をしてもよい。瞬目事象、意識または反射性、および疲労もしくは焦燥の測定値に関係した時間にわたる瞬目率が記録されてもよい。視線追跡メトリックに関する質問例は、図6に述べられている。実施形態では、これらは一定期間にわたって回答されてもよく、ユーザは刺激の発現に応答して瞬目しているか、瞬目率は刺激に応答して変化しているか、瞬目率は全体に変化しているか、瞬目率は疲労を提言するかを含んでもよい質問である。
動画視線追跡器、ならびにユーザの顔/眼領域のあまり専門的でない動画撮像は、閉眼の素早さまたは長引いた期間を検出してもよい。取得の損失もデータ損失の期間の原因になることがあるので、事前注意をしてもよい。瞬目事象、意識または反射性、および疲労もしくは焦燥の測定値に関係した時間にわたる瞬目率が記録されてもよい。視線追跡メトリックに関する質問例は、図6に述べられている。実施形態では、これらは一定期間にわたって回答されてもよく、ユーザは刺激の発現に応答して瞬目しているか、瞬目率は刺激に応答して変化しているか、瞬目率は全体に変化しているか、瞬目率は疲労を提言するかを含んでもよい質問である。
成人における一般的な瞬目率は安静時に1分当たり約10回の瞬目であり、概して焦点を絞っている間(例えば読解)に1分当たりおよそ3回の瞬目に低減する。瞬目の他の特質、例えば瞼の動きの距離/速さおよび瞬目の様々な段階の継続時間は、非視覚課題(例えば聴覚刺激弁別を使用して)および他の測定における誤差率に関係し、可能なときは常に瞼位置の詳細を分析するために動画記録(すなわち自動瞼追跡)を使用することが好都合であることがある。150msより長い瞬目の継続時間は長い継続時間の瞬目とみなしてもよい。
ほとんどの測定値と同様に、ベースラインから比例した変化は、瞬目の頻度または平均継続時間の絶対測定値より有益であることがある。概して重要度は統計的測定値に基づいて割り当てられ、あらゆる偏差の意味は、その偏差が(例えばt試験を使用して見積もられたような)測定値の一般的な変動より大きい場合に大きい。
手動入力
図3に戻って参照すると、別の遠心性データ源306は手動入力314であってもよい。どれかはコンピュータと相互作用する従来のツールであり、多くの形で入手可能であってもよい。関心対象の例示的手動入力314は、同一性の入力(キーを押した)、あらゆる他の身振り、タッチスクリーン上もしくはマウスによる位置座標(x,y,z)、および/または手もしくは他の四肢の(動画)追跡を含む。図7は、本明細書の一実施形態による手動入力702に対する特徴メトリック700を示す。
図3に戻って参照すると、別の遠心性データ源306は手動入力314であってもよい。どれかはコンピュータと相互作用する従来のツールであり、多くの形で入手可能であってもよい。関心対象の例示的手動入力314は、同一性の入力(キーを押した)、あらゆる他の身振り、タッチスクリーン上もしくはマウスによる位置座標(x,y,z)、および/または手もしくは他の四肢の(動画)追跡を含む。図7は、本明細書の一実施形態による手動入力702に対する特徴メトリック700を示す。
一定期間にわたって回答してもよい手動入力メトリックに関する質問例は、ユーザはどこを最もクリック/タッチしているか(事象の反復に応答する可能性)、クリック/タッチはどの位速く正確か、ユーザはどの位速く標的を見つけるか、ユーザは標的を正しく識別しているか、追跡はどの位正確か、ある特定領域/刺激に対して嗜好性があるか、ユーザはどのような種類の把持/タッチをしているか、手/眼の協調はどのようであるか、仮想刺激に反射行為があるかを含んでもよい。
指、手および/もしくは腕、脚またはユーザの身体のあらゆる他の部分でなされた応答は、概してタイミング、位置、軌道、圧力および分類データを生じることがある。これらの応答は時間内に離散してもよいが、一部の持続したまたは状態の変数が同様に手動データから引き出されてもよい。以下の分析応答メトリックは、分類、同一性、タイミング、位置、および/または軌道を手動応答から導出されてもよい。
分類:クリック、タッチ、ドラッグ、スワイプおよびスクロールのような分類に加えて、ダブルクリック、タップまたはプッシュ、複数の指の入力、その他のような下位分類があってもよい。アプリケーションによって検出可能な分類により1つの行為を別の行為から区別するあらゆる変数は、異なる応答に重要であってもよい(また開発者によりその目的のために使用される傾向がある)。
同一性:複数の入力様式に同じ型の応答事象、最も顕著であるのはコンピュータのキーボード上のキー、またはVR/AR/MxR環境に可能であり得るあらゆる他の身振りがあるときは常に、入力の同一性が記録されてもよい。またこれは、方向パッド上に示された方向、クリックしたマウスボタン、および可能な場合はタッチしたタッチパッドの領域(カーソル位置とは無関係)、またはあらゆる他の身振りも含む。
タイミング:すべての応答の開始時間および終了時間が記録されてもよく(例えばボタン押圧は、ボタン押下事象およびボタン押上事象の両方をログする)、その間の応答から導出することができる。このタイミング情報は、応答を引き出した刺激に応答を連結すること、および時間内に事象を相互に関連付けることが重要になる。
位置:視覚インターフェースに対して、位置は表示座標にあってもよい。位置は、クリック、または追跡、ドラッグ、その他についてのある適切な比率で連続して記録されたような離散事象に対して唯一であってもよい。また可能な場合に、これらは網膜座標に(視線追跡と組み合わせて)変換されてもよい。位置を理解することにより、網膜のトポグラフィが行われてもよく、網膜の領域は、それらの特殊な機能に関連付け、さらに脳、身体、内分泌物、および自律神経系にさらに関連付けてマッピングされてもよい。動画/運動捕捉によって記録された身振りに対して、身体中枢位置はあらゆるカーソルまたはユーザによって制御される他のオブジェクトの場所に沿って記録される。
軌道:スワイプ、スクロールおよび他の動的身振りに対して、その発生を変えるあらゆる明白な位置に加えて、応答の軌道(すなわちベクトルとしての方向および速さ)を記録することが可能であることがある。これは、実際に装置もこれらの行為に対して事象の型を提供するまで、位置データに急速な変化の分析から導出される傾向がある。
頭部追跡
頭部追跡測定値は、大部分が仮想、拡張、および複合現実表示装置と関連する。頭部追跡測定値は、表示された視覚環境と同期する測定値だけでなく、それらの環境へのユーザの反応の測定値も提供することができる。刺激に向かって、または刺激から離れて配向して、表示された視覚環境および他の動きの行為の直線または非直線における代償運動は、類似しているがより不正確な視線追跡からの測定値と同様の測定値を導出するために使用することができる。覚醒、疲労および取組みと関連したそれらの導出された測定値は、前に述べたように修正されてもよい。
頭部追跡測定値は、大部分が仮想、拡張、および複合現実表示装置と関連する。頭部追跡測定値は、表示された視覚環境と同期する測定値だけでなく、それらの環境へのユーザの反応の測定値も提供することができる。刺激に向かって、または刺激から離れて配向して、表示された視覚環境および他の動きの行為の直線または非直線における代償運動は、類似しているがより不正確な視線追跡からの測定値と同様の測定値を導出するために使用することができる。覚醒、疲労および取組みと関連したそれらの導出された測定値は、前に述べたように修正されてもよい。
頭部運動、具体的にはサッケードの頭部運動が不一致およびユーザへの不快感の原因であると判明した場合、そのような頭部運動の数を低減するために表示装置を修正することが望ましいいことがある。表示装置要素を頭部中心付近の領域内に保ち、かつ/または頭部の方向をより遅く変えさせることにより、大部分の頭部運動は低減することがある。個人差については、一部のユーザは、同じシナリオに対して他の人々より頭部を多く動かす。そのようなユーザの動きを低減するために頭部を動かす人々を訓練することができることがある。
図3に戻って参照すると、頭部追跡データ316は遠心性データ306源の別の形であってもよい。頭部追跡データ316はユーザ302の頭部の配向および動画追跡(VETもしくは別の方法)またはHMD、ヘッドセット、もしくは他の着用装置上に配置された位置センサからの物理位置を追跡してもよい。ユーザ302の頭部を追跡することに加えて、ユーザの身体が追跡されてもよい。ユーザ302の身体およびその一部の位置は、動画式のモーションキャプチャまたはウェアラブル装置内の加速度計から記録される傾向があり得る。この位置データは、手動応答データ(指、手もしくは腕の追跡に由来する)、ならびに/または視線測定およびユーザの視覚環境の更新の役に立つために、環境に対する頭部の配向をコード化するために一般に使用されるはずである。また頭部位置データは、環境に由来する音における頭影効果をモデル化するためにも使用されてもよい。図8は、本明細書の一実施形態による頭部配向802および/または物理位置804を含んでもよい、頭部追跡に対する特徴メトリック800を示す。
一定期間にわたって回答してもよい頭部追跡メトリックに関する質問例は、ユーザはどこを最も見ているか(繰り返す事象に応答する可能性)、頭部運動はどの位の速さおよび精度か、どの位正確に追従/追跡しているか、ある特定領域/刺激に対して嗜好性があるか、ユーザはオブジェクトを直接凝視しかつ/または追跡するために頭部および眼球運動を正確に調整しているか、頭部運動はハードウェアに起因して低減しているか、ユーザはハードウェアに多くの調節を行っているか、ユーザはハードウェアによってある程度疲労しているかが含まれてもよい。
頭部運動は、仮想、拡張、および複合現実の分野に特に重要であることがあり、概して課題に依存して眼球運動と相互に関連してもよい。眼球運動を伴う頭部運動に対する傾向には大きな個人差がある。読解のような課題の間、頭部運動は(眼球運動と組み合わせた)凝視の移動の5%〜40%を占める可能性がある。ユーザが一般的に自身の頭部を動かす程度は、視覚と前庭感覚の不一致からの酔いに影響を受ける主要な指標を判明することがある。
サッケードおよび追従頭部運動はそれらの2つの様式で質的に異なる傾向があることがある。例えばユーザが、前方から右に自由に凝視を向けるのではなく、追従運動を使用して身体の正面から身体側部に右に90度オブジェクトを追う場合、不一致は不快になり難いことがある。追従オブジェクトの速度が比較的安定している場合は、不一致はほとんどの動きを通して知覚できないはずである。
図3に戻って参照すると、ユーザ302の声の応答もマイクロフォンを介して追跡されてもよい。発話認識アルゴリズムは、記録された音から意味論的意味を抽出し、応答の時間(潜在的な個々の単語または音節)にマークを付けるはずである。あまり高度ではないシナリオでは、声の応答の強度が、応答の時間にマークを付けるのに十分であることがある。実施形態では、声および発話データは、知覚のレベルを決定するために、これに限定されないが、頭部追跡、視線追跡、手動入力などの他のいくつかの形のデータと相互にk関係付けられる。
電気生理学/自律神経の記録
電気生理学および自律神経の測定値は、大部分が意識的影響および、ひいては機能の分野以外に入る。これらの測定値は大部分が覚醒の状態に関連し、したがって刺激選別を導くために使用されてもよい。ここで便宜上再度指摘すると、関心対象の測定値は、脳波検査(EEG、具体的に覚醒状態に関連した様々な周波数帯の活動)、ガルバニック皮膚反応(GSR、これも覚醒および感情刺激への反応に関連する)、心拍数、呼吸数、血液酸化および骨格筋応答の潜在的測定値に由来するはずである。
電気生理学および自律神経の測定値は、大部分が意識的影響および、ひいては機能の分野以外に入る。これらの測定値は大部分が覚醒の状態に関連し、したがって刺激選別を導くために使用されてもよい。ここで便宜上再度指摘すると、関心対象の測定値は、脳波検査(EEG、具体的に覚醒状態に関連した様々な周波数帯の活動)、ガルバニック皮膚反応(GSR、これも覚醒および感情刺激への反応に関連する)、心拍数、呼吸数、血液酸化および骨格筋応答の潜在的測定値に由来するはずである。
再度本明細書と少なくとも一部が共通の発明者の要件を有する、「脳の評価および監視のための非侵襲的方法」の名称の国際公開第2015003097A1号パンフレットを参照する。一例では、脳波活動はアクティブ脳波試験を行うことによって評価される。アクティブ脳波試験は、EEG(脳波検査)機器を使用し、当技術分野に公知の方法に従って行われてもよい。アクティブ脳波試験は、人に種々の視覚刺激が表わされている間に行われてもよい。一部の実施形態では、アクティブ脳波試験は、アクティブ脳波活動を評価するのに適切な視覚刺激の標準化されたセットを表している間に行われてもよい。一部の実施形態では、アクティブ脳波試験は、平均結果を獲得するために同じまたは異なる刺激を使用して複数回行われてもよい。アクティブ脳波試験の結果は、例えばアルファ波、ベータ波、デルタ波、およびシータ波の時間的かつ空間的測定結果を含んでもよい。一部の実施形態では、アクティブ脳波試験の結果は、2つの型の脳波の割合を含んでもよく、例えば結果はアルファ/シータ波の割合を含んでもよい。
同様に、パッシブ脳波試験が行われてもよい。パッシブ脳波試験は、人が眼を閉じている間、すなわち視覚刺激がない間の脳波データを記録するために、EEG(脳波検査)機器を使用して行われてもよい。パッシブ脳波試験の結果は、例えばアルファ波、ベータ波、デルタ波、およびシータ波の例えば時間的かつ空間的測定結果を含んでもよい。一部の実施形態では、パッシブ脳波試験の結果は、2つの型の脳波の割合を含んでもよく、例えば結果はアルファ/シータ波の割合を含んでもよい。一部の実施形態では、パッシブ脳波試験は、平均結果を獲得するために複数回行われてもよい。
可能であるときに、かつ電位および刺激表示装置/スピーカの両方の正確な時間情報に依拠して、時間平均応答は反復検査から発生することができる。視覚または聴覚処理(事象関連電位、ERP)と関連した特徴波形は、様々なやり方で測定し操作することができる。これらはユーザからの意志的行為を必要としないので、これらはより低いレベルで、ほぼ間違いなく知覚のより純粋な測定値を表す。
図3に戻って参照すると、電気生理学データ318はさらに別の遠心性データ源306であってもよく、遠心性データ源306は、概してkHz程度の比率で記録された電圧電位の形で利用可能であってもよい。これは、皮膚または他の露出した組織(特に眼の角膜)の上に置かれた電極の中で電圧電位の任意の、およびすべての測定を含んでもよい。ほとんどの使用の場合は恐らく非侵襲的に記録するものであるはずであるが、他の医療的に正当な目的のために置かれた埋込型電極からのデータを分析する機会が生じることがある。データは、概して1秒当たり数百または数千の試料の比率で収集されてもよい。分析は波形を発生するために刺激事象への時間ロックされた平均応答、または活動の様々な状態が推測され得る継時的に様々なフィルタリングされたデータの提示のいずれかに焦点を合わせてもよい。例えばEEG(脳波図)は、脳の電気活動および他の神経活動を明らかにするために、頭皮/頭部からの電極記録を集めるために使用されてもよい。記録は一次感覚処理、二次の後の感覚処理、認知処理または応答発生(モータ処理、言語処理)の領域に焦点を合わせてもよい。電気眼振検査(EOG)は、相対眼球位置(凝視方向)に起因する電場電位の変化を測定するために、眼の近くからの電極記録を集めるために利用されてもよく、また網膜機能および筋活動の特質を測定することもできる。EOGは動画視線追跡のための低い空間分解能物質を提供してもよい。網膜電図(ERG)は、網膜から神経活動を捕捉するために(最小の侵襲性で)角膜からの電極記録を集めるために使用されてもよい。刺激の色度および空間的特質との相互関係により、異なる錐体型および網膜上の場所からの応答を特徴付けできることがある(これもEEGを介して記録された視覚誘発電位の場合である)。心電図(ECG)は、心臓機能に対応する神経筋活動を集め、刺激に潜在的に応答する自律神経状態の測定値を提供するために使用されてもよい。神経筋電位の測定は、骨格筋の収縮ならびに/または身体および四肢の運動(筋電図、すなわちEMGを含む)から神経筋活動を記録するためにあらゆる場所に置かれた電極に関与してもよい。ガルバニック皮膚反応(GSR)の測定は、汗および皮膚の他の状態変化に起因する導電変化を受ける皮膚にわたる電位差を測定することができる、電極に関与してもよい。これらの変化は無意識であり、刺激またはシナリオへの自律反応を明らかにしてもよい。
遠心性データ306の別の源は、心拍数、呼吸数、血液酸化、皮膚導電、および電気生理学データ318に対するデータに類似した形のユーザ302からの他の自律神経(無意識)応答についての情報を含む、自律神経監視データ320であってもよい。圧力変換器または他のセンサは、呼吸数についてのデータに中継してもよい。パルスオキシメトリは血液酸素化を測定できる。圧力変換器または他のセンサは血圧も測定できる。任意の、およびすべての無意識の自律神経測定値は、刺激への応答または他のデータの分類のための一般的状態を明らかにしてもよい。図9は、本明細書の一実施形態による電気生理学監視データ902および自律神経監視データ904に対する特徴メトリック900を示す。
一定期間にわたって回答してもよい電気生理学監視データ902および自律神経監視データ904についての質問例は、事象に対する時間平均応答の特徴は何か、様々な周波数帯または他の導出された状態が継時的に、または刺激への応答でどのように変化するかを含んでもよい。
データを収集するためのセンサは、図1Aの状況において上記のハードウェア106の一部であってもよい。一部のセンサ(例えば脳波検査、電気眼振検査、網膜電図検査、心臓血管監視、ガルバニック皮膚反応など)はHMDに一体化することができる。図3に戻って参照すると、一部のデータはユーザ302の身体上の他の場所にセンサを必要としてもよい。非接触センサは(動画であっても)一部の電気生理学データ318および自律神経監視データ320を監視することができることがある。実施形態では、これらのセンサはスマート衣類および他の衣服であることが可能である。ユーザまたはユーザの現状を分類するために、ユーザに対する撮像データを使用することが可能であることがある。また機能的撮像は刺激への無意識の応答についてのデータも提供してもよい。撮像様式には、X線/コンピュータ断層撮影(CT)、磁気共鳴画像(MRI)、眼科撮像、超音波、および脳磁図(MEG)が含まれる。撮像から導出された構造データは、電気生理学データの源を局所化するために使用されてもよい(例えばMRI EEG、およびMEGの1つまたは複数の構造データを組み合わせる)。
メトリックは、これらの刺激/応答特性の対から推測できる直接測定、および直接測定から推測できる間接測定に分割されてもよい。ほとんどの場合、刺激/応答特性の対の個別の発生は、中心傾向および変動性を見積もるために統計的に組み合わされてもよいことを把握するべきである。単一の検査から、特定の記載の複数の反復検査から導出された記述的統計から、またモデル化および予測に対する連続した変数として、刺激および/または応答特性を探索することからのデータに潜在的値がある。
顔パターン認識機械学習
SDEPは、製品のためにカスタマイズされた予測コンポーネントの開発が可能であるために、製品と組み合わせたそのモデルおよび予測コンポーネントを利用してもよい。SDEPの予測コンポーネントは収集工程を通して構築され、その収集工程により、一次源および二次源の両方からの自然主義的または自発的な設定から視覚データの大規模データセットがキュレートされラベル付けされてもよい。データセットは写真、ユーチューブ動画、ツイッチ、インスタグラム、および二次検索を通して、例えばインターネットなどを通じて利用可能である顔データセットを含んでもよい。キュレートされラベル付けされたデータは、さらなる取組みに、また製品のためにカスタムプラットフォームを構築するために利用されてもよい。
SDEPは、製品のためにカスタマイズされた予測コンポーネントの開発が可能であるために、製品と組み合わせたそのモデルおよび予測コンポーネントを利用してもよい。SDEPの予測コンポーネントは収集工程を通して構築され、その収集工程により、一次源および二次源の両方からの自然主義的または自発的な設定から視覚データの大規模データセットがキュレートされラベル付けされてもよい。データセットは写真、ユーチューブ動画、ツイッチ、インスタグラム、および二次検索を通して、例えばインターネットなどを通じて利用可能である顔データセットを含んでもよい。キュレートされラベル付けされたデータは、さらなる取組みに、また製品のためにカスタムプラットフォームを構築するために利用されてもよい。
図10A〜10Dは、キュレートされたデータを構築する画像分析の例示的工程を示す。図はモデルの例示的モバイルベースのタイプを説明する。他の実施形態では、モデルはクラウド上で実行されてもよい。図10Aは被験者の例示的画像を示し、被験者ためにカスタマイズされた予測コンポーネントが開発されてもよい。図10Bは被験者の画像を示し、ここでSDEPは視線追跡、瞬目検出、凝視方向のための眼、および他のパラメータならびに/または顔属性を同定する。実施形態では、眼は、一連の画像を通して、または被験者の動画を通して追跡目的のために連続して同定される。
図10Cは、自然主義的または自発的な設定からの視覚データのデータセット1002を示し、これは視線追跡、瞬目、および凝視方向の観点で顔属性を抽出するために使用されてもよい。実施形態では、SDEPシステムは、フレームが動画から抽出される異なる条件下で大規模データセット1002により訓練される。異なる条件には、とりわけ複雑な顔変化、照明条件、閉鎖、および使用する一般的ハードウェアが含まれてもよい。実施形態では、様々なコンピュータ視覚技法および深層学習がシステムを訓練するために使用される。図10Cおよび10Dを参照すると、画像1004は、被験者の感情を分析するために顔属性を抽出するために選別される。実施形態では、画像1004を含むデータセットからの画像はキュレートされラベル付けされる。
以下のステップは例示的データのキュレートおよびラベル付け工程の要点を説明する。
1.望ましいデータ源を同定する。
2.同時に、動画および静止画像から顔の重点検出を行うためのパイプラインを開発する。これは、顔から眼球領域をセグメント化して選別するために顔の重点の局所化を活用することによって達成されてもよい。さらに重点特性を使用して、下流分析にわたって取り残すように可能な側面として画像の回転、ピッチ、および照明を決定してもよい。顔の表情は感情を分析するために同定されてもよい。また瞬目、眼球運動、およびマイクロサッケードも、検出システムの重点の一部として同定されてもよい。
3.データ源スクレイプが同定され、眼球領域画像の標準化されたセットを獲得するためにSDEPを通して供給されてもよい。最終画像は、ピッチ、回転、および照明の情報が戻す際に利用可能であるように、眼球領域のみを含むようにセグメント化し/切り取られてもよい。
4.上記の処理からの出力は、瞬目、着色、斜視、および製品に対する関心対象の他のメトリックにラベル付けをするために、製品と組み合わされてもよい。
1.望ましいデータ源を同定する。
2.同時に、動画および静止画像から顔の重点検出を行うためのパイプラインを開発する。これは、顔から眼球領域をセグメント化して選別するために顔の重点の局所化を活用することによって達成されてもよい。さらに重点特性を使用して、下流分析にわたって取り残すように可能な側面として画像の回転、ピッチ、および照明を決定してもよい。顔の表情は感情を分析するために同定されてもよい。また瞬目、眼球運動、およびマイクロサッケードも、検出システムの重点の一部として同定されてもよい。
3.データ源スクレイプが同定され、眼球領域画像の標準化されたセットを獲得するためにSDEPを通して供給されてもよい。最終画像は、ピッチ、回転、および照明の情報が戻す際に利用可能であるように、眼球領域のみを含むようにセグメント化し/切り取られてもよい。
4.上記の処理からの出力は、瞬目、着色、斜視、および製品に対する関心対象の他のメトリックにラベル付けをするために、製品と組み合わされてもよい。
上述の収集されてラベル付けされたデータは、眼球領域のカスタム予測モデルを開発するために活用されてもよい。カスタマイズされた機械学習アルゴリズムは、瞬目率、疲労、感情、凝視方向、注意、斜位、輻輳、開散、固視、凝視方向、瞳孔径などに及ぶ主要パラメータを予測するために生成されてもよい。加えて、多様な手法は、デジタル刺激における画素レベル情報から利益を得て眼球応答との関係を連携して学習するために、SDEPを活用してもよい。画素レベル情報は、RGBを既存の視覚モデリング・アルゴリズムで溶融する輝度のRGBに分割されてもよい。
実施形態では、視線追跡パラメータは視線追跡アルゴリズムから抽出される。一実施形態では、顔に対する瞳孔位置は1つの測定値を提供し、その測定値から眼球運動を固視、追従およびサッケードに分類する。一実施形態では、瞳孔径も両眼を独立して測定される。一実施形態では、凝視方向は相対瞳孔位置から見積もられる。凝視位置は、両眼からのデータおよび転導の見積もりを含む他の測定値(すなわち顔と画面の相対位置)を使用して3D空間で測定されてもよい。凝視位置は別の測定値を提供し、その測定値から眼球運動を分類する。
図11Aおよび11Bは、瞳孔位置および瞳孔径ならびに凝視位置を継時的に示す。図11Aは1回目の瞳孔位置および瞳孔径ならびに凝視位置を3Dで1104Aおよび2Dで1110Aに示す一方で、図11Bは2回目の瞳孔位置および瞳孔径ならびに凝視位置を3Dで1104Bおよび2Dで1110Bに示す。一実施形態では、2回目は1回目より後である。画像内のあらゆる所与の点において、1秒(まで)のデータが示され、より古いデータは青などの異なる色で示されている。薄青色の四角は観察者が見ていた表示装置を表す。物理的寸法は一定の縮尺ではない(例えば閲覧距離は左パネルに現れる閲覧距離より大きかった)。左パネル1104Aおよび1104Bは、空間の3D等角図を示し、ユーザの眼1106は左に、表示装置1108は右にある。
左側では、凝視位置が3Dで1104Aおよび1104Bに示されている。観察者の表示装置1108の表面から凝視位置まで線が引かれ、赤は表示装置1108の背後の凝視位置を示し、緑は表示装置1108の正面の凝視位置を示す。3つの円は眼1106についての情報を伝える。
1.最も大きい濃い灰色の外円は、空間において比較的固定した眼および顔の平均位置を表す。
2.内側の薄い灰色の外形は、顔に対する平均瞳孔径および瞳孔位置(動くが径は変わらない)を表す。
3.黒で塗られた円は、相対瞳孔径ならびに顔に対する瞳孔位置(動き径が変わる)を示す。
1.最も大きい濃い灰色の外円は、空間において比較的固定した眼および顔の平均位置を表す。
2.内側の薄い灰色の外形は、顔に対する平均瞳孔径および瞳孔位置(動くが径は変わらない)を表す。
3.黒で塗られた円は、相対瞳孔径ならびに顔に対する瞳孔位置(動き径が変わる)を示す。
瞳孔情報が見つからないときは、眼を閉じている(または別法として不明瞭である)と想定してもよい。
3Dの1104Aおよび1104Bの凝視位置は黒いドット(黒線によって連結されている)によって示されており、凝視方向は両眼から出る。表示装置からの凝視の奥行は、表示装置から現在の凝視位置に緑線(正面)または赤線(背後)によってさらに示されている。
右側では、凝視位置1110Aおよび1110Bが2Dで示されている。ここでは瞳孔についての情報はない。また眼球運動を分類する情報が追加されている。
1.黒は、その間に灰色の外形が大きくなる固視を示し、固視の相対的な継続時間を示す。
2.青は追従を示す。
3.緑(連結線を備える)はサッケードを示し、サッケード中に線が点を連結する。
1.黒は、その間に灰色の外形が大きくなる固視を示し、固視の相対的な継続時間を示す。
2.青は追従を示す。
3.緑(連結線を備える)はサッケードを示し、サッケード中に線が点を連結する。
ブレイン・マシン・インターフェース
ブレイン・マシン(コンピュータ)インターフェース(BMI/BCI)の標準化全体が、脳とインターフェースで接続する複数の知覚の相互運用性、結合性、およびモジュール性を標準化することを必要とし、多くは閉ループである。本明細書の実施形態は、閉ループの兆候の電流制限を前提として、これらの要件の標準化を支援する交換プラットフォームを提供する。
ブレイン・マシン(コンピュータ)インターフェース(BMI/BCI)の標準化全体が、脳とインターフェースで接続する複数の知覚の相互運用性、結合性、およびモジュール性を標準化することを必要とし、多くは閉ループである。本明細書の実施形態は、閉ループの兆候の電流制限を前提として、これらの要件の標準化を支援する交換プラットフォームを提供する。
加えてVR/AR/MxRに対する電流測定値および評価システムは、実際は定性的である。本明細書の実施形態は、VR/AR/MxR環境におけるユーザ経験の質を向上させるために定性的測定の確立を助ける。この標準化は、これらのHMDが非臨床的設定に益々行き渡ってきているので必要である。
現在のBMI/BCIインターフェースは、これに限定されないが、EEG、MRI、EOG、MEG、fMRI、超音波、およびマイクロ波を含み、実際はモジュール式である。これらの異なる電位のインターフェースの中で、臨床および非臨床状況における分割は、インターフェースの移植性に一部が限定され、非臨床状況は伝統的により移植性が多い。視覚データは、結合性および相互運用性の異なる手段に対してSDEP内で学習され利用されてもよく、これは、これに限定されないが、MRI、MEGなどを含むBMI/BCIインターフェース内に含まれるより大きい機器に置き換えられる。
本明細書の実施形態は、HMDを作成するハードウェア・コンポーネント、およびAR/VR環境で使用されるアプリケーションに必要なソフトウェアの両方を標準化するために利用されてもよい、例示的使用事例を説明する。
ハードウェア・コンポーネントを参照すると、HMDの特性は標準化に重要であることがある。例えばHMD装置は、データに関係する視覚を捕捉し、前に不可能だったやり方で情報を集めるために、様々なパラメータを抽出するのに非常に適したカメラに組み込まれている。これは、他の連携されたセンサからの状況情報およびデータと組み合わせてデータを研究し、BMI/BCIシステムに知覚コンピューティングを入れるために独自の機会を提供してもよい。カメラの最小の指定を画定するには、知覚コンピューティングに対してこの型のデータ捕捉を達成する必要があることがある。
VR/AR/MxR環境に刺激を表示するソフトウェアコンポーネントを参照すると、本明細書の実施形態は、焦点位置、密集、感染、調節性不一致、長期の輻輳および開散、色輝度、フレームレート、シーケーシング、および他の要因を認識するためのシステムおよび方法を提供する。それらを無視することにより、映像酔い、頭痛および/またはコンピュータ視覚症候群に対する複数点が生じることがある。実際にソフトウェアの開発者の設計方法に最良のデータ収集およびパターン認識を確立するために定量化法が必要であり、本明細書の実施形態の一部である。
HMDは、中心窩および周囲視覚の変化のために視覚と前庭刺激との間に矛盾を提供する。またHMD画像は着用者の頭部運動で動かない。本明細書の実施形態は、捻じれた眼球運動、転導眼球運動、凝視検出および非侵襲的方法でネイティブ視線追跡によって捕捉されたデータからの瞳孔応答を測定できることがある。最小フレームレートおよび瞳孔捕捉のようなデータに対するデータ捕捉は、したがって様々な実施形態によりSDEPに対して標準化されてもよい。
上の実施形態の一部として構築されたSDEPは、HMD、携帯電話、様々な視線追跡器、画像および動画源などの異なる源からのデータ摂取モジュール、fMRI、X線などの従来の撮像システム、ならびにEEG、EOGなどからのデータを含んでもよい。
機械学習モジュールは、バッチおよびリアルタイムモードでデータを処理し、APIが複数のアプリケーションと一体化しインターフェースで接続することができるように、APIとしてデータを露出してもよい。機械学習システムは、あらゆる画像または動画源から瞳孔メトリック、瞬目検出および凝視を正確に検出するために深層畳み込みニューラルネットワークを使用してもよい。次いで他の機械学習コンポーネントは、このデータをEEG、EOG、EMG、頭部運動データ、触覚データなどの知覚データ入力と相互に関係させ、人の視覚の包括的な知覚モデルを構築してもよい。
視覚機能指数
メトリックの重要な階級は、機能についてのメトリックであってもよい。ユーザの機能は視覚機能指数(VPI)の形で決定されてもよく、VPIは後に本明細書の実施形態に詳細に説明される。
メトリックの重要な階級は、機能についてのメトリックであってもよい。ユーザの機能は視覚機能指数(VPI)の形で決定されてもよく、VPIは後に本明細書の実施形態に詳細に説明される。
図1Aに戻って参照すると、一実施形態では、メディアシステム104などによりユーザ102から収集されたデータは、ユーザ102(図12の1210も指す)に視覚機能指数(VPI)を同定するために処理されてもよい。VPIはユーザ102がVR/AR/MxRシステム104と相互作用する間に評価されたユーザ102の視覚機能のレベルを示してもよい。VPIは、類似のVPIを有するユーザ102にユーザの群を同定するために使用されてもよい。VPIは、映像酔い(VIMS)または仮想経験から起きるあらゆる他の不快感を最小にするために、ユーザ102のためにVR/AR/MxRメディアを修正するためにさらに利用されてもよい。一実施形態では、メディアはユーザ102のためにリアルタイムで修正される。別の実施形態では、VPIは保存され、類似のVPIをもつ後続のユーザまたはユーザ102に続いてVR/AR/MxRメディアの表示を修正するために使用される。
VPIは様々なやり方で測定され操作されてもよい。概して目標は、ユーザの視覚機能を向上させることであってもよいが、操作も課題(例えば取組みのため)を増加することを目的としてもよく、これは少なくとも一時的に機能を低減することがある。代替実施形態では、視覚に関係した機能指数以外または視覚に関連した指数に加えて、機能指数が測定され操作されてもよい。例えば設計、取組み、および同種のものなどの他の領域は、機能指数を通して測定され操作されてもよい。
再度図12を参照すると、データ分析鎖の例示的概要が示されている。データ分析は1202の最下部で始まり、ここでデータレベルはそれ以上簡略化されなくてもよい。1202では、単一刺激のパラメータは、刺激の直接的特性に対応する異なる独立変数に基づいて、複数の測定値に使用することができる。単一応答のパラメータは、異なる従属変数に基づいて、複数の測定値に使用することができる。1204では、独立変数および従属変数は、ユーザの視覚機能の測定値を抽出するために対にされ、または他と組み合わせてユーザの視覚機能の測定値を発生するためにモデルに適合されてもよい。実施形態では、対にすることは、1つまたは複数の刺激事象への応答事象を相互関係または他の統計的/非統計的方法を通して組み合わせるものであってもよい。個々の対は1206で到着するためにフィルタリングされてもよく、1206では所与の型の相互作用に対して、独立変数および従属変数の多くの対は、モデル分布のパラメータを見積もり、または記述的統計を見積もるいずれかのために使用することができる。実施形態では、モデル分布は、測定値が特定値になる頻度の見込みである。場合によっては、「釣鐘曲線」の古典的な形状を有する一般的な分布が使用されてもよい。一旦記述的統計またはモデル適合の工程が完了すると、1208でユーザの視覚の特性の物理的測定の個々の見積もりが発生されてもよい。個々のユーザの見積もりは、単一の相互作用または複数の相互作用からの集約尺度に基づいてもよい。少なくとも1つの物理特質の測定値は、1210でVPIのサブコンポーネントに寄与するために正規化されてもよい。1212で、複数のVPIのサブコンポーネントの点数は、コンポーネントの点数を発生するために組み合わされてもよい(例えば平均される)。実施形態では、コンポーネントの点数はVPI全体を発生するためにさらに組み合わされてもよい。VPI、そのサブコンポーネント、およびコンポーネントは、本明細書の後続の章により詳細に検討される。
実施形態では、視覚機能の測定値はユーザに対する絶対的ではないが、相対的意味をもつ標準化された「点数」として表わされてもよい。またこれは図12の状況において1210および1212で示されている。ユーザは一般集団またはその特定の一部に対する機能のユーザのレベルを判断できることがある。特殊化されていないハードウェア(すなわち制御された実験設定以外で使用される携帯機器)から記録するデータに関連した測定ノイズの推定高度に起因して、遠心現象(例えば瞳孔径、凝視方向、瞬目方向)および求心パラメータ(例えば表示装置色輝度、閲覧距離、音声強度)の正確な測定値は入手不可能である。したがって各測定値に対して「典型的な」範囲を画定し、それらの測定値の増減に対して合理的な目標を設定するために、すべてのユーザの蓄積されたデータから中心傾向(すなわち平均)および変動性(すなわち標準偏差)の見積りに依拠するように求められることがある。
点数は、各型の測定値に対して、種々の型の各課題に対して、および概して各独自のシナリオまたは状況に対して、独立して標準化されてもよい。これにより、異なる単位で、異なる刺激に対して、かつ異なる種類のユーザ応答から取り込まれた測定値にわたって比較および平均かが容易に可能になることがある。加えて任意のおよびすべての点数に対して、機能は平均をわずかにまたは著しく超えるまたは満たないと分類されてもよい。設定の記述的基準は百分率数に基づいて決定されてもよい(所与の測定値は一般集団の間で通常分布されると想定する)。以下のセッションにおける例は10%および90%を使用するが、百分率数は任意に選別されてもよく、特殊な状況に対して修正することができる。ユーザの点数10%は点数の底部または上部10%に収まり、したがって「異常に」低い、または高いそれぞれに想定されてもよい。
一実施形態では、VPIは1つまたは複数の以下のパラメータおよびサブパラメータの組合せであってもよく、これは実際に求心性および遠心性の両方であってもよい。直接測定は、概して単一刺激特徴への単一応答特徴に関係する。可能なときは常に、心理測定関数は、刺激特質値が変化する際に応答パターン(平均応答、応答の可能性、または応答の分類の割合)から構築されてもよい。直接測定は、以下のもの、すなわち方向、弁別、応答時間、および/または誤差を含んでもよい。
間接測定は、直接測定のより高いレベルの解釈および/または直接測定の組合せであってもよい。またこれらは、概して特殊な状況内または特殊な状況にわたる直接測定の弁別、ならびに変数間の相互作用も含んでもよい。間接測定は、以下のもの、すなわち複数追跡、疲労/持久力、順応/学習、嗜好、記憶、および/または状態が含まれてもよい。
実施形態では、他の視覚に関するパラメータを使用してVPIを算出してもよく、これに限定されないが、視野(F)、精度(A)、複数追跡(M)、持久力(E)、および/または検出/弁別(D)、合わせて略してFAMEDを含んでもよく、以下により詳細に説明される。
視野(F)
図1Aに戻って参照すると、視野(F)はあらゆる所与の瞬間にユーザ102が見る視覚世界の範囲として説明されてもよい。中心視覚はユーザ102の視野の中心部を表し、ここではユーザ102は読解のようなことに重要な最高の明瞭度を有する。周囲視覚はユーザ102の視野の外部であり、これは将来の行為を導き、ユーザ102の焦点の外側の重要な事象を獲得するために重要である。
図1Aに戻って参照すると、視野(F)はあらゆる所与の瞬間にユーザ102が見る視覚世界の範囲として説明されてもよい。中心視覚はユーザ102の視野の中心部を表し、ここではユーザ102は読解のようなことに重要な最高の明瞭度を有する。周囲視覚はユーザ102の視野の外部であり、これは将来の行為を導き、ユーザ102の焦点の外側の重要な事象を獲得するために重要である。
視野は、精度および検出の測定値に基づいてユーザの中心または周辺視野にある刺激と相互作用するときに、ユーザの相対機能を測定する。機能は概して視覚の偏心が増加するにつれて、ほとんどの刺激特性への感度が低減することに起因して、周辺では悪化するべきであると想定される。中心および周辺刺激との機能の割合は、一般集団の中で何らかの平均および標準偏差を有し、他の測定値と同様に、正規化された点数は、ユーザが異常に低いまたは高い視野能力を有するかどうかを決定するために使用される。
ユーザの視野の点数が異常に低い場合は、周辺に現れた刺激に対する精度および検出の点数を増加することによって改善されることがある。これは、概してタイミングおよび位置の一貫性を増加し、(オブジェクトの間および内部の)色度および輝度の差を増加し、周辺に現れたときにあらゆる動く標的を遅くすることを伴うはずである。
精度(A)
図1Aに戻って参照すると、精度(A)は、正しい選択をすることと、ユーザ102によって行われる行為に正確であることの組合せであってもよい。精度の測定は2つのサブコンポーネント、すなわち反応と標的化に分けられてもよい。反応は、情報が入る際に処理し作用するために掛かる時間に関係する。反応は、VR/AR/MxR経験の間に、速やかに応答するユーザ102の能力を指すことがある。反応は、決定するために十分な情報が刺激内で利用可能である(すなわち刺激の出現)時点と、ユーザの応答が記録される時との間の期間として測定されてもよい。速やかな応答については、これは通常1秒未満である。
図1Aに戻って参照すると、精度(A)は、正しい選択をすることと、ユーザ102によって行われる行為に正確であることの組合せであってもよい。精度の測定は2つのサブコンポーネント、すなわち反応と標的化に分けられてもよい。反応は、情報が入る際に処理し作用するために掛かる時間に関係する。反応は、VR/AR/MxR経験の間に、速やかに応答するユーザ102の能力を指すことがある。反応は、決定するために十分な情報が刺激内で利用可能である(すなわち刺激の出現)時点と、ユーザの応答が記録される時との間の期間として測定されてもよい。速やかな応答については、これは通常1秒未満である。
ユーザの応答が異常に低い(異常に低い点数)である場合、課題が非常に難しく、標的化および検出の文脈において後に論じる刺激パラメータの修正を必要とすることがある。一実施形態では、あらゆる所与の測定に対するモデル分布(例えば反応時間に対する対数正規分布)が見積もられる。切り捨ては見積もりから決定されてもよく、見積もりより5%(またはあらゆる他の百分率)上に最も遅い期間が見つかった。切り捨て以上の反応時間のあらゆる入力測定値は、「遅い」(または「著しく遅い」)とみなされる。しかし反応のみが異常に遅い場合、他の点数が正常であるときは課題の取組みが乏しい、または注意散漫の兆しであることがある。同時に現れた項目の数を低減する、または注意を保持するために追加の適合合図を加える(例えば視覚刺激の出現を添えるために音を加える)ことが有益であることがある。ユーザが動くオブジェクトの場所に応答するように求められる場合、ユーザは軌道を見積もり、阻止する応答を計画するために長引かせることを求めることがあり、標的を遅くすることにより反応を改善することがある。
応答時間は関連した測定値の検出に重要であることがあるが、刺激へのあらゆる応答に関連する。応答時間は、概して刺激事象とその事象に対する応答との間の期間である。応答時間は、情報を処理するために脳に必要な時間を測定するために使用されてもよい。一例として、表示装置上にパターンが出現することにより、ERGによって測定可能な網膜からある特定のパターンの応答が起きることがある。刺激処理が平均ERG波形から明らかになった後のある時点で、その同じ刺激の処理は、後頭部から記録された平均視覚誘発電位(VEP)波形内で明らかになる。その後のある時点で、ユーザからのボタン押し応答までの平均時間は、刺激がモータ応答を発生する点まで完全に処理されたことを示す。複数の時間スタンプが刺激および応答事象によって発生されてもよいが、応答時間は、概して適切な応答を選別するのに必要な刺激の最も早い検出可能な変化から、応答が選別された最も早い表示までの間の時間として取り込まれるべきである。例えばオブジェクトが表示装置上のある重点に向かって直線で動き始める場合、特定方向への動きのその初期ビットで、ユーザはオブジェクトが行き着く場所を知るのに十分であることがある。ユーザはオブジェクトがそこに着くのを待つ必要はない。同様にクリックされるべき標的に向かうマウスカーソル(またはVR/AR/MxR環境において許容されるあらゆる他の身振り)の動き始めで、クリック事象が実際に起きるかなり前に応答が選別されたことを示すことがある。
実施形態では、改善、減衰および通常移動を含む応答のパターンにおける他の変化は、知覚適合、知覚学習および訓練(学習の高い順)の結果として起きることがある。ユーザによる適合および学習を考慮すると、説明できる応答のあらゆる変動を占めることができ、それによって統計的ノイズの測定値が低減し、推理力が向上する。
また応答のパターンおよびその変化は、システム内の高い順の工程に関係することがある。ユーザは、ユーザが課題を行っている間に課題をどのように実行するかについての方針を変える傾向が時としてある。したがって実施形態では、ユーザがなしたあらゆる選択は、視覚処理のモデルを知らせるかどうかに関わらず嗜好に対して分析される。
実施形態では、応答は、ユーザによる想起または認識を測定するためにシステムによって使用される。想起は、以前に記録した情報の正確な発生である。認識は、以前に記録された情報と新しい情報との間の正しい差別化である。
継時的に特定の状況における測定から導出され、記憶の想起および認識ならびに記憶容量の測定を行うことができる。これらは概して機能分類下に収められてもよく、ユーザは標的とした練習で記憶機能を向上させてもよい。想起および認識は、刺激の中で意味類似性によって向上することが多い。記憶範囲は、同様に項目を互いに関連付けるために学習によって向上することがある。また項目を覚えなければならない期間は、記憶課題の機能を変えるために操作されてもよい。また記憶期間の間に課題から気をそらす、または課題がなくなることも、機能に非常に影響を与えることがある。
長期記憶については、特定の項目およびより一般的にもどちらにも記憶および回収を高めるための練習があることがある。またある特定の物理的相互作用の状況内の筋肉記憶に関連した測定値を導出することも可能であることがある。また知覚適合および知覚学習も、測定および操作の対象である。
標的化は、ユーザの行為における時間および位置の正確さの測定に関係する。図1Aに戻って参照すると、標的化は、VEにおけるオブジェクトの位置に対するユーザ102の応答の正確さに関係することがある。標的化は、刺激に関するユーザの応答と最適値との間の誤差として測定される。応答はクリック、タッチ、身振り、眼球運動、瞳孔応答、瞬目、頭部運動、身体/四肢の運動、またはあらゆる他のものであることが可能である。ユーザが時間内に正確に何らかの事象(反応測定を導く、その事象に応答する行為とは対照的に)に応答すると予想される場合、ユーザの応答は速過ぎるか、または遅過ぎることがある。ユーザの応答の正確さにおけるばらつきは、標的化時間の誤差測定値(通常は約1秒以下)を産出する。加えてユーザの応答の位置は、一定のバイアス(平均誤差)および/または画面上の画素もしくは何らかの他の物理的単位の距離で測定されたばらつきのレベル(誤差の標準偏差)のいずれかを有してもよい。
実施形態では、システムは、理想的または最適な応答からユーザによってなされた誤った選択および偏向を含む、ユーザの誤りに関係するデータを分析する。最も一般的にはこれらは刺激の誤認、不適切な時に応答すること(偽肯定応答)、適切な時に応答し損なうこと(偽否定)、および応答のタイミングまたは位置の誤りであることがある。
ユーザの標的化の点数が異常に低い場合、標的が小さ過ぎる、または場所のばらつきが大き過ぎることがある。応答のタイミングについては、事象のタイミングがより一致していると、同期応答がより容易になる。これは再発するリズムまたは標的事象の前に何らかの定刻に起きる合図の形であってもよい。位置については、誤りは標的の可能な場所を限定する、または動く標的の場合、より遅い速度を使用することによって低減することができる。具体的にはタッチインターフェースまたは応答自体が標的を曖昧にさせることがある(すなわち指が表示装置を覆っている)他の状況については、標的層をより大きくすることにより標的化の点数を上げることがある。
複数追跡(M)
複数追跡(M)は、概してユーザが複数応答を同時にする、かつ/または複数の同時刺激に応答する場合を指す。また複数追跡(M)は、ユーザが2つ以上の同時に起きる課題を行っており、周辺で起きる刺激事象に応答する(恐らく注意が他の場所に焦点を合わせている)場合も含む。周辺検出(偏心の関数としての検出)の測定値と分割的注意の状況での他の機能測定値の組合せが含まれてもよい。
複数追跡(M)は、概してユーザが複数応答を同時にする、かつ/または複数の同時刺激に応答する場合を指す。また複数追跡(M)は、ユーザが2つ以上の同時に起きる課題を行っており、周辺で起きる刺激事象に応答する(恐らく注意が他の場所に焦点を合わせている)場合も含む。周辺検出(偏心の関数としての検出)の測定値と分割的注意の状況での他の機能測定値の組合せが含まれてもよい。
複数追跡(M)は、同時に複数のオブジェクトを検知するユーザの能力を表すことがある。注意分割課題は、複数のことが1度に起きる際にユーザに行為を求めることがある。複数追跡は、焦点的または分割的注意の状況で現れた刺激と相互作用するときに、ユーザの相対性能を測定する。焦点的注意では、ユーザは、概して場面の一部または限定された数のオブジェクトもしくは特性に注意を払う必要がある。分割的注意を求める状況では、ユーザは複数の領域を監視しなければならず、用心にもかかわらず重要な事象を逃す危険を冒す。視野と同様に、精度および検出の測定が、異なる複数追跡の状況でのユーザの機能を決定するために使用される。
ユーザの複数追跡の点数が異常に低い場合、ユーザは分割的注意を求める課題を行う能力が劣っている、または焦点的注意を求める課題が並外れて優れていることを示すことがある。したがって分割的注意課題をより簡単にする、または焦点的注意課題をより難しくすることにより、複数追跡の点数を上げることがある。分割的注意の状況において、ユーザが監視する必要があるオブジェクトまたは領域の数を低減することにより、知覚荷重を低減することが助けとなることがある。また継続時間(オブジェクトの持続)を増加させ、分割的注意の速度を遅くすることも点数を上げることがある。
疲労/持久力(E)
機能測定値は、疲労に起因して継時的に悪くなることがある。これは感度(検出)、正しい弁別の低減、応答時間の増加、および誤差の率または大きさが悪くなることで明らかになることがある。疲労の率(継時的な変化)および疲労の大きさ(機能測定値の最大低減)は、任意のおよびすべての測定値に対して追跡されてもよい。疲労が発現する前の遅延、ならびに休憩または行動の変更での回復率は、持久力を特徴とすることがある。
機能測定値は、疲労に起因して継時的に悪くなることがある。これは感度(検出)、正しい弁別の低減、応答時間の増加、および誤差の率または大きさが悪くなることで明らかになることがある。疲労の率(継時的な変化)および疲労の大きさ(機能測定値の最大低減)は、任意のおよびすべての測定値に対して追跡されてもよい。疲労が発現する前の遅延、ならびに休憩または行動の変更での回復率は、持久力を特徴とすることがある。
持久力(E)は、継時的に高いレベルの機能を維持するためのユーザの能力に関係することがある。持久力測定値は、継時的な精度および検出の点数の傾向に関係する。持久力に対する2つの測定値は、疲労および回復である。
疲労は、ある期間内に機能が低減する量の測定値である。疲労は、ユーザの機能が減少率および機能が劣る程度の測定値とともに減少し始める点である。疲労の基本測定値は、期間の後半の、前半と比べた点数の比率に基づいてもよい。十分に長い期間を与えると、点数は、ユーザが疲れ果て、したがって比率が1未満になると、継時的に低減すると想定される。比率1は疲労していないことを指すことがあり、1を超す比率は学習または訓練の効果が疲労を伴わずに機能を向上させていることを提案することがある。ユーザの疲労の点数が異常に低い場合は、ユーザは、ユーザが課題に取り組む途切れない時間の長さを減らしたいと思っていることがある。より長くかつ/またはより頻繁に中断することにより、疲労の点数が上がることがある。概して課題の難度を低減することも同様に助けになるはずである。
回復は、間隔を置いて想定された期間の休憩を伴う期間の間に基線レベルに戻る機能の測定である。回復は最適な機能に戻すためにユーザに効果的に提供される中断を使用することに関係する。最近実施されている回復の基本測定は、2つの期間の第1の期間の後半の、第2の期間の前半に対する点数の比率を比べることである。期間は、期間の間に少しの休憩を取ったユーザの意図で選別されてもよい。何らかの疲労が確実に生じるように十分に長い期間を与えると、点数は、休憩前が休憩後に比べてより低く、したがって比率が1未満になると想定される。比率1は休憩を取る効果がないことを示し、1を超す比率は中断後の取組みにおける低減、または中断にわたって、および中断にもかかわらず疲労が存在することを示すことがある。
ユーザの回復の点数が異常に低い場合、ユーザはより長い中断を望んでいることがある。ユーザは、測定可能な回復が存在するために、充分な疲労を経験していない可能性がある。ユーザにより長く取り組ませることで、連続した期間に回復の点数が上がることがある。同様に課題の難度を上げることにより、より大きい疲労を生じ、回復により多くの余地をもたらすことがある。
検出/弁別(D)
検出/弁別(D)は、オブジェクトの存在を検出し、または複数のオブジェクトの中で差別化するユーザの能力を指すことがある。このパラメータは、オブジェクトの様々な属性に対するユーザの感度に依存することがある。応答事象が刺激事象の認知の信号を送るときは常に、ユーザが刺激を検知したと決定されてもよい。恐らく全く認知のレベルではない無意識の処理も、電気生理学または他の応答から明らかになることがある。検出は、刺激の場所に応答することにより、またはその刺激の存在と合致する応答の分類(例えば刺激の何らかの物理的側面を正しく同定すること)によって明らかにすることができる。検出に必要な刺激特性パラメータ/値の大きさは、ユーザの検知閾値を画定してもよい。刺激のあらゆる特性は検出のために使用されると推測されてもよいが、その特性が刺激を実質的に画定する唯一の特徴であった場合、またはその刺激特性は、ユーザが刺激に応答したことがある広範囲の刺激に現れる場合、もっぱら特性への検出の結果であると考えることができるに過ぎない。
検出/弁別(D)は、オブジェクトの存在を検出し、または複数のオブジェクトの中で差別化するユーザの能力を指すことがある。このパラメータは、オブジェクトの様々な属性に対するユーザの感度に依存することがある。応答事象が刺激事象の認知の信号を送るときは常に、ユーザが刺激を検知したと決定されてもよい。恐らく全く認知のレベルではない無意識の処理も、電気生理学または他の応答から明らかになることがある。検出は、刺激の場所に応答することにより、またはその刺激の存在と合致する応答の分類(例えば刺激の何らかの物理的側面を正しく同定すること)によって明らかにすることができる。検出に必要な刺激特性パラメータ/値の大きさは、ユーザの検知閾値を画定してもよい。刺激のあらゆる特性は検出のために使用されると推測されてもよいが、その特性が刺激を実質的に画定する唯一の特徴であった場合、またはその刺激特性は、ユーザが刺激に応答したことがある広範囲の刺激に現れる場合、もっぱら特性への検出の結果であると考えることができるに過ぎない。
ユーザが刺激特性パラメータ/値を正しく同定する、または1つもしくは複数の刺激特性に基づいて複数の代替案の間で何らかの選択をするときは常に、その相互作用は弁別の測定値に向けて寄与してもよい。多くの場合、関心対象の測定値は、2つのものが異なるとユーザがわかる前に、必要とされる2つのものがどのように違うかであってもよい(弁別閾値)。弁別測定値はある特定の特性への感度に対する閾値を示すことがあるが、弁別測定値は分類境界(例えば2つの名前付き色の間の境界)を同定するために使用されてもよい。決定測定値と違い、弁別測定値は、必ずしも応答が正しいか/誤っているかに基づく必要はない。弁別測定値は、被験者の能力の代わりに経験を示すことがある。
決定/弁別の測定値は、刺激の最小の特性に基づいた色(色輝度)、コントラスト(色輝度コントラスト)、および明瞭度測定値を検出することおよび/または弁別することに関係する3つのサブコンポーネントの測定値に分割されてもよい。手動または声の応答からの遠心性測定値と組み合わせたこれらの求心性特性、視線追跡測定値(プロサッケードの開始、アンティサッケードの低減、固視の持続および瞬目応答の低減)、凝視方向、瞳孔径、瞬目、頭部追跡測定値、電気生理学および/または自律神経の記録された測定値、顔パターン認識および機械学習などからの測定値は、感度を決定するために使用される。すべての測定値は、わずかに見える刺激を検出する、またはほぼ同一の刺激を弁別するユーザの能力に基づいてもよい。これらの測定値は、それらの特性の違い(検出されたオブジェクトとそれらの周囲との間、または弁別されたオブジェクトの間)に基づいて異なるサブコンポーネントに繋げられる。刺激オブジェクトは2つ以上の特性に差があり、したがって1度に2つ以上のサブコンポーネントの測定に寄与することができる。
色差は、具体的には色度および/または輝度を指してもよい。ユーザの色の点数が異常に低い場合、課題は色差を増加することでより容易にすることができる。特殊な色の欠如は、色差の特殊な方向に対する色の点数を低くすることがある。より広範囲の色彩を使用することにより、概して特殊な欠如の影響をより小さくし、点数を安定することが可能になる。
コントラストは、コントラストが一部の視覚的に画定された領域内の色度および/または輝度のばらつきを指すのに対して、この状況の色に関する測定値は平均色度および輝度を指すという点で、色と異なる。ユーザのコントラストの点数が異常に低い場合、点数は示されるコントラストの範囲を増加させることによって上がることがある。コントラストの感度は空間周波数によって変わるので、空間周波数を増加または低減する(それぞれはパターンをより細かくまたは粗くさせる)ことでも助けになることがある。また色の点数を上げる操作は、概してコントラストの点数も上げる。
特性が最小のユーザから導出した明瞭度測定値は、刺激を検出して弁別するために使用することができる。また明瞭度測定値は、空間周波数は明瞭度の測定値に対しても関連した物理的特性であるという点でコントラストに関係する。ユーザの明瞭度の点数が異常に低い場合、オブジェクトが概して小さ過ぎ、全体を拡大するべきであることがある。また大きさの差を増加する、コントラストを増加する、また空間周波数を低減することも助けになることがある。色またはコントラストより明瞭度ではさらに、動く刺激の速度が要因である可能性があり、標的をゆっくりと動かすことにより明瞭度の点数を上げる助けになることがある。
上記のパターンはすべて測定する特性に基づく。実施形態では、それらのパターンは継時的に書き込まれる。傾向およびパターンは予測分析を可能にし、またエンドユーザの検出能力および他のVPI/FAMED能力に基づいてユーザの経験を個人向けにする助けになることがある。
存在する非常に多くの一般的状態は、検討した直接測定値から推測されてもよい。状態はセッション毎に1回、ある特定の期間の間または継続的基準で、ならびに刺激事象に応答して見積もられてもよい。これらは一般に応答の比率または行為の変化に関連することがある。図13は、本明細書の一部の実施形態による求心性および遠心性源に対する例示的メトリックの一覧を含む表を提供する。表は、求心性源が刺激事象および特性をもたらすことがあることを示す。求心性源、刺激事象および特性の組合せは、さらに応答(遠心性源)と組み合わせたときに応答事象および特性を示すことがある。これらの組合せは、心理測定値を示唆することがある。最終列では、表は様々な組合せから導出された各心理測定に対する説明を提供する。
図14は、ソフトウェア・アプリケーションからSDEPへのデータの流れの概略を示す、例示的流れ図である。1402では、相互作用のためにユーザにインターフェースを提供してもよいソフトウェア・アプリケーション。アプリケーションはHMD、またはユーザの相互作用のためにVR/AR/MxR環境を提供できるあらゆる他の装置上で起動するように設計されてもよい。アプリケーション・ソフトウェアによって収集された情報は、1404でソフトウェア開発キット(SDK)に提供されてもよい。SDKは、アプリケーション・ソフトウェアの使用についての分析およびデータを発生するために、ソフトウェア開発ツールの群と協働する。1406では、データはSDKからSDEPにセッションデータとして提供される。1408では、セッションデータはSDEPで前処理され、これは分析に備えてデータを体系化し分類することを含んでもよい。1410では、前処理された刺激および応答が発生され、さらに分析および処理に回される。1412では、データは分析され、機能指標もしくは点数またはVPIの点数などの知覚可能な情報の他の測定値に変換される。1414では、分析されたデータは、ユーザ経験を修正し、個人向けにし、またはカスタム化するために、SDKおよび/またはアプリケーション・ソフトウェアに送信して戻される。実施形態では、データは1402から移され、アプリケーション・ソフトウェアから分析の鎖を通り、アプリケーション・ソフトウェアにリアルタイムで非侵入的に戻される。
図15は、工程流れの前処理部(図14の1408)の例示的概要1500を示す。
図16は、未加工のデータ(前処理された)を取り込み、適切な分析を選別して実施し、「持久力」測定値および点数の標準化のそれぞれの見積もりのために、短期および長期記憶に対する分析に基づいて集約尺度を送受信し、エンドユーザに表示するためにアプリケーションに送信して戻される点数をコンピュータで計算するために、信頼できるデータ処理機能のプログラミング言語の実装の例示的表示1600である。実施形態では、使用されるプログラミング言語はPython(パイソン)である。図面は、VPIの点数を導出するためにFAMEDデータに対するいくつかのパイソン機能のアプリケーションを示す。図面は各FAMED機能に対する色分け処理を示す。一実施形態では、FOV機能は赤、精度は緑、複数追跡は紫、持久力はオレンジ、検出は青である。一実施形態では、平行四辺形は変数を表し、丸みを帯びた長方形は機能を表し、要素はユーザ/セッションデータに対して色分けされており、ユーザ/セッションデータは黄色で示されている。
図面を参照すると、大きい赤い外形1602のコンテンツは処理関数(va_process_data)を表し、これは3つの主な部分、左部1604、中間部1606および右部1608を含む。一実施形態では、左部1604は未加工データを取り込み、入力データを集約する単一測定値を産出するデータに精度または検出/弁別分析機能のいずれかを適用する。それは、視野および複数追跡の測定値に対する中間レベル機能1606、ならびに外部記憶装置に送信される。その第1の外部記憶装置またはキャッシュは、持久力の測定に使用するためにごく最近から同様の測定値が戻る。中間レベル機能1606からの出力は、平均化のために中心傾向(すなわち算術平均)および変動性(すなわち標準偏差)を見積もるために、測定値を蓄積する別の外部記憶装置に送信される。この第2の外部記憶装置からのデータは、本測定結果と組み合わせて右基準部1608の点数に変換される。また図面は、より広い鎖内の分析部1600の配置を示すために図面の左下に小さいサブチャート1610も示す。
図17は、本明細書の一実施形態によるメディアを修正するための方法を示す流れ図を提供する。一実施形態では、方法は、図1Aおよび様々な実施形態の状況で上に記載されたSDEP118内に実装される。ユーザはメディア、例えばVR/AR/MxRメディアを提示される。実施形態では、メディアは、HMDまたは装置をレンダリングするあらゆる他の型のVR/AR/MxRメディアを通して提示される。ユーザがメディアを経験している間に、1702ではSDEPはユーザの視覚データを受信する。一実施形態では、ユーザは図1Aのユーザ102に従う。一実施形態では、視覚データは、メディア実施形態内で取り組む様々な求心性および遠心性データ源から受信される。1704では、視覚データは、メディアを処理してそれを修正するために使用される。実施形態では、視覚データはリアルタイムで処理される。メディアは、ユーザがメディアを最適な手法で経験できるように修正されてもよい。メディアは、VIMS、またはそうでなければユーザの視覚容量に基づいて誘発されることがある、あらゆる他の問題を最小にするために、ユーザの経験を向上させるために修正されてもよい。実施形態では、メディアは異なるアプリケーションに対して異なって修正される。例えばメディアはゲームのユーザと、潜在的な顧客であるユーザに対して異なって修正され、この場合メディアはゲームを通して、また広告を通してそれぞれ表される。他の例では、メディアは特定のアプリケーションおよびコンテンツ経験のユーザに対して異なって表されてもよい。一実施形態では、視覚データはそれを修正するためにリアルタイムで処理される。視覚データは、ここではバッチおよびリアルタイム分析の両方を通して開発された視覚モデル/プロファイル/ペルソナであり、自律神経データ入力とともに求心性および遠心性データの状況に合わせられる。別法として視覚データはバッチに記憶されて修正のために分析される。メディアを処理する異なる形は、図2の状況において上に説明されている。またVPIも、様々なメトリックによりその修正のためにメディアを処理するために使用されてもよい。1706では、修正されたメディアはユーザに表される。一実施形態では、修正されたメディアは同時にまたは異なる時にユーザの群に表され、そこで群のユーザは同様の視覚データに対応してもよい。得られるメディアは前に表されたメディアに続き、ユーザに対して決定されたある特定のメトリックに従って修正されてもよい。
図18は、本明細書の別の実施形態によりメディアを修正するための方法を示す流れ図を提供する。一実施形態では、方法は、図1Aおよび様々な実施形態の状況で上に記載されたSDEP118内に実装される。ユーザはメディア、例えばVR/AR/MxRメディアを表される。実施形態では、メディアは、HMDまたは装置をレンダリングするあらゆる他の型のVR/AR/MxRメディア通して表される。ユーザがメディアを経験している間に、1802ではSDEPはユーザの視覚データを受信する。一実施形態では、ユーザは図1Aのユーザ102に従う。一実施形態では、視覚データは、メディア環境内で取り組まれる様々な求心性および遠心性データ源から受信される。1804では、視覚データは、ユーザの視覚経験に直接または間接的に影響を及ぼすことがあるメトリックを同定するために使用される。図13の表の文脈において上に説明されたように、メトリックはユーザの経験に影響を与える心理測定を分解する助けとなることがある。1806では、メトリックから導出された情報は、メディアを処理しそれを修正するために使用されてもよい。メディアは、ユーザが最適な手法でメディアを経験できるように修正されてもよい。メディアは、VIMSまたはそうでなければユーザの視覚容量に基づいて誘発されることがある、あらゆる他の問題を最小にするために、ユーザの経験を向上させるために修正されてもよい。実施形態では、メディアは異なるアプリケーションに対して異なって個人向けに修正される。例えばメディアはゲームのユーザと、潜在的な顧客であるユーザに対して異なって個人向けにされ、この場合メディアはそれぞれゲームを通して、また広告を通して表される。一実施形態では、視覚データはそれを修正するためにリアルタイムで処理される。別法として視覚データはバッチに記憶されて修正のために分析される。メディアを処理する異なる形は、図2の状況において上に説明されている。1808では、修正されたメディアはユーザに表される。一実施形態では、修正されたメディアは同時にまたは異なる時にユーザの群に表され、そこで群のユーザは同様の視覚データに対応してもよい。得られるメディアは前に表されたメディアに続き、ユーザに対して決定されたある特定のメトリックに従って修正されてもよい。
使用例
本明細書の様々な実施形態によるSDEPによって生成されたデータは、異なる形で使用されてもよい。実施形態では、SDEPによって出力されたデータは、ゲーマ、広告主などに対して異なって包装されてもよい。
本明細書の様々な実施形態によるSDEPによって生成されたデータは、異なる形で使用されてもよい。実施形態では、SDEPによって出力されたデータは、ゲーマ、広告主などに対して異なって包装されてもよい。
システムによって決定され、分析された感覚入力は、最終的に作業を起動して取組みをしてもよい。実施形態では、感覚情報はユーザから購入され、SDEPなどのプラットフォームを通してデータに値を追加した後に、感覚データ交換を生み出すために使用されてもよい。本明細書の実施形態では、個人および潜在的顧客の感覚はSDEPで測定され、監視されてもよい。
実施形態では、SDEPは、スマートデバイス、ウェアラブル、視線追跡ツール、EEGシステム、ならびに仮想現実および拡張現実のHMDなどの技術から発生したデータを有利に使用することができる。例えばEEG帯は、脳内の電極、ならびに視覚ベンチマークを生成し、最終的に視力を継時的に向上する助けとなるように設計されたゲーム型アプリケーションに対する眼球運動を追跡するために使用されてもよい。
実施形態では、SDEPによって出力されたデータは、医療使用(視力、眼精疲労、外傷性脳損傷、および運動視機能)、運動選手/スポーツなどに対して異なって梱包されてもよい。例えばアプリケーションは、デジタルの眼精疲労効果を一定期間にわたって追跡する、または眼と脳を連結する重要な領域を測定することにより、フットボールなどの接触型スポーツにおける外傷性脳損傷を検査する能力を含む。
実施形態では、本明細書のシステムおよび方法は、深層学習システムを開発するために使用され、また人工ニューラルネットワークをモデル化するために使用される。深層学習を含む人工ニューラルネットワークおよびその高度な形は、これに限定されないが、とりわけ画像/発話認識、言語処理、顧客関係管理(CRM)、生命情報科学、顔表情認識などの様々なアプリケーションを有する。実施形態では、SDEPは、人間の感覚系をモデル化するために遠心性情報と求心性情報との間のフィードバックループを使用する。さらなる実施形態では、SDEPは、情報の求心性源および遠心性源と組み合わせるために追加のセンサから情報を調達する。
使用例1:該当メディア内の情報のユーザの把握力を向上するためにメディアを修正する
一実施形態では、ユーザの把握力の程度は、知識および理解を試験することにより、すなわち表示装置を通して複数の質問を表すこと、それらの質問に応答してユーザから入力を受信すること、およびユーザがどの程度まで質問に正しく回答したかを決定することによって測定される。またユーザの把握力の程度は、行為の微妙な変化を含むユーザの行為から、またユーザの自律神経および電気生理学測定からも推測されることがある。
一実施形態では、ユーザの把握力の程度は、知識および理解を試験することにより、すなわち表示装置を通して複数の質問を表すこと、それらの質問に応答してユーザから入力を受信すること、およびユーザがどの程度まで質問に正しく回答したかを決定することによって測定される。またユーザの把握力の程度は、行為の微妙な変化を含むユーザの行為から、またユーザの自律神経および電気生理学測定からも推測されることがある。
より具体的には、本明細書は、該当メディアによって連通されるユーザの情報把握力を向上させるために、VR、ARおよび/またはMxR環境に表示されたメディアを修正するためにユーザに提供される方法、システムおよびソフトウェアを説明する。図19は、本明細書の一部の実施形態により、把握力を向上させるためにメディアを修正するための例示的工程を説明する流れ図を示す。1902では、さらに以下に説明されるように、複数のデータに対する第1の値が取得される。実施形態では、データは、眼球運動データ(素早い走査および/またはサッケード運動)、瞬目率データ、固視データ、瞳孔径、瞼の間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。加えてVR、ARおよび/またはMxR装置は、その中に組み込まれる以下のセンサの1つまたは複数を含むことができる。
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
実施形態では、これらの装置の組合せによって取得されたデータは、眼瞼裂(その変化率、初期状態、最終状態、および動的変化を含む)、瞬目率(その変化率および/または部分瞬目の完全瞬目に対する比率を含む)、瞳孔径(その変化率、初期状態、最終状態、および動的変化を含む)、瞳孔位置(その初期位置、最終位置を含む)、凝視方向、凝視位置(その初期位置および最終位置を含む)、転導(比率に基づいた輻輳に対する開散、継続時間、および/または動的変化を含む)、固視位置(その初期位置、最終位置を含む)、固視継続時間(変化率を含む)、固視率、固視回数、サッケード位置(その変化率、初期位置、および最終位置を含む)、サッケード角度(標的に向かうその関連性を含む)、サッケードの大きさ(その距離、アンティサッケードまたはプロサッケードを含む)、プロサッケード(その比率に対するアンティサッケードを含む)、アンティサッケード(その比率に対するプロサッケードを含む)、復帰抑制(存在および/または大きさを含む)、サッケード速度(大きさ、方向および/または標的に向かう関連性を含む)、サッケード回数を含むサッケード率、追従眼球運動(それらの開始、継続時間、および/または方向を含む)、画面距離(その変化率、初期位置、および/または最終位置を含む)、頭部方向(その変化率、初期位置、および/または最終位置を含む)、頭部固定(その変化率、初期位置、および/または最終位置を含む)、四肢追跡(その変化率、初期位置、および/または最終位置を含む)、重量配分(その変化率、初期配分、および/または最終配分を含む)、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温(その変化率、初期温度、および/または最終温度を含む)、呼吸数(その変化率、初期比率、および/または最終比率を含む)、酸素飽和度、心拍数(その変化率、初期心拍数、および/または最終心拍数を含む)、血圧、発声(その高さ、大きさ、および/または意味を含む)、推定された遠心性応答、呼吸数、顔の表情(微表情を含む)、嗅覚処理、味覚処理、ならびに聴覚処理の1つまたは複数に関連するデータを含んでもよい。各データの型は考慮したときに重点を個別にまたは組み合わせて保持することがある。
メディア内で一部の空間的に画定された工程のユーザの把握力を精査するために、システムは、ユーザが見ているところの測定値を適用し、ユーザがメディア内の関係領域に対するメディア内の無関係領域を見るのに費やす時間の割合を測定する。またシステムは、ユーザがほとんど焦点を合わせていない視覚空間のサンプリングに比べて、特定領域にその注意に焦点を合わせる程度も測定できる。
ユーザが無作為に見回しており、関係領域および無関係領域がほぼ等しい大きさである場合、この割合はおよそ1であるべきである。ユーザが関係領域により多く焦点を合わせている場合、割合は1を超えるべきであり、この割合が大きいほどシステムがユーザにより把握されていると考えられる。システムは、ユーザが該割合に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。割合が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。割合が所定の閾値を超えている場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。
一実施形態では、システムは、無関係領域に比べて関係領域に向かってより多くの眼球運動を示すサッケードパラメータから導出された測定値を決定する。システムは、ユーザがサッケード運動に基づいてVR/AR/MxR環境内のメディアコンテンツを把握しているか、または把握していないかを決定してもよい。
サッケード角度に関しては、関係領域に対する絶対角度の平均|θ| saccade−relevantは、ユーザがより頻繁に関係領域に向かって見ている場合は90度よりはるかに小さく、ユーザが無作為に見回している場合はおよそ90度であり、ユーザが概して関係領域から眼をそらしている場合は90度より大きくなければならない。ユーザが関係領域に向かってより多く見ている場合、角度は90度未満であるはずであり、システムはユーザが焦点を合わせており、メディアを把握できると決定してもよい。角度が90度近くまたはそれ以上である場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/または把握力が低い、もしくはメディアを把握していないと決定してもよい。
サッケードの大きさに関して、関係領域に対する平均の大きさのコンポーネントM saccade−relevantは、ユーザが関係領域に向かってより頻繁に見ている場合は有意な正であり、ユーザが無作為に見回している場合はおよそ0であり、ユーザが概して関係領域から眼をそらしている場合は有意な負であるべきである。ここでは正の平均の大きさは有意なレベルの把握力を示唆するはずであるのに対して、およそ0または負の値はユーザによるVR/AR/MxR環境内のメディアコンテンツの把握力が低いレベルを示唆するはずである。実施形態では、システムは、該当メディアによって連通される情報のユーザの把握力を向上させるために、VR/AR/MxR環境または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内に表示されたメディアを修正するためにこの情報を使用する。
別の実施形態では、システムは、眼球運動は関連語または場面内のオブジェクトの間を頻繁に行き来するという事実を活用する測定値を決定する。
これらの種類の相互関係が大きいほど、システムは、より多くのユーザが場面内の2つの関係したオブジェクトの行為を監視しており、より大きな把握力を示すと決定する。システムは、ユーザが相互関係に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。相互関係が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。相互関係が所定の閾値を超えている場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。システムは、その代わりに逆が真であるように設計されてもよいことを理解されたい。すなわち相互関係が所定の閾値を超えている場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。相互関係が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。
場面の知識および何の領域が関係しているか、または信号の把握に関係するべきであるかの知識がない場合であっても、システムは、場面内に焦点が合わせられた注意の多少が、把握力の程度を示すと想定されてもよい。より直接的な把握測定値(すなわち質問)と組み合わせて、焦点の測定値は単純な正/誤測定値を取り込み、それをある大きさに割り当てるために使用することができる。
一部の実施形態では、把握力は、話し手と聞き手の両方が同じものを閲覧しているときに、話し手に比べた聞き手の眼球運動データからも収集される。聞き手の眼球運動が話し手の眼球運動に相互関係すると決定された際、共通の視覚場面で何かが説明されている間にシステムはユーザが把握できると決定してもよい。システムは、話し手の眼球運動と聞き手の対応する眼球運動との間の遅延が下がるときに、より大きく把握した結果であると考えられることがある。
聞き手の眼球運動の相互関係は、τ秒の遅延で話し手および聞き手に対する時間関数として、固視位置を使用して以下のように算出されてもよい。
実施形態では、上の相互関係はおよそτ=2sでピークに達する。相互関係が大きいほど、システムは、より多くのユーザが場面で2つの関係したオブジェクトの行為を監視しており、それによってより大きい把握力を提案すると決定する。システムは、ユーザが相互関係に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。相互関係が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。相互関係が所定の閾値を超えている場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。システムは、その代わりに逆が真であるように設計されてもよいことを理解されたい。すなわち相互関係が所定の閾値を超えている場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。相互関係が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。
実施形態では、焦点の領域Afocusは、所与の期間の記録に対する固視(Nfixation)または総固視継続時間(ΣDfixation)のある割合p(例えば75%)を含有する視野(視覚角度の平方度)の最小面積として決定される。これは数または継続時間によって画定された固視の部分集合のすべてを含有する最小円の面積を見積もること、ならびにすべての可能な部分集合を反復すること、およびすべての部分集合の中で最小面積を保つことにより、アルゴリズムで発見されてもよい。実施形態では、決定された面積は、ユーザにより大きい把握力を供給する面積を示してもよい。
眼をそらす
ユーザが眼をそらす(凝視を避ける)行為は、資源を解放するために視覚系に入る詳細な情報の量を限定するために機構を示す、認知的負荷と相互に関係する。システムは、ユーザが表示装置から眼をそらす(ΣDfixation away)時間の量が大きいほど、課題の要求が多い可能性があり、次いでこれは(眼をそらすことは上記のように認知的負荷と相互に関係するので)より大きい把握力の証拠であると決定される。追加の実施形態では、ユーザがあまり高くない空間周波数コントラストの領域に向かってより多く見ると観察された場合、システムは、所与の課題の要求が大きいことにより、ユーザが眼をそらす必要が生じ、したがって把握力がより大きい証拠であると再度決定することがある。実施形態では、眼をそらす行為に関連した頭部運動は、把握力を決定するために眼球運動の代わりに、または眼球運動に加えて使用されてもよい。
ユーザが眼をそらす(凝視を避ける)行為は、資源を解放するために視覚系に入る詳細な情報の量を限定するために機構を示す、認知的負荷と相互に関係する。システムは、ユーザが表示装置から眼をそらす(ΣDfixation away)時間の量が大きいほど、課題の要求が多い可能性があり、次いでこれは(眼をそらすことは上記のように認知的負荷と相互に関係するので)より大きい把握力の証拠であると決定される。追加の実施形態では、ユーザがあまり高くない空間周波数コントラストの領域に向かってより多く見ると観察された場合、システムは、所与の課題の要求が大きいことにより、ユーザが眼をそらす必要が生じ、したがって把握力がより大きい証拠であると再度決定することがある。実施形態では、眼をそらす行為に関連した頭部運動は、把握力を決定するために眼球運動の代わりに、または眼球運動に加えて使用されてもよい。
読解
実施形態では、システムは、読解中の眼を追跡することによりユーザの把握力レベルを決定する。システムは、読まれるテキストの知識を有し、これは把握力の測定値を決定するために使用される。実施形態では、測定値は特定の単語への固視継続時間、逆行サッケードの数または頻度(一事例では、英語については、同じ行上/同じ文内で左向きのサッケードが決定され、異なる言語に対してそれに応じて逆行サッケードの方向は異なり、測定されてもよい)、および特定の文部分への固視継続時間に基づいて決定される。固視継続時間が低いほど、かつ/または逆行サッケードの頻度が大きいほど、システムは、ユーザの把握力がより大きいと決定する。システムは、ユーザが固視継続時間に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。継続時間が所定の閾値を超える場合は、システムは、ユーザがメディアを把握するのに困難に直面していると決定する。継続時間が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせている、かつ/またはメディアを把握していると決定する。
実施形態では、システムは、読解中の眼を追跡することによりユーザの把握力レベルを決定する。システムは、読まれるテキストの知識を有し、これは把握力の測定値を決定するために使用される。実施形態では、測定値は特定の単語への固視継続時間、逆行サッケードの数または頻度(一事例では、英語については、同じ行上/同じ文内で左向きのサッケードが決定され、異なる言語に対してそれに応じて逆行サッケードの方向は異なり、測定されてもよい)、および特定の文部分への固視継続時間に基づいて決定される。固視継続時間が低いほど、かつ/または逆行サッケードの頻度が大きいほど、システムは、ユーザの把握力がより大きいと決定する。システムは、ユーザが固視継続時間に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。継続時間が所定の閾値を超える場合は、システムは、ユーザがメディアを把握するのに困難に直面していると決定する。継続時間が所定の閾値を下回る場合は、システムは、ユーザが焦点を合わせている、かつ/またはメディアを把握していると決定する。
またシステムは、瞬目率(fblink)が読解中に低減することも示し、これにより瞬目の間の時間のばらつきも増加する。実施形態では、システムは、確立した基線に対して瞬目率の低下を決定する(fblinkはf blinkより著しく少ない)。基線に対して遅い瞬目の作用は、平均からの偏差を算出することによって決定されてもよい。平均からの偏差が大きいほど、システムは、ユーザの把握力が大きいと決定する。
電気生理学
実施形態では、電気生理学の記録はある特定のコンテンツ内の把握力の程度の測定値を産出する。例えば電気生理学の事象に関係した電位(EEG−ERP)を使用して、読解中に予期しない、および/または不適切な単語に対する一部の認知電位(N2、N400、P300、P600)の振幅に増加が見られることがある。実施形態では、システムは、著しい振幅値に応答して、より大きい把握力を示すためにまれな、新規のまたは予期しない刺激から生じる認識EEG電位(N2、N44、P300、P600)の増加を決定する。概してシステムは、基線に比べた振幅値の変化は把握力の程度に比例すると結論付けてもよい。振幅の正の変化はより大きい把握力の結果であると考えてもよい一方で、低下したまたは負の変化は焦点を合わせるかつ/または把握する能力が下がった結果であると考えてもよい。
実施形態では、電気生理学の記録はある特定のコンテンツ内の把握力の程度の測定値を産出する。例えば電気生理学の事象に関係した電位(EEG−ERP)を使用して、読解中に予期しない、および/または不適切な単語に対する一部の認知電位(N2、N400、P300、P600)の振幅に増加が見られることがある。実施形態では、システムは、著しい振幅値に応答して、より大きい把握力を示すためにまれな、新規のまたは予期しない刺激から生じる認識EEG電位(N2、N44、P300、P600)の増加を決定する。概してシステムは、基線に比べた振幅値の変化は把握力の程度に比例すると結論付けてもよい。振幅の正の変化はより大きい把握力の結果であると考えてもよい一方で、低下したまたは負の変化は焦点を合わせるかつ/または把握する能力が下がった結果であると考えてもよい。
読むものに依存してこれらの振幅の変化の有無は、ユーザが読んでいるものを正しく解釈しているかどうかをシステムが決定する助けとなる。より一般的には、一部のEEG−ERPコンポーネントは認知的負荷を測定するために使用することができ、認知的負荷自体がある特定の状況内で把握力の類似物であることがある。またガルバニック皮膚反応(GSR−ERP)も使用することができ、値の増加は認知的負荷の増加を示し、したがって把握力が大きくなることを示す。実施形態では、システムは、把握力の信号としてGSR−ERPの著しい増加を決定する。
実施形態では、システムは、把握力を測定するために概して脳波活動を使用する。例えばベータ/ガンマ周波数帯(20〜70Hz)の活動が増加すると、連合学習を含む様々な認知過程に繋ぐことができる。システムは、増加した把握力の信号であるベータおよびガンマ周波数帯(≧16Hz)におけるEEGの著しいエネルギーの増加を決定する。
タイミング
応答時間は、概してユーザが正しいと推測するときに比べて、ユーザが正しいとわかっているときの正しい応答はより速くなる。加えてシステムは、把握力を測定するために場面または物語の主要なコンポーネントの導入への行為の相対的タイミングを使用する。実施形態では、システムは、場面内の要素が不明瞭から適合に変わる、または課題/問題が所定の時間に解決不可能から解決可能に進むとき、把握力の増加を決定する。実施形態では、システムは、この情報が具体的には新しい情報が入手可能になる瞬間を決定する。システムは、本明細書の様々な実施形態に説明された他の測定値を分析するために、新しい情報が入手可能になった直後に基づいて適切な期間をさらに選別してもよい。
応答時間は、概してユーザが正しいと推測するときに比べて、ユーザが正しいとわかっているときの正しい応答はより速くなる。加えてシステムは、把握力を測定するために場面または物語の主要なコンポーネントの導入への行為の相対的タイミングを使用する。実施形態では、システムは、場面内の要素が不明瞭から適合に変わる、または課題/問題が所定の時間に解決不可能から解決可能に進むとき、把握力の増加を決定する。実施形態では、システムは、この情報が具体的には新しい情報が入手可能になる瞬間を決定する。システムは、本明細書の様々な実施形態に説明された他の測定値を分析するために、新しい情報が入手可能になった直後に基づいて適切な期間をさらに選別してもよい。
把握力の発現
把握力の発現は、把握力の程度を測定するために上に一覧にされたものを含む、様々な測定値から変化する状態によって明らかにすることができる。把握力の発現の測定値は、必ずしも反応時間データほど正確でなくてもよく、把握を始める瞬間を同定する代わりに、以下の測定値が一連の刺激および反応事象のどのような点でユーザが新しい理解を得るかを示してもよい。例えば正/誤応答に依拠する場合、システムは、正しい応答の百分率が低い基線からより高いレベルに飛躍する時点を使用する。
把握力の発現は、把握力の程度を測定するために上に一覧にされたものを含む、様々な測定値から変化する状態によって明らかにすることができる。把握力の発現の測定値は、必ずしも反応時間データほど正確でなくてもよく、把握を始める瞬間を同定する代わりに、以下の測定値が一連の刺激および反応事象のどのような点でユーザが新しい理解を得るかを示してもよい。例えば正/誤応答に依拠する場合、システムは、正しい応答の百分率が低い基線からより高いレベルに飛躍する時点を使用する。
システムは、適用できる場合、正しい応答の百分率が著しく増加する時点として把握力の発現を決定する。一実施形態では、把握力の発現は1回目のフレームに対する2回目のフレームから、または前のN個の応答に対する現在のN個の応答から、百分率の正しい応答を比べるためにt試験を使用して決定される。但し数Nは統計的に有意であるように十分に大きい。
標的検出
実施形態では、システムは、標的の同定を知るには把握力を必要とする標的をユーザが検出し、かつ/または選別するときに把握力の発現を決定する。加えてシステムは、ユーザが標的の同定および/または標的場所を指すこと、身振り、面することもしくは向けられた凝視を示す、声または手動の応答に基づいて、適切に検出および/または選別することができることを決定する。実施形態では、システムは、VR/AR/MxRメディア内の標的が正しく同定され、かつまたは配置される時点として把握力の発現を決定する。適用できる場合、これは偶然可能であった比率または程度より大きい比率または程度であるべきである。システムは、より大きい把握力を示す特別の閾値より大きい把握力の発現の比率を決定する。一方システムは、把握力が低減するまたは欠如する特別の閾値以下の把握力の発現の比率の結果であると考えてもよい。システムは、ユーザが把握力の発現の比率に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
実施形態では、システムは、標的の同定を知るには把握力を必要とする標的をユーザが検出し、かつ/または選別するときに把握力の発現を決定する。加えてシステムは、ユーザが標的の同定および/または標的場所を指すこと、身振り、面することもしくは向けられた凝視を示す、声または手動の応答に基づいて、適切に検出および/または選別することができることを決定する。実施形態では、システムは、VR/AR/MxRメディア内の標的が正しく同定され、かつまたは配置される時点として把握力の発現を決定する。適用できる場合、これは偶然可能であった比率または程度より大きい比率または程度であるべきである。システムは、より大きい把握力を示す特別の閾値より大きい把握力の発現の比率を決定する。一方システムは、把握力が低減するまたは欠如する特別の閾値以下の把握力の発現の比率の結果であると考えてもよい。システムは、ユーザが把握力の発現の比率に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
固視継続時間
場面の初期サンプリングは問題を解決するために必要な情報のすべてを取り込むが、ユーザが行き詰まった場合、焦点が内方に向かうにつれて固視の継続時間が増加する。一旦解決策が見つかると、固視継続時間は、ユーザが正常の走査を再開した際に減少し、利用可能な情報を確認することによりそれらの解決策を検証する。したがって継時的に固視継続時間内のピークを探し、その後あらゆる急落を見つけることにより把握力の発現を見積もることができる。ユーザが、固視継続時間の増加に関連した初期サンプリングの後、低い固視継続時間に関連した正常の走査を再開したとわかった場合、システムは、把握力の発現を示すような実例を決定する。実例は、把握力の発現を決定するために対応するVR/AR/Mxメディア内に表示された情報とさらに組み合わされる。実例が低い、または存在しない場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。実例が存在するかつ/または高い場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。実施形態では、システムは、有意により長い固視継続時間(Dfixation)の期間の終了として把握力の発現を決定する。
場面の初期サンプリングは問題を解決するために必要な情報のすべてを取り込むが、ユーザが行き詰まった場合、焦点が内方に向かうにつれて固視の継続時間が増加する。一旦解決策が見つかると、固視継続時間は、ユーザが正常の走査を再開した際に減少し、利用可能な情報を確認することによりそれらの解決策を検証する。したがって継時的に固視継続時間内のピークを探し、その後あらゆる急落を見つけることにより把握力の発現を見積もることができる。ユーザが、固視継続時間の増加に関連した初期サンプリングの後、低い固視継続時間に関連した正常の走査を再開したとわかった場合、システムは、把握力の発現を示すような実例を決定する。実例は、把握力の発現を決定するために対応するVR/AR/Mxメディア内に表示された情報とさらに組み合わされる。実例が低い、または存在しない場合は、システムは、ユーザが焦点を合わせていない、無作為に見回している、かつ/またはメディアを把握していないと決定する。実例が存在するかつ/または高い場合は、システムは、ユーザが焦点を合わせている、無作為に見回していない、かつ/またはメディアを把握していると決定する。実施形態では、システムは、有意により長い固視継続時間(Dfixation)の期間の終了として把握力の発現を決定する。
瞳孔拡張
別の実施形態では、システムは把握力の発現を検出するために瞳孔拡張を使用する。ピーク瞳孔拡張に対する大きさおよび時間は、把握力の程度および発現のそれぞれの信号を送るために使用することができる。システムは、概して注目すべき事象として数秒前にいくつかと比較して瞳孔のあらゆる有意な拡張を観察してもよい。システムは、ユーザが発現時にピーク瞳孔拡張に対する大きさおよび時間に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
別の実施形態では、システムは把握力の発現を検出するために瞳孔拡張を使用する。ピーク瞳孔拡張に対する大きさおよび時間は、把握力の程度および発現のそれぞれの信号を送るために使用することができる。システムは、概して注目すべき事象として数秒前にいくつかと比較して瞳孔のあらゆる有意な拡張を観察してもよい。システムは、ユーザが発現時にピーク瞳孔拡張に対する大きさおよび時間に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
実施形態では、システムは、瞳孔径の急速な著しい増加(Spupil)を把握力の発現と決定する。実施形態では、VR/AR/MxR環境内でレンデリングしたメディアのコンテンツは、瞳孔拡張に関連する観察で要因とされる。例示的状況は、ユーザが課題に取り組んでメディアを通して提供された刺激から新規の意味を導出しているときである。
顔の合図
実施形態では、システムは、顔の表情の一時的な変化は、困惑、心配、および集中のような状態の発現の表示として決定する。例示的一実施形態では、目を細めるユーザは困惑している表示であるのに対して、細目を解除することは把握力が生じた表示である。実施形態では、システムは、部分的な開眼から完全な開眼への移行(Pboth eyes openの非ゼロ基線からの著しい増加)を適切な状況における把握力の発現と決定する。システムは、ユーザが部分的な開眼から完全な開眼への移行に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
実施形態では、システムは、顔の表情の一時的な変化は、困惑、心配、および集中のような状態の発現の表示として決定する。例示的一実施形態では、目を細めるユーザは困惑している表示であるのに対して、細目を解除することは把握力が生じた表示である。実施形態では、システムは、部分的な開眼から完全な開眼への移行(Pboth eyes openの非ゼロ基線からの著しい増加)を適切な状況における把握力の発現と決定する。システムは、ユーザが部分的な開眼から完全な開眼への移行に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。
度合測定の急激な増加
様々な実施形態において、システムは、把握力の発現を決定するために上記の測定値の1つまたは組合せを使用する。システムは、この目的で上記の測定値をサンプリングする。一例では、ユーザが低い、または基線の把握力の度合から把握力の高い度合に急に進んだ場合、システムは、把握の始まったときを決定することができる。実施形態では、把握力の度合は、把握力のレベルおよび発現を同定するために上記の1つまたは複数の測定値の組合せに基づく。アルゴリズムでこれは、前後で把握力の度合の測定値が最も大きく、かつ統計的に有意な差がある時を見つけることによって確立されてもよい。システムは、ユーザが度合測定の急激な差に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。パラメータの急激な差は、該当パラメータに対する歴史的値の所定の標準偏差より大きいものである。測定値が所定の標準偏差を過ぎると、パラメータは急激に変化したと判断され、それによってパラメータの値の範囲に基づいて把握状態(増加または低減のいずれか)を示す。
様々な実施形態において、システムは、把握力の発現を決定するために上記の測定値の1つまたは組合せを使用する。システムは、この目的で上記の測定値をサンプリングする。一例では、ユーザが低い、または基線の把握力の度合から把握力の高い度合に急に進んだ場合、システムは、把握の始まったときを決定することができる。実施形態では、把握力の度合は、把握力のレベルおよび発現を同定するために上記の1つまたは複数の測定値の組合せに基づく。アルゴリズムでこれは、前後で把握力の度合の測定値が最も大きく、かつ統計的に有意な差がある時を見つけることによって確立されてもよい。システムは、ユーザが度合測定の急激な差に基づいてメディアコンテンツを把握しているか、または把握していないかを決定する。パラメータの急激な差は、該当パラメータに対する歴史的値の所定の標準偏差より大きいものである。測定値が所定の標準偏差を過ぎると、パラメータは急激に変化したと判断され、それによってパラメータの値の範囲に基づいて把握状態(増加または低減のいずれか)を示す。
把握の失敗または欠如
実施形態では、システムは、把握の失敗または全般的な欠如を示す何らかの測定値を決定する。把握力の度合に予期された変化、または把握力の発現のいかなる兆しもないことは、把握の失敗を示すことがある。システムは、不満または検索の発現の信号を送るように決定した何らかの新しい行為を同定することがある。一実施形態では、体温および/または心拍数の増加は把握の課題の間に不満の信号を送ることがある。
実施形態では、システムは、把握の失敗または全般的な欠如を示す何らかの測定値を決定する。把握力の度合に予期された変化、または把握力の発現のいかなる兆しもないことは、把握の失敗を示すことがある。システムは、不満または検索の発現の信号を送るように決定した何らかの新しい行為を同定することがある。一実施形態では、体温および/または心拍数の増加は把握の課題の間に不満の信号を送ることがある。
一実施形態では、システムは、把握の欠如の信号として、わかる問題への応答の遅延に関連した体温および/または心拍数の著しい増加を決定する。システムは、ユーザが把握の欠如の信号として、わかる問題への応答の遅延に関連した体温および/または心拍数の所定の増加に基づいて、メディアコンテンツを把握しているか、または把握していないかを決定する。
把握と相互関係がないように思われる視線凝視位置、具体的には短い固視継続時間(_D_fixationより著しく少ないD_fixation)および大きく飛躍する課題空間全体をサンプリングするサッケード(_M_saccadeより著しく大きいM_saccade)を特徴とする非特異性検索は、一部の逃した合図に対して探し求めていることを示すことがある。実施形態では、システムはこのような実例を把握の欠如の結果と考える。
実施形態では、システムは、適切な状況での把握の欠如の表示として、著しく短い固視継続時間および著しく大きいサッケードの大きさを特徴とする、無作為または焦点を合わせていない検索を決定する。システムは、ユーザが著しく短い固視継続時間および著しく大きいサッケードの大きさを特徴とする無作為または焦点を合わせていない検索に基づいて、メディアコンテンツを把握しているか、または把握していないかを決定する。
他の相互関係
実施形態では、システムは、行為の電気生理学および/または自律神経測定値と、複数の選択肢の中から正しい選別をするような、曖昧性の少ない把握力測定値との間に新しい相互関係を発見できる機械学習を使用する。一部の例では、上記の測定値の一部は特殊な状況であり、程度の差はあるが安定しており、予期しているものの反対の信号を送ることでさえあり得る。しかしユーザが偶然に予期したより良好な比率で正しく応答できる能力は、把握および理解の兆候として取り込むことができる。システムは、すべての利用可能な測定値を相互に関係させ、把握の傾向を探すことができる。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群に対してその把握力を増加させるために修正される。
実施形態では、システムは、行為の電気生理学および/または自律神経測定値と、複数の選択肢の中から正しい選別をするような、曖昧性の少ない把握力測定値との間に新しい相互関係を発見できる機械学習を使用する。一部の例では、上記の測定値の一部は特殊な状況であり、程度の差はあるが安定しており、予期しているものの反対の信号を送ることでさえあり得る。しかしユーザが偶然に予期したより良好な比率で正しく応答できる能力は、把握および理解の兆候として取り込むことができる。システムは、すべての利用可能な測定値を相互に関係させ、把握の傾向を探すことができる。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群に対してその把握力を増加させるために修正される。
1904では、上記の複数のデータに対する第2の値が取得される。実施形態では、第1の値および第2の値は、上記のデータの型を含む同じデータの型からなる。1906では、データの第1および第2の値は、継時的に複数のデータの1つまたは複数の変化を決定するために使用される。現在使用している場合のシナリオの実施形態では、システムのハードウェアおよびソフトウェアによって追跡され記録された1つまたは複数の以下の変化は、VR/AR/MxRメディアのユーザによって低減された把握力に反映することがある。
1.眼瞼裂の高さの低減
2.瞬目率の増加
3.瞬目率に対する変化率の増加
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.固視の初期位置および最終位置に対する標的の関係性の低減
9.固視の継続時間の変化率の増加
10.サッケードの初期位置および最終位置に対する標的の関係性の低減
11.サッケードの角度に対する標的の関係性の低減
12.アンティサッケード/プロサッケードの比率の増加
13.復帰抑制の増加
14.画面距離の増加
15.標的に関係する頭部方向の低減
16.標的に関係する頭部の固定の低減
17.標的に関係する四肢の運動の低減
18.重量配分の移動
19.アルファ/デルタ脳波割合の低減
20.アルファ/シータ脳波割合の増加
21.体温の増加
22.呼吸数の増加
23.把握力の低減
24.酸素飽和度が低い
25.心拍数の増加
26.血圧の変化
27.発声の増加
28.反応時間の増加
1.眼瞼裂の高さの低減
2.瞬目率の増加
3.瞬目率に対する変化率の増加
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.固視の初期位置および最終位置に対する標的の関係性の低減
9.固視の継続時間の変化率の増加
10.サッケードの初期位置および最終位置に対する標的の関係性の低減
11.サッケードの角度に対する標的の関係性の低減
12.アンティサッケード/プロサッケードの比率の増加
13.復帰抑制の増加
14.画面距離の増加
15.標的に関係する頭部方向の低減
16.標的に関係する頭部の固定の低減
17.標的に関係する四肢の運動の低減
18.重量配分の移動
19.アルファ/デルタ脳波割合の低減
20.アルファ/シータ脳波割合の増加
21.体温の増加
22.呼吸数の増加
23.把握力の低減
24.酸素飽和度が低い
25.心拍数の増加
26.血圧の変化
27.発声の増加
28.反応時間の増加
システムは、ユーザが以下の変化に基づいてVR、ARおよび/またはMxR環境内のメディアの把握力の程度が増加したと決定してもよい。
1.瞳孔径に対する変化率の増加
2.輻輳率の増加
3.開散率の増加
4.固視率の増加
5.固視回数の増加
6.サッケード速度の増加
7.サッケード率の変化の増加
8.サッケード回数(サッケードの数)の増加
9.滑動性追従の増加
1.瞳孔径に対する変化率の増加
2.輻輳率の増加
3.開散率の増加
4.固視率の増加
5.固視回数の増加
6.サッケード速度の増加
7.サッケード率の変化の増加
8.サッケード回数(サッケードの数)の増加
9.滑動性追従の増加
加えてシステムは、ユーザが特殊な型のユーザ課題と組み合わせた以下の変化に基づいて、メディアの把握力の増加または低減を経験していると結論付けてもよい。したがってシステムは、ユーザが以下に一覧にしたデータの型を、自身の把握力のレベルを増加している、または低減しているかを決定するために取り組む特殊な型の課題と一緒に両方を分析する。
1.固視継続時間の増加
2.サッケードの大きさ(サッケードの距離)の低減
1.固視継続時間の増加
2.サッケードの大きさ(サッケードの距離)の低減
また他の変化も記録されてもよく、異なる方法で解釈することができる。これらは、これに限定されないが、顔の表情の変化(特殊な表情に依存してもよい)、味覚処理の変化、および嗅覚処理の変化を含んでもよい。
データ取得コンポーネント、データの型、およびデータの変化の上述の一覧は、把握力を向上させるために必要な変数を決定するために使用されてもよいが、これらの一覧は排他的ではなく、他のデータ取得コンポーネント、データの型、およびデータの変化を含んでもよいことに留意されたい。
1908では、決定された複数のデータの継時的な変化は、ユーザの把握レベルの変化の程度を決定するために使用されてもよい。把握レベルの変化は把握力の向上または把握力の低減のいずれを示してもよい。
1910では、ユーザにレンダリングしたメディアは、把握力の低減した(または向上した)程度に基づいて修正されてもよい。実施形態では、メディアは、低減した把握に反映するデータの変化のすべてに対処するために修正されてもよい。実施形態では、1つまたは複数の以下の修正の組合せを行ってもよい。
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1つまたは複数の以下の表示、すなわち眼瞼裂の高さの増加、瞬目率の低減、瞬目率に対する変化率の低減、部分的な瞬目の完全な瞬目に対する比率の低減、凝視方向に対する標的の関係性の増加、凝視の初期位置および最終位置に対する標的の関係性の増加、固視の初期位置および最終位置に対する標的の関係性の増加、課題が必要とする固視の継続時間の増加、固視の継続時間の変化率の低減、サッケードの初期位置および最終位置に対する標的の関係性の増加、サッケードの角度に対する標的の関係性の増加、アンティサッケード/プロサッケードの比率の低減、復帰抑制の低減、画面距離の低減、標的に関係する頭部方向の増加、標的に関係する頭部の固定の増加、標的に関係する四肢の運動の増加、重量配分の移動の低減、アルファ/デルタ脳波割合の増加、アルファ/シータ脳波割合の低減、標準体温、標準呼吸数、90〜100%の酸素飽和度、標準心拍数、標準血圧、課題に関係する発声、標的にされた顔の表情、および標的にされた味覚処理は、把握力の向上を確認するために観察されてもよい。
実施形態では、把握力の向上の特定の百分率または範囲が画定されてもよい。実施形態では、データに対する追加の値は、1910で修正が実行された後、1914で継時的にデータの変更をさらに決定するために、1912で取得されてもよい。1916では、把握力の向上の新しい程度/百分率/範囲が取得されてもよい。1918では、システムは、把握力の向上が特定の範囲または百分率内であるかどうかを決定する。向上が不十分であるとシステムが決定した場合、システムはメディアをさらに修正するためにステップ1910にループバックしてもよい。したがってメディアは繰り返し修正されてもよく1910、把握力は、1%〜10000%のどこかの向上の百分率、またはその中のあらゆる増加を達するまで測定されてもよい。
使用例2:該当メディア内の情報からユーザの疲労の経験を低減するためにメディアを修正する
一実施形態では、ユーザの疲労の経験および/または疲労の重症度は、疲労の目に見える兆候ならびに疲労を示す生理学的測定値を観察することによって測定される。またユーザの疲労の程度は、行為の微細な変化を含むユーザの行為から、ならびにユーザの自律神経および電気生理学的測定値からも推測されてもよい。情報源に依存して、疲労の測定値は、ユーザが疲労している、またはユーザが疲労し始めていることを知らせることがある。あくびをしている、居眠りをしている、または目を閉じている、およびある特定の電気生理学的パターンのような一部の行為は、記録するデータセッションの始めであっても、ユーザが疲労しているというほぼ明確な信号を送ることができる。実施形態では、多くの他の測定値における個々の変動性からなる比較のための基線は、人が疲労し始めているかどうかを結論付けるために決定される。例えばユーザの反応時間は、疲労にほとんどまたは全く関係がない多くの理由のために遅いことがある。その例では、ユーザの反応時間が時間枠にわたって遅くなり始めていると観察されると、疲労の信号を送ることがある。
一実施形態では、ユーザの疲労の経験および/または疲労の重症度は、疲労の目に見える兆候ならびに疲労を示す生理学的測定値を観察することによって測定される。またユーザの疲労の程度は、行為の微細な変化を含むユーザの行為から、ならびにユーザの自律神経および電気生理学的測定値からも推測されてもよい。情報源に依存して、疲労の測定値は、ユーザが疲労している、またはユーザが疲労し始めていることを知らせることがある。あくびをしている、居眠りをしている、または目を閉じている、およびある特定の電気生理学的パターンのような一部の行為は、記録するデータセッションの始めであっても、ユーザが疲労しているというほぼ明確な信号を送ることができる。実施形態では、多くの他の測定値における個々の変動性からなる比較のための基線は、人が疲労し始めているかどうかを結論付けるために決定される。例えばユーザの反応時間は、疲労にほとんどまたは全く関係がない多くの理由のために遅いことがある。その例では、ユーザの反応時間が時間枠にわたって遅くなり始めていると観察されると、疲労の信号を送ることがある。
より具体的には、本明細書は、メディアによって連通する情報から疲労の測定値を低減させるために、ユーザにVR、ARおよび/またはMxR環境内に表示されたメディアを修正させる方法、システムおよびソフトウェアを説明する。図20は、本明細書の一部の実施形態により、疲労を低減するためにメディアを修正するための例示的工程を説明する流れ図を示す。2002では、以下にさらに説明するような複数のデータに対する第1の値が取得される。実施形態では、データは、眼球運動データ(迅速な走査および/またはサッケード運動)、瞬目率データ、固視データ、瞳孔径、瞼の間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。加えてVR、ARおよび/またはMxR装置は、その中に組み込まれた以下のセンサの1つまたは複数を含むことができる。
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
実施形態では、これらの装置の組合せによって取得されたデータは、眼瞼裂(その変化率、初期状態、最終状態、および動的変化を含む)、瞬目率(その変化率および/または部分瞬目の完全瞬目に対する比率を含む)、瞳孔径(その変化率、初期状態、最終状態、および動的変化を含む)、瞳孔位置(その初期位置、最終位置を含む)、凝視方向、凝視位置(その初期位置および最終位置を含む)、転導(比率に基づいた輻輳に対する開散、継続時間、および/または動的変化を含む)、固視位置(その初期位置、最終位置を含む)、凝視継続時間(変化率を含む)、固視率、固視回数、サッケード位置(その変化率、初期位置、および最終位置を含む)、サッケード角度(標的に向かうその関連性を含む)、サッケードの大きさ(その距離、アンティサッケードまたはプロサッケードを含む)、プロサッケード(その比率に対するアンティサッケードを含む)、アンティサッケード(その比率に対するプロサッケードを含む)、復帰抑制(存在および/または大きさを含む)、サッケード速度(大きさ、方向および/または標的に向かう関連性を含む)、サッケード回数を含むサッケード率、追従眼球運動(それらの開始、継続時間、および/または方向を含む)、画面距離(その変化率、初期位置、および/または最終位置を含む)、頭部方向(その変化率、初期位置、および/または最終位置を含む)、頭部固定(その変化率、初期位置、および/または最終位置を含む)、四肢追跡(その変化率、初期位置、および/または最終位置を含む)、重量配分(その変化率、初期配分、および/または最終配分を含む)、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温(その変化率、初期温度、および/または最終温度を含む)、呼吸数(その変化率、初期比率、および/または最終比率を含む)、酸素飽和度、心拍数(その変化率、初期心拍数、および/または最終心拍数を含む)、血圧、発声(その高さ、大きさ、および/または意味を含む)、推定された遠心性応答、呼吸数、顔の表情(微表情を含む)、嗅覚処理、味覚処理、ならびに聴覚処理の1つまたは複数に関連するデータを含んでもよい。各データの型は考慮したときに重点を個別にまたは組み合わせて保持することがある。
ユーザの疲労の測定値を精査するために、システムは、前に詳述したこれらの測定値に基づいて把握力、取組みまたは他の導出された状態の変化の測定値に適用する。これらの状態の重複の曖昧さを除去する際に重要なツールは、時間の考慮である。時刻は機能および疲労の測定値に影響を及ぼすと予想され、異なる時刻からの測定値が入手可能であるときに考慮される。セッション中、またはより一般的に、所与の課題の特定の行為または機能の継続時間も、疲労を測定中に考慮される。したがって時刻および課題の継続時間に依存して、測定値が疲労の信号を送る可能性が増加する。
疲労の一部の測定値は、概して疲労の直接測定値と、疲労の状態(疲労の従来の測定値)への移行を示す測定値に分類されてもよい。
疲労の直接測定値は、基線比較と無関係に測定されてもよい。一部の実施形態では、これらは、通常眠気すなわち覚醒状態と休眠状態との間の移行状態に関連する行為および測定値である。直接測定値の例は、疲労の目に見える兆候および疲労の生理学的測定値を含んでもよい。
目に見える兆候
疲労または眠気の目に見える兆候は、顔および頭部の撮像によって大部分が測定されてもよい。動画視線追跡器はこれらの測定値を獲得するために使用されてもよく、EOG記録も一部の行為を捕捉してもよい。
疲労または眠気の目に見える兆候は、顔および頭部の撮像によって大部分が測定されてもよい。動画視線追跡器はこれらの測定値を獲得するために使用されてもよく、EOG記録も一部の行為を捕捉してもよい。
特に下方に遅く上方に速いパターンの頭部の頷きは、同様に疲労の潜在的な信号である。一実施形態では、下方に遅く動いた後上方に速く動く頭部の頷きは、疲労の表示と考えられる。
特に延長期間に対して閉じたまたは部分的に閉じた眼は、さらに別の疲労の兆候である可能性がある。長期に(ほとんど)閉じた眼は、疲労の表示と考えることができる。例えば眼が少なくとも50%開いている時間の割合が75%未満であるとき(Peyes open(但しpboth eyes open≧50%)<0.75%)、システムはユーザが疲労していると考える。
実施形態では、眼球疲労はドライアイと相互関係がある。異常に低い涙液層破壊時間は疲労の信号である可能性がある。一部の実施形態では、特殊な撮像方法を使用して眼球疲労を測定する。システムは、著しいドライアイの兆候(低い涙液層破壊時間など)を眼球疲労の表示とみなす。
実施形態では、あくびをすることまたは他の発声および離散した呼吸は疲労の表示である。あくびをすることまたは他の単独の深い空気の吸い込みは疲労した状態の信号を送る可能性があり、時間および発生率の両方に書き留められてもよい。
疲労への移行の1つの目に見える兆候は眼球運動を通して決定される。一実施形態では、システムは、遅い眼球運動の兆候であるサッケード速度および大きさの低減、ならびに固視の頻度の低減、ひいては疲労の発現もしくは増加の兆候を決定する。
また一実施形態では、瞬目の周波数が短くおよび高く移行することは、疲労の発現の表示とみなされる。この条件では、ユーザの眼は部分的にまたは完全に閉じ始め、瞬目は正常パターンから一連の小さく速いリズムの瞬目に進む。
別の実施形態では、急激な垂直の眼球運動は疲労の表示とみなされる。
ユーザが疲労の状態に移行すると、無限に向かって消失する(ゼロ輻輳)凝視の深さおよびもはや動く刺激を追跡しないことがある眼球運動を表示することがあり、または刺激の出現に応答しないことがある。したがって別の実施形態では、延長した期間に対して無限に向かう凝視の3D深さは、疲労の表示とみなされる。
生理学的測定値
生理学センサは、疲労の生理学的表示を決定するために使用されてもよい。
生理学センサは、疲労の生理学的表示を決定するために使用されてもよい。
一実施形態では、心拍数および/または体温の著しい低減は睡眠に関連し、ユーザが覚醒時にこれらの兆候を表示するときに疲労の表示とみなされる。
一実施形態では、低い周波数のEEG信号(例えば徐波睡眠パターン)内のエネルギーの増加は、疲労の信号と解釈される。例えば低い周波数(<10Hz)のEEGエネルギーが増加し、高い周波数(≧10Hz)のEEGエネルギーが低減するトレードオフは疲労の表示である。
疲労への移行は、行為および確立された基線からの著しい逸脱に基づいて継時的な他の状態の変化から決定されてもよい。疲労の移行測定値は、目に見える兆候を通して、ならびに行為の測定値を通して観察されてもよい。
行為の測定値
ユーザが刺激に反応することによって費やされた時間の増加は、疲労の表示であるとみなされてもよい。加えてユーザの応答の正確さおよびタイミングの測定値の低下は、疲労のレベルに比例することがある。
ユーザが刺激に反応することによって費やされた時間の増加は、疲労の表示であるとみなされてもよい。加えてユーザの応答の正確さおよびタイミングの測定値の低下は、疲労のレベルに比例することがある。
一部の実施形態では、活動の延長した期間にわたる「機能」メトリックの低減は、疲労の表示とみなされる。
場合によっては、ユーザの用心が低減することにより、刺激に応答する際に減率が増加する。これらの場合、適切な状況において応答の割合が低減することは、疲労の表示とみなされる。
一部の実施形態では、システムは、長期の活動の状況における把握力、取組み、および他の興奮状態の著しい低減を疲労の信号と決定する。一実施形態では、散漫性は把握力および/または取組みの低減、またメディア経験からユーザの離脱の信号を送ることで増加する。長期の継続時間は、活動の性質に基づいて画定されてもよいが、概して数十分から数時間の範囲であってもよい。
他の相互関係
実施形態では、システムは、行為、生理学的および/または可視測定値の間の新しい相互関係、睡眠のような曖昧性の少ない疲労の測定値、ならびに長期の後およびある特定の時刻における行為を特徴付ける能力を発見できる機械学習を使用する。システムは、すべての利用可能な測定値を相互に関係づけ、疲労の傾向を探すことができる。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群に対して疲労を低減するために修正される。
実施形態では、システムは、行為、生理学的および/または可視測定値の間の新しい相互関係、睡眠のような曖昧性の少ない疲労の測定値、ならびに長期の後およびある特定の時刻における行為を特徴付ける能力を発見できる機械学習を使用する。システムは、すべての利用可能な測定値を相互に関係づけ、疲労の傾向を探すことができる。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群に対して疲労を低減するために修正される。
2004では、上記の複数のデータに対する第2の値が取得される。実施形態では、第1の値および第2の値は、上記のデータの型を含む同じデータの型からなる。2006では、データの第1および第2の値は、継時的に複数のデータの1つまたは複数の変化を決定するために使用される。現在使用している場合のシナリオの実施形態では、システムのハードウェアおよびソフトウェアによって追跡され記録された1つまたは複数の以下の変化は、VR/AR/MxRメディアのユーザが経験した疲労の増加したレベルに反映することがある。
1.眼瞼裂の変化率の低減
2.眼瞼裂距離の休息状態が低い
3.眼瞼裂距離の活性状態が低い
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.開散率の増加
9.固視の初期位置および最終位置に対する関係性の低減
10.固視継続時間の増加
11.サッケードの初期位置および最終位置に対する標的の関係性の低減
12.サッケードの角度に対する標的の関係性の低減
13.サッケードの大きさ(サッケードの距離)の低減
14.アンティサッケード/プロサッケードの比率の増加
15.滑動性追従の増加
16.画面距離の増加
17.標的に関係する頭部方向の低減
18.標的に関係する頭部の固定の低減
19.標的に関係する四肢の運動の低減
20.アルファ/デルタ脳波割合の低減
21.酸素飽和度が低い
22.血圧の変化
23.反応時間の増加
1.眼瞼裂の変化率の低減
2.眼瞼裂距離の休息状態が低い
3.眼瞼裂距離の活性状態が低い
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.開散率の増加
9.固視の初期位置および最終位置に対する関係性の低減
10.固視継続時間の増加
11.サッケードの初期位置および最終位置に対する標的の関係性の低減
12.サッケードの角度に対する標的の関係性の低減
13.サッケードの大きさ(サッケードの距離)の低減
14.アンティサッケード/プロサッケードの比率の増加
15.滑動性追従の増加
16.画面距離の増加
17.標的に関係する頭部方向の低減
18.標的に関係する頭部の固定の低減
19.標的に関係する四肢の運動の低減
20.アルファ/デルタ脳波割合の低減
21.酸素飽和度が低い
22.血圧の変化
23.反応時間の増加
システムは、ユーザが以下の変化に基づいてVR、ARおよび/またはMxR環境内のメディアと相互作用をしている間に疲労のレベルの低減を経験していると決定してもよい。
1.瞬目率の増加
2.瞬目率に対する変化率の増加
3.瞳孔径に対する変化率の増加
4.輻輳の比率の増加
5.固視継続時間の変化率の増加
6.固視率の増加
7.固視回数の増加
8.復帰抑制の増加
9.サッケード速度の増加
10.サッケード率の変化の増加
11.サッケード回数(サッケードの数)の増加
12.重量配分の移動
13.アルファ/シータ脳波割合の増加
14.体温の増加
15.呼吸数の増加
16.心拍数の増加
17.発声の増加
1.瞬目率の増加
2.瞬目率に対する変化率の増加
3.瞳孔径に対する変化率の増加
4.輻輳の比率の増加
5.固視継続時間の変化率の増加
6.固視率の増加
7.固視回数の増加
8.復帰抑制の増加
9.サッケード速度の増加
10.サッケード率の変化の増加
11.サッケード回数(サッケードの数)の増加
12.重量配分の移動
13.アルファ/シータ脳波割合の増加
14.体温の増加
15.呼吸数の増加
16.心拍数の増加
17.発声の増加
また他の変化も記録されてもよく、異なる方法で解釈することができる。これらは、これに限定されないが、顔の表情の変化(特殊な表情に依存してもよい)、味覚処理の変化、嗅覚処理の変化、および聴覚処理の変化を含んでもよい。
データ取得コンポーネント、データの型、およびデータの変化の上述の一覧は、疲労を低減するために必要な変数を決定するために使用されてもよいが、これらの一覧は排他的ではなく、他のデータ取得コンポーネント、データの型、およびデータの変化を含んでもよいことに留意されたい。
2008では、決定された複数のデータの継時的な変化は、ユーザの疲労レベルの変化の程度を決定するために使用されてもよい。疲労レベルの変化は疲労の向上または疲労の低減のいずれを示してもよい。
2010では、ユーザにレンダリングしたメディアは、疲労の低減した(または向上した)程度に基づいて修正されてもよい。実施形態では、メディアは、増加した疲労に反映するデータの変化のすべてに対処するために修正されてもよい。実施形態では、1つまたは複数の以下の修正の組合せを行ってもよい。
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1つまたは複数の以下の表示、すなわち眼瞼裂の高さの増加、部分的な瞬目の完全な瞬目に対する比率の低減、瞳孔の初期位置および最終位置に対する標的の関係性の増加、凝視方向に対する標的の関係性の増加、凝視の初期位置および最終位置に対する標的の関係性の増加、固視の初期位置および最終位置に対する関係性の増加、固視率の低減、固視回数の低減、サッケードの初期位置および最終位置に対する標的の関係性の増加、サッケードの角度に対する標的の関係性の増加、サッケードの大きさの増加、アンティサッケード/プロサッケードの比率の低減、滑動性追従の低減、画面距離の低減、標的に関係する頭部方向の増加、標的に関係する頭部の固定の増加、標的に関係する四肢の運動の増加、重量配分の移動の低減、アルファ/デルタ脳波割合の増加、標準体温、標準呼吸数、90〜100%の酸素飽和度、標準血圧、標的に関係した顔の表情、標的に関係した味覚処理、標的に関係した嗅覚処理、および標的に関係した聴覚処理は、疲労レベルの低減を確認するために観察されてもよい。
実施形態では、疲労の増加の特定の百分率または範囲が画定されてもよい。実施形態では、データに対する追加の値は、2010で修正が実行された後、2014で継時的にデータの変更をさらに決定するために、2012で取得されてもよい。2016では、疲労のレベルの増加の新しい程度/百分率/範囲が取得されてもよい。2018では、システムは、疲労のレベルの増加が特定の範囲または百分率内であるかどうかを決定する。増加が特定された範囲より大きいとシステムが決定した場合、システムはメディアをさらに修正するためにステップ2010にループバックしてもよい。したがってメディアは繰り返し修正されてもよく2010、疲労のレベルは、1%〜10000%のどこかの向上の百分率、またはその中のあらゆる増加を達するまで測定されてもよい。
一実施形態では、システムは多数の重量または機能を上記の1つまたは複数の測定値に、所与のアプリケーションに対するそれらの統計的有意性に基づいて、それらの関係性に基づいて、かつ/または解釈における曖昧性のそれらの程度に基づいて適用する。
システムは、好ましくは状況および測定値の所定の階層に基づいて様々な測定値に算術的に重点をおき、測定値の第1の階層は測定値の第2の階層より大きい重点を有し、測定値の第2の階層は測定値の第3の階層より大きい重点を有する。測定値はそれらの曖昧性の程度およびある特定の状況に基づいた関係性に基づいて階層に分類される。
システムは、ある特定の概念に基づいた状態の間のタイミングの関係を決定するために、取組みと把握力と疲労との間の相互関係などの異なる状態の任意のおよびすべての相互関係をさらに追跡する。これらの相互関係は、即時でもまたは何らかの時間遅延を伴ってもよい(例えば疲労の増加から少し期間をおいた後に取組み継続時間が続く)。本明細書の実施形態では、任意のおよびすべての相互関係は、それらの相互関係が直感的であると思われるか否かを見出してもよい。
見出されたあらゆる有意の相互関係に対して、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて、含まれる測定値の相互作用をモデル化する。例えば位置の精度、時間の精度などを検出、弁別するユーザの能力などの直接測定値は、様々なアプリケーションにわたって求められる。また疲労および持久力に限定されないような間接的測定値も、様々なアプリケーションにわたって監視される。しかしゲームアプリケーションは、褒美/得点を決定するためにより有意であるように、ユーザの視覚的注意、複数追跡への能力などの測定値を見出してもよい。それと同時に画面上の特殊な製品または色により多く注意を払うユーザの能力により、広告アプリケーションが関係した測定値に向かってより大きな有意性をおくことがある。
使用例3:該当メディア内の情報でユーザの取組みを向上するためにメディアを修正する
一実施形態では、ユーザの取組みの程度は、多数の測定値から導出される。ユーザの取組みは、ユーザが取り組んでいるか否かを2進状態として決定されてもよい。特定のアプリケーションまたは課題との2進のユーザの取組みは、事象へのユーザの応答またはその欠如によって直接測定することができる。さらに上に詳述された把握力および疲労の測定値は、把握力および/または疲労の必須条件のような取組みを表示するために使用することができる。またアプリケーション、装置および/または課題から離れて環境内の他のものに向かって配向した行為(すなわち何らかの他のものとの取組み)も、ユーザがアプリケーション、装置および/または課題に取り組んでいるかどうかの信号を送ることができる。ユーザの取組みのレベルは、分割された注意と反対にユーザが焦点を合わせた注意および課題にかかる時間の測定値を観察することによって導出することができる。またユーザの刺激の認知を高めるユーザの行為も、高められた取組みを示すことがある。刺激の認知における高まりを示す行為には、とりわけ分野の適切な深さに傾くこと、瞬目率が遅くなること、焦点を信号で送る視線転導を含んでもよい。
一実施形態では、ユーザの取組みの程度は、多数の測定値から導出される。ユーザの取組みは、ユーザが取り組んでいるか否かを2進状態として決定されてもよい。特定のアプリケーションまたは課題との2進のユーザの取組みは、事象へのユーザの応答またはその欠如によって直接測定することができる。さらに上に詳述された把握力および疲労の測定値は、把握力および/または疲労の必須条件のような取組みを表示するために使用することができる。またアプリケーション、装置および/または課題から離れて環境内の他のものに向かって配向した行為(すなわち何らかの他のものとの取組み)も、ユーザがアプリケーション、装置および/または課題に取り組んでいるかどうかの信号を送ることができる。ユーザの取組みのレベルは、分割された注意と反対にユーザが焦点を合わせた注意および課題にかかる時間の測定値を観察することによって導出することができる。またユーザの刺激の認知を高めるユーザの行為も、高められた取組みを示すことがある。刺激の認知における高まりを示す行為には、とりわけ分野の適切な深さに傾くこと、瞬目率が遅くなること、焦点を信号で送る視線転導を含んでもよい。
より具体的には、本明細書は、該当メディアによって連通される情報とのユーザの取組みを向上させるために、VR、ARおよび/もしくはMxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内に表示されたメディアを修正するためにユーザに提供される方法、システムおよびソフトウェアを説明する。図21は、本明細書の一部の実施形態により、取組みを向上させるためにメディアを修正するための例示的工程を説明する流れ図を示す。2102では、さらに以下に説明されるように、複数のデータに対する第1の値が取得される。実施形態では、データは、眼球運動データ(素早い走査および/またはサッケード運動)、瞬目率データ、固視データ、瞳孔径、瞼の間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。加えてVR、ARおよび/またはMxR装置は、その中に組み込まれる以下のセンサの1つまたは複数を含むことができる。
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
実施形態では、これらの装置の組合せによって取得されたデータは、眼瞼裂(その変化率、初期状態、最終状態、および動的変化を含む)、瞬目率(その変化率および/または部分瞬目の完全瞬目に対する比率を含む)、瞳孔径(その変化率、初期状態、最終状態、および動的変化を含む)、瞳孔位置(その初期位置、最終位置を含む)、凝視方向、凝視位置(その初期位置および最終位置を含む)、転導(比率に基づいた輻輳に対する開散、継続時間、および/または動的変化を含む)、固視位置(その初期位置、最終位置を含む)、固視継続時間(変化率を含む)、固視率、固視回数、サッケード位置(その変化率、初期位置、および最終位置を含む)、サッケード角度(標的に向かうその関連性を含む)、サッケードの大きさ(その距離、アンティサッケードまたはプロサッケードを含む)、プロサッケード(その比率に対するアンティサッケードを含む)、アンティサッケード(その比率に対するプロサッケードを含む)、復帰抑制(存在および/または大きさを含む)、サッケード速度(大きさ、方向および/または標的に向かう関連性を含む)、サッケード回数を含むサッケード率、追従眼球運動(それらの開始、継続時間、および/または方向を含む)、画面距離(その変化率、初期位置、および/または最終位置を含む)、頭部方向(その変化率、初期位置、および/または最終位置を含む)、頭部固定(その変化率、初期位置、および/または最終位置を含む)、四肢追跡(その変化率、初期位置、および/または最終位置を含む)、重量配分(その変化率、初期配分、および/または最終配分を含む)、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温(その変化率、初期温度、および/または最終温度を含む)、呼吸数(その変化率、初期比率、および/または最終比率を含む)、酸素飽和度、心拍数(その変化率、初期心拍数、および/または最終心拍数を含む)、血圧、発声(その高さ、大きさ、および/または意味を含む)、推定された遠心性応答、呼吸数、顔の表情(微表情を含む)、嗅覚処理、味覚処理、ならびに聴覚処理の1つまたは複数に関連するデータを含んでもよい。各データの型は考慮したときに重点を個別にまたは組み合わせて保持することがある。
メディア内で一部の空間的に画定された工程のユーザの取組みを精査するために、システムは、ユーザが見ているところの測定値を適用し、ユーザがメディア内の関係領域に対するメディア内の無関係領域を見るのに費やす時間の割合を測定する。
一実施形態では、有意な把握力の信号を送るあらゆる測定値、または課題との取組みの信号を決定するために使用される際の把握力の発現。把握力の測定値は、把握力の必須条件のような取組みを示すために使用することができる。
2進状態としての取組み
ユーザがアプリケーションに取り組んでいるか否かを時間の関数として2進状態を割り当てることは、曖昧性の少ない合図に依存してもよい。2進状態でユーザの取組みを示す測定値(または合図)は以下を含んでもよい。
ユーザがアプリケーションに取り組んでいるか否かを時間の関数として2進状態を割り当てることは、曖昧性の少ない合図に依存してもよい。2進状態でユーザの取組みを示す測定値(または合図)は以下を含んでもよい。
1.離散した意識的な応答
一実施形態では、100%未満の応答率、または応答の別のより低い基線率は、取り組んでいない状態の表示であると決定される。応答率は、これに限定されないが、ユーザが逃すことがある応答が許容される短時間の状態などの状況に依存してもよい。一部の実施形態では、ユーザは、マウスクリックまたは画面タッチなどの手動の相互作用を通して応答することが予想されてもよい。システムは、ユーザがそのようにすることが予想されたあらゆる時点でユーザが応答したかどうかを書き留める。ユーザが応答に失敗した場合は、ユーザはアプリケーションに取り組んでいない傾向がある。
一実施形態では、100%未満の応答率、または応答の別のより低い基線率は、取り組んでいない状態の表示であると決定される。応答率は、これに限定されないが、ユーザが逃すことがある応答が許容される短時間の状態などの状況に依存してもよい。一部の実施形態では、ユーザは、マウスクリックまたは画面タッチなどの手動の相互作用を通して応答することが予想されてもよい。システムは、ユーザがそのようにすることが予想されたあらゆる時点でユーザが応答したかどうかを書き留める。ユーザが応答に失敗した場合は、ユーザはアプリケーションに取り組んでいない傾向がある。
一部の実施形態では、機能の急激な変化は、ユーザによって提供された正しい応答の総百分率を通してシステムによって書き留められる。機能の急激な変化は、取組み(機能の急激な変化が増加した)または離脱(機能の急激な変化が低減した)の信号を送ることがある。システムは、これに限定されないが、難易度にほとんどもしくは全く変化がない、また機能の向上に影響を及ぼす学習/訓練を考慮に入れないことを含むような機能の変化に対する他の原因を除外してもよい。したがって正しい応答の平均百分率から上方または下方への著しい逸脱は、取組みまたは離脱のそれぞれの信号を送るとみなされる。システムは、ユーザが反応する行為の有無に基づいてVR/AR/MxR環境内のメディアコンテンツに取り組んでいるか、取り組んでいないかを決定してもよい。
2.注意散漫
一実施形態では、注意が散漫した行為は離脱、または1つのものから離れて別のものに向かう取組みの移行の信号を送ることができる。目の前にある課題に関係しない装置入力は離脱の発現および恐らく継続時間を示す。アプリケーション、装置または課題から頭部または眼を背けることは、同様に離脱を示すことがある。アプリケーション、装置または課題に戻ることは再取組みの信号を送ることがある。システムは、取組みの欠如または離脱を示す際に、特定の課題または刺激から相互作用が離れたと決定する。システムは、ユーザがメディアから背けていることを示す身体および視線追跡測定値に基づいて、ユーザの注意の測定値を通して注意散漫に起因する離脱を決定する。システムは、注意が散漫した行為に基づいて、ユーザがVR/AR/MxR環境内のメディアコンテンツに取り組んでいる、取り組んでいない、または離脱しているかを決定してもよい。
一実施形態では、注意が散漫した行為は離脱、または1つのものから離れて別のものに向かう取組みの移行の信号を送ることができる。目の前にある課題に関係しない装置入力は離脱の発現および恐らく継続時間を示す。アプリケーション、装置または課題から頭部または眼を背けることは、同様に離脱を示すことがある。アプリケーション、装置または課題に戻ることは再取組みの信号を送ることがある。システムは、取組みの欠如または離脱を示す際に、特定の課題または刺激から相互作用が離れたと決定する。システムは、ユーザがメディアから背けていることを示す身体および視線追跡測定値に基づいて、ユーザの注意の測定値を通して注意散漫に起因する離脱を決定する。システムは、注意が散漫した行為に基づいて、ユーザがVR/AR/MxR環境内のメディアコンテンツに取り組んでいる、取り組んでいない、または離脱しているかを決定してもよい。
取組みのレベル
ユーザの取組みのレベルは、ユーザが他のものを除いてアプリケーション、装置または課題に取り組んでいる程度を連続次元に沿ってさらに測定する。この相対測定値は、記録された値の範囲に正規化されてもよい。一例では、固視継続時間の分布に比べた現行の項目における固視継続時間が、相対測定値として使用される。別法として、注意を散漫にする刺激の存在で、1つの項目に対する別の項目に費やす時間または労力の割合は、取組みのレベルを決定するために使用される。
ユーザの取組みのレベルは、ユーザが他のものを除いてアプリケーション、装置または課題に取り組んでいる程度を連続次元に沿ってさらに測定する。この相対測定値は、記録された値の範囲に正規化されてもよい。一例では、固視継続時間の分布に比べた現行の項目における固視継続時間が、相対測定値として使用される。別法として、注意を散漫にする刺激の存在で、1つの項目に対する別の項目に費やす時間または労力の割合は、取組みのレベルを決定するために使用される。
1.課題に費やす時間
一実施形態では、ユーザの相互作用は、2つ以上のアプリケーションまたは課題で測定される。実施形態では、このような場合に、あらゆるアプリケーションまたは課題に取り組むレベルは、それと相互作用していないことに費やした時間と比べた、それと相互作用して費やした時間の割合として取られる。したがってシステムは、課題を行っている、または刺激を処理していることに費やしていない時間に比べた、課題を行っている、または刺激を処理していることに費やした時間の割合として、課題に費やす相対時間を決定してもよい。取組みは、課題に費やす相対時間の値に比例する。システムは、ユーザが課題を行うことに比較的長い時間を費やす課題またはアプリケーションとより長く取り組んでいると決定する。システムは、課題に費やす相対時間に基づいて、ユーザがVR/AR/MxR環境内のメディアコンテンツに取り組んでいる、取り組んでいない、または離脱しているかどうかを決定してもよい。
一実施形態では、ユーザの相互作用は、2つ以上のアプリケーションまたは課題で測定される。実施形態では、このような場合に、あらゆるアプリケーションまたは課題に取り組むレベルは、それと相互作用していないことに費やした時間と比べた、それと相互作用して費やした時間の割合として取られる。したがってシステムは、課題を行っている、または刺激を処理していることに費やしていない時間に比べた、課題を行っている、または刺激を処理していることに費やした時間の割合として、課題に費やす相対時間を決定してもよい。取組みは、課題に費やす相対時間の値に比例する。システムは、ユーザが課題を行うことに比較的長い時間を費やす課題またはアプリケーションとより長く取り組んでいると決定する。システムは、課題に費やす相対時間に基づいて、ユーザがVR/AR/MxR環境内のメディアコンテンツに取り組んでいる、取り組んでいない、または離脱しているかどうかを決定してもよい。
一実施形態では、ユーザは、アプリケーションまたは課題の間を切り替え、応答はそれぞれのアプリケーションまたは課題に対して記録される。この場合、システムは、アプリケーション/課題との取組みのレベルを決定するために、それぞれのアプリケーション/課題との相互作用の数および/または継続時間を使用する。したがってシステムは、各課題との取組みの相対測定値と同じように、それぞれに対する課題に費やす時間を表示する利用可能な課題の中の相互作用の比率を決定する。
一実施形態では、システムは視線追跡を行う。実施形態では、アプリケーション、装置または課題の間の固視回数および/または継続時間、ならびにそれ以外のことの比率は、取組みのレベルの測定値として使用される。したがってシステムは、それぞれの刺激または視覚領域との取り組みの相対測定値と同じように、課題に費やす時間を表示する刺激および/または視覚領域の中の固視回数および/または継続時間の比率を決定する。
2.認知の向上
一部の行為により、ユーザはより良好に刺激を認知することができ、刺激に取り組むユーザのレベルの信号を送ることができる。一部の実施形態では、顔および/または身体追跡は、ユーザが表示装置に向かって傾く、または保持している間に表示装置をユーザの顔に近づけるとき、およびその度合を測定するためにシステムによって使用される。一実施形態では、システムは、取組みの発現の表示として視覚刺激とユーザの眼との間の距離の著しい短縮、および取組みのレベルの表示として基線からの比例偏差を決定する。システムは、視覚刺激とユーザの眼との間の距離の著しい短縮に基づいて、VR/AR/MxR環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
一部の行為により、ユーザはより良好に刺激を認知することができ、刺激に取り組むユーザのレベルの信号を送ることができる。一部の実施形態では、顔および/または身体追跡は、ユーザが表示装置に向かって傾く、または保持している間に表示装置をユーザの顔に近づけるとき、およびその度合を測定するためにシステムによって使用される。一実施形態では、システムは、取組みの発現の表示として視覚刺激とユーザの眼との間の距離の著しい短縮、および取組みのレベルの表示として基線からの比例偏差を決定する。システムは、視覚刺激とユーザの眼との間の距離の著しい短縮に基づいて、VR/AR/MxR環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
一実施形態では、両眼の凝視方向の追跡は、ユーザが刺激を閲覧するために適切な奥行きで(これは凝視が適切な方向であるかどうかより優位である)自身の凝視位置を集中している度合を測定するために使用される。一実施形態では、システムは、該当刺激との取組みの信号として刺激を閲覧するために適切な奥行き(ここでは凝視の方向とは別個とみなされる)に向かって3D凝視位置の調節を決定する。システムは、刺激を閲覧するために適切な奥行きに向かう3D凝視位置の調節に基づいて、VR/AR/MxR環境内のメディアコンテンツ内の刺激とのユーザの取組みのレベルを決定してもよい。
一部の実施形態では、取組みの相対測定値は、ユーザが、微妙な変化を見分ける役に立つことができる刺激により確固としたまたは安定した固定を維持するときに示される。一実施形態では、システムは、微妙な変化もしくは動き、または取組みの表示としてあらゆる変化もしくは動きの正確な発現を監視する状況における確固とした固定を決定する。システムは、微妙な変化もしくは動きを監視する状況における確固とした固定に基づいて、VR/AR/MxR環境内のメディアコンテンツ内の刺激とのユーザの取組みのレベルを決定してもよい。
刺激の付近または周囲でサンプリングをより多くすることにより、ユーザが刺激の詳細を学ぶ際に取組みの増加を表示することがある。一実施形態では、システムは、焦点の領域は質問内の刺激の空間広がりと相互に関係する焦点領域(「把握力」の文脈でも説明される)に基づいて、取組みのレベルを決定する。システムは、メディア内のユーザの焦点領域に基づいてVR/AR/MxR環境内のメディアコンテンツ内の刺激とのユーザの取組みのレベルを決定してもよい。
一実施形態では、システムは、進行中の課題との取組みの表示として、基線より著しく下回る瞬目率を決定する。別法として、システムは、進行中の課題との取組みのレベルの表示であるように、固定された領域内のユーザの所与の視線凝視位置の見積もりを決定する。瞬目率の低減は、取組みの増加するレベルを示すことができる。システムは、ユーザの瞬目率および/または視線凝視位置に基づいてVR/AR/MxR環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
場合によってユーザは、メディア内の刺激の微妙な変化を監視することに対して、メディア上に焦点を合わせるために身体の動きを低減するように息を止めることがある。一実施形態では、システムは、取組みの表示として監視の状況において呼吸を低減または止めていると決定する。システムは、メディア内の刺激の変化を監視している間に、ユーザの息に基づいてVR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
3.嗜好
ユーザは2つ以上の選択肢がメディア内に現れたときに、あるオブジェクト(複数可)をその他より好むことがある。データの所与の適切な源の関心対象のオブジェクトが1つのみであっても、システムは、取組みのレベルを導出するために、ユーザの現在置かれた環境内のどこかと関心対象のオブジェクトを比較する状況で続く測定値を決定してもよい。
ユーザは2つ以上の選択肢がメディア内に現れたときに、あるオブジェクト(複数可)をその他より好むことがある。データの所与の適切な源の関心対象のオブジェクトが1つのみであっても、システムは、取組みのレベルを導出するために、ユーザの現在置かれた環境内のどこかと関心対象のオブジェクトを比較する状況で続く測定値を決定してもよい。
概してユーザが好むオブジェクトをより多く見ることに加えて、一部の他の視線追跡測定値は、嗜好、およびさらに進めると取組みを見積もるために使用することができる。一実施形態では、システムは、選別をする直前にユーザの最終固視が選別の項目上にあることを予測する。したがってシステムは、選別がユーザによってなされたとき、選別の選択された刺激の上の最終固視の継続時間が、その選別と、および選択された課題とのユーザの取組みのレベルに比例すると画定されることを決定する。この場合、選別は以下の選択に結び付けられ、それ自体が嗜好(例えばユーザは明確に選択することなく選別を続けることがある)を表示しない「選別」の例の場合を取り除く。別法として、決断の工程の始めに、第1の固視の継続時間は最終的な選択と相互に関係する。システムは、選別がユーザによってなされるとき、あらゆる刺激の上の第1の固視の継続時間に基づいてVR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。この場合、継続時間は選択された課題との取組みのレベルに比例すると決定される。
実施形態では、視線凝視の広いパターンは選別がなされる前に選別を明らかにすることができ、視線凝視のパターンは刺激が表れないときであっても選別に影響を与えることができる。また実施形態では、システムは、類似した特性をもつ新規のオブジェクトに対する嗜好を予測するために、オブジェクト内の特徴に対するユーザの嗜好を使用する。
凝視方向に加えて、嗜好/取組みの他の測定値は、他の視線追跡データに基づいてなされてもよい。一実施形態では、システムは、ユーザの取組みのレベルを測定するために、好みの課題の選別を決断中に増加する瞳孔の膨張を決定する。システムは、決断中に視線追跡データから観察された瞳孔の膨張に基づいて、VR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
嗜好/取組みの別の測定値は、瞬目から導出されてもよい。瞬目はユーザが開発のかなり初期から視覚刺激に取り組んでいるときに抑制されていることを論じているが、システムも離脱に関連するように固視がほとんどない課題に関連した領域とともに、瞬目が増加すると決定することがある。また離脱は、瞬目が著しく増加した後に続く誤りを観察することによって測定されてもよい。システムは、眼の瞬きの著しい増加に基づいて、VR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの離脱のレベルを決定してもよい。
刺激への注意を表示することがある把握力の文脈で先に述べた、事象に関連した信号に加えて、システムは、決断および/または選別を示すことができる一部のより一般化された測定値を決定してもよい。このような測定値は、ある特定の状況における取組みに比例すると仮定することができる。一実施形態では、システムは、課題との取組みのレベルの増加の表示として、選別中にEEG活動の2相の同期が増加したことを決定する。システムは、EEGなどの電気生理学の測定結果に基づいて、VR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
EEGに加えて、他の生理学および自律神経の測定値は、取組みのレベルを決定するためにシステムによって使用されてもよい。一実施形態では、システムは、取組みのレベルの増加が心拍数の増加に比例すると決定する。同様に血圧、酸素飽和度、および呼吸数の変化は、皮膚導電(GSR)の変化とともにシステムによって使用されてもよい。したがって実施形態では、システムは、取組みの増加の表示として自律神経の覚醒の増加を、また離脱として覚醒の低減を決定する。システムは、自律神経の覚醒の変化に基づいて、VR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアコンテンツとのユーザの取組みのレベルを決定してもよい。
他の相互関係
実施形態では、システムは、行為、生理学的および/または自律神経の測定値の間の新しい相互関係、ならびに一致した相互作用、比例して高く課題に費やす時間、および知覚的に高まる振る舞いのような曖昧性の少ない取組みの兆候を発見できる機械学習を使用する。一部の例では、上記の測定値の一部は特殊な状況であり、程度の差はあるが安定しており、予期しているものの反対の信号を送ることでさえあり得る。したがって取組みの曖昧性の少ない有意な相互関係をもつ測定値は、それら自体の曖昧性が少なくなり、取組みを同定する新しい方法になることがある。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群のためにその取組みの要因を増加するために修正される。
実施形態では、システムは、行為、生理学的および/または自律神経の測定値の間の新しい相互関係、ならびに一致した相互作用、比例して高く課題に費やす時間、および知覚的に高まる振る舞いのような曖昧性の少ない取組みの兆候を発見できる機械学習を使用する。一部の例では、上記の測定値の一部は特殊な状況であり、程度の差はあるが安定しており、予期しているものの反対の信号を送ることでさえあり得る。したがって取組みの曖昧性の少ない有意な相互関係をもつ測定値は、それら自体の曖昧性が少なくなり、取組みを同定する新しい方法になることがある。したがってVR/AR/MxR環境内に現れたメディアは、ユーザおよび/またはユーザの群のためにその取組みの要因を増加するために修正される。
2104では、上記の複数のデータに対する第2の値が取得される。実施形態では、第1の値および第2の値は、上記のデータの型を含む同じデータの型からなる。2106では、データの第1および第2の値は、継時的に複数のデータの1つまたは複数の変化を決定するために使用される。現在使用している場合のシナリオの実施形態では、システムのハードウェアおよびソフトウェアによって追跡され記録された1つまたは複数の以下の変化は、VR/AR/MxRメディアとのユーザの増加した取組みに反映することがある。
1.眼瞼裂の変化率の低減
2.瞬目率に対する変化率の増加
3.瞳孔径に対する変化率の増加
4.輻輳の比率の増加
5.開散の比率の増加
6.固視継続時間の変化率の増加
7.固視率の増加
8.固視回数の増加
9.復帰抑制の増加
10.サッケード速度の増加
11.サッケード率の変化の増加
12.サッケード回数(サッケードの数)の増加
13.滑動性追従の増加
14.アルファ/シータ脳波割合の増加
1.眼瞼裂の変化率の低減
2.瞬目率に対する変化率の増加
3.瞳孔径に対する変化率の増加
4.輻輳の比率の増加
5.開散の比率の増加
6.固視継続時間の変化率の増加
7.固視率の増加
8.固視回数の増加
9.復帰抑制の増加
10.サッケード速度の増加
11.サッケード率の変化の増加
12.サッケード回数(サッケードの数)の増加
13.滑動性追従の増加
14.アルファ/シータ脳波割合の増加
システムは、ユーザが1つまたは複数の以下の変化に基づいてVR、ARおよび/またはMxR環境内のメディアとの取組みの低減したレベルを有すると決定してもよい。
1.眼瞼裂距離の休息状態が低い
2.眼瞼裂距離の活性状態が低い
3.瞬目率の増加
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.固視の初期位置および最終位置に対する関係性の低減
9.固視の継続時間の低減
10.サッケードの初期位置および最終位置に対する標的の関係性の低減
11.サッケードの角度に対する標的の関係性の低減
12.課題に依存したサッケードの大きさ(サッケードの距離)の低減
13.アンティサッケード/プロサッケードの比率の増加
14.画面距離の増加
15.標的に関係する頭部方向の低減
16.標的に関係する頭部の固定の低減
17.標的に関係する四肢の運動の低減
18.重量配分の移動
19.アルファ/デルタ脳波割合の低減
20.体温の増加
21.呼吸数の増加
22.酸素飽和度が低い
23.心拍数の増加
24.血圧が低い
25.発声の増加
1.眼瞼裂距離の休息状態が低い
2.眼瞼裂距離の活性状態が低い
3.瞬目率の増加
4.部分的な瞬目の完全な瞬目に対する比率の増加
5.瞳孔の初期位置および最終位置に対する標的の関係性の低減
6.凝視方向に対する標的の関係性の低減
7.凝視の初期位置および最終位置に対する標的の関係性の低減
8.固視の初期位置および最終位置に対する関係性の低減
9.固視の継続時間の低減
10.サッケードの初期位置および最終位置に対する標的の関係性の低減
11.サッケードの角度に対する標的の関係性の低減
12.課題に依存したサッケードの大きさ(サッケードの距離)の低減
13.アンティサッケード/プロサッケードの比率の増加
14.画面距離の増加
15.標的に関係する頭部方向の低減
16.標的に関係する頭部の固定の低減
17.標的に関係する四肢の運動の低減
18.重量配分の移動
19.アルファ/デルタ脳波割合の低減
20.体温の増加
21.呼吸数の増加
22.酸素飽和度が低い
23.心拍数の増加
24.血圧が低い
25.発声の増加
また他の変化も記録されてもよく、異なる方法で解釈することができる。これらは、これに限定されないが、顔の表情の変化(特殊な表情に依存してもよい)、味覚処理の変化、嗅覚処理の変化、および聴覚処理の変化を含んでもよい。
データ取得コンポーネント、データの型、およびデータの変化の上述の一覧は、取組みの向上に必要な変数を決定するために使用されてもよいが、これらの一覧は排他的ではなく、他のデータ取得コンポーネント、データの型、およびデータの変化を含んでもよいことに留意されたい。
2108では、決定された複数のデータの継時的な変化は、ユーザの取組みのレベルの変化の程度を決定するために使用されてもよい。取組みのレベルの変化は取組みの向上または取組みの低減のいずれを示してもよい。
2110では、ユーザにレンダリングしたメディアは、取組みの低減した(または向上した)程度に基づいて修正されてもよい。実施形態では、メディアは、低減した取組みに反映するデータの変化のすべてに対処するために修正されてもよい。実施形態では、1つまたは複数の以下の修正の組合せを行ってもよい。
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1つまたは複数の以下の表示、すなわち眼瞼裂の高さの増加、瞬目率の低減、部分的な瞬目の完全な瞬目に対する比率の低減、瞳孔の初期位置および最終位置に対する標的の関係性の増加、凝視方向に対する標的の関係性の増加、凝視の初期位置および最終位置に対する標的の関係性の増加、固視の初期位置および最終位置に対する関係性の増加、課題に依存する固視の継続時間の低減、サッケードの初期位置および最終位置に対する標的の関係性の増加、サッケードの角度に対する標的の関係性の増加、課題に基づいたサッケードの大きさの増加、アンティサッケード/プロサッケードの比率の低減、画面距離の低減、標的に関係する頭部方向の増加、標的に関係する頭部の固定の増加、標的に関係する四肢の運動の増加、重量配分の移動の低減、アルファ/デルタ脳波割合の増加、標準体温、標準呼吸数、90〜100%の酸素飽和度、標準心拍数、標準血圧、課題に関係する発声、課題に関係する顔の表情、反応時間の低減、課題に関係する味覚処理、課題に関係する嗅覚処理、および課題に関係する聴覚処理は、把握力の向上を確認するために観察されてもよい。
実施形態では、取組みの向上の特定の百分率または範囲が画定されてもよい。実施形態では、データに対する追加の値は、2110で修正が実行された後、2114で継時的にデータの変更をさらに決定するために、2112で取得されてもよい。2116では、取組みの向上の新しい程度/百分率/範囲が取得されてもよい。2118では、システムは、取組みの向上が特定の範囲または百分率内であるかどうかを決定する。向上が不十分であるとシステムが決定した場合、システムはメディアをさらに修正するためにステップ2110にループバックしてもよい。したがってメディアは繰り返し修正されてもよく2110、取組みは、1%〜10000%のどこかの向上の百分率、またはその中のあらゆる増加を達するまで測定されてもよい。
一実施形態では、システムは多数の重量または機能を上記の1つまたは複数の測定値に、所与のアプリケーションに対するそれらの統計的有意性に基づいて、それらの関係性に基づいて、かつ/または解釈における曖昧性のそれらの程度に基づいて適用する。
システムは、好ましくは状況および測定値の所定の階層に基づいて様々な測定値に算術的に重点をおき、測定値の第1の階層は測定値の第2の階層より大きい重点を有し、測定値の第2の階層は測定値の第3の階層より大きい重点を有する。測定値はそれらの曖昧性の程度およびある特定の状況に基づいた関係性に基づいて階層に分類される。
システムは、ある特定の概念に基づいた状態の間のタイミングの関係を決定するために、取組みと把握力と疲労との間の相互関係などの異なる状態の任意のおよびすべての相互関係をさらに追跡する。これらの相互関係は、即時でもまたは何らかの時間遅延を伴ってもよい(例えば疲労の増加から少し期間をおいた後に取組み継続時間が続く)。本明細書の実施形態では、任意のおよびすべての相互関係は、それらの相互関係が直感的であると思われるか否かを見出してもよい。
見出されたあらゆる有意の相互関係に対して、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて、含まれる測定値の相互作用をモデル化する。例えば位置の精度、時間の精度などを検出、弁別するユーザの能力などの直接測定値は、様々なアプリケーションにわたって求められる。また疲労および持久力に限定されないような間接的測定値も、様々なアプリケーションにわたって監視される。しかしゲームアプリケーションは、褒美/得点を決定するためにより有意であるように、ユーザの視覚的注意、複数追跡への能力などの測定値を見出してもよい。それと同時に画面上の特殊な製品または色により多く注意を払うユーザの能力により、広告アプリケーションが関係した測定値に向かってより大きな有意性をおくことがある。
使用例4:該当メディアと相互作用している間にユーザの全性能を向上するためにメディアを修正する
一実施形態では、ユーザの全性能が測定され、メディアはユーザの性能を向上させるために修正される。ユーザの性能はユーザの視覚性能、把握の能力、取組みレベル、疲労、および様々な他のパラメータを組み合わせた形で決定されてもよく、これはVR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアを含むメディアと相互作用している間に、ユーザの全性能に直接または間接的に影響を及ぼす。
一実施形態では、ユーザの全性能が測定され、メディアはユーザの性能を向上させるために修正される。ユーザの性能はユーザの視覚性能、把握の能力、取組みレベル、疲労、および様々な他のパラメータを組み合わせた形で決定されてもよく、これはVR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内のメディアを含むメディアと相互作用している間に、ユーザの全性能に直接または間接的に影響を及ぼす。
一実施形態では、HMDまたはあらゆる他のVR/AR/MxRシステムなどによりユーザから収集されたデータは、ユーザの全性能を決定するように処理されてもよい。データはユーザのメディアとの相互作用の間に評価される性能のレベルを示してもよい。データは、これに限定されないが、視覚を最小にすること、またはメディア経験から生じるあらゆる他の不快感などにより全性能を最適にするために、ユーザに対してVR/AR/MxRメディアを修正するためにさらに利用されてもよい。一実施形態では、メディアはユーザに対してリアルタイムで修正される。別の実施形態では、データが保存され、同様のデータをもつ後続のユーザに、またはユーザに続く、VR/AR/MxRメディア、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータのメディアの提示を修正するために使用される。
より具体的には、本明細書は、該当メディアと相互作用する間にユーザの全性能を向上させるために、VR、ARおよび/またはMxR環境に表示されたメディアを修正するためにユーザに提供される方法、システムおよびソフトウェアを説明する。図22は、本明細書の一部の実施形態により、全性能を向上させるためにメディアを修正するための例示的工程を説明する流れ図を示す。2202では、さらに以下に説明されるように、複数のデータに対する第1の値が取得される。実施形態では、データは、眼球運動データ(素早い走査および/またはサッケード運動)、瞬目率データ、固視データ、瞳孔径、瞼の間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。加えてVR、ARおよび/またはMxR装置は、その中に組み込まれる以下のセンサの1つまたは複数を含むことができる。
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
1.基礎体温、心拍数、身体運動、身体の回転、身体の方向、および/または身体の速度を検出するように構成された1つまたは複数のセンサ
2.四肢の運動、四肢の回転、四肢の方向、および/または四肢の速度を測定するように構成された1つまたは複数のセンサ
3.脈拍数および/または血液酸化を測定するように構成された1つまたは複数のセンサ
4.聴覚処理を測定するように構成された1つまたは複数のセンサ
5.味覚および嗅覚処理を測定するように構成された1つまたは複数のセンサ
6.圧力を測定するための1つまたは複数のセンサ
7.従来のキーボードおよびマウスならびにまたは手動のユーザ・フィードバックを収集するためのあらゆる他の形の制御装置などの少なくとも1つの入力装置
8.脳波検査を行うための装置
9.心電図検査を行うための装置
10.筋電図検査を行うための装置
11.電気眼振検査を行うための装置
12.網膜電図検査を行うための装置
13.ガルバニック皮膚反応を測定するように構成された1つまたは複数のセンサ
実施形態では、これらの装置の組合せによって取得されたデータは、眼瞼裂(その変化率、初期状態、最終状態、および動的変化を含む)、瞬目率(その変化率および/または部分瞬目の完全瞬目に対する比率を含む)、瞳孔径(その変化率、初期状態、最終状態、および動的変化を含む)、瞳孔位置(その初期位置、最終位置を含む)、凝視方向、凝視位置(その初期位置および最終位置を含む)、転導(比率に基づいた輻輳に対する開散、継続時間、および/または動的変化を含む)、固視位置(その初期位置、最終位置を含む)、固視継続時間(変化率を含む)、固視率、固視回数、サッケード位置(その変化率、初期位置、および最終位置を含む)、サッケード角度(標的に向かうその関連性を含む)、サッケードの大きさ(その距離、アンティサッケードまたはプロサッケードを含む)、プロサッケード(その比率に対するアンティサッケードを含む)、アンティサッケード(その比率に対するプロサッケードを含む)、復帰抑制(存在および/または大きさを含む)、サッケード速度(大きさ、方向および/または標的に向かう関連性を含む)、サッケード回数を含むサッケード率、追従眼球運動(それらの開始、継続時間、および/または方向を含む)、画面距離(その変化率、初期位置、および/または最終位置を含む)、頭部方向(その変化率、初期位置、および/または最終位置を含む)、頭部固定(その変化率、初期位置、および/または最終位置を含む)、四肢追跡(その変化率、初期位置、および/または最終位置を含む)、重量配分(その変化率、初期配分、および/または最終配分を含む)、周波数領域(フーリエ)分析、脳波検査の出力、周波数帯、心電図検査の出力、筋電図検査の出力、電気眼振検査の出力、網膜電図検査の出力、ガルバニック皮膚反応、体温(その変化率、初期温度、および/または最終温度を含む)、呼吸数(その変化率、初期比率、および/または最終比率を含む)、酸素飽和度、心拍数(その変化率、初期心拍数、および/または最終心拍数を含む)、血圧、発声(その高さ、大きさ、および/または意味を含む)、推定された遠心性応答、呼吸数、顔の表情(微表情を含む)、嗅覚処理、味覚処理、ならびに聴覚処理の1つまたは複数に関連するデータを含んでもよい。各データの型は考慮したときに重点を個別にまたは組み合わせて保持することがある。
実施形態では、システムは、行為、生理学的および/または自律神経の間の新しい相互関係、ならびに曖昧性の少ない性能の測定値を発見できる機械学習を使用する。一部の例では、上記の測定値の一部は特殊な状況である。システムは、すべての利用可能な測定値を相互に関係させ、全性能の傾向を探すことができる。したがってVR/AR/MxR環境、または従来のラップトップ、携帯電話、デスクトップもしくはタブレットコンピュータ環境内に現れたメディアは、ユーザおよび/またはユーザの群のために性能を向上させ、または最適化するために修正される。
2204では、上記の複数のデータに対する第2の値が取得される。実施形態では、第1の値および第2の値は、上記のデータの型を含む同じデータの型からなる。2206では、データの第1および第2の値は、継時的に複数のデータの1つまたは複数の変化を決定するために使用される。現在使用している場合のシナリオの実施形態では、システムのハードウェアおよびソフトウェアによって追跡され記録された1つまたは複数の以下の変化は、VR/AR/MxRメディアと相互作用する間のユーザの性能の全体の向上に反映することがある。
1.眼瞼裂の変化率の低減
2.瞳孔径に対する変化率の増加
3.輻輳の比率の増加
4.開散の比率の増加
5.固視継続時間の変化率の増加
6.固視率の増加
7.固視回数の増加
8.サッケード速度の増加
9.サッケード回数(サッケードの数)の増加
10.滑動性追従の増加
1.眼瞼裂の変化率の低減
2.瞳孔径に対する変化率の増加
3.輻輳の比率の増加
4.開散の比率の増加
5.固視継続時間の変化率の増加
6.固視率の増加
7.固視回数の増加
8.サッケード速度の増加
9.サッケード回数(サッケードの数)の増加
10.滑動性追従の増加
システムは、ユーザが1つまたは複数の以下の変化に基づいてVR、ARおよび/またはMxR環境内のメディアと相互作用する間に、低減した全性能レベルを有すると決定してもよい。
1.眼瞼裂距離の休息状態が低い
2.眼瞼裂距離の活性状態が低い
3.瞬目率の増加
4.瞬目率に対する変化率の増加
5.部分的な瞬目の完全な瞬目に対する比率の増加
6.瞳孔の初期位置および最終位置に対する標的の関係性の低減
7.凝視方向に対する標的の関係性の低減
8.凝視の初期位置および最終位置に対する標的の関係性の低減
9.固視の初期位置および最終位置に対する関係性の低減
10.状況に基づいた固視の継続時間の変化
11.サッケードの初期位置および最終位置に対する標的の関係性の低減
12.サッケードの角度に対する標的の関係性の低減
13.サッケードの大きさ(サッケードの距離)の低減
14.アンティサッケード/プロサッケードの比率の増加
15.復帰抑制の増加
16.サッケード率の変化の増加
17.画面距離の増加
18.標的に関係する頭部方向の低減
19.標的に関係する頭部の固定の低減
20.標的に関係する四肢の運動の低減
21.重量配分の移動
22.アルファ/デルタ脳波割合の低減
23.アルファ/シータ脳波割合の増加
24.体温の増加
25.呼吸数の増加
26.酸素飽和度が低い
27.心拍数の増加
28.血圧が低い
29.発声の増加
30.反応時間の増加
1.眼瞼裂距離の休息状態が低い
2.眼瞼裂距離の活性状態が低い
3.瞬目率の増加
4.瞬目率に対する変化率の増加
5.部分的な瞬目の完全な瞬目に対する比率の増加
6.瞳孔の初期位置および最終位置に対する標的の関係性の低減
7.凝視方向に対する標的の関係性の低減
8.凝視の初期位置および最終位置に対する標的の関係性の低減
9.固視の初期位置および最終位置に対する関係性の低減
10.状況に基づいた固視の継続時間の変化
11.サッケードの初期位置および最終位置に対する標的の関係性の低減
12.サッケードの角度に対する標的の関係性の低減
13.サッケードの大きさ(サッケードの距離)の低減
14.アンティサッケード/プロサッケードの比率の増加
15.復帰抑制の増加
16.サッケード率の変化の増加
17.画面距離の増加
18.標的に関係する頭部方向の低減
19.標的に関係する頭部の固定の低減
20.標的に関係する四肢の運動の低減
21.重量配分の移動
22.アルファ/デルタ脳波割合の低減
23.アルファ/シータ脳波割合の増加
24.体温の増加
25.呼吸数の増加
26.酸素飽和度が低い
27.心拍数の増加
28.血圧が低い
29.発声の増加
30.反応時間の増加
また他の変化も記録されてもよく、異なる方法で解釈することができる。これらは、これに限定されないが、顔の表情の変化(特殊な表情に依存してもよい)、味覚処理の変化、および嗅覚処理の変化を含んでもよい。
データ取得コンポーネント、データの型、およびデータの変化の上述の一覧は、全体的なユーザの性能を向上させるために必要な変数を決定するために使用されてもよいが、これらの一覧は排他的ではなく、他のデータ取得コンポーネント、データの型、およびデータの変化を含んでもよいことに留意されたい。
2208では、決定された複数のデータの継時的な変化は、ユーザの全性能のレベルの変化の程度を決定するために使用されてもよい。全性能のレベルの変化は性能の向上または性能の低減のいずれを示してもよい。
2210では、ユーザにレンダリングしたメディアは、性能の低減した(または向上した)程度に基づいて修正されてもよい。実施形態では、メディアは、低減した性能に反映するデータの変化のすべてに対処するために修正されてもよい。実施形態では、1つまたは複数の以下の修正の組合せを行ってもよい。
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1.メディアのコンテンツを増加する
2.関心対象のオブジェクトをメディアにより大きく表示させる
3.メディアの輝度を高める
4.視野の中心に示されたメディアに表示された関心対象のオブジェクトの量を増やし、視野の周辺の関心対象の該オブジェクトを低減する
5.メディアに表示されたコンテンツの焦点をより中心位置に変える
6.視野からオブジェクトを除去し、ユーザが該除去を認識したかどうかを測定する
7.該メディア内の色の量を増やす
8.該メディアに示されたオブジェクト内の影の程度を増加する
9.外部データ(人口統計または傾向データ)に基づいて該メディアのRGB値を変える
1つまたは複数の以下の表示、すなわち眼瞼裂の高さの増加、瞬目率の低減、瞬目率に対する変化率の低減、瞳孔の初期位置および最終位置に対する標的の関係性の増加、凝視方向に対する標的の関係性の増加、凝視の初期位置および最終位置に対する標的の関係性の増加、固視の初期位置および最終位置に対する標的の関係性の増加、固視継続時間の低減、サッケードの初期位置および最終位置に対する標的の関係性の増加、サッケードの角度に対する標的の関係性の増加、(課題に関係する)サッケードの大きさの増加、アンティサッケード/プロサッケードの比率の低減、復帰抑制の低減、サッケード率の変化の低減、画面距離の低減、標的に関係する頭部方向の増加、標的に関係する頭部の固定の増加、標的に関係する四肢の運動の増加、重量配分の移動の低減、アルファ/デルタ脳波割合の増加、標準体温、標準呼吸数、90〜100%の酸素飽和度、標準心拍数、標準血圧、課題に関係した発声、課題に関係した顔の表情、反応時間の低減、課題に関係した味覚処理、課題に関係した嗅覚処理、および課題に関係した聴覚処理は、把握力の向上を確認するために観察されてもよい。
実施形態では、全性能の向上の特定の百分率または範囲が画定されてもよい。実施形態では、データに対する追加の値は、2210で修正が実行された後、2214で継時的にデータの変更をさらに決定するために、2212で取得されてもよい。2216では、全性能の向上の新しい程度/百分率/範囲が取得されてもよい。2218では、システムは、全性能の向上が特定の範囲または百分率内であるかどうかを決定する。向上が不十分であると決定した場合、システムはメディアをさらに修正するためにステップ2210にループバックしてもよい。したがってメディアは繰り返し修正されてもよく2210、全性能は、1%〜10000%のどこかの向上の百分率、またはその中のあらゆる増加を達するまで測定されてもよい。
一実施形態では、システムは多数の重量または機能を上記の1つまたは複数の測定値に、所与のアプリケーションに対するそれらの統計的有意性に基づいて、それらの関係性に基づいて、かつ/または解釈における曖昧性のそれらの程度に基づいて適用する。
システムは、好ましくは状況および測定値の所定の階層に基づいて様々な測定値に算術的に重点をおき、測定値の第1の階層は測定値の第2の階層より大きい重点を有し、測定値の第2の階層は測定値の第3の階層より大きい重点を有する。測定値はそれらの曖昧性の程度およびある特定の状況に基づいた関係性に基づいて階層に分類される。
システムは、ある特定の概念に基づいた状態の間のタイミングの関係を決定するために、取組みと把握力と疲労との間の相互関係などの異なる状態の任意のおよびすべての相互関係をさらに追跡する。これらの相互関係は、即時でもまたは何らかの時間遅延を伴ってもよい(例えば疲労の増加から少し期間をおいた後に取組み継続時間が続く)。本明細書の実施形態では、任意のおよびすべての相互関係は、それらの相互関係が直感的であると思われるか否かを見出してもよい。
見出されたあらゆる有意の相互関係に対して、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて、含まれる測定値の相互作用をモデル化する。例えば位置の精度、時間の精度などを検出、弁別するユーザの能力などの直接測定値は、様々なアプリケーションにわたって求められる。また疲労および持久力に限定されないような間接的測定値も、様々なアプリケーションにわたって監視される。しかしゲームアプリケーションは、褒美/得点を決定するためにより有意であるように、ユーザの視覚的注意、複数追跡への能力などの測定値を見出してもよい。それと同時に画面上の特殊な製品または色により多く注意を払うユーザの能力により、広告アプリケーションが関係した測定値に向かってより大きな有意性をおくことがある。
実施例用途5:視覚前庭の不一致に続発する映像酔いと関連付けられる症状を減少させるために媒体を修正すること
一実施形態では、視覚前庭の不一致に続発するユーザの映像酔い(VIMS)の症状が測定され、媒体は、ユーザの症状を減少させるために修正される。
一実施形態では、視覚前庭の不一致に続発するユーザの映像酔い(VIMS)の症状が測定され、媒体は、ユーザの症状を減少させるために修正される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験するVIMSの症状を決定するために処理されてよい。データは、ユーザの媒体との対話中に又は対話後に示される症状のレベルを示す場合がある。データは、例えば媒体の体験から生じる視覚的な不快感又は他の不快感を最小限に抑えることによって等であるが、これに限定されるものではなくVIMS症状を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に又はその媒体との対話後に、視覚前庭不一致に続発するユーザのVIMSの症状を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図23は、本明細書のいくつかの実施形態に従って、視覚前庭不一致に続発するVIMSの症状を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2302で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な兆候性評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、VIMS症状の全体的な表示における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、視覚前庭不一致に続発するVIMS症状を減少させるために修正される。
2304で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2306で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中にVIMS症状の増加を反映する場合がある。
1.目瞼裂変化率の減少
2.低距離目瞼裂休止状態
3.低距離目瞼裂活性状態
4.部分的な瞬き対完全な瞬きの割合増加
5.瞳孔の初期位置及び最終位置の標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視初期位置及び凝視最終位置のための標的関連性の減少
8.固視初期位置及び固視最終位置のための関連性の減少
9.固視持続時間の変化又は輻輳持続時間の増加
10.サッカード角度のための標的関連性の減少
11.サッカード大きさ(サッカードの距離)の減少
12.アンチサッカード/プロサッカードの割合の増加
13.戻りの阻害の増加
14.円滑追跡の増加
15.画面距離の拡大
16.標的関連頭部方向の減少
17.標的関連頭部固定の減少
18.標的関連四肢運動の減少
19.体重分布のシフト
20.アルファ/デルタ脳波比率の減少
21.体温上昇
22.呼吸数加速
23.艇酸素飽和度
24.心拍数増加
25.血圧の変化
26.反応時間の減少
1.目瞼裂変化率の減少
2.低距離目瞼裂休止状態
3.低距離目瞼裂活性状態
4.部分的な瞬き対完全な瞬きの割合増加
5.瞳孔の初期位置及び最終位置の標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視初期位置及び凝視最終位置のための標的関連性の減少
8.固視初期位置及び固視最終位置のための関連性の減少
9.固視持続時間の変化又は輻輳持続時間の増加
10.サッカード角度のための標的関連性の減少
11.サッカード大きさ(サッカードの距離)の減少
12.アンチサッカード/プロサッカードの割合の増加
13.戻りの阻害の増加
14.円滑追跡の増加
15.画面距離の拡大
16.標的関連頭部方向の減少
17.標的関連頭部固定の減少
18.標的関連四肢運動の減少
19.体重分布のシフト
20.アルファ/デルタ脳波比率の減少
21.体温上昇
22.呼吸数加速
23.艇酸素飽和度
24.心拍数増加
25.血圧の変化
26.反応時間の減少
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザのVIMS症状の減少を決定してよい。
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳速度の増加
5.発散速度の増加
6.固視持続時間変化率の上昇
7.固視速度の増加
8.固視カウントの増加
9.サッカードの初期位置及び最終位置のための標的関連性の減少
10.サッカード速度の加速
11.サッカード変化率の上昇
12.サッカードカウントの上昇(サッカード数)
13.アルファ脳波/シータ脳波比率の上昇
14.有声化の増加
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳速度の増加
5.発散速度の増加
6.固視持続時間変化率の上昇
7.固視速度の増加
8.固視カウントの増加
9.サッカードの初期位置及び最終位置のための標的関連性の減少
10.サッカード速度の加速
11.サッカード変化率の上昇
12.サッカードカウントの上昇(サッカード数)
13.アルファ脳波/シータ脳波比率の上昇
14.有声化の増加
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、ユーザのVIMSの症状を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2308で、経時的に決定された複数のデータの変化は、ユーザのVIMS症状の変化の程度を決定するために使用されてよい。VIMS症状の変化は、症状の削減又は症状の増進のどちらかを示す場合がある。
2310で、ユーザに提供される媒体は、症状の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、VIMS症状の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータのうちの1つ以上、つまり、眼瞬裂高さの増加、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理は、VIMS症状の減少を確認するために観察されてよい。
実施形態では、視覚前庭不一致に続発する映像酔いと関連付けられた症状の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2310で修正が実行された後、2314で経時的にデータの変化をさらに決定するために、2312で取得されてよい。2316で、視覚前庭不一致に続発する映像酔いと関連付けられた症状の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2318で、システムは、視覚前庭不一致に続発する映像酔いと関連付けられた症状の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2310にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2310、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途6:心的外傷後ストレス障害(PTSD)と関連付けられる症状を減少させるために媒体を修正すること
心的外傷後ストレス障害(PTSD)は、個人が衝撃的な出来事にさらされた後に発病する状態である。本明細書の実施形態では、SDEPは、ハードウェアソース及びソフトウェアソースからの生体情報の収集を可能にし、複数の感覚入力及び感覚出力並びに生理的な入力及び生理的な出力が、PTSD等の状況において視覚的な挙動と人間の挙動の両方にどのように影響を及ぼすのかを理解するために画像処理及び機械学習と組み合わされた機械学習技術及び深層学習技術を活用する。これらの学習を通じて、深く親密な神経生理学的状態で人を理解し得る。学習は、PTSDと関連付けられたユーザの症状に対処するために媒体を修正するために活用されてよい。追加の実施形態では、学習は、例えば神経プログラミングを通して等、神経生理学的な刺激+/−電子的な刺激を通して人体によって情報を知覚することを許す/可能にするために、HMDを通して光刺激を変調するために使用される。本明細書の実施形態では、通信は、振幅、深度、面積、及び周波数の両方で、直射日光/直接音、反射光/反射音、回折光/音、屈折光/屈折音を使用することにより神経生理学的な+/−電子的な刺激を通して変調される。さらに、通信は、振幅、周波数、深度、及び面積の両方で、直接的、間接的な接触/味覚/嗅覚を使用することにより、間接的神経生理学的な刺激+/−電子的な刺激+/−化学的な刺激を通して変調される。
心的外傷後ストレス障害(PTSD)は、個人が衝撃的な出来事にさらされた後に発病する状態である。本明細書の実施形態では、SDEPは、ハードウェアソース及びソフトウェアソースからの生体情報の収集を可能にし、複数の感覚入力及び感覚出力並びに生理的な入力及び生理的な出力が、PTSD等の状況において視覚的な挙動と人間の挙動の両方にどのように影響を及ぼすのかを理解するために画像処理及び機械学習と組み合わされた機械学習技術及び深層学習技術を活用する。これらの学習を通じて、深く親密な神経生理学的状態で人を理解し得る。学習は、PTSDと関連付けられたユーザの症状に対処するために媒体を修正するために活用されてよい。追加の実施形態では、学習は、例えば神経プログラミングを通して等、神経生理学的な刺激+/−電子的な刺激を通して人体によって情報を知覚することを許す/可能にするために、HMDを通して光刺激を変調するために使用される。本明細書の実施形態では、通信は、振幅、深度、面積、及び周波数の両方で、直射日光/直接音、反射光/反射音、回折光/音、屈折光/屈折音を使用することにより神経生理学的な+/−電子的な刺激を通して変調される。さらに、通信は、振幅、周波数、深度、及び面積の両方で、直接的、間接的な接触/味覚/嗅覚を使用することにより、間接的神経生理学的な刺激+/−電子的な刺激+/−化学的な刺激を通して変調される。
本明細書の実施形態では、バイオエレクトロニックインプラントで記述されるのと同じ原理に基づいて、方向、位置、振幅、周波数、深度、パターン、及びこれらの光照射野の組合せは、無傷のチャネルの方を好んで傷ついたチャネルを迂回することによって神経可塑性のために、及び神経系、心臓系、聴覚系、嗅覚系、触覚系、味覚系、筋肉系、内分泌系(ホルモン調節―例えば、概日リズムリセットのための網膜神経節細胞サブタイプ刺激)、代謝系、免疫系、心理学系/精神系のための治療方法のための神経プログラミングのために、外側膝状体系の特定の視覚的なチャネル及びアクセサ視覚チャネルを可能にし、部分的に、立体視(深度)、色、コントラスト、サイズ区別、オブジェクト/顔認識、境界検出、眼球運動機能、瞳孔機能、視野、視覚記憶を含むが、これに限定されるものではない視覚の異なる態様の活性化及び符号化を可能にする。
また、本明細書の実施形態は、例えばPRIMA、IRIS I、及びIRIS II等であるが、これに限定されるものではない異なる種類の視覚インプラント(vision implant)、並びに網膜の下又は網膜の外で固定されてよい他の視覚インプラントにも適用可能である。
一実施形態では、PTSDインタフェースを有する個人は、複数の感覚入力及び感覚出力並びに生理学的入力及び生理学的出力が個人の視覚的な挙動及び人間の挙動にどのようにして影響を及ぼすのかを理解するために、システムとインタフェースで接続する。実施例では、SDEPデータベースは、増加した衝撃性眼球運動、瞳孔の拡張、色/赤RGBのより長い波長に対する色感度、心拍数増加、基礎体温上昇、両耳の状態での上昇した強度レベルに対する聴覚感度、及び高いRGBを有する画像/ビデオ/シーンでのパターンに対する感度上昇、複数のオブジェクト認識要件を有する背景/前景の輝度減少を含んだ、PTSDのためのベンチマークを作成するために活用されてよい。例では、最小瞳孔反応度を有するアンチサッカード誤差の増加、及び青色光に対する感度の上昇、及び華氏98.6度以上の基礎体温は、PTSD関係の懸念としてベンチマーク化されてよい。データに基づいて、SDEPを通して滴定視覚刺激及びSDEP、刺激のリアルタイム動的交換(RDES)の使用による非刺激及び非視覚刺激を使用することによる治療学の提示は、バイオエレクトロニックインプラントとの通信を介して、HMDを通して通信を介して神経生理学的網膜を刺激できる。
係る刺激の治療効果は、衝動性眼球運動、瞳孔反応、色感度、心拍数、基礎体温、聴覚感度、及び画像感度の減少/正規化のためのベンチマークと対照して測定されてよい。
一実施形態では、ユーザのPTSDの症状が測定され、媒体は、ユーザの症状を減少させるために修正される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験するPTSDの症状を決定するために処理されてよい。データは、ユーザの媒体との対話中に又は対話後に示される症状のレベルを示す場合がある。データは、例えば媒体の体験から生じる視覚的な不快感又は他の不快感を最小限に抑えることによって等であるが、これに限定されるものではなくPTSD症状を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、ユーザのPTSDの症状を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図24は、本明細書のいくつかの実施形態に従って、PTSDの症状を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2402で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な兆候性評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、PTSD症状の全体的な表示における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、PTSD症状を減少させるために修正される。
2404で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2406で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中にPTSDS症状の発生の増加を反映する場合がある。
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.部分的な瞬き対完全な瞬きの比率の上昇
4.瞳孔の大きさの変化率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.固視の初期位置及び最終位置のための関連性の減少
9.固視持続時間変化率の上昇
10.サッカードの初期位置及び最終位置のための標的関連性の減少
11.サッカード角度の標的関連性の減少
12.サッカードの大きさ(サッカードの距離)の減少
13.アンチサッカード/プロサッカードの比率の上昇
14.サッカード速度の加速
15.サッカード変化率の上昇
16.サッカードカウント(サッカードの数)の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/シータ脳波比率の上昇
23.体温の上昇
24.呼吸数の増加
25.心拍数の増加
26.有声化の増加
27.反応時間の増加
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.部分的な瞬き対完全な瞬きの比率の上昇
4.瞳孔の大きさの変化率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.固視の初期位置及び最終位置のための関連性の減少
9.固視持続時間変化率の上昇
10.サッカードの初期位置及び最終位置のための標的関連性の減少
11.サッカード角度の標的関連性の減少
12.サッカードの大きさ(サッカードの距離)の減少
13.アンチサッカード/プロサッカードの比率の上昇
14.サッカード速度の加速
15.サッカード変化率の上昇
16.サッカードカウント(サッカードの数)の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/シータ脳波比率の上昇
23.体温の上昇
24.呼吸数の増加
25.心拍数の増加
26.有声化の増加
27.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザのPTSD症状の発生の減少を決定してよい。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.輻輳率の上昇
5.発散率の上昇
6.固視持続時間の増加
7.固視比率の上昇
8.固視カウントの増加
9.円滑追跡の増加
10.アルファ脳波/デルタ脳波比率の減少
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.輻輳率の上昇
5.発散率の上昇
6.固視持続時間の増加
7.固視比率の上昇
8.固視カウントの増加
9.円滑追跡の増加
10.アルファ脳波/デルタ脳波比率の減少
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、戻りの阻害の増加、低酸素飽和度、低血圧、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、ユーザのPTSDの症状の発生を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2408で、経時的に決定された複数のデータの変化は、ユーザのPTSD症状の発生の変化の程度を決定するために使用されてよい。ユーザのPTSD症状の発生の変化は、発生の削減又は発生の増進のどちらかを示す場合がある。
2410で、ユーザに提供される媒体は、PTSD症状の発生の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、PTSD症状の発生の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータのうちの1つ以上、つまり、眼瞬裂高さの増加、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理は、PTSD症状の減少を確認するために観察されてよい。
実施形態では、PTSDと関連付けられた症状の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2410で修正が実行された後、2414で経時的にデータの変化をさらに決定するために、2412で取得されてよい。2416で、PTSDと関連付けられた症状の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2418で、システムは、PTSDと関連付けられた症状の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2410にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2410、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途8:調節機能障害に関連する複視を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する調節機能障害に関係する複視の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく調節機能障害に関連する複視を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する調節機能障害に関係する複視の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく調節機能障害に関連する複視を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、調節機能障害に関連するユーザの複視を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図25は、本明細書のいくつかの実施形態に従って、ユーザの複視の症状を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2502で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な兆候性評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、調節機能障害に関連する複視のユーザの経験における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、ユーザの複視を減少させるために修正される。
2504で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2506で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に複視の増加を反映する場合がある。
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.部分的な瞬き対完全な瞬きの比率の上昇
4.瞳孔の大きさの変化率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.輻輳率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.固視持続時間変化率の上昇
12.固視比率の上昇
13.固視カウントの増加
14.サッカードの初期位置及び最終位置のための標的関連性の減少
15.サッカード角度の標的関連性の減少
16.サッカードの大きさ(サッカードの距離)の減少
17.アンチサッカード/プロサッカードの比率の上昇
18.戻りの阻害の増加
19.サッカード速度の加速
20.サッカード変化率の上昇
21.サッカードカウント(サッカードの数)の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
27.アルファ脳波/シータ脳波比率の上昇
28.体温の上昇
29.呼吸数の増加
30.低酸素飽和度
31.心拍数の増加
32.低血圧
33.反応時間の増加
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.部分的な瞬き対完全な瞬きの比率の上昇
4.瞳孔の大きさの変化率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.輻輳率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.固視持続時間変化率の上昇
12.固視比率の上昇
13.固視カウントの増加
14.サッカードの初期位置及び最終位置のための標的関連性の減少
15.サッカード角度の標的関連性の減少
16.サッカードの大きさ(サッカードの距離)の減少
17.アンチサッカード/プロサッカードの比率の上昇
18.戻りの阻害の増加
19.サッカード速度の加速
20.サッカード変化率の上昇
21.サッカードカウント(サッカードの数)の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
27.アルファ脳波/シータ脳波比率の上昇
28.体温の上昇
29.呼吸数の増加
30.低酸素飽和度
31.心拍数の増加
32.低血圧
33.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザの複視の減少を決定してよい。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.発散率の上昇
5.円滑追跡の増加
6.画面距離の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.発散率の上昇
5.円滑追跡の増加
6.画面距離の増加
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、複視を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2508で、経時的に決定された複数のデータの変化は、ユーザの複視の変化の程度を決定するために使用されてよい。複視の変化は、調節機能障害に関連する複視の削減又は複視の増進のどちらかを示す場合がある。
2510で、ユーザに提供される媒体は、複視の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、調節機能障害に関連する複視の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、輻輳率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、固視持続時間変化率の減少、固視比率の減少、固視カウントの減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、眼球再位置合わせ又は位置合わせの改善及び協調的な眼球運動性、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、複視の減少を確認するために観察されてよい。
実施形態では、複視と関連付けられた症状の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2510で修正が実行された後、2514で経時的にデータの変化をさらに決定するために、2512で取得されてよい。2516で、複視と関連付けられた症状の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2518で、システムは、調節機能障害に関連する複視の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2510にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2510、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途9:予期せぬ周辺視野刺激による病原体伝染を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する予期せぬ周辺視野刺激による病原体伝染の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく病原体伝染を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する予期せぬ周辺視野刺激による病原体伝染の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく病原体伝染を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、予期せぬ周辺視野刺激による病原体伝染のユーザの経験を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図26は、本明細書のいくつかの実施形態に従って、病原体伝染を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2602で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、予期せぬ周辺視野による病原体伝染のユーザの経験における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、ユーザの病原体伝染を減少させるために修正される。
2604で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2606で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に病原体伝染の増加を反映する場合がある。
1.瞬目率の変化率の上昇
2.部分的な瞬き対完全な瞬きの比率の上昇
3.瞳孔の大きさの変化率の上昇
4.瞳孔の初期位置及び最終位置のための標的関連性の減少
5.凝視方向のための標的関連性の減少
6.凝視の初期位置及び最終位置のための標的関連性の減少
7.輻輳率の上昇
8.固視の初期位置及び最終位置のための関連性の減少
9.固視持続時間の増加
10.固視持続時間変化率の上昇
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.サッカード速度の加速
17.サッカード変化率の上昇
18.円滑追跡の増加
19.標的関連頭部方向の減少
20.標的関連頭部固定の減少
21.標的関連四肢運動の減少
22.体重分布のシフト
23.低酸素飽和度
24.心拍数の増加
25.低血圧
26.反応時間の増加
1.瞬目率の変化率の上昇
2.部分的な瞬き対完全な瞬きの比率の上昇
3.瞳孔の大きさの変化率の上昇
4.瞳孔の初期位置及び最終位置のための標的関連性の減少
5.凝視方向のための標的関連性の減少
6.凝視の初期位置及び最終位置のための標的関連性の減少
7.輻輳率の上昇
8.固視の初期位置及び最終位置のための関連性の減少
9.固視持続時間の増加
10.固視持続時間変化率の上昇
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.サッカード速度の加速
17.サッカード変化率の上昇
18.円滑追跡の増加
19.標的関連頭部方向の減少
20.標的関連頭部固定の減少
21.標的関連四肢運動の減少
22.体重分布のシフト
23.低酸素飽和度
24.心拍数の増加
25.低血圧
26.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザの病原体伝染の減少を決定してよい。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.発散率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカードカウント(サッカードの数)の増加
9.画面距離の増加
10.アルファ脳波/デルタ脳波比率の減少
11.アルファ脳波/シータ脳波比率の上昇
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.発散率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカードカウント(サッカードの数)の増加
9.画面距離の増加
10.アルファ脳波/デルタ脳波比率の減少
11.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、体温の上昇、呼吸率の上昇、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、病原体伝染を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2608で、経時的に決定された複数のデータの変化は、ユーザの病原体伝染の変化の程度を決定するために使用されてよい。病原体伝染の変化は、予期せぬ周辺視野による病原体伝染の削減又は病原体伝染の増進のどちらかを示す場合がある。
2610で、ユーザに提供される媒体は、病原体伝染の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、予期せぬ周辺視野による病原体伝染の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、輻輳率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、固視持続時間変化率の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、円滑追跡の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、病原体伝染の減少を確認するために観察されてよい。
実施形態では、予期せぬ周辺視野刺激による病原体伝染の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2610で修正が実行された後、2614で経時的にデータの変化をさらに決定するために、2612で取得されてよい。2616で、予期せぬ周辺視野による病原体伝染の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2618で、システムは、病原体伝染の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2610にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2610、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途10:過剰なブルーライト曝露から生じるホルモンの異常調節を減少させるために媒体を修正すること
ブルーライト曝露は、健康に影響を与えることが示されてきた。スクリーンデバイスを通って伝達される電波に長期にわたり曝露することは、概日リズムを乱し、ホルモンに対する影響を含んだ多様な方法で健康に影響を及ぼす場合がある。ブルーライトの影響は、体のメラトニンの産生の減少を引き起こすと考えられている。また、ブルーライトへの長期にわたる曝露は、眼の健康にもマイナス影響を与えると考えられている。
ブルーライト曝露は、健康に影響を与えることが示されてきた。スクリーンデバイスを通って伝達される電波に長期にわたり曝露することは、概日リズムを乱し、ホルモンに対する影響を含んだ多様な方法で健康に影響を及ぼす場合がある。ブルーライトの影響は、体のメラトニンの産生の減少を引き起こすと考えられている。また、ブルーライトへの長期にわたる曝露は、眼の健康にもマイナス影響を与えると考えられている。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する過剰なブルーライト曝露から生じるホルモン調節異常の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなくホルモン調節異常を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、過剰なブルーライト曝露から生じるユーザのホルモン調節異常を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図27は、本明細書のいくつかの実施形態に従って、ホルモン調節異常を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2702で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、ユーザの過剰なブルーライト曝露から生じるホルモン調節異常における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、ホルモン調節異常を減少させるために修正される。
2704で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2706で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中にホルモン調節異常の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.部分的な瞬き対完全な瞬きの比率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.発散率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.円滑追跡の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/デルタ脳波比率の減少
23.体温の上昇
24.呼吸数の増加
25.低酸素飽和度
26.心拍数の増加
27.低血圧
28.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.部分的な瞬き対完全な瞬きの比率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.発散率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.円滑追跡の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/デルタ脳波比率の減少
23.体温の上昇
24.呼吸数の増加
25.低酸素飽和度
26.心拍数の増加
27.低血圧
28.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザのホルモン調節異常の減少を決定してよい。
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳率の上昇
5.固視持続時間変化率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカード速度の加速
9.サッカード変化率の上昇
10.サッカードカウント(サッカードの数)の増加
11.アルファ脳波/シータ脳波比率の上昇
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳率の上昇
5.固視持続時間変化率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカード速度の加速
9.サッカード変化率の上昇
10.サッカードカウント(サッカードの数)の増加
11.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、及び嗅覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、ホルモン調節異常を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2708で、経時的に決定された複数のデータの変化は、ユーザのホルモン調節異常の変化の程度を決定するために使用されてよい。ホルモン調節異常の変化は、過剰なブルーライト曝露から生じる、ホルモン調節異常の削減又はホルモン調節異常の増進のどちらかを示す場合がある。
2710で、ユーザに提供される媒体は、ホルモン調節異常の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、過剰なブルーライト曝露から生じるホルモン調節異常の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータのうちの1つ以上、つまり、眼瞬裂高さの増加、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理は、ホルモン調節異常の減少を確認するために観察されてよい。
実施形態では、過剰なブルーライト曝露から生じるホルモン調節異常の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2710で修正が実行された後、2714で経時的にデータの変化をさらに決定するために、2712で取得されてよい。2716で、過剰なブルーライト曝露から生じるホルモン調節異常の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2718で、システムは、ホルモン調節異常の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2710にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2710、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途10:画面表示に対する露出過度からの潜在的な光毒症を減少させるために媒体を修正すること
画面表示に対する長期にわたる露出は、ユーザの光毒症の可能性を高めると考えられている。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう光毒症の可能性を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく光毒症の可能性を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
画面表示に対する長期にわたる露出は、ユーザの光毒症の可能性を高めると考えられている。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう光毒症の可能性を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく光毒症の可能性を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、画面表示に対する露出過度からの潜在的な光毒症を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図28は、本明細書のいくつかの実施形態に従って、光毒症の可能性を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2802で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、画面表示に対する露出過度からの光毒症における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、光毒症を減少させるために修正される。
2804で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2806で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中にホルモン調節異常の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間の増加
14.固視持続時間変化率の上昇
15.サッカードの初期位置及び最終位置のための標的関連性の減少
16.サッカード角度の標的関連性の減少
17.サッカードの大きさ(サッカードの距離)の減少
18.アンチサッカード/プロサッカードの比率の上昇
19.戻りの阻害の増加
20.サッカード速度の加速
21.サッカード変化率の上昇
22.円滑追跡の増加
23.画面距離の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.アルファ脳波/シータ脳波比率の上昇
29.体温の上昇
30.呼吸数の増加
31.心拍数の増加
32.低血圧
33.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間の増加
14.固視持続時間変化率の上昇
15.サッカードの初期位置及び最終位置のための標的関連性の減少
16.サッカード角度の標的関連性の減少
17.サッカードの大きさ(サッカードの距離)の減少
18.アンチサッカード/プロサッカードの比率の上昇
19.戻りの阻害の増加
20.サッカード速度の加速
21.サッカード変化率の上昇
22.円滑追跡の増加
23.画面距離の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.アルファ脳波/シータ脳波比率の上昇
29.体温の上昇
30.呼吸数の増加
31.心拍数の増加
32.低血圧
33.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、ユーザのホルモン調節異常の減少を決定してよい。
1.輻輳率の上昇
2.固視比率の上昇
3.固視カウントの増加
4.サッカードカウント(サッカードの数)の増加
5.アルファ脳波/デルタ脳波比率の減少
1.輻輳率の上昇
2.固視比率の上昇
3.固視カウントの増加
4.サッカードカウント(サッカードの数)の増加
5.アルファ脳波/デルタ脳波比率の減少
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、低酸素飽和度、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、光毒症を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2808で、経時的に決定された複数のデータの変化は、光毒症の変化の程度を決定するために使用されてよい。光毒症の変化は、画面表示に対する露出過度からの光毒症の削減又は光毒症の増進のどちらかを示す場合がある。
2810で、ユーザに提供される媒体は、光毒症の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、画面表示に対する露出過度からの光毒症の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、固視持続時間変化率の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、光毒症の減少を確認するために観察されてよい。
実施形態では、画面表示に対する露出過度からの光毒症の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2810で修正が実行された後、2814で経時的にデータの変化をさらに決定するために、2812で取得されてよい。2816で、画面表示に対する露出過度からの光毒症の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2818で、システムは、光毒症の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2810にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2810、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途12:嘔吐及び/又は胃の不快感を減少させるために媒体を修正すること
画面表示に対する長期にわたる露出は、嘔吐及び/又は胃の不快感を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう嘔吐及び/又は胃の不快感の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく嘔吐及び/又は胃の不快感を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
画面表示に対する長期にわたる露出は、嘔吐及び/又は胃の不快感を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう嘔吐及び/又は胃の不快感の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく嘔吐及び/又は胃の不快感を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、嘔吐及び/又は胃の不快感を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図29は、本明細書のいくつかの実施形態に従って、嘔吐及び/又は胃の不快感を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。2902で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、嘔吐及び/又は胃の不快感における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、嘔吐及び/又は胃の不快感を減少させるために修正される。
2904で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。2906で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に嘔吐及び/又は胃の不快感の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.部分的な瞬き対完全な瞬きの比率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.発散率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.円滑追跡の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.体温の上昇
23.呼吸数の増加
24.低酸素飽和度
25.心拍数の増加
26.低血圧
27.有声化の増加
28.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.部分的な瞬き対完全な瞬きの比率の上昇
5.瞳孔の初期位置及び最終位置のための標的関連性の減少
6.凝視方向のための標的関連性の減少
7.凝視の初期位置及び最終位置のための標的関連性の減少
8.発散率の上昇
9.固視の初期位置及び最終位置のための関連性の減少
10.固視持続時間の増加
11.サッカードの初期位置及び最終位置のための標的関連性の減少
12.サッカード角度の標的関連性の減少
13.サッカードの大きさ(サッカードの距離)の減少
14.アンチサッカード/プロサッカードの比率の上昇
15.戻りの阻害の増加
16.円滑追跡の増加
17.画面距離の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.体温の上昇
23.呼吸数の増加
24.低酸素飽和度
25.心拍数の増加
26.低血圧
27.有声化の増加
28.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、嘔吐及び/又は胃の不快感の減少を決定してよい。
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳率の上昇
5.固視持続時間変化率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカード速度の加速
9.サッカード変化率の上昇
10.サッカードカウント(サッカードの数)の増加
11.アルファ脳波/デルタ脳波比率の減少
12.アルファ脳波/シータ脳波比率の上昇
1.瞬目率の上昇
2.瞬目率の変化率の上昇
3.瞳孔の大きさの変化率の上昇
4.輻輳率の上昇
5.固視持続時間変化率の上昇
6.固視比率の上昇
7.固視カウントの増加
8.サッカード速度の加速
9.サッカード変化率の上昇
10.サッカードカウント(サッカードの数)の増加
11.アルファ脳波/デルタ脳波比率の減少
12.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、嘔吐及び/又は胃の不快感を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
2908で、経時的に決定された複数のデータの変化は、嘔吐及び/又は胃の不快感の変化の程度を決定するために使用されてよい。嘔吐及び/又は胃の不快感の変化は、嘔吐及び/又は胃の不快感の削減又は嘔吐及び/又は胃の不快感の増進のどちらかを示す場合がある。
2910で、ユーザに提供される媒体は、嘔吐及び/又は胃の不快感の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、嘔吐及び/又は胃の不快感の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、嘔吐及び/又は胃の不快感の減少を確認するために観察されてよい。
実施形態では、嘔吐及び/又は胃の不快感の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、2910で修正が実行された後、2914で経時的にデータの変化をさらに決定するために、2912で取得されてよい。2916で、嘔吐及び/又は胃の不快感の減少の新しい程度/パーセンテージ/範囲が取得されてよい。2918で、システムは、嘔吐及び/又は胃の不快感の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ2910にループバックしてよい。したがって、媒体は、繰り返し修正されてよく2910、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途13:視覚的不快感を減少させるために媒体を修正すること
画面表示に対する長期にわたる露出は、眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛みのうちの少なくとも1つを含む視覚的不快感を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛みのうちの少なくとも1つを含む視覚的不快感の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく視覚的な不快感を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
画面表示に対する長期にわたる露出は、眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛みのうちの少なくとも1つを含む視覚的不快感を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛みのうちの少なくとも1つを含む視覚的不快感の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく視覚的な不快感を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、視覚的な不快感を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図30は、本明細書のいくつかの実施形態に従って、視覚的な不快感を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3002で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、視覚的な不快感における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、嘔吐及び/又は胃の不快感を減少させるために修正される。
3004で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3006で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に視覚的な快感の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間の増加
14.固視持続時間変化率の上昇
15.固視比率の上昇
16.固視カウントの増加
17.サッカードの初期位置及び最終位置のための標的関連性の減少
18.サッカード角度の標的関連性の減少
19.サッカードの大きさ(サッカードの距離)の減少
20.アンチサッカード/プロサッカードの比率の上昇
21.戻りの阻害の増加
22.サッカード速度の加速
23.サッカード変化率の上昇
24.サッカードカウント(サッカードの数)の増加
25.円滑追跡の増加
26.画面距離の増加
27.標的関連頭部方向の減少
28.標的関連頭部固定の減少
29.標的関連四肢運動の減少
30.体重分布のシフト
31.体温の上昇
32.呼吸数の増加
33.低酸素飽和度
34.心拍数の増加
35.低血圧
26.有声化の増加
37.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間の増加
14.固視持続時間変化率の上昇
15.固視比率の上昇
16.固視カウントの増加
17.サッカードの初期位置及び最終位置のための標的関連性の減少
18.サッカード角度の標的関連性の減少
19.サッカードの大きさ(サッカードの距離)の減少
20.アンチサッカード/プロサッカードの比率の上昇
21.戻りの阻害の増加
22.サッカード速度の加速
23.サッカード変化率の上昇
24.サッカードカウント(サッカードの数)の増加
25.円滑追跡の増加
26.画面距離の増加
27.標的関連頭部方向の減少
28.標的関連頭部固定の減少
29.標的関連四肢運動の減少
30.体重分布のシフト
31.体温の上昇
32.呼吸数の増加
33.低酸素飽和度
34.心拍数の増加
35.低血圧
26.有声化の増加
37.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、視覚的な不快感の減少を決定してよい。
1.輻輳率の上昇
2.アルファ脳波/デルタ脳波比率の減少
3.アルファ脳波/シータ脳波比率の上昇
1.輻輳率の上昇
2.アルファ脳波/デルタ脳波比率の減少
3.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、視覚的な不快感を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3008で、経時的に決定された複数のデータの変化は、視覚的な不快感の変化の程度を決定するために使用されてよい。視覚的な不快感の変化は、視覚的な不快感の削減又は視覚的な不快感の増進のどちらかを示す場合がある。
3010で、ユーザに提供される媒体は、視覚的な不快感の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、視覚的な不快感の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂変化率の上昇、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、サッカードの初期位置及び最終位置のための標的関連性の増加、固視持続時間の減少、固視持続時間変化率の減少、固視比率の減少、固視カウントの減少、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、円滑追跡の減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、視覚的な不快感の減少を確認するために観察されてよい。
実施形態では、視覚的な不快感の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3010で修正が実行された後、3014で経時的にデータの変化をさらに決定するために、3012で取得されてよい。3016で、視覚的な不快感の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3018で、システムは、視覚的な不快感の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3010にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3010、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途14:見当識障害及び姿勢の不安定を減少させるために媒体を修正すること
画面表示に対する長期にわたる露出は、見当識障害及び姿勢の不安定を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう見当識障害及び姿勢の不安定の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく見当識障害及び姿勢の不安定を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
画面表示に対する長期にわたる露出は、見当識障害及び姿勢の不安定を生じさせる場合がある。一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう見当識障害及び姿勢の不安定の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく見当識障害及び姿勢の不安定を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、見当識障害及び姿勢の不安定を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図31は、本明細書のいくつかの実施形態に従って、見当識障害及び姿勢の不安定を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3102で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、見当識障害及び姿勢の不安定における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、見当識障害及び姿勢の不安定を減少させるために修正される。
3104で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3106で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に見当識障害及び姿勢の不安定の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.体温の上昇
29.呼吸数の増加
30.低酸素飽和度
31.心拍数の増加
32.低血圧
33.有声化の増加反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.体温の上昇
29.呼吸数の増加
30.低酸素飽和度
31.心拍数の増加
32.低血圧
33.有声化の増加反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、見当識障害及び姿勢の不安定の減少を決定してよい。
1.輻輳率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.画面距離の増加
5.アルファ脳波/デルタ脳波比率の減少
6.アルファ脳波/シータ脳波比率の上昇
7.安定的な体重分布
1.輻輳率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.画面距離の増加
5.アルファ脳波/デルタ脳波比率の減少
6.アルファ脳波/シータ脳波比率の上昇
7.安定的な体重分布
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、見当識障害及び姿勢の不安定を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3108で、経時的に決定された複数のデータの変化は、見当識障害及び姿勢の不安定の変化の程度を決定するために使用されてよい。見当識障害及び姿勢の不安定の変化は、見当識障害及び姿勢の不安定の削減又は見当識障害及び姿勢の不安定の増進のどちらかを示す場合がある。
3110で、ユーザに提供される媒体は、見当識障害及び姿勢の不安定の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、見当識障害及び姿勢の不安定の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、固視比率の減少、固視カウントの減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、見当識障害及び姿勢の不安定の減少を確認するために観察されてよい。
実施形態では、見当識障害及び姿勢の不安定の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3110で修正が実行された後、3114で経時的にデータの変化をさらに決定するために、3112で取得されてよい。3116で、見当識障害及び姿勢の不安定の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3118で、システムは、見当識障害及び姿勢の不安定の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3110にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3110、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途15:頭痛及び焦点調節困難を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう頭痛及び焦点調節困難の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく頭痛及び焦点調節困難を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう頭痛及び焦点調節困難の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく頭痛及び焦点調節困難を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、頭痛及び焦点調節困難を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図32は、本明細書のいくつかの実施形態に従って、頭痛及び焦点調節困難を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3202で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、頭痛及び焦点調節困難における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、頭痛及び焦点調節困難を減少させるために修正される。
3204で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3206で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に頭痛及び焦点調節困難の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.画面距離の増加
25.標的関連頭部方向の減少
26.標的関連頭部固定の減少
27.標的関連四肢運動の減少
28.体重分布のシフト
29.アルファ脳波/デルタ脳波比率の減少
30.体温の上昇
31.呼吸数の増加
32.低酸素飽和度
33.心拍数の増加
34.血圧の変化
35.有声化の増加
36.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.画面距離の増加
25.標的関連頭部方向の減少
26.標的関連頭部固定の減少
27.標的関連四肢運動の減少
28.体重分布のシフト
29.アルファ脳波/デルタ脳波比率の減少
30.体温の上昇
31.呼吸数の増加
32.低酸素飽和度
33.心拍数の増加
34.血圧の変化
35.有声化の増加
36.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、頭痛及び焦点調節困難の減少を決定してよい。
1.輻輳率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.アルファ脳波/シータ脳波比率の上昇
1.輻輳率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、頭痛及び焦点調節困難を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3208で、経時的に決定された複数のデータの変化は、頭痛及び焦点調節困難の変化の程度を決定するために使用されてよい。頭痛及び焦点調節困難の変化は、頭痛及び焦点調節困難の削減又は頭痛及び焦点調節困難の増進のどちらかを示す場合がある。
3210で、ユーザに提供される媒体は、頭痛及び焦点調節困難の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、頭痛及び焦点調節困難の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、固視比率の減少、固視カウントの減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、頭痛及び焦点調節困難の減少を確認するために観察されてよい。
実施形態では、頭痛及び焦点調節困難の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3210で修正が実行された後、3214で経時的にデータの変化をさらに決定するために、3212で取得されてよい。3216で、頭痛及び焦点調節困難の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3218で、システムは、頭痛及び焦点調節困難の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3210にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3210、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途16:かすみ目及び近視を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろうかすみ目及び近視の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなくかすみ目及び近視を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろうかすみ目及び近視の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなくかすみ目及び近視を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、かすみ目及び近視を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図33は、本明細書のいくつかの実施形態に従って、かすみ目及び近視を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3302で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、かすみ目及び近視における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、かすみ目及び近視を減少させるために修正される。
3304で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3306で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中にかすみ目及び近視の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.輻輳率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.画面距離の増加
25.標的関連頭部方向の減少
26.標的関連頭部固定の減少
27.標的関連四肢運動の減少
28.体重分布のシフト
29.アルファ脳波/デルタ脳波比率の減少
30.体温の上昇
31.呼吸数の増加
32.低酸素飽和度
33.心拍数の増加
34.低血圧
35.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.輻輳率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視比率の上昇
15.固視カウントの増加
16.サッカードの初期位置及び最終位置のための標的関連性の減少
17.サッカード角度の標的関連性の減少
18.サッカードの大きさ(サッカードの距離)の減少
19.アンチサッカード/プロサッカードの比率の上昇
20.戻りの阻害の増加
21.サッカード速度の加速
22.サッカード変化率の上昇
23.サッカードカウント(サッカードの数)の増加
24.画面距離の増加
25.標的関連頭部方向の減少
26.標的関連頭部固定の減少
27.標的関連四肢運動の減少
28.体重分布のシフト
29.アルファ脳波/デルタ脳波比率の減少
30.体温の上昇
31.呼吸数の増加
32.低酸素飽和度
33.心拍数の増加
34.低血圧
35.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、かすみ目及び/又は近視の減少を決定してよい。
1.発散率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.アルファ脳波/シータ脳波比率の上昇
1.発散率の上昇
2.固視持続時間の増加
3.円滑追跡の増加
4.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、かすみ目及び/又は近視を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3308で、経時的に決定された複数のデータの変化は、かすみ目及び/又は近視の変化の程度を決定するために使用されてよい。かすみ目及び/又は近視の変化は、かすみ目及び/又は近視の削減又はかすみ目及び/又は近視の増進のどちらかを示す場合がある。
3310で、ユーザに提供される媒体は、かすみ目及び/又は近視の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、かすみ目及び/又は近視の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、輻輳率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、固視比率の減少、固視カウントの減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、かすみ目及び/又は近視の減少を確認するために観察されてよい。
実施形態では、かすみ目及び/又は近視の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3310で修正が実行された後、3314で経時的にデータの変化をさらに決定するために、3312で取得されてよい。3316で、かすみ目及び/又は近視の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3318で、システムは、かすみ目及び/又は近視の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3310にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3310、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途17:斜位を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう斜位の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく斜位を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう斜位の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく斜位を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、斜位を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図34は、本明細書のいくつかの実施形態に従って、斜位を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3402で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、斜位における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、斜位を減少させるために修正される。
3404で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3406で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に斜位の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視カウントの増加
15.サッカードの初期位置及び最終位置のための標的関連性の減少
16.サッカード角度の標的関連性の減少
17.サッカードの大きさ(サッカードの距離)の減少
18.アンチサッカード/プロサッカードの比率の上昇
19.戻りの阻害の増加
20.サッカード速度の加速
21.サッカード変化率の上昇
22.サッカードカウント(サッカードの数)の増加
23.画面距離の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.アルファ脳波/デルタ脳波比率の減少
29.低酸素飽和度
30.低血圧
31.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.発散率の上昇
12.固視の初期位置及び最終位置のための関連性の減少
13.固視持続時間変化率の上昇
14.固視カウントの増加
15.サッカードの初期位置及び最終位置のための標的関連性の減少
16.サッカード角度の標的関連性の減少
17.サッカードの大きさ(サッカードの距離)の減少
18.アンチサッカード/プロサッカードの比率の上昇
19.戻りの阻害の増加
20.サッカード速度の加速
21.サッカード変化率の上昇
22.サッカードカウント(サッカードの数)の増加
23.画面距離の増加
24.標的関連頭部方向の減少
25.標的関連頭部固定の減少
26.標的関連四肢運動の減少
27.体重分布のシフト
28.アルファ脳波/デルタ脳波比率の減少
29.低酸素飽和度
30.低血圧
31.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、斜位の減少を決定してよい。
1.輻輳率の上昇
2.固視持続時間の増加
3.固視比率の上昇
4.円滑追跡の増加
5.アルファ脳波/シータ脳波比率の上昇
6.眼位
1.輻輳率の上昇
2.固視持続時間の増加
3.固視比率の上昇
4.円滑追跡の増加
5.アルファ脳波/シータ脳波比率の上昇
6.眼位
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、体温の上昇、呼吸数の増加、心拍数の増加、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、斜位を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3408で、経時的に決定された複数のデータの変化は、斜位の変化の程度を決定するために使用されてよい。斜位の変化は、斜位の削減又は斜位の増進のどちらかを示す場合がある。
3410で、ユーザに提供される媒体は、斜位の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、斜位の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の上昇、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、固視カウントの減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、斜位の減少を確認するために観察されてよい。
実施形態では、斜位の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3410で修正が実行された後、3414で経時的にデータの変化をさらに決定するために、3412で取得されてよい。3416で、斜位の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3418で、システムは、斜位の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3410にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3410、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途18:固視ずれを減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう固視ずれの程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく固視ずれを減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう固視ずれの程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく固視ずれを減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、固視ずれを減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図35は、本明細書のいくつかの実施形態に従って、固視ずれを減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3502で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、固視のずれにおける傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、固視のずれを減少させるために修正される。
3504で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3506で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に固視のずれの増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.固視の初期位置及び最終位置のための関連性の減少
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.サッカード変化率の上昇
20.サッカードカウント(サッカードの数)の増加
21.画面距離の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
27.低酸素飽和度
28.低血圧
29.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.固視の初期位置及び最終位置のための関連性の減少
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.サッカード変化率の上昇
20.サッカードカウント(サッカードの数)の増加
21.画面距離の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
27.低酸素飽和度
28.低血圧
29.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、固視のずれの減少を決定してよい。
1.輻輳率の上昇
2.発散率の上昇
3.固視持続時間の増加
4.固視比率の上昇
5.固視カウントの増加
6.円滑追跡の増加
7.アルファ脳波/シータ脳波比率の上昇
1.輻輳率の上昇
2.発散率の上昇
3.固視持続時間の増加
4.固視比率の上昇
5.固視カウントの増加
6.円滑追跡の増加
7.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、体温の上昇、呼吸数の増加、心拍数の増加、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、固視のずれを減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3508で、経時的に決定された複数のデータの変化は、固視のずれの変化の程度を決定するために使用されてよい。固視のずれの変化は、固視のずれの削減又は固視のずれの増進のどちらかを示す場合がある。
3510で、ユーザに提供される媒体は、固視のずれの削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、固視のずれの増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、固視のずれの減少を確認するために観察されてよい。
実施形態では、固視のずれの減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3510で修正が実行された後、3514で経時的にデータの変化をさらに決定するために、3512で取得されてよい。3516で、固視のずれの減少の新しい程度/パーセンテージ/範囲が取得されてよい。3518で、システムは、固視のずれの減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3510にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3510、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途19:両眼転導調節障害を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう両眼転導調節障害の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく両眼転導調節障害を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう両眼転導調節障害の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく両眼転導調節障害を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、両眼転導調節障害を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図36は、本明細書のいくつかの実施形態に従って、両眼転導調節障害を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3602で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、両眼転導調節障害における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、両眼転導調節障害を減少させるために修正される。
3604で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3606で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に両眼転導調節障害の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.固視の初期位置及び最終位置のための関連性の減少
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.サッカード変化率の上昇
20.サッカードカウント(サッカードの数)の増加
21.画面距離の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の大きさの変化率の上昇
8.瞳孔の初期位置及び最終位置のための標的関連性の減少
9.凝視方向のための標的関連性の減少
10.凝視の初期位置及び最終位置のための標的関連性の減少
11.固視の初期位置及び最終位置のための関連性の減少
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.サッカード変化率の上昇
20.サッカードカウント(サッカードの数)の増加
21.画面距離の増加
22.標的関連頭部方向の減少
23.標的関連頭部固定の減少
24.標的関連四肢運動の減少
25.体重分布のシフト
26.アルファ脳波/デルタ脳波比率の減少
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、両眼転導調節障害の減少を決定してよい。
1.輻輳率の上昇
2.発散率の上昇
3.固視持続時間の増加
4.固視比率の上昇
5.固視カウントの増加
6.円滑追跡の増加
7.アルファ脳波/シータ脳波比率の上昇
1.輻輳率の上昇
2.発散率の上昇
3.固視持続時間の増加
4.固視比率の上昇
5.固視カウントの増加
6.円滑追跡の増加
7.アルファ脳波/シータ脳波比率の上昇
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、体温の上昇、呼吸数の増加、低酸素飽和度、心拍数の増加、低血圧、有声化の増加、(特定の表情に依存する場合がある)顔表情の変化、反応時間の増加、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、両眼転導調節障害を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3608で、経時的に決定された複数のデータの変化は、両眼転導調節障害の変化の程度を決定するために使用されてよい。両眼転導調節障害の変化は、両眼転導調節障害の削減又は両眼転導調節障害の増進のどちらかを示す場合がある。
3610で、ユーザに提供される媒体は、両眼転導調節障害の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、両眼転導調節障害の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
10.可能なときにより長い視距離の使用を増加する
11.シミュレーションされた距離を焦点距離とより緊密に一致させる
12.よりゆっくりしたペースで奥行きの中に及び奥行きの中からオブジェクトを移動する
13.既存のオブジェクト不一致をより顕著にする
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
10.可能なときにより長い視距離の使用を増加する
11.シミュレーションされた距離を焦点距離とより緊密に一致させる
12.よりゆっくりしたペースで奥行きの中に及び奥行きの中からオブジェクトを移動する
13.既存のオブジェクト不一致をより顕著にする
以下のインジケータ、つまり眼瞬裂変化率の上昇、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の大きさの変化率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、固視の初期位置及び最終位置のための関連性の増加、固視持続時間変化率の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード速度の減少、サッカード変化率の減少、サッカードカウントの減少、画面距離の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、両眼転導調節障害の減少を確認するために観察されてよい。
実施形態では、両眼転導調節障害の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3610で修正が実行された後、3614で経時的にデータの変化をさらに決定するために、3412で取得されてよい。3616で、両眼転導調節障害の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3618で、システムは、両眼転導調節障害の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3610にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3610、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途20:肯定的感情を増加させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう肯定的感情の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく肯定的感情を増加させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう肯定的感情の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく肯定的感情を増加させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、肯定的感情を増加させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図37は、本明細書のいくつかの実施形態に従って、肯定的感情を増加させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3702で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、肯定的感情における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、肯定的感情を増加させるために修正される。
3704で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3706で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に肯定的感情の減少を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の初期位置及び最終位置のための標的関連性の減少
8.凝視方向のための標的関連性の減少
9.凝視の初期位置及び最終位置のための標的関連性の減少
10.固視の初期位置及び最終位置のための関連性の減少
11.固視持続時間の増加
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.円滑追跡の増加
20.標的関連頭部方向の減少
21.標的関連頭部固定の減少
22.標的関連四肢運動の減少
23.体重分布のシフト
24.アルファ脳波/デルタ脳波比率の減少
25.体温の上昇
26.呼吸数の増加
27.低酸素飽和度
28.心拍数の増加
29.低血圧
30.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の上昇
5.瞬目率の変化率の上昇
6.部分的な瞬き対完全な瞬きの比率の上昇
7.瞳孔の初期位置及び最終位置のための標的関連性の減少
8.凝視方向のための標的関連性の減少
9.凝視の初期位置及び最終位置のための標的関連性の減少
10.固視の初期位置及び最終位置のための関連性の減少
11.固視持続時間の増加
12.固視持続時間変化率の上昇
13.サッカードの初期位置及び最終位置のための標的関連性の減少
14.サッカード角度の標的関連性の減少
15.サッカードの大きさ(サッカードの距離)の減少
16.アンチサッカード/プロサッカードの比率の上昇
17.戻りの阻害の増加
18.サッカード速度の加速
19.円滑追跡の増加
20.標的関連頭部方向の減少
21.標的関連頭部固定の減少
22.標的関連四肢運動の減少
23.体重分布のシフト
24.アルファ脳波/デルタ脳波比率の減少
25.体温の上昇
26.呼吸数の増加
27.低酸素飽和度
28.心拍数の増加
29.低血圧
30.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、肯定的感情の増加を決定してよい。
1.瞳孔の大きさの変化率の上昇
2.固視比率の上昇
3.固視カウントの増加
4.サッカード速度の加速
5.サッカードカウント(サッカードの数)の増加
6.画面距離の増加
7.アルファ脳波/シータ脳波比率の上昇
8.有声化の増加
1.瞳孔の大きさの変化率の上昇
2.固視比率の上昇
3.固視カウントの増加
4.サッカード速度の加速
5.サッカードカウント(サッカードの数)の増加
6.画面距離の増加
7.アルファ脳波/シータ脳波比率の上昇
8.有声化の増加
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、輻輳率の上昇、発散率の上昇、(特定の表情に依存する場合がある)顔表情の変化、反応時間の増加、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、肯定的感情を増加させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3708で、経時的に決定された複数のデータの変化は、肯定的感情の変化の程度を決定するために使用されてよい。肯定的感情の変化は、肯定的感情の削減又は肯定的感情の増進のどちらかを示す場合がある。
3710で、ユーザに提供される媒体は、肯定的感情の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、肯定的感情の減少を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の減少、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、固視持続時間変化率の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、サッカード変化率の減少、円滑追跡の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、肯定的感情の増加を確認するために観察されてよい。
実施形態では、肯定的感情の増加の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3710で修正が実行された後、3714で経時的にデータの変化をさらに決定するために、3712で取得されてよい。3716で、肯定的感情の増加の新しい程度/パーセンテージ/範囲が取得されてよい。3718で、システムは、肯定的感情の増加が、指定された範囲又はパーセンテージ内であるかどうかを判断する。増加が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3710にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3710、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途21:否定的感情を減少させるために媒体を修正すること
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう否定的感情の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく否定的感情を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう否定的感情の程度を決定するために処理されてよい。データは、媒体の経験から生じる視覚的な不快感又は任意の他の快感を最小限に抑えることによって等であるが、これに限定されるものではなく否定的感情を減少させるために、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に、否定的感情を減少させるために修正するための、ユーザに提供される方法、システム、及びソフトウェアを説明する。図38は、本明細書のいくつかの実施形態に従って、否定的感情を減少させるために媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3802で、以下にさらに説明されるように、複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
8.脳波記録を実行するためのデバイス
9.心電図検査を行うためのデバイス
10.筋電図検査を行うためのデバイス
11.電気眼球図記録を行うためのデバイス
12.網膜電図写真を実行するためのデバイス、及び
13.皮膚電気反応を測定するように構成された1つ以上のセンサ
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、否定的感情における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために、肯定的感情を増加させるために修正される。
3804で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3806で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。現在の用途のケースシナリオの実施形態では、システムのハードウェア及びソフトウェアによって追跡され、記録される以下の変化のうちの1つ以上が、VR媒体、AR媒体、及び/又はMxR媒体と対話中に否定的感情の増加を反映する場合がある。
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の変化率の上昇
5.部分的な瞬き対完全な瞬きの比率の上昇
6.瞳孔の初期位置及び最終位置のための標的関連性の減少
7.凝視方向のための標的関連性の減少
8.凝視の初期位置及び最終位置のための標的関連性の減少
9.発散率の上昇
10.固視の初期位置及び最終位置のための関連性の減少
11.固視持続時間の増加
12.サッカードの初期位置及び最終位置のための標的関連性の減少
13.サッカード角度の標的関連性の減少
14.サッカードの大きさ(サッカードの距離)の減少
15.アンチサッカード/プロサッカードの比率の上昇
16.戻りの阻害の増加
17.円滑追跡の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/デルタ脳波比率の減少
23.アルファ脳波/シータ脳波比率の上昇
24.体温の上昇
25.呼吸数の増加
26.低酸素飽和度
27.心拍数の増加
28.高血圧
29.反応時間の増加
1.眼瞼裂変化率の減少
2.低距離眼瞼裂休止状態
3.低距離眼瞼裂活性状態
4.瞬目率の変化率の上昇
5.部分的な瞬き対完全な瞬きの比率の上昇
6.瞳孔の初期位置及び最終位置のための標的関連性の減少
7.凝視方向のための標的関連性の減少
8.凝視の初期位置及び最終位置のための標的関連性の減少
9.発散率の上昇
10.固視の初期位置及び最終位置のための関連性の減少
11.固視持続時間の増加
12.サッカードの初期位置及び最終位置のための標的関連性の減少
13.サッカード角度の標的関連性の減少
14.サッカードの大きさ(サッカードの距離)の減少
15.アンチサッカード/プロサッカードの比率の上昇
16.戻りの阻害の増加
17.円滑追跡の増加
18.標的関連頭部方向の減少
19.標的関連頭部固定の減少
20.標的関連四肢運動の減少
21.体重分布のシフト
22.アルファ脳波/デルタ脳波比率の減少
23.アルファ脳波/シータ脳波比率の上昇
24.体温の上昇
25.呼吸数の増加
26.低酸素飽和度
27.心拍数の増加
28.高血圧
29.反応時間の増加
システムは、以下の変化のうちの1つ以上に基づいて、VR環境、AR環境、及び/又はMX環境で媒体と対話しながら、否定的感情の減少を決定してよい。
1.瞬目率の上昇
2.瞳孔の大きさの変化率の上昇
3.輻輳率の上昇
4.固視持続時間変化率の上昇
5.固視比率の上昇
6.固視カウントの増加
7.サッカード速度の加速
8.サッカード変化率の上昇
9.サッカードカウント(サッカードの数)の増加
10.画面距離の増加
11.有声化の増加
1.瞬目率の上昇
2.瞳孔の大きさの変化率の上昇
3.輻輳率の上昇
4.固視持続時間変化率の上昇
5.固視比率の上昇
6.固視カウントの増加
7.サッカード速度の加速
8.サッカード変化率の上昇
9.サッカードカウント(サッカードの数)の増加
10.画面距離の増加
11.有声化の増加
また、他の変化は、さまざまな方法で記録されてもよく、解釈できる。これらは、(特定の表情に依存する場合がある)顔表情の変化、反応時間の増加、味覚処理の変化、嗅覚処理の変化、及び聴覚処理の変化を含んでよいが、これに限定されるものではない。
データ取得構成要素、データの型、及びデータの変化の上述されたリストは、否定的感情を減少させるために必要とされる変数を決定するために使用されてよく、これらのリストは網羅的ではなく、他のデータ取得構成要素、データの型、及びデータの変化を含んでよいことに留意されたい。
3808で、経時的に決定された複数のデータの変化は、否定的感情の変化の程度を決定するために使用されてよい。否定的感情の変化は、否定的感情の削減又は否定的感情の増進のどちらかを示す場合がある。
3810で、ユーザに提供される媒体は、否定的感情の削減(又は増進)の程度に基づいて修正されてよい。実施形態では、媒体は、否定的感情の増加を反映するデータのすべての変化に対処するために修正されてよい。実施形態では、以下の修正のうちの1つ以上の組合せが実行されてよい。
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
1.媒体のコントラストを増加させること
2.媒体に表示される関心のあるオブジェクトのサイズをより大きくすること
3.媒体の明るさを強めること
4.中心視野に示される媒体に表示される関心のあるオブジェクトの量を増加させること、及び周辺視野の関心のある該オブジェクトを減少させること
5.媒体に表示されるコンテンツの焦点をより中心位置に変更すること
6.視野からオブジェクトを削除し、ユーザが該削除を認識するかどうかを測定すること
7.該媒体内の色の量を増加させること
8.該媒体内に示されるオブジェクト内の陰影の程度を強化すること
9.外部データ(人口統計データ又はトレンドデータ)に基づいて該媒体のRGB値を変更すること
以下のインジケータ、つまり眼瞬裂高さの増加、瞬目率の変化率の減少、部分的な瞬き対完全な瞬きの比率の減少、瞳孔の初期位置及び最終位置のための標的関連性の増加、凝視方向のための標的関連性の増加、凝視の初期位置及び最終位置のための標的関連性の増加、発散率の減少、固視の初期位置及び最終位置のための関連性の増加、固視持続時間の減少、サッカードの初期位置及び最終位置のための標的関連性の増加、サッカード角度のための標的関連性の増加、サッカードの大きさ(タスク関連)の増加、アンチサッカード/プロサッカードの比率の減少、戻りの阻害の減少、円滑追跡の減少、標的関連頭部方向の増加、標的関連頭部固定の増加、標的関連四肢運動の増加、体重分布のシフトの減少、アルファ脳波/デルタ脳波比率上昇、正常な体温、正常な呼吸数、90〜100%の酸素飽和度、正常な心拍数、正常な血圧、タスク関連有声化、タスク関連顔の表情、反応時間減少、タスク関連味覚処理、タスク関連嗅覚処理、及びタスク関連聴覚処理のうちの1つ以上は、否定的感情の減少を確認するために観察されてよい。
実施形態では、否定的感情の減少の特定のパーセンテージ又は範囲が定義されてよい。実施形態では、データの追加の値は、3810で修正が実行された後、3814で経時的にデータの変化をさらに決定するために、3812で取得されてよい。3816で、否定的感情の減少の新しい程度/パーセンテージ/範囲が取得されてよい。3818で、システムは、否定的感情の減少が、指定された範囲又はパーセンテージ内であるかどうかを判断する。減少が不十分であると判断される場合、システムは、媒体をさらに修正するためにステップ3810にループバックしてよい。したがって、媒体は、繰り返し修正されてよく3810、全体的な性能は、1%から10000%のどこかの改善のパーセンテージ又はその中の任意のインクリメントが達成されるまで測定されてよい。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
実施例用途22:マイクロトランザクションから生じる媒体を修正すること
システムによって決定され、分析される感覚入力が、最終的に仕事及び遊びの関わりを動かしてよい。実施形態では、感覚情報は、ユーザから購入され、例えばSDEP等のプラットフォームを通してデータに値を追加した後に感覚データ交換を生じさせるために使用されてよい。本明細書の実施形態では、個人及び潜在的な消費者の感覚は、SDEPを用いて測定され、モニタされてよい。SDEPは、感覚データ、ユーザデータ、環境及び場所のコンテキストに基づいたユーザ挙動に対する傾向に関するデータ分析を提供してよい。SDEPの実施形態は、リアルタイムで予測推奨を作成するために、及び企業が、コンテンツ/広告に対するリアルタイムの動的変更を使用して消費者に対して経験を個人化する能力を可能にするために機械学習技術及び深層学習技術を使用してよい。
システムによって決定され、分析される感覚入力が、最終的に仕事及び遊びの関わりを動かしてよい。実施形態では、感覚情報は、ユーザから購入され、例えばSDEP等のプラットフォームを通してデータに値を追加した後に感覚データ交換を生じさせるために使用されてよい。本明細書の実施形態では、個人及び潜在的な消費者の感覚は、SDEPを用いて測定され、モニタされてよい。SDEPは、感覚データ、ユーザデータ、環境及び場所のコンテキストに基づいたユーザ挙動に対する傾向に関するデータ分析を提供してよい。SDEPの実施形態は、リアルタイムで予測推奨を作成するために、及び企業が、コンテンツ/広告に対するリアルタイムの動的変更を使用して消費者に対して経験を個人化する能力を可能にするために機械学習技術及び深層学習技術を使用してよい。
実施形態では、HMD又は類似する装置とインタフェースで接続するユーザがモニタされる。ユーザは、コンテンツの種類及び他の表現の提案に関してユーザの経験をより良く理解し、カスタマイズするためにさらに活用されてよい自分の精神測定データ/感覚データ/生体データを共有するオプションを提供される場合がある。ユーザがデータを共有することを選ぶと仮定すると、一実施形態では、インタフェースで接続中に、SDEPは、第1の感覚状態を有するためにユーザを決定する。一実施形態では、感覚状態は、第1の瞬目率、瞳孔拡張の第1の程度、衝動性運動の第1の程度、任意の他の眼球運動、眼瞼裂間距離、顔表情、及び/又は例えば以下のユーザケースシナリオで説明されるパラメータ等の1つ以上の他のパラメータを含む。さらに、一定の比率(コマ/1秒あたり)でユーザに提示されるコンテンツの画像処理は、コンテンツを、オブジェクトの色(RGB)値、コントラスト、サイズ及び位置を含んだ中心的な精神測定未処理データに分解してよい。さらに、例えばフィットネスモニタバンドまたは腕時計等のスマートデバイスは、心拍数及び基礎体温に関するデータを入手し、提供してよく、スマートクロージングは、呼吸数並びに体及び四肢の動きに関するデータを提供してよく、スマートシューズは、体重/圧力分散に関するデータを提供してよい。同様に、ユーザの種々の精神測定データ/感覚データ/生体データを提供する他のソースがあってよい。評価基準の組合せの例は、とりわけ理解力レベル、疲労レベル、関わりのレベルを含む。さらに、SDEPは、第2の感覚状態を決定し、第2の感覚状態は、第1の状態に対する、測定された精神測定データ/感覚データ/生体データの変化を示す。SDEPによって測定される精神測定データ/感覚データ/生体データは、同じ持続時間にユーザに提供される視覚データの特徴と結合されてよい。該結合は、映像部分及び/又は映像部分の特徴の集合を変更して、同じユーザから又は本実施形態で説明されるユーザとしての類似したプロファイルを有するユーザのグループ全体で、より大きい関わりを示す所望される精神測定結果/感覚結果/生体結果を受け取るためにさらに使用されてよい。SDEPは、このようにして各視覚測定基準及び各視覚測定基準の以後の重みを活用して、変換測定基準を作成する。さらに、変換測定基準は、所望される製品に対する成功したジェスチャとともに追加の値でSDEPによって作成されてよい。ユーザプロファイルは、人口動態、又は任意の他のパラメータに従ってグループ化されてよい。
一例では、HMDを使用し、スポーツイベント及び広告内(in−ad)表示を見るユーザは、色青(RGB値、輝度レベル)の特定の陰影であるブランドの付いたシャツを示される。ユーザは、自分のHMDシステムで高度データ設定値を共有することを選んだ可能性がある。最初の1分間の期間中−SDEPは、特定のRGB値での赤のメタデータ傾向がユーザの人口動態の中の男性で傾向を示していたことに注目した。傾向は、青のシャツを赤に変更し、さらに赤を色赤の特定の陰影に変更することによって広告表示中のユーザでリアルタイムにA/B試験されてよい。色赤の特定の陰影は、ユーザに関して注記された、ユーザのHMDで有効にされた設定値を通して共有された個人的な傾向に基づいてユーザに個人化できるであろう。ユーザのHMDを通してSDEPによって注記された個人的な傾向は、心拍数の増加、温度、及びオブジェクトに向かう運動とともに、視覚の完全固視前のアンチサッカード誤差、定常状態からの瞳孔の拡張、広告がVR/AR/MxR環境のどこに置かれるのかに関係する頭部の動きを含んだ瞬目率の減少、減少衝動性運動等であるが、これに限定されるものではないユーザの関わりのための定量化可能な評価基準を含んでよい。
実施形態では、SDEPは、例えばサードパーティ又はコンテンツプロバイダ等の別個のエンティティに、SDEPと共有される精神測定ユーザデータ/感覚ユーザデータ/生体ユーザデータについて、定期的な(周期的な)更新を提供するためにユーザとインタフェースで接続してよい。共有される精神測定データ/生体データ/感覚データの割合及びこの共有の持続時間は、ユーザと別個のエンティティとの間で発生するマイクロトランザクションまたは一連のマイクロトランザクションのための基礎として使用されてよい。実施形態ではSDEPは、ユーザとの係るマイクロトランザクションを有効にするためのプラットフォームを提供する。いくつかの実施形態では、ユーザの分配収益は、SDEPと定期的に共有される精神測定データ/感覚データ/生体データの量に比例してよい。
したがって、一実施形態では、例えばHMDによって等ユーザから、又は任意の他のVR/AR/MxRシステムから収集されるデータは、ユーザが体験する場合があるであろう、例えばサードパーティ又はコンテンツのソース等の別個のエンティティの知識のためにユーザによって任意選択で共有されるデータの範囲を決定するために処理されてよい。データは、VR/AR/MxR媒体をユーザのために修正するためにさらに活用されてよい。さらに、共用されるデータの範囲及び持続時間は、ユーザと取引するために活用されてよい。一実施形態では、トランザクションは経済報酬の形をとり、報酬の額は、共有されるデータの範囲及び持続時間に比例する。一実施形態では、媒体はユーザのためにリアルタイムで修正される。別の実施形態では、データは保存され、類似したデータを有する後続のユーザに対する、又は後に該ユーザに対するVR/AR/MxR媒体の提示を修正するために使用される。
より詳細には、本明細書は、VR環境、AR環境、及び/又はMxR環境で表示される媒体を、その媒体との対話中に修正する一方で、精神測定データ/感覚データ/生体データとの交換での報酬を伴う、ユーザとのマイクロトランザクションを可能にするために提供される方法、システム、及びソフトウェアを説明する。図39は、本明細書のいくつかの実施形態に従って、マイクロトランザクションを可能にする一方で媒体を修正するための例示的なプロセスを説明するフローチャートを示す。3902で、例えばユーザの精神測定データ/感覚データ/生体データ等の複数のデータのための第1の値が取得される。実施形態では、データは、眼球運動データ(高速走査運動及び/又は衝動性運動)、瞬目率データ、固視データ、瞳孔直径、瞼間の眼瞼(瞼)裂距離を取得するように構成された少なくとも1つのカメラを使用することによって取得される。さらに、VRデバイス、ARデバイス、及び/又はMxRデバイスは、その中に組み込まれた以下のセンサのうちの1つ以上を含む場合がある。
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
1.基礎体温、心拍数、体の動き、体の回転、体の方向、及び/又は体の速度を検出するように構成された1つ以上のセンサ
2.四肢の動き、四肢回転、四肢方向、及び/又は四肢速度を測定するように構成された1つ以上のセンサ
3.脈拍数及び/又は血液酸素化を測定するように構成された1つ以上のセンサ
4.聴覚処理を測定するように構成された1つ以上のセンサ
5.味覚処理及び嗅覚処理を測定するように構成された1つ以上のセンサ
6.圧力を測定するための1つ以上のセンサ
7.例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の少なくとも1つの入力装置
実施形態では、これらのデバイスの組合せによって取得されるデータは、(その変化率、初期状態、最終状態、及び動的変化を含んだ)眼瞼裂、(その変化率及び/又は部分的な瞬き対完全な瞬きの割合を含んだ)瞬目率、(その変化率、初期状態、最終状態、及び動的変化を含んだ)瞳孔の大きさ、(その初期位置、最終位置を含んだ)瞳孔位置、凝視方向、(初期位置及び最終位置を含んだ)凝視位置、(比率、持続時間、及び/又は動的変化に基づいた輻輳対発散を含んだ)両眼転導、(その初期位置、最終位置を含んだ)固視位置、(変化率を含んだ)固視持続時間、固視比率、固視カウント、(その変化率、初期位置、及び最終位置を含んだ)サッカード位置、(標的に向かうその関連性を含んだ)サッカード角度、(その距離、アンチサッカード又はプロサッカードを含んだ)サッカードの大きさ、(その比率対アンチサッカードを含んだ)プロサッカード、(その比率対プロサッカードを含んだ)アンチサッカード、(存在及び/又は大きさを含んだ)戻りの阻害、(大きさ、方向、及び/又は標的に向かう関連性を含んだ)サッカード速度、サッカードカウントを含んだサッカード比率、(その開始、持続時間、及び/又は方向を含んだ)追跡眼球運動、(その変化率、初期位置、及び/又は最終位置を含んだ)画面距離、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部方向、(その変化率、初期位置、及び/又は最終位置を含んだ)頭部固定、(その変化率、初期位置、及び/又は最終位置を含んだ)四肢追跡、(その変化率、初期分布、及び/又は最終分布を含んだ)体重分布、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、(その変化率、初期体温、及び/又は最終体温を含んだ)体温、(その変化率、初期比率、及び/又は最終比率を含んだ)呼吸数、酸素飽和度、(その変化率、初期心拍数、及び/又は最終心拍数を含んだ)心拍数、血圧、(そのピッチ、ラウドネス、及び/又はセマンティクスを含んだ)有声化、推定遠心性反応、呼吸、(微表情を含んだ)顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの1つ以上に関するデータを含んでよい。各データ型は、個別に又は組み合わせての両方で考慮に入れられるときに重みを保持してよい。
一実施形態では、システムは、機械学習を使用して行動評価基準、電気生理学的評価基準、及び/又は自律神経系評価基準、及びより明確な評価基準の間の新しい相関を発見できる。いくつかの例では、上述された評価基準のいくつかは文脈に特有である。システムは、すべての利用可能な評価基準を相互に関連付け、否定的感情における傾向を探すことができる。その結果、VR/AR/MxR環境で提示される媒体は、ユーザ及び/又はユーザのグループのために修正される。
3904で、上述された複数のデータの第2の値が取得される。実施形態では、第1の値及び第2の値は、上述されたデータ型を含んだ同じデータ型である。3906で、データの第1の値及び第2の値は、経時的に複数のデータの1つ以上の変化を決定するために使用される。異なるタイプのデータ変化が記録されてよく、異なるように解釈できる。
3908で、経時的に決定された複数のデータにおける決定された変化は、データベースに記憶されてよい。SDEPによって測定される精神測定データ/感覚データ/生体データは、同じ持続時間内にユーザに提供される視覚データの特徴と結合されてよい。データベースは、SDEP及び/又は例えばサードパーティ、企業、若しくはユーザに提示されるコンテンツのコンテンツプロバイダ等の別個のエンティティによって維持されてよい。データは、ユーザの挙動をモデル化し、媒体を修正するために本明細書に説明される種々の実施形態に従ってさらに処理される。該結合は、映像部分及び/又は映像部分の特徴の集合を変更して、同じユーザから又は本実施形態で説明されるユーザとしての類似したプロファイルを有するユーザのグループ全体で、より大きい関わりを示す所望される精神測定結果/感覚結果/生体結果を受け取るためにさらに使用されてよい。SDEPは、このようにして各視覚測定基準及び各視覚測定基準の以後の重みを活用して、変換測定基準を作成する。さらに、変換測定基準は、所望される製品に対する成功したジェスチャとともに追加の値でSDEPによって作成されてよい。ユーザプロファイルは、人口動態、又は任意の他のパラメータに従ってグループ化されてよい。
3910で、経時的に決定された変更の量及び持続時間が、ユーザに報酬を与えるために使用されてよい。報酬は、自分の精神測定データ/感覚データ/生体データを共有することを選ぶユーザの代わりに別個のエンティティによって提供されてよい。
情報のソースに重みを付ける
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
一実施形態では、システムは、所与の用途のためのその統計的な意義に基づいて、その関連性に基づいて、及び/又は解釈におけるその曖昧さの程度に基づいて上述された評価基準のうちの1つ以上に数値重み又は好みを適用する。
一実施形態では、システムはまず、上記に示されたデータが収集される媒体コンテキストを決定する。コンテキストは、例えばパズルゲーム、アクションゲーム、映画、広告、戦略ゲーム、ソーシャルネットワーク等のアプリケーションのタイプ、又は他の形のメディアアプリケーションを含んでよい。特定の状態選好を信号で知らせてよいコンテキストに適切な評価基準が、代替解釈が最も少ないそれらの評価基準に与えられる。また、評価基準を解釈するとき、より一般的な(より特定的ではない)状態の方を好むことが好ましい。例えば、心拍数の上昇は、理解力の高まりでなくても、少なくとも高められた覚醒状態を示唆する。
別の実施形態では、特定の状況又は状態は、任意の他の状況又は状態と関係なく決定される。状況又は状態は、疲労、関わり、成績、理解力、視覚前庭の不一致に続発する映像酔いと関連付けられる症状、心的外傷後ストレス障害と関連付けられる症状、調節機能障害に関連する複視、予期せぬ周辺視野刺激による病原体伝染、両眼転導調節障害、固視ずれ、かすみ目及び近視、頭痛、焦点調節困難、見当識障害、姿勢の不安定、視覚的不快感、眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛み、嘔吐、胃の不快感、画面表示に対する露出過度からの潜在的な光毒症、及び過剰なブルーライト曝露から生じるホルモンの異常調節を含んでよい。別の実施形態では、状態は特定のシナリオで潜在的に相互に関連付けられるので、特定の状況又は状態は、任意の他の状態との相互関連で決定される。例えば、特定の応用例では、理解力は関わりを必要とする。しかしながら、他の応用例では、関わりは必ずしも理解力を必要としない場合がある。疲労が高まるにつれ、関わり及び理解力はおそらく減少する。関わり及び理解力は、ユーザが単に無関心になる場合、疲労を増加させずに減少する場合もある。その結果、これらの状態の測定は、独立して且つ並行して行われ、後にそれらの評価基準の相互作用の検討が続くべきである。
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。以下の評価基準が、網羅的ではなく例示的であることは当業者に明らかであろう。他の評価基準及び/又は評価基準の組合せは、異なる層で使用され得る。
1.第1の層
a.理解力の視線追跡手段。これは、関連固視(R_(Rel.Fix.))、関連領域に対する絶対角度の平均(|θ|saccade―relevant)、関連領域に対する平均規模成分(Msaccade―relevant)、固視相関(Cfixation)、サッカード相関(Csaccade)、聞き手の眼球運動の相互関連、焦点の領域(Afocus)等の理解力の評価基準の組合せを含んでよい。それは、焦点の領域が、問題の刺激の空間広がりと著しく相互に関連付けられる焦点の領域(Afocus)に基づいた関わりのレベルを含んでもよい。
b.まれな刺激、新規の刺激、又は予期しない刺激から生じる認知EEG電位(N2、N44、P300、P600)の多大な振幅規模増加
c.部分的に開いた目から完全に開いた目への遷移(非ゼロベースラインからのpboth eyes openの著しい増加)
d.著しく短い固視持続時間及び著しく大きいサッカードの大きさによって特徴付けられる無作為の又は集中していない検索
e.100%未満の反応割合(又はいくらか低い、コンテキストに応じた反応のベースライン割合)等の関わりの評価基準、及び例えば長期間の活動にわたる『性能』測定基準の削減及び適切なコンテキストでの反応の減少する割合等の疲労の評価基準の組合せ
f.の欠如又は離脱を示すといての特定のタスク又は刺激から離れる相互作用
g.各タスクとの関わりの相対的な評価基準としてのそれぞれのためのタスクに対する時間を示す利用可能なタスク間の相互作用の比率、及び各刺激又は視覚領域との関わりの相対的な評価基準としてのタスクに対する時間を示す刺激及び/又は視覚領域の間の固視カウント及び/又は固視持続時間の比率に比較されない、タスクを実行する又は刺激を処理するのに費やされる時間の割合としてのタスクに対する相対的な時間を含んだ関わりの他の評価基準
h.関わり始まりの表示として視覚的な刺激とユーザの目との間の距離の著しい短縮、及び関わりのレベルの表示としてのベースラインからの比例する逸脱、及びあくび又は他の顕著な及び別々の呼吸等の関わり及び疲労の評価基準の組合せ
i.例えば(ほとんど)閉じられた目の長期にわたる期間、及び突然の垂直眼球運動等の疲労の評価基準
2.第2の層
a.例えば確立されたベースラインに対する瞬目率の遅延(f blinkより著しく少ないfblink)、及びベースラインより著しく少ない瞬目率等の評価基準の組合せ。また、例えば瞬目率の著しい増加及びより短くかつより頻繁な瞬きへの遷移等の瞬目率の上昇の評価基準の組合せ。
b.適用可能なとき、正しい反応のパーセントが著しく増加する時点としての理解の開始
c.VR/AR/MxR媒体の標的が正しく識別される及び又は位置を突き止められる時点としての理解の開始
d.著しく長い固視持続時間(Dfixation)の期間の終わり、選択された刺激に対する最後の固視の持続時間、及び選択がなされるとき、任意の刺激に対する第1の固視の持続時間としての理解の開始に関係する評価基準の組合せ
e.例えば、瞳孔拡張(Spupil)の迅速且つ著しい増加、及び選択タスクとの関連での著しい瞳孔拡張等の評価基準の組合せ
f.関わり又は離脱をそれぞれ信号で知らせるような正しい反応の平均パーセントからの著しい上方へ又は下方への逸脱
g.刺激をその刺激との関わりの信号として見るための(ここでは凝視の方向とは別個に考えられる)適切な深さに向かう3D凝視位置、及び疲労を示すとして長期間無限に向かう凝視の3D深さの調整
h.微妙な変化又は動きがないかモニタする状況での不動の固視、又は関わりを示すとしての任意の変化又は動きの正確な開始、及びモニタする状況での削減される又は保持される呼吸
i.サッカードの大きさ及び固視頻度の削減によって特徴付けられる眼球運動パターンの変化
3.第3の層
a.GSR−ESPの著しい増加
b.ベータ周波数帯域及びガンマ周波数帯域(≧16Hz)でのEEGのエネルギーの著しい増加、選択タスク中のEEG活動の両側位相同期性の増加、及び低周波(<10Hz)エネルギーが増加し、高周波(≧10Hz)EEGエネルギーが減少するトレードオフ
c.理解力の問題に対する反応遅延に関連する体温及び/又は心拍数の著しい増加。また、関わりの増加を示す自律覚醒の増加、及び離脱としての覚醒の減少、及び疲労を示す心拍数及び体温の著しい減少
d.重要な理解力、又は理解の開始、及び理解力の著しい削減、関わり、及び長期にわたる活動との関連での他の興奮状態を知らせる任意の評価基準
e.眼球疲労を示すドライアイ(例えば、低涙液層破壊時間)の著しい兆候
1.第1の層
a.理解力の視線追跡手段。これは、関連固視(R_(Rel.Fix.))、関連領域に対する絶対角度の平均(|θ|saccade―relevant)、関連領域に対する平均規模成分(Msaccade―relevant)、固視相関(Cfixation)、サッカード相関(Csaccade)、聞き手の眼球運動の相互関連、焦点の領域(Afocus)等の理解力の評価基準の組合せを含んでよい。それは、焦点の領域が、問題の刺激の空間広がりと著しく相互に関連付けられる焦点の領域(Afocus)に基づいた関わりのレベルを含んでもよい。
b.まれな刺激、新規の刺激、又は予期しない刺激から生じる認知EEG電位(N2、N44、P300、P600)の多大な振幅規模増加
c.部分的に開いた目から完全に開いた目への遷移(非ゼロベースラインからのpboth eyes openの著しい増加)
d.著しく短い固視持続時間及び著しく大きいサッカードの大きさによって特徴付けられる無作為の又は集中していない検索
e.100%未満の反応割合(又はいくらか低い、コンテキストに応じた反応のベースライン割合)等の関わりの評価基準、及び例えば長期間の活動にわたる『性能』測定基準の削減及び適切なコンテキストでの反応の減少する割合等の疲労の評価基準の組合せ
f.の欠如又は離脱を示すといての特定のタスク又は刺激から離れる相互作用
g.各タスクとの関わりの相対的な評価基準としてのそれぞれのためのタスクに対する時間を示す利用可能なタスク間の相互作用の比率、及び各刺激又は視覚領域との関わりの相対的な評価基準としてのタスクに対する時間を示す刺激及び/又は視覚領域の間の固視カウント及び/又は固視持続時間の比率に比較されない、タスクを実行する又は刺激を処理するのに費やされる時間の割合としてのタスクに対する相対的な時間を含んだ関わりの他の評価基準
h.関わり始まりの表示として視覚的な刺激とユーザの目との間の距離の著しい短縮、及び関わりのレベルの表示としてのベースラインからの比例する逸脱、及びあくび又は他の顕著な及び別々の呼吸等の関わり及び疲労の評価基準の組合せ
i.例えば(ほとんど)閉じられた目の長期にわたる期間、及び突然の垂直眼球運動等の疲労の評価基準
2.第2の層
a.例えば確立されたベースラインに対する瞬目率の遅延(f blinkより著しく少ないfblink)、及びベースラインより著しく少ない瞬目率等の評価基準の組合せ。また、例えば瞬目率の著しい増加及びより短くかつより頻繁な瞬きへの遷移等の瞬目率の上昇の評価基準の組合せ。
b.適用可能なとき、正しい反応のパーセントが著しく増加する時点としての理解の開始
c.VR/AR/MxR媒体の標的が正しく識別される及び又は位置を突き止められる時点としての理解の開始
d.著しく長い固視持続時間(Dfixation)の期間の終わり、選択された刺激に対する最後の固視の持続時間、及び選択がなされるとき、任意の刺激に対する第1の固視の持続時間としての理解の開始に関係する評価基準の組合せ
e.例えば、瞳孔拡張(Spupil)の迅速且つ著しい増加、及び選択タスクとの関連での著しい瞳孔拡張等の評価基準の組合せ
f.関わり又は離脱をそれぞれ信号で知らせるような正しい反応の平均パーセントからの著しい上方へ又は下方への逸脱
g.刺激をその刺激との関わりの信号として見るための(ここでは凝視の方向とは別個に考えられる)適切な深さに向かう3D凝視位置、及び疲労を示すとして長期間無限に向かう凝視の3D深さの調整
h.微妙な変化又は動きがないかモニタする状況での不動の固視、又は関わりを示すとしての任意の変化又は動きの正確な開始、及びモニタする状況での削減される又は保持される呼吸
i.サッカードの大きさ及び固視頻度の削減によって特徴付けられる眼球運動パターンの変化
3.第3の層
a.GSR−ESPの著しい増加
b.ベータ周波数帯域及びガンマ周波数帯域(≧16Hz)でのEEGのエネルギーの著しい増加、選択タスク中のEEG活動の両側位相同期性の増加、及び低周波(<10Hz)エネルギーが増加し、高周波(≧10Hz)EEGエネルギーが減少するトレードオフ
c.理解力の問題に対する反応遅延に関連する体温及び/又は心拍数の著しい増加。また、関わりの増加を示す自律覚醒の増加、及び離脱としての覚醒の減少、及び疲労を示す心拍数及び体温の著しい減少
d.重要な理解力、又は理解の開始、及び理解力の著しい削減、関わり、及び長期にわたる活動との関連での他の興奮状態を知らせる任意の評価基準
e.眼球疲労を示すドライアイ(例えば、低涙液層破壊時間)の著しい兆候
システムは、好ましくは、コンテキスト及び評価基準の所定の階層に基づいて多様な評価基準に算術的に重みを付け、評価基準の第1の層は、評価基準の第2の層よりも大きい重みを有し、評価基準の第2の層は、評価基準の第3の層よりも大きい重みを有する。評価基準は、その曖昧さの程度及び任意の所与のコンテキスト状況に対する関連性に基づいて層に分類される。
システムは、特定のコンテキストに基づいて状態間のタイミング関係を決定するために、例えば関与、理解力、及び疲労の間の相関等の異なる状態のありとあらゆる相関をさらに追跡する。これらの相関は、即時であることもあれば、いくらかの時間的な遅延を有する場合もある(例えば、関わりの減少の後には、いくらかの期間の後に疲労の増加が続く)。本明細書の実施形態により、ありとあらゆる相関が、それらが直感的に見えるかどうかは関わりなく、見つけられてよい。
見つけられる任意の重大な相関のために、システムは、記録されたデータに適合する所定のアルゴリズムに基づいて評価基準を含むことの相互作用をモデル化する。例えば、位置の正確さ、時間の正確さ等を検出し、区別するユーザの能力等の直接的な評価基準が、多様な応用例全体で必要とされる。例えば、疲労及び忍耐力等であるが、これに限定されるものではない間接的な評価基準も、多様な応用例全体でモニタされる。しかしながら、ゲーミングアプリケーションが、ユーザの視覚的な注意の評価基準、マルチトラックする能力、及び他を、報酬/ポイントを決定するためにより重要であると気づく場合がある。一方、画面上の特定の製品又は色により多くの注意を払うユーザの能力は、関係する評価基準をより重要視するために広告アプリケーションにつながる場合がある。
上記の実施例は、本発明のシステムの多くの応用例を単に示すに過ぎない。本発明のいくつかの実施形態しか本明細書に説明されていないが、本発明が、本発明の精神又は範囲から逸脱することなく多くの他の特定の形式で実施される可能性があることを理解されたい。したがって、本実施例及び実施形態は、制限的ではなく例示的と見なされるべきであり、本発明は、添付の特許請求の範囲の中で修正されてよい。
Claims (20)
- ユーザによって経験される状況を、前記ユーザがディスプレイを有するコンピューティングデバイスを使用し、媒体を経験している間に改善する又は処理する方法であって、
前記コンピューティングデバイスを使用し、複数のデータのうちの少なくとも1つのための第1の値を取得することと、
前記コンピューティングデバイスを使用し、前記複数のデータのうちの前記少なくとも1つのための第2の値を取得することと、
前記第1の値及び前記第2の値を使用し、経時的に前記複数のデータのうちの少なくとも1つの変化を決定することと、
経時的に前記複数のデータのうちの前記少なくとも1つの前記変化に基づいて、前記状況の程度を決定することと、
前記状況の程度を決定することに基づいて、前記媒体を修正することと
を含む、方法。 - 前記コンピューティングデバイスが、仮想現実ビューデバイス、拡張現実ビューデバイス、又は複合現実感ビューデバイスである、請求項1に記載の方法。
- 前記仮想現実ビューデバイス、前記拡張現実ビューデバイス、又は前記複合現実感ビューデバイスが、眼球運動データを取得するように構成されたカメラ、頭部動きの比率及び/又は方向を検出するように構成されたセンサ、心拍数を検出するように構成されたセンサ、及び脳波を検出するためのEEGセンサのうちの少なくとも1つを備える、請求項2に記載の方法。
- 前記眼球運動データが、高速走査、衝動性運動、瞬目率データ、固視データ、瞳孔直径、及び眼瞼裂距離を含む、請求項3に記載の方法。
- 前記状況が、理解力、疲労、関わり、成績、視覚前庭の不一致に続発する映像酔いと関連付けられる症状、心的外傷後ストレス障害と関連付けられる症状、調節機能障害に関連する複視、予期せぬ周辺視野刺激による病原体伝染、両眼転導調節障害、固視ずれ、かすみ目及び近視、頭痛、焦点調節困難、見当識障害、姿勢の不安定、視覚的不快感、眼精疲労、ドライアイ、流涙、異物感、眼の圧迫感、又は目の回りの痛み、嘔吐、胃の不快感、画面表示に対する露出過度からの潜在的な光毒症、過剰なブルーライト曝露から生じるホルモンの異常調節、斜位、肯定的感情の減少、及び否定的感情の増加のうちの少なくとも1つである、請求項2に記載の方法。
- 前記複数のデータが、高速走査、衝動性運動、固視、瞬目率、瞳孔直径、頭部動きの速度、頭部動きの方向、心拍数、運動反応時間、円滑追跡、眼瞼裂距離、脳波活動の程度及び比率、輻輳の程度、及び輻輳の程度のうちの少なくとも1つを含む、請求項2に記載の方法。
- 媒体を前記修正することが、前記媒体のコントラストを増加させること、前記媒体のコントラストを減少させること、前記媒体に表示される関心のあるオブジェクトのサイズをより大きくすること、前記媒体に表示される関心のあるオブジェクトのサイズをより小さくすること、前記媒体の明るさを強めること、前記媒体の明るさを減少させること、中心視野に示される前記媒体に表示される関心のあるオブジェクトの量を増加させること及び周辺視野の関心のある前記オブジェクトを減少させること、中心視野に示される前記媒体に表示される関心のあるオブジェクトの量を減少させること及び周辺視野の関心のある前記オブジェクトを増加させること、前記媒体に表示されるコンテンツの焦点をより中心位置に変更すること、視野からオブジェクトを削除し、ユーザが前記削除を認識するかどうかを測定すること、前記媒体内の色の量を増加させること、外部データ、人口統計データ、又はトレンドデータに基づいて前記媒体のRGB値を変更する前記媒体内に示されるオブジェクト内の陰影の程度を強化することのうちの少なくとも1つを含む、請求項2に記載の方法。
- 前記状況が理解力である、請求項2に記載の方法。
- 前記変化が、高速走査の増加、衝動性運動の増加、固視の減少、瞬目率の上昇、瞳孔直径の拡大、頭部動きの増加、心拍数の増加、反応時間の減少、瞼の分離の減少、脳波活動の変化、及び円滑追跡の増加をのうちの少なくとも1つである、請求項2に記載の方法。
- 前記状況の前記程度が、前記ユーザの理解力の減少である、請求項9に記載の方法。
- 前記ユーザの前記理解力の低下に基づいて、前記媒体が、前記媒体のコントラストを増加すること、前記媒体に表示される関心のあるオブジェクトのサイズをより大きくすること、前記媒体の明るさを強めること、中心視野に示される前記媒体に表示される関心のあるオブジェクトの量を増加させること及び周辺視野の関心のある前記オブジェクトを減少させること、前記媒体に表示されるコンテンツの焦点をより中心位置に変更すること、視野からオブジェクトを削除し、ユーザが前記削除を認識するかどうかを測定すること、前記媒体内の色の量を増加させること、前記媒体内に示されるオブジェクト内の陰影の程度を強化すること、及び外部データ、人口統計データ、又はトレンドデータに基づいて前記媒体のRGB値を変更することのうちの少なくとも1つによって修正される、請求項10に記載の方法。
- 前記状況が疲労である、請求項2に記載の方法。
- 前記変化が、固視の減少、瞬目率の上昇、並びに輻輳及び発散の変化のうちの少なくとも1つである、請求項12に記載の方法。
- 前記状況の前記程度が、前記ユーザの疲労の増加である、請求項13に記載の方法。
- 前記ユーザの前記疲労の増加に基づいて、前記媒体が、前記媒体のコントラストを増加すること、前記媒体に表示される関心のあるオブジェクトのサイズをより大きくすること、前記媒体の明るさを強めること、及びより多くの運動を増加させること又は導入することのうちの少なくとも1つによって修正される、請求項14に記載の方法。
- ユーザによって経験される理解を、前記ユーザが仮想現実ビューデバイス、拡張現実ビューデバイス、又は複合現実感ビューデバイスを通して媒体を経験している間に改善する方法であって、
複数のデータのための第1の値を取得することと、
前記複数のデータの第2の値を取得することと、
前記第1の値及び前記第2の値を使用して、経時的に前記複数のデータの変化を決定することと、
経時的に前記複数のデータの前記変化に基づいて、前記ユーザの理解力の削減の程度を決定することと、
理解力の削減の程度を決定することに基づいて媒体を修正することと
を含む、方法。 - 前記複数のデータの前記第1の値及び前記第2の値を取得することが、基礎体温、心拍数、体の動き、体の回転、体の方向、体の速度、又は体の大きさを検出するように構成されたセンサ、四肢の動き、四肢回転、四肢方向、四肢速度、又は四肢の大きさを測定するように構成されたセンサ、パルスオキシメータ、聴覚処理を測定するように構成されたセンサ、味覚処理及び嗅覚処理を測定するように構成されたセンサ、圧力を測定するためのセンサ、例えば、従来のキーボード及びマウス及び又は手動ユーザフィードバックを収集するための任意の他の形式のコントローラ等の入力装置、脳波計、心電計、筋電計、電気眼球記録法、網膜電図写真、及び皮膚電気反応を測定するように構成されたセンサのうちの少なくとも1つ以上を取得することを含む、請求項16に記載の方法。
- 前記複数のデータが、眼瞼裂、瞬目率、瞳孔の大きさ、瞳孔の位置、凝視方向、凝視位置、両眼転導、固視位置、固視持続時間、固視比率、固視カウント、サッカード位置、サッカード角度、サッカード大きさ、プロサッカード、アンチサッカード、戻りの阻害、サッカード速度、サッカード比率、画面距離、頭部方向、頭部固定、四肢追跡、体重分散、周波数領域(フーリエ)分析、脳波記録出力、周波数バンド、心電図検査出力、筋電図検査出力、電気眼球図記録出力、網膜電図写真出力、電気皮膚反応、体温、呼吸数、酸素飽和度、心拍数、血圧、有声化、推定遠心性反応、呼吸、顔の表情、嗅覚処理、味覚処理、及び聴覚処理のうちの少なくとも1つ以上を含む、請求項16に記載の方法。
- 前記媒体を修正することが、前記媒体のコントラストを増加すること、前記媒体に表示される関心のあるオブジェクトのサイズをより大きくすること、前記媒体の明るさを強めること、中心視野に示される前記媒体に表示される関心のあるオブジェクトの量を増加させること及び周辺視野の関心のある前記オブジェクトを減少させること、前記媒体に表示されるコンテンツの焦点をより中心位置に変更すること、視野からオブジェクトを削除し、ユーザが前記削除を認識するかどうかを測定すること、前記媒体内の色の量を増加させること、前記媒体内に示されるオブジェクト内の陰影の程度を強化すること、及び外部データ(人口統計データ又はトレンドデータ)に基づいて前記媒体のRGB値を変更することのうちの少なくとも1つによって修正することを含む、請求項16に記載の方法。
- 前記媒体を前記修正することが、理解力の所定の増加を提供するために修正することを含む、請求項16に記載の方法。
Applications Claiming Priority (13)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662319825P | 2016-04-08 | 2016-04-08 | |
US62/319,825 | 2016-04-08 | ||
US201662322741P | 2016-04-14 | 2016-04-14 | |
US62/322,741 | 2016-04-14 | ||
US201662359796P | 2016-07-08 | 2016-07-08 | |
US62/359,796 | 2016-07-08 | ||
US201662363074P | 2016-07-15 | 2016-07-15 | |
US62/363,074 | 2016-07-15 | ||
US201662381784P | 2016-08-31 | 2016-08-31 | |
US62/381,784 | 2016-08-31 | ||
US201662425736P | 2016-11-23 | 2016-11-23 | |
US62/425,736 | 2016-11-23 | ||
PCT/US2017/026688 WO2017177187A1 (en) | 2016-04-08 | 2017-04-07 | Methods and systems for obtaining. analyzing, and generating vision performance data and modifying media based on the data |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019519053A true JP2019519053A (ja) | 2019-07-04 |
Family
ID=59999063
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019503641A Pending JP2019513516A (ja) | 2016-04-08 | 2017-04-07 | 人の視覚パフォーマンスを査定するために視覚データを入手し、集計し、解析する方法およびシステム |
JP2019503640A Pending JP2019519053A (ja) | 2016-04-08 | 2017-04-07 | 視覚機能データを獲得し、分析し、生成する、かつデータに基づいてメディアを修正するための方法およびシステム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019503641A Pending JP2019513516A (ja) | 2016-04-08 | 2017-04-07 | 人の視覚パフォーマンスを査定するために視覚データを入手し、集計し、解析する方法およびシステム |
Country Status (8)
Country | Link |
---|---|
US (4) | US20170293356A1 (ja) |
EP (2) | EP3440494A4 (ja) |
JP (2) | JP2019513516A (ja) |
KR (2) | KR20190026651A (ja) |
CN (2) | CN109690384A (ja) |
AU (2) | AU2017248363A1 (ja) |
CA (2) | CA3020394A1 (ja) |
WO (2) | WO2017177188A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022059730A1 (ja) * | 2020-09-16 | 2022-03-24 | ||
US11983454B2 (en) | 2020-12-02 | 2024-05-14 | Yokogawa Electric Corporation | Apparatus, method and storage medium |
Families Citing this family (202)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10895917B2 (en) | 2011-03-12 | 2021-01-19 | Uday Parshionikar | Multipurpose controllers and methods |
US10884493B2 (en) | 2013-06-20 | 2021-01-05 | Uday Parshionikar | Gesture based user interfaces, apparatuses and systems using eye tracking, head tracking, hand tracking, facial expressions and other user actions |
US10335342B2 (en) | 2015-07-23 | 2019-07-02 | New Jersey Institute Of Technology | Method, system, and apparatus for treatment of binocular dysfunctions |
US10430810B2 (en) * | 2015-09-22 | 2019-10-01 | Health Care Direct, Inc. | Systems and methods for assessing the marketability of a product |
AU2017225977C1 (en) | 2016-03-04 | 2023-08-03 | Magic Leap, Inc. | Current drain reduction in AR/VR display systems |
CA3017930A1 (en) | 2016-03-25 | 2017-09-28 | Magic Leap, Inc. | Virtual and augmented reality systems and methods |
US20170293356A1 (en) | 2016-04-08 | 2017-10-12 | Vizzario, Inc. | Methods and Systems for Obtaining, Analyzing, and Generating Vision Performance Data and Modifying Media Based on the Vision Performance Data |
US10188292B2 (en) * | 2016-09-08 | 2019-01-29 | Howard P. Apple | Device for screening convergence insufficiency and related computer implemented methods |
AU2017363283B2 (en) * | 2016-11-23 | 2023-07-06 | Lifeq Global Limited | System and method for biometric identification using sleep physiology |
US10885676B2 (en) * | 2016-12-27 | 2021-01-05 | Samsung Electronics Co., Ltd. | Method and apparatus for modifying display settings in virtual/augmented reality |
KR20180092778A (ko) * | 2017-02-10 | 2018-08-20 | 한국전자통신연구원 | 실감정보 제공 장치, 영상분석 서버 및 실감정보 제공 방법 |
US10395693B2 (en) * | 2017-04-10 | 2019-08-27 | International Business Machines Corporation | Look-ahead for video segments |
US10445614B2 (en) * | 2017-04-16 | 2019-10-15 | Facebook, Inc. | Systems and methods for evaluating content |
US10728616B2 (en) * | 2017-04-19 | 2020-07-28 | Intel Corporation | User interest-based enhancement of media quality |
US11087010B2 (en) | 2017-05-31 | 2021-08-10 | International Business Machines Corporation | Mental acuity-dependent accessibility |
US10921613B2 (en) * | 2017-06-01 | 2021-02-16 | NewSight Reality, Inc. | Near eye display and related computer-implemented software and firmware |
US11647903B2 (en) * | 2017-06-01 | 2023-05-16 | University Of Washington | Smartphone-based digital pupillometer |
US10810773B2 (en) * | 2017-06-14 | 2020-10-20 | Dell Products, L.P. | Headset display control based upon a user's pupil state |
WO2018237347A1 (en) | 2017-06-23 | 2018-12-27 | Adaptive Sensory Technology, Inc. | SYSTEMS AND METHODS FOR TESTING AND ANALYZING VISUAL ACUITY AND CHANGES |
US10573061B2 (en) | 2017-07-07 | 2020-02-25 | Nvidia Corporation | Saccadic redirection for virtual reality locomotion |
US10573071B2 (en) | 2017-07-07 | 2020-02-25 | Nvidia Corporation | Path planning for virtual reality locomotion |
US20190008441A1 (en) * | 2017-07-10 | 2019-01-10 | VirtualMind, LLC | Diagnosing brain injury using a virtual reality system |
US10902395B1 (en) | 2017-07-11 | 2021-01-26 | Massachusetts Mutual Life Insurance Company | Intelligent e-book reader incorporating augmented reality or virtual reality |
GB2565302B (en) * | 2017-08-08 | 2022-04-13 | Sony Interactive Entertainment Inc | Head-mountable apparatus and methods |
TWI646466B (zh) * | 2017-08-09 | 2019-01-01 | 宏碁股份有限公司 | 視覺範圍映射方法及相關眼球追蹤裝置與系統 |
WO2019040669A1 (en) * | 2017-08-22 | 2019-02-28 | Silicon Algebra, Inc. | METHOD FOR DETECTING EXPRESSIONS AND FACIAL EMOTIONS OF USERS |
KR102718810B1 (ko) | 2017-08-23 | 2024-10-16 | 뉴레이블 인크. | 고속 눈 추적 피처들을 갖는 뇌-컴퓨터 인터페이스 |
US11145124B2 (en) | 2017-08-30 | 2021-10-12 | Ronald H. Winston | System and method for rendering virtual reality interactions |
US11602697B2 (en) | 2017-09-05 | 2023-03-14 | State Space Labs Inc. | Sensorimotor assessment and training |
US12114930B2 (en) | 2017-09-05 | 2024-10-15 | Neurolens, Inc. | System for measuring binocular alignment with adjustable displays and eye trackers |
US11896910B2 (en) | 2017-09-05 | 2024-02-13 | State Space Labs, Inc. | System and method of cheat detection in video games |
US11589745B2 (en) * | 2017-09-05 | 2023-02-28 | Neurolens, Inc. | Method and system for measuring binocular alignment |
US11250242B2 (en) * | 2017-09-13 | 2022-02-15 | Visualcamp Co., Ltd. | Eye tracking method and user terminal performing same |
EP3466338A1 (en) * | 2017-10-03 | 2019-04-10 | Tata Consultancy Services Limited | Cognitive load estimation based on pupil dilation |
US20190138162A1 (en) * | 2017-11-07 | 2019-05-09 | Facebook, Inc. | Systems and methods for providing calls-to-action and related content associated with virtual media content |
WO2019094953A1 (en) | 2017-11-13 | 2019-05-16 | Neurable Inc. | Brain-computer interface with adaptations for high-speed, accurate, and intuitive user interactions |
US10791082B2 (en) * | 2017-11-21 | 2020-09-29 | D8AI Inc. | Systems and methods for delivery and use of interactive objects |
TWI702531B (zh) * | 2017-11-29 | 2020-08-21 | 財團法人工業技術研究院 | 影像資訊顯示方法、影像資訊顯示系統與顯示器 |
CN109842790B (zh) | 2017-11-29 | 2021-02-26 | 财团法人工业技术研究院 | 影像信息显示方法与显示器 |
CN111970958A (zh) | 2017-11-30 | 2020-11-20 | 思维股份公司 | 用于检测神经障碍和测量一般认知能力的系统和方法 |
WO2019109058A1 (en) | 2017-12-01 | 2019-06-06 | Ceeable, Inc. | Eye movement in response to visual stimuli for assessment of ophthalmic and neurological conditions |
KR20190067433A (ko) * | 2017-12-07 | 2019-06-17 | 주식회사 비주얼캠프 | 텍스트-리딩 기반의 리워드형 광고 서비스 제공 방법 및 이를 수행하기 위한 사용자 단말 |
GB2569323B (en) * | 2017-12-13 | 2020-05-13 | Sony Interactive Entertainment Inc | Head-mountable apparatus and methods |
KR20200123086A (ko) * | 2017-12-21 | 2020-10-28 | 커먼웰쓰 사이언티픽 앤드 인더스트리얼 리서치 오가니제이션 | 사용자-특정 사용자 인터페이스 생성 |
EP3740126A4 (en) * | 2018-01-18 | 2022-02-23 | Neurable Inc. | BRAIN-COMPUTER INTERFACE WITH ADAPTATIONS FOR HIGH-SPEED, ACCURATE AND INTUITIVE USER INTERACTIONS |
WO2019143117A1 (en) * | 2018-01-18 | 2019-07-25 | Samsung Electronics Co., Ltd. | Method and apparatus for adjusting augmented reality content |
US10225360B1 (en) * | 2018-01-24 | 2019-03-05 | Veeva Systems Inc. | System and method for distributing AR content |
US11919531B2 (en) * | 2018-01-31 | 2024-03-05 | Direct Current Capital LLC | Method for customizing motion characteristics of an autonomous vehicle for a user |
WO2019152619A1 (en) * | 2018-02-03 | 2019-08-08 | The Johns Hopkins University | Blink-based calibration of an optical see-through head-mounted display |
US11604979B2 (en) | 2018-02-06 | 2023-03-14 | International Business Machines Corporation | Detecting negative experiences in computer-implemented environments |
US10884769B2 (en) | 2018-02-17 | 2021-01-05 | Adobe Inc. | Photo-editing application recommendations |
GB2571300B (en) * | 2018-02-23 | 2020-05-27 | Sony Interactive Entertainment Inc | Eye tracking method and apparatus |
US11163156B2 (en) | 2018-03-15 | 2021-11-02 | Sphairos, Inc. | Modular display and sensor system for attaching to eyeglass frames and capturing physiological data |
US11036811B2 (en) * | 2018-03-16 | 2021-06-15 | Adobe Inc. | Categorical data transformation and clustering for machine learning using data repository systems |
WO2019183129A1 (en) * | 2018-03-19 | 2019-09-26 | Cognifisense, Inc. | Computer systems and methods for creating and modifying a multi-sensory experience to improve health or performance |
JP7222392B2 (ja) * | 2018-03-20 | 2023-02-15 | ソニーグループ株式会社 | 情報処理装置、情報処理方法および記録媒体 |
JP7121523B2 (ja) * | 2018-04-10 | 2022-08-18 | キヤノン株式会社 | 画像表示装置、画像表示方法 |
WO2019210087A1 (en) * | 2018-04-25 | 2019-10-31 | The Trustees Of The University Of Pennsylvania | Methods, systems, and computer readable media for testing visual function using virtual mobility tests |
CN108805029B (zh) * | 2018-05-08 | 2021-08-24 | 天津师范大学 | 一种基于显著对偶激活编码的地基云图识别方法 |
US10528131B2 (en) * | 2018-05-16 | 2020-01-07 | Tobii Ab | Method to reliably detect correlations between gaze and stimuli |
US10721510B2 (en) | 2018-05-17 | 2020-07-21 | At&T Intellectual Property I, L.P. | Directing user focus in 360 video consumption |
US10942564B2 (en) * | 2018-05-17 | 2021-03-09 | Sony Interactive Entertainment Inc. | Dynamic graphics rendering based on predicted saccade landing point |
US10482653B1 (en) | 2018-05-22 | 2019-11-19 | At&T Intellectual Property I, L.P. | System for active-focus prediction in 360 video |
US10827225B2 (en) | 2018-06-01 | 2020-11-03 | AT&T Intellectual Propety I, L.P. | Navigation for 360-degree video streaming |
CN110554824A (zh) * | 2018-06-01 | 2019-12-10 | 深圳市鸿合创新信息技术有限责任公司 | 一种多操作系统电子装置 |
US10684681B2 (en) * | 2018-06-11 | 2020-06-16 | Fotonation Limited | Neural network image processing apparatus |
US20210275013A1 (en) * | 2018-06-18 | 2021-09-09 | New Jersey Institute Of Technology | Method, System and Apparatus for Diagnostic Assessment and Screening of Binocular Dysfunctions |
US10725538B2 (en) * | 2018-06-19 | 2020-07-28 | Igt | Interacting with game elements using eye movement tracking |
WO2020018938A1 (en) * | 2018-07-19 | 2020-01-23 | Magic Leap, Inc. | Content interaction driven by eye metrics |
US10679393B2 (en) * | 2018-07-24 | 2020-06-09 | Snap Inc. | Conditional modification of augmented reality object |
US10916040B2 (en) * | 2018-07-24 | 2021-02-09 | Apical Ltd. | Processing image data using different data reduction rates |
JP7048893B2 (ja) * | 2018-07-26 | 2022-04-06 | 日本電信電話株式会社 | 学習装置、学習方法及びコンピュータプログラム |
TWI673047B (zh) * | 2018-07-27 | 2019-10-01 | 亮眼科技股份有限公司 | 視力訓練輔助設備 |
US10915740B2 (en) * | 2018-07-28 | 2021-02-09 | International Business Machines Corporation | Facial mirroring in virtual and augmented reality |
US10949787B2 (en) * | 2018-07-31 | 2021-03-16 | International Business Machines Corporation | Automated participation evaluator |
US10810432B2 (en) | 2018-08-02 | 2020-10-20 | Motorola Solutions, Inc. | Methods and systems for differentiating one or more objects in a video |
GB2567553B (en) * | 2018-09-06 | 2021-04-07 | Sony Interactive Entertainment Inc | Foveated rendering system and method |
CN109460143A (zh) * | 2018-09-18 | 2019-03-12 | 南京航空航天大学 | 基于vr头显的头戴式脑诱发电位视觉刺激系统及方法 |
US10664050B2 (en) * | 2018-09-21 | 2020-05-26 | Neurable Inc. | Human-computer interface using high-speed and accurate tracking of user interactions |
US10922203B1 (en) * | 2018-09-21 | 2021-02-16 | Nvidia Corporation | Fault injection architecture for resilient GPU computing |
US11119573B2 (en) * | 2018-09-28 | 2021-09-14 | Apple Inc. | Pupil modulation as a cognitive control signal |
US11477525B2 (en) * | 2018-10-01 | 2022-10-18 | Dolby Laboratories Licensing Corporation | Creative intent scalability via physiological monitoring |
US10827922B2 (en) * | 2018-10-22 | 2020-11-10 | Zongqi Hu | Apparatus and method for objective visual acuity measurement using dynamic velocity threshold filter in optokinetic response processing |
US11087502B2 (en) | 2018-10-31 | 2021-08-10 | International Business Machines Corporation | Multimodal data visualization using bandwidth profiles and optional environmental compensation |
US11249310B1 (en) * | 2018-11-26 | 2022-02-15 | Lockheed Martin Corporation | Augmented reality device with external light control layer for realtime contrast control |
EP3667462B1 (en) * | 2018-12-11 | 2022-07-13 | Tobii AB | Screen position estimation |
KR102284266B1 (ko) * | 2018-12-13 | 2021-08-02 | 한국과학기술원 | 신경 불일치 모델을 고려한 가상현실 멀미 평가 방법 및 그 장치 |
CN109756728B (zh) * | 2019-01-02 | 2021-12-07 | 京东方科技集团股份有限公司 | 图像显示方法及装置,电子设备,计算机可读存储介质 |
CN113423322A (zh) * | 2019-01-17 | 2021-09-21 | 皇家学术促进会麦吉尔大学 | 用于立体视觉的数字化测量的系统和方法 |
WO2020159784A1 (en) * | 2019-02-01 | 2020-08-06 | Apple Inc. | Biofeedback method of modulating digital content to invoke greater pupil radius response |
JP7135944B2 (ja) * | 2019-03-06 | 2022-09-13 | 株式会社デンソー | 指標算出装置及び表示システム |
KR102715879B1 (ko) * | 2019-03-07 | 2024-10-14 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
US11056075B2 (en) * | 2019-03-27 | 2021-07-06 | Lenovo (Singapore) Pte. Ltd. | Adjusting display settings of a head-mounted display |
CN113748449B (zh) * | 2019-03-27 | 2024-05-14 | 人间制造局有限责任公司 | 评估和培训系统 |
EP3935474A4 (en) | 2019-04-05 | 2022-10-12 | Hewlett-Packard Development Company, L.P. | MODIFICATION OF AUDIO CONTENT BASED ON PHYSIOLOGICAL OBSERVATIONS |
US20220030080A1 (en) * | 2019-04-10 | 2022-01-27 | IPPM Venture, LLC | Method for assessment of human attention |
JP7060544B6 (ja) * | 2019-04-26 | 2022-05-23 | 塁 佐藤 | 運動用設備 |
CN110060782A (zh) * | 2019-04-28 | 2019-07-26 | 浙江中医药大学附属第二医院(浙江省新华医院) | 一种基于虚拟现实的对不同心血管急症信息处理仿真系统 |
WO2020232309A1 (en) * | 2019-05-15 | 2020-11-19 | The Regents Of The University Of California | Method and apparatus to track binocular eye motion |
US10871823B1 (en) * | 2019-05-23 | 2020-12-22 | Facebook Technologies, Llc | Systems and methods for using scene understanding for calibrating eye tracking |
WO2020240470A1 (en) * | 2019-05-31 | 2020-12-03 | ResMed Pty Ltd | Systems and methods for minimizing cognitive decline using augmented reality |
CN110208947B (zh) * | 2019-06-03 | 2021-10-08 | 歌尔光学科技有限公司 | 基于人眼追踪的显示设备及显示方法 |
CN110200626A (zh) * | 2019-06-14 | 2019-09-06 | 重庆大学 | 一种基于投票分类器的视觉诱导晕动症检测方法 |
US11612316B2 (en) * | 2019-06-20 | 2023-03-28 | Awss Zidan | Medical system and method operable to control sensor-based wearable devices for examining eyes |
CN110251071A (zh) * | 2019-06-21 | 2019-09-20 | 中山大学中山眼科中心 | 儿童视力评估方法、系统及计算机存储介质 |
EP3991071A4 (en) * | 2019-06-26 | 2023-09-13 | Twosense, Inc. | CONTINUOUS AUTHENTICATION WITH WEARABLE HEAD-MOUNTED DEVICES AND EYE TRACKING |
CN110412778A (zh) * | 2019-07-25 | 2019-11-05 | 南京聚米粒智能科技有限公司 | 一种近视眼镜视力疲劳缓解方法及装置 |
JP7346135B2 (ja) * | 2019-07-30 | 2023-09-19 | キヤノン株式会社 | 電子機器、電子機器の制御方法、プログラムおよび記憶媒体 |
CN110428908B (zh) * | 2019-07-31 | 2021-12-17 | 广西壮族自治区人民医院 | 一种基于人工智能的眼睑运动功能评估系统 |
US11099642B2 (en) * | 2019-08-01 | 2021-08-24 | International Business Machines Corporation | Display adaptation for visual impairment |
US11263634B2 (en) | 2019-08-16 | 2022-03-01 | Advanced New Technologies Co., Ltd. | Payment method and device |
US20210065374A1 (en) * | 2019-08-26 | 2021-03-04 | Organize Everything Inc. | System and method for extracting outlines of physical objects |
US11576570B2 (en) * | 2019-08-30 | 2023-02-14 | Qualcomm Incorporated | Determining eye strain indicator based on multiple devices |
CN110547756A (zh) * | 2019-09-17 | 2019-12-10 | 广州智伴人工智能科技有限公司 | 一种视力测试方法、装置和系统 |
US20210086089A1 (en) * | 2019-09-25 | 2021-03-25 | Nvidia Corporation | Player analysis using one or more neural networks |
EP4033961A1 (en) * | 2019-09-27 | 2022-08-03 | Alcon Inc. | Patient-induced trigger of a measurement for ophthalmic diagnostic devices |
KR102349087B1 (ko) * | 2019-10-10 | 2022-01-12 | 한국과학기술연구원 | 뇌-컴퓨터 인터페이스에 기반하여 로봇을 제어하는 방법 및 그에 따른 식사 보조 로봇의 제어 장치 |
US11373760B2 (en) * | 2019-10-12 | 2022-06-28 | International Business Machines Corporation | False detection rate control with null-hypothesis |
US11645555B2 (en) | 2019-10-12 | 2023-05-09 | International Business Machines Corporation | Feature selection using Sobolev Independence Criterion |
KR102250775B1 (ko) | 2019-10-18 | 2021-05-11 | 주식회사 에스알파테라퓨틱스 | 근시 치료를 위한 디지털 장치 및 애플리케이션 |
US20210121060A1 (en) * | 2019-10-25 | 2021-04-29 | Northwest Eye Care, Llc | Visual systems assessment scale and systems and methods for corresponding treatment for a patient |
US11461937B2 (en) * | 2019-11-13 | 2022-10-04 | Adobe, Inc. | Authoring and optimization of accessible color themes |
US11450035B2 (en) | 2019-11-13 | 2022-09-20 | Adobe Inc. | Authoring and optimization of accessible color themes |
CN114746830A (zh) * | 2019-11-20 | 2022-07-12 | 奈克斯特曼德公司 | 视觉脑机接口 |
GB201917147D0 (en) * | 2019-11-25 | 2020-01-08 | Medopad Ltd | Visual impairment apparatus |
DE102019218302A1 (de) * | 2019-11-26 | 2021-05-27 | Zf Friedrichshafen Ag | Detektieren von einer VR-Krankheit |
WO2021102577A1 (en) * | 2019-11-29 | 2021-06-03 | Electric Puppets Incorporated | System and method for virtual reality based human biological metrics collection and stimulus presentation |
CN111103975B (zh) * | 2019-11-30 | 2022-09-23 | 华为技术有限公司 | 显示方法、电子设备及系统 |
EP4097532A4 (en) * | 2020-01-31 | 2024-02-21 | Magic Leap, Inc. | AUGMENTED REALITY AND VIRTUAL REALITY DISPLAY SYSTEMS FOR OCULOMETRICAL ASSESSMENTS |
US11960383B2 (en) * | 2020-04-01 | 2024-04-16 | Akili Interactive Labs, Inc. | Systems and methods for software design control and quality assurance |
US12102387B2 (en) | 2020-04-24 | 2024-10-01 | Remmedvr Sp. Z.O.O. | System and methods for use in vision assessment to determine refractive errors and neurodegenerative disorders by ocular biomarking features |
AU2021265107A1 (en) * | 2020-04-30 | 2022-11-24 | Joseph Fields | Systems and methods for augmented-or virtual reality-based decision-making simulation |
CN111753639B (zh) * | 2020-05-06 | 2024-08-16 | 上海欧菲智能车联科技有限公司 | 感知地图生成方法、装置、计算机设备和存储介质 |
US20210350139A1 (en) * | 2020-05-11 | 2021-11-11 | Nvidia Corporation | Highlight determination using one or more neural networks |
GB2594966B (en) * | 2020-05-13 | 2024-07-31 | Sony Interactive Entertainment Inc | Gaze tracking apparatus and systems |
WO2021247312A1 (en) * | 2020-06-03 | 2021-12-09 | Limonox Projects Llc | Eye-gaze based biofeedback |
US11426116B2 (en) | 2020-06-15 | 2022-08-30 | Bank Of America Corporation | System using eye tracking data for analysis and validation of data |
CN111772573B (zh) * | 2020-07-06 | 2023-06-06 | 重庆能能科技有限公司 | 双眼聚散灵敏度检测装置及其数据处理方法 |
US20220000393A1 (en) * | 2020-07-06 | 2022-01-06 | Savitar, Inc. | Systems and methods for improving physical performance |
TWI851916B (zh) | 2020-08-14 | 2024-08-11 | 美商海思智財控股有限公司 | 疊合虛擬影像於即時影像的系統與方法 |
CN111973155B (zh) * | 2020-08-23 | 2023-06-16 | 吾征智能技术(北京)有限公司 | 一种基于人体口味异常变化的疾病认知自学习系统 |
US11656681B2 (en) * | 2020-08-31 | 2023-05-23 | Hypear, Inc. | System and method for determining user interactions with visual content presented in a mixed reality environment |
JP7556582B2 (ja) | 2020-09-03 | 2024-09-26 | ヒーズ アイピー ホールディングス エルエルシー | 両眼視を改善するためのシステムおよび方法 |
EP3964130A1 (en) * | 2020-09-03 | 2022-03-09 | Tata Consultancy Services Limited | System and method for eye-blink based assessment of sustained visual attention of a target |
CN116097198A (zh) * | 2020-09-08 | 2023-05-09 | 惠普发展公司,有限责任合伙企业 | 根据生物特征信号确定特性 |
US20220080302A1 (en) * | 2020-09-17 | 2022-03-17 | Whoborn Inc. | Apparatus for reproducing temperature for metaverse |
KR20220039113A (ko) * | 2020-09-21 | 2022-03-29 | 삼성전자주식회사 | 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치 |
US11468990B2 (en) | 2020-10-12 | 2022-10-11 | Kyndryl, Inc. | Prevention of computer vision syndrome using explainable artificial intelligence |
EP4231894B1 (de) | 2020-10-21 | 2024-10-16 | Roland BISCHEL | Computerimplementiertes verfahren zur optometrischen farbaustestung |
CN114546102B (zh) * | 2020-11-26 | 2024-02-27 | 幻蝎科技(武汉)有限公司 | 眼动追踪滑行输入方法、系统、智能终端及眼动追踪装置 |
CN112454390B (zh) * | 2020-11-27 | 2022-05-17 | 中国科学技术大学 | 基于深度强化学习的仿人机器人面部表情模仿方法 |
CN112347450B (zh) * | 2020-11-30 | 2022-04-22 | 浙江大学 | 一种基于眨眼声音信号的身份验证方法 |
SE2051412A1 (en) * | 2020-12-03 | 2022-06-04 | Heads Stockholm Ab | Device for visual field testing |
CN112587136B (zh) * | 2020-12-09 | 2022-02-25 | 北京意图科技有限公司 | 味觉感官评估方法和系统 |
US11568988B2 (en) | 2021-01-12 | 2023-01-31 | Emed Labs, Llc | Health testing and diagnostics platform |
DE102021200300A1 (de) * | 2021-01-14 | 2022-07-14 | Robert Bosch Gesellschaft mit beschränkter Haftung | Modifizieren von parametersätzen, die ein computer vision-modell charakterisieren |
CN112786164B (zh) * | 2021-01-27 | 2023-05-30 | 上海交通大学医学院附属第九人民医院 | 用于调节性视标的动态图片设计方法、装置、设备和介质 |
CN112949404B (zh) * | 2021-02-01 | 2022-04-19 | 吉林大学 | 一种夜间驾驶人视觉搜索能力量化方法 |
US11468713B2 (en) | 2021-03-02 | 2022-10-11 | Bank Of America Corporation | System and method for leveraging a time-series of microexpressions of users in customizing media presentation based on users# sentiments |
US11361108B1 (en) | 2021-03-11 | 2022-06-14 | Tsj Technology, Inc. | Unidirectional communication system for public access to detained persons |
US11929168B2 (en) | 2021-05-24 | 2024-03-12 | Emed Labs, Llc | Systems, devices, and methods for diagnostic aid kit apparatus |
US11615888B2 (en) | 2021-03-23 | 2023-03-28 | Emed Labs, Llc | Remote diagnostic testing and treatment |
GB2606180B (en) * | 2021-04-28 | 2023-07-12 | Sony Interactive Entertainment Inc | Input generation system and method |
CN113243917B (zh) * | 2021-05-18 | 2023-05-12 | 中国民用航空总局第二研究所 | 一种民航管制员的疲劳检测方法、装置、电子设备及介质 |
US11369454B1 (en) | 2021-05-24 | 2022-06-28 | Emed Labs, Llc | Systems, devices, and methods for diagnostic aid kit apparatus |
KR20240015687A (ko) * | 2021-06-17 | 2024-02-05 | 에프. 호프만-라 로슈 아게 | 시각 능력을 특성화하기 위한 가상 현실 기법 |
US12099654B1 (en) | 2021-06-21 | 2024-09-24 | Apple Inc. | Adaptation of electronic content |
WO2022271668A1 (en) | 2021-06-22 | 2022-12-29 | Emed Labs, Llc | Systems, methods, and devices for non-human readable diagnostic tests |
EP4370013A1 (en) | 2021-07-13 | 2024-05-22 | machineMD AG | Computer program, method, and apparatus for determining a visual acuity of a test person |
US11653047B2 (en) | 2021-07-29 | 2023-05-16 | International Business Machines Corporation | Context based adaptive resolution modulation countering network latency fluctuation |
US20230065296A1 (en) * | 2021-08-30 | 2023-03-02 | Facebook Technologies, Llc | Eye-tracking using embedded electrodes in a wearable device |
US12014829B2 (en) | 2021-09-01 | 2024-06-18 | Emed Labs, Llc | Image processing and presentation techniques for enhanced proctoring sessions |
WO2023037714A1 (en) * | 2021-09-10 | 2023-03-16 | Sony Group Corporation | Information processing system, information processing method and computer program product |
WO2023039572A1 (en) * | 2021-09-11 | 2023-03-16 | The Regents Of The University Of California | Simultaneous assessment of afferent and efferent visual pathways |
US11645790B2 (en) | 2021-09-30 | 2023-05-09 | Adobe Inc. | Systems for generating accessible color themes |
KR102665504B1 (ko) | 2021-09-30 | 2024-05-14 | 주식회사 테네터스 | Vr 콘텐츠 기반 무자각 안과검사 제공 방법 및 시스템 |
IT202100026999A1 (it) * | 2021-10-20 | 2023-04-20 | Mnem S R L | Metodo per la correlazione e predizione di dati associati a un soggetto di interesse |
CN113984617A (zh) * | 2021-10-21 | 2022-01-28 | 吉林大学 | 裂隙网络水热传递可视化示踪实验系统 |
WO2023069752A1 (en) * | 2021-10-22 | 2023-04-27 | Apellis Pharmaceuticals, Inc. | Systems and methods for virtual reality, augmented reality, and mixed reality based visual function assessment |
US11769465B1 (en) * | 2021-11-05 | 2023-09-26 | Optum, Inc. | Identifying regions of visible media data that belong to a trigger content type |
US11644678B1 (en) | 2021-11-09 | 2023-05-09 | Sony Interactive Entertainment Inc. | Barometric pressure sensor arrays for detecting presence and motion of objects for tracking or triggering a response |
US11832946B2 (en) | 2021-11-17 | 2023-12-05 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for producing stimuli in a visual interface |
US12093519B2 (en) | 2021-11-17 | 2024-09-17 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for producing stimuli in a visual interface using modulation |
CN114047822B (zh) * | 2021-11-24 | 2023-12-19 | 京东方科技集团股份有限公司 | 近眼显示方法及系统 |
CN116407084A (zh) * | 2021-12-29 | 2023-07-11 | 中国科学院深圳先进技术研究院 | 一种多维度信号控制系统和方法 |
US20230267693A1 (en) * | 2022-02-18 | 2023-08-24 | Htc Corporation | Method for determining physical characteristics of objects, host, and computer readable storage medium |
WO2023183980A1 (en) * | 2022-03-30 | 2023-10-05 | ResMed Pty Ltd | Display system and user interface |
JP7103744B1 (ja) | 2022-04-01 | 2022-07-20 | 株式会社仙台放送 | 視野評価用情報処理システム、視野評価用情報処理方法、視野評価用情報コンピュータプログラムおよび情報処理装置 |
US20230344975A1 (en) * | 2022-04-22 | 2023-10-26 | Faurecia Irystec Inc. | System and method for controlling perceptual three-dimensional elements for display |
CN114617533B (zh) * | 2022-05-13 | 2022-08-16 | 成都尚医信息科技有限公司 | 一种基于三维重建的营养状况确定系统 |
EP4325517A1 (en) | 2022-08-18 | 2024-02-21 | Carl Zeiss Vision International GmbH | Methods and devices in performing a vision testing procedure on a person |
CN115886841B (zh) * | 2022-08-26 | 2024-09-17 | 华中科技大学 | 一种基于脑区联动的稳态视觉诱发脑电动态起始分类方法 |
KR20240031770A (ko) * | 2022-09-01 | 2024-03-08 | 삼성전자주식회사 | 비네팅 기능을 수행하는 방법 및 이를 지원하는 웨어러블 전자 장치 |
SE2251233A1 (en) * | 2022-10-24 | 2024-04-25 | Tobii Ab | Eye tracking |
WO2024101579A1 (ko) * | 2022-11-09 | 2024-05-16 | 삼성전자주식회사 | 멀티미디어 콘텐트를 표시하기 위한 전자 장치 및 그 방법 |
WO2024144435A1 (ru) * | 2022-12-30 | 2024-07-04 | Автономная некоммерческая организация высшего образования "Университет Иннополис" | Система и способ оценки усталости врача |
GB2626319A (en) * | 2023-01-17 | 2024-07-24 | Sony Interactive Entertainment Inc | An apparatus for adapting virtual environments, and a method thereof |
WO2024195551A1 (en) * | 2023-03-17 | 2024-09-26 | Ricoh Company, Ltd. | Method of controlling wakefulness, system for controlling wakefulness, information processing device, and wearable device |
WO2024196933A1 (en) * | 2023-03-20 | 2024-09-26 | Dolby Laboratories Licensing Corporation | Real-time estimation of user engagement level and other factors using sensors |
KR102687021B1 (ko) * | 2023-07-13 | 2024-07-22 | 주식회사 마키나락스 | 장비의 이상 원인을 예측하고, 예측 결과를 플랫폼을 통해 제공하기 위한 방법 |
CN117137426B (zh) * | 2023-10-26 | 2024-02-13 | 中国科学院自动化研究所 | 基于微扫视特征监测的视野损伤评估训练方法及系统 |
CN117992909B (zh) * | 2024-01-29 | 2024-07-05 | 安徽大学 | 视听场景下的听觉注意解码方法、装置和助听系统 |
Family Cites Families (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5422690A (en) | 1994-03-16 | 1995-06-06 | Pulse Medical Instruments, Inc. | Fitness impairment tester |
DE19505399B4 (de) | 1995-02-17 | 2005-11-10 | Oculus Optikgeräte GmbH | Verfahren zum Ausmessen des Gesichtsfeldes |
GB9722949D0 (en) | 1997-10-30 | 1998-01-07 | Bid Instr Ltd | Ocular testing and related projection apparatus and method |
US6089714A (en) | 1998-02-18 | 2000-07-18 | Mcgill University | Automatic segmentation of nystagmus or other complex curves |
US6118456A (en) | 1998-04-02 | 2000-09-12 | Adaptive Media Technologies | Method and apparatus capable of prioritizing and streaming objects within a 3-D virtual environment |
ATE321491T1 (de) | 1999-06-15 | 2006-04-15 | Dimitri Caplygin | System zur verbesserung von neurophysiologischen prozessen |
US8686922B2 (en) | 1999-12-15 | 2014-04-01 | American Vehicular Sciences Llc | Eye-location dependent vehicular heads-up display system |
GB0309025D0 (en) | 2003-04-22 | 2003-05-28 | Mcgrath John A M | Method and apparatus for the early and rapid diagnosis of glaucoma and other human and higher primate visual disorders |
US7575321B2 (en) | 2003-10-30 | 2009-08-18 | Welch Allyn, Inc. | Apparatus and method of diagnosis of optically identifiable ophthalmic conditions |
JP4626980B2 (ja) | 2005-01-21 | 2011-02-09 | 独立行政法人情報通信研究機構 | 視覚訓練装置及び視覚訓練方法 |
EP1960985A1 (en) | 2005-12-15 | 2008-08-27 | Posit Science Corporation | Cognitive training using visual stimuli |
US8668334B2 (en) * | 2006-02-27 | 2014-03-11 | Vital Art And Science Incorporated | Vision measurement and training system and method of operation thereof |
WO2008043027A2 (en) | 2006-10-04 | 2008-04-10 | Isport, Llc | System and method of enhancing a retino-geniculo-cortical pathway for a particular physical activity |
US8109875B2 (en) * | 2007-01-03 | 2012-02-07 | Gizewski Theodore M | Derma diagnostic and automated data analysis system |
WO2009091845A1 (en) | 2008-01-14 | 2009-07-23 | Isport, Llc | Method and system of enhancing ganglion cell function to improve physical performance |
EP2265180A1 (en) * | 2008-03-18 | 2010-12-29 | Atlas Invest Holdings Ltd. | Method and system for determining familiarity with stimuli |
US8820931B2 (en) | 2008-07-18 | 2014-09-02 | Doheny Eye Institute | Optical coherence tomography-based ophthalmic testing methods, devices and systems |
US8798374B2 (en) | 2008-08-26 | 2014-08-05 | The Regents Of The University Of California | Automated facial action coding system |
EP2334226A4 (en) * | 2008-10-14 | 2012-01-18 | Univ Ohio | COGNITION AND LINGUISTIC TESTING BY EYE TRIAL |
US9472014B2 (en) | 2008-12-19 | 2016-10-18 | International Business Machines Corporation | Alternative representations of virtual content in a virtual universe |
US9298985B2 (en) | 2011-05-16 | 2016-03-29 | Wesley W. O. Krueger | Physiological biosensor system and method for controlling a vehicle or powered equipment |
JP5475893B2 (ja) * | 2011-05-20 | 2014-04-16 | パナソニック株式会社 | 視覚疲労度測定装置およびその方法 |
AU2011204946C1 (en) * | 2011-07-22 | 2012-07-26 | Microsoft Technology Licensing, Llc | Automatic text scrolling on a head-mounted display |
WO2014022574A1 (en) * | 2012-07-31 | 2014-02-06 | Tracey Technologies, Corp | Tps tools and methods for the surgical placement of intraocular implants |
US20140212404A1 (en) | 2012-11-14 | 2014-07-31 | Khizer Khaderi | Compositions and Methods for Treating Injuries to the Visual System of a Human |
US20140195900A1 (en) * | 2012-12-20 | 2014-07-10 | Gregory B. GABEL | Computer readable medium for enhanced display of digital text |
US20150213634A1 (en) * | 2013-01-28 | 2015-07-30 | Amit V. KARMARKAR | Method and system of modifying text content presentation settings as determined by user states based on user eye metric data |
BR112015022413A2 (pt) * | 2013-03-13 | 2017-07-18 | Fdna Uk Ltd | sistemas, métodos, e meios legíveis por computador para identificar quando um indivíduo é suscetível de ser afetado por uma condição médica |
US9152870B2 (en) * | 2013-03-15 | 2015-10-06 | Sri International | Computer vision as a service |
US20150009117A1 (en) * | 2013-07-03 | 2015-01-08 | Richard R. Peters | Dynamic eye trackcing data representation |
US20160367165A1 (en) | 2013-07-03 | 2016-12-22 | The Regents Of The University Of California | Non-invasive method for assessing and monitoring brain injuries |
TWI515717B (zh) * | 2013-07-04 | 2016-01-01 | 廣達電腦股份有限公司 | 顯示器亮度的自動控制裝置及其方法 |
US20150242780A1 (en) * | 2014-02-26 | 2015-08-27 | Gregory J. Besner | Automated recommendation engine for human resource management |
CN106797423B (zh) | 2014-06-27 | 2019-12-06 | Fove股份有限公司 | 视线检测装置 |
CN106796443A (zh) | 2014-08-07 | 2017-05-31 | Fove股份有限公司 | 三维上的凝视点的位置确定方法 |
EP3216023A4 (en) | 2014-11-07 | 2018-07-18 | Eye Labs, LLC | Visual stabilization system for head-mounted displays |
US9621741B2 (en) * | 2014-12-10 | 2017-04-11 | Intel Corporation | Techniques for context and performance adaptive processing in ultra low-power computer vision systems |
US20160370591A1 (en) | 2014-12-27 | 2016-12-22 | Fove, Inc. | Head mounted display |
NZ773837A (en) * | 2015-03-16 | 2022-07-29 | Magic Leap Inc | Methods and systems for diagnosing and treating health ailments |
KR102069023B1 (ko) | 2015-09-03 | 2020-01-22 | 쓰리엠 이노베이티브 프로퍼티즈 컴파니 | 광학 시스템 |
US9942532B2 (en) | 2015-11-03 | 2018-04-10 | International Business Machines Corporation | Eye-fatigue reduction system for head-mounted displays |
US20170293356A1 (en) | 2016-04-08 | 2017-10-12 | Vizzario, Inc. | Methods and Systems for Obtaining, Analyzing, and Generating Vision Performance Data and Modifying Media Based on the Vision Performance Data |
US11163156B2 (en) | 2018-03-15 | 2021-11-02 | Sphairos, Inc. | Modular display and sensor system for attaching to eyeglass frames and capturing physiological data |
-
2017
- 2017-04-07 US US15/482,544 patent/US20170293356A1/en active Pending
- 2017-04-07 KR KR1020187032484A patent/KR20190026651A/ko unknown
- 2017-04-07 JP JP2019503641A patent/JP2019513516A/ja active Pending
- 2017-04-07 JP JP2019503640A patent/JP2019519053A/ja active Pending
- 2017-04-07 KR KR1020187032483A patent/KR20190027354A/ko unknown
- 2017-04-07 AU AU2017248363A patent/AU2017248363A1/en not_active Abandoned
- 2017-04-07 CA CA3020394A patent/CA3020394A1/en not_active Abandoned
- 2017-04-07 AU AU2017248362A patent/AU2017248362A1/en not_active Abandoned
- 2017-04-07 US US15/482,560 patent/US10209773B2/en active Active
- 2017-04-07 EP EP17779942.6A patent/EP3440494A4/en not_active Withdrawn
- 2017-04-07 CN CN201780036088.4A patent/CN109690384A/zh active Pending
- 2017-04-07 CN CN201780036087.XA patent/CN109640785A/zh active Pending
- 2017-04-07 CA CA3020390A patent/CA3020390A1/en not_active Abandoned
- 2017-04-07 WO PCT/US2017/026689 patent/WO2017177188A1/en active Application Filing
- 2017-04-07 WO PCT/US2017/026688 patent/WO2017177187A1/en active Application Filing
- 2017-04-07 EP EP17779943.4A patent/EP3439533A4/en not_active Withdrawn
-
2018
- 2018-12-26 US US16/232,712 patent/US11561614B2/en active Active
-
2022
- 2022-12-15 US US18/066,401 patent/US12105872B2/en active Active
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2022059730A1 (ja) * | 2020-09-16 | 2022-03-24 | ||
JP7300569B2 (ja) | 2020-09-16 | 2023-06-30 | 株式会社雪雲 | 情報処理装置、情報処理方法およびプログラム |
US11983454B2 (en) | 2020-12-02 | 2024-05-14 | Yokogawa Electric Corporation | Apparatus, method and storage medium |
Also Published As
Publication number | Publication date |
---|---|
CN109640785A (zh) | 2019-04-16 |
EP3439533A4 (en) | 2020-01-01 |
EP3439533A1 (en) | 2019-02-13 |
WO2017177187A1 (en) | 2017-10-12 |
US20170293356A1 (en) | 2017-10-12 |
JP2019513516A (ja) | 2019-05-30 |
KR20190026651A (ko) | 2019-03-13 |
KR20190027354A (ko) | 2019-03-14 |
EP3440494A1 (en) | 2019-02-13 |
US20170290504A1 (en) | 2017-10-12 |
WO2017177188A1 (en) | 2017-10-12 |
CN109690384A (zh) | 2019-04-26 |
US12105872B2 (en) | 2024-10-01 |
EP3440494A4 (en) | 2019-12-18 |
US20190391638A1 (en) | 2019-12-26 |
US11561614B2 (en) | 2023-01-24 |
CA3020390A1 (en) | 2017-10-12 |
CA3020394A1 (en) | 2017-10-12 |
US10209773B2 (en) | 2019-02-19 |
US20230195222A1 (en) | 2023-06-22 |
AU2017248362A1 (en) | 2018-11-22 |
AU2017248363A1 (en) | 2018-11-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US12105872B2 (en) | Methods and systems for obtaining, aggregating, and analyzing vision data to assess a person's vision performance | |
US11617559B2 (en) | Augmented reality systems and methods for user health analysis | |
Cognolato et al. | Head-mounted eye gaze tracking devices: An overview of modern devices and recent advances | |
KR20200101906A (ko) | 고속 눈 추적 피처들을 갖는 뇌-컴퓨터 인터페이스 | |
JP2021502881A (ja) | 視野解析のためのシステムおよび方法 | |
Cernea et al. | A survey of technologies on the rise for emotion-enhanced interaction | |
Bekele et al. | Design of a virtual reality system for affect analysis in facial expressions (VR-SAAFE); application to schizophrenia | |
Nie et al. | SPIDERS+: A light-weight, wireless, and low-cost glasses-based wearable platform for emotion sensing and bio-signal acquisition | |
Luong et al. | A survey on affective and cognitive vr | |
US20240164672A1 (en) | Stress detection | |
da Silveira et al. | Physiological Data for User Experience and Quality of Experience: A Systematic Review (2018–2022) | |
Davis-Stewart | Stress Detection: Stress Detection Framework for Mission-Critical Application: Addressing Cybersecurity Analysts Using Facial Expression Recognition | |
Wijayarathna et al. | Toward Stress Detection During Gameplay: A Survey | |
CN116569124A (zh) | 基于眼睛注视的生物反馈 | |
Matthies | Reflexive interaction-extending peripheral interaction by augmenting humans | |
US12099654B1 (en) | Adaptation of electronic content | |
WO2023037714A1 (en) | Information processing system, information processing method and computer program product | |
US20230418372A1 (en) | Gaze behavior detection | |
Yalcin et al. | Automatic cybersickness detection by deep learning of augmented physiological data from off-the-shelf consumer-grade sensors | |
Stewart et al. | Stress Detection: Detecting, Monitoring, and Reducing Stress in Cyber-Security Operation Centers Using Facial Expression Recognition Software |