CN100350792C - 摄像装置 - Google Patents
摄像装置 Download PDFInfo
- Publication number
- CN100350792C CN100350792C CNB2005100589479A CN200510058947A CN100350792C CN 100350792 C CN100350792 C CN 100350792C CN B2005100589479 A CNB2005100589479 A CN B2005100589479A CN 200510058947 A CN200510058947 A CN 200510058947A CN 100350792 C CN100350792 C CN 100350792C
- Authority
- CN
- China
- Prior art keywords
- mentioned
- data
- image
- information
- expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012937 correction Methods 0.000 claims abstract description 49
- 230000000007 visual effect Effects 0.000 claims description 187
- 230000014509 gene expression Effects 0.000 claims description 183
- 238000012545 processing Methods 0.000 claims description 149
- 238000001514 detection method Methods 0.000 claims description 53
- 238000010008 shearing Methods 0.000 claims description 7
- 230000033001 locomotion Effects 0.000 claims description 6
- 238000005096 rolling process Methods 0.000 claims description 6
- 238000005520 cutting process Methods 0.000 abstract description 2
- 230000003287 optical effect Effects 0.000 description 185
- 210000001508 eye Anatomy 0.000 description 79
- 210000003128 head Anatomy 0.000 description 55
- 230000033458 reproduction Effects 0.000 description 52
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 40
- 239000010931 gold Substances 0.000 description 40
- 229910052737 gold Inorganic materials 0.000 description 40
- 230000008859 change Effects 0.000 description 39
- 238000004891 communication Methods 0.000 description 39
- 230000033228 biological regulation Effects 0.000 description 37
- 238000003384 imaging method Methods 0.000 description 34
- 230000009471 action Effects 0.000 description 30
- 238000007726 management method Methods 0.000 description 29
- 239000007788 liquid Substances 0.000 description 27
- 238000000034 method Methods 0.000 description 27
- 210000001747 pupil Anatomy 0.000 description 26
- 238000003860 storage Methods 0.000 description 25
- 230000000875 corresponding effect Effects 0.000 description 24
- 230000005540 biological transmission Effects 0.000 description 23
- 238000012360 testing method Methods 0.000 description 21
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 18
- 230000008569 process Effects 0.000 description 18
- 230000006835 compression Effects 0.000 description 17
- 238000007906 compression Methods 0.000 description 17
- 239000012530 fluid Substances 0.000 description 17
- 230000015572 biosynthetic process Effects 0.000 description 16
- 230000006870 function Effects 0.000 description 16
- 238000011084 recovery Methods 0.000 description 16
- 239000011435 rock Substances 0.000 description 16
- 230000000694 effects Effects 0.000 description 14
- 230000004438 eyesight Effects 0.000 description 14
- 230000015654 memory Effects 0.000 description 12
- 238000006073 displacement reaction Methods 0.000 description 11
- 239000011521 glass Substances 0.000 description 10
- 210000005252 bulbus oculi Anatomy 0.000 description 8
- 238000009499 grossing Methods 0.000 description 8
- 230000036962 time dependent Effects 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 210000004087 cornea Anatomy 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 239000012467 final product Substances 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 230000001105 regulatory effect Effects 0.000 description 7
- GOLXNESZZPUPJE-UHFFFAOYSA-N spiromesifen Chemical compound CC1=CC(C)=CC(C)=C1C(C(O1)=O)=C(OC(=O)CC(C)(C)C)C11CCCC1 GOLXNESZZPUPJE-UHFFFAOYSA-N 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 5
- 238000013461 design Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 230000008676 import Effects 0.000 description 5
- 239000012212 insulator Substances 0.000 description 5
- 239000000203 mixture Substances 0.000 description 5
- 238000006467 substitution reaction Methods 0.000 description 5
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 4
- 230000004075 alteration Effects 0.000 description 4
- 230000003321 amplification Effects 0.000 description 4
- 239000012141 concentrate Substances 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 230000005484 gravity Effects 0.000 description 4
- 238000009434 installation Methods 0.000 description 4
- 238000003199 nucleic acid amplification method Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 241000905957 Channa melasoma Species 0.000 description 3
- 241001269238 Data Species 0.000 description 3
- 206010070834 Sensitisation Diseases 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000005693 optoelectronics Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 230000001915 proofreading effect Effects 0.000 description 3
- 238000007789 sealing Methods 0.000 description 3
- 230000008313 sensitization Effects 0.000 description 3
- 238000005452 bending Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 230000002079 cooperative effect Effects 0.000 description 2
- 210000005069 ears Anatomy 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 239000004033 plastic Substances 0.000 description 2
- 229920003023 plastic Polymers 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- KRXMYBAZKJBJAB-UHFFFAOYSA-N 2-(4-methylphenyl)-1,2-benzothiazol-3-one Chemical compound C1=CC(C)=CC=C1N1C(=O)C2=CC=CC=C2S1 KRXMYBAZKJBJAB-UHFFFAOYSA-N 0.000 description 1
- 244000287680 Garcinia dulcis Species 0.000 description 1
- 240000005373 Panax quinquefolius Species 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 208000003464 asthenopia Diseases 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- CMMUKUYEPRGBFB-UHFFFAOYSA-L dichromic acid Chemical compound O[Cr](=O)(=O)O[Cr](O)(=O)=O CMMUKUYEPRGBFB-UHFFFAOYSA-L 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000003760 hair shine Effects 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 230000002209 hydrophobic effect Effects 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000009413 insulation Methods 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003446 memory effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000025078 regulation of biosynthetic process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000009736 wetting Methods 0.000 description 1
- 238000004804 winding Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0176—Head mounted characterised by mechanical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B3/00—Simple or compound lenses
- G02B3/12—Fluid-filled or evacuated lenses
- G02B3/14—Fluid-filled or evacuated lenses of variable focal length
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
- G03B15/14—Special procedures for taking photographs; Apparatus therefor for taking photographs during medical operations
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
- G11B27/031—Electronic editing of digitised analogue information signals, e.g. audio or video signals
- G11B27/034—Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/634—Warning indications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0129—Head-up displays characterised by optical features comprising devices for correcting parallax
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/7921—Processing of colour television signals in connection with recording for more than one processing mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/806—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
- H04N9/8063—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
- H04N9/8227—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Studio Devices (AREA)
Abstract
本发明提供一种不会感觉到负担而且能够简单地进行拍摄的、携带方便并且机动灵活的摄像装置。该摄像装置利用头戴部的照相机拍摄动态图像,把所得到的动态图像数据划分成多个块,并通过磁盘驱动部(4d)进行记录,同时利用磁盘驱动部(4d)记录:表示该动态图像数据的再现顺序的程序链接信息;从各个块的动态图像数据被拍摄完的时刻起相对经过的时间;与该动态图像数据被同时检测到的视线方向信息和头部的角速度信息等的佩戴者信息;用于检测从检测到该佩戴者信息的时刻起相对经过的时间的信息,根据所记录的佩戴者信息,可以自动对动态图像数据进行剪切、晃动校正、平滑、电子缩放等编辑处理。
Description
技术领域
本发明涉及一种摄像装置,具体涉及可以将动态图像数据划分成多个块进行记录的摄像装置。
背景技术
以往,公知有戴在头上进行图像观察的显示装置、戴在头上进行拍摄的摄影装置、或具备这两种功能的装置。
例如,特开平7-240889号公报记载的头戴型显示装置,通过把由TV摄像装置拍摄的图像显示在戴在头上的显示装置上,可以一面进行观察一面进行拍摄,同时通过操作设在该TV摄像装置的控制开关,可以根据需要有选择地导入透过所述显示装置的外部光。
另外,特开平11-164186号公报记载的图像记录装置,通过在眼镜型框架上设置摄像部等,并使摄像部的摄影镜头朝向与摄影者相同的方向,可以拍摄与摄影者视线相同方向上的被摄体。另外,在该特开平11-164186号公报中记载了下述技术,通过在具备具有透光性的壳体部分的风镜型个人液晶投影仪中设置摄像部,把由该摄像部拍摄的图像叠合在基于外部光的被摄体上进行显示。
专利文献1特开平7-240889号公报
专利文献2特开平11-164186号公报
但是,上述特开平7-240889号公报记载的装置,在摄影时,由于必须一面观察显示装置上的摄影图像一面专心地进行摄影操作,所以,例如在拍摄运动会或节日等的各种庆典活动时,其不同于直接观察实际被摄体的情况,不能亲身体验到庆典活动的气氛,造成了很大负担。而且,在封闭的空间长时间观察电子图像,与通过眼睛直接观看时的自然观察不同,会感觉到疲劳,也是普遍经验过的事实。
另外,上述特开平11-164186号公报记载的装置,如果仅在眼镜型框架设置摄影部,则不能同时观察被摄体和识别摄影范围,必须把目光暂时离开被摄体,通过另外设置的照相机主体侧的图像显示部进行确认。另一方面,在个人液晶投影仪中设置摄像部的结构中,可以同时把显示的图像和透过来的被摄体同时导入视场内,但由于在摄影时必须把注意力集中在显示图像上,所以摄影者自身依然很难享受到活动等的乐趣。
这样,利用上述技术在进行摄影时难以进行和摄影者以外人员相同的自然行动,受摄影动作的约束,或感觉到拍摄的负担。
并且,现有技术使用电缆连接戴在头部的装置和除此以外的装置,所以存在携带时电缆缠绕,或移动时电缆成为障碍等种种不便。
发明内容
本发明就是鉴于上述情况而提出的,其目的在于,提供一种不会感觉到负担而且能够简单地进行拍摄的、携带方便并且机动灵活的摄像装置。
为了达到上述目的,本发明之一的摄像装置,具有:动态图像数据记录单元,把动态图像数据划分成多个块进行记录,同时记录表示上述动态图像数据的再现顺序的动态图像再现程序链接信息、和与上述动态图像数据的再现开始起的经过时间相关的第1信息;佩戴者信息记录单元,记录与编辑前的上述动态图像数据同时被检测出的用于编辑该动态图像数据的佩戴者信息、和用于检测从上述佩戴者信息的检测开始时刻起的经过时间的第2信息。
并且,本发明之二的摄像装置是根据上述本发明之一的摄像装置,上述动态图像数据是通过利用戴在摄影者头上的照相机进行拍摄所得到的数据。
另外,本发明之三的摄像装置是基于上述本发明之一的摄像装置,上述佩戴者信息包括与摄影者头部的角速度相关的角速度信息。
本发明之四的摄像装置是基于上述本发明之三的摄像装置,根据上述角速度信息对上述动态图像数据进行的编辑处理包括:所记录的图像数据的剪切、晃动校正、记录时间的延长和电子缩放中的至少一种处理。
本发明之五的摄像装置是基于上述本发明之一的摄像装置,上述佩戴者信息包括与摄影者的视线方向相关的视线方向信息。
本发明之六的摄像装置是基于上述本发明之五的摄像装置,根据上述视线方向信息对上述动态图像数据进行的编辑处理包括对所记录的图像数据的电子缩放。
本发明之七的摄像装置是基于上述本发明之六的摄像装置,上述视线方向信息包括在视线方向的移动速度和在视线方向的连续移动量中的至少一方。
根据本发明的摄像装置,携带方便,机动灵活,并且可以简单地进行摄影且感觉不到负担。
附图说明
图1是表示本发明实施例1的图像系统的使用方式的立体图。
图2是表示上述实施例1的头戴部的主视图。
图3是表示上述实施例1的头戴部的俯视图。
图4是表示上述实施例1的头戴部的右侧视图。
图5是表示上述实施例1中操作面板关闭状态下的图像记录/编辑装置的俯视图。
图6是表示上述实施例1中操作面板关闭状态下的图像记录/编辑装置的右侧视图。
图7是表示上述实施例1中操作面板关闭状态下的图像记录/编辑装置的左侧视图。
图8是表示上述实施例1中配置在操作面板上的操作开关的俯视图。
图9是表示上述实施例1中操作面板打开状态下的图像记录/编辑装置的立体图。
图10是表示上述实施例1中,头戴部的主要与电子电路相关的结构的方框图。
图11是表示上述实施例1中,图像记录/编辑装置的主要与电子电路相关的结构的方框图。
图12是说明上述实施例1中的透明图像显示部的光学系统的原理的图。
图13是上述实施例1中,包括表示透明图像显示部的光学系统的结构的部分剖面的主视图。
图14是表示上述实施例1中,透明图像显示部的光学系统的结构的左侧视图。
图15是说明上述实施例1中,变更从眼睛到虚像的位置的原理的图。
图16是表示上述实施例1中,通过致动器在光轴方向上驱动LCD的结构示例图。
图17是表示上述实施例1中,使LCD的像一次成像,并使该一次成像的位置在光轴方向上变化的结构例的图。
图18是表示上述实施例1中,使LCD的像一次成像,并使该一次成像的位置在光轴方向上变化的其他结构例的图。
图19是表示上述图18的液体透镜的详细结构的图。
图20是表示上述实施例1中的视线方向检测部的光学系统的一个构成例的部分剖面的主视图。
图21是表示上述实施例1中的视线方向检测部的光学系统的一个构成例的左侧视图。
图22是表示上述实施例1中的视线方向检测部的光学系统的其他构成例的部分剖面的主视图。
图23是表示上述实施例1的表示视线方向检测部的光学系统的其他构成例的左侧视图。
图24是表示上述实施例1中,把摄像部安装在镜框部的结构的俯视图和右侧视图。
图25是表示上述实施例1中,为了安装摄像部而在镜框部设置的孔的结构的右侧视图。
图26是表示上述实施例1中的透明显示的初始状态的显示例的图。
图27是表示上述实施例1中进行望远变焦时的显示例的图。
图28是表示上述实施例1中进行广角变焦和曝光校正时的显示例的图。
图29是表示上述实施例1中进行电子浏览显示时的显示例的图。
图30是表示上述实施例1中的动态图像录制过程中的显示例的图。
图31是表示上述实施例1中的手动模式时的显示例的图。
图32是表示在上述实施例1中,在全自动模式下进行动态图像录制的显示例的图。
图33是表示上述实施例1中,尽管摄影光学系统的焦距已经达到焦点可以调节的下限值,却仍进行调向更小值的操作时的透明显示的报警显示例的图。
图34是表示上述实施例1中,尽管摄影光学系统的焦距达到焦点可以调节的上限值,却仍进行调向更大值的操作时的透明显示的报警显示例的图。
图35是表示上述实施例1中,进行拍摄静态图像的操作时的显示例的图。
图36是表示上述实施例1的校准模式的显示例的图。
图37是说明上述实施例1中的被摄体和摄影光学系统和CCD的光学关系的图。
图38是说明上述实施例1中的HOE和通过该HOE形成的虚像和眼睛的光学关系的图。
图39是说明上述实施例1中用于校正视差所需要的虚像偏移量的图。
图40是表示上述实施例1中,从摄像部观看位于视线方向的被摄体时的角度关系的图。
图41是表示上述实施例1中,照明光束的光轴Lm和眼睛的视线方向的视线轴Lm’一致时,在包括该光轴Lm和视线轴Lm’的平面上的眼睛的剖面图。
图42是表示上述实施例1中,把与光轴Lm垂直交叉的线设为横轴,把利用视线方向/角速度检测部拍摄眼睛的像时的CCD输出信号绘制在纵轴方向的图。
图43是表示上述实施例1中,照明光束的光轴Lm和眼睛的视线方向的视线轴Lm’交叉时,在包括该光轴Lm和视线轴Lm’的平面上的眼睛的剖面图。
图44是表示上述实施例1中,把与光轴Lm和视线轴Lm’交叉并与该光轴Lm垂直的线设为横轴,把利用视线方向/角速度检测部拍摄眼睛的像时的CCD输出信号绘制在纵轴方向的图。
图45是表示上述实施例1中,从二维摄像元件得到的眼睛的像的图。
图46是表示上述实施例1中,以普尔金耶像为中心设定于眼睛的像上的规定的区域的图。
图47是表示上述实施例1中,从通信控制部输出的信号的时间序列结构的图。
图48是表示上述实施例1的图像系统的动作的其他部分的流程图。
图49是表示上述实施例1的图像系统的动作的一部分的流程图。
图50是表示在上述图48的步骤S4所示的防止危险的子程序的详细内容的流程图。
图51是表示上述实施例1中,求出瞳孔中心的位置和普尔金耶像的位置的处理的流程图。
图52是表示上述实施例1中,与视线方向检测相关的校准处理的流程图。
图53是表示上述实施例1的磁盘的逻辑结构的图。
图54是表示上述实施例1的视频标题组VTS的文件结构的图。
图55是表示上述实施例1的视频标题组管理信息VTSI的结构的图。
图56是表示上述实施例1的动态图像包的数据结构的图。
图57是表示上述实施例1的音频包的数据结构的图。
图58是表示上述实施例1的副视频包的数据结构的图。
图59是表示上述实施例1的角速度包的数据结构的图。
图60是表示上述实施例1的视线方向包的数据结构的图。
图61是表示上述实施例1的导航包的数据结构的图。
图62是表示上述实施例1的视频包的编辑处理的流程图。
图63是表示上述实施例1的编辑数据的记录形式的图。
图64是表示上述实施例1的佩戴者信息的分析处理的流程图。
图65是表示上述实施例1中,X方向的视线位置随时间变化的图。
图66是表示上述实施例1中,Y方向的视线位置随时间变化的图。
图67是表示上述实施例1的变焦随时间变化的图。
图68是表示上述实施例1的角速度随时间变化的图。
图69是表示上述实施例1的角速度的绝对值随时间变化的线图。
图70是表示上述实施例1的角速度的时间积分值的变化状态的曲线图。
图71是表示上述实施例1中,进行剪切处理后残留孤立图像的状态的图。
图72是表示上述实施例1中,编辑开始时间和编辑结束时间跨越两个单元时的一个示例图。
图中:1图像系统;2头戴部;4图像记录/编辑装置;4a通信部;4b记录部(动态图像数据记录单元、佩戴者信息记录单元);4c再现部(动态图像数据读出单元、佩戴者信息读出单元);4d磁盘驱动部(动态图像数据读出单元、佩戴者信息读出单元、动态图像数据记录单元、佩戴者信息记录单元);6透明图像显示部(显示单元);7视线方向/角速度检测部;8通信部(接收单元、发送单元);11前面部镜腿;12镜腿部;13框架部;14、15透明光学部件;16投光用发光部;17第1麦克风;18第2麦克风;19鼻托;20边框;21、22视力矫正用透镜;24、25全息光学元件(HOE);26挂耳部;27收纳部;30摄像部(摄像单元、测距单元、照相机);31摄影光学系统;33台座;34、35、36、37…螺钉;39开关;41主体部;42操作面板;44电源开关;48 LCD显示元件(显示单元);50 AV/S连接端子;51 PC连接端子;54磁盘插口;55电池插入口;56扬声器;59再现/停止开关;61、62开关;63菜单按钮;65确定开关;66、67、68、69菜单选择开关;71 FA/A/M开关;72 F/V开关;73释放开关;74录制开关;75变焦开关;76曝光校正开关;78、79铰链;87 CCD(摄像元件);88 CDS/AGC电路;89 A/D转换电路;90定时发生器(TG);91 CCD驱动器;92、93、94超声波马达(USM);95 USM驱动器;96光圈快门驱动器;97自动曝光处理电路(AE处理电路);98自动聚焦处理电路(AF处理电路);102 EEPROM;103第3CPU;104存储器;111第4CPU;112 LED驱动器;113 LED;114聚光透镜;115 LCD显示元件;116全息光学元件(HOE);117 LCD驱动器;118 LED驱动器;121第2CPU(控制单元);122 RAM;123定时器;124 LED驱动器;125 LED;126聚光透镜;127反射镜;128半反射镜;129全息光学元件(HOE);131反射镜;132成像透镜;133带通滤波器;134 CCD;135 CCD驱动器;136 CDS/AGC电路;137 A/D转换电路;138 TG;141、142角速度传感器;151通信控制电路;152 DSP电路;153图像压缩电路;154音频压缩电路;155角速度压缩电路;156视线方向压缩电路;157副视频压缩电路;158格式器;159缓冲存储器;161第1CPU(控制单元、编辑处理单元);162第1操作开关;163收发电路;164电源电路;165显示部;171第2操作开关;172收发部;173通信控制部;174电源电路;181电气电路基板;182、183导光部件;191、193孔;192、194长孔;201摄影像框;202、204、205、206、207、210、211信息显示;203电子图像;208、209报警显示;231记录再现用数据处理器;232记录再现用缓冲存储器;233分离器;234视频解码器(VDEC);235副视频解码器(SDEC);236音频解码器(ADEC);237动态图像处理器;238 D/A转换器(DAC);239监视器TV;240 D/A转换器(DAC);242角速度解码器(AVDEC);243视线方向解码器(EDEC);244佩戴者信息缓冲存储器;245伺服电路;246拾波器部;247马达;248 STC部;249磁盘(记录介质);251、255齿条;252、256致动器;253成像透镜;254一次成像面的位置;257液体透镜;258电压控制电路;261a圆筒;261b、261c圆板;262a、262b电极;263绝缘体;264疏水性覆膜;265传导性液体;266非传导液体。
具体实施方式
以下,参照附图说明本发明的实施例。
图1~图72表示本发明的实施例1,图1是表示图像系统的使用方式的立体图。
该图像系统1如图1所示大致分为:大致呈眼镜型的具有图像拍摄功能的头戴部2;图像记录/编辑装置4,其具有以下功能,通过与该头戴部2进行无线通信,远程进行有关该头戴部2的操作输入,同时通过无线通信接收利用该头戴部2拍摄的图像数据并进行记录编辑。
该图像系统1具有拍摄静态图像和动态图像的功能,所以也兼作摄像装置。
上述头戴部2构成为在进行透明显示时可以实际直接观察作为观察对象的被摄体,同时也可以进行该被摄体的摄像。从该头戴部2的形状大致呈眼镜型即可知道,和用于矫正视力的普通眼镜大致相同地戴在头部使用,重量和尺寸等也尽量接近普通眼镜,实现小型轻量化。
上述图像记录/编辑装置4构成为可以向上述头戴部2无线发送摄像用的各种操作信号,同时无线接收利用该头戴部2拍摄的图像数据并进行记录,还可以编辑记录后的图像。在该图像记录/编辑装置4设有后述的第2操作开关171(参照图11和图5),该第2操作开关171构成为,摄影者通过远程操作在手头就能够进行对上述头戴部2的透明显示的控制、和摄影动作的控制等比较频繁的操作。因此,该图像记录/编辑装置4在尽可能的范围内实现小型轻量化,以便可以形成例如大约收纳在一只手的掌心中的小型尺寸。该图像记录/编辑装置4构成为可以在被安装于腰部皮带等的状态、或收纳在上衣的内口袋等的状态等各种状态下都可以使用。
这些头戴部2和图像记录/编辑装置4在本实施例中彼此分离地构成,这样,可实现通过使头戴部2小型轻量化提高佩戴的舒适性,通过采用图像记录/编辑装置4提高操作性等等。
另外,头戴部2和图像记录/编辑装置4如上所述,能够进行无线通信,所以没有例如彼此用电缆连接时的束缚感和不便处理的问题,可以自由轻快地进行操作。佩戴在头部使用的装置要求较高的灵活性和操作性,所以采用这种结构特别有效。
下面,参照图2~图4说明头戴部2的外观和概要。图2是表示头戴部2的主视图,图3是表示头戴部2的俯视图,图4是表示头戴部2的右侧视图。
该头戴部2构成为具有:作为相当于普通眼镜的透镜、边框、桥接部等部分的前面部11;从该前面部11的左右两侧向后方(被摄体的相反侧)分别延伸设置的、相对于该前面部11可以折叠的镜腿部12。
上述前面部11构成为具有作为保持单元的框架部13,其内置有图像显示用光学系统的一部分和视线方向检测用光学系统的一部分和电路等。
该框架部13在大致中央部设有在测定距被摄体的距离时使用的测距单元即投光用发光部16,在左右两侧部分别设有为立体声地获取来自被摄体侧的声音的第1麦克风17和第2麦克风18。
另外,在上述框架部13安装有分别对应左右两眼的作为导光部件的透明光学部件14、15。这些透明光学部件14、15中的一方即透明光学部件14用于检测公知的视线方向,另一方即透明光学部件15用于显示图像。并且,这些透明光学部件14、15形成为发挥各自功能所需的最小限度的尺寸。
在上述透明光学部件14分别设置HOE(Holographic OpticalElement:全息光学元件)24和半反射镜128和HOE129,在上述透明光学部件15设置作为组合监视器的HOE25。
另外,在上述框架部13分别安装有可以装卸的视力校正用透镜21、22,并且使它们位于上述透明光学部件14、15的被摄体侧。
即,在框架部13的例如中央侧、左眼的左旁侧和右眼的右旁侧,分别利用螺钉28安装用于安装上述透镜21、22的安装单元即边框20。
在该边框20通过一对鼻托支架23设置一对鼻托19,用于通过从左右支撑鼻梁,把该头戴部2放置在鼻梁上。
在这种结构中,通过卸下上述螺钉28,即可容易卸下边框20和透镜21、22,并且也容易对应其他视力来更换安装透镜21、22。
此时,如果利用具有规定的弹性值以上的材料形成边框20,可以仅卸下或松动一个螺钉28,即可选择性地(独立地)只装卸左眼用透镜21或右眼用透镜22中的一方,提高便利性。
另外,在框架部13的左眼侧(即,图2或图3中的右侧)的侧面接头29,通过台座33固定着既是拍摄被摄体的摄像单元又是测距单元的照相机即摄像部30,并且使摄像部30可以调节拍摄方向。
该台座33利用螺钉34、35安装在上述接头29上,并通过螺钉36、37把上述摄像部30安装在自身上。通过利用该台座33调整摄像部30相对上述前面部11的相对角度,由此如后面所述,可以调整该摄像部30中包括的摄影光学系统31(也参照图10等)的光轴和视轴。
并且,电缆38在从上述摄像部30的背面侧略微延伸并钻过左眼侧镜腿部12的下侧后,连接到上述框架部13。由此,使框架部13内的电路和摄像部30内的电路相互连接。
上述镜腿部12使用铰链78、79连接上述前面部11,从而可以相对于该前面部11折叠。即,在不使用时,向前面部11的中央部弯折镜腿部12,可以使其保持在沿着该前面部11被折叠的位置上,由此能够做到小型化,且便于收纳和搬运。并且,在左右各镜腿部12的前端部,分别设置用于挂放在耳朵上的挂耳部26。
在右眼侧的镜腿部12设有收纳部27,用于收纳后述的角速度传感器等的与该头戴部2相关的各种电子电路的一部分、和作为向该头戴部2内的各个电路供给电源的电源电路的构成要素的可以装卸的电池。在该收纳部27的上面设置有用于接通/断开该头戴部2的显示的开关39。并且,电缆27a从该收纳部27延伸并连接上述框架部13内的各个电路,进而通过上述摄像部30内的电路连接上述图像记录/编辑装置4。
下面,参照图5~图9说明图像记录/编辑装置4的外观和大致情况。图5是表示操作面板关闭状态下的图像记录/编辑装置4的俯视图,图6是表示操作面板关闭状态下的图像记录/编辑装置4的右侧视图,图7是表示操作面板关闭状态下的图像记录/编辑装置4的左侧视图,图8是表示配置在操作面板上的操作开关的俯视图,图9是表示操作面板打开状态下的图像记录/编辑装置4的立体图。
该图像记录/编辑装置4构成为具有:主体部41;操作面板42,被设置成通过铰链43可以相对于该主体部41自由开闭。
上述主体部41内置有后述的各种电路,在打开上述操作面板42时可以观察的位置设置有LCD显示元件(以下简称为“LCD”)48,作为液晶监视器而构成的显示单元。该LCD48除了用于在再现时显示图像外,也用于设定各种模式的菜单画面等的显示。
在该主体部41的上面侧,如图5所示,在上述操作面板42关闭的状态下也能够操作的边缘角部设置有电源开关44,另外还形成有凹部45,以便用手指等容易地进行上述操作面板42的开闭。
并且,在该主体部41的右侧面,如图6所示,设有通过铰链46相对于该主体部41可以自由开闭的盖52,把该盖52的卡定部52a卡定在主体部41侧的被卡定部52b上,由此保持关闭状态。在打开该盖52时,如图6所示,露出用于插拔自如地插入用于供给电源的电池的电池插口55、连接电视机的端子即AV/S连接端子50、连接个人计算机(PC)的端子即PC连接端子51。这样,电缆类在主体部41的右侧面统一进行连接,不会从其他面延伸出电缆类,可以减轻处置电缆时的烦恼。
另一方面,在主体部41的左侧面,如图7所示,设有通过铰链47相对于主体部41可以自由开闭的盖53,把该盖53的卡定部53a卡定在主体部41侧的被卡定部53b上,由此保持关闭状态。在打开该盖53时,如图7所示,露出用于插入插拔式记录介质即磁盘249(参照图11)的磁盘用插口54。
如图5所示,在上述操作面板42的在关闭状态下也可以操作的露出的外面侧,设有操作频次比较高的开关类,另外,在只有打开状态下露出并且可以操作的内面侧,设有如图8所示的操作频次比较低的操作开关类。
即,在上述操作面板42的外面侧设有上述第2操作开关171。该第2操作开关171如图5所示,由以下部分构成:FA/A/M开关71、F/V开关72、释放开关(REL)73、录制开关(REC)74、变焦开关75、曝光校正开关76。这些开关类如上所述是进行摄影动作时用于设定变更频次较高的信息的开关。
上述FA/A/M开关71是切换单元,用于切换全自动(FA:全自动模式)、或自动(A:自动模式)、或手动(M:手动模式)进行下述动作,即,在进行规定的焦距以上的望远摄影时放大与显示摄影范围的摄影像框对应的摄影图像,作为电子浏览进行透明显示。上述全自动模式是同时记录视频数据、作为佩戴者信息的角速度数据和视线方向数据的模式,在该全自动模式下记录的数据成为在本实施例中说明的图像编辑的对象。
上述F/V开关72是切换单元,用于把上述透明光学部件15的透明显示切换为显示摄影范围的摄影像框(F)、或来自摄像部30的摄影图像(V)(电子浏览)。
上述释放开关(REL)73用于开始拍摄比动态图像精度高的静态图像。
上述录制开关(REC)74用于在每次按下时切换动态图像的录制开始和录制停止。
上述释放开关75是摄影像框设定单元,其构成为包括:使包括上述摄像光学系统31的摄像部30的变焦(光学变焦及/或电子变焦)向望远侧(T:望远)变化的望远开关75a、和使其向广角(W:广角)侧变化的广角开关75b。
上述曝光校正开关76构成为包括:向减少方向进行摄影图像的曝光校正的负曝光校正开关76a,和向增加方向进行该曝光校正的正曝光校正开关76b。
另外,上述摄影光学系统31的变焦动作和同时作为观察者的摄影者观察的摄影像框的视角的变更可以连动进行,所以上述变焦开关75也可以说是具有:用于缩小摄影者观察的摄影像框的视角的望远开关75a;用于放大该视角的广角开关75b。
并且,所说“摄影像框”是表示由上述摄像部30拍摄的被摄体的范围的指标。
另一方面,在上述操作面板42的内面侧设有:用于再现声音的扬声器56;用于增大从该扬声器56发出的声音的音量的开关57;用于减小该音量的开关58;用于再现或暂停记录在作为记录介质的磁盘249中的图像信息的再现/停止开关59;用于向逆时针方向快进搜索图像的开关61;用于向顺时针方向快进搜索图像的开关62;用于在上述LCD48显示设定与图像系统1相关的各种功能和日期等、或设定图像编辑用的各种操作信息的菜单画面的菜单开关63;使显示在该菜单画面上的各项目中的选定项目向上、下、左、右各方向移动或使显示信息滚动的菜单选择开关66、67、68、69;用于确定显示的选定项目等的确定开关65。这些开关类如上所述是进行摄影动作时用于设定变更频次较低的信息的开关。
图10是表示头戴部2的主要与电子电路相关的结构的方框图。
该图像系统1的结构如上所述大致分为:具有摄像功能的头戴部2;图像记录/编辑装置4(图11),具有接受与自己相关的各种操作输入并进行控制,同时记录并编辑由该头戴部2摄像的图像的功能。其中,上述头戴部2还分为:进行摄像的摄像单元即摄像部30;主要进行透明显示的显示单元即透明图像显示部6;检测摄影者的视线方向,或检测伴随摄影者的头部运动的角速度的视线方向/角速度检测部7;与图像记录/编辑装置4进行信号的无线收发的接收发送单元即通信部8;向该头戴部2内的各种电路供给电源的电源电路174。这些摄像部30和透明图像显示部6和视线方向/角速度检测部7均通过上述通信部8与上述图像记录/编辑装置4进行通信。并且,电源电路174具有电池,该电池如上所述可以装卸地安装在上述收纳部27上(参照图2)。
上述透明图像显示部6构成为具有:LED驱动器112;LED113;聚光透镜114;LCD115;LCD驱动器117;HOE116;HOE25;投光用LED16a;LED驱动器118;聚光透镜16b;上述开关39;和第4CPU111。该透明图像显示部6在本实施例中只设置在观察者的一只眼睛(此处具体为右眼)侧。因此,观察者仅利用该一只眼睛观察透明图像。
上述LED驱动器112根据上述第4CPU111的控制使上述LED113发光。
上述LED113是发光源,用于构成投影单元,由上述LED驱动器112驱动着发出光。该LED113构成为包括例如可以分别发出R(红色)、G(绿色)、B(篮色)三种颜色的光的二极管。
上述聚光透镜114用于构成上述投影单元,用于将由该LED113发出的光聚光。
上述LCD115用于构成上述投影单元,用于显示上述摄影像框和所拍摄的图像等,形成通过上述聚光透镜114的LED113的光从背面侧进行照明的透过型液晶显示单元。
上述LCD驱动器117根据上述第4CPU111的控制,驱动LCD115使其显示摄影像框等,也兼作后述的用于校正视差的校正单元。
上述HOE116是反射光学部件,如后面所述,对通过上述LCD115射出的光一面进行视差校正一面使其朝向垂直下方地(参照图13、图14)进行反射。
上述HOE25发挥作为反射型组合器的作用,通过使来自上述HOE116的光朝向摄影者的眼睛反射并衍射,投影显示上述LCD115的摄影像框等使其能够被观察到,并且可以使外部光朝向摄影者眼睛透过。另外,该实施例1的HOE25对应构成为最小限度尺寸的上述透明光学部件15,同样构成为最小限度尺寸。
上述投光用LED16a被包括于进行上述测距的上述投光用发光部16中,是发出测距用光的发光源。
上述聚光透镜16b用于朝向被摄体投影由上述投光用LED16a发出的测距光。
上述LED驱动器118根据上述第4CPU111的控制,驱动上述投光用LED16a。
上述开关39连接上述第4CPU111,在通过第4CPU111检测到该开关39关闭时,该第4CPU111禁止该透明图像显示部6的显示。该图像系统1构成为不受摄影动作约束,可以一面进行正常行动一面摄影,所以例如在步行时或驾驶车时也有可能被使用。但是,如果在摄影者处于这种状态时进行透明显示,其注意力有可能集中在该显示上。因此,为了防止出现这种情况,设置有开关39,可以禁止透明显示。另外,此时虽然禁止显示,但可以继续拍摄。
上述第4CPU111是控制单元,用于控制该透明图像显示部6内的各种电路,通过与上述摄像部30的后述第3CPU103进行双向连接,可以一面协作一面进行控制动作。
这种透明图像显示部6的作用大致如下。
第4CPU111通过LED驱动器112使LED113发光。
从LED113发出的光通过聚光透镜114被聚光,从背面照明LCD115。
LED113在显示摄影像框的情况下,使发出上述R(红色)、G(绿色)、B(篮色)三种颜色的光的二极管中,例如仅使发出G(绿色)的二极管发光。
第4CPU111生成对应于表示摄影范围的摄影像框的信号,并输出给LCD驱动器117,同时向LED驱动器112输出使发光进行的控制信号,LCD驱动器117根据该信号驱动LCD115使其在显示面上显示摄影像框,同时LED113发光,从背面侧照明该LCD115。
这样,从被照明的LCD115投影的上述摄影像框的图像一面被实施视差校正一面通过HOE116向垂直下方反射,并投影于HOE25。
HOE25朝向摄影者的眼睛反射来自上述HOE116的光线。由此,摄影者可以观察到虚像的表示摄影范围的摄影像框。
另一方面,在进行测距时,第4CPU111向LED驱动器118输出使测距用发光进行的控制信号。
LED驱动器118接收到上述控制信号,使投光用LED16a发光。通过该投光用LED16a发出的测距用光,通过上述聚光透镜16b被转换为平行光,并朝向被摄体投光。
这样投光的照明光被被摄体反射,该反射光通过上述摄像部30被感光,按照后面所述进行测距运算。
上述视线方向/角速度检测部7设置在设有上述透明图像显示部6的相反侧的一只眼睛(此处具体为左眼)侧。该视线方向/角速度检测部7大致分为发挥视线方向检测装置的作用的视线方向检测部、和发挥角速度检测装置的作用的角速度检测部。
上述视线方向检测部构成为具有:LED驱动器124;LED125;聚光透镜126;反射镜127;半反射镜128;HOE24;HOE129;反射镜131;成像透镜132;带通滤波器133;CCD134;CCD驱动器135;CDS/AGC电路136;A/D转换电路137;TG138。其中的LED驱动器124、LED125、聚光透镜126、反射镜127和HOE24构成红外光投影单元即投光系统,用于向观察者的眼睛投射红外平行光束。并且,上述的HOE24、半反射镜128、HOE129、反射镜131、成像透镜132、带通滤波器133和CCD134,构成用于感光从观察者眼睛反射的光束的感光系统。
并且,上述角速度检测部构成为具有:角速度传感器141、142;放大器143、144;A/D转换电路145。
另外,设有第2CPU121,用于整体控制包括这些视线方向检测部和角速度检测部的视线方向/角速度检测部7。
上述LED驱动器124根据上述第2CPU121的控制,驱动上述LED125。
上述LED125是由LED驱动器124驱动,发出视线方向检测用红外光的红外发光二极管。
上述聚光透镜126把由LED125发出的红外光转换为平行光束。
上述反射镜127是反射光学部件,朝向垂直下方地(参照图20、图21)反射通过聚光透镜126转换为平行光束的红外光。
上述半反射镜128使来自上述反射镜127的红外光透向上述HOE24侧,同时向水平方向反射来自该HOE24的光。
上述HOE24朝向观察者的眼睛反射透过半反射镜128的红外光,并且朝向该半反射镜128反射来自该观察者的眼睛的光。另外,该实施例1的HOE24对应构成为最小限度尺寸的上述透明光学部件14,同样构成为最小限度尺寸。该HOE24具有红外区域的狭小的规定的频带的波长选择特性,只对所选择频带的红外光呈现高的反射特性,而对除此以外的波长光线呈现高的透射特性。这样,HOE24具有与上述透明图像显示部6的HOE25完全不同的频带的波长选择功能,但是整体可视透射特性(或平均可视透射特性)与该HOE25大致相同。这样,通过配置相对左右眼睛具有相同的平均可视透射特性的光学元件,可以消除不谐调感,即使长时间使用时也可以减轻眼睛疲劳。
上述HOE129朝向垂直上方反射由上述HOE24和半反射镜128引导的来自观察者眼睛的光束。该HOE129具有和上述HOE24相同的波长选择特性。因此,通过透过该HOE129,可以除去从观察者眼睛侧入射的光束中的上述规定的频带中包含的红外光以外的波长光线(即,不反射而透过)。这样,可以一面减轻因其他波长频带的光线造成的干扰影响,一面高精度地检测后述的普尔金耶像。另外,作为光学元件,通过使用HOE129,不仅具有波长选择特性良好的优点,而且相对红外光以外的光具有透射特性,所以具有即使配置在透明光学部件14内部也不显眼的优点。
上述反射镜131用于在水平方向反射来自上述HOE129的光束。
上述成像透镜132用于在上述CCD134的摄像面上成像由上述反射镜131反射的光束。
上述带通滤波器133用于只透过由上述成像透镜132成像的光束中的上述规定的频带的红外光。如上所述,虽然已经通过上述HOE129进行频带限制,但在把该HOE129配置在透明光学部件14内部的情况下,由于有可能混入其他可见光等,所以利用该带通滤波器133再次进行频带限制。这样,通过在CCD134前面侧设置有带通滤波器133,可以进一步减轻外部光干扰的影响。上述CCD134是二维光电转换单元,由摄像面为二维面的摄像元件构成,把按上面所述成像的观察者眼睛的像进行光电转换,作为电气信号输出。根据该CCD134的输出,按后面所述求出普尔金耶像的位置和瞳孔中心的位置,根据它们的相对位置关系算出视线方向。
上述CCD驱动器135根据上述第2CPU121的控制,驱动上述CCD134。
上述CDS/AGC电路136用于对从上述CCD134输出的图像信号进行降噪和放大处理。
上述TG138根据上述第2CPU121的控制,分别向上述CCD驱动器135和上述CDS/AGC电路136供给用于使协作动作进行的定时信号。
上述A/D转换电路137把从上述CDS/AGC电路136输出的模拟图像信号转换为数字图像信号。通过该A/D转换电路137转换的数字图像信号输出给上述摄像部30的后述通信控制部173。
上述角速度传感器141、142如上所述收纳在收纳部27内,用于检测相互独立的方向(例如偏歪方向和俯仰方向)的角速度。
上述放大器143、144用于分别放大上述角速度传感器141、142的输出。
上述A/D转换电路145把通过上述放大器143、144分别放大的来自角速度传感器141、142的模拟信号分别转换为数字数据。通过该A/D转换电路145转换成数字数据输出给上述第2CPU121。
上述第2CPU121是控制单元,用于控制该视线方向/角速度检测部7内的各种电路,通过与上述摄像部30的后述第3CPU103进行双向连接,可以一面进行协作动作一面进行控制动作。该第2CPU121的内部具有发挥存储器作用的RAM122、和用于测试时间的定时器123。
下面,参照其他附图说明这种视线方向/角速度检测部7的动作原理和作用等。
上述摄像部30构成为具有:摄影光学系统31;低通滤波器86;CCD87;CDS/AGC电路88;A/D转换电路89;TG(定时发生器)90;CCD驱动器91;USM驱动器95;光圈快门驱动器96;AE处理电路97;AF处理电路98;上述第1麦克风17;上述第2麦克风18;放大电路99;放大电路100;A/D转换电路101;EEPROM102;存储器104;第3CPU103。
上述摄影光学系统31用于成像光学的被摄体像,构成为焦距可变的变焦光学系统。
上述低通滤波器86用于从通过该摄影光学系统31的光束去除不需要的高频成分。
CCD87是摄像元件,通过该低通滤波器86把由上述摄影光学系统31成像的光学的被摄体像转换为电信号输出。
上述CDS/AGC电路88是信号处理单元,对从该CCD87输出的信号进行后述的降噪和放大处理。
上述A/D转换电路89是信号处理单元,把从该CDS/AGC电路88输出的模拟图像信号转换为数字图像信号。
上述存储器104用于临时存储从该A/D转换电路89输出的数字图像信号。
上述CCD驱动器91用于控制驱动上述CCD87。
上述TG(定时发生器)90分别向上述CDS/AGC电路88、A/D转换电路89、CCD驱动器91供给用于控制定时的信号。该TG90与上述视线方向/角速度检测部7的第2CPU121双向连接并由其控制。
上述USM驱动器95是选择性地驱动上述摄影光学系统31中包括的后述的USM(Ultra Sonic Motor:超声波马达)92、93、94的驱动电路。该USM驱动器95也由上述视线方向/角速度检测部7的第2CPU121控制。
上述光圈快门驱动器96是控制驱动上述摄影光学系统31中包括的后述的光圈快门84的驱动电路。该光圈快门驱动器96由上述视线方向/角速度检测部7的第2CPU121控制。
上述AE处理电路97是自动曝光处理电路,根据上述A/D转换电路89的输出进行曝光控制用的运算,把运算结果输出给上述第3CPU103。
上述AF处理电路98是自动聚焦处理电路,根据上述A/D转换电路89的输出进行用于自动聚焦(AF)控制的运算,并把运算结果输出给上述第3CPU103。
上述第1麦克风17和第2麦克风18如上所述,以双声道获取来自被摄体侧的声音。
上述放大电路99和放大电路100分别放大从上述第1麦克风17和第2麦克风18输入的音频信号。
上述A/D转换电路101把由上述放大电路99和放大电路100分别放大的模拟音频信号转换为数字音频信号,输出给上述第3CPU103。
在制造图像系统时使上述EEPROM102记录有进行曝光控制和自动聚焦处理等使用的各种校正数据。记录在该EEPROM102的数据可以由上述第3CPU103读出。
上述第3CPU103是控制该摄像部30内的各种电路的控制单元,与上述透明图像显示部6的第4CPU111和上述视线方向/角速度检测部7的第2CPU121协作进行控制动作。另外,该第3CPU103通过与上述图像记录/编辑装置4的后述第1CPU161进行双向通信来进行控制。上述摄影光学系统31更具体讲构成为具有:前透镜81;变位透镜82;补偿透镜83;光圈快门84;聚焦透镜85;USM92、93、94。
上述前透镜81在摄影光学系统31中包含的多个透镜中最接近位于被摄体侧。
上述变位透镜82变更该摄影光学系统31的焦距。
上述补偿透镜83校正伴随利用上述变位透镜82改变摄影光学系统31的焦距时的焦点位置的偏移。
上述光圈快门84兼备限定通过摄影光学系统31的光束的通过范围的光圈功能、和限定该光束的通过时间的快门功能。
上述聚焦透镜85用于调整该摄影光学系统31的焦点,在调整了焦点时,被摄体像聚焦成像于上述CCD87。
并且,上述USM92、93、94是分别驱动上述变位透镜82、补偿透镜83、聚焦透镜85的驱动源。
上述通信部8构成为具有通信控制部173和收发部172。
上述通信控制部173用于进行帧同步(以时分复用通信方式按照帧单位获取同步)、和作为帧的构成要素的时隙(该时隙包括属性和属性值构成的对)的数据格式化处理。
上述收发部172构成为具有:无线收发用天线和调制解调器等,调制解调器把发送的数字信号转换为天线发送用模拟信号,或把通过该天线接收的信号转换为数字信号。
这种通信部8的收发动作如下。
上述通信控制部173的接收侧以规定的定时从由收发部172的调制解调器供给的接收数据中抽取一个时隙的数据。并且,该通信控制部173的接收侧从该数据中抽取同步信号,生成帧同步信号,解除扰码等。然后,通信控制部173的接收侧向第3CPU103发送从图像记录/编辑装置4发送来的各种操作信号、或记录在磁盘249(参照图11)的图像数据。
并且,上述通信控制部173的发送侧根据从该第2CPU121输出的定时器信息,多路复用从上述A/D转换电路89通过存储器104输出的图像信号、从上述视线方向/角速度检测部7的A/D转换电路137输出的与摄影者眼睛相关的图像信号(佩戴者信息中的一个)、从该视线方向/角速度检测部7的第2CPU121输出的与摄影者头部相关的角速度信息(佩戴者信息中的一个)、通过上述第3CPU103输出的音频数据。以使在同一时间生成的图像信号和佩戴者信息彼此具有关联性。并且,该通信控制部173的发送侧在赋予扰码等之后附加同步信号,作成一个时隙的发送数据。然后,通信控制部173的发送侧以规定的定时把所作成的发送数据插入帧内的规定的时隙中,传送给收发部172的调制解调器。由此,从收发部172以无线方式发送数据。
下面,图11是表示图像记录/编辑装置4的构成的方框图。
该图像记录/编辑装置4如图11所示大致分为通信部4a、记录部4b、再现部4c、磁盘驱动器部4d,除此之外,还具有第1操作开关162、第2操作开关171、第1CPU161、显示部165、和电源电路164。
上述通信部4a接收从头戴部2发送的动态图像数据、音频数据、作为佩戴者信息的视线方向数据和角速度数据,并且向头戴部2发送摄影用的各种操作信号和利用图像记录/编辑装置4再现的动态图像数据和音频数据。
上述记录部4b是动态图像数据记录单元和佩戴者信息记录单元,把由上述通信部4a接收的数据记录在作为记录介质的后述磁盘249中。
上述磁盘驱动器部4d驱动作为记录介质的磁盘249使其旋转,执行对该磁盘249的信息读写,也兼作动态图像数据读出单元、佩戴者信息读出单元、动态图像数据记录单元、佩戴者信息记录单元。
上述再现部4c是动态图像数据读出单元和佩戴者信息读出单元,再现通过上述记录部4b记录在磁盘249中的上述各种数据。
上述第1操作开关162是指示输入头戴部2的与摄影相关的各种操作的操作单元。该第1操作开关162连接上述第1CPU161。
上述第2操作开关171是输入与图像记录/编辑装置4相关的各种操作的操作单元。该第2操作开关171连接上述第1CPU161。
上述显示部165是显示第1、第2操作开关162、171的各种操作信息和通过再现部4c再现的动态图像等的显示单元,其构成为包括上述图9所示的LCD48。该显示部165连接上述第1CPU161并由其控制。
上述电源电路164向该图像记录/编辑装置4内的各种电路供给电源,其构成为例如包括装卸式电池等。
上述第1CPU161是控制单元,不仅控制该图像记录/编辑装置4,而且通过与头戴部2的第3CPU103进行通信,统一控制该图像系统1的整体动作。该第1CPU161也兼作编辑处理单元,根据由该再现部4c再现的佩戴者信息编辑由上述再现部4c再现的图像数据。
下面,更详细地说明上述通信部4a、记录部4b、再现部4c、磁盘驱动器部4d。
首先,上述通信部4a构成为具有收发电路163和通信控制电路151。
上述记录部4b构成为具有:DSP电路152、图像压缩电路153、音频压缩电路154、角速度压缩电路155、视线方向压缩电路156、副视频压缩电路157、格式器158、缓冲存储器159、记录再现用数据处理器231、记录再现用缓冲存储器232。
上述再现部4c构成为具有:记录再现用数据处理器231、记录再现用缓冲存储器232、分离器233、视频解码器(VDEC)234、副视频解码器(SDEC)235、音频解码器(ADEC)236、角速度解码器(AVDEC:angularvelocity decorder)242、视线方向解码器(EDEC:Eye Decorder)243、佩戴者信息缓冲存储器244、D/A转换器(DAC)240、上述扬声器56、动态图像处理器237、D/A转换器(DAC)238、监视器TV239。
即,上述记录再现用数据处理器231和记录再现用缓冲存储器232被包含形成兼用于记录部4b和再现部4c双方的电路部。
磁盘驱动器部4d对磁盘249进行图像的记录(录制),或再现记录在该磁盘249的图像,其构成为具有:伺服电路245、马达247、拾波器部246、系统时钟(STC:System Time Clock)部248。
关于上述的各构成要素的功能,对应图像系统1的作用说明其作用。
通过上述摄影光学系统31的光束通过低通滤波器86,成像于CCD87的摄像面。
在利用上述图像记录/编辑装置4的第1操作开关162进行动态图像记录操作,或者利用该图像记录/编辑装置4的释放开关73进行静态图像摄影操作时,被摄体像通过上述CCD87被进行光电转换,并输出模拟的图像信号。
来自该CCD87的图像信号输入CDS/AGC电路88,利用该CDS/AGC电路88内的CDS电路部进行公知的相关双重取样等,消除复位噪声,并且利用该CDS/AGC电路88内的AGC电路部放大至规定的信号水平,然后输出。
来自该CDS/AGC电路88的模拟图像信号,通过后续的A/D转换电路89转换为数字图像信号(图像数据)后,被临时存储在上述存储器104中。在本实施例中,把该A/D转换电路89的输出信号称为RAW图像数据。即,本实施例的RAW图像数据被定义为把来自CCD87的模拟输出信号第一次进行A/D转换后的数字数据,并成为实施其他数字信号处理等之前的数据。
向这些CDS/AGC电路88、上述A/D转换电路89输入由上述TG90生成的定时控制信号,来自该TG90的定时控制信号还被输入给上述CCD驱动器91。
另一方面,来自上述第1麦克风17和第2麦克风18的输出信号通过放大电路99、100分别放大后,通过A/D转换电路101以规定的取样周期以时分方式被转换为数字数据,并输出给第3CPU103。第3CPU103以规定的定时把转换为数字数据的音频数据输出给通信控制部173。
来自上述A/D转换电路89的输出信号即图像数据、来自上述第1麦克风17和第2麦克风18的音频数据、来自上述视线方向/角速度检测部7的视线方向数据(视线方向信息)和摄影者的头部角速度数据、通过上述第2CPU121的定时器123被计时的定时器信息,通过通信控制部173被多路复用。
由通信控制部173多路复用的信号如图47所示,上述各数据被检测到的检测开始时间被记录在前头,然后上述图像数据和音频数据等的各种数据分别成为以规定的间隔交替输出的信号。该图47是表示从通信控制部173输出的信号的时间序列结构的图。例如,把图像数据、音频数据、角速度数据的取得周期分别设为1/30秒,把视线方向数据的取得周期设为1秒,并且把1秒期间的数据作为一个单元,在该单位单元中如该图47所示,把开始时间数据设定在前头,反复记录30组包括一个图像数据、一个音频数据和一个角速度数据的三个一组的数据,最后记录视线方向数据。另外,该图47所示的数据顺序仅是一个示例,当然也可以例如把视线方向数据记录在时间数据后面。
包括这种数字化数据的多个数据,以单元为单位通过上述收发部172输出给图像记录/编辑装置4。
这样,摄像部30进行由CCD87生成的图像信号的模拟信号处理,把图像数据转换为数字信号后输出,所以模拟信号不会从该摄像部30输出到外部。因此,对于在通过上述收发部172等发送图像信号时可能受到的外部噪声干扰具有强抗干扰性能。
并且,摄像部30输出RAW图像数据,所以不需要在该摄像部30内部设置有色分离或白平衡调整等的信号处理电路,可以实现设有该摄像部30的头戴部2的小型轻量化。
从上述收发部172发送给图像记录/编辑装置4的信号,通过该图像记录/编辑装置4内的通信部4a,被再次分离为图像数据及其以外的其他数据。
由收发电路163接收、并由通信控制电路151分离的动态图像数据,通过DSP电路152被分离为亮度成分Y、色差成分Cr(或Y-R)、色差成分Cb(或Y-B)。这些信号通过图像压缩电路153实施基于MPEG2标准的压缩处理。
并且,由通信控制电路151分离的音频数据、作为佩戴者信息的角速度数据和视线方向数据,分别通过音频压缩电路154、角速度压缩电路155、视线方向压缩电路156实施规定的压缩处理。
另外,通过第1操作开关162输入的动态图像标题等的副视频数据,通过副视频压缩电路157实施规定的压缩处理。
经过上述压缩处理的动态图像数据和音频数据和视线方向数据和角速度数据和副视频数据,被输入到格式器158。
格式器158把格式化用的缓冲存储器159用作工作区域,对所输入的动态图像数据和音频数据和视线方向数据和角速度数据和副视频数据分别进行规定的信号处理,把与后述的格式(文件结构)相符的记录数据输出给记录再现用数据处理器231。
此时,该格式器158设定作为数据的最小单位的单元,作成单元再现信息(C_PBI)。
然后,格式器158设定构成程序链的单元的结构、动态图像、副视频及音频属性等,作成包括各种信息的视频标题组管理信息VTSI(VideoTitle Set Information)。
被解码(压缩处理)的视频数据(此处的“视频数据”如后面所述是动态图像数据、音频数据和副视频数据的总称)、和被解码(压缩处理)的佩戴者信息(角速度数据、视线方向数据),被细分为一定大小(2048字节)的包。在这些包内适当记述有PTS(Presentation Time Stamp)、DTS(Decoding Time Stamp)等的MPEG标准的时间戳。另外,所谓时间戳是指按照9000Hz的基准时钟计数的用32比特表述的时间序列,以区别后述的以帧为单位、利用BCD(Binary Coded Decimal二进制码)表述时、分、秒、帧的时序码。
并且,为了可以按照各数据的时序码顺序再现,一面以VOBU(VideoObject Unit)为单位在其前头配置导航包NV(Navigation Pack)一面配置各数据单元,构成包括多个单元的VOB(Video Object)。汇总一个以上该VOB得到的VOBS(Video Object Set)被格式化成图54所示的视频标题组VTS(Video Title Set)。
下面,详细说明记录格式。
记录再现用缓冲存储器232用于缓冲通过记录再现用数据处理器231写入磁盘249中的部分数据,或缓冲通过磁盘驱动器部4d从磁盘249再现的部分数据。并且,记录再现用缓冲存储器232在根据佩戴者信息编辑记录在磁盘249的动态图像数据时,也被用作存储成为编辑对象的动态图像数据的工作存储器。
记录再现用数据处理器231按照第1CPU161的控制,向磁盘驱动器部4d供给来自格式器158的记录用数据,或从磁盘驱动器部4d取出从磁盘249再现的再现信号,或改写记录在磁盘249的管理信息。
上述第1CPU161的内部具有RAM和存储控制程序的ROM,按照该控制程序进行动作。即,第1CPU161把内部的RAM用作工作区域,执行记录量(录制包数)检测、剩余量检测、报警、记录模式变更指示、图像记录/编辑装置4的整体控制、及其他处理。
另外,第1CPU161根据从磁盘249再现的作为佩戴者信息的视线方向数据和角速度信息进行规定的编辑处理,或对单元单位进行变焦、平滑、删除范围指示、单元切分等处理。
分离器233从形成包结构的再现数据中分离取出各包。
动态图像解码器(VDEC)234对由上述分离器233分离的视频包进行解码。
副视频解码器(SDEC)235对由上述分离器233分离的副视频包的内容进行解码。
音频解码器(ADEC)236对由上述分离器233分离的音频包的内容进行解码。
动态图像处理器237把来自副视频解码器(SDEC)235的副视频数据适当合成在来自上述动态图像解码器(VDEC)234的动态图像数据上,在动态图像上重叠输出菜单、最大亮度按钮、字幕及其他副视频。
该动态图像处理器237的输出通过D/A转换器(DAC)238转换为模拟信号,然后供给监视器TV239。另外,该监视器TV239可以使用上述图9所示的LCD48,也可以是通过上述图6所示的AV/S连接端子50连接的外置监视器。
另外,来自音频解码器(ADEC)236的输出通过D/A转换器(DAC)240转换为模拟信号,然后供给扬声器56。此处该扬声器56使用上述图8或图9所示的扬声器56,但在使用外置监视器时,同样也可以使用外置扬声器。
并且,通过上述第1操作开关162的菜单按钮163和菜单选择开关66、67、68、69、确定开关65等的操作,选择已记录的图像,通过上述再现/停止开关59的操作进行再现指示时,存储在磁盘249中的压缩数据被再现,并显示在LCD48上。
另一方面,来自上述A/D转换电路89的数字图像数据分别输入该摄像部30内的AE处理电路97和AF处理电路98。
上述AE处理电路97计算出1帧(1个画面)的图像数据的亮度值并进行加权运算等的处理,由此算出对应被摄体的亮度的AE评价值,通过第3CPU103向第2CPU121输出运算结果。第2CPU121根据上述AE评价值,进行CCD87的曝光时间的控制和光圈快门84的控制。
并且,AF处理电路98根据第2CPU121经由上述第3CPU103的控制,使用高通滤波器等对1帧(1个画面)的图像数据的亮度成分抽取出高频成分,通过算出所抽取出的高频成分的累加值等,算出对应高频区域侧的轮廓成分等的AF评价值,通过该第3CPU103向第2CPU121输出运算结果。第2CPU121根据通过AF处理电路98算出的上述AF评价值,通过上述USM驱动器95驱动上述聚焦透镜85,进行焦点检测,获得聚焦状态。
上述EEPROM102在制造图像系统时被记录下进行曝光控制和自动聚焦处理等所需要的各种校正数据,第2CPU121根据需要通过第3CPU103从该EEPRIM102读出校正数据进行各种运算。
下面,参照图12~图14,说明透明图像显示部6的主要光学结构。图12是说明透明图像显示部的光学系统的原理的图,图13是包括表示透明图像显示部的光学系统的结构的部分剖面的主视图,图14是表示透明图像显示部的光学系统的结构的左侧视图。
该透明图像显示部6可以把表示摄影范围的摄影像框作为虚像叠加显示在摄影者实际直接观察的被摄体上,以下把这种显示称为透明显示。另外,所说“实际直接观察”不仅包括用肉眼观察的情况,也包括通过利用玻璃或塑料等形成的大致平板状的透明部件观察的情况,或者通过视力矫正用透镜观察的情况等。
首先,参照图12说明利用该实施例1的透明图像显示部6的光学系统(以下称为“透明图像显示光学系统”)显示透明图像的原理。
LED113发出的光通过聚光透镜114被聚光,从背面照明LCD115。如上所述,上述LED113在显示摄影像框的情况下,例如仅使发出G(绿色)的二极管发光。
第4CPU111生成对应于表示摄影范围的摄影像框的信号,并输出给LCD驱动器117。LCD驱动器117根据该信号驱动LCD115,由此使该LCD115显示摄影像框。
接受上述LED113的光、从LCD115射出的摄影像框的像被HOE25反射后,被导入摄影者的眼中。这样,摄影者可以观察作为虚像VI的表示摄影范围的摄影像框。另外,在该图12中为了说明原理,省略了HOE116的图示。
HOE25是使用光聚合物或重铬酸凝胶等的感光材料的体积相位型全息光学元件,被设计成具有以最大反射率反射上述LED113发出的各波长R、G、B光的特性。因此,在显示摄影像框时发出G光的情况下,绿色的摄影像框作为虚像被清晰地显示。HOE具有良好的波长选择特性,相对于上述R、G、B的各波长光线,在极其狭小的波长宽度中呈现高的反射特性,而相对于除此以外的波长光线呈现高的透射特性。因此,与显示光相同的波长区域的外部光被衍射反射不会到达摄影者的瞳孔,但除此以外的波长区域的外部光都能到达摄影者的瞳孔。一般,可见光由于波长的频带宽度较宽,所以即使包括R、G、B的各波长的极其狭小的波长宽度的光不到达,也可以没有任何妨碍地观察外部影像。
并且,该透明图像显示部6也可以把通过上述摄像部30拍摄的图像透明显示为彩色图像,该情况下,可以在使LCD115显示所拍摄的图像的同时,使上述LED113发出R、G、B三种颜色的光。这样,所拍摄的图像作为虚像从HOE25到达摄影者的瞳孔。
上述HOE116不仅把来自LCD115的光反射导入HOE25,而且具有校正像面变形的功能。另外,此处使用了HOE116,但也可以使用自由曲面的光学元件来代替。由于自由曲面的光学元件小型轻量,且可以校正复杂的像差,所以不怎么增加重量即可显示像差较小的清晰图像。
下面,参照图13和图14说明上述透明图像显示光学系统的具体配置示例。
在成为上述透明光学部件15上部的上述框架部13内部位置,按照图13所示的顺序配置上述LED113、聚光透镜114、LCD115、HOE116。这些各个部件由设在框架部13内的保持框夹持而被固定。此时,上述LED113在被安装于电路基板181的状态下,通过上述保持框被固定。并且,其中的HOE116如上所述被倾斜配置,以便使来自LED113的光朝向垂直下方反射。
上述透明光学部件15如图14所示,构成为具有:利用透明玻璃或塑料等形成的具有规定的厚度的导光部件182、183;被夹在这些导光部件182、183之间并且倾斜配置成朝向后方反射光的上述HOE25。在这种结构中,从上述HOE116反射的光透过配置在HOE25上侧的导光部件182的内部到达该HOE25。另外,在该导光部件182内部的光的传播可以如图14所示只是透射即可,也可以将透射和内面的全反射进行组合。如果进行将透射和全反射进行组合的光学设计,可以使透明光学部件15形成为薄壁,能够进一步实现头戴部2的轻量化。
另外,透明图像显示光学系统包括如同上述的各部件中的LED113、聚光透镜114、LCD115、HOE116、HOE25、导光部件182、183。
下面,参照图15~图19对调整眼睛的焦点以便可以同时观察被摄体和虚像的结构进行说明。
如果从眼睛到摄影像框的虚像的距离与从眼睛到被摄体的距离的差比较大,则不能将眼睛的焦点同时对准这两方,所以不能同时清楚地观察摄影像框和被摄体。
因此,下面对把眼睛到摄影像框的虚像的距离设定成与从眼睛到被摄体的距离一致,以便可以同时清楚地观察摄影像框和被摄体的结构进行说明。
首先,图15是说明变更虚像到眼睛的位置的原理的图。另外,在该图15中,为了只简洁说明原理而不受其他部件等干扰,省略图示上述HOE116等及与该HOE116等相关的说明等。
把HOE25的焦点距离设为f,把从显示在LCD115上的摄影像框201的位置到HOE25的距离设为L1,把从HOE25到虚像VI的距离设为Li,把摄影者观看摄影像框201的对角线的虚像的角度(视角)设为2δ,把显示在LCD115上的摄影像框的对角线的长度设为X1,则下述算式(1)和算式(2)表示的关系成立。
算式(1)
算式(2)
这些算式中出现的各个变量和常量中,f在设计HOE25时已经确定,δ由摄影者设定成期望值,是使到虚像的距离Li与到被摄体的距离一致的距离(即,例如通过测距求出的被摄体距离)。因此,通过把这些值代入算式(1),求出用于使虚像显示在与被摄体距离相同的距离位置的LCD115的显示位置L1,另外通过把上述各值代入算式(2),求出用于使摄影像框的视角与摄影视场角一致的、显示在LCD115的摄影像框的尺寸X1。
图16是表示通过构成虚像距离调整单元的致动器252在光轴方向上驱动LCD115的结构示例图。在该示例中,作为致动器252,使用例如电磁马达、超声波马达(USM)、静电致动器等公知的致动器,来变更上述L1。即,LCD115被设置成可以在聚光透镜114的光轴方向移动,在支撑该LCD115的框架部等设置有用于使该LCD115在光轴方向变位的、构成虚像距离调整单元的例如齿条251等。在该齿条251啮合着被固定在致动器252的旋转轴上的小齿轮252a等,以便传递驱动力。这样,通过使该致动器252旋转所期望的量,可以使LCD115在光轴方向移动所期望的量。根据这种结构,通过变更上述L1,使到虚像VI的距离Li与到被摄体的距离一致。并且,在使用该结构变更L1时,当然也利用构成视角调整装置的LCD驱动器117变更在该LCD115显示的摄影像框的尺寸,以达到上述算式(2)所示的X1。
另外,在上述图16及后面说明的图17所示例中,如果变更虚像位置,则倍率(观看被摄体的角度2δ)变化,所以通过使用构成视角调整装置的LCD驱动器117校正在LCD115显示的像的尺寸来进行校正,使上述倍率恒定。具体而言,校正在LCD115显示的像的尺寸,使从在LCD115显示的摄影像框201的位置到HOE25的距离L1、与在LCD115显示的摄影像框201的对角线的长度X1之比恒定。
然后,图17是表示一次成像LCD115的像并且使该一次成像的像的位置沿着光轴方向改变的结构的示例图。在该示例中,在通过LCD115的光束的光路上设有作为成像光学系统的成像透镜253,利用该成像透镜253,在该成像透镜253和HOE25之间的光路上的位置254一次成像该LCD115的像。上述成像透镜253被设置成可以在光轴方向移动,在支撑该成像透镜253的镜框等部件上设有使该成像透镜253在光轴方向变位的、构成虚像距离调整单元的例如齿条255等。如同上述,在该齿条255上啮合着被固定在构成虚像距离调整单元的致动器256的旋转轴上的小齿轮256a等,以便传递驱动力。这样,通过使该致动器256旋转所期望的量,使成像透镜253在光轴方向移动,从而可以使一次成像面的位置254在光轴方向移动所期望的量。使用这种结构,变更上述L1,以使到虚像VI的距离Li与到被摄体的距离一致。另外,在上述图15说明的原理中的L1,在该图17所示例中是指从一次成像面的位置254到HOE25的距离。并且,此时当然也可以变更在LCD115显示的摄影像框的尺寸。
另外,此处,虽然跟踪被摄体距离来调整从眼睛到摄影像框的虚像VI的距离,但在该情况下,由于每当摄影者的视线变化时,被摄体距离就会发生变化,摄影像框的位置时时刻刻都在变更,所以如果不以较高的精度连续调整摄影像框,则有可能在视觉上产生不谐调感。并且,如果时时刻刻调整摄影像框的位置,则电力消耗也变大。因此,可以在从近距离到无限远的距离之间分成多个阶段(例如分三个阶段),进行摄影像框位置的调整。
上述图16和图17所示的结构示例,利用致动器机械地移动LCD115和成像透镜253,所以结构略微复杂,并且需要配置致动器等的空间,重量也增加。另外,由于使用致动器,在驱动时有可能产生些许杂音,此时产生的杂音有可能给摄影者带来不舒适感。在佩戴于头部使用的照相机中,要求尽可能地消除该现象。下面,参照图18说明的结构示例就是鉴于这种情况提出的。
图18是表示一次成像LCD上的像,并使该一次成像的像的位置在光轴方向上变化的其他结构示例的图,图19是表示上述图18的液体透镜的详细结构的图。
这些图18和图19所示的结构示例,使用液体透镜(FluidFocus可变焦距透镜)257代替上述图17所示的成像透镜253。以下说明的液体透镜257使用2004年3月3日由菲利浦公司公开的产品。
首先,参照图19说明液体透镜257的结构。
液体透镜257如图19(A)、图19(B)所示,是在透明的短圆筒状部件的内部密封下述液体构成的,即,透明的传导性液体(ConductingFluid)265,和具有与该传导性液体265不同的折射率(不同的光学特性)、并且不与该传导性液体265混合(不混合性)的非传导液体(Insulating Fluid)266。上述传导性液体265例如是水性液体,上述非传导液体266例如是油性液体。并且,这些传导性液体265和非传导液体266的交界面构成透镜面。
上述圆筒状部件构成为具有:利用玻璃等构成的圆筒261a;密封该圆筒261a的底面侧、利用玻璃等构成的圆板261b;密封该圆筒261a的上面侧、利用玻璃等构成的圆板261c。
从上述圆板261b的上面侧外周部到圆周面设置有断面大致呈L状的电极262b,并且在上述圆筒261a的内周面、外周面及上面,设置有断面大致呈“”状的电极262a,这些电极被设置成彼此不接触。
在上述圆筒261a和电极262a的内周侧设置有圆筒状的绝缘体263,该绝缘体263的下端侧接触电极262b,将电极262a和电极262b绝缘。
从该绝缘体263的内周侧到上述圆板261c的下面侧,形成疏水性(斥水性)覆膜(Hydrophobic coating)264。
并且,在该疏水性覆膜264的内部密封有上述传导性液体265和非传导液体266。另外,上述电极262b从疏水性覆膜264延伸到内周侧,以便电连接传导性液体265。
在这种结构中,在不向上述电极262a、262b施加电压时,传导性液体265从疏水性覆膜264退回,如图19(A)所示,形成集中于底面侧的大致半球状,非传导液体266分布于除此以外的接触疏水性覆膜264的部分。
另一方面,在施加以使上述电极262a为负、电极262b为正的电压V时,如图19(B)所示,正电荷从上述电极262b传递给传导性液体265。并且,负电荷分布在电极262a的表面,正电荷分布在隔着上述绝缘体263和疏水性覆膜264与该电极262a相对的传导性液体265的表面。根据这种电荷感应,传导性液体265的表面张力(准确讲是传导性液体265与疏水性覆膜264接触的界面的张力)变化。在表面张力变化时,传导性液体265开始润湿疏水性覆膜264的内周面。把这种疏水性覆膜264的疏水性因电场而变弱的工艺称为“电子湿化(electrowetting)”。
这样,通过施加电压V,传导性液体265和非传导液体266之间的透镜面的曲率半径变化,所以透镜的焦距变化。
这种焦距的变化可以通过调整施加给电极262a和电极262b之间的电压来控制。例如,通过提高施加的电压V,所分布的电荷量增加,如图19(A)所示呈凸状(大致半球状)的传导性液体265表面完全平展开(没有透镜效果),或者形成图19(B)所示的凹状。在该图19(B)所示例中,接触角φ小于90度。由此,可以实现从聚光透镜平滑地转移到发散透镜,并平滑地复原到原来状态的透镜。
图18表示使用上述图19所示液体透镜改变LCD115的像的一次成像位置的结构示例图。
即,在LCD115和HOE25之间的光路上,设置有既是成像光学系统构成又是虚像距离调整单元的液体透镜257,通过改变施加给该液体透镜257的电压V,可以变更使用该液体透镜257的LCD115的像的一次成像面的位置254。
即,施加给该液体透镜257的电压V由构成虚像距离调整单元的电压控制电路258控制。
该电压控制电路258例如连接上述第4CPU111,将到摄影像框的虚像VI的距离Li控制成与到被摄体的距离一致。
另外,此时如果改变液体透镜257的焦距,则虚像VI的倍率也变化,所以当然可以根据该液体透镜257的焦距来变更在LCD115显示的摄影像框的尺寸。
这样,通过采用改变液体透镜257的焦距来使到虚像VI的距离Li与到被摄体的距离一致的结构,这种简单结构可以使装置进一步小型轻量化。另外,由于没有使用致动器,所以不会产生噪声,也不会给摄影者带来不舒适感。因此,这种结构对佩戴在头部使用的头戴型照相机和头戴型显示装置等的图像系统尤其有效。
另外,在上述图18中,表示在显示作为虚像VI的摄影像框时调整该虚像VI的位置的示例,但不限于此,当然同样可以适用于显示作为虚像的图像或文字等的情况(即,将图像或文字显示为虚像的显示装置)。
下面,参照图20、图21,说明视线方向/角速度检测部7的视线方向检测部的光学系统的一个构成例。图20是包括表示视线方向检测部的光学系统的一个构成例的部分剖面的主视图,图21是包括表示视线方向检测部的光学系统的一个构成例的左侧视图。
在成为上述透明光学部件14上部的上述框架部13内部位置,按照图20所示顺序配置上述LED125、聚光透镜126、反射镜127、反射镜131、成像透镜132、带通滤波器133、CCD134。
在上述反射镜127的下方的透明光学部件14内部配置半反射镜128和HOE24。另外,在该半反射镜128的侧方的透明光学部件14内部配置HOE129。
在这种结构中,从上述LED125发出红外光,并通过聚光透镜126转换为平行光束,然后通过反射镜127向垂直下方反射。
通过该反射镜127反射的红外光进入透明光学部件14的内部,透过设在该透明光学部件14内部的半反射镜128,通过HOE24朝向观察者的眼睛反射。
另一方面,从观察者的眼睛反射的红外光通过上述HOE24朝向上方反射,并且通过半反射镜128朝向侧方反射。该反射光再通过HOE129朝向上方反射,到达设在框架部13内部的反射镜131。
通过该反射镜131朝向侧方反射的光,通过成像透镜132和带通滤波器133成像于CCD134上,形成通过上述HOE24反射的红外光的波长频带的观察者眼睛的像。
由该CCD134转换的图像信号通过上述CDS/AGC电路136、A/D转换电路137、通信控制部173、收发部172等,输出给上述图像记录/编辑装置4,在该图像记录/编辑装置4内的第1CPU161,按照后面所述求出普尔金耶像的位置和瞳孔的中心位置,再根据它们的相对关系求出视线方向。
另外,上述半反射镜128和HOE129例如配置在透明光学部件14内部,但是作为此时的位置,优选通常佩戴该头戴部2来观察被摄体的观察者的视场的上部。
根据这些图20、图21所示的结构,使用具有较高的波长选择特性、相对所选择的波长频带的光的反射率较高的HOE24,并且把具有相同的波长选择特性的带通滤波器133配置在CCD134前面,所以能够获得较高的S/N比的信号。
并且,根据这种结构,可以准确求出观察被摄体的观察者的视线方向。
下面,参照图22、图23,说明视线方向/角速度检测部7的视线方向检测部的光学系统的其他构成例。图22是包括表示视线方向检测部的光学系统的其他构成例的部分剖面的主视图,图23是包括表示视线方向检测部的光学系统的其他构成例的左侧视图。
上述图20、图21所示的结构,半反射镜128和HOE129直接露出于外部光下,所以难以完全切断外部光干扰到达CCD134。与此相对,该图22、图23所示的结构,将朝向观察者眼睛投光红外光的光路、和利用CCD134对通过观察者眼睛反射的红外光进行感光的光路完全分离。
即,在该视线方向检测部的光学系统中,省略上述半反射镜128和HOE129,并且HOE24构成为在左右方向比上述图20所示的HOE24略宽。
并且,通过上述反射镜127反射的红外光朝向该HOE24的例如左侧部分倾斜入射。HOE24使来自该反射镜127的红外光朝向观察者眼睛在水平方向稍微偏斜地投射。
另一方面,来自观察者眼睛的反射光到达该HOE24的例如右侧部分,朝向上述反射镜131大致垂直向上反射。该反射镜131以后的结构等和上述图20、图21所示的结构相同。
根据这些图22、图23所示的结构,使用具有较高的波长选择特性、对所选择的波长频带的光的反射率较高的HOE24,并且把具有相同的波长选择特性的带通滤波器133配置在CCD134前面,所以能够获得较高的S/N比的信号。并且,由于在被照射外部光的透明光学部件14只配置HOE24,所以与在透明光学部件14配置半反射镜128和HOE129的上述图20、图21所示的结构相比,能够进一步降低外部光干扰的影响。
另外,在透明光学部件14内部的光的传播可以如图21和图23所示只是透射即可,也可以与上述透明光学部件15内部的光的传播相同,将透射和内面的全反射进行组合。如果进行组合透射和全反射的光学设计,可以使透明光学部件14形成为薄壁,能够进一步实现头戴部2的轻量化。
下面,参照图24和图25说明把摄像部30安装成相对于框架部13的侧面可以在俯仰方向和偏歪方向相对调整角度的结构。图24是表示把摄像部30安装在框架部13的结构的俯视图和右侧视图,图25是表示为了安装摄像部30而设在框架部13的孔的结构的右侧视图。
本实施例的图像系统1由摄影者指定表示摄影范围的摄影像框,以与所指定的摄影像框的视角对应的视场角进行摄影,所以需要校正视差。作为该视差的产生原因,有摄影者的视轴和摄影光轴在水平方向的位置偏移,以及视轴和摄影光轴的角度偏移,但是后者的角度偏移的影响非常大,所以设置有能够精密地校正该角度偏移的调整机构(调整单元)。
框架部13和镜腿部12如图24(A)所示连接成通过铰链78可以折叠。该铰链78通过从上述框架部13延伸设置的略长的接头29,被配置在与右眼侧铰链79相比从前面部11侧稍远的位置上。
在上述接头29的侧面,连接着从正面观看时大致呈L状的作为调整机构(调整单元)的台座33,其具有沿着该侧面的形状部33a和从该侧面大致垂直立起设置的形状部33b。该调整机构是用于调整应用头戴型照相机的调整方法的头戴型照相机的调整装置的前面部11和摄像部30的相对角度的机构,通过使用该调整机构,可以调整摄像部30中包含的摄影光学系统31的光轴和视轴。
即,在上述接头29如图25所示,在前方侧穿设构成俯仰方向调整单元的孔191,在后方侧穿设以该孔191为中心的呈圆弧状的构成俯仰方向调整单元的长孔192。通过这些孔191、192,把构成俯仰方向调整单元的螺钉34、35分别旋合在台座33的上述形状部33a上,由此将该台座33安装在接头29上。
并且,如图24(A)所示,在上述台座33的形状部33b的前方侧穿设构成偏歪方向调整单元的孔193,在后方侧穿设以该孔193为中心的呈圆弧状的构成偏歪方向调整单元的长孔194。按照图24(B)所示,通过这些孔193、194,把构成偏歪方向调整单元的螺钉36、37分别旋合在摄像部30的底面侧,由此将该摄像部30安装在台座33上。另外,从上述摄像部30的背面侧延伸出电缆38,向被摄体侧弯折后,连接在上述框架部13内的电路等上。
在这种构成中,在略微松动螺钉34和螺钉35的状态下,变更其在插通螺钉35的长孔192内的位置,使台座33以螺钉34为中心转动,可以调整台座33乃至安装该台座33上的摄像部30的俯仰方向的角度。这样,在调整为所期望的位置后,固定上述螺钉34和螺钉35即可。
同样,在略微松动螺钉36和螺钉37的状态下,变更其在插通螺钉37的长孔194内的位置,使摄像部30以螺钉36为中心相对台座33转动,可以调整该摄像部30的偏歪方向的角度。这样,在调整为所期望的位置后,同样,紧固上述螺钉36和螺钉37。
根据这种结构,可以进行透明图像显示部6和摄像部30的在俯仰方向和偏歪方向上的角度调整。并且,摄像部30通过台座被固定在前面部11上,所以即使折叠镜腿部12,摄像部30也不会折叠,摄像部30和透明图像显示部6的相对角度产生偏移的可能性减小。并且,由于调整机构简单,所以能够低成本地构成。
另外,在上述结构中,调整摄像部30和台座33在偏歪方向上的角度,调整框架部13侧面的接头29和台座33在俯仰方向上的角度,但也可以与其相反,也可以构成为通过变更摄像部30相对于台座33的安装位置,来调整摄像部30与台座33在俯仰方向上的角度,并通过变更框架部13相对台座33的安装位置,来调整框架部13侧面的接头29与台座33的在偏歪方向上的角度。
下面,参照图26~图36,说明透明图像显示部6显示图像的示例。
首先,图26是表示透明显示的初始状态的显示示例的图。在接通照相机1的电源或重新设定系统时,进行如图26所示的显示。此时,如图所示,表示相当于标准透镜(例如视场角为50度)的摄影范围的摄影像框201被透明显示(即,从摄影者观看时的视场角为50度的摄影像框201被透明显示)。
然后,图27是表示进行望远变焦时的显示示例的图。所显示的摄影像框201表示的摄影范围是,与上述图26所示的状态相比相当于望远状态的摄影范围。如上所述,该摄影像框201的变更是通过例如上述变焦开关75的操作来进行,此时变更上述摄影光学系统31的焦距,以使摄像部30的摄影视场角与该摄影像框201的视角一致。具体而言,在对应于上述图26所示的标准透镜的焦距的摄影范围内,通过操作该变焦开关75的望远开关75a,进行如图27所示的向望远侧的变更。
然后,图28为表示进行广角变焦和曝光校正时的显示例的图。所显示的摄影像框201表示的摄影范围是,与上述图26所示状态相比相当于广角状态的摄影范围,并且在该摄影像框201的例如右下部显示作为信息显示202的曝光校正量。在该图所示示例中,例如显示了通过上述曝光校正开关76进行了+1.0的曝光校正的情况。另外,曝光校正不限于用数字表示,当然也可以使用直方图或标志等各种显示方式。并且,该图28所示的摄影像框201例如在对应于上述图26所示的标准透镜的焦距的摄影范围内,通过操作上述变焦开关75的广角开关75b来进行设定。
并且,图29是表示进行电子浏览显示时的显示例的图。例如,利用上述F/V开关72选择电子浏览显示(V)时,如该图所示,把由摄像部30拍摄的电子图像203作为虚像投影到摄影者的眼睛中。另外,作为该电子浏览所显示的图像的尺寸可以根据该图像的分辨率设定,例如分辨率较低时可以缩小显示图像。
图30是表示动态图像录制过程中的显示例的图。例如在操作上述录制开关74进行录制时,如该图30所示,显示表示摄影范围的摄影像框201,并且表示正在录制过程中的信息显示204以文字“REC”显示在摄影像框201的例如右下部。该表示正在录制过程中的显示与上述相同不仅限于文字。
图31是表示手动模式时的显示例的图。例如,通过操作上述FA/A/M开关71设定为手动模式(M)时,表示该手动模式(M)的信息显示205在摄影像框201的例如右下部显示文字“MANU”。另一方面,在没有“MANU”的信息显示205时为自动模式(A)。
图32是表示在全自动模式下录制动态图像时的显示例的图。例如,通过操作上述FA/A/M开关71设定为全自动模式(FA),并且操作录制开关74进行录制时,如该图32所示,显示表示摄影范围的摄影像框201,并且在摄影像框201的例如右下部,表示全自动模式(FA)的信息显示206显示文字“FA”,表示录制过程中的信息显示207显示文字“REC”。这些表示全自动模式和录制过程中的显示与上述相同不仅限于文字。
图33是表示尽管摄影光学系统31的焦距f达到可进行焦点调节的下限值k1,但仍进行调小焦距的操作时的透明显示的报警显示208的示例图。即,在进行向广角侧的变焦操作而到达变焦的广角端时,依然在进行向广角侧的变焦操作的情况下,该报警显示208与表示摄影范围的摄影像框201的显示同时进行。
图34是表示尽管摄影光学系统31的焦距f达到焦点可以调节的上限值k2,但仍在进行调大焦距的操作时的透明显示的报警显示209的示例图。即,在进行向望远侧的变焦操作而到达变焦的望远端时,在依然进行向望远侧的变焦操作的情况下,该报警显示209与表示摄影范围的摄影像框201的显示同时进行。图35是表示进行拍摄静态图像的操作时的显示例的图。此时,在显示表示摄影范围的摄影像框201的同时,表示已记录静态图像的信息显示210在摄影像框201的例如右下部显示为文字“REL”。表示已记录该静态图像的显示与上述相同不仅限于文字。
图36是表示校准模式的显示例的图。例如,通过操作上述第1操作开关162的菜单按钮63和菜单选择开关66、67、68、69、确定开关65等,选择校准模式,进行如该图36所示的显示。即,此处表示校准模式的信息显示211在视场的例如右下部显示文字“CAL”,并且如后面所述,校准用标志P1~P5顺序闪亮显示。其中的标志P1显示在视场的中央部,标志P2显示在视场的上部,标志P3显示在视场的右侧部,标志P4显示在视场的下部,标志P5显示在视场的左侧部。
另外,在上述各种显示中,普通的信息显示通过使上述LED113中的例如G(绿色)二极管发光来进行,报警显示通过使上述LED113中的例如R(红色)二极管发光来进行。
下面,参照图37~图39,说明基于上述到被摄体的距离的视差校正的原理。图37是说明被摄体和摄影光学系统和CCD的光学关系的图,图38是HOE和通过该HOE形成的虚像和眼睛的光学关系的图,图39是说明用于校正视差所需要的虚像偏移量的图。
如图37所示,如果把CCD87的摄像区域的水平方向上的尺寸设为h2,把摄影光学系统31的焦距设为f,把从摄影光学系统31的主点到CCD87的距离设为f+x,把从摄影光学系统31的主点到被摄体O的距离设为L2,把将被CCD87拍摄的被摄体O的水平方向上的尺寸设为H2,把水平方向的摄影视场角设为θ2,则下述算式(3)表示的关系成立。
算式(3)
另一方面,如图38所示,如果把从摄影者的瞳孔P的位置到表示摄影范围的水平方向的摄影像框的位置(虚像VI)的距离设为L1,把该摄影像框的水平方向的长度设为H1,把从瞳孔P的位置观看利用水平方向的长度H1形成的该摄影像框的角度(视角)设为θ1,则下述算式(4)表示的关系成立。
算式(4)
摄影者为了在所设定的摄影范围内摄影,需要使摄影视场角和视角相等,即θ2=θ1。在该θ2=θ1成立的条件下,为了使算式(3)的右边和算式(4)的右边相等,摄影光学系统31的焦距f利用下述算式(5)求出。
算式(5)
另一方面,根据透镜的成像原理,下述算式(6)成立。
算式(6)
根据这些算式(5)和算式(6),通过消去x导出下述算式(7)。
算式(7)
根据该算式(7)可知,只要能够求出被摄体距离L2,即可求出焦距f。
此处,在普通被摄体中,由于h2/L2<<H1/L1的关系成立,所以在想简化计算或不具有用于求出被摄体距离的装置时,可以利用下述算式(8)求出近似值。
算式(8)
下面,参照图39说明视差的校正原理。
首先,作为说明视差校正原理时的前提条件,使摄影光学系统31的光轴方向和摄影者的视轴方向均相对于面部垂直,把这些光轴和视轴隔开距离X进行配置。此处,视差是以光轴和视轴隔开距离X为起因而产生的。另外,在光轴和视轴相对倾斜的情况下,将成为产生较大视差的要因,所以需要将它们调整成平行。因此,使用上述图24、图25所示的调整机构,进行光轴和视轴的调整。
如图39的实线和虚线所示,如果距表示摄影范围的摄影像框的虚像VI0的距离和到被摄体O的距离相同,则摄影者观察的范围和摄像部30摄像的范围的偏差量(视差)不变,即为X。但是,由于实际上从摄影者的瞳孔P到虚像VI1的距离L1与从摄影光学系统的主点到被摄体O的距离L2不同,所以用于使作为虚像的摄影像框表示的范围与实际摄像范围一致的视差校正量X’利用下述算式(9)表示。
算式(9)
如果把摄影像框的虚像VI1的倍率(即虚像相对于在LCD115上显示的像的尺寸比)的倒数设为β,则为了校正视差,在LCD115上显示的影像的偏差量SP如下面的算式(10)表示。
算式(10)
因此,第4CPU111控制上述LCD驱动器117,以使在LCD115上显示的像的位置仅移动由该算式(10)表示的量SP。由此,虚像VI1的位置仅移动距离X’成为虚像VI2,如图39的双虚线所示,虚像的摄影像框表示的范围与实际的摄像范围一致。
这样,用于进行视差校正的偏差量SP依赖于被摄体距离L2,所以每当被摄体距离不同时,随时进行校正是基本的。
但是,例如,以β=1/100、L1=2m、L2=2m、X=4cm的情况为例时,偏移量SP为0.4mm,但如果使用下述算式(11),
算式(11)
把该视差校正量换算为视角Sθ时,约为1度,不能说产生较大的视差。这样,在进行普通摄影的情况下,几乎不需要视差校正。另外由于算式(11)的右边括弧内与被摄体距离L2的倒数成比例,所以可以看出,在L2小、即近距摄影时,视角Sθ变大,需要进行基于上述算式(10)的视差校正。
另外,在以上说明中,根据三角测距原理求出被摄体距离L2。即,向被摄体投光投光用LED16a的光,利用上述CCD87拍摄从该被摄体反射的光,从该CCD87上的像的位置,根据三角测距原理求出。
并且,L2是视线方向的被摄体距离,所以也可以把投光用LED16a配置在尽可能接近进行视线检测的眼睛的位置,利用公知的控制投光方向的单元在视线方向(θ)投光。
另外,也可以不根据上述的三角测距原理求出被摄体距离,而根据进行聚焦时的聚焦透镜85的位置求出被摄体距离L2。即,假定被摄体的位置无限大,利用上述图11所示的AF处理电路98,在使和视线方向(θ)视场角相同的规定的范围内的被摄体的图像信号的高频成分为最大的位置,驱动聚焦透镜85(进行所谓的对比方式的焦点检测),从该聚焦透镜85的位置反求出被摄体距离L2。该情况时,视线方向(θ)的被摄体和视场角与成为上述AF处理对象的视线方向(θ)相同的被摄体不严格一致,但由于被摄体具有恒定尺寸,所以在实际使用上不会产生问题。
下面,参照图40,说明考虑了起因于摄像部30和视线方向/角速度检测部7的视线方向检测部隔开规定的距离配置而产生的视差的技术。图40是表示从摄像部观看位于视线方向的被摄体时的角度关系的图。
例如,考虑把摄像部30的摄影光学系统31的焦点对准位于由视线方向/角速度检测部7检测的视线方向的被摄体。在距被摄体的距离较远时,从摄像部30观看的位于摄影者的视线方向的被摄体,与摄影者实际注视的被摄体大致一致,但是在距被摄体的距离较近时,这些被摄体产生偏移。因此,即使把焦点对准位于偏移位置的被摄体,焦点也未必与摄影者实际注视的被摄体相吻合。图40表示产生这种视差时的位置关系的示例。
现在,摄影者在注视位于相对与摄影光学系统31的光轴平行的视轴形成夹角θ的方向的距离L的被摄体O。此时,把摄影光学系统31的光轴与摄影者瞳孔之间的距离设为Xe。并且,把摄影光学系统31的光轴与连接摄影光学系统31的主点H和被摄体O的直线形成的夹角设为θ’。这样,下述算式(12)成立。
算式(12)
因此,把利用视线方向/角速度检测部7检测的视线方向θ、利用AF处理电路98等检测的被摄体距离L、和在设计上确定的Xe代入该算式(12),求出上述夹角θ’,把摄影光学系统31的焦点对准位于所求出的夹角θ’方向的被摄体即可。另外,在被摄体距离L较大的情况下,可以忽视算式(12)右边的第2项,所以θ’θ,即判明可以基本不考虑视差的影响。
另外,上述被摄体距离L可以如上所述利用三角测距求出,或者也可以根据利用对比方式进行焦点检测的结果求出。
下面,参照图48和图49说明以上说明的图像系统的动作。图48是表示图像系统的动作的一部分的流程图,图49是表示图像系统的动作的其他部分的流程图。这些图48和图49由于图纸原因把图像系统的动作流程分成两个图表示。
在接通该图像系统1的电源或重新设定系统时,通过上述透明图像显示部6,按照上述图26所示透明显示表示相当于标准透镜(如上所述,例如视场角为50度)的摄影范围的摄影像框(步骤S1)。
然后,通过检查内置于上述第2CPU121的定时器123,判断是否已经经过规定的时间(步骤S2)。
此处,在判断为经过了规定的时间后,监视如图8所示的第1操作开关162和如图10所示的第2操作开关171等各种开关的输入状态(步骤S3)。
另外,上述步骤S2的定时器在经过了规定的时间并且转入上述步骤S3的时刻,再次开始计时。并且,在定时器的计时未达到规定的时间时,不进行上述步骤S3的开关监视。这样,通过一面检查定时器,一面按照规定的时间间隔确认开关的输入状态,可以减轻各CPU的负荷,并且可以防止因开关的振动造成的错误动作。另外,后述的步骤S14、S20、S25的定时器发挥与上述步骤S2的定时器相同的作用。
在上述步骤S3的处理结束后,执行后述的防止危险的子程序(步骤S4)。
在判断为上述步骤S4的处理结束、或在上述步骤S2判断为未经过规定的时间的情况下,判断图像系统1被设定为自动模式(A)还是手动模式(M),或者被设定为这些模式以外(即全自动(FA))的模式(步骤S5)。该模式设定如上所述通过操作FA/A/M开关71来进行。
此处,在判断为不是自动模式(A)也不是手动模式(M),即是模式全自动模式(FA)时,判断是否利用录制开关74设定为录制模式(步骤S6)。
此处,如果未设定为录制模式,则返回上述步骤S2,反复进行上述处理。
并且,在上述步骤S6判断为被设定为录制模式时,在设定为标准摄影像框的同时,如上述图32所示那样透明显示表示全自动的信息显示206(文字“FA”)和表示录制过程中的信息显示207(文字“REC”)(步骤S7)。
并且,在上述磁盘249等记录动态图像数据、角速度数据、视线方向数据、音频数据后(步骤S8),返回上述步骤S2,反复进行上述处理。
另一方面,在上述步骤S5,在判断为被设定为自动模式(A)或手动模式(M)任一种时,判断是否已设定曝光校正(步骤S9)。
此处,在判断为已设定曝光校正的情况下,例如图28所示,把所设定的曝光校正量(校正值)作为信息显示202进行透明显示(步骤S10)。
在判断为该步骤S10的处理结束、或在上述步骤S9未设定曝光校正的情况下,判断图像系统1是否被设定为透明显示由摄像部30摄像的图像的浏览模式(V),或者是否被设定为只显示作为摄影范围的摄影像框的框架模式(F)(步骤S11)。该模式设定如上所述通过操作F/V开关72来进行。
此处,在判断为模式被设定为框架模式(F)时,接着判断图像系统1是否被设定为自动模式(A)或被设定为手动模式(M)(步骤S12)。该模式设定如上所述通过操作FA/A/M开关71来进行。
此处,在自动模式(A)中当摄影光学系统31的焦距大于等于规定的值时,即使被设定为框架模式(F),也自动成为放大由摄像部30摄像的图像进行透明显示的模式。通过进行这种显示,即使是望远摄影,也不用进行麻烦的操作即可容易确认被摄体的具体情况,并且在普通的焦距(小于上述规定的值的焦距)时,仅显示表示摄影范围的摄影像框,所以即使长时间摄影时也能够进行没有不谐调感的摄影。
另一方面,如上所述,手动模式用于手动设定是否进行上述透明显示,是通常仅进行摄影像框显示的模式。
在上述步骤S12判断为选择了手动模式(M)的情况下,如上述图31所示,进行“MANU”的信息显示205(步骤S13)。
并且,通过检查定时器,判断是否已经过了规定的时间(步骤S14)。
此处,在经过了规定的时间的情况下,在上述步骤S4的防止危险的处理中,根据在后述的图50的步骤S41求出的距被摄体的距离,并根据上述的原理算出用于校正摄影者观察的范围与摄像部30的摄影范围的偏差,即视差所需要的校正值(步骤S15)。
并且,根据在该步骤S15算出的校正值,更新摄影像框的显示,以便在正确位置显示摄影像框(步骤S16)。通过进行这种处理,即使在被摄体距离变化的情况下,也能够正确地显示摄影范围。另外,在该步骤S16,从HOE25到表示上述摄影范围的摄影像框的距离可以利用上述图15~图18所示的方法中的任一种进行调整。
另一方面,在上述步骤S12判断为被设定为自动模式(A)时,判断摄影光学系统31的焦距是否被设定在大于规定的值α的望远侧(步骤S17)。
此处,在判断为摄影光学系统31的焦距小于等于规定的值α的情况下,转入上述步骤S14的处理。并且,在判断为摄影光学系统31的焦距大于规定的值α的情况下,或者在上述步骤S11判断为被设定为浏览模式(V)的情况下,把利用摄像部30拍摄的电子图像通过透明图像显示部6重叠显示在被摄体上(步骤S18)。
在结束该步骤S18的处理的情况,结束上述步骤S16的处理的情况,或者在上述步骤S14判断为未经过规定的时间的情况下,通过摄影者操作上述图像记录/编辑装置4的广角开关75b,从而判断是否已放大(W)了摄影像框的尺寸(步骤S19)。
此处,在判断为进行了放大(W)摄影像框的尺寸的操作时,通过检查定时器,判断是否经过了规定的时间(步骤S20)。
并且,在判断为经过了规定的时间的情况下,判断是否尽管摄影光学系统31的焦距f已经到达焦点可以调节的下限值k1,但依然在进行向小于该下限值k1的方向的操作(步骤S21)。
此处,在进行向小于焦点可以调节的下限值k1的方向的操作的情况下,如上述图33所示,通过透明显示进行报警显示208(步骤S22)。并且,在焦距f尚未到达焦点可以调节的下限值k1的情况下,通过驱动摄影光学系统31的变位透镜82来缩小焦距f,设定摄影光学系统31的焦距使其达到摄影者设定的摄影范围(步骤S23)。
另一方面,在上述步骤S19,在判断为未进行放大(W)摄影像框的尺寸的操作时,判断是否在通过上述图像记录/编辑装置4的望远开关75a进行缩小(T)摄影像框的尺寸的操作(步骤S24)。
此处,在判断为已进行缩小(T)摄影像框的尺寸的操作的情况下,通过检查定时器,判断是否经过了规定的时间(步骤S25)。
并且,在判断为经过了规定的时间的情况下,判断是否尽管摄影光学系统31的焦距f到达焦点可以调节的上限值k2,但依然在进行向大于该上限值k2的方向的操作(步骤S26)。
此处,在进行向大于焦点可以调节的上限值k2的方向的操作的情况下,如上述图34所示,通过透明显示进行报警显示209(步骤S27)。并且,在焦距f尚未到达焦点可以调节的上限值k2的情况下,通过驱动摄影光学系统31的变位透镜82来放大焦距f,设定摄影光学系统31的焦距使其达到摄影者设定的摄影范围(步骤S28)。
在上述步骤S24,在判断为未进行缩小(T)摄影像框的尺寸的操作的情况下,在上述步骤S20或步骤S25判断为未经过了规定的时间的情况下,或者已结束上述步骤S22、S23、S27或S28的处理的情况下,判断是否已进行图像记录/编辑装置4的第2操作开关171中包括的录制开关74的动态图像记录操作(或者第1操作开关162的动态图像记录操作)而被设定为录制模式(步骤S29)。
此处,在设定为录制模式的情况下,如图30所示,通过透明显示进行使用“REC”文字的信息显示204后(步骤S30),开始录制(步骤S31)。
在判断为该步骤S31的处理结束、或者在上述步骤S29中未设定录制模式的情况下,判断是否已进行图像记录/编辑装置4的第2操作开关171中包括的释放开关73的静态图像摄影操作(或者第1操作开关162的静态图像摄影操作)(步骤S32)。
此处,在判断为已进行静态图像摄影操作的情况下,首先进行静态图像的记录(步骤S33),然后如图35所示,通过透明显示进行表示已进行静态图像的记录的“REL”文字信息显示210(步骤S34)。
在判断为该步骤S34结束、或者在上述步骤S32中未进行释放开关73的静态图像摄影操作的情况下,返回上述步骤S2的处理,反复进行上述动作。
图50是表示上述图48的步骤S4表示的防止危险的子程序的详细内容的流程图。
如上所述,通过操作开关39,可以禁止进行所期望的透明图像显示,以保证安全,但也可以用其他方法代替,或与此同时检测摄影者的状态,根据所检测的状态自动禁止摄影动作中的透明显示。
在开始该防止危险的处理时,首先,测定距被摄体的距离(步骤S41)。此时的测距原理如下。
从配置在框架部13的中央部的投光用发光部16的投光用LED16a发出的光束,通过聚光透镜16b变成大致平行的光束射出,并照射到被摄体上。该光通过该被摄体被反射,通过摄影光学系统31入射到CCD87的摄像面。
此时,在把聚光透镜16b的光轴和摄影光学系统31之间的距离设为L,把从摄影光学系统31的主点到CCD87的摄像面的距离设为f1,把来自被摄体的反射光在CCD87的摄像面上的成像位置和摄影光学系统31的光轴与该摄像面交叉的位置的距离设为ΔL时,到被摄体的距离R可以根据公知的三角测距的原理,利用下述算式(13)求出。
算式(13)
把这样求出的距离R暂存在设于第2CPU121内部的RAM122中。
然后,利用上述角速度传感器141、142检测独立的两轴周围的角速度,并暂存在上述RAM122中(步骤S42)。
然后,比较此次获得的测距结果和以前获得的测距结果,判断位于摄影者前方的物体是否在相对接近(步骤S43)。
此处,在判断为前方的物体在接近时,判断此次获得的距被摄体的距离L是否是比规定的距离k3还近的距离(步骤S44)。
此处,在判断为上述距离L比规定的距离k3还近时,利用上述透明图像显示部6透明显示规定的报警标志(步骤S45)。另外,此处只考虑到前方物体的距离,不考虑该前方物体的移动速度,但在上述步骤S43,在求出距前方物体的距离的同时,还求出移动速度(逐渐接近的速度),可以根据该移动速度适当设定上述规定的距离k3。该情况时,被设定成前方物体逐渐接近的速度越快,上述规定的距离k3就越大。并且,前方物体的移动速度也可以通过以规定的时间间隔检测上述距离L来测定。
另一方面,在上述步骤S43判断为前方物体没有接近时,再根据上述角速度数据判断摄影者是否在步行中(步骤S46)。
即,把从人步行时、或人跑步时戴在头部的角速度传感器141、142输出的特征图形预先存储在EEPROM102中。并且,在该角速度传感器141、142的输出图形与该步行时或跑步时的特征图形一致时,判断为摄影者在步行(或跑步)。
在该步骤S46,在判断为摄影者在步行(或跑步)时,转入上述步骤S45,进行上述的报警显示。
并且,在上述步骤S44,在判断为到前方物体的距离L大于等于规定的距离k3时,或者在上述步骤S46判断为摄影者不在步行(或跑步)时,由于没有危险,不进行上述步骤S45的报警显示。
这样,在结束步骤S45的处理、或在上述步骤S44或上述步骤S46判断为没有危险时,结束该防止危险的处理,返回上述图48所示的处理。
另外,在上述说明中进行报警显示,但也可以代替该报警显示,而强制(自动)断开透明图像显示部6的透明显示。
并且,在上述说明中,把角速度传感器141、142的输出值的图形与规定的特征图形比较来检测摄影者的状态,但作为更简单的方法,也可以在角速度传感器141、142的输出值持续规定的时间大于等于规定的值时,进行报警显示或禁止透明显示。
另外,在上述说明中,作为摄影者的状态,列举了摄影者步行或跑步的示例,但不限于此,也可以使防止危险的处理对应所期望的状态。例如,根据与前方物体的相对速度判断是否正在驾驶汽车等,在判断为正在驾驶的情况下,进行规定的报警或禁止透明显示。此时,可以使用上述角速度传感器141、142,高精度地判别是否处于属于需要进行危险防止的正在驾驶状态、或处于属于没有必要进行报警等的状态的乘坐列车或汽车等,或设置其他传感器等来进一步提高检测精度。
并且,防止在上述摄影中与前方物体冲突等的危险的技术,不限于适用于作为头戴型照相机构成的图形系统,也可以适用于作为具有透明显示功能的头戴型显示装置构成的图形系统,还可以广泛适用于其他普通的照相机和显示装置。
通过设计这种防止危险功能,可以安全使用图像系统1。这种功能在可以一面进行正常行动一面简单地进行拍摄的本实施例的图像系统1中非常有效。
下面,参照图41~图44说明视线方向检测的原理。
图41是表示照明光束的光轴Lm和眼睛的视线方向的视线轴Lm’一致时,包括该光轴Lm和视线轴Lm’的平面上的眼睛剖面图。在该图41中,以点O为中心的较大的圆弧表示眼球221,以点O’为中心的圆弧表示角膜222,从表示角膜222的圆弧与表示眼球221的圆弧交叉的点延伸的线部分表示虹膜223。
向这种向眼睛照射以Lm为光轴的平行光束时,在角膜222的曲率中心O’与角膜222的顶点K的大致中点的位置产生光点Pi(以下称为“普尔金耶像”)。
在照明角膜222的光束的光轴Lm与表示眼睛的视线方向的视轴Lm’一致的情况下,如图41所示,虹膜223中的由圆形孔形成的瞳孔的中心、普尔金耶像Pi、角膜222的曲率中心O’、和眼球221的旋转中心O位于上述光轴Lm上。并且,普尔金耶像Pi产生于上述瞳孔的中心位置。此时,从正面观察眼睛时,普尔金耶像Pi的反射率比较大,所以观察到明亮的光像,而瞳孔和虹膜的反射率比较小,所以观察到较暗的像。
图42是表示把与光轴Lm垂直交叉的线设为横轴,把利用上述视线方向/角速度检测部7拍摄眼睛的像时的CCD134的输出信号绘制在纵轴方向的图。
如图所示,虹膜223的像IR比其周围的眼球221的像部分暗,瞳孔的像PL比虹膜223的像IR还暗。对此,普尔金耶像Pi明显明亮。因此,通过检测这种明亮度的分布,可以求出普尔金耶像Pi到虹膜(或瞳孔)的中心的位置。
另一方面,图43是表示照明光束的光轴Lm和眼睛的视线方向的视轴Lm’交叉时,包括该光轴Lm和视轴Lm’的平面上的眼睛剖面图。
眼球221相对光轴Lm在旋转中心O周围旋转角度θ时,瞳孔的中心位置和普尔金耶像Pi的位置之间产生相对偏移。现在,把从角膜的曲率中心O’到瞳孔的中心i的距离设为Lx,利用下述算式(14)表示从光轴Lm的方向观看时的瞳孔中心i和普尔金耶像Pi在CCD134的摄像面上的距离d(在图43中图示实际距离,但更准确讲距离d是摄像面上的距离)。
算式(14)
此处,β1是成像透镜132的成像倍率。
图44是表示把与光轴Lm和视线轴Lm’交叉并与该光轴Lm垂直的线设为横轴,把利用上述视线方向/角速度检测部7拍摄眼睛的像时的CCD134的输出信号绘制在纵轴方向的图。
如图所示,普尔金耶像Pi在相对虹膜(或瞳孔)的中心偏移上述距离d的位置被检测到。
因此,利用视线方向检测部的感光系统成像上述眼睛的像并拍摄,对所拍摄的图像数据进行图像处理,求出普尔金耶像Pi的位置和虹膜(或瞳孔)的中心位置的距离d,由此可以求出视线方向θ。另外,如上述图20或图22所示那样的通过感光系统成像于CCD134的像,形成为上下左右不对称的变形图像,但在把这种几何特性作为校正信息预先存储在EEPROM102等中,根据该校正信息校正上述变形后,根据上述算式(14)运算表示视线方向的角度θ。
下面,详细说明求出上述距离d的图像处理。
在上述原理中,叙述了一维的视线方向检测,但实际上需要检测二维的视线方向。图45是表示从二维摄像元件获得的眼睛的像的图。如该图45所示,把瞳孔的中心设为Op,把普尔金耶像设为Pi,把通过瞳孔中心Op的规定的中心线设为Lp,把该中心线Lp与连接瞳孔中心Op和普尔金耶像Pi的直线形成的夹角设为γ,则瞳孔中心Op和普尔金耶像Pi的距离对应上述算式(14)中的距离d。因此,可以根据该距离d求出以朝向观察者的眼睛的红外光投光方向(以下称为“基准视轴”)为基准的视线方向(倾斜角)θ,另外上述γ表示眼球的旋转方向。这样,如果可以检测成像于CCD134的二维像中瞳孔中心Op的位置和普尔金耶像Pi的位置,则可以求出用上述θ和γ表示的二维的视线方向。
下面,图51是表示求出这种瞳孔中心Op的位置和普尔金耶像Pi的位置的处理的流程图。
在开始该处理时,首先,把利用视线方向/角速度检测部7的CCD134进行光电转换获得的观察者眼睛的图像数据,存储在设于图像记录/编辑装置4的第1CPU161内的RAM等中(步骤S51)。并且,根据该图像数据,利用该第1CPU161进行以下处理。
另外,为了去除外部光的干扰成分,在向观察者的眼睛投光红外光之前,首先取得CCD134的图像数据,然后取得向观察者的眼睛投光红外光时的CCD134的图像数据,从后者的图像数据中减去前者的图像数据,由此生成改善了S/N的图像数据,根据该图像数据进行以下处理。
并且,在上述说明中,把从CCD134获得的图像数据输出给图像记录/编辑装置4内的第1CPU161,但是,例如也可以在视线方向/角速度检测部7的A/D转换电路137的后面部分设置缓冲存储器等,把该图像数据存储在该缓冲存储器中,例如利用第2CPU121进行以下处理。根据这种结构,与视线检测相关的图像数据可以不向上述图像记录/编辑装置4输出而直接进行处理,所以能够在更短时间内检测视线方向,视线方向变化时的跟踪性提高。
然后,从所获得的图像数据检测普尔金耶像,求出该普尔金耶像的位置(例如图46所示的X坐标和Y坐标。此处,在图46所示例中,上述中心线Lp的方向为X轴,与该中心线Lp垂直的方向为Y轴。)(步骤S52)。如上所述,普尔金耶像与其他图像部分相比亮度极高,所以例如可以采用设定规定的阈值THPi,把比该阈值THPi更明亮的区域判定为普尔金耶像的处理。当然,判定普尔金耶像的处理不限于此,也可以采用其他的图像处理。并且,普尔金耶像的位置可以采用比上述阈值THPi更明亮的区域的重心,或者也可以采用输出数据的峰值位置。
然后,根据该普尔金耶像的附近像素的像素数据,把判定为普尔金耶像的像素的像素数据置换为未产生该普尔金耶像时的像素数据(步骤S53)。具体讲,以普尔金耶像的位置为中心沿二维方向跟踪像素数据的值,检测像素数据的回折点。并且,把可以连接该回折点的封闭边界线内部的像作为普尔金耶像,进行把该普尔金耶像的图像数据的值置换为该边界线外侧的邻近图像数据的处理。此时,在与普尔金耶像相关的多个邻近图像数据之间存在像素数据的标准值的起伏的情况下,通过进行线形插补等来校正标准值,与普尔金耶像置换的图像数据以平滑的水平变化连接其附近的图像数据。
另外,如图46所示,以普尔金耶像Pi为中心,设定规定的区域Sd(步骤S54)。图46是表示以普尔金耶像为中心在眼睛的像上设定的规定的区域的图。另外,在该图46所示例中,上述规定的区域Sd形成为一边与上述X坐标平行、另一边与上述Y坐标平行的正方形,但不限于此,例如也可以是圆形区域。另外,该规定的区域Sd的尺寸被设定成,即使在普尔金耶像Pi从瞳孔中心Op进行最大变位时也能包括瞳孔的整体像。在区域Sd形成为例如图46所示的正方形时,通过指定图示的一边的一半长度Ld来进行该设定。并且,在区域Sd为圆形时,通过指定其半径来进行该设定。
然后,检测形成为正方形的上述区域Sd中包括的像素数据中的最小值Vmin(步骤S55)。
然后,设定向上述最小值Vmin加算规定的值α后的值Vmin+α。其中,该值Vmin+α被设定在比虹膜区域的图像数据的水平要低的范围内。并且,检测具有小于该值Vmin+α的像素数据的像素的X坐标和Y坐标(步骤S56)。另外,此处把由检测的像素的集合形成的区域设为S’。
并且,求出在该步骤S56求出的区域S’的重心位置,把其作为瞳孔中心的位置(步骤S57)。此处,具体讲,对区域S’中包括的所有像素,求出X坐标的平均值和Y坐标的平均值,把其作为瞳孔中心的位置。
另外,在上述说明中,为了求出瞳孔中心的位置,采用对应于瞳孔的像素的重心,但不限于此,也可以求出对应于瞳孔的像素区域的X坐标的最大位置和最小位置的中点、以及Y坐标的最大位置和最小位置的中点,把其作为瞳孔中心。由于瞳孔大致呈圆形,所以眼球旋转时的图像为椭圆形。因此,可以进行这种处理。
通过进行上述的处理,可以求出普尔金耶像的X坐标和Y坐标、以及瞳孔中心的X坐标和Y坐标。
另外,上述说明中的像素可以是在CCD134的摄像面上构成的实际像素,也可以是将邻接的多个像素汇总成一个的假想像素。例如,在使多个像素成为一个总体像素的情况下,具有可以缩短处理时间的优点。
可是,眼睛的各个器官的大小根据年龄、性别或人种而不同,可以说因人而异。并且,由于制作视线方向检测部时的个体差异(每台设备的个体差异)和头戴部2的佩戴方式等,视线方向检测部与眼睛的相对位置关系产生微妙变化。因此,利用基于上述算式(14)的一样的参数求出的视线方向不能说对于所有摄影者都是准确的。
基于这种原因,在本实施例的图像系统1中,可以根据需要按照意愿进行视线方向检测的测定。由此,可以实现对每个使用者的优化效果。
图52是表示与视线方向检测相关的校准处理的流程图。
例如,通过操作上述第1操作开关162的菜单按钮63和菜单选择开关66、67、68、69、确定开关65等,选择校准模式,开始该校准处理。
在开始处理时,首先,设定使上述图36所示的校准用标志P1~P5中的哪一个显示(步骤S61)。
并且,使所设定的标志例如闪亮,进行透明显示(步骤S62)。该显示如上所述,可以利用与设置有包括视线方向检测部的视线方向/角速度检测部7的一侧眼睛不同的另一只眼睛观察。
例如,首先使标志P1闪亮,催促观察者注视该标志P1。观察者在注视标志P1的状态下进行规定的按键操作。在检测到该按键操作输入时,通过上述CCD134取得图像数据,根据上述算式(14)运算瞳孔中心i和普尔金耶像Pi之间的距离d(步骤S63)。此时,把通过注视标志P1得到的距离d的值设为d1。
然后,判断对所有上述标志P1~P5实施的上述步骤S61~S63的处理是否已结束(步骤S64)。
此处,在所有标志P1~P5的处理未结束时,转入上述步骤S61,对下一标志进行上述处理,算出分别与所有标志P1~P5相关的距离d1~d5。
此处,上述算式(14)是仅在理想情况下才成立的算式,实际上需要考虑类似上述的各种误差。因此,修改上述算式(14),加上校正信息Δd,形成算式(15)。
算式(15)
在该算式(15)中,角度θ是根据标志P1~P5的显示位置预先设定的值(对应标志P1~P5,分别设为θ1~θ5)。并且,距离d是通过视线方向检测部实际检测的值(上述的d1~d5)。另外,Lx是因人而异的数值。
把已知的上述角度θ1~θ5、在上述步骤S63分别求出的距离d1~d5、和上述的成像透镜132的成像倍率β1代入该算式(15),由此求出以Δd和Lx为未知数的5个算式(一次方程式)。为了求出2个未知数Δd和Lx,可以将包括这些未知数的2个一次方程式联立,求出5C2=10(组)可能解。并且,通过对这些答案的组进行规定的统计运算,求出被认为是最准确的Δd和Lx作为每个人的参数(步骤S65)。
然后,把这样求出的Δd和Lx存储在上述EEPROM102中(步骤S66),结束该校准处理。
另外,在实际检测视线方向时,把通过上述校准求出的Δd和Lx、以及实际检测的瞳孔中心i和普尔金耶像Pi的距离d代入上述算式(15),算出视线方向θ。
这样求出的视线方向的数据可以在摄影时实时使用,并且可以在摄影后例如进行后述的图像编辑时使用。因此,在记录动态图像数据时,如后面所述,使所求出的视线方向与所检测的定时信息相关联,并和动态图像数据一起记录。
作为在摄影时实时使用视线方向数据的示例,可以列举把摄像部30的摄影光学系统31的焦点自动对准视线方向的被摄体的情况。在该情况下,对成像于CCD87的被摄体像中的,对应于上述视线方向的部分为中心的规定的范围进行焦点检测即可。此时,如参照上述图40说明的那样,可以考虑视差。
下面,说明作为记录介质的磁盘249的文件结构。
图53是表示磁盘249的逻辑结构的图。
在磁盘249上形成的物理扇区按照扇区地址进行升序配置,根据扇区地址中包括的识别信息,按照图53(A)所示,可以大致分为段首区域LI、与该段首区域LI连续的卷标区域VS、与该卷标区域VS连续的段尾区域LO。
上述段首区域LI是存储磁盘再现装置开始读出时的动作稳定用数据等的区域。
对此,段尾区域LO是通知再现装置再现结束时使用的区域,未存储其他有意义的数据。
并且,上述卷标区域VS是存储构成应用的数字数据的区域,其可以把所属的物理扇区作为逻辑扇区来进行管理。该逻辑扇区把数据记录区域的前头的物理扇区作为0号,向连续的物理扇区赋予连续序号,并以其为单位进行识别。图53(B)表示由在卷标区域VS形成的(n+1)个扇区构成的逻辑扇区组(LS#0~LS#n)。
该卷标区域VS如图53(C)所示,还分为卷标管理区域VFS和文件区域FDS。
上述卷标管理区域VFS是存储用于把多个逻辑块作为文件进行管理的文件系统管理信息的区域。此处,所说文件系统管理信息指注明了使多个文件的各自文件名称与各个文件占用的逻辑块组的地址相对应的信息。磁盘再现装置以该文件系统管理信息为线索,实现文件单位的磁盘访问。即,在被赋予文件名称后,查询所有的系统管理信息,算出该文件名称的文件占用的所有逻辑块组,访问这些逻辑块组,只取出所期望的数字数据(即,该文件名称的文件中包括的数字数据)。
图53(D)表示文件区域FDS的结构。文件区域FDS如图53(D)所示,是存储视频管理器VMG(Video Manager)和多个视频标题组VTS(在图示例中为k个视频标题组VTS)的区域。该文件区域FDS构成为包括多个连续文件,并根据上述文件系统管理信息算出多个连续文件被存储的位置。
上述视频标题组VTS将被称为标题的一个以上的应用分组并存储,由此可以有效管理共享的图像数据。
上述视频管理器VMG(Video Manager)是存储与菜单相关的信息的区域,该菜单用于从存储在多个视频标题组VTS的所有标题中选择使用者再现的标题。
下面,图54是表示视频标题组VTS的文件结构的图。
图54(A)所示的视频标题组VTS,具体讲如图54(B)所示,存储视频标题组管理信息VTSI(Video Title Set Information)、作为图像介绍数据的VTSM_VOBS(Video Object Set for VTS Menu)、和多个视频对象VOB(VOB#1~VOB#m)。
上述视频标题组管理信息VTSI(Video Title Set Information)作为用于管理多个视频对象VOB的再现顺序的导航数据而被存储。
上述VTSM_VOBS(Video Object Set for VTS Menu)作为相对标题的菜单的图像对象数据而被存储。
多个视频对象VOB(VOB#1~VOB#m)构成VTS标题用视频对象组VTSTT_VOBS(VOBS for Title)。各视频对象VOB(VOB#1~VOB#m)构成为至少包括一个动态图像数据,另外也可以包括音频数据、副视频数据、作为佩戴者信息的被数字化的头部角速度数据(或表示头部倾斜的信息)和视线方向数据。另外,以下把动态图像数据和音频数据和副视频数据的总称称为视频数据。
并且,该视频对象VOB是多媒体化数据,包括上述视频数据、佩戴者信息及它们的管理信息。
各视频对象VOB如图54(C)所示,构成为包括一个或两个及两个以上的单元C#1~C#q。
构成视频对象VOB的各单元C如图54(D)所示,构成为包括一个或两个以上的视频对象单元VOBU(Video Object Unit)#1~VOBU#r。该视频对象单元VOBU形成为约0.5秒~约1.0秒的再现数据。
各视频对象单元VOBU构成为包括作为视频编码的更新周期的多个图像组(GOP),和时间与其相当的音频及副视频。
即,视频对象单元VOBU如图54(E)所示,其前头包括导航包NV(Navigation Pack),而且还利用例如包括动态图像包V1、V2、音频包A1、A2和副视频包S1、S2的多种数据包构成。
上述包数据分别构成为规定的数据大小,通过分别收集这些各种数据包并进行再综合,复原成构成各个动态图像数据、音频数据、副视频数据的数字数据列。
下面,图55是表示视频标题组管理信息VTSI的结构的图。
视频标题组管理信息VTSI如图54(B)所示,被记录在视频标题VTS的前头。
图55(A)所示的该视频标题组管理信息VTSI如图55(B)所示,构成为主要包括VTSI管理表VTSI_MAT、VTS程序链(VTSPGC)信息管理表VTS_PGCIT。
并且,在再现时通过查询上述视频标题组管理信息VTSI,例如再现作为编辑前的原始图像数据的“原始图像”、作为编辑后的图像数据的“已编辑图像数据”、作为编辑处理用数据的佩戴者信息的“角速度数据”和“视线方向数据”等一系列的数据流。
上述VTSI管理表VTSI_MAT是记述视频标题组VTS的内部结构、和视频标题组VTS的存储位置等的表。
上述VTSPGC信息管理表VTS_PGCIT如图55(C)所示,是记录了表示控制动态图像数据的再现顺序的程序链(PGC)的k个(k为小于255的自然数)PGC信息(VTS_PGCI#1~VTS_PGCI#k)(动态图像再现程序链信息)的表。
各个程序链(PGC)的第一个信息VTS_PGCI用于记录记述了单元的再现顺序的多个单元再现信息C_PBI(C_PBI#1~#n)。例如,在程序链VTS_PGCI#1可以记述控制编辑前的视频数据的再现顺序的信息,在程序链VTS_PGCI#2可以记述控制编辑后的视频数据的再现顺序的信息。
即,各个PGC信息(VTS_PGCI#1~VTS_PGCI#k)如图55(D)所示,构成为包括程序链概要信息(PGC_GI),还包括程序链命令表(PGC_CMDT)、程序链程序标记(PGC_PGMAP)、单元再现信息表(C_PBIT)、和单元位置信息表(C_POSIT)。
具体地讲上述程序链概要信息PGC_GI,记录着程序链的内容(PGC_CNT)、程序链的再现时间(PGC_PB_TM(PGC Playback Time))、和程序链的导航控制信息(PGC_NV_CTL)等。
此处,程序链的内容PGC_CNT表示该程序链内的程序数量和单元数(最大255)。例如,在没有视频对象VOB的程序链中,程序数量为“0”。
并且,程序链的再现时间PGC_PB_TM利用时序码(时间、分、秒和视频的帧数量)表示程序链内的程序的合计再现时间。在该程序链的再现时间PGC_PB_TM中记述着表示视频帧的类型的标志(tc_flag),根据该标志的内容指定帧速率(每秒25帧或每秒30帧)等。
另外,上述程序链的导航控制信息PGC_NV_CTL构成为包括:表示在当前再现中的程序链后面的要再现的程序链序号的Next_PGCN;表示由导航命令引用的程序链序号(PGCN)的Previous_PGCN;表示应该从该程序链返回的程序链序号的GoUP_PGCN;表示顺序再现、随机再现、混合再现等的程序再现模式的“PG Playback mode”;表示该程序链再现后的持续时间的“Still time value”。
所输入的各个PGC信息C_PBI#j构成为包括单元再现处理信息和单元信息表。
此处,上述单元再现处理信息构成为包括再现时间、反复次数等单元再现所需要的处理信息。
即,各个PGC信息C_PBI#j如图55(E)所示构成为包括:单元块模式CBM(cell block mode);单元块类型CBT(cell block type);无缝再现标志SPF(seamless playback flag);交错块配置标志IAF(interleaved allocation flag);STC再设定标志STCDF(STC resettingflag);单元再现时间C_PBTM(Cell Playback Time);无缝角度切换标志SACF(seamless angle change flag);单元前端VOBU开始地址C_FVOBU_SA;单元末端VOBU开始地址C_LVOBU_SA。
上述单元块模式CBM表示多个单元是否构成一个功能块。构成功能块的各个单元的单元再现信息连续设定在PGC信息内部,在位于其前头的单元再现信息的CBM存储表示“块的前头单元”的值,在位于其最后的单元再现信息的CBM存储表示“块的最后单元”的值,在位于它们之间的单元再现信息的CBM记录表示“块内的单元”的值。单元块类型CBT表示用单元块模式CBM表示的块的种类。
上述无缝再现标志SPF是使各数据和信息无缝地再现视频图像、音频、副视频等的多媒体数据的标志。即,连续再现标志SPF是表示该单元是否和在前面再现的单元或单元块无缝地连续再现的标志。此处,在使成为对象的单元与前面单元或前面单元块无缝地连续再现的情况下,在该单元的单元再现信息的SPF设定标志值1。另一方面,在不是无缝地连续再现的情况下,设定标志值0。
上述交错块配置标志IAF是表示该单元是否配置在交错区域的标志。该交错块配置标志IAF在该单元配置在交错区域时设定标志值1,反之设定标志值0。
上述STC再设定标志STCDF是表示是否需要在再现单元时再设定获取同步时使用的STC部248(参照图11)的信息。该STC再设定标志STCDF在需要再设定时设定标志值1,在不需要时设定标志值0。
上述单元再现时间C_PBTM利用时序码表述单元的再现时间。
上述单元前头VOBU开始地址C_FVOBU_SA如文字所述用于表示单元前头VOBU开始地址,利用扇区数量表示距VTS标题用视频对象组VTSTT_VOBS的前头单元的逻辑扇区的距离。
上述单元末端VOBU开始地址C_LVOBU_SA如文字所述用于表示单元末端VOBU开始地址,其值利用扇区数量表示距VTS标题用视频对象组VTSTT_VOBS的前头单元的逻辑扇区的距离。
下面,图56是表示动态图像包的数据结构的图。
动态图像包(V)形成为如图56所示的数据结构,其中包括:按MPEG(Moving Picture Coding Experts Group)规定的包头PKH、组头PTH、视频数据字段,每1包为2K字节(byte)。
上述包头PKH记述着包开始码、系统时钟基准(System ClockReference)、多路复用器(MUX:Multiplex)速率这些基于MPEG标准的数据。
并且,上述组头PTH记述着数据流ID、组长度、PTS(显示时间标记)、DTS(解码时间标记)等基于MPEG标准的数据。
在上述组头PTH内的数据流ID中,设定有表示该包形成的基础数据流是动态图像数据流的代码。动态图像包的系统时钟基准SCR和PTS在与音频包的解码处理的取得同步、以及与副视频包的解码处理的取得同步时使用。具体讲,磁盘再现装置侧的视频解码器根据系统时钟基准SCR进行基准时钟的时间校准,将数据字段内的动态图像数据解码,等待由基准时钟计时到在PTS中所记载的时间。然后,在基准时钟计时到该时间的时刻,向显示器侧输出该解码结果。通过基于这种PTS的记述内容的输出等待,视频解码器可以消除与副视频输出的同步误差以及与音频输出的同步误差。
图57是表示音频包的数据结构的图。
该音频包A1~A3的数据结构基本和上述的动态图像包的数据结构相同。该音频包A1~A3的数据结构与上述动态图像包的数据结构的不同之处有以下两点,即,组头PTH内的数据流ID被设定为表示该包为音频包的值;在数据字段的前端8字节设定副数据流ID。
图58是表示副视频包的数据结构的图。
该副视频包的数据结构基本和上述的音频包的数据结构相同。
图59是表示角速度包的数据结构的图。
该图59所示的角速度包(V)的数据结构基本和上述的动态图像包的数据结构相同。但是,由于该角速度包的数据仅作为用于编辑动态图像数据的数据使用,所以将PTS(Presentation Time Stamp)、DTS(Decoding Time Stamp)等基于MPEG标准的数据,设定为合适的值即可。
图60是表示视线方向包(V)的数据结构的图。
该图60所示的视线方向包的数据结构基本和上述角速度包的数据结构相同。
图61是表示导航包NV的结构图。
图61(A)所示的导航包NV如上述图54(E)所示,必有一个被配置在视频对象单元VOBU的前头,存储着进行视频对象单元VOBU的再现期间有效的管理信息。上述的动态图像包、音频包、副视频包、作为佩戴者信息包的角速度包、作为佩戴者信息包的视线方向包分别利用1个组构成,而该导航包NV利用2个组构成,这一点不同。构成导航包NV的2个组内的一个称为PCI组(Presentation Control InformationPacket),另一个称为DSI组(Data Search Information)。即,导航包NV的数据结构与动态图像包和音频包等不同,如图61(B)所示,构成为具有:包头(PKH);系统头(SYSH);PCI组的组头(PTH);PCI组的数据字段;DSI组的组头(PTH);DSI组的数据字段。
在上述系统头(SYSH)按照MPEG标准存储有:前头具有该导航包NV的视频对象单元VOBU整体所需要的发送速率;每个动态图像数据流、音频数据流、副视频数据流所需要的发送速率;缓冲器大小管理信息。
并且,在导航包NV的2个组头的数据流ID中,设定表示该包是导航包的识别码。
上述DSI组利用包括快进再现和倒回再现等的跳跃目的点信息的信息构成。
上述PCI组如图61(C)所示构成为包括:表示所属的视频对象单元VOBU的再现开始时间VOBU_S_PTM(Presentation Start Time of VOBU)和结束时间VOBU_E_PTM(Presentation End Time of VOBU)、单元经过时间C_ELTM(Cell Elapse Time)等的PCI概要信息;用于受理使用者的指示的菜单中的菜单项目用控制信息即“高亮度信息”等。
上述视频对象单元VOBU的再现开始时间VOBU_S_PTM,利用时间戳表述包含PCI信息的视频对象单元VOBU的再现开始时间。
上述视频对象单元VOBU的再现结束时间VOBU_E_PTM,利用时间戳表述包含PCI信息的视频对象单元VOBU内的再现开始时间。
上述单元经过时间C_ELTM利用时序码(BCD(Binary Coded Decimal)形式的时间、分、秒和帧),表述从单元的最初视频帧到视频对象单元VOBU的最初视频帧的相对再现时间。
在导航包NV的组头的数据流ID中设定表示该包是隐私数据流的识别码。
另外,如上所述,作为与应用于该图像记录/编辑装置4的磁盘249的再现时间相关的信息有:利用时序码表示程序链PGC内的程序的合计再现时间的PGC_PB_TM;利用时序码表述单元的再现时间的单元再现时间C_PBTM;利用时间戳表述的视频对象单元VOBU的再现开始时间VOBU_S_PTM和结束时间VOBU_E_PTM;以及单元经过时间C_ELTM。
下面,说明在磁盘249上的数据记录动作。
首先,第1CPU161从第1操作开关162接受录制命令,通过磁盘驱动器部4d读入管理数据,决定在磁盘249上的写入区域。
然后,对所决定的区域,在管理区域设定管理用数据使数据被写入,在磁盘驱动器部4d设定动态图像、声音、角速度、视线方向等数据的写入开始地址,进行记录上述数据的准备。
然后,第1CPU161使STC部248进行时间的重新设定。此处,STC部248成为系统的定时器,以该STC部248测定的值为基准,进行录制或再现。
第1CPU161也进行其他的各种设定。
利用头戴部2进行摄像,从该头戴部2的收发部172的调制解调器发送动态图像图像后,图像记录/编辑装置4通过通信部4a的收发电路163进行接收。并且,该收发电路163以规定的定时从接收数据中取出1个时隙部分的数据,从该1个时隙部分的数据中抽取同步信号,生成帧同步信号。另外,该收发电路163在解除扰码等之后,再次分离为动态图像数据、音频数据、视线方向数据、角速度数据。
上述通信控制电路151把所分离的各种数据中的动态图像数据通过DSP电路152输出给图像压缩电路153,把音频数据输出给音频压缩电路154,把角速度数据输出给角速度压缩电路155,把视线方向数据输出给视线方向压缩电路156。
格式器158以2K字节(byte)单位将在上述各压缩电路被压缩的信号分组,输出给格式器158。此处,格式器158根据STC部248的值,根据需要决定各组的PTS(Presentation Time Stamp)、DTS(Decoding TimeStamp)。
另外,格式器158向缓冲存储器159暂存分组数据,然后将所输入的各分组数据分包,在每个图像组GOP的前头追加导航包NV,输出给记录再现用数据处理器231。
上述记录再现用数据处理器231收集规定的数量的包一起输出给磁盘驱动器部4d。在磁盘驱动器部4d没有准备好向磁盘249进行存储的情况下,临时向记录再现用缓存器232转送将要记录的数据,并待机直到做好记录数据的准备。并且,在磁盘驱动器部4d做好向磁盘249记录的准备时,从记录再现用缓存器232读出数据并开始存储。
下面,图62是表示视频数据的编辑处理的流程图。
例如,通过操作第1操作开关162的菜单按钮63和菜单选择开关66、67、68、69、确定开关65等(参照图8),选择编辑模式后,开始该编辑处理。
第1CPU161在接受到编辑命令时,通过磁盘驱动器4d经由记录再现用数据处理器231读入与佩戴者信息(角速度数据或视线方向数据)相关的管理区域的数据,决定再现的地址(步骤S71)。
然后,第1CPU161向磁盘驱动器部4d输出在步骤S71决定的再现数据的地址和读取命令。
这样,磁盘驱动器部4d根据所接收的地址和读取命令,从磁盘249读出扇区数据,把通过记录再现用数据处理器231进行错误校正后的角速度数据和视线方向数据存储在佩戴者信息缓冲存储器244中。
这样存储在佩戴者信息缓冲存储器244中的角速度数据和视线方向数据,根据第1CPU161的控制进行分析(步骤S72)。另外,以下把角速度数据和视线方向数据的分析称为“佩戴者信息的分析”。
参照图64详细说明该佩戴者信息的分析。图64是表示佩戴者信息的分析处理的流程图。
在开始该佩戴者信息的分析处理时,读出对应规定的视频数据的视线方向数据(步骤S81)。
并且,根据所读出的视线方向数据,判断注视时间是否大于等于规定的时间t1(步骤S82)。此处的是否注视,指如果表示视线方向的矢量的大小变化在规定的量以内,则在注视恒定方向。
此处,在判断为注视时间大于等于规定的时间时,记录用于对该时间区间的视频数据进行图像放大处理的编辑数据(步骤S83)。
此处,图63是表示编辑数据的记录形式的图。
该编辑数据在其前头记录序列号No,然后顺序记录编辑开始时间EDT_STM(Edit Start Time)、编辑结束时间EDT_ETM(Edit End Time)、和编辑内容数据EDT_DAT。
上述序列号No是按顺序赋予给编辑处理需要的每个时间区间的序号。
上述编辑开始时间EDT_STM(Edit Start Time)表示从开始拍摄视频数据到拍摄编辑区间的最初视频数据的相对经过时间。
另外,用于进行该编辑的编辑开始时间EDT_STM可以如下求出。如上所述,作为与佩戴者信息相关的程序链PGC内的程序的合计再现时间,有利用时序码表述的PGC_PB_TM(该时间和与视频数据相关的PGC_PB_TM相等)。记录在佩戴者信息缓冲存储器244中的佩戴者信息的数据量如果与从开始记录起的经过时间成比例,则可以根据佩戴者信息(角速度数据或视线方向数据)的整体数据量、和从对应佩戴者信息的检测开始时间的数据初始位置到编辑开始位置的数据量的关系,按比例分配上述PGC_PB_TM,求出从视频数据的开始记录到编辑开始位置的相对的经过时间即编辑开始时间EDT_STM。
另外,上述编辑结束时间EDT_ETM(Edit End Time)表示从开始拍摄视频数据到拍摄编辑区间的最后视频数据的相对经过时间。该编辑结束时间EDT_ETM可以按和上述编辑开始时间EDT_STM相同的方法求出。
并且,上述编辑内容数据EDT_DAT是表示图像放大、剪切、平滑等的编辑处理内容的数据。上述步骤S83是图像放大处理,所以在图像放大处理固有的数据作为编辑内容数据EDT_DAT被记录。
再返回图64的说明,在上述步骤S83的图像放大处理的编辑数据记录结束、或在上述步骤S82判断为注视时间小于t1时,读出上述两个方向(即偏歪方向和俯仰方向)的角速度数据(步骤S84)。
并且,根据所读出的角速度数据执行规定的编辑处理,但在按照图64的流程图进行说明之前,参照图68~图70说明该编辑处理的基本思想。图68是表示角速度的时间变化的线图,图69是表示角速度的绝对值的时间变化的线图,图70是表示角速度的时间积分值的变化状态的线图。另外,这些图68~图70中,绘制在横轴上的同一位置的时间表示相同时间。并且,图70所示的角速度的时间积分(∑ωΔt)相当于振幅。
编辑处理的基本思想如下。首先,在极短时间t2以下的角速度ω的变化作为干扰被忽视。下面,把规定的时间t3(此处,t3是比上述t2长的时间)作为阈值,在持续时间t小于该t3时判断为短周期的振动(即晃动),在大于等于t3时判断为不是晃动而是发生了方向的变化。并且,在判断为晃动时,若可能则进行晃动校正,若不可能则进行剪切处理。同样,在判断为不是晃动而是发生了方向的变化时,若可能则进行平滑处理(校正图像的急剧移动,使其变平滑的编辑处理,可使记录时间延长),若不可能则进行剪切处理。
根据这种思想,具体说明图68~图70所示的区间A、B、C的三种情况。
区间A如图69所示,持续时间t大于等于规定的时间t3,被认为是不是晃动而是发生了方向的变化,而且角速度的绝对值|ω|的大小使得可以进行平滑处理,所以进行该平滑处理的编辑数据的记录。
区间B的持续时间t小于规定的时间t3,被认为是晃动,而且角速度的绝对值|ω|的大小使得可以进行晃动校正,所以进行晃动校正处理的编辑数据的记录。
区间C的持续时间t小于规定的时间t3,被认为是晃动,但是角速度的绝对值|ω|的大小不适合进行晃动校正,所以进行剪切处理该区间的图像的编辑数据的记录。
上述平滑处理、剪切处理、晃动校正处理用的各编辑数据EDIT_DAT,基本和上述图像放大处理的编辑数据相同,但该编辑数据EDIT_DAT成为对应各个编辑处理的数据。
并且,虽然未图示,但是在持续时间t大于等于规定的时间t3,被认为是不是晃动而是发生了方向的变化,但角速度的绝对值|ω|的大小不适合进行平滑处理的情况下,记录编辑数据,以剪切该区间的图像。
另外,区间A前面的时间区间和区间A与区间B之间的区间等,角速度的绝对值|ω|小到不需要进行晃动校正、也不需要进行平滑处理,所以并不特别成为编辑处理的对象。
另外,根据上述思想进行剪切时,例如有可能残留图71所示的孤立的图像。图71是表示进行剪切后残留有孤立图像的状态的图,利用2值表示沿时间轴是否存在图像。在该图71所示例中,区间C1、区间C2、区间C3这三个区间被剪切,但区间2中的图像SL1、区间3中的图像SL2、SL3分别作为孤立的图像残留下来。对这种图像,按后面所述,记录类似进行用于去除的剪切处理的编辑数据。
再返回图64的说明,说明基于上述基本思想的步骤S85以后的处理。
判断两轴方向的角速度中至少一方角速度ω的变化的持续时间t是否满足t2<t<t3,在满足该条件时,继续判断角速度的绝对值|ω|是否满足ω1<|ω|<ω2(ω1是晃动校正需要的角速度的下限值,ω2是可以进行晃动校正的角速度的上限值)(步骤S85)。
此处,在满足步骤S85的条件时,记录利用公知的图像处理进行晃动校正处理的编辑数据(步骤S86)。此时的记录形式与在上述步骤S83说明的相同。
并且,在不满足步骤S85的条件时,判断上述角速度ω的变化的持续时间t是否满足t3≤t,在满足该条件时,继续判断角速度的绝对值|ω|是否满足ω3<|ω|<ω4(ω3是平滑需要的角速度的下限值,ω4是可以进行平滑的角速度的上限值)(步骤S87)。
此处,在满足步骤S87的条件时,记录进行上述的平滑处理的编辑数据(步骤S88)。此时的记录形式与在上述步骤S83说明的相同。
另一方面,在不满足步骤S87的条件时,判断是否属于下述情况中的任一种,即,上述角速度ω的变化的持续时间t满足t2<t<t3,而且角速度的绝对值|ω|满足ω2≤|ω|的情况;角速度ω的变化的持续时间t满足t3≤t,而且角速度的绝对值|ω|满足ω4≤|ω|的情况(步骤S89)。
此处,在满足步骤S89的条件时,记录进行剪切该区间的处理的编辑数据(步骤S90)。此时的记录形式与在上述步骤S83说明的相同。
并且,在不满足上述步骤S89的条件时,被认为是下述三种情况。
第一种情况是,持续时间t相当于晃动(t2<t<t3),但是角速度的绝对值|ω|小于下限值ω1时。此时,不视为是需要校正的晃动,保持原状不进行编辑。
第二种情况是,持续时间t相当于不是晃动而是发生了方向的变化(t3≤t),但是角速度的绝对值|ω|小于下限值ω3时。此时,视为方向的变化十分缓和,不需要平滑,保持原状不进行编辑。
第三种情况是,角速度ω的变化的持续时间t小于t2(即t≤t2),相当于干扰的情况。该干扰分为存在于普通区间的情况,和存在于被剪切处理的区间的情况(即,作为上述图71所示的孤立点残留的情况),对于其中的孤立点进行以下说明的处理。
即,在上述步骤S86、步骤S88、步骤S90的任一种处理结束、或不满足上述步骤S89的条件时,记录下面进行清除(剪切)孤立点的处理的编辑数据(步骤S91)。
在结束该步骤S91的处理之后,返回到上述步骤S62所示的处理。
另外,在该图64所示的佩戴者信息的分析示例中,根据作为佩戴者信息的视线方向信息的注视时间记录图像放大的编辑数据,或者根据作为佩戴者信息的角速度信息的大小和持续时间,进行剪切、平滑、晃动校正等,但是,佩戴者信息的分析不限于这种示例。例如,根据角速度数据的时间上的变动图形,判断摄影者是否正在步行中,在判断为是在步行中时,与通常相比在广角侧进行放大处理。并且,与此相反,在判断为是在步行中时,也可以切出图像的一部分,以抑制图像的变动,在望远侧放大所切出的图像。通过进行这种处理,可以减小图像的变动,再现视觉上没有不谐调感的动态图像图像。
返回图62,在步骤S72的处理结束后,顺序读出在该步骤S72记录的编辑数据(参照图63)。并且,根据所读出的编辑数据中的编辑开始时间EDT_STM和编辑结束时间EDT_ETM,从磁盘249读出编辑区间的视频数据(步骤S73)。
并且,对成为对象的时间区间的视频数据执行规定的编辑处理(步骤S74)。
此处,说明这种处理的流程。
在本实施例中,对利用上述编辑开始时间EDT_STM和编辑结束时间EDT_ETM确定的规定的时间区间的视频数据,实施剪切、平滑、变焦等图像处理。因此,可以按以下所述求出应该对视频数据实施编辑的时间区间。
即,第1CPU161首先顺序加算程序链的单元(单元序号:k)的再现时间C_PBTM,在每次求出从开始再现起的经过时间PB_ELTM(PlaybackElapse Time)(对应单元序号k为PB_ELTM(k))时,与上述编辑开始时间EDT_STM或编辑结束时间EDT_ETM比较,求出截止到正好达到PB_ELTM(n)>EDT_STM(或EDT_ETM)之前的单元(单元序号:n-1)的经过时间PB_ELTM(n-1)。
然后,向上述经过时间PB_ELTM(n-1)加算单元序号为n-1的单元中的视频对象单元VOBU(单元内的单元序号:m)的导航包内的单元经过时间C_ELTM即C_ELTM(m),求出从开始再现到单元序号为(n-1)的单元内的视频对象单元VOBU(单元内的单元序号:m)的最初视频帧的相对经过时间(PB_ELTM(n-1)(m))。
并且,在每次运算上述经过时间(PB_ELTM(n-1)(m))时,与上述编辑开始时间EDT_STM或编辑结束时间EDT_ETM比较,求出截止到正好达到PB_ELTM(n-1)(m)>EDT_STM(或EDT_ETM)之前的视频对象单元VOBU(单元序号:m-1)的最初视频帧的经过时间PB_ELTM(n-1)(m-1)。由此,以视频对象单元VOBU的经过时间单位(约0.5秒)的精度,可以确定应该进行基于佩戴者信息的编辑处理的视频数据所属的视频对象单元VOBU(单元序号:m)。
另外,为了确定视频对象单元VOBU内的准确位置,根据视频对象单元VOBU的再现时间即再现开始时间VOBU_S_PTM和结束时间VOBU_E_PTM之差、以及从开始拍摄视频数据起到拍摄编辑区间的最初视频数据的相对经过时间、即上述编辑开始时间EDT_STM(或编辑结束时间EDT_ETM)和经过时间PB_ELTM(n-1)(m-1)之差,根据比例分配,可以确定视频对象单元VOBU内的帧。
同样,可以求出从开始拍摄视频数据起到拍摄编辑区间的最后视频数据的相对经过时间、即上述编辑结束时间EDT_ETM。
图72是表示编辑开始时间和编辑结束时间跨越两个单元时的一个示例图。
图72(A)表示从视频数据再现开始位置C#1到编辑开始位置(单元C#i的规定的位置)的时间即编辑开始时间EDT_STM、和从视频数据再现开始位置C#1到该编辑区间的编辑结束位置(单元C#(i+1)的规定的位置)的时间即编辑结束时间EDT_ETM的一个示例。
在该图72(A)所示情况下,编辑区间跨越两个单元,当然这只是一个示例,实际上可以考虑多种情况。
然后,读出包含编辑区间的单元整体的视频数据,对上述编辑区间的视频数据,执行记录在图63所示编辑内容数据EDT_DAT中的、对应图像放大、剪切、平滑等编辑处理的内容的编辑处理。
然后,把在规定的区间内实施了编辑处理的上述单元的数据记录在与编辑前的视频数据不同的单元中。图72表示对图72(A)所示的记录在编辑前的单元C#i和C#(i+1)的视频数据中的上述编辑区间内的视频数据实施编辑处理,重新作成图72(B)所示的单元C#j并记录的示例。
在该示例中,表示把编辑前的两个单元的视频数据作为编辑数据记录在一个单元中的情况,但不限于此,也可以划分记录在任意数个单元中。
此处,参照图65~图67,说明与上述图像放大相关的编辑处理(图像放大处理)。图65是表示X方向的视线位置的随时间变化的图,图66是表示Y方向的视线位置的随时间变化的图,图67是表示放大率的随时间变化的图。另外,这些图65~图67中,绘制在横轴上的同一位置的时间表示相同时间。
此处,X轴和Y轴是记述表示视线方向的矢量空间的彼此垂直的两个轴。并且,分别设ΔX、ΔY为相对X方向、Y方向的规定的视线位置变化量。
此时,在X方向、Y方向的视线位置变化分别小于ΔX、ΔY,而且注视时间大于等于上述规定的时间t1时,如图67所示,朝向注视点慢慢放大图像。即,同时执行放大和修整(放大区域的变更),以使注视点慢慢到达图像的中央。在达到一定的放大量时,短时保持该状态,再次慢慢恢复到原来的倍率(标准视场角)至注视时间的结束t0。
例如,进行以下所述的图像放大处理。首先,读出编辑数据EDIT_DAT。在该编辑数据EDIT_DAT是在上述图64的步骤S83记录的数据的情况下,可检测出编辑处理是图像放大处理。因此,根据DDT_STM、S_FN、DDT_ETM、E_FN等数据,检测视频数据的编辑区间,对所检测的编辑区间的视频数据,实施上述的图像放大处理。
另外,在注视的过程中,有时视线方向会瞬时移动到其他方向再返回到原来的注视方向,但对这种视线的运动,作为干扰,进行不认为是注视时间的处理。这种处理可以利用公知的移动平均和干扰处理而容易地执行,所有省略说明其详细内容。
并且,作为平滑处理的具体方法,可以列举下述方法,在构成动态图像图像的各个帧图像(帧图像)之间插入与平滑程度对应的数量的插入位置前或后的帧图像。但是,在该方法中由于平滑程度越大(延长图像的随时间的变化),移动动作就要越发缓慢,所以最好根据插入位置前后的帧图像的图像数据,作成并插入对移动动作进行了插补的帧图像。
另外,作为晃动校正处理的具体方法,可以使用下述公知技术,即,检测晃动方向和晃动量,根据这些晃动方向和晃动量,切除图像数据。
再次返回图62继续说明。
在上述步骤S74的处理结束后,把与包含上述编辑区间的视频数据的单元整体的视频数据对应的编辑处理后的视频数据,存储在与编辑处理前的视频数据不同的单元中(步骤S75)。
并且,进行程序链的变更。即,在编辑前的程序链的信息中,读出编辑前的单元,作为对应上述编辑区间的单元。因此,通过读出编辑后的单元代替读出该编辑前的单元作为与编辑区间对应的单元,作成表示编辑处理后的视频数据的再现顺序的程序链。由此,仅查询程序链,即可自动再现编辑后的视频数据。
具体叙述上述图72所示的示例,编辑处理后的视频数据按照…、C#(i-1)、C#j、C#(i+2)、C#(i+3)、…的顺序被再现。
作为被实施了这样的编辑处理后的视频数据,由于仅记录实施了编辑处理的单元的数据即可,所以能够把与编辑处理前的动态图像数据的重复抑制在最小限度,能够节省记录容量。这在需要大容量的记录容量的动态图像数据的记录中,可以获得好的效果。
在上述步骤S75的处理结束后,判断所有编辑处理是否已结束(步骤S76)。
另一方面,在该步骤S76,在判断为所有编辑处理结束之前,转入上述步骤S73,反复进行上述处理(步骤S77)。
在该步骤S77,为了再现编辑后的视频数据,在视频标题组管理信息VTSI(Video Title Set Information)的VTSPGC信息管理表VTS_PGCIT中,生成表示用于控制编辑后的视频数据的再现顺序的程序链(PGC)的PGC信息(例如VTS_PGCI#2),追加记录在已经记录在磁盘249中的视频标题组管理信息VTSI(Video Title Set Information)中。
记录了编辑后的视频数据的再现顺序的PGC信息(VTS_PGCI#2),如上所述,不是再现PGC信息(例如VTS_PGCI#1)中实施了编辑处理的时间区间的单元,该PGC信息记录有编辑前的视频数据的再现顺序,而是为了再现在实施步骤S75记录的编辑处理后的视频数据而作成的PGC信息。
这样,在认为画质劣化的情况下,在可能的范围内进行提高画质的校正,在不能校正的情况下进行剪切,所以能够获得品质良好的清晰的图像。并且,自动进行该编辑处理,所以使用者不需要进行麻烦的操作,非常方便。
下面,说明视频数据的再现。
再现视频数据时的数据处理是如下进行的。
首先,第1CPU161在接受到再现命令时,通过记录再现用数据处理器231和磁盘驱动器部4d读入与视频数据相关的管理区域的数据,决定再现的地址。
然后,第1CPU161向磁盘驱动器部4d输出刚才所决定的数据的地址和读取命令。
这样,磁盘驱动器部4d根据所接收的地址和读取命令,从磁盘249读出扇区数据,通过记录再现用数据处理器231进行错误校正后,作为包数据输出给分离器233。
分离器233把所接收的包数据分离为动态图像数据和音频数据和副视频数据,并根据各种数据的类型转送。即,在所接收的数据为动态图像分组数据(MPEG2数据)时输出给动态图像解码器(VDEC)234,为音频分组数据时输出给音频解码器(ADEC)236,为副视频分组数据时输出给副视频解码器(SDEC)235,为角速度分组数据时输出给角速度解码器(AVDEC)242,为视线方向分组数据时输出给视线方向解码器(EDEC)243。并且,导航包NV在第1CPU161进行处理时需要使用,所以保存在该第1CPU161的内部存储器即RAM等中。
在开始输出各分组数据时,头中包含的PTS(Presentation TimeStamp)被安装到STC部248中(即,第1CPU161把导航包NV内的PTS设定在STC部248中,或者动态图像解码器(VDEC)234把动态图像数据的PTS自动设定在STC部248中)。
然后,各解码器与分组数据内的PTS的值同步(一面比较PTS和STC部248的值)进行再现处理,来自视频解码器(VDEC)234的视频数据和来自副视频解码器(SDEC)235的副视频数据,通过动态图像处理器237被适当合成,并通过监视器TV239或显示部165再现成带声音字幕的动态图像。
另外,在上述说明中,作为佩戴者信息的角速度数据和视线方向数据利用和动态图像数据相同的记录格式记录。但是,佩戴者信息与动态图像数据不同,仅在进行编辑处理时使用,所以未必一定使用和动态图像数据相同的格式记录。但是,在使用其他格式记录的情况下,佩戴者信息需要被记录成能够了解到从所检测的时刻起的相对经过时间。例如,佩戴者信息可以在其头部记录从检测开始到检测结束的时间,佩戴者信息的记录容量可以记录成与从开始记录起的经过时间成比例。通过进行这种记录,对佩戴者信息的记录和读出更容易进行。
并且,在上述说明中,作为记录介质使用DVD等的光盘,但是当然不限于此,例如可以使用半导体存储器等的记录介质。
另外,在上述说明中,作为佩戴者信息使用了头部的角速度和视线方向,但只要是表示摄影者的摄影意图的信息,不限于这些,也可以使用其他信息。
根据这种实施例1,由于预先记录与摄影者自身的运动相关的佩戴者信息,并根据所记录的佩戴者信息对所记录的图像数据在事后进行规定的编辑处理,所以能够简化照相机的结构,并且摄影者可以进行不必专心于摄影动作的摄影。因此,摄影者能够进行和其他人员相同的自然行动,而且不会感觉到摄影的负担。
并且,由于根据摄影者的佩戴者信息进行图像编辑,所以能够自动进行与摄影者的意图相符的图像编辑。在对记录后的图像数据进行编辑处理时,不需要在摄影中进行实时进行编辑处理时需要的例如预测处理等复杂的处理,所以能够比较简单地进行编辑处理。
此外,由于能够显示编辑后的图像,所以能够欣赏清晰的图像。
另外,由于动态图像数据和佩戴者信息被划分成块(单元)进行记录,所以仅读出该块数据即可以以块为单位容易地进行编辑处理。
此时,作为编辑处理后的动态图像数据,仅记录实施了编辑处理的单元的数据,所以能够把与编辑处理前的动态图像数据的重复抑制在最小限度,可以节省记录容量。并且,记录表示再现顺序的程序链信息,在再现时使用该程序链信息进行再现,所以仅通过把编辑处理后的单元位置改写在编辑处理前的单元的位置上,即可容易地进行编辑处理后的动态图像数据的再现。
并且,由于能够把摄像部和视线方向/角速度检测部佩戴在摄影者的头部,所以能够高精度地检测摄影者正在观察的被摄体。
另外,由于能够利用角速度检测摄影者的头部自身的转动,所以能够自动进行起因于头部晃动的图像晃动的校正和剪切、记录时间的延长等的编辑处理。
并且,由于能够检测摄影者的注视点的方向即视线方向,所以能够自动进行电子变焦(放大/缩小)和修整等的编辑处理。此时,作为视线方向信息,包括视线方向的移动速度和视线方向的连续移动量中的至少一方,所以能够更忠实地反映摄影者的意愿。
并且,由于能够考虑视线方向/角速度检测部和摄像部的视差,求出与利用视线方向/角速度检测部检测的视线方向θ对应的从摄像部观看的角度θ’,所以即使在被摄体处于近距离时,也能够准确把握与摄影者的视线方向对应的由摄像部形成的摄影范围(被拍摄的图像中的摄影者的注视点),可以准确进行基于视线方向信息的编辑处理等。
另外,可以一面进行自然的行动一面观察的头戴型显示装置,在例如在步行时或驾驶车时也很容易被使用。如果在这种状态下使用,使用者的注意力集中在显示于显示单元上的摄影信息等显示上,有可能与前方物体相撞,但是,由于本实施例的图像系统能够检测这种使用状态,并在检测到时进行报警或禁止显示,所以能够防患于未然。
并且,在进行视线检测时,使用与其他区域相比极其明亮的角膜反射光,所以能够容易地求出瞳孔所在的大致位置。此时,作为用于获得角膜反射光的照明,使用照射红外线的LED,所以不会妨碍观察者观察被摄体。
另外,从包括角膜反射光的位置的规定的范围的区域中检测出具有最小值的像素,把向该最小值加算规定的值后的值(该值是比该最小的像素值大、比虹膜的像素值小的规定的值)作为阈值,把像素值比该阈值小的像素组判别为属于瞳孔的像的像素组,所以能够容易且高精度地求出瞳孔的区域。
并且,由于把瞳孔的区域的重心作为瞳孔中心,所以即使像素数据中包含数个干扰时,也能够可靠地高精度地求出瞳孔中心的位置。
并且,把视力调整用透镜分别配置在透明光学部件的前面,所以即使视力不同的观察者,也能够在实际直接观察(即,该情况时通过视力调整用透镜观察)的被摄体上叠合规定的图像进行观察。
另外,可以利用简单的结构构成外观设计漂亮的具有自然美感的大致眼镜型的摄像装置。
并且,视力调整用透镜与透明光学部件可以分别容易地拆卸,所以能够对每个显示装置容易地进行与使用者相适应的视力调整。这样,即使此时左眼和右眼的视力不同,也能够安装与各个眼睛相符的透镜。
另外,透明光学部件和摄像部在框架部上保持成一体,所以即使更换视力调整用透镜,也不需要每次进行这些透明光学部件和摄像部的角度调整等,实现使用方便的带视力调整用透镜的头戴型照相机。
另外,以无线方式连接头戴部和图像记录/编辑装置,进行图像数据和操作信号的收发,所以没有电缆等的烦恼,可以轻松使用。由此,实现携带方便的机动灵活的头戴型照相机。
另外,在透明图像显示部,使用液体透镜一次成像LCD的图像,所以能够在所期望的距离位置把该图像显示为虚像。并且,通过采用液体透镜,结构变简单,可以实现装置的小型轻量化,由于不使用驱动器等,不必担心动作中产生噪声。因此,对戴在头部使用的装置特别有效。
另外,本发明不限于上述的实施例,当然可以在不脱离本发明的宗旨的范围内进行各种变形及应用。
本发明可以适用于摄像装置,具体讲可以适用于把动态图像数据划分成多个块进行记录的摄像装置。
Claims (7)
1.一种摄像装置,其特征在于,具有:
动态图像数据记录单元,把动态图像数据划分成多个块进行记录,同时记录表示上述动态图像数据的再现顺序的动态图像再现程序链接信息、和与上述动态图像数据的再现开始起的经过时间相关的第1信息;
佩戴者信息记录单元,记录与编辑前的上述动态图像数据同时被检测出的用于编辑该动态图像数据的佩戴者信息、和用于检测从上述佩戴者信息的检测开始时刻起的经过时间的第2信息。
2.根据权利要求1所述的摄像装置,其特征在于,上述动态图像数据是通过利用戴在摄影者头上的照相机进行拍摄所得到的数据。
3.根据权利要求1所述的摄像装置,其特征在于,上述佩戴者信息包括与摄影者头部的角速度相关的角速度信息。
4.根据权利要求3所述的摄像装置,其特征在于,根据上述角速度信息对上述动态图像数据进行的编辑处理包括:所记录的图像数据的剪切、晃动校正、记录时间的延长和电子缩放中的至少一种处理。
5.根据权利要求1所述的摄像装置,其特征在于,上述佩戴者信息包括与摄影者的视线方向相关的视线方向信息。
6.根据权利要求5所述的摄像装置,其特征在于,根据上述视线方向信息对上述动态图像数据进行的编辑处理包括对所记录的图像数据的电子缩放。
7.根据权利要求6所述的摄像装置,其特征在于,上述视线方向信息包括在视线方向上的移动速度和在视线方向上的连续移动量中的至少一方。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004119483 | 2004-04-14 | ||
JP2004119483A JP4364047B2 (ja) | 2004-04-14 | 2004-04-14 | 表示装置、撮像装置 |
JP2004227211A JP2006050163A (ja) | 2004-08-03 | 2004-08-03 | 撮像装置 |
JP2004227211 | 2004-08-03 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1684500A CN1684500A (zh) | 2005-10-19 |
CN100350792C true CN100350792C (zh) | 2007-11-21 |
Family
ID=35095874
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2005100589479A Expired - Fee Related CN100350792C (zh) | 2004-04-14 | 2005-03-25 | 摄像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7447330B2 (zh) |
CN (1) | CN100350792C (zh) |
Families Citing this family (77)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1798958A1 (en) | 2005-12-16 | 2007-06-20 | Varioptic | Adjustable liquid optical diaphragm |
JP4548355B2 (ja) * | 2006-02-03 | 2010-09-22 | カシオ計算機株式会社 | 動画再生装置及びそのプログラム |
US7884860B2 (en) | 2006-03-23 | 2011-02-08 | Panasonic Corporation | Content shooting apparatus |
JP5092357B2 (ja) * | 2006-11-07 | 2012-12-05 | ソニー株式会社 | 撮像表示装置、撮像表示方法 |
JP5023663B2 (ja) | 2006-11-07 | 2012-09-12 | ソニー株式会社 | 撮像装置、撮像方法 |
US20080240503A1 (en) * | 2007-03-30 | 2008-10-02 | Sanyo Electric Co., Ltd. | Image Processing Apparatus And Image Pickup Apparatus Mounting The Same, And Image Processing Method |
JP4986791B2 (ja) * | 2007-09-27 | 2012-07-25 | 富士フイルム株式会社 | 画像表示装置、プログラム、及び撮像装置 |
CN101498823B (zh) * | 2008-01-28 | 2011-03-30 | 鸿富锦精密工业(深圳)有限公司 | 相机模组 |
JP2010081480A (ja) * | 2008-09-29 | 2010-04-08 | Fujifilm Corp | 携帯型不審者検出装置、不審者検出方法及びプログラム |
US20100129046A1 (en) * | 2008-11-21 | 2010-05-27 | Pertti Tolonen | Method and apparatus for recording and playback processes |
CN102473031A (zh) * | 2009-07-15 | 2012-05-23 | 皇家飞利浦电子股份有限公司 | 用于基于第一模态控制第二模态的方法 |
GB2476064A (en) * | 2009-12-09 | 2011-06-15 | Marcus Lewis | Video recording spectacles with removable camera |
JP5499985B2 (ja) * | 2010-08-09 | 2014-05-21 | ソニー株式会社 | 表示装置組立体 |
JP5434848B2 (ja) * | 2010-08-18 | 2014-03-05 | ソニー株式会社 | 表示装置 |
US8767053B2 (en) * | 2010-08-26 | 2014-07-01 | Stmicroelectronics, Inc. | Method and apparatus for viewing stereoscopic video material simultaneously with multiple participants |
WO2012037139A2 (en) | 2010-09-13 | 2012-03-22 | Contour, Inc. | Portable digital video camera configured for remote image acquisition control and viewing |
US9041852B2 (en) * | 2010-12-10 | 2015-05-26 | Olympus Imaging Corp. | Imaging apparatus having optical system and lens control unit for focus adjustment |
JP5780418B2 (ja) * | 2011-05-30 | 2015-09-16 | ソニー株式会社 | 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体 |
US20130088413A1 (en) * | 2011-10-05 | 2013-04-11 | Google Inc. | Method to Autofocus on Near-Eye Display |
US8941561B1 (en) * | 2012-01-06 | 2015-01-27 | Google Inc. | Image capture |
US9230501B1 (en) | 2012-01-06 | 2016-01-05 | Google Inc. | Device control utilizing optical flow |
US9389425B2 (en) * | 2012-04-18 | 2016-07-12 | Kopin Corporation | Viewer with display overlay |
GB2501768A (en) | 2012-05-04 | 2013-11-06 | Sony Comp Entertainment Europe | Head mounted display |
GB2501761A (en) * | 2012-05-04 | 2013-11-06 | Sony Comp Entertainment Europe | Head mountable display |
GB2501767A (en) | 2012-05-04 | 2013-11-06 | Sony Comp Entertainment Europe | Noise cancelling headset |
US8736692B1 (en) * | 2012-07-09 | 2014-05-27 | Google Inc. | Using involuntary orbital movements to stabilize a video |
JP5659195B2 (ja) * | 2012-07-17 | 2015-01-28 | 株式会社東芝 | 画像提示装置及び方法 |
JPWO2014034378A1 (ja) * | 2012-08-27 | 2016-08-08 | ソニー株式会社 | 画像表示装置及び画像表示方法、情報通信端末及び情報通信方法、並びに画像表示システム |
US9057826B2 (en) * | 2013-01-31 | 2015-06-16 | Google Inc. | See-through near-to-eye display with eye prescription |
EP2979125B1 (en) * | 2013-03-26 | 2020-02-26 | Lusospace, Projectos Engenharia Lda | Display device |
KR101509169B1 (ko) * | 2013-05-07 | 2015-04-07 | 배영식 | 헤드 마운트 디스플레이 |
US10061995B2 (en) * | 2013-07-01 | 2018-08-28 | Pioneer Corporation | Imaging system to detect a trigger and select an imaging area |
JP6313014B2 (ja) * | 2013-08-27 | 2018-04-18 | 東芝ライフスタイル株式会社 | カメラシステム、冷蔵庫 |
JP6092049B2 (ja) * | 2013-08-28 | 2017-03-08 | 東芝ライフスタイル株式会社 | 撮像システム及び撮像装置 |
US9491365B2 (en) * | 2013-11-18 | 2016-11-08 | Intel Corporation | Viewfinder wearable, at least in part, by human operator |
CN104681004B (zh) * | 2013-11-28 | 2017-09-29 | 华为终端有限公司 | 头戴式设备控制方法、装置和头戴式设备 |
JP6337465B2 (ja) * | 2013-12-26 | 2018-06-06 | セイコーエプソン株式会社 | 虚像表示装置 |
KR102209512B1 (ko) * | 2014-06-30 | 2021-01-29 | 엘지전자 주식회사 | 글래스 타입 단말기 |
AU2014400408B2 (en) | 2014-07-10 | 2018-11-01 | Lusospace, Projectos Engenharia Lda | Display device |
DE102014110961B4 (de) | 2014-08-01 | 2016-02-11 | Carl Zeiss Ag | Datenbrille |
DE102014217961A1 (de) * | 2014-09-09 | 2016-03-10 | Bayerische Motoren Werke Aktiengesellschaft | Bestimmung der Pose eines HMD |
CN105493496B (zh) | 2014-12-14 | 2019-01-18 | 深圳市大疆创新科技有限公司 | 一种视频处理方法、装置及图像系统 |
EP3062142B1 (en) | 2015-02-26 | 2018-10-03 | Nokia Technologies OY | Apparatus for a near-eye display |
JP6329505B2 (ja) * | 2015-03-19 | 2018-05-23 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子、撮像モジュール、および電子機器 |
WO2016203654A1 (ja) | 2015-06-19 | 2016-12-22 | 日立マクセル株式会社 | ヘッドマウントディスプレイ装置およびそれを用いた視覚補助方法 |
US10670864B2 (en) * | 2015-10-27 | 2020-06-02 | Maxell, Ltd. | Information display device |
US20170159881A1 (en) * | 2015-12-07 | 2017-06-08 | Oculus Vr, Llc | Head mounted display housing |
USD792399S1 (en) | 2015-12-07 | 2017-07-18 | Oculus Vr, Llc | Head mounted display with phone receptacle |
JP6740641B2 (ja) * | 2016-03-03 | 2020-08-19 | ソニー株式会社 | ウェアラブル端末、制御方法、およびプログラム |
TW201816430A (zh) * | 2016-10-18 | 2018-05-01 | 美商康寧公司 | 具有整合光濾鏡的可變焦透鏡及含該透鏡之影像擷取裝置 |
US10650552B2 (en) | 2016-12-29 | 2020-05-12 | Magic Leap, Inc. | Systems and methods for augmented reality |
EP3343267B1 (en) | 2016-12-30 | 2024-01-24 | Magic Leap, Inc. | Polychromatic light out-coupling apparatus, near-eye displays comprising the same, and method of out-coupling polychromatic light |
US10911720B2 (en) * | 2017-01-13 | 2021-02-02 | Antunes Nuno | System and method of acquisition, registration and multimedia management |
US11782669B2 (en) * | 2017-04-28 | 2023-10-10 | Microsoft Technology Licensing, Llc | Intuitive augmented reality collaboration on visual data |
US10578870B2 (en) | 2017-07-26 | 2020-03-03 | Magic Leap, Inc. | Exit pupil expander |
US11470244B1 (en) * | 2017-07-31 | 2022-10-11 | Snap Inc. | Photo capture indication in eyewear devices |
KR102596429B1 (ko) | 2017-12-10 | 2023-10-30 | 매직 립, 인코포레이티드 | 광학 도파관들 상의 반사―방지 코팅들 |
US10755676B2 (en) | 2018-03-15 | 2020-08-25 | Magic Leap, Inc. | Image correction due to deformation of components of a viewing device |
CN112601975B (zh) | 2018-05-31 | 2024-09-06 | 奇跃公司 | 雷达头部姿势定位 |
WO2020010097A1 (en) | 2018-07-02 | 2020-01-09 | Magic Leap, Inc. | Pixel intensity modulation using modifying gain values |
US11856479B2 (en) | 2018-07-03 | 2023-12-26 | Magic Leap, Inc. | Systems and methods for virtual and augmented reality along a route with markers |
EP3830631A4 (en) | 2018-08-03 | 2021-10-27 | Magic Leap, Inc. | NON-FUSED POSE DRIFT CORRECTION OF A FUSED TOTEM IN A USER INTERACTION SYSTEM |
EP3840645A4 (en) | 2018-08-22 | 2021-10-20 | Magic Leap, Inc. | PATIENT VISUALIZATION SYSTEM |
KR102551358B1 (ko) * | 2018-09-21 | 2023-07-04 | 삼성전자주식회사 | 냉장고 내 객체의 상태와 관련된 정보를 제공하는 방법 및 시스템 |
JP7445653B2 (ja) | 2018-11-09 | 2024-03-07 | ベックマン コールター, インコーポレイテッド | 選択的データ提供を備えた修理グラス |
US20200166782A1 (en) * | 2018-11-27 | 2020-05-28 | Tsai-Tzu LIAO | Optical photographic glasses |
US11128814B2 (en) * | 2018-11-30 | 2021-09-21 | Vecnos Inc. | Image processing apparatus, image capturing apparatus, video reproducing system, method and program |
CN113454507B (zh) | 2018-12-21 | 2024-05-07 | 奇跃公司 | 用于促进波导内的全内反射的气穴结构 |
EP3939030A4 (en) | 2019-03-12 | 2022-11-30 | Magic Leap, Inc. | REGISTRATION OF LOCAL CONTENT BETWEEN FIRST AND SECOND VIEWERS OF AUGMENTED REALITY |
WO2020214897A1 (en) | 2019-04-18 | 2020-10-22 | Beckman Coulter, Inc. | Securing data of objects in a laboratory environment |
US10989927B2 (en) * | 2019-09-19 | 2021-04-27 | Facebook Technologies, Llc | Image frame synchronization in a near eye display |
CN110727103B (zh) * | 2019-10-31 | 2021-10-22 | 京东方科技集团股份有限公司 | 一种电润湿器件及显示装置 |
EP4058936A4 (en) | 2019-11-14 | 2023-05-03 | Magic Leap, Inc. | SYSTEMS AND METHODS FOR VIRTUAL AND AUGMENTED REALITY |
JP2023502927A (ja) | 2019-11-15 | 2023-01-26 | マジック リープ, インコーポレイテッド | 外科手術環境において使用するための視認システム |
US11297285B2 (en) * | 2020-03-27 | 2022-04-05 | Sean Solon Pierce | Dental and medical loupe system for lighting control, streaming, and augmented reality assisted procedures |
CN113709410B (zh) * | 2020-05-21 | 2024-08-23 | 幻蝎科技(武汉)有限公司 | 基于mr眼镜的人眼视觉能力增强的方法、系统及设备 |
JP2023049547A (ja) * | 2021-09-29 | 2023-04-10 | 株式会社島津製作所 | ウエアラブルデバイス |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07240889A (ja) * | 1994-03-01 | 1995-09-12 | Olympus Optical Co Ltd | 撮像装置付き頭部装着型映像表示装置 |
CN1199302A (zh) * | 1997-04-24 | 1998-11-18 | 索尼公司 | 具有遥控指令器的摄像机 |
JPH11164186A (ja) * | 1997-11-27 | 1999-06-18 | Fuji Photo Film Co Ltd | 画像記録装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3679823A (en) * | 1970-11-09 | 1972-07-25 | Electronic Products Corp | Differential time television system |
SG34287A1 (en) * | 1994-10-28 | 1996-12-06 | Hitachi Ltd | Input-output circuit recording apparatus and reproduction apparatus for digital video signal |
JPH08191411A (ja) | 1994-11-08 | 1996-07-23 | Matsushita Electric Ind Co Ltd | シーン判別方法および代表画像記録・表示装置 |
US5933125A (en) * | 1995-11-27 | 1999-08-03 | Cae Electronics, Ltd. | Method and apparatus for reducing instability in the display of a virtual environment |
US6424370B1 (en) * | 1999-10-08 | 2002-07-23 | Texas Instruments Incorporated | Motion based event detection system and method |
GB2378338A (en) * | 2001-07-31 | 2003-02-05 | Hewlett Packard Co | Automatic identification of features of interest within a video signal |
JP2003178078A (ja) | 2001-12-12 | 2003-06-27 | Matsushita Electric Ind Co Ltd | 画像、音声データへの付加用標識データとその付加方法 |
JP2004056397A (ja) | 2002-07-18 | 2004-02-19 | Canon Inc | 画像処理装置および方法 |
JP3815398B2 (ja) | 2002-08-08 | 2006-08-30 | ソニー株式会社 | 編集方法及び編集装置 |
GB2394852B (en) * | 2002-10-31 | 2006-12-20 | Hewlett Packard Co | Image capture systems using motion detection |
JP2006050164A (ja) | 2004-08-03 | 2006-02-16 | Olympus Corp | 画像編集装置、画像編集プログラム、記録媒体 |
-
2005
- 2005-03-25 CN CNB2005100589479A patent/CN100350792C/zh not_active Expired - Fee Related
- 2005-04-11 US US11/103,247 patent/US7447330B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07240889A (ja) * | 1994-03-01 | 1995-09-12 | Olympus Optical Co Ltd | 撮像装置付き頭部装着型映像表示装置 |
CN1199302A (zh) * | 1997-04-24 | 1998-11-18 | 索尼公司 | 具有遥控指令器的摄像机 |
JPH11164186A (ja) * | 1997-11-27 | 1999-06-18 | Fuji Photo Film Co Ltd | 画像記録装置 |
Also Published As
Publication number | Publication date |
---|---|
CN1684500A (zh) | 2005-10-19 |
US20050231599A1 (en) | 2005-10-20 |
US7447330B2 (en) | 2008-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100350792C (zh) | 摄像装置 | |
CN1265226C (zh) | 图像摄取装置和缩放透镜 | |
CN1110943C (zh) | 图像拾取系统和图像拾取设备 | |
CN1652575A (zh) | 头戴型照相机 | |
CN1306303C (zh) | 照相机、照相机系统和透镜装置 | |
CN1171110C (zh) | 观察光学系统及使用了该系统的图像显示装置 | |
CN1100437C (zh) | 摄象装置及其制造方法、摄象拾音装置、信号处理装置及信号处理方法、以及信息处理装置及信息处理方法 | |
CN101324698B (zh) | 倾斜透镜系统和摄像装置 | |
CN1685272A (zh) | 图像显示装置和投影光学系统 | |
CN1725828A (zh) | 信息显示系统 | |
US20120027393A1 (en) | Electronic equipment | |
CN1574899A (zh) | 图像处理装置、图像摄取装置和程序 | |
CN1574898A (zh) | 图像摄取装置 | |
CN1297835C (zh) | 变焦光学系统、投影光学系统及使用该系统的图像投影装置 | |
CN1869760A (zh) | 变焦透镜和图像拾取装置 | |
KR101989152B1 (ko) | 동영상 촬영 또는 재생 중, 정지 영상을 캡쳐하는 장치 및 방법 | |
CN1896803A (zh) | 图像稳定器,透镜装置以及成像器装置 | |
CN1955782A (zh) | 变焦镜头及摄像装置 | |
CN1725829A (zh) | 信息显示系统 | |
CN1611975A (zh) | 成像设备 | |
KR20120025872A (ko) | 적절한 밝기를 갖는 입체 영상을 생성하는 디지털 영상 촬영 장치 및 이의 제어 방법 | |
CN1797060A (zh) | 变焦镜头和摄像装置 | |
CN1707308A (zh) | 头戴式显示装置 | |
CN1881008A (zh) | 图像稳定器、透镜筒和成像装置 | |
CN1646966A (zh) | 变焦镜头以及使用该变焦镜头的电子摄像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20071121 Termination date: 20200325 |