JP2014023159A - 撮影装置、その撮影制御方法及び眼球認識装置 - Google Patents
撮影装置、その撮影制御方法及び眼球認識装置 Download PDFInfo
- Publication number
- JP2014023159A JP2014023159A JP2013149091A JP2013149091A JP2014023159A JP 2014023159 A JP2014023159 A JP 2014023159A JP 2013149091 A JP2013149091 A JP 2013149091A JP 2013149091 A JP2013149091 A JP 2013149091A JP 2014023159 A JP2014023159 A JP 2014023159A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- face area
- unit
- detected
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 210000005252 bulbus oculi Anatomy 0.000 title claims abstract description 55
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000003384 imaging method Methods 0.000 claims description 117
- 238000012545 processing Methods 0.000 claims description 47
- 238000013507 mapping Methods 0.000 claims description 3
- 230000001815 facial effect Effects 0.000 abstract 4
- 238000010586 diagram Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000001514 detection method Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 238000005452 bending Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000011840 criminal investigation Methods 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/20—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4223—Cameras
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Eye Examination Apparatus (AREA)
Abstract
【課題】 動く対象体から顔領域/眼球領域を容易に検出することができる撮影装置、その撮影制御方法及び眼球認識装置を提供する。
【解決手段】 撮影装置の撮影制御方法が開示される。本撮影制御方法は、対象体を撮像するステップと、撮像された対象体の映像内から顔領域を検出するステップと、検出された顔領域の位置に応じて撮影装置の位置を調整し、検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、撮影装置のズーミング(Zooming)状態を調整する調整ステップとを含む。
【選択図】 図1
【解決手段】 撮影装置の撮影制御方法が開示される。本撮影制御方法は、対象体を撮像するステップと、撮像された対象体の映像内から顔領域を検出するステップと、検出された顔領域の位置に応じて撮影装置の位置を調整し、検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、撮影装置のズーミング(Zooming)状態を調整する調整ステップとを含む。
【選択図】 図1
Description
本発明は、撮影装置、その撮影制御方法及び眼球認識装置に関し、より詳細には、対象体の眼球認識のための撮影装置、その撮影制御方法及び眼球認識装置に関する。
今日、デジタル技術が発展するにつれ、映像情報を分析して特定領域または特徴部分に区分することができる技術が開発されている。このような分析技術の中で顔認識技術は、デジタルカメラだけでなく、セキュリティ技術を行う装置等に採用される技術として、多様な方式で多角度から研究及び開発されているのが現状である。
一般に、顔検出は任意の入力映像に対して当該領域内に人の顔が存在するか否かを認識し、もし顔が存在する場合、映像内に存在する各人の顔を探し当てて、その位置を表示するものとして、監視システム、犯罪捜査用のマグショットマッチング(mug shot maching)システム、顔情報を用いた検索システム及び客体指向コーディングシステム等に活用されてよい。
このような顔検出システムにおいてワンステップ更に進み、最近は人の眼球の動きを用いてインターフェースまたは虹彩を用いた個人認識システムの実現を目的として、人の眼球を認識する方法に関する研究が盛んに行われている。
ただ、このような眼球認識方法において、最も問題となることが眼球検出の正確度である。
よって、より正確に対象体の眼球を検出するための方策への模索が求められる。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、動く対象体から顔領域/眼球領域を容易に検出することができる撮影装置、その撮影制御方法及び眼球認識装置を提供することにある。
上述の目的を達成するための本発明の一実施形態に係る撮影装置の撮影制御方法は、対象体を撮像するステップと、前記撮像された対象体の映像内から顔領域を検出するステップと、前記検出された顔領域の位置に応じて前記撮影装置の位置を調整し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、前記撮影装置のズーミング(Zooming)状態を調整する調整ステップとを含む。
そして、前記撮像するステップは、赤外線を発光するステップと、前記対象体によって、前記発光された赤外線の反射された反射赤外線を受光するステップと、前記受光された反射赤外線を用いて対象体を検出するステップと、前記検出された対象体を自動的に追跡して撮像するステップとを含んでよい。
なお、前記予め設定された大きさの範囲は、前記対象体の眼球領域を検出するために、撮像領域に撮像されるべき前記対象体の顔領域の大きさであってよい。
そして、前記検出された顔領域の位置を前記対象体の位置している3次元空間座標系における顔領域の位置とマッピングするステップを更に含んでよい。
なお、前記調整ステップは、前記マッピングされた3次元空間座標系における顔領域の水平位置に応じて、前記撮影装置を水平方向に回転させるステップと、前記マッピングされた3次元空間座標系における顔領域の垂直位置に応じて、前記撮影装置を垂直方向にティルティングさせるステップと、前記顔領域の大きさが前記予め設定された第1大きさの範囲未満である場合にズームイン(Zoom−In)動作を行い、前記顔領域の大きさが予め設定された第2大きさの範囲を超過する場合にズームアウト(Zoom−Out)動作を行うステップとを含んでよい。
そして、前記調整された撮影装置に撮像された顔領域から眼球領域を検出するステップを更に含んでよい。
一方、上述の目的を達成するための本発明の一実施形態に係る撮影装置は、対象体を撮像する撮像部と、前記撮影装置の位置を調整するための位置調整部と、前記撮影装置のズーミング状態を調整するためのズーミング調整部と、前記撮像された対象体の映像内から顔領域を検出する映像処理部と、前記検出された顔領域の位置に応じて前記撮影装置の位置を調整するように前記位置調整部を制御し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように前記撮影装置のズーミング状態を調整するように、前記ズーミング調整部を制御する制御部とを含む。
なお、赤外線を発光する赤外線発光部と、前記対象体によって、前記発光された赤外線の反射された反射赤外線を受光する赤外線受光部とを含み、前記映像処理部は、前記受光された反射赤外線を用いて対象体を検出し、前記制御部は、前記検出された対象体を自動的に追跡して撮像するように前記撮影装置を制御してよい。
そして、前記予め設定された大きさの範囲は、前記対象体の眼球領域を検出するために、撮像領域に撮像されるべき前記対象体の顔領域の大きさであってよい。
なお、前記制御部は、前記検出された顔領域の位置を前記対象体の位置している3次元空間座標系における顔領域の位置とマッピングしてよい。
そして、前記制御部は、前記マッピングされた3次元空間座標系における顔領域の水平位置に応じて、前記撮影装置を水平方向に回転させ、前記マッピングされた3次元空間座標系における顔領域の垂直位置に応じて、前記撮影装置を垂直方向にティルティングさせるように前記位置調整部を制御し、前記顔領域の大きさが前記予め設定された第1大きさの範囲未満である場合にズームイン(Zoom−In)動作を行い、前記顔領域の大きさが予め設定された第2大きさの範囲を超過する場合にズームアウト(Zoom−Out)動作を行うように前記ズーミング制御部を制御してよい。
そして、前記制御部は、前記調整された撮影装置に撮像された顔領域から眼球領域を検出するように前記映像処理部を制御してよい。
一方、上述の目的を達成するための本発明の一実施形態に係る眼球認識装置は、画面を表示するディスプレイ装置と、ディスプレイ装置の一領域に配置された撮影装置と、前記ディスプレイ装置及び前記撮影装置を制御する制御部とを含み、前記撮影装置は、対象体を撮像する撮像部と、前記撮影装置の位置を調整するための位置調整部と、前記撮影装置のズーミング状態を調整するためのズーミング調整部と、前記撮像された対象体の映像内から顔領域を検出する映像処理部とを含み、前記制御部は、前記検出された顔領域の位置に応じて前記撮影装置の位置を調整するように前記位置調整部を制御し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように前記撮影装置のズーミング状態を調整するように前記ズーミング調整部を制御する。
そして、前記制御部は、前記調整された撮影装置に撮像された顔領域から検出された眼球領域に対応する情報を用いて前記ディスプレイ装置の動作を制御してよい。
一方、撮影装置の撮影制御方法を行うためのプログラムコードが記録された記録媒体において、前記撮影制御方法は、対象体を撮像するステップと、前記撮像された対象体の映像内から顔領域を検出するステップと、前記検出された顔領域の位置に応じて前記撮影装置の位置を調整し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、前記撮影装置のズーミング(Zooming)状態を調整する調整ステップとを含む。
以上説明したように、本発明によれば、撮影された対象体の撮影映像内から検出された顔領域の位置に応じて撮影装置の位置を調整し、検出された顔領域の大きさが予め設定された大きさの範囲を満たすように撮影装置のズーミング状態を調整することにより、動く対象体の顔領域/眼球領域を容易に検出することができる。
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。
図1は、本発明の一実施形態に係る撮影装置を示すブロック図である。図2は、図1に係る撮影装置を具体的に示すブロック図である。図1ないし図2を参照すると、撮影装置100は、撮像部110と、レンズ部111と、映像処理部120と、位置調整部130と、ズーミング調整部140と、制御部150と、赤外線カメラ部160と、バス170と、コーデックス180と、保存部185及び映像出力部190の全部または一部を含む。ここで、赤外線カメラ部160は、赤外線発光部161と、赤外線受光部162を含んでよい。
ここで、撮影装置100は、水平方向に回転し、垂直方向にティルティングし、ズーム動作を行うPTZ(Pan−Tile−Zoom)カメラであってよい。
レンズ部111と、被写体の光を集めて撮像領域に光学像が結像するようにすることができる。
撮像部110は、レンズ部111を介して撮像領域に結像した光学像をアナログ形態の映像信号で出力し、出力されたアナログ形態の映像信号をデジタル形態の映像信号に変換して出力することができる。
このような機能を実行する撮像部110は、画素及びADコンバータを備えることができる。各画素は、アナログ形態の映像信号を出力し、ADコンバータはそれをデジタル形態の映像信号に変換して出力することができる。
なお、撮像部110の各画素は、CMOS(Complementary Metal Oxide Semiconductor)光センサまたはCCD(Charge Coupled Device)光センサで実現されてよい。このような画素が集まって撮像領域を構成することができる。ここで、撮像部110の撮像領域に含まれた各画素は、ローリングシャッタ(Rolling shutter)方式またはグローバルシャッタ(Global Shutter)方式で光学像を読み取ることができる。ここで、グローバルシャッタ方式は、撮像領域の全画素が一斉に光学像を読み取る方式である。一方、ローリングシャッタ方式は、撮像領域内の一ないし数個の画素が順次に光学像を読み取る方式である。
それにより、撮像部110は対象体を撮像することができ、撮像された対象体に対する映像信号を出力することができる。
赤外線発光部161は、赤外線を発光する。具体的に、赤外線発光部161は特定パターンを有する構造化光(structured light)を対象体の位置している特定領域に発光することができる。
赤外線受光部162は、特定領域に発光された赤外線の反射された反射赤外線を受光する。この場合、特定パターンを有する構造化光が対象体の表面に照射されると、特定パターンは対象体の屈曲に沿ってひずむようになり、この場合、赤外線受光部162はひずんだ反射赤外線を受光することができる。
ここで、対象体は、追跡対象となる人であってよい。
バス170は、撮像素子から生成された映像信号を映像処理部120に伝送することができる。なお、バス170は、撮像素子から生成された映像信号をバッファ175に伝送することもできる。そして、バス170は出力される映像信号に応じて、複数個のチャネルを有するように実現することもできる。
バッファ175は、撮像素子から生成された映像信号を一時的に保存することができる。そして、バッファ175は、一時的に保存された映像信号を順次に再配列して映像処理部120に伝送することができる。
映像処理部120は、撮像部110及びバッファ175から入力される映像に対する信号処理を行い、撮影された映像をディスプレイするために処理された映像信号を映像出力部190に出力することができる。なお、映像処理部120は撮影された映像を保存するためにコーデック180に処理された映像信号を出力することができる。
具体的に、映像処理部120は、撮像部110から出力された映像信号に対してフォーマット変換と映像スケールを調整するためのデジタルズーム、AWB(Auto White Balance)、AF(Auto Focus)、AE(Auto Exposure)等を行って映像出力部190またはコーデック180に出力することができる。
なお、映像処理部120は、赤外線受光部162を介して受光された反射赤外線を用いて対象体を検出することができる。具体的に、映像処理部120は赤外線受光部162を介して受光された特定パターンがひずんだ形態の反射赤外線を発光された予め設定された特定パターンと比較し、各ピクセルまでの距離を算出することができる。なお、映像処理部120は算出された距離を用いて、特定領域に対するデプス(depth)映像を生成することができる。ここで、特定領域に対するデプス映像には、対象体に対するデプス映像を含むことができる。なお、映像処理部120は、デプス映像に基づいて対象体に対する骨格映像を生成することができる。
この場合、映像処理部120は、デプス映像または骨格映像に基づいて、対象体を検出することができる。すなわち、映像処理部120は予め保存された人のデプス映像または骨格映像を生成されたデプス映像または骨格映像と比較し、対象体を検出することができる。
なお、映像処理部120は、デプス映像なしに撮像部110に撮像された映像を用いて、対象体を検出することができる。具体的に、映像処理部120は撮像された映像の現在のフレームを構成する現在の画素値と以前のフレームを構成する画素値とを比較し、追跡対象となる対象体を検出することができる。なお、映像処理部120は、撮像された現在のフレームからイメージ処理を通じて背景を除去することで、対象体を検出することができる。
上述のように、対象体が検出されると、制御部150は検出された対象体を自動的に追跡して撮像するように、位置調整部及びズーミング調整部のうち、少なくとも一方を制御することができる。
なお、映像処理部120は、撮像された対象体の映像内から対象体の顔領域を検出することができる。具体的に、映像処理部120は生物学的な基盤の選択的な周囲集中モデルを(biologically motivated selective attention model)を用いて、顔候補領域を検出することができる。すなわち、映像処理部120は、撮像されたイメージに対する突出マップを生成し、生成された突出マップを用いて顔候補領域を検出することができる。ここで、生物学的な基盤の選択的な周囲集中モデルは、人間の批判構造(critical structure)及び処理の一部過程をモデリングすることで、入力された映像に対して即座に反応するデータ駆動型処理(data−driven Processing)と、学習された情報を用いる概念推進型処理(conceptually−driven Processing)とに分けられる。データ駆動型処理と概念推進型処理とは公知となっている技術であるため、それに対する具体的な説明は省略する。そして、映像処理部120は、検出された顔候補領域に対して、viola−jones法や、haar−Feature法や、adaboostアルゴリズムを適用し、顔領域を検出することができる。それぞれの方法及びアルゴリズムは広く公知となっている技術であるため、それに対する具体的な説明は省略する。
なお、映像処理部120は、撮像部110に撮像された映像と赤外線カメラ部160を用いて生成されたデプス映像とを結合し、3次元映像を生成することができる。この場合、映像処理部120は、3次元映像内で上述の方法及びアルゴリズムを用いて対象体の顔領域を検出することができる。
なお、映像処理部120は、撮像部110に撮像された顔領域から眼球領域を検出することができる。例えば、映像処理部120は、撮像された顔領域から予め保存された眼球領域情報と相関度が最も高い領域を眼球領域として検出することができる。ただ、それに限定されるものではなく、映像処理部120は既に公知となっている多様な眼球検出方法を用いて眼球領域を検出することができる。
コーデック180は、映像処理部120から受信した映像信号をエンコードすることができる。そして、コーデック180は、エンコードされた映像信号を保存部185に伝送することができる。なお、コーデック180は、保存部185に保存されたエンコードされた映像信号をデコードすることができる。そして、コーデック180は、デコードされた映像信号を映像処理部120に伝送することができる。
コーデック180は、映像処理部120から受信した映像信号をエンコードすることができる。そして、コーデック180は、エンコードされた映像信号を保存部185に伝送することができる。なお、コーデック180は、保存部185に保存されたエンコードされた映像信号をデコードすることができる。そして、コーデック180は、デコードされた映像信号を映像処理部120に伝送することができる。
保存部185は、撮像素子120で撮影された映像を圧縮された形態で保存する。保存部180は、フラッシュメモリ、ハードディスク、DVD等であってよい。
映像出力部190は、映像処理部120から受信された映像信号を内部のディスプレイ装置または外部の出力端子に出力することができる。
位置調整部130は、撮影装置100の位置を調整することができる。具体的に、位置調整部130は、撮影装置100を水平方向に回転させることにより水平位置を調整することができ、垂直方向にティルティングさせることで垂直位置を調整することができる。ここで、位置調整部は、DCモータ、ACモータ、サーボモータ、ステップモータまたはBLDCモータ等、多様なモータで実現されてよい。
ズーミング調整部140は、撮影装置100のズーミング状態を調整することができる。具体的に、ズーミング調整部140は、撮影装置100をズームイン、ズームアウトさせ、ズーミング比率を調整することができる。
制御部150は、撮影装置100の動作全般を制御する。具体的に、制御部150は、撮像部110と、レンズ部111と、映像処理部120と、位置調整部130と、ズーミング調整部140と、赤外線カメラ部160と、バス170と、コーデックス180と、保存部185及び映像出力部190の全部または一部を制御することができる。
特に、制御部150は、検出された対象体を自動的に追跡して撮像することにより、位置調整部130及びズーミング調整部140のうち少なくとも一方を制御することができる。すなわち、制御部150は、検出された対象体が移動すると、移動された方向に応じて、撮影装置100を回転またはティルティングするように、位置調整部130を制御することができる。なお、制御部150は、検出された対象体が遠くにあって、撮像部110に撮像された対象体が予め設定された大きさの範囲より小さく撮像される場合にズームイン動作を行い、予め設定された大きさの範囲より大きく撮像される場合にズームアウト動作を行うように、ズーミング調整部140を制御することができる。それにより、撮影装置100は対象体を自動的に追跡して撮像することができる。
なお、制御部150は、撮像された対象体の映像内から検出された顔領域の位置に応じて、撮影装置100の位置を調整するように、位置調整部130を制御し、検出された顔領域の大きさが予め設定された大きさの範囲を満たすように撮影装置100のズーミング状態を調整するようにズーミング調整部140を制御することができる。
具体的に、制御部150は、検出された顔領域の位置を対象体の位置している3次元空間座標系における顔領域の位置とマッピングすることができる。すなわち、制御部150は、撮像された対象体を含む映像から検出された顔領域の位置する2次元座標(x、y)を撮影装置100の位置を原点に、対象体の位置する3次元座標系における顔領域の座標(X、Y)とマッピングすることができる。ここで、x、yは映像表面座標における水平、垂直座標値を意味し、X、Yは、対象体の位置する3次元空間座標系における水平、垂直座標値を意味する。
この場合、制御部150は、マッピングされた3次元空間座標系における顔領域の水平座標(X)により、撮影装置を水平方向に回転させ、マッピングされた3次元空間座標系における顔領域の垂直位置(Y)によって、撮影装置を垂直方向にティルティングさせるように位置調整部130を制御することができる。
なお、制御部150は、回転及びティルティングに応じて撮像された対象体の顔領域の大きさを予め設定された大きさの範囲と比較することができる。ここで、予め設定された大きさの範囲は対象体の眼球領域を検出するために、撮像領域に撮像されるべき対象体の顔領域の大きさを意味する。予め設定された大きさの範囲は、第1大きさの範囲及び第2大きさの範囲を含み、第1大きさの範囲は、対象体の眼球領域を検出するために、撮像領域に撮像されるべき対象体の顔領域の最小の大きさを意味し、第2大きさの範囲は対象体の眼球領域を検出するために、撮像領域に撮像されるべき対象体の顔領域の最大の大きさを意味する。それについては、図6を参照して具体的に説明する。
図6は、本発明の一実施形態に予め設定された大きさの範囲を説明するための図である。すなわち、対象体の眼球認識のためには、撮像領域に撮像された顔領域の大きさが、常に予め設定された大きさの範囲を満たさなければならない。図6(a)のように、撮影装置100が対象体を撮影する場合、撮影装置100は対象体の顔領域を検出することができる。この場合、制御部150は、検出された対象体の顔領域に基づいて、撮影装置の水平位置、垂直位置、ズーミング状態を調整することにより、撮像領域に撮像された顔領域の大きさが、常に予め設定された大きさの範囲を満たすように撮影装置を制御することができる。
一方、比較の結果、撮像領域に撮像された顔領域の大きさが予め設定された第1大きさの範囲未満である場合、制御部150はズームイン動作を行い、撮像領域に撮像された顔領域の大きさが予め設定された第2大きさの範囲を超過する場合、ズームアウト動作を行うように、ズーミング調整部140を制御することができる。
なお、撮影装置100が赤外線カメラ部160を備える場合、制御部150はデプス映像の分析を通じて撮影装置100と対象体との距離を算出することができる。すなわち、制御部150は、撮像された対象体を含む映像から検出された顔領域の位置する2次元座標(x、y)を撮影装置100の位置を原点に、対象体の位置する3次元座標系における顔領域の座標(X、Y、Z)とマッピングすることができる。ここで、Zは対象体の位置する3次元空間座標系における撮影装置100の位置を原点に対象体との距離を意味する。
この場合、制御部150は、マッピングされた3次元空間座標系における顔領域の水平座標(X)により、撮影装置を水平方向に回転させ、マッピングされた3次元空間座標系における顔領域の垂直位置(Y)によって、撮影装置を垂直方向にティルティングさせるように位置調整部130を制御することができる。なお、制御部150は、マッピングされた3次元空間座標系では、顔領域の撮影装置100からの距離(Z)に応じて、撮影装置のズーミング状態を制御するようにズーミング調整部140を制御することができる。この場合、制御部150は、撮像領域に撮像された顔領域の大きさが、常に予め設定された大きさの範囲を満たすようにするために、対象体の顔領域の撮影装置100からの距離(Z)に応じてマッピングされた撮影装置100のズーミング比率を用いて、撮影装置のズーミング状態を制御するようにズーミング調整部140を制御することができる。
なお、制御部150は、対象体が移動するとしても、上述の動作を繰り返すことにより、撮像領域に撮像された顔領域の大きさが、常に予め設定された大きさの範囲を満たすように、位置調整部130及びズーミング調整部140のうち少なくとも一方を制御することができる。
上述の本発明の多様な実施形態によると、対象体の眼球認識のために、撮像領域に撮像された顔領域の大きさが、常に予め設定された大きさの範囲を満たすようにすることで、対象体の眼球を容易に認識することができる。
なお、制御部150は、位置及びズーミングが調整された撮影装置の撮像領域に撮像された顔領域から眼球領域を検出するように映像処理部120を制御することができる。この場合、制御部150は、検出された眼球領域の動き、検出された眼球領域における虹彩情報を用いて、撮影装置100と接続された外部機器の動作を制御することができる。
一方、図1ないし図2を説明するうえで、映像処理部120は制御部150と別途の構成であるとして説明したが、上述の映像処理部120の機能を制御部150が行う形態で実現されてよい。
図3は、本発明の一実施形態に係る撮影装置の正面図である。図3を参照すると、映像装置100は、撮像部110と、赤外線発光部161と、赤外線受光部162と含む赤外線カメラ部160を含んでよい。ここで、撮像部110は、対象体に対するカラー映像を獲得するために使用されてよい。なお、赤外線カメラ部160は、対象体に対するデプス映像を獲得するために使用されてよい。撮影装置100は、図3において示すように、撮像部110及び赤外線カメラ部160を同時に含んでよい。ただ、それに限定されることではなく、場合によっては、赤外線カメラ部160を備えなくてよい。なお、撮影装置100は、制御部150の制御下で、水平方向に回転したり、垂直にティルティングすることができる。
図4は、本発明の一実施形態に係る眼球認識装置を示すブロック図である。図5は、本発明の一実施形態に係る撮影制御方法は説明するための図である。図4ないし図5を参照すると、眼球認識装置1000は、撮影装置100と、ディスプレイ装置200と、制御部150の全部または一部を含む。
撮影装置100は、対象体を撮影することができる。特に、撮影装置100は、対象体が移動する場合、自動的に追跡して撮影することができる。なお、撮影装置100は、撮像領域に撮像された顔領域の大きさが予め設定さされた大きさの範囲を満たすように撮影することができる。
ディスプレイ装置200は、画面を表示する機能を実行する。ここで、ディスプレイ装置200は、液晶ディスプレイ(liquid crystal display)、薄膜トランジスタ液晶ディスプレイ(thin film transistor−liquid crystal display)、有機発光ダイオード(Organic light−emitting diode)、フレキシブルディスプレイ(flexible display)、3次元ディスプレイ(3D display)、透明ディスプレイのうち、少なくとも一つにより実現できてよい。
制御部150は、眼球認識装置1000の動作全般を制御する。具体的に、制御部150は、撮影装置100と、ディスプレイ装置200の全体または一部を制御することができる。
特に、制御部150は、検出された眼球領域の動き、検出された眼球領域における虹彩情報を用いて、撮影装置100と接続されたディスプレイ装置200の動作を制御することができる。それについては、図7を参照して具体的に説明する。
図7は、本発明の一実施形態に係る眼球認識に係る動作を説明するための図である。図7(a)のように、制御部150は検出された眼球領域における虹彩情報を用いて、ディスプレイ装置200のユーザが登録されたユーザか否かを判断することができる。もし、ディスプレイ装置200のユーザが登録されたユーザであれば、図7(b)のように、ディスプレイ装置200は画面を表示することができる。なお、図7(b)のように、画面が表示された状態で、ユーザは眼球を上部、下部、左側または右側方向に動かすことができ、この場合、制御部150は検出された眼球領域における動き情報を用いて、ディスプレイ装置200のチャネルを変更することができる。この場合、図7(c)のように、ディスプレイ装置200は変更されたチャネルを表示することができる。なお、ユーザは予め登録された眼球の動作を行い、図7(d)のように、ディスプレイ装置200をオフすることができる。
図8は、本発明の一実施形態に係る撮影制御方法を説明するためのフローチャートである。図8を参照すると、まず、対象体を撮影する(S801)。ここで、撮影するステップは、赤外線を発光するステップと、対象体によって発光された赤外線が反射された反射赤外線を受光するステップと、受光された反射赤外線を用いて、対象体に対する情報を検出するステップ及び検出された対象体に対する情報に基づいて、対象体を自動的に追跡して撮影するステップを含んでよい。
そして、撮影された対象体の撮影映像内から顔領域を検出する(S802)。
そして、検出された顔領域の位置に応じて撮影装置の位置を調整する(S803)。そして、検出された顔領域の大きさが予め設定された大きさの範囲を満たすように撮影装置のズーミング(Zooming)状態を調整する(S804)。ここで、予め設定された大きさの範囲は、対象体の眼球領域を検出するために、撮像領域に撮像されるべき対象体の顔領域の最小の大きさであってよい。
なお、上述の撮影制御方法は、検出された顔領域の位置を対象体が位置している3次元空間座標系における顔領域の位置とマッピングするステップを更に含んでよい。この場合、調整するステップは、マッピングされた3次元空間座標系における顔領域の水平位置に応じて、撮影装置を水平方向に回転させるステップと、マッピングされた3次元空間座標系における顔領域の垂直位置に応じて、撮影装置を垂直方向にティルティングさせるステップと、顔領域の大きさが前記予め設定された大きさの範囲未満である場合にズームイン動作を行い、前記顔領域の大きさが予め設定された大きさの範囲を超過する場合にズームアウト動作を行うステップとを含んでよい。
なお、上述の撮影制御方法は、調整された撮影装置に撮像された顔領域から眼球領域を検出するステップを更に含んでよい。
一方、上述した本発明の多様な実施形態に係る撮影装置の撮影制御方法は、プログラムコードで実現されて多様な非一時的読み取り可能媒体(non−transitory computer readable medium)に保存された状態で各サーバまたは機器に提供されることができる。
非一時的読み取り可能媒体とは、レジスタ、キャッシュ、メモリなどのように短い瞬間の間にデータを保存する媒体でなく半永久的にデータを保存し、機器により読み取り(reading)可能な媒体を意味する。具体的には、上述した多様なアプリケーションまたはプログラムは、CD、DVD、ハードディスク、ブルーレイディスク、USB、メモリーカード、ROMなどのような非一時的読み取り可能媒体に保存されて提供されることができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明は以上の実施形態に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的趣旨の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
100 撮影装置
110 撮像部
111 レンズ部
120 映像処理部
130 位置調整部
140 ズーミング調整部
150 制御部
160 赤外線カメラ部
161 赤外線発光部
162 赤外線受光部
170 バス
175 バッファ
180 コーデック
185 保存部
190 映像出力部
200 ディスプレイ装置
1000 眼球認識装置
110 撮像部
111 レンズ部
120 映像処理部
130 位置調整部
140 ズーミング調整部
150 制御部
160 赤外線カメラ部
161 赤外線発光部
162 赤外線受光部
170 バス
175 バッファ
180 コーデック
185 保存部
190 映像出力部
200 ディスプレイ装置
1000 眼球認識装置
Claims (15)
- 撮影装置の撮影制御方法において、
対象体を撮像するステップと、
前記撮像された対象体の映像内から顔領域を検出するステップと、
前記検出された顔領域の位置に応じて前記撮影装置の位置を調整し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、前記撮影装置のズーミング(Zooming)状態を調整する調整ステップと
を含むことを特徴とする撮影制御方法。 - 前記撮像するステップは、
赤外線を発光するステップと、
前記対象体によって、前記発光された赤外線の反射された反射赤外線を受光するステップと、
前記受光された反射赤外線を用いて対象体を検出するステップと、
前記検出された対象体を自動的に追跡して撮像するステップと
を含むことを特徴とする請求項1に記載の撮影制御方法。 - 前記予め設定された大きさの範囲は、
前記対象体の眼球領域を検出するために、撮像領域に撮像されるべき前記対象体の顔領域の大きさであることを特徴とする請求項1に記載の撮影制御方法。 - 前記検出された顔領域の位置を前記対象体の位置している3次元空間座標系における顔領域の位置とマッピングするステップを更に含むことを特徴とする請求項1に記載の撮影制御方法。
- 前記調整ステップは、
前記マッピングされた3次元空間座標系における顔領域の水平位置に応じて、前記撮影装置を水平方向に回転させるステップと、
前記マッピングされた3次元空間座標系における顔領域の垂直位置に応じて、前記撮影装置を垂直方向にティルティングさせるステップと、
前記顔領域の大きさが前記予め設定された第1大きさの範囲未満である場合にズームイン(Zoom−In)動作を行い、前記顔領域の大きさが予め設定された第2大きさの範囲を超過する場合にズームアウト(Zoom−Out)動作を行うステップと
を含むことを特徴とする請求項4に記載の撮影制御方法。 - 前記調整された撮影装置に撮像された顔領域から眼球領域を検出するステップを更に含むことを特徴とする請求項5に記載の撮影制御方法。
- 撮影装置において、
対象体を撮像する撮像部と、
前記撮影装置の位置を調整するための位置調整部と、
前記撮影装置のズーミング状態を調整するためのズーミング調整部と、
前記撮像された対象体の映像内から顔領域を検出する映像処理部と、
前記検出された顔領域の位置に応じて前記撮影装置の位置を調整するように前記位置調整部を制御し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように前記撮影装置のズーミング状態を調整するように、前記ズーミング調整部を制御する制御部と
を含むことを特徴とする撮影装置。 - 赤外線を発光する赤外線発光部と、
前記対象体によって、前記発光された赤外線の反射された反射赤外線を受光する赤外線受光部と
を含み、
前記映像処理部は、前記受光された反射赤外線を用いて対象体を検出し、
前記制御部は、前記検出された対象体を自動的に追跡して撮像するように前記撮影装置を制御することを特徴とする請求項7に記載の撮影装置。 - 前記予め設定された大きさの範囲は、
前記対象体の眼球領域を検出するために、撮像領域に撮像されるべき前記対象体の顔領域の大きさであることを特徴とする請求項7に記載の撮影装置。 - 前記制御部は、
前記検出された顔領域の位置を前記対象体の位置している3次元空間座標系における顔領域の位置とマッピングすることを特徴とする請求項7に記載の撮影装置。 - 前記制御部は、
前記マッピングされた3次元空間座標系における顔領域の水平位置に応じて、前記撮影装置を水平方向に回転させ、前記マッピングされた3次元空間座標系における顔領域の垂直位置に応じて、前記撮影装置を垂直方向にティルティングさせるように前記位置調整部を制御し、
前記顔領域の大きさが前記予め設定された第1大きさの範囲未満である場合にズームイン(Zoom−In)動作を行い、前記顔領域の大きさが予め設定された第2大きさの範囲を超過する場合にズームアウト(Zoom−Out)動作を行うように前記ズーミング制御部を制御することを特徴とする請求項10に記載の撮影装置。 - 前記制御部は、
前記調整された撮影装置に撮像された顔領域から眼球領域を検出するように前記映像処理部を制御することを特徴とする請求項11に記載の撮影装置。 - 眼球認識装置において、
画面を表示するディスプレイ装置と、
ディスプレイ装置の一領域に配置された撮影装置と、
前記ディスプレイ装置及び前記撮影装置を制御する制御部と
を含み、
前記撮影装置は、
対象体を撮像する撮像部と、
前記撮影装置の位置を調整するための位置調整部と、
前記撮影装置のズーミング状態を調整するためのズーミング調整部と、
前記撮像された対象体の映像内から顔領域を検出する映像処理部と
を含み、
前記制御部は、
前記検出された顔領域の位置に応じて前記撮影装置の位置を調整するように前記位置調整部を制御し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように前記撮影装置のズーミング状態を調整するように前記ズーミング調整部を制御することを特徴とする眼球認識装置。 - 前記制御部は、
前記調整された撮影装置に撮像された顔領域から検出された眼球領域を用いて、前記ディスプレイ装置の動作を制御することを特徴とする請求項13に記載の撮影装置。 - 撮影装置の撮影制御方法を行うためのプログラムコードが記録された記録媒体において、
前記撮影制御方法は、
対象体を撮像するステップと、
前記撮像された対象体の映像内から顔領域を検出するステップと、
前記検出された顔領域の位置に応じて前記撮影装置の位置を調整し、前記検出された顔領域の大きさが予め設定された大きさの範囲を満たすように、前記撮影装置のズーミング(Zooming)状態を調整する調整ステップと
を含む記録媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020120078376A KR20140011215A (ko) | 2012-07-18 | 2012-07-18 | 촬영 장치, 그의 촬영 제어 방법 및 안구 인식 장치 |
KR10-2012-0078376 | 2012-07-18 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014023159A true JP2014023159A (ja) | 2014-02-03 |
Family
ID=48874799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013149091A Withdrawn JP2014023159A (ja) | 2012-07-18 | 2013-07-18 | 撮影装置、その撮影制御方法及び眼球認識装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20140022351A1 (ja) |
EP (1) | EP2688287A3 (ja) |
JP (1) | JP2014023159A (ja) |
KR (1) | KR20140011215A (ja) |
CN (1) | CN103581543A (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015142181A (ja) * | 2014-01-27 | 2015-08-03 | キヤノン株式会社 | 制御装置、制御方法 |
US10334150B2 (en) | 2014-05-14 | 2019-06-25 | Hanwha Aerospace Co., Ltd. | Camera system and method of tracking object using the same |
CN104023177A (zh) * | 2014-06-04 | 2014-09-03 | 华为技术有限公司 | 摄像机控制方法、装置及摄像机 |
JP6381313B2 (ja) * | 2014-06-20 | 2018-08-29 | キヤノン株式会社 | 制御装置、制御方法、およびプログラム |
KR101434878B1 (ko) * | 2014-06-30 | 2014-09-02 | 주식회사 하나씨엔에스 | 감시카메라 시스템 |
KR102223281B1 (ko) * | 2014-07-23 | 2021-03-05 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
KR20170017401A (ko) * | 2015-08-06 | 2017-02-15 | 엘지이노텍 주식회사 | 이미지 처리 장치 |
CN106470310A (zh) * | 2015-08-20 | 2017-03-01 | 宏达国际电子股份有限公司 | 智能型图像提取方法及系统 |
JP7059934B2 (ja) * | 2016-10-17 | 2022-04-26 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、及びプログラム |
CN107452052A (zh) * | 2017-07-18 | 2017-12-08 | 桂林电子科技大学 | 一种三维建模装置 |
CN107633398A (zh) | 2017-08-24 | 2018-01-26 | 阿里巴巴集团控股有限公司 | 图像显示方法及装置和电子设备 |
CN109561249A (zh) * | 2017-09-26 | 2019-04-02 | 北京小米移动软件有限公司 | 调整焦距的方法及装置 |
CN110059678A (zh) * | 2019-04-17 | 2019-07-26 | 上海肇观电子科技有限公司 | 一种检测方法、装置及计算机可读存储介质 |
CN110445982B (zh) * | 2019-08-16 | 2021-01-12 | 深圳特蓝图科技有限公司 | 一种基于六自由度设备的追踪拍摄方法 |
CN113099103A (zh) * | 2020-01-09 | 2021-07-09 | 上海博泰悦臻电子设备制造有限公司 | 用于采集图像的方法、电子设备和计算机存储介质 |
KR20220122317A (ko) | 2021-02-26 | 2022-09-02 | 삼성전자주식회사 | 오토 줌 및 오토 포커스를 수행하는 이미지 시그널 프로세서, 이미지 시그널 프로세서의 이미지 프로세싱 방법 및 이미지 프로세싱 시스템 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20050017754A (ko) * | 2003-08-08 | 2005-02-23 | 삼성테크윈 주식회사 | 홍채 인식 장치 및, 홍채 인식 방법 |
JP5257157B2 (ja) * | 2009-03-11 | 2013-08-07 | ソニー株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
JP5054063B2 (ja) * | 2009-05-07 | 2012-10-24 | パナソニック株式会社 | 電子カメラ、画像処理装置及び画像処理方法 |
KR101694820B1 (ko) * | 2010-05-07 | 2017-01-23 | 삼성전자주식회사 | 사용자 위치 인식 방법 및 장치 |
KR20120057033A (ko) * | 2010-11-26 | 2012-06-05 | 한국전자통신연구원 | Iptv 제어를 위한 원거리 시선 추적 장치 및 방법 |
-
2012
- 2012-07-18 KR KR1020120078376A patent/KR20140011215A/ko not_active Application Discontinuation
-
2013
- 2013-07-17 CN CN201310299681.1A patent/CN103581543A/zh active Pending
- 2013-07-18 US US13/945,151 patent/US20140022351A1/en not_active Abandoned
- 2013-07-18 EP EP13176996.0A patent/EP2688287A3/en not_active Withdrawn
- 2013-07-18 JP JP2013149091A patent/JP2014023159A/ja not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
CN103581543A (zh) | 2014-02-12 |
EP2688287A2 (en) | 2014-01-22 |
KR20140011215A (ko) | 2014-01-28 |
EP2688287A3 (en) | 2014-10-29 |
US20140022351A1 (en) | 2014-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014023159A (ja) | 撮影装置、その撮影制御方法及び眼球認識装置 | |
US9813607B2 (en) | Method and apparatus for image capture targeting | |
US8831282B2 (en) | Imaging device including a face detector | |
EP4154511A1 (en) | Maintaining fixed sizes for target objects in frames | |
CN110248097B (zh) | 追焦方法、装置、终端设备、计算机可读存储介质 | |
JP6532217B2 (ja) | 画像処理装置、画像処理方法、及び画像処理システム | |
US10701281B2 (en) | Image processing apparatus, solid-state imaging device, and electronic apparatus | |
EP2768214A2 (en) | Method of tracking object using camera and camera system for object tracking | |
US9628700B2 (en) | Imaging apparatus, imaging assist method, and non-transitory recoding medium storing an imaging assist program | |
KR101642402B1 (ko) | 촬영 구도를 유도하는 디지털 영상 촬영 장치 및 방법 | |
CN105359502B (zh) | 追踪装置、追踪方法以及存储了追踪程序的非易失性存储介质 | |
CN108111768B (zh) | 控制对焦的方法、装置、电子设备及计算机可读存储介质 | |
WO2016004819A1 (zh) | 一种拍摄方法、拍摄装置和计算机存储介质 | |
JP2011211598A (ja) | 撮像システムおよび撮像装置 | |
JP5159390B2 (ja) | 物体検知方法及びその装置 | |
Dinh et al. | High resolution face sequences from a PTZ network camera | |
JP4716266B2 (ja) | 画像処理装置、撮像装置及びそのプログラム | |
KR101427616B1 (ko) | 다중 사용자 얼굴 검출 방법 및 이를 지원하는 단말 장치 | |
JP5539565B2 (ja) | 撮像装置及び被写体追跡方法 | |
JP5111293B2 (ja) | 撮像装置及びその制御方法 | |
CN113837033A (zh) | 一种搭载有tof模组的人脸识别方法 | |
JP2016048863A (ja) | 被写体検出装置、その制御方法、撮像装置、表示装置及びプログラム | |
JP5323243B2 (ja) | 画像処理装置及びその制御方法 | |
JP2010154374A (ja) | 撮像装置および被写体追跡方法 | |
JP2010204792A (ja) | シンボル読取装置、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160204 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20161222 |