[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2024099985A - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP2024099985A
JP2024099985A JP2023003657A JP2023003657A JP2024099985A JP 2024099985 A JP2024099985 A JP 2024099985A JP 2023003657 A JP2023003657 A JP 2023003657A JP 2023003657 A JP2023003657 A JP 2023003657A JP 2024099985 A JP2024099985 A JP 2024099985A
Authority
JP
Japan
Prior art keywords
subject
imaging device
area image
information
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023003657A
Other languages
English (en)
Inventor
翔平 勝箭
Shohei Katsuya
聡 窪田
Satoshi Kubota
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2023003657A priority Critical patent/JP2024099985A/ja
Priority to US18/409,096 priority patent/US20240242543A1/en
Priority to CN202410046335.0A priority patent/CN118354196A/zh
Publication of JP2024099985A publication Critical patent/JP2024099985A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/50Maintenance of biometric data or enrolment thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】互いに異なるアルゴリズムで被写体認証を行う撮像装置間において一方の撮像装置での登録情報を用いて他方の撮像装置で被写体認証が行えるようにする。【解決手段】撮像装置101は、撮像画像から被写体を検出する検出手段211と、撮像画像のうち被写体領域画像から被写体の特徴に関する特徴情報を取得する特徴取得手段214と、第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と第1の被写体領域画像とを、被写体認証用の登録情報として記憶する第1の記憶手段216と、登録情報のうち第1の被写体領域画像を第1の特徴情報を伴わずに外部に出力する出力手段201とを有する。【選択図】図2

Description

本発明は、被写体認証機能を有する撮像装置に関する。
デジタルカメラ等の撮像装置には、撮像により生成される画像から被写体(人の顔や瞳等)を検出し、被写体に追従するようにAF(オートフォーカス)を実行し続ける追尾AFが可能なものがある。
また、特許文献1には、追尾対象としての人物を事前に登録しておくと、顔認証を用いて登録人物を自動的に選択する撮像装置が開示されている。顔認証では、登録用の顔画像から特徴情報を抽出して不揮発性メモリに記憶しておき、撮像において生成される画像の中から検出された顔に対して抽出された特徴情報と不揮発性メモリに記憶された特徴情報との類似度を比較することで登録人物か否かを判定する。
特開2008-187591号公報
上記のような顔認証機能を有する撮像装置において登録された人物の特徴情報を、別の撮像装置にコピーして、該別の撮像装置でも同様に顔認証を行いたいという要望がある。しかしながら、ある撮像装置で特徴情報を抽出したり該特徴情報を用いて顔認証を行ったりするアルゴリズムがその撮像装置に特有のアルゴリズムである場合には、その撮像装置で得られた特徴情報を用いて別の撮像装置で顔認証が行えないことがある。
本発明は、互いに異なるアルゴリズムで被写体認証を行う撮像装置間において、一方の撮像装置での登録情報を用いて他方の撮像装置で被写体認証が行えるようにすることを目的とする。
本発明の一側面としての撮像装置は、撮像画像から被写体を検出する第1の検出手段と、撮像画像のうち被写体が含まれる被写体領域画像から被写体の特徴に関する特徴情報を取得する第1の特徴取得手段と、第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と第1の被写体領域画像とを、被写体認証用の登録情報として記憶する第1の記憶手段と、登録情報のうち第1の被写体領域画像を第1の特徴情報を伴わずに外部に出力する出力手段とを有することを特徴とする。
本発明の他の一側面としての撮像装置は、第1の撮像画像のうち第1の被写体領域画像から取得した第1の被写体の特徴に関する第1の特徴情報と第1の被写体領域画像とを被写体認証用の登録情報として記憶するとともに、登録情報のうち第1の被写体領域画像を第1の特徴情報を伴わずに外部に出力する第1の撮像装置とは別の第2の撮像装置であって、第1の撮像装置から出力された第1の被写体領域画像から第1の被写体の特徴に関する第3の特徴情報を取得する第2の特徴取得手段と、第3の特徴情報を含む被写体認証用の登録情報を記憶する第2の記憶手段とを有することを特徴とする。
また本発明の他の一側面としての制御方法は、撮像画像のうち検出された被写体が含まれる被写体領域画像から被写体の特徴に関する特徴情報を取得する撮像装置に適用される。該制御方法は、第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と第1の被写体領域画像とを、被写体認証用の登録情報として第1の記憶手段に記憶させるステップと、登録情報のうち第1の被写体領域画像を第1の特徴情報を伴わずに外部に出力するステップとを有することを特徴とする。
さらに本発明の他の一側面としての制御方法は、第1の撮像画像のうち第1の被写体領域画像から取得した第1の被写体の特徴に関する第1の特徴情報と第1の被写体領域画像とを被写体認証用の登録情報として記憶するとともに、登録情報のうち第1の被写体領域画像を第1の特徴情報を伴わずに外部に出力する第1の撮像装置とは別の第2の撮像装置に適用される。該制御方法は、第1の撮像装置から出力された第1の被写体領域画像から第1の被写体の特徴に関する第3の特徴情報を取得するステップと、第3の特徴情報を含む被写体認証用の登録情報を第2の記憶手段に記憶させるステップとを有することを特徴とする。なお、上記各制御方法に従う処理を撮像装置のコンピュータに実行させるプログラムも、本発明の他の一側面を構成する。
本発明によれば、互いに異なるアルゴリズムで被写体認証を行う撮像装置間において、一方の撮像装置で登録された第1の被写体領域画像を用いて他方の撮像装置で被写体認証を行うことができる。
実施例1の撮像装置の構成を示す図。 実施例1の撮像装置の電気的構成を示すブロック図。 実施例1において実行される被写体登録処理を示すフローチャート。 実施例1において複数の被写体に対する認証処理例を示す図。 実施例1において実行される認証処理を示すフローチャート。 実施例1において記憶される登録データと外部に出力するバイナリデータのメモリマップを示す図。 実施例において実行されるデータベースから外部記憶装置への登録情報の書出し処理を示すフローチャート。 実施例2において実行される被写体登録処理を示すフローチャート。
以下、本発明の実施例について図面を参照しながら説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
図1は、実施例である撮像装置(以下、カメラ本体101という)の構成を示している。カメラ本体101には、交換式のレンズユニット120が着脱可能に装着されている。レンズユニット120は、フォーカスレンズ121および絞り122等を含む撮像光学系を有し、カメラ本体101にマウント接点部123を介して電気的に接続される。カメラ本体101は、マウント接点部123を介した通信を通じてレンズユニット120にフォーカスレンズ121および絞り122を制御させてフォーカシングおよび光量調節を行わせる。
カメラ本体101に設けられた撮像素子104は、CCDセンサやCMOSセンサ等の光電変換素子である。撮像素子104には、不図示の赤外カットフィルタやローパスフィルタ等が設けられている。撮像素子104は、撮像光学系により形成された光学像としての被写体像を光電変換(撮像)して撮像信号を画像処理装置としての演算装置102に出力する。演算装置102は、撮像信号から被写体観察用の画像データとしてのライブビュー(LV)画像を生成したり記録用の画像データを生成したりする。生成されたライブビュー画像は、LCD等の表示部105に表示される。記録用の画像データは、後述する外部記憶装置107に記録される。シャッター103は、操作部106内の撮像スイッチの操作に応じて開閉動作することで撮像素子104に対する露光量を制御する。
図2は、カメラ本体101内の電気的構成を示している。図2において、図1中の構成要素と同じ構成要素については、図1と同符号を付している。
演算装置102は、CPUやGPU等を含むコンピュータにより構成され、制御部201、主被写体演算部202、追尾演算部203、フォーカス演算部204、露出演算部205およびデータベース216を有する。制御手段としての制御部201は、カメラ本体101およびレンズユニット120の動作全体を制御する。
主被写体演算部202は、第1の検出手段としての被写体検出器211、主被写体判定部212および認証器213により構成されている。認証器213は、第1の特徴取得手段としての特徴抽出部214と第1の認証手段としての認証部215を含む。
被写体検出器211は、LV画像内において被写体を含む1または複数の被写体領域を検出する処理を行う。本実施例では、被写体として人物の顔を含む被写体領域を検出する。被写体領域の検出手法としては、AdaBoostや畳み込みニューラルネットワーク等の公知の任意の手法を用いることができる。また、それらの手法を用いた検出処理をCPU上で動作するプログラムに従って実行してもよいし、専用ハードウェアで実行してもよいし、それらを組み合わせて実行してもよい。
被写体検出器211から得られる被写体検出結果は、主被写体判定部212と特徴抽出部214に送られる。特徴抽出部214は、検出された被写体領域から被写体の特徴に関する特徴情報を抽出して認証部215に出力する。認証部215は、特徴抽出部214から入力された特徴情報と第1の記憶手段としてのデータベース216に予め登録されている登録被写体の特徴情報との類似度を算出する。そして類似度を示す認証評価値に基づいて、被認証対象である検出被写体が登録被写体であるか否かを判定する。具体的には、認証評価値が所定の閾値以上であるとき、検出被写体が登録被写体であると判定(認証)する。
主被写体判定部212は、この認証結果と被写体検出結果とに基づいて主被写体を判定する。
なお、認証部215は、認証評価値に基づいて検出被写体を登録被写体として認証できないときは、その旨を主被写体判定部212に伝える。この場合、主被写体判定部212は、主被写体を判定しない。
追尾演算部203は、主被写体判定部212で判定された主被写体を追尾するように、LV画像(つまりは撮像素子104)上でのAF領域とAE(自動露出)領域を演算する。フォーカス演算部204は、AF領域でのフォーカス情報(LV画像のコントラスト評価値や撮像光学系のデフォーカス量)を取得する。制御201は、フォーカス情報に基づいてフォーカスレンズ121を制御するためのフォーカス指示をレンズユニット120に送信する。レンズユニット120は、フォーカス指示に応じてフォーカスレンズ121を駆動する。これにより、主被写体に対するフォーカス制御としての追尾AFが行われる。また露出演算部205は、AE領域での輝度情報を取得する。制御部201は、輝度情報に基づいて絞り122を制御するための絞り指示をレンズユニット120に送信する。レンズユニット120は、絞り指示に応じて絞り122を駆動する。これにより、主被写体に対する露出制御としての追尾AEが行われる。
外部記憶装置107は、カメラ本体101に対して着脱が可能な半導体メモリや光ディスク等の記録媒体により構成され、記録用画像データや後述する認証用画像データとしての顔画像を記憶する。
図3のフローチャートは、主被写体演算部202がプログラムに従って実行する処理のうちデータベース216への被写体登録処理を示している。ユーザは、カメラ本体101により登録したい人物の顔を撮像して登録用の撮像画像データ(以下、登録用画像という)を用意する。
まずステップS301では、主被写体演算部202は、登録用画像(第1の撮像画像)を読み込む。登録用画像は、その直前の撮像により演算装置102内で生成されたものでもよいし、外部記憶装置107に予め記憶されていたものであってもよい。
次にステップS302では、主被写体演算部202は、被写体検出器211に登録用画像からの被写体検出を行わせる。このとき、主被写体演算部202は、被写体検出器211に、目、鼻、口等の顔のパーツが検出でき、後述する特徴情報の抽出が正しく行える顔のみを検出させる。
次にステップS303では、主被写体演算部202は、被写体検出器211により検出された被写体の数を判定する。検出された被写体が複数である場合はステップS304に進み、検出された被写体が1つであればステップS305に進む。
ステップS304では、主被写体演算部202は、検出された複数の被写体の中から登録する被写体を選択する。このときの選択方法としては、検出された複数の被写体を表示部105に表示してそのうち登録する被写体をユーザに選択させる方法でもよいし、登録用画像の中央または所定のエリアに最も近い被写体を自動選択する方法でもよい。また、複数の被写体のうち最もサイズが大きい被写体を自動選択する方法でもよい。被写体を選択すると、ステップS305に進む。
ステップS305では、主被写体演算部202は、登録用画像から被写体領域の画像部分(以下、被写体領域画像という)を切り出す。主被写体演算部202は、切り出す被写体領域画像として、検出された被写体の実領域に対して所定の余白を持った領域の画像とし、顔だけでなく頭部全体が含まれる画像とする。
次にステップ306では、主被写体演算部202は、特徴抽出部214にステップS305で切り出された被写体領域画像から特徴情報を抽出させる。このときの特徴抽出部214への入力画像を被写体検出器211に入力された登録用画像とし、該登録用画像に含まれる被写体領域画像から特徴情報を抽出させてもよい。特徴情報には、目、鼻、口等の顔のパーツの特徴点の座標からルールベースで求められる情報や、入力画像をニューラルネットワークへの入力とし、その出力として求められる情報等がある。特徴情報は、被写体の特徴を直接示す情報であってもよいし、特徴に変換可能な情報であってもよい。
次にステップS307では、主被写体演算部202は、ステップS306で取得された特徴情報(第1の特徴情報)、被写体領域画像、ヘッダー情報および被写体情報を相互に関連付けて1つの登録情報としてデータベース216に記憶させる。ヘッダー情報には、カメラ本体101において使用している認証器213を識別するためのバージョン情報、チェックサム、画像サイズおよび特徴情報のサイズの情報が含まれる。バージョン情報は、互いにバージョン情報が異なる認証器間の互換性を確認するために使用される。例えば、特徴情報の抽出に必要な画像サイズが極端に異なる認証器間では互換性がないとする。
認証器に互換性がなくても被写体領域画像から特徴情報を抽出できる場合には、以下の例がある。カメラ本体Aはマスクをした人の顔の登録が可能なアルゴリズムを有し、カメラ本体Aとは異なる機種のカメラ本体Bはマスクをした人の顔の登録が不可能というアルゴリズムを有するものとする。この場合、カメラ本体Bからカメラ本体Aに渡されたマスク顔の被写体領域画像からカメラ本体Aにおいて特徴情報を抽出することができる。ただし、カメラ本体Aからカメラ本体Bに渡されたマスク顔の被写体領域画像からカメラ本体Bは特徴情報を抽出できない。
被写体情報には、被写体の特徴情報が保管されているアドレスや被写体領域画像が保管されているアドレス等が含まれる。以下、これら特徴情報、被写体領域画像、ヘッダー情報および被写体情報をまとめて登録情報という。
データベース216には、複数の被写体の登録情報を記憶させることが可能である。また登録されている被写体のそれぞれに対して優先順位を設定することが可能であり、被写体情報には優先順位に関する情報が含まれる。優先順位に関する情報は、1、2、3等のように優先順位を直接示す情報であってもよいし、優先順位に変換可能な情報であってもよい。
図4(a)~(e)は、LV画像(第2の撮像画像)に複数の被写体が含まれる場合における認証処理の例を示している。図5のフローチャートは、主被写体演算部202がプログラムに従って実行する処理のうち認証処理を示している。
図4(a)は、5名の人物P1~P5の撮像シーンを示している。人物P1と人物P3が予めデータベース216に登録されており、人物P1の優先度が人物P3の優先度よりも高く設定されているものとする。
認証処理は、静止画または動画としての記録用画像の撮像前に所定のフレームレートで生成されるLV画像の全フレーム画像または所定フレームごとのフレーム画像を入力画像として行われる。
図5のステップS501では、主被写体演算部202は、図4(a)に示す入力画像を被写体検出器211に入力する。
次にステップS502では、主被写体演算部202は、被写体検出器211に入力画像内の被写体を検出させる。被写体検出器211が1フレームにおいて検出可能な被写体数は、フレームレート、CPUまたはGPUの性能および被写体検出用のアルゴリズムでの処理量等によって異なる。ここでは、1フレームで少なくとも5名は検出可能であるものとする。被写体検出器211は、図4(b)に示すように人物P1~P5を検出し、その検出結果を主被写体判定部212と認証器213に出力する。
次にステップS503では、主被写体演算部202は、認証器213に、ステップS502で検出された人物P1~P5の中から認証を行う被写体を選択させる。認証器213が1フレームにおいて認証可能な被写体数も被写体検出器211と同様に上限がある。ここでは、認証器213は、1フレームで3名までの認証が可能であるものとする。このため、本ステップでは、認証部215は、人物P1~P5の中から3名を選択する。選択方法としては、例えば、あるフレームでは検出結果における左側3名を認証し、次のフレームでは左から4番目以降の被写体を認証するというように、フレームごとに認証する被写体が変わるように選択してもよい。また、すでに認証が済んで登録済みとなった被写体に対しては認証周期を下げるというように、被写体ごとの認証の優先度に応じて選択してもよい。ここでは、図4(c)に示すように、人物P1~P3が認証する被写体として選択されたものとする。
次にステップS505では、主被写体演算部202は、認証器213に、選択された検出被写体のそれぞれの認証を行わせる。認証器213は、まず特徴抽出部214において、入力画像における選択された検出被写体の画像部分から該検出被写体の特徴情報(第2の特徴情報)を抽出する。特徴情報の抽出に用いられるアルゴリズムには、前述したように、目、鼻、口等の顔のパーツの特徴点の座標からルールベースで特徴情報を取得するアルゴリズムや、入力画像をニューラルネットワークへの入力とし、その出力として特徴情報を取得するアルゴリズム等がある。特徴抽出部214は、抽出した特徴情報を認証部215に入力する。
認証部215は、データベース216に記憶された登録被写体の特徴情報(第1の特徴情報)を読み込む。そして、読み込んだ登録被写体の特徴情報と特徴抽出部214から入力された検出被写体の特徴情報(第2の特徴情報)との類似度を計算し、該類似度を表す認証評価値を生成する。認証部215は、認証評価値が所定の閾値以上である場合は認証成功(検出被写体が登録被写体である)と判定し、所定の閾値未満である場合は認証失敗と判定して、判定結果を主被写体判定部212に通知する。ここでは、図4(d)に示すように、人物P1と人物P3に対する認証が成功したものとする。
次のステップS506以降では、主被写体演算部202は、主被写体判定部212に主被写体を判定させる。まずステップS506では、主被写体判定部212は、認証器213で認証に成功した被写体の数が複数であるか否かを判定する。認証成功の被写体が1名である場合はその被写体を主被写体候補とみなしてステップS508に進む。認証成功の被写体が複数名である場合はステップS507に進む。
ステップS507では、主被写体判定部212は、認証成功の複数の被写体のうち最も優先度が高い被写体を選択して主被写体候補とする。先に説明したように、ここでは人物P1の優先度が人物P3の優先度よりも高いので、図4(e)に示すように、人物P1が主被写体候補として選択される。そしてステップS508に進む。
ステップS508では、主被写体判定部212は、主被写体候補の情報と被写体検出器211からの検出結果とに基づいて最終的な主被写体を決定する。
以上の認証処理により、予め登録された人物が優先的に主被写体として自動選択され、該主被写体に対して適切な追尾AFや追尾AEが実行される。
図6(a)はデータベース216における登録情報記憶領域内のメモリマップを示し、図6(b)はデータベース216から制御部201を介して外部記憶装置107に出力されるバイナリデータのメモリマップを示している。ユーザが操作部106において所定の情報出力操作を行うと、出力手段としての制御部201がデータベース216に記憶されている登録被写体の登録情報を外部記憶装置107に出力する。データベース216における登録情報記憶領域には、図6(a)に示すように、相互に関連付けられたヘッダー情報、被写体情報、被写体領域画像および特徴情報が異なるアドレスに分けられて記憶される。このとき、特徴情報は、登録情報の末端に配置される。データベース216に複数の登録被写体の登録情報が記憶されている場合は、登録被写体ごとの登録情報記憶領域にヘッダー情報、被写体情報、被写体領域画像および特徴情報が記憶される。
図7のフローチャートは、出力手段としての制御部201がプログラムに従ってデータベース216に記憶(登録)された登録情報を外部記憶装置107に書き出す処理を示している。
ステップS801では、制御部201は、ユーザにより操作部106にて登録情報を出力する情報出力操作が行われたか否かを判定する。情報出力操作が行われた場合はステップS802に進み、行われていない場合は本判定を繰り返す。
ステップS802では、制御部201は、データベース(DB)216内の登録情報のうち特徴情報を除いたヘッダー情報、被写体情報および被写体領域画像を1つのバイナリファイルとして外部記憶装置107に出力する。すなわち、特徴情報を伴わずに被写体領域画像を外部としての外部記憶装置107に出力する。出力ファイルには、図6(b)に示す配置でヘッダー情報、被写体情報および被写体領域画像が記憶される。データベース216に複数の登録被写体の登録情報が記憶されている場合は、全ての登録被写体のヘッダー情報、被写体情報および被写体領域画像がまとめて1つのバイナリファイルとして出力される。バイナリファイルには、ユーザが任意の名前を付けることが可能である。これにより、ユーザは登録情報を組織やグループ単位で名称を付けて管理することが可能である。さらに被写体情報に複数の登録被写体に対する優先順位の情報が含まれている場合は、その優先順位の情報も出力される。
こうしてデータベース216から外部記憶装置107への登録情報の書き出しが完了すると、本処理を終了する。
外部記憶装置107はカメラ本体101とは別の撮像装置(図示せず)に装着され、該別の撮像装置にて外部記憶装置107に記憶されたヘッダー情報、被写体情報および被写体領域画像が読み出される。該別の撮像装置は、読み出した被写体領域画像から被写体の特徴情報を抽出し、上記ヘッダー情報、被写体情報および被写体領域画像と特徴情報を含む登録情報をデータベースに記憶する。
次に実施例2について説明する。本実施例のカメラ本体(第2の撮像装置)は、図1および図2に示した実施例1のカメラ本体(第1の撮像装置)101と同様の構成を有し、本実施例のカメラ本体の構成要素には実施例1で使用した符号に「′」を付した符号を付す。ただし、本実施例のカメラ本体は、認証器213′が実施例1における認証器213とは互換性がない(顔認証に関するアルゴリズムが異なる)カメラ本体である。
図8のフローチャートは、本実施例において制御部201′および主被写体演算部202′がプログラムに従って実行する被写体登録処理を示している。なお、本実施例の被写体登録処理を実施例1のカメラ本体101にて実行してもよい。
まずステップS701において、実施例1のカメラ本体101から取り外された外部記憶装置107が装着された本実施例のカメラ本体の制御部201′は、外部記憶装置107に記憶されたヘッダー情報を参照してバイナリファイル内の登録情報を検証する。この検証では、チェックサムを用いた登録情報の破損や改ざんの有無や、登録情報を生成した認証器213のバージョン情報から認証器213′との互換性の有無を確認する。検証に成功した場合はステップS702に進み、検証に失敗した場合は以降の処理は行わずに読み込みを終了する。
ステップS702では、記憶処理手段としての制御部201′は、ユーザが登録情報読み込みモードとして、上書き読込みモード(上書き処理)と追加読込みモード(追加記憶処理)のうちどちらを選択したかを判定する。上書き読込みモードでは、第2の記憶手段としてのデータベース216′に先に記憶されていた被写体領域画像を削除してからデータベース216′に外部記憶装置107から読み込んだ被写体領域画像(第1の被写体領域画像)を記憶させる。追加読込みモードでは、データベース216′に先に記憶されていた被写体領域画像を保持したまま外部記憶装置107から読み込んだ被写体領域画像を記憶させる。追加読込みモードが選択された場合はステップS704に進み、上書き読込みモードが選択された場合はステップS703に進む。
ステップS703では、制御部201′は、データベース216′における先に記憶されていた既存の登録情報を削除してデータベース216を初期化する。その後ステップS704に進む。
次にステップS704では、制御部201は、バイナリファイル内の被写体情報および被写体領域画像を読み込んで、データベース216′における対応する登録情報記憶領域に記憶させる。この際、追加読込みモードでは、既存の登録被写体の被写体情報に含まれる優先順位を重視するため、予め定められたルールに従って優先順位を更新する。
続いてステップS705では、制御部201′は、ステップS704で複数の被写体領域画像を読み込んだ場合は、そのうちの1つを選択する。
次にステップS706では、主被写体演算部202′は登録処理を行う。具体的には、主被写体演算部202′は、認証器213′における第2の特徴取得手段としての特徴抽出部214′にステップS704でデータベース216′に記憶された被写体領域画像から図3のステップS306と同様に被写体(第1の被写体)の特徴情報(第3の特徴情報)を抽出させる。さらに主被写体演算部202′は、図3のステップS307と同様に、抽出した特徴情報、被写体領域画像、ヘッダー情報および被写体情報を相互に関連付けて1つの登録情報としてデータベース216′に記憶させる。
次にステップS707では、主被写体演算部202′は、データベース216′に読み込んだ全ての被写体領域画像に対してステップS706での特徴情報の抽出とデータベース216′への記憶が完了したか否かを判定する。全ての被写体領域画像の特徴情報の抽出と記憶が完了するまでステップS705~ステップS706の処理を繰り返し、全ての被写体領域画像の特徴情報の抽出と記憶が完了すると、本処理を終了する。
この後、主被写体演算部202′は、第2の検出手段としての被写体検出器211′に、図5のステップS502と同様に、LV画像(第3の撮像画像)から被写体(第3の被写体)を検出させる。そして、第3の特徴取得手段としての特徴抽出部214′に、図5のステップS504と同様に、LV画像のうち被写体領域画像(第3の被写体領域画像)から検出被写体の特徴情報(第4の特徴情報)を抽出させる。さらに第2の認証手段としての認証部215′に、図5のステップS505と同様に、検出被写体の特徴情報とデータベース216′内の登録被写体の特徴情報の類似度(認証評価値)に基づいて、検出被写体が登録被写体(第1の被写体)であるか否かの認証処理を行わせる。
さらに実施例1と同様に、追尾演算部203′は、主被写体判定部212′で判定された主被写体(登録被写体であると認証された検出被写体)を追尾するように、AF領域とAE領域を演算する。制御部201′は、フォーカス演算部204′が取得したAF領域でのフォーカス情報に基づいて追尾AFを行い、また露出演算部205が取得したAE領域での輝度情報に基づいて追尾AEを行う。複数の検出被写体が検出され、外部記憶装置107に複数の登録被写体の優先順位に関する情報が記憶されていた場合は、優先順位がより高い登録被写体であると認証された検出被写体に対してより優先して追尾AFや追尾AEを行う。
以上説明したように、実施例1では、撮像装置においてデータベースに記憶されている登録情報を外部記憶装置に出力する際には特徴情報を出力せずに被写体領域画像を出力する。また実施例2では、実施例1にて外部記憶装置に記憶された登録情報のうち被写体領域画像を別の撮像装置のデータベースに記憶し、該被写体領域画像から特徴情報を抽出して被写体認証に用いる。これにより、被写体認証に関するアルゴリズムが互いに異なる撮像装置間において、一方の撮像装置で登録された被写体領域画像を用いて他方の撮像装置で被写体認証を行うことができる。
なお、上記各実施例では、認証器に互換性がない撮像装置間で外部記憶装置を介して被写体領域画像をやり取りする場合について説明したが、有線または無線通信を介して被写体領域画像をやり取りしてもよい。
以上の実施の形態は、以下の構成を含む。
(構成1)
撮像画像から被写体を検出する第1の検出手段と、
前記撮像画像のうち前記被写体が含まれる被写体領域画像から前記被写体の特徴に関する特徴情報を取得する第1の特徴取得手段と、
第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを、被写体認証用の登録情報として記憶する第1の記憶手段と、
前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力する出力手段とを有することを特徴とする撮像装置。
(構成2)
第2の撮像画像のうち第2の被写体領域画像から取得された第2の被写体の特徴に関する第2の特徴情報と前記第1の特徴情報とを用いて前記第2の被写体が前記第1の被写体であることを認証する第1の認証手段を有することを特徴とする構成1に記載の撮像装置。
(構成3)
前記第1の被写体であると認証された前記第2の被写体に対してフォーカス制御および露出制御のうち少なくとも一方を行う制御手段を有することを特徴とする構成2に記載の撮像装置。
(構成4)
前記第1の記憶手段が複数の前記第1の被写体のそれぞれに対する前記登録情報を記憶している場合に、前記出力手段は、前記複数の第1の被写体の前記第1の被写体領域画像を1つのファイルに含めて前記外部に出力することを特徴とする構成1から3のいずれか1つに記載の撮像装置。
(構成5)
前記第1の記憶手段が複数の前記第1の被写体のそれぞれに対する前記登録情報を記憶しており、前記登録情報に前記複数の第1の被写体に対する優先順位に関する情報が含まれている場合に、前記出力手段は、前記複数の第1の被写体の前記第1の被写体領域画像と前記優先順位に関する情報を前記外部に出力することを特徴とする構成1から4のいずれか1つに記載の撮像装置。
(構成6)
前記第2の撮像画像から複数の前記第2の被写体が検出された場合において、前記複数の第2の被写体のうち前記優先順位がより高い前記第1の被写体であると認証された前記第2の被写体に対してより優先してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする構成5に記載の撮像装置。
(構成7)
前記出力手段は、前記外部に設けられた、前記撮像装置に着脱可能な記憶媒体に前記第1の被写体領域画像を出力することを特徴とする構成1から6のいずれか1つに記載の撮像装置。
(構成8)
第1の撮像画像のうち第1の被写体領域画像から取得した第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを被写体認証用の登録情報として記憶するとともに、前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力する第1の撮像装置とは別の第2の撮像装置であって、
前記第1の撮像装置から出力された前記第1の被写体領域画像から前記第1の被写体の特徴に関する第3の特徴情報を取得する第2の特徴取得手段と、
前記第3の特徴情報を含む被写体認証用の登録情報を記憶する第2の記憶手段とを有することを特徴とする撮像装置。
(構成9)
第3の撮像画像から第3の被写体を検出する第2の検出手段と、
前記第3の撮像画像のうち前記第3の被写体が含まれる第3の被写体領域画像から前記第3の被写体の特徴に関する第4の特徴情報を取得する第3の特徴取得手段と、
前記第4の特徴情報と前記第3の特徴情報とを用いて前記第3の被写体が前記第1の被写体であることの認証を行う第2の認証手段とを有することを特徴とする構成8に記載の撮像装置。
(構成10)
前記第1の被写体であると認証された前記第3の被写体に対してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする構成9に記載の撮像装置。
(構成11)
前記第3の撮像画像から複数の前記第3の被写体が検出され、前記第1の撮像装置から複数の前記第1の被写体に対する優先順位に関する情報が出力された場合において、前記複数の第3の被写体のうち前記優先順位がより高い前記第1の被写体であると認証された第3の被写体に対してより優先してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする構成9に記載の撮像装置。
(構成12)
前記第1の撮像装置に着脱可能な記憶媒体を介して前記第1の被写体領域画像を取得することを特徴とする構成8から11のいずれか1つに記載の撮像装置。
(構成13)
前記第2の記憶手段に先に記憶されていた被写体領域画像を削除してから前記第2の記憶手段に前記第1の被写体領域画像を記憶させる上書き処理と、前記第2の記憶手段に先に記憶されていた被写体領域画像を保持したまま前記第2の記憶手段に前記第1の被写体領域画像を記憶させる追加記憶処理とを選択して行う記憶処理手段を有することを特徴とする特徴する構成8から12のいずれか1つに記載の撮像装置。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
101 カメラ本体
102 演算装置
107 外部記憶装置
201 制御部
202 主被写体演算部
211 被写体検出部
213 認証器
216 データベース

Claims (17)

  1. 撮像画像から被写体を検出する第1の検出手段と、
    前記撮像画像のうち前記被写体が含まれる被写体領域画像から前記被写体の特徴に関する特徴情報を取得する第1の特徴取得手段と、
    第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを、被写体認証用の登録情報として記憶する第1の記憶手段と、
    前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力する出力手段とを有することを特徴とする撮像装置。
  2. 第2の撮像画像のうち第2の被写体領域画像から取得された第2の被写体の特徴に関する第2の特徴情報と前記第1の特徴情報とを用いて前記第2の被写体が前記第1の被写体であることを認証する第1の認証手段を有することを特徴とする請求項1に記載の撮像装置。
  3. 前記第1の被写体であると認証された前記第2の被写体に対してフォーカス制御および露出制御のうち少なくとも一方を行う制御手段を有することを特徴とする請求項2に記載の撮像装置。
  4. 前記第1の記憶手段が複数の前記第1の被写体のそれぞれに対する前記登録情報を記憶している場合に、前記出力手段は、前記複数の第1の被写体の前記第1の被写体領域画像を1つのファイルに含めて前記外部に出力することを特徴とする請求項1に記載の撮像装置。
  5. 前記第1の記憶手段が複数の前記第1の被写体のそれぞれに対する前記登録情報を記憶しており、前記登録情報に前記複数の第1の被写体に対する優先順位に関する情報が含まれている場合に、前記出力手段は、前記複数の第1の被写体の前記第1の被写体領域画像と前記優先順位に関する情報を前記外部に出力することを特徴とする請求項1に記載の撮像装置。
  6. 前記第2の撮像画像から複数の前記第2の被写体が検出された場合において、前記複数の第2の被写体のうち前記優先順位がより高い前記第1の被写体であると認証された前記第2の被写体に対してより優先してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする請求項5に記載の撮像装置。
  7. 前記出力手段は、前記外部に設けられた、前記撮像装置に着脱可能な記憶媒体に前記第1の被写体領域画像を出力することを特徴とする請求項1に記載の撮像装置。
  8. 第1の撮像画像のうち第1の被写体領域画像から取得した第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを被写体認証用の登録情報として記憶するとともに、前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力する第1の撮像装置とは別の第2の撮像装置であって、
    前記第1の撮像装置から出力された前記第1の被写体領域画像から前記第1の被写体の特徴に関する第3の特徴情報を取得する第2の特徴取得手段と、
    前記第3の特徴情報を含む被写体認証用の登録情報を記憶する第2の記憶手段とを有することを特徴とする撮像装置。
  9. 第3の撮像画像から第3の被写体を検出する第2の検出手段と、
    前記第3の撮像画像のうち前記第3の被写体が含まれる第3の被写体領域画像から前記第3の被写体の特徴に関する第4の特徴情報を取得する第3の特徴取得手段と、
    前記第4の特徴情報と前記第3の特徴情報とを用いて前記第3の被写体が前記第1の被写体であることの認証を行う第2の認証手段とを有することを特徴とする請求項8に記載の撮像装置。
  10. 前記第1の被写体であると認証された前記第3の被写体に対してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする請求項9に記載の撮像装置。
  11. 前記第3の撮像画像から複数の前記第3の被写体が検出され、前記第1の撮像装置から複数の前記第1の被写体に対する優先順位に関する情報が出力された場合において、前記複数の第3の被写体のうち前記優先順位がより高い前記第1の被写体であると認証された第3の被写体に対してより優先してフォーカス制御および露出制御のうち少なくとも一方を行うことを特徴とする請求項9に記載の撮像装置。
  12. 前記第1の撮像装置に着脱可能な記憶媒体を介して前記第1の被写体領域画像を取得することを特徴とする請求項8に記載の撮像装置。
  13. 前記第2の記憶手段に先に記憶されていた被写体領域画像を削除してから前記第2の記憶手段に前記第1の被写体領域画像を記憶させる上書き処理と、前記第2の記憶手段に先に記憶されていた被写体領域画像を保持したまま前記第2の記憶手段に前記第1の被写体領域画像を記憶させる追加記憶処理とを選択して行う記憶処理手段を有することを特徴とする特徴する請求項8に記載の撮像装置。
  14. 撮像画像のうち検出された被写体が含まれる被写体領域画像から前記被写体の特徴に関する特徴情報を取得する撮像装置の制御方法であって、
    第1の撮像画像のうち第1の被写体領域画像から取得された第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを、被写体認証用の登録情報として第1の記憶手段に記憶させるステップと、
    前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力するステップとを有することを特徴とする制御方法。
  15. 第1の撮像画像のうち第1の被写体領域画像から取得した第1の被写体の特徴に関する第1の特徴情報と前記第1の被写体領域画像とを被写体認証用の登録情報として記憶するとともに、前記登録情報のうち前記第1の被写体領域画像を前記第1の特徴情報を伴わずに外部に出力する第1の撮像装置とは別の第2の撮像装置の制御方法であって、
    前記第1の撮像装置から出力された前記第1の被写体領域画像から前記第1の被写体の特徴に関する第3の特徴情報を取得するステップと、
    前記第3の特徴情報を含む被写体認証用の登録情報を第2の記憶手段に記憶させるステップとを有することを特徴とする制御方法。
  16. 撮像装置のコンピュータに、請求項14に従う処理を実行させることを特徴とするプログラム。
  17. 撮像装置のコンピュータに、請求項15に従う処理を実行させることを特徴とするプログラム。
JP2023003657A 2023-01-13 2023-01-13 撮像装置および撮像方法 Pending JP2024099985A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2023003657A JP2024099985A (ja) 2023-01-13 2023-01-13 撮像装置および撮像方法
US18/409,096 US20240242543A1 (en) 2023-01-13 2024-01-10 Control apparatus, image pickup apparatus, and control method
CN202410046335.0A CN118354196A (zh) 2023-01-13 2024-01-12 控制设备、摄像设备、控制方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023003657A JP2024099985A (ja) 2023-01-13 2023-01-13 撮像装置および撮像方法

Publications (1)

Publication Number Publication Date
JP2024099985A true JP2024099985A (ja) 2024-07-26

Family

ID=91816738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023003657A Pending JP2024099985A (ja) 2023-01-13 2023-01-13 撮像装置および撮像方法

Country Status (3)

Country Link
US (1) US20240242543A1 (ja)
JP (1) JP2024099985A (ja)
CN (1) CN118354196A (ja)

Also Published As

Publication number Publication date
US20240242543A1 (en) 2024-07-18
CN118354196A (zh) 2024-07-16

Similar Documents

Publication Publication Date Title
KR101280920B1 (ko) 화상인식장치 및 방법
US8494286B2 (en) Face detection in mid-shot digital images
JP6049448B2 (ja) 被写体領域追跡装置、その制御方法及びプログラム
JP5959923B2 (ja) 検出装置、その制御方法、および制御プログラム、並びに撮像装置および表示装置
US8009204B2 (en) Image capturing apparatus, image capturing method, image processing apparatus, image processing method and computer-readable medium
JP2009075999A (ja) 画像認識装置、画像認識方法、画像認識プログラム
JP2017038162A (ja) 撮像装置及び画像処理方法、プログラム、並びに記憶媒体
JP2017010210A (ja) 顔検出装置、顔検出システム、及び顔検出方法
JP6149854B2 (ja) 撮像装置、撮像制御方法及びプログラム
JP2005149370A (ja) 画像撮影装置、個人認証装置及び画像撮影方法
JP2014128003A (ja) 画像認識装置、その制御方法及びプログラム
JPWO2020213166A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP4840978B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP5386880B2 (ja) 撮像装置、携帯電話端末、撮像方法、プログラム及び記録媒体
JP5383308B2 (ja) 画像処理装置
JP2024099985A (ja) 撮像装置および撮像方法
JP2007080184A (ja) 画像処理装置及び方法
JP5267136B2 (ja) 電子カメラ
JP5374612B2 (ja) 画像データの識別方法及び撮像装置、プログラム、及び記憶媒体
JP5995610B2 (ja) 被写体認識装置及びその制御方法、撮像装置、表示装置、並びにプログラム
JP5640377B2 (ja) 画像処理装置、カメラ、および画像処理プログラム
JP5002311B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、及び記憶媒体
JP2008167028A (ja) 撮像装置
JP6161279B2 (ja) 認証装置、撮像装置、認証方法およびプログラム
JP2013157675A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体