以下、本発明の実施形態について説明する。
ここでは、本発明を、Charge Coupled Device(CCD)固体撮像素子上に被写体の像を結像させて、その被写体を表す画像データを信号として取り込む電子カメラに適用した実施形態について説明する。
図1は、本発明の一実施形態の電子カメラを前面斜め上から見た外観斜視図である。ここでは、先ず図1〜図3を参照して、電子カメラの一般的な構成について説明する。尚、本実施形態の電子カメラにおける本発明としての特徴は、後述する“第1自動赤目補正処理”モードおよび“第2自動赤目補正処理”モードの処理動作にあるが、これらのモードの動作説明については後で詳細に行う。
図1に示すカメラ100は、図示しない写真フィルム上に写真撮影を行うカメラである。
このカメラ100の前面には、撮影レンズ101aを内部に備えたレンズ鏡胴101が備えられている。この撮影レンズ101aは、入射した被写体光を、内部に配置されたCCD固体撮像素子(ここでは図示せず)の撮影面上に結像させ、そのCCD固体撮像素子で被写体を表す画像データが生成される。
また、このカメラ100の前面には、閃光を発する閃光発光装置103、閃光発光装置103から発光された光量を計測する調光センサ102、点灯して被写体に撮影の開始を知らせるセルフタイマLED115、および撮影者が被写体の位置などを定めるために覗く光学式ファインダ対物窓104aが備えられている。この閃光発光装置103は、本発明にいう閃光発光部の一例にあたる。
また、このカメラ100の上面の右端には、撮影時に押されるシャッタレリーズボタン105が備えられている。尚、背面上部に備えられた撮影モードダイヤル112については、図2を参照して説明する。
さらに、このカメラ100の左側面の下方には、上から順に、写真撮影によって得られた画像データをパーソナルコンピュータなどに送信する際に使用されるUniversal Serial Bus(USB)ケーブルが接続されるUSB端子106、およびカメラ100に外部電源を供給する際に使用される電源ケーブルが接続される電源入力端子107が備えられている。
図2は、図1に示すカメラを背面斜め上から見た外観斜視図である。
このカメラ100の背面には、光学式ファインダ接眼窓104b、画像や日時を表示する液晶ディスプレイ(Liquid Crystal Display:LCD)パネル108、LCDパネル108による画像表示をオン/オフするためのLCDパネル起動ボタン109、バリエーションの選択およびズームを行なう際に操作される十字キー110、例えば日付や日時の設定などといったメニューをLCDパネル108上に表示させたり、そのメニューを確定する際に使用されるメニュー/OKスイッチ111、各種操作によって変更された設定を無効にする際に使用されるキャンセルスイッチ116、後述する各種モードを選択する際に使用される撮影モードダイヤル112、写真撮影を行う“撮影記録”機能と、写真撮影されて記録された画像データを再生する“画像データ再生”機能とのうちのいずれかの機能を選択する際に使用される機能選択レバー113、および、機能選択レバー113の軸上に設けられたメインスイッチ114が備えられている。また、このカメラ100では、十字キー110による操作に応じて、被写体像中の赤目部分を検出して検出された赤目部分を修正する“第1自動赤目補正処理”モードや“第2自動赤目補正処理”モードを選択することができる。尚、この“第1自動赤目補正処理”モードや“第2自動赤目補正処理”モードの詳細な説明は後述する。ここで、LCDパネル108は、本発明にいう画像表示部、および警告部それぞれの一例に相当するものである。
このカメラ100では、機能選択レバー113を“撮影記録”側113aにもっていくことによって“撮影記録”機能が選択され、機能選択レバー113を“画像データ再生”側113bにもっていくことによって“画像データ再生”機能が選択される。また、この機能選択レバー113によって“撮影記録”機能が選択されている場合には、撮影モードダイヤル112を回転させることによって、人物を写真撮影するのに適した“人物撮影”モード、風景を写真撮影するのに適した“風景撮影”モード、動きの速い被写体を写真撮影するのに適した“スポーツ”モード、シャッタレリーズボタン105が押下されてから実際に写真撮影されるまでに時差を与える“セルフタイマ”モード、および撮影者自身を写真撮影するのに適した“自己撮影”モードのうちのいずれかのモードを選択することができる。尚、モードが選択されない場合には、“人物撮影”モードが選択されたものとして撮影が行われる。
図3は、図1,図2に示すカメラの内部に配備された信号処理部の構成ブロック図である。
この図3に示す構成ブロック図を参照してカメラ100内に配備された信号処理部の構成を説明する。
図1,図2に示すカメラ100では、すべての処理がCPU211によって制御されている。CPU211は、本発明にいう撮影条件取得部、および制御部それぞれの一例に相当する。
まず、各種スイッチについて説明する。
写真撮影の開始指示を行うシャッタレリーズボタン105(図1,図2参照)には、このシャッタレリーズボタン105の押下に同期して作動するシャッタスイッチ105aが設けられている。このシャッタスイッチ105aのオンオフ信号がCPU211へ入力される。CPU211ではシャッタスイッチ105aのオン信号を撮影開始の合図として受け取る。このときには、機能選択レバー113が”画像記録”側113aに切り替えられており、写真撮影を行うことがCPU211で検知されている。
十字キー110ではLCDパネル108に表示される選択メニューの、複数の項目の中のいずれかが選択できるようになっている。図3には十字キー110の接点1101〜1104が示されている。たとえば接点1101が押下されたら上方向へカーソルが移動する。また1102が押下されたら右方向へ移動するようになっている。そして、いずれかの接点1101〜1104が接続されてオンオフ信号がCPU211に入力されるとCPU211ではその移動指示に基づいてバス220を介してLCDパネル108へカーソルの移動指示を転送する。そうすると複数表示されている項目の中のいずれかにカーソルが移動する。従って、LCDパネル108に表示されるカーソルに基づいて、ユーザは選択メニューの中の複数の項目のいずれかを、十字キー110によって選択することができる。ここで電子ズームが選択されると被写体の中央を中心として撮影画角内の一部領域が切り出され、電子ズームが行われる。このときには切り出しを行う領域のサイズの指定も行えるような構成になっている。
また、機能選択レバー113が”画像データ再生”側113bに切り替えられると記録メディア240からの再生が行われる。このときには写真撮影を行うための指示を行うシャッタスイッチ105aなどからの信号が入力されても処理は行われない。
次にスイッチ以外の各種要素について説明する。
CPU211には、上述した各種スイッチに加えて、図1にも示す閃光発光装置103、タイミングジェネレータ212、フォーカスレンズ216を駆動するためのモータドライバ217、光量調整装置300に備えられたモータを駆動するためのモータドライバ214、およびCDSAMP213が接続されている。
ユーザが写真撮影を行うときには、LCDパネル108上に被写体像が被写体の動きにあわせて表示されている。この表示されている被写体の像を見ながら、ユーザはフレーミングを行い、シャッタレリーズボタン105を押下して写真撮影を行う。このときにシャッタレリーズボタン105に同期して作動するシャッタスイッチ105aがオンされることによってCPU211では撮影開始の指示がユーザから送られたことを知る。そこでCPU211では、発光を指示する信号を閃光発光装置103に出力するとともに、撮影開始を指示する信号をタイミングジェネレータ212へ出力する。閃光発光装置103では、発光の指示を受けて閃光を発する。また、タイミングジェネレータ212では撮影開始の指示を受けてCCD固体撮像素子210へシャッタレリーズボタン105が押下されたことを知らせる信号を供給する。この信号を受けてCCD固体撮像素子210ではシャッタレリーズボタン105が押されたときにCCD固体撮像素子210によって撮像されていた画像データをRGB信号として出力する。このときCCD固体撮像素子210から読み出されたRGB信号は雑音が多いので、CPU211ではこの雑音を低減するためCDSAMP213へも雑音低減処理を行うタイミング信号を出力する。
図1,図2に示す各種スイッチからの入力信号に応じてCPU211から出力される信号は以上のとおりである。
ここからはCCD固体撮像素子210で撮像された撮像信号がどのように処理されるかを順を追って説明する。
図2に示す機能選択レバー113が”画像記録”側113aになっているときにシャッタレリーズボタン105が押下される場合を説明する。
CPU211に接続されている機能選択レバー113が”画像記録”側113aになっていてシャッタレリーズボタン105が押下されるとシャッタスイッチ105aが接続されて、CPU211ではシャッタレリーズボタン105の押下が検知される。このようにユーザによってシャッタレリーズボタン105が押下されるとCPU211からタイミングジェネレータ212に対して写真撮影の開始指示が行われる。この開始指示を受けてCCD固体撮像撮像素子210はRGB信号を出力する。
シャッタレリーズボタンが押されていなくても、画像表示装置227のLCDパネル108には撮影レンズが向けられた方向の被写体像が常に表示されている。この表示されている被写体像は、CCD固体撮像素子210から所定の時間間隔ごとに読み出されるRGB信号から成る画像データを画像信号処理回路222でYC信号に変換し、そのYC信号をVideoEncorder226を経由させて画像表示装置227に供給して得られるものである。このような被写体像の表示が行われているときにAE&AWB検出回路231では露出調節が、AF検出回路230ではコントラストの検出が絶えず行われている。ここで、画像信号処理回路222は、本発明にいう修正部、および確認部の機能の一例を担うものであり、後述するように、写真撮影時には撮影画像中の赤目部分の検出と修正を行う。また、CPU211と画像信号処理回路222とを合わせたものは、本発明にいう推定部、および不具合検出部それぞれの一例に相当する。
露出調節にあってはCCD固体撮像素子210から所定の時間間隔ごとに読み出されるRGB信号の輝度情報に基づいてAE&AWB検出回路231で露出調整が行われる。AE&AWB検出回路231で露出調整が行われるとCPU211にその結果が伝えられ、CPU211ではその結果に基づいてモータドライバ214に指示を出し、適正な露出となるような光量が得られるように、光量調整装置300に備えられたモータが駆動される(以下では、輝度情報が取得されて光量調整装置300が適正露光に調整されるまでの一連の処理を露出処理と称する)。また焦点調節にあってはAF検出回路230でフォーカスレンズ216を移動させ、所定の時間間隔ごとにAF検出回路230でRGB信号のコントラストの検出を行って焦点調節が行われる。AF検出回路230でコントラストの検出が行われるとCPU211にその結果が伝えられ、CPU211ではその結果に基づいてモータドライバ217にフォーカスレンズ216の駆動指示を出し、検出されたコントラスが最大となる合焦点位置にフォーカスレンズ216が駆動される(以下では、コントラストが検出されて合焦点位置にフォーカスレンズ216が配されるまでの一連の処理を合焦処理と称する)。そしてフォーカスレンズ216が合焦点位置に配置されたら、CPU211から画像取り込みの信号がタイミングジェネレータ212へ供給され、タイミングジェネレータ212から撮影開始信号がCCD固体撮像素子210に供給され、CCD固体撮像素子210に蓄積された電荷がタイミングジェネレータ212の読み出し信号によってRGB信号としてCDSAMP213側へ読み出される。
この読み出されたRGB信号が供給されたCDSAMP213では、雑音低減の処理が行われて、雑音が除去されたRGB信号がA/D変換回路218へと供給される。A/D変換回路218ではアナログのRGB信号がA/D変換されてデジタル信号のRGB信号に変換される。
なおCPU211と画像入力コントローラ219、メモリ(SDRAM)221、画像信号処理回路222、圧縮処理回路223、メディアコントローラ224、USBcontroller225、VideoEncorder226、AF検出回路230、AE&AWB検出回路231とはバス220によって接続されており、このバス220を介してアドレス、データなどの授受が行われる。そのバス220を介してデータの授受を行うためのレジスタがCPU211内には各種用意されていてこれらのレジスタの内容が各処理部の処理の進行状況に応じて書き換えられる。CPU211内ではこのレジスタの内容を判読して処理が行われる。
デジタル信号に変換されたRGB信号は画像入力コントローラ219によってバス220側へ導かれてCPU211によって制御され、メモリ(SDRAM)221に書き込まれる。ここで、画像入力コントローラ219は、本発明にいう画像取得部の一例に相当するものである。そしてRGB信号の取り込みが完了したら、今度はメモリ(SDRAM)221からRGB信号が読み出されてバス220を経て画像信号処理回路222に供給される。画像信号処理回路222ではRGB信号からYC信号への変換が行なわれ、さらに圧縮処理回路223で圧縮された画像データがメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される。
なお、USBcontroller225も図1,図2に示すカメラには備えられており、USB規格準拠の外部機器との接続も可能な構成になっている。
以上が図1,図2に示すカメラ100で写真撮影が行われるときに記録メディア240に記録されるまでの画像データの流れである。
図4は、“第1自動赤目補正処理”モードが選択される場合における操作の流れを説明するフローチャートである。
まず、図2に示す機能選択レバー113を“撮影記録”側113aにもっていくことによって“撮影記録”機能を選択し、撮影モードダイヤル112を回転させることによって所望の撮影モードを選択し、更に十字キー110による操作に応じて“第1自動赤目補正処理”モードを選択した後にシャッタレリーズボタン105を押下することによって写真撮影が行われる(ステップS101)。
ここで、図5は、ステップS101によって写真撮影された撮影画像の一例を示す図である。
ここでは、図2に示す撮影モードダイヤル112によって“人物撮影”モードが選択され、更に十字キー110による操作に応じて“第1自動赤目補正処理”モードが選択された後にシャッタレリーズボタン105が押下され、3人の人物410,420,430が写真撮影された撮影画像の例が示されている。
次に、図2に示す十字キー110による操作に応じて“第1自動赤目補正処理”モードを選択されていることを受けて、ステップS101によって写真撮影されて得られた撮影画像中の赤目部分を検出して検出された赤目部分を修正する自動赤目補正処理が開始される(ステップS102)。
次に、ステップS102による撮影画像中の赤目部分の検出で、赤目部分が検出されていた場合には(ステップS103:YES)、赤目部分が検出された人物の数のうち、後述する確認操作による確認がなされていない未確認箇所数が、自動赤目補正処理の施された後の赤目補正結果画像とともに、図2に示すLCDパネル108に表示される(ステップS104)。ここで、未確認箇所数は、本発明にいう箇所数の一例に相当するものである。
また、ステップS102による撮影画像中の赤目部分の検出で、赤目部分が検出されなかった場合には(ステップS103:NO)、撮影画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS112)。
ここで、図6は、ステップS104によって自動赤目補正処理が施された後の赤目補正結果画像および未確認箇所数がLCDパネルに表示された表示例を示す図である。
ここでは、図5に示す撮影画像に対して自動赤目補正処理が施された後の赤目補正結果画像が、自動赤目補正処理によって修正された人物411,421,431の顔411a,421a,431aが実線の丸510,520,530で囲われるように強調されて、図2に示すLCDパネル108に表示されるとともに、このLCDパネル108の左上に、赤目部分が検出された人物の数のうち、後述する確認操作による確認がなされていない未確認箇所数610が表示された例が示されている。この図6に示す例では、LCDパネル108の左上に未確認箇所数610が“3”と表示され、3人の人物411,421,431すべてに対し赤目部分が検出されて修正されたことが示されている。
また、図7は、赤目補正結果画像および未確認箇所数における、図6とは別の表示例を示す図である。
図6の未確認箇所数610では、未確認箇所数が数字で表現されているが、図7のパート(A)に示す未確認箇所数611では、未確認箇所数がバーによって表現されており、パート(B)に示す未確認箇所数612では、未確認箇所数が点の数によって表現されている。このように、未確認箇所数は数字以外で表現されてもよい。
以上のように、赤目補正結果画像中の赤目部分が検出されて確認がなされていない未確認箇所数が、赤目補正結果画像とともに表示されると、図6に示すように複数の人物の目が赤目に再現された画像であっても、表示された未確認箇所数を参照することによって、赤目部分を見落とすような過ちを犯すことなく赤目部分を容易に確認することができる。また、赤目補正結果画像中の赤目部分を有する顔が強調されて表示されると、赤目補正結果画像中の赤目部分の確認が、より一層容易である。
次に、ステップS104によって自動赤目補正処理が施された後の赤目補正結果画像による赤目部分の確認の結果、赤目部分が適切に検出され適切に修正されたものであるとユーザが判断した場合には、図2に示すメニュー/OKスイッチ111を押下することによって(ステップS105:YES)、その赤目補正結果画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS112)。
このように、“第1自動赤目補正処理”モードでは、シャッタレリーズボタン105を押下して写真撮影が行われた後、ステップS105でメニュー/OKスイッチ111を押下する1操作のみで赤目部分の確認が終了するため、赤目部分の確認が極めて簡単に行える。
また、ステップS104によって自動赤目補正処理が施された後の赤目補正結果画像による赤目部分の確認の結果、自動赤目補正処理によって修正された人物の顔を拡大して赤目部分を確認したい場合には、図2に示すキャンセルスイッチ116を押下することによって(ステップS105:NO)、図2に示す十字キー110による顔の選択が可能となる(ステップS106)。
ここで、図8は、ステップS106によって十字キーによる顔の選択が可能な赤目補正結果画像がLCDパネルに表示された表示例を示す図である。
ここでは、図2に示す十字キー110によって顔が選択された人物411の顔411aが実線の丸511で囲われ、十字キー110による顔の選択が可能な他の人物421,431の顔421a,431aが破線の丸521,531で囲われた赤目補正結果画像が、図2に示すLCDパネル108に表示された例が示されている。十字キー110による操作に応じて実線の丸510が別の人物の顔に移動して、所望の人物411,421,431の顔411a,421a,431aを選択することができる。
また、図9は、ステップS106によって顔の選択が可能な赤目補正結果画像における、図8とは別の表示例を示す図である。
図9のパート(A)には、十字キー110によって選択が可能な、図8に示す顔411a,421a,431aに対応する顔541,542,543が、赤目補正結果画像の下に並べて一覧表示された表示例が示されており、パート(B)には、パート(A)に示す赤目補正結果画像が表示されずに、顔541,542,543のみが一覧表示された表示例が示されている。十字キー110による操作に応じてポインタ540が移動して、一覧表示された顔541,542,543のなかから所望の顔を選択することができる。このように、自動赤目補正処理によって修正された人物の顔541,542,543を一覧表示することによって、それらの顔541,542,543を一度に確認することができる。本実施形態においては、ステップS106において、図8に示すように赤目補正結果画像が表示される例について説明を続ける。
次に、図2に示す十字キー110による操作に応じて所望の人物の顔を選択した後に、メニュー/OKスイッチ111を押下することによって、選択された人物の顔が拡大されて、図2に示すLCDパネル108に表示される(ステップS107)。
ここで、図10は、ステップS107によって拡大された顔がLCDパネルに表示された表示例を示す図である。
ここでは、図8に示す赤目補正結果画像の中の、顔が実線の丸510で囲われた人物411の顔411aを選択した後に、メニュー/OKスイッチ111を押下することによって、その顔411aが拡大されて、図2に示すLCDパネル108に表示された例が示されている。
また、図11は、拡大された顔における、図10とは異なる表示例を示す図である。
図11のパート(A)では、LCDパネル108が2つの領域108_1,108_2に分割されており、赤目補正結果画像が第1の領域108_1に表示され、選択された顔411aが拡大されて第2の領域108_2に表示されている。このように、赤目補正結果画像と、拡大された顔とを並べて表示することによって、赤目補正が施された位置などを容易に確認することができる。また、LCDパネルを2つ以上備えている場合には、パート(B)に示すように、1つのパネル108Aに撮影画像を表示し、他のパネル108Bに拡大された顔を表示してもよい。本実施形態においては、ステップS107によって、拡大された顔が図10に示す表示方法で表示される例について説明する。
次に、ステップS107によって拡大された顔による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分が適切に検出され適切に修正されたものであるとユーザが判断した場合には、図2に示すメニュー/OKスイッチ111を押下する確認操作によって(ステップS108:YES)、その拡大された顔の赤目部分に対する自動赤目補正処理が確定され、ステップS104に戻って画像の全体が、図2に示すLCDパネル108に表示される。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数は、このステップS108による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。その後は、自動赤目補正処理が確定された人物以外の人物の選択が、上記と同様の手順で可能となる。
このように、確認された数を差し引いた未確認箇所数が表示される電子カメラであれば、赤目補正結果画像中の赤目部分を見落としてしまった場合であっても、未確認箇所数を参照することによって確実にその赤目部分を確認することができる。
また、ステップS107によって拡大された顔による、自動赤目補正処理が施された後の赤目部分の確認の結果、拡大された顔の目部分を更に拡大して赤目部分を確認したい場合には、図2に示すキャンセルスイッチ116を押下することによって(ステップS108:NO)、拡大された目部分が、図2に示すLCDパネル108に表示される(ステップS109)。
ここで、図12は、ステップS109によって拡大された目部分がLCDパネルに表示された表示例を示す図である。
ここでは、図10に示す拡大された顔411aの目部分411bが拡大されて、図2に示すLCDパネル108に表示された例が示されている。
尚、本実施形態の説明では、目部分が拡大表示される例として両目が拡大表示される例を示したが、片目ずつ拡大表示するものであってもよい。
次に、ステップS109によって拡大された目部分による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分が適切に検出され適切に修正されたものであるとユーザが判断した場合には、図2に示すメニュー/OKスイッチ111を押下する確認操作によって(ステップS110:YES)、その拡大された顔の赤目部分に対する自動赤目補正処理が確定され、ステップS104に戻って画像の全体が、図2に示すLCDパネル108に表示される。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数は、このステップS110による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。その後は、自動赤目補正処理が確定された人物以外の人物の選択が、上記と同様の手順で可能となる。
また、ステップS109によって拡大された目部分による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分の検出や修正において誤った検出や不適切な修正が施されたものであるとユーザが判断した場合には、図2に示すキャンセルスイッチ116を押下することによって(ステップS110:NO)、その拡大された目に対する赤目部分の検出や修正が取り消され(ステップS111)、ステップS104に戻って画像の全体が、図2に示すLCDパネル108に表示される。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数は、このステップS111による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。その後は、自動赤目補正処理が確定され、あるいは取り消された人物以外の人物の選択が、上記と同様の手順で可能となる。
図13は、“第2自動赤目補正処理”モードが選択される場合における操作の流れを説明するフローチャートである。
まず、図2に示す機能選択レバー113を“撮影記録”側113aにもっていくことによって“撮影記録”機能を選択し、撮影モードダイヤル112を回転させることによって所望の撮影モードを選択し、更に十字キー110による操作に応じて“第2自動赤目補正処理”モードを選択した後にシャッタレリーズボタン105を押下することによって写真撮影が行われる(ステップS201)。
撮影が行われると、CPU211は、図2に示す十字キー110による操作に応じて“第2自動赤目補正処理”モードが選択されていることを受けて、ステップS201によって写真撮影されて得られた撮影画像中の赤目部分を検出する。さらに、検出した赤目部分を修正する自動赤目補正処理を開始する(ステップS202)。
続いて、ステップS202による撮影画像中の赤目部分の検出で、赤目部分が検出されていた場合には(ステップS203:YES)、赤目部分が検出された人物の数(以下、この数を検出数と称する)が、自動赤目補正処理の施された後の赤目補正結果画像とともに、図2に示すLCDパネル108に表示される(ステップS204)。
また、ステップS202による撮影画像中の赤目部分の検出で、赤目部分が検出されなかった場合には(ステップS203:NO)、撮影画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS213)。
ここで、図14は、ステップS204によって自動赤目補正処理が施された後の赤目補正結果画像および検出数がLCDパネルに表示された表示例を示す図である。
ここでは、ステップS201によって3人の人物410,420,430が写真撮影された、図5に示す撮影画像と同一の撮影画像に対して自動赤目補正処理が施された後の赤目補正結果画像が、自動赤目補正処理によって修正された人物411,421,431の顔411a,421a,431aが実線の丸510,520,530で囲われるように強調されて、図2に示すLCDパネル108に表示されるとともに、このLCDパネル108の左上に、赤目部分が検出された検出数620が表示された例が示されている。この図14に示す例では、LCDパネル108の左上に検出数620が“3”と表示され、3人の人物411,421,431すべてに対し赤目部分が検出されて修正されたことが示されている。
このように、赤目補正結果画像中の赤目部分が検出された検出数が、赤目補正結果画像とともに表示されると、図14に示すように複数の人物の目が赤目に再現された画像であっても、表示された検出数を参照することによって、赤目部分を見落とすような過ちを犯すことなく赤目部分を容易に確認することができる。また、赤目補正結果画像中の赤目部分を有する顔が強調されて表示されると、赤目補正結果画像中の赤目部分の確認が、より一層容易である。
次に、CPU211では、ステップS202において自動赤目補正処理が施された赤目部分に、確認の際の優先順番が付される。本実施形態においては、まず、「赤目部分のうち撮影画角の中央から近いもの」ほど優先順位が高く、続いて、「赤目部分の面積が広いもの」ほど優先順位が高くなるように優先順番が付される(ステップS205)。
次に、ステップS204によって自動赤目補正処理が施された後の赤目補正結果画像による赤目部分の確認の後に、後述する、顔や目部分が拡大表示された画像よる赤目部分の確認を行わない場合には、図2に示すキャンセルスイッチ116を押下することによって(ステップS206:NO)、その赤目補正結果画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS213)。
このように、“第2自動赤目補正処理”モードでは、シャッタレリーズボタン105を押下して写真撮影が行われた後、ステップS206でキャンセルスイッチ116を押下する1操作のみで赤目部分の確認が終了するため、赤目部分の確認が極めて簡単に行える。
また、ステップS204によって自動赤目補正処理が施された後の赤目補正結果画像による赤目部分の確認の結果、自動赤目補正処理によって修正された人物の顔を拡大して赤目部分を確認したい場合には、図2に示すメニュー/OKスイッチ111を押下することによって(ステップS206:YES)、ステップS204によって顔が実線の丸で囲われるように強調されて表示された人物のうちの、ステップS205で付された優先順位が最も高い赤目部分を有する人物の顔が拡大されて、図2に示すLCDパネル108に、未確認箇所数とともに表示される(ステップS207)。ここでいう未確認箇所数とは、上述した“第1自動赤目補正処理”モードにおける未確認箇所数と同様に、赤目部分が検出された人物の数のうち、後述する確認操作による確認がなされていない数をいい、この未確認箇所数も、本発明にいう箇所数の一例に相当するものである。
このように、確認された数を差し引いた未確認箇所数が表示される電子カメラであれば、赤目補正結果画像中の赤目部分を見落としてしまった場合であっても、未確認箇所数を参照することによって確実にその赤目部分を確認することができる。
ここで、図15は、ステップS207によって拡大された顔および未確認箇所数がLCDパネルに表示された表示例を示す図である。
ここでは、図14に示す赤目補正結果画像の中の、顔411a,421a,431aが実線の丸510,520,530で囲われた人物411,421,431のうちの人物411の顔411aが拡大されて、図2に示すLCDパネル108に表示されるとともに、このLCDパネル108の左上に、赤目部分が検出された人物の数のうち、後述する確認操作による確認がなされていない未確認箇所数610が表示された例が示されている。
次に、ステップS207によって拡大された顔による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分が適切に検出され適切に修正されたものであるとユーザが判断した場合には、図2に示すメニュー/OKスイッチ111を押下する確認操作によって(ステップS208:YES)、その拡大された顔の赤目部分に対する自動赤目補正処理が確定され、自動赤目補正処理が確定された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在する場合には(ステップS212:YES)、自動赤目補正処理が確定された人物を除いて、優先順位が最も高い赤目部分を有する人物の顔が拡大されて、図2に示すLCDパネル108に表示される(ステップS207)。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数610は、このステップS208による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。
また、ステップS208:YESによって拡大された顔の赤目部分に対する自動赤目補正処理が確定され、自動赤目補正処理が確定され、あるいは後述する“結果消去”モードによって取り消された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在しない場合には(ステップS212:NO)、そのステップS208:YESによって確定され、あるいは後述する“結果消去”モードによって取り消された赤目補正結果画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS213)。
また、ステップS207によって拡大された顔による、自動赤目補正処理が施された後の赤目部分の確認の結果、拡大された顔の目部分を更に拡大して赤目部分を確認したい場合には、図2に示すキャンセルスイッチ116を押下することによって(ステップS208:NO)、拡大された目部分が、図2に示すLCDパネル108に、未確認箇所数とともに表示される(ステップS209)。
ここで、図16は、ステップS209によって拡大された目部分および未確認箇所数がLCDパネルに表示された表示例を示す図である。
ここでは、図15に示す拡大された顔411aの目部分411bが拡大されて、図2に示すLCDパネル108に表示されるとともに、このLCDパネル108の左上に、赤目部分が検出された人物の数のうち、後述する確認操作による確認がなされていない未確認箇所数610が表示された例が示されている。
尚、本実施形態の説明では、目部分が拡大表示される例として両目が拡大表示される例を示したが、片目ずつ拡大表示するものであってもよい。
次に、ステップS209によって拡大された目部分による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分が適切に検出され適切に修正されたものであるとユーザが判断した場合には、図2に示すメニュー/OKスイッチ111を押下する確認操作によって(ステップS210:YES)、その拡大された顔の赤目部分に対する自動赤目補正処理が確定され、自動赤目補正処理が確定された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在する場合には(ステップS212:YES)、自動赤目補正処理が確定された人物以外の人物のうち、最も優先順位の高い赤目部分を有する人物の顔が拡大されて、図2に示すLCDパネル108に表示される(ステップS207)。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数610は、このステップS210による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。
また、ステップS210:YESによって拡大された顔の赤目部分に対する自動赤目補正処理が確定され、自動赤目補正処理が確定され、あるいは後述する“結果消去”モードによって取り消された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在しない場合には(ステップS212:NO)、そのステップS210:YESによって確定され、あるいは後述する“結果消去”モードによって取り消された赤目補正結果画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS213)。
ここで、未確認箇所数が小さくなるごとに、拡大表示される人物の顔における赤目部分の優先順位が低くなる。したがって、ステップS207からステップS212までの一連の処理を繰り返して、拡大された顔の赤目部分が重要ではなくなったと判断した場合には、ユーザが図2に示すキャンセルスイッチ116を押下することによって、ステップS212からステップS213の処理に進み、赤目補正結果画像を記録することができる。
また、ステップS209によって拡大された目部分による、自動赤目補正処理が施された後の赤目部分の確認の結果、赤目部分の検出や修正において誤った検出や不適切な修正が施されたものであるとユーザが判断した場合には、図2に示すキャンセルスイッチ116を押下する(ステップS210:NO)。
尚、本実施形態のカメラ100で“第2自動赤目補正処理”モードを選択して写真撮影する場合には、拡大された目に対する赤目部分の検出や修正が取り消される“結果消去”モード、あるいはその拡大された目に対する赤目部分を手動で再修正することのできる“修正”モードのいずれかのモードがあらかじめ選択されて設定されているものとする。このようないずれかのモードがあらかじめ設定された基では、ステップS210:NOでキャンセルスイッチ116が押下されると、あらかじめ設定されたいずれかのモードに自動的に移行する。
“結果消去”モードが設定されている場合には、ステップS210:NOでキャンセルスイッチ116が押下されることによって、拡大された目に対する赤目部分の検出や修正が取り消され(ステップS211)、自動赤目補正処理が取り消された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在する場合には(ステップS212:YES)、自動赤目補正処理が取り消された人物以外の人物のうち、最も優先順位の高い赤目部分を有する人物の顔が拡大されて、図2に示すLCDパネル108に表示される(ステップS207)。また、上述したようにしてこのLCDパネル108の左上に表示される未確認箇所数610は、このステップS211による確認操作を1回受けるごとに1つ差し引いた数が未確認箇所数として表示される。
また、ステップS211によって拡大された顔の赤目部分に対する自動赤目補正処理が取り消され、自動赤目補正処理が取り消され、あるいは上述した確認操作によって確定された人物以外の、ステップS204によって自動赤目補正処理が施された人物が存在しない場合には(ステップS212:NO)、そのステップS211によって取り消され、あるいは上述した確認操作によって確定された赤目補正結果画像を表す画像データが、図3に示すメディアコントローラ224を介して記録メディア240にJPEGファイルとして記録される(ステップS213)。
次に、“修正”モードが設定されている場合には、ステップS210:NOでキャンセルスイッチ116が押下されることによって、拡大された目に対する赤目部分の検出や修正の位置ずれや大きさ変更などといった誤った検出や不適切な修正を手動で再修正することができる。
以上で、本発明における第1実施形態の説明を終了し、本発明の第2実施形態の説明を行う。本実施形態のカメラは、図1から図3に示す第1実施形態のカメラ100と同様の構成を有しており、これら図1から図3を本実施形態の説明でも用いて、第1実施形態との相違点のみ説明する。
図17は、本実施形態のカメラで被写体を撮影して、撮影画像を保存するまでの一連の処理を示すフローチャートである。
まず、第1実施形態と同様に、ユーザが図2に示す機能選択レバー113を”画像記録”側113aに合わせると、図3に示すCCD固体撮像素子210で所定の時間間隔ごとに被写体像が粗く読み取られ、RGB信号が出力されて上述した一連の露出処理、および合焦処理が行われる(ステップS301のプレ撮影)。
オペレータは、図2に示す撮影モードダイヤル112を使ってモード(“人物撮影”モード、“風景撮影”モード、“スポーツ”モード、“セルフタイマ”モード、“自己撮影”モード)を選択し、さらに、閃光を伴ったフラッシュ撮影を行う場合には、図示しない閃光ボタンを押下することによってフラッシュ撮影を指定する。撮影モードダイヤル112および閃光ボタンの押下状況は、CPU211に伝えられる。
ここで、閃光ボタンが押下されない場合には(ステップS302:NO)、CPU211において、撮影画像中に赤目の不具合は生じないと推定されて、図17のフローチャートではステップS302からステップS310に進む。
ユーザによってシャッタレリーズボタン105が押下されると、CPU211ではシャッタレリーズボタン105の押下が検知される。さらに、CPU211からタイミングジェネレータ212に対して写真撮影の開始指示が行われて、CCD固体撮像素子210で被写体像が細かく読み取られ、図4のステップS101と同様の撮影処理が行われる(ステップS310)。
撮影が行われて得られた画像データには、画像信号処理回路222によって、階調補正処理などといった所定の画像処理が施され、画像処理が施された画像データが記録メディア240に記録される(図17のステップS313)。この階調補正処理などといった画像処理は、従来から広範に行われている処理であり、本明細書では説明を省略する。
通常、フラッシュ撮影が行われない場合には、赤目などといった目に関する不具合は生じにくい。したがって、フラッシュ撮影が行われない場合には、赤目補正処理を省略することによって、処理を高速化することができる。
また、ユーザによって閃光ボタンが押下されており(ステップS302:YES)、モードとして“人物撮影”モード以外のモードが選択された場合(ステップS303:NO)にも、CPU211において、撮影画像中に赤目の不具合は生じないと推定され、フローチャートのステップS303からステップS311に進んで撮影処理が行われる。
さらに、ユーザによって閃光ボタンが押下されており(ステップS302:YES)、モードとして“人物撮影”モードが選択されており(ステップS303:YES)、ステップS301のプレ撮影中の合焦処理において算出される、撮影画角の中央付近の被写体までの距離(被写体距離)が所定範囲外の距離である場合(ステップS304:NO)にも、CPU211において、撮影画像中に赤目の不具合は生じないと推定されて、フローチャートのステップS304からステップS311に進んで撮影処理が行われる。
被写体距離が近すぎたり、遠すぎたりして、所定範囲外の距離である場合には、撮影画像中に人物が写っていても、赤目が生じている可能性が低い。また、本実施形態においては、モードとして“人物撮影”モード以外のモード(“風景撮影”モード、“スポーツ”モード、“セルフタイマ”モード、および“自己撮影”モード)が選択されている場合には、撮影画像中に人物が写っていなかったり、写っていても被写体距離が所定範囲外の距離であると推定して、赤目補正処理を省略している。尚、本実施形態においては、初期状態が“人物撮影”モードであるため、ユーザがモードを特に意識せずに撮影を行ってしまった場合であっても、“人物撮影”モードが採用されて(ステップS303:YES)、後述する赤目の不具合を未然に防ぐ撮影が行われる。初期状態が“人物撮影”モード以外のモードであるカメラの場合や、カメラが自動的に適切なモードを選択するオートモードの場合には、例えば、「モードが“人物撮影”モード(ステップS303)」、および「被写体距離が所定範囲内(ステップS304)」のうちのいずれか一方が真ならばステップS305以降の赤目の不具合を未然に防ぐ撮影処理に進むものであってもよい。
また、ユーザによって閃光ボタンが押下されており(ステップS302:YES)、モードとして“人物撮影”モードが選択されており(ステップS303:YES)、被写体距離が所定範囲内の距離である場合(ステップS304:YES)には、CPU211において、撮影画像中に赤目が生じると推定される。このとき、CPU211は、図2に示すLCDパネル108に「赤目が発生します」という警告を表示させる(ステップS305)。ユーザは警告を受け取ることによって、「赤目が発生する可能性がある」ことを確実に認識することができる。
さらに、CPU211は、図3に示す閃光発光装置103に指示を与え、閃光発光装置103おける発光強度や発光時間を赤目が生じにくい所定の値に調整する(ステップS306)。
閃光発光装置103の調整が終了し、ユーザによってシャッタレリーズボタン105が押下されると、CPU211ではシャッタレリーズボタン105の押下が検知されて、閃光を伴った撮影処理が行われる(ステップS307)。このステップS307の撮影処理によって得られる画像データは、赤目の発生が未然に抑えられている。
また、CPU211はCDSAMP213に指示を与え、アンプゲインの調整を行う(ステップS308)。
撮影によって得られた画像データには、ステップS312と同様の画像処理が施され(ステップS309)、画像処理が施された画像データは記録メディア240に記録される(ステップS310)。
このように、撮影モードや、閃光の有無や、被写体距離などといった撮影条件に基づいて、撮影画像に赤目などといった不具合が生じるか否かを予め推定しておき、不具合が生じると推定された場合には、閃光発光装置における発光を調整することによって、赤目の発生を低減することができる。
また、本実施形態においては、赤目の発生が軽減されているため、撮影画像の確認作業が行われないが、警告が発せられた場合には、念のために確認作業を行ってもよい。
以上で、本発明における第2実施形態の説明を終了し、本発明における第3実施形態の説明を行う。本実施形態のカメラも、図1から図3に示す第1実施形態のカメラ100と同様の構成を有しており、これら図1から図3を本実施形態の説明でも用いて、第1実施形態および第2実施形態との相違点のみ説明する。
本実施形態のカメラは、図1に示すシャッタレリーズボタン105が2段階に押下可能であり、1段目が押下されると上述したプレ撮影(露出処理、および合焦処理)が行われ、2段目が押下されると実際の撮影処理が行われる。
図18は、本実施形態のカメラで被写体を撮影して、撮影画像を保存するまでの一連の処理を示すフローチャートである。
まず、ユーザは、図2に示す撮影モードダイヤル112を使ってモード(“人物撮影”モード、“風景撮影”モード、“スポーツ”モード、“セルフタイマ”モード、“自己撮影”モード)を選択し、さらに、閃光を伴ったフラッシュ撮影を行う場合には、図示しない閃光ボタンでフラッシュ撮影を指定する。さらに、自動赤目修正処理を行う場合には、十字キー110によって“自動赤目補正処理”モード(被写体像中の赤目部分を検出して検出された赤目部分を修正する)を選択する。十字キー110、撮影モードダイヤル112および閃光ボタンの設定状況は、CPU211に伝えられる。
続いて、ユーザはカメラを所望の被写体に向けて、シャッタレリーズボタン105の一段目を押下する(ステップS401)。
閃光ボタンでフラッシュ撮影が選択されない場合には(図18のステップS402:NO)、図17のステップS310と同様な、閃光を伴わない撮影処理が行われ(ステップS411)、撮影処理によって得られた画像データが記録メディア240に記録される(ステップS410)。閃光を伴わない撮影における撮影画像中には、赤目などといった目に関する不具合が生じることは少ないため、赤目補正処理を省略することができる。
また、閃光ボタンでフラッシュ撮影が選択された場合には(図18のステップS402:YES)、カメラの内部で、図17のステップS301と同様のプレ撮影が行われ、閃光発光装置103からの閃光を伴わずに、画素が粗い画像データ(以下、この画素の粗い画像データを低解像度データと称する)が取得される(ステップS403)。この低解像度データは、本発明にいう第1の画像データの一例にあたり、低解像素データが表わす低解像度画像は、本発明にいう第1の画像の一例に相当する。
さらに、ユーザはシャッタレリーズボタン105の二段目を押下して、撮影を指示する(ステップS404)。
カメラの内部では図7のステップS307と同様な、閃光を伴う撮影処理が行われて、画素が細かい画像データ(以下、この画素が細かい画像データを高解像度データと称する)が取得される(ステップS405)。この高解像度データは、本発明にいう第2の画像データの一例にあたり、高解像素データが表わす高解像度画像は、本発明にいう第2の画像の一例に相当する。
ここで、“自動赤目補正処理”モードが選択されていない場合には(ステップS406:NO)、赤目補正処理が行われずに、取得された高解像度データが記録メディア240に記録される(ステップS410)。
“自動赤目補正処理”モードが選択されている場合には(ステップS406:YES)、画像信号処理回路222において、ステップS403で得られた低解像度データが表わす低解像度画像の色と、ステップS405で得られた高解像度データが表わす高解像度画像の色とが比較される(ステップS407)。本実施形態では、画像信号処理回路222によって、高解像度画像と低解像度画像の色相差が取得される。
ステップS407で取得された色相差が所定値よりも小さい場合(ステップS408:NO)、高解像度画像中に赤目が生じていないと推定され、画像信号処理回路222における赤目補正処理が行われずに、高解像度画像データが記録メディア240に記録される(ステップS410)。低解像度画像は閃光を伴わずに取得したため、赤目が生じている可能性が低い。一方、高解像度画像は閃光を伴って取得したため、赤目が生じている可能性が高いが、高解像度画像の色と低解像度の色との差が所定値より小さい場合、赤目が生じていないと判定される。
また、ステップS407で取得された色相差が所定値以上であった場合(ステップS408:YES)、画像信号処理回路222は、高解像度画像中の色相差が所定値以上である箇所に不具合が生じているとみなす。尚、高解像度画像中の不具合が生じている箇所における明度差が、その箇所の周辺部分における明度差よりも大きく変わっている場合、その箇所に生じている不具合は金目であると考えられ、その箇所における色相差や彩度差が、その箇所の周辺部分における色相差や彩度差よりも大きく変わっている場合、その箇所に生じている不具合は赤目であると考えられる。
不具合が検出されると、高解像度データには、図4のステップS102と同様な自動赤目補正処理が施され(ステップS409)、その赤目部分の確認作業が行われた後に、自動赤目補正処理が施された画像データが記録メディア240に記録される(ステップS410)。
このように、予め撮影画像に赤目が生じると推定される場合にのみ、赤目補正処理を行うことによって、処理の負担を軽減させることができるとともに、赤目補正処理が施された画像の確認作業を軽減させることもできる。
尚、本実施形態では、CCD固体撮像素子上に被写体の像を結像させて、その被写体を表す画像データを信号として取り込む電子カメラに本発明を適用した例で説明したが、本発明は、これに限られるものではなく、取得された画像データにより表わされる画像中の目に関する所定の不具合を検出し、検出された不具合を修正し、不具合が検出された箇所数を、その箇所を含む画像とともに表示する、例えばパーソナルコンピュータなどで実現される画像修正装置にも適用することができる。
また、本実施形態の説明では、“第1自動赤目補正処理”モードあるいは“第2自動赤目補正処理”モードが選択されていることを受けて自動赤目補正処理が施される例を示したが、写真撮影後に必ず自動赤目補正処理が施されるものや、閃光を用いた写真撮影後に必ず自動赤目補正処理が施されるものであってもよい。
また、上記説明では、撮影後すぐに赤目補正処理やその確認作業が行われる例について説明したが、本発明の画像修正装置および撮像装置は、まず撮影画像を複数取得しておき、赤目補正処理やその確認作業は後でまとめて行うものであってもよく、撮影後すぐに赤目補正処理を行い、その確認作業は後でまとめて行うものであってもよい。赤目補正処理の確認作業のみ後でまとめて行う場合、元の撮影画像と赤目修正後の修正画像とを保存しておき、確認作業後に不要な画像を消去する。また、この場合、画像全体を保存しておくのではなく、不具合が生じている画像部分のみ保存するものであってもよく、画像ではなく補正情報などを保存するものであってもよい。
また、上記では、不具合が生じる旨を表わす警告を画像表示部に表示する例について説明したが、本発明にいう警告は、例えば、ユーザが撮影時に覗くファインダなどに表示するものであってもよい。
また、上記では、不具合が生じる旨を表わす警告を画像表示部に表示する例について説明したが、本発明にいう警告部は、例えば、音声によって警告を発するものであってもよい。
また、上記では、不具合が生じる旨を表わす警告を発する警告部の例について説明したが、本発明にいう警告部は、撮影モードと連動して、例えば、自動赤目補正処理モードが設定されている場合に、補正処理が働く旨を表わす通告を発するものであってもよく、自動赤目補正処理モードが設定されておらずに、フラッシュ撮影が設定されている場合に、自動赤目補正処理モードの設定を進める勧告を発するものなどであってもよい。
また、上記では、閃光を伴わずに取得した第1の画像の色と、閃光を伴って取得した第2の画像の色との差によって、撮影画像中に不具合が生じているか否かを推定する例について説明したが、本発明の画像補正装置および撮像装置は、プレ撮影時にも閃光を発し、そのプレ撮影で取得された低解像度データに基づいて赤目検出や警告を行うものであってもよい。このように、プレ撮影で取得された低解像度データを使って赤目を検出しておくことによって処理が分散され、本撮影後の赤目補正処理にかかる時間を短縮することができる。
また、本実施形態の説明では、撮影画像中の赤目部分を検出し、検出された赤目部分を修正する例を示したが、本発明は、これに限られるものではなく、例えば金目部分などといった目に関する所定の不具合を検出し、検出された不具合を修正するものであってもよい。
また、本実施形態の説明では、本発明にいう「箇所数」の一例として、赤目部分が検出された人物の数を表す「未確認箇所数」を挙げたが、本発明にいう「箇所数」は、例えば赤目部分などといった不具合が検出された目の数であってもよい。
また、上記では、不具合が検出された箇所数を表示する例について説明したが、本発明にいう画像表示部は、例えば、不具合の程度ごとに、その程度における不具合の箇所数を表示するものであってもよい。
さらに、本実施形態の説明では、撮影画像中の赤目部分が検出された箇所数を、その箇所を含む、撮影画像中の赤目部分が検出されて修正された後の赤目補正結果画像とともに表示する例を示したが、本発明は、これに限られるものではなく、撮影画像中の赤目部分が検出された箇所数を、その箇所を含む、撮影画像中の赤目部分が検出されて修正される前の撮影画像とともに表示するものであってもよい。