以下に、本発明の好適な実施形態として、位相差方式の焦点検出を行い、グローバル電子シャッタ撮影で広いダイナミックレンジの画像を取得可能な撮像装置を詳細に説明する。撮像装置としてデジタルスチルモーションカメラの例を示すが、本発明は、ドローン、自動車等の移動装置に搭載される撮像装置や、撮像機能を有する各種の電子機器に適用可能である。
図1は、本実施形態に係る撮像装置を例示する外観図である。図1(A)は撮像装置の正面図、図1(B)は撮像装置の背面図である。撮像装置本体部151は、その内部に撮像素子やシャッタ装置等を備える。
レンズ部は撮像光学系152を構成するレンズや絞りを備え、被写体の光学像を撮像素子に結像させる。可動式の表示部153は、撮像装置本体部151の背面部に設けられており、撮影情報や映像を画面に表示する。表示部153は広いダイナミックレンジの映像であっても、その輝度範囲を抑制することなく表示可能な表示輝度範囲を有する。
操作スイッチ(以下、スイッチSTと記す)154は、主に静止画の撮影を行うためにユーザが使用する。スイッチST154は撮像装置本体部151の上面部に配置されている。操作スイッチ(以下、スイッチMVと記す)155は、ユーザが動画撮影の開始および停止を指示するために使用する。スイッチMV155は撮像装置本体部151の背面の右上部に配置されている。スイッチMV155の下側には、撮影モード選択レバー156、撮像装置の機能設定モードへの移行用のメニュー釦157、記録映像を表示部153の画面上で再生する再生ボタン161が配置されている。撮像装置の背面の右下部には、各種設定値の変更に用いるアップダウンスイッチ158および159、ダイアル160が配置されている。
図2は撮像装置の概略構成を示すブロック図である。撮像光学系152の光軸180を1点鎖線で示している。絞り181は、撮像光学系152を通過する光の量を調節する部材であり、レンズ・絞り制御部182により制御される。レンズ・絞り制御部182は絞り制御の他に、撮像光学系152を構成する可動レンズ(ズームレンズ、フォーカスレンズ、像ブレ補正レンズ等)の駆動制御を行う。光学フィルタ183は撮像素子184に入射する光の波長、および、撮像素子184に伝達する空間周波数を制限する部材である。撮像素子184は、撮像光学系152を介して結像された被写体の光学像を電気的な映像信号に光電変換する。撮像素子184は所定の規格(Ultra High Definition Television規格等)を満たすに十分な画素数、信号読み出し速度、色域、ダイナミックレンジを有している。
デジタル信号処理部187は、撮像素子184より出力されたデジタル映像データを取得して各種の補正を行った後に、映像データの圧縮処理を実行する。タイミング発生部189は撮像素子184、デジタル信号処理部187に各種タイミング信号を出力する。
システム制御CPU(中央演算処理装置)178はプログラムを実行して撮像システム全体を制御する。システム制御CPU(以下、単にCPUという)178は操作入力部179からの操作指示信号にしたがって、撮像装置の各部を制御する。例えばCPU178はタイミング発生部189を介して撮像素子184、デジタル信号処理部187の制御を行い、レンズ・絞り制御部182により可動レンズや絞り181の制御を行う。操作入力部179は、図1に示すスイッチST154やスイッチMV155、各種のスイッチ部材やタッチパネル等の入力デバイスを備える。映像メモリ190は、映像データを一時的に記憶する記憶部である。
表示インターフェース部191は、CPU178と表示部153とを繋ぐインターフェース(以下、I/Fと略記する)部である。表示部153は液晶ディスプレイ等を備え、撮影された映像のデータや撮影情報を画面に表示する。
記録I/F部192は記録媒体193と接続され、記録媒体193へのデータの記録または読み出しを行うことが可能である。記録媒体193は映像データや付加データ等を記録するための半導体メモリ等であり、撮像装置への着脱が可能である。
外部I/F部196は、CPU178がコンピュータ等の外部機器197と通信を行う回路部を備える。プリントI/F部194はCPU178の制御指令にしたがって、撮影された映像のデータをプリンタ195に出力して印刷するための回路部を備える。プリンタ195は小型インクジェットプリンタ等である。無線I/F部198はCPU178がインターネット等のコンピュータネットワーク199を介して通信するための回路部を備える。
図3は撮像素子184の一部を示す回路図である。図3において、撮像素子184が備える多数の画素要素のうち、1行1列目(1,1)の画素要素と、その隣接行である2行1列目(2,1)の画素要素を示している。1行1列目(1,1)と2行1列目(2,1)とで画素要素の構成は同じであり、各構成要素には同じ符号を付して説明する。その他の画素要素についても同様の構成を有する。
撮像素子184における1つの画素要素は、第1の光電変換部500_Aおよび第2の光電変換部500_Bと、第1の信号保持部507_1および第2の信号保持部507_2と、信号読み出し部を備える。各画素要素は、2つの光電変換部に対して2つの信号保持部を備えているので、光電変換部の飽和容量を確保することが可能となり、その結果広いダイナミックレンジの画像を取得できる。信号保持部を有する撮像素子184の基本構造については、特許文献3にて開示されているので説明を省略する。
第1の光電変換部500_Aはフォトダイオード(以下、PDとも記す)により構成される。PDの受光により発生する信号は、第1の転送トランジスタ501_A1によって第1の信号保持部507_1に転送可能であり、第2の転送トランジスタ501_A2によって第2の信号保持部507_2に転送可能である。また、第3の転送トランジスタ503_Aは電源線521とPDのカソードに接続され、第1の光電変換部500_Aをリセットするためのオーバーフローゲートの機能をもつ。
同様に、第2の光電変換部500_BはPDにより構成される。PDの受光により発生する信号は、第4の転送トランジスタ501_B1によって第1の信号保持部507_1に転送可能であり、第5の転送トランジスタ501_B2によって第2の信号保持部507_2に転送可能である。また、第6の転送トランジスタ503_Bは電源線521とPDのカソードに接続され、第2の光電変換部500_Bをリセットするためのオーバーフローゲートの機能をもつ。
第1の転送トランジスタ501_A1、第2の転送トランジスタ501_A2、第4の転送トランジスタ501_B1、第5の転送トランジスタ501_B2によって電荷信号の転送部が構成される。
第1の信号保持部507_1に蓄積された電荷に対応する信号は、第7の転送トランジスタ502_1を介してフローティングディフュージョン(以下、FDと略記する)領域508に転送される。この信号は増幅トランジスタ505、選択トランジスタ506、信号出力線523を介して、撮像素子184の外部に読み出される。FD領域508、増幅トランジスタ505、および選択トランジスタ506によって、第1の信号読み出し部が構成される。つまり増幅トランジスタ505のゲートがFD領域508と接続されており、増幅トランジスタ505に接続された選択トランジスタ506が信号出力線523に接続されている。
また、第2の信号保持部507_2に蓄積された電荷に対応する信号は、第8の転送トランジスタ502_2を介して隣接行の2行1列目(2,1)の画素要素が備えるFD領域508に転送される。この信号は2行1列目(2,1)の画素要素における増幅トランジスタ505、選択トランジスタ506、信号出力線523を介して、撮像素子184の外部に読み出される。
リセットトランジスタ504は電源線520とFD領域508に接続されており、FD領域508のリセットを行う。各トランジスタのゲートへの制御信号は以下のとおりである。なお図3では1行目の制御信号に(1)を付記し、2行目の制御信号に(2)を付記することで区別している。
第1の転送トランジスタ501_A1は転送パルスφGS_A1により制御され、第2の転送トランジスタ501_A2は転送パルスφGS_A2により制御される。第4の転送トランジスタ501_B1は転送パルスφGS_B1により制御され、第5の転送トランジスタ501_B2は転送パルスφGS_B2により制御される。
また、第3の転送トランジスタ503_Aおよび第6の転送トランジスタ503_Bは転送パルスφOFGにより制御される。第7の転送トランジスタ502_1は転送パルスφTX1により制御され、第8の転送トランジスタ502_2は転送パルスφTX2により制御される。さらに、リセットトランジスタ504はリセットパルスφRESにより制御され、選択トランジスタ506は選択パルスφSELにより制御される。各制御パルスは、タイミング発生部189の制御信号に基づき不図示の垂直走査回路から各トランジスタに送出される。
次にグローバル電子シャッタ撮影で広いダイナミックレンジの動画像を取得する方法を説明する。撮像素子184にて蓄積時間の長い第1の画像信号は第1の信号保持部507_1に蓄積される電荷に対応する信号であり、蓄積時間の短い第2の画像信号は第2の信号保持部507_2に蓄積される電荷に対応する信号である。第1および第2の画像信号を合成することによって広いダイナミックレンジの動画像を取得できる。このとき、第1の画像信号における時間方向の重心と第2の画像信号における時間方向の重心とのずれが小さくなるように、第1の画像信号と第2の画像信号を交互に取得する制御が行われる。また本実施形態では、動画像を取得する際に行ごとの間引き読み出しが行われ、さらにフレームごとに異なる行の画像信号を取得する処理が行われる。例えば自然数を表す変数nを導入し、撮像素子184がベイヤー配列の画素構成である場合に奇数フレームでは4n-3行と4n-2行での画像の蓄積が行われる。偶数フレームでは4n-1行と4n行での画像の蓄積が行われる。これにより、蓄積および読み出しの高速化を実現できる。
図4は撮像素子184の駆動シーケンスを示すタイミングチャートである。図4では、奇数フレームで蓄積を行い偶数フレームで読み出しを行う第1行のタイミングと、偶数フレームで蓄積を行い奇数フレームで読み出しを行う第3行のタイミングを示している。グローバル電子シャッタ撮影が行われるので、4n-3行と4n-2行での蓄積は第1行と同じタイミングで制御される。同様に、4n-1行と4n行での蓄積は第3行と同じタイミングで制御される。
図4に示すφVは垂直同期信号を表し、φHは水平同期信号を表す。その下側の各制御信号(図3参照)には行を表す数字を括弧内に示す。時間経過の方向は左から右への方向であり、時刻t1からt26を示す。
まず時刻t1で垂直同期信号φVがハイレベルになり、動画の第1フレームが開始する。時刻t1において、n=1での4n-3行、つまり第1行の転送パルスφTX1(1)およびφTX2(1)がハイレベルとなり、第7の転送トランジスタ502_1および第8の転送トランジスタ502_2がONとなる。このとき、リセットパルスφRES(1)、φRES(2)はハイレベルである。よって、電源線520に接続された各リセットトランジスタ504はON状態であるので、FD領域508とともに信号保持部507_1、507_2がリセットされる。
また時刻t1において、第1行の転送パルスφOFG(1)がハイレベルからローレベルに変化し、第3の転送トランジスタ503_Aと第6の転送トランジスタ503_BがOFFとなる。第1の光電変換部500_Aと第2の光電変換部500_Bのリセット状態が解除され、信号電荷の蓄積が開始される。
次の時刻t2になると、第1の光電変換部500_Aおよび第2の光電変換部500_Bで蓄積された、蓄積時間の短い画像の1回目の信号電荷が、第2の信号保持部507_2に転送される。このとき転送パルスφGS_A2(1)およびφGS_B2(1)がハイレベルとなり、第2の転送トランジスタ501_A2および第5の転送トランジスタ501_B2がONとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷が第2の信号保持部507_2に転送される。その後に転送パルスφGS_A2(1)およびφGS_B2(1)がローレベルとなると、第2の転送トランジスタ501_A2および第5の転送トランジスタ501_B2がOFFとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷の蓄積が再開される。
時刻t3になると、第1の光電変換部500_Aおよび第2の光電変換部500_Bで蓄積された、蓄積時間の長い画像の1回目の信号電荷が、第1の信号保持部507_1に転送される。このとき転送パルスφGS_A1(1)およびφGS_B1(1)がハイレベルとなり、第1の転送トランジスタ501_A1および第4の転送トランジスタ501_B1がONとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷が第1の信号保持部507_1に転送される。その後に転送パルスφGS_A1(1)およびφGS_B1(1)がローレベルとなると、第1の転送トランジスタ501_A1および第4の転送トランジスタ501_B1がOFFとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷の蓄積が再開される。
これ以降には以下の信号転送が行われる。蓄積時間が相対的に長い画像を第1の画像とし、蓄積時間が相対的に短い画像を第2の画像とする。
・各時刻t4,t6,t8,t12での第2の画像に係る2回目、3回目、4回目、5回目の転送。
・各時刻t5,t7,t9での第1の画像に係る2回目、3回目、4回目の転送。
“t4<t5<t6<t7<t8<t9<t12”の関係であり、第2の画像信号と第1の画像信号はそれぞれに対応した信号保持部に転送される。
以上のように、蓄積時間の短い第2の画像信号と蓄積時間の長い第1の画像信号とが交互に蓄積および転送されることにより、第2の画像信号と第1の画像信号との間で時間方向の重心ずれを抑制することができる。
第1フレームで蓄積された、4n-3行と4n-2行の信号電荷は、第2フレームで読み出される。本実施形態の撮像装置では、クロストークの影響を受けやすい蓄積時間の短い第2の画像信号から先に読み出すように制御される。また撮像素子184では、第2の信号保持部507_2に蓄積された第2の画像の信号電荷が、隣接行に属する画素部の信号読み出し部から読み出される構成である。ここで、撮像素子184は図3に示した構成要素の他に、最終行の画素部外には第2の信号読み出し部を有している。
図4に示す時刻t13は第2フレームの開始時刻であり、時刻t13より前の時刻t10において、n=1での4n-2行、つまり第2行のリセットパルスφRES(2)がローレベルになる。図3の撮像素子184の一部回路図に示す第2行のリセットトランジスタ504がOFFとなり、第2行のFD領域508のリセット状態が解除される。次の時刻t11にて第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。さらに時刻t13では、第1行の転送パルスφTX2(1)および第2行の選択パルスφSEL(2)がハイレベルになる。第1行の第2の信号保持部507_2に蓄積された、蓄積時間の短い第2の画像の信号電荷が第2行の信号読み出し部を介して読み出される。この第2の画像の信号電荷の読み出し時に含まれるFD領域508でのノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
第1行での第2の画像の信号電荷が読み出されると、時刻t15にてリセットパルスφRES(2)がハイレベルになり、第2行のFD領域508がリセット状態になる。引き続き、第2行における第2の信号保持部507_2に蓄積された第2の画像の信号電荷が以下のように読み出される。まず、時刻t14において、n=1での4n-1行、つまり第3行のリセットパルスφRES(3)がローレベルになる。図3では3行目の構成素子の図示を省略するが、第3行のリセットトランジスタ504がOFFとなり、第3行のFD領域508のリセット状態が解除される。時刻t15にて第3行の選択パルスφSEL(3)がハイレベルになり、第3行の増幅トランジスタ505を介して第3行のFD領域508のノイズ成分が読み出される。さらに時刻t16にて、不図示の第2行の転送パルスφTX2(2)および第3行の選択パルスφSEL(3)がハイレベルになる。第2行の第2の信号保持部507_2に蓄積された、蓄積時間の短い第2の画像の信号電荷が第3行の信号読み出し部を介して読み出される。
以降、n≧2として4n-3行、4n-2行の第2の信号保持部507_2に蓄積された、蓄積時間の短い第2の画像の信号電荷が、隣接行の信号読み出し部を介して順次読み出される。
蓄積時間の短い第2の画像の信号電荷の読み出しが終了すると、4n-3行、4n-2行(n≧1)での蓄積時間の長い第1の画像の信号電荷の読み出しが開始する。第2フレームにおける時刻t19において、第1(4n-3;n≧1)行のリセットパルスφRES(1)がローレベルになる。図3の撮像素子184の一部回路図に示す第1行のリセットトランジスタ504がOFFとなり、第1行のFD領域508のリセット状態が解除される。時刻t20にて第1行の選択パルスφSEL(1)がハイレベルになり、第1行のFD領域508のノイズ成分が読み出される。時刻t21にて第1行の転送パルスφTX1(1)および第1行の選択パルスφSEL(1)がハイレベルになり、第1行の第1の信号保持部507_1に蓄積された第1の画像の信号電荷が第1行の信号読み出し部を介して読み出される。また、第1の画像の信号電荷の読み出し時に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
第1行での第1の画像の信号電荷が読み出されると、時刻t23にてリセットパルスφRES(1)がハイレベルになり、第1行のFD領域508がリセット状態になる。引き続き、第2行での第1の信号保持部507_1に蓄積された第1の画像の信号電荷が以下のように読み出される。
時刻t22において、第2(4n-2;n≧1)行のリセットパルスφRES(2)がローレベルになる。第2行のリセットトランジスタ504がOFFとなり、第2行のFD領域508のリセット状態が解除される。時刻t23にて第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。時刻t24にて不図示の第2行の転送パルスφTX1(2)および第2行の選択パルスφSEL(2)がハイレベルになる。第2行の第1の信号保持部507_1に蓄積された第1の画像の信号電荷が第2行の信号読み出し部を介して読み出される。
以降、4n-3行、4n-2行(n≧2)の第1の信号保持部507_1に蓄積された蓄積時間の長い第1の画像の信号電荷が、該当する行の信号読み出し部を介して順次読み出される。
一方、4n-3行、4n-2行(n≧1)の画像の信号電荷が読み出し中である時刻t13から始まる第2フレームでは、4n-1行、4n行(n≧1)での蓄積が行われる。4n-1行、4n行(n≧1)の画素構成については、図3に示した4n-3行、4n-2行(n≧1)での回路図の画素構成と同様であるので、同一の名称、符号を用いて説明する。
時刻t13では第3(4n-1;n≧1)行の転送パルスφTX1(3)およびφTX2(3)がハイレベルとなり、第7の転送トランジスタ502_1および第8の転送トランジスタ502_2がONとなる。このとき、リセットパルスφRES(3)、φRES(4)はハイレベルであり、電源線520に接続された各リセットトランジスタ504はON状態であるため、FD領域508とともに信号保持部507_1、507_2がリセットされる。
また時刻t13において、第3行の転送パルスφOFG(3)がハイレベルからローレベルに変化する。第3の転送トランジスタ503_Aと第6の転送トランジスタ503_BがOFFとなり、第1の光電変換部500_Aと第2の光電変換部500_Bのリセット状態が解除され、信号電荷の蓄積が開始される。
時刻t15にて、第1の光電変換部500_Aおよび第2の光電変換部500_Bで蓄積された、蓄積時間の短い第2の画像の1回目の信号電荷が、第2の信号保持部507_2に転送される。このとき転送パルスφGS_A2(3)およびφGS_B2(3)がハイレベルとなり、第2の転送トランジスタ501_A2および第5の転送トランジスタ501_B2がONとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷が第2の信号保持部507_2に転送される。その後に転送パルスφGS_A2(3)およびφGS_B2(3)がローレベルとなると、第2の転送トランジスタ501_A2および第5の転送トランジスタ501_B2がOFFとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷の蓄積が再開される。
時刻t17にて、第1の光電変換部500_Aおよび第2の光電変換部500_Bで蓄積された、蓄積時間の長い第1の画像の1回目の信号電荷が、第1の信号保持部507_1に転送される。このとき転送パルスφGS_A1(3)およびφGS_B1(3)がハイレベルとなり、第1の転送トランジスタ501_A1および第4の転送トランジスタ501_B1がONとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷が第1の信号保持部507_1に転送される。その後に転送パルスφGS_A1(3)およびφGS_B1(3)がローレベルとなると、第1の転送トランジスタ501_A1および第4の転送トランジスタ501_B1がOFFとなる。第1の光電変換部500_Aおよび第2の光電変換部500_Bの信号電荷の蓄積が再開される。
以降、第2の画像に係る2回目の信号転送、第1の画像に係る2回目の信号転送、第2の画像に係る3回目の信号転送、第1の画像に係る3回目の信号転送が行われる。さらには第2の画像に係る4回目の信号転送、第1の画像に係る4回目の信号転送、第2の画像に係る5回目の信号転送と続く。第2の画像と第1の画像の信号電荷がそれぞれに対応した信号保持部に転送される。
以上のように、蓄積時間の短い第2の画像と蓄積時間の長い第1の画像とが交互に蓄積および転送されることにより、第2の画像信号と第1の画像信号との間で時間方向の重心ずれを抑制することができる。
第2フレームで蓄積された、4n-1行、4n行(n≧1)の信号電荷は、4n-3行、4n-2行(n≧1)と同様に第3フレームで読み出される。さらに、4n-1行、4n行(n≧1)行における画像の読み出し中の時刻t26から始まる第3フレームでは、4n-3行、4n-2行(n≧1)の蓄積が行われる。
以上のように撮像素子184は、1つの画素部が2つの光電変換部と2つの信号保持部と1つの信号読み出し部とから構成される。これにより、回路構成の複雑化を回避しつつ、蓄積時間の短い画像と蓄積時間の長い画像を高いフレームレートにて取得でき、グローバル電子シャッタ撮影で広いダイナミックレンジの動画像を生成することが可能である。
次に図5のフローチャートを参照して、撮像素子184での静止画撮影時の制御について説明する。本実施形態の撮像装置は、ライブビュー画像を表示しつつ位相差方式の焦点検出を行うことが可能であるが、図5ではライブビュー画像の取得および表示の処理を省略する。ライブビュー画像の信号は、図4に示した動画撮影のタイミングチャートとほぼ同様の撮像素子184の駆動シーケンスで取得される。
ユーザが撮影モード選択レバー156を操作して静止画撮影モードに設定するとS100で撮影処理が開始する。次のS101でCPU178は、スイッチST154の入力状態を判定する。ユーザはスイッチST154を操作し、その第1段階のスイッチ(ST1と記す)のON操作によって静止画の撮影準備指示を行うことができる。CPU178は、第1段階のスイッチST1がONとなったことを検出した場合、S102に処理を進め、第1段階のスイッチST1がOFFである場合にはS101の判定処理を継続する。
S102でCPU178は、撮像光学系152の焦点状態の検出を行うために、タイミング発生部189を制御して撮像素子184から焦点検出用の画像信号を取得する。撮像素子184を構成する1つの画素要素は、第1の光電変換部500_Aおよび第2の光電変換部500_Bを有する。第1および第2の光電変換部は、撮像素子184を構成するマイクロレンズを介して撮像光学系152の異なる瞳部分領域をそれぞれ通過した光を受光する。つまり、第1の光電変換部500_Aは、瞳領域における第1の瞳部分領域を通過した被写体からの光を受光して光電変換を行い、第2の光電変換部500_Bは、瞳領域における第2の瞳部分領域を通過した被写体からの光を受光して光電変換を行う。第1および第2の光電変換部によりそれぞれ取得された焦点検出用画像信号に基づく位相差検出が行われる。CPU178は相関演算に基づいてデフォーカス量を算出して撮像光学系152の焦点調節制御を行う。撮像光学系152の焦点状態検出方法は特許文献4に開示されているので説明を省略する。
撮像素子184では全行にて、第1の光電変換部500_Aおよび第2の光電変換部500_Bの蓄積が同時に行われる。さらに、各行の第1の信号保持部の信号電荷を読み出した後に同一行の第2の信号保持部の信号電荷を読み出す制御により、各信号保持部に流入する信号電荷によるクロストークに伴う焦点検出誤差を小さくすることができる。撮像光学系152の焦点検出における撮像素子184の駆動シーケンスについては、図6を用いて後述する。
S102において、取得された焦点検出用画像信号から撮像光学系152の焦点状態が検出されると、CPU178はレンズ・絞り制御部182により不図示の駆動機構を介して撮像光学系152の焦点調節制御を行う。フォーカスレンズによる焦点調節動作が終了すると、S103にてCPU178は再度、スイッチST154の入力状態を判定する。ユーザはスイッチST154をさらに操作し、その第2段階のスイッチ(ST2と記す)のON操作によって静止画の撮影指示(画像記録指示)を行うことができる。CPU178はST2がONとなったことを検出した場合、S104に処理を進め、ST2がOFFである場合にはS101の処理に戻す。
S104にてCPU178は静止画撮影モードの確認を行い、S105にて静止画撮影モードとして連写撮影モードに設定されているか否かを判定する。連写撮影モードは所定の時間間隔で被写体を連続して撮影するモードである。連写撮影モードに設定されている場合、S106の処理に進み、連写撮影モードではなく単写撮影モードに設定されている場合にはS108の処理に進む。
S106でCPU178は、連写撮影モードで撮像素子184の制御を行う。グローバル電子シャッタ撮影で静止画の連写撮影を行う場合の駆動シーケンスについては、図7を用いて後述する。一方、S108でCPU178は、単写撮影モードで撮像素子184の制御を行う。グローバル電子シャッタ撮影で静止画の単写撮影を行う場合の駆動シーケンスについては、図8を用いて後述する。
S106の次にS107に進み、CPU178は、ユーザによるスイッチST154の操作が継続して行われており、第2段階のスイッチST2がONになっているか否かを判定する。ST2がONであると判定された場合、S106に戻って連写撮影を続行し、ST2がOFFであると判定された場合にはS109へ進む。またS108に示す静止画の単写撮影の制御が終了すると、S109へ進む。S109にて、図5に示す一連の処理を終了する。
次に図6を参照して、図5のS102(焦点調節)における撮像光学系152の焦点検出について説明する。図6は撮像光学系152の焦点検出が行われる場合の撮像素子184の駆動シーケンスを示すタイミングチャートである。撮像素子184における焦点検出用画像の取得方法に関し、主に撮像素子184の第1行および第2行のタイミングを例示して説明する。各制御パルスについては図4の表記法を踏襲する。このことは図7、図8でも同じである。
時刻t71において、全行の転送パルスφOFGがハイレベルからローレベルになり、第1の光電変換部500_Aと第2の光電変換部500_Bのリセット状態が解除され、焦点検出用の信号電荷の蓄積が開始される。このとき全行のリセットパルスφRESおよび転送パルスTX1、TX2はハイレベルであり、電源線520に接続されたリセットトランジスタ504、第7の転送トランジスタ502_1、第8の転送トランジスタ502_2はON状態である。そのため、全画素のFD領域508と第1の信号保持部507_1および第2の信号保持部507_2がリセットされている。
時刻t72において、第1行の信号を読み出すために、第1行のリセットパルスφRES(1)はローレベルとなり、第1行のFD領域508のリセット状態が解除される。同時に、全行の転送パルスTX1およびTX2もローレベルとなり、全画素の第1の信号保持部507_1および第2の信号保持部507_2のリセット状態が解除される。
時刻t73にて第1行の選択パルスφSEL(1)がハイレベルになり、第1行の増幅トランジスタ505を介して第1行のFD領域508のノイズ成分が読み出される。また時刻t73では全行の転送パルスφGS_A1およびφGS_B2がハイレベルとなり、全画素の第1の転送トランジスタ501_A1および第5の転送トランジスタ501_B2がONとなる。その結果、第1の光電変換部500_Aの信号電荷は第1の信号保持部507_1に転送され、第2の光電変換部500_Bの信号電荷は第2の信号保持部507_2に転送される。つまり蓄積期間が同じ焦点検出用画像信号が蓄積される。
焦点検出用画像信号が蓄積されると焦点検出画像信号の読み出しが行われるが、第1の信号保持部507_1と第2の信号保持部507_2からの信号電荷の読み出しの時差が大きいと、信号保持部に流入するクロストーク量に差が生じる可能性がある。第1の信号保持部507_1で生成された焦点検出用画像と、第2の信号保持部507_2で生成された焦点検出用画像との間に光量差が生じた場合には焦点検出精度の低下が問題となる。そこで本実施形態の撮像装置では、第1の信号保持部507_1の信号電荷を読み出した後に同一行の第2の信号保持部507_2の信号電荷を読み出す制御が行われる。すなわち、同一行の第1および第2の信号保持部の信号電荷を読み出した後に、隣接行の第1および第2の信号保持部の信号電荷を読み出すように制御が行われるので、第1および第2の信号保持部に流入するクロストーク量の差を抑制することができる。
時刻t74にて第1行の転送パルスφTX1(1)および第1行の選択パルスφSEL(1)がハイレベルになり、第1行の第1の信号保持部507_1に蓄積された焦点検出用画像の信号電荷が第1行の信号読み出し部を介して読み出される。このとき、焦点検出用画像の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
焦点検出用画像の蓄積が終了して、時刻t74では全行の転送パルスφOFGがハイレベルになり、全画素の第1の光電変換部500_Aと第2の光電変換部500_Bはリセット状態になる。
第1行の第1の信号保持部507_1に蓄積された焦点検出用画像の信号電荷が読み出されると、第1行の第2の信号保持部507_2に蓄積された焦点検出用画像の信号電荷が、隣接行である第2行の信号読み出し部を介して読み出される。時刻t75において、第2行のリセットパルスφRES(2)はローレベルとなり、第2行のFD領域508のリセット状態が解除される。
時刻t76において、第1行のリセットパルスφRES(1)および転送パルスφTX1(1)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1がON状態になる。よって、第1行のFD領域508とともに第1の信号保持部507_1がリセットされる。また時刻t76では第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。
時刻t77において、第1行の転送パルスφTX2(1)および第2行の選択パルスφSEL(2)がハイレベルになり、第1行の第2の信号保持部507_2に蓄積された焦点検出用画像の信号電荷が第2行の信号読み出し部を介して読み出される。このとき、焦点検出用画像の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
本実施形態において、第1行の第1の信号保持部507_1に蓄積された焦点検出用画像の信号電荷の読み出しと、第1行の第2の信号保持部507_2に蓄積された焦点検出用画像の信号電荷の読み出しの時間差はほとんどない。よって、クロストークの影響を受けずに良好な焦点検出が可能である。
第1行の第1および第2の光電変換部に蓄積された信号電荷が読み出されると、次に、隣接する第2行の第1および第2の光電変換部に蓄積された信号電荷が読み出される。第1行の信号電荷が読み出された後、時刻t78において第2行のリセットパルスφRES(2)がハイレベルとなり、第2行のFD領域508がリセットされる。その後に第2行のFD領域508のリセット状態が解除されると、時刻t79にて第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。
時刻t80にて第2行の転送パルスφTX1(2)および第2行の選択パルスφSEL(2)がハイレベルになり、第2行の第1の信号保持部507_1に蓄積された焦点検出用画像の信号電荷が第2行の信号読み出し部を介して読み出される。このとき、焦点検出用画像の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
第2行の第1の信号保持部507_1に蓄積された焦点検出用画像の信号電荷が読み出されると、第2行の第2の信号保持部507_2に蓄積された焦点検出用画像の信号電荷が、隣接行である第3行の信号読み出し部を介して読み出される。
時刻t81にて第3行のリセットパルスφRES(3)はローレベルとなり、第3行のFD領域508のリセット状態が解除される。また時刻t81にて第2行のリセットパルスφRES(2)および転送パルスφTX1(2)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1がON状態になる。よって第2行のFD領域508とともに第1の信号保持部507_1がリセットされる。時刻t82にて第3行の選択パルスφSEL(3)がハイレベルになり、第3行の増幅トランジスタ505を介して第3行のFD領域508のノイズ成分が読み出される。
時刻t83にて第2行の転送パルスφTX2(2)および第3行の選択パルスφSEL(3)がハイレベルになり、第2行の第2の信号保持部507_2に蓄積された焦点検出用画像の信号電荷が第3行の信号読み出し部を介して読み出される。このとき、焦点検出用画像の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
以降の行の第1および第2の信号保持部の信号電荷についても同様に読み出される。
以上のように、各行における複数の信号保持部(507_1,507_2)にそれぞれ蓄積された焦点検出用画像の信号電荷の読み出しの際に時間差はほとんどないので、クロストークの影響を受けずに良好な焦点検出が可能である。
CPU178は取得された焦点検出用画像信号を用いて撮像光学系152の焦点状態の検出処理を実行し、算出したデフォーカス量に基づいてレンズ・絞り制御部182を介して撮像光学系152の焦点調節制御を行う。
次に、図7を参照して、図5のS106(連写撮影制御)における撮像素子184の駆動シーケンスについて説明する。図7は、グローバル電子シャッタ撮影で静止画を連続して撮影する場合の制御方法を説明するタイミングチャートである。
静止画の連写撮影において、連写速度を速くするために本実施形態では、撮像素子184の1画素を構成する第1の光電変換部500_Aおよび第2の光電変換部500_Bに蓄積された画像信号が第1の信号保持部507_1に同時に転送される。第1の信号保持部507_1から第1の信号読み出し部を介して撮像素子外に信号出力を行うことにより、読み出し速度の高速化を実現できる。
時刻t31において、全行の転送パルスφOFGがハイレベルからローレベルになり、第3の転送トランジスタ503_Aと第6の転送トランジスタ503_BがOFFとなる。第1の光電変換部500_Aと第2の光電変換部500_Bのリセット状態が解除され、信号電荷の蓄積が開始される。このとき全行のリセットパルスφRESおよび転送パルスTX1、TX2はハイレベルであり、電源線520に接続されたリセットトランジスタ504、第7の転送トランジスタ502_1、第8の転送トランジスタ502_2はON状態である。よって全画素のFD領域508と第1および第2の信号保持部507_1、507_2がリセット状態になっている。
時刻t32にて第1行のリセットパルスφRES(1)がローレベルになり、第1行のリセットトランジスタ504がOFFとなり、第1行のFD領域508のリセット状態が解除される。さらに、時刻t33では第1行の選択パルスφSEL(1)がハイレベルになり、第1行の増幅トランジスタ505を介して第1行のFD領域508のノイズ成分が読み出される。また時刻t33では全行の第1の転送パルスφGS_A1(1)および第4の転送パルスφGS_B1(1)がハイレベルになる。全画素の第1の光電変換部500_Aおよび第1行の第2の光電変換部500_Bに蓄積された信号電荷は、各画素の第1の信号保持部507_1に転送される。
時刻t35にて第1行の転送パルスφTX1(1)および第1行の選択パルスφSEL(1)がハイレベルになり、第1行の第1の信号保持部507_1に蓄積された静止画の信号電荷が第1行の信号読み出し部を介して読み出される。読み出された静止画の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。また時刻t35では、全行の転送パルスφOFGがハイレベルになり、全画素の第1の光電変換部500_Aと第2の光電変換部500_Bがリセット状態になる。
第1行の静止画の信号電荷が読み出された後に、第2行の静止画の信号電荷が読み出される。時刻t36にて第2行のリセットパルスφRES(2)がローレベルになり、第2行のリセットトランジスタ504がOFFとなり、第2行のFD領域508のリセット状態が解除される。
時刻t37にて第1行のリセットパルスφRES(1)および転送パルスφTX1(1)がハイレベルとなる。電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1がON状態になるため、第1行のFD領域508とともに第1の信号保持部507_1がリセットされる。また時刻t37では、第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。
時刻t38にて第2行の転送パルスφTX1(2)および選択パルスφSEL(2)がハイレベルになり、第2行の第1の信号保持部507_1に蓄積された静止画の信号電荷が第2行の信号読み出し部を介して読み出される。読み出された静止画の信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
時刻t39にて第2行のリセットパルスφRES(2)および転送パルスφTX1(2)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1はON状態になる。よって第2行のFD領域508とともに第1の信号保持部507_1がリセットされる。
以降、各行の第1の信号保持部507_1に蓄積された静止画の信号電荷は、各行の信号読み出し部を介して時刻t40までに順次読み出される。1枚目の静止画の信号電荷が読み出されると、時刻t40から2枚目の静止画の取得が開始され、時刻t41から3枚目の静止画の取得が開始される。2枚目以降の撮像素子184の駆動シーケンスについては説明を省略する。
静止画の連写撮影中にCPU178は、スイッチST154の入力状態を判定し、第2段階のスイッチST2のON状態が継続している間、静止画の連写撮影を続行する。本実施形態では、静止画の連写撮影中に焦点検出が行われない処理例を説明したが、本発明に係る別の実施形態では連写駒間に焦点検出が行われる。
撮像素子184の1画素を構成する複数の信号保持部(507_1,507_2)は、動画撮影や静止画連写撮影のモードにおいて、複数の光電変換部(500_A、500_B)で蓄積された信号電荷を加算して蓄積できる構成である。そのため、各信号保持部の飽和容量は各光電変換部の飽和容量の2倍以上になっている。すなわち、信号保持部の飽和容量は、第1の光電変換部500_Aの飽和容量と第2の光電変換部500_Bの飽和容量との和以上に設定されている。
そこで静止画の単写撮影のモードが設定されている場合、撮像装置ではさらに広いダイナミックレンジの画像を取得することができる。そのために、撮像素子184の1画素を構成する第1の光電変換部500_Aに蓄積された画像の信号電荷が、第1の信号保持部507_1に転送されるように制御される。同様に、第2の光電変換部500_Bに蓄積された画像の信号電荷は第2の信号保持部507_2に転送されるように制御される。このとき、光電変換部から信号保持部への転送トランジスタを所定の時間に亘ってON状態に制御することにより、信号電荷量の増大を図ることができる。
また、最初に第1の信号保持部507_1に蓄積された信号電荷を同一行の信号読み出し部より読み出す制御が行われる。全行の第1の信号保持部507_1の蓄積された信号電荷が読み出された後に、第2の信号保持部507_2の蓄積された信号電荷を隣接行の信号読み出し部より読み出す制御が行われる。第1および第2の信号保持部からそれぞれ読み出された画像信号はデジタル信号処理部187により合成されて、広いダイナミックレンジの静止画信号が生成される。
また本実施形態の撮像装置では、第1の信号保持部507_1に係る読み出し行とは逆の行から第2の信号保持部507_2の信号電荷を読み出す制御が行われる。それによって、デジタル信号処理部187で加算して得られる静止画について、第1の信号保持部507_1および第2の信号保持部507_2からの信号電荷の読み出し時間により生じるクロストークの影響を低減可能である。
図8を参照して、図5のS108(単写撮影制御)における撮像素子184の駆動シーケンスについて説明する。図8は、グローバル電子シャッタ撮影で静止画撮影(単写撮影)を行う場合の制御方法を説明するタイミングチャートである。
時刻t51において、全行の転送パルスφOFGがハイレベルからローレベルになり、第3の転送トランジスタ503_Aと第6の転送トランジスタ503_BがOFFとなる。第1および第2の光電変換部500_A、500_Bのリセット状態が解除され、信号電荷の蓄積が開始される。このとき全行のリセットパルスφRESおよび転送パルスTX1、TX2はハイレベルであり、電源線520に接続されたリセットトランジスタ504、第7の転送トランジスタ502_1、第8の転送トランジスタ502_2はON状態である。よって全画素のFD領域508と第1および第2の信号保持部507_1、507_2がリセット状態になっている。
時刻t52にて全行の転送パルスTX1およびTX2もローレベルとなる。全画素の第1の信号保持部507_1および第2の信号保持部507_2のリセット状態が解除され、各信号保持部(507_1、507_2)への信号電荷の転送が可能な状態になる。
第1および第2の光電変換部500_A、500_Bで信号電荷が飽和する前の時刻t53にて、全行の転送パルスφGS_A1およびφGS_B2がハイレベルとなる。全画素の第1の転送トランジスタ501_A1および第5の転送トランジスタ501_B2がONとなる。その結果、全画素の第1の光電変換部500_Aの信号電荷は第1の信号保持部507_1に転送され、全画素の第2の光電変換部500_Bの信号電荷は第2の信号保持部507_2に転送される。このとき全行の転送パルスφGS_A1およびφGS_B2は、時刻t53から所定時間後の時刻t56までハイレベルの状態が保持される。そのため、第1および第2の光電変換部の飽和容量を超えた信号電荷が第1および第2の信号保持部507_1、507_2にそれぞれ転送される。
時刻t54にて第1行のリセットパルスφRES(1)がローレベルになり、第1行のリセットトランジスタ504がOFFとなって第1行のFD領域508のリセット状態が解除される。時刻t55にて第1行の選択パルスφSEL(1)がハイレベルになり、第1行の増幅トランジスタ505を介して第1行のFD領域508のノイズ成分が読み出される。
時刻t57にて第1行の転送パルスφTX1(1)および第1行の選択パルスφSEL(1)がハイレベルになり、第1行の第1の信号保持部507_1に蓄積された信号電荷が第1行の信号読み出し部を介して読み出される。このとき、読み出された信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
全画素の第1および第2の光電変換部500_A、500_Bの信号電荷が、第1および第2の信号保持部507_1、507_2にそれぞれ転送されると、時刻t57には全行の転送パルスφOFGがハイレベルになる。全画素の第1の光電変換部500_Aと第2の光電変換部500_Bはリセット状態になる。
第1行の第1の信号保持部507_1に蓄積された信号電荷が読み出された後、同様に第2行の第1の信号保持部507_1に蓄積された信号電荷が読み出される。時刻t58にて第2行のリセットパルスφRES(2)はローレベルとなり、第2行のFD領域508のリセット状態が解除される。また時刻t58にて第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。また時刻t58では第1行のリセットパルスφRES(1)および転送パルスφTX1(1)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1はON状態になる。そのため、第2行のFD領域508と第1の信号保持部507_1がリセットされる。
時刻t59にて第2行の転送パルスφTX1(2)および選択パルスφSEL(2)がハイレベルになり、第2行の第1の信号保持部507_1に蓄積された信号電荷が信号読み出し部を介して読み出される。このとき、読み出された信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
時刻t60にて第2行のリセットパルスφRES(2)および転送パルスφTX1(2)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第7の転送トランジスタ502_1はON状態になる。よって第2行のFD領域508と第1の信号保持部507_1がリセットされる。
以降の行の第1の信号保持部507_1の信号電荷についても同様に読み出される。時刻t61では全行の第1の信号保持部507_1の信号電荷の読み出しが終了する。この時刻t61以降、第1の信号保持部507_1の信号電荷の読み出し行とは順番が逆の行から第2の信号保持部507_2に蓄積された信号電荷が読み出される。図8のタイミングチャートでは、第2の信号保持部507_2の信号電荷の読み出しが終了する時刻t68よりも前の、第2行と第1行の信号電荷の読み出しタイミングを示している。
時刻t61から、最終行より順番に第2の信号保持部507_2の信号電荷の読み出しが開始する(以下、最終行を基準とする)。時刻t62において第2行の第2の信号保持部507_2の信号電荷の読み出しが行われる。時刻t62にて第3行のリセットパルスφRES(3)がローレベルとなり、第3行のFD領域508のリセット状態が解除されると、時刻t63では第3行の選択パルスφSEL(3)がハイレベルになる。第3行の増幅トランジスタ505を介して第3行のFD領域508のノイズ成分が読み出される。
時刻t64にて第2行の転送パルスφTX2(2)および第3行の選択パルスφSEL(3)がハイレベルになり、第2行の第2の信号保持部507_2に蓄積された信号電荷が第3行の信号読み出し部を介して読み出される。このとき、読み出された信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。そして最後に、第1行の第2の信号保持部507_2の信号電荷の読み出しが行われる。時刻t65において、第2行のリセットパルスφRES(2)がローレベルとなる。電源線520に接続されたリセットトランジスタ504はOFF状態になるため、第2行のFD領域508のリセット状態が解除される。また時刻t65では、第2行の転送パルスφTX1(2)がローレベルとなり、第2行のFD領域508と第2行の第1の信号保持部507_1との接続が遮断される。
時刻t66にて第3行のリセットパルスφRES(3)および第2行の転送パルスφTX2(2)がハイレベルとなり、電源線520に接続されたリセットトランジスタ504と、第8の転送トランジスタ502_2はON状態になる。そのため、第2行のFD領域508と第2の信号保持部507_2がリセットされる。また時刻t66では第2行の選択パルスφSEL(2)がハイレベルになり、第2行の増幅トランジスタ505を介して第2行のFD領域508のノイズ成分が読み出される。
時刻t67において、第1行の転送パルスφTX2(1)および第2行の選択パルスφSEL(2)がハイレベルになり、第1行の第2の信号保持部507_2に蓄積された信号電荷が第2行の信号読み出し部を介して読み出される。このとき、読み出された信号電荷に含まれるFD領域508のノイズ成分は、不図示の回路により信号電荷から差し引かれて信号成分が撮像素子184外に出力される。
以上のように、第1および第2の信号保持部507_1、507_2の信号電荷が全て読み出される。デジタル信号処理部187は各画素の第1および第2の信号保持部507_1、507_2からそれぞれ読み出された画像信号を加算して静止画の画像信号を生成する。このとき、第1の信号保持部507_1の信号電荷に含まれるクロストーク量については、第1行から最終行へと読み出す第1の方向にしたがって、相対的に第1行で少なく最終行で最大になる。これとは逆に第2の信号保持部507_2の信号電荷に含まれるクロストーク量については、第1の方向とは逆方向である第2の方向にしたがって、相対的に最終行で少なく第1行で最大となる。その結果、第1および第2の信号保持部507_1、507_2から読み出された信号を加算して生成された静止画像信号においては各行で発生したクロストーク量が平均化される。したがって、クロストークによるむらのない画像を取得することができる。
本実施形態によれば、よりシンプルな画素構造を有する撮像素子を用いて、位相差方式の焦点検出と、グローバル電子シャッタ撮影での広いダイナミックレンジの静止画像の取得を可能とする撮像装置を提供することができる。
前記実施形態では、複数の画素部のうちの第1の画素部が有する第2の信号保持部の信号を、第1の画素部とは異なる第2の画素部(隣接画素)が有する信号読み出し部により出力する制御を説明した。本発明の適用上、第1の画素部に対する第2の画素部の位置関係は任意である。また各画素部が瞳分割方向にて2分割された光電変換部を有する例を説明した。これに限らず、本発明は3分割以上の光電変換部(例えば、水平方向および垂直方向にそれぞれ2分割された光電変換部)を画素部が有する構成の撮像装置への適用が可能である。また、画素部内に1つの容量部(FD部)を備える例を示したが、例えばFD部に接続可能な付加容量部を備え、FD部に付加容量部を接続することで、撮像感度に応じて容量の切り替えが可能な構成等に適用可能である。