JP2010161521A - 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム - Google Patents
画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム Download PDFInfo
- Publication number
- JP2010161521A JP2010161521A JP2009001259A JP2009001259A JP2010161521A JP 2010161521 A JP2010161521 A JP 2010161521A JP 2009001259 A JP2009001259 A JP 2009001259A JP 2009001259 A JP2009001259 A JP 2009001259A JP 2010161521 A JP2010161521 A JP 2010161521A
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured images
- image blur
- blur
- corrected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 59
- 238000012937 correction Methods 0.000 title claims abstract description 25
- 238000000034 method Methods 0.000 title claims description 40
- 238000003384 imaging method Methods 0.000 title claims description 17
- 238000011156 evaluation Methods 0.000 claims abstract description 48
- 238000001914 filtration Methods 0.000 claims abstract description 16
- 230000002194 synthesizing effect Effects 0.000 claims description 16
- 239000013256 coordination polymer Substances 0.000 abstract description 39
- 230000015572 biosynthetic process Effects 0.000 description 17
- 238000003786 synthesis reaction Methods 0.000 description 17
- 239000013598 vector Substances 0.000 description 16
- 230000006870 function Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
【課題】複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させる。
【解決手段】画像処理装置1は、複数の撮影画像P1〜Pnに生じている画像ぶれの評価結果に基づいて複数の撮影画像P1〜Pn(又はこれらにフィルタ処理を行った後の複数の撮影画像)を合成することで補正画像CPを生成する。さらに、画像処理装置1は、補正画像CPを新たな参照画像として複数の撮影画像P1〜Pnの画像ぶれを反復的に評価し、反復的に生成される画像ぶれの評価結果に基づいて補正画像CPを反復的に生成する。
【選択図】図2
【解決手段】画像処理装置1は、複数の撮影画像P1〜Pnに生じている画像ぶれの評価結果に基づいて複数の撮影画像P1〜Pn(又はこれらにフィルタ処理を行った後の複数の撮影画像)を合成することで補正画像CPを生成する。さらに、画像処理装置1は、補正画像CPを新たな参照画像として複数の撮影画像P1〜Pnの画像ぶれを反復的に評価し、反復的に生成される画像ぶれの評価結果に基づいて補正画像CPを反復的に生成する。
【選択図】図2
Description
本発明は、デジタルスチルカメラ等の撮像装置によって撮影された撮影画像の画像ぶれを補正する画像処理技術に関する。
CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、CCD(Charge Coupled Device)イメージセンサ等によって生成される電気信号をデジタル信号に変換して画像データを得る撮像装置において、撮影者の手ぶれ等に起因して画像データに生じるぶれ(以下、画像ぶれと呼ぶ)を補正する技術が知られている。このような画像ぶれ補正技術の1つに、連続して撮影された複数の撮影画像を画像ぶれを打ち消すように重ね合わせることによって画像ぶれを補正する(すなわち撮影画像の明瞭さ・先鋭度を向上させる)技術が知られている(例えば、特許文献1及び2を参照)。
特許文献1に開示された補正方法は、連続して撮影された複数の撮影画像の画像ぶれの向き及び大きさ(以下、動きベクトルと呼ぶ)を算出し、算出した動きベクトルを打ち消すように画素位置をずらして複数の撮影画像を重ね合わせ合成する。これにより、特許文献1に開示された撮像装置は、画像ぶれが軽減された画像を得る。
また、特許文献2には、以下に述べる補正方法が開示されている。(i)始めに、複数の撮影画像の中から1の参照画像を選択する。参照画像の選択方法としては、最も手ぶれが小さい画像、具体的にはコントラストが最も大きい画像を選択することが記載されている。(ii)次に、参照画像とその他の撮影画像との比較によって動きベクトルを算出し、さらに、動きベクトルを用いて"点広がり関数PSF(Point Spread Function)"を算出する。PSFは、一点から出た光がどのように広がるかを表す関数であり、複数の撮影画像の画像ぶれの向き及び大きさの情報を含む。(iii)続いて、複数の撮影画像の各々に対して、算出されたPSFを用いて画像ぶれを補正するためのフィルタ処理を行う。(iv)最後に、フィルタ処理の複数の撮影画像を合成することによって、最終的な補正画像を生成する。画像合成を行うことによってPSF推定誤差の影響を抑えることができる。
上述した特許文献1及び2に開示された画像ぶれ補正技術は、複数の撮影画像の間の比較によって画像ぶれの向き及び大きさ(動きベクトル、PSF等)を推定し、当該推定果に基づいて複数の撮影画像を合成して補正画像を得る。しかしながら、これらの文献に開示された画像ぶれ補正技術では、画像ぶれの影響によりぼやけた像を含む撮影画像を基準として画像ぶれの向き及び大きさを推定する。このため、画像ぶれの向き及び大きさの推定結果の誤差が大きくなり、結果的に画像ぶれを十分に補正できないおそれがある。
なお、特許文献3は、JPEG(Joint Photographic Experts Group)等によって符号化された符号化画像を復号する際に使用するフィルタの特性を適応的に決定する技術を開示している。また、特許文献4は、画像データに対するフィルタ処理を行った後に画像表示する表示装置を開示している。しかしながら、これらの文献は、上述した特許文献1及び2に開示された画像ぶれ補正技術が有する問題点の改善手法を何ら示唆するものではない。
本発明は、上述した知見に基づいてなされたものであって、複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させることを目的とする。
本発明の一態様にかかる画像処理装置は、画像ぶれ評価部及び合成部を有する。前記画像ぶれ評価部は、複数の撮影画像に生じている画像ぶれを評価する。また、前記合成部は、前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成する。さらに、前記画像ぶれ評価部及び合成部は、前記補正画像を参照画像として前記画像ぶれを反復的に評価し、反復的に生成される前記画像ぶれの評価結果に基づいて前記補正画像を反復的に生成する。
本発明により、複数の撮影画像を合成することにより画像ぶれを補正する際に、画像ぶれの推定結果の誤差を抑制し、画像ぶれ補正の精度を向上させることができる。
以下では、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。各図面において、同一要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
<発明の実施の形態1>
図1は、本実施の形態にかかる画像処理装置1の構成例を示すブロック図である。図1において、合成部10は、撮影画像P1〜Pnを入力し、これらを合成して補正画像CPを生成する。ここで、合成部10による画像合成は、撮影画像P1〜Pnに生じている画像ぶれを打ち消すように撮影画像P1〜Pnの画素位置をずらして重ね合わせ合成することにより行われる。より具体的には、合成部10は、参照画像RPを基準として、撮影画像P1〜Pnの各々が参照画像RPに重なるように合成すればよい。
図1は、本実施の形態にかかる画像処理装置1の構成例を示すブロック図である。図1において、合成部10は、撮影画像P1〜Pnを入力し、これらを合成して補正画像CPを生成する。ここで、合成部10による画像合成は、撮影画像P1〜Pnに生じている画像ぶれを打ち消すように撮影画像P1〜Pnの画素位置をずらして重ね合わせ合成することにより行われる。より具体的には、合成部10は、参照画像RPを基準として、撮影画像P1〜Pnの各々が参照画像RPに重なるように合成すればよい。
画像ぶれ評価部11は、合成部10が画像合成を行う際に必要な、撮影画像P1〜Pnの各々に対する位置シフトの向き及び大きさ(シフトベクトル)を計算する。位置シフトの向き及び大きさは、参照画像RPに対する撮影画像P1〜Pnの各々の画像ぶれの方向及び大きさ(つまり、動きベクトル)から得ることができる。例えば、画像ぶれ評価部11は、参照画像RPと撮影画像P1〜Pnの各々との間の相互相関度を計算し、相互相関度が大きくなるようにシフトベクトルを決定すればよい。
参照画像選択部12は、画像ぶれ評価部11に供給される参照画像RPを決定する。より具体的に述べると、参照画像選択部12は、合成部10によって生成された補正画像CPが存在しない初期状態では、撮影画像P1〜Pnの中から参照画像RPを選択する。なお、上述したように、参照画像RPは画像ぶれ評価および画像合成の基準として利用される。このため、参照画像選択部12は、撮影画像P1〜Pnのうち最も画像ぼけが少ないと推定される画像を参照画像RPに選出するとよい。参照画像RPの画像ぼけが少ない、言い換えると参照画像RPの先鋭度が高いほど画像ぶれの評価精度が向上するためである。画像ぼけが少ない画像の選択は、例えば、最もコントラストの高い画像を選択することによって行えばよい。
さらに、参照画像選択部12は、合成部10によって補正画像CPが生成されている場合には、合成部10によって繰り返し生成される補正画像CPのうち最新のものを参照画像RPとして選択する。これにより、画像ぶれ評価部11は、補正画像CPを新たな参照画像RPとして画像ぶれを反復的に評価する。また、合成部10は、反復的に生成される画像ぶれの評価結果に基づいて補正画像CPの生成を繰り返し行う。
出力部13は、画像ぶれ補正後の撮影画像を出力する。例えば、出力部13は、合成部10および画像ぶれ評価部11によって反復的に行われる画像補正処理の繰り返し回数が予め定められた回数に到達した場合に、このときの最新の補正画像CPを出力すればよい。
続いて以下では、画像処理装置1による画像ぶれ補正の実行手順の具体例について図2のフローチャートを参照して説明する。
ステップS101では、参照画像選択部12が初期参照画像を決定する。初期参照画像は、撮影画像P1〜Pnの中から選択される。上述したように、参照画像選択部12は、撮影画像P1〜Pnのうち最も画像ぼけが少ないと推定される画像を選択すればよい。また、参照画像選択部12は、撮影画像P1〜Pnのうち任意の1枚を選択してもよい。例えば、参照画像選択部12は、撮影画像P1〜Pnのうち最初に撮影された画像を選択してもよい。
ステップS102において、画像ぶれ評価部11は参照画像RPに基づいて撮影画像P1〜Pnに含まれる画像ぶれを評価する。
ステップS103では、合成部10が、撮影画像P1〜Pnに含まれる画像ぶれが打ち消されるように撮影画像P1〜Pnを重ね合わせて合成し、補正画像CPを生成する。
補正画像CPの反復生成回数が所定回数に到達していない場合、最新の補正画像CPを新たな参照画像RPに選択し、上述したステップS102及びS103の処理を繰り返す(ステップS104及びS105)。そして、補正画像CPの反復生成回数が所定回数に到達した場合、出力部13は、最新の補正画像CPを画像ぶれ補正済みの撮影画像として出力する(ステップS106)。
なお、補正画像CPの反復生成の終了は、処理回数ではなく処理時間によって判定してもよい。つまり、画像処理装置1は、許容される処理時間の中で補正画像CPの反復生成を繰り返し、許容される処理時間が経過した場合にその時点における最新の補正画像CPを出力してもよい。
上述したように本実施の形態にかかる画像処理装置1は、撮影画像P1〜Pnの合成によって得られた補正画像CPを参照画像として用いて、画像ぶれの評価と評価結果に基づく画像合成を繰り返し行う。撮影画像P1〜Pnの合成によって画像ぶれが改善されるため、補正画像CPのコントラスト、補正画像CPに含まれるエッジの先鋭度は、撮影画像P1〜Pnに比べて向上する。このように目標画像(理想画像)に徐々に近づいていく補正画像CPを用いて画像ぶれを反復的に評価することで、画像ぶれの評価精度を向上させることができる。よって、補正画像CPを重ね合わせ合成の基準となる参照画像CPとして再利用しながら画像合成を繰り返すことで、補正画像CPの明瞭さを徐々に向上させることができる。
上述した画像処理装置1が行う画像ぶれの評価および評価結果に基づく画像合成は、ASIC、DSP等の半導体処理装置を用いて実現してもよい。また、当該処理は、図2を用いて説明した処理手順を記述したプログラムをマイクロプロセッサ等のコンピュータに実行させることによって実現してもよい。この制御プログラムは、様々な種類の記憶媒体に格納することが可能であり、また、通信媒体を介して伝達されることが可能である。ここで、記憶媒体には、例えば、フレキシブルディスク、ハードディスク、磁気ディスク、光磁気ディスク、CD−ROM、DVD、ROMカートリッジ、バッテリバックアップ付きRAMメモリカートリッジ、フラッシュメモリカートリッジ、不揮発性RAMカートリッジ等が含まれる。また、通信媒体には、電話回線等の有線通信媒体、マイクロ波回線等の無線通信媒体等が含まれ、インターネットも含まれる。
本実施の形態にかかる画像処理装置1は、撮像素子を有するデジタルスチルカメラ等の電子機器に搭載することができる。図3は、撮像素子及び画像処理装置1を有する撮像装置の構成例を示すブロック図である。図3において、撮像部50は、撮像素子51及び信号処理部52を含む。撮像素子51は、CCDイメージセンサ又はCMOSイメージセンサ等である。信号処理部52は、撮像素子51によって得られたアナログ画像データをデジタル画像データに変換し、ホワイトバランスの調整、画素毎にRGB信号を得るための補間処理等を行って、RGB画像データを出力する。なお、撮像部50は、これらの他にも撮像素子51の露光時間を制御する電子シャッタ機構、絞り制御機構、撮像信号の信号レベルを調整する利得制御機構等を備えている。
メモリ53は、撮像部50によって撮影された撮影画像P1〜Pnを記憶する。画像処理装置1は、メモリ53から撮影画像P1〜Pnを読み出し、上述した画像ぶれ補正を実行する。
<発明の実施の形態2>
図4は、本実施の形態にかかる画像処理装置2の構成を示すブロック図である。画像処理装置2が有するフィルタ部20は、撮影画像P1〜Pnを合成するに先立って撮影画像P1〜Pnに対するフィルタ処理を実行する。フィルタ部20によるフィルタ処理は、合成部10による補正画像CPの反復生成と同様に繰り返し行われる。
図4は、本実施の形態にかかる画像処理装置2の構成を示すブロック図である。画像処理装置2が有するフィルタ部20は、撮影画像P1〜Pnを合成するに先立って撮影画像P1〜Pnに対するフィルタ処理を実行する。フィルタ部20によるフィルタ処理は、合成部10による補正画像CPの反復生成と同様に繰り返し行われる。
画像ぶれ評価部21は、上述した画像ぶれ評価部11と同様に、合成部10における画像合成の基準となる画像ぶれの評価結果を生成する。さらに、画像ぶれ評価部21は、フィルタ部20に適用されるフィルタ特性を決定する。フィルタ特性の決定は、反復的に生成される補正画像CPのうち最新のものを基準として行われる。
図4の例では、画像ぶれ評価部21は、フィルタ推定部210、PSF推定部211、及び動きベクトル推定部212を含む。フィルタ推定部210は、参照画像選択部12から供給される参照画像RPに基づいて、撮影画像P1〜Pnをフィルタリングするためのフィルタ関数(例えばウィナーフィルタなど)を推定する。このフィルタ関数の推定においては、ぼけの少ない画像を有力情報としてフィルタを推定する手法が知られている。この手法では、有力情報として使用する画像のぼけが少ないほど、フィルタ推定の精度が上がる。本実施の形態では、参照画像選択部12が、最新の補正画像CPを参照画像RPに選択する。繰り返し生成される補正画像CPは、撮影画像P1〜Pnに比べて画像ぼけの少ない改良された画像であるため、最新の補正画像CPに基づいてフィルタ関数を推定することによりフィルタ関数の推定精度を向上させることができる。
PSF推定部211は、参照画像選択部12から供給される参照画像RPに基づいてPSFを推定する。推定されたPSFはフィルタ部20に供給される。フィルタ部20は、PSFの逆特性を有するフィルタ(ウィナーフィルタなど)によって撮影画像P1〜Pnをフィルタリングし、撮影画像P1〜Pnの劣化(画像ぼけ)を改善する。PSFの推定に関しても、ぼけの少ない画像を参照画像として用いてPSFを推定する手法が知られている。本実施の形態では、最新の補正画像CPを参照画像RPに選択し、最新の補正画像CPに基づいてPSFを推定することによりPSFの推定精度を向上させることができる。図4の例におけるフィルタ部20は、フィルタ推定部210及びPSF推定部211により推定されたフィルタ関数およびPSFを使用して、撮影画像P1〜Pnに対するフィルタリングを行う。
動きベクトル推定部212は、参照画像RPに対する撮影画像P1〜Pnの各々の画像ぶれの方向及び大きさを示す動きベクトルを生成する。例えば、画像ぶれ評価部11は、フィルタ部20によるフィルタリング後の撮影画像P1〜Pnの各々と参照画像RPの間の相互相関度を計算し、相互相関度に基づいて動きベクトルを決定すればよい。フィルタリング後の撮影画像P1〜Pnは、画像ぼけが改善されているため、撮影画像P1〜Pnそのものを使用する場合に比べて、相互相関度の判定精度を向上させることができる。
合成部10は、フィルタリング後の撮影画像P1〜Pnを重ね合わせ合成することにより補正画像CPを生成する。
以下では、フィルタ推定部210及びPSF推定部211に適用可能なフィルタ関数推定法およびPSF推定法の具体例の1つについてその概要を述べる。
f(x, y) を理想画像データ、g(x, y) を取得された画像データ(撮影画像)としたとき、画像ぶれ等により劣化した撮影画像g(x, y) と理想画像f(x, y) との関係は以下の(1)式によって表わすことができる。
ここで、h(x, y, x', y') はPSFであり、n(x, y) はランダムノイズである。
f(x, y) を理想画像データ、g(x, y) を取得された画像データ(撮影画像)としたとき、画像ぶれ等により劣化した撮影画像g(x, y) と理想画像f(x, y) との関係は以下の(1)式によって表わすことができる。
ここで、h(x, y, x', y') はPSFであり、n(x, y) はランダムノイズである。
さらに、PSFが撮影画像内の位置に依存しないとみなした場合、(1)式を以下の(2)式のように変形できる。特に、手ぶれの場合等は、画像全体が同じ方向に移動している場合が一般的であり、画像内の位置への依存度が小さいと考えられる。
(2)式を空間周波数領域で表現すると以下の(3)式が得られる。G(u, v)、F(u, v)、H(u, v)、N(u, v) はそれぞれg(x, y)、f(x, y)、h(x, y)、n(x, y) の空間周波数である。(3)式からF(u, v) を求めるためにフィルタリングを行うにあたり、例えば(4)式に示すウィナーフィルタを使用することができる。
ここで、H(u, v) はPSFの空間周波数、H*(u, v)はPSFの空間周波数の複素共役、Pn / Ps はノイズと信号のパワースペクトルの比である。(4)式のウィナーフィルタを使用する場合、参照画像RPの情報をPs(u, v) に入力すればよい。なお、(4)式のウィナーフィルタは一例にすぎず、参照画像RPの情報を使用する他のフィルタを用いてもよい。
ここで、H(u, v) はPSFの空間周波数、H*(u, v)はPSFの空間周波数の複素共役、Pn / Ps はノイズと信号のパワースペクトルの比である。(4)式のウィナーフィルタを使用する場合、参照画像RPの情報をPs(u, v) に入力すればよい。なお、(4)式のウィナーフィルタは一例にすぎず、参照画像RPの情報を使用する他のフィルタを用いてもよい。
また、H(u, v) の推定方法に関しても、いろいろな手法が考案されている。一例として、以下の(5)及び(6)式を用いた計算によりH(u, v) を推定する方法が考案されている。
ここでKG及びKF'はスケーリングパラメータと呼ばれる定数である。S{}は、スムージングフィルタと呼ばれるフィルタである。F ' (u, v) は、F(u, v) にできるだけ近い空間周波数を意味する。また、Lnは自然対数を取ることを意味する。本実施の形態において(5)及び(6)式を用いたH(u, v) の推定を行う場合、参照画像RPの情報をF ' (u, v) に入力すればよい。なお、(5)及び(6)式を用いた推定方法に代えて、参照画像RPの情報を使用する他のPSF推定法を用いてもよい。
ここでKG及びKF'はスケーリングパラメータと呼ばれる定数である。S{}は、スムージングフィルタと呼ばれるフィルタである。F ' (u, v) は、F(u, v) にできるだけ近い空間周波数を意味する。また、Lnは自然対数を取ることを意味する。本実施の形態において(5)及び(6)式を用いたH(u, v) の推定を行う場合、参照画像RPの情報をF ' (u, v) に入力すればよい。なお、(5)及び(6)式を用いた推定方法に代えて、参照画像RPの情報を使用する他のPSF推定法を用いてもよい。
続いて以下では、画像処理装置2による画像ぶれ補正の実行手順の具体例について図5のフローチャートを参照して説明する。図5のステップS201では、画像ぶれ評価部21が、撮影画像P1〜Pnに含まれる画像ぶれを評価する。具体的には、上述したように、参照画像RPを基準として、フィルタ推定、PSF推定、動きベクトル推定などを行えばよい。
ステップS202では、フィルタ部20が、画像ぶれ評価部21によって推定されたフィルタ関数およびPSFを用いて撮影画像P1〜Pnに対するフィルタ処理を行う。ステップS203では、合成部10が、フィルタ処理後の撮影画像P1〜Pnを合成し、補正画像CPを生成する。
なお、図5示すステップS101およびS104〜S106にける処理内容は、先に説明した図2のフローチャートで説明したのと同様である。つまり、補正画像の生成回数が所定回数に到達するまで、フィルタ部20および合成部10は、最新の補正画像CPによって参照画像RPを更新しながら、撮影画像P1〜Pnに対するフィルタ処理及び画像合成処理を繰り返し行い、補正画像CPを徐々に改良していく。
上述したように、本実施の形態にかかる画像処理装置2は、撮影画像P1〜Pnの各々の画像ぼけを改善するためのフィルタ処理を重ね合わせによる画像合成に先立って行う。画像ぼけが改善された撮影画像P1〜Pnを重ね合わせることにより、補正画像CPの補正をより効果的に行うことができる。
また、画像処理装置2は、重ね合わせ合成に必要な動きベクトルの評価を、画像ぼけが改善された撮影画像P1〜Pnを用いて行う。このため、動きベクトルの推定精度を向上させることができる。
さらに、画像処理装置2は、フィルタ部20によるフィルタ処理を繰り返し実行する際に、最新の補正画像CPを参照画像RPとしてフィルタ特性の決定を行う。上述したように、参照画像RPの画像ぼけが少ないほどフィルタ関数及びPSFの推定精度が向上する。このため、本実施の形態によれば、最新の補正画像CPを基準としてフィルタ特性を更新しながらフィルタ処理を繰り返すことで、フィルタリングの精度を段階的に向上させることができる。
なお、画像処理装置2が行うフィルタ処理及び画像合成処理は、図5を用いて説明した処理手順を記述したプログラムをASIC、DSP、マイクロプロセッサ等のコンピュータに実行させることによって実現してもよい。
さらに、本発明は上述した実施の形態のみに限定されるものではなく、既に述べた本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。
1、2 画像処理装置
10 合成部
11 画像ぶれ評価部
12 参照画像選択部
13 出力部
20 フィルタ部
21 画像ぶれ評価部
50 撮像部
51 撮像素子
52 信号処理部
53 メモリ
210 フィルタ推定部
211 PSF推定部
212 動きベクトル推定部
10 合成部
11 画像ぶれ評価部
12 参照画像選択部
13 出力部
20 フィルタ部
21 画像ぶれ評価部
50 撮像部
51 撮像素子
52 信号処理部
53 メモリ
210 フィルタ推定部
211 PSF推定部
212 動きベクトル推定部
Claims (10)
- 複数の撮影画像に生じている画像ぶれを評価する画像ぶれ評価部と、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成する合成部と、を備え、
前記画像ぶれ評価部は、前記補正画像を参照画像として前記画像ぶれを反復的に評価し、
前記合成部は、反復的に生成される前記画像ぶれの評価結果に基づいて前記補正画像を反復的に生成する、
画像処理装置。 - 前記画像ぶれ評価部は、前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された1の画像を参照画像として前記画像ぶれを評価する、請求項1に記載の画像処理装置。
- 反復的に生成される前記画像ぶれの評価結果に基づいて、前記複数の撮影画像に対するフィルタ処理を反復的に行うフィルタ部をさらに備え、
前記合成部は、前記フィルタ部によるフィルタ処理後の複数の撮影画像を合成する、請求項1又は2に記載の画像処理装置。 - 請求項1〜3のいずれか1項に記載の画像処理装置と、
前記複数の撮影画像を生成する撮像部と、
を備える撮像装置。 - 複数の撮影画像に生じている画像ぶれを評価すること、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成すること、
前記補正画像を参照画像として前記画像ぶれの評価を反復的に実行すること、及び
反復的に生成される前記画像ぶれの評価結果に基づいて、前記補正画像の生成を反復的に実行すること、
を含む画像ぶれの補正方法。 - 前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された1の画像を参照画像として用いる、請求項5に記載の方法。
- 反復的に生成される前記画像ぶれの評価結果に基づいて前記複数の撮影画像に対するフィルタ処理を反復的に行うことをさらに含み、
前記前記補正画像の生成は、フィルタ処理後の複数の撮影画像を合成することにより行われる、請求項5又は6に記載の方法。 - 複数の撮影画像に生じている画像ぶれを評価すること、
前記複数の撮影画像又はこれらにフィルタ処理を行った後の複数の撮影画像を前記画像ぶれの評価結果に基づいて合成することで補正画像を生成すること、及び
前記補正画像を参照画像として前記画像ぶれの評価を反復的に実行すること、
反復的に生成される前記画像ぶれの評価結果に基づいて、前記補正画像の生成を反復的に実行すること、
を含む画像ぶれの補正処理をコンピュータに実行させるためのプログラム。 - 前記補正画像が存在しない状態で最初の画像ぶれ評価を行う際に、前記複数の撮影画像から選択された1の画像を参照画像として用いる、請求項8に記載のプログラム。
- 前記補正処理は、反復的に生成される前記画像ぶれの評価結果に基づいて前記複数の撮影画像に対するフィルタ処理を反復的に行うことをさらに含み、
前記前記補正画像の生成は、フィルタ処理後の複数の撮影画像を合成することにより行われる、請求項8又は9に記載のプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009001259A JP2010161521A (ja) | 2009-01-07 | 2009-01-07 | 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム |
US12/643,124 US20100171840A1 (en) | 2009-01-07 | 2009-12-21 | Image processing device, imaging apparatus, image blur correction method, and tangible computer readable media containing program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009001259A JP2010161521A (ja) | 2009-01-07 | 2009-01-07 | 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010161521A true JP2010161521A (ja) | 2010-07-22 |
Family
ID=42311432
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009001259A Pending JP2010161521A (ja) | 2009-01-07 | 2009-01-07 | 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20100171840A1 (ja) |
JP (1) | JP2010161521A (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5281495B2 (ja) * | 2009-06-18 | 2013-09-04 | キヤノン株式会社 | 画像処理装置およびその方法 |
CN102340626B (zh) * | 2010-07-14 | 2017-07-18 | 株式会社尼康 | 摄像装置、及图像合成方法 |
JP6153318B2 (ja) * | 2012-11-30 | 2017-06-28 | キヤノン株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
KR20140086626A (ko) * | 2012-12-28 | 2014-07-08 | 삼성전자주식회사 | 전단파의 변위 산출 방법, 전단파를 이용한 피검체의 기계적 계수 산출 방법 및 이를 포함하는 시스템 |
WO2014132830A1 (ja) * | 2013-02-28 | 2014-09-04 | 株式会社 日立メディコ | 画像処理装置、磁気共鳴イメージング装置および画像処理方法 |
JP6242742B2 (ja) * | 2014-05-08 | 2017-12-06 | 株式会社東芝 | 画像処理装置、撮像装置及び画像処理方法 |
KR20160149842A (ko) * | 2015-06-19 | 2016-12-28 | 삼성전자주식회사 | 영상 처리 방법 및 그 장치 |
WO2018198680A1 (ja) * | 2017-04-27 | 2018-11-01 | 三菱電機株式会社 | 画像読み取り装置 |
KR20230090716A (ko) * | 2021-12-15 | 2023-06-22 | 삼성전자주식회사 | 연사 영상 기반의 영상 복원 방법 및 장치 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1175105A (ja) * | 1997-08-27 | 1999-03-16 | Toshiba Corp | 静止画カメラ |
JP2007006045A (ja) * | 2005-06-22 | 2007-01-11 | Ricoh Co Ltd | 手ぶれ補正方法、手ぶれ補正装置、及び撮像装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7359562B2 (en) * | 2003-03-19 | 2008-04-15 | Mitsubishi Electric Research Laboratories, Inc. | Enhancing low quality videos of illuminated scenes |
JP4530961B2 (ja) * | 2005-06-30 | 2010-08-25 | オリンパスイメージング株式会社 | 電子的ぶれ補正装置 |
JP4536641B2 (ja) * | 2005-11-02 | 2010-09-01 | ルネサスエレクトロニクス株式会社 | 画像ぶれ補正装置、画像ぶれ補正方法及び画像ぶれ補正プログラム |
WO2007058895A2 (en) * | 2005-11-11 | 2007-05-24 | Visualsonics Inc. | Overlay image contrast enhancement |
JP4730552B2 (ja) * | 2006-07-14 | 2011-07-20 | 富士ゼロックス株式会社 | 復号化装置及びそのプログラム |
JP4645736B2 (ja) * | 2008-12-22 | 2011-03-09 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
US8570386B2 (en) * | 2008-12-31 | 2013-10-29 | Stmicroelectronics S.R.L. | Method of merging images and relative method of generating an output image of enhanced quality |
US8823808B2 (en) * | 2009-10-27 | 2014-09-02 | Intellectual Ventures Fund 83 Llc | Method for improved digital video image quality |
-
2009
- 2009-01-07 JP JP2009001259A patent/JP2010161521A/ja active Pending
- 2009-12-21 US US12/643,124 patent/US20100171840A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1175105A (ja) * | 1997-08-27 | 1999-03-16 | Toshiba Corp | 静止画カメラ |
JP2007006045A (ja) * | 2005-06-22 | 2007-01-11 | Ricoh Co Ltd | 手ぶれ補正方法、手ぶれ補正装置、及び撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US20100171840A1 (en) | 2010-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010161521A (ja) | 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム | |
JP5756099B2 (ja) | 撮像装置、画像処理装置、画像処理方法、および画像処理プログラム | |
JP4646146B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5331816B2 (ja) | 画像補正装置及び画像補正方法 | |
JP5744614B2 (ja) | 画像処理装置、画像処理方法、および、画像処理プログラム | |
JP5204165B2 (ja) | 画像復元装置および画像復元方法 | |
JP5615393B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6266131B2 (ja) | 画像処理装置及び方法、並びに撮像装置、並びにプログラム及び記録媒体 | |
JP2007072573A (ja) | 画像処理装置及び画像処理方法 | |
JPWO2007119680A1 (ja) | 撮像装置 | |
JP2010200179A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体 | |
JP5541205B2 (ja) | 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法 | |
JPWO2017169039A1 (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
JP5693743B2 (ja) | 画像処理装置、画像処理方法、撮像装置、コンピュータプログラム及び記録媒体 | |
JP4469309B2 (ja) | 手ぶれ補正方法、手ぶれ補正装置、及び撮像装置 | |
JP2016184888A (ja) | 画像処理装置、撮像装置、画像処理方法及びコンピュータプログラム | |
JP2012085205A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP5024300B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2011033675A1 (ja) | 画像処理装置および画像表示装置 | |
JP2007179211A (ja) | 画像処理装置、画像処理方法、およびそのプログラム | |
JP4450705B2 (ja) | 輪郭強調回路及び方法 | |
JP2010193093A (ja) | 画像処理装置、撮像装置、及び、画像処理方法 | |
JP6566780B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
US9262814B2 (en) | Image processing device and method for sharpening a blurred image | |
JP2006279162A (ja) | 画像入力方法及びこれを用いた画像入力装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121003 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121016 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130305 |