[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2008146643A - 動きでぶれた画像における動きのぶれを低減する方法、動きでぶれた画像における動きのぶれを低減するための装置、および動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体 - Google Patents

動きでぶれた画像における動きのぶれを低減する方法、動きでぶれた画像における動きのぶれを低減するための装置、および動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体 Download PDF

Info

Publication number
JP2008146643A
JP2008146643A JP2007306943A JP2007306943A JP2008146643A JP 2008146643 A JP2008146643 A JP 2008146643A JP 2007306943 A JP2007306943 A JP 2007306943A JP 2007306943 A JP2007306943 A JP 2007306943A JP 2008146643 A JP2008146643 A JP 2008146643A
Authority
JP
Japan
Prior art keywords
image
motion
blurred
blur
guess
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007306943A
Other languages
English (en)
Inventor
Guoyi Fu
フ グオイー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Publication of JP2008146643A publication Critical patent/JP2008146643A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像における動きのぶれを低減する方法および装置。
【解決手段】動きでぶれた画像における動きのぶれを低減する方法および装置が提供され
る。方法は動きでぶれた画像に基づく推量画像を、動きでぶれたぶれパラメータの関数と
してぶれさせることを含む。ぶれた推量画像は動きでぶれた画像と比較され、エラー画像
が生成される。エラー画像はぶれさせられ、ぶれたエラー画像におけるピクセルは動きで
ぶれた画像における対応ピクセル付近のエッジしゅん度に基づき加重される。ぶれて、か
つ加重されたエラー画像と推量画像とは組み合わされ、それにより推量画像を更新し動き
のぶれを補正する。
【選択図】図1

Description

本発明は一般的に画像処理に関し、より具体的には画像における動きのぶれを低減する
方法および装置に関する。
動きのぶれはデジタル・カメラまたはスチル写真機を用いた画像取り込みの際に生じ得
る、画像処理技術において良く知られる問題である。動きのぶれは画像取り込みの過程に
おける振動など、カメラの動きが原因である。歴史的に、動きのぶれはカメラの実際の動
きを推定する演繹的な計測が利用可能な場合にのみ補正できた。このような演繹的計測は
通常利用できず、その結果取り込み画像における動きのぶれを補正するために他の手法が
開発されたことが理解されよう。
例えば、動きでぶれた取り込み画像固有の属性に基づくカメラ動きパラメータ(すなわ
ち露出中の画像取り込み装置の進路を表すパラメータ)を推定する方法は本出願の譲受人
に譲渡され、「動きのぶれの補正」(「MOTION BLUR CORRECTION」)と題する同時係属中
の米国特許出願公開第10/827394号明細書に開示され、その内容は引用により本
明細書に組み入れられる。これらの方法において、一旦、カメラ動きパラメータが推定さ
れると、ぶれの補正は推定されたカメラ動きパラメータを用いてカメラの動きの影響を逆
転し画像をぶれ補正することによりぶれ補正が実施される。
カメラの動きの影響を逆転し、動きでぶれた画像をぶれ補正する方法は知られている。
例えば、Biemond他著の「画像のぶれ除去の反復的方法」(「Iterative Methods
for Image Deblurring」)と題する出版(Proceedings of the IEEE 、78巻5号、1990年5
月)はカメラの動きの影響を逆転させ、推定されたカメラ動きパラメータに基づき取り込
み画像におけるぶれを補正するための逆フィルタ手法を開示している。この手法の際、推
定カメラ動きパラメータに従い構成された動きのぶれフィルタの逆がぶれた画像に直接適
用される。
あいにく、Biemond他のぶれ補正手法は不利な点がある。ぶれた画像を動きのぶ
れフィルタとたたみこむことは過度のノイズ増幅をもたらし得る。さらに、Biemon
d他が開示する復元方程式に関し、ぶれの距離の整数倍数において正のスパイクを有する
エラー寄与項はぶれた画像におけるエッジなど高コントラスト構造とたたみこまれると増
幅され、望ましくないリンギングがもたらされる。リンギングとは画像の鋭いエッジ付近
に光輪および/あるいは輪が出現することで、画像のぶれを取り除くことはたちの悪い逆
問題であることと結び付いている。Biemond他の出版は画像の局部エッジ内容に基
づきリンギング効果を削減することによりエッジめいた領域をより弱く規制し充分に円滑
な領域においてノイズ増幅を抑制することを考察している。しかしこの方法ではリンギン
グ・ノイズがエッジを含む局部領域に残り得る。
ぶれを補正した画像を生成するために反復的方法を用いる各種手法も提案されている。
通常これらの反復手法の際、推定カメラ動きパラメータを用いて推量画像が動きでぶれ、
動きでぶれた推量画像とぶれた取り込み画像との差異に基づき推量画像が更新される。こ
のプロセスは所定の回数、または推量画像のぶれが充分に補正されるまで反復的に実施さ
れる。カメラ動きパラメータは推定されるため、推量画像におけるぶれは、動きでぶれた
推量画像とぶれた取り込み画像との間のエラーがゼロまで減少するにつれ、反復プロセス
中に削減される。上記反復問題は次の方程式(1)の如く定式化できる。
上記から理解されるように、画像のぶれ補正の目標はぶれた取り込み画像I(x,y)
が与えられた場合、ぶれていない画像O(x,y)の推定(復元)画像O’(x,y)を
生み出すことである。方程式(1)において、点像分布関数は推定カメラ動きパラメータ
から既知であると仮定される。ノイズを無視すると、復元画像O’(x,y)とぶれてい
ない画像O(x,y)との間のエラーは以下の方程式(2)により定義できる。
動きのぶれ補正の各反復の際、エラー画像は一定ステップ・サイズ・パラメータαでぶ
れられ加重され、次にぶれていない画像の前の推定(復元)画像O’(x,y)と組み合
わせて推定を更新する。
動きのぶれの反復的補正は改良をもたらすが、過度のリンギングおよびノイズが問題と
して残り得る。これらの問題は動きのぶれ補正問題のたちの悪さ、動きぶれパラメータの
推定エラー、およびたたみこみ解除中のノイズ増幅による。さらに、実際の実施において
補正反復数は性能の問題から限定されるため、受け入れ得る解決への収束は達成しにくい
他の反復的ぶれ補正方法が提案されている。例えば、Lewin他の米国特許出願公開
第2005/0074152号明細書は磁気共鳴画像を再構成しぶれを除く方法を開示し
ている。方法の際、サンプルされたk−空間データが直線形k−空間グリッドに分布され
、分布データは逆フーリエ変換される。逆変換データの選ばれた部分がゼロに設定され、
逆変換データのゼロ化および残りの部分はフーリエ変換される。フーリエ変換データは直
線形k−空間グリッドの対応点における分布k−空間データにより置き換えられ、更新デ
ータのグリッドが作成される。更新データは次に逆フーリエ変換される。分布データの逆
フーリエ変換に始まる手順は逆フーリエ変換された更新データと逆フーリエ変換された分
布データとの間の差異が充分に小さくなるまで反復的に適用される。
Ludwigの米国特許出願公開第2005/0031221号明細書は写真、ビデオ
、および他種の取り込み画像におけるレンスの焦点合わせ違いの影響を補正する方法を開
示している。方法の際、変換演算子を用いてフラクショナル・フーリエ変換の任意累乗が
演算される。フラクショナル・フーリエ変換パラメータはもたらされる補正画像の鋭いエ
ッジ内容を最大化するように調節される。フラクショナル・フーリエ変換の累乗および倍
率はステップ方向およびサイズ制御要素に基づき必要に応じて設定および調節され、累乗
を最初に0の理想的初期値に設定した上で初期値はいずれかの方向に多少ずれる。もたら
される画像データはエッジ検出器に呈されることができ、エッジ検出器はエッジ情報をエ
ッジの相対的な鋭さのスカラー値測度に変換し画像の鋭さを測定する。
Stoubの米国特許第4298944号明細書はシンチレーション・カメラまたは類
似の画像形成装置による歪みを補正する方法を開示している。初期のオフラインテスト段
階で直交線パターンのテスト・データが得られ、空間的歪み係数が計算される。空間的歪
み係数は画像のフィールド・テスト・データに従って修正され、オンライン作業の際、画
像イベントのデータ出力信号を補正するのに用いられる。計算された空間的歪み係数は補
正された画像イベント・データの単位当たりに基づいた有効画像イベント密度勾配を用い
て反復的に修正される。各反復的修正は画像区域の各サイズにおける勾配の評価を含む。
Carrington他の米国特許第4047968号明細書はカメラなどの光学シス
テムと使用する反復的復元デバイスを開示している。復元デバイスは見られる画像におけ
る各点に対しその点におけるノイズおよび歪みを最小化する係数を反復的に判定する。特
に、係数は光学部材(すなわちレンズ)の応答関数変換および共鳴関数変換の除法演算双
方を用いて判定される。
Avinashの米国特許第5561661号明細書は選ばれた反復数にわたり理想的
な信号を推定することにより顕微鏡などから得られた信号を復元する方法および装置を開
示している。各反復の際、周波数帯の空間的限定を用いて応答関数の周波数領域推定を制
約することにより迅速な信号処理を促進する。エラー項のステップ・サイズは先行する推
定の周波数応答に基づいている。
Kong他の米国特許出願公開第2005/0100241号明細書は解凍画像におけ
る局部特徴の分類に基づいて画像のリンギング・アーチファクトを削減する方法を開示し
ている。解凍画像は圧縮画像の離散コサイン変換(DCT)係数の独立量子化が原因とな
ったブロッキング・アーチファクトを有すると予想される。リンギング・アーチファクト
は解凍画像のエッジに沿ってもあり得る。方法の際、ブロッキング・アーチファクトは解
凍画像において検出されるブロック境界をフィルタすることにより除去される。ブロッキ
ング・アーチファクトが検出された場合、一次元ローパス円滑フィルタがブロック境界に
沿ったピクセルに、フィルタ・サイズがブロック境界における勾配に対応するよう適応的
に適用される。大きな勾配値を有するピクセル(すなわちエッジ・ピクセル)はぶれたエ
ッジまたはテクスチャを避けるために操作から除外される。ブロックされる分類は偏差値
または「エッジ・マップ」に従い「円滑」、「テクスチャーされた」、および「エッジ」
ブロックを含む。
Gorinevskyの米国特許出願公開第2005/0147313号明細書はシス
トリック・アレー・プロセッサを用いて画像のぶれを除去するための反復的方法を開示し
ている。データは処理論理ブロック間で、各処理論理ブロックを所定数の隣接処理論理ブ
ロックと相互接続し、ぶれを除去した画像をアップロードすることにより順に交換される
。処理論理ブロックは各々現在のぶれが除去された画像と過去のぶれが除去された画像推
定を用い、ぶれ画像の予測エラーのフィードバックによりぶれ画像の反復的更新を提供す
る。一実施形態で、高周波数正則化を組み入れたランドウェーバー方法を用いて反復的更
新の収束問題に取り組んでいる。
Behielsの米国特許出願公開第2006/0045378号明細書はX線撮影画
像を表すデジタル信号におけるアーチファクトを補正する方法を開示している。一並びの
コンピュータX線撮影画像プレートの一揃いをデジタル化するために、数個のマイクロレ
ンズ・アレーが通常使用される寸法の画像プレート一並びをデジタル化できる大きさの幅
を有するより大型のマイクロレンズに組み立てられる。マイクロレンズの接続部において
アーチファクトが現れる。アーチファクトを表す接続部はエッジ検出器を用いて検出され
、画像信号から抽出される。抽出されたアーチファクトは次に倍率を適用する振幅変形手
法を通じて新しいアーチファクト・プロファイル信号を得るために用いられる。各反復ス
テップにおいて、加重係数が考慮される。現行反復ステップにおける加重係数は先行反復
ステップで取得した倍率で得られた補正画像信号の変形に依存する。
L. LiangおよびR.M. Mersereau共著の、「画像のぶれを除去す
るための適応ランドウェーバー方法」(「Adaptive Landweber Method To Deblur Images
」)と題する出版(IEEE Signal Processing Letters, 10(5): 129-132頁, 2003年)にお
いて画像のぶれを補正する反復的方法が開示され、ぶれたエラー画像の寄与は、ぶれたエ
ラー画像の寄与が各反復において漸次低減されるようにぶれたエラー画像を加重するため
に反復適応ステップ・サイズαを用いることにより適応される。あいにく、相当なリンギ
ング・アーチファクトが急勾配の画像エッジ付近で、特にステップ・サイズαが、従って
ぶれたエラー画像の寄与が、大きい最初のいくつかの反復において、相変わらず生じる。
さらに、ステップ・サイズαが漸次低減されるため、全体の収束が減少する。
米国特許出願公開第2004/0044715号明細書
上述のような反復的方法は動きぶれフィルタの直接的なぶれの逆転に比べいくらかの利
点を提供するものの、ノイズ増幅およびリンギングを削減するために改良が望まれる。従
って本発明の一目的は画像における動きのぶれを削減する新規な方法および装置を提供す
ることである。
一態様により、動きでぶれた画像における動きのぶれを削減する方法で、動きでぶれた
画像に基づき推量画像を動きでぶれた画像のぶれパラメータの関数としてぶれさせるステ
ップと、ぶれた推量画像を動きでぶれた画像と比較し、エラー画像を生成するステップと
、エラー画像をぶれさせるステップと、ぶれたエラー画像のピクセルを動きでぶれた画像
の対応ピクセル付近のエッジのしゅん度に基づき加重するステップと、ぶれた加重エラー
画像と推量画像とを組み合わせ、それにより推量画像を更新し、動きのぶれを補正するス
テップと、を含む方法が提供される。
一実施形態で、加重は動きでぶれた画像の対応ピクセル付近のエッジしゅん度に基づく
ピクセル値を有する加重画像を構築することを含む。加重画像は次にぶれたエラー画像と
組み合わされてぶれた加重エラー画像を形成する。加重画像の構築は、動きでぶれた画像
の各ピクセルに対しピクセルの近傍を特定すること、各近傍内のピクセルの輝度勾配を計
算することと、各輝度勾配をその近傍に対し正規化することを含むことができる。加重画
像の各ピクセルは動きでぶれた画像の各ピクセルに対応する正規化された輝度勾配である
別の態様により、動きでぶれた画像の動きのぶれを削減する装置が提供され、動きでぶ
れた画像に基づき推量画像を動きでぶれた画像のぶれパラメータの関数としてぶれさせる
推量画像ぶれモジュールと、ぶれた推量画像を動きでぶれた画像を比較し、エラー画像を
生成するコンパレータと、エラー画像をぶれさせるエラー画像ぶれモジュールと、ぶれた
エラー画像のピクセルを動きでぶれた画像の対応ピクセル付近のエッジしゅん度に基づき
加重する加重モジュールと、ぶれた加重エラー画像と推量画像とを組み合わせ、それによ
り推量画像を更新し動きのぶれを補正する画像組み合わせ器と、を含む。
さらに別の態様により、動きでぶれた画像の動きのぶれを削減するコンピュータ・プロ
グラムを具現するコンピュータ読み取り可能な媒体が提供され、コンピュータ・プログラ
ムは、動きでぶれた画像に基づき推量画像を動きでぶれた画像のぶれパラメータの関数と
してぶれさせるコンピュータ・プログラム・コードと、ぶれた推量画像を動きでぶれた画
像と比較し、エラー画像を生成するコンピュータ・プログラム・コードと、エラー画像を
ぶれさせるコンピュータ・プログラム・コードと、ぶれたエラー画像のピクセルを動きで
ぶれた画像の対応ピクセル付近のエッジしゅん度に基づき加重するコンピュータ・プログ
ラム・コードと、ぶれた加重エラー画像と推量画像とを組み合わせ、それにより推量画像
を更新し動きのぶれを補正するコンピュータ・プログラム・コードと、を含む。
[適用例1]前述の目的を達成するための、動きでぶれた画像における動きのぶれを低
減する方法は、前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれ
パラメータの関数としてぶれさせるステップと、前記ぶれた推量画像を前記動きでぶれた
画像と比較してエラー画像を生成するステップと、前記エラー画像をぶれさせるステップ
と、ぶれた前記エラー画像におけるピクセルを、前記動きでぶれた画像において対応する
ピクセル付近のエッジしゅん度に基づき加重するステップと、ぶれてかつ加重された前記
エラー画像および前記推量画像を組み合わせ、それにより推量画像を更新して動きのぶれ
を補正するステップとを含むことをその要旨とする。
[適用例2]また、動きでぶれた画像における動きのぶれを低減する方法は、前記加重
するステップは、前記動きでぶれた画像における対応ピクセル付近のエッジしゅん度に基
づくピクセル値を有する加重画像を構築するステップと、前記加重画像を前記ぶれたエラ
ー画像と組み合わせるステップと、を含むことをその要旨とする。
[適用例3]また、動きでぶれた画像における動きのぶれを低減する方法は、前記加重
画像を構築するステップは、動きでぶれた画像の各ピクセルに対し、ピクセルの近傍を特
定するステップと、各近傍内のピクセルの輝度勾配を計算するステップと、各輝度勾配を
その近傍に対し正規化するステップと、を含み、前記加重画像における各ピクセルは前記
動きでぶれた画像における各ピクセルに対応する正規化輝度勾配を表すことをその要旨と
する。
[適用例4]また、動きでぶれた画像における動きのぶれを低減する方法は、前記正規
化するステップの後、加重画像における各ピクセルを最大ステップ・サイズ値でスケール
するステップとを含むことをその要旨とする。
[適用例5]また、動きでぶれた画像における動きのぶれを低減する方法は、前記最大
ステップ・サイズは前記ぶれパラメータに基づくことをその要旨とする。
[適用例6]また、動きでぶれた画像における動きのぶれを低減する方法は、前記近傍
は前記ぶれパラメータに基づくことをその要旨とする。
[適用例7]また、動きでぶれた画像における動きのぶれを低減する方法は、前記近傍
は前記動きでぶれた画像を取り込むために用いられた画像取り込み装置が通る動きのパス
に沿ったピクセルのセットを含むことをその要旨とする。
[適用例8]また、動きでぶれた画像における動きのぶれを低減する方法は、前記近傍
は前記動きでぶれた画像におけるぶれの度合いおよび方向に対応する長さおよび方向を有
する直線で表されることをその要旨とする。
[適用例9]また、動きでぶれた画像における動きのぶれを低減する方法は、前記輝度
勾配を計算するステップが、前記近傍内の最大および最小ピクセル輝度の差異を計算する
ステップと、を含み、各輝度勾配を正規化することは各輝度勾配を各々の最大ピクセル輝
度で割るステップを含むことをその要旨とする。
[適用例10]また、動きでぶれた画像における動きのぶれを低減する方法は、最大ピ
クセル輝度は前記近傍内で形態拡張操作を用いて得られ、最小ピクセル輝度は前記近傍内
で形態エロージョン操作を用いて得られることをその要旨とする。
[適用例11]また、動きでぶれた画像における動きのぶれを低減する方法は、前記推
量画像におけるエッジに基づき正則化画像を形成するステップとを含み、前記更新された
推量画像は前記正則化画像、ぶれてかつ加重された前記エラー画像、および前記推量画像
を組み合わせることにより生成されることをその要旨とする。
[適用例12]また、動きでぶれた画像における動きのぶれを低減する方法は、前記正
則化画像を形成するステップが、前記推量画像から水平および垂直エッジ画像を構築する
ステップと、前記水平および垂直エッジ画像を合計し、それにより正則化画像を形成する
ステップと、を含むことをその要旨とする。
[適用例13]また、動きでぶれた画像における動きのぶれを低減する方法は、前記推
量画像をぶれさすステップ、比較するステップ、エラー画像をぶれさすステップ、加重す
るステップ、および組み合わせるステップは反復的に行なわれることをその要旨とする。
[適用例14]また、動きでぶれた画像における動きのぶれを低減する方法は、前記推
量画像をぶれさすステップ、比較するステップ、エラー画像をぶれさすステップ、加重す
るステップ、および組み合わせるステップは閾値回数反復的に行なわれることをその要旨
とする。
[適用例15]また、動きでぶれた画像における動きのぶれを低減する方法は、前記推
量画像は前記動きでぶれた画像であることをその要旨とする。
[適用例16]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれパラメータの関
数としてぶれさせる推量画像ぶれ化モジュールと、前記ぶれた推量画像を前記動きでぶれ
た画像と比較してエラー画像を生成するコンパレータと、前記エラー画像をぶれさせるエ
ラー画像ぶれ化モジュールと、動きでぶれた画像における対応ピクセル付近のエッジしゅ
ん度に基づき前記ぶれたエラー画像におけるピクセルを加重する加重モジュールと、前記
ぶれてかつ加重されたエラー画像および前記推量画像を組み合わせ、それにより前記推量
画像を更新し動きのぶれを補正する画像コンバイナと、を含むことをその要旨とする。
[適用例17]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記加重モジュールが、前記動きでぶれた画像における対応ピクセル付近のエッジしゅん
度に基づくピクセル値を有する加重画像を構築する加重画像モジュールと、を含み、前記
画像コンバイナは前記加重画像と前記ぶれたエラー画像とを組み合わせることをその要旨
とする。
[適用例18]また、動きでぶれた画像における動きのぶれを低減するための装置は前
記加重画像モジュールが、前記動きでぶれた画像における各ピクセルに対しピクセルの近
傍を特定する近傍定義器と、各近傍内のピクセルの輝度勾配を計算し、各輝度勾配をその
近傍に対し正規化する勾配計算器と、前記加重画像における各ピクセルが動きでぶれた画
像における各ピクセルに対応する前記正規化輝度勾配を表すよう定義する画像構築器と、
を含むことをその要旨とする。
[適用例19]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記正規化後、前記画像構築器は前記加重画像における各ピクセルを最大ステップ・サイ
ズ値でスケールすることをその要旨とする。
[適用例20]また、最大ステップ・サイズ値は前記ぶれパラメータに基づくことをそ
の要旨とする。
[適用例21]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記近傍定義器は前記ぶれパラメータに基づき前記近傍を定義することをその要旨とする
[適用例22]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記近傍は前記動きでぶれた画像を取り込むために用いた画像取り込み装置が通る動きの
パスに沿ったピクセルのセットを含むことをその要旨とする。
[適用例23]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記近傍は前記動きのぶれた画像におけるぶれの度合いおよび方向に対応する長さおよび
方向を有する直線で表されることをその要旨とする。
[適用例24]また、動きでぶれた画像における動きのぶれを低減するための装置は、
輝度勾配の計算および正規化の際、前記勾配計算器は前記近傍内の最大および最小ピクセ
ル輝度の差異を計算し、各輝度勾配を各々の最大ピクセル輝度で割ることをその要旨とす
る。
[適用例25]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記勾配計算器は前記近傍内で形態拡張操作を行ない最大ピクセル輝度を得、前記近傍内
で形態エロージョンを行ない最小ピクセル輝度を得ることをその要旨とする。
[適用例26]また、動きでぶれた画像における動きのぶれを低減するための装置は、
さらに前記推量画像におけるエッジに基づき正則化画像を形成する正則化モジュールと、
を含み、更新された前記推量画像は前記正則化画像、ぶれてかつ加重された前記エラー画
像、および前記推量画像を組み合わせることにより生成されることをその要旨とする。
[適用例27]また、動きでぶれた画像における動きのぶれを低減するための装置は、
前記推量画像をぶらせること、比較すること、エラー画像をぶらせること、加重すること
、および組み合わせることは反復的に行なわれることをその要旨とする。
[適用例28]また、動きでぶれた画像における動きのぶれを低減するコンピュータ・
プログラムを具現するコンピュータ読み取り可能な媒体は、前記コンピュータ・プログラ
ムは、前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれパラメー
タの関数としてぶれさせるコンピュータ・プログラム・コードと、前記ぶれた推量画像を
前記動きでぶれた画像と比較してエラー画像を生成するコンピュータ・プログラム・コー
ドと、前記エラー画像をぶれさせるコンピュータ・プログラム・コードと、前記動きでぶ
れた画像における対応ピクセル付近のエッジしゅん度に基づき前記ぶれたエラー画像にお
けるピクセルを加重するコンピュータ・プログラム・コードと、ぶれて、かつ加重された
前記エラー画像と前記推量画像とを組み合わせ、それにより前記推量画像を更新し動きの
ぶれを補正するコンピュータ・プログラム・コードと、を含むことをその要旨とする。
ぶれ削減方法および装置はいくつかの利点を提供する。特に、加重が動きでぶれた画像
の対応ピクセル付近のエッジしゅん度に基づいているので、反復ぶれ補正の際、形態論的
に適応された変換が達成される。例えば、取り込み画像で急勾配の遷移中にある部分はそ
の相対的に高い加重により急速に収束を達成するが、取り込み画像の急勾配の遷移付近に
おけるより均質な部分はより遅く収束を達成する。それにより処理速度およびリンギング
削減間で効率的な妥協が達成される。正規化項の追加によりたたみこみ解除の際、ノイズ
増幅が抑制され、リンギング・アーチファクトが削減される。
以下添付図面を参照して実施形態をより詳細に説明する。以下の説明において、画像に
おける動きのぶれを削減する方法、装置、およびコンピュータ・プログラムを具現するコ
ンピュータ読み取り可能な媒体が開示される。方法および装置はパソコン、例えばデジタ
ル・カメラ、ビデオ・カメラ、もしくはビデオ機能を有する電子装置などのデジタル・ビ
デオ取り込み装置、または他の演算システム環境を含むがこれらに限定されない処理装置
で実行されるコンピュータ実行可能な命令を含むソフトウェア・アプリケーションに具現
されることができる。ソフトウェア・アプリケーションは独立してデジタル・ビデオ・ツ
ールまたは埋め込み機能として実行されるか、または他の利用可能なデジタル画像/ビデ
オ・アプリケーションに組み入れられこれらのデジタル画像/ビデオ・アプリケーション
の機能を拡張させることができる。ソフトウェア・アプリケーションはルーチン、プログ
ラム、オブジェクト・コンポーネント、データ構造等々を含むことができ、コンピュータ
読み取り可能な媒体に格納されるコンピュータ読み取り可能なプログラム・コードとして
具現されることができる。コンピュータ読み取り可能な媒体は後にコンピュータ・システ
ムにより読み取られることのできるデータを格納し得る任意のデータ記憶装置である。コ
ンピュータ読み取り可能な媒体の例としては例えば読み取り専用メモリ、ランダムアクセ
ス・メモリ、CD−ROM、磁気テープおよび光データ記憶装置が含まれる。コンピュー
タ読み取り可能なプログラム・コードはさらに、コンピュータ読み取り可能なプログラム
・コードが分散的に格納され実行されるよう結合コンピュータ・システムを含むネットワ
ーク上に分散することができる。
次に図1から図6を参照して実施形態を説明する。
図1を参照すると、デジタル・カメラ、デジタル・ビデオ・カメラ、等々、のような画
像取り込み装置により取り込まれた画像における動きのぶれを削減する方法が示される。
方法の際、動きでぶれた取り込み画像I(x,y)が取り込まれると(ステップS100
)、そのY−チャンネル輝度画像が抽出され、動きぶれパラメータが推定される(ステッ
プS200)。推定された動きぶれパラメータは次に取り込まれた画像における動きのぶ
れを削減するために用いられ(ステップS300)、それにより動きのぶれが補正された
画像が生成される。
動きぶれパラメータは周知の手法を用いて推定することができる。一手法によると、画
像取り込み装置のジャイロに基づくシステムからの入力データが露出の際に得られ、画像
取り込み装置の露出中の軌道を表す動きぶれパラーメータの推定を計算するために処理さ
れる。推定された動きぶれパラメータは動きのぶれの方法および動きのぶれの度合いを含
むことができ、またはより複雑な動きを表すことができる。例えば、動きぶれパラメータ
は露出時間中定期的に入力データをサンプルすることにより得られた画像取り込み装置の
複数の増分直線的動きの度合いおよび方向を含むことができる。複数の増分直線動きの総
計は露出中画像取り込み装置がたどった動き軌道を表す。
動きブレパラメータを推定する別の手法によると、動きでぶれた取り込み画像固有の属
性を用いて無差別動き推定を行なうことができる。このような手法の一例は上述の米国特
許出願公開第10/827394号明細書に記述され、その内容は引用により本明細書に
組み入れられる。
図2は取り込み画像の推定された動きぶれパラメータをステップS300で用いて動き
のぶれを補正した画像生成の際、実施されるステップを示すフローチャートである。最初
に、ぶれた取り込み画像I(x,y)に等しい初期推量画像O0(x,y)が下記の方程
式(3)で表されるように確立される(ステップS310)。
ここで、nは反復数で、この場合初期推量画像であるのでゼロ(0)である。
点像分布関数(PSF)または動きぶれフィルタh(x,y)が次に推定された動きぶ
れパラメータに基づき作成される(ステップS312)。PSF h(x,y)を作成す
る方法は、特に画像取り込み中の動きは直線的かつ一定速度で生じたと仮定する場合、は
良く知られており、本明細書ではより詳細に説明されない。PSF h(x,y)の作成
に続き、加重画像α(x,y)が取り込み画像の形態に基づき構築される。
加重画像α(x,y)構築の際、取り込み画像の各ピクセルに対しある局部の近傍内の
エッジ内容を判定することにより正規化された形態勾配画像g(x,y)が構築される。
局部近傍は以下の方程式(4)から方程式(6)に表されるようにPSF h(x,y)
の正値要素に基づく構成要素Bにより定義される。
動きが直線的で一定速度の場合、構成要素Bは判定されたぶれの方向に等しい方向で判
定されたぶれの度合いに等しい度合いに延びる直線である。例えば、判定されたぶれの方
向が45度に等しく、判定されたぶれの度合いが3ピクセルに等しい場合、PSF h(
x,y)および対応する構成要素Bは以下の方程式(7)および方程式(8)で表される
別の例として、判定されたぶれの方向が90度に等しく、判定されたぶれの度合いが3
ピクセルに等しい場合、PSF h(x,y)および対応する構成要素Bは以下の方程式
(9)および方程式(10)で表される。
正規化された形態勾配画像g(x,y)の位置(x,y)におけるピクセル値は以下の
方程式(11)から方程式(13)で表される。
動きでぶれた画像Iに対する形態膨張演算imdilate(I,B)は構成要素Bで
定義される各ピクセルの近傍内における輝度値の最大(式(A)で示す値)をもたらす。
動きでぶれた画像Iに対する形態エロージョン演算imerode(I,B)は構成要素
Bで定義される各ピクセルの近傍内における輝度値の最小(式(B)で示す値)をもたら
す。
正規化された形態勾配画像g(x,y)は画像の形態勾配を局部勾配の最大で正規化し
たものであることが理解されよう。その結果、正規化された形態勾配画像g(x,y)は
ゼロ(0)乃至1の間にある値を有する。
正規化された形態勾配画像g(x,y)の構築に続き、正規化された形態勾配画像g(
x,y)を最大ステップ・サイズを表す値βでスケールすることにより加重画像α(x,
y)が構築され、以下の方程式(14)で表される。
ここで、βは収束の速度を制御するパラメータである。βは[0,2]のセットになっ
ている。
得られる加重画像α(x,y)は動きでぶれた画像の対応ピクセル付近のエッジしゅん
度に基づく輝度値を有することが理解されよう。
加重画像α(x,y)の構築に続き、PSF h(x,y)を用いて初期推量画像On
(x,y)がぶれられる(ステップS316)。次にぶれた推量画像とぶれた取り込み画
像I(x,y)との差異を見出すことによりエラー画像が計算される(ステップS318
)。エラー画像は次に「反転された」PSF h(−x,−y)でたたみこまれ、ぶれた
エラー、または忠実項画像Fを形成し(ステップS320)、これは下記の方程式(15
)で表される。
ステップS314で構築された加重画像α(x,y)は次に忠実項画像Fと組み合わさ
れ、ぶれた加重エラーまたは修正忠実項画像MFを形成し(ステップS322)、下記の
方程式(16)で表される。
正則化画像Lが次に形成される(ステップS324)。正則化画像Lの形成の際、推量
画像On-1に基づき水平エッジ画像Ohおよび垂直エッジ画像Ovを各々計算することによ
り得られ、以下の方程式(17)および方程式(18)で表される。
上述のソーベル導関数演算子は画像のエッジ応答の判定に用いるのに適した既知のハイ
パス・フィルタである。
水平エッジ画像Ohおよび垂直エッジ画像Ovとが次に正規化される。p−ノルム正則化
を達成し鋭利化または円滑化の度合いを制御するために、正規化の方法は選択可能である
。特に、1と2との間の値を有する可変するpが選択され正規化水平および垂直エッジ画
像を次のルーチンに従い計算するのに用いられる。
1に等しいp値は全変動正則化と合致した正規化をもたらし、2に等しいp値はティコ
ノフ−ミラー正則化と合致した正規化をもたらす。1と2との間にあるp値は全変動正則
化とティコノフ−ミラー正則化との間にある正則カ強度をもたらし、これは場合によって
過度に鋭いか、または過度に円滑な結果を避けるのに役立つ。p値はユーザによって選択
可能か、既定値に設定することができる。
ぶれパラメータ推定により画像取り込み中画像取り込み装置の動きが直線的で一定速度
であると判定された場合、正規化された水平エッジ画像Ohおよび垂直エッジ画像Ovは次
に動きのぶれの推定直線方向に従い加重され、合計されて次の方程式(19)で表される
方向選択性の正則化画像Lを形成する。
ぶれパラメータ推定により画像取り込み中画像取り込み装置の動きが直線的かつ一定速
度でないと判定された場合、正則化画像Lは方向の加重なしで形成され、次の方程式(2
0)で表される。
正則化画像Lの形成に続き、推量画像、方程式(16)の修正忠実項画像MF、および
方程式(19)(または方程式(20))の正則化画像Lを組み合わせて更新推量画像が
生成され(ステップS326)、次の方程式(21)で表される。
ここで、ηは正則化パラメータである。
正則化パラメータηは更新推量画像におけるリンギング・アーチファクトを充分に低減
するために望ましい正則化の量に基づいて選択されることが理解されよう。
更新推量画像Onのピクセル輝度が次に下記の方程式(22)に従い0乃至255の間
になるように必要に応じ調節される(ステップS330)。
ピクセルの輝度が必要に応じ調節されると、ステップS332で更新推量画像Onを動
きのぶれを補正した画像として出力するか、またはステップS316に戻るか判定される
。本実施形態で反復を続けるかの判断は反復数が閾値の数を超えたことに基づく。これ以
上反復を行なわない場合、更新推量画像Onは動きのぶれを補正した画像として出力され
る(ステップS334)。
忠実項画像Fは、ステップS326における組み合わせの際、忠実項画像Fの特定ピク
セルの寄与が取り込み画像の形態に適合されるように加重画像α(x,y)により修正さ
れる。加重画像α(x,y)は従って忠実項画像Fの寄与を取り込み画像の形態に合わせ
る形態適合ステップ・サイズとして機能する。より具体的に、急勾配の遷移中にある画像
領域に対し急速変換が達成され、急勾配付近の均質な区域ではリンギングを抑制するため
により遅い、より規則的な変換がなされる。その結果、性能とリンギングの抑制との間で
有益なバランスが達成される。
忠実項画像Fの寄与を取り込み画像の形態に適合させるための加重画像α(x,y)の
効果は図3から図6に例示される。図3は画像取り込み装置により取り込まれた単純な、
動きでぶれた、15ピクセルの水平ステップ画像を示す。初期の推量画像は取り込まれた
動きでぶれた画像である。図4は既知のぶれ補正の方法に従い初期推量画像の動きのぶれ
を補正する最初の反復の際、補正項画像(すなわち未修正忠実画像および正則化画像)が
寄与したリンギングを図示する輝度−空間プロファイルのセットを示す。特にプロファイ
ル410は初期推量画像On(x,y)に対応し、プロファイル420は正則化画像Lに
対応し、プロファイル430は未修正の忠実項画像Fに対応する。プロファイル440は
初期推量画像、未修正の忠実項画像F、および正則化画像Lの組み合わせでもたらされる
更新推量画像に対応する。
急勾配の遷移付近において相当なアーチファクトが存在することが特に円で特定された
更新推量画像のプロファイル440の部分で見られる。リンギング・アーチファクトは主
に未修正の忠実項画像F(プロファイル430)の寄与に由来する。
図5は図3における初期推量画像の動きのぶれを補正する最初の反復の際、補正項画像
が寄与したリンギングを図示する輝度−空間プロファイルのセットを示し、ここで加重画
像α(x,y)は忠実項画像Fと組み合わされる。特に、プロファイル510は初期推量
画像On(x,y)に対応し、プロファイル520は正則化画像Lに対応し、プロファイ
ル530は未修正の忠実項画像Fに対応し、プロファイル530,535は加重画像α(
x,y)の元として用いられる正規化された形態勾配画像g(x,y)に対応する。プロ
ファイル540は初期推量画像On(x,y)、修正忠実項画像MF(すなわち忠実項画
像Fと加重画像α(x,y)との組み合わせ)、および正則化画像Lの組み合わせである
更新推量画像のプロファイルに対応する。
急勾配の遷移付近のリンギングは加重画像α(x,y)により低減されることは明らか
であろう。これは図6により良く示され、図は更新推量画像のプロファイル440および
540を示す。プロファイル540の部分であるリンギング部分560に示されるリンギ
ングは加重画像α(x,y)の寄与によりプロファイル440のリンギング部分550よ
り明らかに小さい。
図7(a)〜図7(h)は加重がある場合とない場合との双方の場合にいくつかの反復
後の動きのぶれ補正中に補正項が寄与するリンギング効果を示す画像のセットである。図
7(a)はぶれなしの理想的画像を示す。図7(b)は動きでぶれた画像Iを示し、図7
(a)の理想的画像が31ピクセル分意図的にぶれさせられている。図7(c)、図7(
e)、および図7(g)は図7(b)の動きでぶれた画像に基づき加重画像α(x,y)
を用いずに各々30、50、および100反復後の動きのぶれを補正した画像を示す。こ
れに対し図7d、7f、および7hは加重画像α(x,y)を用いる動きのぶれの補正を
各々30、50、および100反復後の動きのぶれを補正した画像を示す。加重画像α(
x,y)がリンギングの抑制を、特に急勾配の遷移区域において、向上させることが分か
る。
正則化はたたみこみ解除中のノイズ増幅を抑制するように機能し、可能な場合リンギン
グ・アーチファクトをも低減することが理解されよう。直線かつ一定速度の動きの場合、
正則化画像Lを形成する際の水平および垂直エッジの方向の加重はぶれ補正中動きのない
方向における望ましくないぶれを低減する。
p−ノルム正則化を含むぶれ補正方法でp>1の場合は演算上複雑で高価であり得る。
従って性能(すなわち速度)を考慮する場合、p−ノルムのp値を1に限定することが有
益かもしれない。その結果性能は向上する一方、動きのぶれ補正の質が顕著に劣化するこ
とは比較的稀である。さらに性能を向上させるために、ある反復においてp−ノルム正則
化を飛ばし、または全く省略することも可能である。もとよりp−ノルム正則化を飛ばし
、または省略することは動きのぶれ補正の全体速度と望ましい/必要なノイズ除去および
リンギング低減との間のトレードオフをもたらす。例えば、入力画像の信号・ノイズ比が
高い場合(すなわち例えば30dB以上)、p−ノルム正則化を行なう必要は全くないか
もしれない。
ステップS316から330は閾値の回数実行されるように説明されているが、反復数
を限定する他の基準を併せてまたは代わりに使用し得ることが理解されよう。例えば反復
プロセスは取り込み画像とぶれの推量画像との間のエラー規模が閾値レベルより低くなる
まで、または後続反復において閾値量をこえて変化しなくなるまで進むことができる。あ
るいは、反復数は他の基準に基づくことができる。
通常の当業者であれば、水平および垂直エッジ画像を得るためのソーベル導関数演算子
の代わりに他の適当なエッジ検出器/ハイパス・フィルタを利用し得ることを理解しよう
動きのぶれ補正を簡略化するために、ぶれの原因となる動きは通常直線かつ一定速度で
あると仮定することが知られている。しかし、動きのぶれ補正は動きのぶれの度合いおよ
び方向の初期推定に強く依存しているため、動きのぶれの度合いおよび方向の不正確な推
定は不満足な動きのぶれ補正結果をもたらし得る。上述の方法は画像取り込み装置のより
複雑な動きを表す点像分布関数(PSF)と併せて有利に用いることができる。このよう
な場合、方程式(19)で表される方向選択性正則化画像は直線かつ一定速度の動きに最
も適していることが特記される。より複雑の動きに対しては、方程式(20)で表される
ような正則化画像を用いるべきである。
上記に特定の実施形態が説明されたが、当業者であれば添付クレームに定義される精神
および範囲を逸脱することなく、変形および修正が可能であることを理解しよう。
取り込み画像の動きのぶれを削減する際、実施されるステップのフローチャート。 推定された動きぶれパラメータを用いて取り込み画像の動きのぶれを補正するステップを示すフローチャート。 取り込み画像における動きのぶれ補正中のリンギングの影響を示す水平のぶれたステップ画像。 図3におけるステップ画像の動きのぶれ補正の第1反復の際、補正項が寄与するリンギング効果を示す空間−輝度プロファイルのセット。 図3におけるステップ画像の動きのぶれ加重を用いた補正の第1反復の際、補正項が寄与するリンギング効果を示す空間−輝度プロファイルのセット。 各々加重付きおよび加重なしで得られた更新推量画像におけるリンギングの量を示す2つの重ね合わせた空間−輝度プロファイル。 (a)〜(h)は、加重付きおよび加重なしの何回かの反復後動きのぶれ補正中に補正項が寄与するリンギング効果を示す画像のセット。
符号の説明
410,420,430,440,510,520,530,535,540…プロフ
ァイル、550,560…リンギング部分、B…構成要素、F…忠実項画像、g(x,y
)…正規化された形態勾配画像、h(x,y)…動きぶれフィルタ、I(x,y)…ぶれ
た取り込み画像、I…画像、imdilate(I,B)…形態膨張演算、imerod
e(I,B)…形態エロージョン演算、L…正則化画像、MF…修正忠実項画像、O0
x,y),On(x,y)…初期推量画像、Oh…水平エッジ画像、On…更新推量画像、
n-1…推量画像、Ov…垂直エッジ画像、α(x,y)…加重画像、β…値、η…正則化
パラメータ、S100…ステップ;画像を取り込み、S200…ステップ;取り込み画像
の動きのぶれパラメータを推定、S300…ステップ;取り込み画像および推定された動
きのぶれパラメータを用いて画像における動きのぶれを低減、S310…ステップ;推量
画像を確立、S312…ステップ;動きのぶれパラメータを用いて点像分布関数(PSF
)を作成、S314…ステップ;取り込み画像の形態に基づき加重画像を構築、S316
…ステップ;PSFを用いて推量画像をぶれさせる、S318…ステップ;取り込み画像
とぶれた推量画像との間のエラーを判定、S320…ステップ;PSFを用いてエラー画
像をぶれさせ、忠実項画像を形成、S322…ステップ;忠実項画像と加重画像とを組み
合わせ修正忠実項画像を形成、S324…ステップ;正規化画像を形成、S326…ステ
ップ;推量画像、修正忠実項画像、および正規化画像を組み合わせて推量画像を更新、S
330…ステップ;更新推量画像の輝度を調節、S334…ステップ;ぶれを補正した画
像を出力。

Claims (28)

  1. 動きでぶれた画像における動きのぶれを低減する方法で、
    前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれパラメータの
    関数としてぶれさせるステップと、
    前記ぶれた推量画像を前記動きでぶれた画像と比較してエラー画像を生成するステップ
    と、
    前記エラー画像をぶれさせるステップと、
    ぶれた前記エラー画像におけるピクセルを、前記動きでぶれた画像において対応するピ
    クセル付近のエッジしゅん度に基づき加重するステップと、
    ぶれてかつ加重された前記エラー画像および前記推量画像を組み合わせ、それにより推
    量画像を更新して動きのぶれを補正するステップと、
    を含むことを特徴とする動きでぶれた画像における動きのぶれを低減する方法。
  2. 前記加重するステップは、
    前記動きでぶれた画像における対応ピクセル付近のエッジしゅん度に基づくピクセル値
    を有する加重画像を構築するステップと、
    前記加重画像を前記ぶれたエラー画像と組み合わせるステップと、
    を含むことを特徴とする請求項1に記載の動きでぶれた画像における動きのぶれを低減
    する方法。
  3. 前記加重画像を構築するステップは、動きでぶれた画像の各ピクセルに対し、
    ピクセルの近傍を特定するステップと、
    各近傍内のピクセルの輝度勾配を計算するステップと、
    各輝度勾配をその近傍に対し正規化するステップと、を含み、
    前記加重画像における各ピクセルは前記動きでぶれた画像における各ピクセルに対応す
    る正規化輝度勾配を表すことを特徴とする請求項2に記載の動きでぶれた画像における動
    きのぶれを低減する方法。
  4. 前記正規化するステップの後、加重画像における各ピクセルを最大ステップ・サイズ
    値でスケールするステップと
    を含むことを特徴とする請求項3に記載の動きでぶれた画像における動きのぶれを低減
    する方法。
  5. 前記最大ステップ・サイズは前記ぶれパラメータに基づくことを特徴とする請求項4に
    記載の動きでぶれた画像における動きのぶれを低減する方法。
  6. 前記近傍は前記ぶれパラメータに基づくことを特徴とする請求項3に記載の動きでぶれ
    た画像における動きのぶれを低減する方法。
  7. 前記近傍は前記動きでぶれた画像を取り込むために用いられた画像取り込み装置が通る
    動きのパスに沿ったピクセルのセットを含むことを特徴とする請求項6に記載の動きでぶ
    れた画像における動きのぶれを低減する方法。
  8. 前記近傍は前記動きでぶれた画像におけるぶれの度合いおよび方向に対応する長さおよ
    び方向を有する直線で表されることを特徴とする請求項7に記載の動きでぶれた画像にお
    ける動きのぶれを低減する方法。
  9. 前記輝度勾配を計算するステップは、
    前記近傍内の最大および最小ピクセル輝度の差異を計算するステップと、を含み、
    各輝度勾配を正規化することは各輝度勾配を各々の最大ピクセル輝度で割るステップを
    含むことを特徴とする請求項3に記載の動きでぶれた画像における動きのぶれを低減する
    方法。
  10. 最大ピクセル輝度は前記近傍内で形態拡張操作を用いて得られ、
    最小ピクセル輝度は前記近傍内で形態エロージョン操作を用いて得られることを特徴と
    する請求項9に記載の動きでぶれた画像における動きのぶれを低減する方法。
  11. 前記推量画像におけるエッジに基づき正則化画像を形成するステップと、を含み、
    前記更新された推量画像は前記正則化画像、ぶれてかつ加重された前記エラー画像、お
    よび前記推量画像を組み合わせることにより生成されることを特徴とする請求項1に記載
    の動きでぶれた画像における動きのぶれを低減する方法。
  12. 前記正則化画像を形成するステップは、
    前記推量画像から水平および垂直エッジ画像を構築するステップと、
    前記水平および垂直エッジ画像を合計し、それにより正則化画像を形成するステップと
    を含むことを特徴とする請求項11に記載の動きでぶれた画像における動きのぶれを低減
    する方法。
  13. 前記推量画像をぶれさすステップ、比較するステップ、エラー画像をぶれさすステップ
    、加重するステップ、および組み合わせるステップは反復的に行なわれることを特徴とす
    る請求項11に記載の動きでぶれた画像における動きのぶれを低減する方法。
  14. 前記推量画像をぶれさすステップ、比較するステップ、エラー画像をぶれさすステップ
    、加重するステップ、および組み合わせるステップは閾値回数反復的に行なわれることを
    特徴とする請求項13に記載の動きでぶれた画像における動きのぶれを低減する方法。
  15. 前記推量画像は前記動きでぶれた画像であることを特徴とする請求項1に記載の動きで
    ぶれた画像における動きのぶれを低減する方法。
  16. 動きでぶれた画像における動きのぶれを低減するための装置で、
    前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれパラメータの
    関数としてぶれさせる推量画像ぶれ化モジュールと、
    前記ぶれた推量画像を前記動きでぶれた画像と比較してエラー画像を生成するコンパレ
    ータと、
    前記エラー画像をぶれさせるエラー画像ぶれ化モジュールと、
    動きでぶれた画像における対応ピクセル付近のエッジしゅん度に基づき前記ぶれたエラ
    ー画像におけるピクセルを加重する加重モジュールと、
    前記ぶれてかつ加重されたエラー画像および前記推量画像を組み合わせ、それにより前
    記推量画像を更新し動きのぶれを補正する画像コンバイナと、
    を含むことを特徴とする動きでぶれた画像における動きのぶれを低減するための装置。
  17. 前記加重モジュールは、
    前記動きでぶれた画像における対応ピクセル付近のエッジしゅん度に基づくピクセル値
    を有する加重画像を構築する加重画像モジュールと、を含み、
    前記画像コンバイナは前記加重画像と前記ぶれたエラー画像とを組み合わせることを特
    徴とする請求項16に記載の動きでぶれた画像における動きのぶれを低減するための装置
  18. 前記加重画像モジュールは、
    前記動きでぶれた画像における各ピクセルに対しピクセルの近傍を特定する近傍定義器
    と、
    各近傍内のピクセルの輝度勾配を計算し、各輝度勾配をその近傍に対し正規化する勾配
    計算器と、
    前記加重画像における各ピクセルが動きでぶれた画像における各ピクセルに対応する前
    記正規化輝度勾配を表すよう定義する画像構築器と、
    を含むことを特徴とする請求項17に記載の動きでぶれた画像における動きのぶれを低
    減するための装置。
  19. 前記正規化後、前記画像構築器は前記加重画像における各ピクセルを最大ステップ・サ
    イズ値でスケールすることを特徴とする請求項18に記載の動きでぶれた画像における動
    きのぶれを低減するための装置。
  20. 最大ステップ・サイズ値は前記ぶれパラメータに基づくことを特徴とする請求項19に
    記載の動きでぶれた画像における動きのぶれを低減するための装置。
  21. 前記近傍定義器は前記ぶれパラメータに基づき前記近傍を定義することを特徴とする請
    求項18に記載の動きでぶれた画像における動きのぶれを低減するための装置。
  22. 前記近傍は前記動きでぶれた画像を取り込むために用いた画像取り込み装置が通る動き
    のパスに沿ったピクセルのセットを含むことを特徴とする請求項21に記載の動きでぶれ
    た画像における動きのぶれを低減するための装置。
  23. 前記近傍は前記動きのぶれた画像におけるぶれの度合いおよび方向に対応する長さおよ
    び方向を有する直線で表されることを特徴とする請求項22に記載の動きでぶれた画像に
    おける動きのぶれを低減するための装置。
  24. 輝度勾配の計算および正規化の際、前記勾配計算器は前記近傍内の最大および最小ピク
    セル輝度の差異を計算し、各輝度勾配を各々の最大ピクセル輝度で割ることを特徴とする
    請求項18に記載の動きでぶれた画像における動きのぶれを低減するための装置。
  25. 前記勾配計算器は前記近傍内で形態拡張操作を行ない最大ピクセル輝度を得、前記近傍
    内で形態エロージョンを行ない最小ピクセル輝度を得ることを特徴とする請求項24に記
    載の動きでぶれた画像における動きのぶれを低減するための装置。
  26. 前記推量画像におけるエッジに基づき正則化画像を形成する正則化モジュールと、を
    含み、
    更新された前記推量画像は前記正則化画像、ぶれてかつ加重された前記エラー画像、お
    よび前記推量画像を組み合わせることにより生成されることを特徴とする請求項16に記
    載の動きでぶれた画像における動きのぶれを低減するための装置。
  27. 前記推量画像をぶらせること、比較すること、エラー画像をぶらせること、加重するこ
    と、および組み合わせることは反復的に行なわれることを特徴とする請求項26に記載の
    動きでぶれた画像における動きのぶれを低減するための装置。
  28. 動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現する
    コンピュータ読み取り可能な媒体で、
    前記コンピュータ・プログラムは、
    前記動きでぶれた画像に基づく推量画像を、前記動きでぶれた画像のぶれパラメータの
    関数としてぶれさせるコンピュータ・プログラム・コードと、
    前記ぶれた推量画像を前記動きでぶれた画像と比較してエラー画像を生成するコンピュ
    ータ・プログラム・コードと、
    前記エラー画像をぶれさせるコンピュータ・プログラム・コードと、
    前記動きでぶれた画像における対応ピクセル付近のエッジしゅん度に基づき前記ぶれた
    エラー画像におけるピクセルを加重するコンピュータ・プログラム・コードと、
    ぶれて、かつ加重された前記エラー画像と前記推量画像とを組み合わせ、それにより前
    記推量画像を更新し動きのぶれを補正するコンピュータ・プログラム・コードと、
    を含むことを特徴とする動きでぶれた画像における動きのぶれを低減するコンピュータ
    ・プログラムを具現するコンピュータ読み取り可能な媒体。
JP2007306943A 2006-12-07 2007-11-28 動きでぶれた画像における動きのぶれを低減する方法、動きでぶれた画像における動きのぶれを低減するための装置、および動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体 Withdrawn JP2008146643A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US11/608,099 US20080137978A1 (en) 2006-12-07 2006-12-07 Method And Apparatus For Reducing Motion Blur In An Image

Publications (1)

Publication Number Publication Date
JP2008146643A true JP2008146643A (ja) 2008-06-26

Family

ID=39498124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007306943A Withdrawn JP2008146643A (ja) 2006-12-07 2007-11-28 動きでぶれた画像における動きのぶれを低減する方法、動きでぶれた画像における動きのぶれを低減するための装置、および動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体

Country Status (2)

Country Link
US (1) US20080137978A1 (ja)
JP (1) JP2008146643A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014530387A (ja) * 2011-10-11 2014-11-17 カール ツァイス マイクロスコピー ゲーエムベーハーCarl Zeiss Microscopy Gmbh 顕微鏡、およびspim顕微鏡検査方法

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070165961A1 (en) * 2006-01-13 2007-07-19 Juwei Lu Method And Apparatus For Reducing Motion Blur In An Image
KR100860967B1 (ko) * 2007-04-16 2008-09-30 삼성전자주식회사 영상의 모션 블러를 제거하기 위한 장치 및 방법
US8446503B1 (en) * 2007-05-22 2013-05-21 Rockwell Collins, Inc. Imaging system
KR101341096B1 (ko) * 2007-09-12 2013-12-13 삼성전기주식회사 영상 복원 장치 및 방법
JP4453734B2 (ja) * 2007-09-21 2010-04-21 ソニー株式会社 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置
US20090278928A1 (en) * 2008-05-09 2009-11-12 Honeywell International Inc. Simulating a fluttering shutter from video data
JP2010087614A (ja) * 2008-09-29 2010-04-15 Toshiba Corp 画像処理装置、画像処理方法、及び、プログラム
KR100990791B1 (ko) * 2008-12-31 2010-10-29 포항공과대학교 산학협력단 영상의 블러 제거 방법 및 블러 제거 방법이 기록된 기록매체
US8331714B2 (en) * 2009-02-23 2012-12-11 Sharp Laboratories Of America, Inc. Methods and systems for image processing
US8615141B2 (en) * 2009-08-10 2013-12-24 Seiko Epson Corporation Systems and methods for motion blur reduction
JP2011091533A (ja) * 2009-10-21 2011-05-06 Sony Corp 画像処理装置および方法、並びに、プログラム
US8582890B2 (en) * 2010-10-15 2013-11-12 DigitalOptics Corporation Europe Limited Image sharpening via gradient environment detection
US8687894B2 (en) 2010-10-15 2014-04-01 DigitalOptics Corporation Europe Limited Continuous edge and detail mapping using a weighted monotony measurement
EP2521091B1 (en) * 2011-05-03 2016-04-20 ST-Ericsson SA Estimation of motion blur in a picture
US8655099B2 (en) 2011-06-10 2014-02-18 Tandent Vision Science, Inc. Relationship maintenance in an image process
JP6189172B2 (ja) * 2013-10-17 2017-08-30 株式会社東芝 画像処理装置、画像処理方法およびプログラム
CN108632502B (zh) * 2017-03-17 2021-04-30 深圳开阳电子股份有限公司 一种图像锐化的方法及装置
CN109510941B (zh) * 2018-12-11 2021-08-03 努比亚技术有限公司 一种拍摄处理方法、设备及计算机可读存储介质
CN111815536B (zh) * 2020-07-15 2022-10-14 电子科技大学 一种基于轮廓加强策略的运动模糊修复方法
CN112037148B (zh) * 2020-09-07 2022-02-08 车链云(深圳)科技有限公司 大数据运动目标检测识别方法及系统
US11798139B2 (en) * 2020-11-17 2023-10-24 GM Global Technology Operations LLC Noise-adaptive non-blind image deblurring

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4298944A (en) * 1979-06-22 1981-11-03 Siemens Gammasonics, Inc. Distortion correction method and apparatus for scintillation cameras
US5047968A (en) * 1988-03-04 1991-09-10 University Of Massachusetts Medical Center Iterative image restoration device
US5561611A (en) * 1994-10-04 1996-10-01 Noran Instruments, Inc. Method and apparatus for signal restoration without knowledge of the impulse response function of the signal acquisition system
US6115078A (en) * 1996-09-10 2000-09-05 Dainippon Screen Mfg. Co., Ltd. Image sharpness processing method and apparatus, and a storage medium storing a program
US6603885B1 (en) * 1998-04-30 2003-08-05 Fuji Photo Film Co., Ltd. Image processing method and apparatus
US7054504B2 (en) * 1999-02-25 2006-05-30 Ludwig Lester F Relative optical path phase reconstruction in the correction of misfocused images using fractional powers of the fourier transform
US6895123B2 (en) * 2002-01-04 2005-05-17 Chung-Shan Institute Of Science And Technology Focus control method for Delta-Sigma based image formation device
US7496619B2 (en) * 2002-06-18 2009-02-24 Vanderbilt University System and methods of nonuniform data sampling and data reconstruction in shift invariant and wavelet spaces
US7545966B2 (en) * 2003-05-05 2009-06-09 Case Western Reserve University Efficient methods for reconstruction and deblurring of magnetic resonance images
US7551792B2 (en) * 2003-11-07 2009-06-23 Mitsubishi Electric Research Laboratories, Inc. System and method for reducing ringing artifacts in images
US20050147313A1 (en) * 2003-12-29 2005-07-07 Dimitry Gorinevsky Image deblurring with a systolic array processor
US7262818B2 (en) * 2004-01-02 2007-08-28 Trumpion Microelectronic Inc. Video system with de-motion-blur processing
US7561186B2 (en) * 2004-04-19 2009-07-14 Seiko Epson Corporation Motion blur correction
EP1605402A2 (en) * 2004-06-10 2005-12-14 Sony Corporation Image processing device and method, recording medium, and program for blur correction
US7650046B2 (en) * 2004-08-31 2010-01-19 Agfa Healthcare Method of correcting artifacts in an image signal

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014530387A (ja) * 2011-10-11 2014-11-17 カール ツァイス マイクロスコピー ゲーエムベーハーCarl Zeiss Microscopy Gmbh 顕微鏡、およびspim顕微鏡検査方法
US9715095B2 (en) 2011-10-11 2017-07-25 Carl Zeiss Microscopy Gmbh Microscope and method for SPIM microscopy
JP2017194704A (ja) * 2011-10-11 2017-10-26 カール ツァイス マイクロスコピー ゲーエムベーハーCarl Zeiss Microscopy Gmbh 顕微鏡、およびspim顕微鏡検査方法

Also Published As

Publication number Publication date
US20080137978A1 (en) 2008-06-12

Similar Documents

Publication Publication Date Title
JP2008146643A (ja) 動きでぶれた画像における動きのぶれを低減する方法、動きでぶれた画像における動きのぶれを低減するための装置、および動きでぶれた画像における動きのぶれを低減するコンピュータ・プログラムを具現するコンピュータ読み取り可能な媒体
JP2007188493A (ja) 動きボケ画像中の動きボケを減らす方法、それぞれが各自のボケ・パラメータを持つ複数の動きボケ画像を用いて動きボケの減らされた画像を生成する方法、動きボケ画像中の動きボケを減らす装置、およびそれぞれが各自のボケ・パラメータを持つ複数の動きボケ画像を用いて動きボケの減らされた画像を生成する装置
JP4799428B2 (ja) 画像処理装置及び方法
JP4570244B2 (ja) ディジタル画像シーケンス用の自動安定化方法
US8768069B2 (en) Image enhancement apparatus and method
US8326069B2 (en) Computing higher resolution images from multiple lower resolution images
JP5242540B2 (ja) 画像処理方法
CN105469363B (zh) 基于模糊图像生成清晰图像的方法和装置
KR101844332B1 (ko) 블러 영상 및 노이즈 영상으로 구성된 멀티 프레임을 이용하여 비균일 모션 블러를 제거하는 방법 및 장치
JP2005310135A (ja) 動きブレした画像におけるブレを補正する方法及び装置
US8433152B2 (en) Information processing apparatus, information processing method, and program
KR101839617B1 (ko) 멀티프레임을 이용한 비균일 모션 블러 제거 방법 및 장치
US8396318B2 (en) Information processing apparatus, information processing method, and program
US9596481B2 (en) Apparatus and method for video data processing
JP6293374B2 (ja) 画像処理装置、画像処理方法、プログラム、これを記録した記録媒体、映像撮影装置、及び映像記録再生装置
CN110675317B (zh) 基于学习和自适应三边滤波正则化的超分辨率重建方法
US9014503B2 (en) Noise-reduction method and apparatus
JP5105286B2 (ja) 画像復元装置、画像復元方法及び画像復元プログラム
JP5914843B2 (ja) 画像処理装置及び画像処理方法
JP6344934B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラムおよび記録媒体
JP6541454B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2007299068A (ja) 画像処理装置および画像復元方法
JP2005150903A (ja) 画像処理装置、ノイズ除去方法及びノイズ除去プログラム
KR100772405B1 (ko) 전역 움직임 추정에 근거한 적응성 잡음 감쇄 방법 및 영상처리 시스템
JP2007179211A (ja) 画像処理装置、画像処理方法、およびそのプログラム

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20110201