JP6619565B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP6619565B2 JP6619565B2 JP2015103890A JP2015103890A JP6619565B2 JP 6619565 B2 JP6619565 B2 JP 6619565B2 JP 2015103890 A JP2015103890 A JP 2015103890A JP 2015103890 A JP2015103890 A JP 2015103890A JP 6619565 B2 JP6619565 B2 JP 6619565B2
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- reliability
- block
- pixel
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 206
- 238000003672 processing method Methods 0.000 title claims description 11
- 239000013598 vector Substances 0.000 claims description 548
- 238000012937 correction Methods 0.000 claims description 167
- 238000004364 calculation method Methods 0.000 claims description 132
- 238000000034 method Methods 0.000 claims description 92
- 230000008569 process Effects 0.000 claims description 64
- 238000003384 imaging method Methods 0.000 description 64
- 230000002093 peripheral effect Effects 0.000 description 23
- 230000006870 function Effects 0.000 description 17
- 238000010586 diagram Methods 0.000 description 13
- 230000005484 gravity Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 7
- 230000006866 deterioration Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 229930091051 Arenine Natural products 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
- Television Systems (AREA)
Description
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、本実施形態に係る撮像装置10の構成を示す概略ブロック図である。
撮像装置10は、画像処理ユニット10Aと、撮像部11と、表示処理部18と、表示デバイス19とを含んで構成される。撮像部11は、撮像素子111と、撮像処理部112とを含んで構成される。撮像装置10は、動画像を撮像する機能を有する機器である。撮像装置10は、例えば、デジタルカメラである。撮像処理部112、制御部12、メモリ14、画像処理ユニット10Aの動き算出部13、画像処理部17及び表示処理部18は、バス(基線)を介して接続され、相互に各種のデータが入出力可能である。画像処理ユニット10Aの構成については、後述する。
撮像素子111は、レンズ(図示せず)によって撮像面に結像された被写体の光学像を撮像する。撮像素子111は、2次元の撮像面には複数の受光素子(画素)が配置され、さらにべイヤー配列(Bayer Arrangement)を有するカラーフィルタが貼付される。個々の受光素子は、光電変換により到来した光を電気信号である画素信号に変換し、変換した画素信号を撮像処理部112に出力する。撮像素子111は、例えば、CCD(Charge Coupled Device;電荷結合素子)イメージセンサ、CMOS(Complementary Metal−Oxide Semiconductor;相補型金属酸化膜半導体)イメージセンサ、などである。
メモリ14は、撮像装置10が備える各構成部が実行する処理に用いる各種のデータ、それらの処理により生成されたデータを記憶する記憶部である。メモリ14は、例えば、DRAM(Dynamic Random Access Memory)などの記憶媒体を含んで構成される。
次に、本実施形態に係る画像処理ユニット10Aの構成について説明する。
図2は、本実施形態に係る画像処理ユニット10Aの構成を示す概略ブロック図である。
画像処理ユニット10Aは、動き算出部13と、動きベクトル補正部15と、動きベクトル再算出部16と、画像処理部17とを含んで構成される。動き算出部13は、動きベクトル算出領域設定部131と、動きベクトル算出部132と、動きベクトル信頼度算出部133と、を含んで構成される。
動きベクトル算出領域設定部131は、メモリ14から現フレームから時間的に隣接した過去の時点のフレーム(前フレーム)のY画像データが示すY画像の一部の領域であるブロック毎に当該ブロック内の画素毎の信号値を示すブロックデータを読み出す。以下の説明では、前フレームをフレームBと呼ぶことがある。各ブロックは、後述するフレームA、B間の動きベクトルの算出対象の領域である。フレームA、Bには、互いに同じ数のブロックが設定され、各フレームに設定される複数のブロックの位置は互いに異なり、複数のブロックは互いに重ならない。動きベクトル算出領域設定部131は、フレームA、Bそれぞれのブロックデータを動きベクトル算出部132に出力する。フレームA、Bに設定されるブロックの設定例については、後述する。
次に、フレームA、Bに設定されるブロックの設定例について説明する。
図3は、本実施形態に係るブロックの設定例を示す図である。
図3において、FA、FBは、それぞれフレームA、Bを示す。フレームA、Bのそれぞれにおいて等間隔に配置されている15個(水平方向5個、垂直方向3個)の四角形は、ブロックを示す。フレームAに設定されている各ブロックの重心の座標は、フレームBに設定されている各対応ブロックの重心の座標に等しい。例えば、フレームAの左上端のブロックAa0の重心の座標は、フレームBの左上端のブロックBa0の重心の座標に等しい。
なお、フレームAのブロックサイズは、フレームBのブロックサイズよりも小さければ、上述したものに限られない。例えば、フレームAのブロックサイズは、水平方向4画素、垂直方向4画素でもよい。フレームBのブロックサイズは、水平方向64画素、垂直方向64画素でもよい。また、図3に示す例では、フレームBはブロックが設定されていない領域を有するが、フレームBは、複数のブロックによりその全体が網羅され、ブロックが設定されていない領域を有しなくてもよい。
次に、動きベクトルの算出例について説明する。
図4は、動きベクトルの算出方法を説明するための図である。動きベクトル算出部132は、フレームAの各ブロックを基準ブロックとして、フレームBの各対応ブロックとのブロックマッチングを行って1つの動きベクトルを算出する。図4は、フレームAのブロックAa0(水平方向3画素、垂直方向3画素)とフレームBのブロックBa0(水平方向5画素、垂直方向5画素)とのブロックマッチングを例にする。
次に、信頼度の例について説明する。図5は、ブロック毎に算出された信頼度の例を示す図である。図5に示す例では、フレームA内の25個のブロックa0−e4(水平方向5ブロック、垂直方向5ブロック)のそれぞれの信頼度を示す。信頼度は、各ブロックを示す四角形の2行目に表される。これらの信頼度は、各ブロックについてSADの平均値と最小値との差分を0−7の8段階のいずれかに正規化した段階で表される。段階を表す数値が大きいほど信頼度が低いことを示す。例えば、0−7のうち、0が最も信頼度が高いことを示し、7が最も信頼度が低いことを示す。図5の左上端から3行3列目のブロックc2の信頼度は7である。図5の左上から3行2列目のブロックb2の信頼度は0である。なお、信頼度の段階は8段階に限られず、2段階以上であれば、7段階以下であっても、9段階以上であってもよい。
次に、補正値の算出例について説明する。動きベクトル補正部15は、信頼度が所定の閾値(例えば、0)よりも低い低信頼度ブロックについて、当該低信頼度ブロックから所定範囲内に配置され、かつ、その閾値以上の信頼度を有する周辺ブロックの動きベクトルに基づいて補正値を算出する。図5に示す例では、動きベクトル補正部15は、信頼度が7であるブロックc2を低信頼度ブロックと判定する。動きベクトル補正部15は、ブロックc2から水平方向、及び垂直方向のそれぞれに隣接する各1ブロック内の領域であって、信頼度が所定の閾値以上であるブロックとして、ブロックb2、c3、d1、d2をそれぞれ周辺ブロックと定める。そして、動きベクトル補正部15は、ブロックb2、c3、d1、d2の動きベクトルの平均値を補正値として算出する。なお、信頼度の閾値は、0よりも低い信頼度を示す値、例えば、1であってもよい。周辺ブロックとなりうる領域の大きさは、水平方向3ブロック、垂直方向3ブロックよりも大きい領域、例えば、水平方向5ブロック、垂直方向5ブロックでもよい。
次に、画素毎の動きベクトルの算出例について説明する。
図6は、画素毎の動きベクトルの算出方法を説明するための図である。図6において格子状に分布している●印は、フレームAの各ブロック内の代表点としての画素を示している。この代表点は、例えば、ブロックの重心点の位置であってもよいし、ブロックの左上端の位置でもよい。これらの画素については、動きベクトル再算出部16は、当該画素が属するブロックの動きベクトルを当該画素の動きベクトルとして定める。なお、図6に示す例では、各ブロックの重心点の座標値に配置された画素が図示され、その他のブロック内の画素については図示が省略されている。△印は、フレームAの各ブロックの代表点以外の画素の例として画素Sを示す。これらの画素については、動きベクトル再算出部16は、例えば、画素Sに水平方向及び垂直方向に近接する4つのブロックの動きベクトルを補間(近接4点補間)して得られたベクトルを、画素Sの動きベクトル(Qx,Qy)として定める。画素Sに水平方向及び垂直方向に近接する4つのブロックは、重心点A、B、C、Dを有するブロックである。これらの重心点は、フレーム内の各ブロックの重心点のうち、水平方向の座標値(x座標値)がその正方向もしくは負方向に、垂直方向の座標値(y座標値)がその正方向もしくは負方向に、それぞれ座標Sのx座標値、y座標値に最も近似する。
Qy=k0・Ay’+k1・Cy’+k2・By’+k3・Dy’,
k0=(1−qx)・(1−qy),k1=qx・(1−qy),
k2=(1−qx)・qy,k3=qx・qy …(1)
次に、位置合わせの例について説明する。図7は、位置合わせを説明するための図である。SAは、フレームA(FA)の処理対象の注目画素を示す。画像処理部17は、注目画素SAの動きベクトルVAと、注目画素SAの座標とを加算してフレームBの対応座標を算出し、算出した対応座標に配置された対応画素SBを特定する。対応画素SBは、フレームAに表される画像を構成する注目画素SAに相当する位置に配置された画素である。そして、画像処理部17は、注目画素SAの信号値と対応画素SBの信号値を用いて所定の画像処理、例えば、NR処理を行う。
次に、本実施形態に係る画像処理について説明する。
図8、9は、本実施形態に係る画像処理を示すフローチャートである。本画像処理は、ステップS101−S121を有する。図8、9は、それぞれステップS101−S111、S112−S121を示す。
(ステップS101)動きベクトル算出領域設定部131は、フレームA、Bのそれぞれについて、処理対象の領域である注目ブロックとその対応ブロックを特定する。その後、ステップS102に進む。
(ステップS102)動きベクトル算出部132は、フレームAの注目ブロックについてフレームBの対応ブロックとの間でブロックマッチングを行って、動きベクトルを算出する。その後、ステップS103に進む。
(ステップS104)制御部12は、フレームAの注目ブロックが最終ブロックであるか否かを判定する。最終ブロックであると判定された場合(ステップS104 YES)、ステップS105に進む。最終ブロックでないと判定された場合(ステップS104 NO)、制御部12は、予め定めた処理順序(例えば、ラスタースキャン順)に基づいて、処理対象の注目ブロックを次のブロックに変更する。その後、ステップS101に戻る。
(ステップS106)動きベクトル補正部15は、当該注目ブロックから所定範囲に配置された周辺のブロックの信頼度を取得する。その後、ステップS107に進む。
(ステップS108)動きベクトル補正部15は、周辺ブロックの動きベクトルの平均値を注目ブロックの動きベクトルと定める。その後、ステップS110に進む。
(ステップS109)動きベクトル補正部15は、注目ブロックの動きベクトルを0と定める。その後、ステップS110に進む。
(ステップS110)動きベクトル補正部15は、定めた注目ブロックの動きベクトルを示す動きベクトルデータをメモリ14に上書き保存する。その後、ステップS111に進む。
(ステップS114)動きベクトル再算出部16は、注目画素に隣接する4つのブロックの動きベクトルを取得する。その後、ステップS115に進む。
(ステップS115)動きベクトル再算出部16は、取得した4つのブロックの動きベクトルを4点補間して得られたベクトルを注目画素の動きベクトルと定める。その後、ステップS118に進む。
(ステップS117)動きベクトル再算出部16は、取得した1つ又は2つの動きベクトルに基づいて算出して得られたベクトルを注目画素の動きベクトルと定める。その後、ステップS118に進む。
(ステップS119)動きベクトル再算出部16は、注目画素の動きベクトルを0と定める。その後、ステップS120に進む。
この構成により、処理対象の低信頼度ブロックから近接した高信頼度ブロックに基づいて動きベクトルが補正されるので、低信頼度ブロックに表された画像の動きをより精度よく補償することができる。フレーム間で相互に対応する画素をより高い精度で特定することができるので、フレーム間の位置合わせに基づく画像処理の機能低下を抑制することができる。
次に、本発明の第2の実施形態について説明する。上述した実施形態と同一の構成については、同一の符号を付してその説明を援用する。
本実施形態に係る撮像装置10は、第1の実施形態に係る撮像装置10(図1)と同様に画像処理ユニット10Aと、撮像部11と、表示処理部18と、表示デバイス19とを含んで構成される。但し、画像処理ユニット10Aの動きベクトル補正部15は、低信頼度ブロックと判定された処理対象の注目ブロックについて、当該注目ブロックの重心からの距離が小さい周辺ブロックほど、補正値の算出に用いる動きベクトルを与える周辺ブロックとして優先して選択する。
次に、本実施形態に係る画像処理について説明する。
図11は、本実施形態に係る画像処理を示すフローチャートである。
本実施形態に係る画像処理は、ステップS101−S105、S108−S121、及びS201−S203を有する。図11では、ステップS101−S104、S112−S121の図示が省略されている。ステップS105において、動きベクトル補正部15が、フレームAの注目ブロックについて信頼度が所定の信頼度の閾値よりも低いと判定された場合(ステップS105 NO)、ステップS201に進む。
(ステップS202)動きベクトル補正部15は、動きベクトル補正部15は、特定したグループのうち、信頼度が所定の信頼度の閾値以上である周辺ブロックが存在するか否かを判定する。存在すると判定する場合(ステップS202 YES)、ステップS108に進む。存在しないと判定する場合(ステップS202 NO)、ステップS203に進む。
(ステップS203)動きベクトル補正部15は、次に注目画素からの距離が小さいブロックについて、その距離が所定の距離の閾値よりも大きいか否かを判定する。大きいと判定する場合(ステップS203 YES)、ステップS109に進む。大きくないと判定する場合(ステップS203 NO)、ステップS201に戻る。
この構成により、低信頼度ブロックの動きベクトルの補正において、処理対象の低信頼度ブロックから近接した高信頼度ブロックほど優先して動きベクトルが補正されるので、その低信頼度ブロックに表された画像の動きをより精度よく補償することができる。フレーム間で相互に対応する画素をさらに高い精度で特定することができるので、フレーム間の位置合わせに基づく画像処理の機能低下を抑制することができる。
次に、本発明の第3の実施形態について説明する。上述した実施形態と同一の構成については、同一の符号を付してその説明を援用する。
本実施形態に係る撮像装置10は、第1の実施形態に係る撮像装置10(図1)と同様に画像処理ユニット10Aと、撮像部11と、表示処理部18と、表示デバイス19とを含んで構成される。但し、図12に示すように画像処理ユニット10Aの動き算出部13は、フレーム動きベクトル算出部134をさらに含んで構成される。
フレーム動きベクトル算出部134は、算出したフレーム動きベクトルを示すデータを、メモリ14に記憶される動きデータに付加し、算出したフレーム信頼度を信頼度データに付加する。
次に、本実施形態に係る画像処理について説明する。
図13は、本実施形態に係る画像処理を示すフローチャートである。
本実施形態に係る画像処理は、ステップS101−S121及びステップS301−303を有する。図13では、ステップS101−103、ステップS112−S121の図示が省略されている。ステップS104において、制御部12は、フレームAの注目ブロックが最終ブロックであると判定した場合(ステップS104 YES)、ステップS301に進む。
ステップS107において、動きベクトル補正部15は、取得した周辺のブロックにおいて信頼度が所定の閾値以上である信頼度が高い周辺ブロックがないと判定した場合(ステップS107 NO)、ステップS302に進む。
(ステップS303)動きベクトル補正部15は、注目ブロック(低信頼度ブロック)の動きベクトルをフレーム動きベクトルとして定める。その後、ステップS110に進む。
次に、本発明の第4の実施形態について説明する。上述した実施形態と同一の構成については、同一の符号を付してその説明を援用する。
本実施形態に係る撮像装置10は、第1の実施形態に係る撮像装置10(図1)と同様に画像処理ユニット10Aと、撮像部11と、表示処理部18と、表示デバイス19とを含んで構成される。但し、図14に示すように画像処理ユニット10Aの動き算出部13は、歪補正座標算出部135をさらに含んで構成される。
次に、本実施形態による歪補正の例について説明する。図15は、本実施形態に係る歪補正を説明するための図である。左列に示す画像は、撮像装置10の撮像部11が備える光学系を構成するレンズの光学歪みとして樽型歪みを受けて撮像された画像の一例を示す。樽型歪みにより、撮像された画像は上下左右の端部ほど収縮し、中央部ほど膨張する。これに応じて、本来水平方向又は垂直方向に延びるべき区分線が湾曲している。当該画像に示された4個の四角形は、動きベクトルを算出するブロックである補正前のブロックa−dを示す。
次に、本実施形態に係る画像処理について説明する。図16は、本実施形態に係る画像処理を示すフローチャートである。本実施形態に係る画像処理は、ステップS102−S121及びステップS401を有する。図16では、ステップS105−S121の図示が省略されている。
この構成により、歪が生じていた画像の位置や形状が補正されたうえで、動きベクトルが算出されるので、歪による動きベクトルの信頼性や精度の低下を解消又は緩和することができる。そのため、フレーム間の位置合わせに基づく画像処理の機能低下を抑制することができる。
次に、本発明の第5の実施形態について説明する。上述した実施形態と同一の構成については、同一の符号を付してその説明を援用する。
本実施形態に係る撮像装置10は、第1の実施形態に係る撮像装置10(図1)と同様に画像処理ユニット10Aと、撮像部11と、表示処理部18と、表示デバイス19とを含んで構成される。但し、画像処理ユニット10Aの動き算出部13は、フレーム動きベクトル算出部134(図12)をさらに含んで構成される。
次に、本実施形態に係る画像処理について説明する。
図17は、本実施形態に係る画像処理を示すフローチャートである。
本実施形態に係る画像処理は、ステップS101−S104、S112−S121、S301、S302、S501及びS502を有する。図16では、ステップS101−103、ステップS112−S121の図示が省略されている。ステップS104において、制御部12は、フレームAの注目ブロックが最終ブロックであると判定した場合(ステップS104 YES)、ステップS301に進む。
(ステップS501)動きベクトル補正部15は、フレーム動きベクトルをフレームA内の全ブロックの動きベクトルとして定める。その後、ステップS112に進む。
(ステップS502)動きベクトル補正部15は、フレームA内の全ブロックの動きベクトルを予め定めたベクトル(例えば、0)と定める。その後、ステップS112に進む。
上述では、時間的に隣接した2フレームA、B間の位置合わせを例にしたが、これには限られない。2つのフレームA、Bは、相互に時間的に離れた別個のフレームであってもよい。また、画像処理部17は、複数のフレームからなる動画像を表す画像データについて2フレーム間の位置合わせを繰り返すことにより、3フレーム以上の複数フレーム間について位置合わせを行って、これらのフレーム間における所定の画像処理を行ってもよい。
また、上述した実施形態における撮像装置10及び画像処理装置の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。撮像装置10及び画像処理装置の各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。
Claims (9)
- 第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出部と、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出部と、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記低信頼度ブロックの動きベクトルを補正する動きベクトル補正部と、
前記動きベクトル補正部が補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理部と、
前記高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル算出部と、
を備え、
前記動きベクトル補正部は、前記フレーム動きベクトルを用いて前記低信頼度ブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定する画像処理装置。 - 前記高信頼度ブロックは、前記低信頼度ブロックから所定範囲内に配置されているブロックである請求項1に記載の画像処理装置。
- 前記動きベクトル補正部は、前記低信頼度ブロックの動きベクトルの補正において、前記低信頼度ブロックからの距離が小さいブロックの動きベクトルほど優先して用いる請求項2に記載の画像処理装置。
- 第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出部と、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出部と、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル算出部と、
前記フレーム動きベクトルを用いて前記第1の画像全体のブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定する動きベクトル補正部と、
前記動きベクトル補正部が補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理部と、
を備える画像処理装置。 - 撮像された画像を形成する各画素の座標と歪補正後の座標との関係を示す歪補正データに基づいて、前記第1の画像を示す画素毎の座標を補正する歪補正座標算出部、をさらに備える請求項1から請求項4のいずれか一項に記載の画像処理装置。
- 画像処理装置の画像処理方法であって、
第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出過程と、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出過程と、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記低信頼度ブロックの動きベクトルを補正する動きベクトル補正過程と、
前記動きベクトル補正過程で補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理過程と、
前記高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル算出過程と、
を有し、
前記動きベクトル補正過程では、前記フレーム動きベクトルを用いて前記低信頼度ブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定する画像処理方法。 - 画像処理装置の画像処理方法であって、
第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出過程と、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出過程と、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル算出過程と、
前記フレーム動きベクトルを用いて前記第1の画像全体のブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定する動きベクトル補正過程と、
前記動きベクトル補正過程で補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理過程と、
を有する画像処理方法。 - 画像処理装置のコンピュータに、
第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出手順、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出手順、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記低信頼度ブロックの動きベクトルを補正する動きベクトル補正手順、
前記動きベクトル補正手順で補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理手順、
前記高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル手順、
を実行させるためのプログラムであって、
前記動きベクトル補正手順では、前記フレーム動きベクトルを用いて前記低信頼度ブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定するプログラム。 - 画像処理装置のコンピュータに、
第1の画像の一部の領域であるブロックと、前記ブロックと第2の画像の一部の領域との類似度に基づいて前記ブロックの動きベクトルを定める動きベクトル算出手順、
前記類似度の分布に基づいて前記動きベクトルの信頼度を算出する動きベクトル信頼度算出手順、
前記信頼度が所定の信頼度よりも低いブロックである低信頼度ブロックとは異なるブロックであって、前記所定の信頼度と同等以上の信頼度を有する高信頼度ブロックの動きベクトルに基づいて前記第1の画像全体の動きベクトルであるフレーム動きベクトルと、前記高信頼度ブロックの動きベクトルの分布に基づいて前記フレーム動きベクトルの信頼性とを算出するフレーム動きベクトル算出手順、
前記フレーム動きベクトルを用いて前記第1の画像全体のブロックの動きベクトルを補正するか否かを前記フレーム動きベクトルの信頼性に基づいて判定する動きベクトル補正手順、
前記動きベクトル補正手順で補正した動きベクトルに基づいて前記第1の画像の画素である第1画素に対応する前記第2の画像の画素である第2画素を定め、前記第1画素の信号値と前記第2画素の信号値を用いた画像処理を行う画像処理手順、
を実行させるためのプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015103890A JP6619565B2 (ja) | 2015-05-21 | 2015-05-21 | 画像処理装置、画像処理方法およびプログラム |
PCT/JP2016/061703 WO2016185832A1 (ja) | 2015-05-21 | 2016-04-11 | 画像処理装置、画像処理方法およびプログラム |
DE112016001871.1T DE112016001871T5 (de) | 2015-05-21 | 2016-04-11 | Bildverarbeitungsvorrichtung, Bildverarbeitungsverfahren und Programm |
CN201680026459.6A CN107533762A (zh) | 2015-05-21 | 2016-04-11 | 图像处理装置、图像处理方法以及程序 |
US15/813,529 US10516825B2 (en) | 2015-05-21 | 2017-11-15 | Image processing device, image processing method, and computer program product for correcting a motion vector of a low-reliability block |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015103890A JP6619565B2 (ja) | 2015-05-21 | 2015-05-21 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016218800A JP2016218800A (ja) | 2016-12-22 |
JP6619565B2 true JP6619565B2 (ja) | 2019-12-11 |
Family
ID=57320004
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015103890A Active JP6619565B2 (ja) | 2015-05-21 | 2015-05-21 | 画像処理装置、画像処理方法およびプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10516825B2 (ja) |
JP (1) | JP6619565B2 (ja) |
CN (1) | CN107533762A (ja) |
DE (1) | DE112016001871T5 (ja) |
WO (1) | WO2016185832A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10217440B2 (en) * | 2016-03-17 | 2019-02-26 | Nanolumens Acquisition, Inc. | In-situ display monitoring and calibration system and methods |
JP6723173B2 (ja) * | 2017-02-10 | 2020-07-15 | 富士フイルム株式会社 | 画像処理装置、方法およびプログラム |
CN112313938B (zh) | 2018-07-10 | 2022-06-21 | 奥林巴斯株式会社 | 摄像装置、图像校正方法以及计算机可读记录介质 |
JP7237499B2 (ja) * | 2018-09-19 | 2023-03-13 | 株式会社東芝 | 画像センサ、センシング方法、制御システム及びプログラム |
US10855988B2 (en) * | 2018-12-19 | 2020-12-01 | Qualcomm Incorporated | Adaptive prediction structures |
US11270416B2 (en) * | 2019-12-27 | 2022-03-08 | Nxp Usa, Inc. | System and method of using optimized descriptor coding for geometric correction to reduce memory transfer bandwidth overhead |
US11875516B2 (en) | 2020-12-28 | 2024-01-16 | Waymo Llc | Systems, apparatus, and methods for retrieving image data of image frames |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0973540A (ja) * | 1995-09-04 | 1997-03-18 | Sharp Corp | 動きベクトル算出装置 |
JP4665826B2 (ja) * | 2006-05-10 | 2011-04-06 | 株式会社ニコン | 撮像装置および画像処理プログラム |
JP2008243111A (ja) * | 2007-03-29 | 2008-10-09 | Hitachi Ltd | 画像処理装置および画像処理方法 |
JP5048542B2 (ja) * | 2008-02-07 | 2012-10-17 | オリンパス株式会社 | 画像処理装置及び画像処理プログラム |
JP4600530B2 (ja) * | 2008-06-17 | 2010-12-15 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP4385077B1 (ja) * | 2008-08-27 | 2009-12-16 | 三菱電機株式会社 | 動きベクトル検出装置および画像処理装置 |
JP4645736B2 (ja) * | 2008-12-22 | 2011-03-09 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP5791241B2 (ja) * | 2010-07-16 | 2015-10-07 | キヤノン株式会社 | 画像処理方法、画像処理装置、およびプログラム |
JP2014039169A (ja) | 2012-08-16 | 2014-02-27 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
-
2015
- 2015-05-21 JP JP2015103890A patent/JP6619565B2/ja active Active
-
2016
- 2016-04-11 DE DE112016001871.1T patent/DE112016001871T5/de not_active Withdrawn
- 2016-04-11 CN CN201680026459.6A patent/CN107533762A/zh active Pending
- 2016-04-11 WO PCT/JP2016/061703 patent/WO2016185832A1/ja active Application Filing
-
2017
- 2017-11-15 US US15/813,529 patent/US10516825B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016218800A (ja) | 2016-12-22 |
WO2016185832A1 (ja) | 2016-11-24 |
DE112016001871T5 (de) | 2018-01-25 |
US20180077354A1 (en) | 2018-03-15 |
CN107533762A (zh) | 2018-01-02 |
US10516825B2 (en) | 2019-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6619565B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US11044453B2 (en) | Data processing apparatus, imaging apparatus and data processing method | |
JP4755490B2 (ja) | ブレ補正方法および撮像装置 | |
US9251573B2 (en) | Device, method, and storage medium for high dynamic range imaging of a combined image having a moving object | |
US9576370B2 (en) | Distance measurement apparatus, imaging apparatus, distance measurement method and program | |
TWI542217B (zh) | 像素值校正裝置與方法 | |
JP2010041419A (ja) | 画像処理装置、画像処理プログラム、画像処理方法、および電子機器 | |
JP6160292B2 (ja) | 画像補正装置、撮像装置及び画像補正用コンピュータプログラム | |
JP2013218487A (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
US20160277694A1 (en) | Image processing device and noise reduction system having the same | |
JP5927265B2 (ja) | 画像処理装置及びプログラム | |
JP6178646B2 (ja) | 撮像装置及び像振れ補正処理方法 | |
US11240484B2 (en) | Information processing apparatus and information processing method for stereo imaging based on corrected parameters | |
JP6175878B2 (ja) | 画像処理回路、画像処理装置及び画像処理方法 | |
JP2012175169A (ja) | 画像処理装置 | |
JP4958672B2 (ja) | 撮像装置及びその制御方法 | |
US10791289B2 (en) | Image processing apparatus, image processing method, and non-transitory computer readable recording medium | |
JP6105960B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP5351200B2 (ja) | 画像処理装置、画像処理システムおよび画像処理方法 | |
JP2011171991A (ja) | 画像処理装置、電子機器、画像処理方法、および、画像処理プログラム | |
JP6381212B2 (ja) | 撮像装置及びその制御方法 | |
JP6808770B2 (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
JP2020102106A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020047223A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2016194956A (ja) | データ処理装置、撮像装置、およびデータ処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20150522 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190423 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190613 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191115 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6619565 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |