[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4991907B2 - 画像処理装置、および、画像処理装置の制御方法 - Google Patents

画像処理装置、および、画像処理装置の制御方法 Download PDF

Info

Publication number
JP4991907B2
JP4991907B2 JP2010109548A JP2010109548A JP4991907B2 JP 4991907 B2 JP4991907 B2 JP 4991907B2 JP 2010109548 A JP2010109548 A JP 2010109548A JP 2010109548 A JP2010109548 A JP 2010109548A JP 4991907 B2 JP4991907 B2 JP 4991907B2
Authority
JP
Japan
Prior art keywords
image data
image
color signals
memory
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010109548A
Other languages
English (en)
Other versions
JP2011239231A (ja
Inventor
善也 川口
貴幸 原
秀太郎 國枝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2010109548A priority Critical patent/JP4991907B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to RU2012153223/07A priority patent/RU2523003C1/ru
Priority to CN201410669965.XA priority patent/CN104410786B/zh
Priority to PCT/JP2011/002551 priority patent/WO2011142105A1/en
Priority to EP14187659.9A priority patent/EP2827588B1/en
Priority to US13/697,109 priority patent/US9113024B2/en
Priority to BR112012028956-0A priority patent/BR112012028956B1/pt
Priority to CN201180023704.5A priority patent/CN102893609B/zh
Priority to EP11780364.3A priority patent/EP2569948B1/en
Publication of JP2011239231A publication Critical patent/JP2011239231A/ja
Application granted granted Critical
Publication of JP4991907B2 publication Critical patent/JP4991907B2/ja
Priority to RU2014113867/07A priority patent/RU2557067C1/ru
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color, Gradation (AREA)
  • Record Information Processing For Printing (AREA)

Description

本発明は、1つの画像データから周波数帯域の異なる複数の画像データを生成し、これらの生成した画像データに画像処理を施してから合成する技術に関するものである。
一般に、デジタルカメラやビデオカメラ等の撮像装置では、CCDやCMOSセンサなどの撮像素子から読み出した画像データにガンマ処理、補間処理、マトリクス変換等の各種画像処理を施している。単板で構成された撮像素子であれば、複数の色のカラーフィルターを有し、画素毎にいずれか1色のカラーフィルターが配置された構成となっている。原色R(赤)、G(緑)、B(青)のカラーフィルターを有するベイヤー配列の撮像素子であれば、図4に示すように、縦2画素、横2画素の4画素の中にRとBが斜め方向に隣接して配置され、残りの画素にGが配置されるというパターンが繰り返される。
ここで、一般的に、撮像素子から読み出した画像データには、撮像素子の回路に起因するノイズ成分が含まれていたり、偽色が含まれていたりする。そのため、画像データに対して、これらの不要な信号成分を低減する画像処理が施される。
例えば、入力された画像データを異なる複数の周波数帯域の画像データに分離してから、これら複数の周波数帯域の画像データを合成することで、画像データにおける不要な信号成分を低減するものが提案されている。
特許文献1に開示された構成は、まず、低域通過フィルタ(LPF)処理および縮小処理を階層的に行なうことにより、入力された画像データを複数の異なる周波数帯域の画像データに分離する。そして、各周波数帯域の画像データにおける低域成分から算出したエッジ情報に基づいて、各周波数帯域の画像データにおける高域成分に対して、ノイズ成分の低減処理を行う。その後、それぞれに対してノイズ成分の低減処理を行った高い周波数帯域の画像データと低い周波数帯域の画像データを合成する。
このように、入力された画像データを、複数の異なる周波数帯域の画像データに分離してから、これら複数の周波数帯域の画像データを合成する処理を行うための一般的な画像処理部の構成について、図5を用いて説明する。
図5において、画像処理部は、入力された画像データを複数の周波数帯域に分割する分割部510と、メモリ520と、各周波数帯域の画像データに補正を行なう補正部530と、各周波数帯域の画像データを合成する合成部540とからなる。
分割部510は入力画像データSinを第1の周波数帯域の画像データとしてメモリ520に出力する。分割部510は、この入力画像データSinを高域通過フィルタ(HPF)511に入力し、高周波成分を抽出した画像データを第1の周波数帯域の画像データとしてメモリ520に出力する。分割部510は、また、この入力画像データSinを低域通過フィルタ512に入力して平滑化してから、縮小回路513に入力することで、入力画像データSinよりも画素数の少ない画像データを生成する。そして、この画像データを高域通過フィルタ514に入力し、高周波成分を抽出した画像データを第2の周波数帯域の画像データとしてメモリ520に出力する。さらに、縮小回路513で生成された画像データを低域通過フィルタ515で平滑化し、さらに縮小回路516に入力することで、縮小回路513で生成された画像データよりもさらに画素数の少ない画像データを生成する。そして、この画像データを第3の周波数帯域の画像データとしてメモリ520に出力する。第1の周波数帯域が最も高域であり、第2の周波数帯域、第3の周波数帯域となるにつれて低域になる。
図5の分割部510は、高域通過フィルタ、低域通過フィルタ、および、縮小回路とで1つの帯域分割回路を形成し、2つの帯域分割回路をツリー状に有していることになる。
補正部530は第1から第3の周波数帯域の画像データに対応した3つの補正回路531〜533を有している。これらの補正回路531〜533は、メモリ520から読み出したそれぞれの周波数帯域の画像データに対して、画像の高精細化を目的としたノイズ低減やエッジ保存、あるいは、収差補正などの処理を施す。
合成部540は補正回路533にて処理された第3の周波数帯域の画像データを拡大回路541に入力し、補正回路532にて処理された第2の周波数帯域の画像データと同じ画素数の画像データを生成し、低域通過フィルタ542で平滑化する。加算回路543は低域通過フィルタ542から出力された画像データと、補正回路532にて処理された第2の周波数帯域の画像データを加算する。拡大回路544は、加算回路543から出力された画像データから補正回路531にて処理された第1の周波数帯域の画像データと同じ画素数の画像データを生成し、低域通過フィルタ545で平滑化する。加算回路546は低域通過フィルタ545から出力された画像データと、補正回路531にて処理された第1の周波数帯域の画像データを加算して、出力画像データSoutを生成する。
図5の合成部540は、拡大回路、低域通過フィルタ、および、加算回路で1つの帯域合成回路を形成し、2つの帯域合成回路をツリー状に有していることになる。
特開2008−015741号公報
上述したように、原色ベイヤー配列のように、複数の色に対応したカラーフィルタをモザイク状に配置した撮像素子から得られた画像データは、1つの画素からは、いずれか1つの色に対応した画素値しか得られない。
しかしながら、上述した特許文献1では、画素ごとに複数の色のカラーフィルタのいずれかの色に対応した信号を有している画像データの扱いについては開示されていない。
ここで、原色ベイヤー配列のような単板の撮像素子の場合、帯域分割の際に行うダウンサンプリングによる縮小処理により、それぞれの色において信号がゼロの画素に対して補間を行うことなく、各画素がすべての色信号を有することが可能となる。ベイヤー配列の撮像素子のある行に着目すると、図6のように、色フィルタがR、G、R、G、R、G・・・の順に配列されており、これを水平方向に半分の画素数に縮小処理する例について説明する。この行において、R信号のみに注目すると、元々2画素に1つの周期で並んでいるR信号が縮小処理により1画素毎の信号となる。また、G信号のみに注目した場合も、元々2画素に1つ存在するG信号が縮小処理により1画素毎の信号となっている。ただし、G信号の縮小処理では、G信号の重心位置をR信号に合わせるため両隣の画素値から平均値を演算することより値を求めている。このように、縮小処理を行うことで、それぞれの色において信号がゼロの画素に対して補間を行うことなく、1つの画素位置にRGBすべての色信号が生成されることになる。なお、同じ画素に対して複数種類の色の信号が生成された状態となることを同時化と呼ぶ。
第2の周波数帯域および第3の周波数帯域の画像データは縮小によって同時化されているため、そのまま同時化された状態でメモリ520に記憶させればよい。同時化された第2の周波数帯域および第3の周波数帯域の画像データを、わざわざベイヤー配列の画像データに戻してしまうと、それだけこれらの画像データの情報量が減ることになる。そのため、補正部530におけるノイズ低減処理や収差補正処理における補正精度が低下しまうことになるためである。
ここで、第1の周波数帯域の画像データも、第2および第3の周波数帯域の画像データにあわせて同時化を施してから、メモリ520に記憶させることが考えられる。しかしながら、最も情報量の多い第1の周波数帯域の画像データの情報量が3倍になってしまうことから、メモリ520に必要な容量が極端に増加してしまう。
本発明は、複数色のカラーフィルタを有する単板の撮像素子から得られた画像データを複数の周波数帯域に分解してメモリに保存し、メモリから読み出した複数の周波数帯域の画像データに補正を加える画像処理装置の改良に関するものである。具体的には、複数の周波数帯域の画像データを記憶するメモリの容量を肥大化させることなく、好適な画像処理を行えるようにする画像処理装置を提供することを目的とする。
上記課題を解決するため、本発明は、複数の色信号から構成され、画素ごとに複数の色信号のうちのいずれかの色信号を有する第1の画像データから、前記第1の画像データよりも画素数が少なく、かつ、前記第1の画像データよりも低い周波数帯域の第2の画像データを生成して出力する帯域分割手段と、前記帯域分割手段から出力される前記第1の画像データおよび前記第2の画像データを記憶するメモリと、前記メモリに記憶された前記第1の画像データおよび前記第2の画像データに対して補正処理を行う補正手段と、前記補正手段にて補正処理が施された前記第1の画像データおよび前記第2の画像データを合成する合成部を有し、前記帯域分割手段から出力される前記第2の画像データは、一部または全ての画素が前記複数の色信号を有するものであり、前記メモリは、前記第1の画像データを画素ごとに複数の色信号のうちのいずれかの色信号を有する形態で記憶し、前記第2の画像データを一部または全ての画素が前記複数の色信号を有する形態で記憶することを特徴とする画像処理装置を提供する。
本発明によれば、複数の周波数帯域の画像データを記憶するメモリの容量を肥大化させることなく、好適な画像処理を行えるようにする画像処理装置を提供することができる。
本発明にかかる撮像装置の機能ブロック図である。 画像処理部のノイズ低減処理に関する第1の実施形態における構成を示すブロック図である。 画像処理部のノイズ低減処理に関する第2の実施形態における構成を示すブロック図である。 ベイヤー配列のパターンを説明するための図である。 複数の周波数帯域の画像データを合成する処理を行うための一般的な画像処理部の構成を示すブロック図である。 ダウンサンプリングによる縮小処理により、画像データが同時化される様子を説明するための図である。
図1は、本発明にかかる撮像装置の機能ブロック図である。
図1において、結像光学部101はレンズや絞り等を含み、フォーカス調節や露出調節を行う。撮像素子102は光学像を電気信号に変換する光電変換機能を有し、CCDやCMOSセンサ等で構成される。A/D変換回路103は撮像素子102からのアナログ画像信号をデジタル画像データに変換する。画像処理部104はA/D変換回路103から出力された画像データにノイズ低減処理、収差補正処理、偽色除去処理、ガンマ処理、補間処理、および、マトリクス変換等を施す。メモリインターフェース(I/F)105はDRAMで構成されたメモリ106との間で、画像処理部104で処理された画像データや各種制御データの書き込み/読み出しを行う。CPU107は各種制御を司る。表示部108は、液晶モニター等で構成され、画像処理部104にて処理された画像データを随時表示し、使用者がリアルタイムで被写体の様子を観察できるようにする。
結像光学部101に入射した光は撮像素子102の受光面に結像され、撮像素子102からアナログ画像信号として出力される。撮像素子102は、画素ごとにR(赤)、G(緑)、B(青)のいずれかのカラーフィルタが配置されており、各画素から出力される信号レベルは、R、G、Bのいずれかに対応した信号レベルとなる。アナログ画像信号はA/D変換回路103でベイヤー配列のRAW画像としてのデジタル画像データに変換され、画像処理部104に入力される。
(第1の実施形態)
図2は、画像処理部104のノイズ低減処理に関する第1の実施形態における構成を示すブロック図である。
図2において、画像処理部104は、入力された画像データを複数の周波数帯域に分割する分割部210と、メモリ220と、各周波数帯域の画像データにノイズ低減処理を行なう補正部230と、各周波数帯域の画像データを合成する合成部240とからなる。
分割部210は入力画像データSinを第1の周波数帯域の画像データとしてそのままメモリ220に出力する。
分割部210はこの入力画像データSinを低域通過フィルタ(LPF)211に入力して平滑化してから、縮小回路212に入力することで、入力画像データSinよりも画素数の少ない画像データを生成する。本実施形態では、縮小回路212はダウンサンプリングを行うことで、入力された画像データを、縦および横の画素数がそれぞれ1/2になるように縮小する。そして、この画像データを第2の周波数帯域の画像データとしてメモリ220に出力する。
さらに、縮小回路212で生成された画像データを低域通過フィルタ213で平滑化し、さらに縮小回路214に入力することで、縮小回路212で生成された画像データよりもさらに画素数の少ない画像データを生成する。本実施形態では、縮小回路214もダウンサンプリングを行うことで、入力された画像データを、縦および横の画素数がそれぞれ1/2になるように縮小する。そして、この画像データを第3の周波数帯域の画像データとしてメモリ220に出力する。
低域通過フィルタ211および213は、例えば伝達関数H(z)=1/2(1+Z−1)で実現することが可能である。
この分割部210は帯域分割手段として機能し、第1の周波数帯域が最も高く、第2の周波数帯域、第3の周波数帯域となるにつれて低くなる。
上述したように、第2の周波数帯域および第3の周波数帯域の画像データは、低域通過フィルタを介しているため、1つの画素位置にRGBすべての色信号が生成される同時化が施されている。この第2の周波数帯域および第3の周波数帯域の画像データは、同時化された状態で、メモリ220に記憶される。
これに対し、第1の周波数帯域の画像データは、後段の補正部230は同時化された画像データを用いるのであるが、メモリ220に記憶するときは同時化されていないベイヤー配列のRAW画像データとすることで、メモリ220の容量を節約している。
補正部230は、メモリ220に記憶された第1から第3の周波数帯域の画像データを読みだし、ノイズ低減処理を行う。この補正部230では、一度に画像データ全体を読み出すのではなく、高域通過フィルタ(HPF)231、232およびノイズ低減回路233〜235における、一度の処理で必要な領域分の画像データを、処理のたびに読み出す。ゆえに、補正部230は不図示のメモリを備えているが、その容量はメモリ220の容量に比較してかなり小さくて済む。なお、高域通過フィルタ231、232は、例えば伝達関数H(z)=1/2(1−Z−1)で実現することが可能である。
補正部230は、着目画素を中心とする所定画素数の第1の周波数帯域の画像データを読みだして、高域通過フィルタ231を通すことにより、第1の周波数帯域の画像データの着目画素を中心とする領域の高域成分を抽出することができる。読み出された所定画素数の第1の周波数帯域の画像データは、高域通過フィルタ231に入力されることにより、各画素の位置にRGBすべての色信号が生成される同時化が行われる。
ノイズ低減(NR)回路233は、高域通過フィルタ231から出力された高域成分の画像データを用いて、この画像データのエッジ方向を判定する。ノイズ低減回路233は、例えば、同時化されたGの色信号レベルから、読み出した画像データの領域におけるエッジ方向を判定する。そしてノイズ低減回路233は、判定したエッジに沿う方向に信号の混合処理を行うことで平滑化処理を行い、画像データのノイズを低減する。
補正部230は、同様に、着目画素を中心とする所定画素数の第2の周波数帯域の画像データを読みだして、高域通過フィルタ232に高域成分を抽出させ、ノイズ低減回路234にノイズの低減処理を行わせる。
補正部230は、着目画素を中心とする所定画素数の第3の周波数帯域の画像データを読みだして、高域通過フィルタによる高域成分を抽出することなく、ノイズ低減回路235にノイズの低減処理を行わせる。
なお、補正部230は、これらの第1〜第3の周波数帯域の画像データを用いて、ノイズ低減処理だけでなく、倍率色収差補正処理や偽色除去処理を行うようにしてもよい。同時化された第2および第3の周波数帯域の画像データを用いることで、画像画質を向上させることが補正処理であれば、ノイズ低減処理以外の処理を実行する場合であっても、本発明を適用することは可能である。
続いて、合成部240は、ノイズ低減回路235から出力された画像データを拡大回路241に入力し、同一の領域における画素数がノイズ低減回路234から出力された画像データと等しくなるように画像データを拡大する。具体的には、拡大回路241は、ノイズ低減回路235から出力された画像データの縦および横の画素数をそれぞれ2倍となるようにアップサンプリングを行う。そして、アップサンプリングされた画像データは低域通過フィルタ242に入力され、平滑化処理が行われる。
加算回路243は低域通過フィルタ242から出力された画像データと、ノイズ低減回路234から出力された画像データを、空間的位相を一致させて合成し、拡大回路244に出力する。拡大回路244は、同一の領域における画素数がノイズ低減回路233から出力された画像データと等しくなるように画像データを拡大する。具体的には、拡大回路244は、加算回路243から出力された画像データの縦および横の画素数をそれぞれ2倍となるようにアップサンプリングを行う。そして、アップサンプリングされた画像データは低域通過フィルタ245に入力され、平滑化処理が行われる。
加算回路246は低域通過フィルタ245から出力された画像データと、ノイズ低減回路233から出力された画像データを、空間的位相を一致させて合成し、注目画素における出力画像データSoutを生成する。画像処理部104は、これらの処理を画像データの全領域に対して行うことで、ノイズ低減処理が施された画像データを得ることができる。
また、加算回路243、246の画像データの加算の際に、加算対象となる画像データの空間的位相が揃うようにノイズ低減回路233、234から出力される画像データを遅延させることで、補正部230および合成部240はメモリの容量を節約することができる。
ここで、補正部230が、所望のタイミングで、必要な領域の画像データを漏れなく読み出すためには、メモリ220が画像データの全領域における第1から第3の周波数帯域の画像データを記憶しておく必要がある。このとき、もっとも画素数の多い第1の周波数帯域の画像データを、第2および第3の周波数帯域の画像データと同様に同時化した状態でメモリ220に記憶させようとすると、メモリ220に必要な容量が膨大となってしまう。
そこで、本実施形態では、分割部210にて既に同時化された第2および第3の周波数帯域の画像データを同時化した状態でメモリ220に記憶するのに対し、第1の周波数帯域の画像データは同時化していない状態でメモリ220に記憶するようにしている。
画像処理部104に入力される画像データが、もともと画素ごとにカラーフィルタのいずれかの色に対応した色信号しか備えていないため、第1の周波数帯域の画像データをそのままの形態で記憶したとしても、画像データの情報量が減ることにはならない。なお、第1の周波数帯域の画像データがベイヤー形式を維持できる補正(例えば、欠陥画素補正)であれば、メモリ220に記憶する前に、第1の周波数帯域の画像データに対して補正処理を行ってもよい。
なお、同時化されている第2および第3の周波数帯域の画像データを、第1の周波数帯域の画像データと同様に、1画素につき1つの色信号を持つようにサンプリング処理してベイヤー化した状態で、メモリ220に記憶することも考えられる。しかしながら、このような構成とすると、補正部230で再び同時化した画像を生成したとしても、それはベイヤー化する前の画像よりも情報量が減少したものとなり、ノイズ低減の精度が低下してしまうことになる。そのため、本実施形態では、第2および第3の周波数帯域の画像データについては、同時化された形態のままでメモリ220に記憶するようにしている。
なお、第1の周波数帯域の画像データに含まれるエッジ成分の強度に応じて、拡大回路241、244における画像データの合成比率を適応的に変化させるように構成すれば、補正部230における高域通過フィルタ231、232は省略することも可能である。具体的には、第1の周波数帯域の画像データに含まれるエッジ成分の強度が大きいほど、周波数帯域の高い画像データの合成比率を高くするようにすればよい。
(第2の実施形態)
図3は、画像処理部104のノイズ低減処理に関する第2の実施形態における構成を示すブロック図である。
図3において、画像処理部104は、入力された画像データを複数の周波数帯域に分割する分割部310と、メモリ320と、各周波数帯域の画像データにノイズ低減処理を行なう補正部330と、各周波数帯域の画像データを合成する合成部340とからなる。
メモリ320と合成部340は、それぞれ図2のメモリ220と合成部240と同様の構成である。
分割部310において、低域通過フィルタ311乃至縮小回路314は、図2の分割部210の低域通過フィルタ211乃至縮小回路214と同様の構成であり、RB変換回路315、316を備える点が図2の分割部210と異なる。
補正部330において、高域通過フィルタ331乃至ノイズ低減回路335は、図2の補正部230の高域通過フィルタ231乃至ノイズ低減回路235と同様の構成であり、RB逆変換回路336、337を備える点が図2の補正部230と異なる。
RB変換回路315、316は、縮小回路312、314から出力された同時化された画像データのうち、RとBの色信号からなる画像データの水平解像度を1/2にする処理が行なわれる。つまり、Gの色信号は全ての画素が有するが、RとBの色信号は一部(半分)の画素のみ有するように画像データを処理する。例えば、画像データに対して、水平方向に伝達関数H(z)=1/4(1+2Z−1+Z−2)の低域通過フィルタをかけてダウンサンプリングを行って間引けばよい。
RB逆変換回路336、337では、それぞれRB変換回路315、316によって水平解像度を1/2にされたRとBの色信号からなる画像データの水平解像度を2倍に復元する処理が行なわれる。例えば、水平方向に2倍のアップサンプリングを行って補間すればよい。
R、G、Bの色信号からなる画像データのうち、視覚特性に及ぼす影響はGに比較するとRとBは相対的に低くなるため、GをそのままとしてRとBの水平解像度を1/2倍にしても、撮影画像の画質は大幅には低減しない。
そこで、第2および第3の周波数帯域の画像データに対しては、RとBの水平解像度を1/2倍にしてからメモリ320に画像データを記憶させる構成とすることで、メモリ320の容量およびバンド幅を節約することが可能となる。
なお、RB変換回路315、316およびRB逆変換回路336、337による処理の有無を撮像装置の駆動モードに応じて変更するように構成してもよい。近年のデジタルカメラは、静止画を撮影する機能だけでなく、動画を記録する機能や、高速に連写する機能など、複数の駆動モードが備えられている。動画記録や高速連写の場合、特に問題となるのはメモリのバンド幅である。
従って、撮像素子102の駆動モードが動画記録や高速連写など、メモリのバンド幅を大量に消費する場合には、RB変換回路315、316およびRB逆変換回路336、337による処理を有効にすればよい。
反対に、撮像素子102の駆動モードが静止画記録の場合には、RB変換回路315、316およびRB逆変換回路336、337による処理を停止する。こうすることで、これらの回路による処理を有効にした場合に比較して、多くの情報量を用いたノイズ低減処理を行うことができるため、ノイズ低減処理の精度を維持することが可能となる。
なお、いずれの実施形態においても、説明を容易にするため、処理内容ごとに別の回路を設けた図面を用いて説明を行ったが、これら複数の回路を1つの回路にまとめたり、あるいは、1つの回路における処理を複数の回路で分担して行うように構成してもよい。
また、R、G、Bの原色ベイヤー配列のカラーフィルタを有する撮像素子で得られた画像データを用いて説明を行ったが、これに限られるものではない。Y(黄)、M(マゼンダ)、C(シアン)の補色のカラーフィルタを有する撮像素子で得られた画像データに対しても、同様の処理を行うことが可能である。
また、いずれの実施形態でも、3つの周波数帯域の画像データに分割する構成を例にあげて説明を行ったが、2つの周波数帯域の画像データのみに分割する構成であっても、4つ以上の異なる周波数帯域の画像データに分割する構成であっても構わない。
また、画像データを複数の異なる周波数帯域の画像データに分割する方法としては、上記方法以外にも、ウェーブレット変換によって、画像データを、互いの周波数帯域が重複しない複数の画像データに分割する方法を適用することも可能である。
(他の実施形態)
本発明は、画素によって異なる色信号を有する画像データに対して、同時化を施して画像処理を施すことができる画像処理装置であれば、撮像装置に限らず、画像処理のためのアプリケーションを搭載したパーソナルコンピュータ等でも実現することが可能である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
210、310 分割部
211、213、242、245、311、313、342、345 低域通過フィルタ
212、214、312、314 縮小回路
220、320 メモリ
230、330 補正部
231、232、331、332 高域通過フィルタ
233、234、235、333、334、335 ノイズ低減回路
240、340 合成部
241、244、341、344 拡大回路
243、246、343、346 加算回路
315、316 RB変換回路
336、337 RB逆変換回路

Claims (10)

  1. 複数の色信号から構成され、画素ごとに複数の色信号のうちのいずれかの色信号を有する第1の画像データから、前記第1の画像データよりも画素数が少なく、かつ、前記第1の画像データよりも低い周波数帯域の第2の画像データを生成して出力する帯域分割手段と、
    前記第1の画像データおよび前記第2の画像データを記憶するメモリと、
    前記メモリに記憶された前記第1の画像データおよび前記第2の画像データに対して補正処理を行う補正手段と、
    前記補正手段にて補正処理が施された前記第1の画像データおよび前記第2の画像データを合成する合成部を有し、
    前記帯域分割手段から出力される前記第2の画像データは、一部または全ての画素が前記複数の色信号を有するものであり、
    前記メモリは、前記第1の画像データを画素ごとに複数の色信号のうちのいずれかの色信号を有する形態で記憶し、前記第2の画像データを一部または全ての画素が前記複数の色信号を有する形態で記憶することを特徴とする画像処理装置。
  2. 前記帯域分割手段は、前記第1の画像データから、前記第1の画像データよりも画素数が少なく、前記第1の画像データよりも周波数帯域が低く、かつ、画素ごとに前記複数の色信号を有する第3の画像データを生成し、前記第3の画像データにおける前記複数の色信号のうちの、いずれかの色信号を有する画素の数を減らすことで第4の画像データを生成し、前記第4の画像データを前記第2の画像データとして前記メモリに出力し、
    前記補正手段は、前記メモリに前記第2の画像データとして記憶された前記第4の画像データにおける前記いずれかの色信号を有する画素の数を、前記第3の画像データにおける前記いずれかの色信号を有する画素の数と等しくしてから、前記補正処理を行うことを特徴とする請求項1に記載の画像処理装置。
  3. 前記帯域分割手段は、前記第1の画像データを生成する撮像素子の駆動モードに応じて、前記第3の画像データを前記第2の画像データとして前記メモリに出力するか、前記第4の画像データを前記第2の画像データとして前記メモリに出力するかを切り替え、
    前記補正手段は、前記帯域分割手段が前記第3の画像データを前記第2の画像データとして前記メモリに出力した場合には、前記第2の画像データとして記憶された前記第3の画像データに対して前記補正処理を行うことを特徴とする請求項2に記載の画像処理装置。
  4. 前記複数の色信号はR、G、および、Bの色信号で構成され、前記いずれかの色信号はRおよびBの色信号であることを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記補正処理は、ノイズ低減処理、倍率色収差補正処理、および、偽色除去処理の少なくともいずれかを含むことを特徴とする請求項1乃至4のいずれかに記載の画像処理装置。
  6. 前記補正手段は、前記第1の画像データを画素ごとに前記複数の色信号を有する形態に変更してから、前記第1の画像データに対して前記補正処理を行うことを特徴とする請求項1乃至5のいずれかに記載の画像処理装置。
  7. 前記帯域分割手段は、前記第1の画像データから、前記第2の画像データを出力するとともに、前記第2の画像データから、前記第2の画像データよりも画素数が少なく、前記第2の画像データよりも周波数帯域が低く、かつ、一部または全ての画素が前記複数の色信号を有する第の画像データを生成して出力し、
    前記メモリは、前記第1の画像データ、前記第2の画像データ、および、前記第の画像データを記憶し、
    前記補正手段は、前記メモリに記憶された前記第1の画像データ、前記第2の画像データ、および、前記第の画像データに対して補正処理を行い、
    前記合成部は、前記補正手段にて補正処理が施された前記第1の画像データ、前記第2の画像データ、および、前記第の画像データを合成することを特徴とする請求項1記載の画像処理装置。
  8. 複数の色信号から構成され、画素ごとに複数の色信号のうちのいずれかの色信号を有する第1の画像データから、前記第1の画像データよりも画素数が少なく、かつ、前記第1の画像データよりも低い周波数帯域の第2の画像データを生成して出力する帯域分割ステップと、
    前記帯域分割ステップにて生成される前記第1の画像データおよび前記第2の画像データをメモリに記憶する記憶ステップと、
    前記メモリに記憶された前記第1の画像データおよび前記第2の画像データに対して補正処理を行う補正ステップと、
    前記補正処理が施された前記第1の画像データおよび前記第2の画像データを合成する合成ステップを有し、
    前記帯域分割ステップで出力される前記第2の画像データは、一部または全ての画素が前記複数の色信号を有するものであり、
    前記記憶ステップは、前記メモリは、前記第1の画像データを画素ごとに複数の色信号のうちのいずれかの色信号を有する形態で記憶し、前記第2の画像データを一部または全ての画素が前記複数の色信号を有する形態で記憶することを特徴とする画像処理装置の制御方法。
  9. 請求項8に記載の画像処理方法をコンピュータに実行させるために前記コンピュータが読み出すことが可能なプログラム。
  10. 請求項9に記載のプログラムを記憶した記憶媒体。
JP2010109548A 2010-05-11 2010-05-11 画像処理装置、および、画像処理装置の制御方法 Active JP4991907B2 (ja)

Priority Applications (10)

Application Number Priority Date Filing Date Title
JP2010109548A JP4991907B2 (ja) 2010-05-11 2010-05-11 画像処理装置、および、画像処理装置の制御方法
EP11780364.3A EP2569948B1 (en) 2010-05-11 2011-05-06 Image processing apparatus and control method for image processing apparatus
PCT/JP2011/002551 WO2011142105A1 (en) 2010-05-11 2011-05-06 Image processing apparatus and control method for image processing apparatus
EP14187659.9A EP2827588B1 (en) 2010-05-11 2011-05-06 Image processing apparatus and control method for image processing apparatus
US13/697,109 US9113024B2 (en) 2010-05-11 2011-05-06 Apparatus and method for image processing using color image data and low frequency image data
BR112012028956-0A BR112012028956B1 (pt) 2010-05-11 2011-05-06 Aparelho de processamento de imagem e método de controle para aparelho de processamento de imagem
RU2012153223/07A RU2523003C1 (ru) 2010-05-11 2011-05-06 Устройство обработки изображения и способ управления для устройства обработки изображения
CN201410669965.XA CN104410786B (zh) 2010-05-11 2011-05-06 图像处理设备和图像处理设备的控制方法
CN201180023704.5A CN102893609B (zh) 2010-05-11 2011-05-06 图像处理设备和图像处理设备的控制方法
RU2014113867/07A RU2557067C1 (ru) 2010-05-11 2014-04-08 Устройство обработки изображения и способ управления для устройства обработки изображения

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010109548A JP4991907B2 (ja) 2010-05-11 2010-05-11 画像処理装置、および、画像処理装置の制御方法

Publications (2)

Publication Number Publication Date
JP2011239231A JP2011239231A (ja) 2011-11-24
JP4991907B2 true JP4991907B2 (ja) 2012-08-08

Family

ID=44914165

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010109548A Active JP4991907B2 (ja) 2010-05-11 2010-05-11 画像処理装置、および、画像処理装置の制御方法

Country Status (7)

Country Link
US (1) US9113024B2 (ja)
EP (2) EP2827588B1 (ja)
JP (1) JP4991907B2 (ja)
CN (2) CN104410786B (ja)
BR (1) BR112012028956B1 (ja)
RU (2) RU2523003C1 (ja)
WO (1) WO2011142105A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169096A1 (ja) * 2011-06-08 2012-12-13 パナソニック株式会社 映像表示装置及び映像処理装置
JP6058924B2 (ja) * 2012-07-04 2017-01-11 キヤノン株式会社 画像処理装置、制御方法、及びプログラム
JP6128817B2 (ja) * 2012-11-30 2017-05-17 キヤノン株式会社 画像形成装置および画像形成方法
JP5668105B2 (ja) * 2013-06-25 2015-02-12 アキュートロジック株式会社 画像処理装置、画像処理方法及び画像処理プログラム
EP3217708B1 (en) * 2014-11-07 2021-04-14 Sony Corporation Communication control device, communication control method, program and communication control system
JP6020950B1 (ja) 2014-11-25 2016-11-02 ソニー株式会社 内視鏡システム、および内視鏡システムの作動方法、並びにプログラム
JP2020061080A (ja) * 2018-10-12 2020-04-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法
RU2728949C1 (ru) * 2019-10-09 2020-08-03 федеральное государственное бюджетное образовательное учреждение высшего образования "Южно-Российский государственный политехнический университет (НПИ) имени М.И. Платова" Способ построения и обработки изображений и система его реализующая

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5596418A (en) * 1990-08-17 1997-01-21 Samsung Electronics Co., Ltd. Deemphasis and subsequent reemphasis of high-energy reversed-spectrum components of a folded video signal
FR2697706B1 (fr) * 1992-11-03 1994-11-25 Thomson Csf Procédé et dispositif de réduction de débit pour l'enregistrement d'images sur magnétoscope.
US5485215A (en) * 1994-05-19 1996-01-16 Matsushita Electric Corporation Of America HDTV raster converter and interpolation filter with section overlap
KR100308703B1 (ko) * 1995-09-12 2001-11-30 모리시타 요이찌 부호화방법,부호화장치,웨이블릿변환장치및웨이블릿역변환장치
JP2003069998A (ja) * 2001-08-28 2003-03-07 Canon Inc 画像処理装置及び画像処理方法
JP4305071B2 (ja) * 2003-06-30 2009-07-29 株式会社ニコン 信号補正方法
CN100353753C (zh) 2004-03-01 2007-12-05 三洋电机株式会社 摄像装置和摄像装置的控制装置
JP4402994B2 (ja) 2004-03-23 2010-01-20 富士フイルム株式会社 画像処理方法および装置並びにプログラム
JP4665422B2 (ja) 2004-04-02 2011-04-06 ソニー株式会社 撮像装置
JP4479457B2 (ja) 2004-05-27 2010-06-09 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2005354610A (ja) * 2004-06-14 2005-12-22 Canon Inc 画像処理装置、画像処理方法および画像処理プログラム
JP3965402B2 (ja) * 2004-08-23 2007-08-29 富士フイルム株式会社 ノイズ低減装置および方法ならびにノイズ低減プログラム
WO2006106919A1 (ja) * 2005-03-31 2006-10-12 Nikon Corporation 画像処理方法
RU2298226C1 (ru) * 2005-10-28 2007-04-27 Самсунг Электроникс Ко., Лтд. Способ улучшения цифровых изображений
CN101366289A (zh) * 2006-01-20 2009-02-11 安奇逻辑股份有限公司 光学低通滤波器以及使用该光学低通滤波器的摄像装置
JP5183880B2 (ja) * 2006-03-14 2013-04-17 ソニー株式会社 カラーフィルタおよび撮像素子
JP5163489B2 (ja) * 2006-03-31 2013-03-13 株式会社ニコン 画像処理方法、画像処理プログラム、および画像処理装置
US8514303B2 (en) * 2006-04-03 2013-08-20 Omnivision Technologies, Inc. Advanced imaging systems and methods utilizing nonlinear and/or spatially varying image processing
JP2008015741A (ja) * 2006-07-05 2008-01-24 Konica Minolta Holdings Inc 画像処理装置、画像処理方法及びこれを用いた撮像装置
JP4983141B2 (ja) 2006-08-04 2012-07-25 ソニー株式会社 カラーフィルタ
JP2008104013A (ja) 2006-10-19 2008-05-01 Fujifilm Corp 固体撮像素子の駆動方法及び撮像装置。
US7912307B2 (en) * 2007-02-08 2011-03-22 Yu Wang Deconvolution method using neighboring-pixel-optical-transfer-function in fourier domain
JP4925198B2 (ja) * 2007-05-01 2012-04-25 富士フイルム株式会社 信号処理装置および方法、ノイズ低減装置および方法並びにプログラム
JP4386096B2 (ja) * 2007-05-18 2009-12-16 ソニー株式会社 画像入力処理装置、および、その方法
CN100562067C (zh) * 2007-07-26 2009-11-18 上海交通大学 带有去噪功能的实时数字图像处理增强方法
JP5109551B2 (ja) * 2007-09-21 2012-12-26 コニカミノルタアドバンストレイヤー株式会社 画像処理装置、画像処理方法、及び撮像装置
WO2009066770A1 (ja) * 2007-11-22 2009-05-28 Nikon Corporation デジタルカメラおよびデジタルカメラシステム
JP5366619B2 (ja) * 2008-08-12 2013-12-11 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
KR101531709B1 (ko) * 2008-10-17 2015-07-06 삼성전자 주식회사 고감도 컬러 영상을 제공하기 위한 영상 처리 장치 및 방법
US8436909B2 (en) * 2008-10-21 2013-05-07 Stmicroelectronics S.R.L. Compound camera sensor and related method of processing digital images
TWI387312B (zh) * 2008-10-28 2013-02-21 Novatek Microelectronics Corp 影像雜訊消除方法以及影像處理裝置
KR101538655B1 (ko) * 2008-11-21 2015-07-22 삼성전자주식회사 이미지 처리장치, 이미지 처리방법 및 처리방법을 실행시키기 위한 프로그램을 저장한 기록매체
JP5574615B2 (ja) * 2009-04-20 2014-08-20 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム
US8638342B2 (en) * 2009-10-20 2014-01-28 Apple Inc. System and method for demosaicing image data using weighted gradients

Also Published As

Publication number Publication date
CN102893609B (zh) 2015-03-25
US20130063623A1 (en) 2013-03-14
CN104410786B (zh) 2018-04-17
EP2827588A2 (en) 2015-01-21
EP2569948A4 (en) 2014-05-28
RU2012153223A (ru) 2014-07-20
RU2523003C1 (ru) 2014-07-20
EP2569948A1 (en) 2013-03-20
WO2011142105A1 (en) 2011-11-17
EP2827588B1 (en) 2017-07-12
US9113024B2 (en) 2015-08-18
RU2557067C1 (ru) 2015-07-20
EP2569948B1 (en) 2016-08-24
BR112012028956B1 (pt) 2022-03-03
JP2011239231A (ja) 2011-11-24
CN104410786A (zh) 2015-03-11
EP2827588A3 (en) 2015-02-18
BR112012028956A2 (pt) 2016-07-26
CN102893609A (zh) 2013-01-23

Similar Documents

Publication Publication Date Title
JP4991907B2 (ja) 画像処理装置、および、画像処理装置の制御方法
JP5451782B2 (ja) 画像処理装置および画像処理方法
US8634642B2 (en) Image processing apparatus, image processing method and program
JP5591261B2 (ja) 画像処理装置
EP1187455A2 (en) Image data processing apparatus and electronic camera
TW202244836A (zh) 應用處理器及影像處理系統
JP5820720B2 (ja) 撮像装置
JP5959194B2 (ja) 撮像装置
JP7022544B2 (ja) 画像処理装置及び方法、及び撮像装置
JP7183015B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4339671B2 (ja) 撮像装置
JP5841359B2 (ja) 画像処理装置及びその制御方法並びにプログラム
JP5697418B2 (ja) 画像処理装置及びその制御方法
JP2012227869A (ja) 画像処理装置及び画像処理方法並びにデジタルカメラ
JP2013219686A (ja) 撮像装置およびその現像処理方法
JP6218494B2 (ja) 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2024098938A (ja) 画像に含まれた欠陥を補正する装置
JP5841358B2 (ja) 画像処理装置及び画像処理方法
JP5669556B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2025013097A (ja) イメージ信号プロセッサ
JP5780747B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2004126797A (ja) 画像信号処理装置
JP2009017513A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120507

R151 Written notification of patent or utility model registration

Ref document number: 4991907

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3