JP2007082181A - 撮像装置及び画像処理方法 - Google Patents
撮像装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2007082181A JP2007082181A JP2006131741A JP2006131741A JP2007082181A JP 2007082181 A JP2007082181 A JP 2007082181A JP 2006131741 A JP2006131741 A JP 2006131741A JP 2006131741 A JP2006131741 A JP 2006131741A JP 2007082181 A JP2007082181 A JP 2007082181A
- Authority
- JP
- Japan
- Prior art keywords
- component
- compression
- image
- correction coefficient
- reflectance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 78
- 238000003672 processing method Methods 0.000 title claims description 11
- 238000007906 compression Methods 0.000 claims abstract description 254
- 230000006835 compression Effects 0.000 claims abstract description 250
- 238000012937 correction Methods 0.000 claims abstract description 77
- 238000005286 illumination Methods 0.000 claims description 125
- 238000004364 calculation method Methods 0.000 claims description 45
- 238000000605 extraction Methods 0.000 claims description 33
- 230000006866 deterioration Effects 0.000 abstract 1
- 238000002310 reflectometry Methods 0.000 abstract 1
- 238000000034 method Methods 0.000 description 59
- 238000012545 processing Methods 0.000 description 39
- 238000006243 chemical reaction Methods 0.000 description 34
- 230000008569 process Effects 0.000 description 34
- 230000014509 gene expression Effects 0.000 description 10
- 230000007423 decrease Effects 0.000 description 8
- 239000000284 extract Substances 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 4
- 238000005375 photometry Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 229920006395 saturated elastomer Polymers 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
【課題】高輝度領域に反射率の大きい被写体が存在したとしてもコントラスト低下を防止する。
【解決手段】被写体光を撮像する撮像手段と、撮像手段による撮影画像から所定周波数の第1成分を抽出するための第1成分抽出手段と、撮影画像から第1成分より周波数の高い第2成分を抽出するための第2成分抽出手段と、前記抽出された第1成分のDRを所定の圧縮率で圧縮するための圧縮手段と、圧縮手段により第1成分のDRが圧縮されてなる圧縮第1成分と前記抽出された第2成分とから新たな画像を生成するための画像生成手段と、前記第2成分から第1成分の圧縮における補正係数である圧縮補正係数を算出するための圧縮補正係数算出手段とを備え、圧縮手段は、前記算出された圧縮補正係数に基づき圧縮補正係数が大きいほど圧縮率が大きくなるよう圧縮率を決定し、この圧縮率に基づき第1成分のDRを圧縮する。
【選択図】図3
【解決手段】被写体光を撮像する撮像手段と、撮像手段による撮影画像から所定周波数の第1成分を抽出するための第1成分抽出手段と、撮影画像から第1成分より周波数の高い第2成分を抽出するための第2成分抽出手段と、前記抽出された第1成分のDRを所定の圧縮率で圧縮するための圧縮手段と、圧縮手段により第1成分のDRが圧縮されてなる圧縮第1成分と前記抽出された第2成分とから新たな画像を生成するための画像生成手段と、前記第2成分から第1成分の圧縮における補正係数である圧縮補正係数を算出するための圧縮補正係数算出手段とを備え、圧縮手段は、前記算出された圧縮補正係数に基づき圧縮補正係数が大きいほど圧縮率が大きくなるよう圧縮率を決定し、この圧縮率に基づき第1成分のDRを圧縮する。
【選択図】図3
Description
本発明は、デジタルカメラ等の撮像装置、特に、ダイナミックレンジ圧縮機能を有する撮像装置及びこれに適用され得る画像処理方法に関するものである。
近年、デジタルカメラ等の撮像装置においては、高画質化の要請に伴い、撮像センサが扱うことのできる被写体の輝度範囲、すなわちダイナミックレンジ(DR)を拡大させることが1つの大きなテーマとなっている。ダイナミックレンジの拡大に関し、例えばMOSFETのサブスレッショルド特性を利用することで、高輝度側の出力特性を入射光量に応じて電気信号が対数的に変換される特性を有する撮像センサ、すなわち線形特性領域及び対数特性領域からなる光電変換特性を有する撮像センサ(リニアログセンサという)が知られている。リニアログセンサは、上述のように入射光量に対して自然対数的に変換された出力が得られることから、線形特性領域だけの光電変換特性を有する撮像センサと比べてより広いダイナミックレンジが確保される。
上記リニアログセンサのように撮像系の広ダイナミックレンジ化が進む一方、現状ではモニタ等の表示系の広ダイナミックレンジ化は撮像系ほど進んでおらず、たとえ入力画像の広ダイナミックレンジ化が図られたとしても、表示系においてその効果を充分に発揮できないことになる。したがって、広ダイナミックレンジの入力画像が表示系のダイナミックレンジに収まるように該入力画像のダイナミックレンジを圧縮させる必要がある。
ところで、“ダイナミックレンジの圧縮”には、局所的に画像の明暗を調整する、すなわち画像の照明成分を圧縮することでコントラスト(階調)を向上させる意味と、画像全体の明暗の関係をそのまま維持した状態で、文字通り、帯域(ダイナミックレンジ)を圧縮する(局所的な明暗調整とは無関係に画像を一律に圧縮する)意味との2つの意味があるが、これらを区別するべく、前者を「覆い焼き処理」、後者を「DR圧縮」と称するものとする。なお、後述するように、実質的に上記照明成分は低周波成分であり、また後述の反射率成分は高周波成分であると言うことができる。
従来、覆い焼き処理では、例えば画像から照明成分を抽出し(このとき反射率成分も抽出する)、この照明成分をDR圧縮した後、当該DR圧縮された照明成分と反射率成分とから上記局所的に画像の明暗が調整された新たな画像を生成する。これに関し、例えば特許文献1に開示されている技術では、図7に示すように、リニアログセンサにより得られた線形特性及び対数特性の光電変換特性を有する画像(以降、線形/対数画像という)を、ログ画像I1とリニア画像I2とに分割抽出し、それぞれの画像で覆い焼き処理を行った後、これらの画像を合成する。この合成画像を図8に示す画像I’とすると、この画像I’が出力画像(例えば上記表示系)のダイナミックレンジに収まるように入力画像すなわち上記線形/対数画像としての元画像Iに対するDR圧縮が行われる。
特願2004−377875号
特開2002−74356号公報
特開2000−316090号公報
しかしながら、上記特許文献1に示す技術では、例えば雲の画像ように、高輝度領域に反射率が大きい被写体がある画像に対しては、画像I’が上記出力画像のダイナミックレンジを超えてしまい、コントラスト低下を招くことがある。すなわち、例えば図9に示すように、覆い焼き処理後、出力画像のダイナミックレンジの最大値つまり出力最大値Omaxを上回った符号901に示す部分の反射率成分の画素値は、このOmax値にクリップされてしまうため(Omax値より大きな画素値は全てOmax値となり)、この部分の画素の階調がつぶれてコントラストが低下するといった問題がある。なお、高輝度領域のコントラストが低下する問題に対し、上記特許文献2には、高周波信号を、該信号値が大きいほどその値が抑制されるよう変換する技術が、上記特許文献3には、階調変換後の原画像に対して足し込む原画像の高周波成分の振幅の大きさを、該高周波成分の大きさに応じて変換する技術が開示されている。これらによれば、出力画像のダイナミックレンジを超えた画素値が出力最大値Omaxでクリップされてしまう問題は回避されるものの、高輝度領域においてコントラストが低下するという問題は依然として残る。
本発明は、上記事情に鑑みてなされたもので、覆い焼き処理において、画像の高輝度領域に反射率(高周波成分値)の大きい被写体が存在したとしてもコントラストの低下を防止することができる撮像装置及び画像処理方法を提供することを目的とする。
本発明の請求項1に係る撮像装置は、被写体光を撮像する撮像手段と、前記撮像手段による撮影画像から所定周波数の第1成分を抽出するための第1成分抽出手段と、前記撮影画像から前記第1成分より周波数の高い第2成分を抽出するための第2成分抽出手段と、前記第1成分抽出手段によって抽出された第1成分のダイナミックレンジを所定の圧縮率で圧縮するための圧縮手段と、前記圧縮手段によって第1成分のダイナミックレンジが圧縮されてなる圧縮第1成分と前記第2成分抽出手段によって抽出された第2成分とから新たな画像を生成するための画像生成手段と、前記第2成分抽出手段によって抽出された第2成分から、前記第1成分の圧縮における補正係数である圧縮補正係数を算出するための圧縮補正係数算出手段とを備え、前記圧縮手段は、前記圧縮補正係数算出手段によって算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど前記圧縮率が大きくなるように当該圧縮率を決定し、該決定した圧縮率に基づいて第1成分のダイナミックレンジを圧縮することを特徴とする。
上記構成によれば、撮像手段によって被写体光が撮像され、第1成分抽出手段によって撮像手段による撮影画像から所定周波数の第1成分が抽出される。また、第2成分抽出手段によって撮影画像から第1成分より周波数の高い第2成分が抽出され、圧縮補正係数算出手段によって、第2成分抽出手段により抽出された第2成分から、第1成分の圧縮における補正係数である圧縮補正係数が算出される。そして、圧縮手段によって、圧縮補正係数算出手段により算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど圧縮率が大きくなるように圧縮率が決定され、該決定された圧縮率に基づいて上記抽出された第1成分のダイナミックレンジが圧縮され、画像生成手段によって、このダイナミックレンジが圧縮された圧縮第1成分と第2成分とから新たな画像が生成される。
請求項2に係る撮像装置は、請求項1において、前記圧縮手段は、前記圧縮第1成分における最大圧縮第1成分と前記圧縮補正係数とから生成される画像の出力値が、所定の画像出力系の出力最大値(Omax)以下となるように前記圧縮率を決定することを特徴とする。この構成によれば、圧縮手段によって、圧縮第1成分における最大圧縮第1成分と、圧縮補正係数とから生成される画像の出力値が、所定の画像出力系(表示系)の出力最大値(Omax)以下となるように圧縮率が決定される。
請求項3に係る撮像装置は、請求項1又は2において、前記圧縮補正係数算出手段は、前記第2成分における、第1成分が所定値以上となる領域の該第2成分の最大値又は平均値を前記圧縮補正係数として算出することを特徴とする。この構成によれば、圧縮補正係数算出手段によって、第2成分における、第1成分が所定値以上となる領域の第2成分の最大値又は平均値が圧縮補正係数として算出される。
請求項4に係る撮像装置は、請求項1又は2において、前記圧縮補正係数算出手段は、前記第2成分から、撮影画像における主被写体から第1成分が所定値以上である画素までの距離に応じた圧縮補正係数を算出することを特徴とする。この構成によれば、圧縮補正係数算出手段によって、第2成分から、撮影画像における主被写体から第1成分が所定値以上である画素までの距離に応じた圧縮補正係数が算出される。
請求項5に係る撮像装置は、請求項1〜4のいずれかにおいて、前記第1成分は照明成分であり、前記第2成分は反射率成分であり、前記圧縮補正係数は反射率であることを特徴とする。この構成によれば、第1成分が照明成分とされ、第2成分が反射率成分とされ、圧縮補正係数が反射率とされる。
請求項6に係る撮像装置は、請求項5において、前記照明成分は、撮影画像からエッジ維持フィルタによって抽出されたものであることを特徴とする。この構成によれば、照明成分が撮影画像からエッジ維持フィルタによって抽出される。
請求項7に係る画像処理方法は、被写体光を撮像手段によって撮像する第1の工程と、前記撮像手段による撮影画像から第1成分抽出手段によって所定周波数の第1成分を抽出する第2の工程と、前記撮影画像から第2成分抽出手段によって前記第1成分より周波数の高い第2成分を抽出する第3の工程と、前記第1成分抽出手段により抽出された第1成分のダイナミックレンジを圧縮手段によって所定の圧縮率で圧縮する第4の工程と、前記圧縮手段により第1成分のダイナミックレンジが圧縮されてなる圧縮第1成分と前記第2成分抽出手段により抽出された第2成分とから画像生成手段によって新たな画像を生成する第5の工程と、前記第2成分抽出手段により抽出された第2成分から、前記第1成分の圧縮における補正係数である圧縮補正係数を圧縮補正係数算出手段によって算出する第6の工程とを有し、前記第4の工程は、前記圧縮手段によって、前記圧縮補正係数算出手段により算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど前記圧縮率が大きくなるように当該圧縮率を決定し、該決定した圧縮率に基づいて第1成分のダイナミックレンジを圧縮する工程であることを特徴とする。
上記構成によれば、第1の工程において、撮像手段によって被写体光が撮像され、第2の工程において、第1成分抽出手段によって撮像手段による撮影画像から所定周波数の第1成分が抽出され、第3の工程において、第2成分抽出手段によって撮影画像から第1成分より周波数の高い第2成分が抽出され、第6の工程において、圧縮補正係数算出手段によって、第2成分抽出手段により抽出された第2成分から、第1成分の圧縮における補正係数である圧縮補正係数が算出される。そして、第4の工程において、圧縮手段によって、上記圧縮補正係数算出手段により算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど圧縮率が大きくなるように圧縮率が決定され、該決定された圧縮率に基づいて上記抽出された第1成分のダイナミックレンジが圧縮され、第5の工程において、画像生成手段によって、このダイナミックレンジが圧縮された圧縮第1成分と第2成分とから新たな画像が生成される。
請求項8に係る画像処理方法は、請求項7において、前記第1成分を照明成分とし、前記第2成分を反射率成分とし、前記圧縮補正係数を反射率とすることを特徴とする。この構成によれば、第1成分が照明成分とされ、第2成分が反射率成分とされ、圧縮補正係数が反射率とされる。
請求項1に係る撮像装置によれば、圧縮補正係数(例えば反射率又は高周波成分値)が大きいほど大きな圧縮率で圧縮することが可能となり、第2成分(例えば反射率成分又は高周波成分)が画像出力系の出力最大値を上回らないよう第1成分(例えば照明成分又は低周波成分)のダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に圧縮補正係数の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
請求項2に係る撮像装置によれば、圧縮第1成分における最大圧縮第1成分と圧縮補正係数とから生成される画像の出力値が、所定の画像出力系の出力最大値以下となる関係に基づいて、所要の圧縮率を容易に求めることができる。
請求項3に係る撮像装置によれば、第1成分が所定値以上となる領域の第2成分の最大値又は平均値を算出するという方法によって、圧縮補正係数を容易に求めることができる。
請求項4に係る撮像装置によれば、第2成分から、撮影画像における主被写体から第1成分が所定値以上の画素までの距離に応じた圧縮補正係数を算出するという方法によって、主被写体付近における高輝度、高反射率の画像の輝度値が、圧縮手段による圧縮処理によって飽和することを防止できる。
請求項5に係る撮像装置によれば、反射率が高いほど大きな圧縮率で圧縮することが可能となり、反射率成分が画像出力系の出力最大値を上回らないよう照明成分のダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に反射率の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
請求項6に係る撮像装置によれば、撮影画像からの照明成分の抽出をエッジ維持フィルタを用いて精度良く行うことができる。
請求項7に係る画像処理方法によれば、圧縮補正係数が大きいほど大きな圧縮率で圧縮することが可能となり、第2成分が画像出力系の出力最大値を上回らないよう第1成分のダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に圧縮補正係数の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
請求項8に係る画像処理方法によれば、反射率が大きい(高い)ほど大きな圧縮率で圧縮することが可能となり、反射率成分が画像出力系の出力最大値を上回らないよう照明成分のダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に反射率の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
図1は、本実施形態に係る撮像装置の一例であるデジタルカメラを示し、このデジタルカメラの主に撮像処理に関する概略的なブロック構成図を示している。図1に示すようにデジタルカメラ1は、レンズ部2、撮像センサ3、アンプ4、A/D変換部5、画像処理部6、画像メモリ7、制御部8、モニタ部9及び操作部10を備えている。
レンズ部2は、被写体光(光像)を取り込むレンズ窓として機能するとともに、この被写体光をカメラ本体の内部に配置されている撮像センサ3へ導くための光学レンズ系(被写体光の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロック)を構成するものである。レンズ部2は、当該レンズの透過光量を調節するための絞り(図略)やシャッタ(図略)を備えており、制御部8によってこの絞りやシャッタの駆動制御がなされる構成となっている。
撮像センサ3は、レンズ部2において結像された被写体光像の光量に応じ、R、G、B各成分の画像信号に光電変換して後段のアンプ4へ出力するものである。本実施形態においては、撮像センサ3として、センサ入射輝度が低い場合(暗時)に出力画素信号(光電変換により発生する出力電気信号)が線形的に変換されて出力される線形特性領域と、センサ入射輝度が高い場合(明時)に出力画素信号が対数的に変換されて出力される対数特性領域とからなる光電変換特性、換言すれば低輝度側が線形、高輝度側が対数の光電変換特性を有する対数変換型固体撮像素子が用いられる。なお、この光電変換特性の線形特性領域と対数特性領域との切り替り点(以降、変曲点という)は、撮像センサ3の各画素回路に対する所定の制御信号により任意に制御可能とされている。
具体的には、撮像センサ3は例えばフォトダイオード等の光電変換素子をマトリクス状に配置してなる固体撮像素子に、P型又はN型のMOSFET等を備えた対数変換回路を付加し、MOSFETのサブスレッショルド特性を利用することで、固体撮像素子の出力特性を入射光量に対して電気信号が対数的に変換されるようにした所謂CMOSイメージセンサが採用される。但し、CMOSイメージセンサに限らず、VMISイメージセンサやCCDイメージセンサ等であってもよい。
アンプ4は、撮像センサ3から出力された画像信号を増幅するものであり、例えばAGC(オートゲインコントロール)回路を備え、当該出力信号のゲイン(増幅率)調整を行う。アンプ4は、AGC回路の他、アナログ値としての当該画像信号のサンプリングノイズの低減を行うCDS(相関二重サンプリング)回路を備えていてもよい。
A/D変換部5は、アンプ4にて増幅されたアナログ値の画像信号(アナログ信号)をデジタル値の画像信号(デジタル信号)に変換するものであり、撮像センサ3の各画素で受光して得られる画素信号をそれぞれ例えば12ビットの画素データに変換する。
画像処理部6は、A/D変換部5によるA/D変換処理によって得られた画像信号に対する色補間/色補正処理やホワイトバランス補正処理、特に、本実施形態の主たる特徴点である覆い焼き処理に基づく階調変換処理といった各種画像処理を行うものである。画像処理部6におけるこの階調変換処理については後に詳述する。なお、画像処理部6は、上記各機能部の他に、例えば信号の固定パターンノイズ(FPN;Fixed Pattern Noise)を除去するFPN補正部やA/D変換部5から入力されるデジタル画像信号の黒レベルを基準の値に補正する黒基準補正部等(いずれも図示略)を備えていてもよい。
画像メモリ7は、ROM(Read Only Memory)やRAM(Random Access Memory)等のメモリからなり、画像処理部6で画像処理が施された画像データ等を保存するものである。画像メモリ7は、例えば撮影よる所定フレーム分の画像データを記憶し得る容量を有したものとなっている。
制御部8は、各種制御プログラム等を記憶するROM、一時的にデータを格納するRAM及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、デジタルカメラ1全体の動作制御を司るものである。制御部8は、撮像センサ3等の装置各部からの各種信号に基づき装置各部が必要とする制御パラメータ等を算出し、これに基づいて例えばタイミングジェネレータや駆動部(いずれも図示略)を介して装置各部の動作を制御する。制御部8は、本実施形態においては特に、画像処理部6の階調変換処理における照明成分圧縮処理や特性変換処理等の処理動作を制御する。
モニタ部9は、撮像センサ3で撮影された画像或いは画像メモリ7に保存されていた画像等のモニタ表示を行うものである。モニタ部9は、具体的には、例えばカメラ背面に配設されたカラー液晶表示素子からなる液晶表示器(LCD;Liquid Crystal Display)等からなる。
操作部10は、デジタルカメラ1に対するユーザによる操作指示入力を行うものであり、例えば電源スイッチ、レリーズスイッチ、或いは各種撮影モードを設定するモード設定スイッチ、ニュー選択スイッチ等の各種の操作スイッチ群(操作ボタン群)からなる。例えばレリーズスイッチが押下(オン)されることで、撮像動作、すなわち撮像センサ3により被写体光が撮像され、この撮像により得られた画像データに対して所要の画像処理が施された後、画像メモリ7等に記録されるといった一連の撮影動作が実行される。
ここで、上記階調変換処理の機能に関する画像処理部6の構成及び動作の詳細について説明する。図2は、画像処理部6の各機能を説明するための機能ブロック図である。同図に示すように画像処理部6は、主被写体輝度取得部61、特性変換部62、照明成分抽出部63、圧縮開始点設定部64、反射率成分算出部65、高輝度領域反射率算出部66、最大輝度圧縮点算出部67、照明成分圧縮部68及び画像生成部69を備えている。
主被写体輝度取得部61は、撮像センサ3による撮像によって得られた撮影画像(元画像I)の主被写体輝度を取得(算出)するものである。主被写体輝度取得部61は、図6に示すように例えば分割測光(マルチパターン測光)方式によって、撮像領域400つまり元画像Iを、例えばA〜AJブロックの36個の検出ブロックに分割されてなる中央領域(主被写体領域410という)と、第1〜第16ブロックの16個の検出ブロックに分割されてなる周辺領域(周辺被写体領域420という)とからなる複数の区画に分割し、当該各区画の画像から検出した輝度情報から例えば平均輝度として主被写体輝度を算出する。この場合、例えばA〜AJブロック毎の主被写体輝度ヒストグラム(分布)を算出するとともに、このA〜AJブロック毎の主被写体輝度ヒストグラムから主被写体領域410全体における主被写体全体輝度ヒストグラムを算出し、この主被写体全体輝度ヒストグラムから主被写体領域410に対する平均輝度を算出してもよい。この平均輝度算出の際には、例えば或る所定の閾値を用いて輝度データの「足切り」処理を行ってもよいし、周辺被写体領域の輝度情報(周辺被写体輝度ヒストグラムや周辺被写体全体輝度ヒストグラム)を用いてもよい。なお、主被写体輝度の算出方法は、上記したものに限定されず、種々の方法が採用可能である。また、主被写体輝度は平均輝度として算出せずともよく、例えば最大/最小輝度として算出してもよい。
ここで、図3は、上記階調変換処理による覆い焼き処理の様子を説明するグラフ図である。特性変換部62は、図3に示すように、リニア特性301及びログ特性302からなる光電変換特性を有する元画像Iに対する、特性を統一する処理(特性統一処理)を行うものである。この元画像Iは、撮像センサ3(リニアログセンサ)からの入力画像であり、以下の(1)、(2)式に示すような入力輝度xに対する画素値yの関係式(光電変換特性)を有する。但し、同図中の座標点(Xth、Yth)は、変曲点303を示し、(1)式はリニア特性301である画像I2を示し、(2)式はログ特性302である画像I1を示す。なお、式中の記号「*」は乗算を示し、a、b、α、βは所定の係数を示す(以下も同じ)。
y=a*x+b(0≦x≦Xth) ・・・(1)
y=α*log(x)+β(x>Xth) ・・・(2)
y=a*x+b(0≦x≦Xth) ・・・(1)
y=α*log(x)+β(x>Xth) ・・・(2)
特性変換部62は、ここでは、ログ特性302を、リニア特性301と同じ特性であるリニア特性304に変換する処理を行う。この場合、撮像センサ3の画素値をiとすると、当該特性統一処理により得られる、リニア特性301及びリニア特性304からなる光電変換特性を有する画像(符号310に示す画像It)は、下記の(3)式に基づく変換によって与えられる。但し、式中の記号「/」は除算を示す(以下も同じ)。
if(i>Yth)
It=a*exp((i−β)/α)+b
else
It=i ・・・(3)
if(i>Yth)
It=a*exp((i−β)/α)+b
else
It=i ・・・(3)
なお、特性変換部62は、上記ログ特性302からリニア特性304への変換を、所定のLUT(変換LUTという)を用いて行う。この変換LUTは例えば特性変換部62に備えたLUT記憶部(図示略)に記憶しておいてもよい。
照明成分抽出部63は、上記特性統一処理により得られた画像It(リニア画像)から照明成分を抽出するものである。この画像Itは、所謂Retinex理論によれば、該画像Itにおける照明成分を照明成分L、反射率成分を反射率成分Rとすると、以下の(4)式で表される。なお、画像Itに示す直線グラフを、該画像Itから抽出した照明成分Lを表すものとして適宜扱うものとする。
It=L*R ・・・(4)
It=L*R ・・・(4)
この画像Itからの照明成分Lの抽出処理は、メディアンフィルタやイプシロン(ε)フィルタ等の所謂エッジ維持フィルタ(非線形フィルタ)を用いて行われる。これは以下の(5)式で表される。
L=F(It) ・・・(5)
但し、(5)式中の“F”は、上記エッジ維持フィルタを示している。なお、狭義での単に低周波成分を通過させる通常のLPF(ローパスフィルタ;線形フィルタ)では、画像の照明境界(エッジ)においてその変化を正確に抽出することができないため、すなわち、線形フィルタを用いて抽出した信号に基づいてDR圧縮を行うと例えばアーティファクト(画像の暗く沈んだ部分)が出現してしまうため、このような問題を回避してエッジを正確に抽出することが可能なエッジ維持フィルタを用いている。
L=F(It) ・・・(5)
但し、(5)式中の“F”は、上記エッジ維持フィルタを示している。なお、狭義での単に低周波成分を通過させる通常のLPF(ローパスフィルタ;線形フィルタ)では、画像の照明境界(エッジ)においてその変化を正確に抽出することができないため、すなわち、線形フィルタを用いて抽出した信号に基づいてDR圧縮を行うと例えばアーティファクト(画像の暗く沈んだ部分)が出現してしまうため、このような問題を回避してエッジを正確に抽出することが可能なエッジ維持フィルタを用いている。
圧縮開始点設定部64は、上記画像Itから抽出した照明成分Lに対する圧縮処理を行うに際しての、符号305に示す圧縮開始点S、具体的には圧縮開始レベルYsを設定する(入力輝度で見た場合の圧縮開始レベルXsを設定してもよい)ものである。この場合、圧縮開始レベルYsは、上記の平均輝度等で与えられる主被写体輝度以上の値となるように設定する。この主被写体輝度以上の値となる圧縮開始レベルYsを設定する方法としては、例えば、主被写体輝度の値を所定数倍した値を圧縮開始レベルYsとしてもよい。この所定数倍の具体的な値(倍率)は、例えば主被写体が人の顔となるような場合には、ガンマ補正を行うと適正な明るさが得られるレベルとなる2〜3倍程度、或いは主被写体が風景となるような場合には2倍程度としてもよい。但し、倍率はこれらに限定されず、任意な値が採用可能である。また、この倍率は、予め想定した被写体に応じて算出された1つの固定値として設定してもよいし、被写体に応じてその都度、異なるものを設定してもよい。この場合、例えば、ユーザによる操作部10からの指示入力に基づいて複数の固定値から選択されたものを設定してもよいし、上記主被写体輝度取得部61において測光結果から求めた主被写体輝度の値に応じて複数の固定値から自動的に選択されたものを設定してもよいし、また、当該測光結果や撮影倍率(焦点距離)から求められる撮影モード(例えば「ポートレート(人物)」モードや「風景」モード)により同定された主被写体の種類に応じて設定してもよい。いずれにしても、圧縮開始レベルYsは、主被写体(被写体)の種別や輝度情報に応じて適宜設定し、且つ主被写体輝度レベル(又はこの直近レベル)ではなく、主被写体輝度から所定値高いレベルに設定することが好ましく、これにより、各種被写体の違いに拘わらず、DR圧縮による主被写体への影響をより確実に防ぐことが可能となる。
また、主被写体輝度以上の値となる圧縮開始レベルYsを設定する方法としては、上述したものに限定されず、例えば、主被写体及び/又は周辺被写体の輝度情報に基づく所定の輝度ヒストグラムを算出し、主被写体輝度以上の領域における所定レベル、例えば度数の少ない輝度値(輝度レベル)を圧縮開始レベルYsとして設定してもよい。具体的には、輝度ヒストグラム分布が例えば所謂「山」の形状をしており、この山の頂点付近が主被写体輝度であるとすると、この輝度ヒストグラムにおける主被写体輝度以上の度数が小さくなっている山裾の位置辺りを圧縮開始レベルとするように設定する。このように度数の少ない輝度値を圧縮開始レベルYsとして圧縮を行うことにより(輝度ヒストグラムにおける度数の大きな部分に対する圧縮を回避できるため)、階調特性の変化を目立たなくすることができる。なお、この輝度ヒストグラムに基づく圧縮開始レベルYsの設定は、撮像センサ3によって撮影画像が得られる都度行われてもよい。
また、撮像センサが本実施形態に示すようにリニアログセンサである場合、圧縮開始レベルYsを、例えばYs=Yth*P(P;1より小さい所定の倍数値)として求めるなどして、変曲点レベルYthと連動させた値を設定してもよい。これは、変曲点レベルYthが、デジタルカメラ1による自動露出制御(AE制御)が行われる段階で、つまりここでの覆い焼き処理が行われる前段階で、主被写体輝度レベルよりも大きな値に設定されていることによる。なお、上記AE制御は、画像処理部6において撮影画像から求めたAE制御用の評価値(AE評価値)を用いて行われる。上記いずれにしても、要は、主被写体輝度がDR圧縮されて主被写体の階調がつぶれてしまわないようなレベルに圧縮開始レベルYsが設定されればよい。
反射率成分算出部65は、画像Itから反射率成分Rを算出(抽出)するものである。この反射率成分Rは、上記照明成分Lを用いて以下の(6)式によって算出される。
R=It/L ・・・(6)(上記(4)式から導出)
R=It/L ・・・(6)(上記(4)式から導出)
高輝度領域反射率算出部66は、反射率成分算出部65により算出した反射率成分Rから高輝度領域(高輝度部分)の反射率Rhiを算出するものである。具体的には、高輝度領域反射率算出部66は、反射率成分Rのうち、照明成分Lの値が所定の閾値th(図3参照)以上である高輝度領域における反射率の最大値又は平均値を反射率Rhiとして算出する。これは、以下の(a)、(b)であるとも言える。
(a)照明成分が閾値th以上である画素について、反射率の最大値をRhiとする。
(b)照明成分が閾値th以上である画素について、反射率の平均値をRhiとする。
ただし、上記閾値thは、上記従来技術(図9参照)で説明した符号901に示す画素値のように、画素値が出力最大値Omaxを上回る反射率成分が、該閾値th以上の輝度領域における反射率成分に内包され得る値が設定される。この閾値thは或る固定値として設定してもよいし、撮影画像が得られる都度、所定の設定基準情報に応じて設定してもよい。また、上記反射率の平均値は、上記閾値th以上の領域の反射率成分全体を単純平均して求めたものでもよいし、これ以外の平均方法によって求めた平均値であってもよい。
(b)照明成分が閾値th以上である画素について、反射率の平均値をRhiとする。
ただし、上記閾値thは、上記従来技術(図9参照)で説明した符号901に示す画素値のように、画素値が出力最大値Omaxを上回る反射率成分が、該閾値th以上の輝度領域における反射率成分に内包され得る値が設定される。この閾値thは或る固定値として設定してもよいし、撮影画像が得られる都度、所定の設定基準情報に応じて設定してもよい。また、上記反射率の平均値は、上記閾値th以上の領域の反射率成分全体を単純平均して求めたものでもよいし、これ以外の平均方法によって求めた平均値であってもよい。
また、高輝度領域反射率算出部66による反射率Rhiの算出は、次の(c)、(d)による方法で行ってもよい。
(c)照明成分が閾値th以上である画素について、主被写体からの距離に応じたウエイトを掛けた反射率の最大値をRhiとする。すなわち、照明成分Lの値が閾値th以上である高輝度領域における画素の反射率に対して、撮影画像中における主被写体の位置から当該画素までの距離に応じた以下の(6.1)式に示すウエイトdを掛けることで得た反射率の最大値を反射率Rhiとする。
(c)照明成分が閾値th以上である画素について、主被写体からの距離に応じたウエイトを掛けた反射率の最大値をRhiとする。すなわち、照明成分Lの値が閾値th以上である高輝度領域における画素の反射率に対して、撮影画像中における主被写体の位置から当該画素までの距離に応じた以下の(6.1)式に示すウエイトdを掛けることで得た反射率の最大値を反射率Rhiとする。
但し、このウエイトdの式は、主被写体位置を画像中心と仮定して、画像サイズが水平方向w画素、垂直方向h画素である場合におけるものであり、上記画素が画像中心(主被写体位置)から距離が近いほどウエイトdは大きくなり、画像中心から遠くなるほどウエイトdは小さくなる。
(d)照明成分が閾値th以上である画素について、主被写体からの距離に応じた上記ウエイトdを掛けた反射率の加重平均値をRhiとする。
この(c)、(d)の方法を用いて反射率Rhiを求めるようにすることで、撮影画像中において主被写体に近い位置となるほど、高輝度、高反射率の画像(画素)に対するRhiが大きくなって(ウエイトdが大きくなり)、このRhiに応じて設定される圧縮率が大きくなるため、当該主被写体付近における高輝度、高反射率の画像(物体、被写体像)の輝度値がDR圧縮によって飽和してしまうことを防止できる。
最大輝度圧縮点算出部67は、高輝度領域反射率算出部66により算出した反射率Rhiに基づいて、符号306に示す最大輝度圧縮点M’を算出(設定)するものである。この最大輝度圧縮点M’は、後述の照明成分圧縮部68によるDR圧縮後、高輝度領域の反射率成分Rが出力最大値Omaxより大きな値とならないように設定される、すなわち、0(ゼロ)〜Ymax(リニア特性最大値)のダイナミックレンジをもつ照明成分Lが、DR圧縮によって0(ゼロ)〜L’maxのダイナミックレンジに収まるように設定される最大輝度Xmaxの照明圧縮レベルL’maxを示す点(Xmax、L’max)である。具体的には、最大輝度圧縮点算出部67は、L’maxの値を、反射率Rhi及び出力最大値Omaxから以下の(7.3)式によって算出する。ただし、(7.3)式は、後述する画像I’がOmax以下の値であることに基づく(7.1)式、及びこの(7.1)式における画像I’が照明成分L’maxと反射率Rhiとの乗算値であることに基づく(7.2)式から導かれる。
I’≦Omax ・・・(7.1)
L’max*Rhi≦Omax ・・・(7.2)
L’max≦Omax/Rhi ・・・(7.3)
I’≦Omax ・・・(7.1)
L’max*Rhi≦Omax ・・・(7.2)
L’max≦Omax/Rhi ・・・(7.3)
照明成分圧縮部68は、照明成分抽出部63により画像Itから抽出された照明成分Lに対するDR圧縮を行うものであり、特に、反射率Rhiに応じて圧縮率(後述のDR圧縮率c)を決定し、すなわち反射率Rhiが高いほど圧縮率が大きくなるように圧縮率を決定し、該決定した圧縮率に基づいて照明成分LをDR圧縮するものである。照明成分圧縮部68によるこのDR圧縮によって、符号310に示す照明成分Lは符号320に示す照明成分L’となる。この照明成分L’は、以下の(8)式で与えられる。
L’=exp(log(L)*c)*n ・・・(8)
但し、「c」はDR圧縮率、「n」は正規化項である。
L’=exp(log(L)*c)*n ・・・(8)
但し、「c」はDR圧縮率、「n」は正規化項である。
図3に示すように、照明成分圧縮部68による照明成分LのDR圧縮によって、上記0〜Ymaxのダイナミックレンジを有する照明成分画像は、Omax以下の0(ゼロ)〜L’maxのダイナミックレンジに収まるようにDR圧縮される。このOmaxは所定の画像出力系の出力最大値(撮像センサ3の出力最大値又は最大画素値であってもよい)であり、例えば8ビット画像において「255」の階調値をとる。上記(8)式に示すDR圧縮後の照明成分を示す関数L’は、圧縮開始点S(Xs、Ys)と最大輝度圧縮点M’(Xmax、L’max)との2点を通過するため、これら点S及びM’の座標値をそれぞれ代入して得られる連立方程式から、(8)式における当該2つの未知数c、nを算出することができる。なお、ここでのDR圧縮において、圧縮パラメータ“c”に加え、パラメータ“n”を導入するのは、例えば撮像センサ3の出力画像(撮影画像)が0〜255階調のダイナミックレンジ(8ビット画像)を有しており、DR圧縮後の照明成分L’が例えば0〜100の階調となる場合には、これを0〜255の階調に合わせるべく「n」の値を例えば2.5とすることで階調値全体を2.5倍するといった調整(照明成分L’の正規化)を可能にするためである。
なお、照明成分Lに対するDR圧縮において圧縮開始点Sを設定するのは、上述したように主被写体輝度がDR圧縮されないようにするためであり、したがって、照明成分圧縮部68は、照明成分Lに対するDR圧縮において符号320に示す圧縮特性を用いるものの、照明成分Lが圧縮開始レベルYs未満の領域では、当該符号320に示す圧縮特性により得られる照明成分L’を出力値として用いずに、元画像Iを出力値とする処理を行う。
画像生成部69は、照明成分圧縮部68によって求めた照明成分L’と、反射率成分算出部65によって求めた反射率成分Rとから、以下の(9)式によって、元画像Iに対する新たな画像I’(覆い焼き処理後の画像I’)を生成するものである。
I’=L’*R ・・・(9)
図3においては、符号320に示す照明成分L’全体に対して反射率成分Rを掛け合わすことで画像I’を得る。
I’=L’*R ・・・(9)
図3においては、符号320に示す照明成分L’全体に対して反射率成分Rを掛け合わすことで画像I’を得る。
図4は、本実施形態におけるデジタルカメラ1による覆い焼き処理に関する動作の一例を示すフローチャートである。先ず特性変換部62によってリニア特性への特性統一処理が行われて画像Itが得られる(ステップS1)。次に、照明成分抽出部63によって、エッジ維持フィルタ(非線形フィルタ)処理に基づいて画像Itから照明成分Lが抽出される。但し、この照明成分の抽出処理は画像Itの全画素に対し同時に行われる(ステップS2)。そして、圧縮開始点設定部64に圧縮開始レベルYsが設定されるとともに、照明成分圧縮部68によって、照明成分Lが設定された圧縮開始レベルYs以上であると判別された場合には(ステップS3のYES)、反射率成分算出部65によって反射率成分Rが算出され(ステップS4)、上記照明成分Lが圧縮開始点S(圧縮開始レベルYs)及び最大輝度圧縮点M’(照明圧縮レベルL’max)の情報を基にDR圧縮されて照明成分L’が得られる(ステップS5)。このステップS5の動作フローについては以下図5にて詳述する。このステップS4、5で得られた反射率成分R及び照明成分L’とから画像I’が生成されて出力される(ステップS6)。上記ステップS3において、照明成分Lが圧縮開始レベルYs未満であると判別された場合には(ステップS3のNO)、元画像Iが選択されて出力される(ステップS7)。但し、ステップS3〜S7の動作は、照明成分Lの画素毎に(1つの画素に対して)順次実行される。このようにしてステップS3〜S7の処理が全画素に対して完了すれば(ステップS8のYES)、フロー終了となる。全画素に対して完了していなければ(ステップS8のNO)、ステップS3に戻って、全画素が完了するまで当該ステップS3〜S7の各処理が繰り返される。
図5は、上記ステップS5におけるDR圧縮処理のより詳細な動作の一例を示すフローチャートである。ステップS5では先ず、高輝度領域反射率算出部66によって、反射率成分算出部65により算出された反射率成分Rから高輝度部の反射率Rhi(最大値又は平均値)が算出される(ステップS21)。次に、最大輝度圧縮点算出部67によって、高輝度領域反射率算出部66により算出された反射率Rhiに基づいて、最大輝度圧縮点M’が算出される。具体的には上記(7.3)式を用いて、反射率Rhi及び出力最大値Omaxから照明圧縮レベルL’maxが算出される(ステップS22)。そして、照明成分圧縮部68によって、照明成分Lが圧縮開始点S(圧縮開始レベルYs)及び最大輝度圧縮点M’(照明圧縮レベルL’max)の情報に基づいてDR圧縮されて照明成分L’が得られる。具体的には、上記(8)式に示す照明成分の関数L’が圧縮開始点S(Xs、Ys)と最大輝度圧縮点M’(Xmax、L’max)との2点を通過するようなDR圧縮率cが算出され、このDR圧縮率cの圧縮率でDR圧縮が行われる(ステップS23)。
以上のように、本実施形態の撮像装置(デジタルカメラ1)によれば、撮像センサ3によって被写体光が撮像され、照明成分抽出部63(第1成分抽出手段)によって撮像センサ3による撮影画像(元画像I又は画像It)から所定周波数の照明成分L(第1成分)が抽出され、反射率成分算出部65(第2成分抽出手段)によって撮影画像から照明成分Lより周波数の高い反射率成分R(第2成分)が抽出(算出)され、高輝度領域反射率算出部66(圧縮補正係数算出手段)によって、反射率成分算出部65により抽出された反射率成分Rにおける高輝度領域の反射率Rhi(圧縮補正係数)が算出される。そして、照明成分圧縮部68によって、上記高輝度領域反射率算出部66により算出された反射率Rhiに基づいて該反射率Rhiが大きい(高い)ほど圧縮率が大きくなるように圧縮率(DR圧縮率c)が決定され、該決定された圧縮率に基づいて上記抽出された照明成分Lのダイナミックレンジが圧縮され(DR圧縮され)、画像生成部69によって、このダイナミックレンジが圧縮された照明成分L’(圧縮照明成分;圧縮第1成分)と反射率成分Rとから新たな画像(画像I’)が生成される。これにより、反射率Rhiが大きいほど大きな圧縮率で圧縮することが可能となり、反射率成分Rが画像出力系(表示系)の出力最大値Omaxを上回らないよう照明成分Lのダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に反射率の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
また、照明成分圧縮部65によって、照明成分L’における最大圧縮照明成分L’maxと反射率Rhiとから生成される画像の出力値(例えばL’max*Rhi)が、所定の画像出力系(表示系)の出力最大値(Omax)以下となるように圧縮率が決定されるので、最大圧縮照明成分L’maxと反射率Rhiとから生成される画像の出力値が、所定の画像出力系の出力最大値以下となる関係(例えばL’max*Rhi≦Omax)に基づいて、所要の圧縮率を容易に求めることができる。
また、高輝度領域反射率算出部66によって、反射率成分Rにおける、照明成分Lが所定の閾値th以上となる領域の反射率の最大値又は平均値が反射率Rhiとして算出されるので、照明成分Lが閾値th以上となる領域の反射率の最大値又は平均値を算出するという方法によって、反射率Rhiを容易に求めることができる。
また、高輝度領域反射率算出部66によって、反射率成分Rから、撮影画像における主被写体から照明成分Lが所定の閾値th以上である画素までの距離に応じた反射率Rhiが算出されるので、主被写体付近における高輝度、高反射率の画像の輝度値が、照明成分圧縮部65によるDR圧縮処理によって飽和してしまうのを防止できる。
また、本実施形態の画像処理方法によれば、第1の工程において、撮像センサ3によって被写体光が撮像され、第2の工程において、照明成分抽出部63によって撮像センサ3による撮影画像(元画像I又は画像It)から所定周波数の照明成分Lが抽出され、第3の工程において、反射率成分算出部65によって撮影画像から照明成分Lより周波数の高い反射率成分Rが抽出(算出)され、第6の工程において、高輝度領域反射率算出部66によって、反射率成分算出部65により抽出された反射率成分Rにおける高輝度領域の反射率Rhi(圧縮補正係数)が算出される。そして、第4の工程において、照明成分圧縮部68によって、上記高輝度領域反射率算出部66により算出された反射率Rhiに基づいて該反射率Rhiが大きい(高い)ほど圧縮率が大きくなるように圧縮率(DR圧縮率c)が決定され、該決定された圧縮率に基づいて上記抽出された照明成分Lのダイナミックレンジが圧縮され(DR圧縮され)、第5の工程において、画像生成部69によって、このダイナミックレンジが圧縮された照明成分L’(圧縮照明成分)と反射率成分Rとから新たな画像(画像I’)が生成される。これによれば、反射率Rhiが大きいほど大きな圧縮率で圧縮することが可能となり、反射率成分Rが画像出力系の出力最大値Omaxを上回らないよう照明成分Lのダイナミックレンジを圧縮することができるため、覆い焼き処理において、画像の高輝度領域に反射率の大きい被写体が存在したとしてもコントラストの低下を防止することができる。
なお、本発明は、以下の態様をとることができる。
(A)反射率Rhiは、上記(a)〜(d)の算出方法によって得られるものに限定されず、高輝度領域の反射率成分が出力最大値Omaxを上回らないようにDR圧縮率cを設定するのに好適な値であれば、いずれの値であってもよい。
(A)反射率Rhiは、上記(a)〜(d)の算出方法によって得られるものに限定されず、高輝度領域の反射率成分が出力最大値Omaxを上回らないようにDR圧縮率cを設定するのに好適な値であれば、いずれの値であってもよい。
(B)上記覆い焼き処理において扱われる撮影画像(元画像)は、上記線形/対数画像でなくともよく、例えば、一般的なリニアセンサによる、異なるシャッタスピードや絞り値で撮影して得られた複数枚の画像から作成した広ダイナミックレンジ画像であってもよいし、ニー処理された画像(明るい画像分部(高輝度領域)にだけ所定のゲインをかけて圧縮した画像)であってもよい。
(C)上記実施形態において、照明成分L全体をDR圧縮した後、圧縮開始レベルYs未満は元画像Iを用いるという方法でなくともよく、例えば当該照明成分Lに対するDR圧縮を、圧縮開始レベルYs以上の照明成分Lに対してのみ行い(圧縮開始レベルYs未満の照明成分Lに対してはDR圧縮を行わず)、圧縮開始レベルYs未満においては、元画像Iをそのまま出力値とする方法であってもよい。
(D)上記実施形態においては、撮影画像に対する覆い焼き処理(DR圧縮処理)をデジタルカメラ1内(画像処理部6)で行う構成としているが、これに限らず、デジタルカメラ1外の所定の処理部において実行する構成としてもよい。具体的には、例えばUSB等を用いてデジタルカメラ1と直接接続(有線)又は無線LAN等によるネットワーク接続がなされた、或いはメモリカードといったストレージメディア等を用いて情報伝達可能に構成されたユーザーインターフェイスを備える所定のホスト(例えばPC(Personal Computer)やPDA(Personal Digital Assistant)において当該覆い焼き処理を行う構成としてもよい。
(E)上記実施形態においては、覆い焼き処理方法として反射率成分(照明成分)を用いる方法を採用しているが、高周波成分(低周波成分)を用いる方法であってもよい。一般的に、「反射率成分」は、画像を「照明成分」で除算して得られるものであり、「高周波成分」は、画像から「低周波成分」を減算して得られるものである。すなわち、上記反射率成分を用いる方法では、元画像Iから照明成分Lを求めるとともに、この照明成分Lを用いて反射率成分R(=I/L)を求めて、この反射率成分Rと、照明成分LをDR圧縮してなる照明成分L’との積算を行うことで出力画像(画像I’)を求めている。これに対し、高周波成分を用いる方法では、元画像Iから低周波成分(これをベースBとする)を求めるとともに、この低周波成分を用いて、元画像Iから低周波成分(B)を減算することで高周波成分(ディテールDとする)を求めて(すなわち、D=I−B)、この高周波成分(D)と、低周波成分(B)をDR圧縮してなる低周波成分L’(上記照明成分L’と同じ記号L’で表現する)とを加算することで、出力画像(画像I’;上記画像I’と同じ記号I’で表現する)を求める。
上記「照明成分」と「低周波成分」とは同じものであり(照明成分は実質的には低周波成分であり)、低周波成分は、上記照明成分と同じく、エッジ維持フィルタ(非線形フィルタ)によって撮影画像から抽出することができる。また、高周波成分を用いる場合の覆い焼き処理方法での「低周波成分」のDR圧縮は、上記各実施形態における反射率成分を用いる場合の「照明成分」のDR圧縮方法と同じ方法で行うことができる(当該各場合の両アルゴリズムとも「照明成分」及び「低周波成分」のDR圧縮に同じ方法が使える)。これらのことから、上記実施形態における「反射率成分」を「高周波成分」に、「照明成分」を「低周波成分」にそのまま置き換えて、すなわち上記(6)式を以下の(6’)式に、(9)式を以下の(9’)式に置き換えて(制御部8や画像処理部6の各演算機能部での演算を照明成分及び反射率成分(反射率)に対するものからそれぞれ低周波成分及び高周波成分(高周波成分値)に対するものに置き換えて)、当該高周波成分(低周波成分)を用いる方法での覆い焼き処理を上記実施形態に適用することができ、反射率成分(照明成分)を用いる場合と同じ効果を得ることができる。低周波成分は、上記撮影画像からエッジ維持フィルタによって抽出されるので、撮影画像からの低周波成分の抽出を精度良く行うことができる。なお、このことから、反射率成分は、照明成分よりも周波数の高い反射率成分と表現することができる。ただし、実際には、照明成分の一部が反射率成分より周波数が高くなることが、この場合も含めて、反射率成分は照明成分よりも周波数が高いと表現するものとする。
R=It−L ・・・(6’)
但し、記号Rは上記高周波成分を、記号Lは上記低周波成分を示す。
I’=L’+R・・・(9’)
但し、記号Rは上記高周波成分を、記号L’は上記DR圧縮された低周波成分を示す。
R=It−L ・・・(6’)
但し、記号Rは上記高周波成分を、記号Lは上記低周波成分を示す。
I’=L’+R・・・(9’)
但し、記号Rは上記高周波成分を、記号L’は上記DR圧縮された低周波成分を示す。
1 デジタルカメラ(撮像装置)
3 撮像センサ(撮像手段)
6 画像処理部
63 照明成分抽出部(第1成分抽出手段)
64 圧縮開始点設定部(レベル値設定手段)
65 反射率成分算出部(第2成分抽出手段)
66 高輝度領域反射率算出部(圧縮補正係数算出手段)
67 最大輝度圧縮点算出部
68 照明成分圧縮部(圧縮手段)
69 画像生成部(画像生成手段)
3 撮像センサ(撮像手段)
6 画像処理部
63 照明成分抽出部(第1成分抽出手段)
64 圧縮開始点設定部(レベル値設定手段)
65 反射率成分算出部(第2成分抽出手段)
66 高輝度領域反射率算出部(圧縮補正係数算出手段)
67 最大輝度圧縮点算出部
68 照明成分圧縮部(圧縮手段)
69 画像生成部(画像生成手段)
Claims (8)
- 被写体光を撮像する撮像手段と、
前記撮像手段による撮影画像から所定周波数の第1成分を抽出するための第1成分抽出手段と、
前記撮影画像から前記第1成分より周波数の高い第2成分を抽出するための第2成分抽出手段と、
前記第1成分抽出手段によって抽出された第1成分のダイナミックレンジを所定の圧縮率で圧縮するための圧縮手段と、
前記圧縮手段によって第1成分のダイナミックレンジが圧縮されてなる圧縮第1成分と前記第2成分抽出手段によって抽出された第2成分とから新たな画像を生成するための画像生成手段と、
前記第2成分抽出手段によって抽出された第2成分から、前記第1成分の圧縮における補正係数である圧縮補正係数を算出するための圧縮補正係数算出手段とを備え、
前記圧縮手段は、前記圧縮補正係数算出手段によって算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど前記圧縮率が大きくなるように当該圧縮率を決定し、該決定した圧縮率に基づいて第1成分のダイナミックレンジを圧縮することを特徴とする撮像装置。 - 前記圧縮手段は、前記圧縮第1成分における最大圧縮第1成分と前記圧縮補正係数とから生成される画像の出力値が、所定の画像出力系の出力最大値(Omax)以下となるように前記圧縮率を決定することを特徴とする請求項1記載の撮像装置。
- 前記圧縮補正係数算出手段は、前記第2成分における、第1成分が所定値以上となる領域の該第2成分の最大値又は平均値を前記圧縮補正係数として算出することを特徴とする請求項1又は2記載の撮像装置。
- 前記圧縮補正係数算出手段は、前記第2成分から、撮影画像における主被写体から第1成分が所定値以上である画素までの距離に応じた圧縮補正係数を算出することを特徴とする請求項1又は2記載の撮像装置。
- 前記第1成分は照明成分であり、前記第2成分は反射率成分であり、前記圧縮補正係数は反射率であることを特徴とする請求項1〜4のいずれかに記載の撮像装置。
- 前記照明成分は、撮影画像からエッジ維持フィルタによって抽出されたものであることを特徴とする請求項5記載の撮像装置。
- 被写体光を撮像手段によって撮像する第1の工程と、
前記撮像手段による撮影画像から第1成分抽出手段によって所定周波数の第1成分を抽出する第2の工程と、
前記撮影画像から第2成分抽出手段によって前記第1成分より周波数の高い第2成分を抽出する第3の工程と、
前記第1成分抽出手段により抽出された第1成分のダイナミックレンジを圧縮手段によって所定の圧縮率で圧縮する第4の工程と、
前記圧縮手段により第1成分のダイナミックレンジが圧縮されてなる圧縮第1成分と前記第2成分抽出手段により抽出された第2成分とから画像生成手段によって新たな画像を生成する第5の工程と、
前記第2成分抽出手段により抽出された第2成分から、前記第1成分の圧縮における補正係数である圧縮補正係数を圧縮補正係数算出手段によって算出する第6の工程とを有し、
前記第4の工程は、前記圧縮手段によって、前記圧縮補正係数算出手段により算出された圧縮補正係数に基づいて該圧縮補正係数が大きいほど前記圧縮率が大きくなるように当該圧縮率を決定し、該決定した圧縮率に基づいて第1成分のダイナミックレンジを圧縮する工程であることを特徴とする画像処理方法。 - 前記第1成分を照明成分とし、前記第2成分を反射率成分とし、前記圧縮補正係数を反射率とすることを特徴とする請求項7記載の画像処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006131741A JP2007082181A (ja) | 2005-08-16 | 2006-05-10 | 撮像装置及び画像処理方法 |
US11/502,269 US7791656B2 (en) | 2005-08-16 | 2006-08-10 | Image sensing apparatus and image processing method |
US12/849,460 US7990443B2 (en) | 2005-08-16 | 2010-08-03 | Image sensing apparatus and image processing method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005235988 | 2005-08-16 | ||
JP2006131741A JP2007082181A (ja) | 2005-08-16 | 2006-05-10 | 撮像装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007082181A true JP2007082181A (ja) | 2007-03-29 |
Family
ID=37941934
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006131741A Pending JP2007082181A (ja) | 2005-08-16 | 2006-05-10 | 撮像装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007082181A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009055471A (ja) * | 2007-08-28 | 2009-03-12 | Konica Minolta Opto Inc | 画像処理装置、画像処理方法、及び撮像装置 |
JP2009059058A (ja) * | 2007-08-30 | 2009-03-19 | Konica Minolta Opto Inc | 画像処理装置および画像処理方法ならびに撮像装置 |
WO2009057478A1 (ja) * | 2007-11-01 | 2009-05-07 | Konica Minolta Opto, Inc. | 画像処理装置、画像処理方法、及び撮像装置 |
US8218027B2 (en) | 2009-04-09 | 2012-07-10 | Hand Held Products, Inc. | Imaging terminal having color correction |
JP2015139131A (ja) * | 2014-01-23 | 2015-07-30 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
US9183425B2 (en) | 2009-04-09 | 2015-11-10 | Hand Held Products, Inc. | Image sensor pixel array having output response curve including logarithmic pattern for image sensor based terminal |
JP2016158059A (ja) * | 2015-02-24 | 2016-09-01 | 三星ディスプレイ株式會社Samsung Display Co.,Ltd. | 画像処理装置、画像処理方法、及びプログラム |
JP2016189586A (ja) * | 2014-06-10 | 2016-11-04 | パナソニックIpマネジメント株式会社 | 変換方法および変換装置 |
JP2017143561A (ja) * | 2014-06-10 | 2017-08-17 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
JP2019110538A (ja) * | 2014-05-16 | 2019-07-04 | パナソニックIpマネジメント株式会社 | 輝度変換方法、輝度変換装置および映像表示装置 |
JP2019216457A (ja) * | 2014-06-10 | 2019-12-19 | パナソニックIpマネジメント株式会社 | 表示装置および表示方法 |
JP2020074501A (ja) * | 2018-06-29 | 2020-05-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US10708565B2 (en) | 2014-05-16 | 2020-07-07 | Panasonic Intellectual Property Management Co., Ltd. | Method for converting luminance range of picture signal |
-
2006
- 2006-05-10 JP JP2006131741A patent/JP2007082181A/ja active Pending
Cited By (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8792017B2 (en) | 2007-08-28 | 2014-07-29 | Konica Minolta Opto, Inc. | Image processing device, image processing method, and image pickup apparatus |
JP2009055471A (ja) * | 2007-08-28 | 2009-03-12 | Konica Minolta Opto Inc | 画像処理装置、画像処理方法、及び撮像装置 |
JP2009059058A (ja) * | 2007-08-30 | 2009-03-19 | Konica Minolta Opto Inc | 画像処理装置および画像処理方法ならびに撮像装置 |
US8339468B2 (en) | 2007-08-30 | 2012-12-25 | Konica Minolta Opto, Inc. | Image processing device, image processing method, and image pickup apparatus |
WO2009057478A1 (ja) * | 2007-11-01 | 2009-05-07 | Konica Minolta Opto, Inc. | 画像処理装置、画像処理方法、及び撮像装置 |
JP5282306B2 (ja) * | 2007-11-01 | 2013-09-04 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法、及び撮像装置 |
US8218027B2 (en) | 2009-04-09 | 2012-07-10 | Hand Held Products, Inc. | Imaging terminal having color correction |
US9183425B2 (en) | 2009-04-09 | 2015-11-10 | Hand Held Products, Inc. | Image sensor pixel array having output response curve including logarithmic pattern for image sensor based terminal |
US9609241B2 (en) | 2009-04-09 | 2017-03-28 | Hand Held Products, Inc. | Image sensor pixel array having output response curve including logarithmic pattern for image sensor based terminal |
JP2015139131A (ja) * | 2014-01-23 | 2015-07-30 | キヤノン株式会社 | 画像処理装置、画像処理方法、及び、プログラム |
US11375168B2 (en) | 2014-05-16 | 2022-06-28 | Panasonic Intellectual Property Management Co., Ltd. | Method for converting luminance range of picture signal |
US10708565B2 (en) | 2014-05-16 | 2020-07-07 | Panasonic Intellectual Property Management Co., Ltd. | Method for converting luminance range of picture signal |
US11057600B2 (en) | 2014-05-16 | 2021-07-06 | Panasonic Intellectual Property Management Co., Ltd. | Method for converting luminance range of picture signal |
JP2019110538A (ja) * | 2014-05-16 | 2019-07-04 | パナソニックIpマネジメント株式会社 | 輝度変換方法、輝度変換装置および映像表示装置 |
JP2016189586A (ja) * | 2014-06-10 | 2016-11-04 | パナソニックIpマネジメント株式会社 | 変換方法および変換装置 |
US11240463B2 (en) | 2014-06-10 | 2022-02-01 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11968470B2 (en) | 2014-06-10 | 2024-04-23 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US10687014B2 (en) | 2014-06-10 | 2020-06-16 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US10491853B2 (en) | 2014-06-10 | 2019-11-26 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US10791300B2 (en) | 2014-06-10 | 2020-09-29 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
JP2017143561A (ja) * | 2014-06-10 | 2017-08-17 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
US11115616B2 (en) | 2014-06-10 | 2021-09-07 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11196957B2 (en) | 2014-06-10 | 2021-12-07 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11202029B2 (en) | 2014-06-10 | 2021-12-14 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11228730B2 (en) | 2014-06-10 | 2022-01-18 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11233969B2 (en) | 2014-06-10 | 2022-01-25 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11240462B2 (en) | 2014-06-10 | 2022-02-01 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
JP2019216457A (ja) * | 2014-06-10 | 2019-12-19 | パナソニックIpマネジメント株式会社 | 表示装置および表示方法 |
US11245868B2 (en) | 2014-06-10 | 2022-02-08 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11290676B2 (en) | 2014-06-10 | 2022-03-29 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11297278B2 (en) | 2014-06-10 | 2022-04-05 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
JP2022058608A (ja) * | 2014-06-10 | 2022-04-12 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
JP7065376B2 (ja) | 2014-06-10 | 2022-05-12 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
JP2022088557A (ja) * | 2014-06-10 | 2022-06-14 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
US11812191B2 (en) | 2014-06-10 | 2023-11-07 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
US11647148B2 (en) | 2014-06-10 | 2023-05-09 | Panasonic Intellectual Property Management Co., Ltd. | Display system, display method, and display apparatus |
JP7126184B2 (ja) | 2014-06-10 | 2022-08-26 | パナソニックIpマネジメント株式会社 | 表示装置、変換装置、表示方法、および、コンピュータプログラム |
JP2016158059A (ja) * | 2015-02-24 | 2016-09-01 | 三星ディスプレイ株式會社Samsung Display Co.,Ltd. | 画像処理装置、画像処理方法、及びプログラム |
JP2022125295A (ja) * | 2018-06-29 | 2022-08-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7105737B2 (ja) | 2018-06-29 | 2022-07-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7417674B2 (ja) | 2018-06-29 | 2024-01-18 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP2020074501A (ja) * | 2018-06-29 | 2020-05-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7990443B2 (en) | Image sensing apparatus and image processing method | |
JP2007082181A (ja) | 撮像装置及び画像処理方法 | |
JP4736939B2 (ja) | 撮像装置及び画像処理方法 | |
US8488029B2 (en) | Imaging apparatus, imaging method, integrated circuit, and storage medium | |
JP4218723B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US8363131B2 (en) | Apparatus and method for local contrast enhanced tone mapping | |
JP4163353B2 (ja) | 画像処理装置 | |
CN110033418B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP4645921B2 (ja) | 画像信号処理装置および方法、プログラム、並びに撮像装置 | |
JP4720537B2 (ja) | 撮像装置 | |
JP2008104009A (ja) | 撮像装置および撮像方法 | |
JP2007067907A (ja) | 撮像装置、撮像方法および撮像プログラム、ならびに、画像処理装置、画像処理方法および画像処理プログラム | |
US8085316B2 (en) | Image-processing unit, imaging apparatus, and computer program product | |
JP2008165312A (ja) | 画像処理装置及び画像処理方法 | |
CN110047060B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2005039460A (ja) | 画像処理方法および装置 | |
JP2007028088A (ja) | 撮像装置及び画像処理方法 | |
JP2008085634A (ja) | 撮像装置及び画像処理方法 | |
JP2011100204A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置及び電子機器 | |
JP2009200743A (ja) | 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置 | |
JP6080531B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
JP4024284B1 (ja) | 撮像装置及び撮像方法 | |
JP2009207092A (ja) | 撮影装置及びその設定方法 | |
JP2008219230A (ja) | 撮像装置及び画像処理方法 | |
JP2006173671A (ja) | 撮像装置及び画像処理方法 |