JP5777825B2 - 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 - Google Patents
撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 Download PDFInfo
- Publication number
- JP5777825B2 JP5777825B2 JP2014551010A JP2014551010A JP5777825B2 JP 5777825 B2 JP5777825 B2 JP 5777825B2 JP 2014551010 A JP2014551010 A JP 2014551010A JP 2014551010 A JP2014551010 A JP 2014551010A JP 5777825 B2 JP5777825 B2 JP 5777825B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- color
- pair
- incident light
- oblique incident
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000002159 abnormal effect Effects 0.000 title claims description 263
- 238000001514 detection method Methods 0.000 title claims description 105
- 238000003384 imaging method Methods 0.000 title claims description 72
- 238000012937 correction Methods 0.000 claims description 126
- 238000000034 method Methods 0.000 claims description 35
- 238000002834 transmittance Methods 0.000 claims description 35
- 239000003086 colorant Substances 0.000 claims description 6
- 239000000203 mixture Substances 0.000 description 66
- 238000012545 processing Methods 0.000 description 42
- 238000010586 diagram Methods 0.000 description 25
- 238000004891 communication Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 18
- 230000003287 optical effect Effects 0.000 description 17
- 238000003491 array Methods 0.000 description 14
- 230000007246 mechanism Effects 0.000 description 13
- 230000004048 modification Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 230000002093 peripheral effect Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000006837 decompression Effects 0.000 description 4
- 238000010295 mobile communication Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000012447 hatching Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 229910052710 silicon Inorganic materials 0.000 description 2
- 239000010703 silicon Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 230000003796 beauty Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000005674 electromagnetic induction Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H01L27/14621—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H01L27/14645—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Description
本発明は撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体に係り、特に、フレア光等の異常斜め入射光の検出手法に関する。
デジタルカメラ等の撮像装置によって被写体像を撮影する際に強い光がレンズに入射すると、撮影レンズやマクロレンズの表面で反射した光がレンズ内部やカメラ内部で複雑に反射し、意図しない角度で進行する光が撮像素子によって受光されることがある。このように、意図していない角度から撮像素子に入射する異常斜め入射光は、いわゆるゴーストやフレア等の現象を起こし、撮影画像の画質を劣化させる。
とりわけ異常斜め入射光の角度が大きい場合には、異常斜め入射光の少なくとも一部が、通過するカラーフィルタと隣接する画素のフォトダイオードに入射してしまう。このように、異常斜め入射光が通過したカラーフィルタと実際に受光されるフォトダイオードとが完全に対応しない場合、この異常斜め入射光によりいわゆる混色現象が大きく引き起こされ、撮影画像の色再現性の劣化を招く。特に長波長成分(例えば赤色光成分)によって、隣接画素間で混色現象を生じさせてしまう。
例えば、撮像時の絞り値がF2.8の場合には±10度程度の入射光が各画素に入射されれば十分であるが、レンズの内面反射やガラスリッドと撮像素子本体との間での反射などにより、想定外の角度で異常斜め光が各画素に入射してしまう虞がある。
特に近年では、裏面照射型の撮像素子が採用され、撮像素子の各画素への入射可能角度が大きくなっており、意図していない角度からの異常斜め入射光が各画素に照射される可能性が一層高くなっている。
異常斜め入射光は長波長成分ほどシリコン内部に深く浸透する性質があるため、長波長帯域の異常斜め入射光ほど周辺画素への影響が大きい。したがって、RGBカラーフィルタが撮像素子において用いられる場合、Rフィルタ画素に隣接して配置される画素の出力データにおいて、Rフィルタを通過した異常斜め入射光による混色の影響が目立ち易い。
このような異常斜め入射光の影響を軽減する手法として、例えば特許文献1は、色フレアを低減させた像の再現を可能とする電子撮像装置を開示する。この電子撮像装置によれば、色フレアの目立つ一定数の隣接画素間(例えば6画素間)において輝度差が一定レベル以上の画素が存在する領域が検出される。
また特許文献2は、画像データにおいて非結像光に応じた画像成分を補正する画像処理装置を開示する。この画像処理装置によれば、回折次数に応じたフレア画像半径に対応する隣接画素群の平均輝度値と注目画素群の輝度値との差分に基づいて、不要回折光に応じたフレア画像が背景画像に対して浮かび上がらせられる。
しかしながら、特許文献1及び特許文献2の手法では、必ずしも十分にはフレアの影響を低減することができない。
特許文献1の電子撮像装置では、輝度差が一定レベル以上の画素が存在する領域を色フレアが目立つ領域として検出している。したがって、例えば本来的に一定レベル以上の輝度差を持つ被写体の撮影画像では、フレアが発生していなくても、フレアが発生していると誤検出される虞があり、誤補正を行ってしまう可能性がある。
また特許文献2の画像処理装置は、回折光学素子にて発生した不要回折光によるフレア像を対象としているので、その適用範囲は、回折光学素子を使用したレンズと組み合わせられる場合に限られる。
したがって、撮影時に使用するレンズ等を限定せずに、フレア等の要因となる異常斜め入射光を限定的に検出して、適切な混色補正をすることが可能な新たな手法の提案が望まれている。
本発明は上述の事情に鑑みてなされたものであり、撮影時に使用するレンズ等によらずに、フレア等を引き起こす異常斜め入射光を精度良く検出する技術を提供することを目的とする。
本発明の一態様は、第1の方向及び第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、複数の画素の各々がカラーフィルタと、カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有する撮像素子と、画素データに基づいて、撮像素子への異常斜め入射光の入射の有無を検出する異常斜め入射光検出手段とを備え、複数の画素は、第1の方向及び第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、第1色画素の位置と第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、第2の色のカラーフィルタよりも高い透過率を有し、異常斜め入射光検出手段は、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとを比較し、異常斜め入射光の入射の有無を検出する撮像装置に関する。
本態様によれば、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差に基づいて、異常斜め入射光(とりわけ赤色光の波長域の成分を含む異常斜め入射光)を精度良く検出することができる。
なお、ここでいう「異常斜め入射光」とは、被写体像を構成する通常光とは異なる想定外の光要素のことであり、通過するカラーフィルタとフォトダイオードとが同一画素に含まれない光要素のことである。この異常斜め入射光として、例えば、ゴーストやフレア等の現象をもたらす光要素が含まれうる。一般に、ゴーストは、レンズ表面や撮像素子表面での反射を介して本来の結像光(有効結像光)の光路とは異なる光路を通って像面上に到達した光(不要光)によって、視覚的に一定の形状が認められる光学像を形成する現象である。また、フレアは、強い光が光学系に入射した場合に、入射光の一部がレンズ表面や撮像素子表面で反射して像面上に不要光として到達し、視覚的に一定の形状が認められない画像異常をもたらし、生成画像においてコントラストの低下や光の滲み等を生じさせる現象である。
また、「第1の方向」及び「第2の方向」は、特に限定されず、相互に垂直(実質的に垂直を含む)を形成する方向であればよい。例えば、撮像装置による撮像時に被写体に対する「水平方向」及び「垂直方向」を「第1の方向」及び「第2の方向」としてもよいし、これらの「水平方向」及び「垂直方向」に対して任意の角度を持つ方向を「第1の方向」及び「第2の方向」としてもよい。したがって、水平方向及び垂直方向に2次元的に配列された複数の画素を45度回転させた所謂「ハニカム型の配列」で複数の画素が配置される場合には、「水平方向」及び「垂直方向」と45度を成す方向を「第1の方向」及び「第2の方向」として扱いうる。
また「赤色光の波長域の少なくとも一部」は、赤の波長域の全部又は一部のことである。例えば「590nm〜750nm」の波長域の光(可視光線)が赤色光であるとした場合、第1の色のカラーフィルタは、「590nm〜750nm」波長域の全域においてあるいは少なくとも一部において、第2の色のカラーフィルタよりも高い透過率を有する。
望ましくは、第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が50%以上であり、第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が50%未満である。より望ましくは、第1の色のカラーフィルタは、630nm〜650nmの波長域における光の透過率が50%以上であり、第2の色のカラーフィルタは、630nm〜650nmの波長域における光の透過率が50%未満である。より望ましくは、第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が60%以上である。より望ましくは、第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が70%以上である。より望ましくは、第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が80%以上である。より望ましくは、第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が90%以上である。より望ましくは、第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が40%未満である。より望ましくは、第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が30%未満である。より望ましくは、第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が20%未満である。より望ましくは、第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が10%未満である。
撮像時におけるいわゆるフレア現象は、600nm〜650nmの波長域の赤色光を含むことが多い。本態様によれば、そのような波長域の赤色光成分を含む異常斜め入射光を効率的に検出することができる。
望ましくは、第1の色のカラーフィルタは、赤色フィルタ、透明フィルタ及び白色フィルタのうちのいずれかであり、第2の色のカラーフィルタは、青色フィルタ及び緑色フィルタのうちのいずれかである。
この場合、赤色光の波長域の成分を含む異常斜め入射光を効率的に検出することができる。
なお、赤色フィルタは主として赤波長域の光を透過し、青色フィルタは主として青波長域の光を主として透過し、及び緑色フィルタは主として緑波長域の光を主として透過する。また、透明フィルタ及び白色フィルタは、赤波長域の光、青波長域の光及び緑波長域の光のいずれも透過するフィルタであり、透明フィルタは比較的高い光透過率(例えば70%以上の光透過率)を有し、白色フィルタは透明フィルタよりも低い光透過率を有する。
望ましくは、異常斜め入射光検出手段は、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差分値が閾値以上か否かに基づいて、異常斜め入射光の入射の有無を検出する。
この場合、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差分値が閾値以上の場合に「異常斜め入射光の入射の有り」と検出することができるため、画素固有の画素データのばらつき(誤差)等に起因する誤検出を効果的に防ぐことができる。
なお、ここでいう「閾値」は、検出対象の異常斜め入射光の特性に応じて適宜定めることができる。
望ましくは、異常斜め入射光検出手段は、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの大小関係に基づいて、異常斜め入射光の入射方向を判定する。
この場合、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの大小関係に基づいて、異常斜め入射光の入射方向を簡単に判定することができる。
望ましくは、撮像装置は、異常斜め入射光検出手段の検出結果に基づいて、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正する補正手段を更に備え、補正手段は、異常斜め入射光検出手段により判定された異常斜め入射光の入射方向に基づいて、複数の画素のうち、異常斜め入射光が入射されるフォトダイオードを有する画素を判別する。
この場合、異常斜め入射光の入射方向に基づいて、異常斜め入射光が入射されるフォトダイオードを有する画素が判別され、判別された画素の画素データを補正することができる。
望ましくは、補正手段は、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差分値に基づいて、補正する。
この場合、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データは、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差分値によって補正され、画像データにおける異常斜め入射光の影響を低減することができる。
望ましくは、補正手段は、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを、異常斜め入射光が入射されるフォトダイオードを有する画素と同色のカラーフィルタを有する画素であって異常斜め入射光が入射していないフォトダイオードを有する画素の画素データに基づいて補正する。
この場合、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データは異常斜め入射光が入射していないフォトダイオードを有する画素の画素データによって補正され、画像データにおける異常斜め入射光の影響を低減することができる。
望ましくは、複数の画素は複数の画素ブロックを含み、複数の画素ブロックの各々は、第1の画素ペア及び第2の画素ペアを構成する画素と、第1の画素ペア及び第2の画素ペアを構成する画素に隣接する画素とを含み、複数の画素のうちの少なくとも一部は、複数の画素ブロックのいずれかに分類され、補正手段は、異常斜め入射光検出手段によって異常斜め入射光の入射が有ることが検出された第1の画素ペア及び第2の画素ペアを含む画素ブロックにおいて、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを、第1の画素ペアの第2色画素の画素データ及び第2の画素ペアの第2色画素の画素データに基づいて補正する。
この場合、画素ブロック毎に、異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを補正することができる。
望ましくは、複数の画素は、複数の画素ブロックと、複数の画素ブロック間に設けられる複数のバッファブロックとを含み、複数の画素の各々は、複数の画素ブロック及び複数のバッファブロックのうちのいずれかに分類され、補正手段は、バッファブロックに含まれる画素のうち異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを、バッファブロックに隣接する画素ブロックのうち異常斜め入射光が入射されるフォトダイオードを有する画素の画素データの補正量に基づいて、補正する。
この場合、バッファブロックに含まれる画素の画素データを、バッファブロックに隣接する画素ブロックにおける画素データの補正量に基づいて、精度良く補正することができる。
望ましくは、複数の画素は、第1の画素ペアブロック及び第2の画素ペアブロックを含み、第1の画素ペアブロック及び第2の画素ペアブロックの各々では、第1の画素ペア及び第2の画素ペアが隣接配置されて第1の方向に2画素配列され且つ第2の方向に2画素配列され、第1の画素ペアブロックと第2の画素ペアブロックとの間で、第1色画素の位置と第2色画素の位置とが逆転しており、異常斜め入射光検出手段は、第1の画素ペアブロックに含まれる第2の色のカラーフィルタを有する二つの画素の画素データと、第2の画素ペアブロックに含まれる第2の色のカラーフィルタを有する二つの画素の画素データとに基づいて、異常斜め入射光の入射方向を判定する。
この場合、第1色画素の位置と第2色画素の位置とが逆転する第1の画素ペアブロック及び第2の画素ペアブロックからの画素データに基づいて、異常斜め入射光の入射方向を精度良く判定することができる。
望ましくは、第1の画素ペアブロックは、第1の方向に関して一方の側及び第2の方向に関して一方の側に第1色画素が隣接する第2の色のカラーフィルタを有する第1画素と、第1の方向に関して他方の側及び第2の方向に関して他方の側に第1色画素が隣接する第2の色のカラーフィルタを有する第2画素と、を含み、第2の画素ペアブロックは、第1の方向に関して他方の側及び第2の方向に関して一方の側に第1色画素が隣接する第2の色のカラーフィルタを有する第3画素と、第1の方向に関して一方の側及び第2の方向に関して他方の側に第1色画素が隣接する第2の色のカラーフィルタを有する第4画素と、を含み、異常斜め入射光検出手段は、第1画素の画素データと第2画素の画素データとの大小関係と、第3画素の画素データと第4画素の画素データとの大小関係とから、異常斜め入射光の入射方向を判定する。
この場合、第1色画素の位置と第2色画素の位置とが逆転する第1の画素ペアブロック及び第2の画素ペアブロックからの画素データに基づいて、異常斜め入射光の入射方向を精度良く判定することができる。
望ましくは、複数の画素ブロックの各々において、第1の画素ペアと第2の画素ペアとは第1の方向又は第2の方向に設けられ、複数の画素ブロックは、第1の方向及び第2の方向のうち、複数の画素ブロックの各々に含まれる第1の画素ペアと第2の画素ペアとが設けられる方向に隣り合う画素ブロックを含み、補正手段は、異常斜め入射光検出手段によって異常斜め入射光の入射が有ることが検出された第1の画素ペア及び第2の画素ペアを含む画素ブロックにおける異常斜め入射光が入射されるフォトダイオードを有する画素の画素データを、画素ブロックの第1の画素ペアの第2色画素の画素データ及び第2の画素ペアの第2色画素の画素データと、画素ブロックに隣り合う画素ブロックの第1の画素ペアの第2色画素の画素データ及び第2の画素ペアの第2色画素の画素データと、に基づいて補正する。
この場合、補正対象の画素ブロックにおける第1の画素ペアの第2色画素の画素データ及び第2の画素ペアの第2色画素の画素データだけではなく、この補正対象の画素ブロックに隣り合う画素ブロックの第1の画素ペアの第2色画素の画素データ及び第2の画素ペアの第2色画素の画素データをも考慮して、補正対象の画素ブロックの画素データを精度良く補正することができる。
望ましくは、複数の画素は、カラーフィルタ配列パターンを持つ複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、複数の基本配列画素群の各々は、第1の画素ペア及び第2の画素ペアを含む。
この場合、基本配列画素群の数に応じて第1の画素ペア及び第2の画素ペアが配置されるため、複数の画素の全体にわたって均一的に第1の画素ペア及び第2の画素ペアを配置することができる。
本発明の他の態様は、第1の方向及び第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、複数の画素の各々がカラーフィルタとカラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、複数の画素は、第1の方向及び第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、第1色画素の位置と第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、第2の色のカラーフィルタよりも高い透過率を有する撮像素子から出力される画素データに基づいて、撮像素子への異常斜め入射光の入射の有無を検出する異常斜め入射光検出方法であって、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとを取得するステップと、取得された第1の画素ペアの第2色画素の画素データと、取得された第2の画素ペアの第2色画素の画素データとを比較し、異常斜め入射光の入射の有無を検出するステップとを含む異常斜め入射光検出方法に関する。
本発明の他の態様は、第1の方向及び第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、複数の画素の各々がカラーフィルタとカラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、複数の画素は、第1の方向及び第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、第1色画素の位置と第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、第2の色のカラーフィルタよりも高い透過率を有する撮像素子から出力される画素データに基づいて、撮像素子への異常斜め入射光の入射の有無を検出する手順をコンピュータに実行させるためのプログラムであって、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとを取得する手順と、取得された第1の画素ペアの第2色画素の画素データと、取得された第2の画素ペアの第2色画素の画素データとを比較し、異常斜め入射光の入射の有無を検出する手順とをコンピュータに実行させるためのプログラムに関する。
本発明の他の態様は、撮像素子から出力される画素データに基づいて、撮像素子への異常斜め入射光の入射の有無を検出する手順をコンピュータに実行させるためのプログラムの、コンピュータ読み取り可能なコードが記録された非一時的記録媒体であって、撮像素子は、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、複数の画素の各々がカラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、複数の画素は、第1の方向及び第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、第1色画素の位置と第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、第2の色のカラーフィルタよりも高い透過率を有し、撮像素子への異常斜め入射光の入射の有無を検出する手順は、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとを取得する手順と、取得された第1の画素ペアの第2色画素の画素データと、取得された第2の画素ペアの第2色画素の画素データとを比較し、異常斜め入射光の入射の有無を検出する手順と、を含む記録媒体に関する。
本発明によれば、第1の画素ペアの第2色画素の画素データと、第2の画素ペアの第2色画素の画素データとの差に基づいて、撮影時に使用するレンズ等によらずに、フレア等を引き起こす異常斜め入射光(とりわけ赤色光の波長域の成分を含む異常斜め入射光)を精度良く検出することができる。
図面を参照して、本発明の実施形態について説明する。まず、本発明の一適用例であるデジタルカメラ(撮像装置)の基本構成について説明し、その後、隣接するR(赤)画素及びB(青)画素の画素データを利用した異常斜め入射光(フレア光等)の検出手法について説明する。
図1は、デジタルカメラ10の一構成例を示すブロック図である。なお本例では、図1に示される構成のうち、レンズユニット14以外の各部がカメラ本体12に設けられる例について説明するが、必要に応じて各部をレンズユニット14に設けることも可能である。
デジタルカメラ(撮像装置)10は、カメラ本体12と、カメラ本体12の前面に交換可能に取り付けられたレンズユニット14とを備える。
レンズユニット14は、ズームレンズ21及びフォーカスレンズ22を含む撮影光学系20、メカシャッタ23などを備える。ズームレンズ21及びフォーカスレンズ22は、それぞれズーム機構24及びフォーカス機構25によって駆動され、撮影光学系20の光軸O1に沿って前後移動される。ズーム機構24及びフォーカス機構25は、ギアやモータなどで構成される。
メカシャッタ23は、カラー撮像素子27への被写体光の入射を阻止する閉鎖位置と、被写体光の入射を許容する開放位置との間で移動する可動部(図示省略)を有する。可動部を開放位置/閉鎖位置に移動させることによって、撮影光学系20からカラー撮像素子27へと至る光路が開放/遮断される。また、メカシャッタ23には、カラー撮像素子27に入射する被写体光の光量をコントロールする絞りが含まれる。メカシャッタ23、ズーム機構24及びフォーカス機構25は、レンズドライバ26を介してCPU30により駆動制御される。
カメラ本体12に設けられるCPU30は、操作部36からの制御信号に基づき、メモリ37から読み出した各種プログラムやデータを逐次実行し、デジタルカメラ10の各部を統括的に制御する。メモリ37のRAM領域は、CPU30が処理を実行するためのワークメモリや、各種データの一時保管先として機能する。
操作部36は、ユーザによって操作されるボタン、キー、タッチパネル及びこれらに類するものを含む。例えば、カメラ本体12に設けられユーザによって操作される電源スイッチ、シャッタボタン、フォーカスモード切替レバー、フォーカスリング、モード切替ボタン、十字選択キー、実行キー、バックボタン等が、操作部36に含まれうる。
カラー撮像素子27は、撮影光学系20及びメカシャッタ23を通過した被写体光を、電気的な出力信号に変換して出力する。このカラー撮像素子27は、多数の画素が水平方向(第1の方向)及びこの水平方向に垂直な垂直方向(第2の方向)に並置された単板方式の画素配列を有し、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の任意の方式を採用可能である。
カラー撮像素子27を構成する各画素は、詳細については後述するが、集光率を向上させるマイクロレンズと、RGB等のカラーフィルタと、マイクロレンズ及びカラーフィルタを透過した光を受光して画素データを出力するフォトダイオード(光電変換素子)とを有する。
撮像素子ドライバ31は、CPU30の制御下でカラー撮像素子27を駆動制御し、カラー撮像素子27の画素から画像処理回路32に撮像信号(画像データ)を出力させる。
画像処理回路32は、カラー撮像素子27から出力される撮像信号(画像データ)に対して階調変換、ホワイトバランス補正、γ補正処理などの各種画像処理を施して撮影画像データを生成する。特に本例の画像処理回路32は、詳細については後述するが、フレア光等の赤色波長域成分を含む異常斜め光の検出及び混色補正を行う。
圧縮伸張処理回路34は、シャッタボタンがユーザによって押し下げ操作されたときに、メモリ37のVRAM領域に格納された撮影画像データに対し、圧縮処理を施す。また圧縮伸張処理回路34は、メディアインターフェース33を介してメモリカード38から得られる圧縮画像データに対し、圧縮伸張処理を施す。メディアインターフェース33は、メモリカード38に対する撮影画像データの記録及び読み出しなどを行う。
表示制御部35は、撮影モード時には、EVF(エレクトリックビューファインダ)39及び背面LCD(背面液晶)40のうち少なくとも一方に対し、画像処理回路32により生成されたスルー画像(ライブビュー画像)を表示させる制御を行う。また表示制御部35は、画像再生モード時には、圧縮伸張処理回路34で伸張された撮影画像データを背面LCD40(及び/又はEVF39)へ出力する。
デジタルカメラ10(カメラ本体12)には、上記以外の他の処理回路等が設けられていてもよく、例えばオートフォーカス用のAF検出回路や自動露光調節用のAE検出回路が設けられる。CPU30は、AF検出回路の検出結果に基づきレンズドライバ26及びフォーカス機構25を介してフォーカスレンズ22を駆動することでAF処理を実行し、またAE検出回路の検出結果に基づきレンズドライバ26を介してメカシャッタ23を駆動することでAE処理を実行する。
次に、フレア光等の赤色波長域成分を含む異常斜め光の検出及び混色補正について説明する。なお、「赤色波長域成分を含む異常斜め光」を「赤色異常斜め入射光」とも呼ぶ。
図2A〜2Cは、カラー撮像素子27の撮像面の一例を示す図であり、図2Aは撮像素子面の一部を拡大した図であり、図2Bは図2Aに示される第1のRB画素ペア52及びその周辺画素を拡大して示した図であり、図2Cは図2Aに示される第2のRB画素ペア54及びその周辺画素を拡大して示した図である。
カラー撮像素子27は、赤色のカラーフィルタを有するR(赤)画素50R、緑色のカラーフィルタを有するG(緑)画素50G及び青色のカラーフィルタを有するB(青)画素50Bのそれぞれを複数有し、これらの複数の画素50が規則的に配列されて撮像面が構成される。R画素50Rのカラーフィルタは赤色光の波長域(全域又は少なくとも一部)においてG画素50G及びB画素50Bのカラーフィルタよりも高い透過率を有し、G画素50Gのカラーフィルタは緑色光の波長域(全域又は少なくとも一部)においてR画素50R及びB画素50Bのカラーフィルタよりも高い透過率を有し、B画素50Bのカラーフィルタは青色光の波長域(全域又は少なくとも一部)においてG画素50G及びR画素50Rのカラーフィルタよりも高い透過率を有する。
例えば、赤色のカラーフィルタは少なくとも600nm〜650nmの波長域における光の透過率が50%以上であるが、緑色のカラーフィルタ及び青色のカラーフィルタは600nm〜650nmの波長域における光の透過率が50%未満である。
本実施形態の複数の画素50は、水平方向(図2Aの矢印A参照)及び垂直方向(図2Aの矢印B参照)の各々に関し、「R画素(第1色画素)、B画素(第2色画素)」の順番に隣接配列されるペアと「B画素、R画素」の順番に隣接配列されるペアとを含む。図2Aでは、水平方向Aに「R画素、B画素」の順番に隣接配列される第1のRB画素ペア(第1の画素ペア)52と、水平方向Aに「B画素、R画素」の順番に隣接配列される第2のRB画素ペア(第2の画素ペア)54とが、ハッチングによって示されている。
例えば赤色斜め異常入射光が図2Aの矢印A方向(水平方向の正方向)にカラー撮像素子27へ入射する場合、第1のRB画素ペア52間では、R画素のカラーフィルタを通過した赤色異常斜め入射光58がB画素のフォトダイオードによって受光され、混色現象が起きる(図2B参照)。一方、第2のRB画素ペア54間では、赤色異常斜め入射光58がB画素のカラーフィルタを通過せずにR画素のフォトダイオードによって受光されないため、混色現象は起きない(図2C参照)。
図3A,3Bは混色現象のメカニズムを説明する断面図であり、図3AはG画素、R画素及びB画素の隣接配置例を示し、図3BはB画素、R画素及びG画素の隣接配置例を示す。
G画素50G、R画素50R及びB画素50Bの各々では、マイクロレンズ60、カラーフィルタ62及びフォトダイオード64が被写体光の進行方向に関して順次設けられる。被写体光を構成する通常光56は、マイクロレンズ60によって集光され、カラーフィルタ62を通過してフォトダイオード64に入射し、通常光56が通過するカラーフィルタ62と受光されるフォトダイオード64とは対応する。
一方、赤色異常斜め入射光58は、通常光56とは異なる角度で各画素に進入し、R画素50Rのカラーフィルタ62を通過して、隣接する画素(図3Aに示す例ではB画素50B、図3Bに示す例ではG画素50G)のフォトダイオード64に入射する。したがって、赤色異常斜め入射光58が通過するカラーフィルタ62と受光されるフォトダイオード64とは対応せず、赤色異常斜め入射光58を受光するフォトダイオード64は、通常光56だけではなく赤色異常斜め入射光58の受光量に応じた画素データを出力する。したがって、赤色異常斜め入射光58を受光したフォトダイオードからの出力画素データは、赤色異常斜め入射光58を受光しないフォトダイオードからの出力画素データよりも増大する。例えば図3A及び3Bにおける通常光56が同じ強さを有する場合、図3AのB画素50Bの出力画素データ値は図3BのB画素50Bの出力画素データ値よりも大きくなり、また図3BのG画素50Gの出力画素データ値は図3AのG画素50Gの出力画素データ値よりも大きくなる。
なお、G画素50G及びB画素50Bに入射する赤色異常斜め入射光58は、R画素50Rに入射する赤色異常斜め入射光58とは異なり、隣接画素のフォトダイオード64によって受光されない若しくは受光され難い。これは、赤色異常斜め入射光58に含まれる赤色波長域成分が、G画素50G及びB画素50Bのカラーフィルタ62を通過しない(通過し難い)からである。また、赤色光成分は、長波長成分であるためフォトダイオード(例えばシリコン)の深くまで到達して混色現象を起こし易いが、赤色光成分よりも短波長側の他の波長成分(青色光成分、緑色光成分)は、赤色光成分ほどはフォトダイオードに深くは進入せず、混色現象を起こし難いからである。
したがって、赤色異常斜め入射光58の入射方向に関してR画素50Rに隣接する画素50において、赤色異常斜め入射光58に起因する混色現象が生じ易い。例えば、赤色異常斜め入射光58が水平方向(図4中の矢印A方向)にカラー撮像素子27へ入射する場合、図4のハッチングによって示された「赤色異常斜め入射光58の入射方向に関してR画素50Rに隣接する画素」における混色を検出及び補正することが好ましい。
以下では、赤色波長域成分を主成分として含む赤色異常斜め入射光58によってフレア現象が生じている場合、この赤色異常斜め入射光58が引き起こす混色に方向性があることに着目し、画作りに寄与しない特殊画素をカラー撮像素子27の複数画素に挿入することなく、赤色異常斜め入射光58の検出及び混色補正を行う態様について説明する。
図5は、図1の画像処理回路32における異常斜め入射光検出補正部66の機能構成を示すブロック図である。
異常斜め入射光検出補正部66は、赤色異常斜め入射光58を検出する異常斜め入射光検出部(異常斜め入射光検出手段)68と、異常斜め入射光検出部68の検出結果に応じて赤色異常斜め入射光58の撮影画像に対する影響を補正する異常斜め入射光補正部(補正手段)70とを有する。
異常斜め入射光検出部68は、複数の画素50の画素データに基づいて、カラー撮像素子27への赤色異常斜め入射光58の入射の有無を検出する。本例の異常斜め入射光検出部68は、モザイク状の画像データ(RAWデータ等)が入力され、R画素に対する他色画素(図2A〜2Cの第1のRB画素ペア52及び第2のRB画素ペア54参照)の配置位置特性を考慮してモザイク状の画像データにおける各色画素の画素データを解析し、赤色異常斜め入射光58の入射の有無及び入射方向を検出する。
異常斜め入射光補正部70は、異常斜め入射光検出部68の検出結果に基づいて、赤色異常斜め入射光58が入射するフォトダイオード64を有する画素50の画素データを補正する。すなわち、異常斜め入射光補正部70は、異常斜め入射光検出部68によって検出判定された赤色異常斜め入射光58の入射方向に基づいて、カラー撮像素子27の複数画素のうち赤色異常斜め入射光58が入射するフォトダイオード64を有する画素50を判別し、その判別した画素50の画素データを修正する。なお、異常斜め入射光検出部68によって赤色異常斜め入射光58が検出されなかった場合には、異常斜め入射光補正部70における補正処理はスキップされる。
異常斜め入射光検出部68及び異常斜め入射光補正部70における赤色異常斜め入射光58の具体的な検出手法及び混色補正手法は、カラー撮像素子27の各色の画素配列(カラーフィルタ配列)に応じて決まる。以下、カラーフィルタ62の配列例と関連づけて、赤色異常斜め入射光58の検出及び混色補正の具体的手法について説明する。
<第1実施形態>
図6は、第1実施形態に係るカラー撮像素子27の画素配列を示す図である。本実施形態のカラー撮像素子27を構成する複数画素は、カラーフィルタ配列パターンを持つ基本配列画素群Pを複数含み、これらの基本配列画素群Pは、水平方向A及び垂直方向Bに繰り返し並置される。
図6は、第1実施形態に係るカラー撮像素子27の画素配列を示す図である。本実施形態のカラー撮像素子27を構成する複数画素は、カラーフィルタ配列パターンを持つ基本配列画素群Pを複数含み、これらの基本配列画素群Pは、水平方向A及び垂直方向Bに繰り返し並置される。
本実施形態の基本配列画素群Pは、水平方向A及び垂直方向Bに関して6画素×6画素の配列を有する画素によって構成され、基本配列画素群Pの各々は、水平方向A及び垂直方向Bに関して3画素×3画素の画素配列を有する第1サブ配列S1及び第2サブ配列S2を二つずつ含む。第1サブ配列S1同士及び第2サブ配列S2同士はそれぞれ基本配列画素群Pの対角線上に配設され、第1サブ配列S1の各々は水平方向A及び垂直方向Bに関して第2サブ配列S2と隣接し、第2サブ配列S2の各々は水平方向A及び垂直方向Bに関して第1サブ配列S1と隣接する。
第1サブ配列S1では、水平方向Aに隣接配置される「G画素、G画素、R画素」の行、「G画素、G画素、B画素」の行及び「B画素、R画素、G画素」の行が、垂直方向Bに並置される。また第2サブ配列S2では、水平方向Aに隣接配置される「G画素、G画素、B画素」の行、「G画素、G画素、R画素」の行及び「R画素、B画素、G画素」の行が、垂直方向Bに並置される。したがって、基本配列画素群Pでは、水平方向Aに隣接配置される「G画素、G画素、R画素、G画素、G画素、B画素」の行、「G画素、G画素、B画素、G画素、G画素、R画素」の行、「B画素、R画素、G画素、R画素、B画素、G画素」の行、「G画素、G画素、B画素、G画素、G画素、R画素」の行、「G画素、G画素、R画素、G画素、G画素、B画素」の行、「R画素、B画素、G画素、B画素、R画素、G画素」の行が、垂直方向Bに並置される。
したがって基本配列画素群Pは、水平方向A及び垂直方向Bの各方向に関し、R画素とB画素とがあべこべに配置され、R画素とB画素とが逆転した位置に配置される第1のRB画素ペア52及び第2のRB画素ペア54を、それぞれ二つずつ含むこととなる。
本実施形態におけるカラー撮像素子27の複数の画素は、水平方向Aの赤色異常斜め入射光58の検出のための複数の画素ブロック72(図7A参照)及び垂直方向Bの赤色異常斜め入射光58の検出のための複数の画素ブロック72(図7B参照)に区分される。複数の画素ブロック72の各々は、第1のRB画素ペア52及び第2のRB画素ペア54を構成する画素と、第1のRB画素ペア52及び第2のRB画素ペア54を構成する画素に隣接する画素とを含む。
例えば、水平方向Aの赤色異常斜め入射光58の検出のための複数の画素ブロック72は「3画素(水平方向A)×6画素(垂直方向)の画素」によって構成され、カラー撮像素子27を構成する複数画素の各々は、これらの画素ブロック72のいずれかに分類される。図7Aに示される画素ブロック72の各々では、水平方向Aに隣接配置される「G画素、G画素、R画素」の行、「R画素、B画素、G画素」の行、「G画素、G画素、R画素」の行、「G画素、G画素、B画素」の行、「B画素、R画素、G画素」の行及び「G画素、G画素、B画素」の行が、垂直方向Bに並置される。したがって、各画素ブロック72は、第1のRB画素ペア52及び第2のRB画素ペア54を一つずつ含み、画素ブロック72内の第1のRB画素ペア52及び第2のRB画素ペア54は、垂直方向Bに関して3画素分の距離(インターバル)をもって配置される。また、水平方向Aに隣接する画素ブロック72同士は、垂直方向Bに関して半画素ブロック分(本実施形態では3画素分)ずれた位置に配置される。
異常斜め入射光検出部68(図5参照)は、画素ブロック72毎に赤色異常斜め入射光58の検出を行う。具体的には、異常斜め入射光検出部68は、各画素ブロック72における第1のRB画素ペア52のB画素の画素データと、第2のRB画素ペア54のB画素の画素データとを比較し、赤色異常斜め入射光58の入射の有無を検出する。
図2B及び2Cを参照して説明したように、赤色異常斜め入射光58の入射方向に関してR画素に隣接する画素(図2BではB画素)の出力画素データ値は赤色異常斜め入射光58によって増大する。一方、赤色異常斜め入射光58の入射方向とは異なる方向に関してR画素に隣接する画素の出力画素データ値は、赤色異常斜め入射光58によっては増大しない(図2C参照)。
したがって、数画素分程度離隔した近接配置の同色画素の画素データは通常、一致又は近似することが多いが、赤色異常斜め入射光58が入射する場合には、近接配置の同色画素であっても、出力画素データが大きく異なってしまう。このように、R画素の水平方向Aに関する隣接画素の配置の違いから、水平方向Aの赤色異常斜め入射光58が入射する場合には、第1のRB画素ペア52及び第2のRB画素ペア54のうち一方のペアにおけるB画素の出力画素データ値のみが異常に増大する。そこで、異常斜め入射光検出部68は、第1のRB画素ペア52及び第2のRB画素ペア54のうちの一方のペアにおけるB画素出力画素データの異常増大を検知した場合には、該当する画素ブロック72における赤色異常斜め入射光58の入射を検出する。
例えば、図7Aにおいて水平方向A(正方向)に関して「R画素、B画素」の順番で隣接する第1のRB画素ペア52におけるB画素の画素データが「B画素、R画素」の順番で隣接する第2のRB画素ペア54におけるB画素の画素データよりも大きい場合には、水平方向Aの正方向に進行する赤色異常斜め入射光58が該当画素ブロック72に入射していると判定することができる。一方、第1のRB画素ペア52のB画素の画素データが第2のRB画素ペア54のB画素の画素データよりも小さい場合には、水平方向Aの負方向に進行する赤色異常斜め入射光58が該当画素ブロック72に入射していると判定することができる。
このように、異常斜め入射光検出部68は、第1のRB画素ペア52のB画素の画素データ値と、第2のRB画素ペア54のB画素の画素データ値との大小関係に基づいて、赤色異常斜め入射光58の入射方向を判定することができる。
なお、この場合、第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値を閾値(後述の図8に示す「T1」、「−T1」参照)と比較することで、赤色異常斜め入射光58の入射の有無を判定することが可能である。すなわち、第1のRB画素ペア52及び第2のRB画素ペア54におけるB画素の画素データの差分値の絶対値が閾値よりも大きい場合に、赤色異常斜め入射光58が該当画素ブロック72に入射していると判定することが可能である。
この時に用いられる「閾値」は、検出対象の異常斜め入射光(フレア光等)の特性に応じて適宜定めることができる。例えば、画素特性に起因する検出誤差を異常斜め入射光の入射として誤検出しないように、また視認上目立つ異常斜め入射光の入射を検出することができるように、検出誤差に起因する画素データ値よりも大きく、視認上目立つ程度の異常斜め入射光による画素データ値以下の値を「閾値」に設定することも可能である。
異常斜め入射光補正部70は、異常斜め入射光検出部68によって赤色異常斜め入射光58の入射が有ることが検出された第1のRB画素ペア52及び第2のRB画素ペア54を含む画素ブロック72において、赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データを、第1のRB画素ペア52のB画素の画素データ及び第2のRB画素ペア54のB画素の画素データに基づいて補正する。すなわち、異常斜め入射光補正部70は、赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データを、第1のRB画素ペア52のB画素の画素データと、第2のRB画素ペア54のB画素の画素データとの差分値に基づいて、補正する。
本実施形態では、第1のRB画素ペア52のB画素の画素データと、第2のRB画素ペア54のB画素の画素データとの差分値がフレア成分(赤色異常斜め入射光成分)とみなされて混色補正が行われる。そこで、画素ブロック72内の第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分絶対値が補正値とされ、画素ブロック72毎に画素データがこの差分絶対値に基づいて補正される。異常斜め入射光補正部70は、赤色異常斜め入射光58が入射される画素(図7Aにおいてハッチングされた画素参照)の画素データ値からこの補正値を減算することで、混色補正を行う。
なお、上述では水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時の処理について説明したが、垂直方向Bに関する赤色異常斜め入射光58の検出及び混色補正も水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時と同様に行うことができる。
例えば、カラー撮像素子27の複数画素の各々を、図7Bに示すように6画素(水平方向A)×3画素(垂直方向B)の画素ブロックに分類する。各画素ブロック72内で垂直方向B(負方向)に「R画素、B画素」の順番で隣接する第1のRB画素ペア52及び「B画素、R画素」の順番で隣接する第2のRB画素ペア54におけるB画素の出力画素データの差分値に基づいて、異常斜め入射光検出部68は赤色異常斜め入射光58の有無の検出及び入射方向の判定を行い、異常斜め入射光補正部70は赤色異常斜め入射光5
8に起因する混色を補正することができる。
8に起因する混色を補正することができる。
したがって、本実施形態によれば、水平方向A(左右方向)の赤色異常斜め入射光58の検出及び混色補正と、垂直方向B(上下方向)の赤色異常斜め入射光58の検出及び混色補正とを、独立して行うことができる。これにより、例えば斜め方向(水平方向A及び垂直方向Bに対してある角度を持つ方向)の赤色異常斜め入射光58がカラー撮像素子27に入射する場合であっても、本実施形態によれば、この赤色異常斜め入射光58を水平方向成分と垂直方向成分とに分けて検出及び混色補正をすることが可能である。
図8は、第1実施形態における赤色異常斜め入射光58の検出及び混色補正の流れを示すフローチャートである。なお、以下の説明では、水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正の流れについて説明するが、垂直方向Bに関する赤色異常斜め入射光58の検出及び混色補正についても同様に行うことができる。
まず、第1のRB画素ペア52のB画素の画素データD1及び第2のRB画素ペア54のB画素の画素データD2が、入力モザイク画像データから、異常斜め入射光検出部68によって取得される(図8のS11及びS12)。
そして、第1のRB画素ペア52のB画素の画素データD1と第2のRB画素ペア54のB画素の画素データD2との差分値が異常斜め入射光検出部68によって算出され、この差分値に基づき、水平方向に入射する赤色異常斜め入射光58の有無が異常斜め入射光検出部68によって検出される。具体的には、画素データの差分値(D1−D2)が閾値T1以上か否かが判定され(S13)、画素データの差分値(D1−D2)が閾値T1以上の場合(S13のY)、水平方向Aの正方向の赤色異常斜め入射光58の入射が検出される(S15)。
水平方向の正方向の赤色異常斜め入射光58の入射が検出された場合、正方向の赤色異常斜め入射光58が入射する画素が異常斜め入射光補正部70によって判定され、赤色異常斜め入射光58が入射する画素の画素データが、画素データの差分値の絶対値|D1−D2|に基づいて異常斜め入射光補正部70により補正される(S16)。
一方、画素データの差分値(D1−D2)が閾値T1よりも小さい場合(S13のN)、画素データの差分値(D1−D2)が閾値−T1以下か否かが判定され(S14)、画素データの差分値(D1−D2)が閾値−T1以下の場合(S14のY)、水平方向の負方向の赤色異常斜め入射光58の入射が異常斜め入射光検出部68によって検出される(S17)。水平方向の負方向の赤色異常斜め入射光58の入射が検出された場合、負方向の赤色異常斜め入射光58が入射する画素が異常斜め入射光補正部70によって判定され、赤色異常斜め入射光58が入射する画素の画素データが、画素データの差分値の絶対値|D1−D2|に基づいて異常斜め入射光補正部70により補正される(S18)。
なお、画素データの差分値(D1−D2)が閾値T1よりも小さく(S13のN)且つ画素データの差分値(D1−D2)が閾値−T1よりも大きい場合(S14のN)、水平方向に赤色異常斜め入射光58は入射していないと判断され、異常斜め入射光補正部70における補正処理はスキップされる。
以上説明したように、本実施形態によれば、モザイク画像データにおける各色画素の配置特性を考慮した画素データの比較によって、フレア光等の異常斜め入射光の検出及び混色補正を精度良く行うことができる。
特に、本実施形態の異常斜め入射光検出装置及び方法は、カラー撮像素子27の各色画素の配置特性とモザイク画像データを構成する画素データとに基づいて異常斜め入射光の検出が可能であり、撮影時に使用するレンズ等の光学系が限定されない。
また、カラー撮像素子27の画素を複数の画素ブロック72に分類して処理を進めることで、赤色異常斜め入射光58の入射角度の変化に柔軟に対応することが可能であり、カラー撮像素子27に対して強度の異なる複数のフレア光が入射する場合、カラー撮像素子27の一部分にゴースト光が入射する場合、そもそも入射角度がきついオールドレンズ等を使用する場合にも対応することが可能である。
<第1変形例>
上述の実施形態では、画素ブロック72単位で、水平方向A/垂直方向Bの赤色異常斜め入射光58の検出及び混色補正を行う例について示したが、カラー撮像素子27の複数の画素のうち所定の大きさを持つ範囲で、第1のRB画素ペア52及び第2のRB画素ペア54におけるB画素の画素データの差分値の絶対値が大きい場合に、赤色異常斜め入射光58を検出するようにしてもよい。
上述の実施形態では、画素ブロック72単位で、水平方向A/垂直方向Bの赤色異常斜め入射光58の検出及び混色補正を行う例について示したが、カラー撮像素子27の複数の画素のうち所定の大きさを持つ範囲で、第1のRB画素ペア52及び第2のRB画素ペア54におけるB画素の画素データの差分値の絶対値が大きい場合に、赤色異常斜め入射光58を検出するようにしてもよい。
すなわち、画素ブロック72内の第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値が、上述の実施形態と同様に、異常斜め入射光検出部68によって求められる。そして、異常斜め入射光検出部68は、所定の範囲に含まれる画素ブロック72の全てにおいて、「第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値(D1−D2)が閾値T1以上」又は「第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値(D1−D2)が閾値−T1以下」の場合に、その所定の範囲の画素に赤色異常斜め入射光58が入射していると判定してもよい。
このように、第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値(D1−D2)と閾値T1、−T1との比較結果が所定の範囲で同じ場合に赤色異常斜め入射光58の入射を検出することで、異常斜め入射光の検出精度が高まり、解像度感の高い撮影画像を得ることができる。
なお、ここでいう「所定の範囲」は、検出対象の異常斜め入射光(フレア光等)の特性に応じて適宜定めることができる。例えば、視認上目立つ程度の範囲を「所定の範囲」に設定することも可能であり、例えば「64画素(水平方向A)×64画素(垂直方向B)の範囲」や「30画素(水平方向A)×30画素(垂直方向B)の範囲」を「所定の範囲」として設定してもよい。
<第2変形例>
上述の実施形態では、赤色異常斜め入射光58が入射する画素の画素データ値から、第1のRB画素ペア52及び第2のRB画素ペア54におけるB画素の画素データの差分値の絶対値(補正値)を減算することで混色補正を行っているが、混色補正はこの方法には限定されない。
上述の実施形態では、赤色異常斜め入射光58が入射する画素の画素データ値から、第1のRB画素ペア52及び第2のRB画素ペア54におけるB画素の画素データの差分値の絶対値(補正値)を減算することで混色補正を行っているが、混色補正はこの方法には限定されない。
例えば、異常斜め入射光補正部70は、赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データを、赤色異常斜め入射光58が入射するフォトダイオード64を有する画素と同色のカラーフィルタを有する画素であって赤色異常斜め入射光58が入射していないフォトダイオード64を有する画素の画素データに基づいて補正することも可能である。ここでいう「赤色異常斜め入射光58が入射していないフォトダイオード64を有する画素」とは、赤色異常斜め入射光58の入射方向に関しR画素に隣接していない画素である。
したがって、各画素ブロック72において、赤色異常斜め入射光58の入射方向に関しR画素に隣接する補正対象画素(赤色異常斜め入射光58が入射するフォトダイオード64を有する画素)の画素データを、この補正対象画素と同色のカラーフィルタを有する画素であって、赤色異常斜め入射光58の入射方向に関しR画素に隣接していない画素の画素データに基づいて補正してもよい。この場合、補正対象画素の画素データを、赤色異常斜め入射光58の入射方向に関しR画素に隣接していない同一画素ブロック72内の画素の画素データに置換したり、同一画素ブロック72における複数の同色画素の平均値や加重平均値によって置換することで、混色補正を行うことが可能である。
<第3変形例>
上述の実施形態では、R画素及びB画素の組み合わせから成るペア(第1のRB画素ペア52、第2のRB画素ペア54)の配置特性及び出力画素データを利用する例について説明したが、赤色異常斜め入射光58の検出及び混色補正は他の色の画素ペアによっても可能である。
上述の実施形態では、R画素及びB画素の組み合わせから成るペア(第1のRB画素ペア52、第2のRB画素ペア54)の配置特性及び出力画素データを利用する例について説明したが、赤色異常斜め入射光58の検出及び混色補正は他の色の画素ペアによっても可能である。
例えば、第1のRB画素ペア52及び第2のRB画素ペア54の「B画素」の代わりに「G画素」が用いられてもよく、水平方向及び垂直方向の各々に関する「R画素、G画素」の隣接画素ペア及び「G画素、R画素」の隣接画素ペアのG画素の画素データの差分値に基づき、B画素の画素データの差分値に基づく上述の実施形態と同様にして、赤色異常斜め入射光58の検出及び混色補正を実施することが可能である。
ただし、RGBのカラーフィルタのうちBカラーフィルタが最も短波長側において透過率のピークを持ち、赤色異常斜め入射光によってB画素の画素データが最も飽和し難いため、B画素を使用することで、赤色異常斜め入射光58の誤検出を効果的に防ぐことができる。
また、カラー撮像素子27を構成する複数の画素が、RGB画素に加えてW画素(透明画素、白色画素)を含む場合には、第1のRB画素ペア52及び第2のRB画素ペア54の「R画素」の代わりに「W画素」が用いられてもよい。この場合、水平方向及び垂直方向の各々に関する「W画素、B画素」の隣接画素ペア及び「W画素、B画素」の隣接画素ペアのB画素の画素データの差分値に基づき、上述の実施形態と同様にして、赤色異常斜め入射光58の検出及び混色補正を実施することが可能である。
したがって、カラー撮像素子27がRGBW画素を含む場合には、赤色フィルタ、透明フィルタ及び白色フィルタのうちのいずれかを第1の色のカラーフィルタとし、青色フィルタ及び緑色フィルタのうちのいずれかを第2の色のカラーフィルタとし、隣接配置される「第1の色のカラーフィルタを具備する画素」及び「第2の色のカラーフィルタを具備する画素」を、上述の第1のRB画素ペア52及び第2のRB画素ペア54のR画素とB画素の代わりに使用することも可能である。
また、カラー撮像素子27は赤、緑、青、透明及び白色以外の色のカラーフィルタを有する画素を含んでいてもよく、赤色光の波長域の少なくとも一部において相対的に高い光透過率を有する色のカラーフィルタを上記第1の色のカラーフィルタとし、相対的に低い光透過率を有する色のカラーフィルタを上記第2の色のカラーフィルタとして使用してもよい。
なお、第1のRB画素ペア52及び第2のRB画素ペア54のR画素及びB画素の代わりにいずれの色のカラーフィルタを用いる場合であっても、検出対象の光波長域における透過率の差が大きいほど、検出精度を上げることができ、好ましい。したがって、赤波長域の異常斜め入射光の検出及び混色補正を行う場合には、「W画素、B画素」や「R画素、B画素」のペアが、画素ブロック72に含まれる隣接画素ペアとしては好ましい。
なお、透明画素及び白色画素は、両者共に可視光波長域の全域において比較的高い光透過率を有するカラーフィルタを有するが、透明画素のカラーフィルタは白色画素のカラーフィルタよりも高い光透過率を有する。
<第2実施形態>
図9A,9Bは、第2実施形態に係るカラー撮像素子27の画素配列を示す図であり、図9Aは水平方向Aの赤色異常斜め入射光の検出時に利用する画素ブロック72を示し、図9Bは垂直方向Bの赤色異常斜め入射光の検出時に利用する画素ブロック72を示す。
図9A,9Bは、第2実施形態に係るカラー撮像素子27の画素配列を示す図であり、図9Aは水平方向Aの赤色異常斜め入射光の検出時に利用する画素ブロック72を示し、図9Bは垂直方向Bの赤色異常斜め入射光の検出時に利用する画素ブロック72を示す。
上述の第1実施形態及び変形例と同一又は類似の構成は、同一の符号を付し、その詳細な説明は省略する。
本実施形態のカラー撮像素子27の全体画素配列(カラーフィルタ配列)は、第1実施形態と同じであるが、複数の画素は、複数の画素ブロック72と、画素ブロック72間に設けられる複数のバッファブロック74とを含む。
図9Aに示す画素ブロック72の各々は、「2画素(水平方向A)×6画素(垂直方向B)」によって構成され、水平方向Aに隣接配置される「G画素、G画素」の行、「R画素、B画素」の行、「G画素、G画素」の行、「G画素、G画素」の行、「B画素、R画素」の行及び「G画素、G画素」の行が、垂直方向Bに並置される。したがって、本実施形態の各画素ブロック72も、第1のRB画素ペア52及び第2のRB画素ペア54を一つずつ含み、画素ブロック72内の第1のRB画素ペア52及び第2のRB画素ペア54は、垂直方向Bに関して3画素分の距離(インターバル)をもって配置される。また、水平方向Aに関して隣り合う画素ブロック72同士は、垂直方向Bに関して半画素ブロック分(本実施形態では3画素分)ずれた位置に配置される。
また、バッファブロック74は、水平方向Aに関して1画素分、垂直方向Bに隣接配置される画素群によって構成される。
複数の画素の各々は、これらの複数の画素ブロック72及び複数のバッファブロック74のうちのいずれかに分類される。
赤色異常斜め入射光58の検出及び混色補正は、画素ブロック72内の画素の画素データについては、上述の第1実施形態と同様にして行われる。すなわち、各画素ブロック72内の第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値に基づいて、赤色異常斜め入射光58の入射の有無及び入射方向が異常斜め入射光検出部68によって検出され、異常斜め入射光検出部68の検出結果に応じて混色画素の判定及び上記差分値による混色補正が異常斜め入射光補正部70によって行われる。
一方、バッファブロック74内の画素の画素データに対しては、補正対象画素に隣接する画素ブロック72における画素データ補正量に基づいて、異常斜め入射光補正部70による混色補正が行われる。
バッファブロック74に含まれる画素のうち赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の判定は、上述の第1実施形態と同様に、異常斜め入射光検出部68によって検出される赤色異常斜め入射光58の入射方向に基づいて行われる。例えば、水平方向Aの正方向の赤色異常斜め入射光58がカラー撮像素子27に入射する場合、異常斜め入射光補正部70は、バッファブロック74のうちこの方向に関してR画素と隣接する画素(図9Aでは、ハッチングされたG画素)を「赤色異常斜め入射光58が入射するフォトダイオード64を有する画素」として判定する。
そして、異常斜め入射光補正部70は、バッファブロック74に含まれる画素のうち赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データを、バッファブロック74に隣接する画素ブロック72のうち赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データに対する混色補正量に基づいて、混色補正する。
例えば、図9Aに示すバッファブロック74内の「G画素50Ga」の画素データに対する混色補正量は、このG画素50Gaに対して水平方向Aの負方向側に隣接する画素ブロック72Aにおける混色補正量と、このG画素50Gaに対して水平方向Aの正方向側に隣接する画素ブロック72Bにおける混色補正量とに基づいて、異常斜め入射光補正部70により決定される。
この時の混色補正量の決定方法は、任意の補間手法を用いることができ、例えば線形補間やスプライン補間等を利用して、隣接画素ブロック72の混色補正量から、バッファブロック74内の画素のうち赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データの混色補正量を決定することが可能である。
なお、垂直方向Bに関する赤色異常斜め入射光58の検出及び混色補正も、上述の水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正と同様に行うことができる。
例えば図9Bに示すように、各画素ブロック72は、水平方向Aに隣接配置される「G画素、R画素、G画素、G画素、B画素、G画素」の行及び「G画素、B画素、G画素、G画素、R画素、G画素」の行が垂直方向Bに並置された「6画素(水平方向A)×2画素(垂直方向)」によって構成される。また、垂直方向Bに関して1画素分、水平方向Aに隣接配置される画素群によって、画素ブロック72間のバッファブロック74が構成される。そして、複数の画素の各々は画素ブロック72及びバッファブロック74のうちのいずれかに分類され、画素ブロック72内の画素の画素データに対する赤色異常斜め入射光58の検出及び混色補正は、上述の第1実施形態と同様にして行われる。また、バッファブロック74内の画素の画素データに対する赤色異常斜め入射光58の検出及び混色補正は、上述した水平方向Aの赤色異常斜め入射光58の場合と同様に行われ、補正対象画素に隣接する画素ブロック72における混色補正量に基づいて、異常斜め入射光補正部70により混色補正が行われる。
以上説明したように、本実施形態によれば、画素ブロック72間にバッファブロック74が設けられ、バッファブロック74内の画素の画素データに対する混色補正が隣接画素ブロック72における混色補正量に基づいて行われる。これにより、とりわけバッファブロック74内の画素の画素データに対する混色補正を、高精度に行うことが可能となり、より優れた解像度感を有する撮影画像を得ることができる。
なお、上述の実施形態では、バッファブロック74内の画素の画素データを隣接画素ブロック72における混色補正量に基づいて補正する例について説明したが、隣接画素ブロック72に加え、補正対象画素に近接する範囲での他の周辺画素ブロック72における混色補正量も考慮して、バッファブロック74内の画素の画素データを混色補正してもよい。
<第3実施形態>
図10は、第3実施形態に係るカラー撮像素子27の画素配列を示す図である。本実施形態では、二組の画素群(第1の画素ペアブロック76、第2の画素ペアブロック78)の配置特性を考慮したデータ処理によって、赤色異常斜め入射光58の入射方向の判別が行われる。
図10は、第3実施形態に係るカラー撮像素子27の画素配列を示す図である。本実施形態では、二組の画素群(第1の画素ペアブロック76、第2の画素ペアブロック78)の配置特性を考慮したデータ処理によって、赤色異常斜め入射光58の入射方向の判別が行われる。
上述の第1実施形態、第2実施形態及び変形例と同一又は類似の構成は、同一の符号を付し、その詳細な説明は省略する。
本実施形態のカラー撮像素子27を構成する複数画素の基本配列画素群Pは、水平方向A及び垂直方向Bに関して6画素×6画素の配列を有する画素によって構成され、各基本配列画素群Pは、水平方向A及び垂直方向Bに関して3画素×3画素の画素配列を有する第1サブ配列S1及び第2サブ配列S2を二つずつ含む。第1サブ配列S1同士及び第2サブ配列S2同士はそれぞれ基本配列画素群Pの対角線上に配設され、第1サブ配列S1の各々は水平方向A及び垂直方向Bに関して第2サブ配列S2と隣接配置され、第2サブ配列S2の各々は水平方向A及び垂直方向Bに関して第1サブ配列S1と隣接配置される。
第1サブ配列S1では、水平方向Aに隣接配置される「R画素、G画素、R画素」の行、「G画素、B画素、G画素」の行及び「R画素、G画素、R画素」の行が、垂直方向Bに並置される。また第2サブ配列S2では、水平方向Aに隣接配置される「B画素、G画素、B画素」の行、「G画素、R画素、G画素」の行及び「B画素、G画素、B画素」の行が、垂直方向Bに並置される。したがって、基本配列画素群Pでは、水平方向Aに隣接配置される「R画素、G画素、R画素、B画素、G画素、B画素」の行、「G画素、B画素、G画素、G画素、R画素、G画素」の行、「R画素、G画素、R画素、B画素、G画素、B画素」の行、「B画素、G画素、B画素、R画素、G画素、R画素」の行、「G画素、R画素、G画素、G画素、B画素、G画素」の行、「B画素、G画素、B画素、R画素、G画素、R画素」の行が、垂直方向Bに並置される。
このような配列を有する複数の画素は、第1のRB画素ペア52及び第2のRB画素ペア54によって構成される第1の画素ペアブロック76及び第2の画素ペアブロック78を含む。図10には、一例として、水平方向Aの赤色異常斜め入射光58の検出及び混色補正のための第1のRB画素ペア52及び第2のRB画素ペア54が示されている。第1の画素ペアブロック76及び第2の画素ペアブロック78の各々では、第1のRB画素ペア52及び第2のRB画素ペア54が隣接配置され、水平方向Aに2画素配列され且つ垂直方向Bに2画素配列される。また、第1の画素ペアブロック76と第2の画素ペアブロック78との間で、R画素及びB画素の配置があべこべとなっており、R画素の位置及びB画素の位置が逆転している(図10のR1〜R4及びB1〜B4参照)。
したがって、第1の画素ペアブロック76は、水平方向Aに関して正方向の側及び垂直方向Bに関して正方向の側にR画素が隣接するB画素(B2;第1画素)と、水平方向Aに関して負方向の側及び垂直方向Bに関して負方向の側にR画素が隣接するB画素(B1;第2画素)とを含む。また、第2の画素ペアブロック78は、水平方向Aに関して負方向の側及び垂直方向Bに関して正方向の側にR画素が隣接するB画素(B4;第3画素)と、水平方向Aに関して正方向の側及び垂直方向Bに関して負方向の側にR画素が隣接するB画素(B3;第4画素)とを含む。
異常斜め入射光検出部68における赤色異常斜め入射光58の検出については、上述の実施形態と同様に、第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値を閾値と比較することで、赤色異常斜め入射光58の入射の有無を判定することが可能である。本実施形態では、第1のRB画素ペア52及び第2のRB画素ペア54が隣接配置されて第1の画素ペアブロック76及び第2の画素ペアブロック78が構成されるので、第1の画素ペアブロック76及び第2の画素ペアブロック78の各々におけるB画素の画素データの差分値に基づいて、赤色異常斜め入射光58の入射の有無を判定することができる。
一方、赤色異常斜め入射光58の入射方向は、第1の画素ペアブロック76に含まれる二つのB画素の画素データと、第2の画素ペアブロック78に含まれる二つのB画素の画素データとに基づいて判定される。すなわち、異常斜め入射光検出部68は、第1の画素ペアブロック76に含まれる二つのB画素(B1、B2)の画素データの大小関係と、第2の画素ペアブロック78に含まれる二つのB画素(B3、B4)の画素データの大小関係とから、赤色異常斜め入射光58の入射方向を判定する。
第1の画素ペアブロック76における第1のRB画素ペア52のB画素(B1)の画素データをD1とし、第1の画素ペアブロック76における第2のRB画素ペア54のB画素(B2)の画素データをD2とし、第2の画素ペアブロック78における第2のRB画素ペア54のB画素(B3)の画素データをD3とし、第2の画素ペアブロック78における第1のRB画素ペア52のB画素(B4)の画素データをD4とする。
仮に、第1の画素ペアブロック76の画素データD1及びD2のみを使用する場合、これらの画素データD1及びD2のみからは、赤色異常斜め入射光58の入射方向を厳密には判別することができない。例えば「D1>D2」の大小関係を有する場合、水平方向Aの正方向の赤色異常斜め入射光58による混色(R1画素によるB1画素の混色)か、垂直方向Bの正方向の赤色異常斜め入射光58による混色(R2画素によるB1画素の混色)かを区別することができない。
そこで、本実施形態では、第1の画素ペアブロック76及び第2の画素ペアブロック78の画素データD1〜D4に基づいて赤色異常斜め入射光58の入射方向の算出を行う。例えば上述のケース(「D1>D2」の大小関係を有するケース)において、R1画素によるB1画素の混色が支配的な場合には「D4>D3」が成立し、R2画素によるB1画素の混色が支配的な場合には「D3>D4」が成立する。具体的には、図10に示す例におけるB画素(B3、B4)の画素データの大小関係と、赤色異常斜め入射光58の入射方向とは、以下のように対応する。
「D1>D2」且つ「D3<D4」を満たす場合:水平方向Aの正方向の赤色異常斜め入射光58がカラー撮像素子27に入射している。
「D1<D2」且つ「D3>D4」を満たす場合:水平方向Aの負方向の赤色異常斜め入射光58がカラー撮像素子27に入射している。
「D1>D2」且つ「D3>D4」を満たす場合:垂直方向Bの正方向の赤色異常斜め入射光58がカラー撮像素子27に入射している。
「D1<D2」且つ「D3<D4」を満たす場合:垂直方向Bの負方向の赤色異常斜め入射光58がカラー撮像素子27に入射している。
したがって、赤色異常斜め入射光58の入射を検出した異常斜め入射光検出部68は、例えばB画素の画素データの差分値「D1−D2」及び「D3−D4」を算出し、赤色異常斜め入射光58の入射方向を「(D1−D2)が正且つ(D3−D4)が負の場合は、水平方向Aの正方向」、「(D1−D2)が負且つ(D3−D4)が正の場合は、水平方向Aの負方向」、「(D1−D2)が正且つ(D3−D4)が正の場合は、垂直方向Bの正方向」、「(D1−D2)が負且つ(D3−D4)が負の場合は、垂直方向Bの負方向」と判定する。
なお、上述では水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時の処理について説明したが、垂直方向Bに関する赤色異常斜め入射光58の検出及び混色補正も水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時と同様に行うことができる。この場合、第1の画素ペアブロック76及び第2の画素ペアブロック78において垂直方向Bに隣接するRB画素のペア(図10に示す例では「R1画素、B2画素」、「B1画素、R2画素」、「B3画素、R4画素」、「R3画素、B4画素」)を、第1のRB画素ペア52及び第2のRB画素ペア54として使用することができる。
以上説明したように、本実施形態によれば、一つの第1のRB画素ペア52及び一つの第2のRB画素ペア54の出力画素データのみからは赤色異常斜め入射光58の入射方向の厳密な検出が難しい場合であっても、R画素及びB画素の配置が逆転している第1の画素ペアブロック76及び第2の画素ペアブロック78の出力画素データから、赤色異常斜め入射光58の入射方向を精度良く検出することができる。このように、二組の画素群(第1のRB画素ペア52、第2のRB画素ペア54)の画素データによって、水平方向及び垂直方向(上下左右方向)の赤色異常斜め入射光58を一度に検出及び混色補正することが可能である。
<第4実施形態>
被写体像の配色に起因して本来的にB画素間の画素データに差が生じる場合に、両B画素の画素データを混色補正によって同一値にしてしまうと、得られる画像データにおいて被写体像の本来の配色が失われてしまう。したがって、二組のRB画素ペア(第1のRB画素ペア52、第2のRB画素ペア54)のB画素の画素データの差が被写体像の画素単位での配色の相違に起因する場合に、両画素データの差分値を使った単純な減算処理による混色補正を行うと、得られる画像の解像度感が低下する場合がある。
被写体像の配色に起因して本来的にB画素間の画素データに差が生じる場合に、両B画素の画素データを混色補正によって同一値にしてしまうと、得られる画像データにおいて被写体像の本来の配色が失われてしまう。したがって、二組のRB画素ペア(第1のRB画素ペア52、第2のRB画素ペア54)のB画素の画素データの差が被写体像の画素単位での配色の相違に起因する場合に、両画素データの差分値を使った単純な減算処理による混色補正を行うと、得られる画像の解像度感が低下する場合がある。
本実施形態では、被写体像の本来の配色に関するデータの損失を低減して、解像度感の高い画像データを得るための混色補正を行う例について説明する。
図11は、第4実施形態に係るカラー撮像素子27の画素配列を示す図である。
上述の第1実施形態、第2実施形態、第3実施形態及び変形例と同一又は類似の構成は、同一の符号を付し、その詳細な説明は省略する。
本実施形態のカラー撮像素子27を構成する複数画素の配列は、上述の第1実施形態及び第2実施形態と同じである。
また、複数の画素の各々が複数の画素ブロック72及び複数のバッファブロック74のうちのいずれかに分類される点、及び異常斜め入射光検出部68による赤色異常斜め入射光58の有無及び入射方向の検出手法も、第2実施形態と同じである。
ただし、本実施形態の異常斜め入射光補正部70は、混色補正対象の画素ブロック72における画素データの補正量を算出する際、隣接する周囲の画素ブロック72において算出される混色補正量を加味する。
図11に示す例では、複数の画素ブロック72の各々において、第1のRB画素ペア52と第2のRB画素ペア54とが垂直方向に設けられる。複数の画素ブロック72は、複数の画素ブロック72の各々に含まれる第1のRB画素ペア52と第2のRB画素ペア54との配設方向である垂直方向Bに隣り合う画素ブロック72を含む。例えば、図11に示す画素ブロック72Aは、垂直方向Bの正方向及び負方向のそれぞれに関し、画素ブロック72B及び画素ブロック72Cと隣接する。
異常斜め入射光補正部70は、異常斜め入射光検出部68によって赤色異常斜め入射光58の入射が有ることが検出された第1のRB画素ペア52及び第2のRB画素ペア54を含む画素ブロック72における赤色異常斜め入射光58が入射するフォトダイオード64を有する画素の画素データを、この画素ブロック72における第1のRB画素ペア52のB画素の画素データ及び第2のRB画素ペア54のB画素の画素データと、この画素ブロック72に隣り合う画素ブロック72における第1のRB画素ペア52のB画素の画素データ及び第2のRB画素ペア54のB画素の画素データと、に基づいて補正する。
例えば、図11に示される画素ブロック72Aの第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データからこの画素ブロック72Aへの水平方向Aの赤色異常斜め入射光58の入射が検出された場合、異常斜め入射光検出部68によって、「画素ブロック72Aの第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値DA」、「画素ブロック72Bの第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値DB」及び「画素ブロック72Cの第1のRB画素ペア52及び第2のRB画素ペア54のB画素の画素データの差分値DC」が算出される。
そして、画素ブロック72Aの画素データの混色補正量Dmが、算出された上記の差分値DA、DB、DCから求められる。この混色補正量Dmは任意の手法によって算出可能であり、上記の差分値DA、DB、DCの平均値(Dm=(DA+DB+DC)/3)や移動平均処理によって算出される値を混色補正量Dmとしてもよい。例えば移動平均処理のうち加重移動平均演算による「121フィルタ」を上記の差分値DA、DB、DCに適用する場合、補正対象の画素ブロック72AにおけるB画素の画素データの差分値DAの重みを隣接画素ブロック72B、72CにおけるB画素の画素データの差分値DB、DCの重みの2倍として(Dm=(2×DA+DB+DC)/4)、混色補正量Dmを精度良く求めることができる。
このように、補正対象の画素ブロック72AにおけるB画素の画素データの差分値DAだけではなく、隣接画素ブロック72B、72CにおけるB画素の画素データの差分値DB、DCを加味して、補正対象の画素ブロック72Aにおける混色補正の補正量Dmを算出することで、補正対象の画素ブロック72AにおけるB画素の画素データの劣化を効果的に防ぐことができる。すなわち、本実施形態のように、隣接画素ブロック72B、72CにおけるB画素の画素データの差分値DB、DCを加味して画素ブロック72Aの混色補正量Dmを算出することで、混色補正による解像度感の損失を効果的に抑えることができる。
異常斜め入射光補正部70は、画素ブロック72Aにおいて赤色異常斜め入射光58が入射する水平方向Aに関してR画素と隣接する画素(図11に示す例では第1のRB画素ペア52及び第2のRB画素ペア54のB画素)のうち、画素データ値が大きい方の画素の画素データから上記の混色補正量Dmを減算することで、画素ブロック72Aにおける混色補正を行う。
なお、上述では水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時の処理について説明したが、垂直方向Bに関する赤色異常斜め入射光58の検出及び混色補正も水平方向Aに関する赤色異常斜め入射光58の検出及び混色補正時と同様に行うことができる。
以上説明したように、本実施形態によれば、補正対象の画素ブロック72における混色補正の補正量が、隣接画素ブロック72におけるB画素の画素データを考慮して算出されるので、解像度感の劣化をより一層防いだ混色補正を行うことができる。
以上、本発明の好ましい実施形態について説明したが、本発明は上述の実施形態に限定されるものではなく、他の形態に対しても適宜応用可能である。
カラー撮像素子27の画素配列は特に限定されず、例えば図12に示す画素配列を有するカラー撮像素子27に対しても上述の技術を応用することができる。図12のカラー撮像素子27では、水平方向Aに隣接配置された「G画素、B画素、G画素」、「R画素、G画素、R画素」及び「G画素、B画素、G画素」によって構成される二つの第1サブ配列S1と水平方向Aに隣接配置された「G画素、R画素、G画素」、「B画素、G画素、B画素」及び「G画素、R画素、G画素」によって構成される二つの第2サブ配列S2とが、水平方向A及び垂直方向Bに隣接して配置されることで基本配列画素群Pが構成される。この場合にも、水平方向AにR画素及びB画素が隣接配置される第1のRB画素ペア52A及び第2のRB画素ペア54Aを含む画素ブロック72Aと画素ブロック72A間に設けられるバッファブロック74Aとに基づいて、上述の実施形態及び変形例と同様に、水平方向Aの赤色異常斜め入射光58の検出及び混色補正を行うことが可能である。同様に、垂直方向BにR画素及びB画素が隣接配置される第1のRB画素ペア52B及び第2のRB画素ペア54Bを含む画素ブロック72Bと画素ブロック72B間に設けられるバッファブロック74Bとに基づいて、上述の実施形態及び変形例と同様に、垂直方向Bの赤色異常斜め入射光58の検出及び混色補正することが可能である。
また、カラー撮像素子27の画素配列は特に限定されない。例えば、第1の方向(例えば水平方向)及び第2の方向(例えば垂直方向)に関してN画素×M画素(Nは3以上の整数、Mは3以上の整数)の配列群を基本配列パターンとし、この基本配列パターンが第1の方向及び第2の方向に並置されている配列を、カラー撮像素子27の画素配列として採用することができる。一例として、図13に示すような3画素×3画素の配列群(水平方向に並置される「R画素、B画素、G画素」の行、「B画素、R画素、G画素」の行及び「G画素、G画素、G画素」の行が垂直方向に並置される配列群)を基本配列パターンとして採用するケースが考えられる。なお、基本配列パターンの大きさに関し、基本配列パターンの画素数が増加するとデモザイク処理等の信号処理が複雑化してしまう。したがって、信号処理の複雑化を防止する観点からは、基本配列パターンのサイズは大きすぎない10画素×10画素(水平方向×垂直方向)以下のサイズが好ましく、より好ましくは8画素×8画素(水平方向×垂直方向)以下のサイズが好ましい。
また、上述の実施形態では、複数の画素が水平方向及び垂直方向に配列される例について説明したが、複数の画素の配列方向は、相互に垂直を形成する2方向に基づくものであればよく、例えば水平方向及び垂直方向に対して45度回転させた方向に複数の画素が配列される「ハニカム配列」が採用されてもよい。
また、上記実施形態ではデジタルカメラ10について説明したが、撮像装置の構成はこれに限定されない。本発明を適用可能な他の撮像装置としては、例えば、内蔵型又は外付け型のPC用カメラ、あるいは、以下に説明するような、撮影機能を有する携帯端末装置とすることができる。また、上述の各処理ステップをコンピュータに実行させるプログラム(ソフトウエア)に対しても、本発明を適用することが可能である。
本発明の撮像装置の一実施形態である携帯端末装置としては、例えば、携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機が挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
<スマートフォンの構成>
図14は、本発明の撮像装置の一実施形態であるスマートフォン101の外観を示すものである。図14に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となった表示入力部120を備えている。また、斯かる筐体102は、スピーカ131と、マイクロホン132、操作部140と、カメラ部141とを備えている。なお、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図14は、本発明の撮像装置の一実施形態であるスマートフォン101の外観を示すものである。図14に示すスマートフォン101は、平板状の筐体102を有し、筐体102の一方の面に表示部としての表示パネル121と、入力部としての操作パネル122とが一体となった表示入力部120を備えている。また、斯かる筐体102は、スピーカ131と、マイクロホン132、操作部140と、カメラ部141とを備えている。なお、筐体102の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図15は、図14に示すスマートフォン101の構成を示すブロック図である。図15に示すように、スマートフォンの主たる構成要素として、無線通信部110と、表示入力部120と、通話部130と、操作部140と、カメラ部141と、記憶部150と、外部入出力部160と、GPS(Global Positioning System)受信部170と、モーションセンサ部180と、電源部190と、主制御部100とを備える。また、スマートフォン101の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部110は、主制御部100の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。斯かる無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部120は、主制御部100の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル121と、操作パネル122とを備える。
表示パネル121は、LCD(Liquid Crystal Display)、OELD(Organic Electro−Luminescence Display)などを表示デバイスとして用いたものである。操作パネル122は、表示パネル121の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。斯かるデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部100に出力する。次いで、主制御部100は、受信した検出信号に基づいて、表示パネル121上の操作位置(座標)を検出する。
図14に示すように、本発明の撮像装置の一実施形態として例示しているスマートフォン101の表示パネル121と操作パネル122とは一体となって表示入力部120を構成しているが、操作パネル122が表示パネル121を完全に覆うような配置となっている。斯かる配置を採用した場合、操作パネル122は、表示パネル121外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル122は、表示パネル121に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル121に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル121の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル122が、外縁部分と、それ以外の内側部分の二つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体102の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル122で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部130は、スピーカ131やマイクロホン132を備え、マイクロホン132を通じて入力されたユーザの音声を主制御部100にて処理可能な音声データに変換して主制御部100に出力したり、無線通信部110あるいは外部入出力部160により受信された音声データを復号してスピーカ131から出力するものである。また、図14に示すように、例えば、スピーカ131を表示入力部120が設けられた面と同じ面に搭載し、マイクロホン132を筐体102の側面に搭載することができる。
操作部140は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図14に示すように、操作部140は、スマートフォン101の筐体102の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部150は、主制御部100の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部150は、スマートフォン内蔵の内部記憶部151と着脱自在な外部メモリスロットを有する外部記憶部152により構成される。なお、記憶部150を構成するそれぞれの内部記憶部151と外部記憶部152は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部160は、スマートフォン101に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン101に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン101の内部の各構成要素に伝達することや、スマートフォン101の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部170は、主制御部100の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン101の緯度、経度、高度からなる位置を検出する。GPS受信部170は、無線通信部110や外部入出力部160(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部180は、例えば、3軸の加速度センサなどを備え、主制御部100の指示にしたがって、スマートフォン101の物理的な動きを検出する。スマートフォン101の物理的な動きを検出することにより、スマートフォン101の動く方向や加速度が検出される。斯かる検出結果は、主制御部100に出力されるものである。
電源部190は、主制御部100の指示にしたがって、スマートフォン101の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部100は、マイクロプロセッサを備え、記憶部150が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン101の各部を統括して制御するものである。また、主制御部100は、無線通信部110を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部150が記憶するアプリケーションソフトウェアにしたがって主制御部100が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部160を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部100は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部120に表示する等の画像処理機能を備える。画像処理機能とは、主制御部100が、上記画像データを復号し、斯かる復号結果に画像処理を施して、画像を表示入力部120に表示する機能のことをいう。
更に、主制御部100は、表示パネル121に対する表示制御と、操作部140、操作パネル122を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部100は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル121の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部100は、操作部140を通じたユーザ操作を検出したり、操作パネル122を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部100は、操作パネル122に対する操作位置が、表示パネル121に重なる重畳部分(表示領域)か、それ以外の表示パネル121に重ならない外縁部分(非表示領域)かを判定し、操作パネル122の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部100は、操作パネル122に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部141は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge−Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラである。また、カメラ部141は、主制御部100の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることができる。図14に示すようにスマートフォン101において、カメラ部141は表示入力部120と同じ面に搭載されているが、カメラ部141の搭載位置はこれに限らず、表示入力部120の背面に搭載されてもよいし、あるいは、複数のカメラ部141が搭載されてもよい。なお、複数のカメラ部141が搭載されている場合には、撮影に供するカメラ部141を切り替えて単独にて撮影したり、あるいは、複数のカメラ部141を同時に使用して撮影したりすることもできる。
また、カメラ部141はスマートフォン101の各種機能に利用することができる。例えば、表示パネル121にカメラ部141で取得した画像を表示することや、操作パネル122の操作入力の一つとして、カメラ部141の画像を利用することができる。また、GPS受信部170が位置を検出する際に、カメラ部141からの画像を参照して位置を検出することもできる。更には、カメラ部141からの画像を参照して、3軸の加速度センサを用いずに、あるいは、3軸の加速度センサと併用して、スマートフォン101のカメラ部141の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部141からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部170により取得した位置情報、マイクロホン132により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部180により取得した姿勢情報等などを付加して記憶部150に記録したり、外部入出力部160や無線通信部110を通じて出力したりすることもできる。
上述のスマートフォン101において、図1の画像処理回路32は、例えば主制御部100、記憶部150等によって適宜実現可能である。
10…デジタルカメラ、12…カメラ本体、14…レンズユニット、20…撮影光学系、21…ズームレンズ、22…フォーカスレンズ、23…メカシャッタ、24…ズーム機構、25…フォーカス機構、26…レンズドライバ、27…カラー撮像素子、30…CPU、31…撮像素子ドライバ、32…画像処理回路、33…メディアインターフェース、34…圧縮伸張処理回路、35…表示制御部、36…操作部、37…メモリ、38…メモリカード、39…EVF、40…背面LCD、50…画素、52…第1のRB画素ペア、54…第2のRB画素ペア、56…通常光、58…赤色異常斜め入射光、60…マイクロレンズ、62…カラーフィルタ、64…フォトダイオード、66…異常斜め入射光検出補正部、68…異常斜め入射光検出部、70…異常斜め入射光補正部、72…画素ブロック、74…バッファブロック、76…第1の画素ペアブロック、78…第2の画素ペアブロック、100…主制御部、101…スマートフォン、102…筐体、110…無線通信部、120…表示入力部、121…表示パネル、122…操作パネル、130…通話部、131…スピーカ、132…マイクロホン、140…操作部、141…カメラ部、150…記憶部、151…内部記憶部、152…外部記憶部、160…外部入出力部、170…GPS受信部、180…モーションセンサ部、190…電源部
Claims (17)
- 第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、前記複数の画素の各々がカラーフィルタと、当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有する撮像素子と、
前記画素データに基づいて、前記撮像素子への異常斜め入射光の入射の有無を検出する異常斜め入射光検出手段と、を備え、
前記複数の画素は、前記第1の方向及び前記第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、前記第1色画素の位置と前記第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、
前記第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、前記第2の色のカラーフィルタよりも高い透過率を有し、
前記異常斜め入射光検出手段は、前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとを比較し、前記異常斜め入射光の入射の有無を検出する撮像装置。 - 前記第1の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が50%以上であり、
前記第2の色のカラーフィルタは、600nm〜650nmの波長域における光の透過率が50%未満である請求項1に記載の撮像装置。 - 前記第1の色のカラーフィルタは、赤色フィルタ、透明フィルタ及び白色フィルタのうちのいずれかであり、
前記第2の色のカラーフィルタは、青色フィルタ及び緑色フィルタのうちのいずれかである請求項1又は2に記載の撮像装置。 - 前記異常斜め入射光検出手段は、前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとの差分値が閾値以上か否かに基づいて、前記異常斜め入射光の入射の有無を検出する請求項1から3のいずれか1項に記載の撮像装置。
- 前記異常斜め入射光検出手段は、前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとの大小関係に基づいて、前記異常斜め入射光の入射方向を判定する請求項1から4のいずれか1項に記載の撮像装置。
- 前記異常斜め入射光検出手段の検出結果に基づいて、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを補正する補正手段を更に備え、
前記補正手段は、前記異常斜め入射光検出手段により判定された前記異常斜め入射光の入射方向に基づいて、前記複数の画素のうち、前記異常斜め入射光が入射される前記フォトダイオードを有する画素を判別する請求項5に記載の撮像装置。 - 前記補正手段は、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを、前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとの差分値に基づいて、補正する請求項6に記載の撮像装置。
- 前記補正手段は、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを、前記異常斜め入射光が入射される前記フォトダイオードを有する画素と同色のカラーフィルタを有する画素であって前記異常斜め入射光が入射していない前記フォトダイオードを有する画素の前記画素データに基づいて補正する請求項6に記載の撮像装置。
- 前記複数の画素は複数の画素ブロックを含み、前記複数の画素ブロックの各々は、前記第1の画素ペア及び前記第2の画素ペアを構成する画素と、前記第1の画素ペア及び前記第2の画素ペアを構成する画素に隣接する画素とを含み、
前記複数の画素のうちの少なくとも一部は、前記複数の画素ブロックのいずれかに分類され、
前記補正手段は、前記異常斜め入射光検出手段によって前記異常斜め入射光の入射が有ることが検出された前記第1の画素ペア及び前記第2の画素ペアを含む前記画素ブロックにおいて、前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを、前記第1の画素ペアの前記第2色画素の前記画素データ及び前記第2の画素ペアの前記第2色画素の前記画素データに基づいて補正する請求項6から8のいずれか1項に記載の撮像装置。 - 前記複数の画素は、前記複数の画素ブロックと、前記複数の画素ブロック間に設けられる複数のバッファブロックとを含み、
前記複数の画素の各々は、前記複数の画素ブロック及び前記複数のバッファブロックのうちのいずれかに分類され、
前記補正手段は、前記バッファブロックに含まれる画素のうち前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを、当該バッファブロックに隣接する前記画素ブロックのうち前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データの補正量に基づいて、補正する請求項9に記載の撮像装置。 - 前記複数の画素は、第1の画素ペアブロック及び第2の画素ペアブロックを含み、前記第1の画素ペアブロック及び前記第2の画素ペアブロックの各々では、前記第1の画素ペア及び前記第2の画素ペアが隣接配置されて前記第1の方向に2画素配列され且つ前記第2の方向に2画素配列され、
前記第1の画素ペアブロックと前記第2の画素ペアブロックとの間で、前記第1色画素の位置と前記第2色画素の位置とが逆転しており、
前記異常斜め入射光検出手段は、前記第1の画素ペアブロックに含まれる前記第2の色のカラーフィルタを有する二つの画素の前記画素データと、前記第2の画素ペアブロックに含まれる前記第2の色のカラーフィルタを有する二つの画素の前記画素データとに基づいて、前記異常斜め入射光の入射方向を判定する請求項1から10のいずれか1項に記載の撮像装置。 - 前記第1の画素ペアブロックは、前記第1の方向に関して一方の側及び前記第2の方向に関して一方の側に前記第1色画素が隣接する前記第2の色のカラーフィルタを有する第1画素と、前記第1の方向に関して他方の側及び前記第2の方向に関して他方の側に前記第1色画素が隣接する前記第2の色のカラーフィルタを有する第2画素と、を含み、
前記第2の画素ペアブロックは、前記第1の方向に関して他方の側及び前記第2の方向に関して一方の側に前記第1色画素が隣接する前記第2の色のカラーフィルタを有する第3画素と、前記第1の方向に関して一方の側及び前記第2の方向に関して他方の側に前記第1色画素が隣接する前記第2の色のカラーフィルタを有する第4画素と、を含み、
前記異常斜め入射光検出手段は、前記第1画素の前記画素データと前記第2画素の前記画素データとの大小関係と、前記第3画素の前記画素データと前記第4画素の前記画素データとの大小関係とから、前記異常斜め入射光の入射方向を判定する請求項11に記載の撮像装置。 - 前記複数の画素ブロックの各々において、前記第1の画素ペアと前記第2の画素ペアとは前記第1の方向又は前記第2の方向に設けられ、
前記複数の画素ブロックは、前記第1の方向及び前記第2の方向のうち、前記複数の画素ブロックの各々に含まれる前記第1の画素ペアと前記第2の画素ペアとが設けられる方向に隣り合う前記画素ブロックを含み、
前記補正手段は、前記異常斜め入射光検出手段によって前記異常斜め入射光の入射が有ることが検出された前記第1の画素ペア及び前記第2の画素ペアを含む前記画素ブロックにおける前記異常斜め入射光が入射される前記フォトダイオードを有する画素の前記画素データを、当該画素ブロックの前記第1の画素ペアの前記第2色画素の前記画素データ及び前記第2の画素ペアの前記第2色画素の前記画素データと、当該画素ブロックに隣り合う前記画素ブロックの前記第1の画素ペアの前記第2色画素の前記画素データ及び前記第2の画素ペアの前記第2色画素の前記画素データと、に基づいて補正する請求項9又は10に記載の撮像装置。 - 前記複数の画素は、カラーフィルタ配列パターンを持つ複数の基本配列画素群であって、第1の方向及び第2の方向に並置される複数の基本配列画素群を含み、
前記複数の基本配列画素群の各々は、前記第1の画素ペア及び前記第2の画素ペアを含む請求項1から13のいずれか1項に記載の撮像装置。 - 第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、前記複数の画素の各々がカラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、前記複数の画素は、前記第1の方向及び前記第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、前記第1色画素の位置と前記第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、前記第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、前記第2の色のカラーフィルタよりも高い透過率を有する撮像素子から出力される前記画素データに基づいて、前記撮像素子への異常斜め入射光の入射の有無を検出する異常斜め入射光検出方法であって、
前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとを取得するステップと、
取得された前記第1の画素ペアの前記第2色画素の前記画素データと、取得された前記第2の画素ペアの前記第2色画素の前記画素データとを比較し、前記異常斜め入射光の入射の有無を検出するステップとを含む異常斜め入射光検出方法。 - 第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、前記複数の画素の各々がカラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、前記複数の画素は、前記第1の方向及び前記第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、前記第1色画素の位置と前記第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、前記第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、前記第2の色のカラーフィルタよりも高い透過率を有する撮像素子から出力される前記画素データに基づいて、前記撮像素子への異常斜め入射光の入射の有無を検出する手順をコンピュータに実行させるためのプログラムであって、
前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとを取得する手順と、
取得された前記第1の画素ペアの前記第2色画素の前記画素データと、取得された前記第2の画素ペアの前記第2色画素の前記画素データとを比較し、前記異常斜め入射光の入射の有無を検出する手順とをコンピュータに実行させるためのプログラム。 - 撮像素子から出力される画素データに基づいて、前記撮像素子への異常斜め入射光の入射の有無を検出する手順をコンピュータに実行させるためのプログラムの、コンピュータ読み取り可能なコードが記録された記録媒体であって、
前記撮像素子は、第1の方向及び当該第1の方向に垂直な第2の方向に配列される複数の画素を有する撮像素子であって、前記複数の画素の各々がカラーフィルタと当該カラーフィルタを透過した光を受光して画素データを出力するフォトダイオードとを有し、前記複数の画素は、前記第1の方向及び前記第2の方向のうち少なくとも一方に関し、相互に隣接する第1の色のカラーフィルタを有する第1色画素と第2の色のカラーフィルタを有する第2色画素とによって構成される第1の画素ペア及び第2の画素ペアであって、前記第1色画素の位置と前記第2色画素の位置とが逆転した配置を有する第1の画素ペア及び第2の画素ペアを含み、前記第1の色のカラーフィルタは、赤色光の波長域の少なくとも一部において、前記第2の色のカラーフィルタよりも高い透過率を有し、
前記手順は、
前記第1の画素ペアの前記第2色画素の前記画素データと、前記第2の画素ペアの前記第2色画素の前記画素データとを取得する手順と、
取得された前記第1の画素ペアの前記第2色画素の前記画素データと、取得された前記第2の画素ペアの前記第2色画素の前記画素データとを比較し、前記異常斜め入射光の入射の有無を検出する手順と、を含む、記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014551010A JP5777825B2 (ja) | 2012-12-05 | 2013-11-11 | 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012266473 | 2012-12-05 | ||
JP2012266473 | 2012-12-05 | ||
PCT/JP2013/080410 WO2014087807A1 (ja) | 2012-12-05 | 2013-11-11 | 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 |
JP2014551010A JP5777825B2 (ja) | 2012-12-05 | 2013-11-11 | 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5777825B2 true JP5777825B2 (ja) | 2015-09-09 |
JPWO2014087807A1 JPWO2014087807A1 (ja) | 2017-01-05 |
Family
ID=50883232
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014551010A Expired - Fee Related JP5777825B2 (ja) | 2012-12-05 | 2013-11-11 | 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9380230B2 (ja) |
JP (1) | JP5777825B2 (ja) |
CN (1) | CN104904197B (ja) |
WO (1) | WO2014087807A1 (ja) |
Families Citing this family (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10298834B2 (en) | 2006-12-01 | 2019-05-21 | Google Llc | Video refocusing |
US9858649B2 (en) | 2015-09-30 | 2018-01-02 | Lytro, Inc. | Depth-based image blurring |
CN104838646B (zh) * | 2012-12-07 | 2016-11-23 | 富士胶片株式会社 | 图像处理装置、图像处理方法、程序及记录介质 |
WO2014087804A1 (ja) * | 2012-12-07 | 2014-06-12 | 富士フイルム株式会社 | 撮像装置、画像処理方法及びプログラム |
CN104995912B (zh) * | 2013-03-05 | 2017-03-08 | 富士胶片株式会社 | 摄像装置、图像处理装置及图像处理方法 |
US10334151B2 (en) | 2013-04-22 | 2019-06-25 | Google Llc | Phase detection autofocus using subaperture images |
WO2014185209A1 (ja) * | 2013-05-13 | 2014-11-20 | 富士フイルム株式会社 | 混色率算出装置及び方法並びに撮像装置 |
US9679212B2 (en) * | 2014-05-09 | 2017-06-13 | Samsung Electronics Co., Ltd. | Liveness testing methods and apparatuses and image processing methods and apparatuses |
US10419737B2 (en) | 2015-04-15 | 2019-09-17 | Google Llc | Data structures and delivery methods for expediting virtual reality playback |
US11328446B2 (en) | 2015-04-15 | 2022-05-10 | Google Llc | Combining light-field data with active depth data for depth map generation |
US10567464B2 (en) | 2015-04-15 | 2020-02-18 | Google Llc | Video compression with adaptive view-dependent lighting removal |
US10440407B2 (en) | 2017-05-09 | 2019-10-08 | Google Llc | Adaptive control for immersive experience delivery |
US10341632B2 (en) | 2015-04-15 | 2019-07-02 | Google Llc. | Spatial random access enabled video system with a three-dimensional viewing volume |
US10565734B2 (en) | 2015-04-15 | 2020-02-18 | Google Llc | Video capture, processing, calibration, computational fiber artifact removal, and light-field pipeline |
US10540818B2 (en) | 2015-04-15 | 2020-01-21 | Google Llc | Stereo image generation and interactive playback |
US10412373B2 (en) | 2015-04-15 | 2019-09-10 | Google Llc | Image capture for virtual reality displays |
US10469873B2 (en) | 2015-04-15 | 2019-11-05 | Google Llc | Encoding and decoding virtual reality video |
US10546424B2 (en) | 2015-04-15 | 2020-01-28 | Google Llc | Layered content delivery for virtual and augmented reality experiences |
US10275898B1 (en) | 2015-04-15 | 2019-04-30 | Google Llc | Wedge-based light-field video capture |
US10444931B2 (en) | 2017-05-09 | 2019-10-15 | Google Llc | Vantage generation and interactive playback |
US9979909B2 (en) * | 2015-07-24 | 2018-05-22 | Lytro, Inc. | Automatic lens flare detection and correction for light-field images |
US11244478B2 (en) * | 2016-03-03 | 2022-02-08 | Sony Corporation | Medical image processing device, system, method, and program |
US10275892B2 (en) | 2016-06-09 | 2019-04-30 | Google Llc | Multi-view scene segmentation and propagation |
US10574872B2 (en) * | 2016-12-01 | 2020-02-25 | Semiconductor Components Industries, Llc | Methods and apparatus for single-chip multispectral object detection |
US10679361B2 (en) | 2016-12-05 | 2020-06-09 | Google Llc | Multi-view rotoscope contour propagation |
US10594945B2 (en) | 2017-04-03 | 2020-03-17 | Google Llc | Generating dolly zoom effect using light field image data |
US10474227B2 (en) | 2017-05-09 | 2019-11-12 | Google Llc | Generation of virtual reality with 6 degrees of freedom from limited viewer data |
KR102354991B1 (ko) | 2017-05-24 | 2022-01-24 | 삼성전자주식회사 | 픽셀 회로 및 이를 포함하는 이미지 센서 |
US10354399B2 (en) | 2017-05-25 | 2019-07-16 | Google Llc | Multi-view back-projection to a light-field |
US10545215B2 (en) | 2017-09-13 | 2020-01-28 | Google Llc | 4D camera tracking and optical stabilization |
JP6259155B1 (ja) * | 2017-10-03 | 2018-01-10 | 日本板硝子株式会社 | 光学フィルタ及び撮像装置 |
US10965862B2 (en) | 2018-01-18 | 2021-03-30 | Google Llc | Multi-camera navigation interface |
US11650360B2 (en) * | 2019-09-13 | 2023-05-16 | GM Cruise Holdings LLC. | Color filter array patterns for enhancing a low-light sensitivity while preserving a color accuracy in image signal processing applications |
CN114596280B (zh) * | 2022-03-08 | 2022-09-09 | 常州市宏发纵横新材料科技股份有限公司 | 一种碳纤维布面生产过程中碎屑纸的检测方法及装置 |
Family Cites Families (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2739586B2 (ja) | 1989-02-10 | 1998-04-15 | 富士写真フイルム株式会社 | カラー固体撮像デバイス |
DE19616440A1 (de) * | 1996-04-25 | 1997-10-30 | Eastman Kodak Co | Verfahren und Vorrichtung zur Gewinnung eines vollen Farbbildes oder Multispektralbildes aus Bilddaten eines CCD-Bildsensors mit Mosaik-Farbfilter |
US7057659B1 (en) | 1999-07-08 | 2006-06-06 | Olympus Corporation | Image pickup device and image pickup optical system |
JP3990081B2 (ja) | 1999-11-16 | 2007-10-10 | オリンパス株式会社 | 電子撮像装置及び撮像光学系 |
JP3944151B2 (ja) | 2003-10-31 | 2007-07-11 | キヤノン株式会社 | 画像処理方法、画像処理装置および画像処理プログラム |
JP5151075B2 (ja) | 2005-06-21 | 2013-02-27 | ソニー株式会社 | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
EP2034743A4 (en) * | 2007-05-31 | 2014-03-05 | Panasonic Corp | IMAGE PROCESSING DEVICE |
CN101569205B (zh) * | 2007-06-15 | 2012-05-23 | 松下电器产业株式会社 | 图像处理装置 |
WO2009072260A1 (ja) * | 2007-12-07 | 2009-06-11 | Panasonic Corporation | 画像処理装置および画像処理方法ならびに撮像装置 |
US7745779B2 (en) | 2008-02-08 | 2010-06-29 | Aptina Imaging Corporation | Color pixel arrays having common color filters for multiple adjacent pixels for use in CMOS imagers |
JP5173496B2 (ja) * | 2008-03-06 | 2013-04-03 | キヤノン株式会社 | 撮像装置及び撮像システム |
JP5254762B2 (ja) | 2008-11-28 | 2013-08-07 | キヤノン株式会社 | 撮像装置、撮像システム、及び撮像装置における信号の補正方法 |
JP5152114B2 (ja) * | 2009-06-30 | 2013-02-27 | ソニー株式会社 | 画像処理装置及び画像処理方法、撮像装置、並びにコンピューター・プログラム |
JP5436114B2 (ja) * | 2009-09-18 | 2014-03-05 | キヤノン株式会社 | 撮像システム |
US8619163B2 (en) | 2009-09-18 | 2013-12-31 | Canon Kabushiki Kaisha | Solid state imaging using a correction parameter for correcting a cross talk between adjacent pixels |
JP5232118B2 (ja) * | 2009-09-30 | 2013-07-10 | 富士フイルム株式会社 | 撮像デバイスおよび電子カメラ |
JP2011155365A (ja) * | 2010-01-26 | 2011-08-11 | Honda Elesys Co Ltd | 画像処理装置および画像処理方法 |
JP5523213B2 (ja) * | 2010-06-22 | 2014-06-18 | オリンパスイメージング株式会社 | 撮像装置および撮像方法 |
CN102696228B (zh) * | 2010-10-04 | 2015-01-21 | 富士胶片株式会社 | 成像设备和混色校正方法 |
JP5589760B2 (ja) | 2010-10-27 | 2014-09-17 | ソニー株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム。 |
US8742309B2 (en) * | 2011-01-28 | 2014-06-03 | Aptina Imaging Corporation | Imagers with depth sensing capabilities |
WO2012117584A1 (ja) * | 2011-02-28 | 2012-09-07 | 富士フイルム株式会社 | カラー撮像装置 |
EP2645722A4 (en) * | 2011-03-11 | 2014-05-14 | Fujifilm Corp | IMAGING APPARATUS AND METHOD FOR CONTROLLING THEIR OPERATION |
WO2012127699A1 (ja) * | 2011-03-24 | 2012-09-27 | 富士フイルム株式会社 | カラー撮像素子、撮像装置、及び撮像プログラム |
JP5898428B2 (ja) * | 2011-08-09 | 2016-04-06 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
EP2762943B1 (en) * | 2011-09-29 | 2017-01-11 | Fujifilm Corporation | Solid state image capture element, image capture device, and focus control method |
JP5621056B2 (ja) * | 2011-12-27 | 2014-11-05 | 富士フイルム株式会社 | カラー撮像素子 |
WO2013099792A1 (ja) * | 2011-12-28 | 2013-07-04 | 富士フイルム株式会社 | 画像処理装置及び方法並びに撮像装置 |
US20130201388A1 (en) * | 2012-02-03 | 2013-08-08 | Novatek Microelectronics Corp. | Optical sensing apparatus and optical setting method |
JP5542249B2 (ja) * | 2012-03-28 | 2014-07-09 | 富士フイルム株式会社 | 撮像素子及びこれを用いた撮像装置及び撮像方法 |
JP5542250B2 (ja) * | 2012-03-28 | 2014-07-09 | 富士フイルム株式会社 | 固体撮像素子、撮像装置、及び固体撮像素子の駆動方法 |
WO2013168505A1 (ja) * | 2012-05-10 | 2013-11-14 | 富士フイルム株式会社 | 撮像装置及び信号補正方法 |
CN104335578B (zh) * | 2012-06-07 | 2016-09-28 | 富士胶片株式会社 | 摄像装置、图像处理装置及图像处理方法 |
JP5914192B2 (ja) * | 2012-06-11 | 2016-05-11 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP5680803B2 (ja) * | 2012-07-06 | 2015-03-04 | 富士フイルム株式会社 | 画像処理装置および方法ならびに撮像装置 |
JP5698875B2 (ja) * | 2012-07-06 | 2015-04-08 | 富士フイルム株式会社 | カラー撮像素子および撮像装置 |
WO2014027588A1 (ja) * | 2012-08-14 | 2014-02-20 | ソニー株式会社 | 固体撮像装置および電子機器 |
JP5755814B2 (ja) * | 2012-08-27 | 2015-07-29 | 富士フイルム株式会社 | 画像処理装置、方法、プログラム及び撮像装置 |
JP5937690B2 (ja) * | 2012-09-19 | 2016-06-22 | 富士フイルム株式会社 | 撮像装置及びその制御方法 |
JP5775976B2 (ja) * | 2012-11-22 | 2015-09-09 | 富士フイルム株式会社 | 撮像装置、デフォーカス量演算方法、及び撮像光学系 |
CN104838646B (zh) * | 2012-12-07 | 2016-11-23 | 富士胶片株式会社 | 图像处理装置、图像处理方法、程序及记录介质 |
WO2014087804A1 (ja) * | 2012-12-07 | 2014-06-12 | 富士フイルム株式会社 | 撮像装置、画像処理方法及びプログラム |
WO2014097899A1 (ja) * | 2012-12-21 | 2014-06-26 | 富士フイルム株式会社 | 固体撮像装置 |
CN104995912B (zh) * | 2013-03-05 | 2017-03-08 | 富士胶片株式会社 | 摄像装置、图像处理装置及图像处理方法 |
JP2014179939A (ja) * | 2013-03-15 | 2014-09-25 | Sony Corp | 信号処理装置および信号処理方法 |
JP6104049B2 (ja) * | 2013-05-21 | 2017-03-29 | オリンパス株式会社 | 画像処理装置、画像処理方法、および画像処理用プログラム |
JP6295526B2 (ja) * | 2013-07-11 | 2018-03-20 | ソニー株式会社 | 固体撮像装置および電子機器 |
WO2015004886A1 (ja) * | 2013-07-12 | 2015-01-15 | パナソニックIpマネジメント株式会社 | 撮像装置 |
JP2015037102A (ja) * | 2013-08-12 | 2015-02-23 | 株式会社東芝 | 固体撮像装置 |
JP2015060855A (ja) * | 2013-09-17 | 2015-03-30 | ソニー株式会社 | 固体撮像装置およびその製造方法、並びに電子機器 |
US20150090909A1 (en) * | 2013-09-30 | 2015-04-02 | Capella Microsystems (Taiwan), Inc. | Selectable view angle optical sensor |
US9392198B2 (en) * | 2014-02-26 | 2016-07-12 | Semiconductor Components Industries, Llc | Backside illuminated imaging systems having auto-focus pixels |
KR102374109B1 (ko) * | 2014-08-01 | 2022-03-14 | 삼성전자주식회사 | 크로스토크 특성을 개선하는 이미지 센서 및 그의 제조 방법 |
-
2013
- 2013-11-11 JP JP2014551010A patent/JP5777825B2/ja not_active Expired - Fee Related
- 2013-11-11 WO PCT/JP2013/080410 patent/WO2014087807A1/ja active Application Filing
- 2013-11-11 CN CN201380063221.7A patent/CN104904197B/zh not_active Expired - Fee Related
-
2015
- 2015-05-04 US US14/703,343 patent/US9380230B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPWO2014087807A1 (ja) | 2017-01-05 |
US9380230B2 (en) | 2016-06-28 |
US20150237273A1 (en) | 2015-08-20 |
CN104904197A (zh) | 2015-09-09 |
WO2014087807A1 (ja) | 2014-06-12 |
CN104904197B (zh) | 2016-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5777825B2 (ja) | 撮像装置、異常斜め入射光検出方法及びプログラム、並びに記録媒体 | |
JP5802858B2 (ja) | 撮像装置、画像処理装置、画像処理方法及びプログラム | |
JP5778873B2 (ja) | 画像処理装置、画像処理方法及びプログラム、並びに記録媒体 | |
US9667877B2 (en) | Imaging device and imaging method | |
JP5982601B2 (ja) | 撮像装置及び合焦制御方法 | |
JP5799178B2 (ja) | 撮像装置及び合焦制御方法 | |
JP5677625B2 (ja) | 信号処理装置、撮像装置、信号補正方法 | |
JP6028112B2 (ja) | 撮像装置及び合焦制御方法 | |
JP5982600B2 (ja) | 撮像装置及び合焦制御方法 | |
US9374544B2 (en) | Image capture device, image processing method, and program | |
JP5865555B2 (ja) | 混色率算出装置及び方法並びに撮像装置 | |
WO2017208702A1 (ja) | 撮像素子及び撮像装置 | |
JP5677628B2 (ja) | 撮像装置及び撮像方法 | |
JP5702891B2 (ja) | 画像処理装置、撮像装置、コンピュータ、画像処理方法及びプログラム | |
WO2014097792A1 (ja) | 撮像装置、信号処理方法、信号処理プログラム | |
JP5680803B2 (ja) | 画像処理装置および方法ならびに撮像装置 | |
CN104838647B (zh) | 摄像装置、图像处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150616 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150707 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5777825 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |