以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、本実施形態に係る撮像装置の一例としてのデジタルカメラ10の構成を説明する図である。デジタルカメラ10は、可視外帯域の被写体光束を撮像する撮像装置である。デジタルカメラ10は、撮影光学系としての撮影レンズ20と、撮像素子100とを備える。撮影レンズ20は、光軸21に沿って入射する被写体光束を撮像素子100へ導く。デジタルカメラ10は、撮影レンズ20および撮像素子100に加えて、制御部201、A/D変換回路202、ワークメモリ203、駆動部204、画像処理部205、システムメモリ206、メモリカードIF207、操作部208、表示部209、LCD駆動回路210、および通信部211を備える。
なお、図示するように、撮像素子100へ向かう光軸21に平行な方向をZ軸プラス方向と定め、Z軸と直交する平面において紙面奥へ向かう方向をX軸プラス方向、紙面上へ向かう方向をY軸プラス方向と定める。撮影における構図との関係は、X軸が水平方向、Y軸が垂直方向となる。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
撮影レンズ20は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。撮影レンズ20は、デジタルカメラ10に対して着脱できる交換式レンズであっても構わない。この場合には、カメラボディが撮像装置として機能する。なお、図1では撮影レンズ20を説明の都合上、瞳近傍に配置された仮想的な1枚のレンズで代表して表している。
撮像素子100は、撮影レンズ20の焦点面近傍に配置されている。撮像素子100は、可視外帯域に受光感度を有する赤外用のイメージセンサである。本実施形態においては、その一例として、撮像素子100は、近赤外帯域である800nmから2500nmのうち800nmから2000nmの範囲に受光感度を有する。なお、この近赤外帯域及び受光感度の範囲は、本例に限られない。
撮像素子100は、二次元的に配列された複数の画素を備える。複数の画素のそれぞれは、光電変換部と、当該光電変換部に対応して設けられたバンドパスフィルタとを備える。詳しくは後述するが、本実施形態においては、3種類のバンドパスフィルタが存在し、複数の光電変換部のそれぞれには、いずれかのバンドパスフィルタが設けられている。
撮像素子100は、駆動部204によりタイミング制御されて、受光面上に結像された被写体像を画素信号に変換してA/D変換回路202へ出力する。A/D変換回路202は、撮像素子100が出力する出力信号としての画素信号をデジタル信号に変換する。そして、デジタル変換により得られた撮像データをワークメモリ203へ出力する。
制御部201は、撮像素子100の出力信号から生成された撮像データを可視色空間における画像データへ変換するための可視外波長情報の一例としての赤外波長情報を生成する生成部としての役割を担う。可視色空間は、予め定められた表色系で扱える色の範囲を示す。換言すると、表色系が扱える色の範囲を示すので、本明細書では可視色空間を表示系色空間と記す場合もある。詳しくは後述するが、赤外波長情報は、被写体光束の波長に対する撮像素子100の出力特性である感度特性に基づいて定義される。
画像処理部205は、ワークメモリ203をワークスペースとして、撮像データに対して輝度補正処理等の種々の処理を施す。また、画像処理部205は、種々の処理が施された撮像データにタグ情報として赤外波長情報を関連付ける処理部としての役割を担う。そして、撮像データと赤外波長情報が関連付けられた撮像ファイルを、メモリカードIF207に装着されているメモリカード220に記録する。
制御部201および画像処理部205は協働して、赤外波長情報を用いて撮像データを可視色空間における画像データに変換する。変換の詳細は、後述する。
画像処理部205は、3種類のバンドパスフィルタの波長帯域のそれぞれに互いに異なる可視帯域を割り当てることにより、赤外波長帯域に基づく撮像データを可視波長帯域に変換して画像データを生成することができる。
生成された画像データは、LCD駆動回路210により表示信号に変換され、表示部209に表示される。詳しくは後述するが、例えば水と油のように、可視波長帯域に基づく画像では色弁別することが困難な被写体であっても、赤外波長帯域に基づく画像では色弁別することができる。表示部209には、各種設定のためのメニュー画面も表示される。例えば、後述する基準点の設定に関するメニュー画面が表示される。また、生成された画像データは、メモリカードIF207に装着されているメモリカード220に記録される。
システムメモリ206は、デジタルカメラ10を制御するプログラム、各種パラメータ等を記録する。本実施形態においては、撮像パラメータを記憶している。撮像パラメータは、光源特性を示す情報、3種類のバンドパスフィルタの透過率を示す情報、撮像素子100の受光感度を示す情報等を含む。透過率を示す情報は、一定間隔の波長帯域毎に透過率が対応付けられたテーブルとして記憶されてもよいし、波長帯域に応じた透過率を算出するための関数として記憶されてもよい。
操作部208は、ユーザの操作を受け付けて、操作に応じた操作信号を制御部201に出力する。例えば、基準点の設定に関するメニュー画面が表示部209に表示された場合に、操作に応じて、基準点の設定に関する操作信号を制御部201に出力する。ユーザは、操作部208を介して、基準点の設定方法等を選択することができる。
また、操作部208はレリーズスイッチ、十字キー、OKキー等の操作部材を含む。レリーズスイッチは、押下げ方向に2段階に検知できる押しボタンで構成されている。制御部201は、1段階目の押下げであるSW1の検知により撮影準備動作であるAF、AE等を実行し、2段階目の押下げであるSW2の検知により撮像素子100による被写体像の取得動作を実行する。なお、本実施形態においてAFは、赤外波長帯域で被写体像が合焦するように実行される。
通信部211は、他の装置と通信する。通信部211は、操作部208を介したユーザの操作に応じて撮像ファイルを他の装置に送信する。他の装置として、パーソナルコンピュータ、スマートフォン、タブレット等の表示部を備えた装置、インターネット上のサーバ装置等を挙げることができる。
なお、一連の撮影シーケンスは、操作部208がユーザの操作を受け付けて、制御部201へ操作信号を出力することにより開始される。
図2は、撮像素子100の各光電変換部上に配置されたバンドパスフィルタの説明図である。3種類のバンドパスフィルタのそれぞれは、被写体光束のうち連続する近赤外帯域の一部を通過させる。通過させる帯域は、3種類のバンドパスフィルタで互いに異なる。図示されるように、本実施形態においては、3種類のバンドパスフィルタとしてNIR1フィルタ、NIR2フィルタ、およびNIR3フィルタが設けられている。NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタは、2画素×2画素からなる4画素101に対してベイヤー配列のように割り当てられる。より詳細には、NIR2フィルタが左上と右下の2画素に、NIR1フィルタが左下の1画素に、NIR3フィルタが右上の1画素に割り当てられる。なお、バンドパスフィルタの配置は、本例に限られない。
撮像素子100の全体としては、2次元的に配列された複数の画素のそれぞれが離散的にNIR1フィルタ、NIR2フィルタ、およびNIR3フィルタのいずれかを備えることになる。したがって、撮像素子100は、入射する被写体光束をそれぞれの波長帯域に分離して検出すると言える。換言すれば、撮像素子100は、受光面に結像する被写体像を赤外帯域であって互いに異なる3つの波長帯域に分離して光電変換する。
図3は、撮像素子100の出力特性を説明する図である。図3(a)は、バンドパスフィルタを説明する図である。横軸は波長[nm]を示し、縦軸は透過率[%]を示す。図3(b)は、撮像素子100の受光感度を説明する図である。横軸は波長[nm]を示し、縦軸は受光感度を示す。ここでは、最大感度波長での受光感度を100として正規化した場合を示す。なお、説明を簡単にするべく、受光感度が100の場合には、変換効率は100%であるとする。図3(c)は、バンドパスフィルタと撮像素子100の受光感度によって定まる出力特性を示す図である。横軸は波長[nm]を示し、縦軸は受光感度を示す。破線は、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタの透過率の分布を示し、一点鎖線は、撮像素子100の受光感度の感度分布を示す。実線は、出力特性の感度分布を示す。
図3(a)に示すように、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタの透過率の分布形状のそれぞれは、全体的に略同一である。より詳細には、NIR1フィルタは、約700nmから約1550nmに透過率を有し、NIR1フィルタのピーク波長λaは1150nmである。NIR2フィルタは、約950nmから約1800nmに透過率を有し、NIR2フィルタのピーク波長λbは1400nmである。NIR3フィルタは、約1250nmから約2100nmに透過率を有し、NIR3フィルタのピーク波長λcは1650nmである。
NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタのそれぞれは、他のバンドフィルタのピーク波長で透過率を有する。具体的には、NIR1フィルタは、NIR2フィルタのピーク波長で透過率を有する。同様に、NIR3フィルタは、NIR2フィルタのピーク波長で透過率を有する。また、NIR2フィルタは、NIR1フィルタおよびNIR3フィルタのピーク波長のそれぞれで透過率を有する。
図3(b)に示すように、撮像素子100は、約800nmから約2000nmに受光感度を有する。より詳細には、受光感度は、約800nmから約1050nmにかけて急激に上昇する。受光感度は、約1050nmから約1750nmの範囲で100である。受光感度は、約1750nmから約2000nmにかけて急激に下降する。
ここで、撮像素子100の出力特性は、バンドパスフィルタの透過率と撮像素子100の受光感度との掛け算により算出される。本実施形態では、撮像素子100の出力特性は、掛け算により算出される受光感度のうち予め定められる閾値以上の受光感度(例えば1%)を有する範囲として定義される。
図3(c)に示すように、約1050nmから約1750nmの範囲では、撮像素子100の受光感度が100であるので、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタの透過率がそのまま出力特性となる。一方、約800nmから約1050nmの範囲、および約1750nmから約2000nmの範囲では、撮像素子100の受光感度が100ではないので、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタの透過率がそのまま出力特性とはならない。約800nmから約1050nmの範囲では、出力特性は、NIR1フィルタおよびNIR2フィルタの透過率のそれぞれに撮像素子100の受光感度が掛け算されることにより算出される。同様に、約1750nmから約2000nmの範囲では、NIR2フィルタおよびNIR3フィルタの透過率のそれぞれに撮像素子100の受光感度が掛け算されることにより算出される。結果として、出力特性の下限値は850nmとなり、上限値は1950nmとなる。
図4は、撮像素子100の出力特性により定義される空間を説明する図である。本実施形態においては、出力特性の範囲、すなわち非可視の波長帯域を可視の波長帯域と同様に扱うべく、可視のCIE表色系に対応させた仮想的な表色系を定義する。具体的には、出力特性の下限値および上限値により定義される領域301(点線で囲まれる領域)を、後述する色度図の可視領域に対応する領域として定義する。つまり、領域301の曲線部を、下限値である850nmから上限値である1950nmまでの連続する波長により定義する。可視領域は一般に馬蹄形で表現されるので、領域301を可視領域と相似形とすることにより、領域301を可視領域の全体に対応させることができる。このように領域301を定義することにより、後述するように領域301が可視領域に変換される場合に、領域301の全体を可視領域に含めることができ、かつ、可視領域の全体を利用することができる。なお、図4は、色度座標のx、yに対応するx'、y'を座標軸として図示している。横軸がx'であり、縦軸はy'である。なお、本実施形態においては、領域301は可視領域に倣って馬蹄形で表現されたが、その形状は馬蹄形に限られない。領域301は後述する領域303で示される三角形を含んでいればよい。
領域301が定義されると、続いて基準点RefPの座標(m,n)が設定される。詳しくは後述するが、本実施形態においては、基準点RefPの座標(m,n)は、デフォルトの位置として後述する基準白色に対応する位置に設定される。下限値、上限値、および基準点RefPが決定されると、基準点RefPの座標(m,n)を(0.33,0.33)に設定するべく、基準点RefPと領域301の曲線部の各点における波長との関係性が定まる。つまり、ピーク波長λa、ピーク波長λb、およびピーク波長λcの座標が一意に定まる。
領域302は、ピーク波長λa、ピーク波長λb、およびピーク波長λcのそれぞれの点を直線で結んだ領域である。領域302は、後述する領域302で示される領域よりも広い。
領域303は、ピーク波長λaと基準点RefPを結ぶ直線上の点ABと、ピーク波長λbと基準点RefPを結ぶ直線上の点CDと、ピーク波長λcと基準点RefPを結ぶ直線上の点EFとを直線で結んだ領域である。領域303は、実際に再現可能な色空間を示す。なお、領域303は、赤外波長帯域の領域であるので、実際には色として視認することができない領域であるが、本明細書では、説明の便宜上、色空間と呼ぶ。本明細書においては、表示系色空間に対応する空間として領域303を撮像系色空間と記す。また、領域303を可視色空間に対応させて仮想色空間と記す場合もある。撮像系色空間においては、各バンドパスフィルタが通過させた赤外波長帯域が数値の組み合わせで表現される。領域303は、各バンドパスフィルタの透過率の分布によって決定される。
基準点RefPの座標(m,n)が設定されると、表示の分解能が決定される。換言すると、ピーク波長λa、ピーク波長λb、およびピーク波長λcのそれぞれの点から領域303の対応する各頂点までの距離が決定される。つまり、点ABの座標(a,b)、点CDの座標(c,d)、点EFの座標(e,f)が決定される。これにより、領域303の面積、すなわち彩度が決定される。
図5は、撮像系色空間と表示系色空間の対応関係を説明する図である。図5(a)は、図4と同一である。図5(b)は、可視の表色系色度図を示す。横軸がxであり、縦軸はyである。
上述したように、図5(a)の領域301は、図5(b)における、可視領域を示す領域401に対応付けられる。具体的には、領域301の下限値である850nmと、領域401の下限値である380nmとが対応付けられ、領域301の上限値である1950nmと、領域401の上限値である700nmとが対応付けられる。図5(b)の領域401の曲線部における各点の波長間の幅は、一定ではない。基準白色RefWの座標(o,p)を(0.33,0.33)に設定するべく、基準白色RefWと領域401の曲線部の各点における波長との関係性は定まる。具体的には、波長間の幅は、380nmから470nmの範囲では細かく、470nmから620nmの範囲では粗く、620nmから700nmの範囲では細かく設定される。図5(a)の領域301の曲線部における各点の波長間の幅も同様に、下限値付近および上限値付近では細かく、それ以外では粗くなるように設定される。なお、領域401の下限値および上限値は、人間の視覚特性に応じて決定されるので、固定である。一方、詳しくは後述するが、領域301の下限値および上限値は、赤外波長帯域であり、人間の視覚特性とは無関係に決定されるので、可変である。
本実施形態においては、基準点RefPの座標(m,n)は、特定座標としての、基準白色RefWの座標(o,p)に対応付けられる。図5(a)の領域303(すなわち仮想色空間)は、図5(b)の領域403(すなわち可視色空間)に対応付けられる。具体的には、頂点ABの座標(a,b)は頂点GHの座標(g,h)に対応付けられる。すなわち、頂点ABの座標(a,b)付近の座標は、青系統の色に対応付けられる。頂点CDの座標(c,d)は頂点IJの座標(i,j)に対応付けられる。すなわち、頂点CDの座標(c,d)付近の座標は、緑系統の色に対応付けられる。頂点EFの座標(e,f)は頂点KLの座標(k,l)に対応付けられる。すなわち、頂点EFの座標(e,f)付近の座標は、赤系統の色に対応付けられる。被写体を表す座標が領域303にマッピングされれば、当該座標を領域403の座標に変換することができる。すなわち、可視の色に変換することができる。なお、領域303の頂点ABは、基準点RefPとピーク波長λaとの線上に位置するので、基準点RefPとピーク波長λaを結ぶ直線に対するピーク波長λaと頂点ABを結ぶ直線の割合が定まる。可視の表色系色度図でも同様の割合で表現することができる。つまり、領域303の頂点ABとピーク波長λaとが定まれば、頂点GHの座標(g,h)を決定することができる。同様に、頂点IJの座標(i,j)、頂点KLの座標(k,l)を決定することができる。
図6は、表示系色空間の色分布を説明する図である。図6は、図5(b)と同様に、可視の表色系色度図を示しており、横軸がxであり、縦軸はyである。上述のように、領域403は可視色空間である。可視色空間では、色が連続的に変化するが、ここでは説明を簡単にするべく、破線によって示されるように、領域403が「青系」、「緑系」、「赤系」の三つの領域に区分されるとして説明する。
図7は、基準点RefPを説明する図である。図7(a)は、被写体スペクトルを説明する図である。横軸は波長[nm]を示し、縦軸は正規化されたスペクトル強度を示す。被写体として油および水を例に挙げる。実線は油のスペクトルを示し、破線は水のスペクトルを示す。
図示されるように、油は、900nmから1700nmの間の広範囲にわたってスペクトル強度を有している。より詳細には、油のスペクトル強度は、900nmから1350nm付近にかけては、1150nm付近から1200nm付近の間で若干下降するものの、全体的には上昇しており、0.1付近から1付近まで上昇する。1350nm付近から1700nm付近にかけては、1410nm付近から1480付近nmの間で一旦上昇するものの、全体的には下降しており、1付近から0.1付近まで下降する。
水のスペクトル強度は、900nmから1100nm付近にかけて0.2弱から1付近まで上昇する。1100nm付近から1400nm付近にかけては、1150nm付近から1270nm付近の間で一旦上昇するものの、全体的には下降しており、1付近から0.2付近まで下降する。1400nm付近から1700nm付近にかけては、略横ばいに推移し、1650nm付近から1700の間で若干下降する。
油のスペクトル強度は近赤外の波長帯域の比較的広範囲にわたるので、油は可視に変換後の画像では水に比べて白っぽい色として認識される。一方、水のスペクトル強度は、1100nm付近まで急激に上昇し、1250nm付近以降に急激に下降するので、1100nm付近までの帯域および1200nm付近以降の帯域において油のスペクトル強度とは大きな差がある。NIR2フィルタおよびNIR3フィルタの波長帯域に相当するスペクトル強度が相対的に小さいので、水は可視に変換後の画像において全体的に青系統の色として認識される。
図7(b)、(c)、(d)、(e)は、基準点RefPの位置を説明する図である。ここでは、図面を簡略化するべく仮想色空間のみを抽出して図示している。各図において、領域501は仮想色空間に対して水がマッピングされた領域を示し、領域502は仮想色空間に対して油がマッピングされた領域を示す。上述のように、基準点RefPは、基準白色RefWに対応付けられる。水に割り当てられる色と油に割り当てられる色とは、基準点RefPと領域501および領域502との相対的な位置関係で決定される。
図7(b)の例では、基準点RefPは、図4および図5で示した基準点RefPと同一の位置に設定されている。この場合には、上述したように、水は青系統の色として認識され、油は白っぽい色として認識される。
図7(c)の例では、基準点RefPは図7(b)で示した基準点RefPの位置よりも領域501寄りに設定されている。基準点RefPと領域501との相対的な距離が小さくなるので、水は、青系統の色というよりも白っぽい色として認識される。一方、油は、白っぽい色というよりも濃い黄色として認識される。これは、基準点RefPが領域501寄り、すなわち青色寄りに設定されることにより、基準点RefPと領域502との相対的な距離が大きくなるからである。
図7(d)の例では、基準点RefPは図7(b)で示した基準点RefPの位置よりも領域502寄りに設定されている。基準点RefPと領域501との相対的な距離が大きくなるので、水はより濃い青色として認識される。一方、油は、白色に近い色として認識される。これは、基準点RefPが領域502寄り、すなわち赤色寄りに設定されることにより、基準点RefPと領域502との相対的な距離が小さくなるからである。
図7(e)の例では、基準点RefPは図7(b)で示した基準点RefPの位置よりも紙面下側寄りに設定されている。この場合には、色相が変化するので、青は青緑のような色として認識され、油は黄緑のような色として認識される。
以上のように、可視に変換後の被写体の色は、基準点RefPの位置により調整することができる。被写体スペクトルに応じて基準点RefPの位置を設定することにより、被写体を色弁別し易くできる。マックアダム楕円等の色差の識別閾が予めシステムメモリ206に記憶されていれば、当該識別閾を参照して、色弁別がし易くなるように、基準点RefPの位置を設定するとよい。なお、以上の説明では、水と油の色弁別を例に挙げたが、水に混入した異物を弁別する場合には、領域501内に基準点RefPを設定するとよい。
図7(f)、(g)、(h)、(i)は、仮想色空間に割り当てられた仮想的な色分布を示す。可視色空間の色分布は、人間の視覚特性に応じて決定される。したがって、基準値RefPの位置の変化に関わらず、可視色空間の色分布は固定される。基準値RefPの位置が変化すると、仮想色空間の波長と可視色空間の波長の対応関係が変化する。例えば、基準値RefPが図7(b)で示した位置に設定されていた場合には、1150nmと470nmが対応するが、基準値RefPが図7(c)で示した位置に設定されていた場合には、1300nmと470nmが対応する。つまり、赤外波長帯域のより広範囲の帯域が青系統の色に対応付けられることになる。換言すると、仮想色空間に仮に色分布を割り当てた場合に、青系統の色の領域が広くなることを意味する。そこで、ここでは、仮想色空間の波長と可視の色空間の波長の対応関係を、仮想色空間に仮に色分布を割り当てることにより説明する。
図7(f)は、図7(b)の基準値RefPの場合の色分布を示す。この場合には、基準値RefPの位置と基準白色RefWの位置が対応しているので、色分布は、図6で示した可視空間の色分布と同一になる。
図7(g)は、図7(c)の基準値RefPの場合の色分布を示す。この場合には、基準点RefPが領域501寄りに設定されているので、仮想色空間において基準点RefPよりも紙面左側に位置する領域が狭くなり、反対に紙面右側に位置する領域が広くなる。基準点RefPに対応する基準白色RefWの位置は固定されているので、可視色空間においては、仮想色空間の左側に位置する狭い領域が相対的に広い領域に割り当てられることになる。反対に仮想色空間の右側に位置する広い領域が相対的に狭い領域に割り当てられることになる。そうすると、仮想色空間に対する色分布においては、青系統の色の領域が増大し、反対に赤系統の色および緑系統の色の領域が減少することになる。つまり、基準点RefPが領域501寄りに設定されることにより、青系統の色の表現のバリエーションを増加させることができる。
図7(h)は、図7(d)の基準値RefPの場合の色分布を示す。この場合には、基準点RefPが領域502寄りに設定されているので、仮想色空間において基準点RefPよりも紙面左側に位置する領域が広くなり、反対に紙面右側に位置する領域が狭くなる。したがって、可視色空間においては、仮想色空間の左側に位置する広い領域が相対的に狭い領域に割り当てられることになる。反対に仮想色空間の右側に位置する狭い領域が相対的に広い領域に割り当てられることになる。そうすると、仮想色空間に対する色分布においては、青系統の色および緑系統の色の領域が減少し、反対に赤系統の色の領域が増加することになる。つまり、基準点RefPが領域502寄りに設定されることにより、赤系統の色の表現のバリエーションを増加させることができる。
図7(i)は、図7(e)の基準値RefPの場合の色分布を示す。この場合には、基準点RefPが紙面下側寄りに設定されているので、仮想色空間において基準点RefPよりも紙面上側に位置する領域が広くなり、反対に紙面下側に位置する領域が狭くなる。したがって、可視色空間においては、仮想色空間の上側に位置する広い領域が相対的に狭い領域に割り当てられることになる。反対に仮想色空間の下側に位置する狭い領域が相対的に広い領域に割り当てられることになる。そうすると、仮想色空間に対する色分布においては、緑系統の色の領域が減少し、反対に青系統の色および赤系統の色の領域が増加することになる。つまり、基準点RefPが紙面下側寄りに設定されることにより、青系統の色および赤系統の色の表現のバリエーションを増加させることができる。
図8は、撮像ファイルのファイル構造を示す図である。上述したように、撮像ファイルは、撮像データそのものである本撮像データ、および撮像データのタグ情報である赤外波長情報を主な要素とするファイル構造を有する。
赤外波長情報は、図示するように、カテゴリごとに分類されて様々な情報が記述されている。以下に主な情報について説明する。
ファイル情報のカテゴリには、種類、サイズ、画像情報等が記述されている。具体的には、種類として「JPGイメージ」が記され、サイズとして「4.09MB」が記されている。画像情報として本画像データのx方向およびy方向のドット数、並びに各ドットが有する色数であるビット数が記されている。具体的には、ドット数として「2020×1624ドット」が記され、ビット数として「24ビット」が記されている。
撮影情報のカテゴリには、撮影日時、露出時間、F値、ISO感度、焦点距離等が記述されている。ここでは、撮影日時として「2014/11/28 14:22:22」が記され、露出時間として「1/500」が記され、F値として「4」が記され、ISO感度として「200」が記され、焦点距離として「50mm」が記されている。
撮像系色空間情報のカテゴリには、光源特性、ピーク波長λa、ピーク波長λb、ピーク波長λc、原刺激値1(頂点AB)、原刺激値2(頂点CD)、原刺激値3(頂点EF)、基準点、輝度補正、色処理、表示色空間、対象帯域の下限値および上限値等が記述されている。
光源特性は、撮影条件下での光源の種類を示す。ここでは、「ハロゲン光」が記されている。ピーク波長λaは、NIR1フィルタのピーク波長である。ここでは、「1150nm」が記されている。ピーク波長λbは、NIR2フィルタのピーク波長である。ここでは、「1400nm」が記されている。ピーク波長λcは、NIR3フィルタのピーク波長である。ここでは、「1650nm」が記されている。これらのピーク波長から図4で説明した領域302を定義することができる。
原刺激値1は、NIR1フィルタのピーク波長λaおよび半値幅と、撮像素子100の受光感度とから決定される。同様に、原刺激値2は、NIR2フィルタのピーク波長λbおよび半値幅と、撮像素子100の受光感度とから決定され、原刺激値3は、NIR3フィルタのピーク波長λcおよび半値幅と、撮像素子100の受光感度とから決定される。なお、図4で既に説明したように、原刺激値1(頂点AB)はピーク波長λaと基準点RefPを結ぶ直線上に位置したが、ピーク波長λaと基準点RefPを結ぶ直線上に位置していなくてもよい。原刺激値2(頂点CD)および原刺激値3(頂点EF)についても同様である。例えば被写体及び照明環境等に応じて原刺激値1から3のいずれかまたは全てを任意に設定することも可能である。既に図4等で説明したように、x'、y'を座標軸として仮想的な表色系が定義されているので、原刺激値1、原刺激値2、原刺激値3を座標で表すことができる。より詳細には、原刺激値1(頂点AB)、原刺激値2(頂点CD)、および原刺激値3(頂点EF)のそれぞれは、図4で説明した領域303の頂点の座標に相当する。ここでは、原刺激値1(頂点AB)として「(0.17,0.20)」が記され、原刺激値2(頂点CD)として「(0.13,0.65)」が記され、原刺激値3(頂点EF)として「(0.63,0.35)」が記されている。原刺激値1(頂点AB)、原刺激値2(頂点CD)、および原刺激値3(頂点EF)のそれぞれを、例えば図5で説明した可視色空間の頂点GH、頂点IJ、および頂点KLの対応する頂点に対応付けることにより、仮想色空間と可視色空間を対応付けることができる。
基準点には、基準点の座標として「(0.33,0.33)」が記されている。この座標は、基準点がデフォルトに設定されている場合の座標であり、基準白色に対応する座標である。ユーザにより基準点が設定された場合には、設定された基準点の座標が記される。輝度補正には、「γ=1」が記されている。
色処理は、表示の分解能を示す。色処理には、「水と油の分離」が記されている。この情報から、色弁別の対象となる被写体に応じたゲインを決定し、表示の分解能を決定することができる。
表示色空間は、表示系で設定されるべき色域を示す。ここでは、表示色空間には、「sRGB」が記されている。この情報は、基準白色RefWの座標と、sRGBにおける3つの原刺激値の座標とを含む。図5で説明した可視色空間を例に挙げると、基準白色RefWの座標(o,p)として(0.33,0.33)が記される。また、ここでは、頂点GHの座標(g,h)として(0.14,0.06)が記され、頂点IJの座標(i,j)として(0.20,0.68)が記され、頂点KLの座標(k,l)として(0.63,0.32)が記される。表示色空間にAdobeRGB等の他の色域を示す情報が記されていれば、3つの原刺激値として上記と異なる値が記されることになる。詳しくは後述するが、表示色空間の情報から、仮想色空間の3原刺激値と可視色空間の3原刺激値を対応付け、基準点と基準白色を対応付けることができる。
対象帯域の下限値および上限値は、撮像素子100の出力特性の範囲を示す。ここでは、下限値として「850nm」が記され、上限値として「1950nm」が記されている。上述したように、この情報により図4で説明した領域301が定義される。
以上のような赤外波長情報が生成されると、汎用の画像フォーマットへの変換規則さえ決まっていれば、当該変換規則に従って赤外波長情報を汎用の画像フォーマットに変換することができる。つまり、既に説明したように、仮想色空間から可視色空間への対応付けがなされていると、特定の被写体に関する赤外波長情報に対して同一の変換を実行することができる。これにより、特定の被写体に対して可視の特定の色が対応付けられる。同一の被写体は、同一の色で表示されることになるので、再生の再現性を確保することができる。例えば被写体としての水を青系統の色で表示し、油を白っぽい色で表示することができる。また、表示装置の種類に関わらず、再生の互換性を確保することができる。以上のことから、汎用の画像フォーマットへ変換するために必要な情報として赤外波長情報を生成するということもできる。
以上の説明では、撮像素子100は、出力特性として下限値および上限値がそれぞれ850nm、1950nmとなる3種類のバンドパスフィルタを備えたが、他のバンドパスフィルタを備えてもよい。以下、詳細に説明する。
図9は、バンドパスフィルタの種別と撮像系色空間の関係を説明する図である。図9(a)は、既に説明した撮像素子100の出力特性の感度分布を示す図である。横軸は波長[nm]を示し、縦軸は受光感度を示す。出力特性の下限値は850nmであり、上限値は1950nmである。図9(b)は、図面を簡略化するべく、図4に示した図のうち領域301、領域302、および領域303を抽出した図である。図9(c)は、他の3種類のバンドパスフィルタが備えられた撮像素子の出力特性の感度分布を示す図である。当該撮像素子に設けられた3種類のバンドパスフィルタの半値幅は、撮像素子100に設けられた3種類のバンドパスフィルタの半値幅よりも狭い。横軸は波長[nm]を示し、縦軸は受光感度を示す。出力特性の下限値は1000nmであり、上限値は1800である。図9(d)は、図9(c)に示す出力特性に応じた、領域301、領域302、および領域303に対応する領域601、領域602、および領域603を示す図である。
既に説明した可視色空間では、基準白色RefWから遠ざかるほど色の純度が増す。換言すると、可視色空間の領域が広いほど、より純度の高い色を表現することができる。赤外波長帯域に基づく画像を生成する場合にも同様のことが言える。すなわち、仮想色空間の領域が広いほど、対応する可視色空間の領域が広くなり、結果として、より純度の高い色を表現することができる。
図9(a)の感度分布と図9(c)の感度分布とを比較すると、図9(c)の感度分布に示す各感度分布の半値幅は、図9(a)に示す各感度分布の半値幅よりも狭いことがわかる。したがって、出力特性として図9(c)の感度分布を有する撮像素子の各画素は、より制限された帯域幅の波長に基づく画素値を持つ。その結果、より純度の高い色を表現することができる。したがって、図9(d)の仮想色空間の領域603に面積、すなわち彩度は、図9(b)の仮想色空間の領域303の面積、すなわち彩度よりも大きくなる。
なお、本例では、図9(a)に示した出力特性の下限値および上限値と、図9(c)に示した出力特性の下限値および上限値とは互いに異なるが、領域301の形状と領域601の形状とは同一である。つまり、出力特性の下限値および上限値は可変であり、領域301と領域601では、隣り合う波長間の刻み幅が異なる。
以上の説明では、撮像素子100は3種類のバンドパスフィルタを備える構成であったが、さらに別の3種類のバンドパスフィルタを備える構成でもよい。すなわち、2種類のフィルタセットが混在して設けられてもよい。この場合には、被写体に応じて色弁別し易いフィルタセットを選択しておくとよい。分光の段階である程度の色相の違いを生じさせることにより、色弁別がし易いように、基準点の位置を調整する段階でより効果的な処理が期待できる。
図10は、バンドパスフィルタと被写体スペクトルの関係を説明する図である。本例では、撮像素子100は700nmから2000nmの範囲に受光感度を有する。図10(a)は、既に説明した撮像素子100の出力特性の感度分布と被写体Pおよび被写体Qのスペクトルとを示す図である。横軸は波長[nm]を示し、縦軸は受光感度を示す。出力特性の下限値は850nmであり、上限値は1950nmである。図10(b)は、図面を簡略化するべく、図4に示した図のうち領域301、領域302、および領域303を抽出した図である。図10(c)は、別の3種類のバンドパスフィルタが選択された場合の出力特性の感度分布と被写体Pおよび被写体Qのスペクトルとを示す図である。図10(c)に示す感度分布の波形と、図10(a)に示す感度分布の波形とは、略同一である。ただし、別の3種類のバンドパスフィルタは、図3で示したバンドパスフィルタに比べて、より短波長側の波長帯域を通過させる。横軸は波長[nm]を示し、縦軸は受光感度を示す。出力特性の下限値は700nmであり、上限値は1800nmである。ピーク波長λdは1000nmであり、ピーク波長λeは1250であり、ピーク波長λfは1500である。図10(d)は、図10(c)に示す出力特性に応じた、領域301、領域302、および領域303に対応する領域701、領域702、および領域703を示す図である。また、図10(b)および図10(d)において、領域pは、仮想色空間に対して被写体Pがマッピングされた領域を示し、領域qは、仮想色空間に対して被写体Qがマッピングされた領域を示す。
被写体Pおよび被写体Qのスペクトルに対してどのようにフィルタを設定するかによって、仮想色空間に対して被写体Pおよび被写体Qがマッピングされる領域は変化する。図10(a)と図10(c)を比較すると、被写体Pと被写体Qとのギャップtは、被写体Pと被写体Qとのギャップrよりも広くなっている。同様に、被写体Pと被写体Qとのギャップuは、被写体Pと被写体Qとのギャップsよりも広くなっている。
図10(c)に示すように、被写体Pと被写体Qとのギャップが比較的小さい箇所にフィルタが設定されると、図10(d)に示すように、領域pと領域qは互いに近接した領域にマッピングされる。色相に大きな違いが生じないので、色弁別が困難になる場合があり得る。
一方で、図10(a)に示すように、被写体Pと被写体Qとのギャップが比較的大きい箇所にフィルタが設定されると、図10(b)に示すように、領域pと領域qは互いに離れた領域にマッピングされる。色相に違いが生じるので、色弁別がし易くなる。
図11は、デジタルカメラ10の処理の流れを示すフロー図である。本フローは、ユーザによる電源がオンされると開始される。
制御部201は、SW1が押下されたか否かを判定する(ステップS101)。SW1が押下されたと判定した場合には(ステップS101でYES)、制御部201は、SW2が押下されたことか否かを判定する(ステップS102)。SW2が押下されたと判定した場合には(ステップS102でYES)、制御部201は、撮影処理を行う(ステップS103)。
制御部201は、システムメモリ206から撮像パラメータとして3種類のバンドパスフィルタの透過率を示す情報、撮像素子100の受光感度を示す情報を読み出す。そして、出力特性の下限値および上限値を算出する(ステップS104)。例えば、図3に関連して説明したように、バンドパスフィルタの透過率と撮像素子100の受光感度との掛け算により出力特性を算出する。これにより、図4に示した領域301が定義される。
制御部201は、ユーザから基準点に対する指示があるかを判定する(ステップS105)。基準点に対する指示があると判定した場合には(ステップS105でYES)、ユーザからの指示に従い基準点を設定する(ステップS106)。例えば、図7に関連して説明したように、仮想色空間内に基準点を設定する。基準点に対する指示がないと判定した場合には(ステップS105でNO)、デフォルトの位置に基準点を設定する(ステップS107)。例えば、図5に関連して説明したように、基準白色に対応する位置に基準点を設定する。
画像処理部205は、デジタル変換により得られた撮像データに種々の処理を施すことにより、本撮像データを生成する(ステップS108)。一方、制御部201は、赤外波長情報を生成する(ステップS109)。例えば、図8に示したフォーマットに従って赤外波長情報を生成する。
画像処理部205は、本撮像データに赤外波長情報を関連付けて(ステップS110)、ファイル化することより、撮像ファイルを生成する(ステップS111)。画像処理部205は、撮像ファイルをメモリカード220に記憶する(ステップS112)。制御部201は、赤外波長情報を可視色空間情報に変換する(ステップS113)。例えば、図5で説明したように、仮想色空間を可視色空間に変換したり、基準点を基準白色に変換したりする。画像処理部205は、可視色空間情報を参照して、既に説明したように、本撮像データに対して画像処理を施して(ステップS114)、画像処理後のデータをLCD駆動回路210により表示信号に変換した後、表示部209に表示する(ステップS115)。制御部201は、電源がオフされたかを判定し(ステップ116)、電源がオンのままであると判定すれば(ステップS116でNO)、ステップS101に移行し、電源がオフされたと判定すれば(ステップS116でYES)、一連の処理を終了する。
以上の説明では、制御部201は、赤外波長情報をタグ情報として撮像データに関連付けたが、リンクファイルとして撮像データに関連付けてもよい。以上の説明では、可視の表色系としてCIE表色系を例に挙げたが、他の表色系であってもよい。
以上の説明では、撮像装置の一例としてのデジタルカメラ10が表示部209を備える構成であったが、撮像装置は表示部209を備えない構成でもよい。この場合に、撮像装置は、表示部を備える他の装置に撮像ファイルを送信してもよい。他の装置は、図11のステップS113からステップS115の処理を実行することにより、赤外波長に基づく撮像データを画像データに変換し表示することができる。
以上の説明では、バンドパスフィルタは撮像素子100に設けられたが、バンドパスフィルタの配置場所は撮像素子100に限られない。バンドパスフィルタは、フィルタユニットとして、撮影レンズ20の後段に光軸21に交差して設けられてもよい。この場合には、制御部201は、ユーザによる設定に従って、3種類のバンドパスフィルタを被写体光束の範囲に順に配置すると共に、それぞれの配置に同期して撮影動作を行う。そして、画像処理部205は、3つの撮像データを、全画素の撮像データから構成される撮像プレーンデータとして撮像素子100から順次取得する。フィルタユニットを用いた構成によれば、全画素に対して3種類のバンドパスフィルタのそれぞれに対応した撮像データを得ることができるので、上述の補間処理をしなくてもよい。
デジタルカメラ10が交換レンズ式のデジタルカメラであり、フィルタユニットが交換レンズと一体的に構成される場合には、撮像パラメータは、交換レンズ内のレンズメモリに記憶されてもよい。カメラボディは、レンズメモリから撮像パラメータを取得してもよい。
以上の説明では、基準点は基準白色に対応付けられたが、基準点はあくまで色を分離する目的で設定される点であるので、必ずしも基準白色に対応付けられなくてもよい。例えば、二つの被写体を色弁別する場合に、仮想色空間に対してマッピングされた二つの被写体の領域の真ん中に設定されてもよい。また、基準点は領域303内に設定されたが、領域302内に設定されていれば、領域303外に設定されてもよい。以上の説明では、基準点の座標は、ユーザの設定により可変であったが、固定であってもよい。この場合には、図8で説明したフォーマットに基準値の項目はなくてもよい。また、撮像データの各画素値を可視のどの波長帯域に関連付けるかという観点によれば、頂点AB、頂点CD、および頂点EFの項目もなくてもよい。以上の説明では、対象領域の下限値、上限値、および基準点の三点を設定することにより、ピーク波長λa、ピーク波長λb、ピーク波長λcの位置が一意に定められたが、下限値および上限値と、基準点以外の点との三点を設定してもよい。例えば、ピーク波長λbの座標を設定することにより、残りのピーク波長λaおよびピーク波長λcが一意に定められてもよい。
以上の説明では、仮想色空間は、横軸をx'、縦軸をy'として定義されたが、仮想色空間は、そもそも赤外波長領域の空間を仮想的に色空間として定義したものであるので、横軸および縦軸をそれぞれ他の軸として定義してもよい。以上の説明では、領域301の下限値から上限値にかけての波長の刻み幅を領域401と同じ態様に設定したが、均等幅に設定してもよい。以上の説明では、領域301の下限値および上限値は可変であったが、下限値および上限値は固定であってもよい。この場合には、領域301の形状が可変となる。
以上の説明では、仮想色空間と可視色空間とを対応付けるべく、対象帯域の下限値同士および上限値同士をそれぞれ対応付けた上で、基準点と基準白色とを対応付けたが、仮想色空間における3つの原刺激値と可視色空間における3つの原刺激値とを対応付け、かつ基準点と基準白色とを対応付けてもよい。この場合には、対象帯域の下限値同士および上限値同士のそれぞれは必ずしも対応付けられなくてもよい。馬蹄形の領域401は、あくまで単色光により定められる範囲であり、可視色空間は領域403で表されるからである。また、仮想色空間の3原刺激値と可視色空間の3原刺激値とを対応付ける場合には、撮像系色空間情報に、仮想色空間の3原刺激値のそれぞれが対応付けられる可視色空間の原刺激値を示す情報が記述されてもよい。
図12は、撮像系色空間情報の一例を示す図である。図12(a)の撮像系色空間情報のカテゴリには、既に図8で説明した光源特性、ピーク波長λa、ピーク波長λb、ピーク波長λc、原刺激値1(頂点AB)、原刺激値2(頂点CD)、原刺激値3(頂点EF)、基準点、輝度補正、色処理、表示色空間、対象帯域の下限値および上限値に加えて、対応原刺激値1(頂点GH)、対応原刺激値2(頂点IJ)、対応原刺激値3(頂点KL)が記述されている。なお、仮想色空間の頂点(すなわち頂点AB、頂点CD、頂点EF)、可視色空間の頂点(すなわち頂点GH、頂点IJ、頂点KL)、基準点RefP、および基準白色RefWは、図5で説明した通りである。
対応原刺激値1(頂点GH)は、仮想色空間の原刺激値1が対応付けられる可視色空間の原刺激値を示す。同様に、対応原刺激値2は、仮想色空間の原刺激値2が対応付けられる可視色空間の原刺激値を示し、対応原刺激値3は、仮想色空間の原刺激値3が対応付けられる可視色空間の原刺激値を示す。ここでは、対応原刺激値1として頂点GHの座標「(0.14,0.06)」が記され、対応原刺激値2として頂点IJの座標「(0.20,0.68)」が記され、対応原刺激値3として頂点KLの座標「(0.63,0.32)」が記されている。つまり、仮想色空間の原刺激値1(頂点AB)が可視色空間の頂点GHに対応付けられ、仮想色空間の原刺激値2(頂点CD)が可視色空間の頂点IJに対応付けられ、仮想色空間の原刺激値3(頂点EF)が可視色空間の頂点KLに対応付けられる。また、基準点RefPの座標は、(0.33,0.33)に対応付けられる。なお、既に説明したように、(0.33,0.33)はデフォルトに設定されている場合の基準点RefPの座標であり、ユーザは自由に基準点の座標を設定することができる。この場合でも、基準点RefPの座標は、基準白色RefWの座標である(0.33,0.33)に対応付けられる。
また、既に図8で説明したように、表示色空間は、基準白色RefWの座標を含む。したがって、この情報から、基準点RefPの座標を基準白色RefWの座標に対応付けることができる。なお、後述するように、仮想色空間の3原刺激値と可視色空間の3原刺激値との関連付けの組み合わせは、一通りではない。そこで、この例では、対応関係を一意に定めるべく、対応付けられる可視色空間の原刺激値を示す情報が記されている。仮想色空間と可視色空間とを対応付ける場合と同様に、被写体を表す座標が領域303にマッピングされれば、当該座標を領域403の座標に変換することができる。すなわち、可視の色に変換することができる。
以上の説明では、仮想色空間の3原刺激値のそれぞれは、対応刺激値1、対応刺激値2、対応刺激値3により、対応する可視色空間の原刺激値に対応付けられたが、仮想色空間の3原刺激値と可視色空間の3原刺激値は他の方法により関連付けられてもよい。例えば、3原刺激値の記述の順序を利用することにより、仮想色空間の3原刺激値と可視色空間の3原刺激値とを対応付けることができる。具体的には、一番目に記述された原刺激値は、可視色空間の頂点GHの座標(0.14,0.06)に対応付けられ、二番目に記述された原刺激値は、可視色空間の頂点IJの座標(0.20,0.68)に対応付けられ、三番目に記述された原刺激値は、可視色空間の頂点KLの座標(0.63,0.32)に対応付けられる。
ここで、既に説明したように、表示色空間として「sRGB」が記されていれば、頂点GHの座標(g,h)として(0.14,0.06)が記され、頂点IJの座標(i,j)として(0.20,0.68)が記され、頂点KLの座標(k,l)として(0.63,0.32)が記される一方、他の色域を示す情報が記されていれば、3つの原刺激値として上記と異なる値が記されることになる。すなわち、表示色空間として記される情報と可視色空間における3つの原刺激値とは1対1に対応している。したがって、3原刺激値の記述の順序を利用する場合には、画像データ毎に可視色空間の3原刺激値を記さなくても、表示色空間さえ指定すればよい。表示系は、上述した3原刺激値の記述の順序に関する規則に則って、指定された表示色空間に応じて仮想色空間の3原刺激値を可視色空間の3原刺激値に対応付けることができる。
既に説明した図12(a)を例に挙げると、原刺激値1(頂点AB)、原刺激値2(頂点CD)、原刺激値3(頂点EF)の順に記述されている。したがって、対応刺激値1が記されていなくても、一番目に記述された原刺激値1(頂点AB)が可視色空間の頂点GHの座標(0.14,0.06)に対応付けられる。同様に、対応刺激値2が記されていなくても、二番目に記述された原刺激値2(頂点CD)が可視色空間の頂点IJの座標(0.20,0.68)に対応付けられ、対応刺激値3が記されていなくても、三番目に記述された原刺激値3(頂点EF)が可視色空間の頂点KLの座標(0.63,0.32)に対応付けられる。以上のように、3原刺激値の記述の順序を利用することにより、仮想色空間の3原刺激値と可視色空間の3原刺激値とを対応付ける場合には、図12(a)の撮像系色空間情報は、対応刺激値1、対応刺激値2、対応刺激値3を含まなくてもよい。
以上の説明では、仮想色空間の3原刺激値と可視色空間の3原刺激値とはそれぞれ、波長に応じて対応付けられた。すなわち、短波長側の原刺激値同士が関連付けられ、長波長側の原刺激値同士が関連付けられ、短波長側と長波長側の間の波長の原刺激値同士が関連付けられたが、関連付けはこれに限られない。以下に詳細に説明する。以下の例においては、3原刺激値の記述の順序を利用することにより、仮想色空間の3原刺激値と可視色空間の3原刺激値とを対応付ける場合を説明する。したがって、図示されるように、図12(b)の撮像系色空間情報は、対応刺激値1、対応刺激値2、対応刺激値3を含まない。なお、仮想色空間の3原刺激値と可視色空間の3原刺激値とを、対応刺激値1、対応刺激値2、対応刺激値3を用いて対応付ける場合にも同様のことが言える。
図12(b)の撮像系色空間情報における3原刺激値の記述の順序は、図12(a)の撮像系色空間情報における3原刺激値の記述の順序とは異なる。具体的には、原刺激値2(頂点CD)、原刺激値1(頂点AB)、原刺激値3(頂点EF)の順に記述されている。したがって、一番目に記述された原刺激値2(頂点CD)が可視色空間の頂点GHの座標(0.14,0.06)に対応付けられる。同様に、二番目に記述された原刺激値1(頂点AB)が可視色空間の頂点IJの座標(0.20,0.68)に対応付けられ、三番目に記述された原刺激値3(頂点EF)が可視色空間の頂点KLの座標(0.63,0.32)に対応付けられる。以上のように関連付けることにより、仮想色空間の3原刺激値に割り当てる色を変化させることができる。具体的には、原刺激値2(頂点CD)の座標(0.13,0.65)は頂点GHの座標(0.14,0.06)に対応付けられるので、青系統の色に対応付けられる。原刺激値1(頂点AB)の座標(0.17,0.20)は頂点IJの座標(0.20,0.68)に対応付けられるので、緑系統の色に対応付けられる。原刺激値3(頂点EF)の座標(0.63,0.35)は頂点KLの座標(0.63,0.32)に対応付けられるので、赤系統の色に対応付けられる。
以上の説明では、可視外帯域として近赤外帯域を例に挙げたが、可視外の帯域であれば他の帯域であってもよい。例えば、撮像素子100が紫外帯域に受光感度を有する場合には、制御部201は、紫外帯域に基づく撮像データを可視色空間における画像データへ変換するための紫外波長情報を生成することができる。
図13は、撮像系色空間と表示系色空間の対応関係を説明する図である。図13(a)は、撮像素子100の出力特性により定義される空間を説明する図である。図4と同様に、色度座標のx、yに対応するx'、y'を座標軸として図示している。横軸がx'であり、縦軸はy'である。本例では、一例として出力特性の下限値は200nmであり、上限値は400nmである。すなわち、出力特性により定義される空間は、紫外帯域の空間である。図13(b)は、可視の表色系色度図を示す。横軸がxであり、縦軸はyである。本例では、仮想色空間の3原刺激値と可視色空間の3原刺激値とを対応付け、基準点と基準白色とを対応付ける場合を説明する。
仮想色空間の原刺激値1である頂点ABは、可視色空間の頂点GHに対応付けられる。同様に、仮想色空間の原刺激値2である頂点CDは可視色空間の頂点IJに対応付けられ、仮想色空間の原刺激値3である頂点EFは可視色空間の頂点KLに対応付けられる。また、基準点RefPは、基準白色RefWに対応付けられる。赤外波長帯域の場合と同様に、被写体を表す座標が領域303にマッピングされれば、当該座標を領域403の座標に変換することができる。すなわち、可視の色に変換することができる。
以上の説明では、NIR1フィルタおよびNIR3フィルタはNIR2フィルタのピーク波長で透過率を有し、NIR2フィルタは、NIR1フィルタおよびNIR3フィルタのピーク波長のそれぞれで透過率を有したが、図3(c)で既に説明した撮像素子100の出力特性(例えば1%以上の受光感度を有する範囲)において、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタが全て1%以上の透過率を有することが好ましい。このような構成によれば、NIR1フィルタが設けられた画素は、1150nm付近で高感度を有すると共に、上限値付近でも多少の感度を有する。同様に、NIR2フィルタが設けられた画素は、1400nm付近で高感度を有すると共に、下限値および上限値付近でも多少の感度を有し、NIR3フィルタが設けられた画素は、1650nm付近で高感度を有すると共に、下限値付近でも多少の感度を有する。
画像処理部205が赤外波長帯域に基づく撮像データを可視波長帯域に変換して画像データを生成する場合に、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタのそれぞれを互いに異なる可視の波長帯域に対応付けるだけでなく、それぞれの波長帯域の画素信号を用いて、可視の波長帯域の画素信号に変換する。例えば、NIR1フィルタの波長帯域の画素信号を、当該画素信号に加えてNIR2フィルタの波長帯域の画素信号およびNIR3フィルタの波長帯域の画素信号を用いて、可視の波長帯域の画素信号に変換する。このように、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタの全ての波長帯域の画素信号を用いることにより、分解能の高い色表現をすることができる。
色表現の分解能を高めるために、上述のように、撮像素子100の出力特性において、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタは全て1%以上の透過率を有することが好ましい。しかしながら、色表現の分解能を高める構成は、これに限られない。少なくとも、最も短波長側であるNIR1フィルタの波長帯域のピーク波長において、最も長波長側であるNIR3フィルタの波長帯域が重複している構成であってもよい。具体的には、NIR1フィルタの波長帯域のピーク波長である1150nmにおいて、NIR3フィルタが1%以上の透過率を有してもよい。一方、少なくとも、最も長波長側であるNIR3フィルタの波長帯域のピーク波長において、最も短波長側であるNIR1フィルタの波長帯域が重複している構成であってもよい。具体的には、NIR3フィルタの波長帯域のピーク波長である1650nmにおいて、NIR1フィルタが1%以上の透過率を有してもよい。このような組み合わせでも、NIR1フィルタ、NIR2フィルタ、およびNIR3フィルタは、少なくともそれぞれのピーク波長を含む範囲の波長帯域にわたって互いに重複するので、多色での色表現が可能になる。
図14は、色割り当ての一例を説明する図である。図14(a)は図5(a)と同一であり、図14(b)は図5(b)と同一である。
図14の例においては、点ABの座標(a,b)は点GHの座標(g,h)に対応付けられる。すなわち、点ABの座標(a,b)付近の座標は、青系統の色に対応付けられる。点CDの座標(c,d)は点IJの座標(i,j)に対応付けられる。すなわち、点CDの座標(c,d)付近の座標は、緑系統の色に対応付けられる。点EFの座標(e,f)は点KLの座標(k,l)に対応付けられる。すなわち、点EFの座標(e,f)付近の座標は、赤系統の色に対応付けられる。
図7(a)を用いて既に説明したように、水のスペクトル強度は、1100nm付近まで急激に上昇し、1250nm付近以降に急激に下降するので、1100nm付近までの帯域および1200nm付近以降の帯域において油のスペクトル強度とは大きな差がある。NIR2フィルタおよびNIR3フィルタの波長帯域に相当するスペクトル強度が相対的に小さいので、水Objwは表色系色度図において点GHに近い位置にマッピングされる。よって、可視に変換後の画像において全体的に青系統の色として認識される。一方、油のスペクトル強度は近赤外の波長帯域の比較的広範囲にわたるので、油Objoは表色系色度図において基準白色RefWに近い位置にマッピングされる。よって、可視に変換後の画像では水に比べて若干白っぽい色として認識される。
図15は、色割り当ての他の例を説明する図である。図15(a)は図5(a)と同一であり、図15(b)は図5(b)と同一である。
図15の例においては、点ABの座標(a,b)は点IJの座標(i,j)に対応付けられる。すなわち、点ABの座標(a,b)付近の座標は、緑系統の色に対応付けられる。点CDの座標(c,d)は点KLの座標(k,l)に対応付けられる。すなわち、点CDの座標(c,d)付近の座標は、赤系統の色に対応付けられる。点EFの座標(e,f)は点GHの座標(g,h)に対応付けられる。すなわち、点EFの座標(e,f)付近の座標は、青系統の色に対応付けられる。
この例においては、水Objwは表色系色度図において点IJに近い位置にマッピングされる。よって、可視に変換後の画像において全体的に緑系統の色として認識される。一方、油Objoは表色系色度図において基準白色RefWに近い位置にマッピングされる。よって、可視に変換後の画像では水に比べて若干白っぽい色として認識される。
図16は、色割り当ての他の例を説明する図である。図16(a)は図5(a)と同一であり、図16(b)は図5(b)と同一である。
図16の例においては、点ABの座標(a,b)は点KLの座標(k,l)に対応付けられる。すなわち、点ABの座標(a,b)付近の座標は、赤系統の色に対応付けられる。点CDの座標(c,d)は点GHの座標(g,h)に対応付けられる。すなわち、点CDの座標(c,d)付近の座標は、青系統の色に対応付けられる。点EFの座標(e,f)は点IJの座標(i,j)に対応付けられる。すなわち、点EFの座標(e,f)付近の座標は、緑系統の色に対応付けられる。
この例においては、水Objwは表色系色度図において点KLに近い位置にマッピングされる。よって、可視に変換後の画像において全体的に赤系統の色として認識される。一方、油Objoは表色系色度図において基準白色RefWに近い位置にマッピングされる。よって、可視に変換後の画像では水に比べて若干白っぽい色として認識される。
以上説明したように、仮想色空間の3原刺激値と可視色空間の3原刺激値とをどのように関連付けるかによって、観察対象物を異なる色で表すことができる。人間は、一般的に、緑系統の色よりも青系統および赤系統の色の違いに敏感であることが知られている。そこで、本実施形態においては、水および油を色弁別するための観察情報は、点ABの座標(a,b)を点KLの座標(k,l)に対応付け、点CDの座標(c,d)を点GHの座標(g,h)に対応付け、点EFの座標(e,f)を点IJの座標(i,j)に対応付けることを示す。画像処理部205は、この観察情報に従って色割り当てを行うことにより、NIR1フィルタ、NIR2フィルタおよびNIR3フィルタのそれぞれの波長帯域に相当するスペクトル強度のうち、最も強いスペクトル強度に対応する原刺激値を、点KLすなわち赤系統の色に割り当てることができる。なお、観察情報が、点ABの座標(a,b)を点GHの座標(g,h)、すなわち青系統の色に対応付け、点CDの座標(c,d)を点IJの座標(i,j)に対応付け、点EFの座標(e,f)を点KLの座標(k,l)に対応付けることを示すように生成されてもよい。以上のように、被写体スペクトルに応じて、人間の視覚特性に合わせて色の関連付けを適宜入れ替えることにより、可視画像において被写体を色弁別し易くできる。
図17は、デジタルカメラ10の処理の流れを示すフロー図である。本フローは、ユーザによる電源がオンされると開始される。なお、既に説明した観察対象物の設定に関するメニュー画面を通して、色弁別の対象となる2つの観察対象物として水および油が設定されており、ユーザは水および油を撮影するものとする。
制御部201は、SW1が押下されたか否かを判定する(ステップS201)。SW1が押下されたと判定した場合には(ステップS201でYES)、制御部201は、SW2が押下されたことか否かを判定する(ステップS202)。SW2が押下されたと判定した場合には(ステップS202でYES)、制御部201は、撮影処理を行う(ステップS103)。
画像処理部205は、デジタル変換により得られた撮像データに種々の処理を施すことにより、本撮像データを生成する(ステップS204)。画像処理部205は、設定されている観察対象物に対応する観察情報をシステムメモリ206から取得する(ステップS205)。ここでは、水および油を色弁別するための観察情報を取得する。画像処理部205は、仮想色空間の3原刺激値および可視色空間の3原刺激値を取得する(ステップS206)。画像処理部205は、取得した観察情報、並びに仮想色空間および可視色空間の3原刺激値を用いて、色割り当てを決定する(ステップS207)。図14−16で既に説明したように、例えば、点ABの座標(a,b)を点KLの座標(k,l)に対応付け、点CDの座標(c,d)を点GHの座標(g,h)に対応付け、点EFの座標(e,f)を点IJの座標(i,j)に対応付ける。そして、決定した色割り当てに従って、本撮像データに対して画像処理を施してカラー画像データを生成する(ステップS208)。
カラー画像データをLCD駆動回路210により表示信号に変換した後、表示部209に表示する(ステップS209)。制御部201は、電源がオフされたかを判定し(ステップS210)、電源がオンのままであると判定すれば(ステップS210でNO)、ステップS201に移行し、電源がオフされたと判定すれば(ステップS210でYES)、一連の処理を終了する。
以上の説明では、画像処理部205は、仮想色空間の3原刺激値のそれぞれを可視色空間内の点に対応付けたが、仮想色空間の3原刺激値の少なくとも1つを可視色空間外の点に対応付けてもよい。図18は、撮像系色空間と表示系色空間の対応関係の他の例を説明する図である。図18(a)は、図5(a)と同一である。図18(b)は、可視の表色系色度図を示す。横軸がxであり、縦軸はyである。
図18の例においては、点ABの座標(a,b)は点GHの座標(g,h)に対応付けられる。点CDの座標(c,d)は点I'J'の座標(i',j')に対応付けられる。点I'J'は、可視色空間を示す領域403外の点である。点EFの座標(e,f)は点KLの座標(k,l)に対応付けられる。領域401においては、外側に向かうほど彩度が高くなる。したがって、点CDの座標(c,d)を、点IJの座標(i,j)よりも外側の点I'J'の座標(i',j')に対応付けることにより、緑系統の彩度を向上させることができる。より詳細には、点CDの座標(c,d)が点IJの座標(i,j)に対応付けされた場合に、観察対象物が基準白色RefW付近にマッピングされると、観察対象物は全体的に白っぽい色で表現されるが、点I'J'の座標(i',j')に対応付けされることにより、観察対象物がマッピングされる位置は外側に移動する。結果として、より強い緑系統の色で表現されるので、観察対象物の色付きを向上させることができる。
以上の説明では、仮想色空間の3原刺激値の少なくとも1つを可視色空間外の点に対応付けたが、可視色空間外でなくてもよい。例えば、点IJの座標(i,j)に対して、領域401の外側に向かう方向に増幅ゲインをかけることによって、彩度を向上させることができれば、可視色空間内の点に対応付けられてもよい。なお、点IJの座標(i,j)以外の他の原刺激値に増幅ゲインをかけてもよいし、複数の原刺激値に増幅ゲインをかけてもよい。
以上の説明では、画像処理部205は、最も強いスペクトル強度に対応する原刺激値を点KLまたは点GHに対応付けたが、システムメモリ206が色差の識別閾を記憶している場合には、この色差の識別閾を用いて対応付けを行ってもよい。色差の識別閾の一例として、マックアダム楕円に応じた識別閾を用いることができる。
図19は、撮像系色空間と表示系色空間の対応関係の他の例を説明する図である。図19(a)、(c)は、図5(a)と同一である。図19(b)、(d)は、可視の表色系色度図を示す。横軸がxであり、縦軸はyである。図19(b)、(d)の領域401内の楕円は、マックアダム楕円を示す。
図19(a)および(b)の例においては、図14の例と同様に、点ABの座標(a,b)は点GHの座標(g,h)に対応付けられる。点CDの座標(c,d)は点IJの座標(i,j)に対応付けられる。点EFの座標(e,f)は点KLの座標(k,l)に対応付けられる。観察対象物Obj1および観察対象物Obj2は、同一のマックアダム楕円内にマッピングされている。この場合に、ユーザが観察対象物Obj1と観察対象物Obj2を色弁別することは非常に困難である。
図19(c)および(d)の例においては、図15の例と同様に、点ABの座標(a,b)は点IJの座標(i,j)に対応付けられる。点CDの座標(c,d)は点KLの座標(k,l)に対応付けられる。点EFの座標(e,f)は点GHの座標(g,h)に対応付けられる。観察対象物Obj1および観察対象物Obj2は、同一のマックアダム楕円内にマッピングされていない。この場合、ユーザは観察対象物Obj1と観察対象物Obj2を色弁別し易くなる。
以上のことから、画像処理部205は、観察対象物Obj1および観察対象物Obj2が同一のマックアダム楕円にマッピングされる場合に、色割り当てを変更するとよい。例えば、図19(c)および(d)で説明した色割り当てに変更するとよい。これにより、色弁別し難い色から色弁別し易い色に変換することができる。なお、色差の識別閾は、マックアダム楕円に応じた識別閾に限られない。例えば、ユニバーサルカラーデザイン等の他の原理に応じた識別閾であってもよい。
画像処理部205は、操作部208が受け付けたユーザ操作に応じて、領域に関連付けられた少なくとも1つの画素データの色相、彩度、輝度、階調特性のいずれか一つまたは複数を変化させてもよい。例えば、色相を変化させることによって、より色弁別し易い色に変換することができる。
以上の説明では、観察情報は、仮想色空間の3原刺激値と可視色空間の3原刺激値とをどのように関連付けるかを示したが、観察対象物のスペクトルそのものを示す情報であってもよい。この場合には、画像処理部205は、撮像素子100の出力特性と観察情報とから仮想色空間の3原刺激値と可視色空間の3原刺激値とをどのように関連付けるかを決定するとよい。例えば、上述のように、最も強いスペクトル強度に対応する原刺激値を点KLまたは点GHに対応付けてもよい。
制御部201は、撮像素子100の出力信号から生成された撮像データを可視色空間における画像データへ変換するための可視外波長情報の一例としての赤外波長情報を生成してもよい。詳しくは後述するが、赤外波長情報は、被写体光束の波長に対する撮像素子100の出力特性である感度特性に基づいて定義される。
画像処理部205は、種々の処理が施された撮像データにタグ情報として赤外波長情報を関連付けた撮像ファイルをメモリカード220に記録してもよい。そして、赤外波長情報を用いて、赤外波長帯域に基づく撮像データを可視波長帯域に変換してカラー画像データを生成してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の撮影動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。