[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2021005786A - 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置 - Google Patents

撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置 Download PDF

Info

Publication number
JP2021005786A
JP2021005786A JP2019118394A JP2019118394A JP2021005786A JP 2021005786 A JP2021005786 A JP 2021005786A JP 2019118394 A JP2019118394 A JP 2019118394A JP 2019118394 A JP2019118394 A JP 2019118394A JP 2021005786 A JP2021005786 A JP 2021005786A
Authority
JP
Japan
Prior art keywords
imaging
unit
grid noise
image
grid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019118394A
Other languages
English (en)
Other versions
JP7146698B2 (ja
Inventor
良太 川俣
Ryota Kawamata
良太 川俣
和幸 田島
Kazuyuki Tajima
和幸 田島
悠介 中村
Yusuke Nakamura
悠介 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2019118394A priority Critical patent/JP7146698B2/ja
Publication of JP2021005786A publication Critical patent/JP2021005786A/ja
Application granted granted Critical
Publication of JP7146698B2 publication Critical patent/JP7146698B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】 撮像の結果得られる画像に生じ得る、振動するサイドローブを持つ点拡がり関数に起因するノイズを適切に除去する。【解決手段】 撮像装置は、物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像部と、グリッドノイズ情報に基づいて前記画像から前記グリッドノイズを除去するグリッドノイズ除去部と、を備えることを特徴とする。前記撮像装置は、前記グリッドノイズ除去部に対して前記グリッドノイズ情報を出力するグリッドノイズ情報出力部、を備えることができる。【選択図】図25

Description

本発明は、撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置に関する。
IoT(Internet of Things)デバイスやウェアラブルデバイス等のデバイスに搭載するための撮像装置は、設置するスペースが限られているため薄型化と低コスト化が求められる。
撮像装置を薄型化する技術として、例えば特許文献1には、レンズを用いることなく物体像を得ることができる撮像方式が提案されている。
また、特許文献2には、薄型化した撮像装置によって指の赤外画像を撮像し、赤外画像から検出した静脈パターンを認証に用いる際の認証精度を向上させる技術が提案されている。
特開2018−061109号公報 特開2015−026228号公報
特許文献1に記載の撮像方法によれば、物体の光が撮像用のパターンからなる変調器を通過し、画像センサに入射して得られる投影像に対し、撮像用のパターンに対応する現像用のパターンを用いて相互相関演算を行うことによって物体の現像画像を得ることができる。しかしながら、撮像の際の点拡がり関数が振動するサイドローブを持つため、それに起因するノイズが現像画像に生じてしまう問題がある。
また、特許文献2に記載の技術では、指を撮像した赤外画像から、静脈を検出する際に支障となるノイズを除去している。ここでのノイズ源は、指のしわを想定している。ノイズを除去するためには、Top−hat変換による高周波成分の除去を行う。具体的には、皮膚のしわは血管幅よりも狭いことが多いことを利用し、構造化要素の長さの調整を経験的に行ない、可能な範囲でしわ成分を除去している。しかしながら、該技術では、血管の細い陰影を誤ってしわと判断して除去してしまう問題がある。また、鮮明な血管の陰影のコントラストを低下させてしまうことも問題である。
本発明はこのような状況に鑑みてなされたものであり、撮像の結果得られる画像上に生じ得る、振動するサイドローブを持つ点拡がり関数に起因するノイズを適切に除去できるようにすることを目的とする。
本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。
上記課題を解決すべく、本発明の一態様に係る撮像装置は、物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている現像画像を出力する撮像部と、グリッドノイズ情報に基づいて前記現像画像から前記グリッドノイズを除去するグリッドノイズ除去部と、を備えることを特徴とする。
本発明の一態様によれば、撮像の結果得られる画像に生じ得る、振動するサイドローブを持つ点拡がり関数に起因するノイズを適切に除去することが可能となる。
上記した以外の課題、構成、及び効果は、以下の実施形態の説明により明らかにされる。
図1は、本発明の各実施形態の基礎となる撮像装置の構成例を示す図である。 図2は、撮像用パターン周辺の構成例を示す図である。 図3は、撮像用パターン周辺の他の構成例を示す図である。 図4は、撮像用パターンとしてのガボールゾーンプレートの一例を示す図である。 図5は、撮像用パターンとしてのフレネルゾーンプレートの一例を示す図である。 図6は、パターン基板に対して斜め入射した平行光が画像センサ上でシフトすることを説明するための図である。 図7は、投影像の一例を示す図です。 図8は、現像用パターンの一例を示す図である。 図9は、相関現像方式による現像画像の一例を示す図である。 図10は、モアレ現像方式によるモアレ縞の一例を示す図である。 図11は、モアレ現像方式による現像画像の一例を示す図である。 図12は、フリンジスキャン演算処理における初期位相の組合せの例を示す図である。 図13は、初期位相が異なる複数の撮像用パターンを空間的に組み合わせて生成した撮像用パターンの一例を示す図である。 図14は、フリンジスキャン演算処理の一例を説明するフローチャートである。 図15は、相関現像方式による現像処理の一例を説明するフローチャートである。 図16は、モアレ現像方式による現像処理の一例を説明するフローチャートである。 図17は、物体が無限距離にある場合に撮像用パターンが等倍で投影されることを説明するための図である。 図18は、物体が有限距離にある場合に撮像用パターンが拡大されて投影されることを説明するための図である。 図19は、画像センサが小さい場合の点拡がり関数の一例を示す図である。 図20は、画像センサが大きい場合の点拡がり関数の一例を示す図である。 図21は、単一輝度の物体の一例を示す図である。 図22は、図21の物体の撮像結果を示す図である。 図23は、図21の物体の一次元プロファイルを示す図である。 図24は、図21の物体の撮像結果の一次元プロファイルを示す図である。 図25は、本発明の第1の実施形態に係る撮像装置の構成例を示す図である。 図26は、グリッドノイズ情報出力部の第1の構成例を示す図である。 図27は、グリッドノイズ情報出力部の第2の構成例を示す図である。 図28は、本発明の第2の実施形態に係る撮像装置の構成例を示す図である。 図29は、複数の基本撮像用パターンからなる撮像用パターンの一例を示す図である。 図30は、本発明の第3の実施形態に係る撮像装置の構成例を示す図である。 図31は、グリッドノイズ情報記憶部の第1の構成例を示す図である。 図32は、グリッドノイズ情報記憶部の第2の構成例を示す図である。 図33は、本発明の第4の実施形態に係る撮像装置の構成例を示す図である。 図34は、図33の撮像部の構成例を示す図である。 図35は、本発明の第5の実施形態に係る撮像装置の構成例を示す図である。 図36は、本発明の第6の実施形態に係る撮像装置の構成例を示す図である。 図37は、本発明の第7の実施形態に係る撮像装置の構成例を示す図である。 図38は、本発明の第8の実施形態に係る撮像装置の構成例を示す図である。
以下、本発明の複数の実施形態を図面に基づいて説明する。なお、各実施形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。また、以下の実施形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合、及び原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aより成る」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合、及び原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似又は類似するもの等を含むものとする。
<撮像装置101の構成例>
図1は、以下に説明する本発明の各実施形態の基礎となる撮像装置101の構成例を示している。撮像装置101は、撮像部102、及びコントローラ108を備える。
撮像部102は、画像センサ103、パターン基板104、撮像用パターン105、及び画像処理部106を有する。撮像部102は、物体の光学像を結像させるためのレンズを用いることなく、物体を撮像し、所定の現像処理によって物体の撮像画像を生成し、コントローラ108に出力する。
コントローラ108は、撮像部102から入力される撮像画像を、例えば、コンピュータや記録デバイス等の外部装置に出力する。コントローラ108は、外部装置に撮像画像を出力する場合、外部装置と接続するためのインターフェース(例えば、USB(Universal Serial Bus)等)に適合するように撮像画像のデータ形式を変換する。コントローラ108は、例えば、CPU、メモリ、ストレージ、通信インターフェースを備える一般的なコンピュータによって実現できる。
次に、図2は、撮像用パターン105周辺の構成例を示している。パターン基板104は、その下面が画像センサ103の受光面に密着して固定されており、パターン基板104の上面(光入射面)には、撮像用パターン105が形成されている。
パターン基板104は、例えばガラスやプラスティック等の可視光に対して透明な材料からなる。撮像用パターン105は、例えば半導体プロセスに用いられるスパッタリング法等により、パターン基板104の上面にアルミニウム、クロム等の金属を蒸着することによって形成されている。
なお、撮像用パターン105は、アルミニウム等の金属が蒸着されている部分と蒸着されていない部分とを設けることによって濃淡がつけられており、通過する可視光の透過率を変調することができるようになされている。すなわち、撮像用パターン105は、本発明の変調器に相当する。
ただし、撮像用パターン105の形成は、金属の蒸着に限るものでない。例えばインクジェットプリンタ等によって印刷する等、可視光の透過率の変調を実現できる手段であればどのように形成してもよい。
また、ここでは可視光を例に説明したが、可視光以外の光の撮像を行う場合には、パターン基板104を、該光を透過する材料(例えば、遠赤外光の場合、ゲルマニウム、シリコン、カルコゲナイド等)で形成し、撮像用パターン105を、該光を遮断する材料で形成するようにすればよい。
次に、図3は、撮像用パターン105周辺の他の構成例を示している。図2の構成例では、撮像用パターン105をパターン基板104の上面に形成していた。図3の構成例では、撮像用パターン105を薄膜によって形成し、該薄膜が、支持部材301によって画像センサ103から所定の距離を離して保持されている。
なお、撮像装置101による撮像画角は、パターン基板104の厚さによって変更可能である。したがって、図3に示された構成例の場合、支持部材301の長さを変更できる機構を設ければ、撮像画角を変更することが可能となる。
画像センサ103は、その表面に受光素子である画素103aが格子状に規則的に配置されている。画像センサ103は、各画素103aによる光電変換の結果得られる入射光に応じた画素信号からなるセンサ画像(以下、投影像とも称する)を画像処理部106に出力する。
画像処理部106は、画像センサ103から入力される投影像に、フリンジスキャン演算処理、現像処理等の画像処理を行うことにより、撮像画像を生成し、コントローラ108に出力する。画像処理部106は、例えば、専用の画像処理回路、またはコンピュータによって実現される。
<撮像装置101による撮像原理>
ここで、撮像装置101による撮像原理について説明する。
はじめに、撮像用パターン105について説明する。撮像用パターン105は、中心からの距離に反比例して間隔が細かくなる複数の同心円からなるパターン(模様)である。撮像用パターン105は、同心円の中心を基準座標とし、基準座標からの半径r、係数βを用いて次式(1)のように表される。
Figure 2021005786
なお、撮像用パターン105は、実際に光を透過させる用途に用いるので、負の値となっては不都合であるため、COS値に1を加算してオフセットさせている。撮像用パターン105は、式(1)に比例して透過する光の透過率を変調する。このような複数の同心円からなる縞模様は、ガボールゾーンプレートまたはフレネルゾーンプレート等と称される。
図4は、式(1)に対応するガボールゾーンプレートの一例を示している。図5は、式(1)のI(r)を、1を閾値として2値化したフレネルゾーンプレートの一例を示している。
なお、以下においては、説明を簡単化するため、x方向についてのみ数式を用いて説明するが、y方向についてもx方向と同様に処理することにより、x方向及びy方向の2次元に展開することが可能である。
次に、図6は、パターン基板104に対して斜め入射した平行光が画像センサ103上でシフトすることを説明するための図である。
同図に示されるように、撮像用パターン105が形成されている厚さdのパターン基板104に対し、x方向に角度θで平行光が入射した場合、パターン基板104の中の屈折角をθとすれば、幾何光学的には、撮像用パターン105の透過率が乗じられた光が、k=d・tanθだけシフトして画像センサ103に入射する。そして、次式(2)によって表される強度分布を有する投影像が画像センサ103によって生成される。
Figure 2021005786
式(2)におけるΦは、式(1)によって表される撮像用パターン105の透過率分布の初期位相である。
次に、図7は、式(1)によって表される撮像用パターン105を通過し、画像センサ103に入射して得られた投影像の一例を示している。同図に示されるように、投影像は、撮像用パターン105に比べて、式(2)のようにkだけずれたものとなる。
ここで、画像処理部106における現像処理について説明する。画像処理部106における現像処理では、相関現像方式またはモアレ現像方式の一方により現像処理を実行する。図8は、現像処理に用いる現像用パターン801の一例である。
はじめに、相関現像方式について説明する。相関現像方式では、撮像用パターン105を通過した光の投影像(図7)と、現像用パターン801(図8)との相互相関関数を演算することによって現像画像を得る。
図9は、相関現像方式による現像画像の一例を示している。同図に示されるように、相関現像方式による現像画像には、シフト量kの輝点が出現する。
なお、一般的に、相互相関関数の演算は、2次元畳み込み演算によって行うと演算量が大きくなる。そこで、本実施の形態では、相互相関関数の演算における演算量がより少なくなるように、フーリエ変換を用いて演算する。以下、フーリエ変換を用いて相互相関関数の演算を行う原理について説明する。
投影像との相互相関関数を演算する現像用パターン801(図8)は、撮像用パターン105と同様、ガボールゾーンプレートやフレネルゾーンプレートを用いる。したがって、現像用パターン801は、初期位相Φを用いて次式(3)のように表すことができる。
Figure 2021005786
現像用パターン801は、現像処理にて演算に使用するだけであり、撮像用パターン105のように光を透過させる用途には用いないので、負の値となってもよい。よって、現像用パターン801を表す式(3)は、撮像用パターン105を表す式(1)のように1を加算してオフセットさせる必要はない。
式(1),(3)のフーリエ変換の結果は、次式(4),(5)に示すとおりである。
Figure 2021005786
Figure 2021005786
式(4),(5)におけるFはフーリエ変換演算、uはx方向の周波数座標を表す。式(4)におけるδは、デルタ関数である。F,u,δについては、以降の式においても同様とする。
式(4),(5)で重要なことは、フーリエ変換後においても、フレネルゾーンプレートやガボールゾーンプレートを表す成分を含んでいる点である。よって、式(4),(5)に基づいてフーリエ変換後の現像用パターンを直接的に生成してもよい。これにより演算量の低減が可能となる。
次に、式(4)と式(5)とを乗算して次式(6)を得る。
Figure 2021005786
式(6)における指数関数で表された項e(−iku)が信号成分であり、この項を逆フーリエ変換すれば、次式(7)に示す点拡がり関数を得ることができる。
Figure 2021005786
式(7)は、図9に示された現像画像のように、元のx軸において、基準座標からkだけずれた位置の輝点を表す。この輝点は、無限遠の光束を示しており、現像画像(図9)は、撮像部102によって撮像された画像にほかならない。
なお、式(6)には、信号成分以外の項も存在し、これがノイズとなるため、フリンジスキャン演算処理によるノイズキャンセルを行う(詳細後述)。
また、相関現像方式の場合、撮像用パターン105及び現像用パターン801は、そのパターンの自己相関関数が単一のピークを有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されず、例えばランダムなパターンであってもよい。
次に、モアレ現像方式について説明する。モアレ現像方式では、撮像用パターン105を通過した光の投影像(図7)と、現像用パターン801(図8)とを乗算することによりモアレ縞を生成し、モアレ稿をフーリエ変換することによって現像画像を得る。
図10は、撮像用パターン105を通過した光の投影像(図7)と、現像用パターン801(図8)とを乗算することによって得られるモアレ縞の一例を示している。このモアレ縞は、次式(8)によって表される。
Figure 2021005786
式(8)の展開式における第3項が信号成分であり、図10に示されるように、投影像(図7)と、現像用パターン801(図8)とのパターンのずれの方向(図面横方向)と直交する等間隔の縞模様が、投影像(図7)と、現像用パターン801(図8)とのパターンが重なり合う領域の全体に生じていることが分かる。このような縞と縞との重ね合わせによって相対的に低い空間周波数で生じる縞がモアレ縞である。
式(8)の展開式における第3項に2次元フーリエ変換を行えば、次式(9)に示す点拡がり関数を得ることができる。
Figure 2021005786
また、式(9)から、モアレ縞の空間周波数スペクトルにおいて、空間周波数のピークがu=±kβ/πの位置に生じることが分かる。
図11は、モアレ縞をフーリエ変換することによって得られる現像画像の一例を示している。同図に示されるように、モアレ現像方式による現像画像には、シフト量±kβ/πの輝点が出現する。この輝点は、無限遠の光束を示しており、撮像部102によって撮像された画像にほかならない。
なお、式(8)には、信号成分以外の項も存在し、これがノイズとなるため、フリンジスキャン演算処理によるノイズキャンセルを行う(詳細後述)。
また、モアレ現像方式の場合、撮像用パターン105及び現像用パターン801のパターンは、両者を乗算して得られるモアレ縞が単一の周波数を有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されず、例えば楕円状のパターンであってもよい。
<フリンジスキャン演算に基づくノイズキャンセル>
次に、式(6)及び式(8)における信号成分以外の項に起因するノイズをフリンジスキャン演算処理によってキャンセルする方法について説明する。
フリンジスキャン演算処理を行うためには、初期位相Φが異なる複数の撮像用パターン105を使用して撮像を行う必要がある。
図12は、初期位相Φが異なる4種類の撮像用パターン105の例を示しており、左側から順に、初期位相Φが0,π/2,π,3π/2撮像用パターン105を示している。
初期位相Φ(0,π/2,π,3π/2)が異なる4種類の撮像用パターン105を用いて4枚のセンサ画像を撮像し、次式(10)に従って演算すると複素数のセンサ画像(以下、複素センサ画像と称する)を得ることができる。
Figure 2021005786
複素センサ画像に対応する現像用パターン801は、次式(11)に示すとおりとなる。
Figure 2021005786
なお、式(11)には複素数を含んでいるが、複素センサ画像に対応する現像用パターン801は、実際に光を透過させるわけではなく、フリンジスキャン演算処理に用いるだけなので複素数であっても問題ない。
モアレ現像方式の場合には、複素センサ画像を表す式(10)と、現像用パターン801を表す式(11)とを乗算して次式(12)を得る。
Figure 2021005786
式(12)における指数関数で表された項exp(2iβkx)が信号成分であり、式(8)のように信号成分以外の項が存在しないので、ノイズが除去されていることが分かる。
一方、相関現像方式の場合には、複素センサ画像を表す式(10)と、現像用パターン801をそれぞれフーリエ変換して次式(13),(14)を得る。
Figure 2021005786
Figure 2021005786
次に、式(13)と式(14)とを乗算して次式(15)を得る。
Figure 2021005786
式(15)における指数関数で表された項exp(−iku)が信号成分であり、式(6)のように信号成分以外の項が存在しないので、ノイズが除去されていることが分かる。
なお、上述したフリンジスキャン演算処理によるノイズキャンセルの説明では、初期位相Φが異なる4枚の撮像用パターン105を用いたが、フリンジスキャンに用いる撮像用パターン105の数は4に限らない。例えば、N(Nは2以上の整数)枚の撮像用パターン105を用いる場合、初期位相Φは0〜2πの間の角度[rad]をN等分して設定すればよい。
初期位相Φが異なる複数の撮像用パターン105を用いて撮像を行うには、時分割で撮像用パターン105を切り替える方法と、空間分割で初期位相Φが異なる複数の撮像用パターン105を配置する方法がある。
時分割で撮像用パターン105を切り替える方法は、例えば、初期位相Φが異なる複数の撮像用パターン105を切り替えて表示することが可能な液晶表示素子等を、撮像用パターン105として使用すればよい。この液晶表示素子の切替タイミングと画像センサ103のシャッタタイミングを同期させて撮像を行い、その結果得られた4枚のセンサ画像を画像処理部106に出力し、画像処理部106においてフリンジスキャン演算処理を実行すればよい。
一方、空間分割で初期位相Φが異なる複数の撮像用パターン105を配置する方法は、初期位相Φが異なる複数の撮像用パターン105を空間的に組み合わせて1枚の撮像用パターン105を生成する。そして、該1枚の撮像用パターン105を用いて撮像を行い、その結果得られたセンサ画像を画像処理部106にて4枚に分割してからフリンジスキャン演算処理を実行すればよい。
図13は、図12に示された初期位相Φが異なる4枚の撮像用パターンを空間的に組み合わせた撮像用パターン105の一例である。なお、図13に示されたような1枚の撮像用パターン105を構成する初期位相Φが異なる4数の撮像用パターンを、以下、基本撮像用パターンと称する。
<画像処理部106による画像処理>
次に、図14は、画像処理部106によるフリンジスキャン演算処理の一例を説明するフローチャートである。
フリンジスキャン演算処理は、例えば、画像処理部106に対し、画像センサ103からセンサ画像が入力されたときに開始される。なお、画像センサ103からは、初期位相Φが異なる複数の撮像用パターン105をそれぞれ用いて撮像した複数のセンサ画像が入力される場合(以下、時分割フリンジスキャンの場合と称する)と、初期位相Φが異なる複数の基本撮像用パターンを空間的に組み合わせた1枚の撮像用パターン105を用いて撮像した1枚のセンサ画像が入力される場合(以下、空間分割フリンジスキャンの場合と称する)とがある。
はじめに、画像処理部106は、空間分割フリンジスキャンの場合、1枚の撮像用パターン105をなす基本撮像用パターンの数に合わせてセンサ画像を複数に分割する(ステップS1)。なお、時分割フリンジスキャンの場合、ステップS1は省略される。
次に、画像処理部106は、出力用の複素センサ画像を初期化する(ステップS2)。次に、画像処理部106は、1番目の初期位相Φに対応するセンサ画像を処理対象として取得し(ステップS3)、その初期位相Φに応じたexp(iΦ)をセンサ画像に乗算し(ステップS4)、その乗算結果を複素センサ画像に加算する(ステップS5)。
次に、画像処理部106は、全ての初期位相Φにそれぞれ対応するセンサ画像を処理対象としたか否かを判定する(ステップS6)。ここで、全ての初期位相Φにそれぞれ対応するセンサ画像を処理対象としていないと判定した場合(ステップS6でNO)、画像処理部106は、処理をステップS3に戻して、ステップS3〜S6を繰り返す。例えば、図12に示されたように、初期位相Φが0,π/2,π,3π/2の4種類である場合、ステップS3〜S6は4回繰り返される。その後、全ての初期位相Φにそれぞれ対応するセンサ画像を処理対象としたと判定した場合(ステップS6でYES)、画像処理部106は、次に説明する現像処理に対して複素センサ画像を出力する(ステップS7)。以上で、画像処理部106によるフリンジスキャン演算処理は終了される。
次に、画像処理部106による現像処理について説明する。
図15は、画像処理部106による相関現像方式を採用した現像処理を含む画像処理の一例を説明するフローチャートである。
該画像処理は、上述したフリンジスキャン演算処理から複素センサ画像が入力されたことに応じて開始される。
はじめに、画像処理部106は、フリンジスキャン演算処理から入力された複素センサ画像に対して2次元FFT(高速フーリエ変換)演算を行う(ステップS11)。
次に、画像処理部106は、現像処理に使用する現像用パターン801を生成して2次元FFT演算後の複素センサ画像に乗算し(ステップS12)、逆2次元FFT演算を実行する(ステップS13)。ステップS13の演算結果は複素数となるため、画像処理部106は、演算結果を絶対値化するか、または実部を取り出して撮像対象の像を実数化して画像化することにより現像画像を生成する(ステップS14)。
次に、画像処理部106は、得られた現像画像に対してコントラスト強調処理(ステップS15)、カラーバランス調整処理(ステップS16)等を行い、撮像画像としてコントローラ108に出力する。以上で、画像処理は終了される。
次に、図16は、画像処理部106によるモアレ現像方式を採用した現像処理を含む画像処理の一例を説明するフローチャートである。
該画像処理は、上述したフリンジスキャン演算処理から複素センサ画像が入力されたことに応じて開始される。
はじめに、画像処理部106は、現像処理に使用する現像用パターン801を生成してフリンジスキャン演算処理から入力された複素センサ画像に対して乗算し(ステップS21)、2次元FFT(高速フーリエ変換)演算を行うことにより周波数スペクトルを求め(ステップS22)、この周波数スペクトルのうち、必要な周波数領域のデータを切り出す(ステップS23)。
必要な周波数領域のデータは複素数となるため次に、画像処理部106は、該データを絶対値化するか、または実部を取り出して撮像対象の像を実数化して画像化することにより現像画像を生成する(ステップS24)。
次に、画像処理部106は、得られた現像画像に対してコントラスト強調処理(ステップS25)、カラーバランス調整処理(ステップS26)等を行った後、撮像画像としてコントローラ108に出力する。以上で、画像処理は終了される。
<有限距離物体の撮像原理>
ここまでは、撮像の対象とする物体が無限距離に存在していることを前提として説明した。図17は、撮像の対象とする物体が無限距離に存在している場合における撮像用パターン105の画像センサ103への射影の様子を示している。
同図に示されるように、無限遠の物体を構成する点1701からの球面波は、十分に長い距離を伝搬する間に平面波となって撮像用パターン105を透過し、画像センサ103に入射する。したがって、画像センサ103にて得られる投影像1702は撮像用パターン105とほぼ同じ形状となる。この結果、投影像1702に対して、現像用パターンを用いて現像処理を行うことにより、単一の輝点を得ることが可能とある。
次に、撮像の対象とする物体が有限距離に存在している場合について説明する。
図18は、撮像の対象とする物体が有限距離に存在している場合における撮像用パターン105の画像センサ103への射影の様子を示している。
同図に示されるように、有限遠の物体を構成する点1801からの球面波は、球面波の状態で撮像用パターン105を透過し、画像センサ103に入射する。よって、画像センサ103にて得られる投影像1802は、撮像用パターン105がほぼ一様に拡大されたものとなる。なお、この拡大率αは、点1801から撮像用パターン105までの距離fを用いて、次式(16)により算出できる。
Figure 2021005786
このように、撮像の対象とする物体が有限距離に存在している場合、投影像1802は、撮像用パターン105を拡大率αしたものとなるため、平行光に対して設計された現像用パターンをそのまま用いて現像処理を行った場合、単一の輝点を得ることができない。
このような場合、現像用パターンを、投影像1802に合わせて、現像用パターン801を拡大させて用いれば、撮像の対象とする物体が有限距離に存在している場合と同様、単一の輝点を得ることができる。
また、このような場合、現像用パターン801は、式(3)における係数βを、β/αに置換することで補正が可能である。これにより、必ずしも無限遠でない距離の点1801からの光を選択的に現像画像上に再生することができる。これによって、任意の位置に焦点合わせて撮像を行うことができる。
<グリッドノイズの発生>
以上の説明では、画像センサ103の大きさが無限に大きい理想的な状況を想定していた。したがって、撮像用パターン105の投影像も外側まで無限に続いていることを想定していた。
しかしながら、画像センサ103の大きさは有限であるため、以下においては、画像センサ103の大きさが有限である現実的な状況について説明する。
画像センサ103の大きさが有限である場合、式(7)や式(9)によって示されていた点拡がり関数が変化し、現像画像にグリッドノイズが生じる。以下、現像画像に生じるグリッドノイズについて説明する。
現像画像におけるグリッドノイズの発生は、撮像部102の設計値に依存している。はじめに、画像センサ103の大きさが有限である場合に点拡がり関数が変化することを説明する。
画像センサ103の大きさが有限である場合、画像センサ103上で検出される投影像の大きさも有限となる。画像センサ103がx方向に−sから+sまでの幅を有すると、撮像用パターン105の投影像を表す式(2)は、次式(17)に示されるとおりとなる。
Figure 2021005786
式(17)における矩形関数rect(x)は、次式(18)に示すとおりである。
Figure 2021005786
この場合、図6に示されたように、撮像用パターン105が形成されている厚さdのパターン基板104に対し、x方向に角度θで平行光が入射したとき現像画像を表す点拡がり関数は、式(7)から次式(19)に変化する。
Figure 2021005786
すなわち、点拡がり関数が、δ関数からsin(2βs(x+k))/(2βs(x+k))・cos(β(x+k))へと、サイドローブを持つ関数に変化する。ここでサイドローブとは、メインローブの他に少なくとも一度出現する顕著な振動成分を指す。
図19及び図20は、画像センサ103の大きさが異なる場合の、サイドローブを有する点広がり関数の例を示しており、図19は、画像センサ103の大きさが小さい方に対応する点広がり関数であり、図20が画像センサ103の大きさが大きい方に対応する点広がり関数である。
図19及び図20からわかるように、サイドローブは、画像センサ103の大きさが小さいほど、その振動の収束が遅くなる。一方、メインローブは、画像センサ103の大きさが小さいほど、その拡がりが広くなる。なお、図示は省略するが、サイドローブは、撮像用パターン105が粗いほど、その振動の収束が遅くなる。一方、メインローブは、撮像用パターン105が粗いほど、その拡がりが広くなる。
以下、式(19)においてk=0としたときの点拡がり関数を、PSF(x)と称する。
次に、点拡がり関数がサイドローブを有し、かつ、所定の条件下で現像画像にグリッドノイズが発生することについて説明する。
はじめに、単一輝度(例えば、白色)の四角形の物体を撮像する場合を考える。図21は、単一輝度の四角形の物体の一例を示している。該物体は、x方向の幅が2Lであり、該物体を矩形関数rect(x/2L)と表した場合、現像画像r(x)は、次式(20)のように表される。ここで、単一輝度の四角形の物体を撮像撮影して得られる現像画像r(x)を、特にgrid(x)と表す。
Figure 2021005786
図22は、図21に示された物体を撮像して得られる現像画像である。図23は、図21に示された単一輝度の物体の一次元プロファイルである。図24は、図22に示された現像画像の一次元プロファイルである。
図24からわかるように、輝度が急激に変化する物体の縁の部分の周囲で、点拡がり関数のサイドローブの振動の影響が顕著に現れる。具体的には、サイドローブの形状で決まる縁からの距離で暗線と明線が繰り返される。これがグリッドノイズである。
一方、物体が単一輝度ではない場合、発生するノイズは太さや現れる位置が変化し、グリッド状ではない。数式で表すと、物体が単一輝度ではなく、その輝度分布が関数f(x)である場合、現像画像r(x)は、次式(21)のように表される。
Figure 2021005786
しかしながら、物体が単一輝度に近い輝度分布を有する場合、グリッドノイズの位置を計算で近似することができる。物体が単一輝度に近い輝度分布を有する場合、輝度分布を表す関数f(x)は、微小量hを用いて次式(22)のように表される。
Figure 2021005786
式(22)におけるo(x)は、物体の輝度分布から定数成分を差し引いたものである。これに対応する現像画像r(x)は、次式(23)のように表される。
Figure 2021005786
式(23)によって表される現像画像r(x)ではグリッドノイズが卓越しており、その出現はgrid(x)で表される。このように、物体が単一輝度に近い輝度分布を有する場合、撮像部102の設計値に依存した固定の位置にグリッドノイズが現れることになる。
次に、現像画像に生じたグリッドノイズを除去する可能な撮像装置について説明する。
<本発明の第1の実施形態に係る撮像装置101の構成例>
図25は、本発明の第1の実施形態に係る撮像装置101の構成例を示している。撮像装置101は、撮像装置101(図1)に対して、撮像部102とコントローラ108との間に、グリッドノイズ除去部107及びグリッドノイズ情報出力部1071を追加したものである。なお、撮像装置101の構成要素のうち、撮像装置101の構成要素と共通するものについては、同一の符号を付して、その説明を省略する。
グリッドノイズ除去部107は、グリッドノイズ情報grid(x)に基づき、画像処理部106から入力される現像画像r(x)に生じたグリッドノイズを除去して、コントローラ108に出力する。グリッドノイズ除去部107は、例えば、専用の画像処理回路、またはコンピュータによって実現される。
グリッドノイズ情報出力部1071は、外部から入力される情報に基づき、グリッドノイズ情報grid(x)を生成してグリッドノイズ除去部107に出力する。
次に、図26は、撮像装置101におけるグリッドノイズ情報出力部1071の第1の構成例を示している。
グリッドノイズ情報出力部1071の第1の構成例は、撮像部設計値入力部1072、及びグリッドノイズ情報計算部1073を有する。
撮像部設計値入力部1072は、例えば、USBポート等の入力インターフェースからなり、外部(キーボード、半導体メモリ、PC(Personal Computer)等)から入力された撮像部設計値をグリッドノイズ情報計算部1073に出力する。
ここで、撮像部設計値は、例えば、画像センサ103の大きさ、撮像用パターン情報、現像用パターン情報、視野の大きさ、物体と撮像用パターン105との距離f、及び撮像用パターン105と画像センサ103との距離d等を含むものとする。
グリッドノイズ情報計算部1073は、撮像部設計値入力部1072から入力された撮像部設計値に基づき、グリッドノイズ除去に必要なグリッドノイズ情報grid(x)を式(20)に従って計算し、グリッドノイズ除去部107に出力する。
グリッドノイズ除去部107は、次式(24)に示すように、現像画像r(x)をグリッドノイズ情報grid(x)で除算することにより、グリッドノイズ除去後の現像画像r’(x)を演算する。
Figure 2021005786
グリッドノイズ除去前の現像画像r(x)を表す式(23)と、式(24)と比較して明らかなように、式(23)は、(グリッドノイズ+物体)であったのに対し、式(24)は、(1+輝度が多少変化した物体)となり、式(24)からは、グリッドノイズが除去されていることがわかる。
なお、図24に示されたように、視野内におけるグリッドノイズの輝度の変動の割合 (輝度の絶対値に対する輝度の分散)は、1よりも十分小さいため、物体の輝度の変化量も十分小さい。
したがって、式(22)で表されるような物体に関しては、グリッドノイズ除去の効果が物体の輝度が変化する影響を上回るので、本実施形態によるグリッドノイズ除去が有効に作用する。
特に、例えば、人の指静脈を検出するような場合において、人の指の赤外画像に生じたグリッドノイズに起因する指静脈の誤検出を抑止する手段として、本実施形態によるグリッドノイズ除去は非常に有効となる。これは、指の赤外画像には、ほぼ単一輝度の背景の中に、エッジが顕著ではない静脈が数本写る状態となるためである。
なお、本実施形態によるグリッドノイズ除去は、単一輝度の物体を仮定して計算したグリッドノイズの情報を、より一般的な物体のグリッドノイズ除去にも用いることが可能である。
ただし、例えば市松模様のように、単一輝度とは異なり、式(22)で表されない物体に対しては、本実施形態によるグリッドノイズ除去は適用できない。このような物体を撮像した現像画像に対して、本実施形態によるグリッドノイズ除去を行った場合、グリッドノイズ除去に起因する余計なノイズがさらに生じることになる。
しかしながら、物体の現像画像に対して生じ得るこの余計なノイズは、本実施形態によるグリッドノイズ除去が利用されているか否かの判断に用いることができる。すなわち、格子サイズの異なる市松模様を複数撮像し、現像画像にノイズが生じている場合、本実施形態によるグリッドノイズ除去が利用されていると判断できる。また、市松模様の代わりに、二次元正規分布のような徐々に物体の縁で徐々に輝度が変化する物体を用いることも可能である。
次に、図27は、撮像装置101におけるグリッドノイズ情報出力部1071の第2の構成例を示している。
グリッドノイズ情報出力部1071の第2の構成例は、実測撮像結果入力部1074、及びグリッドノイズ情報抽出部1075を有する。
実測撮像結果入力部1074は、例えば、USBポート等の入力インターフェースからなり、外部(半導体メモリ、PC等)から入力された実測撮像結果をグリッドノイズ情報抽出部1075に出力する。実測撮像結果とは、グリッドノイズが生じている現像画像である。
グリッドノイズ情報抽出部1075は、実測撮像結果からグリッドノイズ情報grid(x)を抽出してグリッドノイズ除去部107に出力する。具体的には、グリッドノイズ情報抽出部1075は、実測撮像結果としての現像画像に対し、内蔵する高域通過濾波器を用いてグリッドノイズ情報grid(x)を抽出する。また、実測撮像結果の信号が弱い場合、実測撮像結果を平滑化する処理が必要となる。
ここで、実測撮像結果の最も単純な例としては、単一輝度の物体を撮像して得られた現像画像を挙げることができる。この現像画像は、そのままグリッドノイズ情報grid(x)に対応するので、グリッドノイズ情報抽出部1075では特に処理を行わず、入力された現像画像をそのままグリッドノイズ情報grid(x)としてグリッドノイズ除去部107に出力する。
ただし、実測撮像結果を得るために撮像する物体は、単一輝度のものに限る必要はない。既知の任意の物体を撮像した結果を実測撮像結果入力部1074に入力し、グリッドノイズ情報抽出部1075にて撮像結果と既知の物体情報を比較することで、グリッドノイズ情報grid(x)を得ることも可能である。具体的には、撮像結果と既知の物体情報から点拡がり関数PSF(x)を算出し、式(20)に従ってグリッドノイズ情報grid(x)を計算する。また必要に応じて、グリッドノイズ情報grid(x)に高域通過濾波器や平滑化の適用を行う。
グリッドノイズ情報出力部1071の第1の構成例(図26)と第2の構成例(図27)とを比較すると、理論と実機との乖離が無視できる場合には、ノイズ等の影響を受けない第1の構成による計算に基づいたグリッドノイズ除去が有効である。反対に、理論と実機との乖離が無視できない場合には、ノイズ等の影響を受けるものの、第2の構成例による現実に即したグリッドノイズ除去が有効である。
<本発明の第2の実施形態に係る撮像装置101の構成例>
次に、図28は、本発明の第2の実施形態に係る撮像装置101の構成例を示している。撮像装置101は、撮像装置101(図25)における撮像部102を、撮像部102に置換したものである。なお、撮像装置101の構成要素のうち、撮像装置101及び撮像装置101の構成要素と共通するものについては、同一の符号を付して、その説明を省略する。
撮像部102は、撮像部102(図1)と比べて、撮像用パターン105の大きさ、画像センサ103の大きさ、撮像用パターン105と画像センサ103との距離は共通である。ただし、撮像用パターン105が複数の基本撮像用パターン1051からなり、画像センサ103が複数の小型画像センサユニット1031からなる点が異なる。
このような構成により、撮像部102は、撮像部102と比べて、より広い視野を撮像することができる。
図29は、撮像部102に採用されている、複数の基本撮像用パターン1051からなる撮像用パターン105の一例を示している。同図の場合、撮像用パターン105は、初期位相Φが等しい9つの基本撮像用パターン1051からなるが、撮像用パターン105をなす基本撮像用パターン1051の数は9に限定されない。
また、撮像部102は、必ずしも撮像用パターン105、及び画像センサ103の両方が複数に分かれている必要はない。例えば、1つの基本撮像用パターン1051からなる撮像用パターン105と、複数の小型画像センサユニット1031からなる画像センサ103の組み合わせでもよいし、複数の基本撮像用パターン1051からなる撮像用パターン105と、細分化されていない画像センサ103との組み合わせでもよい。
<本発明の第3の実施形態に係る撮像装置101の構成例>
次に、図30は、本発明の第3の実施形態に係る撮像装置101の構成例を示している。
撮像装置101(図25)では、グリッドノイズ除去部107に対して、撮像装置101の外部から入力される情報に基づいて生成されたグリッドノイズ情報grid(x)を入力していた。これに対して、撮像装置101は、グリッドノイズ除去部107が、グリッドノイズ情報grid(x)を予め(製造時等)保持するグリッドノイズ情報記憶部1076を内蔵している。グリッドノイズ情報記憶部1076は、保持するグリッドノイズ情報grid(x)をグリッドノイズ除去部107に出力する。グリッドノイズ情報記憶部1076は、本発明のグリッドノイズ情報出力部に相当する。
なお、撮像装置101の構成要素のうち、撮像装置101及び撮像装置101の構成要素と共通するものについては、同一の符号を付して、その説明を省略する。
撮像装置101の場合、グリッドノイズ除去部107は、グリッドノイズ情報記憶部1076が保持するグリッドノイズ情報grid(x)を用いてグリッドノイズを除去することができる。
次に、図31は、撮像装置101におけるグリッドノイズ情報記憶部1076の第1の構成例を示している。
グリッドノイズ情報記憶部1076の第1の構成例は、撮像部設計値記憶部1077、及びグリッドノイズ情報計算部1073を有する。撮像部設計値記憶部1077は、予め(製造時等)記憶している撮像部設計値をグリッドノイズ情報計算部1073に出力する。グリッドノイズ情報計算部1073は、撮像部設計値記憶部1077からの撮像部設計値に基づき、グリッドノイズ情報grid(x)を計算して保持し、適宜、グリッドノイズ除去部107に出力する。
次に、図32は、撮像装置101におけるグリッドノイズ情報記憶部1076の第2の構成例を示している。
グリッドノイズ情報記憶部1076の第2の構成例は、実測撮像結果記憶部1078、及びグリッドノイズ情報抽出部1075を有する。実測撮像結果記憶部1078は、予め(製造時等)記憶している実測撮像結果をグリッドノイズ情報抽出部1075に出力する。グリッドノイズ情報抽出部1075は、実測撮像結果からグリッドノイズ情報grid(x)を抽出して保持し、適宜、グリッドノイズ除去部107に出力する。
<本発明の第4の実施形態に係る撮像装置101の構成例>
次に、図33は、本発明の第4の実施形態に係る撮像装置101の構成例を示している。
第1〜3の実施形態における撮像部102,102は、レンズを含まない構成であった。しかしながら、本実施形態によるグリッドノイズ除去は、撮像部におけるレンズの有無に拘わらず、点拡がり関数がサイドローブを有する場合の現像画像に生じたグリッドノイズに対して有効に作用する。
そこで、撮像装置101における撮像部102は、レンズの有無については限定せず、点拡がり関数がサイドローブを有するものと定義する。なお、撮像装置101の構成要素のうち、撮像装置101等の構成要素と共通するものについては、同一の符号を付して、その説明を省略する。
図34は、撮像装置101における撮像部102の構成例を示している。撮像部102は、有機EL(Electro Luminescence)ディスプレイ1021、及び、カメラモジュール1022を有する。カメラモジュール1022は、レンズ、画像センサ、及び画像処理部(何れも不図示)を備える。カメラモジュール1022は、それ自体では点拡がり関数にサイドローブが発生しない(無視できる程度に発生する場合を含む)。
同図に示された撮像部102の構成例は、例えば、スマートフォン等に搭載し、ディスプレイの裏面からディスプレイの表面にある物体(ユーザの指紋)を撮像する場合に適用できる。
同図に示された撮像部102においては、カメラモジュール1022では点拡がり関数にサイドローブが発生しないが、有機ELディスプレイ1021による回折の影響で、有機ELディスプレイ1021を通過した光がカメラモジュール1022によって撮像された段階で点拡がり関数にサイドローブが発生する。
すなわち、撮像部102は、カメラモジュール1022と物体の間に、点拡がり関数にサイドローブを発生させ得る変換物(同図の場合、有機ELディスプレイ1021)が配置された構成全般を含む。撮像部102は、点拡がり関数のサイドローブに起因するグリッドノイズが生じた画像をグリッドノイズ除去部107に出力する。
なお、撮像装置101における撮像部102以降の構成については、図33に示されたように撮像装置101(図25)と同様であってもよいし、撮像装置101(図30)と同様であってもよい。
ところで、上述した第1〜4の実施形態では、撮像部102と、それ以降の構成(グリッドノイズ除去部107、及びコントローラ108)が一体化されていたため、撮像装置全体のサイズが大きくなっていた。また、コストや消費電力が上がる可能性があった。
以下、サイズの小型化が可能な実施形態について説明する。
<本発明の第5の実施形態に係る撮像装置101の構成例>
次に、図35は、本発明の第5の実施形態に係る撮像装置101の構成例を示している。なお、撮像装置101の構成要素のうち、上述した第1〜4の実施形態の構成要素と共通するものについて同一の符号を付し、その説明を省略する。
撮像装置101は、撮像装置101(図25)が備える構成要素を送信部2001と受信部2002とに分割し、グリッドノイズ情報出力部1071を送信部2001側に配置した構成を有する。撮像装置101、送信部2001及び受信部2002は、それぞれ本発明の撮像システム、送信装置、及び受信装置に相当する。
撮像装置101における送信部2001は、撮像部102、グリッドノイズ情報出力部1071、及びデータ送信部2003を有する。撮像装置101における受信部2002は、グリッドノイズ除去部107、コントローラ108、及びデータ受信部2004を有する。
データ送信部2003は、撮像部102から入力された現像画像r(x)、及びグリッドノイズ情報出力部1071から入力されたグリッドノイズ情報grid(x)をデータ受信部2004に送信する。データ受信部2004は、受信した現像画像r(x)、及びグリッドノイズ情報grid(x)をグリッドノイズ除去部107に出力する。
データ送信部2003とデータ受信部2004との間のデータ通信は、所定の有線通信規格、または所定の無線通信規格に従って行われる。なお、データ送信部2003とデータ受信部2004との間のデータ通信に記録媒体を用いてもよい。
また、データ送信部2003とデータ受信部2004とがインターネットに代表される双方向通信網を介して接続可能であれば、例えば、受信部2002を、所謂クラウドネットワーク上のサーバによって実現するようにしてもよい。その場合、1台の受信部2002が、複数台の送信部2001に対応してグリッドノイズ除去を行うようにしてもよい。
撮像装置101によれば、撮像装置101(図25)のサイズに比べ、撮像部102を含む送信部2001のサイズを小型化及び軽量化できるので、送信部2001の配置の自由度を上げることができる。
<本発明の第6の実施形態に係る撮像装置101の構成例>
次に、図36は、本発明の第6の実施形態に係る撮像装置101の構成例を示している。なお、撮像装置101の構成要素のうち、上述した第1〜5の実施形態の構成要素と共通するものについて同一の符号を付し、その説明を省略する。
撮像装置101は、撮像装置101(図30)が備える構成要素を、送信部2001と受信部2002とに分割し、グリッドノイズ情報記憶部1076を送信部2001側に配置した構成を有する。撮像装置101は、本発明の撮像システムに相当する。
撮像装置101によれば、撮像装置101(図30)のサイズに比べ、撮像部102を含む送信部2001のサイズを小型化及び軽量化できるので、送信部2001の配置の自由度を上げることができる。
<本発明の第7の実施形態に係る撮像装置101の構成例>
次に、図37は、本発明の第7の実施形態に係る撮像装置101の構成例を示している。なお、撮像装置101の構成要素のうち、上述した第1〜6の実施形態の構成要素と共通するものについて同一の符号を付し、その説明を省略する。
撮像装置101は、撮像装置101(図25)が備える構成要素を送信部2001と受信部2002とに分割し、グリッドノイズ情報出力部1071を受信部2002側に配置した構成を有する。撮像装置101は、本発明の撮像システムに相当する。
撮像装置101における送信部2001は、撮像部102、及びデータ送信部2003を有する。撮像装置101における受信部2002は、グリッドノイズ除去部107、コントローラ108、グリッドノイズ情報出力部1071、及びデータ受信部2004を有する。
撮像装置101におけるデータ送信部2003は、撮像部102から入力された現像画像r(x)をデータ受信部2004に送信する。データ受信部2004は、受信した現像画像r(x)をグリッドノイズ除去部107に出力する。
撮像装置101によれば、撮像装置101(図35)に比べ、グリッドノイズ情報出力部1071の分だけ、撮像部102を含む送信部2001のサイズを小型化及び軽量化できるので、送信部2001の配置の自由度を上げることができる。
<本発明の第8の実施形態に係る撮像装置101の構成例>
次に、図38は、本発明の第8の実施形態に係る撮像装置101の構成例を示している。なお、撮像装置101の構成要素のうち、上述した第1〜7の実施形態の構成要素と共通するものについて同一の符号を付し、その説明を省略する。
撮像装置101は、撮像装置101(図30)が備える構成要素を、送信部2001と受信部2002とに分割し、グリッドノイズ情報記憶部1076を受信部2002側に配置した構成を有する。撮像装置101は、本発明の撮像システムに相当する。
撮像装置101によれば、撮像装置101(図36)に比べ、撮像部102を含む送信部2001のサイズを小型化及び軽量化できるので、送信部2001の配置の自由度を上げることができる。
本発明は、上記した実施形態に限定されるものではなく、さらに様々な変形例が含まれる。また、上記した各実施形態は、本発明を分かりやすく説明するために詳細に説明したものであり、本発明が、必ずしも説明した全ての構成要素を備えるものに限定されるものではない。また、ある実施形態の構成の一部を、他の実施形態の構成に置き換えることが可能であり、ある実施形態の構成に、他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
101,101〜101・・・撮像装置、102,102,102・・・撮像部、103・・・画像センサ、104・・・パターン基板、105・・・撮像用パターン、1051・・・基本撮像用パターン、106・・・画像処理部、107・・・グリッドノイズ除去部、108・・・コントローラ、301・・・支持部材、801・・・現像用パターン、1021・・・有機ELディスプレイ、1022・・・カメラモジュール、1031・・・小型画像センサユニット、1071・・・グリッドノイズ情報出力部、1072・・・撮像部設計値入力部、1073・・・グリッドノイズ情報計算部、1074・・・実測撮像結果入力部、1075・・・グリッドノイズ情報抽出部、1076・・・グリッドノイズ情報記憶部、2001・・・送信部、2002・・・受信部、2003・・・データ送信部、2004・・・データ受信部

Claims (19)

  1. 物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像部と、
    グリッドノイズ情報に基づいて前記画像からグリッドノイズを除去するグリッドノイズ除去部と、
    を備えることを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記グリッドノイズ除去部に対して前記グリッドノイズ情報を出力するグリッドノイズ情報出力部、
    を備えることを特徴とする撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記撮像部は、
    少なくとも1以上の基本撮像用パターンを含む撮像用パターンからなり、入射光の強度を変調する変調器と、
    前記変調器を通過して入射した光を電気信号に変換することにより、投影像を生成する画像センサと、
    前記投影像と、前記撮像用パターンに対応する現像用パターンとを用いた現像処理によって前記画像を生成する画像処理部と、
    を有する
    ことを特徴とする撮像装置。
  4. 請求項3に記載の撮像装置であって、
    前記画像処理部は、初期位相が異なる複数の前記撮像用パターンをそれぞれ通過した複数の前記投影像を用いたフリンジスキャン演算処理によってノイズキャンセルを行う
    ことを特徴とする撮像装置。
  5. 請求項3に記載の撮像装置であって、
    前記画像センサは、複数の小型画像センサユニットからなる
    ことを特徴とする撮像装置。
  6. 請求項1に記載の撮像装置であって、
    前記撮像部は、
    点拡がり関数にサイドローブを発生させる中間物と、
    前記中間物を通過して入射した光に基づいて前記画像を生成するカメラモジュールと、
    を有する
    ことを特徴とする撮像装置。
  7. 請求項6に記載の撮像装置であって、
    前記中間物は、有機ELディスプレイである
    ことを特徴とする撮像装置。
  8. 請求項2に記載の撮像装置であって、
    前記グリッドノイズ情報出力部は、
    前記撮像部に関する撮像部設計値を外部から入力する撮像部設計値入力部と、
    前記撮像部設計値に基づいて前記グリッドノイズ情報を計算するグリッドノイズ情報計算部と、
    を有する
    ことを特徴とする撮像装置。
  9. 請求項2に記載の撮像装置であって、
    前記グリッドノイズ情報出力部は、
    前記物体を実際に撮像した実測撮像結果を外部から入力する実測撮像結果入力部と、
    前記実測撮像結果から前記グリッドノイズ情報を抽出するグリッドノイズ情報抽出部と、
    を有する
    ことを特徴とする撮像装置。
  10. 請求項2に記載の撮像装置であって、
    前記グリッドノイズ情報出力部は、
    予め保持している、前記撮像部に関する撮像部設計値に基づいて前記グリッドノイズ情報を計算するグリッドノイズ情報計算部、
    を有する
    ことを特徴とする撮像装置。
  11. 請求項2に記載の撮像装置であって、
    前記グリッドノイズ情報出力部は、
    予め保持している、前記物体を実際に撮像した実測撮像結果から前記グリッドノイズ情報を抽出するグリッドノイズ情報抽出部、
    を有する
    ことを特徴とする撮像装置。
  12. 撮像装置による撮像方法であって、
    物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像ステップと、
    グリッドノイズ情報に基づき、前記画像から前記グリッドノイズを除去するグリッドノイズ除去ステップと、
    を含むことを特徴とする撮像方法。
  13. 送信装置及び受信装置を備えた撮像システムにおける前記送信装置であって、
    物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像部と、
    グリッドノイズ情報に基づいて前記画像から前記グリッドノイズを除去するグリッドノイズ除去部を有する前記受信装置に対し、前記グリッドノイズ情報及び前記画像を送信するデータ送信部と、
    前記グリッドノイズ情報を前記データ送信部に出力するグリッドノイズ情報出力部と、
    を備えることを特徴とする送信装置。
  14. 請求項13に記載の送信装置であって、
    前記グリッドノイズ情報出力部は、外部から入力された情報に基づいて前記グリッドノイズ情報を生成して前記データ送信部に出力する
    ことを特徴とする送信装置。
  15. 請求項13に記載の送信装置であって、
    前記グリッドノイズ情報出力部は、予め保持している情報に基づいて前記グリッドノイズ情報を生成して前記データ送信部に出力する
    ことを特徴とする送信装置。
  16. 送信装置及び受信装置を備えた撮像システムにおける前記受信装置であって、
    物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像部と、グリッドノイズ情報及び前記画像を送信するデータ送信部と、前記グリッドノイズ情報を前記データ送信部に出力するグリッドノイズ情報出力部と、を備える送信装置から送信された前記グリッドノイズ情報及び前記画像を受信するデータ受信部と、
    受信された前記グリッドノイズ情報に基づいて前記画像から前記グリッドノイズを除去するグリッドノイズ除去部と、
    を備えることを特徴とする受信装置。
  17. 送信装置及び受信装置を備えた撮像システムにおける前記受信装置であって、
    物体を撮像し、撮像の際の点拡がり関数におけるサイドローブに起因するグリッドノイズが生じ得ている画像を出力する撮像部と、前記画像を送信するデータ送信部と、を備える送信装置から送信された前記画像を受信するデータ受信部と、
    グリッドノイズ情報に基づいて前記画像から前記グリッドノイズを除去するグリッドノイズ除去部と、
    前記グリッドノイズ情報を前記グリッドノイズ除去部に出力するグリッドノイズ情報出力部と、
    を備えることを特徴とする受信装置。
  18. 請求項17に記載の受信装置であって、
    前記グリッドノイズ情報出力部は、外部から入力された情報に基づいて前記グリッドノイズ情報を生成して前記グリッドノイズ除去部に出力する
    ことを特徴とする受信装置。
  19. 請求項17に記載の受信装置であって、
    前記グリッドノイズ情報出力部は、予め保持している情報に基づいて前記グリッドノイズ情報を生成して前記グリッドノイズ除去部に出力する
    ことを特徴とする受信装置。
JP2019118394A 2019-06-26 2019-06-26 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置 Active JP7146698B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019118394A JP7146698B2 (ja) 2019-06-26 2019-06-26 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019118394A JP7146698B2 (ja) 2019-06-26 2019-06-26 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置

Publications (2)

Publication Number Publication Date
JP2021005786A true JP2021005786A (ja) 2021-01-14
JP7146698B2 JP7146698B2 (ja) 2022-10-04

Family

ID=74098321

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019118394A Active JP7146698B2 (ja) 2019-06-26 2019-06-26 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置

Country Status (1)

Country Link
JP (1) JP7146698B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008175698A (ja) * 2007-01-18 2008-07-31 Univ Of Tsukuba 光コヒーレンストモグラフィーの画像処理方法及び画像処理装置
JP2010503844A (ja) * 2006-09-11 2010-02-04 ザ メドウェイ エヌエイチエス トラスト 放射デバイスまたは信号

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010503844A (ja) * 2006-09-11 2010-02-04 ザ メドウェイ エヌエイチエス トラスト 放射デバイスまたは信号
JP2008175698A (ja) * 2007-01-18 2008-07-31 Univ Of Tsukuba 光コヒーレンストモグラフィーの画像処理方法及び画像処理装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
NAGAAKI OHYAMA ET AL.: "An Advanced coded imaging without side lobes", OPTICS COMMUNICATIONS, vol. Volume 27 Issue 3, JPN6022034851, December 1978 (1978-12-01), pages 339 - 344, ISSN: 0004853711 *

Also Published As

Publication number Publication date
JP7146698B2 (ja) 2022-10-04

Similar Documents

Publication Publication Date Title
US10551532B2 (en) Imaging device and imaging method
CN108702440B (zh) 摄像装置
JP7061883B2 (ja) 画像表示装置および画像表示方法
CN110324513B (zh) 摄像装置,摄像模块和摄像方法
US10887504B2 (en) Distance measurement device and distance measurement method
CN110198391B (zh) 摄像装置、摄像方法和图像处理装置
JP6807286B2 (ja) 撮像装置及び撮像方法
JP7146698B2 (ja) 撮像装置、撮像方法、撮像システムの送信装置、及び撮像システムの受信装置
JP2023016864A (ja) 撮像装置および方法
WO2020059181A1 (ja) 撮像装置および撮像方法
JP7278454B2 (ja) 画像表示装置
JP7159118B2 (ja) 撮像装置
CN110278350B (zh) 摄像装置
US11740468B2 (en) Distance measuring apparatus, imaging device, distance measuring system, distance measuring method, and imaging method
JP7065761B2 (ja) 距離計測装置および距離計測方法
WO2020178905A1 (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220803

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220921

R151 Written notification of patent or utility model registration

Ref document number: 7146698

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151