[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6721698B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6721698B2
JP6721698B2 JP2018540628A JP2018540628A JP6721698B2 JP 6721698 B2 JP6721698 B2 JP 6721698B2 JP 2018540628 A JP2018540628 A JP 2018540628A JP 2018540628 A JP2018540628 A JP 2018540628A JP 6721698 B2 JP6721698 B2 JP 6721698B2
Authority
JP
Japan
Prior art keywords
image
lattice
pattern
imaging device
grating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018540628A
Other languages
English (en)
Other versions
JPWO2018055831A1 (ja
Inventor
和幸 田島
和幸 田島
島野 健
健 島野
健 宇津木
健 宇津木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2018055831A1 publication Critical patent/JPWO2018055831A1/ja
Application granted granted Critical
Publication of JP6721698B2 publication Critical patent/JP6721698B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • G02B5/1842Gratings for image generation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/42Diffraction optics, i.e. systems including a diffractive element being designed for providing a diffractive effect
    • G02B27/4205Diffraction optics, i.e. systems including a diffractive element being designed for providing a diffractive effect having a diffractive optical element [DOE] contributing to image formation, e.g. whereby modulation transfer function MTF or optical aberrations are relevant
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/60Systems using moiré fringes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • G02B5/1866Transmission gratings characterised by their structure, e.g. step profile, contours of substrate or grooves, pitch variations, materials
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/18Diffraction gratings
    • G02B5/1866Transmission gratings characterised by their structure, e.g. step profile, contours of substrate or grooves, pitch variations, materials
    • G02B5/1871Transmissive phase gratings
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/1343Electrodes
    • G02F1/134309Electrodes characterised by their geometrical arrangement
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/1343Electrodes
    • G02F1/13439Electrodes characterised by their electrical, optical, physical properties; materials therefor; method of making
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/29Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the position or the direction of light beams, i.e. deflection
    • G02F1/292Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the position or the direction of light beams, i.e. deflection by controlled diffraction or phased-array beam steering
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/815Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/955Computational photography systems, e.g. light-field imaging systems for lensless imaging
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F2201/00Constructional arrangements not provided for in groups G02F1/00 - G02F7/00
    • G02F2201/12Constructional arrangements not provided for in groups G02F1/00 - G02F7/00 electrode
    • G02F2201/122Constructional arrangements not provided for in groups G02F1/00 - G02F7/00 electrode having a particular pattern

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Nonlinear Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Power Engineering (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Mathematical Physics (AREA)
  • Chemical & Material Sciences (AREA)
  • Geometry (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Electromagnetism (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Diffracting Gratings Or Hologram Optical Elements (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Input (AREA)

Description

本発明は、撮像装置に係り、特に、回折格子基板を用いた撮像装置の解像度を向上させる撮像装置に関する。
スマートフォンなどに搭載するカメラや、360°センシングが必要となりつつある車載カメラでは薄型化が必要であり、レンズを用いることなく、回折格子基板を透過した光学像を解析することより、撮像をおこなう装置が提案されている。
例えば、特許文献1には、画像センサに特殊な回折格子基板を貼り付け、レンズを用いることなく、回折格子基板を透過する光がセンサ上で生じる射影パターンから、入射光の入射角を逆問題演算により求めることにより、外界の物体の像を得る方法について記載されている。
また、特許文献2には、回折格子基板として中心から外側に向けてピッチが細かくなる同心円状の格子パターンを用いることが記載されている。
米国特許出願公開第2014/0253781号明細書 米国特許出願公開第2015/0219808号明細書
特許文献1では、画像センサに貼り付ける基板上面に形成する回折格子のパターンが渦巻き状などの特殊な格子パターンであり、センサで受光される射影パターンから、像を再生するための逆問題を解く演算が複雑になるという問題点があった。
特許文献2では、前記同心円状格子パターンが複数オーバーラップしている回折格子を用いているため、透過率が低下するとともに、相互の同心円格子パターンが干渉し、再生画像のノイズ増大を招く懸念がある。
そこで、両面格子基板の表と裏の回折格子パターンを、原点からの距離に対してピッチが反比例する複数の同心円からなるようにし、モアレ縞を生じさせ、撮像した画像をフーリエ変換して、そのモアレ縞に着目し、空間周波数スペクトルを分析することにより、撮像画像を得る撮像装置が提案されている。
この技術によれば、光線の入射角度の検出が容易になり、回折格子のパターンの干渉ノイズが少ない撮像装置を提供することができる。
しかしながら、この撮像装置によれば、光線の入射角度を検出するために、格子基板に対して表と裏の回折格子パターンをずらして配置し、空間周波数のピークを二箇所作らなければならず(詳細は、後述)、そのため撮像における解像度の低下を招いていた。
本発明は、上記問題点を解決するためになされたもので、その目的は、原点からの距離に対してピッチが反比例する複数の同心円からなる回折格子基板を配置した撮像装置における解像度を向上させることにある。
上記問題点を解決するために、本発明の撮像装置の構成は、撮像面にアレイ状に配列された複数の画素に取り込まれた光学像を画像信号に変換して出力する画像センサと、画像センサの受光面に設けられ、光の強度を変調する変調部と、画像センサより出力された出力画像に対して画像処理を施す画像処理部とを備え、変調部は格子基板と、画像センサの受光面に近接する面に対向する格子基板の第1の面に形成される第1の格子パターンとを有し、格子パターンは、少なくとも一つの基準座標の原点からの距離に対してピッチが反比例する複数の同心円からそれぞれ構成されており、複数の同心円は格子パターン内で互いに重ならず、基準座標は、受光面の中央の法線に対し対称に配置されているようにしたものである。
本発明によれば、原点からの距離に対してピッチが反比例する複数の同心円からなる回折格子基板を配置した撮像装置における解像度を向上させることができる。
格子パターンを利用した撮像装置の構成図である。 撮像装置によりモニタディスプレイに表示している様子を示す図である。 画像処理回路の処理を示すフローチャートである。 斜め入射平行光による格子基板表面から裏面への射影像が、面内ずれを生じることを説明する図である。 格子基板両面の格子の軸がそろった場合のモアレ縞の生成と周波数スペクトルを説明する模式図である。 表面格子と裏面格子の軸をずらして配置する場合の模式図である。 格子基板両面の格子をずらして配置する場合のモアレ縞の生成と周波数スペクトルを説明する模式図である。 物体を構成する各点からの光がセンサに対してなす角を説明する図である。 2枚の格子パターンを横方向にずらす場合の空間周波数スペクトルを示す図である。 2枚の格子パターンを縦方向にずらす場合の空間周波数スペクトルを示す図である。 裏面側格子パターンをセンサ感度分布で実現する場合の撮像装置の構成図である。 結像する物体が有限距離にある場合に表側格子パターンの裏面への射影が表側格子パターンより拡大されることを示す図である。 裏面側格子パターンをセンサ感度分布で実現する場合の撮像装置の画像処理回路の処理を示すフローチャートである。 表面格子パターンを液晶素子によりサイズ可変で表示させる撮像装置の構成図である。 表面格子パターンを液晶素子によりサイズ可変で表示させる撮像装置の画像処理回路の液晶制御に関する部分のブロック図である。 3×3分割の格子パターンを示す図である。 3×3分割の格子パターンの両面の初期位相の配置を示す斜視図である。 3×3分割の両面格子に単一点光源からの光が入射して生じるモアレ縞の画像を示す図である。 ノイズ低減画像処理を施して得られたモアレ縞の画像を示す図である。 両面格子基板を分割した撮像装置の画像処理回路の処理を示すフローチャートである。 2×2分割の格子パターンを示す図である。 ノイズ低減画像処理を施して得られたモアレ縞の画像を示す図である。 片面格子基板を分割した撮像装置の画像処理回路の処理を示すフローチャートである。 2枚の格子パターン位置を一致させる場合の空間周波数スペクトルを示す図である。 表側格子の位相を可変にする場合の格子基板と画像センサの撮像装置の配置を示す図である。 液晶素子の電極パターンの例を示す図である。 液晶素子の電極パターンの初期位相を可変入力した場合の模式図である。 表側格子の初期位相を可変させる場合のゾーンプレートの配置例を示す図である。 片面格子基板を分割した場合の表面格子パターンの一例を示す図である。 表側格子、裏側格子共に時間的にその表示切り替えが可能な撮像装置の構成図である。 画像処理回路のブロック図である。 画像処理回路の処理を示すフローチャートである。
〔両面格子基板を利用した撮像装置の構成〕
先ず、図1および図2を用いて両面格子基板を利用した撮像装置の構成と画像処理の概要について説明する。
図1は、格子パターンを利用した撮像装置の構成図である。
図2は、撮像装置によりモニタディスプレイに表示している様子を示す図である。
図3は、画像処理回路の処理を示すフローチャートである。
撮像装置101は、両面格子基板102、画像センサ103、画像処理回路106から構成される。両面格子基板102は、画像センサ103の受光面に密着して固定されており、両面格子基板102の表面には、格子間隔(ピッチ)が中心からの半径に反比例する、すなわち、外に向かうほど中心からの半径に比例して格子間隔(ピッチ)が狭くなる同心円状の表側格子パターン104が形成されている。また、裏面の、画像センサ103の受光面に接する面にも、同様の裏側格子パターン105が形成されている。これらの格子パターンを透過する光は、その格子パターンによってその強度が変調される。透過した光は、画像センサ103で受光され、その画像信号は、画像処理回路106によって画像処理され、モニタディスプレイ107などに出力される。通常の撮像装置は、センサの前に結像のためのレンズが必要であるが、本撮像装置では、レンズを必要とせずに外界の物体の画像を取得することができる。このとき同心円状格子パターン104は、同心円を構成する各リングパターンに同じ面内で交差する他の格子パターンがなく、格子パターン間の不要な干渉を生じず、光利用効率の低下を抑えることができる。
撮像装置により表示する様子は、図2に示されるようになり、被写体201に対して両面格子基板102の格子面を正対させて撮影し、画像センサでの受光を画像出力処理し、その出力をモニタディスプレイ107に出力することにより可能となる。
画像処理回路106での画像処理の流れは、図3に示されるようになり、入力されたモアレ縞画像に対して、カラーのRGB各成分ごとに2次元FFT演算を行い(S01)、周波数スペクトルを求める。その片側周波数のデータを切り出し(S02)、強度計算をおこなう(S03)。さらに得られた画像に対してノイズ除去(S04)、コントラスト強調処理などを行い(S05)、カラーバランスを調整し(S06)、撮影画像として出力する。
〔両面格子基板を利用した撮像装置の撮影原理〕
次に、図4ないし図8を用いて図1に示した撮像装置の撮影原理について説明する。
図4は、斜め入射平行光による格子基板表面から裏面への射影像が、面内ずれを生じることを説明する図である。
図5は、格子基板両面の格子の軸がそろった場合のモアレ縞の生成と周波数スペクトルを説明する模式図である。
図6は、表面格子と裏面格子の軸をずらして配置する場合の模式図である。
図7は、格子基板両面の格子をずらして配置する場合のモアレ縞の生成と周波数スペクトルを説明する模式図である。
図8は、物体を構成する各点からの光がセンサに対してなす角を説明する図である。
先ず、格子間隔(ピッチ)が中心からの半径に反比例する、すなわち、外に向かうほど中心からの半径に比例して格子間隔(ピッチ)が狭くなる同心円状の格子パターン104の格子パターンを、以下のように定義する。
レーザー干渉計などにおいて、平面波に近い球面波と、参照光として用いる平面波を干渉させる場合を想定する。同心円の中心を基準座標とし、その基準座標からの半径をr、そこでの球面波の位相をφ(r)とするとき、これを波面の曲がりの大きさを決める係数βを用いて、
Figure 0006721698
と表せる。球面波にも関わらず、半径rの2乗で表されているのは、平面波に近い球面波のため、展開の最低次のみで近似できるからである。この位相分布を持った光に平面波を干渉させると、
Figure 0006721698

のような干渉縞の強度分布が得られる。これは、
Figure 0006721698

を満たす半径位置で明るい線を持つ同心円の縞となる。縞のピッチをpとすると、
Figure 0006721698

が得られ、ピッチは半径に対して比例して狭くなっていくことがわかる。このような縞はフレネルゾーンプレートと呼ばれる。このように定義される強度分布に比例した透過率分布をもった格子パターンを、図1に示した格子パターン104、105として用いる。このような格子が両面に形成された厚さtの基板に、図4に示すように角度θ0で平行光が入射したとすると、基板中の屈折角をθとして幾何光学的には表面の格子の透過率が乗じられた光が、δ=t・tanθだけずれて裏面に入射し、仮に二つの同心円格子の中心がそろえて形成されていたとすると、裏面の格子の透過率がδだけずれて掛け合わされることになる。このとき、
Figure 0006721698

のような強度分布が得られる。この展開式の第4項が、二つの格子のずれの方向にまっすぐな等間隔の縞模様を、重なり合った領域一面に作ることがわかる。このような縞と縞の重ね合わせによって相対的に低い空間周波数で生じる縞は、モアレ縞と呼ばれる。このようにまっすぐな等間隔の縞は、検出画像の2次元フーリエ変換によって得られる空間周波数分布に鋭いピークを生じる。そして、その周波数の値からδの値、すなわち光線の入射角θを求めることが可能となる。このような全面で一様に等間隔で得られるモアレ縞は、同心円状の格子配置の対称性から、ずれの方向によらず同じピッチで生じることは明らかである。このような縞が得られるのは、格子パターンをフレネルゾーンプレートで形成したことによるものであり、これ以外の格子パターンで、全面で一様な縞を得るのは不可能と考えられる。第2項でもフレネルゾーンプレートの強度がモアレ縞で変調された縞が生じることがわかるが、二つの縞の積の周波数スペクトルは、それぞれのフーリエスペクトルのコンボリューションとなるため、鋭いピークは得られない。(5)式から鋭いピークを持つ成分のみを、
Figure 0006721698

のように取り出すと、そのフーリエスペクトルは、
Figure 0006721698

のようになる。ただしここで、Fは、フーリエ変換の演算を表し、u、vは、x、y方向の空間周波数座標、括弧を伴うδは、ディラックのデルタ関数である。この結果から、検出画像の空間周波数スペクトルにおいて、モアレ縞の空間周波数のピークがu=±δβ/πの位置に生じることがわかる。
光線と基板配置、生じるモアレ縞、空間周波数スペクトルの対応の様子を示すと、図5に示されるようになる。図5は、左から光線と基板の配置図、モアレ縞、空間周波数スペクトルの模式図であり、図5(a)が、垂直入射、図5(b)が、左側から角度θで光線が入射する場合、図5(c)が、右側から角度θで光線が入射する場合である。両面格子基板102上の表側格子パターン104と裏側格子パターン105は軸がそろっている。図5(a)の場合には、表側格子と裏側格子の影が一致するのでモアレ縞は生じない。図5(b)と図5(c)の場合には、表側格子と裏側格子のずれが等しいため、同じモアレが生じ、空間周波数スペクトルのピーク位置も一致し、空間周波数スペクトルからは光線の入射角が図5(b)のときのものなのか図5(c)ときのものなのかを判別することができなくなる。
これを避けるためには、基板に垂直に入射する光線に対しても二つの格子の影がずれて重なるよう、図6に示すように、あらかじめ二つの格子は、光軸に対して相対的にずらしておくことが必要である。軸上の垂直入射平面波に対して二つの格子の影の相対的なずれをδとするとき、入射角θの平面波によって生じるずれδは
Figure 0006721698

のように表せる。このとき、入射角θの光線のモアレ縞の空間周波数スペクトルのピークは周波数のプラス側では、
Figure 0006721698
の位置となる。画像センサの大きさをS、x、y各方向の画素数を共にNとすると、高速フーリエ変換(FFT)による離散画像の空間周波数スペクトルは、−N/(2S)から+N/(2S)の範囲で得られることから、プラス側の入射角とマイナス側の入射角を均等に受光することを考えれば、垂直入射平面波(θ=0)によるモアレ縞のスペクトルピーク位置は原点(DC)位置と、例えば+側端の周波数位置との中央位置、すなわち、
Figure 0006721698

の空間周波数位置とするのが妥当である。したがって、二つの格子の相対的な中心位置ずれは、
Figure 0006721698

とするのが妥当である。
このように、表側格子パターン104と裏側格子パターン105をずらした場合に、光線と基板配置、生じるモアレ縞、空間周波数スペクトルの対応の様子を示すと、図7に示されるようになる。図5と同様、左側に光線と基板の配置図、中央列がモアレ縞、右側が空間周波数スペクトルを示しており、図7(a)が、光線が垂直入射の場合、図7(b)が、左側から角度θで入射する場合、図7(c)が、右側から角度θで入射する場合である。表側格子パターン104と裏側格子パターン105はあらかじめδだけずらして配置されているため、図7(a)の場合でも、モアレ縞が生じ、空間周波数スペクトルにピークが現れる。そのずらし量δは上記したとおり、ピーク位置が原点から片側のスペクトル範囲の中央に現れるように設定されている。このとき図7(b)では、ずれδがさらに大きくなる方向、図7(c)では、小さくなる方向となっているため、図5の場合とは、異なり図7(b)と図7(c)の入射角の違いがスペクトルのピーク位置から判別できる。このピークのスペクトル像がすなわち無限遠の光束を示す輝点であり、この撮像装置による撮影像にほかならない。
ここで、受光できる平行光の入射角の最大角度をθmaxとすると、
Figure 0006721698

より、本撮像装置で受光できる最大画角は、
Figure 0006721698
で与えられる。通常のレンズを用いた結像との類推から、画角θmaxの平行光をセンサの端で焦点を結んで受光すると考えると、レンズを用いない本装置の結像光学系の実効的な焦点距離は、
Figure 0006721698
に相当すると考えることができる。
なお(2)式で示したように格子の透過率分布は、基本的に正弦波的な特性があることを想定しているが、格子の基本周波数成分としてそのような成分があれば、格子の透過率を2値化して、透過率が高い格子領域と低い領域のdutyを変えて、透過率の高い領域の幅を広げて透過率を高めることも考えられる。
以上の説明では、いずれも入射光線は、同時には一つの入射角度だけであったが、実際に本装置がカメラとして作用するためには、複数の入射角度の光が同時に入射する場合を想定しなければならない。このような複数の入射角の光は、裏面側格子に入射する時点ですでに複数の表側格子の像を重なり合わせることになる。もしこれらが相互にモアレ縞を生じると、信号成分である裏面格子とのモアレ縞の検出を阻害するノイズとなることが懸念される。しかし、実際は表側格子の像どうしの重なりはモアレ像のピークを生じず、ピークを生じるのは、裏面側格子との重なりだけになる。その理由について以下、説明する。先ず、複数の入射角の光線による表側格子の影どうしの重なりは、それぞれの光強度に関する積ではなく和であることが大きな違いである。一つの入射角の光による表側格子の影と裏側格子の重なりでは、表側の影である光の強度分布に、裏側格子の透過率を乗算することにより、裏側格子を透過したあとの光強度分布が得られる。これに対して、表側格子に複数入射する角度の異なる光による影どうしの重なりは、光の重なり合いなので、積ではなく、和になるのである。和の場合は、
Figure 0006721698
のように、もとのフレネルゾーンプレートの格子の分布に、モアレ縞の分布を乗算した分布となる。したがってその周波数スペクトルはそれぞれの周波数スペクトルの重なり積分で表されるため、たとえモアレのスペクトルが単独で鋭いピークをもったとしても、実際上その位置にフレネルゾーンプレートの周波数スペクトルのゴーストが生じるだけである。すなわち、スペクトルに鋭いピークは生じない。したがって複数の入射角の光を入れても検出されるモアレ像のスペクトルは、常に表側格子と裏側格子の積のモアレだけであり、裏側格子が単一である以上、検出されるスペクトルのピークは一つの入射角に対して一つだけとなる。
ここで、これまで検出することを説明してきた平行光と、実際の物体からの光との対応を図8を用いて模式的に説明する。被写体201を構成する各点からの光は、厳密には点光源からの球面波として、本撮像装置の格子センサ一体基板901に入射する。このとき物体に対して格子センサ一体基板901が十分に小さい場合や、十分に遠い場合には、各点から、格子センサ一体基板901を照明する光の入射角が同じとみなすことができる。(9)式から求められる微小角度変位Δθに対するモアレの空間周波数変位Δuが、センサの空間周波数の最小解像度である1/S以下となる関係から、Δθが平行光とみなせる条件は、
Figure 0006721698
のように表せる。これから、たとえば本実施例の条件においてはΔθ<0.18°であり、これは20mmのセンササイズであれば被写体から6m離れれば実現できる条件である。
以上の結果の類推から、無限遠の物体に対して本撮像装置で結像が可能であることが理解できる。
〔格子パターンをずらす方向〕
次に、図9および図10を用いて格子パターンをずらす方向について説明する。
図9は、2枚の格子パターンを横方向にずらす場合の空間周波数スペクトルを示す図である。
図10は、2枚の格子パターンを縦方向にずらす場合の空間周波数スペクトルを示す図である。
前述の例では、図9に示すように表側格子パターン104と裏側格子パターン105を左右にずらしていた。このときセンサの形状を正方形としており、その画素ピッチもx方向とy方向で同じとすると、図の右側に示すように、センサ出力の空間周波数スペクトルはx、y両方±N/Sの周波数範囲内で、像が左右に分離して再生されていることになる。しかし、このようにすると、像の画像は基本的に縦長のエリアに限定されることになる。一般にカメラで取得される画像は横長の長方形であるので、それに適した配置としては、図10のようにするのが望ましい。このとき、表側格子パターン104と裏側格子パターン105は上下にずれており、センサ出力の空間周波数空間に形成される画像は上下に分離することになる。このようにすれば出力画像は横長とすることができる。
〔片面格子基板を利用した撮像装置〕
次に、図11ないし図13を用いて上記の両面格子基板を利用した撮像装置において、裏面側格子パターンの機能をセンサの感度分布を変更させることにより、実現する撮像装置について説明する。
図11は、裏面側格子パターンをセンサ感度分布で実現する場合の撮像装置の構成図である。
図12は、結像する物体が有限距離にある場合に表側格子パターンの裏面への射影が表側格子パターンより拡大されることを示す図である。
図13は、裏面側格子パターンをセンサ感度分布で実現する場合の撮像装置の画像処理回路の処理を示すフローチャートである。
上記の両面格子基板を利用した撮像装置の例では、格子基板の表側と裏側に同一の格子を互いにずらして配置することにより、入射する平行光の角度をモアレ縞の空間周波数スペクトルから検知して、像を構成していた。しかしながら、裏側の格子は、センサに密着して入射する光の強度を変調する光学素子であるため、センサの感度を実効的に裏側の格子の透過率を加味して設定することにより、処理画像の中で仮想的にモアレを生じさせることができる。図11は、格子基板の裏面に裏面格子がない場合の撮像装置の構成を示している。このようにすると、形成する格子を1面減らすことができるので、素子の製造コストを減じることができる。しかしながら、このとき、センサの画素ピッチは、格子ピッチを十分再現できる程度に細かいか、格子ピッチがセンサの画素ピッチで再現できる程度に粗いことが必要である。格子を基板の両面に形成する場合は、必ずしも格子のピッチがセンサの画素で解像できる必要はなく、そのモアレ像だけが解像できればよいので、センサピッチとは独立に格子ピッチを決めることができる。しかしながら、センサで格子の機能を実現する場合は、格子とセンサの解像度は同等である必要がある。画像処理回路1201の処理として、図13に示すように、センサ出力画像に対してモアレを生成するための裏面格子の機能に相当するセンサの強度変調処理S0Aが必要となり、そのための強度変調回路も必要となる。
このように格子を可変にすることができると、検出光は必ずしも平行光でなくてもよい。図12に示すように、物体を構成する点1301からの球面波が表側格子パターン104を照射し、その影1302が下の面に投影される場合、下の面に投影される像は、ほぼ一様に拡大される。そのため、平行光に対して設計された下面格子の透過率分布をそのまま乗じたのでは、等間隔な直線状のモアレ縞は生じなくなる。しかし、一様に拡大された上面格子の影に合わせて、下面の格子を拡大するならば、拡大された影1302に対して再び、等間隔な直線状のモアレ縞を生じさせることができる。これにより、必ずしも無限遠でない距離の点1301からの光を選択的に再生することができる。したがってこれにより焦点合わせが可能となる。
〔表面格子を可変にした撮像装置〕
次に、図14および図15を用いて、表面側格子パターンを液晶素子などにより可変にした撮像装置について説明する。
図14は、表面格子パターンを液晶素子によりサイズ可変で表示させる撮像装置の構成図である。
図15は、表面格子パターンを液晶素子によりサイズ可変で表示させる撮像装置の画像処理回路の液晶制御に関する部分のブロック図である。
上記の撮像装置では、裏側格子パターンの機能をセンサの感度分布を可変にすることにより実現したが、表側基板の格子も液晶素子などを用いると可変とすることができる。図14は、液晶層1401を挟み、液晶基板1402で封入した液晶素子により、表側基板の可変格子1403を表示する撮像装置の構成図である。液晶基板1402、および格子基板102aには透明電極が形成されており、図示していない電極を介して、任意の格子像を表示させることができる。基本的に無限遠とはみなせない有限距離の点1301からの光は、発散光であるので、裏側格子パターン105と裏面で同じ大きさになるためには表面でやや縮小して表示すればよいことになる。画像処理回路1404には、図15に示すように、液晶駆動回路1410と裏面格子生成回路1411が内蔵され、裏面格子生成回路1411が外部からのピント指定入力に応じて裏面格子パターンを生成し、それに応じて液晶駆動回路1410を駆動することにより、センサと一体となった液晶素子に任意のピント位置に対応した裏面格子パターンを表示させる。
〔両面格子基板を分割した撮像装置〕
図16ないし図20を用いて両面格子基板を分割した撮像装置について説明する。
図16は、3×3分割の格子パターンを示す図である。
図17は、3×3分割の格子パターンの両面の初期位相の配置を示す斜視図である。
図18は、3×3分割の両面格子に単一点光源からの光が入射して生じるモアレ縞の画像を示す図である。
図19は、ノイズ低減画像処理を施して得られたモアレ縞の画像を示す図である。
図20は、両面格子基板を分割した撮像装置の画像処理回路の処理を示すフローチャートである。
上記の両面格子基板を用いた撮像装置の原理説明で、(5)式において信号の鋭いピークが得られるのは、第4項のモアレ縞の周波数のみであることを説明したが、光学系や被写体の条件によっては、第2、第3項がノイズとなって再生画像の画質に影響を与える場合がありえる。そこでそれらのノイズを除去する構成について説明する。
ノイズの除去のために、ここでは、表側格子と裏側格子を、図16に示すように、3×3以上に分割したエリアでそれぞれ独立のゾーンプレートを形成する。ただし、それぞれのゾーンプレートは重なることなく並べる。このとき、表側格子では、上段、中段、下段、裏側格子では左側、左右中間、右側でそれぞれ格子の初期位相をφ1、φ2、φ3に揃える。これらは、図17に示すように配置されている。このときセンサ面上の光強度Isは、
Figure 0006721698
のように表すことができる。ここで、Iはk番目の点光源による表側格子の影の光強度分布、Iが裏側格子の透過率分布である。表側格子の初期位相φ、裏側格子の初期位相φはそれぞれ、上記したようにφ1、φ2、φ3の三つの値をとる。表側格子を照らすk番目の点光源はAの強度で発光し、δのずれをもって表側格子の影をセンサ上に形成するものと仮定している。(17)式の下段の式の{}内の第2項は表面側格子の影、第3項は裏面側格子の強度変調、第4項は二つの格子の和周波成分、第5項が差周波成分であり、本装置が利用する信号成分であるモアレ縞の項である。したがって、このφの付加位相を持つ成分だけを抽出すればよいことになる。(17)式をφとφに着目して
Figure 0006721698
のように表すと、三角関数の直交性を用いてcos、sinの係数を、
Figure 0006721698
Figure 0006721698
のように抜き出すことができる。さらにこれから、cos cos、sin sinの項を抜き出すと、
Figure 0006721698
Figure 0006721698
のように表すことができる。これらを辺々加えると、
Figure 0006721698
が得られるが、これは結局、
Figure 0006721698
のように(17)式におけるモアレ成分のみを抜き出したことに対応する。この演算は、表側格子の位相と裏側格子の位相の両方を2次元に走査して積分することに対応する。この積分を最低限のサンプリング点数である3点で離散化するため、図16、図17に説明した3×3の両面フレネルゾーンプレートを用いている。単一の点光源によるこの3×3の両面格子によって得られたモアレ縞は、図18に示されるようになる。複数のフレネルゾーンプレートが交差しているように見えるが、これは交差のない両面のフレネルゾーンプレートに入射した光によってセンサ状に形成された光強度分布である。さらに、(24)式を用いてこの3×3の各セルからのモアレ縞を合成して得られたモアレ縞は、図19に示されるようになる。この図によれば、モアレ縞以外の不要なノイズが大幅に低減されている。これによって撮影画像の品質を向上させることができる。
上記の原理による画像処理回路の処理を示すと、図20に示されるようになる。このフローチャートでは、図3に加えて、モアレ縞ノイズ除去S0Bのプロセスが加わっている。
〔片面格子基板を分割した撮像装置〕
上記では、両面格子基板を分割した撮像装置について説明したが、ここで、図21ないし図23を用いて、片面格子基板を分割の例について説明する。
図21は、2×2分割の格子パターンを示す図である。
図22は、ノイズ低減画像処理を施して得られたモアレ縞の画像を示す図である。
図23は、片面格子基板を分割した撮像装置の画像処理回路の処理を示すフローチャートである。
図21は、上で示した両面格子基板とは、さらに異なる表側格子のパターンにした場合の格子パターンを示している。これは、裏面側格子を固定格子とせず、センサ感度を仮想的にフレネルゾーンプレート状に与える場合や、液晶素子などを用いる場合を想定している。格子は、2×2のエリアに分かれており、それぞれのフレネルゾーンプレートの初期位相は、90°ずつずらしてある。上記の両面格子基板分割した撮像装置では、列または行で位相をずらしたが、本装置では、領域すべてで位相を変えている。このようにして、裏面側の仮想ゾーンプレートの位相を全領域で90°ずつ、4ステップで位相を変えてモアレ縞を生成することにより、両面格子とも4位相での積分演算が可能となる。分割が細かくなることにより、ノイズ低減効果のさらなる向上が期待できる。単一点光源によるモアレ縞の再生像を示すと、図22に示されるようになる。図19の場合に比べてさらにノイズが低減している。
上記の原理による画像処理回路の処理を示すと、図23に示されるようになる。このフローチャートでは、図20に加えて、裏面格子の機能に相当するセンサの強度変調処理S0Aのプロセスが加わっている。
〔解像度を向上させる両面格子基板を利用した撮像装置〕
次に、図24を用いて解像度を向上させる両面格子基板を利用した撮像装置について説明する。
図24は、2枚の格子パターン位置を一致させる場合の空間周波数スペクトルを示す図である。
上で説明した両面格子基板を利用した撮像装置では、図9および図10に示したように表側格子パターン104と裏側格子パターン105を左右または上下にずらすことにより、空間周波数空間に生じる鏡像関係にある二つの再生画像を分離していた。しかし、そのため再生画像の画素数が通常カメラの半分になる問題点がある。そこで鏡像の発生を回避し、有効画素数を減じない構成について説明する。
一つのモアレ縞の空間周波数スペクトルがプラス側とマイナス側の二つのピークを生じるのは、モアレ縞を正弦波の実関数としているためである。すなわちcos(x)=(exp(ix)+exp(−ix))/2と二つの複素指数関数に分離すると、これらがそれぞれのスペクトルのピークに対応する。ここで、iは、虚数単位である。したがって、モアレ縞を最初から一つの複素指数関数で表せばよい。両面格子基板を分割した撮像装置において、ノイズをキャンセルし、モアレ縞の信号成分のみを抽出する方法を説明した。そこで参照した(21)(22)式においてcos cos、sin sinの項を抜き出したが、同様にしてcos sin 、sin cosの成分を抜き出すと、
Figure 0006721698
Figure 0006721698
のように表せる。これらの辺々の差をとると、
Figure 0006721698
が得られ、(24)式のモアレ縞のcos波成分と同様にして、
Figure 0006721698
のように、モアレ縞のsin波成分を抽出することができる。(24)式と(28)式をそれぞれ複素指数関数の実部と虚部として辺々加えると、
Figure 0006721698
を得ることができる。すなわち、センサ画像に対して表側格子と裏側格子の位相差の複素指数関数を乗じて2重積分すると、モアレ縞の信号波形を複素指数関数として抜き出すことができる。これをフーリエ変換することにより、プラス側またはマイナス側のみの空間周波数成分のスペクトル像を得ることができる。
この原理は、光学部品における回折格子との類推から理解することができる。一般に光学素子を透過する光の角度分布は、素子の振幅透過率分布の空間周波数スペクトルに対応し、回折格子のような周期構造からは格子形状を反映した離散的な回折光を生じる。格子の透過率を濃淡で実現する場合などは、透過する光を直進する0次光とその両側に対称に生じる複数の回折光に分離する。しかし、回折レンズなど一つの次数の光だけが必要な場合には、不要次数光を除去して、光利用効率を向上させるためにブレーズ回折格子が用いられる。これは格子断面がのこぎり歯状の形状をした位相格子であり、回折光を一つの次数に集中させることができる。(29)式はモアレ縞をブレーズ回折格子として表し、回折次数を一つの次数に集中させたことと等価である。これが実現できているのは、表側格子と裏側格子の位相を変化させてモアレ縞の強度のみならず、位相も検出しているからである。
このように一つのモアレ縞成分の空間周波数のピークを1点に集約できる場合には、表側格子パターン104と裏側格子パターン105の同心円状のゾーンプレートの中心位置を、局所的なセンサ中心から立てたセンサ面に対する法線上に配置すれば、再生画像を、図24に示すように、空間周波数空間上で中央に表示することが可能となり、センサの画素数と同じ画素数の再生画像を得ることができる。この場合、δ=0であり、信号となるモアレ縞成分を、
Figure 0006721698
のように表すことができる。式(30)は、(u,v)空間で見ると、一つのディラックのデルタ関数の項で表現することができる。
〔格子基板の位相可変手段〕
次に、図25ないし図28を用いて格子基板の初期位相を可変とする撮像装置について説明する。
図25は、表側格子の位相を可変にする場合の格子基板と画像センサの撮像装置の配置を示す図である。
図26は、液晶素子の電極パターンの例を示す図である。
図27は、液晶素子の電極パターンの初期位相を可変入力した場合の模式図である。
図28は、表側格子の初期位相を可変させる場合のゾーンプレートの配置例を示す図である。
表側格子の初期位相の可変手段を液晶素子でおこなう場合には、図25に示すように、液晶電極として形成されたゾーンプレート3403の同心円電極の中心が、センサ受光部3404の中央位置に立てた法線Nの上にあるように配置する。しかしながら、必ずしもその精度に関して厳密なものは要請されず、少なくとも中央の円形電極内に法線Nがあれば多くの場合問題は生じないと考えられる。上述の表側格子を可変にした撮像装置では液晶素子を、ピント調整のためのゾーンプレートサイズ可変手段として用いたが、本装置では、ゾーンプレートの初期位相を可変する手段として用いている。その電極パターンは、例えば、図26に示す模式図のように構成すればよい。ゾーンプレートの格子パターンの1周期を4分割するように同心円状電極が構成されており、内側から4本おきに外側の電極と結線されて、最終的に端子部3501では電極の駆動端子として4本の電極が出力されている。これらに所定の電圧を印加して実際に初期位相を可変するには、図27のようにすればよい。初期位相0の状態3601、π/2の状態3602、πの状態3603、3π/2の状態3604を、四つの電極に印加する電圧状態を“0”と“1”の二つの状態で時間的に切り替えることにより実現している。ハッチングした電極が光を遮蔽し、白い電極が光を透過させることを意味している。また、裏側格子の初期位相は、センサの実効的な受光感度を仮想的な透過率として設定することによって可変にさせる。本装置では裏側格子の初期位相の変化は、画像処理として行われるため、デバイスの計算能力によっては必ずしも時間的に可変させる必要はなく、並列的に計算してもよい。可変させる表側格子と裏側格子の初期位相のすべての組み合わせによる仮想的なモアレ縞の検出画像から、(30)式に基づく演算を行い、ノイズが除去された複素数の輝度を持つモアレ縞画像を得る。これを2次元フーリエ変換することにより最終的な検出画像が得られる。
また、図21に示したような四つのゾーンプレートを面内に並べて配置することにより、表側格子の初期位相を可変させる場合には、図28に示すように、初期位相を変えた四つのゾーンプレートの中心位置を、センサの中心を通る法線Nに対し、対称に配置する。言い換えれば、四つのゾーンプレートの同心円の中心位置が作る四角形は正方形であり、センサ中心の法線Nは、その正方形の中心を通るように配置されている。
この方法を用いると、画像再生時の計算によって位相情報を取得することができ、再生画像のノイズ除去に加えて解像度を向上することが可能になる。
〔位相変更処理の削減〕
次に、図29を用いて片面格子基板を分割した場合の位相変更処理を削減する例について説明する。
図29は、片面格子基板を分割した場合の表面格子パターンの一例を示す図である。
図21に示した片面格子基板を分割の例では、裏面側格子を固定格子とせず、センサ感度を仮想的にフレネルゾーンプレート状に与え、裏面側の仮想ゾーンプレートの位相を全領域で90°ずつ4ステップで位相を変えることでおこなうモアレ縞のノイズ除去に関して説明したが、ここでは、さらにステップの回数を減らし、2ステップの位相変更でノイズ除去を可能とする構成について説明する。
図29は、本装置における表側格子の一例を示すものであり、φ1とφ2の位相差はπ/2となっている。ここで、裏面側格子を仮想ゾーンプレートとする場合、ゾーンプレートを表現する式においてcosの負成分を扱うことが可能となり、センサ面上の光強度Isは、
Figure 0006721698
のように表すことができる。(31)式の下段の式の{}内の第2項は裏面側格子の強度変調を示しており、その値は既知のものであるため減算することが可能であり、減算後は、
Figure 0006721698
となる。(32)式の下段{}内の第2項は二つの格子の和周波成分を示しており、この項を除去することができればモアレ縞の項だけを表すことができる。ここで第2項と第3項におけるφ、φにそれぞれ注目すると、φ+φとφaの差分が0の場合、例えば、φ=φ=0のときに、第2項と第3項は、共に正の値となる。一方、φ+φとφの差分がπの場合、例えばφ=φ=π/2のときに第2項は負の値に、第3項は正の値となる。φ、φの組み合わせを2通り変えて得られた光強度Iを平均化することにより、モアレ縞の項だけを残すことができる。φ=φ=0とφ=φ=π/2の組み合わせによって得られた結果を平均化し、モアレ縞の項を計算する例を示すと、
Figure 0006721698
になる。ただしここで、IMφF,φBは初期位相φFの前面側格子と初期位相φの裏面側格子を掛け合わせた結果から、(31)式の第2項を減算した結果を表す。
更にここで、三角関数の対象性よりφa=π/2の場合、例えばφ=π/2、φ=0のときに第2項と第3項はそれぞれ負のsin成分に、φa=−π/2の場合、例えば、φ=0、φ=π/2のときには第2項は負のsin成分に、第3項は正のsin成分となる。上記の解像度を向上させる両面格子基板を利用した撮像装置の原理の説明では、sinとcosを足し合わせてモアレ縞を作ることで再生像を空間周波数空間上で中心に表示し、解像度を向上する方法を説明したが、ここでも、sin成分を足し合わせることにより再生像の解像度向上が可能である。φを0とπ/2、φを0とπ/2とした場合の4通りの組み合わせからcos成分とsin成分を用いてモアレ縞の項を計算する例を示すと、
Figure 0006721698
になる。以上より、領域ごとにπ/2位相がずれた表側格子と領域ごとにπ/2位相がずれた裏側格子を用いることにより、モアレ縞のノイズ除去が可能となる。さらに、裏側格子の位相を全領域で90°ずつ2ステップで位相を変えることで指数関数でのモアレ縞表現を可能とし、解像度の向上が可能となる。
〔表側格子、裏側格子共に時間的にその表示切り替えが可能な撮像装置〕
次に、図30ないし図32を用いて表側格子、裏側格子共に時間的にその表示切り替えが可能な撮像装置について説明する。
図30は、表側格子、裏側格子共に時間的にその表示切り替えが可能な撮像装置の構成図である。
図31は、画像処理回路のブロック図である。
図32は、画像処理回路の処理を示すフローチャートである。
図21に示した片面格子基板を分割の例では、複数の領域に分割された表側格子と、液晶素子などを用いて裏側格子を表示する場合に関して説明したが、ここでは表側格子、裏側格子共に液晶素子などを用いて時間的にその表示切り替えが可能な構成について説明する。
撮像装置3101は、画像センサ103と、表側格子表示部3102と、裏側格子表示部3103と、画像処理部3104と表示制御部3015から構成される。
表側格子表示部3102および裏側格子表示部3103は、時間的にその濃淡変化の位相が可変なフレネルゾーンプレートを表示可能であり、その表示は表示制御部3105によって制御される。画像処理部3104における画像取り込みと表示制御部3105による表示の切り替えは同期して行われ、画像処理部3104では、取り込んだ複数枚の画像からノイズ除去と現像処理を行ったのちにフーリエ変換で基準となる画像を再生し、モニタディスプレイ107などに出力する。画像処理部3104は、画像取得部3201、指数関数演算部3202、画像記憶部3203、スイッチ3204、全記憶画像加算部3205、2次元フーリエ変換部3206からなる。画像取得部3201は、画像センサから画像を取得する部分である。指数関数演算部3202は、表側格子パターンと裏側格子パターンの位相の差分を指数関数として掛け合わせる演算をする部分である。画像記憶部3203は、指数関数演算部3202の演算結果を一時的に保存するメモリである。スイッチ3204は、表示制御部3105からの指令によりオン・オフされるスイッチである。全記憶画像加算部3205は、画像記憶部3203の画像データを加算する部分である。2次元フーリエ変換部3206は、加算された画像データを2次元フーリエ変換する部分である。
以下では、本装置における画像取得からモアレ縞のノイズ除去を含めた画像再生までの処理を、図31および図32を用いて説明する。なお、ここでは表側格子、裏側格子共に基準となる位相を、0とし、ステップ毎に位相がπ/2変化し、ステップ回数はそれぞれ4回ずつの組み合わせで再生処理をおこなう場合を例とする。
表面格子、裏面格子の表示のリセット後(S3301)、画像取得部3201でセンサ画像を取得し(S3302)、取得した画像に対し指数関数演算部3202で表側格子パターンと裏側格子パターンの位相の差分を指数関数として掛け合わせ(S3303)、その画像を画像記憶部3203に記憶する(S3304)。表示制御部3105では、表側格子表示部3103に位相をπ/2付加したフレネルゾーンプレートを表示するよう指令を送り、さらに、必要に応じて裏側格子表示部3104に位相をπ/2付加したフレネルゾーンプレートを表示するよう指令を送る(S3305〜S3308)。ここで、前記表示制御部で再生に必要な位相の全画像を取り込んだと判断した場合には、スイッチ3204が閉じられ、画像記憶部3203に記憶していた全画像が全記憶画像加算部3205に送られ加算される(S3309)。これによってノイズが除去されたモアレ縞が計算されるため、2次元フーリエ変換部3206で画像をフーリエ変換し(S3310)、再生画像を前記モニタディスプレイ107で画像を表示する(S3311)。
本撮像装置によれば、前面側格子と後面側格子共に領域を分割することなく時間的にゾーンプレートの表示を切り替え、複数枚のセンサ画像を用いてモアレ縞のノイズを除去し、品質の良い再生画像を得られる。格子の表示が固定された場合と比較して表示部を任意の回数切り替えることが可能であり、ノイズの発生状況に応じて表示の切り替え回数を変動し、常に品質の良い再生画像を得ることが可能である。
以上、表側格子と裏側格子共に液晶素子を用いる説明をしたが、位相を変えたフレネルゾーンプレートを表示できればよく、例えば、円環状に電極を配置し、電極間の透過率を変調させて任意の表示を行ってもよい。これによって、液晶素子でフィルファクター等に起因して生じる格子状の非透過部分の影響を排除することが可能である。
101…撮像装置
102…両面格子基板
102a…格子基板
103…画像センサ
104…表側格子パターン
105…裏側格子パターン
106、1201…画像処理回路
107…モニタディスプレイ
201…被写体
901…格子センサ一体基板
1301…物体を構成する点
1302…表側格子の影
1401…液晶層
1402…液晶基板
1403…表側基板の可変格子
2802…撮像装置の視域
3101…撮像装置
3102…表側格子表示部
3103…裏側格子表示部
3104…画像処理部
3105…表示制御部
3201…画像取得部
3202…指数関数演算部
3203…画像記憶部
3204…スイッチ
3205…全記憶画像加算部
3206…2次元フーリエ変換部

Claims (20)

  1. 撮像面にアレイ状に配列された複数の画素に取り込まれた光学像を画像信号に変換して
    出力する画像センサと、
    前記画像センサの受光面に設けられ、光の強度を変調する変調部と、
    前記画像センサより出力された出力画像に対して画像処理を施す画像処理部とを備え、
    前記変調部は格子基板と、
    前記画像センサの受光面に近接する面に対向する前記格子基板の第1の面に形成される第1の格子パターンとを有し、
    前記第1の格子パターンは、基準座標の原点からの距離に対してそれぞれのピッチが反比例する複数の同心円から構成されており、
    複数の前記同心円は前記第1の格子パターン内で互いに重ならず、
    前記基準座標は、前記受光面の中央の法線に対し対称に配置されていることを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記変調部は、前記第1の面に対向する第2の面に形成される第1の格子パターンに対応した第2の格子パターンを有し、
    前記第2の格子パターンは、少なくとも一つの基準座標の原点からの距離に対してそれぞれのピッチが反比例する複数の同心円から構成されており、
    前記第1の格子パターンの基準座標の原点と前記第2の格子パターンの基準座標の原点は、一致しており、
    前記変調部は、前記第1の格子パターンを透過する光を前記第2の格子パターンにおいて強度変調して、前記画像センサに出力することを特徴とする撮像装置。
  3. 請求項2に記載の撮像装置であって、
    前記第2の格子パターンは、前記格子基板の裏面に設けられたことを特徴とする撮像装置。
  4. 請求項1に記載の撮像装置であって、
    前記画像処理部は、出力された画像について2次元フーリエ変換演算をおこなうことを特徴とする撮像装置。
  5. 請求項1に記載の撮像装置であって、
    前記画像処理部は、前記第1の格子パターンを透過する光を仮想的に強度変調する処理をおこなう強度変調部を有し、
    前記強度変調部は、前記第1の格子パターンを透過した光を前記画像センサに出力し、
    前記画像センサは取り込まれた画像を前記画像処理部に出力し、
    前記強度変調部は、仮想的な第2の格子パターンを用いて前記画像センサより取り込まれた画像に基づいて、前記第1の格子パターンを透過する光を強度変調する処理をおこなうことを特徴とする撮像装置。
  6. 請求項1に記載の撮像装置であって、
    前記第1の格子パターンを円環状の透明電極によって表示する液晶素子を有し、
    前記透明電極は、前記格子パターンの各周期を少なくとも3以上の同心円環に分割して選択的に光透過率を可変できることを特徴とする撮像装置。
  7. 請求項6に記載の撮像装置であって、
    前記撮像装置により1フレームの画像を撮像するにあたり、前記格子パターンの各周期を分割する少なくとも3以上の同心円環状透明電極に印加する電圧状態を、それぞれ少なくとも1回は変更させることを特徴とする撮像装置。
  8. 請求項5記載の撮像装置であって、
    前記強度変調部は、仮想的な第2の格子パターンにより光強度を変調し、
    1フレームの画像を撮像するにあたり、液晶素子により光強度を異ならしめた第1の格子パターンそれぞれに対し、第2の格子パターンの位相を変化させ、すべての組み合わせの画像を合成して演算することで、第1の格子と第2の格子のモアレ縞成分を抽出する演算をおこなうことを特徴とする撮像装置。
  9. 請求項1に記載の撮像装置であって、
    前記第1の格子パターンは、複数の領域に分かれており、前記領域ごとに異なる同心円格子パターンが配置され、それぞれの格子パターンの基準座標が、前記受光面の中央の法線に対し対称に配置されていることを特徴とする撮像装置。
  10. 請求項9に記載の撮像装置であって、
    前記第1の格子パターンが複数の領域に分割されたそれぞれの同心円格子パターンは、互いに基準座標の原点からの距離に対するピッチの分布が同一であり、格子配置の位相が異なっていることを特徴とする撮像装置。
  11. 請求項9に記載の撮像装置であって、
    前記変調部は、前記第1の面に対向する第2の面に形成される第1の格子パターンに対応した第2の格子パターンを有し、
    前記第2の格子パターンは、少なくとも一つの基準座標の原点からの距離に対してそれぞれのピッチが反比例する複数の同心円から構成されており、
    前記第1の格子パターンの基準座標の原点と前記第2の格子パターンの基準座標の原点は、一致しており、
    すべての領域の画像を合成して演算することにより、前記第1の格子と前記第2の格子のモアレ縞成分を抽出する演算をおこなうことを特徴とする撮像装置。
  12. 請求項11に記載の撮像装置であって、
    前記第1の格子パターンと前記第2の格子パターンのいずれか、または、その双方において、分割された領域毎の格子配置の位相がX方向もしくはY方向のみ同一であることを特徴とする撮像装置。
  13. 請求項9に記載の撮像装置であって、
    前記画像処理部は、前記第1の格子パターンを透過する光を仮想的に強度変調する処理をおこなう強度変調部を有し、
    前記強度変調部は、仮想的な第2の格子パターンにより光強度を変調し、
    1フレームの画像を撮像するにあたり、第2の格子パターンの位相を変化させ、すべての領域の画像を合成して演算することにより、第1の格子と第2の格子のモアレ縞成分を抽出する演算をおこなうことを特徴とする撮像装置。
  14. 請求項2に記載の撮像装置であって、
    前記第1の格子パターンおよび第2の格子パターンは、複数の領域に分かれており、
    隣接領域間で異なる同心円格子パターンが配置されており、
    前記第1の格子パターン内の前記複数の領域の格子の位相と、前記第2の格子パターン内の前記複数の領域の位相の組み合わせが、複数の組み合わせで重ねあわされるように配置されていることを特徴とする撮像装置。
  15. 請求項2に記載の撮像装置であって、
    前記画像処理では、P(P≧2,P:自然数)通りの前記第1の格子パターンとQ(Q≧2,Q:自然数)通りの前記第2の格子パターン全ての組み合わせによるセンサ出力信号を取得して演算し、両格子パターンを透過する光に生じるモアレ縞成分を強調することを特徴とする撮像装置。
  16. 請求項15に記載の撮像装置であって、
    前記第1の格子パターンの濃淡変化の位相ずれ量が(2π)/Pであり、前記第2の格子パターンの濃淡変化の位相ずれ量が(2π)/Qであることを特徴とする撮像装置。
  17. 請求項8記載の撮像装置であって、
    前記第1の格子パターンと前記第2の格子パターンの濃淡変化の位相が揃っており、
    前期画像処理では、前記濃淡変化の位相がずれていない場合とπ/2ずれた場合の2枚の出力画像を平均することを特徴とする撮像装置。
  18. 請求項8記載の撮像装置であって、
    前記第1の格子パターンと前記第2の格子パターンの濃淡変化の位相差が0、または、π/2であり、前期画像処理では、前記位相差が0の演算結果と、π/2の演算結果を、それぞれ実部と虚部または虚部と実部に割り当てて加算することを特徴とする撮像装置。
  19. 請求項2に記載の撮像装置であって、
    前記第2の格子パターン、または、第1の格子パターンと第2の格子パターンの双方が液晶素子により実現されることを特徴とする撮像装置。
  20. 請求項19に記載の撮像装置であって、
    前記第2の格子パターン、または、第1の格子パターンと第2の格子パターンの双方が円環状に配置された電極により実現されることを特徴とする撮像装置。
JP2018540628A 2016-09-26 2017-05-17 撮像装置 Active JP6721698B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016186695 2016-09-26
JP2016186695 2016-09-26
PCT/JP2017/018578 WO2018055831A1 (ja) 2016-09-26 2017-05-17 撮像装置

Publications (2)

Publication Number Publication Date
JPWO2018055831A1 JPWO2018055831A1 (ja) 2019-04-18
JP6721698B2 true JP6721698B2 (ja) 2020-07-15

Family

ID=61690260

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018540628A Active JP6721698B2 (ja) 2016-09-26 2017-05-17 撮像装置

Country Status (4)

Country Link
US (1) US10649118B2 (ja)
JP (1) JP6721698B2 (ja)
CN (1) CN109804616B (ja)
WO (1) WO2018055831A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018123318A1 (ja) * 2016-12-27 2018-07-05 富士フイルム株式会社 撮像装置及び撮像モジュール
WO2018221025A1 (ja) * 2017-06-01 2018-12-06 富士フイルム株式会社 撮像装置、画像処理装置、撮像システム、画像処理方法、及び記録媒体
JP6773903B2 (ja) * 2017-06-01 2020-10-21 富士フイルム株式会社 画像処理装置、撮像システム、画像処理方法、及び記録媒体
WO2018225547A1 (ja) * 2017-06-09 2018-12-13 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
CN111066263B (zh) * 2017-07-21 2023-10-03 加州理工学院 超薄平面无透镜相机
US11882371B2 (en) 2017-08-11 2024-01-23 California Institute Of Technology Lensless 3-dimensional imaging using directional sensing elements
CN113660400A (zh) * 2018-08-08 2021-11-16 麦克赛尔株式会社 记录装置、再现装置、记录再现装置和摄像装置
CN109474818B (zh) * 2019-01-03 2024-05-10 Oppo广东移动通信有限公司 一种图像传感器以及成像模组
JP7378935B2 (ja) * 2019-02-06 2023-11-14 キヤノン株式会社 画像処理装置
CN110166678A (zh) * 2019-06-26 2019-08-23 京东方科技集团股份有限公司 图像采集结构及其采集方法、显示装置
JP7540915B2 (ja) 2020-08-21 2024-08-27 シチズン時計株式会社 撮像装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3476897B2 (ja) 1994-03-29 2003-12-10 オリンパス株式会社 焦点検出光学系
JP3507632B2 (ja) * 1996-09-17 2004-03-15 株式会社東芝 回折格子レンズ
CA2345262A1 (en) * 1998-09-24 2000-03-30 The Secretary Of State For Defence Improvements relating to pattern recognition
WO2006075760A1 (ja) * 2005-01-17 2006-07-20 Nippon Telegraph And Telephone Corporation 変調機能付光源装置とその駆動方法
CN101443689B (zh) * 2006-05-15 2010-11-17 松下电器产业株式会社 衍射摄像透镜、衍射摄像透镜光学系统及使用其的摄像装置
JP2009252978A (ja) * 2008-04-04 2009-10-29 Panasonic Corp 固体撮像素子およびその製造方法
JP4944275B2 (ja) * 2009-06-11 2012-05-30 パナソニック株式会社 回折光学素子
JP5936357B2 (ja) * 2012-01-06 2016-06-22 株式会社ミツトヨ 姿勢検出器、接触プローブ、および、マルチセンシングプローブ
WO2013146873A1 (ja) * 2012-03-30 2013-10-03 三菱レイヨン株式会社 ロッドレンズアレイおよびそれを用いたイメージセンサヘッド
WO2014137922A1 (en) * 2013-03-05 2014-09-12 Rambus Inc. Phase gratings with odd symmetry for high-resoultion lensless optical sensing
US9110240B2 (en) 2013-03-05 2015-08-18 Rambus Inc. Phase gratings with odd symmetry for high-resolution lensed and lensless optical sensing
US9746593B2 (en) 2013-08-28 2017-08-29 Rambus Inc. Patchwork Fresnel zone plates for lensless imaging
JP2015115527A (ja) 2013-12-13 2015-06-22 株式会社東芝 固体撮像装置及びカメラシステム
JP6478922B2 (ja) * 2013-12-19 2019-03-06 シチズン時計株式会社 光変調素子
CN104006765B (zh) * 2014-03-14 2016-07-13 中国科学院上海光学精密机械研究所 单幅载频干涉条纹相位提取方法及检测装置

Also Published As

Publication number Publication date
WO2018055831A1 (ja) 2018-03-29
JPWO2018055831A1 (ja) 2019-04-18
CN109804616A (zh) 2019-05-24
CN109804616B (zh) 2021-01-08
US10649118B2 (en) 2020-05-12
US20190278006A1 (en) 2019-09-12

Similar Documents

Publication Publication Date Title
JP6721698B2 (ja) 撮像装置
JP6820908B2 (ja) 撮像装置
US10928641B2 (en) Imaging apparatus generating subject image from moire fringe image obtained by concentric pattern and method thereof
US10461108B2 (en) Imaging device
JP5352763B2 (ja) 複素振幅インラインホログラムの生成方法および該方法を用いる画像記録装置
JP2007114463A (ja) 3次元カラー画像記録装置
JP6646619B2 (ja) 撮像装置
JP7097787B2 (ja) 撮像装置および撮像方法
JP6864604B2 (ja) 撮像装置
JP7389195B2 (ja) 画像生成方法
JP6947891B2 (ja) 携帯情報端末
JP6770164B2 (ja) 撮像装置
WO2021024452A1 (ja) 撮像装置および方法
JP2021064000A (ja) 撮像装置
JP6636663B2 (ja) 撮像装置及び画像生成方法
CN110278350B (zh) 摄像装置
JP2020098963A (ja) 撮像装置
JP2022180800A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200618

R150 Certificate of patent or registration of utility model

Ref document number: 6721698

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150