[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JPWO2019012857A1 - 撮像装置、画像生成方法 - Google Patents

撮像装置、画像生成方法 Download PDF

Info

Publication number
JPWO2019012857A1
JPWO2019012857A1 JP2019528984A JP2019528984A JPWO2019012857A1 JP WO2019012857 A1 JPWO2019012857 A1 JP WO2019012857A1 JP 2019528984 A JP2019528984 A JP 2019528984A JP 2019528984 A JP2019528984 A JP 2019528984A JP WO2019012857 A1 JPWO2019012857 A1 JP WO2019012857A1
Authority
JP
Japan
Prior art keywords
image
polarization
virtual
unit
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019528984A
Other languages
English (en)
Other versions
JP7211364B2 (ja
Inventor
均 三谷
均 三谷
雅史 若園
雅史 若園
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019012857A1 publication Critical patent/JPWO2019012857A1/ja
Application granted granted Critical
Publication of JP7211364B2 publication Critical patent/JP7211364B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/21Polarisation-affecting properties
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/286Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising for controlling or changing the state of polarisation, e.g. transforming one polarisation state into another
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3025Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図る。本技術に係る撮像装置は、第一の偏光方向の光を受光可能な第一の画素と、第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部と、撮像部の姿勢を検出する検出部と、第一及び第二の画素の信号に基づいて、検出部の検出結果に応じた偏光方向に対応する画像を生成する画像生成部と、を備えている。これにより、特定の偏光方向に対応した画像、すなわち偏光フィルタ効果を与えたことに相当する画像として、撮像部の姿勢変化に応じた偏光方向に対応する画像を生成することが可能とされる。

Description

本技術は、撮像装置、及び画像生成方法に関するものであり、特には、任意偏光方向の直線偏光を選択的に受光して得られる偏光画像を信号処理により生成する場合に適用して好適な技術に関する。
例えば、撮像装置のレンズに取り付けた回転自在な偏光フィルタにより、水面やガラスの表面反射を抑えたり、空の青みを調整するといったことが可能とされる。使用者は、偏光フィルタの回転角度を調整することで、フィルタ効果の効き具合を調整することができる。
なお、関連する従来技術については下記特許文献1を挙げることができる。
国際公開第2008/099589号
上記のような偏光フィルタを用いた撮像を行う場合において、例えば撮像装置の姿勢を横向きから縦向きに回転させる等した場合には、偏光フィルタは撮像装置と一体に回転し、撮像画像に得られる偏光フィルタ効果にも変化が生じてしまう。
この場合、姿勢変化前と同様の偏光フィルタ効果を得るためには、偏光フィルタの回転角度を再調整することを要する。
本技術は上記の事情に鑑み為されたものであり、撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図ることを目的とする。
本技術に係る撮像装置は、第一の偏光方向の光を受光可能な第一の画素と、前記第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部と、前記撮像部の姿勢を検出する検出部と、前記第一及び第二の画素の信号に基づいて、前記検出部の検出結果に応じた偏光方向に対応する画像を生成する画像生成部と、を備えるものである。
これにより、特定の偏光方向に対応した画像、すなわち偏光フィルタ効果を与えたことに相当する画像として、撮像部の姿勢変化に応じた偏光方向に対応する画像を生成することが可能とされる。
上記した本技術に係る撮像装置においては、前記画像生成部は、回転自在な偏光フィルタを介した光を受光して撮像画像を得ると仮定した場合における前記偏光フィルタの回転角度に相当する仮想フィルタ角度を設定し、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に基づき、前記画像を生成することが望ましい。
これにより、撮像部の姿勢変化をキャンセルするように補正された仮想フィルタ角度による画像を得ることが可能とされる。
上記した本技術に係る撮像装置においては、前記撮像部は、それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、前記画像生成部は、前記画素ユニットに含まれる前記複数の画素の受光信号と、前記仮想フィルタ角度と受光信号値との関係を表す関数情報とに基づき、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に相当する偏光方向に対応する画像を生成することが望ましい。
これにより、撮像部の姿勢が変化しても偏光フィルタ効果は不変となる。
上記した本技術に係る撮像装置においては、前記仮想フィルタ角度を操作入力可能とされることが望ましい。
これにより、使用者の操作による偏光フィルタ効果の調整を可能とする。
上記した本技術に係る撮像装置においては、前記操作入力が回転操作子による操作入力とされることが望ましい。
これにより、回転自在な偏光フィルタを回転操作する場合と同様の操作感を使用者に提供することが可能とされる。
上記した本技術に係る撮像装置においては、前記画像生成部は、前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされると共に、操作に応じて前記仮想偏光画像と前記仮想通常画像を生成し分けることが望ましい。
これにより、偏光フィルタ効果のON/OFFを使用者が操作により指示可能となる。
上記した本技術に係る撮像装置においては、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を表示部に表示させる表示制御部を備えることが望ましい。
これにより、偏光フィルタ効果を使用者に確認させることが可能とされる。また、仮想フィルタ角度を操作により指定可能とされる場合には、操作に対する偏光フィルタ効果の変化を使用者に確認させることが可能とされる。
上記した本技術に係る撮像装置においては、前記撮像部は、それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、前記画像生成部は、前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされ、前記表示制御部は、前記表示部において前記仮想偏光画像と前記仮想通常画像の何れか一方が表示中に行われた所定操作に基づき、前記表示部の表示状態を前記仮想偏光画像と前記仮想通常画像の何れか一方が表示された状態から前記仮想偏光画像と前記仮想通常画像の何れか他方が表示された状態に切り替えることが望ましい。
これにより、偏光フィルタ効果の有無を使用者に把握させ易くなる。
上記した本技術に係る撮像装置においては、前記表示制御部は、前記所定操作が継続中の間、前記仮想偏光画像と前記仮想通常画像の何れか他方の表示状態を維持させ、前記所定操作の終了に応じて前記仮想偏光画像と前記仮想通常画像の何れか一方の表示状態に切り替えることが望ましい。
これにより、使用者は、仮想偏光画像と仮想通常画像の何れか他方を表示させた後に何れか一方の表示状態に戻したいとしたときは、所定操作を終了すればよい。
上記した本技術に係る撮像装置においては、前記仮想フィルタ角度を操作入力可能とされ、前記画像生成部は、前記仮想フィルタ角度を前記操作入力された角度よりも大きな角度としたときの前記仮想偏光画像である増角画像、又は、前記仮想フィルタ角度を前記操作入力された角度よりも小さな角度としたときの前記仮想偏光画像である減角画像の少なくとも一方を生成し、前記表示制御部は、前記増角画像又は前記減角画像の少なくとも一方を前記表示部に表示させることが望ましい。
これにより、仮想フィルタ角度を現在の指示角度から増角した場合、又は減角した場合にそれぞれ偏光フィルタ効果がどのように変化するかを使用者に確認させることが可能とされる。
上記した本技術に係る撮像装置においては、前記仮想フィルタ角度の入力操作が回転操作子による入力操作とされ、前記表示制御部は、前記増角画像を表示させる場合は、前記増角画像に対応する表示位置に前記仮想フィルタ角度を大きくするための前記回転操作子の回転方向情報を、前記減角画像を表示させる場合は前記減角画像に対応する表示位置に前記仮想フィルタ角度を小さくするための前記回転操作子の回転方向情報をそれぞれ表示させることが望ましい。
これにより、所望の偏光フィルタ効果を得るにあたり回転操作子をどちらの方向に回転させればよいかを使用者に直感的に理解させることが可能とされる。
上記した本技術に係る撮像装置においては、操作による被写体の指定を受け付ける受付部を備え、前記画像生成部が、前記画素ユニットに含まれる前記複数の画素の受光信号と前記関数情報とに基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を生成可能とされると共に、前記画像生成部は、前記指定された被写体の光を受光する画素位置における受光信号値に基づいた前記関数情報を取得し、該関数情報に基づき、前記画素位置の受光信号値を所定条件が満足される値とする前記仮想フィルタ角度を目標角度として計算し、前記目標角度を前記検出部の検出結果に基づき補正して補正角度を得、前記仮想フィルタ角度を前記補正角度としたときの前記仮想偏光画像を生成することが望ましい。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の光反射態様が所定条件を満たす態様に調整された仮想偏光画像を得ることができる。
上記した本技術に係る撮像装置においては、前記画像生成部は、前記目標角度として、前記画素位置の受光信号値を略最小とする前記仮想フィルタ角度を計算することが望ましい。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の反射が除去されるように調整された仮想偏光画像を得ることができる。
上記した本技術に係る撮像装置においては、前記撮像部による撮像画像を表示部に表示させる表示制御部を備え、前記受付部は、前記表示部の表示画面に対するタッチ操作により行われる前記被写体の指定を受け付けることが望ましい。
これにより、被写体の指定操作が容易化される。
上記した本技術に係る撮像装置においては、表示部を制御する表示制御部を備え、前記画像生成部は、前記撮像部における所定の画素位置ごとに、前記関数情報に基づいて前記仮想フィルタ角度の変化に対する前記受光信号値の変化度合いを表す値をフィルタ効果期待値として計算し、前記表示制御部は、前記フィルタ効果期待値の大きさを表す期待値情報が前記所定の画素位置ごとに表された期待値画像を前記表示部に表示させることが望ましい。
これにより使用者は、画像内のどの位置で高いフィルタ効果が期待できるかを事前に把握することが可能とされる。
上記した本技術に係る撮像装置においては、前記表示制御部は、前記期待値画像を前記撮像部による撮像画像に重畳表示させることが望ましい。
これにより使用者は、高いフィルタ効果が期待できる位置を被写体との位置関係から具体的に把握することが可能とされる。
上記した本技術に係る撮像装置においては、前記表示制御部は、前記撮像画像としてモノクロ画像を、前記期待値画像としてモノクロ以外の特定色による画像を表示させることが望ましい。
これにより、撮像画像と期待値画像の重畳表示によって互いの画像の視認性が低下することの抑制が図られる。
上記した本技術に係る撮像装置においては、前記画像生成部は、前記フィルタ効果期待値として偏光度を計算することが望ましい。
これにより、期待値情報の信頼性を高めることが可能とされる。
上記した本技術に係る撮像装置においては、前記撮像部は、偏光スプリッタと、所定数の受光素子を有し該受光素子が前記偏光スプリッタの分離面を反射した反射光の光軸に略直交する受光面を有して前記反射光を受光する第一種の画素と、所定数の受光素子を有し該受光素子が前記分離面を透過した透過光の光軸に略直交する受光面を有して前記透過光を受光する第二種の画素と、を有した画素対を複数備え、隣接関係にある前記画素対において、前記偏光スプリッタにおける前記分離面の偏光軸の面内角度が異なっていることが望ましい。
上記の撮像部においては、一つの画素対(一つの画素位置)につき、偏光方向が直交関係にある2種の直線偏光を選択的に受光可能とされ、また、隣接関係にある二つの画素対においては、偏光方向がそれぞれ異なる4種の直線偏光を選択的に受光可能とされる。
また、本技術に係る画像生成方法は、第一の偏光方向の光を受光可能な第一の画素と、前記第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部を有する撮像装置について、前記撮像部の姿勢を検出する検出ステップと、前記第一及び第二の画素の信号に基づいて、前記検出ステップの検出結果に応じた偏光方向に対応する画像を生成する画像生成ステップと、を前記撮像装置が実行するものである。
このような画像生成方法によっても、上記した本技術に係る撮像装置と同様の作用が得られる。
本技術によれば、撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図ることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
実施形態としての撮像装置とレンズ装置の外観例を示した図である。 実施形態としての撮像装置の内部構成を説明するためのブロック図である。 一般的な撮像装置により回転自在な偏光フィルタを介して撮像を行った場合の偏光フィルタ効果の説明図である。 実施形態としての撮像装置が備える撮像部の構造についての説明図である。 実施形態における仮想通常画像の生成手法についての説明図である。 実施形態における関数のフィッティングについての説明図である。 実施形態における関数の例の説明図である。 実施形態の回転キャンセル手法についての説明図である。 実施形態としての回転キャンセル手法を実現するための処理手順を示したフローチャートである。 使用者に偏光フィルタ効果を確認させるための処理例を示したフローチャートである。 指定角画像、増角画像、減角画像、回転方向情報の表示例を示した図である。 指定角画像、増角画像、減角画像、回転方向情報の表示を実現するための処理を例示したフローチャートである。 実施形態におけるタッチモードの説明図である。 実施形態における受付部に相当する処理のフローチャートである。 実施形態における目標角度としての仮想フィルタ角度の計算に係る処理のフローチャートである。 前記目標角度に基づく仮想偏光画像の生成に係る処理例を示したフローチャートである。 表示部における期待値画像の表示例を示した図である。 偏光度の説明図である。 期待値画像の表示のために画像生成部が行うべき処理例を示したフローチャートである。 従来技術に基づき構成することのできる撮像システムの概要を例示した図である。 変形例としての撮像装置の内部構成を示したブロック図である。 変形例における仮想偏光画像生成のための処理を示したフローチャートである。 変形例としての撮像部の構造についての説明図である。 変形例としての撮像部を用いた場合における第一偏光画像〜第四偏光画像、及び仮想通常画像の生成手法の例について説明するための図である。 手術室システムの全体構成を概略的に示す図である。 集中操作パネルにおける操作画面の表示例を示す図である。 手術室システムが適用された手術の様子の一例を示す図である。 図27に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。
以下、添付図面を参照し、本技術に係る実施形態を次の順序で説明する。

<1.実施形態の撮像装置>
[1-1.撮像装置の構成概要]
[1-2.偏光フィルタ効果について]
[1-3.回転キャンセル手法]
[1-4.処理手順]
[1-5.偏光フィルタ効果の確認]
[1-6.モニタ表示の工夫]
[1-7.タッチモード]
[1-8.期待値表示モード]
<2.変形例>
[2-1.第一変形例]
[2-2.第二変形例]
<3.応用例>
<4.実施形態のまとめ>
<5.その他変形例>
<6.本技術>
<1.実施形態の撮像装置>
[1-1.撮像装置の構成概要]

図1に、本技術に係る実施形態としての撮像装置1とレンズ装置2の外観例を示す。
本実施形態の撮像装置1は、レンズ交換可能な撮像装置とされ、図1ではレンズ装置2が装着された状態の撮像装置1の外観例を表している。図1A、図1Bは、それぞれ撮像装置1を正面視、右側面視した際の概略外観図である。
ここで、以下の説明では、撮像装置の前後上下左右の各方向を次のように定義する。
前方向は、撮像装置の撮像方向(被写体に近づく側の方向)に一致する方向であり、後方向は、前方向とは逆側の方向である。
上下、左右の各方向は、撮像装置により得られる撮像画像における垂直方向、水平方向(水平ライン方向)を基準に定まる方向である。具体的には、撮像画像に映し出された被写体の天地方向、水平方向と、撮像画像の垂直方向、水平方向とが一致するように撮像装置の姿勢がとられたときの上下、左右の各方向である。
本例では、左、右の各方向については、使用者の視点を基準に定義している。すなわち、撮像装置を後方から見たときの左方向、右方向とそれぞれ一致する方向である。
図1Aでは、紙面手前方向、奥方向がそれぞれ撮像装置1の前方向、後方向に一致し、紙面上方向、下方向がそれぞれ撮像装置1の上方向、下方向に一致し、紙面左方向、右方向がそれぞれ撮像装置1の右方向、左方向に一致している。
本例の撮像装置1は、例えばレンズ交換式ミラーレス一眼タイプのデジタルカメラ装置として構成され、内部に例えばCCD(Charge Coupled Devices)センサやCMOS(Complementary Metal-Oxide Semiconductor)センサ等による撮像素子12(図1では不図示)を有している。
撮像装置1には、シャッタボタン1aや、シャッタボタン1a以外のボタン操作子1b等、使用者が各種入力を行うための操作子が設けられている。
レンズ装置2には、前端部にカバーレンズ2aが配置され、カバーレンズ2aを介した被写体からの光が撮像装置1における撮像素子12の撮像面に導かれる。
また、本例のレンズ装置2には、回転操作される例えば操作リングとしての回転操作子2bが設けられている。回転操作子2bは、本例ではレンズ装置2のレンズ鏡筒の外径と略同径の外径を有し、例えばレンズ装置2の前端部付近に位置されている。
図2は、撮像装置1の内部構成を説明するためのブロック図であり、撮像装置1の内部構成と共にレンズ装置2の内部構成を併せて示している。
先ず、レンズ装置2は、上記した回転操作子2bと共に、光学系3、光学系駆動部4及び回転角検出部5を備えている。
光学系3は、前述したカバーレンズ2aや不図示のズームレンズ、フォーカスレンズ等の各種レンズや絞り機構を備える。この光学系3により、被写体からの光が撮像素子12の撮像面に集光される。
光学系駆動部4は、撮像装置1における後述する制御部30の制御に基づいて、光学系3におけるフォーカスレンズを駆動し、フォーカス動作を実行する。また光学系駆動部4は、制御部30の制御に基づいて、光学系3における絞り機構を駆動し、露光調整を実行する。さらに光学系駆動部4は、制御部30の制御に基づいて、光学系3におけるズームレンズを駆動し、ズーム動作を実行する。
回転角検出部5は、回転操作子2bの回転角度を検出する。回転角検出部5は、撮像装置1における制御部30に接続され、制御部30は回転操作子2bの回転角度情報を取得可能とされる。
撮像装置1は、撮像部11、記憶部14、通信部15、表示部16、角度検出部17、操作部18、デジタル信号処理部20、及び制御部30を有する。
撮像部11は、撮像素子12を有し、撮像素子12での光電変換で得た電気信号について例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像信号を、後段のデジタル信号処理部20に出力する。
なお、本実施形態における撮像部11の構造については後述する。
ここで、本明細書において「撮像画像」といったときは、撮像に基づき得られる画像を広く意味するものとする。すなわち、撮像部11で得られる画像(各画素の受光信号値の集合)のみでなく、該画像から所要の信号処理を介して生成される画像(例えば、後述する第一偏光画像〜第四偏光画像や仮想偏光画像、仮想通常画像等)も含む語であるとする。
また、本明細書において「撮像」とは、撮像素子12において受光信号を得るまでの動作を意味するものとする。
デジタル信号処理部20は、例えばDSP(Digital Signal Processor)等により画像処理プロセッサとして構成される。このデジタル信号処理部20は、撮像部11からのデジタル信号(撮像画像データ)に対して、各種の信号処理を施す。
本実施形態におけるデジタル信号処理部20は、偏光画像生成部21、コーデック部22、及び表示データ生成部23を少なくとも有している。
偏光画像生成部21は、撮像部11からのデジタル信号に基づき、後述する仮想通常画像や仮想偏光画像の生成を行う。なお、偏光画像生成部21が行う処理については改めて説明する。
コーデック部22は、偏光画像生成部21により生成された画像データについて、例えば記録用や通信用の符号化処理を行う。
表示データ生成部23は、制御部30の制御に従って、表示部16に出力する例えばスルー画としての表示データを生成する。このスルー画としての表示データは、基本的には解像度変換された撮像画像データとしての各フレームのデータである。
また表示データ生成部23は制御部30の指示に基づいて、各種のガイド画像、キャラクタ画像、操作用画像等を、例えばスルー画等の画像に重畳させる形式で表示部16に表示させる処理も行う。
なお図2では、表示データ生成部23はデジタル信号処理部20で実行される機能構成として示しているが、これは一例であり、制御部30によって処理が実行されてもよい。
制御部30は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなどを備えたマイクロコンピュータ(演算処理装置)により構成される。
CPUがROMやフラッシュメモリ等に記憶されたプログラムを実行することで、撮像装置1全体を統括的に制御する。
RAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。
ROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
このような制御部30は、デジタル信号処理部20における各種信号処理の指示、使用者の操作に応じた撮像動作や記録動作、記録した画像ファイルの再生動作、ズーム、フォーカス、露光調整等のカメラ動作、ユーザインターフェース動作等について、必要各部の動作を制御する。
また、制御部30は、表示制御部31としての機能を有している。表示制御部31は、表示データ生成部23が生成したスルー画等の各種画像を表示部16に表示させる制御を行う。
さらに制御部30は、受付部32としての機能を有する。受付部32は、後述するように表示部16に形成されたタッチパネルの操作等、所定操作による被写体の指定を受け付ける。
なお、これら表示制御部31及び受付部32については後に改めて説明する。
表示部16は、使用者(撮像者等)に対して各種表示を行う表示部であり、例えば撮像装置1の筐体上に形成されるLCD(Liquid Crystal Display)や有機EL(Electro-Luminescence)ディスプレイ等のディスプレイデバイスを有して形成される。なお、いわゆるビューファインダーの形態で、LCDや有機ELディスプレイ等を用いて形成されてもよい。
表示部16は、上記のディスプレイデバイスと、該ディスプレイデバイスに表示を実行させる表示ドライバとから成る。表示ドライバは、制御部30の指示に基づいて、ディスプレイデバイス上に各種表示を実行させる。例えば表示ドライバは、撮像して記録媒体に記録した静止画や動画を再生表示させたり、表示データ生成部23からの表示データによるスルー画をディスプレイデバイスの画面上に表示させる。また各種操作メニュー、アイコン、メッセージ、ガイド表示等、即ちGUI(Graphical User Interface)としての表示を画面上に実行させる。また表示ドライバは、スルー画に重畳して所要の画像を表示させることもできる。
角度検出部17は、自装置、すなわち撮像装置1の姿勢を検出するための例えばジャイロセンサ(角速度センサ)、加速度センサ等の所定センサを有しており、自装置の撮像方向に略直交する面内での回転角度(以下「装置回転角度」と表記する)を少なくとも検出する。
本例における角度検出部17は、撮像装置1が正立状態、すなわち撮像装置1の上、下方向と天、地方向とが略一致した状態を装置回転角度=0degとして検出する。
角度検出部17が検出した装置回転角度の情報は制御部30に送信される。制御部30は、装置回転角度の情報を用いて各種制御を行うことができる。特に、本例では、装置回転角度の情報はデジタル信号処理部20(偏光画像生成部21)により取得され、後述する実施形態としての処理に用いられる。
なお、装置回転角度は、例えばデジタル信号処理部20による画像処理によって検出することもできる。例えば、撮像部11からの毎フレームの撮像画像において複数の特徴点を抽出し、それら特徴点の回転を検出する信号処理等を挙げることができる。
また、本例では、撮像部11が撮像装置1と一体に姿勢変化することを前提とし、撮像装置1の装置回転角度を検出する例としているが、後述する回転キャンセル手法の実現にあたっては、回転角度(撮像方向に略直交する面内での回転角度)としては、撮像部11(撮像素子12)の回転角度を検出すればよい。
操作部18は、使用者の操作を入力する入力機能を有し、入力された操作に応じた信号を制御部30へ送る。
この操作部18としては、例えば撮像装置1の筐体上に設けられた各種操作子や、表示部16に形成されたタッチパネルなどとして実現される。筐体上の操作子としては、前述したシャッタボタン1aやボタン操作子1bを始めとして、十字キー、スライドキー等の各種操作子が設けられる。
記憶部14は、例えば不揮発性メモリからなり、静止画データや動画データ等の画像ファイル(コンテンツファイル)や、画像ファイルの属性情報、サムネイル画像等を記憶する記憶領域として機能する。
画像ファイルは、例えばJPEG(Joint Photographic Experts Group)、TIFF(Tagged Image File Format)、GIF(Graphics Interchange Format)等の形式で記憶される。
記憶部14の実際の形態は多様に考えられる。例えば記憶部14は、撮像装置1に内蔵されるフラッシュメモリでもよいし、撮像装置1に着脱できるメモリカード(例えば可搬型のフラッシュメモリ)と該メモリカードに対して記録再生アクセスを行うカード記録再生部による形態でもよい。また撮像装置1に内蔵されている形態としてHDD(Hard Disk Drive)などとして実現されることもある。
通信部15は、外部機器との間のデータ通信やネットワーク通信を有線又は無線で行う。
例えば外部の表示装置、記録装置、再生装置等の間で撮像画像データ(静止画ファイルや動画ファイル)の通信を行う。
また、ネットワーク通信部として、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
[1-2.偏光フィルタ効果について]

図3は、一般的な撮像装置により回転自在な偏光フィルタを介して撮像を行った場合の偏光フィルタ効果の説明図である。
図3では、偏光フィルタの偏光軸Pを模式的に表している。また、図中の横向き破線は水平線を模式的に表している。
例えば、偏光軸Pと水平線がなす角度aが図3Aに示す角度であるときを基準として考える。図3Aの状態から偏光フィルタを図中矢印方向に回転させると、図3Bのように偏光軸Pも回転され、角度aが変化する。本例では、偏光軸Pが図3Bの角度aのとき、撮像画像において一部被写体の反射が図3Aのときより低減されるとする。
図3A、図3Bでは、撮像装置を横向き姿勢としているが、図3Bの状態から図3Cのように撮像装置が縦向き姿勢とされたとする。このような姿勢変化が生じると、偏光軸Pと水平線がなす角度aも変化するため、撮像画像における偏光フィルタ効果に変化が生じる。ここでは、図3Cの姿勢変化により角度aが図3Aの場合と同様となった場合を例示しており、図3Cの撮像画像は図3Aの撮像画像とほぼ一致している(偏光フィルタ効果がほぼ一致している)。
仮に、図3Bで得られた偏光フィルタ効果が使用者の望むものであったとすると、使用者は、図3B→図3Cのように姿勢変化させた場合には、角度aが図3Bの場合と一致するように偏光フィルタを再度回転させることを強いられる(図3D参照)。すなわち、使用者は、一旦、自身が望む偏光フィルタ効果が得られるように偏光フィルタの回転角度調整を行ったにもかかわらず、再度の調整操作を行うことを強いられる。
このような事態は、使用者に不要な操作負担を強いるもので望ましくない。
そこで本実施形態では、撮像装置の回転に伴って偏光フィルタ効果が変化してしまうことの防止を図る。
図4は、撮像装置1が備える撮像部11の構造についての説明図であり、図4Aは概略縦断面図、図4Bは概略正面図である。
撮像部11においては、撮像素子12の撮像面上に光学部材13が配置されている。撮像素子12においては、複数の受光素子12aが二次元(縦横方向)に配列されており、光学部材13においては、受光素子12aごとに、受光面上に位置する偏光フィルタ13aが形成されている。
図4Bでは、各偏光フィルタ13aの偏光軸の向き(角度)を両矢印で模式的に示しているが、該両矢印を参照して分かるように、偏光フィルタ13aとしては偏光軸の角度が45degずつ異なる4種が用いられている。
以下では仮に、紙面の横方向、つまり撮像素子12の横方向(水平ライン方向)と一致する方向が水平方向(水平線)と一致するものとし、横向きの両矢印で表す偏光軸の角度を「0deg」、縦向きの両矢印で表す偏光軸の角度を「90deg」、右上がり(左下がり)に傾斜した両矢印で表す偏光軸の角度を「45deg」、左上がり(右下がり)に傾斜した両矢印で表す偏光軸の角度を「135deg」と表記する。
撮像素子12において、各受光素子12a(つまり本例では各画素)は、受光面上に配置された対応する偏光フィルタ13aの偏光軸角度に一致する角度の直線偏光を選択的に受光することになる。
本例では、縦2×横2=4つの受光素子12aが一つの画素ユニットUを構成し、画素ユニットUにおいては、各受光素子12a上の偏光フィルタ13aの偏光軸が45degずつ異なっている。
撮像部11においては、このような画素ユニットUが縦方向及び横方向に複数配列されている。
上記のように偏光方向が異なる直線偏光を選択的に受光可能とした撮像部11を用いることで、偏光の情報を得ることができる。
具体的に、偏光方向が異なる直線偏光をそれぞれ個別に受光した複数の受光信号値を用いることで、偏光フィルタの偏光軸の角度と受光素子12aで得られる受光信号値(輝度値)との関係を表す関数を求めることができる。これはすなわち、回転可能な偏光フィルタを介した光を受光して撮像画像を得ると仮定した際における、該偏光フィルタの回転角度と受光信号値(輝度値)との関係を表す関数が求まることを意味する。
ここで以下、上記のように回転可能な偏光フィルタを介した光を受光して撮像画像を得ると仮定した際における該偏光フィルタの回転角度のことを、「仮想フィルタ角度」と表示する。また、上記の関数を「関数F」と表記する。
関数Fは、具体的にはcosカーブとされる。このcosカーブを用いることで、仮想フィルタ角度を任意角度とした場合に得られる受光信号値を求めることができる。すなわち、任意の偏光フィルタ効果を与えた画像を得ることができる。
また、上記のような撮像部11を用いた場合、互いの偏光方向が90deg異なる二つの直線偏光の受光信号値同士を加算することで、光学部材13による偏光の分離をキャンセルした撮像画像、すなわち、偏光フィルタ効果をゼロとした通常の撮像画像に相当する画像を得ることができる。
以下、このように偏光フィルタ効果をゼロとした通常の撮像画像に相当する画像のことを「仮想通常画像」と表記する。
図2に示した偏光画像生成部21が行う仮想通常画像の生成、及び関数Fのフィッティングについて図5乃至図7を参照して説明する。
図5は、仮想通常画像の生成手法についての説明図である。
図5Aでは、撮像部11における画素配列を各偏光フィルタ13aの偏光軸角度の表記と共に模式的に表している。
先ず、後述するように、本例のcosカーブのフィッティングでは、各画素位置において0deg、90deg、45deg、135degの4種の直線偏光の受光信号値を得ることを前提としている。
一方で、撮像部11においては、偏光フィルタ13aの偏光軸が0deg、90deg、45deg、135degの画素は、図5Bで表すように縦方向及び横方向においてそれぞれ間欠的に配置されているため、そのままでは各画素位置について4種の直線偏光の受光信号値を得ることはできない。
このため、0deg、90deg、45deg、135degの各直線偏光について、図5Cに示すようにそれぞれ受光信号値が欠落する画素位置の受光信号値を対応する直線偏光が受光される画素の受光信号値を用いて補間し、各画素位置で0degの直線偏光を選択的に受光したことに相当する画像(以下「第一偏光画像」と表記)、各画素位置で90degの直線偏光を選択的に受光したことに相当する画像(以下「第二偏光画像」と表記)、各画素位置で45degの直線偏光を選択的に受光したことに相当する画像(以下「第三偏光画像」と表記)、各画素位置で135degの直線偏光を選択的に受光したことに相当する画像(以下「第四偏光画像」と表記)をそれぞれ生成する。
上述のように仮想通常画像は、各画素位置において、偏光方向が90deg異なる二つの直線偏光の受光信号値同士を加算することで得られる。
具体的には、第一偏光画像の各画素位置の受光信号値に対し、第二偏光画像におけるそれぞれ同一画素位置の受光信号値を加算するか、或いは、第三偏光画像の各画素位置の受光信号値に対し、第四偏光画像におけるそれぞれ同一画素位置の受光信号値を加算することにより得ることができる。
図5Dは、このように第一偏光画像と第二偏光画像、又は第三偏光画像と第四偏光画像から仮想通常画像が生成されることを模式的に表している。
図6は、関数F(cosカーブ)のフィッティングについての説明図であり、図6Aは撮像部11の或る画素位置について得られた四つの直線偏光についての受光信号値(輝度値)の例を、図6Bはこれら四つの受光信号値(輝度値)とcosカーブとの関係を例示している。
これら図6A、図6Bより、各画素位置において四つの直線偏光の受光信号値が得られることで、cosカーブをフィッティングできることが分かる。
関数Fとしてのcosカーブは、図7に示すように受光信号値を「I」、受光信号値の最大値、最小値をそれぞれ「Imax」「Imin」、仮想フィルタ角度を「θpol」、「θpol」のオフセットを「Φ」としたとき、以下の[式1]で表される。


Figure 2019012857
[式1]は、次の[式2]に変換することができる。


Figure 2019012857
[式2]において「A」は振幅、「φ」は原点からの位相ずれ、「c」は「y」のオフセットである。
cosカーブのフィッティングは、0deg、90deg、45deg、135degの直線偏光をそれぞれ受光した四つの受光信号値を用いて、次の「式3」に基づいて最小二乗法により行う。すなわち、「J」を最小とする「y」を求める。


Figure 2019012857
[式3]において、「In」は実測値、すなわち対象とする画素位置について得られた0deg、90deg、45deg、135degの直線偏光についての受光信号値である。
上記「式3」により求まった「J」を最小とする「y」が実測値にフィッティングされたcosカーブである。
cosカーブがフィッティングされれば、該cosカーブに任意の仮想フィルタ角度の値を代入することで、対象とする画素位置について、任意回転角度による偏光フィルタを介して受光素子12aが光を受光したときの受光信号値(該画素位置の輝度値)が得られる。なお、[式2]において、「仮想フィルタ角度」に相当する項は「(π/2)*n」である。
上記のようなcosカーブのフィッティング、及びcosカーブと任意の仮想フィルタ角度とを用いた輝度値の計算を各画素位置について行うことで、任意回転角度の偏光フィルタを介して撮像素子12により撮像を行って得られる画像に相当する画像を得ることができる。
以下、上記のようにフィッティングしたcosカーブと任意の仮想フィルタ角度とに基づいて生成される画像のことを「仮想偏光画像」と表記する。
偏光画像生成部21は上記のような手法により、各受光素子12aの受光信号値に基づいて仮想偏光画像、仮想通常画像の生成を行う。
なお、上記説明では、仮想偏光画像の解像度の低下防止を図るため、補間画像としての第一偏光画像、第二偏光画像、第三偏光画像、第四偏光画像を生成する例を挙げたが、画素ユニットUは同じ画素位置であるとみなして、画素ユニットUごとに4種の受光信号値に基づくcosカーブのフィッティングを行うことも可能である。
また、cosカーブのフィッティングは、画素位置ごとに4種の直線偏光の受光信号値を用いることは必須でなく、少なくとも3種の直線偏光の受光信号値を用いれば行うことが可能である。本例では、画素位置ごとに4種の直線偏光の受光信号値を用い上記のような最小二乗法を用いたフィッティングとしていることで、対ノイズ性を高めたより高精度なフィッティングを実現している。
本実施形態の撮像装置1においては、撮像部11で得られた信号に基づいて仮想偏光画像を生成する偏光撮像モードと、仮想通常画像を生成する通常撮像モードとが設けられ、これら偏光撮像モードと通常撮像モードとを使用者の操作に基づき切り替え可能とされている。具体的に、制御部30は、例えば図1に示したボタン操作子1bの操作等、所定操作に基づいて偏光撮像モード/通常撮像モードのモード切替を行う。
偏光撮像モード中には、制御部30における表示制御部31は、偏光画像生成部21で生成された仮想偏光画像がスルー画として表示部16に表示されるように表示データ生成部23を制御する。また、表示制御部31は、通常撮像モード中においては、偏光画像生成部21で生成された仮想通常画像がスルー画として表示部16に表示されるように表示データ生成部23を制御する。
また、本実施形態では、レンズ装置2に設けられた回転操作子2bが、仮想偏光画像の生成に用いる仮想フィルタ角度の指示入力操作子として機能する。
具体的に、制御部30は、偏光撮像モード中においては、回転角度検出部5が検出した回転操作子2bの回転角度の情報を逐次取得し、取得した回転角度の情報を例えば内部のRAMや記憶部14等、所定の記憶装置に記憶する。
そして、偏光撮像モード中においては、偏光画像生成部21が上記のように所定の記憶装置に記憶された回転操作子2bの回転角度情報を取得し、取得した回転角度情報を用いて仮想偏光画像の生成を行う。
ここで以下、回転角度検出部5が検出する回転操作子2bの回転角度を「回転角度α」と表記する。
[1-3.回転キャンセル手法]

図8は、実施形態の回転キャンセル手法についての説明図である。
図8Aは、撮像装置1が正立状態であるときに、回転操作子2bの操作により仮想フィルタ角度として「α」が指示された状態を例示している。ここでは説明上、回転角度αは撮像装置1が正立状態であるときの水平線(図中破線で表す)を基準とした角度であるとしている。
また図中では、上述したcosカーブを用いた信号処理で実現される仮想的な偏光フィルタの偏光軸を仮想偏光軸P’として表している。
図8Aの状態では、仮想偏光軸P’と水平線がなす角度が「α」であるが、図8Bのように撮像装置1がβdeg傾いた場合、仮想偏光軸P’と水平線がなす角度が「α」から変化してしまう(「α−β」に変化する)。
図8Bのような撮像装置1のβdegの回転に対し、図8Aの状態での偏光フィルタ効果を維持するためには、図8Cに示すように仮想偏光軸P’と水平線がなす角度を「α」に戻すようにすればよい。すなわち、回転操作子2bにより指示された回転角度「α」に対し、撮像装置1の回転角度(自装置の撮像方向に略直交する面内での回転角度)である「β」を加算し、それにより得られた「α+β」をcosカーブに基づく仮想偏光画像の生成に用いる仮想フィルタ角度とすればよい。
本実施形態の偏光画像生成部21は、制御部30が角度検出部17より取得する装置回転角度を上記「β」として取得し、上述した画素位置ごとのcosカーブに基づく輝度値の計算時において、該「β」と回転角度αとを加算した「α+β」をcosカーブに代入すべき仮想フィルタ角度の値として用いる。
これにより、撮像装置1が回転しても偏光フィルタ効果は不変となり、撮像装置1の回転に伴って偏光フィルタ効果が変化してしまうことの防止を図ることができる。
ここで、上記により説明した実施形態としての回転キャンセル手法は、次のように換言できる。すなわち、画素ユニットUに含まれる複数の画素の受光信号と、仮想フィルタ角度と受光信号値との関係を表す関数情報とに基づき、角度検出部17の検出結果に基づいて補正された仮想フィルタ角度に相当する偏光方向に対応する画像を生成する、というものである。この際、「仮想フィルタ角度に相当する偏光方向」とは、回転可能な偏光フィルタの回転角度を該仮想フィルタ角度としたときに受光される直線偏光の偏光方向を意味する。また、「偏光方向に対応する画像」とは、単一偏光方向の成分を有する偏光画像を意味する。換言すれば、単一偏光方向による直線偏光を選択的に受光して得られる画像を意味するものである。なお、当該「単一偏光方向による直線偏光を選択的に受光して得られる画像」には、関数Fを用いた信号処理で生成される仮想偏光画像等、撮像部11で得られた信号に対する処理によって生成される画像も含まれる。
[1-4.処理手順]

図9は、上記で説明した実施形態としての回転キャンセル手法を実現するための処理手順を示したフローチャートである。なお、図9に示す処理は、本例では毎フレーム実行される。
先ず、ステップS101で偏光画像生成部21は、現在が偏光撮像モード中であるか否かを判定する。偏光撮像モード中であれば、偏光画像生成部21はステップS102に進み、回転角度α、及び回転角度βを取得する。すなわち、制御部30が回転角検出部5より取得した回転操作子2aの回転角度を「α」として、また制御部30が角度検出部17より取得した装置回転角度を「β」としてそれぞれ取得する。
さらに偏光画像生成部21はステップS103で、「α+β」を計算し、続くステップS104において仮想フィルタ角度を「α+β」とした場合の仮想偏光画像を生成する。
具体的に、偏光画像生成部21はステップS104で、図中のステップS201〜S203の処理を実行する。
先ずステップS201で偏光画像生成部21は、各角度の偏光画像生成処理を行う。具体的には、図5Cで説明した第一偏光画像、第二偏光画像、第三偏光画像、第四偏光画像を生成する処理である。
続くステップS202で偏光画像生成部21は、画素位置ごとにcosカーブをフィッティングする処理を行う。すなわち、第一偏光画像、第二偏光画像、第三偏光画像、第四偏光画像の生成によって画素位置ごとに四つ得られる受光信号値を用いて、画素位置ごとに前述した[式3]に基づいてcosカーブをフィッティングする。
そして、ステップS203で偏光画像生成部21は、画素位置ごとにcosカーブに「α+β」を代入して輝度値を算出する。
これにより、仮想フィルタ角度を「α+β」とした場合の仮想偏光画像が得られる。
一方、先のステップS101で偏光撮像モード中でないと判定した場合、すなわち通常撮像モード中である場合、偏光画像生成部21はステップS105で仮想通常画像を生成する。
具体的に、ステップS105で偏光画像生成部21は、図中のステップS301及びS302の処理を実行する。すなわち、先ずステップS301で偏光画像生成部21は、先のステップS201と同様に各角度の偏光画像生成処理を行う。そして、続くステップS302で偏光画像生成部21は、画素位置ごとに、偏光方向が直交する二つの偏光画像の受光信号値を加算する。具体的には、第一偏光画像の各画素位置の受光信号値に対し、第二偏光画像におけるそれぞれ同一画素位置の受光信号値を加算する。或いは、第三偏光画像の各画素位置の受光信号値に対し、第四偏光画像におけるそれぞれ同一画素位置の受光信号値を加算する。
これにより、仮想通常画像が得られる。
偏光画像生成部21は、ステップS104又はS105の何れかの処理を行ったことに応じて図9に示す処理を終える。
ここで、本例の撮像装置1では、偏光撮像モード中におけるシャッタボタン1aの操作等の所定操作に応じて仮想偏光画像の記録が行われ、通常撮像モード中における該所定操作に応じて仮想通常画像の記録が行われる。
具体的に、制御部30は、偏光撮像モード中に所定操作を検出したことに応じて、偏光画像生成部21が生成した仮想偏光画像に基づく静止画像データ、又は動画像データを記憶部14に記憶させる。また、通常撮像モード中に所定操作を検出したことに応じ、偏光画像生成部21が生成した仮想通常画像に基づく静止画像データ、又は動画像データを記憶部14に記憶させる。
なお、仮想偏光画像として静止画像を記録する場合には、cosカーブのフィッティング等、仮想偏光画像を生成するための処理は毎フレーム行う必要はなく、シャッタボタン1a等による所定操作が行われたタイミングでのフレームについてのみ行うようにすることもできる。
また、上記では、説明上、本技術における「画素」を構成する受光素子12aの数が一つである場合を例示したが、撮像装置1による撮像画像(仮想偏光画像、仮想通常画像)としては、カラー画像を生成することもでき、その場合、「画素」には、R(赤)、G(緑)、B(青)の受光素子12aを少なくとも一つずつ設ける(例えばRGGB型では4つの受光素子12aを設ける)。すなわち、所定数の受光素子12aを有した「画素」ごとに偏光フィルタ13aを設けることで、「画素」ごとに偏光方向が異なる直線偏光を選択的に受光させる。
カラー画像とする場合は、画素位置ごとにR、G、Bの各受光素子が存在するため、第一偏光画像〜第四偏光画像としてはR、G、Bそれぞれを生成することになる。そして、第一偏光画像〜第四偏光画像の各画素位置について行うcosカーブのフィッティング、及びcosカーブに基づく仮想偏光画像の生成は、R、G、Bのそれぞれについて行う。これにより、画素位置ごとにR、G、Bそれぞれの受光信号値(輝度値)を有した仮想偏光画像を得ることができる。また、仮想通常画像についても、同様にR、G、Bそれぞれの第一偏光画像〜第四偏光画像に基づき、R、G、Bそれぞれについて生成する。
ここで、上記では、仮想フィルタ角度が操作により設定される例としたが、操作によらず仮想フィルタ角度が設定されてもよい。すなわち、実施形態としての回転キャンセル処理は、操作に限らず設定された或る基準となる仮想フィルタ角度と、撮像部11の回転角度(装置回転角度)との差に基づいて、撮像部11の回転角度の変化が仮想偏光画像に及ぼす変化をキャンセルするように行うものであればよい。換言すれば、基準となる仮想フィルタ角度と撮像部11の回転角度との差に基づいて画像の生成を行うものであればよい。
また、上記では、回転キャンセルにあたり、関数Fに基づいた仮想偏光画像の生成を必須とする例を挙げたが、回転キャンセルにあたり関数Fに基づいた仮想偏光画像の生成は必須ではない。
例えば、α+βが0deg、90deg、45deg、135degの何れかに一致する場合にあっては、撮像部11における受光素子12aのうち、α+βと一致する角度の直線偏光を選択的に受光する受光素子12aの受光信号をそのまま用いた画像を回転キャンセルした画像として得ることもできる。
或いは、α+βが0deg、90deg、45deg、135degの何れかに近接している(例えば差が所定値以下)場合にあっては、撮像部11における受光素子12aのうち該近接している角度の直線偏光を選択的に受光する受光素子12aの受光信号をそのまま用いた画像を回転キャンセルした画像として得ることもできる。
このように、回転キャンセルを可能とするにあたっては、撮像部11の姿勢についての検出結果に応じた偏光方向に対応する画像を生成すればよい。
なお、α+βが0deg、90deg、45deg、135degの何れに対しても一致していない、又は近接していないときは、回転キャンセルした画像として、関数Fに基づいた仮想偏光画像を生成すればよい。具体的には、関数Fに基づき、仮想フィルタ角度=α+βとしたときの仮想偏光画像を生成するものである。
[1-5.偏光フィルタ効果の確認]

本実施形態の撮像装置1は、偏光撮像モード中において仮想偏光画像をスルー画として表示部16に表示している際、所定操作に応じて表示画像を仮想偏光画像から仮想通常画像に切り替える機能を有する。すなわち、このように仮想偏光画像から仮想通常画像の表示に切り替えることで、使用者が偏光フィルタ効果を確認し易くするものである。
この場合の表示切替は、例えば図1に示したボタン操作子1b等、所定のボタン操作子の押圧操作に応じて行う。具体的には、押圧操作が開始されたことに応じて表示画像を仮想偏光画像から仮想通常画像に切り替え、押圧操作が継続中は仮想通常画像の表示状態を維持する。そして、押圧操作の終了に応じて表示画像を仮想通常画像から仮想偏光画像に切り替える。
このような仮想偏光画像/仮想通常画像の切り替えは、制御部30における表示制御部31の制御に基づき実現される。
図10のフローチャートにより、具体的な処理を説明する。
図10Aは制御部30(表示制御部31)が実行する処理、図10Bは偏光画像生成部21が実行する処理をそれぞれ示している。なお、図10Bの処理は図9の処理と同様、本例では毎フレーム実行される。
ここで、以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号、同一ステップ番号を付して説明を省略する。
図10Aにおいて、制御部30はステップS401で、表示切替操作としての所定操作(本例では所定ボタンの押圧操作)の有無を確認し、表示切替操作が行われた場合はステップS402で仮想通常画像の生成指示フラグをONとする。該生成指示フラグは、例えば記憶部14等における所定の記憶装置に記憶されるフラグであり、偏光画像生成部21が参照可能なフラグとされる。
ステップS402に続くステップS403で制御部30は、表示切替制御として、表示部16の表示画像を仮想偏光画像から仮想通常画像に切り替えるための制御を行う。後述するようにステップS402で生成指示フラグをONとしたことに応じては、偏光画像生成部21において仮想通常画像が生成されるため、制御部30はこのように生成された仮想通常画像が表示部16に表示されるように表示データ生成部23と表示部16を制御する。
ステップS403に続くステップS404で制御部30は、先のステップS401で確認された所定操作の終了を待機(本例では所定ボタンの押圧操作終了を待機)し、所定操作が終了した場合はステップS405で上記の生成指示フラグをOFFとした上で、ステップS406で表示切替制御を行う。すなわち、ステップS402で生成指示フラグをOFFとしたことに応じては偏光画像生成部21において仮想偏光画像が生成されるため、制御部30はこのように生成された仮想偏光画像が表示部16に表示されるように表示データ生成部23と表示部16を制御する。
続いて、図10Bにおいて、偏光画像生成部21は、ステップS101で偏光撮像モード中と判定したことに応じ、ステップS501で生成指示フラグがONが否かを判定する。生成指示フラグがONであれば、偏光画像生成部21はステップS105に処理を進める。これにより、仮想通常画像の生成が行われる。
一方、生成指示フラグがONでなければ、偏光画像生成部21はステップS102に処理を進める。つまり、表示切替操作がない場合には仮想偏光画像の生成が行われる。
なお、通常撮像モード下において仮想通常画像を表示中に行われた所定操作に応じて、表示画像を仮想通常画像から仮想偏光画像に切り替えるようにすることもできる。またこの場合も、所定操作の継続中は仮想偏光画像の表示状態が維持されるようにすることができる。
上記のように所定操作に基づき、表示部16の表示状態を仮想偏光画像と仮想通常画像の何れか一方が表示された状態から仮想偏光画像と仮想通常画像の何れか他方が表示された状態に切り替えることで、使用者が偏光フィルタ効果の有無を把握し易くなるようにすることができる。
また、上記では、所定操作が継続中の間、仮想偏光画像と仮想通常画像の何れか他方の表示状態を維持させ、所定操作の終了に応じて仮想偏光画像と仮想通常画像の何れか一方の表示状態に切り替えるようにしている。
これにより、使用者は、仮想偏光画像と仮想通常画像の何れか他方を表示させた後に何れか一方の表示状態に戻したいとしたときは、所定操作を終了すればよい。
従って、表示切替に係る操作負担の軽減を図ることができる。
[1-6.モニタ表示の工夫]

仮想偏光画像を表示部16にスルー画としてモニタ表示するにあたっては、図11に示すように、現在指示中の仮想フィルタ角度(α)による仮想偏光画像(以下「指示角画像Gr」と表記)と共に、現在指示中の仮想フィルタ角度よりも大きな仮想フィルタ角としたときの仮想偏光画像(以下「増角画像Ga」と表記)と、現在指示中の仮想フィルタ角度よりも小さな仮想フィルタ角としたときの仮想偏光画像(以下「増角画像Gd」と表記)とを表示部16に表示することもできる。
本例では、増角画像Gaとしては現在指示中の仮想フィルタ角度に45degを加算した仮想フィルタ角度(α+45)による仮想偏光画像を表示し、減角画像Gdとしては現在指示中の仮想フィルタ角度から45degを減算した仮想フィルタ角度(α−45)による仮想偏光画像を表示する。
また、本例は、増角画像Gaに対応した表示位置、減角画像Gdに対応した表示位置に、それぞれ仮想フィルタ角度を大きくするための回転操作子2bの回転方向情報(図中「M1」と表記)、仮想フィルタ角度を小さくするための回転操作子2bの回転方向情報(図中「M2」と表記)を表示する。
上記のような増角画像Ga、減角画像Gd、回転方向情報の表示のために偏光画像生成部21が行う処理を図12のフローチャートにより説明する。
先の図9に示した処理との差異点は、ステップS104の処理に代えてステップS106の処理を行う点である。すなわち、仮想フィルタ角度をそれぞれ「α+β」「α+β+45」「α+β−45」とした場合の仮想偏光画像を生成する処理である。
ステップS106の処理としては、図中に示すように、先に説明したステップS201〜S203の処理に加えて、ステップS204、S205で、それぞれ画素位置ごとにcosカーブに「α+β+45」、「α+β−45」を代入して輝度値を算出する処理を行う。これにより、偏光画像生成部21において指定角画像Gr、増角画像Ga、減角画像Gdとしての仮想偏光画像がそれぞれ生成される。
図示は省略するが、この場合の表示制御部31は、上記のように生成された指定角画像Gr、増角画像Ga及び減角画像Gdと、増角画像Ga、減角画像Gdそれぞれに対応する回転方向情報とが表示部16に表示されるように表示データ生成部23及び表示部16を制御する。このとき、表示制御部31は、増角画像Gaに対応する表示位置、減角画像Gdに対応する表示位置にそれぞれ対応する回転方向情報が表示されるようにするための表示データを表示データ生成部23に生成させる。
上記のように指示角画像Grと共に増角画像Gaと増角画像Gdを表示することで、仮想フィルタ角度を現在の指示角度から増角した場合、減角した場合にそれぞれ偏光フィルタ効果がどのように変化するかを使用者に確認させることが可能とされ、偏光フィルタ効果の調整が容易となるように使用者を支援することができる。
また、増角画像Gaに対応する表示位置、減角画像Gdに対応する表示位置にそれぞれ対応する回転方向情報を表示していることで、所望の偏光フィルタ効果を得るにあたり回転操作子2bをどちらの方向に回転させればよいかを使用者に直感的に理解させることが可能とされる。
従って、偏光フィルタ効果の調整がより容易となるように使用者を支援することができる。
なお、所望の偏光フィルタ効果を得るにあたり回転操作子2bをどちらの方向に回転させればよいかを使用者に理解させるためには、例えば、表示部16における回転操作子2bの増角回転方向側に増角画像Gaを、減角回転方向側に減角画像Gdを表示させることもできる。
これにより、回転方向情報を表示する必要がなくなり、表示部16における表示スペースの有効利用化を図ることができる。
また、上記では、増角画像Gaと減角画像Gdを同時に表示する例を挙げたが、これらの少なくとも一方を表示することもできる。増角画像Gaと減角画像Gdの何れか一方を表示する場合、回転方向情報としても何れか一方に対応する情報を表示すればよい。
また、増角画像Ga、減角画像Gdの表示は所定条件の成立に応じて開始するものとしてもよい。例えば、回転操作子2b等、仮想フィルタ角度の指示操作子に使用者が触れたことを検知できるようにしておき、該指示操作子に使用者が触れたことが検知されたことに応じ増角画像Ga、減角画像Gdの表示が開始されるようにする等が考えられる。
[1-7.タッチモード]

本実施形態の撮像装置1には、タッチ操作で指定された被写体の光反射態様が所定条件を満たす態様に調整された仮想偏光画像を生成可能とするタッチモードが設けられている。
具体的に、本例のタッチモードは、タッチ操作で指定された被写体の反射が除去される(例えばガラス等の透明物の反射が除去される)ように調整された仮想偏光画像の生成を可能とするモードとされる。
例えば、図13Aに示すように、表示部16にスルー画としての仮想偏光画像が表示されているときに、タッチパネル操作により所要の被写体(図中「T」)がタッチされたとする。
タッチモード中において、図2に示した受付部32は、このようなタッチ操作による被写体の指定を受け付ける。そして、受付部32は、指定された被写体の仮想偏光画像内での座標情報を得、偏光画像生成部21に指示する。
偏光画像生成部21は、上記の座標情報が指示されたことに応じ、指定された被写体の反射が除去されるように調整された仮想偏光画像を生成する。
表示制御部30は、このように生成された仮想偏光画像が表示部16に表示されるように制御する。
図13Bでは、指定された被写体の反射が除去された仮想偏光画像(図の例では透明物の反射が除去された仮想偏光画像としている)の表示状態を例示している。
ここで、指定された被写体の反射を除去するために設定されるべき仮想フィルタ角度は、該指定された被写体が映し出される画素位置についてcosカーブのフィッティングを行い、該cosカーブに基づき求めることができる。具体的には、該cosカーブにおいて受光信号値が略最小(図7における「Imin」を参照)となるときの仮想フィルタ角度が、指定された被写体の反射を除去するために設定されるべき仮想フィルタ角度(以下「仮想フィルタ角度α’」と表示)に相当する。
従って、偏光画像生成部21は、上記のようにタッチ操作が行われて受付部32より座標情報が指示されたことに応じて、該座標情報が示す画素位置についてcosカーブのフィッティングを行い、該フィッティングしたcosカーブにおける受光信号値が略最小となる仮想フィルタ角度を仮想フィルタ角度α’として求める。
そして、以降は、仮想フィルタ角度α’を目標角度として仮想偏光画像の生成を行う。
図14乃至図16のフローチャートを参照して、上記のようなタッチモード時の動作を実現するための処理について説明する。
図14は、上記した受付部32に相当する処理のフローチャートである。
図14において、制御部30はステップS601で、タッチモード中か否かを判定し、タッチモード中でなければこの図に示す処理を終え、タッチモード中であればステップS602でタッチ操作を待機する。
タッチ操作が行われた場合、制御部30はステップS603でタッチ位置の座標を偏光画像生成部21に指示し、この図に示す処理を終える。
図15は、偏光画像生成部21が行う仮想フィルタ角度α’(目標角度)の計算に係る処理のフローチャートである。
図15において、偏光画像生成部21はステップS701で、座標指示、すなわち上記したステップS603による座標の指示を待機し、座標が指示された場合にはステップS201で各角度の偏光画像生成処理を行った上で、ステップS702に処理を進める。
ステップS702で偏光画像生成部21は、各偏光画像(ステップS201で生成される第一偏光画像〜第四偏光画像)における指定座標が示す画素位置の受光信号値を取得する。
そして、続くステップS703で偏光画像生成部21は、取得した受光信号値に基づきcosカーブをフィッティングし、さらに、続くステップS704でcosカーブに基づき受光信号値が略最小となる仮想フィルタ角度、すなわち仮想フィルタ角度α’を求める。
偏光画像生成部21は、ステップS704で求めた仮想フィルタ角度α’をステップS705で記憶し、この図に示す処理を終える。
図16は、仮想フィルタ角度α’を用いた仮想偏光画像の生成に係る処理のフローチャートである。
図16の処理は図9の処理と比較して、ステップS801〜S804が追加された点が異なる。
偏光画像生成部21は、ステップS101で偏光撮像モード中と判定したことに応じ、ステップS801に処理を進めて仮想フィルタ角度α’が記憶されているかを判定する。すなわち、タッチ操作で指定された被写体の反射を除去するための仮想フィルタ角度が既に求まった状態にあるか否かを判定する。
ステップS801において、仮想フィルタ角度α’が記憶されていなければ、偏光画像生成部21はステップS102に処理を進める。すなわち、偏光撮像モード中であってタッチモード中でない場合、或いはタッチモード中であっても未だタッチ操作が行われてない場合には、「α」と「β」を用いた(つまり回転操作子2bの回転角度αに従った)仮想偏光画像の生成が行われる。
一方、仮想フィルタ角度α’が記憶されていれば、偏光画像生成部21はステップS802に進んで仮想フィルタ角度α’、及び回転角度βを取得し、続くステップS803で「α’+β」を計算する、すなわち「α’」を「β」で補正した補正角度を計算し、ステップS804に進む。
ステップS804で偏光画像生成部21は、仮想フィルタ角度を「α’+β」とした場合の仮想偏光画像を生成し、この図に示す処理を終える。このステップS804の生成処理は、ステップS104の生成処理と比較して、仮想偏光画像の生成に用いる(つまりcosカーブに代入する)仮想フィルタ角度が「α+β」から「α’+β」に変更されるのみであるため処理の重複説明は避ける。
なお、上記では、仮想フィルタ角度α’(目標角度)としてcosカーブにおける受光信号値を略最小とする仮想フィルタ角度を求めることで、指定された被写体の反射を除去した仮想偏光画像を生成する例を挙げたが、例えば目標角度としてcosカーブにおける受光信号値を略最大とする仮想フィルタ角度を求めることで、指定された被写体の反射を最も強調した仮想偏光画像を生成することもできる。或いは、目標角度は、cosカーブにおける受光信号値を最大値と最小値の中間値とする仮想フィルタ角度として求めることも可能である。
このように目標角度は、指定された被写体に対応する画素位置についてフィッティングしたcosカーブにおいて、受光信号値を所定条件が満足される値とする仮想フィルタ角度として求めればよい。
また、上記では、被写体の指定操作がタッチ操作で行われる例を挙げたが、例えば表示部16に表示したカーソルを用いた指定操作とする等、被写体の指定操作はタッチ操作に限定されない。
上記のように本例の偏光画像生成部21は、指定された被写体の光を受光する画素位置における受光信号値に基づいたcosカーブを取得し、該cosカーブに基づき、前記画素位置の受光信号値を所定条件が満足される値とする仮想フィルタ角度を目標角度(α’)として計算し、目標角度を装置回転角度(β)により補正して補正角度(α’+β)を得、仮想フィルタ角度を補正角度としたときの仮想偏光画像を生成している。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の光反射態様が所定条件を満たす態様に調整された仮想偏光画像を得ることができる。
従って、所定の偏光フィルタ効果を得るにあたっての使用者の操作負担軽減が図られる。
また、本例の偏光画像生成部21は、目標角度として、前記画素位置の受光信号値を略最小とする仮想フィルタ角度を計算している。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の反射が除去されるように調整された仮想偏光画像を得ることができる。
従って、所定の被写体が反射除去される偏光フィルタ効果を得るにあたっての使用者の操作負担軽減が図られる。
[1-8.期待値表示モード]

撮像装置1においては、偏光フィルタ効果の期待値を表す期待値情報を表示部16に表示する期待値表示モードが設けられている。
具体的に、期待値表示モードでは、画素位置ごとに、仮想フィルタ角度を変化させたときの受光信号値の変化度合いを表す値がフィルタ効果期待値として求められ、該フィルタ効果期待値の大きさを表す期待値情報が画素位置ごとに表された期待値画像が表示部16に表示される。
本例では、期待値表示モードは、偏光撮像モード中にON可能なモードであることを前提としている。
図17は、表示部16における期待値画像の表示例を示している。
図中では、期待値画像における期待値情報をドットによって模式的に表している。
本例では、期待値画像は、仮想通常画像に対して重畳表示する。具体的に、本例では、期待値表示モード中は、仮想通常画像としてモノクロ画像(グレースケール画像)を表示し、期待値画像はモノクロ以外の特定色(例えば赤色や青色)による画像を表示する。このとき、期待値画像における期待値情報の表示は、フィルタ効果期待値が大きいほど輝度値が大きくなる態様で行う。すなわち、本例における期待値画像は、フィルタ効果期待値が大きい画素位置ほど輝度値が大きくなる画像として生成される。
このような期待値画像の表示により、使用者は、画像内のどの位置で高いフィルタ効果が期待できるかを事前に把握することが可能となる。
ここで、本例では、フィルタ効果期待値は、期待値情報の表示対象とする画素位置ごとにcosカーブをフィッティングし、該cosカーブに基づき計算する。具体的には、cosカーブに基づき、次の[式4]により表される偏光度ρをフィルタ効果期待値として計算する。


Figure 2019012857
図18に示すように、偏光度ρは、cosカーブの振幅が仮想フィルタ角度の変化に対して一定のとき、すなわち仮想フィルタ角度を変化させても偏光フィルタ効果が全く変化しないときに「0」となる。そして、cosカーブの振幅の最大値Imaxと最小値Iminとの差が大きくなるに従って値が大きくなり、最大値Imaxと最小値Iminとの差が最大のときにρ=1となる。すなわち、偏光度ρは「1」を最大値として、仮想フィルタ角度の変化に対する偏光フィルタ効果の変化度合いが大きい場合ほど値が大きくなる。
なお、フィルタ効果期待値としては、偏光度ρに限定されず、仮想フィルタ角度を変化させたときの受光信号値の変化度合いを表す値としてcosカーブに基づき計算されるものであればよい。
上記のような期待値画像の表示のために偏光画像生成部21が行うべき処理を図19のフローチャートにより説明する。
図19において、この場合の偏光画像生成部21は、ステップS101で偏光撮像モード中であると判定したことに応じ、ステップS901で期待値表示モード中か否かを判定する。期待値表示モード中でなければ、偏光画像生成部21はステップS102に処理を進める。すなわち、偏光撮像モード中であって期待値表示モード中でない場合には、「α」と「β」を用いた仮想偏光画像の生成が行われる。この仮想偏光画像は、表示制御部31の制御に基づきスルー画として表示部16に表示される。
一方、期待値表示モード中であれば、偏光画像生成部21はステップS105で仮想通常画像を生成し、続くステップS202で画素位置ごとにcosカーブをフィッティングする。なお、前述の通り、ステップS105の生成処理では各角度の偏光画像の生成が行われ(図9のステップS301参照)、ステップS202ではこれら各角度の偏光画像に基づいて画素位置ごとにcosカーブをフィッティングする。
ステップS202に続くステップS902で偏光画像生成部21は、画素位置ごとに、cosカーブに基づき偏光度ρを計算する。すなわち、ステップS202で画素位置ごとに求まったcosカーブに基づき、画素位置ごとに上記した[式4]により偏光度ρを計算する。
図示は省略するが、この場合の表示制御部31は、上記のように求まった画素位置ごとの偏光度ρに基づいた期待値画像を表示データ生成部23に生成させる。つまり本例では、偏光度ρの値が大きいほど特定色の輝度値が大きくなる態様による期待値画像を生成させる。
そして、表示制御部31は、偏光画像生成部21が期待値表示モード中に生成した仮想通常画像と期待値画像との重畳画像を表示データ生成部23に生成させ、該重畳画像が表示部16に表示されるように表示データ生成部23と表示部16を制御する。
なお、偏光画像生成部21が生成する仮想通常画像がカラー画像である場合、表示制御部31は該仮想通常画像を表示データ生成部23によりモノクロ化させ、モノクロ化後の仮想通常画像と期待値画像との重畳画像を表示データ生成部23に生成させる。
なお、上記では、期待値情報の生成を撮像部11の全ての画素位置について行う例を挙げたが、期待値情報の生成は所定の一部の画素位置のみについて行うこともできる。
その場合、cosカーブのフィッティングやフィルタ効果期待値の計算は少なくともそれら所定の画素位置についてのみ行えばよい。
また、上記では、期待値画像を仮想通常画像に重畳表示する例を挙げたが、期待値画像を仮想偏光画像に重畳表示することもできる。つまり、期待値画像の重畳対象画像は、撮像部11の受光信号に基づき生成された撮像画像とされればよい。
上記のように本例の偏光画像生成部21は、撮像部11における所定の画素位置ごとに、cosカーブに基づいてフィルタ効果期待値を計算し、表示制御部31は、フィルタ効果期待値の大きさを表す期待値情報が前記所定の画素位置ごとに表された期待値画像を表示部16に表示させている。
これにより使用者は、画像内のどの位置で高いフィルタ効果を期待できるかを事前に把握することが可能とされる。
従って、所望の偏光フィルタ効果が容易に得られるように使用者を支援することができる。
また、本例において、表示制御部31は、期待値画像を撮像部11による撮像画像に重畳表示させている。
これにより使用者は、高いフィルタ効果が期待できる位置を被写体との位置関係から具体的に把握することが可能とされる。
従って、所望の偏光フィルタ効果が容易に得られるようにするための支援効果をより高めることができる。
また、本例における表示制御部31は、撮像画像としてモノクロ画像を、期待値画像としてモノクロ以外の特定色による画像を表示させている。
これにより、撮像画像と期待値画像の重畳表示によって互いの画像の視認性が低下することの抑制が図られる。
従って、高いフィルタ効果を期待できる位置を使用者により容易に把握させることができる。
<2.変形例>
[2-1.第一変形例]

続いて、実施形態の変形例について説明する。
従来、FA(Factory Automation)などの分野では、検査等の目的でワーク(被写体)を撮像装置により撮像することが行われている。この際、ワークが大きく撮像装置の画角に収まらない場合には、ロボットアームに取り付けた撮像装置を移動してワーク全体をスキャンすることが考えられる。
また、従来では、ワークの反射光を抑えるために、ワークに対し直線偏光による照明光を照射し、該照明光に直交する向きの偏光軸を有する偏光フィルタを装着した撮像装置によりワークを撮像することが行われている。
図20は、上記のような従来技術に基づき構成することのできる撮像システム100の概要を例示している。
図のように撮像システム100においては、レンズに取り付けられた偏光フィルタ101aを介して撮像を行う撮像装置101と、撮像装置101が装着されたロボットアーム102と、ワークWに対して直線偏光による照明光を照射する発光部103及び偏光フィルタ104とを備えている。
図の例のようにワークWが比較的大きいため、ワークWの全容を撮像するためにロボットアーム102によって撮像装置101を変位させる。このとき、ロボットアーム102によりワークW全体をスキャンするように撮像装置101を変位させると、撮像装置101の偏光フィルタ101aが回転してしまい、偏光フィルタ101aの偏光軸が照明光の偏光方向に直交する状態を維持できなくなる。すなわち、反射光を抑えた撮像画像を得ることができない。このため、ロボットアーム102は、撮像装置101を回転自在に支持すると共に、自身の動きによる角度変化を相殺するように撮像装置101を回転駆動する。
しかしながら、撮像装置101を回転駆動させるためには、回転用の機構やモータ等の駆動部を設ける必要があり、部品点数の増加を招く。また、撮像装置101を回転させる場合には、信号ケーブルのねじれや断線等を防ぐためにロボットアーム102の動作に制限を加えなければならない虞もある。
そこで、上記のような撮像システム100における撮像装置101に対し、上述した実施形態としての回転キャンセル手法を適用することが好適である。
図21は、撮像装置101に代えて用いることが好適な撮像装置1Aの内部構成例を示したブロック図である。
図21の例では、撮像装置1Aが光学系2と光学駆動部4を備えるものとしている。また、制御部30が表示制御部31及び受付部32としての機能を有していない例としている。さらに、撮像装置1Aにおいては、使用者が仮想フィルタ角度を指示入力するための回転操作子2bは設けられていない。
撮像装置1Aにおけるデジタル信号処理部20は、偏光画像生成部21に代えて偏光画像生成部21Aを有する。
図22は、偏光画像生成部21Aが行う仮想偏光画像生成のための処理を示したフローチャートである。
図22Aは、仮想偏光画像の生成に用いる目標角度としての仮想フィルタ角度の計算に係る処理を示している。
前提として、ここでは、目標角度としての偏光フィルタ角度の計算は、ワークWの撮像を開始する前の初期設定処理として行われる例とする。なお、図22Aの処理が開始されるにあたっては、偏光照明(発光部102)がONされているとする。
先ず、ステップS1001で偏光画像生成部21Aは、初期設定指示として、例えば使用者による所定操作が行われるまで待機し、初期設定指示があった場合にはステップS201で各角度の偏光画像生成処理を行い、続くステップS1002で各偏光画像における所定画素位置の受光信号値を取得する。ここでは、所定画素位置は予め定められた一つの画素位置であるとするが、複数の画素位置であってもよい。
そして、偏光画像生成部21Aは続くステップS1003で、取得した受光信号値に基づきcosカーブをフィッティングした上で、ステップS1004でcosカーブに基づき偏光照明の偏光方向にクロスニコルとなる(つまり直交する)仮想フィルタ角度α’’を求める。具体的には、cosカーブにおいて受光信号値を最小値とする仮想フィルタ角度を仮想フィルタ角度α’’として求める。さらに、続くステップS1005で偏光画像生成部21Aは、仮想フィルタ角度α’’を記憶し、図22Aの処理を終える。
図22Bは、ワークWの撮像時に対応して実行されるべき処理を示したフローチャートである。
ステップS1101で偏光画像生成部21Aは、α’’及びβの取得処理、すなわちステップS1005で記憶した仮想フィルタ角度α’’と角度検出部17により検出された回転角度βとを取得する処理を行い、続くステップS1102で「α’’+β」を計算する。そして、ステップS1103で仮想フィルタ角度を「α’’+β」とした場合の仮想偏光画像を生成し、図22Bの処理を終える。
ステップS1103の生成処理は先のステップS104の生成処理と比較して仮想偏光画像の生成に用いる仮想フィルタ角度が「α+β」から「α’’+β」に変更されるのみであるため重複説明は避ける。
上記のような撮像装置1Aを従来の撮像装置101として適用することで、ワークWをスキャン撮像する際に撮像装置1Aを偏光照明の偏光方向に合わせて回転させる必要がなくなり、ロボットアーム102の部品点数削減、コスト削減、及び構成簡易化によるメインテナンス性向上を図ることができる。
[2-2.第二変形例]

図23は、変形例としての撮像部11Aの構造についての説明図であり、図23Aは撮像部11Aが備える画素対50の概略縦断面図、図23Bは撮像部11Aにおける画素対50の配列を正面視した図である。
変形例としての撮像部11Aは、画素対50として2種の画素対50(以下「画素対50−1」「画素対50−2」と表記する)を有する。画素対50−1は、偏光スプリッタ51−1と、画素52及び画素53とを有し、画素対50−2は偏光スプリッタ51−2と画素52及び画素53とを有している。
偏光スプリッタ51−1、51−2は、本例ではそれぞれ二つの直角プリズムを張り合わせたタイプのものが用いられ、これら直角プリズムが貼り合わされた部分に分離面51aが形成されている。偏光スプリッタ51−1、51−2においては、入射光に含まれる直線偏光のうち、偏光方向が分離面51aの偏光軸に略一致する直線偏光が分離面51aを透過し、偏光方向が上記偏光軸に略直交する直線偏光が分離面51aにおいて反射する。
画素52、53は、それぞれ所定数の受光素子12aを有している。ここでは説明上、画素52、53はそれぞれ一つの受光素子12aを有しているとする。なお、カラー画像の撮像に対応する場合には、画素52、53は、それぞれR、G、Bに対応した3以上の受光素子12aを有するようにする。
画素対50−1における画素52は、自身が有する受光素子12aの受光面が、偏光スプリッタ51−1における分離面51aの反射光の光軸に略直交しており、該反射光を該受光素子12aにより受光する。また、画素対50−1における画素53は、自身が有する受光素子12aの受光面が偏光スプリッタ51−1における分離面51aの透過光の光軸に略直交しており、該透過光を該受光素子12aにより受光する。
このような画素対50−1における画素52と画素53は、偏光方向が90deg異なる直線偏光をそれぞれが選択的に受光する。
また、画素対50−2における画素52は、自身が有する受光素子12aの受光面が偏光スプリッタ51−2における分離面51aの反射光の光軸に略直交しており、該反射光を該受光素子12aにより受光する。さらに、画素対50−2における画素53は、自身が有する受光素子12aの受光面が偏光スプリッタ51−2における分離面51aの透過光の光軸に略直交しており、該透過光を該受光素子12aにより受光する。
このような画素対50−2における画素52と画素53としても、偏光方向が90deg異なる直線偏光をそれぞれが選択的に受光することになる。
撮像部11Aにおいては、画素対50−1と画素対50−2が二次元に交互に配列されている。そして、隣接関係にある画素対50−1と画素対50−2においては、偏光スプリッタ51−1における分離面51aの偏光軸の面内角度と、偏光スプリッタ51−2における分離面51aの偏光軸の面内角度とが異なっている。具体的に、本例ではこれらの偏光軸の面内角度は45deg異なっている。
これにより、画素対50−1における画素52、53、画素対50−2における画素52、53は、偏光方向が45degずつ異なる直線偏光を選択的に受光することなる。
図23Bに示すように、本例では、隣接関係にある画素対50−1と画素対50−2が一つの画素ユニットU’を構成している。撮像部11Aにおいては、このような画素ユニットUが縦方向及び横方向に複数配列されている。
なお、図23Bでは、各画素対50で選択的に受光される直線偏光の偏光方向を、先の図3Bで偏光フィルタ13aの偏光軸の向きとして表した両矢印と同様の要領で表している。
図24は、撮像部11Aを用いた場合における第一偏光画像〜第四偏光画像、及び仮想通常画像の生成手法についての説明図を先の図5と同様の要領で示している。
撮像部11Aにおいては、各画素対50、すなわち各画素位置において偏光方向が直交する二つの直線偏光を受光することができる。このため、撮像部11を用いた場合(図5参照)と比較して、第一偏光画像〜第四偏光画像の解像度を高めることができる(図5B及び図5Cと図24B及び図24Cを参照)。なお、縦2×横2=4つの画素対50が一つの画素位置であるとみなして第一偏光画像〜第四偏光画像を画素補間せずに生成する場合は、解像を高めることができる。
また、本例では、画素対50−1と画素対50−2を縦方向及び横方向に交互に配列しているため、縦横の解像度を等しくすることができる。さらには、第一偏光画像〜第四偏光画像の生成のための補間処理は、それぞれ同様の手法で行うことができる。例えば、画素対50−1と画素対50−2を線順次に配置した場合等では、縦方向と横方向とで補間処理の手法が異なり、また補間しない場合には得られる画像の解像度は縦方向と横方向で異なってしまうが、本例では、そのような問題が解消される。
なお、この場合も仮想通常画像は、画素位置ごとに偏光方向が直交する二つの直線偏光(0degと90degの組、又は45degと135degの組)の受光信号値を加算することで生成される。
この場合も、第一偏光画像〜第四偏光画像が得られた以降におけるcosカーブのフィッティングやcosカーブに基づく仮想偏光画像の生成処理については、これまでで説明したものと同様となることから重複説明は避ける。
上記した変形例としての撮像部11Aにおいては、一つの画素対50(一つの画素位置)につき、偏光方向が直交関係にある2種の直線偏光を選択的に受光可能とされ、また、隣接関係にある二つの画素対50においては、偏光方向がそれぞれ異なる4種の直線偏光を選択的に受光可能とされる。
従って、仮想偏光画像の解像度向上を図ることができる。また、一つの画素対50に対する入射光を複数の受光素子12aで受光するため、画素位置ごとの受光感度の向上を図ることができる。
<3.応用例>

本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
図25は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図25を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
手術室には、様々な装置が設置され得る。図25では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A〜5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A〜5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A〜5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
視聴覚コントローラ5107は、出力先の装置である表示装置5103A〜5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
また、図25では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
図26は、集中操作パネル5111における操作画面の表示例を示す図である。図26では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図26を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
図27は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図25に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図27では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a〜5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a〜5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
(支持アーム装置)
支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
(内視鏡)
内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
(カートに搭載される各種の装置)
CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図25に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
(支持アーム装置)
支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図27では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a〜5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a〜5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
関節部5147a〜5147cにはアクチュエータが設けられており、関節部5147a〜5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a〜5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a〜5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a〜5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
(光源装置)
光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
(カメラヘッド及びCCU)
図28を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図28は、図27に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
図28を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
本開示に係る技術は、以上説明した構成のうち、術部の画像生成に好適に適用され得る。具体的には、例えば、カメラヘッド5119の撮像部5123として実施形態の撮像部11又は11Aを適用し、カメラヘッド5119に角度検出部17を設けると共に、CCU5153における画像処理部5175にて実施形態の偏光画像生成部21又は21Aの処理を行うことが考えられる。なおこの場合、画像処理部5175は、カメラヘッド5119に設けることもできる。また、画像処理部21Aとしての処理を行う場合には、光源装置5157が特定の偏光方向による直線偏光を選択的に照射する構成とする。
このように、術部の画像生成について本開示に係る技術を適用することにより、術部を撮像した画像について、撮像部の姿勢変化に伴い偏光フィルタ効果が変化してしまうことの防止を図ることができる。また、光源装置5157を偏光照明とする場合には、カメラヘッド5119を偏光照明の偏光方向に応じて回転させる必要がなくなり、信号ケーブルのねじれや断線等を防ぐためにアーム部5145の動作に制限を加える必要を無くすことができる。
<4.実施形態のまとめ>

上記のように実施形態の撮像装置(1又は1A)は、第一の偏光方向の光を受光可能な第一の画素と、第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部(11又は11A)と、撮像部の姿勢を検出する検出部(角度検出部17)と、第一及び第二の画素の信号に基づいて、検出部の検出結果に応じた偏光方向に対応する画像を生成する画像生成部(21又は21A)と、を備えている。
これにより、特定の偏光方向に対応した画像、すなわち偏光フィルタ効果を与えたことに相当する画像として、撮像部の姿勢変化に応じた偏光方向に対応する画像を生成することが可能とされる。
従って、撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図ることができる。
また、上記した実施形態の撮像装置においては、画像生成部は、回転自在な偏光フィルタを介した光を受光して撮像画像を得ると仮定した場合における偏光フィルタの回転角度に相当する仮想フィルタ角度を設定し、検出部の検出結果に基づいて補正された仮想フィルタ角度に基づき、画像を生成している。
これにより、撮像部の姿勢変化をキャンセルするように補正された仮想フィルタ角度による画像を得ることが可能とされる。
従って、撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図ることができる。
また、上記した実施形態の撮像装置においては、撮像部は、それぞれが所定数の受光素子を有した複数の画素と、画素ごとに偏光方向が異なる直線偏光を選択的に受光させる偏光部(偏光フィルタ13a、又は偏光スプリッタ51−1、51−2)とを有する画素ユニット(U、U’)が複数配列され、画像生成部は、画素ユニットに含まれる複数の画素の受光信号と、仮想フィルタ角度と受光信号値との関係を表す関数情報とに基づき、検出部の検出結果に基づいて補正された仮想フィルタ角度に相当する偏光方向に対応する画像を生成している。
これにより、撮像部の姿勢が変化しても偏光フィルタ効果は不変となる。
すなわち、撮像装置の姿勢変化に伴って偏光フィルタ効果が変化してしまうことの防止を図ることができる。
また、実施形態の撮像装置(1)においては、仮想フィルタ角度を操作入力可能とされている。
これにより、使用者の操作による偏光フィルタ効果の調整を可能とし、撮像の自由度の向上を図ることができる。
さらに、実施形態の撮像装置においては、操作入力が回転操作子による操作入力とされている。
これにより、回転自在な偏光フィルタを回転操作する場合と同様の操作感を使用者に提供することができる。
さらにまた、実施形態の撮像装置においては、画像生成部は、画素ユニットに含まれる複数の画素の受光信号に基づき、仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされると共に、操作に応じて仮想偏光画像と仮想通常画像を生成し分ける。
これにより、偏光フィルタ効果のON/OFFを使用者が操作により指示可能となる。
すなわち、使用者の求めに応じて偏光フィルタ効果のON/OFFを切り替えることができる。
また、実施形態の撮像装置においては、仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を表示部に表示させる表示制御部(31)を備えている。
これにより、偏光フィルタ効果を使用者に確認させることができる。また、仮想フィルタ角度を操作により指定可能とされる場合には、操作に対する偏光フィルタ効果の変化を使用者に確認させることができる。
さらに、実施形態の撮像装置においては、撮像部は、それぞれが所定数の受光素子を有した複数の画素と、画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、画像生成部は、画素ユニットに含まれる複数の画素の受光信号に基づき、仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされ、表示制御部は、表示部において仮想偏光画像と仮想通常画像の何れか一方が表示中に行われた所定操作に基づき、表示部の表示状態を仮想偏光画像と仮想通常画像の何れか一方が表示された状態から仮想偏光画像と仮想通常画像の何れか他方が表示された状態に切り替えている。
これにより、偏光フィルタ効果の有無を使用者に把握させ易くなり、利便性を高めることができる。
さらにまた、実施形態の撮像装置においては、表示制御部は、所定操作が継続中の間、仮想偏光画像と仮想通常画像の何れか他方の表示状態を維持させ、所定操作の終了に応じて仮想偏光画像と仮想通常画像の何れか一方の表示状態に切り替えている。
これにより、使用者は、仮想偏光画像と仮想通常画像の何れか他方を表示させた後に何れか一方の表示状態に戻したいとしたときは、所定操作を終了すればよい。
従って、表示切替に係る操作負担の軽減を図ることができる。
さらに、実施形態の撮像装置においては、仮想フィルタ角度を操作入力可能とされ、画像生成部は、仮想フィルタ角度を操作入力された角度よりも大きな角度としたときの仮想偏光画像である増角画像、又は、仮想フィルタ角度を操作入力された角度よりも小さな角度としたときの仮想偏光画像である減角画像の少なくとも一方を生成し、表示制御部は、増角画像又は減角画像の少なくとも一方を表示部に表示させている。
これにより、仮想フィルタ角度を現在の指示角度から増角した場合、又は減角した場合にそれぞれ偏光フィルタ効果がどのように変化するかを使用者に確認させることが可能とされる。
従って、偏光フィルタ効果の調整が容易となるように使用者を支援することができる。
また、実施形態の撮像装置においては、仮想フィルタ角度の入力操作が回転操作子による入力操作とされ、表示制御部は、増角画像を表示させる場合は、増角画像に対応する表示位置に仮想フィルタ角度を大きくするための回転操作子の回転方向情報を、減角画像を表示させる場合は減角画像に対応する表示位置に仮想フィルタ角度を小さくするための回転操作子の回転方向情報をそれぞれ表示させている。
これにより、所望の偏光フィルタ効果を得るにあたり回転操作子をどちらの方向に回転させればよいかを使用者に直感的に理解させることが可能とされる。
従って、偏光フィルタ効果の調整がより容易となるように使用者を支援することができる。
さらに、実施形態の撮像装置においては、操作による被写体の指定を受け付ける受付部(32)を備え、画像生成部が、画素ユニットに含まれる複数の画素の受光信号と関数情報とに基づき、仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を生成可能とされると共に、画像生成部は、指定された被写体の光を受光する画素位置における受光信号値に基づいた関数情報を取得し、該関数情報に基づき、画素位置の受光信号値を所定条件が満足される値とする仮想フィルタ角度を目標角度として計算し、目標角度を検出部の検出結果に基づき補正して補正角度を得、仮想フィルタ角度を補正角度としたときの仮想偏光画像を生成している。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の光反射態様が所定条件を満たす態様に調整された仮想偏光画像を得ることができる。
従って、所定の偏光フィルタ効果を得るにあたっての使用者の操作負担軽減が図られる。
さらにまた、実施形態の撮像装置においては、画像生成部は、目標角度として、画素位置の受光信号値を略最小とする仮想フィルタ角度を計算している。
これにより使用者は、被写体を指定する操作を行うことで、所望の被写体の反射が除去されるように調整された仮想偏光画像を得ることができる。
従って、所定の被写体が反射除去される偏光フィルタ効果を得るにあたっての使用者の操作負担軽減が図られる。
また、実施形態の撮像装置においては、撮像部による撮像画像を表示部に表示させる表示制御部を備え、受付部は、表示部の表示画面に対するタッチ操作により行われる被写体の指定を受け付けている。
これにより、被写体の指定操作が容易化され、使用者の操作負担軽減を図ることができる。
さらに、実施形態の撮像装置においては、表示部を制御する表示制御部を備え、画像生成部は、撮像部における所定の画素位置ごとに、関数情報に基づいて仮想フィルタ角度の変化に対する受光信号値の変化度合いを表す値をフィルタ効果期待値として計算し、表示制御部は、フィルタ効果期待値の大きさを表す期待値情報が所定の画素位置ごとに表された期待値画像を表示部に表示させている。
これにより使用者は、画像内のどの位置で高いフィルタ効果が期待できるかを事前に把握することが可能とされる。
従って、所望の偏光フィルタ効果が容易に得られるように使用者を支援することができる。
さらにまた、実施形態の撮像装置においては、表示制御部は、期待値画像を撮像部による撮像画像に重畳表示させている。
これにより使用者は、高いフィルタ効果が期待できる位置を被写体との位置関係から具体的に把握することが可能とされる。
従って、所望の偏光フィルタ効果が容易に得られるようにするための支援効果をより高めることができる。
また、実施形態の撮像装置においては、表示制御部は、撮像画像としてモノクロ画像を、期待値画像としてモノクロ以外の特定色による画像を表示させている。
これにより、撮像画像と期待値画像の重畳表示によって互いの画像の視認性が低下することの抑制が図られる。
従って、高いフィルタ効果を期待できる位置を使用者により容易に把握させることができる。
さらに、実施形態の撮像装置においては、画像生成部は、フィルタ効果期待値として偏光度を計算している。
これにより、期待値情報の信頼性を高めることができる。
さらにまた、実施形態の撮像装置においては、撮像部(11A)は、偏光スプリッタ(51−1又は51−2)と、所定数の受光素子を有し該受光素子が偏光スプリッタの分離面を反射した反射光の光軸に略直交する受光面を有して反射光を受光する第一種の画素(52)と、所定数の受光素子を有し該受光素子が分離面を透過した透過光の光軸に略直交する受光面を有して透過光を受光する第二種の画素(53)と、を有した画素対(50−1又は50−2)を複数備え、隣接関係にある画素対において、偏光スプリッタにおける分離面の偏光軸の面内角度が異なっている。
上記の撮像部においては、一つの画素対(一つの画素位置)につき、偏光方向が直交関係にある2種の直線偏光を選択的に受光可能とされ、また、隣接関係にある二つの画素対においては、偏光方向がそれぞれ異なる4種の直線偏光を選択的に受光可能とされる。
従って、仮想偏光画像の解像度向上を図ることができる。また、一つの画素対に対する入射光を複数の受光素子で受光するため、画素位置ごとの受光感度の向上を図ることができる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
<5.その他変形例>

本技術は上記した具体例に限定されるものではなく、多様な変形例が考えられる。
例えば、上記ではレンズ装置2が回転操作子2bを備える、つまり撮像装置の本体に回転操作子が設けられない例を示したが、回転操作子は例えばダイヤル操作子等の形態で撮像装置本体に設けられてもよい。
また、仮想フィルタ角度を指示するための操作子としては、回転操作子に限らず、スライド操作子、ボタン操作子等の他の形態による操作子とされてもよい。
また、本技術に係る撮像装置はレンズ一体型の撮像装置とすることもできる。
<6.本技術>

なお本技術は以下のような構成も採ることができる。
(1)
第一の偏光方向の光を受光可能な第一の画素と、前記第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部と、
前記撮像部の姿勢を検出する検出部と、
前記第一及び第二の画素の信号に基づいて、前記検出部の検出結果に応じた偏光方向に対応する画像を生成する画像生成部と、を備える
撮像装置。
(2)
前記画像生成部は、
回転自在な偏光フィルタを介した光を受光して撮像画像を得ると仮定した場合における前記偏光フィルタの回転角度に相当する仮想フィルタ角度を設定し、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に基づき、前記画像を生成する
前記(1)に記載の撮像装置。
(3)
前記撮像部は、
それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、
前記画像生成部は、
前記画素ユニットに含まれる前記複数の画素の受光信号と、前記仮想フィルタ角度と受光信号値との関係を表す関数情報とに基づき、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に相当する偏光方向に対応する画像を生成する
前記(3)に記載の撮像装置。
(4)
前記仮想フィルタ角度を操作入力可能とされた
前記(2)又は(3)に記載の撮像装置。
(5)
前記操作入力が回転操作子による操作入力とされた
前記(4)に記載の撮像装置。
(6)
前記画像生成部は、
前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされると共に、操作に応じて前記仮想偏光画像と前記仮想通常画像を生成し分ける
前記(3)乃至(5)の何れかに記載の撮像装置。
(7)
前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を表示部に表示させる表示制御部を備える
前記(2)乃至(6)の何れかに記載の撮像装置。
(8)
前記撮像部は、
それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、
前記画像生成部は、
前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされ、
前記表示制御部は、
前記表示部において前記仮想偏光画像と前記仮想通常画像の何れか一方が表示中に行われた所定操作に基づき、前記表示部の表示状態を前記仮想偏光画像と前記仮想通常画像の何れか一方が表示された状態から前記仮想偏光画像と前記仮想通常画像の何れか他方が表示された状態に切り替える
前記(7)に記載の撮像装置。
(9)
前記表示制御部は、
前記所定操作が継続中の間、前記仮想偏光画像と前記仮想通常画像の何れか他方の表示状態を維持させ、前記所定操作の終了に応じて前記仮想偏光画像と前記仮想通常画像の何れか一方の表示状態に切り替える
前記(8)に記載の撮像装置。
(10)
前記仮想フィルタ角度を操作入力可能とされ、
前記画像生成部は、
前記仮想フィルタ角度を前記操作入力された角度よりも大きな角度としたときの前記仮想偏光画像である増角画像、又は、前記仮想フィルタ角度を前記操作入力された角度よりも小さな角度としたときの前記仮想偏光画像である減角画像の少なくとも一方を生成し、
前記表示制御部は、
前記増角画像又は前記減角画像の少なくとも一方を前記表示部に表示させる
前記(7)乃至(9)の何れかに記載の撮像装置。
(11)
前記仮想フィルタ角度の入力操作が回転操作子による入力操作とされ、
前記表示制御部は、
前記増角画像を表示させる場合は、前記増角画像に対応する表示位置に前記仮想フィルタ角度を大きくするための前記回転操作子の回転方向情報を、前記減角画像を表示させる場合は前記減角画像に対応する表示位置に前記仮想フィルタ角度を小さくするための前記回転操作子の回転方向情報をそれぞれ表示させる
前記(10)に記載の撮像装置。
(12)
操作による被写体の指定を受け付ける受付部を備え、
前記画像生成部が、前記画素ユニットに含まれる前記複数の画素の受光信号と前記関数情報とに基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を生成可能とされると共に、
前記画像生成部は、
前記指定された被写体の光を受光する画素位置における受光信号値に基づいた前記関数情報を取得し、該関数情報に基づき、前記画素位置の受光信号値を所定条件が満足される値とする前記仮想フィルタ角度を目標角度として計算し、前記目標角度を前記検出部の検出結果に基づき補正して補正角度を得、前記仮想フィルタ角度を前記補正角度としたときの前記仮想偏光画像を生成する
前記(3)乃至(11)の何れかに記載の撮像装置。
(13)
前記画像生成部は、
前記目標角度として、前記画素位置の受光信号値を略最小とする前記仮想フィルタ角度を計算する
前記(12)に記載の撮像装置。
(14)
前記撮像部による撮像画像を表示部に表示させる表示制御部を備え、
前記受付部は、
前記表示部の表示画面に対するタッチ操作により行われる前記被写体の指定を受け付ける
前記(12)又は(13)に記載の撮像装置。
(15)
表示部を制御する表示制御部を備え、
前記画像生成部は、
前記撮像部における所定の画素位置ごとに、前記関数情報に基づいて前記仮想フィルタ角度の変化に対する前記受光信号値の変化度合いを表す値をフィルタ効果期待値として計算し、
前記表示制御部は、
前記フィルタ効果期待値の大きさを表す期待値情報が前記所定の画素位置ごとに表された期待値画像を前記表示部に表示させる
前記(3)乃至(14)の何れかに記載の撮像装置。
(16)
前記表示制御部は、
前記期待値画像を前記撮像部による撮像画像に重畳表示させる
前記(15)に記載の撮像装置。
(17)
前記表示制御部は、
前記撮像画像としてモノクロ画像を、前記期待値画像としてモノクロ以外の特定色による画像を表示させる
前記(16)に記載の撮像装置。
(18)
前記偏光画像生成部は、
前記フィルタ効果期待値として偏光度を計算する
前記(15)乃至(17)の何れかに記載の撮像装置。
(19)
前記撮像部は、
偏光スプリッタと、所定数の受光素子を有し該受光素子が前記偏光スプリッタの分離面を反射した反射光の光軸に略直交する受光面を有して前記反射光を受光する第一種の画素と、所定数の受光素子を有し該受光素子が前記分離面を透過した透過光の光軸に略直交する受光面を有して前記透過光を受光する第二種の画素と、を有した画素対を複数備え、
隣接関係にある前記画素対において、前記偏光スプリッタにおける前記分離面の偏光軸の面内角度が異なっている
前記(1)乃至(18)の何れかに記載の撮像装置。
1、1A 撮像装置、2b 回転操作子、11、11A 撮像部、12 撮像素子、12a 受光素子、13 光学部材、13a 偏光フィルタ、16 表示部、17 角度検出部、18 操作部、20 デジタル信号処理部、21、21A 偏光画像生成部、23 表示データ生成部、30 制御部、31 表示制御部、32 受付部、50−1、50−2 画素対、51−1、51−2 偏光スプリッタ、51a 分離面、52、53 画素、U、U’ 画素ユニット、P 偏光軸、P’ 仮想偏光軸、Gr 指示角画像、Ga 増角画像、Gd 減角画像

Claims (20)

  1. 第一の偏光方向の光を受光可能な第一の画素と、前記第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部と、
    前記撮像部の姿勢を検出する検出部と、
    前記第一及び第二の画素の信号に基づいて、前記検出部の検出結果に応じた偏光方向に対応する画像を生成する画像生成部と、を備える
    撮像装置。
  2. 前記画像生成部は、
    回転自在な偏光フィルタを介した光を受光して撮像画像を得ると仮定した場合における前記偏光フィルタの回転角度に相当する仮想フィルタ角度を設定し、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に基づき、前記画像を生成する
    請求項1に記載の撮像装置。
  3. 前記撮像部は、
    それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、
    前記画像生成部は、
    前記画素ユニットに含まれる前記複数の画素の受光信号と、前記仮想フィルタ角度と受光信号値との関係を表す関数情報とに基づき、前記検出部の検出結果に基づいて補正された前記仮想フィルタ角度に相当する偏光方向に対応する画像を生成する
    請求項2に記載の撮像装置。
  4. 前記仮想フィルタ角度を操作入力可能とされた
    請求項2に記載の撮像装置。
  5. 前記操作入力が回転操作子による操作入力とされた
    請求項4に記載の撮像装置。
  6. 前記画像生成部は、
    前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされると共に、操作に応じて前記仮想偏光画像と前記仮想通常画像を生成し分ける
    請求項3に記載の撮像装置。
  7. 前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を表示部に表示させる表示制御部を備える
    請求項2に記載の撮像装置。
  8. 前記撮像部は、
    それぞれが所定数の受光素子を有した複数の画素と、前記画素ごとに偏光方向が異なる直線偏光の光を受光させる偏光部とを有する画素ユニットが複数配列され、
    前記画像生成部は、
    前記画素ユニットに含まれる前記複数の画素の受光信号に基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像と、前記偏光部による偏光の分離をキャンセルした画像である仮想通常画像とを生成可能とされ、
    前記表示制御部は、
    前記表示部において前記仮想偏光画像と前記仮想通常画像の何れか一方が表示中に行われた所定操作に基づき、前記表示部の表示状態を前記仮想偏光画像と前記仮想通常画像の何れか一方が表示された状態から前記仮想偏光画像と前記仮想通常画像の何れか他方が表示された状態に切り替える
    請求項7に記載の撮像装置。
  9. 前記表示制御部は、
    前記所定操作が継続中の間、前記仮想偏光画像と前記仮想通常画像の何れか他方の表示状態を維持させ、前記所定操作の終了に応じて前記仮想偏光画像と前記仮想通常画像の何れか一方の表示状態に切り替える
    請求項8に記載の撮像装置。
  10. 前記仮想フィルタ角度を操作入力可能とされ、
    前記画像生成部は、
    前記仮想フィルタ角度を前記操作入力された角度よりも大きな角度としたときの前記仮想偏光画像である増角画像、又は、前記仮想フィルタ角度を前記操作入力された角度よりも小さな角度としたときの前記仮想偏光画像である減角画像の少なくとも一方を生成し、
    前記表示制御部は、
    前記増角画像又は前記減角画像の少なくとも一方を前記表示部に表示させる
    請求項7に記載の撮像装置。
  11. 前記仮想フィルタ角度の入力操作が回転操作子による入力操作とされ、
    前記表示制御部は、
    前記増角画像を表示させる場合は、前記増角画像に対応する表示位置に前記仮想フィルタ角度を大きくするための前記回転操作子の回転方向情報を、前記減角画像を表示させる場合は前記減角画像に対応する表示位置に前記仮想フィルタ角度を小さくするための前記回転操作子の回転方向情報をそれぞれ表示させる
    請求項10に記載の撮像装置。
  12. 操作による被写体の指定を受け付ける受付部を備え、
    前記画像生成部が、前記画素ユニットに含まれる前記複数の画素の受光信号と前記関数情報とに基づき、前記仮想フィルタ角度を任意角度として得られる画像に相当する仮想偏光画像を生成可能とされると共に、
    前記画像生成部は、
    前記指定された被写体の光を受光する画素位置における受光信号値に基づいた前記関数情報を取得し、該関数情報に基づき、前記画素位置の受光信号値を所定条件が満足される値とする前記仮想フィルタ角度を目標角度として計算し、前記目標角度を前記検出部の検出結果に基づき補正して補正角度を得、前記仮想フィルタ角度を前記補正角度としたときの前記仮想偏光画像を生成する
    請求項3に記載の撮像装置。
  13. 前記画像生成部は、
    前記目標角度として、前記画素位置の受光信号値を略最小とする前記仮想フィルタ角度を計算する
    請求項12に記載の撮像装置。
  14. 前記撮像部による撮像画像を表示部に表示させる表示制御部を備え、
    前記受付部は、
    前記表示部の表示画面に対するタッチ操作により行われる前記被写体の指定を受け付ける
    請求項12に記載の撮像装置。
  15. 表示部を制御する表示制御部を備え、
    前記画像生成部は、
    前記撮像部における所定の画素位置ごとに、前記関数情報に基づいて前記仮想フィルタ角度の変化に対する前記受光信号値の変化度合いを表す値をフィルタ効果期待値として計算し、
    前記表示制御部は、
    前記フィルタ効果期待値の大きさを表す期待値情報が前記所定の画素位置ごとに表された期待値画像を前記表示部に表示させる
    請求項3に記載の撮像装置。
  16. 前記表示制御部は、
    前記期待値画像を前記撮像部による撮像画像に重畳表示させる
    請求項15に記載の撮像装置。
  17. 前記表示制御部は、
    前記撮像画像としてモノクロ画像を、前記期待値画像としてモノクロ以外の特定色による画像を表示させる
    請求項16に記載の撮像装置。
  18. 前記画像生成部は、
    前記フィルタ効果期待値として偏光度を計算する
    請求項15に記載の撮像装置。
  19. 前記撮像部は、
    偏光スプリッタと、所定数の受光素子を有し該受光素子が前記偏光スプリッタの分離面を反射した反射光の光軸に略直交する受光面を有して前記反射光を受光する第一種の画素と、所定数の受光素子を有し該受光素子が前記分離面を透過した透過光の光軸に略直交する受光面を有して前記透過光を受光する第二種の画素と、を有した画素対を複数備え、
    隣接関係にある前記画素対において、前記偏光スプリッタにおける前記分離面の偏光軸の面内角度が異なっている
    請求項1に記載の撮像装置。
  20. 第一の偏光方向の光を受光可能な第一の画素と、前記第一の偏光方向と異なる第二の偏光方向の光を受光可能な第二の画素とを含む撮像部を有する撮像装置について、前記撮像部の姿勢を検出する検出ステップと、
    前記第一及び第二の画素の信号に基づいて、前記検出ステップの検出結果に応じた偏光方向に対応する画像を生成する画像生成ステップと、
    を前記撮像装置が実行する
    画像生成方法。
JP2019528984A 2017-07-12 2018-06-04 撮像装置、画像生成方法、プログラム Active JP7211364B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017136395 2017-07-12
JP2017136395 2017-07-12
PCT/JP2018/021421 WO2019012857A1 (ja) 2017-07-12 2018-06-04 撮像装置、画像生成方法

Publications (2)

Publication Number Publication Date
JPWO2019012857A1 true JPWO2019012857A1 (ja) 2020-05-07
JP7211364B2 JP7211364B2 (ja) 2023-01-24

Family

ID=65001220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019528984A Active JP7211364B2 (ja) 2017-07-12 2018-06-04 撮像装置、画像生成方法、プログラム

Country Status (6)

Country Link
US (1) US11531151B2 (ja)
EP (1) EP3654633A4 (ja)
JP (1) JP7211364B2 (ja)
KR (1) KR20200024209A (ja)
CN (1) CN110832842B (ja)
WO (1) WO2019012857A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7325949B2 (ja) * 2018-11-22 2023-08-15 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び電子機器
CN110708453A (zh) * 2019-11-12 2020-01-17 Oppo广东移动通信有限公司 图像传感器、相机模组、终端和成像方法
JP7446804B2 (ja) 2019-12-18 2024-03-11 キヤノン株式会社 撮像装置およびその制御方法、プログラム
JP7446805B2 (ja) * 2019-12-18 2024-03-11 キヤノン株式会社 撮像装置、制御方法およびプログラム
JP7520531B2 (ja) * 2020-03-05 2024-07-23 キヤノン株式会社 撮像装置及びその制御方法
WO2021210300A1 (ja) * 2020-04-15 2021-10-21 ソニーグループ株式会社 情報処理装置と情報処理方法およびプログラム
CN112492199B (zh) * 2020-11-24 2023-04-14 维沃移动通信有限公司 拍照方法、装置及电子设备
CN115358937B (zh) * 2022-07-18 2023-06-20 荣耀终端有限公司 图像去反光方法、介质及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014035536A (ja) * 2012-08-10 2014-02-24 Hoya Corp 撮影装置及び回転光学要素の回転駆動制御方法
JP2015026937A (ja) * 2013-07-25 2015-02-05 ソニー株式会社 撮像装置および撮像方法、並びにプログラム
JP2017063247A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 撮像装置およびフィルタの制御方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4921918B2 (ja) 2006-10-18 2012-04-25 インパック株式会社 花卉陳列棚
CN101558282B (zh) 2007-02-13 2011-12-14 松下电器产业株式会社 图像处理系统、方法、装置、以及图像格式
JP5391914B2 (ja) * 2009-08-06 2014-01-15 ソニー株式会社 撮像装置および映像記録再生システム
CN102116939B (zh) * 2009-12-31 2013-05-08 Tcl集团股份有限公司 一种三维显示方法、led显示装置及三维显示系统
JP2011237646A (ja) * 2010-05-11 2011-11-24 Panasonic Corp 3次元撮像装置
CN102081339B (zh) * 2010-11-22 2013-05-08 中山大学 基于一阶谱分时复用技术的全息三维图像显示方法与系统
JP2012203274A (ja) * 2011-03-28 2012-10-22 Sony Corp 撮像装置および電子機器
JP2013172292A (ja) * 2012-02-21 2013-09-02 Sony Corp 撮像装置及び撮像素子アレイ
JP2015052635A (ja) * 2013-09-05 2015-03-19 ソニー株式会社 光学ユニット、撮像装置
DE102014115310A1 (de) * 2014-10-21 2016-04-21 Infineon Technologies Ag Bilderzeugungsvorrichtungen und ein Laufzeit-Bilderzeugungsverfahren
CN104777624B (zh) * 2015-03-25 2017-07-04 清华大学深圳研究生院 一种偏振成像设备及方法
CN108845384B (zh) 2016-08-29 2021-01-22 苏州大学 全介质像素式全斯托克斯成像偏振器件的制备方法
RU2657377C2 (ru) * 2016-11-11 2018-06-13 Самсунг Электроникс Ко., Лтд. Интеллектуальная насадка на смартфон для определения чистоты, влажности и фотовозраста кожи
CN109923855B (zh) * 2016-11-15 2022-08-19 索尼公司 图像处理装置、图像处理方法和程序
CN107835355A (zh) * 2017-12-18 2018-03-23 上海青橙实业有限公司 移动终端及其摄像模组

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014035536A (ja) * 2012-08-10 2014-02-24 Hoya Corp 撮影装置及び回転光学要素の回転駆動制御方法
JP2015026937A (ja) * 2013-07-25 2015-02-05 ソニー株式会社 撮像装置および撮像方法、並びにプログラム
JP2017063247A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 撮像装置およびフィルタの制御方法

Also Published As

Publication number Publication date
KR20200024209A (ko) 2020-03-06
EP3654633A4 (en) 2020-05-27
WO2019012857A1 (ja) 2019-01-17
CN110832842B (zh) 2021-10-15
EP3654633A1 (en) 2020-05-20
CN110832842A (zh) 2020-02-21
US11531151B2 (en) 2022-12-20
US20200183066A1 (en) 2020-06-11
JP7211364B2 (ja) 2023-01-24

Similar Documents

Publication Publication Date Title
JP7211364B2 (ja) 撮像装置、画像生成方法、プログラム
JP6950707B2 (ja) 情報処理装置および方法、並びにプログラム
JP7095693B2 (ja) 医療用観察システム
US11694725B2 (en) Information processing apparatus and information processing method
US20220148128A1 (en) Image processing apparatus, image processing method, and program
JP7230807B2 (ja) 信号処理装置、撮像装置、信号処理方法及びプログラム
EP3357235B1 (en) Information processing apparatus, multi-camera system and non-transitory computer-readable medium
WO2018235608A1 (ja) 手術システムおよび手術用撮像装置
US20190281233A1 (en) Image processing device, setting method, and program
JP7264051B2 (ja) 画像処理装置および画像処理方法
JP7136093B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP7160042B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
WO2020203265A1 (ja) 映像信号処理装置、映像信号処理方法および撮像装置
US20200059608A1 (en) Image processing device, control method, and program
WO2018088236A1 (ja) 画像処理装置および方法、並びにプログラム
WO2018043205A1 (ja) 医療用画像処理装置、医療用画像処理方法、プログラム
US20220256096A1 (en) Image processing device, image processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220808

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221226

R151 Written notification of patent or utility model registration

Ref document number: 7211364

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151