[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5682196B2 - 画像補正回路、撮影装置および画像補正プログラム - Google Patents

画像補正回路、撮影装置および画像補正プログラム Download PDF

Info

Publication number
JP5682196B2
JP5682196B2 JP2010211696A JP2010211696A JP5682196B2 JP 5682196 B2 JP5682196 B2 JP 5682196B2 JP 2010211696 A JP2010211696 A JP 2010211696A JP 2010211696 A JP2010211696 A JP 2010211696A JP 5682196 B2 JP5682196 B2 JP 5682196B2
Authority
JP
Japan
Prior art keywords
photoelectric conversion
image
exposure
mechanical shutter
conversion elements
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010211696A
Other languages
English (en)
Other versions
JP2012070118A (ja
Inventor
塩原 隆一
隆一 塩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2010211696A priority Critical patent/JP5682196B2/ja
Priority to US13/239,772 priority patent/US8723983B2/en
Priority to EP11182393.6A priority patent/EP2434750B1/en
Priority to CN201110284091.2A priority patent/CN102413284B/zh
Publication of JP2012070118A publication Critical patent/JP2012070118A/ja
Priority to US14/165,968 priority patent/US9154707B2/en
Application granted granted Critical
Publication of JP5682196B2 publication Critical patent/JP5682196B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Shutters For Cameras (AREA)
  • Exposure Control For Cameras (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、露光時間を機械シャッターにより制御して撮影された画像を補正する技術に関する。
従来、複数の光電変換素子における露光を開始させるタイミングを電子シャッターにより制御し、露光を終了させるタイミングを機械シャッターにより制御する撮影装置が提案されている(特許文献1〜3、参照)。このような撮影装置においては、機械シャッターが露光を終了させるタイミングに追従するように、電子シャッターが露光を開始させるタイミングを制御することにより、各光電変換素子についての露光時間の均一化を図っていた。なお、一般に、電子シャッターは、複数の光電変換素子が直線状に配列するライン単位で露光を開始させるタイミングを制御する。
特開平11−41523号公報 特開2006−101492号公報 特開2008−147979号公報
しかしながら、機械シャッターが露光を終了させるタイミングは遮光幕の運動に依存し、非線形特性を有するため、機械シャッターが露光を終了させるタイミングに追従するように、電子シャッターが露光を開始させるタイミングを制御することは困難となる。すなわち、非線形特性を有するタイミングで電子シャッターを動作させなければならず、電子シャッター動作時における電子シャッター制御回路の処理負荷が大きくなるという問題があった。また、光電変換素子が配列する素子面において、ラインに交差するように機械シャッターが遮光領域の境界を形成する場合、ラインに属する光電変換素子間で露光時間のばらつきが生じることとなる。このような場合、電子シャッターがライン単位で露光を開始するタイミングを制御しても、ラインに属する光電変換素子間での露光時間のばらつきに起因した露光量のばらつきを抑制することができないという問題があった。
本発明は、前記課題にかんがみてなされたもので、機械シャッターの動作特性に起因した露光量のばらつきを抑制することを目的とする。
前記目的を達成するため本発明において、画像取得部は、複数の光電変換素子における露光時間を制御する機械シャッターを用いて撮影された画像を取得する。補正部は、機械シャッターの動作特性に基づいて画像を補正する。これにより、撮影後の画像の補正により、機械シャッターの動作特性に起因して生じる露光量のばらつき等を抑制することができる。画像の補正においては、光電変換素子のラインの方向に制約されることなく画像を補正できる。また、補正を画像の撮影後に行うことができ、電子シャッター動作時において電子シャッターの動作タイミングを複雑に制御しなくても済む。
ここで、画像取得部は、露光時間が少なくとも機械シャッターにより制御された画像を取得すればよく、画像補正回路は機械シャッターを備えた撮影装置に備えられていてもよいし、当該撮影装置とは別の装置に備えられていてもよい。後者の場合、補正部は機械シャッターの動作特性に基づく補正を行うにあたり、機械シャッターの動作特性を示す情報を例えば画像の添付情報や撮影装置との通信等によって取得すればよい。さらに、撮影装置は、例えばカメラ付携帯電話やカメラ付パーソナルコンピューターのように画像の撮影する機能のみならず、他の機能も有する装置であってもよい。また、機械シャッターの動作特性を示す情報は、動作特性を直接示してもよいし、撮影装置の機種や機械シャッターの機構等を示すものであってもよい。また、補正部は、機械シャッターの動作特性に基づいて画像の補正規則を生成してもよいし、予め機械シャッターの動作特性に基づいて作成された補正規則を取得してもよい。この補正規則は、例えば画像における画素の位置ごとに補正量を規定したLUT(Look Up Table)であってもよいし、画像における画素の位置を変数として補正量を与える関数であってもよい。
複数の光電変換素子における露光時間のばらつきは、電子先幕−機械後幕シャッター方式によって撮影された画像において顕著に生じ得る。
なお、電子先幕−機械後幕シャッター方式とは、以下のとおりである。まず、電子シャッターにより、複数の光電変換素子に露光を開始させるタイミングを制御する。具体的には、光電変換素子における電荷の蓄積を開始させることにより、露光を開始させる。そして、機械シャッターによる遮光部の移動により、遮光領域の境界を複数の光電変換素子の素子面上において移動させて複数の光電変換素子を遮光していくことにより、複数の光電変換素子に露光を終了させるタイミングを制御する。なお、本明細書において露光とは、光電変換素子に撮影光が到達し、かつ、当該撮影光の光量に応じて光電変換素子が電荷を蓄積する状態を意味する。
このような電子先幕−機械後幕シャッター方式においては、各光電変換素子における露光の開始と終了とが互いに異なる機構により実現される。すなわち、電子シャッターの動作特性と機械シャッターの動作特性とが相違し、当該相違は露光量にばらつきを生じさせる主要な要因となり得る。そのため、電子シャッターの動作特性と機械シャッターの動作特性との相違に基づく補正を行うことにより、効果的に露光量のばらつきを抑制することができる。
露光量にばらつきを生じさせる要因となる動作特性の例として、各光電変換素子に露光の開始と終了とをさせるタイミングの特性が挙げられる。機械シャッターによる露光の終了は遮光部を機械的に運動させることにより実現されるため、機械シャッターによる露光終了のタイミングの特性は遮光部の加速運動特性に依存する。これに対して、電子シャッターによる露光開始のタイミングは遮光部の運動特性に依存しないため、機械シャッターが各光電変換素子に露光を終了させるタイミングの特性と相違する。電子シャッターが各光電変換素子に露光を開始させるタイミングの特性と、機械シャッターが各光電変換素子に露光を終了させるタイミングの特性とが相違する場合、露光の開始から終了までの期間である露光時間が各光電変換素子においてばらつくからである。露光時間が長いほど露光量も増加するため、露光時間がばらつけば露光量もばらつくこととなる。そこで、電子シャッターのタイミングの特性と、機械シャッターのタイミングの特性との相違に基づいて、露光時間が短くなる光電変換素子ほど露光量を大きくする補正を行うことにより、露光量のばらつきを抑制するのが望ましい。
ところで、従来技術のように機械シャッターが露光を終了させるタイミングに追従するように電子シャッターが露光を開始させるタイミングを制御することにより、露光時間の均一化を図ることができる。ところが、機械シャッターの遮光部が光電変換素子の素子面上に形成する遮光領域の境界が、電荷の蓄積を開始させるための配線が共通する複数の光電変換素子が直線状に配列するラインに交差する場合には、従来技術の手法では露光時間を均一化することができない。ラインに遮光領域の境界が交差する場合、単一のラインに属する光電変換素子間で露光時間にばらつきが生じ、ライン単位で露光を開始させるタイミングを制御しても光電変換素子間での露光時間のばらつきの影響は抑制できないからである。このような場合においても、ライン内における少なくとも2つの光電変換素子について互いに異なる補正を行うことにより、単一のラインに属する複数の光電変換素子間の露光時間のばらつきの影響を抑制する補正が可能である。なお、補正部は、画像を画素単位で補正してもよいし、所定数の画素で構成されるブロック単位で画像を補正してもよい。
ラインに遮光領域の境界が交差し得る機械シャッターのシャッター機構の例として、例えば遮光部が所定の回転軸まわりに回転移動するシャッター機構や、遮光されない領域を素子面上の一点に絞り込んで行くシャッター機構等においては、遮光領域の境界の方向が一定とならないため、遮光領域の境界がラインに交差する。
なお、従来技術のように、機械シャッターが露光を終了させるタイミングに追従するように電子シャッターが露光を開始させるタイミングを制御した上で、補正部による画像の補正を行ってもよい。
電子シャッターの場合、素子面上に配列された各光電変換素子を、直接、電子制御することにより、各光電変換素子の露光状態を制御する。すなわち、電子シャッターは、素子面上において実質的に撮影光を遮光することにより、各光電変換素子の露光状態を制御する。一方、機械シャッターは遮光部により撮影光を遮光するが、当該遮光部が撮影光を遮光する光軸方向の位置は、通常、素子面上とはならない。遮光部と素子面との摩擦抵抗の発生を防止したり、素子面上の光電変換素子の破損を防止する必要があるからである。素子面上と異なる位置にて撮影光を遮光する機械シャッターは、素子面上の光電変換素子に集光されてない状態の撮影光を遮光することとなる。すなわち、ある光電変換素子に集光される撮影光を遮光するにあたり、機械シャッターはある程度の幅を有する当該撮影光の光束を遮光することとなる。従って、機械シャッターの動作により、ある光電変換素子に集光される撮影光が徐々に絞り込まれていき、最終的に当該光電変換素子に集光された撮影光が完全に遮光された段階で、当該光電変換素子の露光が終了することとなる。ここで、各光電変換素子に集光される撮影光の光束が機械シャッターによって絞り込まれない期間よりも、絞り込まれる期間の方が単位時間あたりの露光量は小さくなる。従って、各光電変換素子に集光される撮影光の光束が機械シャッターによって徐々に絞り込まれる期間の長さがばらつけば、各光電変換素子における露光量もばらつくこととなる。撮影光の光束が機械シャッターの遮光部によって徐々に絞り込まれる期間は遮光部の位置における光束の幅に依存し、当該光束の幅は光軸方向における遮光部と素子面との距離に依存する。そのため、補正部は、遮光部と素子面との距離に応じた補正により露光量のばらつきを抑制するのが望ましい。
ところで、機械シャッターの動作特性は、撮影時における動作履歴や動作環境にも依存する。例えば、遮光部をばね力により動作させる場合において、遮光部の動作前に電磁石がばね力に抗して遮光部を保持していた期間に応じて、電磁石の加熱や遮光部の磁化などにより遮光部の速度特性や加速度特性が変化する。さらに、ばねの機械特性は、機械シャッターの使用や時間の経過により変化するため、機械シャッターの動作回数や製造時期等が異なる場合にも、機械シャッターの動作特性が異なることとなる。従って、補正部は、過去の動作期間の長さや動作回数や製造時期からの経過時間等を示す機械シャッターの動作履歴情報に応じて画像を補正するのが望ましい。さらに、撮影時における機械シャッターの温度や湿度等に応じても機械シャッターの動作特性が変化する。従って、補正部は、機械シャッターの温度や湿度等を示す動作環境情報に応じて画像を補正するのが望ましい。
光電変換素子ごとに露光の終了から露光量の読み出しを行うまでの待機時間がばらつく場合には、待機時間が長いほど露光量から待機時間に相当する露光量分を小さくする補正を行ってもよい。これにより、待機時間において光電変換素子にわずかに蓄積される暗電流による電荷の影響を抑制できる。
本発明の画像補正回路は単独の装置として実現されるものに限らず、本発明の画像補正回路が備える各手段が撮影装置に備えられてもよい。また、請求項に記載された各手段の機能は、構成自体で機能が特定されるハードウェア資源、プログラムにより機能が特定されるハードウェア資源、またはそれらの組み合わせにより実現される。また、これら各手段の機能は、各々が物理的に互いに独立したハードウェア資源で実現されるものに限定されない。さらに、本発明は画像補正プログラムの記録媒体としても成立する。むろん、そのコンピュータープログラムの記録媒体は、磁気記録媒体であってもよいし光磁気記録媒体であってもよいし、今後開発されるいかなる記録媒体であってもよい。
デジタルカメラを示すブロック図である。 エリアイメージセンサーの模式図である。 露光のタイミングを示すグラフである。 露光のタイミングを示すグラフである。 光束が絞られる様子を示す模式図およびグラフである。 エリアイメージセンサーおよび遮光幕の模式図である。 露光のタイミングを示すグラフである。 撮像データを読み出すタイミングを示すグラフである。
以下、本発明の実施の形態を添付図面を参照しながら以下の順に説明する。なお、各図において対応する構成要素には同一の符号が付され、重複する説明は省略される。
(1)撮影装置の構成:
(2)LUTの構成:
(3)変形例1:
(4)変形例2:
(5)変形例3:
(6)変形例4:
(7)変形例5:
(8)変形例6:
(9)変形例7:
(10)変形例8:
(1)撮影装置の構成:
図1は本発明の一実施形態にかかる画像補正回路を含む撮影装置1である。本実施形態にかかる撮影装置1は、EVF(Electronic View Finder)を備えたミラーレスデジタルカメラである。撮影装置1は、光学系10とエリアイメージセンサー15とASIC200とタイミングジェネレーター30と表示部40とCPU50とSD−RAM52とROM53とRAM54と操作部55とリムーバルメモリー56とを備えている。CPU50は、SD−RAM52とRAM54を適宜利用してROM53に記録されたプログラムを実行する。当該プログラムの機能によりCPU50は、操作部55に対する操作に応じてエリアイメージセンサー15にて撮影された被写体を示す画像データを生成する機能を実行する。なお、操作部55はシャッターボタンと、露光時間(シャッター速度)を設定するためのダイヤルスイッチとを備えている。
光学系10は、レンズ11と絞り12と機械シャッター13とローパスフィルター14とを備える。レンズ11は撮影光を集光してエリアイメージセンサー15に被写体の画像を結像させる。絞り12は、撮影光の光束を絞り込んで撮影光量を調整する。なお、露光時間は、ダイヤルスイッチに対する操作以外に、絞り優先の場合における絞り12の設定にも依存して設定される。レンズ11と絞り12とは交換式レンズユニットに備えられ、当該交換式レンズユニットは撮影装置1の筐体に交換可能に取り付けられる。ローパスフィルター14は、撮影光のエリアイメージセンサー15における空間的高周波数成分を遮断することにより、撮影した画像におけるモアレを防止する。
図2Aは、エリアイメージセンサー15の素子面の一部を正面から見て示す模式図である。エリアイメージセンサー15は、例えばベイヤー配列されたカラーフィルターと、露光量に応じた電荷を蓄積する複数の光電変換素子とが所定の素子面に配列したCMOS(Complementary Metal Oxide Semiconductor)イメージセンサーやCCD(Charge Coupled Device)イメージセンサー等の固体撮像素子である。本実施形態では、CMOSイメージセンサーを使用した場合を例にして、以下説明する。図2において各光電変換素子を正方形で示し、正方形の内側には各光電変換素子に対応して備えられるカラーフィルターの色(3チャネル:R(赤),G(緑),B(青))を示す。エリアイメージセンサー15の素子面上における複数の光電変換素子の配列位置は直交座標で規定され、一方の座標軸に平行な方向に並ぶ複数の光電変換素子によってラインが構成され、複数のラインが他方の座標軸に平行な方向に並ぶように配列されている。本明細書では、ラインに平行な方向を水平方向、ラインに垂直な方向を垂直方向と呼ぶ。
本実施例におけるエリアイメージセンサー15においては、ライン単位で光電変換素子に蓄積された電荷のリセット(放電)ができる。すなわち、同一のラインに属する複数の光電変換素子においては互いに同時に電荷がリセットされ、リセットの解除動作により互いに同時に電荷の蓄積が開始する。光電変換素子における電荷の蓄積の開始は、光電変換素子における露光の開始を意味する。例えば、各光電変換素子はソース−ドレイン間の導通により電荷を放電させるリセット用電界効果トランジスターを備えるとともに、同一のラインに属する各光電変換素子においてはリセット用電界効果トランジスターのゲートに電圧を印加するための配線が共通する。エリアイメージセンサー15は、光電変換素子に蓄積された電荷をライン単位で読み出す。なお、エリアイメージセンサー15は、必要な画質や速度に応じて、全ラインから読み出すことをせずに、間欠読み出しを行うことができる。そして、光電変換素子で、電荷の読み出しが行われた場合にも電荷がリセットされる。エリアイメージセンサー15は、読み出した電荷に対応する露光量の階調値をA/D変換器等によりA/D変換して各画素に対応付けた撮像データを生成する。この撮像データは、本発明の画像に相当する。撮像データの画素は光電変換素子に一意に対応する。エリアイメージセンサー15から読み出された撮像データは、SD−RAM52にバッファーされ、後述のASIC200によって撮像データに対する各種画像処理が実行される。
図2Bは、エリアイメージセンサー15の素子面の全体を正面から見て示す模式図である。各ラインには垂直方向の上方になるにつれて1ずつ増加するライン番号L(1〜Lmax)が付され、ラインに直交する垂直方向の列には水平方向右側になるにつれて1ずつ増加する列番号C(1〜Cmax)が付される。また、垂直方向中央のラインのライン番号LをLmidとし、水平方向中央の列を列番号CをCmidと表す。機械シャッター13は、複数の光電変換素子が配列されたエリアイメージセンサー15の素子面に対してほぼ平行な平面板状の遮光部としての遮光幕(図1においてハッチングで図示。)を備える。この遮光幕により、複数の光電変換素子が配列されたエリアイメージセンサー15の素子面上に露光領域R1と遮光領域R2とを形成する。すなわち、エリアイメージセンサー15の素子面上における遮光幕の陰影が遮光領域R2をなす。機械シャッター13は、以下のようにして遮光幕を動作させる。
本実施形態の機械シャッター13は、ノーマルオープン型であり、撮影装置1の電源OFFの状態において、遮光幕は係止レバーにより係止されるとともに永久磁石により吸着保持される。遮光幕は、撮影光の全体を遮光する位置に遮光幕を引きつけるばねのばね力に抗し、係止レバーの係止および永久磁石の吸着により撮影光の光路の外側に係止される。そして、撮影装置1の電源ONの状態において、係止レバーによる遮光幕の係止を解除する。係止レバーによる遮光幕の係止が解除されても、永久磁石により遮光幕が吸着保持され、ばね力に抗する遮光幕の保持が継続する。そして、シャッターボタンが押下されると、電子シャッター制御部30a1により各光電変換素子における露光を開始させ、さらに露光の開始から露光時間に対応する期間が経過すると、遮光幕を吸着する永久磁石の磁力を打ち消す磁力を生じさせる電磁石へ電流を供給し、永久磁石による遮光幕の吸着保持を解除する。これにより、遮光幕はばね力により移動させられ、遮光幕が撮影光の全体を遮光する位置に移動する。
図2Bにおいては、機械シャッター13がばね力により遮光幕を移動させることにより、エリアイメージセンサー15の素子面上において露光領域R1と遮光領域R2との境界Bが移動する様子を模式的に示している。本実施形態では、ばねが遮光幕を上方に引きつけることにより、シャッターが閉じる際に露光領域R1と遮光領域R2との境界Bが下方から上方に向かって(破線矢印の方向に)移動することとする。遮光幕の移動によって光電変換素子に境界Bが到達することにより、当該光電変換素子の露光が終了する。本実施形態の機械シャッター13では、エリアイメージセンサー15の素子面の右側に設けられた図示しない回転軸を中心として遮光幕が回転移動可能に支持されている。本実施形態では、垂直方向中央のラインに境界Bが到達したとき境界Bとラインとが平行となる。垂直方向中央のラインに境界Bが到達するまでは、境界Bは右肩上がりに傾斜し、徐々にラインと平行に近づいていく。垂直方向中央のラインに境界Bが到達すると、境界Bは徐々に右肩下がりの傾斜角を増していく。すなわち、エリアイメージセンサー15の素子面上における境界Bの方向は一定とはならず、基本的にラインに対して境界Bが交差する。なお、遮光幕の回転軸をエリアイメージセンサー15の素子面から十分に遠い位置に設ければ各ラインと境界Bとが平行であると見なせるが、本実施形態では撮影装置1の小型化や機械シャッター13の動作高速化等の要請により境界Bがラインに交差し得る位置に遮光幕の回転軸が設けられる。
タイミングジェネレーター30はセンサー制御部30aと表示制御部30bとを備え、センサー制御部30aは電子シャッター制御部30a1を備える。センサー制御部30aは、液晶パネル42における各光電変換素子の各種動作タイミングを制御するための信号を生成し、エリアイメージセンサー15に出力する。また、表示制御部30bは、液晶パネル42の各表示画素の表示タイミングを制御するための信号を生成し、液晶パネルドライバー41に出力する。
電子シャッター制御部30a1は、操作部55にてシャッターボタンが押下されると電子シャッターを開放させる。なお、電子シャッターを開放するとは、エリアイメージセンサー15のすべての光電変換素子における電荷を一旦リセットし、電荷の蓄積を再開させて、露光を開始させることを意味する。上述のように本実施形態ではライン単位で複数の光電変換素子に蓄積された電荷のリセットが可能であり、電荷のリセットと電荷の蓄積の開始をすべてのラインについて順に行っていくことにより、すべての光電変換素子の蓄積を開始する。なお、電子シャッター制御部30a1は、電荷のリセットをすべてのラインについて同時に行わせ、その後、電荷の蓄積の開始をライン単位で順次行わせるようにしてもよい。いずれの場合でも、光電変換素子の露光が開始するタイミングはラインごとに異なることとなる。
表示部40はEVFであり、エリアイメージセンサー15の各光電変換素子にて検知された露光量のデータを間欠ライン読出しにより読み出すことにより生成した、いわゆるライブビュー動画を表示し、また、撮影した被写体の静止画像を表示する。表示部40は、図示しないインターフェース回路と液晶パネルドライバー41と液晶パネル42と図示しない接眼レンズ等を備えている。液晶パネルドライバー41は、各サブピクセルに電圧を印加して液晶を駆動するための信号を液晶パネル42に対して出力する。
ASIC200は、画像データ生成部20を備える。この画像データ生成部20は、SD−RAM52に予め確保されたラインバッファーやフレームバッファーを利用し、エリアイメージセンサー15にて撮影された撮像データに対してパイプライン処理によって各種画像処理を実行する。なお、ASIC200は、画像処理用DSP(Digital Signal Processor)であってもよい。画像データ生成部20は、露光量補正部20aと画素補間部20bと色再現処理部20cとフィルター処理部20dとガンマ補正部20eとリサイズ処理部20fとを備えている。
画像データ生成部20は、エリアイメージセンサー15が撮影した撮像データを取得する画像取得部を構成する。露光量補正部20aは、複数の光電変換素子における露光量のばらつきを抑制するように撮像データを補正する補正部を構成する。すなわち、露光量補正部20aは、ROM53に記録されたLUT53aを参照して、撮像データにおける露光量の階調値を画素ごとに補正する。LUT53aは、エリアイメージセンサー15に備えられた1つまたは複数の光電変換素子ごとに乗算すべき露光量のゲイン等の補正のための情報が規定されたデータであり、露光時間ごとに予め作成される。露光量補正部20aは、撮影時に設定された露光時間を取得し、当該露光時間に対応するLUT53aを参照する。撮像データの各画素とエリアイメージセンサー15の複数の光電変換素子とは一意に対応するため、露光量補正部20aは、各画素について乗算すべき露光量のゲインを補正して特定できる。
画素補間部20bは、周辺画素の階調値を用いた補間処理を行うことにより、各画素に対応する光電変換素子に備えられたカラーフィルターの色とは異なる2チャネルの色の階調値を算出する。この結果、各画素について3チャネルの階調値が対応付けられた撮像データが生成される。色再現処理部20cは、画素補間が完了した撮像データの各画素の階調値に対して3×3の行列演算を行うことによってカラーマッチングのための色変換処理を行う。フィルター処理部20dは、撮像データに対してシャープネス調整やノイズ除去処理などをフィルター処理によって実行する。ガンマ補正部20eはエリアイメージセンサー15の撮影データの階調値が示す色と、表示部40等で扱う画像データの階調値が示す色との特性差を補償するガンマ補正を実行する。リサイズ処理部20fは当該ラインバッファーに記録されていくデータを逐次参照して補間演算処理を行い、画素の間の位置における各チャネルの階調値を特定することによって、例えば記録サイズへとリサイズを行う。リサイズ処理部20fにてリサイズが完了すると、画像データ生成部20における各画像処理が完了された画像データが生成できる。この画像データはSD−RAM52にバッファーされ、表示部40に表示されるとともに、リムーバルメモリー56に記録される。なお、露光量補正部20aは画像データ生成部20のいずれの回路20b〜20fの前後に備えられてもよい。露光量補正部20aによる露光量の補正は、画素補間部20bによる画素補間よりも前に行ってもよいし、画素補間部20bによる画素補間よりも後に行ってもよい。
(2)LUTの構成:
図3A,3Bの左グラフは、エリアイメージセンサー15における露光のタイミングを示すグラフである。また、図3Aの左グラフは設定された露光時間TEが1/125秒であり、図3Bの左グラフは設定された露光時間TEが1/60秒である場合を示す。図3A,3Bの左グラフにおいて、横軸は時刻を示し、縦軸はライン番号Lを示している。図3A,3Bの左グラフにおける左側の折れ線はエリアイメージセンサー15の各ラインの光電変換素子の露光が開始するタイミング示し、当該タイミング(時刻)はライン番号Lの関数X(L)によって与えられる。図3A,3Bの左グラフにおける右側の曲線は露光が終了するタイミングを示し、当該タイミング(時刻)は各光電変換素子のライン番号Lおよび列番号Cの関数Y(L,C)で与えられる。以下、特定のライン番号Lおよび列番号Cを指す必要がない場合等には、各関数における変数(L,C),(L)等の表記を省略する場合がある。また、ラインに属するすべての光電変換素子の電荷を同時に蓄積開始させることにより露光が開始するため、タイミングX(L)は列番号Cの関数とはならない。ここで図3A,3Bの左グラフにおける左側の折れ線は電子シャッターの動作特性を示し、右側のタイミングは機械シャッターによる動作特性を示す。電子シャッターの特性はここでは3段折れ線による特性であるが,3段折れ線である必要は無く、3段折れ線ではない直線〜数十段或いはそれ以上の数の折れ線であっても良い。
上述のように光電変換素子における露光は電子シャッター制御部30a1により電荷をリセットし、電荷の蓄積の開始させることにより開始するため、露光開始のタイミングXは電子シャッターの動作特性に相当する。一方、光電変換素子における露光は、機械シャッター13の遮光幕の移動によって露光領域R1と遮光領域R2との境界Bが光電変換素子に到達することにより終了するため、露光終了のタイミングYは機械シャッター13の動作特性に相当する。また、各光電変換素子における現実の露光時間AE(L,C)は電子シャッターによる露光の開始から機械シャッター13による露光の終了までの期間であり、横軸方向におけるタイミングXとタイミングYとの差分{Y(L,C)−X(L)}が光電変換素子の現実の露光時間AE(L,C)を意味する。
ここで、機械シャッター13の遮光幕は、ばね力や摩擦力等の影響を受けて動作するが説明を簡単にするために、ばね力による等加速運動を行うとしている。この場合、露光領域R1と遮光領域R2との境界Bの垂直方向の位置は徐々に傾きを増す放物線状に推移する。従って、タイミングYが示すように、光電変換素子の露光が終了するライン番号は、時間の経過とともに放物線状に増加する。すなわち、タイミングYは二次関数の逆関数となる。
本実施形態では、各ラインに属する光電変換素子における露光時間の均一化を図るために、電子シャッターのタイミングXを、機械シャッター13のタイミングYに追従した折れ線形状とする。具体的には、電子シャッターのタイミングXは以下のようにして作成される。まず、水平方向中央の列(列番号Cmid)に属する各光電変換素子に境界Bが到達するタイミングY(L,Cmid)を遮光幕の運動方程式に基づいて特定する。そして、タイミングY(L,Cmid)を、設定された露光時間TEだけ時刻の早い側にオフセットしたオフセット曲線Z(破線で図示。)を作成する。次に、このオフセット曲線Zに対してライン番号L1,L2,Lmaxにてそれぞれ接する接線を作成する。なお、1<L1<L2<Lmaxとする。そして、ライン番号L1,L2にてそれぞれオフセット曲線Zに接する2つの接線の交点、および、ライン番号L2,Lmaxにてそれぞれオフセット曲線に接する2つの接線の交点を屈曲点とした3段折れ線を作成し、当該3段折れ線を電子シャッターのタイミングXとする。電子シャッターのタイミングXは徐々に傾きを増す放物線に追従するため、下方から数えて1段目の折れ線の傾きは2段目の折れ線よりも小さく、2段目の折れ線の傾きは3段目の折れ線よりも小さくなる。なお、折れ線の段数は3段に限られない。
電子シャッター制御部30a1は、ライン番号の昇順に光電変換素子に露光を開始させていくローリングシャッター動作を行うとともに、隣接するライン間における露光開始タイミングの間隔を3段折れ線のタイミングXの傾きに対応した長さとする。すなわち、n(nは3以下の自然数。)段目の折れ線に対応するライン番号の隣接ライン間における露光開始タイミングの間隔は、一定、かつ、(n+1)段目の折れ線に対応する隣接ライン番号のライン間における露光開始タイミングの間隔よりも長く確保される。なお、シャッターボタンが押下されると、まず電子シャッター制御部30a1が最も下方のラインから光電変換素子の電荷の蓄積を開始し、当該開始のタイミングから所定期間だけ待機した後に、機械シャッター13が電磁石へ電流を供給して永久磁石による遮光幕の吸着を解除させ、ばね力により遮光幕を移動させる。前記所定期間とは、設定された露光時間TEとほぼ等しく、ライン番号L1,L2,Lmaxのラインの光電変換素子のうち、水平方向中央の列(列番号Cmid,)に属する光電変換素子の現実の露光時間AE(L,Cmid)が設定された露光時間TEと等しくなる期間とする。
以上のようにして、電子シャッター制御部30a1が機械シャッター13のタイミングY(L,Cmid)に追従するように各ラインに属する光電変換素子に露光を開始させるタイミングを制御することにより、水平方向中央の列に属する各光電変換素子における現実の露光時間AE(L,Cmid)を、設定された露光時間TEに近似させることができる。しかしながら、電子シャッターのタイミングX(折れ線)を、機械シャッター13のタイミングY(L,Cmid)(放物線)に完全に追従させることはできず、図3A,3Bの中グラフに示すように、水平方向中央の列に属する各光電変換素子における現実の露光時間AE(L,Cmid)={Y(L,Cmid)−X(L)}は一定とならず、露光時間TEに対する現実の露光時間AE(L,Cmid)の誤差(ハッチングで図示。)が生じる。この誤差の大きさは、各光電変換素子の垂直方向の位置に依存する。次に、水平方向中央の列以外の列に属する各光電変換素子における現実の露光時間AE(L,C)について考察する。
図4は、エリアイメージセンサー15の各列に属する光電変換素子における露光のタイミングを示すグラフである。同図においては、水平方向中央の列に属する各光電変換素子の露光が終了するタイミングY(L,Cmid)を実線で示し、左端および右端の列に属する各光電変換素子の露光が終了するタイミングY(L,C1),Y(L,Cmax)をそれぞれ一点鎖線と二点鎖線で示す。図2Bにて示したように露光領域R1と遮光領域R2との境界Bは方向を変えながら移動するため、列番号CごとにタイミングY(L,C)が異なる。すなわち、境界Bが垂直方向中央のライン(ライン番号Lmid)に到達するまでは、境界Bが右肩上がりとなるため、右端に近い光電変換素子であるほど早く露光が終了する。従って、境界Bが垂直方向中央のラインに到達するまでは、タイミングY(L,Cmax)がタイミングY(L,Cmid)に先行し、タイミングY(L,Cmid)がタイミングY(L,C1)に先行する。一方、境界Bが垂直方向中央のラインに到達した後では、境界Bが右肩下がりとなるため、左端に近い光電変換素子であるほど早く露光が終了する。従って、境界Bが垂直方向中央のラインに到達した後では、タイミングY(L,C1)がタイミングY(L,Cmid)に先行し、タイミングY(L,Cmid)がタイミングY(L,Cmax)に先行する。また、垂直方向中央のライン(ライン番号Lmid)に属する光電変換素子の露光はすべて同時に終了し、ライン番号LmidについてのタイミングY(Lmid,C1),Y(Lmid,Cmid),Y(Lmid,Cmax)が一致する。
このように、光電変換素子の水平方向の位置に応じて露光が終了するタイミングY(L,C1),Y(L,Cmid),Y(L,Cmax)が互いに異なることとなる。これに対して、光水平方向中央の列の光電変換素子についてのタイミングY(L,Cmid)に追従するタイミングX(L)によって、すべての列に属する光電変換素子の露光が開始させられるため、水平方向中央の列以外の列に属する光電変換素子についての現実の露光時間AE(L,C1),AE(L,Cmax)は、水平方向中央の列に属する光電変換素子についての現実の露光時間AE(L,Cmid)よりも大きくばらつくこととなる。なお、電荷をリセットするための配線の制約により、露光を開始させるタイミングXは光電変換素子の列ごとに制御できない。すなわち、境界Bがラインに交差する以上、露光を開始するタイミングXをいかに調整したとして、光電変換素子の水平方向の位置に依存した露光時間のばらつきは防止できない。
本実施形態では、LUT53aを作成するためのコンピューターが遮光幕の運動を予測し、さらに撮影光の光線予測により素子面における露光領域R1と遮光領域R2との境界Bの推移を予測することにより、すべての光電変換素子についての現実の露光時間AE(L,C)を算出する。そして、図3A,3Bの右グラフに示すように、設定された露光時間TEを現実の露光時間AE(L,C)で除算することによりゲインGE(L,C)を算出する。なお、図3A,3B,図4では、水平方向左端と中央と右端の列に属する光電変換素子についてのタイミングYを図示したが、すべての列に属する光電変換素子についてのタイミングYを予測し、ゲインGEを算出する。さらに、各光電変換素子にゲインGEを対応付けてLUT53aに格納する。
ここで、現実の露光時間AE(L,C)が設定された露光時間TEよりも小さい光電変換素子についてのゲインGE(L,C)は1よりも大きく、反対に現実の露光時間AE(L,C)が設定された露光時間TEよりも大きい光電変換素子についてのゲインGE(L,C)は1よりも小さくなる。ただし、ゲインGEの値は必ず1以上の値になるように設計することが望ましい。ゲインGEの値を1以上にすることで、補正後の露光量の最大飽和値が一定数値よりも下回ることで発生する画像の光量むらや色むらを抑制することができる。また、現実の露光時間AE(L,C)と、設定された露光時間TEとの誤差の絶対値が大きくなるほど、ゲインGE(L,C)は1から大きく相違する値となる。図3A,3Bの中グラフに対比されるように、現実の露光時間AE(L,C)と、設定された露光時間TEとの誤差の大きさは設定された露光時間TEには依存せず一定である。設定された露光時間TEが変化しても遮光幕はばね力により同様の運動をするからである。そのため、設定された露光時間TEが長ければ長いほど、現実の露光時間AE(L,C)と、設定された露光時間TEとの誤差のゲインGE(L,C)に対する寄与度が小さくなり、ゲインGE(L,C)は1に近い値となる。このように、ゲインGEは設定された露光時間TEに依存するため、コンピューターはLUT53aを設定された露光時間TEごとに作成するか、代表的な露光時間に応じたLUTを作成し、他の露光時間TEの場合にはこのLUTに基づいて換算を行い、撮影時の露光時間に応じたゲインGE(L,C)を算出するようにする。なお、一部の光電変換素子についてゲインGEを算出し、素子面における光電変換素子の位置関係に基づく補間演算により他の光電変換素子についてのゲインGEを算出してもよい。
露光量補正部20aは、撮影時の露光時間に対応するLUT53aを参照し、撮像データにおける各画素の露光量の階調値に各画素に対応する光電変換素子のゲインGEを乗算する。このように、露光量の階調値にゲインGEを乗算することにより、現実の露光時間AE(L,C)が短い光電変換素子についての露光量を増加させ、現実の露光時間AE(L,C)が長い光電変換素子についての露光量を減少させることができ、露光時間のばらつきの露光量に対する影響を抑制できる。LUT53aによれば画素単位、すなわち光電変換素子単位でゲインGEが規定できるため、光電変換素子の垂直方向の位置と水平方向の位置の双方に依存してばらつく露光時間のばらつきの影響を抑制できる。特に、露光領域R1と遮光領域R2との境界Bがラインと交差することによって生じる水平方向における露光時間のばらつきは、仮に電子シャッターのタイミングXを機械シャッター13のタイミングY(L,Cmid)に完全に追従させた場合でも解消できないが、LUT53aによる補正を行うことにより水平方向における露光時間のばらつきの影響も抑制できる。なお、本実施形態では露光時間と露光量とは比例関係にあると見なしてゲインGEを乗算して補正を行うこととしたが、露光時間と露光量との非線形性を考慮する場合にはゲインGEを非線形変換した上で露光量の補正を行ってもよい。
(3)変形例1:
以上においては、電子シャッターと機械シャッター13のタイミングの特性の相違に起因した露光時間のばらつきの影響を抑制するLUT53aを作成する例を説明したが、機械シャッター13の他の動作特性に注目して露光量のばらつきを抑制するLUT53aを作成してもよい。例えば、電子シャッターによる撮影光の光束の絞り込み特性と、機械シャッター13による撮影光の光束の絞り込み特性を考慮したLUT53aを作成してもよい。
図5Aは、機械シャッター13の遮光幕により遮光される撮影光の光束の様子を示す模式図である。図5Aでは、レンズ11と機械シャッター13の遮光幕とエリアイメージセンサー15とを、撮影光の中央光軸および遮光幕の移動方向に垂直な方向から見て示している。なお、本変形例においては説明の簡略化のため露光領域R1と遮光領域R2との境界Bは常にラインに対して平行であると見なすこととする。また、電子シャッターのタイミングXを機械シャッター13のタイミングYに完全に追従させているものとする。すなわち、すべての光電変換素子における現実の露光時間AEが設定された露光時間TEと等しいと仮定する。
ここでは以下の時刻tおよび遮光幕の上端位置yを定義する。まず、時刻t0,t1においてエリアイメージセンサー15における最下方および最上方のライン(ライン番号1,Lmax)に属する光電変換素子の露光を開始させる。そして、機械シャッター13の遮光幕が上昇を開始し、遮光幕の上端位置yがy2となった時刻t2にて最下方のラインに属する光電変換素子に集光される光束の最下端が遮光される。次に、遮光幕の上端位置yがy3となった時刻t3にて最上方のラインに属する光電変換素子に集光される光束の最下端が遮光される。遮光幕の上端位置yがy4となった時刻t4にて最下方のラインに属する光電変換素子に集光される光束の最上端が遮光される。さらに、遮光幕の上端位置yがy5となった時刻t5にて最上方のラインに属する光電変換素子に集光される光束の最上端が遮光される。なお、時刻t4において最下方のラインに属する光電変換素子に集光された撮影光が完全に遮光され、最下方のラインに属する光電変換素子の露光が終了する。すなわち、時刻t4において露光領域R1と遮光領域R2との境界Bが最下方のラインに到達する。同様に、時刻t5において露光領域R1と遮光領域R2との境界Bが最上方のラインに到達し、当該ラインに属する光電変換素子の露光が終了する。
図5Bは、最下方のラインに属する光電変換素子の露光量を示すグラフである。図5Bにおける縦軸は露光量を示し、横軸は時刻を示す。同図に示すように、最下方のラインに属する光電変換素子の露光量は、当該ラインに属する光電変換素子に露光を開始させる時刻t0から所定の傾きで線形的に増加する。そして、最下方のラインに属する光電変換素子に集光される光束の最下端が遮光される時刻t2が経過すると、当該光電変換素子に集光される光束が徐々に絞り込まれていき露光量が増加する傾きが減少していく。さらに、最下方のラインに属する光電変換素子に集光される光束の最上端が遮光される時刻t4が経過すると、当該光電変換素子の露光が終了し、最終的に露光量は増加しなくなる。この露光量に対応する電荷を読み出して量子化することにより、撮像データの各画素の露光量を示す階調値が決定される。
図5Bに示すように、最下方の光電変換素子に集光される撮影光の光束が絞り込まれ始める時刻t2から露光が終了する時刻t4までの絞込露光時間FTが長いほど、最下方の光電変換素子の露光量は小さくなる。本変形例では電子シャッターのタイミングXを機械シャッター13のタイミングYに完全に追従させているため、各ラインの露光を開始してから終了するまでの現実の露光時間AE(t0〜t4)は、すべての光電変換素子について同じとなる。しかし、絞込露光時間FTの長さは光電変換素子ごとにばらつくこととなる。
図5Cは、遮光幕の上端位置yと絞込露光時間FTとの関係を示すグラフである。同図の横軸は時刻tを示し、縦軸は上端位置yを示す。遮光幕の上端位置yは、遮光幕の等加速度運動により放物線状に推移する。最下方と最上方のラインについての絞込露光時間FTは、それぞれ期間(t2〜t4)と期間(t3〜t5)であり、上端位置yが区間(y2〜y4)と区間(y3〜y5)を通過する期間に対応する。図5Aに示すように、最下方と最上方のラインは中央光軸に関して上下対称な位置にあるため、区間(y2〜y4)の長さと区間(y3〜y5)の長さとは互いに等しい。しかしながら、遮光幕の速度は線形的に増加するため、遮光幕の進行方向下流側にある区間(y3〜y5)を通過する期間(t3〜t5)の方が、区間(y2〜y4)を通過する期間(t2〜t4)よりも短くなる。すなわち、最上方のラインについての絞込露光時間FTの方が、最下方のラインについての絞込露光時間FTよりも短くなる。従って、絞込露光時間FTが短い最上方のラインの方が露光量が大きくなる。すなわち、撮影光の絞り込み特性に起因して、露光量は光電変換素子の垂直方向の位置に応じてばらつく。
以上のように絞込露光時間FTは、光電変換素子に集光される撮影光の光束が絞り込まれる遮光幕の上端位置yの区間(y2〜y4),(y3〜y5)に依存して変化する。この区間(y2〜y4),(y3〜y5)の遮光幕の進行方向における長さや位置は、図5Aに示すレンズ11と遮光幕とエリアイメージセンサー15との位置関係に基づいて幾何学的に特定できる。従って、機械シャッター13の遮光幕が撮影光を遮光する光軸方向の位置に基づく補正により露光量のばらつきを抑制するのが望ましい。例えば、遮光幕とエリアイメージセンサー15との距離が長いほど、遮光幕は長い区間(y2〜y4),(y3〜y5)において撮影光の光束を絞り込むこととなるため、各光電変換素子についての絞込露光時間FTが長くなる。従って、遮光幕とエリアイメージセンサー15との距離が長い機械シャッター13については、ゲインGEの値を大きくしたLUT53aを作成してもよい。以上説明した露光量のばらつきを補正するためのLUT53aを、機械シャッター13の遮光幕が撮影光を遮光する光軸方向の位置等に基づいて計算により作成してもよいが、以下のようにしてLUT53aを作成してもよい。
本変形例では、均一な色(例えば白等。)を有する被写体を全体に均等な光源を照射しつつ、当該被写体を光学系10の画角全体で撮影する。そして、LUT53aを作成するコンピューターは、エリアイメージセンサー15から撮像データを取得する。当該コンピューターは、当該撮像データのうち所定の光電変換素子に対応する露光量の階調値をRGB各チャネルについて取得し、当該階調値を基準階調値とする。ここで、所定の光電変換素子はゲインGEが1以上になるように、エリアイメージセンサー15のうちの最も露光時間が短い光電変換素子とすることが望ましい。そして、撮像データの各画素の階調値をチャネルが一致する基準階調値によって除算した露光量比率を算出し、当該露光量比率の逆数を各画素に対応する光電変換素子についてのゲインGEとして算出し、光電変換素子とゲインGEとの対応関係をLUT53aに格納する。上述のように、光束が絞られて露光される絞込露光時間FTは光軸方向における遮光幕の位置に依存するため、撮影装置1の機体ごとにLUT53aを作成しておくことで、機体ごとの遮光幕の位置ばらつきや機械シャッターの製造誤差などに起因した動作特性のばらつきの影響を吸収させることができる。LUT53aは、例えば撮影装置1の製造時に作成し、ROM53に格納しておけばよい。この手法によれば、前記実施形態において説明した露光時間のばらつきに起因する露光量のばらつきも抑制できる。なお、本変形例の補正によれば、露光の開始と終了の双方を機械シャッターにより行い、当該機械シャッターの遮光幕の光軸方向における位置が互いに異なる場合においても、遮光幕の光軸方向における位置の相違(絞り込み特性の相違)に起因した露光量のばらつきが抑制できる。また、LUT53aを定期的に作成することで、撮影装置1の経時劣化の影響を吸収させることができる。
(4)変形例2:
以上においては、実際に写真の撮影を行う際における機械シャッター13の動作特性に注目したが、撮影を行う前における機械シャッター13の動作履歴に応じて機械シャッター13の動作特性が変化する場合も考えられる。本変形例の機械シャッターは前記実施形態の機械シャッター13と異なり以下のように動作する。すなわち、前記実施形態の機械シャッター13は、係止レバーによる遮光幕の係止を解除したときに永久磁石により遮光幕の吸着保持を維持したが、本変形例では係止レバーによる遮光幕の係止を解除する際に電磁石に電流を供給し、当該電磁石の磁力によりばね力に抗する遮光幕の保持を継続させることとする。そして、露光の開始から露光時間TEに対応する期間が経過すると、電磁石への電流供給を停止し、電磁石による遮光幕の吸着保持を解除する。これにより、遮光幕はばね力により移動させられ、遮光幕が撮影光の全体を遮光する位置に移動して、各光電変換素子における露光が終了する。通常、撮影前の期間においては、エリアイメージセンサー15において撮影されたライブビュー動画をEVF(表示部40)等において見ながらシャッターチャンスを覗うこととなる。本変形例の機械シャッターでは、ライブビュー動画を表示する期間において、係止レバーによる遮光幕の係止を解除し、遮光幕を電磁石により吸着保持する。このような方式の機械シャッターでは、ライブビュー動画を表示する期間が長いほど、電磁石は高温となる。ここで、電磁石が高温となることにより機械シャッター13の即応性が低下する。即応性が低下すると、電磁石への電流供給を停止してから遮光幕が駆動するまでの時間が長くなる。従って、ライブビュー動画を表示する期間が長いほど露光終了が遅れることとなる。そのため、ライブビュー動画を表示した期間に拘わらず同一のLUT53aを参照して、露光量補正部20aが露光量の階調値を補正することにより、補正誤差が生じることとなる。
そこで、本変形例において露光量補正部20aは、シャッターボタンが押下される前にライブビュー動画を表示していた期間の長さを示す動作履歴情報をCPU50から取得する。そして、露光量補正部20aは、動作履歴情報に基づいて、ライブビュー動画を表示していた期間の長さに対応するLUT53aを参照して、露光量補正部20aが露光量の階調値を補正する。なお、本変形例においても、変形例1と同様に均一な色の被写体の撮像データに基づいて、複数のライブビュー動画の表示期間ごとにLUT53aを作成しておけばよい。むろん、LUT53aに規定されたゲインGEをライブビュー動画を表示していた期間に応じて補正した上で、当該ゲインGEに基づく補正を行ってもよい。なお、遮光幕の動作に関与するいずれかの電磁石に電流が供給された時間に基づいて露光量の補正を行えばよい。例えばシャッター準備動作(例えば、シャッターボタン半押し時の動作。)において電磁石への電流供給を要する機械シャッターにおいてはシャッター準備動作の期間に基づいて露光量の補正を行えばよい。
(5)変形例3:
上述のようにライブビュー動画の長期間表示によって電磁石が高温となることにより機械シャッター13の即応性が低下するが、高温下で撮影装置1を使用することにより電磁石が高温となる場合でも機械シャッター13の即応性が低下する。さらに、高温下で撮影装置1を使用する場合、電磁石のみならず遮光幕を引きつけるばねの特性にも変化が生じる。さらに、ばねの特性は湿度によっても変化する。ばねの特性が変化すると、遮光幕の運動が変化し、図3A,3Bの中グラフに示した露光時間の誤差が増大する。さらに、ばねの特性は、ばねの伸縮回数(疲労)や経年劣化によっても変化する。例えば、伸縮回数が大きいほど、製造後長期間経過するほど、ばねの弾性力の劣化により遮光幕の加速度が低下し、露光時間が長くなる。そこで、本変形例の露光量補正部20aは、シャッターボタンが押下された際における機械シャッター13の温度と湿度を示す動作環境情報を図示しないセンサーから取得するとともに、撮影装置1の製造時期および機械シャッター13の動作回数を示す動作履歴情報をCPU50から取得する。そして、露光量補正部20aは、当該動作環境情報と当該動作履歴情報に基づいて機械シャッター13の温度と湿度と撮影装置1の製造時期と機械シャッター13の動作回数とを特定し、これらの組み合わせに対応するLUT53aを参照して露光量の階調値を補正する。なお、本変形例においても、変形例1と同様に均一な色の被写体の撮像データに基づいて、機械シャッター13の温度と湿度と撮影装置1の製造時期と機械シャッター13の動作回数の複数の組み合わせごとにLUT53aを作成しておけばよい。
(6)変形例4:
図6は、本変形例にかかる機械シャッター13の遮光幕とエリアイメージセンサー15とを示す模式図である。本変形例において、機械シャッター13は、遮光幕が5枚の絞り羽根によって構成され、5枚の絞り羽根が中央光軸に向かって光路を絞り込むように駆動する絞りシャッター方式を採用する。なお、機械シャッター13の遮光幕はエリアイメージセンサー15とレンズ11との間に設けられてもよいし、レンズ11よりも光路上流側に設けられてもよい。このような絞りシャッター方式では、露光領域R1と遮光領域R2との境界Bが中央光軸を中心とした円の外接五角形をなすこととなり、当該外接五角形の各辺はエリアイメージセンサー15のライン(破線矢印で図示。)と交差することとなる。また、このような絞りシャッター方式では、光軸中央に近いほど光電変換素子ほど露光領域R1と遮光領域R2との境界Bの到達が遅く、露光が終了するタイミングが遅くなるという特性を有する。一方、エリアイメージセンサー15のラインの方向は水平方向であるため、ライン単位で光電変換素子に露光を開始させるタイミングを調整しても、機械シャッター13のタイミングに追従することはできない。このような場合であっても、撮像データにおける露光量の階調値を光電変換素子の位置に応じて補正することにより、露光量のばらつきを抑制することができる。
(7)変形例5:
図7の左グラフは、本変形例のエリアイメージセンサー15における露光のタイミングを示すグラフである。本変形例において、電子シャッター制御部30a1は、電子シャッターのタイミングXを機械シャッター13のタイミングYに追従させない。すなわち、図7の左グラフに示すようにすべてのラインに属するすべての光電変換素子における電荷のリセットを同時に行い、すべての光電変換素子における電荷の蓄積開始を同時に行う(グローバルシャッターを行う)ことにより、すべての光電変換素子における露光を同時に開始させる。図7の左グラフの例では、最上方のライン(ライン番号Lmax)の水平方向中央の光電変換素子における現実の露光時間TE(Lmax,Cmid)と設定された露光時間TEとを一致させる。この場合、特に下方のラインにおいて、電子シャッターのタイミングXと機械シャッター13のタイミングYとが大きく異なることとなるため、図7の中グラフに示すように設定された露光時間TEに対して現実の露光時間AEが大きくばらつく。特に下方のラインにおいては、設定された露光時間TEに対して現実の露光時間AEが大幅に短くなる。
本変形例でも、図7の右グラフのように設定された露光時間TEを現実の露光時間AEで除算してゲインGEを求める。そして、当該ゲインGEを各光電変換素子に対応付けてLUT53aに格納し、露光量補正部20aがLUT53aを参照して撮像データにおける各画素の露光量の階調値に各画素に対応する光電変換素子のゲインGEを乗算する。本変形例では、現実の露光時間AEが、設定された露光時間TEに対して大幅に短くなるラインが生じるが、このようなラインについては1よりも大幅に大きいゲインGEが乗算することで、ノイズは増幅されてしまうが露光量のばらつきが抑制できる。すなわち、本発明のように露光量を示す階調値にゲインGEを乗算して補正を行えば、電子シャッターのタイミングXを正確に制御せずとも露光量のばらつきが抑制できる。従って、撮影した画像の画質を大きく劣化させることなく、電子シャッター制御部30a1の回路規模を縮小できる。
(8)変形例6:
図8は、各ラインの光電変換素子における露光および撮像データの読み出しのタイミングを示すグラフである。図8の例では、前記変形例1と同様に電子シャッターのタイミングXを機械シャッター13のタイミングYに完全に追従させていることとする。従って、各光電変換素子における現実の露光時間AEは、設定された露光時間TEと一致する。図8においては、各ラインについて撮像データを読み出すタイミングを示すタイミングP(L)を破線により示している。各ラインにおいては多数の光電変換素子が存在するため、各ラインについて撮像データを読み出すのに必要な期間は、機械シャッター13により各ラインを境界Bが通過する期間よりも長くなる。従って、撮像データの読み出すタイミングP(L)は、各ラインの光電変換素子に露光を開始および終了させるタイミングX,Yよりも傾きが緩やかとなる。従って、光電変換素子にて露光を終了させてから撮像データの読み出すまでの待機期間WT(L)は、ライン番号が増加するほど長くなる。この待機期間WT(L)においては、機械シャッター13の遮光幕が各光電変換素子を遮光するものの、待機期間WT(L)が長いほどエリアイメージセンサー15の暗電流ノイズによる電荷の蓄積量N(L)が大きくなる。すなわち、機械シャッター13のタイミングYと撮像データの読み出しタイミングP(L)との相違に起因して生じる待機期間WT(L)の不均一さに起因して、各光電変換素子における露光量にばらつきが生じることとなる。本変形例では、上方のラインほど暗電流分の露光量が増加することから、上方ラインに行くほどノイズ分が増加する値N(L)を露光量の階調値から減ずることにより、待機期間WT(L)の不均一さに起因する露光量のばらつきを抑制する。
(9)変形例7:
以上においては、撮影装置1にて画像を補正する例を説明したが、撮影装置1以外の装置にて画像を補正してもよい。例えば、撮影装置1は、画像データ生成部20による各種画像処理をすることなく、エリアイメージセンサー15にて撮影された撮像データをそのままリムーバルメモリー56に記録するモードを備える。また、撮影装置1は、この撮像データに、撮影装置1の機種や撮影時の露光時間(シャッター速度)を特定する添付情報を添付する。本変形例においては、露光量の補正を、上述の撮像データをリムーバルメモリー56から読み込み可能なコンピューターにおいて実行する。機械シャッター13のタイミングYは物理的に異なるシャッター機構を有する撮影装置1の機種ごとに大きく異なる。従って、本変形例においては予め撮影装置1の機種ごとにLUT53aを作成しておきコンピューターに記録しておく。そして、コンピューターは撮像データを読み込むと、当該撮像データに添付された添付情報によって特定される撮影装置1の機種に対応するLUT53aを参照して当該撮像データの各画素に対応付けられた露光量の階調値を補正する。なお、撮影時の露光時間(シャッター速度)に応じたLUTそのものを添付しても良い。この場合には、LUTが添付されていない場合と異なり、そのLUTを参照して当該撮像データの各画素に対応付けられた露光量の階調値を補正する。
(10)変形例8:
図3A,3Bの中グラフに対比されるように、設定された露光時間TEが長ければ長いほど、現実の露光時間AEと、設定された露光時間TEとの誤差の露光量に与える影響は小さく、当該誤差の影響を抑制するためのゲインGEは1に近い値となる。さらに、設定された露光時間TEが大きくなると、現実の露光時間AEと、設定された露光時間TEとの誤差による露光量のばらつきは、画像を視認した場合に感じられなくなる。従って、設定された露光時間TEが所定の閾値よりも長い場合には、露光量補正部20aによる補正を行わないようにしてもよい。例えば、設定された露光時間TEに対する、現実の露光時間AEと設定された露光時間TEとの誤差の絶対値の最大値の相対比が所定の閾値(例えば、1/50等。)である場合には、露光量のばらつきは感じられ難いとして補正を行わないようにしてよい。
本発明の具体的態様は、上述の実施形態や変形例に限定されるものではなく、実施形態や変形例同士を組み合わせたものであってもよいし、本発明の技術的思想を逸脱しない範囲で変形を行っても良い。
1…撮影装置、10…光学系、11…レンズ、12…絞り、13…機械シャッター、14…ローパスフィルター、15…エリアイメージセンサー、20…画像データ生成部、20a…露光量補正部、20b…画素補間部、20c…色再現処理部、20d…フィルター処理部、20e…ガンマ補正部、20f…リサイズ処理部、30…タイミングジェネレーター、30a…センサー制御部、30a1…電子シャッター制御部、30b…表示制御部、40…表示部、41…液晶パネルドライバー、42…液晶パネル、55…操作部、56…リムーバルメモリー。

Claims (8)

  1. 数の光電変換素子にて電荷の蓄積を開始させることにより露光の開始を制御する電子シャッターと、遮光部を機械的に動作させて複数の光電変換素子が配列する素子面に前記遮光部によって遮光された遮光領域を形成することにより、前記複数の光電変換素子の露光時間を制御する機械シャッターを用いて撮影された画像を取得する画像取得部と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正部と、
    を備え、
    前記電子シャッターは、電荷の蓄積を開始させるための配線が共通する前記複数の光電変換素子が前記素子面にて直線状に配列するライン単位で露光を開始させるとともに、
    前記遮光領域の境界は前記ラインに交差する場合に、前記補正部は、前記ライン内における少なくとも2つの光電変換素子について互いに異なる補正を行う画像補正回路。
  2. 遮光部を機械的に動作させることにより、複数の光電変換素子の露光時間を制御する機械シャッターを用いて撮影された画像を取得する画像取得部と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正部と、
    を備え、
    前記補正部は、撮影光の光軸方向における前記遮光部と前記複数の光電変換素子が配列する素子面との距離に応じた補正を行う画像補正回路。
  3. 複数の光電変換素子の露光時間を制御する機械シャッターを用いて撮影された画像を取得する画像取得部と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正部と、
    を備え、
    前記補正部は、前記画像を撮影した際における前記機械シャッターの動作履歴情報と動作環境情報との少なくとも一方を取得し、前記動作履歴情報と前記動作環境情報との少なくとも一方に応じて前記画像を補正する画像補正回路。
  4. 複数の光電変換素子の露光時間を制御する絞りシャッター方式の機械シャッターを用いて撮影された画像を取得する画像取得部と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正部と、
    を備え、
    前記補正部は、電荷の蓄積を開始させるための配線が共通する少なくとも2つの光電変換素子について互いに異なる補正を行う画像補正回路。
  5. 請求項1から請求項4のいずれか一項に記載の画像補正回路を備えた撮影装置。
  6. 遮光部を機械的に動作させることにより、複数の光電変換素子の露光時間を制御する機械シャッターを用いて撮影された画像を取得する画像取得機能と、
    前記機械シャッターの動作特性と、撮影光の光軸方向における前記遮光部と前記複数の光電変換素子が配列する素子面との距離と、に基づいて前記画像を補正する補正機能と、をコンピューターに実行させる、
    画像補正プログラム。
  7. 複数の光電変換素子の露光時間を制御する機械シャッターを用いて撮影された画像を取得する画像取得機能と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正機能と、をコンピューターに実行させ、
    前記補正機能は、前記画像を撮影した際における前記機械シャッターの動作履歴情報と動作環境情報との少なくとも一方を取得し、前記動作履歴情報と前記動作環境情報との少なくとも一方に応じて前記画像を補正する機能である、
    画像補正プログラム。
  8. 複数の光電変換素子の露光時間を制御する絞りシャッター方式の機械シャッターを用いて撮影された画像を取得する画像取得機能と、
    前記機械シャッターの動作特性に基づいて前記画像を補正する補正機能と、をコンピューターに実行させ、
    前記補正機能は、電荷の蓄積を開始させるための配線が共通する少なくとも2つの光電変換素子について互いに異なる補正を行う機能である、
    画像補正プログラム。
JP2010211696A 2010-09-22 2010-09-22 画像補正回路、撮影装置および画像補正プログラム Active JP5682196B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2010211696A JP5682196B2 (ja) 2010-09-22 2010-09-22 画像補正回路、撮影装置および画像補正プログラム
US13/239,772 US8723983B2 (en) 2010-09-22 2011-09-22 Image correction circuit, image capture device, image correction method, and image correction program
EP11182393.6A EP2434750B1 (en) 2010-09-22 2011-09-22 Image correction circuit, image capture device, image correction method, and image correction program
CN201110284091.2A CN102413284B (zh) 2010-09-22 2011-09-22 图像修正电路、摄影装置、图像修正方法及图像修正程序
US14/165,968 US9154707B2 (en) 2010-09-22 2014-01-28 Image correction circuit, image capture device, image correction method, and image correction program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010211696A JP5682196B2 (ja) 2010-09-22 2010-09-22 画像補正回路、撮影装置および画像補正プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014112203A Division JP5850091B2 (ja) 2014-05-30 2014-05-30 画像補正回路、撮影装置および画像補正プログラム

Publications (2)

Publication Number Publication Date
JP2012070118A JP2012070118A (ja) 2012-04-05
JP5682196B2 true JP5682196B2 (ja) 2015-03-11

Family

ID=44720663

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010211696A Active JP5682196B2 (ja) 2010-09-22 2010-09-22 画像補正回路、撮影装置および画像補正プログラム

Country Status (4)

Country Link
US (2) US8723983B2 (ja)
EP (1) EP2434750B1 (ja)
JP (1) JP5682196B2 (ja)
CN (1) CN102413284B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5682196B2 (ja) * 2010-09-22 2015-03-11 セイコーエプソン株式会社 画像補正回路、撮影装置および画像補正プログラム
JP5644400B2 (ja) * 2010-11-15 2014-12-24 セイコーエプソン株式会社 撮影装置、撮影方法および撮影プログラム
JP5621569B2 (ja) * 2010-12-13 2014-11-12 ソニー株式会社 撮像装置及びシャッタ動作補正方法
JP5986461B2 (ja) * 2012-09-07 2016-09-06 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP6337467B2 (ja) * 2013-12-27 2018-06-06 セイコーエプソン株式会社 光学モジュール、電子機器、及び光学モジュールの駆動方法
CA2940079C (en) * 2014-03-05 2018-06-12 Sick Ivp Ab Image sensing device and measuring system for providing image data and information on 3d-characteristics of an object
JP6393091B2 (ja) * 2014-06-19 2018-09-19 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP6403461B2 (ja) * 2014-07-01 2018-10-10 キヤノン株式会社 撮像装置及びその駆動方法
US10332239B2 (en) * 2015-06-12 2019-06-25 Institute Of Automation Chinese Academy Of Sciences Apparatus and method for parallel polyphase image interpolation
US10484623B2 (en) * 2016-12-20 2019-11-19 Microsoft Technology Licensing, Llc Sensor with alternating visible and infrared sensitive pixels
JP7527887B2 (ja) 2020-08-05 2024-08-05 キヤノン株式会社 光学機器

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3988215B2 (ja) 1997-07-17 2007-10-10 株式会社ニコン 撮像装置
JP4125084B2 (ja) * 2002-10-08 2008-07-23 キヤノン株式会社 画像撮像装置、プログラムおよび記録媒体
JP4423889B2 (ja) * 2002-11-18 2010-03-03 ソニー株式会社 フリッカ低減方法、撮像装置およびフリッカ低減回路
JP2004187087A (ja) * 2002-12-04 2004-07-02 Canon Inc 撮像装置
JP4359543B2 (ja) * 2004-08-23 2009-11-04 富士フイルム株式会社 撮像装置
JP4217702B2 (ja) 2004-09-02 2009-02-04 キヤノン株式会社 撮像装置、および、撮像装置の制御方法
US7616256B2 (en) * 2005-03-21 2009-11-10 Dolby Laboratories Licensing Corporation Multiple exposure methods and apparatus for electronic cameras
JP4724539B2 (ja) * 2005-11-24 2011-07-13 キヤノン株式会社 実露光時間算出方法ならびにそれを適用した撮像装置、光学機器、カメラシステムおよび実露光時間測定器
JP3956991B2 (ja) * 2006-01-20 2007-08-08 ソニー株式会社 撮像装置
JP2007215065A (ja) * 2006-02-13 2007-08-23 Sharp Corp 撮像装置
JP4981325B2 (ja) * 2006-02-13 2012-07-18 キヤノン株式会社 カメラシステム
JP4819524B2 (ja) * 2006-02-21 2011-11-24 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP4235660B2 (ja) * 2006-09-08 2009-03-11 キヤノン株式会社 画像処理装置及びその制御方法
JP4766689B2 (ja) 2006-12-08 2011-09-07 キヤノン株式会社 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP4818189B2 (ja) * 2007-04-19 2011-11-16 キヤノン株式会社 撮像装置及びその制御方法
JP5354946B2 (ja) * 2007-05-28 2013-11-27 キヤノン株式会社 撮像装置およびレンズ装置
JP4424402B2 (ja) * 2007-09-28 2010-03-03 ソニー株式会社 撮像装置、撮像制御方法、撮像制御プログラム
JP2009111518A (ja) * 2007-10-26 2009-05-21 Casio Comput Co Ltd 撮像装置、画像再生装置及びそのプログラム、画像ファイルのデータ構造
JP5031669B2 (ja) 2008-05-30 2012-09-19 キヤノン株式会社 撮像装置
CN101651785B (zh) * 2008-08-15 2012-11-21 鸿富锦精密工业(深圳)有限公司 成像装置及其成像方法
JP5132497B2 (ja) * 2008-09-16 2013-01-30 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP5426891B2 (ja) 2009-02-04 2014-02-26 キヤノン株式会社 撮像センサ及び撮像装置
JP5625255B2 (ja) 2009-04-01 2014-11-19 株式会社ニコン 撮像装置
JP5682196B2 (ja) * 2010-09-22 2015-03-11 セイコーエプソン株式会社 画像補正回路、撮影装置および画像補正プログラム
JP5621569B2 (ja) * 2010-12-13 2014-11-12 ソニー株式会社 撮像装置及びシャッタ動作補正方法

Also Published As

Publication number Publication date
US20120069214A1 (en) 2012-03-22
CN102413284A (zh) 2012-04-11
US8723983B2 (en) 2014-05-13
US20140139701A1 (en) 2014-05-22
CN102413284B (zh) 2017-03-01
JP2012070118A (ja) 2012-04-05
US9154707B2 (en) 2015-10-06
EP2434750A3 (en) 2013-05-15
EP2434750B1 (en) 2018-04-11
EP2434750A2 (en) 2012-03-28

Similar Documents

Publication Publication Date Title
JP5682196B2 (ja) 画像補正回路、撮影装置および画像補正プログラム
JP5644400B2 (ja) 撮影装置、撮影方法および撮影プログラム
KR101760347B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
WO2012117774A1 (ja) 撮像装置、および撮像装置制御方法、並びにプログラム
JP2011151740A (ja) 撮像装置
WO2015190156A1 (ja) 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム
JP2013214096A (ja) 画像安定化のための方法とシステム
JP2007259450A (ja) インタリーブ画像を捕捉する方法及び装置
JP6572524B2 (ja) 撮像装置および撮像方法
JP2016096459A (ja) 撮像装置及び撮像方法
JP5432757B2 (ja) 撮像装置
JP5850091B2 (ja) 画像補正回路、撮影装置および画像補正プログラム
JP2008311711A (ja) 撮像装置
JP5332540B2 (ja) 撮像装置及び画像補正プログラム
JP2006333439A (ja) 撮像素子、撮像ユニットおよび撮像装置
JP6604216B2 (ja) 撮像装置
JP2015076754A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2013118474A (ja) 撮像装置及び撮像装置の制御方法
US8941760B2 (en) Image processing apparatus, image processing method and electronic camera
JP6463159B2 (ja) 撮像装置およびその制御方法、プログラム、並びに記憶媒体
JP6604215B2 (ja) 撮像装置
JP2013128184A (ja) 撮像装置及び撮像方法
JP2010161695A (ja) 電子カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130722

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141229

R150 Certificate of patent or registration of utility model

Ref document number: 5682196

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250