[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5772064B2 - Imaging apparatus and image generation program - Google Patents

Imaging apparatus and image generation program Download PDF

Info

Publication number
JP5772064B2
JP5772064B2 JP2011042832A JP2011042832A JP5772064B2 JP 5772064 B2 JP5772064 B2 JP 5772064B2 JP 2011042832 A JP2011042832 A JP 2011042832A JP 2011042832 A JP2011042832 A JP 2011042832A JP 5772064 B2 JP5772064 B2 JP 5772064B2
Authority
JP
Japan
Prior art keywords
exposure
value
exposure condition
luminance value
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011042832A
Other languages
Japanese (ja)
Other versions
JP2011199860A (en
Inventor
梅山 一也
一也 梅山
兼崇 篠田
兼崇 篠田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011042832A priority Critical patent/JP5772064B2/en
Publication of JP2011199860A publication Critical patent/JP2011199860A/en
Application granted granted Critical
Publication of JP5772064B2 publication Critical patent/JP5772064B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Description

本発明は、例えばデジタルスチルカメラ等の撮像装置及び画像生成プログラムに関する。   The present invention relates to an imaging apparatus such as a digital still camera and an image generation program.

従来から、暗部と明部を有する同一の被写体を異なる露出条件で撮影して得られた複数の撮像画像を合成することにより、暗部が黒くつぶれたり明部が白く飛んだりしていない一つの合成画像を生成可能とするハイダイナミックレンジ(以下、「HDR」という。)撮影技法が知られている(例えば、特許文献1参照)。   Conventionally, by combining multiple captured images obtained by shooting the same subject with dark and bright areas under different exposure conditions, one composition where the dark areas are not crushed black and the bright areas are not flying white A high dynamic range (hereinafter, referred to as “HDR”) imaging technique capable of generating an image is known (see, for example, Patent Document 1).

すなわち、こうした従来のHDR撮影技法では、例えば露出条件の異なる2つの撮像画像を得る場合に通常の露出条件から高露出側(短秒側)と低露出側(長秒側)に露出段数を各々異ならせた高露出側の露出条件と低露出側の露出条件で撮影された2つの撮像画像を合成することにより一つの合成画像を生成していた。   That is, in such a conventional HDR imaging technique, for example, when two captured images having different exposure conditions are obtained, the number of exposure steps is set from the normal exposure condition to the high exposure side (short seconds side) and the low exposure side (long seconds side). One composite image is generated by combining two captured images photographed under different exposure conditions on the high exposure side and exposure conditions on the low exposure side.

特開2003−319240号公報JP 2003-319240 A

ところで、撮像装置には、通常、露出値(露出条件)の設定範囲を制限するために定められた露出連動範囲(露出条件設定範囲)が設定されている。加えて、被写体の明部と暗部との輝度の差は、一般に、露出連動範囲の上限側(高輝度の環境下)の方が露出連動範囲の下限側(低輝度の環境下)に比べて大きくなる。このため、露出連動範囲の上限側付近のHDR処理結果が最適となるように高露出側と低露出側との露出段数の差を設定した場合には、露出連動範囲の上限付近以外の部分(中央部や下限付近)で露出オーバーになってしまうおそれがあるという問題があった。   By the way, an exposure interlocking range (exposure condition setting range) defined to limit the setting range of the exposure value (exposure condition) is normally set in the imaging apparatus. In addition, the difference in brightness between the bright and dark areas of the subject is generally higher at the upper limit of the exposure interlocking range (in a high-brightness environment) than at the lower limit of the exposure interlocking range (in a low-brightness environment). growing. For this reason, when the difference in the number of exposure steps between the high exposure side and the low exposure side is set so that the HDR processing result near the upper limit side of the exposure interlocking range is optimal, the portion other than the vicinity of the upper limit of the exposure interlocking range ( There has been a problem that overexposure may occur at the center or near the lower limit.

本発明は、このような事情に鑑みてなされたものであり、その目的は、暗部と明部とを有する被写体を最適露出条件でハイダイナミックレンジ撮影することができる撮像装置及び画像生成プログラムを提供することにある。   The present invention has been made in view of such circumstances, and an object of the present invention is to provide an imaging apparatus and an image generation program capable of photographing a subject having a dark part and a bright part with high dynamic range under optimum exposure conditions. There is to do.

上記目的を達成するために、本発明の撮像装置は、被写体を測光して輝度値を検出する輝度値検出手段と、前記輝度値検出手段により検出された輝度値に基づき、第1露出条件と、前記第1露出条件よりも低露出側の第2露出条件とを演算する露出条件演算手段と、前記第1露出条件に対応する第1露出値と、前記第2露出条件に対応する第2露出値との差が、相対的に明るいシーンよりも、相対的に暗いシーンの方が小さくなるように、前記第2露出値を調整する露出調整手段と、前記露出調整手段の調整後における露出値と対応する露出条件を前記第1露出条件及び前記第2露出条件として設定する露出条件設定手段と、前記露出条件設定手段により設定された前記第1露出条件及び前記第2露出条件に従って撮像された撮像画像を合成して一つの合成画像を生成する合成画像生成手段とを備えたことを要旨とする。 To achieve the above object, an imaging apparatus of the present invention, a luminance value detecting means for detecting a luminance value by photometry of a subject, based on the detected brightness value by the brightness value detecting means, a first exposure condition , an exposure condition calculating means for calculating a second exposure conditions low-exposure side than the first exposure condition, a first exposure value corresponding to the first exposure condition, a second corresponding to the second exposure condition the difference between the exposure value, than relatively bright scenes, as towards the relatively dark scenes is reduced, and the exposure adjusting means for adjusting the second exposure value, the exposure after adjustment of the exposure adjustment means an exposure condition setting means for setting an exposure condition corresponding to the value as the first exposure condition and the second exposure condition, it is captured in accordance with the set first exposure condition and the second exposure condition by the exposure condition setting means Combine captured images And summarized in that and a synthesized image generating means for generating a single combined image Te.

また、本発明の撮像装置において、前記輝度値検出手段は、前記被写体を複数の分割領域毎に測光して領域毎の輝度値を検出し、前記露出条件演算手段は、前記輝度値検出手段により検出された各輝度値のうちの最大輝度値を含む一群の高輝度値中の一つの輝度値を第1輝度値として、前記第1輝度値に基づき前記第1露出条件を演算すると共に、前記各輝度値のうちの最小輝度値を含む一群の低輝度値中の一つの輝度値を第2輝度値として、前記第2輝度値に基づき前記第2露出条件を演算することを要旨とする。 In the imaging apparatus according to the aspect of the invention, the luminance value detection unit may measure the subject for each of a plurality of divided regions to detect a luminance value for each region, and the exposure condition calculation unit may include the luminance value detection unit. one of the luminance values in a group of high-luminance values including the maximum luminance value among the detected each luminance value as the first luminance value, thereby calculating the first exposure condition based on the first luminance value, the one of the luminance values in a group of low luminance values including a minimum luminance value out of the luminance value as the second luminance value, and summarized in that for calculating the second exposure condition based on the second luminance value.

また、本発明の撮像装置において、前記第1輝度値は前記一群の高輝度値中の前記最大輝度値であり、前記第2輝度値は前記一群の低輝度値中の前記最小輝度値であることを要旨とする。   In the imaging device of the present invention, the first luminance value is the maximum luminance value in the group of high luminance values, and the second luminance value is the minimum luminance value in the group of low luminance values. This is the gist.

また、本発明の画像生成プログラムは、コンピュータに、被写体を測光して輝度値を検出する輝度値検出手順と、前記輝度値検出手順により検出された輝度値に基づき、第1露出条件と、前記第1露出条件よりも低露出側の第2露出条件とを演算する露出条件演算手順と、前記第1露出条件に対応する第1露出値と、前記第2露出条件に対応する第2露出値との差が、相対的に明るいシーンよりも、相対的に暗いシーンの方が小さくなるように、前記第2露出値を調整する露出調整手順と、前記露出調整手順の調整後における露出値と対応する露出条件を前記第1露出条件及び前記第2露出条件として設定する露出条件設定手順と、前記露出条件設定手順により設定された前記第1露出条件及び前記第2露出条件に従って撮像された撮像画像を合成して一つの合成画像を生成する合成画像生成手順とを実行させることを要旨とする。 The image generation program of the present invention, the computer, the luminance value detecting step of detecting a luminance value by photometry of a subject, based on the detected brightness value by the brightness value detection procedure, the first exposure condition, the An exposure condition calculation procedure for calculating a second exposure condition on a lower exposure side than the first exposure condition, a first exposure value corresponding to the first exposure condition, and a second exposure value corresponding to the second exposure condition the difference between the, than relatively bright scenes, as towards the relatively dark scenes is reduced, and the exposure adjustment procedure for adjusting the second exposure value, an exposure value after the adjustment of the exposure adjustment procedure an exposure condition setting procedure for setting the corresponding exposure conditions as the first exposure condition and the second exposure condition, taken according to the set the first exposure condition and the second exposure condition by the exposure condition setting procedure imaging image Synthesized and summarized in that to execute the composite image generating step of generating a single composite image.

本発明によれば、暗部と明部とを有する被写体を最適露出条件でハイダイナミックレンジ撮影することができる。   According to the present invention, a subject having a dark part and a bright part can be photographed with a high dynamic range under an optimum exposure condition.

本実施形態のデジタルスチルカメラの概略構成を示すブロック図。1 is a block diagram showing a schematic configuration of a digital still camera according to an embodiment. 領域毎測光のために複数領域に分割された被写体画像の画面図。The screen figure of the to-be-photographed image divided | segmented into the several area | region for every area | region photometry. HDR撮影処理ルーチンのフローチャート。The flowchart of a HDR imaging | photography process routine. 本実施形態のデジタルスチルカメラにおける露出値と輝度値との関係を示すグラフ。The graph which shows the relationship between the exposure value and luminance value in the digital still camera of this embodiment.

以下、本発明を撮像装置としてのデジタルスチルカメラ(以下、「カメラ」という。)及びこのカメラを用いて被写体をハイダイナミックレンジ(HDR)撮影する場合の撮像方法に具体化した実施形態を図1〜図4に基づいて説明する。   FIG. 1 shows an embodiment in which the present invention is embodied in a digital still camera (hereinafter referred to as “camera”) as an imaging apparatus and an imaging method in the case of photographing a subject with high dynamic range (HDR) using the camera. Description will be made with reference to FIG.

図1に示すように、カメラ11は、ズームレンズなどの複数のレンズからなるレンズ部12(図1では図面の簡略化のため1つのレンズのみ図示)と、レンズ部12を通過した被写体光の光量を調整する絞り13と、その絞り13を通過した被写体光を撮像面となる入射側の受光面14aに結像させる撮像素子14とを有している。そして、撮像素子14
の出力側には、AFE(Analog Front End)15と画像処理回路16とが接続されると共に、その画像処理回路16に対してMPU(Micro Processing Unit)17がデータバス
18を介して接続されている。
As shown in FIG. 1, the camera 11 includes a lens unit 12 composed of a plurality of lenses such as a zoom lens (only one lens is shown in FIG. 1 for simplification of the drawing), and object light that has passed through the lens unit 12. A diaphragm 13 that adjusts the amount of light, and an imaging element 14 that forms an image of subject light that has passed through the diaphragm 13 on an incident-side light-receiving surface 14a that serves as an imaging surface. Then, the image sensor 14
An AFE (Analog Front End) 15 and an image processing circuit 16 are connected to the output side, and an MPU (Micro Processing Unit) 17 is connected to the image processing circuit 16 via a data bus 18. Yes.

また、MPU17には、カメラ11の制御プログラムを記憶した不揮発性メモリ19、バッファメモリとして機能するRAM20、表示手段として機能する液晶表示のモニタ21、及び記録媒体であるメモリカード22を挿脱可能なカードI/F(Inter-Face)23がデータバス18を介して接続されている。さらに、カメラ本体(図示略)には、そのカメラ11の使用者により操作されるモード切り替えボタンやレリーズボタン等からなる操作部材24が、MPU17に対して各々の操作信号(モード切替信号や半押し操作信号など)をデータ通信可能に設けられている。   In addition, a nonvolatile memory 19 that stores a control program for the camera 11, a RAM 20 that functions as a buffer memory, a liquid crystal display monitor 21 that functions as a display unit, and a memory card 22 that is a recording medium can be inserted into and removed from the MPU 17. A card I / F (Inter-Face) 23 is connected via a data bus 18. Further, on the camera body (not shown), an operation member 24 such as a mode switching button or a release button operated by a user of the camera 11 receives each operation signal (mode switching signal or half-pressed) from the MPU 17. The operation signal is provided so that data communication is possible.

撮像素子14は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、又はCCD(Charge Coupled Device)イメージセンサからなり、電子シャッター機能を有すると共に、その受光面14aには多数の受光素子(図示略)が二次元的に配列されている。そして、撮像素子14は、その受光面14aに結像した被写体像に対応した信号電荷を蓄積し、その蓄積した信号電荷を画像データの元となる画素信号と呼ばれるアナログ信号でAFE15に出力する。   The imaging element 14 is composed of a complementary metal oxide semiconductor (CMOS) image sensor or a charge coupled device (CCD) image sensor, has an electronic shutter function, and has a large number of light receiving elements (not shown) on its light receiving surface 14a. Dimensionally arranged. The image sensor 14 accumulates signal charges corresponding to the subject image formed on the light receiving surface 14a, and outputs the accumulated signal charges to the AFE 15 as analog signals called pixel signals that are the source of image data.

AFE15は、撮像素子14から入力したアナログ信号の画素信号を所定のタイミングでサンプリング(相関二重サンプリング)し、例えばISO感度に基づく所定信号レベルとなるように増幅する信号処理部(図示略)と、その増幅後の画素信号をデジタル信号に変換するA/D変換部(図示略)とを有している。そして、AFE15は、アナログ信号の画素信号をA/D変換部でデジタル化することにより生成した画像データを画像処理回路16に出力する。   The AFE 15 samples a pixel signal of an analog signal input from the image sensor 14 at a predetermined timing (correlated double sampling), and amplifies the signal to a predetermined signal level based on ISO sensitivity, for example. And an A / D converter (not shown) for converting the amplified pixel signal into a digital signal. The AFE 15 outputs image data generated by digitizing the pixel signal of the analog signal by the A / D conversion unit to the image processing circuit 16.

画像処理回路16は、AFE15から入力した画像データに対して、MPU17からの制御信号に基づき各種の画像処理を施す。そして、画像処理回路16は、そのように画像処理を施した画像データを、RAM20に一旦記憶させると共に、モニタ21にスルー画像として表示させる。なお、後述するHDR撮影モードで合成画像を生成する際には、RAM20に記憶した複数の画像を読み出して合成し、再度RAM20に記憶する。また、レリーズボタンが全押し操作された場合は、そのときの画像データと対応する画像をモニタ21に確認用画像として表示させる一方、例えばJPEG圧縮のためのフォーマット処理等の所定の画像処理を施した後に、メモリカード22に画像ファイルとして記録させる。   The image processing circuit 16 performs various image processing on the image data input from the AFE 15 based on a control signal from the MPU 17. Then, the image processing circuit 16 temporarily stores the image data subjected to such image processing in the RAM 20 and displays it on the monitor 21 as a through image. Note that when a composite image is generated in an HDR shooting mode to be described later, a plurality of images stored in the RAM 20 are read and combined, and stored in the RAM 20 again. When the release button is fully pressed, the image corresponding to the image data at that time is displayed on the monitor 21 as a confirmation image, and on the other hand, predetermined image processing such as format processing for JPEG compression is performed. After that, it is recorded as an image file in the memory card 22.

不揮発性メモリ19には、カメラ11の制御プログラム、カメラ11における露出条件である露出値(Exposure Value;EV値)の設定範囲を制限するために定められた露出連動範囲(露出条件設定範囲)の上限値RJ及び下限値RKと、後述する異常閾値、段数閾値及び設定閾値Sとが記憶されている(図4参照)。   The non-volatile memory 19 has an exposure interlocking range (exposure condition setting range) defined to limit the setting range of an exposure value (exposure value; EV value) that is an exposure condition in the camera 11 and a control program of the camera 11. An upper limit value RJ and a lower limit value RK, an abnormal threshold value, a stage number threshold value, and a setting threshold value S described later are stored (see FIG. 4).

MPU17は、不揮発性メモリ19に記憶された画像生成プログラムなどの制御プログラムに基づきカメラ11における各種の処理動作(例えばHDR撮影処理等)を統括的に制御する。そして、データバス18は、そうしたMPU17の制御に伴う各種データの伝送路として機能する。また、操作部材24におけるモード切り替えボタンは、カメラ11の動作モードを切り替える場合に操作されるボタンであって、例えば撮影モードを通常撮影モードとHDR撮影モードとの間で切り替える場合に操作される。一方、レリーズボタンは、カメラ11の動作モードが撮影モードである場合において被写体を撮影するときに押し下げ操作される。   The MPU 17 comprehensively controls various processing operations (for example, HDR imaging processing) in the camera 11 based on a control program such as an image generation program stored in the nonvolatile memory 19. The data bus 18 functions as a transmission path for various data accompanying the control of the MPU 17. The mode switching button on the operation member 24 is a button that is operated when the operation mode of the camera 11 is switched. For example, the mode switching button is operated when the shooting mode is switched between the normal shooting mode and the HDR shooting mode. On the other hand, the release button is pressed down when shooting the subject when the operation mode of the camera 11 is the shooting mode.

そして、このカメラ11では、通常撮影モードにおいて操作部材24のレリーズボタンが半押し操作された段階で被写体に対する焦点合わせのためのAF(Auto Focus)処理と露出調整のためのAE(Auto Exposure)処理が実行され、その後にレリーズボタンが全押し操作された段階で画像の生成処理が実行されるようになっている。一方、このカメラ11では、HDR撮影モードにおいて操作部材24のレリーズボタンが半押し操作されたときは、通常撮影モードの場合のAE処理及び合成画像生成処理とは異なるHDR撮影用のAE処理及び合成画像生成処理が実行されるようになっている。   In the camera 11, AF (Auto Focus) processing for focusing on the subject and AE (Auto Exposure) processing for exposure adjustment when the release button of the operation member 24 is half-pressed in the normal shooting mode. After that, the image generation process is executed when the release button is fully pressed. On the other hand, in this camera 11, when the release button of the operation member 24 is half-pressed in the HDR shooting mode, the AE processing and synthesis for HDR shooting different from the AE processing and the combined image generation processing in the normal shooting mode are performed. Image generation processing is executed.

すなわち、HDR撮影モードの場合には、図2に示す画像25における被写体のように暗部と明部とを有する同一の被写体をHDR撮影する際に必要な高露出側の第1露出条件と低露出側の第2露出条件を決定するためのAE処理が実行される。因みに、図2の画像25は、太陽26が山27の左側上方に位置しているために山麓にある湖28の湖面が湖畔の立木29の日陰になって暗くなった風景を被写体とするものである。そのため、この画像25では、明るい太陽26が領域内に位置する領域Aと領域Eは明部になる一方、湖面が日陰の湖28が領域内に位置する領域Pと太陽26を背にした立木29が領域内に位置する領域Lは暗部となる。   That is, in the HDR shooting mode, the first exposure condition on the high exposure side and the low exposure necessary for HDR shooting of the same subject having a dark part and a bright part like the subject in the image 25 shown in FIG. AE processing for determining the second exposure condition on the side is executed. Incidentally, the image 25 in FIG. 2 has a subject in which the sun 26 is located on the upper left side of the mountain 27 and the surface of the lake 28 at the foot of the mountain is shaded by the trees 29 on the lakeside and becomes dark. It is. Therefore, in this image 25, the area A and the area E in which the bright sun 26 is located in the area are bright parts, while the area P in which the lake surface 28 is located in the area and the standing tree with the sun 26 in the back A region L where 29 is located in the region is a dark part.

なお、図2に示す画像25の被写体からの光を領域A〜P毎に測光して領域A〜P毎の輝度値を検出した場合は、左上隅の領域A内に太陽26の大半が位置しているため、この左上隅の領域Aの輝度値が最大輝度値となる。そして、その領域Aの直ぐ下の領域E内には太陽26の一部分が位置しているため、この領域Eの輝度値は最大輝度値に準じる高輝度の輝度値となる。したがって、この画像25内の被写体では、領域Aの輝度値と領域Eの輝度値により最大輝度値を含む一群の高輝度値が構成されている。   When the light from the subject of the image 25 shown in FIG. 2 is measured for each of the areas A to P and the luminance value is detected for each of the areas A to P, most of the sun 26 is located in the area A in the upper left corner. Therefore, the luminance value of the area A in the upper left corner is the maximum luminance value. Since a part of the sun 26 is located in the region E immediately below the region A, the luminance value of the region E is a high luminance value according to the maximum luminance value. Accordingly, in the subject in the image 25, a group of high luminance values including the maximum luminance value is constituted by the luminance value of the region A and the luminance value of the region E.

その一方、右下隅の領域P内には日陰で湖面が暗い湖28が位置しているため、この右下隅の領域Pの輝度値が最小輝度値となる。そして、この領域Pの直ぐ上の領域L内には湖畔の立木29が太陽26からの光を背にした(具体的には左側後方から受けた)状態で位置しているため、この領域Lの輝度値は最小輝度値に準じる低輝度の輝度値となる。したがって、この画像25内の被写体では、領域Pの輝度値と領域Lの輝度値により最小輝度値を含む一群の低輝度値が構成されている。   On the other hand, since the lake 28 with a dark lake surface is located in the area P in the lower right corner, the luminance value of the area P in the lower right corner becomes the minimum luminance value. In the region L immediately above the region P, the standing tree 29 on the lakeside is located with the light from the sun 26 in the back (specifically, received from the rear left side). Is a low-brightness luminance value according to the minimum luminance value. Therefore, in the subject in the image 25, a group of low luminance values including the minimum luminance value is constituted by the luminance value of the region P and the luminance value of the region L.

そして、本実施形態の場合は、暗部と明部とを有する被写体画像における領域A〜P毎の輝度値に基づき第1露出条件と第2露出条件が決定されると、その暗部(領域P,L)と明部(領域A,E)とを有する同一の被写体が第1露出条件と第2露出条件とで連続撮影されるようになっている。因みに、本実施形態の場合は、撮像素子14の電子シャッター速度が調整されることによりHDR撮影用のAE処理が実行される。具体的には、連続撮影のための電子シャッター速度として、第1露出条件となる高速側の第1シャッター速度と、第2露出条件となる低速側の第2シャッター速度が設定されるようになっている。   In the case of the present embodiment, when the first exposure condition and the second exposure condition are determined based on the luminance value for each of the areas A to P in the subject image having the dark part and the bright part, the dark part (area P, L) and the same subject having bright portions (areas A and E) are continuously photographed under the first exposure condition and the second exposure condition. Incidentally, in the case of the present embodiment, the AE process for HDR imaging is executed by adjusting the electronic shutter speed of the image sensor 14. Specifically, the first shutter speed on the high speed side that is the first exposure condition and the second shutter speed on the low speed side that is the second exposure condition are set as the electronic shutter speed for continuous shooting. ing.

そして、その後にレリーズボタンが全押し操作されたときには、暗部(領域P,L)と明部(領域A,E)とを有する同一の被写体を第1シャッター速度(第1露出条件)と第2シャッター速度(第2露出条件)とで連続撮影して得た2つの撮像画像を合成することによって一つの合成画像が生成されるようになっている。   After that, when the release button is fully pressed, the same subject having the dark part (areas P and L) and the bright part (areas A and E) is set to the first shutter speed (first exposure condition) and the second. One composite image is generated by combining two captured images obtained by continuous shooting at the shutter speed (second exposure condition).

そこで次に、このカメラ11を用いて暗部と明部とを有する被写体をHDR撮影する際にMPU17が実行するHDR撮影処理ルーチン(画像生成プログラム)の概要について、図3のフローチャートを参照しながら以下説明する。   Therefore, next, an outline of an HDR imaging processing routine (image generation program) executed by the MPU 17 when HDR imaging of a subject having a dark part and a bright part using the camera 11 will be described below with reference to the flowchart of FIG. explain.

さて、MPU17は、カメラ11の動作モードが撮影モードである場合において、操作部材24のモード切り替えボタンが操作されることにより、撮影モードが通常撮影モードからHDR撮影モードに切り替えられると、図3のフローチャートに示すHDR撮影処理ルーチンを開始する。   When the shooting mode is switched from the normal shooting mode to the HDR shooting mode by operating the mode switching button of the operation member 24 when the operation mode of the camera 11 is the shooting mode, the MPU 17 in FIG. The HDR imaging processing routine shown in the flowchart is started.

そして先ず、ステップS11において、MPU17は、操作部材24のレリーズボタンが半押しされたか否かを判定する。ステップS11の判定結果が否定判定(ステップS11=NO)である場合、MPU17は、このステップS11の判定を周期的に繰り返す。そして、このステップS11の判定結果が肯定判定(ステップS11=YES)になると、MPU17は、その処理を次のステップS12に移行する。   First, in step S11, the MPU 17 determines whether or not the release button of the operation member 24 is half-pressed. When the determination result in step S11 is negative (step S11 = NO), the MPU 17 periodically repeats the determination in step S11. And if the determination result of this step S11 becomes affirmation determination (step S11 = YES), MPU17 will transfer the process to the following step S12.

そして、次のステップS12において、MPU17は、その時点でモニタ21にスルー画像として表示されている被写体画像における領域A〜P毎の輝度値を検出する。具体的には、撮像素子14で得られたR,G,Bの画像データから輝度信号Yと色差信号Cr,Cbとを分離した上で、その輝度信号Yを領域A〜P毎に積算することにより領域A〜P毎の輝度値を検出する。この点で、MPU17は、輝度値検出手順を実行する輝度値検出手段として機能する。そして、全ての領域A〜Pにおける輝度値を検出すると、MPU17は、検出した各輝度値を領域A〜P毎に対応させてRAM20に一時記憶させた後、その処理を次のステップS13に移行する。   In the next step S12, the MPU 17 detects the luminance value for each of the areas A to P in the subject image displayed as a through image on the monitor 21 at that time. Specifically, the luminance signal Y and the color difference signals Cr and Cb are separated from the R, G, and B image data obtained by the image sensor 14, and the luminance signal Y is integrated for each of the regions A to P. Thus, the luminance value for each of the areas A to P is detected. In this respect, the MPU 17 functions as a luminance value detection unit that executes a luminance value detection procedure. When the luminance values in all the areas A to P are detected, the MPU 17 temporarily stores the detected luminance values in the RAM 20 in association with the areas A to P, and then proceeds to the next step S13. To do.

そして、次のステップS13において、MPU17は、先のステップS12で検出した領域A〜P毎の各輝度値の中に異常値があるか否かを判定する。具体的には、検出された全ての輝度値の平均値を算出すると共に、その平均値との数値差が予め不揮発性メモリ19に記憶した異常閾値を超える輝度値(異常値)があるか否かを判定する。そして、ステップS13の判定結果が肯定判定(ステップS13=YES)である場合、MPU17は、その処理を次のステップS14に移行する。   In the next step S13, the MPU 17 determines whether or not there is an abnormal value in each luminance value for each of the areas A to P detected in the previous step S12. Specifically, an average value of all detected luminance values is calculated, and whether there is a luminance value (abnormal value) whose numerical difference from the average value exceeds an abnormal threshold value stored in advance in the nonvolatile memory 19. Determine whether. And when the determination result of step S13 is affirmation determination (step S13 = YES), MPU17 transfers the process to the following step S14.

そして、次のステップS14において、MPU17は、先のステップS12で検出した領域A〜P毎の各輝度値の中からステップS13で異常値と判定された輝度値を除外し、その処理を次のステップS15に移行する。一方、ステップS13の判定結果が否定判定(ステップS13=NO)である場合、MPU17は、ステップS14を経由することなく、その処理をステップS15に直接移行する。   Then, in the next step S14, the MPU 17 excludes the luminance value determined to be an abnormal value in step S13 from the luminance values for each of the areas A to P detected in the previous step S12, and performs the following processing. The process proceeds to step S15. On the other hand, when the determination result of step S13 is negative (step S13 = NO), the MPU 17 directly shifts the process to step S15 without going through step S14.

そして、次のステップS15において、MPU17は、先のステップS14で除外された後の残りの各輝度値の中から第1露出条件と第2露出条件とを決定するための輝度値となる第1輝度値と第2輝度値とを選択する。本実施形態の場合は、先のステップS14で異常値が除外された後の残りの各輝度値のうち輝度が最大の一つの高輝度値が第1輝度値に選択されると共に、残りの各輝度値のうち輝度が最小の一つの低輝度値が第2輝度値に選択される。その後、MPU17は、これらの第1輝度値及び第2輝度値をRAM20に一時記憶させた後、その処理を次のステップS16に移行する。   Then, in the next step S15, the MPU 17 becomes the first luminance value for determining the first exposure condition and the second exposure condition from the remaining luminance values after being excluded in the previous step S14. A luminance value and a second luminance value are selected. In the case of the present embodiment, one high luminance value having the maximum luminance is selected as the first luminance value among the remaining luminance values after the abnormal value is excluded in the previous step S14, and each remaining luminance value is selected. One low luminance value having the minimum luminance among the luminance values is selected as the second luminance value. Thereafter, the MPU 17 temporarily stores the first luminance value and the second luminance value in the RAM 20, and then proceeds to the next step S16.

そして、次のステップS16において、MPU17は、第1輝度値(例えば、領域Aの最大輝度値)及び第2輝度値(例えば、領域Pの最小輝度値)に基づき第1露出条件及び第2露出条件を演算する。この点で、MPU17は、露出条件演算手順を実行する露出条件演算手段として機能する。そして、このステップS16の処理が終了すると、MPU17は、その処理を次のステップS17に移行する。   In the next step S16, the MPU 17 determines the first exposure condition and the second exposure based on the first luminance value (for example, the maximum luminance value of the region A) and the second luminance value (for example, the minimum luminance value of the region P). Calculate the condition. In this respect, the MPU 17 functions as an exposure condition calculation unit that executes an exposure condition calculation procedure. Then, when the process of step S16 ends, the MPU 17 proceeds to the next step S17.

そして、次のステップS17において、MPU17は、第1輝度値(例えば、領域Aの最大輝度値)に基づき算出される第1露出条件が対応する第1露出段数と第2輝度値(例えば、領域Pの最小輝度値)に基づき算出される第2露出条件が対応する第2露出段数との段数差が、予め不揮発性メモリ19に記憶した段数閾値(本実施形態では3段)以上であるか否かを判定する。そして、このステップS17の判定結果が肯定判定(ステップS17=YES)である場合、MPU17は、その処理を次のステップS18に移行する。   Then, in the next step S17, the MPU 17 determines the first exposure step number and the second luminance value (for example, the region) corresponding to the first exposure condition calculated based on the first luminance value (for example, the maximum luminance value of the region A). Whether the difference in the number of steps from the second number of exposure steps corresponding to the second exposure condition calculated based on the minimum brightness value of P is equal to or greater than the step number threshold value (three steps in the present embodiment) stored in the nonvolatile memory 19 in advance. Determine whether or not. And when the determination result of this step S17 is affirmation determination (step S17 = YES), MPU17 transfers the process to the following step S18.

そして、次のステップS18において、MPU17は、図4に示すように、露出値が、予め不揮発性メモリ19に記憶された設定閾値Sよりも低い側において第1露出段数と第2露出段数との段数差が段数閾値未満(本実施形態では2段)となるように、第2露出段数を調整する。この点で、MPU17は、露出調整手順を実行する露出調整手段として機能する。   Then, in the next step S18, as shown in FIG. 4, the MPU 17 sets the first exposure step number and the second exposure step number on the side where the exposure value is lower than the preset threshold value S stored in the nonvolatile memory 19 in advance. The second exposure step number is adjusted so that the step number difference is less than the step number threshold (two steps in this embodiment). In this respect, the MPU 17 functions as an exposure adjustment unit that executes an exposure adjustment procedure.

具体的には、第1輝度値に基づいて算出される第1露出条件が対応する第1露出段数はそのままで、第2輝度値に基づき算出される第2露出条件が対応する第2露出段数の方を、設定閾値Sと露出連動範囲の下限値RKとの間で第1露出段数に近づける。したがって、露出連動範囲内において、設定閾値Sよりも低い側における第1露出条件が対応する第1露出段数と第2露出条件が対応する第2露出段数との段数差(2段)が、設定閾値Sよりも高い側における第1露出条件が対応する第1露出段数と第2露出条件が対応する第2露出段数との段数差(3段)よりも小さくなる。なお、設定閾値Sは、露出連動範囲内における上限値RJと下限値RKとの中間値よりも高い側の1つの値(本実施形態ではEV値12)に設定されている。   Specifically, the first exposure step number corresponding to the first exposure condition calculated based on the first luminance value is maintained, and the second exposure step number corresponding to the second exposure condition calculated based on the second luminance value is maintained. This is made closer to the first exposure step number between the set threshold S and the lower limit value RK of the exposure interlocking range. Accordingly, in the exposure interlocking range, the difference in the number of steps (two steps) between the first exposure step number corresponding to the first exposure condition and the second exposure step number corresponding to the second exposure condition on the side lower than the set threshold S is set. The difference is smaller than the difference (three steps) between the number of first exposure steps corresponding to the first exposure condition on the side higher than the threshold S and the number of second exposure steps corresponding to the second exposure condition. The setting threshold S is set to one value (EV value 12 in this embodiment) on the higher side than the intermediate value between the upper limit value RJ and the lower limit value RK in the exposure interlocking range.

そして、このように設定閾値Sよりも低い側において第1露出段数と第2露出段数との段数差が2段となるように調整された後の第2露出段数をRAM20に一時記憶させた後、MPU17は、その処理を次のステップS19に移行する。一方、先のステップS17の判定結果が否定判定(ステップS17=NO)である場合、MPU17は、ステップS18を経由することなく、その処理をステップS19に直接移行する。   After the second exposure step number after the adjustment so that the difference in the step number between the first exposure step number and the second exposure step number is two on the side lower than the set threshold value S is temporarily stored in the RAM 20. The MPU 17 proceeds to the next step S19. On the other hand, if the determination result of the previous step S17 is negative (step S17 = NO), the MPU 17 proceeds directly to step S19 without going through step S18.

そして、次のステップS19において、MPU17は、段数差が設定閾値Sを境に変化する関係にある第1露出段数と第2露出段数とに基づき第1露出条件となる第1シャッター速度と第2露出条件となる第2シャッター速度とを連続撮影時における撮像素子14における電子シャッター速度として設定する。この点で、MPU17は、露出条件設定手順を実行する露出条件設定手段として機能する。そして、このステップS19の処理が終了すると、MPU17は、その処理を次のステップS20に移行する。   Then, in the next step S19, the MPU 17 determines the first shutter speed and the second shutter speed as the first exposure condition based on the first exposure step number and the second exposure step number in which the step number difference changes with the set threshold value S as a boundary. The second shutter speed as an exposure condition is set as the electronic shutter speed in the image sensor 14 during continuous shooting. In this respect, the MPU 17 functions as an exposure condition setting unit that executes an exposure condition setting procedure. Then, when the process of step S19 ends, the MPU 17 proceeds to the next step S20.

そして、次のステップS20において、MPU17は、操作部材24のレリーズボタンが全押しされたか否かを判定する。ステップS20の判定結果が否定判定(ステップS20=NO)である場合、MPU17は、このステップS20の判定を周期的に繰り返す。そして、ステップS20の判定結果が肯定判定(ステップS20=YES)になると、MPU17は、その処理を次のステップS21に移行する。   In the next step S20, the MPU 17 determines whether or not the release button of the operation member 24 has been fully pressed. When the determination result in step S20 is negative (step S20 = NO), the MPU 17 periodically repeats the determination in step S20. And if the determination result of step S20 becomes affirmation determination (step S20 = YES), MPU17 will transfer the process to the following step S21.

そして、次のステップS21において、MPU17は、撮像素子14の電子シャッター機能により被写体を第1シャッター速度と第2シャッター速度で連続撮影して得られた2つの撮像画像の画像データを画像処理回路16において合成させることにより一つの合成画像を生成する。この点で、MPU17と画像処理回路16は、合成画像生成手順を実行する合成画像生成手段として機能する。そして、そのような画像処理により生成した合成画像をモニタ21に確認用画像として表示させた後、その画像の画像データをファイル化してメモリカード22に記憶させると、MPU17は、以上のHDR撮影処理ルーチンを終了する。   In the next step S21, the MPU 17 uses the image processing circuit 16 to obtain image data of two captured images obtained by continuously photographing the subject at the first shutter speed and the second shutter speed by the electronic shutter function of the image sensor 14. One synthesized image is generated by synthesizing at. In this respect, the MPU 17 and the image processing circuit 16 function as a composite image generation unit that executes a composite image generation procedure. Then, after the composite image generated by such image processing is displayed on the monitor 21 as a confirmation image, the image data of the image is filed and stored in the memory card 22, and the MPU 17 performs the above HDR imaging processing. End the routine.

なお、HDR撮影モードで複数の画像の合成を行なう際には、合成する画像間のズレを検出し、被写体像が一致するように少なくとも一枚の画像をシフトさせて合成させる。画像間のズレは、例えば、画像間の動きベクトルを解析して検出してもよく、その他の方法を用いてもよい。   When combining a plurality of images in the HDR shooting mode, a shift between images to be combined is detected, and at least one image is shifted and combined so that the subject images match. For example, the displacement between images may be detected by analyzing a motion vector between images, or other methods may be used.

次に、以上のように構成された本実施形態のカメラ11の作用について、特に、暗部と明部とを有する被写体をHDR撮影する場合の撮像方法に着目して以下説明する。
なお、説明の前提として、この場合にカメラ11で撮影する画像は図2に示す風景の画像25であって、既述したように、その画像25における被写体画像は暗部と明部を有しているものとする。そして、その被写体画像を16個の領域A〜Pに分割した場合における領域A〜P毎の輝度値については、領域内に太陽26の大半が位置する左上隅の領域Aの輝度値が最大輝度値である一方、領域内に日陰で湖面が暗い湖28が位置する右下隅の領域Pの輝度値が最小輝度値であるものとする。さらに、操作部材24におけるモード切り替えボタンが操作されたことにより撮影モードは通常撮影モードからHDR撮影モードに切り替えられているものとする。
Next, the operation of the camera 11 according to the present embodiment configured as described above will be described below, particularly focusing on an imaging method in the case of subjecting a subject having a dark part and a bright part to HDR imaging.
Note that, as a premise of the description, the image captured by the camera 11 in this case is the landscape image 25 shown in FIG. 2, and as described above, the subject image in the image 25 has a dark part and a bright part. It shall be. And about the brightness | luminance value for every area | region AP in the case where the to-be-photographed image is divided | segmented into 16 area | region AP, the brightness | luminance value of the area | region A of the upper left corner where most of the sun 26 is located in an area | region is maximum brightness | luminance. On the other hand, it is assumed that the luminance value of the area P in the lower right corner where the lake 28 with a dark lake surface is located in the area is the minimum luminance value. Furthermore, it is assumed that the shooting mode is switched from the normal shooting mode to the HDR shooting mode by operating the mode switching button on the operation member 24.

さて、以上のような前提の下、カメラ11のレンズ部12を被写体となる山27の方向に向けると、山麓に湖28と立木29がある山27の稜線の左側上方に太陽26が昇った状態にある風景がスルー画像としてモニタ21に表示される。そして、その状態で、カメラ11の使用者により、レリーズボタンが半押しされると、AF処理が実行されると共に、HDR撮影用のAE処理として電子シャッター機能を有する撮像素子14における連続撮影時のシャッター速度が設定される。   Under the above premise, when the lens unit 12 of the camera 11 is directed toward the mountain 27 as a subject, the sun 26 rises above the left side of the ridgeline of the mountain 27 where the lake 28 and the standing tree 29 are located at the foot of the mountain. The scenery in the state is displayed on the monitor 21 as a through image. When the release button is half-pressed by the user of the camera 11 in this state, AF processing is executed and at the time of continuous shooting in the image sensor 14 having an electronic shutter function as AE processing for HDR shooting. The shutter speed is set.

すなわち、被写体画像における各領域A〜Pの輝度値のうち領域Aの輝度値である最大輝度値に基づき高速側の第1シャッター速度(高露出側の第1露出条件)が設定される。また、被写体画像における各領域A〜Pの輝度値のうち領域Pの輝度値である最小輝度値に基づき低速側の第2シャッター速度(低露出側の第2露出条件)が設定される。   That is, the first shutter speed on the high speed side (first exposure condition on the high exposure side) is set based on the maximum luminance value that is the luminance value of the area A among the luminance values of the areas A to P in the subject image. Further, the second shutter speed on the low speed side (second exposure condition on the low exposure side) is set based on the minimum luminance value that is the luminance value of the area P among the luminance values of the areas A to P in the subject image.

なお、この場合における第1シャッター速度の露出段数と第2シャッター速度の露出段数との段数差が段数閾値(3段)以上であると、その段数差が露出連動範囲内における設定閾値SよりもEV値が低い側で段数閾値未満(2段)となるように、第2シャッター速度の露出段数が第1シャッター速度の露出段数に近づけられる。そして、そのような段数差の調整が行なわれた後の露出段数と対応した各シャッター速度が連続撮影用の第1シャッター速度及び第2シャッター速度として設定される。   In this case, if the step difference between the number of exposure steps of the first shutter speed and the number of exposure steps of the second shutter speed is equal to or greater than the step number threshold (three steps), the difference in step number is larger than the set threshold S in the exposure interlocking range. The exposure step number at the second shutter speed is brought closer to the exposure step number at the first shutter speed so that the EV value is less than the step number threshold (two steps) on the low side. Then, each shutter speed corresponding to the number of exposure steps after such adjustment of the step number difference is set as the first shutter speed and the second shutter speed for continuous shooting.

ここで、例えば、第1シャッター速度の露出段数と第2シャッター速度の露出段数との段数差が露出連動範囲内の全域に亘って3段であった場合には、露出連動範囲における設定閾値Sよりも高い側(輝度値が高い側)の領域では適正露出値となるが、設定閾値Sよりも低い側(輝度値が中程度〜低い側)の領域では露出オーバーとなる可能性がある。これは、被写体画像の輝度値が高い場合(被写体画像の明るさが明るい場合)における明部と暗部との差に比べて、被写体画像の輝度値が中程度〜低い場合(被写体画像の明るさが通常〜暗い場合)における明部と暗部との差の方が小さいからである。   Here, for example, when the difference in the number of steps between the exposure step number of the first shutter speed and the exposure step number of the second shutter speed is three steps throughout the exposure interlocking range, the set threshold value S in the exposure interlocking range. In the region on the higher side (the luminance value is higher), the appropriate exposure value is obtained, but in the region on the lower side (the luminance value is in the middle to lower side), there is a possibility that the exposure is overexposed. This is because the brightness value of the subject image is moderate to low (the brightness of the subject image) compared to the difference between the bright part and the dark part when the brightness value of the subject image is high (when the brightness of the subject image is bright). This is because the difference between the bright part and the dark part in the case of normal to dark is smaller.

この点、本実施形態では、上述のように露出連動範囲内における設定閾値SよりもEV値が低い側で第2シャッター速度の露出段数を第1シャッター速度の露出段数に近づけることによってこれら両露出段数の段数差の調整が行われるため、被写体画像の輝度値が中〜低い場合でも、露出オーバーになることが効果的に抑制される。   In this regard, in the present embodiment, as described above, both exposures are performed by bringing the exposure step number of the second shutter speed closer to the exposure step number of the first shutter speed on the side where the EV value is lower than the set threshold value S within the exposure interlocking range. Since the difference in the number of steps is adjusted, overexposure is effectively suppressed even when the luminance value of the subject image is medium to low.

また、シャッター速度(露出条件)の算出基礎となる各領域A〜Pの輝度値に関して、全領域の平均輝度値との数値差が異常閾値を超える輝度値を検出したときには、その領域の輝度値はHDR撮影に用いるシャッター速度の算出基礎には不適な異常値であるとして除外される。そして、こうした異常値を除外した残りの各輝度値に基づき第1シャッター速度及び第2シャッター速度が決定される。   In addition, regarding the luminance value of each of the areas A to P, which is the basis for calculating the shutter speed (exposure condition), when a luminance value with a numerical difference from the average luminance value of all areas exceeding the abnormal threshold is detected, the luminance value of that area Are excluded as abnormal values that are inappropriate for the basis of calculation of the shutter speed used for HDR imaging. Then, the first shutter speed and the second shutter speed are determined based on the remaining luminance values excluding such abnormal values.

そして、このように第1シャッター速度及び第2シャッター速度が設定された後において、カメラ11のレリーズボタンが全押しされると、被写体画像が第1シャッター速度と第2シャッター速度で連続撮影される。その際、第1シャッター速度は、その被写体画像では明部となる領域Aの輝度値(最大輝度値)に適合した露出条件となるシャッター速度であるため、かかる第1シャッター速度で撮影された第1撮像画像には白とびの発生もほとんど無い。同様に、第2シャッター速度は、その被写体画像で暗部となる領域Pの輝度値(最小輝度値)に適合した露出条件となるシャッター速度であるため、かかる第2シャッター速度で撮影された第2撮像画像には黒つぶれの発生もほとんど無い。   Then, after the first shutter speed and the second shutter speed are set as described above, when the release button of the camera 11 is fully pressed, the subject image is continuously photographed at the first shutter speed and the second shutter speed. . At that time, since the first shutter speed is a shutter speed that is an exposure condition suitable for the luminance value (maximum luminance value) of the area A that is a bright portion in the subject image, the first shutter speed is the first shutter speed. There is almost no occurrence of overexposure in one captured image. Similarly, since the second shutter speed is a shutter speed that is an exposure condition suitable for the luminance value (minimum luminance value) of the dark area P in the subject image, the second shutter speed photographed at the second shutter speed is used. There is almost no blackening in the captured image.

そして、そのような連続撮影により得られた第1撮像画像と第2撮影画像が合成された一つの合成画像がMPU17の制御に基づき画像処理回路16において生成される。すると、暗部が黒つぶれすることなく、また、明部が白飛びしていない一つの合成画像が生成され、その合成画像がメモリカード22に記憶保存される。   Then, one composite image obtained by combining the first captured image and the second captured image obtained by such continuous shooting is generated in the image processing circuit 16 based on the control of the MPU 17. Then, a single composite image is generated in which the dark portion is not blacked out and the bright portion is not overexposed, and the composite image is stored and saved in the memory card 22.

以上のような本実施形態によれば、以下のような効果を得ることができる。
(1)第1シャッター速度の露出段数と第2シャッター速度の露出段数との段数差は、設定閾値Sよりも露出値(EV値)が低い側の方が、設定閾値Sよりも露出値が高い側よりも小さくなるように、第2シャッター速度の露出段数を第1シャッター速度の露出段数に近づけることで調整される。このため、設定閾値Sを適宜変更することで、暗部と明部とを有する被写体画像の輝度の高さにかかわらず、その輝度(明るさ)に応じた最適露出条件でHDR撮影することができる。
According to the present embodiment as described above, the following effects can be obtained.
(1) The difference between the number of exposure steps at the first shutter speed and the number of exposure steps at the second shutter speed is such that the exposure value (EV value) lower than the setting threshold S has an exposure value lower than the setting threshold S. Adjustment is made by bringing the number of exposure steps of the second shutter speed closer to the number of exposure steps of the first shutter speed so as to be smaller than the higher side. For this reason, by appropriately changing the setting threshold S, HDR shooting can be performed under the optimum exposure condition corresponding to the luminance (brightness) regardless of the luminance level of the subject image having the dark part and the bright part. .

(2)設定閾値Sが露出連動範囲内における上限値RJと下限値RKとの中間値よりも露出値が高い側に設定された1つの値に設定されているため、被写体画像の輝度値が高い場合だけでなく中程度〜低い場合でも、露出オーバーになることを効果的に抑制することができる。   (2) Since the set threshold value S is set to one value that is set to a higher exposure value than the intermediate value between the upper limit value RJ and the lower limit value RK in the exposure interlocking range, the luminance value of the subject image is Overexposure can be effectively suppressed not only in the case of high but also in the case of medium to low.

(3)被写体の画像における実際の輝度値(第1輝度値及び第2輝度値)に基づきHDR撮影用の各露出条件として高速側の第1シャッター速度及び低速側の第2シャッター速度を設定しているので、暗部と明部とを有する被写体を暗部と明部との明暗比に応じた最適露出条件でHDR撮影することができる。   (3) The first shutter speed on the high speed side and the second shutter speed on the low speed side are set as the exposure conditions for HDR shooting based on the actual luminance values (first luminance value and second luminance value) in the image of the subject. Therefore, it is possible to perform HDR imaging of an object having a dark part and a bright part under an optimal exposure condition corresponding to the contrast ratio between the dark part and the bright part.

(4)暗部(領域P)と明部(領域A)とを有する被写体の画像における複数の分割領域A〜P毎の輝度値を検出した上で、明部の輝度値に基づき高露出用の第1露出条件を設定すると共に、暗部の輝度値に基づき低露出用の第2露出条件を設定している。そのため、暗部と明部とを有する被写体を暗部と明部との実際の明暗比に応じた最適露出条件で、より一層好適にHDR撮影することができる。   (4) After detecting the luminance value for each of the plurality of divided areas A to P in the image of the subject having the dark part (area P) and the bright part (area A), the high-exposure value is obtained based on the luminance value of the bright part. The first exposure condition is set, and the second exposure condition for low exposure is set based on the luminance value of the dark part. Therefore, it is possible to more suitably perform HDR shooting of an object having a dark part and a bright part under an optimal exposure condition corresponding to an actual light / dark ratio between the dark part and the bright part.

(5)高露出側の第1露出条件の算出基礎となる第1輝度値として最も明るい領域Aの輝度値である最大輝度値を用いると共に、低露出側の第2露出条件の算出基礎となる第2輝度値として最も暗い領域Pの輝度値である最小輝度値を用いるようにしている。そのため、明暗比に応じた露出条件の設定を簡便に行なうことができる。   (5) The maximum luminance value, which is the luminance value of the brightest region A, is used as the first luminance value that is the basis for calculating the first exposure condition on the high exposure side, and is the basis for calculating the second exposure condition on the low exposure side. The minimum luminance value that is the luminance value of the darkest region P is used as the second luminance value. Therefore, it is possible to easily set the exposure condition according to the light / dark ratio.

(6)領域A〜P毎の輝度値を検出した場合において、平均輝度値から大きく乖離した異常値の輝度値がある場合には、そうした異常な輝度値を除外し、残りの各輝度値中から第1及び第2露出条件の算出基礎となる第1及び第2輝度値を選択するようにしている。そのため、異常な露出条件を設定してしまう虞を抑制することができる。   (6) When the luminance value for each of the regions A to P is detected, if there is an abnormal luminance value greatly deviating from the average luminance value, such abnormal luminance value is excluded, and the remaining luminance values The first and second luminance values that are the basis for calculating the first and second exposure conditions are selected. Therefore, the possibility of setting abnormal exposure conditions can be suppressed.

(7)本実施形態では、露出条件である露出値を決定する場合の三要素であるシャッター速度、絞り値及びISO感度のうちシャッター速度で露出段数を設定するようにしている。そのため、絞り値やISO感度で露出条件を設定する場合との対比において、被写界深度が変わったり色かけが生じたりする虞を抑制しつつ簡単に露出条件を設定することができる。   (7) In this embodiment, the number of exposure steps is set by the shutter speed among the shutter speed, aperture value, and ISO sensitivity, which are the three elements when determining the exposure value that is the exposure condition. Therefore, in contrast to the case where the exposure condition is set based on the aperture value or ISO sensitivity, the exposure condition can be easily set while suppressing the possibility that the depth of field changes or coloration occurs.

なお、上記実施形態は以下のような別の実施形態に変更してもよい。
・第1露出条件及び第2露出条件は、被写体画像の平均輝度値に対応する露出段数(露出値)に対して予め設定した露出段数分だけ加算及び減算した各露出段数にそれぞれ対応させて設定するようにしてもよい。すなわち、被写体画像の暗部及び明部のそれぞれの輝度値を実測することなく、被写体画像の平均輝度値に基づいて該被写体画像の暗部及び明部の露出段数をそれぞれ機械的に算出し、その算出した各露出段数に基づき第1露出条件及び第2露出条件をそれぞれ設定するようにしてもよい。
The above embodiment may be changed to another embodiment as described below.
The first exposure condition and the second exposure condition are set to correspond to each exposure step number obtained by adding and subtracting a predetermined exposure step number to the exposure step number (exposure value) corresponding to the average luminance value of the subject image. You may make it do. That is, without actually measuring the luminance values of the dark and bright portions of the subject image, the number of exposure steps of the dark and bright portions of the subject image is mechanically calculated based on the average luminance value of the subject image, and the calculation is performed. The first exposure condition and the second exposure condition may be set based on each exposure step number.

・第1露出条件及び第2露出条件を設定する場合の基礎値となる第1輝度値及び第2輝度値としては、最大輝度値及び最小輝度値以外の高輝度値及び低輝度値を用いてもよい。例えば、第1輝度値としては明部のうちで2番目に明るい領域Eの輝度値(高輝度値)を用いると共に、第2輝度値としては暗部のうちで2番目に暗い領域Lの輝度値(低輝度値)を用いるようにしてもよい。要は、最大輝度値を含む一群の高輝度値中の一つの輝度値を第1輝度値にすると共に、最小輝度値を含む一群の低輝度値中の一つの輝度値を第2輝度値として、高露出側の第1露出条件及び低露出側の第2露出条件を設定するようにしてもよい。   A high luminance value and a low luminance value other than the maximum luminance value and the minimum luminance value are used as the first luminance value and the second luminance value, which are basic values when the first exposure condition and the second exposure condition are set. Also good. For example, the luminance value of the second brightest region E (high luminance value) in the bright portion is used as the first luminance value, and the luminance value of the second darkest region L in the dark portion is used as the second luminance value. (Low luminance value) may be used. In short, one luminance value in a group of high luminance values including the maximum luminance value is set as the first luminance value, and one luminance value in the group of low luminance values including the minimum luminance value is set as the second luminance value. The first exposure condition on the high exposure side and the second exposure condition on the low exposure side may be set.

・被写体画像の領域A〜P毎に検出された各輝度値のうちに異常な輝度値があるか否かを異常閾値との対比により判別する工程を省略してもよい。すなわち、HDR撮影処理ルーチンにおいて、ステップS13及びステップS14を省略してもよい。   The step of discriminating whether or not there is an abnormal luminance value among the luminance values detected for each of the regions A to P of the subject image may be omitted. That is, step S13 and step S14 may be omitted in the HDR imaging processing routine.

・HDR撮影処理ルーチンのステップS17において、段数閾値は3段以外の任意の段数(例えば、3段、4段、6段など)に設定されたものであってもよい。この場合、設定閾値Sを境に調整する第2露出条件の第2露出段数も、段数閾値に合わせて適宜設定する必要がある。   In step S17 of the HDR imaging processing routine, the step number threshold may be set to an arbitrary number of steps (for example, 3, 4, 6, etc.) other than 3. In this case, the second exposure step number of the second exposure condition that is adjusted with the setting threshold S as a boundary also needs to be set appropriately according to the step number threshold value.

・HDR撮影処理ルーチンのステップS18において、第2露出条件の第2露出段数を設定閾値Sから露出連動範囲の下限値RKまでの間で段階的に第1露出条件の第1露出段数に近づけるようにしてもよい。   In step S18 of the HDR imaging processing routine, the second exposure step number of the second exposure condition is gradually brought closer to the first exposure step number of the first exposure condition between the setting threshold value S and the lower limit value RK of the exposure interlocking range. It may be.

・HDR撮影処理ルーチンのステップS18において、第2露出条件の第2露出段数を設定閾値Sから露出連動範囲の下限値RKに向かうに連れて徐々に(リニアに)第1露出条件の第1露出段数に近づけるようにしてもよい。   In step S18 of the HDR imaging processing routine, the first exposure under the first exposure condition gradually (linearly) as the second exposure step number of the second exposure condition is moved from the set threshold value S to the lower limit value RK of the exposure interlocking range. You may make it approach the number of steps.

・露出連動範囲内に設定閾値Sを複数設定してもよい。例えば、露出連動範囲内における上限値RJと下限値RKとの中間値よりも低い側の1つの値(例えばEV値5)に更に他の設定閾値を設定し、この更に設定した設定閾値と露出連動範囲の下限値RKとの間で第1露出条件の第1露出段数と第2露出条件の第2露出段数との段数差が1段となるようにしてもよい。   A plurality of setting threshold values S may be set within the exposure interlocking range. For example, another set threshold value is set to one value (for example, EV value 5) on the lower side than the intermediate value between the upper limit value RJ and the lower limit value RK in the exposure interlocking range, and this further set threshold value and exposure are set. The difference in the number of steps between the first exposure step number of the first exposure condition and the second exposure step number of the second exposure condition may be one step between the lower limit value RK of the interlocking range.

・設定閾値Sは、必ずしも露出連動範囲内に設定する必要はない。すなわち、設定閾値Sは、露出連動範囲の上限値RJよりも高い値に設定してもよいし、露出連動範囲の下限値RKよりも低い値に設定してもよい。   The setting threshold S is not necessarily set within the exposure interlocking range. That is, the setting threshold value S may be set to a value higher than the upper limit value RJ of the exposure interlocking range, or may be set to a value lower than the lower limit value RK of the exposure interlocking range.

・被写体画像を任意の数の分割領域に分割し、その分割した分割領域毎に輝度値を検出するようにしてもよい。すなわち、例えば、被写体画像を全く分割することなく輝度値を検出するようにしてもよい。   The subject image may be divided into an arbitrary number of divided areas, and the luminance value may be detected for each divided area. That is, for example, the luminance value may be detected without dividing the subject image at all.

・露出条件を決定する場合、シャッター速度以外に絞り13の絞り値やISO感度により露出条件を設定するようにしてもよい。すなわち、シャッター速度、絞り値及びISO感度のうちの少なくとも一つにより露出条件を設定可能である。   When determining the exposure condition, the exposure condition may be set based on the aperture value of the aperture 13 and the ISO sensitivity in addition to the shutter speed. That is, the exposure condition can be set by at least one of the shutter speed, aperture value, and ISO sensitivity.

・なお、上記実施の形態では、設定閾値Sと露出値(EV値)とを比較して露出段数の変更を行なったが、比較する値は、明るさを示す値であれば他の値(例えば、外光輝度を示すBV値)でもよい。   In the above embodiment, the set threshold value S and the exposure value (EV value) are compared to change the number of exposure steps. However, if the value to be compared is a value indicating brightness, other values ( For example, it may be a BV value indicating external light luminance).

・画像生成プログラムを予めメモリカードなどの外部記憶媒体に記憶させておき、該外部記憶媒体をカメラに装着した際に、外部記憶媒体からカメラに画像生成プログラムが取り込まれるようにしてもよい。   The image generation program may be stored in advance in an external storage medium such as a memory card, and when the external storage medium is attached to the camera, the image generation program may be taken into the camera from the external storage medium.

・上記実施形態においては、撮像装置の一種であるデジタルスチルカメラに具体化したが、例えばデジタルビデオカメラやカメラ機能付き携帯電話などの他の撮像装置及びそれらを用いた撮像方法に具体化してもよい。   In the above embodiment, the present invention is embodied in a digital still camera which is a kind of imaging apparatus, but may be embodied in other imaging apparatuses such as a digital video camera or a mobile phone with a camera function and an imaging method using them. Good.

・上記実施の形態においては、撮像素子の受光面に結像した被写体画像を測光して輝度地を検出したが、撮像素子ではなく、他の測光素子を用いて被写体の輝度値を検出することとしてもよい。   In the above embodiment, the subject image formed on the light receiving surface of the image sensor is photometrically detected to detect the luminance ground. However, the luminance value of the subject is detected using another photometric element instead of the image sensor. It is good.

・上記実施の形態においては、設定閾値よりもEV値が低い場合には、該EV値が高い場合よりも露出段数の差を小さくすると説明している。しかしながら、MPU17は、設定閾値よりもEV値が低い場合には、該EV値が高い場合よりも露出値の差を小さくなるようにしてもよい。このような場合、MPU17は、設定された閾値よりも低い側の、第1露出条件に対応する第1露出値と、第2露出条件に対応する第2露出値との差を、設定された閾値よりも高い側の、第1露出条件に対応する第1露出値と、第2露出条件に対応する第2露出値との差よりも小さくなるように第2露出値を調整する。   In the above embodiment, it is described that when the EV value is lower than the set threshold value, the difference in the number of exposure steps is made smaller than when the EV value is high. However, when the EV value is lower than the set threshold value, the MPU 17 may make the difference between the exposure values smaller than when the EV value is high. In such a case, the MPU 17 sets the difference between the first exposure value corresponding to the first exposure condition and the second exposure value corresponding to the second exposure condition on the side lower than the set threshold value. The second exposure value is adjusted to be smaller than the difference between the first exposure value corresponding to the first exposure condition and the second exposure value corresponding to the second exposure condition on the higher side than the threshold value.

・上記実施の形態においては、設定した閾値よりも高い場合と、低い場合とで露出段数(露出値)の差を異ならせることとして説明している。しかしながら、露出段数(露出値)の差を異ならせる条件は他の条件でもいい。例えば、MPU17は、相対的に暗いシーンの場合は、相対的に明るいシーンの場合よりも、露出段数(露出値)の差を小さくしてもよい。この場合、MPU17は、第1露出条件に対応する第1露出値と、第2露出条件に対応する第2露出値との差が、相対的に明るいシーンよりも相対的に暗いシーンの方が小さくなるように、第2露出値を調整する。また、例えば、MPU17は、分割測光により得た各輝度値のうち、最も低い輝度値が所定の閾値よりも低い場合に、最も低い輝度値が所定の閾値より高い場合よりも、露出段数(露出値)の差が小さくなるように第2露出値を調整してもよい。また、MPU17は、分割測光により得た各輝度値の平均値が所定の閾値よりも低い場合に、各輝度値の平均値が所定の閾値より高い場合よりも、露出段数(露出値)の差が小さくなるように第2露出値を調整してもよい。なお、上記所定の閾値は、ユーザにより、あるいは撮影シーン等に応じて適宜変更可能としてもよい。   In the above-described embodiment, it is described that the difference in the number of exposure steps (exposure value) is different depending on whether the threshold is higher or lower than the set threshold. However, other conditions may be used as conditions for differentiating the number of exposure steps (exposure values). For example, the MPU 17 may make the difference in the number of exposure steps (exposure value) smaller in a relatively dark scene than in a relatively bright scene. In this case, the MPU 17 causes the difference between the first exposure value corresponding to the first exposure condition and the second exposure value corresponding to the second exposure condition to be relatively darker than the relatively bright scene. The second exposure value is adjusted so as to decrease. In addition, for example, the MPU 17 has the number of exposure steps (exposure) when the lowest luminance value is lower than a predetermined threshold among the luminance values obtained by the division metering, compared with the case where the lowest luminance value is higher than the predetermined threshold. The second exposure value may be adjusted so that the difference between the two values is small. Further, the MPU 17 is different in the number of exposure steps (exposure value) when the average value of each luminance value obtained by the division photometry is lower than a predetermined threshold value, compared with the case where the average value of each luminance value is higher than the predetermined threshold value. You may adjust a 2nd exposure value so that may become small. The predetermined threshold value may be appropriately changed by the user or according to the shooting scene.

11…カメラ(撮像装置)、14…撮像素子(輝度値検出手段)、14a…受光面、16…画像処理回路(合成画像生成手段)、17…MPU(輝度値検出手段、露出条件演算手段、露出調整手段、露出条件設定手段、合成画像生成手段、コンピュータ)、A〜P…領域、S…設定閾値(閾値)。   DESCRIPTION OF SYMBOLS 11 ... Camera (imaging apparatus), 14 ... Imaging device (luminance value detection means), 14a ... Light-receiving surface, 16 ... Image processing circuit (composite image generation means), 17 ... MPU (luminance value detection means, exposure condition calculation means) Exposure adjusting means, exposure condition setting means, composite image generating means, computer), AP ... area, S ... setting threshold (threshold).

Claims (4)

被写体を測光して輝度値を検出する輝度値検出手段と、
前記輝度値検出手段により検出された輝度値に基づき、第1露出条件と、前記第1露出条件よりも低露出側の第2露出条件とを演算する露出条件演算手段と、
前記第1露出条件に対応する第1露出値と、前記第2露出条件に対応する第2露出値との差が、相対的に明るいシーンよりも、相対的に暗いシーンの方が小さくなるように、前記第2露出値を調整する露出調整手段と、
前記露出調整手段の調整後における露出値と対応する露出条件を前記第1露出条件及び前記第2露出条件として設定する露出条件設定手段と、
前記露出条件設定手段により設定された前記第1露出条件及び前記第2露出条件に従って撮像された撮像画像を合成して一つの合成画像を生成する合成画像生成手段とを備えたことを特徴とする撮像装置。
A luminance value detecting means for measuring a subject to measure a luminance value;
Based on the detected brightness value by the brightness value detecting means, a first exposure condition, an exposure condition calculating means for calculating a second exposure conditions low-exposure side than the first exposure condition,
The difference between the first exposure value corresponding to the first exposure condition and the second exposure value corresponding to the second exposure condition is smaller in a relatively dark scene than in a relatively bright scene. Exposure adjusting means for adjusting the second exposure value;
An exposure condition setting means for setting an exposure condition corresponding to the exposure value after the adjustment of the exposure adjustment unit as the first exposure condition and the second exposure condition,
And a synthesized image generating unit configured to synthesize a captured image captured in accordance with the first exposure condition and the second exposure condition set by the exposure condition setting unit to generate one synthesized image. Imaging device.
前記輝度値検出手段は、前記被写体を複数の分割領域毎に測光して領域毎の輝度値を検出し、
前記露出条件演算手段は、前記輝度値検出手段により検出された各輝度値のうちの最大輝度値を含む一群の高輝度値中の一つの輝度値を第1輝度値として、前記第1輝度値に基づき前記第1露出条件を演算すると共に、前記各輝度値のうちの最小輝度値を含む一群の低輝度値中の一つの輝度値を第2輝度値として、前記第2輝度値に基づき前記第2露出条件を演算することを特徴とする請求項1に記載の撮像装置。
The luminance value detecting means measures the subject for each of a plurality of divided areas to detect a luminance value for each area,
The exposure condition calculating means, one of the luminance values in a group of high-luminance values including the maximum luminance value among the luminance value detected by the luminance value detecting means as a first luminance value, the first luminance value with computing the first exposure condition based on the one of the luminance values in a group of low luminance values including a minimum luminance value of said each luminance value as the second luminance value, based on said second luminance value The imaging apparatus according to claim 1, wherein the second exposure condition is calculated.
前記第1輝度値は前記一群の高輝度値中の前記最大輝度値であり、前記第2輝度値は前記一群の低輝度値中の前記最小輝度値であることを特徴とする請求項に記載の撮像装置。 Wherein the first luminance value is the maximum luminance value in the set of high luminance values, the second luminance value to claim 2, characterized in that the said minimum luminance value in the set of low brightness values The imaging device described. コンピュータに、
被写体を測光して輝度値を検出する輝度値検出手順と、
前記輝度値検出手順により検出された輝度値に基づき、第1露出条件と、前記第1露出条件よりも低露出側の第2露出条件とを演算する露出条件演算手順と、
前記第1露出条件に対応する第1露出値と、前記第2露出条件に対応する第2露出値と
の差が、相対的に明るいシーンよりも、相対的に暗いシーンの方が小さくなるように、前記第2露出値を調整する露出調整手順と、
前記露出調整手順の調整後における露出値と対応する露出条件を前記第1露出条件及び前記第2露出条件として設定する露出条件設定手順と、
前記露出条件設定手順により設定された前記第1露出条件及び前記第2露出条件に従って撮像された撮像画像を合成して一つの合成画像を生成する合成画像生成手順とを実行させるための画像生成プログラム。
On the computer,
Luminance value detection procedure for photometric measurement of a subject to detect luminance values;
Based on the detected brightness value by the brightness value detection procedure, the first exposure condition, an exposure condition calculating procedure for calculating a second exposure conditions low-exposure side than the first exposure condition,
The difference between the first exposure value corresponding to the first exposure condition and the second exposure value corresponding to the second exposure condition is smaller in a relatively dark scene than in a relatively bright scene. And an exposure adjustment procedure for adjusting the second exposure value;
An exposure condition setting procedure for setting the exposure conditions corresponding to the exposure value after the adjustment of the exposure adjustment procedure as the first exposure condition and the second exposure condition,
Image generation program for executing the composite image generating procedure to generate one synthesized image by synthesizing an image captured in accordance with the set first exposure condition and the second exposure condition by the exposure condition setting procedure .
JP2011042832A 2010-02-26 2011-02-28 Imaging apparatus and image generation program Active JP5772064B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011042832A JP5772064B2 (en) 2010-02-26 2011-02-28 Imaging apparatus and image generation program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2010041553 2010-02-26
JP2010041553 2010-02-26
JP2011042832A JP5772064B2 (en) 2010-02-26 2011-02-28 Imaging apparatus and image generation program

Publications (2)

Publication Number Publication Date
JP2011199860A JP2011199860A (en) 2011-10-06
JP5772064B2 true JP5772064B2 (en) 2015-09-02

Family

ID=44877416

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011042832A Active JP5772064B2 (en) 2010-02-26 2011-02-28 Imaging apparatus and image generation program

Country Status (1)

Country Link
JP (1) JP5772064B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6108680B2 (en) * 2012-04-19 2017-04-05 キヤノン株式会社 Imaging apparatus, control method therefor, program, and storage medium
JP7224826B2 (en) * 2018-09-21 2023-02-20 キヤノン株式会社 Imaging control device, imaging control method, and program
CN114723632A (en) * 2022-04-01 2022-07-08 南通辑兴紧固件科技有限公司 Part abnormal exposure image correction method and device based on texture information

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3642245B2 (en) * 2000-01-14 2005-04-27 松下電器産業株式会社 Solid-state imaging device
JP4838517B2 (en) * 2005-02-17 2011-12-14 キヤノン株式会社 Illumination photographing apparatus and photographing apparatus
JP2009284136A (en) * 2008-05-21 2009-12-03 Nikon Corp Electronic camera

Also Published As

Publication number Publication date
JP2011199860A (en) 2011-10-06

Similar Documents

Publication Publication Date Title
US8421882B2 (en) Imaging apparatus and imaging control method
TWI524709B (en) Image capture apparatus, method of controlling image capture apparatus, and electronic device
JP5738080B2 (en) Imaging apparatus and control method thereof
JP4542058B2 (en) Imaging apparatus and imaging method
JP4687492B2 (en) Camera, imaging method, exposure calculation device, and program
KR20090098197A (en) Digital photographing apparatus to control flash lighting, controlling method for the same, and recording medium which records the program for carrying the same method
US8237854B2 (en) Flash emission method and flash emission apparatus
JP2012050073A (en) Imaging device and image synthesis program
JP6077853B2 (en) Imaging apparatus, control method therefor, program, and storage medium
JP2017108309A (en) Imaging apparatus and imaging method
JP4717720B2 (en) Image processing apparatus and method, and program
JP2009017229A (en) Imaging device and imaging control method
US20170318208A1 (en) Imaging device, imaging method, and image display device
JP5822508B2 (en) Imaging apparatus and control method thereof
CN111434104B (en) Image processing apparatus, image capturing apparatus, image processing method, and recording medium
JP5048599B2 (en) Imaging device
JP5772064B2 (en) Imaging apparatus and image generation program
JP5515852B2 (en) Imaging apparatus and image generation program
JP5515795B2 (en) Imaging apparatus and imaging method
JP5532621B2 (en) Electronic camera and image processing program
JP4458194B2 (en) Imaging apparatus, exposure control method thereof, and recording medium
JP5245648B2 (en) Image processing apparatus and program
JP2013187660A (en) Electronic camera
JP2015037222A (en) Image processing apparatus, imaging apparatus, control method, and program
JP2010271507A (en) Imaging device, exposure adjustment method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150615

R150 Certificate of patent or registration of utility model

Ref document number: 5772064

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250