[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2014036348A - Image processing system and method of controlling the same - Google Patents

Image processing system and method of controlling the same Download PDF

Info

Publication number
JP2014036348A
JP2014036348A JP2012176673A JP2012176673A JP2014036348A JP 2014036348 A JP2014036348 A JP 2014036348A JP 2012176673 A JP2012176673 A JP 2012176673A JP 2012176673 A JP2012176673 A JP 2012176673A JP 2014036348 A JP2014036348 A JP 2014036348A
Authority
JP
Japan
Prior art keywords
image data
moving image
development
change
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012176673A
Other languages
Japanese (ja)
Other versions
JP2014036348A5 (en
JP5988759B2 (en
Inventor
Tomokazu Mori
智和 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012176673A priority Critical patent/JP5988759B2/en
Publication of JP2014036348A publication Critical patent/JP2014036348A/en
Publication of JP2014036348A5 publication Critical patent/JP2014036348A5/ja
Application granted granted Critical
Publication of JP5988759B2 publication Critical patent/JP5988759B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processing system that obtains a moving picture in which a follow-up delay of development parameter adjustments is solved by correcting development parameters that changes according to changes of photographing content when photographing or reproducing a Raw moving picture.SOLUTION: The image processing system includes the processes of: obtaining Raw moving picture data; generating development parameters on the basis of the obtained Raw moving picture data; and performing correction processing for the development parameters on the basis of a changing period of frame image data included in the Raw moving picture data, change amounts of development parameters, and a changing period of the development parameters so that changes of the development parameters fit into the changing period of the frame image data.

Description

本発明は、画像処理装置およびその制御方法に関する。   The present invention relates to an image processing apparatus and a control method thereof.

撮像素子の信号をそのまま記録したRaw静止画データに対して、ユーザが様々な現像パラメータを指定することで、現像パラメータに対応した結果画像を得る、いわゆるRaw現像処理を行う画像処理装置が提案されている。   An image processing apparatus that performs so-called raw development processing is proposed in which a user designates various development parameters for raw still image data in which signals from an image sensor are recorded as they are, thereby obtaining a result image corresponding to the development parameters. ing.

一方、近年、デジタルビデオカメラ(以下、カメラ)の普及やパーソナルコンピュータの性能向上などにより、動画像の様々な編集技術が提案されている。このような背景から、今後は静止画だけでなく、動画についてもRaw形式のデータを扱うようになり、さらにRaw形式でファイル保存ができるカメラも一般的に普及していくと予想される。   On the other hand, in recent years, various editing techniques for moving images have been proposed due to the popularization of digital video cameras (hereinafter referred to as cameras) and the improvement of the performance of personal computers. In view of this background, it is expected that not only still images but also moving images will be handled in the Raw format, and that cameras that can save files in the Raw format will generally become popular.

Raw動画を現像する場合、動画を構成する各フレーム画像に対して、静止画の現像処理と同様に、現像パラメータを与える必要がある。現像パラメータとは、例えば、ホワイトバランス調整や露出補正といった処理を行うために必要な情報である。   When developing a raw moving image, it is necessary to give development parameters to each frame image constituting the moving image, as in the case of still image development processing. The development parameter is information necessary for performing processing such as white balance adjustment and exposure correction, for example.

ここで、現像パラメータの一つとして、ホワイトバランス調整パラメータを例にとって説明する。一般に、ビデオカメラ等の撮像装置は、撮像素子によって得られる映像信号から色温度情報を算出し、算出した色温度情報に基づいて画面内のホワイトバランス調整を行う、いわゆるオートホワイトバランス(AWB)機能を備えている。   Here, a white balance adjustment parameter will be described as an example of one development parameter. In general, an imaging apparatus such as a video camera calculates color temperature information from a video signal obtained by an imaging element, and adjusts white balance in a screen based on the calculated color temperature information, so-called auto white balance (AWB) function. It has.

そして、動画像の撮影において、一時的な色温度の変化(例えば何らかの物体が画面内を横切った場合など)によるハンチングを防止するためのAEB機能を実現する撮像装置が提案されている。例えば、特許文献1は、数画面分の色温度情報を時間方向に積分した結果をWB調整値として用いることで、急激かつ頻繁なゲイン変化を抑制するオートホワイトバランス装置を開示している。   An imaging apparatus that realizes an AEB function for preventing hunting due to a temporary change in color temperature (for example, when an object crosses the screen) has been proposed. For example, Patent Document 1 discloses an auto white balance device that suppresses a rapid and frequent gain change by using, as a WB adjustment value, the result of integrating color temperature information for several screens in the time direction.

また、特許文献2は、撮影中にWB調整パラメータに基づいてWBの変化点を検出し、変化点に対応する時刻を示す時刻情報に基づき、WB調整に対する電子マークデータを生成することで、撮影後の動画像の編集作業をアシストする撮像装置を提案している。   Further, Patent Document 2 detects a WB change point based on a WB adjustment parameter during shooting, and generates electronic mark data for WB adjustment based on time information indicating a time corresponding to the change point. An imaging apparatus that assists later editing of moving images has been proposed.

特開平6−351037号公報JP-A-6-351037 特開2006−60732号公報JP 2006-60732 A

動画像の撮影においては、例えば、屋内から屋外へパンニングする場合のように、撮影対象の色温度が急に切り替わる場合がある。このような場合には、カメラ内部のAWB処理において前述のような時間方向の積分処理に要する時間が加味される関係で、WB調整値が最終値に安定する(収束する)までにはある程度の時間を要することになる。   In shooting moving images, for example, the color temperature of the shooting target may suddenly change, as in the case of panning from indoors to outdoors. In such a case, since the time required for the integration process in the time direction as described above is taken into account in the AWB process in the camera, a certain amount of time is required until the WB adjustment value stabilizes (converges) to the final value. It will take time.

ここで、撮影時に取得したWB調整パラメータがRaw動画像に関連付けて保存され、当該Raw動画像を再生する際に現像パラメータとして用いられるケースを想定する。前述のWB調整パラメータをそのまま用いて現像処理を行うと、パンニングの直後においては、WB調整の追従が遅れた映像が得られることになるので、ユーザにとって好適ではない。   Here, it is assumed that the WB adjustment parameter acquired at the time of shooting is stored in association with the Raw moving image and used as a development parameter when the Raw moving image is reproduced. If the development processing is performed using the WB adjustment parameters as they are, an image in which the tracking of the WB adjustment is delayed immediately after panning is not suitable for the user.

特許文献1が開示するオートホワイトバランス装置は、露光量や検出色温度情報に応じて積分時間を変化させることにより、ホワイトバランス調整の応答速度を自由に変化させる。しかし、このオートホワイトバランス装置では、前記のようにパンニングした直後におけるWB調整の追従遅れを解消することはできない。   The auto white balance device disclosed in Patent Document 1 freely changes the response speed of white balance adjustment by changing the integration time according to the exposure amount and detected color temperature information. However, with this auto white balance device, it is impossible to eliminate the follow-up delay of WB adjustment immediately after panning as described above.

また、特許文献2が開示する撮像装置は、撮影後の編集作業において例えば映像カットの抽出などを容易に行うことを目的とし、記録された変化点情報を用いてWB調整値に対して補正処理を行ってはいない。したがって、前述したようなWB調整の追従遅れを解消することはできない。   In addition, the imaging apparatus disclosed in Patent Document 2 aims to easily extract, for example, a video cut in editing work after shooting, and corrects the WB adjustment value using recorded change point information. Is not done. Accordingly, it is impossible to eliminate the follow-up delay of the WB adjustment as described above.

パンニングの際のWB調整の追従遅れの問題に限らず、撮影内容の変化に伴って現像パラメータの急激な変化が発生する場合に、現像パラメータの調整の追従が遅れた映像が出力されてしまうという問題は、ユーザにとって好適ではない。したがって、撮影内容の変化に伴って変動する現像パラメータを補正して、撮影内容の変化の終了直後に適切な現像パラメータで現像できるようにする必要がある。   Not only is the problem of delay in tracking WB adjustment during panning, but when a sudden change in development parameter occurs with changes in shooting content, a video with delayed tracking of development parameter adjustment is output. The problem is not suitable for the user. Therefore, it is necessary to correct development parameters that vary with changes in shooting contents so that development can be performed with appropriate development parameters immediately after the change in shooting contents is completed.

本発明は、Raw動画像の撮影時または再生時に、撮影内容の変化に伴って変動する現像パラメータの補正処理を行うことで現像パラメータの調整の追従遅れが解消された動画像を得る画像処理装置の提供を目的とする。   The present invention provides an image processing apparatus that obtains a moving image in which a follow-up delay in adjusting development parameters is eliminated by performing development parameter correction processing that fluctuates in accordance with changes in shooting contents during shooting or playback of a Raw moving image. The purpose is to provide.

本発明の一実施形態の画像処理装置は、Raw動画像データを取得し、前記取得したRaw動画像データに基づいて、現像パラメータを生成する生成手段と、前記現像パラメータに対して補正処理を行う補正手段とを備える。前記補正手段は、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に変化が収まるように前記補正処理を実行する。   An image processing apparatus according to an embodiment of the present invention acquires raw moving image data, generates a development parameter based on the acquired raw moving image data, and performs a correction process on the developing parameter. Correction means. The correction unit is configured to generate the frame image data for the development parameter based on a change period of frame image data included in the Raw moving image data, a change amount of the development parameter, and a change period of the development parameter. The correction processing is executed so that the change is settled during the change period.

本発明によれば、パンニングなどによる撮影内容の変化の直後においても適切な現像パラメータを得ることが可能となる。その結果、ユーザに対して、現像パラメータの追従遅れを解消したより好適な動画像を提供することが可能となる。   According to the present invention, it is possible to obtain an appropriate development parameter even immediately after a change in photographing content due to panning or the like. As a result, it is possible to provide the user with a more suitable moving image in which the development parameter tracking delay is eliminated.

実施例1の画像処理装置の構成例を示す図である。1 is a diagram illustrating a configuration example of an image processing apparatus according to a first embodiment. 撮像装置による現像パラメータ生成処理の例を説明する図である。It is a figure explaining the example of the development parameter generation processing by an imaging device. 画像フレームと現像パラメータとを示す図である。It is a figure which shows an image frame and a development parameter. 現像パラメータの補正処理を示すフローチャートである。It is a flowchart which shows the correction process of a development parameter. 画像フレームと現像パラメータとを示す図である。It is a figure which shows an image frame and a development parameter. 実施例2の画像処理装置の構成例を示す図である。FIG. 6 is a diagram illustrating a configuration example of an image processing apparatus according to a second embodiment. 動画像再生装置によるRaw動画像の再生処理の例を説明する図である。It is a figure explaining the example of the reproduction process of the Raw moving image by a moving image reproducing device.

(実施例1)
図1は、実施例1の画像処理装置の構成例を示す図である。実施例1の画像処理装置は、撮像装置10である。
Example 1
FIG. 1 is a diagram illustrating a configuration example of an image processing apparatus according to the first embodiment. The image processing apparatus according to the first embodiment is an imaging apparatus 10.

なお、本明細書では、Raw形式で取得または記録された動画像データを、Raw動画像データまたはRaw動画像ファイルと記述する。つまり、Raw動画像データは、未現像の状態の動画像データである。また、Raw動画像データまたはRaw動画像ファイルを構成するフレーム画像データを、Raw画像データまたはRaw画像フレームと記述する。   In the present specification, moving image data acquired or recorded in the Raw format is described as Raw moving image data or Raw moving image file. That is, the raw moving image data is undeveloped moving image data. In addition, the frame image data constituting the Raw moving image data or the Raw moving image file is described as Raw image data or a Raw image frame.

撮像装置10は、撮像部101、A(Analog)/D(Digital)変換部102、現像パラメータ生成部103、Raw動画像ファイル生成部104、現像パラメータファイル生成部105を備える。また、撮像装置10は、操作部106、制御部107、記録メディアI/F(Interface)部108、記録メディア109、メモリ110、現像パラメータ補正部111、画像変化検出部112を備える。   The imaging apparatus 10 includes an imaging unit 101, an A (Analog) / D (Digital) conversion unit 102, a development parameter generation unit 103, a raw moving image file generation unit 104, and a development parameter file generation unit 105. The imaging apparatus 10 also includes an operation unit 106, a control unit 107, a recording medium I / F (Interface) unit 108, a recording medium 109, a memory 110, a development parameter correction unit 111, and an image change detection unit 112.

撮像部101は、CCD,CMOSなどの撮像素子及びレンズを有しており、入射された光を撮像素子に結像し、電気信号に変換する。CCDは、Charge Coupled Device Image Sensorの略称である。CMOSは、Complementary Metal Oide Semiconductorの略称である。A/D変換部102は、撮像部101からフレーム単位で順次出力されたアナログの電気信号をデジタル変換してRaw画像データ(Raw動画像データ)を出力する。すなわち、撮像部101およびA/D変換部102は、被写体を撮影して動画像を取り込み、取り込んだ動画像に応じたRaw動画像データを出力する撮像手段として機能する。現像パラメータ生成部103は、A/D変換部102から出力されたRaw画像データを取得し、このRaw画像データに基づいて、Raw画像データを現像する際の画像処理に必要となる現像パラメータをフレーム単位で生成し、出力する。   The imaging unit 101 has an imaging element such as a CCD or CMOS and a lens, and forms an image of incident light on the imaging element and converts it into an electrical signal. CCD is an abbreviation for Charge Coupled Device Image Sensor. CMOS is an abbreviation for Complementary Metal Oide Semiconductor. The A / D conversion unit 102 digitally converts the analog electrical signals sequentially output from the imaging unit 101 in units of frames and outputs raw image data (raw moving image data). That is, the imaging unit 101 and the A / D conversion unit 102 function as an imaging unit that captures a moving image by capturing a subject and outputs Raw moving image data corresponding to the captured moving image. The development parameter generation unit 103 acquires the raw image data output from the A / D conversion unit 102 and, based on the raw image data, sets development parameters necessary for image processing when developing the raw image data to the frame. Generate and output in units.

現像パラメータは、Raw形式の動画像データであるRaw動画像データを現像する際に、現像後の画質を決定するためのパラメータである。現像パラメータには、例えば、ホワイトバランス、色空間、トーンカーブ、輪郭強調などの調整項目がある。   The development parameter is a parameter for determining image quality after development when developing Raw moving image data which is Raw format moving image data. Development parameters include adjustment items such as white balance, color space, tone curve, and edge enhancement.

Raw動画像ファイル生成部104は、A/D変換部102から出力されたフレーム単位のRaw画像データに基づいて、Raw動画像ファイルを生成する。生成されたRaw動画像ファイルは、記録メディアI/F部108を介して記録メディア109に記録される。   The raw moving image file generation unit 104 generates a raw moving image file based on the raw image data in units of frames output from the A / D conversion unit 102. The generated raw moving image file is recorded on the recording medium 109 via the recording medium I / F unit 108.

現像パラメータファイル生成部105は、現像パラメータ生成部103から出力された現像パラメータに基づいて、現像パラメータファイルを生成する。現像パラメータファイルを構成する各種現像パラメータは、A/D変換部102から出力されたRaw画像データの対応するフレームに関連付けられる。操作部106は、撮影開始ボタン、撮影終了ボタン等を有し、ユーザが撮像装置10の各種動作設定を行うために使用される。   The development parameter file generation unit 105 generates a development parameter file based on the development parameters output from the development parameter generation unit 103. Various development parameters constituting the development parameter file are associated with corresponding frames of the Raw image data output from the A / D conversion unit 102. The operation unit 106 includes a shooting start button, a shooting end button, and the like, and is used by the user to perform various operation settings of the imaging apparatus 10.

制御部107は、撮像装置10全体を制御する。制御部107は、例えば、ユーザが操作部106によって設定した各種動作の実行を当該処理部に知らせたり、各処理部間の実行順序を制御したりする。   The control unit 107 controls the entire imaging apparatus 10. For example, the control unit 107 notifies the processing unit of the execution of various operations set by the user through the operation unit 106, and controls the execution order between the processing units.

記録メディアI/F部108は、記録メディア109への動画像データの書き込み、又は記録メディア109に記録された動画像データや設定情報などの読み出しを制御する。メモリ110は、例えば、SDRAM等の半導体記憶素子を有する。SDRAMは、Synchronous Dynamic Random Access Memoryの略称である。メモリ110は、A/D変換部102から出力されるRaw画像データや、現像パラメータ生成部103から出力される現像パラメータを一時的に記憶する記憶手段である。   The recording medium I / F unit 108 controls writing of moving image data to the recording medium 109 or reading of moving image data and setting information recorded on the recording medium 109. The memory 110 includes, for example, a semiconductor storage element such as SDRAM. SDRAM is an abbreviation for Synchronous Dynamic Random Access Memory. The memory 110 is a storage unit that temporarily stores RAW image data output from the A / D conversion unit 102 and development parameters output from the development parameter generation unit 103.

現像パラメータ補正部111は、現像パラメータ生成部103が出力した現像パラメータを取得する。そして、現像パラメータ補正部111は、制御部107の指示にしたがって、取得した現像パラメータに対して、後述する画像変化検出部112によって検出されたパンニングなどによる撮影内容の変化に応じた補正処理を行う。画像変化検出部112は、A/D変換部102から出力されたフレーム単位の画像データを解析して、パンニングなどに起因する画像変化を検出する。画像変化検出部112が、パンニングの検出の他に、ズーミングの検出、露出制御の検出、または顔検出を行うようにしてもよい。   The development parameter correction unit 111 acquires the development parameter output from the development parameter generation unit 103. Then, the development parameter correction unit 111 performs a correction process according to a change in photographing content by panning or the like detected by the image change detection unit 112 described later on the acquired development parameter in accordance with an instruction from the control unit 107. . The image change detection unit 112 analyzes the frame unit image data output from the A / D conversion unit 102 and detects an image change caused by panning or the like. The image change detection unit 112 may perform zooming detection, exposure control detection, or face detection in addition to panning detection.

図2および図3を参照して、実施例1の現像パラメータ生成処理を説明する。図2は、撮像装置による現像パラメータ生成処理の例を説明するフローチャートである。また、図3は、図2に示すフローチャートにしたがって撮像装置10が生成したRaw動画像コンテンツを構成する画像フレームと、その各々に対応する現像パラメータとを、撮影された時間軸に沿って並べて示した図である。図3中に示すパラメータnは、画像フレームのフレーム番号である。   With reference to FIG. 2 and FIG. 3, the development parameter generation processing of the first embodiment will be described. FIG. 2 is a flowchart illustrating an example of development parameter generation processing by the imaging apparatus. FIG. 3 shows image frames constituting the Raw moving image content generated by the imaging device 10 according to the flowchart shown in FIG. 2 and development parameters corresponding to each of the image frames along the time axis when the images are taken. It is a figure. A parameter n shown in FIG. 3 is a frame number of an image frame.

図3に示す例では、屋内の撮影を行っているときにパンニングが行われ(n=N1)、屋外の撮影に切り替えられている(n=N2)。また、本実施例では、補正処理対象とする現像パラメータをホワイトバランス調整のパラメータとする。もちろん、本発明が適用対象とする現像パラメータは、ホワイトバランス調整のパラメータに限定されない。本発明は、任意の現像パラメータに適用することができる。なお、図3のホワイトバランス調整パラメータの値は、後述する現像パラメータの補正処理が行われる前の値を示している。   In the example shown in FIG. 3, panning is performed during indoor shooting (n = N1) and switching to outdoor shooting (n = N2). In this embodiment, the development parameter to be corrected is a white balance adjustment parameter. Of course, the development parameters to which the present invention is applied are not limited to white balance adjustment parameters. The present invention can be applied to arbitrary development parameters. Note that the value of the white balance adjustment parameter in FIG. 3 indicates a value before the development parameter correction processing described later is performed.

以下に、図2に示すフローチャートに従う動作処理について説明する。なお、図2の説明において、各種処理を実行する処理部を具体的に明示していない場合は、制御部107が処理を実行しているものとする。   Hereinafter, an operation process according to the flowchart shown in FIG. 2 will be described. In the description of FIG. 2, it is assumed that the control unit 107 is executing a process when a processing unit that executes various processes is not clearly specified.

まず、ユーザが、撮影開始ボタンを操作して、動画像の撮影を開始させる(ステップS201)。次に、制御部107が、フレーム番号nを0に初期化する(ステップS202)。フレーム番号は、Raw動画像データに含まれるフレーム画像データを一意に識別する識別情報である。   First, the user operates the shooting start button to start shooting a moving image (step S201). Next, the control unit 107 initializes the frame number n to 0 (step S202). The frame number is identification information for uniquely identifying the frame image data included in the raw moving image data.

次に、制御部107が、nの値を+1だけインクリメントする(ステップS203)。される。制御部107は、撮影が開始されたフレームに対しては、n=1を設定する。   Next, the control unit 107 increments the value of n by +1 (step S203). Is done. The control unit 107 sets n = 1 for the frame in which shooting is started.

次に、制御部107が、撮像部101とA/D変換部102とを介して、第nフレームのRaw画像データを生成する(ステップS204)。続いて、現像パラメータ生成部103が、生成された第nフレームのRaw画像データを読み込み、読み込んだRaw画像データに基づいて、第nフレームに対する現像パラメータを生成する。   Next, the control unit 107 generates Raw image data of the nth frame via the imaging unit 101 and the A / D conversion unit 102 (step S204). Subsequently, the development parameter generation unit 103 reads the generated raw image data of the nth frame, and generates development parameters for the nth frame based on the read raw image data.

次に、Raw動画像ファイル生成部104が、生成された第nフレームのRaw画像データをRaw動画像ファイルへ記録する(ステップS206)。この例では、ステップS206におけるRaw動画像ファイルの記録処理において、フレーム毎に画像データがファイルに追記される。他の実施形態においては、画像データをメモリ110にバッファリングしておき、Raw動画像ファイル生成部104が、所定時間間隔ごとに、メモリ110内の画像データをファイルに追記するようにしてもよい。   Next, the raw moving image file generation unit 104 records the generated raw image data of the nth frame in the raw moving image file (step S206). In this example, in the raw moving image file recording process in step S206, image data is added to the file for each frame. In another embodiment, the image data may be buffered in the memory 110, and the raw moving image file generation unit 104 may add the image data in the memory 110 to the file at predetermined time intervals. .

次に、現像パラメータファイル生成部105が、第nフレームに対応する現像パラメータを記録し(ステップS207)、ステップS208へ進む。この例では、ステップS207における現像パラメータの記録処理において、フレーム毎に現像パラメータがファイルに追記される。他の実施形態においては、現像パラメータをメモリ110にバッファリングしておき、現像パラメータファイル生成部105が、所定時間間隔ごとに、メモリ110内の現像パラメータをファイルに追記するようにしてもよい。   Next, the development parameter file generation unit 105 records the development parameters corresponding to the nth frame (step S207), and proceeds to step S208. In this example, in the development parameter recording process in step S207, the development parameter is added to the file for each frame. In another embodiment, the development parameters may be buffered in the memory 110, and the development parameter file generation unit 105 may add the development parameters in the memory 110 to the file at predetermined time intervals.

次に、制御部107が、ユーザの撮影終了ボタンの押下により撮影終了指示が入力されたかを判断する(ステップS208)。ユーザによって撮影が継続されている間(撮影終了が指示されるまで)は、ステップS203へ処理が戻り、以上説明した一連の処理が各処理部によってフレーム単位で実行される。ユーザによって撮影終了ボタンが押下されると、制御部107が、撮影終了指示が入力されたことを検知し、一連の撮影処理が終了する。   Next, the control unit 107 determines whether or not a shooting end instruction is input by pressing the shooting end button of the user (step S208). While shooting is continued by the user (until the end of shooting is instructed), the process returns to step S203, and the series of processes described above are executed in units of frames by each processing unit. When the shooting end button is pressed by the user, the control unit 107 detects that a shooting end instruction has been input, and a series of shooting processes ends.

図4は、実施例1における現像パラメータの補正処理を示すフローチャートである。また、図5は、図4のフローチャートにしたがう補正処理後の現像パラメータを、補正処理を行う前の現像パラメータと共に時間軸に沿って並べて示した図である。本実施例の撮像装置は、図2に示すフローチャートにしたがって生成する現像パラメータに対して、撮影内容の変化に応じて補正処理を行う。   FIG. 4 is a flowchart illustrating a development parameter correction process according to the first exemplary embodiment. FIG. 5 is a diagram showing development parameters after correction processing according to the flowchart of FIG. 4 along with the development parameters before correction processing along the time axis. The imaging apparatus according to the present exemplary embodiment performs a correction process on the development parameter generated according to the flowchart illustrated in FIG.

図4のフローチャートにしたがう現像パラメータ補正処理は、ユーザによって動画撮影が開始された後に、図2のフローチャートにしたがう現像パラメータ生成処理と並行して実行される。つまり、撮像装置10が動画像の撮影を開始すると、図2のフローチャートにしたがって現像パラメータが生成されつつ、図4のフローチャートにしたがって撮影中に随時現像パラメータの補正が行われる。   The development parameter correction process according to the flowchart of FIG. 4 is executed in parallel with the development parameter generation process according to the flowchart of FIG. 2 after moving image shooting is started by the user. That is, when the imaging apparatus 10 starts capturing a moving image, the development parameters are generated according to the flowchart of FIG. 2, and the development parameters are corrected as needed during the imaging according to the flowchart of FIG.

図4のステップS401において、制御部107が、フレーム番号nを初期化(n=0)する(ステップS401)。続いて、制御部107が、nの値を+1だけインクリメントする(ステップS402)。撮影が開始された直後には、n=1に設定される。   In step S401 in FIG. 4, the control unit 107 initializes the frame number n (n = 0) (step S401). Subsequently, the control unit 107 increments the value of n by +1 (step S402). Immediately after shooting is started, n = 1 is set.

次に、制御部107の指示にしたがって、画像変化検出部112が、第nフレームにおいて、撮影内容が変化したかを判断する(ステップS403)。この例では、画像変化検出部112は、第nフレームにおいて、パンニングが検出されたかを判断する。例えば、画像変化検出部112が、画像信号から動きベクトルを検出し、動きベクトルが一定方向に連続している期間をパンニングシーンとして検出するなど、従来の技術によりパンニングを検出する。本実施例では、パンニングの検出を行うが、ズーミングの検出、露出制御の検出、顔検出によって画像変化の検出を行い、その画像変化が検出されたことをもって撮影内容が変化したと判断して、後述する補正処理のトリガにすることも可能である。   Next, in accordance with an instruction from the control unit 107, the image change detection unit 112 determines whether the shooting content has changed in the nth frame (step S403). In this example, the image change detection unit 112 determines whether panning is detected in the nth frame. For example, the image change detection unit 112 detects panning by a conventional technique such as detecting a motion vector from an image signal and detecting a period in which the motion vector is continuous in a certain direction as a panning scene. In this embodiment, panning is detected, but zooming detection, exposure control detection, image change detection is performed by face detection, and it is determined that the photographing content has changed when the image change is detected, It can also be used as a trigger for correction processing to be described later.

ステップS403の判断処理によって、パンニングが検出されない場合は、ステップS410へ進み、制御部107が、ユーザによって撮影終了ボタンが押下されたかどうかを判断する。ユーザによって撮影が継続されている間(撮影終了が指示されるまで)は、ステップS402へ処理が戻り、ステップS402以降の処理が繰り返される。   If panning is not detected by the determination processing in step S403, the process proceeds to step S410, and the control unit 107 determines whether or not the shooting end button has been pressed by the user. While shooting is continued by the user (until the end of shooting is instructed), the process returns to step S402, and the processes after step S402 are repeated.

ステップS403の判断処理によって、パンニングが検出された場合は、ステップS404に進む。ステップS404乃至S408は、制御部107が、パンニングが検出されてから所定期間内に現像パラメータの値が所定閾値以上変化し、さらにその変化が収束したかどうかを判断するステップである。   If panning is detected by the determination process in step S403, the process proceeds to step S404. Steps S404 to S408 are steps in which the control unit 107 determines whether or not the development parameter value has changed by a predetermined threshold value within a predetermined period after the panning is detected and the change has converged.

まず、制御部107が、パラメータ変化走査期間(L)が経過しているかを判断する(ステップS404)。パラメータ変化走査期間(L)は、前述した現像パラメータの値の変化とその収束を判断するための時間的な探索範囲である。制御部107が、撮影開始前にユーザによる設定操作にしたがって予めパラメータ変化走査期間(L)を設定する。   First, the control unit 107 determines whether the parameter change scanning period (L) has elapsed (step S404). The parameter change scanning period (L) is a temporal search range for determining the change in the development parameter value and its convergence. The control unit 107 sets the parameter change scanning period (L) in advance according to the setting operation by the user before the start of imaging.

例えば、パラメータ変化走査期間(L)が200フレームと設定されている場合は、ステップS403でパンニングが検出されてから200フレーム後までが、ステップS405からS409までの処理の対象となるフレームとなる。なお、パラメータ変化走査期間(L)には、前述のようにフレーム単位の値を指定する以外にも、時間単位の値(例えば5秒など)を指定することも可能である。   For example, when the parameter change scanning period (L) is set to 200 frames, a frame that is a target of processing from steps S405 to S409 is from 200 frames after panning is detected in step S403. In the parameter change scanning period (L), in addition to specifying a value in units of frames as described above, a value in units of time (for example, 5 seconds) can be specified.

ステップS404の判断処理において、制御部107が、パラメータ変化走査期間(L)を経過していると判断した場合は、ステップS410へ進み、撮影が継続されている間は、ステップS402以降の処理が繰り返される。   In the determination process of step S404, when the control unit 107 determines that the parameter change scanning period (L) has elapsed, the process proceeds to step S410, and while the shooting is continued, the processes after step S402 are performed. Repeated.

ステップS404の判断処理において、制御部107が、パラメータ変化走査期間(L)を経過していないと判断した場合は、ステップS405へ進む。   In the determination process of step S404, when the control unit 107 determines that the parameter change scanning period (L) has not elapsed, the process proceeds to step S405.

次に、制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べて予め決められた閾値(VGAP)以上変化したかを判断する(ステップS404)。制御部107が、撮影開始前にユーザの設定操作にしたがって、予めVGAPを設定する。制御部107は、VGAPとしては、例えば1000K(ケルビン)を設定する。   Next, the control unit 107 determines whether the WB adjustment parameter of the nth frame has changed by a predetermined threshold (VGAP) or more compared to the WB adjustment parameter of the frame in which panning is detected (step S404). The control unit 107 sets VGAP in advance according to the user's setting operation before starting shooting. The control unit 107 sets, for example, 1000K (Kelvin) as VGAP.

制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べてVGAP以上変化していないと判断した場合は、ステップS407に進む。   When the control unit 107 determines that the WB adjustment parameter of the nth frame has not changed more than VGAP compared to the WB adjustment parameter of the frame in which panning is detected, the process proceeds to step S407.

制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べてVGAP以上変化したと判断した場合は、ステップS406へ進む。   If the control unit 107 determines that the WB adjustment parameter of the nth frame has changed by VGAP or more compared to the WB adjustment parameter of the frame in which panning is detected, the process proceeds to step S406.

ステップS406において、制御部107が、WB調整パラメータの変化が収束したかを判断する(ステップS406)。制御部107は、例えば、20フレームに亘ってWB調整パラメータの値がVGAPの1パーセント以上変化していないかを判断基準にして、WB調整パラメータの変化が収束したを判断する。上記判断基準となるフレーム数およびVGAPの変化割合として、任意の値を適用することができる。   In step S406, the control unit 107 determines whether or not the change in the WB adjustment parameter has converged (step S406). For example, the control unit 107 determines whether the change in the WB adjustment parameter has converged based on whether or not the value of the WB adjustment parameter has changed by 1% or more of VGAP over 20 frames. Arbitrary values can be applied as the number of frames and the change rate of VGAP serving as the determination criteria.

ステップS406の判断処理において、制御部107が、WB調整パラメータの変化が収束したと判断した場合は、ステップS409に進む。制御部107が、WB調整パラメータの変化が収束していないと判断した場合は、ステップS407に進む。   In the determination process of step S406, when the control unit 107 determines that the change in the WB adjustment parameter has converged, the process proceeds to step S409. If the control unit 107 determines that the change in the WB adjustment parameter has not converged, the process proceeds to step S407.

ステップS407において、制御部107が、撮影の中断指示がされたかを判断する。撮影の中断指示がされた場合は、処理を終了する。撮影の中断指示がされていない場合は、ステップS408に進む。   In step S407, the control unit 107 determines whether an instruction to interrupt shooting has been issued. If an instruction to interrupt shooting is given, the process ends. If the shooting interruption instruction has not been given, the process proceeds to step S408.

ステップS408において、制御部107が、nの値を+1だけインクリメントして(ステップS408)、ステップS404に進む。   In step S408, the control unit 107 increments the value of n by +1 (step S408), and proceeds to step S404.

ステップS406の判断処理において、制御部107が、WB調整パラメータの変化が収束していると判断した場合は、ステップS409へ進む。この例では、制御部107は、図5中のn=N4のフレームにおいて現像パラメータの変化が収束したと判断したものとする。   In the determination process of step S406, if the control unit 107 determines that the change in the WB adjustment parameter has converged, the process proceeds to step S409. In this example, it is assumed that the control unit 107 determines that the development parameter change has converged in the frame of n = N4 in FIG.

ステップS409において、制御部107が、現像パラメータに対する補正処理を実行する。この例では、制御部107が、WB調整パラメータに対する補正処理を実行する。そして、制御部107が、撮影の中断指示がされたかを判断する(ステップS410)。撮影の中断指示がされた場合は、処理を終了する。撮影の中断指示がされていない場合は、ステップS402に戻る。   In step S409, the control unit 107 executes correction processing for the development parameter. In this example, the control unit 107 executes a correction process for the WB adjustment parameter. Then, the control unit 107 determines whether or not an instruction to interrupt shooting has been given (step S410). If an instruction to interrupt shooting is given, the process ends. If the photographing interruption instruction has not been given, the process returns to step S402.

以下に、上記ステップS410におけるWB調整パラメータに対する補正処理について説明する。この例では、図5中に示すように、n=N1においてパンニングが開始し、n=N2においてパンニングが終了したものとする。つまり、N1からN2までに対応する期間が、Raw動画像データに含まれるフレーム画像データの変化期間である。フレーム画像データの変化期間は、画像変化検出部112による検出結果に基づいて決まる。   Hereinafter, the correction process for the WB adjustment parameter in step S410 will be described. In this example, as shown in FIG. 5, it is assumed that panning starts at n = N1, and panning ends at n = N2. That is, the period corresponding to N1 to N2 is the change period of the frame image data included in the Raw moving image data. The change period of the frame image data is determined based on the detection result by the image change detection unit 112.

また、n=N3においてWB調整パラメータの変化が開始し、n=N4においてWB調整パラメータの変化が終了(収束)したものとする。以下に説明するWB調整パラメータに対する補正処理は、並行して実行されている撮影処理において撮影対象がn=N4となる時点以降に実行される。そして、制御部107は、パンニングシーン期間(パンニングの開始から終了まで)にWB調整パラメータの変化が収まるように、WB調整パラメータに対する補正処理を実行する。   Further, it is assumed that the change of the WB adjustment parameter starts at n = N3 and the change of the WB adjustment parameter ends (converges) at n = N4. The correction process for the WB adjustment parameter described below is executed after the time when the shooting target is n = N4 in the shooting process executed in parallel. Then, the control unit 107 executes a correction process for the WB adjustment parameter so that the change of the WB adjustment parameter is settled during the panning scene period (from the start to the end of panning).

具体的には、制御部107は、フレーム番号nが「N1より大きく且つN2より小さい」値であるフレームに対応するWB調整パラメータWB(n)を、以下の式(1)により算出する。
WB(n)=((WB(N4)−WB(N3))/(n−N1))+WB(N1)
・・・式(1)
Specifically, the control unit 107 calculates a WB adjustment parameter WB (n) corresponding to a frame whose frame number n is “greater than N1 and smaller than N2” by the following equation (1).
WB (n) = ((WB (N4) -WB (N3)) / (n-N1)) + WB (N1)
... Formula (1)

また、制御部107は、フレーム番号nが「N2以上且つN4より小さい」値であるフレームに対応するWB調整パラメータWB(n)を、以下の式(2)により算出する。
WB(n)=WB(N4)・・・式(2)
Further, the control unit 107 calculates a WB adjustment parameter WB (n) corresponding to a frame whose frame number n is “N2 or more and less than N4” by the following equation (2).
WB (n) = WB (N4) (2)

式(1)および式(2)を参照すると、制御部107は、以下の情報に基づいて、WB調整パラメータを算出することがわかる。制御部107は、Raw動画像データが有するフレーム画像データの変化期間と現像パラメータの変化量と現像パラメータの変化期間とに基づいて、フレーム画像データの変化期間中に現像パラメータの変化が収まるようにするためのWB調整パラメータを算出する。フレーム画像データの変化は、Raw動画像データに対応する被写体の撮影内容の変化により生じた変化である。具体的には、フレーム画像データの変化は、パンニング、ズーミング、露出制御、または顔検出のいずれかにより生じた変化である。   Referring to Expression (1) and Expression (2), it can be seen that the control unit 107 calculates the WB adjustment parameter based on the following information. Based on the change period of the frame image data included in the raw moving image data, the change amount of the development parameter, and the change period of the development parameter, the control unit 107 adjusts the change of the development parameter during the change period of the frame image data. The WB adjustment parameter for calculating is calculated. The change in the frame image data is a change caused by a change in the photographing content of the subject corresponding to the RAW moving image data. Specifically, the change in the frame image data is a change caused by any of panning, zooming, exposure control, or face detection.

そして、現像パラメータ補正部111が、制御部107の指示にしたがって、図2のステップS207において既に現像パラメータファイルに記録されているWB調整パラメータを、以上のように求められたWB調整パラメータWB(n)で更新する。これにより、WB調整パラメータが補正される。   Then, in accordance with the instruction from the control unit 107, the development parameter correction unit 111 sets the WB adjustment parameter already recorded in the development parameter file in step S207 in FIG. 2 as the WB adjustment parameter WB (n ) To update. Thereby, the WB adjustment parameter is corrected.

図5に示すように、補正処理後のWB調整パラメータの変動は、パンニング開始からパンニング終了までの期間に収まり、パンニング終了直後には、適切にWB調整された動画像を得ることができる。このように、本実施例によれば、動画像の撮影時に、例えばパンニング等による撮影内容の変更が完了した直後において、変動のない現像パラメータを得ることができる。したがって、従来の方法に比べ、ユーザにとってより好適な動画像を提供することが可能となる。   As shown in FIG. 5, the variation in the WB adjustment parameter after the correction process falls within a period from the start of panning to the end of panning, and a moving image that is appropriately WB adjusted can be obtained immediately after the end of panning. As described above, according to the present embodiment, it is possible to obtain a development parameter having no fluctuation immediately after a change of photographing content by panning or the like is completed, for example, when a moving image is photographed. Therefore, it is possible to provide a moving image more suitable for the user than the conventional method.

(実施例2)
図6は、実施例2の画像処理装置の構成例を示す図である。実施例2の画像処理装置は、動画像再生装置60である。
(Example 2)
FIG. 6 is a diagram illustrating a configuration example of the image processing apparatus according to the second embodiment. The image processing apparatus according to the second embodiment is a moving image reproduction apparatus 60.

前述した実施例1の画像処理装置は、動画像の撮影中に現像パラメータを生成しつつ、随時現像パラメータの補正を行う。一方、動画像再生装置60は、予め撮影装置で撮影されたRaw動画像を動画像再生装置60で再生する時に、当該Raw動画像に対応する現像パラメータに対して補正処理を行う。   The image processing apparatus according to the first embodiment described above corrects development parameters as needed while generating development parameters during moving image shooting. On the other hand, the moving image reproduction device 60 performs correction processing on the development parameters corresponding to the raw moving image when the raw moving image previously captured by the photographing device is reproduced by the moving image reproduction device 60.

動画像再生装置60は、記録メディア601、記録メディアI/F部602、操作部603、制御部604、メモリ605、Raw動画像処理部606、Raw動画像現像部607、現像パラメータ処理部608を備える。また、動画像再生装置60は、現像パラメータ補正部609、画像変化検出部610、表示部611を備える。   The moving image reproduction device 60 includes a recording medium 601, a recording medium I / F unit 602, an operation unit 603, a control unit 604, a memory 605, a raw moving image processing unit 606, a raw moving image developing unit 607, and a development parameter processing unit 608. Prepare. The moving image reproduction device 60 includes a development parameter correction unit 609, an image change detection unit 610, and a display unit 611.

記録メディア601には、予め撮像装置(例えば、図1に示す撮像装置10)で撮影されたRaw動画ファイルと現像パラメータファイルとが記録されている。記録メディア601は、例えば、光学式記録媒体や半導体記録媒体などである。   In the recording medium 601, a Raw moving image file and a development parameter file that are previously captured by an imaging device (for example, the imaging device 10 illustrated in FIG. 1) are recorded. The recording medium 601 is, for example, an optical recording medium or a semiconductor recording medium.

記録メディアI/F部602は、記録メディア601に記録された動画像ファイルや現像パラメータファイルなどの読み出しを制御する。操作部603は、ユーザによる操作に応じて、動画像再生装置60の各種動作設定を行う。操作部603は、再生開始ボタンなどを有する。   A recording medium I / F unit 602 controls reading of a moving image file, a development parameter file, and the like recorded on the recording medium 601. The operation unit 603 performs various operation settings of the moving image playback device 60 in accordance with user operations. The operation unit 603 has a playback start button and the like.

制御部604は、操作部603が設定した各種動作の実行を、対応する処理部に指示したり、各処理部間の実行順序を制御したりする。メモリ605は、Raw動画像処理部606から出力されるRaw画像データや、現像パラメータ処理部608から出力される現像パラメータを一時的に記憶する記憶手段である。メモリ605は、例えば、SDRAM等の半導体記憶素子を含む。   The control unit 604 instructs the corresponding processing unit to execute various operations set by the operation unit 603 and controls the execution order between the processing units. The memory 605 is a storage unit that temporarily stores the raw image data output from the raw moving image processing unit 606 and the development parameters output from the development parameter processing unit 608. The memory 605 includes, for example, a semiconductor storage element such as an SDRAM.

Raw動画像処理部606は、制御部604の指示に従って、記録メディアI/F部602から出力されたRaw動画像ファイルから、フレーム単位のRaw画像データを抽出する。   The raw moving image processing unit 606 extracts raw image data in units of frames from the raw moving image file output from the recording medium I / F unit 602 in accordance with an instruction from the control unit 604.

Raw動画像現像部607は、Raw動画像処理部606から出力されたRaw画像データと、現像パラメータ補正部609から出力される、補正処理後の現像パラメータに基づいて、Raw動画像の現像処理を行う。具体的には、Raw動画像現像部607は、デモザイク処理、WB調整、露出補正、色空間処理、輪郭強調などの処理を実行して、表示部611に表示可能な動画像データを生成する。   The raw moving image developing unit 607 performs raw moving image development processing based on the raw image data output from the raw moving image processing unit 606 and the development parameters after correction processing output from the development parameter correcting unit 609. Do. Specifically, the RAW moving image developing unit 607 performs processing such as demosaic processing, WB adjustment, exposure correction, color space processing, and edge enhancement to generate moving image data that can be displayed on the display unit 611.

現像パラメータ処理部608は、制御部604の指示に従って、記録メディアI/F部602から出力された現像パラメータファイルから、フレーム単位の現像パラメータを取得する。上記現像パラメータファイルは、Raw動画像データに基づいて生成された、Raw動画像データの現像用の現像パラメータのファイルである。   The development parameter processing unit 608 acquires a development parameter for each frame from the development parameter file output from the recording medium I / F unit 602 in accordance with an instruction from the control unit 604. The development parameter file is a development parameter file for developing Raw moving image data generated based on the Raw moving image data.

現像パラメータ補正部609は、現像パラメータ処理部608が取得した現像パラメータに対して、画像変化検出部610によって検出されたパンニングなどによる撮影内容の変化に応じて補正処理を行う。   A development parameter correction unit 609 performs a correction process on the development parameters acquired by the development parameter processing unit 608 according to a change in photographing content due to panning detected by the image change detection unit 610.

画像変化検出部610は、Raw動画像処理部606またはRaw動画像現像部607から出力されたフレーム単位の画像データを解析して、例えばパンニングやズーミングなどに起因する画像変化を検出する。表示部611は、Raw動画像現像部607によって実行された現像処理後の画像データを表示する。   The image change detection unit 610 analyzes image data in units of frames output from the raw moving image processing unit 606 or the raw moving image development unit 607, and detects an image change caused by, for example, panning or zooming. The display unit 611 displays image data after the development processing executed by the raw moving image development unit 607.

図7は、動画像再生装置によるRaw動画像の再生処理の例を説明するフローチャートである。なお、図7のフローチャートにおいて再生対象となるのは、図3中に示すような、現像パラメータに補正処理が行われていないRaw動画像ファイルである。   FIG. 7 is a flowchart illustrating an example of raw video playback processing by the video playback device. In the flowchart of FIG. 7, a RAW moving image file that is not subjected to correction processing on the development parameters as shown in FIG. 3 is to be reproduced.

まず、制御部604が、ユーザによる再生開始ボタンの押し下げ操作に応じて、動画像の再生を開始する(ステップS701)。続いて、制御部604が、後述するフレーム単位で繰り返し行う一連の処理におけるフレーム番号nを初期化(n=0)する。制御部107が、nの値を+1だけインクリメントする。再生の開始時には、制御部604が、n=1に設定する。   First, the control unit 604 starts playback of a moving image in response to the user's pressing operation of the playback start button (step S701). Subsequently, the control unit 604 initializes a frame number n (n = 0) in a series of processes repeatedly performed in units of frames described later. The control unit 107 increments the value of n by +1. At the start of reproduction, the control unit 604 sets n = 1.

次に、Raw動画像現像部607が、第nフレームのRaw画像データに対して現像処理を実行する(ステップS704)。そして、表示部611が、現像処理が施された第nフレームのRaw画像データを表示する(ステップS705)。ユーザによって再生が継続されている間(再生終了が指示されるまで)は、ステップS703からS705の一連の処理が各処理部によってフレーム単位で実行される。ユーザによって再生終了ボタンが押下されると、制御部604が、再生終了指示が入力されたことを検知し(ステップS706)、本フローチャートに示す一連の再生処理が終了する。   Next, the raw moving image developing unit 607 executes development processing on the raw image data of the nth frame (step S704). Then, the display unit 611 displays the Raw image data of the nth frame that has been subjected to the development processing (step S705). While the reproduction is continued by the user (until the reproduction end is instructed), a series of processes in steps S703 to S705 are executed by each processing unit in units of frames. When the playback end button is pressed by the user, the control unit 604 detects that a playback end instruction has been input (step S706), and the series of playback processing shown in this flowchart ends.

以上のように、動画像再生装置60により、例えば図3中に示すようなRaw動画像ファイルの再生を行うことができる。   As described above, for example, a Raw moving image file as shown in FIG. 3 can be reproduced by the moving image reproducing device 60.

動画像再生装置60の、動画再生開始後にRaw動画像データと現像パラメータを先読みし、画像内容の変化に応じて現像パラメータの補正処理を行う動作について説明する。本実施例の現像パラメータの補正処理は、実施例1と同様であり、図4に示すフローチャートにしたがう。また、図4のフローチャートにしたがって動画像再生装置60によって補正処理を行った現像パラメータも実施例1と同様であり、図5に示す通りである。   An operation of the moving image reproducing device 60 for pre-reading Raw moving image data and development parameters after starting moving image reproduction and performing development parameter correction processing according to changes in image contents will be described. The development parameter correction processing of this embodiment is the same as that of Embodiment 1, and follows the flowchart shown in FIG. Further, the development parameters subjected to the correction process by the moving image reproducing device 60 according to the flowchart of FIG. 4 are the same as those in the first embodiment and are as shown in FIG.

動画像再生装置60によって行われる現像パラメータ補正処理は、図7のフローチャートで示した動画再生処理と並行して実行される。つまり、動画像再生装置60は、動画像の再生が開始されると、図7のフローチャートにしたがって動画像の再生を行いつつ、図4のフローチャートにしたがって、再生中に、随時現像パラメータの補正処理を実行する。   The development parameter correction processing performed by the moving image playback device 60 is executed in parallel with the moving image playback processing shown in the flowchart of FIG. That is, when the moving image playback is started, the moving image playback device 60 performs the playback of the moving image according to the flowchart of FIG. 7 while the playback of the moving image according to the flowchart of FIG. Execute.

本実施例においては、動画像再生装置60は、図4のフローチャートに示す第nフレームの現像パラメータに対する補正処理を、図7のフローチャートにおいて第nフレームの再生処理が行われるときには既に終了しているように制御する。したがって、図4のフローチャートに示すフレーム番号nの値は、図7のフローチャートに示すフレーム番号nとは無関係にインクリメントされる。   In the present embodiment, the moving image reproduction device 60 has already completed the correction process for the development parameter of the nth frame shown in the flowchart of FIG. 4 when the reproduction process of the nth frame is performed in the flowchart of FIG. To control. Therefore, the value of the frame number n shown in the flowchart of FIG. 4 is incremented regardless of the frame number n shown in the flowchart of FIG.

実施例2における現像パラメータに対する補正処理は、処理主体が制御部604であること以外は、実施例1における現像パラメータに対する補正処理と同様である。なお、実施例2においては、図4のステップS410において、制御部604が、ユーザによって再生終了ボタンが押下されたかどうかを判断する。   The correction process for the development parameter in the second embodiment is the same as the correction process for the development parameter in the first embodiment, except that the processing subject is the control unit 604. In the second embodiment, in step S410 in FIG. 4, the control unit 604 determines whether or not the playback end button has been pressed by the user.

また、実施例2では、図4のステップS410において、制御部604が、再生が継続されているかを判断する。また、ステップS407において、制御部604が、再生の中断指示がされたかを判断する。また、ステップS410において、制御部604が、再生の中断指示がされたかを判断する。   In the second embodiment, the control unit 604 determines in step S410 in FIG. 4 whether the reproduction is continued. In step S407, the control unit 604 determines whether an instruction to interrupt reproduction has been issued. In step S410, the control unit 604 determines whether an instruction to interrupt reproduction has been issued.

このように、本実施例によれば、例えばパンニング等による撮影内容の変更が完了した直後において、変動のない現像パラメータを得ることができる。したがって、Raw動画像の再生時に、パンニングなどに起因するWB調整の追従遅れを解消した動画像を再生することができる。その結果、従来の方法に比べ、ユーザーにとってより好適な動画像を提供することが可能となる。   As described above, according to the present embodiment, it is possible to obtain a development parameter having no variation immediately after the change of the photographing content by panning or the like is completed. Therefore, at the time of replaying the raw moving image, it is possible to reproduce the moving image in which the tracking delay of the WB adjustment caused by panning or the like is eliminated. As a result, it is possible to provide a moving image that is more suitable for the user than the conventional method.

なお、本明細書においては、現像パラメータが現像パラメータファイルとしてRaw動画像ファイルとは別に記録される構成としているが、Raw動画像ファイルと同一ファイルに記録されるような構成であってもよい。   In the present specification, the development parameters are recorded as a development parameter file separately from the raw moving image file. However, the development parameters may be recorded in the same file as the raw moving image file.

また、現像パラメータを記録する際、対応するRaw動画像のフレーム番号や撮影された時刻情報を一緒に記録しておくことも可能である。   Further, when recording development parameters, it is also possible to record together the frame number of the corresponding Raw moving image and the time information when the image was taken.

また、現像パラメータとして主にホワイトバランス調整パラメータを例に挙げて説明したが、それに限定されるものではなく、自動露出制御に起因するγ係数の変化など、その他の現像パラメータの変化について補正処理を行うことも可能である。   Although the white balance adjustment parameter has been mainly described as an example of the development parameter, the present invention is not limited to this, and correction processing is performed for changes in other development parameters such as a change in γ coefficient caused by automatic exposure control. It is also possible to do this.

10 撮像装置
101 撮像部
102 A/D変換部
103 現像パラメータ生成部
104 Raw動画像ファイル生成部
105 現像パラメータファイル生成部
106 操作部
107 制御部
108 記録メディアI/F部
109 記録メディア
110 メモリ
111 現像パラメータ補正部
112 画像変化検出部
DESCRIPTION OF SYMBOLS 10 Imaging device 101 Imaging part 102 A / D conversion part 103 Development parameter generation part 104 Raw moving image file generation part 105 Development parameter file generation part 106 Operation part 107 Control part 108 Recording medium I / F part 109 Recording medium 110 Memory 111 Development Parameter correction unit 112 Image change detection unit

Claims (8)

Raw動画像データに基づいて生成された、前記Raw動画像データの現像用の現像パラメータを取得する取得手段と、
前記現像パラメータに対して補正処理を行う補正手段とを備え、
前記補正手段は、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に前記現像パラメータの変化が収まるように前記補正処理を実行する
ことを特徴とする画像処理装置。
Obtaining means for obtaining development parameters for development of the Raw moving image data generated based on the Raw moving image data;
Correction means for performing correction processing on the development parameters,
The correction unit is configured to generate the frame image data for the development parameter based on a change period of frame image data included in the Raw moving image data, a change amount of the development parameter, and a change period of the development parameter. An image processing apparatus, wherein the correction processing is executed so that the change in the development parameter falls within the change period.
前記フレーム画像データの変化は、前記Raw動画像データに対応する被写体の撮影内容の変化により生じた変化である
ことを特徴とする請求項1に記載の画像処理装置。
The image processing apparatus according to claim 1, wherein the change in the frame image data is a change caused by a change in photographing content of a subject corresponding to the raw moving image data.
前記フレーム画像データの変化は、パンニング、ズーミング、露出制御、または顔検出のいずれかにより生じた変化である
ことを特徴とする請求項1または請求項2に記載の画像処理装置。
The image processing apparatus according to claim 1, wherein the change in the frame image data is a change caused by any one of panning, zooming, exposure control, and face detection.
被写体を撮影して動画像を取り込み、前記取り込んだ動画像に応じた前記Raw動画像データを出力する撮像手段と、前記出力されたRaw動画像データに基づいて前記現像パラメータを生成する生成手段とを備える撮像装置として構成される
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
An imaging unit that captures a moving image by photographing a subject, outputs the Raw moving image data corresponding to the captured moving image, and a generating unit that generates the development parameter based on the output Raw moving image data The image processing apparatus according to claim 1, wherein the image processing apparatus is configured as an imaging apparatus including:
前記パンニングの検出、前記ズーミングの検出、前記露出制御の検出、または前記顔検出を行う検出手段を備え、
前記補正手段は、前記検出手段による検出結果に基づいて決まるフレーム画像データの変化期間を用いて、前記補正処理を実行する
ことを特徴とする請求項4に記載の画像処理装置。
Detection means for detecting the panning, detecting the zooming, detecting the exposure control, or detecting the face;
The image processing apparatus according to claim 4, wherein the correction unit performs the correction process using a change period of frame image data determined based on a detection result by the detection unit.
前記現像パラメータに基づいて、前記Raw動画像データに対して現像処理を行う現像手段を備える
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
The image processing apparatus according to claim 1, further comprising: a developing unit that performs a developing process on the raw moving image data based on the developing parameter.
前記現像手段によって現像された画像データを表示する表示手段を備える
ことを特徴とする請求項6に記載の画像処理装置。
The image processing apparatus according to claim 6, further comprising display means for displaying image data developed by the developing means.
Raw動画像データを取得し、前記取得したRaw動画像データに基づいて、現像パラメータを生成する生成工程と、
前記現像パラメータに対して補正処理を行う補正工程とを有し、
前記補正工程では、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に前記現像パラメータの変化が収まるように前記補正処理を実行する
ことを特徴とする画像処理装置の制御方法。
A generation step of acquiring raw moving image data and generating a development parameter based on the acquired raw moving image data;
A correction step of performing correction processing on the development parameter,
In the correction step, based on the change period of the frame image data included in the Raw moving image data, the change amount of the development parameter, and the change period of the development parameter, the frame image data with respect to the development parameter. A control method for an image processing apparatus, wherein the correction processing is executed so that the change in the development parameter is accommodated during the change period of the image processing apparatus.
JP2012176673A 2012-08-09 2012-08-09 Image processing apparatus and control method thereof Expired - Fee Related JP5988759B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012176673A JP5988759B2 (en) 2012-08-09 2012-08-09 Image processing apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012176673A JP5988759B2 (en) 2012-08-09 2012-08-09 Image processing apparatus and control method thereof

Publications (3)

Publication Number Publication Date
JP2014036348A true JP2014036348A (en) 2014-02-24
JP2014036348A5 JP2014036348A5 (en) 2015-09-17
JP5988759B2 JP5988759B2 (en) 2016-09-07

Family

ID=50285072

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012176673A Expired - Fee Related JP5988759B2 (en) 2012-08-09 2012-08-09 Image processing apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP5988759B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH099136A (en) * 1995-06-22 1997-01-10 Hitachi Ltd Image pickup device
JP2009055335A (en) * 2007-08-27 2009-03-12 Sony Corp IMAGE PROCESSING APPARATUS, DEVELOPMENT APPARATUS, IMAGE PROCESSING METHOD, DEVELOPMENT METHOD, IMAGE PROCESSING PROGRAM, DEVELOPMENT PROGRAM, AND Raw MOTION IMAGE FORMAT
JP2011015147A (en) * 2009-07-01 2011-01-20 Canon Inc Imaging apparatus and control method thereof
JP2011244423A (en) * 2010-04-23 2011-12-01 Canon Inc Image processing system and control method for the same

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH099136A (en) * 1995-06-22 1997-01-10 Hitachi Ltd Image pickup device
JP2009055335A (en) * 2007-08-27 2009-03-12 Sony Corp IMAGE PROCESSING APPARATUS, DEVELOPMENT APPARATUS, IMAGE PROCESSING METHOD, DEVELOPMENT METHOD, IMAGE PROCESSING PROGRAM, DEVELOPMENT PROGRAM, AND Raw MOTION IMAGE FORMAT
JP2011015147A (en) * 2009-07-01 2011-01-20 Canon Inc Imaging apparatus and control method thereof
JP2011244423A (en) * 2010-04-23 2011-12-01 Canon Inc Image processing system and control method for the same

Also Published As

Publication number Publication date
JP5988759B2 (en) 2016-09-07

Similar Documents

Publication Publication Date Title
US8878951B2 (en) Image processing apparatus and method of controlling the same
KR100920559B1 (en) Moving image playback device with camera-shake correction function and program recording medium
US20120201427A1 (en) Estimating subject motion between image frames
KR101728042B1 (en) Digital photographing apparatus and control method thereof
US9247150B2 (en) Image capturing apparatus, exposure control method, and computer-readable recording medium
US9826148B2 (en) Image processing apparatus and image processing method for adjusting texture of an image
KR101721226B1 (en) digital image signal processing apparatus and method for controlling the same
US20140253763A1 (en) Electronic device
JP2010183460A (en) Image capturing apparatus and method of controlling the same
US11184551B2 (en) Imaging apparatus and control method thereof
US9626932B2 (en) Image processing apparatus, image processing method and recording medium recording program for correcting image in predetermined area
JP7246894B2 (en) Imaging device and its control method
US9413974B2 (en) Information processing apparatus, image sensing apparatus, control method, and recording medium for conversion processing
JP5988759B2 (en) Image processing apparatus and control method thereof
JP2011233985A (en) Image processing system and its control method
JP2018142983A (en) Image processing device and method of controlling the same, program, and storage medium
JP2010183461A (en) Image capturing apparatus and method of controlling the same
JP5406619B2 (en) MOVING IMAGE REPRODUCTION DEVICE, IMAGING DEVICE, CONTROL METHOD THEREOF, AND PROGRAM
JP5332668B2 (en) Imaging apparatus and subject detection program
JP2007049320A (en) Electronic camera
US20200267338A1 (en) Image capturing apparatus, image processing apparatus, control method, image processing method, and storage medium
JP2008271181A (en) Imaging apparatus and imaging method, reproducing device and reproducing method, and imaged image processing system
JP2006217249A (en) Electronic camera, electronic camera system and program
JP2004336245A (en) Correction apparatus
JP2007243769A (en) Camera

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150729

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160809

R151 Written notification of patent or utility model registration

Ref document number: 5988759

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees