JP2014036348A - Image processing system and method of controlling the same - Google Patents
Image processing system and method of controlling the same Download PDFInfo
- Publication number
- JP2014036348A JP2014036348A JP2012176673A JP2012176673A JP2014036348A JP 2014036348 A JP2014036348 A JP 2014036348A JP 2012176673 A JP2012176673 A JP 2012176673A JP 2012176673 A JP2012176673 A JP 2012176673A JP 2014036348 A JP2014036348 A JP 2014036348A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- moving image
- development
- change
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、画像処理装置およびその制御方法に関する。 The present invention relates to an image processing apparatus and a control method thereof.
撮像素子の信号をそのまま記録したRaw静止画データに対して、ユーザが様々な現像パラメータを指定することで、現像パラメータに対応した結果画像を得る、いわゆるRaw現像処理を行う画像処理装置が提案されている。 An image processing apparatus that performs so-called raw development processing is proposed in which a user designates various development parameters for raw still image data in which signals from an image sensor are recorded as they are, thereby obtaining a result image corresponding to the development parameters. ing.
一方、近年、デジタルビデオカメラ(以下、カメラ)の普及やパーソナルコンピュータの性能向上などにより、動画像の様々な編集技術が提案されている。このような背景から、今後は静止画だけでなく、動画についてもRaw形式のデータを扱うようになり、さらにRaw形式でファイル保存ができるカメラも一般的に普及していくと予想される。 On the other hand, in recent years, various editing techniques for moving images have been proposed due to the popularization of digital video cameras (hereinafter referred to as cameras) and the improvement of the performance of personal computers. In view of this background, it is expected that not only still images but also moving images will be handled in the Raw format, and that cameras that can save files in the Raw format will generally become popular.
Raw動画を現像する場合、動画を構成する各フレーム画像に対して、静止画の現像処理と同様に、現像パラメータを与える必要がある。現像パラメータとは、例えば、ホワイトバランス調整や露出補正といった処理を行うために必要な情報である。 When developing a raw moving image, it is necessary to give development parameters to each frame image constituting the moving image, as in the case of still image development processing. The development parameter is information necessary for performing processing such as white balance adjustment and exposure correction, for example.
ここで、現像パラメータの一つとして、ホワイトバランス調整パラメータを例にとって説明する。一般に、ビデオカメラ等の撮像装置は、撮像素子によって得られる映像信号から色温度情報を算出し、算出した色温度情報に基づいて画面内のホワイトバランス調整を行う、いわゆるオートホワイトバランス(AWB)機能を備えている。 Here, a white balance adjustment parameter will be described as an example of one development parameter. In general, an imaging apparatus such as a video camera calculates color temperature information from a video signal obtained by an imaging element, and adjusts white balance in a screen based on the calculated color temperature information, so-called auto white balance (AWB) function. It has.
そして、動画像の撮影において、一時的な色温度の変化(例えば何らかの物体が画面内を横切った場合など)によるハンチングを防止するためのAEB機能を実現する撮像装置が提案されている。例えば、特許文献1は、数画面分の色温度情報を時間方向に積分した結果をWB調整値として用いることで、急激かつ頻繁なゲイン変化を抑制するオートホワイトバランス装置を開示している。
An imaging apparatus that realizes an AEB function for preventing hunting due to a temporary change in color temperature (for example, when an object crosses the screen) has been proposed. For example,
また、特許文献2は、撮影中にWB調整パラメータに基づいてWBの変化点を検出し、変化点に対応する時刻を示す時刻情報に基づき、WB調整に対する電子マークデータを生成することで、撮影後の動画像の編集作業をアシストする撮像装置を提案している。 Further, Patent Document 2 detects a WB change point based on a WB adjustment parameter during shooting, and generates electronic mark data for WB adjustment based on time information indicating a time corresponding to the change point. An imaging apparatus that assists later editing of moving images has been proposed.
動画像の撮影においては、例えば、屋内から屋外へパンニングする場合のように、撮影対象の色温度が急に切り替わる場合がある。このような場合には、カメラ内部のAWB処理において前述のような時間方向の積分処理に要する時間が加味される関係で、WB調整値が最終値に安定する(収束する)までにはある程度の時間を要することになる。 In shooting moving images, for example, the color temperature of the shooting target may suddenly change, as in the case of panning from indoors to outdoors. In such a case, since the time required for the integration process in the time direction as described above is taken into account in the AWB process in the camera, a certain amount of time is required until the WB adjustment value stabilizes (converges) to the final value. It will take time.
ここで、撮影時に取得したWB調整パラメータがRaw動画像に関連付けて保存され、当該Raw動画像を再生する際に現像パラメータとして用いられるケースを想定する。前述のWB調整パラメータをそのまま用いて現像処理を行うと、パンニングの直後においては、WB調整の追従が遅れた映像が得られることになるので、ユーザにとって好適ではない。 Here, it is assumed that the WB adjustment parameter acquired at the time of shooting is stored in association with the Raw moving image and used as a development parameter when the Raw moving image is reproduced. If the development processing is performed using the WB adjustment parameters as they are, an image in which the tracking of the WB adjustment is delayed immediately after panning is not suitable for the user.
特許文献1が開示するオートホワイトバランス装置は、露光量や検出色温度情報に応じて積分時間を変化させることにより、ホワイトバランス調整の応答速度を自由に変化させる。しかし、このオートホワイトバランス装置では、前記のようにパンニングした直後におけるWB調整の追従遅れを解消することはできない。
The auto white balance device disclosed in
また、特許文献2が開示する撮像装置は、撮影後の編集作業において例えば映像カットの抽出などを容易に行うことを目的とし、記録された変化点情報を用いてWB調整値に対して補正処理を行ってはいない。したがって、前述したようなWB調整の追従遅れを解消することはできない。 In addition, the imaging apparatus disclosed in Patent Document 2 aims to easily extract, for example, a video cut in editing work after shooting, and corrects the WB adjustment value using recorded change point information. Is not done. Accordingly, it is impossible to eliminate the follow-up delay of the WB adjustment as described above.
パンニングの際のWB調整の追従遅れの問題に限らず、撮影内容の変化に伴って現像パラメータの急激な変化が発生する場合に、現像パラメータの調整の追従が遅れた映像が出力されてしまうという問題は、ユーザにとって好適ではない。したがって、撮影内容の変化に伴って変動する現像パラメータを補正して、撮影内容の変化の終了直後に適切な現像パラメータで現像できるようにする必要がある。 Not only is the problem of delay in tracking WB adjustment during panning, but when a sudden change in development parameter occurs with changes in shooting content, a video with delayed tracking of development parameter adjustment is output. The problem is not suitable for the user. Therefore, it is necessary to correct development parameters that vary with changes in shooting contents so that development can be performed with appropriate development parameters immediately after the change in shooting contents is completed.
本発明は、Raw動画像の撮影時または再生時に、撮影内容の変化に伴って変動する現像パラメータの補正処理を行うことで現像パラメータの調整の追従遅れが解消された動画像を得る画像処理装置の提供を目的とする。 The present invention provides an image processing apparatus that obtains a moving image in which a follow-up delay in adjusting development parameters is eliminated by performing development parameter correction processing that fluctuates in accordance with changes in shooting contents during shooting or playback of a Raw moving image. The purpose is to provide.
本発明の一実施形態の画像処理装置は、Raw動画像データを取得し、前記取得したRaw動画像データに基づいて、現像パラメータを生成する生成手段と、前記現像パラメータに対して補正処理を行う補正手段とを備える。前記補正手段は、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に変化が収まるように前記補正処理を実行する。 An image processing apparatus according to an embodiment of the present invention acquires raw moving image data, generates a development parameter based on the acquired raw moving image data, and performs a correction process on the developing parameter. Correction means. The correction unit is configured to generate the frame image data for the development parameter based on a change period of frame image data included in the Raw moving image data, a change amount of the development parameter, and a change period of the development parameter. The correction processing is executed so that the change is settled during the change period.
本発明によれば、パンニングなどによる撮影内容の変化の直後においても適切な現像パラメータを得ることが可能となる。その結果、ユーザに対して、現像パラメータの追従遅れを解消したより好適な動画像を提供することが可能となる。 According to the present invention, it is possible to obtain an appropriate development parameter even immediately after a change in photographing content due to panning or the like. As a result, it is possible to provide the user with a more suitable moving image in which the development parameter tracking delay is eliminated.
(実施例1)
図1は、実施例1の画像処理装置の構成例を示す図である。実施例1の画像処理装置は、撮像装置10である。
Example 1
FIG. 1 is a diagram illustrating a configuration example of an image processing apparatus according to the first embodiment. The image processing apparatus according to the first embodiment is an
なお、本明細書では、Raw形式で取得または記録された動画像データを、Raw動画像データまたはRaw動画像ファイルと記述する。つまり、Raw動画像データは、未現像の状態の動画像データである。また、Raw動画像データまたはRaw動画像ファイルを構成するフレーム画像データを、Raw画像データまたはRaw画像フレームと記述する。 In the present specification, moving image data acquired or recorded in the Raw format is described as Raw moving image data or Raw moving image file. That is, the raw moving image data is undeveloped moving image data. In addition, the frame image data constituting the Raw moving image data or the Raw moving image file is described as Raw image data or a Raw image frame.
撮像装置10は、撮像部101、A(Analog)/D(Digital)変換部102、現像パラメータ生成部103、Raw動画像ファイル生成部104、現像パラメータファイル生成部105を備える。また、撮像装置10は、操作部106、制御部107、記録メディアI/F(Interface)部108、記録メディア109、メモリ110、現像パラメータ補正部111、画像変化検出部112を備える。
The
撮像部101は、CCD,CMOSなどの撮像素子及びレンズを有しており、入射された光を撮像素子に結像し、電気信号に変換する。CCDは、Charge Coupled Device Image Sensorの略称である。CMOSは、Complementary Metal Oide Semiconductorの略称である。A/D変換部102は、撮像部101からフレーム単位で順次出力されたアナログの電気信号をデジタル変換してRaw画像データ(Raw動画像データ)を出力する。すなわち、撮像部101およびA/D変換部102は、被写体を撮影して動画像を取り込み、取り込んだ動画像に応じたRaw動画像データを出力する撮像手段として機能する。現像パラメータ生成部103は、A/D変換部102から出力されたRaw画像データを取得し、このRaw画像データに基づいて、Raw画像データを現像する際の画像処理に必要となる現像パラメータをフレーム単位で生成し、出力する。
The
現像パラメータは、Raw形式の動画像データであるRaw動画像データを現像する際に、現像後の画質を決定するためのパラメータである。現像パラメータには、例えば、ホワイトバランス、色空間、トーンカーブ、輪郭強調などの調整項目がある。 The development parameter is a parameter for determining image quality after development when developing Raw moving image data which is Raw format moving image data. Development parameters include adjustment items such as white balance, color space, tone curve, and edge enhancement.
Raw動画像ファイル生成部104は、A/D変換部102から出力されたフレーム単位のRaw画像データに基づいて、Raw動画像ファイルを生成する。生成されたRaw動画像ファイルは、記録メディアI/F部108を介して記録メディア109に記録される。
The raw moving image
現像パラメータファイル生成部105は、現像パラメータ生成部103から出力された現像パラメータに基づいて、現像パラメータファイルを生成する。現像パラメータファイルを構成する各種現像パラメータは、A/D変換部102から出力されたRaw画像データの対応するフレームに関連付けられる。操作部106は、撮影開始ボタン、撮影終了ボタン等を有し、ユーザが撮像装置10の各種動作設定を行うために使用される。
The development parameter
制御部107は、撮像装置10全体を制御する。制御部107は、例えば、ユーザが操作部106によって設定した各種動作の実行を当該処理部に知らせたり、各処理部間の実行順序を制御したりする。
The
記録メディアI/F部108は、記録メディア109への動画像データの書き込み、又は記録メディア109に記録された動画像データや設定情報などの読み出しを制御する。メモリ110は、例えば、SDRAM等の半導体記憶素子を有する。SDRAMは、Synchronous Dynamic Random Access Memoryの略称である。メモリ110は、A/D変換部102から出力されるRaw画像データや、現像パラメータ生成部103から出力される現像パラメータを一時的に記憶する記憶手段である。
The recording medium I /
現像パラメータ補正部111は、現像パラメータ生成部103が出力した現像パラメータを取得する。そして、現像パラメータ補正部111は、制御部107の指示にしたがって、取得した現像パラメータに対して、後述する画像変化検出部112によって検出されたパンニングなどによる撮影内容の変化に応じた補正処理を行う。画像変化検出部112は、A/D変換部102から出力されたフレーム単位の画像データを解析して、パンニングなどに起因する画像変化を検出する。画像変化検出部112が、パンニングの検出の他に、ズーミングの検出、露出制御の検出、または顔検出を行うようにしてもよい。
The development
図2および図3を参照して、実施例1の現像パラメータ生成処理を説明する。図2は、撮像装置による現像パラメータ生成処理の例を説明するフローチャートである。また、図3は、図2に示すフローチャートにしたがって撮像装置10が生成したRaw動画像コンテンツを構成する画像フレームと、その各々に対応する現像パラメータとを、撮影された時間軸に沿って並べて示した図である。図3中に示すパラメータnは、画像フレームのフレーム番号である。
With reference to FIG. 2 and FIG. 3, the development parameter generation processing of the first embodiment will be described. FIG. 2 is a flowchart illustrating an example of development parameter generation processing by the imaging apparatus. FIG. 3 shows image frames constituting the Raw moving image content generated by the
図3に示す例では、屋内の撮影を行っているときにパンニングが行われ(n=N1)、屋外の撮影に切り替えられている(n=N2)。また、本実施例では、補正処理対象とする現像パラメータをホワイトバランス調整のパラメータとする。もちろん、本発明が適用対象とする現像パラメータは、ホワイトバランス調整のパラメータに限定されない。本発明は、任意の現像パラメータに適用することができる。なお、図3のホワイトバランス調整パラメータの値は、後述する現像パラメータの補正処理が行われる前の値を示している。 In the example shown in FIG. 3, panning is performed during indoor shooting (n = N1) and switching to outdoor shooting (n = N2). In this embodiment, the development parameter to be corrected is a white balance adjustment parameter. Of course, the development parameters to which the present invention is applied are not limited to white balance adjustment parameters. The present invention can be applied to arbitrary development parameters. Note that the value of the white balance adjustment parameter in FIG. 3 indicates a value before the development parameter correction processing described later is performed.
以下に、図2に示すフローチャートに従う動作処理について説明する。なお、図2の説明において、各種処理を実行する処理部を具体的に明示していない場合は、制御部107が処理を実行しているものとする。
Hereinafter, an operation process according to the flowchart shown in FIG. 2 will be described. In the description of FIG. 2, it is assumed that the
まず、ユーザが、撮影開始ボタンを操作して、動画像の撮影を開始させる(ステップS201)。次に、制御部107が、フレーム番号nを0に初期化する(ステップS202)。フレーム番号は、Raw動画像データに含まれるフレーム画像データを一意に識別する識別情報である。
First, the user operates the shooting start button to start shooting a moving image (step S201). Next, the
次に、制御部107が、nの値を+1だけインクリメントする(ステップS203)。される。制御部107は、撮影が開始されたフレームに対しては、n=1を設定する。
Next, the
次に、制御部107が、撮像部101とA/D変換部102とを介して、第nフレームのRaw画像データを生成する(ステップS204)。続いて、現像パラメータ生成部103が、生成された第nフレームのRaw画像データを読み込み、読み込んだRaw画像データに基づいて、第nフレームに対する現像パラメータを生成する。
Next, the
次に、Raw動画像ファイル生成部104が、生成された第nフレームのRaw画像データをRaw動画像ファイルへ記録する(ステップS206)。この例では、ステップS206におけるRaw動画像ファイルの記録処理において、フレーム毎に画像データがファイルに追記される。他の実施形態においては、画像データをメモリ110にバッファリングしておき、Raw動画像ファイル生成部104が、所定時間間隔ごとに、メモリ110内の画像データをファイルに追記するようにしてもよい。
Next, the raw moving image
次に、現像パラメータファイル生成部105が、第nフレームに対応する現像パラメータを記録し(ステップS207)、ステップS208へ進む。この例では、ステップS207における現像パラメータの記録処理において、フレーム毎に現像パラメータがファイルに追記される。他の実施形態においては、現像パラメータをメモリ110にバッファリングしておき、現像パラメータファイル生成部105が、所定時間間隔ごとに、メモリ110内の現像パラメータをファイルに追記するようにしてもよい。
Next, the development parameter
次に、制御部107が、ユーザの撮影終了ボタンの押下により撮影終了指示が入力されたかを判断する(ステップS208)。ユーザによって撮影が継続されている間(撮影終了が指示されるまで)は、ステップS203へ処理が戻り、以上説明した一連の処理が各処理部によってフレーム単位で実行される。ユーザによって撮影終了ボタンが押下されると、制御部107が、撮影終了指示が入力されたことを検知し、一連の撮影処理が終了する。
Next, the
図4は、実施例1における現像パラメータの補正処理を示すフローチャートである。また、図5は、図4のフローチャートにしたがう補正処理後の現像パラメータを、補正処理を行う前の現像パラメータと共に時間軸に沿って並べて示した図である。本実施例の撮像装置は、図2に示すフローチャートにしたがって生成する現像パラメータに対して、撮影内容の変化に応じて補正処理を行う。 FIG. 4 is a flowchart illustrating a development parameter correction process according to the first exemplary embodiment. FIG. 5 is a diagram showing development parameters after correction processing according to the flowchart of FIG. 4 along with the development parameters before correction processing along the time axis. The imaging apparatus according to the present exemplary embodiment performs a correction process on the development parameter generated according to the flowchart illustrated in FIG.
図4のフローチャートにしたがう現像パラメータ補正処理は、ユーザによって動画撮影が開始された後に、図2のフローチャートにしたがう現像パラメータ生成処理と並行して実行される。つまり、撮像装置10が動画像の撮影を開始すると、図2のフローチャートにしたがって現像パラメータが生成されつつ、図4のフローチャートにしたがって撮影中に随時現像パラメータの補正が行われる。
The development parameter correction process according to the flowchart of FIG. 4 is executed in parallel with the development parameter generation process according to the flowchart of FIG. 2 after moving image shooting is started by the user. That is, when the
図4のステップS401において、制御部107が、フレーム番号nを初期化(n=0)する(ステップS401)。続いて、制御部107が、nの値を+1だけインクリメントする(ステップS402)。撮影が開始された直後には、n=1に設定される。
In step S401 in FIG. 4, the
次に、制御部107の指示にしたがって、画像変化検出部112が、第nフレームにおいて、撮影内容が変化したかを判断する(ステップS403)。この例では、画像変化検出部112は、第nフレームにおいて、パンニングが検出されたかを判断する。例えば、画像変化検出部112が、画像信号から動きベクトルを検出し、動きベクトルが一定方向に連続している期間をパンニングシーンとして検出するなど、従来の技術によりパンニングを検出する。本実施例では、パンニングの検出を行うが、ズーミングの検出、露出制御の検出、顔検出によって画像変化の検出を行い、その画像変化が検出されたことをもって撮影内容が変化したと判断して、後述する補正処理のトリガにすることも可能である。
Next, in accordance with an instruction from the
ステップS403の判断処理によって、パンニングが検出されない場合は、ステップS410へ進み、制御部107が、ユーザによって撮影終了ボタンが押下されたかどうかを判断する。ユーザによって撮影が継続されている間(撮影終了が指示されるまで)は、ステップS402へ処理が戻り、ステップS402以降の処理が繰り返される。
If panning is not detected by the determination processing in step S403, the process proceeds to step S410, and the
ステップS403の判断処理によって、パンニングが検出された場合は、ステップS404に進む。ステップS404乃至S408は、制御部107が、パンニングが検出されてから所定期間内に現像パラメータの値が所定閾値以上変化し、さらにその変化が収束したかどうかを判断するステップである。
If panning is detected by the determination process in step S403, the process proceeds to step S404. Steps S404 to S408 are steps in which the
まず、制御部107が、パラメータ変化走査期間(L)が経過しているかを判断する(ステップS404)。パラメータ変化走査期間(L)は、前述した現像パラメータの値の変化とその収束を判断するための時間的な探索範囲である。制御部107が、撮影開始前にユーザによる設定操作にしたがって予めパラメータ変化走査期間(L)を設定する。
First, the
例えば、パラメータ変化走査期間(L)が200フレームと設定されている場合は、ステップS403でパンニングが検出されてから200フレーム後までが、ステップS405からS409までの処理の対象となるフレームとなる。なお、パラメータ変化走査期間(L)には、前述のようにフレーム単位の値を指定する以外にも、時間単位の値(例えば5秒など)を指定することも可能である。 For example, when the parameter change scanning period (L) is set to 200 frames, a frame that is a target of processing from steps S405 to S409 is from 200 frames after panning is detected in step S403. In the parameter change scanning period (L), in addition to specifying a value in units of frames as described above, a value in units of time (for example, 5 seconds) can be specified.
ステップS404の判断処理において、制御部107が、パラメータ変化走査期間(L)を経過していると判断した場合は、ステップS410へ進み、撮影が継続されている間は、ステップS402以降の処理が繰り返される。
In the determination process of step S404, when the
ステップS404の判断処理において、制御部107が、パラメータ変化走査期間(L)を経過していないと判断した場合は、ステップS405へ進む。
In the determination process of step S404, when the
次に、制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べて予め決められた閾値(VGAP)以上変化したかを判断する(ステップS404)。制御部107が、撮影開始前にユーザの設定操作にしたがって、予めVGAPを設定する。制御部107は、VGAPとしては、例えば1000K(ケルビン)を設定する。
Next, the
制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べてVGAP以上変化していないと判断した場合は、ステップS407に進む。
When the
制御部107が、第nフレームのWB調整パラメータが、パンニングが検出されたフレームのWB調整パラメータに比べてVGAP以上変化したと判断した場合は、ステップS406へ進む。
If the
ステップS406において、制御部107が、WB調整パラメータの変化が収束したかを判断する(ステップS406)。制御部107は、例えば、20フレームに亘ってWB調整パラメータの値がVGAPの1パーセント以上変化していないかを判断基準にして、WB調整パラメータの変化が収束したを判断する。上記判断基準となるフレーム数およびVGAPの変化割合として、任意の値を適用することができる。
In step S406, the
ステップS406の判断処理において、制御部107が、WB調整パラメータの変化が収束したと判断した場合は、ステップS409に進む。制御部107が、WB調整パラメータの変化が収束していないと判断した場合は、ステップS407に進む。
In the determination process of step S406, when the
ステップS407において、制御部107が、撮影の中断指示がされたかを判断する。撮影の中断指示がされた場合は、処理を終了する。撮影の中断指示がされていない場合は、ステップS408に進む。
In step S407, the
ステップS408において、制御部107が、nの値を+1だけインクリメントして(ステップS408)、ステップS404に進む。
In step S408, the
ステップS406の判断処理において、制御部107が、WB調整パラメータの変化が収束していると判断した場合は、ステップS409へ進む。この例では、制御部107は、図5中のn=N4のフレームにおいて現像パラメータの変化が収束したと判断したものとする。
In the determination process of step S406, if the
ステップS409において、制御部107が、現像パラメータに対する補正処理を実行する。この例では、制御部107が、WB調整パラメータに対する補正処理を実行する。そして、制御部107が、撮影の中断指示がされたかを判断する(ステップS410)。撮影の中断指示がされた場合は、処理を終了する。撮影の中断指示がされていない場合は、ステップS402に戻る。
In step S409, the
以下に、上記ステップS410におけるWB調整パラメータに対する補正処理について説明する。この例では、図5中に示すように、n=N1においてパンニングが開始し、n=N2においてパンニングが終了したものとする。つまり、N1からN2までに対応する期間が、Raw動画像データに含まれるフレーム画像データの変化期間である。フレーム画像データの変化期間は、画像変化検出部112による検出結果に基づいて決まる。
Hereinafter, the correction process for the WB adjustment parameter in step S410 will be described. In this example, as shown in FIG. 5, it is assumed that panning starts at n = N1, and panning ends at n = N2. That is, the period corresponding to N1 to N2 is the change period of the frame image data included in the Raw moving image data. The change period of the frame image data is determined based on the detection result by the image
また、n=N3においてWB調整パラメータの変化が開始し、n=N4においてWB調整パラメータの変化が終了(収束)したものとする。以下に説明するWB調整パラメータに対する補正処理は、並行して実行されている撮影処理において撮影対象がn=N4となる時点以降に実行される。そして、制御部107は、パンニングシーン期間(パンニングの開始から終了まで)にWB調整パラメータの変化が収まるように、WB調整パラメータに対する補正処理を実行する。
Further, it is assumed that the change of the WB adjustment parameter starts at n = N3 and the change of the WB adjustment parameter ends (converges) at n = N4. The correction process for the WB adjustment parameter described below is executed after the time when the shooting target is n = N4 in the shooting process executed in parallel. Then, the
具体的には、制御部107は、フレーム番号nが「N1より大きく且つN2より小さい」値であるフレームに対応するWB調整パラメータWB(n)を、以下の式(1)により算出する。
WB(n)=((WB(N4)−WB(N3))/(n−N1))+WB(N1)
・・・式(1)
Specifically, the
WB (n) = ((WB (N4) -WB (N3)) / (n-N1)) + WB (N1)
... Formula (1)
また、制御部107は、フレーム番号nが「N2以上且つN4より小さい」値であるフレームに対応するWB調整パラメータWB(n)を、以下の式(2)により算出する。
WB(n)=WB(N4)・・・式(2)
Further, the
WB (n) = WB (N4) (2)
式(1)および式(2)を参照すると、制御部107は、以下の情報に基づいて、WB調整パラメータを算出することがわかる。制御部107は、Raw動画像データが有するフレーム画像データの変化期間と現像パラメータの変化量と現像パラメータの変化期間とに基づいて、フレーム画像データの変化期間中に現像パラメータの変化が収まるようにするためのWB調整パラメータを算出する。フレーム画像データの変化は、Raw動画像データに対応する被写体の撮影内容の変化により生じた変化である。具体的には、フレーム画像データの変化は、パンニング、ズーミング、露出制御、または顔検出のいずれかにより生じた変化である。
Referring to Expression (1) and Expression (2), it can be seen that the
そして、現像パラメータ補正部111が、制御部107の指示にしたがって、図2のステップS207において既に現像パラメータファイルに記録されているWB調整パラメータを、以上のように求められたWB調整パラメータWB(n)で更新する。これにより、WB調整パラメータが補正される。
Then, in accordance with the instruction from the
図5に示すように、補正処理後のWB調整パラメータの変動は、パンニング開始からパンニング終了までの期間に収まり、パンニング終了直後には、適切にWB調整された動画像を得ることができる。このように、本実施例によれば、動画像の撮影時に、例えばパンニング等による撮影内容の変更が完了した直後において、変動のない現像パラメータを得ることができる。したがって、従来の方法に比べ、ユーザにとってより好適な動画像を提供することが可能となる。 As shown in FIG. 5, the variation in the WB adjustment parameter after the correction process falls within a period from the start of panning to the end of panning, and a moving image that is appropriately WB adjusted can be obtained immediately after the end of panning. As described above, according to the present embodiment, it is possible to obtain a development parameter having no fluctuation immediately after a change of photographing content by panning or the like is completed, for example, when a moving image is photographed. Therefore, it is possible to provide a moving image more suitable for the user than the conventional method.
(実施例2)
図6は、実施例2の画像処理装置の構成例を示す図である。実施例2の画像処理装置は、動画像再生装置60である。
(Example 2)
FIG. 6 is a diagram illustrating a configuration example of the image processing apparatus according to the second embodiment. The image processing apparatus according to the second embodiment is a moving
前述した実施例1の画像処理装置は、動画像の撮影中に現像パラメータを生成しつつ、随時現像パラメータの補正を行う。一方、動画像再生装置60は、予め撮影装置で撮影されたRaw動画像を動画像再生装置60で再生する時に、当該Raw動画像に対応する現像パラメータに対して補正処理を行う。
The image processing apparatus according to the first embodiment described above corrects development parameters as needed while generating development parameters during moving image shooting. On the other hand, the moving
動画像再生装置60は、記録メディア601、記録メディアI/F部602、操作部603、制御部604、メモリ605、Raw動画像処理部606、Raw動画像現像部607、現像パラメータ処理部608を備える。また、動画像再生装置60は、現像パラメータ補正部609、画像変化検出部610、表示部611を備える。
The moving
記録メディア601には、予め撮像装置(例えば、図1に示す撮像装置10)で撮影されたRaw動画ファイルと現像パラメータファイルとが記録されている。記録メディア601は、例えば、光学式記録媒体や半導体記録媒体などである。
In the
記録メディアI/F部602は、記録メディア601に記録された動画像ファイルや現像パラメータファイルなどの読み出しを制御する。操作部603は、ユーザによる操作に応じて、動画像再生装置60の各種動作設定を行う。操作部603は、再生開始ボタンなどを有する。
A recording medium I /
制御部604は、操作部603が設定した各種動作の実行を、対応する処理部に指示したり、各処理部間の実行順序を制御したりする。メモリ605は、Raw動画像処理部606から出力されるRaw画像データや、現像パラメータ処理部608から出力される現像パラメータを一時的に記憶する記憶手段である。メモリ605は、例えば、SDRAM等の半導体記憶素子を含む。
The
Raw動画像処理部606は、制御部604の指示に従って、記録メディアI/F部602から出力されたRaw動画像ファイルから、フレーム単位のRaw画像データを抽出する。
The raw moving
Raw動画像現像部607は、Raw動画像処理部606から出力されたRaw画像データと、現像パラメータ補正部609から出力される、補正処理後の現像パラメータに基づいて、Raw動画像の現像処理を行う。具体的には、Raw動画像現像部607は、デモザイク処理、WB調整、露出補正、色空間処理、輪郭強調などの処理を実行して、表示部611に表示可能な動画像データを生成する。
The raw moving
現像パラメータ処理部608は、制御部604の指示に従って、記録メディアI/F部602から出力された現像パラメータファイルから、フレーム単位の現像パラメータを取得する。上記現像パラメータファイルは、Raw動画像データに基づいて生成された、Raw動画像データの現像用の現像パラメータのファイルである。
The development
現像パラメータ補正部609は、現像パラメータ処理部608が取得した現像パラメータに対して、画像変化検出部610によって検出されたパンニングなどによる撮影内容の変化に応じて補正処理を行う。
A development
画像変化検出部610は、Raw動画像処理部606またはRaw動画像現像部607から出力されたフレーム単位の画像データを解析して、例えばパンニングやズーミングなどに起因する画像変化を検出する。表示部611は、Raw動画像現像部607によって実行された現像処理後の画像データを表示する。
The image
図7は、動画像再生装置によるRaw動画像の再生処理の例を説明するフローチャートである。なお、図7のフローチャートにおいて再生対象となるのは、図3中に示すような、現像パラメータに補正処理が行われていないRaw動画像ファイルである。 FIG. 7 is a flowchart illustrating an example of raw video playback processing by the video playback device. In the flowchart of FIG. 7, a RAW moving image file that is not subjected to correction processing on the development parameters as shown in FIG. 3 is to be reproduced.
まず、制御部604が、ユーザによる再生開始ボタンの押し下げ操作に応じて、動画像の再生を開始する(ステップS701)。続いて、制御部604が、後述するフレーム単位で繰り返し行う一連の処理におけるフレーム番号nを初期化(n=0)する。制御部107が、nの値を+1だけインクリメントする。再生の開始時には、制御部604が、n=1に設定する。
First, the
次に、Raw動画像現像部607が、第nフレームのRaw画像データに対して現像処理を実行する(ステップS704)。そして、表示部611が、現像処理が施された第nフレームのRaw画像データを表示する(ステップS705)。ユーザによって再生が継続されている間(再生終了が指示されるまで)は、ステップS703からS705の一連の処理が各処理部によってフレーム単位で実行される。ユーザによって再生終了ボタンが押下されると、制御部604が、再生終了指示が入力されたことを検知し(ステップS706)、本フローチャートに示す一連の再生処理が終了する。
Next, the raw moving
以上のように、動画像再生装置60により、例えば図3中に示すようなRaw動画像ファイルの再生を行うことができる。
As described above, for example, a Raw moving image file as shown in FIG. 3 can be reproduced by the moving
動画像再生装置60の、動画再生開始後にRaw動画像データと現像パラメータを先読みし、画像内容の変化に応じて現像パラメータの補正処理を行う動作について説明する。本実施例の現像パラメータの補正処理は、実施例1と同様であり、図4に示すフローチャートにしたがう。また、図4のフローチャートにしたがって動画像再生装置60によって補正処理を行った現像パラメータも実施例1と同様であり、図5に示す通りである。
An operation of the moving
動画像再生装置60によって行われる現像パラメータ補正処理は、図7のフローチャートで示した動画再生処理と並行して実行される。つまり、動画像再生装置60は、動画像の再生が開始されると、図7のフローチャートにしたがって動画像の再生を行いつつ、図4のフローチャートにしたがって、再生中に、随時現像パラメータの補正処理を実行する。
The development parameter correction processing performed by the moving
本実施例においては、動画像再生装置60は、図4のフローチャートに示す第nフレームの現像パラメータに対する補正処理を、図7のフローチャートにおいて第nフレームの再生処理が行われるときには既に終了しているように制御する。したがって、図4のフローチャートに示すフレーム番号nの値は、図7のフローチャートに示すフレーム番号nとは無関係にインクリメントされる。
In the present embodiment, the moving
実施例2における現像パラメータに対する補正処理は、処理主体が制御部604であること以外は、実施例1における現像パラメータに対する補正処理と同様である。なお、実施例2においては、図4のステップS410において、制御部604が、ユーザによって再生終了ボタンが押下されたかどうかを判断する。
The correction process for the development parameter in the second embodiment is the same as the correction process for the development parameter in the first embodiment, except that the processing subject is the
また、実施例2では、図4のステップS410において、制御部604が、再生が継続されているかを判断する。また、ステップS407において、制御部604が、再生の中断指示がされたかを判断する。また、ステップS410において、制御部604が、再生の中断指示がされたかを判断する。
In the second embodiment, the
このように、本実施例によれば、例えばパンニング等による撮影内容の変更が完了した直後において、変動のない現像パラメータを得ることができる。したがって、Raw動画像の再生時に、パンニングなどに起因するWB調整の追従遅れを解消した動画像を再生することができる。その結果、従来の方法に比べ、ユーザーにとってより好適な動画像を提供することが可能となる。 As described above, according to the present embodiment, it is possible to obtain a development parameter having no variation immediately after the change of the photographing content by panning or the like is completed. Therefore, at the time of replaying the raw moving image, it is possible to reproduce the moving image in which the tracking delay of the WB adjustment caused by panning or the like is eliminated. As a result, it is possible to provide a moving image that is more suitable for the user than the conventional method.
なお、本明細書においては、現像パラメータが現像パラメータファイルとしてRaw動画像ファイルとは別に記録される構成としているが、Raw動画像ファイルと同一ファイルに記録されるような構成であってもよい。 In the present specification, the development parameters are recorded as a development parameter file separately from the raw moving image file. However, the development parameters may be recorded in the same file as the raw moving image file.
また、現像パラメータを記録する際、対応するRaw動画像のフレーム番号や撮影された時刻情報を一緒に記録しておくことも可能である。 Further, when recording development parameters, it is also possible to record together the frame number of the corresponding Raw moving image and the time information when the image was taken.
また、現像パラメータとして主にホワイトバランス調整パラメータを例に挙げて説明したが、それに限定されるものではなく、自動露出制御に起因するγ係数の変化など、その他の現像パラメータの変化について補正処理を行うことも可能である。 Although the white balance adjustment parameter has been mainly described as an example of the development parameter, the present invention is not limited to this, and correction processing is performed for changes in other development parameters such as a change in γ coefficient caused by automatic exposure control. It is also possible to do this.
10 撮像装置
101 撮像部
102 A/D変換部
103 現像パラメータ生成部
104 Raw動画像ファイル生成部
105 現像パラメータファイル生成部
106 操作部
107 制御部
108 記録メディアI/F部
109 記録メディア
110 メモリ
111 現像パラメータ補正部
112 画像変化検出部
DESCRIPTION OF
Claims (8)
前記現像パラメータに対して補正処理を行う補正手段とを備え、
前記補正手段は、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に前記現像パラメータの変化が収まるように前記補正処理を実行する
ことを特徴とする画像処理装置。 Obtaining means for obtaining development parameters for development of the Raw moving image data generated based on the Raw moving image data;
Correction means for performing correction processing on the development parameters,
The correction unit is configured to generate the frame image data for the development parameter based on a change period of frame image data included in the Raw moving image data, a change amount of the development parameter, and a change period of the development parameter. An image processing apparatus, wherein the correction processing is executed so that the change in the development parameter falls within the change period.
ことを特徴とする請求項1に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the change in the frame image data is a change caused by a change in photographing content of a subject corresponding to the raw moving image data.
ことを特徴とする請求項1または請求項2に記載の画像処理装置。 The image processing apparatus according to claim 1, wherein the change in the frame image data is a change caused by any one of panning, zooming, exposure control, and face detection.
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 An imaging unit that captures a moving image by photographing a subject, outputs the Raw moving image data corresponding to the captured moving image, and a generating unit that generates the development parameter based on the output Raw moving image data The image processing apparatus according to claim 1, wherein the image processing apparatus is configured as an imaging apparatus including:
前記補正手段は、前記検出手段による検出結果に基づいて決まるフレーム画像データの変化期間を用いて、前記補正処理を実行する
ことを特徴とする請求項4に記載の画像処理装置。 Detection means for detecting the panning, detecting the zooming, detecting the exposure control, or detecting the face;
The image processing apparatus according to claim 4, wherein the correction unit performs the correction process using a change period of frame image data determined based on a detection result by the detection unit.
ことを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。 The image processing apparatus according to claim 1, further comprising: a developing unit that performs a developing process on the raw moving image data based on the developing parameter.
ことを特徴とする請求項6に記載の画像処理装置。 The image processing apparatus according to claim 6, further comprising display means for displaying image data developed by the developing means.
前記現像パラメータに対して補正処理を行う補正工程とを有し、
前記補正工程では、前記Raw動画像データが有するフレーム画像データの変化期間と、前記現像パラメータの変化量と、前記現像パラメータの変化期間とに基づいて、前記現像パラメータに対して、前記フレーム画像データの変化期間中に前記現像パラメータの変化が収まるように前記補正処理を実行する
ことを特徴とする画像処理装置の制御方法。 A generation step of acquiring raw moving image data and generating a development parameter based on the acquired raw moving image data;
A correction step of performing correction processing on the development parameter,
In the correction step, based on the change period of the frame image data included in the Raw moving image data, the change amount of the development parameter, and the change period of the development parameter, the frame image data with respect to the development parameter. A control method for an image processing apparatus, wherein the correction processing is executed so that the change in the development parameter is accommodated during the change period of the image processing apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012176673A JP5988759B2 (en) | 2012-08-09 | 2012-08-09 | Image processing apparatus and control method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012176673A JP5988759B2 (en) | 2012-08-09 | 2012-08-09 | Image processing apparatus and control method thereof |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2014036348A true JP2014036348A (en) | 2014-02-24 |
JP2014036348A5 JP2014036348A5 (en) | 2015-09-17 |
JP5988759B2 JP5988759B2 (en) | 2016-09-07 |
Family
ID=50285072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012176673A Expired - Fee Related JP5988759B2 (en) | 2012-08-09 | 2012-08-09 | Image processing apparatus and control method thereof |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5988759B2 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH099136A (en) * | 1995-06-22 | 1997-01-10 | Hitachi Ltd | Image pickup device |
JP2009055335A (en) * | 2007-08-27 | 2009-03-12 | Sony Corp | IMAGE PROCESSING APPARATUS, DEVELOPMENT APPARATUS, IMAGE PROCESSING METHOD, DEVELOPMENT METHOD, IMAGE PROCESSING PROGRAM, DEVELOPMENT PROGRAM, AND Raw MOTION IMAGE FORMAT |
JP2011015147A (en) * | 2009-07-01 | 2011-01-20 | Canon Inc | Imaging apparatus and control method thereof |
JP2011244423A (en) * | 2010-04-23 | 2011-12-01 | Canon Inc | Image processing system and control method for the same |
-
2012
- 2012-08-09 JP JP2012176673A patent/JP5988759B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH099136A (en) * | 1995-06-22 | 1997-01-10 | Hitachi Ltd | Image pickup device |
JP2009055335A (en) * | 2007-08-27 | 2009-03-12 | Sony Corp | IMAGE PROCESSING APPARATUS, DEVELOPMENT APPARATUS, IMAGE PROCESSING METHOD, DEVELOPMENT METHOD, IMAGE PROCESSING PROGRAM, DEVELOPMENT PROGRAM, AND Raw MOTION IMAGE FORMAT |
JP2011015147A (en) * | 2009-07-01 | 2011-01-20 | Canon Inc | Imaging apparatus and control method thereof |
JP2011244423A (en) * | 2010-04-23 | 2011-12-01 | Canon Inc | Image processing system and control method for the same |
Also Published As
Publication number | Publication date |
---|---|
JP5988759B2 (en) | 2016-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8878951B2 (en) | Image processing apparatus and method of controlling the same | |
KR100920559B1 (en) | Moving image playback device with camera-shake correction function and program recording medium | |
US20120201427A1 (en) | Estimating subject motion between image frames | |
KR101728042B1 (en) | Digital photographing apparatus and control method thereof | |
US9247150B2 (en) | Image capturing apparatus, exposure control method, and computer-readable recording medium | |
US9826148B2 (en) | Image processing apparatus and image processing method for adjusting texture of an image | |
KR101721226B1 (en) | digital image signal processing apparatus and method for controlling the same | |
US20140253763A1 (en) | Electronic device | |
JP2010183460A (en) | Image capturing apparatus and method of controlling the same | |
US11184551B2 (en) | Imaging apparatus and control method thereof | |
US9626932B2 (en) | Image processing apparatus, image processing method and recording medium recording program for correcting image in predetermined area | |
JP7246894B2 (en) | Imaging device and its control method | |
US9413974B2 (en) | Information processing apparatus, image sensing apparatus, control method, and recording medium for conversion processing | |
JP5988759B2 (en) | Image processing apparatus and control method thereof | |
JP2011233985A (en) | Image processing system and its control method | |
JP2018142983A (en) | Image processing device and method of controlling the same, program, and storage medium | |
JP2010183461A (en) | Image capturing apparatus and method of controlling the same | |
JP5406619B2 (en) | MOVING IMAGE REPRODUCTION DEVICE, IMAGING DEVICE, CONTROL METHOD THEREOF, AND PROGRAM | |
JP5332668B2 (en) | Imaging apparatus and subject detection program | |
JP2007049320A (en) | Electronic camera | |
US20200267338A1 (en) | Image capturing apparatus, image processing apparatus, control method, image processing method, and storage medium | |
JP2008271181A (en) | Imaging apparatus and imaging method, reproducing device and reproducing method, and imaged image processing system | |
JP2006217249A (en) | Electronic camera, electronic camera system and program | |
JP2004336245A (en) | Correction apparatus | |
JP2007243769A (en) | Camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150729 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150729 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160412 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160608 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160712 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160809 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5988759 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |