JP5597061B2 - Video playback apparatus and control method thereof - Google Patents
Video playback apparatus and control method thereof Download PDFInfo
- Publication number
- JP5597061B2 JP5597061B2 JP2010183385A JP2010183385A JP5597061B2 JP 5597061 B2 JP5597061 B2 JP 5597061B2 JP 2010183385 A JP2010183385 A JP 2010183385A JP 2010183385 A JP2010183385 A JP 2010183385A JP 5597061 B2 JP5597061 B2 JP 5597061B2
- Authority
- JP
- Japan
- Prior art keywords
- size
- video
- cutout
- shake
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Description
本発明は、映像再生装置、及びその制御方法に関する。 The present invention relates to a video playback device and a control method thereof.
ビデオカメラ等の撮像記録装置で映像を記録する場合、手ぶれなどによるビデオカメラの振れが原因で記録映像がぶれる場合がある。このようなぶれを映像再生時に補正する技術として、映像のぶれを表す動きベクトルを検出し、動きベクトルに応じて映像の部分領域を選択して拡大表示する技術が知られている(特許文献1参照)。また、映像撮像時にビデオカメラの振れをセンサで検出し、振れデータを映像データと共に記録し、映像再生時に振れデータを利用してぶれを補正する技術も知られている(特許文献2参照)。 When recording an image with an imaging and recording apparatus such as a video camera, the recorded image may be blurred due to the shake of the video camera due to camera shake or the like. As a technique for correcting such blur at the time of video reproduction, there is known a technique for detecting a motion vector representing the blur of the video, and selecting and enlarging and displaying a partial area of the video according to the motion vector (Patent Document 1). reference). There is also known a technique for detecting shake of a video camera with a sensor at the time of image capturing, recording the shake data together with the image data, and correcting the shake using the shake data at the time of reproducing the image (see Patent Document 2).
上述した従来の技術により映像再生時にぶれを補正する場合、大きなぶれを補正しようとすると拡大対象の部分領域が映像の存在する領域やレンズの有効像円の外に出てしまい、表示される映像に欠けが生じる場合がある。このような欠けによる画質の低下を防止するためには映像の拡大率を大きくしなければならないが、映像の拡大率を大きくすると拡大に伴う画質の低下が顕著になる。仮に、ぶれが小さい場合は拡大率を小さくし、ぶれが大きい場合は拡大率を大きくすると、ぶれの大きさが変化した場合に拡大率が変化して画角が急に変化するため、視聴者に違和感を与えてしまうような画質の低下につながる。 When correcting blur during video playback using the conventional technology described above, if you attempt to correct a large blur, the partial area to be enlarged will be outside the area where the video exists and the effective image circle of the lens, and the displayed video Chipping may occur. In order to prevent such a drop in image quality due to chipping, it is necessary to increase the image enlargement ratio. However, if the image enlargement ratio is increased, the image quality deterioration associated with enlargement becomes significant. For example, if the blur is small, the zoom ratio is reduced. If the blur is large, the zoom ratio is increased. If the blur size changes, the zoom ratio changes and the angle of view changes suddenly. This leads to a decrease in image quality that may cause a sense of discomfort.
本発明はこのような状況に鑑みてなされたものであり、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正する技術を提供することを目的とする。 The present invention has been made in view of such a situation, and an object of the present invention is to provide a technique for correcting image blur at the time of image playback while enabling large blur correction and suppressing deterioration in image quality. To do.
上記課題を解決するために、第1の本発明は、撮像装置によって撮像された映像を表す映像データと、当該映像の撮像時の当該撮像装置の振れを表す振れデータと、を取得する取得手段と、前記映像データを再生する再生手段であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生手段と、前記再生手段による前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動手段と、前記振れデータから得られる、前記再生手段で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定手段と、前記再生手段による前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに徐々に近づくように前記所定の切り出しサイズを変更する変更手段と、を備え、前記決定手段は、前記変更手段が前記切り出しサイズを大きくするように変更中である場合は、前記切り出しサイズを小さくするように変更中である場合及び前記切り出しサイズを変更中でない場合よりも、前記所定の時間を長く設定することを特徴とする映像再生装置を提供する。 In order to solve the above-described problem, the first aspect of the present invention provides an acquisition unit that acquires video data representing a video imaged by an imaging device and shake data representing a shake of the imaging device at the time of imaging the video. Replaying means for replaying the video data, and replaying means for sequentially cutting out images of a predetermined cutout size from a predetermined cutout position of the unit image for each of a plurality of unit images constituting the video; And moving means for moving the predetermined cutout position so as to correct blurring of the video during reproduction of the video data, and a unit image obtained from the shake data and having a predetermined value than the unit image being reproduced by the reproduction means. Based on the magnitude of the shake of the imaging device at the time of unit image reproduction after time, the larger the shake, the smaller the smaller the shake And determining the target size of the cutout size, and changing the predetermined cutout size so that the predetermined cutout size gradually approaches the target size during the reproduction of the video data by the playback means Changing means, and when the changing means is changing to increase the cutout size, the determining means is changing the cutout size and changing the cutout size. Provided is a video playback device characterized in that the predetermined time is set longer than in the case of not being in the middle .
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。 Other features of the present invention will become more apparent from the accompanying drawings and the following description of the preferred embodiments.
以上の構成により、本発明によれば、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。 With the above configuration, according to the present invention, it is possible to correct a blur of a video at the time of video playback while enabling a correction of a large blur and suppressing a deterioration in image quality.
以下、添付図面を参照して、本発明の実施形態を説明する。なお、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。また、実施形態の中で説明されている特徴の組み合わせすべてが、本発明に必須とは限らない。 Embodiments of the present invention will be described below with reference to the accompanying drawings. The technical scope of the present invention is determined by the claims, and is not limited by the following individual embodiments. In addition, not all combinations of features described in the embodiments are essential to the present invention.
[第1の実施形態]
本発明の映像再生装置をビデオカメラ(撮像記録再生装置)に適用した実施形態について説明する。図1は、第1の実施形態に係るビデオカメラ100の撮像装置及び記録装置としての構成を示すブロック図である。図2は、ビデオカメラ100の映像再生装置としての構成を示すブロック図である。
[First Embodiment]
An embodiment in which the video playback apparatus of the present invention is applied to a video camera (imaging recording / playback apparatus) will be described. FIG. 1 is a block diagram illustrating a configuration of the
図1において、レンズユニット101は、撮像素子102に被写体像を結像する。撮像素子102は、CCD、CMOSセンサ等を含み、結像された被写体像を光電変換する。アナログ信号処理部103は、撮像素子102で得られた信号に所定の処理を施してアナログ撮像信号を生成する。アナログ信号処理部103は、例えばCDS(Co−related Double Sampling:相関二重サンプリング)回路、AGC(Automatic Gain Control)回路等を含む。カメラ信号処理部104は、A/D変換器を備え、アナログ信号処理部103で生成されたアナログ撮像信号からデジタルビデオ信号を生成する。符号化部105は、生成されたデジタルビデオ信号をMPEG2形式で符号化し、MPEG2のストリームを出力する。
In FIG. 1, the lens unit 101 forms a subject image on the
角速度センサ111は、ビデオカメラに加わる振れの角速度を検出する。振れデータ設定部112は、角速度センサ111の出力に基づいて、ビデオカメラの振れ量を算出する。タイムコード設定部114は、時計113から取得した時刻情報を基に映像記録時のタイムコードを設定する。メタデータ設定部115は、振れデータ、タイムコード、カメラ関連データ(不図示)等をメタデータとして出力する。
The angular velocity sensor 111 detects the angular velocity of shake applied to the video camera. The shake
記録制御部121は、符号化部105からのMPEG2のストリーム(映像データ)、及びメタデータ設定部115からのメタデータを、記録メディア122に記録する。図2を参照して後述するように、記録制御部121は、記録メディア122からMPEG2のストリームを再生して出力することもでき、また、任意のメタデータを読み出すことも可能である。
The
以上の処理により、記録メディア122に、振れデータを含むメタデータが付加された映像データが記録される。
Through the above processing, video data to which metadata including shake data is added is recorded on the
次に、図2を参照して、ビデオカメラ100の映像再生装置としての構成について説明する。記録メディア122には、図1を参照して説明した、振れデータを含むメタデータが付加された映像データが記録されている。但し、メタデータ及び映像データの記録形式はこれに限定されず、ビデオカメラ100が振れデータ及び映像データを取得可能である限り、どのような形式であってもよく、例えばメタデータは映像データと別に記録されていても構わない。
Next, the configuration of the
記録制御部121は、記録メディア122から、映像データ及びメタデータ(特に、振れデータ)を取得する。復号化部221は、記録制御部121が取得した映像データ(MPEG2のストリーム)を復号化し、復号化されたデジタルビデオ信号をメタデータと共にメモリ222へ出力する。
The
メモリ222は、復号化されたデジタルビデオ信号を数秒分記憶しておく。メモリ222に数秒分のデジタルビデオ信号を記憶しておくことにより、表示装置224に出力されている再生画像(再生中の画像)に対して時間的に先となる情報を得ることが可能となる。 The memory 222 stores the decoded digital video signal for several seconds. By storing a digital video signal for several seconds in the memory 222, it becomes possible to obtain information that is temporally ahead of the reproduced image (image being reproduced) output to the display device 224. .
画像処理部223は、後述するマイクロコンピュータ(マイコン)210の処理により決定された切り出し位置及び切り出しサイズに従って映像データを再生する。具体的には、画像処理部223は、映像データが表す映像を構成する複数の単位画像(フィールド画像又はフレーム画像)それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、画像処理部223は、切り出した画像に対して電子ズームを施し、表示装置224へ出力する。表示装置224は、出力された画像を順次表示することにより、映像を表示する。
The
動きベクトル検出部201は、メモリ222に記憶されたデジタル画像から動きベクトルを検出する。この動きベクトルは、映像のぶれの指標としての役割を果たす。切り出し位置設定部202は、動きベクトル検出部で検出された動きに基づいて、映像のぶれを補正するように単位画像の切り出し位置を決定して(移動させて)画像処理部223に設定する。
The motion
メタデータ読み出し部203は、メモリ222からメタデータを読み出す(メタデータは、例えば、復号化されたデジタル画像に付加されている)。メタデータ読み出し部203は後述する読み出しアドレス設定部207が設定した読み出しアドレスからメタデータを読み出す。
The
振れデータ取得部204は、読み出されたメタデータから振れデータを取得する。切り出しサイズ設定部205は、取得した振れデータを基に、単位画像の切り出しサイズを決定して画像処理部223に設定する(詳細は図3乃至図5を参照して後述)。
The shake
タイムコード設定部206は、現在の再生画像(再生中の単位画像)のタイムコードをメタデータ読み出し部203から取得し、取得したタイムコードよりも所定の時間後のタイムコードを読み出しアドレス設定部207に通知する。読み出しアドレス設定部207は、通知されたタイムコードに対応するアドレスをメモリ222に設定する。これにより、メタデータ読み出し部203は、現在の再生画像より所定の時間後に再生される画像(単位画像)のメタデータを取得することができる。
The time
マイコン210は、動きベクトル検出部201、切り出し位置設定部202、メタデータ読み出し部203、振れデータ取得部204、切り出しサイズ設定部205、タイムコード設定部206、及び読み出しアドレス設定部207の機能を実装する。マイコン210はまた、後述する図3乃至図5のフローチャートに示す各種処理の制御を行う。
The
図3は、第1の実施形態に係る映像データ再生処理の流れを示すフローチャートである。ビデオカメラ100が映像データの再生を開始すると、本フローチャートの処理が開始する。
FIG. 3 is a flowchart showing a flow of video data reproduction processing according to the first embodiment. When the
S301で、振れデータ取得部204は、メタデータ読み出し部203を介して、映像データの再生開始点から先の所定期間分の振れデータを取得する。S302で、切り出しサイズ設定部205は、S301で取得された振れデータが表す振れの振幅をチェックする。S303で、切り出しサイズ設定部205は、S302でチェックした振幅が閾値よりも大きいか否かを判定する。振幅が閾値よりも大きい場合、処理はS304に進み、そうでない場合、処理はS305に進む。
In step S <b> 301, the shake
S304で、切り出しサイズ設定部205は、切り出しサイズ=「小」に設定する。切り出しサイズ設定部205はまた、目標サイズ=「小」(切り出しサイズと同じ)に設定する。切り出しサイズが小さいということは、表示装置224に表示される映像の拡大率が大きいということを意味する。この場合、比較的大きなぶれを補正しても、切り出し対象の領域が映像の存在する領域の外に出る可能性は低い。
In step S304, the cutout
S305で、切り出しサイズ設定部205は、切り出しサイズ=「大」に設定する。切り出しサイズ設定部205はまた、目標サイズ=「大」(切り出しサイズと同じ)に設定する。切り出しサイズが大きいということは、表示装置224に表示される映像の拡大率が小さいということを意味する。この場合、表示装置224に表示される映像の品質は相対的に高くなるが、切り出し対象の領域が映像の存在する領域の外に出ないようにするためには、比較的小さなぶれしか補正できない。
In step S305, the cutout
S303における閾値は、例えば、補正角度換算で0.5度である。これは、手ぶれが少ない人が撮影した映像であれば、通常、0.5度の補正量があれば十分に映像のぶれを補正できるからである。従って、S305での切り出しサイズ=「大」は、0.5度相当のぶれを補正可能な切り出しサイズである。また、S304での切り出しサイズ=「小」は、切り出される画像の画素数が極めて少なくなることを防止するために、2度相当のぶれを補正可能な切り出しサイズとする。 The threshold value in S303 is, for example, 0.5 degrees in terms of correction angle. This is because, for an image taken by a person with little camera shake, the image blur can be sufficiently corrected with a correction amount of 0.5 degrees. Therefore, the cutout size = “large” in S305 is a cutout size that can correct blur equivalent to 0.5 degrees. In addition, the cutout size = “small” in S304 is set to a cutout size that can correct blur equivalent to twice in order to prevent the number of pixels of the cutout image from becoming extremely small.
図6は、単位画像全体と切り出される画像との関係を示す概念図である。図6(a)において、単位画像601のサイズは、撮像素子102のサイズに対応する。切り出し領域602は、切り出しサイズ=「大」の場合の切り出し領域を示す、切り出し領域603は、切り出しサイズ=「小」の場合の切り出し領域を示す。切り出しサイズが大きい状態で大きな手ぶれを補正しようとすると、図6(a)に示すように切り出し領域の一部が単位画像601の外に出る。従って、表示される映像に欠けが生じる。そこで、手ぶれが大きいときは切り出しサイズを小さくすれば、図6(a)に示すように切り出し領域603は単位画像601の内部に収まり、映像に欠けが生じる可能性を低減できる。
FIG. 6 is a conceptual diagram showing the relationship between the entire unit image and the clipped image. In FIG. 6A, the size of the
また、図6(b)に示すように、撮像素子102の一部がレンズユニット101の有効像円611の外に存在する場合、撮像素子102のサイズだけではなく、レンズユニット101の有効像円に起因して映像の欠けが発生する場合もある。単位画像612のサイズは、撮像素子102のサイズに対応する。但し、単位画像612の四隅は、有効像円611の外であるため、欠けている。切り出し領域613は、切り出しサイズ=「大」の場合の切り出し領域を示す、切り出し領域614は、切り出しサイズ=「小」の場合の切り出し領域を示す。切り出し領域613は単位画像612の内部に収まっているが、有効像円611の外部を含むため、実際には映像に欠けが生じる。この場合も、切り出し領域614で示すように切り出しサイズを小さくすれば、映像に欠けが生じる可能性を低減できる。
In addition, as shown in FIG. 6B, when a part of the
図3に戻り、S306で、ビデオカメラ100は、ぶれ補正を伴う映像再生を行う。具体的には、切り出し位置設定部202は、動きベクトル検出部201が検出した動きベクトルに基づき、映像のぶれを補正するように切り出し位置を決定(移動)して画像処理部223に設定する。切り出し位置の決定は、任意の知られている技術を利用して実行可能である。画像処理部223は、単位画像の設定された切り出し位置から、S304又はS305で設定された切り出しサイズの画像を切り出す。そして、画像処理部223は、切り出した画像を表示装置224に出力する。なお、後述する図4のS402においてパンニングが発生していると判定された場合、切り出し位置設定部202は、切り出し位置の変更を停止する。パンニング動作時は一般的に、検出される振れデータ及びベクトル量が大きくなるため、切り出し位置が補正リミットに到達しないよう、大きな手ぶれ補正を効かせない様に制御する。そのため切り出し位置設定を停止しても問題はない。
Returning to FIG. 3, in S306, the
S307で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさに基づいて、目標サイズを決定する(S304又はS305で設定した目標サイズを変更する)。詳細については、図4を参照して後述する。
In step S307, the cut-out
S308で、切り出しサイズ設定部205は、画像処理部223に設定した切り出しサイズを、S307で決定した目標サイズに徐々に近づくように変更する。徐々に近づけることを実現するため、切り出しサイズ設定部205は、S308の1回の処理では切り出しサイズを少ししか変更しない。S306、S307、及びS308の処理が繰り返し実行されることにより、切り出しサイズは(S307で目標サイズが変化しなければ)最終的に目標サイズに到達する。詳細については、図5を参照して後述する。
In step S308, the cutout
図7は、画像の切り出し及び拡大の概念図である。切り出しサイズを小さくすると画角が狭くなり、逆に切り出しサイズを大きくすると画角が広くなる。そのため切り出しサイズの変更を急激に行うと視聴者に違和感を与えてしまう可能性がある。本実施形態では、S308で説明したように切り出しサイズを徐々に変更するため、このような違和感を軽減することができる。 FIG. 7 is a conceptual diagram of image clipping and enlargement. If the cutout size is reduced, the angle of view becomes narrower. Conversely, if the cutout size is increased, the angle of view becomes wider. For this reason, if the cutout size is changed suddenly, the viewer may feel uncomfortable. In this embodiment, since the cutout size is gradually changed as described in S308, such a sense of incongruity can be reduced.
図4は、図3のS307における目標サイズ決定処理の詳細を示すフローチャートである。S401で、振れデータ取得部204は、メタデータ読み出し部203を介して、現在の再生地点から先の所定期間分の振れデータを取得する。手ぶれは通常4〜9Hzの周波数を持つため、所定期間とは例えば、低い周波数の2周期分程度、約0.5秒である。S402で、切り出しサイズ設定部205は、S401で取得された振れデータが表す振れの振幅をチェックする。
FIG. 4 is a flowchart showing details of the target size determination process in S307 of FIG. In step S <b> 401, the shake
S403で、切り出しサイズ設定部205は、振れデータがビデオカメラ100のパンニングを表すか否かを判定する。具体的には、切り出しサイズ設定部205は、取得した期間の振れデータが一方向に増加又は減少している場合に、パンニングが発生していると判定する。パンニングが発生している場合、前述のように大きな手ぶれ補正は行わないため、本フローチャートの処理は終了する(従って、目標サイズは変更されない)。そうでない場合、処理はS404に進む。
In step S <b> 403, the cutout
S404で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズに等しいか否かを判定する。等しい場合、処理はS405に進み、等しくない場合(即ち、後述する図5の処理により切り出しサイズを変更中の場合)、処理はS413に進む。
In step S404, the cutout
S405で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさ(即ち、S401で取得した期間の最後の振幅)を取得する。そして、切り出しサイズ設定部205は、振幅が閾値よりも大きいか否かを判定する。大きい場合、処理はS409に進み、そうでない場合、処理はS406に進む。
In step S405, the cut-out
S406で、切り出しサイズ設定部205は、現在の目標サイズ=「大」であるか否かを判定する。現在の目標サイズ=「大」であれば、目標サイズの変更は不要であるので、本フローチャートの処理は終了する。そうでなければ、処理はS407に進み、切り出しサイズ設定部205は、目標サイズ=「大」に設定する。このように、振れが比較的小さい場合は、切り出しサイズを最終的に大きくするために、目標サイズ=「大」に設定される。
In step S <b> 406, the cutout
一方、S405において振幅が閾値よりも大きいと判定された場合、S409で、切り出しサイズ設定部205は、現在の目標サイズ=「小」であるか否かを判定する。現在の目標サイズ=「小」であれば、目標サイズの変更は不要であるので、本フローチャートの処理は終了する。そうでなければ、処理はS410に進み、切り出しサイズ設定部205は、目標サイズ=「小」に設定する。このように、振れが比較的大きい場合は、切り出しサイズを最終的に小さくして大きいぶれを補正可能にするために、目標サイズ=「小」に設定される。
On the other hand, when it is determined in S405 that the amplitude is larger than the threshold value, in S409, the cut-out
なお、S405、S406、S407、S409、及びS410などの説明において、閾値は1つだけであり、目標サイズは「大」又は「小」の2種類だけである。しかしながら、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れが大きいほど目標サイズが小さくなり、振れが小さいほど目標サイズが大きくなれば、閾値の数やそれに対応する目標サイズの種類はいくつであってもよい。
In the description of S405, S406, S407, S409, and S410, there is only one threshold value, and the target size is only two types, “large” and “small”. However, if the shake of the
S404で「NO」と判定された場合、即ち、切り出しサイズを変更中の場合、S413で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズよりも大きいか否かを判定する。切り出しサイズが目標サイズよりも大きい場合は、後述するS503で切り出しサイズを縮小中である場合である。この場合、本フローチャートの処理は終了する。これにより、切り出しサイズの縮小中に目標サイズが変更されることが防止され、切り出しサイズの拡大・縮小が頻繁に切り替わって映像の視認性が低下することが防止される。一方、切り出しサイズが目標サイズよりも大きくない場合は、後述するS504で切り出しサイズを拡大中である場合である。この場合、大きなぶれ補正が不可能になるので、振れの大きさを確認し、大きい場合は切り出しサイズの拡大中であっても縮小に切り替える必要がある。そこで、処理はS414に進む。
If “NO” is determined in S404, that is, if the cutout size is being changed, the cutout
S414で、切り出しサイズ設定部205は、S405と同様に振幅が閾値よりも大きいか否かを判定する。大きい場合、処理はS409に進み、S409では必ず「NO」と判定されるため、最終的に処理はS410に進み、目標サイズ=「小」に設定され、比較的大きなぶれの補正が可能になる。そうでない場合、本フローチャートの処理は終了する。
In S414, the cut-out
図5は、図3のS308における切り出しサイズ変更処理の詳細を示すフローチャートである。S501で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズに等しいか否かを判定する。等しい場合、切り出しサイズの変更は不要であるため、本フローチャートの処理は終了する。等しくない場合、処理はS502に進む。
FIG. 5 is a flowchart showing details of the cut-out size changing process in S308 of FIG. In step S501, the cutout
S502で、切り出しサイズ設定部205は、現在設定されている切り出しサイズが目標サイズよりも大きいか否かを判定する。大きい場合、処理はS503に進み、そうでない場合、処理はS504に進む。
In step S502, the cutout
S503で、切り出しサイズ設定部205は、切り出しサイズを1ステップ分小さくする。一方、S504では、切り出しサイズ設定部205は、切り出しサイズを1ステップ分大きくする。ここで、「1ステップ」の大きさは、S405における「所定の時間」の経過後に切り出しサイズが目標サイズに到達するように決定される。換言すれば、目標サイズと切り出しサイズとの差を、再生中の単位画像から所定の時間後に再生される単位画像までの間の単位画像の数で割って得られる商が、1ステップである。
In step S503, the cutout
以上の処理により、切り出しサイズは徐々に(段階的に)変化するため、画角の急激な変化が抑制され、それに伴う画質の低下も抑制される。 With the above processing, the cut-out size changes gradually (stepwise), so that a sudden change in the angle of view is suppressed, and the accompanying deterioration in image quality is also suppressed.
図8は、振れの大きさの変化に伴う切り出しサイズの変化を示す概念図である。横軸が時間、縦軸が振れを表す。図8には、約3分の映像について、振れの変化が示されている。図8に示すように、大きい、又は小さい振れが発生する時刻よりも少し前から切り出しサイズの縮小又は拡大が開始し、切り出しサイズは徐々に変化する。 FIG. 8 is a conceptual diagram showing a change in cutout size accompanying a change in the magnitude of shake. The horizontal axis represents time, and the vertical axis represents runout. FIG. 8 shows a change in shake for an image of about 3 minutes. As illustrated in FIG. 8, the cutout size starts to be reduced or enlarged slightly before the time when the large or small shake occurs, and the cutout size gradually changes.
以上説明したように、本実施形態によれば、ビデオカメラ100は、映像再生時に、映像を構成する複数の単位画像それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、ビデオカメラ100は、映像のぶれを補正するように単位画像の切り出し位置を移動させる。また、ビデオカメラ100は、ビデオカメラ100の振れが大きい場合は小さく、小さい場合は大きくなるように、切り出しサイズを変更する。切り出しサイズの変更の際に、ビデオカメラ100は、急激にではなく、徐々に(段階的に)変更を行う。これにより、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。
As described above, according to the present embodiment, the
<第2の実施形態>
第1の実施形態では手ぶれが大きい場合と小さい場合の画像の切り出しサイズはそれぞれ一定としていた。本実施形態では、表示装置224に表示される映像の拡大率を手ぶれの大きさに応じて変更するようにしている。また、画像の切り出しサイズを変更中の場合と画像の切り出しサイズを変更中でない場合とで、振れ検出期間を変更している。先読みした手ぶれデータに応じて切り出しサイズを変更することで、不必要な映像の拡大を行うことがなくなり、画質をより向上することができると共に、画角変更中はより長い振れ検出期間を設けることで、画角の変化をより自然にすることが可能となる。そして、手ぶれを十分に補正した良好な再生画像を提供することが可能となる。
<Second Embodiment>
In the first embodiment, the cutout size of the image when the camera shake is large and when the camera shake is small is constant. In the present embodiment, the enlargement ratio of the video displayed on the display device 224 is changed according to the size of camera shake. Further, the shake detection period is changed between when the image cutout size is being changed and when the image cutout size is not being changed. By changing the cut-out size according to the pre-read camera shake data, unnecessary image enlargement can be avoided, image quality can be improved, and a longer shake detection period should be provided while changing the angle of view. Thus, the change in the angle of view can be made more natural. In addition, it is possible to provide a good reproduced image in which camera shake is sufficiently corrected.
本発明の第2の実施形態におけるビデオカメラ100の構成は、第1の実施形態と同様であるため、構成の詳細な説明は省略する(図1及び図2参照)。以下、第1の実施形態との相違点について詳細に説明する。図9は、第2の実施形態に係る映像データ再生処理の流れを示すフローチャートである。第1の実施例と同様に、ビデオカメラ100が映像データの再生を開始すると本フローチャートの処理が開始する。
Since the configuration of the
S901で、振れデータ取得部204は、メタデータ読み出し部203を介して、映像データの再生開始点から先の所定期間分の振れデータを取得する。S902で、切り出しサイズ設定部205は、S901で取得された振れデータが表す振れの振幅をチェックする。S903で、切り出しサイズ設定部205は、S902でチェックした振幅に応じた切り出しサイズ(切り出しサイズの初期値)を設定する。切り出しサイズ設定部205は内部に複数の閾値を有し、各閾値と振れの振幅とに基づいて、切り出しサイズの初期値を決定する。ここでの閾値は、切り出し可能な最大サイズから最小サイズ、例えば補正角度換算0.5度から2度の間を0.1度ずつに区切った値となる。切り出しサイズ設定部205はまた、図3のS304及びS305の場合と同様、目標サイズ=「切り出しサイズ」に設定する。
In step S <b> 901, the shake
次にS904で、ビデオカメラ100は、図3のS306と同様にぶれ補正を伴う映像再生を行う。具体的には、切り出し位置設定部202は、動きベクトル検出部201が検出した動きベクトルに基づき、映像のぶれを補正するように切り出し位置を決定(移動)して画像処理部223に設定する。画像処理部223は、単位画像の設定された切り出し位置から、S903で設定された切り出しサイズの画像を切り出し、切り出した画像を表示装置224に出力する。
In step S <b> 904, the
S905では、振れデータ取得部204は、再度所定期間分の振れデータを取得(メタデータ読み出し部203を介して現在の再生時点から先の所定期間分の振れデータを取得)する。ここでの所定期間は、最初は通常期間、すなわち前述のように0.5秒であるが、後述のS909での設定に応じて変化することになる。
In step S <b> 905, the shake
S906で、切り出しサイズ設定部205は、S905で取得された振れデータから振れの振幅をチェックする。S907で、切り出しサイズ設定部205は、ビデオカメラ100がパンニング中かどうかの判定を行い、パンニング中であれば処理はS904に戻る(即ち、第1の実施形態同様、切り出しサイズの変更等は行われない)。パンニング中でなければ、処理はS908に進む。S908で、切り出しサイズ設定部205は、再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時のビデオカメラ100の振れの大きさに基づいて目標サイズを決定する。この目標サイズ決定方法は、S903における切り出しサイズの初期値の設定方法と同様である(即ち、複数の閾値を使用して、現在の振れ振幅に最も適した目標サイズが決定される)。
In step S906, the cutout
S909で、振れデータ取得部204は、現在の切り出しサイズの変更状況に応じてタイムコード設定部206により読み出しアドレス設定部207を操作し、振れデータを取得する所定期間を変更する。所定期間の変更方法については、図10を参照して後述する。
In step S909, the shake
S910での処理は図3のS308の動作、すなわち図5の処理と全く同じであり、S908で目標サイズが変化しなければ、目標サイズに到達するまで切り出しサイズが徐々に変化する。 The processing in S910 is exactly the same as the operation in S308 in FIG. 3, that is, the processing in FIG. 5. If the target size does not change in S908, the cutout size gradually changes until the target size is reached.
図10は振れデータを取得する所定期間設定処理の詳細を示すフローチャートである。S1001で、振れデータ取得部204は、切り出しサイズが目標サイズと等しいかどうかの判定を行う。サイズが等しい場合は、S1002で振れデータ取得部204は、所定期間(データ取得期間)を通常期間に設定する。一方、切り出しサイズと目標サイズが違う場合は、切り出しサイズが変化している状態である。この場合、S1003で振れデータ取得部204は、タイムコード設定部206により、所定期間を長時間に設定する。ここでの「長時間」は、メタデータが存在することが前提であるため、メモリ222の容量により変化するが、切り出しサイズの反転が目立ち難い5秒〜10秒が望ましい。このように所定期間を設定して本フローチャートの処理は終了する。
FIG. 10 is a flowchart showing details of a predetermined period setting process for acquiring shake data. In step S1001, the shake
図11は、S1003により所定期間が「長時間」に設定された場合の所定期間中の振れデータの変化を示している。この図からもわかるように、所定期間が長ければ、振れの状態のうち、この先の期間中に突発的に振れが大きくなったかどうかが確認しやすくなる。そのため、切り出しサイズを急に反転させなければならない状況をより回避しやすくなる。その結果、画角変化の発生確率を減らすことが可能となり、再生画像をより見やすくすることが可能となる。 FIG. 11 shows a change in shake data during a predetermined period when the predetermined period is set to “long time” in S1003. As can be seen from this figure, if the predetermined period is long, it is easy to confirm whether or not the shake has suddenly increased during the following period of the shake state. Therefore, it becomes easier to avoid the situation where the cutout size must be suddenly reversed. As a result, it is possible to reduce the probability of occurrence of a change in the angle of view and make it easier to see the reproduced image.
ところで、図10においては、切り出しサイズ変更中は所定期間を「長時間」とし、切り出しサイズを変更していない場合は所定期間を短くした。しかし、切り出しサイズを小さくする場合においては、画像のケラレが発生することはない。そこで、図10に示した制御例の他にも、図12に示すように、データ取得期間(所定期間)を、切り出しサイズを大きくする場合のみ「長時間」とすることも可能である。これは、切り出しサイズを小さくする場合は大きくする場合に比べて映像に欠けが生じる可能性が小さいためであり、切り出しサイズを大きくする場合に比べて所定期間を短くすることで処理負荷を軽減できる。図12において、図10と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。S1203で、振れデータ取得部204は、切り出しサイズが目標サイズよりも大きいかどうかを判定する。切り出しサイズが目標サイズよりも大きい場合は、現在切り出しサイズを縮小中であるため、処理はS1002に進む。一方、切り出しサイズが目標サイズよりも小さい場合は、S1204で振れデータ取得部204は、所定期間を「長時間」に設定する。このように、データ取得期間(所定期間)を、切り出しサイズを大きくする場合のみ「長時間」に設定しても構わない。
In FIG. 10, the predetermined period is set to “long time” while the cutout size is changed, and the predetermined period is shortened when the cutout size is not changed. However, when the cutout size is reduced, image vignetting does not occur. Therefore, in addition to the control example shown in FIG. 10, as shown in FIG. 12, the data acquisition period (predetermined period) can be set to “long time” only when the cutout size is increased. This is because when the cutout size is reduced, the possibility of chipping in the video is less than when the cutout size is increased, and the processing load can be reduced by shortening the predetermined period compared to when the cutout size is increased. . In FIG. 12, steps in which the same or similar processes as those in FIG. 10 are performed are denoted by the same reference numerals and description thereof is omitted. In step S1203, the shake
以上説明したように、本実施形態によれば、ビデオカメラ100は、映像再生時に、映像を構成する複数の単位画像それぞれについて、単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す。そして、ビデオカメラ100は、映像のぶれを補正するように単位画像の切り出し位置を移動させる。また、ビデオカメラ100は、ビデオカメラ100の振れの大きさに応じて切り出しサイズを変更するとともに、切り出しサイズの変更中は、振れの大きさの変化を将来にわたった長時間監視することで、切り出しサイズの変更をよりなめらかに行うことができる。これにより、大きなぶれの補正を可能にすると共に画質の低下を抑制しつつ、映像再生時に映像のぶれを補正することが可能となる。
As described above, according to the present embodiment, the
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
[Other Embodiments]
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, etc.) of the system or apparatus reads the program. It is a process to be executed.
Claims (5)
前記映像データを再生する再生手段であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生手段と、
前記再生手段による前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動手段と、
前記振れデータから得られる、前記再生手段で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定手段と、
前記再生手段による前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに近づくように前記所定の切り出しサイズを変更する変更手段と、
を備え、
前記決定手段は、前記変更手段が前記切り出しサイズを大きくするように変更中である場合は、前記切り出しサイズを小さくするように変更中である場合及び前記切り出しサイズを変更中でない場合よりも、前記所定の時間を長く設定する
ことを特徴とする映像再生装置。 Acquisition means for acquiring video data representing video captured by the imaging device and shake data representing shake of the imaging device at the time of imaging the video;
Replaying means for replaying the video data, replaying means for sequentially cutting out images of a predetermined cutout size from a predetermined cutout position of the unit image for each of a plurality of unit images constituting the video;
Moving means for moving the predetermined cutout position so as to correct blur of the video during playback of the video data by the playback means;
Based on the magnitude of shake of the imaging device at the time of imaging a unit image that is obtained from the shake data and is reproduced after a predetermined time from the unit image being reproduced by the reproduction means, the larger the shake, the smaller Determining means for determining a target size of the cut-out size so that the smaller the shake is,
During playback of the video data by the reproducing means, and changing means for the predetermined clipping size changes the predetermined cut size to brute close to the target size,
Equipped with a,
When the changing means is changing so as to increase the cutout size, the determining means is more preferable than when changing the cutout size and when not changing the cutout size. Set a long time
A video reproducing apparatus characterized by that.
ことを特徴とする請求項1に記載の映像再生装置。 The video reproducing apparatus according to claim 1, wherein the determination unit does not determine the next target size while the current cut-out size is larger than the current target size.
ことを特徴とする請求項1又は2に記載の映像再生装置。 When the shake data during a period from the time of capturing the unit image being played back by the playback means to the time after the predetermined time indicates that the panning has been performed by the imaging device, the determining means The video playback apparatus according to claim 1, wherein no determination is made.
取得手段が、撮像装置によって撮像された映像を表す映像データと、当該映像の撮像時の当該撮像装置の振れを表す振れデータと、を取得する取得工程と、
再生手段が、前記映像データを再生する再生工程であって、前記映像を構成する複数の単位画像それぞれについて前記単位画像の所定の切り出し位置から所定の切り出しサイズの画像を順次切り出す再生工程と、
移動手段が、前記再生工程における前記映像データの再生中に、前記映像のぶれを補正するように前記所定の切り出し位置を移動させる移動工程と、
決定手段が、前記振れデータから得られる、前記再生工程で再生中の単位画像よりも所定の時間後に再生される単位画像の撮像時の前記撮像装置の振れの大きさに基づいて、当該振れが大きいほど小さく当該振れが小さいほど大きくなるように前記切り出しサイズの目標サイズを決定する決定工程と、
変更手段が、前記再生工程における前記映像データの再生中に、前記所定の切り出しサイズが前記目標サイズに近づくように前記所定の切り出しサイズを変更する変更工程と、
を備え、
前記決定工程では、前記変更工程において前記切り出しサイズを大きくするように変更中である場合は、前記切り出しサイズを小さくするように変更中である場合及び前記切り出しサイズを変更中でない場合よりも、前記所定の時間を長く設定する
ことを特徴とする制御方法。 A method for controlling a video playback device, comprising:
An acquisition step in which the acquisition unit acquires video data representing video captured by the imaging device and shake data representing shake of the imaging device during imaging of the video;
A reproduction step of reproducing the video data, wherein a reproduction step of sequentially cutting out images of a predetermined cut-out size from a predetermined cut-out position of the unit image for each of a plurality of unit images constituting the video;
A moving step of moving the predetermined cutout position so as to correct blur of the video during playback of the video data in the playback step;
Based on the magnitude of the shake of the imaging device at the time of capturing the unit image that is obtained from the shake data and is acquired after a predetermined time from the unit image that is being reproduced in the reproduction step. A determination step of determining a target size of the cut-out size so that the larger the smaller and the smaller the shake is,
Change means, the playing of the video data in the regeneration step, and a changing step of the predetermined clipping size changes the predetermined cut size to brute close to the target size,
Equipped with a,
In the determining step, when the cutout size is being changed in the changing step, the cutting size is smaller than when the cutout size is being changed and when the cutout size is not being changed. Set a long time
A control method characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010183385A JP5597061B2 (en) | 2010-08-18 | 2010-08-18 | Video playback apparatus and control method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010183385A JP5597061B2 (en) | 2010-08-18 | 2010-08-18 | Video playback apparatus and control method thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012044418A JP2012044418A (en) | 2012-03-01 |
JP5597061B2 true JP5597061B2 (en) | 2014-10-01 |
Family
ID=45900217
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010183385A Expired - Fee Related JP5597061B2 (en) | 2010-08-18 | 2010-08-18 | Video playback apparatus and control method thereof |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5597061B2 (en) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101578600B1 (en) | 2013-03-22 | 2015-12-17 | 가시오게산키 가부시키가이샤 | Image processing device, image processing method, and computer readable storage medium |
JP5737637B2 (en) * | 2013-03-22 | 2015-06-17 | カシオ計算機株式会社 | Image processing apparatus, image processing method, and program |
JP5910565B2 (en) * | 2013-04-11 | 2016-04-27 | カシオ計算機株式会社 | Movie shooting apparatus, moving image shake correction method, and program |
JP6115268B2 (en) * | 2013-04-05 | 2017-04-19 | 株式会社Jvcケンウッド | Imaging apparatus and imaging method |
JP6237421B2 (en) * | 2014-04-07 | 2017-11-29 | 富士通株式会社 | Imaging apparatus and imaging processing program |
JP6371656B2 (en) * | 2014-09-26 | 2018-08-08 | キヤノン株式会社 | Image reproduction apparatus, image reproduction method and program, and imaging apparatus |
EP3096512B1 (en) | 2015-05-18 | 2017-03-22 | Axis AB | Method and camera for producing an image stabilized video |
JP6090494B2 (en) * | 2016-03-25 | 2017-03-08 | カシオ計算機株式会社 | Movie shooting apparatus, moving image shake correction method, and program |
JP6995490B2 (en) | 2017-04-14 | 2022-01-14 | キヤノン株式会社 | Video playback device and its control method and program |
CN113542665B (en) * | 2020-04-17 | 2022-08-26 | 杭州海康汽车软件有限公司 | Imaging system and imaging method |
CN111586305B (en) | 2020-05-27 | 2021-11-02 | 维沃移动通信(杭州)有限公司 | Anti-shake method, anti-shake device and electronic equipment |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07203279A (en) * | 1993-12-28 | 1995-08-04 | Hitachi Ltd | Image pickup device |
JP4548355B2 (en) * | 2006-02-03 | 2010-09-22 | カシオ計算機株式会社 | Movie playback apparatus and program thereof |
JP4952891B2 (en) * | 2006-05-08 | 2012-06-13 | カシオ計算機株式会社 | Movie shooting device and movie shooting program |
JP4770751B2 (en) * | 2007-02-15 | 2011-09-14 | カシオ計算機株式会社 | Movie playback device, movie playback method and program |
JP2009077093A (en) * | 2007-09-20 | 2009-04-09 | Hitachi Ltd | Information recording and reproducing device, information recording method, and information reproducing method |
CN101828391B (en) * | 2007-10-23 | 2012-07-04 | 索尼公司 | Video reproduction device and video reproduction method |
JP4876066B2 (en) * | 2007-12-19 | 2012-02-15 | キヤノン株式会社 | Video processing apparatus, video processing system, video processing method, and program |
JP5003657B2 (en) * | 2008-11-17 | 2012-08-15 | 株式会社Jvcケンウッド | Image stabilization device |
-
2010
- 2010-08-18 JP JP2010183385A patent/JP5597061B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2012044418A (en) | 2012-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5597061B2 (en) | Video playback apparatus and control method thereof | |
JP5333229B2 (en) | REPRODUCTION DEVICE, REPRODUCTION METHOD, AND COMPUTER PROGRAM | |
JP2006345485A (en) | Image sensing apparatus and its control method | |
JP2009038649A (en) | Signal processing circuit and imaging apparatus | |
KR20070116093A (en) | Moving image playback device with camera-shake correction function | |
JP4770751B2 (en) | Movie playback device, movie playback method and program | |
JP4876066B2 (en) | Video processing apparatus, video processing system, video processing method, and program | |
US8068144B2 (en) | Image recording and reproducing apparatus | |
JP6995490B2 (en) | Video playback device and its control method and program | |
CN102007765A (en) | Apparatus for recording and reproducing video images | |
JP2008205915A (en) | Imaging apparatus, imaging method, and program | |
JP2007201570A (en) | Image processor, photography apparatus, image processing method and control program | |
JP2014171110A (en) | Image reproduction device, control method thereof, and control program | |
JP2012151708A (en) | Imaging device | |
JP2006287744A (en) | Image processing method and device therefor | |
JP2007067708A (en) | Imaging apparatus and method of forming image by it | |
JP2018011098A (en) | Video processing apparatus, imaging apparatus and video processing program | |
JP5300606B2 (en) | Imaging apparatus and control method thereof | |
JP2008160274A (en) | Motion vector detection method, its apparatus and its program, electronic hand-blur correction method, its apparatus and its program, as well as imaging apparatus | |
JP2006041861A (en) | Imaging device and image generation method therefor | |
JP2009284411A (en) | Imaging apparatus | |
JP2009055131A (en) | Image recording device | |
JP2017220800A (en) | Reproduction device, control method thereof, and program | |
JP2006352227A (en) | Imaging apparatus | |
JP4147935B2 (en) | Imaging apparatus, image reproducing apparatus, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130730 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140407 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140425 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140714 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140808 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5597061 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |