JP2008109625A - Image display apparatus and method, image processor, and method - Google Patents
Image display apparatus and method, image processor, and method Download PDFInfo
- Publication number
- JP2008109625A JP2008109625A JP2007178103A JP2007178103A JP2008109625A JP 2008109625 A JP2008109625 A JP 2008109625A JP 2007178103 A JP2007178103 A JP 2007178103A JP 2007178103 A JP2007178103 A JP 2007178103A JP 2008109625 A JP2008109625 A JP 2008109625A
- Authority
- JP
- Japan
- Prior art keywords
- vector
- telop
- motion
- detected
- motion vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Controls And Circuits For Display Device (AREA)
- Liquid Crystal (AREA)
- Liquid Crystal Display Device Control (AREA)
- Television Systems (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
Description
本発明は、フレームレートあるいはフィールドレートを変換する機能を備えた画像表示装置及び方法、画像処理装置及び方法に関し、特にテロップ部分の画質劣化を防止する画像表示装置及び該装置による画像表示方法、画像処理装置及び該装置による画像処理方法に関するものである。 The present invention relates to an image display apparatus and method and an image processing apparatus and method having a function of converting a frame rate or a field rate, and more particularly to an image display apparatus and image display method and image using the apparatus that prevent image quality deterioration of a telop portion The present invention relates to a processing apparatus and an image processing method using the apparatus.
動画像を具現する用途に従来から主として用いられてきた陰極線管(CRT:Cathode Ray Tube)に対して、LCD(Liquid Crystal Display)は、動きのある画像を表示した場合に、観る者には動き部分の輪郭がぼけて知覚されてしまうという、所謂、動きぼけの欠点がある。この動きぼけは、LCDの表示方式そのものに起因することが指摘されている(例えば、特許文献1、非特許文献1参照)。 In contrast to a cathode ray tube (CRT) that has been mainly used for the purpose of embodying moving images, an LCD (Liquid Crystal Display) has a motion for viewers when it displays moving images. There is a so-called motion blur defect in which the outline of a part is blurred and perceived. It has been pointed out that this motion blur is caused by the LCD display method itself (see, for example, Patent Document 1 and Non-Patent Document 1).
電子ビームを走査して蛍光体を発光させて表示を行うCRTでは、各画素の発光は蛍光体の若干の残光はあるものの概ねインパルス状になる。これをインパルス型表示方式という。一方、LCDでは、液晶に電界を印加することにより蓄えられた電荷が、次に電界が印加されるまで比較的高い割合で保持される。特に、TFT方式の場合、画素を構成するドット毎にTFTスイッチが設けられており、さらに通常は各画素に補助容量が設けられており、蓄えられた電荷の保持能力が極めて高い。このため、画素が次のフレームあるいはフィールド(以下、フレームで代表する)の画像情報に基づく電界印加により書き換えられるまで発光し続ける。これをホールド型表示方式という。 In a CRT that performs display by scanning an electron beam to emit light from a phosphor, the light emission of each pixel is substantially in an impulse shape although there is some afterglow of the phosphor. This is called an impulse type display system. On the other hand, in the LCD, the charge stored by applying an electric field to the liquid crystal is held at a relatively high rate until the next electric field is applied. In particular, in the case of the TFT method, a TFT switch is provided for each dot constituting a pixel, and an auxiliary capacitor is usually provided for each pixel, and the ability to hold stored charges is extremely high. For this reason, light emission continues until the pixel is rewritten by applying an electric field based on image information of the next frame or field (hereinafter referred to as a frame). This is called a hold type display method.
上記のようなホールド型表示方式においては、画像表示光のインパルス応答が時間的な広がりを持つため、時間周波数特性が劣化して、それに伴い空間周波数特性も低下し、動きぼけが生じる。すなわち、人の視線は動くものに対して滑らかに追従するため、ホールド型のように発光時間が長いと、時間積分効果により画像の動きがぎくしゃくして不自然に見えてしまう。 In the hold-type display method as described above, the impulse response of the image display light has a temporal spread, so that the time frequency characteristic is deteriorated, and the spatial frequency characteristic is accordingly lowered, resulting in motion blur. In other words, since the human line of sight smoothly follows a moving object, if the light emission time is long as in the hold type, the movement of the image becomes jerky due to the time integration effect and looks unnatural.
上記のホールド型表示方式における動きぼけを改善するために、フレーム間に画像を内挿することにより、フレームレート(フレーム数)を変換する技術が知られている。この技術は、FRC(Frame Rate Converter)と呼ばれ、液晶表示装置等において実用化されている。 In order to improve motion blur in the hold-type display method, a technique for converting a frame rate (number of frames) by interpolating an image between frames is known. This technique is called FRC (Frame Rate Converter) and is put into practical use in liquid crystal display devices and the like.
従来、フレームレートを変換する方法には、単に同一フレームの複数回繰り返し読み出しや、フレーム間の直線内挿(線形補間)によるフレーム内挿などの各種の手法がある(例えば、非特許文献2参照)。しかしながら、線形補間によるフレーム内挿処理の場合、フレームレート変換に伴う動きの不自然さ(ジャーキネス、ジャダー)が発生するとともに、上述したホールド型表示方式に起因する動きぼけ妨害を十分に改善することはできず、画質的には不十分なものであった。 Conventionally, as a method for converting the frame rate, there are various methods such as simply repeatedly reading out the same frame a plurality of times and frame interpolation by linear interpolation between frames (for example, see Non-Patent Document 2). ). However, in the case of frame interpolation processing by linear interpolation, motion unnaturalness (jerkiness, judder) due to frame rate conversion occurs, and motion blur interference due to the hold type display method described above is sufficiently improved. The image quality was insufficient.
そこで、上記ジャーキネスの影響等をなくして動画質を改善するために、動きベクトルを用いた動き補償処理が提案されている。この動き補償処理によれば、動画像そのものをとらえて動き補償するため、解像度の劣化がなく、また、ジャーキネスの発生もなく、極めて自然な動画を得ることができる。さらに、内挿画像信号は動き補償して形成されるので、上述したホールド型表示方式に起因する動きぼけ妨害を十分に改善することが可能となる。 Therefore, motion compensation processing using motion vectors has been proposed in order to eliminate the influence of the jerkiness and improve the moving image quality. According to this motion compensation processing, since the motion compensation is performed by capturing the moving image itself, it is possible to obtain a very natural moving image without degradation of resolution and without occurrence of jerkiness. Furthermore, since the interpolated image signal is formed by motion compensation, it is possible to sufficiently improve the motion blur interference caused by the hold type display method described above.
前述の特許文献1には、動き適応的に内挿フレームを生成することにより、表示画像のフレーム周波数を上げて、動きぼけの原因となる空間周波数特性の低下を改善するための技術が開示されている。これは、表示画像のフレーム間に内挿する少なくとも1つの内挿画像信号を、前後のフレームから動き適応的に形成し、形成した内挿画像信号をフレーム間に内挿して順次表示するようにしている。 Patent Document 1 described above discloses a technique for improving a decrease in spatial frequency characteristics that causes motion blur by increasing a frame frequency of a display image by generating an interpolation frame adaptively in motion. ing. In this method, at least one interpolated image signal to be interpolated between frames of a display image is formed in a motion adaptive manner from the preceding and following frames, and the formed interpolated image signal is interpolated between frames and sequentially displayed. ing.
図15は、従来の液晶表示装置におけるFRC駆動表示回路の概略構成を示すブロック図で、図中、FRC駆動表示回路は、入力画像信号のフレーム間に動き補償処理を施した画像信号を内挿することにより入力画像信号のフレーム数を変換するFRC部100と、液晶層と該液晶層に走査信号及びデータ信号を印加するための電極とを有するアクティブマトリクス型の液晶表示パネル103と、FRC部100によりフレームレート変換された画像信号に基づいて液晶表示パネル103の走査電極及びデータ電極を駆動するための電極駆動部104と、を備えて構成される。 FIG. 15 is a block diagram showing a schematic configuration of an FRC drive display circuit in a conventional liquid crystal display device. In the figure, the FRC drive display circuit interpolates an image signal subjected to motion compensation processing between frames of an input image signal. An FRC unit 100 that converts the number of frames of the input image signal, an active matrix type liquid crystal display panel 103 having a liquid crystal layer and electrodes for applying a scanning signal and a data signal to the liquid crystal layer, and an FRC unit And an electrode driving unit 104 for driving the scanning electrodes and the data electrodes of the liquid crystal display panel 103 based on the image signal whose frame rate is converted by 100.
FRC部100は、入力画像信号から動きベクトル情報を検出する動きベクトル検出部101と、動きベクトル検出部101により得られた動きベクトル情報に基づいて内挿フレームを生成する内挿フレーム生成部102とを備える。 The FRC unit 100 includes a motion vector detection unit 101 that detects motion vector information from an input image signal, an interpolation frame generation unit 102 that generates an interpolation frame based on the motion vector information obtained by the motion vector detection unit 101, and Is provided.
上記構成において、動きベクトル検出部101は、例えば、後述するブロックマッチング法や勾配法などを用いて動きベクトル情報を求めてもよいし、入力画像信号に何らかの形で動きベクトル情報が含まれている場合、これを利用してもよい。例えば、MPEG方式を用いて圧縮符号化された画像データには、符号化時に算出された動画像の動きベクトル情報が含まれており、この動きベクトル情報を取得する構成としてもよい。 In the above configuration, the motion vector detection unit 101 may obtain the motion vector information using, for example, a block matching method or a gradient method described later, or the motion vector information is included in some form in the input image signal. If this is the case, this may be used. For example, image data compression-encoded using the MPEG method includes motion vector information of a moving image calculated at the time of encoding, and the motion vector information may be acquired.
図16は、図15に示した従来のFRC駆動表示回路によるフレームレート変換処理を説明するための図である。FRC部100は、動きベクトル検出部101より出力された動きベクトル情報を用いた動き補償により、フレーム間の内挿フレーム(図中グレーに色付けされた画像)を生成し、この生成された内挿フレーム信号を入力フレーム信号とともに、順次出力することで、入力画像信号のフレームレートを例えば毎秒60フレーム(60Hz)から毎秒120フレーム(120Hz)に変換する処理を行う。 FIG. 16 is a diagram for explaining frame rate conversion processing by the conventional FRC drive display circuit shown in FIG. The FRC unit 100 generates an interpolated frame (an image colored in gray in the figure) by motion compensation using the motion vector information output from the motion vector detecting unit 101, and the generated interpolation By sequentially outputting the frame signal together with the input frame signal, processing for converting the frame rate of the input image signal from, for example, 60 frames per second (60 Hz) to 120 frames per second (120 Hz) is performed.
図17は、動きベクトル検出部101及び内挿フレーム生成部102による内挿フレーム生成処理について説明するための図である。動きベクトル検出部101は、図17に示した例えばフレーム#1とフレーム#2から勾配法等により動きベクトル105を検出する。すなわち、動きベクトル検出部101は、フレーム#1とフレーム#2の1/60秒間に、どの方向にどれだけ動いたかを測定することにより動きベクトル105を求める。次に、内挿フレーム生成部102は、求めた動きベクトル105を用いて、フレーム#1とフレーム#2間に内挿ベクトル106を割り付ける。この内挿ベクトル106に基づいてフレーム#1の位置から1/120秒後の位置まで対象(ここでは自動車)を動かすことにより、内挿フレーム107を生成する。 FIG. 17 is a diagram for explaining an interpolation frame generation process performed by the motion vector detection unit 101 and the interpolation frame generation unit 102. The motion vector detection unit 101 detects the motion vector 105 from the frame # 1 and the frame # 2 shown in FIG. That is, the motion vector detection unit 101 obtains the motion vector 105 by measuring how much and in which direction the frame # 1 and frame # 2 have moved in 1/60 second. Next, the interpolation frame generation unit 102 allocates the interpolation vector 106 between the frame # 1 and the frame # 2 using the obtained motion vector 105. An interpolation frame 107 is generated by moving the object (in this case, an automobile) from the position of frame # 1 to a position after 1/120 second based on the interpolation vector 106.
このように、動きベクトル情報を用いて動き補償フレーム内挿処理を行い、表示フレーム周波数を上げることで、LCD(ホールド型表示方式)の表示状態を、CRT(インパルス型表示方式)の表示状態に近づけることができ、動画表示の際に生じる動きぼけによる画質劣化を改善することが可能となる。 In this way, motion compensation frame interpolation processing is performed using motion vector information, and the display frame frequency is increased to change the display state of the LCD (hold type display method) to the display state of the CRT (impulse type display method). It is possible to improve the image quality degradation due to motion blur that occurs when displaying a moving image.
ここで、上記動き補償フレーム内挿処理においては、動き補償のために動きベクトルの検出が不可欠となる。この動きベクトル検出方法としては、例えば、特許文献2に示された「テレビジョン画像の動き検出方法」や特許文献3に示された「画像動ベクトルの漸近的検出方法」などに記載のパターンマッチング法、または、特許文献4に示された「画像動き量検出方式」や特許文献5に示された「動画像の動き推定における初期偏位方式」などに記載の反復勾配法が、それぞれ提案されている。 Here, in the motion compensation frame interpolation process, detection of a motion vector is indispensable for motion compensation. As this motion vector detection method, for example, the pattern matching described in “Television image motion detection method” disclosed in Patent Document 2, “Asymptotic detection method of image motion vector” described in Patent Document 3, and the like. Or the iterative gradient method described in the “image motion amount detection method” disclosed in Patent Document 4 and the “initial displacement method in motion estimation of moving images” disclosed in Patent Document 5, respectively. ing.
特に、後者の反復勾配法による動きベクトル検出方式は、パターンマッチング法に比べて、小型でかつ精度良く、動きベクトルを検出することができる。すなわち、反復勾配法による動きベクトル検出方法は、デジタル化したテレビジョン信号のそれぞれのフレームを、例えば、横方向m画素、縦方向nラインを含むm×n画素の予め定めた所定の大きさのブロックに細分化して、それぞれのブロック毎に、その画面内での信号の勾配及び対応する画面間との信号差分値の物理的な対応などに基づいて、反復的な勾配法演算を施すことにより動き量を推定するものである。 In particular, the latter motion vector detection method based on the iterative gradient method is smaller and more accurate than the pattern matching method, and can detect a motion vector. That is, the motion vector detection method based on the iterative gradient method has a predetermined predetermined size of each frame of a digitized television signal, for example, m × n pixels including m pixels in the horizontal direction and n lines in the vertical direction. By subdividing into blocks, each block is subjected to repetitive gradient calculation based on the signal gradient in the screen and the physical correspondence of the signal difference value between the corresponding screens The amount of motion is estimated.
ところで、動画像はフレーム間の相関が高く、また時間軸方向の連続性を持つ。あるフレームにおいて移動している画素あるいはブロックは、それに続くフレーム、あるいはそれより前のフレームにおいても、同様の動き量で移動している場合が多い。例えば、ボールが画面の右から左へと転がっていく様子を撮影した動画像の場合、ボールの領域は、どのフレームでも同様の動き量を持ちながら移動していく。すなわち、連続するフレーム間では、動きベクトルに連続性がある場合が多い。 By the way, a moving image has high correlation between frames and has continuity in the time axis direction. In many cases, a pixel or block that moves in a certain frame moves with the same amount of motion in a subsequent frame or a frame preceding it. For example, in the case of a moving image in which the ball rolls from right to left on the screen, the ball area moves with the same amount of movement in any frame. That is, there are many cases where motion vectors have continuity between consecutive frames.
このことから、前フレームでの動きベクトル検出結果を参照することで、その次のフレームでの動きベクトル検出をより容易に、あるいは、より正確に行うことが可能である。前記特許文献5においては、動き量を推定する際の初期値として、被検出ブロックに該当するブロックを含む周辺の複数のブロックにおいて既に検出されている動きベクトルの候補の中から、該被検出ブロックの動きベクトル検出用として最適なものを初期変位ベクトルとして選択し、該被検出ブロックの真の動きベクトルに近い値から勾配法演算を開始することにより、勾配法演算の演算回数を少なくして、例えば2回の勾配法演算にて真の動きベクトルを検出する方法が提案されている。 Therefore, by referring to the motion vector detection result in the previous frame, the motion vector detection in the next frame can be performed more easily or more accurately. In Patent Document 5, as an initial value when estimating the amount of motion, the detected block is selected from among motion vector candidates already detected in a plurality of peripheral blocks including the block corresponding to the detected block. By selecting the optimal one for motion vector detection as an initial displacement vector and starting gradient method calculation from a value close to the true motion vector of the detected block, the number of gradient method calculations is reduced, For example, a method for detecting a true motion vector by two gradient method computations has been proposed.
また、特許文献6に示された「動きベクトル検出回路」では、動きベクトル検出の精度を更に高めるために、少なくとも1フィールド以上又は1フレーム以上離れた画像信号の各ブロック間で動きの初期変位ベクトルを検出する方法が提案されている。さらに、ブロックマッチング法においても、前フレームでの動きベクトル検出結果を参照して探索順序を変えるなどして、効率的な動きベクトル検出を行うことが考えられる。このように、動きベクトルを検出する際に、既検出の動きベクトルを利用することによって、例えばフレームレート変換のリアルタイム処理が可能になる。 In addition, in the “motion vector detection circuit” disclosed in Patent Document 6, in order to further improve the accuracy of motion vector detection, an initial displacement vector of motion between each block of an image signal separated by at least one field or one frame or more. A method for detecting the above has been proposed. Furthermore, in the block matching method, it is conceivable to perform efficient motion vector detection by changing the search order with reference to the motion vector detection result in the previous frame. As described above, when a motion vector is detected, by using the already detected motion vector, for example, real-time processing of frame rate conversion becomes possible.
ところで、テレビ番組や映画では、字幕、所謂テロップが画像信号中に含まれることが少なくない。その中には、画面上で文字が水平や垂直方向にスクロール(移動)していくテロップも存在する。非特許文献3によれば、一般的なテレビ番組に含まれる被写体の動き速度は、主に20deg/sec以下に分布し、中でも10deg/sec以下の頻度が高いのに対し、テレビ番組のテロップのスクロール速度は平均13.8deg/sec、最大35.9deg/secで、10〜20deg/secのテロップ出現頻度が高いことがわかる。すなわち、スクロールするテロップはテレビ番組の中では一般的な被写体に比べてより速い速度で動く場合が多い。
通常、動画像においては、オブジェクトの動きが速いほどフレーム間の変化が大きくなり、動きベクトルを正確に推定することが困難になる。すなわち、FRCにおいては動きの速いオブジェクトほど正確に内挿画像を生成することが困難である。上述したように、テレビ番組の中で用いられるテロップは一般的な被写体に比べてより速い速度で動く場合が多いことから、テロップは正確に内挿画像を生成することが困難なオブジェクトといえる。 Normally, in a moving image, the faster the movement of an object, the larger the change between frames, and it becomes difficult to accurately estimate the motion vector. That is, in FRC, it is more difficult to generate an interpolated image accurately as the object moves faster. As described above, a telop used in a television program often moves at a faster speed than a general subject. Therefore, it can be said that a telop is an object for which it is difficult to accurately generate an interpolated image.
また、通常、カメラによって撮影された被写体は、その動きが速い場合にはカメラの光蓄積時間に起因するボケ(カメラボケ)を含む。このように元々ボケを含む画像については、ホールド型表示方式に起因する動きボケが目立ちにくい。また、FRCを行った場合に、もし動きベクトル検出に失敗して内挿画像に破綻が生じたとしても、その破綻は目立ちにくい。これに対して、テロップは後から画像合成されたものであるため、その動きが速くてもカメラボケなどは含まれない。このため、ホールド型表示方式に起因する動きボケが目立ちやすく、FRCが効果的に機能する一方、FRCの動きベクトル検出に失敗してテロップ部分の内挿画像に破綻が生じた場合、その破綻が目立ちやすい。 In general, a subject photographed by a camera includes blur caused by the light accumulation time of the camera (camera blur) when the movement is fast. As described above, motion blur caused by the hold-type display method is less noticeable for an image originally including blur. In addition, when FRC is performed, even if motion vector detection fails and a failure occurs in the interpolated image, the failure is not noticeable. On the other hand, since the telop is an image synthesized later, even if its movement is fast, camera blur is not included. For this reason, motion blur caused by the hold-type display method is conspicuous and the FRC functions effectively. On the other hand, if the motion vector detection of the FRC fails and the interpolated image of the telop part is broken, the failure is Easy to stand out.
加えて、視聴者はテロップの内容を読み取ろうとするため、スクロールするテロップを注視して目で追いかける。このため、もしFRCの動きベクトル検出に失敗して内挿画像の破綻がテロップ部分に現れた場合、視聴者にとって特に画質劣化が目立ちやすいという問題があった。 In addition, in order to read the contents of the telop, the viewer watches the telop that scrolls and follows it. For this reason, if the motion vector detection of FRC fails and the failure of the interpolated image appears in the telop portion, there is a problem that the image quality deterioration is particularly noticeable for the viewer.
本発明は、上記課題に鑑みてなされたものであり、動き補償型のフレームレート変換(FRC)処理に起因する、テロップ部分の画質劣化を防止することができる画像表示装置及び方法、画像処理装置及び方法を提供することを目的とする。 The present invention has been made in view of the above problems, and an image display apparatus and method, and an image processing apparatus capable of preventing image quality deterioration of a telop portion caused by a motion compensation type frame rate conversion (FRC) process And to provide a method.
本願の第1の発明は、入力画像信号のフレーム間あるいはフィールド間に、動き補償処理を施した画像信号を内挿することにより、前記入力画像信号のフレーム数あるいはフィールド数を変換して、表示パネルへ出力するレート変換手段を備えた画像表示装置であって、前記レート変換手段が、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出部を備え、前記動きベクトル検出部が、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶部と、前記記憶部により蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出部と、前記テロップ情報検出部により検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶部により蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択部と、前記テロップ情報検出部により検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択部により選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力するとともに、前記記憶部に蓄積する動きベクトル演算部とを有することを特徴とする。 The first invention of the present application converts the number of frames or the number of fields of the input image signal by interpolating the image signal subjected to motion compensation between the frames or fields of the input image signal, and displays it. An image display device comprising rate conversion means for outputting to a panel, wherein the rate conversion means divides a frame or field of the input image signal into a plurality of blocks having a predetermined size, and Includes a motion vector detection unit that detects a motion vector representing the magnitude and direction of motion between input image signals separated by at least one frame or one field or more, and the motion vector detection unit detects the motion detected for each block. A storage unit storing vectors for at least one frame or one field, and the storage unit stores the vectors. A telop information detection unit for detecting one or more telop regions and / or motion vectors included in the input image signal using the motion vector, and one or more telops detected by the telop information detection unit. Using a region and / or a motion vector, a motion vector having a value most suitable for the motion of the detected block is selected from the candidate vector group read out from the motion vectors stored in the storage unit. Using an initial displacement vector selection unit selected as a displacement vector and the telop area and / or motion vector detected by the telop information detection unit, the initial displacement vector selected by the initial displacement vector selection unit is used as a starting point. By calculating and outputting the motion vector of the detected block, And having a motion vector calculating section for storing in the storage unit.
本願の第2の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域とそれ以外の領域とで異なる処理を行うことを特徴とする。 The second invention of the present application is characterized in that the initial displacement vector selection unit performs different processing in the one or more telop regions detected by the telop information detection unit and other regions.
本願の第3の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域以外の領域では全画面の平均ベクトルに近い候補ベクトルを優先的に選択することを特徴とする。 In a third invention of the present application, the initial displacement vector selection unit preferentially selects candidate vectors close to an average vector of the entire screen in a region other than the one or more telop regions detected by the telop information detection unit. It is characterized by selecting.
本願の第4の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域以外の領域では0ベクトルに近い候補ベクトルを優先的に選択することを特徴とする。 In a fourth invention of the present application, the initial displacement vector selection unit preferentially selects a candidate vector close to a zero vector in a region other than the one or more telop regions detected by the telop information detection unit. It is characterized by.
本願の第5の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルを、前記候補ベクトルに追加して処理することを特徴とする。 According to a fifth aspect of the present invention, the initial displacement vector selection unit processes the motion vector of the one or more telops detected by the telop information detection unit in addition to the candidate vector. .
本願の第6の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域に該当するブロックに対しては、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルを、前記候補ベクトルに追加して処理することを特徴とする。 In a sixth invention of the present application, the initial displacement vector selection unit is detected by the telop information detection unit for a block corresponding to the one or more telop regions detected by the telop information detection unit. The motion vector of the one or more telops is added to the candidate vector for processing.
本願の第7の発明は、前記初期変位ベクトル選択部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域では前記候補ベクトル中の前記1つ以上のテロップの動きベクトルが選択されやすいような重み付けを行って初期変位ベクトルの選択処理を行うことを特徴とする。 In a seventh invention of the present application, the initial displacement vector selection unit selects the motion vector of the one or more telops in the candidate vector in the region of the one or more telops detected by the telop information detection unit. The initial displacement vector selection process is performed by performing weighting that is easy to be performed.
本願の第8の発明は、前記動きベクトル演算部が、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域に該当するブロックに対しては、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルの方向と同一の方向のベクトルが得られるように演算方法を変更することを特徴とする。 In an eighth invention of the present application, the motion vector calculation unit is detected by the telop information detection unit for a block corresponding to the one or more telop regions detected by the telop information detection unit. The calculation method is changed so that a vector in the same direction as the direction of the motion vector of the one or more telops is obtained.
本願の第9の発明は、入力画像信号のフレーム間あるいはフィールド間に、動き補償処理を施した画像信号を内挿することにより、前記入力画像信号のフレーム数あるいはフィールド数を変換するレート変換ステップを備えた画像表示方法であって、前記レート変換ステップが、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出ステップを備え、前記動きベクトル検出ステップが、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶ステップと、前記蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出ステップと、前記検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶ステップにて蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択ステップと、前記検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択ステップにて選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力する動きベクトル演算ステップとを有することを特徴とする。 According to a ninth aspect of the present invention, a rate conversion step of converting the number of frames or the number of fields of the input image signal by interpolating an image signal subjected to motion compensation processing between frames or fields of the input image signal. The rate conversion step divides the frame or field of the input image signal into a plurality of blocks having a predetermined size, and at least one frame or one field for each block. A motion vector detecting step for detecting a motion vector representing the magnitude and direction of motion between the input image signals separated as described above, wherein the motion vector detecting step includes at least one frame or one motion vector detected for each block; A storage step for accumulating fields, and the accumulated movement A telop information detection step of detecting one or more telop regions and / or motion vectors included in the input image signal using a vector, and the detected one or more telop regions and / or motion vectors. Using an initial value for selecting a motion vector having a value most suitable for the motion of the detected block from among the candidate vector group read out from the motion vectors accumulated in the storing step. Using the displacement vector selection step and the detected telop area and / or motion vector, a predetermined calculation is performed using the initial displacement vector selected in the initial displacement vector selection step as a starting point. A motion vector calculation step for obtaining and outputting a motion vector of To.
本願の第10の発明は、入力画像信号のフレーム間あるいはフィールド間に、動き補償処理を施した画像信号を内挿することにより、前記入力画像信号のフレーム数あるいはフィールド数を変換して出力するレート変換手段を備えた画像処理装置であって、前記レート変換手段が、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出部を備え、前記動きベクトル検出部が、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶部と、前記記憶部により蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出部と、前記テロップ情報検出部により検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶部により蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択部と、前記テロップ情報検出部により検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択部により選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力するとともに、前記記憶部に蓄積する動きベクトル演算部とを有することを特徴とする。 According to a tenth aspect of the present invention, the number of frames or the number of fields of the input image signal is converted and output by interpolating the image signal subjected to motion compensation processing between frames or fields of the input image signal. An image processing apparatus comprising rate conversion means, wherein the rate conversion means divides a frame or field of the input image signal into a plurality of blocks having a predetermined size and at least one frame for each block. Alternatively, a motion vector detection unit that detects a motion vector representing the magnitude and direction of motion between input image signals separated by one or more fields is provided, and the motion vector detection unit outputs at least one motion vector detected for each block. A storage unit for storing frames or one field, and a motion vector stored by the storage unit. A telop information detection unit that detects one or more telop regions and / or motion vectors included in the input image signal, and one or more telop regions detected by the telop information detection unit, and Using the motion vector, a motion vector having a value most suitable for the motion of the detected block is selected from the candidate vector group read from the motion vectors stored in the storage unit, and the initial displacement vector of the detected block is used. Using the initial displacement vector selected by the initial displacement vector selection unit as a starting point, using the initial displacement vector selection unit selected as the telop area and / or the motion vector detected by the telop information detection unit To obtain and output the motion vector of the detected block, and the storage unit And having a motion vector calculating section for storing.
本願の第11の発明は、入力画像信号のフレーム間あるいはフィールド間に、動き補償処理を施した画像信号を内挿することにより、前記入力画像信号のフレーム数あるいはフィールド数を変換するレート変換ステップを備えた画像処理方法であって、前記レート変換ステップが、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出ステップを備え、前記動きベクトル検出ステップが、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶ステップと、前記蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出ステップと、前記検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶ステップにて蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択ステップと、前記検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択ステップにて選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力する動きベクトル演算ステップとを有することを特徴とする。 According to an eleventh aspect of the present invention, a rate conversion step of converting the number of frames or the number of fields of the input image signal by interpolating the image signal subjected to motion compensation processing between frames or fields of the input image signal. The rate conversion step divides the frame or field of the input image signal into a plurality of blocks having a predetermined size, and at least one frame or one field for each block. A motion vector detecting step for detecting a motion vector representing the magnitude and direction of motion between the input image signals separated as described above, wherein the motion vector detecting step includes at least one frame or one motion vector detected for each block; A storage step for accumulating fields, and the accumulated motion A telop information detection step for detecting one or more telop regions and / or motion vectors included in the input image signal using a vector, and the detected one or more telop regions and / or motion vectors. Using an initial value for selecting a motion vector having a value most suitable for the motion of the detected block from among the candidate vector group read out from the motion vectors accumulated in the storing step. Using the displacement vector selection step and the detected telop area and / or motion vector, a predetermined calculation is performed using the initial displacement vector selected in the initial displacement vector selection step as a starting point. A motion vector calculation step for obtaining and outputting a motion vector of To.
本発明によれば、上述のような構成とすることによって、テロップ部分に対する動き補償処理をより正確に行うことが可能となり、この結果、テロップの存在する領域の画質向上を実現することができる。 According to the present invention, with the above-described configuration, it is possible to more accurately perform motion compensation processing on a telop portion, and as a result, it is possible to improve the image quality of a region where a telop exists.
以下、添付図面を参照しながら本発明の好適な画像表示装置の実施の形態について詳細に説明するが、上述した従来例と同一部分には同一符号を付し、その説明は省略する。なお、本発明は、フィールド信号及び内挿フィールド信号、フレーム信号及び内挿フレーム信号のいずれに対しても適用できるものであるが、両者(フィールドとフレーム)は互いに類似の関係にあるため、フレーム信号及び内挿フレーム信号を代表例として説明するものとする。 Hereinafter, preferred embodiments of an image display device of the present invention will be described in detail with reference to the accompanying drawings. However, the same parts as those of the above-described conventional example are denoted by the same reference numerals, and the description thereof will be omitted. Although the present invention can be applied to any of a field signal, an interpolated field signal, a frame signal, and an interpolated frame signal, both (field and frame) are in a similar relationship with each other, so A signal and an interpolated frame signal will be described as representative examples.
(1)全体構成およびテロップ情報の利用方法
図1は、本発明の画像表示装置が備える動きベクトル検出部の一例を示す機能ブロック図で、図15に示した画像表示装置のFRC部100中に含まれる動きベクトル検出部101の内部構成を詳しく説明するためのものである。本実施形態の動きベクトル検出部101は、フレーム遅延部1、初期変位ベクトル選択部2、動きベクトル演算部3、ベクトルメモリ4、テロップ情報検出部5を有している。
(1) Overall Configuration and Method of Using Telop Information FIG. 1 is a functional block diagram showing an example of a motion vector detection unit provided in the image display device of the present invention. In the FRC unit 100 of the image display device shown in FIG. This is for explaining the internal configuration of the motion vector detecting unit 101 included in detail. The motion vector detection unit 101 of this embodiment includes a frame delay unit 1, an initial displacement vector selection unit 2, a motion vector calculation unit 3, a vector memory 4, and a telop information detection unit 5.
本実施形態に係る動きベクトル検出部101は、フレーム毎に入力する入力画像信号を、予め定めた所定の大きさ、例えばm画素×nライン(m,nは整数)からなる複数のブロックに分割して、分割した各ブロック毎に、フレーム遅延部1にて遅延させた例えば1フレーム前の入力画像信号において対応するブロックとの間における動きの方向及び大きさを表わす動きベクトルを求めるためのものであり、既に検出されて、ベクトルメモリ4に蓄積されている動きベクトルの中から選択した候補ベクトル群と、テロップ情報検出部5によって得られたテロップ情報とを併せ用いて、最適な動きベクトルを被検出ブロックにおける初期変位ベクトルとして選択する初期変位ベクトル選択部2と、該初期変位ベクトルを起点として、前記テロップ情報を用いて、例えば2回の勾配法演算により該被検出ブロックにおける真の動きベクトルを正しく求める動きベクトル演算部3とを備えている。 The motion vector detection unit 101 according to the present embodiment divides an input image signal input for each frame into a plurality of blocks each having a predetermined size, for example, m pixels × n lines (m and n are integers). Then, for each divided block, for example, a motion vector representing the direction and magnitude of motion with the corresponding block in the input image signal one frame before delayed by the frame delay unit 1 is obtained. The candidate vector group selected from the motion vectors already detected and stored in the vector memory 4 and the telop information obtained by the telop information detection unit 5 are used together to obtain an optimal motion vector. An initial displacement vector selection unit 2 for selecting an initial displacement vector in the detected block; and Using the information, and a motion vector calculating portion 3 for obtaining the true motion vector in 該被 detection block correctly by, for example, the gradient method calculation twice.
特に、本実施形態においては、テロップ情報検出部5を備え、これによって得られたテロップ情報を、初期変位ベクトル選択部2あるいは動きベクトル演算部3での処理に用いることに特徴がある。初期変位ベクトル選択部2においては、テロップの存在する領域とそれ以外の領域とで異なった処理を行うか、あるいは、テロップの移動速度/方向を考慮して初期変位ベクトルを選択するか、あるいは、その両方を組み合わせて処理を行う。また、動きベクトル演算部3では、テロップの存在する領域ではテロップの移動速度/方向を考慮したベクトル演算を行う。このような処理を行うことにより、特にテロップの存在する領域において、より正確な検出ベクトルが得られる。 In particular, the present embodiment is characterized in that the telop information detection unit 5 is provided and the telop information obtained thereby is used for processing in the initial displacement vector selection unit 2 or the motion vector calculation unit 3. In the initial displacement vector selection unit 2, different processing is performed in the region where the telop exists and the other region, or the initial displacement vector is selected in consideration of the moving speed / direction of the telop, or A combination of both is performed. The motion vector calculation unit 3 performs vector calculation in consideration of the moving speed / direction of the telop in the area where the telop exists. By performing such processing, a more accurate detection vector can be obtained particularly in a region where a telop exists.
上記テロップ情報検出部5では、入力画像信号に含まれるテロップの特徴量(テロップ情報)として、例えば画面中のどの動き検出ブロックがテロップに該当するかを示すテロップ領域情報と、テロップの移動速度/方向を示すテロップベクトル情報とが検出される。もし画面中にテロップが複数存在する場合は、そのそれぞれについて、テロップ領域情報とテロップベクトル情報とを検出するようにしても良い。このテロップ情報検出部5の詳細については後述する。 In the telop information detection unit 5, as the telop feature amount (telop information) included in the input image signal, for example, telop area information indicating which motion detection block in the screen corresponds to the telop, and the moving speed / The telop vector information indicating the direction is detected. If there are a plurality of telops in the screen, telop area information and telop vector information may be detected for each of them. Details of the telop information detection unit 5 will be described later.
また、ここでは、動きベクトル演算部3における演算方法として反復勾配法を用いた例について説明するが、この反復勾配法に限定されず、ブロックマッチング法などを用いてもよい。 Here, an example in which the iterative gradient method is used as a calculation method in the motion vector calculation unit 3 will be described, but the present invention is not limited to this iterative gradient method, and a block matching method or the like may be used.
更に詳細に説明すると、図1に示す動きベクトル検出部101は、前述のように、初期変位ベクトル選択部2と、動きベクトル演算部3と、ベクトルメモリ4と、テロップ情報検出部5とを含んで構成されている。初期変位ベクトル選択部2及び動きベクトル演算部3には、それぞれ、現フレーム信号とフレーム遅延部1を介して1フレーム分遅延させた前フレーム信号とが供給されている。 More specifically, the motion vector detection unit 101 shown in FIG. 1 includes the initial displacement vector selection unit 2, the motion vector calculation unit 3, the vector memory 4, and the telop information detection unit 5 as described above. It consists of The initial displacement vector selection unit 2 and the motion vector calculation unit 3 are respectively supplied with the current frame signal and the previous frame signal delayed by one frame via the frame delay unit 1.
初期変位ベクトル選択部2は、前フレームの動きベクトル演算で求められた既検出動きベクトルの中から被検出ブロックの動きに最もふさわしい値、例えば被検出ブロックの動きに最も近い値の動きベクトルを、勾配法演算の起点となる初期変位ベクトルとして選択する選択回路であり、前述した候補ベクトル群とテロップベクトルとの中から適切な動きベクトルを選択するものである。初期変位ベクトル選択部2では、例えば前述のように前フレーム信号をm画素×nラインのブロックに分割し、分割されたそれぞれのブロック毎に初期変位ベクトルを選択する基準として、現フレーム信号と前フレーム信号とを利用する。 The initial displacement vector selection unit 2 selects a value most suitable for the motion of the detected block from the detected motion vectors obtained by the motion vector calculation of the previous frame, for example, a motion vector having a value closest to the motion of the detected block. This is a selection circuit that selects an initial displacement vector as a starting point of the gradient method calculation, and selects an appropriate motion vector from the above-described candidate vector group and telop vector. The initial displacement vector selection unit 2 divides the previous frame signal into blocks of m pixels × n lines as described above, for example, and uses the current frame signal and the previous frame as a reference for selecting the initial displacement vector for each of the divided blocks. Use frame signals.
初期変位ベクトル選択部2は、例えば図2に示すように、座標変換部2aと減算部2bと、絶対値累積部2cと、選択部2dと、テロップベクトル追加判定部2eとを有している。初期変位ベクトル選択部2では、ベクトルメモリ4から順次読み出された被検出ブロックに対応するブロックの周辺8ブロックの動きベクトル、すなわち候補ベクトル群と、テロップ情報検出部5から出力された1つ以上のテロップベクトルおよびテロップ領域情報と、前フレーム信号と、現フレーム信号とが入力される。 For example, as shown in FIG. 2, the initial displacement vector selection unit 2 includes a coordinate conversion unit 2a, a subtraction unit 2b, an absolute value accumulation unit 2c, a selection unit 2d, and a telop vector addition determination unit 2e. . In the initial displacement vector selection unit 2, motion vectors of 8 blocks around the block corresponding to the detected block sequentially read from the vector memory 4, that is, candidate vector groups, and one or more output from the telop information detection unit 5 Telop vector and telop area information, the previous frame signal, and the current frame signal are input.
テロップベクトル追加判定部2eでは、1つ以上のテロップベクトルおよびテロップ領域情報を入力し、処理中のブロックがあるテロップ領域に該当する場合に、該テロップ領域におけるテロップベクトルを座標変換部2aに出力する。また、処理中のブロックが複数のテロップ領域に該当する場合は、該複数のテロップ領域それぞれにおけるテロップベクトル、すなわち複数のテロップベクトルを座標変換部2aに出力する。 The telop vector addition determination unit 2e inputs one or more telop vectors and telop area information, and outputs a telop vector in the telop area to the coordinate conversion unit 2a when the block being processed corresponds to a certain telop area. . When the block being processed corresponds to a plurality of telop areas, the telop vectors in each of the plurality of telop areas, that is, the plurality of telop vectors are output to the coordinate conversion unit 2a.
各候補ベクトル群の各動きベクトルおよびテロップベクトル追加判定部2eから出力された1つ以上のテロップベクトルが、初期変位ベクトルの候補となる。該初期変位ベクトルの候補はそれぞれの座標変換部2aに供給されて、フレーム遅延部1から供給される前フレーム信号の対象ブロックをその動きベクトルにて変位させて、現フレームへの座標変換を行ない、該座標変換結果が、それぞれの減算部2bに供給される。 Each motion vector of each candidate vector group and one or more telop vectors output from the telop vector addition determination unit 2e are candidates for the initial displacement vector. The initial displacement vector candidates are supplied to the respective coordinate conversion units 2a, and the target block of the previous frame signal supplied from the frame delay unit 1 is displaced by the motion vector to perform coordinate conversion to the current frame. The coordinate conversion result is supplied to each subtraction unit 2b.
尚、本実施形態においては、候補ベクトル群は、被検出ブロックの周囲8ブロックで検出された前フレームの動きベクトルを、被検出ブロックの初期変位ベクトル選択用の候補ベクトル群としているが、これらの候補ベクトル群は、かかる例のみに限られるものではなく、その他の領域の既検出の動きベクトルから決定するように構成してももちろん構わない。 In this embodiment, the candidate vector group uses the motion vector of the previous frame detected in the eight blocks around the detected block as the candidate vector group for selecting the initial displacement vector of the detected block. The candidate vector group is not limited to such an example, but may be configured to be determined from already detected motion vectors in other regions.
それぞれの減算部2bでは、座標変換部2aにて座標変換した前フレーム信号と、入力された現フレーム信号との間で減算処理を施して、それぞれの画素毎の差分を算出し、それぞれの差分結果を絶対値累算部2cに供給する。それぞれの絶対値累算部2cでは、それぞれの画素の差分の絶対値を求めて、絶対値化した差分をブロックの画素数分累算し、その累積結果を、候補ベクトルの評価値として選択部2dにそれぞれ出力する。 Each subtraction unit 2b performs a subtraction process between the previous frame signal coordinate-converted by the coordinate conversion unit 2a and the input current frame signal to calculate a difference for each pixel. The result is supplied to the absolute value accumulation unit 2c. Each absolute value accumulation unit 2c obtains the absolute value of the difference between the pixels, accumulates the absolute difference for the number of pixels of the block, and selects the accumulated result as an evaluation value of the candidate vector. 2d respectively.
上記の手順で得られる累積結果は、DFD(Displaced Field Difference)と呼ばれている。DFDとは、算出ベクトル(ここでは、候補ベクトル)の正確さの程度を示す指標であり、DFDの値が小さいほど、前フレームのブロックと現フレームの座標変換されたブロックとのマッチングが良く、対応する候補ベクトルがよりふさわしいことを示す。 The accumulated result obtained by the above procedure is called DFD (Displaced Field Difference). The DFD is an index indicating the degree of accuracy of a calculated vector (here, a candidate vector). The smaller the DFD value, the better the matching between the block of the previous frame and the coordinate-converted block of the current frame, Indicates that the corresponding candidate vector is more appropriate.
次に、各ブロック毎にそれぞれの累積結果(DFD)を受け取った選択部2dは、各ブロックの累積結果(DFD)を比較して、累積結果(DFD)が最小となる候補ベクトル、すなわち最もふさわしいと思われる候補ベクトルを検出して、該候補ベクトルを初期変位ベクトルとして選択し、動きベクトル演算部3に供給する。この時、テロップ情報検出部5からのテロップ領域情報を用いて、被検出ブロックがテロップ領域に該当する場合は、テロップベクトルを優先して選ぶよう処理する。 Next, the selection unit 2d that has received each accumulated result (DFD) for each block compares the accumulated result (DFD) of each block, and is the candidate vector with the smallest accumulated result (DFD), that is, the most appropriate. A candidate vector that is considered to be detected is detected, the candidate vector is selected as an initial displacement vector, and is supplied to the motion vector calculation unit 3. At this time, if the detected block corresponds to a telop area using the telop area information from the telop information detection unit 5, processing is performed so as to preferentially select the telop vector.
より具体的には、例えば被検出ブロックがテロップ領域に該当する場合は絶対値累積部2cからの出力値のうち、テロップベクトルに対する累積結果(DFD)を小さくするような重み付けを行う。例えば、テロップベクトルに対する累積結果に係数w(0<w<1)をかけることで、テロップベクトルに対する累積結果(DFD)の値を小さくする方法を用いることができる。 More specifically, for example, when the detected block corresponds to a telop area, weighting is performed so as to reduce the accumulation result (DFD) for the telop vector among the output values from the absolute value accumulation unit 2c. For example, it is possible to use a method of reducing the value of the cumulative result (DFD) for the telop vector by multiplying the cumulative result for the telop vector by a coefficient w (0 <w <1).
なお、上記実施形態においては、テロップ情報検出部5で検出したテロップ領域情報とテロップベクトル情報との両方を、初期変位ベクトル選択部2で使用する方法について説明したが、いずれか片方の情報のみを用いる構成としても構わない。例えばテロップ領域の情報のみを用いる構成の例について、図3を用いて説明する。この構成では、テロップベクトルは入力しないため、図2におけるテロップベクトル追加判定部2eを除外している。本例では、選択部2dにおいて、絶対値累計部2cの出力に対し、処理中のブロックがテロップ領域以外の場合は全画面の平均ベクトルあるいは0ベクトルを優先させる重み付けを行い、処理中のブロックがテロップ領域の場合はそのような重み付けを行わない。このような処理を行うことで、テロップ領域では相対的に速いベクトルも選ばれやすくなる。すなわち動きの速いテロップに対応したベクトルが選ばれやすくなる。 In the above-described embodiment, the method of using both the telop area information and the telop vector information detected by the telop information detection unit 5 in the initial displacement vector selection unit 2 has been described, but only one of the information is used. It does not matter as a configuration to be used. For example, an example of a configuration using only telop area information will be described with reference to FIG. In this configuration, since no telop vector is input, the telop vector addition determination unit 2e in FIG. 2 is excluded. In this example, the selection unit 2d performs weighting on the output of the absolute value accumulation unit 2c to prioritize the average vector or 0 vector of the entire screen when the block being processed is outside the telop area. In the case of a telop area, such weighting is not performed. By performing such processing, a relatively fast vector is easily selected in the telop area. That is, a vector corresponding to a fast-moving telop is easily selected.
また、例えばテロップベクトルの情報のみを用いる構成の例について、図4を用いて説明する。この構成では、テロップ領域情報を入力しない。このため、図2におけるテロップベクトル追加判定部2eも不要となり、全てのブロックに対して初期変位ベクトルの候補にテロップベクトルを加える。テロップの存在するブロックに対する初期変位ベクトル候補の中に、テロップベクトルと同じ或いは近いベクトルが存在するかどうかは、前フレームでのベクトル検出状況に依存しており、確実ではない。従って、別途テロップベクトルを候補として与えることで、より適切な初期変位ベクトルを選択する可能性を向上させることが可能である。 For example, an example of a configuration using only telop vector information will be described with reference to FIG. In this configuration, no telop area information is input. Therefore, the telop vector addition determination unit 2e in FIG. 2 is also unnecessary, and the telop vector is added to the initial displacement vector candidates for all the blocks. Whether or not a vector that is the same as or close to the telop vector exists among the initial displacement vector candidates for the block in which the telop is present depends on the vector detection situation in the previous frame and is not certain. Therefore, by separately providing a telop vector as a candidate, it is possible to improve the possibility of selecting a more appropriate initial displacement vector.
さらに、前述したようなテロップ領域情報、テロップベクトル情報の利用方法の1つ以上を任意に組み合わせて用いても良いことは言うまでもない。 Furthermore, it goes without saying that one or more of the above-described methods for using telop area information and telop vector information may be used in any combination.
動きベクトル演算部3では、それぞれのブロック毎に動きベクトルを検出するために、現フレーム信号と前フレーム信号とを利用し、初期変位ベクトル選択部2から供給された初期変位ベクトルを起点として、前フレーム信号からの現フレーム信号への真の動きベクトルを、勾配法演算より求める演算回路である。なお、勾配法演算による動きベクトル算出方法については、前述した各特許文献、非特許文献に詳しいので、ここではその説明を省略するが、初期変位ベクトルが、本実施形態においてどのように使われるかについて、反復勾配法を例にとって以下に説明する。 The motion vector calculation unit 3 uses the current frame signal and the previous frame signal to detect a motion vector for each block, and uses the initial displacement vector supplied from the initial displacement vector selection unit 2 as a starting point. This is an arithmetic circuit for obtaining a true motion vector from a frame signal to a current frame signal by gradient method calculation. Note that the motion vector calculation method by the gradient method calculation is detailed in each of the above-mentioned patent documents and non-patent documents, so the description thereof is omitted here, but how the initial displacement vector is used in this embodiment. Is described below using an iterative gradient method as an example.
例えば、勾配法演算は、初期変位ベクトルV0(α,β)にて前フレーム信号を変位させた座標位置を起点にして、現フレームの動き量を推定した動き変位分V1を、次式(1),(2)に従って求める。 For example, in the gradient method calculation, the motion displacement V1 estimated from the coordinate position obtained by displacing the previous frame signal with the initial displacement vector V0 (α, β) as the starting point is represented by the following equation (1). ) And (2).
例えば、2回の反復勾配法の場合、図5に示すように、初期変位ベクトルをV0として、1回目の変位分V1及び2回目の変位分V2を求めて、それらをベクトル加算した動きベクトルVを、次の式(3)により求める。 For example, in the case of the two-time iterative gradient method, as shown in FIG. 5, the initial displacement vector is set as V0, the first displacement V1 and the second displacement V2 are obtained, and the motion vector V obtained by adding them to the vector is obtained. Is obtained by the following equation (3).
このようにして、図1における動きベクトル演算部3で求められた動きベクトルVは、ベクトルメモリ4に蓄積され、次のフレーム以降の動きベクトル算出のために用いる初期変位ベクトル選択用の候補ベクトルとして利用される。 In this way, the motion vector V obtained by the motion vector calculation unit 3 in FIG. 1 is stored in the vector memory 4 and is used as a candidate vector for initial displacement vector selection used for motion vector calculation for the next frame and thereafter. Used.
以上のように、画面全体の動き特徴を抽出し、画面全体の動き特徴に基づいて補償した初期変位ベクトルを適用することにより、初期変位ベクトルの誤検出を防ぎ、例えば2回程度の少ない反復勾配法による演算回数で、現フレーム信号のブロック毎の真の動きベクトルを正しく算出することが可能になる。 As described above, by extracting the motion characteristics of the entire screen and applying the initial displacement vector compensated based on the motion characteristics of the entire screen, erroneous detection of the initial displacement vector is prevented, and, for example, a repetitive gradient that is less than twice It is possible to correctly calculate the true motion vector for each block of the current frame signal by the number of operations by the method.
ここで、動きベクトル演算部3にはテロップ情報検出部5からの1つ以上のテロップ領域情報が入力されており、被検出ブロックがテロップ領域に該当する場合に、特別な処理を行っても良い。例えば、テロップベクトルの方向が水平方向であった場合、x値のみで反復勾配法を実施し、最終的に得られる動きベクトルを水平方向の動きに限定しても良い。あるいは、テロップベクトルの方向が垂直方向であった場合、y値のみで反復勾配法を実施し、最終的に得られる動きベクトルを垂直方向の動きに限定しても良い。これは、テロップベクトルの方向に従って演算を行うことで、テロップの動きにより追従させやすくするためである。 Here, one or more pieces of telop area information from the telop information detection unit 5 are input to the motion vector calculation unit 3, and special processing may be performed when the detected block corresponds to the telop area. . For example, when the direction of the telop vector is the horizontal direction, the iterative gradient method may be performed using only the x value, and the finally obtained motion vector may be limited to the motion in the horizontal direction. Alternatively, when the direction of the telop vector is the vertical direction, the iterative gradient method may be performed using only the y value, and the finally obtained motion vector may be limited to the vertical motion. This is to make it easier to follow the movement of the telop by performing the calculation according to the direction of the telop vector.
尚、上記の説明では、動きベクトル演算部3における動きベクトルの算出方法としては、1乃至複数回の勾配法演算を用いる反復勾配法を採用しているが、これに限るものではなく、パターンマッチング法やその他の演算方法を用いても良い。 In the above description, the motion vector calculation method in the motion vector calculation unit 3 employs the iterative gradient method using one or more gradient method operations, but is not limited to this. Or other calculation methods may be used.
ベクトルメモリ4は、各ブロック毎に既に検出された少なくとも1フレーム分の動きベクトルを蓄積するRAM(Random Access Memory)などを含む記憶部であり、その入力端子が動きベクトル演算部3の出力端子に接続されていて、例えば8画素×8ラインに分割された各ブロックの位置に応じたアドレスに、動きベクトル演算部3にて該当ブロックで検出された動きベクトルを順次更新して蓄積するように構成されている。 The vector memory 4 is a storage unit including a RAM (Random Access Memory) that accumulates motion vectors for at least one frame that has already been detected for each block, and its input terminal is connected to the output terminal of the motion vector calculation unit 3. Connected and configured to sequentially update and accumulate motion vectors detected by the motion vector calculation unit 3 at addresses corresponding to the positions of the respective blocks divided into 8 pixels × 8 lines, for example. Has been.
上述の手順により、動きベクトル検出部101から各ブロック毎の動きベクトル検出結果が出力される。 The motion vector detection result for each block is output from the motion vector detection unit 101 by the above-described procedure.
そして、内挿フレーム生成部102では、各ブロック毎の動きベクトル検出結果を用いて、内挿画像を生成する。この時、画面の全領域において動きベクトルを用いた内挿画像生成を行っても良いし、また、テロップ領域では動きベクトルを用いた内挿画像生成を行い、その他の領域では動きベクトルを用いた内挿画像生成を行わず、例えば前フレーム或いは後フレームと同じ画像を繰り返し出力するようにしても良い。 Then, the interpolated frame generation unit 102 generates an interpolated image using the motion vector detection result for each block. At this time, the interpolation image generation using the motion vector may be performed in the entire area of the screen, the interpolation image generation using the motion vector is performed in the telop area, and the motion vector is used in the other areas. For example, the same image as the previous frame or the subsequent frame may be repeatedly output without generating the interpolated image.
すなわち、テロップが検出されていない時は、画面全体にわたって動き補償処理を行わず、テロップが検出されている時は、テロップ領域に対してのみ動き補償処理を行い、それ以外の領域に対しては動き補償処理を行わないようにしても良い。 That is, when a telop is not detected, motion compensation processing is not performed over the entire screen. When a telop is detected, motion compensation processing is performed only for the telop region, and for other regions. The motion compensation process may not be performed.
前述のように、通常カメラによって撮影された被写体は、その動きが速い場合にはカメラの光蓄積時間に起因するボケ(カメラボケ)を含む。元々存在するカメラボケが多ければ、FRCによって動きボケを低減したとしてもその効果はわかりにくい。これに対して、テロップは後から画像合成されたものであるため、その動きが速くてもカメラボケなどは含まれず、FRCによる動きボケ改善効果が高い。よって、テロップ領域のみで動き補償処理を行うだけでも、視覚的には大きな改善効果を得ることができ、且つ、内挿画像生成処理をテロップ領域のみに限定することで、内挿画像を生成するための処理量を削減することができる。 As described above, a subject photographed by a normal camera includes blur caused by the light accumulation time of the camera (camera blur) when the movement is fast. If there are many camera blurs that originally exist, even if the motion blur is reduced by FRC, the effect is difficult to understand. On the other hand, since the telop is an image that has been synthesized later, even if the movement is fast, camera blur is not included, and the motion blur improvement effect by FRC is high. Therefore, even if the motion compensation process is performed only in the telop area, a large improvement effect can be obtained visually, and the interpolated image generation process is limited to the telop area, and an interpolated image is generated. Therefore, the processing amount can be reduced.
また、このようにテロップ領域のみに対して動き補償による内挿画像生成を行った場合、テロップ領域とそれ以外の領域との境界において動き補償処理の有無が明らかに画像に現れて目立つ場合がある。これを軽減するために、テロップ領域とそれ以外の領域との境界部分に対してはローパスフィルタをかける等のフィルタ処理を行うことにより、動き補償処理の強度を連続的に変化させて境界が目立つのを抑制することが望ましい。 In addition, when interpolation image generation by motion compensation is performed only on a telop area in this way, the presence or absence of motion compensation processing may clearly appear in the image at the boundary between the telop area and other areas. . In order to reduce this, the boundary between the telop area and other areas is conspicuous by performing a filtering process such as applying a low-pass filter to continuously change the strength of the motion compensation process. It is desirable to suppress this.
ここで、動き補償内挿処理を施さないテロップ領域以外の領域に対しては、上述したとおり、動き補償内挿処理を行うのではなく、同一フレームの画像信号を高速連続出力して、すなわち、入力画像信号のフレーム間に、該フレームの画像信号を挿入することにより、フレームレート変換するようにしても良いし、或いは、前後フレームから線形補間処理により生成した画像を内挿して、すなわち、入力画像信号のフレーム間に、線形補間処理を施した画像信号を内挿することにより、フレームレート変換するようにしても良い。尚、線形補間処理とは、前後フレームの画像信号から、フレーム内挿比αによる線形補間により内挿フレームを得るものである。 Here, for regions other than the telop region that is not subjected to motion compensation interpolation processing, as described above, instead of performing motion compensation interpolation processing, the image signals of the same frame are continuously output at high speed, that is, The frame rate may be converted by inserting the image signal of the frame between the frames of the input image signal, or the image generated by the linear interpolation process from the previous and subsequent frames is interpolated, that is, the input The frame rate may be converted by interpolating an image signal subjected to linear interpolation processing between frames of the image signal. In the linear interpolation process, an interpolation frame is obtained from the image signals of the previous and subsequent frames by linear interpolation using the frame interpolation ratio α.
(2)テロップ情報検出方法の例
上述のとおり、テロップ情報検出部5では、ベクトルメモリ4に蓄積された前フレームの動きベクトル演算で求められた既検出動きベクトルを用いて、テロップ情報を検出する。このテロップ情報検出部5の具体的な実現方法の一例について、以下詳細に説明する。
(2) Example of telop information detection method As described above, the telop information detection unit 5 detects telop information using the detected motion vector obtained by the motion vector calculation of the previous frame stored in the vector memory 4. . An example of a specific method for realizing the telop information detection unit 5 will be described in detail below.
テロップ検出に使える情報は、ベクトルメモリ4に蓄積された各動き検出ブロックの動きベクトルと、各動き検出ブロックのテクスチャの情報のみである。このうち、テロップの色は様々であるため、テクスチャの情報は補助的にしか使えない。このため、各動き検出ブロックの動きベクトルの情報から、テロップ領域情報とテロップベクトル情報とを検出することが必要となる。 Information that can be used for telop detection is only the motion vector of each motion detection block stored in the vector memory 4 and the texture information of each motion detection block. Among these, since the colors of the telop are various, the texture information can be used only as an auxiliary. For this reason, it is necessary to detect the telop area information and the telop vector information from the motion vector information of each motion detection block.
また、映像の中には、テロップ以外にも例えば人物や自動車などの様々な動いているオブジェクトが存在する。カメラのパンによって画面全体が相対的に動いている場合もある。このため、例えば動きの速い領域がテロップ領域であるといったような単純な判定、すなわち動きベクトルの絶対量からテロップか否かを判定することは困難である。 In addition to the telop, there are various moving objects such as a person and a car in the video. In some cases, the entire screen is moved relatively by panning the camera. For this reason, it is difficult to make a simple determination, for example, that a fast-moving region is a telop region, that is, whether or not a telop is based on the absolute amount of a motion vector.
このため、本実施形態においては、画面全体の平均ベクトルと各動き検出ブロックの動きベクトルの差分量、動きベクトルの平均偏差といった、統計的な情報を用いてテロップ領域とテロップ速度とを検出する。 For this reason, in this embodiment, the telop area and the telop speed are detected using statistical information such as the difference between the average vector of the entire screen and the motion vector of each motion detection block, and the average deviation of the motion vectors.
図7は、画像をベクトル検出のためのブロックに分解した様子を示している。画像全体の大きさは、幅Waピクセル、高さHaピクセルである。この画像を、幅Wbピクセル、高さHbピクセルの動き検出ブロックで分割すると、ブロック数は横mブロック、縦nブロックである。通常、画像全体のピクセル数は整数のブロック数で割り切れるようにする。すなわち、Wa=Wb×m、Ha=Hb×nである。 FIG. 7 shows a state in which an image is decomposed into blocks for vector detection. The overall size of the image is a width Wa pixel and a height Ha pixel. When this image is divided into motion detection blocks having a width of Wb pixels and a height of Hb pixels, the number of blocks is m horizontal blocks and n vertical blocks. Normally, the number of pixels in the entire image is divisible by an integer number of blocks. That is, Wa = Wb × m and Ha = Hb × n.
例えば、ハイビジョン解像度(Wa=1920ピクセル、Ha=1080ピクセル)の画像で、ブロックの大きさが8×8ピクセルの場合、m=240、n=135となる。各動き検出ブロックをB(i,j)と呼び、各動き検出ブロックで検出された動きベクトルを(V_x(i,j),V_y(i,j))とする。 For example, if the image has a high-definition resolution (Wa = 1920 pixels, Ha = 1080 pixels) and the block size is 8 × 8 pixels, m = 240 and n = 135. Each motion detection block is called B (i, j), and the motion vector detected by each motion detection block is (V_x (i, j), V_y (i, j)).
ここで、テロップは水平方向に動くものが多いため、本実施形態では、水平方向に動くテロップを検出対象とする。水平方向に動くテロップは、図8に示すように、画面上では横長の帯状の領域に位置することになる。そこで、図9に示すように、画面を横長の帯状の領域L(1)からL(n)のn個に分割し、それぞれの領域がテロップを含むか否かを判定する。 Here, since many telops move in the horizontal direction, in this embodiment, telops that move in the horizontal direction are detected. The telop that moves in the horizontal direction is located in a horizontally long belt-like region on the screen as shown in FIG. Therefore, as shown in FIG. 9, the screen is divided into horizontally long strip-shaped regions L (1) to L (n), and it is determined whether or not each region includes a telop.
帯状領域L(j)は、図7における動き検出ブロックB(1,j)からB(m,j)を含む。L(j)に含まれる動き検出ブロックの動きベクトルの平均ベクトルを、(Vave_x(j),Vave_y(j))とすると、 The belt-like region L (j) includes the motion detection blocks B (1, j) to B (m, j) in FIG. If the average vector of motion vectors of the motion detection block included in L (j) is (Vave_x (j), Vave_y (j)),
また、全動き検出ブロックの動きベクトルの平均ベクトル(全体平均ベクトル)を、(Vave_x,Vave_y)とすると、 Also, if the average vector (overall average vector) of the motion vectors of all motion detection blocks is (Vave_x, Vave_y),
さてここで、図10に示すように、画面をテロップが含まれる領域とそれ以外の領域とに分けて考える。画面の高さを1とした場合のテロップ領域の高さをkとする。ただし、テロップ領域が画面の半分を超えることは無いと仮定する。すなわち、 Now, as shown in FIG. 10, the screen is divided into a region including a telop and a region other than that. The height of the telop area when the screen height is 1 is k. However, it is assumed that the telop area does not exceed half of the screen. That is,
次に、テロップ領域に含まれる動き検出ブロックの動きベクトルの平均を(Vt_x,Vt_y)、テロップ以外の領域(本願明細書では背景領域と呼ぶ)に含まれる動き検出ブロックの動きベクトルの平均を(Vb_x,Vb_y)とすると、テロップ領域の平均ベクトル、テロップ以外の領域の平均ベクトル、および画面全体の平均ベクトルとの間には、 Next, the average of the motion vectors of the motion detection blocks included in the telop area is (Vt_x, Vt_y), and the average of the motion vectors of the motion detection blocks included in the area other than the telop (referred to as the background area in this specification) is ( Vb_x, Vb_y) between the average vector of the telop area, the average vector of the area other than the telop, and the average vector of the entire screen,
実際は、テロップ領域内の全てのブロックがテロップの移動速度と同一の動きベクトルを持つとは限らない。例えばテロップの文字が途切れている部分のブロックは、テロップの移動速度以外の動きベクトルを持つ。しかしながら、本実施形態では、テロップ領域内のブロックは全てテロップの移動速度を持つとひとまず仮定し、以下の説明を進める。この仮定については後述する。 Actually, not all blocks in the telop area have the same motion vector as the moving speed of the telop. For example, a block in a portion where a telop character is interrupted has a motion vector other than the movement speed of the telop. However, in the present embodiment, it is assumed for the time being that all blocks in the telop area have the moving speed of the telop, and the following description proceeds. This assumption will be described later.
本実施形態においては、水平方向に動くテロップを検出対象としているため、以下では各平均ベクトルについても水平方向の値、すなわちベクトルのx値に注目して説明を進める。 In the present embodiment, since the telop moving in the horizontal direction is set as the detection target, the following description will be made focusing on the horizontal value of each average vector, that is, the x value of the vector.
式(9)におけるテロップ領域の平均ベクトルVt_x、テロップ以外の領域の平均ベクトルVb_x、および全体平均ベクトルVave_xの関係を図示すると、図11、図12に示すようになる。 The relationship among the average vector Vt_x in the telop area, the average vector Vb_x in the area other than the telop, and the overall average vector Vave_x in Expression (9) is as shown in FIGS.
図11は、Vb_x<Vt_xの場合を図示したものである。Vave_xはVb_xとVt_xとの間に位置し、Vb_xとVave_xとの間の距離と、Vave_xとVt_xとの間の距離との比は、k:1−kになる。この関係は、Vave_x、Vb_x、Vt_xの値の大きさや正負によらず成り立つ。また、式(8)の条件より、 FIG. 11 illustrates the case of Vb_x <Vt_x. Vave_x is located between Vb_x and Vt_x, and the ratio between the distance between Vb_x and Vave_x and the distance between Vave_x and Vt_x is k: 1-k. This relationship holds regardless of the magnitude or the sign of Vave_x, Vb_x, and Vt_x. Also, from the condition of equation (8),
図12は、Vt_x<Vb_xの場合を図示したものである。Vave_xはVt_xとVb_xとの間に位置し、Vt_xとVave_xとの間の距離と、Vave_xとVb_xとの間の距離との比は、1−k:kになる。この関係は、Vave_x、Vt_x、Vb_xの値の大きさや正負によらず成り立つ。また、式(8)の条件より式(11)が常に成り立つ。よって、図11の場合と同様、Vt_xとVave_xとの間の距離は、常にVave_xとVb_xの間の距離より小さい。 FIG. 12 illustrates the case of Vt_x <Vb_x. Vave_x is located between Vt_x and Vb_x, and the ratio between the distance between Vt_x and Vave_x and the distance between Vave_x and Vb_x is 1-k: k. This relationship holds regardless of the magnitude or the sign of Vave_x, Vt_x, Vb_x. Moreover, Formula (11) is always formed from the conditions of Formula (8). Therefore, as in the case of FIG. 11, the distance between Vt_x and Vave_x is always smaller than the distance between Vave_x and Vb_x.
すなわち、Vb_x<Vt_xの場合でもVt_x<Vb_xの場合でも、Vb_xとVave_xとの間の距離は、常にVave_xとVt_xとの間の距離より小さい。つまり、 That is, whether Vb_x <Vt_x or Vt_x <Vb_x, the distance between Vb_x and Vave_x is always smaller than the distance between Vave_x and Vt_x. That means
そこで、ある閾値Tを用意し、 Therefore, a certain threshold value T is prepared,
ここで問題となるのは、閾値Tをどのように設定するかということである。以下でその方法について説明する。 The problem here is how the threshold value T is set. The method will be described below.
閾値Tの設定条件は、式(13)に示した通りである。この式(13)から、閾値Tを決めるためには、|Vb_x−Vave_x|と|Vt_x−Vave_x|とに関する情報が必要であることがわかるが、Vt_xとVb_xとを直接求めることはできない。なぜなら、どの領域がテロップ領域であるか、予めわからないからである。 The setting condition of the threshold T is as shown in Expression (13). From this equation (13), it can be seen that in order to determine the threshold value T, information on | Vb_x-Vave_x | and | Vt_x-Vave_x | is required, but Vt_x and Vb_x cannot be directly obtained. This is because it is not known in advance which area is the telop area.
ここで、|Vb_x−Vave_x|と|Vt_x−Vave_x|とはそれぞれ、全体平均ベクトルと背景領域の平均ベクトルとの差分、全体平均ベクトルとテロップ領域との平均ベクトルの差分であり、その値は動きベクトルのばらつき具合と関連が深い。そこで、データのばらつきの尺度の1つである平均偏差を用いて、閾値Tの値を決めることにする。 Here, | Vb_x-Vave_x | and | Vt_x-Vave_x | are the difference between the global average vector and the average vector of the background area, and the difference between the global average vector and the average vector of the telop area, respectively. It is closely related to the variation of vectors. Therefore, the value of the threshold value T is determined by using an average deviation which is one of the data variation scales.
各帯状領域Ljの平均ベクトルVave_x(j)の平均偏差をMとすると、Mは、 Assuming that the average deviation of the average vector Vave_x (j) of each strip region Lj is M, M is
まず、Vb_x<Vt_xの場合について考える。この時、平均偏差MをVt_x、Vb_xを用いて表すと、 First, consider the case of Vb_x <Vt_x. At this time, when the average deviation M is expressed using Vt_x and Vb_x,
式(13)および式(16)から、 From Equation (13) and Equation (16),
一方、Vb_x<Vt_xの条件および式(9)から、 On the other hand, from the condition of Vb_x <Vt_x and the equation (9),
式(19)に式(18)、式(20)、式(21)を代入して整理すると、 Substituting Equation (18), Equation (20), and Equation (21) into Equation (19) and rearranging,
尚、詳細な記述は省くが、Vt_x<Vb_xの場合も条件式として式(22)が得られる。 Although a detailed description is omitted, Expression (22) is obtained as a conditional expression even when Vt_x <Vb_x.
式(22)によって、テロップ領域の高さkを仮定することで、定数αの値を定めることができる。仮に、k=0.2とした場合、式(22)に代入して、 The value of the constant α can be determined by assuming the height k of the telop area according to the equation (22). If k = 0.2, substitute it into equation (22)
また、仮にk=0.4とした場合、同様に式(22)に代入して、 Also, if k = 0.4, it is similarly substituted into the equation (22),
以上のように、テロップ領域の高さkの値を仮定することで、定数αの設定可能範囲を導くことができる。実際の映像を解析してテロップ領域の高さkの傾向を求めてkを定め、それによって求まった定数αの設定可能範囲に従って、定数αを定めればよい。 As described above, the settable range of the constant α can be derived by assuming the value of the height k of the telop area. The actual image is analyzed to determine the tendency of the height k of the telop area to determine k, and the constant α may be determined in accordance with the settable range of the constant α determined thereby.
定数αを定め、また式(15)より平均偏差Mを求めれば、式(16)から閾値Tの値を決定することができる。ここで、平均偏差Mは、検出された動きベクトルから算出されることに注意が必要である。すなわち、検出された動きベクトルの状況によって、つまりは映像中のオブジェクトの動きによって、閾値Tの値は毎フレームごとに変わる。 If the constant α is determined and the average deviation M is obtained from the equation (15), the value of the threshold T can be determined from the equation (16). Here, it should be noted that the average deviation M is calculated from the detected motion vector. That is, the value of the threshold T changes for each frame depending on the state of the detected motion vector, that is, depending on the motion of the object in the video.
閾値Tの値が求まれば、式(14)に従って、各帯状領域Ljの平均ベクトルのx値Vave_x(j)に対する判定処理を行い、該帯状領域がテロップ領域であるか否かを判定することができる。 When the value of the threshold T is obtained, a determination process is performed on the x value Vave_x (j) of the average vector of each strip region Lj according to the equation (14) to determine whether the strip region is a telop region. Can do.
さらに、各帯状領域Ljに対して判定を行い、どの帯状領域がテロップ領域であるかが確定すれば、テロップ領域に含まれる動き検出ブロックの動きベクトルの平均(Vt_x,Vt_y)を算出することができる。これがすなわち、テロップベクトルである。 Further, if each band-like area Lj is determined and it is determined which band-like area is the telop area, the average (Vt_x, Vt_y) of the motion vectors of the motion detection blocks included in the telop area can be calculated. it can. This is the telop vector.
ここで、上述した説明の中で、テロップ領域内のブロックは全てテロップの速度を持つと仮定したことについて考察を加える。実際はテロップ領域内の全てのブロックがテロップの速度と同一の動きベクトルを持つとは限らない。テロップ領域中でテロップの文字を含まないブロックが多いほど、例えばテロップの文字が疎に存在する場合は、テロップ領域の平均ベクトルVt_xは、真のテロップベクトルよりも、全体平均ベクトルVave_xに近い値となる。また同時に、テロップ以外の領域の平均ベクトルVb_xも、全体平均ベクトルVave_xに近い値となる。すなわち、|Vt_x−Vave_x|も|Vb_x−Vave_x|も、値が小さくなる。 Here, consideration is given to the assumption that all the blocks in the telop area have the telop speed in the above description. Actually, not all blocks in the telop area have the same motion vector as the telop speed. The more blocks that do not contain telop characters in the telop area, for example, when telop characters exist sparsely, the average vector Vt_x of the telop area is closer to the overall average vector Vave_x than the true telop vector. Become. At the same time, the average vector Vb_x in the area other than the telop is also close to the overall average vector Vave_x. That is, both | Vt_x−Vave_x | and | Vb_x−Vave_x | have smaller values.
このことから、式(13)あるいは式(19)によって設定範囲が制限されている閾値Tの値も小さく設定する、すなわちαの値を小さく設定しなければ、テロップ領域を検出することができなくなる。しかし、閾値Tを小さくすると、テロップではない領域が誤検出される可能性も増加する。 Therefore, the telop area cannot be detected unless the value of the threshold T for which the setting range is limited by the equation (13) or the equation (19) is also set small, that is, unless the value of α is set small. . However, if the threshold value T is reduced, the possibility that a non-telop area is erroneously detected increases.
一方、テロップ領域中でテロップの文字を含まないブロックが少ない場合、例えばテロップの文字が密に存在する場合は、ほぼ上記の検討どおりの動作が期待できる。 On the other hand, when there are few blocks that do not include telop characters in the telop area, for example, when there are dense telop characters, it is possible to expect an operation almost as described above.
このように、実際に適用する際には、どの程度文字が疎なテロップまで検出対象とするか、どの程度の誤検出を許容するかを勘案し、定数αを決定する必要がある。 As described above, in actual application, it is necessary to determine the constant α in consideration of how much sparse characters are detected and how much false detection is allowed.
尚、上記実施形態においては、テロップを水平方向に動くものと仮定してテロップを検出したが、縦方向や斜め方向に動く場合も、同様の手法で検出することが可能である。その場合は、帯状領域の分割の仕方を、検出したい方向に合わせて設定すればよい。例えば縦方向に移動するテロップを検出したい場合は、帯状領域も縦長の領域に設定すれば良い。 In the above-described embodiment, the telop is detected on the assumption that the telop moves in the horizontal direction. However, when the telop is moved in the vertical direction or the diagonal direction, it can be detected by the same method. In that case, the method of dividing the band-like region may be set according to the direction to be detected. For example, when it is desired to detect a telop that moves in the vertical direction, the band-like region may be set to a vertically long region.
次に、画面内に複数のテロップが存在する場合のテロップ情報検出方法について述べる。例えば図13に示すように、画面を上下で2つのテロップ検出領域1、2に分割し、それぞれの領域において前述のテロップ検出方法を実行することで、テロップ領域情報A、テロップベクトル情報Vaとテロップ領域情報B、テロップベクトル情報Vbとの2つのテロップ情報を検出することができる。 Next, a telop information detection method when there are a plurality of telops in the screen will be described. For example, as shown in FIG. 13, the screen is divided into two telop detection areas 1 and 2 at the top and bottom, and the telop area information A, the telop vector information Va and the telop are executed by executing the above-described telop detection method in each area. Two pieces of telop information, that is, region information B and telop vector information Vb can be detected.
あるいは、例えば図14に示すように、水平方向のテロップ検出処理と垂直方向のテロップ検出処理を並列して実行して、水平方向のテロップ領域情報C、テロップベクトル情報Vcと垂直方向のテロップ領域情報D、テロップベクトル情報Vdとの2つのテロップ情報を検出するようにしてもよい。ここで、テロップ領域Cとテロップ領域Dとの共通領域は、前述のベクトル検出手段の説明における、処理中のブロックが複数のテロップ領域に該当する場合、に相当する。 Alternatively, for example, as shown in FIG. 14, horizontal telop detection processing and vertical telop detection processing are executed in parallel, so that horizontal telop area information C, telop vector information Vc, and vertical telop area information are displayed. Two pieces of telop information including D and telop vector information Vd may be detected. Here, the common area between the telop area C and the telop area D corresponds to the case where the block being processed corresponds to a plurality of telop areas in the above description of the vector detection means.
本実施形態によれば、以上のような手順により、1つ以上のテロップ情報を検出することができる。検出されたテロップ情報を用いた処理は、既に上記で述べたとおりである。 According to the present embodiment, one or more pieces of telop information can be detected by the procedure as described above. The processing using the detected telop information is as described above.
なお、前述のテロップ情報検出手段は一例であり、その他の手段を用いてテロップ情報を検出する構成とした場合であっても、本発明における動きベクトル検出方法および内挿画像生成方法に適用することが可能であることは言うまでも無い。 Note that the above-described telop information detection means is merely an example, and even when the telop information is detected using other means, it is applicable to the motion vector detection method and the interpolated image generation method in the present invention. Needless to say, this is possible.
ここで、テロップ情報検出部5への入力として、ベクトルメモリ4に蓄積された各動き検出ブロックの動きベクトルを用いていることに注意が必要である。ベクトルメモリ4に蓄積されている各動き検出ブロックの動きベクトルは、1フレーム前の動きベクトル検出結果である。すなわち、テロップ情報検出部5の処理は、1フレーム前の動きベクトル検出結果を用いて行われている。テロップは通常、複数のフレームに渡って同一の位置に存在するため、上記のように1フレーム前の動きベクトル検出結果を用いても大きな問題にはならない。 Here, it should be noted that the motion vector of each motion detection block stored in the vector memory 4 is used as an input to the telop information detection unit 5. The motion vector of each motion detection block stored in the vector memory 4 is a motion vector detection result of the previous frame. That is, the processing of the telop information detection unit 5 is performed using the motion vector detection result of the previous frame. Since the telop is usually present at the same position over a plurality of frames, the use of the motion vector detection result of the previous frame as described above is not a big problem.
以上詳述したとおり、本実施形態に係る動きベクトル検出方法においては、テロップの特徴量としてテロップ領域とテロップベクトルとを検出し、その結果を初期変位ベクトル選択や動きベクトル演算に反映させて動き補償処理を制御することにより、テロップ領域の動きベクトル検出をより正しく行うことが可能となり、その結果、テロップ領域の画質改善を図ることができる。 As described above in detail, in the motion vector detection method according to the present embodiment, a telop area and a telop vector are detected as telop feature quantities, and the results are reflected in initial displacement vector selection and motion vector calculation to compensate for motion. By controlling the processing, it is possible to more correctly detect the motion vector of the telop area, and as a result, the image quality of the telop area can be improved.
ところで、入力画像信号において、シーンチェンジ等により連続するフレーム間の相関が途切れる場合がある。この場合は、ベクトルメモリ4に蓄積された1フレーム前の動きベクトル検出結果を参照すると、逆にベクトル誤検出の原因となる。このため、シーンチェンジ等により連続するフレーム間の相関が途切れた場合は、それより前のフレームにおける動きベクトル検出結果をリセットするという方法が、従来より提案されている(例えば特開2000−333134号公報)。 By the way, in the input image signal, the correlation between successive frames may be interrupted due to a scene change or the like. In this case, referring to the motion vector detection result of the previous frame stored in the vector memory 4 may cause erroneous vector detection. For this reason, when the correlation between successive frames is interrupted due to a scene change or the like, a method of resetting the motion vector detection result in the previous frame has been proposed (for example, JP 2000-333134 A). Publication).
しかしながら、シーンチェンジの存在する画像にスクロールするテロップが重畳されている入力画像信号の場合、前記のようなリセット処理を行うと、テロップの存在する領域の動きベクトルもリセットされ、テロップが滑らかにスクロールする内挿画像が得られなくなる。従って、テロップ領域として検出された領域については、入力画像信号にシーンチェンジが発生した場合であっても、その他の領域とは異なる動き補償処理を行い、テロップが滑らかにスクロールする内挿画像を得られるようにするのが望ましい。 However, in the case of an input image signal in which a scrolling telop is superimposed on an image in which a scene change exists, if the reset process as described above is performed, the motion vector of the area where the telop exists is also reset, and the telop scrolls smoothly. Therefore, the interpolated image cannot be obtained. Therefore, for the area detected as the telop area, even if a scene change occurs in the input image signal, a motion compensation process different from that for other areas is performed to obtain an interpolated image in which the telop scrolls smoothly. It is desirable to be able to.
より具体的には、シーンチェンジが発生した場合であっても、テロップ領域に対しては上記のような動きベクトル検出結果のリセット処理を行わず、継続してベクトル検出処理を続けることで、シーンチェンジが発生した場合もテロップが滑らかにスクロールする内挿画像を得ることが可能になるとともに、テロップ領域以外の領域に対しては、シーンチェンジが発生した場合に上記リセット処理を行い、ベクトルの誤検出を防止することが可能となり、テロップ領域とそれ以外の領域との画質の両立を図ることができる。 More specifically, even if a scene change occurs, the scene detection process is not performed on the telop area, and the vector detection process is continuously performed without performing the above-described reset process of the motion vector detection result. Even when a change occurs, it is possible to obtain an interpolated image in which the telop scrolls smoothly, and for areas other than the telop area, the above reset process is performed when a scene change occurs, resulting in a vector error. Detection can be prevented, and both the image quality of the telop area and the other area can be achieved.
本発明の画像表示装置は、表示パネルとして液晶パネルを用いた液晶ディスプレイばかりでなく、有機ELディスプレイ、電気泳動ディスプレイなどのホールド型の表示特性を有する画像表示装置全般に適用することが可能である。また、入力画像信号としては、テレビジョン放送信号に限らず、外部メディアから再生された画像信号など種々の画像信号であってもよいことは言うまでもない。 The image display device of the present invention can be applied not only to a liquid crystal display using a liquid crystal panel as a display panel but also to image display devices having hold type display characteristics such as an organic EL display and an electrophoretic display. . Needless to say, the input image signal is not limited to a television broadcast signal, and may be various image signals such as an image signal reproduced from an external medium.
また、以上の説明においては、本発明の画像処理装置及び方法に関する実施形態の一例について説明したが、これらの説明から、本画像処理方法をコンピュータによりプログラムとして実行する画像処理プログラム、及び、該画像処理プログラムをコンピュータにより読み取り可能な記録媒体に記録したプログラム記録媒体についても容易に理解することができるであろう。 In the above description, an example of an embodiment related to the image processing apparatus and method of the present invention has been described. From these descriptions, an image processing program for executing the image processing method as a program by a computer, and the image A program recording medium in which the processing program is recorded on a computer-readable recording medium can be easily understood.
1 フレーム遅延部
2 初期変位ベクトル選択部
2a 座標変換部
2b 減算部
2c 絶対値累計部
2d 選択部
2e テロップベクトル追加判定部
3 動きベクトル演算部
4 ベクトルメモリ
5 テロップ情報検出部
100 フレームレート変換(FRC)部
101 動きベクトル検出部
102 内挿フレーム生成部
103 液晶表示パネル
104 電極駆動部
1 frame delay unit 2 initial displacement vector selection unit 2a coordinate conversion unit 2b subtraction unit 2c absolute value accumulation unit 2d selection unit 2e telop vector addition determination unit 3 motion vector calculation unit 4 vector memory 5 telop information detection unit 100 frame rate conversion (FRC) ) Unit 101 motion vector detection unit 102 interpolation frame generation unit 103 liquid crystal display panel 104 electrode drive unit
Claims (11)
前記レート変換手段は、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出部を備え、
前記動きベクトル検出部は、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶部と、
前記記憶部により蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出部と、
前記テロップ情報検出部により検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶部により蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択部と、
前記テロップ情報検出部により検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択部により選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力するとともに、前記記憶部に蓄積する動きベクトル演算部とを有することを特徴とする画像表示装置。 Rate conversion means for converting the number of frames or the number of fields of the input image signal by interpolating the image signal subjected to motion compensation processing between frames or fields of the input image signal, and outputting to the display panel An image display device comprising:
The rate conversion means divides a frame or field of the input image signal into a plurality of blocks having a predetermined size, and each block moves motion between input image signals separated by at least one frame or one field or more. A motion vector detection unit for detecting a motion vector representing the size and direction;
The motion vector detection unit includes a storage unit that accumulates at least one frame or one field of motion vectors detected for each block;
A telop information detection unit that detects one or more telop regions and / or motion vectors included in the input image signal using the motion vectors stored in the storage unit;
One or more telop areas and / or motion vectors detected by the telop information detection unit are used to select the detected block from the candidate vector group read out from the motion vectors stored in the storage unit. An initial displacement vector selection unit that selects a motion vector having a value most suitable for motion as an initial displacement vector of the detected block;
Using the telop area and / or motion vector detected by the telop information detection unit, by performing a predetermined calculation with the initial displacement vector selected by the initial displacement vector selection unit as a starting point, the motion of the detected block An image display apparatus comprising: a motion vector calculation unit that obtains and outputs a vector and stores the vector in the storage unit.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域とそれ以外の領域とで異なる処理を行うことを特徴とする画像表示装置。 The image display device according to claim 1,
The image display apparatus according to claim 1, wherein the initial displacement vector selection unit performs different processing in the one or more telop regions detected by the telop information detection unit and other regions.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域以外の領域では全画面の平均ベクトルに近い候補ベクトルを優先的に選択することを特徴とする画像表示装置。 The image display device according to claim 2,
The initial displacement vector selection unit preferentially selects a candidate vector close to an average vector of the entire screen in an area other than the one or more telop areas detected by the telop information detection unit. Display device.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域以外の領域では0ベクトルに近い候補ベクトルを優先的に選択することを特徴とする画像表示装置。 The image display device according to claim 2,
The image display apparatus, wherein the initial displacement vector selection unit preferentially selects a candidate vector close to a zero vector in a region other than the one or more telop regions detected by the telop information detection unit.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルを、前記候補ベクトルに追加して処理することを特徴とする画像表示装置。 The image display device according to claim 1,
The image display apparatus, wherein the initial displacement vector selection unit processes the motion vectors of the one or more telops detected by the telop information detection unit in addition to the candidate vectors.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域に該当するブロックに対しては、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルを、前記候補ベクトルに追加して処理することを特徴とする画像表示装置。 The image display device according to claim 5,
The initial displacement vector selection unit, for blocks corresponding to the one or more telop areas detected by the telop information detection unit, of the one or more telops detected by the telop information detection unit. An image display device characterized in that a motion vector is added to the candidate vector for processing.
前記初期変位ベクトル選択部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域では前記候補ベクトル中の前記1つ以上のテロップの動きベクトルが選択されやすいような重み付けを行って初期変位ベクトルの選択処理を行うことを特徴とする画像表示装置。 In the image display device according to claim 5 or 6,
The initial displacement vector selection unit performs weighting so that a motion vector of the one or more telops in the candidate vector is easily selected in the region of the one or more telops detected by the telop information detection unit. An image display device that performs an initial displacement vector selection process.
前記動きベクトル演算部は、前記テロップ情報検出部により検出された前記1つ以上のテロップの領域に該当するブロックに対しては、前記テロップ情報検出部により検出された前記1つ以上のテロップの動きベクトルの方向と同一の方向のベクトルが得られるように演算方法を変更することを特徴とする画像表示装置。 The image display device according to claim 1,
The motion vector calculation unit, for blocks corresponding to the one or more telop areas detected by the telop information detection unit, moves the one or more telops detected by the telop information detection unit. An image display device characterized by changing a calculation method so that a vector in the same direction as a vector direction can be obtained.
前記レート変換ステップは、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出ステップを備え、
前記動きベクトル検出ステップは、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶ステップと、
前記蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出ステップと、
前記検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶ステップにて蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択ステップと、
前記検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択ステップにて選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力する動きベクトル演算ステップとを有することを特徴とする画像表示方法。 An image display method comprising a rate conversion step for converting the number of frames or fields of an input image signal by interpolating an image signal subjected to motion compensation between frames or fields of the input image signal. And
In the rate conversion step, a frame or field of the input image signal is divided into a plurality of blocks having a predetermined size, and motion between input image signals separated by at least one frame or one field or more for each block. A motion vector detection step for detecting a motion vector representing the magnitude and direction,
The motion vector detecting step stores a motion vector detected for each block for at least one frame or one field;
A telop information detection step of detecting one or more telop regions and / or motion vectors included in the input image signal using the accumulated motion vectors;
Using the detected one or more telop regions and / or motion vectors, the candidate vector group read out from the motion vectors accumulated in the storing step is most suitable for the motion of the detected block. An initial displacement vector selection step of selecting a motion vector of the value as an initial displacement vector of the detected block;
Using the detected telop area and / or motion vector, a predetermined calculation is performed using the initial displacement vector selected in the initial displacement vector selection step as a starting point to obtain a motion vector of the detected block. And a motion vector calculation step for outputting.
前記レート変換手段は、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出部を備え、
前記動きベクトル検出部は、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶部と、
前記記憶部により蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出部と、
前記テロップ情報検出部により検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶部により蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択部と、
前記テロップ情報検出部により検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択部により選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力するとともに、前記記憶部に蓄積する動きベクトル演算部とを有することを特徴とする画像処理装置。 Image processing comprising rate conversion means for converting and outputting the number of frames or fields of the input image signal by interpolating the image signal subjected to motion compensation processing between frames or fields of the input image signal A device,
The rate conversion means divides a frame or field of the input image signal into a plurality of blocks having a predetermined size, and each block moves motion between input image signals separated by at least one frame or one field or more. A motion vector detection unit for detecting a motion vector representing the size and direction;
The motion vector detection unit includes a storage unit that accumulates at least one frame or one field of motion vectors detected for each block;
A telop information detection unit that detects one or more telop regions and / or motion vectors included in the input image signal using the motion vectors stored in the storage unit;
One or more telop areas and / or motion vectors detected by the telop information detection unit are used to select the detected block from the candidate vector group read out from the motion vectors stored in the storage unit. An initial displacement vector selection unit that selects a motion vector having a value most suitable for motion as an initial displacement vector of the detected block;
Using the telop area and / or motion vector detected by the telop information detection unit, by performing a predetermined calculation with the initial displacement vector selected by the initial displacement vector selection unit as a starting point, the motion of the detected block An image processing apparatus comprising: a motion vector calculation unit that obtains and outputs a vector and stores the vector in the storage unit.
前記レート変換ステップは、前記入力画像信号のフレームあるいはフィールドを予め定めた所定の大きさの複数のブロックに分割し、各ブロック毎に少なくとも1フレームあるいは1フィールド以上離れた入力画像信号間における動きの大きさ及び方向を表わす動きベクトルを検出する動きベクトル検出ステップを備え、
前記動きベクトル検出ステップは、各ブロック毎に検出された動きベクトルを少なくとも1フレームあるいは1フィールド分蓄積する記憶ステップと、
前記蓄積された動きベクトルを用いて、前記入力画像信号に含まれる1つ以上のテロップの領域及び/又は動きベクトルを検出するテロップ情報検出ステップと、
前記検出された1つ以上のテロップの領域及び/又は動きベクトルを用いて、前記記憶ステップにて蓄積された動きベクトルの中から読み出した候補ベクトル群の中から、被検出ブロックの動きに最もふさわしい値の動きベクトルを、被検出ブロックの初期変位ベクトルとして選択する初期変位ベクトル選択ステップと、
前記検出されたテロップの領域及び/又は動きベクトルを用いて、前記初期変位ベクトル選択ステップにて選択された初期変位ベクトルを起点として所定の演算を行うことにより、被検出ブロックの動きベクトルを求めて出力する動きベクトル演算ステップとを有することを特徴とする画像処理方法。 An image processing method comprising a rate conversion step of converting the number of frames or fields of an input image signal by interpolating an image signal subjected to motion compensation processing between frames or fields of the input image signal. And
In the rate conversion step, a frame or field of the input image signal is divided into a plurality of blocks having a predetermined size, and motion between input image signals separated by at least one frame or one field or more for each block. A motion vector detection step for detecting a motion vector representing the magnitude and direction,
The motion vector detecting step stores a motion vector detected for each block for at least one frame or one field;
A telop information detection step of detecting one or more telop regions and / or motion vectors included in the input image signal using the accumulated motion vectors;
Using the detected one or more telop regions and / or motion vectors, the candidate vector group read out from the motion vectors accumulated in the storing step is most suitable for the motion of the detected block. An initial displacement vector selection step of selecting a motion vector of the value as an initial displacement vector of the detected block;
Using the detected telop area and / or motion vector, a predetermined calculation is performed using the initial displacement vector selected in the initial displacement vector selection step as a starting point to obtain a motion vector of the detected block. And a motion vector calculation step for outputting.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007178103A JP4355347B2 (en) | 2006-09-28 | 2007-07-06 | Image display apparatus and method, image processing apparatus and method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006264034 | 2006-09-28 | ||
JP2007178103A JP4355347B2 (en) | 2006-09-28 | 2007-07-06 | Image display apparatus and method, image processing apparatus and method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006325139A Division JP4157579B2 (en) | 2006-09-28 | 2006-12-01 | Image display apparatus and method, image processing apparatus and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008109625A true JP2008109625A (en) | 2008-05-08 |
JP4355347B2 JP4355347B2 (en) | 2009-10-28 |
Family
ID=39442575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007178103A Active JP4355347B2 (en) | 2006-09-28 | 2007-07-06 | Image display apparatus and method, image processing apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4355347B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009296284A (en) * | 2008-06-05 | 2009-12-17 | Hitachi Ltd | Video processing device and video display device using the video processing device |
US8922577B2 (en) | 2009-12-28 | 2014-12-30 | Samsung Electronics Co., Ltd. | Texture information provider and frame syntheszier for image processing apparatus and method |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4951096B2 (en) | 2010-07-07 | 2012-06-13 | シャープ株式会社 | Liquid crystal display |
JP7396503B2 (en) | 2020-08-24 | 2023-12-12 | 株式会社島津製作所 | Atomic absorption spectrophotometer and control method for atomic absorption spectrophotometer |
-
2007
- 2007-07-06 JP JP2007178103A patent/JP4355347B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009296284A (en) * | 2008-06-05 | 2009-12-17 | Hitachi Ltd | Video processing device and video display device using the video processing device |
US8922577B2 (en) | 2009-12-28 | 2014-12-30 | Samsung Electronics Co., Ltd. | Texture information provider and frame syntheszier for image processing apparatus and method |
Also Published As
Publication number | Publication date |
---|---|
JP4355347B2 (en) | 2009-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4157579B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4181598B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4303748B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4615508B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4122279B2 (en) | Motion estimation apparatus and method capable of detecting scrolled text or graphic data | |
JP2008078859A (en) | Image display device and method and image processing unit and method | |
WO2011155258A1 (en) | Image processing apparatus, method therefor, image display apparatus, and method therefor | |
JP4355347B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP2009055340A (en) | Image display device and method, and image processing apparatus and method | |
JP4181614B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4731356B2 (en) | Image display apparatus and method | |
JP2009181067A (en) | Image display device and method, and image processing device and method | |
JP2009182865A (en) | Image display device and method, image processor, and image processing method | |
JP2008193730A (en) | Image display device and method, and image processing device and method | |
JP4615594B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4157587B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP2008109628A (en) | Image display apparatus and method, image processor and method | |
JP4504999B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4231539B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4157586B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4917867B2 (en) | Telop detection apparatus and method, and image display apparatus and method | |
JP4181615B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4369967B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP4772007B2 (en) | Image display apparatus and method, image processing apparatus and method | |
JP5249961B2 (en) | Image display device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080326 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090414 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090602 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090721 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090731 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4355347 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120807 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120807 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130807 Year of fee payment: 4 |
|
SG99 | Written request for registration of restore |
Free format text: JAPANESE INTERMEDIATE CODE: R316G99 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |