JPH11298902A - Image coder and image coding method therefor - Google Patents
Image coder and image coding method thereforInfo
- Publication number
- JPH11298902A JPH11298902A JP9592298A JP9592298A JPH11298902A JP H11298902 A JPH11298902 A JP H11298902A JP 9592298 A JP9592298 A JP 9592298A JP 9592298 A JP9592298 A JP 9592298A JP H11298902 A JPH11298902 A JP H11298902A
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion compensation
- prediction
- circuit
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明は、画像データを圧縮
符号化する画像符号化装置および方法に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image encoding apparatus and method for compressing and encoding image data.
【0002】[0002]
【従来の技術】送信側で画像データを圧縮して送信する
と共に、受信側では圧縮された画像データを伸張する通
信システムや、画像データを圧縮して記録すると共に、
再生時には圧縮された画像データを伸張して出力する圧
縮画像記録再生システム等において、画像データの圧縮
の方法としては、例えばMPEG(Moving Picture Exp
erts Group)規格で採用されている双方向予測符号化方
式がある。この双方向予測符号化方式では、フレーム内
符号化とフレーム間符号化という2つのタイプの符号化
が行われる。フレーム間符号化は、更に、フレーム間順
方向予測符号化とフレーム間双方向予測符号化とに分け
られる。ここで、フレーム内符号化は、例えば、入力さ
れた画像データを、所定の単位毎にマクロブロック化
し、マクロブロック毎にDCT(離散コサイン変換)の
ような周波数変換を行った後、量子化して圧縮を行うよ
うになっている。一方、フレーム間符号化では、例え
ば、入力された画像データを、所定の単位毎にマクロブ
ロック化すると共に、マクロブロック毎に以前に符号化
した予測参照画像に対する動きベクトルを検出し、この
動きベクトルを用いて動き補償を行って、以前に符号化
した予測参照画像から原画像に対応する予測画像を生成
する。そして、原画像と予測画像との差分を用いた予測
符号化による圧縮がなされる。なお、MPEG規格で
は、この差分に対してDCTを行って符号化をしてい
る。2. Description of the Related Art A transmitting side compresses image data and transmits the compressed data, and a receiving side compresses and records the compressed image data.
In a compressed image recording / reproducing system or the like that expands and outputs compressed image data during reproduction, a method of compressing image data includes, for example, MPEG (Moving Picture Exposure).
erts Group) standard. In this bidirectional predictive coding method, two types of coding, ie, intra-frame coding and inter-frame coding, are performed. Interframe coding is further divided into interframe forward prediction coding and interframe bidirectional prediction coding. Here, in intra-frame encoding, for example, input image data is divided into macroblocks for each predetermined unit, and after performing frequency transformation such as DCT (discrete cosine transformation) for each macroblock, quantization is performed. Compression is performed. On the other hand, in the inter-frame coding, for example, the input image data is converted into macroblocks for each predetermined unit, and a motion vector for a previously coded prediction reference image is detected for each macroblock. To generate a predicted image corresponding to the original image from the previously coded predicted reference image. Then, compression is performed by predictive coding using the difference between the original image and the predicted image. In the MPEG standard, the difference is subjected to DCT for encoding.
【0003】このように、双方向予測符号化方式では、
フレーム内符号化、フレーム間順方向予測符号化および
フレーム間双方向予測符号化の3つのタイプの符号化が
行われ、各符号化タイプによる画像は、それぞれIピク
チャ(intra coded picture)、Pピクチャ(predictiv
e coded picture)およびBピクチャ(bidirectionally
predictive coded picture)と呼ばれる。As described above, in the bidirectional predictive coding system,
Three types of encoding are performed: intra-frame encoding, inter-frame forward predictive encoding, and inter-frame bidirectional predictive encoding. Images of each encoding type are I-picture (intra coded picture) and P-picture, respectively. (Predictiv
e coded picture) and B picture (bidirectionally)
Predictive coded picture).
【0004】ここで、Bピクチャに関する符号化処理に
ついて、更に詳述する。Bピクチャの符号化処理では、
入力された原画像(Bピクチャ)に対して順方向(Forw
ard)の予測を行うための時間軸上で過去にある参照画
像と、逆方向(Backward)の予測を行うための時間軸上
で未来にある参照画像との少なくとも一方の参照画像に
対して、原画像の動きを予測して動き補償を行うことに
より原画像に対応する予測画像を生成し、生成された予
測画像と原画像との差分を用いて予測符号化が行われ
る。このとき、実質的な動き補償を行う前段階におい
て、動き補償に用いる情報を逆方向、順方向および両側
方向(逆方向および順方向の双方)のいずれの予測方向
の参照画像からの情報に基づいて作成するかを決定する
いわゆる参照面決定工程による処理が行われる。この参
照面決定工程では、順方向および逆方向の参照画像から
の予測の困難さをそれぞれ算出し、この算出した予測の
困難さに基づいて、逆方向、順方向および両側方向のい
ずれの予測方向の画像の情報を用いるかの判定が行われ
る。Here, the encoding process for a B picture will be described in further detail. In the encoding process of a B picture,
Forward direction (Forw) with respect to the input original image (B picture)
ard) and at least one of a reference image in the past on the time axis for performing prediction in the backward direction and a reference image in the future on the time axis for performing prediction in the backward direction (Backward). A predicted image corresponding to the original image is generated by predicting the motion of the original image and performing motion compensation, and prediction encoding is performed using a difference between the generated predicted image and the original image. At this time, in a stage before performing substantial motion compensation, information used for motion compensation is based on information from a reference image in any of the prediction directions of the backward, forward, and both sides (both backward and forward). A process is performed in a so-called reference plane determination step of deciding whether to create the image. In the reference plane determination step, the difficulty of prediction from the reference image in the forward direction and the backward direction is calculated, and based on the calculated difficulty of prediction, any one of the prediction directions of the backward direction, the forward direction, and the bilateral direction is calculated. It is determined whether to use the image information.
【0005】なお、予測の困難さとしては、例えば、M
E残差が用いられる。ME残差とは、符号化の対象とな
る原画像の注目マクロブロックと、参照画像の注目マク
ロブロックとの間の画素値の差分の絶対値和または自乗
和のことである。[0005] The difficulty of prediction is, for example, M
The E residual is used. The ME residual is a sum of absolute values or a sum of squares of a difference between pixel values of a target macroblock of an original image to be encoded and a target macroblock of a reference image.
【0006】図9は、従来の参照面決定工程における予
測方向の判定手法の一例を説明するための説明図であ
る。図において、横軸は、逆方向におけるME残差の値
MEBWD を示し、縦軸は、順方向におけるME残差の値
MEFWD を示している。また、この図において、領域A
は、予測方向として両側方向が用いられる領域であり、
領域Bは、逆方向のみが用いられる領域である。また、
領域Fは、順方向のみが用いられる領域である。FIG. 9 is an explanatory diagram for explaining an example of a conventional technique for determining a prediction direction in a reference plane determination step. In the figure, the horizontal axis represents the ME residual value ME BWD in the backward direction, and the vertical axis represents the ME residual value ME FWD in the forward direction. Further, in FIG.
Is a region where both directions are used as the prediction direction,
The area B is an area where only the reverse direction is used. Also,
The area F is an area where only the forward direction is used.
【0007】この図に示したように、順方向および逆方
向からの予測の困難さ(残差MEFWD ,MEBWD )がほ
ぼ等しい場合、すなわち、順方向および逆方向の残差M
EFWD ,MEBWD に2倍を超える差がない場合は(領域
A)、その絶対値の大きさに関係なく、全て両側方向か
らの情報を用いた動き補償の予測を伴う符号化処理が行
われる。また、順方向および逆方向の残差MEFWD ,M
EBWD に2倍を超える差がある場合には、ME残差の小
さい方の予測参照面のみの情報を用いた動き補償の予測
を伴う符号化処理が行われる。すなわち、順方向のME
残差の値MEFWD と逆方向のME残差の値MEBWD との
間に、MEBWD >2MEFWD の関係がある場合には(領
域F)、順方向のみの情報を用いた動き補償の予測を伴
う符号化処理が行われる。また、順方向のME残差の値
MEFWDと逆方向のME残差の値MEBWD との間に、M
EFWD >2MEBWD の関係がある場合には(領域B)、
逆方向のみの情報を用いた動き補償の予測を伴う符号化
処理が行われる。このとき、逆方向または順方向の片側
方向のみの情報を用いる場合には、両側方向の情報を用
いた場合より、符号化後に動き補償のための情報として
転送する情報量は、半分となる。As shown in FIG. 1, when the difficulty of prediction in the forward and backward directions (residuals ME FWD , ME BWD ) is substantially equal, that is, the residuals M in the forward and reverse directions are equal.
If there is no difference of more than twice between E FWD and ME BWD (region A), encoding processing involving motion compensation prediction using information from both sides is performed regardless of the magnitude of its absolute value. Will be Also, the forward and backward residuals ME FWD , M
When there is a difference of more than twice in E BWD , an encoding process involving motion compensation prediction using information of only the prediction reference plane having the smaller ME residual is performed. That is, the forward ME
If there is a relationship of ME BWD > 2ME FWD between the residual value ME FWD and the backward ME residual value ME BWD (region F), the motion compensation using information only in the forward direction is performed. An encoding process involving prediction is performed. Further, M is set between the forward ME residual value ME FWD and the backward ME residual value ME BWD.
If there is a relationship of E FWD > 2ME BWD (region B),
An encoding process involving motion compensation prediction using information only in the reverse direction is performed. At this time, the amount of information to be transferred as information for motion compensation after encoding is half when using information in only one direction in the backward or forward direction, compared to using information in both directions.
【0008】なお、例えば、静止画や緩やかに画像が移
動するいわゆるパン画像等の動きの少ない画像において
は、逆方向および順方向、それぞれによるME残差が小
さくなり、且つそれぞれほぼ等しい値を持つことが知ら
れている。このような場合のME残差は、図9におい
て、ほぼ領域aで示した領域に分布する。領域aに分布
しているような画像の素材は、隣り合う画像のフレーム
同士に強い相関があり、元々MPEGによる符号化処理
が得意な素材に属している。[0008] For example, in an image with little movement such as a still image or a so-called pan image in which an image moves slowly, the ME residual in the backward direction and the forward direction is small, and has substantially the same value. It is known. In such a case, the ME residual is distributed substantially in a region indicated by a region a in FIG. An image material distributed in the area a has a strong correlation between adjacent image frames, and originally belongs to a material that is good at encoding by MPEG.
【0009】[0009]
【発明が解決しようとする課題】しかしながら、上記の
ような従来の技術では、例えば、静止画や緩やかに画像
が移動するいわゆるパン画像等、比較的予測が正確に当
たりやすく本来片側方向だけの情報量で十分に符号化で
きるような画像であったとしても、逆方向、順方向から
の予測の困難さがほぼ等しくなるため(図9の領域
a)、両側方向からの情報を用いた動き補償の予測が行
われてしまう。従って、この場合には、片側方向の画像
に基づく情報量で十分予測符号化が可能であるにもかか
わらず、2倍の情報量を符号化して転送しなければなら
ず、画像の符号化効率が低くて不経済となるという問題
が生じる。However, according to the above-mentioned conventional techniques, for example, a still image, a so-called pan image in which an image moves slowly, etc., is relatively easy to accurately predict, and the information amount in one direction only is originally required. However, even if the image can be coded sufficiently, the difficulty of prediction in the backward and forward directions is almost equal (region a in FIG. 9). A prediction is made. Therefore, in this case, it is necessary to encode and transfer twice the amount of information, although the prediction encoding can be sufficiently performed with the information amount based on the image in one direction, and the encoding efficiency of the image is increased. Is low, which is uneconomical.
【0010】本発明はかかる問題点に鑑みてなされたも
ので、その目的は、画質を低下させることなく、画像の
符号化効率を高めることができる画像符号化装置および
方法を提供することにある。SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and an object of the present invention is to provide an image encoding apparatus and a method capable of increasing the image encoding efficiency without deteriorating the image quality. .
【0011】[0011]
【課題を解決するための手段】本発明による画像符号化
装置は、入力された画像に対して、入力された画像の種
類に応じて、時間的に過去と未来にある2つの参照画像
のうちの一方を用いた片側方向の動き補償を伴う予測符
号化処理および2つの参照画像の両方を用いた両側方向
の動き補償を伴う予測符号化処理を含む符号化処理を行
う符号化手段と、両側方向の予測符号化処理を行うべき
画像の符号化処理時に、各参照画像毎の予測困難さを表
す値が、一方の参照画像のみを用いた予測符号化処理で
十分と判断される所定の範囲内にある場合には、符号化
手段に対して、一方の参照画像のみを用いた片側方向の
予測符号化処理を行わせる予測方向制限手段とを備えた
ものである。According to the present invention, there is provided an image coding apparatus for an input image, comprising two types of reference images which are temporally past and future in accordance with the type of the input image. Encoding means for performing an encoding process including a predictive encoding process with one-sided motion compensation using one of them and a predictive encoding process with a bidirectional motion compensation using both of two reference images; During encoding of an image to be subjected to predictive encoding in the direction, a value representing the difficulty of prediction for each reference image is within a predetermined range in which it is determined that the prediction encoding using only one reference image is sufficient. If it is within the range, the prediction means is provided with a prediction direction restriction means for causing the encoding means to perform a unidirectional prediction encoding process using only one reference image.
【0012】また、本発明による画像符号化方法は、入
力された画像に対して、入力された画像の種類に応じ
て、時間的に過去と未来にある2つの参照画像のうちの
一方を用いた片側方向の動き補償を伴う予測符号化処理
および2つの参照画像の両方を用いた両側方向の動き補
償を伴う予測符号化処理を含む符号化処理を行うと共
に、両側方向の予測符号化処理を行うべき画像の符号化
処理時に、各参照画像毎の予測困難さを表す値が、一方
の参照画像のみを用いた予測符号化処理で十分と判断さ
れる所定の範囲内にある場合には、一方の参照画像のみ
を用いた片側方向の予測符号化処理を行うように予測方
向を制限するようにしたものである。Further, the image encoding method according to the present invention uses one of two temporally past and future reference images for an input image in accordance with the type of the input image. In addition to performing the encoding process including the prediction encoding process with motion compensation in one direction and the prediction encoding process with motion compensation in both directions using both reference images, the prediction encoding process in both directions is performed. At the time of the encoding process of the image to be performed, when the value representing the prediction difficulty for each reference image is within a predetermined range that is determined to be sufficient by the prediction encoding process using only one reference image, The prediction direction is restricted so as to perform a unidirectional prediction encoding process using only one reference image.
【0013】本発明による画像符号化装置では、予測方
向制限手段によって、両側方向の予測符号化処理を行う
べき画像の符号化処理時に、各参照画像毎の予測困難さ
を表す値が、一方の参照画像のみを用いた予測符号化処
理で十分と判断される所定の範囲内にある場合には、一
方の参照画像のみを用いた片側方向の予測符号化処理が
行われるように、予測方向が制限される。In the image coding apparatus according to the present invention, the value indicating the difficulty of prediction for each reference image is set to one of the values by the prediction direction limiting means when the image to be subjected to the bidirectional predictive coding is coded. When the prediction direction using only the reference image is within a predetermined range that is determined to be sufficient, the prediction direction is set so that one-sided prediction encoding process using only one reference image is performed. Limited.
【0014】また、本発明による画像符号化方法では、
入力された画像に対して、入力された画像の種類に応じ
て、時間的に過去と未来にある2つの参照画像のうちの
一方を用いた片側方向の動き補償を伴う予測符号化処理
および2つの参照画像の両方を用いた両側方向の動き補
償を伴う予測符号化処理を含む符号化処理が行われると
共に、両側方向の予測符号化処理を行うべき画像の符号
化処理時に、各参照画像毎の予測困難さを表す値が、一
方の参照画像のみを用いた予測符号化処理で十分と判断
される所定の範囲内にある場合には、一方の参照画像の
みを用いた片側方向の予測符号化処理が行われるよう
に、予測方向が制限される。Further, in the image encoding method according to the present invention,
Predictive coding processing for one-way motion compensation using one of two temporally past and future reference images for an input image in accordance with the type of the input image; In addition to performing the encoding process including the predictive encoding process with bilateral motion compensation using both of the two reference images, the encoding process of the image to be subjected to the bidirectional predictive encoding process is performed for each reference image. If the value indicating the difficulty of prediction is within a predetermined range determined to be sufficient by the predictive encoding process using only one reference image, the one-way predictive code using only one reference image is used. The prediction direction is limited so that the conversion process is performed.
【0015】[0015]
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して詳細に説明する。Embodiments of the present invention will be described below in detail with reference to the drawings.
【0016】図1は、本発明の一実施の形態に係る画像
符号化装置の構成を示すブロック図である。本実施の形
態に係る画像符号化装置1は、入力画像信号S1 を入力
し、符号化する順番に従ってピクチャ(Iピクチャ,P
ピクチャ,Bピクチャ)の順番を並べ替える画像並べ替
え回路21と、この画像並べ替え回路21の出力データ
を入力し、フレーム構造かフィールド構造かを判別し、
判別結果に応じた走査変換および16×16画素のマク
ロブロック化を行う走査変換・マクロブロック化回路2
2と、この走査変換・マクロブロック化回路22の出力
データに基づいて動きベクトル等の動き補償のためのデ
ータを検出する動き検出回路30と、動き検出回路30
を介して入力された走査変換・マクロブロック化回路2
2からの出力データと予測画像データとの差分をとる減
算回路31と、この減算回路31の出力データに対し
て、DCTブロック単位でDCTを行い、DCT係数を
出力するDCT回路32と、このDCT回路32の出力
データを所定の量子化ステップ(量子化のための割り算
の係数)に基づいて量子化する量子化回路33と、この
量子化回路33の出力データを可変長符号化する可変長
符号化回路34と、この可変長符号化回路34の出力デ
ータを一旦保持し、ビットストリームからなる圧縮画像
データS2 として出力するバッファメモリ35とを備え
ている。FIG. 1 is a block diagram showing a configuration of an image coding apparatus according to one embodiment of the present invention. The image coding apparatus 1 according to the present embodiment receives an input image signal S 1 and outputs a picture (I picture, P picture) according to the coding order.
(Picture, B picture), and an image rearranging circuit 21 for inputting the output data of the image rearranging circuit 21 and discriminating between a frame structure and a field structure.
Scan conversion / macroblock circuit 2 for performing scan conversion and macroblock formation of 16 × 16 pixels according to the determination result
2, a motion detection circuit 30 for detecting data for motion compensation such as a motion vector based on the output data of the scan conversion / macroblock conversion circuit 22, and a motion detection circuit 30
Conversion and macroblocking circuit 2 input via
2, a DCT circuit 32 that performs DCT on the output data of the subtraction circuit 31 in DCT block units and outputs DCT coefficients, A quantization circuit 33 for quantizing output data of the circuit 32 based on a predetermined quantization step (a coefficient of division for quantization), and a variable-length code for variable-length encoding the output data of the quantization circuit 33 of the circuit 34, and a buffer memory 35 for outputting the output data of the variable-length encoding circuit 34 temporarily holds, as compressed image data S 2 made from the bitstream.
【0017】画像符号化装置1は、更に、量子化回路3
3の出力データを逆量子化する逆量子化回路36と、こ
の逆量子化回路36の出力データに対して逆DCTを行
う逆DCT回路37と、この逆DCT回路37の出力デ
ータと予測画像データとを加算して出力する加算回路3
8と、動き検出回路30の出力データS3 から予測画像
データの生成に用いられる動き補償のデータを決定して
出力する動き補償情報決定部39と、加算回路38の出
力データを保持し、動き補償情報決定部39から送られ
る動き補償のデータに対応した参照画像に対して動き補
償を行って予測画像データを生成し、予測画像データを
減算回路31および加算回路38に出力する動き補償回
路40とを備えている。動き補償回路40において、実
際に予測画像データの生成に用いられた動き補償のデー
タS6は、可変長符号化回路34に出力される。可変長
符号化回路34は、動き補償回路40から出力された動
き補償のデータS6も可変長符号化するようになってい
る。ここで、動き補償情報決定部39が本発明における
予測方向制限手段に対応する。The image encoding device 1 further includes a quantization circuit 3
3, an inverse quantization circuit 36 for inversely quantizing the output data, an inverse DCT circuit 37 for performing an inverse DCT on the output data of the inverse quantization circuit 36, an output data of the inverse DCT circuit 37 and predicted image data. Addition circuit 3 for adding and outputting
8, the motion compensation information determination unit 39 determines and outputs data of the motion compensation used from the output data S 3 of the motion detection circuit 30 for generating the predicted image data, and holds the output data of the adding circuit 38, the motion A motion compensation circuit 40 that performs motion compensation on a reference image corresponding to the motion compensation data sent from the compensation information determination unit 39 to generate predicted image data, and outputs the predicted image data to the subtraction circuit 31 and the addition circuit 38 And In the motion compensation circuit 40, the data S 6 of the motion compensation actually used for generating the predicted image data is output to the variable length coding circuit 34. The variable length coding circuit 34 also performs variable length coding on the motion compensation data S 6 output from the motion compensation circuit 40. Here, the motion compensation information determining unit 39 corresponds to the prediction direction limiting unit in the present invention.
【0018】画像符号化装置1は、更に、例えば、発生
符号量(発生ビット量)が目標となる所定の符号量とな
るように量子化回路33における量子化ステップを決定
し、この決定した量子化ステップを量子化回路33に与
える符号化制御部41を備えている。The image coding apparatus 1 further determines a quantization step in the quantization circuit 33 so that the generated code amount (generated bit amount) becomes a target predetermined code amount, for example. An encoding control unit 41 that provides the quantization step to the quantization circuit 33 is provided.
【0019】動き検出回路30は、動き補償回路40に
おける動き補償に必要となるデータを検出して、検出し
た動き補償のためのデータS3を補償情報決定部39に
送出するようになっている。動き検出回路30において
検出される動き補償のためのデータとしては、例えば、
フレーム構造用とフィールド構造用のME残差や動きベ
クトルに関する情報が含まれる。ここで、ME残差と
は、符号化の対象となる原画像の各マクロブロックと、
原画像の各マクロブロックに対応する参照画像の各マク
ロブロックとの間の各画素の輝度差の絶対値和または自
乗和のことであり、例えば、次の式によって定義される
ものである。なお、次式において、Maは、原画像の1
つのマクロブロックを表しており、Mbは、マクロブロ
ックMaに対応する逆方向または順方向の参照画像のマ
クロブロックを表している。また、添え字iは、例え
ば、0〜255までの整数を表し、Σは、iの値の全て
に対する|Mai −Mbi |の値の総和を表している。The motion detecting circuit 30 detects the data required for motion compensation in the motion compensation circuit 40 is adapted to transmit data S 3 for detecting the motion compensation to the compensation information determination unit 39 . As data for motion compensation detected by the motion detection circuit 30, for example,
Information about the ME residual and the motion vector for the frame structure and the field structure is included. Here, the ME residual refers to each macroblock of the original image to be encoded,
This is the sum of absolute values or the sum of squares of the luminance difference of each pixel between each macroblock of the original image and each macroblock of the reference image, and is defined by the following equation, for example. In the following equation, Ma is 1 of the original image.
Mb represents a macroblock of a backward or forward reference image corresponding to the macroblock Ma. The subscript i represents, for example, an integer from 0 to 255, and Σ represents the sum of the values | Ma i −Mb i | for all the values of i .
【0020】ME=Σ|Mai −Mbi | 図2は、動き検出回路30において検出される動き補償
のためのデータについて説明するための説明図である。
図2において、P1 ,P2 は、Pピクチャを示してお
り、B1 ,B2 は、Bピクチャを示している。この図に
おけるピクチャのデータ構造は、Pピクチャの現れる周
期(M)が3であり、隣り合うPピクチャP1 ,P2 の
間に、2つのBピクチャB1 ,B2 が挿入されて構成さ
れている。なお、この例では、Bピクチャに隣接するピ
クチャがPピクチャである場合について示したが、Bピ
クチャに隣接するピクチャがIピクチャであってもよ
い。また、図において、動き検出回路30に現在入力さ
れている原画像のデータは、ピクチャB1 であるものと
し、順方向の予測を行うための時間軸上で過去にあるデ
ータがピクチャP1 であり、逆方向の予測を行うための
時間軸上で未来にあるデータがピクチャP2 であるもの
とする。なお、図2では、時間が経つに従い、四角い物
体が左下から右上に移動するような画像の動きがある例
について示している。ME = Σ | Ma i -Mb i | FIG. 2 is an explanatory diagram for describing data for motion compensation detected by the motion detection circuit 30.
In FIG. 2, P 1 and P 2 indicate P pictures, and B 1 and B 2 indicate B pictures. The picture data structure in this figure is such that the period (M) at which a P picture appears is 3, and two B pictures B 1 and B 2 are inserted between adjacent P pictures P 1 and P 2. ing. Note that, in this example, the case where the picture adjacent to the B picture is a P picture has been described, but the picture adjacent to the B picture may be an I picture. In the figure, it is assumed that the data of the original image currently input to the motion detection circuit 30 is a picture B 1 , and the data in the past on the time axis for performing forward prediction is a picture P 1 . There, the data in the future on a time axis for performing the backward prediction is assumed to be the picture P 2. FIG. 2 illustrates an example in which a rectangular object moves from the lower left to the upper right as time passes.
【0021】動き検出回路30は、ピクチャB1 が入力
されると、過去にあるピクチャP1と、未来にあるピク
チャP2 との2つの参照画像に対して、ピクチャB1 の
各マクロブロック毎に最も整合性のあるマクロブロック
の位置をピクチャP1 ,P2の所定の検索範囲内から探
し出し、それぞれのマクロブロックに対する残差ME
FWD ,MEBWD を求めるようになっている。図2の
例では、ピクチャB1 のマクロブロックMc に最も整合
性のあるピクチャP1 ,P2 のマクロブロックが、それ
ぞれマクロブロックMF,MBとなっている。ここで、マ
クロブロックMc の中心の座標は(0,0)であり、マ
クロブロックMF,MBの中心の座標は、(−XF ,−X
F ),(XB ,XB )であるとする。また、動き検出回
路30は、最も整合性のあるマクロブロックの中心位置
に基づいて動きベクトルVF ,VBを検出するようにな
っている。動きベクトルVF ,VB は、マクロブロック
Mcに対するマクロブロックMF ,MB の動きベクトル
である。When the picture B 1 is input, the motion detecting circuit 30 compares each of the macroblocks of the picture B 1 with respect to two reference pictures, a past picture P 1 and a future picture P 2. Is searched from within a predetermined search range of the pictures P 1 and P 2 , and the residual ME for each macro block is found.
FWD and ME BWD are required. In the example of FIG. 2, the macro block of the picture P 1, P 2 that are most consistent macroblock M c of the picture B 1 is, has each macro-block M F, and M B. Here, the coordinates of the center of the macro block M c a (0, 0), macroblock M F, the coordinates of the center of the M B, (- X F, -X
F), and a (X B, X B). The motion detection circuit 30, most Consistent based on the center position of the macro block motion vector V F, so as to detect the V B. Motion vector V F, V B is a motion vector of the macro block M F, M B for the macroblock M c.
【0022】図3は、動き補償情報決定部39の構成を
示すブロック図である。動き補償情報決定部39は、動
き補償回路40において実質的な動き補償を行う前段階
において、逆方向、順方向および両側方向(逆方向およ
び順方向の双方)のいずれの予測方向で予測符号化を行
うかを決定するための判定処理を行うようになってい
る。例えば、動き補償情報決定部39は、両側方向の予
測符号化処理を行うべき画像の符号化処理時に、各参照
画像毎の予測困難さを表す値が、一方の参照画像のみを
用いた予測符号化処理で十分と判断される所定の範囲内
にある場合には、一方の参照画像のみを用いた片側方向
の予測符号化処理を行わせるような判定処理を行うよう
になっている。FIG. 3 is a block diagram showing the configuration of the motion compensation information determining section 39. Before performing substantial motion compensation in the motion compensation circuit 40, the motion compensation information determination unit 39 performs predictive coding in any of the backward, forward, and bilateral (both backward and forward) prediction directions. A determination process is performed to determine whether or not to perform. For example, the motion compensation information determining unit 39 determines that the value indicating the difficulty of prediction for each reference image is a prediction code using only one reference image during the encoding process of the image to be subjected to the bidirectional prediction encoding process. If it is within a predetermined range determined to be sufficient by the coding process, a determination process is performed such that a unidirectional prediction coding process using only one reference image is performed.
【0023】動き補償情報決定部39は、判定処理の基
準となる基準値を記憶する基準値保持部51と、この基
準値保持部51に記憶された基準値と、動き検出回路3
0からのデータS3 から抽出された過去および未来の各
参照画像データの予測の困難さに関するデータS4 とを
比較して、いずれの予測方向で予測符号化処理が行われ
るべきかを判定する判定部52と、この判定部52の判
定結果に応じて、動き検出回路30において検出された
データS3 から動き補償回路40に送出すべき動き補償
のデータS5 を選択して出力する選択部53とを備えて
いる。基準値保持部51は、例えば、予測困難さを表す
値が一方の参照画像のみを用いた予測符号化処理で十分
と判断される所定の範囲を規定するための基準値を記憶
している。判定部52は、例えば、基準値保持部51に
記憶された基準値と各参照画像毎の予測困難さを表す値
とを比較して、各参照画像毎の予測困難さを表す値が、
一方の参照画像のみを用いた予測符号化処理で十分と判
断される所定の範囲内にあるか否かを判断するようにな
っている。判定部52において比較の対象とされる予測
の困難さに関するデータS4としては、例えば、ME残
差が用いられる。なお、動き補償情報決定部39による
機能は、ソフトウェア的に実現してもよいし、専用の回
路を組むことによってハードウェア的に実現してもよ
い。The motion compensation information determining section 39 includes a reference value holding section 51 for storing a reference value serving as a reference for the determination processing, a reference value stored in the reference value holding section 51,
By comparing the data S 4 about the difficulty in the past has been extracted from the data S 3 and the reference image data for future prediction from 0, determines the predictive encoding process in any prediction direction should be performed a determination unit 52, in accordance with the determination result of the determination unit 52, selection unit that selects data S 5 of the motion compensation to be sent to the motion compensation circuit 40 from the data S 3 detected in the motion detection circuit 30 outputs 53. The reference value holding unit 51 stores, for example, a reference value for defining a predetermined range in which the value indicating the difficulty of prediction is determined to be sufficient in the predictive encoding process using only one reference image. The determination unit 52 compares, for example, the reference value stored in the reference value holding unit 51 with a value representing the prediction difficulty for each reference image, and determines that the value representing the prediction difficulty for each reference image is
It is determined whether it is within a predetermined range where it is determined that the prediction encoding process using only one reference image is sufficient. As the data S 4 about the difficulty of prediction, which is to be compared in the determination unit 52, for example, ME residual is used. The function of the motion compensation information determination unit 39 may be realized by software, or may be realized by hardware by forming a dedicated circuit.
【0024】図4および図5は、動き補償情報決定部3
9において行われる判定処理について説明するための説
明図である。図4および図5において、横軸は、入力さ
れた原画像データに対して逆方向におけるME残差の値
MEBWD を示し、縦軸は、順方向におけるME残差の値
MEFWD を示している。FIGS. 4 and 5 show the motion compensation information determining unit 3.
FIG. 9 is an explanatory diagram for describing a determination process performed in No. 9; 4 and 5, the horizontal axis represents the ME residual value ME BWD in the reverse direction with respect to the input original image data, and the vertical axis represents the ME residual value ME FWD in the forward direction. I have.
【0025】図4は、CCIR(International Radio
Consultative Committee :国際無線通信諮問委員
会)により規格化された標準動画像であるdiva with no
ise (以下、divaと記す。)とflower garden (以
下、fwgnと記す。)を画像データとして実際に入力
して得られたME残差の分布を示す図である。図4にお
けるME残差の分布は、各画素の輝度を8ビットで表し
た場合について示している。また、図4において、2つ
の波線の内側の領域は、従来、両側方向の予測符号化が
行われていた領域に対応し、実線で示した部分は後述の
図5の実線で示した部分に対応している。また、図4に
おいて、白抜きの四角形□で示されたものがdivaに
関するME残差であり、黒い四角形■で示されたものが
fwgnに関するME残差である。fwgnは、div
aに比べて動きの少ない画像であり、緩やかに画像が移
動するいわゆるパン画像である。このため、fwgn
は、隣り合う画像のフレーム同士に強い相関がある。f
wgnについてのME残差の分布を見てみると、原点付
近(符号Dで示す領域)に集中しているデータ群と、こ
れとは幾分離れて分布しているデータ群があることが分
かる。FIG. 4 shows a CCIR (International Radio)
Consultative Committee: International video communications standardized by diva with no
It is a figure which shows distribution of ME residual obtained by actually inputting ise (hereinafter, described as diver) and flower garden (hereinafter, described as fwgn) as image data. The distribution of the ME residual in FIG. 4 shows a case where the luminance of each pixel is represented by 8 bits. In FIG. 4, the area inside the two wavy lines corresponds to the area in which bidirectional predictive encoding has been performed conventionally, and the part shown by a solid line corresponds to the part shown by a solid line in FIG. Yes, it is. In FIG. 4, a white square □ indicates an ME residual regarding diver, and a black square ■ indicates an ME residual regarding fwgn. fwgn is div
This is a so-called pan image in which the image has less movement than in FIG. For this reason, fwgn
Has a strong correlation between adjacent image frames. f
Looking at the distribution of the ME residual for wgn, it can be seen that there are a data group concentrated near the origin (the area indicated by the symbol D) and a data group distributed somewhat apart therefrom. .
【0026】本実施の形態では、このように原点付近の
領域Dに集中しているデータ群については、比較的動き
補償による予測が正確に当たりやすく、片側方向だけの
予測で十分に符号化できるような画像であるとみなし、
一つの参照画像を用いた動き補償のデータにより動き補
償の予測が行われるようにしている。より具体的には、
動き補償情報決定部39において、まず、判定部52
が、ME残差の値が原点付近の所定の領域内の値であっ
た場合には、一つの参照画像を用いた動き補償のデータ
により動き補償の予測が行われるべきと判定し、この判
定結果を選択部53に通知するようになっている。ま
た、選択部53は、判定部52において、一つの参照画
像を用いた動き補償のデータにより動き補償の予測が行
われるべきと判定された場合には、一つの参照画像のみ
の動き補償のデータを選択的に動き補償回路40に送出
するようになっている。この場合、動き補償回路40
は、選択部53によって選択された片側方向のみの動き
補償のデータに基づいて動き補償を行って、予測画像デ
ータを生成するようになっている。動き補償回路40に
おいて、実際に予測画像データの生成に用いられた片側
方向のみの動き補償のデータS6 は、可変長符号化回路
34に出力される。In the present embodiment, the data group concentrated in the area D near the origin as described above can be easily and accurately predicted by motion compensation, and can be sufficiently encoded by prediction in only one direction. The image is
The motion compensation prediction is performed based on the motion compensation data using one reference image. More specifically,
In the motion compensation information determination unit 39, first, the determination unit 52
However, when the value of the ME residual is a value in a predetermined area near the origin, it is determined that prediction of motion compensation should be performed based on motion compensation data using one reference image, and this determination is made. The result is notified to the selection unit 53. When the determination unit 52 determines that the prediction of the motion compensation should be performed based on the data of the motion compensation using one reference image, the selection unit 53 outputs the data of the motion compensation of only one reference image. Is selectively sent to the motion compensation circuit 40. In this case, the motion compensation circuit 40
Is configured to perform motion compensation on the basis of the data of the motion compensation in only one direction selected by the selection unit 53 to generate predicted image data. In the motion compensation circuit 40, the data S 6 of the motion compensation on one side only in the direction that is actually used for generating the predicted image data is output to the variable length coding circuit 34.
【0027】ここで、ME残差の値が原点付近の所定の
領域内の値であった場合に、順方向と逆方向のいずれに
よる動き補償を行うべきかについて考察する。ME残差
の値が原点付近の所定の領域内の値であった場合には、
隣り合う画像のフレーム同士に強い相関があるため、予
測方向が順方向と逆方向のいずれであっても基本的には
構わない。しかしながら、後の可変長符号化回路34に
おける可変長符号化処理の特性を考慮して、逆方向によ
る動き補償を行うことが望ましい。例えば、「ISO/
IEC 13818−2:1995(E)」における規
格書によれば、マクロブロックがパターン1の標準のマ
クロブロックであり、フレーム間符号化が行われたもの
である場合には、マクロブロックタイプを表す符号の値
が、順方向によるものでは、010100から0011
と展開されるのに対し、逆方向によるものでは0011
00から、011と展開されるので、逆方向による動き
補償を伴う予測符号化処理を行った方が可変長符号化後
の符号量が減り、符号化効率が向上することになる。Here, when the value of the ME residual is a value in a predetermined area near the origin, whether to perform motion compensation in the forward direction or the backward direction will be considered. When the value of the ME residual is a value in a predetermined area near the origin,
Since there is a strong correlation between frames of adjacent images, basically, the prediction direction may be either the forward direction or the reverse direction. However, it is desirable to perform the motion compensation in the reverse direction in consideration of the characteristics of the variable length encoding process in the variable length encoding circuit 34 later. For example, "ISO /
According to the standard document in “IEC 13818-2: 1995 (E)”, when a macro block is a standard macro block of pattern 1 and has been subjected to inter-frame coding, it indicates a macro block type. If the value of the code is in the forward direction, it is 010100 to 0011.
While the one in the opposite direction is 0011
Since it is expanded from 00 to 011, performing predictive coding processing with motion compensation in the reverse direction reduces the code amount after variable-length coding and improves coding efficiency.
【0028】次に、図5を参照して、動き補償情報決定
部39の判定処理についてより具体的に説明する。図5
において、領域Aは、過去と未来の2つの参照画像のデ
ータを用いた両側方向の予測符号化が行われる領域であ
り、領域aを含む領域Bは、未来の参照画像のデータの
みを用いた逆方向の予測符号化が行われる領域である。
また、領域Fは、過去の参照画像のデータのみを用いた
順方向の予測符号化が行われる領域である。領域aは、
図4で示した領域Dに対応する領域であり、従来では、
両側方向の予測符号化が行われていた領域である。ま
た、図において示されている所定のしきい値αは、例え
ば、残差MEBWDの最大値の数%程度の値に設定されて
いる。Next, with reference to FIG. 5, the determination processing of the motion compensation information determination section 39 will be described more specifically. FIG.
, An area A is an area in which bidirectional predictive encoding is performed using data of two past and future reference images, and an area B including an area a uses only data of a future reference image. This is an area where prediction coding in the reverse direction is performed.
An area F is an area where forward prediction encoding is performed using only the data of the past reference image. The area a is
This is a region corresponding to the region D shown in FIG.
This is the area where the prediction encoding in both directions has been performed. The predetermined threshold value α shown in the figure is set to, for example, a value of about several percent of the maximum value of the residual ME BWD .
【0029】動き補償情報決定部39の判定部52は、
逆方向における残差MEBWD の値がしきい値αよりも大
きく、且つ順方向および逆方向における残差MEFWD ,
MEBWD がほぼ等しい場合、すなわち、逆方向および順
方向のME残差に2倍以上の差がない場合は(領域
A)、その絶対値の大きさに関係なく、全て両側方向か
らの動き補償の予測が行われるべきとの判定を行うよう
になっている。また、判定部52は、逆方向における残
差MEBWD の値がしきい値αよりも大きく、且つ順方向
および逆方向の残差MEFWD ,MEBWD との間に、ME
BWD >2MEFWD の関係がある場合には(領域F)、順
方向の動き補償の予測が行われるべきとの判定を行うよ
うになっている。また、判定部52は、逆方向における
残差MEBWDの値がしきい値α以下の場合と、順方向の
ME残差の値MEFWDと逆方向のME残差の値MEBWD
との間に、MEFWD >2MEBWD の関係がある場合には
(領域B)、逆方向の動き補償の予測が行われるべきと
の判定を行うようになっている。The determination section 52 of the motion compensation information determination section 39
The value of the residual ME BWD in the reverse direction is larger than the threshold value α, and the residual ME FWD in the forward direction and the reverse direction is
When the ME BWDs are substantially equal, that is, when the difference between the ME residual in the backward direction and the forward direction does not exceed twice (region A), motion compensation from both sides is performed regardless of the magnitude of the absolute value. Is determined to be performed. In addition, the determination unit 52 determines that the value of the residual ME BWD in the backward direction is larger than the threshold value α, and that the value of ME is between the residuals ME FWD and ME BWD in the forward and reverse directions.
When there is a relationship of BWD > 2ME FWD (region F), it is determined that prediction of forward motion compensation should be performed. The determination unit 52 determines whether the value of the residual ME BWD in the backward direction is equal to or smaller than the threshold value α, the value of the forward ME residual ME FWD and the value of the backward ME residual ME BWD.
If there is a relationship of ME FWD > 2ME BWD (region B), it is determined that prediction of motion compensation in the reverse direction should be performed.
【0030】次に、本実施の形態に係る画像符号化装置
1の動作について説明する。なお、以下の説明は、本実
施の形態に係る画像符号化方法の説明を兼ねている。Next, the operation of the image coding apparatus 1 according to the present embodiment will be described. The following description also serves as a description of the image encoding method according to the present embodiment.
【0031】まず、全体の動作について説明する。画像
符号化装置1では、画像並べ替え回路21によって、入
力画像信号S1 に対して、符号化する順番に従ってピク
チャ(Iピクチャ,Pピクチャ,Bピクチャ)の順番が
並べ替えられる。次に、走査変換・マクロブロック化回
路22によって、フレーム構造かフィールド構造かが判
別され、判別結果に応じた走査変換およびマクロブロッ
ク化が行われる。走査変換・マクロブロック化回路22
の出力データは、動き検出回路30に送られる。動き検
出回路30は、走査変換・マクロブロック化回路22の
出力データを減算回路31に送ると共に、走査変換・マ
クロブロック化回路22の出力データから動きベクトル
等の動き補償に用いられるデータS3 を検出して動き補
償情報決定部39に送る。First, the overall operation will be described. In the image encoding apparatus 1, the image rearranging circuit 21, the input image signal S 1, a picture in the order of coding (I picture, P picture, B picture) the order of the sorted. Next, the scan conversion / macroblocking circuit 22 determines whether the frame structure or the field structure is used, and performs scan conversion and macroblocking according to the determination result. Scan conversion / macroblock circuit 22
Is sent to the motion detection circuit 30. Motion detecting circuit 30, and sends the output data of the scan conversion macroblock forming circuit 22 to the subtraction circuit 31, the data S 3 used from the output data of the scan conversion macroblock forming circuit 22 to the motion compensation, such as the motion vector Detected and sent to the motion compensation information determination unit 39.
【0032】そして、Iピクチャ、PピクチャおよびB
ピクチャのそれぞれに対応した符号化処理が行われる。Then, I picture, P picture and B picture
An encoding process corresponding to each of the pictures is performed.
【0033】Iピクチャの場合には、フレーム内符号化
による符号化処理が行われる。すなわち、減算回路31
において予測画像データとの差分をとることなく、走査
変換・マクロブロック化回路22の出力データをそのま
まDCT回路32に入力してDCTを行い、量子化回路
33によってDCT係数を量子化し、可変長符号化回路
34によって量子化回路33の出力データを可変長符号
化し、バッファメモリ35によって可変長符号化回路3
4の出力データを一旦保持した後、圧縮画像データS2
を出力する。また、逆量子化回路36によって量子化回
路33の出力データを逆量子化し、逆DCT回路37に
よって逆量子化回路36の出力データに対して逆DCT
を行い、逆DCT回路37の出力画像データを加算回路
38を介して動き補償回路40に入力して保持させる。In the case of an I picture, an encoding process by intra-frame encoding is performed. That is, the subtraction circuit 31
, Without taking the difference from the predicted image data, the output data of the scan conversion / macroblocking circuit 22 is directly input to the DCT circuit 32 to perform DCT. The output data of the quantization circuit 33 is variable-length coded by the conversion circuit 34, and the variable-length coding circuit 3 is
4 after temporarily holding the output data of the compressed image data S 2
Is output. The output data of the quantization circuit 33 is inversely quantized by the inverse quantization circuit 36, and the output data of the inverse quantization circuit 36 is inversely transformed by the inverse DCT circuit 37.
And the output image data of the inverse DCT circuit 37 is input to the motion compensation circuit 40 via the addition circuit 38 and held.
【0034】Pピクチャの場合には、フレーム間順方向
予測符号化を利用した圧縮符号化処理が行われる。すな
わち、動き補償情報決定部39に入力されたデータS3
がそのまま、実際に動き補償に用いられるデータS5 と
して動き補償回路40に入力される。動き補償回路40
では、保持している過去のIピクチャまたはPピクチャ
に対応する参照画像データから予測画像データを生成
し、予測画像データを減算回路31および加算回路38
に出力する。また、動き補償回路40は、予測画像デー
タの生成に用いた動き補償のデータS6を生成可変長符
号化回路34に出力する。また、減算回路31によっ
て、走査変換・マクロブロック化回路22の出力データ
と動き補償回路40からの予測画像データとの差分をと
り、DCT回路32によってDCTを行い、量子化回路
33によってDCT係数を量子化し、可変長符号化回路
34によって量子化回路33の出力データを可変長符号
化し、バッファメモリ35によって可変長符号化回路3
4の出力データを一旦保持し圧縮画像データS2として
出力する。また、逆量子化回路36によって量子化回路
33の出力データを逆量子化し、逆DCT回路37によ
って逆量子化回路36の出力データに対して逆DCTを
行い、加算回路38によって逆DCT回路37の出力デ
ータと予測画像データとを加算し、動き補償回路40に
入力して保持させる。In the case of a P picture, a compression encoding process using inter-frame forward prediction encoding is performed. That is, the data S 3 input to the motion compensation information determination unit 39
But it is actually input to the motion compensation circuit 40 as the data S 5 used in the motion compensation. Motion compensation circuit 40
Then, predicted image data is generated from the stored reference image data corresponding to the past I picture or P picture, and the predicted image data is subtracted from the subtraction circuit 31 and the addition circuit 38.
Output to Further, the motion compensation circuit 40 outputs the data S 6 of the motion compensation used for generating the prediction image data to the generation variable length coding circuit 34. Further, the difference between the output data of the scan conversion / macroblocking circuit 22 and the predicted image data from the motion compensation circuit 40 is calculated by the subtraction circuit 31, the DCT is performed by the DCT circuit 32, and the DCT coefficient is calculated by the quantization circuit 33. The output data of the quantization circuit 33 is variable-length coded by a variable length coding circuit 34, and the variable length coding circuit 3 is
Temporarily holding the fourth output data is output as compressed image data S 2. Further, the output data of the quantization circuit 33 is inversely quantized by the inverse quantization circuit 36, inverse DCT is performed on the output data of the inverse quantization circuit 36 by the inverse DCT circuit 37, and the inverse DCT circuit 37 The output data and the predicted image data are added and input to the motion compensation circuit 40 to be held.
【0035】また、Bピクチャの場合には、フレーム間
双方向予測符号化を利用した圧縮符号化処理が行われ
る。まず、動き補償情報決定部39では、逆方向、順方
向および両側方向(逆方向および順方向の双方)のいず
れの予測方向で予測符号化を行うかを決定するための判
定処理を行い、この判定に応じたデータを、実際に動き
補償に用いられるデータS5として動き補償回路40に
出力する。動き補償回路40では、動き補償情報決定部
39によって決定された予測方向に応じて、保持してい
る過去のIピクチャまたはPピクチャに対応する少なく
とも1つの参照画像データと動き補償情報決定部39か
らの動きベクトル等の動き補償のデータS5とに基づい
て予測画像データを生成し、予測画像データを減算回路
31および加算回路38に出力する。また、動き補償回
路40は、動き補償のデータS6を可変長符号化回路3
4に出力する。また、減算回路31によって、走査変換
・マクロブロック化回路22の出力データと動き補償回
路40からの予測画像データとの差分をとり、DCT回
路32によってDCTを行い、量子化回路33によって
DCT係数を量子化し、可変長符号化回路34によって
量子化回路33の出力データを可変長符号化し、バッフ
ァメモリ35によって可変長符号化回路34の出力デー
タを一旦保持し圧縮画像データS2として出力する。な
お、Bピクチャは動き補償回路40に保持させない。In the case of a B picture, a compression encoding process utilizing inter-frame bidirectional prediction encoding is performed. First, the motion compensation information determination unit 39 performs a determination process for determining which of the prediction directions of the backward, forward, and both sides (both the backward and forward directions) to perform prediction encoding. the data corresponding to the determination, actually output to the motion compensation circuit 40 as the data S 5 used in the motion compensation. In the motion compensation circuit 40, at least one reference image data corresponding to the past I picture or P picture held and the motion compensation information movements on the basis of the data S 5 of the motion compensation vector such as to generate the predicted image data, and outputs the predicted image data to the subtraction circuit 31 and the adding circuit 38. Also, the motion compensation circuit 40 converts the motion compensation data S 6 into the variable length coding circuit 3.
4 is output. Further, the difference between the output data of the scan conversion / macroblocking circuit 22 and the predicted image data from the motion compensation circuit 40 is calculated by the subtraction circuit 31, the DCT is performed by the DCT circuit 32, and the DCT coefficient is calculated by the quantization circuit 33. quantizing the output data of the quantization circuit 33 by the variable-length coding circuit 34 variable-length coding, temporarily outputs held as compressed image data S 2 output data of the variable length coding circuit 34 by the buffer memory 35. The B picture is not stored in the motion compensation circuit 40.
【0036】次に、図6の流れ図を参照して、動き補償
情報決定部39における判定処理の動作について説明す
る。Next, the operation of the determination process in the motion compensation information determination section 39 will be described with reference to the flowchart of FIG.
【0037】まず、動き補償情報決定部39の判定部5
2は、入力された原画像のデータに対して逆方向におけ
る残差MEBWD の値がしきい値αより小さいか否かを判
断する(ステップS101)。ここで、残差MEBWD が
しきい値α以下の場合には(ステップS101;Y)、
判定部52は、動き補償回路40において逆方向のみの
予測符号化が行われるべきとの判定を行う(ステップS
106)。First, the determination unit 5 of the motion compensation information determination unit 39
2 determines whether or not the value of the residual ME BWD in the reverse direction with respect to the input original image data is smaller than a threshold value α (step S101). Here, when the residual ME BWD is equal to or smaller than the threshold value α (step S101; Y),
The determination unit 52 determines that the motion compensation circuit 40 should perform prediction coding only in the reverse direction (step S).
106).
【0038】また、判定部52は、残差MEBWD の値が
しきい値α以下ではない場合には(ステップS101;
N)、次に、入力された原画像のデータに対して順方向
の残差MEFWD が残差MEBWD の2倍より大きいか否か
を判断する(ステップS102)。ここで、残差ME
FWD が残差MEBWD の2倍より大きかった場合には(ス
テップS102;Y)、判定部52は、逆方向のみのデ
ータを用いた予測符号化が行われるべきとの判定を行う
(ステップS106)。If the value of the residual ME BWD is not equal to or smaller than the threshold value α (step S101;
N) Next, it is determined whether or not the residual ME FWD in the forward direction with respect to the input original image data is larger than twice the residual ME BWD (step S102). Where the residual ME
When FWD is larger than twice the residual ME BWD (step S102; Y), the determination unit 52 determines that predictive encoding using data only in the reverse direction should be performed (step S106). ).
【0039】一方、残差MEFWD が残差MEBWD の2倍
より大きくなかった場合には(ステップS102;
N)、次に、判定部52は、残差MEBWD が残差ME
FWD の2倍より大きいか否かを判断する(ステップS1
03)。ここで、残差MEBWD が残差MEFWD の2倍よ
り大きかった場合には(ステップS103;Y)、判定
部52は、順方向のみの予測符号化が行われるべきとの
判定を行う(ステップS104)。On the other hand, when the residual ME FWD is not larger than twice the residual ME BWD (step S102;
N) Then, the determination unit 52 determines that the residual ME BWD is
It is determined whether or not it is larger than twice the FWD (step S1)
03). Here, when the residual ME BWD is larger than twice the residual ME FWD (Step S103; Y), the determination unit 52 determines that prediction coding only in the forward direction should be performed (Step S103). Step S104).
【0040】また、残差MEBWD が残差MEFWD の2倍
より大きくなかった場合には(ステップS103;N
O)、判定部52は、両側方向の予測符号化が行われる
べきとの判定を行う(ステップS105)。If the residual ME BWD is not larger than twice the residual ME FWD (step S103; N
O), the determination unit 52 determines that predictive encoding in both directions should be performed (step S105).
【0041】図7は、上記のような動作によって実際に
符号化処理を行った場合における符号化効率の改善例を
示す説明図である。この図において、横軸は時間(se
c)を示し、縦軸は符号化処理によって生じた発生ビッ
ト量の変化率(%)を示している。この図における発生
ビット量の変化率は、本実施の形態の処理によって生じ
た発生ビット量の変化率を、従来の符号化処理によって
生じた発生ビット量に対する相対的な値として示したも
のである。図において縦軸の値が負であれば、従来より
も符号化効率が改善していることを示す。なお、この図
は、fwgnを画像データとして用い、符号化処理の際
に、動き補償情報決定部39における判定処理に用いら
れるしきい値αを、残差MEBWD の値で2000という
値に設定して得られた結果である。この図から、従来の
符号化処理と比較して、平均で約5%前後符号化効率が
改善されていると共に、場合によっては10%以上も符
号化効率が改善していることが分かる。FIG. 7 is an explanatory diagram showing an example of improvement of the coding efficiency when the coding process is actually performed by the above operation. In this figure, the horizontal axis represents time (se).
c), and the vertical axis indicates the rate of change (%) in the amount of generated bits generated by the encoding process. The rate of change of the amount of generated bits in this figure indicates the rate of change of the amount of generated bits generated by the processing of the present embodiment as a relative value to the amount of generated bits generated by the conventional encoding processing. . In the figure, if the value on the vertical axis is negative, it indicates that the coding efficiency is improved as compared with the conventional case. In this figure, fwgn is used as image data, and the threshold α used for the determination processing in the motion compensation information determination unit 39 is set to a value of 2000 as the value of the residual ME BWD during the encoding processing. This is the result obtained. From this figure, it can be seen that the coding efficiency is improved by about 5% on average as compared with the conventional coding processing, and in some cases, the coding efficiency is improved by 10% or more.
【0042】図8は、動き補償情報決定部39における
判定処理に用いられるしきい値αを可変して得られた符
号化効率の値を示す説明図である。この図において、横
軸はしきい値α(残差MEBWD )であり、縦軸は符号化
処理によって生じた発生ビット量の変化率(%)を示し
ている。また、この図は、fwgnを画像データとして
用いて実際に符号化処理を行った場合に得られたデータ
であり、図において縦軸の値が負であれば、符号化効率
が改善していることを示す。この図から、しきい値αの
値を、0から大きくしていくに従い、符号化効率が改善
され、約2000前後で符号化効率が最も良くなった
後、次第に、符号化効率の改善率が小さくなり、ある値
以上で符号化効率が悪化するようになることが分かる。FIG. 8 is an explanatory diagram showing the values of the coding efficiency obtained by varying the threshold value α used in the determination processing in the motion compensation information determination section 39. In this figure, the horizontal axis represents the threshold value α (residual ME BWD ), and the vertical axis represents the rate of change (%) in the amount of generated bits generated by the encoding process. Also, this figure is data obtained when an actual encoding process is performed using fwgn as image data. If the value on the vertical axis in the figure is negative, the encoding efficiency is improved. Indicates that From this figure, as the value of the threshold α is increased from 0, the coding efficiency is improved. After the coding efficiency is maximized at about 2000, the improvement rate of the coding efficiency gradually increases. It can be seen that the coding efficiency becomes worse at a certain value or more.
【0043】以上説明したように、本実施の形態に係る
画像符号化装置1によれば、両側方向の予測符号化処理
を行うべき画像の符号化処理時に、静止画や緩やかに画
像が移動するいわゆるパン画像等、比較的動き補償によ
る予測が正確に当たりやすく一方向だけの参照画像のデ
ータを用いて十分に符号化できるような画像に関して
は、片側方向のみの動き補償を行って予測画像データを
生成し、符号化処理を行うようにしたので、動き補償回
路40から可変長符号化回路34に出力される動きベク
トル等の動き補償のデータS6 のデータ量が減少し、画
質を低下させることなく、従来と同等もしくはひずみ感
のない良質な画像が得られ、画像データの符号化効率を
高めることができる。また、動き補償を行った後の可変
長符号化処理の特性を考慮して、ME残差の値が原点付
近の所定の領域内の値であった場合には、入力された原
画像に対して未来にある参照画像を用いた片側方向のみ
の動き補償を行うようにしたので、画像データの符号化
効率を最大限に高めることができる。As described above, according to the image encoding apparatus 1 of the present embodiment, a still image or a gradual image moves during the encoding of an image to be subjected to the bidirectional predictive encoding. For an image such as a so-called pan image, which is relatively easily predicted by motion compensation and can be satisfactorily encoded using data of a reference image in only one direction, motion compensation is performed only in one direction to obtain predicted image data. generated. Thus performing encoding, the amount of data S 6 of the motion compensation of the motion vector or the like to be output to the variable length coding circuit 34 is reduced from the motion compensation circuit 40, reducing the image quality As a result, a high-quality image equivalent to that of the related art or without distortion can be obtained, and the encoding efficiency of image data can be increased. Also, in consideration of the characteristics of the variable-length encoding process after performing the motion compensation, if the value of the ME residual is a value in a predetermined area near the origin, the input original image is Thus, since motion compensation is performed only in one direction using a future reference image, the encoding efficiency of image data can be maximized.
【0044】なお、本発明は、上記実施の形態に限定さ
れず種々の変形実施が可能である。例えば、上記実施の
形態では、動き補償情報決定部39が、実際に予測画像
データの生成に用いられる動き補償のデータS5 を決定
して動き補償回路40に出力するようにしたが、動き補
償情報決定部39において行われる動き補償のデータS
5 の決定の機能を、動き補償回路40に持たせるように
して動き補償情報決定部39を構成から省くようにして
もよい。Note that the present invention is not limited to the above embodiment, and various modifications can be made. For example, in the above embodiment, the motion compensation information determination section 39, but so as to output the determined data S 5 of the motion compensation for use in actually generating the predicted image data to the motion compensation circuit 40, motion compensation Data S of motion compensation performed in the information determining unit 39
The function of determining 5 may be provided in the motion compensation circuit 40, and the motion compensation information determination unit 39 may be omitted from the configuration.
【0045】[0045]
【発明の効果】以上説明したように、請求項1ないし3
のいずれかに記載の画像符号化装置または請求項4記載
の画像符号化方法によれば、両側方向の予測符号化処理
を行うべき画像の符号化処理時に、各参照画像毎の予測
困難さを表す値が、一方の参照画像のみを用いた予測符
号化処理で十分と判断される所定の範囲内にある場合に
は、一方の参照画像のみを用いた片側方向の予測符号化
処理を行うようにしたので、画質を低下させることな
く、画像データの符号化効率を高めることができるとい
う効果を奏する。As described above, claims 1 to 3 are described.
According to the image encoding apparatus described in any one of the above or the image encoding method according to the fourth aspect, when encoding an image to be subjected to bidirectional predictive encoding, the prediction difficulty for each reference image is reduced. If the value to be represented is within a predetermined range determined to be sufficient by the predictive encoding process using only one reference image, the unidirectional predictive encoding process using only the one reference image is performed. Therefore, it is possible to increase the coding efficiency of image data without deteriorating the image quality.
【図1】本発明の一実施の形態に係る画像符号化装置の
構成を示すブロック図である。FIG. 1 is a block diagram illustrating a configuration of an image encoding device according to an embodiment of the present invention.
【図2】図1に示した画像符号化装置における動き検出
回路により検出される動き補償のためのデータについて
説明するための説明図である。FIG. 2 is an explanatory diagram for describing data for motion compensation detected by a motion detection circuit in the image encoding device shown in FIG.
【図3】図1に示した画像符号化装置における動き補償
情報決定部の構成を示すブロック図である。FIG. 3 is a block diagram illustrating a configuration of a motion compensation information determination unit in the image encoding device illustrated in FIG. 1;
【図4】図3に示した動き補償情報決定部において行わ
れる動き補償の判定処理について説明するための説明図
である。FIG. 4 is an explanatory diagram for describing a motion compensation determination process performed by a motion compensation information determination unit illustrated in FIG. 3;
【図5】図3に示した動き補償情報決定部において行わ
れる動き補償の判定処理について説明するための他の説
明図である。FIG. 5 is another explanatory diagram for describing a motion compensation determination process performed in the motion compensation information determination unit illustrated in FIG. 3;
【図6】図1に示した画像符号化装置における動き補償
情報決定部の動作を示す流れ図である。FIG. 6 is a flowchart showing an operation of a motion compensation information determination unit in the image encoding device shown in FIG. 1;
【図7】図1に示した画像符号化装置による符号化効率
の改善例を示した説明図である。FIG. 7 is an explanatory diagram showing an example of improvement in coding efficiency by the image coding device shown in FIG. 1;
【図8】図1に示した画像符号化装置による符号化効率
の改善例を示した他の説明図である。FIG. 8 is another explanatory diagram showing an example of improving the coding efficiency by the image coding device shown in FIG. 1;
【図9】従来の画像符号化装置において行われている動
き補償の判定処理について説明するための説明図であ
る。FIG. 9 is an explanatory diagram for describing a motion compensation determination process performed in a conventional image encoding device.
1…画像符号化装置、21…画像並べ替え回路、22…
走査変換・マクロブロック化回路、30…動き検出回
路、31…減算回路、32…DCT回路、33…量子化
回路、34…可変長符号化回路、35…バッファメモ
リ、36…逆量子化回路、37…逆DCT回路、38…
加算回路、39…動き補償情報決定部、40…動き補償
回路、41…符号化制御部。DESCRIPTION OF SYMBOLS 1 ... Image coding apparatus, 21 ... Image rearrangement circuit, 22 ...
Scan conversion / macroblocking circuit, 30: motion detection circuit, 31: subtraction circuit, 32: DCT circuit, 33: quantization circuit, 34: variable length coding circuit, 35: buffer memory, 36: inverse quantization circuit, 37 ... Inverse DCT circuit, 38 ...
Addition circuit, 39: motion compensation information determination unit, 40: motion compensation circuit, 41: coding control unit.
Claims (4)
像の種類に応じて、時間的に過去と未来にある2つの参
照画像のうちの一方を用いた片側方向の動き補償を伴う
予測符号化処理および2つの参照画像の両方を用いた両
側方向の動き補償を伴う予測符号化処理を含む符号化処
理を行う符号化手段と、 両側方向の予測符号化処理を行うべき画像の符号化処理
時に、各参照画像毎の予測困難さを表す値が、一方の参
照画像のみを用いた予測符号化処理で十分と判断される
所定の範囲内にある場合には、前記符号化手段に対し
て、一方の参照画像のみを用いた片側方向の予測符号化
処理を行わせる予測方向制限手段とを備えたことを特徴
とする画像符号化装置。1. A prediction that involves one-way motion compensation using one of two temporally past and future reference images for an input image in accordance with the type of the input image. Coding means for performing coding processing including predictive coding processing with bidirectional motion compensation using both coding processing and two reference images; and coding of an image to be subjected to bidirectional predictive coding processing. At the time of processing, when the value representing the difficulty of prediction for each reference image is within a predetermined range that is determined to be sufficient by the predictive encoding process using only one reference image, And a prediction direction limiting unit for performing a one-way prediction encoding process using only one reference image.
さを表す値が、前記所定の範囲内にある場合には、前記
符号化手段に対して、時間的に未来にある参照画像のみ
を用いた片側方向の予測符号化処理を行わせることを特
徴とする請求項1記載の画像符号化装置。2. The method according to claim 1, wherein the predicting direction restricting unit transmits, to the encoding unit, only a reference image that is temporally future when the value indicating the prediction difficulty is within the predetermined range. 2. The image encoding apparatus according to claim 1, wherein the used one-way predictive encoding process is performed.
ための基準値を記憶する記憶手段と、 この記憶手段に記憶された基準値と、各参照画像毎の予
測困難さを表す値とを比較して、各参照画像の予測困難
さを表す値が前記所定の範囲内にあるか否かを判断する
判断手段と、 この判断手段の判断結果に応じて、前記動き補償を伴う
予測符号化処理に必要とされる情報を選択する選択手段
とを有することを特徴とする請求項1記載の画像符号化
装置。3. The prediction direction restriction means, wherein: a value representing the difficulty of prediction stores a reference value for defining the predetermined range; and a reference value stored in the storage means; Determining means for comparing a value representing the difficulty of prediction for each reference image with a value representing the difficulty of prediction of each reference image within the predetermined range; 2. The image encoding apparatus according to claim 1, further comprising a selection unit that selects information required for the predictive encoding process including the motion compensation according to a result.
像の種類に応じて、時間的に過去と未来にある2つの参
照画像のうちの一方を用いた片側方向の動き補償を伴う
予測符号化処理および2つの参照画像の両方を用いた両
側方向の動き補償を伴う予測符号化処理を含む符号化処
理を行うと共に、 両側方向の予測符号化処理を行うべき画像の符号化処理
時に、各参照画像毎の予測困難さを表す値が、一方の参
照画像のみを用いた予測符号化処理で十分と判断される
所定の範囲内にある場合には、一方の参照画像のみを用
いた片側方向の予測符号化処理を行うように予測方向を
制限することを特徴とする画像符号化方法。4. A prediction involving one-sided motion compensation using one of two temporally past and future reference images for an input image in accordance with the type of the input image. In addition to performing the encoding process including the predictive encoding process with the bidirectional motion compensation using both the encoding process and the two reference images, at the time of encoding the image to be subjected to the bidirectional predictive encoding process, If the value indicating the difficulty of prediction for each reference image is within a predetermined range that is determined to be sufficient by the predictive encoding process using only one reference image, one side using only one reference image An image encoding method, wherein a prediction direction is restricted so as to perform a direction prediction encoding process.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9592298A JPH11298902A (en) | 1998-04-08 | 1998-04-08 | Image coder and image coding method therefor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP9592298A JPH11298902A (en) | 1998-04-08 | 1998-04-08 | Image coder and image coding method therefor |
Publications (1)
Publication Number | Publication Date |
---|---|
JPH11298902A true JPH11298902A (en) | 1999-10-29 |
Family
ID=14150782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP9592298A Pending JPH11298902A (en) | 1998-04-08 | 1998-04-08 | Image coder and image coding method therefor |
Country Status (1)
Country | Link |
---|---|
JP (1) | JPH11298902A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011114654A1 (en) * | 2010-03-17 | 2011-09-22 | パナソニック株式会社 | Image encoder apparatus and camera system |
WO2013157791A1 (en) * | 2012-04-15 | 2013-10-24 | 삼성전자 주식회사 | Method and apparatus for determining reference images for inter prediction |
WO2020140916A1 (en) * | 2019-01-03 | 2020-07-09 | 深圳市大疆创新科技有限公司 | Video processing method and apparatus |
-
1998
- 1998-04-08 JP JP9592298A patent/JPH11298902A/en active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011114654A1 (en) * | 2010-03-17 | 2011-09-22 | パナソニック株式会社 | Image encoder apparatus and camera system |
JP2011199411A (en) * | 2010-03-17 | 2011-10-06 | Panasonic Corp | Image encoder apparatus and camera system |
US8488892B2 (en) | 2010-03-17 | 2013-07-16 | Panasonic Corporation | Image encoder and camera system |
WO2013157791A1 (en) * | 2012-04-15 | 2013-10-24 | 삼성전자 주식회사 | Method and apparatus for determining reference images for inter prediction |
WO2020140916A1 (en) * | 2019-01-03 | 2020-07-09 | 深圳市大疆创新科技有限公司 | Video processing method and apparatus |
CN111630861A (en) * | 2019-01-03 | 2020-09-04 | 深圳市大疆创新科技有限公司 | Video processing method and device |
CN111630861B (en) * | 2019-01-03 | 2021-08-24 | 深圳市大疆创新科技有限公司 | Video processing method and device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4373702B2 (en) | Moving picture encoding apparatus, moving picture decoding apparatus, moving picture encoding method, moving picture decoding method, moving picture encoding program, and moving picture decoding program | |
KR100592651B1 (en) | Transcoding | |
JP4261630B2 (en) | Image encoding apparatus and method, and computer-readable recording medium on which an image encoding program is recorded | |
KR100495716B1 (en) | Apparatus and method for encoding images and medium in which image encoding program has been recorded | |
US6603815B2 (en) | Video data processing apparatus, video data encoding apparatus, and methods thereof | |
JP2801559B2 (en) | Motion compensation coding method and apparatus adapted to the magnitude of motion | |
KR100209793B1 (en) | Apparatus for encoding/decoding a video signals by using feature point based motion estimation | |
JP2001028756A (en) | Method and device for executing selection between intra- frame coding mode and inter-frame coding mode in context base | |
JPH10178645A (en) | Moving image encoding method and device, moving image signal transmitting method and signal recording medium | |
JP2004023444A (en) | Moving picture encoding apparatus, and moving picture recording and reproducing apparatus | |
US20020172282A1 (en) | Signal coding apparatus and method, signal recording medium, and signal transmitting method | |
JPH10336672A (en) | Encoding system converter and motion vector detection method therefor | |
WO2003056838A1 (en) | Moving picture compression/coding apparatus and motion vector detection method | |
KR100359819B1 (en) | An Efficient Edge Prediction Methods In Spatial Domain Of Video Coding | |
JPH07240944A (en) | Stereoscopic image encoder | |
JPH11298902A (en) | Image coder and image coding method therefor | |
JP2507199B2 (en) | Image coding method and apparatus | |
JP2868445B2 (en) | Moving image compression method and apparatus | |
KR100613732B1 (en) | Image Compression System for Digital Video Surveillance and Method for controlling the Same | |
JP3188081B2 (en) | Image encoding method and image encoding device | |
JP2002209213A (en) | Motion vector detection method and device, and image coder | |
JP4359273B2 (en) | Coding mode selection method | |
JP2000032467A (en) | Image processor, image processing method, and provision medium | |
JPH10210480A (en) | Dynamic image coding system | |
JP4353928B2 (en) | Data compression method, recording method, and transmission method |