JP2009118233A - Moving image encoding apparatus and decoding apparatus - Google Patents
Moving image encoding apparatus and decoding apparatus Download PDFInfo
- Publication number
- JP2009118233A JP2009118233A JP2007289577A JP2007289577A JP2009118233A JP 2009118233 A JP2009118233 A JP 2009118233A JP 2007289577 A JP2007289577 A JP 2007289577A JP 2007289577 A JP2007289577 A JP 2007289577A JP 2009118233 A JP2009118233 A JP 2009118233A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- prediction direction
- syntax
- intra prediction
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本発明は動画像符号化装置および復号装置に関し、特にマクロブロック(MB)単位の符号化の際に、符号化モードおよびイントラ予測方向について複数の候補の中から最適なものを適用することで、高い符号化効率が得られる動画像符号化装置において、適用する符号化モードおよびイントラ予測方向を制御して、符号化サイド情報を適応的に抑制する動画像符号化装置および復号装置に関するものである。 The present invention relates to a video encoding device and a decoding device, and in particular, when encoding in macroblock (MB) units, by applying an optimal one from a plurality of candidates for a coding mode and an intra prediction direction, The present invention relates to a moving picture coding apparatus and a decoding apparatus that control coding modes and intra prediction directions to be applied and suppress coding side information adaptively in a moving picture coding apparatus capable of obtaining high coding efficiency. .
非特許文献1では、MB単位の符号化に関して複数の符号化モードが定義されており、該非特許文献1に基づく動画像符号化装置では、映像特徴に応じて適切な符号化モードを選択して符号化することで、高い符号化効率が得られる。また、非特許文献1では、イントラ符号化におけるイントラ予測値生成に関して複数のイントラ予測方向が定義されており、非特許文献1に基づく動画像符号化装置では、映像特徴に応じて適切なイントラ予測方向を選択して符号化することで、高い符号化効率が得られる。
In
非特許文献1で定義される符号化モードおよびイントラ予測方向については、様々な映像特徴に適応できるよう、あらゆる種類の符号化モードおよびイントラ予測方向が適用されている。
非特許文献1では、様々な映像特徴に対応できるよう、多岐にわたる符号化モードおよびイントラ予測方向が定義されている。しかしながら、ある映像に対する符号化において、実際に適用される符号化モードおよびイントラ予測方向は概ね限られており、必ずしも全ての符号化モードおよびイントラ予測方向は使われない。一方で、非特許文献1に基づく動画像符号化装置では、符号化シンタックスにおいて、全ての符号化モードおよびイントラ予測方向が発生しても符号化データを生成できるよう設計される。したがって、該符号化シンタックスにおける符号化データおよびイントラ予測方向に関して、ほとんどの場合において、有効活用されない符号量が発生する。該符号量は、符号化において冗長であり、削減の余地がある。
In
本発明は、前記した従来技術の課題に鑑みてなされたものであり、その目的は、符号化サイド情報を適応的に抑制することにより、符号化シンタックスにおいて有効活用されない符号量を削減できるようにする動画像符号化装置および復号装置を提供することにある。 The present invention has been made in view of the above-described problems of the prior art, and an object of the present invention is to reduce the amount of code that is not effectively used in the coding syntax by adaptively suppressing the coding side information. Another object is to provide a moving picture encoding apparatus and decoding apparatus.
前記した目的を達成するために、本発明は、マクロブロック単位の符号化の際に、符号化モードおよびイントラ予測方向を適応的に用いる動画像符号化装置において、符号化モード制限判定部と、イントラ予測方向制限判定部と、符号化モード制限情報に応じて符号化に用いる符号化モードを制限するモード判定制御部と、イントラ予測方向制限情報に応じて符号化に用いるイントラ予測方向を制限するイントラ符号化予測値生成部と、符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部とを具備した点に第1の特徴がある。 In order to achieve the above-described object, the present invention provides an encoding mode restriction determination unit in a moving picture encoding apparatus that adaptively uses an encoding mode and an intra prediction direction when encoding in units of macroblocks. An intra prediction direction restriction determination unit, a mode determination control unit that restricts the coding mode used for coding according to the coding mode restriction information, and an intra prediction direction used for coding according to the intra prediction direction restriction information A first feature is that it includes an intra-coded prediction value generation unit and a syntax description unit that changes the syntax description method according to the restriction information on the encoding mode and the intra prediction direction.
また、本発明は、前記符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部は、符号化モードの制限が適用された場合、符号化データのシンタックスにおいて、符号化モードのインデックステーブルを変更することを表す情報、および変更後の符号化モードのインデックス情報を記述する点に第2の特徴がある。 Further, the present invention provides a syntax description unit that changes a syntax description method according to the encoding mode and intra prediction direction restriction information, and the syntax of encoded data when the encoding mode restriction is applied. The second feature is that information indicating that the index table of the coding mode is changed and index information of the coding mode after the change are described.
また、本発明は、前記符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部は、イントラ予測方向の制限が適用された場合、符号化データのシンタックスにおいて、イントラ予測方向のインデックステーブルを変更することを表す情報、および変更後のイントラ予測方向のインデックス情報を記述する点に第3の特徴がある。 Further, the present invention provides a syntax description unit that changes a syntax description method according to the encoding mode and intra prediction direction restriction information, and the syntax of encoded data when the intra prediction direction restriction is applied. 3 describes the information indicating that the index table in the intra prediction direction is changed and the index information in the intra prediction direction after the change.
また、本発明は、前記動画像符号化装置で符号化された符号化データを復号する動画像復号装置において、受信した符号化データからシンタックス記述の解析に関して符号化モードおよびイントラ予測方向の少なくとも一方が制限されているか否かを判断し、制御情報を出力する制限情報解析部と、前記制限情報解析部から出力された制御情報に従って選択され、シンタックスに従って符号化データを解析し、符号化データから残差信号と予測情報を抽出する第1、第2のシンタックス解析部と、前記第1、第2のシンタックス解析部から出力された残差信号と予測情報を基に復号映像を生成する手段とを具備し、前記第1のシンタックス解析部は前記符号化モードおよびイントラ予測方向が制限されていないシンタックスに従って符号化データを解析し、前記第2のシンタックス解析部は前記符号化モードおよびイントラ予測方向の少なくとも一方が制限されているシンタックスに従って符号化データを解析する点に第4の特徴がある。 Further, the present invention provides a moving picture decoding apparatus for decoding encoded data encoded by the moving picture encoding apparatus, wherein at least a coding mode and an intra prediction direction are analyzed with respect to analysis of syntax description from the received encoded data. It is determined whether one of them is restricted, a restriction information analysis unit that outputs control information, and selected according to the control information output from the restriction information analysis unit, analyzes the encoded data according to the syntax, and encodes First and second syntax analysis units that extract residual signals and prediction information from data, and decoded video based on the residual signals and prediction information output from the first and second syntax analysis units. And a first syntax analysis unit configured to generate an encoding data according to a syntax in which the encoding mode and the intra prediction direction are not limited. Analyzes data, the second syntax analyzer is a fourth feature in that analyzing the coded data in accordance with the syntax of at least one of the encoding mode and the intra prediction directions is limited.
符号化データを記述するためのシンタックスでは、符号化モードおよびイントラ予測方向に関して、候補となる数に応じた符号量が必要となる。本発明の動画像符号化装置では、映像特徴に適した符号化モードおよびイントラ予測方向のみを候補として用い、符号化に影響しない(予測性能の向上に寄与しない)符号化モードおよびイントラ予測方向は候補としない。この結果、符号化モードおよびイントラ予測方向に関して、各情報を符号化するために必要となる情報量を削減することができるようになる。また、これにより、SNRをほとんど低下することなく、符号量を削減することが可能となる。すなわち、符号化効率を改善することができるようになる。 In the syntax for describing the encoded data, a code amount corresponding to the number of candidates is required with respect to the encoding mode and the intra prediction direction. In the video encoding apparatus of the present invention, only the encoding mode and intra prediction direction suitable for video features are used as candidates, and the encoding mode and intra prediction direction that do not affect encoding (do not contribute to improvement in prediction performance) are Not a candidate. As a result, it is possible to reduce the amount of information necessary for encoding each information regarding the encoding mode and the intra prediction direction. This also makes it possible to reduce the amount of codes with almost no decrease in SNR. That is, the encoding efficiency can be improved.
また、本発明の動画像復号装置では、前記動画像符号化装置で符号化された符号化データに対して、復号映像を生成することができるようになる。 In the video decoding device of the present invention, a decoded video can be generated for the encoded data encoded by the video encoding device.
以下に、図面を参照して、本発明を詳細に説明する。本発明は、本発明者等が先に特許出願した動画像符号化装置(特願2007−85149号)を前提とするものであるので、まず、該動画像符号化装置を図1のブロック図を参照して説明する。 Hereinafter, the present invention will be described in detail with reference to the drawings. Since the present invention is premised on the video encoding device (Japanese Patent Application No. 2007-85149) previously filed by the present inventors, the video encoding device is first shown in the block diagram of FIG. Will be described with reference to FIG.
動画像符号化装置は、イントラ符号化予測値生成部1、インター符号化予測値生成部2、モード判定制御部3、DCT/量子化部4、逆量子化/逆DCT部5、シンタックス記述部6、エントロピー符号化部7、ローカルメモリ(1)8、ローカルメモリ(2)9とで構成される。
The moving image coding apparatus includes an intra-coded prediction
前記イントラ符号化予測値生成部1では、入力映像aの画素値、符号化済みMBにおける予測情報c、符号化済みMBにおける局所復号された画素値bを入力とする。また、該イントラ符号化予測値生成部1の出力として、最終的に選択されたイントラ予測方向e、同イントラ予測方向におけるイントラ予測値d、および同イントラ予測方向におけるコスト値fを出力する。
The intra-coded prediction
前記イントラ符号化予測値生成部1の詳細な構成を図2のブロック図を参照して説明する。図示されているように、該イントラ符号化予測値生成部1は、予測値生成部11、歪み算出部12、符号量算出部13、および予測方向決定部14で構成される。
A detailed configuration of the intra-coded prediction
前記予測値生成部11では、符号化済みブロックにおける局所復号された画素値bを入力とし、H.264で定義されるイントラ予測方向cに基づき、入力される画素値aから、予測値11aを生成する。該予測値生成部11の出力として、各予測方向に基づく予測値11aを出力する。なお、入力映像の画素値aに対する、該予測値生成部11の出力である予測値11aの差分を求めることにより、各予測方向に関する残差信号12aが得られる。
The prediction
前記歪み算出部12は、各予測方向に関する残差信号12aを入力とし、各予測方向について、各画素における残差信号の二乗をブロック内で総和した値(符号化歪み量)12bを求める。そして、該歪み算出部12の出力として、各予測方向についての符号化歪み量12bを出力する。
The
前記符号量算出部13では、各予測方向に関する残差信号12a、処理ブロックに隣接する符号化済みブロックにおいて選択されたイントラ予測方向cを入力とし、各予測方向について、入力された残差信号12aから、残差信号の符号化に要する符号量13bを求める。また、各予測方向について、入力された符号化済みブロックにおけるイントラ予測方向cから、予測方向の符号化に要する符号量13bを求める。上記算出処理の後、各予測方向について、残差信号および予測方向の符号化に要する符号量の合計を求める。該符号量算出部13の出力として、各予測方向について、符号化に要する符号量13bを出力する。
In the code
予測方向決定部14では、各予測方向について、符号化歪み量12b、イントラ予測値、符号化に要する符号量13bを入力とする。該予測方向決定部14では、各イントラ予測方向について、符号化歪み量および符号量からコスト値を算出する。更に、各予測方向のコスト値について大小関係を比較し、最もコスト値が小さい予測方向を求め、同予測方向を最適な予測方向とみなす。該予測方向決定部14の出力として、最適な予測方向の予測値d、最適な予測方向e、最適な予測方向のコスト値fを出力する。
For each prediction direction, the prediction
図1に戻って説明を続けると、前記インター符号化予測値生成部2では、入力映像の画素値a、符号化済みフレームにおける局所復号された画素値b、処理ブロックに隣接する符号化済みブロックにおける動きベクトルc’を入力とし、入力映像の画素値aおよび符号化済みフレームにおける局所復号された画素値bから、適切な動きベクトルを求める。また、該動きベクトルに基づき、予測値および残差信号を求める。更に、該残差信号から、符号化歪み量およびインター符号化に要する符号量を算出するとともに、残差信号および符号量からコスト値を得る。上記の結果より、インター符号化予測値生成部2は、その出力として、適切な動きベクトルに対する予測値g、適切な動きベクトルh、該動きベクトルhにおけるコスト値iを出力する。
Referring back to FIG. 1, the inter-coded prediction
前記モード判定制御部3では、イントラ符号化予測値生成部1から出力されるイントラ予測におけるコスト値f、インター符号化予測値生成部2から出力されるインター予測におけるコスト値iを入力とし、イントラ予測およびインター予測におけるコスト値を比較し、コスト値が小さい予測を当該ブロックにおける予測とする。該モード判定制御部3の出力として、イントラ符号化およびインター符号化を切り替えるための制御情報jを出力する。
In the mode
前記DCT/量子化部4では、入力映像の画素値aに対する予測値の差分である、残差信号kを入力とする。該DCT/量子化部4は、残差信号kに対してDCT処理を施す。また、DCT処理によって得られるDCT係数に対して、量子化を施す。該DCT/量子化部4の出力として、量子化されたDCT係数lを出力する。
The DCT /
前記逆量子化/逆DCT部5では、量子化されたDCT係数lを入力とする。該逆量子化/逆DCT部5は、量子化されたDCT係数lに対して逆量子化を施す。また、逆量子化の結果に対して、逆DCTを施す。該逆量子化/逆DCT部5の出力として、逆DCTを施した結果を出力する。なお、該逆量子化/逆DCT部5から出力される逆DCT結果に対して、予測値を加えることで、局所復号された画素値bを生成する。
The inverse quantization /
前記シンタックス記述部6では、量子化されたDCT係数lおよび当該ブロックで用いられた予測方法(イントラ符号化であればイントラ予測方向、インター符号化であれば動きベクトル)cを入力とする。該シンタックス記述部6では、量子化されたDCT係数および予測方向に関する情報に対して、H.264で定められたシンタックス記述方法に従い、シンタックスに記述する内容を決定する。具体的には、各シンタックスのパラメータを決定する。該シンタックス記述部6の出力として、各シンタックスパラメータに対する設定値の情報mを出力する。
In the
前記エントロピー符号化部7では、シンタックス記述部6から出力される各シンタックスパラメータに対する設定値の情報mを入力とし、各シンタックスパラメータにおける設定値に従って、エントロピー符号化を施し、符号化データを生成する。そして、該エントロピー符号化部7の出力として、符号化ストリームnを出力する。
In the
前記ローカルメモリ(1)8では、局所復号された画素値bを入力とし、該局所復号された画素値bを蓄積し、必要に応じて、適宜、同画素値をイントラ符号化予測値生成部1およびインター符号化予測値生成部2に供給する。
In the local memory (1) 8, the locally decoded pixel value b is input, the locally decoded pixel value b is accumulated, and the pixel value is appropriately converted into an intra-coded prediction value generation unit as necessary. 1 and the inter-coded prediction
前記ローカルメモリ(2)9では、イントラ予測(イントラ予測方向)およびインター予測(動きベクトル)に関する情報c、c’を入力とし、該予測に関する情報c、c’を蓄積し、必要に応じて、適宜、イントラ予測方向cをイントラ符号化予測値生成部1に、動きベクトルc’をインター符号化予測値生成部2に供給する。
In the local memory (2) 9, information c and c ′ relating to intra prediction (intra prediction direction) and inter prediction (motion vector) are input, information c and c ′ relating to the prediction are accumulated, and if necessary, As appropriate, the intra prediction direction c is supplied to the intra-coded prediction
図3に、前記動画像符号化装置に対応する動画像復号装置のブロック図を示す。動画像復号装置は、エントロピー復号部31、シンタックス解析部32、予測方法判定部33、イントラ予測値生成部34、インター予測値生成部35、逆DCT/逆量子化部36およびメモリ37で構成される。
FIG. 3 shows a block diagram of a video decoding device corresponding to the video encoding device. The moving picture decoding apparatus includes an
前記エントロピー復号部31では、エントロピー符号化された符号化ストリーム31aを入力し、入力された符号化ストリームに対してエントロピー復号を施す。そして、該エントロピー復号部31の出力として、エントロピー復号された符号化データ31bを出力する。
The
前記シンタックス解析部32では、符号化データを入力とし、H.264で定義されるシンタックスに従ってシンタックス解析を行う。該解析の結果、符号化データから残差信号32aおよび予測情報32bを抽出し、該残差信号32aおよび予測情報32bを出力する。
The
予測方法判定部33では、予測情報を入力し、該予測情報について、当該MBに対する予測方法を判別する。そして、該予測方法判定部33の出力として、イントラ符号化およびインター符号化を制御する情報を出力する。
The prediction
イントラ予測値生成部34では、復号済み画素値および予測情報(イントラ予測方向)を入力とし、予測情報に従い、復号済み画素値を用いてイントラ予測値を生成する。その出力として、イントラ予測値を出力する。インター予測値生成部35では、復号済み画素値および予測情報(動きベクトル)を入力とし、予測情報に従い、復号済み画素値を用いてインター予測値を生成する。その出力として、インター予測値を出力する。
The intra prediction
逆DCT/逆量子化部36では、符号化データから得られる、残差信号に関する量子化されたDCT係数を入力とし、該量子化されたDCT係数に対して、逆量子化と逆DCTを施す。逆DCT/逆量子化部36はその出力として、逆DCTされた値を出力する。なお、該逆DCT/逆量子化部36の出力と予測値(イントラ予測値もしくはインター予測値)を加算することで、復号映像37aが得られる。
In the inverse DCT /
メモリ37では、復号映像37aの画素値を入力とし、復号済み画素値を蓄積し、イントラ予測値生成部34およびインター予測値生成部35に対して、適宜、復号済み画素値を供給する。
In the
以上は、本発明の前提となる動画像符号化装置および動画像復号装置の説明であったが、以下に、本発明を詳細に説明する。 The above is the description of the moving picture encoding apparatus and the moving picture decoding apparatus which are the premise of the present invention. The present invention will be described in detail below.
本発明の動画像符号化装置は、MB単位の符号化の際に、符号化モードおよびイントラ予測方向を適応的に用いる動画像符号化において、映像特徴に応じて候補となる符号化モードおよびイントラ予測方向を制御することで、同情報を符号化するための符号量を削減するものである。具体的には、MB単位の符号化において、あらかじめ符号化モードの候補を取捨選択し、映像特徴に適した符号化モードのみを候補とする。また、イントラ符号化において、あらかじめイントラ予測方向を取捨選択し、映像特徴に適したイントラ予測方向のみを候補とする。 The moving picture coding apparatus according to the present invention, in moving picture coding that adaptively uses a coding mode and an intra prediction direction at the time of MB unit coding, a coding mode and an intra that are candidates according to video characteristics. By controlling the prediction direction, the amount of code for encoding the information is reduced. Specifically, in encoding in MB units, encoding mode candidates are selected in advance, and only encoding modes suitable for video features are used as candidates. Further, in intra coding, the intra prediction direction is selected in advance, and only the intra prediction direction suitable for the video feature is set as a candidate.
図4は、本発明の一実施形態である動画像符号化装置の構成を示すブロック図である。図において、動画像符号化装置は、イントラ符号化予測値生成部21、インター符号化予測値生成部2、モード判定制御部22、DCT/量子化部4、逆量子化/逆DCT部5、シンタックス記述部23、エントロピー符号化部7、ローカルメモリ(1)24、ローカルメモリ(2)9、符号化モード制限判定部25、およびイントラ予測方向制限判定部26で構成される。なお、図4中の図1と同じ符号は、同一の機能を果たす。
FIG. 4 is a block diagram showing a configuration of a moving image encoding apparatus according to an embodiment of the present invention. In the figure, the moving picture coding apparatus includes an intra-coded prediction
本実施形態では、後述の説明から明らかになるように、任意に、符号化モードおよびイントラ予測方向に関する制限情報を与えることが可能になる。つまり、符号化サイド情報を適応的に抑制することが可能になる。なお、該符号化モードおよびイントラ予測方向に関する制限情報は、符号化の際に用いることが可能な符号化モードおよびイントラ予測方向に関する情報が記述されているものである。 In the present embodiment, as will be apparent from the following description, it is possible to arbitrarily provide restriction information regarding the encoding mode and the intra prediction direction. That is, it is possible to adaptively suppress the encoded side information. The restriction information regarding the encoding mode and the intra prediction direction describes information regarding the encoding mode and the intra prediction direction that can be used for encoding.
前記符号化モード制限判定部25では、入力映像の画素値a、符号化済みフレームにおける局所復号された画素値bを入力とする。また、動画像符号化装置への入力として符号化モードに関する制限情報25aが外部から与えられている場合、該情報25aを入力とする。符号化モード制限判定部25では、制限情報25aが与えられている場合、該制限情報25aに従って、符号化の際に適用可能な符号化モードを決定する。また、制限情報25aが与えられていない場合には、入力映像の画素値aおよび局所復号された画素値bから、符号化の際に適用可能な符号化モードを決定する。該符号化モード制限判定部25の出力として、符号化の際に適用可能な符号化モードに関する情報(符号化モード制限情報)25bを出力する。
The encoding mode
前記イントラ予測方向制限判定部26では、入力映像の画素値a、符号化済みフレームにおける局所復号された画素値bを入力とする。また、動画像符号化装置への入力としてイントラ予測方向に関する制限情報25aが外部から与えられている場合、該制限情報25aを入力し、該制限情報25aに従って、符号化の際に適用可能なイントラ予測方向26bを決定する。また、該制限情報25aが与えられていない場合、入力映像の画素値aおよび局所復号された画素値bから、符号化の際に適用可能なイントラ予測方向26bを決定する。該イントラ予測方向制限判定部26の出力として、符号化の際に適用可能なイントラ予測方向に関する情報(イントラ予測方向制限情報)26bを出力する。
The intra prediction direction
図5は、前記イントラ符号化予測値生成部21の詳細な構成を示すブロック図である。該イントラ符号化予測値生成部21は、予測値生成部11、歪み算出部12、符号量算出部13、予測方向決定部211で構成される。ただし、予測値生成部11、歪み算出部12、符号量算出部13は、図2の同部と同じ機能であるので、説明を省略する。
FIG. 5 is a block diagram showing a detailed configuration of the intra-coded prediction
前記予測方向決定部211では、イントラ予測方向制限情報26b、および各予測方向について、符号化歪み量12b、イントラ予測値11a、および符号化に要する符号量13bを入力とする。該予測方向決定部211では、各イントラ予測方向について、符号化歪み量12bおよび符号量13bからコスト値fを算出する。更に、各予測方向のコスト値について大小関係を比較し、最もコスト値が小さい予測方向eを求め、該予測方向を最適な予測方向eとみなす。ただし、コスト値fの大小関係を比較する予測方向は、イントラ予測方向制限情報26bにおいて適用可能とされている予測方向に限られる。該予測方向決定部211の出力として、最適な予測方向の予測値d、最適な予測方向e、最適な予測方向のコスト値fを出力する。
The prediction
図4に戻って説明を続ける。モード判定制御部22では、イントラ符号化予測値生成部21から出力されるイントラ予測におけるコスト値f、インター符号化予測値生成部2から出力されるインター予測におけるコスト値i、および符号化モード制限情報25bを入力とする。該モード判定制御部22では、イントラ予測およびインター予測におけるコスト値f,iを比較し、コスト値が小さい予測を当該ブロックにおける予測とする。ただし、符号化モード制限情報25bにおいて適用可能な符号化モードが制限されている場合、適用可能な符号化モードを優先して当該ブロックにおける予測とする。モード判定制御部22の出力として、イントラ符号化およびインター符号化を切り替えるための制御情報jを出力する。
Returning to FIG. 4, the description will be continued. In the mode
ローカルメモリ(1)24では、局所復号された画素値bを入力とし、局所復号された画素値を蓄積し、必要に応じて、適宜、同画素値bをイントラ符号化予測値生成部21、インター符号化予測値生成部2、符号化モード制限判定部25、およびイントラ予測方向制限判定部26に供給する。なお、イントラ符号化予測値生成部21には、処理ブロックに隣接する符号化済みブロックにおける局所復号された画素値bを供給し、インター符号化予測値生成部2、符号化モード制限判定部25およびイントラ予測方向制限判定部26には、符号化済みフレームにおける局所復号された画素値bを供給する。
In the local memory (1) 24, the locally decoded pixel value b is input, the locally decoded pixel value is accumulated, and if necessary, the pixel value b is appropriately converted into the intra-coded prediction
図6に、前記シンタックス記述部23の詳細な構成のブロック図を示す。該シンタックス記述部23は、H.264シンタックス記述部231、拡張シンタックス記述部232、シンタックス記述制御部233で構成される。ただし、H.264シンタックス記述部231は、従来手法におけるシンタックス記述部と同じ機能である。
FIG. 6 shows a block diagram of a detailed configuration of the
前記拡張シンタックス記述部232では、符号化における予測情報c(イントラ符号化の場合はイントラ予測方向、インター符号化の場合は動きベクトル)、残差信号l、符号化モード制限情報25b、イントラ予測方向制限情報26bを入力とする。該拡張シンタックス記述部232では、量子化されたDCT係数lに対して、H.264で定められたシンタックス記述方法に従い、シンタックスに記述する内容を決定する。また、当該ブロックにおける符号化モードに関する情報については、符号化モード制限情報25bに従い、符号化モードを表現するインデックスを再構成し、再構成後のインデックスに従いシンタックスに記述する内容を決定する。同様に、当該ブロックにおけるイントラ予測方向に関する情報については、イントラ予測方向制限情報26bに従い、イントラ予測方向を表現するインデックスを再構成し、再構成後のインデックスに従いシンタックスに記述する内容を決定する。該拡張シンタックス記述部232の出力として、各シンタックスパラメータに対する設定値の情報232aを出力する。
In the extended
前記シンタックス記述制御部233では、符号化モード制限情報25b、イントラ予測方向制限情報26bを入力とし、該符号化モード制限情報25bおよびイントラ予測方向制限情報26bより、符号化モードおよびイントラ予測方向に関して提案手法が適用されているかを判断する。どちらかにおいて提案手法が適用されている場合、シンタックス記述に関して拡張シンタックス記述部232から符号化データ232aが得られるよう制御し、どちらにおいても従来手法のみが適用されている場合には、H.264シンタックス記述部231から符号化データ231aが得られるように制御する。該符号化データ231aと符号化データ232aには、識別符号が付加または挿入されると共に、適用する符号化モードセット(符号化モードおよびイントラ予測方向)が指定される。
The syntax
次に、前記拡張シンタックス記述部232から出力される符号化データ(符号化ストリームデータ)232aの概要を、図7を参照して説明する。符号化ストリームデータ232aは、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダおよびスライスデータで構成される。本発明により、図示されているように、ピクチャパラメータセット(PPS)は従来のH.264シンタックス記述と本発明による追加分とから構成され、スライスヘッダは従来のH.264シンタックス記述と本発明による追加分とから構成されるようにするが、本発明による追加分は、前記ピクチャパラメータセット(PPS)およびスライスヘッダのどちらか一方に記述するようにする。
Next, an outline of the encoded data (encoded stream data) 232a output from the extended
ここに、前記本発明による追加分は、例えばパラメータ(1)coding_mode_table_update、(2)table_update_I_pic、(3)table_update_P_pic、(4)table_update_B_pic、(5)coding_mode_I_table[i] 、(6)coding_mode_P_table[i] 、(7)coding_mode_B_table[i]、(8)intra4x4_predict_table_update、(9)intra8x8_predict_table_update、(10)intra4x4_predict_table[i]、(11)intra8x8_predict_table[i]からなる。なお、前記パラメータ(1)〜(7)は、符号化モード制限に関するパラメータであり、前記パラメータ(8)〜(11)はイントラ予測方向制限に関するパラメータである。 Here, the additions according to the present invention include, for example, parameters (1) coding_mode_table_update, (2) table_update_I_pic, (3) table_update_P_pic, (4) table_update_B_pic, (5) coding_mode_I_table [i], (6) coding_mode_P_table [i], ( 7) It consists of coding_mode_B_table [i], (8) intra4x4_predict_table_update, (9) intra8x8_predict_table_update, (10) intra4x4_predict_table [i], and (11) intra8x8_predict_table [i]. The parameters (1) to (7) are parameters related to the encoding mode restriction, and the parameters (8) to (11) are parameters related to the intra prediction direction restriction.
ここで、前記パラメータ(1)〜(11)を説明すると、以下のようになる。 Here, the parameters (1) to (11) will be described as follows.
(1)coding_mode_table_update 符号化モードを表現する情報に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。 (1) coding_mode_table_update A flag indicating that the index table is changed with respect to information representing the coding mode. If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set.
(2)table_update_I_pic coding_mode_table_updateが1のとき、Iピクチャ(Intra16x16)における符号化モードを表現する情報に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。 (2) When table_update_I_pic coding_mode_table_update is 1, a flag indicating that the index table is changed with respect to information representing the coding mode in the I picture (Intra16x16). If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set.
(3)table_update_P_pic coding_mode_table_updateが1のとき、Pピクチャにおける符号化モードを表現する情報に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。 (3) When table_update_P_pic coding_mode_table_update is 1, a flag indicating that the index table is changed with respect to information representing the coding mode in the P picture. If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set.
(4)table_update_B_pic coding_mode_table_updateが1のとき、Bピクチャにおける符号化モードを表現する情報に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。 (4) When table_update_B_pic coding_mode_table_update is 1, a flag indicating that the index table is changed with respect to information representing the coding mode in the B picture. If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set.
(5)coding_mode_I_table[i] table_update_I_picが1のとき、Iピクチャ(Intra16x16)における符号化モードを表現する情報に関して、インデックステーブルの変更を表すパラメータ。iは変更後のインデックス番号であり、同パラメータに与えられる値として、同インデックス番号に割り当てられる符号化モードに該当する、従来手法における符号化モードインデックス番号を設定する。 (5) coding_mode_I_table [i] When table_update_I_pic is 1, this parameter indicates the change of the index table for information expressing the coding mode in I picture (Intra16x16). i is the index number after the change, and the encoding mode index number in the conventional method corresponding to the encoding mode assigned to the index number is set as a value given to the parameter.
(6)coding_mode_P_table[i] table_update_P_picが1のとき、Pピクチャにおける符号化モードを表現する情報に関して、インデックステーブルの変更を表すパラメータ。iは変更後のインデックス番号であり、同パラメータに与えられる値として、同インデックス番号に割り当てられる符号化モードに該当する、従来手法における符号化モードインデックス番号を設定する。 (6) coding_mode_P_table [i] When table_update_P_pic is 1, this parameter indicates the change of the index table regarding information expressing the coding mode in the P picture. i is the index number after the change, and the encoding mode index number in the conventional method corresponding to the encoding mode assigned to the index number is set as a value given to the parameter.
(7)coding_mode_B_table[i] table_update_B_picが1のとき、Bピクチャにおける符号化モードを表現する情報に関して、インデックステーブルの変更を表すパラメータ。iは変更後のインデックス番号であり、同パラメータに与えられる値として、同インデックス番号に割り当てられる符号化モードに該当する、従来手法における符号化モードインデックス番号を設定する。 (7) coding_mode_B_table [i] When table_update_B_pic is 1, this parameter indicates the change of the index table for information expressing the coding mode in B picture. i is the index number after the change, and the encoding mode index number in the conventional method corresponding to the encoding mode assigned to the index number is set as a value given to the parameter.
なお、前記(1)coding_mode_table_update、(2)table_update_I_pic、(3)table_update_P_pic、および(4)table_update_B_picについて、0と1を入れ替えても同じ効果が得られる。 Note that the same effect can be obtained by replacing 0 and 1 with respect to (1) coding_mode_table_update, (2) table_update_I_pic, (3) table_update_P_pic, and (4) table_update_B_pic.
(8)intra4x4_predict_table_update Intra4x4のイントラ予測方向に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。なお、0と1を入れ替えても同じ効果が得られる。 (8) intra4x4_predict_table_update A flag indicating that the index table is changed with respect to the intra prediction direction of Intra4x4. If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set. The same effect can be obtained even if 0 and 1 are interchanged.
(9)intra8x8_predict_table_update Intra8x8のイントラ予測方向に関して、インデックステーブルの変更を行うことを表すフラグ。0であればインデックステーブルの変更を行わず、1であればインデックステーブルの変更を行うことを表す。同パラメータが存在しない場合は、0とする。なお、0と1を入れ替えても同じ効果が得られる。 (9) intra8x8_predict_table_update A flag indicating that the index table is changed with respect to the intra prediction direction of Intra8x8. If 0, the index table is not changed, and 1 indicates that the index table is changed. If the same parameter does not exist, 0 is set. The same effect can be obtained even if 0 and 1 are interchanged.
(10)intra4x4_predict_table[i] Intra4x4のイントラ予測方向に関して、インデックステーブルの変更を表すパラメータ。iは変更後のインデックス番号であり、同パラメータに与えられる値として、同インデックス番号に割り当てるイントラ予測方向に該当する、従来手法におけるイントラ予測方向インデックス番号を設定する。 (10) intra4x4_predict_table [i] A parameter that represents a change in the index table regarding the intra prediction direction of Intra4x4. i is the index number after the change, and an intra prediction direction index number in the conventional method corresponding to the intra prediction direction assigned to the index number is set as a value given to the parameter.
(11)intra8x8_predict_table[i] Intra8x8のイントラ予測方向に関して、インデックステーブルの変更を表すパラメータ。iは変更後のインデックス番号であり、同パラメータに与えられる値として、同インデックス番号に割り当てるイントラ予測方向に該当する、従来手法におけるイントラ予測方向インデックス番号を設定する。 (11) intra8x8_predict_table [i] A parameter indicating a change in the index table with respect to the intra prediction direction of Intra8x8. i is the index number after the change, and an intra prediction direction index number in the conventional method corresponding to the intra prediction direction assigned to the index number is set as a value given to the parameter.
次に、前記した、映像特徴に応じた符号化モード制限情報を作る方法、映像特徴に応じたイントラ予測方向制限情報を作る方法、および該符号化モード制限情報とイントラ予測方向制限情報を用いて符号化した場合のシンタックス記述の具体例について、以下に説明する。 Next, using the above-described method for generating encoding mode restriction information according to video characteristics, a method for generating intra prediction direction restriction information according to video characteristics, and the encoding mode restriction information and intra prediction direction restriction information A specific example of syntax description in the case of encoding will be described below.
〈1〉符号化モード制限情報を作る方法 <1> Method for creating encoding mode restriction information
MB単位の符号化における符号化モードの選択に関して、映像特徴に応じた符号化モードのみを候補とする方法を説明する。符号化モードの候補を制限する方法については2つあり、(a)符号化モード制限情報25aまたは25bを外部から入力する方法と、(b)映像特徴および符号化済み情報から符号化モード制限情報25aまたは25bを決定する方法である。
A description will be given of a method for selecting only a coding mode according to video characteristics as a candidate for selection of a coding mode in MB unit coding. There are two methods for restricting encoding mode candidates: (a) a method of inputting the encoding
(a)については、入力される符号化モード制限情報に従い、MB単位の符号化において候補とする符号化モードを制御する。なお、符号化モード制限情報の生成方法として、処理フレームに対して従来手法に基づく符号化処理を施し、発生率が高い符号化モードの上位のみを候補とする方法が考えられる。 As for (a), according to the input encoding mode restriction information, the encoding mode that is a candidate for encoding in MB units is controlled. As a method for generating the encoding mode restriction information, a method is conceivable in which an encoding process based on a conventional method is performed on a processing frame, and only a higher-order encoding mode with a high occurrence rate is a candidate.
(b)については、まず、処理フレームと直前の同一ピクチャタイプのフレームについて、画素値の平均値、画素値の分散値、フレーム間のグローバル動きから、両フレームの映像特徴が類似しているか否かを判断する。両フレームの映像特徴が類似していると判断された場合、直前の同一ピクチャタイプにおける符号化モードを踏襲する。 For (b), first, regarding the processing frame and the immediately preceding frame of the same picture type, whether the video characteristics of both frames are similar from the average value of pixel values, the dispersion value of pixel values, and the global motion between frames Determine whether. When it is determined that the video features of both frames are similar, the encoding mode in the immediately preceding same picture type is followed.
また、処理フレームにおける画素値の分散値から符号化モードの分割サイズを決定し、処理フレームおよび直前フレームとのグローバル動きからイントラ符号化の適用可否を決定することで、符号化モード制限情報を生成することが可能である。 Also, encoding mode restriction information is generated by determining the encoding mode division size from the pixel value variance in the processing frame, and determining whether or not intra-coding can be applied from the global motion of the processing frame and the immediately preceding frame. Is possible.
さらに、処理フレーム、符号化済みの局所復号された画素値、符号化済みの予測情報を用いて、処理フレームにおける符号化モードを適切かつ高速に推定する手法は、例えば下記の[2]〜[4]等の文献に示されているように、多数提案されている。これらの文献に示されている手法を用いることにより、処理フレームにおける符号化モードを高速に推定し、発生頻度が高いと推測される符号化モードの上位のみを候補とする符号化モード制限情報を生成することも可能である。 Furthermore, using the processing frame, the encoded local decoded pixel value, and the encoded prediction information, a method for appropriately and quickly estimating the encoding mode in the processing frame is, for example, the following [2] to [ 4] etc., as shown in the literature. By using the methods shown in these documents, the encoding mode restriction information for estimating the encoding mode in the processing frame at high speed and using only the top of the encoding mode that is estimated to be high in frequency as the candidate is displayed. It is also possible to generate.
[2] Xuan Jing and Lap-Pui Chau, “An efficient inter mode decision approach for H.264 video coding,” IEEE ICME2004, pp.1111-1114, 2004.
[3] Hua Wang and Xiangjun Zhu, “Adaptive motion estimation and mode decision strategy for H.264 encoder," Proceedings of the 6th World Congress on Intelligent Control and Automation, pp.10323-10327, June 2006.
[4] Andy C. Yu and Graham R. Martin, "Advanced block size selection algorithm for inter frame coding in H.264/MPEG-4 AVC," ICIP2004, pp.95-98, 2004.
[2] Xuan Jing and Lap-Pui Chau, “An efficient inter mode decision approach for H.264 video coding,” IEEE ICME2004, pp.1111-1114, 2004.
[3] Hua Wang and Xiangjun Zhu , "Adaptive motion estimation and mode decision strategy for H.264 encoder," Proceedings of the 6 th World Congress on Intelligent Control and Automation, pp.10323-10327, June 2006.
[4] Andy C. Yu and Graham R. Martin, "Advanced block size selection algorithm for inter frame coding in H.264 / MPEG-4 AVC," ICIP2004, pp.95-98, 2004.
上記(a)および(b)により生成される符号化モード制限情報に基づき符号化を行う場合には、符号化データのシンタックス記述に関して、従来手法からの変更が求められる。このシンタックスの変更内容は、符号化モードに関するインデックステーブル情報の追加である。 When encoding is performed based on the encoding mode restriction information generated by the above (a) and (b), a change from the conventional method is required regarding the syntax description of the encoded data. The content of the syntax change is the addition of index table information related to the encoding mode.
符号化モードに関するインデックステーブルの追加に関しては、既に図7を参照して説明したように、ピクチャパラメータセット(PPS)もしくはスライス単位でインデックステーブルを付与する。すなわち、PPSおよびスライスヘッダのいずれか一方のシンタックス定義について、従来技術(従来記述)に対して、前記「本発明による追加分」を追加する。なお、従来記述におけるPPSおよびスライスヘッダのシンタックス定義については、文献[1]を参照。 Regarding the addition of the index table related to the encoding mode, as already described with reference to FIG. 7, an index table is assigned in units of picture parameter sets (PPS) or slices. That is, the “addition according to the present invention” is added to the conventional technology (conventional description) with respect to the syntax definition of either the PPS or the slice header. For the syntax definition of PPS and slice header in the conventional description, see Document [1].
以下に、本発明の手法におけるシンタックス記述の具体例を説明する。下記の具体例では、Bピクチャにおける符号化モードの候補として、8×16符号化モードが有効であると判断される場合の例を示す。 A specific example of syntax description in the method of the present invention will be described below. The following specific example shows an example in which it is determined that the 8 × 16 coding mode is effective as a coding mode candidate in the B picture.
従来手法によるBピクチャでの8×16符号化モード表現は、図8のようになっており、これらは5ビットで表現される。そこで、本発明による映像特徴に応じた符号化モード制限情報により、前記のパラメータ(1)coding_mode_table_updateが1、(4)table_update_B_picが1とされ、(7)coding_mode_B_table[i]において、[0]=0,[1]=5,[2]=7,[3]=9,[4]=13,[5]=15,[6]=17,[7]=19,[inferred]=inferredとされたとすると、図9に示されているような制限された符号化モード表現になり、3ビットで表現されることになる。この場合、符号化モードに関するシンタックスを2ビット削減できたことになる。 The 8 × 16 encoding mode expression in the B picture by the conventional method is as shown in FIG. 8, and these are expressed by 5 bits. Therefore, the parameter (1) coding_mode_table_update is set to 1, (4) table_update_B_pic is set to 1, and (7) coding_mode_B_table [i] is set to [0] = 0 by the encoding mode restriction information according to the video feature according to the present invention. , [1] = 5, [2] = 7, [3] = 9, [4] = 13, [5] = 15, [6] = 17, [7] = 19, [inferred] = inferred If this is the case, the encoding mode is limited as shown in FIG. 9 and is expressed by 3 bits. In this case, the syntax relating to the encoding mode can be reduced by 2 bits.
〈2〉イントラ予測方向制限情報を作る方法 <2> Method for creating intra prediction direction restriction information
イントラ符号化におけるイントラ予測方向の選択に関して、映像特徴に応じたイントラ予測方向のみを候補とする方法を示す。イントラ予測方向の候補を制限する方法については2つあり、(a)イントラ予測方向制限情報26aまたは26bを外部から入力する方法と、(b)映像特徴および符号化済み情報からイントラ予測方向制限情報26aまたは26bを決定する方法である。 Regarding the selection of the intra prediction direction in intra coding, a method of selecting only the intra prediction direction corresponding to the video feature is shown. There are two methods for restricting intra prediction direction candidates: (a) a method of inputting intra prediction direction restriction information 26a or 26b from the outside, and (b) intra prediction direction restriction information from video features and encoded information. This is a method for determining 26a or 26b.
(a)については、入力されるイントラ予測方向制限情報に従い、イントラ符号化におけるイントラ予測方向を制限する。なお、イントラ予測方向制限情報の生成方法として、処理フレームに対して従来手法に基づくイントラ符号化処理を施し、発生頻度が高いイントラ予測方向の上位のみを候補とする方法が考えられる。
(b)については、まず、処理フレームと直前のイントラピクチャのフレームについて、画素値の平均値、画素値の分散値、フレーム間のグローバル動きから、両フレームの映像特徴が類似しているかを判断する。両フレームの映像特徴が類似していると判断された場合、直前のイントラピクチャにおけるイントラ予測方向を踏襲する。また、処理フレームおよび直前のフレームとのグローバル動きからイントラ予測方向を決定することで、イントラ予測方向制限情報を生成することが可能である。
さらに、処理フレーム、符号化済みの局所復号された画素値、符号化済みの予測情報を用いて、処理フレームにおけるイントラ予測方向を適切かつ高速に推定する手法は、下記の文献[5][6]等に示されているように、多数提案されている。これらの文献に示されている手法を用いることにより、処理フレームにおけるイントラ予測方向を高速に推定し、発生頻度が高いと推測されるイントラ予測方向の上位のみを候補とするイントラ予測方向制限情報を生成することも可能である。
For (a), the intra prediction direction in intra coding is limited according to the input intra prediction direction restriction information. As a method for generating intra prediction direction restriction information, a method is conceivable in which intra coding processing based on a conventional method is performed on a processing frame, and only a higher rank in the intra prediction direction having a high occurrence frequency is used as a candidate.
For (b), first, determine whether the video features of both frames are similar from the average value of pixel values, the variance value of pixel values, and the global motion between frames for the processing frame and the frame of the previous intra picture. To do. When it is determined that the video features of both frames are similar, the intra prediction direction in the immediately preceding intra picture is followed. Further, it is possible to generate intra prediction direction restriction information by determining the intra prediction direction from the global motion with the processing frame and the immediately preceding frame.
Further, a technique for appropriately and quickly estimating the intra prediction direction in the processing frame using the processing frame, the encoded locally decoded pixel value, and the encoded prediction information is described in the following documents [5] [6] ], Many have been proposed. By using the methods shown in these documents, intra prediction direction restriction information for which the intra prediction direction in the processing frame is estimated at high speed and only the upper rank of the intra prediction direction that is estimated to be high in frequency is used as a candidate. It is also possible to generate.
[5] Chao-Hsuing Tseng, Hung-Ming Wang, and Jar-Ferr Yang,”Enhanced intra-4x4 mode decision for H.264/AVC coders,” IEEE CSVT 2006, Vol. 16, No.8, August 2006.
[6] Zhi-Yi Mai, Chun-Ling Yang and Sheng-Li Xie, “Improved best prediction mode selection methods based on structural similarity in H.264 I-frame encoder,” Systems, Man and Cybernetics, 2005.
[5] Chao-Hsuing Tseng, Hung-Ming Wang, and Jar-Ferr Yang, “Enhanced intra-4x4 mode decision for H.264 / AVC coders,” IEEE CSVT 2006, Vol. 16, No. 8, August 2006.
[6] Zhi-Yi Mai, Chun-Ling Yang and Sheng-Li Xie, “Improved best prediction mode selection methods based on structural similarity in H.264 I-frame encoder,” Systems, Man and Cybernetics, 2005.
上記(a)および(b)により生成されるイントラ予測方向制限情報に基づき符号化を行った場合、符号化データのシンタックス記述に関して、従来手法からの変更が求められる。このシンタックスの変更内容は、イントラ予測方向に関するインデックステーブル情報の追加、イントラ予測方向の符号化に用いるビット数の低減である。 When encoding is performed based on the intra prediction direction restriction information generated by (a) and (b) above, a change from the conventional method is required regarding the syntax description of the encoded data. The content of the syntax change is the addition of index table information related to the intra prediction direction and the reduction of the number of bits used for encoding the intra prediction direction.
イントラ予測方向に関するインデックステーブルの追加に関しては、既に図7を参照して説明したように、ピクチャパラメータセット(PPS)もしくはスライス単位でインデックステーブルを付与する。すなわち、PPSおよびスライスヘッダのシンタックス定義について、従来技術(従来記述)に対して、前記「本発明による追加分」を追加する。ただし、従来記述におけるPPSおよびスライスヘッダのシンタックス定義については、文献[1]を参照。 Regarding the addition of the index table related to the intra prediction direction, as already described with reference to FIG. 7, the index table is assigned in units of picture parameter sets (PPS) or slices. That is, the “addition according to the present invention” is added to the conventional technology (conventional description) for the syntax definition of the PPS and the slice header. However, see [1] for the syntax definition of PPS and slice header in the conventional description.
イントラ予測方向の符号化に用いるビット数の削減については、インデックステーブル変更後のイントラ予測方向を表現しうる最低のビット数を用いるものとする。すなわち、イントラ予測方向の数が2つ以下の場合は1ビット、3つ以上5つ以下の場合は2ビット、6つ以上の場合は3ビットで、イントラ予測方向を表現する。 For the reduction of the number of bits used for encoding the intra prediction direction, the minimum number of bits that can represent the intra prediction direction after changing the index table is used. That is, the intra prediction direction is represented by 1 bit when the number of intra prediction directions is 2 or less, 2 bits when 3 or more and 5 or less, and 3 bits when 6 or more.
以下に、本発明の手法におけるシンタックス記述の具体例を説明する。この具体例では、Intra4×4もしくはIntra8×8におけるイントラ予測方向の候補として、水平方向予測、DC予測、水平上方向予測の3方向のみとする例を示す。 A specific example of syntax description in the method of the present invention will be described below. In this specific example, as an intra prediction direction candidate in Intra4 × 4 or Intra8 × 8, only three directions of horizontal prediction, DC prediction, and horizontal upward prediction are shown.
すなわち、従来手法におけるイントラ方向予測は、図10のようになっており、これらは3ビットで表現される。そこで、本発明による映像特徴に応じたイントラ予測方向制限により、前記のパラメータ(8)intra4x4_predict_table_update が1とされ、(10)intra4x4_predict_table[i]において、[0]=1,[1]=8,[2]=2とされると、図11に示されているような制限されたイントラ方向予測になり、2ビットで表現されることになる。この場合、イントラ方向予測に関するシンタックスを1ビット削減できたことになる。 That is, the intra direction prediction in the conventional method is as shown in FIG. 10, and these are expressed by 3 bits. Therefore, the above parameter (8) intra4x4_predict_table_update is set to 1 by the intra prediction direction restriction according to the video feature according to the present invention, and (10) In intra4x4_predict_table [i], [0] = 1, [1] = 8, [ 2] = 2, the intra direction prediction is limited as shown in FIG. 11 and is expressed by 2 bits. In this case, the syntax for intra direction prediction can be reduced by 1 bit.
次に、本発明の動画像復号装置の一実施形態を、図12のブロック図を参照して説明する。本実施形態の動画像復号装置は、図3のシンタックス解析部32を図12の構成に代えたものであり、他の構成は図3と同様であるので、以下では、図12のシンタックス記述部についてのみ説明し、他の構成の説明は省略する。
Next, an embodiment of the video decoding device of the present invention will be described with reference to the block diagram of FIG. The moving picture decoding apparatus according to the present embodiment is obtained by replacing the
制限情報解析部323では、エントロピー復号された符号化データ31bを入力とし、符号化データに含まれる本発明手法適用有無に関する識別情報を抽出する。そして、符号化データ31bのシンタックス解析に関して、従来手法または本発明手法のどちらを適用するかを制御する。該制限情報解析部323の出力として、符号化データ31bに対するシンタックス解析方法に関する制御情報323aを出力する。該制御情報323aにより、H.264シンタックス解析部321と拡張シンタックス解析部322の入力側および出力側の選択(切替)が行われる。
The restriction
H.264シンタックス解析部321では、H.264で定義されるシンタックスに従って記述された符号化データ31bを入力とし、該シンタックスに従って符号化データを解析して符号化モードセットを指定し、符号化データから残差信号32aと予測情報32bとを抽出する。そして、該H.264シンタックス解析部321の出力として、残差信号32aと予測情報32bとを出力する。
H. In the H.264
拡張シンタックス解析部322では、本発明手法で定義されるシンタックスに従って記述された符号化データ31bを入力とし、該シンタックスに従って符号化データを解析して符号化モードセットを指定し、符号化データから残差信号32aと予測情報32bとを抽出する。そして、該拡張シンタックス解析部322の出力として、残差信号32aと予測情報32bとを出力する。
The extended
前記符号化モード制限に関して、前記拡張シンタックス解析部322では、前記(1)coding_mode_table_update に従い、符号化データのシンタックス解析方法を変更する。本発明手法が適用されている場合、前記(2)table_update_I_pic、(3)table_update_P_pic、および(4)table_update_B_picに従い、ピクチャタイプ毎に符号化モードのインデックス番号を再構築する。
Regarding the encoding mode restriction, the extended
一方、前記イントラ予測方向制限に関して、前記拡張シンタックス解析部322では、前記(8)intra4x4_predict_table_updateおよび(9)intra8x8_predict_table_updateに従い、符号化データのシンタックス解析方法を変更する。本発明手法が適用されている場合、各分割ブロックサイズ毎にイントラ予測方向のインデックス番号を再構築する。
On the other hand, regarding the intra prediction direction restriction, the extended
本発明者は、本発明の手法による効果を確認するため、イントラ予測方向に関する制限についてのシミュレーション実験を行った。ITE HD標準動画像(1920画素×1080ライン)を対象として、JM12.1に提案手法を実装した。なお、イントラ予測方向の制限情報については、外部から制限情報を入力するものとした。また、制限情報は、実験条件と同等の条件下で、JM12.1を用いて符号化した際の、発生頻度が上位3位もしくは上位5位までの予測方向を用いるものとした。その結果、従来手法に対する平均符号量削減について、上位5位までの場合は0.42%、上位3位までの場合は0.52%のゲインが得られた。 In order to confirm the effect of the method of the present invention, the present inventor conducted a simulation experiment on the restriction on the intra prediction direction. The proposed method was implemented in JM12.1 for ITE HD standard video (1920 pixels x 1080 lines). In addition, about the restriction | limiting information of an intra prediction direction, the restriction | limiting information shall be input from the outside. In addition, the restriction information is assumed to use the prediction direction in which the frequency of occurrence is the top 3 or the top 5 when encoding using JM12.1 under the same conditions as the experimental conditions. As a result, with respect to the average code amount reduction with respect to the conventional method, a gain of 0.42% was obtained in the case of the top five and 0.52% was obtained in the case of the top three.
2・・・インター符号化予測値生成部、4・・・DCT/量子化部、5・・・逆量子化/逆DCT部、7・・・エントロピー符号化部、9・・・ローカルメモリ(2)、11・・・予測値生成部、12・・・歪み算出部、13・・・符号量算出部、211・・・予測方向決定部、21・・・イントラ符号化予測値生成部、22・・・モード判定制御部、23・・・シンタックス記述部、24・・・ローカルメモリ(1)、25・・・符号化モード制限判定部、26・・・イントラ予測方向制限判定部、231・・・H.264シンタックス記述部、232・・・拡張シンタックス記述部、31・・・エントロピー復号部、32・・・シンタックス解析部、33・・・予測方法判定部、34・・・イントラ予測値生成部、35・・・インター予測値生成部、321・・・H.264シンタックス解析部、322・・・拡張シンタックス解析部、323・・・制限情報解析部。
2 ... Inter-coded prediction value generation unit, 4 ... DCT / quantization unit, 5 ... Inverse quantization / inverse DCT unit, 7 ... Entropy encoding unit, 9 ... Local memory ( 2), 11 ... predicted value generation unit, 12 ... distortion calculation unit, 13 ... code amount calculation unit, 211 ... prediction direction determination unit, 21 ... intra coded prediction value generation unit, 22 ... Mode determination control unit, 23 ... Syntax description unit, 24 ... Local memory (1), 25 ... Coding mode limit determination unit, 26 ... Intra prediction direction limit determination unit, 231 ... H. 264 syntax description part, 232 ... extended syntax description part, 31 ... entropy decoding part, 32 ... syntax analysis part, 33 ... prediction method determination part, 34 ... intra
Claims (10)
符号化モード制限判定部と、イントラ予測方向制限判定部と、符号化モード制限情報に応じて符号化に用いる符号化モードを制限するモード判定制御部と、イントラ予測方向制限情報に応じて符号化に用いるイントラ予測方向を制限するイントラ符号化予測値生成部と、符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部とを具備し、
前記シンタックス記述部は、前記符号化モードおよびイントラ予測方向に関する情報の符号化に用いる符号量を削減することを特徴とする動画像符号化装置。 In the video encoding apparatus that adaptively uses the encoding mode and the intra prediction direction when encoding in units of macroblocks,
An encoding mode restriction determination unit, an intra prediction direction restriction determination part, a mode determination control unit that restricts an encoding mode used for encoding according to the coding mode restriction information, and an encoding according to the intra prediction direction restriction information An intra-coded prediction value generation unit that limits the intra-prediction direction used in the above, and a syntax description unit that changes the syntax description method according to the encoding mode and the restriction information of the intra-prediction direction,
The syntax description unit reduces a code amount used for encoding information related to the encoding mode and the intra prediction direction.
前記符号化モード制限判定部は、外部からの制限情報、もしくは入力映像及び符号化済み符号化データに基づいて、符号化に用いる符号化モードを制限する情報を生成し出力することを特徴とする動画像符号化装置。 The moving image encoding device according to claim 1,
The coding mode restriction determination unit generates and outputs information for restricting a coding mode used for coding based on restriction information from the outside, or input video and coded data that has been coded. Video encoding device.
前記符号化モード制限判定部は、前記入力映像及び符号化済み符号化データに基づいて符号化に用いる符号化モードを制限する方法として、符号化済みフレームにおいて適用された符号化モードについて、発生頻度の上位以外を、処理フレームにおいて制限することを特徴とする動画像符号化装置。 The moving image encoding device according to claim 2,
The encoding mode restriction determination unit, as a method of restricting an encoding mode used for encoding based on the input video and encoded data, generates an occurrence frequency for an encoding mode applied in an encoded frame. A moving picture encoding apparatus characterized in that, except for the upper part of the processing frame, the processing frame is limited.
前記イントラ予測方向制限判定部は、外部からの制限情報、もしくは入力映像及び符号化済み符号化データに基づいて、イントラ符号化に用いるイントラ予測方向を制限する情報を生成し出力することを特徴とする動画像符号化装置。 The moving image encoding device according to claim 1,
The intra prediction direction restriction determination unit generates and outputs information for restricting an intra prediction direction used for intra coding based on restriction information from the outside or input video and encoded data. A moving image encoding device.
前記イントラ予測方向制限判定部は、前記入力映像及び符号化済みデータに基づいてイントラ符号化に用いるイントラ予測方向を制限する方法として、符号化済みフレームにおいて適用されたイントラ予測方向について、発生頻度の上位以外を、処理フレームにおいて制限することを特徴とする動画像符号化装置。 In the moving image encoding device according to claim 4,
The intra-prediction direction restriction determination unit is a method of restricting an intra-prediction direction used for intra-encoding based on the input video and encoded data. A moving picture encoding apparatus characterized in that, except for a higher rank, a processing frame is limited.
前記符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部は、符号化モードの制限が適用された場合、符号化データのシンタックスにおいて、符号化モードのインデックステーブルを変更することを表す情報、および変更後の符号化モードのインデックス情報を記述することを特徴とする動画像符号化装置。 The moving image encoding device according to claim 1,
The syntax description unit that changes the syntax description method according to the encoding mode and the intra prediction direction restriction information, when the encoding mode restriction is applied, in the syntax of the encoded data, A moving picture coding apparatus characterized by describing information indicating changing an index table and index information of a coding mode after the change.
前記符号化モードおよびイントラ予測方向の制限情報に応じてシンタックス記述方法を変更するシンタックス記述部は、イントラ予測方向の制限が適用された場合、符号化データのシンタックスにおいて、イントラ予測方向のインデックステーブルを変更することを表す情報、および変更後のイントラ予測方向のインデックス情報を記述することを特徴とする動画像符号化装置。 The moving image encoding device according to claim 1,
The syntax description unit that changes the syntax description method according to the encoding mode and the intra prediction direction restriction information, when the intra prediction direction restriction is applied, A moving picture encoding apparatus characterized by describing information indicating that an index table is changed and index information in the intra prediction direction after the change.
受信した符号化データからシンタックス記述の解析に関して符号化モードおよびイントラ予測方向の少なくとも一方が制限されているか否かを判断し、制御情報を出力する制限情報解析部と、
前記制限情報解析部から出力された制御情報に従って選択され、シンタックスに従って符号化データを解析し、符号化データから残差信号と予測情報を抽出する第1、第2のシンタックス解析部と、
前記第1、第2のシンタックス解析部から出力された残差信号と予測情報を基に復号映像を生成する手段とを具備し、
前記第1のシンタックス解析部は前記符号化モードおよびイントラ予測方向が制限されていないシンタックスに従って符号化データを解析し、前記第2のシンタックス解析部は前記符号化モードおよびイントラ予測方向の少なくとも一方が制限されているシンタックスに従って符号化データを解析することを特徴とする動画像復号装置。 In the moving image decoding apparatus which decodes the encoded data encoded by the moving image encoding apparatus according to claim 1,
A restriction information analysis unit that determines whether or not at least one of the coding mode and the intra prediction direction is restricted with respect to the analysis of the syntax description from the received coded data, and outputs control information;
First and second syntax analysis units that are selected according to the control information output from the restriction information analysis unit, analyze the encoded data according to the syntax, and extract the residual signal and the prediction information from the encoded data;
Means for generating a decoded video based on the residual signal output from the first and second syntax analysis units and the prediction information;
The first syntax analysis unit analyzes encoded data according to a syntax in which the encoding mode and the intra prediction direction are not limited, and the second syntax analysis unit analyzes the encoding mode and the intra prediction direction. A moving picture decoding apparatus, wherein encoded data is analyzed according to a syntax in which at least one of them is restricted.
前記第2のシンタックス解析部は、前記符号化データに挿入されている識別符号から、適用する符号化モードセットを指定し、該符号化モードセット内の符号化モードもしくはイントラ予測方向を抽出することを特徴とする動画像復号装置。 The moving picture decoding apparatus according to claim 8, wherein
The second syntax analysis unit specifies an encoding mode set to be applied from the identification code inserted in the encoded data, and extracts an encoding mode or an intra prediction direction in the encoding mode set. A moving picture decoding apparatus characterized by the above.
請求項2ないし7のいずれかの動画像符号化装置で符号化された符号化データに対して、復号映像を生成することを特徴とする動画像復号装置。 The moving picture decoding apparatus according to claim 8 or 9, wherein
8. A moving picture decoding apparatus that generates decoded video for the encoded data encoded by the moving picture encoding apparatus according to claim 2.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007289577A JP5004180B2 (en) | 2007-11-07 | 2007-11-07 | Video encoding apparatus and decoding apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007289577A JP5004180B2 (en) | 2007-11-07 | 2007-11-07 | Video encoding apparatus and decoding apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009118233A true JP2009118233A (en) | 2009-05-28 |
JP5004180B2 JP5004180B2 (en) | 2012-08-22 |
Family
ID=40784852
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007289577A Expired - Fee Related JP5004180B2 (en) | 2007-11-07 | 2007-11-07 | Video encoding apparatus and decoding apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5004180B2 (en) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011024602A1 (en) * | 2009-08-26 | 2011-03-03 | シャープ株式会社 | Image encoding device and image decoding device |
JP2012532489A (en) * | 2009-07-01 | 2012-12-13 | トムソン ライセンシング | Method and apparatus for signaling intra prediction per large block for video encoders and decoders |
JP2013531445A (en) * | 2010-07-09 | 2013-08-01 | クゥアルコム・インコーポレイテッド | Adapting intra block coding frequency transform based on size and intra mode or based on edge detection |
JP2013215007A (en) * | 2009-12-16 | 2013-10-17 | Electronics & Telecommunications Research Inst | Adaptive image encoding device and method |
US10306229B2 (en) | 2015-01-26 | 2019-05-28 | Qualcomm Incorporated | Enhanced multiple transforms for prediction residual |
US10623774B2 (en) | 2016-03-22 | 2020-04-14 | Qualcomm Incorporated | Constrained block-level optimization and signaling for video coding tools |
US10992958B2 (en) | 2010-12-29 | 2021-04-27 | Qualcomm Incorporated | Video coding using mapped transforms and scanning modes |
US11323748B2 (en) | 2018-12-19 | 2022-05-03 | Qualcomm Incorporated | Tree-based transform unit (TU) partition for video coding |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005529527A (en) * | 2002-06-11 | 2005-09-29 | ノキア コーポレイション | Spatial prediction based on intra coding |
JP2006287315A (en) * | 2005-03-31 | 2006-10-19 | Sanyo Electric Co Ltd | Image encoding method, device and image decoding method |
JP2007208543A (en) * | 2006-01-31 | 2007-08-16 | Victor Co Of Japan Ltd | Moving image encoder |
WO2007112343A2 (en) * | 2006-03-27 | 2007-10-04 | Qualcomm | Methods and systems for significance coefficient coding in video compression |
-
2007
- 2007-11-07 JP JP2007289577A patent/JP5004180B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005529527A (en) * | 2002-06-11 | 2005-09-29 | ノキア コーポレイション | Spatial prediction based on intra coding |
JP2006287315A (en) * | 2005-03-31 | 2006-10-19 | Sanyo Electric Co Ltd | Image encoding method, device and image decoding method |
JP2007208543A (en) * | 2006-01-31 | 2007-08-16 | Victor Co Of Japan Ltd | Moving image encoder |
WO2007112343A2 (en) * | 2006-03-27 | 2007-10-04 | Qualcomm | Methods and systems for significance coefficient coding in video compression |
JP2009531992A (en) * | 2006-03-27 | 2009-09-03 | クゥアルコム・インコーポレイテッド | Method and system for importance coefficient coding in video compression |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11082697B2 (en) | 2009-07-01 | 2021-08-03 | Interdigital Vc Holdings, Inc. | Methods and apparatus for signaling intra prediction for large blocks for video encoders and decoders |
JP2012532489A (en) * | 2009-07-01 | 2012-12-13 | トムソン ライセンシング | Method and apparatus for signaling intra prediction per large block for video encoders and decoders |
US11936876B2 (en) | 2009-07-01 | 2024-03-19 | Interdigital Vc Holdings, Inc. | Methods and apparatus for signaling intra prediction for large blocks for video encoders and decoders |
US12120307B2 (en) | 2009-07-01 | 2024-10-15 | Interdigital Vc Holdings, Inc. | Methods and apparatus for signaling intra prediction for large blocks for video encoders and decoders |
WO2011024602A1 (en) * | 2009-08-26 | 2011-03-03 | シャープ株式会社 | Image encoding device and image decoding device |
JPWO2011024602A1 (en) * | 2009-08-26 | 2013-01-24 | シャープ株式会社 | Image encoding apparatus and image decoding apparatus |
JP2013215007A (en) * | 2009-12-16 | 2013-10-17 | Electronics & Telecommunications Research Inst | Adaptive image encoding device and method |
US11805243B2 (en) | 2009-12-16 | 2023-10-31 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
US11659159B2 (en) | 2009-12-16 | 2023-05-23 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
US11812012B2 (en) | 2009-12-16 | 2023-11-07 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
US10708580B2 (en) | 2009-12-16 | 2020-07-07 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
US10728541B2 (en) | 2009-12-16 | 2020-07-28 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
US10419752B2 (en) | 2009-12-16 | 2019-09-17 | Electronics And Telecommunications Research Institute | Adaptive image encoding device and method |
JP2013534794A (en) * | 2010-07-09 | 2013-09-05 | クゥアルコム・インコーポレイテッド | Adapting intra block coding frequency transform based on size and intra mode or based on edge detection |
US10390044B2 (en) | 2010-07-09 | 2019-08-20 | Qualcomm Incorporated | Signaling selected directional transform for video coding |
US9661338B2 (en) | 2010-07-09 | 2017-05-23 | Qualcomm Incorporated | Coding syntax elements for adaptive scans of transform coefficients for video coding |
US9215470B2 (en) | 2010-07-09 | 2015-12-15 | Qualcomm Incorporated | Signaling selected directional transform for video coding |
US9172968B2 (en) | 2010-07-09 | 2015-10-27 | Qualcomm Incorporated | Video coding using directional transforms |
JP2013531445A (en) * | 2010-07-09 | 2013-08-01 | クゥアルコム・インコーポレイテッド | Adapting intra block coding frequency transform based on size and intra mode or based on edge detection |
US11601678B2 (en) | 2010-12-29 | 2023-03-07 | Qualcomm Incorporated | Video coding using mapped transforms and scanning modes |
US10992958B2 (en) | 2010-12-29 | 2021-04-27 | Qualcomm Incorporated | Video coding using mapped transforms and scanning modes |
US11838548B2 (en) | 2010-12-29 | 2023-12-05 | Qualcomm Incorporated | Video coding using mapped transforms and scanning modes |
US10306229B2 (en) | 2015-01-26 | 2019-05-28 | Qualcomm Incorporated | Enhanced multiple transforms for prediction residual |
US10623774B2 (en) | 2016-03-22 | 2020-04-14 | Qualcomm Incorporated | Constrained block-level optimization and signaling for video coding tools |
US11323748B2 (en) | 2018-12-19 | 2022-05-03 | Qualcomm Incorporated | Tree-based transform unit (TU) partition for video coding |
Also Published As
Publication number | Publication date |
---|---|
JP5004180B2 (en) | 2012-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9053544B2 (en) | Methods and apparatuses for encoding/decoding high resolution images | |
JP4927207B2 (en) | Encoding method, decoding method and apparatus | |
JP5418756B2 (en) | Image re-encoding device, image re-encoding method, and image re-encoding program | |
JP5004180B2 (en) | Video encoding apparatus and decoding apparatus | |
JP2010135864A (en) | Image encoding method, device, image decoding method, and device | |
JP6114782B2 (en) | Image compression | |
JPWO2006100946A1 (en) | Image signal re-encoding device and image signal re-encoding method | |
KR101364532B1 (en) | Method of estimating motion vector considering the size of neighboring partition, apparatus, encoder, decoder and decoding method | |
JP2008004984A (en) | Image processor and method, program, and recording medium | |
JP2009260421A (en) | Moving image processing system, encoding device, encoding method, encoding program, decoding device, decoding method and decoding program | |
JP4868539B2 (en) | Video encoding apparatus and decoding apparatus | |
JP4520442B2 (en) | Moving image re-encoding method, moving image re-encoding device, and moving image re-encoding program | |
JP2007013298A (en) | Image coding apparatus | |
KR101443865B1 (en) | Method and apparatus for inter prediction | |
WO2014084674A2 (en) | Intra prediction method and intra prediction apparatus using residual transform | |
JP4786623B2 (en) | Moving picture encoding apparatus and moving picture decoding apparatus | |
JP5937926B2 (en) | Image encoding device, image decoding device, image encoding program, and image decoding program | |
JP2013098638A (en) | Dynamic image re-coding apparatus, dynamic image re-coding method and dynamic image re-coding computer program | |
JP2017028372A (en) | Coding scheme conversion device, method and program | |
KR20110067648A (en) | Method for encoding/decoding image and apparatus for performing the same | |
KR101525325B1 (en) | Intra prediction mode determination method and apparatus | |
JP4253572B2 (en) | Image coding apparatus, image coding method, and image coding program | |
JP5099776B2 (en) | Video encoding apparatus and decoding apparatus | |
JP4847423B2 (en) | Moving picture encoding apparatus and computer program | |
JP2010068538A (en) | Image-decoding method and image-decoding device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100715 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110628 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110706 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110901 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120425 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120516 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150601 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |