本発明は、ビデオ符号化及びビデオ復号化のためのエントロピー符号化及びエントロピー復号化に関する。
高解像度または高画質のビデオコンテンツを再生、保存することができるハードウェアの開発及び普及により、高解像度または高画質のビデオコンテンツを効果的に符号化/復号化するビデオコーデックの必要性が増大している。既存のビデオコーデックによれば、ビデオは、所定サイズのマクロブロックに基づいて、制限された符号化方式によって符号化されている。
周波数変換を利用して、空間領域の映像データは、周波数領域の係数に変換される。ビデオコーデックは、周波数変換の迅速な演算のために、映像を所定サイズのブロックに分割し、ブロックごとにDCT変換を行い、ブロック単位の周波数係数を符号化する。空間領域の映像データに比べ、周波数領域の係数が、圧縮しやすい形態を有する。特に、ビデオコーデックのインター予測またはイントラ予測を介して、空間領域の映像画素値は、予測誤差で表現されるので、予測誤差に対して周波数変換が行われれば、多くのデータが0に変換される。ビデオコーデックは、連続的に反復的に発生するデータを小サイズのデータに置き換えることにより、データ量を節減している。
ビデオ符号化によって生成されたシンボルのビット列を圧縮するために、エントロピー符号化が行われる。最近、算術符号化基盤のエントロピー符号化方式が広く使用されている。算術符号化基盤のエントロピー符号化のために、シンボルをビット列に二進化した後、ビット列に対してコンテクスト基盤の算術符号化が行われる。
本発明は、ビデオ符号化及びビデオ復号化のために、スライスセグメントの属性を考慮し、周辺データのコンテクスト情報を利用するエントロピー符号化方式及びエントロピー復号化方式の方法を提案する。
多様な実施形態によるビデオエントロピー復号化方法は、ビットストリームから獲得した最大符号化単位に係わるビンストリング(bin string)及びビンインデックスを決定する段階と、前記ビンインデックスにおいてシンタックス要素に割り当てられるビンストリングと、前記獲得されたビンストリングとを比較し、前記シンタックス要素の値を決定する段階と、前記シンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階と、前記決定されたシンタックス要素の値を利用して、前記最大符号化単位のシンボルを復元する段階と、を含む。
開示されたエントロピー符号化/復号化方式に基づいて、現在ピクチャにおいて従属的スライスセグメントが使用されるならば、各スライスセグメントの最後の最大符号化単位のエントロピー符号化(復号化)を完了した後、コンテクスト変数を保存することができる。従って、以前スライスセグメントが独立的スライスセグメントであるとしても、その次の従属的スライスセグメントのために必要なコンテクスト変数の初期変数を、先に符号化された独立的スライスセグメントの最後の最大符号化単位のコンテスト変数から獲得することができる。
また、エントロピー符号化/復号化のためのコンテクスト変数の同期化地点を効率的に知らせるために、サブセットオフセットから1ずつ減少した数を示す情報がスライスセグメントを介して提供されるので、スライスセグメントのデータサイズが縮小される。
多様な実施形態によるビデオエントロピー符号化装置のブロック図である。
多様な実施形態によるビデオエントロピー符号化方法のフローチャートである。
多様な実施形態によるビデオエントロピー復号化装置のブロック図である。
多様な実施形態によるビデオエントロピー復号化方法のフローチャートである。
ピクチャ内のタイル及び最大符号化単位を図示する図面である。
ピクチャ内のスライスセグメント及び最大符号化単位を図示する図面である。
一実施形態によるCABACパージング動作のフローチャートである。
保存されたコンテクスト変数を利用するエントロピー復号化過程を図示する図面である。
一実施形態によるCABACコンテクスト変数の保存動作の詳細フローチャートである。
一実施形態によるスライスセグメントヘッダのシンタックスを図示する図面である。
図8は一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置のブロック図である。
一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置のブロック図である。
本発明の一実施形態による符号化単位の概念を図示する図面である。
本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図である。
本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図である。
本発明の一実施形態による、深度別符号化単位及びパーティションを図示する図面である。
本発明の一実施形態による、符号化単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による深度別符号化情報を図示する図面である。
本発明の一実施形態による深度別符号化単位を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
表1の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
一実施形態によるプログラムが保存されたディスクの物理的構造を例示する図面である。
ディスクを利用してプログラムを記録して読み取るためのディスクドライブを図示する図面である。
コンテンツ流通サービス(content distribution service)を提供するためのコンテンツ供給システム(content supply system)の全体的構造を図示する図面である。
一実施形態による、本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の外部構造を図示する図面である。
一実施形態による、本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の内部構造を図示する図面である。
本発明による通信システムが適用されたデジタル放送システムを図示する図面である。
本発明の一実施形態による、ビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示する図面である。
多様な実施形態によるビデオエントロピー復号化方法は、ビットストリームから獲得した最大符号化単位に係わるビンストリング(bin string)及びビンインデックスを決定する段階と、前記ビンインデックスにおいてシンタックス要素に割り当てられるビンストリングと、前記獲得されたビンストリングとを比較し、前記シンタックス要素の値を決定する段階と、前記シンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階と、前記決定されたシンタックス要素の値を利用して、前記最大符号化単位のシンボルを復元する段階と、を含む。
多様な実施形態によって前記コンテクスト変数を保存する段階は、前記スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、前記ピクチャに従属的スライスセグメントが含まれている場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階を含んでもよい。
多様な実施形態による前記ビデオエントロピー復号化方法は、前記ピクチャに含まれるスライスセグメントのうち、前記スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー復号化のために、前記保存されたコンテクスト変数を利用する段階を含む。
多様な実施形態による前記ビデオエントロピー復号化方法は、前記ビットストリームのピクチャパラメータセットから獲得された第1情報に基づいて、前記ピクチャに従属的スライスセグメントが含まれているか否かということを決定する段階と、前記ビットストリームのスライスセグメント別データのうち、前記最大符号化単位に係わるデータから獲得された第2情報に基づいて、前記最大符号化単位が前記スライスセグメントにおいて、最後の最大符号化単位であるか否かということを決定する段階と、前記最大符号化単位に係わるデータから、前記ビンストリングを獲得する段階と、を含んでもよい。
多様な実施形態による前記ビデオエントロピー復号化方法は、前記ビットストリームのスライスセグメントヘッダから獲得された第3情報に基づいて、前記スライスセグメントに含まれたサブセットのエントリーポイントの個数を決定する段階と、前記ビットストリームのスライスセグメントヘッダから獲得された前記エントリーポイント別オフセットに係わる第4情報に基づいて、前記第4情報が示す数から1位増加した数であるオフセットを利用して、各エントリーポイントの位置を決定する段階と、を含み、前記ピクチャに含まれたスライスセグメントにタイルが含まれているか、前記ピクチャに含まれた最大符号化単位のコンテクスト変数のために同期化動作が遂行される場合、前記エントリーポイントの個数、及び前記エントリーポイントの位置を決定することができる。
多様な実施形態によるビデオエントロピー符号化方法は、最大符号化単位の符号化を介して決定されたシンボルのビット列を生成する段階と、前記シンボルに対応するシンタックス要素値のビンインデックス別コンテクスト変数を決定する段階と、前記シンタックス要素のコンテクスト変数に基づいて、前記シンタックス要素値を示すビンストリングを決定する段階と、シンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階と、を含む。
多様な実施形態によって、前記コンテクスト変数を保存する段階は、前記スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、前記ピクチャに従属的スライスセグメントが含まれている場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階を含んでもよい。
多様な実施形態によるビデオエントロピー復号化装置は、ビットストリームから獲得した最大符号化単位に係わるビンストリング及びビンインデックスを決定し、前記ビンインデックスにおいてシンタックス要素に割り当てられるビンストリングと、前記獲得されたビンストリングとを比較し、前記シンタックス要素の値を決定するコンテクスト初期化部;前記シンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存するコンテクスト保存部;及び前記決定されたシンタックス要素の値を利用して、前記最大符号化単位のシンボルを復元するシンボル復元部;を含む。
多様な実施形態によるビデオエントロピー符号化装置は、最大符号化単位の符号化を介して決定されたシンボルのビット列を生成する二進化部;前記シンボルに対応するシンタックス要素値のビンインデックス別コンテクスト変数を決定し、前記シンタックス要素のコンテクスト変数に基づいて、前記シンタックス要素値を示すビンストリングを決定するビンストリング決定部;及びシンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存するコンテクスト保存部;を含む。
多様な実施形態によるビデオエントロピー復号化方法を具現するためのプログラムを収録したコンピュータで読み取り可能な記録媒体を提案する。
多様な実施形態によるビデオエントロピー符号化方法を具現するためのプログラムを収録したコンピュータで読み取り可能な記録媒体を提案する。
以下、図1Aないし図7を参照し、多様な実施形態によって、スライスセグメントでのエントロピー符号化技法、及びスライスセグメントでのエントロピー復号化技法について開示する。また、図8ないし図20を参照し、先に提案したエントロピー符号化技法及び復号化技法が適用可能な多様な実施形態によるツリー構造の符号化単位に基づいたビデオ符号化技法及びビデオ復号化技法について開示する。また、図21ないし図27を参照し、先に提案したビデオ符号化方法、ビデオ復号化方法が適用可能な多様な実施形態について開示する。以下、「映像」は、ビデオの静止映像や動画、すなわち、ビデオそのものを示すことができる。
図1Aは、多様な実施形態によるビデオエントロピー符号化装置10のブロック図である。
多様な実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16を含む。
ビデオエントロピー符号化装置10は、最大符号化単位別に符号化されたシンボルに対して、エントロピー符号化を行うことができる。ビデオエントロピー符号化装置10は、最大符号化単位別に符号化を行うビデオ符号化部(図示せず)を保存することができる。
以下、説明の便宜のために、ビデオエントロピー符号化装置10がビデオ符号化部(図示せず)を含み、最大符号化単位別に符号化し、シンボルを生成する過程について詳細に説明する。ただし、ビデオエントロピー符号化装置10は、ビデオ符号化部(図示せず)を直接含む構造に限定されるものではなく、外部の符号化装置で符号化されたシンボルを受信することもできるということに留意しなければならない。
一実施形態によるビデオ符号化過程は、映像データの時空間的類似性によって重複するデータを最小化する過程であるソース符号化過程と、ソース符号化を介して生成されたデータのビット列において、さらに重複性を最小化する過程であるエントロピー符号化過程とに区分される。一実施形態によるビデオエントロピー符号化装置10は、ビデオを構成するそれぞれのピクチャをブロック別にソース符号化し、符号化シンボルを生成する。ソース符号化は、空間領域のビデオデータに対して、ブロック単位でイントラ予測/インター予測、変換、量子化を行う過程を含む。ソース符号化の結果、ブロック別に符号化シンボルが生成される。例えば、レジデュアル(residual)成分の量子化された変換係数、動きベクトル、イントラモード属性、インタモード属性、量子化パラメータなどが符号化シンボルにもなる。
一実施形態によるエントロピー符号化は、シンボルをビット列に変換する二進化過程と、ビット列に対してコンテクスト基盤の算術符号化を行う算術符号化過程と、に分類することができる。コンテクスト基盤の算術符号化を行う算術符号化方式として、CABAC(context adaptive binary arithmetic ccoding)などが広く利用されている。コンテクスト基盤の算術符号化/復号化によれば、シンボルビット列の各ビットがコンテクストの各ビン(bin)になり、各ビット位置がビンインデックスにマッピングされる。ビット列長が、すなわち、ビンの長さは、シンボル値の大きさによって変わる。コンテクスト基盤の算術符号化/復号化のためには、シンボルのコンテクストを決定するコンテクストモデリングが必要である。
コンテクストモデリングのためには、シンボルビット列のビット位置ごとに、すなわち、それぞれのビンインデックスごとに、コンテクストを新たに更新する必要がある。ここで、コンテクストモデリングは、各ビンで、0または1が発生する確率を分析する過程である。これまでのコンテクストに、新たなブロックのシンボルのビット別確率を分析した結果を反映させてコンテクストを更新する過程が、ブロックごとに反復される。かようなコンテクストモデリングの結果を収録した情報として、各ビンごとに発生確率がマッチングされた確率表が提供される。一実施形態によるエントロピーコーディング確率情報は、かようなコンテクストモデリング結果を収録した情報でもある。
従って、コンテクストモデリング情報、すなわち、エントロピーコーディング確率情報が確保されれば、エントロピーコーディング確率情報のコンテクストに基づいて、ブロックシンボルの二進化されたビット列のビットごとにコードを割り当てることにより、エントロピー符号化が行われる。
また、エントロピー符号化は、コンテクストを基盤とする算術符号化/復号化を行うので、ブロックごとにシンボルコードコンテクスト情報が更新され、更新されたシンボルコードコンテクスト情報を使用してエントロピー符号化を行うことにより、圧縮率が向上する。
本発明の多様な実施形態によるビデオ符号化技法は、データ単位である「ブロック」に対するビデオ符号化技法にのみ限定されると解釈されてはならなず、多様なデータ単位に適用される。
映像符号化の効率性のために、映像を所定サイズのブロックに分割して符号化する。ブロックの属性は、正方形または長方形でもあり、任意の幾何学的形態でもある。一定サイズのデータ単位に制限されるものではない。一実施形態によるブロックは、ツリー構造による符号化単位において、最大符号化単位、符号化単位、予測単位、変換単位などでもある。ツリー構造による符号化単位に基づいたビデオ符号化/復号化方式は、図8ないし図20を参照して後述する。
ピクチャのブロックは、ラスタースキャン方向に沿って符号化される。
ビデオエントロピー符号化装置10は、ピクチャを一つ以上のタイルに分割し、各タイルは、ピクチャのブロックのうち、ラスター方向に沿って羅列されたブロックを含んでもよい。ピクチャは、一つ以上の縦列に分割するタイルに分割されるか、一つ以上の横列に分割するタイルに分割されるか、または1列以上の縦列、及び1列以上の横列に分割されるタイルに分割される。各タイルは、空間領域を分割し、各空間領域を個別的に符号化するために、ビデオエントロピー符号化装置10は、タイル別に個別的に符号化することができる。
各スライスセグメントは、ラスター方向に沿って羅列されたブロックを含むので、ビデオエントロピー符号化装置10は、ピクチャを横方向に分割することにより、スライスセグメントを生成することもできる。ピクチャは、一つ以上のスライスセグメントに分割される。各スライスセグメント別に、1つのNAL(network adaptation layer)ユニットを介して伝送される。
一実施形態によるビデオエントロピー符号化装置10は、かようなスライスセグメントに対する符号化を行うことができる。一実施形態によるビデオエントロピー符号化装置10は、スライスセグメントごとに含まれたブロックに対して順次に符号化を行い、ブロック別に符号化シンボルを生成することができる。各スライスセグメント別に、ブロックの符号化データが1つのNALユニットに含まれて送受信される。各タイルは、少なくとも1つのスライスセグメントを含んでもよい。場合により、スライスセグメントが、少なくとも1つのタイルを含んでもよい。
また、スライスセグメントは、従属的スライスセグメントと、独立的スライスセグメントとに分類される。
現在スライスセグメントが従属的スライスセグメントである場合、現在スライスセグメントより先に符号化された以前スライスセグメントの符号化シンボルを参照するインピクチャ予測(in-picture prediction)が行われる。また、現在スライスセグメントが従属的スライスセグメントである場合、現在スライスセグメントより先に符号化された以前スライスセグメントのエントロピー情報を参照する従属的なエントロピー符号化が行われる。
現在スライスセグメントが独立的スライスセグメントである場合、以前スライスセグメントを参照してインピクチャ予測を行わず、以前スライスセグメントのエントロピー情報を参照しない。
一実施形態による1つのピクチャは、1つの独立的スライスセグメントと、ラスタースキャン順序によって、独立的スライスセグメントに連続する少なくとも1つの従属的セグメントを含んでもよい。1つの独立的スライスセグメントが、1つのスライスでもある。
一実施形態によるビデオエントロピー符号化装置10は、タイル別に、他のタイルと個別的に符号化することができる。ビデオエントロピー符号化装置10は、タイル別に、現在タイルに含まれた最大符号化単位を順次に符号化することができる。
また、一実施形態によるビデオエントロピー符号化装置10は、スライスセグメント別に、現在スライスセグメントの最大符号化単位を符号化することができる。現在スライスセグメントに含まれた最大符号化単位のうち、所定タイルに含まれる最大符号化単位は、現在タイルでの符号化順序によって符号化することができる。
一実施形態によるビデオエントロピー符号化装置10は、現在スライスセグメントの全体最大符号化単位が、現在タイルに属するとき、現在スライスセグメントに含まれた多数の最大符号化単位を、現在タイル内でのラスタースキャン順序によって符号化することができる。その場合、現在スライスセグメントは、現在タイルの境界にかけて位置しないので、現在スライスセグメントの最大符号化単位は、現在タイルの境界を越えて位置しない。その場合、一実施形態によるビデオエントロピー符号化装置10は、各タイルに含まれた少なくとも1つのスライスセグメント別に順次に符号化し、各スライスセグメントに含まれた多数のブロックを、ラスタースキャン順序によって符号化することができる。
また、現在スライスセグメントが少なくとも1つのタイルを含む場合にも、ビデオエントロピー符号化装置10は、現在スライスセグメントに含まれた最大符号化単位のうち、現在タイルに属する最大符号化単位に対して、現在タイルでの最大符号化単位のラスタースキャン順序によって符号化を行うことができる。一実施形態によるビデオエントロピー符号化装置10は、スライスセグメントに対して順次に符号化を行うことができる。従って、一実施形態によるスライスビデオエントロピー符号化装置10は、スライスセグメントに対して順次に符号化を行い、各スライスセグメントごとに含まれたブロックに対して順次に符号化を行い、ブロック別に符号化シンボルを生成することができる。スライスセグメントのブロックごとに、イントラ予測、インター予測、変換、インループフィルタリング、SAO(sample adaptive offset)補償、量子化を行うことができる。
ソース符号化過程で生成された符号化シンボル、例えば、イントラサンプル、動きベクトル、符号化モード情報などを予測符号化するために、インピクチャ予測が行われる。インピクチャ予測が行われる場合には、現在符号化シンボルの代わりに、現在符号化シンボルと、以前符号化シンボルとの差値が符号化される。また、現在サンプルの代わりに、現在サンプルと、隣接サンプルとの差値が符号化される。
また、エントロピー符号化過程で生成されたエントロピーコンテクスト情報や、コードコンテクスト情報などを予測符号化するために、従属的エントロピー符号化が行われる。従属的エントロピー符号化が行われる場合には、現在エントロピー情報と、以前エントロピー情報とが同一であるならば、現在エントロピー情報の符号化が省略される。
ただし、ビデオエントロピー符号化装置10は、各タイルに対して個別的に符号化するので、互いに異なるタイルに属する最大符号化単位の間には、インピクチャ予測または従属的エントロピー符号化を行わない。
ビデオエントロピー符号化装置10は、スライスセグメントの使用可能性や、スライスセグメントの属性を示す情報を、SPS(sequence parameter set)、PPS(picture parameter set)、スライスセグメントヘッダのような各種符号化単位のヘッダに記録することができる。
例えば、ビデオエントロピー符号化装置10は、現在スライスセグメントが、現在ピクチャにおいて、最初のスライスセグメントであるか否かということを示す情報を含むスライスセグメントヘッダを生成することができる。
現在スライスセグメントが属している現在ピクチャに係わる各種基本情報は、PPSに収録されて伝送される。特に、PPSは、現在ピクチャが従属的スライスセグメントを含むか否かということについての情報を含んでもよい。従って、現在ピクチャにおいて、従属的スライスセグメントが使用されることを示す情報がPPSに収録されるとき、ビデオエントロピー符号化装置10は、現在スライスセグメントヘッダに、現在スライスセグメントが、以前スライスセグメントのスライスヘッダ情報を利用する従属的スライスセグメントであるか否かということを示す情報を含んでもよい。
反対に、現在ピクチャのPPSに、現在ピクチャにおいて、従属的スライスセグメントが使用されないことを示す情報が含まれた場合には、現在スライスセグメントヘッダに、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が含まれない。
また、ビデオエントロピー符号化装置10は、現在スライスセグメントが最初のスライスセグメントではないならば、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報を、スライスセグメントヘッダに追加することができる。
すなわち、現在ピクチャのPPSに、現在ピクチャにおいて従属的スライスセグメントが使用されるということを示す情報が含まれており、現在スライスセグメントヘッダに、現在スライスセグメントが最初のスライスセグメントではないという情報が含まれている場合、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が、現在スライスセグメントヘッダにさらに追加される。一実施形態による最初のスライスセグメントは、独立的スライスセグメントでなければならない。従って、現在スライスセグメントが最初のスライスセグメントであるならば、従属的スライスセグメントであるか否かということを示す情報は、省略することができる。従って、ビデオエントロピー符号化装置10は、最初のスライスセグメントのためのスライスセグメントヘッダに、最初のスライスセグメントであるか否かということを示す情報に引き続き、現在スライスセグメントについての基本情報を、スライスセグメントヘッダに追加して伝送することができる。
従って、現在ピクチャにおいて、従属的スライスセグメントが使用され、現在スライスセグメントが最初のスライスセグメントではない場合、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が、現在スライスセグメントヘッダにさらに追加される。
ただし、現在スライスセグメントが最初のスライスセグメントではなく、従属的スライスセグメントであるならば、一部スライスセグメントについての基本情報は、以前スライスセグメントヘッダの情報と同一である。従って、現在スライスセグメントヘッダは、最初のスライスセグメントであるか否かということを示す情報、従属的スライスセグメントであるか否かということを示す情報を含むが、以前スライスセグメントヘッダの情報と重複する情報は、省略したまま伝送することができる。
一実施形態による現在スライスセグメントが従属的スライスセグメントではないならば、現在スライスセグメントヘッダは、従属的スライスセグメントであるか否かということを示す情報を含みながら、現在スライスセグメントのための各種ヘッダ情報をさらに含んでもよい。
また、ビデオエントロピー符号化装置10は、スライスセグメントヘッダに、量子化パラメータと、エントロピー符号化のためのコンテクストの初期コンテクスト情報とが収録して伝送することができる。
しかし、現在スライスセグメントが従属的スライスセグメントである場合、ビデオエントロピー符号化装置10は、現在スライスセグメントより先に符号化された以前スライスセグメントの符号化シンボルを参照するインピクチャ予測を行うことができる。現在スライスセグメントが従属的スライスセグメントである場合、ビデオエントロピー符号化装置10は、現在スライスセグメントより先に符号化された以前スライスセグメントのエントロピー情報を参照する従属的なエントロピー符号化を行うこともできる。
従って、ビデオエントロピー符号化装置10は、現在スライスセグメントが従属的スライスセグメントである場合には、現在スライスセグメントのスライスセグメントヘッダに、量子化パラメータと初期コンテクスト情報とを収録しない。従属的スライスセグメントの量子化パラメータと、初期コンテクスト情報は、以前に符号化された独立的スライスセグメントのヘッダ情報に収録された量子化パラメータと初期コンテクスト情報とに初期化される。
現在スライスセグメントが独立的スライスセグメントである場合、ビデオエントロピー符号化装置10は、インピクチャ予測を行わないので、以前スライスセグメントと関係なく、現在スライスセグメントの符号化シンボルのビットストリームを出力することができる。現在スライスセグメントが独立的スライスセグメントである場合、ビデオエントロピー符号化装置10は、以前に符号化された隣接するスライスセグメントのエントロピー情報と関係なく、現在スライスセグメントのエントロピー情報を出力することもできる。例えば、現在スライスセグメントが独立的スライスセグメントである場合には、現在スライスセグメントヘッダに、量子化パラメータと初期コンテクスト情報とを収録しなければならない。
ビデオエントロピー符号化装置10は、スライスセグメント別に、スライスセグメントヘッダ及びスライスセグメントのシンボルを伝送することができる。
以下、図1Bを参照し、ビデオエントロピー符号化装置10の各構成要素別に、ビデオエントロピー符号化を行う動作について詳細に説明する。
図1Bは、多様な実施形態によるビデオエントロピー符号化方法のフローチャートを図示している。
ビデオエントロピー符号化装置10は、ピクチャの少なくとも1つのスライスセグメントに分割し、スライスセグメント別に符号化を行い、スライスセグメントに含まれた最大符号化単位に対して順次に符号化を行うということは、前述の通りである。
段階11において、最大符号化単位別に符号化を行って決定されたシンボルに対して、二進化部12が二進化を行い、シンボルのビット列を生成することができる。
段階13において、ビンストリング決定部14は、最大符号化単位のシンボルに対応するシンタックス要素(syntaxel ement)値のビンインデックス別コンテクスト変数を決定することができる。先に符号化された他の最大符号化単位で使用されたシンタックス要素値のビンインデックス別コンテクスト変数に基づいて、現在最大符号化単位のためのコンテクスト変数が決定される。
コンテクスト変数は、コンテクストテーブル及びコンテクストインデックスを含んでもよい。シンタックス要素別に、コンテクスト変数が決定される。
段階15において、ビンストリング決定部14は、決定されたシンタックス要素のコンテクスト変数に基づいて、シンタックス要素値を示すビンストリングを決定することができる。ビデオエントロピー符号化装置10は、各シンタックス要素に対して、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。
ビンストリング決定部14は、現在シンタックス要素値に対するコンテクストテーブルにおいて、段階13で決定されたコンテクスト変数が示すビンストリングを採択することができる。
ビデオエントロピー符号化装置10は、最大符号化単位に係わる全てのシンタックス要素に係わるビンストリングを生成した後、最大符号化単位で決定されたコンテクスト変数を保存するか否かということを決定することができる。
段階17において、コンテクスト保存部16は、シンタックス要素が最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
コンテクスト保存部16は、スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
ピクチャに複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
ビデオエントロピー符号化装置10は、ピクチャに含まれたスライスセグメント、最大符号化単位、最大符号化単位を復号化するのに共通して必要な各種情報を収録するピクチャパラメータセットを生成することができる。ビデオエントロピー符号化装置10は、ピクチャパラメータセットに、ピクチャに従属的スライスセグメントが含まれているか否かということを示す第1情報を含めることができる。
ビデオエントロピー符号化装置10は、各スライスセグメントに含まれた各最大符号化単位を符号化して生成されたデータを含むスライスセグメントデータを生成することができる。ビデオエントロピー符号化装置10は、スライスセグメント別データのうち最大符号化単位に係わるデータに、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位であるか否かということを示す第2情報を含めることができる。また、最大符号化単位に係わるデータに、エントロピー符号化によって生成されたビンストリングも含まれている。
ビデオエントロピー符号化装置10は、スライスセグメントに含まれた最大符号化単位、最大符号化単位を復号化するのに必要な共通した各種情報を含むスライスセグメントヘッダを生成することができる。ビデオエントロピー符号化装置10は、スライスセグメント別に符号化を行った結果、ピクチャパラメータセット、スライスセグメントヘッダ、及びスライスセグメント別のデータを含むビットストリームを生成することができる。
ビデオエントロピー符号化装置10は、ピクチャに含まれたスライスセグメントにタイルが含まれているか、ピクチャに含まれた最大符号化単位のコンテクスト変数のために同期化動作が行われる場合、スライスセグメントヘッダに、スライスセグメントに含まれたサブセットのエントリーポイントの個数を示す第3情報、及びエントリーポイント別オフセットより1ほど小さい数を示す第4情報を含めることができる。
スライスセグメントに含まれたサブセットは、スライスセグメントに含まれた最大符号化単位のうち、最大符号化単位のスキャン順序によって順次に符号化される最大符号化単位のグループを意味する。各サブセットに対するプロセッシングは、並列的に行われる。
各サブセットごとに割り当てられた第4情報を利用して、以前サブセットから現在サブセットまでのサブセットオフセットを合算することにより、現在の最初のバイトが決定される。サブセットが2以上存在するならば、サブセットオフセットが0より大きい数でなければならないので、サブセットオフセットを示す第4情報は、サブセットオフセットから1を差し引いた値に決定される。従って、実際サブセットオフセットは、第4情報が示す数に1ほど増加させた値でもある。
各サブセットを構成するバイトのインデックスは、0から始まり、最初のバイトを示すバイトインデックスは、0である。従って、現在の最初バイトに、現在サブセットに割り当てられた第4情報が示す数を合算し、現在の最後バイトが決定される。
一実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16を総括的に制御する中央プロセッサ(図示せず)を含んでもよい。または、二進化部12、ビンストリング決定部14及びコンテクスト保存部16が、それぞれの自体プロセッサ(図示せず)によって作動し、プロセッサ(図示せずが相互有機的に作動することにより、ビデオエントロピー符号化装置10が全体的に作動することもできる。または、一実施形態によるビデオエントロピー符号化装置10の外部プロセッサ(図示せず)の制御により、ビデオエントロピー符号化装置10及びビデオエントロピー符号化装置10が制御されてもよい。
一実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16の入出力データが保存される一つ以上のデータ保存部(図示せず)を含んでもよい。ビデオエントロピー符号化装置10は、データ保存部(図示せず)のデータ入出力を管轄するメモリ制御部(図示せず)を含んでもよい。
図2Aは、多様な実施形態によるビデオエントロピー復号化装置のブロック図である。
一実施形態によるビデオエントロピー復号化装置20は、コンテクスト初期化部22、シンボル復元部24及びコンテクスト保存部26を含む。
一実施形態によるビデオエントロピー復号化装置20は、ピクチャが2以上のタイルと、少なくとも1つのスライスセグメントとに分割されて符号化された結果として生成されたビットストリームを受信することができる。ビットストリームは、スライスセグメント別に生成されたデータでありながら、タイル別に生成されたデータでもある。
以下、ビデオエントロピー復号化装置20が、スライスセグメントの属性によって、スライスセグメントヘッダをパージングすることができる。ビデオエントロピー復号化装置20は、現在スライスセグメントのスライスセグメントヘッダから、現在スライスセグメントが、現在ピクチャにおいて、最初のスライスセグメントであるか否かということを示す情報をパージングすることができる。
ビデオエントロピー復号化装置20は、パージングされた情報から、現在スライスセグメントが最初のスライスセグメントではないということを判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントが以前スライスセグメントのスライスヘッダ情報を利用する従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。
ただし、現在スライスセグメントが属している現在ピクチャに係わるPPSから、現在ピクチャが従属的スライスセグメントを含むか否かということについての情報がパージングされる。従って、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されるということを示す情報がパージングされた場合、ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をパージングすることができる。
反対に、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されないということを示す情報がパージングされた場合には、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報がパージングされない。
従って、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されるということを示す情報がパージングされ、現在スライスセグメントが最初のスライスセグメントではないことを示す情報がパージングされるならば、ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。すなわち、現在ピクチャが、従属的スライスセグメントを使用し、現在従属的スライスセグメントが最小スライスセグメントではないと判読された場合、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。
ビデオエントロピー復号化装置20が、パージングされた情報から、現在スライスセグメントが最初のスライスセグメントであると判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントが、従属的スライスセグメントであるか否かということを示す情報がパージングされない。最初のスライスセグメントは、従属的スライスセグメントではありえないために、パージング情報なしも、独立的スライスセグメントであるということが決定される。従って、ビデオエントロピー復号化装置20は、現在スライスセグメントが最初のスライスセグメントであるならば、ピクチャの最初のスライスセグメントヘッダから、最初のスライスセグメントであるか否かということを示す情報、及び現在スライスセグメントについての基本情報をさらにパージングすることができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報から、現在スライスセグメントが従属的スライスセグメントであるということを判読するならば、以前スライスセグメントのヘッダからパージングされた一部ヘッダ情報を、現在スライスセグメントの基本情報として決定することができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報から、現在スライスセグメントが従属的スライスセグメントではないと判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントのための各種ヘッダ情報をパージングすることができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報、及び現在スライスセグメントのシンボルを利用して、現在スライスセグメントを復号化することができる。
ビデオエントロピー復号化装置20は、1つのNALユニットを介して、各スライスセグメントが受信されれば、スライスセグメント別に、ブロックの符号化データが含まれて受信される。各タイルは、少なくとも1つのスライスセグメントを含んでもよい。場合により、スライスセグメントが少なくとも1つのタイルを含んでもよい。スライスセグメントとタイルとの関係は、先に図1A及び図1Bを参照して詳細に説明したところと同一である。
また、ビデオエントロピー復号化装置20は、復元された現在スライスセグメントを含み、各タイルに含まれる少なくとも1つのスライスセグメントを復元し、復元されたタイルを組み合わせてピクチャを復元することができる。
ビデオエントロピー復号化装置20は、タイル別に、現在タイルに含まれた少なくとも1つのスライスセグメント別に、現在スライスセグメントに含まれた多数のブロックのシンボルをラスタースキャン順序によってパージングすることができる。また、ビデオエントロピー復号化装置20は、ブロックのラスタースキャン順序によってパージングされたシンボルを利用して、ブロックをラスタースキャン順序によって復号化することができる。
ビデオエントロピー復号化装置20は、各スライスセグメントのビットストリームに対してエントロピー復号化を行い、最大符号化単位別に符号化シンボルをパージングすることができる。スライスセグメントに含まれた最大符号化単位に対して順次にエントロピー復号化を行い、最大符号化単位別符号化シンボルをパージングすることができる。以下、ビデオエントロピー復号化装置20が、スライスセグメントに含まれた符号化単位別に符号化シンボルをパージングして復元する過程について、以下図2Bを参照して詳細に説明する。
図2Bは、多様な実施形態によるビデオエントロピー復号化方法のフローチャートを図示している。
段階21において、コンテクスト初期化部22は、ビットストリームから獲得した最大符号化単位に係わるビンストリングと、ビンインデックスとを決定することができる。
コンテクスト初期化部22は、各シンタックス要素に対して、コンテクストインデックス別に初期化値に係わる初期化テーブルを保存している。コンテクスト変数の初期化動作により、初期化テーブルに基づいて、現在シンタックス要素のコンテクストインデックスが初期化値に決定される。
また、コンテクスト初期化部22は、各シンタックス要素について、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。
コンテクスト初期化部22は、シンタックス要素のためのコンテクスト変数を決定することができる。周辺最大符号化単位のコンテクスト変数を利用して、現在最大符号化単位のコンテクスト変数を同期化することもできる。
段階23において、コンテクスト初期化部22は、コンテクストテーブルに基づいて、現在コンテクスト変数において、シンタックス要素に割り当てられるビンストリングと、段階21で決定されたビンインデックスでのビンストリングとを比較し、現在ビンストリングが示すシンタックス要素の値を決定することができる。
最大符号化単位のエントロピー復号化を始めるときの初期コンテクスト変数から、最大符号化単位に係わるビンストリングに対してエントロピー復号化を行いながら新たに蓄積されるコンテクストに基づいて、コンテクスト変数が更新される。
コンテクスト初期化部22は、ビットストリームのPPSから獲得された第1情報に基づいて、ピクチャに従属的スライスセグメントが含まれているか否かということを決定することができる。コンテクスト初期化部22は、ビットストリームのスライスセグメント別データのうち最大符号化単位に係わるデータから獲得された第2情報に基づいて、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位であるか否かということを決定することができる。また、コンテクスト初期化部22は、スライスセグメント別データのうち最大符号化単位に係わるデータからビンストリングを獲得することができる。
段階25において、コンテクスト保存部26は、シンタックス要素が最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数が保存される。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
段階27において、シンボル復元部24は、段階23で決定されたシンタックス要素の値を利用して、最大符号化単位のシンボルを復元することができる。
ビデオエントロピー復号化装置20は、ビットストリームのスライスセグメントヘッダから獲得された第3情報に基づいて、スライスセグメントに含まれたサブセットのエントリーポイントの個数を決定することができる。
ビデオエントロピー復号化装置20は、ビットストリームのスライスセグメントヘッダから獲得されたエントリーポイント別オフセットに係わる第4情報に基づいて、第4情報が示す数から1ほど増加した数であるオフセットを利用して、各エントリーポイントの位置を決定することができる。従って、ビデオエントロピー復号化装置20は、スライスセグメント、タイルまたは最大符号化単位の列のようなサブセットごとにエントリーポイントが明確に決定することができるので、周辺最大符号化単位のコンテクスト変数を獲得するエントロピー同期化地点を正確に決定することができる。
段階21ないし段階27によって、各スライスセグメントごとにパージングされた最大符号化単位の符号化シンボルを利用して、ビデオエントロピー復号化装置20は、各最大符号化単位に対して、ラスタースキャン順序によって順次に復号化を行うことができる。
ビデオエントロピー復号化装置20は、タイル別に、他のタイルと個別的に復号化することができる。1つのNALユニットには、タイル別に、現在タイルに含まれた最大符号化単位を順次に復号化することができる。
従って、ビデオエントロピー復号化装置20は、各スライスセグメントごとにパージングされた最大符号化単位の符号化シンボルを利用して、各最大符号化単位に対して、ラスタースキャン順序によって順次に復号化を行うことができる。
また、現在スライスセグメントに含まれた最大符号化単位のうち、所定タイルに含まれる最大符号化単位は、現在タイルでの復号化順序によって復号化することができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントの全体最大符号化単位が現在タイルに属するとき、現在スライスセグメントに含まれた多数の最大符号化単位を、現在タイル内でのラスタースキャン順序によって復号化することができる。その場合、現在スライスセグメントは、現在タイルの境界にかけて位置しない。ビデオエントロピー復号化装置20は、各タイルに含まれた少なくとも1つのスライスセグメント別に順次に復号化し、各スライスセグメントに含まれた多数のブロックをラスタースキャン順序によって復号化することができる。
また、現在スライスセグメントが少なくとも1つのタイルを含む場合にも、ビデオエントロピー復号化装置20は、現在スライスセグメントに含まれた最大符号化単位のうち、現在タイルに属する最大符号化単位に対して、現在タイルでの最大符号化単位のラスタースキャン順序によって復号化を行うことができる。
最大符号化単位別にパージングされたイントラサンプル、動きベクトル、符号化モード情報などのような符号化シンボルを利用して、インピクチャ予測が行われる。インピクチャ予測を介して、以前符号化シンボルの復元値と、現在符号化シンボルと以前符号化シンボルとの差値とが合成されることにより、現在符号化シンボルの復元値が決定される。また、現在サンプルより先に復元された隣接サンプルの復元値と、現在サンプルと以前サンプルとの差値が合成されることにより、現在サンプルの復元値が決定される。
最大符号化単位の符号化シンボルを利用した復号化は、逆量子化、逆変換、イントラ予測/動き補償などを介して行われる。例えば、各最大符号化単位の符号化シンボルに対して逆量子化を行い、変換単位の変換係数が復元され、変換単位の変換係数に対して逆変換を行い、予測単位のレジデュアル情報が復元される。レジデュアル情報においてイントラサンプルを利用して、イントラ予測が行われる。また、動きベクトルが示す他の復元予測単位とレジデュアル情報とを合成する動き補償を介して、現在予測単位のサンプルが復元される。また、最大符号化単位に対して、SAO補償及びインループフィルタリングが行われる。
従って、ビデオエントロピー復号化装置20は、各スライスセグメント及び各タイルの最大符号化単位に対して、タイル内での復号化順序によって順次に復号化することができる。
一実施形態によって、タイルが少なくとも1つのスライスセグメントを含む場合には、スライスセグメントごとに最大符号化単位を復号化し、スライスセグメント別に復元した結果を組み合わせ、1つのタイルが復元される。
また、一実施形態によってス、ライスセグメントが少なくとも1つのタイルを含む場合には、タイルごとに最大符号化単位を復号化し、タイル別に復元した結果を組み合わせ、1つのスライスセグメントが復元される。
ビデオエントロピー復号化装置20は、復元されたタイルまたは復元されたスライスセグメントで構成されたピクチャを復元することができる。
図1A、図1B、図2A、図2Bを参照して説明したエントロピー符号化/復号化方式に基づいて、現在ピクチャにおいて、従属的スライスセグメントが使用されるならば、各スライスセグメントの最後の最大符号化単位のエントロピー符号化(復号化)を完了した後、コンテクスト変数を保存することができる。従って、以前スライスセグメントが独立的スライスセグメントであるとしても、その次の従属的スライスセグメントのために必要なコンテクスト変数の初期変数を、先に符号化された独立的スライスセグメントの最後の最大符号化単位のコンテスト変数から獲得することができる。
また、エントロピー符号化/復号化のためのコンテクスト変数の同期化地点を効率的に知らせるために、サブセットオフセットから1ずつ減少した数を示す情報が、スライスセグメントを介して提供されるので、スライスセグメントのデータサイズが縮小される。
以下、図3及び図4を参照し、一実施形態によるビデオエントロピー符号化装置10及びビデオエントロピー復号化装置20が使用するサブ領域であるスライスセグメントとタイルとの関係について詳細に説明する。
図3は、ピクチャ内のタイル及び最大符号化単位を図示している。
ピクチャ301を、縦方向及び横方向のうち少なくとも一方向に分割して生成された各領域に対して、独立して符号化及び復号化を行うとき、各領域をタイルと呼ぶ。HD(high definision)級、UHD(ultra high definition)級の解像度のビデオの大データ量を利用して、リアルタイムでプロセッシングするために、ピクチャを少なくとも1列の縦列(column)と、少なくとも1列の横列(row)に分割してタイルが形成され、タイル別に符号化/復号化が行われる。
ピクチャ301において各タイルは、個別的に符号化/復号化される空間領域であるので、符号化/復号化する領域のタイルのみを選択的に符号化/復号化することが可能になる。
図3で、ピクチャ301が縦列境界321,323と横列境界311,313とによってタイルに分割される。縦列境界321,323のうち一つと、横列境界311,313のうち一つとによって取り囲まれた領域がタイルである。
ピクチャ301をタイルに分割して符号化するならば、縦列境界321,323と横列境界311,313との位置についての情報がSPS(sequence parameter set)またはPPS(picture parameter set)に収録されて伝送される。ピクチャ301の復号化時には、SPSまたはPPSから、縦列境界321,323と横列境界311,313との位置についての情報をパージングし、タイル別に復号化し、ピクチャ301の各サブ領域を復元し、縦列境界321,323と横列境界311,313とについての情報を利用して、各サブ領域を1つのピクチャ301に復元することができる。
ピクチャ301を最大符号化単位(LCU)に分割し、ブロック別に符号化/復号化が行われる。従って、ピクチャ301を、縦列境界321,323と横列境界311,313とに分割して形成された各タイルは、最大符号化単位を含む。ピクチャを分割する縦列境界321,323と横列境界311,313は、隣接するLCUの境界に沿って通過するので、各LCUを分割しない。従って、各タイルは、整数個のLCUを含む。
従って、ピクチャ301のタイル別にプロセッシングが行われながら、各タイルでは、LCU別に符号化/復号化が行われる。図3において、各LCUに表記されている数字は、タイル内でLCUのスキャン順序、すなわち、符号化または復号化されるために処理される順序を示す。
タイルは、原則的にタイル間で独立して符号化/復号化が行われるという点で、スライスセグメント及びスライスと比較される。以下、図4を参照し、スライスセグメント及びスライスについて詳細に説明する。
図4は、ピクチャ内のスライスセグメント及び最大符号化単位を図示している。
ピクチャ401は、多数のLCUに分割されている。図4では、ピクチャ401が横方向に13個、縦方向に9個、すなわち、総117個のLCUに分割されている。各LCUは、ツリー構造の符号化単位に分割されて符号化/復号化される。
ピクチャ401は、境界線411によって、上段スライス及び下段スライスの2つのスライスに分割されている。また、ピクチャ401は、境界線421,423,411により、スライスセグメント431,433,435,441に分割されている。
スライスセグメント431,433,435,441のタイプは、従属的スライスセグメント(dependent slice segment)と独立的スライスセグメント(independent slice segment)とに分類される。従属的スライスセグメントでは、所定スライスセグメントに対するソース符号化及びエントロピー符号化で利用されるか生成される情報が、異なるスライスセグメントのソース符号化及びエントロピー符号化のために参照される。復号化時にも、同様に従属的スライスセグメントのうち所定スライスセグメントに対するエントロピー復号化において、パージング情報及びソース復号化で利用されるか復元される情報が、異なるスライスセグメントのエントロピー復号化及びソース復号化のために参照される。
独立的スライスセグメントでは、スライスセグメント別に、ソース符号化及びエントロピー符号化で利用されたり生成されたりする情報が互いに全然参照されず、独立して符号化される。復号化時にも、同様に独立的スライスセグメントのエントロピー復号化及びソース復号化のために、他のスライスセグメントのパージング情報及び復元情報は、全然利用されない。
スライスセグメントのタイプが従属的スライスセグメントであるか、あるいは独立的スライスセグメントであるかということについての情報は、スライスセグメントヘッダに収録されて伝送される。ピクチャ301の復号化時には、スライスセグメントヘッダから、スライスセグメントタイプについての情報をパージングし、スライスセグメントのタイプによって、現在スライスセグメントを、他のスライスセグメントを参照して復元するか、あるいは他のスライスセグメントとは独立して復号化するかということを決定することができる。
特に、独立的スライスセグメントのスライスセグメントヘッダのシンタックス成分(syntax elements)の値、すなわち、ヘッダ情報は、先行するスライスセグメントのヘッダ情報から類推して決定されることがない。これに対し、従属的スライスセグメントのスライスセグメントヘッダのヘッダ情報は、先行するスライスセグメントのヘッダ情報から類推して決定される。
各スライスは、整数個のLCUを含んでもよい。また、1つのスライスは、少なくとも1つのスライスセグメントを含んでもよい。1つのスライスがスライスセグメントを一つのみ含むならば、独立的スライスセグメントを含む。また、1つのスライスは、1つの独立的スライスセグメントと、独立的スライスセグメントとに続き、少なくとも1つの従属的スライスセグメントをさらに含んでもよい。1つのスライスに含まれる少なくとも1つのスライスセグメントは、同一アクセスユニット(access unit)を介して送受信される。
ピクチャ410の上段スライスが、1つの独立的スライスセグメント421と、2つの従属的スライスセグメント433,435と、を含んでいる。ピクチャ410の下段スライスは、1つの独立的スライスセグメント441だけで構成されている。
以下、図5ないし図7を参照し、エントロピー復号化を介したシンボルのパージング過程について詳細に説明する。
図5は、一実施形態によるCABACパージング動作50のフローチャートを図示している。
一実施形態によって、ビデオエントロピー復号化装置20がCABAC復号化を行う場合、CABACパージング動作50を介して、所定シンタックス要素に係わるシンボルをパージングすることができる。
動作511を介して、ビデオエントロピー復号化装置20は、現在パージングするシンタックス要素がスライスセグメント、タイルまたはLCU列などのサブセットにおいて、最初のシンタックス要素であるか否か、すなわち、初めてパージングされるシンタックス要素であるか否かということを決定する。
最初のシンタックス要素であるならば、動作513を介して、コンテクスト内部変数が初期化される。コンテクスト内部変数は、現在シンタックス要素に係わるコンテクストインデックス及びコンテクストテーブルでもある。コンテクスト内部変数が既設定のデフォルト値に決定される。
動作521を介して、ビデオエントロピー復号化装置20は、ビットストリームから、現在シンタックス要素を示すビンストリングを獲得することができる。動作523及び動作524において、いったんビンストリングの最初のビンインデックスは、−1に設定し、ビンストリングの1ビットずつ追加されながら、ビンインデックスも、1ずつ増加する。
動作527を介して、ビデオエントロピー復号化装置20は、シンタックス要素の現在ビンインデックスに対応するコンテクスト変数を獲得することができる。例えば、現在ビンインデックスに対応するコンテクスト変数は、コンテクストテーブル、コンテクストインデックス及びバイパスフラグを含んでもよい。各シンタックス要素の各ビンインデックスに対応するように、既設定のコンテクスト変数に係わるデータがビデオエントロピー復号化装置20にあらかじめ保存されている。既保存のデータを基に、現在シンタックス要素のビンインデックスに対応するコンテクスト変数が選択される。
動作529を介して、ビデオエントロピー復号化装置20は、ビンストリングのコンテクスト変数に対応するビット列を復号化することができる。シンタックス要素別に、ビンインデックスによってあらかじめ設定されたバイパスフラグに係わるデータを基に、現在ビンインデックスに割り当てられるバイパス状態が決定される。シンタックス要素別に、現在符号化されるデータ単位(符号化単位、変換単位、予測単位など)の現在状態や属性(データ単位のスキャンインデックス、カラー成分インデックス、データ単位の大きさなど)に基づいて、コンテクストインデックスが決定される。コンテクストテーブルにおいて、現在コンテクストインデックス及びバイパス状態に対応するビット列が決定される。
動作531を介して、ビデオエントロピー復号化装置20は、現在シンタックス要素において使用可能なビット列を収録するデータと、動作529を介して決定された現在ビット列とを比較することができる。現在決定されたビット列が、ビット列データに属さないのであるならば、さらに動作525に戻り、ビンインデックスを1ほど増加させて1ビットを追加されたビンストリングに対し、さらにコンテクスト変数を決定し、ビット列を復号化する動作527,529が反復される。
動作529を介して決定された現在ビット列が、シンタックス要素に係わるビット列データに属するならば、動作533を介して、現在シンタックス要素がPCMモードであるということを示す情報「pcm_flag」でありながら、シンタックス要素値がPCMモードであるということを示すか否かということが判断される。動作529を介して、PCMモードの最大符号化単位であるということが決定されるならば、動作535において、復号化動作50が初期化される。
PCMモードではないならば、動作537を介して、現在シンタックス要素が現在サブセット(LCUまたはスライスセグメント)において最後のシンタックス要素であるか否か、すなわち、最後にパージングされる対象であるか否かということが判断される。最後のシンタックス要素であるならば、動作539において、現在LCUで最終的に更新されたコンテックスト変数が保存される。
コンテックスト変数の保存が完了するか、あるいは最後のシンタックス要素ではないならば、現在シンタックス要素に係わるパージング過程が完了する。
動作539で保存されたコンテクスト変数は、他ののエントロピー復号化のために利用される。図6Aは、保存されたコンテクスト変数を利用するエントロピー復号化過程を図示している。
サブセットが、各LCU行(row)である場合、以前LCU行の最終コンテクスト変数を利用して、現在LCU行の初期コンテクスト変数が決定される。
例えば、映像60において、現在LCU行の最初のLCUの初期コンテクスト変数は、真上に位置するLCU行の最後のLCUの最終コンテクスト変数として決定、すなわち、同期化される。従って、最初のLCU行の最初のLCU 61は、初期コンテクスト変数は、デフォルトコンテクスト変数に設定されるが、2番目LCU行の最初のLCU 63の初期コンテクスト変数631は、最初のLCU行の最後のLCU 62の最終コンテクスト変数629に決定され、3番目LCU行の最初のLCU 65の初期コンテクスト変数651は、2番目LCU行の最後のLCU 64の最終コンテクスト変数649として決定される。
もし同期化距離が1である場合には、現在LCUのコンテクスト変数の同期化のために、コンテクスト保存部26は、上端LCU行の2番目最大符号化単位のコンテクスト変数を利用することができる。従って、上端LCU行の2番目最大符号化単位の更新が完了し、最終コンテクスト変数が決定されれば保存し、保存された上端LCU行の最終コンテクスト変数を利用して、現在LCU行の最大符号化単位のコンテクスト変数を決定することができる。
図6Bは、一実施形態によるCABACコンテクスト変数の保存動作539の詳細フローチャートを図示している。
動作551において、コンテクスト保存部16,26は、現在LCUが現在サブセットにおいて2番目LCUであり、現在ピクチャにおいて、コンテクスト変数の同期化が行われなければならないか否かということを判断することができる。コンテクスト変数の同期化が必要であり、現在LCUが2番目LCUであるならば、動作553において、コンテクスト保存部16,26は、ウエーブフロントコーディング(WPP:wavefront parallel processing)のために、現在LCUの最終コンテクスト変数を保存することができる。ウエーブフロントコーディングの場合、図6Aにおいて、同期化距離が1である場合のように、現在LCU行の最初のLCUのコンテクスト変数は、上端LCU行の2番目LCUで保存されたコンテクスト変数に同期化される。
動作561において、コンテクスト保存部16,26は、現在LCUが現在スライスセグメントにおいて、最後のLCUであり、現在ピクチャに従属的スライスセグメントが存在するか否かということを判断することができる。従属的スライスセグメントが存在し、現在スライスセグメントが最後のスライスセグメントであるならば、動作563においてコンテクスト保存部16,26は、後続する従属的スライスセグメントのために、現在LCUの最終コンテクスト変数を保存することができる。
図7は、一実施形態によるスライスセグメントヘッダのシンタックスを図示している。
ビデオエントロピー復号化装置20は、スライスセグメントヘッダ71から、現在スライスセグメントのエントリーポイントオフセットに係わる情報を獲得することができる。具体的に見れば、現在スライスセグメントが含まれたピクチャにおいて、スライスセグメントがタイルの存在可能性「tiles_enabled_flag」の条件と、LCU別にコンテクスト変数の同期化可能性「entropy_coding_sync_enabled_flag」の条件とのうち少なくとも1つの条件を満足する場合(72)、スライスセグメントヘッダ71は、現在スライスセグメントに含まれたサブセットのエントリーポイントの個数を示す情報「num_entry_point_offsets」を収録する(73)。また、エントリーポイントの個数ほど、各エントピポイントごとに(74)、実際エントリーポイント別オフセットより1ほど小さい数を示す情報「entry_point_offset_minus1[i]」が割り当てられる(75)。
サブセットが2以上存在するならば、サブセットオフセットが0より大きい数でなければならないので、エントリーポイントオフセット情報「entry_point_offset_minus1[i]」は、実際サブセットオフセットから1を差し引いた値に決定される。従って、実際サブセットオフセットは、エントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数に1ほど増加させた値でもある。
各サブセットごとに割り当てられたエントリーポイントオフセット情報「entry_point_offset_minus1[i]」を利用して、以前サブセットから現在サブセットまでのサブセットオフセットを合算することにより、現在の最初バイトが決定される。従って、以前サブセットから現在サブセットまで各のエントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数に1ほど増加した値を合算した結果値が、現在の最初バイトに決定される。
各サブセットを構成するバイトのインデックスは、0から始まり、最初バイトを示すバイトインデックスは、0である。従って、現在の最初バイトに、現在サブセットに割り当てられたエントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数を合算し、現在の最後バイトが決定される。
一実施形態によるエントロピー符号化装置10、及び一実施形態によるエントロピー復号化装置20において、ビデオデータが分割されるブロックが最大符号化単位であり、各最大符号化単位は、ツリー構造の符号化単位に分割されるという点は、前述の通りである。以下、図8ないし図20を参照し、一実施形態による最大符号化単位及びツリー構造の符号化単位に基づいたビデオ符号化方法及びその装置、ビデオ復号化方法及びその装置について開示する。
図8は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置100のブロック図である。
一実施形態によって、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置100は、符号化単位決定部120及び出力部130を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置100は、「ビデオ符号化装置100」と縮約して指称する。
符号化単位決定部120は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも1つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ32x32,64x64,128x128,256x256のようなデータ単位であり、縦横に大きさが2の累乗である正方形のデータ単位でもある。
一実施形態による符号化単位は、最大サイズ及び最大深度で特徴づけられる。深度とは、最大符号化単位から符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれ、深度別符号化単位の大きさは小さくなるので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。
前述のように、符号化単位の最大サイズにより、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域(spatial domain)の映像データは、深度によって階層的に分類される。
最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度、及び符号化単位の最大サイズがあらかじめ設定されている。
符号化単位決定部120は、深度ごとに最大符号化単位の領域が分割された少なくとも1つの分割領域を符号化し、少なくとも1つの分割領域別に、最終符号化結果が出力される深度を決定する。すなわち、符号化単位決定部120は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最小の符号化誤差が発生する深度を選択し、符号化深度として決定する。決定された符号化深度及び最大符号化単位別映像データは、出力部130に出力される。
最大符号化単位内の映像データは、最大深度以下の少なくとも1つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも1つの符号化深度が決定される。
最大符号化単位の大きさは、深度が深くなるにつれ、符号化単位が階層的に分割されて分割され、符号化単位の個数は増加する。また、1つの最大符号化単位に含まれる同一深度の符号化単位であるとしても、それぞれのデータに対する符号化誤差を測定し、下位深度への分割いかんが決定される。従って、1つの最大符号化単位に含まれるデータであるとしても、位置によって深度別符号化誤差が異なるので、位置によって符号化深度が異なって決定される。従って、1つの最大符号化単位について、符号化深度が一つ以上設定され、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって区画される。
従って、一実施形態による符号化単位決定部120は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれる全ての深度別符号化単位において、符号化深度に決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内において、同一領域では、深度によって階層的に決定され、他の領域については、独立して決定される。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定される。
一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と係わる指標である。一実施形態による第1最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示すことができる。一実施形態による第2最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が0であるとするとき、最大符号化単位が1回分割された符号化単位の深度は1に設定され、2回分割された符号化単位の深度は2に設定される。その場合、最大符号化単位から4回分割された符号化単位が最小符号化単位であるならば、深度0,1,2,3及び4の深度レベルが存在するので、第1最大深度は4、第2最大深度は5に設定される。
最大符号化単位の予測符号化及び変換が行われる。予測符号化及び変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。
最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなるにつれて生成される全ての深度別符号化単位に対して、予測符号化及び変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも1つの最大符号化単位のうち、現在深度の符号化単位を基に、予測符号化及び変換について説明する。
一実施形態によるビデオ符号化装置100は、映像データの符号化のためのデータ単位の大きさまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピー符号化などの段階を経るが、全ての段階にわたって、同一データ単位が使用され、段階別にデータ単位が変更されてもよい。
例えば、ビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。
最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上さらに分割されない符号化単位を基に、予測符号化が行われる。以下、予測符号化の基になる、それ以上さらに分割されない符号化単位を「予測単位」と指称する。予測単位が分割されたパーティションは、予測単位、並びに予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。パーティションは、符号化単位の予測単位が分割された形態のデータ単位であり、予測単位は、符号化単位と同一サイズのパーティションでもある。
例えば、サイズ2Nx2N(ただし、Nは正の整数)の符号化単位が、それ以上分割されない場合、サイズ2Nx2Nの予測単位になり、パーティションの大きさは、2Nx2N、2NxN、Nx2N、NxNなどでもある。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションだけではなく、1:nまたはn:1のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。
予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つでもある。例えば、イントラモード及びインターモードは、2Nx2N,2NxN,Nx2N,NxNサイズのパーティションに対して遂行される。また、スキップモードは、2Nx2Nサイズのパーティションに対してのみ遂行される。符号化単位以内の1つの予測単位ごとに独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。
また、一実施形態によるビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を行うことができる。符号化単位の変換のためには、符号化単位より小さいか、あるいはそれと同じ大きさの変換単位を基に変換が行われる。例えば、変換単位は、イントラモードのためのデータ単位、及びインターモードのための変換単位を含んでもよい。
一実施形態によるツリー構造による符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的にさらに小サイズの変換単位に分割されながら、符号化単位のレジデュアルデータが変換深度によって、ツリー構造による変換単位によって区画される。
一実施形態による変換単位についても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ2Nx2Nの現在符号化単位の変換単位の大きさが2Nx2Nであるならば、変換深度0に設定され、変換単位の大きさがNxNであるならば、変換深度1に設定され、変換単位の大きさがN/2xN/2であるならば、変換深度2に設定される。すなわち、変換単位についても、変換深度によってツリー構造による変換単位が設定される。
符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、符号化単位決定部120は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、変換のための変換単位の大きさなどを決定することができる。
一実施形態による最大符号化単位のツリー構造による符号化単位及び予測単位/パーティション、並びに変換単位の決定方式については、図10ないし図20を参照して詳細に後述する。
符号化単位決定部120は、深度別符号化単位の符号化誤差を、ラグランジュ乗数(Lagrangian multiplier)基盤の率歪曲最適化技法(rate-distortion optimization)を利用して測定することができる。
出力部130は、符号化単位決定部120で決定された少なくとも1つの符号化深度に基づいて符号化された最大符号化単位の映像データ及び深度別符号化モードについての情報をビットストリーム形態で出力する。
符号化された映像データは、映像のレジデュアルデータの符号化結果でもある。
深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位の大きさ情報などを含んでもよい。
符号化深度情報は、現在深度で符号化せず、下位深度の符号化単位で符号化するか否かということを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上下位深度に分割されないように定義される。反対に、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなければならないので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。
現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに反復的に符号化が行われ、同一深度の符号化単位ごとに、再帰的(recursive)符号化が行われる。
1つの最大符号化単位内で、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも1つの符号化モードについての情報が決定されなければならないので、1つの最大符号化単位については、少なくとも1つの符号化モードについての情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なるので、データについて、符号化深度及び符号化モードについての情報が設定される。
従って、一実施形態による出力部130は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つに対して、当該符号化深度及び符号化モードに係わる符号化情報を割り当てられる。
一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれる全ての符号化単位、予測単位、パーティション単位及び変換単位の中に含まれている最大サイズの正方形データ単位でもある。
例えば、出力部130を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分についての情報、イントラモードの補間方式についての情報などを含んでもよい。
ピクチャ別、スライスセグメント別またはGOP(group of picture)別に定義される符号化単位の最大サイズについての情報、及び最大深度についての情報は、ビットストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどに挿入される。
また、現在ビデオに対して許容される変換単位の最大サイズについての情報、及び変換単位の最小サイズについての情報も、ビットストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどを介して出力される。出力部130は、予測と係わる参照情報、予測情報、スライスセグメントタイプ情報などを符号化して出力することができる。
ビデオ符号化装置100の最も簡単な形態の実施形態によれば、深度別符号化単位は、1階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが、2Nx2Nであるならば、下位深度の符号化単位の大きさは、NxNである。また、2Nx2Nサイズの現在符号化単位は、NxNサイズの下位深度符号化単位を最大4個含んでもよい。
従って、ビデオ符号化装置100は、現在ピクチャの特性を考慮して決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式などで符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定される。
従って、映像の解像度が非常に高いか、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。それにより、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮し、符号化単位の最大サイズを増大させながら、映像特性を考慮して符号化単位を調節することができるので、映像圧縮効率が上昇する。
一実施形態によるビデオ符号化装置100が、最大符号化単位ごとにツリー構造の符号化単位を決定し、符号化単位ごとに符号化を行った結果、シンボルが生成される。一実施形態によるビデオエントロピー符号化装置10は、最大符号化単位ごとに、シンボルに対して、エントロピー符号化を行うことができる。特に、ビデオエントロピー符号化装置10は、ピクチャが分割されたスライスセグメントまたはタイルごとに、横方向に連続する最大符号化単位で構成された最大符号化単位列に沿って、各最大符号化単位に係わるエントロピー符号化を行うことができる。また、エントロピー符号化装置10は、2以上の最大符号化単位列に対するエントロピー符号化を同時に並列処理することができる。
ビデオエントロピー符号化装置10は、最大符号化単位別に符号化を行って決定されたシンボルに対して二進化を行い、シンボルのビット列を生成することができる。最大符号化単位のシンボルに対応するシンタックス要素値のビンインデックス別コンテクスト変数が決定され、シンタックス要素のコンテクスト変数に基づいて、シンタックス要素値を示すビンストリングを決定することができる。ビデオエントロピー符号化装置10は、現在シンタックス要素値に係わるコンテクストテーブルにおいて、現在決定されたコンテクスト変数が示すビンストリングを採択することができる。
ビデオエントロピー符号化装置10は、最大符号化単位に係わる全てのシンタックス要素に係わるビンストリングを生成した後、最大符号化単位で決定されたコンテクスト変数を保存するか否かということを決定することができる。シンタックス要素が、最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数が保存される。
コンテクスト保存部16は、スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
図9は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置200のブロック図である。
一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置200は、受信部210、映像データ及び符号化情報抽出部220及び映像データ復号化部230を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置200は、「ビデオ復号化装置200」と縮約して指称する。
一実施形態によるビデオ復号化装置200の復号化動作のための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報など各種用語の定義は、図8及びビデオ符号化装置100を参照して説明したところと同一である。
受信部210は、符号化されたビデオに係わるビットストリームを受信してパージングする。映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって、符号化単位ごとに符号化された映像データを抽出し、映像データ復号化部230に出力する。映像データ及び符号化情報抽出部220は、現在ピクチャに係わるヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。
また、映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードについての情報を抽出する。抽出された符号化深度及び符号化モードについての情報は、映像データ復号化部230に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、映像データ復号化部230をして最大符号化単位ごとに映像データを復号化させる。
最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報について設定され、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位の大きさ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されてもよい。
映像データ及び符号化情報抽出部220が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置100のように、符号化端において、最大符号化単位別深度別符号化単位ごとに反復的に符号化を行い、最小符号化誤差を発生させることによって決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置200は、最小符号化誤差を発生させる符号化方式によってデータを復号化し、映像を復元することができる。
一実施形態による符号化深度及び符号化モードに係わる符号化情報は、当該符号化単位、予測単位及び最小単位のうち所定データ単位に対して割り当てられているので、映像データ及び符号化情報抽出部220は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているならば、同一符号化深度及び符号化モードについての情報を有している所定データ単位は、同一最大符号化単位に含まれるデータ単位と類推される。
映像データ復号化部230は、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、映像データ復号化部230は、最大符号化単位に含まれるツリー構造による符号化単位においてそれぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び逆変換過程を含んでもよい。
映像データ復号化部230は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。
また、映像データ復号化部230は、最大符号化単位別逆変換のために、符号化単位別に、ツリー構造による変換単位情報を読み取り、符号化単位ごとに、変換単位に基づいた逆変換を行うことができる。逆変換を介して、符号化単位の空間領域の画素値が復元される。
映像データ復号化部230は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度において、それ以上分割されないということを示しているならば、現在深度が符号化深度である。従って、映像データ復号化部230は、現在最大符号化単位の映像データに対して、現在深度の符号化単位を、予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用して復号化することができる。
すなわち、符号化単位、予測単位及び最小単位のうち所定データ単位に対して設定されている符号化情報を観察し、同一分割情報を含んだ符号化情報を保有しているデータ単位が集まり、映像データ復号化部230によって同一符号化モードで復号化する1つのデータ単位で見なされる。そのように決定された符号化単位ごとに、符号化モードについての情報を獲得し、現在符号化単位の復号化が行われる。
受信部210は、図2Aを参照して説明したビデオエントロピー復号化装置20を含んでもよい。ビデオエントロピー復号化装置20は、受信されたビットストリームから、多数の最大符号化単位列をパージングすることができる。
受信部210が、ビットストリームから第1最大符号化単位列及び第2最大符号化単位列を抽出すれば、ビデオエントロピー復号化装置20は、第1最大符号化単位列に対してエントロピー復号化を行い、第1最大符号化単位列の最大符号化単位のシンボルを順次に復元することができる。
ビデオエントロピー復号化装置20は、ビットストリームから獲得した最大符号化単位に係わるビンストリングとビンインデックスとを決定することができる。各シンタックス要素について、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。ビデオエントロピー復号化装置20は、コンテクストテーブルに基づいて、現在コンテクスト変数において、シンタックス要素に割り当てられるビンストリングと、現在決定されたビンインデックスでのビンストリングとを比較し、現在ビンストリングが示すシンタックス要素の値を決定することができる。
ビデオエントロピー復号化装置20は、シンタックス要素が、最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数が保存される。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
ビデオエントロピー復号化装置20は、各シンタックス要素の値を利用して、最大符号化単位のシンボルを復元することができる。
結局、ビデオ復号化装置200は、符号化過程において、最大符号化単位ごとに再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに対する復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位で決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。
従って、高い解像度の映像またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードについての情報を利用して、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。
図10は、本発明の一実施形態による符号化単位の概念を図示している。
符号化単位の例は、符号化単位の大きさは、幅x高さで表現され、サイズ64x64である符号化単位から、サイズ32x32,16x16,8x8を含んでもよい。サイズ64x64の符号化単位は、サイズ64x64,64x32,32x64,32x32のパーティションに分割され、サイズ32x32の符号化単位は、サイズ32x32,32x16,16x32,16x16のパーティションに分割され、サイズ16x16の符号化単位は、サイズ16x16,16x8、8x16,8x8のパーティションに分割され、サイズ8x8の符号化単位は、サイズ8x8,8x4,4x8,4x4のパーティションに分割される。
ビデオデータ310については、解像度が1920x1080に設定され、符号化単位の最大サイズが64に設定され、最大深度が2に設定されている。ビデオデータ320については、解像度が1920x1080に設定され、符号化単位の最大サイズが64に設定され、最大深度が3に設定されている。ビデオデータ330については、解像度が352x288に設定され、符号化単位の最大サイズが16に設定され、最大深度が1に設定されている。図10に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。
解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ330に比べ、解像度が高いビデオデータ310,320は、符号化サイズの最大サイズが64に選択される。
ビデオデータ310の最大深度が2であるので、ビデオデータ310の符号化単位315は、長軸サイズが64である最大符号化単位から、2回分割されて深度が2階層深くなり、長軸サイズが32,16である符号化単位まで含んでもよい。一方、ビデオデータ330の最大深度が1であるので、ビデオデータ330の符号化単位335は、長軸サイズが16である符号化単位から、1回分割されて深度が1階層深くなり、長軸サイズが8である符号化単位まで含んでもよい。
ビデオデータ320の最大深度が3であるので、ビデオデータ320の符号化単位325は、長軸サイズが64である最大符号化単位から、3回分割されて深度が3階層深くなり、長軸サイズが32,16,8である符号化単位まで含んでもよい。深度が深くなるほど、詳細情報の表現能が向上する。
図11は、本発明の一実施形態による、符号化単位に基づいた映像符号化部400のブロック図である。
一実施形態による映像符号化部400は、ビデオ符号化装置100の符号化単位決定部120において、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部410は、現在フレーム405において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの現在フレーム405及び参照フレーム495を利用して、インター推定及び動き補償を行う。
イントラ予測部410、動き推定部420及び動き補償部425から出力されたデータは、変換部430及び量子化部440を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部460、逆変換部470を介して、空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部480及びループフィルタリング部490を経て後処理され、参照フレーム495として出力される。量子化された変換係数は、エントロピー符号化部450を経て、ビットストリーム455として出力される。
一実施形態によるビデオ符号化装置100に適用されるためには、映像符号化部400の構成要素である、イントラ予測部410、動き推定部420、動き補償部425、変換部430、量子化部440、エントロピー符号化部450、逆量子化部460、逆変換部470、デブロッキング部480及びループフィルタリング部490が、いずれも最大符号化単位ごとに最大深度を考慮し、ツリー構造による符号化単位のうちそれぞれの符号化単位に基づいた作業を遂行しなければならない。
特に、イントラ予測部410、動き推定部420及び動き補償部425は、現在最大符号化単位の最大サイズ及び最大深度を考慮し、ツリー構造による符号化単位のうちそれぞれの符号化単位のパーティション及び予測モードを決定し、変換部430は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位の大きさを決定しなければならない。
特に、エントロピー符号化部450は、一実施形態によるビデオエントロピー符号化装置10に相応する。
図12は、本発明の一実施形態による符号化単位に基づいた映像復号化部500のブロック図である。
ビットストリーム505がパージング部510を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化についての情報がパージングされる。符号化された映像データは、エントロピー復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、逆変換部540を経て、空間領域の映像データが復元される。
空間領域の映像データに対して、イントラ予測部550は、イントラモードの符号化単位に対してイントラ予測を行い、動き補償部560は、参照フレーム585を共に利用して、インターモードの符号化単位に対して動き補償を行う。
イントラ予測部550及び動き補償部560を経た空間領域のデータは、デブロッキング部570及びループフィルタリング部580を経て後処理され、復元フレーム595として出力される。また、デブロッキング部570及びループフィルタリング部580を経て後処理されたデータは、参照フレーム585として出力される。
ビデオ復号化装置200の映像データ復号化部230において、映像データを復号化するために、一実施形態による映像復号化部500のパージング部510以後の段階別作業が遂行される。
一実施形態によるビデオ復号化装置200に適用されるためには、映像復号化部500の構成要素である、パージング部510、エントロピー復号化部520、逆量子化部530、逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570及びループフィルタリング部580が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて作業を遂行しなければならない。
特に、イントラ予測部550、動き補償部560は、ツリー構造による符号化単位ごとにそれぞれ、パーティション及び予測モードを決定し、逆変換部540は、符号化単位ごとに、変換単位の大きさを決定しなければならない。特に、エントロピー復号化部520は、一実施形態によるビデオエントロピー復号化装置20に相応する。
図13は、本発明の一実施形態による、深度別符号化単位及びパーティションを図示している。
一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高さ及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定される。あらかじめ設定された符号化単位の最大サイズにより、深度別符号化単位の大きさが決定される。
一実施形態による符号化単位の階層構造600は、符号化単位の最大高さ及び最大幅が64であり、最大深度が4である場合を図示している。そのとき、最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による符号化単位の階層構造600の縦軸に沿って深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造600の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。
すなわち、符号化単位610は、符号化単位の階層構造600において、最大符号化単位であって深度が0であり、符号化単位の大きさ、すなわち、高さ及び幅が64x64である。縦軸に沿って深度が深くなり、サイズ32x32である深度1の符号化単位620、サイズ16x16である深度2の符号化単位630、サイズ8x8である深度3の符号化単位640、サイズ4x4である深度4の符号化単位650が存在する。サイズ4x4である深度4の符号化単位650は、最小符号化単位である。
それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度0のサイズ64x64の符号化単位610が予測単位であるならば、予測単位は、サイズ64x64の符号化単位610に含まれるサイズ64x64のパーティション610、サイズ64x32のパーティション612、サイズ32x64のパーティション614、サイズ32x32のパーティション616に分割される。
同様に、深度1のサイズ32x32の符号化単位620の予測単位は、サイズ32x32の符号化単位620に含まれるサイズ32x32のパーティション620、サイズ32x16のパーティション622、サイズ16x32のパーティション624、サイズ16x16のパーティション626に分割される。
同様に、深度2のサイズ16x16の符号化単位630の予測単位は、サイズ16x16の符号化単位630に含まれるサイズ16x16のパーティション630、サイズ16x8のパーティション632、サイズ8x16のパーティション634、サイズ8x8のパーティション636に分割される。
同様に、深度3のサイズ8x8の符号化単位640の予測単位は、サイズ8x8の符号化単位640に含まれるサイズ8x8のパーティション640、サイズ8x4のパーティション642、サイズ4x8のパーティション644、サイズ4x4のパーティション646に分割される。
最後に、深度4のサイズ4x4の符号化単位650は、最小符号化単位であり、最下位深度の符号化単位であり、当該予測単位も、サイズ4x4のパーティション650だけに設定される。
一実施形態によるビデオ符号化装置100の符号化単位決定部120は、最大符号化単位610の符号化深度を決定するために、最大符号化単位610に含まれるそれぞれの深度の符号化単位ごとに符号化を行わなければならない。
同一範囲及び同一サイズのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度1の符号化単位一つを含むデータに対して、深度2の符号化単位は、四つが必要である。従って、同一データの符号化結果を深度別に比較するために、1つの深度1の符号化単位、及び4つの深度2の符号化単位を利用して、それぞれ符号化されなければならない。
それぞれの深度別符号化のためには、符号化単位の階層構造600の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度において、最小の符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造600の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位610において、最小符号化誤差が発生する深度及びパーティションが、最大符号化単位610の符号化深度及びパーティションタイプに選択される。
図14は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。
一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じ大きさの符号化単位において、映像を符号化/復号化する。符号化過程において、変換のための変換単位の大きさは、それぞれの符号化単位ほどは大きくないデータ単位を基に選択される。
例えば、一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200において、現在符号化単位710が64x64サイズであるとき、32x32サイズの変換単位720を利用して変換が行われる。
また、64x64サイズの符号化単位710のデータを、64x64サイズ以下の32x32,16x16,8x8,4x4サイズの変換単位にそれぞれ変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。
図15は、本発明の一実施形態による深度別符号化情報を図示している。
一実施形態によるビデオ符号化装置100の出力部130は、符号化モードについての情報として、それぞれの符号化深度の符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を符号化して伝送することができる。
パーティションタイプについての情報800は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態についての情報を示す。例えば、サイズ2Nx2Nの現在符号化単位CU_0は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806、サイズNxNのパーティション808のうちいずれか1つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプについての情報800は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806及びサイズNxNのパーティション808のうち一つを示すように設定される。
予測モードについての情報810は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報810を介して、パーティションタイプについての情報800が示すパーティションが、イントラモード812、インターモード814及びスキップモード816のうち一つで予測符号化が行われるかということが設定される。
また、変換単位サイズについての情報820は、現在符号化単位を、いかなる変換単位を基に変換を行うかということを示す。例えば、変換単位は、第1イントラ変換単位サイズ822、第2イントラ変換単位サイズ824、第1インター変換単位サイズ826、第2インター変換単位サイズ828のうちいずれか一つである。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を抽出して復号化に利用することができる。
図16は、本発明の一実施形態による深度別符号化単位を図示している。
深度の変化を示すために分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。
深度0及び2N_0x2N_0サイズの符号化単位900の予測符号化のための予測単位910は、2N_0x2N_0サイズのパーティションタイプ912、2N_0xN_0サイズのパーティションタイプ914、N_0x2N_0サイズのパーティションタイプ916、N_0xN_0サイズのパーティションタイプ918を含んでもよい。予測単位が対称的な比率に分割されたパーティション912,914,916,918だけが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。
パーティションタイプごとに、1つの2N_0x2N_0サイズのパーティション、2つの2N_0xN_0サイズのパーティション、2つのN_0x2N_0サイズのパーティション、4つのN_0xN_0サイズのパーティションごとに反復的に予測符号化が行われなければならない。サイズ2N_0x2N_0、サイズN_0x2N_0、サイズ2N_0xN_0及びサイズN_0xN_0のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ2N_0x2N_0のパーティションについてのみ予測符号化が行われる。
サイズ2N_0x2N_0,2N_0xN_0及びN_0x2N_0のパーティションタイプ912,914,916のうち一つによる符号化誤差が最小であれば、それ以上下位深度に分割する必要ない。
サイズN_0xN_0のパーティションタイプ918による符号化誤差が最小であれば、深度0を1に変更しながら分割し(920)、深度2及びサイズN_0xN_0のパーティションタイプの符号化単位930に対して反復的に符号化を行い、最小符号化誤差を検索していく。
深度1及びサイズ2N_1x2N_1(=N_0xN_0)の符号化単位930の予測符号化のための予測単位940は、サイズ2N_1x2N_1のパーティションタイプ942、サイズ2N_1xN_1のパーティションタイプ944、サイズN_1x2N_1のパーティションタイプ946、サイズN_1xN_1のパーティションタイプ948を含んでもよい。
また、サイズN_1xN_1のパーティションタイプ948による符号化誤差が最小であれば、深度1を深度2に変更しながら分割し(950)、深度2及びサイズN_2xN_2の符号化単位960に対して反復的に符号化を行い、最小符号化誤差を検索していく。
最大深度がdである場合、深度別符号化単位は、深度d−1になるまで設定され、分割情報は、深度d−2まで設定される。すなわち、深度d−2から分割され(970)、深度d−1まで符号化が行われる場合、深度d−1及びサイズ2N_(d−1)x2N_(d−1)の符号化単位980の予測符号化のための予測単位990は、サイズ2N_(d−1)x2N_(d−1)のパーティションタイプ992、サイズ2N_(d−1)xN_(d−1)のパーティションタイプ994、サイズN_(d−1)x2N_(d−1)のパーティションタイプ996、サイズN_(d−1)xN_(d−1)のパーティションタイプ998を含んでもよい。
パーティションタイプのうち、1つのサイズ2N_(d−1)x2N_(d−1)のパーティション、2つのサイズ2N_(d−1)xN_(d−1)のパーティション、2つのサイズN_(d−1)x2N_(d−1)のパーティション、4つのサイズN_(d−1)xN_(d−1)のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索される。
サイズN_(d−1)xN_(d−1)のパーティションタイプ998による符号化誤差が最小であるとしても、最大深度がdであるので、深度d−1の符号化単位CU_(d−1)は、それ以上下位深度への分割過程を経ず、現在最大符号化単位900に対する符号化深度が深度d−1に決定され、パーティションタイプは、N_(d−1)xN_(d−1)に決定される。また、最大深度がdであるので、深度d−1の符号化単位980に対して、分割情報が設定されない。
データ単位999は、現在最大符号化単位に係わる「最小単位」とされる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさの正方形のデータ単位でもある。かような反復的符号化過程を介して、一実施形態によるビデオ符号化装置100は、符号化単位900の深度別符号化誤差を比較し、最小の符号化誤差が発生する深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードに設定される。
そのように、深度0,1,…,d−1,dの全ての深度別最小符号化誤差を比較し、誤差が最小である深度が選択され、符号化深度に決定される。符号化深度、並びに予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度0から符号化深度に至るまで符号化単位が分割されなければならないので、符号化深度の分割情報だけが「0」に設定され、符号化深度を除いた深度別分割情報は、「1」に設定されなければならない。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、符号化単位900に対する符号化深度及び予測単位についての情報を抽出し、符号化単位912を復号化するのに利用することができる。一実施形態によるビデオ復号化装置200は、深度別分割情報を利用して、分割情報が「0」である深度を符号化深度として把握し、当該深度に係わる符号化モードについての情報を利用して、復号化に利用することができる。
図17、図18及び図19は、本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。
符号化単位1010は、最大符号化単位に対して、一実施形態によるビデオ符号化装置100が決定した符号化深度別符号化単位である。予測単位1060は、符号化単位1010において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位1070は、それぞれの符号化深度別符号化単位の変換単位である。
深度別符号化単位1010は、最大符号化単位の深度が0であるとすれば、符号化単位1012,1054は、深度が1であり、符号化単位1014,1016,1018、1028,1050,1052は、深度が2であり、符号化単位1020,1022,1024,1026,1030,1032,1048は、深度が3であり、符号化単位1040,1042,1044,1046は、深度が4である。
予測単位1060のうち、一部パーティション1014,1016,1022,1032,1048,1050,1052,1054は、符号化単位が分割された形態である。すなわち、パーティション1014,1022,1050,1054は、2NxNのパーティションタイプであり、パーティション1016,1048,1052は、Nx2Nのパーティションタイプであり、パーティション1032は、NxNのパーティションタイプである。深度別符号化単位1010の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいはそれと同じである。
変換単位1070のうち、一部変換単位1052の映像データについては、符号化単位に比べ、小サイズのデータ単位で変換または逆変換が行われる。また、変換単位1014,1016,1022,1032,1048,1050,1052,1054は、予測単位1060における当該予測単位及びパーティションと比較すれば、互いに異なる大きさまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、同一符号化単位に係わるイントラ予測/動き推定/動き補償の作業、及び変換/逆変換の作業であるとしても、それぞれ別個のデータ単位を基に行う。
それにより、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表1は、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200で設定することができる一例を示している。
一実施形態によるビデオ符号化装置100の出力部130は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置200の符号化情報抽出部220は、受信されたビットストリームからツリー構造による符号化単位に係わる符号化情報を抽出することができる。
分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。現在深度dの分割情報が0であるならば、現在符号化単位が、該符号化単位が下位符号化単位にそれ以上分割されない深度が符号化深度であるので、符号化深度について、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報により、1段階さらに分割されなければならない場合には、分割された4個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。
予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示すことができる。イントラモード及びインターモードは、全てのパーティションタイプで定義され、スキップモードは、パーティションタイプ2Nx2Nでのみ定義される。
パーティションタイプ情報は、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションタイプ2Nx2N,2NxN,Nx2N及びNxNと、非対称的な比率に分割された非対称的パーティションタイプ2NxnU,2NxnD,nLx2N,nRx2Nを示すことができる。非対称的パーティションタイプ2NxnU及び2NxnDは、それぞれ高さが1:3及び3:1に分割された形態であり、非対称的パーティションタイプnLx2N及びnRx2Nは、それぞれ幅が1:3及び3:1に分割された形態を示す。
変換単位サイズは、イントラモードで2種の大きさに設定され、インターモードで2種の大きさに設定される。すなわち、変換単位分割情報が0であるならば、変換単位の大きさは、現在符号化単位のサイズ2Nx2Nに設定される。変換単位分割情報が1であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ2Nx2Nである現在符号化単位に係わるパーティションタイプが対称形パーティションタイプであるならば、変換単位の大きさは、NxNに設定され、非対称形パーティションタイプであるならば、N/2xN/2に設定される。
一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位単位のうち少なくとも一つについて割り当てられる。符号化深度の符号化単位は、同一符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。
従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一符号化深度の符号化単位に含まれるか否かということが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。
従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。
他の実施形態において、現在符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内において、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照される。
図20は、表1の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示している。
最大符号化単位1300は、符号化深度の符号化単位1302,1304,1306,1312,1314,1316,1318を含む。そのうち1つの符号化単位1318は、符号化深度の符号化単位でるので、分割情報が0に設定される。サイズ2Nx2Nの符号化単位1318のパーティションタイプ情報は、パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326,NxN 1328,2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定される。
変換単位分割情報(TU size flag)は、変換インデックスの一種であり、変換インデックスに対応する変換単位の大きさは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。
例えば、パーティションタイプ情報が、対称形パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326及びNxN 1328のうち一つに設定されている場合、変換単位分割情報が0であるならば、サイズ2Nx2Nの変換単位1342が設定され、変換単位分割情報が1であるならば、サイズNxNの変換単位1344が設定される。
パーティションタイプ情報が、非対称形パーティションタイプ2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定された場合、変換単位分割情報(TU size flag)が0であるならば、サイズ2Nx2Nの変換単位1352が設定され、変換単位分割情報が1であるならば、サイズN/2xN/2の変換単位1354が設定される。
図20を参照して説明した変換単位分割情報(TU size flag)は、0または1の値を有するフラグであるが、一実施形態による変換単位分割情報は、1ビットのフラグに限定されるのもではなく、設定によって、0、1、2、3、…などに増加して変換単位が階層的に分割される。変換単位分割情報は、変換インデックスの一実施形態として利用される。
その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位の大きさが表現される。一実施形態によるビデオ符号化装置100は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、SPSに挿入される。一実施形態によるビデオ復号化装置200は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用して、ビデオ復号化に利用することができる。
例えば、(a)現在符号化単位がサイズ64x64であり、最大変換単位サイズが32x32であるならば、(a−1)変換単位分割情報が0であるとき、変換単位の大きさは32x32に設定され、(a−2)変換単位分割情報が1であるとき、変換単位の大きさは16x16に設定され、(a−3)変換単位分割情報が2であるとき、変換単位の大きさは8x8に設定される。
他の例として、(b)現在符号化単位がサイズ32x32であり、最小変換単位サイズが32x32であるならば、(b−1)変換単位分割情報が0であるとき、変換単位の大きさは32x32に設定され、変換単位の大きさが32x32より小さいことがないので、それ以上の変換単位分割情報が設定されることがない。
さらに他の例として、(c)現在符号化単位がサイズ64x64であり、最大変換単位分割情報が1であるならば、変換単位分割情報は、0または1であり、他の変換単位分割情報が設定されることがない。
従って、最大変換単位分割情報を「MaxTransformSizeIndex」、最小変換単位サイズを「MinTransformSize」、変換単位分割情報が0である場合の変換単位サイズを「RootTuSize」と定義するとき、現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」は、下記数式(1)のように定義される。
CurrMinTuSize
=max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex)) (1)
現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」と比較し、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、システム上採択可能な最大変換単位サイズを示すことができる。すなわち、数式(1)によれば、「RootTuSize/(2^MaxTransformSizeIndex)」は、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」を、最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「MinTransformSize」は、最小変換単位サイズであるので、それらのうち小さい値が、現在現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」でもある。
一実施形態による最大変換単位サイズRootTuSizeは、予測モードによって異なる。
例えば、現在予測モードがインターモードであるならば、RootTuSizeは、下記数式(2)によって決定される。数式(2)で、「MaxTransformSize」は、最大変換単位サイズを示し、「PUSize」は、現在予測単位サイズを示す。
RootTuSize=min(MaxTransformSize,PUSize) (2)
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのうち小さい値に設定される。
現在パーティション単位の予測モードがイントラモードであるならば、「RootTuSize」は、下記数式(3)によって決定される。「PartitionSize」は、現在パーティション単位の大きさを示す。
RootTuSize=min(MaxTransformSize,PartitionSize) (3)
すなわち、現在予測モードがイントラモードであるならば、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。
ただし、パーティション単位の予測モードによって変動する一実施形態による現在最大変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因がそれに限定されるものではないということに留意しなければならない。
図8ないし図20を参照して説明したツリー構造の符号化単位に基づいたビデオ符号化技法により、ツリー構造の符号化単位ごとに、空間領域の映像データが符号化され、ツリー構造の符号化単位に基づいたビデオ復号化技法によって、最大符号化単位ごとに復号化が行われながら、空間領域の映像データが復元され、ピクチャ及びピクチャシーケンスであるビデオが復元される。復元されたビデオは、再生装置によって再生されるか、記録媒体に保存されるか、あるいはネットワークを介して伝送される。
一方、前述の本発明の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例えば、ROM(read only memory)、フロッピー(登録商標)ディスク、ハードディスクなど)、光学的判読媒体(例えば、CD(compact disc)−ROM、DVD(digital versatile disc)など)のような記録媒体を含む。
説明の便宜のために、先に図1Aないし図20を参照して説明したエントロピー符号化方法を遂行するビデオ符号化方法は、「本発明のビデオ符号化方法」とする。また、先に図1Aないし図20を参照して説明したエントロピー復号化方法を遂行するビデオ復号化方法は、「本発明のビデオ復号化方法」とする。
また、先に図1Aないし図20を参照して説明したエントロピー符号化装置10を含むビデオ符号化装置100、及び映像符号化部400で構成されたビデオ符号化装置は、「本発明のビデオ符号化装置」とする。また、先に図1Aないし図20を参照して説明したエントロピー復号化装置20を含むビデオ復号化装置200及び映像復号化部500は、「本発明のビデオ復号化装置」とする。
一実施形態によるプログラムが保存されるコンピュータで読み取り可能な記録媒体がディスク26000である実施形態について、以下で詳細に説明する。
図21は、一実施形態によるプログラムが保存されたディスク26000の物理的構造を例示する。記録媒体として説明したディスク26000は、ハードドライブ、CD−ROMディスク、ブルーレイ(登録商標(Blu-ray))ディスク、DVDディスクでもある。ディスク26000は、多数の同心円のトラックTrで構成され、トラックは、円周方向に沿って所定個数のセクタSeに分割される。前述の実施形態によるプログラムを保存するディスク26000において特定領域に、前述の量子化パラメータ決定方法、ビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムが割り当てられて保存される。
前述のビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムを保存する記録媒体を利用して、達成されたコンピュータシステムについて、図22を参照して説明される。
図22は、ディスク26000を利用して、プログラムを記録して読み取るためのディスクドライブ26800を図示している。コンピュータシステム26700は、ディスクドライブ26800を利用して、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムをディスク26000に保存することができる。ディスク26000に保存されたプログラムを、コンピュータシステム26700上で実行するために、ディスクドライブ26800によってディスク26000からプログラムが読み取られ、プログラムがコンピュータシステム26700に伝送される。
図21及び図22で例示されたディスク26000だけではなく、メモリカード、ROMカセット、SSD(solid state drive)にも、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムが保存される。
前述の実施形態によるビデオ符号化方法及びビデオ復号化方法が適用されたシステムについて説明する。
図23は、コンテンツ流通サービス(content distribution service)を提供するためのコンテンツ供給システム(content supply system)11000の全体的構造を図示している。通信システムのサービス領域は、所定サイズのセルに分割され、各セルに、ベースステーションになる無線基地局11700,11800,11900,12000が設置される。
コンテンツ供給システム11000は、多数の独立デバイスを含む。例えば、コンピュータ12100、PDA(personal digital assistant)12200、ビデオカメラ12300及び携帯電話12500のような独立デバイスが、インターネットサービス・プロバイダ11200、通信網11400、及び無線基地局11700,11800,11900,12000を経てインターネット11100に連結される。
しかし、コンテンツ供給システム11000は、図24に図示された構造にのみ限定されるものではなく、デバイスが選択的に連結される。独立デバイスは、無線基地局11700,11800,11900,12000を経ずに、通信網11400に直接連結されてもよい。
ビデオカメラ12300は、デジタルビデオカメラのように、ビデオ映像を撮影することができる撮像デバイスである。携帯電話12500は、PDC(personal digital communications)方式、CDMA(code division multiple access)方式、W−CDMA(wideband code division multiple access)方式、GSM(登録商標(global system for mobile communications)方式及びPHS(personal handyphone system)方式のような多様なプロトコルのうち少なくとも1つの通信方式を採択することができる。
ビデオカメラ12300は、無線基地局11900及び通信網11400を経て、ストリーミングサーバ11300に連結される。ストリーミングサーバ11300は、ユーザが、ビデオカメラ12300を使用して伝送したコンテンツをリアルタイム放送でストリーミング伝送することができる。ビデオカメラ12300から受信されたコンテンツは、ビデオカメラ12300またはストリーミングサーバ11300によって符号化される。ビデオカメラ12300で撮影されたビデオデータは、コンピュータ12100を経て、ストリーミングサーバ11300に伝送されてもよい。
カメラ12600で撮影されたビデオデータも、コンピュータ12100を経て、ストリーミングサーバ11300に伝送される。カメラ12600は、デジタルカメラのように、静止映像及びビデオ映像をいずれも撮影することができる撮像装置である。カメラ12600から受信されたビデオデータは、カメラ12600またはコンピュータ12100によって符号化される。ビデオ符号化及びビデオ復号化のためのソフトウェアは、コンピュータ12100がアクセスすることができるCD−ROMディスク、フロッピー(登録商標)ディスク、ハードディスクドライブ、SSD、メモリカードのようなコンピュータで読み取り可能な記録媒体に保存される。
また、携帯電話12500に搭載されたカメラによってビデオが撮影された場合、ビデオデータが携帯電話12500から受信される。
ビデオデータは、ビデオカメラ12300、携帯電話12500またはカメラ12600に搭載されたLSI(large scale integrated circuit)システムによって符号化される。
一実施形態によるコンテンツ供給システム11000において、例えば、コンサートの現場録画コンテンツのように、ユーザが、ビデオカメラ12300、カメラ12600、携帯電話12500、または他の撮像デバイスを利用して録画されたコンテンツが符号化され、ストリーミングサーバ11300に伝送される。ストリーミングサーバ11300は、コンテンツデータを要請した他のクライアントに、コンテンツデータをストリーミング伝送することができる。
クライアントは、符号化されたコンテンツデータを復号化することができるデバイスであり、例えば、コンピュータ12100、PDA 12200、ビデオカメラ12300または携帯電話12500でもある。従って、コンテンツ供給システム11000は、クライアントをして、符号化されたコンテンツデータを受信して再生させる。また、コンテンツ供給システム11000は、クライアントをして、符号化されたコンテンツデータを受信させ、リアルタイムで復号化して再生させ、個人放送(personal broadcasting)を可能にさせる。
コンテンツ供給システム11000に含まれた独立デバイスの符号化動作及び復号化動作に、本発明のビデオ符号化装置及びビデオ復号化装置が適用される。
図24及び図25を参照し、コンテンツ供給システム11000において、携帯電話12500の一実施形態について詳細に説明する。
図24は、一実施形態による本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話12500の外部構造を図示している。携帯電話12500は、機能が制限されておらず、応用プログラムを介して、相当部分の機能を変更したり拡張したりすることができるスマートフォンでもある。
携帯電話12500は、無線基地局12000とRF(radio frequency)信号を交換するための内蔵アンテナ12510を含み、カメラ12530によって撮影された映像、またはアンテナ12510によって受信されて復号化された映像をディスプレイするためのLCD(liquid crystal display)画面、OLED(organic light emitting diodes)画面のようなディスプレイ画面12520を含む。スマートフォン12510は、制御ボタン、タッチパネルを含む動作パネル12540を含む。ディスプレイ画面12520がタッチスクリーンである場合、動作パネル12540は、ディスプレイ画面12520のタッチ感知パネルをさらに含む。スマートフォン12510は、音声、音響を出力するためのスピーカ12580、または他の形態の音響出力部と、音声、音響が入力されるマイクフォン12550、または他の形態の音響入力部と、を含む。スマートフォン12510は、ビデオ及び静止映像を撮影するためのCCDカメラのようなカメラ12530をさらに含む。また、スマートフォン12510は、カメラ12530によって撮影されたり、電子メール(E−mail)に受信されるか、他の形態で獲得されたりするビデオや静止映像のように、符号化されるか復号化されたデータを保存するための記録媒体12570;及び記録媒体12570を携帯電話12500に装着するためのスロット12560;を含んでもよい。記録媒体12570は、SDカード、またはプラスチックケースに内蔵されたEEPROM(electrically erasable and programmable read only memory)のような他の形態のフラッシュメモリでもある。
図25は、携帯電話12500の内部構造を図示している。ディスプレイ画面12520及び動作パネル12540で構成された携帯電話12500の各パートを組織的に制御するために、電力供給回路12700、動作入力制御部12640、映像符号化部12720、カメラ・インターフェース12630、LCD制御部12620、映像復号化部12690、マルチプレクサ/デマルチプレクサ(MUX/DEMUX:multiplexer/demultiplexer)12680、記録/判読部12670、変調/復調(modulation/demodulation)部12660及び音響処理部12650が、同期化バス12730を介して中央制御部12710に連結される。
ユーザが電源ボタンを動作し、「電源オフ」状態から「電源オン」状態に設定すれば、電力供給回路12700は、バッテリパックから携帯電話12500の各パートに電力を供給することにより、携帯電話12500が動作モードにセッティングされる。
中央制御部12710は、CPU(central processing unit)、ROM及びRAM(random access memory)を含む。
携帯電話12500が外部に通信データを送信する過程では、中央制御部12710の制御によって、携帯電話12500においてデジタル信号が生成される、例えば、音響処理部12650では、デジタル音響信号が生成され、映像符号化部12720では、デジタル映像信号が生成され、動作パネル12540及び動作入力制御部12640を介して、メッセージのテキストデータが生成される。中央制御部12710の制御によってデ、ジタル信号が変調/復調部12660に伝達されれば、変調/復調部12660は、デジタル信号の周波数帯域を変調し、通信回路12610は、帯域変調されたデジタル音響信号に対して、D/A変換(digital-analog conversion)処理及び周波数変換(frequency conversion)処理を行う。通信回路12610から出力された送信信号は、アンテナ12510を介して、音声通信基地局または無線基地局12000に送出される。
例えば、携帯電話12500が通話モードであるとき、マイクフォン12550によって獲得された音響信号は、中央制御部12710の制御によって、音響処理部12650でデジタル音響信号に変換される。生成されたデジタル音響信号は、変調/復調部12660及び通信回路12610を経て送信信号に変換され、アンテナ12510を介して送出される。
データ通信モードにおいて、電子メールのようなテキストメッセージが伝送される場合、動作パネル12540を利用して、メッセージのテキストデータが入力され、テキストデータが、動作入力制御部12640を介して中央制御部12610に伝送される。中央制御部12610の制御により、テキストデータは、変調/復調部12660及び通信回路12610を介して送信信号に変換され、アンテナ12510を介して無線基地局12000に送出される。
データ通信モードにおいて映像データを伝送するために、カメラ12530によって撮影された映像データが、カメラ・インターフェース12630を介して映像符号化部12720に提供される。カメラ12530によって撮影された映像データは、カメラ・インターフェース12630及びLCD制御部12620を介して、ディスプレイ画面12520に直ちにディスプレイされる。
映像符号化部12720の構造は、前述の本発明のビデオ符号化装置の構造と相応する。映像符号化部12720は、カメラ12530から提供された映像データを、前述の本発明のビデオ符号化方式によって符号化し、圧縮符号化された映像データに変換し、符号化された映像データを多重化/逆多重化部12680に出力することができる。カメラ12530の録画中に、携帯電話12500のマイクフォン12550によって獲得された音響信号も、音響処理部12650を経てデジタル音響データに変換され、デジタル音響データは、多重化/逆多重化部12680に伝達される。
多重化/逆多重化部12680は、音響処理部12650から提供された音響データと共に、映像符号化部12720から提供された符号化された映像データを多重化する。多重化されたデータは、変調/復調部12660及び通信回路12610を介して送信信号に変換され、アンテナ12510を介して送出される。
携帯電話12500が外部から通信データを受信する過程では、アンテナ12510を介して受信された信号を周波数復元(frequency recovery)処理及びA/D変換(analog-digital conversion)処理を介してデジタル信号を変換する。変調/復調部12660は、デジタル信号の周波数帯域を復調する。帯域復調されたデジタル信号は、種類によって、ビデオ復号化部12690、音響処理部12650またはLCD制御部12620に伝達される。
携帯電話12500は、通話モードであるとき、アンテナ12510を介して受信された信号を増幅し、周波数変換及びA/D変換(analog-digital conversion)処理を介してデジタル音響信号を生成する。受信されたデジタル音響信号は、中央制御部12710の制御によって、変調/復調部12660及び音響処理部12650を経て、アナグ音響信号に変換され、アナグ音響信号が、スピーカ12580を介して出力される。
データ通信モードにおいて、インターネットのウェブサイトからアクセスされたビデオファイルのデータが受信される場合、アンテナ12510を介して無線基地局12000から受信された信号は、変調/復調部12660の処理結果として多重化されたデータを出力し、多重化されたデータは、多重化/逆多重化部12680に伝達される。
アンテナ12510を介して受信した多重化されたデータを復号化するために、多重化/逆多重化部12680は、多重化されたデータを逆多重化し、符号化されたビデオデータストリームと、符号化されたオーディオデータストリームとを分離する。同期化バス12730により、符号化されたビデオデータストリームは、ビデオ復号化部12690に提供され、符号化されたオーディオデータストリームは、音響処理部12650に提供される。
映像復号化部12690の構造は、前述の本発明のビデオ復号化装置の構造と相応する。映像復号化部12690は、前述の本発明のビデオ復号化方法を利用して、符号化されたビデオデータを復号化し、復元されたビデオデータを生成し、復元されたビデオデータを、LCD制御部12620を経て、ディスプレイ画面12520に、復元されたビデオデータを提供することができる。
それによってインターネットのウェブサイトからアクセスされたビデオファイルのビデオデータが、ディスプレイ画面12520にディスプレイされる。それと同時に、音響処理部12650も、オーディオデータをアナグ音響信号に変換し、アナグ音響信号をスピーカ12580に提供することができる。それにより、インターネットのウェブサイトからアクセスされたビデオファイルに含まれたオーディオデータも、スピーカ12580で再生される。
携帯電話12500または他の形態の通信端末機は、本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含む送受信端末機であるか、前述の本発明のビデオ符号化装置のみを含む送信端末機であるか、あるいは本発明のビデオ復号化装置のみを含む受信端末機でもある。
本発明の通信システムは、図24を参照して説明した構造に限定されるものではない。例えば、図26は、本発明による通信システムが適用されたデジタル放送システムを図示している。図26の一実施形態によるデジタル放送システムは、本発明のビデオ符号化装置及びビデオ復号化装置を利用して、衛星ネットワークまたは地上波ネットワークを介して伝送されるデジタル放送を受信することができる。
具体的に見れば、放送局12890は、電波を介して、ビデオデータストリームを通信衛星または放送衛星12900に伝送する。放送衛星12900は、放送信号を伝送し、該放送信号は、家庭にあるアンテナ12860によっ、て衛星放送受信機に受信される。各家庭において、符号化されたビデオストリームは、TV(television)受信機12810、セットトップボックス(set-top box)12870または他のデバイスによって復号化されて再生される。
再生装置12830において、本発明のビデオ復号化装置が具現されることにより、再生装置12830が、ディスク及びメモリカードのような記録媒体12820に記録された符号化されたビデオストリームを読み取って復号化することができる。それにより、復元されたビデオ信号は、例えば、モニタ12840で再生される。
衛星/地上波放送のためのアンテナ12860、またはケーブルTV受信のためのケーブルアンテナ12850に連結されたセットトップボックス12870にも、本発明のビデオ復号化装置が搭載される。セットトップボックス12870の出力データも、TVモニタ12880で再生される。
他の例として、セットトップボックス12870の代わりに、TV受信機12810自体に本発明のビデオ復号化装置が搭載されてもよい。
適切なアンテナ12910を具備した自動車12920が、衛星12800または無線基地局11700から送出される信号を受信することもできる。自動車12920に搭載された自動車ナビゲーションシステム12930のディスプレイ画面に、復号化されたビデオが再生される。
ビデオ信号は、本発明のビデオ符号化装置によって符号化され、記録媒体に記録されて保存される。具体的に見れば、DVDレコーダによって、映像信号がDVDディスク12960に保存されるか、あるいはハードディスクレコーダ12950によって、ハードディスクに映像信号が保存される。他の例として、ビデオ信号は、SDカード12970に保存されてもよい。ハードディスクレコーダ12950が、一実施形態による本発明のビデオ復号化装置を具備すれば、DVDディスク12960、SDカード12970または他の形態の記録媒体に記録されたビデオ信号が、モニタ12880で再生される。
自動車ナビゲーションシステム12930は、図25のカメラ12530、カメラ・インターフェース12630及び映像符号化部12720を含まないこともある。例えば、コンピュータ12100(図23)及びTV受信機12810も、図25のカメラ12530、カメラ・インターフェース12630及び映像符号化部12720を含まないこともある。
図27は、本発明の一実施形態による、ビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示している。
本発明のクラウドコンピューティングシステムは、クラウドコンピューティングサーバ14100、ユーザDB(database)14100、コンピューティング資源14200及びユーザ端末機を含んでなる。
クラウドコンピューティングシステムは、ユーザ端末機の要請によって、インターネットのような情報通信網を介して、コンピューティング資源のオンデマンド・アウトソーシングサービスを提供する。クラウドコンピューティング環境において、サービスプロバイダは、互いに異なる物理的な位置に存在するデータセンターのコンピューティング資源を仮想化技術で統合し、ユーザに必要とするサービスを提供する。サービスユーザは、アプリケーション(application)、ストレージ(storage)、運用体制(OS)、保安(security)のようなコンピューティング資源を、各ユーザ所有の端末にインストールして使用するのではなく、仮想化技術を介して生成された仮想空間上のサービスを、所望する時点で所望するほど選んで使用することができる。
特定サービスユーザのユーザ端末機は、インターネット及び移動通信網を含む情報通信網を介して、クラウドコンピューティングサーバ14100に接続する。ユーザ端末機は、クラウドコンピューティングサーバ14100から、クラウドコンピューティングサービス、特に、動画再生サービスを提供される。ユーザ端末機は、デスクトップPC(personal computer)14300、スマートTV 14400、スマートフォン14500、ノート型パソコン14600、PMP(portable multimedia player)14700、テブレットPC 14800など、インターネット接続が可能な全ての電子機器にもなる。
クラウドコンピューティングサーバ14100は、クラウド網に分散している多数のコンピューティング資源14200を統合し、ユーザ端末機に提供することができる。多数のコンピューティング資源14200は、さまざまなデータサービスを含み、ユーザ端末機からアップードされたデータを含んでもよい。そのように、クラウドコンピューティングサーバ14100は、多くのところに分散している動画データベースを仮想化技術で統合し、ユーザ端末機が要求するサービスを提供する。
ユーザDB 14100には、クラウドコンピューティングサービスに加入しているユーザ情報が保存される。ここで、ユーザ情報は、ログイン情報や、住所、氏名などの個人信用情報を含んでもよい。また、ユーザ情報は、動画のインデックス(index)を含んでもよい。ここで、該インデックスは、再生を完了した動画リストや、再生中の動画リストや、再生中の動画の停止時点などを含んでもよい。
ユーザDB 14100に保存された動画についての情報は、ユーザデバイス間に共有される。従って、例えば、ノート型パソコン14600から再生要請され、ノート型パソコン14600に所定動画サービスを提供した場合、ユーザDB 14100に所定動画サービスの再生ヒストリーが保存される。スマートフォン14500から、同一の動画サービスの再生要請が受信される場合、クラウドコンピューティングサーバ14100は、ユーザDB 14100を参照し、所定動画サービスを見い出して再生する。スマートフォン14500が、クラウドコンピューティングサーバ14100を介して動画データストリームを受信する場合、動画データストリームを復号化してビデオを再生する動作は、先に図24を参照して説明した携帯電話12500の動作と類似している。
クラウドコンピューティングサーバ14100は、ユーザDB 14100に保存された所定動画サービスの再生ヒストリーを参照することもできる。例えば、クラウドコンピューティングサーバ14100は、ユーザ端末機から ユーザDB 14100に保存された動画に対する再生要請を受信する。該動画がそれ以前に再生中であったならば、クラウドコンピューティングサーバ14100は、ユーザ端末機への選択により、最初から再生するか、あるいは以前の停止時点から再生するかということにより、ストリーミング方法が異なる。例えば、ユーザ端末機が、最初から再生するように要請した場合には、クラウドコンピューティングサーバ14100は、ユーザ端末機に、当該動画を最初のフレームからストリーミング伝送する。一方、端末機が、以前の停止時点から続けて再生するように要請した場合には、クラウドコンピューティングサーバ14100は、ユーザ端末機に、当該動画を停止時点のフレームからストリーミング伝送する。
そのとき、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ復号化装置を含んでもよい。他の例として、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ符号化装置を含んでもよい。また、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含んでもよい。
図1Aないし図20を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法、本発明のビデオ符号化装置及びビデオ復号化装置が活用される多様な実施形態について図21ないし図27において説明した。しかし、図1Aないし図20を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法が、記録媒体に保存されたり、あるいは本発明のビデオ符号化装置及びビデオ復号化装置が、デバイスで具現されたりする多様な実施形態は、図21ないし図27の実施形態に限定されるものではない。
以上、本発明について、その望ましい実施形態を中心に説明した。本発明が属する技術分野で当業者であるならば、本発明が、本発明の本質的な特性から外れない範囲で変形された形態に具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にある全ての差異は、本発明に含まれたものであると解釈されなければならないのである。
本発明は、ビデオ符号化及びビデオ復号化のためのエントロピー符号化及びエントロピー復号化に関する。
高解像度または高画質のビデオコンテンツを再生、保存することができるハードウェアの開発及び普及により、高解像度または高画質のビデオコンテンツを効果的に符号化/復号化するビデオコーデックの必要性が増大している。既存のビデオコーデックによれば、ビデオは、所定サイズのマクロブロックに基づいて、制限された符号化方式によって符号化されている。
周波数変換を利用して、空間領域の映像データは、周波数領域の係数に変換される。ビデオコーデックは、周波数変換の迅速な演算のために、映像を所定サイズのブロックに分割し、ブロックごとにDCT変換を行い、ブロック単位の周波数係数を符号化する。空間領域の映像データに比べ、周波数領域の係数が、圧縮しやすい形態を有する。特に、ビデオコーデックのインター予測またはイントラ予測を介して、空間領域の映像画素値は、予測誤差で表現されるので、予測誤差に対して周波数変換が行われれば、多くのデータが0に変換される。ビデオコーデックは、連続的に反復的に発生するデータを小サイズのデータに置き換えることにより、データ量を節減している。
ビデオ符号化によって生成されたシンボルのビット列を圧縮するために、エントロピー符号化が行われる。最近、算術符号化基盤のエントロピー符号化方式が広く使用されている。算術符号化基盤のエントロピー符号化のために、シンボルをビット列に二進化した後、ビット列に対してコンテクスト基盤の算術符号化が行われる。
本発明は、ビデオ符号化及びビデオ復号化のために、スライスセグメントの属性を考慮し、周辺データのコンテクスト情報を利用するエントロピー符号化方式及びエントロピー復号化方式の方法を提案する。
多様な実施形態によって、ビデオ復号化装置によって行われるビデオ復号化方法は、ビットストリームから、符号化単位の最大サイズについての情報を獲得する段階と、ビットストリームから、ピクチャに従属的スライスセグメントが含まれることが許容されるか否かということを示す第1情報を獲得する段階と、最大サイズについての情報によって決定された最大符号化単位の大きさに基づいて、第1スライスセグメントに含まれる一つ以上の最大符号化単位を決定する段階と、ビットストリームから、現在最大符号化単位が第1スライスセグメントの終りであるか否かということを示す第2情報を獲得する段階と、第1情報が、ピクチャに従属的スライスセグメントが含まれることが許容されるということを示し、第2情報が、現在最大符号化単位は、第1スライスセグメントの終りであるということを示す場合、第1スライスセグメントのコンテクスト変数を保存する段階と、保存されたコンテクスト変数を利用して、ピクチャにおいて、第1スライスセグメントの次に位置する従属的スライスセグメントを復号化する段階と、を含んでもよい。
開示されたエントロピー符号化/復号化方式に基づいて、現在ピクチャにおいて従属的スライスセグメントが使用されるならば、各スライスセグメントの最後の最大符号化単位のエントロピー符号化(復号化)を完了した後、コンテクスト変数を保存することができる。従って、以前スライスセグメントが独立的スライスセグメントであるとしても、その次の従属的スライスセグメントのために必要なコンテクスト変数の初期変数を、先に符号化された独立的スライスセグメントの最後の最大符号化単位のコンテスト変数から獲得することができる。
また、エントロピー符号化/復号化のためのコンテクスト変数の同期化地点を効率的に知らせるために、サブセットオフセットから1ずつ減少した数を示す情報がスライスセグメントを介して提供されるので、スライスセグメントのデータサイズが縮小される。
多様な実施形態によるビデオエントロピー符号化装置のブロック図である。
多様な実施形態によるビデオエントロピー符号化方法のフローチャートである。
多様な実施形態によるビデオエントロピー復号化装置のブロック図である。
多様な実施形態によるビデオエントロピー復号化方法のフローチャートである。
ピクチャ内のタイル及び最大符号化単位を図示する図面である。
ピクチャ内のスライスセグメント及び最大符号化単位を図示する図面である。
一実施形態によるCABACパージング動作のフローチャートである。
保存されたコンテクスト変数を利用するエントロピー復号化過程を図示する図面である。
一実施形態によるCABACコンテクスト変数の保存動作の詳細フローチャートである。
一実施形態によるスライスセグメントヘッダのシンタックスを図示する図面である。
図8は一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置のブロック図である。
一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置のブロック図である。
本発明の一実施形態による符号化単位の概念を図示する図面である。
本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図である。
本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図である。
本発明の一実施形態による、深度別符号化単位及びパーティションを図示する図面である。
本発明の一実施形態による、符号化単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による深度別符号化情報を図示する図面である。
本発明の一実施形態による深度別符号化単位を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
表1の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示する図面である。
一実施形態によるプログラムが保存されたディスクの物理的構造を例示する図面である。
ディスクを利用してプログラムを記録して読み取るためのディスクドライブを図示する図面である。
コンテンツ流通サービス(content distribution service)を提供するためのコンテンツ供給システム(content supply system)の全体的構造を図示する図面である。
一実施形態による、本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の外部構造を図示する図面である。
一実施形態による、本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話の内部構造を図示する図面である。
本発明による通信システムが適用されたデジタル放送システムを図示する図面である。
本発明の一実施形態による、ビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示する図面である。
多様な実施形態によるビデオエントロピー復号化方法は、ビットストリームから獲得した最大符号化単位に係わるビンストリング(bin string)及びビンインデックスを決定する段階と、前記ビンインデックスにおいてシンタックス要素に割り当てられるビンストリングと、前記獲得されたビンストリングとを比較し、前記シンタックス要素の値を決定する段階と、前記シンタックス要素が、前記最大符号化単位において、最後のシンタックス要素であり、前記最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、前記最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、前記最大符号化単位に係わるコンテクスト変数を保存する段階と、前記決定されたシンタックス要素の値を利用して、前記最大符号化単位のシンボルを復元する段階と、を含む。
多様な実施形態によって、ビデオ復号化装置によって行われるビデオ復号化方法は、ビットストリームから、符号化単位の最大サイズについての情報を獲得する段階と、ビットストリームから、ピクチャに従属的スライスセグメントが含まれることが許容されるか否かということを示す第1情報を獲得する段階と、最大サイズについての情報によって決定された最大符号化単位の大きさに基づいて、第1スライスセグメントに含まれる一つ以上の最大符号化単位を決定する段階と、ビットストリームから、現在最大符号化単位が第1スライスセグメントの終りであるか否かということを示す第2情報を獲得する段階と、第1情報が、ピクチャに従属的スライスセグメントが含まれることが許容されるということを示し、第2情報が、現在最大符号化単位は、第1スライスセグメントの終りであるということを示す場合、第1スライスセグメントのコンテクスト変数を保存する段階と、保存されたコンテクスト変数を利用して、ピクチャにおいて、第1スライスセグメントの次に位置する従属的スライスセグメントを復号化する段階と、を含んでもよい。
多様な実施形態によって、コンテクスト変数を保存する段階は、スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれることが許容される場合、現在最大符号化単位に係わるコンテクスト変数を保存する段階を含むことを特徴とする。
多様な実施形態によって、コンテクスト変数を保存する段階は、第2情報が、現在最大符号化単位は、第1スライスセグメントの終りであるということを示す場合、第1スライスセグメントにおいて、最後に復号化された現在最大符号化単位に係わるコンテクスト変数を保存する段階を含むことを特徴とする。
多様な実施形態によって、ビデオエントロピー復号化方法は、ビットストリームのピクチャパラメータセットから獲得された第1情報に基づいて、ピクチャに従属的スライスセグメントが含まれているか否かということを決定する段階と、ビットストリームのスライスセグメント別データのうち最大符号化単位に係わるデータから獲得された第2情報に基づいて、最大符号化単位がスライスセグメントの終りであるということを示すか否かということを決定する段階と、現在最大符号化単位に係わるデータから、ビンストリングを獲得する段階と、を含むことを特徴とする。
多様な実施形態によって、ビデオエントロピー復号化方法は、ビットストリームのスライスセグメントヘッダから獲得された第3情報に基づいて、スライスセグメントに含まれたサブセットのエントリーポイントの個数を決定する段階と、ビットストリームのスライスセグメントヘッダから獲得されたエントリーポイント別オフセットに係わる第4情報に基づいて、第4情報が示す数から1ほど増加した数であるオフセットを利用して、各エントリーポイントの位置を決定する段階と、を含み、ピクチャに含まれたスライスセグメントにタイルが含まれているか、ピクチャに含まれた最大符号化単位のコンテクスト変数のために同期化動作が行われる場合、エントリーポイントの個数及びエントリーポイントの位置を決定することを特徴とする。
多様な実施形態によって、ビデオを復号化するビデオ復号化装置は、ビットストリームから、符号化単位の最大サイズについての情報及び第1情報を獲得する獲得部;及び最大サイズについての情報によって決定された最大符号化単位の大きさに基づいて、第1スライスセグメントに含まれる一つ以上の最大符号化単位を決定する復号化部;を含み、該獲得部は、ビットストリームから、現在最大符号化単位が第1スライスセグメントの終りであるか否かということを示す第2情報を獲得することを特徴とし、復号化部は、第1情報が、ピクチャに従属的スライスセグメントが含まれることが許容されるということを示し、第2情報が、現在最大符号化単位は、第1スライスセグメントの終りであるということを示す場合第1スライスセグメントのコンテクスト変数を保存することを特徴とする。
以下、図1Aないし図7を参照し、多様な実施形態によって、スライスセグメントでのエントロピー符号化技法、及びスライスセグメントでのエントロピー復号化技法について開示する。また、図8ないし図20を参照し、先に提案したエントロピー符号化技法及び復号化技法が適用可能な多様な実施形態によるツリー構造の符号化単位に基づいたビデオ符号化技法及びビデオ復号化技法について開示する。また、図21ないし図27を参照し、先に提案したビデオ符号化方法、ビデオ復号化方法が適用可能な多様な実施形態について開示する。以下、「映像」は、ビデオの静止映像や動画、すなわち、ビデオそのものを示すことができる。
図1Aは、多様な実施形態によるビデオエントロピー符号化装置10のブロック図である。
多様な実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16を含む。
ビデオエントロピー符号化装置10は、最大符号化単位別に符号化されたシンボルに対して、エントロピー符号化を行うことができる。ビデオエントロピー符号化装置10は、最大符号化単位別に符号化を行うビデオ符号化部(図示せず)を保存することができる。
以下、説明の便宜のために、ビデオエントロピー符号化装置10がビデオ符号化部(図示せず)を含み、最大符号化単位別に符号化し、シンボルを生成する過程について詳細に説明する。ただし、ビデオエントロピー符号化装置10は、ビデオ符号化部(図示せず)を直接含む構造に限定されるものではなく、外部の符号化装置で符号化されたシンボルを受信することもできるということに留意しなければならない。
一実施形態によるビデオ符号化過程は、映像データの時空間的類似性によって重複するデータを最小化する過程であるソース符号化過程と、ソース符号化を介して生成されたデータのビット列において、さらに重複性を最小化する過程であるエントロピー符号化過程とに区分される。一実施形態によるビデオエントロピー符号化装置10は、ビデオを構成するそれぞれのピクチャをブロック別にソース符号化し、符号化シンボルを生成する。ソース符号化は、空間領域のビデオデータに対して、ブロック単位でイントラ予測/インター予測、変換、量子化を行う過程を含む。ソース符号化の結果、ブロック別に符号化シンボルが生成される。例えば、レジデュアル(residual)成分の量子化された変換係数、動きベクトル、イントラモード属性、インタモード属性、量子化パラメータなどが符号化シンボルにもなる。
一実施形態によるエントロピー符号化は、シンボルをビット列に変換する二進化過程と、ビット列に対してコンテクスト基盤の算術符号化を行う算術符号化過程と、に分類することができる。コンテクスト基盤の算術符号化を行う算術符号化方式として、CABAC(context adaptive binary arithmetic ccoding)などが広く利用されている。コンテクスト基盤の算術符号化/復号化によれば、シンボルビット列の各ビットがコンテクストの各ビン(bin)になり、各ビット位置がビンインデックスにマッピングされる。ビット列長が、すなわち、ビンの長さは、シンボル値の大きさによって変わる。コンテクスト基盤の算術符号化/復号化のためには、シンボルのコンテクストを決定するコンテクストモデリングが必要である。
コンテクストモデリングのためには、シンボルビット列のビット位置ごとに、すなわち、それぞれのビンインデックスごとに、コンテクストを新たに更新する必要がある。ここで、コンテクストモデリングは、各ビンで、0または1が発生する確率を分析する過程である。これまでのコンテクストに、新たなブロックのシンボルのビット別確率を分析した結果を反映させてコンテクストを更新する過程が、ブロックごとに反復される。かようなコンテクストモデリングの結果を収録した情報として、各ビンごとに発生確率がマッチングされた確率表が提供される。一実施形態によるエントロピーコーディング確率情報は、かようなコンテクストモデリング結果を収録した情報でもある。
従って、コンテクストモデリング情報、すなわち、エントロピーコーディング確率情報が確保されれば、エントロピーコーディング確率情報のコンテクストに基づいて、ブロックシンボルの二進化されたビット列のビットごとにコードを割り当てることにより、エントロピー符号化が行われる。
また、エントロピー符号化は、コンテクストを基盤とする算術符号化/復号化を行うので、ブロックごとにシンボルコードコンテクスト情報が更新され、更新されたシンボルコードコンテクスト情報を使用してエントロピー符号化を行うことにより、圧縮率が向上する。
本発明の多様な実施形態によるビデオ符号化技法は、データ単位である「ブロック」に対するビデオ符号化技法にのみ限定されると解釈されてはならなず、多様なデータ単位に適用される。
映像符号化の効率性のために、映像を所定サイズのブロックに分割して符号化する。ブロックの属性は、正方形または長方形でもあり、任意の幾何学的形態でもある。一定サイズのデータ単位に制限されるものではない。一実施形態によるブロックは、ツリー構造による符号化単位において、最大符号化単位、符号化単位、予測単位、変換単位などでもある。ツリー構造による符号化単位に基づいたビデオ符号化/復号化方式は、図8ないし図20を参照して後述する。
ピクチャのブロックは、ラスタースキャン方向に沿って符号化される。
ビデオエントロピー符号化装置10は、ピクチャを一つ以上のタイルに分割し、各タイルは、ピクチャのブロックのうち、ラスター方向に沿って羅列されたブロックを含んでもよい。ピクチャは、一つ以上の縦列に分割するタイルに分割されるか、一つ以上の横列に分割するタイルに分割されるか、または1列以上の縦列、及び1列以上の横列に分割されるタイルに分割される。各タイルは、空間領域を分割し、各空間領域を個別的に符号化するために、ビデオエントロピー符号化装置10は、タイル別に個別的に符号化することができる。
各スライスセグメントは、ラスター方向に沿って羅列されたブロックを含むので、ビデオエントロピー符号化装置10は、ピクチャを横方向に分割することにより、スライスセグメントを生成することもできる。ピクチャは、一つ以上のスライスセグメントに分割される。各スライスセグメント別に、1つのNAL(network adaptation layer)ユニットを介して伝送される。
一実施形態によるビデオエントロピー符号化装置10は、かようなスライスセグメントに対する符号化を行うことができる。一実施形態によるビデオエントロピー符号化装置10は、スライスセグメントごとに含まれたブロックに対して順次に符号化を行い、ブロック別に符号化シンボルを生成することができる。各スライスセグメント別に、ブロックの符号化データが1つのNALユニットに含まれて送受信される。各タイルは、少なくとも1つのスライスセグメントを含んでもよい。場合により、スライスセグメントが、少なくとも1つのタイルを含んでもよい。
また、スライスセグメントは、従属的スライスセグメントと、独立的スライスセグメントとに分類される。
現在スライスセグメントが従属的スライスセグメントである場合、現在スライスセグメントより先に符号化された以前スライスセグメントの符号化シンボルを参照するインピクチャ予測(in-picture prediction)が行われる。また、現在スライスセグメントが従属的スライスセグメントである場合、現在スライスセグメントより先に符号化された以前スライスセグメントのエントロピー情報を参照する従属的なエントロピー符号化が行われる。
現在スライスセグメントが独立的スライスセグメントである場合、以前スライスセグメントを参照してインピクチャ予測を行わず、以前スライスセグメントのエントロピー情報を参照しない。
一実施形態による1つのピクチャは、1つの独立的スライスセグメントと、ラスタースキャン順序によって、独立的スライスセグメントに連続する少なくとも1つの従属的セグメントを含んでもよい。1つの独立的スライスセグメントが、1つのスライスでもある。
一実施形態によるビデオエントロピー符号化装置10は、タイル別に、他のタイルと個別的に符号化することができる。ビデオエントロピー符号化装置10は、タイル別に、現在タイルに含まれた最大符号化単位を順次に符号化することができる。
また、一実施形態によるビデオエントロピー符号化装置10は、スライスセグメント別に、現在スライスセグメントの最大符号化単位を符号化することができる。現在スライスセグメントに含まれた最大符号化単位のうち、所定タイルに含まれる最大符号化単位は、現在タイルでの符号化順序によって符号化することができる。
一実施形態によるビデオエントロピー符号化装置10は、現在スライスセグメントの全体最大符号化単位が、現在タイルに属するとき、現在スライスセグメントに含まれた多数の最大符号化単位を、現在タイル内でのラスタースキャン順序によって符号化することができる。その場合、現在スライスセグメントは、現在タイルの境界にかけて位置しないので、現在スライスセグメントの最大符号化単位は、現在タイルの境界を越えて位置しない。その場合、一実施形態によるビデオエントロピー符号化装置10は、各タイルに含まれた少なくとも1つのスライスセグメント別に順次に符号化し、各スライスセグメントに含まれた多数のブロックを、ラスタースキャン順序によって符号化することができる。
また、現在スライスセグメントが少なくとも1つのタイルを含む場合にも、ビデオエントロピー符号化装置10は、現在スライスセグメントに含まれた最大符号化単位のうち、現在タイルに属する最大符号化単位に対して、現在タイルでの最大符号化単位のラスタースキャン順序によって符号化を行うことができる。一実施形態によるビデオエントロピー符号化装置10は、スライスセグメントに対して順次に符号化を行うことができる。従って、一実施形態によるスライスビデオエントロピー符号化装置10は、スライスセグメントに対して順次に符号化を行い、各スライスセグメントごとに含まれたブロックに対して順次に符号化を行い、ブロック別に符号化シンボルを生成することができる。スライスセグメントのブロックごとに、イントラ予測、インター予測、変換、インループフィルタリング、SAO(sample adaptive offset)補償、量子化を行うことができる。
ソース符号化過程で生成された符号化シンボル、例えば、イントラサンプル、動きベクトル、符号化モード情報などを予測符号化するために、インピクチャ予測が行われる。インピクチャ予測が行われる場合には、現在符号化シンボルの代わりに、現在符号化シンボルと、以前符号化シンボルとの差値が符号化される。また、現在サンプルの代わりに、現在サンプルと、隣接サンプルとの差値が符号化される。
また、エントロピー符号化過程で生成されたエントロピーコンテクスト情報や、コードコンテクスト情報などを予測符号化するために、従属的エントロピー符号化が行われる。従属的エントロピー符号化が行われる場合には、現在エントロピー情報と、以前エントロピー情報とが同一であるならば、現在エントロピー情報の符号化が省略される。
ただし、ビデオエントロピー符号化装置10は、各タイルに対して個別的に符号化するので、互いに異なるタイルに属する最大符号化単位の間には、インピクチャ予測または従属的エントロピー符号化を行わない。
ビデオエントロピー符号化装置10は、スライスセグメントの使用可能性や、スライスセグメントの属性を示す情報を、SPS(sequence parameter set)、PPS(picture parameter set)、スライスセグメントヘッダのような各種符号化単位のヘッダに記録することができる。
例えば、ビデオエントロピー符号化装置10は、現在スライスセグメントが、現在ピクチャにおいて、最初のスライスセグメントであるか否かということを示す情報を含むスライスセグメントヘッダを生成することができる。
現在スライスセグメントが属している現在ピクチャに係わる各種基本情報は、PPSに収録されて伝送される。特に、PPSは、現在ピクチャが従属的スライスセグメントを含むか否かということについての情報を含んでもよい。従って、現在ピクチャにおいて、従属的スライスセグメントが使用されることを示す情報がPPSに収録されるとき、ビデオエントロピー符号化装置10は、現在スライスセグメントヘッダに、現在スライスセグメントが、以前スライスセグメントのスライスヘッダ情報を利用する従属的スライスセグメントであるか否かということを示す情報を含んでもよい。
反対に、現在ピクチャのPPSに、現在ピクチャにおいて、従属的スライスセグメントが使用されないことを示す情報が含まれた場合には、現在スライスセグメントヘッダに、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が含まれない。
また、ビデオエントロピー符号化装置10は、現在スライスセグメントが最初のスライスセグメントではないならば、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報を、スライスセグメントヘッダに追加することができる。
すなわち、現在ピクチャのPPSに、現在ピクチャにおいて従属的スライスセグメントが使用されるということを示す情報が含まれており、現在スライスセグメントヘッダに、現在スライスセグメントが最初のスライスセグメントではないという情報が含まれている場合、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が、現在スライスセグメントヘッダにさらに追加される。一実施形態による最初のスライスセグメントは、独立的スライスセグメントでなければならない。従って、現在スライスセグメントが最初のスライスセグメントであるならば、従属的スライスセグメントであるか否かということを示す情報は、省略することができる。従って、ビデオエントロピー符号化装置10は、最初のスライスセグメントのためのスライスセグメントヘッダに、最初のスライスセグメントであるか否かということを示す情報に引き続き、現在スライスセグメントについての基本情報を、スライスセグメントヘッダに追加して伝送することができる。
従って、現在ピクチャにおいて、従属的スライスセグメントが使用され、現在スライスセグメントが最初のスライスセグメントではない場合、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報が、現在スライスセグメントヘッダにさらに追加される。
ただし、現在スライスセグメントが最初のスライスセグメントではなく、従属的スライスセグメントであるならば、一部スライスセグメントについての基本情報は、以前スライスセグメントヘッダの情報と同一である。従って、現在スライスセグメントヘッダは、最初のスライスセグメントであるか否かということを示す情報、従属的スライスセグメントであるか否かということを示す情報を含むが、以前スライスセグメントヘッダの情報と重複する情報は、省略したまま伝送することができる。
一実施形態による現在スライスセグメントが従属的スライスセグメントではないならば、現在スライスセグメントヘッダは、従属的スライスセグメントであるか否かということを示す情報を含みながら、現在スライスセグメントのための各種ヘッダ情報をさらに含んでもよい。
また、ビデオエントロピー符号化装置10は、スライスセグメントヘッダに、量子化パラメータと、エントロピー符号化のためのコンテクストの初期コンテクスト情報とが収録して伝送することができる。
しかし、現在スライスセグメントが従属的スライスセグメントである場合、ビデオエントロピー符号化装置10は、現在スライスセグメントより先に符号化された以前スライスセグメントの符号化シンボルを参照するインピクチャ予測を行うことができる。現在スライスセグメントが従属的スライスセグメントである場合、ビデオエントロピー符号化装置10は、現在スライスセグメントより先に符号化された以前スライスセグメントのエントロピー情報を参照する従属的なエントロピー符号化を行うこともできる。
従って、ビデオエントロピー符号化装置10は、現在スライスセグメントが従属的スライスセグメントである場合には、現在スライスセグメントのスライスセグメントヘッダに、量子化パラメータと初期コンテクスト情報とを収録しない。従属的スライスセグメントの量子化パラメータと、初期コンテクスト情報は、以前に符号化された独立的スライスセグメントのヘッダ情報に収録された量子化パラメータと初期コンテクスト情報とに初期化される。
現在スライスセグメントが独立的スライスセグメントである場合、ビデオエントロピー符号化装置10は、インピクチャ予測を行わないので、以前スライスセグメントと関係なく、現在スライスセグメントの符号化シンボルのビットストリームを出力することができる。現在スライスセグメントが独立的スライスセグメントである場合、ビデオエントロピー符号化装置10は、以前に符号化された隣接するスライスセグメントのエントロピー情報と関係なく、現在スライスセグメントのエントロピー情報を出力することもできる。例えば、現在スライスセグメントが独立的スライスセグメントである場合には、現在スライスセグメントヘッダに、量子化パラメータと初期コンテクスト情報とを収録しなければならない。
ビデオエントロピー符号化装置10は、スライスセグメント別に、スライスセグメントヘッダ及びスライスセグメントのシンボルを伝送することができる。
以下、図1Bを参照し、ビデオエントロピー符号化装置10の各構成要素別に、ビデオエントロピー符号化を行う動作について詳細に説明する。図1Bは、多様な実施形態によるビデオエントロピー符号化方法のフローチャートを図示している。
ビデオエントロピー符号化装置10は、ピクチャの少なくとも1つのスライスセグメントに分割し、スライスセグメント別に符号化を行い、スライスセグメントに含まれた最大符号化単位に対して順次に符号化を行うということは、前述の通りである。
段階11において、最大符号化単位別に符号化を行って決定されたシンボルに対して、二進化部12が二進化を行い、シンボルのビット列を生成することができる。
段階13において、ビンストリング決定部14は、最大符号化単位のシンボルに対応するシンタックス要素(syntaxel ement)値のビンインデックス別コンテクスト変数を決定することができる。先に符号化された他の最大符号化単位で使用されたシンタックス要素値のビンインデックス別コンテクスト変数に基づいて、現在最大符号化単位のためのコンテクスト変数が決定される。
コンテクスト変数は、コンテクストテーブル及びコンテクストインデックスを含んでもよい。シンタックス要素別に、コンテクスト変数が決定される。
段階15において、ビンストリング決定部14は、決定されたシンタックス要素のコンテクスト変数に基づいて、シンタックス要素値を示すビンストリングを決定することができる。ビデオエントロピー符号化装置10は、各シンタックス要素に対して、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。
ビンストリング決定部14は、現在シンタックス要素値に対するコンテクストテーブルにおいて、段階13で決定されたコンテクスト変数が示すビンストリングを採択することができる。
ビデオエントロピー符号化装置10は、最大符号化単位に係わる全てのシンタックス要素に係わるビンストリングを生成した後、最大符号化単位で決定されたコンテクスト変数を保存するか否かということを決定することができる。
段階17において、コンテクスト保存部16は、シンタックス要素が最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
コンテクスト保存部16は、スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
ピクチャに複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
ビデオエントロピー符号化装置10は、ピクチャに含まれたスライスセグメント、最大符号化単位、最大符号化単位を復号化するのに共通して必要な各種情報を収録するピクチャパラメータセットを生成することができる。ビデオエントロピー符号化装置10は、ピクチャパラメータセットに、ピクチャに従属的スライスセグメントが含まれているか否かということを示す第1情報を含めることができる。
ビデオエントロピー符号化装置10は、各スライスセグメントに含まれた各最大符号化単位を符号化して生成されたデータを含むスライスセグメントデータを生成することができる。ビデオエントロピー符号化装置10は、スライスセグメント別データのうち最大符号化単位に係わるデータに、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位であるか否かということを示す第2情報を含めることができる。また、最大符号化単位に係わるデータに、エントロピー符号化によって生成されたビンストリングも含まれている。
ビデオエントロピー符号化装置10は、スライスセグメントに含まれた最大符号化単位、最大符号化単位を復号化するのに必要な共通した各種情報を含むスライスセグメントヘッダを生成することができる。ビデオエントロピー符号化装置10は、スライスセグメント別に符号化を行った結果、ピクチャパラメータセット、スライスセグメントヘッダ、及びスライスセグメント別のデータを含むビットストリームを生成することができる。
ビデオエントロピー符号化装置10は、ピクチャに含まれたスライスセグメントにタイルが含まれているか、ピクチャに含まれた最大符号化単位のコンテクスト変数のために同期化動作が行われる場合、スライスセグメントヘッダに、スライスセグメントに含まれたサブセットのエントリーポイントの個数を示す第3情報、及びエントリーポイント別オフセットより1ほど小さい数を示す第4情報を含めることができる。
スライスセグメントに含まれたサブセットは、スライスセグメントに含まれた最大符号化単位のうち、最大符号化単位のスキャン順序によって順次に符号化される最大符号化単位のグループを意味する。各サブセットに対するプロセッシングは、並列的に行われる。
各サブセットごとに割り当てられた第4情報を利用して、以前サブセットから現在サブセットまでのサブセットオフセットを合算することにより、現在の最初のバイトが決定される。サブセットが2以上存在するならば、サブセットオフセットが0より大きい数でなければならないので、サブセットオフセットを示す第4情報は、サブセットオフセットから1を差し引いた値に決定される。従って、実際サブセットオフセットは、第4情報が示す数に1ほど増加させた値でもある。
各サブセットを構成するバイトのインデックスは、0から始まり、最初のバイトを示すバイトインデックスは、0である。従って、現在の最初バイトに、現在サブセットに割り当てられた第4情報が示す数を合算し、現在の最後バイトが決定される。
一実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16を総括的に制御する中央プロセッサ(図示せず)を含んでもよい。または、二進化部12、ビンストリング決定部14及びコンテクスト保存部16が、それぞれの自体プロセッサ(図示せず)によって作動し、プロセッサ(図示せずが相互有機的に作動することにより、ビデオエントロピー符号化装置10が全体的に作動することもできる。または、一実施形態によるビデオエントロピー符号化装置10の外部プロセッサ(図示せず)の制御により、ビデオエントロピー符号化装置10及びビデオエントロピー符号化装置10が制御されてもよい。
一実施形態によるビデオエントロピー符号化装置10は、二進化部12、ビンストリング決定部14及びコンテクスト保存部16の入出力データが保存される一つ以上のデータ保存部(図示せず)を含んでもよい。ビデオエントロピー符号化装置10は、データ保存部(図示せず)のデータ入出力を管轄するメモリ制御部(図示せず)を含んでもよい。
図2Aは、多様な実施形態によるビデオエントロピー復号化装置のブロック図である。
一実施形態によるビデオエントロピー復号化装置20は、コンテクスト初期化部22、シンボル復元部24及びコンテクスト保存部26を含む。
一実施形態によるビデオエントロピー復号化装置20は、ピクチャが2以上のタイルと、少なくとも1つのスライスセグメントとに分割されて符号化された結果として生成されたビットストリームを受信することができる。ビットストリームは、スライスセグメント別に生成されたデータでありながら、タイル別に生成されたデータでもある。
以下、ビデオエントロピー復号化装置20が、スライスセグメントの属性によって、スライスセグメントヘッダをパージングすることができる。ビデオエントロピー復号化装置20は、現在スライスセグメントのスライスセグメントヘッダから、現在スライスセグメントが、現在ピクチャにおいて、最初のスライスセグメントであるか否かということを示す情報をパージングすることができる。
ビデオエントロピー復号化装置20は、パージングされた情報から、現在スライスセグメントが最初のスライスセグメントではないということを判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントが以前スライスセグメントのスライスヘッダ情報を利用する従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。
ただし、現在スライスセグメントが属している現在ピクチャに係わるPPSから、現在ピクチャが従属的スライスセグメントを含むか否かということについての情報がパージングされる。従って、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されるということを示す情報がパージングされた場合、ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をパージングすることができる。
反対に、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されないということを示す情報がパージングされた場合には、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報がパージングされない。
従って、現在ピクチャのPPSから、現在ピクチャにおいて、従属的スライスセグメントが使用されるということを示す情報がパージングされ、現在スライスセグメントが最初のスライスセグメントではないことを示す情報がパージングされるならば、ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。すなわち、現在ピクチャが、従属的スライスセグメントを使用し、現在従属的スライスセグメントが最小スライスセグメントではないと判読された場合、現在スライスセグメントヘッダから、現在スライスセグメントが従属的スライスセグメントであるか否かということを示す情報をさらにパージングすることができる。
ビデオエントロピー復号化装置20が、パージングされた情報から、現在スライスセグメントが最初のスライスセグメントであると判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントが、従属的スライスセグメントであるか否かということを示す情報がパージングされない。最初のスライスセグメントは、従属的スライスセグメントではありえないために、パージング情報なしも、独立的スライスセグメントであるということが決定される。従って、ビデオエントロピー復号化装置20は、現在スライスセグメントが最初のスライスセグメントであるならば、ピクチャの最初のスライスセグメントヘッダから、最初のスライスセグメントであるか否かということを示す情報、及び現在スライスセグメントについての基本情報をさらにパージングすることができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報から、現在スライスセグメントが従属的スライスセグメントであるということを判読するならば、以前スライスセグメントのヘッダからパージングされた一部ヘッダ情報を、現在スライスセグメントの基本情報として決定することができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報から、現在スライスセグメントが従属的スライスセグメントではないと判読するならば、現在スライスセグメントヘッダから、現在スライスセグメントのための各種ヘッダ情報をパージングすることができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントヘッダからパージングされた情報、及び現在スライスセグメントのシンボルを利用して、現在スライスセグメントを復号化することができる。
ビデオエントロピー復号化装置20は、1つのNALユニットを介して、各スライスセグメントが受信されれば、スライスセグメント別に、ブロックの符号化データが含まれて受信される。各タイルは、少なくとも1つのスライスセグメントを含んでもよい。場合により、スライスセグメントが少なくとも1つのタイルを含んでもよい。スライスセグメントとタイルとの関係は、先に図1A及び図1Bを参照して詳細に説明したところと同一である。
また、ビデオエントロピー復号化装置20は、復元された現在スライスセグメントを含み、各タイルに含まれる少なくとも1つのスライスセグメントを復元し、復元されたタイルを組み合わせてピクチャを復元することができる。
ビデオエントロピー復号化装置20は、タイル別に、現在タイルに含まれた少なくとも1つのスライスセグメント別に、現在スライスセグメントに含まれた多数のブロックのシンボルをラスタースキャン順序によってパージングすることができる。また、ビデオエントロピー復号化装置20は、ブロックのラスタースキャン順序によってパージングされたシンボルを利用して、ブロックをラスタースキャン順序によって復号化することができる。
ビデオエントロピー復号化装置20は、各スライスセグメントのビットストリームに対してエントロピー復号化を行い、最大符号化単位別に符号化シンボルをパージングすることができる。スライスセグメントに含まれた最大符号化単位に対して順次にエントロピー復号化を行い、最大符号化単位別符号化シンボルをパージングすることができる。以下、ビデオエントロピー復号化装置20が、スライスセグメントに含まれた符号化単位別に符号化シンボルをパージングして復元する過程について、以下図2Bを参照して詳細に説明する。
図2Bは、多様な実施形態によるビデオエントロピー復号化方法のフローチャートを図示している。
段階21において、コンテクスト初期化部22は、ビットストリームから獲得した最大符号化単位に係わるビンストリングと、ビンインデックスとを決定することができる。
コンテクスト初期化部22は、各シンタックス要素に対して、コンテクストインデックス別に初期化値に係わる初期化テーブルを保存している。コンテクスト変数の初期化動作により、初期化テーブルに基づいて、現在シンタックス要素のコンテクストインデックスが初期化値に決定される。
また、コンテクスト初期化部22は、各シンタックス要素について、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。
コンテクスト初期化部22は、シンタックス要素のためのコンテクスト変数を決定することができる。周辺最大符号化単位のコンテクスト変数を利用して、現在最大符号化単位のコンテクスト変数を同期化することもできる。
段階23において、コンテクスト初期化部22は、コンテクストテーブルに基づいて、現在コンテクスト変数において、シンタックス要素に割り当てられるビンストリングと、段階21で決定されたビンインデックスでのビンストリングとを比較し、現在ビンストリングが示すシンタックス要素の値を決定することができる。
最大符号化単位のエントロピー復号化を始めるときの初期コンテクスト変数から、最大符号化単位に係わるビンストリングに対してエントロピー復号化を行いながら新たに蓄積されるコンテクストに基づいて、コンテクスト変数が更新される。
コンテクスト初期化部22は、ビットストリームのPPSから獲得された第1情報に基づいて、ピクチャに従属的スライスセグメントが含まれているか否かということを決定することができる。コンテクスト初期化部22は、ビットストリームのスライスセグメント別データのうち最大符号化単位に係わるデータから獲得された第2情報に基づいて、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位であるか否かということを決定することができる。また、コンテクスト初期化部22は、スライスセグメント別データのうち最大符号化単位に係わるデータからビンストリングを獲得することができる。
段階25において、コンテクスト保存部26は、シンタックス要素が最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数が保存される。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
段階27において、シンボル復元部24は、段階23で決定されたシンタックス要素の値を利用して、最大符号化単位のシンボルを復元することができる。
ビデオエントロピー復号化装置20は、ビットストリームのスライスセグメントヘッダから獲得された第3情報に基づいて、スライスセグメントに含まれたサブセットのエントリーポイントの個数を決定することができる。
ビデオエントロピー復号化装置20は、ビットストリームのスライスセグメントヘッダから獲得されたエントリーポイント別オフセットに係わる第4情報に基づいて、第4情報が示す数から1ほど増加した数であるオフセットを利用して、各エントリーポイントの位置を決定することができる。従って、ビデオエントロピー復号化装置20は、スライスセグメント、タイルまたは最大符号化単位の列のようなサブセットごとにエントリーポイントが明確に決定することができるので、周辺最大符号化単位のコンテクスト変数を獲得するエントロピー同期化地点を正確に決定することができる。
段階21ないし段階27によって、各スライスセグメントごとにパージングされた最大符号化単位の符号化シンボルを利用して、ビデオエントロピー復号化装置20は、各最大符号化単位に対して、ラスタースキャン順序によって順次に復号化を行うことができる。
ビデオエントロピー復号化装置20は、タイル別に、他のタイルと個別的に復号化することができる。1つのNALユニットには、タイル別に、現在タイルに含まれた最大符号化単位を順次に復号化することができる。
従って、ビデオエントロピー復号化装置20は、各スライスセグメントごとにパージングされた最大符号化単位の符号化シンボルを利用して、各最大符号化単位に対して、ラスタースキャン順序によって順次に復号化を行うことができる。
また、現在スライスセグメントに含まれた最大符号化単位のうち、所定タイルに含まれる最大符号化単位は、現在タイルでの復号化順序によって復号化することができる。
ビデオエントロピー復号化装置20は、現在スライスセグメントの全体最大符号化単位が現在タイルに属するとき、現在スライスセグメントに含まれた多数の最大符号化単位を、現在タイル内でのラスタースキャン順序によって復号化することができる。その場合、現在スライスセグメントは、現在タイルの境界にかけて位置しない。ビデオエントロピー復号化装置20は、各タイルに含まれた少なくとも1つのスライスセグメント別に順次に復号化し、各スライスセグメントに含まれた多数のブロックをラスタースキャン順序によって復号化することができる。
また、現在スライスセグメントが少なくとも1つのタイルを含む場合にも、ビデオエントロピー復号化装置20は、現在スライスセグメントに含まれた最大符号化単位のうち、現在タイルに属する最大符号化単位に対して、現在タイルでの最大符号化単位のラスタースキャン順序によって復号化を行うことができる。
最大符号化単位別にパージングされたイントラサンプル、動きベクトル、符号化モード情報などのような符号化シンボルを利用して、インピクチャ予測が行われる。インピクチャ予測を介して、以前符号化シンボルの復元値と、現在符号化シンボルと以前符号化シンボルとの差値とが合成されることにより、現在符号化シンボルの復元値が決定される。また、現在サンプルより先に復元された隣接サンプルの復元値と、現在サンプルと以前サンプルとの差値が合成されることにより、現在サンプルの復元値が決定される。
最大符号化単位の符号化シンボルを利用した復号化は、逆量子化、逆変換、イントラ予測/動き補償などを介して行われる。例えば、各最大符号化単位の符号化シンボルに対して逆量子化を行い、変換単位の変換係数が復元され、変換単位の変換係数に対して逆変換を行い、予測単位のレジデュアル情報が復元される。レジデュアル情報においてイントラサンプルを利用して、イントラ予測が行われる。また、動きベクトルが示す他の復元予測単位とレジデュアル情報とを合成する動き補償を介して、現在予測単位のサンプルが復元される。また、最大符号化単位に対して、SAO補償及びインループフィルタリングが行われる。
従って、ビデオエントロピー復号化装置20は、各スライスセグメント及び各タイルの最大符号化単位に対して、タイル内での復号化順序によって順次に復号化することができる。
一実施形態によって、タイルが少なくとも1つのスライスセグメントを含む場合には、スライスセグメントごとに最大符号化単位を復号化し、スライスセグメント別に復元した結果を組み合わせ、1つのタイルが復元される。
また、一実施形態によってス、ライスセグメントが少なくとも1つのタイルを含む場合には、タイルごとに最大符号化単位を復号化し、タイル別に復元した結果を組み合わせ、1つのスライスセグメントが復元される。
ビデオエントロピー復号化装置20は、復元されたタイルまたは復元されたスライスセグメントで構成されたピクチャを復元することができる。
図1A、図1B、図2A、図2Bを参照して説明したエントロピー符号化/復号化方式に基づいて、現在ピクチャにおいて、従属的スライスセグメントが使用されるならば、各スライスセグメントの最後の最大符号化単位のエントロピー符号化(復号化)を完了した後、コンテクスト変数を保存することができる。従って、以前スライスセグメントが独立的スライスセグメントであるとしても、その次の従属的スライスセグメントのために必要なコンテクスト変数の初期変数を、先に符号化された独立的スライスセグメントの最後の最大符号化単位のコンテスト変数から獲得することができる。
また、エントロピー符号化/復号化のためのコンテクスト変数の同期化地点を効率的に知らせるために、サブセットオフセットから1ずつ減少した数を示す情報が、スライスセグメントを介して提供されるので、スライスセグメントのデータサイズが縮小される。
以下、図3及び図4を参照し、一実施形態によるビデオエントロピー符号化装置10及びビデオエントロピー復号化装置20が使用するサブ領域であるスライスセグメントとタイルとの関係について詳細に説明する。
図3は、ピクチャ内のタイル及び最大符号化単位を図示している。ピクチャ301を、縦方向及び横方向のうち少なくとも一方向に分割して生成された各領域に対して、独立して符号化及び復号化を行うとき、各領域をタイルと呼ぶ。HD(high definision)級、UHD(ultra high definition)級の解像度のビデオの大データ量を利用して、リアルタイムでプロセッシングするために、ピクチャを少なくとも1列の縦列(column)と、少なくとも1列の横列(row)に分割してタイルが形成され、タイル別に符号化/復号化が行われる。
ピクチャ301において各タイルは、個別的に符号化/復号化される空間領域であるので、符号化/復号化する領域のタイルのみを選択的に符号化/復号化することが可能になる。
図3で、ピクチャ301が縦列境界321,323と横列境界311,313とによってタイルに分割される。縦列境界321,323のうち一つと、横列境界311,313のうち一つとによって取り囲まれた領域がタイルである。
ピクチャ301をタイルに分割して符号化するならば、縦列境界321,323と横列境界311,313との位置についての情報がSPS(sequence parameter set)またはPPS(picture parameter set)に収録されて伝送される。ピクチャ301の復号化時には、SPSまたはPPSから、縦列境界321,323と横列境界311,313との位置についての情報をパージングし、タイル別に復号化し、ピクチャ301の各サブ領域を復元し、縦列境界321,323と横列境界311,313とについての情報を利用して、各サブ領域を1つのピクチャ301に復元することができる。
ピクチャ301を最大符号化単位(LCU)に分割し、ブロック別に符号化/復号化が行われる。従って、ピクチャ301を、縦列境界321,323と横列境界311,313とに分割して形成された各タイルは、最大符号化単位を含む。ピクチャを分割する縦列境界321,323と横列境界311,313は、隣接するLCUの境界に沿って通過するので、各LCUを分割しない。従って、各タイルは、整数個のLCUを含む。
従って、ピクチャ301のタイル別にプロセッシングが行われながら、各タイルでは、LCU別に符号化/復号化が行われる。図3において、各LCUに表記されている数字は、タイル内でLCUのスキャン順序、すなわち、符号化または復号化されるために処理される順序を示す。
タイルは、原則的にタイル間で独立して符号化/復号化が行われるという点で、スライスセグメント及びスライスと比較される。以下、図4を参照し、スライスセグメント及びスライスについて詳細に説明する。
図4は、ピクチャ内のスライスセグメント及び最大符号化単位を図示している。ピクチャ401は、多数のLCUに分割されている。図4では、ピクチャ401が横方向に13個、縦方向に9個、すなわち、総117個のLCUに分割されている。各LCUは、ツリー構造の符号化単位に分割されて符号化/復号化される。
ピクチャ401は、境界線411によって、上段スライス及び下段スライスの2つのスライスに分割されている。また、ピクチャ401は、境界線421,423,411により、スライスセグメント431,433,435,441に分割されている。
スライスセグメント431,433,435,441のタイプは、従属的スライスセグメント(dependent slice segment)と独立的スライスセグメント(independent slice segment)とに分類される。従属的スライスセグメントでは、所定スライスセグメントに対するソース符号化及びエントロピー符号化で利用されるか生成される情報が、異なるスライスセグメントのソース符号化及びエントロピー符号化のために参照される。復号化時にも、同様に従属的スライスセグメントのうち所定スライスセグメントに対するエントロピー復号化において、パージング情報及びソース復号化で利用されるか復元される情報が、異なるスライスセグメントのエントロピー復号化及びソース復号化のために参照される。
独立的スライスセグメントでは、スライスセグメント別に、ソース符号化及びエントロピー符号化で利用されたり生成されたりする情報が互いに全然参照されず、独立して符号化される。復号化時にも、同様に独立的スライスセグメントのエントロピー復号化及びソース復号化のために、他のスライスセグメントのパージング情報及び復元情報は、全然利用されない。
スライスセグメントのタイプが従属的スライスセグメントであるか、あるいは独立的スライスセグメントであるかということについての情報は、スライスセグメントヘッダに収録されて伝送される。ピクチャ301の復号化時には、スライスセグメントヘッダから、スライスセグメントタイプについての情報をパージングし、スライスセグメントのタイプによって、現在スライスセグメントを、他のスライスセグメントを参照して復元するか、あるいは他のスライスセグメントとは独立して復号化するかということを決定することができる。
特に、独立的スライスセグメントのスライスセグメントヘッダのシンタックス成分(syntax elements)の値、すなわち、ヘッダ情報は、先行するスライスセグメントのヘッダ情報から類推して決定されることがない。これに対し、従属的スライスセグメントのスライスセグメントヘッダのヘッダ情報は、先行するスライスセグメントのヘッダ情報から類推して決定される。
各スライスは、整数個のLCUを含んでもよい。また、1つのスライスは、少なくとも1つのスライスセグメントを含んでもよい。1つのスライスがスライスセグメントを一つのみ含むならば、独立的スライスセグメントを含む。また、1つのスライスは、1つの独立的スライスセグメントと、独立的スライスセグメントとに続き、少なくとも1つの従属的スライスセグメントをさらに含んでもよい。1つのスライスに含まれる少なくとも1つのスライスセグメントは、同一アクセスユニット(access unit)を介して送受信される。
ピクチャ410の上段スライスが、1つの独立的スライスセグメント421と、2つの従属的スライスセグメント433,435と、を含んでいる。ピクチャ410の下段スライスは、1つの独立的スライスセグメント441だけで構成されている。
以下、図5ないし図7を参照し、エントロピー復号化を介したシンボルのパージング過程について詳細に説明する。
図5は、一実施形態によるCABACパージング動作50のフローチャートを図示している。
一実施形態によって、ビデオエントロピー復号化装置20がCABAC復号化を行う場合、CABACパージング動作50を介して、所定シンタックス要素に係わるシンボルをパージングすることができる。
動作511を介して、ビデオエントロピー復号化装置20は、現在パージングするシンタックス要素がスライスセグメント、タイルまたはLCU列などのサブセットにおいて、最初のシンタックス要素であるか否か、すなわち、初めてパージングされるシンタックス要素であるか否かということを決定する。
最初のシンタックス要素であるならば、動作513を介して、コンテクスト内部変数が初期化される。コンテクスト内部変数は、現在シンタックス要素に係わるコンテクストインデックス及びコンテクストテーブルでもある。コンテクスト内部変数が既設定のデフォルト値に決定される。
動作521を介して、ビデオエントロピー復号化装置20は、ビットストリームから、現在シンタックス要素を示すビンストリングを獲得することができる。動作523及び動作524において、いったんビンストリングの最初のビンインデックスは、−1に設定し、ビンストリングの1ビットずつ追加されながら、ビンインデックスも、1ずつ増加する。
動作527を介して、ビデオエントロピー復号化装置20は、シンタックス要素の現在ビンインデックスに対応するコンテクスト変数を獲得することができる。例えば、現在ビンインデックスに対応するコンテクスト変数は、コンテクストテーブル、コンテクストインデックス及びバイパスフラグを含んでもよい。各シンタックス要素の各ビンインデックスに対応するように、既設定のコンテクスト変数に係わるデータがビデオエントロピー復号化装置20にあらかじめ保存されている。既保存のデータを基に、現在シンタックス要素のビンインデックスに対応するコンテクスト変数が選択される。
動作529を介して、ビデオエントロピー復号化装置20は、ビンストリングのコンテクスト変数に対応するビット列を復号化することができる。シンタックス要素別に、ビンインデックスによってあらかじめ設定されたバイパスフラグに係わるデータを基に、現在ビンインデックスに割り当てられるバイパス状態が決定される。シンタックス要素別に、現在符号化されるデータ単位(符号化単位、変換単位、予測単位など)の現在状態や属性(データ単位のスキャンインデックス、カラー成分インデックス、データ単位の大きさなど)に基づいて、コンテクストインデックスが決定される。コンテクストテーブルにおいて、現在コンテクストインデックス及びバイパス状態に対応するビット列が決定される。
動作531を介して、ビデオエントロピー復号化装置20は、現在シンタックス要素において使用可能なビット列を収録するデータと、動作529を介して決定された現在ビット列とを比較することができる。現在決定されたビット列が、ビット列データに属さないのであるならば、さらに動作525に戻り、ビンインデックスを1ほど増加させて1ビットを追加されたビンストリングに対し、さらにコンテクスト変数を決定し、ビット列を復号化する動作527,529が反復される。
動作529を介して決定された現在ビット列が、シンタックス要素に係わるビット列データに属するならば、動作533を介して、現在シンタックス要素がPCMモードであるということを示す情報「pcm_flag」でありながら、シンタックス要素値がPCMモードであるということを示すか否かということが判断される。動作529を介して、PCMモードの最大符号化単位であるということが決定されるならば、動作535において、復号化動作50が初期化される。
PCMモードではないならば、動作537を介して、現在シンタックス要素が現在サブセット(LCUまたはスライスセグメント)において最後のシンタックス要素であるか否か、すなわち、最後にパージングされる対象であるか否かということが判断される。最後のシンタックス要素であるならば、動作539において、現在LCUで最終的に更新されたコンテックスト変数が保存される。
コンテックスト変数の保存が完了するか、あるいは最後のシンタックス要素ではないならば、現在シンタックス要素に係わるパージング過程が完了する。
動作539で保存されたコンテクスト変数は、他ののエントロピー復号化のために利用される。図6Aは、保存されたコンテクスト変数を利用するエントロピー復号化過程を図示している。
サブセットが、各LCU行(row)である場合、以前LCU行の最終コンテクスト変数を利用して、現在LCU行の初期コンテクスト変数が決定される。
例えば、映像60において、現在LCU行の最初のLCUの初期コンテクスト変数は、真上に位置するLCU行の最後のLCUの最終コンテクスト変数として決定、すなわち、同期化される。従って、最初のLCU行の最初のLCU61は、初期コンテクスト変数は、デフォルトコンテクスト変数に設定されるが、2番目LCU行の最初のLCU63の初期コンテクスト変数631は、最初のLCU行の最後のLCU62の最終コンテクスト変数629に決定され、3番目LCU行の最初のLCU65の初期コンテクスト変数651は、2番目LCU行の最後のLCU64の最終コンテクスト変数649として決定される。
もし同期化距離が1である場合には、現在LCUのコンテクスト変数の同期化のために、コンテクスト保存部26は、上端LCU行の2番目最大符号化単位のコンテクスト変数を利用することができる。従って、上端LCU行の2番目最大符号化単位の更新が完了し、最終コンテクスト変数が決定されれば保存し、保存された上端LCU行の最終コンテクスト変数を利用して、現在LCU行の最大符号化単位のコンテクスト変数を決定することができる。
図6Bは、一実施形態によるCABACコンテクスト変数の保存動作539の詳細フローチャートを図示している。
動作551において、コンテクスト保存部16,26は、現在LCUが現在サブセットにおいて2番目LCUであり、現在ピクチャにおいて、コンテクスト変数の同期化が行われなければならないか否かということを判断することができる。コンテクスト変数の同期化が必要であり、現在LCUが2番目LCUであるならば、動作553において、コンテクスト保存部16,26は、ウエーブフロントコーディング(WPP:wavefront parallel processing)のために、現在LCUの最終コンテクスト変数を保存することができる。ウエーブフロントコーディングの場合、図6Aにおいて、同期化距離が1である場合のように、現在LCU行の最初のLCUのコンテクスト変数は、上端LCU行の2番目LCUで保存されたコンテクスト変数に同期化される。
動作561において、コンテクスト保存部16,26は、現在LCUが現在スライスセグメントにおいて、最後のLCUであり、現在ピクチャに従属的スライスセグメントが存在するか否かということを判断することができる。従属的スライスセグメントが存在し、現在スライスセグメントが最後のスライスセグメントであるならば、動作563においてコンテクスト保存部16,26は、後続する従属的スライスセグメントのために、現在LCUの最終コンテクスト変数を保存することができる。
図7は、一実施形態によるスライスセグメントヘッダのシンタックスを図示している。
ビデオエントロピー復号化装置20は、スライスセグメントヘッダ71から、現在スライスセグメントのエントリーポイントオフセットに係わる情報を獲得することができる。具体的に見れば、現在スライスセグメントが含まれたピクチャにおいて、スライスセグメントがタイルの存在可能性「tiles_enabled_flag」の条件と、LCU別にコンテクスト変数の同期化可能性「entropy_coding_sync_enabled_flag」の条件とのうち少なくとも1つの条件を満足する場合(72)、スライスセグメントヘッダ71は、現在スライスセグメントに含まれたサブセットのエントリーポイントの個数を示す情報「num_entry_point_offsets」を収録する(73)。また、エントリーポイントの個数ほど、各エントピポイントごとに(74)、実際エントリーポイント別オフセットより1ほど小さい数を示す情報「entry_point_offset_minus1[i]」が割り当てられる(75)。
サブセットが2以上存在するならば、サブセットオフセットが0より大きい数でなければならないので、エントリーポイントオフセット情報「entry_point_offset_minus1[i]」は、実際サブセットオフセットから1を差し引いた値に決定される。従って、実際サブセットオフセットは、エントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数に1ほど増加させた値でもある。
各サブセットごとに割り当てられたエントリーポイントオフセット情報「entry_point_offset_minus1[i]」を利用して、以前サブセットから現在サブセットまでのサブセットオフセットを合算することにより、現在の最初バイトが決定される。従って、以前サブセットから現在サブセットまで各のエントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数に1ほど増加した値を合算した結果値が、現在の最初バイトに決定される。
各サブセットを構成するバイトのインデックスは、0から始まり、最初バイトを示すバイトインデックスは、0である。従って、現在の最初バイトに、現在サブセットに割り当てられたエントリーポイントオフセット情報「entry_point_offset_minus1[i]」が示す数を合算し、現在の最後バイトが決定される。
一実施形態によるエントロピー符号化装置10、及び一実施形態によるエントロピー復号化装置20において、ビデオデータが分割されるブロックが最大符号化単位であり、各最大符号化単位は、ツリー構造の符号化単位に分割されるという点は、前述の通りである。以下、図8ないし図20を参照し、一実施形態による最大符号化単位及びツリー構造の符号化単位に基づいたビデオ符号化方法及びその装置、ビデオ復号化方法及びその装置について開示する。
図8は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ符号化装置100のブロック図である。
一実施形態によって、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置100は、符号化単位決定部120及び出力部130を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ符号化装置100は、「ビデオ符号化装置100」と縮約して指称する。
符号化単位決定部120は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きければ、現在ピクチャの映像データは、少なくとも1つの最大符号化単位に分割される。一実施形態による最大符号化単位は、サイズ32x32,64x64,128x128,256x256のようなデータ単位であり、縦横に大きさが2の累乗である正方形のデータ単位でもある。
一実施形態による符号化単位は、最大サイズ及び最大深度で特徴づけられる。深度とは、最大符号化単位から符号化単位が空間的に分割された回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれ、深度別符号化単位の大きさは小さくなるので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含んでもよい。
前述のように、符号化単位の最大サイズにより、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含んでもよい。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域(spatial domain)の映像データは、深度によって階層的に分類される。
最大符号化単位の高さ及び幅を階層的に分割することができる総回数を制限する最大深度、及び符号化単位の最大サイズがあらかじめ設定されている。
符号化単位決定部120は、深度ごとに最大符号化単位の領域が分割された少なくとも1つの分割領域を符号化し、少なくとも1つの分割領域別に、最終符号化結果が出力される深度を決定する。すなわち、符号化単位決定部120は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最小の符号化誤差が発生する深度を選択し、符号化深度として決定する。決定された符号化深度及び最大符号化単位別映像データは、出力部130に出力される。
最大符号化単位内の映像データは、最大深度以下の少なくとも1つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最小である深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも1つの符号化深度が決定される。
最大符号化単位の大きさは、深度が深くなるにつれ、符号化単位が階層的に分割されて分割され、符号化単位の個数は増加する。また、1つの最大符号化単位に含まれる同一深度の符号化単位であるとしても、それぞれのデータに対する符号化誤差を測定し、下位深度への分割いかんが決定される。従って、1つの最大符号化単位に含まれるデータであるとしても、位置によって深度別符号化誤差が異なるので、位置によって符号化深度が異なって決定される。従って、1つの最大符号化単位について、符号化深度が一つ以上設定され、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって区画される。
従って、一実施形態による符号化単位決定部120は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれる全ての深度別符号化単位において、符号化深度に決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内において、同一領域では、深度によって階層的に決定され、他の領域については、独立して決定される。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定される。
一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と係わる指標である。一実施形態による第1最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示すことができる。一実施形態による第2最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が0であるとするとき、最大符号化単位が1回分割された符号化単位の深度は1に設定され、2回分割された符号化単位の深度は2に設定される。その場合、最大符号化単位から4回分割された符号化単位が最小符号化単位であるならば、深度0,1,2,3及び4の深度レベルが存在するので、第1最大深度は4、第2最大深度は5に設定される。
最大符号化単位の予測符号化及び変換が行われる。予測符号化及び変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に行われる。
最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなるにつれて生成される全ての深度別符号化単位に対して、予測符号化及び変換を含んだ符号化が行われなければならない。以下、説明の便宜のために、少なくとも1つの最大符号化単位のうち、現在深度の符号化単位を基に、予測符号化及び変換について説明する。
一実施形態によるビデオ符号化装置100は、映像データの符号化のためのデータ単位の大きさまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピー符号化などの段階を経るが、全ての段階にわたって、同一データ単位が使用され、段階別にデータ単位が変更されてもよい。
例えば、ビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。
最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上さらに分割されない符号化単位を基に、予測符号化が行われる。以下、予測符号化の基になる、それ以上さらに分割されない符号化単位を「予測単位」と指称する。予測単位が分割されたパーティションは、予測単位、並びに予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。パーティションは、符号化単位の予測単位が分割された形態のデータ単位であり、予測単位は、符号化単位と同一サイズのパーティションでもある。
例えば、サイズ2Nx2N(ただし、Nは正の整数)の符号化単位が、それ以上分割されない場合、サイズ2Nx2Nの予測単位になり、パーティションの大きさは、2Nx2N、2NxN、Nx2N、NxNなどでもある。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションだけではなく、1:nまたはn:1のように、非対称的な比率に分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含んでもよい。
予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つでもある。例えば、イントラモード及びインターモードは、2Nx2N,2NxN,Nx2N,NxNサイズのパーティションに対して遂行される。また、スキップモードは、2Nx2Nサイズのパーティションに対してのみ遂行される。符号化単位以内の1つの予測単位ごとに独立して符号化が行われ、符号化誤差が最小である予測モードが選択される。
また、一実施形態によるビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を行うことができる。符号化単位の変換のためには、符号化単位より小さいか、あるいはそれと同じ大きさの変換単位を基に変換が行われる。例えば、変換単位は、イントラモードのためのデータ単位、及びインターモードのための変換単位を含んでもよい。
一実施形態によるツリー構造による符号化単位と類似した方式で、符号化単位内の変換単位も、再帰的にさらに小サイズの変換単位に分割されながら、符号化単位のレジデュアルデータが変換深度によって、ツリー構造による変換単位によって区画される。
一実施形態による変換単位についても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ2Nx2Nの現在符号化単位の変換単位の大きさが2Nx2Nであるならば、変換深度0に設定され、変換単位の大きさがNxNであるならば、変換深度1に設定され、変換単位の大きさがN/2xN/2であるならば、変換深度2に設定される。すなわち、変換単位についても、変換深度によってツリー構造による変換単位が設定される。
符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、符号化単位決定部120は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、変換のための変換単位の大きさなどを決定することができる。
一実施形態による最大符号化単位のツリー構造による符号化単位及び予測単位/パーティション、並びに変換単位の決定方式については、図10ないし図20を参照して詳細に後述する。
符号化単位決定部120は、深度別符号化単位の符号化誤差を、ラグランジュ乗数(Lagrangian multiplier)基盤の率歪曲最適化技法(rate-distortion optimization)を利用して測定することができる。
出力部130は、符号化単位決定部120で決定された少なくとも1つの符号化深度に基づいて符号化された最大符号化単位の映像データ及び深度別符号化モードについての情報をビットストリーム形態で出力する。
符号化された映像データは、映像のレジデュアルデータの符号化結果でもある。
深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位の大きさ情報などを含んでもよい。
符号化深度情報は、現在深度で符号化せず、下位深度の符号化単位で符号化するか否かということを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上下位深度に分割されないように定義される。反対に、現在符号化単位の現在深度が符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなければならないので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。
現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに反復的に符号化が行われ、同一深度の符号化単位ごとに、再帰的(recursive)符号化が行われる。
1つの最大符号化単位内で、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも1つの符号化モードについての情報が決定されなければならないので、1つの最大符号化単位については、少なくとも1つの符号化モードについての情報が決定される。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なるので、データについて、符号化深度及び符号化モードについての情報が設定される。
従って、一実施形態による出力部130は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つに対して、当該符号化深度及び符号化モードに係わる符号化情報を割り当てられる。
一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれる全ての符号化単位、予測単位、パーティション単位及び変換単位の中に含まれている最大サイズの正方形データ単位でもある。
例えば、出力部130を介して出力される符号化情報は、深度別符号化単位別符号化情報と、予測単位別符号化情報とに分類される。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分についての情報、イントラモードの補間方式についての情報などを含んでもよい。
ピクチャ別、スライスセグメント別またはGOP(group of picture)別に定義される符号化単位の最大サイズについての情報、及び最大深度についての情報は、ビットストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどに挿入される。
また、現在ビデオに対して許容される変換単位の最大サイズについての情報、及び変換単位の最小サイズについての情報も、ビットストリームのヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットなどを介して出力される。出力部130は、予測と係わる参照情報、予測情報、スライスセグメントタイプ情報などを符号化して出力することができる。
ビデオ符号化装置100の最も簡単な形態の実施形態によれば、深度別符号化単位は、1階層上位深度の符号化単位の高さ及び幅を半分にした大きさの符号化単位である。すなわち、現在深度の符号化単位の大きさが、2Nx2Nであるならば、下位深度の符号化単位の大きさは、NxNである。また、2Nx2Nサイズの現在符号化単位は、NxNサイズの下位深度符号化単位を最大4個含んでもよい。
従って、ビデオ符号化装置100は、現在ピクチャの特性を考慮して決定された最大符号化単位の大きさ及び最大深度を基に、それぞれの最大符号化単位ごとに、最適の形態及び大きさの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式などで符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定される。
従って、映像の解像度が非常に高いか、あるいはデータ量が非常に多い映像を既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。それにより、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像の大きさを考慮し、符号化単位の最大サイズを増大させながら、映像特性を考慮して符号化単位を調節することができるので、映像圧縮効率が上昇する。
一実施形態によるビデオ符号化装置100が、最大符号化単位ごとにツリー構造の符号化単位を決定し、符号化単位ごとに符号化を行った結果、シンボルが生成される。一実施形態によるビデオエントロピー符号化装置10は、最大符号化単位ごとに、シンボルに対して、エントロピー符号化を行うことができる。特に、ビデオエントロピー符号化装置10は、ピクチャが分割されたスライスセグメントまたはタイルごとに、横方向に連続する最大符号化単位で構成された最大符号化単位列に沿って、各最大符号化単位に係わるエントロピー符号化を行うことができる。また、エントロピー符号化装置10は、2以上の最大符号化単位列に対するエントロピー符号化を同時に並列処理することができる。
ビデオエントロピー符号化装置10は、最大符号化単位別に符号化を行って決定されたシンボルに対して二進化を行い、シンボルのビット列を生成することができる。最大符号化単位のシンボルに対応するシンタックス要素値のビンインデックス別コンテクスト変数が決定され、シンタックス要素のコンテクスト変数に基づいて、シンタックス要素値を示すビンストリングを決定することができる。ビデオエントロピー符号化装置10は、現在シンタックス要素値に係わるコンテクストテーブルにおいて、現在決定されたコンテクスト変数が示すビンストリングを採択することができる。
ビデオエントロピー符号化装置10は、最大符号化単位に係わる全てのシンタックス要素に係わるビンストリングを生成した後、最大符号化単位で決定されたコンテクスト変数を保存するか否かということを決定することができる。シンタックス要素が、最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数が保存される。
コンテクスト保存部16は、スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数を保存することができる。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
図9は、本発明の一実施形態による、ツリー構造による符号化単位に基づいたビデオ復号化装置200のブロック図である。
一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置200は、受信部210、映像データ及び符号化情報抽出部220及び映像データ復号化部230を含む。以下、説明の便宜のために、一実施形態による、ツリー構造による符号化単位に基づいたビデオ予測を伴うビデオ復号化装置200は、「ビデオ復号化装置200」と縮約して指称する。
一実施形態によるビデオ復号化装置200の復号化動作のための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報など各種用語の定義は、図8及びビデオ符号化装置100を参照して説明したところと同一である。
受信部210は、符号化されたビデオに係わるビットストリームを受信してパージングする。映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって、符号化単位ごとに符号化された映像データを抽出し、映像データ復号化部230に出力する。映像データ及び符号化情報抽出部220は、現在ピクチャに係わるヘッダ、シーケンスパラメータセットまたはピクチャパラメータセットから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。
また、映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードについての情報を抽出する。抽出された符号化深度及び符号化モードについての情報は、映像データ復号化部230に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、映像データ復号化部230をして最大符号化単位ごとに映像データを復号化させる。
最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報について設定され、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位の大きさ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されてもよい。
映像データ及び符号化情報抽出部220が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置100のように、符号化端において、最大符号化単位別深度別符号化単位ごとに反復的に符号化を行い、最小符号化誤差を発生させることによって決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置200は、最小符号化誤差を発生させる符号化方式によってデータを復号化し、映像を復元することができる。
一実施形態による符号化深度及び符号化モードに係わる符号化情報は、当該符号化単位、予測単位及び最小単位のうち所定データ単位に対して割り当てられているので、映像データ及び符号化情報抽出部220は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているならば、同一符号化深度及び符号化モードについての情報を有している所定データ単位は、同一最大符号化単位に含まれるデータ単位と類推される。
映像データ復号化部230は、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、映像データ復号化部230は、最大符号化単位に含まれるツリー構造による符号化単位においてそれぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び逆変換過程を含んでもよい。
映像データ復号化部230は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとに、それぞれのパーティション及び予測モードによって、イントラ予測または動き補償を行うことができる。
また、映像データ復号化部230は、最大符号化単位別逆変換のために、符号化単位別に、ツリー構造による変換単位情報を読み取り、符号化単位ごとに、変換単位に基づいた逆変換を行うことができる。逆変換を介して、符号化単位の空間領域の画素値が復元される。
映像データ復号化部230は、深度別分割情報を利用して、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度において、それ以上分割されないということを示しているならば、現在深度が符号化深度である。従って、映像データ復号化部230は、現在最大符号化単位の映像データに対して、現在深度の符号化単位を、予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用して復号化することができる。
すなわち、符号化単位、予測単位及び最小単位のうち所定データ単位に対して設定されている符号化情報を観察し、同一分割情報を含んだ符号化情報を保有しているデータ単位が集まり、映像データ復号化部230によって同一符号化モードで復号化する1つのデータ単位で見なされる。そのように決定された符号化単位ごとに、符号化モードについての情報を獲得し、現在符号化単位の復号化が行われる。
受信部210は、図2Aを参照して説明したビデオエントロピー復号化装置20を含んでもよい。ビデオエントロピー復号化装置20は、受信されたビットストリームから、多数の最大符号化単位列をパージングすることができる。
受信部210が、ビットストリームから第1最大符号化単位列及び第2最大符号化単位列を抽出すれば、ビデオエントロピー復号化装置20は、第1最大符号化単位列に対してエントロピー復号化を行い、第1最大符号化単位列の最大符号化単位のシンボルを順次に復元することができる。
ビデオエントロピー復号化装置20は、ビットストリームから獲得した最大符号化単位に係わるビンストリングとビンインデックスとを決定することができる。各シンタックス要素について、コンテクスト変数とビンストリングとの対応関係を収録するコンテクストテーブルに係わるデータを保存している。ビデオエントロピー復号化装置20は、コンテクストテーブルに基づいて、現在コンテクスト変数において、シンタックス要素に割り当てられるビンストリングと、現在決定されたビンインデックスでのビンストリングとを比較し、現在ビンストリングが示すシンタックス要素の値を決定することができる。
ビデオエントロピー復号化装置20は、シンタックス要素が、最大符号化単位において、最後のシンタックス要素であり、最大符号化単位が含まれたピクチャに、従属的スライスセグメントが含まれ、最大符号化単位がスライスセグメントにおいて、最後の最大符号化単位である場合、最大符号化単位に係わるコンテクスト変数を保存することができる。スライスセグメントが、独立的スライスセグメントであるか、あるいは従属的スライスセグメントであるかということと係わりなく、ピクチャに従属的スライスセグメントが含まれている場合、最大符号化単位に係わるコンテクスト変数が保存される。
ピクチャに、複数個のスライスセグメントが含まれているとき、現在スライスセグメントの次に位置する従属的スライスセグメントの最初の最大符号化単位のコンテクスト変数に対するエントロピー符号化のために、現在スライスセグメントに保存されたコンテクスト変数が利用される。
ビデオエントロピー復号化装置20は、各シンタックス要素の値を利用して、最大符号化単位のシンボルを復元することができる。
結局、ビデオ復号化装置200は、符号化過程において、最大符号化単位ごとに再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに対する復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位で決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。
従って、高い解像度の映像またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードについての情報を利用して、映像の特性に適応的に決定された符号化単位の大きさ及び符号化モードによって、効率的に映像データを復号化して復元することができる。
図10は、本発明の一実施形態による符号化単位の概念を図示している。
符号化単位の例は、符号化単位の大きさは、幅x高さで表現され、サイズ64x64である符号化単位から、サイズ32x32,16x16,8x8を含んでもよい。サイズ64x64の符号化単位は、サイズ64x64,64x32,32x64,32x32のパーティションに分割され、サイズ32x32の符号化単位は、サイズ32x32,32x16,16x32,16x16のパーティションに分割され、サイズ16x16の符号化単位は、サイズ16x16,16x8、8x16,8x8のパーティションに分割され、サイズ8x8の符号化単位は、サイズ8x8,8x4,4x8,4x4のパーティションに分割される。
ビデオデータ310については、解像度が1920x1080に設定され、符号化単位の最大サイズが64に設定され、最大深度が2に設定されている。ビデオデータ320については、解像度が1920x1080に設定され、符号化単位の最大サイズが64に設定され、最大深度が3に設定されている。ビデオデータ330については、解像度が352x288に設定され、符号化単位の最大サイズが16に設定され、最大深度が1に設定されている。図10に図示された最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。
解像度が高いか、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ330に比べ、解像度が高いビデオデータ310,320は、符号化サイズの最大サイズが64に選択される。
ビデオデータ310の最大深度が2であるので、ビデオデータ310の符号化単位315は、長軸サイズが64である最大符号化単位から、2回分割されて深度が2階層深くなり、長軸サイズが32,16である符号化単位まで含んでもよい。一方、ビデオデータ330の最大深度が1であるので、ビデオデータ330の符号化単位335は、長軸サイズが16である符号化単位から、1回分割されて深度が1階層深くなり、長軸サイズが8である符号化単位まで含んでもよい。
ビデオデータ320の最大深度が3であるので、ビデオデータ320の符号化単位325は、長軸サイズが64である最大符号化単位から、3回分割されて深度が3階層深くなり、長軸サイズが32,16,8である符号化単位まで含んでもよい。深度が深くなるほど、詳細情報の表現能が向上する。
図11は、本発明の一実施形態による、符号化単位に基づいた映像符号化部400のブロック図である。
一実施形態による映像符号化部400は、ビデオ符号化装置100の符号化単位決定部120において、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部410は、現在フレーム405において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの現在フレーム405及び参照フレーム495を利用して、インター推定及び動き補償を行う。
イントラ予測部410、動き推定部420及び動き補償部425から出力されたデータは、変換部430及び量子化部440を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部460、逆変換部470を介して、空間領域のデータに復元され、復元された空間領域のデータは、デブロッキング部480及びループフィルタリング部490を経て後処理され、参照フレーム495として出力される。量子化された変換係数は、エントロピー符号化部450を経て、ビットストリーム455として出力される。
一実施形態によるビデオ符号化装置100に適用されるためには、映像符号化部400の構成要素である、イントラ予測部410、動き推定部420、動き補償部425、変換部430、量子化部440、エントロピー符号化部450、逆量子化部460、逆変換部470、デブロッキング部480及びループフィルタリング部490が、いずれも最大符号化単位ごとに最大深度を考慮し、ツリー構造による符号化単位のうちそれぞれの符号化単位に基づいた作業を遂行しなければならない。
特に、イントラ予測部410、動き推定部420及び動き補償部425は、現在最大符号化単位の最大サイズ及び最大深度を考慮し、ツリー構造による符号化単位のうちそれぞれの符号化単位のパーティション及び予測モードを決定し、変換部430は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位の大きさを決定しなければならない。
特に、エントロピー符号化部450は、一実施形態によるビデオエントロピー符号化装置10に相応する。
図12は、本発明の一実施形態による符号化単位に基づいた映像復号化部500のブロック図である。
ビットストリーム505がパージング部510を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化についての情報がパージングされる。符号化された映像データは、エントロピー復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、逆変換部540を経て、空間領域の映像データが復元される。
空間領域の映像データに対して、イントラ予測部550は、イントラモードの符号化単位に対してイントラ予測を行い、動き補償部560は、参照フレーム585を共に利用して、インターモードの符号化単位に対して動き補償を行う。
イントラ予測部550及び動き補償部560を経た空間領域のデータは、デブロッキング部570及びループフィルタリング部580を経て後処理され、復元フレーム595として出力される。また、デブロッキング部570及びループフィルタリング部580を経て後処理されたデータは、参照フレーム585として出力される。
ビデオ復号化装置200の映像データ復号化部230において、映像データを復号化するために、一実施形態による映像復号化部500のパージング部510以後の段階別作業が遂行される。
一実施形態によるビデオ復号化装置200に適用されるためには、映像復号化部500の構成要素である、パージング部510、エントロピー復号化部520、逆量子化部530、逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570及びループフィルタリング部580が、いずれも最大符号化単位ごとに、ツリー構造による符号化単位に基づいて作業を遂行しなければならない。
特に、イントラ予測部550、動き補償部560は、ツリー構造による符号化単位ごとにそれぞれ、パーティション及び予測モードを決定し、逆変換部540は、符号化単位ごとに、変換単位の大きさを決定しなければならない。特に、エントロピー復号化部520は、一実施形態によるビデオエントロピー復号化装置20に相応する。
図13は、本発明の一実施形態による、深度別符号化単位及びパーティションを図示している。
一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高さ及び最大幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定される。あらかじめ設定された符号化単位の最大サイズにより、深度別符号化単位の大きさが決定される。
一実施形態による符号化単位の階層構造600は、符号化単位の最大高さ及び最大幅が64であり、最大深度が4である場合を図示している。そのとき、最大深度は、最大符号化単位から最小符号化単位までの全分割回数を示す。一実施形態による符号化単位の階層構造600の縦軸に沿って深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造600の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基になる予測単位及びパーティションが図示されている。
すなわち、符号化単位610は、符号化単位の階層構造600において、最大符号化単位であって深度が0であり、符号化単位の大きさ、すなわち、高さ及び幅が64x64である。縦軸に沿って深度が深くなり、サイズ32x32である深度1の符号化単位620、サイズ16x16である深度2の符号化単位630、サイズ8x8である深度3の符号化単位640、サイズ4x4である深度4の符号化単位650が存在する。サイズ4x4である深度4の符号化単位650は、最小符号化単位である。
それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度0のサイズ64x64の符号化単位610が予測単位であるならば、予測単位は、サイズ64x64の符号化単位610に含まれるサイズ64x64のパーティション610、サイズ64x32のパーティション612、サイズ32x64のパーティション614、サイズ32x32のパーティション616に分割される。
同様に、深度1のサイズ32x32の符号化単位620の予測単位は、サイズ32x32の符号化単位620に含まれるサイズ32x32のパーティション620、サイズ32x16のパーティション622、サイズ16x32のパーティション624、サイズ16x16のパーティション626に分割される。
同様に、深度2のサイズ16x16の符号化単位630の予測単位は、サイズ16x16の符号化単位630に含まれるサイズ16x16のパーティション630、サイズ16x8のパーティション632、サイズ8x16のパーティション634、サイズ8x8のパーティション636に分割される。
同様に、深度3のサイズ8x8の符号化単位640の予測単位は、サイズ8x8の符号化単位640に含まれるサイズ8x8のパーティション640、サイズ8x4のパーティション642、サイズ4x8のパーティション644、サイズ4x4のパーティション646に分割される。
最後に、深度4のサイズ4x4の符号化単位650は、最小符号化単位であり、最下位深度の符号化単位であり、当該予測単位も、サイズ4x4のパーティション650だけに設定される。
一実施形態によるビデオ符号化装置100の符号化単位決定部120は、最大符号化単位610の符号化深度を決定するために、最大符号化単位610に含まれるそれぞれの深度の符号化単位ごとに符号化を行わなければならない。
同一範囲及び同一サイズのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度1の符号化単位一つを含むデータに対して、深度2の符号化単位は、四つが必要である。従って、同一データの符号化結果を深度別に比較するために、1つの深度1の符号化単位、及び4つの深度2の符号化単位を利用して、それぞれ符号化されなければならない。
それぞれの深度別符号化のためには、符号化単位の階層構造600の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度において、最小の符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造600の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位610において、最小符号化誤差が発生する深度及びパーティションが、最大符号化単位610の符号化深度及びパーティションタイプに選択される。
図14は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。
一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいはそれと同じ大きさの符号化単位において、映像を符号化/復号化する。符号化過程において、変換のための変換単位の大きさは、それぞれの符号化単位ほどは大きくないデータ単位を基に選択される。
例えば、一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200において、現在符号化単位710が64x64サイズであるとき、32x32サイズの変換単位720を利用して変換が行われる。
また、64x64サイズの符号化単位710のデータを、64x64サイズ以下の32x32,16x16,8x8,4x4サイズの変換単位にそれぞれ変換を行って符号化した後、原本との誤差が最小である変換単位が選択される。
図15は、本発明の一実施形態による深度別符号化情報を図示している。
一実施形態によるビデオ符号化装置100の出力部130は、符号化モードについての情報として、それぞれの符号化深度の符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を符号化して伝送することができる。
パーティションタイプについての情報800は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態についての情報を示す。例えば、サイズ2Nx2Nの現在符号化単位CU_0は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806、サイズNxNのパーティション808のうちいずれか1つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプについての情報800は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806及びサイズNxNのパーティション808のうち一つを示すように設定される。
予測モードについての情報810は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報810を介して、パーティションタイプについての情報800が示すパーティションが、イントラモード812、インターモード814及びスキップモード816のうち一つで予測符号化が行われるかということが設定される。
また、変換単位サイズについての情報820は、現在符号化単位を、いかなる変換単位を基に変換を行うかということを示す。例えば、変換単位は、第1イントラ変換単位サイズ822、第2イントラ変換単位サイズ824、第1インター変換単位サイズ826、第2インター変換単位サイズ828のうちいずれか一つである。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を抽出して復号化に利用することができる。
図16は、本発明の一実施形態による深度別符号化単位を図示している。
深度の変化を示すために分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。
深度0及び2N_0x2N_0サイズの符号化単位900の予測符号化のための予測単位910は、2N_0x2N_0サイズのパーティションタイプ912、2N_0xN_0サイズのパーティションタイプ914、N_0x2N_0サイズのパーティションタイプ916、N_0xN_0サイズのパーティションタイプ918を含んでもよい。予測単位が対称的な比率に分割されたパーティション912,914,916,918だけが例示されているが、前述のように、パーティションタイプは、それらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。
パーティションタイプごとに、1つの2N_0x2N_0サイズのパーティション、2つの2N_0xN_0サイズのパーティション、2つのN_0x2N_0サイズのパーティション、4つのN_0xN_0サイズのパーティションごとに反復的に予測符号化が行われなければならない。サイズ2N_0x2N_0、サイズN_0x2N_0、サイズ2N_0xN_0及びサイズN_0xN_0のパーティションについては、イントラモード及びインターモードで予測符号化が行われる。スキップモードは、サイズ2N_0x2N_0のパーティションについてのみ予測符号化が行われる。
サイズ2N_0x2N_0,2N_0xN_0及びN_0x2N_0のパーティションタイプ912,914,916のうち一つによる符号化誤差が最小であれば、それ以上下位深度に分割する必要ない。
サイズN_0xN_0のパーティションタイプ918による符号化誤差が最小であれば、深度0を1に変更しながら分割し(920)、深度2及びサイズN_0xN_0のパーティションタイプの符号化単位930に対して反復的に符号化を行い、最小符号化誤差を検索していく。
深度1及びサイズ2N_1x2N_1(=N_0xN_0)の符号化単位930の予測符号化のための予測単位940は、サイズ2N_1x2N_1のパーティションタイプ942、サイズ2N_1xN_1のパーティションタイプ944、サイズN_1x2N_1のパーティションタイプ946、サイズN_1xN_1のパーティションタイプ948を含んでもよい。
また、サイズN_1xN_1のパーティションタイプ948による符号化誤差が最小であれば、深度1を深度2に変更しながら分割し(950)、深度2及びサイズN_2xN_2の符号化単位960に対して反復的に符号化を行い、最小符号化誤差を検索していく。
最大深度がdである場合、深度別符号化単位は、深度d−1になるまで設定され、分割情報は、深度d−2まで設定される。すなわち、深度d−2から分割され(970)、深度d−1まで符号化が行われる場合、深度d−1及びサイズ2N_(d−1)x2N_(d−1)の符号化単位980の予測符号化のための予測単位990は、サイズ2N_(d−1)x2N_(d−1)のパーティションタイプ992、サイズ2N_(d−1)xN_(d−1)のパーティションタイプ994、サイズN_(d−1)x2N_(d−1)のパーティションタイプ996、サイズN_(d−1)xN_(d−1)のパーティションタイプ998を含んでもよい。
パーティションタイプのうち、1つのサイズ2N_(d−1)x2N_(d−1)のパーティション、2つのサイズ2N_(d−1)xN_(d−1)のパーティション、2つのサイズN_(d−1)x2N_(d−1)のパーティション、4つのサイズN_(d−1)xN_(d−1)のパーティションごとに、反復的に予測符号化を介した符号化が行われ、最小符号化誤差が発生するパーティションタイプが検索される。
サイズN_(d−1)xN_(d−1)のパーティションタイプ998による符号化誤差が最小であるとしても、最大深度がdであるので、深度d−1の符号化単位CU_(d−1)は、それ以上下位深度への分割過程を経ず、現在最大符号化単位900に対する符号化深度が深度d−1に決定され、パーティションタイプは、N_(d−1)xN_(d−1)に決定される。また、最大深度がdであるので、深度d−1の符号化単位980に対して、分割情報が設定されない。
データ単位999は、現在最大符号化単位に係わる「最小単位」とされる。一実施形態による最小単位は、最下位符号化深度である最小符号化単位が4分割された大きさの正方形のデータ単位でもある。かような反復的符号化過程を介して、一実施形態によるビデオ符号化装置100は、符号化単位900の深度別符号化誤差を比較し、最小の符号化誤差が発生する深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードに設定される。
そのように、深度0,1,…,d−1,dの全ての深度別最小符号化誤差を比較し、誤差が最小である深度が選択され、符号化深度に決定される。符号化深度、並びに予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度0から符号化深度に至るまで符号化単位が分割されなければならないので、符号化深度の分割情報だけが「0」に設定され、符号化深度を除いた深度別分割情報は、「1」に設定されなければならない。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、符号化単位900に対する符号化深度及び予測単位についての情報を抽出し、符号化単位912を復号化するのに利用することができる。一実施形態によるビデオ復号化装置200は、深度別分割情報を利用して、分割情報が「0」である深度を符号化深度として把握し、当該深度に係わる符号化モードについての情報を利用して、復号化に利用することができる。
図17、図18及び図19は、本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。
符号化単位1010は、最大符号化単位に対して、一実施形態によるビデオ符号化装置100が決定した符号化深度別符号化単位である。予測単位1060は、符号化単位1010において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位1070は、それぞれの符号化深度別符号化単位の変換単位である。
深度別符号化単位1010は、最大符号化単位の深度が0であるとすれば、符号化単位1012,1054は、深度が1であり、符号化単位1014,1016,1018、1028,1050,1052は、深度が2であり、符号化単位1020,1022,1024,1026,1030,1032,1048は、深度が3であり、符号化単位1040,1042,1044,1046は、深度が4である。
予測単位1060のうち、一部パーティション1014,1016,1022,1032,1048,1050,1052,1054は、符号化単位が分割された形態である。すなわち、パーティション1014,1022,1050,1054は、2NxNのパーティションタイプであり、パーティション1016,1048,1052は、Nx2Nのパーティションタイプであり、パーティション1032は、NxNのパーティションタイプである。深度別符号化単位1010の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいはそれと同じである。
変換単位1070のうち、一部変換単位1052の映像データについては、符号化単位に比べ、小サイズのデータ単位で変換または逆変換が行われる。また、変換単位1014,1016,1022,1032,1048,1050,1052,1054は、予測単位1060における当該予測単位及びパーティションと比較すれば、互いに異なる大きさまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200は、同一符号化単位に係わるイントラ予測/動き推定/動き補償の作業、及び変換/逆変換の作業であるとしても、それぞれ別個のデータ単位を基に行う。
それにより、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに再帰的に符号化が行われ、最適符号化単位が決定されることにより、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表1は、一実施形態によるビデオ符号化装置100、及び一実施形態によるビデオ復号化装置200で設定することができる一例を示している。
一実施形態によるビデオ符号化装置100の出力部130は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置200の符号化情報抽出部220は、受信されたビットストリームからツリー構造による符号化単位に係わる符号化情報を抽出することができる。
分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かということを示す。現在深度dの分割情報が0であるならば、現在符号化単位が、該符号化単位が下位符号化単位にそれ以上分割されない深度が符号化深度であるので、符号化深度について、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報により、1段階さらに分割されなければならない場合には、分割された4個の下位深度の符号化単位ごとに、独立して符号化が行われなければならない。
予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示すことができる。イントラモード及びインターモードは、全てのパーティションタイプで定義され、スキップモードは、パーティションタイプ2Nx2Nでのみ定義される。
パーティションタイプ情報は、予測単位の高さまたは幅が、対称的な比率に分割された対称的パーティションタイプ2Nx2N,2NxN,Nx2N及びNxNと、非対称的な比率に分割された非対称的パーティションタイプ2NxnU,2NxnD,nLx2N,nRx2Nを示すことができる。非対称的パーティションタイプ2NxnU及び2NxnDは、それぞれ高さが1:3及び3:1に分割された形態であり、非対称的パーティションタイプnLx2N及びnRx2Nは、それぞれ幅が1:3及び3:1に分割された形態を示す。
変換単位サイズは、イントラモードで2種の大きさに設定され、インターモードで2種の大きさに設定される。すなわち、変換単位分割情報が0であるならば、変換単位の大きさは、現在符号化単位のサイズ2Nx2Nに設定される。変換単位分割情報が1であるならば、現在符号化単位が分割された大きさの変換単位が設定される。また、サイズ2Nx2Nである現在符号化単位に係わるパーティションタイプが対称形パーティションタイプであるならば、変換単位の大きさは、NxNに設定され、非対称形パーティションタイプであるならば、N/2xN/2に設定される。
一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位単位のうち少なくとも一つについて割り当てられる。符号化深度の符号化単位は、同一符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。
従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同一符号化深度の符号化単位に含まれるか否かということが確認される。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。
従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。
他の実施形態において、現在符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用して、深度別符号化単位内において、現在符号化単位に隣接するデータが検索されることにより、周辺符号化単位が参照される。
図20は、表1の符号化モード情報による、符号化単位、予測単位及び変換単位の関係を図示している。
最大符号化単位1300は、符号化深度の符号化単位1302,1304,1306,1312,1314,1316,1318を含む。そのうち1つの符号化単位1318は、符号化深度の符号化単位でるので、分割情報が0に設定される。サイズ2Nx2Nの符号化単位1318のパーティションタイプ情報は、パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326,NxN 1328,2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定される。
変換単位分割情報(TU size flag)は、変換インデックスの一種であり、変換インデックスに対応する変換単位の大きさは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。
例えば、パーティションタイプ情報が、対称形パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326及びNxN 1328のうち一つに設定されている場合、変換単位分割情報が0であるならば、サイズ2Nx2Nの変換単位1342が設定され、変換単位分割情報が1であるならば、サイズNxNの変換単位1344が設定される。
パーティションタイプ情報が、非対称形パーティションタイプ2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定された場合、変換単位分割情報(TU size flag)が0であるならば、サイズ2Nx2Nの変換単位1352が設定され、変換単位分割情報が1であるならば、サイズN/2xN/2の変換単位1354が設定される。
図20を参照して説明した変換単位分割情報(TU size flag)は、0または1の値を有するフラグであるが、一実施形態による変換単位分割情報は、1ビットのフラグに限定されるのもではなく、設定によって、0、1、2、3、…などに増加して変換単位が階層的に分割される。変換単位分割情報は、変換インデックスの一実施形態として利用される。
その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位の大きさが表現される。一実施形態によるビデオ符号化装置100は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、SPSに挿入される。一実施形態によるビデオ復号化装置200は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用して、ビデオ復号化に利用することができる。
例えば、(a)現在符号化単位がサイズ64x64であり、最大変換単位サイズが32x32であるならば、(a−1)変換単位分割情報が0であるとき、変換単位の大きさは32x32に設定され、(a−2)変換単位分割情報が1であるとき、変換単位の大きさは16x16に設定され、(a−3)変換単位分割情報が2であるとき、変換単位の大きさは8x8に設定される。
他の例として、(b)現在符号化単位がサイズ32x32であり、最小変換単位サイズが32x32であるならば、(b−1)変換単位分割情報が0であるとき、変換単位の大きさは32x32に設定され、変換単位の大きさが32x32より小さいことがないので、それ以上の変換単位分割情報が設定されることがない。
さらに他の例として、(c)現在符号化単位がサイズ64x64であり、最大変換単位分割情報が1であるならば、変換単位分割情報は、0または1であり、他の変換単位分割情報が設定されることがない。
従って、最大変換単位分割情報を「MaxTransformSizeIndex」、最小変換単位サイズを「MinTransformSize」、変換単位分割情報が0である場合の変換単位サイズを「RootTuSize」と定義するとき、現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」は、下記数式(1)のように定義される。
CurrMinTuSize
=max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex)) (1)
現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」と比較し、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、システム上採択可能な最大変換単位サイズを示すことができる。すなわち、数式1によれば、「RootTuSize/(2^MaxTransformSizeIndex)」は、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」を、最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「MinTransformSize」は、最小変換単位サイズであるので、それらのうち小さい値が、現在現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」でもある。
一実施形態による最大変換単位サイズRootTuSizeは、予測モードによって異なる。
例えば、現在予測モードがインターモードであるならば、RootTuSizeは、下記数式(2)によって決定される。数式(2)で、「MaxTransformSize」は、最大変換単位サイズを示し、「PUSize」は、現在予測単位サイズを示す。
RootTuSize=min(MaxTransformSize,PUSize) (2)
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのうち小さい値に設定される。
現在パーティション単位の予測モードがイントラモードであるならば、「RootTuSize」は、下記数式(3)によって決定される。「PartitionSize」は、現在パーティション単位の大きさを示す。
RootTuSize=min(MaxTransformSize,PartitionSize) (3)
すなわち、現在予測モードがイントラモードであるならば、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。
ただし、パーティション単位の予測モードによって変動する一実施形態による現在最大変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因がそれに限定されるものではないということに留意しなければならない。
図8ないし図20を参照して説明したツリー構造の符号化単位に基づいたビデオ符号化技法により、ツリー構造の符号化単位ごとに、空間領域の映像データが符号化され、ツリー構造の符号化単位に基づいたビデオ復号化技法によって、最大符号化単位ごとに復号化が行われながら、空間領域の映像データが復元され、ピクチャ及びピクチャシーケンスであるビデオが復元される。復元されたビデオは、再生装置によって再生されるか、記録媒体に保存されるか、あるいはネットワークを介して伝送される。
一方、前述の本発明の実施形態は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用して、前記プログラムを動作させる汎用デジタルコンピュータで具現される。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例えば、ROM(read only memory)、フロッピー(登録商標)ディスク、ハードディスクなど)、光学的判読媒体(例えば、CD(compact disc)−ROM、DVD(digital versatile disc)など)のような記録媒体を含む。
説明の便宜のために、先に図1Aないし図20を参照して説明したエントロピー符号化方法を遂行するビデオ符号化方法は、「本発明のビデオ符号化方法」とする。また、先に図1Aないし図20を参照して説明したエントロピー復号化方法を遂行するビデオ復号化方法は、「本発明のビデオ復号化方法」とする。
また、先に図1Aないし図20を参照して説明したエントロピー符号化装置10を含むビデオ符号化装置100、及び映像符号化部400で構成されたビデオ符号化装置は、「本発明のビデオ符号化装置」とする。また、先に図1Aないし図20を参照して説明したエントロピー復号化装置20を含むビデオ復号化装置200及び映像復号化部500は、「本発明のビデオ復号化装置」とする。
一実施形態によるプログラムが保存されるコンピュータで読み取り可能な記録媒体がディスク26000である実施形態について、以下で詳細に説明する。
図21は、一実施形態によるプログラムが保存されたディスク26000の物理的構造を例示する。記録媒体として説明したディスク26000は、ハードドライブ、CD−ROMディスク、ブルーレイ(登録商標(Blu-ray))ディスク、DVDディスクでもある。ディスク26000は、多数の同心円のトラックTrで構成され、トラックは、円周方向に沿って所定個数のセクタSeに分割される。前述の実施形態によるプログラムを保存するディスク26000において特定領域に、前述の量子化パラメータ決定方法、ビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムが割り当てられて保存される。
前述のビデオ符号化方法及びビデオ復号化方法を具現するためのプログラムを保存する記録媒体を利用して、達成されたコンピュータシステムについて、図22を参照して説明される。
図22は、ディスク26000を利用して、プログラムを記録して読み取るためのディスクドライブ26800を図示している。コンピュータシステム26700は、ディスクドライブ26800を利用して、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムをディスク26000に保存することができる。ディスク26000に保存されたプログラムを、コンピュータシステム26700上で実行するために、ディスクドライブ26800によってディスク26000からプログラムが読み取られ、プログラムがコンピュータシステム26700に伝送される。
図21及び図22で例示されたディスク26000だけではなく、メモリカード、ROMカセット、SSD(solid state drive)にも、本発明のビデオ符号化方法及びビデオ復号化方法のうち少なくとも一つを具現するためのプログラムが保存される。
前述の実施形態によるビデオ符号化方法及びビデオ復号化方法が適用されたシステムについて説明する。
図23は、コンテンツ流通サービス(content distribution service)を提供するためのコンテンツ供給システム(content supply system)11000の全体的構造を図示している。通信システムのサービス領域は、所定サイズのセルに分割され、各セルに、ベースステーションになる無線基地局11700,11800,11900,12000が設置される。
コンテンツ供給システム11000は、多数の独立デバイスを含む。例えば、コンピュータ12100、PDA(personal digital assistant)12200、ビデオカメラ12300及び携帯電話12500のような独立デバイスが、インターネットサービス・プロバイダ11200、通信網11400、及び無線基地局11700,11800,11900,12000を経てインターネット11100に連結される。
しかし、コンテンツ供給システム11000は、図24に図示された構造にのみ限定されるものではなく、デバイスが選択的に連結される。独立デバイスは、無線基地局11700,11800,11900,12000を経ずに、通信網11400に直接連結されてもよい。
ビデオカメラ12300は、デジタルビデオカメラのように、ビデオ映像を撮影することができる撮像デバイスである。携帯電話12500は、PDC(personal digital communications)方式、CDMA(code division multiple access)方式、W−CDMA(wideband code division multiple access)方式、GSM(登録商標(global system for mobile communications))方式及びPHS(personal handyphone system)方式のような多様なプロトコルのうち少なくとも1つの通信方式を採択することができる。
ビデオカメラ12300は、無線基地局11900及び通信網11400を経て、ストリーミングサーバ11300に連結される。ストリーミングサーバ11300は、ユーザが、ビデオカメラ12300を使用して伝送したコンテンツをリアルタイム放送でストリーミング伝送することができる。ビデオカメラ12300から受信されたコンテンツは、ビデオカメラ12300またはストリーミングサーバ11300によって符号化される。ビデオカメラ12300で撮影されたビデオデータは、コンピュータ12100を経て、ストリーミングサーバ11300に伝送されてもよい。
カメラ12600で撮影されたビデオデータも、コンピュータ12100を経て、ストリーミングサーバ11300に伝送される。カメラ12600は、デジタルカメラのように、静止映像及びビデオ映像をいずれも撮影することができる撮像装置である。カメラ12600から受信されたビデオデータは、カメラ12600またはコンピュータ12100によって符号化される。ビデオ符号化及びビデオ復号化のためのソフトウェアは、コンピュータ12100がアクセスすることができるCD−ROMディスク、フロッピー(登録商標)ディスク、ハードディスクドライブ、SSD、メモリカードのようなコンピュータで読み取り可能な記録媒体に保存される。
また、携帯電話12500に搭載されたカメラによってビデオが撮影された場合、ビデオデータが携帯電話12500から受信される。
ビデオデータは、ビデオカメラ12300、携帯電話12500またはカメラ12600に搭載されたLSI(large scale integrated circuit)システムによって符号化される。
一実施形態によるコンテンツ供給システム11000において、例えば、コンサートの現場録画コンテンツのように、ユーザが、ビデオカメラ12300、カメラ12600、携帯電話12500、または他の撮像デバイスを利用して録画されたコンテンツが符号化され、ストリーミングサーバ11300に伝送される。ストリーミングサーバ11300は、コンテンツデータを要請した他のクライアントに、コンテンツデータをストリーミング伝送することができる。
クライアントは、符号化されたコンテンツデータを復号化することができるデバイスであり、例えば、コンピュータ12100、PDA 12200、ビデオカメラ12300または携帯電話12500でもある。従って、コンテンツ供給システム11000は、クライアントをして、符号化されたコンテンツデータを受信して再生させる。また、コンテンツ供給システム11000は、クライアントをして、符号化されたコンテンツデータを受信させ、リアルタイムで復号化して再生させ、個人放送(personal broadcasting)を可能にさせる。
コンテンツ供給システム11000に含まれた独立デバイスの符号化動作及び復号化動作に、本発明のビデオ符号化装置及びビデオ復号化装置が適用される。
図24及び図25を参照し、コンテンツ供給システム11000において、携帯電話12500の一実施形態について詳細に説明する。
図24は、一実施形態による本発明のビデオ符号化方法及びビデオ復号化方法が適用される携帯電話12500の外部構造を図示している。携帯電話12500は、機能が制限されておらず、応用プログラムを介して、相当部分の機能を変更したり拡張したりすることができるスマートフォンでもある。
携帯電話12500は、無線基地局12000とRF(radio frequency)信号を交換するための内蔵アンテナ12510を含み、カメラ12530によって撮影された映像、またはアンテナ12510によって受信されて復号化された映像をディスプレイするためのLCD(liquid crystal display)画面、OLED(organic light emitting diodes)画面のようなディスプレイ画面12520を含む。スマートフォン12510は、制御ボタン、タッチパネルを含む動作パネル12540を含む。ディスプレイ画面12520がタッチスクリーンである場合、動作パネル12540は、ディスプレイ画面12520のタッチ感知パネルをさらに含む。スマートフォン12510は、音声、音響を出力するためのスピーカ12580、または他の形態の音響出力部と、音声、音響が入力されるマイクフォン12550、または他の形態の音響入力部と、を含む。スマートフォン12510は、ビデオ及び静止映像を撮影するためのCCDカメラのようなカメラ12530をさらに含む。また、スマートフォン12510は、カメラ12530によって撮影されたり、電子メール(E−mail)に受信されるか、他の形態で獲得されたりするビデオや静止映像のように、符号化されるか復号化されたデータを保存するための記録媒体12570;及び記録媒体12570を携帯電話12500に装着するためのスロット12560;を含んでもよい。記録媒体12570は、SDカード、またはプラスチックケースに内蔵されたEEPROM(electrically erasable and programmable read only memory)のような他の形態のフラッシュメモリでもある。
図25は、携帯電話12500の内部構造を図示している。ディスプレイ画面12520及び動作パネル12540で構成された携帯電話12500の各パートを組織的に制御するために、電力供給回路12700、動作入力制御部12640、映像符号化部12720、カメラ・インターフェース12630、LCD制御部12620、映像復号化部12690、マルチプレクサ/デマルチプレクサ(MUX/DEMUX:multiplexer/demultiplexer)12680、記録/判読部12670、変調/復調(modulation/demodulation)部12660及び音響処理部12650が、同期化バス12730を介して中央制御部12710に連結される。
ユーザが電源ボタンを動作し、「電源オフ」状態から「電源オン」状態に設定すれば、電力供給回路12700は、バッテリパックから携帯電話12500の各パートに電力を供給することにより、携帯電話12500が動作モードにセッティングされる。
中央制御部12710は、CPU(central processing unit)、ROM及びRAM(random access memory)を含む。
携帯電話12500が外部に通信データを送信する過程では、中央制御部12710の制御によって、携帯電話12500においてデジタル信号が生成される、例えば、音響処理部12650では、デジタル音響信号が生成され、映像符号化部12720では、デジタル映像信号が生成され、動作パネル12540及び動作入力制御部12640を介して、メッセージのテキストデータが生成される。中央制御部12710の制御によってデ、ジタル信号が変調/復調部12660に伝達されれば、変調/復調部12660は、デジタル信号の周波数帯域を変調し、通信回路12610は、帯域変調されたデジタル音響信号に対して、D/A変換(digital-analog conversion)処理及び周波数変換(frequency conversion)処理を行う。通信回路12610から出力された送信信号は、アンテナ12510を介して、音声通信基地局または無線基地局12000に送出される。
例えば、携帯電話12500が通話モードであるとき、マイクフォン12550によって獲得された音響信号は、中央制御部12710の制御によって、音響処理部12650でデジタル音響信号に変換される。生成されたデジタル音響信号は、変調/復調部12660及び通信回路12610を経て送信信号に変換され、アンテナ12510を介して送出される。
データ通信モードにおいて、電子メールのようなテキストメッセージが伝送される場合、動作パネル12540を利用して、メッセージのテキストデータが入力され、テキストデータが、動作入力制御部12640を介して中央制御部12610に伝送される。中央制御部12610の制御により、テキストデータは、変調/復調部12660及び通信回路12610を介して送信信号に変換され、アンテナ12510を介して無線基地局12000に送出される。
データ通信モードにおいて映像データを伝送するために、カメラ12530によって撮影された映像データが、カメラ・インターフェース12630を介して映像符号化部12720に提供される。カメラ12530によって撮影された映像データは、カメラ・インターフェース12630及びLCD制御部12620を介して、ディスプレイ画面12520に直ちにディスプレイされる。
映像符号化部12720の構造は、前述の本発明のビデオ符号化装置の構造と相応する。映像符号化部12720は、カメラ12530から提供された映像データを、前述の本発明のビデオ符号化方式によって符号化し、圧縮符号化された映像データに変換し、符号化された映像データを多重化/逆多重化部12680に出力することができる。カメラ12530の録画中に、携帯電話12500のマイクフォン12550によって獲得された音響信号も、音響処理部12650を経てデジタル音響データに変換され、デジタル音響データは、多重化/逆多重化部12680に伝達される。
多重化/逆多重化部12680は、音響処理部12650から提供された音響データと共に、映像符号化部12720から提供された符号化された映像データを多重化する。多重化されたデータは、変調/復調部12660及び通信回路12610を介して送信信号に変換され、アンテナ12510を介して送出される。
携帯電話12500が外部から通信データを受信する過程では、アンテナ12510を介して受信された信号を周波数復元(frequency recovery)処理及びA/D変換(analog-digital conversion)処理を介してデジタル信号を変換する。変調/復調部12660は、デジタル信号の周波数帯域を復調する。帯域復調されたデジタル信号は、種類によって、ビデオ復号化部12690、音響処理部12650またはLCD制御部12620に伝達される。
携帯電話12500は、通話モードであるとき、アンテナ12510を介して受信された信号を増幅し、周波数変換及びA/D変換(analog-digital conversion)処理を介してデジタル音響信号を生成する。受信されたデジタル音響信号は、中央制御部12710の制御によって、変調/復調部12660及び音響処理部12650を経て、アナグ音響信号に変換され、アナグ音響信号が、スピーカ12580を介して出力される。
データ通信モードにおいて、インターネットのウェブサイトからアクセスされたビデオファイルのデータが受信される場合、アンテナ12510を介して無線基地局12000から受信された信号は、変調/復調部12660の処理結果として多重化されたデータを出力し、多重化されたデータは、多重化/逆多重化部12680に伝達される。
アンテナ12510を介して受信した多重化されたデータを復号化するために、多重化/逆多重化部12680は、多重化されたデータを逆多重化し、符号化されたビデオデータストリームと、符号化されたオーディオデータストリームとを分離する。同期化バス12730により、符号化されたビデオデータストリームは、ビデオ復号化部12690に提供され、符号化されたオーディオデータストリームは、音響処理部12650に提供される。
映像復号化部12690の構造は、前述の本発明のビデオ復号化装置の構造と相応する。映像復号化部12690は、前述の本発明のビデオ復号化方法を利用して、符号化されたビデオデータを復号化し、復元されたビデオデータを生成し、復元されたビデオデータを、LCD制御部12620を経て、ディスプレイ画面12520に、復元されたビデオデータを提供することができる。
それによってインターネットのウェブサイトからアクセスされたビデオファイルのビデオデータが、ディスプレイ画面12520にディスプレイされる。それと同時に、音響処理部12650も、オーディオデータをアナグ音響信号に変換し、アナグ音響信号をスピーカ12580に提供することができる。それにより、インターネットのウェブサイトからアクセスされたビデオファイルに含まれたオーディオデータも、スピーカ12580で再生される。
携帯電話12500または他の形態の通信端末機は、本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含む送受信端末機であるか、前述の本発明のビデオ符号化装置のみを含む送信端末機であるか、あるいは本発明のビデオ復号化装置のみを含む受信端末機でもある。
本発明の通信システムは、図24を参照して説明した構造に限定されるものではない。例えば、図26は、本発明による通信システムが適用されたデジタル放送システムを図示している。図26の一実施形態によるデジタル放送システムは、本発明のビデオ符号化装置及びビデオ復号化装置を利用して、衛星ネットワークまたは地上波ネットワークを介して伝送されるデジタル放送を受信することができる。
具体的に見れば、放送局12890は、電波を介して、ビデオデータストリームを通信衛星または放送衛星12900に伝送する。放送衛星12900は、放送信号を伝送し、該放送信号は、家庭にあるアンテナ12860によっ、て衛星放送受信機に受信される。各家庭において、符号化されたビデオストリームは、TV(television)受信機12810、セットトップボックス(set-top box)12870または他のデバイスによって復号化されて再生される。
再生装置12830において、本発明のビデオ復号化装置が具現されることにより、再生装置12830が、ディスク及びメモリカードのような記録媒体12820に記録された符号化されたビデオストリームを読み取って復号化することができる。それにより、復元されたビデオ信号は、例えば、モニタ12840で再生される。
衛星/地上波放送のためのアンテナ12860、またはケーブルTV受信のためのケーブルアンテナ12850に連結されたセットトップボックス12870にも、本発明のビデオ復号化装置が搭載される。セットトップボックス12870の出力データも、TVモニタ12880で再生される。
他の例として、セットトップボックス12870の代わりに、TV受信機12810自体に本発明のビデオ復号化装置が搭載されてもよい。
適切なアンテナ12910を具備した自動車12920が、衛星12800または無線基地局11700から送出される信号を受信することもできる。自動車12920に搭載された自動車ナビゲーションシステム12930のディスプレイ画面に、復号化されたビデオが再生される。
ビデオ信号は、本発明のビデオ符号化装置によって符号化され、記録媒体に記録されて保存される。具体的に見れば、DVDレコーダによって、映像信号がDVDディスク12960に保存されるか、あるいはハードディスクレコーダ12950によって、ハードディスクに映像信号が保存される。他の例として、ビデオ信号は、SDカード12970に保存されてもよい。ハードディスクレコーダ12950が、一実施形態による本発明のビデオ復号化装置を具備すれば、DVDディスク12960、SDカード12970または他の形態の記録媒体に記録されたビデオ信号が、モニタ12880で再生される。
自動車ナビゲーションシステム12930は、図25のカメラ12530、カメラ・インターフェース12630及び映像符号化部12720を含まないこともある。例えば、コンピュータ12100(図23)及びTV受信機12810も、図25のカメラ12530、カメラ・インターフェース12630及び映像符号化部12720を含まないこともある。
図27は、本発明の一実施形態による、ビデオ符号化装置及びビデオ復号化装置を利用するクラウドコンピューティングシステムのネットワーク構造を図示している。
本発明のクラウドコンピューティングシステムは、クラウドコンピューティングサーバ14100、ユーザDB(database)14100、コンピューティング資源14200及びユーザ端末機を含んでなる。
クラウドコンピューティングシステムは、ユーザ端末機の要請によって、インターネットのような情報通信網を介して、コンピューティング資源のオンデマンド・アウトソーシングサービスを提供する。クラウドコンピューティング環境において、サービスプロバイダは、互いに異なる物理的な位置に存在するデータセンターのコンピューティング資源を仮想化技術で統合し、ユーザに必要とするサービスを提供する。サービスユーザは、アプリケーション(application)、ストレージ(storage)、運用体制(OS)、保安(security)のようなコンピューティング資源を、各ユーザ所有の端末にインストールして使用するのではなく、仮想化技術を介して生成された仮想空間上のサービスを、所望する時点で所望するほど選んで使用することができる。
特定サービスユーザのユーザ端末機は、インターネット及び移動通信網を含む情報通信網を介して、クラウドコンピューティングサーバ14100に接続する。ユーザ端末機は、クラウドコンピューティングサーバ14100から、クラウドコンピューティングサービス、特に、動画再生サービスを提供される。ユーザ端末機は、デスクトップPC(personal computer)14300、スマートTV 14400、スマートフォン14500、ノート型パソコン14600、PMP(portable multimedia player)14700、テブレットPC 14800など、インターネット接続が可能な全ての電子機器にもなる。
クラウドコンピューティングサーバ14100は、クラウド網に分散している多数のコンピューティング資源14200を統合し、ユーザ端末機に提供することができる。多数のコンピューティング資源14200は、さまざまなデータサービスを含み、ユーザ端末機からアップードされたデータを含んでもよい。そのように、クラウドコンピューティングサーバ14100は、多くのところに分散している動画データベースを仮想化技術で統合し、ユーザ端末機が要求するサービスを提供する。
ユーザDB 14100には、クラウドコンピューティングサービスに加入しているユーザ情報が保存される。ここで、ユーザ情報は、ログイン情報や、住所、氏名などの個人信用情報を含んでもよい。また、ユーザ情報は、動画のインデックス(index)を含んでもよい。ここで、該インデックスは、再生を完了した動画リストや、再生中の動画リストや、再生中の動画の停止時点などを含んでもよい。
ユーザDB 14100に保存された動画についての情報は、ユーザデバイス間に共有される。従って、例えば、ノート型パソコン14600から再生要請され、ノート型パソコン14600に所定動画サービスを提供した場合、ユーザDB 14100に所定動画サービスの再生ヒストリーが保存される。スマートフォン14500から、同一の動画サービスの再生要請が受信される場合、クラウドコンピューティングサーバ14100は、ユーザDB 14100を参照し、所定動画サービスを見い出して再生する。スマートフォン14500が、クラウドコンピューティングサーバ14100を介して動画データストリームを受信する場合、動画データストリームを復号化してビデオを再生する動作は、先に図24を参照して説明した携帯電話12500の動作と類似している。
クラウドコンピューティングサーバ14100は、ユーザDB 14100に保存された所定動画サービスの再生ヒストリーを参照することもできる。例えば、クラウドコンピューティングサーバ14100は、ユーザ端末機から ユーザDB 14100に保存された動画に対する再生要請を受信する。該動画がそれ以前に再生中であったならば、クラウドコンピューティングサーバ14100は、ユーザ端末機への選択により、最初から再生するか、あるいは以前の停止時点から再生するかということにより、ストリーミング方法が異なる。例えば、ユーザ端末機が、最初から再生するように要請した場合には、クラウドコンピューティングサーバ14100は、ユーザ端末機に、当該動画を最初のフレームからストリーミング伝送する。一方、端末機が、以前の停止時点から続けて再生するように要請した場合には、クラウドコンピューティングサーバ14100は、ユーザ端末機に、当該動画を停止時点のフレームからストリーミング伝送する。
そのとき、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ復号化装置を含んでもよい。他の例として、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ符号化装置を含んでもよい。また、ユーザ端末機は、図1Aないし図20を参照して説明した本発明のビデオ符号化装置及びビデオ復号化装置をいずれも含んでもよい。
図1Aないし図20を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法、本発明のビデオ符号化装置及びビデオ復号化装置が活用される多様な実施形態について図21ないし図27において説明した。しかし、図1Aないし図20を参照して説明した本発明のビデオ符号化方法及びビデオ復号化方法が、記録媒体に保存されたり、あるいは本発明のビデオ符号化装置及びビデオ復号化装置が、デバイスで具現されたりする多様な実施形態は、図21ないし図27の実施形態に限定されるものではない。
以上、本発明について、その望ましい実施形態を中心に説明した。本発明が属する技術分野で当業者であるならば、本発明が、本発明の本質的な特性から外れない範囲で変形された形態に具現されるということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されなければならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にある全ての差異は、本発明に含まれたものであると解釈されなければならないのである。