[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7536484B2 - 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム - Google Patents

画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Download PDF

Info

Publication number
JP7536484B2
JP7536484B2 JP2020048201A JP2020048201A JP7536484B2 JP 7536484 B2 JP7536484 B2 JP 7536484B2 JP 2020048201 A JP2020048201 A JP 2020048201A JP 2020048201 A JP2020048201 A JP 2020048201A JP 7536484 B2 JP7536484 B2 JP 7536484B2
Authority
JP
Japan
Prior art keywords
range
transform
unit
quantization
coefficients
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020048201A
Other languages
English (en)
Other versions
JP2021150788A5 (ja
JP2021150788A (ja
Inventor
真悟 志摩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2020048201A priority Critical patent/JP7536484B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to PCT/JP2021/006754 priority patent/WO2021187023A1/ja
Priority to CN202180022188.8A priority patent/CN115315952A/zh
Priority to EP21772526.6A priority patent/EP4124039A4/en
Priority to KR1020227035006A priority patent/KR20220156017A/ko
Publication of JP2021150788A publication Critical patent/JP2021150788A/ja
Priority to US17/931,450 priority patent/US20230007311A1/en
Publication of JP2021150788A5 publication Critical patent/JP2021150788A5/ja
Application granted granted Critical
Publication of JP7536484B2 publication Critical patent/JP7536484B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像の符号化に関するものである。
動画像の圧縮記録の符号化方式として、HEVC(High Efficiency Video Coding)符号化方式(以下、HEVCと記す)が知られている。HEVCでは符号化技術の制限を定義した複数のプロファイルが定義されており、Main 10プロファイルは8ビット~10ビットまでのビット深度の画像に対応している。また、HEVCにおいては、さらに高いビット深度の画像にも対応するため、12ビットや16ビットの画像にも対応したプロファイルが定義されている。特許文献1には、このような高ビット深度に対応した画像符号化方式に対応した符号化技術が開示されている。
近年、HEVCの後継としてさらに高効率な符号化方式の国際標準化を行う活動が開始された。JVET(Joint Video Experts Team)がISO/IECとITU-Tの間で設立され、VVC(Versatile Video Coding)符号化方式(以下、VVC)として標準化が進められている。符号化効率向上のため、VVCでは従来の直交変換に加え、直交変換を施した後の係数(以下、直交変換係数と記す)の低周波成分に対しさらに二次的な変換(LFNST、以下低周波変換と呼称する)を施す新たな技術も検討されている。
特開2014-131172号公報
VVCでは、直交変換や量子化などといった符号化処理において、処理結果の値に制限を加えることにより、実装の容易性を高めている。具体的には、量子化処理後の係数(以下、量子化係数と記す)の取り得る値を-32768~32767に制限することで、係数の符号化処理や復号側での逆量子化処理の実装を容易にしている。これにより、VVCでは、高ビット深度の画像を符号化する場合においてもハードウェアの実装コストはさほど上昇しないと考えられている。一方で上述のような制限により、特に高ビット深度の画像に対しては演算精度の低下が発生し、画質が向上しないといった問題が生じている。
したがって、本発明は上述した課題を解決するためになされたものであり、符号化または復号処理における係数値の取り得る値の範囲を適応的に決定できるようにすることを目的としている。
上記課題を解決するため、本発明の画像符号化装置は、例えば、以下の構成を備える。すなわち、画像符号化装置は、入力画像のサブブロックに対する予測処理により得られた予測画像と前記サブブロックとの差分である予測誤差を生成する予測手段と、前記予測誤差に直交変換処理を行って第一の変換係数を生成する第一の変換手段と、前記第一の変換係数に対しLFNST(Low frequency non separable transform)処理を行って第二の変換係数を生成する第二の変換手段と、前記第二の変換係数に対し量子化処理を行って量子化係数を生成する量子化手段と、前記量子化係数を符号化する符号化手段とを有し、前記符号化手段は、少なくとも前記第二の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を符号化し、少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲である
また、上記課題を解決するため、本発明の画像復号装置は、例えば、以下の構成を備える。すなわち、画像復号装置は、ビットストリームから画像を復号する画像復号装置であって、前記ビットストリームから量子化係数を復号する復号手段と、前記量子化係数に逆量子化処理を施して第一の変換係数を導出する逆量子化手段と、前記第一の変換係数に対し逆LFNST(Low frequency non-separable transform)処理を施して第二の変換係数を導出する第一の変換手段と、前記第二の変換係数に対し逆直交変換処理を施して予測誤差を導出する第二の変換手段とを有し、前記復号手段は、少なくとも前記第一の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を前記ビットストリームから復号し、少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲である
本発明によれば、符号化または復号処理における係数値の取り得る値の範囲を適応的に決定することができる。
画像符号化装置のブロック構成図である。 画像復号装置のブロック構成図である。 画像符号化装置における画像符号化処理を示すフローチャートである。 画像復号装置における画像復号処理を示すフローチャートである。 コンピュータハードウェア構成図である。 符号化装置によって生成され、復号装置によって復号されるビットストリーム構造の例を示す図である。 サブブロック分割の例を示す図である。 係数レンジ情報、画像のビット深度と係数の取り得る範囲の関係性を示す図である。
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態において示す構成は一例に過ぎず、図示された構成に限定されるものではない。
(実施形態1)
実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わされてもよい。さらに添付図面においては、同一もしくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
図1は本実施形態の画像符号化装置100のブロック構成図である。画像符号化装置100は、装置全体の制御を司る制御部150を有する。この制御部150はCPU、CPUが実行するプログラムを格納するROM、CPUのワークエリアとして利用するRAMを有する。また、画像符号化装置100は、入力端子101、ブロック分割部102、係数レンジ情報生成部103、予測部104、変換・量子化部105、逆量子化・逆変換部106、画像再生部107、フレームメモリ108、インループフィルタ部109、符号化部110、統合符号化部111、および、出力端子112を有する。
入力端子101は、符号化対象の画像データをフレーム単位に入力する。画像データは、画像を撮像する撮像装置や、符号化対象の画像データを記憶したファイルサーバや記憶媒体等から取得されるが、その種類は問わない。また、出力端子112は、符号化データを出力先装置に出力するが、その出力先装置も記憶媒体、ファイルサーバ等、特に問わない。
ブロック分割部102は、入力したフレーム(ピクチャ)の画像を複数の基本ブロックに分割し、その1つを基本ブロックとして後段の予測部104に順に出力する。また、一例として、基本ブロックは、128×128画素のブロックでもよいし、64×64画素や32×32画素のブロックを基本ブロックとしてもよい。また、更に小さいブロックを基本ブロックとしてもよい。また、基本ブロックとは、例えば、coding tree unitやcoding unitである。基本ブロックとは、サブブロックへと、更に細かく分割可能な単位であればよい。
係数レンジ情報生成部103は、後述の各符号化処理の結果である係数値の取り得る値の範囲を示す係数レンジ情報を生成し、後段の変換・量子化部105、逆量子化・逆変換部106、統合符号化部111に出力する。
予測部104は、基本ブロック単位の画像データに対し、サブブロック分割を決定する。このとき、予測部104は、基本ブロックをサブブロックへと分割するか否かを決定し、分割するとすればどのように分割するか決定する。サブブロックへ分割しない場合、サブブロックは基本ブロックと同じサイズとなる。サブブロックは正方形でもよいし、正方形以外の長方形であってもよい。
そして、予測部104は、分割したサブブロック単位でフレーム内予測であるイントラ予測やフレーム間予測であるインター予測などを行い、サブブロック単位の予測画像データを生成する。このとき、予測部104は、例えば、あるサブブロックに対して行う予測方法を、イントラ予測、インター予測、及び、イントラ予測とインター予測とを組み合わせた予測の中から選択し、選択した予測を行って、当該サブブロックのための予測画像データを生成する。
さらに、予測部104は、入力された画像データと予測画像データから画素単位の予測誤差をサブブロック単位で算出し、出力する。例えば、予測部104は、サブブロックの画像データの各画素値と、当該サブブロックに対する予測によって生成された予測画像データの各画素値との差分を算出し、それを予測誤差として算出する。
また、予測部104は、予測に必要な情報、例えばサブブロック分割(基本ブロックからサブブロックへの分割状態)を示す情報(基本ブロックがどのようにサブブロックに分割されているかを示す情報)を予測誤差と併せて出力する。また、予測部104は、当該サブブロックの予測で用いる予測モードや動きベクトル等の情報も予測誤差と併せて出力する。以降、この予測に必要な情報を予測情報と呼称する。
変換・量子化部105は、予測部104から入力した予測誤差をサブブロック単位で直交変換して、予測誤差の各周波数成分を表す直交変換係数を得る。また、変換・量子化部105は、直交変換係数の低周波部分に低周波変換を施すか否かを決定し、その情報を低周波変換情報として生成する。つまり、低周波変換情報は、直交変換係数の低周波部分に低周波変換を施すか否かを示す情報である。当該サブブロックに低周波変換を施す場合、変換・量子化部105は、得られた直交変換係数の低周波成分に低周波変換処理を施して低周波変換係数を得て、さらに低周波変換係数を量子化することで残差係数(量子化後の直交変換係数)を得る。一方、当該サブブロックに低周波変換を施さない場合、変換・量子化部105は、直交変換係数の量子化を行い、残差係数を得る。なお、低周波変換とは、LFNST(Low frequency non-separable transform)の処理を示し、直交変換係数を変換して低周波変換係数を再生(導出)する処理である。
逆量子化・逆変換部106は、変換・量子化部105から残差係数および低周波変換情報を入力し、残差係数に対して逆量子化し変換係数を再生する。このとき、逆量子化・逆変換部106は、変換・量子化部105から入力された残差係数に対し、量子化マトリクスと量子化パラメータとを用いて、変換係数を再生する。このように、量子化マトリクスと量子化パラメータとを用いて、残差係数から変換係数を再生(導出)する処理を逆量子化と称するものとする。なお、逆量子化の処理において量子化マトリクスは必ずしも用いなくてもよい。特に変換・量子化部105の量子化処理において量子化マトリクスが用いられなかった場合、逆量子化・逆変換部106の逆量子化処理には量子化マトリクスは用いられない。さらには、当該サブブロックにおいて低周波変換が施されていたか否かによって、量子化マトリクスの適用の有無を決定してもよい。例えば、当該サブブロックにおいて低周波変換が施されていた場合には量子化マトリクスを用いずに逆量子化し、そうでない場合には量子化マトリクスを用いて逆量子化をするといった具合である。
また、逆量子化・逆変換部106は、入力された低周波変換情報に基づき当該サブブロックに対し低周波変換が施されていたか否かの判定を行う。当該サブブロックに対し低周波変換が施されていた場合、逆量子化・逆変換部106は、残差係数に対して逆量子化することで得られた変換係数(低周波変換係数)に逆低周波変換処理を施して直交変換係数を再生し、さらに当該直交変換係数に逆直交変換を施し予測誤差を再生する。一方、当該サブブロックに対し低周波変換が施されていなかった場合、逆量子化・逆変換部106は、残差係数に対して逆量子化することで得られた変換係数(直交変換係数)に逆直交変換を施して予測誤差を再生する。なお、逆低周波変換処理とは、逆LFNSTの処理を示し、低周波変換係数を変換して直交変換係数を再生(導出)する処理である。
画像再生部107は、予測部104から出力された予測情報に基づいて、フレームメモリ108を適宜参照して予測画像データを生成する。画像再生部107は、この予測画像データに、逆量子化・逆変換部106から入力された予測誤差を加算することで、再生画像データ(reconstructed picture)を生成し、フレームメモリ108に格納する。
インループフィルタ109は、フレームメモリ108に格納されている再生画像に対し、デブロッキングフィルタやサンプルアダプティブオフセットなどのインループフィルタ処理を行い、フィルタ処理後の画像データを再度フレームメモリ108に格納する。
符号化部110は、変換・量子化部105から出力された残差係数や低周波変換情報、予測部104から出力された予測情報を符号化して、符号データを生成し、統合符号化部111に出力する。
統合符号化部111は、係数レンジ情報生成部103からの係数レンジ情報を符号化し、係数レンジ情報符号を生成する。そして係数レンジ情報符号を含むヘッダ符号データを生成する。そして、統合符号化部111は、ヘッダ符号データに、符号化部110から出力された符号データと後続させ、ビットストリームを形成する。そして、統合符号化部111は、形成したビットストリームを、出力端子112を介して出力する。
ここで、画像符号化装置における画像の符号化動作をより詳しく以下に説明する。本実施形態では、入力端子101より、16ビットの動画像データをフレーム単位に入力する構成とするが、1フレーム分の静止画データを入力する構成としても構わない。また、本実施形態では説明のため、ブロック分割部101においては、入力端子より入力した画像データを8×8画素の基本ブロックに分割するものとして説明する。また、ここでいう、基本ブロックは、例えば、coding tree unitである。なお、一例として、coding tree unitのサイズが8×8画素である例について説明するが、他のサイズでもよい。例えば、32×32画素~128×128画素の内のいずれかのサイズでもよい。
画像の符号化に先立ち、本実施形態の符号化処理における係数の取り得る値の範囲を決定する。
係数レンジ情報生成部103は、入力された画像のビット深度によって符号化処理における係数の取り得る値の範囲を可変とするか、ビット深度によらず当該範囲を固定とするかを示す係数レンジ情報を生成する。以下、前者の画像のビット深度によって符号化処理における係数の取り得る値の範囲を可変としたものを高精度係数レンジ、後者の画像のビット深度によらず当該範囲を固定としたものを固定係数レンジと呼称する。本実施形態では、前者の高精度係数レンジが選択された場合には係数レンジ情報は1、後者の固定係数レンジが選択された場合には係数レンジ情報は0となるものとする。ただし、選択された係数レンジと係数レンジ情報との組み合わせはこれらに限定されない。また、係数レンジ情報の決定方法も特に限定されず、本符号化装置および対応する復号装置が使用するアプリケーションを想定して符号化処理に先立って決定してもよいし、ユーザによって選択されてもよい。例えば、本実施形態の画像符号化装置100が画質最優先で演算精度を重視するアプリケーションで使用されることが想定される場合には、係数レンジ情報を1とし、そうでなければ0とするといった具合である。生成された係数レンジ情報は、統合符号化部111、変換・量子化部105および逆量子化・逆変換部106に出力される。
統合符号化部111は、係数レンジ情報生成部103から入力された係数レンジ情報を符号化して係数レンジ情報符号を生成し、画像データの符号化に必要なヘッダ情報に統合する。
続いて、画像データの符号化が行われる。入力端子101から入力された1フレーム分の画像データはブロック分割部102に供給される。
ブロック分割部102は、入力された1フレームの画像データを複数の基本ブロックに分割し、基本ブロック単位の画像データを予測部104に出力する。本実施形態では、8×8画素の基本ブロック単位の画像データが予測部104に供給されることとなる。
予測部104は、ブロック分割部102から入力された基本ブロック単位の画像データに対し予測処理を実行する。具体的には、基本ブロックをさらに細かいサブブロックに分割するサブブロック分割を決定し、さらにサブブロック単位でイントラ予測やインター予測などの予測モードを決定する。イントラ予測は符号化対象ブロックの空間的に周辺に位置する符号化済画素を用いて符号化対象ブロックの予測画素を生成し、水平予測や垂直予測、DC予測などのイントラ予測方法を示すイントラ予測モードも生成する。インター予測は符号化対象ブロックとは時間的に異なるフレームの符号化済画素を用いて符号化対象ブロックの予測画素を生成し、参照するフレームや動きベクトルなどを示す動き情報も生成する。
図7を参照してサブブロック分割方法を説明する。図7(a)~(f)のブロック700~705の太枠は基本ブロックと同じ8×8画素のサイズである。太枠内の各四角形はサブブロックを表している。図7(b)は従来の正方形サブブロック分割の一例を表しており、8×8画素の基本ブロック701は、4個の4×4画素のサブブロックに分割されている。一方、図7(c)~(f)は長方形サブブロック分割の一例を表している。図7(c)は、基本ブロック702が4×8画素サイズの2個のサブブロック(垂直方向に長手)に分割されることを示している。図7(d)は、基本ブロック703が、8×4画素サイズの2個のサブブロック(水平方向に長手)に分割されることを示している。図7(e)、(f)は、基本ブロック704、705の場合、分割方法が異なるものの、1:2:1の比で3つの長方形サブブロックに分割されている。このように正方形だけではなく、長方形のサブブロックも用いて符号化処理を行っている。
本実施形態では、8×8画素サイズの基本ブロックを、サブブロックに分割しない図7(a)のみが用いられるものとするが、サブブロック分割方法はこれに限定されない。図7(b)のような四分木分割、図7(e)、(f)のような三分木分割または図7(c)や図7(d)のような二分木分割を用いても構わない。
予測部104は、決定した予測モード、および、フレームメモリ108に格納されている符号化済の領域から予測画像データを生成し、さらに入力された画像データと前記予測画像データから画素単位の予測誤差を算出し、その誤差を変換・量子化部105に出力する。また、予測部104は、サブブロック分割や予測モードなどの情報を予測情報として、符号化部110、画像再生部107に出力する。
変換・量子化部105は、まず、係数レンジ生成部103から係数レンジ情報を入力し、変換処理や量子化処理における係数の取り得る値の範囲を決定する。本実施形態では、図8に示されたテーブルに基づいて、水平・垂直各方向の一次元の直交変換や、直交変換後の係数にさらに変換を施す二次変換、量子化といった各演算結果の係数が取り得る範囲を決定するものとする。ただし、係数レンジ情報と各演算結果の係数の取り得る範囲の組み合わせはこれらに限定されない。本実施形態では、入力画像のビット深度が16であることから、係数レンジ情報に応じて、-32768~32767または-8388608~8388607の範囲をとることとなる。各演算結果が上記の範囲外になった場合の処理については特に限定しないが、クリップ処理やビットシフト処理により結果を上記の範囲内に収めることができる。
次に変換・量子化部105は、上述した係数レンジに基づいて、予測部104より入力した予測誤差に対し、直交変換・量子化を行い、残差係数を生成する。具体的には、変換・量子化部105は、まず、予測誤差に対し、サブブロックのサイズに対応した直交変換処理を施し直交変換係数を生成する。次に変換・量子化部105は、直交変換係数の低周波部分に対し低周波変換を施すか否かを決定し、その情報を低周波変換情報として生成し、逆量子化・逆変換部106および符号化部110に出力する。低周波変換情報の決定方法は特に限定しないが、直交変換係数が低周波成分に集中しており、低周波変換を施すことにより更なる圧縮効率の向上が期待できる場合などに低周波変換をさらに施すことができる。低周波変換を施すことに決定した場合、変換・量子化部105は、直交変換係数の低周波部分に低周波変換を施し低周波変換係数を生成する一方、低周波変換が施されなかった高周波成分は直交変換係数の値に関わらず0であったものとして扱う。そして、変換・量子化部105は、低周波変換を施した場合は、低周波変換係数を量子化し、残差係数を生成する。一方、低周波変換を施さなかった場合には、変換・量子化部105は、直交変換係数を量子化し、残差係数を生成する。
逆量子化・逆変換部106においても変換・量子化部105と同様に、まず、係数レンジ生成部103から係数レンジ情報を入力し、逆量子化処理や逆変換処理における係数の取り得る値の範囲を決定する。本実施形態では、変換・量子化部105と同様に、図8に示されたテーブルに基づいて、逆量子化処理や低周波成分に対する逆低周波変換処理、垂直・水平方向の一次元の逆直交変換処理といった各演算結果の係数が取り得る範囲を決定するものとする。本実施形態では、変換・量子化部105同様、入力画像のビット深度が16であることから、係数レンジ情報に応じて、-32768~32767または-8388608~8388607の範囲をとることとなる。
次に、逆量子化・逆変換部106は、上述した係数レンジに基づいて、変換・量子化部105から入力した残差係数を、逆量子化することで変換係数を再生する。また、逆量子化・逆変換部106は、変換・量子化部105から入力した低周波変換情報に基づき、当該サブブロックに対し低周波変換が施されているか否かを判定する。当該サブブロックに対して低周波変換が施されていた場合、逆量子化・逆変換部106は、変換係数に逆低周波変換処理を施して直交変換係数を再生し、さらに直交変換係数に逆直交変換を施し予測誤差を再生する。一方、当該サブブロックに対して低周波変換が施されていなかった場合、逆量子化・逆変換部106は、変換係数を逆直交変換して予測誤差を再生する。こうして再生された予測誤差は画像再生部107に出力される。
y=Clip3(CoeffMin,CoeffMax,((ΣlowFreqTransMatrix[j]×x)+64)>>7) …(1)
(ただし、Clip3(a,b,c)は値cを最小値aおよび最大値bでクリップする処理を示し、「>>」は右へのビットシフトを表す。)
上記の式(1)は本実施形態の逆量子化・逆変換部106における逆低周波変換処理で用いられる計算式の一つである。ここで式(1)のCoeffMinは図8の最小係数値が、式(1)のCoeffMaxは図8の最大係数値が対応している。本実施形態では入力画像のビット深度が16ビットであるため、係数レンジ情報に基づいて式(1)のCoeffMin、CoeffMaxの値が定まることとなる。係数レンジ情報が0である場合、すなわち固定係数レンジが選択されている場合、CoeffMinは-32768、CoeffMaxは32767となり、出力値は符号付き16ビットで表現することができる。この場合、以降の符号化処理において16ビットの加算・乗算命令などが使えることになるため、実装コストが高くならないといったメリットがある。一方で、係数レンジ情報が1である場合、すなわち高精度係数レンジが選択されている場合、CoeffMinは-8388608、CoeffMaxは8388607となる。この場合、出力値が符号付き16ビットでは表現することができないため、以降の符号化処理における実装コストは高くなるが、16ビットといった高ビット深度にふさわしい高演算精度の符号化処理を実現することができる。結果として、圧縮効率を高めたり、符号化結果のビットストリームを復号した際の画質を高めたりする効果がある。
画像再生部107は、予測部104から入力される予測情報に基づいて、フレームメモリ108を適宜参照し、予測画像を再生する。そして画像再生部107は、再生された予測画像と、逆量子化・逆変換部106により再生された予測誤差とに基づき、再生画像データを生成し、フレームメモリ108に格納する。
インループフィルタ部109は、フレームメモリ108から再生画像データを読み出し、デブロッキングフィルタなどのインループフィルタ処理を行う。そして、インループフィルタ部109は、フィルタ処理された画像データをフレームメモリ108に再格納する。
符号化部110は、変換・量子化部105で生成されたサブブロック単位の残差係数や低周波変換情報、並びに、予測部104から入力された予測情報をエントロピー符号化し、符号データを生成する。エントロピー符号化の方法は特に指定しないが、ゴロム符号化、算術符号化、ハフマン符号化などを用いることができる。符号化部110は、生成された符号データを統合符号化部111に出力する。
統合符号化部111は、前述のヘッダの符号データとともに、符号化部110から入力された符号データなどを多重化してビットストリームを形成する。そして、統合符号化部111は、形成したビットストリームを出力端子112から外部(記憶媒体やネットワークなど)に出力する。
図6(a)は本実施形態で出力されるビットストリームのデータ構造の一例である。シーケンスヘッダには、係数レンジ情報符号が含まれている。ただし、符号化される位置はこれに限定されず、図6(b)のようなピクチャヘッダ部や複数のピクチャにまたがるヘッダ部に符号化される構成をとってももちろん構わない。
図3は、実施形態の画像符号化装置100における制御部150の1フレーム分の符号化処理を示すフローチャートである。
まず、画像の符号化に先立ち、S301にて、制御部150は、係数レンジ情報生成部103を制御し、係数レンジ情報を生成させる。
S302にて、制御部150は、統合符号化部111を制御し、S301にて生成された係数レンジ情報の符号化を行わせ、係数レンジ情報符号を生成させる。
S303にて、制御部150は、統合符号化部111を制御し、生成された係数レンジ情報符号とともに、画像データの符号化に必要なヘッダ情報を符号化し、出力させる。
S304にて、制御部150は、ブロック分割部102を制御し、フレーム単位の入力画像を基本ブロック単位に分割させる。
S305にて、制御部150は、予測部104を制御し、S304にて生成された基本ブロック単位の画像データに対して、予測処理を実行させ、サブブロック分割情報や予測モードなどの予測情報および予測画像データを生成させる。さらに、制御部150は、予測部104を制御して、入力された画像データと予測画像データから予測誤差を算出させる。
S306にて、制御部150は、変換・量子化部105を制御し、S301で生成された係数レンジ情報に基づいて、本ステップの符号化処理における係数レンジを決定する。例えば、制御部150は、係数レンジ情報が1である場合、本ステップの符号化処理における係数レンジを高精度係数レンジとして決定し、係数レンジ情報が0である場合、本ステップの符号化処理における係数レンジを固定係数レンジとして決定する。次に制御部150は、変換・量子化部105を制御し、S305で算出された予測誤差に対して直交変換を行わせ、直交変換係数を生成させる。そして、制御部150は、変換・量子化部105を制御し、当該サブブロックにおいて生成された直交変換係数に対して低周波変換を施すか否かを決定させ、その情報を低周波変換情報として生成させる。低周波変換を施すと決定した場合、制御部150は、変換・量子化部105を制御し、直交変換係数の低周波成分に低周波変換を施させた後に量子化を行わせ、残差係数を生成させる。一方、低周波変換を施さないと決定した場合、制御部150は、変換・量子化部105を制御し、直交変換係数に量子化を施させ、残差係数を生成させる。
S307にて、制御部150は、逆量子化・逆変換部106を制御し、S301で生成された係数レンジ情報に基づいて、本ステップの符号化処理における係数レンジを決定する。例えば、制御部150は、係数レンジ情報が1である場合、本ステップの符号化処理における係数レンジを高精度係数レンジとして決定し、係数レンジ情報が0である場合、本ステップの符号化処理における係数レンジを固定係数レンジとして決定する。次に制御部150は、逆量子化・逆変換部106を制御し、S306で生成された残差係数を、逆量子化を行わせ、変換係数を再生させる。次に、制御部150は、逆量子化・逆変換部106を制御し、S306で生成された低周波変換情報に基づき、当該サブブロックにおいて低周波変換が施されていたか否かを判定する。当該サブブロックに対して低周波変換が施されていた場合、制御部150は、逆量子化・逆変換部106を制御し、変換係数に逆低周波変換処理を施させて直交変換係数を再生させ、さらに直交変換係数に逆直交変換を施させて予測誤差を再生させる。一方、当該サブブロックに対して低周波変換が施されていない場合、制御部150は、逆量子化・逆変換部106を制御し、変換係数に逆直交変換を施させて予測誤差を再生させる。
S308にて、制御部150は、画像再生部107を制御し、S305で生成された予測情報に基づいて予測画像を再生させ、再生された予測画像とS307で生成された予測誤差から画像データを再生させ、フレームメモリ108に格納させる。
S309にて、制御部150は、符号化部110を制御し、S305で生成された予測情報およびS306で生成された残差係数や低周波変換情報の符号化を行わせ、符号データを生成させる。また、符号化部110は、生成した符号データを統合符号化部111に出力する。統合符号化部111は、符号化部110からの符号化データを、先に生成したヘッダに後続するように位置させ、出力する。
S310にて、制御部150は、着目フレーム内の全ての基本ブロックの符号化が終了したか否かの判定を行う。制御部150は、終了していると判定した場合にはS311に進め、未符号化の基本ブロックが残っていると判断した場合にはS304に処理を戻し、次の基本ブロックに対する符号化を継続させる。
S311にて、制御部150は、インループフィルタ部109を制御し、S308で再生された画像データに対し、インループフィルタ処理を行い、フィルタ処理された画像を生成し、処理を終了する。
以上の構成と動作、特にS302において、係数レンジ情報を符号化することで、アプリケーションの要求仕様に応じて演算精度や実装コストの異なる符号化処理の切り替え可能なビットストリームを生成させることができる。
なお、本実施形態では、係数レンジを変換処理や量子化処理の結果となる係数の取り得る値の範囲として説明したが、それ以外の符号化処理の結果となる係数の取り得る値の範囲として用いても構わない。例えば、VVCでは主にロスレス符号化時の圧縮効率を高めるため、BDPCM(Block-based Delta Pulse Code Modulation)と呼ばれる技術が採用されている。BDPCMは、予測誤差に対して変換・量子化を施した残差係数を符号化する代わりに、予測誤差に対して変換を施さずに量子化のみを施して量子化係数を生成し、左もしくは上に隣接する量子化係数との差分値を符号化する方式である。ここで、係数レンジをこの差分値に適用してもよい。これより、BDPCMの適用の有無に関わらず、符号化される係数の取り得る値の範囲が固定係数レンジか高精度係数レンジかが定まるので、片方のレンジのみをサポートする符号化部を実装することで、実装コストを低減することが可能となる。
また、本実施形態において、例えば入力画像のビット深度が8ビットであった場合、係数レンジ情報符号を省略することも可能である。これは、最小係数値および最大係数値が、係数レンジ情報に関わらず等しくなるためで、これにより冗長な符号を削減することができる。係数レンジ情報の符号化が省略できる入力画像のビット深度は8ビットに限定されず、他の実施形態において最小係数値と最大係数値が係数レンジ情報に関わらず等しくなる場合に係数レンジ情報の符号化を省略することが可能である。
図2は、実施形態における上記画像符号化装置100で生成された符号化画像データを復号する画像復号装置200のブロック構成図である。以下、同図を参照し、復号処理に係る構成とその動作を説明する。
画像復号装置200は、装置全体の制御を司る制御部250を有する。この制御部250は、CPU、CPUが実行するプログラムを格納するROM、CPUのワークエリアとして利用するRAMを有する。また、画像復号装置200は、入力端子201、分離復号部202、復号部203、逆量子化・逆変換部204、画像再生部205、フレームメモリ206、インループフィルタ部207、出力端子208、及び、係数レンジ情報復号部209を有する。
入力端子201は、符号化されたビットストリームを入力するものであり、入力源は例えば符号化ストリームを格納した記憶媒体であるが、ネットワークから入力しても良く、その種類は問わない。
分離復号部202は、ビットストリームから復号処理に関する情報や係数に関する符号データに分離し、またビットストリームのヘッダ部に存在する符号データを復号する。本実施形態の分離復号部202は、係数レンジ情報符号を分離し、係数レンジ情報復号部209に出力する。また、分離復号部202は、画像の符号データを復号部203に出力する。
係数レンジ情報復号部209は、分離復号部202より供給された係数レンジ情報符号を復号することで係数レンジ情報を再生し、後段の逆量子化・逆変換部204に出力する。
復号部203は、分離復号部202から出力された画像の符号データを復号し、残差係数、低周波変換情報および予測情報を再生する。
逆量子化・逆変換部204は、図1の逆量子化・逆変換部106と同様、残差係数に対して逆量子化を行い、逆量子化後の係数である変換係数を再生する。また、逆量子化・逆変換部204は、低周波変換情報を用いて、当該サブブロックに対して低周波変換が施されていたか否かの判定を行う。逆量子化・逆変換部204は、当該サブブロックに対し低周波変換が施されていた場合、低周波変換係数に逆低周波変換処理を施して直交変換係数を再生する。逆量子化・逆変換部204は、さらにこの直交変換係数または変換係数に対し逆直交変換を実行することで、予測誤差を再生する。一方、当該サブブロックに対して低周波変換が施されていなかった場合、逆量子化・逆変換部204は、直交変換係数を逆直交変換して予測誤差を再生する。
画像再生部205は、入力された予測情報に基づいてフレームメモリ206を適宜参照して予測画像データを生成する。そして、画像再生部205は、この予測画像データと逆量子化・逆変換部204で再生された予測誤差から再生画像データを生成し、フレームメモリ206に格納する。
インループフィルタ部207は、図1のインループフィルタ部109と同様、フレームメモリ206に格納された再生画像データに対し、デブロッキングフィルタなどのインループフィルタ処理を行い、処理後の画像データをフレームメモリ206に再格納する。
出力端子208は、フレームメモリ206に格納されたフレーム画像を順次、外部に出力する。出力先は表示装置が一般的であるが、他のデバイスであっても構わない。
上記実施形態の画像復号装置200の画像の復号に係る動作をさらに詳しく説明する。本実施形態では、符号化されたビットストリームをフレーム単位で入力する構成となっている。
図2において、入力端子201から入力された1フレーム分のビットストリームは分離復号部202に供給される。分離復号部202では、ビットストリームから復号処理に関する情報や係数に関する符号データに分離し、ビットストリームのヘッダ部に存在する符号データを復号する。そして、分離復号部202には、ヘッダ部に含まれていた係数レンジ情報符号を係数レンジ情報復号部209に供給し、画像データの符号データを復号部203に供給する。具体的には、分離復号部202は、まず、図6(a)に示されるビットストリームのシーケンスヘッダから係数レンジ情報符号を抽出し、係数レンジ情報復号部209に出力する。続いて、ピクチャデータの基本ブロック単位の符号データを抽出し、復号部203に出力する。
係数レンジ情報復号部209は、分離復号部202から入力された係数レンジ情報符号を復号し、係数レンジ情報を得る。符号化側同様、係数レンジ情報が1の際は高精度係数レンジが用いられ、係数レンジ情報が0の際は固定係数レンジが用いられる。係数レンジ情報は逆量子化・逆変換部204に出力される。本実施形態では、符号化側で16ビットの画像を入力し、復号側で16ビットの画像を出力する構成のため、係数レンジ情報が0の際は-32768~32767、係数レンジ情報が1の際は-8388608~8388607の範囲をとることとなる。
復号部203は、分離復号部202から供給された符号データを復号し、予測情報を再生し、さらに残差係数および低周波変換情報を再生する。まず、復号部203は、予測情報を再生し、当該サブブロックで用いられる予測モードを取得する。復号部203は、再生された残差係数および低周波変換情報を逆量子化・逆変換部204に出力し、再生された予測情報を画像再生部205に出力する。
逆量子化・逆変換部204は、入力された残差係数に対し、上述した係数レンジに基づいて逆量子化を行って変換係数を生成する。そして逆量子化・逆変換部204は、入力された低周波変換情報に基づき、当該サブブロックにおいて低周波変換が施されていたか否かの判定を行う。当該サブブロックに対して低周波変換が施されていた場合、逆量子化・逆変換部204は、変換係数に低周波変換処理を施して直交変換係数を再生し、さらに直交変換係数に逆直交変換を施し予測誤差を再生する。一方、当該サブブロックに対して低周波変換が施されていない場合、逆量子化・逆変換部204は、変換係数に逆直交変換を施して予測誤差を再生する。こうして再生された予測誤差は画像再生部205に出力される。
画像再生部205は、復号部203から入力された予測情報に基づいて、フレームメモリ206を適宜参照し、予測画像を再生する。本実施形態の画像再生部205は、符号化側の予測部104と同様、イントラ予測やインター予測が用いられる。具体的な予測の処理については、符号化側の予測部104と同様であるため、説明を省略する。画像再生部205は、この予測画像と逆量子化・逆変換部204から入力された予測誤差から画像データを再生し、フレームメモリ206に格納する。格納された画像データは予測の際の参照に用いられる。
インループフィルタ部207は、符号化側のインループフィルタ部109と同様、フレームメモリ206から再生画像を読み出し、デブロッキングフィルタなどのインループフィルタ処理を行う。そして、インループフィルタ部207は、フィルタ処理された画像をフレームメモリ206に再格納する。
フレームメモリ206に格納された再生画像は、最終的には出力端子208から外部(表示装置がその代表となる)に出力される。
図4は、実施形態に係る画像復号装置200における制御部205の復号処理を示すフローチャートである。
まず、S401にて、制御部250は、分離復号部202を制御して、ビットストリームから復号処理に関する情報や係数に関する符号データに分離して、ヘッダ部分の符号データを復号する。より具体的には、分離復号部202は、係数レンジ情報符号を係数レンジ情報復号部209に供給し、画像の符号データを復号部203に供給させる。
S402にて、制御部250は、係数レンジ情報復号部209を制御し、S401で再生された係数レンジ情報符号を復号させる。ここでの係数レンジ情報復号部209の具体的な動作は、説明済であるため省略する。
S403にて、制御部250は、復号部203を制御し、S401で分離された符号データを復号し、予測情報を再生し、残差係数および低周波変換情報を再生する。
S404にて、制御部250は、逆量子化・逆変換部204を制御し、S402で復号された係数レンジ情報に戻づいて、本ステップの復号処理における係数レンジを決定する。例えば、制御部150は、係数レンジ情報が1である場合、本ステップの復号処理における係数レンジを高精度係数レンジとして決定し、係数レンジ情報が0である場合、本ステップの復号処理における係数レンジを固定係数レンジとして決定する。次に制御部250は、逆量子化・逆変換部204を制御し、S403で再生された残差係数に対し逆量子化を行って変換係数を生成させる。また、制御部250は、逆量子化・逆変換部204を制御し、S403で再生された低周波変換情報に基づき、当該サブブロックにおいて低周波変換が施されていたか否かの判定を行う。当該サブブロックに対して低周波変換が施されていた場合、制御部250は、逆量子化・逆変換部204を制御し、変換係数に逆低周波変換処理を施させて直交変換係数を再生させ、さらに直交変換係数に逆直交変換を施させて予測誤差を再生させる。一方、当該サブブロックに対して低周波変換が施されていない場合、制御部250は、逆量子化・逆変換部204を制御し、変換係数に逆直交変換を施させて予測誤差を再生させる。
S405にて、制御部250は画像再生部205を制御し、S403で生成された予測情報に基づき画像を再生させる。具体的には、画像再生部205は、予測情報に基づき、フレームメモリ206を参照して予測画像を再生する。このとき、画像再生部205は、符号化側のS305と同様、イントラ予測やインター予測が用いられる。そして、画像再生部205は、再生された予測画像とS404で生成された予測誤差から画像データを再生し、再生した画像データをフレームメモリ206に格納する。
S406にて、制御部250は、着目フレーム内の全ての基本ブロックの復号が終了したか否かの判定を行い、終了していれば処理をS407に進み、未符号の基本ブロックが存在する場合は次の基本ブロックを復号対象とするための処理をS403に戻す。
S407にて、制御部250は、インループフィルタ部207を制御し、S405で再生された画像データに対し、インループフィルタ処理を行い、フィルタ処理された画像を生成し、処理を終了する。
以上の構成と動作により、先に説明した画像符号化装置100で生成された、符号化ビットストリーム、すなわち、アプリケーションの要求仕様に応じて演算精度や実装コストの異なる復号処理の切り替えを可能にしたビットストリームを復号することができる。
なお、本実施形態では、係数レンジを逆量子化処理や逆変換処理の結果となる係数の取り得る値の範囲として説明したが、それ以外の復号処理の結果となる係数の取り得る値の範囲として用いても構わない、例えば、符号化側と同様、BDPCM処理においてこの係数レンジを適用しても構わない。
dz[x][y]=Clip3(CoeffMin,CoeffMax,
dz[x-1][y]+dz[x][y]) …(2)
(ただし、Clip3(a,b,c)は値cを最小値aおよび最大値bでクリップする処理を示す。)
上記の式(2)はBDPCMの復号処理において用いられる計算式の一つであり、量子化係数dz[x][y]の再生に左隣の量子化係数dz[x-1][y]に差分値を加算し、係数レンジでクリップ処理をしたものである。式(1)同様、式(2)のCoeffMinおよびCoeffMaxは、図8の最小係数値および最大係数値が対応している。係数レンジ情報が0、すなわち固定係数レンジが用いられていた場合、式(2)の出力である量子化係数dz[x][y]は-32768~32767の範囲をとり、符号付き16ビットで表現することができる。この場合、以降の復号処理である逆量子化処理において、16ビットの乗算・加算命令などが使えることになるため、実装コストを抑えられるといったメリットがある。一方で係数レンジ情報が1、すなわち高精度係数レンジが選択されている場合、逆量子化処理などの以降の復号処理における実装コストは高くなるが、高演算精度の復号処理を実現することができる。結果として、符号化側で圧縮効率を高め生成されたビットストリームを、より高画質で復号することができる。
上記実施形態の画像符号化装置100および画像復号装置200が有する各処理部はハードウェアでもって構成しているものとして説明した。しかし、これらの図に示した各処理部で行う処理をコンピュータプログラムでもって構成しても良い。
図5は、上記実施形態に係る画像符号化装置100、画像復号装置200に適用可能なコンピュータのハードウェアの構成例を示すブロック図である。
CPU501は、RAM502やROM503に格納されているコンピュータプログラムやデータを用いてコンピュータ全体の制御を行うと共に、上記実施形態に係る画像符号化装置100または画像復号装置200が行うものとして上述した各処理を実行する。即ち、CPU501は、図1、図2に示した各処理部として機能することになる。
RAM502は、外部記憶装置506、I/F(インターフェース)507を介して外部から取得したデータなどを一時的に記憶するためのエリアを有する。更に、RAM502は、CPU501が各種の処理を実行する際に用いるワークエリアとしても利用される。RAM502は、例えば、フレームメモリとして割り当てたり、その他の各種のエリアを適宜提供したりすることができる。
ROM503には、本コンピュータの設定データや、ブートプログラムなどが格納されている。操作部504は、キーボードやマウスなどにより構成されており、本コンピュータのユーザが操作することで、各種の指示をCPU501に対して入力することができる。表示部505は、CPU501による処理結果を表示する。また表示部505は例えば液晶ディスプレイで構成される。
外部記憶装置506は、ハードディスクドライブ装置に代表される、大容量情報記憶装置である。外部記憶装置506には、OS(オペレーティングシステム)や、図1、図2に示した各部の機能をCPU501に実現させるためのコンピュータプログラム(アプリケーションプログラム)が保存されている。更には、外部記憶装置506には、処理対象としての各画像データが保存されていても良い。
外部記憶装置506に保存されているコンピュータプログラムやデータは、CPU501による制御に従って適宜、RAM502にロードされ、CPU501による処理対象となる。I/F507には、LANやインターネット等のネットワーク、投影装置や表示装置などの他の機器を接続することができ、本コンピュータはこのI/F507を介して様々な情報を取得したり、送出したりすることができる。508は上述の各部を繋ぐバスである。
上記構成において、本装置に電源が投入されると、CPU501はROM503に格納されたブートプログラムを実行し、外部記憶装置506に格納されたOSをRAM502にロードし実行する。そして、CPU501は、OSの制御下にて、外部記憶装置506から符号化、或いは、復号に係るアプリケーションプログラムをRAM502にロードし、実行する。この結果、CPU501は、図1或いは図2の各処理部として機能し、本装置が画像符号化装置、或いは、画像復号装置として機能することになる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 画像符号化装置
101 入力端子
102 ブロック分割部
103 係数レンジ情報生成部
104 予測部
105 変換・量子化部
106 逆量子化・逆変換部
107 画像再生部
108 フレームメモリ
109 インループフィルタ部
110 符号化部
111 統合符号化部
112 出力端子
200 画像復号装置
201 入力端子
202 分離復号部
203 復号部
204 逆量子化・逆変換部
205 画像再生部
206 フレームメモリ
207 インループフィルタ部
208 出力端子
209 係数レンジ情報復号部

Claims (11)

  1. 入力画像のサブブロックに対する予測処理により得られた予測画像と前記サブブロックとの差分である予測誤差を生成する予測手段と、
    前記予測誤差に直交変換処理を行って第一の変換係数を生成する第一の変換手段と、
    前記第一の変換係数に対しLFNST(Low frequency non-separable transform)処理を行って第二の変換係数を生成する第二の変換手段と、
    前記第二の変換係数に対し量子化処理を行って量子化係数を生成する量子化手段と、
    前記量子化係数を符号化する符号化手段とを有し、
    前記符号化手段は、少なくとも前記第二の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を符号化し、
    少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、
    少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲であることを特徴とする画像符号化装置。
  2. 量子化マトリクスを使用するかどうかが決定され、
    前記LFNST処理が適用されるとき、量子化マトリクスを使用しないと決定されることを特徴とする請求項1に記載の画像符号化装置。
  3. 前記BDPCM(Block-based Delta Pulse Code Modulation)処理は、入力画像の或るサブブロックに対する予測処理により得られた予測画像と当該或るサブブロックとの差分である予測誤差に対する量子化により生成された量子化係数のうち、隣り合う量子化係数の差分を導出する処理であり、
    前記BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値は、前記量子化係数の差分の値であることを特徴とする請求項1に記載の画像符号化装置。
  4. 前記ビット深度が8である場合、前記第一の範囲と前記第二の範囲は同じであることを特徴とする請求項1に記載の画像符号化装置。
  5. ビットストリームから画像を復号する画像復号装置であって、
    前記ビットストリームから量子化係数を復号する復号手段と、
    前記量子化係数に逆量子化処理を施して第一の変換係数を導出する逆量子化手段と、
    前記第一の変換係数に対し逆LFNST(Low frequency non-separable transform)処理を施して第二の変換係数を導出する第一の変換手段と、
    前記第二の変換係数に対し逆直交変換処理を施して予測誤差を導出する第二の変換手段とを有し、
    前記復号手段は、少なくとも前記第一の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を前記ビットストリームから復号し、
    少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、
    少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲であることを特徴とする画像復号装置。
  6. 逆量子化処理において量子化マトリクスを使用するかどうかが決定され、
    前記LFNST処理が適用されるとき、前記量子化マトリクスを使用しないと決定する請求項5に記載の画像復号装置。
  7. 前記BDPCM(Block-based Delta Pulse Code Modulation)処理は、或る量子化係数の再生のために当該或る量子化係数の左隣の量子化係数に差分値を加算する処理であることを特徴とする請求項5に記載の画像復号装置。
  8. 少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記一の範囲とすることを前記情報が示す場合、逆LFNST(Low frequency non-separable transform)処理により導出される前記第二の変換係数の値の範囲は前記ビット深度によって決定される前記第一の範囲であり、
    少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、逆LFNST(Low frequency non-separable transform)処理により導出される前記第二の変換係数の値の範囲は前記第二の範囲であることを特徴とする請求項5に記載の画像復号装置。
  9. 前記ビット深度が8である場合、前記第一の範囲と前記第二の範囲は同じであることを特徴とする請求項5に記載の画像復号装置。
  10. 入力画像のサブブロックに対する予測処理により得られた予測画像と前記サブブロックとの差分である予測誤差を生成する予測工程と、
    前記予測誤差に直交変換処理を行って第一の変換係数を生成する第一の変換工程と、
    前記第一の変換係数に対しLFNST(Low frequency non separable transform)処理を行って第二の変換係数を生成する第二の変換工程と、
    前記第二の変換係数に対し量子化処理を行って量子化係数を生成する量子化工程と、
    前記量子化係数を符号化する符号化工程とを有し、
    前記符号化工程において、少なくとも前記第二の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を符号化し、
    少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、
    少なくとも前記第二の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲であることを特徴とする画像符号化方法。
  11. ビットストリームから画像を復号する画像復号方法であって、
    前記ビットストリームから量子化係数を復号する復号工程と、
    前記量子化係数に逆量子化処理を施して第一の変換係数を導出する逆量子化工程と、
    前記第一の変換係数に対し逆LFNST(Low frequency non-separable transform)処理を施して第二の変換係数を導出する第一の変換工程と、
    前記第二の変換係数に対し逆直交変換処理を施して予測誤差を導出する第二の変換工程とを有し、
    前記復号工程において、少なくとも前記第一の変換係数が取り得る値の範囲を、ビット深度によって決定される第一の範囲とするか、前記ビット深度に依存しない固定の第二の範囲とするかを示す情報を前記ビットストリームから復号し、
    少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度によって決定される前記第一の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記ビット深度によって決定される前記第一の範囲であり、
    少なくとも前記第一の変換係数が取り得る値の範囲を前記ビット深度に依存しない固定の前記第二の範囲とすることを前記情報が示す場合、BDPCM(Block-based Delta Pulse Code Modulation)処理により得られる値の範囲は前記第二の範囲であるすることを特徴とする画像復号方法。
JP2020048201A 2020-03-18 2020-03-18 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム Active JP7536484B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2020048201A JP7536484B2 (ja) 2020-03-18 2020-03-18 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
CN202180022188.8A CN115315952A (zh) 2020-03-18 2021-02-24 图像编码装置、图像编码方法和程序、图像解码装置、图像解码方法和程序
EP21772526.6A EP4124039A4 (en) 2020-03-18 2021-02-24 IMAGE CODING DEVICE, IMAGE CODING METHOD AND PROGRAM, IMAGE DECODING DEVICE AND IMAGE DECODING METHOD AND PROGRAM
KR1020227035006A KR20220156017A (ko) 2020-03-18 2021-02-24 화상 부호화 장치, 화상 부호화 방법 및 기억 매체, 화상 복호 장치, 화상 복호 방법 및 기억 매체
PCT/JP2021/006754 WO2021187023A1 (ja) 2020-03-18 2021-02-24 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
US17/931,450 US20230007311A1 (en) 2020-03-18 2022-09-12 Image encoding device, image encoding method and storage medium, image decoding device, and image decoding method and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020048201A JP7536484B2 (ja) 2020-03-18 2020-03-18 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2021150788A JP2021150788A (ja) 2021-09-27
JP2021150788A5 JP2021150788A5 (ja) 2023-03-29
JP7536484B2 true JP7536484B2 (ja) 2024-08-20

Family

ID=77771957

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020048201A Active JP7536484B2 (ja) 2020-03-18 2020-03-18 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム

Country Status (6)

Country Link
US (1) US20230007311A1 (ja)
EP (1) EP4124039A4 (ja)
JP (1) JP7536484B2 (ja)
KR (1) KR20220156017A (ja)
CN (1) CN115315952A (ja)
WO (1) WO2021187023A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014131172A (ja) 2012-12-28 2014-07-10 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2016519514A (ja) 2013-04-08 2016-06-30 ソニー株式会社 データ符号化及び復号化
WO2017195666A1 (ja) 2016-05-13 2017-11-16 ソニー株式会社 画像処理装置および方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9473981B2 (en) 2013-05-20 2016-10-18 Qualcomm Incorporated Concurrent wireless communications over licensed and unlicensed spectrum
US9516345B2 (en) * 2014-03-17 2016-12-06 Qualcomm Incorporated Systems and methods for low complexity forward transforms using mesh-based calculations
EP3932061A4 (en) * 2019-04-23 2022-06-01 Beijing Bytedance Network Technology Co., Ltd. USING A SECONDARY TRANSFORMATION IN ENCODED VIDEO
EP3942811A4 (en) * 2019-04-24 2022-06-15 ByteDance Inc. CONSTRAINTS ON THE REPRESENTATION OF A DIFFERENTIAL MODULATION BY CODED PULSES OF QUANTIFIED RESIDUE FOR A CODED VIDEO
CN110636313B (zh) * 2019-09-18 2022-07-15 浙江大华技术股份有限公司 变换、二次变换矩阵训练方法、编码器及相关装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014131172A (ja) 2012-12-28 2014-07-10 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2016519514A (ja) 2013-04-08 2016-06-30 ソニー株式会社 データ符号化及び復号化
WO2017195666A1 (ja) 2016-05-13 2017-11-16 ソニー株式会社 画像処理装置および方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Benjamin Bross, Jianle Chen, Shan Liu, and Ye-Kui Wang,Versatile Video Coding (Draft 8),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,JVET-Q2001 (version 15),17th Meeting: Brussels, BE,2020年03月12日,pp. 132-133,308-313

Also Published As

Publication number Publication date
CN115315952A (zh) 2022-11-08
EP4124039A4 (en) 2024-08-07
WO2021187023A1 (ja) 2021-09-23
JP2021150788A (ja) 2021-09-27
EP4124039A1 (en) 2023-01-25
US20230007311A1 (en) 2023-01-05
KR20220156017A (ko) 2022-11-24

Similar Documents

Publication Publication Date Title
JP7508675B2 (ja) 画像符号化装置、画像符号化方法、及びプログラム、画像復号装置、画像復号方法、及びプログラム
US20240089440A1 (en) Image decoding device, method, and non-transitory computer-readable storage medium
TWI791959B (zh) 圖像解碼裝置、圖像解碼方法及程式
TWI795635B (zh) 圖像解碼裝置、圖像解碼方法及程式
JP7536484B2 (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP7508676B2 (ja) 画像符号化装置、画像符号化方法、及びプログラム、画像復号装置、画像復号方法、及びプログラム
WO2020003740A1 (ja) 画像符号化装置及び画像復号装置及びそれらの制御方法及びプログラム
JP7343702B2 (ja) デブロッキングフィルタ装置、復号装置、及びプログラム
JP7545556B2 (ja) 画像符号化装置及び画像復号装置及びそれらの制御方法及びプログラム
WO2020255820A1 (ja) 画像符号化装置及び画像復号装置及び方法及びコンピュータプログラム
WO2020183859A1 (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法、及びプログラム

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20200616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230317

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230317

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240709

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240807

R150 Certificate of patent or registration of utility model

Ref document number: 7536484

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150