[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4749508B2 - Image decoding method - Google Patents

Image decoding method Download PDF

Info

Publication number
JP4749508B2
JP4749508B2 JP2010257512A JP2010257512A JP4749508B2 JP 4749508 B2 JP4749508 B2 JP 4749508B2 JP 2010257512 A JP2010257512 A JP 2010257512A JP 2010257512 A JP2010257512 A JP 2010257512A JP 4749508 B2 JP4749508 B2 JP 4749508B2
Authority
JP
Japan
Prior art keywords
region
interest
information
image
roi
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010257512A
Other languages
Japanese (ja)
Other versions
JP2011045138A (en
Inventor
茂之 岡田
和彦 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2010257512A priority Critical patent/JP4749508B2/en
Publication of JP2011045138A publication Critical patent/JP2011045138A/en
Application granted granted Critical
Publication of JP4749508B2 publication Critical patent/JP4749508B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

この発明は画像復号技術に関し、とくに画像の一部の領域を優先的に復号する方法に関する。   The present invention relates to an image decoding technique, and more particularly to a method for preferentially decoding a partial area of an image.

ISO/ITU−Tにおいて、静止画像の圧縮符号化の標準技術であるJPEG(Joint Photographic Expert Group)の後継として、離散ウェーブレット変換(DWT)を用いたJPEG2000が標準化されている。JPEG2000では、低ビットレート符号化からロスレス圧縮まで広範囲の画質を高性能で符号化することができ、画質を徐々に高めるスケーラビリティ機能も実現が容易である。また、JPEG2000には、従来のJPEG標準にはなかった多様な機能が用意されている。   In ISO / ITU-T, JPEG2000 using discrete wavelet transform (DWT) is standardized as a successor to JPEG (Joint Photographic Expert Group), which is a standard technology for compression coding of still images. JPEG2000 can encode a wide range of image quality from low bit rate encoding to lossless compression with high performance, and it is easy to realize a scalability function that gradually increases image quality. In addition, JPEG2000 provides various functions not found in the conventional JPEG standard.

JPEG2000の機能の一つとして、画像の注目領域(Region of Interest;ROI)を他の領域よりも優先して符号化し、伝送するROI符号化が規格化されている。ROI符号化により、符号化レートに上限がある場合に、注目領域の再生画質を優先的に高品質にすることができる他、符号化ストリームを順に復号する際に、注目領域を早期に高品質で再生することができるようになる。   As one of the functions of JPEG2000, ROI encoding that encodes and transmits a region of interest (ROI) of an image with priority over other regions is standardized. With ROI encoding, when there is an upper limit on the encoding rate, the reproduction image quality of the attention area can be preferentially made high quality, and when the encoded stream is sequentially decoded, the attention area is quickly improved in quality. Will be able to play.

特許文献1は、操作者が指定した重要な範囲の画像に対して、符号化の際に、重点的に画質向上を図る技術を開示する。   Japanese Patent Application Laid-Open No. 2004-228561 discloses a technique for intensively improving image quality when an image in an important range designated by an operator is encoded.

特開平7−203434号公報JP-A-7-203434

しかしながら、上記特許文献1は、指定された範囲とそれ以外の範囲の画像を、それぞれ指定された画質で符号化しているため、復号する際、その画質で制限されてしまい、種々の解像度で復号することが難しかった。また、例えば指定された範囲のみを再生するといった再生処理を実現することも困難であった。   However, since the above-mentioned Patent Document 1 encodes images in a specified range and other ranges with specified image quality, the image is limited by the image quality when decoded, and is decoded at various resolutions. It was difficult to do. Also, it has been difficult to realize a reproduction process such as reproducing only a specified range.

本発明はこうした課題に鑑みてなされたものであり、その目的は、画像の一部に注目する領域が指定される場合に、復号側でそれを生かした種々の処理を実現することができる画像復号方法を提供することにある。   The present invention has been made in view of these problems, and an object of the present invention is to realize various processes that make use of the decoding side when a region of interest is specified for a part of the image. It is to provide a decoding method.

上記課題を解決するために、本発明のある態様の画像符号化方法は、画像上に定義された注目領域を特定するための情報を、画像の符号化データを含む符号化ストリーム内に明示的に記述する。「注目領域を特定するための情報」は、フレーム間の差分情報を参照して符号化した情報であってもよい。この「差分情報」は、注目領域の位置、大きさ、および形状の少なくとも一つを、フレーム間の変化量で示したものであってもよい。また、各フレームにおける注目領域の位置、大きさ、および形状を表す値の少なくとも一つの平均値と、符号化対象のフレームのそれらの対応する値との差分であってもよい。もしくは、注目領域の位置、大きさ、および形状を表す値の少なくとも一つのフレーム間の変化量の平均値と、符号化対象のフレームにおけるフレーム間の対応する値の変化量との差分であってもよい。さらに、フレーム間の変化量の平均値と、各フレームにおける注目領域の位置、大きさ、および形状を表す値の少なくとも一つとの差分であってもよい。これらは、注目領域が大きく拡大縮小する場合などに有効である。「画像上に定義された注目領域を特定するための情報」を、時間に対する関数として符号化してもよい。注目領域が一定の規則性を持って変化する場合などに有効である。   In order to solve the above-described problem, an image encoding method according to an aspect of the present invention explicitly includes information for identifying a region of interest defined on an image in an encoded stream including encoded data of the image. Describe in. The “information for specifying the region of interest” may be information encoded with reference to difference information between frames. This “difference information” may indicate at least one of the position, size, and shape of the region of interest by the amount of change between frames. Further, it may be a difference between at least one average value of values representing the position, size, and shape of the region of interest in each frame, and their corresponding values in the encoding target frame. Alternatively, the difference between the average value of the amount of change between at least one frame of the value representing the position, size, and shape of the region of interest and the amount of change in the corresponding value between frames in the encoding target frame. Also good. Furthermore, it may be a difference between the average value of the amount of change between frames and at least one of the values representing the position, size, and shape of the region of interest in each frame. These are effective when the region of interest is greatly enlarged or reduced. “Information for identifying a region of interest defined on an image” may be encoded as a function of time. This is effective when the attention area changes with a certain regularity.

この態様によると、上述した情報を符号化ストリーム内に明示的に記述することにより、画像内に注目領域が設定される場合に、復号側に有益な情報を提供でき、注目領域に関する各種の処理を実現させることができる。   According to this aspect, by explicitly describing the above-described information in the encoded stream, when the attention area is set in the image, it is possible to provide useful information to the decoding side, and various processes relating to the attention area Can be realized.

本発明の別の態様は、画像符号化装置である。この装置は、画像上に注目領域を定義する注目領域設定部と、画像を符号化する画像符号化部と、注目領域を特定するための情報を符号化する注目領域情報符号化部と、符号化した画像と、前記情報を明示的に含めて、符号化ストリームを生成する符号化ストリーム生成部と、を備える。「注目領域設定部」は、ユーザの指定により、またはオブジェクトなどを自動認識することにより、画像上に注目領域を定義してもよい。   Another aspect of the present invention is an image encoding device. This apparatus includes an attention area setting section that defines an attention area on an image, an image encoding section that encodes an image, an attention area information encoding section that encodes information for specifying the attention area, And an encoded stream generation unit that explicitly includes the information and generates an encoded stream. The “attention area setting unit” may define an attention area on the image by user designation or by automatically recognizing an object or the like.

この態様によると、上述した情報を符号化ストリーム内に明示的に記述して符号化ストリームを生成することにより、画像内に注目領域が設定される場合に、復号側に有益な情報を提供でき、注目領域に関する各種の処理を実現させることができる。   According to this aspect, by explicitly describing the above information in the encoded stream and generating the encoded stream, it is possible to provide useful information to the decoding side when a region of interest is set in the image. Various processes related to the attention area can be realized.

上述した情報には、画像内に複数の注目領域が設定された場合、その優先度が含まれる。この態様によると、復号側で複数の注目領域の優先度を認識することができ、よりきめ細かな処理も可能となる。   The information described above includes the priority when a plurality of attention areas are set in the image. According to this aspect, the priority of a plurality of attention areas can be recognized on the decoding side, and finer processing can be performed.

画像上に複数の注目領域が定義された場合、その優先度の順に上述した情報を記述してもよい。この態様によると、少ない符号量で、複数の注目領域の優先度を復号側に認識させることができる。   When a plurality of attention areas are defined on the image, the above-described information may be described in order of priority. According to this aspect, it is possible to make the decoding side recognize the priorities of a plurality of attention areas with a small code amount.

本発明のさらに別の態様も、画像復号方法である。この方法は、動画像の符号化データを含む符号化ストリーム内に明示的に記述された、前記動画像上に定義された注目領域を特定するための情報を参照して、前記注目領域を含む領域を前記符号化ストリームから復号する。   Yet another embodiment of the present invention is also an image decoding method. This method includes the region of interest with reference to information for specifying a region of interest defined on the moving image, which is explicitly described in an encoded stream including encoded data of the moving image. A region is decoded from the encoded stream.

本発明のさらに別の態様は、画像復号方法である。この方法は、画像の符号化データを含む符号化ストリーム内に明示的に記述された、画像上に定義された注目領域を特定するための情報を参照して、注目領域を含む領域を符号化ストリームから復号する。「注目領域を含む領域」は、注目領域、注目領域とその周辺領域を含む領域、または画像全体の領域であってもよい。
この態様によると、符号化ストリーム内に明示的に記述された前記情報を参照して、注目領域に関する各種の処理を実現させることができる。
Yet another aspect of the present invention is an image decoding method. This method encodes a region including a region of interest by referring to information for specifying a region of interest defined on the image that is explicitly described in an encoded stream including encoded data of the image. Decode from the stream. The “area including the attention area” may be an attention area, an area including the attention area and its peripheral area, or an entire image area.
According to this aspect, it is possible to realize various processes related to the attention area by referring to the information explicitly described in the encoded stream.

本発明のさらに別の態様も、画像復号装置である。この装置は、動画像の符号化データを含む符号化ストリーム内に明示的に記述された、前記動画像上に定義された注目領域を特定するための情報を復号する注目領域情報復号部と、復号した情報を参照して、前記注目領域を含む領域を前記符号化ストリームから復号する画像復号部と、を備える。   Yet another embodiment of the present invention is also an image decoding device. The apparatus includes a region-of-interest information decoding unit that decodes information for specifying a region of interest defined on the moving image, which is explicitly described in an encoded stream including encoded data of the moving image. An image decoding unit that decodes a region including the region of interest from the encoded stream with reference to the decoded information.

本発明のさらに別の態様は、画像復号装置である。この装置は、画像の符号化データを含む符号化ストリーム内に明示的に記述された、画像上に定義された注目領域を特定するための情報を復号する注目領域情報復号部と、復号した情報を参照して、注目領域を含む領域を符号化ストリームから復号する画像復号部と、を備える。
この態様によると、符号化ストリーム内に明示的に記述された前記情報を参照して、注目領域に関する各種の処理を実現させることができる。
Yet another embodiment of the present invention is an image decoding device. This apparatus includes an attention area information decoding unit that decodes information for specifying an attention area defined on an image that is explicitly described in an encoded stream including encoded data of an image, and decoded information. , And an image decoding unit that decodes a region including the region of interest from the encoded stream.
According to this aspect, it is possible to realize various processes related to the attention area by referring to the information explicitly described in the encoded stream.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、記録媒体などの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and a conversion of the expression of the present invention between a method, an apparatus, a system, a computer program, a recording medium, and the like are also effective as an aspect of the present invention.

本発明によれば、画像の一部に注目する領域が指定される場合に、復号側でそれを生かした種々の処理を実現することができる。   According to the present invention, when a region to be focused on a part of an image is designated, various processes using the decoding can be realized.

実施の形態1に係る画像符号化装置の構成図である。1 is a configuration diagram of an image encoding device according to Embodiment 1. FIG. ROI領域の遷移の一例を示す図である。It is a figure which shows an example of the transition of a ROI area | region. 符号化ストリームの一例を示す図である。It is a figure which shows an example of an encoding stream. 実施の形態2に係る画像復号装置の構成図である。6 is a configuration diagram of an image decoding device according to Embodiment 2. FIG. 各分割レベルにおけるROI領域を示す図である。It is a figure which shows the ROI area | region in each division | segmentation level.

実施の形態1
図1は、実施の形態1に係る画像符号化装置100の構成図である。画像符号化装置100の構成は、ハードウエア的には、任意のコンピュータのCPU、メモリ、その他のLSIで実現でき、ソフトウエア的にはメモリのロードされた符号化機能のあるプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウエアのみ、ソフトウエアのみ、またはそれらの組合せによっていろいろな形で実現できることは、当業者には理解されるところである。
Embodiment 1
FIG. 1 is a configuration diagram of an image encoding device 100 according to Embodiment 1. The configuration of the image encoding apparatus 100 can be realized in hardware by a CPU, memory, or other LSI of an arbitrary computer, and is realized by a program having an encoding function loaded in a memory in software. However, here, functional blocks that are realized by their cooperation are depicted. Accordingly, those skilled in the art will understand that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof.

画像符号化装置100は、入力された原画像を一例としてJPEG2000方式により圧縮符号化する。画像符号化装置100に入力される原画像は、動画像のフレームである。画像符号化装置100は、動画像の各フレームをJPEG2000方式で連続的に符号化して、動画像の符号化ストリームを生成することができる。   The image encoding apparatus 100 compresses and encodes the input original image as an example using the JPEG2000 method. The original image input to the image encoding device 100 is a moving image frame. The image encoding device 100 can continuously encode each frame of a moving image by the JPEG2000 system to generate a moving image encoded stream.

ウェーブレット変換部10は、入力された原画像をサブバンド分割して、各サブバンド画像のウェーブレット変換係数を計算し、階層化されたウェーブレット変換係数を生成する。具体的には、ウェーブレット変換部10は、原画像のx、yそれぞれの方向においてローパスフィルタおよびハイパスフィルタを適用し、4つの周波数サブバンドへ分割してウェーブレット変換する。これらのサブバンドは、x、yの両方向において低周波成分を有するLLサブバンドと、x、yのいずれかひとつの方向において低周波成分を有し、かつもう一方の方向において高周波成分を有するHLおよびLHサブバンドと、x、yの両方向において高周波成分を有するHHサブバンドである。各サブバンドの縦横の画素数は処理前の画像のそれぞれ1/2であり、一回のフィルタリングで解像度、すなわち画像サイズが1/4のサブバンド画像が得られる。   The wavelet transform unit 10 divides the input original image into subbands, calculates wavelet transform coefficients of each subband image, and generates layered wavelet transform coefficients. Specifically, the wavelet transform unit 10 applies a low-pass filter and a high-pass filter in the x and y directions of the original image, divides it into four frequency subbands, and performs wavelet transform. These subbands are LL subbands having low frequency components in both x and y directions, and HL subbands having low frequency components in either one of x and y directions and high frequency components in the other direction. And an HH subband having a high frequency component in both the x and y directions. The number of vertical and horizontal pixels in each subband is ½ that of the image before processing, and a subband image having a resolution, that is, a quarter of the image size, can be obtained by one filtering.

ウェーブレット変換部10は、こうして得られたサブバンドのうち、LLサブバンドに対して再度フィルタリング処理を行って、これをさらにLL、HL、LH、HHの4つのサブバンドに分割してウェーブレット変換する。ウェーブレット変換部10は、このフィルタリングを所定の回数行って、原画像をサブバンド画像に階層化し、各サブバンドのウェーブレット変換係数を出力する。量子化部12は、ウェーブレット変換部10から出力されたウェーブレット変換係数を所定の量子化幅で量子化する。   Of the subbands thus obtained, the wavelet transform unit 10 performs the filtering process again on the LL subband, further divides it into four subbands LL, HL, LH, and HH, and performs wavelet transform. . The wavelet transform unit 10 performs this filtering a predetermined number of times, hierarchizes the original image into subband images, and outputs wavelet transform coefficients for each subband. The quantization unit 12 quantizes the wavelet transform coefficient output from the wavelet transform unit 10 with a predetermined quantization width.

エントロピー符号化部14は、量子化部12により量子化された量子化値をエントロピー符号化する。例えば、上位ビットブレーンから順にスキャンしながら符号化する。このように、エントロピー符号化部14の符号化対象は原画像であり、画像符号化部として機能する。   The entropy encoding unit 14 entropy encodes the quantization value quantized by the quantization unit 12. For example, encoding is performed while scanning sequentially from the upper bit brain. Thus, the encoding target of the entropy encoding unit 14 is an original image and functions as an image encoding unit.

ROI設定部20は、原画像の一部の領域にROI領域を設定する。ROI領域の形状は、矩形、丸、その他の複雑な形であってもよい。その形状は、固定でも動的に変化するものであってもよい。例えば、画像の中心部分と周辺部分とでROI領域の形状を変化させてもよい。また、ROI領域は、一枚の画像に複数設定されてもよい。   The ROI setting unit 20 sets an ROI area in a partial area of the original image. The shape of the ROI region may be a rectangle, a circle, or other complex shapes. Its shape may be fixed or dynamically changing. For example, the shape of the ROI region may be changed between the central portion and the peripheral portion of the image. A plurality of ROI areas may be set for one image.

このようなROI領域をユーザが手動で設定してもよいし、システムが動きのある領域などを自動認識して、設定してもよい。具体的には、ユーザまたはシステムは、ROI領域の位置、大きさ、形状、複数設定される場合の優先順位などを、初期値としてROI設定部20に設定する。なお、ユーザがオブジェクトを指定した場合、もしくはシステムが自動認識した場合、ROI設定部20がそのオブジェクトを含む所定の範囲をROI領域に自動設定してもよい。ユーザまたはシステムは、動画像の場合、フレーム毎にROI領域を設定してもよいし、始めにROI領域を指定し、以後、そのROI領域内のオブジェクトの動きにROI領域を追従させてもよい。これは、オブジェクトの動きベクトルを検出することにより実現することができる。   Such an ROI region may be set manually by the user, or the region in which the system is moving may be automatically recognized and set. Specifically, the user or the system sets the position, size, shape, priority order when a plurality of ROI areas are set, and the like in the ROI setting unit 20 as initial values. When the user designates an object or when the system automatically recognizes, the ROI setting unit 20 may automatically set a predetermined range including the object in the ROI area. In the case of a moving image, the user or the system may set the ROI area for each frame, specify the ROI area first, and thereafter cause the ROI area to follow the movement of the object in the ROI area. . This can be realized by detecting the motion vector of the object.

ROI設定部20は、ROI領域の開始位置、大きさなど、ROI領域を特定するための情報(以下、ROI情報という。)をROI予測処理部22に出力する。上述した追従処理を行う場合、オブジェクトの動きベクトルを基に設定したROI領域の動きベクトルを出力してもよい。   The ROI setting unit 20 outputs information for specifying the ROI region (hereinafter referred to as ROI information) such as the start position and size of the ROI region to the ROI prediction processing unit 22. When the tracking process described above is performed, a motion vector of the ROI area set based on the motion vector of the object may be output.

ROI予測処理部22は、ROI情報に対して、フレーム間予測処理を行う。ROI予測処理部22は、ROI情報を記憶するためのメモリを備え、例えば、そこに基準となるフレームのROI情報を記憶し、現フレームとの差分情報を算出する。   The ROI prediction processing unit 22 performs inter-frame prediction processing on the ROI information. The ROI prediction processing unit 22 includes a memory for storing ROI information. For example, the ROI prediction processing unit 22 stores ROI information of a reference frame therein and calculates difference information from the current frame.

図2は、ROI領域の遷移の一例を示す図である。図2(a)は、画像内にROI領域Rが設定された状態を示す。このROI領域Rは、長方形であるため、左上の頂点座標と、水平方向の大きさ、および垂直方向の大きさで表現することができる。ここでは、これを、座標(A,B)、大きさ(X,Y)と表記する。まず、ROI予測処理部22は、これらの情報をROI情報として、ROI情報符号化部24に出力するとともに、上記メモリに記憶する。このフレームが、次のフレームに対する基準となる。   FIG. 2 is a diagram illustrating an example of transition of the ROI region. FIG. 2A shows a state in which the ROI region R is set in the image. Since this ROI region R is rectangular, it can be expressed by the top left vertex coordinates, the horizontal size, and the vertical size. Here, this is expressed as coordinates (A, B) and size (X, Y). First, the ROI prediction processing unit 22 outputs these pieces of information as ROI information to the ROI information encoding unit 24 and stores them in the memory. This frame is a reference for the next frame.

図2(b)は、図2(a)に示したフレームの次のフレームを示し、ROI領域Rが移動した状態を示す。ここで、画像内において、ROI領域Rが右にM1画素分移動した。このROI領域RのROI情報を上記と同様の手法により表現すると、座標(A+M1,B)、大きさ(X,Y)と表記することになる。この点、ROI予測処理部22は、上記メモリに記憶された前フレームのROI情報を利用して、その差分で現フレームのROI情報を表現することができる。例えば、現フレーム内で生成したROI情報から前フレームのROI情報を引くと、座標Δ(M1,0)、大きさΔ(0,0)と表現することができる。ROI予測処理部22は、このROI情報をROI情報符号化部24に再び出力するとともに、上記メモリに記憶する。   FIG. 2B shows a frame next to the frame shown in FIG. 2A, and shows a state where the ROI region R has moved. Here, in the image, the ROI region R has moved to the right by M1 pixels. When the ROI information of this ROI region R is expressed by the same method as described above, it is expressed as coordinates (A + M1, B) and size (X, Y). In this regard, the ROI prediction processing unit 22 can express the ROI information of the current frame with the difference using the ROI information of the previous frame stored in the memory. For example, when the ROI information of the previous frame is subtracted from the ROI information generated in the current frame, it can be expressed as coordinates Δ (M1, 0) and size Δ (0, 0). The ROI prediction processing unit 22 outputs the ROI information to the ROI information encoding unit 24 again and stores it in the memory.

図2(c)は、図2(b)に示したフレームの次のフレームを示し、ROI領域Rが移動し、ROI領域R自体の形状が変化した状態を示す。ここで、画像内において、ROI領域Rが下にN2画素分移動し、ROI領域Rが水平方向にM2画素分大きくなった。ROI予測処理部22は、上記メモリに記憶された前フレームのROI情報を利用して、上記と同様の手法で現フレームのROI情報を表現すると、座標Δ(0,−N2)、大きさΔ(M2,0)と表現することができる。ROI予測処理部22は、このROI情報をROI情報符号化部24に再び出力するとともに、上記メモリに記憶する。   FIG. 2C shows a frame next to the frame shown in FIG. 2B, and shows a state where the ROI region R has moved and the shape of the ROI region R itself has changed. Here, in the image, the ROI region R has moved down by N2 pixels, and the ROI region R has increased by M2 pixels in the horizontal direction. When the ROI information of the current frame is expressed by the same method as described above using the ROI information of the previous frame stored in the memory, the ROI prediction processing unit 22 has coordinates Δ (0, −N2) and size Δ It can be expressed as (M2,0). The ROI prediction processing unit 22 outputs the ROI information to the ROI information encoding unit 24 again and stores it in the memory.

このように、フレーム間予測処理を利用すると、0およびその近傍の値の出現頻度が高くなり、ROI情報に統計的偏りを持たせることができる。このようなROI情報を、後述するROI情報符号化部24でエントロピー符号化を行えば、その符号量を削減することができる。エントロピー符号化は、出現頻度の偏りが大きいほど、符号量を削減することができる。   In this way, when the inter-frame prediction process is used, the appearance frequency of 0 and its neighboring values is increased, and the ROI information can be statistically biased. If such ROI information is entropy encoded by the ROI information encoding unit 24 described later, the code amount can be reduced. Entropy encoding can reduce the amount of codes as the appearance frequency bias increases.

なお、フレーム間予測処理は、上述した単純に前のフレームとの差分をとる処理に限らず、例えば、動き補償予測処理を利用してもよい。動き補償予測処理は、ROI領域Rが動いた方向や距離を示す動きベクトルを求め、この動きベクトルで表される位置情報と現フレームとの差分をROI情報とすることができる。とくに、ROI領域Rの動きが大きい動画像に対して、0およびその近傍の値の出現頻度を高めることができる。このように、フレーム間予測の対象となるフレームは、1つ前のフレームに限らず、1つ後の将来のフレームでもよい。さらに、前後1フレームに限らず、前後数フレームを利用して、その平均値を利用する処理なども実現可能である。   Note that the inter-frame prediction process is not limited to the above-described process of simply taking a difference from the previous frame, and for example, a motion compensation prediction process may be used. In the motion compensation prediction process, a motion vector indicating the direction and distance in which the ROI region R has moved is obtained, and the difference between the position information represented by this motion vector and the current frame can be used as ROI information. In particular, it is possible to increase the appearance frequency of 0 and its neighboring values for a moving image with a large movement in the ROI region R. As described above, the frame to be subjected to the inter-frame prediction is not limited to the previous frame, but may be the next future frame. Furthermore, not only one frame before and after, but also processing using the average value using several frames before and after can be realized.

勿論、フレーム間予測処理を使用せずに、各フレーム内においてROI情報を生成することも可能である。その場合、メモリ容量や計算量を低減することができる。したがって、ユーザは、動画像の特性にしたがって、フレーム間予測処理を利用するか否かを選択できてもよい。とくに動きの速い動画像では、フレーム間予測処理を利用しても、演算量増加のわりに符号量があまり削減できない場合も生じる。そのような場合、単純にフレームごとにROI情報を生成してもよい。   Of course, it is also possible to generate ROI information within each frame without using inter-frame prediction processing. In that case, memory capacity and calculation amount can be reduced. Therefore, the user may be able to select whether to use inter-frame prediction processing according to the characteristics of the moving image. In particular, in the case of a fast moving image, even if the inter-frame prediction process is used, the code amount may not be reduced much in spite of the increase in the calculation amount. In such a case, ROI information may be simply generated for each frame.

ROI情報符号化部24は、ROI予測処理部22から入力されたROI情報を符号化する。例えば、エントロピー符号化を行う。そして、符号化したROI情報を符号化ストリーム生成部16に出力する。   The ROI information encoding unit 24 encodes the ROI information input from the ROI prediction processing unit 22. For example, entropy encoding is performed. Then, the encoded ROI information is output to the encoded stream generation unit 16.

符号化ストリーム生成部16は、エントロピー符号化部14から入力される画像の符号化データ、ROI情報符号化部24から入力されるROI情報の符号化データなどを基に、符号化ストリームを生成する。そして、生成した符号化ストリームを記録媒体やネットワークに出力する。ここで、記録媒体として、SDRAMやフラッシュハードディスクドライブなどを用いることができる。   The encoded stream generation unit 16 generates an encoded stream based on the encoded data of the image input from the entropy encoding unit 14, the encoded data of the ROI information input from the ROI information encoding unit 24, and the like. . Then, the generated encoded stream is output to a recording medium or a network. Here, SDRAM, a flash hard disk drive, etc. can be used as a recording medium.

ROI情報の符号化データは、ヘッダに記述される。ヘッダにも種々のレベルが存在するが、いづれのレベルに記述してもよい。例えば、ストリームヘッダ、シーケンスヘッダ、GOP(Group of Picture)ヘッダ、フレームヘッダ、ピクチャヘッダ、領域単位で付されるヘッダなどにROI情報を記述することができる。   The encoded data of ROI information is described in the header. There are various levels in the header, but they can be described at any level. For example, ROI information can be described in a stream header, a sequence header, a GOP (Group of Picture) header, a frame header, a picture header, a header attached in units of areas, and the like.

上記領域単位で付されるヘッダとは、以下のようなヘッダを指す。例えば1枚のフレームやピクチャに複数のROI領域が設定される場合に、ROI領域1の画像データ→ROI領域2の画像データ→・・・→周辺領域の画像データの順にフレームやピクチャを並べたとする。上記ヘッダとは、このようなときのROI領域1の画像データやROI領域2の画像データごとに付されるヘッダである。   The header attached in units of the areas refers to the following headers. For example, when a plurality of ROI areas are set in one frame or picture, the frames and pictures are arranged in the order of image data of ROI area 1 → image data of ROI area 2 →. To do. The header is a header attached to each image data of the ROI area 1 and image data of the ROI area 2 at such time.

図3は、符号化ストリームの一例を示す図である。ここでは、符号化ストリームをMPEG(Moving Picture Experts Group)で使用されるシーケンスという用語で示している。MPEGでは、1つのビデオプログラム全体の符号化信号をシーケンスと呼ぶ。シーケンスは、図3に示すようにシーケンスヘッダで始まり、シーケンスエンドで終わり、その間に複数のGOPを記述する。GOPは、GOPヘッダと複数のピクチャを記述する。図3の例では、このGOPヘッダに複数のROI情報を記述している。GOPヘッダには、符号化条件など復号に必要な各種パラメータが記述される。本実施の形態では、そこにROI情報も記述している。   FIG. 3 is a diagram illustrating an example of an encoded stream. Here, the encoded stream is indicated by the term sequence used in MPEG (Moving Picture Experts Group). In MPEG, an encoded signal of one entire video program is called a sequence. As shown in FIG. 3, the sequence starts with a sequence header, ends with a sequence end, and describes a plurality of GOPs therebetween. GOP describes a GOP header and a plurality of pictures. In the example of FIG. 3, a plurality of ROI information is described in this GOP header. Various parameters necessary for decoding such as encoding conditions are described in the GOP header. In the present embodiment, ROI information is also described there.

上述したROI情報は、頂点座標と大きさを示す情報であった。この点、ROI情報は、そのような情報に限らず、種々の情報を含むことができ、このような情報によりROI情報を特定することができる。以下、その例を挙げる。   The ROI information described above is information indicating vertex coordinates and size. In this regard, the ROI information is not limited to such information, but can include various types of information, and the ROI information can be specified by such information. Examples are given below.

まず、基本となる座標が必要である。上述したように頂点の座標や、中心点座標、重心座標などが該当する。これらの内から、ROI領域の形状に適した座標を用いることができる。例えば、ROI領域が円である場合、中心点座標が最適な座標となる。次に、各フレーム内の情報でROI領域を特定する場合、大きさが必要である。例えば、水平方向の大きさ、垂直方向の大きさが必要である。次に、フレーム間予測処理を使用する場合、前のフレームとの差分データ、動きベクトルを用いた、後のフレームとの差分データ、アフィン変換係数などの各種関数の係数などを用いることができる。   First, the basic coordinates are required. As described above, vertex coordinates, center point coordinates, barycentric coordinates, and the like are applicable. From these, coordinates suitable for the shape of the ROI region can be used. For example, when the ROI region is a circle, the center point coordinates are optimum coordinates. Next, when the ROI area is specified by the information in each frame, the size is necessary. For example, a horizontal size and a vertical size are required. Next, when using inter-frame prediction processing, difference data from the previous frame, difference data from the subsequent frame using motion vectors, coefficients of various functions such as affine transformation coefficients, and the like can be used.

次に、1枚の画像にROI領域が複数設定される場合、その優先度をROI情報に含めてもよい。例えば、その優先順位だけでなく、そのROI領域の表示が必須か否かといった情報を含めてもよい。また、この優先順位をROI情報の並び順で表現してもよい。すなわち、優先順位の高いROI領域の情報ほど、前に記述するといった手法が可能である。また、各ROI領域の情報量を含めてもよい。例えばそのROI領域の符号量や圧縮率、演算量などである。また、ROI領域ごとに画質や、それ以外の領域との画質比を含めてもよい。   Next, when a plurality of ROI areas are set for one image, the priority may be included in the ROI information. For example, not only the priority order but also information such as whether the display of the ROI area is essential may be included. Further, this priority order may be expressed in the order of ROI information. That is, it is possible to use a method in which the information of the ROI region with higher priority is described earlier. Moreover, you may include the information content of each ROI area | region. For example, the code amount, compression rate, calculation amount, etc. of the ROI area. Further, the image quality for each ROI region and the image quality ratio with other regions may be included.

さらに、そのROI領域が独立して復号可能か否かを示す情報を含めてもよい。例えば、JPEG2000方式では、ビットプレーン内の各係数ビットとして、Sパス(significance propagation pass)、Rパス(magnitude refinement pass)、Cパス(cleanup pass)の3種類の処理パスが使用される。Sパスでは、有意である係数が周囲に存在する有意でない係数の復号が行われ、Rパスでは、有意である係数の復号が行われ、Cパスでは、残りの係数の復号が行われる。Sパス、Rパス、Cパスの各処理パスはこの順に画像の画質への寄与度が大きい。各処理パスはこの順に実行され、各係数のコンテクストが近傍係数の情報を考慮して決定される。したがって、パス毎に独立して符号化されている場合には、可変長の復号を途中で打ち切ることも可能になる。このような情報は、復号側にとって有益な情報である。その他、復号の際に有益な情報として利用できる情報であれば、上記例に挙げた以外の情報をROI情報に含めてもよい。なお、ROI情報をヘッダに記述する例を説明したが、ユーザが自由に使用可能なユーザ領域に記述してもよい。   Furthermore, information indicating whether or not the ROI area can be independently decoded may be included. For example, in the JPEG2000 system, three types of processing paths, an S pass (significance propagation pass), an R pass (magnitude refinement pass), and a C pass (cleanup pass), are used as each coefficient bit in the bit plane. In the S pass, a non-significant coefficient around which a significant coefficient exists is decoded, in the R pass, a significant coefficient is decoded, and in the C pass, the remaining coefficients are decoded. Each processing pass of the S pass, R pass, and C pass has a large contribution to the image quality in this order. Each processing pass is executed in this order, and the context of each coefficient is determined in consideration of information on neighboring coefficients. Therefore, when encoding is performed independently for each pass, variable length decoding can be interrupted. Such information is useful information for the decoding side. In addition, as long as the information can be used as useful information at the time of decoding, information other than the above-described examples may be included in the ROI information. In addition, although the example which describes ROI information in a header was demonstrated, you may describe in the user area | region which a user can use freely.

以上説明したように実施の形態1によれば、ROI領域の復号に必要な、または有益な情報をROI情報として符号化ストリームに明示的に含めたことにより、復号側でその情報を生かした種々の処理を実現することができる。例えば、早送り再生などをする場合、ROI領域、またはその周辺数画素を含む領域を取り出して、それを容易に再生表示させることができる。   As described above, according to the first embodiment, information necessary or useful for decoding the ROI region is explicitly included in the encoded stream as ROI information, so that various information can be utilized on the decoding side. Can be realized. For example, when fast-forward playback is performed, an ROI area or an area including several pixels around the ROI area can be taken out and easily reproduced and displayed.

また、ROI情報をフレーム間予測処理を利用して符号化することにより、ROI情報の符号量を削減させることができる。例えば、JPEG2000では、画像を静止画として扱い、符号化を行っているため、ROI領域の符号化の際にはROI情報を画像1枚ごとに与えなければならない。このため、動きのない画像に対してROI符号化を行うような場合、連続する各画像データに対して全く同じROI情報を付加することになり、全体としては無駄な符号を生成してしまうことになる。このような場合に、フレーム間予測処理を利用する態様は、とくに効果を発揮する。さらに、符号量を削減させることにより、処理を高速化することができ、消費電力を削減することもできる。   Also, by encoding ROI information using inter-frame prediction processing, the amount of code of ROI information can be reduced. For example, in JPEG2000, since an image is handled as a still image and encoded, ROI information must be provided for each image when encoding the ROI area. For this reason, when ROI encoding is performed on an image having no motion, the same ROI information is added to each successive image data, and a wasteful code is generated as a whole. become. In such a case, the aspect using the inter-frame prediction process is particularly effective. Furthermore, by reducing the amount of codes, the processing can be speeded up and the power consumption can be reduced.

実施の形態2
図4は、実施の形態2に係る画像復号装置200の構成図である。実施の形態2では、画像復号装置200は、実施の形態1で符号化された符号化ストリームを復号する。符号化ストリームとして入力される動画像の各符号化フレームを連続的に復号することにより動画を再生することができる。
Embodiment 2
FIG. 4 is a configuration diagram of the image decoding apparatus 200 according to Embodiment 2. In the second embodiment, the image decoding apparatus 200 decodes the encoded stream encoded in the first embodiment. A moving image can be reproduced by continuously decoding each encoded frame of a moving image input as an encoded stream.

ROI情報復号部40は、符号化ストリーム内に記述されたROI情報を復号し、ROI予測処理部42に出力する。ROI情報は、符号化ストリーム内のいずれかのレベルのヘッダに記述されている。   The ROI information decoding unit 40 decodes the ROI information described in the encoded stream and outputs it to the ROI prediction processing unit 42. The ROI information is described in a header at any level in the encoded stream.

ROI予測処理部42は、復号したROI情報に対して、フレーム間予測処理を行う。ROI予測処理部42は、ROI情報を記憶するためのメモリを備え、例えば、そこに基準となるフレームのROI情報を記憶する。差分情報で与えられている現フレームのROI情報と、メモリに記憶されているROI情報とを加算することにより、現フレームのROI情報を原始的なデータ形式に復元する。   The ROI prediction processing unit 42 performs inter-frame prediction processing on the decoded ROI information. The ROI prediction processing unit 42 includes a memory for storing ROI information. For example, the ROI prediction processing unit 42 stores ROI information of a reference frame. By adding the ROI information of the current frame given by the difference information and the ROI information stored in the memory, the ROI information of the current frame is restored to the original data format.

例えば、基準となるフレームのROI領域が長方形である場合、そのROI領域を左上の頂点座標(A,B)と、水平方向の大きさおよび垂直方向の大きさ(X,Y)で表現することができる。まず、ROI予測処理部42は、これらの情報をROI情報として、ROI領域制御部44に出力するとともに、上記メモリに記憶する。このフレームが、次のフレームに対する基準となる。   For example, when the ROI area of the reference frame is a rectangle, the ROI area is expressed by the upper left vertex coordinates (A, B), the horizontal size, and the vertical size (X, Y). Can do. First, the ROI prediction processing unit 42 outputs these pieces of information as ROI information to the ROI region control unit 44 and stores them in the memory. This frame is a reference for the next frame.

実施の形態1の手法を用いてROI情報が符号化されている場合、次のフレームで当該ROI領域が右にM1画素分移動したとすると、その差分情報として座標Δ(M1,0)、大きさΔ(0,0)とROI情報が与えられる。ROI予測処理部42は、上記メモリに記憶された前フレームのROI情報にこの差分情報を加算することにより、現フレームの絶対的な座標(A+M1,B)、大きさ(X,Y)を求めることができる。   When ROI information is encoded using the method of the first embodiment, assuming that the ROI area has moved to the right by M1 pixels in the next frame, the difference information is coordinate Δ (M1, 0), large ΔI (0, 0) and ROI information are given. The ROI prediction processing unit 42 calculates the absolute coordinates (A + M1, B) and size (X, Y) of the current frame by adding this difference information to the ROI information of the previous frame stored in the memory. be able to.

ROI予測処理部42は、このようにして、画像を復号する前に次画面のROI情報を復号し取得する。これにより、ROI領域に関する種々の処理が可能になる。なお、他のフレーム間予測符号化が用いられている場合、それに対応した復元方法を用いる。   In this way, the ROI prediction processing unit 42 decodes and acquires the ROI information of the next screen before decoding the image. As a result, various processes relating to the ROI region can be performed. When other inter-frame prediction encoding is used, a restoration method corresponding to that is used.

ROI領域制御部44は、ユーザまたはシステムの要求によりROI領域に関する各種の処理を設定する。例えば、ROI領域の画像のみ、またはその周辺画素を含む領域を再生する処理も可能である。この周辺画素を決定する手法は後述する。また、あるシーンをオブジェクト認識を用いてサーチする場合、ROI領域内のオブジェクトのみを対象にした検索処理も可能である。いずれも、高速処理が可能である。これらの処理を行う際、ROI情報に含まれる優先順位情報を参照して、処理を行うことができる。例えば、表示が必須でない、または優先順位の低いROI領域を表示させなかったり、検索対象から外すこともできる。   The ROI area control unit 44 sets various processes related to the ROI area according to a user or system request. For example, it is possible to perform processing for reproducing only an image in the ROI area or an area including its peripheral pixels. A method for determining this peripheral pixel will be described later. In addition, when searching for a scene using object recognition, a search process for only objects in the ROI area is also possible. In either case, high-speed processing is possible. When performing these processes, the processes can be performed with reference to the priority information included in the ROI information. For example, an ROI area that is not required to be displayed or has a low priority may not be displayed, or may be excluded from the search target.

その他、ROI領域制御部44は、ROI情報による指定、ユーザまたはシステムの要求により、ROI領域の画質やその他の領域との画質比を設定することができる。   In addition, the ROI area control unit 44 can set the image quality of the ROI area and the image quality ratio with other areas according to the designation by the ROI information and the request of the user or the system.

符号化データ抽出部30は、入力された符号化ストリームから符号化データを抽出する。その際、ROI領域制御部44から指定された領域の符号化データのみを抽出する場合もある。エントロピー復号部32は、抽出された符号化データをビットプレーン毎に復号し、復号の結果得られる量子化されたウェーブレット変換係数を取得する。逆量子化部34は、ウェーブレット変換係数を逆量子化する。ウェーブレット逆変換部36は、逆量子化されたウェーブレット変換係数を逆変換し、得られた復号画像を出力する。   The encoded data extraction unit 30 extracts encoded data from the input encoded stream. At that time, there are cases where only the encoded data of the area designated by the ROI area control unit 44 is extracted. The entropy decoding unit 32 decodes the extracted encoded data for each bit plane, and obtains a quantized wavelet transform coefficient obtained as a result of the decoding. The inverse quantization unit 34 inversely quantizes the wavelet transform coefficient. The wavelet inverse transform unit 36 inversely transforms the inversely quantized wavelet transform coefficients and outputs the obtained decoded image.

次に、ROI領域制御部44にてROI領域とその周辺領域を含む領域の座標と大きさを決定するための手法を説明する。図5は、ウェーブレット変換係数の各分割レベルにおけるROI領域を示す図である。図5(a)は分割レベル0の原画像80上にROI領域90が設定された状態を示す。図5(b)は、原画像80を1回だけウェーブレット変換することにより得られる分割レベル1の変換画像82を示す。分割レベル1の変換画像82は、4つのサブバンドLL1、HL1、LH1、HH1から構成される。ROI領域制御部44は、原画像80のROI領域90を復元するために必要な分割レベル1の変換画像82上のROI領域91〜94を、分割レベル1の各サブバンドLL1、HL1、LH1、HH1において特定する。   Next, a method for determining the coordinates and size of the region including the ROI region and its peripheral region by the ROI region control unit 44 will be described. FIG. 5 is a diagram showing ROI regions at each division level of wavelet transform coefficients. FIG. 5A shows a state in which the ROI area 90 is set on the original image 80 at the division level 0. FIG. FIG. 5B shows a converted image 82 at the division level 1 obtained by performing the wavelet transform on the original image 80 only once. The division level 1 converted image 82 includes four subbands LL1, HL1, LH1, and HH1. The ROI region control unit 44 converts the ROI regions 91 to 94 on the conversion image 82 at the division level 1 necessary for restoring the ROI region 90 of the original image 80 into the sub-bands LL1, HL1, LH1, Specified in HH1.

図5(c)は、図5(b)の変換画像82の最低周波数成分のサブバンドLL1をさらにウェーブレット変換することにより得られる分割レベル2の変換画像84を示す。分割レベル2の変換画像84は、同図のように、分割レベル1の3つのサブバンドHL1、LH1、HH1の他、分割レベル2の4つのサブバンドLL2、HL2、LH2、HH2を含む。ROI領域制御部44は、分割レベル1の変換画像82のサブバンドLL1におけるROI領域91を復元するために必要な分割レベル2の変換画像84上のROI領域95〜98を各サブバンドLL2、HL2、LH2、HH2において特定する。   FIG. 5C shows a conversion image 84 at the division level 2 obtained by further wavelet transforming the subband LL1 of the lowest frequency component of the conversion image 82 of FIG. 5B. As shown in the figure, the division level 2 converted image 84 includes four subbands LL2, HL2, LH2, and HH2 at division level 2 in addition to the three subbands HL1, LH1, and HH1 at division level 1. The ROI region control unit 44 converts the ROI regions 95 to 98 on the divided level 2 transformed image 84 necessary for restoring the ROI region 91 in the subband LL1 of the divided level 1 transformed image 82 into the subbands LL2 and HL2. , LH2, and HH2.

同様にして、ウェーブレット変換の回数だけ原画像80のROI領域90に対応するROI領域を各分割レベルにおいて再帰的に特定していくことにより、最終分割レベルの変換画像において、ROI領域90を復元するために必要なROI変換領域をすべて特定することができる。   Similarly, the ROI area 90 corresponding to the ROI area 90 of the original image 80 is recursively specified at each division level by the number of wavelet transforms, thereby restoring the ROI area 90 in the final division level converted image. Therefore, it is possible to specify all the ROI conversion areas necessary for the purpose.

ROI領域制御部44は、原画像80上で設定されたROI領域の周辺領域にノイズを発生させることなく原画像80まで復号するよう、各分割レベルにおける各サブバンド内で、復号すべきウェーブレット変換係数の対象領域の開始位置と大きさを決定する。それを符号化データ抽出部30に設定する。   The ROI region control unit 44 performs wavelet transform to be decoded in each subband at each division level so as to decode up to the original image 80 without generating noise in the peripheral region of the ROI region set on the original image 80. The starting position and size of the target area of the coefficient are determined. It is set in the encoded data extraction unit 30.

原画像80におけるROI領域の開始するxまたはy座標をP、ROI領域のxまたはy方向の大きさをQとしたとき、各分割レベルでの復号対象領域の開始座標および大きさは以下の通りになる。   When the x or y coordinate where the ROI region starts in the original image 80 is P and the size of the ROI region in the x or y direction is Q, the start coordinate and size of the decoding target region at each division level are as follows. become.

分割レベル1・・・開始座標P/2−α、大きさQ/2+β
分割レベル2・・・開始座標(P/2−α)/2−α、大きさ(Q/2+β)/2+β
分割レベル3・・・開始座標{(P/2−α)/2−α}/2−α、
大きさ{(Q/2+β)/2+β}/2+β
分割レベルJ・・・開始座標[・・・]/2−α、大きさ[・・・]/2+β
Division level 1 ... start coordinate P / 2-α, size Q / 2 + β
Division level 2 ... start coordinate (P / 2-α) / 2-α, size (Q / 2 + β) / 2 + β
Division level 3 ... start coordinates {(P / 2-α) / 2-α} / 2-α,
Size {(Q / 2 + β) / 2 + β} / 2 + β
Division level J: start coordinate [...] / 2-α, size [...] / 2 + β

上記の計算をxおよびyについて行うことにより、各分割レベルでの復号対象領域の開始座標および大きさを求めることができる。開始座標では、最後のαを引く直前の値に小数点以下が発生した場合、それを切り捨てる。一方、大きさでは、最後のβを足す直前の値に小数点以下が発生した場合、それを切り上げる。α、βの値は、設計者が任意に設定可能であるが、例えば、α=1、β=2やα=2、β=4といった設定が可能である。周辺領域をROI領域の上下左右で対称に設ける場合、βはαの2倍の値となる。この値は、使用するフィルタに依存する。フィルタリング回数が多いほど、周辺領域の画素を多くとるとよい。   By performing the above calculation for x and y, the starting coordinates and size of the decoding target area at each division level can be obtained. At the start coordinate, if a decimal point occurs in the value immediately before subtracting the last α, it is rounded down. On the other hand, in terms of magnitude, if a fractional part occurs in the value immediately before adding the last β, it is rounded up. The values of α and β can be arbitrarily set by the designer. For example, α = 1, β = 2, α = 2, β = 4 can be set. When the peripheral area is provided symmetrically on the top, bottom, left, and right of the ROI area, β is twice the value of α. This value depends on the filter used. As the number of times of filtering increases, it is better to take more pixels in the peripheral area.

以上説明したように実施の形態2によれば、符号化ストリームに明示的に記述されたROI情報を復号して、その情報を生かして種々の処理を実現することができる。例えば、ROI領域、またはその周辺画素を含む領域を抽出して、それを容易に再生表示させることができる。また、ROI領域、およびそれ以外の領域をそれぞれ所望の画質で再生することもできる。   As described above, according to the second embodiment, it is possible to decode ROI information explicitly described in an encoded stream and implement various processes by utilizing the information. For example, it is possible to extract an ROI area or an area including peripheral pixels and easily reproduce and display it. Also, the ROI area and other areas can be reproduced with desired image quality.

以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。そのような変形例を以下に示す。   The present invention has been described based on the embodiments. The embodiments are exemplifications, and it will be understood by those skilled in the art that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are within the scope of the present invention. . Such a modification is shown below.

上記の実施の形態で、ROI領域は、オブジェクトだけの領域でもよい。この場合、システムは、ROI情報として、オブジェクトを特定するための情報をヘッダなどに記述することができる。実施の形態と同様に、このオブジェクトの形状変化に関する情報などをフレーム間予測処理を利用して記述することにより、当該情報の符号量を削減することができる。   In the above embodiment, the ROI area may be an object-only area. In this case, the system can describe information for specifying the object in the header or the like as the ROI information. Similar to the embodiment, by describing the information on the shape change of the object using the inter-frame prediction processing, the code amount of the information can be reduced.

上記の実施の形態では、JPEG2000方式で連続的に符号化した動画像の符号化ストリームを復号しているが、JPEG2000方式に限らず、要は、動画像の符号化ストリームを復号する方式であればよい。   In the above-described embodiment, the encoded stream of the moving image continuously encoded by the JPEG2000 method is decoded. That's fine.

上記の実施の形態において、画像の符号化のための空間フィルタリングとしてウェーブレット変換を説明したが、他の空間周波数変換を用いてもよい。例えば、JPEG標準で用いられる離散コサイン変換を用いてもよい。   In the above embodiment, the wavelet transform has been described as spatial filtering for image coding, but other spatial frequency transforms may be used. For example, discrete cosine transform used in the JPEG standard may be used.

10 ウェーブレット変換部、 12 量子化部、 14 エントロピー符号化部、 16 符号化ストリーム生成部、 20 ROI設定部、 22 ROI予測処理部、 24 ROI情報符号化部、 30 符号化データ抽出部、 32 エントロピー復号部、 34 逆量子化部、 36 ウェーブレット逆変換部、 40 ROI情報復号部、 42 ROI予測処理部、 44 ROI領域制御部、 100 画像符号化装置、 200 画像復号装置。   10 wavelet transform unit, 12 quantization unit, 14 entropy encoding unit, 16 encoded stream generation unit, 20 ROI setting unit, 22 ROI prediction processing unit, 24 ROI information encoding unit, 30 encoded data extraction unit, 32 entropy Decoding unit, 34 Inverse quantization unit, 36 Wavelet inverse transform unit, 40 ROI information decoding unit, 42 ROI prediction processing unit, 44 ROI region control unit, 100 image encoding device, 200 image decoding device

Claims (7)

画像の符号化データを含む符号化ストリーム内に明示的に記述された、前記画像上に定義された複数の注目領域を特定するための注目領域情報を復号する注目領域情報復号ステップと、
復号した注目領域情報を参照して、前記注目領域を含む領域を前記符号化ストリームから復号する画像復号ステップとを含み
前記注目領域情報復号ステップは、前記注目領域情報に含まれる複数の注目領域間の優先順位を示す情報と各注目領域の表示が必須か否かを示す情報を取得し、
前記画像復号ステップは、各注目領域の表示が必須か否かを示す情報を参照して、表示が必須でない注目領域は表示対象から外し、残りの注目領域を含む領域を復号し、
前記注目領域は、ユーザにより設定された領域であることを特徴とする画像復号方法。
Region-of- interest information decoding step for decoding region- of- interest information for specifying a plurality of regions of interest defined on the image, which are explicitly described in an encoded stream including encoded data of the image;
An image decoding step of referring to the decoded attention area information and decoding the area including the attention area from the encoded stream,
The region-of-interest information decoding step obtains information indicating a priority order among a plurality of regions of interest included in the region-of-interest information and information indicating whether display of each region of interest is essential,
The image decoding step refers to information indicating whether or not display of each region of interest is essential, removes the region of interest that is not essential to display, and decodes the region including the remaining region of interest,
The image decoding method, wherein the attention area is an area set by a user.
画像の符号化データを含む符号化ストリーム内に明示的に記述された、前記画像上に定義された複数の注目領域を特定するための注目領域情報を復号する注目領域情報復号ステップと、
復号した注目領域情報を参照して、前記注目領域を含む領域を前記符号化ストリームから復号する画像復号ステップとを含み
前記注目領域情報復号ステップは、前記注目領域情報に含まれる複数の注目領域間の優先順位を示す情報と各注目領域の表示が必須か否かを示す情報を取得し、
前記画像復号ステップは、各注目領域の表示が必須か否かを示す情報を参照して、表示が必須でない注目領域は表示対象から外し、残りの注目領域を含む領域を復号し、
前記注目領域は、ユーザがオブジェクトを指定した場合、そのオブジェクトを含む所定の範囲であることを特徴とする画像復号方法。
Region-of- interest information decoding step for decoding region- of- interest information for specifying a plurality of regions of interest defined on the image, which are explicitly described in an encoded stream including encoded data of the image;
An image decoding step of referring to the decoded attention area information and decoding the area including the attention area from the encoded stream,
The region-of-interest information decoding step obtains information indicating a priority order among a plurality of regions of interest included in the region-of-interest information and information indicating whether display of each region of interest is essential,
The image decoding step refers to information indicating whether or not display of each region of interest is essential, removes the region of interest that is not essential to display, and decodes the region including the remaining region of interest,
The attention area is a predetermined range including an object when the user designates the object.
前記画像復号ステップは、前記複数の注目領域間の優先順位を示す情報を参照して、表示対象とすべき注目領域を選択し、それ以外の注目領域は表示対象から外し、表示対象として選択された注目領域を含む領域を復号することを特徴とする請求項1または2に記載の画像復号方法。 In the image decoding step, the attention area to be displayed is selected with reference to the information indicating the priority order among the plurality of attention areas, and the other attention areas are excluded from the display objects and selected as the display objects. 3. The image decoding method according to claim 1, wherein a region including the region of interest is decoded. 前記画像復号ステップは、前記複数の注目領域間の優先順位を示す情報を参照して、早送り再生の際に表示対象とすべき注目領域を選択し、それ以外の注目領域は表示対象から外すことを特徴とする請求項3に記載の画像復号方法。 The image decoding step refers to information indicating the priority order between the plurality of attention areas, selects attention areas to be displayed during fast-forward playback, and removes the other attention areas from the display objects. The image decoding method according to claim 3. 動画像の符号化データを含む符号化ストリーム内に明示的に記述された、前記動画像上に定義された複数の注目領域を特定するための注目領域情報を復号する注目領域情報復号ステップと、
復号した注目領域情報を参照して、前記注目領域を含む領域を前記符号化ストリームから復号する画像復号ステップとを含み
前記注目領域情報復号ステップは、前記注目領域情報に含まれる複数の注目領域間の優先順位を示す情報と各注目領域の表示が必須か否かを示す情報を取得し、
前記画像復号ステップは、各注目領域の表示が必須か否かを示す情報を参照して、表示が必須でない注目領域は表示対象から外し、残りの注目領域を含む領域を復号し、
前記動画像上に定義された複数の注目領域を特定するための情報は、前記動画像のフレームが複数集まったグループ単位で記述されていることを特徴とする画像復号方法。
Region-of- interest information decoding step for decoding region- of- interest information for specifying a plurality of regions of interest defined on the moving image, which are explicitly described in an encoded stream including encoded data of the moving image;
An image decoding step of referring to the decoded attention area information and decoding the area including the attention area from the encoded stream,
The region-of-interest information decoding step obtains information indicating a priority order among a plurality of regions of interest included in the region-of-interest information and information indicating whether display of each region of interest is essential,
The image decoding step refers to information indicating whether or not display of each region of interest is essential, removes the region of interest that is not essential to display, and decodes the region including the remaining region of interest,
An image decoding method, wherein information for specifying a plurality of regions of interest defined on the moving image is described in a group unit in which a plurality of frames of the moving image are collected.
前記画像復号ステップは、前記複数の注目領域間の優先順位を示す情報を参照して、表示対象とすべき注目領域を選択し、それ以外の注目領域は表示対象から外し、表示対象として選択された注目領域を含む領域を復号することを特徴とする請求項5に記載の画像復号方法。 In the image decoding step, the attention area to be displayed is selected with reference to the information indicating the priority order among the plurality of attention areas, and the other attention areas are excluded from the display objects and selected as the display objects. 6. The image decoding method according to claim 5, wherein a region including the region of interest is decoded. 前記画像復号ステップは、前記複数の注目領域間の優先順位を示す情報を参照して、早送り再生の際に表示対象とすべき注目領域を選択し、それ以外の注目領域は表示対象から外すことを特徴とする請求項6に記載の画像復号方法。 The image decoding step refers to information indicating the priority order between the plurality of attention areas, selects attention areas to be displayed during fast-forward playback, and removes the other attention areas from the display objects. The image decoding method according to claim 6.
JP2010257512A 2010-11-18 2010-11-18 Image decoding method Expired - Fee Related JP4749508B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010257512A JP4749508B2 (en) 2010-11-18 2010-11-18 Image decoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010257512A JP4749508B2 (en) 2010-11-18 2010-11-18 Image decoding method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2007157542A Division JP4667423B2 (en) 2007-06-14 2007-06-14 Image decoding device

Publications (2)

Publication Number Publication Date
JP2011045138A JP2011045138A (en) 2011-03-03
JP4749508B2 true JP4749508B2 (en) 2011-08-17

Family

ID=43832145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010257512A Expired - Fee Related JP4749508B2 (en) 2010-11-18 2010-11-18 Image decoding method

Country Status (1)

Country Link
JP (1) JP4749508B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6034010B2 (en) 2011-10-24 2016-11-30 ソニー株式会社 Encoding apparatus, encoding method, and program
JP6194884B2 (en) 2012-06-25 2017-09-13 日本電気株式会社 Video encoding / decoding device, method, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6026232A (en) * 1995-07-13 2000-02-15 Kabushiki Kaisha Toshiba Method and system to replace sections of an encoded video bitstream
JPH0946710A (en) * 1995-07-28 1997-02-14 Canon Inc Picture communication system and picture communication equipment
JPH10304353A (en) * 1997-02-27 1998-11-13 Matsushita Electric Ind Co Ltd Object data processor, object data recording device, data storage medium and data transmission structure
JPH1175178A (en) * 1997-08-28 1999-03-16 Sanyo Electric Co Ltd Image coder and image coding method
JP2001160062A (en) * 1999-12-03 2001-06-12 Mitsubishi Electric Corp Device for retrieving image data
JP2004228680A (en) * 2003-01-20 2004-08-12 Canon Inc Multiplexer, multiplexing method, and program
JP4308555B2 (en) * 2003-03-10 2009-08-05 パナソニック株式会社 Receiving device and information browsing method

Also Published As

Publication number Publication date
JP2011045138A (en) 2011-03-03

Similar Documents

Publication Publication Date Title
JP4656912B2 (en) Image encoding device
CN100442854C (en) Image coding method and device, and image decoding method and device
US7720295B2 (en) Method and apparatus for coding images with different image qualities for each region thereof, and method and apparatus capable of decoding the images by adjusting the image quality
JP4124792B2 (en) Encoding method, decoding method, encoding device, and decoding device
JP2006157481A (en) Image coding apparatus and method thereof
JP4578197B2 (en) Image display device
JP4749508B2 (en) Image decoding method
JP2006129248A (en) Image encoding and decoding method and apparatus thereof
JP4667424B2 (en) Image decoding device
JP4667423B2 (en) Image decoding device
US20230133895A1 (en) Image encoding apparatus and method for controlling the same and non-transitory computer-readable storage medium
JP2006074130A (en) Image decoding method, image decoding apparatus, and imaging apparatus
JP2005149227A (en) Image processor, image processing method, program, information recording medium, and image pickup device
JP2004007266A (en) Image encoder and its method, image decoder and its method, and program and recording medium
JP2006246351A (en) Image coding unit and image decoding unit
JP2007189622A (en) Moving image encoding method and device, decoding method and device, moving image processing program and computer readable recording medium
JP4458408B2 (en) Image processing apparatus, image processing method, program, and information recording medium
JP2023070055A (en) Image encoding device, control method thereof, and program
Akujuobi Application of Wavelets to Video Compression
JP2004214740A (en) Moving picture encoder
JP2020141376A (en) Image encoding apparatus, control method thereof, and program
JP2003023633A (en) Image decoding method and device
JP2018082250A (en) Image encoder and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110208

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110324

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110517

R151 Written notification of patent or utility model registration

Ref document number: 4749508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140527

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees