图像预测编码装置和方法、图像预测解码装置 和方法以及记录媒体
技术领域
本发明涉及图像预测编码装置和方法、图像预测解码装置和方法以及记录媒体。特别是涉及将作为静止图像或动图像的图像的数字图像数据存储到例如光盘等记录媒体上或者用于通过通信线路进行传输的图像预测编码装置和方法及图像预测解码装置和方法。另外,还涉及记录包括上述图像预测编码方法的步骤的程序的记录媒体和记录包括上述图像预测解码方法的步骤的程序的记录媒体。
背景技术
为了有效地存储或传输数字图像,必须进行压缩编码。作为用于将数字图像进行压缩编码的方法,除了以JPEG(Joint PhotographicExperts Group)和MPEG(Motion Picture Experts Group)所代表的离散余弦变换(以下,称为DCT变换)外,还有子带编码、小波编码、部分(フラクタル)编码等波形编码方法。另外,为了去掉图像间的冗长的信号,进行使用动补偿的图像间预测,对差分信号进行波形编码。
在MPEG方式中,将输入图像分割为多个16×16的宏块进行处理。进而将1个宏块分割为8×8的块,并在对8×8的DCT变换处理后进行量化处理。这就称为帧内编码。
另一方面,在以块匹配为主的动检测方法中,从在时间上相邻的别的帧中对对象宏块检测误差最小的预测宏块,将检测到的预测宏块从对象宏块中减去,生成差分宏块,在进行8×8的DCT变换后进行量化处理。将此称为帧间编码,将预测宏块称为时间区域的预测信号。这样,在MPEG中,不从相同的帧中预测图像。
通常的图像,在空间上相似的区域比较多,可以利用该性质在空间区域进行图像近似处理。和时间区域的预测信号相同,也可以从相同的帧中求预测信号。将此称为空间区域的预测信号。
由于在空间上相邻的2个像素值接近,所以,空间区域的预测信号通常位于与对象信号接近的位置。另一方面,在接收侧或再生侧,由于没有原图像,所以,预测信号必须使用在过去编码并再生的信号。必须根据2个像素高速地生成空间区域的预测信号。将像素值解码并再生后,便立刻用于生成预测信号。
因此,必须简单而高精度地生成空间区域的预测信号。另外,在编码装置和解码装置中要求可以进行高速运算的结构。
然而,图像数据的编码广泛地使用在JPEG、MPEG1、H.261、MPEG2和H.263等很多国际标准中。后者的标准进而改善了编码效率。即,与先有的标准相比,致力于进一步减少位数来表现相同的画面质量。
动图像的图像数据的编码由内部帧编码和预测帧编码构成。这里,内部帧编码就是指在1帧的画面内的帧内编码。例如,在MPEG1标准的典型的混合编码系统中,连续的帧可以分为如下3个不同的类型。
(a)内部帧(以下,称为I帧)、
(b)预测帧(以下,称为P帧)、
(c)双向预测帧(以下,称为B帧)。
I帧与其他的帧独立地进行编码,即,I帧不使用其他的帧进行压缩。为了预测编码的帧(该帧就是P帧)的内容,P帧使用前一帧,通过动检测和补偿进行编码。B帧通过进行使用预测前一帧信息和B帧中间数据的后续帧的信息的动检测和补偿而进行编码。以前的帧和后续的帧是I帧或P帧。I帧属于内部编码模式。P帧和B帧属于预测编码模式。
如I帧、P帧和B帧的编码的性质不同那样,它们的压缩方法也各不相同。由于I帧为了减少冗长性不使用暂时的预测,所以,与P帧和B帧相比,需要比较多的位数。
下面,以MPEG2为例进行说明。设位速率为4M位/秒,假定图像为30帧/秒的图像。通常,I、P和B帧使用的位数之比为6∶3∶1。因此,I帧使用约420K位/s,B帧使用约70K位/s。这是因为B帧从双向充分地进行预测的缘故。
图14是表示先有技术的图像预测编码装置的结构的框图。由于根据块进行DCT变换,所以,最近的图像编码方法都是以将图像分割为更小的块为基础的。在内部帧编码中,对于输入的数字图像信号,如图14所示的那样,首先执行块采样处理1001。其次,对于块采样处理1001后的这些块,在进行DCT变换处理1004后,执行量化处理1005和行程霍夫曼可变长编码(VLC:Variable LengthCoding;熵编码)处理1006。另一方面,在预测帧编码中,对于输入的数字图像,执行动补偿处理1003,并且,对于动补偿的块(即,进行了预测的块)执行DCT变换处理1004。其次,执行量化处理1005和行程霍夫曼VLC编码(熵编码)处理1006。
基于块的DCT变换处理1004去除或减少处理对象的块内的空间冗长性以及动检测及补偿处理1002、1003去除或减少相邻帧间的暂时的冗长性这一点,根据先有的图像编码技术是众所周知的。此外,在DCT变换处理1004和量化处理1005之后执行的行程霍夫曼VLC编码或其他熵编码1006去除经过量化的DCT变换系数间的统计冗长性。但是,该处理只是针对画面内的块。
作为本来的性质,数字图像在空间上具有较大的冗长性。该冗长性不仅在图像的帧内的块中存在,而且在块与块之间也存在。但是,根据上述可知,现实的方法不使用去除图像的块间的冗长性的方法。
在现在的图像编码方法中,DCT变换处理1004或其他变换处理由于硬件的形成和计算上的约束条件而根据块进行。
空间的冗长性利用以块为基础的变换处理来减少,但是,这只限于在1个块内。相邻的2个块间的冗长性未很好地进行考虑,但是,只要使用总是消耗很多位数的帧内编码,就可以进一步减少。
此外,以块为基础的DCT变换处理去除或减少处理对象的块内的空间的冗长性以及动预测及补偿处理除去或减少相邻的2个帧间的暂时的冗长性,根据现在的图像编码技术是众所周知的。在DCT变换处理和量化处理之后进行的锯齿形扫描、行程霍夫曼VLC编码处理或其他熵编码处理去除经过量化后的DCT变换系数中的统计的冗长性,只限于1个块内。
数字图像本来包含高的空间冗长性。该冗长性不仅在块的内部存在,而且在超出图像的块外、在块间也存在。因此,根据上述可知,在现在的方法中,除了JPEG、MPEG1和MPEG2的DC系数的预测外,完全不使用去除1个图像的块间的冗长性的方法,
在MPEG1和MPEG2中,DC系数的预测通过从现在编码的块中减去前1个编码块的DC值而进行。这就是在预测不适当时不具有适应性或模式开关的简单的预测方法。此外,这只包括DC系数。
在该技术领域的现在的状态下,锯齿形扫描在行程编码之前,对所有的块使用。并不试图根据块中的数据自适应地进行扫描。
图22是表示先有技术的图像预测编码装置的结构的框图。在图22中,先有技术的图像预测编码装置具有块采样单元2001、DCT变换单元2003、量化单元2004、锯齿形扫描单元2005和熵编码单元2006。在本说明书中,所谓「单元」的术语,表示电路装置。
在内部帧编码(即,帧内编码)中,对于输入的图像信号,在执行块采样处理2001后,直接执行DCT变换处理,并且,顺序执行量化处理2004、锯齿形扫描处理2005和熵编码处理2006。另一方面,在内部帧编码(即,帧间编码、预测帧编码)中,在块采样处理2001后,动检测和补偿处理在单元2011中进行,其次,通过将块采样2001的图像数据与单元2011的检测值进行减法运算,由加法器2002得到预测误差。此外,对于该预测误差,执行DCT变换处理203,接着,和内部帧编码一样执行量化处理2004、锯齿形扫描处理2005和熵编码处理2006。
在图22的图像预测编码装置内设置的局部解码器中,逆量化处理和逆DCT变换处理在单元2007和2008中进行。在内部帧编码中,动检测和补偿的预测值由加法器2009与由单元2007和2008再构筑的预测误差相加,该加法值表示局部地进行了解码的图像数据,该解码后的图像数据存储到局部解码器的帧存储器2010中。最后,位流从熵编码单元2010输出,向对方的图像预测解码装置发送。
图23是表示先有技术的图像预测解码装置的结构的框图。位流由可变长解码器(VLD:Variable Length Decoding)单元(或熵解码单元)2021进行解码,然后,对于进行了解码的图像数据,在单元2023和2024中执行逆量化处理和逆DCT变换处理。在内部帧编码中,在单元2027中形成的动检测和补偿过的预测值与由加法器2025再构筑的预测误差相加,形成局部的解码图像数据。局部地进行了解码的图像数据存储到局部解码器的帧存储器1026中。
在现在的图像编码技术中,DCT变换处理或其他的变换处理由于硬件的形成和计算上的约束条件而以块为基础进行。空间上的冗长性利用以块为基础的变换而减少。但是,这只是在块内。相邻的块间的冗长性未进行充分考虑。特别是对总是要消耗大量的位的内部帧编码并未特别予以考虑。
本发明的第1个目的旨在提供可以简单、高速并且高精度地生成空间区域的预测图像数据的图像预测编码装置和方法以及图像预测解码装置和方法。
另外,本发明的第2个目的在于提供与先有技术的图像预测编码装置和图像预测解码装置相比可以去除块内的冗长性从而可以更有效地对图像数据进行编码或解码的图像预测编码装置和方法以及图像预测解码装置和方法。
此外,本发明的第3个目的在于提供通过解决与图像数据的内部的性质有关的重要的变换系数集中在块的不同的区域的问题并对块决定正确的扫描方法从而可以改善熵编码处理的效率的图像预测编码装置和方法以及图像预测解码装置和方法。
另外,本发明的第4个目的在于提供记录上述图像预测编码方法或图像预测解码方法的各步骤的记录媒体。
发明的公开
本发明第1方面的图像预测编码装置的特征在于,具有:
分割单元,将输入的编码图像数据分割为相互相邻的多个小区域的图像数据;
第1生成单元,在由上述分割单元分割的相互相邻的多个小区域的图像数据中对处理对象的小区域的图像数据进行编码时,将与上述处理对象的小区域的图像数据相邻的已再生过的再生小区域的图像数据作为上述处理对象的小区域的画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而生成上述处理对象的小区域的图像数据与上述最佳预测小区域的图像数据的差分、即差分小区域的图像数据;
编码单元,对由上述生成单元生成的差分小区域的图像数据进行编码;
解码单元,对由上述编码单元所编码的差分小区域的图像数据进行解码;和
第2生成单元,通过将由上述解码单元解码的差分小区域的图像数据与上述最佳预测小区域的图像数据相加而生成已进行了再生的再生小区域的图像数据。
另外,本发明的第2方面的图像预测编码装置的特征在于,具有:
分割单元,将输入的编码图像数据分割为相互相邻的多个小区域的图像数据;
第1生成单元,在由上述分割单元分割的相互相邻的多个小区域中对处理对象的小区域进行编码时,只将与上述处理对象的小区域的图像数据相邻的已再生的再生小区域的图像数据中由输入的、表示上述编码图像数据是否有意义的有意义信号所示的有意义的图像数据作为上述处理对象的小区域的画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而生成上述处理对象的小区域的图像数据与上述最佳预测小区域的图像数据的差分、即差分小区域的图像数据;
编码单元,对由上述生成单元生成的差分小区域的图像数据进行编码;
解码单元,对由上述编码单元所编码的差分小区域的图像数据进行解码;和
第2生成单元,通过将由上述解码单元解码的差分小区域的图像数据与上述最佳预测小区域的图像数据相加而生成已进行了再生的再生小区域的图像数据。
此外,本发明的第3方面的图像预测解码装置的特征在于,具有:
分析单元,分析输入的已编码的图像数据系列并输出图像差分信号;
解码单元,根据从上述分析单元输出的差分图像信号,对再生差分小区域的图像数据进行解码;
行存储器,存储用于生成指定的画面内预测小区域的图像数据的图像数据;
发生单元,通过对上述行存储器的图像数据执行预测信号发生处理,将与上述再生差分小区域的图像数据相邻的已再生的图像数据作为画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而输出;和
加法单元,将上述解码单元的再生差分小区域的图像数据与上述发生单元的最佳预测小区域的图像数据相加,从而输出用于生成相加结果的画面内预测小区域的图像数据,同时存储到上述行存储器中。
此外,本发明的第4方面的图像预测解码装置的特征在于,具有:
分析单元,分析输入的已编码的图像数据系列,并输出图像差分信号、动矢量信号和控制信号;
解码单元,将从上述分析单元输出的差分图像信号解码为再生差分小区域的图像数据;
控制单元,根据从上述分析单元输出的控制信号输出切换信号,用以控制动补偿单元和发生单元有选择地动作;
帧存储器,存储指定的再生图像数据;
行存储器,存储用于生成指定画面内预测小区域的图像数据的图像数据;
动补偿单元,通过应答上述控制单元的切换信号对输入的动矢量信号进行动补偿处理,从上述帧存储器中生成时间预测小区域的图像数据并作为最佳预测小区域的图像数据而输出;
发生单元,通过应答上述控制单元的切换信号对上述行存储器的图像数据进行预测信号发生处理,将与上述再生差分小区域的图像数据相邻的已再生的图像数据作为画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而输出;和
加法单元,通过将上述解码单元的再生差分小区域的图像数据与上述发生单元的最佳预测小区域相加,输出相加结果的再生图像数据,同时,将上述再生图像数据存储到上述帧存储器中,并且将只用于生成上述画面内预测小区域的图像数据的图像数据存储到上述行存储器中。
另外,本发明的第5方面的图像预测解码装置的特征在于,具有:
分析单元,分析输入的已编码的图像数据系列,并输出压缩形状信号和图像差分信号;
第1解码单元,将从上述分析单元输出的压缩形状信号解码为再生形状信号;
第2解码单元,将从上述分析单元输出的差分图像信号解码为再生差分小区域的图像数据;
行存储器,存储用于生成指定的画面内预测小区域的图像数据的图像数据;
发生单元,通过对上述行存储器的图像数据进行预测信号处理,从与上述再生差分小区域的图像数据相邻的已再生的图像数据中只将由上述再生形状信号所示的有意义的图像数据作为画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而输出;和
加法单元,通过将上述第2解码单元的再生差分小区域的图像数据与上述发生单元的最佳预测小区域相加而输出相加结果的图像数据同时只将用于生成上述画面内预测小区域的图像数据的图像数据存储到上述行存储器中。
此外,本发明的第6方面的图像预测解码装置的特征在于,具有:
分析单元,分析输入的已编码的图像数据系列并输出压缩形状信号、图像差分信号、动矢量信号和控制信号;
第1解码单元,将从上述分析单元输出的压缩形状信号解码为再生形状信号;
第2解码单元,将从上述分析单元输出的差分图像信号解码为再生差分小区域;
控制单元,根据从上述分析单元输出的控制信号输出切换信号,用以控制动补偿单元和发生单元有选择地动作;
帧存储器,存储指定的再生图像数据;
行存储器,存储用于生成指定的画面内预测小区域的图像数据的图像数据;
动补偿单元,根据应答从上述控制单元输出的切换信号而从上述分析单元输出的动矢量信号,通过对上述帧存储器的再生图像数据进行动补偿处理而发生时间预测小区域的图像数据,并作为最佳预测小区域的图像数据而输出;
发生单元,通过应答从上述控制单元输出的切换信号对上述行存储器的图像数据进行预测信号处理,从与上述再生差分小区域的图像数据相邻的、已再生的图像数据中只将由上述再生形状信号所示的有意义的图像数据作为画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而输出;和
加法单元,通过将上述第2解码单元的再生差分小区域的图像数据与上述发生单元的最佳预测小区域相加,输出相加结果的再生图像数据,同时,将上述再生图像数据存储到上述帧存储器中,并且只将用于生成上述画面内预测小区域的图像数据存储到上述行存储器中。
本发明的第7方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据,并将表示上述选择的预测块的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据减去而输出减法结果的预测误差的系数数据;
量化单元,对从上述第1加法单元输出的预测误差的系数数据进行量化处理;
编码单元,对上述量化单元的预测误差的系数数据进行熵编码并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,对上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第2加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加而输出已解码的块的系数数据,同时存储到上述块存储器中;和
逆变换单元,通过将从上述第2加法单元输出的块的系数数据进行逆变换而生成已解码的块的图像数据。
另外,本发明的第8方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的块的图像数据变换为指定的变换区域的系数数据;
量化单元,将上述变换单元的变换区域的系数数据进行量化处理;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据,并将表示上述选择的预测块的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据减去而输出减法结果的预测误差的系数数据;
编码单元,对上述第1加法单元的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
第2加法单元,通过将上述第1加法单元的预测误差的系数数据与从上述决定单元输出的预测块的系数数据相加而将已量化的当前块的系数数据进行解码并输出,同时存储到上述块存储器中;
逆量化单元,将从上述第2加法单元输出的当前块的系数数据进行逆量化处理并输出;和
逆变换单元,通过将上述逆量化单元的当前块的系数数据进行逆变换而生成已解码的块的图像数据。
此外,本发明的第9方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
补偿单元,通过对输入的块的图像数据进行动补偿处理而生成已进行动补偿的块预测误差的图像数据并输出;
第1加法单元,将从上述补偿单元输出的块的预测误差的图像数据从上述采样单元输出的块的图像数据中减去,并输出减法结果的块的图像数据;
变换单元,将从上述第1加法单元输出的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据,并将表示上述所选择的预测块的标识符按指示位的形式向图像预测解码装置发送;
第2加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去并输出减法结果的预测误差的系数数据;
量化单元,将从上述第2加法单元输出的预测误差的系数数据进行量化处理;
编码单元,将上述量化单元的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,将上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第3加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加而输出已解码的块的系数数据,同时存储到上述块存储器中;
逆变换单元,通过将从上述第3加法单元输出的块的系数数据进行逆变换而生成已解码的块的图像数据;和
第4加法单元,通过将从上述补偿单元输出的进行了动补偿的块的预测误差的图像数据与上述逆变换单元的已解码的块的图像数据相加,将已解码的块的图像数据向上述补偿单元输出。
此外,本发明的第10方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为包含二维排列的像素值的多个块的图像数据;
补偿单元,通过对输入的块的图像数据进行动补偿处理而生成并输出进行了动补偿的块的预测误差的图像数据;
第1加法单元,将从上述补偿单元输出的块的预测误差的图像数据从上述采样单元输出的块的图像数据中减去而输出减法结果的块的图像数据;
变换单元,将从上述第1加法单元输出的块的图像数据变换为指定的变换区域的系数数据;
量化单元,将上述变换单元的变换区域的系数数据进行量化处理;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据,并将表示上述所选择的预测块的标识符按指示位的形式向图像预测解码装置发送;
第2加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去,输出减法结果的预测误差的系数数据;
编码单元,对上述第2加法单元的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
第3加法单元,通过将上述第2加法单元的预测误差的系数数据与从上述决定单元输出的预测块的系数数据相加而将已量化的当前块的系数数据进行解码并输出,同时存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的当前块的系数数据进行逆量化处理并输出;
逆变换单元,通过将上述逆量化单元的当前块的系数数据进行逆变换而生成已解码的块的图像数据;和
第4加法单元,通过将从上述补偿单元输出的进行了动补偿的块的预测误差的图像数据与上述逆变换单元的已解码的块的图像数据相加,将已解码的块的图像数据向上述补偿单元输出。
本发明的第11方面的图像预测解码装置是与本发明的第7方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据,生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆量化单元,将从上述解码单元输出的预测误差的系数数据进行逆量化处理并输出;
第3加法单元,通过将从上述其他预测单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时存储到上述块存储器中;和
其他逆变换单元,将从上述第3加法单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据。
另外,本发明的第12方面的图像预测解码装置是与本发明的第8方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
第3加法单元,通过将从上述预测单元输出的预测块的系数数据与从上述解码单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的预测误差的系数数据进行逆量化处理;和
其他逆变换单元,将从上述逆量化单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据。
此外,本发明的第13方面的图像预测解码装置是与本发明的第9方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据的别;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆量化单元,将从上述解码单元输出的预测误差的系数数据进行逆量化处理并输出;
第3加法单元,通过将从上述别的预测单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加而将现时刻的当前块的系数数据进行解码并输出,同时存储到上述块存储器中;
其他逆变换单元,将从上述第3加法单元输出的当前块的系数数据进行逆变换而输出已解码的当前块的图像数据;
其他补偿单元,通过对从上述其他逆变换单元输出的当前块的图像数据进行动补偿处理而输出动补偿的预测误差数据;和
第5加法单元,将从上述其他补偿单元输出的动补偿的预测误差数据从上述其他逆变换单元输出的当前块的图像数据中减去而输出减法结果的已解码的块的图像数据。
另外,本发明的第14方面的图像预测解码装置是与本发明的第10方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
第3加法单元,通过将从上述预测单元输出的预测块的系数数据与从上述解码单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时,将其存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的预测误差的系数数据进行逆量化处理并输出;
其他逆变换单元,将从上述逆量化单元输出的当前块的系数数据进行逆变换并输出已解码的当前块的图像数据;
其他补偿单元,通过对从上述别的逆变换单元输出的当前块的图像数据进行动补偿处理而输出动补偿的预测误差数据;和
第5加法单元,将从上述别的补偿单元输出的动补偿的预测误差数据从上述其他逆变换单元输出的当前块的图像数据中减去,输出减法结果的已解码的块的图像数据。
本发明的第15方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据和扫描方法,并将表示上述选择的预测块和扫描方法的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去而输出减法结果的预测误差的系数数据;
量化单元,将从上述第1加法单元输出的预测误差的系数数据进行量化处理;
扫描单元,对上述量化单元的预测误差的系数数据,按照由上述决定单元决定的扫描方法进行扫描处理,并输出扫描处理后的预测误差的系数数据;
编码单元,将从上述扫描单元输出的扫描处理后的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,将上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第2加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加而输出已解码的块的系数数据,同时将其存储到上述块存储器中;和
逆变换单元,通过对从上述第2加法单元输出的块的系数数据进行逆变换而生成已解码的块的图像数据。
另外,本发明的第16方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的多个块的图像数据变换为指定的变换区域的系数数据;
量化单元,将从上述变换单元来的变换区的系数数据量化;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据和扫描方法,并将表示上述选择的预测块和扫描方法的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去而输出减法结果的预测误差的系数数据;
扫描单元,对上述第1加法单元的预测误差的系数数据,按照由上述决定单元决定的扫描方法进行扫描处理,并输出扫描处理后的预测误差的系数数据;
编码单元,将从上述扫描单元输出的扫描处理后的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
第2加法单元,通过将上述第1加法单元的预测误差的系数数据与从上述决定单元输出的预测块的系数数据相加,将已量化的当前块的系数数据进行解码并输出,同时将其存储到上述块存储器中;
逆量化单元,将从上述第2加法单元输出的当前块的系数数据进行逆量化处理并输出;和
逆变换单元,通过将上述逆量化的当前块的系数数据进行逆变换而生成已解码的块的图像数据。
此外,本发明的第17方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
补偿单元,通过对输入的块的图像数据进行动补偿处理而生成并输出进行了动补偿的块的预测误差的图像数据;
第1加法单元,将从上述补偿单元输出的块的预测误差的图像数据从上述采样单元输出的块的图像数据中减去而输出减法结果的块的图像数据;
变换单元,将从上述第1加法单元输出的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据和扫描方法,并将表示上述所选择的预测块和扫描方法的标识符按指示位的形式向图像预测解码装置发送;
第2加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去,输出减法结果的预测误差的系数数据;
量化单元,将从上述第2加法单元输出的预测误差的系数数据进行量化处理;
扫描单元,对上述量化单元的预测误差的系数数据,按照由上述决定单元决定的扫描方法进行扫描处理,并输出扫描处理后的预测误差的系数数据;
编码单元,将从上述扫描单元输出的扫描处理后的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,将上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第3加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,输出已解码的块的系数数据,同时,将其存储到上述块存储器中;
逆变换单元,通过将从上述第3加法单元输出的块的系数数据进行逆变换,生成已解码的块的图像数据;和
第4加法单元,通过将从上述补偿单元输出的进行了动补偿的块的预测误差的图像数据与上述逆变换单元的已解码的块的图像数据相加,将已解码的块的图像数据向上述补偿单元输出。
另外,本发明的第18方面的图像预测编码装置的特征在于,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
补偿单元,通过对输入的块的图像数据进行动补偿处理,生成并输出进行了动补偿的块的预测误差的图像数据;
第1加法单元,将从上述补偿单元输出的块的预测误差的图像数据从上述采样单元输出的块的图像数据中减去,输出减法结果的块的图像数据;
变换单元,将从上述第1加法单元输出的块的图像数据变换为指定的变换区域的系数数据;
量化单元,将上述变换单元的变换区域的系数数据进行量化处理;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据和扫描方法,并将表示上述所选择的预测块和扫描方法的标识符按指示位的形式向图像预测解码装置发送;
第2加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去,输出减法结果的预测误差的系数数据;
扫描单元,对上述第2加法单元的预测误差的系数数据,按照由上述决定单元决定的扫描方法进行扫描处理,并输出扫描处理后的预测误差的系数数据;
编码单元,将从上述扫描单元输出的扫描处理后的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
第3加法单元,通过将上述第2加法单元的预测误差的系数数据与从上述决定单元输出的预测块的系数数据相加,将已量化的当前块的系数数据进行解码并输出,同时,将其存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的当前块的系数数据进行逆量化处理并输出;
逆变换单元,通过将上述逆量化单元的当前块的系数数据进行逆变换而生成已解码的块的图像数据;和
第4加法单元,通过将从上述补偿单元输出的进行了动补偿的块的预测误差的图像数据与上述逆变换单元的已解码的块的图像数据相加,将已解码的块的图像数据向上述补偿单元输出。
本发明的第19方面的图像预测解码装置是与本发明的第15方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆扫描单元,根据由上述抽出单元抽出的指示位表示的扫描方法,对从上述解码单元输出的预测误差的系数数据进行逆扫描处理,并输出逆扫描处理后的预测误差的系数数据;
逆量化单元,将从上述逆扫描单元输出的逆扫描处理后的预测误差的系数数据进行逆量化处理并输出;
第3加法单元,通过将从上述别的预测单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时,将其存储到上述块存储器中;和
其他逆变换单元,将从上述第3加法单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据。
另外,本发明的第20方面的图像预测解码装置是与本发明的第16方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆扫描单元,根据由上述抽出单元抽出的指示位表示的扫描方法,对从上述解码单元输出的预测误差的系数数据进行逆扫描处理,并输出逆扫描处理后的预测误差的系数数据;
第3加法单元,通过将从上述预测单元输出的预测块的系数数据与从上述逆扫描单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时将其存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的预测误差的系数数据进行逆量化处理并输出;和
其他逆变换单元,将从上述逆量化单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据。
此外,本发明的第21方面的图像预测解码装置是与本发明的第17方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆扫描单元,根据由上述抽出单元抽出的指示位表示的扫描方法,对从上述解码单元输出的预测误差的系数数据进行逆扫描处理,并输出逆扫描处理后的预测误差的系数数据;
逆量化单元,将从上述逆扫描单元输出的逆扫描处理后的预测误差的系数数据进行逆量化处理并输出;
第3加法单元,通过将从上述别的预测单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时,将其存储到上述块存储器中;
其他逆变换单元,将从上述第3加法单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据;
其他动补偿单元,通过对从上述其他逆变换单元输出的当前块的图像数据进行动补偿处理,输出动补偿的预测误差数据;和
第5加法单元,将从上述别的补偿单元输出的动补偿的预测误差数据从上述别的逆变换单元输出的当前块的图像数据中减去,输出减法结果的已解码的块的图像数据。
此外,本发明的第2 2方面的图像预测解码装置是与本发明的第18方面的图像预测编码装置对应地设置的图像预测解码装置,其特征在于,具有:
抽出单元,从由上述图像预测编码装置接收的接收数据中抽出指示位;
块存储器,存储已解码的块的系数数据;
其他预测单元,根据由上述抽出单元抽出的指示位表示的预测块,使用在存储到上述块存储器中之前已解码的块的系数数据,对在上述接收数据中包含的现时刻的当前块的系数数据生成并输出预测块的系数数据;
解码单元,将上述接收数据进行熵解码,并输出已解码的预测误差的系数数据;
逆扫描单元,根据由上述抽出单元抽出的指示位表示的扫描方法,对从上述解码单元输出的预测误差的系数数据进行逆扫描处理,并输出逆扫描处理后的预测误差的系数数据;
第3加法单元,通过将从上述预测单元输出的预测块的系数数据与从上述逆扫描单元输出的预测误差的系数数据相加,将现时刻的当前块的系数数据进行解码并输出,同时,将其存储到上述块存储器中;
逆量化单元,将从上述第3加法单元输出的预测误差的系数数据进行逆量化处理并输出;
其他逆变换单元,将从上述逆量化单元输出的当前块的系数数据进行逆变换,并输出已解码的当前块的图像数据;
其他动补偿单元,通过对从上述别的逆变换单元输出的当前块的图像数据进行动补偿处理,输出动补偿的预测误差数据;和
第5加法单元,将从上述别的补偿单元输出的动补偿的预测误差数据从上述别的逆变换单元输出的当前块的图像数据中减去,输出减法结果的已解码的块的图像数据。
另外,本发明的第23方面的图像预测编码方法的特征在于:包括将上述图像预测编码装置的各单元分别置换为各步骤的步骤。
此外,本发明的第24方面的图像预测解码方法的特征在于:包括将上述图像预测解码装置的各单元分别置换为各步骤的步骤。
另外,本发明的第25方面的记录媒体是记录包括上述图像预测编码方法的各步骤的程序的记录媒体。
此外,本发明的第26方面的记录媒体是记录包括上述图像预测解码方法的各步骤的程序的记录媒体。
附图的简单说明
图1是表示本发明实施例1的图像预测编码装置的结构的框图。
图2是将输入到图1的图像预测编码装置的输入图像分割为8×8的块时的模式图。
图3是将输入到图1的图像预测编码装置的输入图像分割为三角区域时的模式图。
图4是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例1的结构的框图。
图5是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例2的结构的框图。
图6是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例3的结构的框图。
图7是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例4的结构的框图。
图8是表示本发明实施例2的图像预测编码装置的结构的框图。
图9是输入图1和图8的图像预测编码装置的输入图像、即表示具有有意义的像素的输入图像的一例的模式图。
图10是输入图1和图8的图像预测编码装置的输入图像、即表示具有有意义的像素的输入图像的一例的模式图。
图11是输入图1和图8的图像预测编码装置的输入图像、即表示不具有有意义的像素的输入图像的一例的模式图。
图12是表示本发明实施例3的图像预测解码装置的结构的框图。
图13是表示本发明实施例4的图像预测解码装置的结构的框图。
图14是表示先有技术的图像预测编码装置的结构的框图。
图15是用于说明画面内预测用的自适应的DCT变换区域的图像的模式图。
图16是表示本发明实施例5的图像预测编码装置的结构的框图。
图17是表示本发明实施例6的图像预测编码装置的结构的框图。
图18是表示图16和图17的DCT变换区域预测电路的结构的框图。
图19是表示图18的DCT变换区域预测电路的DC/AC预测的编码方法的一例的图像的模式图。
图20是表示本发明实施例7的图像预测解码装置的结构的框图。
图21是表示图20的图像预测解码装置的DC/AC预测的解码方法的流程图。
图22是表示先有技术的图像预测编码装置的结构的框图。
图23是表示先有技术的图像预测解码装置的结构的框图。
图24是表示本发明实施例8的图像预测编码装置的结构的框图。
图25是表示本发明实施例8的图像预测解码装置的结构的框图。
图26是表示实施例8的帧的宏块和块的结构并且表示块预测方法的图像的模式图。
图27是用于说明在实施例8的系数扫描中使用的水平扫描顺序的图像的模式图。
图28是用于说明在实施例8的系数扫描中使用的垂直扫描顺序的图像的模式图。
图29是用于说明在实施例8的系数扫描中使用的锯齿形扫描顺序的图像的模式图。
图30是表示在实施例8中使用的模式决定处理的流程图。
图31是表示实施例8的默认模式决定的块的关系的图像的模式图。实施发明的最佳的形式
下面,参照附图说明本发明的优选实施例。
第1实施例组包括实施例1~实施例4。(实施例1)
图1是表示本发明实施例的图像预测编码装置的结构的框图。
在图1中,101是输入端子,102是第1加法器,103是编码器,106是输出端子,107是解码器,110是第2加法器,111是行存储器,112是预测信号发生器。
下面,说明图像预测编码装置的结构和动作。将作为编码的处理对象的图像数据输入到输入端子101。这里,输入的图像数据分割为多个相邻的小区域。
在图2中表示分割为8×8的小区域时输入的图像数据的图像,在图3中表示分割为三角形小区域时输入的图像数据的图像。将多个小区域的图像数据顺序进行编码,处理对象的小区域的图像数据通过输入端子101和线113输入到加法器102。另一方面,预测信号发生器112发生画面内预测小区域的图像数据,并将所发生的图像数据作为最佳预测小区域的图像数据通过线121向加法器102输出。
加法器102将预测信号发生器112的最佳预测小区域的对应像素值从处理对象的小区域中输入的图像数据的像素值中减去,生成减法结果的差分小区域的图像数据,向编码器103输出,进行压缩编码处理。在本实施例中,编码器103具有DCT变换器104和量化器(Q)105,差分小区域的图像数据由DCT变换器104变换为频率区域的图像信号,得到DCT变换系数。其次,DCT变换系数由量化器105进行量化处理。已量化的小区域的图像数据通过线116向输出端子106输出,进而变换为可变长或固定长的代码后,存储到例如光盘等记录媒体上或通过通信线路进行传输(图中未示出)。
同时,已量化的小区域的图像数据输入解码器107,这里,该解码器107具有逆量化器108和逆DCT变换器109,将所输入的小区域的图像数据解码为解压差分小区域的图像数据。在本实施例中,输入的小区域的图像数据由逆量化器108进行逆量化处理后,已逆量化的图像数据由逆离散余弦变换器(以下,称为逆DCT变换器)109变换为空间区域的图像信号。这样得到的解压差分小区域的图像数据向加法器110输出,加法器110将从预测信号发生器112通过线121和线122而输出的最佳预测图像信号与解压差分小区域的图像数据相加,生成再生小区域的图像数据,将再生小区域的图像数据中用于生成画面内预测图像信号的再生像素值存储到行存储器111中。预测信号发生器112如以下所述的那样发生画面内预测小区域的图像数据。即,预测信号发生器112发生与处理对象的小区域的图像数据相邻的再生的图像数据的像素值作为画面内预测小区域的图像数据的像素值。
在图2中,设块200为处理对象的小区域,则相邻的再生的图像数据的像素值为a0、a1、a2、a3、a4、a5、a6、a7、b0、b1、b2、b3、b4、b5、b6、b7。在图3中,设三角形301为处理对象的小区域,则相邻的再生的图像数据的像素值为g0、g1、g2、g3、g4、f0、f1、f2、f3、f4、f5、f6、f7、f8。另外,设图3的三角形300为处理对象的小区域,则相邻的再生的图像数据的像素值是e0、h0、h1、……、h4。将这些像素值存储到行存储器111中。预测信号发生器112访问行存储器111,将相邻的图像数据的像素值作为画面内预测小区域的图像数据的像素值而读出。
图4和图5分别表示在图1的图像预测编码装置中使用的预测信号发生器的实施例1和实施例2的结构的框图。
在图4中,对于处理对象的小区域,在水平方向相邻的像素值a0、a1、a2、……、a6、a7从行存储器111输入预测信号发生器112,预测信号发生器112内的发生器401通过在水平方向上将同一像素反复输出例如8次,生成画面内预测小区域的图像数据403。这里,画面内预测小区域的图像数据403对于处理对象的小区域在不存在在垂直方向相邻的像素时使用。
在图5中,对于处理对象的小区域,在垂直方向相邻的像素值b0、b1、b2、……、b6、b7从行存储器111输入预测信号发生器112,预测信号发生器112内的发生器402通过在垂直方向上将像素反复输出例如8次,生成画面内预测小区域的图像数据404。这里,画面内预测小区域的图像数据404对于处理对象的小区域在不存在在水平方向相邻的像素时使用。同时存在与水平方向和垂直方向相邻的像素值时,如图6所示的实施例3那样生成画面内预测小区域的图像数据。
图6是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例3的结构的框图。
在图6中,将由发生器401发生的画面内预测小区域的图像数据403(参考图5)和由发生器402发生的画面内预测小区域的图像数据404输入到加法器500,加法器500通过用2去除输入的2个图像数据之和,将这2个图像数据求平均。这样,通过发生器401、402反复输出相邻的再生的像素并由加法器500进行求平均运算,所以,可以高速地生成画面内预测小区域的图像数据。另外,也可以通过将相邻的2个图像数据的像素值进行线性内插而生成画面内预测小区域的图像数据。
图7是表示在图1的图像预测编码装置中使用的预测信号发生器的实施例4的结构的框图。
在图7中,对于处理对象的小区域,在水平方向相邻的图像数据的像素值a0、a1、a2、……、a6、a7从行存储器111输入发生器401,发生器401通过在水平方向上反复输出像素而生成第1画面内预测小区域的图像数据。另一方面,对于处理对象的小区域,在垂直方向相邻的像素值b0、b1、b2、……、b6、b7从行存储器111输入到发生器402,发生器402通过在垂直方向上反复输出像素而生成第2画面内预测小区域的图像数据。将第1画面内预测小区域的图像数据和第2画面内预测小区域的图像数据输入到加法器500,通过将这2个图像数据求平均,生成第3画面内预测小区域的图像数据。
另一方面,处理对象的小区域的图像数据通过线616输入误差计算器601、602、603。这里,上述第1画面内预测小区域的图像数据和处理对象的小区域的图像数据输入误差计算器601,误差计算器601计算这2个图像数据的误差的绝对值、即第1绝对误差,并向比较器604输出。另外,将上述第2画面内预测小区域的图像数据和处理对象的小区域的图像数据输入误差计算器602,误差计算器602计算这2个图像数据的误差的绝对值、即第2绝对误差,并向比较器604输出。此外,将上述第3画面内预测小区域的图像数据和处理对象的小区域的图像数据输入到误差计算器603,误差计算器603计算这2个图像数据的误差的绝对值、即第3绝对误差,并向比较器604输出。
比较器604将输入的3个绝对误差进行相互比较,决定绝对误差最小者并控制开关605以使将与其对应的画面内预测小区域的图像数据向线121输出。比较器604同时将用于识别第1、第2和第3画面内预测小区域的图像数据的标识符通过线615向接收侧或再生侧的装置输出。在接收侧或再生侧,由该标识符唯一地决定画面内预测小区域的图像数据。这样,通过使用误差最小的画面内预测小区域的图像数据,可以抑制编码时的差分信号,从而可以减少发生位数。
(实施例2)
图8是表示本发明实施例2的图像预测编码装置的结构的框图,和图1相同的部分标以相同的符号。
图8的图像预测编码装置与图1的图像预测编码装置相比,其特征在于:增加了动检测器700、动补偿器701、最佳模式选择器703和帧存储器702。
下面,说明图8的图像预测编码装置的结构和动作。
和实施例1一样,输入的处理对象的小区域的图像数据通过输入端子101输入加法器102,加法器102将处理对象的小区域的图像数据从最佳模式选择器703通过线121输入的最佳预测小区域的图像数据中减去后,将减法结果的图像数据向编码器103输出。编码器103在将输入的减法结果的图像数据进行压缩编码并通过输出端子106输出的同时,将已压缩编码的小区域的图像数据向解码器107输出并进行解压解码后,向加法器110输出,将已解压解码的图像数据与最佳预测小区域的图像数据相加。
其次,和实施例1一样,只将为了生成画面内预测小区域的图像数据而使用的图像数据的像素值存储到行存储器111中,另一方面,将再生的全部象素的像素值存储到帧存储器702中。
通过输入端子101输入下一个图像的图像数据时,将处理对象的小区域的图像数据和帧存储器702存储的再生图像数据输入动检测器700,动检测器700按块匹配等方法检测图像的活动,通过线705输出动矢量。输出的动矢量在进行例如可变长编码并存储或传输(图中未示出)的同时,向动补偿器701传输。动补偿器701根据动矢量从帧存储器702的再生图像生成时间预测小区域的图像数据,并向最佳模式选择器703输出。在动检测处理和动补偿处理中,有前方预测、后方预测和双向预测,这些方法已在例如美国专利第5193004号说明书中公开。
另一方面,和实施例1一样,预测信号发生器112在发生画面内预测小区域的图像数据并向最佳模式选择器703输出的同时,将处理对象的小区域的图像数据向最佳模式选择器703输出。最佳模式选择器703从画面内预测小区域的图像数据和时间预测小区域的图像数据中选择在处理对象的小区域的图像数据中误差(例如,各像素之差的绝对值之和)最小的图像数据,将选择的图像数据作为最佳预测小区域的图像数据向加法器102输出。另外,将表示选择了哪个预测小区域的图像数据的标识符通过线709向接收一侧或再生一侧输出并进行传输。
这样,通过将画面内预测导入帧间动补偿编码的图像数据中,就不必传输帧间的动矢量,所以,可以进一步削减位数。
在实施例1和2中,是在整个画面中存在有意义的像素的情况。有时,在画面内同时存在有意义的像素和无意义的像素。例如,在利用色度键拍摄的图像中,表示被摄体的像素是有意义的像素,表示作为背景的蓝色等区域的像素就是无意义的像素。通过将有意义的物体的结构及其形状进行编码并传输,可以进行以物体为单位的再生显示。对于这样的输入图像,用预测信号发生器112生成画面内预测小区域的图像数据时,就不能使用无意义的像素值。
图9~图11是表示具有有意义的像素和无意义的像素的输入图像的模式图。在本实施例中,为了表示像素是否有意义,使用形状信号。将形状信号安放指定的方法进行压缩编码并向接收一侧或再生一侧传输。作为将形状进行编码的方法,有链路编码等方法。将已压缩的形状信号再进行解压再生,并将再生的形状信号如以下所述的那样生成画面内预测信号。
在图9中,形状曲线800是边界线,箭头所示的方向是物体的内部,物体的内部的图像数据由有意义的像素构成。在与处理对象的小区域802相邻的已再生的像素中,b4、b5、b6、b7是有意义的像素,只使这些像素值反复作为处理对象的小区域802的画面内预测小区域的像素值。
另外,在图10中,形状曲线804是边界线,箭头所示的方向是物体的内部,物体的内部的图像数据由有意义的像素构成。在与处理对象的小区域805相邻的已再生的像素中,a4、a5、a6、a7是有意义的像素,只使这些像素值反复作为处理对象的小区域805的画面内预测小区域的像素值。
此外,在图11中,曲线808是边界线,箭头所示的方向是物体的内部,物体的内部的图像数据由有意义的像素构成。在与处理对象的小区域810相邻的已再生的像素中,a5、a6、a7、b4、b5、b6、b7是有意义的像素,只反复输出这些像素值,在2个像素值重叠的地方,将对这些像素值求平均的值作为处理对象的小区域810的画面内预测小区域的像素值。
在图11中,例如取处理对象的小区域810的像素z77的值为a7和b7的平均值。另外,在1个像素值也没有的地方,就取与水平方向和垂直方向相邻的2个像素值的平均值。例如,取像素z14的值为a5和b4的平均值。就这样来生成具有任意形状的图像的画面预测小区域的图像数据。
在以上的实施例中,说明了分割为正方形的小区域,但是,本发明不限于此,也可以和图3一样将画面分割为三角形的小区域。这时,图像处理也一样进行。
另外,作为别的实施例,也可以只使用有意义的像素值求平均值,并将该平均值作为画面内预测小区域的像素值。具体而言,在图9中,就是计算像素b4、b5、b6、b7的平均值,并将计算的平均值作为画面内预测小区域的像素值。在图10中,就是计算像素a4、a5、a6、a7的平均值,并将计算的平均值作为画面内预测小区域的像素值。在图11中,就是计算a5、a6、a7、b4、b5、b6、b7的平均值,并作为画面内预测小区域的像素值。
(实施例3)
图12是表示本发明实施例3的图像预测解码装置的结构的框图。
在图12中,901是输入端子,902是数据分析器,903是解码器,906是加法器,907是输出端子,908是控制器,909是动补偿器,910是预测信号发生器,911是行存储器,912是帧存储器。
下面,说明图12的图像预测解码装置的结构和动作。在图12中,将已压缩编码的图像数据输入数据分析器902,数据分析器902分析输入的图像数据,并通过线915将压缩差分小区域的图像数据向解码器903输出,另外,通过线926将控制信号向控制器908输出,此外,将上述动矢量(仅在存在时)向动补偿器909输出。解码器903具有逆量化器904和逆DCT变换器905,将已压缩的差分小区域的图像数据解压后恢复为解压差分小区域的图像数据。
在本实施例中,已压缩的差分小区域的图像数据由逆量化器904进行逆量化处理,逆量化后的频率区域的图像数据由逆DCT变换器905变化为空间区域的图像数据。将变换后的解压差分小区域的图像数据输入加法器906,加法器906将输入的解压差分小区域的图像数据与从动补偿器923或预测信号发生器922通过开关913和线924传送来的最佳预测小区域的图像数据相加,生成加法结果的再生小区域的图像数据。加法器906在将已再生的图像数据通过线917向输出端子907输出的同时,存储到帧存储器912中。另外,将为了生成画面内预测小区域的图像而使用的图像数据的像素值存储到行存储器911中。
最佳预测小区域的图像数据根据数据分析器902的控制信号,由控制器908决定,并控制开关913的切换。画面内预测小区域的图像数据由控制器908选择时,开关913就将线924与线922连接,预测信号发生器910应答控制器908的控制信号而访问行存储器911,将相邻的再生像素值作为画面内预测小区域的像素值而输出。关于预测信号发生器910的动作的详细情况,已参照图4、图5和图6进行了详细说明。另外,时间预测小区域的图像数据由控制器908选择时,开关913就将线924与线923连接,动补偿器909应答控制器908的控制信号,根据从数据分析器902通过线925传送来的动矢量,通过对帧存储器912的图像数据进行动补偿处理,发生时间预测小区域的图像数据,并通过开关913和线924向加法器906输出。
(实施例4)
图13是表示本发明实施例4的图像预测解码装置的结构的框图。在图13中,对于和图12相同的部分标以相同的符号。图13的图像预测解码装置的特征在于,除了图12的图像预测解码装置的基本结构外,增加了形状解码器990。由于图13的图像预测解码装置的基本动作也和图12相同,所以,下面,只详细说明不同的动作。
在本实施例中,在已压缩编码的图像数据中包含已压缩编码的形状数据。数据分析器902抽出该形状数据后向形状解码器990输出,应答该动作,形状解码器990将形状信号进行解压再生。在再生的形状信号向接收一侧或再生一侧传输的同时,输入预测信号发生器910。预测信号发生器910根据该再生的形状信号如参照图9~图11说明的那样生成画面内预测小区域的图像数据。这样,便可生成具有任意形状的图像的画面内预测小区域的图像数据,能够在接收一侧或再生一侧将图像数据进行解码及再生。
实施例3和4的特征是具有行存储器911。如果没有行存储器911,就必须从帧存储器912中存取用于生成画面内预测小区域的图像数据的的像素。为了用相邻的小区域的像素生成预测信号,必须对帧存储器进行高速地写入或读出。通过设置专用的行存储器或缓冲器,不使用高速的帧存储器就可以高速地生成画面内预测小区域的图像数据。
在以上的实施例中,多个像素值的平均值也可以是指定的加权平均值。
如上所述,按照本发明的第1实施例组,仅将与处理对象的小区域的图像数据相邻的已再生的像素值作为画面内预测信号的像素值,就可以以比先有技术低的运算量简单地生成高精度的预测信号,从而可以获得可以削减帧内编码的位数的特有效果。另外,由于为了存储用于生成画面内预测信号而使用的已再生的像素值而设置了行存储器911,所以,可以高速地存取像素值,从而可以高速地生成画面内预测信号。第2实施例组第2实施例组包括实施例5~7。
本发明者鉴于先有技术的问题,通过不仅去除2个图像间或1个图像内的2个块的内部之间的冗长性,而且去除1个图像内的2个块间的冗长性,发现进一步改善了图像编码效率。
本发明者发现相邻块的相同位置的DCT变换系数在多数情况下是非常相似的。特别是与2个块对应的原图像的组织非常相似时或包含相同的图像图案(例如直线、角以及其他)时,发现近似程度高。根据信息理论,相同的信息就意味着冗长。
超出块外在DCT变换区域中存在的这种冗长,可以利用以前的块的自适应的内部预测(帧内预测)而除去或大幅度地减少。并且,此后的VLC熵编码处理可以利用预测的小的熵进一步实现高的编码效率。作为该DCT变换区域的预测的结果,向VLC熵编码电路的冗长数据的输入可以大幅度地减少。因此,可以期望节约很多位。因此,已编码的图像数据的画面质量明确地获得改善。
本发明的本实施例提供适当地预测其他块的DCT变换系数的方式。利用该方式去除超出相邻的块而存在的冗长性,进一步减少已量化的DCT变换系数的熵,结果,便可减少用于对DCT变换系数进行编码所需要的位数。
根据以前的相邻的块中相同位置的DCT变换系数,可以预测处理对象即现时刻的当前块(以下,称为当前块)的DCT变换系数。相邻的块在处理时已进行了解码。即,利用以前已解码的相邻的1个块中的第1DC系数预测第1DC系数。另外,第2系数AC1根据相同的已解码的块中的第2系数AC1进行预测。以下,同样照此办理。通过使用该方法,对于在现时刻进行编码的DCT变换块,可以根据位于左上侧、斜左侧、斜右上侧和上侧的相邻的已解码的块求出数个预测的块。对于这些已预测的块,通过进行实际的熵编码而进行检查。并且,在选择具有更少的位数的预测块后,进行熵编码,并且与附加的指示位一起向接收一侧或再生一侧的图像预测解码装置传送。向图像预测解码装置报告当前块是根据哪个相邻的块预测的。
本发明的本实施例的方法可以预测当前块的DCT变换系数。该DCT变换系数通常具有与其他相邻的块的DCT变换系数良好的相互关系。其理由在于,DCT变换对于同样的块图像处于提供DCT变换系数的相同值或相同分布的倾向。
对于作为内部帧或暂时预测的帧即已输入的图像数据,通常首先根据块进行DCT变换处理。在获得当前块的DCT变换系数后,可以在量化前或量化后进行DCT变换区域的预测处理。
如图15所示,当前块的DCT变换系数是已解码的块,可以根据相邻的块即左上的块B1、上面的块B2、右上的块B3、左边的块B4进行预测。已预测的块可以通过将当前块的全部DCT变换系数从处于相同位置的以前的相邻的块的全部DCT变换系数中减去而得到。另外,也可以通过部分地减去DCT变换系数取代全部的DCT变换系数而得到。
如果在量化之前进行预测,就将已预测的不同块的已预测的DCT变换系数进行量化处理。其次,对于DCT变换系数,进行熵编码处理。该熵编码处理和图像预测编码装置的处理相同,检查哪个已预测的块作为低位位使用。
选择使用低位位的预测块,所选择的预测块与对于预测决定通知图像预测解码装置的指示位一起进行熵编码。
在图像预测解码装置中,使用指示位对已预测的块进行解码。即,对于1个块,在对已预测的DCT变换系数进行逆熵解码后,与该块对应的DCT变换系数通过将由指示位表示的前面已解码的相邻块的DCT变换系数与上述已解码的DCT变换系数相加而得到。最后,逆DCT变换处理应用于与各块对应的已解码的DCT变换系数,可以获得已解码的图像数据。
本发明的本实施例除了通过通常DCT变换那样的变换去除的空间冗长性、通过动检测和补偿在帧间去除的冗长性和在块内的量化变换系数中通过熵编码去除的统计冗长性外,还提供可以减少超出相邻块、在DCT变换区域存在的其他种类的冗长性的图像编码装置。
由表示先有技术的图像预测编码装置的图14可知,在先有的图像编码中(例如,在MPEG)通常使用的图像预测编码装置具有块采样单元1001、DCT变换单元1004、量化器1005和熵编码器1006。
在内部帧编码(帧内编码)中,对于输入的图像信号,首先进行块采样处理。然后直接进行DCT变换处理。接着,进行量化处理和熵编码处理。另一方面,在内部帧编码(预测帧编码)中,在块采样处理之后,对于处理对象的现时刻的帧的图像数据,进行动检测单元1002和动补偿单元1003的处理,此外,还进行DCT变换处理。进而,再进行量化处理和熵编码处理。
这里,在熵编码单元1006中,量化值进行熵编码后,输出编码数据。所谓熵编码,就是通过对经常发生的值分配短的代码、对不经常发生的值分配长的代码,编码为接近作为平均信息量的熵,从而大幅度地削减总体的代码量的方式。这就是可逆编码。作为熵编码,已提案了各种方式,但是,在基线系统中,使用霍夫曼编码。在已量化的DC系数值和AC系数值中,霍夫曼编码的方法不同,即,DC系数表示8×8像素块的平均值,在一般的图像中,与相邻的块的平均值多数具有相似的值。因此,在取与前一块的差分后,进行熵编码。这样,由于数值集中在0附近,所以,熵编码有效。另外,关于AC系数,例如进行锯齿形扫描,将二维数据变换为一维数据。此外,特别是包含高频成分的AC系数很多为0,所以,将具有0以外的值的AC系数的值和其前面有几个0(行程)为一组进行熵编码。
速率控制器1007反馈以前在已编码的块中使用的位,控制量化单元1005的处理,并且调整代码位速率。这里,速率控制器1007根据已编码的单位的性质及可以利用的位控制代码位速率,用以对各已编码的目标数据、各帧和各已编码的块分配不同的位量。另外,逆量化处理和逆DCT变换处理在作为局部解码器的一部分的单元1008和1009中进行。由局部解码器解码的图像数据存储到局部解码帧存储器1010中,用于进行动检测处理。1011是为了进行动检测而保存前面的原帧的基准帧存储器。并且,最后,从熵编码单元1006输出位流,向接收一侧或再生一侧的图像预测解码装置传送。
图15是用于说明画面内预测用的自适应DCT变换区域的图像的模式图。
在图15中,在DCT变换区域中,示出了8×8的4各DCT变换块构成宏块的情况。这里,B0表示具有8×8的DCT变换系数的现时刻的当前块。B2表示已解码的与上侧相邻的块。B1和B3表示已解码的斜上方相邻的2各块。B4表示左侧相邻的正前方的块。由图15可知,具有DCT变换系数的块能够根据具有8×8的DCT变换系数的已解码的相邻多个块进行预测。
应该注意,当前块根据哪个块进行预测总是不同的。因此,根据最小位使用规则进行决定,该决定可以自适应地向图像预测解码装置一侧的不同的块提供。该决定利用指示位通知图像预测解码装置。这里,最小位使用规则用于在不同的多个预测方法中决定预测方法,在应用各预测方法后,计数将块进行编码所使用的位量。作为结果,将造成所使用的最小位量的方法选择为应使用的预测方法。
另外,DCT变换区域预测可以在量化处理之后和量化处理之前进行。
(实施例5)
图16是表示本发明实施例5的图像预测编码装置的结构的框图。图16的图像预测编码装置的特征在于,DCT变换区域预测处理在量化处理之后进行。
在图16中,对于输入的图像信号先由块采样单元1012进行块采样。并且,在内部帧编码中,采样的块图像数据不进行加法器1013的处理,而通过加法器1013输入到DCT变换单元1014。另一方面,在预测帧编码中,加法器1013将从动检测和补偿单元1025输出的动检测图像数据从采样的块图像数据中减去,并将减法结果的图像数据向DCT变换单元1014输出。并且,在由单元1014进行DCT变换处理后,由单元1015进行量化处理。
DCT变换区域预测处理由单元1017进行,1018是用于存储为了预测前面已解码的块的块存储器。加法器1016将从DCT变换区域预测单元1017输出的已解码的相邻块从量化单元1015输出的现时刻的DCT变换块中减去。该已编码的相邻的块的决定在DCT变换区域预测单元1017中进行。最后,对于已预测的DCT变换块,由单元1020进行熵VLC编码处理,已编码的位写入位流中。
加法器1019通过将预测所使用的前面的相邻的块与预测块相加,对现时刻的DCT变换块进行解码。其次,对于已解码的DCT变换块,逆量化处理和逆DCT变换处理分别在单元1021和1022中进行。局部已解码的从逆DCT变换单元1022输出的块的图像数据输入加法器1023。加法器1023通过将前面的帧的图像数据与已解码的块的图像数据相加,获得再构筑的图像数据并将其存储到帧存储器1024中。动检测和补偿处理由单元1025进行。为了存储动检测和补偿处理用的前面的帧,使用帧存储器1024。
(实施例6)
图17是表示本发明实施例6的图像预测编码装置的结构的框图。图17的图像预测编码装置的特征在于,在量化处理之前进行DCT变换区域预测处理。对于输入的图像信号,在单元1026中进行块采样处理。其次,加法器1027为了预测帧编码而进行减法运算,减法结果的图像数据通过DCT变换单元1028、加法器1029和量化单元1030向熵VLC编码单元1034和逆量化单元1033输出。
块存储器1032存储为了单元1031的DCT变换区域预测处理而使用的前面块的图像数据。由加法器1029,将从DCT变换单元1028输出的现时刻的DCT变换块的图像数据从按照最小位使用规则由DCT变换区域预测单元1031所选择的前面的DCT变换块中减去。减法结果的DCT变换块的图像数据由量化单元1030进行量化处理后,向逆量化单元1033和熵VLC编码单元1034输出。逆量化单元1033通过对输入的已量化的DCT变换块的图像数据进行逆量化处理而进行解码,并向加法器1055输出。加法器1055将已解码的DCT变换块的图像数据与DCT变换区域预测单元1031的前面的DCT变换块的图像数据相加,将加法结果的前面的块的图像数据存储到块存储器1032中,同时向逆DCT变换单元1036输出。
逆DCT变换单元1036对从加法器1035输入的前面的块的图像数据进行逆DCT变换处理,并将变换处理后的已解码的图像数据向加法器1037输出。加法器1037将从动检测和补偿单元1025输出的前面的帧的图像数据与从逆DCT变换单元1036输出的已解码的图像数据相加,将加法结果的图像数据暂时存储到帧存储器1038中后,向动检测和补偿单元1025输出。
B1.模式决定的一般的说明
图18是表示图16和图17的DCT变换区域预测电路1017、1031的结构的框图。
在图18中,1040是存储预测所使用的前面的相邻的块的图像数据的块存储器。将处理对象的现时刻的当前块输入到单元1041,单元1041将输入的当前块的图像数据从由块存储器1040存储的前面相邻的DCT变换块中减去,得到如下4种预测DCT变换块的图像数据。
(a)由1042所示的No-Pred块、
(b)由1043所示的Up-Pred块、
(c)由1044所示的Left-Pred块、
(d)由1045所示的Other-Pred块。
这里,用2位表示上述4种块。即,例如“00”表示No-Pred块,“01”表示Up-Pred块,“10”表示Left-Pred块,“11”表示Other-Pred块。
No-Pred块是无预测时的现时刻的DCT变换块的图像数据本身。Up-Pred块表示预测使用的块是上方相邻的DCT变换块B2时得到的预测块的图像数据。Left-Pred块表示预测使用的块是左侧相邻的DCT变换块B4时得到的预测块的图像数据。Other-Pred块表示预测只对DC系数进行时的预测块的图像数据。在Other-Pred的情况下,存在2种预测方法。即,Up-DC-Pred(1046)表示根据上方相邻的DCT变换块B2只对DC系数进行预测时得到的预测块的图像数据。Left-DC-Pred(1047)表示根据左侧相邻的DCT变换块B4只对DC系数进行预测时得到的预测块的图像数据。对于这两种情况,为了指示还需要1位。例如,使用“0”表示Up-DC-Pred(1046),使用“1”表示Left-DC-Pred(1047)。
基于倾斜方向相邻的块B1、B3的预测也是可能的,但是,该预测结果没有利用上方或左侧的块预测的那样好,所以在本实施例中不使用。
对于全部已预测的块,通过由单元1048进行实际的熵编码处理而进行检查。在单元1049中对在不同的已预测的块中使用的位进行比较。最后,单元1050根据最小位使用规则决定已预测的DCT变换块,与指示位一起输出已预测的DCT变换块。即,选择位数最小的已预测的DCT变换块。
B2.模式决定的实施
图19是表示图18的DCT变换区域预测电路的DC/AC预测的编码方法的一例的图像的模式图。
在图19中,对于实际使用,图示出了前面已定义的DC/AC已预测的图像数据的部分集合。当前块1101是当前宏块的上部左侧的8×8块,当前块1102是当前宏块的上部右侧的8×8块。A和B是与当前块1101相邻的8×8块。当前块1101的所强调的上部行和左列分别根据相邻块即A和B的同一场所进行预测。即,当前块1101的最上一行根据其上面的块A的最上一行进行预测,当前块1101的左列根据其左边的块B的左列进行预测。按照同样的顺序,当前块1102根据其上面的块D和其左边的当前块1进行预测。
设C(u,v)为应编码的块,Ei为模式i时的预测误差,假定是将预测值从A(u,v)和/或B(u,v)的各块中减去而求出的。在实际的实施中,只使用在B1节所述的频度最多的3个模式。
(a)模式0:只预测DCE0(0,0)=C(0,0)-(A(0,0)+B(0,0))/2,E0(u,v)=C(u,v),
u≠0;v≠0;u=0,…,7;v=0,…,7 …(1)
(b)模式1:根据上侧块预测DC/ACE1(0,)=C(0,)-A(0,),v=0,…,7,E1(u,v)=C(u,v),
u=1,…,7;v=0,…,7 …(2)
(c)模式2:根据左侧块预测DC/ACE2(u,0)=C(u,0)-B(u,0),u=0,…,7,E2(u,v)=C(u,v),
u=0,…,7;v=1,…,7. …(3)
模式的选择通过对宏块的4个亮度信号的块计算已预测的误差的绝对值之和SAD
modei并选择具有其中最小值的模式而进行。
i=0,…,2;b=0,…,3;u,v=1,…,7
…(4)
模式的决定与以不同的编码位速率为目标的应用程序的不同有关,可以利用块基线和宏块基线进行。模式使用下表1的可变长代码进行编码。
表1 DC/AC模式用VLC表
系数 |
DC/AC预测模式 |
VLC代码 |
0 |
0(仅DC) |
0 |
1 |
1(垂直DC和AC) |
10 |
2 |
2(水平DC/AC) |
11 |
在量化处理后进行DC/AC预测时,在先行的水平方向的相邻块或垂直方向的相邻块中,通常由于使用的量化的步长不同,所以,为了正确地进行DC/AC预测,需要用于换算已量化的DCT变换系数的几种加权系数。
设QacA为块A(参见图19)的已量化的DCT变换系数、QacB为块B(参见图19)的已量化的DCT变换系数。设QstepA为块A的量化所使用的量化步长,则QstepB就是块B的量化所使用的量化步长,QstepC就是当前块C的量化所应使用的量化步长,因此,换算方程如下:Q’acA=(QacA×QstepA)/QstepC …(5)Q’acB=(QacB×QstepB)/QstepC …(6)
这里,Q’acA是根据块A的DCT变换系数,在当前块C的最上一行的预测中使用。另外,Q’acB是根据块B的DCT变换系数,在当前块C的左列的预测中使用。
(实施例7)
图20是表示本发明实施例7的图像预测解码装置的结构的框图。
在图20中,将图像预测编码装置的位流输入到熵VLD解码单元1051,进行可变长解码。已解码的图像数据由加法器1052通过与DCT变换区域预测单元1053的前面相邻的DCT变换块的图像数据相加,复原DCT变换块的图像数据。前面相邻的DCT变换块根据从位流中取出的指示位而知道是哪个块,在单元1053中用于进行预测。1054是用于存储预测所使用的相邻的DCT变换块的块存储器。从加法器1052得到的已复原的DCT变换块向逆DCT变换单元1055输出。逆DCT变换单元1055通过对输入的DCT变换块进行逆DCT变换处理而生成已复原的DCT变换系数的图像数据,并向加法器1056输出。加法器1056通过将逆DCT变换单元1055的已复原的图像数据与动检测和补偿单元1057的前面的帧的图像数据相加,生成已动检测和补偿并且已解码的图像数据并输出。该已解码的图像数据暂时存储到存储用于动检测和补偿的前面帧的图像数据的帧存储器中后,向动检测和补偿单元1057输出。动检测和补偿单元1057对输入的图像数据进行动检测和补偿处理。
此外,从加法器1056输出的已解码的图像数据通过与图16和图17的块采样单元1012、1026的处理对应的相反的复原处理,而复原原来的图像数据。
另外,1059是逆量化单元,如图17所示,在量化处理前进行DCT变换区域预测处理时,该逆量化单元1059插入到图20的1059a的位置,另一方面,如图16所示,在量化处理后进行DCT变换区域预测处理时,该逆量化单元1059就插入到图20的1059b的位置。
图21是表示图20的图像预测解码装置的DC/AC预测的解码方法的流程图。即,在图21中,图示了取得DC/AC预测模式、根据相邻的DC/AC预测值再构成DCT变换系数的位流的解码的详细情况。
首先,在步骤1059,根据输入的位流将指示位进行解码,在步骤1060,检查指示位的标志,如果标志为「0」,就在步骤1061根据上侧块和左侧块的图像数据的平均值计算Dc值,并进入步骤1063。若在1060为“否”,就进入步骤1062,在步骤1062,如果检查的指示标志为「10」,就在步骤1063抽出左侧块的左列的图像数据,并进入步骤1065。若在步骤1062为“否”,就进入步骤1064,在步骤1064,如果检查的指示标志为「11」,就在步骤1065抽出上侧块的最上一行的图像数据,并进入步骤1066。最后,在步骤1066,将在步骤1061、1063或1065取得或抽出的DCT变换系数与当前块的对应DCT变换系数相加。
下面,说明本实施例组的变形例。
(a)上述块采样单元1012、1026也可以包括交替地插入像素的交叉处理,以使4个块组中的二维排列的像素在第1块中由位于奇数行的奇数像素构成,在第2块中由位于奇数行的偶数像素构成,在第3块中由位于偶数行的奇数像素构成,在第4块中由位于偶数行的偶数像素构成。
(b)上述预测块存储到上述块存储器中,是前面已复原的块,从位于与已编码的当前块相邻的块中进行选择,可以选择块中所有的变换系数。
(c)上述预测块存储到上述块存储器中,是前面已复原的块,从位于与已编码的当前块相邻的块中进行选择,可以将预先决定的子集合选择为块的变换系数。
(d)上述预测块存储到上述块存储器中,是前面已复原的块,从位于与已编码的当前块的上方和左侧相邻的块中进行选择,可以只使用该块的最上一行和该块的最左一列的变换系数,其余的变换系数可以设定为0。
(e)上述预测块存储到上述块存储器中,是前面已复原的块,从位于已编码的当前块的附近的块中进行选择,各块的变换系数可以用不同的加权函数进行加权。
(f)上述预测块存储到上述块存储器中,是前面已复原的块,从位于已编码的当前块的附近的块中进行选择,可以对各块的变换系数进行变换运算。
(g)上述预测块存储到上述块存储器中,是前面已复原的块,可以求位于已编码的当前块的附近的多个块的加权平均。
(h)根据已解码的图像数据,由交叉的4个块构成的多个组形成二维排列的像素并复原原来的图像数据时,可以对上述已解码的图像数据进行逆交叉处理,以使位于奇数行的奇数像素全部根据第1块求取,位于奇数行的偶数像素根据第2块求取,位于偶数行的奇数像素根据第3块求取,位于偶数行的偶数像素根据第4块求取。
如上所述,若按照本发明的本实施例组,则在用以去除或减少相邻的块间的DCT变换区域的冗长性方面有很大的效果,结果,可以减少使用的位数,从而最终可以大大改善编码效率。作为详细的图像预测编码装置的例子,参照图18,预测处理最好只通过使用上侧或左侧的相邻的块而进行。
对于包含QCIF的序列,对上位位速率编码可以节约6.4%的位,对下位位速率编码可以节约20%的位。另外,例如对于Akiyo、Mother和Daughter等试验序列等其他QCIF序列可以节约约10%的位。此外,对于CIF和CCIR序列可以节约更多的位。
如上所述,按照本发明的第2实施例组,可以提供增大现时刻的编码效率的新的图像预测编码装置和图像预测解码装置。在该装置中,提高编码效率不需要复杂的装置,其电路结构可以非常简单而容易地形成。第3实施例组
第3实施例组包括实施例8。
本发明者鉴于先有技术的问题,考虑通过不仅削减2个图像间或1个图像内的块的内部的冗长性而且削减图像内的块间的冗长性、同时通过适当地采用块的扫描方式来改善图像编码效率的冗长性。
我们发现,即使是相同的位置,相邻的块中的DCT变换系数在多数情况下是非常相似的。在对2个块的原图像的性质非常相似时或者水平或垂直线、对角线以及其他图像图案包含相同的内容时,可以说上述情况是正确的。根据信息理论的观点,相同的信息就意味着冗长性。
超出块之外在DCT变换区域中存在的冗长性可以通过以前的块的自适应预测而除去或削减。这就是VLC熵编码可以获得比预测误差信号小的熵的更高的编码效率的结果。
同时,水平和垂直的结构成为重要的DCT变换系数集中在最左侧的列和最上一行的变换块中的结果,是众所周知的。因此,本发明的实施例根据预测模式通过使扫描自适应化,就可以解决系数的扫描中的上述问题。
本发明的实施例提供根据其他的块自适应地预测当前块的DCT变换系数、从而去除块间的冗长性的方法。预测误差的信息,在进一步减小量化DCT变换系数的熵的预测模式中通过使扫描方法自适应化而进而缩小。结果,可以削减用于对DCT变换系数进行编码的位的数。
为了解决该问题,可以根据利用各预测和扫描方法而发生的实际的位速率得到进行预测模式的决定的方法。
本发明的实施例提供预测现在的当前块的DCT变换系数的方法。DCT变换有对相同的块的图像数据给予相同的值或相同的DCT变换系数的分布的倾向,所以,当前块通常保持着与其他相邻的块中的DCT变换系数的良好相互关系。
输入的图像数据是内部帧或暂时预测的帧中的某一个,首先,对输入的图像数据进行以通常块为基础的DCT变换处理。在得到当前块的DCT变换系数后,可以在量化前或量化后进行DCT变换区域的预测。
当前块中的DCT变换系数,可以根据在上方的左侧位于对角线方向(倾斜方向)的以前相邻的块进行预测。如图23所示,它们在该时刻已进行了解码。已预测的块通过从当前块的相同位置的DCT系数中减去以前相邻的块的1个或1个以上的DCT系数来发生已预测的误差信号。
如果在量化处理之前进行预测,则不同的预测模式的预测误差信号就进行量化处理。已量化的预测误差信号在进行熵编码之前对序列的(一连串的)图像数据进行扫描。根据最小位使用规则,选择已预测的块、即具有最小的位的预测块。该块的编码数据与所使用的预测模式一起向图像预测解码装置传送。
图像预测解码装置利用所使用的预测模式和块的已编码的数据对已预测的块进行解码。在对块的已编码的数据进行相反的熵解码后,已量化的预测误差按照所使用的扫描方式进行反向扫描。如果在预测处理之后进行量化处理,就对块进行逆量化处理。再构筑的块可以通过将由预测模式指示的以前已解码的相邻的块中的DCT变换系数与现在的DCT变换系数相加而得到。另一方面,如果在预测处理之前进行量化处理,就对再构筑的系数进行逆量化处理。最后,逆DCT变换处理对各块应用于再构筑的DCT变换系数,可以获得已解码的图像。
本发明的实施例提供减少超出相邻的块之外而在DCT变换区域中存在的冗长性的图像预测编码装置和图像预测解码装置。
(实施例8)
图24是表示本发明实施例8的图像预测编码装置的结构的框图。图24的图像预测编码装置与图22的先有技术的图像预测编码装置相比,其特征在于具有:
(a)加法器2035、
(b)H/V/Z扫描单元2036、
(c)加法器2038、
(d)块存储器2039、和
(e)具有量化换算的DCT变换区域预测单元2040。
在内部帧编码(帧内编码)中,对于输入的图像信号,在由单元2031进行块采样处理后,直接由单元2033进行DCT变换处理。其次,由单元2034对从DCT变换单元2033输出的DCT变换系数进行量化处理。另一方面,在内部帧编码或帧间编码(预测帧编码)中,在单元2031的块采样处理后,加法器2032将从动检测和补偿单元2045输出的图像数据从块采样处理后的图像数据中减去,得到预测误差数据。然后,该预测误差数据通过进行DCT变换处理的DCT变换单元2033和进行量化处理的量化单元2034向加法器2035输出。DCT变换系数通过单元2040的DCT变换区域处理而进行预测,将已预测的DCT变换系数输入加法器2035。加法器2035将DCT变换区域预测单元2040的已预测的DCT变换系数从量化单元2034的DCT变换系数中减去,并将减法结果的预测误差的DCT变换系数向H/V/Z扫描单元2036和加法器2038输出。H/V/Z扫描单元2036按照所选择的预测模式,对输入的DCT变换系数自适应地进行水平扫描、垂直扫描或锯齿形扫描,并将扫描处理后的DCT变换系数向熵VLC编码单元2037输出。其次,熵VLC编码单元2037对输入的DCT变换系数进行熵VLC编码处理,并将已编码的位流向接收一侧或再生一侧的图像预测解码装置传送。
加法器2038通过将从加法器2035输出的已量化的DCT变换系数与DCT变换区域预测单元2040的已预测的DCT变换系数相加,而得到已复原的量化DCT变换系数数据。该量化DCT变换系数数据向块存储器2039和逆量化单元2041输出。
在设置在该图像预测编码装置中的局部解码器中,加法器2038的已复原的DCT变换系数数据为了进行下一个预测而暂时存储到存储1个块的数据的块存储器2039中后,向DCT变换区域预测单元2040输出。逆量化单元2041将输入的量化DCT变换系数进行逆量化处理,并向逆DCT变换单元2042输出,然后,逆DCT变换单元2042对输入的已复原的DCT变换系数进行逆DCT变换处理,将现时刻的块的图像数据复原后向加法器2043输出。
在帧间编码中,为了生成已局部解码的图像数据,加法器2043将由动检测和补偿单元2045进行了动检测和补偿的图像数据与逆DCT变换单元2042的已复原的图像数据相加,得到已局部解码的图像数据,并存储到局部解码器的帧存储器2044中。加法器2043、帧存储器2044、动检测和补偿单元2045的结构及处理和图22的先有技术的单元2009、2010、2011相同。
最后,位流从熵编码单元2037输出,向图像预测编码装置传送。
图25是表示本发明实施例8的图像预测解码装置的结构的框图。图25的图像预测解码装置和图23的先有技术的图像预测解码装置相比,其特征在于具有:
(a)H/V/Z扫描单元2052、
(b)加法器2053、
(c)DCT变换区域预测单元2055、和
(d)块存储器2054。
在图25中,图像预测编码装置的位流在可变长解码器单元2051中进行解码。将已解码的数据输入到H/V/Z逆扫描单元2052,按照扫描模式,分别按水平逆方向、垂直逆方向或锯齿形逆方向进行扫描。将扫描处理后的数据输入到加法器2053,加法器2053通过将逆扫描处理后的数据与DCT变换预测单元2055的预测误差数据相加,得到已解码的DCT变换系数数据,并将其向逆量化单元2056输出,同时,将其存储到块存储器2054中。其次,逆量化单元2056将输入的已编码的DCT变换系数数据进行逆量化处理,得到已逆量化的DCT变换系数,并向逆DCT变换单元2057输出。逆DCT变换单元2057对输入的DCT变换系数数据进行逆DCT变换处理,复原原来的图像数据,并向加法器2058输出。在帧间编码中,加法器2058将逆DCT变换单元2057的图像数据与动检测和补偿单元2060的预测误差数据相加,得到局部地已解码的图像数据,并向外部装置输出,同时,存储到帧存储器2059中。
此外,从加法器2058输出的已解码的图像数据通过与图24的块采样单元2031的处理对应的逆向的复原处理,复原为原来的图像数据。
在上述实施例中,量化处理在预测处理之前进行。在变形例中,也可以在预测处理之后进行量化处理。这时,在局部解码器和图像预测解码装置中,在将预测值相加之前进行逆量化处理。其他详细情况全部和上述实施例相同。
图26是表示在实施例8中根据块分割而得到的帧的宏块和块的结构的图,并且是表示块预测方法的图像的模式图。图26的放大图表示对当前块的预测数据是怎样编码的。这里,块C(u,v)可以根据上侧相邻的块A(u,v)和左方向相邻的块B(u,v)得到。下面,更详细地说明本发明的该实施例。
C1.预测所使用的系数的序号
预测所使用的系数的序号与图像数据的序列有关。标志AC-Coeff用于自适应地选择各图像所使用的系数的最佳的数。标志列于下面的表2中,作为侧边信息的一部分从图像预测编码装置向图像预测解码装置传送。与标志AC_Coeff对应的固定长代码和FLC示于表2。这里,FLC(Fixed Length Coding;固定长编码)是为了表示所有的可能事件而分配固定长的代码字的可逆编码。
表2.与标志AC-Coeff对应的固定长代码、FLC
系数 |
AC-Coeff(预测用) |
FLC |
0 |
仅DC |
000 |
1 |
DC+AC1 |
001 |
2 |
DC+AC1+AC2 |
010 |
3 |
DC+AC1+AC2+AC3 |
011 |
4 |
DC+AC1+AC2+AC3+AC4 |
100 |
5 |
DC+AC1+AC2+AC3+AC4+AC5 |
101 |
6 |
DC+AC1+AC2+AC3+AC4+AC5+AC6 |
110 |
7 |
DC+AC1+AC2+AC3+AC4+AC5+AC6+AC7 |
111 |
这里,ACn与所使用的代码有关,是A(0,n)或B(n,0)。
在本实施例的特别的情况下,最上一行和最左一列的所有的AC系数用于进行预测。在此情况下,在默认缺省值时,图像预测编码装置和图像预测解码装置都不需要标志。
C2.量化步长的换算
相邻的块使用当前块的不同的量化步长尺寸时,AC系数的预测不那么有效。因此,该预测方法变形为预测数据根据现在的当前块的量化步长尺寸之比和预测数据的块的量化步长之比进行换算。该定义使用以下的节C3.的方程式给出。
C3.预测模式
设定的多个模式如下:
(a)模式0:根据处理块进行上侧块的DC预测(简称为「上DC模式」)E0(0,0)=C(0,0)-A(0,0),E0(u,v)=C(u,v) …(7)
(b)模式1:根据处理块进行左侧的块的DC预测(简称为「左DC模式」)E1(0,0)=C(0,0)-B(0,0),E1(u,v)=C(u,v) …(8)
(c)模式2:根据处理块进行上侧的块的DC/AC预测(简称为「上DC/AC模式」)E2(0,0)=C(0,0)-A(0,0),E2(0,v)=C(0,v)-A(0,v)·QA/QC,
v=1,2,…,AC_Coeff,E2(u,v)=C(u,v) …(9)
(d)模式3:根据处理块进行左侧的块的DC/AC预测(简称为「左DC/AC模式」)E3(0,0)=C(0,0)-B(0,0),E3(u,0)=C(u,0)-B(u,0)·QB/QC
u=1,2,…,AC_Coeff,E3(u,v)=C(u,v) …(10)
C4.自适应的水平/垂直/锯齿形扫描
如果给定以上4个预测模式,帧内编码的效率通过采用系数的扫描就可以进一步改善。
图27、图28和图29分别是用于说明实施例8的系数扫描所使用的水平扫描、垂直扫描和锯齿形扫描的顺序的图像的模式图。这里,这些扫描可以集中地作为H/V/Z扫描而参照。
C5.明显的模式决定
在明显的模式决定中,预测模式的决定在图像预测编码装置中进行,该决定信息使用位流的几个已编码的位信息,从图像预测编码装置向图像预测解码装置明显地传送。
图30是表示实施例8使用的模式决定处理的流程图。
在图30中,将当前块的DCT变换系数输入到单元2062,单元2062通过将输入的当前块的DCT变换系数数据从块存储器2061的相邻块的DCT变换系数数据中减去而进行DCT变换预测处理。在单元2062中,按照在节C3.中说明的4个模式进行DCT变换预测处理。其次,在H/V/Z扫描单元2063中,进行系数的扫描处理,这里,如图30所示,进行在节C4.中说明的各对应的扫描处理。此外,扫描处理后的DCT变换系数数据向熵编码单元2064传送,在这里进行可变长编码处理。然后,在单元2065中,将按不同的模式发生的所有的位进行比较,在单元2066中,选择发生最少的位的预测模式的DCT变换系数的块。这些DCT变换系数数据的位与预测模式的值一起从单元2066作为位流向图像预测解码装置传送。预测模式使用如下表3的固定长代码进行编码。
表3. DC/AC/扫描模式用的FLC表
系数 |
DC/AC模式 |
扫描模式 |
FLC代码 |
0 |
上DC |
锯齿形扫描 |
00 |
1 |
左DC |
锯齿形扫描 |
01 |
2 |
上(DC+AC) |
水平扫描 |
10 |
3 |
左(DC+AC) |
垂直扫描 |
11 |
C6.默认模式的决定
在模式决定的实施例2中,图像预测编码装置和图像预测解码装置共同具有相同的预测模式决定功能。图像预测编码装置和图像预测解码装置都根据与当前块相邻的已解码的块的DC系数值决定与预测模式的决定有关的方向性。即,在默认模式的决定中,默认模式的决定使用几个规则,在图像预测编码装置和图像预测解码装置中进行。并且,表示模式决定的附加的信息数据不从图像预测编码装置向图像预测解码装置传送。
图31是表示实施例8的默认模式决定中块的关系的图像的模式图。即,图31表示各块与预测对象即当前块的位置关系。
在图31中,块C是现在预测中的处理对象的当前块。块A是预测中的当前块C的上侧的块。块B是位于当前块C左侧的块。块C’是位于与当前块C对角位置的块A和块B之间的块。
首先,决定DC的方向。使用个别的决定方法,和AC系数一样决定是否在预测中。为了进行决定,将预测系数的绝对值之差的总和与非预测系数的绝对值进行比较,判断哪个小。向图像预测解码装置的该指示使用1位。在是否已预测了DC预测的方向性和AC系数的决定中,使用以下公式。表3是有可能的4个结论的归纳。
(A1)如果
(B(0,0)-C’(0,0)<C’(0,0)-A(0,0))
…(11)时,则E(0,0)=C(0,0)-A(0,0) …(12)
(a1)如果
时,则E(0,v)=C(0,v)-A(0,v)·Q
A/Q
C,v=1,…,7,
…(14)(a2)如果上述(13)式不成立,则E(0,v)=C(0,v) …(15)(A2)如果上述(11)式不成立,则E(0,0)=C(0,0)-B(0,0) …(16)(b1)如果
时,则E(u,0)=C(u,0)-B(u,0)·Q
B/Q
C,v=1,…,7,
…(18)(b2)如果上述(17)式不成立,则E(u,0)=C(u,0) …(19)此外,对于其他所有的系数,则E(u,v)=C(u,v) …(20)表4.默认决定的DC/AC扫描模式用的FLC表
FLC |
默认决定 |
DC/AC扫描模式 |
00 |
|B(0,0)-C’(0,0)|<|C’(0,0)-A(0,0)| |
上DC锯齿形扫描 |
01 |
|B(0,0)-C’(0,0)|≥|C’(0,0)-A(0,0)| |
左DC锯齿形扫描 |
10 |
|B(0,0)-C’(0,0)|<|C’(0,0)-A(0,0)| |
上水平扫描(DC+AC) |
11 |
|B(0,0)-C’(0,0)|≥|C’(0,0)-A(0,0)| |
左垂直扫描(DC+AC) |
在上述实施例8中,DCT变换系数预测处理由单元2040对已量化的变换系数数据进行,但是,本发明不限于此,和图17的实施例6一样,也可以对未量化的变换系数数据进行。这时,在对应的图像预测解码装置中,在图25中,将逆量化单元2056,移动插入到逆扫描单元2052和加法器2053之间。
下面,说明实施例8的变形例。
(a)块采样单元2031也可以包含交替地插入像素的交叉处理,以使4个块组中的二维排列的像素在第1块中由位于奇数行的奇数像素构成,在第2块中由位于奇数行的偶数像素构成,在第3块中由位于偶数行的奇数像素构成,在第4块中由位于偶数行的偶数像素构成。
(b)上述预测块存储到上述块存储器中,是以前已复原的块,从位于与已编码的当前块相邻的块中选择,也可以选择块中的所有的系数数据。
(c)上述预测块存储到上述块存储器中,是以前已复原的块,从位于与已编码的当前块相邻的块中选择,也可以选择预先决定的子集合作为块的系数数据。
(d)上述预测块存储到上述块存储器中,是以前已复原的块,从位于与已编码的当前块的上方和左侧相邻的块中选择,可以只使用该块的最上一行和该块的最左一列的系数数据,将其余的系数数据设定为0。
(e)上述预测块存储到上述块存储器中,从以前已复原的块中按照上述基准进行选择,也可以通过图像预测编码装置与图像预测解码装置进行通信来决定使用只包含该块的最上一行或最左一列的1个或1个以上的系数数据的子集合。
(f)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,也可以通过图像预测编码装置决定使用只包含该块的最上一行或最左一列的1个或1个以上的系数数据的子集合,并将表示所决定的子集合和系数数据的数的标志周期性地插入向图像预测解码装置发送的数据中,通知图像预测解码装置。
(g)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,各块的系数数据也可以按照和已编码的当前块的量化步长尺寸与预测块的量化步长尺寸之比相等的比进行乘法运算。
(h)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,各块的系数数据也可以用不同的加权函数进行加权。
(i)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,也可以对各块的系数数据进行指定的变换运算。
(j)上述预测块与已编码的当前块相邻,存储到上述块存储器中,也可以作为以前已复原的块的加权平均值而得到。
(k)扫描方法可以包括
(I)系数数据每一行从左向右、从最上一行开始到最下一行结束而扫描的水平扫描、
(II)系数数据每一列从最上一行向最下一行、从最左一列开始到最右一列结束而扫描的垂直扫描、
(III)系数数据从最上一行的最左的系数数据向最下一行的最右的系数数据、沿对角线方向扫描的锯齿形扫描中的至少1种扫描方法。
(1)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,上述预测块的预测模式包括
(i)只将表示位于处理对象的当前块的上侧的块的、称为DC系数的该块的平均值的最上和最左的系数数据用于进行预测的第1模式、
(ii)只将位于处理对象的当前块的左侧的块的DC系数用于进行预测的第2模式、
(iii)将位于处理对象的当前块的上侧的块的最上一行的DC系数和包含高频成分的0个或0个以上的AC系数用于进行预测的第3模式、
(iv)将位于处理对象的当前块的左侧的块的最左一列的DC系数和包含高频成分的0个或0个以上的AC系数用于进行预测的第4模式中的至少1个预测模式,上述预测误差的系数数据也可以用锯齿形扫描的扫描方法进行扫描。
(m)上述预测块存储到上述块存储器中,根据以前已复原的块按照上述基准进行选择,上述预测误差的系数数据按照上述扫描方法中的1种进行扫描,预测上述预测误差的系数数据的预测方法可以包括
(i)只将位于处理对象的当前块的上侧的块的DC系数用于进行预测、对上述预测误差的系数数据用锯齿形扫描进行扫描处理的第1模式、
(ii)只将位于处理对象的当前块的左侧的块的DC系数用于进行预测、对上述预测误差的系数数据用锯齿形扫描进行扫描处理的第2模式、
(iii)将位于处理对象的当前块的上侧的块的最上一行的DC系数和包含高频成分的0个或0个以上的AC系数用于进行预测、对上述预测误差的系数数据用水平扫描进行扫描处理的第3模式、
(iv)将位于处理对象的当前块的左侧的块的最左一列的DC系数和包含高频成分的0个或0个以上的AC系数用于进行预测、对上述预测误差的系数数据用垂直扫描进行扫描处理的第4模式中的至少1种。
(n)根据上述已解码的图像数据,从由交叉的4个块构成的多个组形成二维排列的像素从而复原为原来的图像数据时,为了使位于奇数行的奇数像素全部根据第1块来求取、位于奇数行的偶数像素根据第2块来求取、位于偶数行的奇数像素根据第3块来求取、位于偶数行的偶数像素根据第4块来求取,也可以对上述已解码的图像数据进行逆交叉处理。
(o)图像预测编码装置和图像预测解码装置也可以使用预先决定的同一规则来决定上述预测模式。
(p)图像预测编码装置和图像预测解码装置也可以使用预先决定的同一规则来决定上述扫描方法。
如上所述,按照本发明的第3实施例组,削减或去除超出相邻的块之外而在DCT变换区域中存在的冗长性是非常有效的,可以削减使用位的位数,从而可以大幅度地改善编码的效率。作为新的视频压缩算法语言的工具,这也是有用的。
在以上的实施例中,说明了图像预测编码装置和图像预测解码装置,但是,本发明不限于此,既可以是包括将上述图像预测编码装置的各部分、各单元等结构要素分别置换为各步骤的步骤的图像预测编码方法,也可以是包括将上述图像预测解码装置的各部分、各单元等结构要素分别置换为各步骤的步骤的图像预测解码方法。这时,例如,上述图像预测编码方法和/或上述图像预测解码方法的各步骤作为程序存储到存储装置中,微处理器单元(MPU)、中央运算处理装置(CPU)等控制器通过执行该程序进行图像预测编码处理和/或上述图像预测解码处理。
另外,本发明也可以是记录包括上述图像预测编码方法和/或上述图像预测解码方法的各步骤的程序的记录媒体。该记录媒体具有例如记录区域分割为扇形的或记录区域涡旋形状分割为各块的圆盘形状,例如是CD-ROM、DVD等光盘或光磁盘或者软盘等磁记录盘。产业上利用的可能性
如上所述,按照本发明的图像预测编码装置,具有:
分割单元,将输入的编码图像数据分割为相互相邻的多个小区域的图像数据;
第1生成单元,在由上述分割单元分割的相互相邻的多个小区域的图像数据中对处理对象的小区域的图像数据进行编码时,将与上述处理对象的小区域的图像数据相邻的已再生过的再生小区域的图像数据作为上述处理对象的小区域的画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而生成上述处理对象的小区域的图像数据与上述最佳预测小区域的图像数据的差分、即差分小区域的图像数据;
编码单元,对由上述生成单元生成的差分小区域的图像数据进行编码;
解码单元,对由上述编码单元所编码的差分小区域的图像数据进行解码;和
第2生成单元,通过将由上述解码单元解码的差分小区域的图像数据与上述最佳预测小区域的图像数据相加,生成已进行了再生的再生小区域的图像数据。
因此,仅将与处理对象的小区域的图像数据相邻的已再生的像素值作为画面内预测序号的像素值,与先有技术相比,就可以用低的运算量简单地生成高精度的预测信号,从而可以获得可以削减帧内编码的位数的特有的效果。
另外,按照本发明的图像预测编码装置,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据,并将表示上述选择的预测块的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据减去,输出减法结果的预测误差的系数数据;
量化单元,对从上述第1加法单元输出的预测误差的系数数据进行量化处理;
编码单元,对上述量化单元的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,对上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第2加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,输出已解码的块的系数数据,同时将其存储到上述块存储器中;和
逆变换单元,通过将从上述第2加法单元输出的块的系数数据进行逆变换而生成已解码的块的图像数据。
因此,可以提供使现时刻的编码效率增大的新的图像预测编码装置和图像预测解码装置。在该装置中,不需要用于提高编码效率的复杂的装置,该电路结构可以非常简单而容易地形成。
此外,按照本发明的图像预测编码装置,具有:
采样单元,将输入的图像信号采样为分别包含二维排列的像素值的多个块的图像数据;
变换单元,将由上述采样单元采样的块的图像数据变换为指定的变换区域的系数数据;
块存储器,存储已解码的块的系数数据;
预测单元,根据在存储到上述块存储器中之前再构筑的块的系数数据,对由上述变换单元变换的块的系数数据形成多个预测块的系数数据;
决定单元,从由上述预测单元形成的多个预测块的系数数据中决定选择并输出效率最好的预测块的系数数据和扫描方法,并将表示上述选择的预测块和扫描方法的标识符按指示位的形式向图像预测解码装置发送;
第1加法单元,通过将由上述决定单元选择的预测块的系数数据从现时刻的当前块的系数数据中减去,输出减法结果的预测误差的系数数据;
量化单元,将从上述第1加法单元输出的预测误差的系数数据进行量化处理;
扫描单元,对上述量化单元的预测误差的系数数据,按照由上述决定单元决定的扫描方法进行扫描处理,并输出扫描处理后的预测误差的系数数据;
编码单元,将从上述扫描单元输出的扫描处理后的预测误差的系数数据进行熵编码,并将已编码的预测误差的系数数据向图像预测解码装置发送;
逆量化单元,将上述量化单元的预测误差的系数数据进行逆量化处理,并输出已解码的块的系数数据;
第2加法单元,通过将从上述决定单元输出的预测块的系数数据与从上述逆量化单元输出的预测误差的系数数据相加,输出已解码的块的系数数据,同时,将其存储到上述块存储器中;和
逆变换单元,通过对从上述第2加法单元输出的块的系数数据进行逆变换,生成已解码的块的图像数据。
因此,削减或去除超出相邻的块之外而在变换区域中存在的冗长性是非常有效的,可以削减使用位的位数,从而可以大幅度地改善编码的效率。作为新的视频压缩算法语言的工具,这也是有用的。
权利要求书
按照条约第19条的修改
1.(删除)
2.(删除)
3.(删除)
4.(删除)
5.(删除)
6.(删除)
7.(删除)
8.(删除)
9.(修正后)一种图像预测编码装置,包括:
分割单元,将由结构信号和表示上述结构信号是否有意义的形状信号构成而输入的任意形状的编码图像数据分割为相互相邻的多个小区域的图像数据;
第1生成单元,在由上述分割单元分割的相互相邻的多个小区域中对处理对象的小区域进行编码时,只将与上述处理对象的小区域的图像数据相邻的已再生的再生小区域的图像数据中由输入的表示上述编码图像数据是否有意义的有意义信号所示的有意义的图像数据作为上述处理对象的小区域的画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而生成上述处理对象的小区域的图像数据与上述最佳预测小区域的图像数据的差分即差分小区域的图像数据;
编码单元,对由上述生成单元生成的差分小区域的图像数据进行编码;
解码单元,对由上述编码单元所编码的差分小区域的图像数据进行解码;和
第2生成单元,通过将由上述解码单元解码的差分小区域的图像数据与上述最佳预测小区域的图像数据相加,生成已进行了再生的再生小区域的图像数据。
10.(修正后)按权利要求9所述的图像预测编码装置,其特征在于:上述第1生成单元从与上述处理对象的小区域的图像数据在垂直方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为画面内预测小区域的图像数据。
11.(修正后)按权利要求9所述的图像预测编码装置,其特征在于:上述第1生成单元从与上述处理对象的小区域的图像数据在水平方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为画面内预测小区域的图像数据。
12.(修正后)按权利要求9所述的图像预测编码装置,其特征在于:上述第1生成单元从与上述处理对象的小区域中的图像数据在垂直方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为第1中间小区域的图像数据,从与上述处理对象的小区域中的图像数据在水平方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为第2中间小区域的图像数据,将上述第1中间小区域的图像数据和上述第2中间小区域的图像数据进行加权求平均,并将上述平均的图像数据作为上述画面内预测小区域的图像数据。
13.(修正后)按权利要求9所述的图像预测编码装置,其特征在于:上述第1生成单元从与上述处理对象的小区域中的图像数据在垂直方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为第1中间小区域的图像数据,从与上述处理对象的小区域中的图像数据在水平方向相邻的已再生的图像数据中只将由上述形状信号所示的有意义的图像数据作为第2中间小区域的图像数据,将上述第1中间小区域的图像数据和上述第2中间小区域的图像数据进行加权求平均,并将上述平均的图像数据作为第3中间小区域的图像数据,将上述第1、第2和第3中间小区域中的1个图像数据作为上述画面内预测小区域的图像数据。
14.(修正后)按权利要求9所述的图像预测编码装置,其特征在于:上述第1生成单元从与上述处理对象的小区域的图像数据相邻的已再生的图像数据中将仅由上述形状信号所示的有意义的图像数据的平均值作为上述处理对象的小区域的画面内预测小区域的图像数据。
15.按权利要求9~14中的任一权项所述的图像预测编码装置,其特征在于:上述第1生成单元除了上述画面内预测小区域的图像数据外,还根据在实际上先于上述编码图像数据进行编码并已再生的至少1个参照图像生成实际预测小区域的图像数据,将上述画面内预测小区域的图像数据和上述实际预测小区域的图像数据中的1个作为上述最佳预测小区域的图像数据。
16.(删除)
17.(删除)
18.一种图像预测解码装置,包括:
分析单元,分析输入的已编码的图像数据系列并输出图像差分信号、动矢量信号和控制信号;
解码单元,将从上述分析单元输出的差分图像信号解码为再生差分小区域的图像数据;
控制单元,根据从上述分析单元输出的控制信号输出切换信号,用以控制动补偿单元和发生单元有选择地动作;
帧存储器,存储指定的再生图像数据;
行存储器,存储用于生成指定的画面内预测小区域的图像数据的图像数据;
动补偿单元,通过应答上述控制单元的切换信号对输入的动矢量信号进行动补偿处理,从上述帧存储器生成时间预测小区域的图像数据并作为最佳预测小区域的图像数据而输出;
发生单元,通过应答上述控制单元的切换信号对上述行存储器的图像数据进行预测信号发生处理,将与上述再生差分小区域的图像数据相邻的已再生的图像数据作为画面内预测小区域的图像数据、将上述画面内预测小区域的图像数据作为最佳预测小区域的图像数据而输出;和
加法单元,通过将上述解码单元的再生差分小区域的图像数据与上述发生单元的最佳预测小区域相加,输出相加结果的再生图像数据,同时,将上述再生图像数据存储到上述帧存储器中,并且将只用于生成上述画面内预测小区域的图像数据的图像数据存储到上述行存储器中。
19.按权利要求18所述的图像预测解码装置,其特征在于:上述发生单元将与处理对象的小区域的图像数据在垂直方向相邻的已再生的图像数据作为第1中间小区域的图像数据,将与上述处理对象的效率区域的图像数据在水平方向相邻的已再生的图像数据作为第2中间小区域的图像数据,将上述第1中间小区域的图像数据和上述第2中间小区域
根据条约第19条(1)的声明
在本申请的权利要求9中,把「分割单元」在技术上明确地修正为「将由结构信号和表示上述结构信号是否有意义的形状信号构成而输入的任意形状的编码图像数据分割为相互相邻的多个小区域的图像数据的分割单元」。在该权利要求9中,将「有意义信号」修正为「形状信号」,相应地在权利要求10~14中也进行了同样的修正。
本申请的权利要求9的特征在于具有上述分割单元,仅将与处理对象的小区域的图像数据相邻的已再生的像素值作为画面内预测信号的像素值,与先有技术相比,就可以以低的运算量简单地生成高精度的预测信号,从而具有可以削减帧内编码的位数的特有的效果。
另一方面,在国际检索报告中引用的8个引用文献中,在除其类别只表示A的2个引用文献之外的6个引用文献中,虽然已公开了对图像数据高效率编码的编码装置,但是,并没有公开本申请的权利要求9所述的「将由结构信号和表示上述结构信号是否有意义的形状信号构成而输入的任意形状的编码图像数据分割为相互相邻的多个小区域的图像数据的分割单元」,即,没有公开关于「任意形状的编码图像数据」的编码。