[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN113875249A - 图像编码/解码方法和设备以及存储比特流的记录介质 - Google Patents

图像编码/解码方法和设备以及存储比特流的记录介质 Download PDF

Info

Publication number
CN113875249A
CN113875249A CN202080039221.3A CN202080039221A CN113875249A CN 113875249 A CN113875249 A CN 113875249A CN 202080039221 A CN202080039221 A CN 202080039221A CN 113875249 A CN113875249 A CN 113875249A
Authority
CN
China
Prior art keywords
sub
picture
block
information
stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080039221.3A
Other languages
English (en)
Inventor
林成昶
姜晶媛
李河贤
李镇浩
金旲衍
李柱玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Electronics and Telecommunications Research Institute ETRI
Chips and Media Inc
Original Assignee
Electronics and Telecommunications Research Institute ETRI
Chips and Media Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Electronics and Telecommunications Research Institute ETRI, Chips and Media Inc filed Critical Electronics and Telecommunications Research Institute ETRI
Publication of CN113875249A publication Critical patent/CN113875249A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/188Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/34Scalability techniques involving progressive bit-plane based encoding of the enhancement layer, e.g. fine granular scalability [FGS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种图像解码/编码方法。根据本发明的图像解码方法包括以下步骤:获取包括多个子画面的子画面信息的单流;从所述多个子画面中选择将被提取的子画面;将所述单流确定为将被提取的流;以及通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获取将被提取的子画面的子流。

Description

图像编码/解码方法和设备以及存储比特流的记录介质
技术领域
本发明涉及一种用于对图像进行编码/解码的方法和设备以及用于存储比特流的记录介质。
背景技术
近来,在各种应用中,对高分辨率和高质量图像(诸如高清晰度(HD)或超高清晰度(UHD)图像)的需求已经增加。随着图像的分辨率和质量的提高,数据量相应地增加。当通过现有传输介质(诸如有线或无线宽带信道)传输图像数据时或者当存储图像数据时,这是传输成本和存储成本增加的原因之一。为了解决高分辨率和高质量图像数据的这些问题,需要高效的图像编码/解码技术。
存在各种视频压缩技术,诸如从先前画面或后续画面内的像素的值预测当前画面内的像素的值的帧间预测技术、从当前画面的区域内的像素的值预测当前画面的另一区域内的像素的值的帧内预测技术、压缩残差信号的能量的变换和量化技术、以及对频繁出现的像素值分配较短码并对较少出现的像素值分配较长码的熵编码技术。
发明内容
技术问题
本发明的一目的是提供一种具有提高的压缩效率的图像编码/解码方法和设备。
本发明的另一目的是提供一种通过使用子画面合并的图像编码/解码方法和设备。
本发明的另一目的是提供一种通过使用子流提取的图像编码/解码方法和设备。
本发明的另一目的是提供一种用于存储由根据本发明的图像编码/解码方法或设备产生的比特流的记录介质。
技术方案
根据本公开的对图像进行解码的方法,所述方法包括:获得包括多个子画面的子画面信息的单流;从所述多个子画面中选择将被提取的子画面;将所述单流确定为将被提取的流;以及通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
其中,所述子画面信息包括:用于所述多个子画面的非视频编码层(VCL)网络抽象层(NAL)单元和VCL NAL单元。
其中,通过去除不是将被提取的子画面的子画面的VCL NAL单元来获得子流。
其中,所述子画面信息包括以下至少一项:序列参数集(SPS)信息或画面参数集信息(PPS)。
其中,通过将将被提取的子画面的左上方编码树单元CTU坐标设置为(0,0)来获得子流。
其中,所述未改变的子画面信息包括以下至少一项:指示是否将子画面视为画面的信息、滤波信息或子画面ID信息。
其中,通过去除不是将被提取的子画面的子画面的子画面信息来获得子流。
其中,所述子画面信息包括以下至少一项:视频参数集(VPS)NAL单元、比特流结束(EOB)NAL单元、访问单元分隔符(AUD)NAL单元或补充增强信息(SEI)NAL单元,并且其中,不从将被提取的流中去除VPS NAL单元、EOB NAL单元、AUD NAL单元或SEI NAL单元中的至少一个。
根据本公开的对图像进行编码的方法,所述方法包括:获得包括多个子画面的子画面信息的单流;从所述多个子画面中选择将被提取的子画面;将所述单流确定为将被提取的流;以及通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
其中,所述子画面信息包括:用于所述多个子画面的非视频编码层(VCL)网络抽象层(NAL)单元和VCL NAL单元。
其中,通过去除不是将被提取的子画面的子画面的VCL NAL单元来获得子流。
一种其中存储有通过图像解码设备接收并用于重建包括在当前画面中的当前块的子流的计算机可读记录介质,其中,所述子流是通过图像编码方法产生的,其中,所述图像编码方法包括:获得包括多个子画面的子画面信息的单流;从所述多个子画面中选择将被提取的子画面;将所述单流确定为将被提取的流;以及通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
有益效果
根据本发明,可以提供一种具有提高的压缩效率的图像编码/解码方法和设备。
根据本发明,可以提供一种通过使用子画面合并的图像编码/解码方法和设备。
根据本发明,可以提供一种用于存储由根据本发明的图像编码/解码方法或设备产生的比特流的记录介质。
附图说明
图1是示出根据应用本发明的实施例的编码设备的配置的框图。
图2是示出根据应用本发明的实施例的解码设备的配置的框图。
图3是示意性地示出当对图像进行编码和解码时图像的分区结构的示图。
图4是示出帧内预测处理的示图。
图5是示出帧间画面预测处理的实施例的示图。
图6是示出变换和量化处理的示图。
图7是示出能够用于帧内预测的参考样点的示图。
图8是示出根据本公开的实施例的图像编码/解码方法的示图。
图9是示出根据本公开的实施例的另一图像编码/解码方法的示图。
图10是示出包括在一个画面中的子画面的示图。
图11是示出包括多个子画面的流的示图。
图12是示出子画面访问单元(AU)的流结构的示图。
图13是示出AUD的语法元素结构的示图。
图14和图15是示出画面AU的流结构的示图。
图16是示出画面AU的流结构的另一示图。
图17是示出合并子流以产生单流的示例的示图。
具体实施方式
可以对本发明进行各种修改,并且存在本发明的各种实施例,其中,现在将参照附图来提供本发明的各种实施例的示例并对其进行详细描述。然而,本发明不限于此,尽管示例性实施例可被解释为包括本发明的技术构思和技术范围内的所有修改、等同或替代。在各个方面,相似的附图标号指代相同或相似的功能。在附图中,为了清楚,可夸大元件的形状和尺寸。在本发明的以下详细描述中,参照了附图,其中,附图以图示的方式示出了可实践本发明的特定实施例。足够详细地描述了这些实施例以使本领域技术人员能够实施本公开。应当理解的是,本公开的各种实施例尽管不同,但不一定是互斥的。例如,在不脱离本公开的精神和范围的情况下,结合一个实施例在此描述的特定特征、结构和特点可在其他实施例中被实现。另外,应当理解,在不脱离本公开的精神和范围的情况下,可修改每个公开的实施例内的各个元件的位置或布置。因此,以下详细描述不应被视为具有限制意义,并且本公开的范围仅由所附权利要求(在合适的解释的情况下,还连同权利要求所要求保护的等同物的全部范围)来限定。
说明书中使用的术语“第一”、“第二”等可用于描述各种组件,但是组件不应解释为限于这些术语。这些术语仅用于区分一个组件与其他组件。例如,在不脱离本发明的范围的情况下,“第一”组件可被命名为“第二”组件,并且“第二”组件也可被相似地命名为“第一”组件。术语“和/或”包括多个项的组合或多个项中的任意一项。
将理解的是,在本说明书中,当元件被简单称为“连接到”或“耦接到”另一元件而不是“直接连接到”或“直接耦接到”另一元件时,元件可“直接连接到”另一元件或“直接耦接到”另一元件,或者在元件与另一元件之间介入有其他元件的情况下连接到或耦接到另一元件。相反,应当理解,当元件被称为“直接耦接”或“直接连接”到另一元件时,不存在中间元件。
另外,本发明的实施例中所示的构成部分被独立地示出,以表示彼此不同的特征功能。因此,这并不表示每个构成部分都以单独的硬件或软件的构成单元构成。换言之,为了方便,每个构成部分包括列举的构成部分中的每个。因此,每个构成部分的至少两个构成部分可被组合以形成一个构成部分,或者一个构成部分可被分区为多个构成部分以执行每种功能。如果没有脱离本发明的实质,则将每个构成部分被组合的实施例和一个构成部分被分区的实施例也包括在本发明的范围内。
本说明书中使用的术语仅用于描述特定实施例,而不旨在限制本发明。除非在上下文中具有明显不同的含义,否则以单数形式使用的表述包括复数形式的表述。在本说明书中,将理解,诸如“包括”、“具有”等的术语旨在指示存在说明书中公开的特征、编号、步骤、动作、元件、部件或其组合,而并不旨在排除可存在或可添加一个或更多个其他特征、编号、步骤、动作、元件、部件或其组合的可能性。换言之,当特定元素被称为“被包括”时,并不排除除了相应元素之外的元素,而是可在本发明的实施例或本发明的范围中包括附加的元素。
另外,某些构成部分可能不是执行本发明的基本功能的必不可少的构成部分,而是仅提高其性能的选择性构成部分。可通过仅包括用于实现本发明的本质的必不可少的构成部分而不包括用于提高性能的构成部分来实现本发明。仅包括必不可少的构成部分而不包括仅用于提高性能的选择性构成部分的结构也包括在本发明的范围内。
在下文中,将参照附图详细描述本发明的实施例。在描述本发明的示例性实施例时,将不详细描述公知的功能或构造,因为它们可能不必要地模糊对本发明的理解。附图中相同的构成元件由相同的附图标号表示,并且对相同元件的重复描述将被省略。
在下文中,图像可指构成视频的画面,或者可指视频本身。例如,“对图像进行编码或解码或者进行编码和解码两者”可指“对运动画面进行编码或解码或者进行编码和解码两者”,并且可指“对运动画面的图像中的一个图像进行编码或解码或者进行编码和解码两者”。
在下文中,术语“运动画面”和“视频”可用作相同的含义并且可彼此替换。
在下文中,目标图像可以是作为编码目标的编码目标图像和/或作为解码目标的解码目标图像。另外,目标图像可以是输入到编码设备的输入图像、以及输入到解码设备的输入图像。这里,目标图像可与当前画面具有相同的含义。
在下文中,术语“图像”、“画面”、“帧”和“屏幕”可被用作相同的含义并且可彼此替换。
在下文中,目标块可以是作为编码目标的编码目标块和/或作为解码目标的解码目标块。另外,目标块可以是作为当前编码和/或解码的目标的当前块。例如,术语“目标块”和“当前块”可被用作相同的含义并且可彼此替换。
在下文中,术语“块”和“单元”可被用作相同的含义并且可彼此替换。或者“块”可表示特定单元。
在下文中,术语“区域”和“片段”可彼此替换。
在下文中,特定信号可以是表示特定块的信号。例如,原始信号可以是表示目标块的信号。预测信号可以是表示预测块的信号。残差信号可以是表示残差块的信号。
在实施例中,特定信息、数据、标志、索引、元素和属性等中的每个可具有值。信息、数据、标志、索引、元素和属性的值等于“0”可表示逻辑假或第一预定义的值。换言之,值“0”、假、逻辑假和第一预定义的值可彼此替换。信息、数据、标志、索引、元素和属性的值等于“1”可表示逻辑真或第二预定义的值。换言之,值“1”、真、逻辑真和第二预定义的值可彼此替换。
当变量i或j用于表示列、行或索引时,i的值可以是等于或大于0的整数、或者是等于或大于1的整数。即,列、行、索引等可从0开始计数,或者可从1开始计数。
术语描述
编码器:表示执行编码的设备。即,表示编码设备。
解码器:表示执行解码的设备。即,表示解码设备。
块:是M×N的样点阵列。这里,M和N可表示正整数,并且块可表示二维形式的样点阵列。块可指单元。当前块可表示在编码时成为目标的编码目标块,或者在解码时成为目标的解码目标块。另外,当前块可以是编码块、预测块、残差块和变换块中的至少一个。
样点:是构成块的基本单元。根据比特深度(Bd),样点可被表示为从0到2Bd-1的值。在本发明中,样点可被用作像素的含义。即,样点、pel、像素可具有彼此相同的含义。
单元:可指编码和解码单元。当对图像进行编码和解码时,单元可以是通过对单个图像进行分区而产生的区域。另外,当在编码或解码期间将单个图像分区为子分区单元时,单元可表示子分区单元。即,图像可被分区为多个单元。当对图像进行编码和解码时,可以执行针对每个单元的预定处理。单个单元可被分区为尺寸小于该单元的尺寸的子单元。依据功能,单元可表示块、宏块、编码树单元、编码树块、编码单元、编码块、预测单元、预测块、残差单元、残差块、变换单元、变换块等。另外,为了将单元与块区分开,单元可包括亮度分量块、与亮度分量块相关联的色度分量块、以及每个颜色分量块的语法元素。单元可具有各种尺寸和形状,具体地,单元的形状可以是二维几何图形,诸如正方形、矩形、梯形、三角形、五边形等。另外,单元信息可包括指示编码单元、预测单元、变换单元等的单元类型以及单元尺寸、单元深度、单元的编码和解码的顺序等中的至少一个。
编码树单元:被配置有亮度分量Y的单个编码树块以及与色度分量Cb和Cr相关的两个编码树块。另外,编码树单元可表示包括块和每个块的语法元素。可通过使用四叉树分区方法、二叉树分区方法和三叉树分区方法中的至少一个对每个编码树单元进行分区,以配置诸如编码单元、预测单元、变换单元等的更低等级的单元。编码树单元可被用作用于指定在对作为输入图像的图像进行编码/解码时成为处理单元的样点块的术语。这里,四叉树可表示四叉分树。
当编码块的尺寸在预定范围内时,可以仅使用四叉树分区进行分区。这里,预定范围可被定义为能够仅使用四叉树分区进行分区的编码块的最大尺寸和最小尺寸中的至少一个。可通过比特流用信号发送指示允许四叉树分区的编码块的最大/最小尺寸的信息,并且可在序列、画面参数、并行块组或条带(片段)中的至少一个单元中用信号发送所述信息。可选地,编码块的最大/最小尺寸可以是编码器/解码器中预定的固定尺寸。例如,当编码块的尺寸与256×256至64×64相应时,仅使用四叉树分区来进行分区是可能的。可选地,当编码块的尺寸大于最大转换块的尺寸时,仅使用四叉树分区来进行分区是可能的。这里,将被分区的块可以是编码块和变换块中的至少一个。在这种情况下,指示编码块的分区的信息(例如,split_flag)可以是指示是否执行四叉树分区的标志。当编码块的尺寸落在预定范围内时,仅使用二叉树或三叉树分区来进行分区是可能的。在这种情况下,四叉树分区的以上描述可以相同方式被应用于二叉树分区或三叉树分区。
编码树块:可用作用于指定Y编码树块、Cb编码树块和Cr编码树块中的任意一个的术语。
邻近块:可表示与当前块相邻的块。与当前块相邻的块可表示与当前块的边界接触的块、或者位于距当前块预定距离内的块。邻近块可表示与当前块的顶点相邻的块。这里,与当前块的顶点相邻的块可表示与水平相邻于当前块的邻近块垂直相邻的块、或者与垂直相邻于当前块的邻近块水平相邻的块。
重建邻近块:可表示与当前块相邻并且已经在空间/时间上被编码或解码的邻近块。这里,重建邻近块可表示重建邻近单元。重建空间邻近块可以是在当前画面内并且已经通过编码或解码或者编码和解码两者而被重建块。重建时间邻近块是在参考画面内的与当前画面的当前块相应的位置处的块或所述块的邻近块。
单元深度:可表示单元的分区程度。在树结构中,最高节点(根节点)可与未被分区的第一单元相应。另外,最高节点可具有最小深度值。在这种情况下,最高节点的深度可以为等级0。深度为等级1的节点可表示通过对第一单元进行首次分区而产生的单元。深度为等级2的节点可表示通过对第一单元进行两次分区而产生的单元。深度为等级n的节点可表示通过对第一单元进行n次分区而产生的单元。叶节点可以是最低节点并且是不能被进一步分区的节点。叶节点的深度可以是最大等级。例如,最大等级的预定义的值可以是3。根节点的深度可以是最低的,并且叶节点的深度可以是最深的。另外,当单元被表示为树结构时,单元所存在于的等级可表示单元深度。
比特流:可表示包括编码图像信息的比特流。
参数集:与比特流内的配置之中的头信息相应。视频参数集、序列参数集、画面参数集和自适应参数集中的至少一个可被包括在参数集中。此外,参数集可包括条带(slice)头、并行块(tile)组头和并行块头信息。术语“并行块组”表示一组并行块并且具有与条带相同的含义。
自适应参数集可表示可通过在不同画面、子画面、条带、并行块组、并行块或分块中参考而被共享的参数集。另外,可通过参考用于画面内的子画面、条带、并行块组、并行块或分块的不同自适应参数集来使用自适应参数集中的信息。
另外,关于自适应参数集,可以通过使用用于画面内的子画面、条带、并行块组、并行块或分块的不同自适应参数集的标识符来参考不同的自适应参数集。
另外,关于自适应参数集,可以通过使用用于子画面内的条带、并行块组、并行块或分块的不同自适应参数集的标识符来参考不同的自适应参数集。
另外,关于自适应参数集,可以通过使用用于条带内的并行块或分块的不同自适应参数集的标识符来参考不同的自适应参数集。
另外,关于自适应参数集,可以通过使用用于并行块内的分块的不同自适应参数集的标识符来参考不同的自适应参数集。
关于自适应参数集标识符的信息可被包括在子画面的参数集或头中,并且与自适应参数集标识符相应的自适应参数集可被用于子画面。
关于自适应参数集标识符的信息可被包括在并行块的参数集或头中,并且与自适应参数集标识符相应的自适应参数集可被用于并行块。
关于自适应参数集标识符的信息可被包括在分块的头中,并且与自适应参数集标识符相应的自适应参数集可被用于分块。
画面可被分区为一个或更多个并行块行和一个或更多个并行块列。
子画面可被分区为画面内的一个或更多个并行块行和一个或更多个并行块列。子画面可以是画面内具有矩形/正方形形式的区域,并且可包括一个或更多个CTU。另外,至少一个或更多个并行块/分块/条带可包括在一个子画面内。
并行块可以是画面内具有矩形/正方形形式的区域,并且可包括一个或更多个CTU。另外,并行块可以被分区为一个或更多个分块。
分块可以表示并行块内的一个或更多个CTU行。并行块可以被分区为一个或更多个块,并且每个块可以具有至少一个或更多个CTU行。未被分区为两个或更多个的并行块可以表示分块。
条带可包括画面内的一个或更多个并行块,并且可包括并行块内的一个或更多个分块。
解析:可表示通过执行熵解码来确定语法元素的值,或者可表示熵解码本身。
符号:可表示编码/解码目标单元的语法元素、编码参数和变换系数值中的至少一个。此外,符号可表示熵编码目标或熵解码结果。
预测模式:可以是指示利用帧内预测而被编码/解码的模式或利用帧间预测而被编码/解码的模式的信息。
预测单元:可表示当执行预测(诸如帧间预测、帧内预测、帧间补偿、帧内补偿和运动补偿)时的基本单元。单个预测单元可被分区为具有更小尺寸的多个分区,或者可被分区为多个更低等级的预测单元。多个分区可以是在执行预测或补偿时的基本单元。通过分区预测单元而产生的分区也可以是预测单元。
预测单元分区:可表示通过对预测单元进行分区而获得的形状。
参考画面列表可指包括用于帧间预测或运动补偿的一个或更多个参考画面的列表。存在若干类型的可用的参考画面列表,包括LC(列表组合)、L0(列表0)、L1(列表1)、L2(列表2)、L3(列表3)。
帧间预测指示符可以指当前块的帧间预测的方向(单向预测、双向预测等)。可选地,帧间预测指示符可指用于产生当前块的预测块的参考画面的数量。可选地,帧间预测指示符可指在对当前块进行帧间预测或运动补偿时使用的预测块的数量。
预测列表利用标志指示是否使用特定参考画面列表中的至少一个参考画面来产生预测块。可使用预测列表利用标志来推导帧间预测指示符,并且相反地,可使用帧间预测指示符来推导预测列表利用标志。例如,当预测列表利用标志具有第一值零(0)时,它表示参考画面列表中的参考画面不被用于产生预测块。另一方面,当预测列表利用标志具有第二值一(1)时,它表示参考画面列表被用于产生预测块。
参考画面索引可指的是指示参考画面列表中的特定参考画面的索引。
参考画面可表示由特定块参考以用于特定块的帧间预测或运动补偿的目的的参考画面。可选地,参考画面可以是包括由当前块参考以用于帧间预测或运动补偿的参考块的画面。在下文中,术语“参考画面”和“参考画面”具有相同的含义并且可以互换。
运动矢量可以是用于帧间预测或运动补偿的二维矢量。运动矢量可表示编码/解码的目标块与参考块之间的偏移。例如,(mvX,mvY)可表示运动矢量。这里,mvX可以表示水平分量,并且mvY可以表示垂直分量。
搜索范围可以是在帧间预测期间被搜索以检索运动矢量的二维区域。例如,搜索范围的尺寸可以是M×N。这里,M和N都是整数。
运动矢量候选可以指在对运动矢量进行预测时的预测候选块或预测候选块的运动矢量。另外,运动矢量候选可以被包括在运动矢量候选列表中。
运动矢量候选列表可表示由一个或更多个运动矢量候选组成的列表。
运动矢量候选索引可表示指示运动矢量候选列表中的运动矢量候选的指示符。可选地,它可以是运动矢量预测因子的索引。
运动信息可表示包括运动矢量、参考画面索引、帧间预测指示符、预测列表利用标志、参考画面列表信息、参考画面、运动矢量候选、运动矢量候选索引、合并候选和合并索引中的至少一项的信息。
合并候选列表可表示由一或更多个合并候选组成的列表。
合并候选可表示空间合并候选、时间合并候选、组合合并候选、组合双预测合并候选或零合并候选。合并候选可以包括诸如帧间预测指示符、每个列表的参考画面索引、运动矢量、预测列表利用标志和帧间预测指示符的运动信息。
合并索引可表示指示合并候选列表中的合并候选的指示符。可选地,合并索引可指示在空间上/时间上与当前块相邻的重建块中的块,其中,已从该块推导合并候选。可选地,合并索引可指示合并候选的至少一条运动信息。
变换单元:可表示在对残差信号执行编码/解码(诸如变换、逆变换、量化、反量化、变换系数编码/解码)时的基本单元。单个变换单元可被分区为具有更小尺寸的多个更低等级的变换单元。这里,变换/逆变换可包括第一次变换/第一次逆变换和第次级变换/第二次逆变换中的至少一个。
缩放:可表示将量化的等级乘以因子的处理。可通过对量化的等级进行缩放来产生变换系数。缩放也可被称为反量化。
量化参数:可表示当在量化期间使用变换系数来产生量化的等级时使用的值。量化参数还可表示当在反量化期间通过对量化的等级进行缩放来产生变换系数时使用的值。量化参数可以是被映射在量化步长上的值。
增量量化参数:可表示预测的量化参数与编码/解码目标单元的量化参数之间的差值。
扫描:可表示对单元、块或矩阵内的系数进行排序的方法。例如,将系数的二维矩阵改成为一维矩阵可被称为扫描,将系数的一维矩阵改成为二维矩阵可被称为扫描或逆扫描。
变换系数:可表示在编码器中执行变换之后产生的系数值。变换系数可表示在解码器中执行熵解码和反量化中的至少一个之后产生的系数值。通过对变换系数或残差信号进行量化而获得的量化的等级或者量化的变换系数等级也可落入变换系数的含义内。
量化的等级:可表示在编码器中通过对变换系数或残差信号进行量化而产生的值。可选地,量化的等级可表示作为在解码器中经历反量化的反量化目标的值。相似地,作为变换和量化的结果的量化的变换系数等级也可落入量化的等级的含义内。
非零变换系数:可表示具有除零之外的值的变换系数、或者具有除零之外的值的变换系数等级或量化的等级。
量化矩阵:可表示在为了提高主观图像质量或客观图像质量而执行的量化处理或反量化处理中使用的矩阵。量化矩阵也可被称为缩放列表。
量化矩阵系数:可表示量化矩阵内的每个元素。量化矩阵系数也可被称为矩阵系数。
默认矩阵:可表示在编码器或解码器中预先定义的预定量化矩阵。
非默认矩阵:可表示在编码器或解码器中未被预先定义而是由用户用信号发送的量化矩阵。
统计值:针对具有可计算的特定值的变量、编码参数、常量值等之中的至少一个的统计值可以是相应特定值的平均值、求和值、加权平均值、加权和值、最小值、最大值、最频繁出现的值、中值、插值之中的一个或更多个。
图1是示出根据应用了本发明的实施例的编码设备的配置的框图。
编码设备100可以是编码器、视频编码设备或图像编码设备。视频可包括至少一个图像。编码设备100可顺序地对至少一个图像进行编码。
参照图1,编码设备100可包括运动预测单元111、运动补偿单元112、帧内预测单元120、切换器115、减法器125、变换单元130、量化单元140、熵编码单元150、反量化单元160、逆变换单元170、加法器175、滤波器单元180和参考画面缓冲器190。
编码设备100可通过使用帧内模式或帧间模式或者帧内模式和帧间模式两者来执行输入图像的编码。此外,编码设备100可通过对输入图像进行编码来产生包括编码信息的比特流,并输出产生的比特流。产生的比特流可被存储在计算机可读记录介质中,或者可通过有线/无线传输介质被流传输。当帧内模式被用作预测模式时,切换器115可切换到帧内。可选地,当帧间模式被用作预测模式时,切换器115可切换到帧间模式。这里,帧内模式可表示帧内预测模式,帧间模式可表示帧间预测模式。编码设备100可产生针对输入图像的输入块的预测块。此外,编码设备100可在产生预测块之后使用输入块和预测块的残差对残差块进行编码。输入图像可被称为作为当前编码目标的当前画面。输入块可被称为作为当前编码目标的当前块,或者被称为编码目标块。
当预测模式是帧内模式时,帧内预测单元120可使用已被编码/解码并与当前块相邻的块的样点作为参考样点。帧内预测单元120可通过使用参考样点来对当前块执行空间预测,或者通过执行空间预测来产生输入块的预测样点。这里,帧内预测可表示帧内部的预测。
当预测模式是帧间模式时,运动预测单元111可在执行运动预测时从参考画面检索与输入块最匹配的区域,并且通过使用检索到的区域来推导运动矢量。在这种情况下,搜索区域可被用作所述区域。参考画面可被存储在参考画面缓冲器190中。这里,当执行对参考画面的编码/解码时,参考画面可被存储在参考画面缓冲器190中。
运动补偿单元112可通过使用运动矢量对当前块执行运动补偿来产生预测块。这里,帧间预测可表示帧之间的预测或运动补偿。
当运动矢量的值不是整数时,运动预测单元111和运动补偿单元112可通过将插值滤波器应用于参考画面的部分区域来产生预测块。为了对编码单元执行画面间预测或运动补偿,可确定跳过模式、合并模式、高级运动矢量预测(AMVP)模式和当前画面参考模式之中的哪个模式被用于对包括在相应编码单元中的预测单元的运动预测和运动补偿。然后,依据所确定的模式,可不同地执行画面间预测或运动补偿。
减法器125可通过使用输入块和预测块的差来产生残差块。残差块可被称为残差信号。残差信号可表示原始信号和预测信号之间的差。此外,残差信号可以是通过对原始信号与预测信号之间的差进行变换或量化或者变换和量化而产生的信号。残差块可以是块单元的残差信号。
变换单元130可通过对残差块执行变换来产生变换系数,并输出产生的变换系数。这里,变换系数可以是通过对残差块执行变换而产生的系数值。当变换跳过模式被应用时,变换单元130可跳过对残差块的变换。
可通过将量化应用于变换系数或应用于残差信号来产生量化的等级。在下文中,量化的等级在实施例中也可被称为变换系数。
量化单元140可通过根据参数对变换系数或残差信号进行量化来产生量化的等级,并输出产生的量化的等级。这里,量化单元140可通过使用量化矩阵对变换系数进行量化。
熵编码单元150可通过根据概率分布对由量化单元140计算出的值或者对在执行编码时计算出的编码参数值执行熵编码来产生比特流,并输出产生的比特流。熵编码单元150可对图像的样点信息和用于对图像进行解码的信息执行熵编码。例如,用于对图像进行解码的信息可包括语法元素。
当熵编码被应用时,符号被表示为使得较少数量的比特被分配到具有高产生可能性的符号,并且较多数量的比特被分配到具有低产生可能性的符号,因此,可减小用于将被编码的符号的比特流的尺寸。熵编码单元150可使用诸如指数哥伦布、上下文自适应可变长度编码(CAVLC)、上下文自适应二叉算术编码(CABAC)等的用于熵编码的编码方法。例如,熵编码单元150可通过使用变长编码/码(VLC)表来执行熵编码。此外,熵编码单元150可推导目标符号的二值化方法和目标符号/二叉位的概率模型,并且通过使用推导的二值化方法和上下文模型来执行算术编码。
为了对变换系数等级(量化的等级)进行编码,熵编码单元150可通过使用变换系数扫描方法将二维块形式的系数改成为一维矢量形式。
编码参数可包括在编码器中被编码并且被用信号发送到解码器的诸如语法元素的信息(标志、索引等)以及在执行编码或解码时推推导的信息。编码参数可表示在对图像进行编码或解码时所需要的信息。例如,以下项中的至少一个值或组合形式可被包括在编码参数中:单元/块尺寸、单元/块深度、单元/块分区信息、单元/块形状、单元/块分区结构、是否进行四叉树形式的分区、是否进行二叉树形式的分区、二叉树形式的分区方向(水平方向或垂直方向)、二叉树形式的分区形式(对称分区或非对称分区)、当前编码单元是否通过三叉树分区被分区、三叉树分区的方向(水平方向或垂直方向)、三叉树分区的类型(对称类型或非对称类型)、当前编码单元是否通过多类型树分区被分区、多类型树分区的方向(水平方向或垂直方向)、多类型树分区的类型(对称类型或非对称类型)、多类型树分区的树(二叉树或三叉树)结构、预测模式(帧内预测或帧间预测)、亮度帧内预测模式/方向、色度帧内预测模式/方向、帧内分区信息、帧间分区信息、编码块分区标志、预测块分区标志、变换块分区标志、参考样点滤波方法、参考样点滤波器抽头、参考样点滤波器系数、预测块滤波方法、预测块滤波器抽头、预测块滤波器系数、预测块边界滤波方法、预测块边界滤波器抽头、预测块边界滤波器系数、帧内预测模式、帧间预测模式、运动信息、运动矢量、运动矢量差、参考画面索引、帧间预测角度、帧间预测指示符、预测列表利用标志、参考画面列表、参考画面、运动矢量预测因子索引、运动矢量预测因子候选、运动矢量候选列表、是否使用合并模式、合并索引、合并候选、合并候选列表、是否使用跳过模式、插值滤波器类型、插值滤波器抽头、插值滤波器系数、运动矢量尺寸、运动矢量的表示精度、变换类型、变换尺寸、首次(第一次)变换是否被使用的信息、次级变换是否被使用的信息、初级变换索引、次级变换索引、残差信号是否存在的信息、编码块样式、编码块标志(CBF)、量化参数、量化参数残差、量化矩阵、是否应用帧内环路滤波器、帧内环路滤波器系数、帧内环路滤波器抽头、帧内环路滤波器形状/形式、是否应用去块滤波器、去块滤波器系数、去块滤波器抽头、去块滤波器强度、去块滤波器形状/形式、是否应用自适应样点偏移、自适应样点偏移值、自适应样点偏移类别、自适应样点偏移类型、是否应用自适应环路滤波器、自适应环路滤波器系数、自适应环路滤波器抽头、自适应环路滤波器形状/形式、二值化/逆二值化方法、上下文模型确定方法、上下文模型更新方法、是否执行常规模式、是否执行旁路模式、上下文二叉位、旁路二叉位、有效系数标志、最后有效系数标志、针对系数组的单元的编码标志、最后有效系数的位置、关于系数的值是否大于1的标志、关于系数的值是否大于2的标志、关于系数的值是否大于3的标志、关于其余系数值的信息、符号信息、重建亮度样点、重建色度样点、残差亮度样点、残差色度样点、亮度变换系数、色度变换系数、量化的亮度等级、量化的色度等级、变换系数等级扫描方法、在解码器侧的运动矢量搜索区域的尺寸、在解码器侧的运动矢量搜索区域的形状、在解码器侧的运动矢量搜索的次数、关于CTU尺寸的信息、关于最小块尺寸的信息、关于最大块尺寸的信息、关于最大块深度的信息、关于最小块深度的信息、图像显示/输出顺序、条带标识信息、条带类型、条带分区信息、并行块标识信息、并行块类型、并行块分区信息、并行块组标识信息、并行块组类型、并行块组分区信息、画面类型、输入样点的比特深度、重建样点的比特深度、残差样点的比特深度、变换系数的比特深度、量化的等级的比特深度、以及关于亮度信号的信息或关于色度信号的信息。
这里,用信号发送标志或索引可表示由编码器对相应标志或索引进行熵编码并将其包括在比特流中,并且可表示由解码器从比特流对相应标志或索引进行熵解码。
当编码设备100通过帧间预测执行编码时,编码的当前画面可被用作用于随后被处理的另一图像的参考画面。因此,编码设备100可对编码的当前画面进行重建或解码,或者将重建或解码的图像作为参考画面存储在参考画面缓冲器190中。
量化的等级可在反量化单元160中被反量化,或者可在逆变换单元170中被逆变换。可由加法器175将经过反量化或逆变换的系数或者经过反量化和逆变换两者的系数与预测块相加。通过将经过反量化或逆变换的系数或者经过反量化和逆变换两者的系数与预测块相加,可产生重建块。这里,经过反量化或逆变换的系数或经过反量化和逆变换两者的系数可表示执行了反量化和逆变换中的至少一个的系数,并且可表示重建残差块。
重建块可通过滤波器单元180。滤波器单元180可将去块滤波器、样点自适应偏移(SAO)和自适应环路滤波器(ALF)中的至少一个应用于重建样点、重建块或重建图像。滤波器单元180可被称为环路滤波器。
去块滤波器可去除在块之间的边界中产生的块失真。为了确定是否应用去块滤波器,可基于块中所包括的若干行或列中包括的样点来确定是否将去块滤波器应用于当前块。当将去块滤波器应用于块时,可根据所需的去块滤波强度来应用另一滤波器。
为了补偿编码误差,可通过使用样点自适应偏移将合适的偏移值与样点值相加。样点自适应偏移可以以样点为单位对经过去块的图像与原始图像的偏移进行校正。可使用考虑关于每个样点的边缘信息来应用偏移的方法,或者可使用以下方法:将图像的样点分区为预定数量的区域,确定偏移被应用的区域,并对确定的区域应用偏移。
自适应环路滤波器可基于经滤波的重建图像和原始图像的比较结果来执行滤波。可将包括在图像中的样点分区为预定组,可确定将被应用于每个组的滤波器,并且可对每个组执行差异化滤波。是否应用ALF的信息可通过编码单元(CU)被用信号发送,并且将被应用于每个块的ALF的形式和系数可变化。
已经通过滤波器单元180的重建块或重建图像可被存储在参考画面缓冲器190中。由滤波器单元180处理的重建块可以是参考画面的一部分。即,参考画面是由滤波器单元180处理的重建块组成的重建图像。存储的参考画面可稍后在帧间预测或运动补偿中被使用。
图2是示出根据实施例并且应用了本发明的解码设备的配置的框图。
解码设备200可以是解码器、视频解码设备或图像解码设备。
参照图2,解码设备200可包括熵解码单元210、反量化单元220、逆变换单元230、帧内预测单元240、运动补偿单元250、加法器255、滤波器单元260和参考画面缓冲器270。
解码设备200可接收从编码设备100输出的比特流。解码设备200可接收存储在计算机可读记录介质中的比特流,或者可接收通过有线/无线传输介质被流传输的比特流。解码设备200可通过使用帧内模式或帧间模式对比特流进行解码。此外,解码设备200可产生通过解码而产生的重建图像或解码图像,并输出重建图像或解码图像。
当在解码时使用的预测模式是帧内模式时,切换器可被切换到帧内。可选地,当在解码时使用的预测模式是帧间模式时,切换器可被切换到帧间模式。
解码设备200可通过对输入比特流进行解码来获得重建残差块,并产生预测块。当重建残差块和预测块被获得时,解码设备200可通过将重建残差块与预测块相加来产产生为解码目标的重建块。解码目标块可被称为当前块。
熵解码单元210可通过根据概率分布对比特流进行熵解码来产生符号。产生的符号可包括量化的等级形式的符号。这里,熵解码方法可以是上述熵编码方法的逆处理。
为了对变换系数等级(量化的等级)进行解码,熵解码单元210可通过使用变换系数扫描方法将单向矢量形式的系数改成为二维块形式。
可在反量化单元220中对量化的等级进行反量化,或者可在逆变换单元230中对量化的等级进行逆变换。量化的等级可以是进行反量化或逆变换或者进行反量化和逆变换两者的结果,并且可被产生为重建残差块。这里,反量化单元220可将量化矩阵应用于量化的等级。
当使用帧内模式时,帧内预测单元240可通过对当前块执行空间预测来产生预测块,其中,空间预测使用与解码目标块相邻并且已经被解码的块的样点值。
当使用帧间模式时,运动补偿单元250可通过对当前块执行运动补偿来产生预测块,其中,运动补偿使用运动矢量以及存储在参考画面缓冲器270中的参考画面。
加法器225可通过将重建残差块与预测块相加来产生重建块。滤波器单元260可将去块滤波器、样点自适应偏移和自适应环路滤波器中的至少一个应用于重建块或重建图像。滤波器单元260可输出重建图像。重建块或重建图像可被存储在参考画面缓冲器270中并且在执行帧间预测时被使用。由滤波器单元260处理的重建块可以是参考画面的一部分。即,参考画面是由滤波器单元260处理的重建块组成的重建图像。存储的参考画面可稍后在帧间预测或运动补偿中被使用。
图3是示意性地示出当对图像进行编码和解码时图像的分区结构的示图。图3示意性地示出将单个单元分区为多个更低等级的单元的示例。
为了有效地对图像进行分区,当进行编码和解码时,可使用编码单元(CU)。编码单元可被用作当对图像进行编码/解码时的基本单元。此外,编码单元可被用作用于在对图像进行编码/解码时区分帧内预测模式与帧间预测模式的单元。编码单元可以是用于预测、变换、量化、逆变换、反量化、或对变换系数的编码/解码处理的基本单元。
参照图3,图像300按照最大编码单元(LCU)被顺序地分区,并且LCU单元被确定为分区结构。这里,LCU可以以与编码树单元(CTU)相同的含义被使用。单元分区可表示对与该单元相关联的块进行分区。在块分区信息中,可包括单元深度的信息。深度信息可表示单元被分区的次数或程度或者单元被分区的次数和程度两者。可基于树结构将单个单元分区为与深度信息分层地相关联的多个更低等级的单元。换言之,单元和通过对该单元进行分区而产生的更低等级的单元可分别与节点和该节点的子节点相应。分区出的更低等级的单元中的每个可具有深度信息。深度信息可以是表示CU的尺寸的信息,并且可被存储在每个CU中。单元深度表示与对单元进行分区相关的次数和/或程度。因此,更低等级的单元的分区信息可包括关于更低等级的单元的尺寸的信息。
分区结构可表示LCU 310内的编码单元(CU)的分布。可根据是否将单个CU分区为多个(等于或大于2的包括2、4、8、16等的正整数)CU来确定这样的分布。通过分区产生的CU的水平尺寸和垂直尺寸可分别是分区之前的CU的水平尺寸和垂直尺寸的一半,或者可分别具有小于根据分区的次数而进行分区之前的水平尺寸和垂直尺寸的尺寸。CU可以被递归地分区为多个CU。通过递归分区,与分区之前的CU的高度和宽度之中的至少一个相比,分区之后的CU的高度和宽度之中的至少一个可减小。可递归地执行CU的分区,直到预定的深度或预定的尺寸为止。例如,LCU的深度可以是0,最小编码单元(SCU)的深度可以是预定的最大深度。这里,如上所述,LCU可以是具有最大编码单元尺寸的编码单元,并且SCU可以是具有最小编码单元尺寸的编码单元。分区从LCU 310开始,当CU的水平尺寸或垂直尺寸或者水平尺寸和垂直尺寸两者通过分区而减小时,CU深度增加1。例如,对于每个深度,未被分区的CU的尺寸可以为2N×2N。此外,在被分区的CU的情况下,可将尺寸为2N×2N的CU分区为尺寸为N×N的四个CU。随着深度增加1,N的尺寸可减半。
另外,可通过使用CU的分区信息来表示CU是否被分区的信息。分区信息可以是1比特信息。除SCU之外的所有CU可包括分区信息。例如,当分区信息的值为第一值时,可不对CU进行分区,当分区信息的值为第二值时,可对CU进行分区。
参照图3,具有深度0的LCU可以是64×64的块。0可以是最小深度。具有深度3的SCU可以是8×8的块。3可以是最大深度。32×32的块和16×16的块的CU可分别被表示为深度1和深度2。
例如,当单个编码单元被分区为四个编码单元时,分区出的四个编码单元的水平尺寸和垂直尺寸可以是CU在被分区之前的水平尺寸和垂直尺寸的一半尺寸。在一个实施例中,当尺寸为32×32的编码单元被分区为四个编码单元时,分区出的四个编码单元中的每个可具有16×16的尺寸。当单个编码单元被分区为四个编码单元时,可称编码单元可被分区为四叉树形式。
例如,当一个编码单元被分区为两个子编码单元时,两个子编码单元中的每个子编码单元的水平尺寸或垂直尺寸(宽度或高度)可以是原始编码单元的水平尺寸或垂直尺寸的一半。例如,当具有32×32的尺寸的编码单元被垂直分区为两个子编码单元时,该两个子编码单元中的每个可具有16×32的尺寸。例如,当具有8×32的尺寸的编码单元被水平分区为两个子编码单元时,该两个子编码单元中的每个可具有8×16的尺寸。当一个编码单元被分区为两个子编码单元时,可称编码单元被二分区或者通过二叉树分区结构被分区。
例如,当一个编码单元被分区为三个子编码单元时,可以以1:2:1的比例对编码单元的水平尺寸或垂直尺寸进行分区,从而产生水平尺寸或垂直尺寸的比例为1:2:1的三个子编码单元。例如,当尺寸为16×32的编码单元被水平分区为三个子编码单元时,该三个子编码单元以从最上方子编码单元到最下方子编码单元的顺序可分别具有16×8、16×16和16×8的尺寸。例如,当尺寸为32×32的编码单元被垂直分区为三个子编码单元时,该三个子编码单元以从左侧子编码单元到右侧子编码单元的顺序可分别具有8×32、16×32和8×32的尺寸。当一个编码单元被分区为三个子编码单元时,可称编码单元被三分区或者根据三叉树分区结构被分区。
在图3中,编码树单元(CTU)320是四叉树分区结构、二叉树分区结构和三叉树分区结构全部应用于其的CTU的示例。
如上所述,为了对CTU进行分区,可应用四叉树分区结构、二叉树分区结构和三叉树分区结构中的至少一个。可根据预定的优先级顺序将各种树分区结构顺序地应用于CTU。例如,可将四叉树分区结构优先应用于CTU。不能再使用四叉树分区结构进行分区的编码单元可与四叉树的叶节点相应。与四叉树的叶节点相应的编码单元可用作二叉树和/或三叉树分区结构的根节点。即,与四叉树的叶节点相应的编码单元可根据二叉树分区结构或三叉树分区结构被进一步分区,或者可不被进一步分区。因此,通过防止从与四叉树的叶节点相应的编码单元的二叉树分区或三叉树分区得到的编码块经历进一步的四叉树分区,块分区操作和/或用信号发送分区信息的操作可被有效执行。
可使用四分区信息用信号发送与四叉树的节点相应的编码单元被分区的事实。具有第一值(例如,“1”)的四分区信息可指示当前编码单元按照四叉树分区结构被分区。具有第二值(例如,“0”)的四分区信息可指示当前编码单元未按照四叉树分区结构被分区。四分区信息可以是具有预定长度(例如,一个比特)的标志。
在二叉树分区与三叉树分区之间可能没有优先级。即,与四叉树的叶节点相应的编码单元可进一步经历二叉树分区和三叉树分区中的任意分区。另外,通过二叉树分区或三叉树分区产生的编码单元可经历进一步的二叉树分区或进一步的三叉树分区,或者可不被进一步分区。
在二叉树分区和三叉树分区之间不存在优先级的树结构被称为多类型树结构。与四叉树的叶节点相应的编码单元可用作多类型树的根节点。可使用多类型树分区指示信息、分区方向信息和分区树信息中的至少一个来用信号发送是否对与多类型树的节点相应的编码单元进行分区。为了对与多类型树的节点相应的编码单元进行分区,可顺序地用信号发送多类型树分区指示信息、分区方向信息和分区树信息。
具有第一值(例如,“1”)的多类型树分区指示信息可指示当前编码单元将经历多类型树分区。具有第二值(例如,“0”)的多类型树分区指示信息可指示当前编码单元将不经历多类型树分区。
当与多类型树的节点相应的编码单元按照多类型树分区结构被进一步分区时,所述编码单元可包括分区方向信息。分区方向信息可指示当前编码单元将在哪个方向上针对多类型树分区被分区。具有第一值(例如,“1”)的分区方向信息可指示当前编码单元将被垂直分区。具有第二值(例如,“0”)的分区方向信息可指示当前编码单元将被水平分区。
当与多类型树的节点相应的编码单元按照多类型树分区结构被进一步分区时,当前编码单元可包括分区树信息。分区树信息可指示将被用于对多类型树的节点进行分区的树分区结构。具有第一值(例如,“1”)的分区树信息可指示当前编码单元将按照二叉树分区结构被分区。具有第二值(例如,“0”)的分区树信息可指示当前编码单元将按照三叉树分区结构被分区。
分区指示信息、分区树信息和分区方向信息均可以是具有预定长度(例如,一个比特)的标志。
四叉树分区指示信息、多类型树分区指示信息、分区方向信息和分区树信息中的至少任意一个可被熵编码/熵解码。为了对那些类型的信息进行熵编码/熵解码,可使用关于与当前编码单元相邻的邻近编码单元的信息。例如,当前编码单元的左侧邻近编码单元和/或上方邻近编码单元的分区类型(被分区或不被分区、分区树和/或分区方向)与当前编码单元的分区类型相似的可能性很高。因此,可从关于邻近编码单元的信息推导用于对关于当前编码单元的信息进行熵编码/熵解码的上下文信息。关于邻近编码单元的信息可包括四分区信息、多类型树分区指示信息、分区方向信息和分区树信息中的至少任意一个。
作为另一示例,在二叉树分区和三叉树分区中,可优先执行二叉树分区。即,当前编码单元可首先经历二叉树分区,并且随后可将与二叉树的叶节点相应的编码单元设置为用于三叉树分区的根节点。在这种情况下,对于与三叉树的节点相应的编码单元,可既不执行四叉树分区也不执行二叉树分区。
不能按照四叉树分区结构、二叉树分区结构和/或三叉树分区结构被分区的编码单元成为用于编码、预测和/或变换的基本单元。即,所述编码单元不能被进一步分区以用于预测和/或变换。因此,在比特流中可能不存在用于将编码单元分区为预测单元和/或变换单元的分区结构信息和分区信息。
然而,当编码单元(即,用于分区的基本单元)的尺寸大于最大变换块的尺寸时,可递归地对编码单元进行分区,直到将编码单元的尺寸减小到等于或小于最大变换块的尺寸为止。例如,当编码单元的尺寸为64×64时并且当最大变换块的尺寸为32×32时,可将编码单元分区为用于变换的四个32×32的块。例如,当编码单元的尺寸为32×64并且最大变换块的尺寸为32×32时,可将编码单元分区为用于变换的两个32×32的块。在这种情况下,不单独用信号发送编码单元的用于变换的分区,并且可通过编码单元的水平尺寸或垂直尺寸与最大变换块的水平尺寸或垂直尺寸之间的比较来确定编码单元的用于变换的分区。例如,当编码单元的水平尺寸(宽度)大于最大变换块的水平尺寸(宽度)时,可将编码单元垂直地二等分。例如,当编码单元的垂直尺寸(高度)大于最大变换块的垂直尺寸(高度)时,可将编码单元水平地二等分。
编码单元的最大和/或最小尺寸的信息以及变换块的最大和/或最小尺寸的信息可以在编码单元的更高等级被用信号发送或确定。更高等级可以是例如序列级、画面级、条带级、并行块组级、并行块级等。例如,编码单元的最小尺寸可以被确定为4×4。例如,变换块的最大尺寸可以被确定为64×64。例如,变换块的最小尺寸可以被确定为4×4。
与四叉树的叶节点相应的编码单元的最小尺寸(四叉树最小尺寸)的信息和/或从多类型树的根节点到叶节点的最大深度(多类型树的最大树深度)的信息可在编码单元的更高等级被用信号发送或确定。例如,更高等级可以是序列级、画面级、条带级、并行块组级、并行块级等。四叉树的最小尺寸的信息和/或多类型树的最大深度的信息可针对画面内条带和画面间条带中的每个被用信号发送或确定。
可在编码单元的更高等级用信号发送或确定CTU的尺寸与变换块的最大尺寸之间的差信息。例如,所述更高等级可以是序列级、画面级、条带级、并行块组级、并行块级等。可基于编码树单元的尺寸和所述差信息来确定与二叉树的各个节点相应的编码单元的最大尺寸(在下文中,称为二叉树的最大尺寸)的信息。与三叉树的各个节点相应的编码单元的最大尺寸(在下文中,称为三叉树的最大尺寸)可依据条带的类型而变化。例如,针对画面内条带,三叉树的最大尺寸可以是32×32。例如,针对画面间条带,三叉树的最大尺寸可以是128×128。例如,与二叉树的各个节点相应的编码单元的最小尺寸(在下文中,称为二叉树的最小尺寸)和/或与三叉树的各个节点相应的编码单元的最小尺寸(在下文中,称为三叉树的最小尺寸)可被设置为编码块的最小尺寸。
作为另一示例,可在条带级用信号发送或确定二叉树的最大尺寸和/或三叉树的最大尺寸。可选地,可在条带级用信号发送或确定二叉树的最小尺寸和/或三叉树的最小尺寸。
依据上述各种块的尺寸和深度信息,四分区信息、多类型树分区指示信息、分区树信息和/或分区方向信息可被包括在比特流中或可不被包括在比特流中。
例如,当编码单元的尺寸不大于四叉树的最小尺寸时,编码单元不包括四分区信息。四分区信息可被推断为第二值。
例如,当与多类型树的节点相应的编码单元的尺寸(水平尺寸和垂直尺寸)大于二叉树的最大尺寸(水平尺寸和垂直尺寸)和/或三叉树的最大尺寸(水平尺寸和垂直尺寸)时,编码单元可不被二叉树分区或三叉树分区。因此,可多类型树分区指示信息不被用信号发送,但可被推断为第二值。
可选地,当与多类型树的节点相应的编码单元的尺寸(水平尺寸和垂直尺寸)与二叉树的最大尺寸(水平尺寸和垂直尺寸)相同和/或是三叉树的最大尺寸(水平尺寸和垂直尺寸)的两倍大时,编码单元可不被进一步二分区或三分区。因此,可不用信号发送多类型树分区指示信息,而是可从第二值推导多类型树分区指示信息。这是因为当通过二叉树分区结构和/或三叉树分区结构分区编码单元时,产生小于二叉树的最小尺寸和/或三叉树的最小尺寸的编码单元。
可选地,可以基于虚拟流水线数据单元的尺寸(在下文中,流水线缓冲器尺寸)来限制二叉树分区或三叉树分区。例如,当通过二叉树分区或三叉树分区将编码单元分区为不适合流水线缓冲器尺寸的子编码单元时,相应的二叉树分区或三叉树分区可能受到限制。流水线缓冲器尺寸可以是最大变换块的尺寸(例如,64×64)。例如,当流水线缓冲器尺寸是64×64时,可以限制下面的分区。
-用于编码单元的N×M(N和/或M是128)三叉树分区
-用于编码单元的水平方向的128×N(N<=64)二叉树分区
-用于编码单元的垂直方向的N×128(N<=64)二叉树分区
可选地,当与多类型树的节点相应的编码单元的深度等于多类型树的最大深度时,编码单元可不被进一步二分区和/或三分区。因此,多类型树分区指示信息可不被用信号发送,但可被推断为第二值。
可选地,仅当垂直方向二叉树分区、水平方向二叉树分区、垂直方向三叉树分区和水平方向三叉树分区中的至少一个对于与多类型树的节点相应的编码单元是可能的时,可用信号发送多类型树分区指示信息。否则,编码单元可以不被二分区和/或三分区。因此,多类型树分区指示信息可不被用信号发送,但可被推断为第二值。
可选地,仅当垂直方向二叉树分区和水平方向二叉树分区两者或垂直方向三叉树分区和水平方向三叉树分区两者对于与多类型树的节点相应的编码单元是可能的时,才可用信号发送分区方向信息。否则,可不用信号发送分区方向信息,但是可从指示可能的分区方向的值推导分区方向信息。
可选地,仅当垂直方向二叉树分区和垂直方向三叉树分区两者或水平方向二叉树分区和水平方向三叉树分区两者对于与多类型树的节点相应的编码树是可能的时,才可用信号发送分区树信息。否则,分区树信息可以不被用信号发送,但是可被推断为指示可能的分区树结构的值。
图4是示出帧内预测处理的示图。
图4中从中心到外部的箭头可表示帧内预测模式的预测方向。
可通过使用当前块的邻近块的参考样点来执行帧内编码和/或解码。邻近块可以是重建邻近块。例如,可通过使用包括在重建邻近块中的参考样点的编码参数或值来执行帧内编码和/或解码。
预测块可表示通过执行帧内预测而产生的块。预测块可与CU、PU和TU中的至少一个相应。预测块的单元可具有CU、PU和TU中的一个的尺寸。预测块可以是尺寸为2×2、4×4、16×16、32×32或64×64等的正方形块,或者可以是尺寸为2×8、4×8、2×16、4×16和8×16等的矩形块。
可根据针对当前块的帧内预测模式来执行帧内预测。当前块可具有的帧内预测模式的数量可以是固定值,并且可以是根据预测块的属性不同地确定的值。例如,预测块的属性可包括预测块的尺寸和预测块的形状等。
不管块尺寸为多少,可将帧内预测模式的数量固定为N。或者,帧内预测模式的数量可以是3、5、9、17、34、35、36、65或67等。可选地,帧内预测模式的数量可根据块尺寸或颜色分量类型或者块尺寸和颜色分量类型两者而变化。例如,帧内预测模式的数量可根据颜色分量是亮度信号还是色度信号而变化。例如,随着块尺寸变大,帧内预测模式的数量可增加。可选地,亮度分量块的帧内预测模式的数量可大于色度分量块的帧内预测模式的数量。
帧内预测模式可以是非角度模式或角度模式。非角度模式可以是DC模式或平面模式,并且角度模式可以是具有特定方向或角度的预测模式。帧内预测模式可由模式号、模式值、模式编号、模式角度和模式方向中的至少一个来表示。帧内预测模式的数量可以是大于1的M,包括非角度模式和角度模式。为了对当前块进行帧内预测,可执行确定是否可将包括在重建邻近块中的样点用作当前块的参考样点的步骤。当存在不能用作当前块的参考样点的样点时,通过对包括在重建邻近块中的样点中的至少一个样点值进行复制或执行插值或者执行复制和插值两者而获得的值可被用于替换样点的不可用样点值,因此替换后的样点值被用作当前块的参考样点。
图7是示出能够用于帧内预测的参考样点的示图。
如图7所示,参考样点线0至参考样点线3中的至少一个可以用于当前块的帧内预测。在图7中,片段A和片段F的样点可以分别利用最接近片段B和片段E的样点被填充,而不是从重建邻近块进行检索。可以用信号发送指示将被用于当前块的帧内预测的参考样点线的索引信息。例如,在图7中,参考样点线指示符0、1和2可以作为指示参考样点线0、1和2的索引信息被用信号发送。在当前块的上方边界是CTU的边界时,仅参考样点线0可以是可用的。因此,在这种情况下,可以不用信号发送索引信息。当使用除了参考样点线0之外的参考样点线时,可以不执行稍后将描述的针对预测块的滤波。
当进行帧内预测时,可基于帧内预测模式和当前块尺寸/形状将滤波器应用于参考样点和预测样点中的至少一个。
在平面模式的情况下,当产生当前块的预测块时,根据预测目标样点在预测块内的位置,可通过使用当前样点的上方参考样点与左侧参考样点以及当前块的右上方参考样点与左下方参考样点的加权和来产生预测目标样点的样点值。另外,在DC模式的情况下,当产生当前块的预测块时,可使用当前块的上方参考样点与左侧参考样点的平均值。另外,在角度模式的情况下,可通过使用当前块的上方参考样点、左侧参考样点、右上方参考样点和/或左下方参考样点来产生预测块。为了产生预测样点值,可执行实数单元的插值。
在颜色分量之间的帧内预测的情况下,可以基于第一颜色分量的相应重建块来产生第二颜色分量的当前块的预测块。例如,第一颜色分量可以是亮度分量,并且第二颜色分量可以是色度分量。对于颜色分量之间的帧内预测,可基于模板推导第一颜色分量与第二颜色分量之间的线性模型的参数。模板可包括当前块的上方和/或左侧邻近样点以及与其相应的第一颜色分量的重建块的上方和/或左侧邻近样点。例如,可使用模板中的样点中具有最大值的第一颜色分量的样点值及与其相应的第二颜色分量的样点值,以及模板中的样点中具有最小值的第一颜色分量的样点值及与其相应的第二颜色分量的样点值推导线性模型的参数。当推导线性模型的参数时,可将相应重建块应用于线性模型以产生当前块的预测块。根据视频格式,可对第一颜色分量的重建块和相应重建块的邻近样点执行二次样点。例如,当第二颜色分量的一个样点与第一颜色分量的四个样点相应时,可对第一颜色分量的四个样点进行二次样点以计算一个相应样点。在这种情况下,可基于相应二次样点的样点执行线性模型的参数推导和颜色分量之间的帧内预测。是否执行颜色分量之间的帧内预测和/或模板的范围可作为帧内预测模式被用信号发送。
当前块可在水平方向或垂直方向上被分区为两个子块或四个子块。可顺序地重建分区的子块。即,可以对子块执行帧内预测以产生子预测块。另外,可以对子块执行反量化和/或逆变换以产生子残差块。可通过将子预测块添加到子残差块来产生重建子块。重建子块可以用作子子块的帧内预测的参考样点。子块可以是包括预定数量(例如,16)或更多个样点的块。因此,例如,在当前块是8×4块或4×8块时,当前块可被分区为两个子块。此外,在当前块是4×4块时,当前块可不被分区为子块。在当前块具有其它尺寸时,当前块可被分区为四个子块。可以用信号发送关于是否基于子块和/或分区方向(水平或垂直)执行帧内预测的信息。可以限于仅在使用参考样点线0时执行基于子块的帧内预测。当执行基于子块的帧内预测时,可以不执行稍后将描述的针对预测块的滤波。
可以通过对被帧内预测的预测块执行滤波来产生最终预测块。可以通过将预定权重应用于滤波目标样点、左侧参考样点、上方参考样点和/或左上方参考样点来执行滤波。可以基于块尺寸、帧内预测模式和预测块中的滤波目标样点的位置中的至少一个来确定用于滤波的权重和/或参考样点(范围、位置等)。可以仅在预定的帧内预测模式(例如,DC、平面、垂直、水平、对角线和/或相邻对角线模式)的情况下执行滤波。相邻对角线模式可以是给对角线模式加上k或从对角线模式减去k的模式。例如,k可以是8或更小的正整数。
可通过预测与当前块相邻存在的块的帧内预测模式来对当前块的帧内预测模式进行熵编码/熵解码。在当前块与邻近块的帧内预测模式相另外,可通过使用预定标志信息来用信号发送当前块与邻近块的帧内预测模式相同的信息。另外,可用信号发送多个邻近块的帧内预测模式之中的与当前块的帧内预测模式相同的帧内预测模式的指示符信息。在当前块与邻近块的帧内预测模式不另外,可通过基于邻近块的帧内预测模式执行熵编码/熵解码来对当前块的帧内预测模式信息进行熵编码/熵解码。
图5是示出画面间预测处理的实施例的示图。
在图5中,矩形可以表示画面。在图5中,箭头表示预测方向。根据画面的编码类型,可将画面分类为帧内画面(I画面)、预测画面(P画面)和双预测画面(B画面)。
可在不需要画面间预测的情况下通过帧内预测对I画面进行编码。可通过使用在针对当前块的一个方向(即,前向或后向)上存在的参考画面,通过画面间预测来对P画面进行编码。可通过使用在针对当前块的两个方向(即,前向和后向)上存在的参考画面,通过画面间预测来对B画面进行编码。当使用画面间预测时,编码器可执行画面间预测或运动补偿,并且解码器可执行相应运动补偿。
在下文中,将详细描述帧间预测的实施例。
可使用参考画面和运动信息来执行画面间预测或运动补偿。
可通过编码设备100和解码设备200中的每个在画面间预测期间推导当前块的运动信息。可通过使用重建的邻近块的运动信息、同位置块(也称为col块或同位块)的运动信息和/或与同位块相邻的块的运动信息来推导当前块的运动信息。同位块可表示先前重建的同位置画面(也称为col画面或同位画面)内的在空间上与当前块位于相同位置的块。同位画面可以是包括在参考画面列表中的一个或更多个参考画面中的一个画面。
运动信息的推导方法可依据当前块的预测模式而不同。例如,应用于帧间预测的预测模式包括AMVP模式、合并模式、跳过模式、具有运动矢量差的合并模式、子块合并模式、几何分区模式、组合帧间帧内预测模式、仿射模式等。这里,合并模式可以被称为运动合并模式。
例如,当AMVP被用作预测模式时,可将重建的邻近块的运动矢量、同位块的运动矢量、与同位块相邻的块的运动矢量和(0,0)运动矢量中的至少一个确定为针对当前块的运动矢量候选,并且通过使用运动矢量候选产生运动矢量候选列表。可通过使用产生的运动矢量候选列表来推导当前块的运动矢量候选。可基于推导的运动矢量候选来确定当前块的运动信息。同位块的运动矢量或与同位块相邻的块的运动矢量可被称为时间运动矢量候选,并且重建的邻近块的运动矢量可被称为空间运动矢量候选。
编码设备100可计算当前块的运动矢量与运动矢量候选之间的运动矢量差(MVD),并且可对运动矢量差(MVD)执行熵编码。另外,编码设备100可对运动矢量候选索引执行熵编码并产生比特流。运动矢量候选索引可指示包括在运动矢量候选列表中的运动矢量候选之中的最佳运动矢量候选。解码设备可对包括在比特流中的运动矢量候选索引执行熵解码,并且可通过使用经过熵解码的运动矢量候选索引从包括在运动矢量候选列表中的运动矢量候选中选择解码目标块的运动矢量候选。另外,解码设备200可将经过熵解码的MVD与通过熵解码而提取的运动矢量候选相加,从而推导解码目标块的运动矢量。
另外,编码设备100可对计算出的MVD的分辨率信息执行熵编码。解码设备200可使用MVD分辨率信息来调整被熵解码的MVD的分辨率。
另外,编码设备100基于仿射模型计算当前块中的运动矢量和运动矢量候选之间的运动矢量差(MVD),并对MVD执行熵编码。解码设备200通过被熵解码的MVD和仿射控制运动矢量候选的总和推导解码的目标块的仿射控制运动矢量来基于每个子块推导运动矢量。
比特流可包括指示参考画面的参考画面索引。参考画面索引可通过编码设备100被熵编码,并且随后作为比特流被用信号发送到解码设备200。解码设备200可基于推导的运动矢量和参考画面索引信息来产生解码目标块的预测块。
推导当前块的运动信息的方法的另一示例可以是合并模式。合并模式可表示合并多个块的运动的方法。合并模式可表示从邻近块的运动信息推导当前块的运动信息的模式。当应用合并模式时,可使用重建的邻近块的运动信息和/或同位块的运动信息来产生合并候选列表。运动信息可包括运动矢量、参考画面索引和画面间预测指示符中的至少一个。预测指示符可指示单向预测(L0预测或L1预测)或双向预测(L0预测和L1预测)。
合并候选列表可以是存储的运动信息的列表。包括在合并候选列表中的运动信息可以是以下至少一个:与当前块相邻的邻近块的运动信息(空间合并候选)、参考画面中的当前块的同位块的运动信息(时间合并候选)、通过合并候选列表中存在的运动信息的组合产生的新运动信息、在当前块之前被编码/解码的块的运动信息(基于历史的合并候选)和零合并候选。
编码设备100可通过对合并标志和合并索引中的至少一个执行熵编码来产生比特流,并且可将比特流用信号发送到解码设备200。合并标志可以是指示是否针对每个块执行合并模式的信息,并且合并索引可以是指示当前块的邻近块中的哪个邻近块是合并目标块的信息。例如,当前块的邻近块可包括位于当前块的左侧的左侧邻近块、被布置在当前块上方的上方邻近块和在时间上与当前块相邻的时间邻近块。
另外,编码设备100对合并候选的运动信息中的用于校正运动矢量的校正信息执行熵编码,并将其用信号发送到解码设备200。解码设备200可以基于校正信息校正通过合并索引选择的合并候选的运动矢量。这里,校正信息可以包括关于是否执行校正的信息、校正方向信息和校正尺寸信息中的至少一个。如上所述,基于用信号发送的校正信息对合并候选的运动矢量进行校正的预测模式可以被称为具有运动矢量差的合并模式。
跳过模式可以是将邻近块的运动信息照原样应用于当前块的模式。当应用跳过模式时,编码设备100可对哪个块的运动信息将被用作当前块的运动信息的事实的信息执行熵编码,以产生比特流,并且可将比特流用信号发送到解码设备200。编码设备100可不将关于运动矢量差信息、编码块标志和变换系数等级中的至少任意一个的语法元素用信号发送到解码设备200。
子块合并模式可以表示以编码块(CU)的子块为单位推导运动信息的模式。当应用子块合并模式时,可使用与参考画面中的当前子块同位的子块的运动信息(基于子块的时间合并候选)和/或仿射控制点运动矢量合并候选来产生子块合并候选列表。
几何分区模式可以表示通过将当前块分区为预定义方向来推导运动信息,使用推导的运动信息中的每个来推导每个预测样点,并且通过对推导的预测样点中的每个进行加权来推导当前块的预测样点的模式。
帧间-帧内组合预测模式可以表示通过对由帧间预测产生的预测样点和由帧内预测产生的预测样点进行加权来推导当前块的预测样点的模式。
解码设备200可自行校正推导的运动信息。解码设备200可基于由推导的运动信息指示的参考块搜索预定区域,并推导具有最小SAD的运动信息作为校正的运动信息。
解码设备200可使用光流对经由帧间预测推导的预测样点进行补偿。
图6是示出变换和量化处理的示图。
如图6中所示,对残差信号执行变换处理和/或量化处理,以产生量化的等级信号。残差信号是原始块与预测块(即,帧内预测块或帧间预测块)之间的差。预测块是通过帧内预测或帧间预测产生的块。所述变换可以是初级变换、次级变换或者初级变换和次级变换两者。对残差信号的初级变换产生变换系数,并且对变换系数的次级变换产生次级变换系数。
从预先定义的各种变换方案中选择的至少一种方案被用于执行初级变换。例如,所述预定的变换方案的示例包括离散余弦变换(DCT)、离散正弦变换(DST)和Karhunen-Loève变换(KLT)。通过初级变换产生的变换系数可经历次级变换。可根据当前块和/或当前块的邻近块的编码参数来确定用于初级变换和/或次级变换的变换方案。可选地,可用信号发送指示变换方案的变换信息。基于DCT的变换可以包括例如DCT-2、DCT-8等。基于DST的变换可包括例如DST-7。
可以通过对残差信号或执行初级变换和/或次级变换的结果执行量化来产生量化的等级信号(量化系数)。依据块的帧内预测模式或块尺寸/形状,可以根据对角线右上方扫描、垂直扫描和水平扫描中的至少一个来扫描量化的等级信号。例如,当在对角线右上方扫描中扫描系数时,块形式的系数改变为一维矢量形式。除了对角线右上方扫描之外,依据帧内预测模式和/或变换块的尺寸,可以使用水平地扫描二维块形式的系数的水平扫描或垂直地扫描二维块形式的系数的垂直扫描。扫描的量化的等级系数可以被熵编码以插入比特流中。
解码器对比特流进行熵解码以获得量化的等级系数。量化的等级系数可以通过反向扫描以二维块形式被布置。对于反向扫描,可以使用对角线右上方扫描、垂直扫描和水平扫描中的至少一个。
然后可以对量化的等级系数进行反量化,然后根据需要进行二次逆变换,最后根据需要进行首次逆变换,以产生重建残差信号。
可在环路滤波之前针对通过帧内预测或帧间预测重建的亮度分量执行动态范围中的逆映射。动态范围可以被分区为16个相等的片段,并且可以用信号发送每个片段的映射函数。可在条带级或并行块组级用信号发送映射函数。可以基于映射函数推导用于执行逆映射的逆映射函数。在逆映射区域中执行环路滤波、参考画面存储和运动补偿,并且经由使用映射函数的映射将通过帧间预测产生的预测块被转换到映射区域,然后被用于产生重建块。然而,由于在映射区域中执行帧内预测,因此经由帧内预测产生的预测块可以被用于产生重建块而无需映射/逆映射。
在当前块是色度分量的残差块时,可以通过对映射区域的色度分量执行缩放来将残差块转换到逆映射区域。可在条带级或并行块组级用信号发送缩放的可用性。只有当亮度分量的映射可用并且亮度分量的分区和色度分量的分区遵循相同的树结构时,才可以应用缩放。可基于与色差块相应的亮度预测块的样点值的平均值来执行缩放。在这种情况下,在当前块使用帧间预测时,亮度预测块可表示映射的亮度预测块。可通过使用亮度预测块的样点值的平均值所属的片段的索引参考查找表来推导缩放所需的值。最后,通过使用推导的值对残差块进行缩放,可以将残差块转换到逆映射区域。然后,可以在逆映射区域中执行色度分量块恢复、帧内预测、帧间预测、环路滤波和参考画面存储。
可以通过序列参数集用信号发送指示亮度分量和色度分量的映射/逆映射是否可用的信息。
可以基于指示当前画面中的当前块与参考块之间的位移的块矢量来产生当前块的预测块。以这种方式,用于参考当前画面产生预测块的预测模式被称为帧内块复制(IBC)模式。IBC模式可被应用于M×N(M<=64,N<=64)编码单元。IBC模式可包括跳过模式、合并模式、AMVP模式等。在跳过模式或合并模式的情况下,构建合并候选列表,并且用信号发送合并索引,使得可以指定一个合并候选。指定的合并候选的块矢量可以用作当前块的块矢量。合并候选列表可包括空间候选、基于历史的候选、基于两个候选的平均值的候选和零合并候选中的至少一个。在AMVP模式的情况下,可用信号发送差块矢量。另外,可从当前块的左侧邻近块和上方邻近块推导预测块矢量。可以用信号发送将使用的邻近块的索引。IBC模式中的预测块被包括在当前CTU或左侧CTU中并且被限于已经重建的区域中的块。例如,可以限制块矢量的值,使得当前块的预测块按照编码/解码顺序位于当前块所属的64×64块之前的三个64×64块的区域中。通过以这种方式限制块矢量的值,可减少根据IBC模式实施方案的存储器消耗和装置复杂度。
在下文中,提供了根据本公开的实施例的使用子画面合并和子流提取的编码/解码方法。
图8是示出根据本公开的实施例的图像编码/解码方法的示图。
参照图8,根据本公开的实施例的图像编码/解码方法可以包括:将当前画面分区为多个子画面(S810),获得分区的子画面的子画面信息(S820),和/或通过合并获得的子画面信息来产生当前画面的单流(S830)。
图9是示出根据本公开的另一实施例的图像编码/解码方法的示图。
参照图9,根据本公开的另一实施例的图像编码/解码方法可以包括:获得包括多个子画面的子画面信息的单流(S910),从多个子画面中选择将被提取的子画面(S920),将单流确定为将被提取的流(S930),和/或通过去除或使用包括在将被提取的流中的至少一条子画面信息来从将被提取的流中获得将被提取的子画面的子流(S940)。
流可以表示比特流。另外,单流可以包括至少一个子流。另外,子流可以从单流中提取,并且可以包括一个画面中的预定区域的编码信息。
在下文中,将详细描述适用于图8和图9的详细配置。
根据图8的配置,可以将一个画面分区为至少一个子画面,以获得与编码的子流兼容或符合编码的子流的单流。对于在一个画面中的预定区域单元的并行处理和单独编码/解码,可以以子画面为单位对分区的子画面的子画面信息进行编码/解码。即,可以合并子画面的子画面信息中的至少一个,从而产生用于画面的单流。此时,可以执行单次编码/解码。
根据图9的配置,当从合并的单流中提取特定子流时,可以提取与编码器/解码器兼容或符合编码器/解码器的子流。对于一个画面中的预定区域单元的单独编码/解码,可以从包括多个子画面的子画面信息的单流中提取至少一条子画面信息,从而产生包括至少一条子画面信息的子流。此时,子流可以被单独编码/解码,而不依赖于编码器/解码器中的其他子流。
可以将图像中包括的一个画面分区为一个或更多个子画面,并且可以以子画面为单位对图像进行编码/解码。
编码的流(编码的视频序列(CVS))的参数集或头(例如,SPS或PPS)可包括以下子画面信息中的至少一个。例如,子画面信息可以包括以下至少一项:指示包括在一个画面中的子画面的数量的信息、一个画面中的每个子画面的位置信息、一个画面中的每个子画面的尺寸信息、指示是否以与一个画面相同的方式执行子画面的解析和编码的信息、子画面滤波信息、指示子画面的数量是否等于或大于2的信息、指示与网格对应的子画面的索引的信息、指示子画面是否能够像画面一样被编码/解码的信息、关于位于子画面的左上侧的CTU的信息或子画面ID信息。另外,子画面信息可包括子画面的视频编码层(VCL)网络抽象层(NAL)单元或非VCL NAL单元中的至少一个。
同时,子画面可包括一个或更多个CTU行或一个或更多个CTU列,并且可基于CTU单元的宽度和高度或预定块单元的宽度和高度用信号发送子画面的尺寸。
例如,子画面滤波信息可以包括指示是否将去块滤波器、样本自适应偏移(SAO)或自适应环路滤波器(ALF)中的至少一个应用于子画面之间的边界的信息。
子画面可以由至少一个条带/并行块组成,并且可以表示为流上的一个或更多个VCL NAL单元。这里,子VCL NAL单元可包括编码的视频信息。例如,可包括编码的画面/子画面/条带/并行块信息中的至少一个。此时,每个子画面的条带头可包括以下信息中的至少一个。例如,指示当前子画面是当前画面的第几个的子画面标识符和用于标识子画面的头信息的标识符可被包括在条带头中。
例如,指示当前子画面是当前画面的第几个的标识符可以被定义为语法元素sub_pic_idx。
例如,用于标识子画面的头信息的标识符可标识对子画面进行解码所需的参数集或头信息。
例如,可根据光栅扫描顺序用信号发送每个子画面的VCL NAL单元。在另一示例中,可根据子画面标识符sub_pic_idx的升序用信号发送每个子画面的VCL NAL单元。
图10是示出包括在一个画面中的子画面的示图,图11是示出包括多个子画面的流的示图。
图10示出了将一个画面分区成九个子画面的示例。例如,可将画面分区成矩形子画面。图11示出了压缩并包括关于九个子画面的信息的流的示例。如上所述,子画面可包括在流中并且根据光栅扫描顺序被用信号发送。
每个子画面可以通过独立的编码器/解码器被编码/解码。在这种情况下,由于每个编码器/解码器可以将子画面视为一个画面并执行编码/解码,因此可以在访问单元(AU)中对由一个或更多个VCL NAL单元组成的一个子画面进行编码/解码。相应地,可以在子画面的流之前或子画面的流之后对随后的非VCL NAL单元进行编码/解码。
在下面的描述中,子画面的流可以表示子流。另外,在子画面的流之前的编码/解码可以表述比子画面更早地执行编码/编码,并且在子画面的流之后的编码/解码可以表示比子画面更晚地执行编码/解码。
同时,非VCL NAL单元可包括除编码的视频信息以外的信息。例如,可以包括视频参数集、序列参数集、画面参数集、自适应参数集、画面头、访问单元分隔符(AUD)、滤波器数据(FD)或补充增强信息(SEI)中的至少一个。
例如,可在子画面的第一VCL NAL单元之前用信号发送以下非VCL NAL单元,并且关于非VCL NAL单元的信息可用作关于子画面的信息。
-AUD
-前缀SEI
可以在子画面的最后一个VCL NAL单元之后用信号发送以下非VCL NAL单元,并且关于非VCL NAL单元的信息可以用作关于子画面的信息。
-后缀SEI
-FD
非VCL NAL单元的NAL单元头或原始字节序列负载(RBSP)可包括指示当前子画面为当前画面的第几个的标识符。这里,RBSP可以表示包括语法元素的语法结构,并且可以包括参数集、头或编码的画面/子画面/条带/并行块信息中的至少一个。
可以使用包括在AUD、前缀SEI、后缀SEI或条带中的指示当前条带为子画面的第几个的信息slice_address来识别AU边界。
例如,编码设备可以在对子画面进行编码之前用信号发送AUD。解码设备可在接收AUD时识别出新的AU开始。
图12是示出子画面访问单元(AU)的流结构的示图。
图12示出通过由两个AU组成的单流用信号发送由三个条带VCL NAL#1、VCL NAL#2和VCL NAL#3组成的子画面的示例。可以使用AUD来确定第一AU的开始边界,并且可以使用下一AU的条带头的后缀SEI或slice_address中的至少一个来确定AU的结束边界。
子画面的子流可以合并成配置一个画面的单流并被用信号发送。当一个或更多个子流合并成单流时,可以添加新的非VCL NAL单元。
未合并的子流可以被独立地编码/解码。可以在每个AU之前用信号发送AUD或前缀SEI中的至少一个,并且可以在每个AU之后用信号发送后缀SEI或FD中的至少一个。当合并一个或更多个子流以产生一个画面的流时,可将用于识别AU边界的非VCL NAL单元或SEI插入到流中。
图13是示出AUD的语法元素结构的示图。
可以将指示画面单元的AU边界的AUD插入到流中。当合并流时,可以在与第一子画面对应的子流的每个AU之前添加指示画面单元AU的边界的AUD。
例如,当合并子流时,可用信号发送AUD RBSP。此时,具有用于识别画面(不是子画面)的AU的边界的第一值的语法元素pic_aud_flag或aud_irap_or_gdr_flag可包括在AUDRBSP中。这里,第一值可表示1,并且当pic_aud_flag或aud_irap_or_gdr_flag指示第一值时,AU的边界可表示画面边界。
图14和图15是示出画面AU的流结构的示图。
图14和图15示出了当用于两个子画面的两个子流被合并以产生用于一个画面的单流时使用AUD的示例。图14示出了两个未合并的子流,并且图15示出了合并的单流。如图15所示,可以在第一子流之前添加具有第一值的pic_aud_flag的AUD,从而确定画面AU的边界。即,当存在pic_aud_flag具有第一值的AUD时,可以将其确定为画面AU的边界。在以下描述中,画面AU可表示为PicAU,并且子画面AU可表达为SubAU。
图16是示出画面AU的流结构的另一示图。
图16示出了当合并子流时将用于识别PicAU的前缀SEI插入到单流中的示例。
例如,当通过合并至少两个子流来产生一个画面的单流时,可以将表示PicAU的边界的前缀SEI插入到流中。当合并子流时,可在与第一子画面对应的子流的每个子SubAU之前插入具有指示PicAU边界的负载类型的前缀SEI。当在单流中用信号发送具有负载类型的前缀SEI时,解码器可确定新的AU开始。这里,确定新AU开始可表示确定画面AU的边界。即,当存在具有指示PicAU边界的负载类型的前缀SEI时,这可以被确定为画面AU的边界。
在另一示例中,当子流被合并时,指示单流的结束的比特流结束(EOB)NAL单元可插入在合并的流的末端。此时,为了区分子流的EOB与单流的EOB,可将具有与可用于子流中的EOB不同的NAL单元类型的EOB插入在PicAU的末端。
解码器可以使用上述方法中的至少一种来识别合并子流的单流中的画面AU。
当一个或更多个子流合并成单流时,可去除或改变包括在子流中的特定非VCLNAL单元。即,当子流合并成单流时,可以去除或改变以下非VCL NAL单元中的至少一个。例如,被去除或改变的NAL单元可以是解码参数集(DPS)、视频参数集(VPS)、比特流结束(EOB)、序列结束(EOS)、访问单元分隔符(AUD)、序列参数集(SPS)、画面参数集(PPS)或子画面信息补充增强信息(SEI)中的至少一个。
例如,当DPS分别包括在子流中并且子流被合并时,可以去除包括在子流中的除了包括在一个子流中的DPS以外的所有DPS。在另一示例中,假设包括在子流中的DPS中的所有语法元素具有相同的值,那么可去除子流的所有DPS并且可将仅一个DPS插入到单流中。例如,可以在单流中的第一子流之前插入DPS。
在另一示例中,当VPS分别包括在子流中并且子流被合并时,可去除包括在子流中的除了包括在一个子流中的VPS以外的所有VPS。在另一示例中,假设包括在子流中的VPS中的所有语法元素具有相同的值,那么可去除子流的所有VPS并且可将仅一个VPS插入到单流中。例如,可以在单流中的第一子流之前插入VPS。
在另一示例中,当EOS分别包括在子流中并且子流被合并时,可以去除包括在子流中的除了包括在一个子流中的EOS之外的所有EOS。在另一示例中,假设包括在子流中的所有EOS分别位于子流的SubAU之后,则可以去除子流的所有EOS,并且可以在单流中的PicAU之后仅插入一个EOS。
在另一示例中,假设分别包括在子流中的所有EOS分别位于子流的第n SubAU之后,则可以去除子流的所有EOS,并且可以在单流中的第n PicAU之后仅插入一个EOS。
在另一示例中,当EOB分别包括在子流中并且子流被合并时,可去除包括在子流中的除了包括在一个子流中的EOB以外的所有EOB。在另一示例中,可去除子流的所有EOB并且可将仅一个EOB插入到单流中。例如,可在单流中的最后一个子流之后插入EOB。
在另一示例中,当AUD分别包括在子流中并且子流被合并时,可以去除包括在子流中的除了包括在一个子流中的AUD之外的所有AUD。可选地,当子流被合并时,可以仅在与画面中的第一子画面对应的子流之前插入/保持AUD。即,可以去除除了位于与画面中的第一子画面对应的子流之前的AUD之外的所有AUD。
在另一示例中,当SPS分别包括在子流中并且子流被合并时,可以去除包括在子流中的所有SPS,并且可以产生包括关于包括在单流中的子画面的信息的新SPS并将其插入到合并的单流中。例如,SPS可被插入在单流中的序列之前。例如,关于子画面的信息可以是以下语法元素中的至少一个。
语法元素subpics_present_flag可指示将被合并的子画面的数量是否为两个或更多个。例如,当子画面的数量是两个或更多个时,subpics_present_flag可以具有作为第一值的1。另外,subpics_present_flag可指示是否存在子画面信息。例如,当subpics_present_flag是作为第一值的1时,可以存在子画面信息,而当subpics_present_flag是作为第二值的0时,在流中可以不存在子画面信息。
语法元素max_subpics_minus1可以指示通过从合并的子画面的数量减去1而获得的值。即,max_subpics_minus1可以表示指示包括在一个画面中的子画面的数量的信息。
语法元素subpic_grid_idx可指示在将画面分区成任意网格(例如,4×4)时与每个网格对应的子画面的索引。同时,包括在每个子流的SPS中的子画面的尺寸信息(例如,宽度/高度、分辨率等)可用于推导subpic_grid_idx。
语法元素subpic_treated_as_pic_flag可以指示每个子画面是否能够像画面一样被编码/解码。
在另一示例中,当PPS分别包括在子流中并且子流被合并时,可以去除包括在子流中的除了包括在一个子流中的PPS之外的所有PPS。在另一示例中,假设包括在每个子流中的PPS中的所有语法元素具有相同的值,那么可去除子流的所有PPS并且可将仅一个PPS插入到单流中。例如,PPS可以插入在单流中的第一子流之前。
在另一示例中,当子画面信息SEI包括在子流中并且子流被合并时,可以去除包括在子流中的除了包括在一个子流中的子画面信息SEI之外的所有子画面信息SEI。在另一示例中,与每个合并的子画面信息对应的子画面信息SEI可以被插入到单流中。例如,可以在单流中的最后一个子流之后插入子画面信息SEI。
图17是示出合并子流以产生单流的示例的示图。
当子流合并成单流时,包括在子流中的特定非VCL NAL单元的位置可在单流中移动。
例如,当前缀SEI包括在子流中时,前缀SEI可移动到单流PicAU的第一子画面的第一VCL NAL单元的前侧。图17示出了当两个子流的相同的第N SubAU都包括前缀SEI时,子流被合并成单流的示例。当合并成单流时,包括在每个子流的相同的第N SubAU中的一个或更多个前缀SEI可移动到单流中的第一子画面的子流的第一VCL NAL单元的前侧。另外,前缀SEI的顺序可以以与子画面索引相同的方式排列。
在另一示例中,当后缀SEI包括在子流中时,后缀SEI可移动到单流PicAU的最后一个子画面的最后VCL NAL单元的后侧。此时,当存在一条或更多条后缀SEI时,后缀SEI可以以与子画面索引相同的方式排列。
当一个或更多个子流合并成单流时,包括在子流中的前缀SEI可以移动到子画面的第一VLC NAL单元的前侧。即,在合并的单流PicAU内,前缀SEI可以存在于VLC NAL之间,并且每个前缀SEI的应用范围可以被定义为当前SubAU。
例如,当recovery_point SEI存在于合并的单流中时,SEI的应用范围可限于当前SubAU。即,SEI可仅适用于与当前SubAU对应的子画面。
当一个或更多个子流合并成单流时,包括在子流中的后缀SEI可以移动到子画面的最后一个VLC NAL单元的后侧。即,在合并的单流PicAU内,后缀SEI可以存在于VLC NAL之间,并且每个后缀SEI的应用范围可以被定义为当前SubAU。
例如,当decoded_picture_hash SEI存在于合并的单流中时,SEI的应用范围可限于当前SubAU。即,SEI可仅适用于与当前SubAU对应的子画面。
当从用信号发送的单流中提取一个或更多个子画面的子流时,可以去除或改变特定的非VCL NAL单元。
在本公开的实施例中,可以通过将单流设置为将被提取的流并从将被提取的流中去除不必要的信息或改变将被提取的流的一些信息来获得子流。
编码器/解码器可以通过从推导的单流中去除不必要的信息或改变一些信息来推导最终子流。
例如,当包括在将被提取的流中的NAL单元的最大时间层标识符tIdTarget值大于应用当前流提取的时间层标识符TemporalId时,可从将被提取的流中去除NAL单元。即,当TemporalId大于tIdTarget时,可以从将被提取的流中去除NAL单元。
在另一示例中,当包括在将被提取的流中的NAL单元满足预定条件时,可从将被提取的流去除NAL单元。
在另一示例中,当插入非VCL NAL单元或SEI以便识别PicAU边界由于合并而存在于将被提取的流中时,可提取去除非VCL NAL单元或SEI的子流。
在另一示例中,当存在用于识别PicAU边界的AUD时,可通过去除AUD或将指示包括在AUD中的画面单元边界的语法元素aud_irap_or_gdr_flag值的值改变为表示SubAU的第二值来提取子流。此时,第二值可以是0。
在另一示例中,可以将包括在单流中的画面的SPS信息改变为提取的子画面的SPS信息。例如,SPS信息可以如下改变。
由于语法元素subpics_present_flag指示序列中存在的子画面的数量,因此当提取的子画面的数量为1时,可以将其改变为作为第二值的0。
语法元素max_subpics_minus1可被改变为提取的子画面-1的数量的值。即,可以将max_subpics_minus1改变为0并提取,以便指示仅存在一个子画面或画面。
当提取的子画面被视为一个画面并且被分区成任意网格(例如,4×4)时,语法元素subpic_grid_idx可以被改变为与每个网格对应的子画面的索引。
语法元素sps_subpic_ctu_top_left_x和sps_subpic_ctu_top_left_y表示位于左上侧的CTU的坐标,提取的子画面可以被认为是一个画面,因此sps_subpic_ctu_top_left_x和sps_subpic_ctu_top_left_y可以改变为0。
SPS信息中的画面的宽度信息和高度信息可被改变为子画面的宽度信息和高度信息。
例如,当任意网格是CTU时,子画面的SPS信息可以位于log2_ctu_size_minus5之后。
在另一示例中,当多个子画面的SPS信息存在于单流中时,可使用关于子画面或单流的信息来提取所提取的子画面的SPS信息,并且可去除剩余子画面的SPS信息。
提取的子画面的SPS信息可被改变和提取,或者可基于单流的SPS信息被提取。例如,当仅提取一个子画面时,位于提取的子画面的左上侧的CTU的坐标(sps_subpic_ctu_top_left_x,sps_subpic_ctu_top_left_y)可被改变为(0,0)并被提取。另外,指示子画面总数的信息sps_num_subpics_minus1可被改变为0并被提取。即,子画面的总数可以被设置为1。另外,SPS信息中的画面的宽度信息和高度信息可被改变为子画面的宽度信息和高度信息并被提取。
另一方面,指示是否将子画面视为画面的信息sps_subpic_treated_as_pic_flag、指示是否对子画面边界应用滤波器的信息sps_loop_filter_across_subpic_enabled_flag或子画面ID sps_subpic_id中的至少一个可以在不改变的情况下被提取。这里,指示是否将子画面视为画面的信息可以表示指示是否以与一个画面相同的方式执行子画面的解析或解码的信息。另外,指示是否对子画面边界应用滤波器的信息可以表示子画面滤波信息。
同时,当提取子画面时,可以去除未提取子画面的sps_subpic_ctu_top_left_x、sps_subpic_ctu_top_left_y、sps_subpic_width_minus1、sps_subpic_height_minus1、sps_subpic_treated_as_pic_flag、sps_loop_filter_across_subpic_enabled_flag或sps_subpic_id中的至少一个。
在另一示例中,当多个子画面的PPS信息存在于单流中时,可以使用关于子画面或单流的信息来提取所提取的子画面的PPS信息,并且可以去除剩余子画面的PPS信息。
例如,指示子画面的总数的信息pps_num_subpics_minus1可被改变为0并被提取。即,子画面的总数可以被设置为1。另外,PPS信息中的画面的宽度和高度信息可被改变为子画面的宽度和高度信息并被提取。
当从单流提取一个或更多个子画面的子流时,可以包括和提取特定的非VCL NAL单元。此限制可用于标准比特流兼容性/一致性。
例如,如果非VCL NAL单元的头指定NAL单元与哪个子画面相关联并且提取任意子画面,那么可包括与子画面相关联的非VCL NAL单元并且可提取子流。另外,例如,如果非VCL NAL单元的头未指定NAL单元与哪个子画面相关联,那么可包括与包括将被提取的子画面的PicAU相关联的非VCL NAL单元,并且可提取子流。
例如,如果从单流提取由将被提取的PicAU中的子画面参考的DPS、SPS NAL单元、PPS NAL单元和APS NAL单元,那么NAL单元可包括在SubAU之前并且被提取,从而维持比特流兼容性/一致性。
在另一示例中,如果满足预定条件,那么当从单流提取子流时,可不去除与提取的子画面对应的VPS NAL单元、AUD NAL单元、EOB NAL单元或SEI NAL单元中的至少一个。
在另一示例中,当从单流提取子流时,可以去除与提取的子画面不对应的AUD NAL单元。
在另一示例中,如果AUD NAL单元被包括在单流中,则aud_irap_or_gdr_flag可以被设置为作为第一值的1,并且可以提取子流。
在另一示例中,与来自单流的子画面相关的前缀SEI NAL单元可包括在将被提取的SubAU之前,并且可提取子流。
在另一示例中,与来自单流的子画面相关的后缀SEI NAL单元可包括在将被提取的SubAU之后,并且可提取子流。
在另一示例中,与从单流提取的子画面相关联或在从单流提取的子画面之后被用信号发送的FD NAL单元可一起包括在子流中并且被提取。即,可以仅提取所提取的子画面的FD NAL单元,并且可以去除剩余子画面的FD NAL单元。
在另一示例中,EOS或EOB NAL单元存在于将被从单流提取的PicAU中,EOS或EOBNAL单元可包括在SubAU之后并且被提取。此时,可根据比特流的SubAU之后的NAL单元的顺序来排列EOS或EOB NAL单元。即,当EOS和EOB两者都存在时,它们可以按照EOS和EOB的顺序排列。
在另一示例中,当从单流提取子流时,可去除不与提取的子画面对应的APS NAL单元。
将上述子流合并成单流的实施例和从单流提取子流的实施例描述为在编码器/解码器中执行,这些可以由包括编码器/解码器的设备或不包括编码器/解码器的设备执行,但不限于此。这里,包括编码/解码模块的设备可以是与编码器/解码器分离的设备。
例如,分离的设备可以被称为单流合并设备或子流提取设备。例如,编码器/解码器可获得从单流合并设备或子流提取设备产生的单流或子流,并执行参照图1至图2描述的图像编码/解码操作,或者执行根据图8和图9的图像编码/解码操作。
例如,编码器可获得从单流合并设备产生的单流并产生子流。作为另一示例,解码器可获得从单流合并设备产生的单流,产生子流并从子流获得子画面信息。作为另一示例,解码器可获得通过子流提取设备产生的子流并产生单流。作为另一示例,解码器可获得通过子流提取设备产生的子流,并从子流获得子画面信息。
可以在编码器和解码器中以相同的方法执行以上实施例。
以上实施例中的至少一个或组合可以用于对视频进行编码/解码。
应用于以上实施例的顺序在编码器和解码器之间可以是不同的,或者应用于上述实施例的顺序在编码器和解码器中可以是相同的。
可以对每个亮度信号和色度信号执行以上实施例,或者可以对亮度和色度信号相同地执行以上实施例。
应用本发明的以上实施例的块形式可以具有正方形形式或非正方形形式。
在编码器中被熵编码和在解码器中被熵解码的语法元素(标志、索引等)中的至少一个可以使用以下二值化、去二值化、熵编码/解码方法中的至少一个。
-有符号的0阶Exp_Golomb的二值化/去二值化的方法(se(v))
-有符号的k阶Exp_Golomb的二值化/去二值化的方法(sek(v))
-无符号的正整数的0阶Exp_Golomb的二值化/去二值化的方法(ue(v))
-无符号的正整数的k阶Exp_Golomb的二值化/去二值化的方法(uek(v))
-固定长度二值化/去二值化方法(f(n))
-截断莱斯二值化/去二值化方法或截断一元二值化/去二值化方法(tu(v))
-截断二元二值化/去二值化方法(tb(v))
-上下文自适应算术编码/解码方法(ae(v))
-字节单位比特串(b(8))
-有符号的整数的二值化/去二值化方法(i(n))
-无符号的正整数的二值化/去二值化方法(u(n))
-一元二值化/去二值化方法
可以依据编码块、预测块、变换块、块、当前块、编码单元、预测单元、变换单元、单元和当前单元中的至少一个的尺寸来应用本发明的以上实施例。这里,尺寸可以被定义为最小尺寸或最大尺寸或最小尺寸和最大尺寸两者,使得应用以上实施例,或者可以被定义为应用以上实施例的固定尺寸。另外,在以上实施例中,第一实施例可以应用于第一尺寸,并且第二实施例可以应用于第二尺寸。换句话说,可以依据尺寸组合应用以上实施例。另外,当尺寸等于或大于最小尺寸并且等于或小于最大尺寸时,可以应用以上实施例。换句话说,当块尺寸包括在特定范围内时,可以应用以上实施例。
例如,在当前块的尺寸为8×8或更大时,可以应用以上实施例。例如,在当前块的尺寸仅为4×4时,可以应用以上实施例。例如,在当前块的尺寸为16×16或更小时,可以应用以上实施例。例如,在当前块的尺寸等于或大于16×16并且等于或小于64×64时,可以应用以上实施例。
可以依据时间层来应用本发明的以上实施例。为了识别可应用以上实施例的时间层,可用信号发送相应标识符,并且可将以上实施例应用于由相应标识符识别的指定时间层。这里,标识符可以被定义为可以应用以上实施例的最低层或最高层或最低层和最高层两者,或者可以被定义为指示应用实施例的特定层。另外,可以定义应用实施例的固定时间层。
例如,在当前图像的时间层是最低层时,可以应用以上实施例。例如,在当前图像的时间层标识符是1时,可以应用以上实施例。例如,在当前图像的时间层是最高层时,可以应用以上实施例。
可以定义应用本发明的以上实施例的条带类型或并行块组类型,并且可以依据相应的条带类型或并行块组类型来应用以上实施例。
在上述实施例中,基于具有一系列步骤或单元的流程图来对方法进行描述,但是本发明不限于步骤的顺序,而是某些步骤可以与其他步骤同时执行或以不同的顺序执行。另外,本领域普通技术人员应当理解,流程图中的步骤并不相互排斥,在不影响本发明的范围的情况下,可以向流程图中添加其他步骤,或者可以从流程图中删除某些步骤。
实施例包括示例的各个方面。可以不对用于各个方面的所有可能的组合进行描述,但是本领域技术人员将能够认识到不同的组合。因此,本发明可以包括在权利要求的范围内的所有替换、修改和改变。
可以以可由各种计算机组件执行的并且被记录在计算机可读记录介质中的程序指令的形式实现本发明的实施例。计算机可读记录介质可以包括独立的程序指令、数据文件、数据结构等或者程序指令、数据文件、数据结构等的组合。记录在计算机可读记录介质中的程序指令可以是为本发明特别设计和构造的,或者是计算机软件技术领域的普通技术人员公知的。计算机可读记录介质的示例包括:磁性记录介质(诸如硬盘、软盘和磁带);光学数据存储介质(诸如CD-ROM或DVD-ROM);磁优化介质(诸如光软盘);以及被特别地构造成存储和实现程序指令的硬件装置(诸如只读存储器(ROM)、随机存取存储器(RAM)、闪存等)。程序指令的示例不仅包括被编译器格式化的机械语言代码,而且包括可以由计算机使用解释器实现的高级语言代码。硬件装置可以被配置为由一个或更多个软件模块操作以执行根据本发明的处理,或者反之亦然。
尽管已经根据诸如详细元件的特定项目以及有限的实施例和附图描述了本发明,但是它们仅被提供以帮助更综合地理解本发明,并且本发明不限于上述实施例。本发明所属领域的技术人员应当理解,可以根据上面的描述进行各种修改和改变。
因此,本发明的精神不应被限于上述实施例,并且所附权利要求及其等同物的整个范围将落入本发明的范围和精神内。
工业适用性
本发明可用于对图像进行编码或解码。

Claims (14)

1.一种图像解码方法,包括:
获得包括多个子画面的子画面信息的单流;
从所述多个子画面中选择将被提取的子画面;
将所述单流确定为将被提取的流;以及
通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
2.如权利要求1所述的图像解码方法,其中,所述子画面信息包括:用于所述多个子画面的非视频编码层VCL网络抽象层NAL单元和VCL NAL单元。
3.如权利要求1所述的图像解码方法,其中,通过去除不是将被提取的子画面的子画面的VCL NAL单元来获得子流。
4.如权利要求1所述的图像解码方法,其中,所述子画面信息包括以下至少一项:序列参数集SPS信息或画面参数集信息PPS。
5.如权利要求4所述的图像解码方法,其中,通过将将被提取的子画面的左上方编码树单元CTU坐标设置为(0,0)来获得子流。
6.如权利要求4所述的图像解码方法,其中,通过改变指示将被提取的子画面的总数的信息来获得子流。
7.如权利要求4所述的图像解码方法,其中,在不改变将被提取的子画面的至少一条子画面信息的情况下获得子流。
8.如权利要求7所述的图像解码方法,其中,所述未改变的子画面信息包括以下至少一项:指示是否将子画面视为画面的信息、滤波信息或子画面ID信息。
9.如权利要求4所述的图像解码方法,其中,通过去除不是将被提取的子画面的子画面的子画面信息来获得子流。
10.权利要求1所述的图像解码方法,
其中,所述子画面信息包括以下至少一项:视频参数集VPS NAL单元、比特流结束EOBNAL单元、访问单元分隔符AUD NAL单元或补充增强信息SEINAL单元,并且
其中,不从将被提取的流中去除VPS NAL单元、EOB NAL单元、AUD NAL单元或SEINAL单元中的至少一个。
11.一种图像编码方法,包括:
获得包括多个子画面的子画面信息的单流;
从所述多个子画面中选择将被提取的子画面;
将所述单流确定为将被提取的流;以及
通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
12.如权利要求11所述的图像编码方法,其中,所述子画面信息包括:用于所述多个子画面的非视频编码层VCL网络抽象层NAL单元和VCL NAL单元。
13.如权利要求12所述的图像编码方法,其中,通过去除不是将被提取的子画面的子画面的VCL NAL单元来获得子流。
14.一种其中存储有通过图像解码设备接收并用于重建包括在当前画面中的当前块的子流的计算机可读记录介质,其中,所述子流是通过图像编码方法产生的,其中,所述图像编码方法包括:
获得包括多个子画面的子画面信息的单流;
从所述多个子画面中选择将被提取的子画面;
将所述单流确定为将被提取的流;以及
通过去除或使用包括在将被提取的流中的至少一条子画面信息,从将被提取的流中获得将被提取的子画面的子流。
CN202080039221.3A 2019-09-20 2020-09-21 图像编码/解码方法和设备以及存储比特流的记录介质 Pending CN113875249A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2019-0116393 2019-09-20
KR20190116393 2019-09-20
KR20190117076 2019-09-23
KR10-2019-0117076 2019-09-23
PCT/KR2020/012734 WO2021054811A1 (ko) 2019-09-20 2020-09-21 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체

Publications (1)

Publication Number Publication Date
CN113875249A true CN113875249A (zh) 2021-12-31

Family

ID=74884103

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080039221.3A Pending CN113875249A (zh) 2019-09-20 2020-09-21 图像编码/解码方法和设备以及存储比特流的记录介质

Country Status (4)

Country Link
US (1) US20220239933A1 (zh)
KR (1) KR20210034536A (zh)
CN (1) CN113875249A (zh)
WO (1) WO2021054811A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3152290A1 (en) * 2019-09-23 2021-04-01 Huawei Technologies Co., Ltd. Indication of one slice per subpicture in subpicture-based video coding
WO2021194208A1 (ko) * 2020-03-23 2021-09-30 엘지전자 주식회사 혼성 nal 유닛 타입에 기반하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장하는 기록 매체
KR20210152992A (ko) * 2020-12-04 2021-12-16 한국전자통신연구원 이진 마스크를 사용하는 영상 인코딩/디코딩을 위한 방법, 장치 및 기록 매체
WO2024107026A1 (ko) * 2022-11-19 2024-05-23 엘지전자 주식회사 Nnpfc sei 메시지의 반복을 처리하는 영상 부호화/복호화 방법, 비트스트림을 전송하는 방법 및 비트스트림을 저장한 기록 매체
WO2024107028A1 (ko) * 2022-11-19 2024-05-23 엘지전자 주식회사 영상 부호화/복호화 방법, 비트스트림을 전송하는 방법 및 비트스트림을 저장한 기록 매체
WO2024144314A1 (ko) * 2023-01-01 2024-07-04 엘지전자 주식회사 영상 부호화/복호화 방법, 비트스트림을 전송하는 방법 및 비트스트림을 저장한 기록 매체

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104919803A (zh) * 2013-01-15 2015-09-16 夏普株式会社 具有信令的视频解码器
CN105359527A (zh) * 2013-07-15 2016-02-24 高通股份有限公司 用于视频译码的跨层并行处理与偏移延迟参数
CN105519117A (zh) * 2013-09-06 2016-04-20 三菱电机株式会社 动态图像编码装置、动态图像转码装置、动态图像编码方法、动态图像转码方法以及动态图像流传输系统
CN108881921A (zh) * 2012-09-26 2018-11-23 太阳专利托管公司 图像编码方法、图像编码装置
US20190253734A1 (en) * 2017-03-20 2019-08-15 Lg Electronics Inc. Method for transmitting 360 video, method for receiving 360 video, 360 video transmitting device, and 360 video receiving device

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070019722A1 (en) * 2003-06-04 2007-01-25 Koninklijke Philips Electronics N.V. Subband-video decoding method and device
US9521393B2 (en) * 2013-01-07 2016-12-13 Qualcomm Incorporated Non-nested SEI messages in video coding
JP6330667B2 (ja) * 2013-08-09 2018-05-30 ソニー株式会社 送信装置、送信方法、受信装置、受信方法、符号化装置および符号化方法
JP7467467B2 (ja) * 2018-12-28 2024-04-15 ビー1、インスティテュート、オブ、イメージ、テクノロジー、インコーポレイテッド イントラ予測基盤の画像符号化/復号化方法及び装置
CN118118667A (zh) * 2019-03-11 2024-05-31 腾讯美国有限责任公司 视频编码、解码的方法和计算机设备
DK3925212T3 (da) * 2019-03-11 2024-03-04 Huawei Tech Co Ltd Billeder med blandede nal-enhedstyper
CN114287135A (zh) * 2019-08-23 2022-04-05 北京字节跳动网络技术有限公司 参考图片重采样中的剪切
CN114424576A (zh) * 2019-09-18 2022-04-29 有限公司B1影像技术研究所 基于环路滤波器的图像编码/解码方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108881921A (zh) * 2012-09-26 2018-11-23 太阳专利托管公司 图像编码方法、图像编码装置
CN104919803A (zh) * 2013-01-15 2015-09-16 夏普株式会社 具有信令的视频解码器
CN105359527A (zh) * 2013-07-15 2016-02-24 高通股份有限公司 用于视频译码的跨层并行处理与偏移延迟参数
CN105519117A (zh) * 2013-09-06 2016-04-20 三菱电机株式会社 动态图像编码装置、动态图像转码装置、动态图像编码方法、动态图像转码方法以及动态图像流传输系统
US20190253734A1 (en) * 2017-03-20 2019-08-15 Lg Electronics Inc. Method for transmitting 360 video, method for receiving 360 video, 360 video transmitting device, and 360 video receiving device

Also Published As

Publication number Publication date
WO2021054811A1 (ko) 2021-03-25
KR20210034536A (ko) 2021-03-30
US20220239933A1 (en) 2022-07-28

Similar Documents

Publication Publication Date Title
CN113273213B (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN113261286B (zh) 用于推导帧内预测模式的方法和设备
CN116866563A (zh) 图像编码/解码方法、存储介质以及图像数据的传输方法
KR20200033194A (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
CN112369021A (zh) 用于吞吐量增强的图像编码/解码方法和设备以及存储比特流的记录介质
CN113875249A (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN112740697A (zh) 图像编码/解码方法和装置及存储比特流的记录介质
CN112771862A (zh) 通过使用边界处理对图像进行编码/解码的方法和设备以及用于存储比特流的记录介质
CN112806018B (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN114342372A (zh) 帧内预测模式、以及熵编解码方法和装置
CN113228651A (zh) 量化矩阵编码/解码方法和装置以及存储比特流的记录介质
CN114788286A (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN113906743B (zh) 量化矩阵编码/解码方法和装置、以及存储比特流的记录介质
CN112740671A (zh) 图像编码/解码方法和装置以及存储比特流的记录介质
CN113287305B (zh) 视频编码/解码方法、装置以及在其中存储比特流的记录介质
CN113940077A (zh) 用于视频编码/解码的虚拟边界信令方法和设备
CN112740694A (zh) 用于对图像进行编码/解码的方法和设备以及用于存储比特流的记录介质
CN113906740A (zh) 帧间预测信息编码/解码方法和装置
CN113545052A (zh) 图像编码/解码方法和装置以及存储比特流的记录介质
CN113228643A (zh) 图像编码/解码方法和设备以及用于存储比特流的记录介质
CN113228645A (zh) 图像编码/解码方法和装置以及存储有比特流的记录介质
CN113875235A (zh) 图像编码/解码方法和装置及存储比特流的记录介质
CN114503566A (zh) 图像编码/解码方法和设备以及存储比特流的记录介质
CN113841398A (zh) 一种基于子块划分的图像编码/解码方法及装置
CN113841404A (zh) 视频编码/解码方法和设备以及存储比特流的记录介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination