CN118803236A - 一种自适应量化方法、装置、电子设备和存储介质 - Google Patents
一种自适应量化方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN118803236A CN118803236A CN202310381202.4A CN202310381202A CN118803236A CN 118803236 A CN118803236 A CN 118803236A CN 202310381202 A CN202310381202 A CN 202310381202A CN 118803236 A CN118803236 A CN 118803236A
- Authority
- CN
- China
- Prior art keywords
- quantization parameter
- parameter offset
- offset value
- coding
- space domain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013139 quantization Methods 0.000 title claims abstract description 249
- 238000000034 method Methods 0.000 title claims abstract description 34
- 230000006870 function Effects 0.000 claims description 40
- 230000003044 adaptive effect Effects 0.000 claims description 28
- 238000004364 calculation method Methods 0.000 claims description 22
- 230000035945 sensitivity Effects 0.000 claims description 22
- 238000012360 testing method Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 9
- 238000012216 screening Methods 0.000 claims description 6
- 238000007906 compression Methods 0.000 abstract description 5
- 230000006835 compression Effects 0.000 abstract description 5
- 238000005516 engineering process Methods 0.000 abstract description 4
- 230000000007 visual effect Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 238000013144 data compression Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种自适应量化的方法、装置、电子设备和存储介质，所述方法包括：拟合编码代价‑量化参数偏移敏感函数并通过所述敏感函数计算预估时空域量化参数偏移值；根据当前编码块的所述预估时空域量化参数偏移值和第一量化参数偏移值的表现对所述第一量化参数偏移值进行修正，得到第二量化参数偏移值。本发明提供的技术方案能够有效的解决现有量化技术在时间域和空间域上的不耦合的问题，进一步提升视频压缩效率和主观质量。
Description
技术领域
本发明涉及图像编码技术，具体涉及一种自适应量化方法、装置、电子设备和存储介质。
背景技术
近年来，随时视频行业的高速发展，人们的生活和工作充满了视频元素，例如：短视频、电影、游戏、直播、视频会议、云桌面等等。未经编码的原始视频体积非常庞大，不利于存储和传输。未经编码的原始视频存在着很大一部分的视觉冗余，视觉冗余包括空域视觉冗余和时域视觉冗余。空域视觉冗余是静态图像存在的最主要的数据冗余，例如一幅图画的背景区域中点的光强、色彩、饱和度都非常的接近，这种空间的连贯性就会产生数据冗余。时间视觉冗余是视频序列中经常包含的冗余，序列图像中相邻帧往往包含相同或者类似的背景和运动物体，只不过运动物体所在的空间位置略有不同，这种相邻帧之间的高度相关性就会产生数据冗余。因此，工程师们通过视频编码技术利用空域视觉冗余和时域视觉冗余的特性和规律，将视频数据中的冗余信息去除，帮助视频“瘦身”，达到易于存储和传输的目的。
目前主流编码标准均是基于混合视频编码框架。混合框架主要包括预测（prediction）、变换（transform）、量化（quantization）、熵编码（entropycoding）等环节。预测环节是利用已编码区域的重建像素产生当前编码块对应的原始像素的预测像素。预测方式包括帧内预测（intra prediction）和帧间预测（inter prediction）两大类。原始像素和预测像素之间的像素差值称为残差（residual）。为了提高残差的编码效率，通常先对残差进行变换，将其转化为变换系数（transform coefficient）。然后，再对变换系数进行量化处理。在混合视频编码框架中，预测和变换本身并不会给图像数据带来失真，失真是由量化造成的。量化是数据压缩的有效方法之一，也是图像压缩产生失真的根源之一。因此，量化的方法设计是一个受约束的优化问题，即在允许一定失真（或保持一定图像质量）的条件下，获得尽可能的高压缩率。
针对空域视觉冗余，主流量化方法就是根据宏块的复杂度来自适应调整每个宏块量化时的量化参数。人眼更关注平坦区域的变化，对复杂纹理区域的损失不敏感。因此在编码时对复杂纹理区域使用较大的QP（quantization parameter），对于平坦区域使用较小的QP。
针对时域视觉冗余，研究人员提出了宏块树（Macroblock Tree, MB tree）的概念。MB tree的工作过程简单来说，是对于每个MB，向前预测一定数量的帧（该数量由rc-lookahead和keyint的较小值决定）中该宏块被参考的情况，根据引用次数的多少来决定对该宏块使用何种大小的量化参数进行量化。其中，宏块是H.264编码的基本单位，一个编码图像首先要划分成多个块（4x4像素）才能进行处理，显然宏块应该是整数个块组成，通常宏块大小为16x16个像素。宏块分为I、P、B宏块：I宏块只能利用当前片中已解码的像素作为参考进行帧内预测，P宏块可以利用前面已解码的图像作为参考图像进行帧间预测，B宏块则是利用前后向的参考图形进行帧间预测。
如上所述，现有的传统量化方法设计大多只单独考虑空域视觉冗余或者单独考虑时域视觉冗余。但是对于大多满足空域自适应量化的算法并不满足时域自适应量化；对于大多满足时域自适应量化的算法并不满足空域自适应量化。
发明内容
由于现有方法存在上述问题，本发明实施例提出了一种自适应量化方法、装置、电子设备及存储介质。
第一方面，本发明实施例提供了一种自适应量化方法，包括：
对待编码图像帧进行块划分，得到编码块。
对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值。
根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值。
根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
第二方面，本发明实施例提供了一种自适应量化装置，包括：
第一编码模块，用于对待编码图像帧进行块划分，得到编码块。
第二编码模块，用于对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值。
第一计算模块，用于根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值。
第二计算模块，用于根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
第三方面，本发明实施例还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的自适应量化方法。
第四方面，本发明实施例还提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面所述的自适应量化方法。
由上述技术方案可知，本发明提供的技术方案能够有效的解决现有量化技术在时间域和空间域上的不耦合的问题，进一步提升视频压缩效率和主观质量。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些图获得其他的附图。
图1是本发明一实施例提供的自适应量化方法的流程图。
图2是H.264/AVC的宏块划分方式示意图。
图3是H.265/HEVC的CTU划分为CU的示意图。
图4是H.264/AVC的帧内预测模式示意图。
图5是H.265/HEVC的帧内预测模式示意图。
图6是本发明一实施例提供的自适应量化装置的结构示意图。
图7是本发明一实施例提供的电子设备的结构示意图。
具体实施方式
下面结合附图，对本发明的具体实施方式作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
图1示出了本发明一实施例提供的自适应量化方法的流程图，如图1所示，本发明实施例提供的自适应量化方法，具体包括如下内容：
步骤一，对待编码图像帧进行块划分，得到编码块。
在本步骤中，可以理解的是，主流的编码方法都是将图像划分成块进行编码。不同的编码标准有不同的块划分方法。如图2所示，在H.264/AVC中，图像首先会被划分为大小相同的16*16的块，称为宏块MB（Marco Block）。宏块可以进一步划分为子宏块，其中8*8的子宏块还可以继续划分。如图3所示，在H.265/HEVC中，图像首先会被划分为编码树单元CTU（Coding Tree Unit），然后进一步通过四叉树划分方式进一步划分为编码单元CU（CodingUnit），编码单元还可以进一步划分为更小的尺寸。本发明实施例对块划分的方式不进行统一限定，为方便表述，本发明实施例中对待编码图像帧进行块划分后得到的块统称为编码块。在实际编码过程中，需要根据视频编码的具体场景需求选择合适的编码标准以及块划分方式。
需要说明的是，编码块尺寸的选择会影响编码结果，如编码块尺寸越小，允许编码图像与原图像的差异越小，编码的精度越高，但是会导致速度慢、复杂度过高；反之，编码块尺寸越大，编码复杂度低，速度快，但是允许编码图像与原图像的差异越大，编码的精度低。
进一步的，在一个实施例中，在所述对待编码图像帧进行块划分前，还可以对待编码图像帧进行下采样。
可以理解的是，对待编码图像帧进行下采样可以使图像符合显示区域的大小，生成对应图像的缩略图，降低计算复杂度，提高编码速度。本发明实施例对下采样倍数不进行限定，在实际编码过程中，根据实际场景进行设置。
步骤二，对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值。
在本步骤中，可以理解的是，预测方式包括帧内预测（intra prediction）和帧间预测（inter prediction）两大类。对于不同视频标准，具体的编码预测模式各有不同。在H.264/AVC中，对于4*4大小的宏块，规定了9种帧内预测模式（如图4所示）和2种帧间预测模式（包括Skip模式和Direct模式）。在H.265/HEVC中规定了35种帧内预测模式（包括Planar模式、DC模式和33种角度模式，如图5所示）和3种帧间预测模式（包括Inter模式、Merge模式和Skip模式）。实际应用中可以根据具体情况设置一种或多种编码预测模式进行遍历预测得到相应的编码代价，其中最小的编码代价即为最佳编码代价。
所述第一量化参数偏移值的计算方式为：
其中，var为编码块的像素方差，t为经验常数。
步骤三，根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值。
在本步骤中，需要说明的是，在现有技术中，常用的自适应量化方法是利用编码块的复杂程度来调整编码块量化时的量化参数，或者，通过MB Tree技术来决定编码块的量量化参数。前者仅侧重于空域上的特征信息，后者仅侧重于时域上的特征信息。在本发明的实施例中，通过大量实验，可以利用帧间编码代价或者帧内编码代价表征时空域上编码块综合的复杂度的信息，进而与量化参数建立联系。
在一个实施例中，所述编码代价-量化参数偏移敏感函数，可以是帧内编码代价-量化参数偏移敏感函数。
拟合所述帧内编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块。
对所述编码块遍历帧内预测模式，计算筛选出最佳帧内编码代价。
根据所述最佳帧内编码代价和对应的量化参数偏移值拟合帧内编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，costintra为最佳帧内编码代价。
进一步的，为了能更精确的拟合帧内编码代价-量化参数偏移敏感函数，可以针对不同类型的视频场景，设置不同的帧内编码代价阈值T1，T2，T3（T1＜T2＜T3）。
将测试集分段拟合帧内编码代价-量化参数偏移敏感函数：
其中，costintra为最佳帧内编码代价，k1、m1、k2、m2、k3、m3为经验常数。
在另一个实施例中，所述编码代价-量化参数偏移敏感函数，还可以是帧间编码代价-量化参数偏移敏感函数。
拟合所述帧间编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块。
对所述编码块遍历帧间预测模式，计算筛选出最佳帧间编码代价。
根据所述最佳帧间编码代价和对应的量化参数偏移值拟合帧间编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，costinter为最佳帧间编码代价。
进一步的，为了能更精确的拟合帧间编码代价-量化参数偏移敏感函数，可以针对不同类型的视频场景，设置不同的帧间编码代价阈值T1，T2，T3（T1＜T2＜T3）。
将测试集分段拟合帧间编码代价-量化参数偏移敏感函数：
其中，costinter为最佳帧间编码代价，k1、m1、k2、m2、k3、m3为经验常数。
相应的，在所述根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值之前，可以根据视频场景进行分类。
优选的，对于运动缓慢、静态、场景单一等视频类型，所述最佳编码代价为帧间编码代价，根据所述帧间编码代价-量化参数偏移敏感函数得到所述预估时空量化参数偏移值。
优选的，对于快速运动、场景切换频繁等视频类型，所述最佳编码代价为帧内编码代价，根据所述帧内编码代价-量化参数偏移敏感函数得到所述预估时空量化参数偏移值。
步骤四，根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
所述根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值，包括：
计算时空域惩罚因子。
在一个实施例中，所述时空域惩罚因子计算公式为：
其中，a、b、c为经验常数，costintra为最佳帧内编码代价。
进一步的，为了能更精确的计算惩罚因子，可以针对不同类型的视频场景，设置不同的帧内编码代价阈值T1，T2，T3（T1＜T2＜T3），惩罚因子的计算公式为：
其中，costintra为最佳帧内编码代价，a1、b1、c1、a2、b2、c2、a3、b3、c3 为经验常数。
在另一个实施例中，所述时空域惩罚因子计算公式为：
其中，a、b、c为经验常数，costinter为最佳帧间编码代价。
进一步的，为了能更精确的计算惩罚因子，可以针对不同类型的视频场景，设置不同的帧间编码代价阈值T1，T2，T3（T1＜T2＜T3），惩罚因子的计算公式为：
其中，costinter为最佳帧间编码代价，a1、b1、c1、a2、b2、c2、a3、b3、c3 为经验常数。
根据所述预估时空域量化参数偏移值、时空域惩罚因子对所述第一量化参数偏移值进行修正，得到第二量化参数偏移值。
如果所述预估时空域量化参数偏移值小于零且所述第一量化参数偏移值大于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子。
可以理解的是，所述预估时空域量化参数偏移值小于零且所述第一量化参数偏移值大于零，表示当前编码块在空域上较为复杂且时域上的参考性较高，需要降低第一量化参数偏移值。
进一步的，为了更精确地对所述第一量化参数偏移值进行修正，可以针对不同类型的视频场景，设置编码块像素方差阈值Q。
当当前编码块的像素方差小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight1为第一权重因子。
当当前编码块的像素方差不小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight2为第二权重因子。
如果所述预估时空域量化参数偏移值大于零且所述第一量化参数偏移值小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子。
可以理解的是，所述预估时空域量化参数偏移值大于零且所述第一量化参数偏移值小于零，表示当前编码块在空域上较为平坦且空域上的参考性较高，需要增加第一量化参数偏移值。
进一步的，为了更精确地对所述第一量化参数偏移值进行修正，可以针对不同类型的视频场景，设置编码块像素方差阈值Q。
当当前编码块的像素方差小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight3为第三权重因子。
当当前编码块的像素方差不小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight4为第四权重因子。
如果所述预估时空域量化参数偏移值与所述第一量化参数偏移值均大于零，或均小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，Δqp为预估时空域量化参数偏移值。
可以理解的是，所述预估时空域量化参数偏移值和所述第一量化参数偏移值为表现一致，表示当前编码块在空域和时域上表现一致，取所述预估时空域量化参数偏移值和所述第一量化参数偏移值种较大的值。
惩罚因子能够很好的表征当前编码块的时域或空域上的重要性，能够对当前编码块的在预估时空域量化参数偏移值和第一量化参数偏移值表现不一致时进行补偿，有效提升视频质量和压缩率。其中，利用方差来表示第一量化参数偏移值dqptexture，dqptexture越大，表明图像越复杂。
图6示出了本发明一实施例提供的自适应量化装置的结构示意图，如图6所示，本发明实施例提供的自适应量化装置，具体包括如下内容：
第一编码模块，用于对待编码图像帧进行块划分，得到编码块。
需要说明的是，编码块尺寸的选择会影响编码结果，如编码块尺寸越小，允许编码图像与原图像的差异越小，编码的精度越高，但是会导致速度慢、复杂度过高；反之，编码块尺寸越大，编码复杂度低，速度快，但是允许编码图像与原图像的差异越大，编码的精度低。
进一步的，在一个实施例中，在所述对待编码图像帧进行块划分前，还可以对待编码图像帧进行下采样。
可以理解的是，对待编码图像帧进行下采样可以使图像符合显示区域的大小，生成对应图像的缩略图，降低计算复杂度，提高编码速度。本发明实施例对下采样倍数不进行限定，在实际编码过程中，根据实际场景进行设置。
第二编码模块，用于对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值。
所述第一量化参数偏移值的计算方式为：
其中，var为编码块的像素方差，t为经验常数。
第一计算模块，用于根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值。
在一个实施例中，所述编码代价-量化参数偏移敏感函数，可以是帧内编码代价-量化参数偏移敏感函数。
拟合所述帧内编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块。
对所述编码块遍历帧内预测模式，计算筛选出最佳帧内编码代价。
根据所述最佳帧内编码代价和对应的量化参数偏移值拟合帧内编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，costintra为最佳帧内编码代价。
进一步的，为了能更精确的拟合帧内编码代价-量化参数偏移敏感函数，可以针对不同类型的视频场景，设置不同的帧内编码代价阈值T1，T2，T3（T1＜T2＜T3）。
将测试集分段拟合帧内编码代价-量化参数偏移敏感函数：
其中，costintra为最佳帧内编码代价，k1、m1、k2、m2、k3、m3为经验常数。
在另一个实施例中，所述编码代价-量化参数偏移敏感函数，还可以是帧间编码代价-量化参数偏移敏感函数。
拟合所述帧间编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块。
对所述编码块遍历帧间预测模式，计算筛选出最佳帧间编码代价。
根据所述最佳帧间编码代价和对应的量化参数偏移值拟合帧间编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，costinter为最佳帧间编码代价。
进一步的，为了能更精确的拟合帧间编码代价-量化参数偏移敏感函数，可以针对不同类型的视频场景，设置不同的帧间编码代价阈值T1，T2，T3（T1＜T2＜T3）。
将测试集分段拟合帧间编码代价-量化参数偏移敏感函数：
其中，costinter为最佳帧间编码代价，k1、m1、k2、m2、k3、m3为经验常数。
相应的，在所述根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值之前，可以根据视频场景进行分类。
优选的，对于运动缓慢、静态、场景单一等视频类型，所述最佳编码代价为帧间编码代价，根据所述帧间编码代价-量化参数偏移敏感函数得到所述预估时空量化参数偏移值。
优选的，对于快速运动、场景切换频繁等视频类型，所述最佳编码代价为帧内编码代价，根据所述帧内编码代价-量化参数偏移敏感函数得到所述预估时空量化参数偏移值。
第二计算模块，用于根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
所述根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值，包括：
计算时空域惩罚因子。
在一个实施例中，所述时空域惩罚因子计算公式为：
其中，a、b、c为经验常数，costintra为最佳帧内编码代价。
进一步的，为了能更精确的计算惩罚因子，可以针对不同类型的视频场景，设置不同的帧内编码代价阈值T1，T2，T3（T1＜T2＜T3），惩罚因子的计算公式为：
其中，costintra为最佳帧内编码代价，a1、b1、c1、a2、b2、c2、a3、b3、c3 为经验常数。
在另一个实施例中，所述时空域惩罚因子计算公式为：
其中，a、b、c为经验常数，costinter为最佳帧间编码代价。
进一步的，为了能更精确的计算惩罚因子，可以针对不同类型的视频场景，设置不同的帧间编码代价阈值T1，T2，T3（T1＜T2＜T3），惩罚因子的计算公式为：
其中，costinter为最佳帧间编码代价，a1、b1、c1、a2、b2、c2、a3、b3、c3 为经验常数。
根据所述预估时空域量化参数偏移值、时空域惩罚因子对所述第一量化参数偏移值进行修正，得到第二量化参数偏移值。
如果所述预估时空域量化参数偏移值小于零且所述第一量化参数偏移值大于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子。
进一步的，为了更精确地对所述第一量化参数偏移值进行修正，可以针对不同类型的视频场景，设置编码块像素方差阈值Q。
当当前编码块的像素方差小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight1为第一权重因子。
当当前编码块的像素方差不小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight2为第二权重因子。
如果所述预估时空域量化参数偏移值大于零且所述第一量化参数偏移值小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子。
进一步的，为了更精确地对所述第一量化参数偏移值进行修正，可以针对不同类型的视频场景，设置编码块像素方差阈值Q。
当当前编码块的像素方差小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight3为第三权重因子。
当当前编码块的像素方差不小于Q时，则第二量化参数偏移值的计算公式为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子，weight4为第四权重因子。
如果所述预估时空域量化参数偏移值与所述第一量化参数偏移值均大于零，或均小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，Δqp为预估时空域量化参数偏移值。
基于相同的发明构思，本发明又一实施例提供了一种电子设备，如图7所示，所述电子设备具体包括如下内容：处理器701、存储器702、通信接口703和通信总线704。
其中，所述处理器701、存储器702、通信接口703通过所述通信总线704完成相互间的通信；所述通信接口703用于实现各设备之间的信息传输。
所述处理器701用于调用所述存储器702中的计算机程序，所述处理器执行所述计算机程序时实现上述自适应量化方法的全部步骤。
基于相同的发明构思，本发明又一实施例提供了一种非暂态计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述自适应量化方法的全部步骤。
上述的存储器中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-OnlyMemory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
此外，在本发明实施例中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。在本说明书的描述中，“在一个实施例”、“在另一个实施例”等的描述意指结合该实施例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例以及不同实施例的特征进行结合和组合。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (10)
1.一种自适应量化方法，其特征在于，包括：
对待编码图像帧进行块划分，得到编码块；
对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值；
根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值；
根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
2.根据权利要求1所述的自适应量化方法，其特征在于，所述第一量化参数偏移值的计算方法为：
其中，var为编码块的像素方差，t为经验常数。
3.根据权利要求1所述的自适应量化方法，其特征在于，拟合所述编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块；
对所述编码块遍历预测模式，计算筛选出最佳编码代价；
所述最佳编码代价可以是最佳帧内编码代价，也可以是最佳帧间编码代价；
根据所述最佳编码代价和对应的量化参数偏移值拟合编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，cost为最佳编码代价。
4.根据权利要求1所述的自适应量化方法，其特征在于，所述根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值，包括
计算时空域惩罚因子，计算公式为：
其中，a、b、c为经验常数，cost为最佳编码代价；
根据所述预估时空域量化参数偏移值、时空域惩罚因子对所述第一量化参数偏移值进行修正，得到第二量化参数偏移值：
如果所述预估时空域量化参数偏移值小于零且所述第一量化参数偏移值大于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子；
如果所述预估时空域量化参数偏移值大于零且所述第一量化参数偏移值小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子；
如果所述预估时空域量化参数偏移值与所述第一量化参数偏移值均大于零，或均小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，Δqp为预估时空域量化参数偏移值。
5.一种自适应量化装置，其特征在于，包括：
第一编码模块，用于对待编码图像帧进行块划分，得到编码块；
第二编码模块，用于对当前编码块遍历预测模式，计算当前编码块的最佳编码代价和第一量化参数偏移值；
第一计算模块，用于根据所述最佳编码代价以及编码代价-量化参数偏移敏感函数得到预估时空域量化参数偏移值；
第二计算模块，用于根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值。
6.根据权利要求5所述的自适应量化装置，其特征在于，所述第一量化参数偏移值的计算方法为：
其中，var为编码块的像素方差，t为经验常数。
7.根据权利要求5所述的自适应量化装置，其特征在于，拟合所述编码代价-量化参数偏移敏感函数，包括：
对测试集中的视频图像帧进行块划分，得到编码块；
对所述编码块遍历预测模式，计算筛选出最佳编码代价；
所述最佳编码代价可以是最佳帧内编码代价，也可以是最佳帧间编码代价；
根据所述最佳编码代价和对应的量化参数偏移值拟合编码代价-量化参数偏移敏感函数：
其中，k、m为经验常数，cost为最佳编码代价。
8.根据权利要求5所述的自适应量化装置，其特征在于，所述根据所述预估时空域量化参数偏移值以及所述第一量化参数偏移值得到第二量化参数偏移值，包括
计算时空域惩罚因子，计算公式为：
其中，a、b、c为经验常数，cost为最佳编码代价；
根据所述预估时空域量化参数偏移值、时空域惩罚因子对所述第一量化参数偏移值进行修正，得到第二量化参数偏移值：
如果所述预估时空域量化参数偏移值小于零且所述第一量化参数偏移值大于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子；
如果所述预估时空域量化参数偏移值大于零且所述第一量化参数偏移值小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，factor为惩罚因子；
如果所述预估时空域量化参数偏移值与所述第一量化参数偏移值均大于零，或均小于零，则第二量化参数偏移值为：
其中，dqptexture为第一量化参数偏移值，Δqp为预估时空域量化参数偏移值。
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至4任一所述的自适应量化方法。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1至4任一所述的自适应量化方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310381202.4A CN118803236A (zh) | 2023-04-11 | 2023-04-11 | 一种自适应量化方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310381202.4A CN118803236A (zh) | 2023-04-11 | 2023-04-11 | 一种自适应量化方法、装置、电子设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118803236A true CN118803236A (zh) | 2024-10-18 |
Family
ID=93033535
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310381202.4A Pending CN118803236A (zh) | 2023-04-11 | 2023-04-11 | 一种自适应量化方法、装置、电子设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118803236A (zh) |
-
2023
- 2023-04-11 CN CN202310381202.4A patent/CN118803236A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111711824B (zh) | 视频编解码中的环路滤波方法、装置、设备及存储介质 | |
| CN111819854B (zh) | 用于协调多符号位隐藏和残差符号预测的方法和装置 | |
| US8625917B2 (en) | Method and apparatus for realizing adaptive quantization in process of image coding | |
| TWI555342B (zh) | 清除解塊人為雜訊的方法 | |
| KR102244315B1 (ko) | 영상 부호화 방법 및 장치 | |
| US9832460B2 (en) | Image coding apparatus, method for coding image, program therefor, image decoding apparatus, method for decoding image, and program therefor | |
| EP3711302B1 (en) | Spatially adaptive quantization-aware deblocking filter | |
| WO2019084792A1 (zh) | 一种编码方法及装置 | |
| Santamaria et al. | Content-adaptive convolutional neural network post-processing filter | |
| EP4404562A1 (en) | Video compression method and apparatus, and computer device and storage medium | |
| CN112001854A (zh) | 一种编码图像的修复方法及相关系统和装置 | |
| US8369423B2 (en) | Method and device for coding | |
| JP5800077B2 (ja) | 動画像復号方法 | |
| CN118803236A (zh) | 一种自适应量化方法、装置、电子设备和存储介质 | |
| WO2022022299A1 (zh) | 视频编解码中的运动信息列表构建方法、装置及设备 | |
| KR100628839B1 (ko) | 모서리 잡음 검출 및 보상방법 | |
| KR101924959B1 (ko) | 영상 부호화 방법 및 장치 | |
| CN115209157A (zh) | 视频编解码方法、装置、计算机可读介质及电子设备 | |
| CN113055670B (zh) | 一种基于hevc/h.265的视频编码的方法及系统 | |
| CN115988201B (zh) | 一种编码胶片颗粒的方法、装置、电子设备和存储介质 | |
| US20240089457A1 (en) | Coding a merged block that overlaps a reference block in intra block copy mode | |
| KR101668851B1 (ko) | Hevc 고속 부호화 모드 결정을 위한 적응적 부호화 모드 순서 정렬 방법 및 장치 | |
| Wang et al. | Fine-grained region adaptive loop filter for super-block video coding | |
| WO2024145744A1 (zh) | 编解码方法、装置、编码设备、解码设备以及存储介质 | |
| Yang et al. | Improved method of deblocking filter based on convolutional neural network in VVC |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination |