[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN114727109B - 多媒体的量化处理方法、装置及编码、解码设备 - Google Patents

多媒体的量化处理方法、装置及编码、解码设备 Download PDF

Info

Publication number
CN114727109B
CN114727109B CN202110012447.0A CN202110012447A CN114727109B CN 114727109 B CN114727109 B CN 114727109B CN 202110012447 A CN202110012447 A CN 202110012447A CN 114727109 B CN114727109 B CN 114727109B
Authority
CN
China
Prior art keywords
value
quantization
sequence
source
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110012447.0A
Other languages
English (en)
Other versions
CN114727109A (zh
Inventor
何召亮
李松南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110012447.0A priority Critical patent/CN114727109B/zh
Publication of CN114727109A publication Critical patent/CN114727109A/zh
Application granted granted Critical
Publication of CN114727109B publication Critical patent/CN114727109B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本申请实施例公开了一种多媒体的量化处理方法、装置及编码、解码设备,该多媒体的量化处理方法包括:获取状态预测器的输入数据;获取状态预测器的映射函数;基于映射函数对输入数据进行预测处理,得到源数值xj+1对应的量化状态si;根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器。采用本申请实施,可以训练得到支持任意数量的量化状态之间自动转换的状态预测器,有效降低状态预测器的设计成本。

Description

多媒体的量化处理方法、装置及编码、解码设备
技术领域
本申请涉及计算机技术领域,尤其涉及多媒体编码技术领域,具体涉及一种多媒体的量化处理方法、一种多媒体的量化处理装置、一种编码设备、一种解码设备。
背景技术
量化是多媒体数据(例如视频、音频、图像等)编码技术的核心过程,依赖性标量量化(Dependent Quantization,DQ)是多媒体数据编码技术中采用的一种量化方式,依赖性标量量化是指将量化过程与量化状态的转换过程相结合的量化技术。目前,依赖性标量量化通常采用人工设计的状态机,状态机一旦设计完成,状态机中量化器(quantizer)的数量和量化状态的数量往往是固定不变的;当量化器的数量改变或者量化状态的数量改变时,需要重新设计状态机;在量化器的数量较多或者量化状态的数量较多的情况下,状态机往往比较复杂,仅凭人工无法完成状态机的设计。因此,如何降低状态机的设计成本以及如何设计支持任意数量的量化状态的状态机成为当前研究的热点问题。
发明内容
本申请实施例提供了一种多媒体的量化处理方法、装置及编码、解码设备,可以训练得到支持任意数量的量化状态之间自动转换的状态预测器,有效降低状态预测器的设计成本。
第一方面,本申请实施例提供一种多媒体的量化处理方法,该多媒体的量化处理方法包括:
获取状态预测器的输入数据;其中,输入数据包括源数值xi对应的历史量化值序列和历史量化状态序列;源数值xi是源序列X中的第i个源数值,i为正整数;源序列X是对多媒体数据进行采样得到的;历史量化值序列中包含yi-(m-1)、 yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的;量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的 n-1个量化状态是指对m-1个源数值进行键值计算时对应的量化状态,n为正整数;
获取状态预测器的映射函数,映射函数用于表示N个量化状态与J个动作之间的映射关系;N、J均为正整数,N的取值由输入数据中的m和n确定;J 个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作;
基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si
根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器。
本申请实施例中,可以基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理,得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器,i为正整数;其中,历史量化值序列包括 yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的,量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的状态,n为正整数;此外,映射函数中的J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作,即量化状态si是在状态预测过程中基于输入数据从N个量化状态中自动选取的一个量化状态。由此可见,本申请实施例训练得到的状态预测器能够支持多个量化状态,并且多个量化状态之间能够自动预测转换,有效降低了状态预测器的设计成本。
第二方面,本申请实施例提供一种多媒体的量化处理方法,该多媒体的量化处理方法由编码设备执行,编码设备中设有状态预测器,状态预测器采用上述第一方面所述的多媒体的量化处理方法训练得到;该多媒体的量化处理方法包括:
获取第一源序列,第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列包括按序排列的多个源数值;
从第一源序列中选取源数值zi,源数值zi是第一源序列中的第i个源数值,i 为正整数;
在量化状态wi-1下对源数值zi进行量化处理得到量化值gi及预测的量化状态wi
依次从第一源序列中选取位于源数值zi之后的各个源数值进行量化处理,直至第一源序列中的源数值均完成量化处理为止;
根据第一源序列中所有源数值的量化值,生成第一量化值序列;
其中,量化处理的过程包括:在量化状态wi-1下对源数值zi进行键值计算得到量化值gi;以及调用状态预测器预测得到源数值zi+1对应的量化状态wi
本申请实施例中,当获取到第一源序列之后,可以对第一源序列中的每个源数值进行量化处理;以第一源序列中的源数值zi为例,对源数值zi的量化过程可以包括:在量化状态wi-1下对源数值zi进行键值计算得到量化值gi,以及调用状态预测器预测得到源数值zi+1对应的量化状态wi;其中,源数值zi是第一源序列中的第i个源数值,i为正整数,第一源序列是对待量化的第一多媒体数据进行采样得到的;从而对第一源序列中的每个源数值进行量化处理后,可以根据第一源序列中所有源数值的量化值生成第一量化值序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升对第一源序列的量化性能,从而有效提升对第一多媒体数据进行编码时的编码性能。
第三方面,本申请实施例提供一种多媒体的量化处理方法,该多媒体的量化处理方法由编码设备执行,编码设备中设有状态预测器,状态预测器采用上述第一方面所述的多媒体的量化处理方法训练得到;该多媒体的量化处理方法包括:
获取第一源序列对应的第一量化值序列,第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列包括按序排列的多个源数值;第一量化值序列包括对第一源序列中的多个源数值分别进行量化处理得到的多个量化值;
从第一量化值序列中选取量化值gi,量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,源数值zi是第一源序列中的第i个源数值,i为正整数;
对量化值gi进行反量化处理得到重构数值z′i
依次从第一量化值序列中选取位于量化值gi之后的各个量化值进行反量化处理,直至第一量化值序列的所有量化值均完成反量化处理为止;
根据反量化处理得到的所有重构数值,生成第一重构序列;
其中,反量化处理过程包括:基于量化值gi调用状态预测器预测得到量化状态wi;根据量化状态wi对量化值gi进行重构处理,得到量化值gi对应的重构数值 z′i
本申请实施中,当获取到第一源序列对应的第一量化值序列之后,可以对第一量化值序列中的每个量化值进行反量化处理,以第一量化值序列中的量化值gi为例,对量化值gi的反量化过程可以包括:基于量化值gi调用状态预测器预测得到量化状态wi,以及根据量化状态wi对量化值gi进行重构处理,得到量化值 gi对应的重构数值z′i;其中,量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,源数值zi是第一源序列中的第i个源数值,i为正整数;从而对第一量化值序列中的每个量化值进行反量化处理后,可以根据所有反量化处理得到的重构数值生成第一重构序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升解码过程中对第一量化值序列的反量化性能,从而有效提升解码性能。
第四方面,本申请实施例提供一种多媒体的量化处理装置,该多媒体的量化处理装置包括:
获取单元,用于获取状态预测器的输入数据;其中,输入数据包括源数值xi对应的历史量化值序列和历史量化状态序列;源数值xi是源序列X中的第i个源数值,i为正整数;源序列X是对多媒体数据进行采样得到的;历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的;量化值yi之前的m-1个量化值是对源序列X 中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态 si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的量化状态,n为正整数;
获取单元,还用于获取状态预测器的映射函数,映射函数用于表示N个量化状态与J个动作之间的映射关系;N、J均为正整数,N的取值由输入数据中的m和n确定;J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作;
处理单元,用于基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si
处理单元,还用于根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器。
在一种实现方式中,映射函数采用映射表表示;映射表包含N行J列,映射表的第p行表示N个量化状态中的任一个,p为正整数且p≤N;映射表的第 j列表示J个动作中的任一个,j为正整数且j≤J;第p行与第j列相交的表格项包括在第p行的量化状态下执行第j列的动作aij时能够获得的奖励值vjp;处理单元,具体用于:
基于输入数据确定映射表;
按照预测算法从映射表中选择量化状态si
在一种实现方式中,预测算法包括贪婪算法;处理单元,具体用于:
按照第一贪婪概率从映射表中随机选择目标动作;或者,按照第二贪婪概率从映射表中选择最大奖励值对应的目标动作;
将目标动作对应的量化状态确定为量化状态si
其中,第一贪婪概率的取值范围为[0,1],第二贪婪概率的取值范围为[0, 1],并且第一贪婪概率与第二贪婪概率之和为1。
在一种实现方式中,处理单元,具体用于:
在量化状态si下对源数值xi+1进行量化处理,得到量化值yi+1
基于映射函数对输入数据进行预测处理,得到源数值xi+2对应的量化状态 si+1
根据量化值yi+1和量化状态si+1,重构得到源数值xi+1对应的重构数值x′i+1
基于源数值xi+1获取目标源序列,基于重构数值x′i+1获取目标重构序列以及基于量化值yi+1获取目标量化值序列;其中,目标源序列包括x1、x2到xi+1共i+1 个按序排列的源数值,目标重构序列包括x′1、x′2到x′i+1共i+1个按序排列的重构数值,目标量化值序列包括y1、y2到yi+1共i+1个按序排列的量化值;
根据目标源序列、目标重构序列及目标量化值序列,确定奖励函数;
根据奖励函数对映射函数进行更新。
在一种实现方式中,处理单元,具体用于:
计算目标源序列与目标重构序列之间的编码失真值;以及,
计算目标量化值序列的编码比特消耗值;
根据编码失真值和编码比特消耗值确定奖励函数。
在一种实现方式中,处理单元,还用于:
获取N个量化状态中的每个量化状态对应的量化位置;
计算各个量化位置的率失真损失;
若量化值yi的量化位置的率失真损失为各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第一数值;
若量化值yi的量化位置的率失真损失不是各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第二数值。
在一种实现方式中,处理单元,还用于:获取历史量化值序列的替代序列,并根据替代序列对输入数据进行替代;
处理单元,具体用于:基于映射函数对替代后的输入数据进行预测处理,得到源数值xi+1对应的量化状态si
在一种实现方式中,处理单元,具体用于:
若量化值yi是奇数,则确定量化值yi的奇偶性替代值为第三数值;
若量化值yi是偶数,则确定量化值yi的奇偶性替代值为第四数值;
根据历史量化值序列中的各个量化值的奇偶性替代值,生成替代序列;
采用替代序列对输入数据中的历史量化值序列进行替代。
在一种实现方式中,当n的取值为1且m>1时,获取单元,具体用于:
获取历史量化值序列和历史量化状态序列;
将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列中的量化状态si-1进行组合,得到m个输入组合,每个输入组合由量化状态si-1和历史量化值序列中的一个量化值构成;
对m个输入组合进行堆叠形成输入矩阵。
在一种实现方式中,当m=n时,获取单元,具体用于:
获取历史量化值序列和历史量化状态序列;
将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列包含的m个量化状态中的每个量化状态进行按序组合,得到m个输入组合,每个输入组合由历史量化值序列中的一个量化值和历史量化状态序列中的一个量化状态构成;
对m个输入组合进行堆叠形成输入矩阵。
第五方面,本申请实施例提供一种编码设备,该编码设备包括:
计算键值模块,计算键值模块包括键值生成器,键值生成器用于对源数值进行键值计算得到量化值;
状态预测模块,状态预测模块包括状态预测器,状态预测器采用上述第一方面所述的多媒体的量化处理方法进行训练得到。
第六方面,本申请实施例提供一种解码设备,该解码设备包括:
状态预测模块,状态预测模块包括状态预测器,状态预测器采用上述第一方面所述的多媒体的量化处理方法进行训练得到;
重构输入模块,重构输入模块包括输入重构器,输入重构器用于对量化值进行重构处理得到重构数值。
第七方面,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被计算机设备的处理器读取并执行时,使得计算机设备执行上述第一方面所述的多媒体的量化处理方法。
第八方面,本申请实施例提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述第一方面所述的多媒体的量化处理方法。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了本申请一个示例性实施例提供的一种量化器的量化规则的示意图;
图2示出了本申请一个示例性实施例提供的一种状态预测器的量化状态转换过程的示意图;
图3示出了本申请一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图;
图4示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图;
图5示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图;
图6示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图;
图7示出了本申请一个示例性实施例提供的一种智能体的结构示意图;
图8示出了本申请一个示例性实施例提供的一种智能体的训练过程的流程示意图;
图9示出了本申请一个示例性实施例提供的一种编码设备的结构示意图;
图10示出了本申请一个示例性实施例提供的一种编码设备的量化过程的流程示意图;
图11示出了本申请一个示例性实施例提供的一种解码设备的结构示意图;
图12示出了本申请一个示例性实施例提供的一种解码设备的反量化过程的流程示意图;
图13示出了本申请一个示例性实施例提供的一种多媒体的量化处理装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提出一种多媒体的量化处理方案,该多媒体的量化处理方案涉及人工智能的机器学习等技术,具体涉及机器学习中的强化学习等技术。其中:
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
强化学习(Reinforcement Learning,RL),又称再励学习、评价学习或增强学习,是机器学习的范式和方法论之一,用于描述和解决智能体(agent)在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。所谓智能体是指能自主活动的软件或者硬件实体,智能体是人工智能领域中一个很重要的概念,任何独立的能够思想并可以同环境交互的实体都可以抽象为智能体;例如智能体可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、智能车载、智能电视等智能终端;智能体还可以是服务器,例如可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器等。
多媒体数据(例如可以是视频、音频、图像等等)中往往存在大量的冗余信息,因此在对多媒体数据进行存储或传输之前,往往需要对多媒体数据进行编码,去除多媒体数据在空间、时间等维度上的冗余信息,以节省存储空间、提升多媒体数据的传输效率。量化是多媒体数据编码技术的核心过程,也是多媒体数据生产技术的核心过程,提高量化效率能够为多媒体数据的编码任务带来较大的性能增益。所谓量化可以是指采用键值生成器(KeyGenerator)分别对源序列中的每个源数值进行键值计算,得到源序列中的每个源数值的量化值 (或称为键值)的过程,源序列中的每个源数值的量化值共同组成源序列对应的量化值序列,源序列可以是对多媒体数据进行采样得到的。与量化过程对应的是反量化过程,所谓反量化可以是指采用输入重构器(Input Reconstructor) 分别对量化值序列中的每个量化值进行重构处理,得到每个量化值对应的重构数值的过程,量化值序列中的每个量化值对应的重构数值共同组成量化值序列对应的重构序列,根据重构序列可以还原出多媒体数据。一般来说,量化过程往往由编码设备实现,编码设备可以对多媒体数据进行采样,得到源序列;然后,编码设备可以对源序列中的每个源数值进行量化处理,得到源序列对应的量化值序列;进一步地,编码设备可以将量化值序列进一步压缩得到多媒体数据的数据包后发送至解码设备。反量化过程往往由解码设备实现,解码设备接收到编码设备发送的多媒体数据的数据包之后,可以对多媒体数据的数据包进行解压缩,得到量化值序列;然后,解码设备对量化值序列中的每个量化值进行反量化处理,得到量化值序列对应的重构序列;进一步地,解码设备可以根据重构序列还原出多媒体数据。
下面以视频点播场景和视频会话场景为例,对量化过程和反量化过程的具体应用场景进行介绍:
在视频点播场景中,解码设备可以是运行有视频点播应用程序的智能终端,编码设备可以是向视频点播应用程序提供视频点播服务的服务器,多媒体数据可以是点播视频。当智能终端向服务器发起视频点播请求时,服务器可以获取智能终端所请求的点播视频,并从点播视频中采样得到源序列;然后,服务器可以对源序列中的每个源数值进行量化处理,得到量化值序列;进一步地,服务器可以将量化值序列进一步压缩得到点播视频的数据包之后发送至智能终端。智能终端接收到点播视频的数据包后,可以对点播视频的数据包进行解压缩,得到量化值序列;然后,智能终端可以对量化值序列中的每个量化值进行反量化处理,得到量化值序列对应的重构序列;进一步地,智能终端可以根据重构序列还原并播放点播视频。
在视频会话场景中,第一智能终端和第二智能终端是参与视频会话的两个智能终端,以第一智能终端向第二智能终端发起视频会话为例,第一智能终端可以是编码设备,第二智能终端可以是解码设备,多媒体数据可以是会话视频。第一智能终端设备采集会话视频,并从会话视频中采样得到源序列;然后,第一智能终端可以对源序列中的每个源数值进行量化处理,得到量化值序列;进一步地,第一智能终端将量化值序列进一步压缩得到会话视频的数据包之后发送至第二智能终端。第二智能终端接收到会话视频的数据包后,可以对会话视频的数据包进行解压缩,得到量化值序列;然后,第二智能终端可以对量化值序列中的每个量化值进行反量化处理,得到量化值序列对应的重构序列;进一步地,第二智能终端可以根据重构序列还原并播放会话视频,从而第一智能终端与第二智能终端实现了视频会话。
本申请实施例涉及的量化方式具体可以是指依赖性标量量化(Dependent Quantization,DQ)。所谓依赖性标量量化可以是指将量化过程、反量化过程与量化状态的转换过程相结合的量化方式。依赖性标量量化的过程中往往涉及键值生成器、输入重构器以及状态预测器。其中:
键值生成器可以用于对源数值进行键值计算,得到源数值的量化值;在一种实现方式中,键值生成器可以由多个量化器构成,一个量化器可以关联一个或多个量化状态,即当源数值对应的量化状态确定后,可以采用该量化状态关联的量化器对源数值进行键值计算。输入重构器可以用于对量化值进行重构处理,得到量化值对应的重构数值;输入重构器对量化值进行重构处理的方式具体可以为:输入重构器确定量化值对应的量化位置,并根据量化值对应的量化位置和量化步长计算得到重构数值,例如,重构数值可以是量化值对应的量化位置与量化步长之间的乘积;在一种实现方式中,输入重构器可以由多个量化器构成,一个量化器可以关联一个或多个量化状态,即当量化值对应的量化状态确定后,可以采用该量化状态关联的量化器对量化值进行重构处理。状态预测器可以用于实现多个量化状态之间的预测转换。所谓量化状态可以是指键值生成器在对源数值进行键值计算时所处于的状态,或者可以是指输入重构器在对量化值进行重构处理时所处于的状态。
下面以包含两个量化器(分别是量化器Q0和量化器Q1)和四个量化状态 (分别是量化状态A、量化状态B、量化状态C和量化状态D)的依赖性标量量化过程为例,对依赖性标量量化过程的原理进行介绍。其中,量化器Q0与量化状态A、量化状态B相关联,量化器Q1与量化状态C、量化状态D相关联。
依赖性标量量化过程的原理如下:
图1示出了本申请一个示例性实施例提供的一种量化器的量化规则的示意图,如图1所示,圆圈或圆点上方的字母表示量化状态,圆圈或圆点下方的数值表示量化值;第一行的黑色圆点或黑色圆圈对应于量化器Q0,第二行的灰色圆点或灰色圆圈对应于量化器Q1;横坐标中的数值(例如-9、-8、0、8、9等) 代表量化位置,“△”代表量化步长,任一个量化位置与量化步长的乘积表示该量化位置对应的重构数值,即任一个量化位置与量化步长的乘积表示位于该量化位置的量化值对应的重构数值;例如量化状态A下的量化值“-4”对应的量化位置为“-8”,那么该量化位置对应的重构数值为“-8△”。
图2示出了本申请一个示例性实施例提供的一种量化状态转换过程的示意图,图2中所示各个箭头指示量化状态的转移方向,箭头的起点指示第一量化状态,箭头的终点指示第二量化状态,也就是说由量化状态的转换过程是由第一量化状态转换至第二量化状态;第二量化状态是第一量化状态的下一个量化状态,第一量化状态是第二量化状态的上一个量化状态,即第二量化状态的出现时刻晚于第一量化状态的出现时刻。需要说明的是,第一量化状态和第二量化状态可以是同一个量化状态,第一量化状态和第二量化状态也可以是不同的量化状态,例如,第一量化状态是量化状态A,经量化状态转换后,第二量化状态依然是量化状态A;或者,第一量化状态是量化状态A,经量化状态转换后,第二量化状态是量化状态B。在图2所示的量化状态转化过程中,第二量化状态可以是根据第一量化状态和第一量化状态下的量化值的奇偶性确定得到的,“(K&1)==1”表示量化值为奇数,“(K&1)==0”表示量化值为偶数。图 2所示的量化状态转换过程可参见表1,如表1所示,以第一量化状态是量化状态A为例,若量化状态A下的量化值是偶数,即“(K&1)==0”,则可以确定出第二量化状态仍然为量化状态A;若量化状态A下的量化值为奇数,即“(K &1)==1”,则可以确定出第二量化状态为量化状态C。
表1
Figure BDA0002884342240000121
Figure BDA0002884342240000131
(1)依赖性标量量化的编码阶段(即量化阶段)
源序列X中包括x1,x2,…,xi,…,xs共s个源数值,s为正整数,对于源序列X中的源数值xi,可以根据源数值xi对应的量化状态si-1确定对源数值xi进行键值计算时所采用的量化器,从而可以根据确定的量化器对源数值xi进行键值计算,得到源数值xi的量化值yi;进一步地,状态预测器可以根据量化值yi的奇偶性以及源数值xi对应的量化状态si-1预测得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1对应的量化状态si确定对源数值xi+1进行键值计算时所采用的量化器,并根据确定的量化器对源数值xi+1进行键值计算,得到源数值 xi+1的量化值yi+1。以此类推,可以对源序列X中的每一个源数值x1,x2,…, xi,…,xs均采用相同的量化方式进行处理,得到源序列X对应的量化值序列Y,量化值序列Y包括y1,y2,…,yi,…,ys共s个量化值。
(2)依赖性标量量化的解码阶段(即反量化阶段)
量化值序列Y包括y1,y2,…,yi,…,ys共s个量化值,s为正整数,对于量化值序列Y中的量化值yi,状态预测器可以根据量化值yi的奇偶性以及源数值xi对应的量化状态si-1预测得到源数值xi+1对应的量化状态si,从而可以根据量化状态si确定对量化值yi进行重构处理的量化器,并根据确定得到的量化器确定量化值yi对应的量化位置,再根据量化值yi对应的量化位置和量化步长,重构得到量化值yi对应的重构数值x′i。以此类推,可以对量化值序列Y中的每一个量化值y1,y2,…,yi,…,ys均采用相同的反量化方式进行处理,得到量化值序列Y对应的重构序列X′,重构序列X′包括x′1,x′2,…,x′i…,x′s共s个重构数值。
量化值序列Y中的各个量化值的排列顺序可以用量化路径表示,量化器可以对量化值序列Y中的各个量化值进行多次随机排序,得到多条量化路径;量化器可以计算每一条量化路径下的量化值序列的率失真损失(Rate-Distortion,R D),并根据计算得到的多个率失真损失确定出多条量化路径中的最佳量化路径,从而最佳量化路径下各个量化值的排列顺序即是量化值序列Y中的各个量化值的最佳排列顺序。其中,最佳量化路径对应的率失真损失是多个率失真损失中的最小率失真损失;从多条量化路径中确定出最佳量化路径的过程可以采用维特比(Viterbi)算法实现。
基于上述描述,本申请实施例提供进一步地依赖性标量量化方案(即多媒体的量化处理方案),该多媒体的量化处理方案采用强化学习中的动作选择算法对状态预测器进行训练。其中,动作选择算法具体可以是Q-Learning算法,Q -Learning算法是一种离线策略(off-policy)的强化学习算法,能够为任何给定的有限马尔科夫决策过程(MarkovDecision Process,MPD)找到一个最优的动作选择策略,动作选择策略是智能体在选择动作时遵循的规则,Q-learning算法使用动作值映射函数(Action-Value MappingFunction)作为动作选择策略;对于给定的输入数据,智能体可以确定出一个动作映射函数(即映射函数),动作值映射函数可以提供多个动作,并为每个动作分配一个奖励值(或者称为Q值),从而可以产生多个不同的奖励值;通过体验不同的量化状态并尝试处于不同量化状态下的各个动作,智能体可以不断学习以优化映射函数,以达到对状态预测器的训练效果。在本申请实施例提供的多媒体的量化处理方案中,基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理的过程便是一个有限马尔科夫决策过程;基于状态预测器的映射函数对输入数据预测得到源数值xi+1对应的量化状态si的过程便是寻找最优的动作选择策略的过程;从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器,使得训练得到的状态预测器能够支持任意数量的量化状态,并且通过训练得到的状态预测器能够实现任意数量的量化状态之间的自动预测、自动转换,有效降低了状态预测器的设计成本。
需要说明的是,任意数量的量化状态具体可以是指H=2β个量化状态,β为大于或等于2的整数,则H为大于或等于4的整数。智能体可以是指用于对状态预测器进行训练的设备,例如当智能终端对状态预测器进行训练时,智能体可以是智能终端;当服务器对状态预测器进行训练时,智能体可以是服务器,本申请实施例对此不作限定。状态预测器的训练过程具体可以参见图3至图4 所示实施例的描述,训练后的状态预测器参与的量化过程可以参见图5所示实施例的描述,训练后的状态预测器参与的反量化过程可以参见图6所示实施例的描述。
请参见图3,图3示出了本申请一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图,该多媒体的量化处理方法可以由智能体执行,智能体可以是智能终端或服务器,该多媒体的量化处理方法可以包括以下步骤S301至步骤S304:
S301,获取状态预测器的输入数据。
输入数据可以包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列,获取状态预测器的输入数据可以包括:获取多媒体数据,并对多媒体数据进行采样处理,得到源序列X,源序列X中可以包括多个按序排列的源数值,源数值xi是源序列X中的第i个源数值,i为正整数;获取源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列。历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的;量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的状态,n为正整数。
输入数据可以用输入矩阵进行表示。在一种实现方式中,当n的取值为1 且m>1时,历史量化状态序列中包含一个量化状态si-1;可以将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列中的量化状态si-1进行组合,得到m个输入组合,每个输入组合由量化状态si-1和历史量化值序列中的一个量化值构成;对m个输入组合进行堆叠形成m行2列的输入矩阵;当n 的取值为1且m>1时的输入矩阵可参见表2,表2示出了一种输入矩阵的示意。
表2
y<sub>i-(m-1)</sub> s<sub>i-1</sub>
y<sub>i-(m-2)</sub> s<sub>i-1</sub>
y<sub>i</sub> s<sub>i-1</sub>
在另一种实现方式中,当m=n时,可以将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列包含的m个量化状态中的每个量化状态进行按序组合,得到m个输入组合,每个输入组合由历史量化值序列中的一个量化值和历史量化状态序列中的一个量化状态构成,每个输入组合可以表示为(yl,sl-1),l=i-(m-1),i-(m-2),…,i;对m个输入组合进行堆叠形成m 行2列的输入矩阵;当m=n时的输入矩阵可参见表3,表3示出了另一种输入矩阵的示意。
表3
y<sub>i-(m-1)</sub> s<sub>i-n</sub>
y<sub>i-(m-2)</sub> s<sub>i-(n-1)</sub>
y<sub>i</sub> s<sub>i-1</sub>
为了降低对状态预测器进行训练过程中的训练难度,可以使用历史量化值序列中的各个量化值的奇偶性替代值替代历史量化值序列中的各个量化值作为状态预测器的输入,从而对输入数据进行替代。具体地,若历史量化值序列中的量化值yi是奇数,则可以确定历史量化值序列中的量化值yi的奇偶性替代值为第三数值(例如可以是1),并将量化值yi的第三数值作为状态预测器的输入;若历史量化值序列中的量化值yi是偶数,则可以确定历史量化值序列中的量化值 yi的奇偶性替代值为第四数值(例如可以是0),并将量化值yi的第四数值作为状态预测器的输入。从而,可以根据历史量化值序列中的各个量化值的奇偶性替代值,生成替代序列,并采用替代序列代替输入数据中的历史量化值序列,得到替代后的输入数据。通过这种方式可以降低训练难度,提升训练效率。
S302,获取状态预测器的映射函数。
映射函数f(aij,vij|yi-(m-1),...,yi,si-n,...,si-1)可以用于表示N个量化状态与 J个动作之间的映射关系,N、J均为正整数,N的取值可以由输入数据中的m 和n确定。具体地,输入数据可以包括历史量化值序列和历史量化状态序列,历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态;当m的取值为1时,N的取值为m×n,m×n表示历史量化值序列中的m个量化值与历史量化状态序列中的n个量化值之间的组合;当m的取值为2时,N的取值为 m2×n2,m2×n2表示m的取值为1时的m×n个量化状态之间的组合;以此类推,当m的取值为u时,u为正整数,N的取值为mu×nu。J个动作中的任一个动作可以用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作。
S303,基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si
为了降低对状态预测器进行训练过程中的训练难度,可以根据历史量化值序列中的各个量化值的奇偶性,获取历史量化值序列的替代序列,并根据替代序列对输入数据中的历史量化值序列进行替代。进一步地,基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si可以是指:基于映射函数对替代后的输入数据进行预测处理,得到源数值xi+1对应的量化状态si
映射函数可以采用映射表(或者称为Q表(Q-Table))进行表示。具体地,映射表可以包含N行J列,映射表的第p行可以用于表示N个量化状态中的任一个量化状态,p为正整数且p≤N;映射表的第j列可以用于表示J个动作中的任一个动作,j为正整数且j≤J;映射表的第p行与第j列相交的表格项内包括在第p行的量化状态下执行第j列的动作aij时能够获得的奖励值vjp。基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si可以包括:基于输入数据确定映射表,并按照预测算法从映射表中选择量化状态si
S304,根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器。
基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si之后,可以根据源数值xi+1和量化状态si确定奖励函数,并根据奖励函数对映射函数进行更新,以训练状态预测器。
本申请实施例中,可以基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理,得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器;训练得到的状态预测器能够支持多个量化状态,并且多个量化状态之间能够自动预测转换,有效降低了状态预测器的设计成本。此外,本申请实施例使用历史量化值序列中的各个量化值的奇偶性替代状态预测器的输入数据,将输入的量化值替代为较为简单的数值。可以有效降低训练难度,提升训练效率。
请参见图4,图4示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图,该多媒体的量化处理方法可以由智能体执行,智能体可以是智能终端或服务器,该多媒体的量化处理方法可以包括以下步骤S401 至步骤S406:
S401,获取状态预测器的输入数据。
S402,获取状态预测器的映射函数。
本申请实施例中步骤S401的执行过程与图3所示实施例中步骤S301的执行过程相同,步骤S402的执行过程与图3所示实施例中步骤S302的执行过程相同,具体执行过程可参见图3所示实施例的描述,在此不再赘述。
S403,基于输入数据确定映射表。
映射函数可以采用映射表(或者称为Q表(Q-Table))进行表示。具体地,源数值xi对应的映射表Qt-1可以包含N行J列,映射表的第p行可以用于表示N 个量化状态中的任一个量化状态,p为正整数且p≤N;映射表的第j列可以用于表示J个动作中的任一个动作,j为正整数且j≤J;映射表的第p行与第j列相交的表格项内包括在第p行的量化状态下执行第j列的动作aij时能够获得的奖励值vjp。表4示出了本申请一个示例性实施例提供的一种映射表的示意,如表 4所示,N个量化状态分别用s1,s2,…,sp,…,sN进行表示。
表4
Figure BDA0002884342240000181
S404,按照预测算法从映射表中选择源数值xi+1对应的量化状态si
预测算法可以包括贪婪算法(∈-greedy算法)。具体地,按照预测算法从映射表中选择源数值xi+1对应的量化状态si的具体实现方式可以包括:按照第一贪婪概率从映射表中随机选择目标动作;或者,按照第二贪婪概率从映射表中选择最大奖励值对应的目标动作;将目标动作对应的量化状态确定为量化状态si。通过选择最大奖励值对应的目标动作,能够达到最佳量化性能。其中,第一贪婪概率的取值范围为[0,1],第二贪婪概率的取值范围为[0,1],并且,第一贪婪概率与第二贪婪概率之和为1;例如,第一贪婪概率可以为∈,∈的取值范围为[0,1],第二贪婪概率可以为1-∈,1-∈的取值范围为[0,1]。
S405,根据源数值xi+1和量化状态si确定奖励函数。
根据源数值xi+1和量化状态si确定奖励函数的具体实施方式可以包括:在量化状态si下对源数值xi+1进行量化处理,得到量化值yi+1;基于映射函数对输入数据进行预测处理,得到源数值xi+2对应的量化状态si+1;根据量化值yi+1和量化状态si+1,重构得到源数值xi+1对应的重构数值x′i+1;基于源数值xi+1获取目标源序列,基于重构数值x′i+1获取目标重构序列以及基于量化值yi+1获取目标量化值序列;根据目标源序列、目标重构序列及目标量化值序列,确定奖励函数。其中,目标源序列包括x1、x2到xi+1共i+1个按序排列的源数值,目标重构序列包括x′1、x′2到x′i+1共i+1个按序排列的重构数值,目标量化值序列包括y1、y2到yi+1共i+1个按序排列的量化值。其中,根据目标源序列、目标重构序列及目标量化值序列,确定奖励函数的具体实施方式可以包括以下子步骤s41至子步骤s43:
s41,计算目标源序列与目标重构序列之间的编码失真值。
目标源序列x1,x2,…,xi+1与目标重构序列x′1,x′2,…,x′i+1之间的编码失真值可以采用Lk(Lk-norm)范式的平均值进行计算,目标源序列与目标重构序列之间的编码失真值的计算过程可参见下述公式1:
Figure BDA0002884342240000191
如上述公式1所示,Di+1表示目标源序列与目标重构序列之间的编码失真值; xr表示目标源序列x1,x2,…,xi+1中的第r个源数值,r的取值范围为[1,i+1]; x′r表示目标重构序列x′1,x′2,…,x′i+1中的第r个重构数值,r的取值范围为[1, i+1];||xr-x′r||k表示目标源序列与目标重构序列之间的Lk范数,k为正整数;
Figure BDA0002884342240000192
表示目标源序列与目标重构序列之间的Lk范数的平均值。
s42,计算目标量化值序列的编码比特消耗值。
目标量化值序列包括y1,y2,…,yi+1的编码比特消耗值可以使用熵编码的方式进行计算,目标量化值序列的编码比特消耗值的计算过程可参见下述公式2:
Figure BDA0002884342240000193
如上述公式2所示,Ri+1表示目标量化值序列的编码比特消耗值;yr表示目标量化值序列y1,y2,…,yi+1中的第r个量化值,r的取值范围为[1,i+1];P(yr) 表示量化值yr在目标量化值序列y1,y2,…,yi+1中出现的概率。
s43,根据编码失真值和编码比特消耗值确定奖励函数。
根据编码失真值和编码比特消耗值确定奖励函数的计算过程可参见下述公
式3:
Figure BDA0002884342240000201
如上述公式3所示,
Figure BDA0002884342240000202
表示从映射表中选择的目标动作;Yi表示历史量化值序列yi-(m-1),...,yi;Si-1表示历史量化状态序列si-n,...,si-1;/>
Figure BDA0002884342240000203
表示源数值xi对应的奖励函数;Di+1表示目标源序列与目标重构序列之间的编码失真值;Ri+1表示目标量化值序列的编码比特消耗值;λ表示奖励参数,λ的取值范围为[0,1]。
由于编码失真值Di+1和编码比特消耗值Ri+1与源数值xi紧密相关,可能会造成源数值xi的大小对奖励函数的影响过大,从而影响到对映射函数的更新过程。为此,可以获取量化值yi的所有量化状态对应的量化位置,并计算量化值yi的所有量化状态对应的量化位置中各个量化位置的率失真损失;量化值yi的所有量化状态是指映射函数包含的N个量化状态(例如,可以是指图2所示的量化状态 A、量化状态B、量化状态C和量化状态D);若量化值yi的量化位置的率失真损失为各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第一数值 (例如可以是1);若量化值yi的量化位置的率失真损失不是各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第二数值(例如可以是0)。通过这种方式,能够有效解决源数值xi的大小对奖励函数造成的影响。
S406,根据奖励函数对映射函数进行更新,以训练状态预测器。
根据奖励函数对映射函数进行更新可以是指:根据源数值xi对应的奖励函数对源数值xi对应的映射表Qt-1进行更新,得到源数值xi+1对应的映射表Qt。根据奖励函数对映射函数进行更新的计算过程可以参见下述公式4:
Figure BDA0002884342240000204
如上述公式4,
Figure BDA0002884342240000205
表示从映射表中选择的目标动作;Yi表示历史量化值序列yi-(m-1),...,yi;Si-1表示历史量化状态序列si-n,...,si-1;/>
Figure BDA0002884342240000206
表示源数值xi+1对应的映射表Qt;/>
Figure BDA0002884342240000207
表示源数值xi对应的映射表Qt-1
Figure BDA0002884342240000208
表示源数值xi对应的奖励函数;Yi+1表示源数值xi+1对应的历史量化值序列yi-(m-1),...,yi,yi+1;Si表示源数值xi+1对应的历史量化状态序列si-n,...,si-1,si;maxjQt-1(a(i+1)j,Yi+1,Si)表示将源数值xi+1对应的历史量化值序列Yi+1和源数值xi+1对应的历史量化状态序列Si输入映射表Qt-1后对J个动作的奖励值进行计算后得到的最大奖励值;超参数α表示学习率(learning rate),学习率可以影响训练过程中的收敛速度,α越大,收敛速度越快,α越小,收敛速度越慢,α为大于0的实数;超参数γ表示折扣因子(discount rate),γ的取值范围为[0,1],折扣因子决定了对长期回报和短期回报的权重,折扣因子越小,maxjQt-1(a(i+1)j,Yi+1,Si)对映射表Qt-1更新时的影响因素越小,对长期回报的权重越小。
需要说明的是,本申请实施例中对状态预测器的训练过程是针对源数值xi而言的,也就是说,本申请实施例重点描述了对状态预测器的一次训练过程,在实际训练过程中,需要针对源序列X中的每一个源数值进行一次训练,或者还可以针对多个源序列中的各个源数值进行迭代训练,使得状态预测器的训练过程更加稳定,提升状态预测器的训练效果。
本申请实施例中,可以基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理,得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器;训练得到的状态预测器能够支持多个量化状态,并且多个量化状态之间能够自动预测转换,有效降低了状态预测器的设计成本。此外,选择映射表中的最大奖励值对应的目标动作,从而将目标动作对应的量化状态确定为量化状态si,通过选择最大奖励值对应的目标动作,能够达到最佳量化性能。另外,通过判断量化值的量化位置的率失真损失是否为量化值的所有量化状态对应的量化位置的最小率失真损失,可以为奖励函数赋予不同的数值,能够有效解决源数值xi的大小对奖励函数造成的影响,提升训练准确率。
请参见图5,图5示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图,该多媒体的量化处理方法可以由编码设备执行,编码设备中设有状态预测器,状态预测器可以采用图3和图4所示实施例训练得到;编码设备可以是智能终端或服务器;该多媒体的量化处理方法可以包括以下步骤S501至步骤S505:
S501,获取第一源序列。
第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列可以包括按序排列的多个源数值。
S502,从第一源序列中选取源数值zi
源数值zi是第一源序列中的第i个源数值,i为正整数。
S503,在量化状态wi-1下对源数值zi进行量化处理得到量化值gi及预测的量化状态wi
在量化状态wi-1下对所源数值zi进行量化处理得到量化值gi及预测的量化状态wi可以包括:在量化状态wi-1下对源数值zi进行键值计算得到量化值gi;以及调用状态预测器预测得到源数值zi+1对应的量化状态wi
状态预测器预测得到源数值zi+1对应的量化状态wi的过程可以包括:获取第一输入数据,第一输入数据可以包括源数值zi对应的历史量化值序列和源数值zi对应的历史量化值状态;获取状态预测器的第一映射函数,该第一映射函数与源数值zi对应;基于第一映射函数对第一输入数据进行预测处理,得到源数值zi+1对应的量化状态wi。上述过程与图3、图4所示实施例中预测源数值xi+1对应的量化状态si的过程具有相同的执行逻辑,可参见图3、图4所示实施例的描述,在此不再赘述。
S504,依次从第一源序列中选取位于源数值zi之后的各个源数值进行量化处理,直至第一源序列中的所有源数值均完成量化处理为止。
需要说明的是,对第一源序列中的每个源数值的量化处理过程与对第一源序列Z中的源数值zi的量化处理过程相同。
S505,根据第一源序列中所有源数值的量化值,生成第一量化值序列。
本申请实施例中,当获取到第一源序列之后,可以对第一源序列中的每个源数值进行量化处理;以第一源序列中的源数值zi为例,对源数值zi的量化过程可以包括:在量化状态wi-1下对源数值zi进行键值计算得到量化值gi,以及调用状态预测器预测得到源数值zi+1对应的量化状态wi;其中,源数值zi是第一源序列中的第i个源数值,i为正整数,第一源序列对待量化的第一多媒体数据进行采样得到的;从而对第一源序列中的每个源数值进行量化处理后,可以根据第一源序列中所有源数值的量化值生成第一量化值序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升对第一源序列的量化性能,从而有效提升对第一多媒体数据进行编码时的编码性能。
请参见图6,图6示出了本申请另一个示例性实施例提供的一种多媒体的量化处理方法的流程示意图,该多媒体的量化处理方法可以由解码设备执行,解码设备中设有状态预测器,状态预测器可以采用图3和图4所示实施例训练得到;编码设备可以是智能终端或服务器;该多媒体的量化处理方法可以包括以下步骤S601至步骤S605:
S601,获取第一源序列对应的第一量化值序列。
第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列可以包括按序排列的多个源数值。第一量化值序列包括对第一源序列中的多个源数值分别进行量化处理得到的多个量化值;对第一源序列中的每个源数值进行量化处理的过程可以参见图5所示实施例的描述。
S602,从第一量化值序列中选取量化值gi
量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,i为正整数。
S603,对量化值gi进行反量化处理得到重构数值z′i
对量化值gi进行反量化处理得到重构数值z′i的过程可以包括:基于量化值gi调用状态预测器预测得到量化状态wi;以及根据量化状态wi对量化值gi进行重构处理,得到量化值gi对应的重构数值z′i
基于量化值gi调用状态预测器预测得到量化状态wi的过程可以包括:获取第一输入数据,第一输入数据可以包括源数值zi对应的历史量化值序列和源数值zi对应的历史量化值状态;获取状态预测器的第一映射函数,该第一映射函数与源数值zi对应;基于第一映射函数对第一输入数据进行预测处理,得到源数值zi+1对应的量化状态wi。上述过程与图3、图4所示实施例中预测源数值xi+1对应的量化状态si的过程具有相同的执行逻辑,可参见图3、图4所示实施例的描述,在此不再赘述。
S604,依次从第一量化值序列中选取位于量化值gi之后的各个量化值进行反量化处理,直至第一量化值序列的所有量化值均完成反量化处理为止。
需要说明的是,对第一量化值序列中的每个量化值进行反量化处理的过程与对量化值gi进行反量化处理的过程相同。
S605,根据反量化处理得到的所有重构数值,生成第一重构序列。
本申请实施中,当获取到第一源序列对应的第一量化值序列之后,可以对第一量化值序列中的每个量化值进行反量化处理,以第一量化值序列中的量化值gi为例,对量化值gi的反量化过程可以包括:基于量化值gi调用状态预测器预测得到量化状态wi,以及根据量化状态wi对量化值gi进行重构处理,得到量化值 gi对应的重构数值z′i;其中,量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,i为正整数;从而对第一量化值序列中的每个量化值进行反量化处理后,可以根据所有反量化处理得到的重构数值生成第一重构序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升解码过程中对第一量化值序列的反量化性能,从而有效提升解码性能。
请参见图7,图7示出了本申请一个示例性实施例提供的一种智能体的结构示意图,如图7所示,智能体70可以包括以下七个模块:计算键值(Compute Key) 模块701、状态预测(State Prediction)模块702,重构输入(Recover Input)模块703、计算失真(ComputeDistortion)模块704、计算码率(Compute Rate) 模块705、计算奖励(Compute Reward)模块706以及更新状态预测模块(Update State Predictor module)707。智能体70可以是智能终端或服务器等等,智能体 70用于对状态预测器进行训练,智能体70对状态预测器进行训练的过程可参见图8所示实施例的描述。
请参见图8,图8示出了本申请一个示例性实施例提供的一种智能体的训练过程的流程示意图,如图8所示,计算键值模块701中可以包括键值生成器,重构输入模块703中可以包括输入重构器,状态预测模块702可以包括状态预测器(State Predictor)。如图8所示,七个模块共同参与的训练过程如下:
(1)计算键值模块701可以调用键值生成器对源数值xi进行键值计算,得到源数值xi的量化值yi。在一种实现方式中,键值生成器可以由多个量化器组成,计算键值模块701可以根据源数值xi对应的量化状态si-1,确定对源数值xi进行键值计算时采用的量化器,并根据确定的量化器对源数值xi进行键值计算,得到源数值xi的量化值yi。其中,源数值xi是源序列X中的第i个源数值;源序列X 是对多媒体数据进行采样得到的,源序列X中包含多个按序排列的源数值,源序列X是计算键值模块701的输入序列。
计算键值模块701还可以在量化状态si下对源数值xi+1进行量化处理,得到量化值yi+1;即计算键值模块701可以调用键值生成器对源数值xi+1进行键值计算,得到源数值xi+1的量化值yi+1
(2)状态预测模块702可以获取状态预测器的输入数据和状态预测器的映射函数,并基于映射函数对输入数据进行预测处理,得到源数值xi+1对应的量化状态si。其中,输入数据可以包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列;历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的;量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、 si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的状态,n为正整数。映射函数以用于表示N个量化状态与J个动作之间的映射关系,N、J均为正整数,N的取值可以由输入数据中的m和n确定;J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作。
状态预测模块702还可以基于映射函数对输入数据进行预测处理,得到源数值xi+2对应的量化状态si+1
(3)重构输入模块703可以调用输入重构器对量化值yi进行重构处理,得到源数值xi的重构数值x′i。在一种实现方式中,输入重构器可以由多个量化器组成,重构输入模块703可以根据源数值xi+1对应的量化状态si(即量化值yi对应的量化状态si),确定对量化值yi进行重构处理的量化器,并根据确定得到的量化器对量化值yi进行重构处理,得到源数值xi的重构数值x′i
重构输入模块703还可以根据量化值yi+1和量化状态si+1,重构得到源数值 xi+1对应的重构数值x′i+1。即重构输入模块703可以调用输入重构器对量化值yi+1进行重构处理,得到源数值xi+1的重构数值x′i+1
(4)计算失真模块704可以基于源数值xi+1获取目标源序列,基于重构数值x′i+1获取目标重构序列,并计算目标源序列与目标重构序列之间的编码失真值 Di+1。其中,目标源序列包括x1、x2到xi+1共i+1个按序排列的源数值,目标重构序列包括x′1、x′2到x′i+1共i+1个按序排列的重构数值。
(5)计算码率模块705可以基于量化值yi+1获取目标量化值序列,并计算目标量化值序列的编码比特消耗值Ri+1。其中,目标量化值序列包括y1、y2到yi+1共i+1个按序排列的量化值。
(6)计算奖励模块706可以根据编码失真值Di+1和编码比特消耗值Ri+1计算奖励函数
Figure BDA0002884342240000261
(7)更新状态预测模块707可以根据奖励函数
Figure BDA0002884342240000262
对状态预测器的映射函数进行更新,以训练状态预测器。从而状态预测模块702可以根据更新后的映射函数对源序列X中的源数值xi+1进行预测处理。
需要说明的是,本申请实施例中的训练过程是针对源数值xi而言的,也就是说,本申请实施例重点描述了一次训练过程,在实际训练过程中,需要针对源序列X中的每一个源数值进行一次训练,或者还可以针对多个源序列中的各个源数值进行训练,使得训练过程更加稳定,提升训练效果。本申请实施例中各个模块的详细训练过程可参见上述图3、图4所示实施例的描述。
本申请实施例中,可以基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理,得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器,i为正整数;其中,历史量化值序列包括 yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的,量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的状态,n为正整数;此外,映射函数中的J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作,即量化状态si是在状态预测过程中基于输入数据从N个量化状态中自动选取的一个量化状态。由此可见,本申请实施例训练得到的状态预测器能够支持多个量化状态,并且多个量化状态之间能够自动预测转换,有效降低了状态预测器的设计成本。
请参见图9,图9示出了本申请一个示例性实施例提供的一种编码设备的结构示意图,如图9所示,编码设备90可以包括计算键值模块901和状态预测模块902。编码设备90可以是智能终端或服务器,编码设备90可以用于对源数值进行量化处理,编码设备90对源数值进行量化处理的过程可参见图10所示实施例的描述。
请参见图10,图10示出了本申请一个示例性实施例提供的一种编码设备的量化过程的流程示意图,如图10所示,计算键值模块901中可以包括键值生成器,状态预测模块902可以包括状态预测器,状态预测模块902中的状态预测器是采用图3、图4所示实施例中的多媒体的量化处理方法训练得到的。如图 10所示,计算键值模块901和状态预测模块902共同参与的量化过程如下:
(1)计算键值模块901可以调用键值生成器对源数值zi进行键值计算,得到源数值zi的量化值gi。在一种实现方式中,键值生成器可以由多个量化器组成,计算键值模块801可以根据源数值zi的量化状态wi-1确定源数值zi进行键值计算的量化器,并根据确定得到的量化器对源数值zi进行键值计算,得到源数值zi的量化值gi。其中,源数值zi是第一源序列中的第i个源数值,i为正整数;第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列可以包括按序排列的多个源数值。
(2)状态预测模块902可以调用状态预测器预测得到源数值zi+1对应的量化状态wi。状态预测模块802调用状态预测器预测得到源数值zi+1对应的量化状态wi的过程可以包括:获取第一输入数据,第一输入数据可以包括源数值zi对应的历史量化值序列和源数值zi对应的历史量化值状态;获取状态预测器的第一映射函数,该第一映射函数与源数值zi对应;基于第一映射函数对第一输入数据进行预测处理,得到源数值zi+1对应的量化状态wi
(3)计算键值模块901和状态预测模块902依次从第一源序列中选取位于源数值zi之后的各个源数值进行量化处理,直至第一源序列中的所有源数值均完成量化处理为止,并根据第一源序列中所有源数值的量化值,生成第一量化值序列。需要说明的是,对第一源序列中的每个源数值的量化处理过程与对第一源序列Z中的源数值zi的量化处理过程相同。本申请实施例中各个模块的详细量化过程可参见上述图5所示实施例的描述。
本申请实施例中,当获取到第一源序列之后,可以对第一源序列中的每个源数值进行量化处理;以第一源序列中的源数值zi为例,对源数值zi的量化过程可以包括:在量化状态wi-1下对源数值zi进行键值计算得到量化值gi,以及调用状态预测器预测得到源数值zi+1对应的量化状态wi;其中,源数值zi是第一源序列中的第i个源数值,i为正整数,第一源序列是对待量化的第一多媒体数据进行采样得到的;从而对第一源序列中的每个源数值进行量化处理后,可以根据第一源序列中所有源数值的量化值生成第一量化值序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升对第一源序列的量化性能,从而有效提升对第一多媒体数据进行编码时的编码性能。
请参见图11,图11示出了本申请一个示例性实施例提供的一种解码设备的结构示意图,如图11所示,解码设备110包括状态预测模块1101、重构输入模块1102。解码设备110可以是智能终端或服务器,解码设备110可以用于对量化值进行反量化处理,解码设备110对量化值进行反量化处理的过程可参见图1 2所示实施例的描述。
请参见图12,图12示出了本申请一个示例性实施例提供的一种解码设备的反量化过程的流程示意图,如图12所示,重构输入模块1102可以包括输入重构器;状态预测模块1101可以包括状态预测器,状态预测模块1101中的状态预测器是采用图3、图4所示实施例中的多媒体的量化处理方法训练得到的。如图12所示,状态预测模块1101、重构输入模块1102共同参与的反量化过程如下:
(1)状态预测模块1101可以基于量化值gi调用状态预测器预测得到量化状态wi。其中,量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,i为正整数;第一源序列是对待量化的第一多媒体数据进行采样得到的,第一源序列可以包括按序排列的多个源数值。第一量化值序列包括对第一源序列中的多个源数值分别进行量化处理得到的多个量化值。
状态预测模块1101基于量化值gi调用状态预测器预测得到量化状态wi的过程可以为:获取第一输入数据,第一输入数据可以包括源数值zi对应的历史量化值序列和源数值zi对应的历史量化值状态;获取状态预测器的第一映射函数,该第一映射函数与源数值zi对应;基于第一映射函数对第一输入数据进行预测处理,得到源数值zi+1对应的量化状态wi
(2)重构输入模块1102可以调用输入重构器对量化值gi进行重构处理,得到源数值zi的重构数值z′i。在一种实现方式中,输入重构器可以由多个量化器组成,重构输入模块1102可以根据源数值zi+1对应的量化状态wi(即量化值gi对应的量化状态wi),确定对量化值gi进行重构处理的量化器,并根据确定得到的量化器对量化值gi进行重构处理,得到源数值zi的重构数值z′i
(3)状态预测模块1101和重构输入模块1102依次从第一量化值序列中选取位于量化值gi之后的各个量化值进行反量化处理,直至第一量化值序列的所有量化值均完成反量化处理为止,并根据反量化处理得到的所有重构数值,生成第一重构序列。需要说明的是,对第一量化值序列中的每个量化值进行反量化处理的过程与对量化值gi进行反量化处理的过程相同。本申请实施例中各个模块的详细训练过程可参见上述图6所示实施例的描述。
本申请实施例中,当获取到第一源序列对应的第一量化值序列之后,可以对第一量化值序列中的每个量化值进行反量化处理,以第一量化值序列中的量化值gi为例,对量化值gi的反量化过程可以包括:基于量化值gi调用状态预测器预测得到量化状态wi,以及根据量化状态wi对量化值gi进行重构处理,得到量化值gi对应的重构数值z′i;其中,量化值gi是第一量化值序列中的第i个量化值,量化值gi是对第一源序列中的源数值zi进行键值计算得到的,源数值zi是第一源序列中的第i个源数值,i为正整数;从而对第一量化值序列中的每个量化值进行反量化处理后,可以根据所有反量化处理得到的重构数值生成第一重构序列。状态预测器支持任意数量的量化状态之间的自动转换,可以提升解码过程中对第一量化值序列的反量化性能,从而有效提升解码性能。
请参见图13,图13示出了本申请一个示例性实施例提供的一种多媒体的量化处理装置的结构示意图。多媒体的量化处理装置130可以设置于智能体中,该多媒体的量化处理装置130可以用于执行图3、图4所示的方法实施例中的相应步骤,该多媒体的量化处理装置130可以包括如下单元:
获取单元1301,用于获取状态预测器的输入数据;其中,输入数据包括源数值xi对应的历史量化值序列和历史量化状态序列;源数值xi是源序列X中的第 i个源数值,i为正整数;源序列X是对多媒体数据进行采样得到的;历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的;量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m 为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的量化状态,n为正整数;
获取单元1301,还用于获取状态预测器的映射函数,映射函数用于表示N 个量化状态与J个动作之间的映射关系;N、J均为正整数,N的取值由输入数据中的m和n确定;J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作;
处理单元1302,用于基于映射函数对输入数据进行预测处理,得到源数值 xi+1对应的量化状态si
处理单元1302,还用于根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器。
在一种实现方式中,映射函数采用映射表表示;映射表包含N行J列,映射表的第p行表示N个量化状态中的任一个,p为正整数且p≤N;映射表的第 j列表示J个动作中的任一个,j为正整数且j≤J;第p行与第j列相交的表格项包括在第p行的量化状态下执行第j列的动作aij时能够获得的奖励值vjp;处理单元1302,具体用于:
基于输入数据确定映射表;
按照预测算法从映射表中选择量化状态si
在一种实现方式中,预测算法包括贪婪算法;处理单元1302,具体用于:
按照第一贪婪概率从映射表中随机选择目标动作;或者,按照第二贪婪概率从映射表中选择最大奖励值对应的目标动作;
将目标动作对应的量化状态确定为量化状态si
其中,第一贪婪概率的取值范围为[0,1],第二贪婪概率的取值范围为[0, 1],并且第一贪婪概率与第二贪婪概率之和为1。
在一种实现方式中,处理单元1302,具体用于:
在量化状态si下对源数值xi+1进行量化处理,得到量化值yi+1
基于映射函数对输入数据进行预测处理,得到源数值xi+2对应的量化状态 si+1
根据量化值yi+1和量化状态si+1,重构得到源数值xi+1对应的重构数值x′i+1
基于源数值xi+1获取目标源序列,基于重构数值x′i+1获取目标重构序列以及基于量化值yi+1获取目标量化值序列;其中,目标源序列包括x1、x2到xi+1共i+1 个按序排列的源数值,目标重构序列包括x′1、x′2到x′i+1共i+1个按序排列的重构数值,目标量化值序列包括y1、y2到yi+1共i+1个按序排列的量化值;
根据目标源序列、目标重构序列及目标量化值序列,确定奖励函数;
根据奖励函数对映射函数进行更新。
在一种实现方式中,处理单元1302,具体用于:
计算目标源序列与目标重构序列之间的编码失真值;以及,
计算目标量化值序列的编码比特消耗值;
根据编码失真值和编码比特消耗值确定奖励函数。
在一种实现方式中,处理单元1302,还用于:
获取N个量化状态中的每个量化状态对应的量化位置;
计算各个量化位置的率失真损失;
若量化值yi的量化位置的率失真损失为各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第一数值;
若量化值yi的量化位置的率失真损失不是各个量化位置的率失真损失中的最小值,则将奖励函数赋值为第二数值。
在一种实现方式中,处理单元1302,还用于:获取历史量化值序列的替代序列,并根据替代序列对输入数据进行替代;
处理单元1302,具体用于:基于映射函数对替代后的输入数据进行预测处理,得到源数值xi+1对应的量化状态si
在一种实现方式中,处理单元1302,具体用于:
若量化值yi是奇数,则确定量化值yi的奇偶性替代值为第三数值;
若量化值yi是偶数,则确定量化值yi的奇偶性替代值为第四数值;
根据历史量化值序列中的各个量化值的奇偶性替代值,生成替代序列;
采用替代序列对输入数据中的历史量化值序列进行替代。
在一种实现方式中,当n的取值为1且m>1时,获取单元1301,具体用于:
获取历史量化值序列和历史量化状态序列;
将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列中的量化状态si-1进行组合,得到m个输入组合,每个输入组合由量化状态si-1和历史量化值序列中的一个量化值构成;
对m个输入组合进行堆叠形成输入矩阵。
在一种实现方式中,当m=n时,获取单元1301,具体用于:
获取历史量化值序列和历史量化状态序列;
将历史量化值序列包含的m个量化值中的每个量化值与历史量化状态序列包含的m个量化状态中的每个量化状态进行按序组合,得到m个输入组合,每个输入组合由历史量化值序列中的一个量化值和历史量化状态序列中的一个量化状态构成;
对m个输入组合进行堆叠形成输入矩阵。
根据本申请的一个实施例,图13所示的多媒体的量化处理装置130中的各个单元可以分别或全部合并为一个或若干个另外的单元来构成,或者其中的某个(些)单元还可以再拆分为功能上更小的多个单元来构成,这可以实现同样的操作,而不影响本申请的实施例的技术效果的实现。上述单元是基于逻辑功能划分的,在实际应用中,一个单元的功能也可以由多个单元来实现,或者多个单元的功能由一个单元实现。在本申请的其它实施例中,该多媒体的量化处理装置130也可以包括其它单元,在实际应用中,这些功能也可以由其它单元协助实现,并且可以由多个单元协作实现。根据本申请的另一个实施例,可以通过在包括例如中央处理单元(CPU)、随机存取存储介质(RAM)、只读存储介质(ROM)等处理元件和存储元件的通用计算设备上运行能够执行如图3、图4中所示的相应方法所涉及的各步骤的计算机程序(包括程序代码),来构造如图13中所示的多媒体的量化处理装置130,以及来实现本申请实施例的多媒体的量化处理方法。计算机程序可以记载于例如计算机可读存储介质上,并通过计算机可读存储介质装载于上述计算设备中,并在其中运行。
本申请实施例中,可以基于状态预测器的映射函数对输入数据(包括源数值xi对应的历史量化值序列和源数值xi对应的历史量化状态序列)进行自动预测处理,得到源数值xi+1对应的量化状态si,从而可以根据源数值xi+1和量化状态si更新映射函数,以训练状态预测器,i为正整数;其中,历史量化值序列包括 yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对源数值xi进行键值计算得到的,量化值yi之前的m-1个量化值是对源序列X中位于源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对m-1个源数值进行键值计算时对应的状态,n为正整数;此外,映射函数中的J个动作中的任一个动作用于表示从N个量化状态中选取一个量化状态作为源序列X中的源数值xi+1对应的量化状态的操作,即量化状态si是在状态预测过程中基于输入数据从N个量化状态中自动选取的一个量化状态。由此可见,本申请实施例训练得到的状态预测器能够支持多个量化状态,并且多个量化状态之间能够自动预测转换,有效降低了状态预测器的设计成本。
本申请实施例还提供了一种计算机可读存储介质(Memory),该计算机可读存储介质存储有计算机程序,该计算机程序被计算机设备(例如可以是智能体)的处理器读取并执行时,使得计算机设备执行上述的多媒体的量化处理方法。上述计算机可读存储介质可以是高速RAM存储器,也可以是非不稳定的存储器(Non-Volatile Memory),例如至少一个磁盘存储器;上述计算机可读存储介质还可以包括但不限于快闪存储器(Flash Memory),硬盘(Hard Disk Drive, HDD),固态硬盘(Solid-State Drive,SSD)。
根据本申请的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选方式中提供的多媒体的量化处理方法。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (15)

1.一种多媒体的量化处理方法,其特征在于,所述方法包括:
获取状态预测器的输入数据;其中,所述输入数据包括源数值xi对应的历史量化值序列和历史量化状态序列;所述源数值xi是源序列X中的第i个源数值,i为正整数;所述源序列X是对多媒体数据进行采样得到的;所述历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对所述源数值xi进行键值计算得到的;所述量化值yi之前的m-1个量化值是对所述源序列X中位于所述源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;所述历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,所述量化状态si-1之前的n-1个量化状态是指对所述m-1个源数值进行键值计算时对应的量化状态,n为正整数;
获取所述状态预测器的映射函数,所述映射函数用于表示N个量化状态与J个动作之间的映射关系;N、J均为正整数,N的取值由所述输入数据中的m和n确定;所述J个动作中的任一个动作用于表示从所述N个量化状态中选取一个量化状态作为所述源序列X中的源数值xi+1对应的量化状态的操作;
基于所述映射函数对所述输入数据进行预测处理,得到所述源数值xi+1对应的量化状态si
根据所述源数值xi+1和所述量化状态si更新所述映射函数,以训练所述状态预测器。
2.如权利要求1所述的方法,其特征在于,所述映射函数采用映射表表示;所述映射表包含N行J列,所述映射表的第p行表示所述N个量化状态中的任一个,p为正整数且p≤N;所述映射表的第j列表示所述J个动作中的任一个,j为正整数且j≤J;所述第p行与所述第j列相交的表格项包括在所述第p行的量化状态下执行所述第j列的动作aij时能够获得的奖励值vjp
所述基于所述映射函数对所述输入数据进行预测处理,得到所述源数值xi+1对应的量化状态si;包括:
基于所述输入数据确定所述映射表;
按照预测算法从所述映射表中选择所述量化状态si
3.如权利要求2所述的方法,其特征在于,所述预测算法包括贪婪算法;所述按照预测算法从所述映射表中选择所述量化状态si,包括:
按照第一贪婪概率从所述映射表中随机选择目标动作;或者,按照第二贪婪概率从所述映射表中选择最大奖励值对应的目标动作;
将所述目标动作对应的量化状态确定为所述量化状态si
其中,所述第一贪婪概率的取值范围为[0,1],所述第二贪婪概率的取值范围为[0,1],并且所述第一贪婪概率与所述第二贪婪概率之和为1。
4.如权利要求1所述的方法,其特征在于,所述根据所述源数值xi+1和所述量化状态si更新所述映射函数,包括:
在所述量化状态si下对所述源数值xi+1进行量化处理,得到量化值yi+1
基于所述映射函数对所述输入数据进行预测处理,得到源数值xi+2对应的量化状态si+1
根据所述量化值yi+1和所述量化状态si+1,重构得到所述源数值xi+1对应的重构数值x′i+1
基于所述源数值xi+1获取目标源序列,基于所述重构数值x′i+1获取目标重构序列以及基于所述量化值yi+1获取目标量化值序列;其中,所述目标源序列包括x1、x2到xi+1共i+1个按序排列的源数值,所述目标重构序列包括x′1、x′2到x′i+1共i+1个按序排列的重构数值,所述目标量化值序列包括y1、y2到yi+1共i+1个按序排列的量化值;
根据所述目标源序列、所述目标重构序列及所述目标量化值序列,确定奖励函数;
根据所述奖励函数对所述映射函数进行更新。
5.如权利要求4所述的方法,其特征在于,所述根据所述目标源序列、所述目标重构序列及所述目标量化值序列,确定奖励函数,包括:
计算所述目标源序列与所述目标重构序列之间的编码失真值;以及,
计算所述目标量化值序列的编码比特消耗值;
根据所述编码失真值和所述编码比特消耗值确定所述奖励函数。
6.如权利要求4所述的方法,其特征在于,所述方法还包括:
获取所述N个量化状态中的每个量化状态对应的量化位置;
计算各个所述量化位置的率失真损失;
若所述量化值yi的量化位置的率失真损失为各个所述量化位置的率失真损失中的最小值,则将所述奖励函数赋值为第一数值;
若所述量化值yi的量化位置的率失真损失不是各个所述量化位置的率失真损失中的最小值,则将所述奖励函数赋值为第二数值。
7.如权利要求1所述的方法,其特征在于,所述方法还包括:获取所述历史量化值序列的替代序列,并根据所述替代序列对所述输入数据进行替代;
所述基于所述映射函数对所述输入数据进行预测处理,得到所述源数值xi+1对应的量化状态si,包括:基于所述映射函数对替代后的所述输入数据进行预测处理,得到所述源数值xi+1对应的所述量化状态si
8.如权利要求7所述的方法,其特征在于,所述获取所述历史量化值序列的替代序列,并根据所述替代序列对所述输入数据进行替代,包括:
若所述量化值yi是奇数,则确定所述量化值yi的奇偶性替代值为第三数值;
若所述量化值yi是偶数,则确定所述量化值yi的奇偶性替代值为第四数值;
根据所述历史量化值序列中的各个量化值的奇偶性替代值,生成所述替代序列;
采用所述替代序列对所述输入数据中的所述历史量化值序列进行替代。
9.如权利要求1至8任一项所述的方法,其特征在于,当n的取值为1且m>1时,所述获取状态预测器的输入数据,包括:
获取所述历史量化值序列和所述历史量化状态序列;
将所述历史量化值序列包含的m个量化值中的每个量化值与所述历史量化状态序列中的所述量化状态si-1进行组合,得到m个输入组合,每个输入组合由所述量化状态si-1和所述历史量化值序列中的一个量化值构成;
对所述m个输入组合进行堆叠形成输入矩阵。
10.如权利要求1至8任一项所述的方法,其特征在于,当m=n时,所述获取状态预测器的输入数据,包括:
获取所述历史量化值序列和所述历史量化状态序列;
将所述历史量化值序列包含的m个量化值中的每个量化值与所述历史量化状态序列包含的m个量化状态中的每个量化状态进行按序组合,得到m个输入组合,每个输入组合由所述历史量化值序列中的一个量化值和所述历史量化状态序列中的一个量化状态构成;
对所述m个输入组合进行堆叠形成输入矩阵。
11.一种多媒体的量化处理方法,其特征在于,所述多媒体的量化处理方法由编码设备执行,所述编码设备中设有状态预测器,所述状态预测器采用权利要求1至10任一项所述的方法进行训练得到;所述多媒体的量化处理方法包括:
获取第一源序列,所述第一源序列是对待量化的第一多媒体数据进行采样得到的,所述第一源序列包括按序排列的多个源数值;
从所述第一源序列中选取源数值zi,所述源数值zi是所述第一源序列中的第i个源数值,i为正整数;
在量化状态wi-1下对所述源数值zi进行量化处理得到量化值gi及预测的量化状态wi
依次从所述第一源序列中选取位于所述源数值zi之后的各个源数值进行量化处理,直至所述第一源序列中的所有源数值均完成量化处理为止;
根据所述第一源序列中所有源数值的量化值,生成第一量化值序列;
其中,所述量化处理的过程包括:在所述量化状态wi-1下对所述源数值zi进行键值计算得到所述量化值gi;以及调用所述状态预测器预测得到源数值zi+1对应的所述量化状态wi
12.一种多媒体的量化处理方法,其特征在于,所述多媒体的量化处理方法由解码设备执行,所述解码设备中设有状态预测器,所述状态预测器采用权利要求1至10任一项所述的方法进行训练得到;所述多媒体的量化处理方法包括:
获取第一源序列对应的第一量化值序列,所述第一源序列是对待量化的第一多媒体数据进行采样得到的,所述第一源序列包括按序排列的多个源数值;所述第一量化值序列包括对所述第一源序列中的多个源数值分别进行量化处理得到的多个量化值;
从所述第一量化值序列中选取量化值gi,所述量化值gi是所述第一量化值序列中的第i个量化值,所述量化值gi是对所述第一源序列中的源数值zi进行键值计算得到的,所述源数值zi是所述第一源序列中的第i个源数值,i为正整数;
对所述量化值gi进行反量化处理得到重构数值z′i
依次从所述第一量化值序列中选取位于所述量化值gi之后的各个量化值进行反量化处理,直至所述第一量化值序列的所有量化值均完成反量化处理为止;
根据反量化处理得到的所有重构数值,生成第一重构序列;
其中,所述反量化处理过程包括:基于所述量化值gi调用所述状态预测器预测得到量化状态wi;以及根据所述量化状态wi对所述量化值gi进行重构处理,得到所述量化值gi对应的重构数值z′i
13.一种多媒体的量化处理装置,其特征在于,所述多媒体的量化处理装置包括:
获取单元,用于获取状态预测器的输入数据;其中,所述输入数据包括源数值xi对应的历史量化值序列和历史量化状态序列;所述源数值xi是源序列X中的第i个源数值,i为正整数;所述源序列X是对多媒体数据进行采样得到的;所述历史量化值序列中包含yi-(m-1)、yi-(m-2)至yi共m个按序排列的量化值,量化值yi是在量化状态si-1下对所述源数值xi进行键值计算得到的;所述量化值yi之前的m-1个量化值是对所述源序列X中位于所述源数值xi之前的m-1个源数值依次进行键值计算得到的,m为正整数;所述历史量化状态序列包含si-n、si-(n-1)至si-1共n个按序排列的量化状态,量化状态si-1之前的n-1个量化状态是指对所述m-1个源数值进行键值计算时对应的量化状态,n为正整数;
所述获取单元,还用于获取所述状态预测器的映射函数,所述映射函数用于表示N个量化状态与J个动作之间的映射关系;N、J均为正整数,N的取值由所述输入数据中的m和n确定;所述J个动作中的任一个动作用于表示从所述N个量化状态中选取一个量化状态作为所述源序列X中的源数值xi+1对应的量化状态的操作;
处理单元,用于基于所述映射函数对所述输入数据进行预测处理,得到所述源数值xi+1对应的量化状态si
所述处理单元,还用于根据所述源数值xi+1和所述量化状态si更新所述映射函数,以训练所述状态预测器。
14.一种编码设备,其特征在于,所述编码设备包括:
计算键值模块,所述计算键值模块包括键值生成器,所述键值生成器用于对源数值进行键值计算得到量化值;
状态预测模块,所述状态预测模块包括状态预测器,所述状态预测器采用权利要求1至10任一项所述的多媒体的量化处理方法进行训练得到。
15.一种解码设备,其特征在于,所述解码设备包括:
状态预测模块,所述状态预测模块包括状态预测器,所述状态预测器采用权利要求1至10任一项所述的多媒体的量化处理方法进行训练得到;
重构输入模块,所述重构输入模块包括输入重构器,所述输入重构器用于对量化值进行重构处理得到重构数值。
CN202110012447.0A 2021-01-05 2021-01-05 多媒体的量化处理方法、装置及编码、解码设备 Active CN114727109B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110012447.0A CN114727109B (zh) 2021-01-05 2021-01-05 多媒体的量化处理方法、装置及编码、解码设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110012447.0A CN114727109B (zh) 2021-01-05 2021-01-05 多媒体的量化处理方法、装置及编码、解码设备

Publications (2)

Publication Number Publication Date
CN114727109A CN114727109A (zh) 2022-07-08
CN114727109B true CN114727109B (zh) 2023-03-24

Family

ID=82233429

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110012447.0A Active CN114727109B (zh) 2021-01-05 2021-01-05 多媒体的量化处理方法、装置及编码、解码设备

Country Status (1)

Country Link
CN (1) CN114727109B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011166717A (ja) * 2010-02-12 2011-08-25 Shunsuke Kobayakawa 誤差収束型予測器を用いた独立量子化型学習予測符号化
WO2012172779A1 (en) * 2011-06-13 2012-12-20 Panasonic Corporation Method and apparatus for encoding and decoding video using intra prediction mode dependent adaptive quantization matrix
CN103620676A (zh) * 2011-04-21 2014-03-05 三星电子株式会社 对线性预测编码系数进行量化的方法、声音编码方法、对线性预测编码系数进行反量化的方法、声音解码方法以及记录介质
CN107333141A (zh) * 2011-06-16 2017-11-07 Ge视频压缩有限责任公司 熵编码中的上下文初始化
CN111131821A (zh) * 2018-10-31 2020-05-08 北京字节跳动网络技术有限公司 依赖性量化下的去方块滤波

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011166717A (ja) * 2010-02-12 2011-08-25 Shunsuke Kobayakawa 誤差収束型予測器を用いた独立量子化型学習予測符号化
CN103620676A (zh) * 2011-04-21 2014-03-05 三星电子株式会社 对线性预测编码系数进行量化的方法、声音编码方法、对线性预测编码系数进行反量化的方法、声音解码方法以及记录介质
WO2012172779A1 (en) * 2011-06-13 2012-12-20 Panasonic Corporation Method and apparatus for encoding and decoding video using intra prediction mode dependent adaptive quantization matrix
CN107333141A (zh) * 2011-06-16 2017-11-07 Ge视频压缩有限责任公司 熵编码中的上下文初始化
CN111131821A (zh) * 2018-10-31 2020-05-08 北京字节跳动网络技术有限公司 依赖性量化下的去方块滤波
CN111131819A (zh) * 2018-10-31 2020-05-08 北京字节跳动网络技术有限公司 依赖性量化的编码工具下的量化参数

Also Published As

Publication number Publication date
CN114727109A (zh) 2022-07-08

Similar Documents

Publication Publication Date Title
US12033077B2 (en) Learning compressible features
CN114926770B (zh) 视频动作识别方法、装置、设备和计算机可读存储介质
CN109165720A (zh) 神经网络模型压缩方法、装置和计算机设备
JP2022527447A (ja) ニューラルネットワークのパラメータを圧縮する方法および装置
CN113826117A (zh) 来自神经网络的高效二元表示
CN114727109B (zh) 多媒体的量化处理方法、装置及编码、解码设备
CN115426075A (zh) 语义通信的编码传输方法及相关设备
CN117953351B (zh) 一种基于模型强化学习的决策方法
CN114861907A (zh) 数据计算方法、装置、存储介质和设备
Wu et al. Optimized compressed sensing for communication efficient federated learning
CN113222151A (zh) 一种量子态的变换方法及装置
CN115983320A (zh) 一种基于深度强化学习的联邦学习模型参数量化方法
CN116402138A (zh) 一种多粒度历史聚合的时序知识图谱推理方法及系统
CN117218217A (zh) 图像生成模型的训练方法、装置、设备及存储介质
CN117616753A (zh) 使用光流的视频压缩
WO2022189493A2 (en) Generating output signals using variable-rate discrete representations
US20240267532A1 (en) Training rate control neural networks through reinforcement learning
Grassucci et al. Contrastive Learning Enables Low-Bandwidth Semantic Communication
CN118762090A (zh) 视觉处理的方法、装置、设备和存储介质
CN114363951A (zh) 一种多小区间流量协同预测方法及装置
CN115243042A (zh) 一种量化参数确定方法及相关装置
JP2023521292A (ja) 深層強化学習によるエンドツーエンドニューラル圧縮のための方法及び装置
CN118520950A (zh) 超长词元模型推理方法、装置、电子设备及存储介质
Lindström Deep Multiple Description Coding for Semantic Communication: Theory and Practice
CN117174254A (zh) 模型调整方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40071921

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant