RU2798759C2 - Parametric encoding and decoding of multi-channel audio signals - Google Patents
Parametric encoding and decoding of multi-channel audio signals Download PDFInfo
- Publication number
- RU2798759C2 RU2798759C2 RU2019131327A RU2019131327A RU2798759C2 RU 2798759 C2 RU2798759 C2 RU 2798759C2 RU 2019131327 A RU2019131327 A RU 2019131327A RU 2019131327 A RU2019131327 A RU 2019131327A RU 2798759 C2 RU2798759 C2 RU 2798759C2
- Authority
- RU
- Russia
- Prior art keywords
- signal
- channel
- downmix
- coding
- coefficients
- Prior art date
Links
Images
Abstract
Description
Перекрестные ссылки на смежные заявкиCross references to related applications
Настоящая заявка испрашивает приоритет по предварительной заявке на патент США № 62/073,642, поданной 31 октября 2014 г., и предварительной заявке на патент США № 62/128,425, поданной 4 марта 2015 г., полное содержание каждой из которых включено в настоящую заявку путем ссылки.This application claims priority over U.S. Provisional Application No. 62/073,642, filed October 31, 2014, and U.S. Provisional Application No. 62/128,425, filed March 4, 2015, the entire contents of which are hereby incorporated herein by links.
Область техникиTechnical field
Описанное в настоящей заявке изобретение по существу относится к параметрическому кодированию и декодированию аудиосигналов и, в частности, к параметрическому кодированию и декодированию распределенных по каналам аудиосигналов. The invention described in this application essentially relates to parametric coding and decoding of audio signals and, in particular, to parametric coding and decoding of channelized audio signals.
Предпосылки создания изобретенияPrerequisites for the creation of the invention
Для воспроизведения аудиоданных, представленных многоканальным аудиосигналом, часто используют системы воспроизведения аудио, содержащие множество громкоговорителей, причем соответствующие каналы многоканального аудиосигнала воспроизводят через соответствующие громкоговорители. Многоканальный аудиосигнал можно, например, записать с помощью множества акустических преобразователей или можно создать с помощью оборудования для создания аудио. Во многих случаях имеются ограничения по полосе пропускания при передаче аудиосигнала на оборудование для воспроизведения, и/или в компьютерном запоминающем устройстве или переносном устройстве для хранения данных ограничено пространство для хранения аудиосигнала. Существуют системы кодирования аудио для параметрического кодирования аудиосигналов с целью уменьшения полосы пропускания или размера для хранения данных. На стороне кодера эти системы обычно выполняют понижающее микширование многоканального аудиосигнала до сигнала понижающего микширования, который, как правило, представляет собой монофонический (одноканальный) или стереофонический (двухканальный) сигнал понижающего микширования, и извлекают дополнительную информацию, описывающую характеристики каналов посредством параметров, таких как разности уровней и взаимная корреляция. Сигнал понижающего микширования и дополнительную информацию затем кодируют и передают на сторону декодера. На стороне декодера по сигналу понижающего микширования с учетом параметров дополнительной информации выполняют реконструкцию, т. е. аппроксимацию, многоканального аудиосигнала.In order to reproduce audio data represented by a multi-channel audio signal, audio reproduction systems comprising a plurality of speakers are often used, with the respective channels of the multi-channel audio signal reproduced through the respective speakers. The multi-channel audio signal may, for example, be recorded with a plurality of acoustic transducers, or may be created with audio production equipment. In many cases, there are bandwidth limitations when transmitting the audio signal to the playback equipment, and/or there is limited space in the computer storage device or portable storage device for storing the audio signal. Audio coding systems exist for parametrically encoding audio signals to reduce bandwidth or data storage size. At the encoder side, these systems typically downmix the multi-channel audio signal to a downmix signal, which is typically a mono (single-channel) or stereo (two-channel) downmix signal, and extract additional information describing the characteristics of the channels through parameters such as differences levels and cross-correlation. The downmix signal and side information are then encoded and transmitted to the decoder side. On the decoder side, based on the downmix signal, taking into account the parameters of additional information, reconstruction, i.e., approximation, of the multichannel audio signal is performed.
Ввиду многообразия различных типов устройств и систем, подходящих для воспроизведения многоканальных аудиоданных, в том числе средств в недавно появившемся сегменте, ориентированном на бытовое применение конечными потребителями, актуальной является задача создания новых и альтернативных способов эффективного кодирования многоканальных аудиоданных, которые позволили бы снизить требования к полосе пропускания и/или к объему памяти для хранения, сделать более удобной реконструкцию многоканального аудиосигнала на стороне декодера и/или увеличить достоверность воспроизведения многоканального аудиосигнала, реконструированного на стороне декодера.In view of the variety of different types of devices and systems suitable for the reproduction of multichannel audio data, including tools in the recently emerging segment focused on home use by end users, it is urgent to create new and alternative ways to efficiently encode multichannel audio data that would reduce bandwidth requirements. bandwidth and/or storage capacity, make it more convenient to reconstruct the multi-channel audio signal on the decoder side, and/or increase the fidelity of the reproduction of the multi-channel audio signal reconstructed on the decoder side.
Краткое описание рисунковBrief description of the drawings
Примеры осуществления будут более подробно описаны ниже и со ссылкой на сопроводительные рисунки, причем:The embodiments will be described in more detail below and with reference to the accompanying drawings, wherein:
на Фиг. 1 и 2 представлены обобщенные структурные схемы секций кодирования для кодирования М-канальных аудиосигналов в виде двухканальных сигналов понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с примерами осуществления;in FIG. 1 and 2 are generalized block diagrams of coding sections for encoding M -channel audio signals as two-channel downmix signals and associated upmix parameters in accordance with exemplary embodiments;
на Фиг. 3 представлена обобщенная структурная схема системы кодирования аудио, содержащей секцию кодирования, показанную на Фиг. 1, в соответствии с примером осуществления;in FIG. 3 is a generalized block diagram of an audio coding system comprising the coding section shown in FIG. 1, in accordance with the exemplary implementation;
на Фиг. 4 и 5 представлены блок-схемы способов кодирования аудио для кодирования М-канальных аудиосигналов в виде двухканальных сигналов понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с примерами осуществления;in FIG. 4 and 5 are flowcharts of audio coding methods for encoding M -channel audio signals as two-channel downmix signals and associated upmix parameters in accordance with exemplary embodiments;
на Фиг. 6–8 представлены альтернативные способы разделения 11.1-канального (или 7.1 + 4-канального или 7.1.4-канального) аудиосигнала на группы каналов, представленные соответствующими каналами понижающего микширования, в соответствии с примерами осуществления;in FIG. 6-8 show alternative methods for dividing 11.1-channel (or 7.1 + 4-channel or 7.1.4-channel) audio signal into channel groups represented by respective downmix channels, in accordance with exemplary embodiments;
на Фиг. 9 представлена обобщенная структурная схема секции декодирования для реконструкции М-канального аудиосигнала на основе двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с примером осуществления;in FIG. 9 is a generalized block diagram of a decoding section for reconstructing an M -channel audio signal based on a two-channel downmix signal and associated upmix parameters in accordance with an embodiment;
на Фиг. 10 представлена обобщенная структурная схема системы декодирования аудио, содержащей секцию декодирования, показанную на Фиг. 9, в соответствии с примером осуществления;in FIG. 10 is a generalized block diagram of an audio decoding system comprising the decoding section shown in FIG. 9, in accordance with the exemplary implementation;
на Фиг. 11 представлена обобщенная структурная схема секции микширования, содержащейся в секции декодирования, показанной на Фиг. 9, в соответствии с примером осуществления;in FIG. 11 is a generalized block diagram of the mixing section included in the decoding section shown in FIG. 9, in accordance with the exemplary implementation;
на Фиг. 12 представлена блок-схема способа декодирования аудио для реконструкции М-канального аудиосигнала на основе двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с примером осуществления; иin FIG. 12 is a flowchart of an audio decoding method for reconstructing an M -channel audio signal based on a two-channel downmix signal and associated upmix parameters, in accordance with an embodiment; And
на Фиг. 13 представлена обобщенная структурная схема секции декодирования для реконструкции 13.1-канального аудиосигнала на основе 5.1-канального сигнала и ассоциированных параметров повышающего микширования в соответствии с примером осуществления;in FIG. 13 is a generalized block diagram of a decoding section for reconstructing a 13.1-channel audio signal based on a 5.1-channel signal and associated upmix parameters in accordance with an embodiment;
на Фиг. 14 представлена обобщенная структурная схема секции кодирования, выполненной с возможностью определения подходящего формата кодирования, который можно использовать для кодирования М-канального аудиосигнала (и возможных последующих каналов), и представления М-канального аудиосигнала в виде двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования для выбранного формата;in FIG. 14 is a generalized block diagram of an encoding section configured to determine a suitable encoding format that can be used to encode an M -channel audio signal (and possible subsequent channels), and represent the M -channel audio signal as a two-channel downmix signal and associated upmix parameters for selected format;
на Фиг. 15 подробно представлена двухрежимная секция понижающего микширования в секции кодирования, показанной на Фиг. 14;in FIG. 15 details the dual mode downmix section in the coding section shown in FIG. 14;
на Фиг. 16 подробно представлена двухрежимная секция анализа в секции кодирования, показанной на Фиг. 14; иin FIG. 16 details the dual-mode analysis section in the encoding section shown in FIG. 14; And
на Фиг. 17 представлена блок-схема способа кодирования аудио, который может быть реализован компонентами, показанными на Фиг. 14–16.in FIG. 17 is a flowchart of an audio coding method that may be implemented by the components shown in FIG. 14–16.
Все фигуры являются схематическими, и на них по существу показаны те части, которые необходимы для разъяснения сути изобретения, тогда как другие части могут быть опущены или просто подразумеваться.All figures are schematic and essentially show those parts that are necessary to explain the essence of the invention, while other parts may be omitted or simply implied.
Описание примеров осуществленияDescription of exemplary embodiments
В настоящей заявке аудиосигнал может представлять собой отдельный аудиосигнал, аудиочасть аудиовизуального сигнала или мультимедийного сигнала или любой из таких сигналов в сочетании с метаданными. В настоящей заявке канал представляет собой аудиосигнал, связанный с заранее определенным/фиксированным пространственным положением/ориентацией или неопределенным пространственным положением, таким как «левый» или «правый».In the present application, an audio signal may be a single audio signal, an audio portion of an audiovisual signal or a multimedia signal, or any of such signals combined with metadata. In the present application, a channel is an audio signal associated with a predetermined/fixed spatial position/orientation or an undefined spatial position such as "left" or "right".
I. Обзор. Сторона декодераI. Overview. Decoder side
В соответствии с первым аспектом в примерах осуществления предложены системы декодирования аудио, способы декодирования аудио и связанные компьютерные программные продукты. Предлагаемые системы декодирования, способы и компьютерные программные продукты в соответствии с первым аспектом могут по существу иметь одни и те же общие возможности и преимущества.According to the first aspect, the embodiments provide audio decoding systems, audio decoding methods, and related computer program products. The proposed decoding systems, methods, and computer program products according to the first aspect may substantially share the same general features and benefits.
В соответствии с примерами осуществления предложен способ декодирования аудио, который включает получение двухканального сигнала понижающего микширования и параметров повышающего микширования для параметрической реконструкции М-канального аудиосигнала на основе сигнала понижающего микширования, причем M ≥ 4. Способ декодирования аудио включает получение сигнализацию, указывающую на выбранный один из по меньшей мере двух форматов кодирования М-канального аудиосигнала, причем форматы кодирования сопоставлены с соответствующими различными разделениями каналов М-канального аудиосигнала на соответствующую первую и вторую группы одного или более каналов. В указанном формате кодирования первый канал сигнала понижающего микширования соответствует линейной комбинации первой группы одного или более каналов М-канального аудиосигнала, а второй канал сигнала понижающего микширования соответствует линейной комбинации второй группы одного или более каналов М-канального аудиосигнала. Способ декодирования аудио дополнительно включает определение набора преддекорреляционных коэффициентов на основе указанного формата кодирования; вычисление входного сигнала декорреляции как линейного отображения сигнала понижающего микширования, причем к сигналу понижающего микширования применяют набор преддекорреляционных коэффициентов; создание декоррелированного сигнала на основе входного сигнала декорреляции; определение наборов коэффициентов повышающего микширования первого типа, которые в настоящей заявке называются «влажными» коэффициентами повышающего микширования, и второго типа, которые в настоящей заявке называются «сухими» коэффициентами повышающего микширования, на основе полученных параметров повышающего микширования и указанного формата кодирования; вычисление сигнала повышающего микширования первого типа, который в настоящей заявке называется «сухим» сигналом повышающего микширования, как линейного отображения сигнала понижающего микширования, причем к сигналу понижающего микширования применяют набор «сухих» коэффициентов повышающего микширования; вычисление сигнала повышающего микширования второго типа, который в настоящей заявке называется «влажным» сигналом повышающего микширования, как линейного отображения декоррелированного сигнала, причем к декоррелированному сигналу применяют набор «влажных» коэффициентов повышающего микширования; и объединение «сухого» и «влажного» сигналов повышающего микширования для получения многомерного реконструированного сигнала, соответствующего подлежащему реконструкции М-канальному аудиосигналу.According to exemplary embodiments, an audio decoding method is provided that includes obtaining a two-channel downmix signal and upmix parameters for parametrically reconstructing an M -channel audio signal based on the downmix signal, wherein M ≥ 4. The audio decoding method includes obtaining a signaling indicative of a selected one of at least two coding formats of the M -channel audio signal, the coding formats being mapped to respective different channelizations of the M -channel audio signal into respective first and second groups of one or more channels. In this coding format, the first channel of the downmix signal corresponds to a linear combination of the first group of one or more channels of the M -channel audio signal, and the second channel of the downmix signal corresponds to the linear combination of the second group of one or more channels of the M -channel audio signal. The audio decoding method further includes determining a set of pre-decorrelation coefficients based on the specified coding format; calculating the decorrelation input signal as a linear display of the downmix signal, wherein a set of pre-decorrelation coefficients is applied to the downmix signal; generating a decorrelated signal based on the input decorrelation signal; determining sets of upmix coefficients of the first type, which are called "wet" upmix coefficients in the present application, and the second type, which are called "dry" upmix coefficients in the present application, based on the obtained upmix parameters and the specified coding format; calculating a first type upmix signal, which is referred to as a "dry" upmix signal in the present application, as a linear display of the downmix signal, wherein a set of "dry" upmix coefficients is applied to the downmix signal; calculating a second type of upmix signal, which is referred to in the present application as a "wet" upmix signal, as a linear display of the decorrelated signal, wherein a set of "wet" upmix coefficients is applied to the decorrelated signal; and combining the dry and wet upmix signals to obtain a multi-dimensional reconstructed signal corresponding to the M -channel audio signal to be reconstructed.
В зависимости от аудиоданных М-канального аудиосигнала разные разделения каналов М-канального аудиосигнала на первую и вторую группы, при том что каждая группа вносит свой клад в канал сигнала понижающего микширования, могут подходить, например, для облегчения реконструкции М-канального аудиосигнала из сигнала понижающего микширования, в результате чего увеличивается (воспринимаемая) достоверность воспроизведения М-канального аудиосигнала, реконструированного из сигнала понижающего микширования, и/или повышается эффективность кодирования сигнала понижающего микширования. То, что способ декодирования аудио обеспечивает возможность получения сигнализации, указывающей на выбранный формат кодирования, и адаптации определения преддекорреляционных коэффициентов, а также «влажного» и «сухого» коэффициентов повышающего микширования для указанного формата кодирования, позволяет выбирать формат кодирования на стороне кодера, например, на основе аудиоданных М-канального аудиосигнала для использования сравнительных преимуществ применения этого конкретного формата кодирования для представления М-канального аудиосигнала.Depending on the audio data of the M -channel audio signal, different divisions of the channels of the M -channel audio signal into first and second groups, with each group contributing to the channel of the downmix signal, may be suitable, for example, to facilitate the reconstruction of the M -channel audio signal from the downmix signal. mixing, thereby increasing the (perceived) fidelity of the M -channel audio signal reconstructed from the downmix signal and/or increasing the coding efficiency of the downmix signal. That the audio decoding method is capable of obtaining signaling indicative of the selected coding format and adapting the definition of the pre-decoration coefficients and the wet and dry upmix coefficients for the specified coding format allows the selection of the coding format at the encoder side, for example, based on the audio data of the M -channel audio signal to take advantage of the comparative advantages of using this particular coding format to represent the M -channel audio signal.
В частности, определение преддекорреляционных коэффициентов на основе указанного формата кодирования может обеспечивать выбор канала или каналов сигнала понижающего микширования, из которых создается декоррелированный сигнал, и/или определять значимость такого канала или каналов на основе указанного формата кодирования до создания декоррелированного сигнала. Таким образом, то, что способ декодирования аудио обеспечивает возможность определения преддекорреляционных коэффициентов разным образом для разных форматов кодирования, может обеспечивать увеличение достоверности воспроизведения реконструированного М-канального аудиосигнала.In particular, determining the pre-decorrelation coefficients based on the specified coding format may select the channel or channels of the downmix signal from which the decorrelated signal is generated and/or determine the significance of such channel or channels based on the specified coding format prior to generating the decorrelated signal. Thus, the fact that the audio decoding method allows the pre-decoration coefficients to be determined differently for different coding formats can increase the fidelity of the reconstructed M -channel audio signal.
Первый канал сигнала понижающего микширования можно, например, сформировать на стороне кодера в виде линейной комбинации первой группы одного или более каналов в соответствии с указанным форматом кодирования. Аналогично второй канал сигнала понижающего микширования можно, например, сформировать на стороне кодера в виде линейной комбинации второй группы одного или более каналов в соответствии с указанным форматом кодирования.The first channel of the downmix signal may, for example, be formed on the encoder side as a linear combination of the first group of one or more channels in accordance with a specified coding format. Similarly, the second channel of the downmix signal can, for example, be formed on the encoder side as a linear combination of a second group of one or more channels in accordance with a specified coding format.
Каналы М-канального аудиосигнала могут образовывать, например, поднабор большего количества каналов, что вместе представляет звуковое поле.The channels of an M -channel audio signal may form, for example, a subset of a larger number of channels, which together represent a sound field.
Декоррелированный сигнал служит для увеличения размерности аудиоданных сигнала понижающего микширования при восприятии слушателем. Создание декоррелированного сигнала может включать, например, применение линейного фильтра к входному сигналу декорреляции.The decorrelated signal serves to increase the dimension of the audio data of the downmix signal as perceived by the listener. Creating a decorrelated signal may include, for example, applying a linear filter to the decorrelation input signal.
Под вычислением входного сигнала декорреляции как линейного отображения сигнала понижающего микширования подразумевается, что входной сигнал декорреляции получают путем первого линейного преобразования сигнала понижающего микширования. При первом линейном преобразовании в качестве входа берут два канала сигнала понижающего микширования, а в качестве выхода обеспечивают каналы входного сигнала декорреляции, а преддекорреляционные коэффициенты представляют собой коэффициенты, определяющие количественные характеристики этого первого линейного преобразования.By computing the decorrelation input signal as a linear mapping of the downmix signal, it is meant that the decorrelation input signal is obtained by first linearly transforming the downmix signal. The first linear transform takes two channels of the downmix signal as an input and provides the channels of the input decorrelation signal as an output, and the pre-decrelation coefficients are coefficients quantifying this first linear transform.
Под вычислением «сухого» сигнала повышающего микширования как линейного отображения сигнала понижающего микширования подразумевается, что «сухой» сигнал повышающего микширования получают путем второго линейного преобразования сигнала понижающего микширования. При втором линейном преобразовании в качестве входа берут два канала сигнала понижающего микширования, а в качестве выхода обеспечивают M каналов, а «сухие» коэффициенты повышающего микширования представляют собой коэффициенты, определяющие количественные характеристики этого второго линейного преобразования.By calculating the dry upmix signal as a linear mapping of the downmix signal, it is meant that the dry upmix signal is obtained by a second linear transformation of the downmix signal. The second linear conversion takes two channels of the downmix signal as an input and provides M channels as an output, and the dry upmix coefficients are coefficients quantifying this second linear conversion.
Под вычислением «влажного» сигнала повышающего микширования как линейного отображения декоррелированного сигнала подразумевается, что «влажный» сигнал повышающего микширования получают путем третьего линейного преобразования декоррелированного сигнала. При третьем линейном преобразовании в качестве входа берут каналы декоррелированного сигнала, а в качестве выхода обеспечивают M каналов, а «влажные» коэффициенты повышающего микширования представляют собой коэффициенты, определяющие количественные характеристики этого третьего линейного преобразования.By computing the wet upmix signal as a linear mapping of the decorrelated signal, it is meant that the wet upmix signal is obtained by a third linear transformation of the decorrelated signal. The third linear transform takes the channels of the decorrelated signal as an input and provides M channels as an output, and the wet upmix coefficients are coefficients that quantify this third linear transform.
Объединение «сухого» и «влажного» сигналов повышающего микширования может включать добавление аудиоданных из соответствующих каналов «сухого» сигнала повышающего микширования к аудиоданным соответствующих каналов «влажного» сигнала повышающего микширования, например, путем использования аддитивного микширования по образцам или по коэффициентам преобразования.Combining the dry and wet upmix signals may include adding audio data from the respective channels of the dry upmix signal to the audio data of the respective channels of the wet upmix signal, for example, by using additive mixing by samples or by transform coefficients.
Сигнализацию можно получить, например, вместе с сигналом понижающего микширования и/или параметрами повышающего микширования. Сигнал понижающего микширования, параметры повышающего микширования и сигнализацию можно, например, извлечь из битового потока.The signaling may be obtained, for example, together with the downmix signal and/or the upmix parameters. The downmix signal, upmix parameters, and signaling may, for example, be extracted from the bitstream.
В примере осуществления может присутствовать условие M = 5, т. е. М-канальный аудиосигнал может представлять собой пятиканальный аудиосигнал. Способ декодирования аудио в соответствии с настоящим примером осуществления можно использовать, например, для реконструкции пяти стандартных каналов в одном из актуальных установленных аудиоформатов 5.1 из двухканального сигнала понижающего микширования этих пяти каналов или для реконструкции пяти каналов на левой стороне или на правой стороне в 11.1-многоканальный аудиосигнал из двухканального сигнала понижающего микширования этих пяти каналов. В альтернативном варианте осуществления может присутствовать условие M = 4 или M ≥ 6.In an exemplary embodiment, the condition M = 5 may be present, i.e., the M -channel audio signal may be a five-channel audio signal. The audio decoding method according to the present embodiment can be used, for example, to reconstruct five standard channels in one of the currently established 5.1 audio formats from a two-channel downmix signal of these five channels, or to reconstruct five channels on the left side or right side into 11.1 multi-channel the audio signal from the two-channel downmix signal of these five channels. In an alternative embodiment, the condition M = 4 or M ≥ 6 may be present.
В примере осуществления каждый из входного сигнала декорреляции и декоррелированного сигнала может содержать M–2 каналов. В настоящем примере осуществления канал декоррелированного сигнала можно создать на основе не более одного канала входного сигнала декорреляции. Например, каждый канал декоррелированного сигнала можно создать на основе не более одного канала входного сигнала декорреляции, но разные каналы декоррелированного сигнала, например, можно создать на основе разных каналов входного сигнала декорреляции.In an exemplary embodiment, each of the decorrelation input and the decorrelated signal may contain M −2 channels. In the present embodiment, a decorrelated signal channel may be created based on at most one decorrelation input signal channel. For example, each decorrelated signal channel can be created based on at most one decorrelation input channel, but different decorrelated signal channels, for example, can be created based on different decorrelation input channels.
В настоящем примере осуществления преддекорреляционные коэффициенты могут определяться так, чтобы в каждом из форматов кодирования канал входного сигнала декорреляции получал вклад от не более одного канала сигнала понижающего микширования. Например, преддекорреляционные коэффициенты могут определяться так, чтобы в каждом из форматов кодирования каждый канал входного сигнала декорреляции совпадал с каналом сигнала понижающего микширования. Однако следует понимать, что по меньшей мере некоторые из каналов входного сигнала декорреляции могут совпадать, например, с разными каналами сигнала понижающего микширования в конкретном формате кодирования и/или в разных форматах кодирования.In the present exemplary embodiment, the pre-decrelation coefficients may be determined such that, in each of the coding formats, a decorrelation input signal channel receives a contribution from at most one downmix signal channel. For example, the pre-decrelation coefficients may be determined such that, in each of the coding formats, each channel of the decorrelation input signal matches a channel of the downmix signal. However, it should be understood that at least some of the channels of the decorrelation input signal may coincide with, for example, different channels of the downmix signal in a particular coding format and/or in different coding formats.
Поскольку в каждом конкретном формате кодирования два канала сигнала понижающего микширования представляют раздельные первую и вторую группы одного или более каналов, первую группу можно реконструировать из первого канала сигнала понижающего микширования с использованием, например, одного или более каналов декоррелированного сигнала, созданного на основе первого канала сигнала понижающего микширования, а вторую группу можно реконструировать из второго канала сигнала понижающего микширования с использованием, например, одного или более каналов декоррелированного сигнала, созданного на основе второго канала сигнала понижающего микширования В настоящем примере осуществления в каждом формате кодирования может не допускаться вклад от второй группы одного или более каналов в реконструированный вариант первой группы одного или более каналов посредством декоррелированного сигнала. Аналогично в каждом формате кодирования может не допускаться вклад от первой группы одного или более каналов в реконструированный вариант второй группы одного или более каналов посредством декоррелированного сигнала. Таким образом, в настоящем примере осуществления может быть предложено увеличение достоверности воспроизведения реконструированного М-канального аудиосигнала.Since, in a particular coding format, the two channels of the downmix signal represent separate first and second groups of one or more channels, the first group may be reconstructed from the first channel of the downmix signal using, for example, one or more channels of a decorrelated signal generated from the first channel of the signal. downmix signal, and the second group may be reconstructed from the second channel of the downmix signal using, for example, one or more channels of the decorrelated signal generated from the second channel of the downmix signal. In the present embodiment, each coding format may not allow contributions from the second group of one or more channels into a reconstructed version of the first group of one or more channels by means of a decorrelated signal. Likewise, in each coding format, contributions from a first group of one or more channels to a reconstructed version of a second group of one or more channels via a decorrelated signal may be prevented. Thus, in the present embodiment, an increase in the reproduction fidelity of the reconstructed M -channel audio signal can be proposed.
В примере осуществления преддекорреляционные коэффициенты могут определяться так, чтобы первый канал М-канального аудиосигнала вносил вклад в первый фиксированный канал входного сигнала декорреляции посредством сигнала понижающего микширования по меньшей мере в двух форматах кодирования. Другими словами, первый канал М-канального аудиосигнала может вносить вклад в один и тот же канал входного сигнала декорреляции посредством сигнала понижающего микширования в каждом из этих форматов кодирования. Следует понимать, что в настоящем примере осуществления в конкретном формате кодирования первый канал М-канального аудиосигнала может вносить вклад, например, в множество каналов входного сигнала декорреляции посредством сигнала понижающего микширования.In an exemplary embodiment, the pre-decrelation coefficients may be determined such that the first channel of the M -channel audio signal contributes to the first fixed channel of the decorrelation input signal via a downmix signal in at least two coding formats. In other words, the first channel of the M -channel audio signal may contribute to the same channel of the decorrelation input signal via the downmix signal in each of these coding formats. It should be understood that in the present embodiment, in a specific coding format, the first channel of the M -channel audio signal may contribute, for example, to a plurality of decorrelation input signal channels via a downmix signal.
В настоящем примере осуществления при переключении указанного формата кодирования между двумя форматами кодирования остается по меньшей мере часть первого фиксированного канала входного сигнала декорреляции. Это может обеспечивать более плавный и/или менее резкий переход между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала. В частности, авторы изобретения установили, что поскольку декоррелированный сигнал можно, например, создать на основе части сигнала понижающего микширования, соответствующей нескольким временным интервалам, во время которых в сигнале понижающего микширования может происходить переключение между форматами кодирования, в результате переключения между форматами кодирования в декоррелированном сигнале потенциально могут возникать различимые на слух искажения. Даже если в результате переключения между форматами кодирования осуществляется интерполяция «влажных» и «сухих» коэффициентов повышающего микширования, в реконструированном М-канальном аудиосигнале все равно могут оставаться искажения, появившиеся в декоррелированном сигнале. Обеспечение входного сигнала декорреляции в соответствии с настоящим примером осуществления позволяет подавлять такие искажения в декоррелированном сигнале, которые вызываются переключением между форматами кодирования, что может увеличивать качество воспроизведения реконструированного М-канального аудиосигнала.In the present exemplary embodiment, when switching said coding format between two coding formats, at least a portion of the first fixed channel of the decorrelation input signal remains. This may provide a smoother and/or less abrupt transition between coding formats for the listener's perception during playback of the reconstructed M -channel audio signal. In particular, the inventors have found that since a decorrelated signal can, for example, be created based on a part of the downmix signal corresponding to several time intervals during which switching between coding formats can occur in the downmix signal, as a result of switching between coding formats in the decorrelated audible distortion can potentially occur in the signal. Even if switching between coding formats interpolates wet and dry upmix coefficients, the reconstructed M -channel audio signal may still contain the distortion introduced in the decorrelated signal. Providing a decorrelation input signal according to the present embodiment can suppress such distortions in the decorrelated signal that are caused by switching between coding formats, which can improve the reproduction quality of the reconstructed M -channel audio signal.
В примере осуществления преддекорреляционные коэффициенты могут определяться так, чтобы второй канал М-канального аудиосигнала дополнительно вносил вклад во второй фиксированный канал входного сигнала декорреляции посредством сигнала понижающего микширования по меньшей мере в двух форматах кодирования. Другими словами, второй канал М-канального аудиосигнала вносит вклад в один и тот же канал входного сигнала декорреляции посредством сигнала понижающего микширования в каждом из этих форматов кодирования. В настоящем примере осуществления при переключении указанного формата кодирования между двумя форматами кодирования остается по меньшей мере часть второго фиксированного входного сигнала декорреляции. Таким образом, переход между форматами кодирования оказывает влияние только на один вход декоррелятора. Это может обеспечивать более плавный и/или менее резкий переход между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала.In an exemplary embodiment, the pre-decrelation coefficients may be determined such that the second channel of the M -channel audio signal further contributes to the second fixed channel of the decorrelation input signal via a downmix signal in at least two coding formats. In other words, the second channel of the M -channel audio signal contributes to the same channel of the decorrelation input signal via a downmix signal in each of these coding formats. In the present exemplary embodiment, switching said coding format between two coding formats leaves at least a portion of the second fixed decorrelation input signal. Thus, the transition between encoding formats affects only one input of the decorrelator. This may provide a smoother and/or less abrupt transition between coding formats for the listener's perception during playback of the reconstructed M -channel audio signal.
Первый и второй каналы М-канального аудиосигнала могут, например, отличаться друг от друга. Первый и второй фиксированные каналы входного сигнала декорреляции могут, например, отличаться друг от друга.The first and second channels of the M -channel audio signal may, for example, be different from each other. The first and second fixed channels of the decorrelation input signal may, for example, be different from each other.
В примере осуществления полученная сигнализация может указывать на выбранный один из по меньшей мере трех форматов кодирования, а преддекорреляционные коэффициенты могут определяться так, чтобы первый канал М-канального аудиосигнала вносил вклад в первый фиксированный канал входного сигнала декорреляции посредством сигнала понижающего микширования по меньшей мере в трех форматах кодирования. Другими словами, первый канал М-канального аудиосигнала вносит вклад в один и тот же канал входного сигнала декорреляции посредством сигнала понижающего микширования в этих трех форматах кодирования. В настоящем примере осуществления при переключении указанного формата кодирования между любыми из трех форматов кодирования остается по меньшей мере часть первого фиксированного канала входного сигнала декорреляции, что обеспечивает более плавный и/или менее резкий переход между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала.In an exemplary embodiment, the received signaling may indicate a selected one of at least three coding formats, and the pre-decrelation coefficients may be determined such that the first channel of the M -channel audio signal contributes to the first fixed channel of the decorrelation input signal via the downmix signal in at least three encoding formats. In other words, the first channel of the M -channel audio signal contributes to the same channel of the decorrelation input signal through the downmix signal in these three coding formats. In the present exemplary embodiment, when switching said coding format between any of the three coding formats, at least a portion of the first fixed channel of the decorrelation input signal remains, which provides a smoother and/or less abrupt transition between coding formats for the listener to perceive during playback of the reconstructed M -channel audio signal.
В примере осуществления преддекорреляционные коэффициенты могут определяться так, чтобы пара каналов М-канального аудиосигнала вносила вклад в третий фиксированный канал входного сигнала декорреляции посредством сигнала понижающего микширования по меньшей мере в двух форматах кодирования. Другими словами, пара каналов М-канального аудиосигнала вносит вклад в один и тот же канал входного сигнала декорреляции посредством сигнала понижающего микширования в каждом из этих форматов кодирования. В настоящем примере осуществления при переключении указанного формата кодирования между двумя форматами кодирования остается по меньшей мере часть третьего фиксированного канала входного сигнала декорреляции, что обеспечивает более плавный и/или менее резкий переход между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала.In an exemplary embodiment, the pre-decrelation coefficients may be determined such that a channel pair of the M -channel audio signal contributes to a third fixed channel of the decorrelation input signal via a downmix signal in at least two coding formats. In other words, a pair of channels of an M -channel audio signal contributes to the same channel of the decorrelation input signal via a downmix signal in each of these coding formats. In the present embodiment, switching said coding format between the two coding formats leaves at least a portion of the third fixed channel of the decorrelation input signal, providing a smoother and/or less abrupt transition between coding formats for the listener to experience during playback of the reconstructed M -channel audio signal.
Пара каналов может, например, отличаться от первого и второго каналов М-канального аудиосигнала. Третий фиксированный канал входного сигнала декорреляции может, например, отличаться от первого и второго фиксированных каналов входного сигнала декорреляции.The channel pair may, for example, be different from the first and second channels of the M -channel audio signal. The third fixed channel of the decorrelation input may, for example, be different from the first and second fixed channels of the decorrelation input.
В примере осуществления способ декодирования аудио может дополнительно включать выполнение постепенного перехода от значений преддекорреляционных коэффициентов, связанных с первым форматом кодирования, к значениям преддекорреляционных коэффициентов, связанных со вторым форматом кодирования, в ответ на определение факта переключения указанного формата кодирования с первого формата кодирования на второй формат кодирования. Использование постепенного перехода между значениями преддекорреляционных коэффициентов при переключении между форматами кодирования обеспечивает более плавный и/или менее резкий переход между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала. В частности, авторы изобретения установили, что поскольку декоррелированный сигнал можно, например, создать на основе части сигнала понижающего микширования, соответствующей нескольким временным интервалам, во время которых в сигнале понижающего микширования может происходить переключение между форматами кодирования, в результате переключения между форматами кодирования в декоррелированном сигнале потенциально могут возникать различимые на слух искажения. Даже если в результате переключения между форматами кодирования осуществляется интерполяция «влажных» и «сухих» коэффициентов повышающего микширования, в реконструированном М-канальном аудиосигнале все равно могут оставаться искажения, появившиеся в декоррелированном сигнале. Обеспечение входного сигнала декорреляции в соответствии с настоящим примером осуществления позволяет подавлять такие искажения в декоррелированном сигнале, которые вызываются переключением между форматами кодирования, что может увеличивать качество воспроизведения реконструированного М-канального аудиосигнала.In an exemplary embodiment, the audio decoding method may further include performing a gradual transition from pre-decoration coefficient values associated with the first coding format to pre-decoration coefficient values associated with the second coding format, in response to determining whether said coding format has switched from the first coding format to the second format. coding. The use of a gradual transition between the values of the pre-decoration coefficients when switching between coding formats provides a smoother and/or less abrupt transition between coding formats for the listener's perception during playback of the reconstructed M -channel audio signal. In particular, the inventors have found that since a decorrelated signal can, for example, be created based on a part of the downmix signal corresponding to several time intervals during which switching between coding formats can occur in the downmix signal, as a result of switching between coding formats in the decorrelated audible distortion can potentially occur in the signal. Even if switching between coding formats interpolates wet and dry upmix coefficients, the reconstructed M -channel audio signal may still contain the distortion introduced in the decorrelated signal. Providing a decorrelation input signal according to the present embodiment can suppress such distortions in the decorrelated signal that are caused by switching between coding formats, which can improve the reproduction quality of the reconstructed M -channel audio signal.
Постепенный переход может быть выполнен, например, посредством линейной или непрерывной интерполяции. Постепенный переход может быть выполнен, например, посредством интерполяции с ограниченной скоростью изменения.The gradual transition may be performed, for example, by linear or continuous interpolation. The gradual transition can be performed, for example, by interpolation with a limited rate of change.
В примере осуществления способ декодирования аудио может дополнительно включать выполнение интерполяции от значений «влажных» и «сухих» коэффициентов повышающего микширования, включая коэффициенты с нулевыми значениями, связанных с первым форматом кодирования, к значениям «влажных» и «сухих» коэффициентов повышающего микширования, также включая коэффициенты с нулевыми значениями, связанных со вторым форматом кодирования, в ответ на определение факта переключения указанного формата кодирования с первого формата кодирования на второй формат кодирования. Следует понимать, что каналы понижающего микширования соответствуют разным комбинациями каналов из изначально кодированного М-канального аудиосигнала, так что коэффициент повышающего микширования с нулевым значением в первом формате кодирования необязательно будет иметь нулевое значение и во втором формате кодирования, и наоборот. Предпочтительно коэффициенты повышающего микширования подвержены действию интерполяции, а не компактного представления коэффициентов, например описанного ниже представления.In an exemplary embodiment, the audio decoding method may further include interpolating from wet and dry upmix coefficient values, including coefficients with zero values, associated with the first coding format, to wet and dry upmix coefficient values, also including coefficients with zero values associated with the second coding format, in response to determining whether the specified coding format has switched from the first coding format to the second coding format. It should be understood that the downmix channels correspond to different combinations of channels from the originally encoded M -channel audio signal, so that an upmix factor with a value of zero in the first coding format will not necessarily have a value of zero in the second coding format, and vice versa. Preferably, the upmix coefficients are subject to interpolation rather than a compact representation of the coefficients, such as the representation described below.
Линейную или непрерывную интерполяцию между значениями коэффициентов повышающего микширования можно использовать, например, для обеспечения более плавного перехода между форматами кодирования для восприятия слушателем во время воспроизведения реконструированного М-канального аудиосигнала.Linear or continuous interpolation between the values of the upmix coefficients can be used, for example, to provide a smoother transition between coding formats for the listener's perception during playback of the reconstructed M -channel audio signal.
Интерполяция с большим градиентом, при которой в определенный момент времени, связанный с переключением между форматами кодирования, прежние значения коэффициентов повышающего микширования заменяются новыми значениями коэффициентов повышающего микширования, может, например, увеличивать достоверность воспроизведения реконструированного М-канального аудиосигнала, например, в случаях быстрого изменения аудиоданных М-канального аудиосигнала и переключения формата кодирования на стороне кодера в ответ на эти изменения для увеличения достоверности воспроизведения реконструированного М-канального аудиосигнала.Large gradient interpolation, in which at a certain point in time associated with switching between coding formats, the old values of the upmix coefficients are replaced by new values of the upmix coefficients, can, for example, increase the fidelity of the reconstructed M -channel audio signal, for example, in cases of rapid change audio data of the M -channel audio signal and switching the encoding format on the encoder side in response to these changes to increase the fidelity of the reconstructed M -channel audio signal.
В примере осуществления способ кодирования аудио может дополнительно включать получение сигнализации, указывающей на одну из множества интерполяционных схем, которую можно использовать для интерполяции «влажных» и «сухих» параметров повышающего микширования в рамках одного формата кодирования (т. е. при присвоении коэффициентам повышающего микширования новых значений в период времени, когда не происходит изменения формата кодирования), и использование указанной интерполяционной схемы. Сигнализацию, указывающую на одну из множества интерполяционных схем, можно получить, например, вместе с сигналом понижающего микширования и/или параметрами повышающего микширования. Предпочтительно интерполяционную схему, указанную сигнализацией, можно дополнительно использовать для перехода между форматами кодирования.In an exemplary embodiment, the audio coding method may further include deriving signaling indicative of one of a plurality of interpolation schemes that may be used to interpolate wet and dry upmix parameters within a single coding format (i.e., by assigning the upmix coefficients new values during the period of time when there is no change in the encoding format), and the use of the specified interpolation scheme. Signaling indicative of one of a plurality of interpolation schemes may be obtained, for example, together with the downmix signal and/or the upmix parameters. Preferably, the interpolation scheme indicated by the signaling can additionally be used to transition between coding formats.
На стороне кодера, где доступен М-канальный аудиосигнал, можно, например, выбрать интерполяционные схемы, особенно подходящие для фактических аудиоданных М-канального аудиосигнала. Например, линейную или непрерывную интерполяцию можно использовать в случаях, когда для общего впечатления о реконструированном М-канальном аудиосигнале важно обеспечить плавное переключение, а интерполяцию с большим градиентом, т. е. интерполяцию, при которой в определенный момент времени, связанный с переходом между форматами кодирования, прежние значения коэффициентов повышающего микширования заменяются новыми значениями коэффициентов повышающего микширования, можно использовать в случаях, когда для общего впечатления о реконструированном М-канальном аудиосигнале важно обеспечить быстрое переключение.On the encoder side where the M -channel audio signal is available, it is possible, for example, to select interpolation schemes particularly suitable for the actual audio data of the M -channel audio signal. For example, linear or continuous interpolation can be used in cases where it is important for the overall impression of the reconstructed M -channel audio signal to ensure smooth switching, and interpolation with a large gradient, i.e., interpolation in which at a certain point in time associated with the transition between formats coding, old values of the upmix coefficients are replaced by new values of the upmix coefficients, can be used in cases where fast switching is important for the overall impression of the reconstructed M -channel audio signal.
В примере осуществления по меньшей мере два формата кодирования могут включать первый формат кодирования и второй формат кодирования. Существует коэффициент усиления, контролирующий в каждом формате кодирования вклад от канала М-канального аудиосигнала в одну из линейных комбинаций, которой соответствуют каналы сигнала понижающего микширования. В настоящем примере осуществления коэффициент усиления в первом формате кодирования может совпадать с коэффициентом усиления во втором формате кодирования, который контролирует вклад от того же канала М-канального аудиосигнала.In an exemplary embodiment, the at least two coding formats may include a first coding format and a second coding format. There is a gain factor that controls, in each coding format, the contribution from a channel of the M -channel audio signal to one of the line patterns corresponding to the channels of the downmix signal. In the present embodiment, the gain in the first coding format may be the same as the gain in the second coding format that controls the contribution from the same channel of the M -channel audio signal.
Использование одних и тех же коэффициентов усиления в первом и втором форматах кодирования может, например, увеличивать сходство между объединенными аудиоданными каналов сигнала понижающего микширования в первом формате кодирования и объединенными аудиоданными каналов сигнала понижающего микширования во втором формате кодирования. Поскольку каналы сигнала понижающего микширования используются для реконструкции М-канального сигнала понижающего микширования, это может способствовать более плавным переходам между этими двумя форматами кодирования для восприятия слушателем.Using the same gain factors in the first and second coding formats can, for example, increase the similarity between the combined audio data of the downmix signal channels in the first coding format and the combined audio data of the downmix signal channels in the second coding format. Since the channels of the downmix signal are used to reconstruct the M -channel downmix signal, this can contribute to smoother transitions between the two coding formats for the listener's perception.
Использование одних и тех же коэффициентов усиления в первом и втором форматах кодирования может, например, способствовать увеличению сходства между аудиоданными первого и второго каналов соответственно сигнала понижающего микширования в первом формате кодирования и аудиоданными первого и второго каналов соответственно сигнала понижающего микширования во втором формате кодирования. Это может способствовать более плавным переходам между этими двумя форматами кодирования для восприятия слушателем.Using the same gain factors in the first and second coding formats can, for example, increase the similarity between the audio data of the first and second channels, respectively, of the downmix signal in the first coding format, and the audio data of the first and second channels, respectively, of the downmix signal in the second coding format. This may facilitate smoother transitions between the two encoding formats for the listener to perceive.
В настоящем примере осуществления для разных каналов М-канального аудиосигнала можно, например, использовать разные коэффициенты усиления. В первом примере значения всех коэффициентов усиления в первом и втором форматах кодирования могут составлять 1. В первом примере первый и второй каналы сигнала понижающего микширования могут соответствовать невзвешенным суммам первой и второй групп соответственно как в первом, так и во втором форматах кодирования. Во втором примере значения по меньшей мере некоторых коэффициентов усиления могут быть отличными от 1. Во втором примере первый и второй каналы сигнала понижающего микширования могут соответствовать взвешенным суммам первой и второй групп соответственно.In the present embodiment, different gain factors can be used for different channels of the M -channel audio signal, for example. In the first example, the values of all gain factors in the first and second coding formats may be 1. In the first example, the first and second channels of the downmix signal may correspond to the unweighted sums of the first and second groups, respectively, in both the first and second coding formats. In the second example, the values of at least some of the gain factors may be other than 1. In the second example, the first and second channels of the downmix signal may correspond to the weighted sums of the first and second groups, respectively.
В примере осуществления М-канальный аудиосигнал может содержать три канала, представляющих разные горизонтальные направления в среде воспроизведения для М-канального аудиосигнала, и два канала, представляющих направления, отделенные по вертикали от направлений вышеупомянутых трех каналов в среде воспроизведения. Другими словами, М-канальный аудиосигнал может содержать три канала, предназначенных для воспроизведения источниками звука, расположенными по существу на одной высоте со слушателем (или ушами слушателя) и/или распространяющими звук по существу горизонтально, и два канала, предназначенные для воспроизведения источниками звука, расположенными на другой высоте и/или распространяющими звук (по существу) негоризонтально. Два канала могут, например, представлять направления вверху.In an exemplary embodiment, the M -channel audio signal may comprise three channels representing different horizontal directions in the playback environment for the M -channel audio signal, and two channels representing directions that are vertically separated from the directions of the above three channels in the playback environment. In other words, an M -channel audio signal may comprise three channels intended to be reproduced by sound sources located substantially at the same height as the listener (or listener's ears) and/or propagating sound substantially horizontally, and two channels intended to be reproduced by sound sources located at a different height and/or propagating sound (substantially) non-horizontally. The two channels may, for example, represent directions from above.
В примере осуществления в первом формате кодирования вторая группа каналов может содержать два канала, представляющие направления, отделенные по вертикали от направлений вышеупомянутых трех каналов в среде воспроизведения. При наличии этих двух каналов во второй группе и использовании одного и того же канала сигнала понижающего микширования для представления этих двух каналов можно, например, увеличить достоверность воспроизведения реконструированного М-канального аудиосигнала в случаях, когда вертикальное измерение в среде воспроизведения важно для общего впечатления от М-канального аудиосигнала.In the exemplary embodiment, in the first coding format, the second channel group may comprise two channels representing directions vertically separated from the directions of the above three channels in the reproduction environment. By having these two channels in the second group, and using the same downmix signal channel to represent the two channels, it is possible, for example, to increase the fidelity of the reconstructed M -channel audio signal in cases where the vertical dimension in the playback environment is important to the overall M experience. - channel audio signal.
В примере осуществления в первом формате кодирования первая группа из одного или более каналов может содержать три канала, представляющих разные горизонтальные направления в среде воспроизведения М-канального аудиосигнала, а вторая группа из одного или более каналов может содержать два канала, представляющих направления, отделенные по вертикали от направлений вышеупомянутых трех каналов в среде воспроизведения. В настоящем примере осуществления первый формат кодирования позволяет представлять три канала посредством первого канала сигнала понижающего микширования и представлять два канала посредством второго канала сигнала понижающего микширования, в результате чего можно, например, увеличить достоверность воспроизведения реконструированного М-канального аудиосигнала в случаях, когда вертикальное измерение в среде воспроизведения важно для общего впечатления от М-канального аудиосигнала.In the exemplary embodiment, in the first coding format, the first group of one or more channels may comprise three channels representing different horizontal directions in an M -channel audio playback environment, and the second group of one or more channels may comprise two channels representing directions separated vertically. from the directions of the above three channels in the reproduction environment. In the present embodiment, the first coding format allows three channels to be represented by the first channel of the downmix signal and two channels to be represented by the second channel of the downmix signal, whereby, for example, the reproduction fidelity of the reconstructed M -channel audio signal can be increased in cases where the vertical dimension is in playback environment is important to the overall M -channel audio experience.
В примере осуществления во втором формате кодирования каждая из первой и второй группы может содержать один из двух каналов, представляющих направления, отделенные по вертикали от направлений вышеупомянутых трех каналов в среде воспроизведения М-канального аудиосигнала. При наличии этих двух каналов в разных группах и использовании разных каналов сигнала понижающего микширования для представления этих двух каналов можно, например, увеличить достоверность воспроизведения реконструированного М-канального аудиосигнала в случаях, когда вертикальное измерение в среде воспроизведения не столь важно для общего впечатления от М-канального аудиосигнала.In the exemplary embodiment, in the second coding format, each of the first and second groups may comprise one of two channels representing directions vertically separated from the directions of the above three channels in an M -channel audio reproduction environment. By having these two channels in different groups and using different channels of the downmix signal to represent the two channels, it is possible, for example, to increase the fidelity of the reconstructed M -channel audio signal in cases where the vertical dimension in the playback environment is not so important to the overall M-channel experience. channel audio.
В примере осуществления в формате кодирования, который в настоящей заявке называется конкретным форматом кодирования, первая группа из одного или более каналов может состоять из N каналов, где N ≥ 3. В настоящем примере осуществления, если указанный формат кодирования является конкретным форматом кодирования, преддекорреляционные коэффициенты могут определяться так, чтобы на основе первого канала сигнала понижающего микширования было создано N − 1 каналов декоррелированного сигнала; а «сухие» и «влажные» коэффициенты повышающего микширования могут определяться так, чтобы первая группа из одного или более каналов была реконструирована как линейное отображение первого канала сигнала понижающего микширования и N − 1 каналов декоррелированного сигнала, причем к первому каналу сигнала понижающего микширования применяют поднабор «сухих» коэффициентов повышающего микширования, а к N − 1 каналам декоррелированного сигнала применяют поднабор «влажных» коэффициентов повышающего микширования.In an exemplary embodiment, in a coding format referred to herein as a specific coding format, the first group of one or more channels may be composed of N channels, where N ≥ 3. In the present embodiment, if the specified coding format is a specific coding format, the pre-decorrelation coefficients may be determined such that, based on the first channel of the downmix signal, N − 1 channels of the decorrelated signal are generated; and the dry and wet upmix coefficients may be determined such that the first group of one or more channels is reconstructed as a linear mapping of the first channel of the downmix signal and N − 1 channels of the decorrelated signal, with a subset applied to the first channel of the downmix signal dry upmix coefficients, and a subset of wet upmix coefficients is applied to the N − 1 channels of the decorrelated signal.
Преддекорреляционные коэффициенты могут определяться, например, так, чтобы N − 1 каналов входного сигнала декорреляции совпадали с первым каналом сигнала понижающего микширования. N − 1 каналов декоррелированного сигнала можно создать, например, посредством обработки этих N − 1 каналов входного сигнала декорреляции.The pre-decrelation coefficients may be determined, for example, such that the N − 1 channels of the decorrelation input signal coincide with the first channel of the downmix signal. The N − 1 channels of the decorrelated signal can be created, for example, by processing these N − 1 channels of the decorrelation input signal.
Под реконструкцией первой группы одного или более каналов как линейного отображения первого канала сигнала понижающего микширования и N − 1 каналов декоррелированного сигнала понимается то, что реконструированный вариант первой группы одного или более каналов получают путем линейного преобразования первого канала сигнала понижающего микширования и N − 1 каналов декоррелированного сигнала. При этом линейном преобразовании N каналов берут в качестве входа и обеспечивают N каналов в качестве выхода, причем поднабор «сухих» коэффициентов повышающего микширования и поднабор «влажных» коэффициентов повышающего микширования вместе составляют коэффициенты, определяющие количественные характеристики этого линейного преобразования.By reconstructing the first group of one or more channels as a linear mapping of the first channel of the downmix signal and N − 1 channels of the decorrelated signal, it is understood that the reconstructed version of the first group of one or more channels is obtained by linearly transforming the first channel of the downmix signal and N − 1 channels of the decorrelated signal signal. This linear transformation takes N channels as an input and provides N channels as an output, with a subset of dry upmix coefficients and a subset of wet upmix coefficients together constituting the coefficients quantifying this linear transformation.
В примере осуществления полученные параметры повышающего микширования могут включать параметры повышающего микширования первого типа, называемые в настоящей заявке «влажными» параметрами повышающего микширования, и параметры повышающего микширования второго типа, называемые в настоящей заявке «сухими» параметрами повышающего микширования. В настоящем примере осуществления определение наборов «влажных» и «сухих» коэффициентов повышающего микширования в конкретном формате кодирования может включать определение поднабора «сухих» коэффициентов повышающего микширования на основе «сухих» параметров повышающего микширования; заполнение промежуточной матрицы, имеющей больше элементов, чем количество полученных «влажных» коэффициентов повышающего микширования, на основе полученных «влажных» коэффициентов повышающего микширования и наличия информации о том, что промежуточная матрица относится к классу заданных матриц; и получение поднабора «влажных» коэффициентов повышающего микширования путем умножения промежуточной матрицы на заданную матрицу, причем поднабор «влажных» коэффициентов повышающего микширования соответствует матрице, являющейся результатом умножения, и включает большее количество коэффициентов, чем количество элементов в промежуточной матрице.In an exemplary embodiment, the obtained upmix parameters may include first type upmix parameters, referred to herein as "wet" upmix parameters, and second type upmix parameters, referred to herein as "dry" upmix parameters. In the present embodiment, determining sets of wet and dry upmix coefficients in a particular coding format may include determining a subset of dry upmix coefficients based on the dry upmix parameters; populating an intermediate matrix having more elements than the number of obtained wet upmix coefficients based on the obtained wet upmix coefficients and knowing that the intermediate matrix belongs to a class of predetermined matrices; and obtaining a subset of wet upmix coefficients by multiplying the intermediate matrix by a predetermined matrix, wherein the subset of wet upmix coefficients corresponds to the matrix resulting from the multiplication and includes more coefficients than the number of elements in the intermediate matrix.
В настоящем примере осуществления количество «влажных» коэффициентов повышающего микширования в поднаборе «влажных» коэффициентов повышающего микширования больше количества полученных «влажных» параметров повышающего микширования. Использование информации о заданной матрице и классе заданных матриц для получения поднабора «влажных» коэффициентов повышающего микширования из полученных «влажных» параметров повышающего микширования позволяет уменьшить количество информации, необходимой для параметрической реконструкции первой группы из одного или более каналов, что позволяет уменьшить количество метаданных, передаваемых вместе с сигналом понижающего микширования со стороны кодера. Уменьшение количества данных, необходимых для параметрической реконструкции, позволяет уменьшить требуемую полосу пропускания для передачи параметрического представления М-канального аудиосигнала и/или требуемое пространство для хранения такого представления.In the present embodiment, the number of wet upmix coefficients in the subset of wet upmix coefficients is greater than the number of obtained wet upmix parameters. Using information about a given matrix and a class of given matrices to obtain a subset of wet upmix coefficients from the obtained wet upmix parameters can reduce the amount of information needed for parametric reconstruction of the first group from one or more channels, which can reduce the amount of metadata transmitted along with the downmix signal from the encoder side. Reducing the amount of data required for the parametric reconstruction makes it possible to reduce the required bandwidth for transmitting a parametric representation of an M -channel audio signal and/or the required storage space for such a representation.
Класс заданных матриц может быть связан с известными характеристиками по меньшей мере некоторых элементов матрицы, действительными для всех матриц в классе, такими как определенные взаимосвязи между некоторыми элементами матрицы или нулевые значения некоторых элементов матрицы. Наличие информации об этих характеристиках позволяет заполнять промежуточную матрицу на основе меньшего количества «влажных» параметров повышающего микширования по сравнению с полным количеством элементов матрицы в промежуточной матрице. На стороне кодера доступна информация по меньшей мере о характеристиках элементов, которые необходимы для вычисления всех элементов матрицы на основе меньшего количества «влажных» коэффициентов повышающего микширования, и о взаимосвязях между этими элементами.A class of given matrices may be associated with known characteristics of at least some of the matrix elements that are valid for all matrices in the class, such as certain relationships between some of the matrix elements or zero values of some of the matrix elements. Knowing these characteristics allows the intermediate matrix to be populated based on fewer wet upmix parameters compared to the total number of matrix elements in the intermediate matrix. On the encoder side, information is available at least on the characteristics of the elements that are needed to calculate all elements of the matrix based on a smaller number of wet upmix coefficients, and on the relationships between these elements.
Определение и использование заданной матрицы и класса заданных матриц более подробно описаны в предварительной заявке на патент США № 61/974,544 со строки 15 на странице 16 до строки 2 на странице 20; автор изобретения, чье имя указано первым: Lars Villemoes; дата подачи: 3 апреля 2014 г. В частности, в качестве примеров заданной матрицы см. выражение (9) в вышеупомянутом документе.The definition and use of a given matrix and class of given matrices are described in more detail in U.S. Provisional Application No. 61/974,544, line 15 on page 16 to line 2 on page 20; Inventor named first: Lars Villemoes; filing date: April 3, 2014. In particular, see expression (9) in the aforementioned document as examples of a given matrix.
В примере осуществления полученные параметры повышающего микширования могут включать N(N − 1)/2 «влажных» параметров повышающего микширования. В настоящем примере осуществления заполнение промежуточной матрицы может включать получение значений для (N − 1)2 элементов матрицы на основе полученных N(N − 1)/2 «влажных» параметров повышающего микширования и наличия информации о принадлежности промежуточной матрицы к классу заданных матриц. Это может включать ввод значений «влажных» параметров повышающего микширования сразу как элементов матрицы или обработку «влажных» параметров повышающего микширования подходящим образом с целью получения значений для элементов матрицы. В настоящем примере осуществления заданная матрица может включать N(N − 1) элементов, а поднабор «влажных» параметров повышающего микширования может включать N(N − 1) коэффициентов. Например, полученные параметры повышающего микширования могут включать не более N(N − 1)/2 независимо присваиваемых «влажных» параметров повышающего микширования, и/или количество «влажных» параметров повышающего микширования может быть не больше половины количества «влажных» параметров повышающего микширования в поднаборе «влажных» параметров повышающего микширования.In an exemplary embodiment, the resulting upmix parameters may include N(N − 1)/2 wet upmix parameters. In the present embodiment, populating the intermediate matrix may include deriving values for (N − 1) 2 matrix elements based on the N(N − 1)/2 obtained wet upmix parameters and knowing whether the intermediate matrix belongs to the class of given matrices. This may include entering wet upmix parameter values directly as matrix elements, or processing the wet upmix parameters appropriately to obtain values for matrix elements. In the present exemplary embodiment, the given matrix may include N(N − 1) elements, and the subset of wet upmix parameters may include N(N − 1) coefficients. For example, the resulting upmix parameters may include no more than N(N − 1)/2 independently assigned wet upmix parameters, and/or the number of wet upmix parameters may be no more than half the number of wet upmix parameters in a subset of wet upmix parameters.
В примере осуществления полученные параметры повышающего микширования могут включать (N − 1) «сухих» параметров повышающего микширования. В настоящем примере осуществления поднабор «сухих» параметров повышающего микширования может включать N коэффициентов, и поднабор «сухих» параметров повышающего микширования может определяться на основе полученных (N − 1) «сухих» параметров повышающего микширования и на основе заданной взаимосвязи между коэффициентами в поднаборе «сухих» параметров повышающего микширования. Например, полученные параметры повышающего микширования могут включать не более (N − 1) независимо присваиваемых «сухих» параметров повышающего микширования.In an exemplary embodiment, the obtained upmix parameters may include (N − 1) dry upmix parameters. In the present embodiment, the subset of dry upmix parameters may include N coefficients, and the subset of dry upmix parameters may be determined based on the obtained (N − 1) dry upmix parameters and based on a predetermined relationship between the coefficients in the subset dry” upmix parameters. For example, the resulting upmix parameters may include no more than (N − 1) independently assigned "dry" upmix parameters.
В примере осуществления класс заданных матриц может представлять собой один вариант верхних или нижних треугольных матриц, причем известные характеристики всех матриц в классе включают нулевые элементы заданной матрицы; симметричных матриц, причем известные характеристики всех матриц в классе включают равные элементы заданной матрицы (с обеих сторон главной диагонали); и произведения ортогональной матрицы и диагональной матрицы, причем известные характеристики всех матриц в классе включают известные взаимосвязи между элементами заданной матрицы. Другими словами, класс заданных матриц может быть классом нижних треугольных матриц, классом верхних треугольных матриц, классом симметричных матриц или классом произведений ортогональной матрицы и диагональной матрицы. Общим свойством для каждого из вышеупомянутых классов является то, что их размерность меньше полного количества элементов матрицы.In an exemplary implementation, a class of given matrices may be one variant of upper or lower triangular matrices, where the known characteristics of all matrices in the class include zero elements of the given matrix; symmetric matrices, and the known characteristics of all matrices in the class include equal elements of a given matrix (on both sides of the main diagonal); and products of an orthogonal matrix and a diagonal matrix, wherein the known characteristics of all matrices in the class include known relationships between the elements of a given matrix. In other words, the class of given matrices can be the class of lower triangular matrices, the class of upper triangular matrices, the class of symmetric matrices, or the class of products of an orthogonal matrix and a diagonal matrix. A common property for each of the above classes is that their dimension is less than the total number of matrix elements.
В примере осуществления заданная матрица и/или класс заданных матриц могут быть связаны с указанным форматом кодирования, за счет чего, например, обеспечивается возможность соответствующей адаптации определения набора «влажных» параметров повышающего микширования в рамках способа декодирования.In an exemplary embodiment, a given matrix and/or a class of given matrices can be associated with a given coding format, whereby, for example, the definition of the set of wet upmix parameters within the decoding method can be appropriately adapted.
В соответствии с примерами осуществления предложен способ декодирования аудио, включающий получение сигнализации, указывающей на одну из по меньшей мере двух заданных конфигураций каналов; осуществление любого из способов декодирования аудио в соответствии с первым аспектом в ответ на обнаружение полученной сигнализации, указывающей на первую заданную конфигурацию каналов. Способ декодирования аудио в ответ на обнаружение полученной сигнализации, указывающей на вторую заданную конфигурацию каналов, может включать получение двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования; выполнение параметрической реконструкции первого трехканального аудиосигнала на основе первого канала сигнала понижающего микширования и по меньшей мере некоторых из параметров повышающего микширования; и выполнение параметрической реконструкции второго трехканального аудиосигнала на основе второго канала сигнала понижающего микширования и по меньшей мере некоторых из параметров повышающего микширования.In accordance with the exemplary embodiments, a method for decoding audio is provided, including receiving a signaling indicative of one of at least two given channel patterns; performing any of the audio decoding methods according to the first aspect in response to detecting received signaling indicative of the first predetermined channel pattern. A method for decoding audio in response to detecting received signaling indicative of a second predetermined channel pattern may include obtaining a two-channel downmix signal and associated upmix parameters; performing parametric reconstruction of the first three-channel audio signal based on the first channel of the downmix signal and at least some of the upmix parameters; and performing parametric reconstruction of the second three-channel audio signal based on the second channel of the downmix signal and at least some of the upmix parameters.
Первая заданная конфигурация каналов может соответствовать М-канальному аудиосигналу, представленному полученным двухканальным сигналом понижающего микширования и ассоциированными параметрами повышающего микширования. Вторая заданная конфигурация каналов может соответствовать первому и второму трехканальным аудиосигналам, представленным первым и вторым каналами полученного сигнала понижающего микширования соответственно и ассоциированными параметрами повышающего микширования.The first given channel configuration may correspond to an M -channel audio signal represented by the received two-channel downmix signal and associated upmix parameters. The second predetermined channel pattern may correspond to the first and second three-channel audio signals represented by the first and second channels of the received downmix signal, respectively, and the associated upmix parameters.
Возможность получения сигнализации, указывающей на одну из по меньшей мере двух заданных конфигураций каналов, и выполнения параметрической реконструкции на основе указанной конфигурации каналов может обеспечить использование общего формата для машиночитаемого носителя, содержащего параметрическое представление или М-канального аудиосигнала, или двух трехканальных аудиосигналов, со стороны кодера на стороне декодера.The ability to obtain signaling indicative of one of at least two given channel patterns and perform parametric reconstruction based on said channel pattern can provide a common format for a computer-readable medium containing a parametric representation of either an M -channel audio signal or two three-channel audio signals, from the side encoder on the decoder side.
В соответствии с примерами осуществления предложена система декодирования аудио, содержащая секцию декодирования, выполненную с возможностью реконструкции М-канального аудиосигнала на основе двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования, причем M ≥ 4. Система декодирования аудио содержит секцию управления, выполненную с возможностью получения сигнализации, указывающей на выбранный формат из по меньшей мере двух форматов кодирования М-канального аудиосигнала. Форматы кодирования сопоставлены с соответствующими различными разделениями каналов М-канального аудиосигнала на соответствующие первую и вторую группы одного или более каналов. В указанном формате кодирования первый канал сигнала понижающего микширования соответствует линейной комбинации первой группы одного или более каналов М-канального аудиосигнала, а второй канал сигнала понижающего микширования соответствует линейной комбинации второй группы одного или более каналов М-канального аудиосигнала. Секция декодирования содержит секцию преддекорреляции, выполненную с возможностью определения набора преддекорреляционных коэффициентов на основе указанного формата кодирования и вычисления входного сигнала декорреляции как линейного отображения сигнала понижающего микширования, причем к сигналу понижающего микширования применяют набор преддекорреляционных коэффициентов; и секцию декорреляции, выполненную с возможностью создания декоррелированного сигнала на основе входного сигнала декорреляции. Секция декодирования содержит секцию микширования, выполненную с возможностью определения наборов «влажных» и «сухих» коэффициентов повышающего микширования на основе полученных параметров повышающего микширования и указанного формата кодирования; вычисления «сухого» сигнала повышающего микширования как линейного отображения сигнала понижающего микширования, причем к сигналу понижающего микширования применяют набор «сухих» коэффициентов повышающего микширования; вычисления «влажного» сигнала повышающего микширования как линейного отображения декоррелированного сигнала, причем к декоррелированному сигналу применяют набор «влажных» коэффициентов повышающего микширования; и сочетания «сухого» и «влажного» сигналов повышающего микширования для получения многомерного реконструированного сигнала, соответствующего подлежащему реконструкции М-канальному аудиосигналу.According to exemplary embodiments, an audio decoding system is provided comprising a decoding section configured to reconstruct an M -channel audio signal based on a two-channel downmix signal and associated upmix parameters, with M ≥ 4. The audio decoding system comprises a control section configured to obtain signaling indicating a selected format from at least two M -channel audio coding formats. The coding formats are mapped to respective different channelizations of the M -channel audio signal into respective first and second groups of one or more channels. In this coding format, the first channel of the downmix signal corresponds to a linear combination of the first group of one or more channels of the M -channel audio signal, and the second channel of the downmix signal corresponds to the linear combination of the second group of one or more channels of the M -channel audio signal. The decoding section comprises a pre-decorrelation section configured to determine a set of pre-decorrelation coefficients based on a specified coding format and calculate an input decorrelation signal as a linear display of the downmix signal, wherein the set of pre-decorrelation coefficients is applied to the downmix signal; and a decorrelation section configured to generate a decorrelated signal based on the input decorrelation signal. The decoding section comprises a mixing section configured to determine sets of wet and dry upmix coefficients based on the obtained upmix parameters and a specified coding format; calculating the dry upmix signal as a linear display of the downmix signal, wherein a set of dry upmix coefficients is applied to the downmix signal; calculating the wet upmix signal as a linear display of the decorrelated signal, wherein a set of wet upmix coefficients is applied to the decorrelated signal; and combining dry and wet upmix signals to obtain a multi-dimensional reconstructed signal corresponding to the M -channel audio signal to be reconstructed.
В примере осуществления система декодирования аудио может дополнительно содержать дополнительную секцию декодирования, выполненную с возможностью реконструкции дополнительного М-канального аудиосигнала на основе дополнительного двухканального сигнала понижающего микширования и ассоциированных дополнительных параметров повышающего микширования. Система управления может быть выполнена с возможностью получения сигнализации, указывающей на выбранный формат из по меньшей мере двух форматов кодирования дополнительного М-канального аудиосигнала. Форматы кодирования дополнительного М-канального аудиосигнала могут быть сопоставлены с соответствующими различными разделениями каналов дополнительного М-канального аудиосигнала на соответствующие первую и вторую группы одного или более каналов. В указанном формате кодирования дополнительного М-канального аудиосигнала первый канал дополнительного сигнала понижающего микширования может соответствовать линейной комбинации первой группы одного или более каналов дополнительного М-канального аудиосигнала, а второй канал дополнительного сигнала понижающего микширования может соответствовать линейной комбинации второй группы одного или более каналов дополнительного М-канального аудиосигнала. Дополнительная секция декодирования может содержать дополнительную секцию преддекорреляции, выполненную с возможностью определения дополнительного набора преддекорреляционных коэффициентов на основе указанного формата кодирования дополнительного М-канального аудиосигнала и вычисления дополнительного входного сигнала декорреляции как линейного отображения дополнительного сигнала понижающего микширования, причем к дополнительному сигналу понижающего микширования применяют дополнительный набор преддекорреляционных коэффициентов; и дополнительную секцию декорреляции, выполненную с возможностью создания дополнительного декоррелированного сигнала на основе дополнительного входного сигнала декорреляции. Дополнительная секция декодирования может дополнительно содержать дополнительную секцию микширования, выполненную с возможностью определения дополнительных наборов «влажных» и «сухих» коэффициентов повышающего микширования на основе полученных дополнительных параметров повышающего микширования и указанного формата кодирования дополнительного М-канального аудиосигнала; вычисления дополнительного «сухого» сигнала повышающего микширования как линейного отображения дополнительного сигнала понижающего микширования, при этом к дополнительному сигналу понижающего микширования применяют дополнительный набор «сухих» коэффициентов повышающего микширования; вычисления дополнительного «влажного» сигнала повышающего микширования как линейного отображения дополнительного декоррелированного сигнала, при этом к дополнительному декоррелированному сигналу применяют дополнительный набор «влажных» коэффициентов повышающего микширования; и сочетания дополнительных «сухого» и «влажного» сигналов повышающего микширования для получения дополнительного многомерного реконструированного сигнала, соответствующего подлежащему реконструкции дополнительному М-канальному аудиосигналу.In an exemplary embodiment, the audio decoding system may further comprise an additional decoding section configured to reconstruct the additional M -channel audio signal based on the additional two-channel downmix signal and the associated additional upmix parameters. The control system may be configured to receive signaling indicative of a selected format from at least two additional M -channel audio coding formats. The coding formats of the additional M -channel audio signal may be mapped to respective different channelizations of the additional M -channel audio signal into respective first and second groups of one or more channels. In this coding format of the additional M -channel audio signal, the first channel of the additional downmix signal may correspond to a linear combination of the first group of one or more channels of the additional M -channel audio signal, and the second channel of the additional downmix signal may correspond to a linear combination of the second group of one or more channels of the additional M - channel audio signal. The additional decoding section may comprise an additional pre-decorrelation section configured to determine an additional set of pre-decoration coefficients based on the specified coding format of the additional M -channel audio signal and calculate the additional decorrelation input as a linear mapping of the additional downmix signal, wherein the additional set is applied to the additional downmix signal. pre-decoration coefficients; and an additional decorrelation section configured to generate an additional decorrelated signal based on the additional decorrelation input signal. The additional decoding section may further comprise an additional mixing section configured to determine additional sets of wet and dry upmix coefficients based on the additional upmix parameters obtained and the specified additional M -channel audio coding format; calculating the additional dry upmix signal as a linear mapping of the additional downmix signal, wherein an additional set of dry upmix coefficients is applied to the additional downmix signal; calculating the additional wet upmix signal as a linear mapping of the additional decorrelated signal, wherein an additional set of wet upmix coefficients is applied to the additional decorrelated signal; and combining the additional dry and wet upmix signals to obtain an additional multi-dimensional reconstructed signal corresponding to the additional M -channel audio signal to be reconstructed.
В настоящем примере осуществления дополнительная секция декодирования, дополнительная секция преддекорреляции, дополнительная секция декорреляции и дополнительная секция микширования могут быть выполнены, например, с возможностью функционирования независимо от секции декодирования, секции преддекорреляции, секции декорреляции и секции микширования.In the present embodiment, the additional decoding section, the additional pre-decorrelation section, the additional decorrelation section, and the additional mixing section may be configured to operate independently of the decoding section, the pre-decorrelation section, the decorrelation section, and the mixing section, for example.
В настоящем примере осуществления дополнительная секция декодирования, дополнительная секция преддекорреляции, дополнительная секция декорреляции и дополнительная секция микширования могут быть, например, функционально эквивалентными секции декодирования, секции преддекорреляции, секции декорреляции и секции микширования соответственно (или выполненными по аналогии с ними). В альтернативном варианте осуществления по меньшей мере одна из дополнительной секции декодирования, дополнительной секции преддекорреляции, дополнительной секции декорреляции и дополнительной секции микширования могут быть выполнены, например, с возможностью осуществления по меньшей мере одного типа интерполяции, отличающегося от осуществляемого секцией декодирования, секцией преддекорреляции, секцией декорреляции и секцией микширования.In the present embodiment, the additional decoding section, the additional pre-decorrelation section, the additional decorrelation section, and the additional mixing section may be, for example, functionally equivalent to the decoding section, the pre-decorrelation section, the decorrelation section, and the mixing section, respectively (or similar). In an alternative embodiment, at least one of the additional decoding section, the additional pre-decorrelation section, the additional decorrelation section, and the additional mixing section can be performed, for example, with the possibility of performing at least one type of interpolation different from that performed by the decoding section, the pre-decorrelation section, the section decorrelation and mixing section.
Например, полученная сигнализация может указывать на разные форматы кодирования для М-канального аудиосигнала и дополнительного М-канального аудиосигнала. В альтернативном варианте осуществления форматы кодирования М-канальных аудиосигналов могут, например, всегда совпадать, а полученная сигнализация может указывать на выбранный формат из по меньшей мере двух общих форматов кодирования для двух М-канальных аудиосигналов.For example, the received signaling may indicate different coding formats for the M -channel audio signal and the additional M -channel audio signal. In an alternative embodiment, the coding formats of the M -channel audio signals may, for example, always match, and the received signaling may indicate a selected format from at least two common coding formats for the two M -channel audio signals.
Интерполяционные схемы, используемые для постепенных переходов между преддекорреляционными коэффициентами в ответ на переключение между форматами кодирования М-канального аудиосигнала, могут совпадать с интерполяционными схемами, используемыми для постепенных переходов между дополнительными преддекорреляционными коэффициентами в ответ на переключение между форматами кодирования дополнительного М-канального аудиосигнала, или могут отличаться от этих схем.The interpolation schemes used for fading between pre-decoration coefficients in response to switching between M -channel audio coding formats may be the same as the interpolation schemes used for fading between additional pre-decorrelation coefficients in response to switching between additional M -channel audio coding formats, or may differ from these schemes.
Аналогично интерполяционные схемы, используемые для интерполяции значений «влажных» и «сухих» коэффициентов повышающего микширования в ответ на переключение между форматами кодирования М-канального аудиосигнала, могут совпадать с интерполяционными схемами, используемыми для интерполяции значений дополнительных «влажных» и «сухих» коэффициентов повышающего микширования в ответ на переключение между форматами кодирования дополнительного М-канального аудиосигнала, или могут отличаться от этих схем.Similarly, the interpolation schemes used to interpolate the wet and dry upmix coefficient values in response to switching between M -channel audio coding formats may be the same as the interpolation schemes used to interpolate the additional wet and dry upmix coefficient values. mixing in response to switching between additional M -channel audio coding formats, or may differ from these schemes.
В примере осуществления система декодирования аудио может дополнительно содержать демультиплексор, выполненный с возможностью извлечения из битового потока сигнала понижающего микширования, параметров повышающего микширования, ассоциированных с сигналом понижающего микширования, и дискретно-кодированного аудиоканала. Система декодирования может дополнительно содержать одноканальную секцию декодирования, выполненную с возможностью декодирования дискретно-кодированного аудиоканала. Дискретно-кодированный аудиоканал может быть, например, кодированным в битовом потоке при помощи перцептуального аудиокодека, такого как Dolby Digital, MPEG AAC или их производных, а одноканальная секция декодирования может содержать, например, базовый декодер для декодирования дискретно-кодированного аудиоканала. Одноканальная секция декодирования может быть, например, выполнена с возможностью декодирования дискретно-кодированного аудиоканала независимо от секции декодирования.In an exemplary embodiment, the audio decoding system may further comprise a demultiplexer configured to extract from the bitstream of the downmix signal, the upmix parameters associated with the downmix signal, and the discretely encoded audio channel. The decoding system may further comprise a single-channel decoding section configured to decode the discretely encoded audio channel. The discretely encoded audio channel may be, for example, bitstream encoded with a perceptual audio codec such as Dolby Digital, MPEG AAC, or derivatives thereof, and the single-channel decoding section may comprise, for example, a core decoder for decoding the discretely encoded audio channel. The single-channel decoding section may, for example, be configured to decode the discrete-coded audio channel independently of the decoding section.
В соответствии с примерами осуществления предложен компьютерный программный продукт, содержащий машиночитаемый носитель с командами, для осуществления любого из способов по первому аспекту.In accordance with the exemplary embodiments, a computer program product is provided, comprising a computer-readable medium with instructions for carrying out any of the methods of the first aspect.
II. Обзор. Сторона кодераII. Review. encoder side
В соответствии со вторым аспектом в примерах осуществления предложены системы кодирования аудио, а также способы кодирования аудио и ассоциированные компьютерные программные продукты. Предлагаемые системы кодирования, способы и компьютерные программные продукты в соответствии со вторым аспектом могут по существу иметь одни и те же общие возможности и преимущества. Более того, представленные выше преимущества для признаков систем кодирования, способов и компьютерных программных продуктов в соответствии с первым аспектом могут быть по существу действительными и для соответствующих признаков систем кодирования, способов и компьютерных программных продуктов в соответствии со вторым аспектом.According to a second aspect, the exemplary embodiments provide audio coding systems as well as audio coding methods and associated computer software products. The proposed coding systems, methods, and computer program products according to the second aspect may have essentially the same general features and benefits. Moreover, the advantages presented above for the features of the coding systems, methods, and computer program products according to the first aspect may be substantially valid for the corresponding features of the coding systems, methods, and computer program products according to the second aspect.
В соответствии с примерами осуществления предложен способ кодирования аудио, включающий получение М-канального аудиосигнала, для которого M ≥ 4. Способ кодирования аудио включает повторяющийся выбор одного формата из по меньшей мере двух форматов кодирования на основе любого подходящего критерия выбора, например характеристик сигнала, загрузки системы, предпочтений пользователя, условий сети. Выбор можно повторять один раз для каждого временного интервала аудиосигнала или один раз для каждого n-го временного интервала, что может привести к выбору другого формата по сравнению с изначально выбранным; в альтернативном варианте осуществления выбор может управляться событиями. Форматы кодирования сопоставлены с соответствующими различными разделениями каналов М-канального аудиосигнала на соответствующие первую и вторую группы одного или более каналов. В каждом из форматов кодирования двухканальный сигнал понижающего микширования включает первый канал, образованный в виде линейной комбинации первой группы одного или более каналов М-канального аудиосигнала, и второй канал, образованный в виде линейной комбинации второй группы одного или более каналов М-канального аудиосигнала. Для выбранного формата кодирования канал понижающего микширования вычисляют на основе М-канального аудиосигнала. После вычисления сигнала понижающего микширования выбранного в данный момент формата кодирования осуществляют вывод сигнализации, указывающей выбранный в данный момент формат кодирования, и дополнительной информации, в результате чего обеспечивается возможность параметрической реконструкции М-канального аудиосигнала. Если выбор приводит к переключению первого выбранного формата кодирования на второй (отличающийся) выбранный формат кодирования, может быть запущен переход, в результате чего осуществляют вывод плавного перехода сигнала понижающего микширования в соответствии с первым выбранным форматом кодирования и сигнала понижающего микширования в соответствии со вторым выбранным форматом кодирования. В данном случае плавный переход может представлять собой линейную или нелинейную интерполяцию двух сигналов. Например, выражениеAccording to exemplary embodiments, an audio coding method is provided, including obtaining an M -channel audio signal for which M ≥ 4. The audio coding method includes repeatedly selecting one format from at least two coding formats based on any suitable selection criteria, such as signal characteristics, loading system, user preferences, network conditions. The selection may be repeated once for each time slot of the audio signal, or once for every nth time slot, which may result in a different format being selected than originally selected; in an alternative embodiment, the selection may be event driven. The coding formats are mapped to respective different channelizations of the M -channel audio signal into respective first and second groups of one or more channels. In each of the coding formats, the two-channel downmix signal includes a first channel formed as a linear combination of the first group of one or more channels of the M -channel audio signal, and a second channel formed as a linear combination of the second group of one or more channels of the M -channel audio signal. For the selected coding format, the downmix channel is calculated based on the M -channel audio signal. After the downmix signal of the currently selected coding format is calculated, a signaling indicating the currently selected coding format and additional information is output, thereby allowing parametric reconstruction of the M -channel audio signal. If the selection results in switching the first selected coding format to a second (different) selected coding format, a transition can be triggered, resulting in a smooth transition output of the downmix signal according to the first selected coding format and the downmix signal according to the second selected format. coding. In this case, the smooth transition may be a linear or non-linear interpolation of the two signals. For example, the expression
y(t) = tx1(t) + (1 − t)x2(t), t ∈ [0,1]y(t) = tx 1 (t) + (1 − t)x 2 (t), t ∈ [0,1]
обеспечивает плавный переход y от функции x2 к функции x1 с линейной зависимостью от времени, причем x1, x2 могут представлять собой векторнозначные функции времени, представляющие сигналы понижающего микширования в соответствии с соответствующими форматами кодирования. Для упрощения изображения масштаб временного интервала, на котором осуществляется плавный переход, был изменен на [0, 1], где t = 0 представляет начало плавного перехода, а t = 1 представляет момент времени, когда плавный переход завершен.provides a smooth transition y from function x 2 to function x 1 with a linear dependence on time, and x 1 , x 2 can be vector-valued functions of time representing the downmix signals in accordance with the respective coding formats. To simplify the display, the time interval over which the fade occurs has been scaled to [0, 1], where t = 0 represents the start of the fade and t = 1 represents the point in time when the fade is completed.
Местоположение моментов t = 0 и t = 1 в физических единицах может быть важно для воспринимаемого выходного качества реконструированного аудио. В качестве рекомендации по расположению плавного перехода: его начало может находиться как можно раньше после определения необходимости изменения формата, и/или завершение плавного перехода может происходить за максимально возможно короткое время, чтобы это было незаметно для восприятия. Таким образом, для вариантов реализации, в которых выбор формата кодирования повторяют в каждый временной интервал, в соответствии с некоторыми примерами осуществления плавный переход начинают (t = 0) в начале временного интервала, а точку завершения плавного перехода (t = 1) располагают как можно ближе, но при этом достаточно далеко так, чтобы среднестатистический слушатель не смог различить искажения или ухудшения из-за перехода между двумя реконструкциями общего М-канального аудиосигнала (с обычным содержимым) на основе двух отличающихся форматов кодирования. В одном примере осуществления сигнал понижающего микширования, выводимый в рамках способа кодирования аудио, сегментируют на временные интервалы, и плавный переход может занимать один интервал. В другом примере осуществления сигнал понижающего микширования, выводимый в рамках способа кодирования аудио, сегментируют на перекрывающиеся временные интервалы, и длительность плавного перехода соответствует шагу от одного временного интервала до другого.The location of times t = 0 and t = 1 in physical units can be important to the perceived output quality of the reconstructed audio. As a guideline for the location of the fade, it can start as early as possible after the need to change the format is determined, and/or finish the fade as soon as possible so that it is imperceptible to perception. Thus, for implementations in which the choice of coding format is repeated every time interval, according to some embodiments, the soft transition is started (t = 0) at the beginning of the time interval, and the end point of the soft transition (t = 1) is located as far as possible. closer, yet far enough away that the average listener cannot discern distortion or degradation due to the transition between two reconstructions of a common M -channel audio signal (with normal content) based on two different coding formats. In one embodiment, the downmix signal output from the audio coding method is segmented into time slots, and the fade may span one slot. In another embodiment, the downmix signal output from the audio coding method is segmented into overlapping time slots, and the duration of the fade corresponds to a step from one time slot to another.
В примерах осуществления сигнализация, указывающая на выбранный в данный момент формат кодирования, может быть кодирована на основе следующих друг за другом временных интервалов. В альтернативном варианте осуществления сигнализация может быть дифференцирована по времени в том смысле, что такую сигнализацию можно не активировать на одном или более последовательных временных интервалах, если не происходит изменения выбранного формата кодирования. На стороне декодера такая последовательность временных интервалов может быть интерпретирована так, что выбранным остается самый недавний сигнализируемый формат кодирования.In exemplary embodiments, signaling indicative of the currently selected coding format may be encoded based on consecutive time slots. In an alternative embodiment, the signaling may be time-differentiated in the sense that such signaling may not be activated for one or more consecutive time slots unless the selected coding format changes. At the decoder side, such a sequence of slots can be interpreted such that the most recently signaled coding format remains selected.
В зависимости от аудиоданных М-канального аудиосигнала для захвата и эффективного кодирования М-канального аудиосигнала и сохранения достоверности при реконструкции этого сигнала из сигнала понижающего микширования и ассоциированных параметров повышающего микширования могут подходить различные разделения каналов М-канального аудиосигнала на первую и вторую группы, представленные соответствующими каналами сигнала понижающего микширования. Следовательно, достоверность реконструированного М-канального аудиосигнала можно повысить путем выбора подходящего формата кодирования, а именно — лучше всего подходящего из числа заданных форматов кодирования.Depending on the audio data of the M -channel audio signal, various divisions of the channels of the M -channel audio signal into first and second groups, represented by the corresponding downmix signal channels. Therefore, the reliability of the reconstructed M -channel audio signal can be improved by selecting an appropriate coding format, namely the best fit among the given coding formats.
В примере осуществления дополнительная информация включает «сухие» и «влажные» коэффициенты повышающего микширования в том же смысле, как эти термины были употреблены в настоящей заявке выше. Если речь не идет о задачах особой реализации, обычно достаточно вычислить дополнительную информацию (в частности, «сухие» и «влажные» коэффициенты повышающего микширования) для выбранного в данный момент формата кодирования. В частности, набор «сухих» коэффициентов повышающего микширования (которые могут быть представлены в виде матрицы размерностью M × 2) может задавать линейное отображение соответствующего сигнала понижающего микширования, аппроксимирующего М-канальный аудиосигнал. Набор «влажных» коэффициентов повышающего микширования (которые могут быть представлены в виде матрицы размерностью M × P, где количество декорреляторов P может составлять P = M − 2) определяет линейное отображение декоррелированного сигнала, так что ковариация сигнала, полученного путем указанного линейного отображения декоррелированного сигнала, дополняет ковариацию М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования выбранного формата кодирования. Отображение декоррелированного сигнала, который определяется набором «влажных» коэффициентов повышающего микширования, дополнит ковариацию М-канального (аппроксимированного) аудиосигнала в том смысле, что ковариация суммы М-канального аудиосигнала и отображения декоррелированного сигнала обычно ближе к ковариации полученного М-канального аудиосигнала. Эффект от введения дополнительной ковариации может заключаться в увеличении достоверности реконструированного сигнала на стороне декодера.In the exemplary embodiment, the additional information includes "dry" and "wet" upmix coefficients in the same sense as these terms have been used in the present application above. If we are not talking about the tasks of a special implementation, it is usually sufficient to calculate additional information (in particular, "dry" and "wet" upmix coefficients) for the currently selected encoding format. In particular, a set of dry upmix coefficients (which may be represented as an M ×2 matrix) may define a linear mapping of the corresponding downmix signal approximating an M -channel audio signal. A set of wet upmix coefficients (which can be represented as an M × P matrix, where the number of decorrelators P can be P = M − 2) defines a linear mapping of the decorrelated signal, so that the covariance of the signal obtained by the specified linear mapping of the decorrelated signal , complements the covariance of the M -channel audio signal approximated by a linear mapping of the downmix signal of the selected coding format. Displaying the decorrelated signal, which is defined by a set of wet upmix coefficients, will complement the covariance of the M -channel (approximated) audio signal in that the covariance of the sum of the M -channel audio signal and the display of the decorrelated signal is usually closer to the covariance of the received M -channel audio signal. The effect of introducing additional covariance may be to increase the reliability of the reconstructed signal at the decoder side.
Линейное отображение сигнала понижающего микширования обеспечивает аппроксимацию М-канального аудиосигнала. При реконструкции М-канального аудиосигнала на стороне декодера декоррелированный сигнал используют для увеличения размерности аудиоданных сигнала понижающего микширования, и сигнал, полученный путем линейного отображения декоррелированного сигнала, объединяют с сигналом, полученным путем линейного отображения сигнала понижающего микширования, для увеличения достоверности аппроксимации М-канального аудиосигнала. Поскольку декоррелированный сигнал определяют на основе по меньшей мере одного канала сигнала понижающего микширования и декоррелированный сигнал не содержит каких-либо аудиоданных от М-канального аудиосигнала, который еще не доступен в сигнале понижающего микширования, разность между ковариацией полученного М-канального аудиосигнала и ковариацией М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования, может указывать не только на достоверность М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования, но и на достоверность М-канального аудиосигнала, реконструированного при помощи как сигнала понижающего микширования, так и декоррелированного сигнала. В частности, уменьшенная разность между ковариацией полученного М-канального аудиосигнала и ковариацией М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования, может указывать на увеличенную достоверность реконструированного М-канального аудиосигнала. Отображение декоррелированного сигнала, который задается набором «влажных» коэффициентов повышающего микширования, дополняет ковариацию М-канального аудиосигнала (полученного из сигнала понижающего микширования) в том смысле, что ковариация суммы М-канального аудиосигнала и отображения декоррелированного сигнала ближе к ковариации полученного М-канального аудиосигнала. Следовательно, выбор одного из форматов кодирования на основе соответствующих вычисленных разностей позволяет увеличить достоверность реконструированного М-канального аудиосигнала.The linear display of the downmix signal provides an approximation of an M -channel audio signal. In the reconstruction of the M -channel audio signal at the decoder side, the decorrelated signal is used to increase the dimension of the audio data of the downmix signal, and the signal obtained by linear mapping of the decorrelated signal is combined with the signal obtained by linear mapping of the downmix signal to increase the approximation reliability of the M -channel audio signal. . Since the decorrelated signal is determined based on at least one channel of the downmix signal and the decorrelated signal does not contain any audio data from the M -channel audio signal that is not yet available in the downmix signal, the difference between the covariance of the obtained M -channel audio signal and the covariance of M - of a channel audio signal approximated by a linear display of the downmix signal can indicate not only the validity of an M -channel audio signal approximated by a linear display of the downmix signal, but also the validity of an M -channel audio signal reconstructed by both the downmix signal and decorrelated signal. In particular, the reduced difference between the covariance of the received M -channel audio signal and the covariance of the M -channel audio signal approximated by linear mapping of the downmix signal may indicate increased fidelity of the reconstructed M -channel audio signal. The display of the decorrelated signal, which is given by a set of wet upmix coefficients, complements the covariance of the M -channel audio signal (derived from the downmix signal) in that the covariance of the sum of the M -channel audio signal and the display of the decorrelated signal is closer to the covariance of the received M -channel audio signal . Therefore, the choice of one of the coding formats based on the respective calculated differences can increase the reliability of the reconstructed M -channel audio signal.
Следует понимать, что формат кодирования можно выбрать, например, непосредственно на основе вычисленных разностей или на основе коэффициентов и/или значений, определенных на основе вычисленных разностей.It should be understood that the coding format may be selected, for example, directly based on the calculated differences, or on the basis of coefficients and/or values determined based on the calculated differences.
Кроме того, следует понимать, что формат кодирования можно выбрать, например, на основе соответствующих вычисленных «сухих» коэффициентов повышающего микширования дополнительно к соответствующим вычисленным разностям.In addition, it should be understood that the coding format can be selected, for example, based on the corresponding calculated "dry" upmix coefficients in addition to the corresponding calculated differences.
Набор «сухих» коэффициентов повышающего микширования может определяться, например, посредством аппроксимации по минимальной среднеквадратической ошибке при допущении, что для реконструкции доступен только сигнал понижающего микширования, т. е. при допущении, что для реконструкции не используется декоррелированный сигнал.A set of "dry" upmix coefficients can be determined, for example, by a minimum standard error approximation, assuming that only the downmix signal is available for reconstruction, i.e., assuming that no decorrelated signal is used for reconstruction.
Вычисленные разности могут представлять собой, например, разности между полученной ковариационной матрицей М-канального аудиосигнала и ковариационными матрицами М-канального аудиосигнала, аппроксимированного путем соответствующих линейных отображений сигнала понижающего микширования разных форматов кодирования. Выбор одного из форматов кодирования может включать, например, вычисление матричных норм для соответствующих разностей между ковариационными матрицами и выбор одного из форматов кодирования на основе вычисленных матричных норм, например, выбор формата кодирования, связанного с минимальной из вычисленных матричных норм.The calculated differences may be, for example, the differences between the obtained M -channel audio covariance matrix and the M -channel audio covariance matrices approximated by respective downmix signal line mappings of different coding formats. Selecting one of the encoding formats may include, for example, calculating matrix norms for the respective differences between the covariance matrices, and selecting one of the encoding formats based on the calculated matrix norms, for example, selecting an encoding format associated with the minimum of the calculated matrix norms.
Декоррелированный сигнал может, например, включать по меньшей мере один канал и не более M − 2 каналов.A decorrelated signal may, for example, include at least one channel and at most M − 2 channels.
Под набором «сухих» коэффициентов повышающего микширования, определяющим линейное отображение сигнала понижающего микширования, аппроксимирующее М-канальный сигнал понижающего микширования, подразумевается, что аппроксимацию М-канального сигнала понижающего микширования осуществляют путем линейного преобразования сигнала понижающего микширования. При этом линейном преобразовании в качестве входа берут два канала сигнала понижающего микширования и обеспечивают M каналов в качестве выхода, а «сухие» коэффициенты повышающего микширования представляют собой коэффициенты, определяющие количественные характеристики этого линейного преобразования.By a set of dry upmix coefficients defining a linear mapping of the downmix signal approximating the M -channel downmix signal, it is meant that the approximation of the M -channel downmix signal is carried out by linear transformation of the downmix signal. This linear conversion takes two channels of a downmix signal as an input and provides M channels as an output, and the dry upmix coefficients are the coefficients quantifying this linear conversion.
Аналогично «влажные» параметры повышающего микширования определяют количественные характеристики линейного преобразования, при котором каналы (-ы) декоррелированного сигнала берут в качестве входа и обеспечивают M каналов в качестве выхода.Similarly, the "wet" upmix parameters define the quantitative characteristics of the linear transformation, in which the channels (s) of the decorrelated signal are taken as an input and provide M channels as an output.
В примере осуществления «влажные» параметры повышающего микширования могут определяться так, чтобы ковариация сигнала, полученного путем линейного отображения (которое задается «влажными» параметрами повышающего микширования) декоррелированного сигнала, аппроксимировала разность между ковариацией полученного М-канального аудиосигнала и ковариацией М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования выбранного формата кодирования. Другими словами, ковариация суммы первого линейного отображения (определенного «сухими» параметрами повышающего микширования) сигнала понижающего микширования и второго линейного отображения (определенного «влажными» параметрами повышающего микширования, определенными в соответствии с этим примером осуществления) декоррелированного сигнала будет близка к ковариации М-канального аудиосигнала, выражающей входные данные для способа кодирования аудио, описанного выше в настоящей заявке. Определение «влажных» коэффициентов повышающего микширования в соответствии с настоящим примером осуществления может увеличить достоверность реконструированного М-канального аудиосигнала.In an exemplary embodiment, the wet upmix parameters may be determined such that the covariance of the signal obtained by linear mapping (which is given by the wet upmix parameters) of the decorrelated signal approximates the difference between the covariance of the received M -channel audio signal and the covariance of the M -channel audio signal, approximated by a linear mapping of the downmix signal of the selected coding format. In other words, the covariance of the sum of the first linear mapping (defined by the dry upmix parameters) of the downmix signal and the second linear mapping (defined by the wet upmixing parameters defined according to this embodiment) of the decorrelated signal will be close to the covariance of the M -channel an audio signal expressing input to the audio coding method described above in this application. Determining wet upmix coefficients in accordance with the present embodiment can increase the fidelity of the reconstructed M -channel audio signal.
В альтернативном варианте осуществления «влажные» параметры повышающего микширования могут определяться так, чтобы ковариация сигнала, полученного путем линейного отображения декоррелированного сигнала, аппроксимировала часть разности между ковариацией полученного М-канального аудиосигнала и ковариацией М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования выбранного формата кодирования. Если, например, на стороне декодера доступно ограниченное количество декорреляторов, полное восстановление ковариации полученного М-канального аудиосигнала может быть невозможно. В таком примере на стороне кодера могут определяться «влажные» параметры повышающего микширования, подходящие для частичной реконструкции ковариации М-канального аудиосигнала, с использованием меньшего количества декорреляторов.In an alternative embodiment, the wet upmix parameters may be determined such that the covariance of the signal obtained by linearly mapping the decorrelated signal approximates a portion of the difference between the covariance of the received M -channel audio signal and the covariance of the M -channel audio signal approximated by linearly mapping the downmix signal of the selected encoding format. If, for example, a limited number of decorrelators are available at the decoder side, it may not be possible to completely reconstruct the covariance of the received M -channel audio signal. In such an example, wet upmix parameters suitable for partial reconstruction of the M -channel audio covariance using fewer decorrelators can be determined at the encoder side.
В примере осуществления способ кодирования аудио может дополнительно включать для каждого из по меньшей мере двух форматов кодирования определение набора «влажных» коэффициентов повышающего микширования, которые вместе с «сухими» коэффициентами повышающего микширования (этого формата кодирования) позволяют осуществлять параметрическую реконструкцию М-канального аудиосигнала из сигнала понижающего микширования (этого формата кодирования) и из декоррелированного сигнала, определенного на основе сигнала понижающего микширования (этого формата), причем набор «влажных» коэффициентов повышающего микширования задает линейное отображение декоррелированного сигнала так, чтобы ковариация сигнала, полученного путем линейного отображения декоррелированного сигнала, аппроксимировала разность между ковариацией полученного М-канального аудиосигнала и ковариацией М-канального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования (этого формата). В настоящем примере осуществления выбранный формат кодирования можно выбирать на основе значений соответствующих определенных наборов «влажных» коэффициентов повышающего микширования.In an exemplary embodiment, the audio coding method may further include, for each of the at least two coding formats, defining a set of wet upmix coefficients that, together with dry upmix coefficients (of that coding format), allow parametric reconstruction of an M -channel audio signal from a downmix signal (of this coding format) and from a decorrelated signal determined based on the downmix signal (of this format), wherein the set of wet upmix coefficients defines a linear mapping of the decorrelated signal such that the covariance of the signal obtained by linear mapping of the decorrelated signal, approximated the difference between the covariance of the received M -channel audio signal and the covariance of the M -channel audio signal approximated by a linear display of the downmix signal (of this format). In the present exemplary embodiment, the selected coding format may be selected based on the values of the respective specific sets of wet upmix coefficients.
Указание на достоверность реконструированного М-канального аудиосигнала можно получить, например, на основе определенных «влажных» коэффициентов повышающего микширования. Выбор формата кодирования может быть основан, например, на взвешенных или невзвешенных суммах определенных «влажных» коэффициентов повышающего микширования, на взвешенных или невзвешенных суммах модулей определенных «влажных» коэффициентов повышающего микширования и/или на взвешенных или невзвешенных суммах квадратов определенных «влажных» коэффициентов повышающего микширования, кроме того, например, на соответствующих суммах соответствующих вычисленных «сухих» коэффициентов повышающего микширования.An indication of the validity of the reconstructed M -channel audio signal can be obtained, for example, based on certain "wet" upmix coefficients. The choice of coding format may be based, for example, on the weighted or unweighted sums of the determined wet upmix coefficients, on the weighted or unweighted sums of the moduli of the determined wet upmix coefficients, and/or on the weighted or unweighted sums of the squares of the determined wet upmix coefficients. mixing, in addition, for example, on the respective sums of the respective calculated "dry" upmix coefficients.
«Влажные» параметры повышающего микширования могут, например, вычисляться для множества полос частот М-канального сигнала, а выбор формата кодирования может быть основан, например, на значениях соответствующих определенных наборов «влажных» коэффициентов повышающего микширования в соответствующих полосах частот.The wet upmix parameters may, for example, be computed for a plurality of M -channel signal bands, and the choice of coding format may be based, for example, on the values of respective specific sets of wet upmix coefficients in the respective frequency bands.
В примере осуществления переход между первым и вторым форматами кодирования включает вывод дискретных значений «сухих» и «влажных» коэффициентов повышающего микширования первого формата кодирования на одном временном интервале и второго формата кодирования — на последующем временном интервале. Функции декодера, в конечном итоге обеспечивающие реконструкцию М-канального сигнала, могут включать интерполяцию коэффициентов повышающего микширования между выводимыми дискретными значениями. Благодаря таким функциям на стороне декодера можно эффективно обеспечить плавный переход от первого формата кодирования ко второму. Как и в случае плавного перехода, используемого для сигнала понижающего микширования, как описано выше, такой плавный переход может приводить к меньшей вероятности восприятия перехода между форматами кодирования при реконструкции М-канального аудиосигнала.In an exemplary embodiment, the transition between the first and second coding formats includes outputting discrete values of dry and wet upmix coefficients of the first coding format at one time interval and the second coding format at a subsequent time interval. The functions of the decoder that ultimately provide reconstruction of the M -channel signal may include the interpolation of the upmix coefficients between the output samples. With such functions on the decoder side, a smooth transition from the first coding format to the second can be effectively ensured. As with the smooth transition used for the downmix signal as described above, such a smooth transition may result in less likelihood of perceiving a transition between coding formats when reconstructing an M -channel audio signal.
Понятно, что коэффициенты, используемые для вычисления сигнала понижающего микширования на основе М-канального аудиосигнала, можно интерполировать, т. е. от значений, связанных с временным интервалом, на котором вычисляют сигнал понижающего микширования в соответствии с первым форматом кодирования, до значений, связанных с временным интервалом, на котором вычисляют сигнал понижающего микширования в соответствии со вторым форматом кодирования. По меньшей мере если понижающее микширование происходит во временной области, плавный переход понижающего микширования в результате интерполяции коэффициентов будет эквивалентен плавному переходу понижающего микширования в результате интерполяции коэффициентов, выполненной непосредственно в отношении соответствующих сигналов понижающего микширования. Следует понимать, что значения коэффициентов, использованные для вычисления сигнала понижающего микширования, обычно не зависят от сигналов, но могут задаваться для каждого из доступных форматов кодирования.It will be understood that the coefficients used to calculate the downmix signal based on the M -channel audio signal can be interpolated, i.e., from values associated with the time interval over which the downmix signal is calculated according to the first coding format, to values associated with a time interval at which the downmix signal is calculated according to the second coding format. At least if the downmix occurs in the time domain, the soft transition of the downmix as a result of coefficient interpolation will be equivalent to the smooth transition of the downmix as a result of coefficient interpolation performed directly on the respective downmix signals. It should be understood that the coefficient values used to calculate the downmix signal are typically independent of the signals, but may be specified for each of the available coding formats.
Если говорить о плавном переходе сигнала понижающего микширования и коэффициентах повышающего микширования, преимущество заключается в том, что обеспечивается синхронизация между двумя плавными переходами. Предпочтительно возможно совпадение соответствующих периодов переходов для сигнала понижающего микширования и коэффициентов повышающего микширования. В частности, средства, отвечающие за соответствующие плавные переходы, могут контролироваться общим потоком данных управления. Такие данные управления могут включать точки начала и точки завершения плавного перехода и необязательно кривую плавного перехода, такую как линейная, нелинейная кривая и т. д. Относительно коэффициентов повышающего микширования кривая плавного перехода может быть установлена заданным правилом интерполяции, которое определяет режим устройства декодирования; однако точки начала и завершения плавных переходов могут контролироваться опосредованно по положениям, в которых заданы и/или выведены дискретные значения коэффициентов повышающего микширования. Сходство временной зависимости двух процессов плавных переходов обеспечивает высокую степень соответствия между сигналом понижающего микширования и параметрами, обеспеченными для его реконструкции, что может привести к уменьшению искажений на стороне декодера.When it comes to the fading of the downmix signal and the upmix coefficients, the advantage is that synchronization between the two fadings is ensured. Preferably, it is possible to match the respective transition periods for the downmix signal and the upmix coefficients. In particular, the means responsible for the respective smooth transitions can be controlled by the overall flow of control data. Such control data may include soft transition start and end points, and optionally a soft transition curve such as linear, non-linear curve, etc. Regarding the upmix coefficients, the soft transition curve may be set by a predetermined interpolation rule that determines the mode of the decoding apparatus; however, the start and end points of smooth transitions can be controlled indirectly by the positions at which the discrete values of the upmix coefficients are set and/or output. The similarity of the time dependence of the two smooth transition processes provides a high degree of correspondence between the downmix signal and the parameters provided for its reconstruction, which can lead to reduced distortion on the decoder side.
В примере осуществления выбор формата кодирования основан на сравнении разности ковариаций полученного М-канального сигнала и реконструированного М-канального сигнала по сигналу понижающего микширования. В частности, реконструкция может совпадать с линейным отображением сигнала понижающего микширования, определенным только «сухими» коэффициентами повышающего микширования, т. е. без вклада от сигнала, определенного при помощи декорреляции (например, для увеличения размерности аудиоданных сигнала понижающего микширования). В частности, при сравнении не должен учитываться какой-либо вклад линейного отображения, определенного каким-либо набором «влажных» коэффициентов повышающего микширования. Другими словами, сравнение осуществляют при условии отсутствия доступа к декоррелированному сигналу. Этот принцип может способствовать выбору формата кодирования, который обеспечивает возможность более точного воспроизведения. После выполнения этого сравнения и принятия решения о выборе формата кодирования необязательно определяется набор «влажных» коэффициентов повышающего микширования. Связанное с этим процессом преимущество заключается в том, что не происходит двойного определения «влажных» коэффициентов повышающего микширования для конкретной части полученного М-канального аудиосигнала.In an exemplary embodiment, the choice of coding format is based on a comparison of the difference in covariance between the received M -channel signal and the reconstructed M -channel signal from the downmix signal. In particular, the reconstruction may coincide with a linear display of the downmix signal, defined only by "dry" upmix coefficients, i.e., without the contribution from the signal, determined by decorrelation (for example, to increase the dimension of the audio data of the downmix signal). In particular, the comparison should not take into account any contribution from the linear mapping defined by any set of wet upmix coefficients. In other words, the comparison is carried out under the condition that the decorrelated signal is not available. This principle can help select an encoding format that allows for more accurate reproduction. After performing this comparison and deciding on the choice of coding format, a set of "wet" upmix coefficients is optionally determined. An advantage associated with this process is that there is no double determination of wet upmix coefficients for a particular portion of the received M -channel audio signal.
В соответствии с модификацией примера осуществления, описанного в предыдущем параграфе, «сухие» и «влажные» коэффициенты повышающего микширования вычисляют для всех форматов кодирования, а в качестве основы для выбора формата кодирования используют количественную меру «влажных» коэффициентов повышающего микширования. Действительно, количественная характеристика, вычисленная на основе определенных «влажных» коэффициентов повышающего микширования, может обеспечивать (инверсное) указание на достоверность реконструированного М-канального аудиосигнала. Выбор формата кодирования может быть основан, например, на взвешенных или невзвешенных суммах определенных «влажных» коэффициентов повышающего микширования, на взвешенных или невзвешенных суммах модулей определенных «влажных» коэффициентов повышающего микширования и/или на взвешенных или невзвешенных суммах квадратов определенных «влажных» коэффициентов повышающего микширования. Каждый из этих вариантов можно использовать в сочетании с соответствующими суммами соответствующих вычисленных «сухих» коэффициентов повышающего микширования. «Влажные» параметры повышающего микширования могут, например, вычисляться для множества полос частот М-канального сигнала, а выбор формата кодирования может быть основан, например, на значениях соответствующих определенных наборов «влажных» коэффициентов повышающего микширования в соответствующих полосах частот.According to a modification of the exemplary embodiment described in the previous paragraph, dry and wet upmix coefficients are calculated for all coding formats, and a quantitative measure of the wet upmix coefficients is used as the basis for selecting the coding format. Indeed, a score calculated from certain wet upmix coefficients may provide an (inverse) indication of the validity of the reconstructed M -channel audio signal. The choice of coding format may be based, for example, on the weighted or unweighted sums of the determined wet upmix coefficients, on the weighted or unweighted sums of the moduli of the determined wet upmix coefficients, and/or on the weighted or unweighted sums of the squares of the determined wet upmix coefficients. mixing. Each of these options can be used in conjunction with the respective sums of the respective calculated "dry" upmix coefficients. The wet upmix parameters may, for example, be computed for a plurality of M -channel signal bands, and the choice of coding format may be based, for example, on the values of respective specific sets of wet upmix coefficients in the respective frequency bands.
В примере осуществления способ кодирования аудио может дополнительно включать вычисление суммы квадратов соответствующих «влажных» коэффициентов повышающего микширования и суммы квадратов соответствующих «сухих» коэффициентов повышающего микширования для каждого из по меньшей мере двух форматов кодирования. В настоящем примере осуществления выбранный формат кодирования можно выбирать на основе сумм квадратов. Авторы изобретения обнаружили, что вычисленные суммы квадратов могут обеспечивать особенно точное указание на уменьшение достоверности при восприятии слушателем, которое будет происходить при реконструкции М-канального аудиосигнала на основе смешанного вклада сигналов при «влажных» и «сухих» параметрах.In an exemplary embodiment, the audio coding method may further include calculating the sum of squares of respective wet upmix coefficients and the sum of squares of respective dry upmix coefficients for each of the at least two coding formats. In the present embodiment, the selected coding format may be selected based on sums of squares. The inventors have found that the computed sums of squares can provide a particularly accurate indication of the loss of listener confidence that will occur when an M -channel audio signal is reconstructed based on the mixed wet and dry signal contributions.
Например, для каждого формата кодирования может создаваться отношение на основе вычисленных сумм квадратов для соответствующего формата кодирования, и выбранный формат может быть связан с минимальным или максимальным из созданных отношений. Создание отношения может включать, например, деление, с одной стороны, суммы квадратов «влажных» коэффициентов повышающего микширования на, с другой стороны, сумму суммы квадратов «сухих» коэффициентов повышающего микширования и суммы квадратов «влажных» коэффициентов повышающего микширования. В альтернативном варианте осуществления отношение может создаваться путем деления суммы квадратов «влажных» коэффициентов повышающего микширования на сумму квадратов «сухих» коэффициентов повышающего микширования.For example, for each coding format, a ratio can be created based on the computed sums of squares for the corresponding coding format, and the selected format can be associated with the minimum or maximum of the generated ratios. The creation of the ratio may include, for example, dividing, on the one hand, the sum of the squares of the wet upmix coefficients by, on the other hand, the sum of the sum of the squares of the dry upmix coefficients and the sum of the squares of the wet upmix coefficients. In an alternative embodiment, the ratio can be created by dividing the sum of squares of the wet upmix coefficients by the sum of the squares of the dry upmix coefficients.
В примере осуществления в способе предложено кодирование М-канального аудиосигнала и по меньшей мере одного связанного (M 2-канального) аудиосигнала. Аудиосигналы могут быть связаны в том смысле, что могут описывать общие аудиоданные, например, когда записаны одновременно или сформированы в ходе одного и того же процесса создания аудиоданных. Аудиосигналы необязательно кодировать с помощью общего сигнала понижающего микширования, их можно кодировать с помощью отдельных процессов. При таких параметрах выбор одного из форматов кодирования дополнительно учитывает данные, относящиеся к указанному по меньшей мере одному дополнительному аудиоканалу, и формат кодирования, таким образом, выбирают с целью использования для кодирования как М-канального аудиосигнала, так и связанного (M 2-канального) аудиосигнала.In an exemplary embodiment, the method proposes encoding an M -channel audio signal and at least one associated ( M 2 -channel) audio signal. Audio signals can be linked in the sense that they can describe common audio data, for example, when recorded simultaneously or generated during the same audio data creation process. The audio signals need not be encoded with a common downmix signal, but may be encoded with separate processes. With such parameters, the choice of one of the coding formats additionally takes into account the data related to the specified at least one additional audio channel, and the coding format is thus chosen to be used for encoding both the M -channel audio signal and the associated ( M 2 -channel) audio signal.
В примере осуществления сигнал понижающего микширования, выводимый посредством способа кодирования аудио, можно сегментировать с разделением на временные интервалы, выбор формата кодирования может осуществляться один раз за временной интервал, и выбранный формат кодирования может поддерживаться для по меньшей мере заданного количества временных интервалов до выбора другого формата кодирования. Выбор формата кодирования для временного интервала может осуществляться любым из способов, например путем рассмотрения разностей между ковариациями, рассмотрения значений «влажных» коэффициентов повышающего микширования для доступных форматов кодирования и т. п. Поддерживание выбранного формата кодирования для минимального количества временных интервалов может позволить, например, избежать повторяющихся переключений между форматами кодирования. В настоящем примере осуществления можно, например, обеспечить улучшение качества воспроизведения реконструированного М-канального аудиосигнала при восприятии слушателем.In the exemplary embodiment, the downmix signal output by the audio coding method may be segmented into time slots, the coding format selection may be performed once per time slot, and the selected coding format may be maintained for at least a given number of time slots until another format is selected. coding. The choice of coding format for a timeslot can be done in any of the following ways, such as by considering differences between covariances, considering wet upmix coefficient values for available coding formats, and the like. Maintaining the chosen coding format for a minimum number of timeslots can allow, for example, avoid repeated switching between encoding formats. In the present exemplary embodiment, it is possible, for example, to improve the reproduction quality of the reconstructed M -channel audio signal as perceived by the listener.
Минимальное количество временных интервалов может составлять, например, 10.The minimum number of timeslots can be, for example, 10.
Полученный М-канальный аудиосигнал, например, можно буферизировать для минимального количества временных интервалов, а выбор формата кодирования может осуществляться, например, на основе мажоритарного решения по движущемуся окну, содержащему некоторое количество временных интервалов, выбранных с учетом указанного минимального количества временных интервалов, чтобы поддерживался выбранный формат кодирования. Реализация такой стабилизирующей функции может включать один из множества сглаживающих фильтров, в частности сглаживающие фильтры с конечной импульсной характеристикой, известные в области обработки цифровых сигналов. В качестве альтернативы этому подходу формат кодирования можно переключать на новый формат кодирования при обнаружении того, что для указанного минимального количества временных интервалов по порядку выбран новый формат кодирования. Для реализации этого критерия движущееся временное окно с минимальным количеством последовательных временных интервалов можно применить к прошлым выборам формата кодирования, например для буферизированных временных интервалов. Если после последовательности временных интервалов первого формата кодирования для каждого временного интервала в движущемся окне остался выбранным второй формат кодирования, то подтверждают переход ко второму формату кодирования, который вступает в действие от начала движущегося окна и далее. Реализация вышеупомянутой стабилизирующей функции может содержать конечный автомат.The received M -channel audio signal, for example, can be buffered for a minimum number of time slots, and the choice of coding format can be made, for example, based on a majority decision over a moving window containing a number of time slots, selected taking into account the specified minimum number of time slots, in order to support selected encoding format. The implementation of such a stabilizing function may include one of a variety of anti-aliasing filters, in particular finite impulse response anti-aliasing filters known in the field of digital signal processing. As an alternative to this approach, the coding format may be switched to a new coding format upon detecting that a new coding format has been selected in order for a specified minimum number of time slots. To implement this criterion, a moving time window with a minimum number of consecutive time slots can be applied to past coding format choices, such as for buffered time slots. If, after the sequence of slots of the first coding format, for each slot in the moving window, the second coding format remains selected, then the transition to the second coding format, which takes effect from the beginning of the moving window onwards, is confirmed. The implementation of the above stabilizing function may include a state machine.
В примере осуществления предложено компактное представление «сухих» и «влажных» параметров повышающего микширования, которое помимо прочего включает создание промежуточной матрицы, которая за счет принадлежности к классу заданных матриц уникальным образом определена меньшим количеством параметров по сравнению с количеством элементов в матрице. Аспекты этого компактного представления были описаны выше в настоящем описании и, в частности, со ссылкой на предварительную заявку на патент США № 61/974,544, автор, чье имя указано первым: Lars Villemoes; дата подачи: 3 апреля 2014 г.In an exemplary embodiment, a compact representation of dry and wet upmix parameters is proposed, which includes, among other things, the creation of an intermediate matrix, which, due to belonging to a class of given matrices, is uniquely determined by fewer parameters compared to the number of elements in the matrix. Aspects of this compact representation have been described above in the present description and, in particular, with reference to US Provisional Application No. 61/974,544, the author, whose name is listed first: Lars Villemoes; filing date: April 3, 2014
В примере осуществления в выбранном формате кодирования первая группа из одного или более каналов М-канального аудиосигнала может состоять из N каналов, где N ≥ 3. Для первой группы из одного или более каналов может быть характерна возможность реконструкции из первого канала сигнала понижающего микширования и N − 1 каналов декоррелированного сигнала путем применения по меньшей мере «влажных» и «сухих» коэффициентов повышающего микширования.In an exemplary embodiment, in the selected coding format, the first group of one or more channels of the M -channel audio signal may consist of N channels, where N ≥ 3. The first group of one or more channels may be characterized by the possibility of reconstruction from the first channel of the downmix signal and N − 1 channels of decorrelated signal by applying at least wet and dry upmix coefficients.
В настоящем примере осуществления определение набора «сухих» коэффициентов повышающего микширования выбранного формата кодирования может включать определение поднабора «сухих» коэффициентов повышающего микширования выбранного формата кодирования для определения линейного отображения первого канала сигнала понижающего микширования выбранного формата кодирования для аппроксимации первой группы из одного или более каналов выбранного формата кодирования.In the present embodiment, determining a set of dry upmix coefficients of the selected coding format may include determining a subset of dry upmix coefficients of the selected coding format to determine a linear mapping of the first channel of the downmix signal of the selected coding format to approximate a first group of one or more channels of the selected encoding format.
В настоящем примере осуществления определение набора «влажных» коэффициентов повышающего микширования выбранного формата кодирования может включать определение промежуточной матрицы на основе разности между ковариацией первой группы из полученных одного или более каналов выбранного формата кодирования и ковариацией первой группы из одного или более каналов выбранного формата кодирования, аппроксимированных путем линейного отображения первого канала сигнала понижающего микширования выбранного формата кодирования. Произведение промежуточной матрицы и заданной матрицы может соответствовать поднабору «влажных» коэффициентов повышающего микширования выбранного формата кодирования, в результате чего определяется линейное отображение N − 1 каналов декоррелированного сигнала как часть параметрической реконструкции первой группы из одного или более каналов выбранного формата кодирования. Поднабор «влажных» коэффициентов повышающего микширования выбранного формата кодирования может включать большее количество коэффициентов по сравнению с количеством элементов в промежуточной матрице.In the present embodiment, determining the set of wet upmix coefficients of the selected coding format may include determining an intermediate matrix based on the difference between the first group covariance from the received one or more channels of the selected coding format and the covariance of the first group from one or more channels of the selected coding format approximated by by linearly displaying the first channel of the downmix signal of the selected coding format. The product of the intermediate matrix and the given matrix may correspond to a subset of the wet upmix coefficients of the selected coding format, resulting in a linear mapping of N − 1 channels of the decorrelated signal as part of a parametric reconstruction of the first group from one or more channels of the selected coding format. The subset of wet upmix coefficients of the selected coding format may include more coefficients than the number of elements in the intermediate matrix.
В настоящем примере осуществления выходные параметры повышающего микширования могут включать набор параметров повышающего микширования первого типа, называемых в настоящей заявке «сухими» параметрами повышающего микширования, из которого можно выделить поднабор «сухих» параметров повышающего микширования, и набор параметров повышающего микширования второго типа, называемых в настоящей заявке «влажными» параметрами повышающего микширования, которые уникальным образом определяют промежуточную матрицу, при условии, что она принадлежит к классу заданных матриц. Промежуточная матрица может иметь больше элементов по сравнению с количеством элементов в поднаборе «влажных» параметров повышающего микширования выбранного формата кодирования.In the present exemplary embodiment, the output upmix parameters may include a set of first type upmix parameters, referred to herein as "dry" upmix parameters, from which a subset of "dry" upmix parameters can be extracted, and a set of second type upmix parameters, referred to in the present application as the present application with "wet" upmix parameters that uniquely define an intermediate matrix, provided that it belongs to the class of given matrices. The intermediate matrix may have more elements compared to the number of elements in the wet upmix subset of the selected coding format.
В настоящем примере осуществления копия параметрической реконструкции первой группы из одного или более каналов на стороне декодера включает, в качестве одного вклада, «сухой» сигнал повышающего микширования, сформированный в результате линейного отображения первого канала сигнала понижающего микширования, и, в качестве дополнительного вклада, «влажный» сигнал повышающего микширования, сформированный в результате линейного отображения N − 1 каналов декоррелированного сигнала. Поднабор «сухих» коэффициентов повышающего микширования определяет линейное отображение первого канала сигнала понижающего микширования, а поднабор «влажных» коэффициентов повышающего микширования определяет линейное отображение декоррелированного сигнала. В результате выдачи «влажных» параметров повышающего микширования, количество которых меньше количества коэффициентов в поднаборе «влажных» коэффициентов повышающего микширования и из которых можно выделить поднабор «влажных» коэффициентов повышающего микширования на основе заданной матрицы и класса заданных матриц, можно уменьшить количество информации, переданной на сторону декодера для обеспечения возможности реконструкции М-канального аудиосигнала. Уменьшение количества данных, необходимых для параметрической реконструкции, позволяет уменьшить требуемую полосу пропускания для передачи параметрического представления М-канального аудиосигнала и/или требуемое пространство для хранения такого представления.In the present embodiment, a copy of the parametric reconstruction of the first group of one or more channels on the decoder side includes, as one contribution, a "dry" upmix signal generated by linear mapping of the first channel of the downmix signal, and, as an additional contribution, " a wet" upmix signal resulting from a linear mapping of N − 1 channels of a decorrelated signal. A subset of dry upmix coefficients defines a linear mapping of the first channel of the downmix signal, and a subset of wet upmix coefficients defines a linear mapping of the decorrelated signal. As a result of issuing wet upmix parameters, the number of which is less than the number of coefficients in the subset of wet upmix coefficients and from which the subset of wet upmix coefficients can be extracted based on the predetermined matrix and the class of predetermined matrices, it is possible to reduce the amount of information transmitted to the decoder side to enable reconstruction of the M -channel audio signal. Reducing the amount of data required for the parametric reconstruction makes it possible to reduce the required bandwidth for transmitting a parametric representation of an M -channel audio signal and/or the required storage space for such a representation.
Промежуточную матрицу можно определить, например, так, чтобы ковариация сигнала, полученного путем линейного отображения N − 1 каналов декоррелированного сигнала, дополняла ковариацию первой группы из одного или более каналов, аппроксимированных путем линейного отображения первого канала сигнала понижающего микширования.The intermediate matrix can be defined, for example, such that the covariance of a signal obtained by linearly mapping the N − 1 channels of the decorrelated signal complements the covariance of the first group of one or more channels approximated by linearly mapping the first channel of the downmix signal.
Определение и использование заданной матрицы и класса заданных матриц более подробно описаны в вышеупомянутой предварительной заявке на патент США № 61/974,544 со строки 15 на странице 16 до строки 2 на странице 20. В частности, в качестве примеров заданной матрицы см. выражение (9) в вышеупомянутом документе.The definition and use of a given matrix and a class of given matrices are described in more detail in the aforementioned provisional application for US patent No. 61/974,544 from line 15 on page 16 to line 2 on page 20. In particular, as examples of a given matrix, see expression (9) in the above document.
В примере осуществления определение промежуточной матрицы может включать такое определение промежуточной матрицы, при котором ковариация сигнала, полученного путем линейного отображения N − 1 каналов декоррелированного сигнала, определенного поднабором «влажных» коэффициентов повышающего микширования, аппроксимирует разность между ковариацией первой группы из полученных одного или более каналов и ковариацией первой группы из одного или более каналов, аппроксимированных путем линейного отображения первого канала сигнала понижающего микширования, или по существу совпадает с этой разностью. Другими словами, промежуточная матрица может определяться так, чтобы копия реконструкции первой группы из одного или более каналов, полученных как сумма «сухого» сигнала повышающего микширования, образованного путем линейного отображения первого канала сигнала понижающего микширования, и «влажного» сигнала повышающего микширования, образованного путем линейного отображения N − 1 каналов декоррелированного сигнала полностью или по меньшей мере приблизительно, восстанавливала ковариацию первой группы полученного одного или более каналов.In an exemplary embodiment, the definition of the intermediate matrix may include defining the intermediate matrix such that the covariance of the signal obtained by linearly mapping N − 1 channels of the decorrelated signal determined by a subset of wet upmix coefficients approximates the difference between the covariance of the first group of the obtained one or more channels and the covariance of the first group of one or more channels approximated by a linear mapping of the first channel of the downmix signal, or essentially the same as this difference. In other words, the intermediate matrix may be defined such that a reconstruction copy of the first group of one or more channels obtained as the sum of the dry upmix signal generated by linearly mapping the first channel of the downmix signal and the wet upmix signal generated by linear mapping of the N − 1 channels of the decorrelated signal completely or at least approximately restores the covariance of the first group of the received one or more channels.
В примере осуществления «влажные» параметры повышающего микширования могут включать не более N(N − 1)/2 независимо присваиваемых «влажных» параметров повышающего микширования. В настоящем примере осуществления промежуточная матрица может иметь (N − 1)2 элементов матрицы и может уникальным образом определяться «влажными» параметрами повышающего микширования при условии, что промежуточная матрица относится к классу заданных матриц. В настоящем примере осуществления поднабор «влажных» коэффициентов повышающего микширования может включать N(N − 1) коэффициентов.In an exemplary embodiment, the wet upmix parameters may include at most N(N − 1)/2 independently assigned wet upmix parameters. In the present embodiment, the intermediate matrix may have (N − 1) 2 matrix elements and may be uniquely determined by wet upmix parameters, provided that the intermediate matrix belongs to the class of given matrices. In the present exemplary embodiment, the subset of wet upmix coefficients may include N(N − 1) coefficients.
В примере осуществления поднабор «сухих» коэффициентов повышающего микширования может включать N коэффициентов. В настоящем примере осуществления «сухие» параметры повышающего микширования могут включать не более N − 1 «сухих» параметров повышающего микширования, а поднабор «сухих» коэффициентов повышающего микширования можно выделить из N − 1 «сухих» параметров повышающего микширования при помощи заданного правила.In an exemplary embodiment, the subset of dry upmix coefficients may include N coefficients. In the present embodiment, the dry upmix parameters may include at most N − 1 dry upmix parameters, and a subset of the dry upmix coefficients may be extracted from the N − 1 dry upmix parameters by a predetermined rule.
В примере осуществления определенный поднабор «сухих» коэффициентов повышающего микширования может определять линейное отображение первого канала сигнала понижающего микширования, соответствующее аппроксимации по минимальной среднеквадратической ошибке первой группы из одного или более каналов, т. е. по набору линейных отображений первого канала сигнала понижающего микширования, причем определенный набор «сухих» коэффициентов повышающего микширования может определять линейное отображение, которое наилучшим образом аппроксимирует первую группу из одного или более каналов при минимальной среднеквадратической ошибке.In an exemplary embodiment, a certain subset of dry upmix coefficients may define a linear mapping of the first channel of the downmix signal corresponding to the minimum standard error approximation of the first group of one or more channels, i.e., the set of linear mappings of the first channel of the downmix signal, wherein a certain set of "dry" upmix coefficients may define a linear mapping that best approximates the first group of one or more channels with a minimum mean square error.
В примере осуществления предложена система кодирования аудио, содержащая секцию кодирования, выполненную с возможностью кодирования М-канального аудиосигнала в виде двухканального аудиосигнала и ассоциированных параметров повышающего микширования, причем M ≥ 4. Секция кодирования содержит секцию понижающего микширования, выполненную с возможностью вычисления двухканального сигнала понижающего микширования на основе М-канального аудиосигнала для по меньшей мере одного из по меньшей мере двух форматов кодирования, сопоставленных с различными разделениями каналов М-канального аудиосигнала на соответствующие первую и вторую группы из одного или более каналов, в соответствии с форматом кодирования. Первый канал сигнала понижающего микширования образован в виде линейной комбинации первой группы из одного или более каналов М-канального аудиосигнала, а второй канал сигнала понижающего микширования образован в виде линейной комбинации второй группы из одного или более каналов М-канального аудиосигнала.In an exemplary embodiment, an audio coding system is provided, comprising an encoding section configured to encode an M -channel audio signal as a two-channel audio signal and associated upmix parameters, with M ≥ 4. The encoding section comprises a downmix section configured to compute a two-channel downmix signal based on the M -channel audio signal for at least one of at least two coding formats mapped to different channelizations of the M -channel audio signal into respective first and second groups of one or more channels, in accordance with the coding format. The first channel of the downmix signal is formed as a linear combination of the first group of one or more channels of the M -channel audio signal, and the second channel of the downmix signal is formed as a linear combination of the second group of one or more channels of the M -channel audio signal.
Система кодирования аудио дополнительно содержит секцию управления, выполненную с возможностью выбора одного из форматов кодирования на основе любого подходящего критерия, например характеристик сигнала, загрузки системы, предпочтений пользователя, условий сети. Система кодирования аудио дополнительно содержит интерполятор понижающего микширования, выполненный с возможностью осуществления плавных переходов сигнала понижающего микширования между двумя форматами кодирования при запросе перехода со стороны секции управления. Во время такого перехода можно вычислить сигналы понижающего микширования для обоих форматов кодирования. Дополнительно к выдаче сигнала понижающего микширования или, когда применимо, к осуществлению его плавного перехода система кодирования аудио выполнена с возможностью выдачи по меньшей мере сигнализации, указывающей на выбранный в данный момент формат кодирования, и дополнительной информации, в результате чего обеспечивается возможность параметрической реконструкции М-канального аудиосигнала на основе сигнала понижающего микширования. Если система содержит множество секций кодирования, которые работают параллельно, например, для кодирования соответствующих групп аудиоканалов, то секция управления может быть реализована с возможностью независимой от каждой из них работы и может отвечать за выбор общего формата кодирования, который будет использоваться каждой из секций кодирования.The audio encoding system further comprises a control section configured to select one of the encoding formats based on any suitable criteria such as signal characteristics, system loading, user preferences, network conditions. The audio coding system further comprises a downmix interpolator configured to make smooth transitions of the downmix signal between the two coding formats upon a transition request from the control section. During such a transition, it is possible to compute downmix signals for both coding formats. In addition to outputting the downmix signal or, when applicable, fading it, the audio coding system is configured to output at least a signaling indicative of the currently selected coding format and additional information, thereby enabling parametric reconstruction M - channel audio signal based on the downmix signal. If the system contains a plurality of coding sections that operate in parallel, for example, to encode respective groups of audio channels, then the control section may be implemented to operate independently of each of them and may be responsible for selecting a common coding format to be used by each of the coding sections.
В примере осуществления предложен компьютерный программный продукт, содержащий машиночитаемый носитель с командами, для осуществления любого из способов, описанных в данном разделе.In an exemplary embodiment, a computer program product is provided, comprising a computer readable medium with instructions for performing any of the methods described in this section.
III. Примеры осуществленияIII. Implementation examples
На Фиг. 6–8 представлены альтернативные варианты разделения 11.1-канального аудиосигнала на группы каналов для параметрического кодирования 11.1-канального аудиосигнала в виде 5.1-канального аудиосигнала. 11.1-канальный аудиосигнал содержит каналы L (левый), LS (левый боковой), LB (левый тыловой), TFL (верхний фронтальный левый), TBL (верхний тыловой левый), R (правый), RS (правый боковой), RB (правый тыловой), TFR (верхний фронтальный правый), TBR (верхний тыловой правый), C (центральный) и LFE (канал низкочастотных эффектов). Пять каналов L, LS, LB, TFL и TBL образуют пятиканальный аудиосигнал, представляющий в среде воспроизведения 11.1-канального аудиосигнала левую половину пространства. Три канала L, LS и LB представляют в среде воспроизведения разные горизонтальные направления, а два канала TFL и TBL представляют направления, отделенные по вертикали от трех каналов L, LS и LB. Два канала TFL и TBL могут быть предназначены, например, для воспроизведения в потолочных громкоговорителях. Аналогично пять каналов R, RS, RB, TFR и TBR образуют дополнительный пятиканальный аудиосигнал, представляющий в среде воспроизведения правую половину, причем три канала R, RS и RB представляют в среде воспроизведения разные горизонтальные направления, а два канала TFR и TBR представляют направления, отделенные по вертикали от трех каналов R, RS и RB.On FIG. 6-8 show alternative ways of dividing 11.1-channel audio signal into channel groups for parametric encoding of 11.1-channel audio signal as 5.1-channel audio signal. 11.1-channel audio contains L (Left), LS (Surround Left), LB (Surround Left), TFL (Front Top Left), TBL (Surround Back Left), R (Right), RS (Right Side), RB ( right back), TFR (top front right), TBR (top back right), C (center), and LFE (low frequency effects channel). The five channels L, LS, LB, TFL, and TBL form a five-channel audio signal representing the left half of space in an 11.1-channel audio playback environment. The three channels L, LS and LB represent different horizontal directions in the playback environment, and the two channels TFL and TBL represent directions separated vertically from the three channels L, LS and LB. The two channels TFL and TBL can be used, for example, for playback in ceiling loudspeakers. Similarly, five channels R, RS, RB, TFR and TBR form an additional five-channel audio signal representing the right half in the playback environment, with three channels R, RS and RB representing different horizontal directions in the playback environment, and two channels TFR and TBR representing directions separated vertically from the three channels R, RS and RB.
Для представления 11.1-канального аудиосигнала в виде 5.1-канального аудиосигнала набор каналов L, LS, LB, TFL, TBL, R, RS, RB, TFR, TBR, C и LFE можно разделить на группы каналов, представленные соответствующими каналами понижающего микширования и ассоциированными параметрами повышающего микширования. Пятиканальный аудиосигнал L, LS, LB, TFL, TBL может быть представлен двухканальным сигналом понижающего микширования L1, L2 и ассоциированными параметрами повышающего микширования, а пятиканальный аудиосигнал R, RS, RB, TFR, TBR может быть представлен дополнительным двухканальным сигналом понижающего микширования R1, R2 и ассоциированными дополнительными параметрами повышающего микширования. Каналы C и LFE также можно разделить в 5.1-канальном представлении 11.1-канального аудиосигнала.To represent 11.1-channel audio as 5.1-channel audio, the set of L, LS, LB, TFL, TBL, R, RS, RB, TFR, TBR, C, and LFE channels can be divided into channel groups represented by the respective downmix channels and associated upmix settings. The five-channel audio signal L, LS, LB, TFL, TBL can be represented by a two-channel downmix signal L 1 , L 2 and associated upmix parameters, and the five-channel audio signal R, RS, RB, TFR, TBR can be represented by an additional two-channel downmix signal R 1 , R 2 and associated additional upmix parameters. The C and LFE channels can also be separated in 5.1-channel representation of 11.1-channel audio.
На Фиг. 6 представлен первый формат кодирования F1, в котором пятиканальный аудиосигнал L, LS, LB, TFL, TBL разделен на первую группу 601 каналов L, LS, LB и вторую группу 602 каналов TFL, TBL и в котором дополнительный пятиканальный аудиосигнал R, RS, RB, TFR, TBR разделен на дополнительную первую группу 603 каналов R, RS, RB и дополнительную вторую группу 604 каналов TFR, TBR. В первом формате кодирования F1 первая группа 601 каналов представлена первым каналом L1 двухканального сигнала понижающего микширования, а вторая группа 602 каналов представлена вторым каналом L2 двухканального сигнала понижающего микширования. Первый канал L1 сигнала понижающего микширования может соответствовать сумме каналов первой группы 601, т. е. L1 = L + LS + LB, а второй канал L2 сигнала понижающего микширования может соответствовать сумме каналов второй группы 602, т. е. L2 = TFL + TBL.On FIG. 6 shows a first coding format F 1 in which a five-channel audio signal L, LS, LB, TFL, TBL is divided into a first L, LS,
В примерах осуществления масштаб некоторых или всех каналов можно изменить до суммирования так, чтобы первый канал L1 сигнала понижающего микширования мог соответствовать линейной комбинации первой группы 601 каналов, т. е. L1 = c1 L + c2 LS + c3 LB, а второй канал L2 сигнала понижающего микширования мог соответствовать линейной комбинации второй группы 602 каналов, т. е. L2 = c4 TFL + c5 TBL. Коэффициенты усиления c2, c3, c4, c5, например, могут совпадать, а коэффициент усиления c1, например, может иметь другое значение; например, c1 может соответствовать полному отсутствию масштабирования. Например, можно использовать значения c1 = 1 и c2 = c3 = c4 = c5 = 1/√2. Если, например, коэффициенты усиления c1, ..., c5, действующие в отношении соответствующих каналов L, LS, LB, TFL, TBL в первом формате кодирования F1, совпадают с коэффициентами усиления, действующими в отношении этих каналов в других форматах кодирования F2 и F3, описанных ниже применительно к Фиг. 7 и 8, эти коэффициенты усиления не влияют на то, как сигнал понижающего микширования изменяется при переключении между разными форматами кодирования F1, F2, F3, а масштабированные каналы c1 L, c2 LS, c3 LB, c4 TFL, c5 TBL, следовательно, могут обрабатываться так же, как если бы они были исходными каналами L, LS, LB, TFL, TBL. С другой стороны, если для изменения масштаба тех же каналов в разных форматах кодирования действуют разные коэффициенты усиления, то переключение между этими форматами кодирования может приводить, например, к переходам между вариантами каналов L, LS, LB, TFL, TBL с разным масштабированием в сигнале понижающего микширования, что может приводить к различимым на слух искажениям на стороне декодера. Такие искажения, например, можно подавлять путем применения интерполяции от коэффициентов, используемых для создания сигнала понижающего микширования до переключения формата кодирования, до коэффициентов, используемых для создания сигнала понижающего микширования после переключения формата кодирования, и/или путем применения интерполяции преддекорреляционных коэффициентов, как описано ниже в связи с выражениями (3) и (4).In exemplary embodiments, some or all of the channels may be pre-stacked so that the first channel L 1 of the downmix signal may correspond to a linear combination of the
Аналогично дополнительная первая группа 603 каналов представлена первым каналом дополнительного сигнала понижающего микширования R1, а дополнительная вторая группа 604 каналов представлена вторым каналом дополнительного сигнала понижающего микширования R2.Similarly, the additional
Первый формат кодирования F1 обеспечивает каналы понижающего микширования L2 и R2, специально предназначенные для представления потолочных каналов TFL, TBL, TFR и TBR. Следовательно, использование первого формата кодирования F1 может обеспечивать возможность параметрической реконструкции 11.1-канального аудиосигнала с относительно высокой степенью достоверности в случаях, когда, например, в среде воспроизведения для общего восприятия 11.1-канального аудиосигнала важно вертикальное измерение.The first coding format F 1 provides downmix channels L 2 and R 2 specifically designed to represent overhead channels TFL, TBL, TFR and TBR. Therefore, the use of the first coding format F 1 can enable the parametric reconstruction of the 11.1-channel audio signal with a relatively high degree of certainty in cases where, for example, in a playback environment, the vertical dimension is important for the overall perception of the 11.1-channel audio signal.
На Фиг. 7 представлен второй формат кодирования F2, в котором пятиканальный аудиосигнал L, LS, LB, TFL, TBL разделен на первую группу 701 и вторую группу 702 каналов, которые представлены соответствующими каналами сигнала понижающего микширования L1, L2, причем каналы L1 и L2 соответствуют суммам соответствующих групп 701 и 702 каналов или линейным комбинациям соответствующих групп 701 и 702 каналов с применением тех же коэффициентов усиления c1, ..., c5 для изменения масштаба соответствующих каналов L, LS, LB, TFL, TBL, что и в первом формате кодирования F1. Аналогично дополнительный пятиканальный аудиосигнал R, RS, RB, TFR, TBR разделен на дополнительные первую группу 703 и вторую группу 704 каналов, которые представлены соответствующими каналами R1 и R2.On FIG. 7 shows a second coding format F 2 in which a five-channel audio signal L, LS, LB, TFL, TBL is divided into a
Второй формат кодирования F2 не обеспечивает каналы понижающего микширования, специально предназначенные для представления потолочных каналов TFL, TBL, TFR и TBR, но может обеспечивать возможность параметрической реконструкции 11.1-канального аудиосигнала с относительно высокой степенью достоверности в случаях, когда, например, в среде воспроизведения для общего впечатления от 11.1-канального аудиосигнала не столь важно вертикальное измерение.The second coding format F 2 does not provide downmix channels specifically designed to represent the overhead channels TFL, TBL, TFR and TBR, but may allow relatively high fidelity parametric reconstruction of 11.1-channel audio in cases where, for example, in a playback environment for the overall impression of 11.1-channel audio, the vertical dimension is not so important.
На Фиг. 8 представлен третий формат кодирования F3, в котором пятиканальный аудиосигнал L, LS, LB, TFL, TBL разделен на первую группу 801 и вторую группу 802 из одного или более каналов, которые представлены соответствующими каналами L1 и L2 сигнала понижающего микширования, причем каналы L1 и L2 соответствуют суммам соответствующих групп 801 и 802 из одного или более каналов или линейным комбинациям соответствующих групп 801 и 802 из одного или более каналов с применением тех же коэффициентов c1, ..., c5 для изменения масштаба соответствующих каналов L, LS, LB, TFL, TBL, что и в первом формате кодирования F1. Аналогично дополнительный пятиканальный сигнал R, RS, RB, TFR, TBR разделен на дополнительные первую группу 803 и вторую группу 804 каналов, которые представлены соответствующими каналами R1 и R2. В третьем формате кодирования F3 только канал L представлен первым каналом L1 сигнала понижающего микширования, а четыре канала LS, LB, TFL и TBL представлены вторым каналом L2 сигнала понижающего микширования.On FIG. 8 shows a third coding format F 3 in which a five-channel audio signal L, LS, LB, TFL, TBL is divided into a
Как описано применительно к Фиг. 1–5, на стороне кодера вычисляют двухканальный сигнал понижающего микширования L1, L2 как линейное отображение пятиканального аудиосигнала X = [L LS LB TFL TBL]T в соответствии с выражениемAs described with respect to FIG. 1 to 5, the encoder side calculates the two-channel downmix signal L 1 , L 2 as a linear mapping of the five-channel audio signal X = [L LS LB TFL TBL] T according to the expression
где dn,m, при n = 1, 2, m = 1…,5 — коэффициенты понижающего микширования, представленные матрицей понижающего микширования D. Как описано применительно к Фиг. 9–13, на стороне декодера выполняют параметрическую реконструкцию пятиканального аудиосигнала [L LS LB TFL TBL]T в соответствии с выражениемwhere d n,m , with n = 1, 2, m = 1...,5, are the downmix coefficients represented by the downmix matrix D. As described with respect to FIG. 9-13, on the decoder side, the parametric reconstruction of the five-channel audio signal [L LS LB TFL TBL] T is performed according to the expression
где cn,m, при n = 1, ..., 5, m = 1, 2 — «сухие» коэффициенты повышающего микширования, представленные «сухой» матрицей повышающего микширования βL, pn,k, при n = 1, ..., 5, k = 1, 2, 3 — «влажные» коэффициенты повышающего микширования, представленные «влажной» матрицей повышающего микширования γL, а zk, при k = 1, 2, 3 — каналы трехканального декоррелированного сигнала Z, созданного на основе сигнала понижающего микширования L1, L2.where c n,m , for n = 1, ..., 5, m = 1, 2, are the dry upmix coefficients represented by the dry upmix matrix β L , p n,k , for n = 1, ..., 5, k = 1, 2, 3 are the “wet” upmix coefficients represented by the “wet” upmix matrix γ L , and z k , at k = 1, 2, 3 are the channels of the three-channel decorrelated signal Z, created on the basis of the downmix signal L 1 , L 2 .
На Фиг. 1 представлена обобщенная структурная схема секции 100 кодирования для кодирования М-канального аудиосигнала в виде двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с примером осуществления.On FIG. 1 is a generalized block diagram of an
В настоящей заявке пример М-канального аудиосигнала представляет собой пятиканальный аудиосигнал L, LS, LB, TFL и TBL, описанный применительно к Фиг. 6–8. Кроме того, могут быть предусмотрены примеры осуществления, в соответствии с которыми секция 100 кодирования выполнена с возможностью вычисления двухканального сигнала понижающего микширования на основе М-канального аудиосигнала, причем M = 4 или M ≥ 6.In the present application, an example of an M -channel audio signal is the five-channel audio signal L, LS, LB, TFL, and TBL described with respect to FIG. 6–8. In addition, embodiments may be provided in accordance with which the
Секция 100 кодирования содержит секцию 110 понижающего микширования и секцию 120 анализа. Для каждого из форматов кодирования F1, F2, F3, описанных применительно к Фиг. 6–8, в соответствии с форматом кодирования секция 110 понижающего микширования может вычислять двухканальный сигнал понижающего микширования L1, L2 на основе пятиканального аудиосигнала L, LS, LB, TFL, TBL. Например, в первом формате кодирования F1 первый канал L1 сигнала понижающего микширования сформирован в виде линейной комбинации (например, суммы) первой группы 601 каналов пятиканального аудиосигнала L, LS, LB, TFL, TBL, а второй канал L2 сигнала понижающего микширования сформирован в виде линейной комбинации (например, суммы) второй группы 602 каналов пятиканального аудиосигнала L, LS, LB, TFL, TBL. Действие, выполняемое секцией 110 понижающего микширования, может быть описано, например, выражением (1).The
Для каждого из форматов кодирования F1, F2, F3 секция 120 анализа определяет набор «сухих» коэффициентов повышающего микширования βL, определяющих линейное отображение соответствующего сигнала понижающего микширования L1, L2, аппроксимирующее пятиканальный аудиосигнал L, LS, LB, TFL, TBL, и вычисляет разность между ковариацией полученного пятиканального аудиосигнала L, LS, LB, TFL, TBL и ковариацией пятиканального аудиосигнала, аппроксимированного путем соответствующего линейного отображения соответствующего сигнала понижающего микширования L1, L2. В настоящей заявке вычисленная разность проиллюстрирована на примере разности между ковариационной матрицей полученного пятиканального аудиосигнала L, LS, LB, TFL, TBL и ковариационной матрицей пятиканального аудиосигнала, аппроксимированного соответствующим линейным отображением соответствующего сигнала понижающего микширования L1, L2. Для каждого из форматов кодирования F1, F2, F3 секция 120 анализа определяет набор «влажных» коэффициентов повышающего микширования γL на основе соответствующей вычисленной разности, который вместе с «сухими» коэффициентами повышающего микширования βL обеспечивает возможность параметрической реконструкции в соответствии с выражением (2) пятиканального аудиосигнала L, LS, LB, TFL, TBL из сигнала понижающего микширования L1, L2 и из трехканального декоррелированного сигнала, определенного на стороне декодера на основе сигнала понижающего микширования L1, L2. Набор «влажных» коэффициентов повышающего микширования γL определяет линейное отображение декоррелированного сигнала, при котором ковариационная матрица сигнала, полученного путем линейного отображения декоррелированного сигнала, аппроксимирует разность между ковариационной матрицей полученного пятиканального аудиосигнала L, LS, LB, TFL, TBL и ковариационной матрицей пятиканального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования L1, L2.For each of the coding formats F 1 , F 2 , F 3 analysis section 120 determines a set of dry upmix coefficients β L defining a linear mapping of the corresponding downmix signal L 1 , L 2 approximating a five-channel audio signal L, LS, LB, TFL , TBL, and calculates the difference between the covariance of the received five-channel audio signal L, LS, LB, TFL, TBL, and the covariance of the five-channel audio signal approximated by corresponding linear mapping of the corresponding downmix signal L 1 , L 2 . In the present application, the calculated difference is illustrated by the example of the difference between the covariance matrix of the received five-channel audio signal L, LS, LB, TFL, TBL and the covariance matrix of the five-channel audio signal, approximated by the corresponding linear display of the corresponding downmix signal L 1 , L 2 . For each of the coding formats F 1 , F 2 , F 3 , analysis section 120 determines a set of wet upmix coefficients γ L based on the corresponding calculated difference, which, together with dry upmix coefficients β L , enables parametric reconstruction according to expression (2) of the five-channel audio signal L, LS, LB, TFL, TBL from the downmix signal L 1 , L 2 and from the three-channel decorrelated signal determined at the decoder side based on the downmix signal L 1 , L 2 . A set of wet upmix coefficients γ L defines a linear display of the decorrelated signal, in which the covariance matrix of the signal obtained by linear mapping of the decorrelated signal approximates the difference between the covariance matrix of the received five-channel audio signal L, LS, LB, TFL, TBL and the covariance matrix of the five-channel audio signal , approximated by a linear mapping of the downmix signal L 1 , L 2 .
Секция 110 понижающего микширования может, например, вычислять сигнал понижающего микширования L1, L2 во временной области, т. е. на основе представления во временной области пятиканального аудиосигнала L, LS, LB, TFL, TBL, или в частотной области, т. е. на основе представления в частотной области пятиканального аудиосигнала L, LS, LB, TFL, TBL.The
Секция 120 анализа может, например, определять «сухие» коэффициенты повышающего микширования βL и «влажные» коэффициенты повышающего микширования γL на основе анализа в частотной области пятиканального аудиосигнала L, LS, LB, TFL, TBL. Секция 120 анализа может, например, получать сигнал понижающего микширования L1, L2, вычисленный секцией 110 понижающего микширования, или может вычислять собственный вариант сигнала понижающего микширования L1, L2 для определения «сухих» коэффициентов повышающего микширования βL и «влажных» коэффициентов повышающего микширования γL.The
На Фиг. 3 представлена обобщенная структурная схема системы 300 кодирования аудио, содержащей секцию 100 кодирования, описанную применительно к Фиг. 1, в соответствии с одним примером осуществления. В настоящем примере осуществления аудиоданные, например, записанные одним или более акустическими преобразователями 301 или сгенерированные оборудованием 301 для создания аудио, представлены в форме 11.1-канального аудиосигнала, описанного применительно к Фиг. 6–8. Секция 302 анализа квадратурным зеркальным фильтром (QMF) (или банком фильтров) преобразует пятиканальный аудиосигнал L, LS, LB, TFL, TBL, один временной сегмент за другим, в область QMF для обработки секцией 100 анализа пятиканального аудиосигнала L, LS, LB, TFL, TBL, форма время-частотных плиток. (Как будет более подробно описано ниже, секция 302 QMF-анализа и противоположный элемент, секция 305 QMF-синтеза, являются необязательными). Система 300 кодирования аудио содержит дополнительную секцию 303 кодирования, аналогичную секции 100 кодирования и приспособленную для кодирования дополнительного пятиканального аудиосигнала R, RS, RB, TFR и TBR в виде дополнительного двухканального сигнала понижающего микширования R1, R2, и ассоциированных дополнительных «сухих» параметров повышающего микширования βR, и дополнительных «влажных» параметров повышающего микширования γR. Секция 302 QMF-анализа также преобразует дополнительный пятиканальный аудиосигнал R, RS, RB, TFR и TBR в QMF-область для обработки дополнительной секцией 303 кодирования.On FIG. 3 is a generalized block diagram of an
Секция 304 управления выбирает один из форматов кодирования F1, F2, F3 на основе «влажных» и «сухих» коэффициентов повышающего микширования γL, γR и βL, βR, определенных секцией 100 кодирования и дополнительной секцией 303 кодирования для соответствующих форматов кодирования F1, F2, F3. Например, для каждого из форматов кодирования F1, F2, F3 секция 304 управления может вычислять соотношениеThe
, ,
где E«влажный» — сумма квадратов «влажных» коэффициентов повышающего микширования γL и γR, а E«сухой» — сумма квадратов «сухих» коэффициентов повышающего микширования βL, βR. Выбранный формат кодирования может быть связан с минимальным из соотношений E форматов кодирования F1, F2, F3, т. е. секция 304 управления может выбирать формат кодирования, соответствующий наименьшему отношению E. Авторы изобретения обнаружили, что сниженное значение соотношения E может быть показателем увеличенной достоверности воспроизведения 11.1-канального аудиосигнала, реконструированного из соответствующего формата кодирования.where E wet is the sum of the squares of the wet upmix coefficients γ L and γ R , and E dry is the sum of the squares of the dry upmix coefficients β L , β R . The selected coding format may be related to the minimum ratio E of the coding formats F 1 , F 2 , F 3 , i.e., the
В некоторых примерах осуществления сумма квадратов E«сухой» «сухих» коэффициентов повышающего микширования βL, βR может, например, включать дополнительный параметр со значением 1, соответствующий тому факту, что канал C передается на сторону декодера и может реконструироваться без декорреляции, например, с использованием лишь «сухого» коэффициента повышающего микширования со значением 1.In some embodiments, the sum of squares E dry of the dry upmix coefficients β L , β R may, for example, include an additional parameter with a value of 1 corresponding to the fact that channel C is transmitted to the decoder side and can be reconstructed without decorrelation, for example , using only a dry upmix factor of 1.
В некоторых примерах осуществления секция 304 управления может выбирать форматы кодирования для двух пятиканальных аудиосигналов L, LS, LB, TFL, TBL и R, RS, RB, TFR, TBR независимо один от другого на основе «влажных» и «сухих» коэффициентов повышающего микширования γL, βL и дополнительных «влажных» и «сухих» коэффициентов повышающего микширования γR, βR соответственно.In some embodiments, the
Система 300 кодирования аудио затем может вывести сигнал понижающего микширования L1, L2 и дополнительный сигнал понижающего микширования R1, R2 выбранного формата кодирования, параметры повышающего микширования α, из которых можно получить «сухие» и «влажные» коэффициенты повышающего микширования βL, γL и дополнительные «сухие» и «влажные» коэффициенты повышающего микширования βR, γR, связанные с выбранным форматом кодирования, и сигнализацию S, указывающую выбранный формат кодирования.The
В настоящем примере осуществления секция 304 управления выводит сигнал понижающего микширования L1, L2 и дополнительный сигнал понижающего микширования R1, R2 выбранного формата кодирования, параметры повышающего микширования α, из которых можно получить «сухие» и «влажные» коэффициенты повышающего микширования βL, γL и дополнительные «сухие» и «влажные» коэффициенты повышающего микширования βR, γR, связанные с выбранным форматом кодирования, и сигнализацию S, показывающую выбранный формат кодирования. Сигнал понижающего микширования L1, L2 и дополнительный сигнал понижающего микширования R1, R2 преобразуются обратно из области QMF посредством секции 305 QMF-синтеза (или банка фильтров) и преобразуются в область модифицированного дискретного косинусного преобразования (МДКП) секцией 306 преобразования. Секция 307 квантования квантует параметры повышающего микширования α. Например, можно использовать равномерное квантование с размером шага 0,1 или 0,2 (безразмерное) с последующим энтропийным кодированием в виде кодирования Хаффмана. Более грубое квантование с размером шага 0,2 можно использовать, например, для экономии полосы пропускания при передаче, а более тонкое квантование с размером шага 0,1 можно использовать, например, для увеличения достоверности реконструкции на стороне декодера. Каналы C и LFE также преобразуются в область МДКП секцией 308 преобразования. Преобразованные МДКП сигналы понижающего микширования и каналы, квантованные параметры повышающего микширования и сигнализацию затем объединяют в битовый поток B мультиплексором 309 для передачи на сторону декодера. Система 300 кодирования аудио также может содержать базовый кодер (не показан на Фиг. 3), выполненный с возможностью кодирования сигнала понижающего микширования L1, L2, дополнительного сигнала понижающего микширования R1, R2 и каналов C и LFE с использованием перцептуального аудиокодека, такого как Dolby Digital, MPEG AAC или их производные, до передачи сигналов понижающего микширования и каналов C и LFE на мультиплексор 309. Коэффициент усиления, например, соответствующий –8,7 дБ, можно, например, применить к сигналу понижающего микширования L1, L2, дополнительному сигналу понижающего микширования R1, R2 и каналу C до формирования битового потока B. В альтернативном варианте осуществления, поскольку параметры не зависят от абсолютного уровня, коэффициенты усиления также можно применить ко всем входным каналам до формирования линейных комбинаций, соответствующих L1, L2.In the present embodiment, the
Также могут быть предусмотрены варианты осуществления, в которых секция 304 управления получает только «влажные» и «сухие» коэффициенты повышающего микширования γL, γR, βL, βR для разных форматов кодирования F1, F2, F3 (или суммы квадратов «влажных» и «сухих» коэффициентов повышающего микширования для разных форматов кодирования) для выбора формата кодирования, т. е. секция 304 управления не должна обязательно получать сигналы понижающего микширования L1, L2 R1, R2 для разных форматов кодирования. В таких вариантах осуществления секция 304 управления может, например, управлять секциями 100, 303 кодирования для передачи сигналов понижающего микширования L1, L2, R1, R2, «сухих» коэффициентов повышающего микширования βL, βR и «влажных» коэффициентов повышающего микширования γL, γR для выбранного формата кодирования в качестве выхода системы 300 кодирования аудио или в качестве входа на мультиплексор 309.Embodiments may also be envisaged in which the
Если происходит переключение выбранного формата кодирования, то можно, например, выполнить интерполяцию между значениями коэффициентов понижающего микширования, использованными до и после переключения формата кодирования, чтобы сформировать сигнал понижающего микширования в соответствии с уравнением (1). Это по существу эквивалентно интерполяции сигналов понижающего микширования, полученных в соответствии с соответствующими наборами значений коэффициентов понижающего микширования.If the selected coding format is switched, it is possible, for example, to interpolate between the values of the downmix coefficients used before and after the coding format switch to generate a downmix signal according to equation (1). This is essentially equivalent to interpolating the downmix signals obtained according to the respective sets of downmix coefficient values.
Хотя на Фиг. 3 показано, каким образом сигнал понижающего микширования можно получить в области QMF, а затем в дальнейшем преобразовать обратно во временную область, можно обеспечить альтернативный кодер, выполняющий те же функции без использования QMF-секций 302, 305, и тем самым он будет вычислять сигнал понижающего микширования непосредственно во временной области. Это возможно в ситуациях, в которых коэффициенты понижающего микширования не являются частотнозависимыми, как это обычно и бывает. При использовании альтернативного кодера переключения форматов кодирования можно обрабатывать либо путем плавного перехода между двумя сигналами понижающего микширования соответствующих форматов кодирования, либо путем интерполяции коэффициентов понижающего микширования (включая коэффициенты, которые имеют нулевые значения в одном из форматов), создающих сигналы понижающего микширования. Для такого альтернативного кодера может быть характерна меньшая задержка/латентность и/или меньшая вычислительная сложность.Although in Fig. 3 shows how a downmix signal can be obtained in the QMF domain and then further converted back to the time domain, an alternative encoder can be provided that performs the same functions without using the
На Фиг. 2 представлена обобщенная структурная схема секции 200 кодирования, сходной с секцией 100 кодирования, описанной применительно к Фиг. 1, в соответствии с одним примером осуществления. Секция 200 кодирования содержит секцию 210 понижающего микширования и секцию 220 анализа. Как и в секции 100 кодирования, описанной применительно к Фиг. 1, секция 210 понижающего микширования вычисляет двухканальный сигнал понижающего микширования L1, L2 на основе пятиканального аудиосигнала L, LS, LB, TFL, TBL для каждого из форматов кодирования F1, F2, F3, а секция 220 анализа определяет соответствующие наборы «сухих» коэффициентов повышающего микширования βL и вычисляет разности ΔL между ковариационной матрицей полученного пятиканального аудиосигнала L, LS, LB, TFL, TBL и ковариационными матрицами пятиканального аудиосигнала, аппроксимированными соответствующими линейными отображениями соответствующих сигналов понижающего микширования.On FIG. 2 is a generalized block diagram of an
В отличие от секции 120 анализа в секции 100 кодирования, описанной применительно к Фиг. 1, секция 220 анализа не вычисляет «влажные» параметры повышающего микширования для всех форматов кодирования. Вместо этого в секцию 304 управления (см. Фиг. 3) передаются вычисленные разности ΔL для выбора формата кодирования. После выбора формата кодирования на основе вычисленных разностей ΔL секция 304 управления может определить «влажные» коэффициенты повышающего микширования (для включения в набор параметров повышающего микширования) для выбранного формата кодирования. В альтернативном варианте осуществления секция 304 управления отвечает за выбор формата кодирования на основе вычисленных разностей ΔL между вышеописанными ковариационными матрицами, но посредством сигнализации, направленной в обратную сторону, дает секции 220 анализа команду вычислить «влажные» коэффициенты повышающего микширования γL; в соответствии с этим альтернативным вариантом (не показан) секция 220 анализа способна выводить как разности, так и «влажные» коэффициенты повышающего микширования.Unlike the
В настоящем примере осуществления набор «влажных» коэффициентов повышающего микширования определяют таким образом, чтобы ковариационная матрица сигнала, полученного путем линейного отображения декоррелированного сигнала, определяемого «влажными» коэффициентами повышающего микширования, дополняла ковариационную матрицу пятиканального аудиосигнала, аппроксимированного линейным отображением сигнала понижающего микширования выбранного формата кодирования. Иными словами, необязательно определять «влажные» параметры повышающего микширования, чтобы обеспечить полную ковариационную реконструкцию при реконструировании пятиканального аудиосигнала L, LS, LB, TFL, TBL на стороне декодера. «Влажные» параметры повышающего микширования можно определить, чтобы увеличить достоверность воспроизведения реконструированного пятиканального аудиосигнала, но если, например, количество декорреляторов на стороне декодера ограничено, то «влажные» параметры повышающего микширования можно определить, чтобы можно было максимально реконструировать ковариационную матрицу пятиканального аудиосигнала L, LS, LB, TFL, TBL.In the present exemplary embodiment, a set of wet upmix coefficients is determined such that the covariance matrix of a signal obtained by linear mapping of the decorrelated signal determined by the wet upmix coefficients complements the covariance matrix of a five-channel audio signal approximated by a linear mapping of the downmix signal of the selected coding format . In other words, it is not necessary to define wet upmix parameters in order to achieve full covariance reconstruction when reconstructing the L, LS, LB, TFL, TBL five-channel audio signal at the decoder side. Wet upmix parameters can be determined to increase the fidelity of the reconstructed five-channel audio signal, but if, for example, the number of decorrelators on the decoder side is limited, then wet upmix parameters can be determined so that the five-channel audio covariance matrix L can be reconstructed as much as possible, LS, LB, TFL, TBL.
Могут быть предусмотрены варианты осуществления, в которых системы кодирования аудио, сходные с системой 300 кодирования аудио, описанной применительно к Фиг. 3, содержат одну или более секций 200 кодирования того типа, который описан применительно к Фиг. 2.Embodiments may be envisaged in which audio coding systems similar to the
На Фиг. 4 представлена блок-схема способа 400 кодирования аудио для кодирования М-канального аудиосигнала в двухканальный сигнал понижающего микширования и ассоциированные параметры повышающего микширования в соответствии с одним примером осуществления. Пример способа 400 кодирования аудио в настоящей заявке представляет собой способ, осуществляемый системой кодирования аудио, содержащей секцию 200 кодирования, описанную применительно к Фиг. 2.On FIG. 4 is a flow diagram of an
Способ 400 кодирования аудио включает получение 410 пятиканального аудиосигнала L, LS, LB, TFL, TBL; вычисление 420 в соответствии с первым из форматов кодирования F1, F2, F3, описанным применительно к Фиг. 6–8, двухканального сигнала понижающего микширования L1, L2 на основе пятиканального аудиосигнала L, LS, LB, TFL, TBL; определение 430 набора «сухих» коэффициентов повышающего микширования βL в соответствии с форматом кодирования и вычисление 440 разности ΔL в соответствии с форматом кодирования. Способ 400 кодирования аудио включает определение 450 того, были ли вычислены разности ΔL для каждого из форматов кодирования F1, F2, F3. Если по меньшей мере для одного формата кодирования еще нужно определить разность ΔL, то способ 400 кодирования аудио возвращается к вычислению 420 сигнала понижающего микширования L1, L2 в соответствии со следующим по очереди форматом кодирования, как обозначено буквой N на блок-схеме.The
Если разности ΔL вычислены для каждого из форматов кодирования F1, F2, F3, как обозначено буквой Y на блок-схеме, способ 400 переходит к выбору 460 одного из форматов кодирования F1, F2, F3 на основании соответствующих вычисленных разностей ΔL и определению 470 набора «влажных» коэффициентов повышающего микширования, которые в совокупности с «сухими» коэффициентами повышающего микширования βL выбранного формата кодирования позволяют осуществить параметрическую реконструкцию пятиканального аудиосигнала L, LS, LB, TFL, TBLM в соответствии с уравнением (2). Способ 400 кодирования аудио дополнительно включает вывод 480 сигнала понижающего микширования L1, L2 выбранного формата кодирования и параметров повышающего микширования, из которых можно получить «сухие» и «влажные» коэффициенты повышающего микширования, связанные с выбранным форматом кодирования; и вывод 490 сигнализации S, обозначающей выбранный формат кодирования.If the differences ΔL are computed for each of the coding formats F 1 , F 2 , F 3 , as denoted by Y in the block diagram,
На Фиг. 5 представлена блок-схема способа 500 кодирования аудио для кодирования М-канального аудиосигнала в двухканальный сигнал понижающего микширования и ассоциированные параметры повышающего микширования в соответствии с одним примером осуществления. Пример способа 500 кодирования аудио в настоящей заявке представляет собой способ, осуществляемый системой 300 кодирования аудио, описанной применительно к Фиг. 3.On FIG. 5 is a flowchart of an
Аналогично способу 400 кодирования аудио, описанному применительно к Фиг. 4, способ 500 кодирования аудио включает получение 410 пятиканального аудиосигнала L, LS, LB, TFL, TBL; вычисление 420 в соответствии с первым из форматов кодирования F1, F2, F3 двухканального сигнала понижающего микширования L1, L2 на основе пятиканального аудиосигнала L, LS, LB, TFL, TBL; определение 430 набора «сухих» коэффициентов повышающего микширования βL в соответствии с форматом кодирования; и вычисление 440 разности ΔL в соответствии с форматом кодирования. Способ 500 кодирования аудио дополнительно включает определение 560 набора «влажных» коэффициентов повышающего микширования γL, которые в совокупности с «сухими» коэффициентами повышающего микширования βL формата кодирования позволяют выполнить параметрическую реконструкцию М-канального аудиосигнала в соответствии с уравнением (2). Способ 500 кодирования аудио включает определение 550 того, были ли вычислены «влажные» и «сухие» коэффициенты повышающего микширования γL, βL для каждого из форматов кодирования F1, F2, F3. Если по меньшей мере для одного формата кодирования еще нужно вычислить «влажные» и «сухие» коэффициенты повышающего микширования γL, βL, то способ 500 кодирования аудио возвращается к вычислению 420 сигнала понижающего микширования L1, L2 в соответствии со следующим по очереди форматом кодирования, как обозначено буквой N на блок-схеме.Similar to the
Если «влажные» и «сухие» коэффициенты повышающего микширования γL, βL вычислены для каждого из форматов кодирования F1, F2, F3, как обозначено буквой Y на блок-схеме, способ 500 кодирования аудио переходит к выбору 570 одного из форматов кодирования F1, F2, F3 на основании соответствующих вычисленных «влажных» и «сухих» коэффициентов повышающего микширования γL, βL; выводу 480 сигнала понижающего микширования L1, L2 выбранного формата кодирования и параметров повышающего микширования, из которых можно получить «сухие» и «влажные» коэффициенты повышающего микширования βL, γL, связанные с выбранным форматом кодирования; и выводу 490 сигнализации, обозначающей выбранный формат кодирования.If the wet and dry upmix coefficients γ L , β L are computed for each of the coding formats F 1 , F 2 , F 3 , as indicated by Y in the block diagram, the
На Фиг. 9 представлена обобщенная структурная схема секции 900 декодирования для реконструкции М-канального аудиосигнала на основе двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования αL в соответствии с одним примером осуществления.On FIG. 9 is a generalized block diagram of a
В настоящем примере осуществления пример сигнала понижающего микширования представляет собой сигнал понижающего микширования L1, L2, который выводится секцией 100 кодирования, описанной применительно к Фиг. 1. В настоящем примере осуществления «сухие» и «влажные» коэффициенты повышающего микширования βL, γL, которые выводятся секцией 100 кодирования и которые приспособлены для параметрической реконструкции пятиканального аудиосигнала L, LS, LB, TFL, TBL, получают из параметров повышающего микширования αL. Однако также могут быть предусмотрены варианты осуществления, в которых параметры повышающего микширования αL приспособлены для параметрической реконструкции М-канального аудиосигнала, где М = 4 или М ≥ 6.In the present embodiment, an example of the downmix signal is the L 1 , L 2 downmix signal that is output by the
Секция 900 декодирования содержит секцию 910 преддекорреляции, секцию 920 декорреляции и секцию 930 микширования. Секция 910 преддекорреляции определяет набор преддекорреляционных коэффициентов на основе выбранного формата кодирования, использованного на стороне кодера для кодирования пятиканального аудиосигнала L, LS, LB, TFL, TBL. Как описано ниже применительно к Фиг. 10, выбранный формат кодирования может быть обозначен при помощи сигнализации со стороны кодера. Секция 910 преддекорреляции вычисляет входной сигнал декорреляции D1, D2, D3 как линейного отображения сигнала понижающего микширования L1, L2, где к сигналу понижающего микширования L1, L2 применяют набор преддекорреляционных коэффициентов.
Секция 920 декорреляции генерирует декоррелированный сигнал на основе входного сигнала декорреляции D1, D2, D3. В настоящем документе примером декоррелированного сигнала являются три канала, каждый из которых сгенерирован путем обработки одного из каналов входного сигнала декорреляции в декорреляторе 921–923 секции 920 декорреляции, например, включая применение линейных фильтров к соответствующим каналам входного сигнала декорреляции D1, D2, D3.The
Секция 930 микширования определяет набор «влажных» и «сухих» коэффициентов повышающего микширования βL, γL на основе полученных параметров повышающего микширования αL и выбранного формата кодирования, использованного на стороне кодера для кодирования пятиканального аудиосигнала L, LS, LB, TFL, TBL. Секция 930 микширования выполняет параметрическую реконструкцию пятиканального аудиосигнала L, LS, LB, TFL, TBL в соответствии с уравнением (2), т. е. вычисляет «сухой» сигнал повышающего микширования как линейного отображения сигнала понижающего микширования L1, L2, причем к сигналу понижающего микширования L1, L2 применяют набор «сухих» коэффициентов повышающего микширования βL; вычисляет «влажный» сигнал повышающего микширования как линейного отображения декоррелированного сигнала, причем к декоррелированному сигналу применяют набор «влажных» коэффициентов повышающего микширования γL; и объединяет «сухой» и «влажный» сигналы повышающего микширования для получения многомерного реконструированного аудиосигнала , соответствующего подлежащему реконструкции пятиканальному аудиосигналу L, LS, LB, TFL, TBL.The
В некоторых примерах осуществления полученные параметры повышающего микширования αL могут включать сами «влажные» и «сухие» коэффициенты повышающего микширования βL, γL, или же они могут соответствовать более компактной форме, включающей меньшее количество параметров, чем количество «влажных» и «сухих» коэффициентов повышающего микширования βL, γL, из которых можно получать «влажные» и «сухие» коэффициенты повышающего микширования βL, γL на стороне декодера, зная используемую компактную форму.In some embodiments, the obtained upmix parameters α L may include the wet and dry upmix coefficients β L , γ L themselves, or they may follow a more compact form including fewer parameters than the number of wet and dry upmix coefficients β L , γ L , from which wet and dry upmix coefficients β L , γ L can be obtained on the decoder side, knowing the compact form used.
На Фиг. 11 показана работа секции 930 микширования, описанной применительно к Фиг. 9, в одном примере сценария, в котором сигнал понижающего микширования L1, L2 представляет пятиканальный аудиосигнал L, LS, LB, TFL, TBL в соответствии с первым форматом кодирования F1, описанным применительно к Фиг. 6. Следует понимать, что в примерах сценариев, в которых сигнал понижающего микширования L1, L2 представляет пятиканальный аудиосигнал L, LS, LB, TFL, TBL в соответствии с любым из второго и третьего форматов кодирования F2, F3, работа секции 930 микширования может быть аналогичной. В частности, секция 930 микширования может временно активировать дополнительные экземпляры секций повышающего микширования и объединяющих секций, которые будут описаны далее, и обеспечивать плавный переход между двумя форматами кодирования, что может потребовать одновременной доступности вычисленных сигналов понижающего микширования.On FIG. 11 shows the operation of the
В настоящем примере сценария первый канал L1 сигнала понижающего микширования представляет три канала L, LS, LB, а второй канал L2 сигнала понижающего микширования представляет два канала TFL, TBL. Секция 910 преддекорреляции определяет преддекорреляционные коэффициенты, чтобы генерировать два канала декоррелированного сигнала на основе первого канала L1 сигнала понижающего микширования и чтобы генерировать один канал декоррелированного сигнала на основе второго канала L2 сигнала понижающего микширования.In the present scenario example, the first channel L 1 of the downmix signal represents three channels L, LS, LB, and the second channel L 2 of the downmix signal represents two channels TFL, TBL. The
Первая «сухая» секция 931 повышающего микширования обеспечивает трехканальный «сухой» сигнал повышающего микширования X1 как линейного отображения первого канала L1 сигнала понижающего микширования, причем поднабор «сухих» коэффициентов повышающего микширования, которые можно получить из полученных параметров повышающего микширования αL, применяют к первому каналу L1 сигнала понижающего микширования. Первая «влажная» секция 932 повышающего микширования обеспечивает трехканальный «влажный» сигнал повышающего микширования Y1 как линейного отображения двух каналов декоррелированного сигнала, причем поднабор «влажных» коэффициентов повышающего микширования, которые можно получить из полученных параметров повышающего микширования αL, применяют к двум каналам декоррелированного сигнала. Первая объединяющая секция 933 объединяет первый «сухой» сигнал повышающего микширования X1 и первый «влажный» сигнал повышающего микширования Y1 в реконструированные варианты каналов L, LS, LB.The first
Аналогично вторая «сухая» секция 934 повышающего микширования обеспечивает двухканальный «сухой» сигнал повышающего микширования X2 как линейного отображения второго канала L2 сигнала понижающего микширования, а вторая «влажная» секция 935 повышающего микширования обеспечивает двухканальный «влажный» сигнал повышающего микширования Y2 в виде линейной комбинации одного канала декоррелированного сигнала. Вторая объединяющая секция 936 объединяет второй «сухой» сигнал повышающего микширования X2 и второй «влажный» сигнал повышающего микширования Y2 в реконструированные варианты каналов TFL, TBL.Similarly, the second
На Фиг. 10 представлена обобщенная структурная схема системы 1000 декодирования аудио, содержащей секцию 900 декодирования, описанную применительно к Фиг. 9, в соответствии с одним примером осуществления. Секция 1001 получения, например, включающая демультиплексор, получает битовый поток B, переданный от системы 300 кодирования аудио, описанной применительно к Фиг. 3, и извлекает сигнал понижающего микширования L1, L2, дополнительный сигнал понижающего микширования R1, R2 и параметры повышающего микширования α, а также каналы C и LFE из битового потока B. Параметры повышающего микширования α могут, например, содержать первый и второй поднаборы αL и αR, связанные с левой стороной и правой стороной соответственно 11.1-канального аудиосигнала L, LS, LB, TFL, TBL, R, RS, RB, TFR, TBR, C, LFE, который следует реконструировать.On FIG. 10 is a generalized block diagram of an
Если сигнал понижающего микширования L1, L2, дополнительный сигнал понижающего микширования R1, R2 и/или каналы C и LFE закодированы в битовом потоке B с использованием перцептуального аудиокодека, такого как Dolby Digital, MPEG AAC или их производные, система 1000 декодирования аудио может содержать базовый декодер (не показан на Фиг. 10), выполненный с возможностью декодирования соответствующих сигналов и каналов при извлечении из битового потока B.If the downmix signal L 1 , L 2 , the additional downmix signal R 1 , R 2 , and/or the C and LFE channels are encoded in the B bitstream using a perceptual audio codec such as Dolby Digital, MPEG AAC or derivatives thereof,
Секция 1002 преобразования преобразует сигнал понижающего микширования L1, L2 путем выполнения обратного МДКП, а секция 1003 QMF-анализа преобразует сигнал понижающего микширования L1, L2 в область QMF для обработки секцией 900 декодирования сигнала понижающего микширования L1, L2, форма время-частотных плиток. Секция 1004 деквантования деквантует первый поднабор параметров повышающего микширования αL, например, из формата энтропийного кодирования, перед его передачей в секцию 900 декодирования. Как описано применительно к Фиг. 3, квантование может быть выполнено с использованием одного из двух разных размеров шага, например 0,1 или 0,2. Реальный использованный размер шага можно предварительно задать или можно передать с помощью сигнализации в систему 1000 декодирования аудио со стороны кодера, например, через битовый поток B.The
В настоящем примере осуществления система 1000 декодирования аудио содержит дополнительную секцию 1005 декодирования, аналогичную секции 900 декодирования. Дополнительная секция 1005 декодирования выполнена с возможностью получения дополнительного двухканального сигнала понижающего микширования R1, R2, описанного применительно к Фиг. 3, и второго поднабора αR параметров повышающего микширования и обеспечения реконструированного варианта дополнительного пятиканального аудиосигнала R, RS, RB, TFR, TBR на основе дополнительного сигнала понижающего микширования R1, R2 и второго поднабора αR параметров повышающего микширования.In the present embodiment, the
Секция 1006 преобразования преобразует дополнительный сигнал понижающего микширования R1, R2 путем выполнения обратного МДКП, а секция 1007 QMF-анализа преобразует дополнительный сигнал понижающего микширования R1, R2 в область QMF для обработки дополнительной секцией 1005 декодирования дополнительного сигнала понижающего микширования R1, R2, форма время-частотных плиток. Секция 1008 деквантования деквантует второй поднабор параметров повышающего микширования αR, например, из формата энтропийного кодирования, перед их передачей в дополнительную секцию 1005 декодирования.The
В примерах осуществления, в которых коэффициент усиления применяли к сигналу понижающего микширования L1, L2, дополнительному сигналу понижающего микширования R1, R2 и каналу C на стороне кодера, соответствующий коэффициент, например, соответствующий 8,7 дБ, можно применить к этим сигналам в системе 1000 декодирования аудио для компенсации коэффициента усиления.In embodiments in which a gain factor has been applied to the downmix signal L 1 , L 2 , the additional downmix signal R 1 , R 2 , and channel C on the encoder side, an appropriate gain, for example corresponding to 8.7 dB, can be applied to these signals in
Секция 1009 управления получает сигнализацию S, указывающую формат, выбранный из форматов кодирования F1, F2, F3, использованный на стороне кодера для кодирования 11.1-канального аудиосигнала в сигнал понижающего микширования L1, L2, а также дополнительный сигнал понижающего микширования R1, R2 и ассоциированные параметры повышающего микширования α. Секция 1009 управления управляет секцией 900 декодирования (например, входящей в нее секцией 910 преддекорреляции и секцией 920 микширования) и дополнительной секцией (1005) декодирования и выполняет параметрическую реконструкцию в соответствии с указанным форматом кодирования.The
В настоящем примере осуществления реконструированные варианты пятиканального аудиосигнала L, LS, LB, TFL, TBL и дополнительного пятиканального аудиосигнала R, RS, RB, TFL, TBL, выведенные секцией 900 декодирования и дополнительной секцией 1005 декодирования соответственно, преобразуются обратно из QMF-области посредством секции 1011 QMF-синтеза, а затем выводятся вместе с каналами C и LFE в качестве выхода системы 1000 декодирования аудио для воспроизведения на многоколоночной системе 1012. Секция 1010 преобразования преобразует каналы C и LFE во временную область посредством выполнения обратного МДКП, а затем эти каналы включаются в выход системы 1000 декодирования аудио.In the present embodiment, the reconstructed versions of the five-channel audio signal L, LS, LB, TFL, TBL and the additional five-channel audio signal R, RS, RB, TFL, TBL output by the
Каналы C и LFE можно, например, извлечь из битового потока B в дискретно-кодированной форме, и система 1000 декодирования аудио может, например, содержать одноканальные секции декодирования (не показаны на Фиг. 10), выполненные с возможностью декодирования соответствующих дискретно-кодированных каналов. Одноканальные секции декодирования могут, например, включать базовые декодеры для декодирования аудиоданных, закодированных при помощи перцептуального аудиокодека, такого как Dolby Digital, MPEG AAC или их производные.Channels C and LFE may, for example, be extracted from bitstream B in a discretely encoded form, and the
В настоящем примере осуществления преддекорреляционные коэффициенты определяются секцией 910 преддекорреляции таким образом, чтобы в каждом из форматов кодирования F1, F2, F3 каждый из каналов входного сигнала декорреляции D1, D2, D3 совпадал с каналом сигнала понижающего микширования L1, L2, в соответствии с таблицей 1.In the present exemplary embodiment, the pre-decrelation coefficients are determined by the
Как можно видеть в таблице 1, канал TBL вносит вклад через сигнал понижающего микширования L1, L2 в третий канал D3 входного сигнала декорреляции во всех трех форматах кодирования F1, F2, F3, тогда как каждая из пар каналов LS, LB и TFL, TBL вносит вклад через сигнал понижающего микширования L1, L2 в третий канал D3 входного сигнала декорреляции по меньшей мере в двух форматах кодирования соответственно.As can be seen in Table 1, the TBL channel contributes via the downmix signal L 1 , L 2 to the third channel D3 of the decorrelation input signal in all three coding formats F 1 , F 2 , F 3 , while each of the channel pairs LS, LB and TFL, TBL contributes via the downmix signal L 1 , L 2 to the third decorrelation signal channel D3 in at least two coding formats, respectively.
В таблице 1 показано, что каждый из каналов L и TFL вносит вклад через сигнал понижающего микширования L1, L2 в первый канал D1 входного сигнала декорреляции в двух форматах кодирования соответственно, а пара каналов LS, LB вносит вклад через сигнал понижающего микширования L1, L2 в первый канал D1 входного сигнала декорреляции по меньшей мере в двух форматах кодирования.Table 1 shows that each of the channels L and TFL contributes via the downmix signal L 1 , L 2 to the first channel D1 of the input decorrelation signal in two coding formats, respectively, and the pair of channels LS, LB contributes via the downmix signal L 1 , L 2 into the first channel D1 of the decorrelation input signal in at least two coding formats.
В таблице 1 также показано, что три канала LS, LB, TBL вносят вклад через сигнал понижающего микширования L1, L2 во второй канал D2 входного сигнала декорреляции как во втором, так и в третьем формате кодирования F3, F3, тогда как пара каналов LS, LB вносит вклад через сигнал понижающего микширования L1, L2 во второй канал D2 входного сигнала декорреляции во всех трех форматах кодирования F1, F2, F3.Table 1 also shows that the three channels LS, LB, TBL contribute via the downmix signal L 1 , L 2 to the second channel D2 of the decorrelation input signal in both the second and third coding formats F 3 , F 3 , while the channel pair LS, LB contributes via the downmix signal L 1 , L 2 to the second channel D2 of the decorrelation input signal in all three coding formats F 1 , F 2 , F 3 .
При переключении между разными форматами кодирования изменяется входной сигнал к декорреляторам 921–923. В настоящем примере осуществления по меньшей мере некоторые части входных сигналов декорреляции D1, D2, D3 при переключении сохранятся, т. е. по меньшей мере один канал пятиканального аудиосигнала L, LS, LB, TFL, TBL останется в каждом канале входного сигнала декорреляции D1, D2, D3 при любом переключении между двумя форматами кодирования F1, F2, F3, что позволит выполнить более плавный переход между форматами кодирования при восприятии слушателем при воспроизведении реконструированного М-канального аудиосигнала.Switching between different coding formats changes the input signal to decorrelators 921-923. In the present embodiment, at least some portions of the decorrelation inputs D1, D2, D3 will be retained when switching, i.e., at least one channel of the five-channel audio signal L, LS, LB, TFL, TBL will remain in each channel of the decorrelation input D1, D2, D3 at any switch between the two coding formats F 1 , F 2 , F 3 , which will allow a smoother transition between coding formats when perceived by the listener when playing the reconstructed M -channel audio signal.
Авторы изобретения обнаружили, что поскольку декоррелированный сигнал может генерироваться на основе фрагмента сигнала понижающего микширования L1, L2, соответствующего нескольким временным интервалам, в течение которых может произойти переключение формата кодирования, потенциально возможно образование различимых на слух искажений в декоррелированном сигнале в результате переключения форматов кодирования. Даже если «влажные» и «сухие» коэффициенты повышающего микширования βL, γL интерполируются в ответ на переход между форматами кодирования, возникшие в декоррелированном сигнале искажения все равно могут присутствовать в реконструированном пятиканальном аудиосигнале L, LS, LB, TFL, TBL. Предоставление входного сигнала декорреляции D1, D2, D3 в соответствии с таблицей 1 может подавлять различимые на слух искажения в декоррелированном сигнале, вызванные переключением формата кодирования, и может улучшать качество воспроизведения реконструированного пятиканального аудиосигнала L, LS, LB, TFL, TBL.The inventors have found that since a decorrelated signal can be generated based on a portion of the downmix signal L 1 , L 2 corresponding to several time intervals during which coding format switching can occur, it is potentially possible for audible distortions to be generated in the decorrelated signal as a result of format switching coding. Even if the wet and dry upmix coefficients β L , γ L are interpolated in response to the transition between coding formats, the distortions that have occurred in the decorrelated signal may still be present in the reconstructed five-channel audio signal L, LS, LB, TFL, TBL. Providing decorrelation input D1, D2, D3 according to Table 1 can suppress audible distortion in the decorrelated signal caused by coding format switching, and can improve the playback quality of the reconstructed L, LS, LB, TFL, TBL five-channel audio signal.
Хотя таблица 1 выражается в терминах форматов кодирования F1, F2, F3, для которых каналы сигнала понижающего микширования L1, L2 генерируются в виде сумм первой и второй групп каналов соответственно, те же значения преддекорреляционных коэффициентов можно, например, использовать, когда каналы сигнала понижающего микширования сформированы в виде линейных комбинаций первой и второй групп каналов соответственно, так что каналы входного сигнала декорреляции D1, D2, D3 совпадают с каналами сигнала понижающего микширования L1, L2 в соответствии с таблицей 1. Следует понимать, что качество воспроизведения реконструированного пятиканального аудиосигнала таким способом можно также улучшить, если каналы сигнала понижающего микширования сформированы в виде линейных комбинаций первой и второй группы каналов соответственно.Although Table 1 is expressed in terms of the coding formats F 1 , F 2 , F 3 for which the downmix signal channels L 1 , L 2 are generated as the sums of the first and second channel groups, respectively, the same values of the pre-decoration coefficients can, for example, be used, when the downmix signal channels are formed as linear combinations of the first and second channel groups, respectively, so that the decorrelation signal input channels D1, D2, D3 coincide with the downmix signal channels L 1 , L 2 in accordance with Table 1. It should be understood that the quality reproduction of the reconstructed five-channel audio signal in this manner can also be improved if the channels of the downmix signal are formed as linear combinations of the first and second channel groups, respectively.
Для дополнительного улучшения качества воспроизведения реконструированного пятиканального аудиосигнала можно, например, выполнить интерполяцию значений преддекорреляционных коэффициентов в ответ на переключение формата кодирования. В первом формате кодирования F1 входной сигнал декорреляции D1, D2, D3 можно определить следующим образом:To further improve the reproduction quality of the reconstructed five-channel audio signal, for example, interpolation of the values of pre-decoration coefficients can be performed in response to switching the coding format. In the first coding format F 1 , the decorrelation input signal D1, D2, D3 can be defined as follows:
тогда как во втором формате кодирования F2 входной сигнал декорреляции D1, D2, D3 можно определить следующим образом:while in the second coding format F 2 the decorrelation input signal D1, D2, D3 can be defined as follows:
В ответ на переключение с первого формата кодирования F1 на второй формат кодирования F2 можно, например, выполнить непрерывную или линейную интерполяцию между преддекорреляционной матрицей в уравнении (3) и преддекорреляционной матрицей в уравнении (4).In response to switching from the first coding format F 1 to the second coding format F 2 , continuous or linear interpolation can be performed between the pre-decoration matrix in equation (3) and the pre-decoration matrix in equation (4), for example.
Сигнал понижающего микширования L1, L2 в уравнениях (3) и (4) может, например, присутствовать в QMF-области, и при переключении между форматами кодирования коэффициенты понижающего микширования, примененные на стороне кодера для вычисления сигнала понижающего микширования L1, L2 согласно уравнению (1), можно интерполировать, например, на протяжении 32 QMF-интервалов. Интерполяцию преддекорреляционных коэффициентов (или матриц) можно, например, синхронизировать с интерполяцией коэффициентов понижающего микширования, например, ее можно выполнить на протяжении тех же 32 QMF-интервалов. Интерполяция преддекорреляционных коэффициентов может представлять собой, например, широкополосную интерполяцию, например, использованную для всех полос частот, декодированных системой 1000 декодирования аудио.The downmix signal L 1 , L 2 in equations (3) and (4) may, for example, be present in the QMF region, and when switching between coding formats, the downmix coefficients applied at the encoder side to calculate the downmix signal L 1 , L 2 according to equation (1) can be interpolated over 32 QMF intervals, for example. The interpolation of the pre-decoration coefficients (or matrices) may, for example, be synchronized with the interpolation of the downmix coefficients, for example, it may be performed over the same 32 QMF intervals. The interpolation of the pre-decoration coefficients may be, for example, a wideband interpolation, such as used for all frequency bands decoded by the
«Сухие» и «влажные» коэффициенты повышающего микширования βL, γL также можно интерполировать. Интерполяциями «сухих» и «влажных» коэффициентов повышающего микширования βL, γL можно, например, управлять при помощи сигнализации S со стороны кодера для улучшения обработки переходов. При переключении формата кодирования интерполяционная схема, выбранная на стороне кодера для интерполяции «сухих» и «влажных» коэффициентов повышающего микширования βL, γL на стороне декодера, может представлять собой, например, интерполяционную схему, подходящую для переключения формата кодирования, которая может отличаться от интерполяционных схем, применяемых для «сухих» и «влажных» коэффициентов повышающего микширования βL, γL при отсутствии переключений форматов кодирования.The dry and wet upmix coefficients β L , γ L can also be interpolated. The interpolations of the dry and wet upmix coefficients β L , γ L can, for example, be controlled by signaling S on the encoder side to improve transition processing. When switching the coding format, the interpolation scheme selected at the encoder side to interpolate dry and wet upmix coefficients β L , γ L at the decoder side may be, for example, an interpolation scheme suitable for switching the coding format, which may be different from the interpolation schemes used for dry and wet upmix coefficients β L , γ L in the absence of coding format switching.
В некоторых примерах осуществления в секции 900 декодирования может применяться по меньшей мере одна интерполяционная схема, отличающаяся от дополнительной секции 1005 декодирования.In some embodiments, at least one interpolation scheme different from
На Фиг. 12 представлена блок-схема способа 1200 декодирования аудио для реконструкции М-канального аудиосигнала на основе двухканального сигнала понижающего микширования и ассоциированных параметров повышающего микширования в соответствии с одним примером осуществления. Пример способа 1200 декодирования в настоящей заявке представляет собой способ декодирования, который может быть реализован системой 1000 декодирования аудио, описанной применительно к Фиг. 10.On FIG. 12 is a flowchart of an
Способ 1200 декодирования аудио включает получение 1201 двухканального сигнала понижающего микширования L1, L2 и параметров повышающего микширования αL для параметрической реконструкции пятиканального аудиосигнала L, LS, LB, TFL, TBL, описанного применительно к Фиг. 6–8, на основе сигнала понижающего микширования L1, L2; получение 1202 сигнализации S, указывающий формат, выбранный из форматов кодирования F1, F2, F3, описанных применительно к Фиг. 6–8; и определение 1203 набора преддекорреляционных коэффициентов на основе указанного формата кодирования.An
Способ 1200 декодирования аудио включает обнаружение 1204 того, происходит ли переключение с одного формата кодирования на другой. Если переключение не обнаружено, как обозначено на блок-схеме буквой N, то следующим этапом является вычисление 1205 входного сигнала декорреляции D1, D2, D3 как линейного отображения сигнала понижающего микширования L1, L2, причем к сигналу понижающего микширования применяют набор преддекорреляционных коэффициентов. С другой стороны, если обнаружено переключение формата кодирования, как обозначено буквой Y на блок-схеме, то вместо этого следующим шагом является выполнение 1206 интерполяции в форме постепенного перехода от значений преддекорреляционных коэффициентов одного формата кодирования к значениям преддекорреляционных коэффициентов другого формата кодирования, а затем вычисление 1205 входного сигнала декорреляции D1, D2, D3 с использованием интерполированных значений преддекорреляционных коэффициентов.
Способ 1200 декодирования аудио включает создание 1207 декоррелированного сигнала на основе входного сигнала декорреляции D1, D2, D3; и определение 1208 набора «влажных» и «сухих» коэффициентов повышающего микширования βL, γL на основе полученных параметров повышающего микширования и указанного формата кодирования.An
Если переключение формата кодирования не обнаружено, как обозначено ветвью N от блока 1209 проверки условия, то способ 1200 переходит к вычислению 1210 «сухого» сигнала повышающего микширования как линейного отображения сигнала понижающего микширования, причем к сигналу понижающего микширования L1, L2 применяют набор «сухих» коэффициентов повышающего микширования βL; и вычислению 1211 «влажного» сигнала повышающего микширования как линейного отображения декоррелированного сигнала, причем к декоррелированному сигналу применяют набор «влажных» коэффициентов повышающего микширования γL. С другой стороны, если обнаружено переключение с одного формата кодирования на другой, как обозначено на блок-схеме ветвью Y от блока 1209 проверки условия, то способ вместо этого переходит к выполнению 1212 интерполяции от значений «сухих» и «влажных» коэффициентов повышающего микширования (включая нулевые значения коэффициентов), применимых к одному формату кодирования, к значениям «сухих» и «влажных» коэффициентов повышающего микширования (включая нулевые значения коэффициентов), применимых к другому формату кодирования; вычислению 1210 «сухого» сигнала повышающего микширования как линейного отображения сигнала понижающего микширования L1, L2, причем к сигналу понижающего микширования L1, L2 применяют интерполированный набор «сухих» коэффициентов повышающего микширования; и вычислению 1211 «влажного» сигнала повышающего микширования как линейного отображения декоррелированного сигнала, причем к декоррелированному сигналу применяют интерполированный набор «влажных» коэффициентов повышающего микширования. Способ также включает объединение 1213 «сухих» и «влажных» сигналов повышающего микширования для получения многомерного реконструированного аудиосигнала , соответствующего подлежащему реконструкции пятиканальному аудиосигналу.If no coding format switch is detected, as indicated by branch N from
На Фиг. 13 представлена обобщенная структурная схема секции 1300 декодирования для реконструкции 13.1-канального аудиосигнала на основе 5.1-канального аудиосигнала и ассоциированных параметров повышающего микширования α в соответствии с одним примером осуществления.On FIG. 13 is a generalized block diagram of a
В настоящем примере осуществления примером 13.1-канального аудиосигнала являются каналы LW (левый широкий), LSCRN (левый экранный), TFL (верхний фронтальный левый), LS (левый боковой), LB (левый тыловой), TBL (верхний тыловой левый), RW (правый широкий), RSCRN (правый экранный), TFR (верхний фронтальный правый), RS (правый боковой), RB (правый тыловой), TBR (верхний тыловой правый), C (центральный) и LFE (канал низкочастотных эффектов). Данный 5.1-канальный сигнал включает сигнал понижающего микширования L1, L2, для которого первый канал L1 соответствует линейной комбинации каналов LW, LSCRN, TFL и для которого второй канал L2 соответствует линейной комбинации каналов LS, LB, TBL; и дополнительный сигнал понижающего микширования R1, R2, для которого первый канал R1 соответствует линейной комбинации каналов RW, RSCRN, TFR и для которого второй канал R2 соответствует линейной комбинации каналов RS, RB, TBR; и каналы C и LFE.In the present embodiment, 13.1-channel audio examples are LW (Wide Left), LSCRN (Screen Left), TFL (Front Top Left), LS (Surround Left), LB (Surround Left), TBL (Surround Top Left), RW (Wide Right), RSCRN (Screen Right), TFR (Top Front Right), RS (Right Side), RB (Right Surround), TBR (Top Surround Right), C (Center), and LFE (Low Frequency Effects Channel). This 5.1-channel signal includes a downmix signal L 1 , L 2 for which the first channel L 1 corresponds to a linear combination of channels LW, LSCRN, TFL and for which the second channel L 2 corresponds to a linear combination of channels LS, LB, TBL; and an additional downmix signal R 1 , R 2 , for which the first channel R 1 corresponds to a linear combination of channels RW, RSCRN, TFR and for which the second channel R 2 corresponds to a linear combination of channels RS, RB, TBR; and channels C and LFE.
Первая секция 1310 повышающего микширования реконструирует каналы LW, LSCRN и TFL на основе первого канала L1 сигнала понижающего микширования под управлением по меньшей мере некоторых из параметров повышающего микширования α; вторая секция 1320 повышающего микширования реконструирует каналы LS, LB, TBL на основе второго канала L2 сигнала понижающего микширования под управлением по меньшей мере некоторых из параметров повышающего микширования α; третья секция 1330 повышающего микширования реконструирует каналы RW, RSCRN, TFR на основе первого канала R1 дополнительного сигнала понижающего микширования под управлением по меньшей мере некоторых из параметров повышающего микширования α; а четвертая секция 1340 повышающего микширования реконструирует каналы RS, RB, TBR на основе второго канала R2 сигнала понижающего микширования под управлением по меньшей мере некоторых из параметров повышающего микширования α. Реконструированный вариант 13.1-канального аудиосигнала может обеспечиваться в качестве выхода секции 1310 декодирования.The
В примере осуществления система 1000 декодирования аудио, описанная применительно к Фиг. 10, может содержать секцию 1300 декодирования в дополнение к секциям 900 и 1005 декодирования или может по меньшей мере функционировать с возможностью реконструкции 13.1-канального сигнала способом, сходным с осуществляемым в секции 1300 декодирования. Сигнализация S, извлеченная из битового потока B может, например, показывать, представляет ли полученный 5.1-канальный аудиосигнал L1, L2, R1, R2, C, LFE и ассоциированные параметры повышающего микширования 11.1-канальный сигнал, как описано применительно к Фиг. 10, или же он представляет 13.1-канальный аудиосигнал, как описано применительно к Фиг. 13.In an exemplary embodiment, the
Секция 1009 управления может определять, обозначает ли полученная сигнализация S 11.1-канальную или 13.1-канальную конфигурацию, и может управлять другими секциями системы 1000 декодирования аудио при выполнении параметрической реконструкции либо 11.1-канального аудиосигнала, как описано применительно к Фиг. 10, либо 13.1-канального аудиосигнала, как описано применительно к Фиг. 13. Для 13.1-канальной конфигурации можно, например, использовать единственный формат кодирования вместо двух или трех форматов кодирования, используемых для 11.1-канальной конфигурации. Если сигнализация S обозначает 13.1-канальную конфигурацию, формат кодирования, таким образом, может быть указан неявно, и может отсутствовать необходимость в сигнализации S, явным образом указывающей выбранный формат кодирования.The
Следует понимать, что хотя примеры осуществления, описанные применительно к Фиг. 1–5, изложены в терминах 11.1-канального аудиосигнала, описанного применительно к Фиг. 6–8, могут быть предусмотрены системы кодирования, которые могут включать любое количество секций кодирования и которые могут быть выполнены с возможностью кодирования любого количества М-канальных аудиосигналов, где M ≥ 4. Аналогично следует понимать, что хотя примеры осуществления, описанные применительно к Фиг. 9–12, изложены в терминах 11.1-канального аудиосигнала, описанного применительно к Фиг. 6–8, могут быть предусмотрены системы декодирования, которые могут включать любое количество секций декодирования и которые могут быть выполнены с возможностью реконструкции любого количества М-канальных аудиосигналов, где M ≥ 4.It should be understood that while the embodiments described with respect to FIGS. 1-5 are set forth in terms of the 11.1-channel audio signal described with respect to FIG. 6-8, coding systems may be provided that may include any number of coding sections and that may be configured to encode any number of M -channel audio signals, where M ≥ 4. Similarly, it should be understood that while the embodiments described with respect to FIG. . 9-12 are set forth in terms of the 11.1-channel audio signal described with respect to FIG. 6-8, decoding systems may be provided which may include any number of decoding sections and which may be capable of reconstructing any number of M -channel audio signals, where M ≥ 4.
В некоторых примерах осуществления сторона кодера может выбирать между тремя форматами кодирования F1, F2, F3. В других примерах осуществления сторона кодера может выбирать только между двумя форматами кодирования, например первым и вторым форматами кодирования F1, F2.In some embodiments, the encoder side can choose between three coding formats F 1 , F 2 , F 3 . In other embodiments, the encoder side can only choose between two coding formats, such as the first and second coding formats F 1 , F 2 .
На Фиг. 14 представлена обобщенная структурная схема секции 1400 кодирования для кодирования М-канального аудиосигнала в виде двухканального сигнала понижающего микширования и ассоциированных «сухих» и «влажных» коэффициентов повышающего микширования в соответствии с одним примером осуществления. Секция 1400 кодирования может находиться в системе кодирования аудио типа, показанного на Фиг. 3. Более конкретно, она может быть расположена в месте, занимаемом секцией 100 кодирования. Как станет очевидно из описания внутренней работы показанных компонентов, секция 1400 кодирования может функционировать в двух разных форматах кодирования; однако можно реализовать сходные секции кодирования, не выходящие за рамки объема изобретения, которые способны работать в трех или более форматах кодирования.On FIG. 14 is a generalized block diagram of an
Секция 1400 кодирования содержит секцию 1410 понижающего микширования и секцию 1420 анализа. По меньшей мере для одного выбранного формата (см. ниже описание секции управления 1430 из секции 1400 кодирования) из форматов кодирования F1, F2, который может представлять собой один из форматов, описанных применительно к Фиг. 6–7, или какой-либо из других форматов, секция 1410 понижающего микширования вычисляет в соответствии с форматом кодирования двухканальный сигнал понижающего микширования L1, L2 на основе пятиканального аудиосигнала L, LS, LB, TFL, TBL. Например, в первом формате кодирования F1 первый канал L1 сигнала понижающего микширования формируется в виде линейной комбинации (например, суммы) первой группы каналов пятиканального аудиосигнала L, LS, LB, TFL, TBL, а второй канал L2 сигнала понижающего микширования формируется в виде линейной комбинации (например, суммы) второй группы каналов пятиканального аудиосигнала L, LS, LB, TFL, TBL. Действие, выполняемое секцией 1410 понижающего микширования, может быть описано, например, выражением (1).The
Для указанного по меньшей мере одного выбранного формата из форматов кодирования F1, F2 секция 1420 анализа определяет набор «сухих» коэффициентов повышающего микширования βL, определяющих линейное отображение соответствующего сигнала понижающего микширования L1, L2, аппроксимирующее пятиканальный аудиосигнал L, LS, LB, TFL, TBL. Для каждого из форматов кодирования F1, F2 секция 1420 анализа дополнительно определяет набор «влажных» коэффициентов повышающего микширования γL на основе соответствующей вычисленной разности, которые в сочетании с «сухими» коэффициентами повышающего микширования βL позволяют осуществить параметрическую реконструкцию согласно уравнению (2) пятиканального аудиосигнала L, LS, LB, TFL, TBL из сигнала понижающего микширования L1, L2 и из трехканального декоррелированного сигнала, определенного на стороне декодера на основе сигнала понижающего микширования L1, L2. Набор «влажных» коэффициентов повышающего микширования γL определяет линейное отображение декоррелированного сигнала, при котором ковариационная матрица сигнала, полученного путем линейного отображения декоррелированного сигнала, аппроксимирует разность между ковариационной матрицей полученного пятиканального аудиосигнала L, LS, LB, TFL, TBL и ковариационной матрицей пятиканального аудиосигнала, аппроксимированного путем линейного отображения сигнала понижающего микширования L1, L2.For said at least one selected format from the coding formats F 1 , F 2 , analysis section 1420 determines a set of dry upmix coefficients β L defining a linear mapping of the corresponding downmix signal L 1 , L 2 approximating a five-channel audio signal L, LS, LB, TFL, TBL. For each of the coding formats F 1 , F 2 ,
Секция 1410 понижающего микширования может, например, вычислять сигнал понижающего микширования L1, L2 во временной области, т. е. на основе представления во временной области пятиканального аудиосигнала L, LS, LB, TFL, TBL, или в частотной области, т. е. на основе представления в частотной области пятиканального аудиосигнала L, LS, LB, TFL, TBL. Вычисление L1, L2 во временной области является возможным, по меньшей мере если выбор формата кодирования не является частотно-избирательным, и следовательно применимым ко всем частотным компонентам М-канального аудиосигнала; в настоящее время это является предпочтительным вариантом.The
Секция 1420 анализа может, например, определять «сухие» коэффициенты повышающего микширования βL и «влажные» коэффициенты повышающего микширования γL на основе анализа в частотной области пятиканального аудиосигнала L, LS, LB, TFL, TBL. Анализ в частотной области можно выполнить на кадрированном участке М-канального аудиосигнала. Для кадрирования можно, например, использовать разъединенные прямоугольные или перекрывающиеся треугольные окна. Секция 1420 анализа может, например, получать сигнал понижающего микширования L1, L2, вычисленный секцией 1410 понижающего микширования (не показана на Фиг. 14), или может вычислять собственный вариант сигнала понижающего микширования L1, L2 для конкретной цели определения «сухих» коэффициентов повышающего микширования βL и «влажных» коэффициентов повышающего микширования γL.The
Секция 1400 кодирования дополнительно содержит секцию 1430 управления, которая отвечает за выбор формата, используемого в данный момент. Нет необходимости в том, чтобы секция 1430 управления использовала определенный критерий или определенное основание при принятии решения о выборе формата кодирования. Значение сигнализации S, сгенерированное секцией 1430 управления, обозначает результат принятого секцией 1430 управления решения для рассмотренного в данный момент участка (например, временного интервала) М-канального аудиосигнала. Сигнализацию S можно включить в битовый поток B, генерируемый системой 300 кодирования, в которую входит секция 1400 кодирования, чтобы упростить реконструкцию закодированного аудиосигнала. Кроме того, сигнализация S передается и в каждую из секции 1410 понижающего микширования и секции 1420 анализа для информирования этих секций об используемом формате кодирования. Как и секция 1420 анализа, секция 1430 управления может рассматривать кадрированные участки М-канального сигнала. Для полноты следует отметить, что секция 1410 понижающего микширования может работать с задержкой в 1 или 2 кадра и, возможно, с дополнительным опережением относительно секции 1430 управления. Сигнализация S также может необязательно содержать информацию, относящуюся к обеспечению плавного перехода сигнала понижающего микширования, создаваемого секцией 1410 понижающего микширования, и/или информацию, относящуюся к интерполяции на стороне декодера дискретных значений «сухих» и «влажных» коэффициентов повышающего микширования, которую предоставляет секция 1420 анализа, для обеспечения синхронности на субкадровой временной шкале.The
В качестве необязательного компонента секция 1400 кодирования может включать стабилизатор 1440, расположенный непосредственно после секции 1430 управления и воздействующий на ее выходной сигнал непосредственно перед его обработкой другими компонентами. На основе этого выходного сигнала стабилизатор 1440 предоставляет дополнительную информацию S последующим компонентам. Стабилизатор 1440 может обеспечивать достижение желаемой цели: не менять формат кодирования слишком часто. Для этой цели стабилизатор 1440 может учитывать количество выборов формата кодирования на протяжении прошедших временных интервалов М-канального аудиосигнала и обеспечивать, чтобы выбранный формат кодирования сохранялся по меньшей мере в течение заданного количества временных интервалов. В альтернативном варианте осуществления стабилизатор может применить усредняющий фильтр к некоторому количеству выполненных выборов формата кодирования (например, представленному дискретной переменной), что может создать эффект сглаживания. В еще одном варианте осуществления стабилизатор 1440 может содержать конечный автомат, выполненный с возможностью передачи дополнительной информации S для всех временных интервалов в движущемся временном окне, если конечный автомат определит, что выбор формата кодирования, выполненный секцией 1430 управления, остался неизменным на протяжении движущегося временного окна. Движущееся временное окно может соответствовать буферу, хранящему результаты выбора форматов кодирования для некоторого числа прошедших временных интервалов. Специалист, изучающий настоящее описание, легко поймет, что такие функции стабилизации, возможно, потребуется сопроводить увеличением операционной задержки между стабилизатором 1440, и по меньшей мере секцией 1410 понижающего микширования, и секцией 1420 анализа. Задержку можно реализовать при помощи секций буферизации М-канального аудиосигнала.As an optional component, the
Как описано выше, Фиг. 14 представляет собой частичный вид системы кодирования, показанной на Фиг. 3. Хотя компоненты, показанные на Фиг. 14, относятся только к обработке левосторонних каналов L, LS, LB, TFL, TBL, система кодирования обрабатывает также по меньшей мере правосторонние каналы R, RS, RB, TFR, TBR. Например, дополнительный экземпляр (например, функционально эквивалентная копия) секции 1400 кодирования может работать параллельно, кодируя правосторонний сигнал, включая указанные каналы R, RS, RB, TFR, TBR. Хотя левосторонние и правосторонние каналы участвуют в двух отдельных сигналах понижающего микширования (или по меньшей мере в отдельных группах каналов общего сигнала понижающего микширования), для всех каналов предпочтительно использовать общий формат кодирования. Иными словами, секция 1430 управления в левосторонней секции 1400 кодирования может отвечать за принятие решения об общем формате кодирования для использования как левосторонними, так и правосторонними каналами; таким образом, предпочтительно, чтобы секция 1430 управления также имела доступ к правосторонним каналам R, RS, RB, TFR, TBR или к количественным показателям, полученным по этим сигналам, например, ковариации, сигналу понижающего микширования и т. п., и могла учитывать их при выборе используемого формата кодирования. Затем сигнализация S передается не только к секции 1410 понижающего микширования и секции 1420 анализа секции 1430 управления (левосторонней), но также и к эквивалентным секциям правосторонней секции кодирования (не показана). В альтернативном варианте осуществления можно достигнуть цели использования общего формата кодирования для всех каналов, если сама секция 1430 управления будет общей для левостороннего и правостороннего экземпляра секции 1400 управления. В схеме того типа, который показан на Фиг. 3, секция 1430 кодирования может быть выполнена вне как секции 100 кодирования, так и дополнительной секции 303 кодирования, отвечающих за левосторонние и правосторонние каналы соответственно, и может получать все левосторонние и правосторонние каналы L, LS, LB, TFL, TBL, R, RS, RB, TFR, TBR и выводить сигнализацию S, которая обозначает выбор формата кодирования и передается по меньшей мере к секции 100 кодирования и дополнительной секции 303 кодирования.As described above, FIG. 14 is a partial view of the coding system shown in FIG. 3. Although the components shown in FIG. 14 relate only to the processing of the left-side channels L, LS, LB, TFL, TBL, the coding system also processes at least the right-side channels R, RS, RB, TFR, TBR. For example, an additional instance (eg, a functionally equivalent copy) of the
На Фиг. 15 схематично представлена возможная реализация секции 1410 понижающего микширования, выполненной с возможностью переключения в соответствии с сигнализацией S между двумя заданными форматами кодирования F1, F2 и обеспечения плавного перехода между ними. Секция 1410 понижающего микширования содержит две подсекции 1411, 1412 понижающего микширования, выполненные с возможностью получения М-канального аудиосигнала и вывода двухканального сигнала понижающего микширования. Две подсекции 1411, 1412 понижающего микширования могут быть функционально эквивалентными копиями одной схемы, хотя выполненными с разными параметрами понижающего микширования (например, значениями коэффициентов для получения сигнала понижающего микширования L1, L2 на основе М-канального аудиосигнала). При нормальной работе две подсекции 1411, 1412 понижающего микширования вместе обеспечивают один сигнал понижающего микширования L1(F1), L2(F1) в соответствии с первым форматом кодирования F1 и/или один сигнал понижающего микширования L1(F2), L2(F2) в соответствии со вторым форматом кодирования F2. После подсекций 1411, 1412 понижающего микширования расположены первая секция 1413 интерполяции понижающего микширования и вторая секция 1414 интерполяции понижающего микширования. Первая секция 1413 интерполяции понижающего микширования выполнена с возможностью интерполяции, в том числе обеспечения плавного перехода, первого канала L1 сигнала понижающего микширования, а вторая секция 1414 интерполяции понижающего микширования выполнена с возможностью интерполяции, в том числе обеспечения плавного перехода, второго канала L2 сигнала понижающего микширования. Первая секция 1413 интерполяции понижающего микширования может работать по меньшей мере в следующих состояниях:On FIG. 15 schematically shows a possible implementation of a
a) только первый формат кодирования (L1 = L1(F1)) можно использовать при стабильной работе в первом формате кодирования;a) only the first coding format (L 1 = L 1 (F 1 )) can be used with stable operation in the first coding format;
b) только второй формат кодирования (L1 = L1(F2)) можно использовать при стабильной работе во втором формате кодирования; иb) only the second coding format (L 1 = L 1 (F 2 )) can be used with stable operation in the second coding format; And
c) объединение каналов понижающего микширования в соответствии с обоими форматами кодирования (L1 = α1L1(F1) + α2L1(F2), причем 0 < α1 < 1 и 0 < α2 < 1) можно использовать при переходе от первого ко второму формату кодирования или наоборот.c) combining downmix channels according to both coding formats (L 1 = α 1 L 1 (F 1 ) + α 2 L 1 (F 2 ), where 0 < α 1 < 1 and 0 < α 2 < 1) can be to be used when switching from the first to the second encoding format or vice versa.
Для состояния объединения (c) может быть необходимо, чтобы были доступны сигналы понижающего микширования как с первой, так и со второй подсекций понижающего микширования 1411, 1412. Предпочтительно первая секция 1413 интерполяции понижающего микширования может работать во множестве состояний объединения (c), чтобы был возможен переход мелкими подшагами или даже с псевдонепрерывным плавным переходом. Преимущество этого заключается в том, что плавный переход становится менее заметным. Например, в схеме интерполятора, где α1 + α2 = 1, возможен пятиступенчатый плавный переход, если определены следующие значения (α1, α2): (0,2; 0,8); (0,4; 0,6); (0,6; 0,4); (0,8; 0,2). Вторая секция 1414 интерполяции понижающего микширования может иметь идентичные или сходные возможности.It may be necessary for the combining state (c) that downmix signals from both the first and
В одной версии вышеуказанного варианта осуществления секции 1410 понижающего микширования, указанной пунктирной линией на Фиг. 15, сигнализация S может также подаваться на первую и вторую подсекции 1411, 1412 понижающего микширования. Как описано выше, создание сигнала понижающего микширования, связанного с невыбранным форматом кодирования, далее может подавляться. Это может снизить среднюю вычислительную нагрузку.In one version of the above embodiment, the
В качестве дополнения или альтернативы этой версии плавный переход между сигналами понижающего микширования двух разных форматов кодирования можно осуществлять путем плавного перехода коэффициентов понижающего микширования. В первую подсекцию 1411 понижающего микширования затем можно передать коэффициенты понижающего микширования, генерируемые интерполятором коэффициентов (не показан), который хранит заданные значения коэффициентов понижающего микширования для использования в доступных форматах кодирования F1, F2 и получает в качестве входа сигнализацию S. В такой конфигурации всю вторую подсекцию 1412 понижающего микширования и первую и вторую подсекции 1413, 1414 интерполяции можно убрать или полностью деактивировать.As an addition or alternative to this version, a smooth transition between the downmix signals of two different coding formats can be done by smooth transition of the downmix coefficients. The
Сигнализация S, которую получает секция 1410 понижающего микширования, передается по меньшей мере к секциям 1413, 1414 интерполяции понижающего микширования, но не обязательно к подсекциям 1411, 1412 понижающего микширования. Необходимо передавать сигнализацию S к подсекциям 1411, 1412 понижающего микширования, если желательным является попеременное функционирование, т. е. если нужно уменьшить количество избыточного понижающего микширования вне переключений форматов кодирования. Сигнализация может представлять собой низкоуровневые команды, например, относящиеся к разным режимам работы секций 1413, 1414 интерполяции понижающего микширования, или она может быть связана с высокоуровневыми инструкциями, например, порядком выполнения заданной программы плавных переходов (например, последовательностью режимов работы, где каждый имеет заданную продолжительность) в заданной начальной точке.The S signaling that the
На Фиг. 16 представлено возможное осуществление секции 1420 анализа, выполненной с возможностью попеременной работы, в соответствии с сигнализацией S, в двух заданных форматах кодирования F1, F2. Секция 1420 анализа содержит две подсекции 1421, 1422 анализа, выполненные с возможностью получения М-канального аудиосигнала и вывода «сухих» и «влажных» коэффициентов повышающего микширования. Эти две подсекции 1421, 1422 анализа могут представлять собой функционально эквивалентные копии одной схемы. При нормальной работе две подсекции 1421, 1422 анализа вместе обеспечивают один набор «сухих» и «влажных» коэффициентов повышающего микширования βL(F1), γL(F1) в соответствии с первым форматом кодирования F1 и/или один набор «сухих» и «влажных» коэффициентов повышающего микширования βL(F2), γL(F2) в соответствии со вторым форматом кодирования F2.On FIG. 16 shows a possible implementation of an
Как описано выше для секции 1420 анализа в целом, текущий сигнал понижающего микширования можно получать из секции 1410 понижающего микширования, или дубликат этого сигнала может генерироваться в секции 1420 анализа. Более точно, первая подсекция 1421 анализа может либо получать сигнал понижающего микширования L1(F1), L2(F1) в соответствии с первым форматом кодирования F1 от первой подсекции 1411 понижающего микширования секции 1410 понижающего микширования, либо может генерировать свой собственный дубликат. Аналогично вторая подсекция 1422 анализа может либо получать сигнал понижающего микширования L1(F2), L2(F2) в соответствии со вторым форматом кодирования F2 от второй подсекции 1412 понижающего микширования или может генерировать свой собственный дубликат этого сигнала.As described above for
После секций 1421, 1422 анализа расположены селектор 1423 «сухих» коэффициентов повышающего микширования и селектор 1424 «влажных» коэффициентов повышающего микширования. Селектор 1423 «сухих» коэффициентов повышающего микширования выполнен с возможностью перенаправления набора «сухих» коэффициентов повышающего микширования βL либо от первой, либо от второй подсекции 1421, 1422 анализа, а селектор 1424 «влажных» коэффициентов повышающего микширования выполнен с возможностью перенаправления набора «влажных» коэффициентов повышающего микширования γL либо от первой, либо от второй подсекции 1421, 1422 анализа. Селектор 1423 «сухих» коэффициентов повышающего микширования может работать по меньшей мере в состояниях (a) и (b), описанных выше применительно к первой секции 1413 интерполяции понижающего микширования. Однако если система кодирования, показанная на Фиг. 3, часть которой описана в данной части раздела, выполнена с возможностью совместной работы с системой декодирования, например, показанной на Фиг. 9, которая выполняет параметрическую реконструкцию на основе интерполированных дискретных значений полученных коэффициентов повышающего микширования, то нет необходимости настраивать состояние объединения, такое как (c), определенное для секций 1413, 1414 интерполяции понижающего микширования. Селектор 1424 «влажных» коэффициентов повышающего микширования может иметь сходные возможности.Following the
Сигнализация S, которую получает секция 1420 анализа, передается по меньшей мере к селекторам 1423, 1424 «влажных» и «сухих» коэффициентов повышающего микширования. Нет необходимости в том, чтобы подсекции 1421, 1422 анализа получали сигнализацию, хотя выгодно избежать излишних вычислений коэффициентов повышающего микширования вне переходов. Сигнализация может представлять собой низкоуровневые команды, например, относящиеся к разным режимам работы селекторов 1423, 1424 «сухих» и «влажных» коэффициентов повышающего микширования, или она может быть связана с высокоуровневыми командами, такими как порядок перехода от одного формата кодирования к другому в конкретном временном интервале. Как описано выше, предпочтительно это включает операцию обеспечения плавного перехода, но может сводиться к определению значений коэффициентов повышающего микширования для подходящей временной точки или определению этих значений для применения в подходящий момент времени.The signaling S that the
Далее будет описан способ 1700, который представляет собой вариант способа кодирования М-канального аудиосигнала в виде двухканального сигнала понижающего микширования в соответствии с одним примером осуществления, который схематически показан в виде блок-схемы на Фиг. 17. Приведенный в данной части раздела в качестве примера способ может осуществляться системой кодирования аудио, содержащей секцию 1400 кодирования, описанную выше применительно к Фиг. 14–16.Next, a
Способ 1700 кодирования аудио включает получение 1710 М-канального аудиосигнала L, LS, LB, TFL, TBL; выбор 1720 одного из по меньшей мере двух форматов кодирования F1, F2, F3, описанных применительно к Фиг. 6–8; вычисление 1730 для выбранного формата кодирования двухканального сигнала понижающего микширования L1, L2 на основе М-канального аудиосигнала L, LS, LB, TFL, TBL; вывод 1740 сигнала понижающего микширования L1, L2 выбранного формата кодирования и дополнительной информации α, позволяющей выполнить параметрическую реконструкцию М-канального аудиосигнала на основе сигнала понижающего микширования; и вывод 1750 сигнализации S, обозначающей выбранный формат кодирования. Способ повторяется, например, для каждого временного интервала М-канального аудиосигнала. Если выходной сигнал операции выбора 1720 имеет иной формат кодирования, чем тот, который был сразу выбран ранее, то сигнал понижающего микширования заменяется на подходящее время плавным переходом между сигналами понижающего микширования в соответствии с предыдущим и текущим форматами кодирования. Как уже описано выше, выполнение плавного перехода дополнительной информации, которую можно подвергнуть внутренней интерполяции на стороне декодера, является необязательным или невозможным.
Следует отметить, что способ, описанный в настоящем документе, можно реализовать без одного или более из четырех этапов 430, 440, 450 и 470, показанных на Фиг. 4.It should be noted that the method described herein may be implemented without one or more of the four
IV. Эквиваленты, расширения, альтернативы и прочие положенияIV. Equivalents, Extensions, Alternatives and Miscellaneous Provisions
Хотя в настоящей заявке описаны и показаны конкретные примеры осуществления, изобретение не ограничивается этими конкретными примерами. В описанные выше примеры осуществления можно вносить модификации и изменения без выхода за рамки объема изобретения, который определяется только прилагаемой формулой изобретения.Although the present application describes and shows specific embodiments, the invention is not limited to these specific examples. Modifications and changes can be made to the above described embodiments without departing from the scope of the invention, which is defined only by the appended claims.
В формуле изобретения слово «содержащий» не исключает других элементов или этапов, а использование единственного числа не исключает множество. Простой факт, что определенные измерения указаны во взаимно отличающихся зависимых пунктах формулы изобретения, не указывает на то, что при необходимости нельзя применить комбинацию этих измерений. Любые ссылочные позиции в формуле изобретения не должны считаться ограничивающими область изобретения.In the claims, the word "comprising" does not exclude other elements or steps, and the use of the singular does not exclude many. The mere fact that certain measurements are indicated in mutually different dependent claims does not mean that a combination of these measurements cannot be used if necessary. Any reference positions in the claims should not be considered as limiting the scope of the invention.
Описанные выше устройства и способы могут быть реализованы в виде программного обеспечения, программно-аппаратного обеспечения, аппаратного обеспечения или их комбинации. В аппаратной реализации разделение задач между функциональными блоками, упомянутыми в описании выше, необязательно соответствует разделению на физические блоки; напротив, один физический компонент может иметь несколько функциональностей, и одна задача может выполняться распределенным образом несколькими физическими компонентами совместно. Определенные компоненты или все компоненты могут быть реализованы в виде программного обеспечения, исполняемого цифровым процессором, процессором сигналов или микропроцессором, или могут быть реализованы в виде аппаратного обеспечения или в виде специализированной интегральной микросхемы. Такое программное обеспечение может распространяться на машиночитаемых носителях, которые могут содержать компьютерные носители данных (или энергонезависимые носители) и средства коммуникации (или промежуточные носители). Как хорошо известно специалисту в данной области техники, термин «компьютерные носители данных» включает как энергозависимые, так и энергонезависимые, как съемные, так и несъемные носители данных, реализованные с помощью любого способа или технологии хранения информации, таких как машиночитаемые команды, структуры данных, программные модули или другие данные. Компьютерные носители данных включают, без ограничений, RAM, ROM, EEPROM, флэш-память или другие технологии памяти, CD-ROM, цифровые универсальные диски (DVD) или другие накопители на оптических дисках, магнитные кассеты, накопители на магнитной ленте, магнитных дисках, или другие магнитные устройства хранения, или любой другой носитель данных, который можно использовать для хранения нужной информации и к которому может получить доступ компьютер. Кроме того, специалисту в данной области хорошо известно, что средства коммуникации обычно реализуют машиночитаемые команды, структуры данных, программные модули или другие данные в виде модулированного сигнала данных, такого как несущая волна или другой механизм переноса, и включают какое-либо средство доставки информации.The devices and methods described above may be implemented in software, firmware, hardware, or a combination thereof. In a hardware implementation, the division of tasks between the functional blocks mentioned in the description above does not necessarily correspond to the division into physical blocks; on the contrary, one physical component may have multiple functionalities, and one task may be performed in a distributed manner by several physical components together. Certain or all of the components may be implemented as software executable by a digital processor, signal processor, or microprocessor, or may be implemented as hardware or as an ASIC. Such software may be distributed on computer-readable media, which may include computer storage media (or non-volatile media) and communications media (or intermediate media). As is well known to those skilled in the art, the term "computer storage media" includes both volatile and non-volatile, removable and non-removable storage media implemented in any method or technology for storing information such as computer readable instructions, data structures, program modules or other data. Computer storage media includes, without limitation, RAM, ROM, EEPROM, flash memory or other memory technologies, CD-ROM, digital versatile disks (DVD) or other optical disc drives, magnetic cassettes, magnetic tape drives, magnetic disks, or other magnetic storage devices, or any other storage medium that can be used to store the desired information and that can be accessed by a computer. In addition, the person skilled in the art is well aware that communication media typically implements computer readable instructions, data structures, program modules, or other data in the form of a modulated data signal, such as a carrier wave or other transfer mechanism, and includes some means of delivering information.
Claims (39)
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462073642P | 2014-10-31 | 2014-10-31 | |
US62/073,642 | 2014-10-31 | ||
US201562128425P | 2015-03-04 | 2015-03-04 | |
US62/128,425 | 2015-03-04 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU2017114642A Division RU2704266C2 (en) | 2014-10-31 | 2015-10-29 | Parametric coding and decoding of multichannel audio signals |
Publications (2)
Publication Number | Publication Date |
---|---|
RU2019131327A RU2019131327A (en) | 2019-11-25 |
RU2798759C2 true RU2798759C2 (en) | 2023-06-27 |
Family
ID=
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060239473A1 (en) * | 2005-04-15 | 2006-10-26 | Coding Technologies Ab | Envelope shaping of decorrelated signals |
US20070121954A1 (en) * | 2005-11-21 | 2007-05-31 | Samsung Electronics Co., Ltd. | System, medium, and method of encoding/decoding multi-channel audio signals |
US20080255856A1 (en) * | 2005-07-14 | 2008-10-16 | Koninklijke Philips Electroncis N.V. | Audio Encoding and Decoding |
RU2439719C2 (en) * | 2007-04-26 | 2012-01-10 | Долби Свиден АБ | Device and method to synthesise output signal |
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060239473A1 (en) * | 2005-04-15 | 2006-10-26 | Coding Technologies Ab | Envelope shaping of decorrelated signals |
US20080255856A1 (en) * | 2005-07-14 | 2008-10-16 | Koninklijke Philips Electroncis N.V. | Audio Encoding and Decoding |
US20070121954A1 (en) * | 2005-11-21 | 2007-05-31 | Samsung Electronics Co., Ltd. | System, medium, and method of encoding/decoding multi-channel audio signals |
RU2439719C2 (en) * | 2007-04-26 | 2012-01-10 | Долби Свиден АБ | Device and method to synthesise output signal |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7193603B2 (en) | Decoder system, decoding method and computer program | |
RU2625444C2 (en) | Audio processing system | |
JP5185337B2 (en) | Apparatus and method for generating level parameters and apparatus and method for generating a multi-channel display | |
JP7009437B2 (en) | Parametric encoding and decoding of multi-channel audio signals | |
CN110085239B (en) | Method for decoding audio scene, decoder and computer readable medium | |
EP2124224A1 (en) | A method and an apparatus for processing an audio signal | |
JP6843992B2 (en) | Methods and equipment for adaptive control of correlation separation filters | |
KR102501969B1 (en) | Parametric mixing of audio signals | |
CN110556116B (en) | Method and apparatus for calculating downmix signal and residual signal | |
RU2798759C2 (en) | Parametric encoding and decoding of multi-channel audio signals | |
US20220293112A1 (en) | Low-latency, low-frequency effects codec |