JP6212348B2 - Upmix device, sound reproduction device, sound amplification device, and program - Google Patents
Upmix device, sound reproduction device, sound amplification device, and program Download PDFInfo
- Publication number
- JP6212348B2 JP6212348B2 JP2013214013A JP2013214013A JP6212348B2 JP 6212348 B2 JP6212348 B2 JP 6212348B2 JP 2013214013 A JP2013214013 A JP 2013214013A JP 2013214013 A JP2013214013 A JP 2013214013A JP 6212348 B2 JP6212348 B2 JP 6212348B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- indirect
- indirect sound
- acoustic signal
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003321 amplification Effects 0.000 title claims description 6
- 238000003199 nucleic acid amplification method Methods 0.000 title claims description 6
- 238000012545 processing Methods 0.000 claims description 48
- 238000000034 method Methods 0.000 claims description 30
- 230000005236 sound signal Effects 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 13
- 238000012544 monitoring process Methods 0.000 claims 1
- 230000000694 effects Effects 0.000 description 9
- 238000000926 separation method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 238000003672 processing method Methods 0.000 description 4
- 101100126625 Caenorhabditis elegans itr-1 gene Proteins 0.000 description 2
- 101100018996 Caenorhabditis elegans lfe-2 gene Proteins 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
Images
Landscapes
- Stereophonic System (AREA)
Description
本発明は、音響信号処理に関し、特には、少ないチャンネル数の音響信号から、より多くのチャンネル数の音響信号を作り出す、アップミックス技術に関するものである。 The present invention relates to acoustic signal processing, and more particularly to an upmix technique for generating an acoustic signal with a larger number of channels from an acoustic signal with a smaller number of channels.
従来、2chステレオの素材から5.1chサラウンドの素材を自動的に作り出すといった、少ないチャンネル数のマルチチャンネルオーディオ信号から、より多いチャンネル数のマルチチャンネルオーディオ信号を作り出す、アップミックスと呼ばれる技術が知られている(例えば、特許文献1、特許文献2、非特許文献1、及び非特許文献2参照)。
Conventionally, a technology called upmix that creates a multichannel audio signal with a larger number of channels from a multichannel audio signal with a smaller number of channels, such as automatically creating 5.1ch surround material from 2ch stereo material, is known. (For example, refer to
上記のアップミックスを行う機器は、例えば、ポストプロダクションなどで既存の2チャンネルオーディオ素材を5.1chサラウンド制作に応用する、あるいは、5.1chサラウンドの音楽番組で2チャンネル制作のカラオケを5.1chに変換して使用するといった用途に使用されている。また、素材レベルでのアップミックスの利用だけではなく、2チャンネルステレオで制作されたプログラムを丸ごとアップミックスして5.1chサラウンドのプログラムにするといった例もある。このように、音響制作において、異なるチャンネル方式で制作された素材を融合したり、互換したりする上で、アップミックス技術は必要不可欠なものである。 The devices that perform the above-mentioned up-mixing, for example, apply existing 2-channel audio material to 5.1ch surround production by post-production, etc., or 5.1ch karaoke of 2-channel production by 5.1ch surround music program It is used for purposes such as converting to In addition to the use of upmix at the material level, there is an example in which a program produced in 2-channel stereo is upmixed into a 5.1ch surround program. In this way, upmix technology is indispensable in order to fuse and interchange materials produced in different channel systems in sound production.
ところで、近年はスーパーハイビジョン用の22.2マルチチャンネル音響を始め、5.1chを上回る多数のチャンネルを有する音響システムの開発が進められている。これらの多チャンネル音響による制作においても、上記と同様の理由により、アップミックス技術が必要不可欠である。 By the way, in recent years, development of an acoustic system having a large number of channels exceeding 5.1 ch, such as 22.2 multi-channel sound for Super Hi-Vision, has been advanced. Upmix technology is indispensable for production using these multi-channel sounds for the same reason as described above.
しかし、現在市販されているアップミックス装置の中に22.2マルチチャンネル音響に対応したものはない。また、Nチャンネルのオーディオ信号からMチャンネルのオーディオ信号を生成する技術(N≦M)も提案されている(例えば、特許文献3、特許文献4参照)が、その多くは5.1chサラウンドなどの二次元平面上にスピーカを配置したシステムを想定したものであり、高さ方向にもスピーカが存在する三次元音響システムに適用した場合に、自然な三次元空間印象が得られるかどうかは検証されていない。
However, none of the upmix devices currently on the market are compatible with 22.2 multichannel sound. In addition, techniques (N ≦ M) for generating an M channel audio signal from an N channel audio signal have been proposed (see, for example,
また、上記のような三次元音響システムに対応するアップミックス用の付帯情報(サイド情報)、すなわち、録音時のマイク配置及びスピーカ配置等の情報が元の音響信号に付加されている場合には、当該サイド情報に基づいたアップミックスが可能となるが、このようなサイド情報を録音時に収集・生成することは容易ではなく、多大な時間や費用が必要となる。 In addition, in the case where additional information (side information) for upmix corresponding to the above three-dimensional acoustic system, that is, information such as microphone arrangement and speaker arrangement at the time of recording is added to the original acoustic signal Up-mixing based on the side information becomes possible, but it is not easy to collect and generate such side information at the time of recording, and a great deal of time and cost are required.
上述のように、22.2マルチチャンネル音響のような、多チャンネルの三次元音響方式へのアップミックス手法は確立されていないのが現状である。 As described above, the present situation is that an upmix method to a multi-channel three-dimensional sound system such as 22.2 multi-channel sound has not been established.
従って、上記のような問題点に鑑みてなされた本発明の目的は、アップミックス用の付帯情報を持たない音響信号または音声データから、より多くのチャンネルの音響信号または音声データを得ることができるアップミックス装置、音響再生装置、音響増幅装置、及びプログラムを提供することにある。 Therefore, an object of the present invention made in view of the above problems is to obtain more channels of acoustic signals or audio data from acoustic signals or audio data that do not have additional information for upmixing. The object is to provide an upmix device, a sound reproduction device, a sound amplification device, and a program.
上記課題を解決するために、本発明に係るアップミックス装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
In order to solve the above problem, an upmix device according to the present invention is an upmix device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.
また、本発明に係るアップミックス装置は、前記遅延処理部は、前記間接音及び前記出力音響信号のチャンネル配置に基づく仮想的な伝搬時間により前記第1間接音を生成することが好ましい。 In the upmix device according to the present invention, it is preferable that the delay processing unit generates the first indirect sound based on a virtual propagation time based on a channel arrangement of the indirect sound and the output acoustic signal.
また、本発明に係るアップミックス装置は、前記残響分離器が分離した直接音に基づいて、前記出力音響信号のチャンネルに対応した第2間接音を生成する残響生成部をさらに備えることが好ましい。 The upmix device according to the present invention preferably further includes a reverberation generation unit that generates a second indirect sound corresponding to the channel of the output acoustic signal based on the direct sound separated by the reverberation separator.
また、本発明に係るアップミックス装置は、前記残響分離器が分離した間接音のレベルを監視し、
該間接音のレベルに応じて、
前記出力音響信号に含める前記第1間接音及び前記第2間接音を制御する間接音付加方法選択部をさらに備えることが好ましい。
The upmix device according to the present invention monitors the level of the indirect sound separated by the reverberation separator,
Depending on the level of the indirect sound,
It is preferable to further include an indirect sound addition method selection unit that controls the first indirect sound and the second indirect sound included in the output acoustic signal.
また、本発明に係るアップミックス装置は、前記間接音付加方法選択部が、ユーザーが間接音の付加方法を指示可能なユーザーインターフェース部を有することが好ましい。 In the upmix device according to the present invention, it is preferable that the indirect sound addition method selection unit includes a user interface unit that allows a user to instruct a method of adding an indirect sound.
また、本発明に係るアップミックス装置は、前記入力音響信号を、異なる周波数帯域成分をもつ複数の音響信号に分離するフィルタをさらに備えることが好ましい。 The upmix device according to the present invention preferably further includes a filter that separates the input acoustic signal into a plurality of acoustic signals having different frequency band components.
また、本発明に係る音響再生装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響再生装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
The sound reproduction device according to the present invention is an sound reproduction device that generates an output sound signal having a larger number of channels than an input sound signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.
また、本発明に係る音響増幅装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響増幅装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
An acoustic amplification device according to the present invention is an acoustic amplification device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.
また、本発明に係るプログラムは、
入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置のコンピュータに、
前記入力音響信号を直接音と間接音に分離するステップと、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成するステップと、
前記直接音と前記第1間接音の比を調整して混合するステップと、
を実行させることを特徴とする。
The program according to the present invention is
To the computer of the upmix device that generates the output sound signal with more channels than the input sound signal,
Separating the input acoustic signal into a direct sound and an indirect sound;
Generating a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
Adjusting and mixing the ratio of the direct sound and the first indirect sound;
Is executed.
本発明によれば、アップミックス用の付帯情報を持たない音響信号または音声データから、より多くのチャンネルの音響信号または音声データを得ることができるアップミックス装置、音響再生装置、音響増幅装置、及びプログラムを提供することができる。 According to the present invention, an upmix device, a sound reproduction device, a sound amplifying device, and a sound amplification device that can obtain sound signals or sound data of more channels from sound signals or sound data that do not have additional information for upmix, and A program can be provided.
(第1実施形態)
以下、本発明の一実施形態に係るアップミックス装置について、図面を参照して説明する。
(First embodiment)
Hereinafter, an upmix device according to an embodiment of the present invention will be described with reference to the drawings.
図1は、本実施形態のアップミックス装置1を用いて、2chステレオ信号である入力音響信号(以下、原信号とも称する。)を22.2chの音響信号にアップミックスする場合の信号処理を例示したものである。図1において、入力される原信号に含まれる左右の音響信号をそれぞれxL(t), xR(t)と表し、出力される音響信号を、y1(t), y2(t),… y24(t)と表している。図2は、本実施形態のアップミックス装置1から出力された22.2chの音響信号を再生可能なスピーカ配置の一例を、チャンネル番号及びチャンネルラベルとともに示した図である。上記の出力信号y1(t), y2(t),… y24(t)は、図2に示す1〜24chのスピーカからそれぞれ出力される。
FIG. 1 illustrates signal processing in the case of upmixing an input acoustic signal (hereinafter also referred to as an original signal) that is a 2ch stereo signal into a 22.2ch acoustic signal using the
本実施形態のアップミックス装置1は、残響分離器10、遅延処理部20、ローパスフィルタ30、混合器40、乗算器50を備える。
The
ここで、原信号の左右の信号xL(t), xR(t)に含まれるそれぞれの直接音をdL(t), dR(t)、間接音をrL(t), rR(t)とすると、原信号の左右の信号xL(t), xR(t)は次式のように表される。 Here, the direct sounds included in the left and right signals x L (t), x R (t) of the original signal are d L (t), d R (t) and the indirect sounds are r L (t), r Assuming R (t), the left and right signals x L (t) and x R (t) of the original signal are expressed as follows.
残響分離器10は、入力された原信号xL(t), xR(t)を、直接音dL(t), dR(t)と間接音rL(t), rR(t)に分離して、遅延処理部20、ローパスフィルタ30、及び混合器40に出力する。なお、残響分離器10は、例えば非特許文献2に記載された残響分離処理方法等の、公知の残響分離処理方法を用いた残響分離器とすることができる。
The
遅延処理部20は、固有の遅延時間情報を有する複数の遅延器21〜25を備え、原信号から分離した間接音rL(t), rR(t)に遅延処理を実行して、相互相関の低い新たな第1間接音を生成する。このように、遅延処理部20で相互相関の低い間接音を生成することで、各チャンネルの間接音の相互相関が低くなり、聴感上の3次元的な広がり感を得ることができる。なお、本実施形態において遅延処理部20は、図2に示す3次元音響システムにおけるスピーカのチャンネル配置に対応する遅延処理を実行する。遅延処理部20による遅延処理は、次式のように表される。
The
ここで、遅延器21〜25が有する遅延時間情報Δts, ΔtH, ΔtVU, ΔtVLは、図2に示すスピーカのチャンネル配置に基づく間接音の仮想的な伝搬時間に応じた値であり、仮想水平伝搬時間をΔts, ΔtH 、中層から上層への仮想伝搬時間をΔtVU、中層から下層への仮想伝搬時間をΔtVL、としている。なお、仮想水平伝搬時間Δts, ΔtHのうち、Δtsは、図2に示すFL(1ch)とFLc(7ch)間及びFR(2ch)とFRc(8ch)間等の、比較的短い距離における間接音の仮想水平伝搬時間を表し、ΔtHは、図2に示すFL(1ch)とSiL(11ch)、FR(2ch)とSiR(12ch)間等の、比較的長い距離における間接音の仮想水平伝搬時間を表している。また、Δts, ΔtH, ΔtVU, ΔtVLの各値は、当業者であれば、r1(t)〜r24(t)の24の信号がすべて異なる信号となるような値を適宜設定できるものである。Δts, ΔtH, ΔtVU, ΔtVLの各値を設定する際には、下限としては相関を下げる効果が得られる範囲とし、上限としては音が先行音効果により分離しない範囲とすることを考慮して各値を決定することが望ましい。上記の観点から、Δts, ΔtH, ΔtVU, ΔtVLの各値は、30ms以下であることが好ましい。また、本実施形態においてΔts, ΔtH, ΔtVU, ΔtVLの各値は、互いに素な値とするのが望ましい。Δts, ΔtH, ΔtVU, ΔtVLの各値の一例としては、Δts=4ms, ΔtH=7ms, ΔtVU=13ms, ΔtVL=11msとすることができる。遅延処理部20によって生成された新たな第1間接音は、混合器40に出力される。
Here, the delay time information Δt s , Δt H , Δt VU , Δt VL included in the
なお、本実施形態では、遅延処理部20に含まれる遅延器21〜25に関して、上式(2)〜(4)を実現する最小限の構成として効率的に遅延処理を行うため、図1に示すように1つの遅延器が複数のチャンネルの遅延処理を実行するよう接続されているが、第1間接音を生成する全てのチャンネルにそれぞれ独立した遅延器を設ける構成としても良い。
In this embodiment, the
また、本実施形態において遅延処理部20は、上式(2)〜(4)で表すように、図2に示す5〜9ch及び11〜24chに該当するチャンネルの新たな第1間接音のみを生成しているが、これに限られるものではなく、例えば3chの新たな第1間接音を生成することも可能である。
Further, in the present embodiment, the
ローパスフィルタ30は、残響分離器10から出力された原信号の直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)、及び間接音rL(t), rR(t)の低域成分lrL(t), lrR(t)をそれぞれ抽出して、混合器40に出力する。ここで、ローパスフィルタ30のカットオフ周波数は、例えば、80〜120Hzとすることができる。またこの例では、ローパスフィルタ30からの出力信号はLFE(Low Frequency Effects)チャンネルである、図2のLFE1(4ch)及びLFE2(10ch)に出力される信号に適用される。
The low-pass filter 30 includes the low-frequency components l dL (t) and l dR (t) of the direct sound d L (t) and d R (t) of the original signal output from the
混合器40は、残響分離器10、遅延処理部20、及びローパスフィルタ30から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、各チャンネルへの信号に含まれる間接音に係数ar1,…, ar24を乗算することにより、各チャンネルに間接音を付加する度合いを調節する。すなわち、混合器40は、直接音と間接音を混合するチャンネル(この例では1ch、2ch、3ch、4ch、10ch)については、直接音と間接音の比を調節することができる。混合器40は、例えば、図2に示すFL(1ch)への信号を生成するため、直接音dL(t)に、係数ar1を乗算した間接音rL(t)を付加する。同様に、混合器40は、FR(2ch)への信号を生成するため、直接音dR(t)に、係数ar2を乗算した間接音rR(t)を付加する。なお、図2に示すFC(3ch)は左右中央に位置するため、混合器40は、原信号の左右の直接音を混合したdL(t)+dR(t)に、原信号の左右の間接音を混合した{rL(t)+rR(t)}を、係数ar3を乗算して付加し、FC(3ch)への信号を生成する。
The
乗算器50は、混合器40から出力される信号に係数a1, a2,…, a24を乗算することにより、チャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),… y24(t)は、次式のように表される。
The
以上の構成を有する本実施形態のアップミックス装置1によれば、アップミックス用の付帯情報を持たない2chの原信号から、22.2chの音響信号にアップミックスすることができる。また、高さ方向にもスピーカが存在する3次元音響システムに応じた遅延処理を各チャンネルに実行して、相互相関の低い新たな第1間接音を生成することにより、高さ方向にも広がりのある自然な3次元空間印象の音を得ることができる。さらに、原信号に含まれる直接音と間接音を分離して、間接音のレベルを調節して混合するため、直接音と間接音の比(バランス)を適切に調節したアップミックスを行うことができる。例えば、クラシックコンサートの音源のように、残響が大きいことが好まれる場合には、間接音のレベルを上げて残響を大きく響かせるといった処理が可能となる。
According to the
(第2実施形態)
次に、本発明の第2実施形態として、L、R、C、SL、SR、LFEチャンネルからなる5.1chサラウンドの原信号を、22.2chの音響信号にアップミックスする場合の信号処理について説明する。なお、第1実施形態と同様の構成については同一の符号で表し、説明を省略する。
(Second Embodiment)
Next, as a second embodiment of the present invention, signal processing in the case of upmixing a 5.1ch surround original signal composed of L, R, C, SL, SR, and LFE channels into a 22.2ch acoustic signal explain. In addition, about the structure similar to 1st Embodiment, it represents with the same code | symbol and abbreviate | omits description.
図3は、残響分離器10、遅延処理部20、混合器40、乗算器50を備えるアップミックス装置100が実行する信号処理を例示したものである。図3において、入力される原信号をxL(t), xR(t), xC(t), xSL(t), xSR(t) , xLFE(t)と表し、出力される音響信号をy1(t), y2(t),… y24(t)と表している。第1実施形態と同様に、アップミックス装置100から出力される音響信号y1(t), y2(t),… y24(t)は、図2に示す1〜24chのスピーカで再生することができる。
FIG. 3 illustrates signal processing executed by the upmix device 100 including the
原信号xL(t), xR(t), xC(t), xSL(t), xSR(t), xLFE(t)に含まれるそれぞれの直接音をdL(t), dR(t), dC(t), dSL(t), dSR(t) , dLFE(t)、間接音をrL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)とすると、原信号は次式のように表される。 Each direct sound contained in the original signal x L (t), x R (t), x C (t), x SL (t), x SR (t), x LFE (t) is d L (t) , d R (t), d C (t), d SL (t), d SR (t), d LFE (t), r L (t), r R (t), r C (t ), r SL (t), r SR (t), r LFE (t), the original signal is expressed by the following equation.
残響分離器10は、入力された原信号xL(t), xR(t), xC(t), xSL(t), xSR(t) , xLFE(t)を、直接音dL(t), dR(t), dC(t), dSL(t), dSR(t), dLFE(t)と間接音rL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)に分離して、遅延処理部20、及び混合器40に出力する。なお、第1実施形態と同様に残響分離器10は、例えば非特許文献2に記載された残響分離処理方法等の、公知の残響分離処理方法を用いた残響分離器とすることができる。
The
遅延処理部20は、固有の遅延時間情報を有する複数の遅延器21〜25を備え、原信号から分離した間接音rL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)に、スピーカのチャンネル配置に対応する遅延処理を実行して、相互相関の低い新たな第1間接音を生成する。遅延処理部20による遅延処理は、次式のように表される。
The
ここで、遅延器21〜25が有する遅延時間情報Δts, ΔtH, ΔtVU, ΔtVLは、第1実施形態と同様である。遅延処理部20によって生成された新たな第1間接音は、混合器40に出力される。
Here, the delay time information Δt s , Δt H , Δt VU , Δt VL included in the
また、本実施形態において遅延処理部20は、上式(7)〜(9)で表すように、図2に示す7〜9ch及び11〜24chに該当するチャンネルの新たな第1間接音のみを生成しているが、これに限られるものではなく、他のチャンネルに対応する新たな第1間接音を生成することも可能である。また、本実施形態においては、原信号にLFE信号であるxLFE(t)が含まれているため、ローパスフィルタを備えない構成としているが、ローパスフィルタを備える構成としても良い。
Further, in the present embodiment, the
混合器40は、第1実施形態と同様に、残響分離器10及び遅延処理部20から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、入力された間接音に係数ar1,…, ar24を乗算することにより、各チャンネルに間接音を付加する度合いを調節する。
Similar to the first embodiment, the
ここで、本実施形態の混合器40は、図2のFL(1ch)、FR(2ch)、FC(3ch)、BL(5ch)、BR(6ch)の各チャンネルについては、原信号の直接音dL(t), dR(t), dC(t), dSL(t), dSR(t)と、係数ar1, ar2, ar3, ar5, ar6を乗算して調節した間接音rL(t), rR(t), rC(t), rSL(t), rSR(t)とを付加する。また、混合器40は、LFEチャンネル用の信号LFE1(4ch)、LFE2(10ch)については、原信号のLFE信号から残響分離器10で分離した直接音dLFE(t)と、係数ar4, ar10を乗算して調節した間接音rLFE(t)とを付加する。
Here, the
乗算器50は、混合器40から出力される信号を、係数a1,…, a24によりチャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),…, y24(t)は、次式のように表される。
The
以上の構成を有する本実施形態のアップミックス装置100によれば、アップミックス用の付帯情報を持たない5.1chの原信号から、22.2chの音響信号にアップミックスすることができ、上記第1実施形態と同様に、高さ方向にもスピーカが存在する3次元音響システムに応じた遅延処理を各チャンネルに実行して、相互相関の低い間接音を生成することにより、高さ方向にも広がりのある自然な3次元空間印象の音を得ることができる。また、本実施形態のアップミックス装置100にあっては、原信号にLFE信号であるxLFE(t)が含まれているため、ローパスフィルタを用いることなく、22.2chの音響信号にアップミックスすることができる。 According to the upmix device 100 of the present embodiment having the above-described configuration, it is possible to upmix from a 5.1ch original signal having no additional information for upmixing to a 22.2ch acoustic signal. As in the first embodiment, delay processing corresponding to a three-dimensional sound system in which speakers are also present in the height direction is performed on each channel to generate indirect sounds with low cross-correlation. You can get a spacious and natural sound of a three-dimensional space. Further, in the upmix device 100 of the present embodiment, since the original signal includes x LFE (t) that is an LFE signal, the upmix device 100 can upmix the 22.2 ch sound signal without using a low-pass filter. can do.
(第3実施形態)
次に、本発明の第3実施形態として、図4に示すアップミックス装置200が2chステレオの原信号を、22.2chの音響信号にアップミックスする場合の信号処理について説明する。なお、第1実施形態と同様の構成については同一の符号で表し、説明を省略する。アップミックス装置200は、残響分離器10、遅延処理部20、混合器40、乗算器50の構成に加え、櫛型フィルタ260、第2残響分離器270、残響生成部280、間接音付加方法制御部290を備える。
(Third embodiment)
Next, as a third embodiment of the present invention, signal processing when the
櫛型フィルタ260は、原信号を異なる周波数帯域成分をもつ複数の音響信号に分離する。本実施形態では、原信号xL(t), xR(t)を、4チャンネルの信号xL1(t), xL2(t), xR1(t), xR2(t)に分離して、混合器40及び第2残響分離器270に出力する。ここで、本実施形態における櫛型フィルタ260の詳細な構成について、図5を参照して説明する。
櫛型フィルタ260は、遅延器261、265、乗算器262、266、減算器263、267、及び加算器264、268を備える。櫛型フィルタ260に入力された原信号xL(t), xR(t)は、それぞれ遅延器261、265、減算器263、267、及び加算器264、268に送られる。
The
遅延器261、265は、それぞれがもつ遅延時間情報ΔtL, ΔtRに基づいて、原信号xL(t), xR(t)に遅延処理を実行し、乗算器262、266に出力する。乗算器262、266は、遅延器261、265からの信号にそれぞれがもつ係数αL, αRを乗算して、減算器263、267及び加算器264、268にそれぞれ出力する。減算器263、267は、原信号xL(t), xR(t)と、乗算器262、266からの出力をそれぞれ減算する。加算器264、268は、原信号xL(t), xR(t)と、乗算器262、266からの出力をそれぞれ加算する。櫛型フィルタ260により生成される信号は、次式のように表される。
The
ここで、乗算器262、266の係数αL, αRは、値が大きいほどxL1(t), xL2(t), xR1(t), xR2(t)の周波数特性の差が大きくなり、分離の効果が大きいが、周波数特性の凹凸も増大し、音質の自然さが失われるため、分離度合いと音質のバランスを考慮して決定することが望ましい。遅延器261、265の遅延時間情報ΔtL, ΔtRについても同様である。なお、原信号の直接音を分離するフィルタとしては、櫛型フィルタに限定されず、例えば原信号を低周波と高周波に分離するフィルタ等、異なる周波数帯域成分をもつ複数の音響信号に分離する様々なフィルタを用いることが可能である。
Here, as the coefficients α L and α R of the
第2残響分離器270は、残響分離器10と同様の機能を有し、櫛型フィルタ260から出力された信号xL1(t), xL2(t), xR1(t), xR2(t)を、直接音dL1(t), dL2(t), dR1(t), dR2(t)と間接音rL1(t), rL2(t), rR1(t), rR2(t)に分離して、混合器40に出力する。第2残響分離器270により生成される信号は、次式のように表される。
The
残響生成部280は、加算器281、残響付加器282、ローパスフィルタ283、残響付加器284を備える。加算器281は、残響分離器10で分離した直接音dL(t), dR(t)を加算し、残響付加器282に出力する。残響付加器282は、残響分離器10で分離した直接音dL(t), dR(t)及び加算器281の出力に基づいて、独立した新たな第2間接音
R1(t), …, R3(t), R5(t), …, R9(t), R11(t), …, R24(t)を生成して、混合器40に出力する。ここで、残響付加器282による第2間接音の生成には、例えば(非特許文献3:森 他,「三次元残響付加装置に用いるインパルス応答測定におけるマイクロホンの指向性に関する一検討」, 日本音響学会 春季研究発表会講演論文集, , 2013年3月)の方法を利用することができる。ローパスフィルタ283は、原信号の直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)、及び間接音rL(t), rR(t)の低域成分lrL(t), lrR(t)をそれぞれ抽出して、混合器40及び残響付加器284に出力する。残響付加器284は、直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)から独立した第2間接音R4(t), R10(t)を生成して、混合器40に出力する。
The
R 1 (t),…, R 3 (t), R 5 (t),…, R 9 (t), R 11 (t),…, R 24 (t) are generated in the
間接音付加方法制御部290は、残響分離器10で分離した間接音rL(t), rR(t)のレベルを監視し、間接音rL(t), rR(t)のレベルに応じて、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音をそれぞれ制御する。具体的には、例えば、残響分離器10で分離した間接音rL(t), rR(t)のレベルが所定の閾値よりも大きい場合には、混合器40のもつ係数aR1, …,aR24を0とするか、もしくは小さくして残響生成部280で生成される第2間接音を付加する度合いを下げることにより、間接音が過大となることを自動的に防ぐことができる。逆に、残響分離器10で分離した間接音rL(t), rR(t)のレベルが所定の閾値よりも小さい場合には、混合器40の係数aR1〜aR24を大きくして残響生成部280で生成される第2間接音を付加する度合いを上げることにより、アップミックスの効果を維持することができる。
Indirect sound adding process controller 290, the indirect sounds separated by reverberation separator 10 r L (t), to monitor the levels of r R (t), the level of the indirect sound r L (t), r R (t) Accordingly, the first indirect sound generated by the
さらに、間接音付加方法制御部290は、ユーザーインターフェース部291を持ち、ユーザーの入力指示があった場合には、上記のような自動制御の実行を中止して、遅延処理部20及び残響生成部280でそれぞれ生成される間接音を付加する度合いを制御することができる。ユーザーインターフェース部291は、ユーザーからの入力に基づいて、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音のうち、例えば、いずれか一方を選択する、あるいは、任意の比率で混合して用いるといった制御を実行することができる。
Further, the indirect sound addition method control unit 290 has a
なお、本実施形態のアップミックス装置200にあっては、櫛型フィルタ260及び第2残響分離器270により、図2で示すFLc(7ch)及びFRc(8ch)に該当するチャンネルの間接音を生成しているため、遅延処理部20では上記チャンネルの間接音を生成していないこととしている。また、その結果として、遅延時間情報Δtsをもつ第1実施形態の遅延器21は不要となるため省略している。本実施形態の遅延処理部20による遅延処理は、次式のように表される。
In the
混合器40は、残響分離器10、遅延処理部20、櫛型フィルタ260、第2残響分離器270、残響生成部280、間接音付加方法制御部290から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、入力された間接音に係数ar1,…, ar24、及びaR1,…, aR24をそれぞれ乗算することにより、各チャンネルに間接音を付加する度合いを調節することができる。
The
混合器40は、例えば、図2に示すFL(1ch)への信号を生成するため、直接音dL(t)に、係数ar1を乗算した間接音rL(t)を付加し、さらに、残響生成部280で生成した第2間接音R1(t)を、係数aR1を乗算して付加する。同様に、混合器40は、FR(2ch)への信号を生成するため、直接音dR(t)に、係数ar2を乗算した間接音rR(t)を付加し、さらに、残響生成部280で生成した第2間接音R2(t)を、係数aR2を乗算して付加する。なお、図2に示すFC(3ch)については、混合器40は、原信号の左右の直接音を混合したdL(t)+dR(t)に、原信号の左右の間接音を混合した{rL(t)+rR(t)}を、係数ar3を乗算して付加し、さらに、残響生成部280で生成した第2間接音R3(t)を、係数aR3を乗算して付加する。
For example, the
乗算器50は、混合器40から出力される信号に係数a1, a2,…, a24を乗算することにより、チャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),… y24(t)は、次式のように表される。
The
本実施形態のアップミックス装置200によれば、第1実施形態で得られる効果に加え、残響生成部280で生成される第2間接音を用いることにより、原信号に含まれる間接音とは、全く別の独立した間接音を生成することができる。
According to the
また、本実施形態のアップミックス装置200によれば、原信号に含まれる間接音が小さい、または0である場合であっても、残響生成部280により新たな第2間接音を生成することができるため、アップミックスの効果を十分に発揮することができる。
Further, according to the
また、本実施形態のアップミックス装置200によれば、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音を選択的に、又は両方を同時に用いてアップミックスを行うことができる。
Further, according to the
また、本実施形態のアップミックス装置200によれば、原信号に含まれる間接音のレベルに応じて、自動的に間接音の生成方法を選択することができる。すなわち、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音のうち、いずれか一方を選択的に用いるか、あるいは同時に使用するかを自動的に制御し、第1間接音及び第2間接音それぞれのレベル調節を自動的に行うことができる。また、また、間接音付加方法制御部290がユーザーインターフェース部291を有することにより、ユーザーの好みで手動での上記制御が可能となる。
Further, according to the
また、本実施形態のアップミックス装置200によれば、櫛型フィルタ260により原信号を分離して、前方チャンネルの直接音についても相互相関の低い音響信号を生成することができるため、さらに聴感上の広がりのある音を得ることができる。
Further, according to the
なお、上記第2実施形態で説明したアップミックス装置100に、本実施形態の櫛型フィルタ260、第2残響分離器270、残響生成部280、及び間接音付加方法制御部290等をそれぞれ適用することで、5.1chの原信号から22.2chの音響信号にアップミックスする場合においても、本実施形態と同様の効果を得ることができる。
Note that the
また、原信号、原信号に含まれる直接音、及び原信号に含まれる間接音のいずれかから、新たな間接音を生成する複数の手法を追加しても、上記実施形態と同様に原信号に含まれる間接音のレベルに応じて間接音の付加方法を自動制御する、あるいは、手動により制御することが可能である。 Even if a plurality of methods for generating a new indirect sound from any one of the original signal, the direct sound included in the original signal, and the indirect sound included in the original signal are added, the original signal is the same as in the above embodiment. The indirect sound addition method can be automatically controlled according to the level of the indirect sound included in the sound, or can be controlled manually.
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段やステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。 Although the present invention has been described based on the drawings and examples, it should be noted that those skilled in the art can easily make various modifications and corrections based on the present disclosure. Therefore, it should be noted that these variations and modifications are included in the scope of the present invention. For example, the functions included in each means, each step, etc. can be rearranged so that there is no logical contradiction, and a plurality of means, steps, etc. can be combined or divided into one. .
1、100、200 アップミックス装置
10 残響分離器
20 遅延処理部
30、283 ローパスフィルタ
40 混合器
50 乗算器
260 櫛型フィルタ(フィルタ)
270 第2残響分離器
280 残響生成部
281 加算器
282 残響付加器
284 残響付加器
290 間接音付加方法制御部
291 ユーザーインターフェース部
DESCRIPTION OF SYMBOLS 1,100,200
270
Claims (9)
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とするアップミックス装置。 An upmix device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
An upmix device comprising:
該間接音のレベルに応じて、
前記出力音響信号に含める前記第1間接音及び前記第2間接音を制御する間接音付加方法選択部をさらに備える、請求項3に記載のアップミックス装置。 Monitoring the level of indirect sound separated by the reverberation separator;
Depending on the level of the indirect sound,
The upmix device according to claim 3, further comprising an indirect sound addition method selection unit that controls the first indirect sound and the second indirect sound included in the output acoustic signal.
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする音響再生装置。 A sound reproduction device that generates an output sound signal having a larger number of channels than an input sound signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
A sound reproducing device comprising:
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする音響増幅装置。 An acoustic amplification device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
A sound amplifying apparatus comprising:
前記入力音響信号を直接音と間接音に分離するステップと、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成するステップと、
前記直接音と前記第1間接音の比を調整して混合するステップと、
を実行させることを特徴とするプログラム。 To the computer of the upmix device that generates the output sound signal with more channels than the input sound signal,
Separating the input acoustic signal into a direct sound and an indirect sound;
Generating a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
Adjusting and mixing the ratio of the direct sound and the first indirect sound;
A program characterized by having executed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013214013A JP6212348B2 (en) | 2013-10-11 | 2013-10-11 | Upmix device, sound reproduction device, sound amplification device, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013214013A JP6212348B2 (en) | 2013-10-11 | 2013-10-11 | Upmix device, sound reproduction device, sound amplification device, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015076857A JP2015076857A (en) | 2015-04-20 |
JP6212348B2 true JP6212348B2 (en) | 2017-10-11 |
Family
ID=53001370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013214013A Active JP6212348B2 (en) | 2013-10-11 | 2013-10-11 | Upmix device, sound reproduction device, sound amplification device, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6212348B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10589053B2 (en) | 2010-12-21 | 2020-03-17 | Koninklijke Philips N.V. | Active valve for ventilators |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019201308A (en) * | 2018-05-16 | 2019-11-21 | 株式会社ビットメディア | Acoustic control device, method, and program |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS50104603U (en) * | 1974-02-01 | 1975-08-28 | ||
JPS5044722Y1 (en) * | 1974-11-01 | 1975-12-19 | ||
JPS5324804A (en) * | 1976-08-19 | 1978-03-08 | Matsushita Electric Ind Co Ltd | Sound reproducing system |
JPS53140002A (en) * | 1977-05-13 | 1978-12-06 | Victor Co Of Japan Ltd | Echo adding device for stereophonic acoustic reproducing system of two channel type |
JPH08256400A (en) * | 1995-03-17 | 1996-10-01 | Matsushita Electric Ind Co Ltd | Sound field processing circuit |
JP5730555B2 (en) * | 2010-12-06 | 2015-06-10 | 富士通テン株式会社 | Sound field control device |
JP5654955B2 (en) * | 2011-07-01 | 2015-01-14 | クラリオン株式会社 | Direct sound extraction device and reverberation sound extraction device |
-
2013
- 2013-10-11 JP JP2013214013A patent/JP6212348B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10589053B2 (en) | 2010-12-21 | 2020-03-17 | Koninklijke Philips N.V. | Active valve for ventilators |
Also Published As
Publication number | Publication date |
---|---|
JP2015076857A (en) | 2015-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8582783B2 (en) | Surround sound generation from a microphone array | |
KR101341523B1 (en) | Method to generate multi-channel audio signals from stereo signals | |
EP2438530B1 (en) | Virtual audio processing for loudspeaker or headphone playback | |
KR102395351B1 (en) | Processing spatially diffuse or large audio objects | |
US8605914B2 (en) | Nonlinear filter for separation of center sounds in stereophonic audio | |
CN108737930B (en) | Audible prompts in a vehicle navigation system | |
EP3035711B1 (en) | Stereophonic sound reproduction method and apparatus | |
KR102671308B1 (en) | Method and device for bass management | |
KR20100084319A (en) | Method and apparatus for adaptive remastering of rear audio channel | |
JP6212348B2 (en) | Upmix device, sound reproduction device, sound amplification device, and program | |
US20140219458A1 (en) | Audio signal reproduction device and audio signal reproduction method | |
KR100725818B1 (en) | Sound reproducing apparatus and method for providing virtual sound source | |
JP6512767B2 (en) | Sound processing apparatus and method, and program | |
JP6463955B2 (en) | Three-dimensional sound reproduction apparatus and program | |
KR101745019B1 (en) | Audio system and method for controlling the same | |
KR102380232B1 (en) | Method and apparatus for 3D sound reproducing | |
JP5915249B2 (en) | Sound processing apparatus and sound processing method | |
KR101090962B1 (en) | Audio up-mixing apparatus and method | |
JP6630599B2 (en) | Upmix device and program | |
KR20220129511A (en) | Method and apparatus for 3D sound reproducing | |
KR20110102719A (en) | Audio up-mixing apparatus and method | |
KR20120068525A (en) | Apparatus and method for down mixing of wave field synthesis signal |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160829 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170609 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170804 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170822 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170915 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6212348 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |