[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6212348B2 - Upmix device, sound reproduction device, sound amplification device, and program - Google Patents

Upmix device, sound reproduction device, sound amplification device, and program Download PDF

Info

Publication number
JP6212348B2
JP6212348B2 JP2013214013A JP2013214013A JP6212348B2 JP 6212348 B2 JP6212348 B2 JP 6212348B2 JP 2013214013 A JP2013214013 A JP 2013214013A JP 2013214013 A JP2013214013 A JP 2013214013A JP 6212348 B2 JP6212348 B2 JP 6212348B2
Authority
JP
Japan
Prior art keywords
sound
indirect
indirect sound
acoustic signal
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013214013A
Other languages
Japanese (ja)
Other versions
JP2015076857A (en
Inventor
敏行 西口
敏行 西口
千晶 森
千晶 森
公男 濱崎
公男 濱崎
善明 鹿喰
善明 鹿喰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2013214013A priority Critical patent/JP6212348B2/en
Publication of JP2015076857A publication Critical patent/JP2015076857A/en
Application granted granted Critical
Publication of JP6212348B2 publication Critical patent/JP6212348B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Stereophonic System (AREA)

Description

本発明は、音響信号処理に関し、特には、少ないチャンネル数の音響信号から、より多くのチャンネル数の音響信号を作り出す、アップミックス技術に関するものである。   The present invention relates to acoustic signal processing, and more particularly to an upmix technique for generating an acoustic signal with a larger number of channels from an acoustic signal with a smaller number of channels.

従来、2chステレオの素材から5.1chサラウンドの素材を自動的に作り出すといった、少ないチャンネル数のマルチチャンネルオーディオ信号から、より多いチャンネル数のマルチチャンネルオーディオ信号を作り出す、アップミックスと呼ばれる技術が知られている(例えば、特許文献1、特許文献2、非特許文献1、及び非特許文献2参照)。   Conventionally, a technology called upmix that creates a multichannel audio signal with a larger number of channels from a multichannel audio signal with a smaller number of channels, such as automatically creating 5.1ch surround material from 2ch stereo material, is known. (For example, refer to Patent Document 1, Patent Document 2, Non-Patent Document 1, and Non-Patent Document 2).

上記のアップミックスを行う機器は、例えば、ポストプロダクションなどで既存の2チャンネルオーディオ素材を5.1chサラウンド制作に応用する、あるいは、5.1chサラウンドの音楽番組で2チャンネル制作のカラオケを5.1chに変換して使用するといった用途に使用されている。また、素材レベルでのアップミックスの利用だけではなく、2チャンネルステレオで制作されたプログラムを丸ごとアップミックスして5.1chサラウンドのプログラムにするといった例もある。このように、音響制作において、異なるチャンネル方式で制作された素材を融合したり、互換したりする上で、アップミックス技術は必要不可欠なものである。   The devices that perform the above-mentioned up-mixing, for example, apply existing 2-channel audio material to 5.1ch surround production by post-production, etc., or 5.1ch karaoke of 2-channel production by 5.1ch surround music program It is used for purposes such as converting to In addition to the use of upmix at the material level, there is an example in which a program produced in 2-channel stereo is upmixed into a 5.1ch surround program. In this way, upmix technology is indispensable in order to fuse and interchange materials produced in different channel systems in sound production.

ところで、近年はスーパーハイビジョン用の22.2マルチチャンネル音響を始め、5.1chを上回る多数のチャンネルを有する音響システムの開発が進められている。これらの多チャンネル音響による制作においても、上記と同様の理由により、アップミックス技術が必要不可欠である。   By the way, in recent years, development of an acoustic system having a large number of channels exceeding 5.1 ch, such as 22.2 multi-channel sound for Super Hi-Vision, has been advanced. Upmix technology is indispensable for production using these multi-channel sounds for the same reason as described above.

しかし、現在市販されているアップミックス装置の中に22.2マルチチャンネル音響に対応したものはない。また、Nチャンネルのオーディオ信号からMチャンネルのオーディオ信号を生成する技術(N≦M)も提案されている(例えば、特許文献3、特許文献4参照)が、その多くは5.1chサラウンドなどの二次元平面上にスピーカを配置したシステムを想定したものであり、高さ方向にもスピーカが存在する三次元音響システムに適用した場合に、自然な三次元空間印象が得られるかどうかは検証されていない。   However, none of the upmix devices currently on the market are compatible with 22.2 multichannel sound. In addition, techniques (N ≦ M) for generating an M channel audio signal from an N channel audio signal have been proposed (see, for example, Patent Document 3 and Patent Document 4), many of which include 5.1ch surround sound and the like. This system assumes a system in which speakers are arranged on a two-dimensional plane, and it is verified whether a natural three-dimensional spatial impression can be obtained when applied to a three-dimensional acoustic system in which speakers are also present in the height direction. Not.

また、上記のような三次元音響システムに対応するアップミックス用の付帯情報(サイド情報)、すなわち、録音時のマイク配置及びスピーカ配置等の情報が元の音響信号に付加されている場合には、当該サイド情報に基づいたアップミックスが可能となるが、このようなサイド情報を録音時に収集・生成することは容易ではなく、多大な時間や費用が必要となる。   In addition, in the case where additional information (side information) for upmix corresponding to the above three-dimensional acoustic system, that is, information such as microphone arrangement and speaker arrangement at the time of recording is added to the original acoustic signal Up-mixing based on the side information becomes possible, but it is not easy to collect and generate such side information at the time of recording, and a great deal of time and cost are required.

特許第4792086号公報Japanese Patent No. 4792086 特許第4664431号公報Japanese Patent No. 4664431 特許第4989468号公報Japanese Patent No. 4998468 特表2012−511845号公報Special table 2012-511845 gazette

濱崎公男,「Digital Audio用語集」, FDI 2011年11月, pp.44.Kimio Amagasaki, “Digital Audio Glossary”, FDI November 2011, pp.44. K. Kinoshita et al. "Blind Upmix Of Stereo Music Signals Using Multi-Step Linear Prediction Based Reverberation Extraction", ICASSP, pp.49-52, 2010.K. Kinoshita et al. "Blind Upmix Of Stereo Music Signals Using Multi-Step Linear Prediction Based Reverberation Extraction", ICASSP, pp.49-52, 2010.

上述のように、22.2マルチチャンネル音響のような、多チャンネルの三次元音響方式へのアップミックス手法は確立されていないのが現状である。   As described above, the present situation is that an upmix method to a multi-channel three-dimensional sound system such as 22.2 multi-channel sound has not been established.

従って、上記のような問題点に鑑みてなされた本発明の目的は、アップミックス用の付帯情報を持たない音響信号または音声データから、より多くのチャンネルの音響信号または音声データを得ることができるアップミックス装置、音響再生装置、音響増幅装置、及びプログラムを提供することにある。   Therefore, an object of the present invention made in view of the above problems is to obtain more channels of acoustic signals or audio data from acoustic signals or audio data that do not have additional information for upmixing. The object is to provide an upmix device, a sound reproduction device, a sound amplification device, and a program.

上記課題を解決するために、本発明に係るアップミックス装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
In order to solve the above problem, an upmix device according to the present invention is an upmix device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.

また、本発明に係るアップミックス装置は、前記遅延処理部は、前記間接音及び前記出力音響信号のチャンネル配置に基づく仮想的な伝搬時間により前記第1間接音を生成することが好ましい。   In the upmix device according to the present invention, it is preferable that the delay processing unit generates the first indirect sound based on a virtual propagation time based on a channel arrangement of the indirect sound and the output acoustic signal.

また、本発明に係るアップミックス装置は、前記残響分離器が分離した直接音に基づいて、前記出力音響信号のチャンネルに対応した第2間接音を生成する残響生成部をさらに備えることが好ましい。   The upmix device according to the present invention preferably further includes a reverberation generation unit that generates a second indirect sound corresponding to the channel of the output acoustic signal based on the direct sound separated by the reverberation separator.

また、本発明に係るアップミックス装置は、前記残響分離器が分離した間接音のレベルを監視し、
該間接音のレベルに応じて、
前記出力音響信号に含める前記第1間接音及び前記第2間接音を制御する間接音付加方法選択部をさらに備えることが好ましい。
The upmix device according to the present invention monitors the level of the indirect sound separated by the reverberation separator,
Depending on the level of the indirect sound,
It is preferable to further include an indirect sound addition method selection unit that controls the first indirect sound and the second indirect sound included in the output acoustic signal.

また、本発明に係るアップミックス装置は、前記間接音付加方法選択部が、ユーザーが間接音の付加方法を指示可能なユーザーインターフェース部を有することが好ましい。   In the upmix device according to the present invention, it is preferable that the indirect sound addition method selection unit includes a user interface unit that allows a user to instruct a method of adding an indirect sound.

また、本発明に係るアップミックス装置は、前記入力音響信号を、異なる周波数帯域成分をもつ複数の音響信号に分離するフィルタをさらに備えることが好ましい。   The upmix device according to the present invention preferably further includes a filter that separates the input acoustic signal into a plurality of acoustic signals having different frequency band components.

また、本発明に係る音響再生装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響再生装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
The sound reproduction device according to the present invention is an sound reproduction device that generates an output sound signal having a larger number of channels than an input sound signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.

また、本発明に係る音響増幅装置は、入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響増幅装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする。
An acoustic amplification device according to the present invention is an acoustic amplification device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
It is characterized by providing.

また、本発明に係るプログラムは、
入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置のコンピュータに、
前記入力音響信号を直接音と間接音に分離するステップと、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成するステップと、
前記直接音と前記第1間接音の比を調整して混合するステップと、
を実行させることを特徴とする。
The program according to the present invention is
To the computer of the upmix device that generates the output sound signal with more channels than the input sound signal,
Separating the input acoustic signal into a direct sound and an indirect sound;
Generating a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
Adjusting and mixing the ratio of the direct sound and the first indirect sound;
Is executed.

本発明によれば、アップミックス用の付帯情報を持たない音響信号または音声データから、より多くのチャンネルの音響信号または音声データを得ることができるアップミックス装置、音響再生装置、音響増幅装置、及びプログラムを提供することができる。   According to the present invention, an upmix device, a sound reproduction device, a sound amplifying device, and a sound amplification device that can obtain sound signals or sound data of more channels from sound signals or sound data that do not have additional information for upmix, and A program can be provided.

本発明の第1実施形態に係るアップミックス装置の概略構成を示す機能ブロック図である。It is a functional block diagram which shows schematic structure of the upmix apparatus which concerns on 1st Embodiment of this invention. 22.2ch信号を再生する場合のスピーカ配置とチャンネル番号及びチャンネルラベルの一例を示す図である。It is a figure which shows an example of the speaker arrangement | positioning in the case of reproducing | regenerating a 22.2ch signal, a channel number, and a channel label. 本発明の第2実施形態に係るアップミックス装置の概略構成を示す機能ブロック図である。It is a functional block diagram which shows schematic structure of the upmix apparatus which concerns on 2nd Embodiment of this invention. 本発明の第3実施形態に係るアップミックス装置の概略構成を示す機能ブロック図である。It is a functional block diagram which shows schematic structure of the upmix apparatus which concerns on 3rd Embodiment of this invention. 櫛型フィルタの構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of a comb filter.

(第1実施形態)
以下、本発明の一実施形態に係るアップミックス装置について、図面を参照して説明する。
(First embodiment)
Hereinafter, an upmix device according to an embodiment of the present invention will be described with reference to the drawings.

図1は、本実施形態のアップミックス装置1を用いて、2chステレオ信号である入力音響信号(以下、原信号とも称する。)を22.2chの音響信号にアップミックスする場合の信号処理を例示したものである。図1において、入力される原信号に含まれる左右の音響信号をそれぞれxL(t), xR(t)と表し、出力される音響信号を、y1(t), y2(t),… y24(t)と表している。図2は、本実施形態のアップミックス装置1から出力された22.2chの音響信号を再生可能なスピーカ配置の一例を、チャンネル番号及びチャンネルラベルとともに示した図である。上記の出力信号y1(t), y2(t),… y24(t)は、図2に示す1〜24chのスピーカからそれぞれ出力される。 FIG. 1 illustrates signal processing in the case of upmixing an input acoustic signal (hereinafter also referred to as an original signal) that is a 2ch stereo signal into a 22.2ch acoustic signal using the upmix device 1 of the present embodiment. It is a thing. In FIG. 1, the left and right acoustic signals included in the input original signal are represented as x L (t) and x R (t), respectively, and the output acoustic signals are represented by y 1 (t) and y 2 (t). , ... y 24 (t). FIG. 2 is a diagram illustrating an example of a speaker arrangement capable of reproducing the 22.2 ch sound signal output from the upmix device 1 of the present embodiment, together with a channel number and a channel label. The output signals y 1 (t), y 2 (t),..., Y 24 (t) are respectively output from the speakers 1 to 24ch shown in FIG.

本実施形態のアップミックス装置1は、残響分離器10、遅延処理部20、ローパスフィルタ30、混合器40、乗算器50を備える。   The upmix device 1 according to the present embodiment includes a reverberation separator 10, a delay processing unit 20, a low-pass filter 30, a mixer 40, and a multiplier 50.

ここで、原信号の左右の信号xL(t), xR(t)に含まれるそれぞれの直接音をdL(t), dR(t)、間接音をrL(t), rR(t)とすると、原信号の左右の信号xL(t), xR(t)は次式のように表される。 Here, the direct sounds included in the left and right signals x L (t), x R (t) of the original signal are d L (t), d R (t) and the indirect sounds are r L (t), r Assuming R (t), the left and right signals x L (t) and x R (t) of the original signal are expressed as follows.

Figure 0006212348
Figure 0006212348

残響分離器10は、入力された原信号xL(t), xR(t)を、直接音dL(t), dR(t)と間接音rL(t), rR(t)に分離して、遅延処理部20、ローパスフィルタ30、及び混合器40に出力する。なお、残響分離器10は、例えば非特許文献2に記載された残響分離処理方法等の、公知の残響分離処理方法を用いた残響分離器とすることができる。 The reverberation separator 10 converts the input original signals x L (t) and x R (t) into direct sounds d L (t) and d R (t) and indirect sounds r L (t) and r R (t ) And output to the delay processing unit 20, the low-pass filter 30, and the mixer 40. The reverberation separator 10 may be a reverberation separator using a known reverberation separation processing method such as the reverberation separation processing method described in Non-Patent Document 2, for example.

遅延処理部20は、固有の遅延時間情報を有する複数の遅延器21〜25を備え、原信号から分離した間接音rL(t), rR(t)に遅延処理を実行して、相互相関の低い新たな第1間接音を生成する。このように、遅延処理部20で相互相関の低い間接音を生成することで、各チャンネルの間接音の相互相関が低くなり、聴感上の3次元的な広がり感を得ることができる。なお、本実施形態において遅延処理部20は、図2に示す3次元音響システムにおけるスピーカのチャンネル配置に対応する遅延処理を実行する。遅延処理部20による遅延処理は、次式のように表される。 The delay processing unit 20 includes a plurality of delay units 21 to 25 having inherent delay time information, and performs a delay process on the indirect sounds r L (t) and r R (t) separated from the original signal so as to perform mutual processing. A new first indirect sound with low correlation is generated. Thus, by generating the indirect sound with low cross-correlation by the delay processing unit 20, the cross-correlation of the indirect sound of each channel becomes low, and a three-dimensional sense of spread can be obtained. In the present embodiment, the delay processing unit 20 executes a delay process corresponding to the speaker channel arrangement in the three-dimensional sound system shown in FIG. The delay processing by the delay processing unit 20 is expressed by the following equation.

Figure 0006212348
Figure 0006212348

ここで、遅延器21〜25が有する遅延時間情報Δts, ΔtH, ΔtVU, ΔtVLは、図2に示すスピーカのチャンネル配置に基づく間接音の仮想的な伝搬時間に応じた値であり、仮想水平伝搬時間をΔts, ΔtH 、中層から上層への仮想伝搬時間をΔtVU、中層から下層への仮想伝搬時間をΔtVL、としている。なお、仮想水平伝搬時間Δts, ΔtHのうち、Δtsは、図2に示すFL(1ch)とFLc(7ch)間及びFR(2ch)とFRc(8ch)間等の、比較的短い距離における間接音の仮想水平伝搬時間を表し、ΔtHは、図2に示すFL(1ch)とSiL(11ch)、FR(2ch)とSiR(12ch)間等の、比較的長い距離における間接音の仮想水平伝搬時間を表している。また、Δts, ΔtH, ΔtVU, ΔtVLの各値は、当業者であれば、r1(t)〜r24(t)の24の信号がすべて異なる信号となるような値を適宜設定できるものである。Δts, ΔtH, ΔtVU, ΔtVLの各値を設定する際には、下限としては相関を下げる効果が得られる範囲とし、上限としては音が先行音効果により分離しない範囲とすることを考慮して各値を決定することが望ましい。上記の観点から、Δts, ΔtH, ΔtVU, ΔtVLの各値は、30ms以下であることが好ましい。また、本実施形態においてΔts, ΔtH, ΔtVU, ΔtVLの各値は、互いに素な値とするのが望ましい。Δts, ΔtH, ΔtVU, ΔtVLの各値の一例としては、Δts=4ms, ΔtH=7ms, ΔtVU=13ms, ΔtVL=11msとすることができる。遅延処理部20によって生成された新たな第1間接音は、混合器40に出力される。 Here, the delay time information Δt s , Δt H , Δt VU , Δt VL included in the delay units 21 to 25 is a value corresponding to the virtual propagation time of the indirect sound based on the channel arrangement of the speaker shown in FIG. The virtual horizontal propagation time is Δt s , Δt H , the virtual propagation time from the middle layer to the upper layer is Δt VU , and the virtual propagation time from the middle layer to the lower layer is Δt VL . Of the virtual horizontal propagation times Δt s and Δt H , Δt s is a relatively short distance such as between FL (1ch) and FLc (7ch) and between FR (2ch) and FRc (8ch) shown in FIG. 2 represents the virtual horizontal propagation time of indirect sound, and Δt H represents the indirect sound at a relatively long distance such as between FL (1 ch) and SiL (11 ch), FR (2 ch) and SiR (12 ch) shown in FIG. It represents the virtual horizontal propagation time. Further, each value of Δt s , Δt H , Δt VU , Δt VL is appropriately determined by those skilled in the art so that all 24 signals r 1 (t) to r 24 (t) are different signals. It can be set. When setting each value of Δt s , Δt H , Δt VU , Δt VL , the lower limit is a range where the effect of lowering the correlation can be obtained, and the upper limit is a range where the sound is not separated by the preceding sound effect It is desirable to determine each value in consideration. From the above viewpoint, each value of Δt s , Δt H , Δt VU , Δt VL is preferably 30 ms or less. In the present embodiment, it is desirable that the values of Δt s , Δt H , Δt VU , and Δt VL are relatively prime values. As an example of each value of Δt s , Δt H , Δt VU , Δt VL , Δt s = 4 ms, Δt H = 7 ms, Δt VU = 13 ms, Δt VL = 11 ms can be set. The new first indirect sound generated by the delay processing unit 20 is output to the mixer 40.

なお、本実施形態では、遅延処理部20に含まれる遅延器21〜25に関して、上式(2)〜(4)を実現する最小限の構成として効率的に遅延処理を行うため、図1に示すように1つの遅延器が複数のチャンネルの遅延処理を実行するよう接続されているが、第1間接音を生成する全てのチャンネルにそれぞれ独立した遅延器を設ける構成としても良い。   In this embodiment, the delay units 21 to 25 included in the delay processing unit 20 perform delay processing efficiently as a minimum configuration that realizes the above equations (2) to (4). As shown, one delay device is connected so as to execute delay processing of a plurality of channels. However, an independent delay device may be provided for every channel that generates the first indirect sound.

また、本実施形態において遅延処理部20は、上式(2)〜(4)で表すように、図2に示す5〜9ch及び11〜24chに該当するチャンネルの新たな第1間接音のみを生成しているが、これに限られるものではなく、例えば3chの新たな第1間接音を生成することも可能である。   Further, in the present embodiment, the delay processing unit 20 generates only new first indirect sounds of channels corresponding to 5 to 9 ch and 11 to 24 ch shown in FIG. 2 as represented by the above formulas (2) to (4). However, the present invention is not limited to this. For example, it is possible to generate a new first indirect sound of 3ch.

ローパスフィルタ30は、残響分離器10から出力された原信号の直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)、及び間接音rL(t), rR(t)の低域成分lrL(t), lrR(t)をそれぞれ抽出して、混合器40に出力する。ここで、ローパスフィルタ30のカットオフ周波数は、例えば、80〜120Hzとすることができる。またこの例では、ローパスフィルタ30からの出力信号はLFE(Low Frequency Effects)チャンネルである、図2のLFE1(4ch)及びLFE2(10ch)に出力される信号に適用される。 The low-pass filter 30 includes the low-frequency components l dL (t) and l dR (t) of the direct sound d L (t) and d R (t) of the original signal output from the reverberation separator 10 and the indirect sound r L. The low frequency components l rL (t) and l rR (t) of (t) and r R (t) are extracted and output to the mixer 40. Here, the cut-off frequency of the low-pass filter 30 can be set to 80 to 120 Hz, for example. In this example, the output signal from the low-pass filter 30 is applied to signals output to LFE1 (4ch) and LFE2 (10ch) in FIG. 2, which are LFE (Low Frequency Effects) channels.

混合器40は、残響分離器10、遅延処理部20、及びローパスフィルタ30から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、各チャンネルへの信号に含まれる間接音に係数ar1,…, ar24を乗算することにより、各チャンネルに間接音を付加する度合いを調節する。すなわち、混合器40は、直接音と間接音を混合するチャンネル(この例では1ch、2ch、3ch、4ch、10ch)については、直接音と間接音の比を調節することができる。混合器40は、例えば、図2に示すFL(1ch)への信号を生成するため、直接音dL(t)に、係数ar1を乗算した間接音rL(t)を付加する。同様に、混合器40は、FR(2ch)への信号を生成するため、直接音dR(t)に、係数ar2を乗算した間接音rR(t)を付加する。なお、図2に示すFC(3ch)は左右中央に位置するため、混合器40は、原信号の左右の直接音を混合したdL(t)+dR(t)に、原信号の左右の間接音を混合した{rL(t)+rR(t)}を、係数ar3を乗算して付加し、FC(3ch)への信号を生成する。 The mixer 40 mixes signals output from the reverberation separator 10, the delay processing unit 20, and the low-pass filter 30 to generate a signal for each channel. Further, the mixer 40 adjusts the degree to which the indirect sound is added to each channel by multiplying the indirect sound included in the signal to each channel by coefficients a r1 ,..., A r24 . That is, the mixer 40 can adjust the ratio of the direct sound and the indirect sound for the channel that mixes the direct sound and the indirect sound (1ch, 2ch, 3ch, 4ch, 10ch in this example). For example, the mixer 40 adds an indirect sound r L (t) obtained by multiplying the direct sound d L (t) by a coefficient a r1 in order to generate a signal to FL (1ch) shown in FIG. Similarly, the mixer 40 adds an indirect sound r R (t) obtained by multiplying the direct sound d R (t) by a coefficient a r2 in order to generate a signal to FR (2ch). Since FC (3ch) shown in FIG. 2 is located at the left and right center, the mixer 40 mixes the left and right direct sounds of the original signal with d L (t) + d R (t). {R L (t) + r R (t)} mixed with the indirect sound is added by multiplying by a coefficient a r3 to generate a signal to FC (3ch).

乗算器50は、混合器40から出力される信号に係数a1, a2,…, a24を乗算することにより、チャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),… y24(t)は、次式のように表される。 The multiplier 50 adjusts the level for each channel by multiplying the signal output from the mixer 40 by coefficients a 1 , a 2 ,..., A 24, and the 22.2ch speaker illustrated in FIG. Respectively. The output signals y 1 (t), y 2 (t),... Y 24 (t) output from the multiplier 50 are expressed by the following equations.

Figure 0006212348
Figure 0006212348

以上の構成を有する本実施形態のアップミックス装置1によれば、アップミックス用の付帯情報を持たない2chの原信号から、22.2chの音響信号にアップミックスすることができる。また、高さ方向にもスピーカが存在する3次元音響システムに応じた遅延処理を各チャンネルに実行して、相互相関の低い新たな第1間接音を生成することにより、高さ方向にも広がりのある自然な3次元空間印象の音を得ることができる。さらに、原信号に含まれる直接音と間接音を分離して、間接音のレベルを調節して混合するため、直接音と間接音の比(バランス)を適切に調節したアップミックスを行うことができる。例えば、クラシックコンサートの音源のように、残響が大きいことが好まれる場合には、間接音のレベルを上げて残響を大きく響かせるといった処理が可能となる。   According to the upmix device 1 of the present embodiment having the above-described configuration, it is possible to upmix from a 2ch original signal without supplemental information for upmixing to a 22.2ch acoustic signal. In addition, the delay process corresponding to the three-dimensional sound system in which the speaker is also present in the height direction is executed for each channel to generate a new first indirect sound having a low cross-correlation, thereby spreading in the height direction. Sound with a natural 3D space impression can be obtained. In addition, the direct sound and indirect sound included in the original signal are separated and mixed by adjusting the level of the indirect sound, so that the up-mix can be performed with the ratio (balance) of the direct sound and indirect sound adjusted appropriately. it can. For example, when it is preferred that the reverberation is large, such as a sound source of a classical concert, it is possible to increase the level of the indirect sound and make the reverberation resonate greatly.

(第2実施形態)
次に、本発明の第2実施形態として、L、R、C、SL、SR、LFEチャンネルからなる5.1chサラウンドの原信号を、22.2chの音響信号にアップミックスする場合の信号処理について説明する。なお、第1実施形態と同様の構成については同一の符号で表し、説明を省略する。
(Second Embodiment)
Next, as a second embodiment of the present invention, signal processing in the case of upmixing a 5.1ch surround original signal composed of L, R, C, SL, SR, and LFE channels into a 22.2ch acoustic signal explain. In addition, about the structure similar to 1st Embodiment, it represents with the same code | symbol and abbreviate | omits description.

図3は、残響分離器10、遅延処理部20、混合器40、乗算器50を備えるアップミックス装置100が実行する信号処理を例示したものである。図3において、入力される原信号をxL(t), xR(t), xC(t), xSL(t), xSR(t) , xLFE(t)と表し、出力される音響信号をy1(t), y2(t),… y24(t)と表している。第1実施形態と同様に、アップミックス装置100から出力される音響信号y1(t), y2(t),… y24(t)は、図2に示す1〜24chのスピーカで再生することができる。 FIG. 3 illustrates signal processing executed by the upmix device 100 including the reverberation separator 10, the delay processing unit 20, the mixer 40, and the multiplier 50. In FIG. 3, the input original signal is expressed as x L (t), x R (t), x C (t), x SL (t), x SR (t), x LFE (t) and output. Y 1 (t), y 2 (t), ... y 24 (t). Similarly to the first embodiment, the acoustic signals y 1 (t), y 2 (t),... Y 24 (t) output from the upmix device 100 are reproduced by the 1-24 ch speakers shown in FIG. be able to.

原信号xL(t), xR(t), xC(t), xSL(t), xSR(t), xLFE(t)に含まれるそれぞれの直接音をdL(t), dR(t), dC(t), dSL(t), dSR(t) , dLFE(t)、間接音をrL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)とすると、原信号は次式のように表される。 Each direct sound contained in the original signal x L (t), x R (t), x C (t), x SL (t), x SR (t), x LFE (t) is d L (t) , d R (t), d C (t), d SL (t), d SR (t), d LFE (t), r L (t), r R (t), r C (t ), r SL (t), r SR (t), r LFE (t), the original signal is expressed by the following equation.

Figure 0006212348
Figure 0006212348

残響分離器10は、入力された原信号xL(t), xR(t), xC(t), xSL(t), xSR(t) , xLFE(t)を、直接音dL(t), dR(t), dC(t), dSL(t), dSR(t), dLFE(t)と間接音rL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)に分離して、遅延処理部20、及び混合器40に出力する。なお、第1実施形態と同様に残響分離器10は、例えば非特許文献2に記載された残響分離処理方法等の、公知の残響分離処理方法を用いた残響分離器とすることができる。 The reverberation separator 10 directly inputs the input original signals x L (t), x R (t), x C (t), x SL (t), x SR (t), x LFE (t). d L (t), d R (t), d C (t), d SL (t), d SR (t), d LFE (t) and indirect sound r L (t), r R (t), r C (t), r SL (t), r SR (t), r LFE (t) are separated and output to the delay processing unit 20 and the mixer 40. As in the first embodiment, the reverberation separator 10 can be a reverberation separator using a known reverberation separation processing method such as the reverberation separation processing method described in Non-Patent Document 2, for example.

遅延処理部20は、固有の遅延時間情報を有する複数の遅延器21〜25を備え、原信号から分離した間接音rL(t), rR(t), rC(t), rSL(t), rSR(t), rLFE(t)に、スピーカのチャンネル配置に対応する遅延処理を実行して、相互相関の低い新たな第1間接音を生成する。遅延処理部20による遅延処理は、次式のように表される。 The delay processing unit 20 includes a plurality of delay units 21 to 25 having inherent delay time information, and the indirect sounds r L (t), r R (t), r C (t), r SL separated from the original signal. (t), r SR (t), r LFE (t) are subjected to delay processing corresponding to the speaker channel arrangement to generate a new first indirect sound with low cross-correlation. The delay processing by the delay processing unit 20 is expressed by the following equation.

Figure 0006212348
Figure 0006212348

ここで、遅延器21〜25が有する遅延時間情報Δts, ΔtH, ΔtVU, ΔtVLは、第1実施形態と同様である。遅延処理部20によって生成された新たな第1間接音は、混合器40に出力される。 Here, the delay time information Δt s , Δt H , Δt VU , Δt VL included in the delay devices 21 to 25 is the same as in the first embodiment. The new first indirect sound generated by the delay processing unit 20 is output to the mixer 40.

また、本実施形態において遅延処理部20は、上式(7)〜(9)で表すように、図2に示す7〜9ch及び11〜24chに該当するチャンネルの新たな第1間接音のみを生成しているが、これに限られるものではなく、他のチャンネルに対応する新たな第1間接音を生成することも可能である。また、本実施形態においては、原信号にLFE信号であるxLFE(t)が含まれているため、ローパスフィルタを備えない構成としているが、ローパスフィルタを備える構成としても良い。 Further, in the present embodiment, the delay processing unit 20 generates only new first indirect sounds of channels corresponding to 7 to 9 ch and 11 to 24 ch shown in FIG. 2 as represented by the above formulas (7) to (9). However, the present invention is not limited to this, and a new first indirect sound corresponding to another channel can be generated. In the present embodiment, since the original signal includes x LFE (t) that is an LFE signal, the low-pass filter is not provided, but a low-pass filter may be provided.

混合器40は、第1実施形態と同様に、残響分離器10及び遅延処理部20から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、入力された間接音に係数ar1,…, ar24を乗算することにより、各チャンネルに間接音を付加する度合いを調節する。 Similar to the first embodiment, the mixer 40 mixes signals output from the reverberation separator 10 and the delay processing unit 20 to generate a signal for each channel. Further, the mixer 40 adjusts the degree to which the indirect sound is added to each channel by multiplying the input indirect sound by coefficients a r1 ,..., A r24 .

ここで、本実施形態の混合器40は、図2のFL(1ch)、FR(2ch)、FC(3ch)、BL(5ch)、BR(6ch)の各チャンネルについては、原信号の直接音dL(t), dR(t), dC(t), dSL(t), dSR(t)と、係数ar1, ar2, ar3, ar5, ar6を乗算して調節した間接音rL(t), rR(t), rC(t), rSL(t), rSR(t)とを付加する。また、混合器40は、LFEチャンネル用の信号LFE1(4ch)、LFE2(10ch)については、原信号のLFE信号から残響分離器10で分離した直接音dLFE(t)と、係数ar4, ar10を乗算して調節した間接音rLFE(t)とを付加する。 Here, the mixer 40 according to the present embodiment performs direct sound of the original signal for each of the FL (1ch), FR (2ch), FC (3ch), BL (5ch), and BR (6ch) channels in FIG. Multiplying d L (t), d R (t), d C (t), d SL (t), d SR (t) and coefficients a r1 , a r2 , a r3 , a r5 , a r6 The adjusted indirect sounds r L (t), r R (t), r C (t), r SL (t), and r SR (t) are added. Further, the mixer 40, for the signals LFE1 (4ch) and LFE2 (10ch) for the LFE channel, the direct sound d LFE (t) separated by the reverberation separator 10 from the LFE signal of the original signal, and the coefficients a r4 , a Indirect sound r LFE (t) adjusted by multiplying r10 is added.

乗算器50は、混合器40から出力される信号を、係数a1,…, a24によりチャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),…, y24(t)は、次式のように表される。 The multiplier 50 adjusts the level for each channel by the coefficients a 1 ,..., A 24 and outputs the signal output from the mixer 40 to the 22.2ch speaker illustrated in FIG. The output signals y 1 (t), y 2 (t),..., Y 24 (t) output from the multiplier 50 are expressed by the following equations.

Figure 0006212348
Figure 0006212348

以上の構成を有する本実施形態のアップミックス装置100によれば、アップミックス用の付帯情報を持たない5.1chの原信号から、22.2chの音響信号にアップミックスすることができ、上記第1実施形態と同様に、高さ方向にもスピーカが存在する3次元音響システムに応じた遅延処理を各チャンネルに実行して、相互相関の低い間接音を生成することにより、高さ方向にも広がりのある自然な3次元空間印象の音を得ることができる。また、本実施形態のアップミックス装置100にあっては、原信号にLFE信号であるxLFE(t)が含まれているため、ローパスフィルタを用いることなく、22.2chの音響信号にアップミックスすることができる。 According to the upmix device 100 of the present embodiment having the above-described configuration, it is possible to upmix from a 5.1ch original signal having no additional information for upmixing to a 22.2ch acoustic signal. As in the first embodiment, delay processing corresponding to a three-dimensional sound system in which speakers are also present in the height direction is performed on each channel to generate indirect sounds with low cross-correlation. You can get a spacious and natural sound of a three-dimensional space. Further, in the upmix device 100 of the present embodiment, since the original signal includes x LFE (t) that is an LFE signal, the upmix device 100 can upmix the 22.2 ch sound signal without using a low-pass filter. can do.

(第3実施形態)
次に、本発明の第3実施形態として、図4に示すアップミックス装置200が2chステレオの原信号を、22.2chの音響信号にアップミックスする場合の信号処理について説明する。なお、第1実施形態と同様の構成については同一の符号で表し、説明を省略する。アップミックス装置200は、残響分離器10、遅延処理部20、混合器40、乗算器50の構成に加え、櫛型フィルタ260、第2残響分離器270、残響生成部280、間接音付加方法制御部290を備える。
(Third embodiment)
Next, as a third embodiment of the present invention, signal processing when the upmix device 200 shown in FIG. 4 upmixes a 2ch stereo original signal into a 22.2ch acoustic signal will be described. In addition, about the structure similar to 1st Embodiment, it represents with the same code | symbol and abbreviate | omits description. The upmix apparatus 200 includes a comb filter 260, a second reverberation separator 270, a reverberation generation unit 280, and an indirect sound addition method control in addition to the configurations of the reverberation separator 10, the delay processing unit 20, the mixer 40, and the multiplier 50. Part 290.

櫛型フィルタ260は、原信号を異なる周波数帯域成分をもつ複数の音響信号に分離する。本実施形態では、原信号xL(t), xR(t)を、4チャンネルの信号xL1(t), xL2(t), xR1(t), xR2(t)に分離して、混合器40及び第2残響分離器270に出力する。ここで、本実施形態における櫛型フィルタ260の詳細な構成について、図5を参照して説明する。 Comb filter 260 separates the original signal into a plurality of acoustic signals having different frequency band components. In this embodiment, the original signals x L (t), x R (t) are separated into 4-channel signals x L1 (t), x L2 (t), x R1 (t), x R2 (t). Output to the mixer 40 and the second reverberation separator 270. Here, a detailed configuration of the comb filter 260 in the present embodiment will be described with reference to FIG.

櫛型フィルタ260は、遅延器261、265、乗算器262、266、減算器263、267、及び加算器264、268を備える。櫛型フィルタ260に入力された原信号xL(t), xR(t)は、それぞれ遅延器261、265、減算器263、267、及び加算器264、268に送られる。 The comb filter 260 includes delay units 261 and 265, multipliers 262 and 266, subtracters 263 and 267, and adders 264 and 268. The original signals x L (t) and x R (t) input to the comb filter 260 are sent to delay units 261 and 265, subtracters 263 and 267, and adders 264 and 268, respectively.

遅延器261、265は、それぞれがもつ遅延時間情報ΔtL, ΔtRに基づいて、原信号xL(t), xR(t)に遅延処理を実行し、乗算器262、266に出力する。乗算器262、266は、遅延器261、265からの信号にそれぞれがもつ係数αL, αRを乗算して、減算器263、267及び加算器264、268にそれぞれ出力する。減算器263、267は、原信号xL(t), xR(t)と、乗算器262、266からの出力をそれぞれ減算する。加算器264、268は、原信号xL(t), xR(t)と、乗算器262、266からの出力をそれぞれ加算する。櫛型フィルタ260により生成される信号は、次式のように表される。 The delay units 261 and 265 perform delay processing on the original signals x L (t) and x R (t) based on the delay time information Δt L and Δt R respectively held by the delay units 261 and 265 and output the delayed signals to the multipliers 262 and 266. . Multipliers 262 and 266 multiply the signals from delay units 261 and 265 by their respective coefficients α L and α R , and output the result to subtracters 263 and 267 and adders 264 and 268, respectively. Subtractors 263 and 267 subtract the original signals x L (t) and x R (t) and the outputs from the multipliers 262 and 266, respectively. Adders 264 and 268 add the original signals x L (t) and x R (t) and the outputs from multipliers 262 and 266, respectively. A signal generated by the comb filter 260 is expressed by the following equation.

Figure 0006212348
Figure 0006212348

ここで、乗算器262、266の係数αL, αRは、値が大きいほどxL1(t), xL2(t), xR1(t), xR2(t)の周波数特性の差が大きくなり、分離の効果が大きいが、周波数特性の凹凸も増大し、音質の自然さが失われるため、分離度合いと音質のバランスを考慮して決定することが望ましい。遅延器261、265の遅延時間情報ΔtL, ΔtRについても同様である。なお、原信号の直接音を分離するフィルタとしては、櫛型フィルタに限定されず、例えば原信号を低周波と高周波に分離するフィルタ等、異なる周波数帯域成分をもつ複数の音響信号に分離する様々なフィルタを用いることが可能である。 Here, as the coefficients α L and α R of the multipliers 262 and 266 increase, the difference between the frequency characteristics of x L1 (t), x L2 (t), x R1 (t), and x R2 (t) increases. Although the effect of separation increases and the effect of separation increases, the unevenness of the frequency characteristics also increases and the naturalness of sound quality is lost. Therefore, it is desirable to determine in consideration of the balance between the degree of separation and sound quality. The same applies to the delay time information Δt L and Δt R of the delay units 261 and 265. The filter that separates the direct sound of the original signal is not limited to the comb filter, and various filters that separate the original signal into a plurality of acoustic signals having different frequency band components, such as a filter that separates the original signal into a low frequency and a high frequency. It is possible to use a simple filter.

第2残響分離器270は、残響分離器10と同様の機能を有し、櫛型フィルタ260から出力された信号xL1(t), xL2(t), xR1(t), xR2(t)を、直接音dL1(t), dL2(t), dR1(t), dR2(t)と間接音rL1(t), rL2(t), rR1(t), rR2(t)に分離して、混合器40に出力する。第2残響分離器270により生成される信号は、次式のように表される。 The second reverberation separator 270 has the same function as the reverberation separator 10, and the signals x L1 (t), x L2 (t), x R1 (t), x R2 ( t), direct sound d L1 (t), d L2 (t), d R1 (t), d R2 (t) and indirect sound r L1 (t), r L2 (t), r R1 (t), r R2 (t) is separated and output to the mixer 40. The signal generated by the second reverberation separator 270 is expressed as follows.

Figure 0006212348
Figure 0006212348

残響生成部280は、加算器281、残響付加器282、ローパスフィルタ283、残響付加器284を備える。加算器281は、残響分離器10で分離した直接音dL(t), dR(t)を加算し、残響付加器282に出力する。残響付加器282は、残響分離器10で分離した直接音dL(t), dR(t)及び加算器281の出力に基づいて、独立した新たな第2間接音
R1(t), …, R3(t), R5(t), …, R9(t), R11(t), …, R24(t)を生成して、混合器40に出力する。ここで、残響付加器282による第2間接音の生成には、例えば(非特許文献3:森 他,「三次元残響付加装置に用いるインパルス応答測定におけるマイクロホンの指向性に関する一検討」, 日本音響学会 春季研究発表会講演論文集, , 2013年3月)の方法を利用することができる。ローパスフィルタ283は、原信号の直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)、及び間接音rL(t), rR(t)の低域成分lrL(t), lrR(t)をそれぞれ抽出して、混合器40及び残響付加器284に出力する。残響付加器284は、直接音dL(t), dR(t)の低域成分ldL(t), ldR(t)から独立した第2間接音R4(t), R10(t)を生成して、混合器40に出力する。
The reverberation generation unit 280 includes an adder 281, a reverberation adder 282, a low pass filter 283, and a reverberation adder 284. The adder 281 adds the direct sounds d L (t) and d R (t) separated by the reverberation separator 10 and outputs them to the reverberation adder 282. Based on the direct sounds d L (t) and d R (t) separated by the reverberation separator 10 and the output of the adder 281, the reverberation adder 282 generates a new independent second indirect sound.
R 1 (t),…, R 3 (t), R 5 (t),…, R 9 (t), R 11 (t),…, R 24 (t) are generated in the mixer 40. Output. Here, for the generation of the second indirect sound by the reverberation adder 282, for example (Non-Patent Document 3: Mori et al., “A study on the directivity of the microphone in the impulse response measurement used in the three-dimensional reverberation adding device”, Japanese Acoustics Academic Society Spring Research Presentation Proceedings,, March 2013) can be used. The low-pass filter 283 is a low-frequency component l dL (t), l dR (t) of the direct sound d L (t), d R (t) of the original signal and the indirect sound r L (t), r R (t ) Low frequency components l rL (t) and l rR (t) are extracted and output to the mixer 40 and the reverberation adder 284, respectively. The reverberation adder 284 outputs second indirect sounds R 4 (t), R 10 (independent of the low frequency components l dL (t), l dR (t) of the direct sounds d L (t), d R (t). t) is generated and output to the mixer 40.

間接音付加方法制御部290は、残響分離器10で分離した間接音rL(t), rR(t)のレベルを監視し、間接音rL(t), rR(t)のレベルに応じて、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音をそれぞれ制御する。具体的には、例えば、残響分離器10で分離した間接音rL(t), rR(t)のレベルが所定の閾値よりも大きい場合には、混合器40のもつ係数aR1, …,aR24を0とするか、もしくは小さくして残響生成部280で生成される第2間接音を付加する度合いを下げることにより、間接音が過大となることを自動的に防ぐことができる。逆に、残響分離器10で分離した間接音rL(t), rR(t)のレベルが所定の閾値よりも小さい場合には、混合器40の係数aR1〜aR24を大きくして残響生成部280で生成される第2間接音を付加する度合いを上げることにより、アップミックスの効果を維持することができる。 Indirect sound adding process controller 290, the indirect sounds separated by reverberation separator 10 r L (t), to monitor the levels of r R (t), the level of the indirect sound r L (t), r R (t) Accordingly, the first indirect sound generated by the delay processing unit 20 and the second indirect sound generated by the reverberation generating unit 280 are respectively controlled. Specifically, for example, when the level of the indirect sounds r L (t) and r R (t) separated by the reverberation separator 10 is larger than a predetermined threshold, the coefficients a R1 ,. , a R24 is set to 0 or reduced to reduce the degree of addition of the second indirect sound generated by the reverberation generating unit 280, so that the indirect sound can be automatically prevented from becoming excessive. Conversely, when the level of the indirect sounds r L (t) and r R (t) separated by the reverberation separator 10 is smaller than a predetermined threshold, the coefficients a R1 to a R24 of the mixer 40 are increased. By increasing the degree to which the second indirect sound generated by the reverberation generating unit 280 is added, the effect of the upmix can be maintained.

さらに、間接音付加方法制御部290は、ユーザーインターフェース部291を持ち、ユーザーの入力指示があった場合には、上記のような自動制御の実行を中止して、遅延処理部20及び残響生成部280でそれぞれ生成される間接音を付加する度合いを制御することができる。ユーザーインターフェース部291は、ユーザーからの入力に基づいて、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音のうち、例えば、いずれか一方を選択する、あるいは、任意の比率で混合して用いるといった制御を実行することができる。   Further, the indirect sound addition method control unit 290 has a user interface unit 291, and when there is a user input instruction, the execution of the automatic control as described above is stopped, and the delay processing unit 20 and the reverberation generation unit are stopped. It is possible to control the degree to which the indirect sound generated at 280 is added. The user interface unit 291 selects, for example, one of the first indirect sound generated by the delay processing unit 20 and the second indirect sound generated by the reverberation generation unit 280 based on an input from the user. Alternatively, it is possible to execute control such that a mixture is used at an arbitrary ratio.

なお、本実施形態のアップミックス装置200にあっては、櫛型フィルタ260及び第2残響分離器270により、図2で示すFLc(7ch)及びFRc(8ch)に該当するチャンネルの間接音を生成しているため、遅延処理部20では上記チャンネルの間接音を生成していないこととしている。また、その結果として、遅延時間情報Δtsをもつ第1実施形態の遅延器21は不要となるため省略している。本実施形態の遅延処理部20による遅延処理は、次式のように表される。 In the upmix device 200 of this embodiment, the comb filter 260 and the second reverberation separator 270 generate indirect sounds of channels corresponding to FLc (7 ch) and FRc (8 ch) shown in FIG. Therefore, the delay processing unit 20 does not generate the indirect sound of the channel. Further, as a result, the delay circuit 21 of the first embodiment with delay time information Delta] t s is omitted since it becomes unnecessary. The delay process by the delay processing unit 20 of the present embodiment is expressed by the following equation.

Figure 0006212348
Figure 0006212348

混合器40は、残響分離器10、遅延処理部20、櫛型フィルタ260、第2残響分離器270、残響生成部280、間接音付加方法制御部290から出力される信号を混合して、各チャンネルへの信号を生成する。また、混合器40は、入力された間接音に係数ar1,…, ar24、及びaR1,…, aR24をそれぞれ乗算することにより、各チャンネルに間接音を付加する度合いを調節することができる。 The mixer 40 mixes signals output from the reverberation separator 10, the delay processing unit 20, the comb filter 260, the second reverberation separator 270, the reverberation generation unit 280, and the indirect sound addition method control unit 290, Generate a signal to the channel. Further, the mixer 40, the coefficient a r1 to the input indirect sound, ..., a r24, and a R1, ..., by multiplying the a R24 respectively, to adjust the amount of adding the indirect sound to each channel Can do.

混合器40は、例えば、図2に示すFL(1ch)への信号を生成するため、直接音dL(t)に、係数ar1を乗算した間接音rL(t)を付加し、さらに、残響生成部280で生成した第2間接音R1(t)を、係数aR1を乗算して付加する。同様に、混合器40は、FR(2ch)への信号を生成するため、直接音dR(t)に、係数ar2を乗算した間接音rR(t)を付加し、さらに、残響生成部280で生成した第2間接音R2(t)を、係数aR2を乗算して付加する。なお、図2に示すFC(3ch)については、混合器40は、原信号の左右の直接音を混合したdL(t)+dR(t)に、原信号の左右の間接音を混合した{rL(t)+rR(t)}を、係数ar3を乗算して付加し、さらに、残響生成部280で生成した第2間接音R3(t)を、係数aR3を乗算して付加する。 For example, the mixer 40 adds an indirect sound r L (t) obtained by multiplying the direct sound d L (t) by a coefficient a r1 to generate a signal to FL (1ch) shown in FIG. Then, the second indirect sound R 1 (t) generated by the reverberation generating unit 280 is added by multiplying by the coefficient a R1 . Similarly, the mixer 40 adds an indirect sound r R (t) obtained by multiplying the direct sound d R (t) by a coefficient a r2 to generate a signal to FR (2ch), and further generates reverberation. The second indirect sound R 2 (t) generated by the unit 280 is added by multiplying by the coefficient a R2 . For the FC (3ch) shown in FIG. 2, the mixer 40 mixes the left and right indirect sounds of the original signal with d L (t) + d R (t) obtained by mixing the left and right direct sounds of the original signal. {R L (t) + r R (t)} is added by multiplying by the coefficient a r3, and the second indirect sound R 3 (t) generated by the reverberation generation unit 280 is added to the coefficient a R3 . Multiply and add.

乗算器50は、混合器40から出力される信号に係数a1, a2,…, a24を乗算することにより、チャンネル毎にレベルを調節して、図2に例示する22.2chのスピーカにそれぞれ出力する。乗算器50が出力する出力信号y1(t), y2(t),… y24(t)は、次式のように表される。 The multiplier 50 adjusts the level for each channel by multiplying the signal output from the mixer 40 by coefficients a 1 , a 2 ,..., A 24, and the 22.2ch speaker illustrated in FIG. Respectively. The output signals y 1 (t), y 2 (t),... Y 24 (t) output from the multiplier 50 are expressed by the following equations.

Figure 0006212348
Figure 0006212348

本実施形態のアップミックス装置200によれば、第1実施形態で得られる効果に加え、残響生成部280で生成される第2間接音を用いることにより、原信号に含まれる間接音とは、全く別の独立した間接音を生成することができる。   According to the upmix device 200 of the present embodiment, in addition to the effects obtained in the first embodiment, by using the second indirect sound generated by the reverberation generation unit 280, the indirect sound included in the original signal is A completely different independent indirect sound can be generated.

また、本実施形態のアップミックス装置200によれば、原信号に含まれる間接音が小さい、または0である場合であっても、残響生成部280により新たな第2間接音を生成することができるため、アップミックスの効果を十分に発揮することができる。   Further, according to the upmix device 200 of the present embodiment, the reverberation generation unit 280 can generate a new second indirect sound even when the indirect sound included in the original signal is small or zero. Therefore, the effect of the upmix can be fully exhibited.

また、本実施形態のアップミックス装置200によれば、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音を選択的に、又は両方を同時に用いてアップミックスを行うことができる。   Further, according to the upmix device 200 of the present embodiment, the first indirect sound generated by the delay processing unit 20 and the second indirect sound generated by the reverberation generation unit 280 are selectively used or both are used simultaneously. Upmix can be performed.

また、本実施形態のアップミックス装置200によれば、原信号に含まれる間接音のレベルに応じて、自動的に間接音の生成方法を選択することができる。すなわち、遅延処理部20で生成される第1間接音及び残響生成部280で生成される第2間接音のうち、いずれか一方を選択的に用いるか、あるいは同時に使用するかを自動的に制御し、第1間接音及び第2間接音それぞれのレベル調節を自動的に行うことができる。また、また、間接音付加方法制御部290がユーザーインターフェース部291を有することにより、ユーザーの好みで手動での上記制御が可能となる。   Further, according to the upmix device 200 of the present embodiment, an indirect sound generation method can be automatically selected according to the level of the indirect sound included in the original signal. That is, it is automatically controlled whether one of the first indirect sound generated by the delay processing unit 20 and the second indirect sound generated by the reverberation generating unit 280 is selectively used or simultaneously used. In addition, the level of each of the first indirect sound and the second indirect sound can be automatically adjusted. In addition, since the indirect sound addition method control unit 290 includes the user interface unit 291, the above-described control can be manually performed according to the user's preference.

また、本実施形態のアップミックス装置200によれば、櫛型フィルタ260により原信号を分離して、前方チャンネルの直接音についても相互相関の低い音響信号を生成することができるため、さらに聴感上の広がりのある音を得ることができる。   Further, according to the upmix device 200 of the present embodiment, since the original signal can be separated by the comb filter 260 and an acoustic signal having a low cross-correlation can be generated even for the direct sound of the front channel, it is further audible. You can get a broad sound.

なお、上記第2実施形態で説明したアップミックス装置100に、本実施形態の櫛型フィルタ260、第2残響分離器270、残響生成部280、及び間接音付加方法制御部290等をそれぞれ適用することで、5.1chの原信号から22.2chの音響信号にアップミックスする場合においても、本実施形態と同様の効果を得ることができる。   Note that the comb filter 260, the second reverberation separator 270, the reverberation generation unit 280, the indirect sound addition method control unit 290, and the like of this embodiment are applied to the upmix device 100 described in the second embodiment. Thus, even in the case of upmixing from the 5.1ch original signal to the 22.2ch acoustic signal, the same effect as in the present embodiment can be obtained.

また、原信号、原信号に含まれる直接音、及び原信号に含まれる間接音のいずれかから、新たな間接音を生成する複数の手法を追加しても、上記実施形態と同様に原信号に含まれる間接音のレベルに応じて間接音の付加方法を自動制御する、あるいは、手動により制御することが可能である。   Even if a plurality of methods for generating a new indirect sound from any one of the original signal, the direct sound included in the original signal, and the indirect sound included in the original signal are added, the original signal is the same as in the above embodiment. The indirect sound addition method can be automatically controlled according to the level of the indirect sound included in the sound, or can be controlled manually.

本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の手段やステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。   Although the present invention has been described based on the drawings and examples, it should be noted that those skilled in the art can easily make various modifications and corrections based on the present disclosure. Therefore, it should be noted that these variations and modifications are included in the scope of the present invention. For example, the functions included in each means, each step, etc. can be rearranged so that there is no logical contradiction, and a plurality of means, steps, etc. can be combined or divided into one. .

1、100、200 アップミックス装置
10 残響分離器
20 遅延処理部
30、283 ローパスフィルタ
40 混合器
50 乗算器
260 櫛型フィルタ(フィルタ)
270 第2残響分離器
280 残響生成部
281 加算器
282 残響付加器
284 残響付加器
290 間接音付加方法制御部
291 ユーザーインターフェース部
DESCRIPTION OF SYMBOLS 1,100,200 Upmix apparatus 10 Reverberation separator 20 Delay processing part 30,283 Low-pass filter 40 Mixer 50 Multiplier 260 Comb filter (filter)
270 Second reverberation separator 280 Reverberation generation unit 281 Adder 282 Reverberation adder 284 Reverberation adder 290 Indirect sound addition method control unit 291 User interface unit

Claims (9)

入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とするアップミックス装置。
An upmix device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
An upmix device comprising:
前記遅延処理部は、前記間接音及び前記出力音響信号のチャンネル配置に基づく仮想的な伝搬時間により前記第1間接音を生成する、請求項1に記載のアップミックス装置。   The upmix device according to claim 1, wherein the delay processing unit generates the first indirect sound based on a virtual propagation time based on a channel arrangement of the indirect sound and the output acoustic signal. 前記残響分離器が分離した直接音に基づいて、前記出力音響信号のチャンネルに対応した第2間接音を生成する残響生成部をさらに備える、請求項1又は2に記載のアップミックス装置。   The upmix device according to claim 1 or 2, further comprising a reverberation generation unit that generates a second indirect sound corresponding to a channel of the output acoustic signal based on the direct sound separated by the reverberation separator. 前記残響分離器が分離した間接音のレベルを監視し、
該間接音のレベルに応じて、
前記出力音響信号に含める前記第1間接音及び前記第2間接音を制御する間接音付加方法選択部をさらに備える、請求項3に記載のアップミックス装置。
Monitoring the level of indirect sound separated by the reverberation separator;
Depending on the level of the indirect sound,
The upmix device according to claim 3, further comprising an indirect sound addition method selection unit that controls the first indirect sound and the second indirect sound included in the output acoustic signal.
前記間接音付加方法選択部が、ユーザーが間接音の付加方法を指示可能なユーザーインターフェース部を有する、請求項4に記載のアップミックス装置。   The upmix device according to claim 4, wherein the indirect sound addition method selection unit includes a user interface unit that allows a user to instruct a method of adding an indirect sound. 前記入力音響信号を、異なる周波数帯域成分をもつ複数の音響信号に分離するフィルタをさらに備える、請求項1〜5の何れか一項に記載のアップミックス装置。   The upmix device according to any one of claims 1 to 5, further comprising a filter that separates the input acoustic signal into a plurality of acoustic signals having different frequency band components. 入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響再生装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする音響再生装置。
A sound reproduction device that generates an output sound signal having a larger number of channels than an input sound signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
A sound reproducing device comprising:
入力音響信号よりもチャンネル数の多い出力音響信号を生成する音響増幅装置であって、
前記入力音響信号を直接音と間接音に分離する残響分離器と、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成する遅延処理部と、
前記直接音と前記第1間接音の比を調整して混合する混合器と、
を備えることを特徴とする音響増幅装置。
An acoustic amplification device that generates an output acoustic signal having a larger number of channels than an input acoustic signal,
A reverberation separator for separating the input acoustic signal into a direct sound and an indirect sound;
A delay processing unit that generates a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
A mixer for adjusting and mixing the ratio between the direct sound and the first indirect sound;
A sound amplifying apparatus comprising:
入力音響信号よりもチャンネル数の多い出力音響信号を生成するアップミックス装置のコンピュータに、
前記入力音響信号を直接音と間接音に分離するステップと、
前記間接音に遅延処理を実行することにより、前記出力音響信号の各チャンネルに対応した第1間接音を生成するステップと、
前記直接音と前記第1間接音の比を調整して混合するステップと、
を実行させることを特徴とするプログラム。
To the computer of the upmix device that generates the output sound signal with more channels than the input sound signal,
Separating the input acoustic signal into a direct sound and an indirect sound;
Generating a first indirect sound corresponding to each channel of the output acoustic signal by performing a delay process on the indirect sound;
Adjusting and mixing the ratio of the direct sound and the first indirect sound;
A program characterized by having executed.
JP2013214013A 2013-10-11 2013-10-11 Upmix device, sound reproduction device, sound amplification device, and program Active JP6212348B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013214013A JP6212348B2 (en) 2013-10-11 2013-10-11 Upmix device, sound reproduction device, sound amplification device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013214013A JP6212348B2 (en) 2013-10-11 2013-10-11 Upmix device, sound reproduction device, sound amplification device, and program

Publications (2)

Publication Number Publication Date
JP2015076857A JP2015076857A (en) 2015-04-20
JP6212348B2 true JP6212348B2 (en) 2017-10-11

Family

ID=53001370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013214013A Active JP6212348B2 (en) 2013-10-11 2013-10-11 Upmix device, sound reproduction device, sound amplification device, and program

Country Status (1)

Country Link
JP (1) JP6212348B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10589053B2 (en) 2010-12-21 2020-03-17 Koninklijke Philips N.V. Active valve for ventilators

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019201308A (en) * 2018-05-16 2019-11-21 株式会社ビットメディア Acoustic control device, method, and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS50104603U (en) * 1974-02-01 1975-08-28
JPS5044722Y1 (en) * 1974-11-01 1975-12-19
JPS5324804A (en) * 1976-08-19 1978-03-08 Matsushita Electric Ind Co Ltd Sound reproducing system
JPS53140002A (en) * 1977-05-13 1978-12-06 Victor Co Of Japan Ltd Echo adding device for stereophonic acoustic reproducing system of two channel type
JPH08256400A (en) * 1995-03-17 1996-10-01 Matsushita Electric Ind Co Ltd Sound field processing circuit
JP5730555B2 (en) * 2010-12-06 2015-06-10 富士通テン株式会社 Sound field control device
JP5654955B2 (en) * 2011-07-01 2015-01-14 クラリオン株式会社 Direct sound extraction device and reverberation sound extraction device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10589053B2 (en) 2010-12-21 2020-03-17 Koninklijke Philips N.V. Active valve for ventilators

Also Published As

Publication number Publication date
JP2015076857A (en) 2015-04-20

Similar Documents

Publication Publication Date Title
US8582783B2 (en) Surround sound generation from a microphone array
KR101341523B1 (en) Method to generate multi-channel audio signals from stereo signals
EP2438530B1 (en) Virtual audio processing for loudspeaker or headphone playback
KR102395351B1 (en) Processing spatially diffuse or large audio objects
US8605914B2 (en) Nonlinear filter for separation of center sounds in stereophonic audio
CN108737930B (en) Audible prompts in a vehicle navigation system
EP3035711B1 (en) Stereophonic sound reproduction method and apparatus
KR102671308B1 (en) Method and device for bass management
KR20100084319A (en) Method and apparatus for adaptive remastering of rear audio channel
JP6212348B2 (en) Upmix device, sound reproduction device, sound amplification device, and program
US20140219458A1 (en) Audio signal reproduction device and audio signal reproduction method
KR100725818B1 (en) Sound reproducing apparatus and method for providing virtual sound source
JP6512767B2 (en) Sound processing apparatus and method, and program
JP6463955B2 (en) Three-dimensional sound reproduction apparatus and program
KR101745019B1 (en) Audio system and method for controlling the same
KR102380232B1 (en) Method and apparatus for 3D sound reproducing
JP5915249B2 (en) Sound processing apparatus and sound processing method
KR101090962B1 (en) Audio up-mixing apparatus and method
JP6630599B2 (en) Upmix device and program
KR20220129511A (en) Method and apparatus for 3D sound reproducing
KR20110102719A (en) Audio up-mixing apparatus and method
KR20120068525A (en) Apparatus and method for down mixing of wave field synthesis signal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160829

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170915

R150 Certificate of patent or registration of utility model

Ref document number: 6212348

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250