[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6119336B2 - Frequency characteristic correction apparatus and program - Google Patents

Frequency characteristic correction apparatus and program Download PDF

Info

Publication number
JP6119336B2
JP6119336B2 JP2013055431A JP2013055431A JP6119336B2 JP 6119336 B2 JP6119336 B2 JP 6119336B2 JP 2013055431 A JP2013055431 A JP 2013055431A JP 2013055431 A JP2013055431 A JP 2013055431A JP 6119336 B2 JP6119336 B2 JP 6119336B2
Authority
JP
Japan
Prior art keywords
frequency characteristic
signal
frequency
output
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013055431A
Other languages
Japanese (ja)
Other versions
JP2014183392A (en
Inventor
青柳 弘美
弘美 青柳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2013055431A priority Critical patent/JP6119336B2/en
Publication of JP2014183392A publication Critical patent/JP2014183392A/en
Application granted granted Critical
Publication of JP6119336B2 publication Critical patent/JP6119336B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)
  • Tone Control, Compression And Expansion, Limiting Amplitude (AREA)

Description

本発明は周波数特性補正装置及びプログラムに関し、例えば、スマートフォンに適用し得るものである。   The present invention relates to a frequency characteristic correction apparatus and program, and can be applied to, for example, a smartphone.

現在、VoIP(Voice over IP)を利用したIP電話が普及している。これを、パーソナルコンピュータ(PC)などのアプリケーションとして実現するものがあり、一般にソフトフォンと称されている。近年、スマートフォンと呼ばれる携帯型情報端末が普及し、ソフトフォンはスマートフォン上のアプリケーションとして実現される場合が主流となってきている。   Currently, IP telephones using VoIP (Voice over IP) are in widespread use. There are some which realize this as an application such as a personal computer (PC), which is generally called a softphone. In recent years, portable information terminals called smartphones have become widespread, and cases where softphones are realized as applications on smartphones have become mainstream.

ところが、スマートフォンは、PCと同様に、音声通信に特化された機器ではないため、音声信号の出力デバイス(イヤピース、スピーカ)の周波数特性が機種毎にばらばらであり、また、機種が同じであっても製品毎のばらつきも大きく、製品毎に周波数特性を補正する必要がある。   However, smartphones, like PCs, are not specialized equipment for voice communications, so the frequency characteristics of voice signal output devices (earpieces, speakers) vary from model to model, and the models are the same. However, the variation among products is large, and it is necessary to correct the frequency characteristics for each product.

このような課題を解決するため、例えば、特許文献1に記載のような周波数特性自動補正方法が適用可能である。特許文献1に記載のような従来方法は、ホワイトノイズのような周波数特性を有する信号(特許文献1ではM系列信号)をスピーカから再生し、所定位置に設けられた測定用のマイクロフォンで捕捉し、捕捉信号を解析して周波数特性などを得て、イコライザに設定するパラメータを定め、周波数補正用のイコライザに設定するものであった。   In order to solve such a problem, for example, a frequency characteristic automatic correction method as described in Patent Document 1 can be applied. The conventional method as described in Patent Document 1 reproduces a signal having a frequency characteristic such as white noise (M-sequence signal in Patent Document 1) from a speaker and captures it with a measurement microphone provided at a predetermined position. Then, the captured signal is analyzed to obtain frequency characteristics, etc., parameters to be set in the equalizer are determined, and the frequency correction equalizer is set.

特開平7−74565号公報JP-A-7-74565

しかしながら、特許文献1に記載のような従来技術は、周波数を解析する前提となる特定の参照信号を必要としたり、また、計測のための機器などの設置作業などが必要であったりし、適用環境や適用条件などに制限が大きいものであった。例えば、スマートフォンのユーザがスマートフォンの周波数特性を補正する場合に適用する方法としては不向きである。   However, the conventional technique as described in Patent Document 1 requires a specific reference signal that is a premise for analyzing the frequency, or requires installation work of equipment for measurement, etc. The environment and application conditions were very limited. For example, it is unsuitable as a method applied when a smartphone user corrects the frequency characteristics of the smartphone.

本発明は、以上の点に鑑みてなされたものであり、ユーザが意識することなく自動的に音信号の周波数特性を補正することができる周波数特性補正装置及びプログラムを提供しようとしたものである。   The present invention has been made in view of the above points, and an object of the present invention is to provide a frequency characteristic correction apparatus and program capable of automatically correcting the frequency characteristic of a sound signal without the user being aware of it. .

第1の本発明は、発音出力デバイスから発音出力される音の信号である出力音信号の周波数特性を補正する周波数特性補正装置において、(1)上記出力音信号の周波数特性を補正して、上記発音出力デバイス側に出力する周波数特性補正手段と、(2)上記発音出力デバイスから発音出力され、エコー経路を介して到来した音を音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相関値を求め、当該相関値が所定の閾値以上の場合に、上記音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相違に基づき、上記周波数特性補正手段が実行する周波数特性の補正情報を形成する補正特性情報形成手段とを有することを特徴とする。 According to a first aspect of the present invention, there is provided a frequency characteristic correction apparatus for correcting a frequency characteristic of an output sound signal that is a sound signal output from a sound output device, wherein: (1) the frequency characteristic of the output sound signal is corrected; A frequency characteristic correcting means for outputting to the sound output device side; and (2) a frequency characteristic of an input sound signal obtained by the sound capturing means capturing sound that is output from the sound output device and arrives via an echo path. and the correlation value between the frequency characteristics of the above SL output sound signal, the correlation value is not less than a predetermined threshold value, the frequency characteristic and the output sound signal of the input sound signal from which the sound capturing means is obtained by capturing And correction characteristic information forming means for forming correction information of frequency characteristics executed by the frequency characteristic correction means based on the difference from the frequency characteristics.

第2の本発明の周波数特性補正プログラムは、発音出力デバイスから発音出力される音の信号である出力音信号の周波数特性を補正するための周波数特性補正プログラムであって、コンピュータを、(1)上記出力音信号の周波数特性を補正して、上記発音出力デバイス側に出力する周波数特性補正手段と、(2)上記発音出力デバイスから発音出力され、エコー経路を介して到来した音を音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相関値を求め、当該相関値が所定の閾値以上の場合に、上記音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相違に基づき、上記周波数特性補正手段が実行する周波数特性の補正情報を形成する補正特性情報形成手段として機能させることを特徴とする。 A frequency characteristic correction program according to a second aspect of the present invention is a frequency characteristic correction program for correcting a frequency characteristic of an output sound signal, which is a sound signal output from a sound output device, comprising: (1) A frequency characteristic correcting unit that corrects the frequency characteristic of the output sound signal and outputs the corrected sound signal to the sound output device; and (2) a sound capturing unit that captures the sound that is output from the sound output device and arrives through the echo path. There the correlation value between the frequency characteristic of the frequency characteristic and the upper Symbol output sound signal of the input sound signal obtained by capturing, the correlation value is not less than a predetermined threshold value, the sound capturing means is obtained by capturing based on the difference between the frequency characteristic of the frequency characteristic of the input sound signal and the output sound signal, functions as a correction characteristic information forming means for forming a correction information of the frequency characteristics of the frequency characteristic correcting means is executed And characterized in that.

本発明によれば、ユーザが意識することなく自動的に音信号の周波数特性を補正できる周波数特性補正装置及びプログラムを提供できる。   ADVANTAGE OF THE INVENTION According to this invention, the frequency characteristic correction apparatus and program which can correct | amend the frequency characteristic of a sound signal automatically without a user being conscious can be provided.

第1の実施形態の周波数特性補正装置の機能的構成を示すブロック図である。It is a block diagram which shows the functional structure of the frequency characteristic correction apparatus of 1st Embodiment. 第1の実施形態の周波数特性補正装置の動作説明に用いる各種の周波数特性を示す説明図である。It is explanatory drawing which shows the various frequency characteristics used for operation | movement description of the frequency characteristic correction apparatus of 1st Embodiment. 第2の実施形態の周波数特性補正装置の機能的構成を示すブロック図である。It is a block diagram which shows the functional structure of the frequency characteristic correction apparatus of 2nd Embodiment. 第3の実施形態の周波数特性補正装置の機能的構成を示すブロック図である。It is a block diagram which shows the functional structure of the frequency characteristic correction apparatus of 3rd Embodiment.

(A)第1の実施形態
以下、本発明による周波数特性補正装置及びプログラムの第1の実施形態を、図面を参照しながら説明する。
(A) First Embodiment Hereinafter, a first embodiment of a frequency characteristic correcting apparatus and a program according to the present invention will be described with reference to the drawings.

(A−1)第1の実施形態の構成
図1は、第1の実施形態の周波数特性補正装置の機能的構成を示すブロック図である。
(A-1) Configuration of First Embodiment FIG. 1 is a block diagram showing a functional configuration of a frequency characteristic correction apparatus according to the first embodiment.

第1の実施形態の周波数特性補正装置は、専用のICチップなど、ハードウェア的に構成することもでき、また、CPUと、CPUが実行するプログラムのようにソフトウェア的に構築することもできるが、機能的には、図1で表すことができる。ソフトウェア的に構成した場合の例としては、スマートフォンに搭載されるアプリケーションの例を挙げることができる。   The frequency characteristic correcting apparatus according to the first embodiment can be configured as hardware such as a dedicated IC chip, or can be configured as software such as a CPU and a program executed by the CPU. Functionally, it can be represented in FIG. As an example of a software configuration, an example of an application mounted on a smartphone can be given.

図1において、第1の実施形態の周波数特性補正装置1は、周波数特性補正部2と、補正特性情報形成部3とでなる。   In FIG. 1, the frequency characteristic correction apparatus 1 according to the first embodiment includes a frequency characteristic correction unit 2 and a correction characteristic information formation unit 3.

周波数特性補正部2は、対向装置から受信したデジタル信号でなる受話信号ri(n)(ここで、nは時刻を表すパラメータ)の周波数特性を、補正特性情報形成部3から与えられた補正特性情報F(k)に応じて補正して、図示しないスピーカヘ向かう受話信号(以下、出力受話信号と呼ぶ)ro(n)を得るものである。周波数特性補正部2は、例えば、デジタルフィルタでなる。出力受話信号ro(n)は、図示しないデジタル/アナログ変換部によってアナログ信号に変換された後、図示しないスピーカから発音出力される。   The frequency characteristic correction unit 2 uses the correction characteristic given from the correction characteristic information forming unit 3 as the frequency characteristic of the received signal ri (n) (where n is a parameter representing time) that is a digital signal received from the opposite device. Correction is made according to the information F (k) to obtain a reception signal (hereinafter referred to as an output reception signal) ro (n) toward a speaker (not shown). The frequency characteristic correction unit 2 is composed of a digital filter, for example. The output reception signal ro (n) is converted into an analog signal by a digital / analog conversion unit (not shown), and then output by a speaker (not shown).

補正特性情報形成部3には、受話信号ri(n)に加え、図示しないマイクロフォンが捕捉した信号を図示しないアナログ/デジタル変換部がデジタル信号に変換した送話信号s(n)が与えられる。補正特性情報形成部3は、受話信号ri(n)の周波数特性と、スピーカから発音出力された受話信号がマイクロフォンで捕捉されて得られた送話信号s(n)(言い換えると、エコー信号)の周波数特性とに基づいて、補正特性情報F(k)を形成するものである。この補正特性情報F(k)は、当初の受話信号ri(n)の周波数特性と送話信号s(n)の周波数特性とを一致させる情報となっている。   In addition to the reception signal ri (n), the correction characteristic information forming unit 3 is provided with a transmission signal s (n) obtained by converting a signal captured by a microphone (not shown) into a digital signal by an analog / digital conversion unit (not shown). The correction characteristic information forming unit 3 includes the frequency characteristic of the reception signal ri (n) and the transmission signal s (n) (in other words, an echo signal) obtained by capturing the reception signal output by the speaker with a microphone. The correction characteristic information F (k) is formed on the basis of the frequency characteristic. The correction characteristic information F (k) is information that matches the initial frequency characteristic of the reception signal ri (n) with the frequency characteristic of the transmission signal s (n).

一般的に、マイクロフォンはフラットな周波数特性を有するが、スピーカの周波数特性はフラットではない。しかも、スピーカは、機種ごとに周波数特性がばらばらであり、また、機種が同じであっても製品毎のばらつきも大きい。そのため、当初の受話信号ri(n)(のアナログ信号)をスピーカから発音出力させた場合、発音出力された音声の周波数特性は受話信号ri(n)が有する周波数特性からかなり違ったものとなる。   In general, the microphone has a flat frequency characteristic, but the frequency characteristic of the speaker is not flat. In addition, the speaker has different frequency characteristics for each model, and even if the model is the same, the variation among products is large. Therefore, when the initial received signal ri (n) (analog signal thereof) is sounded and output from the speaker, the frequency characteristics of the sound that has been sounded and output are considerably different from the frequency characteristics of the received signal ri (n). .

そこで、この第1の実施形態では、スピーカから発音出力させた音声の周波数特性が当初の受話信号ri(n)の周波数特性と合致するように、受話信号ri(n)の周波数特性を補正特性情報F(k)に応じて補正して出力受話信号ro(n)を形成させることとした。   Therefore, in the first embodiment, the frequency characteristic of the received signal ri (n) is corrected so that the frequency characteristic of the sound output from the speaker matches the frequency characteristic of the original received signal ri (n). The output received signal ro (n) is formed with correction according to the information F (k).

補正特性情報形成部3は、受話側パワ正規化部10、受話側FFT(高速フーリエ変換)部11、送話側パワ正規化部12、送話側FFT部13、相関判定部14及び比較分析部15を有する。   The correction characteristic information forming unit 3 includes a reception side power normalization unit 10, a reception side FFT (fast Fourier transform) unit 11, a transmission side power normalization unit 12, a transmission side FFT unit 13, a correlation determination unit 14, and a comparative analysis. Part 15.

なお、送話信号s(n)、受話信号ri(n)及び出力受話信号ro(n)はそれぞれ、補正特性情報形成部3においては、一定時間のサンプル数(以下、フレームと呼ぶことがある)ごとに切り出されて処理される。   Note that the transmission signal s (n), the reception signal ri (n), and the output reception signal ro (n) are each referred to as the number of samples (hereinafter referred to as a frame) for a fixed time in the correction characteristic information forming unit 3. ) And is processed every time.

受話側パワ正規化部10は、受話信号ri(n)を受話信号自身の信号パワで正規化するものであり、送話側パワ正規化部12は、送話信号s(n)を送話信号自身の信号パワで正規化するものである。従って、受話側パワ正規化部10から出力された正規化後の受話信号Ri(n)と、送話側パワ正規化部12から出力された正規化後の送話信号S(n)とはパワが揃ったものとなる。   The reception side power normalization unit 10 normalizes the reception signal ri (n) with the signal power of the reception signal itself, and the transmission side power normalization unit 12 transmits the transmission signal s (n). The signal is normalized by the signal power of the signal itself. Therefore, the normalized received signal Ri (n) output from the receiver power normalization unit 10 and the normalized transmission signal S (n) output from the transmitter power normalization unit 12 are: The power will be complete.

受話側FFT部11は、正規化後の受話信号Ri(n)をフレーム単位に周波数情報(周波数特性)RF(k)(kはフレームを表す)へ変換するものであり、送話側FFT部13は、正規化後の送話信号S(n)をフレーム単位に周波数情報SF(k)へ変換するものである。なお、周波数情報への変換方法はFFTに限定されるものではない。受話側FFT部11は、直近所定フレーム数の周波数情報RF(k)〜RF(k−N)を保持する機能を有している。   The receiving side FFT unit 11 converts the normalized received signal Ri (n) into frequency information (frequency characteristics) RF (k) (k represents a frame) in units of frames, and the transmitting side FFT unit 13 converts the normalized transmission signal S (n) into frequency information SF (k) in units of frames. In addition, the conversion method to frequency information is not limited to FFT. The receiving-side FFT unit 11 has a function of holding frequency information RF (k) to RF (k−N) for the most recent predetermined number of frames.

相関判定部14は、保持されている受話側の周波数情報RF(k)〜RF(k−N)の中で、現フレームの送話側の周波数情報SF(k)と最も相関が高い受話側の周波数情報RF(x)を探索し、探索された受話側の周波数情報RF(x)と送話側の周波数情報SF(k)とを比較分析部15に与えるものである。なお、最も相関が高い受話側の周波数情報RF(x)でも相関が所定の閾値未満の場合には、探索できなかったとして扱うようにしても良い。これは、例えば、ダブルトークの期間では、この第1の実施形態による周波数特性の補正を行うことは適切でないためである。このような点を考慮すると、閾値との比較に代え、ダブルトーク検出部を設け、補正特性情報形成部3が受話信号ri(n)だけのシングルトーク期間でのみ有効に機能するようにしても良い。   The correlation determination unit 14 has the highest correlation with the frequency information SF (k) on the transmitting side of the current frame among the held frequency information RF (k) to RF (k−N) on the receiving side. Frequency information RF (x) is searched, and the frequency information RF (x) on the receiving side and the frequency information SF (k) on the transmitting side that have been searched are provided to the comparison analysis unit 15. Note that the frequency information RF (x) on the receiver side having the highest correlation may be handled as a search failure if the correlation is less than a predetermined threshold. This is because, for example, it is not appropriate to correct the frequency characteristics according to the first embodiment in the double talk period. In consideration of such points, instead of comparing with the threshold value, a double talk detection unit is provided so that the correction characteristic information forming unit 3 functions effectively only in the single talk period of the reception signal ri (n). good.

比較分析部15は、受話側の周波数情報RF(x)から送話側の周波数情報SF(k)を周波数成分毎に減算し、得られた周波数情報を補正特性情報F(k)として周波数特性補正部2に与えるものである。   The comparison analysis unit 15 subtracts the transmission side frequency information SF (k) for each frequency component from the reception side frequency information RF (x), and uses the obtained frequency information as the correction characteristic information F (k). This is given to the correction unit 2.

(A−2)第1の実施形態の動作
次に、第1の実施形態の周波数特性補正装置1における動作を、図面を参照しながら説明する。
(A-2) Operation of the First Embodiment Next, the operation of the frequency characteristic correction apparatus 1 of the first embodiment will be described with reference to the drawings.

当該周波数特性補正装置1が搭載されているスマートフォンのソフトフォンにおいて、対向する電話端末との通話が開始されると、周波数特性補正装置1が動作を開始する。   In a softphone of a smartphone in which the frequency characteristic correction device 1 is mounted, when a call with the opposite telephone terminal is started, the frequency characteristic correction device 1 starts operating.

対向装置からの受話信号ri(n)は、補正特性情報形成部3を介した後、図示しないデジタル/アナログ変換部によってアナログ信号に変換されて図示しないスピーカから発音出力される。発音出力された受話音声は、図示しないマイクロフォンにエコー経路を介して回り込み、マイクロフォンで捕捉された後、アナログ/デジタル変換部によってデジタル信号に変換されて、送話信号s(n)として周波数特性補正装置1に入力される。   The reception signal ri (n) from the opposing device is converted into an analog signal by a digital / analog conversion unit (not shown) after passing through the correction characteristic information forming unit 3 and is output as a sound from a speaker (not shown). The received voice that is output as a sound passes through a microphone (not shown) via an echo path, is captured by the microphone, is converted into a digital signal by an analog / digital converter, and is corrected in frequency characteristics as a transmission signal s (n). Input to the device 1.

受話信号ri(n)は、受話側パワ正規化部10によって、受話信号自身の信号パワで正規化された後、受話側FFT部11によって、フレーム単位に周波数情報RF(k)へ変換され、直近の所定フレーム数の周波数情報RF(k)〜RF(k−N)が受話側FFT部11に保持される。   The received signal ri (n) is normalized by the signal power of the received signal itself by the received power normalizing unit 10 and then converted into frequency information RF (k) in frame units by the received FFT unit 11. Frequency information RF (k) to RF (k−N) for the most recent predetermined number of frames is held in the reception-side FFT unit 11.

一方、送話信号s(n)は、送話側パワ正規化部12によって、送話信号自身の信号パワで正規化された後、送話側FFT部13によって、フレーム単位に周波数情報SF(k)へ変換される。   On the other hand, the transmission signal s (n) is normalized with the signal power of the transmission signal itself by the transmission side power normalization unit 12, and then the transmission side FFT unit 13 performs frequency information SF ( k).

そして、相関判定部14によって、受話側FFT部11に保持されている受話側の周波数情報RF(k)〜RF(k−N)の中で、現フレームの送話側の周波数情報SF(k)と最も相関が高い受話側の周波数情報RF(x)が探索され、探索された受話側の周波数情報RF(x)と送話側の周波数情報SF(k)とが比較分析部15に与えられる。比較分析部15において、受話側の周波数情報RF(x)から送話側の周波数情報SF(k)が周波数成分毎に減算され、得られた周波数情報が補正特性情報F(k)として周波数特性補正部2に与えられる。   Then, among the frequency information RF (k) to RF (k−N) on the reception side held in the reception side FFT unit 11 by the correlation determination unit 14, the frequency information SF (k) on the transmission side of the current frame. ) And the frequency information RF (x) on the receiver side having the highest correlation is searched, and the frequency information RF (x) on the receiver side searched for and the frequency information SF (k) on the transmitter side are given to the comparison / analysis unit 15. It is done. In the comparison / analysis unit 15, the frequency information SF (k) on the transmission side is subtracted for each frequency component from the frequency information RF (x) on the reception side, and the obtained frequency information is used as the correction characteristic information F (k). The correction unit 2 is given.

これにより、周波数特性補正部2の周波数特性として補正特性情報F(k)が設定され、受話信号ri(n)の周波数特性は、補正特性情報F(k)に応じて補正される。   Thereby, the correction characteristic information F (k) is set as the frequency characteristic of the frequency characteristic correction unit 2, and the frequency characteristic of the reception signal ri (n) is corrected according to the correction characteristic information F (k).

例えば、送話信号s(n)から得られた現フレームの送話側の周波数情報SF(k)が図2(A)の破線のような特性であり、受話信号ri(n)から得られた、送話側の周波数情報SF(k)と最も相関が高い受話側の周波数情報RF(x)が図2(A)の実線のような特性である場合には、補正特性情報F(k)(=RF(x)−SF(k))は、図2(B)に示すような特性となる。   For example, the frequency information SF (k) on the transmission side of the current frame obtained from the transmission signal s (n) has the characteristics shown by the broken line in FIG. 2A, and is obtained from the reception signal ri (n). In addition, when the frequency information RF (x) on the receiving side having the highest correlation with the frequency information SF (k) on the transmitting side has characteristics as indicated by the solid line in FIG. 2A, the correction characteristic information F (k ) (= RF (x) −SF (k)) has a characteristic as shown in FIG.

この補正特性情報F(k)で受話信号ri(n)の周波数特性を補正した場合、仮に、パワ正規化後で見て、スピーカから発音出力されることで減衰される周波数成分は補正により増幅され、スピーカから発音出力されることで増幅される周波数成分は補正により減衰され、このような補正がなされた出力受話信号ro(n)を発音出力させると、補正で増幅された周波数成分はスピーカによる発音出力で減衰され、補正で減衰された周波数成分はスピーカによる発音出力で増幅され、スピーカから発音出力された音声の周波数特性は、当初の受話信号ri(n)の周波数特性と同様なものとなる。   When the frequency characteristic of the reception signal ri (n) is corrected with the correction characteristic information F (k), the frequency component attenuated by the sound output from the speaker as seen after power normalization is amplified by the correction. Then, the frequency component amplified by the sound output from the speaker is attenuated by the correction. When the output reception signal ro (n) subjected to such correction is sounded and output, the frequency component amplified by the correction is The frequency component attenuated by the sound output by the sound and attenuated by the correction is amplified by the sound output by the speaker, and the frequency characteristic of the sound output from the speaker is the same as the frequency characteristic of the original received signal ri (n) It becomes.

すなわち、以上のような補正により、スピーカの機種ごとの周波数特性のばらつきや製品毎のばらつきに拘らず、スピーカから発音出力された音声の周波数特性は、当初の受話信号ri(n)の周波数特性と同様なものとなる。   That is, with the above correction, the frequency characteristic of the sound output from the speaker regardless of the frequency characteristic variation for each speaker model or the product variation is the frequency characteristic of the original received signal ri (n). Will be the same.

周波数特性補正装置1における動作は、通話開始時点から予め定められている所定期間(例えば10秒間)だけ経過したときに終了するようにしても良い。また、周波数特性補正装置1における動作を、通話中、実行させるようにしても良い。さらに、周波数特性補正装置1における動作を、補正特性情報F(k)における全ての周波数成分のレベルが所定の狭範囲内に収まったときに終了させるようにしても良い。   The operation in the frequency characteristic correcting apparatus 1 may be terminated when a predetermined period (for example, 10 seconds) has elapsed since the start of the call. Further, the operation in the frequency characteristic correction apparatus 1 may be executed during a call. Further, the operation in the frequency characteristic correction apparatus 1 may be terminated when the levels of all frequency components in the correction characteristic information F (k) are within a predetermined narrow range.

なお、以上では、通話開始に伴い、自動的に周波数特性補正装置1における動作を有効とするものを示したが、ユーザが周波数特性補正装置1における動作を有効とするか否かを選択できるようにしておき(ディップスイッチによる選択や、アプリケーションからの選択など)、有効とすることを選択している状態における通話時に、周波数特性補正装置1における動作を有効とするようにしても良い。   In the above description, the operation of automatically enabling the operation in the frequency characteristic correction apparatus 1 is shown as the call starts. However, the user can select whether to enable the operation in the frequency characteristic correction apparatus 1 or not. The operation of the frequency characteristic correction apparatus 1 may be validated when a call is made in a state where the validation is selected (selection by a dip switch, selection from an application, etc.).

(A−3)第1の実施形態の効果
第1の実施形態によれば、ユーザが通話時に周波数特性の補正を意識することなく、自動的に、スピーカの周波数特性の影響を補償するように受話信号の周波数特性を補正し、発音出力させることができる。
(A-3) Effect of First Embodiment According to the first embodiment, the user automatically compensates for the influence of the frequency characteristic of the speaker without being aware of the correction of the frequency characteristic during a call. It is possible to correct the frequency characteristic of the received signal and output the sound.

しかも、第1の実施形態によれば、受話信号の周波数特性のために特別な参照信号は不要で、受話信号そのものを参照信号と用いることができ、ホワイトノイズ信号などの特別な参照信号の発生回路を不要とすることができる。   In addition, according to the first embodiment, a special reference signal is not necessary due to the frequency characteristics of the received signal, and the received signal itself can be used as the reference signal, and a special reference signal such as a white noise signal is generated. A circuit can be dispensed with.

なお、参照信号の発生回路を備え、参照信号を発音出力して補正特性情報F(k)を得ることは、第1の実施形態の変形実施形態を構成する。例えば、スマートフォン購入直後などの設定機能の一つとして、周波数特性補正機能を設けるようにしても良く、このような場合であればホワイトノイズ信号などを周波数特性の補正に利用することができる。   It should be noted that providing a reference signal generating circuit and outputting the reference signal by sound generation to obtain the correction characteristic information F (k) constitutes a modified embodiment of the first embodiment. For example, a frequency characteristic correction function may be provided as one of setting functions immediately after purchasing a smartphone. In such a case, a white noise signal or the like can be used for correcting the frequency characteristic.

(B)第2の実施形態
次に、本発明による周波数特性補正装置及びプログラムの第2の実施形態を、図面を参照しながら説明する。
(B) Second Embodiment Next, a second embodiment of the frequency characteristic correcting apparatus and program according to the present invention will be described with reference to the drawings.

図3は、第2の実施形態の周波数特性補正装置の機能的構成を示すブロック図であり、第1の実施形態に係る図1との同一、対応部分には同一、対応符号を付して示している。   FIG. 3 is a block diagram showing a functional configuration of the frequency characteristic correcting apparatus according to the second embodiment. The same or corresponding parts as those in FIG. 1 according to the first embodiment are indicated by the same reference numerals. Show.

第2の実施形態の周波数特性補正装置1Aは、スマートフォンに搭載されているものである。第2の実施形態の周波数特性補正装置1Aは、第1の実施形態の周波数特性補正装置1と同様な構成に加えて、第2の周波数特性補正部16及び使用者属性判別部17を有する。   The frequency characteristic correction apparatus 1A of the second embodiment is mounted on a smartphone. The frequency characteristic correction apparatus 1A according to the second embodiment includes a second frequency characteristic correction unit 16 and a user attribute determination unit 17 in addition to the same configuration as the frequency characteristic correction apparatus 1 according to the first embodiment.

使用者属性判別部17は、当該周波数特性補正装置1Aが搭載されているスマートフォンの使用者情報を管理しているアプリケーションから使用者情報を取り込み、使用者(ユーザ)の属性を得て、第2の周波数特性補正部16に設定する第2の補正特性情報F2を得るものである。   The user attribute discriminating unit 17 takes in user information from an application that manages user information of the smartphone on which the frequency characteristic correction device 1A is mounted, obtains a user (user) attribute, The second correction characteristic information F2 set in the frequency characteristic correction unit 16 is obtained.

第2の周波数特性補正部16は、例えば、デジタルフィルタでなり、対向装置からの受話信号ri(n)の周波数特性を第2の補正特性情報F2に従って補正し、補正後の受話信号ri2(n)を周波数特性補正部2及び補正特性情報形成部3に与えるものである。   The second frequency characteristic correction unit 16 is composed of, for example, a digital filter, corrects the frequency characteristic of the reception signal ri (n) from the opposite device according to the second correction characteristic information F2, and receives the corrected reception signal ri2 (n ) To the frequency characteristic correction unit 2 and the correction characteristic information formation unit 3.

例えば、使用者属性判別部17は、年齢の代と第2の補正特性情報F2とを対応したテーブルを備えており、使用者情報から使用者の年齢が何十代かを判別し、その年代に適した第2の補正特性情報F2をテーブルから読み出して第2の周波数特性補正部16に与える。これにより、第2の周波数特性補正部16から出力された補正後の受話信号ri2(n)は、その年代の人達が聴き取りやすい周波数特性を有するものとなる。例えば、ユーザが60代の人であれば、高域成分を持ち上げておくようにする。   For example, the user attribute discriminating unit 17 includes a table that associates the age of the age with the second correction characteristic information F2, discriminates the age of the user from the user information, and the age The second correction characteristic information F2 suitable for the above is read from the table and given to the second frequency characteristic correction unit 16. As a result, the corrected reception signal ri2 (n) output from the second frequency characteristic correction unit 16 has frequency characteristics that are easily heard by people of that age. For example, if the user is a person in their 60s, the high frequency component is lifted.

使用者の属性は、年齢に限定されるものではない。例えば、年齢と性別の組み合わせであっても良い。   The attribute of the user is not limited to age. For example, it may be a combination of age and gender.

第2の実施形態によれば、スピーカの周波数特性を考慮した周波数特性の補正と、ユーザの属性を考慮した周波数特性の補正とを、相互に悪影響を与えることなく併存させることができる。   According to the second embodiment, the correction of the frequency characteristic in consideration of the frequency characteristic of the speaker and the correction of the frequency characteristic in consideration of the user attribute can coexist without adversely affecting each other.

(C)第3の実施形態
次に、本発明による周波数特性補正装置及びプログラムの第3の実施形態を、図面を参照しながら説明する。
(C) Third Embodiment Next, a third embodiment of the frequency characteristic correcting apparatus and program according to the present invention will be described with reference to the drawings.

図4は、第3の実施形態の周波数特性補正装置の機能的構成を示すブロック図であり、第1の実施形態に係る図1との同一、対応部分には同一、対応符号を付して示している。   FIG. 4 is a block diagram showing a functional configuration of the frequency characteristic correcting apparatus according to the third embodiment. The same or corresponding parts as those in FIG. 1 according to the first embodiment are indicated by the same reference numerals. Show.

第3の実施形態の周波数特性補正装置1Bは、第1の実施形態の周波数特性補正装置1と同様な構成に加えて、ノイズキャンセラ部18を有する。   The frequency characteristic correction apparatus 1B according to the third embodiment includes a noise canceller unit 18 in addition to the same configuration as the frequency characteristic correction apparatus 1 according to the first embodiment.

ノイズキャンセラ部18には、図示しないマイクロフォンが捕捉した信号を図示しないアナログ/デジタル変換部がデジタル信号に変換した送話信号s(n)が与えられる。ノイズキャンセラ部18は、送話信号s(n)に含まれているノイズ成分を除去し、除去後の送話信号s2(n)を補正特性情報形成部3に与えるものである。   The noise canceller 18 is provided with a transmission signal s (n) obtained by converting a signal captured by a microphone (not shown) into a digital signal by an analog / digital converter (not shown). The noise canceller 18 removes a noise component included in the transmission signal s (n) and gives the transmission signal s2 (n) after the removal to the correction characteristic information forming unit 3.

補正特性情報形成部3は、基本的には、受話信号がエコー経路を介して回り込んだ送話信号は受話信号と非常に高い相関を有することを利用し、受話信号と送話信号の周波数特性の相違は、スピーカの周波数特性に基づいているという考え方に立って、補正特性情報F(k)を形成している。   The correction characteristic information forming unit 3 basically uses the fact that the transmission signal that the reception signal wraps around through the echo path has a very high correlation with the reception signal, and the frequency of the reception signal and the transmission signal. Based on the idea that the difference in characteristics is based on the frequency characteristics of the speaker, the correction characteristic information F (k) is formed.

しかしながら、当該周波数特性補正装置を搭載したスマートフォンが背景雑音下にあるときには背景雑音の周波数特性も送話信号s(n)に含まれる。背景雑音成分を除去することなく、補正特性情報F(k)を形成した場合には、発音出力される音声は、スピーカの周波数特性と背景雑音の周波数特性分が補正されたものとなり、受話信号ri(n)と大きくかけ離れたものとなる。一方、この実施形態のように、ノイズキャンセラ部18によってノイズ成分を除去した後の送話信号s2(n)に基づいて、補正特性情報F(k)を形成した場合には、第1の実施形態で説明したように、発音出力される音声は、スピーカの周波数特性が打ち消された受話信号ri(n)に非常に近いものとなる。   However, when a smartphone equipped with the frequency characteristic correction device is under background noise, the frequency characteristic of background noise is also included in the transmission signal s (n). When the correction characteristic information F (k) is formed without removing the background noise component, the sound that is produced and output is a sound in which the frequency characteristic of the speaker and the frequency characteristic of the background noise are corrected. This is greatly different from ri (n). On the other hand, when the correction characteristic information F (k) is formed based on the transmission signal s2 (n) after the noise component is removed by the noise canceller 18 as in this embodiment, the first embodiment As described above, the sound that is generated and output is very close to the received signal ri (n) in which the frequency characteristic of the speaker is canceled.

なお、ノイズキャンセラ部18の機能を有効とするか否かは、ユーザの選択に任せるようにしても良い。   Whether or not to enable the function of the noise canceller unit 18 may be left to the user's selection.

第3の実施形態によれば、背景雑音が大きい環境下においても、第1の実施形態で説明した効果を発揮させることができる。   According to the third embodiment, the effects described in the first embodiment can be exhibited even in an environment with a large background noise.

(D)他の実施形態
上記各実施形態の説明においても、種々変形実施形態に言及したが、さらに、以下に例示するような変形実施形態を挙げることができる。
(D) Other Embodiments In the description of each of the above embodiments, various modified embodiments have been referred to. However, modified embodiments exemplified below can be cited.

上記各実施形態では、通話用のマイクロフォンを周波数特性の補正のための送話信号s(n)を得るマイクロフォンとして適用したものを示したが、周波数特性の補正用のマイクロフォンを通話用のマイクロフォンと別個に設けるようにしても良い。   In each of the above-described embodiments, the microphone for calling is applied as a microphone for obtaining the transmission signal s (n) for correcting the frequency characteristic. However, the microphone for correcting the frequency characteristic is referred to as a microphone for calling. It may be provided separately.

上記各実施形態においては、FFT部で変換された後の周波数情報で、送話信号と受話信号との同期(相関)を探索するものを示したが、時間軸信号の段階で送話信号と受話信号との同期(相関)を求めるようにしても良い。この場合、その後にフレームの切り出し、FFT変換を行うようにしても良く、さらには、信号パワに基づく正規化も相関を求めてから行うようにしても良い。   In each of the above embodiments, the frequency information after being converted by the FFT unit has been shown to search for synchronization (correlation) between the transmission signal and the reception signal. The synchronization (correlation) with the received signal may be obtained. In this case, frame cutout and FFT conversion may be performed thereafter, and normalization based on signal power may be performed after obtaining the correlation.

上記各実施形態では、マイクロフォンが1個の場合を示したが、マイクロフォンが複数ある場合にも、本発明を適用することができる。例えば、各マイクロフォンの捕捉信号毎に補正特性情報を求め、複数の補正特性情報を周波数成分毎に平均して得た平均補正特性情報を周波数特性補正部2に与えるようにしても良い。   In each of the above embodiments, the case where there is one microphone is shown, but the present invention can also be applied to a case where there are a plurality of microphones. For example, the correction characteristic information may be obtained for each captured signal of each microphone, and average correction characteristic information obtained by averaging a plurality of correction characteristic information for each frequency component may be provided to the frequency characteristic correction unit 2.

上記各実施形態では、本発明の周波数特性補正装置をスマートフォンに搭載するものを示したが、テレビ会議装置などの他の音声通信装置に本発明の周波数特性補正装置を適用することができる。さらに、音楽プレイヤ、カラオケ装置などの楽音信号、音響信号などを扱う装置に対しても、本発明の周波数特性補正装置を適用することができる。特許請求の範囲で「音信号」と表現しているものは「音声信号」、「楽音信号」、「音響信号」など、発音出力デバイスによって発音出力されるものを表している。   In each of the above-described embodiments, the frequency characteristic correction device of the present invention is mounted on a smartphone. However, the frequency characteristic correction device of the present invention can be applied to other voice communication devices such as a video conference device. Furthermore, the frequency characteristic correcting device of the present invention can be applied to devices that handle musical sound signals, acoustic signals, etc., such as music players and karaoke devices. What is expressed as “sound signal” in the scope of claims represents “sound signal”, “musical sound signal”, “acoustic signal”, and the like that are output by the sound output device.

1、1A、1B…周波数特性補正装置、2…周波数特性補正部、3…補正特性情報形成部、10…受話側パワ正規化部、11…受話側FFT部、12…送話側パワ正規化部、13…送話側FFT部、14…相関判定部、15…比較分析部、16…第2の周波数特性補正部、17…使用者属性判別部、18…ノイズキャンセラ部。   DESCRIPTION OF SYMBOLS 1, 1A, 1B ... Frequency characteristic correction apparatus, 2 ... Frequency characteristic correction part, 3 ... Correction characteristic information formation part, 10 ... Reception side power normalization part, 11 ... Reception side FFT part, 12 ... Transmission side power normalization , 13 ... Transmission side FFT unit, 14 ... Correlation determination unit, 15 ... Comparative analysis unit, 16 ... Second frequency characteristic correction unit, 17 ... User attribute determination unit, 18 ... Noise canceller unit.

Claims (3)

発音出力デバイスから発音出力される音の信号である出力音信号の周波数特性を補正する周波数特性補正装置において、
上記出力音信号の周波数特性を補正して、上記発音出力デバイス側に出力する周波数特性補正手段と、
上記発音出力デバイスから発音出力され、エコー経路を介して到来した音を音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相関値を求め、当該相関値が所定の閾値以上の場合に、上記音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相違に基づき、上記周波数特性補正手段が実行する周波数特性の補正情報を形成する補正特性情報形成手段とを有する
ことを特徴とする周波数特性補正装置。
In the frequency characteristic correction device that corrects the frequency characteristic of the output sound signal, which is the sound signal output from the sound output device,
A frequency characteristic correcting means for correcting the frequency characteristic of the output sound signal and outputting to the sound output device side;
Is pronounced outputted from the sound output device, the correlation value between the frequency characteristic of the frequency characteristic of the input sound signal a sound arriving via the echo path the sound capturing means obtained by capturing the upper SL output sound signal, the When the correlation value is greater than or equal to a predetermined threshold , the frequency characteristic correcting unit executes the frequency based on the difference between the frequency characteristic of the input sound signal obtained by the sound capturing unit and the frequency characteristic of the output sound signal. A frequency characteristic correction device comprising correction characteristic information forming means for forming characteristic correction information.
上記補正特性情報形成手段が、
上記出力音信号を、その出力音信号のパワで正規化する出力側正規化部と、
時間軸信号である正規化された出力音信号を周波数軸信号に変換する出力側信号軸変換部と、
上記入力音信号を、その入力音信号のパワで正規化する入力側正規化部と、
時間軸信号である正規化された入力音信号を周波数軸信号に変換する入力側信号軸変換部と、
上記出力側信号軸変換部からの出力側周波数軸信号と上記入力側信号軸変換部からの入力側周波数軸信号とにおける上記所定の閾値以上の相関値を有する組を探索する相関周波数軸信号探索部と、
上記相関周波数軸信号探索部により探索された上記出力側周波数軸信号と上記入力側周波数軸信号との周波数特性の相違に基づいて、上記周波数特性補正手段が実行する周波数特性の補正情報を得る特性比較分析部とを有する
ことを特徴とする請求項1に記載の周波数特性補正装置。
The correction characteristic information forming means is
An output side normalization unit that normalizes the output sound signal with the power of the output sound signal;
An output-side signal axis conversion unit that converts a normalized output sound signal that is a time axis signal into a frequency axis signal;
An input side normalization unit that normalizes the input sound signal with the power of the input sound signal;
An input-side signal axis converter that converts a normalized input sound signal that is a time axis signal into a frequency axis signal;
Correlated frequency axis signal search for searching a set having a correlation value equal to or greater than the predetermined threshold in the output side frequency axis signal from the output side signal axis converter and the input side frequency axis signal from the input side signal axis converter And
A characteristic for obtaining correction information of the frequency characteristic executed by the frequency characteristic correction means based on the difference in frequency characteristic between the output side frequency axis signal and the input side frequency axis signal searched by the correlation frequency axis signal search unit The frequency characteristic correction apparatus according to claim 1, further comprising a comparison analysis unit.
発音出力デバイスから発音出力される音の信号である出力音信号の周波数特性を補正するための周波数特性補正プログラムであって、
コンピュータを、
上記出力音信号の周波数特性を補正して、上記発音出力デバイス側に出力する周波数特性補正手段と、
上記発音出力デバイスから発音出力され、エコー経路を介して到来した音を音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相関値を求め、当該相関値が所定の閾値以上の場合に、上記音捕捉手段が捕捉して得た入力音信号の周波数特性と上記出力音信号の周波数特性との相違に基づき、上記周波数特性補正手段が実行する周波数特性の補正情報を形成する補正特性情報形成手段と
して機能させることを特徴とする周波数特性補正プログラム。
A frequency characteristic correction program for correcting a frequency characteristic of an output sound signal, which is a sound signal output from a sound output device,
Computer
A frequency characteristic correcting means for correcting the frequency characteristic of the output sound signal and outputting to the sound output device side;
Is pronounced outputted from the sound output device, the correlation value between the frequency characteristic of the frequency characteristic of the input sound signal a sound arriving via the echo path the sound capturing means obtained by capturing the upper SL output sound signal, the When the correlation value is greater than or equal to a predetermined threshold , the frequency characteristic correcting unit executes the frequency based on the difference between the frequency characteristic of the input sound signal obtained by the sound capturing unit and the frequency characteristic of the output sound signal. A frequency characteristic correction program that functions as correction characteristic information forming means for forming characteristic correction information.
JP2013055431A 2013-03-18 2013-03-18 Frequency characteristic correction apparatus and program Active JP6119336B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013055431A JP6119336B2 (en) 2013-03-18 2013-03-18 Frequency characteristic correction apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013055431A JP6119336B2 (en) 2013-03-18 2013-03-18 Frequency characteristic correction apparatus and program

Publications (2)

Publication Number Publication Date
JP2014183392A JP2014183392A (en) 2014-09-29
JP6119336B2 true JP6119336B2 (en) 2017-04-26

Family

ID=51701736

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013055431A Active JP6119336B2 (en) 2013-03-18 2013-03-18 Frequency characteristic correction apparatus and program

Country Status (1)

Country Link
JP (1) JP6119336B2 (en)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03271039A (en) * 1990-03-19 1991-12-03 Mazda Motor Corp Car sound device
JPH05181489A (en) * 1991-12-26 1993-07-23 Clarion Co Ltd Sound field correction device
JPH10271595A (en) * 1997-03-21 1998-10-09 Nec Corp Speaker equipment utilizing feedback
JP3957939B2 (en) * 2000-01-17 2007-08-15 アルパイン株式会社 Equalization system
JP3964092B2 (en) * 2000-02-17 2007-08-22 アルパイン株式会社 Audio adaptive equalizer and filter coefficient determination method
JP5381091B2 (en) * 2008-12-26 2014-01-08 ヤマハ株式会社 Howling prevention device
JP5332733B2 (en) * 2009-03-03 2013-11-06 沖電気工業株式会社 Echo canceller

Also Published As

Publication number Publication date
JP2014183392A (en) 2014-09-29

Similar Documents

Publication Publication Date Title
US9756422B2 (en) Noise estimation in a mobile device using an external acoustic microphone signal
KR101255404B1 (en) Configuration of echo cancellation
US9697845B2 (en) Non-linear echo path detection
JP5332733B2 (en) Echo canceller
US9773510B1 (en) Correcting clock drift via embedded sine waves
EP2973559B1 (en) Audio transmission channel quality assessment
JP6903884B2 (en) Signal processing equipment, programs and methods, and communication equipment
WO2014161334A1 (en) Voice call method and device
CN112019967A (en) Earphone noise reduction method and device, earphone equipment and storage medium
JP2015162872A (en) Echo suppression device, program and method
CN108605191B (en) Abnormal sound detection method and device
RU2010152224A (en) MUSIC DETECTION BASED ON PAUSE ANALYSIS
JP4533427B2 (en) Echo canceller
JP6119336B2 (en) Frequency characteristic correction apparatus and program
JP2008147914A (en) Echo canceler and echo canceling method
US10540984B1 (en) System and method for echo control using adaptive polynomial filters in a sub-band domain
JP2010283483A (en) Echo canceller, microphone, and method of supporting arrangement of speaker
JP4743085B2 (en) Echo canceller
JP2010010856A (en) Noise cancellation device, noise cancellation method, noise cancellation program, noise cancellation system, and base station
JP6369192B2 (en) Echo suppression device, echo suppression program, echo suppression method, and communication terminal
JP5853540B2 (en) Voice communication apparatus and program
TWI519123B (en) Method of processing telephone voice output, software product processing telephone voice, and electronic device with phone function
US10748548B2 (en) Voice processing method, voice communication device and computer program product thereof
CN109361827B (en) Echo secondary suppression method for communication terminal
JP6146163B2 (en) Telephone device, telephone device installation program and model characteristic adjustment system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160705

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170313

R150 Certificate of patent or registration of utility model

Ref document number: 6119336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150