JP4313740B2 - 残響除去方法、プログラムおよび記録媒体 - Google Patents
残響除去方法、プログラムおよび記録媒体 Download PDFInfo
- Publication number
- JP4313740B2 JP4313740B2 JP2004245622A JP2004245622A JP4313740B2 JP 4313740 B2 JP4313740 B2 JP 4313740B2 JP 2004245622 A JP2004245622 A JP 2004245622A JP 2004245622 A JP2004245622 A JP 2004245622A JP 4313740 B2 JP4313740 B2 JP 4313740B2
- Authority
- JP
- Japan
- Prior art keywords
- stage
- fundamental frequency
- signal
- time
- harmonic structure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
図7の残響除去装置による残響除去処理は、音声収集装置8より入力した残響を含んだ音声信号x(t)に対して、基本周波数推定部1による基本周波数推定処理と、調波構造音抽出部4による調波構造音抽出処理と、逆伝達関数推定部6による逆伝達関数推定処理と、逆伝達関数適用部7による逆伝達関数適用処理より成る。調波構造音抽出部4が抽出する調波構造音を、音声信号の直接音を近似する信号とみなし、この信号と観測された信号である音声信号x(t)とから逆伝達関数推定部6において逆伝達関数を推定する。この逆伝達関数を、逆伝達関数適用部7において残響を含んだ観測音声信号に畳み込むことで残響除去を行う。
2.残響除去により音声の明瞭度を向上させるTV会議方法および装置などの通信方法および装置。
3.講演の録音に含まれる残響を除去することで、録音された音声の明瞭度を向上させる再生方法および装置。
4.残響を除去することで聞き取りやすさを向上させる補聴器。
5.人が歌ったり、楽器で演奏したり、またはスピーカで演奏された音楽の残響を除去して、楽曲を検索したり、採譜したりする音楽情報処理方法および装置。
6.人が発した声に反応して機械にコマンドをわたす機械制御インターフェース、および機械と人間との間の対話装置。
この発明は、この公知の時間伸縮処理技術を上述した先行例における調波構造音抽出処理に先だって適用し、近似的に基本周波数が一定の信号に調波構造音抽出処理を施すことに着目した。
第一段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第一段階の基本周波数時間微分推定ステップと、
前記音声信号、第一段階の基本周波数推定ステップにより求められた基本周波数、第一段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて前記音声信号の基本周波数を一定にする第一段階の信号波形時間伸縮ステップと、
第一段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第一段階の調波構造音抽出ステップと、
第一段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第一段階の信号波形時間伸縮復元ステップと、
前記音声信号と第一段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第一段階の逆伝達関数を推定する第一段階の逆伝達関数推定ステップと、
第一段階の逆伝達関数推定ステップにより求めた第一段階の逆伝達関数を前記音声信号に適用して第一段階の残響除去後の信号を得る第一段階の逆伝達関数適用ステップと、
から構成される第一段階の残響除去処理ステップと、
第一段階の残響除去後の信号に対して基本周波数推定処理をする第二段階の基本周波数推定ステップと、
第二段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第二段階の基本周波数時間微分推定ステップと、
前記音声信号、第二段階の基本周波数推定ステップにより求められた基本周波数、第二段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて前記音声信号の基本周波数を一定にする第二段階の信号波形時間伸縮ステップと、
第二段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第二段階の調波構造音抽出ステップと、
第二段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第二段階の信号波形時間伸縮復元ステップと、
前記音声信号と第二段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第二段階の逆伝達関数を推定する第二段階の逆伝達関数推定ステップと、
第二段階の逆伝達関数推定ステップにより求めた第二段階の逆伝達関数を前記音声信号に適用して第二段階の残響除去後の信号を得る第二段階の逆伝達関数適用ステップと、
から構成される第二段階の残響除去処理ステップと、
第二段階の残響除去後の信号に対して基本周波数推定処理をする第三段階の基本周波数推定ステップと、
第三段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第三段階の基本周波数時間微分推定ステップと、
第二段階の残響除去後の信号、第三段階の基本周波数推定ステップにより求められた基本周波数、第三段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて第二段階の残響除去後の信号の基本周波数を一定にする第三段階の信号波形時間伸縮ステップと、
第三段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第三段階の調波構造音抽出ステップと、
第三段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第三段階の信号波形時間伸縮復元ステップと、
第二段階の残響除去後の信号と第三段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第三段階の逆伝達関数を推定する第三段階の逆伝達関数推定ステップと、
第三段階の逆伝達関数推定ステップにより求めた第三段階の逆伝達関数を第二段階の残響除去後の信号に適用して第三段階の残響除去後の信号を得る第三段階の逆伝達関数適用ステップと、
から構成される第三段階の残響除去処理ステップと、
を備える。
また、請求項3:請求項2記載のプログラムを記録した記録媒体を構成した。
上述した通り、この発明は、調波構造音の抽出処理に音声信号の時間伸縮処理技術を導入している。時間伸縮処理を施された後の音声信号波形は、例えば、時間的に前半の信号の時間軸を縮めると共に、後半の信号の時間軸を伸ばすことで、近似的に基本周波数が一定の信号を得ることができる。この基本周波数が一定になった音声信号に調波構造音抽出処理を施すことにより、調波構造音を正確に抽出することができるに到る。但し、このとき抽出される調波構造音は基本周波数が一定の信号である。これを元の音声信号に含まれた調波構造音に戻すには、この音声信号に対して、最初に適用した時間伸縮処理とは逆の時間伸縮処理を施せばよい。これにより、元の音声信号と同じ基本周波数の変化をもった
調波構造音に変換される。
音声収集装置8より収集され、入力した残響を含むディジタルの信号である音声信号x(t)(t=0,1,・・・・・はディジタル信号の各標本のインデックス、標本化周波数fs Hz)が図1の残響除去装置に入力されると、先ず、基本周波数推定部1において基本周波数推定処理が行われる。この基本周波数推定処理は、音声信号x(t)を分析窓と呼ばれる短時間(例えば、40ミリ秒程度)の信号区間(フレーム)に分割すると共に、各フレームの基本周波数と調波構造が含まれているフレーム(調波構造区間)を推定する。この基本周波数の推定、および調波構造区間の推定には、ケプストラム法(参考文献[2]、[3] 参照)、従来例の特許[1]に記述されている雑音に頑健な推定法その他、多くの方法を用いることができる。以下、この分析に用いたフレームを番号l(l=0,1,2,・・・・)、フレーム中心時間の標本インデックスをtl で表し、各フレームの基本周波数をθ・l(Hz)と表すものとする。
次に、3は信号波形時間伸縮部である。ここで、図2は信号波形の時間伸縮のフローと信号波形の時間伸縮復元のフローを示す図である。信号波形時間伸縮部3における信号波形の時間伸縮処理は、求められた基本周波数をもとにして、各フレームの基本周波数を一定にするために各フレーム毎に時間軸の伸縮を行う。このために、先ず、時間伸縮関数を求める。或るフレームが調波構造区間であると判定されているとしたとき、そのフレームに対する時間伸縮関数τ=Wl(t)、およびその逆関数t=Wl -1(τ)は、例えば、以下の通りに決定することができる。
次に、5は信号波形時間伸縮復元部である。信号波形時間伸縮復元部5は、この様にして得られた調波構造音x^wl(τ)に対して、式(4)の関係を利用し、以下の様に信号波形の時間伸縮復元処理を施すことで、時間伸縮前と同じ基本周波数を持つ調波構造音x^l(t)を得る(図2b参照)。
信号波形の時間伸縮復元処理においては、各フレーム毎に得られた信号x^l(t)を時間的に接続することで、音声信号x(t)から調波構造音だけを取り出した信号x^(t)を得ることができる。これには、例えば、以下の様に、overlap-add合成として知られた方法を用いることができる。
ここで、g2(t)は時間分析窓を表し、Hanning窓などの一般に信号処理で用いられる関数を用いることができる。
次に、6は逆伝達関数推定部である。逆伝達関数推定部6による逆伝達関数推定処理は、音声信号x(t)と信号波形時間伸縮復元部5において得られた調波構造音x^(t)を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進める。調波構造音抽出処理の場合と区別するために時間フレームのインデックスをL(=0,1,2,・・・・)と書く。各x(t)とx^(t)の各組から切り出された各時間フレーム毎に、逆伝達関数の初期推定値WL(ω)を以下の式により計算する。
最後に、7は逆伝達関数適用部である。逆伝達関数適用部7による逆伝達関数適用処理は、こうして求めた逆伝達関数W(ω)に離散逆フーリエ変換(IDFT(・))を適用することで時間領域の逆フィルタw(t)に戻した後、音声信号x(t)に畳み込むことで、残響除去後の信号y(t)を得る。
y(t)=w(t)*x(t) (16)
更に、残響除去は、図3に示される様に、上述の処理とほぼ同じ処理を三段階で適用することで、各段階毎に、次第に残響除去性能が改善する構成をとることもできる。各段階の処理のポイントは以下の通りにまとめられる。
1.第一段階:調波構造区間、基本周波数、その時間微分、および調波構造音はすべて音声信号x(t)から推定される。このために、各推定値には残響に起因する多くの誤差が含まれている可能性がある。
3.第三段階:上記すべての値が一つ前の段階で残響除去された信号から推定される。調波構造音の推定精度も向上することからより効果的な残響除去が期待される。
式(6)から(7)に示した時間伸縮処理を施した観測された音声信号から調波構造音を取り出すもう一つの方法として、正弦波合成法がある。この方法を用いると、時間伸縮処理を施した信号から時間伸縮前の信号に含まれる調波構造音を直接推定することができるので、調波構造抽出処理と時間伸縮復元処理を一緒に実施することができる。Xwl(ω)を
xwl(τ)の短時間離散フーリエ変換とすると、時間伸縮処理を適用した信号の第k番目の高調波成分の振幅Ak、lと位相pk、lは以下の様に抽出することができる。
x^l(t)=ΣkAk,lcos([2πkφ・l]Wl(t)+pk,l) (20)
式(2),(3)で示される時間伸縮関数について補足して説明する。先ず、時間伸縮前の観測された音声信号中の調波構造の基本周波数に相当する周波数成分(基本波成分)の位相をθ(t)と書き、時間伸縮後の信号の基本波成分の位相をφ(τ)と書くと、式(4)より、以下の関係式が成り立つ。
また、時問伸縮処理は、φ・(τ)を一定にする関数としてWl(t)を定めるため、以下の関係式が成立する。
次いで、残響除去方法の実施例2を、実施例1と同様に、図1を参照して説明する。実施例2は、逆伝達関数の推定値を求める計算方法のみが実施例1とは異なる。
W(ω)=E(X^L(ω)X^L *(ω))/E(XL(ω)X^L *(ω)) (26)
従って、実施例1において式(12)の計算を上式に置き換えることで、実施例2を構成することができる。
また、式(14)の様な重み付けによる平均の計算を実施例2に導入することもできる。こうするためには、式(26)のかわりに以下の計算式を用いればよい。
図4および図5より、すべての残響時間において、また、男女何れの音声に対しても、この発明は従来例よりも効果的に残響のエネルギーを低減することができていることが示されている。図6は、残響を含まない信号、残響を含んだ信号(残響時間:1.0秒)、およびこの発明により残響除去された信号の波形とスペクトログラムを示している。図6より、この発明は、残響を含まない信号の時間構造および周波数構造を効果的に復元することができていることがわかる。
[1] 特願2003−060025:音響信号の残響除去方法、装置、及び音響信号の残響除去プログラム、そのプログラムを記録した記録媒体。
[2] 特願2002−062513:占有度抽出装置および基本周波数抽出装置、それらの方法、それらのプログラム並びにそれらのプログラムを記録した記録媒体
[3] 特顧2002−274525:調波構造区間推定方法及び装置、調波構造区間推定プログラム及びそのプログラムを記録した記録媒体、調波構造区間推定の閾値決定方法及び装置、調波構造区間推定の閾値決定プログラム及びそのプログラムを記録した記録媒体
3 信号波形時間伸縮部 4 調波構造音抽出部
5 信号波形時間伸縮復元部 6 逆伝達関数推定部
7 逆伝達関数適用部 8 音声収音装置
Claims (3)
- 入力された音声信号に対して基本周波数推定処理をする第一段階の基本周波数推定ステップと、
前記第一段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第一段階の基本周波数時間微分推定ステップと、
前記音声信号、前記第一段階の基本周波数推定ステップにより求められた基本周波数、前記第一段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて前記音声信号の基本周波数を一定にする第一段階の信号波形時間伸縮ステップと、
前記第一段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第一段階の調波構造音抽出ステップと、
前記第一段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第一段階の信号波形時間伸縮復元ステップと、
前記音声信号と前記第一段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第一段階の逆伝達関数を推定する第一段階の逆伝達関数推定ステップと、
前記第一段階の逆伝達関数推定ステップにより求めた第一段階の逆伝達関数を前記音声信号に適用して第一段階の残響除去後の信号を得る第一段階の逆伝達関数適用ステップと、
から構成される第一段階の残響除去処理ステップと、
前記第一段階の残響除去後の信号に対して基本周波数推定処理をする第二段階の基本周波数推定ステップと、
前記第二段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第二段階の基本周波数時間微分推定ステップと、
前記音声信号、前記第二段階の基本周波数推定ステップにより求められた基本周波数、前記第二段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて前記音声信号の基本周波数を一定にする第二段階の信号波形時間伸縮ステップと、
前記第二段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第二段階の調波構造音抽出ステップと、
前記第二段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第二段階の信号波形時間伸縮復元ステップと、
前記音声信号と前記第二段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第二段階の逆伝達関数を推定する第二段階の逆伝達関数推定ステップと、
前記第二段階の逆伝達関数推定ステップにより求めた第二段階の逆伝達関数を前記音声信号に適用して第二段階の残響除去後の信号を得る第二段階の逆伝達関数適用ステップと、
から構成される第二段階の残響除去処理ステップと、
前記第二段階の残響除去後の信号に対して基本周波数推定処理をする第三段階の基本周波数推定ステップと、
前記第三段階の基本周波数推定ステップにより求められた基本周波数に基づいてその時間微分を推定する第三段階の基本周波数時間微分推定ステップと、
前記第二段階の残響除去後の信号、前記第三段階の基本周波数推定ステップにより求められた基本周波数、前記第三段階の基本周波数時間微分推定ステップにより求められた基本周波数の時間微分に基づいて前記第二段階の残響除去後の信号の基本周波数を一定にする第三段階の信号波形時間伸縮ステップと、
前記第三段階の信号波形時間伸縮ステップにより得られた時間伸縮信号に基づいてその調波構造音を抽出する第三段階の調波構造音抽出ステップと、
前記第三段階の調波構造音抽出ステップにより得られた調波構造音に対して信号波形の時間伸縮復元処理を施して時間伸縮前と同じ基本周波数を持つ調波構造音を得る第三段階の信号波形時間伸縮復元ステップと、
前記第二段階の残響除去後の信号と前記第三段階の信号波形時間伸縮復元ステップにおいて得られた調波構造音を、調波構造音抽出処理とは異なる長さの時間フレームに分割して分析を進めて第三段階の逆伝達関数を推定する第三段階の逆伝達関数推定ステップと、
前記第三段階の逆伝達関数推定ステップにより求めた第三段階の逆伝達関数を前記第二段階の残響除去後の信号に適用して第三段階の残響除去後の信号を得る第三段階の逆伝達関数適用ステップと、
から構成される第三段階の残響除去処理ステップと、
を備えたことを特徴とする残響除去方法。 - 請求項1記載の残響除去方法の各ステップをコンピュータに実行させるためのプログラム。
- 請求項2記載のプログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004245622A JP4313740B2 (ja) | 2004-08-25 | 2004-08-25 | 残響除去方法、プログラムおよび記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004245622A JP4313740B2 (ja) | 2004-08-25 | 2004-08-25 | 残響除去方法、プログラムおよび記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006064866A JP2006064866A (ja) | 2006-03-09 |
JP4313740B2 true JP4313740B2 (ja) | 2009-08-12 |
Family
ID=36111438
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004245622A Expired - Fee Related JP4313740B2 (ja) | 2004-08-25 | 2004-08-25 | 残響除去方法、プログラムおよび記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4313740B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5166460B2 (ja) * | 2010-02-09 | 2013-03-21 | 日本電信電話株式会社 | 残響予測フィルタ算出装置、残響抑圧装置、残響予測フィルタ算出方法、残響抑圧方法、プログラム |
CN118366488B (zh) * | 2024-06-14 | 2024-09-13 | 宁波菊风系统软件有限公司 | 一种录音系统及计算机可读存储介质 |
-
2004
- 2004-08-25 JP JP2004245622A patent/JP4313740B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2006064866A (ja) | 2006-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4774100B2 (ja) | 残響除去装置、残響除去方法、残響除去プログラム及び記録媒体 | |
EP0822538B1 (en) | Method of transforming periodic signal using smoothed spectrogram, method of transforming sound using phasing component and method of analyzing signal using optimum interpolation function | |
JP2763322B2 (ja) | 音声処理方法 | |
Shrawankar et al. | Techniques for feature extraction in speech recognition system: A comparative study | |
JP5124014B2 (ja) | 信号強調装置、その方法、プログラム及び記録媒体 | |
US10614827B1 (en) | System and method for speech enhancement using dynamic noise profile estimation | |
JP4516157B2 (ja) | 音声分析装置、音声分析合成装置、補正規則情報生成装置、音声分析システム、音声分析方法、補正規則情報生成方法、およびプログラム | |
JP2013037174A (ja) | 雑音/残響除去装置とその方法とプログラム | |
JP6748304B2 (ja) | ニューラルネットワークを用いた信号処理装置、ニューラルネットワークを用いた信号処理方法及び信号処理プログラム | |
JP4348393B2 (ja) | 信号歪み除去装置、方法、プログラム及びそのプログラムを記録した記録媒体 | |
JP2798003B2 (ja) | 音声帯域拡大装置および音声帯域拡大方法 | |
JP4098647B2 (ja) | 音響信号の残響除去方法、装置、及び音響信号の残響除去プログラム、そのプログラムを記録した記録媒体 | |
JP5325130B2 (ja) | Lpc分析装置、lpc分析方法、音声分析合成装置、音声分析合成方法及びプログラム | |
JP4313740B2 (ja) | 残響除去方法、プログラムおよび記録媒体 | |
JP4705414B2 (ja) | 音声認識装置、音声認識方法、音声認識プログラムおよび記録媒体 | |
JP3916834B2 (ja) | 雑音が付加された周期波形の基本周期あるいは基本周波数の抽出方法 | |
JP2010044150A (ja) | 残響除去装置、残響除去方法、そのプログラムおよび記録媒体 | |
JP4464797B2 (ja) | 音声認識方法、この方法を実施する装置、プログラムおよびその記録媒体 | |
Hasan et al. | An approach to voice conversion using feature statistical mapping | |
JP4166405B2 (ja) | 駆動信号分析装置 | |
JP3035939B2 (ja) | 音声分析合成装置 | |
Hirsch et al. | A new HMM adaptation approach for the case of a hands-free speech input in reverberant rooms | |
JP2006234888A (ja) | 残響除去装置、残響除去方法、残響除去プログラムおよび記録媒体 | |
Rahali et al. | Robust Features for Speech Recognition using Temporal Filtering Technique in the Presence of Impulsive Noise | |
JP2019090930A (ja) | 音源強調装置、音源強調学習装置、音源強調方法、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060719 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20060719 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090406 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090507 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090515 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120522 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130522 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140522 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |