JP5857674B2 - 画像処理装置、及び画像処理システム - Google Patents
画像処理装置、及び画像処理システム Download PDFInfo
- Publication number
- JP5857674B2 JP5857674B2 JP2011256026A JP2011256026A JP5857674B2 JP 5857674 B2 JP5857674 B2 JP 5857674B2 JP 2011256026 A JP2011256026 A JP 2011256026A JP 2011256026 A JP2011256026 A JP 2011256026A JP 5857674 B2 JP5857674 B2 JP 5857674B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- image
- person
- level
- voice
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/005—Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R1/00—Details of transducers, loudspeakers or microphones
- H04R1/20—Arrangements for obtaining desired frequency or directional characteristics
- H04R1/32—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
- H04R1/40—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
- H04R1/406—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/15—Aspects of sound capture and related signal processing for recording or reproduction
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
- Circuit For Audible Band Transducer (AREA)
- Studio Devices (AREA)
Description
また、特許文献1には、誰が発言者であるかを明確に表示する目的で、各会議出席者用に配置したマイクで収音した音声レベルを、会議出席者に対応させて画像表示する構成が開示されている。
本発明は、かかる課題に鑑みてなされたものであり、会議出席者の人数分のマイクや発言中表示装置を不要にするために、複数のマイクからなるマイクロフォンアレイを使用して、発言者の音声の到来方向を検出し、画像処理で会議出席者の顔を検出して、発言者の音声レベルを会議出席者の顔の上方(頭上)に画像表示するビデオ会議用カメラマイク装置を提供することを目的とする。
撮影装置3は、自拠点で会議が行われている状況を撮影し、撮影された画像は他拠点に送信され、遠隔会議を実現することができる。
撮影装置3で撮影される画像には、自拠点で会議を行っている人(会議出席者)が含まれる。
人物検出に関しては、従来技術であるが、後述する。
また、4個のマイクロフォンa〜dからなるマイクロフォンアレイの音声出力信号は、音声到来方向検出手段16に入力され、音の到来方向、つまりマイクロフォンアレイ及び撮影装置から見た発言者の方向を検出する。マイクロフォンアレイに到来する音の方向により、4個のマイクロフォン(a〜d)5の音声信号出力に時間のずれが発生する。この時間のずれ(ずれ時間情報22)から音の到来方向を検出し、ずれ時間情報22と音声到来方向情報21を出力する。
又、マイクロフォンアレイの音声出力信号は、音声収音方向変更手段17に入力され、ずれ時間情報22を入力して、発言者の方向からの音声を収音する。音声到来方向検出手段16と音声収音方向変更手段17の動作原理は従来技術であるが後述する。
音声収音方向変更手段17から出力された発言者の音声信号23は、音声レベル算出手段18に入力されると同時に、画像処理装置50の音声信号23として出力する。音声レベル算出手段18では、所定の時間間隔で音声信号の実効値を算出し、音声レベル情報24を出力する。
人物検出情報20、音声到来方向情報21、音声レベル情報24が、音声レベル表示合成手段19に入力され、図8に示すような、会議室画像の発言者1の付近に音声レベルを円2で表示する画像の画像信号が出力される。
即ち、本発明は、人物の位置情報と音声到来方向情報に基づき、誰が発言しているかを検出する。そして、発言者の音声レベルに応じて発言者の画像の付近に音声レベルに応じたマークや数値を表示する。これを実現するために、本実施形態では、画像処理装置50の構成として、人物検出手段15、音声到来方向検出手段16、音声収音方向変更手段17、音声レベル算出手段18、及び音声レベル表示合成手段19を備えて、画像信号25を生成する。これにより、会議出席者の人数分のマイクロフォンを不要にすることができる。
撮影装置3が出力する画像信号から人物を検出する処理(S7)と、マイクロフォン5が出力する音声信号から音声を検出する処理(S1)は並行して行なう。音声の検出は、信号レベルが所定の閾値以上で、所定の時間以上継続した場合に、音声を検出したと判断する。これにより、短時間の相づち等の発言はレベル表示せず、画像表示がめまぐるしく変化する事を防止することができる。
次に、音声を検出したら、その到来方向を到来方向検出手段16により検出する(S2)。
現状の到来方向と異なる場合は、音声収音方向変更手段17により収音方向を変更する(S3)。
次に、収音している音声のレベルを音声レベル算出手段18により算出する(S4)。
その後、人物検出情報20と、音声到来方向情報21と、音声レベル情報24を使用して、音声レベル表示合成手段19により音声レベル表示の画像合成を行なう(S5)。
会議が終了するまで、上記処理を繰り返す。会議終了は、接続している会議装置10(図13参照)から終了の制御信号を入力して判断しても良いし、画像処理装置50の電源切断によって判断しても良い。
図6では発言者30の顔の上方(発言者の頭上)に音声レベルを円で表示したが、音声レベルを表示する位置、音声レベルを表示する方法はこれに限らない。つまり、発言者30の顔の下方、発言者30の顔の胴体に音声を表示してもよい。また、撮影装置によって撮影された画像の発言者の位置に基づいて、音声レベルが表示される位置が変更できても良い。
また、音声レベルは円に限られず、その他の図形、表示方法でもよい。
図7は、人物検出の別の例として、顔および上半身を含む領域検知手段について説明する図である。画像から人物領域を検出する方法は、参考文献(人物検出装置:グローリー株式会社 特開2009‐140307公報)などの公知の技術で実現できる。
即ち、ビデオ会議実施中は、自分の声が相手に伝わっているのかが不安になる場合があり、必要以上に大きな声で発言する事がある。又、相手の声が小さくて聞き取りにくくても、相手に大きな声で発言するように要求しにくい場合もある。そこで、自分の発言音量が大きいか、小さいかが自分で分かると、必要以上に大きな声で発言する事を防止できる。
又、自分の声が小さい事が自分で分かると、声を大きくすべきである事に自分で気づき、円滑な会議を実施することができる。
即ち、本発明の音声レベルの画像表示方法は、音声レベルに応じて、発言者1の画像の上部に円2の大きさを変化させる。例えば、音声レベルが大きい場合は、図8(a)のように円2の大きさを大きくし、音声レベルが小さい場合は、円2の大きさを小さくする。
これらの表示をリアルタイムに行う。これにより、発言者が誰で、且つ、発言者の音声レベルを即座に認識することができる。
x=(Xl+Xr)/2
y=Yt+Rmax+Yoffset
ただし、Xl:人物領域の左端のx座標
Xr:人物領域の右端のx座標
Yt:人物領域の上端のy座標
Rmax:円の最大半径(最大レベル時の円の大きさ)
Yoffset:人物領域と円の間にあける隙間
また、円の半径rは、例えば人間の聴感上の大きさに一致するよう、対数尺度に従う以下の式で定める。
r=Rmax*log(p)/log(Pmax) (p>1の場合)
r=0 (p≦1の場合)
ただし、Rmax:円の最大半径(最大レベル時の円の大きさ)
p:音声レベル(短時間パワー値)
Pmax:最大レベル(最大振幅時の短時間パワー)
なお、信号X=(x1、x2、…xN)の短時間パワーpは、
で定義される値であり、例えばサンプリング周波数が16kHzの場合、N=320とすれば、20mS分のデータに対する短時間パワーを算出することができる。
また、最大レベルPmaxについては、16bit幅のPCMデータ(−32768〜32767の範囲の振幅値)の場合、
Pmax=32767*32767/√2
となる。
ただし、この例のように、レベル表示を行う位置を発言者の領域の外側(例えば上方)に設定する場合、画像にそのような表示を行うだけのスペースが確保されている必要があるが、例えば話者の顔が画像の上端付近にあってその上方にスペースが確保できない場合など、構図によってはレベルを表示する位置を修正する必要がある。このような場合には顔領域の下、左右などに円の中心座標を移動して表示を行えばよい。
図9は、発言者1の音声レベルを棒グラフ2の長さで発言者の上半身エリア中央に画像表示した様子について説明する図である。
図10は、発言者1の音声レベルを発話者画像領域の矩形枠2の太さで画像表示した様子について説明する図である。
図11は、発言者1の音声レベルを発話者画像領域の輪郭線2の太さで画像表示した様子について説明する図である。
いずれも、「誰が発言しているかが目で分かる」、「発言者の声の大きさが目で分かる」という図8の例と同様の効果が得られると共に、既に画像上に存在する領域のごく近傍やその内部にレベルを表示しているため、レベル表示するためのスペースの問題も発生しにくい。
図1の画像処理装置50を会議装置10と併用して、会議室で使用している状況を示す。会議出席者は図のような座席配置に会議出席者用いす11に着席する。
画像表示装置9は、テレビモニターでも良いし、プロジェクタを使ってスクリーンや壁に画像を投影しても良い。画像処理装置50は、会議机12上に置き、カメラ3で会議出席者全員が撮影できるような位置に設置する。
即ち、本発明の画像処理装置50を少なくとも2つ用意して、各会議室A、Bに本発明の画像処理装置50と、画像表示装置9と、スピーカ8、及び会議装置10を備え、夫々の会議室をLAN等のネットワーク32で接続することにより、画像処理システムを構築することができる。これにより、遠隔地との会議をスムーズに行うことができる。
Claims (4)
- 撮影手段、及び音声を収音するマイクロフォンを備えた画像処理装置であって、
前記撮影手段により撮影された画像に基づいて人物の位置を検出する人物検出手段と、
複数のマイクロフォンによって収音された音声の信号レベルが所定の信号レベルが所定の閾値以上であり、当該音声を所定の時間以上受信し続けた場合、音声を検出したと判断する判断手段と、
前記判断手段によって音声を検出したと判断された音声の複数のマイクロフォンによる収音のずれ時間に基づいて当該音声の発生元の方向を検出する音声到来方向検出手段と、
前記音声収音方向検出手段によって検出された方向から収音した音声レベルを算出する音声レベル算出手段と、
人物の位置情報と当該音声の発生元の方向とに基づいて当該音声を発生している発言者を検出し、検出した発言者に対応する人物の画像の付近に算出した音声レベルに応じた画像を表示する表示手段と、
別の発生元の方向から受信した音声の信号レベルが所定の閾値以上であり、当該音声を所定の時間以上受信し続けた場合、当該別の発生元の方向と人物の位置情報とに基づいて当該音声の音声レベルに応じた画像の表示を変更する表示変更手段と、を備えたことを特徴とする画像処理装置。 - 前記表示変更手段は、
前記人物検出手段と前記音声到来方向検出手段によって特定される人物の位置及び音声の発生元の方向に関する発言者情報、および前記音声レベルに対応して、リアルタイムに発言者画像の付近に表示した円の大きさを変化させることを特徴とする請求項1に記載の画像処理装置。 - 前記表示手段は、
前記人物検出手段によって検出された人物の左端のx座標と、人物の右端のx座標と、人物の上端のy座標と、前記音声レベル算出手段によって算出された音声レベルに応じた画像の大きさと、人物と画像の間にあける隙間とに基づいて前記音声レベルを示す画像を表示することを特徴とする請求項1に記載の画像処理装置。 - 音声レベルを含む画像を表示する画像表示装置と、
撮影手段、及び音声を収音するマイクロフォンを備えた画像処理装置であって、
前記撮影手段により撮影された画像に基づいて人物を検出する人物検出手段と、
複数のマイクロフォンによって収音した音声データのずれ時間情報に基づいて音声の到来方向を検出する音声到来方向検出手段と、
前記複数のマイクロフォンによって収音された音声の信号レベルが所定の信号レベルが所定の閾値以上であり、当該音声を所定の時間以上受信し続けた場合、音声を検出したと判断する判断手段と、
前記判断手段によって音声を検出したと判断された音声の複数のマイクロフォンによる収音のずれ時間に基づいて当該音声の発生元の方向を検出する音声到来方向検出手段と、
前記音声収音方向検出手段によって検出された方向から収音した音声レベルを算出する音声レベル算出手段と、
人物の位置情報と当該音声の発生元の方向とに基づいて当該音声を発生している発言者を検出し、検出した発言者に対応する人物の画像の付近に算出した音声レベルに応じた画像を表示する表示手段と、
別の発生元の方向から受信した音声の信号レベルが所定の閾値以上であり、当該音声を所定の時間以上受信し続けた場合、当該別の発生元の方向と人物の位置情報とに基づいて当該音声の音声レベルに応じた画像の表示を変更する表示変更手段と、
前記信号を他の画像処理装置に送信する送信手段と、を有する画像処理装置と、
を備えたことを特徴とする画像処理システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011256026A JP5857674B2 (ja) | 2010-12-22 | 2011-11-24 | 画像処理装置、及び画像処理システム |
US13/334,762 US9008320B2 (en) | 2010-12-22 | 2011-12-22 | Apparatus, system, and method of image processing, and recording medium storing image processing control program |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010286555 | 2010-12-22 | ||
JP2010286555 | 2010-12-22 | ||
JP2011256026A JP5857674B2 (ja) | 2010-12-22 | 2011-11-24 | 画像処理装置、及び画像処理システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012147420A JP2012147420A (ja) | 2012-08-02 |
JP5857674B2 true JP5857674B2 (ja) | 2016-02-10 |
Family
ID=46316837
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011256026A Expired - Fee Related JP5857674B2 (ja) | 2010-12-22 | 2011-11-24 | 画像処理装置、及び画像処理システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9008320B2 (ja) |
JP (1) | JP5857674B2 (ja) |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5817276B2 (ja) | 2011-07-14 | 2015-11-18 | 株式会社リコー | 多地点接続装置、映像音声端末、通信システム、及び信号処理方法 |
US20130156204A1 (en) * | 2011-12-14 | 2013-06-20 | Mitel Networks Corporation | Visual feedback of audio input levels |
US8704070B2 (en) * | 2012-03-04 | 2014-04-22 | John Beaty | System and method for mapping and displaying audio source locations |
US9368117B2 (en) | 2012-11-14 | 2016-06-14 | Qualcomm Incorporated | Device and system having smart directional conferencing |
WO2014085050A1 (en) * | 2012-11-27 | 2014-06-05 | Dolby Laboratories Licensing Corporation | Teleconferencing using monophonic audio mixed with positional metadata |
JP2014143678A (ja) * | 2012-12-27 | 2014-08-07 | Panasonic Corp | 音声処理システム及び音声処理方法 |
US9338544B2 (en) * | 2014-06-03 | 2016-05-10 | Cisco Technology, Inc. | Determination, display, and adjustment of best sound source placement region relative to microphone |
US9396632B2 (en) | 2014-12-05 | 2016-07-19 | Elwha Llc | Detection and classification of abnormal sounds |
JP2016146547A (ja) * | 2015-02-06 | 2016-08-12 | パナソニックIpマネジメント株式会社 | 収音システム及び収音方法 |
KR20170035502A (ko) * | 2015-09-23 | 2017-03-31 | 삼성전자주식회사 | 디스플레이 장치 및 이의 제어 방법 |
CN109313904B (zh) | 2016-05-30 | 2023-12-08 | 索尼公司 | 视频音频处理设备和方法以及存储介质 |
JP6739041B2 (ja) | 2016-07-28 | 2020-08-12 | パナソニックIpマネジメント株式会社 | 音声モニタリングシステム及び音声モニタリング方法 |
WO2018173139A1 (ja) * | 2017-03-22 | 2018-09-27 | ヤマハ株式会社 | 撮影収音装置、収音制御システム、撮影収音装置の制御方法、及び収音制御システムの制御方法 |
US10248375B2 (en) * | 2017-07-07 | 2019-04-02 | Panasonic Intellectual Property Management Co., Ltd. | Sound collecting device capable of obtaining and synthesizing audio data |
CN110096251B (zh) * | 2018-01-30 | 2024-02-27 | 钉钉控股(开曼)有限公司 | 交互方法及装置 |
JP7106097B2 (ja) * | 2018-05-30 | 2022-07-26 | 東京都公立大学法人 | テレプレゼンスシステム |
JP6739064B1 (ja) * | 2020-01-20 | 2020-08-12 | パナソニックIpマネジメント株式会社 | 撮像装置 |
EP4147229A4 (en) | 2020-05-08 | 2024-07-17 | Microsoft Technology Licensing, LLC | SYSTEM AND METHOD FOR DATA AMPLIFICATION FOR MULTI-MICROPHONE SIGNAL PROCESSING |
US11451770B2 (en) * | 2021-01-25 | 2022-09-20 | Dell Products, Lp | System and method for video performance optimizations during a video conference session |
US11463656B1 (en) | 2021-07-06 | 2022-10-04 | Dell Products, Lp | System and method for received video performance optimizations during a video conference session |
WO2023243059A1 (ja) * | 2022-06-16 | 2023-12-21 | 日本電信電話株式会社 | 情報提示装置、情報提示方法及び情報提示プログラム |
TWI844109B (zh) * | 2022-09-16 | 2024-06-01 | 宏碁股份有限公司 | 結合聲音訊號的影像標記方法、終端裝置及伺服器 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60116294A (ja) | 1983-11-28 | 1985-06-22 | Sony Corp | 静止画像によるテレビ会議システム |
JPH04309087A (ja) | 1991-04-08 | 1992-10-30 | Ricoh Co Ltd | ビデオカメラ制御装置 |
JPH09140000A (ja) * | 1995-11-15 | 1997-05-27 | Nippon Telegr & Teleph Corp <Ntt> | 会議用拡聴器 |
JPH10126757A (ja) * | 1996-10-23 | 1998-05-15 | Nec Corp | ビデオ会議システム |
US5900907A (en) * | 1997-10-17 | 1999-05-04 | Polycom, Inc. | Integrated videoconferencing unit |
JP2000083229A (ja) * | 1998-09-07 | 2000-03-21 | Ntt Data Corp | 会議システム、話者表示方法及び記録媒体 |
JP2003230049A (ja) * | 2002-02-06 | 2003-08-15 | Sharp Corp | カメラ制御方法及びカメラ制御装置並びにテレビ会議システム |
JP4539385B2 (ja) * | 2005-03-16 | 2010-09-08 | カシオ計算機株式会社 | 撮像装置、撮像制御プログラム |
JP4311402B2 (ja) * | 2005-12-21 | 2009-08-12 | ヤマハ株式会社 | 拡声システム |
JP4973919B2 (ja) * | 2006-10-23 | 2012-07-11 | ソニー株式会社 | 出力制御システムおよび方法、出力制御装置および方法、並びにプログラム |
JP5060264B2 (ja) | 2007-12-07 | 2012-10-31 | グローリー株式会社 | 人物検出装置 |
JP2010193017A (ja) * | 2009-02-16 | 2010-09-02 | Panasonic Corp | 映像通信装置 |
-
2011
- 2011-11-24 JP JP2011256026A patent/JP5857674B2/ja not_active Expired - Fee Related
- 2011-12-22 US US13/334,762 patent/US9008320B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012147420A (ja) | 2012-08-02 |
US9008320B2 (en) | 2015-04-14 |
US20120163610A1 (en) | 2012-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5857674B2 (ja) | 画像処理装置、及び画像処理システム | |
US5940118A (en) | System and method for steering directional microphones | |
JP4296197B2 (ja) | 音源追跡のための配置及び方法 | |
US10264210B2 (en) | Video processing apparatus, method, and system | |
KR101761312B1 (ko) | 마이크 어레이를 이용한 방향성 음원 필터링 장치 및 그 제어방법 | |
EP1906707B1 (en) | Audio transmission system and communication conference device | |
US10447970B1 (en) | Stereoscopic audio to visual sound stage matching in a teleconference | |
JP2016146547A (ja) | 収音システム及び収音方法 | |
EP2320676A1 (en) | Method, communication device and communication system for controlling sound focusing | |
US10497356B2 (en) | Directionality control system and sound output control method | |
JP4411959B2 (ja) | 音声集音・映像撮像装置 | |
JP2007274462A (ja) | テレビ会議装置、テレビ会議システム | |
TWI826768B (zh) | 視訊會議系統與方法 | |
WO2015198964A1 (ja) | 音声入出力機能付き撮像装置およびテレビ会議システム | |
JP2009049734A (ja) | カメラ付きマイクロフォン、カメラ付きマイクロフォンの制御プログラムおよびテレビ会議システム | |
KR101976937B1 (ko) | 마이크로폰 어레이를 이용한 회의록 자동작성장치 | |
JP5120020B2 (ja) | 画像付音声通信システム、画像付音声通信方法およびプログラム | |
JP4479227B2 (ja) | 音声集音・映像撮像装置および撮像条件決定方法 | |
JP2014072835A (ja) | 会議装置 | |
Lin et al. | Development of novel hearing aids by using image recognition technology | |
JP6435701B2 (ja) | 制御装置 | |
EP1705911A1 (en) | Video conference system | |
JP6569853B2 (ja) | 指向性制御システム及び音声出力制御方法 | |
JP2006211156A (ja) | 音響装置 | |
JP2009027246A (ja) | テレビ会議装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141020 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150731 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150825 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151022 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151130 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5857674 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |