[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4924009B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP4924009B2
JP4924009B2 JP2006345115A JP2006345115A JP4924009B2 JP 4924009 B2 JP4924009 B2 JP 4924009B2 JP 2006345115 A JP2006345115 A JP 2006345115A JP 2006345115 A JP2006345115 A JP 2006345115A JP 4924009 B2 JP4924009 B2 JP 4924009B2
Authority
JP
Japan
Prior art keywords
white balance
balance adjustment
image
image signal
adjustment value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006345115A
Other languages
English (en)
Other versions
JP2008158117A (ja
Inventor
裕治 内山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2006345115A priority Critical patent/JP4924009B2/ja
Publication of JP2008158117A publication Critical patent/JP2008158117A/ja
Application granted granted Critical
Publication of JP4924009B2 publication Critical patent/JP4924009B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)

Description

本発明は画像処理装置に係り、特に画像機器が扱う画像の色補正を行う画像処理装置に関する。
カラー表示器等の画像機器においては、その設定状態や使用環境の変化に依存して、再現色(表示した色)に変化がある場合には、その変化を補償して正しい色を表示することが重要であり、また、種類の異なる複数の画像機器の間においても、同一のカラーデータであるならば、忠実に同一の色再現を行うことが必要とされる。
そこで、表示デバイスや印刷デバイスの如き画像入出力デバイスを含み、画像信号処理手段からの所与の画像信号を取り込んで前記画像入出力デバイスへ出力し、或いは前記画像入出力デバイスにより取り込んだ画像信号を前記画像信号処理手段へ向けて出力する画像機器において、前記画像信号処理手段からの所与の画像信号を、当該画像機器の持つカラー表示特性のずれに依存して起きる色変化を補正することのできる変換器(色変換器)を介して、画像入出力デバイスへ出力し、或いは画像入出力デバイスにより取り込んだ画像信号を、前記変換器を介して、画像信号処理手段へ出力する構成の画像機器が従来開示されている(例えば、特許文献1参照)。
特開平7−56549号公報
しかしながら、上記の従来の画像機器では機器間の色ずれを補正することは可能だが、人間の視覚特性に合わせた画像生成を得るには不十分である。つまり、プルキンエ現象と呼ばれる知覚する画像の明るさに対する色知覚特性を補正することは不可能である。ここで、「プルキンエ現象」とは、明所視に比べ暗所視では赤色の明るさ(比視感度)が青色の明るさ(比視感度)よりも低く知覚される現象である。すなわち、表示画像の明るさに応じて色知覚が変化することを意味する。
このため、画像表示装置では明るい画像から暗い画像に切り替わった場合に、表示画像を観察する観察者は時間とともに青みを感じるようになる。逆に暗い画像から明るい画像に切り替わった場合は、時間とともに赤みを感じるようになる。また、例えば明るい画像でホワイトバランスを合わせた画像表示装置では、表示画像が明るい画像から暗い画像に変化した場合に、観察者は時間とともにホワイトバランスのずれた青い画像として知覚する。逆に暗い画像から明るい画像に変化した場合に、観察者は表示画像を時間とともに本来のホワイトバランスを合わせた画像として知覚する。
図4はプルキンエ現象をわかりやすく図示したものである。同図において、縦軸は人間の比視感度、横軸は光の波長を示し、明所視では比視感度対波長特性はIで示され、暗所視では比視感度対波長特性はIIで示される。従って、明所視から暗所視へ徐々に移行すると、長波長の赤い光の感度が低く、短波長の青い光の感度が高くなり、逆に暗所視から明所視へ徐々に移行すると、短波長の青い光の感度が低く、長波長の赤い光の感度が高くなる。なお、前記青み及び赤みの感じ方は暗所視標準比視感度と明所視標準比視感度として表せる。
図5は暗順応と明順応をわかりやすく図示したものである。前記青みを感じる時間および赤みを感じる時間は各々人間の視覚特性である暗順応時間と明順応時間として表せる。同図に示すように、明所視の状態から暗所視の状態に切り替わると、人間が認識できる輝度は低下するが、人間の目の網膜中心で認識できる最小の輝度は3〜4分程度以降時間が経過しても認識できる最小の輝度の低下は殆ど見られないのに対し、人間の目の網膜周辺5°で認識できる輝度は時間の経過と共に低下していき、約30分間で認識できる輝度が一定となる(暗順応時間が約30分である。)。
そして、約30分間経過した時点で暗所視から明所視に切り替わると、人間の網膜中心及び網膜周辺5°のいずれの部分でも、切り替わり時点から約0.5秒で認識できる輝度が略一定となる(明順応時間が約0.5秒である。)。なお、一般的に表示画像の明るさが暗所視では約0.001〜0.01ルクス、明所視は約10〜10万ルクスである。
ここで、網膜中心には色を知覚できる錐体細胞が網膜周辺と比較して多くあることが知られており、図5から分かるように、明所視の状態から暗所視の状態に移る暗順応の場合は、網膜中心では知覚できる明るさが10分ほどで飽和するので、色を識別できる知覚(色知覚)も10分ほど要する。一方、暗所視の状態から明所視の状態に移る明順応の場合は、図5から分かるように、網膜中心、網膜周辺にかかわらず、0.5秒ほどで飽和するため、色知覚は一瞬で順応する。なお、網膜周辺の色の識別は困難で、明るさの識別のみ可能である。
上記の従来の画像機器では機器間の色ずれを補正することは可能だが、図4、図5に示した人間の視覚特性に合わせた画像生成を得るには不十分である。
本発明は以上の点に鑑みなされたもので、人間の視覚特性に合わせた正確な色補正を行う画像処理を行うことで、正確な色表示画像はもとより真の知覚画像を得ることが可能な画像処理装置を提供することを目的とする。
上記の目的を達成するため、本発明は、表示デバイスに画像信号を表示するための信号処理を施す画像処理装置において、入力された画像信号の所定の期間毎の平均輝度を算出する平均輝度算出手段と、入力された画像信号の平均輝度の変化量を計算する変化量計算手段と、複数の原色光のそれぞれに対する(明所視標準比視感度)/(暗所視標準比視感度)で表される複数の比率を、複数の原色光のそれぞれに対応した複数の色の暗所視の画像信号の輝度に対する第1の値とし、明所視標準比視感度と暗所視標準比視感度とが等しいときの比率を複数の色の明所視の画像信号の輝度に対する所定の第2の値としたとき、複数の色のそれぞれについて暗所視から明所視までの輝度の変化に対応してホワイトバランス調整値が第1の値から第2の値まで変化する特性であるホワイトバランス調整値の特性に基づいて、平均輝度算出手段で算出された入力された画像信号の平均輝度に対応したホワイトバランス調整値を求めた後、そのホワイトバランス調整値となるまでの変化時間を、変化量計算手段で計算された平均輝度の変化量と明順応時間と暗順応時間とに基づいて補正したホワイトバランス調整値を算出するホワイトバランス調整値算出手段と、入力された画像信号に対して、ホワイトバランス調整値算出手段で算出されたホワイトバランス調整値に基づいて、各原色光に対応した色毎にホワイトバランス調整を行うホワイトバランス調整手段と、を有することを特徴とする。
この発明では、表示すべき入力画像信号の平均輝度と、(明所視標準比視感度)/(暗所視標準比視感度)で表される比率とに基づいて、ホワイトバランス調整値を求めた後、そのホワイトバランス調整値となるまでの変化時間を、平均輝度の変化量と明順応時間と暗順応時間とに基づいて可変し、得られたホワイトバランス調整値に基づいて入力画像信号の各原色光に対応した色毎にホワイトバランス調整を行うようにしたため、画像機器の設定状態や使用環境の変化に依存することなく、入力画像信号の色の変化を補償してプルキンエ現象に基づく知覚特性に合わせた正確な色を再現することができる。
本発明によれば、画像機器の設定状態や使用環境の変化に依存することなく、入力画像信号の色の変化を補償してプルキンエ現象に基づく知覚特性に合わせた正確な色を再現するようにしたため、種類の異なる画像機器でも同一の輝度の画像信号であれば同一の色再現を行うことができると共に、明順応時間や暗順応時間に対応した真の知覚画像を表示させることができる。
次に、本発明の一実施の形態について図面と共に説明する。図1は本発明になる画像信号処理装置の一実施の形態のブロック図を示す。表示されるべき入力画像信号は1フレーム表示画像の平均輝度算出部11に供給されて、1フレーム内画像信号の平均輝度算出が実施される一方、フレームメモリ12に供給されてその1フレーム分以上のフレームが記憶される。入力画像信号は、水平方向をx、垂直方向をyとし、1画面を1フィールドf番目のフィールドデータとした一般的なR(赤),G(緑),B(青)の三原色の画像信号であり、これを各々r(x,y,f),g(x,y,f),b(x,y,f)と表す。
1フレーム表示画像の平均輝度算出部11では、上記の入力画像信号に対して1フレーム内画像信号の平均輝度を算出し、実施結果Y(f)を出力する。この1フレーム表示画像の平均輝度算出部11における算出の処理方法としては、例えば1フレームの入力画像信号(三原色画像信号)を所定のマトリクス演算式で演算して得られた輝度信号の1フレームの各画素の信号レベルを全て加算すると共に、その加算結果を1フレームの画素数で割る処理方法がある。
なお、1フレーム表示画像の平均輝度算出部11における算出の処理方法としては、1フレーム内画像信号のヒストグラム、つまり算出した輝度信号レベルの分布に対して、画像信号レベル或いは分布に応じて重み付けを行う処理であってもよい。いずれも表示画像の輝度が得られる処理であればこれに限らない。また、1フレーム或いは所定の時間内の全画面あるいはそれよりも小さい所定のブロックに分割した面内の単位で輝度レベルの発生率を求めるものであってもよく、表示画像の明るさ情報が得られる処理であればこれに限らない。更に、上記の説明では入力三原色信号を公知のマトリクス演算式により演算して得られた輝度信号から平均輝度を算出するように説明したが、簡易的には緑色信号を輝度信号と見做して、この緑色信号から平均輝度を算出するようにしてもよい。
上記の平均輝度Y(f)は時間変化量計算部13に供給され、ここでY(f)のフレーム間の時間変化量が算出される。この時間変化量をΔY(f)とする。時間変化量はフレーム間に限らず、複数フレームもしくは時間のY(f)の変化量を算出する処理であってもよい。いずれにしても明順応時間、暗順応時間に対する信号変化量を知り得る時間とする。
上記の平均輝度の時間変化量ΔY(f)は、平均輝度Y(f)と共にホワイトバランス調整値算出部14に供給され、ここで平均輝度の時間変化量ΔY(f)と明順応時間、暗順応時間を比較し、観察者が知覚し得る色を基に、所定のホワイトバランスを得るためのホワイトバランス調整値Kr(f),Kg(f),Kb(f)を算出する。
すなわち、ホワイトバランス調整値算出部14では、図4に示した公知の標準比視感度曲線において、表示画像のRch/Gch/Bchの波長を600/558/480nmとすると、これら三原色光の波長のそれぞれにおける十分に明るい(100lx)表示画像(明所視)に対する比視感度V(λ)は、「0.6」、「1.0」、「0.15」であり、十分に暗い(0.01lx)表示画像(暗所視)に対する比視感度V’(λ)は、「0.1」、「0.4」、「0.8」であるので、明所視/暗所視の比を求めると、表1が得られる。
Figure 0004924009
表示画像のホワイトバランスは明所視で紫外線を含む太陽光であるD65で行うものとすると、この表1は、明所視でD65の表示画像の明度を下げて暗所視となる観察環境にした場合、Rch/Gch/Bchで6/2.5/0.1875の比率、つまりゲインを掛けることでD65のホワイトバランスを知覚することができることを示している。
このようにして得られるRch/Gch/Bchでのホワイトバランス調整値Kr(f),Kg(f),Kb(f)と表示画像輝度との関係を図2に示す。ここで、表示画像輝度はG信号の輝度とし、ΔY(f)はフレーム間のG信号のレベル差としている。なお、実際には標準比視感度曲線からは図2に示すように表示画像輝度に対してホワイトバランス調整値(ゲイン)は線形とはならないが、ここでは説明を簡単にするために敢えて線形としている。
本実施の形態では、ホワイトバランス調整値算出部14は、更に平均輝度の時間変化量ΔY(f)が明所視から暗所視に変化、あるいは暗所視から明所視に変化した場合として所定値以上の変化があることを示しているときは、図5に示した暗順応時間、明順応時間に応じて上記のホワイトバランス調整値Kr(f),Kg(f),Kb(f)の変化時間を設定している。
すなわち、ホワイトバランス調整値算出部14は、平均輝度の時間変化量ΔY(f)が所定値以上明るくなったことを示すときは、図2で示されるその変化後の平均輝度Y(f)に応じたホワイトバランス調整値Kr(f),Kg(f),Kb(f)に瞬時に変更し、平均輝度の時間変化量ΔY(f)が所定値以上暗くなったことを示すときは、現時点の平均輝度Y(f)に応じたホワイトバランス調整値Kr(f),Kg(f),Kb(f)から変化後の平均輝度に応じたホワイトバランス調整値Kr(f),Kg(f),Kb(f)へ暗順応時間(これは色識別が可能な網膜中心の暗順応時間で例えば数分)かけて徐々に変化するようにする。
また、平均輝度の時間変化量ΔY(f)が上記の所定値未満の時には、予め定めた比較的短い時間、あるいは瞬時にその時点の平均輝度Y(f)に応じて、図2に示すホワイトバランス調整値Kr(f),Kg(f),Kb(f)に変更する。なお、平均輝度の時間変化量ΔY(f)の値に応じて上記のホワイトバランス調整値の変更時間を可変するようにしてもよい。
このようにして得られたホワイトバランス調整値Kr(f),Kg(f),Kb(f)は、図1のホワイトバランス調整部15に供給され、ここでフレームメモリ12からの入力画像信号r(x,y,f),g(x,y,f),b(x,y,f)に対して、対応するフレームの原色同士で乗算が行われてホワイトバランス調整された変換処理画像信号R(x,y,f),G(x,y,f),B(x,y,f)を出力させる。
このように、本実施の形態によれば、表示されるべき入力画像信号の1フレームの平均輝度の時間変化量ΔY(f)が明所視から暗所視に変化、あるいは暗所視から明所視に変化したことを示しているかに応じて異なる遅延時間で、表示されるべき入力画像信号の1フレームの平均輝度に応じた値のホワイトバランス調整値Kr(f),Kg(f),Kb(f)に変化するように調整するようにしたため、観察者の知覚色の順応時間に応じたホワイトバランス調整ができる。
これにより、例えば、観察者の知覚色が所定のホワイトバランスに対して青にシフトした場合、表示色中の青を弱くすることができる。すなわち、入力画像信号の青色信号b(x,y,f)に対してホワイトバランス調整後の青色信号B(x,y,f)の信号レベルを小さくする処理が行われる。なお、所定のホワイトバランスを知覚し得る処理であればこれに限らない。
次に、本発明になる画像処理装置を備えた画像表示装置について説明する。図3は画像表示装置の一例のブロック図を示す。同図中、画像表示装置20は、画像処理装置21とその画像処理装置21により画像表示処理された画像信号を表示する表示デバイス22とからなる。画像処理装置21としては、例えば図1に示した本発明の画像処理装置の一実施の形態が用いられる。
信号発生器30は表示デバイス22で表示すべき画像信号を発生して画像処理装置21に供給する。画像処理装置21は前述したように、表示されるべき入力画像信号の1フレームの平均輝度の時間変化量ΔY(f)が明所視から暗所視に変化、あるいは暗所視から明所視に変化したことを示しているかに応じて異なる遅延時間で、表示されるべき入力画像信号の1フレームの平均輝度に応じた値に変化するホワイトバランス調整値Kr(f),Kg(f),Kb(f)により観察者の知覚色の順応時間に応じたホワイトバランス調整を行って得られた変換処理画像信号を出力する。表示デバイス22はこの変換処理画像信号を表示する。この画像表示装置20は、画像処理装置21を備えているので、表示デバイス22に入力画像信号の正確な色表示画像はもとより、真の知覚画像を表示できる。
なお、画像表示装置20には、所定のホワイトバランスを含む表示画像の時間変化明所視標準比視感度と暗所視標準比視感度と明順応時間と暗順応時間から得られるパラメータを以って画像信号を変換することが可能なパラメータを予め保持可能な図示しないレジスタを有する。また、表示デバイス22としては透過型、反射型液晶表示デバイス、陰極線管(CRT)、プラズマディスプレイ、表面電解ディスプレイ(SED)など公知の表示デバイスを使用し得る。
なお、本発明は以上の実施の形態に限定されるものではなく、例えばプルキンエ現象に基づく知覚特性に合わせた正確な色補正を行う信号変換器を備えることで、正確な色表示画像はもとより真の知覚画像を得ることが可能な画像信号処理を実現する構成であれば、図1の構成に限らない。また、ホワイトバランス調整部15はゲイン、セットアップなどの乗算、加算処理以外の演算処理によりホワイトバランスを調整することも可能である。さらに、画像処理装置の各部又は一部を中央処理装置(CPU)によるソフトウェア処理で実現してもよく、ルックアップテーブル(LUT)で構成してもよい。
本発明の一実施の形態のブロック図である。 本発明における表示画像輝度とホワイトバランス調整値の一例の関係を示す図である。 本発明の画像処理装置を用いた画像表示装置の一例のブロック図である。 プルキンエ現象を示す図である。 明順応、暗順応を説明する図である。
符号の説明
11 1フレーム表示画像の平均輝度算出部
12 フレームメモリ
13 時間変化量計算部
14 ホワイトバランス調整値算出部
15 ホワイトバランス調整部
20 画像表示装置
21 画像処理装置
22 表示デバイス
30 信号発生器

Claims (1)

  1. 表示デバイスに画像信号を表示するための信号処理を施す画像処理装置において、
    入力された画像信号の所定の期間毎の平均輝度を算出する平均輝度算出手段と、
    前記入力された画像信号の前記平均輝度の変化量を計算する変化量計算手段と、
    複数の原色光のそれぞれに対する(明所視標準比視感度)/(暗所視標準比視感度)で表される複数の比率を、前記複数の原色光のそれぞれに対応した複数の色の暗所視の画像信号の輝度に対する第1の値とし、前記明所視標準比視感度と前記暗所視標準比視感度とが等しいときの前記比率を前記複数の色の明所視の画像信号の輝度に対する所定の第2の値としたとき、前記複数の色のそれぞれについて前記暗所視から前記明所視までの輝度の変化に対応してホワイトバランス調整値が前記第1の値から前記第2の値まで変化する特性であるホワイトバランス調整値の特性に基づいて、前記平均輝度算出手段で算出された前記入力された画像信号の平均輝度に対応したホワイトバランス調整値を求めた後、そのホワイトバランス調整値となるまでの変化時間を、前記変化量計算手段で計算された前記平均輝度の変化量と明順応時間と暗順応時間とに基づいて補正したホワイトバランス調整値を算出するホワイトバランス調整値算出手段と、
    前記入力された画像信号に対して、前記ホワイトバランス調整値算出手段で算出された前記ホワイトバランス調整値に基づいて、各原色光に対応した色毎にホワイトバランス調整を行うホワイトバランス調整手段と、
    を有することを特徴とする画像処理装置。
JP2006345115A 2006-12-22 2006-12-22 画像処理装置 Active JP4924009B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006345115A JP4924009B2 (ja) 2006-12-22 2006-12-22 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006345115A JP4924009B2 (ja) 2006-12-22 2006-12-22 画像処理装置

Publications (2)

Publication Number Publication Date
JP2008158117A JP2008158117A (ja) 2008-07-10
JP4924009B2 true JP4924009B2 (ja) 2012-04-25

Family

ID=39659105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006345115A Active JP4924009B2 (ja) 2006-12-22 2006-12-22 画像処理装置

Country Status (1)

Country Link
JP (1) JP4924009B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011022447A (ja) * 2009-07-17 2011-02-03 Mitsubishi Electric Corp 画像表示装置
JP5390326B2 (ja) * 2009-09-30 2014-01-15 株式会社ジャパンディスプレイ 液晶表示装置
JP5308375B2 (ja) * 2010-02-25 2013-10-09 シャープ株式会社 信号処理装置、固体撮像装置、電子情報機器、信号処理方法、制御プログラムおよび記録媒体
CN102402937B (zh) * 2011-12-15 2014-02-26 深圳市华星光电技术有限公司 色彩调整装置、色彩调整方法以及显示器
JP2013225722A (ja) * 2012-04-19 2013-10-31 Fujitsu Ltd 情報処理装置、表示制御方法、及び表示制御プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3939066B2 (ja) * 2000-03-08 2007-06-27 富士通日立プラズマディスプレイ株式会社 カラープラズマディスプレイ装置

Also Published As

Publication number Publication date
JP2008158117A (ja) 2008-07-10

Similar Documents

Publication Publication Date Title
US9093033B2 (en) Image display device and image display method
JP6592312B2 (ja) 表示装置、表示制御装置及び表示方法
EP1770999B1 (en) Method and device for compensating an image
US9666113B2 (en) Display, image processing unit, and display method for improving image quality
WO2018092465A1 (ja) 表示装置
TWI520126B (zh) 影像修正資料產生系統、影像修正資料產生方法、影像修正資料產生程式及影像修正電路
JP5814966B2 (ja) 画像表示装置及びその制御方法
CN107295248A (zh) 显示图像的图像显示设备和图像显示方法及存储介质
JPWO2013035635A1 (ja) 画像表示装置および画像表示方法
JP4924009B2 (ja) 画像処理装置
WO2016017081A1 (ja) 画像補正装置及び映像コンテンツ再生装置
JP7338622B2 (ja) 画像処理装置、表示装置、画像処理方法
CN103295558B (zh) 显示方法及显示设备
JP2008129162A (ja) 映像変換処理方法および映像変換システム
JP2009204824A (ja) 画像表示装置及びその方法
JP2017173666A (ja) 画像表示装置および画像表示方法
JP5362753B2 (ja) 画質調整装置及び画像補正データ生成プログラム
JP5542864B2 (ja) 画像表示装置、画像処理装置及び画像表示方法
KR100922723B1 (ko) 디스플레이 소자에 있어서 명도 및 채도 개선 장치 및 이를수행하기 위한 방법
JP7577158B2 (ja) 環境適応性を有するガンマ自動補正調整システム
KR101101328B1 (ko) 주위 밝기에 따른 영상 기기의 색 보정 장치 및 방법
CN114677958B (zh) 一种led显示屏的校正方法、装置及系统
JP5381641B2 (ja) 画像表示装置およびテレビジョン
JP2010197926A (ja) クロストーク補正テーブル取得装置
JP2016029487A (ja) 画像表示装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20111012

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120123

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4924009

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150