JP5143033B2 - Image processing apparatus and method - Google Patents
Image processing apparatus and method Download PDFInfo
- Publication number
- JP5143033B2 JP5143033B2 JP2009017124A JP2009017124A JP5143033B2 JP 5143033 B2 JP5143033 B2 JP 5143033B2 JP 2009017124 A JP2009017124 A JP 2009017124A JP 2009017124 A JP2009017124 A JP 2009017124A JP 5143033 B2 JP5143033 B2 JP 5143033B2
- Authority
- JP
- Japan
- Prior art keywords
- strength
- edge strength
- block
- noise removal
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本発明は、例えばMPEG(Moving Picture Experts Group)方式などにより、非可逆圧縮符号化された画像データを復号した画像に含まれるノイズ部分を検出して除去する画像処理装置及びその方法に関するものである。 The present invention relates to an image processing apparatus and method for detecting and removing a noise part included in an image obtained by decoding image data that has been subjected to lossy compression coding, for example, by the MPEG (Moving Picture Experts Group) method. .
従来、画像の符号化方式として、フレーム内符号化方式であるMotion JPEGやDigital Video等の符号化方式、フレーム間予測符号化を用いたH.261,H.263,MPEG−1,MPEG−2が知られている。また近年ではH.264等の符号化方式が採用されている。これらの符号化方式は、ISO(国際標準化機構)やITU(国際電気通信連合)によって国際標準化されている。 Conventionally, as an image encoding method, an intra-frame encoding method such as Motion JPEG or Digital Video, or H.264 using inter-frame predictive encoding is used. 261, H.M. H.263, MPEG-1, and MPEG-2 are known. In recent years, H.C. An encoding method such as H.264 is employed. These encoding methods are internationally standardized by ISO (International Organization for Standardization) and ITU (International Telecommunication Union).
符号化方式で代表的なMPEG−2は非可逆符号化と呼ばれ、符号化画像データを復号しても完全に元の画像データに戻らない。これは符号化時に、DCT変換の後に量子化を行うことに起因している。これら符号化方式は、画像信号の統計的な性質を利用し、その信号に含まれる冗長性を取り除くことで情報量の削減を図っている。即ち、人間の視覚は画像の高周波成分に鈍感であるため、その高周波成分を粗く量子化して冗長性を削除し、高い符号化効率を得るようにしている。 MPEG-2, which is a typical encoding method, is called lossy encoding, and even if encoded image data is decoded, it does not completely return to the original image data. This is because quantization is performed after DCT transform at the time of encoding. These encoding methods use the statistical properties of the image signal and reduce the amount of information by removing the redundancy contained in the signal. That is, since human vision is insensitive to the high-frequency component of the image, the high-frequency component is roughly quantized to eliminate redundancy and obtain high coding efficiency.
しかし、この種のDCT変換を行なう非可逆符号化では、高域成分を制限することによってデータ圧縮を行っているために、画像のエッジ部、または動物体の周囲でモスキートノイズと呼ばれるノイズが発生し、復元した画像の画質劣化の原因となっている。このモスキートノイズを低減する方法が従来から提案されている。例えば、入力画像信号のエッジ部を検出し、ノイズ除去フィルタによって、画像信号のエッジ部をフィルタリング処理して、モスキートノイズを低減し画像信号を得る方法が提案されている。その一例として、特許文献1には、動きベクトル検出後、水平、垂直エッジ検出をして、その後それぞれの次元でフィルタを施すことが提案されている。
しかしながら上記従来の技術では、画像信号中のモスキートノイズの有無に関係無く、画像信号のエッジ部分でモスキートノイズ除去のフィルタリング処理が行われるため、モスキートノイズが発生していない部分では画像を劣化させてしまう。また、細かなエッジが含まれるテクスチャの領域があった場合、この領域をエッジと誤って判断し、テクスチャの情報を削除して画質を劣化させる結果となっていた。 However, in the above conventional technique, the mosquito noise removal filtering process is performed at the edge portion of the image signal regardless of the presence or absence of the mosquito noise in the image signal. Therefore, the image is deteriorated in the portion where the mosquito noise is not generated. End up. In addition, when there is a texture area including a fine edge, this area is erroneously determined as an edge, and the texture information is deleted to deteriorate the image quality.
これら問題点は、周波数変換及び非可逆圧縮符号化された画像データを復号した画像データに含まれる、モスキートノイズ等のノイズ発生部分を正確に検出することなく、画像信号のエッジ部にノイズ除去処理を施してしまうことに起因していた。更に、ノイズ除去処理の後にインターレース信号をプログレシブ信号へ変換するIP変換等の処理がある場合は、その処理へ悪影響を与えないようにノイズを除去する必要がある。言い換えれば、インターレースの情報を維持しつつノイズを除去しなくてならない。 These problems are the noise removal processing at the edge of the image signal without accurately detecting the noise generation part such as mosquito noise included in the image data obtained by decoding the frequency converted and lossy compression encoded image data. It was caused by giving. Furthermore, when there is a process such as IP conversion for converting an interlace signal into a progressive signal after the noise removal process, it is necessary to remove the noise so as not to adversely affect the process. In other words, noise must be removed while maintaining interlace information.
本発明の目的は、上述した従来の問題点を解決することにある。 An object of the present invention is to solve the conventional problems described above.
本願発明の目的は、周波数変換及び非可逆圧縮符号化を行なうことにより生成された画像ストリームを復号した復号画像データに含まれる、モスキートノイズ等のノイズ発生部分を検出し削除することにより、上述の問題点を解決することにある。 The object of the present invention is to detect and delete a noise generating part such as mosquito noise included in decoded image data obtained by decoding an image stream generated by performing frequency conversion and lossy compression coding. The solution is to solve the problem.
上記目的を達成するために本発明の一態様に係る画像処理装置は以下のような構成を備える。即ち、
非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定手段と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定手段と、
前記水平エッジ強度測定手段及び前記垂直エッジ強度測定手段により測定された水平及び垂直のエッジ強度を格納するエッジ強度格納手段と、
前記エッジ強度格納手段に格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出手段と、
前記ノイズ除去フラグ算出手段で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納手段と、
入力した現フレームのエッジ強度と前記エッジ強度格納手段に格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御手段と、
前記フィルタ制御手段からの前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ手段と
を有し、
前記フィルタ制御手段は、
前記水平エッジ強度測定手段と前記垂直エッジ強度測定手段により測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納手段に格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする。
In order to achieve the above object, an image processing apparatus according to an aspect of the present invention has the following arrangement. That is,
An image processing apparatus for removing noise components of decoded image data obtained by decoding an image stream generated by lossy encoding,
Horizontal edge strength measuring means for measuring the strength of the horizontal edge of each block of the input frame;
Vertical edge strength measuring means for measuring the strength of the vertical edge of each block of the input frame;
Edge strength storage means for storing horizontal and vertical edge strengths measured by the horizontal edge strength measurement means and the vertical edge strength measurement means;
Noise removal flag calculation means for calculating a noise removal flag for identifying a block from which noise should be removed based on the horizontal and vertical edge strengths stored in the edge strength storage means;
Noise removal flag storage means for storing the noise removal flag calculated by the noise removal flag calculation means;
Filter control means for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage means, and the noise removal flag;
Have a filtering means for performing filtering processing on the current frame in response to the control signal from the filter control means,
The filter control means includes
The edge strength of the block of the current frame measured by the horizontal edge strength measurement means and the vertical edge strength measurement means, and the edge of the block corresponding to the block of the current frame of the immediately preceding frame stored in the edge strength storage means The filter strength is calculated based on the product of the difference between the strength and the strength multiplier of the filter strength, and the control signal for the block from which the noise is to be removed is output .
上記目的を達成するために本発明の一態様に係る画像処理装置の画像処理方法は以下のような工程を備える。即ち、
非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置の画像処理方法であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定工程と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定工程と、
前記水平エッジ強度測定工程及び前記垂直エッジ強度測定工程で測定された水平及び垂直のエッジ強度を格納するエッジ強度格納工程と、
前記エッジ強度格納工程で格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出工程と、
前記ノイズ除去フラグ算出工程で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納工程と、
入力した現フレームのエッジ強度と前記エッジ強度格納工程で格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御工程と、
前記フィルタ制御工程で出力された前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ工程と
を有し、
前記フィルタ制御工程では、
前記水平エッジ強度測定工程と前記垂直エッジ強度測定工程で測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納工程で格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする。
In order to achieve the above object, an image processing method of an image processing apparatus according to an aspect of the present invention includes the following steps. That is,
An image processing method of an image processing apparatus for removing a noise component of decoded image data obtained by decoding an image stream generated by lossy encoding,
A horizontal edge strength measurement process for measuring the strength of the horizontal edge of each block of the input frame;
A vertical edge strength measurement step for measuring the strength of the vertical edge of each block of the input frame;
An edge strength storing step for storing horizontal and vertical edge strengths measured in the horizontal edge strength measuring step and the vertical edge strength measuring step;
A noise removal flag calculation step for calculating a noise removal flag for identifying a block from which noise is to be removed based on the horizontal and vertical edge strengths stored in the edge strength storage step;
A noise removal flag storage step for storing the noise removal flag calculated in the noise removal flag calculation step;
A filter control step for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage step, and the noise removal flag;
Said have a filter step of performing filtering processing for the current frame in response to said control signal output by the filter control step,
In the filter control step,
The edge strength of the block of the current frame measured in the horizontal edge strength measurement step and the vertical edge strength measurement step, and the edge of the block corresponding to the block of the current frame in the immediately preceding frame stored in the edge strength storage step The filter strength is calculated based on the product of the difference between the strength and the strength multiplier of the filter strength, and the control signal for the block from which the noise is to be removed is output .
本発明によれば、周波数変換及び非可逆圧縮符号化を行なうことにより生成された画像ストリームを復号した復号画像データに含まれるノイズ発生部分を検出して、そのノイズを除去できる。 ADVANTAGE OF THE INVENTION According to this invention, the noise generation part contained in the decoded image data which decoded the image stream produced | generated by performing frequency conversion and lossy compression encoding can be detected, and the noise can be removed.
以下、添付図面を参照して本発明の好適な実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本発明を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. The following embodiments do not limit the present invention according to the claims, and all combinations of features described in the embodiments are not necessarily essential to the solution means of the present invention. .
図1は、本発明の実施形態に係る画像処理装置の主要部の構成を示すブロック図である。尚、本実施形態に係る画像処理装置は、非可逆符号化により生成された画像ストリームを復号した復号画像データを入力し、その入力フレームのノイズ成分を除去することを目的とする。ここでは画像データの処理の単位を4×4画素とし、これを対象ブロック(以下、ブロック)と称する。 FIG. 1 is a block diagram showing a configuration of a main part of an image processing apparatus according to an embodiment of the present invention. An object of the image processing apparatus according to the present embodiment is to input decoded image data obtained by decoding an image stream generated by lossy encoding, and to remove noise components from the input frame. Here, the unit of image data processing is 4 × 4 pixels, and this is referred to as a target block (hereinafter referred to as a block).
水平エッジ強度測定器100は、輝度信号の1ブロックを入力し、水平のエッジ強度を測定する。本実施形態では、処理単位のブロックの画素に対するエッジ強度をSobelフィルタの累積値とする。
The horizontal edge
図2(A)(B)は、本実施形態で用いるSobelフィルタのオペレータの一例を示す図である。 2A and 2B are diagrams illustrating an example of an operator of a Sobel filter used in this embodiment.
図2において、(A)は、水平Sobelフィルタのオペレータの一例を示し、(B)は、垂直Sobelフィルタのオペレータの一例を示す。 2A shows an example of an operator of a horizontal Sobel filter, and FIG. 2B shows an example of an operator of a vertical Sobel filter.
垂直エッジ強度測定器101は、輝度信号の1ブロックを入力し、垂直のエッジ強度を測定する。エッジ強度メモリ(エッジ強度格納部)102は、水平エッジ強度測定器100と垂直エッジ強度測定器101とで測定した水平と垂直のエッジ強度をそれぞれ1フレーム分だけ格納する。尚、このエッジ強度メモリ102は2バンク構成であり、1バンクに対し入力すると同時に他方のバンクで出力することが可能である。尚、このバンクの切り替えは1フレーム処理毎に行う。
The vertical edge
ノイズ除去フラグ算出器103は、エッジ強度メモリ102に格納されたエッジ強度から、ノイズ除去対象となる領域を特定するノイズ除去フラグを算出する。ノイズ除去フラグメモリ(ノイズ除去フラグ格納部)104は、ノイズ除去フラグ算出器103で算出されたノイズ除去フラグを1フレーム分だけ格納する。尚、ノイズ除去フラグメモリ104は2バンク構成であり、1バンクに対し入力すると同時にもう1バンクでは出力することが可能である。このバンクの切り替えは1フレーム処理毎に行う。フィルタ強度乗数テーブル105は、後述するエッジ強度変化値からフィルタ強度乗数を参照する。
The noise removal flag calculator 103 calculates a noise removal flag for specifying a region to be subjected to noise removal from the edge strength stored in the
図3は、エッジ強度変化値とフィルタ強度乗数の関係例を示す図である。 FIG. 3 is a diagram illustrating an example of the relationship between the edge strength change value and the filter strength multiplier.
この曲線では、エッジ強度変化値が低い場合にフィルタ強度を強くする傾向となっている。 This curve tends to increase the filter strength when the edge strength change value is low.
フィルタ強度算出器(フィルタ制御部)106は、現在のフレームの水平及び垂直エッジ強度と、直前のフレームのエッジ強度と、直前のフレームのノイズ除去フラグ、そして外部から入力するフィルタ強度基本乗数から後述するフィルタの強度を算出する。尚、現在のフレームの水平及び垂直エッジ強度は、水平エッジ強度測定器100及び垂直エッジ強度測定器101から得られる。また直前のフレームのエッジ強度は、エッジ強度メモリ102から得られ、直前のフレームのノイズ除去フラグは、ノイズ除去フラグメモリ104に格納されている。そしてフィルタの強度の算出に際しては、フィルタ強度乗数テーブル105が参照される。
A filter strength calculator (filter control unit) 106 is described later based on the horizontal and vertical edge strengths of the current frame, the edge strength of the immediately preceding frame, the noise removal flag of the immediately preceding frame, and the filter strength basic multiplier input from the outside. Calculate the strength of the filter. The horizontal and vertical edge strengths of the current frame are obtained from the horizontal edge
フィルタ107は、フィルタ強度算出器106からの制御信号により、フレーム内の2次元(以降2Dと称す)フィルタリング処理を実行するフィルタである。尚、本実施形態では、このフィルタ107は、εフィルタを使用する。
The
図4は、このεフィルタの一例を示す図である。 FIG. 4 is a diagram showing an example of this ε filter.
このフィルタ処理では、中心画素f(x,y)とその近傍画素f(x+i,y+j),(x,y=−M,...,0,1,...,M)の差分値を計算し、その絶対値がεよりも大きい場合は、その近傍の画素の値を中心画素の値に置き換えて平滑化処理を行う。その結果、g(x,y)ではエッジ成分を保護し、小振幅の高調波であるノイズを平滑化して抑制することができる。このεフィルタについての詳細は下記文献にゆだねる。 In this filter processing, the difference value between the center pixel f (x, y) and its neighboring pixels f (x + i, y + j), (x, y = −M,..., 0, 1,..., M) is calculated. If the absolute value is calculated and greater than ε, the value of the neighboring pixel is replaced with the value of the central pixel, and smoothing processing is performed. As a result, the edge component can be protected at g (x, y), and noise that is a harmonic having a small amplitude can be smoothed and suppressed. The details of this ε filter are referred to the following document.
[文献 原島博ほか「ε−分離非線形ディジタルフィルタとその応用」電子情報通信学会 昭57−論146〔A−36〕 昭和57年4月]
次に図1の画像処理装置の主要部の動作を図5〜図8のフローチャートを参照して説明する。尚、本実施形態では、先頭フレームとそれ以外のフレームで処理を切り替えるものとする。
[Literature Hiroshi Harashima et al. “Ε-Separation Nonlinear Digital Filter and Its Applications” IEICE 57-146 [A-36] April 1982
Next, the operation of the main part of the image processing apparatus of FIG. 1 will be described with reference to the flowcharts of FIGS. In the present embodiment, the processing is switched between the first frame and the other frames.
図5は、先頭フレームの処理を説明するフローチャートである。 FIG. 5 is a flowchart for explaining processing of the first frame.
まずステップS1で、水平エッジ強度測定器100により水平エッジの強度を測定する。またステップS2で、垂直エッジ強度測定器101により垂直エッジの強度を測定する。そしてステップS3で、水平エッジの強度及び垂直エッジの強度値をエッジ強度メモリ102へ格納する。尚、水平エッジの強度と垂直エッジの強度を測定する順序はこれに限らず、先に垂直エッジの強度を測定しても、これらを並行して行っても良い。
First, in step S1, the horizontal edge
次にステップS4に進み、エッジ強度メモリ102に格納されたエッジ強度に基づいて、ノイズ除去フラグ算出器103によりノイズ除去フラグのマップを作成する。そしてステップS5で、その算出したノイズ除去フラグのマップを除去フラグメモリ104へ格納する。次にステップS6に進み、エッジ強度メモリ102、ノイズ除去フラグメモリ104のバンクを切り替え、次のフレームでは、その格納したバンクで読み出し、もう一方のバンクに格納する準備をする。
In step S4, the noise removal flag calculator 103 creates a noise removal flag map based on the edge strength stored in the
以上説明した処理により、先頭フレームでは、2つのマップへの格納処理のみを行い、ノイズ除去処理は行わない。 By the processing described above, only the storage processing to the two maps is performed in the first frame, and the noise removal processing is not performed.
次に先頭フレーム以降の通常フレームでの処理を図6のフローチャートを用いて記述する。 Next, processing in normal frames after the first frame will be described using the flowchart of FIG.
図6は、先頭フレーム以降のフレームの処理を説明するフローチャートである。 FIG. 6 is a flowchart for explaining processing of frames after the first frame.
図6のステップS11〜S13の処理は、図5のステップS1〜S3と同じであるため、その説明を省略する。 The processing in steps S11 to S13 in FIG. 6 is the same as that in steps S1 to S3 in FIG.
こうしてステップS13で、現在のフレームのエッジ強度をエッジ強度メモリ102へ格納した後、ステップS14で、エッジ強度メモリ103に格納された直前のフレームのブロック毎のエッジ強度を取得する。またステップS15で、ノイズ除去フラグメモリ104に格納された直前のフレームのブロック毎のノイズ除去フラグを取得する。
Thus, after the edge strength of the current frame is stored in the
次にステップS16に進み、これら直前のフレームの2つのマップ情報から、水平フィルタ、垂直フィルタの強度を算出する。そしてステップS17で、制御信号によりフィルタ107を制御してノイズ除去のためのフィルタリング処理を実行する。次にステップS18に進み、ノイズ除去フラグマップを生成する。
そしてステップS19,S20では、前述の図5のステップS5,S6と同様に、算出したノイズ除去フラグのマップをノイズ除去フラグメモリ104へ格納し、エッジ強度メモリ102、ノイズ除去フラグメモリ104のバンクを切り替える。
In step S16, the horizontal filter and vertical filter strengths are calculated from the two pieces of map information of the immediately preceding frames. In step S17, the
In steps S19 and S20, the calculated noise removal flag map is stored in the noise
次に、ノイズ除去フラグのマップの生成方法について図7を用いて記述する。 Next, a method of generating a noise removal flag map will be described with reference to FIG.
図7は、本実施形態に係るノイズ除去フラグのマップの生成方法を説明するフローチャートである。 FIG. 7 is a flowchart illustrating a method of generating a noise removal flag map according to the present embodiment.
まずステップS31で、既に格納された直前のフレームの水平、垂直エッジ強度を加算し、直前のフレームのエッジ強度を算出する。次にステップS32に進み、その測定して格納されたエッジ強度マップから、所定値EP1よりもエッジ強度の大きいブロック(第1ブロック)を抽出する。次にステップS33に進み、そのエッジ強度が大きいブロックに隣接する周辺の8ブロックのエッジ強度を測定する。次にステップS34に進み、それら周囲8ブロックにおいて、所定値EP2よりもエッジ強度が低いブロック(第2ブロック)を、エッジ強度の大きいブロックを含めない拡張ブロック領域と判定する。次にステップS35に進み、こうして求めた拡張ブロック領域を、ノイズ除去フラグがオンのブロックとし、それ以外のブロックをノイズ除去フラグがオフのブロックとしてノイズ除去フラグメモリ104へ格納する。またノイズ除去フラグがオンのブロックに対し、拡張したブロックのエッジ強度と拡張元のブロックのエッジ強度の差分値を格納する。
First, in step S31, the horizontal and vertical edge strengths of the previous frame that have already been stored are added to calculate the edge strength of the previous frame. In step S32, a block (first block) having an edge strength larger than the predetermined value EP1 is extracted from the measured and stored edge strength map. Next, the process proceeds to step S33, and the edge strengths of the neighboring eight blocks adjacent to the block having the large edge strength are measured. In step S34, a block (second block) having an edge strength lower than the predetermined value EP2 in the eight surrounding blocks is determined as an extended block region not including a block having a high edge strength. Next, the process proceeds to step S35, and the extended block area thus obtained is stored in the noise
次に、フィルタ107の強度算出方法について、図8を用いて記述する。
Next, a method for calculating the strength of the
図8は、本実施形態に係るフィルタ107の強度算出方法を説明するフローチャートである。ここでの処理の対象となるブロックは、ノイズ除去フラグがオンのブロックである。
FIG. 8 is a flowchart for explaining the intensity calculation method of the
まずステップS41で、既にエッジ強度メモリ102に格納された直前のフレームの各ブロックの水平、垂直エッジ強度を加算し、直前のフレームの各ブロックのエッジ強度を算出する。またステップS42で、水平エッジ強度測定器100,垂直エッジ強度測定器101から出力される現在のフレームの対応するブロックの水平、垂直エッジ強度を加算し、現在のフレームの対応するブロックのエッジ強度を算出する。次にステップS43に進み、その算出した直前のフレームのブロックのエッジ強度と現在のフレームの対応するブロックのエッジ強度変化値DEを算出し、乗数テーブルを用いた演算を行って、そのブロックに対するフィルタ強度を算出する。
First, in step S41, the horizontal and vertical edge strengths of each block of the immediately preceding frame already stored in the
フィルタ強度=DE×W(DE)×WD
なお、ここでエッジ強度変化値DEは、(直前フレームエッジ強度)−(現フレームエッジ強度)を示す。W(DE)は、DE時のフィルタ強度乗数を示し、WDは、外部入力のフィルタ強度基本乗数を示す。尚、このフィルタ強度は、予め定められた最低値、最大値を超えない値となる。
Filter strength = DE x W (DE) x WD
Here, the edge strength change value DE indicates (preceding frame edge strength) − (current frame edge strength). W (DE) represents the filter strength multiplier at the time of DE, and WD represents the filter strength basic multiplier of the external input. The filter strength is a value that does not exceed a predetermined minimum value and maximum value.
図9は、具体的な直前のフレームのエッジ領域の拡張例(A)と、現在のフレームのノイズ除去対象ブロックを決定するまでの例(B)を説明する図である。 FIG. 9 is a diagram for explaining a specific example (A) of extending the edge region of the immediately preceding frame and an example (B) until determining the noise removal target block of the current frame.
図9(A)の直前のフレームでは、規定値EP1よりもエッジ強度が高いブロック900を選定する。そしてエッジ強度が極度に低下している、エッジ強度が規定値EP2以下のブロック901へ領域を拡張する。そして、これら901で示すブロックを、これ以降の処理の対象ブロックとする。
In the frame immediately before FIG. 9A, a
次に図9(B)においても同様に、規定値EP1よりもエッジ強度が高いブロック910を選定する。そしてエッジ強度が極度に低下している、エッジ強度が規定値EP2以下のブロック911へ領域を拡張する。次に、直前のフレームのエッジ強度と現在のフレームのエッジ強度とを比較し、その差がTH1以下であれば、ノイズ除去対象のブロック領域とする(911で示すブロックの中で斜線が付されたブロック)。一方で、その差がTH1よりも大きくエッジ強度が高くなる、もしくは低下した場合にはノイズ除去対象ブロックから除外する(911で示すブロックの中で「×」印が付されたブロック)。
Next, similarly in FIG. 9B, a
尚、前述の実施形態では、処理の対象ブロックを4×4画素としたが、8×4,4×8,8×8画素等の別のサイズでもかまわない。 In the above-described embodiment, the processing target block is 4 × 4 pixels. However, other sizes such as 8 × 4, 4 × 8, and 8 × 8 pixels may be used.
またエッジ強度測定器100,101内の処理で、Sobelフィルタを用いたが、そのほかの微分フィルタでもかまわない。
Further, although the Sobel filter is used in the processing in the edge
またフィルタ107はεフィルタを用いたが、そのほかのエッジ保存型フィルタでもかまわない。
The
更に、ノイズ除去フラグ算出器103における閾値EP1,EP2は、フレーム毎に可変に設定してもかまわない。 Furthermore, the threshold values EP1 and EP2 in the noise removal flag calculator 103 may be set variably for each frame.
以上説明したように本実施形態によれば、画像データに含まれるモスキートノイズのような符号化ノイズの発生部分を的確に検出することができ、且つ、水平と2Dフィルタを適応的に切り替えることで、インターレース信号の状態を維持しつつ、ノイズ除去処理を施すことができる簡便な手段を提供するものである。 As described above, according to the present embodiment, it is possible to accurately detect a portion where coding noise such as mosquito noise included in image data is generated and to adaptively switch between horizontal and 2D filters. The present invention provides a simple means capable of performing noise removal processing while maintaining the state of the interlace signal.
<その他の実施形態>
図10は、前述した実施形態に係る画像処理装置のハードウェア構成を説明するブロック図である。
<Other embodiments>
FIG. 10 is a block diagram illustrating the hardware configuration of the image processing apparatus according to the above-described embodiment.
1000はコンピュータ全体の制御、及び種々の処理を行う中央演算装置(CPU)である。メモリ1001は、この画像処理装置の動作制御に必要なオペレーティングシステム(OS)、ソフトウエア、データ、演算に必要な記憶領域を提供するメモリである。また、CPU1000が各種の制御処理を行う際のワークエリアとしても用いられる。よって、上述したフローチャートの各処理ステップは、このメモリ1001に記憶されたプログラムとCPU1000との協働により実現される。システムバス1002は、CPU1000と各部とを接続し、それらの間でデータや制御信号などをやりとりする。1003は各種ソフトウエアを蓄積する記憶装置で、例えばハードディスクなどである。1004は動画像データを蓄積する記憶装置で、例えばハードディスクやMO等が含まれる。表示部1005は、画像やメッセージなどを表示するのに使用される。通信インターフェース1007は、通信回路1008を介してデータの送受信を行っており、装置外部のLAN、公衆回線、無線回線、放送電波等と接続されている。操作部1006は、この画像処理装置を起動したり、各種条件を設定したりするのに使用される。
A central processing unit (CPU) 1000 controls the entire computer and performs various processes. A
メモリ1001には、この画像処理装置全体の動作を制御し、各種ソフトウエアを動作させるためのOSやソフトウエアを格納し、画像データを読み込むエリア、各種演算のパラメータ等を格納しておくワーキングエリアが存在する。
The
このような構成において、処理に先立ち、操作部1006から記憶装置1004に蓄積されている動画像データから符号化する動画像データを選択し、コンピュータの起動が指示される。すると記憶装置1003に格納されているソフトウエアがバス1002を介してメモリ1001に展開され、ソフトウエアが起動される。そしてCPU1000による記憶装置1004に格納されている動画像データの符号化動作は、図5から図8に示したフローチャートに従ったプログラムコード(前述のソフトウエア)が実行されることになる。
In such a configuration, prior to processing, moving image data to be encoded is selected from the moving image data stored in the
以上の説明により、本実施形態におけるコンピュータは、上述の実施形態におけるノイズ除去を実現する装置として機能する。 As described above, the computer according to the present embodiment functions as a device that realizes noise removal according to the above-described embodiment.
以上説明したように本実施形態によれば、動画像符号化装置及びその方法において、画像データに含まれるモスキートノイズのような符号化ノイズの発生部分を的確に検出できる。そして本来の画像が持つテクスチャを保持し、ノイズ発生部分に対してのみノイズ除去処理を施すことができる。 As described above, according to the present embodiment, in the moving picture coding apparatus and method, it is possible to accurately detect a portion where coding noise such as mosquito noise included in image data is generated. Then, the texture of the original image can be retained, and noise removal processing can be performed only on the noise generation portion.
以上、本発明の実施形態について詳述したが、本発明は、複数の機器から構成されるシステムに適用しても良いし、また一つの機器からなる装置に適用しても良い。 Although the embodiments of the present invention have been described in detail above, the present invention may be applied to a system constituted by a plurality of devices or may be applied to an apparatus constituted by one device.
なお、本実施形態ではDCT変換について説明したが、これに限定されず、高周波と低周波に分離するような直交変換、例えばアダマール変換やフーリエ変換のような他の直交変換と量子化を組合せた符号化でも同様の効果を得ることができる。 In the present embodiment, the DCT transform has been described. However, the present invention is not limited to this, and an orthogonal transform that separates into a high frequency and a low frequency, for example, another orthogonal transform such as Hadamard transform or Fourier transform, and quantization are combined. Similar effects can be obtained by encoding.
なお、本実施形態ではMPEGのようなフレーム間符号化を行う符号化方式を例にとって説明したが、これに限定されない。例えば、Motion JPEG符号化方式のように連続して符号化される符号化方式に適応してもかまわない。また、Mption JPEG符号化方式では符号化をRGBのそれぞれに対して行うことも可能であり、対象信号は輝度信号に限定されない。 In the present embodiment, the encoding method for performing inter-frame encoding such as MPEG has been described as an example, but the present invention is not limited to this. For example, you may adapt to the encoding system coded continuously, such as Motion JPEG encoding system. In the Mption JPEG encoding method, encoding can be performed for each of RGB, and the target signal is not limited to the luminance signal.
なお、本実施形態ではフレーム単位の処理で説明を行ったが、これに限定されず、インターレース画像であればフィールド単位の処理でもかまわない。 In the present embodiment, the processing in units of frames has been described. However, the present invention is not limited to this. For interlaced images, processing in units of fields may be used.
なお、本発明は、前述した実施形態の機能を実現するソフトウエアのプログラムを、システム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムを読み出して実行することによっても達成され得る。その場合、プログラムの機能を有していれば、形態は、プログラムである必要はない。 In the present invention, a software program that realizes the functions of the above-described embodiments is directly or remotely supplied to a system or apparatus, and the computer of the system or apparatus reads and executes the supplied program. Can also be achieved. In that case, the form does not have to be a program as long as it has the function of the program.
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明のクレームでは、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。 Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. That is, the claims of the present invention include the computer program itself for realizing the functional processing of the present invention. In this case, the program may be in any form as long as it has a program function, such as an object code, a program executed by an interpreter, or script data supplied to the OS.
プログラムを供給するための記憶媒体としては、様々なものが使用できる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。 Various storage media for supplying the program can be used. For example, floppy (registered trademark) disk, hard disk, optical disk, magneto-optical disk, MO, CD-ROM, CD-R, CD-RW, magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD- R).
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページからハードディスク等の記憶媒体にダウンロードすることによっても供給できる。その場合、ダウンロードされるのは、本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明のクレームに含まれるものである。 As another program supply method, the program can be supplied by connecting to a homepage on the Internet using a browser of a client computer and downloading the program from the homepage to a storage medium such as a hard disk. In this case, the computer program itself of the present invention or a compressed file including an automatic installation function may be downloaded. It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the claims of the present invention.
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布する形態としても良い。その場合、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムが実行可能な形式でコンピュータにインストールされるようにする。 Further, the program of the present invention may be encrypted, stored in a storage medium such as a CD-ROM, and distributed to users. In that case, a user who has cleared a predetermined condition is allowed to download key information to be decrypted from a homepage via the Internet, and using the key information, the encrypted program can be executed on a computer in a format that can be executed. To be installed.
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される形態以外の形態でも実現可能である。例えば、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。 Further, the present invention can be realized in a form other than the form in which the functions of the above-described embodiments are realized by the computer executing the read program. For example, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiments can also be realized by the processing.
更に、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれるようにしてもよい。この場合、その後で、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。 Furthermore, the program read from the storage medium may be written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. In this case, thereafter, based on the instructions of the program, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing. .
100 水平エッジ強度測定器
101 垂直エッジ強度測定器
102 エッジ強度メモリ
103 ノイズ除去フラグ算出器
104 ノイズ除去フラグメモリ
105 フィルタ強度乗数テーブル
106 フィルタ強度算出器
107 フィルタ
DESCRIPTION OF
Claims (9)
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定手段と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定手段と、
前記水平エッジ強度測定手段及び前記垂直エッジ強度測定手段により測定された水平及び垂直のエッジ強度を格納するエッジ強度格納手段と、
前記エッジ強度格納手段に格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出手段と、
前記ノイズ除去フラグ算出手段で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納手段と、
入力した現フレームのエッジ強度と前記エッジ強度格納手段に格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御手段と、
前記フィルタ制御手段からの前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ手段と
を有し、
前記フィルタ制御手段は、
前記水平エッジ強度測定手段と前記垂直エッジ強度測定手段により測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納手段に格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする画像処理装置。 An image processing apparatus for removing noise components of decoded image data obtained by decoding an image stream generated by lossy encoding,
Horizontal edge strength measuring means for measuring the strength of the horizontal edge of each block of the input frame;
Vertical edge strength measuring means for measuring the strength of the vertical edge of each block of the input frame;
Edge strength storage means for storing horizontal and vertical edge strengths measured by the horizontal edge strength measurement means and the vertical edge strength measurement means;
Noise removal flag calculation means for calculating a noise removal flag for identifying a block from which noise should be removed based on the horizontal and vertical edge strengths stored in the edge strength storage means;
Noise removal flag storage means for storing the noise removal flag calculated by the noise removal flag calculation means;
Filter control means for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage means, and the noise removal flag;
Have a filtering means for performing filtering processing on the current frame in response to the control signal from the filter control means,
The filter control means includes
The edge strength of the block of the current frame measured by the horizontal edge strength measurement means and the vertical edge strength measurement means, and the edge of the block corresponding to the block of the current frame of the immediately preceding frame stored in the edge strength storage means An image processing apparatus that calculates a filter strength based on a product of a difference from the strength and a strength multiplier of the filter strength and outputs the control signal for the block from which the noise is to be removed. .
前記エッジ強度格納手段を参照して各ブロックのエッジ強度を取得する手段と、
前記取得したエッジ強度が第1の所定値よりも大きい第1ブロックと、当該第1ブロックに隣接し、前記第1ブロックのエッジ強度よりも第2の所定値以上小さいエッジ強度を有する第2ブロックを求める手段とを有し、
前記ノイズ除去フラグは、前記第2ブロックを特定する情報であることを特徴とする請求項1に記載の画像処理装置。 The noise removal flag calculation means includes
Means for obtaining edge strength of each block with reference to the edge strength storage means;
A first block having the acquired edge strength greater than a first predetermined value, and a second block adjacent to the first block and having an edge strength that is smaller than a second predetermined value by an edge strength of the first block. And means for obtaining
The image processing apparatus according to claim 1, wherein the noise removal flag is information specifying the second block.
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定工程と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定工程と、
前記水平エッジ強度測定工程及び前記垂直エッジ強度測定工程で測定された水平及び垂直のエッジ強度を格納するエッジ強度格納工程と、
前記エッジ強度格納工程で格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出工程と、
前記ノイズ除去フラグ算出工程で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納工程と、
入力した現フレームのエッジ強度と前記エッジ強度格納工程で格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御工程と、
前記フィルタ制御工程で出力された前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ工程と
を有し、
前記フィルタ制御工程では、
前記水平エッジ強度測定工程と前記垂直エッジ強度測定工程で測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納工程で格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする画像処理装置の画像処理方法。 An image processing method of an image processing apparatus for removing a noise component of decoded image data obtained by decoding an image stream generated by lossy encoding,
A horizontal edge strength measurement process for measuring the strength of the horizontal edge of each block of the input frame;
A vertical edge strength measurement step for measuring the strength of the vertical edge of each block of the input frame;
An edge strength storing step for storing horizontal and vertical edge strengths measured in the horizontal edge strength measuring step and the vertical edge strength measuring step;
A noise removal flag calculation step for calculating a noise removal flag for identifying a block from which noise is to be removed based on the horizontal and vertical edge strengths stored in the edge strength storage step;
A noise removal flag storage step for storing the noise removal flag calculated in the noise removal flag calculation step;
A filter control step for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage step, and the noise removal flag;
Said have a filter step of performing filtering processing for the current frame in response to said control signal output by the filter control step,
In the filter control step,
The edge strength of the block of the current frame measured in the horizontal edge strength measurement step and the vertical edge strength measurement step, and the edge of the block corresponding to the block of the current frame in the immediately preceding frame stored in the edge strength storage step An image processing apparatus that calculates a filter strength based on a product of a difference from the strength and a strength multiplier of the filter strength and outputs the control signal for the block from which the noise is to be removed. Image processing method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009017124A JP5143033B2 (en) | 2009-01-28 | 2009-01-28 | Image processing apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009017124A JP5143033B2 (en) | 2009-01-28 | 2009-01-28 | Image processing apparatus and method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010177926A JP2010177926A (en) | 2010-08-12 |
JP2010177926A5 JP2010177926A5 (en) | 2012-03-08 |
JP5143033B2 true JP5143033B2 (en) | 2013-02-13 |
Family
ID=42708454
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009017124A Expired - Fee Related JP5143033B2 (en) | 2009-01-28 | 2009-01-28 | Image processing apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5143033B2 (en) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH089370A (en) * | 1994-06-22 | 1996-01-12 | Sanyo Electric Co Ltd | Image encoding method |
JP4931215B2 (en) * | 2007-01-24 | 2012-05-16 | キヤノン株式会社 | Image processing apparatus and method |
-
2009
- 2009-01-28 JP JP2009017124A patent/JP5143033B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010177926A (en) | 2010-08-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8189946B2 (en) | Image processing apparatus and method thereof for detecting and removing noise in decoded images | |
RU2461977C2 (en) | Compression and decompression of images | |
JP5351038B2 (en) | Image processing system for processing a combination of image data and depth data | |
US20100080472A1 (en) | Image processing apparatus, moving image decoding apparatus, moving image encoding apparatus and method | |
WO2006118288A1 (en) | Dynamic image encoding method, dynamic image decoding method, and device thereof | |
KR20160032088A (en) | Method for intra prediction improvements for oblique modes in video coding | |
JP2008172813A (en) | Filtering method, image coding apparatus, and image decoding apparatus | |
JP2006114979A (en) | Image coding apparatus and method thereof | |
JP4931214B2 (en) | Image processing apparatus and method | |
JP2009017502A (en) | Image encoding apparatus and image decoding apparatus | |
JP2006074777A (en) | Moving picture coding method and decoding method | |
JP4931215B2 (en) | Image processing apparatus and method | |
JP2009152968A (en) | Image processing device and method, learning device and method, program, and recording medium | |
JP5055078B2 (en) | Image processing apparatus and method | |
JP2008301336A (en) | Image processing device, image encoding device and image decoding device | |
JP5143033B2 (en) | Image processing apparatus and method | |
JP4449430B2 (en) | Image processing apparatus, image processing method, program, and recording medium | |
JPH11298898A (en) | Block distortion reduction circuit | |
TW202038612A (en) | Image encoding device, image encoding method, image decoding device, and image decoding method | |
US10015506B2 (en) | Frequency reduction and restoration system and method in video and image compression | |
JP6332039B2 (en) | Screen encoding device, screen decoding device, screen encoding transmission system | |
JP2007300557A (en) | Image encoding device and image encoding method | |
JP2004140863A (en) | Motion picture decoding apparatus | |
JP2006191287A (en) | Image coding device, image coding method and image coding program | |
JP5256095B2 (en) | Compressed image noise removal device and playback device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120124 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120730 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120803 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121001 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121022 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121120 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151130 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5143033 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |