[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5143033B2 - Image processing apparatus and method - Google Patents

Image processing apparatus and method Download PDF

Info

Publication number
JP5143033B2
JP5143033B2 JP2009017124A JP2009017124A JP5143033B2 JP 5143033 B2 JP5143033 B2 JP 5143033B2 JP 2009017124 A JP2009017124 A JP 2009017124A JP 2009017124 A JP2009017124 A JP 2009017124A JP 5143033 B2 JP5143033 B2 JP 5143033B2
Authority
JP
Japan
Prior art keywords
strength
edge strength
block
noise removal
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009017124A
Other languages
Japanese (ja)
Other versions
JP2010177926A5 (en
JP2010177926A (en
Inventor
正 大平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009017124A priority Critical patent/JP5143033B2/en
Publication of JP2010177926A publication Critical patent/JP2010177926A/en
Publication of JP2010177926A5 publication Critical patent/JP2010177926A5/ja
Application granted granted Critical
Publication of JP5143033B2 publication Critical patent/JP5143033B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、例えばMPEG(Moving Picture Experts Group)方式などにより、非可逆圧縮符号化された画像データを復号した画像に含まれるノイズ部分を検出して除去する画像処理装置及びその方法に関するものである。   The present invention relates to an image processing apparatus and method for detecting and removing a noise part included in an image obtained by decoding image data that has been subjected to lossy compression coding, for example, by the MPEG (Moving Picture Experts Group) method. .

従来、画像の符号化方式として、フレーム内符号化方式であるMotion JPEGやDigital Video等の符号化方式、フレーム間予測符号化を用いたH.261,H.263,MPEG−1,MPEG−2が知られている。また近年ではH.264等の符号化方式が採用されている。これらの符号化方式は、ISO(国際標準化機構)やITU(国際電気通信連合)によって国際標準化されている。   Conventionally, as an image encoding method, an intra-frame encoding method such as Motion JPEG or Digital Video, or H.264 using inter-frame predictive encoding is used. 261, H.M. H.263, MPEG-1, and MPEG-2 are known. In recent years, H.C. An encoding method such as H.264 is employed. These encoding methods are internationally standardized by ISO (International Organization for Standardization) and ITU (International Telecommunication Union).

符号化方式で代表的なMPEG−2は非可逆符号化と呼ばれ、符号化画像データを復号しても完全に元の画像データに戻らない。これは符号化時に、DCT変換の後に量子化を行うことに起因している。これら符号化方式は、画像信号の統計的な性質を利用し、その信号に含まれる冗長性を取り除くことで情報量の削減を図っている。即ち、人間の視覚は画像の高周波成分に鈍感であるため、その高周波成分を粗く量子化して冗長性を削除し、高い符号化効率を得るようにしている。   MPEG-2, which is a typical encoding method, is called lossy encoding, and even if encoded image data is decoded, it does not completely return to the original image data. This is because quantization is performed after DCT transform at the time of encoding. These encoding methods use the statistical properties of the image signal and reduce the amount of information by removing the redundancy contained in the signal. That is, since human vision is insensitive to the high-frequency component of the image, the high-frequency component is roughly quantized to eliminate redundancy and obtain high coding efficiency.

しかし、この種のDCT変換を行なう非可逆符号化では、高域成分を制限することによってデータ圧縮を行っているために、画像のエッジ部、または動物体の周囲でモスキートノイズと呼ばれるノイズが発生し、復元した画像の画質劣化の原因となっている。このモスキートノイズを低減する方法が従来から提案されている。例えば、入力画像信号のエッジ部を検出し、ノイズ除去フィルタによって、画像信号のエッジ部をフィルタリング処理して、モスキートノイズを低減し画像信号を得る方法が提案されている。その一例として、特許文献1には、動きベクトル検出後、水平、垂直エッジ検出をして、その後それぞれの次元でフィルタを施すことが提案されている。
特開平10−13718号公報
However, in lossy encoding that performs this type of DCT transform, data compression is performed by limiting high-frequency components, so noise called mosquito noise occurs around the edge of the image or around the moving object. As a result, the image quality of the restored image is degraded. A method for reducing this mosquito noise has been proposed. For example, a method has been proposed in which an edge portion of an input image signal is detected and the edge portion of the image signal is filtered by a noise removal filter to reduce mosquito noise and obtain an image signal. As an example, Patent Document 1 proposes to detect horizontal and vertical edges after detecting a motion vector, and then apply a filter in each dimension.
Japanese Patent Laid-Open No. 10-13718

しかしながら上記従来の技術では、画像信号中のモスキートノイズの有無に関係無く、画像信号のエッジ部分でモスキートノイズ除去のフィルタリング処理が行われるため、モスキートノイズが発生していない部分では画像を劣化させてしまう。また、細かなエッジが含まれるテクスチャの領域があった場合、この領域をエッジと誤って判断し、テクスチャの情報を削除して画質を劣化させる結果となっていた。   However, in the above conventional technique, the mosquito noise removal filtering process is performed at the edge portion of the image signal regardless of the presence or absence of the mosquito noise in the image signal. Therefore, the image is deteriorated in the portion where the mosquito noise is not generated. End up. In addition, when there is a texture area including a fine edge, this area is erroneously determined as an edge, and the texture information is deleted to deteriorate the image quality.

これら問題点は、周波数変換及び非可逆圧縮符号化された画像データを復号した画像データに含まれる、モスキートノイズ等のノイズ発生部分を正確に検出することなく、画像信号のエッジ部にノイズ除去処理を施してしまうことに起因していた。更に、ノイズ除去処理の後にインターレース信号をプログレシブ信号へ変換するIP変換等の処理がある場合は、その処理へ悪影響を与えないようにノイズを除去する必要がある。言い換えれば、インターレースの情報を維持しつつノイズを除去しなくてならない。   These problems are the noise removal processing at the edge of the image signal without accurately detecting the noise generation part such as mosquito noise included in the image data obtained by decoding the frequency converted and lossy compression encoded image data. It was caused by giving. Furthermore, when there is a process such as IP conversion for converting an interlace signal into a progressive signal after the noise removal process, it is necessary to remove the noise so as not to adversely affect the process. In other words, noise must be removed while maintaining interlace information.

本発明の目的は、上述した従来の問題点を解決することにある。   An object of the present invention is to solve the conventional problems described above.

本願発明の目的は、周波数変換及び非可逆圧縮符号化を行なうことにより生成された画像ストリームを復号した復号画像データに含まれる、モスキートノイズ等のノイズ発生部分を検出し削除することにより、上述の問題点を解決することにある。   The object of the present invention is to detect and delete a noise generating part such as mosquito noise included in decoded image data obtained by decoding an image stream generated by performing frequency conversion and lossy compression coding. The solution is to solve the problem.

上記目的を達成するために本発明の一態様に係る画像処理装置は以下のような構成を備える。即ち、
非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定手段と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定手段と、
前記水平エッジ強度測定手段及び前記垂直エッジ強度測定手段により測定された水平及び垂直のエッジ強度を格納するエッジ強度格納手段と、
前記エッジ強度格納手段に格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出手段と、
前記ノイズ除去フラグ算出手段で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納手段と、
入力した現フレームのエッジ強度と前記エッジ強度格納手段に格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御手段と、
前記フィルタ制御手段からの前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ手段と
を有し、
前記フィルタ制御手段は、
前記水平エッジ強度測定手段と前記垂直エッジ強度測定手段により測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納手段に格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする。
In order to achieve the above object, an image processing apparatus according to an aspect of the present invention has the following arrangement. That is,
An image processing apparatus for removing noise components of decoded image data obtained by decoding an image stream generated by lossy encoding,
Horizontal edge strength measuring means for measuring the strength of the horizontal edge of each block of the input frame;
Vertical edge strength measuring means for measuring the strength of the vertical edge of each block of the input frame;
Edge strength storage means for storing horizontal and vertical edge strengths measured by the horizontal edge strength measurement means and the vertical edge strength measurement means;
Noise removal flag calculation means for calculating a noise removal flag for identifying a block from which noise should be removed based on the horizontal and vertical edge strengths stored in the edge strength storage means;
Noise removal flag storage means for storing the noise removal flag calculated by the noise removal flag calculation means;
Filter control means for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage means, and the noise removal flag;
Have a filtering means for performing filtering processing on the current frame in response to the control signal from the filter control means,
The filter control means includes
The edge strength of the block of the current frame measured by the horizontal edge strength measurement means and the vertical edge strength measurement means, and the edge of the block corresponding to the block of the current frame of the immediately preceding frame stored in the edge strength storage means The filter strength is calculated based on the product of the difference between the strength and the strength multiplier of the filter strength, and the control signal for the block from which the noise is to be removed is output .

上記目的を達成するために本発明の一態様に係る画像処理装置の画像処理方法は以下のような工程を備える。即ち、
非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置の画像処理方法であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定工程と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定工程と、
前記水平エッジ強度測定工程及び前記垂直エッジ強度測定工程で測定された水平及び垂直のエッジ強度を格納するエッジ強度格納工程と、
前記エッジ強度格納工程で格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出工程と、
前記ノイズ除去フラグ算出工程で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納工程と、
入力した現フレームのエッジ強度と前記エッジ強度格納工程で格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御工程と、
前記フィルタ制御工程で出力された前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ工程と
を有し、
前記フィルタ制御工程では、
前記水平エッジ強度測定工程と前記垂直エッジ強度測定工程で測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納工程で格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする。
In order to achieve the above object, an image processing method of an image processing apparatus according to an aspect of the present invention includes the following steps. That is,
An image processing method of an image processing apparatus for removing a noise component of decoded image data obtained by decoding an image stream generated by lossy encoding,
A horizontal edge strength measurement process for measuring the strength of the horizontal edge of each block of the input frame;
A vertical edge strength measurement step for measuring the strength of the vertical edge of each block of the input frame;
An edge strength storing step for storing horizontal and vertical edge strengths measured in the horizontal edge strength measuring step and the vertical edge strength measuring step;
A noise removal flag calculation step for calculating a noise removal flag for identifying a block from which noise is to be removed based on the horizontal and vertical edge strengths stored in the edge strength storage step;
A noise removal flag storage step for storing the noise removal flag calculated in the noise removal flag calculation step;
A filter control step for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage step, and the noise removal flag;
Said have a filter step of performing filtering processing for the current frame in response to said control signal output by the filter control step,
In the filter control step,
The edge strength of the block of the current frame measured in the horizontal edge strength measurement step and the vertical edge strength measurement step, and the edge of the block corresponding to the block of the current frame in the immediately preceding frame stored in the edge strength storage step The filter strength is calculated based on the product of the difference between the strength and the strength multiplier of the filter strength, and the control signal for the block from which the noise is to be removed is output .

本発明によれば、周波数変換及び非可逆圧縮符号化を行なうことにより生成された画像ストリームを復号した復号画像データに含まれるノイズ発生部分を検出して、そのノイズを除去できる。   ADVANTAGE OF THE INVENTION According to this invention, the noise generation part contained in the decoded image data which decoded the image stream produced | generated by performing frequency conversion and lossy compression encoding can be detected, and the noise can be removed.

以下、添付図面を参照して本発明の好適な実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る本発明を限定するものでなく、また本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. The following embodiments do not limit the present invention according to the claims, and all combinations of features described in the embodiments are not necessarily essential to the solution means of the present invention. .

図1は、本発明の実施形態に係る画像処理装置の主要部の構成を示すブロック図である。尚、本実施形態に係る画像処理装置は、非可逆符号化により生成された画像ストリームを復号した復号画像データを入力し、その入力フレームのノイズ成分を除去することを目的とする。ここでは画像データの処理の単位を4×4画素とし、これを対象ブロック(以下、ブロック)と称する。   FIG. 1 is a block diagram showing a configuration of a main part of an image processing apparatus according to an embodiment of the present invention. An object of the image processing apparatus according to the present embodiment is to input decoded image data obtained by decoding an image stream generated by lossy encoding, and to remove noise components from the input frame. Here, the unit of image data processing is 4 × 4 pixels, and this is referred to as a target block (hereinafter referred to as a block).

水平エッジ強度測定器100は、輝度信号の1ブロックを入力し、水平のエッジ強度を測定する。本実施形態では、処理単位のブロックの画素に対するエッジ強度をSobelフィルタの累積値とする。   The horizontal edge strength measuring device 100 inputs one block of the luminance signal and measures the horizontal edge strength. In the present embodiment, the edge strength for the pixels of the block in the processing unit is set as the cumulative value of the Sobel filter.

図2(A)(B)は、本実施形態で用いるSobelフィルタのオペレータの一例を示す図である。   2A and 2B are diagrams illustrating an example of an operator of a Sobel filter used in this embodiment.

図2において、(A)は、水平Sobelフィルタのオペレータの一例を示し、(B)は、垂直Sobelフィルタのオペレータの一例を示す。   2A shows an example of an operator of a horizontal Sobel filter, and FIG. 2B shows an example of an operator of a vertical Sobel filter.

垂直エッジ強度測定器101は、輝度信号の1ブロックを入力し、垂直のエッジ強度を測定する。エッジ強度メモリ(エッジ強度格納部)102は、水平エッジ強度測定器100と垂直エッジ強度測定器101とで測定した水平と垂直のエッジ強度をそれぞれ1フレーム分だけ格納する。尚、このエッジ強度メモリ102は2バンク構成であり、1バンクに対し入力すると同時に他方のバンクで出力することが可能である。尚、このバンクの切り替えは1フレーム処理毎に行う。   The vertical edge strength measuring device 101 inputs one block of the luminance signal and measures the vertical edge strength. The edge strength memory (edge strength storage unit) 102 stores the horizontal and vertical edge strengths measured by the horizontal edge strength measuring device 100 and the vertical edge strength measuring device 101 for one frame each. The edge strength memory 102 has a two-bank configuration, and can input to one bank and simultaneously output to the other bank. This bank switching is performed every frame processing.

ノイズ除去フラグ算出器103は、エッジ強度メモリ102に格納されたエッジ強度から、ノイズ除去対象となる領域を特定するノイズ除去フラグを算出する。ノイズ除去フラグメモリ(ノイズ除去フラグ格納部)104は、ノイズ除去フラグ算出器103で算出されたノイズ除去フラグを1フレーム分だけ格納する。尚、ノイズ除去フラグメモリ104は2バンク構成であり、1バンクに対し入力すると同時にもう1バンクでは出力することが可能である。このバンクの切り替えは1フレーム処理毎に行う。フィルタ強度乗数テーブル105は、後述するエッジ強度変化値からフィルタ強度乗数を参照する。   The noise removal flag calculator 103 calculates a noise removal flag for specifying a region to be subjected to noise removal from the edge strength stored in the edge strength memory 102. The noise removal flag memory (noise removal flag storage unit) 104 stores the noise removal flag calculated by the noise removal flag calculator 103 for one frame. The noise removal flag memory 104 has a two-bank configuration, and can be input to one bank and output from the other bank at the same time. This bank switching is performed every frame processing. The filter strength multiplier table 105 refers to the filter strength multiplier from the edge strength change value described later.

図3は、エッジ強度変化値とフィルタ強度乗数の関係例を示す図である。   FIG. 3 is a diagram illustrating an example of the relationship between the edge strength change value and the filter strength multiplier.

この曲線では、エッジ強度変化値が低い場合にフィルタ強度を強くする傾向となっている。   This curve tends to increase the filter strength when the edge strength change value is low.

フィルタ強度算出器(フィルタ制御部)106は、現在のフレームの水平及び垂直エッジ強度と、直前のフレームのエッジ強度と、直前のフレームのノイズ除去フラグ、そして外部から入力するフィルタ強度基本乗数から後述するフィルタの強度を算出する。尚、現在のフレームの水平及び垂直エッジ強度は、水平エッジ強度測定器100及び垂直エッジ強度測定器101から得られる。また直前のフレームのエッジ強度は、エッジ強度メモリ102から得られ、直前のフレームのノイズ除去フラグは、ノイズ除去フラグメモリ104に格納されている。そしてフィルタの強度の算出に際しては、フィルタ強度乗数テーブル105が参照される。   A filter strength calculator (filter control unit) 106 is described later based on the horizontal and vertical edge strengths of the current frame, the edge strength of the immediately preceding frame, the noise removal flag of the immediately preceding frame, and the filter strength basic multiplier input from the outside. Calculate the strength of the filter. The horizontal and vertical edge strengths of the current frame are obtained from the horizontal edge strength measuring device 100 and the vertical edge strength measuring device 101. Further, the edge strength of the immediately preceding frame is obtained from the edge strength memory 102, and the noise removal flag of the immediately preceding frame is stored in the noise removal flag memory 104. In calculating the filter strength, the filter strength multiplier table 105 is referred to.

フィルタ107は、フィルタ強度算出器106からの制御信号により、フレーム内の2次元(以降2Dと称す)フィルタリング処理を実行するフィルタである。尚、本実施形態では、このフィルタ107は、εフィルタを使用する。   The filter 107 is a filter that executes a two-dimensional (hereinafter referred to as 2D) filtering process in a frame in accordance with a control signal from the filter strength calculator 106. In the present embodiment, the filter 107 uses an ε filter.

図4は、このεフィルタの一例を示す図である。   FIG. 4 is a diagram showing an example of this ε filter.

このフィルタ処理では、中心画素f(x,y)とその近傍画素f(x+i,y+j),(x,y=−M,...,0,1,...,M)の差分値を計算し、その絶対値がεよりも大きい場合は、その近傍の画素の値を中心画素の値に置き換えて平滑化処理を行う。その結果、g(x,y)ではエッジ成分を保護し、小振幅の高調波であるノイズを平滑化して抑制することができる。このεフィルタについての詳細は下記文献にゆだねる。   In this filter processing, the difference value between the center pixel f (x, y) and its neighboring pixels f (x + i, y + j), (x, y = −M,..., 0, 1,..., M) is calculated. If the absolute value is calculated and greater than ε, the value of the neighboring pixel is replaced with the value of the central pixel, and smoothing processing is performed. As a result, the edge component can be protected at g (x, y), and noise that is a harmonic having a small amplitude can be smoothed and suppressed. The details of this ε filter are referred to the following document.

[文献 原島博ほか「ε−分離非線形ディジタルフィルタとその応用」電子情報通信学会 昭57−論146〔A−36〕 昭和57年4月]
次に図1の画像処理装置の主要部の動作を図5〜図8のフローチャートを参照して説明する。尚、本実施形態では、先頭フレームとそれ以外のフレームで処理を切り替えるものとする。
[Literature Hiroshi Harashima et al. “Ε-Separation Nonlinear Digital Filter and Its Applications” IEICE 57-146 [A-36] April 1982
Next, the operation of the main part of the image processing apparatus of FIG. 1 will be described with reference to the flowcharts of FIGS. In the present embodiment, the processing is switched between the first frame and the other frames.

図5は、先頭フレームの処理を説明するフローチャートである。   FIG. 5 is a flowchart for explaining processing of the first frame.

まずステップS1で、水平エッジ強度測定器100により水平エッジの強度を測定する。またステップS2で、垂直エッジ強度測定器101により垂直エッジの強度を測定する。そしてステップS3で、水平エッジの強度及び垂直エッジの強度値をエッジ強度メモリ102へ格納する。尚、水平エッジの強度と垂直エッジの強度を測定する順序はこれに限らず、先に垂直エッジの強度を測定しても、これらを並行して行っても良い。   First, in step S1, the horizontal edge strength measuring instrument 100 measures the horizontal edge strength. In step S2, the vertical edge strength measuring device 101 measures the strength of the vertical edge. In step S 3, the horizontal edge strength and the vertical edge strength value are stored in the edge strength memory 102. The order of measuring the strength of the horizontal edge and the strength of the vertical edge is not limited to this, and the strength of the vertical edge may be measured first or may be performed in parallel.

次にステップS4に進み、エッジ強度メモリ102に格納されたエッジ強度に基づいて、ノイズ除去フラグ算出器103によりノイズ除去フラグのマップを作成する。そしてステップS5で、その算出したノイズ除去フラグのマップを除去フラグメモリ104へ格納する。次にステップS6に進み、エッジ強度メモリ102、ノイズ除去フラグメモリ104のバンクを切り替え、次のフレームでは、その格納したバンクで読み出し、もう一方のバンクに格納する準備をする。   In step S4, the noise removal flag calculator 103 creates a noise removal flag map based on the edge strength stored in the edge strength memory 102. In step S 5, the calculated noise removal flag map is stored in the removal flag memory 104. In step S6, the banks of the edge strength memory 102 and the noise removal flag memory 104 are switched. In the next frame, the stored bank is read and stored in the other bank.

以上説明した処理により、先頭フレームでは、2つのマップへの格納処理のみを行い、ノイズ除去処理は行わない。   By the processing described above, only the storage processing to the two maps is performed in the first frame, and the noise removal processing is not performed.

次に先頭フレーム以降の通常フレームでの処理を図6のフローチャートを用いて記述する。   Next, processing in normal frames after the first frame will be described using the flowchart of FIG.

図6は、先頭フレーム以降のフレームの処理を説明するフローチャートである。   FIG. 6 is a flowchart for explaining processing of frames after the first frame.

図6のステップS11〜S13の処理は、図5のステップS1〜S3と同じであるため、その説明を省略する。   The processing in steps S11 to S13 in FIG. 6 is the same as that in steps S1 to S3 in FIG.

こうしてステップS13で、現在のフレームのエッジ強度をエッジ強度メモリ102へ格納した後、ステップS14で、エッジ強度メモリ103に格納された直前のフレームのブロック毎のエッジ強度を取得する。またステップS15で、ノイズ除去フラグメモリ104に格納された直前のフレームのブロック毎のノイズ除去フラグを取得する。   Thus, after the edge strength of the current frame is stored in the edge strength memory 102 in step S13, the edge strength for each block of the immediately preceding frame stored in the edge strength memory 103 is acquired in step S14. In step S15, the noise removal flag for each block of the immediately preceding frame stored in the noise removal flag memory 104 is acquired.

次にステップS16に進み、これら直前のフレームの2つのマップ情報から、水平フィルタ、垂直フィルタの強度を算出する。そしてステップS17で、制御信号によりフィルタ107を制御してノイズ除去のためのフィルタリング処理を実行する。次にステップS18に進み、ノイズ除去フラグマップを生成する。
そしてステップS19,S20では、前述の図5のステップS5,S6と同様に、算出したノイズ除去フラグのマップをノイズ除去フラグメモリ104へ格納し、エッジ強度メモリ102、ノイズ除去フラグメモリ104のバンクを切り替える。
In step S16, the horizontal filter and vertical filter strengths are calculated from the two pieces of map information of the immediately preceding frames. In step S17, the filter 107 is controlled by the control signal to execute a filtering process for noise removal. In step S18, a noise removal flag map is generated.
In steps S19 and S20, the calculated noise removal flag map is stored in the noise removal flag memory 104 in the same manner as in steps S5 and S6 in FIG. Switch.

次に、ノイズ除去フラグのマップの生成方法について図7を用いて記述する。   Next, a method of generating a noise removal flag map will be described with reference to FIG.

図7は、本実施形態に係るノイズ除去フラグのマップの生成方法を説明するフローチャートである。   FIG. 7 is a flowchart illustrating a method of generating a noise removal flag map according to the present embodiment.

まずステップS31で、既に格納された直前のフレームの水平、垂直エッジ強度を加算し、直前のフレームのエッジ強度を算出する。次にステップS32に進み、その測定して格納されたエッジ強度マップから、所定値EP1よりもエッジ強度の大きいブロック(第1ブロック)を抽出する。次にステップS33に進み、そのエッジ強度が大きいブロックに隣接する周辺の8ブロックのエッジ強度を測定する。次にステップS34に進み、それら周囲8ブロックにおいて、所定値EP2よりもエッジ強度が低いブロック(第2ブロック)を、エッジ強度の大きいブロックを含めない拡張ブロック領域と判定する。次にステップS35に進み、こうして求めた拡張ブロック領域を、ノイズ除去フラグがオンのブロックとし、それ以外のブロックをノイズ除去フラグがオフのブロックとしてノイズ除去フラグメモリ104へ格納する。またノイズ除去フラグがオンのブロックに対し、拡張したブロックのエッジ強度と拡張元のブロックのエッジ強度の差分値を格納する。   First, in step S31, the horizontal and vertical edge strengths of the previous frame that have already been stored are added to calculate the edge strength of the previous frame. In step S32, a block (first block) having an edge strength larger than the predetermined value EP1 is extracted from the measured and stored edge strength map. Next, the process proceeds to step S33, and the edge strengths of the neighboring eight blocks adjacent to the block having the large edge strength are measured. In step S34, a block (second block) having an edge strength lower than the predetermined value EP2 in the eight surrounding blocks is determined as an extended block region not including a block having a high edge strength. Next, the process proceeds to step S35, and the extended block area thus obtained is stored in the noise removal flag memory 104 as a block with the noise removal flag turned on and other blocks as blocks with the noise removal flag turned off. In addition, for a block whose noise removal flag is on, a difference value between the edge strength of the expanded block and the edge strength of the expansion source block is stored.

次に、フィルタ107の強度算出方法について、図8を用いて記述する。   Next, a method for calculating the strength of the filter 107 will be described with reference to FIG.

図8は、本実施形態に係るフィルタ107の強度算出方法を説明するフローチャートである。ここでの処理の対象となるブロックは、ノイズ除去フラグがオンのブロックである。   FIG. 8 is a flowchart for explaining the intensity calculation method of the filter 107 according to this embodiment. The block to be processed here is a block whose noise removal flag is on.

まずステップS41で、既にエッジ強度メモリ102に格納された直前のフレームの各ブロックの水平、垂直エッジ強度を加算し、直前のフレームの各ブロックのエッジ強度を算出する。またステップS42で、水平エッジ強度測定器100,垂直エッジ強度測定器101から出力される現在のフレームの対応するブロックの水平、垂直エッジ強度を加算し、現在のフレームの対応するブロックのエッジ強度を算出する。次にステップS43に進み、その算出した直前のフレームのブロックのエッジ強度と現在のフレームの対応するブロックのエッジ強度変化値DEを算出し、乗数テーブルを用いた演算を行って、そのブロックに対するフィルタ強度を算出する。   First, in step S41, the horizontal and vertical edge strengths of each block of the immediately preceding frame already stored in the edge strength memory 102 are added to calculate the edge strength of each block of the immediately preceding frame. In step S42, the horizontal and vertical edge strengths of the corresponding blocks of the current frame output from the horizontal edge strength measuring device 100 and the vertical edge strength measuring device 101 are added to obtain the edge strength of the corresponding block of the current frame. calculate. In step S43, the calculated edge strength of the block of the immediately preceding frame and the edge strength change value DE of the corresponding block of the current frame are calculated, and an operation using the multiplier table is performed to filter the block. Calculate the intensity.

フィルタ強度=DE×W(DE)×WD
なお、ここでエッジ強度変化値DEは、(直前フレームエッジ強度)−(現フレームエッジ強度)を示す。W(DE)は、DE時のフィルタ強度乗数を示し、WDは、外部入力のフィルタ強度基本乗数を示す。尚、このフィルタ強度は、予め定められた最低値、最大値を超えない値となる。
Filter strength = DE x W (DE) x WD
Here, the edge strength change value DE indicates (preceding frame edge strength) − (current frame edge strength). W (DE) represents the filter strength multiplier at the time of DE, and WD represents the filter strength basic multiplier of the external input. The filter strength is a value that does not exceed a predetermined minimum value and maximum value.

図9は、具体的な直前のフレームのエッジ領域の拡張例(A)と、現在のフレームのノイズ除去対象ブロックを決定するまでの例(B)を説明する図である。   FIG. 9 is a diagram for explaining a specific example (A) of extending the edge region of the immediately preceding frame and an example (B) until determining the noise removal target block of the current frame.

図9(A)の直前のフレームでは、規定値EP1よりもエッジ強度が高いブロック900を選定する。そしてエッジ強度が極度に低下している、エッジ強度が規定値EP2以下のブロック901へ領域を拡張する。そして、これら901で示すブロックを、これ以降の処理の対象ブロックとする。   In the frame immediately before FIG. 9A, a block 900 having an edge strength higher than the specified value EP1 is selected. Then, the area is expanded to the block 901 in which the edge strength is extremely reduced and the edge strength is equal to or less than the specified value EP2. The block indicated by 901 is a target block for subsequent processing.

次に図9(B)においても同様に、規定値EP1よりもエッジ強度が高いブロック910を選定する。そしてエッジ強度が極度に低下している、エッジ強度が規定値EP2以下のブロック911へ領域を拡張する。次に、直前のフレームのエッジ強度と現在のフレームのエッジ強度とを比較し、その差がTH1以下であれば、ノイズ除去対象のブロック領域とする(911で示すブロックの中で斜線が付されたブロック)。一方で、その差がTH1よりも大きくエッジ強度が高くなる、もしくは低下した場合にはノイズ除去対象ブロックから除外する(911で示すブロックの中で「×」印が付されたブロック)。   Next, similarly in FIG. 9B, a block 910 having an edge strength higher than the specified value EP1 is selected. Then, the area is expanded to the block 911 in which the edge strength is extremely reduced and the edge strength is equal to or less than the specified value EP2. Next, the edge strength of the immediately preceding frame is compared with the edge strength of the current frame, and if the difference is equal to or less than TH1, the block area is a noise removal target (the hatched line is added in the block indicated by 911). Block). On the other hand, when the difference is larger than TH1 and the edge strength is increased or decreased, it is excluded from the noise removal target block (block marked with “x” in the block indicated by 911).

尚、前述の実施形態では、処理の対象ブロックを4×4画素としたが、8×4,4×8,8×8画素等の別のサイズでもかまわない。   In the above-described embodiment, the processing target block is 4 × 4 pixels. However, other sizes such as 8 × 4, 4 × 8, and 8 × 8 pixels may be used.

またエッジ強度測定器100,101内の処理で、Sobelフィルタを用いたが、そのほかの微分フィルタでもかまわない。   Further, although the Sobel filter is used in the processing in the edge intensity measuring devices 100 and 101, other differential filters may be used.

またフィルタ107はεフィルタを用いたが、そのほかのエッジ保存型フィルタでもかまわない。   The filter 107 is an ε filter, but other edge preserving filters may be used.

更に、ノイズ除去フラグ算出器103における閾値EP1,EP2は、フレーム毎に可変に設定してもかまわない。   Furthermore, the threshold values EP1 and EP2 in the noise removal flag calculator 103 may be set variably for each frame.

以上説明したように本実施形態によれば、画像データに含まれるモスキートノイズのような符号化ノイズの発生部分を的確に検出することができ、且つ、水平と2Dフィルタを適応的に切り替えることで、インターレース信号の状態を維持しつつ、ノイズ除去処理を施すことができる簡便な手段を提供するものである。   As described above, according to the present embodiment, it is possible to accurately detect a portion where coding noise such as mosquito noise included in image data is generated and to adaptively switch between horizontal and 2D filters. The present invention provides a simple means capable of performing noise removal processing while maintaining the state of the interlace signal.

<その他の実施形態>
図10は、前述した実施形態に係る画像処理装置のハードウェア構成を説明するブロック図である。
<Other embodiments>
FIG. 10 is a block diagram illustrating the hardware configuration of the image processing apparatus according to the above-described embodiment.

1000はコンピュータ全体の制御、及び種々の処理を行う中央演算装置(CPU)である。メモリ1001は、この画像処理装置の動作制御に必要なオペレーティングシステム(OS)、ソフトウエア、データ、演算に必要な記憶領域を提供するメモリである。また、CPU1000が各種の制御処理を行う際のワークエリアとしても用いられる。よって、上述したフローチャートの各処理ステップは、このメモリ1001に記憶されたプログラムとCPU1000との協働により実現される。システムバス1002は、CPU1000と各部とを接続し、それらの間でデータや制御信号などをやりとりする。1003は各種ソフトウエアを蓄積する記憶装置で、例えばハードディスクなどである。1004は動画像データを蓄積する記憶装置で、例えばハードディスクやMO等が含まれる。表示部1005は、画像やメッセージなどを表示するのに使用される。通信インターフェース1007は、通信回路1008を介してデータの送受信を行っており、装置外部のLAN、公衆回線、無線回線、放送電波等と接続されている。操作部1006は、この画像処理装置を起動したり、各種条件を設定したりするのに使用される。   A central processing unit (CPU) 1000 controls the entire computer and performs various processes. A memory 1001 is a memory that provides an operating system (OS), software, data, and a storage area necessary for calculation necessary for operation control of the image processing apparatus. It is also used as a work area when the CPU 1000 performs various control processes. Therefore, each processing step in the flowchart described above is realized by the cooperation of the program stored in the memory 1001 and the CPU 1000. A system bus 1002 connects the CPU 1000 and each unit, and exchanges data, control signals, and the like between them. Reference numeral 1003 denotes a storage device for storing various software, such as a hard disk. Reference numeral 1004 denotes a storage device for accumulating moving image data, and includes, for example, a hard disk and an MO. A display unit 1005 is used to display images, messages, and the like. The communication interface 1007 transmits and receives data via the communication circuit 1008, and is connected to a LAN, public line, wireless line, broadcast wave, etc. outside the apparatus. An operation unit 1006 is used to activate the image processing apparatus and set various conditions.

メモリ1001には、この画像処理装置全体の動作を制御し、各種ソフトウエアを動作させるためのOSやソフトウエアを格納し、画像データを読み込むエリア、各種演算のパラメータ等を格納しておくワーキングエリアが存在する。   The memory 1001 stores an OS and software for controlling the operation of the entire image processing apparatus and operating various software, an area for reading image data, a working area for storing various calculation parameters, and the like. Exists.

このような構成において、処理に先立ち、操作部1006から記憶装置1004に蓄積されている動画像データから符号化する動画像データを選択し、コンピュータの起動が指示される。すると記憶装置1003に格納されているソフトウエアがバス1002を介してメモリ1001に展開され、ソフトウエアが起動される。そしてCPU1000による記憶装置1004に格納されている動画像データの符号化動作は、図5から図8に示したフローチャートに従ったプログラムコード(前述のソフトウエア)が実行されることになる。   In such a configuration, prior to processing, moving image data to be encoded is selected from the moving image data stored in the storage device 1004 from the operation unit 1006, and the activation of the computer is instructed. Then, the software stored in the storage device 1003 is expanded in the memory 1001 via the bus 1002, and the software is activated. Then, in the encoding operation of the moving image data stored in the storage device 1004 by the CPU 1000, the program code (the above-mentioned software) according to the flowcharts shown in FIGS. 5 to 8 is executed.

以上の説明により、本実施形態におけるコンピュータは、上述の実施形態におけるノイズ除去を実現する装置として機能する。   As described above, the computer according to the present embodiment functions as a device that realizes noise removal according to the above-described embodiment.

以上説明したように本実施形態によれば、動画像符号化装置及びその方法において、画像データに含まれるモスキートノイズのような符号化ノイズの発生部分を的確に検出できる。そして本来の画像が持つテクスチャを保持し、ノイズ発生部分に対してのみノイズ除去処理を施すことができる。   As described above, according to the present embodiment, in the moving picture coding apparatus and method, it is possible to accurately detect a portion where coding noise such as mosquito noise included in image data is generated. Then, the texture of the original image can be retained, and noise removal processing can be performed only on the noise generation portion.

以上、本発明の実施形態について詳述したが、本発明は、複数の機器から構成されるシステムに適用しても良いし、また一つの機器からなる装置に適用しても良い。   Although the embodiments of the present invention have been described in detail above, the present invention may be applied to a system constituted by a plurality of devices or may be applied to an apparatus constituted by one device.

なお、本実施形態ではDCT変換について説明したが、これに限定されず、高周波と低周波に分離するような直交変換、例えばアダマール変換やフーリエ変換のような他の直交変換と量子化を組合せた符号化でも同様の効果を得ることができる。   In the present embodiment, the DCT transform has been described. However, the present invention is not limited to this, and an orthogonal transform that separates into a high frequency and a low frequency, for example, another orthogonal transform such as Hadamard transform or Fourier transform, and quantization are combined. Similar effects can be obtained by encoding.

なお、本実施形態ではMPEGのようなフレーム間符号化を行う符号化方式を例にとって説明したが、これに限定されない。例えば、Motion JPEG符号化方式のように連続して符号化される符号化方式に適応してもかまわない。また、Mption JPEG符号化方式では符号化をRGBのそれぞれに対して行うことも可能であり、対象信号は輝度信号に限定されない。   In the present embodiment, the encoding method for performing inter-frame encoding such as MPEG has been described as an example, but the present invention is not limited to this. For example, you may adapt to the encoding system coded continuously, such as Motion JPEG encoding system. In the Mption JPEG encoding method, encoding can be performed for each of RGB, and the target signal is not limited to the luminance signal.

なお、本実施形態ではフレーム単位の処理で説明を行ったが、これに限定されず、インターレース画像であればフィールド単位の処理でもかまわない。   In the present embodiment, the processing in units of frames has been described. However, the present invention is not limited to this. For interlaced images, processing in units of fields may be used.

なお、本発明は、前述した実施形態の機能を実現するソフトウエアのプログラムを、システム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムを読み出して実行することによっても達成され得る。その場合、プログラムの機能を有していれば、形態は、プログラムである必要はない。   In the present invention, a software program that realizes the functions of the above-described embodiments is directly or remotely supplied to a system or apparatus, and the computer of the system or apparatus reads and executes the supplied program. Can also be achieved. In that case, the form does not have to be a program as long as it has the function of the program.

従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明のクレームでは、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。   Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. That is, the claims of the present invention include the computer program itself for realizing the functional processing of the present invention. In this case, the program may be in any form as long as it has a program function, such as an object code, a program executed by an interpreter, or script data supplied to the OS.

プログラムを供給するための記憶媒体としては、様々なものが使用できる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。   Various storage media for supplying the program can be used. For example, floppy (registered trademark) disk, hard disk, optical disk, magneto-optical disk, MO, CD-ROM, CD-R, CD-RW, magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD- R).

その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページからハードディスク等の記憶媒体にダウンロードすることによっても供給できる。その場合、ダウンロードされるのは、本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明のクレームに含まれるものである。   As another program supply method, the program can be supplied by connecting to a homepage on the Internet using a browser of a client computer and downloading the program from the homepage to a storage medium such as a hard disk. In this case, the computer program itself of the present invention or a compressed file including an automatic installation function may be downloaded. It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the claims of the present invention.

また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布する形態としても良い。その場合、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムが実行可能な形式でコンピュータにインストールされるようにする。   Further, the program of the present invention may be encrypted, stored in a storage medium such as a CD-ROM, and distributed to users. In that case, a user who has cleared a predetermined condition is allowed to download key information to be decrypted from a homepage via the Internet, and using the key information, the encrypted program can be executed on a computer in a format that can be executed. To be installed.

また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される形態以外の形態でも実現可能である。例えば、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。   Further, the present invention can be realized in a form other than the form in which the functions of the above-described embodiments are realized by the computer executing the read program. For example, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiments can also be realized by the processing.

更に、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれるようにしてもよい。この場合、その後で、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。   Furthermore, the program read from the storage medium may be written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. In this case, thereafter, based on the instructions of the program, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing. .

本発明の実施形態に係る画像処理装置の主要部の構成を示すブロック図である。It is a block diagram which shows the structure of the principal part of the image processing apparatus which concerns on embodiment of this invention. 本実施形態で用いるSobelフィルタのオペレータの一例を示す図である。It is a figure which shows an example of the operator of the Sobel filter used by this embodiment. エッジ強度変化値とフィルタ強度乗数の関係例を示す図である。It is a figure which shows the example of a relationship between an edge strength change value and a filter strength multiplier. 本実施形態に係るεフィルタの一例を示す図である。It is a figure which shows an example of the epsilon filter concerning this embodiment. 本発明の実施形態1に係る画像処理装置の先頭フレームに対する処理を説明するフローチャートである。It is a flowchart explaining the process with respect to the top frame of the image processing apparatus which concerns on Embodiment 1 of this invention. 本発明の実施形態1に係る画像処理装置の先頭フレーム以降のフレームの処理を説明するフローチャートである。4 is a flowchart for explaining processing of frames after the first frame of the image processing apparatus according to the first embodiment of the present invention. 本実施形態に係るノイズ除去フラグマップの生成方法を説明するフローチャートである。It is a flowchart explaining the generation method of the noise removal flag map which concerns on this embodiment. 本実施形態に係るフィルタの強度算出方法を説明するフローチャートである。It is a flowchart explaining the strength calculation method of the filter concerning this embodiment. 具体的な直前のフレームのエッジ領域の拡張例(A)と、現在のフレームのノイズ除去対象ブロックを決定するまでの例(B)を説明する図である。It is a figure explaining the example (B) of extending the edge area | region of the specific flame | frame immediately before, and determining the noise removal object block of the present flame | frame. 本実施形態に係る画像処理装置のハードウェア構成を説明するブロック図である。It is a block diagram explaining the hardware constitutions of the image processing apparatus which concerns on this embodiment.

100 水平エッジ強度測定器
101 垂直エッジ強度測定器
102 エッジ強度メモリ
103 ノイズ除去フラグ算出器
104 ノイズ除去フラグメモリ
105 フィルタ強度乗数テーブル
106 フィルタ強度算出器
107 フィルタ
DESCRIPTION OF SYMBOLS 100 Horizontal edge strength measuring device 101 Vertical edge strength measuring device 102 Edge strength memory 103 Noise removal flag calculator 104 Noise removal flag memory 105 Filter strength multiplier table 106 Filter strength calculator 107 Filter

Claims (9)

非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定手段と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定手段と、
前記水平エッジ強度測定手段及び前記垂直エッジ強度測定手段により測定された水平及び垂直のエッジ強度を格納するエッジ強度格納手段と、
前記エッジ強度格納手段に格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出手段と、
前記ノイズ除去フラグ算出手段で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納手段と、
入力した現フレームのエッジ強度と前記エッジ強度格納手段に格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御手段と、
前記フィルタ制御手段からの前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ手段と
を有し、
前記フィルタ制御手段は、
前記水平エッジ強度測定手段と前記垂直エッジ強度測定手段により測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納手段に格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする画像処理装置。
An image processing apparatus for removing noise components of decoded image data obtained by decoding an image stream generated by lossy encoding,
Horizontal edge strength measuring means for measuring the strength of the horizontal edge of each block of the input frame;
Vertical edge strength measuring means for measuring the strength of the vertical edge of each block of the input frame;
Edge strength storage means for storing horizontal and vertical edge strengths measured by the horizontal edge strength measurement means and the vertical edge strength measurement means;
Noise removal flag calculation means for calculating a noise removal flag for identifying a block from which noise should be removed based on the horizontal and vertical edge strengths stored in the edge strength storage means;
Noise removal flag storage means for storing the noise removal flag calculated by the noise removal flag calculation means;
Filter control means for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage means, and the noise removal flag;
Have a filtering means for performing filtering processing on the current frame in response to the control signal from the filter control means,
The filter control means includes
The edge strength of the block of the current frame measured by the horizontal edge strength measurement means and the vertical edge strength measurement means, and the edge of the block corresponding to the block of the current frame of the immediately preceding frame stored in the edge strength storage means An image processing apparatus that calculates a filter strength based on a product of a difference from the strength and a strength multiplier of the filter strength and outputs the control signal for the block from which the noise is to be removed. .
前記ノイズ除去フラグ算出手段は、
前記エッジ強度格納手段を参照して各ブロックのエッジ強度を取得する手段と、
前記取得したエッジ強度が第1の所定値よりも大きい第1ブロックと、当該第1ブロックに隣接し、前記第1ブロックのエッジ強度よりも第2の所定値以上小さいエッジ強度を有する第2ブロックを求める手段とを有し、
前記ノイズ除去フラグは、前記第2ブロックを特定する情報であることを特徴とする請求項1に記載の画像処理装置。
The noise removal flag calculation means includes
Means for obtaining edge strength of each block with reference to the edge strength storage means;
A first block having the acquired edge strength greater than a first predetermined value, and a second block adjacent to the first block and having an edge strength that is smaller than a second predetermined value by an edge strength of the first block. And means for obtaining
The image processing apparatus according to claim 1, wherein the noise removal flag is information specifying the second block.
前記ブロックのエッジ強度は、当該ブロックの水平エッジ強度と垂直エッジ強度との和であることを特徴とする請求項1又は2に記載の画像処理装置。 Edge strength of the block, the image processing apparatus according to claim 1 or 2, characterized in that the sum of the horizontal edge intensity and the vertical edge intensity of the block. 前記差分に対応して前記強度乗数を記憶するフィルタ強度乗数テーブルを更に有し、前記フィルタ制御手段は前記フィルタ強度乗数テーブルを参照して前記強度乗数を取得することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 Further comprising a filter strength multiplier table for storing the intensity multiplier in response to the difference, the filter control unit 1 through claim and acquires the intensity multiplier with reference to the filter strength multiplier table 4. The image processing apparatus according to any one of items 3 . 前記エッジ強度格納手段は、1フレーム分の水平及び垂直のエッジ強度を格納するバンクを少なくとも2つ有するバンク構成のメモリを有し、一方のバンクにエッジ強度を格納しながら他方のバンクからエッジ強度の読み出しが可能であるように構成されていることを特徴とする請求項1乃至のいずれか1項に記載の画像処理装置。 The edge strength storing means has a memory having a bank configuration having at least two banks for storing horizontal and vertical edge strengths for one frame, and stores edge strength in one bank while edge strength is stored from the other bank. the image processing apparatus according to any one of claims 1 to 4, characterized in that the reading has been configured to be. 前記ノイズ除去フラグ格納手段は、1フレーム分のノイズ除去フラグを格納するバンクを少なくとも2つ有するバンク構成のメモリを有し、一方のバンクにノイズ除去フラグを格納しながら他方のバンクからノイズ除去フラグの読み出しが可能であるように構成されていることを特徴とする請求項1乃至のいずれか1項に記載の画像処理装置。 The noise removal flag storage means includes a bank memory having at least two banks for storing noise removal flags for one frame, and stores noise removal flags in one bank while removing noise removal flags from the other bank. the image processing apparatus according to any one of claims 1 to 5, characterized in that the reading has been configured to be. 非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置としてコンピュータを機能させるために、当該コンピュータを、請求項1乃至のいずれか1項に記載の画像処理装置として機能させるためのプログラム。 The computer according to any one of claims 1 to 6 , in order to cause the computer to function as an image processing device that removes a noise component of decoded image data obtained by decoding an image stream generated by lossy encoding. A program for functioning as an image processing apparatus. 請求項に記載のプログラムを記憶した、コンピュータにより読み取り可能な記憶媒体。 A computer-readable storage medium storing the program according to claim 7 . 非可逆符号化により生成された画像ストリームを復号した復号画像データのノイズ成分を除去する画像処理装置の画像処理方法であって、
入力フレームの各ブロックの水平エッジの強度を測定する水平エッジ強度測定工程と、
前記入力フレームの各ブロックの垂直エッジの強度を測定する垂直エッジ強度測定工程と、
前記水平エッジ強度測定工程及び前記垂直エッジ強度測定工程で測定された水平及び垂直のエッジ強度を格納するエッジ強度格納工程と、
前記エッジ強度格納工程で格納した前記水平及び垂直のエッジ強度に基づいて、ノイズを除去すべきブロックを特定するためのノイズ除去フラグを算出するノイズ除去フラグ算出工程と、
前記ノイズ除去フラグ算出工程で算出されたノイズ除去フラグを格納するノイズ除去フラグ格納工程と、
入力した現フレームのエッジ強度と前記エッジ強度格納工程で格納された直前フレームのエッジ強度及び前記ノイズ除去フラグに基づいて、ノイズ除去を施すフィルタを制御する制御信号を出力するフィルタ制御工程と、
前記フィルタ制御工程で出力された前記制御信号に応じて前記現フレームに対するフィルタリング処理を行うフィルタ工程と
を有し、
前記フィルタ制御工程では、
前記水平エッジ強度測定工程と前記垂直エッジ強度測定工程で測定された現フレームのブロックのエッジ強度と、前記エッジ強度格納工程で格納された直前フレームの、前記現フレームのブロックに対応するブロックのエッジ強度との差分と、フィルタ強度の強度乗数との積に基づいてフィルタの強度を算出し、前記ノイズを除去すべきブロックに対する前記制御信号を出力する
ことを特徴とする画像処理装置の画像処理方法。
An image processing method of an image processing apparatus for removing a noise component of decoded image data obtained by decoding an image stream generated by lossy encoding,
A horizontal edge strength measurement process for measuring the strength of the horizontal edge of each block of the input frame;
A vertical edge strength measurement step for measuring the strength of the vertical edge of each block of the input frame;
An edge strength storing step for storing horizontal and vertical edge strengths measured in the horizontal edge strength measuring step and the vertical edge strength measuring step;
A noise removal flag calculation step for calculating a noise removal flag for identifying a block from which noise is to be removed based on the horizontal and vertical edge strengths stored in the edge strength storage step;
A noise removal flag storage step for storing the noise removal flag calculated in the noise removal flag calculation step;
A filter control step for outputting a control signal for controlling a filter for performing noise removal based on the input edge strength of the current frame, the edge strength of the immediately preceding frame stored in the edge strength storage step, and the noise removal flag;
Said have a filter step of performing filtering processing for the current frame in response to said control signal output by the filter control step,
In the filter control step,
The edge strength of the block of the current frame measured in the horizontal edge strength measurement step and the vertical edge strength measurement step, and the edge of the block corresponding to the block of the current frame in the immediately preceding frame stored in the edge strength storage step An image processing apparatus that calculates a filter strength based on a product of a difference from the strength and a strength multiplier of the filter strength and outputs the control signal for the block from which the noise is to be removed. Image processing method.
JP2009017124A 2009-01-28 2009-01-28 Image processing apparatus and method Expired - Fee Related JP5143033B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009017124A JP5143033B2 (en) 2009-01-28 2009-01-28 Image processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009017124A JP5143033B2 (en) 2009-01-28 2009-01-28 Image processing apparatus and method

Publications (3)

Publication Number Publication Date
JP2010177926A JP2010177926A (en) 2010-08-12
JP2010177926A5 JP2010177926A5 (en) 2012-03-08
JP5143033B2 true JP5143033B2 (en) 2013-02-13

Family

ID=42708454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009017124A Expired - Fee Related JP5143033B2 (en) 2009-01-28 2009-01-28 Image processing apparatus and method

Country Status (1)

Country Link
JP (1) JP5143033B2 (en)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH089370A (en) * 1994-06-22 1996-01-12 Sanyo Electric Co Ltd Image encoding method
JP4931215B2 (en) * 2007-01-24 2012-05-16 キヤノン株式会社 Image processing apparatus and method

Also Published As

Publication number Publication date
JP2010177926A (en) 2010-08-12

Similar Documents

Publication Publication Date Title
US8189946B2 (en) Image processing apparatus and method thereof for detecting and removing noise in decoded images
RU2461977C2 (en) Compression and decompression of images
JP5351038B2 (en) Image processing system for processing a combination of image data and depth data
US20100080472A1 (en) Image processing apparatus, moving image decoding apparatus, moving image encoding apparatus and method
WO2006118288A1 (en) Dynamic image encoding method, dynamic image decoding method, and device thereof
KR20160032088A (en) Method for intra prediction improvements for oblique modes in video coding
JP2008172813A (en) Filtering method, image coding apparatus, and image decoding apparatus
JP2006114979A (en) Image coding apparatus and method thereof
JP4931214B2 (en) Image processing apparatus and method
JP2009017502A (en) Image encoding apparatus and image decoding apparatus
JP2006074777A (en) Moving picture coding method and decoding method
JP4931215B2 (en) Image processing apparatus and method
JP2009152968A (en) Image processing device and method, learning device and method, program, and recording medium
JP5055078B2 (en) Image processing apparatus and method
JP2008301336A (en) Image processing device, image encoding device and image decoding device
JP5143033B2 (en) Image processing apparatus and method
JP4449430B2 (en) Image processing apparatus, image processing method, program, and recording medium
JPH11298898A (en) Block distortion reduction circuit
TW202038612A (en) Image encoding device, image encoding method, image decoding device, and image decoding method
US10015506B2 (en) Frequency reduction and restoration system and method in video and image compression
JP6332039B2 (en) Screen encoding device, screen decoding device, screen encoding transmission system
JP2007300557A (en) Image encoding device and image encoding method
JP2004140863A (en) Motion picture decoding apparatus
JP2006191287A (en) Image coding device, image coding method and image coding program
JP5256095B2 (en) Compressed image noise removal device and playback device

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120803

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121022

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121120

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151130

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5143033

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees