[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5181722B2 - Image processing method, image processing apparatus, and image processing program - Google Patents

Image processing method, image processing apparatus, and image processing program Download PDF

Info

Publication number
JP5181722B2
JP5181722B2 JP2008043040A JP2008043040A JP5181722B2 JP 5181722 B2 JP5181722 B2 JP 5181722B2 JP 2008043040 A JP2008043040 A JP 2008043040A JP 2008043040 A JP2008043040 A JP 2008043040A JP 5181722 B2 JP5181722 B2 JP 5181722B2
Authority
JP
Japan
Prior art keywords
color
gradation conversion
sample
conversion
color gradation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008043040A
Other languages
Japanese (ja)
Other versions
JP2009201027A (en
Inventor
暁彦 宇津木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008043040A priority Critical patent/JP5181722B2/en
Publication of JP2009201027A publication Critical patent/JP2009201027A/en
Application granted granted Critical
Publication of JP5181722B2 publication Critical patent/JP5181722B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は、RAW画像データに対して現像処理を施すことで得られた画像データに対して、ホワイトバランス調整を施す画像処理方法、画像処理装置及び画像処理プログラムに関する。   The present invention relates to an image processing method, an image processing apparatus, and an image processing program for performing white balance adjustment on image data obtained by performing development processing on RAW image data.

人間の視覚においては、異なる照明環境下であっても照明環境の効果を抑制して物体の色を識別する、所謂色順応という機能を有している。デジタルカメラにおいては、このような人間の視覚特性に対応するために、ホワイトバランス補正という機能を備えている。この機能は、撮影時の照明環境を自動的に設定、或いは推定した後、RAW画像データの各色成分の比率の調整計数(ホワイトバランス補正値)を決定し、この調整係数を用いた補正を行うことで照明環境の効果を抑制している。   Human vision has a so-called chromatic adaptation function that discriminates the color of an object by suppressing the effect of the illumination environment even under different illumination environments. Digital cameras have a function called white balance correction in order to cope with such human visual characteristics. This function automatically sets or estimates the illumination environment at the time of shooting, then determines the adjustment count (white balance correction value) of the ratio of each color component of the RAW image data, and performs correction using this adjustment coefficient. This suppresses the effects of the lighting environment.

例えば撮影時の照明環境の設定や推定が不適切のまま、ホワイトバランス補正が行われた画像データや、RAW画像データに対して現像処理が行われた画像データに対して、取得時の現像処理を考慮せずに色成分の調整を行うと、画像の色が不自然となりやすい。そこで、現像処理として実行される階調変換処理に対して逆の変換処理を画像データに施すことで、センサー出力と同じ状態の色成分をもつ画像を生成し、複雑な色順応モデルに基づいてホワイトバランス補正をやり直すことが可能な画像処理方法や画像処理装置が提案されている(特許文献1参照)。   For example, development processing at the time of acquisition is performed on image data that has been subjected to white balance correction or image data that has been subjected to development processing on RAW image data while the setting and estimation of the lighting environment at the time of shooting are inappropriate. If the color component is adjusted without considering the above, the color of the image tends to be unnatural. Therefore, an image having color components in the same state as the sensor output is generated by performing a reverse conversion process on the image data with respect to the gradation conversion process executed as the development process, and based on a complicated color adaptation model. An image processing method and an image processing apparatus that can redo white balance correction have been proposed (see Patent Document 1).

特許文献1に記載された発明では、ガンマ補正を行った後に色空間をRGB色空間からYCbCr色空間に変換し、Cb及びCrに所定の係数を乗算することによって彩度強調を行う階調変換処理が想定されている。また、階調変換処理に対する逆の変換処理として、彩度強調されたCbとCrとを所定の係数で割った後に、色空間をRBG色空間に変換し、階調変換とは逆の変換処理を行うことも想定されている。
特開2001−128191号公報
In the invention described in Patent Document 1, after performing gamma correction, the color space is converted from the RGB color space to the YCbCr color space, and tone conversion is performed by enhancing the saturation by multiplying Cb and Cr by a predetermined coefficient. Processing is assumed. Further, as a reverse conversion process to the gradation conversion process, the color space is converted into the RBG color space after dividing the saturation-enhanced Cb and Cr by a predetermined coefficient, and the reverse conversion process from the gradation conversion It is also assumed that
JP 2001-128191 A

しかしながら、通常のデジタルカメラにおいて取得された画像データに対してなされる階調変換処理においては、色空間を分割した複数の領域のそれぞれに対して、異なるパラメータに基づいて色変換を行う、輝度に応じて彩度を強調する、或いは彩度に対して非線形変換を適用する等、様々な処理を組み合わせている。このような複雑な階調変換に対して厳密な逆変換アルゴリズムを作成することは難しく、また、階調変換用のアルゴリズムはカメラの機種毎に異なることから、その作成には多大な開発コストが必要であり、また、仮に上述したアルゴリズムが作成できたとしても、その処理は複雑であり、多くの処理時間が必要になる。   However, in the gradation conversion processing performed on image data acquired by a normal digital camera, color conversion is performed based on different parameters for each of a plurality of regions obtained by dividing the color space. Accordingly, various processes such as emphasizing the saturation or applying a nonlinear transformation to the saturation are combined. It is difficult to create a strict inverse conversion algorithm for such complex gradation conversion, and the algorithm for gradation conversion differs depending on the camera model. Even if the above-described algorithm can be created, the processing is complicated and requires a lot of processing time.

本発明は、上述した問題を解決するために発明されたものであり、複雑で多様なカメラ内の色階調変換アルゴリズムに対応してその逆の階調変換処理を実現することにより、センサー出力とほぼ同じ状態の色成分を持つ画像を生成してホワイトバランスの調整を適切に行うことができるようにした画像処理方法、画像処理装置及び画像処理プログラムを提供することを目的とする。   The present invention has been invented in order to solve the above-described problems, and realizes a reverse gradation conversion process corresponding to a complex and diverse color gradation conversion algorithm in a camera, thereby realizing sensor output. It is an object of the present invention to provide an image processing method, an image processing apparatus, and an image processing program capable of generating an image having color components in substantially the same state as in the above and adjusting white balance appropriately.

本発明の画像処理方法は、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、を備え、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、前記階調変換後サンプル色群と前記色階調変換後サンプル色群との対応関係に基づいた色変換情報を生成する色変換情報生成工程と、前記階調変換情報から、前記階調変換処理と逆の変換処理となる逆階調変換処理で用いる逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、前記変換情報生成工程は、前記逆階調変換情報と前記色変換情報とを組み合わせることで、前記第1色階調変換情報を生成することを特徴とする。なお、現像処理用の色階調変換処理と実質的に等しい色階調変換処理とは、例えば現像処理用の色階調変換処理の処理結果とほぼ等しい処理結果が得られる色階調変換処理のことである。 In the image processing method of the present invention, the first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, is performed on the image data obtained by performing the development process on the original image data. One color gradation conversion step, a sample color group before color gradation conversion, and a color gradation conversion process substantially equivalent to the color gradation conversion process for the development processing for the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from the applied sample color group after color gradation conversion, and an image after the first color gradation conversion step A second color which is a conversion process opposite to the first color gradation conversion process, and a white balance adjustment process for adjusting the white balance correction at the time of the development process to the data, and the image data after the white balance adjustment process. comprising a second color gradation conversion step for performing gradation conversion processing, and The conversion information generating step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from a correspondence relationship with the color group, wherein the conversion information generation step performs a gradation conversion process using the gradation conversion information before the color gradation conversion; A gradation conversion sample generation step for generating the sample color group after gradation conversion by performing the processing on the sample color group, and correspondence between the sample color group after gradation conversion and the sample color group after color gradation conversion From the color conversion information generation step for generating color conversion information based on the relationship and the gradation conversion information, reverse gradation conversion information used in reverse gradation conversion processing that is the reverse conversion processing to the gradation conversion processing is generated. And the reverse gradation conversion information generation step. Wherein the conversion information generating step, combined with said color conversion information and the inverse gradation conversion information, and generates the first color gradation conversion information. Note that the color gradation conversion process that is substantially equal to the color gradation conversion process for development processing is, for example, a color gradation conversion process that provides a process result that is substantially equal to the result of the color gradation conversion process for development process. That is.

また、本発明の画像処理方法は、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、を備え、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、前記階調変換処理とは逆の変換処理となる逆階調変換処理に用いる逆階調変換情報を、前記階調変換情報に基づいて生成する逆階調変換情報生成工程と、前記階調変換後サンプル色群と前記色階調変換後サンプル群との対応関係から、色変換処理とは逆の変換処理となる逆色変換処理で用いる色変換用のテーブルデータを生成するテーブルデータ生成工程と、をさらに備え、前記変換情報生成処理は、前記色変換用のテーブルデータと前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成することを特徴とする。Further, the image processing method of the present invention performs a first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, on the image data obtained by developing the original image data. A first color gradation conversion step to be performed, a sample color group before color gradation conversion, and a color gradation conversion substantially equal to the color gradation conversion processing for the development processing for the sample group before color gradation conversion A conversion information generating step for generating first color gradation conversion information used in the first color gradation conversion step from the processed color gradation converted sample color group, and after the first color gradation conversion step A white balance adjustment process for adjusting white balance correction at the time of the development process to the image data of the image data, and a conversion process opposite to the first color gradation conversion process for the image data after the white balance adjustment process. A second color gradation conversion process for performing a two-color gradation conversion process; The conversion information generation step is derived from the achromatic sample color group obtained from the sample color group before the color gradation conversion and the sample color group after the color gradation conversion. A gradation conversion information generation step for generating gradation conversion information from a correspondence relationship with the sample color group, and the conversion information generation step performs a gradation conversion process using the gradation conversion information in the color gradation By performing the processing on the sample color group before conversion, a gradation conversion sample generation step for generating the sample color group after gradation conversion and an inverse gradation conversion process which is a conversion process opposite to the gradation conversion process are performed. The inverse gradation conversion information to be used is generated based on the inverse gradation conversion information generation step for generating based on the gradation conversion information, and the correspondence relationship between the sample color group after gradation conversion and the sample group after color gradation conversion, Inverse color conversion that is the reverse of color conversion A table data generation step for generating table data for color conversion used in processing, and the conversion information generation process combines the table data for color conversion and the reverse gradation conversion information, First color gradation conversion information is generated.

また、本発明の画像処理方法は、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、を備え、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記色階調変換前サンプル色群に対して、前記階調変換情報により階調変換処理を施す階調変換工程と、前記階調変換処理を行うことにより得られる前記階調変換後サンプル色群の各色成分を、前記色階調変換後サンプル色群の各色成分の線形和によって近似する逆色変換行列を生成する行列生成工程と、前記階調変換処理とは逆の変換処理となる逆階調変換処理を特定する逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、前記変換情報生成工程は、前記逆色変換行列と前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成することを特徴とする。Further, the image processing method of the present invention performs a first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, on the image data obtained by developing the original image data. A first color gradation conversion step to be performed, a sample color group before color gradation conversion, and a color gradation conversion substantially equal to the color gradation conversion processing for the development processing for the sample group before color gradation conversion A conversion information generating step for generating first color gradation conversion information used in the first color gradation conversion step from the processed color gradation converted sample color group, and after the first color gradation conversion step A white balance adjustment process for adjusting white balance correction at the time of the development process to the image data of the image data, and a conversion process opposite to the first color gradation conversion process for the image data after the white balance adjustment process. A second color gradation conversion process for performing a two-color gradation conversion process; The conversion information generation step is derived from the achromatic sample color group obtained from the sample color group before the color gradation conversion and the sample color group after the color gradation conversion. A gradation conversion information generation step for generating gradation conversion information from the corresponding relationship with the sample color group, and the conversion information generation step performs the gradation conversion on the sample color group before the color gradation conversion. A gradation conversion step for performing gradation conversion processing according to information, and each color component of the sample color group after gradation conversion obtained by performing the gradation conversion process, each color component of the sample color group after color gradation conversion A reverse tone conversion process for generating a reverse tone conversion information for specifying a reverse tone conversion process that is a conversion process opposite to the tone conversion process; A conversion information generation step, Serial conversion information generation step, the combination of said inverse gradation conversion information and the inverse color transformation matrix, and generates the first color gradation conversion information.

この場合、前記変換情報生成工程は、前記逆色変換行列の逆行列を生成する逆行列生成工程を、さらに備え、前記変換情報生成工程は、前記階調変換情報と前記逆色変換行列の逆行列とを第2色階調変換情報として生成することが好ましい。 In this case, the conversion information generation step further includes an inverse matrix generation step of generating an inverse matrix of the inverse color conversion matrix, and the conversion information generation step is an inverse of the gradation conversion information and the inverse color conversion matrix. It is preferable to generate a matrix as the second color gradation conversion information .

また、前記第2色階調変換処理は、前記現像処理用の色階調変換処理を用いることを特徴とする。Further, the second color gradation conversion process uses the color gradation conversion process for the development process.

また、前記第1色階調変換情報は、前記第1色階調変換処理が行われた画像データと前記現像処理用の色階調変換処理前の画像データとがほぼ等しい画像データとなるように、前記第1色階調変換処理を特定する情報からなり、前記変換情報生成工程は、前記第1色階調変換情報を生成する他に、前記第2色階調変換処理を特定する第2色階調変換情報を生成し、前記第2色階調変換工程は、前記第2色階調変換情報を用いて前記第2色階調変換処理を実行することを特徴とする。Further, the first color gradation conversion information is image data in which the image data subjected to the first color gradation conversion process and the image data before the color gradation conversion process for the development process are substantially equal. In addition, the conversion information generating step includes the step of specifying the second color gradation conversion process in addition to generating the first color gradation conversion information. Two-color gradation conversion information is generated, and the second color gradation conversion step executes the second color gradation conversion process using the second color gradation conversion information.

また、前記変換情報生成工程は、前記色階調変換前サンプル色群と前記色階調変換後サンプル色群との対応関係から、前記第1色階調変換処理で用いる色階調変換用のテーブルデータを前記第1色階調変換情報として生成することを特徴とする。Further, the conversion information generating step is for color gradation conversion used in the first color gradation conversion process based on the correspondence relationship between the sample color group before color gradation conversion and the sample color group after color gradation conversion. Table data is generated as the first color gradation conversion information.

また、前記変換情報生成工程は、前記色階調変換前サンプル色群を生成する変換前サンプル生成工程を備えていることを特徴とする。Further, the conversion information generation step includes a pre-conversion sample generation step for generating the pre-color gradation conversion sample color group.

また、前記変換情報生成工程は、前記色階調変換後サンプル色群を生成する変換後サンプル生成工程を備えており、前記変換後サンプル生成工程は、前記色階調変換前サンプル色群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施すことで前記色階調変換後サンプル色群を生成することを特徴とする。The conversion information generation step includes a post-conversion sample generation step for generating the sample color group after color gradation conversion, and the post-conversion sample generation step is performed on the sample color group before color gradation conversion. The sample color group after the color gradation conversion is generated by performing a color gradation conversion process substantially equal to the color gradation conversion process for the development process.

また、前記変換情報生成工程は、前記色階調変換前サンプル色群の色成分を、各画素の色成分として有する色階調変換前サンプル色画像を生成した後、該色階調変換前サンプル色画像に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を行うことで色階調変換後サンプル色画像を生成し、前記色階調変換後サンプル色画像の各画素の色成分を前記色階調変換後サンプル色群の各色成分として抽出することで、前記色階調変換後サンプル色群を生成することを特徴とする。The conversion information generating step generates a sample color image before color gradation conversion having a color component of the sample color group before color gradation conversion as a color component of each pixel, and then the sample before color gradation conversion. A color tone conversion sample color image is generated by performing a color gradation conversion process substantially the same as the color gradation conversion process for the development processing on the color image, and the color image converted sample color image The sample color group after color gradation conversion is generated by extracting the color component of each pixel as each color component of the sample color group after color gradation conversion.

本発明の画像処理装置は、撮像により取得された原画像データに、少なくともホワイトバランス補正処理と色階調変換処理とを含む現像処理を施すことにより鑑賞用の画像を生成する機能をさらに備え、前記現像処理に含まれる色階調変換処理を、上記記載の前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理として用いることを特徴とする。The image processing apparatus of the present invention further includes a function of generating an image for viewing by performing development processing including at least white balance correction processing and color gradation conversion processing on the original image data acquired by imaging, The color gradation conversion process included in the development process is used as a color gradation conversion process substantially equal to the color gradation conversion process for the development process described above.

また、本発明のプログラムは、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、前記階調変換後サンプル色群と前記色階調変換後サンプル色群との対応関係に基づいた色変換情報を生成する色変換情報生成工程と、前記階調変換情報から、前記階調変換処理と逆の変換処理となる逆階調変換処理で用いる逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに有し、前記変換情報生成工程は、前記逆階調変換情報と前記色変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能なものである。In addition, the program of the present invention performs a first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, on the image data obtained by developing the original image data. One color gradation conversion step, a sample color group before color gradation conversion, and a color gradation conversion process substantially equivalent to the color gradation conversion process for the development processing for the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from the applied sample color group after color gradation conversion, and an image after the first color gradation conversion step A second color which is a conversion process opposite to the first color gradation conversion process, and a white balance adjustment process for adjusting the white balance correction at the time of the development process to the data, and the image data after the white balance adjustment process. A second color gradation conversion step for performing gradation conversion processing The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from a correspondence relationship with the color group, wherein the conversion information generation step performs a gradation conversion process using the gradation conversion information before the color gradation conversion; A gradation conversion sample generation step for generating the sample color group after gradation conversion by performing the processing on the sample color group, and correspondence between the sample color group after gradation conversion and the sample color group after color gradation conversion From the color conversion information generation step for generating color conversion information based on the relationship and the gradation conversion information, reverse gradation conversion information used in reverse gradation conversion processing that is the reverse conversion processing to the gradation conversion processing is generated. Reverse gradation conversion information generation step And the conversion information generation step can cause a computer to generate the first color gradation conversion information by combining the inverse gradation conversion information and the color conversion information. Is.

また、本発明の画像処理プログラムは、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、前記階調変換処理とは逆の変換処理となる逆階調変換処理に用いる逆階調変換情報を、前記階調変換情報に基づいて生成する逆階調変換情報生成工程と、前記階調変換後サンプル色群と前記色階調変換後サンプル群との対応関係から、色変換処理とは逆の変換処理となる逆色変換処理で用いる色変換用のテーブルデータを生成するテーブルデータ生成工程と、をさらに有し、前記変換情報生成処理は、前記色変換用のテーブルデータと前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能なものである。The image processing program of the present invention performs a first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, on the image data obtained by performing the development process on the original image data. A first color gradation conversion step to be performed, a sample color group before color gradation conversion, and a color gradation conversion substantially equal to the color gradation conversion processing for the development processing for the sample group before color gradation conversion A conversion information generating step for generating first color gradation conversion information used in the first color gradation conversion step from the processed color gradation converted sample color group, and after the first color gradation conversion step A white balance adjustment process for adjusting white balance correction at the time of the development process to the image data of the image data, and a conversion process opposite to the first color gradation conversion process for the image data after the white balance adjustment process. Second color gradation conversion process for performing two-color gradation conversion processing And the conversion information generating step includes the achromatic sample color group obtained from the sample color group before color gradation conversion, and the achromatic sample color group among the sample color groups after color gradation conversion. A gradation conversion information generation step for generating gradation conversion information from a correspondence relationship with the sample color group derived from the color conversion process, wherein the conversion information generation step performs a gradation conversion process using the gradation conversion information in the color A gradation conversion sample generation step for generating the sample color group after gradation conversion by performing the processing on the sample color group before gradation conversion, and inverse gradation conversion that is a conversion process opposite to the gradation conversion process Inverse gradation conversion information generation step for generating reverse gradation conversion information used for processing based on the gradation conversion information, and correspondence relationship between the sample color group after gradation conversion and the sample group after color gradation conversion To the reverse color that is the reverse of the color conversion process. A table data generation step of generating table data for color conversion used in conversion processing, and the conversion information generation processing is performed by combining the table data for color conversion and the reverse gradation conversion information. The computer can be executed so as to generate the first color gradation conversion information.

また、本発明の画像処理プログラムは、原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、前記変換情報生成工程は、前記色階調変換前サンプル色群に対して、前記階調変換情報により階調変換処理を施す階調変換工程と、前記階調変換処理を行うことにより得られる前記階調変換後サンプル色群の各色成分を、前記色階調変換後サンプル色群の各色成分の線形和によって近似する逆色変換行列を生成する行列生成工程と、前記階調変換処理とは逆の変換処理となる逆階調変換処理を特定する逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、前記変換情報生成工程は、前記逆色変換行列と前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能なものである。The image processing program of the present invention performs a first color gradation conversion process, which is a conversion process opposite to the color gradation conversion process for the development process, on the image data obtained by performing the development process on the original image data. A first color gradation conversion step to be performed, a sample color group before color gradation conversion, and a color gradation conversion substantially equal to the color gradation conversion processing for the development processing for the sample group before color gradation conversion A conversion information generating step for generating first color gradation conversion information used in the first color gradation conversion step from the processed color gradation converted sample color group, and after the first color gradation conversion step A white balance adjustment process for adjusting white balance correction at the time of the development process to the image data of the image data, and a conversion process opposite to the first color gradation conversion process for the image data after the white balance adjustment process. Second color gradation conversion process for performing two-color gradation conversion processing And the conversion information generating step includes the achromatic sample color group obtained from the sample color group before color gradation conversion, and the achromatic sample color group among the sample color groups after color gradation conversion. A gradation conversion information generation step for generating gradation conversion information from the correspondence relationship with the sample color group derived from the conversion information generation step, the conversion information generation step with respect to the sample color group before color gradation conversion. A tone conversion process that performs tone conversion processing based on tone conversion information, and each color component of the sample color group after tone conversion obtained by performing the tone conversion processing is converted into the sample color group after color tone conversion. A matrix generation step for generating an inverse color conversion matrix approximated by a linear sum of each color component, and an inverse for generating reverse gradation conversion information for specifying an inverse gradation conversion process that is a conversion process opposite to the gradation conversion process. A gradation conversion information generation process The conversion information generation step can cause a computer to execute the first color gradation conversion information by combining the inverse color conversion matrix and the reverse gradation conversion information. is there.

本発明によれば、画像データに対して施された階調変換処理と近似的な逆階調変換処理を施すことで、階調変換処理が実行される前の画像データと実質的に等しい画像データを容易に生成することで、ホワイトバランス補正が適切でない画像データに対するホワイトバランス調整を容易に、また適切に行うことができる。   According to the present invention, an image that is substantially equal to the image data before the gradation conversion process is executed by performing the gradation conversion process applied to the image data and the approximate inverse gradation conversion process. By easily generating data, white balance adjustment for image data for which white balance correction is not appropriate can be easily and appropriately performed.

本発明の画像処理プログラムは、RAW画像データに対して現像処理を施し、また、RAW画像データ以外の画像データ(現像処理済みの画像データ)に対してホワイトバランス調整を施すことが可能なプログラムである。   The image processing program of the present invention is a program capable of performing development processing on RAW image data and performing white balance adjustment on image data other than RAW image data (image data that has been developed). is there.

[第1の実施形態]
以下、本発明を適用した画像処理プログラムの一実施例(第1の実施形態)について説明する。
[First Embodiment]
Hereinafter, an example (first embodiment) of an image processing program to which the present invention is applied will be described.

図1は、画像処理プログラムを用いてRAW画像データRIを現像処理するときの機能ブロック図を示す。上述した画像処理プログラム10は、ホワイトバランス補正部15、Bayer補間部16、色階調変換部17、ノイズ除去部18及び輪郭強調部19としての機能を備えている。以下、ノイズ除去部18及び輪郭強調部19については、周知であることから、ここでは、その詳細を省略する。なお、図1においては、画像処理プログラム10を示す箇所に対して、便宜上二点鎖線を用いて示している。   FIG. 1 is a functional block diagram when developing RAW image data RI using an image processing program. The image processing program 10 described above has functions as a white balance correction unit 15, a Bayer interpolation unit 16, a color gradation conversion unit 17, a noise removal unit 18, and a contour enhancement unit 19. Hereinafter, since the noise removing unit 18 and the contour emphasizing unit 19 are well known, the details thereof are omitted here. In FIG. 1, for the sake of convenience, a portion indicating the image processing program 10 is shown using a two-dot chain line.

ホワイトバランス補正部15は、入力されるRAW画像データRIにおけるホワイトバランスを補正する処理(ホワイトバランス補正処理)を実行する。なお、RAW画像データRIは、R色成分、G色成分、B色成分の各色成分が周知のベイヤー配列により配列されたカラーフィルタを介して入射された被写体光を撮像素子にて光電変換した後、デジタル化処理が施された後の画像データである。なお、撮像素子によって光電変換することによって得られるデータは、各色成分の光量、或いは輝度値のみを表すデータであることから、RAW画像データRIは、グレースケール値を示すデータとなる。また、RAW画像データRIには、カメラの機種情報、撮像条件、階調モードの情報、色モードの情報などの付帯情報(メタデータ)が付帯されていることから、ホワイトバランス補正部15は、RAW画像データRIから付帯情報を参照して、RAW画像データRIに対してホワイトバランス補正を施す。   The white balance correction unit 15 executes processing for correcting white balance in the input RAW image data RI (white balance correction processing). Note that the RAW image data RI is obtained by subjecting subject light incident through a color filter in which R, G, and B color components are arranged in a known Bayer array to photoelectric conversion by an image sensor. The image data after being digitized. Note that the data obtained by photoelectric conversion by the image sensor is data representing only the light amount or luminance value of each color component, and therefore the RAW image data RI is data indicating a gray scale value. Also, since the RAW image data RI is accompanied by additional information (metadata) such as camera model information, imaging conditions, gradation mode information, and color mode information, the white balance correction unit 15 With reference to the supplementary information from the RAW image data RI, white balance correction is performed on the RAW image data RI.

Bayer補間部16は、ホワイトバランス補正が施されたRAW画像データに対して補間処理(Bayer補間処理)を行う。上述したように、RAW画像データRIは、カラーフィルタを透過した後の、各色成分のグレースケール値を示すデータである。RAW画像データRIに付帯されている付帯情報には、カラーフィルタにおける各色成分の配列を示す配列情報も含まれていることから、Bayer補間部16は、付帯情報から配列情報を読み出して、欠陥画素に対するカラー情報を補間して、ホワイトバランス補正処理されたグレースケールの画像データをカラー画像データに変換する。   The Bayer interpolation unit 16 performs an interpolation process (Bayer interpolation process) on the RAW image data subjected to white balance correction. As described above, the RAW image data RI is data indicating the gray scale value of each color component after passing through the color filter. Since the incidental information attached to the RAW image data RI also includes arrangement information indicating the arrangement of each color component in the color filter, the Bayer interpolation unit 16 reads out the arrangement information from the incidental information to detect defective pixels. The color information with respect to is interpolated, and the grayscale image data subjected to the white balance correction processing is converted into color image data.

色階調変換部17は、カラー画像データに対して、階調変換処理、彩度強調処理などの色階調変換処理を実行する。階調変換処理は、RAW画像データRIに付帯された付帯情報から、階調モードの情報を読み出して、階調モードに合わせた色となるように、各画素のR色、G色、B色の各色成分の値(強さ)を調整する。彩度強調処理は、階調変換処理が施されたカラー画像データに対する彩度を強調する処理である。カラー画像データは、R成分、G成分及びB成分で示されることから、一旦、R成分、B成分及びG成分で示されるカラー画像データをY成分、Cb成分及びCr成分で示されるカラー画像データに変換する。この変換の後、各画素のCb成分及びCr成分に対して所定係数を乗算、又は乗算した後補正値を加算する。そして、Y成分、Cb成分及びCr成分で示されるカラー画像データを、再度、R成分、G成分、B成分で示されるカラー画像データに変換する。この色階調変換部17による処理は、例えば実際にデジタルカメラ内で施される色階調変換処理と実質的に等しい色階調変換処理となる。   The color gradation conversion unit 17 performs color gradation conversion processing such as gradation conversion processing and saturation enhancement processing on the color image data. In the gradation conversion process, the information on the gradation mode is read from the incidental information attached to the RAW image data RI, and the R color, the G color, and the B color of each pixel are set so as to obtain a color that matches the gradation mode. Adjust the value (strength) of each color component. The saturation enhancement process is a process for enhancing the saturation of the color image data subjected to the gradation conversion process. Since the color image data is indicated by the R component, the G component, and the B component, the color image data indicated by the R component, the B component, and the G component is temporarily converted into the color image data indicated by the Y component, the Cb component, and the Cr component. Convert to After this conversion, the Cb component and Cr component of each pixel are multiplied by a predetermined coefficient, or a correction value is added after multiplication. Then, the color image data indicated by the Y component, the Cb component, and the Cr component is converted again into the color image data indicated by the R component, the G component, and the B component. The processing by the color gradation conversion unit 17 is, for example, a color gradation conversion process that is substantially equal to the color gradation conversion process that is actually performed in the digital camera.

この色階調変換部17における処理が施された画像データは、ノイズ除去部18によりノイズ成分の除去処理(ノイズ除去処理)された後、輪郭強調部19によりコントラストが強調される処理(輪郭強調処理)が施される。その後、上述した現像処理が施された画像データPIは、任意の形式の画像データとして記録される。このように、上述した画像処理プログラム10を用いることにより、現像処理された画像データPIは、デジタルカメラ内で処理された画像データと、実質的に等しい階調と色成分を有していることになる。   The image data subjected to the processing in the color gradation conversion unit 17 is subjected to noise component removal processing (noise removal processing) by the noise removal unit 18 and then processing for enhancing the contrast by the contour enhancement unit 19 (contour enhancement). Processing). Thereafter, the image data PI subjected to the development processing described above is recorded as image data of an arbitrary format. As described above, by using the image processing program 10 described above, the developed image data PI has substantially the same gradation and color components as the image data processed in the digital camera. become.

次に、上述した画像処理プログラム10において、RAW画像データRI以外の画像データに対する機能を、図2を用いて説明する。なお、図2においては、図1に示す機能を省略して示してある。以下では、画像データPI1を、色階調変換処理前の画像データに戻すために実行される色階調変換処理を逆色階調変換処理と称し、後述するホワイトバランス調整処理が施された画像データに施される色階調変換処理を、逆逆色階調変換処理と称する。   Next, functions for image data other than the RAW image data RI in the above-described image processing program 10 will be described with reference to FIG. In FIG. 2, the functions shown in FIG. 1 are omitted. Hereinafter, the color gradation conversion process executed to restore the image data PI1 to the image data before the color gradation conversion process is referred to as an inverse color gradation conversion process, and an image that has been subjected to a white balance adjustment process described later. The color gradation conversion process applied to the data is referred to as reverse color gradation conversion process.

画像処理プログラム10は、現像処理済みの画像データPI1が入力されたときに、サンプル色群生成部21、サンプル色階調変換部22、逆色階調変換LUT生成部23、逆色階調変換部24、ホワイトバランス調整部25及び逆逆色階調変換部26の機能を実行することが可能となる。   When the developed image data PI1 is input, the image processing program 10 receives a sample color group generation unit 21, a sample color gradation conversion unit 22, an inverse color gradation conversion LUT generation unit 23, an inverse color gradation conversion. The functions of the unit 24, the white balance adjustment unit 25, and the reverse color gradation conversion unit 26 can be executed.

サンプル色群生成部21は、色階調変換前サンプル色群30を作成する。この色階調変換前サンプル色群30は、図1に示す色階調変換部17における処理が施される直前の画像データに対応するサンプル色をまとめたものである。サンプル色は、R成分、G成分、B成分の値で示されるものであり、この色階調変換前サンプル色群30は、R成分、G成分、B成分の値が取り得る範囲の中に満遍なく分布されるように作成される。例えば12ビットの画像データの場合には、各画素におけるR、G、B成分の値が取り得る範囲は、0〜4095の範囲となる。例えばR成分の値をi、G成分の値をj、B成分の値をkで示した場合、これらi,j,kを0〜255で変化させ、(i+j×256+k×256×256)個目のサンプルのRGB値を(i×16,j×16,k×16)とすることで、256×256×256個の色階調変換前サンプル色群30を作成する。   The sample color group generation unit 21 creates a sample color group 30 before color gradation conversion. The pre-color gradation conversion sample color group 30 is a collection of sample colors corresponding to image data immediately before the processing in the color gradation conversion unit 17 shown in FIG. The sample colors are indicated by the values of the R component, G component, and B component, and this sample color group 30 before color gradation conversion is within the range that the values of the R component, G component, and B component can take. Created to be evenly distributed. For example, in the case of 12-bit image data, the possible range of R, G, and B component values for each pixel is 0 to 4095. For example, when the value of the R component is indicated by i, the value of the G component is indicated by j, and the value of the B component is indicated by k, these i, j and k are changed from 0 to 255, and (i + j × 256 + k × 256 × 256) pieces By setting the RGB value of the eye sample to (i × 16, j × 16, k × 16), 256 × 256 × 256 pre-color gradation conversion sample color groups 30 are created.

サンプル色階調変換部22は、図1に示す色階調変換部17を利用して、色階調変換前サンプル色群30の階調及び色を変換する。まず、サンプル色階調変換部22は、色階調変換前サンプル色群30の各サンプル色の色成分を各画素の色成分とするサンプル画像(変換前サンプル画像)を作成する。次に、画像データに付帯される付帯情報33からカメラ機種、階調モード、及び色モードの情報を読み出し、これら情報に合わせて色階調変換処理が実行されるように、図1に示す色階調変換部17を設定する。この設定の後、変換前サンプル画像に対して、色階調変換部17による色階調変換処理を実行する。この色階調変換処理により得られるサンプル画像(変換後サンプル画像)の各画素の色成分を用いることで、色階調変換後サンプル色群34が生成される。   The sample color gradation conversion unit 22 converts the gradation and color of the sample color group 30 before color gradation conversion using the color gradation conversion unit 17 shown in FIG. First, the sample color gradation conversion unit 22 creates a sample image (pre-conversion sample image) in which the color component of each sample color of the sample color group 30 before color gradation conversion is the color component of each pixel. Next, the information shown in FIG. 1 is read so that information on the camera model, gradation mode, and color mode is read from the incidental information 33 attached to the image data, and color gradation conversion processing is executed in accordance with the information. The gradation conversion unit 17 is set. After this setting, the color gradation conversion processing by the color gradation conversion unit 17 is performed on the pre-conversion sample image. By using the color component of each pixel of the sample image (converted sample image) obtained by this color gradation conversion processing, the sample color group 34 after color gradation conversion is generated.

逆色階調変換LUT生成部23は、逆色階調変換ルックアップテーブル(LUT)35を生成する。まず、色階調変換後サンプル色群34の各サンプル色のRGB値を引数として3次元配列要素を指定し、そのサンプル色の生成元の色階調変換前サンプル色群30のRGB値を、指定された配列要素に代入していく。複数の色階調変換処理後のサンプル色が同じ配列要素に対応している場合には、それらの生成元の色階調変換前サンプル色の平均値を配列要素に代入する。この処理を全てのサンプル色に対して行った後、3次元配列の配列要素のうち、一度も値を代入されなかった要素に対しては、周囲の配列要素の値を代入する。   The inverse color gradation conversion LUT generation unit 23 generates an inverse color gradation conversion lookup table (LUT) 35. First, the RGB value of each sample color of the sample color group 34 after color gradation conversion is designated as an argument, and the RGB value of the sample color group 30 before color gradation conversion from which the sample color is generated is Assigns to the specified array element. When a plurality of sample colors after color gradation conversion processing correspond to the same array element, the average value of the sample colors before color gradation conversion of the generation source is substituted into the array element. After this processing is performed for all sample colors, the values of surrounding array elements are assigned to the elements that have never been assigned a value among the array elements of the three-dimensional array.

この周囲の配列要素の値を代入する方法としては、公知の三次元補間方法が挙げられる。この三次元補間方法としては、例えば、値を代入されない配列要素(対象配列要素)に隣接する配列要素(第一隣接配列要素)の平均値を対象配列要素に代入する。また、第一隣接配列要素がない場合には、第一隣接要素に隣接する配列要素を用いて、その平均値を対象配列要素に代入していく。この用にして、全ての配列要素に対して処理を行うことで得られた三次元配列を逆色階調変換LUT35として出力する。なお、色階調変換部17によって12ビットのRGB画像データを色変換して、8ビットのRGB画像データに変換することから、この逆色階調変換LUTにおいて、配列要素を指定する引数(r1、g1、b1)が取り得る範囲は、それぞれ0〜255であり、各配列要素となる(r2、g2、b2)の取り得る範囲は、それぞれ0〜4095となる。   As a method for substituting the values of the surrounding array elements, a known three-dimensional interpolation method can be cited. As this three-dimensional interpolation method, for example, an average value of array elements (first adjacent array elements) adjacent to an array element (target array element) to which no value is assigned is assigned to the target array element. If there is no first adjacent array element, the array element adjacent to the first adjacent element is used and the average value is substituted into the target array element. For this purpose, a three-dimensional array obtained by performing processing on all the array elements is output as an inverse color gradation conversion LUT 35. Note that the color gradation conversion unit 17 performs color conversion on 12-bit RGB image data to convert it into 8-bit RGB image data. Therefore, in this inverse color gradation conversion LUT, an argument (r1) for specifying an array element , G1, b1) can each take a range of 0-255, and each array element (r2, g2, b2) can take a range of 0-4095.

逆色階調変換部24は、入力された画像データPI1に対して、逆色階調変換LUT35を用いた逆色階調変換処理を実行する。この逆色階調変換処理は、画像データの各画素のRGB値を引数として逆色階調変換LUT35の配列要素を指定し、その配列要素に代入されているRGB値を、該当する画素のRGB値とすることで、入力された画像データの各画素のRGB値を変換していく。   The reverse color gradation conversion unit 24 performs reverse color gradation conversion processing using the reverse color gradation conversion LUT 35 on the input image data PI1. In this inverse color gradation conversion process, the array element of the inverse color gradation conversion LUT 35 is specified using the RGB value of each pixel of the image data as an argument, and the RGB value assigned to the array element is converted into the RGB value of the corresponding pixel. By setting the value, the RGB value of each pixel of the input image data is converted.

ホワイトバランス調整部25は、逆色階調変換処理が施された画像データに対してホワイトバランス調整を行う。このWB調整としては、ホワイトバランス調整係数(Kr、Kg、Kb)36を、画像データの各画素のRGB値にそれぞれ乗算していく。なお、このホワイトバランス調整係数(Kr、Kg、Kb)36は、入力された画像データをモニタ等に表示し、ユーザがモニタに表示される画像を見ながら設定することが挙げられる。例えば画像が赤っぽく見える場合には、Krを1より小さくし、Kbを1より大きくする。また、Krを1より小さく設定すると、画像が青っぽくなることから、このような場合には、Krを1にし、Kg、Kbの値を1より大きくすればよい。   The white balance adjustment unit 25 performs white balance adjustment on the image data that has been subjected to the reverse color gradation conversion process. As the WB adjustment, a white balance adjustment coefficient (Kr, Kg, Kb) 36 is multiplied by the RGB value of each pixel of the image data. The white balance adjustment coefficient (Kr, Kg, Kb) 36 may be set by displaying the input image data on a monitor or the like and viewing the image displayed on the monitor by the user. For example, if the image looks reddish, Kr is made smaller than 1 and Kb is made larger than 1. If Kr is set smaller than 1, the image becomes bluish. In such a case, Kr may be set to 1 and the values of Kg and Kb may be set larger than 1.

逆逆色階調変換部26は、WB調整された画像データに対して色階調変換処理を実行する。なお、逆逆色階調変換部26における色階調変換処理は、図1に示す色階調変換部17を利用することで実行される。これにより、調整済みの画像データPI1’が取得される。   The reverse color gradation conversion unit 26 performs a color gradation conversion process on the WB-adjusted image data. Note that the color gradation conversion process in the reverse color gradation conversion unit 26 is executed by using the color gradation conversion unit 17 shown in FIG. Thereby, adjusted image data PI1 'is acquired.

次に、本実施形態におけるWB調整の流れについて、図3のフローチャートを用いて説明する。ステップS101は、入力された画像データを読み込む処理である。また、ステップS102は、入力された画像データがRAW画像データRIであるか否かを判定する処理である。この判定で、入力された画像データがRAW画像データRIである場合(ステップS102の判定がYesとなる場合)には、ステップS103に進む。一方、入力された画像データがRAW画像データRIでない場合(ステップS102の判定がNoとなる場合)には、ステップS111に進む。   Next, the flow of WB adjustment in this embodiment will be described using the flowchart of FIG. Step S101 is processing for reading input image data. Step S102 is processing for determining whether or not the input image data is RAW image data RI. If the input image data is RAW image data RI in this determination (when the determination in step S102 is Yes), the process proceeds to step S103. On the other hand, when the input image data is not the RAW image data RI (when the determination in step S102 is No), the process proceeds to step S111.

ステップS103は、RAW現像処理である。このRAW現像処理の内容としては、上述したホワイトバランス補正処理、Bayer補間処理、色階調変換処理、ノイズ除去処理及び輪郭強調処理である。ここでは、その詳細は省略する。このRAW現像処理を実行することで得られる画像データPIは、所定形式の画像データとして記録される。なお、記録される画像データの形式としては、周知のJpeg形式やbitmap形式などが挙げられる。   Step S103 is RAW development processing. The contents of the RAW development processing are the above-described white balance correction processing, Bayer interpolation processing, color gradation conversion processing, noise removal processing, and edge enhancement processing. The details are omitted here. Image data PI obtained by executing this RAW development processing is recorded as image data in a predetermined format. Note that the format of image data to be recorded includes a well-known Jpeg format, bitmap format, and the like.

ステップS111は、入力された画像データがRAW画像データRI以外の画像データPI1となる場合に実行される処理である。このステップS111は、サンプル色群生成部21において色階調変換前サンプル色群30を作成する処理である。サンプル色群生成部21は、生成された色階調変換前サンプル色群30を、サンプル色階調変換部22、及び逆色階調変換LUT生成部23に出力する。   Step S111 is a process executed when the input image data is image data PI1 other than the RAW image data RI. This step S111 is a process of creating the sample color group 30 before color gradation conversion in the sample color group generation unit 21. The sample color group generation unit 21 outputs the generated sample color group 30 before color gradation conversion to the sample color gradation conversion unit 22 and the inverse color gradation conversion LUT generation unit 23.

ステップS112は、色階調変換後サンプル色群34を作成する処理である。このステップS112の処理は、サンプル色階調変換部22において実行される。色階調変換前サンプル色群30が入力されると、サンプル色階調変換部22は、画像データPIの付帯情報33を参照して、カメラ機種、階調モード、色モード等の情報を読み出す。読み出したカメラ機種、階調モード及び色モードの情報を用いた色階調変換処理が実行されるように、色階調変換部17の設定を行う。   Step S112 is processing for creating the sample color group 34 after color gradation conversion. The processing in step S112 is executed in the sample color gradation conversion unit 22. When the sample color group 30 before color gradation conversion is input, the sample color gradation conversion unit 22 reads information such as the camera model, gradation mode, and color mode with reference to the auxiliary information 33 of the image data PI. . The color gradation conversion unit 17 is set so that color gradation conversion processing using the read camera model, gradation mode, and color mode information is executed.

これと同時に、サンプル色階調変換部22は、上述した変換前サンプル画像を作成する。そして、作成された変換前サンプル画像に対して色階調変換部17における色階調変換処理を施すことで、変換後サンプル画像を生成する。サンプル色階調変換部22は、生成された変換後サンプル画像を用いて、該変換後サンプル画像における各画素の色成分を、各サンプル色の色成分とする色階調変換後サンプル色群34を生成する。なお、生成された色階調変換後サンプル色群34は、逆色階調変換LUT生成部23に出力される。   At the same time, the sample color gradation conversion unit 22 creates the pre-conversion sample image described above. Then, a color tone conversion process in the color tone conversion unit 17 is performed on the created pre-conversion sample image, thereby generating a post-conversion sample image. The sample color gradation conversion unit 22 uses the generated converted sample image and uses the color component of each pixel in the sample image after conversion as the color component of each sample color after the color gradation conversion sample color group 34. Is generated. Note that the generated sample color group 34 after color gradation conversion is output to the inverse color gradation conversion LUT generation unit 23.

ステップS113は、逆色階調変換LUT35を生成する処理である。この処理は、逆色階調変換LUT生成部23にて実行される。上述したように、この逆色階調変換LUT生成部23には、色階調変換前サンプル色群30、色階調変換後サンプル色群34がそれぞれ入力されることから、これらサンプル色群を用いて、逆色階調変換LUT35を作成する。この逆色階調変換LUT35は、逆色階調変換部24に出力される。   Step S113 is processing for generating the inverse color gradation conversion LUT35. This process is executed by the inverse color gradation conversion LUT generation unit 23. As described above, since the sample color group 30 before color gradation conversion and the sample color group 34 after color gradation conversion are respectively input to the inverse color gradation conversion LUT generation unit 23, The inverse color gradation conversion LUT 35 is created by using this. The reverse color gradation conversion LUT 35 is output to the reverse color gradation conversion unit 24.

ステップS114は、逆色階調変換処理である。この処理は、逆色階調変換部24にて実行される。逆色階調変換処理部24は、逆色階調変換LUT35を用いて、画像データPI1の各画素の色成分を変換し、例えば、色階調変換処理前の画像データに実質的に等しい画像データを生成する。なお、このステップS114の処理が実行された画像データは、ホワイトバランス調整部25に出力される。   Step S114 is a reverse color gradation conversion process. This process is executed by the reverse color gradation conversion unit 24. The inverse color gradation conversion processing unit 24 converts the color component of each pixel of the image data PI1 using the inverse color gradation conversion LUT 35, for example, an image substantially equal to the image data before the color gradation conversion process. Generate data. Note that the image data that has undergone the process of step S114 is output to the white balance adjustment unit 25.

ステップS115は、ホワイトバランス調整処理である。この処理は、ホワイトバランス調整部25にて実行される。ホワイトバランス調整部25は、画像データの各画素のRGB値に対して、ホワイトバランス調整係数Kr、Kg、Kbをそれぞれ乗算することで、ホワイトバランス調整処理が実行される。   Step S115 is white balance adjustment processing. This process is executed by the white balance adjustment unit 25. The white balance adjustment unit 25 performs white balance adjustment processing by multiplying the RGB value of each pixel of the image data by the white balance adjustment coefficients Kr, Kg, and Kb, respectively.

ステップS116は、逆逆色階調変換処理である。この処理は、逆逆色階調変換部26にて実行される。なお、WB調整が施された画像データが逆逆色階調変換部26に入力されると、逆逆色階調変換部26は、色階調変換部17を利用した色階調変換処理を実行する。なお、色階調変換前サンプル色群30から色階調変換後サンプル色群34を生成する際の設定をそのままにしておけば、このステップS116の処理を実行する際に、色階調変換処理の設定を再度実行する手間を省くことができる。これにより、入力された画像データPI1は、ホワイトバランス調整が施された画像データPI1’となる。   Step S116 is reverse color gradation conversion processing. This process is executed by the reverse color tone conversion unit 26. When the image data subjected to the WB adjustment is input to the reverse color gradation conversion unit 26, the reverse color gradation conversion unit 26 performs color gradation conversion processing using the color gradation conversion unit 17. Run. If the setting for generating the sample color group 34 after color gradation conversion from the sample color group 30 before color gradation conversion is left as it is, the color gradation conversion process is performed when executing the process of step S116. It is possible to save the trouble of executing the setting again. As a result, the input image data PI1 becomes image data PI1 'subjected to white balance adjustment.

例えば撮像等により、取得された画像データPI1のホワイトバランスを適切に調整するためには、その画像に対してカメラ内で実行された色階調変換処理の効果を元に戻した上で調整を行う必要がある。また、画像処理プログラム10においては、対象とする機種のカメラにおいて実行される色階調変換処理と実質的に等しい色階調変換処理を実行することが可能である。本発明においては、画像処理プログラム10において実行される色階調変換処理を利用し、色階調変換前サンプル色群30と色階調変換後サンプル色群34との対応関係に基づいて逆色階調変換LUT35を生成している。ここで利用される色階調変換処理は、カメラ内で実行される色階調変換処理と実質的に等しいことから、生成された逆色階調変換LUT35を用いれば、カメラ内で実行された色階調変換処理の効果を元に戻すことができる。この状態でホワイトバランス調整を行うことで、自然な色の調整を行うことが可能となる。   For example, in order to appropriately adjust the white balance of the acquired image data PI1 by imaging or the like, the adjustment is made after returning the effect of the color gradation conversion processing executed in the camera to the image. There is a need to do. In the image processing program 10, it is possible to execute a color gradation conversion process that is substantially the same as the color gradation conversion process executed in the target model camera. In the present invention, the color gradation conversion process executed in the image processing program 10 is used, and the inverse color is based on the correspondence between the sample color group 30 before color gradation conversion and the sample color group 34 after color gradation conversion. A tone conversion LUT 35 is generated. The color gradation conversion process used here is substantially the same as the color gradation conversion process executed in the camera. Therefore, if the generated reverse color gradation conversion LUT 35 is used, it is executed in the camera. The effect of the color gradation conversion process can be restored. By performing white balance adjustment in this state, natural color adjustment can be performed.

また、この第1実施形態においては、色階調変換処理の具体的なアルゴリズムがわからなくとも実施することが可能であることから、色階調変換処理において使用されるアルゴリズムが複雑である場合や、機種毎に違う場合であっても、容易に実施することができる。   Further, in the first embodiment, since it is possible to carry out without knowing a specific algorithm of the color gradation conversion process, the algorithm used in the color gradation conversion process is complicated or Even if it is different for each model, it can be easily implemented.

[第2の実施形態]
本発明における第2の実施形態について説明する。なお、第2の実施形態の画像処理プログラムにおいては、逆階調変換LUTを生成する機能の代わりに、逆階調変換LUT及び逆色変換LUTを作成する機能を備えている。以下では、第1の実施形態と同一の機能については、第1の実施形態と同一の符号を付して説明する。
[Second Embodiment]
A second embodiment of the present invention will be described. Note that the image processing program of the second embodiment has a function of creating a reverse gradation conversion LUT and a reverse color conversion LUT instead of the function of generating the reverse gradation conversion LUT. Hereinafter, the same functions as those of the first embodiment will be described with the same reference numerals as those of the first embodiment.

図4は、画像処理プログラム40の機能のうち、RAW画像データRI以外の画像データに対して実行される機能について説明する機能ブロック図である。なお、RAW画像データRIに対して実行される機能は、図1に示す機能と同一であることから、以下では、その機能については省略する。   FIG. 4 is a functional block diagram illustrating functions executed on image data other than the RAW image data RI among the functions of the image processing program 40. Note that the function executed on the RAW image data RI is the same as the function shown in FIG.

画像処理プログラム40は、サンプル色群生成部21、サンプル色階調変換部22、階調情報生成部41、色変換情報生成部42、逆色変換部43、逆階調変換部44、ホワイトバランス調整部25及び逆逆色階調変換部26としての機能を有している。なお、サンプル色群生成部21、サンプル色階調変換部22、ホワイトバランス調整部25、逆逆色階調変換部26は、第1の実施形態と同一であることから、ここでは、これらに対する説明は省略する。   The image processing program 40 includes a sample color group generation unit 21, a sample color gradation conversion unit 22, a gradation information generation unit 41, a color conversion information generation unit 42, an inverse color conversion unit 43, an inverse gradation conversion unit 44, and a white balance. Functions as the adjustment unit 25 and the reverse color gradation conversion unit 26 are provided. The sample color group generation unit 21, the sample color gradation conversion unit 22, the white balance adjustment unit 25, and the reverse color gradation conversion unit 26 are the same as those in the first embodiment. Description is omitted.

階調変換情報生成部41は、サンプル色群生成部21により生成された色階調変換前サンプル色群30と、サンプル色階調変換部22にて生成された色階調変換後サンプル色群34とを用いて、逆階調変換LUT45を生成する。まず、色階調変換前サンプル色群30から無彩色となるサンプル色を抽出し、色階調変換後サンプル色群34から無彩色となるサンプル色に由来するサンプル色を抽出する。これら抽出されたサンプル色の対応関係に基づいて逆階調変換LUT45を生成する。なお、この逆階調変換LUT45は、一次元配列のLUTであり、配列要素を指定する1つの引数が取り得る範囲はそれぞれ0〜255である。一方、各配列要素には、0〜4095の範囲で1つの数値が保持される。   The gradation conversion information generation unit 41 includes a sample color group 30 before color gradation conversion generated by the sample color group generation unit 21 and a sample color group after color gradation conversion generated by the sample color gradation conversion unit 22. 34 is used to generate an inverse tone conversion LUT 45. First, a sample color that is an achromatic color is extracted from the sample color group 30 before color gradation conversion, and a sample color derived from the sample color that is an achromatic color is extracted from the sample color group 34 after color gradation conversion. An inverse tone conversion LUT 45 is generated based on the correspondence relationship between the extracted sample colors. Note that the inverse tone conversion LUT 45 is a one-dimensional array LUT, and the range that one argument for specifying an array element can take is 0 to 255, respectively. On the other hand, each array element holds one numerical value in the range of 0 to 4095.

詳細には、色階調変換後サンプル色群34の各サンプル色のRGBの何れかの値を引数として配列要素を指定し、サンプル色のRGBの生成元となる色階調変換前サンプル色群30におけるサンプル色のいずれかの値を、指定された配列要素に代入する。なお、複数の色階調変換後サンプル色群34のサンプル色が同じ配列要素に対応する場合は、それら生成元の色階調変換前サンプル色群30のサンプル色の平均値を配列要素に代入すればよい。   More specifically, an array element is designated by using any RGB value of each sample color of the sample color group 34 after color gradation conversion as an argument, and the sample color group before color gradation conversion that is the generation source of RGB of the sample color Assign any value of the sample color at 30 to the specified array element. If the sample colors of the plurality of sample color groups 34 after color gradation conversion correspond to the same array element, the average value of the sample colors of the sample color group 30 before color gradation conversion of the generation source is assigned to the array element. do it.

この処理を全てのサンプル色に対して行い、1次元配列の配列要素のうち、値を代入されなかった要素に対しては、周囲の配列要素の値を代入する。この方法としては、公知の一次元補間方法を用いることができる。この一次元補間方法の一例としては、対象配列要素の第一隣接配列要素の中に値を代入された配列要素が例えば16個以ある場合には、それらの平均値を対象配列要素に代入し、それ以外の場合には第二隣接配列要素までの範囲に対して同様の処理を実行し、値を代入された配列要素が16個以上見つかるまで、範囲を拡大する。そして全ての配列要素に対して処理を行うことで得られる一次元配列が逆階調変換LUT45として生成される。   This process is performed for all the sample colors, and the values of the surrounding array elements are assigned to the elements that have not been assigned a value among the array elements of the one-dimensional array. As this method, a known one-dimensional interpolation method can be used. As an example of this one-dimensional interpolation method, if there are, for example, 16 or more array elements to which a value is assigned in the first adjacent array element of the target array element, the average value thereof is assigned to the target array element. In other cases, the same processing is executed for the range up to the second adjacent array element, and the range is expanded until 16 or more array elements assigned values are found. A one-dimensional array obtained by performing processing on all the array elements is generated as the inverse gradation conversion LUT 45.

また、この階調変換情報生成部41は、逆階調変換LUT45の他に、階調変換LUT46を生成する。この階調変換LUT46の生成方法としては、逆階調変換LUT45を生成する処理で、色階調変換前サンプル色群30と、色階調変換後サンプル色群34とを逆にした処理を行えばよい。階調変換情報生成部41は、色階調変換前サンプル色群30に対して階調変換LUT46を用いた階調変換を施すことで、階調変換後サンプル色群47を生成する。   Further, the gradation conversion information generation unit 41 generates a gradation conversion LUT 46 in addition to the inverse gradation conversion LUT 45. As a method for generating the gradation conversion LUT 46, a process for generating the inverse gradation conversion LUT 45 is performed by inverting the sample color group 30 before color gradation conversion and the sample color group 34 after color gradation conversion. Just do it. The gradation conversion information generation unit 41 performs gradation conversion using the gradation conversion LUT 46 on the sample color group 30 before color gradation conversion, thereby generating a sample color group 47 after gradation conversion.

色変換情報生成部42は、階調変換後サンプル色群47と、色階調変換後サンプル色群34とを用いて逆色変換LUT48を生成する。なお、この色逆変換LUT48の生成方法は、第1の実施形態における逆色階調変換LUT35の生成方法と同じであるので、ここでは、その詳細は省略する。   The color conversion information generation unit 42 generates the inverse color conversion LUT 48 using the sample color group 47 after gradation conversion and the sample color group 34 after color gradation conversion. Note that the method for generating the color reverse conversion LUT 48 is the same as the method for generating the reverse color gradation conversion LUT 35 in the first embodiment, and therefore the details thereof are omitted here.

逆色変換部43は、逆色変換LUT48を用いて、入力された画像データPI2に対して逆色変換処理を実行する。逆階調変換部44は、逆階調変換LUT45を用いた逆階調変換処理を、逆色変換処理が施された画像データに対して施す。なお、ここで示す逆色変換処理は、RAW現像処理の際に行われる色座標系の変換処理(色変換処理)とは、逆となる色変換処理を示している。   The reverse color conversion unit 43 uses the reverse color conversion LUT 48 to perform reverse color conversion processing on the input image data PI2. The reverse gradation conversion unit 44 performs reverse gradation conversion processing using the reverse gradation conversion LUT 45 on the image data that has been subjected to reverse color conversion processing. The reverse color conversion process shown here is a color conversion process that is the reverse of the color coordinate system conversion process (color conversion process) performed during the RAW development process.

次に、第2の実施形態におけるホワイトバランス調整の手順について、図5に示すフローチャートを用いて説明する。なお、このフローチャートにおいては、入力された画像データがRAW画像データRIとなる場合については、省略してある。   Next, the procedure of white balance adjustment in the second embodiment will be described using the flowchart shown in FIG. In this flowchart, the case where the input image data is RAW image data RI is omitted.

ステップS201は、入力された画像データPI2を読み込む処理である。   Step S201 is a process of reading the input image data PI2.

ステップS202は、色階調変換前サンプル色群30を生成する処理である。このステップS202の処理は、第1の実施形態におけるステップS111の処理と同一の処理内容であることから、ここでは、その詳細は省略する。なお、このステップS202の処理によって生成された色階調変換前サンプル色群30は、階調変換情報生成部41に出力される。   Step S202 is processing for generating the sample color group 30 before color gradation conversion. Since the processing in step S202 has the same processing contents as the processing in step S111 in the first embodiment, the details thereof are omitted here. The sample color group 30 before color gradation conversion generated by the process of step S202 is output to the gradation conversion information generation unit 41.

ステップS203は、色階調変換後サンプル色群34を生成する処理である。なお、このステップS203の処理は、第1の実施形態におけるステップS112の処理と同一の処理内容であることから、ここでは、その詳細は省略する。なお、このステップS202の処理によって生成された色階調変換後サンプル色群34は、階調変換情報生成部41及び色変換情報生成部42に出力される。   Step S203 is processing for generating the sample color group 34 after color gradation conversion. Note that the processing in step S203 has the same processing contents as the processing in step S112 in the first embodiment, and therefore details thereof are omitted here. The sample color group 34 after color gradation conversion generated by the process of step S202 is output to the gradation conversion information generation unit 41 and the color conversion information generation unit 42.

ステップS204は、逆階調変換LUT45及び階調変換LUT46を生成する処理である。このステップS204の処理は、階調変換情報生成部41で実行される。上述したように、色階調変換前サンプル色群30、色階調変換後サンプル色群34は、それぞれ階調変換情報生成部41に入力されることから、これらサンプル色群を用いて逆階調変換LUT45、及び階調変換LUT46を生成する。なお、生成された逆階調変換LUT45は、逆階調変換部44に出力される。   Step S204 is processing for generating the inverse gradation conversion LUT 45 and the gradation conversion LUT 46. The process of step S204 is executed by the gradation conversion information generation unit 41. As described above, the sample color group 30 before color gradation conversion and the sample color group 34 after color gradation conversion are respectively input to the gradation conversion information generation unit 41. A tone conversion LUT 45 and a tone conversion LUT 46 are generated. The generated reverse gradation conversion LUT 45 is output to the reverse gradation conversion unit 44.

ステップS205は、階調変換後サンプル色群47を生成する処理である。このステップS205の処理も、階調変換情報生成部41にて実行される。ステップS204の処理において、階調変換LUT46が生成されているので、階調変換情報生成部41は、色階調変換前サンプル色群30に対して階調変換LUT46を用いた階調変換処理を実行し、階調変換後サンプル色群47を生成する。この階調変換後サンプル色群47は、色変換情報生成部42に出力される。   Step S205 is processing for generating the sample color group 47 after gradation conversion. The processing of step S205 is also executed by the gradation conversion information generation unit 41. Since the gradation conversion LUT 46 is generated in the process of step S204, the gradation conversion information generation unit 41 performs gradation conversion processing using the gradation conversion LUT 46 on the sample color group 30 before color gradation conversion. This is executed to generate a sample color group 47 after gradation conversion. The sample color group 47 after gradation conversion is output to the color conversion information generation unit 42.

ステップS206は、逆色変換LUT48を生成する処理である。上述したように、色変換情報生成部42には、色階調変換後サンプル色群34、階調変換後サンプル色群47がそれぞれ入力されることから、色変換情報生成部42は、これらサンプル色群を用いて逆色変換LUT48を生成する。生成された逆色変換LUT48は、逆色変換部43に出力される。   Step S206 is processing to generate the inverse color conversion LUT48. As described above, since the sample color group 34 after color gradation conversion and the sample color group 47 after gradation conversion are respectively input to the color conversion information generation unit 42, the color conversion information generation unit 42 An inverse color conversion LUT 48 is generated using the color group. The generated reverse color conversion LUT 48 is output to the reverse color conversion unit 43.

ステップS207は、逆色変換処理である。このステップS208の処理は、逆色変換部43にて実行される。この逆色変換部43には、逆色変換LUT48が入力されることから、画像データに対して逆色変換LUT48を用いた逆色変換処理を実行する。   Step S207 is a reverse color conversion process. The process of step S208 is executed by the reverse color conversion unit 43. Since the reverse color conversion LUT 48 is input to the reverse color conversion unit 43, reverse color conversion processing using the reverse color conversion LUT 48 is executed on the image data.

ステップS208は、逆階調変換処理である。このステップS208の処理は、逆階調変換部44にて実行される。逆階調変換部44には逆階調変換LUT45が入力されることから、逆階調変換部44は、逆色変換処理が施された画像データに対して逆階調変換LUT45を用いた逆階調変換処理を実行する。   Step S208 is an inverse gradation conversion process. The process of step S208 is executed by the inverse gradation conversion unit 44. Since the inverse gradation conversion LUT 45 is input to the inverse gradation conversion unit 44, the inverse gradation conversion unit 44 uses the inverse gradation conversion LUT 45 for the image data that has been subjected to the inverse color conversion processing. A gradation conversion process is executed.

ステップS209は、ホワイトバランス調整を行う処理である。なお、このステップS209の処理は、第1の実施形態におけるステップS115の処理と同一の処理内容であることから、ここでは、その詳細を省略する。   Step S209 is processing for white balance adjustment. Note that the processing in step S209 has the same processing contents as the processing in step S115 in the first embodiment, and therefore the details thereof are omitted here.

ステップS210は、逆逆色階調変換を行う処理である。なお、このステップS210の処理は、第1の実施形態におけるステップS116の処理と同一の処理内容であることから、ここでは、その詳細を省略する。また、このステップS210の処理においては、RAW現像処理における色階調変換処理(図1の色階調変換部17における処理)を利用した色階調変換処理が実行される。これにより、ホワイトバランス調整された画像データPI2’が取得される。   Step S210 is processing for performing reverse color gradation conversion. Note that the processing in step S210 has the same processing contents as the processing in step S116 in the first embodiment, and therefore the details thereof are omitted here. In the process of step S210, a color gradation conversion process using the color gradation conversion process in the RAW development process (the process in the color gradation conversion unit 17 in FIG. 1) is executed. As a result, image data PI <b> 2 ′ adjusted for white balance is acquired.

この第2の実施形態の場合、第1の実施形態と同様の効果を得ることができる。また、この他に、逆色変換処理と逆色階調変換処理とを分離することによって、逆色変換LUTは、色階調変換前の画像データを生成するLUTとなる。つまり、この逆色変換LUTを用いた変換前後の階調特性が等しくなることから、LUTの各要素の値の起伏を第1の実施形態に比べて緩やかにすることができる。例えば3次元LUTを生成する際には、欠落した箇所を周囲の値で平均した値としており、周囲の値の起伏が小さい場合には、これら周囲の値を平均した値における誤差が小さくなり、より精度の高い逆色変換を行うことができる。   In the case of the second embodiment, the same effect as that of the first embodiment can be obtained. In addition, by separating the reverse color conversion process and the reverse color gradation conversion process, the reverse color conversion LUT becomes an LUT that generates image data before color gradation conversion. That is, since the gradation characteristics before and after conversion using the inverse color conversion LUT are equal, the undulation of the values of each element of the LUT can be made gentler than in the first embodiment. For example, when generating a three-dimensional LUT, the missing portion is averaged by the surrounding values, and when the undulation of the surrounding values is small, the error in the value obtained by averaging these surrounding values becomes small, More accurate reverse color conversion can be performed.

[第3の実施形態]
以下、図6を用いて、第3の実施形態について説明する。なお、第1の実施形態、第2の実施形態と同一の機能を有する箇所については、同一の符号を付して説明する。この第3の実施形態においては、LUTなどのテーブルデータを用いて逆色変換処理を行わずに、行列を用いて逆色変換処理を実行する点で異なる。また、ホワイトバランス調整後の画像データに対して、階調変換情報生成部41にて生成された階調変換LUT46を用いた階調変換処理を階調変換部57にて実行した後、逆色変換処理で使用する行列の逆行列を用いた逆逆色変換処理を逆逆色変換部58にて実行する点についても異なる。
[Third Embodiment]
Hereinafter, the third embodiment will be described with reference to FIG. In addition, about the location which has the same function as 1st Embodiment and 2nd Embodiment, the same code | symbol is attached | subjected and demonstrated. The third embodiment is different in that the reverse color conversion process is performed using a matrix without performing the reverse color conversion process using table data such as an LUT. In addition, after the tone conversion process using the tone conversion LUT 46 generated by the tone conversion information generation unit 41 is performed on the image data after white balance adjustment by the tone conversion unit 57, the reverse color The difference is that the reverse color conversion process using the reverse matrix of the matrix used in the conversion process is executed by the reverse color conversion unit 58.

以下では、第3の実施形態の画像処理プログラム50における色変換情報生成部52の機能について説明する。まず、色変換情報生成部52において逆色変換近似行列を生成する方法について説明する。例えば階調変換後サンプル色群47のi個目のサンプル色をSi=(RSi,GSi,BSi)、色階調変換後サンプル色群34のi個目のサンプル色をUi=(RUi,GUi,BUi)とする。ここで、Tは転置記号であり、Si及びUiをそれぞれ横1×縦3の行列として定義している。そして、Mk1+Mk2+Mk3=1(k=1,2,3)の制約条件の下に、(1)式におけるEを最小化する3行3列の色変換行列Mを算出する。なお、Mk1+Mk2+Mk3=1(k=1,2,3)の制約条件は、無彩色を色変換した場合に、は必ず無彩色になるという制約である。この制約条件は、通常の色階調変換処理や彩度強調処理を満たすべき条件なので、その逆色変換を生成する場合にも、その制約条件が守られることが望ましい。 Hereinafter, functions of the color conversion information generation unit 52 in the image processing program 50 of the third embodiment will be described. First, a method for generating an inverse color conversion approximation matrix in the color conversion information generation unit 52 will be described. For example, the i-th sample color of the sample color group 47 after gradation conversion is Si = (RSi, GSi, BSi) T , and the i-th sample color of the sample color group 34 after color gradation conversion is Ui = (RUi, GUi, BUi) T. Here, T is a transposition symbol, and Si and Ui are defined as a matrix of horizontal 1 × vertical 3 respectively. Then, under the constraint condition of M k1 + M k2 + M k3 = 1 (k = 1, 2, 3), a 3 × 3 color conversion matrix M that minimizes E in Equation (1) is calculated. The constraint condition of M k1 + M k2 + M k3 = 1 (k = 1, 2, 3) is a constraint that an achromatic color always becomes an achromatic color when the color is converted. This constraint condition is a condition that should satisfy a normal color gradation conversion process and saturation enhancement process. Therefore, it is desirable that the constraint condition be observed even when the inverse color conversion is generated.

Figure 0005181722

数式1に示すMUiは、色階調変換後サンプル色群34のi番目のサンプル色を色変換行列Mで色変換した値である。そして、Eは、行列Mによって色階調変換後のサンプル色を色変換した結果が階調変換後のサンプルに対してどれだけ誤差を持つかを表し、Eが小さいほど良い近似をしていることになる。
Figure 0005181722

MUi shown in Equation 1 is a value obtained by color-converting the i-th sample color of the sample color group 34 after color gradation conversion by the color conversion matrix M. E represents how much the result of color conversion of the sample color after color gradation conversion by the matrix M has an error with respect to the sample after gradation conversion, and the smaller E is, the better the approximation is. It will be.

このEを最小化する3行3列の色変換行列Mの算出は、周知のラグランジェの未定乗数法を用いることで算出される。この算出された色変換行列Mを、逆色変換近似行列59とする。この逆色変換近似行列59を求めた後、この行列Mの逆行列M−1を算出し、逆逆色変換近似行列60とする。なお、生成される逆逆色変換近似行列60は、逆逆色変換部58にて用いられる。 The calculation of the 3 × 3 color conversion matrix M that minimizes E is calculated by using a well-known Lagrange's undetermined multiplier method. The calculated color conversion matrix M is referred to as an inverse color conversion approximation matrix 59. After obtaining the inverse color conversion approximation matrix 59, the inverse matrix M −1 of this matrix M is calculated to be the inverse inverse color conversion approximation matrix 60. The generated inverse inverse color conversion approximation matrix 60 is used by the inverse inverse color conversion unit 58.

以下、第3の実施形態における処理の流れについて、図7のフローチャートに基づいて説明する。なお、ステップS301〜ステップS305における処理は、第2の実施形態におけるステップS201〜S205の処理と同一であるので、ここでは、その詳細については省略する。   Hereinafter, the flow of processing in the third embodiment will be described based on the flowchart of FIG. In addition, since the process in step S301-step S305 is the same as the process of step S201-S205 in 2nd Embodiment, it abbreviate | omits about the detail here.

ステップS306は、逆色変換近似行列59、及び逆逆色変換近似行列60を生成する処理である。このステップS306における処理は、色変換情報生成部42にて実行される。色変換情報生成部42には、階調変換後サンプル色群47及び色階調変換後サンプル色群34が入力されている。色変換情報生成部42は、階調変換後サンプル色群47のi個目のサンプル色をSi=(RSi,GSi,BSi)T、色階調変換後サンプル色群34のi個目のサンプル色をUi=(RUi,GUi,BUi)Tとして抽出し、これら抽出されたサンプル色が、上述した数式1を満足するような行列Mを逆色変換近似行列59として求める。また、逆色変換近似行列59を求めた後、この行列の逆数行列を逆逆色変換近似行列60として算出する。   Step S306 is processing for generating the inverse color conversion approximation matrix 59 and the inverse color conversion approximation matrix 60. The process in step S306 is executed by the color conversion information generation unit 42. The color conversion information generation unit 42 receives the sample color group 47 after gradation conversion and the sample color group 34 after color gradation conversion. The color conversion information generation unit 42 sets Si = (RSi, GSi, BSi) T as the i-th sample color of the sample color group 47 after gradation conversion, and the i-th sample of the sample color group 34 after color gradation conversion. A color is extracted as Ui = (RUi, GUi, BUi) T, and a matrix M in which these extracted sample colors satisfy Expression 1 described above is obtained as an inverse color conversion approximation matrix 59. Further, after obtaining the inverse color conversion approximation matrix 59, the inverse matrix of this matrix is calculated as the inverse color conversion approximation matrix 60.

ステップS307は、逆色変換処理である。このステップS306の処理は、逆色変換部43にて実行される。この逆色変換部43には、逆色変換近似行列59が入力されるので、逆色変換部43は、逆色変換近似行列59を用いて、入力された画像データに対する逆色変換処理を実行する。なお、ステップS308、ステップS309の処理は、第2の実施形態におけるステップS208、ステップS209と同一の処理であるので、ここではその詳細については省略する。   Step S307 is a reverse color conversion process. The process of step S306 is executed by the reverse color conversion unit 43. Since the inverse color conversion approximation matrix 59 is input to the inverse color conversion unit 43, the inverse color conversion unit 43 executes an inverse color conversion process on the input image data using the inverse color conversion approximation matrix 59. To do. Note that the processing in step S308 and step S309 is the same as that in step S208 and step S209 in the second embodiment, and therefore details thereof are omitted here.

ステップS310は、階調変換処理である。このステップS310の処理は、階調変換部57にて実行される。階調変換部57には、階調変換情報生成部41によって生成された階調変換LUT46が入力されるので、階調変換部57は、階調変換LUT46を用いて、入力された画像データに対する階調変換処理を実行する。   Step S310 is a gradation conversion process. The processing in step S310 is executed by the gradation conversion unit 57. Since the gradation conversion LUT 46 generated by the gradation conversion information generation unit 41 is input to the gradation conversion unit 57, the gradation conversion unit 57 uses the gradation conversion LUT 46 to process the input image data. A gradation conversion process is executed.

ステップS311は、逆逆色変換処理である。このステップS311の処理は、逆逆色変換部58において実行される。逆逆色変換部58には逆逆色変換近似行列60が入力されることから、逆逆色変換部58は、逆逆色変換近似行列60を用いて、逆逆色階調変換処理が実行された画像データに対して逆逆色変換処理を実行する。これにより、画像データPI3に対してホワイトバランス調整が施された画像データPI3’が取得される。   Step S311 is reverse color conversion processing. The process of step S311 is executed in the reverse color conversion unit 58. Since the inverse inverse color conversion approximation matrix 60 is input to the inverse inverse color conversion unit 58, the inverse inverse color conversion unit 58 uses the inverse inverse color conversion approximation matrix 60 to execute the inverse inverse color gradation conversion process. Reverse color conversion processing is executed on the processed image data. Thereby, image data PI3 'obtained by performing white balance adjustment on the image data PI3 is acquired.

第3の実施形態においては、第1の実施形態と同様の効果を有している。また、第3の実施形態においては、三次元LUTの使用を避け、逆色変換近似行列59と逆階調変換LUT45のみによって逆色階調変換処理を実行していることから、三次元LUTを用いる場合のメモリ容量を削減できる他に、三次元LUTを作成する処理時間を削減することができる。また、逆色階調変換処理が近似的に行われているので、ホワイトバランス調整後に色階調変換の状態を元に戻す処理において、RAW画像データRIを処理するのに使用される色階調変換部を利用することを避け、近似的な逆色階調変換処理に対して厳密に逆の色階調変換処理を行っている。そのため、ホワイトバランス調整時の調整係数を1にした場合には入力画像と補整後画像の色が異なるということはない。   The third embodiment has the same effect as the first embodiment. In the third embodiment, the use of the three-dimensional LUT is avoided, and the inverse color gradation conversion process is executed only by the inverse color conversion approximation matrix 59 and the inverse gradation conversion LUT 45. In addition to reducing the memory capacity when used, the processing time for creating a three-dimensional LUT can be reduced. In addition, since the inverse color gradation conversion process is performed approximately, the color gradation used to process the RAW image data RI in the process of restoring the color gradation conversion state after white balance adjustment. The use of the conversion unit is avoided, and the color gradation conversion process strictly opposite to the approximate reverse color gradation conversion process is performed. For this reason, when the adjustment coefficient at the time of white balance adjustment is set to 1, the color of the input image and the image after correction are not different.

本発明の第1〜第3の実施形態においては、色階調変換前サンプル色群、色階調変換後サンプル色群のそれぞれを生成する実施形態としているが、これらサンプル色群のいずれか一方は、予め生成されているものであってもよい。この場合、カメラの機種、階調モード、色モードに合わせて複数のサンプル色群を予め生成しておく必要がある。   In the first to third embodiments of the present invention, each of the sample color group before color gradation conversion and the sample color group after color gradation conversion is generated, but either one of these sample color groups is used. May be generated in advance. In this case, it is necessary to generate a plurality of sample color groups in advance according to the camera model, gradation mode, and color mode.

本発明の他の実施形態としては、色階調変換前サンプル色群の生成の際に、画素値の間隔を等間隔で生成しているが、それを階調変換処理や色階調変換処理を行った場合、サンプルの分布が高輝度部に偏ることになる。これを解消するために、例えばsRGBガンマなどの適当なガンマの逆ガンマを予め指定しておき、画素値の間隔を等間隔で生成したサンプル色群に対して逆階調変換を施したものを、色階調変換前サンプル色群として生成するようにしてもよい。   In another embodiment of the present invention, when generating the sample color group before color gradation conversion, the pixel value intervals are generated at equal intervals. When the above is performed, the distribution of the samples is biased toward the high luminance part. In order to solve this problem, for example, an inverse gamma of an appropriate gamma such as sRGB gamma is designated in advance, and a sample color group generated at equal intervals between pixel values is subjected to inverse gradation conversion. Alternatively, it may be generated as a sample color group before color gradation conversion.

また、第3の実施形態においては、サンプル色群生成部が生成するサンプル色群の個数については、言及していないが、生成する色変換の自由度が限定的であることから、サンプル数を多くしてもあまり効果が得られない。階調変換LUTを生成する際の無彩色のサンプル色は、多いことが望ましいが、有彩色のサンプル色の個数は、少なくても良く、例えば、256個の1/512ぐらいの個数で間引くことも可能である。 In the third embodiment, the number of sample color groups generated by the sample color group generation unit is not mentioned, but since the degree of freedom of color conversion to be generated is limited, the number of samples is set. Even if it increases, the effect is not obtained so much. Sample color achromatic when generating the gradation conversion LUT is desirably large number of sample colors of chromatic color may be less, for example, thinned out by the number of about 256 3 1/512 It is also possible.

本実施形態では、RAW画像データを現像処理する機能の他に、色階調変換処理などの画像処理が施された後の画像データに対するホワイトバランス調整を行う機能を有する画像処理プログラムについて説明しているが、これに限定する必要はなく、RAW画像データを現像処理する機能を有している必要はない。   In the present embodiment, an image processing program having a function of performing white balance adjustment on image data after being subjected to image processing such as color gradation conversion processing in addition to a function of developing RAW image data will be described. However, the present invention is not limited to this, and it is not necessary to have a function of developing RAW image data.

本発明では、色階調変換処理などの画像処理が施された後の画像データに対するホワイトバランス調整を行う画像処理プログラム、及び画像処理方法について説明しているが、本発明の画像処理プログラムや画像処理方法は、パーソナルコンピュータ(PC)、カメラ、或いは現像処理装置で実行させることも可能である。つまり、この画像処理プログラムをPC、カメラ、或いは現像装置にて実行させることで、これら機器を画像処理装置として使用することができる。なお、この場合、画像処理プログラムは、予め上述した機器に設けられたメモリやストレージに記憶させておく、または、PCや現像処理装置にて読み取ることができるCDなどの光学ディスクに記憶させておけばよい。   In the present invention, an image processing program and an image processing method for performing white balance adjustment on image data after image processing such as color gradation conversion processing has been described. The processing method can be executed by a personal computer (PC), a camera, or a development processing apparatus. That is, by executing this image processing program on a PC, a camera, or a developing device, these devices can be used as an image processing device. In this case, the image processing program can be stored in advance in a memory or storage provided in the above-described apparatus, or can be stored in an optical disk such as a CD that can be read by a PC or a development processing apparatus. That's fine.

RAW現像処理を行う際の構成を示す機能ブロック図である。It is a functional block diagram which shows the structure at the time of performing RAW image development processing. 第1の実施形態において、画像データに対してホワイトバランス調整を行う場合の機能ブロック図である。FIG. 6 is a functional block diagram when white balance adjustment is performed on image data in the first embodiment. 第1の実施形態において、ホワイトバランス調整を行う処理の流れを示すフローチャートである。6 is a flowchart illustrating a flow of processing for performing white balance adjustment in the first embodiment. 第2の実施形態において、画像データに対してホワイトバランス調整を行う場合の機能ブロック図である。FIG. 10 is a functional block diagram when white balance adjustment is performed on image data in the second embodiment. 第2の実施形態において、ホワイトバランス調整を行う処理の流れを示すフローチャートである。10 is a flowchart illustrating a flow of processing for performing white balance adjustment in the second embodiment. 第3の実施形態において、画像データに対してホワイトバランス調整を行う場合の機能ブロック図である。FIG. 10 is a functional block diagram when white balance adjustment is performed on image data in the third embodiment. 第3の実施形態において、ホワイトバランス調整を行う処理の流れを示すフローチャートである。12 is a flowchart illustrating a flow of processing for performing white balance adjustment in the third embodiment.

符号の説明Explanation of symbols

10…画像処理プログラム、17…色階調変換部、21…サンプル色群生成部、22…サンプル色階調変換部、23…逆色階調変換LUT生成部、24…逆色階調変換部、25…ホワイトバランス調整部、26…逆逆色階調変換部、30…色階調変換前サンプル色群、34…色階調変換後サンプル色群、35…逆色階調変換LUT、41…階調変換情報生成部、42,52…色変換情報生成部、43…逆色変換部、44…逆階調変換部、45…逆階調変換LUT、46…階調変換LUT、47…階調変換後サンプル色群、48…逆色変換LUT、57…階調変換部、58…逆逆色変換部、59…逆色変換近似行列、60…逆逆色変換近似行列   DESCRIPTION OF SYMBOLS 10 ... Image processing program, 17 ... Color gradation conversion part, 21 ... Sample color group generation part, 22 ... Sample color gradation conversion part, 23 ... Reverse color gradation conversion LUT generation part, 24 ... Reverse color gradation conversion part 25 ... White balance adjustment unit, 26 ... Reverse color gradation conversion unit, 30 ... Sample color group before color gradation conversion, 34 ... Sample color group after color gradation conversion, 35 ... Reverse color gradation conversion LUT, 41 ... gradation conversion information generation unit, 42, 52 ... color conversion information generation unit, 43 ... reverse color conversion unit, 44 ... reverse gradation conversion unit, 45 ... reverse gradation conversion LUT, 46 ... gradation conversion LUT, 47 ... Sample color group after gradation conversion, 48... Inverse color conversion LUT, 57... Gradation conversion unit, 58 .. inverse color conversion unit, 59 .. inverse color conversion approximation matrix, 60.

Claims (14)

原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、
を備え、
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、
前記変換情報生成工程は、
前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、
前記階調変換後サンプル色群と前記色階調変換後サンプル色群との対応関係に基づいた色変換情報を生成する色変換情報生成工程と、
前記階調変換情報から、前記階調変換処理と逆の変換処理となる逆階調変換処理で用いる逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、
前記変換情報生成工程は、前記逆階調変換情報と前記色変換情報とを組み合わせることで、前記第1色階調変換情報を生成する
ことを特徴とする画像処理方法。
A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
A second color gradation conversion step for subjecting the image data after the white balance adjustment step to a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process;
With
The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
The conversion information generation step includes
A gradation conversion sample generation step of generating the sample color group after gradation conversion by performing gradation conversion processing using the gradation conversion information on the sample color group before color gradation conversion;
A color conversion information generation step for generating color conversion information based on a correspondence relationship between the sample color group after gradation conversion and the sample color group after color gradation conversion;
A reverse gradation conversion information generation step of generating reverse gradation conversion information used in reverse gradation conversion processing that is reverse conversion processing to the gradation conversion processing from the gradation conversion information,
The conversion information generation step generates the first color gradation conversion information by combining the inverse gradation conversion information and the color conversion information.
An image processing method.
原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、  Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、  A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、  A second color gradation conversion step for subjecting the image data after the white balance adjustment step to a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process;
を備え、  With
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、  The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
前記変換情報生成工程は、  The conversion information generation step includes
前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、  A gradation conversion sample generation step of generating the sample color group after gradation conversion by performing gradation conversion processing using the gradation conversion information on the sample color group before color gradation conversion;
前記階調変換処理とは逆の変換処理となる逆階調変換処理に用いる逆階調変換情報を、前記階調変換情報に基づいて生成する逆階調変換情報生成工程と、  An inverse gradation conversion information generating step for generating, based on the gradation conversion information, inverse gradation conversion information used for an inverse gradation conversion process which is a conversion process opposite to the gradation conversion process;
前記階調変換後サンプル色群と前記色階調変換後サンプル群との対応関係から、色変換処理とは逆の変換処理となる逆色変換処理で用いる色変換用のテーブルデータを生成するテーブルデータ生成工程と、をさらに備え、  A table for generating table data for color conversion used in the reverse color conversion process that is the reverse of the color conversion process, based on the correspondence between the sample color group after the gradation conversion and the sample group after the color gradation conversion A data generation process,
前記変換情報生成処理は、前記色変換用のテーブルデータと前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成することを特徴とする画像処理方法。  The image processing method according to claim 1, wherein the conversion information generation processing generates the first color gradation conversion information by combining the table data for color conversion and the reverse gradation conversion information.
原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、  Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、  A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程と、  A second color gradation conversion step for subjecting the image data after the white balance adjustment step to a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process;
を備え、  With
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、  The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
前記変換情報生成工程は、  The conversion information generation step includes
前記色階調変換前サンプル色群に対して、前記階調変換情報により階調変換処理を施す階調変換工程と、A gradation conversion step of performing gradation conversion processing on the sample color group before color gradation conversion according to the gradation conversion information;
前記階調変換処理を行うことにより得られる前記階調変換後サンプル色群の各色成分を、前記色階調変換後サンプル色群の各色成分の線形和によって近似する逆色変換行列を生成する行列生成工程と、  A matrix that generates an inverse color conversion matrix that approximates each color component of the sample color group after gradation conversion obtained by performing the gradation conversion process by a linear sum of each color component of the sample color group after color gradation conversion Generation process;
前記階調変換処理とは逆の変換処理となる逆階調変換処理を特定する逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、  A reverse gradation conversion information generating step for generating reverse gradation conversion information for specifying reverse gradation conversion processing that is reverse conversion processing to the gradation conversion processing;
前記変換情報生成工程は、前記逆色変換行列と前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成することを特徴とする画像処理方法。  The image processing method characterized in that the conversion information generation step generates the first color gradation conversion information by combining the inverse color conversion matrix and the inverse gradation conversion information.
請求項3に記載の画像処理方法において、The image processing method according to claim 3.
前記変換情報生成工程は、前記逆色変換行列の逆行列を生成する逆行列生成工程を、さらに備え、The conversion information generation step further includes an inverse matrix generation step of generating an inverse matrix of the inverse color conversion matrix,
前記変換情報生成工程は、前記階調変換情報と前記逆色変換行列の逆行列とを第2色階調変換情報として生成することを特徴とする画像処置方法。  In the conversion information generating step, the gradation conversion information and an inverse matrix of the inverse color conversion matrix are generated as second color gradation conversion information.
請求項1から請求項4のいずれか1項に記載の画像処理方法において、The image processing method according to any one of claims 1 to 4,
前記第2色階調変換処理は、前記現像処理用の色階調変換処理を用いることを特徴とする画像処理方法。The image processing method according to claim 2, wherein the second color gradation conversion process uses the color gradation conversion process for the development process.
請求項1から請求項5のいずれか1項に記載の画像処理方法において、The image processing method according to any one of claims 1 to 5,
前記第1色階調変換情報は、前記第1色階調変換処理が行われた画像データと前記現像処理用の色階調変換処理前の画像データとがほぼ等しい画像データとなるように、前記第1色階調変換処理を特定する情報からなり、The first color gradation conversion information is image data in which the image data subjected to the first color gradation conversion process and the image data before the color gradation conversion process for development processing are substantially equal. Comprising information specifying the first color gradation conversion processing,
前記変換情報生成工程は、前記第1色階調変換情報を生成する他に、前記第2色階調変換処理を特定する第2色階調変換情報を生成し、  In addition to generating the first color gradation conversion information, the conversion information generation step generates second color gradation conversion information for specifying the second color gradation conversion processing,
前記第2色階調変換工程は、前記第2色階調変換情報を用いて前記第2色階調変換処理を実行することを特徴とする画像処理方法。  In the second color gradation conversion step, the second color gradation conversion process is executed using the second color gradation conversion information.
請求項1から請求項6のいずれか1項に記載の画像処理方法において、The image processing method according to any one of claims 1 to 6,
前記変換情報生成工程は、前記色階調変換前サンプル色群と前記色階調変換後サンプル色群との対応関係から、前記第1色階調変換処理で用いる色階調変換用のテーブルデータを前記第1色階調変換情報として生成することを特徴とする画像処理方法。In the conversion information generating step, table data for color gradation conversion used in the first color gradation conversion processing is obtained from the correspondence relationship between the sample color group before color gradation conversion and the sample color group after color gradation conversion. Is generated as the first color gradation conversion information.
請求項1から請求項7のいずれか1項に記載の画像処理方法において、The image processing method according to any one of claims 1 to 7,
前記変換情報生成工程は、前記色階調変換前サンプル色群を生成する変換前サンプル生成工程を備えていることを特徴とする画像処理方法。The image processing method according to claim 1, wherein the conversion information generation step includes a pre-conversion sample generation step for generating the pre-color gradation conversion sample color group.
請求項1から請求項8のいずれか1項に記載の画像処理方法において、In the image processing method of any one of Claims 1-8,
前記変換情報生成工程は、前記色階調変換後サンプル色群を生成する変換後サンプル生成工程を備えており、The conversion information generation step includes a post-conversion sample generation step for generating the sample color group after the color gradation conversion,
前記変換後サンプル生成工程は、前記色階調変換前サンプル色群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施すことで前記色階調変換後サンプル色群を生成することを特徴とする画像処理方法。  The post-conversion sample generation step performs post-color gradation conversion by performing a color gradation conversion process substantially equal to the color gradation conversion process for the development process on the sample color group before the color gradation conversion. An image processing method characterized by generating a sample color group.
請求項1から請求項9のいずれか1項に記載の画像処理方法において、The image processing method according to any one of claims 1 to 9,
前記変換情報生成工程は、前記色階調変換前サンプル色群の色成分を、各画素の色成分として有する色階調変換前サンプル色画像を生成した後、該色階調変換前サンプル色画像に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を行うことで色階調変換後サンプル色画像を生成し、The conversion information generation step generates a sample color image before color gradation conversion having a color component of the sample color group before color gradation conversion as a color component of each pixel, and then the sample color image before color gradation conversion. To generate a sample color image after color gradation conversion by performing a color gradation conversion process substantially equivalent to the color gradation conversion process for the development process,
前記色階調変換後サンプル色画像の各画素の色成分を前記色階調変換後サンプル色群の各色成分として抽出することで、前記色階調変換後サンプル色群を生成することを特徴とする画像処理方法。  Extracting the color component of each pixel of the sample color image after color gradation conversion as each color component of the sample color group after color gradation conversion, thereby generating the sample color group after color gradation conversion; Image processing method.
請求項1から請求項3のいずれか1つに記載の画像処理方法を実施する機能を備えた画像処理装置において、In the image processing apparatus provided with the function to implement the image processing method according to any one of claims 1 to 3,
撮像により取得された原画像データに、少なくともホワイトバランス補正処理と色階調変換処理とを含む現像処理を施すことにより鑑賞用の画像を生成する機能をさらに備え、  A function of generating an image for viewing by performing development processing including at least white balance correction processing and color gradation conversion processing on the original image data acquired by imaging,
前記現像処理に含まれる色階調変換処理を、請求項1から請求項3のいずれか1つに記載の前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理として用いることを特徴とする画像処理装置。  The color gradation conversion process included in the development process is used as a color gradation conversion process that is substantially equal to the color gradation conversion process for the development process according to any one of claims 1 to 3. An image processing apparatus.
原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、  Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、  A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、  A second color gradation conversion step of performing, on the image data after the white balance adjustment step, a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process,
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、  The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
前記変換情報生成工程は、  The conversion information generation step includes
前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、  A gradation conversion sample generation step of generating the sample color group after gradation conversion by performing gradation conversion processing using the gradation conversion information on the sample color group before color gradation conversion;
前記階調変換後サンプル色群と前記色階調変換後サンプル色群との対応関係に基づいた色変換情報を生成する色変換情報生成工程と、  A color conversion information generation step for generating color conversion information based on a correspondence relationship between the sample color group after gradation conversion and the sample color group after color gradation conversion;
前記階調変換情報から、前記階調変換処理と逆の変換処理となる逆階調変換処理で用いる逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに有し、  A reverse gradation conversion information generation step of generating reverse gradation conversion information used in reverse gradation conversion processing that is reverse conversion processing to the gradation conversion processing from the gradation conversion information;
前記変換情報生成工程は、前記逆階調変換情報と前記色変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能な画像処理プログラム。  The conversion information generating step is an image processing program capable of causing a computer to generate the first color gradation conversion information by combining the inverse gradation conversion information and the color conversion information.
原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、  Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、  A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、  A second color gradation conversion step of performing, on the image data after the white balance adjustment step, a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process,
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、  The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
前記変換情報生成工程は、  The conversion information generation step includes
前記階調変換情報を用いた階調変換処理を前記色階調変換前サンプル色群に対して行うことで、前記階調変換後サンプル色群を生成する階調変換サンプル生成工程と、  A gradation conversion sample generation step of generating the sample color group after gradation conversion by performing gradation conversion processing using the gradation conversion information on the sample color group before color gradation conversion;
前記階調変換処理とは逆の変換処理となる逆階調変換処理に用いる逆階調変換情報を、前記階調変換情報に基づいて生成する逆階調変換情報生成工程と、  An inverse gradation conversion information generating step for generating, based on the gradation conversion information, inverse gradation conversion information used for an inverse gradation conversion process which is a conversion process opposite to the gradation conversion process;
前記階調変換後サンプル色群と前記色階調変換後サンプル群との対応関係から、色変換処理とは逆の変換処理となる逆色変換処理で用いる色変換用のテーブルデータを生成するテーブルデータ生成工程と、をさらに有し、  A table for generating table data for color conversion used in the reverse color conversion process that is the reverse of the color conversion process, based on the correspondence between the sample color group after the gradation conversion and the sample group after the color gradation conversion A data generation step,
前記変換情報生成処理は、前記色変換用のテーブルデータと前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能な画像処理プログラム。  The conversion information generation process is an image that allows a computer to execute so as to generate the first color gradation conversion information by combining the table data for color conversion and the reverse gradation conversion information. Processing program.
原画像データに現像処理を施した画像データに対して、前記現像処理用の色階調変換処理と逆の変換処理である第1色階調変換処理を施す第1色階調変換工程と、A first color gradation conversion step of performing a first color gradation conversion process which is a conversion process opposite to the color gradation conversion process for the development process on the image data obtained by performing the development process on the original image data;
色階調変換前サンプル色群と、該色階調変換前サンプル群に対して前記現像処理用の色階調変換処理と実質的に等しい色階調変換処理を施した色階調変換後サンプル色群とから、前記第1色階調変換工程で用いる第1色階調変換情報を生成する変換情報生成工程と、  Sample color group before color gradation conversion, and sample after color gradation conversion obtained by performing color gradation conversion processing substantially the same as the color gradation conversion processing for development processing on the sample group before color gradation conversion A conversion information generation step for generating first color gradation conversion information used in the first color gradation conversion step from a color group;
前記第1色階調変換工程後の画像データに、前記現像処理時のホワイトバランス補正を調整するホワイトバランス調整工程と、  A white balance adjustment step for adjusting white balance correction at the time of the development processing on the image data after the first color gradation conversion step;
前記ホワイトバランス調整工程後の画像データに、前記第1色階調変換処理とは逆の変換処理である第2色階調変換処理を施す第2色階調変換工程とを有し、  A second color gradation conversion step of performing, on the image data after the white balance adjustment step, a second color gradation conversion process that is a conversion process opposite to the first color gradation conversion process,
前記変換情報生成工程は、前記色階調変換前サンプル色群から得られる無彩色のサンプル色群と、前記色階調変換後サンプル色群のうち、前記無彩色のサンプル色群に由来するサンプル色群との対応関係から階調変換情報を生成する階調変換情報生成工程を有し、  The conversion information generation step includes a sample derived from the achromatic sample color group among the achromatic sample color group obtained from the sample color group before color gradation conversion and the sample color group after color gradation conversion A gradation conversion information generation step for generating gradation conversion information from the correspondence with the color group;
前記変換情報生成工程は、  The conversion information generation step includes
前記色階調変換前サンプル色群に対して、前記階調変換情報により階調変換処理を施す階調変換工程と、A gradation conversion step of performing gradation conversion processing on the sample color group before color gradation conversion according to the gradation conversion information;
前記階調変換処理を行うことにより得られる前記階調変換後サンプル色群の各色成分を、前記色階調変換後サンプル色群の各色成分の線形和によって近似する逆色変換行列を生成する行列生成工程と、  A matrix that generates an inverse color conversion matrix that approximates each color component of the sample color group after gradation conversion obtained by performing the gradation conversion process by a linear sum of each color component of the sample color group after color gradation conversion Generation process;
前記階調変換処理とは逆の変換処理となる逆階調変換処理を特定する逆階調変換情報を生成する逆階調変換情報生成工程と、をさらに備え、  A reverse gradation conversion information generating step for generating reverse gradation conversion information for specifying reverse gradation conversion processing that is reverse conversion processing to the gradation conversion processing;
前記変換情報生成工程は、前記逆色変換行列と前記逆階調変換情報とを組み合わせることで、前記第1色階調変換情報を生成するように、コンピュータを実行させることが可能な画像処理プログラム。  In the conversion information generation step, an image processing program capable of causing a computer to generate the first color gradation conversion information by combining the reverse color conversion matrix and the reverse gradation conversion information .
JP2008043040A 2008-02-25 2008-02-25 Image processing method, image processing apparatus, and image processing program Expired - Fee Related JP5181722B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008043040A JP5181722B2 (en) 2008-02-25 2008-02-25 Image processing method, image processing apparatus, and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008043040A JP5181722B2 (en) 2008-02-25 2008-02-25 Image processing method, image processing apparatus, and image processing program

Publications (2)

Publication Number Publication Date
JP2009201027A JP2009201027A (en) 2009-09-03
JP5181722B2 true JP5181722B2 (en) 2013-04-10

Family

ID=41144012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008043040A Expired - Fee Related JP5181722B2 (en) 2008-02-25 2008-02-25 Image processing method, image processing apparatus, and image processing program

Country Status (1)

Country Link
JP (1) JP5181722B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106454285B (en) * 2015-08-11 2019-04-19 比亚迪股份有限公司 The adjustment system and method for adjustment of white balance

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006013742A (en) * 2004-06-24 2006-01-12 Seiko Epson Corp Generation of conversion curve for gradation conversion
JP2006080892A (en) * 2004-09-09 2006-03-23 Olympus Corp Image recording and reproducing apparatus
JP4196212B2 (en) * 2004-12-24 2008-12-17 セイコーエプソン株式会社 Image processing apparatus, image processing method, and image processing program
JP2006186898A (en) * 2004-12-28 2006-07-13 Konica Minolta Photo Imaging Inc Image processing device and image processing method
JP4169023B2 (en) * 2005-08-26 2008-10-22 ブラザー工業株式会社 Image processing apparatus and image processing program

Also Published As

Publication number Publication date
JP2009201027A (en) 2009-09-03

Similar Documents

Publication Publication Date Title
JP4831067B2 (en) Image processing apparatus, image processing method, image processing program product, and imaging apparatus
JP5116393B2 (en) Image processing apparatus and image processing method
JP5300595B2 (en) Image processing apparatus and method, and computer program
JP4803284B2 (en) Image processing apparatus and image processing program
JP3668014B2 (en) Image processing method and apparatus
JP4883007B2 (en) Image processing apparatus, image processing program, and image processing method
US8115833B2 (en) Image-acquisition apparatus
JP2012165204A (en) Signal processing apparatus, signal processing method, imaging apparatus, and imaging processing method
JP4479527B2 (en) Image processing method, image processing apparatus, image processing program, and electronic camera
JP2020145553A (en) Image processing apparatus, image processing method and program
JP5181722B2 (en) Image processing method, image processing apparatus, and image processing program
JP2009171158A (en) Mosaic image generation apparatus, method, and program
JP4774757B2 (en) Image processing apparatus, image processing program, electronic camera, and image processing method
US20130003129A1 (en) Method for processing high dynamic range images using tone mapping and wcs color transforms
JP5810593B2 (en) Image processing apparatus, imaging apparatus, and program
JP2008227959A (en) Image processing device, image processing method and image processing system
JP2011151597A (en) Apparatus and program for processing image, and electronic camera
JP6318497B2 (en) Image processing apparatus, imaging apparatus, and program
JP2006262062A (en) Image processor and image processing program
JP6293466B2 (en) Image processing apparatus, image forming apparatus, image processing method, image processing program, and recording medium
JP5116873B2 (en) Image processing apparatus and image processing method
US20240202990A1 (en) Data generation method, learning method, imaging apparatus, and program
JP4612870B2 (en) Image processing apparatus and method
JP5632937B2 (en) Image processing apparatus and method, and computer program
JP2008227955A (en) Image processing device, image processing method and image processing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110811

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121231

R150 Certificate of patent or registration of utility model

Ref document number: 5181722

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees