[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP3960127B2 - Appearance inspection device - Google Patents

Appearance inspection device Download PDF

Info

Publication number
JP3960127B2
JP3960127B2 JP2002144864A JP2002144864A JP3960127B2 JP 3960127 B2 JP3960127 B2 JP 3960127B2 JP 2002144864 A JP2002144864 A JP 2002144864A JP 2002144864 A JP2002144864 A JP 2002144864A JP 3960127 B2 JP3960127 B2 JP 3960127B2
Authority
JP
Japan
Prior art keywords
image
pixel
inspection
pixels
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002144864A
Other languages
Japanese (ja)
Other versions
JP2003057190A (en
Inventor
辰男 山村
公一 外山
亮 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
Original Assignee
Fuji Electric Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Systems Co Ltd filed Critical Fuji Electric Systems Co Ltd
Priority to JP2002144864A priority Critical patent/JP3960127B2/en
Publication of JP2003057190A publication Critical patent/JP2003057190A/en
Application granted granted Critical
Publication of JP3960127B2 publication Critical patent/JP3960127B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、例えば飲料容器などの被検査物を生産するエリアまたはラインに設置され、被検査物をカメラにより撮像してこのカメラの映像をデジタル処理し、被検査物の外観の欠陥を検査する外観検査装置、
特に、被検査物上に印刷などによって付され、特定の濃淡分布を持って形成された複雑な絵柄(模様)内の汚れ、印刷抜け等の欠陥、具体的には微細欠陥(つまり、微細であるが周辺との濃淡レベルの差が大きい欠陥)や淡欠陥(つまり、周辺との濃淡レベルの差は少ないが、さほど微細ではない欠陥)を正確に検出することができる外観検査装置に関する。
【0002】
なお、以下各図において同一の符号は同一もしくは相当部分を示す。
【0003】
【従来の技術】
従来、特定の絵柄(模様)がある被検査物のカメラによる撮像映像をデジタル処理して、被検査物上の絵柄内の汚れ、印刷抜け等の欠陥検査を行う、この種の外観検査装置においては、誤った欠陥検出を防ぐため、予め外観検査装置に対し、その絵柄に合わせ、絵柄内の濃淡変化の大きなエッジ部を除いた領域を手動設定して置き、このエッジ部を除いた絵柄領域の画像を対象として画像上の着目点とその周辺との濃淡レベル差を検出し、欠陥を検出していた。
【0004】
【発明が解決しようとする課題】
しかしながら、検査対象の特定の絵柄が複雑になると、その絵柄内のエッジ以外の領域を手動設定するのは極めて難しくなる。そこで、本発明の目的は、この問題を解消し、本来の被検査物の絵柄の画像からエッジ以外の検査対象画像を抽出するためのエッジマスク画像を、絵柄の複雑さによらず自動的に生成する外観検査装置を提供することにある。
【0005】
次に、検査対象画像が黒い絵柄などの濃度レベルのかなり低い暗部領域を持ち、この暗部領域に欠陥がある場合、例えば被検査物としての金属性飲料缶の黒印刷部分に印刷ハゲで金属地が露出した、0.5mmφ程度の微小なスポット状の輝点がある場合に、輝点の大きさが撮像素子の1画素の受光面積に対して等しいもしくは小さいときや、カメラの信号出力オフセット、A/D変換時のオフセット、あるいは映像信号増幅アンプの応答特性などの原因により、その輝点の本来の濃度レベルにまで映像信号電圧(濃度信号レベル)が上がらず、前記輝点が大面積の場合と比較して、応答濃度レベルが小さくなってしまう現象がある。
【0006】
このため、暗部領域に対し暗部領域を除いた領域と同じ欠陥検出の感度を適用しようとすると、暗部領域の検出感度が著しく低下してしまい、また暗部領域の検出感度を高くすると暗部領域を除いた領域での検出感度が高くなり過ぎて、良品を不良品と誤検出して生産効率を低下させてしまうという問題がある。
この問題を解消するには暗部領域を、暗部領域を除いた領域とは別の個別検査領域に指定して当該個別検査領域に応じた欠陥検出感度を設定すればよいが、暗部領域には明確な境界がない場合が多く、暗部領域を手動設定することは実際上困難である。また暗部領域と非暗部領域との境界付近は画像の濃度勾配が比較的大きく欠陥の誤検出を起こすおそれがあるので、この境界付近を絵柄のエッジ部分と同様にマスクする必要がある。
【0007】
また、検査対象画像がカラー画像で、RGBの各色成分別とした検査対象画像をそれぞれ当該色成分のマスク画像でマスクして欠陥検出をした場合、印刷色の微妙な変動によって各色成分別に分解した画像の絵柄内の特にエッジ部分の位置や濃度勾配が変動するため、エッジ付近で欠陥検出を誤るという問題がある。そこで、本発明の他の目的は、この問題を解消し、良品の被検査物を撮像して得た検査対象画像から暗部領域を自動抽出して暗部ウィンドウ画像を得ると共に、第1発明と同様に良品の検査対象画像から得たエッジマスク画像と上記暗部ウィンドウ画像とから暗部領域の検査対象画素を抽出する検査マスク画像を自動的に生成する外観検査装置、および検査対象画像がカラー画像の際に、RGB各色成分ごとの個別のエッジマスク画像の論理和からなる共通エッジマスク画像を利用して、RGB色成分毎の画像検査に用いる検査マスク画像を作成し、絵柄のエッジ付近での色変動に基づく欠陥検出の誤りを防ぐ外観検査装置を提供することにある。
【0008】
次に、検査対象画像に平行な細線が並んだ水平縞模様パターンなどが含まれる場合、エッジマスク画像を用いると縞模様部分が殆どエッジマスク画像で覆われて欠陥の検出ができなくなるという問題がある。そこで、本発明の他の目的は、この問題を解消し、検査対象画像内の縞模様領域をエッジマスク画像を用いずに抽出して、縞模様領域の確実な欠陥検出を行うことができる外観検査装置を提供することにある。
【0010】
【課題を解決するための手段】
前記の課題を解決するために、請求項1の外観検査装置は、金属を下地とする被検査物(ワーク20)上に印刷によって付され、所定の濃淡分布を持つて形成された絵柄(31)を(カメラ6を介して)撮像し、この撮像によって得られた該絵柄の映像を(A/D変換部1を介し)A/D変換して該絵柄に対応するデジタル画像(展開画像30など、以下被検査画像という)を生成し(て画像メモリ2に格納し)、該被検査画像の濃度情報を処理して該被検査画像上の汚れ、印刷抜け等の欠陥を検出し、被検査物の良否を判定する外観検査装置(画像処理装置01など)であって、
め良品と判定された被検査物から得た第1の被検査画像上の所定値以上の濃度勾配を持つ部分としてのエッジを(ソーベルオペレータなどを用いた)二次元微分処理により検出し、この検出によって得られた全てのエッジ画素を、被検査物の形状等に応じて前記第1の被検査画像内に設定された1または複数の個別検査領域(32−3,32−4など)ごとに、N画素分(但し、Nは当該個別検査領域に応じて定められた0を含む整数とする)、膨張させてなるエッジマスク画像(30M)を生成し、前記良品と判定された被検査物についての第1の被検査画像上の所定値以下の濃度レベルを持つ暗部領域(100D)の画素を、それ以外の画素と区分して示す暗部2値画像を得たのち、この暗部2値画像上の暗部領域の画素をN画素分(但し、Nは当該暗部領域に応じて定められた0を含む整数とする)縮小させてなる暗部ウインドウ画像(30D)を生成し、該暗部ウインドウ画像上の暗部領域の画素から前記エッジマスク画像上のエッジ画素に相当する画素を除いた画素を検査対象画素として、前記暗部ウインドウ画像上の該検査対象画素以外の画素をマスクする検査マスク画像(30T)を生成(してマスクメモリ3に格納)する手段(マイクロプロセッサ5など)と、良否を判定すべき被検査物から得た第2の被検査画像を前記検査マスク画像により、この両画像に対応する絵柄の位置が合致するようにマスクし、このマスク後の前記第2の被検査画像を対象とし、前記検査対象画素が連結してなる各領域をそれぞれ前記個別検査領域の1つとして前記の欠陥検出を行う欠陥検出手段(欠陥検出回路4、欠陥カウント部7、マイクロプロセッサ5など)とを備えたものとする。
【0012】
次に、請求項2の外観検査装置は、請求項1に記載の外観検査装置において、前記被検査画像がカラー画像からなるとき、RGBの色成分毎に行われる前記の欠陥検出の際、当該の1色成分で生成した前記エッジマスク画像(個別エッジマスク画像30M)を、各色成分毎の該エッジマスク画像のいずれかによってマスクされる画素の全てをマスクする新たなエッジマスク画像(共通エッジマスク画像30MK)に置き換えるようにする。
【0013】
次に請求項3の外観検査装置は、請求項1または2のいずれかに記載の外観検査装置において、前記欠陥検出手段が、着目画素(Po)を走査線に沿って1画素ずつ移動しながら、着目画素の濃度値(Po)と、着目画素の走査線に沿う前および後に、当該個別検査領域に応じて定められた間隔(スパン量d)を置いて、当該個別検査領域に応じて定められた個数(m)の画素を走査方向に連結してなる(前方背景画素Pfおよび後方背景画素Pbの)画素領域の濃度平均値(PfbおよびPbb)との差分を求め、この前および後の差分のいずれかが当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する第1の微細欠陥検出手段を備えたものとする。
【0014】
次に請求項4の外観検査装置は、請求項1ないし3のいずれかに記載の外観検査装置において、前記欠陥検出手段が、着目画素(Po)を走査線に沿って1画素ずつ移動しながら、着目画素の濃度値(Po)と、着目画素の走査線に沿う前および後に、当該個別検査領域に応じて定められた間隔(スパン量d)を置いてなるm画素×n画素(但し、m,nはそれぞれ当該個別検査領域に応じて定められた整数とする)の(前方背景画素群PGfおよび後方背景画素群PGbの)2つの画素領域のそれぞれの濃度平均値(PGfbおよびPGbb)との差分を求め、この前および後の差分のいずれかが当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する第2の微細欠陥検出手段を備えたものとする。
【0015】
次に請求項5の外観検査装置は、請求項1ないし4のいずれかに記載の外観検査装置において、前記欠陥検出手段が、走査線に沿って前後に当該個別検査領域に応じて定められた間隔(スパン量d)を置いてなるm画素×n画素(但し、m,nはそれぞれ当該個別検査領域に応じて定められた整数とする)の2つの画素領域の各画素群(PGf,PGb、以下比較画素群という)のいずれか所定の一方の比較画素群の代表画素を着目画素とし、該着目画素を走査線に沿って1画素ずつ移動しながら、この前後の比較画素群のそれぞれの濃度平均値同士の差分を求め、該差分が当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する淡欠陥検出手段を備えたものとする。
【0017】
また、主として、本発明の作用は、予め良品の検査対象画像上の暗部領域を濃度の2値化により抽出した暗部ウィンドウ画像と、良品の検査対象画像から得たエッジマスク画像とから、検査対象画像の暗部領域内の検査対象画素を抽出する検査マスク画像を生成し、本来の被検査物の絵柄画像をこの検査マスク画像により、位置を合わせてマスクすることにより、濃度レベルの小さくなる暗部領域においても、欠陥画素を確実に検出できるようにするものであり、さらに検査対象画像がカラー画像の場合、RGB色成分毎の検査マスク画像を作成する際に、RGB各色成分ごとの個別のエッジマスク画像に代わり個別エッジマスク画像の論理和からなる各色成分共通のエッジマスク画像を用いることにより、、色変動に基づく絵柄のエッジ付近等での欠陥検出の誤りを防ぐようにするものである。
【0019】
【発明の実施の形態】
(実施の形態1)
先ず図1ないし図8を用い、主として請求項1,5,7に関わる第1発明の実施の形態1を説明する。
図2は、本第1発明の一実施例としての撮像部についての説明図である。同図において20は被検査物としてのワークで、本例ではビールやジュースなどの円筒容器であるが、紙カップのような側面がテーバー状となっている容器であっても良い。20aはワーク20の円筒部分としての胴部、20bはワーク20の胴部20aに続く上部のすぼまり部分としてのネック部である。
【0020】
また31はワーク20の外周面全体に印刷された絵柄である。なお、この絵柄31は図示された文字「A」や黒丸のほか、白く見える背景も含むものとする。そして一般にはこの図のように単純なものではなく、各種の文字や図形が複合した複雑なものであるのが普通である。
14はワーク20をその中心軸を回転軸15として一定速度で回転させるモータ、11は光源で、その出力光はライン型ファイバ12を介して一平面上に平行に並ぶ照明光13となり、ワーク20の外周面をライン状に照明する。そして、13aはワーク20の外周面上の照明されたライン(被照明ライン)である。
【0021】
この照明は、本例では被照明ライン13aのワーク胴部20a上の部分がワーク回転軸15に平行となるように行われる。
6はワーク20が図示のように一定速度で回転している状態で、ワーク20の外周面上の被照明ライン13aの部分を撮像するライン型カメラである。
なお、ワーク20の回転数はワーク20の直径や照明の光量、カメラレンズの明るさ、装置としての処理数などより総合的に決められるが、概ね100〜3000r.p.m程度である。
【0022】
ライン型カメラ6により撮像された被照明ライン13a上の映像情報は、後述のようにカメラ6から図1に示す画像処理装置01の本体部01aへ送られてデジタル変換され、更にこの画像処理装置本体部01aにおいて被照明ライン13a上のデジタル映像情報がワーク20の1回転分蓄積されて次に述べる2次元イメージが得られる。
【0023】
図3は、ライン型カメラ6で撮像された映像の、ワーク20の1回転分を2次元イメージに展開した展開画像(つまりワーク20の外周面上の印刷画面)30を示すものであり、この展開画像30の全体が絵柄31の画像である。そしてこの絵柄31の画像は所定の濃淡分布を持って形成されている。
32(32−1,32−2)は、展開画像30内に欠陥検査のために設定された、それぞれワーク20の胴部20a,曲面部20bに対応する個別検査領域である。このように欠陥検査領域を区分する理由は、すぼまった形状を持つ曲面部20bでは、胴部20aに比べ照明光13の反射量が少なく(即ち暗く)なりやすいため、欠陥検査上の各種パラメータを個別検査領域32−1と32−2とで分けた方がよいためである。
【0024】
また図4は予め良品と判定されたワーク20についての図3の展開画像30から後述のように抽出生成されたマスク画像(以下、マスク画像をより厳密に区別するため本マスク画像をエッジマスク画像という)30Mを示す。
検査対象のワーク20についての図3の展開画像30を、図4のエッジマスク画像30Mにより絵柄31の位置を合わせてマスクすることで、展開画像30内の個別検査領域32−1、32−2ごとの、図4で白く示した領域に対応する印刷画面領域が抽出され、本例ではこれが検査対象の領域となる。
【0025】
図1は本第1発明の一実施例としての画像処理装置の構成を示すブロック図である。この画像処理装置01は前記した画像処理装置本体部01aとカメラ6とからなる。そして画像処理装置本体部01aにおいて、5はこの装置全体を制御するマイクロプロセッサである。
1はカメラ6から、その撮像画像を本例では縦方向(Y軸方向)に走査しつつ出力されるアナログ画像信号をデジタル画像信号に変換するA/D変換部、2はこのデジタル画像信号を入力し、ワーク20の少なくとも全周分の撮像画像に対応するデジタル画像を記憶する画像メモリである。
【0026】
また、3、4、7はそれぞれ本第1発明の要部となる後述のマスクメモリ、欠陥検出回路、欠陥カウント部である。そして8はマイクロプロセッサ5と画像メモリ2、マスクメモリ3、欠陥カウント部7等とを結合するバスである。
図7は画像処理装置01の処理の手順を示すフローチャートで、S1〜S12はこの処理のステップ番号である。次にこのフローチャートに沿い、他の図を適宜参照しつつ本第1発明の処理内容を説明する。
【0027】
本実施例では、ライン型カメラ6で撮像されたワーク20の外周面上の絵柄31のデジタル画像としての展開画像(印刷画面)30(図3)の全面に後述する差分処理を行って印刷欠陥を検出しようとするものであるが、絵柄31内の濃度変化(濃度勾配)の大きい箇所は、差分時にマスクしないとその箇所が誤検出となってしまう。そこで、先ずマスク用のエッジマスク画像30M(図4)を生成する処理を行う。
【0028】
即ち、予め良品と判定されたワーク20をカメラ6により撮像して(ステップS1)、A/D変換部1を介し良品の展開画像30を取得し、画像メモリ2に記憶する。
次に、画像メモリ2ヘ記憶された良品の展開画像30に対して周知の二次元微分処理手段である、ソーベルオペレータを作用させて、絵柄31内の濃度勾配が所定値以上に大きい部分であるエッジを検出する(ステップS2)。
【0029】
このソーベルオペレータの処理は、ソーベルオペレータを画像に施す回路で実行するか、処理にかかる時間を問題にしなければ、マイクロプロセッサ5にて画像メモリ2をアクセスして、画素毎にオペレータの演算をし、エッジを抽出する。
そして、ソーベルオペレータの作用結果を2値化してエッジ部に位置するエッジ画素からなるエッジマスク画像30Mを得る(ステップS3)。
【0030】
エッジマスク画像30Mは画像の位置変動が極めて小さい場合はこのままでもよいが、絵柄31の印刷やワーク20の回転等に基づく画像の位置変動がある場合は、変動の程度に応じて1ないし複数個の所定画素分、エッジマスク画像30Mをエッジの内側と外側に膨張させる。なお、この膨張の大きさを個別検査領域32−1と32−2とで変える場合もある。そして、このように生成したエッジマスク画像30Mをマスクメモリ3ヘ記憶する(ステップS3a)。
【0031】
次にエッジマスク画像30Mによって、検査対象の展開画像30をマスクする際に、相互の画像30Mと30とを重ね合わせるための基準位置を登録し(ステップS4)、検査モードに移る(ステップS5)。
なお、上記の基準位置としては展開画像30(従って絵柄31)内の、例えば20画素×20画素程度の部分画像で、ワーク20の外周の1周の間に1回のみ出現する、つまり展開画像30の走査にて唯一的に位置が定まるような特徴ある部分画像の位置が選ばれる。
【0032】
図8に一点鎖線の四角枠で示す基準位置33は、展開画像30上の基準位置の例を示し、上記のステップS4では、この基準位置33の展開画像30上での相対位置を示す座標と、一点鎖線の四角枠内の画像パターンとが登録される。
検査モードにおいては、先ず、被検査物となるワーク20の外周面(絵柄印刷面)を前記した良品の場合と同様に撮像し、その展開画像30を画像メモリ2に格納する(ステップS6)。
【0033】
次に、被検査物の展開画像30を走査して、パターンマッチングの手法でその基準位置33を検出し、この展開画像30を欠陥検出回路4に転送する。一方、マスクメモリ3内のエッジマスク画像30Mも、上記基準位置33との位置合わせをして(つまり、エッジマスク画像30Mの元の展開画像30と被検査物の展開画像30とが正しく一致する位置関係となるようにして)欠陥検出回路4に転送することで、被検査物の展開画像30をエッマスク画像30Mによってマスクする(ステップS7)。
【0034】
欠陥検出回路4では、このマスク処理によって生成される、被検査物の展開画像30からエッジマスク画像30Mを除いた画像領域(つまり、誤つた欠陥となる濃度勾配の大きな部分画像が含まれない画像領域)に対して次に述べる平滑、積分の差分をとり、欠陥の検査を行う(ステップS8)。
即ち、欠陥検出は、走査方向(具体的にはY軸またはX軸方向であるラスタ走査の方向、つまり縦または横方向のいずれか所定の方向)に1画素ごとに、この画素を着目画素としたとき、着目画素の濃淡レベル又は着目画素を代表画素とする所定の画素領域の濃淡レベル平均値と、その前後の所定の周辺画素領域の濃淡レベル平均値との差分をとり、差が閾値以上のとき、着目画素を欠陥画素として検出する。
【0035】
そして、欠陥カウント部7で欠陥画素を計数し、欠陥画素の数が所定の閾値以上であるか否かを調べる(ステップS9)。その結果、欠陥画素の数が所定の閾値以上であれば(分岐Y)、当該の被検査物(ワーク20)を不良とし(ステップS10)、そうでなければ(ステップS9,分岐N)、当該の被検査物(ワーク20)を良とする(ステップS11)。
【0036】
上記の欠陥画素数の集計は個別検査領域32(32−1,32−2)の別に行われ、良,不良の判定も、各個別検査領域32−1,32−2の別に設定された欠陥画素数の閾値によって行われる。従って個別検査領域32−1と32−2との何れかで不良の判定があれば当該の被検査物は不良品であり、個別検査領域32−1と32−2とで共に良の判定があれば当該の被検査物は真の良品となる。
【0037】
前記の差分検査は演算に加わる画素そのものが、マスク画素(つまり、マスクされる画素で、この第1発明の場合はエッジマスク画像30Mに含まれる画素)に一致しないことと、着目点と周辺画素との間隔を画素数で示したスパン量d(後述)のなかにマスク画素がないことを条件として行われる。
図5は微細であるが着目点と周辺との濃淡レベルの差が大きい微細欠陥を検出する第1の平滑差分検査、図6は着目点と周辺との濃淡レベルの差は少ないが、さほど微細ではない淡い欠陥を検出する積分差分検査のそれぞれの原理説明図である。
【0038】
微細欠陥については、図5の第1の平滑差分検査の説明図に示すように、走査とともに着目画素Poの画素値(濃度値)Poと、着目画素Poの後方に(図5,a)参照)、スパン量dだけ離れたm個の画素(後方背景画素Pbという)の画素平均値(濃度平均値)Pbbとの差分、及び同じく着目画素Poの画素値(濃度値)Poと、着目画素Poの前方に(図5,b)参照)、スパン量dだけ離れたm個の画素(前方背景画素Pfという)の画素平均値(濃度平均値)Pfbとの差分のいずれかが所定の2値化閾値を越えたとき、着目画素Poを欠陥画素とする。
【0039】
なお、図5の後方背景画素Pb及び前方背景画素Pf中の斜線を引いた画素はこの平均化領域のm個の画素の位置を代表する画素を示す。この平滑差分検査における上記の背景画素数m、スパン量d、2値化閾値は当該の個別検査領域32(32−1,32−2)の別に定められる。
また、淡欠陥については、図6の積分差分検査の説明図に示すように、n画素×m画素の画素群(比較画素群という)の代表画素がスパン量dの間隔を置くような2つの比較画素群、即ち前方の比較画素群PGfと後方の比較画素群PGbとの、それぞれの画素群の画素値を積分して求めた濃度平均値の差分を、代表画素を1画素ずつ走査線上に移動させながら、所定の2値化閾値と比較し、差分が2値化閾値を越えたとき、比較画素群PGf,PGbのいずれかの代表画素、例えば後方の比較画素群PGbの代表画素を着目画素Poとして欠陥画素とする。
【0040】
この積分差分検査においても、上記の画素数m,n(本例では演算の容易さからいずれも1,2,4画素の範囲で選択する)、スパン量d、2値化閾値は当該の個別検査領域32(32−1,32−2)の別に定められる。
このようにして、1つ1つの被検査物ごとにステップS6以降の処理を繰り返して、その良否を判別したのち、必要時に検査モードを終わる(ステップS12)。
【0041】
ところで、画像処理装置01に用いるカメラ6はモノクロカメラでもカラーカメラでもよく、カラーカメラの場合は、RGBの色別に分解された良品の3つの展開画像30からそれぞれRGBの色別のエッジマスク画像30Mを生成し、被検査物の展開画像30についてもRGBの色別の展開画像30を取得して色別に検査を行い、いずれの色の展開画像30でも良品と判定したとき、その被検査物を真の良品とする。
【0042】
(実施の形態2)
次に、主に図9ないし図17を用い、主として請求項2,3,6に関わる第2発明の実施例を説明する。なお、本実施例においても図1の画像処理装置01や図2の撮像部の構成(但し図2の撮像対象ワーク20の絵柄31および個別検査領域32の構成を除く)は当てはまる。
【0043】
図9は、本第2発明の一実施例としての暗部領域を有する円筒容器であるワーク20を示し、このワーク20の胴部20aの下方としての容器底部側全周には黒色のパターン42やグラデーションを持つその他の絵柄等からなる黒色印刷部100が存在するものとする。
図10は図9のワーク20の胴部20a上の、点YA,YP,YBを結ぶ、本例では垂直な破線上の濃度分布の例を示す。なお、点YA,YPの間が黒色印刷部100である。
【0044】
即ち、黒色印刷部100は、256段階の濃度階調で大体30レベル以下である。そして本例では、点YA,YB間の濃度がグラデーションをもって変化しており、背景102と黒色印刷部100との間には明確な境界線はない。そして、図9中のパターン41は黒色印刷部100より明るく、背景102よりも暗い濃度とし、パターン42は最も暗い濃度とする。
【0045】
黒色印刷部100に印刷ハガレ101が発生すると、飲料缶の金属地が露出し、露出部分は鏡面状であるため照明光が反射してスポット状の輝点となる。このような輝点が大面積であれば、濃度信号レベルは飽和レベルにまで達するが、輝点が小さい場合は、暗部レベルに対してプラス15〜20レベル程度にしか応答しない。
【0046】
このため、本第2発明では以下に述べる方法で、黒色印刷部100のような暗部領域を抽出し、暗部領域を個別検査領域32の別個の領域(本例では32−3とする)として暗部領域内の印刷ハガレ101のような画像欠陥を検出する。
図11〜図14は、図9のワーク20を被検査物とした場合における、暗部領域の画像欠陥検出処理に用いる画像を示し、図15は本実施例で適用する第2の平滑差分検査の原理を示す。
【0047】
また図16は、本第2発明の一実施例としての、図1の画像処理装置01の基本的な処理の手順を示すフローチャートで、この図は図7に対応している。なお、図16では図7に対し、ステップS3b〜S3dが追加され、ステップS7,S8がそれぞれS7A,S8Aに置き換わっている。
次に図11〜図15の説明を加えながら図16の手順を、図7と異なる点を主体に説明する。
【0048】
先ず図7の場合と同様に、カメラ6により良品の被検査物(本例では図9のワーク20)を撮像し、図11に示すような展開画像30を得て、図1の画像メモリ2に格納する(ステップS1)。
次も図7の場合と同様に、図11の展開画像30に例えばソーベルのオペレータを作用させた後に(ステップS2)、固定2値化を行って図13のようなエッジマスク画像30Mを得る(ステップS3)。
【0049】
図13中、黒線で表された個所としての41E,42Eがそれぞれパターン41,42のエッジであり、エッジ41E,42Eの各画素はデータ1で表現され、エッジ以外の画素はデータ0で表現されている。なお、さらに図7の場合と同様、画像の位置変動の程度に応じてエッジマスク画像30Mをエッジの内側と外側に膨張させる(ステップS3a)。
【0050】
次に図11の良品ワーク20の展開画像30から、ワーク20の黒色印刷部100内の暗部領域を抽出する。このために、濃度しきい値THDを30程度として上記展開画像30を固定2値化し、図12のような暗部ウインドウ画像30Dを得る(ステップS3b)。
この暗部ウインドウ画像30Dにおいては、抽出された暗部領域100Dは各画素のデータが1、暗部領域100D以外は、各画素のデータが0である。なお、図9の点YPは図10に示すように、濃度しきい値THDに相当する画素の位置を表す。
【0051】
次にこの暗部ウインドウ画像30Dを黒色印刷部100上のグラデーションの程度に応じて所定量、縮小させる(S3c)。これは画像欠陥検出の対象領域となる暗部領域100D(データ:1)とそれ以外の領域(データ:0)との境界付近で欠陥画素の誤検出が生ずることを防ぐために、暗部領域100D(データ:1)を狭めて置く必要があるからである。
【0052】
次に暗部領域100D内であっても、絵柄のエッジ(本例ではパターン42のエッジ42E)が存在する場合が考えられるため、ステップS3cでの縮小処理を経た暗部ウインドウ画像30Dの極性を反転させて(即ち、マスクすべき画素領域をデータ1、非マスク領域(検査対象画素領域)をデータ0とする、マスク画像と同じ論理極性として)、ステップS3aでの膨張処理を経た図13のエッジマスク画像30Mとの論理和画像を求め、図14に示すような検査マスク画像(つまり実際の検査に用いるマスク画像)30Tを得て(ステップS3d)、この検査マスク画像30Tを図1のマスクメモリ3に格納する。
【0053】
そして図7の場合と同様に、被検査物の展開画像30を検査マスク画像30Tでマスクする際の画像上の基準位置を登録して検査モードに移る(ステップS4,S5)。
なお、検査マスク画像30Tにおいては、データ1の画素はマスクして欠陥検出を行わず、データ0の画素は欠陥検出を行う。即ち本例では、図12に示す暗部領域100Dの画素のうち、暗部領域100D内にあるパターン42のエッジ42Eの画素を除いた画素が欠陥検出対象の画素となる。
【0054】
次に検査モードでは、図7の場合と同様、被検査物のワーク20を撮像したのち(ステップS6)、図1の欠陥検出回路4において、この撮像で得た被検査物の展開画像30を、マスクメモリ3に格納された上記検査マスク画像30Tにより、両画像30と30Tとの基準位置が一致するようにマスクする(ステップS7A)。
【0055】
そして、このマスクで抽出された暗部領域100D上の検査対象画素領域を別個の個別検査領域(本例では32−3)として検出感度を暗部領域専用に高め、差分検査によって欠陥画素を検出する(ステップS8A)。
なお、必要に応じて暗部領域100D内のエッジ42Eに囲まれた検査対象画素領域をさらに別の個別検査領域(図14の例では32−4)として検出感度等の欠陥検出用パラメータを変える場合もある。
【0056】
この差分検査には一般的には図5,図6の手法を適用できる場合もあるが、本実施例では図15に示す第2の平滑差分検査の手法を用いて微細欠陥を検出する。
図15の原理は基本的には図5(第1の平滑差分検査)と同じであるが、図5との相違は着目画素Poと比較する前方と後方の背景画素を、1列に並んだm個の画素からm画素×n画素領域の画素群とした点である。
【0057】
図15の平滑差分検査では、走査とともに着目画素Poの画素値(濃度値)Poと、着目画素Poの後方に(図15,a)参照)、スパン量dだけ離れたn画素×m画素の後方背景画素群PGbの画素平均値(濃度平均値)PGbbとの差分、及び同じく着目画素Poの画素値(濃度値)Poと、着目画素Poの前方に(図15,b)参照)、スパン量dだけ離れたn画素×m画素の前方背景画素群PGfの画素平均値(濃度平均値)PGfbとの差分を、着目画素Poを1画素ずつ走査線上に移動させながら、所定の2値化閾値と比較し、差分のいずれかが所定の2値化閾値を越えたとき、着目画素Poを欠陥画素とする。
【0058】
なお、図15の後方背景画素群PGb及び前方背景画素群PGf中の斜線を引いた画素はn画素×m画素の領域の位置を代表する画素を示す。また、この差分検査における画素数m,n(本例では演算の容易さからいずれも1,2,4画素の範囲で選択する)、スパン量d、2値化閾値は当該の個別検査領域(本例では32−3)に対して定められる。
【0059】
なお、図15の第2の平滑差分検査の手法は、一般的には前述の第1発明や後述の第3発明にも適用することができる。
次に被検査物の画像がカラー画像の場合、基本的には被検査物をRGBの色成分に分解して撮像した色成分別の画像について図16の処理を行えばよいが、実生産ラインでは、微妙な印刷色の変動があり、RGBに色分解したときには、特定の色成分での濃度レベルの変動がある。
【0060】
このため、ある色成分でのエッジマスク画像におけるマスク対象の画素が、別の色成分でのエッジマスク画像ではマスクされずに検査対象の画素になり、欠陥検出を誤ることがある。
図17は、このような欠陥の誤検出を防ぐようにした画像処理装置01のカラー画像処理の手順を示すフローチャートで、図16に対応するものである。ここで、図17のステップS101〜S103、S103a〜S103d、S104〜S106、S107A、S108A、S109〜S112は、それぞれ図16のステップS1〜S3、S3a〜S3d、S4〜S6、S7A、S8A、S9〜S12に対応している。
【0061】
ただし図17では図16に対し、図17の一連の処理の途上でRGBの各色成分別の処理が終了したか否かを確認する分岐ステップBR1〜BR3と、図17の処理の眼目となるステップS103Aが追加されている。
ここでも図9のワーク20をカラー印刷された被検査物とし、図16との相違点を主体に図17を説明すると、先ず、良品ワーク20をRGBの色成分に分解して撮像し(ステップS101)、1色成分の展開画像30から、図16と同様に画像変動に応じた膨張を施した色成分別のエッジマスク画像(ここでは個別エッジマスク画像という)30Mをつくることを、RGBの3つの色成分について繰り返す(ステップS102〜S103a、BR1)。
【0062】
そして、図17の処理の眼目となる次のステップS103Aで上述したRGBの色成分別の3つの個別エッジマスク画像30Mの論理和からなる(つまり、色成分別の個別エッジマスク画像30Mによってマスクされる画素をすべてマスク画素とするような)エッジマスク画像としての共通エッジマスク画像30MKを求める。
【0063】
次は、図16と同様に、良品ワーク20の1色成分の展開画像30を固定2値化し、画像変動に応じた縮小を施した当該の1色成分についての暗部ウィンドウ画像30Dを作り、さらにこの暗部ウィンドウ画像30Dの論理を反転して前記共通エッジマスク画像30MKとの論理和を求め、当該の1色成分の検査マスク画像30Tを作る(ステップS103b〜S103d)。そして、このステップS103b〜S103dの処理を色成分別に繰り返し、RGBの3つの色成分別の検査マスク画像30Tを得て(ステップBR2)、マスクメモリ3へ格納する。
【0064】
次は色成分ごとの展開画像30と検査マスク画像30Tとの基準位置を図16と同様に登録して検査モードに移る(ステップS104、S105)。
検査モードでは、被検査物のワーク20をRGBに色分解して撮像したのち(ステップS106)、欠陥検出回路4において、この撮像で得た被検査物の色成分ごとの展開画像30について、図16と同様に、その各1色成分の展開画像30を当該の1色成分の検査マスク画像30Tにより、両画像30と30Tの基準位置を一致させてマスクし、展開画像30上の非マスク画素(マスクされない画素)の差分検査を行う(ステップS107A、S108A)。そして欠陥カウント部7を介し欠陥画素数を調べる(S109)。
【0065】
そして、このステップS107A〜S109の処理をRGBの3つの色成分について繰り返して行くが(ステップBR3)、この繰り返しの過程で、個別色成分のいずれかに閾値以上の欠陥画素数が検出された場合には当該の被検査物を不良と判定し(ステップS110)、全ての色成分で良と判定された被検査物を最終的に良品とする(ステップS111、S112)。
【0066】
(実施の形態3)
次に、主に図18ないし図21を用い、主として請求項4に関わる第3発明の実施例を説明する。なお、本実施例においても図1の画像処理装置01や図2の撮像部の構成(但し図2の撮像対象ワーク20の絵柄31および個別検査領域32の構成を除く)は当てはまる。
【0067】
図18は、本第3発明の一実施例としての縞模様領域を有する容器のワーク20の外観を示す。図18の例では図2に示したと同様な形状のワーク20の円筒状の胴部20aの下方に水平縞模様パターン43が印刷された縞模様印刷部200があるものとし、201はこの縞模様印刷部200内に発生した画像欠陥としての印刷ハガレとする。また、水平縞模様パターン43の縞を形成する直線の方向は本例では円筒状の胴部20aの周方向を向いているものとする。
【0068】
図19は図18のワーク20をカメラ6により撮像して得られた展開画像30を示す。図19のような水平縞模様パターン43を含む被検査物の展開画像30から第1発明のようにエッジマスク画像を作り、展開画像30をマスクすると水平縞模様パターン43の縞を形成する直線の部分全体がマスクされて、図18の印刷ハガレ201のような画像欠陥が検出できなくなる。
【0069】
このため、本第3発明の実施例では縞模様印刷部200内の水平縞模様パターン43の縞を形成する直線のみの存在領域をエッジマスクを用いずに、別個の個別検査領域32(本例では32─5とする)として抽出し、この個別検査領域32─5内に上記の縞を形成する直線と同じ方向に欠陥検出の走査方向を設定し、図6に示したm画素×n画素による淡欠陥検出処理を行つて印刷不良等の画像欠陥を検出する。
【0070】
図20は、本第3発明の一実施例としての、図1の画像処理装置01の処理動作を示すフローチャート、つまりこの場合、図18のワーク20を被検査物としたときの水平縞模様パターン画像検査のフローチャートを表す。
なお、図20のステップS201、S204〜S207A、S209〜S212はそれぞれ図16のステップS1、S4〜S7A、S9〜S12と同じ処理であり、図20のステップSP1、SP2およびS208Bが本実施例の特有の処理である。
【0071】
よって、以下、この特有の処理を主体に説明する。図20では、先ず図18に示したワーク20の良品を撮像したのち(ステップS201)、ワーク20に印刷された水平縞模様パターン43の縞を形成する直線のみの存在領域の位置を画像処理装置01に設定し、この存在領域を個別検査領域32−5とする(ステップSP1)。
【0072】
次に、良品画像上の個別検査領域32−5以外の画素をマスクする検査マスク画像を作り(ステップSP2)、マスクメモリ3に格納する。
また、検査モードにおいては、欠陥検出回路4にて、被検査品を撮像した画像(この場合、図19の展開画像30)を上記検査マスク画像により、この両画像の基準位置を一致させてマスクする(ステップS206、S207A)。
【0073】
そして、被検査品を撮像した検査対象画像上の非マスク画素、つまり個別検査領域32−5内の画素を差分検査して欠陥画素を検出する。この差分検査においては、本実施例では欠陥検出の走査方向ARを水平縞模様パターン43の縞を形成する直線の方向に設定し、図6に示したm画素×n画素による淡欠陥検出処理を行う(ステップS208B)。
【0074】
なお、上記個別検査領域32−5以外の他の個別検査領域の欠陥検査については、実施の形態1あるいは2の場合と同様に、図19の展開画像30から得たエッジマスク画像を用いることができる。これは、水平縞模様パターン部分の検査感度がマスクにより低下し、水平縞模様パターン部分では欠陥が検出されないため、水平縞模様パターンの領域を特に区別する必要がないからである。
【0075】
【発明の効果】
第1発明によれば、予め良品と判定された被検査物上の絵柄の画像内の大きな濃度変化をするエッジ部を二次元微分処理によって検出し、この検出で得たエッジ画素を、絵柄画像内に被検査物の形状等に応じて設定される個別検査領域ごとに、0を含む所定の整数画素分、膨張させてエッジマスク画像を生成し、
本来の被検査物の絵柄画像をこのエッジマスク画像により、位置を合わせてマスクすることにより、被検査物の絵柄画像内の欠陥検査画像領域を抽出するようにしたので、絵柄の複雑さに無関係に自動的に欠陥検査領域がきまり、従来のような絵柄に応じて人手で欠陥検査領域を設定するのに比べ、欠陥検査の労力や時間を削減することができる。
【0076】
また、絵柄内のエッジにおける濃淡の大きな変化で誤って欠陥を捕まえることなく、上記のように抽出された欠陥検査画像領域としての絵柄内のエッジ以外の領域で、着目点の濃度値または濃度平均値とその前後の背景の濃度平均値とのレベル差を閾値と比較して欠陥部を検出するようにしたので、絵柄によらずに微細欠陥や淡欠陥を正確に検出することができる。
【0077】
次に第2発明によれば、検査対象画像の暗部領域を濃度の2値化により抽出して得た暗部ウィンドウ画像と、検査対象画像から第1発明と同様に求めたエッジマスク画像とから暗部領域内の検査対象画素を抽出する検査マスク画像を自動的に生成するようにし、また、検査対象画像がカラー画像の場合に、RGB各色成分ごとの個別エッジマスク画像の論理和からなる各色成分共通のエッジマスク画像を用いて、RGB色成分毎の検査マスク画像を作成するようにしたので、
濃度レベルの小さくなる暗部領域においても、欠陥画素が確実に検出でき、黒色印刷部の微細な印刷ハガレも不良として検出することができる。また、カラー画像処理においても、RGBの色変動の影響を抑制して、絵柄のエッジ付近の欠陥画素を確実に検出することができる。
【0078】
また、第3発明によれば、検査対象画像からエッジマスク画像を用いずに平行な直線を含む所定形状の縞模様領域を抽出し、前記直線の方向を欠陥検出の走査方向としてこの縞模様領域の画素に差分検査を行うようにしたので、縞模様領域の欠陥画素をエッジマスク画像で覆うことなく確実に検出でき、縞模様領域内の微細な印刷ハガレも不良として検出することができる。
【図面の簡単な説明】
【図1】第1ないし第3発明の一実施例としてのシステム構成を示すブロック図
【図2】同じく被検査物上の絵柄を撮像する撮像部の説明図
【図3】図2の被検査物上の絵柄の展開画像を示す図
【図4】図3に対応するマスク画像を示す図
【図5】第1ないし第3発明における第1の平滑差分検査の原理図
【図6】第1ないし第3発明における積分差分検査の原理図
【図7】第1発明の一実施例としての動作説明用のフローチャート
【図8】図3の展開画像上の基準位置の例を示す図
【図9】第2発明の一実施例としての被検査物の外観図
【図10】図9の被検査物上の濃度分布の例を示す図
【図11】図9の被検査物上の絵柄の展開画像を示す図
【図12】図11に対応する暗部ウィンドウ画像を示す図
【図13】図11に対応するエッジマスク画像を示す図
【図14】図11に対応する検査マスク画像を示す図
【図15】第1ないし第3発明における第2の平滑差分検査の原理図
【図16】第2発明の一実施例としての動作説明用のフローチャート
【図17】第2発明の別の実施例としてのカラー画像処理時における動作説明用のフローチャート
【図18】第3発明の一実施例としての被検査物の外観図
【図19】図18の被検査物上の絵柄の展開画像を示す図
【図20】第3発明の一実施例としての動作説明用のフローチャート
【符号の説明】
01 画像処理装置
01a 画像処理装置の本体部
1 A/D変換部
2 画像メモリ
3 マスクメモリ
4 欠陥検出回路
5 マイクロロセッサ
6 カメラ(ライン型カメラ)
7 欠陥カウント部
8 バス
11 光源
12 ライン型ファイバ
13 照明光
13a 被照明ライン
14 モータ
15 ワーク回転軸
20 ワーク
20a ワークの胴部
20b ワークの曲面部
30 展開画像(印刷画面)
30M マスク画像,エッジマスク画像,個別エッジマスク画像
30MK 共通エッジマスク画像
30D 暗部ウィンドウ画像
30T 検査マスク画像
31 絵柄
32(32−1〜32−5) 個別検査領域
33 基準位置
41,42 パターン
41E パターン41のエッジ
42E パターン42のエッジ
43 水平縞模様パターン
100 黒色印刷部
100D 暗部領域
101 黒色印刷部の印刷ハガレ
102 背景
200 縞模様印刷部
201 縞模様印刷部の印刷ハガレ
Po 着目画素
Pb 後方背景画素
Pbb 後方背景画素平均値
PGbb 後方背景画素群平均値
Pf 前方背景画素
Pfb 前方背景画素平均値
PGfb 前方背景画素群平均値
PGb 後方比較画素群、後方背景画素群
PGf 前方比較画素群、前方背景画素群
d スパン量
m 平均化領域の背景画素数(横軸方向)
n 平均化領域の背景画素数(縦軸方向)
AR 欠陥検出走査方向
[0001]
BACKGROUND OF THE INVENTION
The present invention is installed, for example, in an area or line for producing an inspection object such as a beverage container, images the inspection object with a camera, digitally processes the image of the camera, and inspects an appearance defect of the inspection object. Visual inspection equipment,
In particular, defects such as smudges and missing prints in complicated patterns (patterns) formed by printing on the object to be inspected and having a specific shading distribution, specifically fine defects (that is, fine The present invention relates to an appearance inspection apparatus that can accurately detect defects having a large difference in density level from the periphery and light defects (that is, defects having a small difference in density level from the surrounding area but are not so fine).
[0002]
In the following drawings, the same reference numerals denote the same or corresponding parts.
[0003]
[Prior art]
Conventionally, in this type of visual inspection apparatus that performs digital processing of images captured by a camera of an object to be inspected with a specific pattern (pattern) to inspect defects in the pattern on the object to be inspected, missing prints, etc. In order to prevent false defect detection, manually set the area excluding the edge part with a large shading change in the picture according to the picture in advance, and set the picture area excluding this edge part. For the above image, a difference in gray level between a point of interest on the image and its periphery was detected to detect a defect.
[0004]
[Problems to be solved by the invention]
However, when a specific pattern to be inspected becomes complicated, it is extremely difficult to manually set an area other than the edge in the pattern. ThereIn the present inventionThe purpose is to solve this problem and automatically generate an edge mask image for extracting an inspection object image other than the edge from the image of the original pattern of the object to be inspected regardless of the complexity of the pattern. Is to provide.
[0005]
Next, if the image to be inspected has a dark area with a very low density level, such as a black pattern, and there is a defect in the dark area, for example, the black printed portion of the metallic beverage can as the inspection object is printed When there is a small spot-like bright spot of about 0.5 mmφ exposed, when the size of the bright spot is equal to or smaller than the light receiving area of one pixel of the image sensor, Due to the offset at the time of A / D conversion or the response characteristics of the video signal amplifier, the video signal voltage (density signal level) does not rise to the original density level of the bright spot, and the bright spot has a large area. There is a phenomenon that the response density level becomes smaller than the case.
[0006]
For this reason, if the same defect detection sensitivity is applied to the dark area as in the area excluding the dark area, the detection sensitivity of the dark area is significantly reduced, and if the detection sensitivity of the dark area is increased, the dark area is excluded. There is a problem that the detection sensitivity in the region becomes too high, and a non-defective product is erroneously detected as a defective product, thereby reducing the production efficiency.
In order to solve this problem, the dark area may be designated as an individual inspection area different from the area excluding the dark area, and the defect detection sensitivity corresponding to the individual inspection area may be set. In many cases, there is no clear boundary, and it is practically difficult to manually set the dark area. Also, since the density gradient of the image is relatively large near the boundary between the dark area and the non-dark area, there is a possibility that a defect is erroneously detected. Therefore, it is necessary to mask this boundary area in the same manner as the edge portion of the pattern.
[0007]
In addition, when the inspection target image is a color image, and the defect detection is performed by masking the inspection target image for each color component of RGB with the mask image of the corresponding color component, it is separated for each color component due to subtle variations in the print color. In particular, since the position of the edge portion and the density gradient in the pattern of the image fluctuate, there is a problem that the defect detection is mistaken near the edge. ThereIn other of the present inventionThe purpose is to solve this problem, to automatically extract a dark area from an inspection object image obtained by imaging a non-defective inspection object, to obtain a dark window image, and from a non-defective inspection object image as in the first invention. An appearance inspection apparatus that automatically generates an inspection mask image for extracting inspection target pixels in the dark area from the obtained edge mask image and the dark window image, and when the inspection target image is a color image, for each color component of RGB Using a common edge mask image consisting of the logical sum of individual edge mask images, create an inspection mask image used for image inspection for each RGB color component, and detect defect detection errors based on color fluctuations near the edges of the pattern An object of the present invention is to provide a visual inspection apparatus for preventing the above.
[0008]
Next, when the image to be inspected includes a horizontal striped pattern in which parallel thin lines are arranged, using the edge mask image causes a problem that the striped pattern portion is almost covered with the edge mask image and the defect cannot be detected. is there. ThereIn other of the present inventionThe object is to provide an appearance inspection apparatus that can solve this problem, extract a striped pattern area in an inspection target image without using an edge mask image, and perform reliable defect detection of the striped pattern area. is there.
[0010]
[Means for Solving the Problems]
In order to solve the above-mentioned problems, the appearance inspection apparatus according to claim 1 is a pattern (31) formed by printing on an object to be inspected (work 20) having a metal as a base and having a predetermined light and shade distribution. ) (Via the camera 6), and A / D conversion (via the A / D conversion unit 1) of the picture of the picture obtained by this imaging is performed to obtain a digital image (development image 30). (Hereinafter, referred to as an image to be inspected) (and stored in the image memory 2), processing the density information of the image to be inspected, and detecting defects such as stains and missing prints on the image to be inspected. An appearance inspection apparatus (such as the image processing apparatus 01) that determines the quality of an inspection object,
ForecastInspected as good productsFirst cover obtained from the objectAn edge as a portion having a density gradient of a predetermined value or more on the inspection image is detected by two-dimensional differentiation processing (using a Sobel operator or the like), and all edge pixels obtained by this detection are detected on the inspection object. Depending on the shape etc.First coverFor each of one or a plurality of individual inspection areas (32-3, 32-4, etc.) set in the inspection image, N is an integer including 0 determined according to the individual inspection area. To generate an edge mask image (30M) that is inflated and to be inspected as a non-defective productFirst cover on the objectAfter obtaining a dark part binary image showing a pixel in the dark part region (100D) having a density level equal to or lower than a predetermined value on the inspection image by dividing it from other pixels, pixels in the dark part region on the dark part binary image are obtained. Is reduced by N pixels (where N is an integer including 0 determined according to the dark area), and a dark part window image (30D) is generated. An inspection mask image (30T) for masking pixels other than the inspection target pixel on the dark part window image is generated (and masked) using pixels excluding pixels corresponding to edge pixels on the edge mask image as inspection target pixels. Means (stored in the memory 3) (such as the microprocessor 5);Cover to be judged good or badObtained from inspectionSecond coverThe inspection image is masked by the inspection mask image so that the positions of the patterns corresponding to both images match, and the mask after the maskingSecond coverDefect detection means (defect detection circuit 4, defect count unit 7, microprocessor 5) that performs the defect detection with each region formed by connecting the inspection target pixels as one of the individual inspection regions for an inspection image. Etc.).
[0012]
Then billItem 2Appearance inspection device, claim1In the appearance inspection apparatus described above, when the image to be inspected is a color image, the edge mask image (individual edge mask image) generated with the one color component at the time of the defect detection performed for each RGB color component. 30M) is replaced with a new edge mask image (common edge mask image 30MK) that masks all of the pixels masked by any of the edge mask images for each color component.
[0013]
Next billItem 3Appearance inspection device, claim1 or 2In any one of the appearance inspection apparatuses, the defect detection unit moves the pixel of interest (Po) one pixel at a time along the scanning line to the density value (Po) of the pixel of interest and the scanning line of the pixel of interest. Before and after the alignment, an interval (span amount d) determined according to the individual inspection area is provided, and a number (m) of pixels determined according to the individual inspection area are connected in the scanning direction ( The difference between the average density values (Pfb and Pbb) of the pixel area (of the front background pixel Pf and the rear background pixel Pb) is obtained, and either of the previous and subsequent differences is set to a threshold value determined according to the individual inspection area. It is assumed that a first fine defect detecting means for determining that the pixel of interest is a defective pixel when it exceeds the threshold value is provided.
[0014]
Next billItem 4No appearance inspection device is claimed in claim 1Of 3In any one of the appearance inspection apparatuses, the defect detection unit moves the pixel of interest (Po) one pixel at a time along the scanning line to the density value (Po) of the pixel of interest and the scanning line of the pixel of interest. Before and after the alignment, m pixels × n pixels (where m and n are integers determined according to the individual inspection area), with an interval (span amount d) determined according to the individual inspection area. The difference between the two pixel areas (PGfb and PGbb) (of the front background pixel group PGf and the rear background pixel group PGb) is obtained, and any of the previous and subsequent differences is determined as the individual difference. It is assumed that there is provided a second fine defect detection unit that determines that the target pixel is a defective pixel when a threshold value determined in accordance with the inspection area is exceeded.
[0015]
Next billItem 5No appearance inspection device is claimed in claim 14In any one of the visual inspection apparatuses, the defect detection unit includes m pixels × n pixels (a span amount d) that is set in accordance with the individual inspection area before and after the scanning line. , M, n are integers determined according to the individual inspection area), and one of the two pixel areas (PGf, PGb, hereinafter referred to as a comparison pixel group) is a predetermined comparison pixel group. The representative pixel is a pixel of interest, and the pixel of interest is moved one pixel at a time along the scanning line, and the difference between the respective density average values of the comparison pixel groups before and after this is obtained. It is assumed that there is provided a light defect detection means for determining that the pixel of interest is a defective pixel when a threshold value determined accordingly is exceeded.
[0017]
Also as the mainBookThe effect of the invention is that a dark area on a non-defective inspection target image is extracted in advance by darkening the density by binarization, and an edge mask image obtained from the non-defective inspection target image is used. By generating an inspection mask image for extracting a pixel to be inspected and masking the pattern image of the original inspection object with this inspection mask image, the defective pixel can be obtained even in a dark area where the density level is low. When the inspection target image is a color image, when creating an inspection mask image for each RGB color component, instead of individual edge mask images for each RGB color component, individual edges are used. By using the edge mask image common to each color component consisting of the logical sum of the mask image, defect detection near the edge of the pattern based on the color variation, etc. Ri is intended to as to prevent.
[0019]
DETAILED DESCRIPTION OF THE INVENTION
(Embodiment 1)
First, a first embodiment of the first invention related to claims 1, 5 and 7 will be described with reference to FIGS.
FIG. 2 is an explanatory diagram of an image pickup unit as an embodiment of the first invention. In the figure, reference numeral 20 denotes a work as an object to be inspected. In this example, 20 is a cylindrical container such as beer or juice, but a container such as a paper cup having a taber side surface may be used. Reference numeral 20a denotes a body portion as a cylindrical portion of the workpiece 20, and reference numeral 20b denotes a neck portion as an upper constriction portion following the body portion 20a of the workpiece 20.
[0020]
Reference numeral 31 denotes a pattern printed on the entire outer peripheral surface of the workpiece 20. The picture 31 includes a letter “A” and a black circle as well as a white background. In general, it is not a simple one as shown in this figure, but is usually a complex one composed of various characters and figures.
Reference numeral 14 denotes a motor that rotates the workpiece 20 at a constant speed with its central axis as the rotation axis 15, 11 is a light source, and its output light becomes illumination light 13 arranged in parallel on one plane via the line type fiber 12. Illuminate the outer peripheral surface of the line. Reference numeral 13 a denotes an illuminated line (illuminated line) on the outer peripheral surface of the workpiece 20.
[0021]
In this example, this illumination is performed so that the portion of the illuminated line 13a on the workpiece body 20a is parallel to the workpiece rotation axis 15.
Reference numeral 6 denotes a line camera that images the portion of the illuminated line 13a on the outer peripheral surface of the work 20 in a state where the work 20 is rotating at a constant speed as shown in the figure.
The rotational speed of the workpiece 20 is comprehensively determined based on the diameter of the workpiece 20, the amount of illumination light, the brightness of the camera lens, the number of processes as the apparatus, and the like. p. m.
[0022]
Video information on the illuminated line 13a picked up by the line camera 6 is sent from the camera 6 to the main body 01a of the image processing apparatus 01 shown in FIG. In the main unit 01a, digital video information on the illuminated line 13a is accumulated for one rotation of the work 20, and a two-dimensional image described below is obtained.
[0023]
FIG. 3 shows a developed image (that is, a print screen on the outer peripheral surface of the workpiece 20) 30 in which the image of the image taken by the line type camera 6 is developed into a two-dimensional image of one rotation of the workpiece 20. The entire developed image 30 is an image of the pattern 31. The image of the pattern 31 is formed with a predetermined shading distribution.
32 (32-1, 32-2) are individual inspection areas corresponding to the body portion 20a and the curved surface portion 20b of the workpiece 20 set for defect inspection in the developed image 30, respectively. The reason for dividing the defect inspection area in this way is that the curved surface portion 20b having a sagged shape is less likely to reflect the illumination light 13 (that is, darker) than the body portion 20a. This is because it is better to divide the parameters into the individual inspection areas 32-1 and 32-2.
[0024]
4 shows a mask image extracted and generated as described later from the developed image 30 of FIG. 3 for the workpiece 20 that has been determined to be non-defective in advance (hereinafter, this mask image is referred to as an edge mask image in order to distinguish the mask image more strictly). 30M).
The developed image 30 in FIG. 3 for the workpiece 20 to be inspected is masked by aligning the position of the pattern 31 with the edge mask image 30M in FIG. 4, so that the individual inspection areas 32-1 and 32-2 in the developed image 30 are masked. A print screen area corresponding to the area shown in white in FIG. 4 is extracted, and this is the area to be inspected in this example.
[0025]
FIG. 1 is a block diagram showing the configuration of an image processing apparatus as an embodiment of the first invention. The image processing apparatus 01 includes the image processing apparatus main body 01a and the camera 6. In the image processing apparatus main body 01a, 5 is a microprocessor for controlling the entire apparatus.
Reference numeral 1 denotes an A / D converter that converts an analog image signal output from the camera 6 while scanning the captured image in the vertical direction (Y-axis direction) in this example to a digital image signal, and 2 denotes the digital image signal. It is an image memory that stores a digital image that is input and corresponding to captured images of at least the entire circumference of the workpiece 20.
[0026]
Reference numerals 3, 4, and 7 denote a mask memory, a defect detection circuit, and a defect count section, which will be described later, which are the main parts of the first invention. A bus 8 couples the microprocessor 5 with the image memory 2, the mask memory 3, the defect count unit 7, and the like.
FIG. 7 is a flowchart showing a processing procedure of the image processing apparatus 01, and S1 to S12 are step numbers of this processing. Next, the processing contents of the first invention will be described along this flowchart with reference to other drawings as appropriate.
[0027]
In this embodiment, the difference processing described later is performed on the entire surface of the developed image (print screen) 30 (FIG. 3) as a digital image of the pattern 31 on the outer peripheral surface of the work 20 imaged by the line-type camera 6 to cause a print defect. However, if a portion having a large density change (density gradient) in the pattern 31 is not masked at the time of the difference, that portion will be erroneously detected. Therefore, first, processing for generating an edge mask image 30M for masking (FIG. 4) is performed.
[0028]
That is, the work 20 that has been determined to be non-defective in advance is imaged by the camera 6 (step S1), and a non-defective image 30 is acquired via the A / D conversion unit 1 and stored in the image memory 2.
Next, a sobel operator, which is a well-known two-dimensional differential processing means, is applied to the non-defective developed image 30 stored in the image memory 2 so that the density gradient in the pattern 31 is larger than a predetermined value. A certain edge is detected (step S2).
[0029]
The processing of the Sobel operator is executed by a circuit that applies the Sobel operator to the image, or if the processing time is not a problem, the microprocessor 5 accesses the image memory 2 to calculate the operator for each pixel. And extract edges.
Then, the operation result of the Sobel operator is binarized to obtain an edge mask image 30M composed of edge pixels located at the edge portion (step S3).
[0030]
The edge mask image 30M may be left as it is when the position variation of the image is extremely small. However, when there is a position variation of the image based on the printing of the pattern 31 or the rotation of the workpiece 20, one or more edge mask images 30M are used. The edge mask image 30M is expanded inside and outside the edge by a predetermined number of pixels. Note that the magnitude of this expansion may be changed between the individual inspection areas 32-1 and 32-2. Then, the edge mask image 30M generated in this way is stored in the mask memory 3 (step S3a).
[0031]
Next, when masking the developed image 30 to be inspected with the edge mask image 30M, a reference position for superimposing the images 30M and 30 on each other is registered (step S4), and the inspection mode is entered (step S5). .
Note that the reference position is a partial image of, for example, about 20 pixels × 20 pixels in the developed image 30 (and thus the pattern 31), and appears only once in one round of the outer periphery of the work 20, that is, the developed image. A characteristic partial image position whose position is uniquely determined by 30 scans is selected.
[0032]
A reference position 33 indicated by a one-dot chain line in FIG. 8 shows an example of a reference position on the developed image 30. In step S4, coordinates indicating the relative position of the reference position 33 on the developed image 30 are shown. , And an image pattern in a square frame of a one-dot chain line are registered.
In the inspection mode, first, the outer peripheral surface (pattern printed surface) of the workpiece 20 as an inspection object is imaged in the same manner as in the case of the above-mentioned non-defective product, and the developed image 30 is stored in the image memory 2 (step S6).
[0033]
Next, the developed image 30 of the inspection object is scanned, the reference position 33 is detected by a pattern matching method, and the developed image 30 is transferred to the defect detection circuit 4. On the other hand, the edge mask image 30M in the mask memory 3 is also aligned with the reference position 33 (that is, the original developed image 30 of the edge mask image 30M and the developed image 30 of the inspection object are correctly matched). By transferring the defect image to the defect detection circuit 4 (in a positional relationship), the developed image 30 of the object to be inspected is converted into an edge image.TheMasking is performed with the mask image 30M (step S7).
[0034]
In the defect detection circuit 4, an image region generated by the mask process, excluding the edge mask image 30 M from the developed image 30 of the inspection object (that is, an image that does not include a partial image with a large density gradient that becomes an erroneous defect). The difference between smoothing and integration described below is taken for (region), and the defect is inspected (step S8).
In other words, defect detection is performed for each pixel in the scanning direction (specifically, the direction of raster scanning which is the Y-axis or X-axis direction, that is, either the vertical or horizontal direction). The difference between the gray level of the target pixel or the gray level average value of the predetermined pixel area with the target pixel as the representative pixel and the gray level average value of the predetermined peripheral pixel area before and after the pixel area is taken, and the difference is greater than or equal to the threshold value. At this time, the target pixel is detected as a defective pixel.
[0035]
Then, the defective pixel is counted by the defect counting unit 7 to check whether or not the number of defective pixels is equal to or larger than a predetermined threshold (step S9). As a result, if the number of defective pixels is equal to or greater than a predetermined threshold (branch Y), the inspection object (work 20) is defective (step S10), otherwise (step S9, branch N), The inspection object (work 20) is determined to be good (step S11).
[0036]
The number of defective pixels is counted separately for the individual inspection areas 32 (32-1, 32-2), and the defect set for each of the individual inspection areas 32-1, 32-2 is also determined for good / bad. This is performed according to a threshold value of the number of pixels. Therefore, if there is a defect determination in any of the individual inspection areas 32-1 and 32-2, the object to be inspected is a defective product, and a good determination is made in both the individual inspection areas 32-1 and 32-2. If so, the object to be inspected becomes a genuine good product.
[0037]
In the above-described difference inspection, the pixel itself that is added to the calculation does not match the mask pixel (that is, the masked pixel, which is the pixel included in the edge mask image 30M in the case of the first invention), and the target point and the peripheral pixel Is performed on condition that there is no mask pixel in a span amount d (described later) in which the interval is expressed by the number of pixels.
FIG. 5 shows a first smooth difference inspection for detecting a fine defect which is fine but has a large difference in gray level between the point of interest and the periphery. FIG. 6 shows a small difference in gray level between the point of interest and the periphery. It is each principle explanatory drawing of the integral difference inspection which detects the light defect which is not.
[0038]
For the fine defect, as shown in the explanatory diagram of the first smoothing difference inspection in FIG. 5, refer to the pixel value (density value) Po of the pixel of interest Po and the back of the pixel of interest Po together with scanning (see FIG. 5A). ), The difference from the pixel average value (density average value) Pbb of m pixels (referred to as the back background pixel Pb) separated by the span amount d, and the pixel value (density value) Po of the pixel of interest Po and the pixel of interest Any of the differences from the pixel average value (density average value) Pfb of m pixels (referred to as the front background pixel Pf) separated by the span amount d in front of Po (see FIG. 5, b) is a predetermined 2 When the threshold value is exceeded, the pixel of interest Po is set as a defective pixel.
[0039]
Note that the hatched pixels in the rear background pixel Pb and the front background pixel Pf in FIG. 5 represent pixels representing the positions of the m pixels in the averaging region. The number m of background pixels, the span amount d, and the binarization threshold in the smooth difference inspection are determined separately for the individual inspection area 32 (32-1, 32-2).
As for the light defect, as shown in the explanatory diagram of the integral difference inspection in FIG. 6, there are two such that the representative pixels of the pixel group of n pixels × m pixels (referred to as a comparison pixel group) are spaced by the span amount d. The difference between the average pixel values obtained by integrating the pixel values of the comparison pixel group, that is, the comparison pixel group PGf in the front and the comparison pixel group PGb in the rear, on the scanning line Compared with a predetermined binarization threshold while moving, and when the difference exceeds the binarization threshold, pay attention to one of the representative pixels of the comparison pixel groups PGf and PGb, for example, the representative pixel of the rear comparison pixel group PGb The pixel Po is a defective pixel.
[0040]
Also in this integral difference inspection, the number of pixels m and n (in this example, both are selected in the range of 1, 2 and 4 pixels for ease of calculation), the span amount d, and the binarization threshold are the individual It is determined separately for the inspection area 32 (32-1, 32-2).
In this manner, the processing after step S6 is repeated for each object to be inspected, the quality is determined, and the inspection mode is terminated when necessary (step S12).
[0041]
By the way, the camera 6 used in the image processing apparatus 01 may be a monochrome camera or a color camera. In the case of a color camera, an edge mask image 30M for each RGB color from the three developed images 30 that are separated for each RGB color. The developed image 30 of the inspected object is also acquired for each of the RGB colors and inspected for each color, and when the developed image 30 of any color is determined to be a non-defective product, Make it a genuine good product.
[0042]
(Embodiment 2)
Next, an embodiment of the second invention mainly related to claims 2, 3 and 6 will be described mainly with reference to FIGS. In this embodiment, the configuration of the image processing apparatus 01 of FIG. 1 and the imaging unit of FIG. 2 (except for the configuration of the pattern 31 and the individual inspection area 32 of the imaging target workpiece 20 of FIG. 2) are applicable.
[0043]
FIG. 9 shows a workpiece 20 which is a cylindrical container having a dark area as one embodiment of the second invention, and a black pattern 42 or the like is formed on the entire circumference of the container bottom side as the lower part of the trunk portion 20a of the workpiece 20. It is assumed that there is a black printing unit 100 made of other patterns having gradation.
FIG. 10 shows an example of the density distribution on the vertical broken line connecting the points YA, YP and YB on the body 20a of the workpiece 20 of FIG. Note that the black printing portion 100 is between the points YA and YP.
[0044]
In other words, the black printing portion 100 is approximately 30 levels or less in 256 gradation levels. In this example, the density between the points YA and YB changes with gradation, and there is no clear boundary line between the background 102 and the black printing unit 100. The pattern 41 in FIG. 9 is lighter than the black printing unit 100 and darker than the background 102, and the pattern 42 is darkest.
[0045]
When printing peeling 101 occurs in the black printing unit 100, the metal ground of the beverage can is exposed, and the exposed portion is mirror-like, so that the illumination light is reflected and becomes a spot-like bright spot. If such a bright spot has a large area, the density signal level reaches a saturation level, but if the bright spot is small, it responds only to about plus 15 to 20 levels with respect to the dark part level.
[0046]
For this reason, in the second invention, a dark part region such as the black printing unit 100 is extracted by the method described below, and the dark part region is defined as a separate region (32-3 in this example) of the individual inspection region 32. An image defect such as the print peeling 101 in the area is detected.
FIGS. 11 to 14 show images used for the image defect detection processing in the dark area when the workpiece 20 of FIG. 9 is the inspection object, and FIG. 15 shows the second smoothing difference inspection applied in this embodiment. Show the principle.
[0047]
FIG. 16 is a flowchart showing a basic processing procedure of the image processing apparatus 01 of FIG. 1 as one embodiment of the second invention, and this figure corresponds to FIG. In FIG. 16, steps S3b to S3d are added to FIG. 7, and steps S7 and S8 are replaced with S7A and S8A, respectively.
Next, the procedure of FIG. 16 will be described mainly with respect to the points different from FIG. 7 while adding the description of FIGS.
[0048]
First, as in the case of FIG. 7, a non-defective inspection object (in this example, the work 20 in FIG. 9) is imaged by the camera 6 to obtain a developed image 30 as shown in FIG. 11, and the image memory 2 in FIG. (Step S1).
Next, as in the case of FIG. 7, for example, a Sobel operator is applied to the developed image 30 of FIG. 11 (step S <b> 2), and then fixed binarization is performed to obtain an edge mask image 30 </ b> M as shown in FIG. Step S3).
[0049]
In FIG. 13, 41E and 42E as the portions represented by black lines are the edges of the patterns 41 and 42, respectively. Each pixel of the edges 41E and 42E is represented by data 1, and pixels other than the edges are represented by data 0. Has been. Further, as in the case of FIG. 7, the edge mask image 30M is expanded to the inside and the outside of the edge according to the degree of position variation of the image (step S3a).
[0050]
Next, the dark part area | region in the black printing part 100 of the workpiece | work 20 is extracted from the expansion | deployment image 30 of the good workpiece | work 20 of FIG. For this purpose, the developed image 30 is fixed and binarized by setting the density threshold THD to about 30, and a dark window image 30D as shown in FIG. 12 is obtained (step S3b).
In the dark part window image 30D, the extracted dark part region 100D has data of 1 for each pixel, and the data of each pixel has 0 except for the dark part region 100D. A point YP in FIG. 9 represents the position of the pixel corresponding to the density threshold value THD, as shown in FIG.
[0051]
Next, the dark portion window image 30D is reduced by a predetermined amount according to the degree of gradation on the black printing portion 100 (S3c). This is because the dark area 100D (data) is used in order to prevent erroneous detection of defective pixels in the vicinity of the boundary between the dark area 100D (data: 1) and the other area (data: 0), which is the target area for image defect detection. 1) it is necessary to narrow the position.
[0052]
Next, even in the dark part region 100D, there may be a case where an edge of the pattern (in this example, the edge 42E of the pattern 42) exists. Therefore, the polarity of the dark part window image 30D that has undergone the reduction processing in step S3c is reversed. 13 (ie, the pixel area to be masked is data 1 and the non-mask area (inspection target pixel area) is data 0, with the same logical polarity as the mask image), and the edge mask of FIG. 13 that has undergone the expansion process in step S3a A logical sum image with the image 30M is obtained, and an inspection mask image 30T (that is, a mask image used for actual inspection) 30T as shown in FIG. 14 is obtained (step S3d), and this inspection mask image 30T is stored in the mask memory 3 of FIG. To store.
[0053]
Similarly to the case of FIG. 7, the reference position on the image when the developed image 30 of the inspection object is masked with the inspection mask image 30T is registered, and the inspection mode is entered (steps S4 and S5).
In the inspection mask image 30T, the pixel of data 1 is masked and defect detection is not performed, and the pixel of data 0 is detected defect. In other words, in the present example, out of the pixels in the dark area 100D shown in FIG. 12, the pixels excluding the pixels of the edge 42E of the pattern 42 in the dark area 100D become the defect detection target pixels.
[0054]
Next, in the inspection mode, as in the case of FIG. 7, after imaging the workpiece 20 of the inspection object (step S6), the defect detection circuit 4 of FIG. 1 displays the developed image 30 of the inspection object obtained by this imaging. Then, the inspection mask image 30T stored in the mask memory 3 is masked so that the reference positions of both the images 30 and 30T coincide with each other (step S7A).
[0055]
Then, the detection target pixel area on the dark area 100D extracted with this mask is set as a separate individual inspection area (32-3 in this example), the detection sensitivity is increased exclusively for the dark area, and defective pixels are detected by differential inspection ( Step S8A).
Note that, if necessary, the defect detection parameters such as detection sensitivity are changed with the pixel area to be inspected surrounded by the edge 42E in the dark area 100D as another individual inspection area (32-4 in the example of FIG. 14). There is also.
[0056]
5 and 6 may generally be applied to the difference inspection, but in this embodiment, a fine defect is detected by using the second smoothing difference inspection method shown in FIG.
The principle of FIG. 15 is basically the same as that of FIG. 5 (first smoothing difference inspection), but the difference from FIG. 5 is that the front and rear background pixels to be compared with the pixel of interest Po are arranged in a line. This is a point in which a pixel group of m pixels × n pixel regions is formed from m pixels.
[0057]
In the smoothing difference inspection in FIG. 15, the pixel value (density value) Po of the pixel of interest Po and the pixel behind the pixel of interest Po (see FIG. 15A) along with scanning are n pixels × m pixels separated by the span amount d. The difference from the pixel average value (density average value) PGbb of the back background pixel group PGb, the pixel value (density value) Po of the pixel of interest Po, and the front of the pixel of interest Po (see FIG. 15, b)), span The difference from the pixel average value (density average value) PGfb of the front background pixel group PGf of n pixels × m pixels separated by the amount d is predetermined binarized while moving the pixel of interest Po on the scanning line one pixel at a time. Compared with the threshold value, when any of the differences exceeds a predetermined binarization threshold value, the pixel of interest Po is determined as a defective pixel.
[0058]
Note that the hatched pixels in the rear background pixel group PGb and the front background pixel group PGf in FIG. 15 represent pixels that represent the position of an area of n pixels × m pixels. In addition, the number m and n of pixels in this difference inspection (in this example, both are selected in the range of 1, 2 and 4 pixels for ease of calculation), the span amount d, and the binarization threshold are the individual inspection regions ( In this example, it is defined for 32-3).
[0059]
The second smoothing difference inspection method of FIG. 15 can generally be applied to the first invention described above and the third invention described later.
Next, when the image of the inspection object is a color image, basically, the processing of FIG. 16 may be performed on the image for each color component obtained by decomposing the inspection object into RGB color components. Then, there is a subtle variation in print color, and when color separation is performed into RGB, there is a variation in density level for a specific color component.
[0060]
For this reason, a pixel to be masked in an edge mask image with a certain color component is not masked with an edge mask image with another color component, but becomes a pixel to be inspected, and defect detection may be erroneously performed.
FIG. 17 is a flowchart showing a color image processing procedure of the image processing apparatus 01 that prevents such erroneous detection of a defect, and corresponds to FIG. Here, steps S101 to S103, S103a to S103d, S104 to S106, S107A, S108A, and S109 to S112 in FIG. Corresponds to ~ S12.
[0061]
However, in FIG. 17, with respect to FIG. 16, branch steps BR1 to BR3 for confirming whether or not the processing for each of the RGB color components has been completed in the course of the series of processing of FIG. S103A is added.
Here, the workpiece 20 in FIG. 9 is an inspected object printed in color, and FIG. 17 will be described mainly with respect to the differences from FIG. 16. First, the non-defective workpiece 20 is decomposed into RGB color components and imaged (steps). S101) From the developed image 30 of one color component, an edge mask image for each color component (herein referred to as “individual edge mask image”) 30M that has been expanded in accordance with image fluctuations as in FIG. Repeat for three color components (steps S102 to S103a, BR1).
[0062]
Then, in the next step S103A which is the eye of the processing of FIG. 17, it is composed of the logical sum of the three individual edge mask images 30M for each RGB color component described above (that is, masked by the individual edge mask image 30M for each color component). A common edge mask image 30MK is obtained as an edge mask image (where all pixels to be masked are mask pixels).
[0063]
Next, as in FIG. 16, the developed image 30 of one color component of the non-defective work 20 is fixed and binarized, and a dark part window image 30D for the one color component reduced according to the image variation is created. The logic of the dark part window image 30D is inverted to obtain a logical sum with the common edge mask image 30MK, and the inspection mask image 30T of the one color component is created (steps S103b to S103d). Then, the processing in steps S103b to S103d is repeated for each color component, and inspection mask images 30T for three RGB color components are obtained (step BR2) and stored in the mask memory 3.
[0064]
Next, the reference positions of the developed image 30 and the inspection mask image 30T for each color component are registered in the same manner as in FIG. 16, and the inspection mode is entered (steps S104 and S105).
In the inspection mode, after the workpiece 20 of the inspection object is color-separated into RGB and imaged (step S106), the defect detection circuit 4 displays the developed image 30 for each color component of the inspection object obtained by this imaging. 16, the developed image 30 of each one-color component is masked with the inspection mask image 30 </ b> T of the one-color component so that the reference positions of both the images 30 and 30 </ b> T coincide with each other. A difference inspection of (non-masked pixels) is performed (steps S107A and S108A). Then, the number of defective pixels is checked through the defect count unit 7 (S109).
[0065]
Then, the processes in steps S107A to S109 are repeated for the three color components of RGB (step BR3), and in the process of repetition, the number of defective pixels equal to or greater than the threshold is detected in any of the individual color components. The inspection object is determined to be defective (step S110), and the inspection objects determined to be good for all the color components are finally determined as non-defective products (steps S111 and S112).
[0066]
(Embodiment 3)
Next, an embodiment of the third invention related mainly to claim 4 will be described mainly with reference to FIGS. In this embodiment, the configuration of the image processing apparatus 01 of FIG. 1 and the imaging unit of FIG. 2 (except for the configuration of the pattern 31 and the individual inspection area 32 of the imaging target workpiece 20 of FIG. 2) are applicable.
[0067]
FIG. 18 shows the appearance of a work 20 of a container having a striped pattern area as one embodiment of the third invention. In the example of FIG. 18, it is assumed that there is a striped pattern printing unit 200 in which a horizontal striped pattern 43 is printed below the cylindrical body 20 a of the workpiece 20 having the same shape as shown in FIG. It is assumed that the printing defect occurs as an image defect generated in the printing unit 200. Moreover, the direction of the straight line which forms the stripe of the horizontal stripe pattern 43 is assumed to face the circumferential direction of the cylindrical body 20a in this example.
[0068]
FIG. 19 shows a developed image 30 obtained by imaging the work 20 of FIG. An edge mask image is created from the developed image 30 of the inspection object including the horizontal striped pattern 43 as shown in FIG. 19 as in the first invention, and when the developed image 30 is masked, the straight stripes forming the horizontal striped pattern 43 are formed. The entire portion is masked, and an image defect such as the print peeling 201 in FIG. 18 cannot be detected.
[0069]
For this reason, in the embodiment of the third invention, a separate individual inspection area 32 (this example) is used without using an edge mask for the existence area of only the straight lines forming the stripes of the horizontal stripe pattern 43 in the stripe pattern printing unit 200. In this individual inspection area 32-5, the defect detection scanning direction is set in the same direction as the straight line forming the stripes, and the m pixels × n pixels shown in FIG. The image defect such as a printing defect is detected by performing the light defect detection process according to.
[0070]
FIG. 20 is a flowchart showing the processing operation of the image processing apparatus 01 of FIG. 1 as one embodiment of the third invention, that is, in this case, the horizontal stripe pattern when the work 20 of FIG. Fig. 4 shows a flowchart of image inspection.
Note that steps S201, S204 to S207A, and S209 to S212 in FIG. 20 are the same processes as steps S1, S4 to S7A, and S9 to S12 in FIG. 16, respectively, and steps SP1, SP2, and S208B in FIG. It is a unique process.
[0071]
Therefore, the specific processing will be mainly described below. In FIG. 20, first, a non-defective product of the workpiece 20 shown in FIG. 18 is imaged (step S <b> 201), and then the position of the existence area of only the straight lines forming the stripes of the horizontal stripe pattern 43 printed on the workpiece 20 is image processing apparatus. 01 is set, and this existence area is set as an individual inspection area 32-5 (step SP1).
[0072]
Next, an inspection mask image for masking pixels other than the individual inspection area 32-5 on the non-defective image is created (step SP2) and stored in the mask memory 3.
Further, in the inspection mode, the defect detection circuit 4 masks an image (in this case, the developed image 30 in FIG. 19) obtained by imaging the inspected product by matching the reference positions of both images with the inspection mask image. (Steps S206 and S207A).
[0073]
Then, a non-mask pixel on the inspection target image obtained by imaging the inspected product, that is, a pixel in the individual inspection area 32-5 is differentially inspected to detect defective pixels. In this differential inspection, in this embodiment, the scanning direction AR of defect detection is set to the direction of a straight line that forms the stripes of the horizontal stripe pattern 43, and the light defect detection processing by m pixels × n pixels shown in FIG. This is performed (step S208B).
[0074]
For defect inspection of other individual inspection areas other than the individual inspection area 32-5, as in the case of the first or second embodiment, an edge mask image obtained from the developed image 30 in FIG. 19 is used. it can. This is because the inspection sensitivity of the horizontal stripe pattern portion is lowered by the mask, and no defect is detected in the horizontal stripe pattern portion, so that it is not necessary to particularly distinguish the horizontal stripe pattern region.
[0075]
【The invention's effect】
According to the first aspect of the present invention, the edge portion having a large density change in the image of the pattern on the object to be inspected determined in advance is detected by two-dimensional differentiation processing, and the edge pixel obtained by this detection is detected as the pattern image. For each individual inspection area set in accordance with the shape of the object to be inspected, a predetermined integer pixel including 0 is expanded to generate an edge mask image,
The defect inspection image area in the pattern image of the inspection object is extracted by masking the pattern image of the original inspection object with this edge mask image so that it is independent of the complexity of the pattern. Thus, the defect inspection area is automatically determined, and the labor and time for defect inspection can be reduced as compared with the case where the defect inspection area is manually set according to the conventional pattern.
[0076]
In addition, the density value or density average of the point of interest in the area other than the edge in the pattern as the defect inspection image area extracted as described above, without erroneously capturing defects due to a large change in shading at the edge in the pattern Since the defect portion is detected by comparing the level difference between the value and the average density value of the background before and after it with a threshold value, it is possible to accurately detect a fine defect or a light defect regardless of the pattern.
[0077]
Next, according to the second aspect, the dark part is obtained from the dark part window image obtained by extracting the dark part area of the inspection target image by binarizing the density and the edge mask image obtained from the inspection target image in the same manner as the first aspect. An inspection mask image for extracting inspection target pixels in an area is automatically generated, and when the inspection target image is a color image, common to each color component consisting of a logical sum of individual edge mask images for each RGB color component Using the edge mask image of, the inspection mask image for each RGB color component was created.
Even in the dark area where the density level is small, defective pixels can be detected reliably, and fine print peeling in the black print area can also be detected as defective. Also in color image processing, it is possible to reliably detect defective pixels near the edge of a pattern while suppressing the influence of RGB color fluctuations.
[0078]
According to the third invention, a striped pattern region having a predetermined shape including parallel straight lines is extracted from the inspection target image without using an edge mask image, and the direction of the straight line is used as a scanning direction for defect detection. Since the difference inspection is performed on these pixels, the defective pixels in the striped pattern area can be reliably detected without being covered with the edge mask image, and fine print peeling in the striped pattern area can also be detected as defective.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a system configuration as an embodiment of the first to third inventions.
FIG. 2 is an explanatory diagram of an image pickup unit that similarly picks up an image on an inspection object.
3 is a diagram showing a developed image of a pattern on the inspection object in FIG. 2;
4 shows a mask image corresponding to FIG. 3;
FIG. 5 is a principle diagram of a first smoothing difference inspection in the first to third inventions.
FIG. 6 is a principle diagram of integral difference inspection in the first to third inventions.
FIG. 7 is a flowchart for explaining the operation as one embodiment of the first invention;
8 is a diagram showing an example of a reference position on the developed image of FIG.
FIG. 9 is an external view of an inspection object as one embodiment of the second invention.
10 is a diagram showing an example of a density distribution on the inspection object in FIG. 9;
11 is a diagram showing a developed image of the pattern on the inspection object in FIG. 9;
12 is a diagram showing a dark window image corresponding to FIG.
13 is a diagram showing an edge mask image corresponding to FIG.
14 shows an inspection mask image corresponding to FIG.
FIG. 15 is a principle diagram of a second smoothing difference inspection in the first to third inventions.
FIG. 16 is a flowchart for explaining the operation as one embodiment of the second invention;
FIG. 17 is a flowchart for explaining the operation during color image processing as another embodiment of the second invention;
FIG. 18 is an external view of an inspection object as an embodiment of the third invention.
19 is a diagram showing a developed image of a pattern on the inspection object in FIG. 18;
FIG. 20 is a flowchart for explaining the operation as one embodiment of the third invention;
[Explanation of symbols]
01 Image processing device
01a Image processing apparatus main body
1 A / D converter
2 Image memory
3 Mask memory
4 Defect detection circuit
5 Microprocessor
6 Camera (Line type camera)
7 Defect count section
8 Bus
11 Light source
12 line type fiber
13 Illumination light
13a Illuminated line
14 Motor
15 Workpiece rotation axis
20 work pieces
20a Work torso
20b Curved surface of workpiece
30 Unfolded image (print screen)
30M mask image, edge mask image, individual edge mask image
30MK common edge mask image
30D dark window image
30T inspection mask image
31 designs
32 (32-1 to 32-5) Individual inspection area
33 Reference position
41, 42 patterns
41E Edge of pattern 41
42E Edge of pattern 42
43 Horizontal Stripe Pattern
100 Black printing part
100D dark area
101 Print peeling in the black print section
102 background
200 Striped pattern printing department
201 Print stripping of the striped pattern printing section
Po pixel of interest
Pb Back background pixel
Pbb Average value of back background pixels
PGbb Rear background pixel group average value
Pf Front background pixel
Pfb Front background pixel average value
PGfb Front background pixel group average value
PGb Rear comparison pixel group, rear background pixel group
PGf Front comparison pixel group, front background pixel group
d Span amount
m Number of background pixels in the averaging area (horizontal axis direction)
n Number of background pixels in the averaging area (vertical direction)
AR Defect detection scan direction

Claims (5)

金属を下地とする被検査物上に印刷によって付され、所定の濃淡分布を持つて形成された絵柄を撮像し、
この撮像によって得られた該絵柄の映像をA/D変換して該絵柄に対応するデジタル画像(以下被検査画像という)を生成し、
該被検査画像の濃度情報を処理して該被検査画像上の汚れ、印刷抜け等の欠陥を検出し、被検査物の良否を判定する外観検査装置であって、
予め良品と判定された被検査物から得た第1の被検査画像上の所定値以上の濃度勾配を持つ部分としてのエッジを二次元微分処理により検出し、
この検出によって得られた全てのエッジ画素を、被検査物の形状等に応じて前記第1の被検査画像内に設定された1または複数の個別検査領域ごとに、N画素分(但し、Nは当該個別検査領域に応じて定められた0を含む整数とする)、膨張させてなるエッジマスク画像を生成し、
前記良品と判定された被検査物についての第1の被検査画像上の所定値以下の濃度レベルを持つ暗部領域の画素を、それ以外の画素と区分して示す暗部2値画像を得たのち、この暗部2値画像上の暗部領域の画素をN画素分(但し、Nは当該暗部領域に応じて定められた0を含む整数とする)縮小させてなる暗部ウインドウ画像を生成し、
該暗部ウインドウ画像上の暗部領域の画素から前記エッジマスク画像上のエッジ画素に相当する画素を除いた画素を検査対象画素として、前記暗部ウインドウ画像上の該検査対象画素以外の画素をマスクする検査マスク画像を生成する手段と、
良否を判定すべき被検査物から得た第2の被検査画像を前記検査マスク画像により、この両画像に対応する絵柄の位置が合致するようにマスクし、
このマスク後の前記第2の被検査画像を対象とし、前記検査対象画素が連結してなる各領域をそれぞれ前記個別検査領域の1つとして前記の欠陥検出を行う欠陥検出手段とを備えたことを特徴とする外観検査装置。
It is attached by the printing metal on the inspection Butsujo to underlying images a pattern formed by having a predetermined gray distribution,
A digital image corresponding to the picture (hereinafter referred to as an inspected image) is generated by A / D converting the picture of the picture obtained by this imaging,
A visual inspection apparatus that processes density information of the image to be inspected to detect defects such as stains and print defects on the image to be inspected, and determines the quality of the object to be inspected.
An edge as a portion having a density gradient equal to or higher than a predetermined value on the first inspected image obtained from the inspected object determined in advance as a non-defective product by two-dimensional differentiation processing;
All edge pixels obtained by the detection, per one or a plurality of discrete inspection area set before Symbol in the first inspection image in accordance with the shape of the object to be inspected, N pixels (where N is an integer including 0 determined according to the individual inspection region), and an expanded edge mask image is generated.
After obtaining a dark part binary image indicating pixels in the dark part region having a density level equal to or lower than a predetermined value on the first inspection image for the inspected object determined as the non-defective product , separately from the other pixels. Then, a dark part window image formed by reducing the pixels of the dark part region on the dark part binary image by N pixels (where N is an integer including 0 determined according to the dark part region) is generated,
Inspection that masks pixels other than the pixel to be inspected on the dark part window image, using pixels obtained by removing pixels corresponding to edge pixels on the edge mask image from pixels in the dark part region on the dark part window image as inspection target pixels Means for generating a mask image;
Masking the second inspection image obtained from the inspection object to be judged as good or bad by the inspection mask image so that the positions of the patterns corresponding to both images match,
Previous SL second inspection image after the mask targets, and a defect detection device for performing the defect detecting each region in which the inspection target pixel is formed by connecting a respective one of the individual test area An appearance inspection apparatus characterized by that.
請求項1に記載の外観検査装置において、
前記被検査画像がカラー画像からなるとき、RGBの色成分毎に行われる前記の欠陥検出の際、当該の1色成分で生成した前記エッジマスク画像を、各色成分毎の該エッジマスク画像のいずれかによってマスクされる画素の全てをマスクする新たなエッジマスク画像に置き換えることを特徴とする外観検査装置。
The appearance inspection apparatus according to claim 1 ,
When the image to be inspected is a color image, the edge mask image generated with the one color component at the time of the defect detection performed for each RGB color component is selected from any of the edge mask images for each color component. An appearance inspection apparatus characterized by replacing all pixels masked by a new edge mask image.
請求項1または2のいずれかに記載の外観検査装置において、
前記欠陥検出手段が、着目画素を走査線に沿って1画素ずつ移動しながら、着目画素の濃度値と、着目画素の走査線に沿う前および後に、当該個別検査領域に応じて定められた間隔を置いて、当該個別検査領域に応じて定められた個数の画素を走査方向に連結してなる画素領域の濃度平均値との差分を求め、この前および後の差分のいずれかが当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する第1の微細欠陥検出手段を備えたことを特徴とする外観検査装置。
The appearance inspection apparatus according to claim 1 or 2 ,
While the defect detection means moves the pixel of interest along the scanning line pixel by pixel, the density value of the pixel of interest and the interval determined according to the individual inspection area before and after along the scanning line of the pixel of interest To obtain a difference from the density average value of the pixel area formed by connecting the number of pixels determined according to the individual inspection area in the scanning direction, and any of the difference before and after this is the individual inspection. An appearance inspection apparatus comprising first fine defect detection means for determining a target pixel as a defective pixel when a threshold value determined in accordance with a region is exceeded.
請求項1ないし3のいずれかに記載の外観検査装置において、
前記欠陥検出手段が、着目画素を走査線に沿って1画素ずつ移動しながら、着目画素の濃度値と、着目画素の走査線に沿う前および後に、当該個別検査領域に応じて定められた間隔を置いてなるm画素×n画素(但し、m,nはそれぞれ当該個別検査領域に応じて定められた整数とする)の2つの画素領域のそれぞれの濃度平均値との差分を求め、この前および後の差分のいずれかが当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する第2の微細欠陥検出手段を備えたことを特徴とする外観検査装置。
The appearance inspection apparatus according to any one of claims 1 to 3 ,
While the defect detection means moves the pixel of interest along the scanning line pixel by pixel, the density value of the pixel of interest and the interval determined according to the individual inspection area before and after along the scanning line of the pixel of interest The difference between each of the two pixel areas of m pixels × n pixels (where m and n are integers determined according to the individual inspection area) is obtained, Appearance characterized by comprising second fine defect detection means for determining that the pixel of interest is a defective pixel when any of the subsequent differences exceeds a threshold determined in accordance with the individual inspection area Inspection device.
請求項1ない 4 いずれかに記載の外観検査装置において、
前記欠陥検出手段が、走査線に沿って前後に当該個別検査領域に応じて定められた間隔を置いてなるm画素×n画素(但し、m,nはそれぞれ当該個別検査領域に応じて定められた整数とする)の2つの画素領域の各画素群(以下比較画素群という)のいずれか所定の一方の比較画素群の代表画素を着目画素とし、該着目画素を走査線に沿って1画素ずつ移動しながら、この前後の比較画素群のそれぞれの濃度平均値同士の差分を求め、該差分が当該個別検査領域に応じて定められた閾値を越えたとき、当該の着目画素を欠陥画素と判定する淡欠陥検出手段を備えたことを特徴とする外観検査装置。
In the appearance inspection apparatus according to any one of claims 1 to 4,
The defect detection means includes m pixels × n pixels (where m and n are determined in accordance with the individual inspection area, respectively) with a predetermined interval in accordance with the individual inspection area before and after the scanning line. The representative pixel of one of the predetermined comparison pixel groups in each pixel group (hereinafter referred to as a comparison pixel group) in the two pixel regions of the two pixel regions is a pixel of interest, and the pixel of interest is one pixel along the scanning line. While moving one by one, a difference between the respective density average values of the comparison pixel groups before and after this is obtained, and when the difference exceeds a threshold determined according to the individual inspection area, the target pixel is determined as a defective pixel. An appearance inspection apparatus comprising a light defect detection means for determining.
JP2002144864A 2001-06-04 2002-05-20 Appearance inspection device Expired - Lifetime JP3960127B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002144864A JP3960127B2 (en) 2001-06-04 2002-05-20 Appearance inspection device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001-167876 2001-06-04
JP2001167876 2001-06-04
JP2002144864A JP3960127B2 (en) 2001-06-04 2002-05-20 Appearance inspection device

Publications (2)

Publication Number Publication Date
JP2003057190A JP2003057190A (en) 2003-02-26
JP3960127B2 true JP3960127B2 (en) 2007-08-15

Family

ID=26616267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002144864A Expired - Lifetime JP3960127B2 (en) 2001-06-04 2002-05-20 Appearance inspection device

Country Status (1)

Country Link
JP (1) JP3960127B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4150390B2 (en) * 2005-09-14 2008-09-17 Tdk株式会社 Appearance inspection method and appearance inspection apparatus
JP4279833B2 (en) * 2005-12-01 2009-06-17 Tdk株式会社 Appearance inspection method and appearance inspection apparatus
JP5194961B2 (en) * 2008-04-03 2013-05-08 富士通株式会社 Surface inspection system, surface inspection method, and surface inspection program
JP6150248B2 (en) * 2013-01-30 2017-06-21 公立大学法人 富山県立大学 Fabric defect inspection method and apparatus
JP6241054B2 (en) * 2013-04-10 2017-12-06 凸版印刷株式会社 Paper cup inspection equipment
JP7265857B2 (en) * 2018-11-14 2023-04-27 東都フォルダー工業株式会社 Image processing apparatus for sheet material having single portion and double portion and image processing method for sheet material
JP7075331B2 (en) * 2018-11-28 2022-05-25 日立グローバルライフソリューションズ株式会社 Water leak inspection system
CN111380875B (en) * 2018-12-29 2023-09-12 深圳中科飞测科技股份有限公司 Defect detection method and system
CN113607740B (en) * 2021-07-30 2024-07-23 歌尔光学科技有限公司 VR product dirt detection method and device
CN116973311B (en) * 2023-09-22 2023-12-12 成都中嘉微视科技有限公司 Detection device and detection method for foreign matters on film and under film

Also Published As

Publication number Publication date
JP2003057190A (en) 2003-02-26

Similar Documents

Publication Publication Date Title
EP1400922A1 (en) Print inspection method and apparatus
JP3545506B2 (en) Specific color area extraction method and specific color area removal method
JP2000184192A (en) Image processing method
JP3960127B2 (en) Appearance inspection device
JPH09231362A (en) Appearance inspecting device and its method
CN113034488A (en) Visual detection method of ink-jet printed matter
JP4241361B2 (en) Cap top surface inspection method
JPH07159337A (en) Fault inspection method for semiconductor element
KR101022187B1 (en) Substrate inspection device
JP4249966B2 (en) Printed wiring board inspection method and inspection apparatus
CN113935927A (en) Detection method, device and storage medium
JP3589756B2 (en) Inspection set value input display method and device for defect inspection
JP3204876B2 (en) Print inspection equipment
JPH06258226A (en) Appearance inspection method for tablet
JP3501967B2 (en) Penetration inspection device
JPH07121721A (en) Printed character inspecting method
JP4491922B2 (en) Surface defect inspection method
JP4653340B2 (en) Can appearance inspection device using a three-plate CCD camera
JPH09161056A (en) Inspecting method for inner surface of circular container
JPH06160289A (en) Inner face inspection equipment for circular vessel
JP2876999B2 (en) Printing defect inspection equipment
JPH04339653A (en) Apparatus for inspecting printing fault
JPH09288037A (en) Inspection method for lcd panel
JPH06309437A (en) Pattern inspecting device
JPH01161137A (en) Recognizing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040713

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20060703

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060829

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20061030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070507

R150 Certificate of patent or registration of utility model

Ref document number: 3960127

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110525

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120525

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130525

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140525

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term