JP7297354B1 - Image processing system and image processing method - Google Patents
Image processing system and image processing method Download PDFInfo
- Publication number
- JP7297354B1 JP7297354B1 JP2023016651A JP2023016651A JP7297354B1 JP 7297354 B1 JP7297354 B1 JP 7297354B1 JP 2023016651 A JP2023016651 A JP 2023016651A JP 2023016651 A JP2023016651 A JP 2023016651A JP 7297354 B1 JP7297354 B1 JP 7297354B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured image
- image processing
- captured
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 67
- 238000003672 processing method Methods 0.000 title claims description 14
- 238000003384 imaging method Methods 0.000 claims abstract description 18
- 238000000034 method Methods 0.000 claims description 16
- 230000002950 deficient Effects 0.000 claims 2
- 230000007547 defect Effects 0.000 abstract description 34
- 238000007689 inspection Methods 0.000 abstract description 31
- 238000010586 diagram Methods 0.000 description 10
- 230000003044 adaptive effect Effects 0.000 description 8
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 230000010339 dilation Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 239000004743 Polypropylene Substances 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- -1 polypropylene Polymers 0.000 description 1
- 229920001155 polypropylene Polymers 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
【課題】光源装置を複雑にせず、かつ撮像画像の枚数を増やすことなく高速に透明な検査物の欠陥の有無を判定する画像処理システムを提供する。【解決手段】本願発明に係る画像処理システムは、明部と暗部とからなる光を透明物に投影する光源と、前記透明物を透過する光とともに前記透明物を撮像画像として撮像する撮像部と、画像処理部であって、前記撮像画像に含まれる前記明部若しくは前記暗部の領域に基づいて、または前記撮像画像の各画素の輝度値に基づいて第1の画像を生成し、前記第1の画像および前記撮像画像において対応する位置関係にある画素について輝度値の差分の絶対値に基づいて第2の画像を生成する画像処理部と、を備える。【選択図】図1Kind Code: A1 An image processing system is provided for quickly determining the presence or absence of defects in a transparent inspection object without complicating a light source device and increasing the number of captured images. An image processing system according to the present invention includes a light source that projects light consisting of a bright portion and a dark portion onto a transparent object, and an imaging unit that takes an image of the transparent object together with the light that passes through the transparent object. , an image processing unit that generates a first image based on the area of the bright portion or the dark portion included in the captured image or based on the luminance value of each pixel of the captured image; and an image processing unit that generates a second image based on absolute values of differences in luminance values for pixels having a corresponding positional relationship in the image and the captured image. [Selection drawing] Fig. 1
Description
本発明は、画像処理システム、画像処理方法および学習モデル生成方法に関する。 The present invention relates to an image processing system, an image processing method, and a learning model generation method.
外観検査において、黒白の周期性パターンを検査物に照射しつつ検査物を撮像し、得られた画像を用いて検査物の欠陥の有無を判定する画像処理方法が知られている(例えば、特許文献1参照。)。 In visual inspection, an image processing method is known in which an image of an inspection object is captured while a black-and-white periodic pattern is irradiated onto the inspection object, and the presence or absence of defects in the inspection object is determined using the obtained image. Reference 1).
引用文献1には、ガラス等の鏡面性または光透過性を有する物体の微小凹凸等の欠点を検査する方法が記載されている。具体的には、ガラス等の被検査物の表面に対し回転機構を備えた光源を用いて光を照射し、その反射光を撮像した撮像画像に基づいて画像処理を行って検査する。この光源の周面は黒白のストライプ模様のフィルムで覆われており、撮像画像は光源による黒白のストライプパターンの位相が徐々にずれた画像となる。これら複数の撮像画像における同じ位置の輝度の差分値を求めることにより、凹凸等の欠点を特定することができる。
特許文献1に記載の方法では、特許文献1の図1または図7に示すような回転駆動装置を備えた回転光源が必要となり、装置構成が煩雑になる恐れがある。また、位相をずらした複数の画像を用いて欠陥を判別しており、そのような光源を用意できない場合は欠陥を判定できず、あるいは検査物を連続して検査したい場合に逐次光源の位相を変更する必要があるため検査時間がかかってしまうといった課題がある。
The method described in
上記課題を解決するために、本発明に係る画像処理システムは、明部と暗部とからなる光を透明物に投影する光源と、前記透明物を透過する光とともに前記透明物を撮像画像として撮像する撮像部と、画像処理部であって、前記撮像画像に含まれる前記明部若しくは前記暗部の領域に基づいて、または前記撮像画像の各画素の輝度値に基づいて第1の画像を生成し、前記第1の画像および前記撮像画像において対応する位置関係にある画素について輝度値の差分の絶対値に基づいて第2の画像を生成する画像処理部と、を備える。 In order to solve the above problems, an image processing system according to the present invention includes a light source that projects light consisting of a bright portion and a dark portion onto a transparent object, and an image of the transparent object together with the light that passes through the transparent object. and an image processing unit that generates a first image based on the bright or dark area included in the captured image or based on the luminance value of each pixel of the captured image. and an image processing unit that generates a second image based on absolute values of differences in luminance values of pixels having corresponding positional relationships in the first image and the captured image.
また、上記課題を解決するために、本発明に係る画像処理方法は、光源から投影される明部と暗部とからなる光であって、透明物を透過する前記光とともに前記透明物を撮像した撮像画像に含まれる前記明部若しくは前記暗部の領域に基づいて、または前記撮像画像の各画素の輝度値に基づいて第1の画像を生成し、前記第1の画像および前記撮像画像において対応する位置関係にある画素について輝度値の差分の絶対値に基づいて第2の画像を生成する、ことを備える。 Further, in order to solve the above-described problems, an image processing method according to the present invention captures an image of a transparent object together with light that is projected from a light source and consists of a bright portion and a dark portion and passes through the transparent object. generating a first image based on the bright area or the dark area included in the captured image or based on the luminance value of each pixel in the captured image, and corresponding to the first image and the captured image; Generating a second image based on the absolute value of the difference in luminance values for the pixels in the positional relationship.
本発明は、上記課題に鑑みてなされたものであり、光源装置を複雑にせず、かつ撮像画像の枚数を増やすことなく高速に透明な検査物の欠陥の有無を判定することができる。 SUMMARY OF THE INVENTION The present invention has been made in view of the above-described problems, and can determine whether or not a transparent inspection object has defects at high speed without complicating the light source device and increasing the number of captured images.
以下、図面を参照しつつ本発明の実施形態について詳細に説明する。なお、以下の説明では、同様の構成要素には同一の参照番号を付す。 BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. In the description below, the same reference numerals are given to the same components.
図1は、本発明に係る画像処理システム100を示す図である。画像処理システム100は、透明な検査物WKにキズ等の欠陥があるかどうかを判別するものである。画像処理システム100は、撮像装置10と、画像処理装置20と、光源装置30と、を備える。撮像装置10は、光学素子、プロセッサー、撮像素子等を備え、撮像により画像を取得する。なお、透明な検査物は、光源装置30からの光を所定の光量以上を透過するものであればよい。
FIG. 1 is a diagram showing an
画像処理装置20は、CPU(Central Processing Unit:中央演算処理装置)と、メモリと、ハードディスクドライブ、SSD等のストレージと、マウス、キーボード等の入力装置と、ディスプレイ、プリンタ等の出力装置と、通信ネットワークと接続するための通信装置とを備えており、これらがバスを介して接続されている構成とすることができる。
The
このような構成を備えることにより、画像処理装置20は、画像処理や各種の情報処理を実行することができる。また、画像処理装置20は撮像装置10に接続されており、撮像装置10により撮像された画像を取得して画像を処理する。なお、撮像装置10が撮像画像を外部記憶素子等に記録し、画像処理装置20に、この外部記憶素子に記憶された撮像画像を読み込ませて画像を処理するようにしてもよい。出力装置に画像処理結果を出力させ、入力装置を介してユーザー設定等を画像処理方法に反映させることも可能である。
With such a configuration, the
光源装置30は、明部と暗部とからなる光を発する装置であり、例えば、画像を表示することができる液晶表示装置等の表示装置であり、図2に示す背景画像200を表示することがきる。検査物WKには、背景画像200と同様の模様が投影される。なお、光源装置30は、液晶表示装置等に限らず、平板の白色光源上に黒白のストライプ模様のフィルムを貼り付けて、背景画像200と同様の暗部と明部とからなる光が検査物WKに投影されるようにしてもよい。
The
図1に示す検査物WKは、光源装置30の直上に配置される。撮像装置10は、光源装置30が表示する背景画像200とともに検査物WKを撮像する。
The inspection object WK shown in FIG. 1 is arranged directly above the
図2は、本発明に係る背景画像200を示す図である。背景画像200は、白色画素と黒色画素とから構成される。背景画像200において、白色画素は白帯210のように白色画素群を形成し、黒色画素は黒帯220のように黒色画素群を形成している。これにより、明部と暗部とからなる光が、透明物である透明な検査物WKに投影される。背景画像200は、白帯210及び黒帯220を複数有し、白帯210及び黒帯220はそれぞれ同サイズであり交互に配置される。
FIG. 2 shows a
例えば、図2に示す背景画像200のように、白帯210及び黒帯220はそれぞれ横方向にストライプ状で配置されている。なお、白帯210と黒帯220の幅は、後の画像処理においてノイズの影響を少なくするために同じ幅であることが好ましいが、0.95対1.05または1.05対0.95ほどのずれであれば本発明に係る画像処理方法を実行することができ、例えばノイズ処理も適切に行うことができる。
For example, like the
次に、画像処理装置20が実行する画像処理方法について説明する。なお、透明な検査物WKは、図3(A)に示すように表面に線キズ310を有するものとする。この場合、撮像装置10は、図3(B)に示すような撮像画像300を取得する。そして、画像処理装置20は、この撮像画像300をグレースケール化した後に画像処理を行う。
Next, an image processing method executed by the
撮像画像300は、検査物WKを透過した背景画像200を含んでおり、明部を反映した白色画素と、暗部を反映した黒画素を含んでいる。また、検査物WKが有する線キズ310も、撮像画像300において線キズ350のように、欠陥の影響を受けて灰色の中間色で表される。
The captured
画像処理装置20は、撮像装置10から撮像画像300を取得し、図4に示す画像処理方法のフローに従って画像処理を行う。
The
まず、S410において、撮像画像300をグレースケース化し、256階調でグレースケール化した撮像画像500に変換する。グレースケース化したことにより、輝度値が「255」を示す画素は白色画素であり、輝度値が「0」を示す画素は黒色画素となる。なお、取得した撮像画像が既にグレースケール化されている場合、当該処理は不要である。また、S410において、必要に応じて傾き補正の処理を行う。傾き補正の処理とは、グレースケール化した撮像画像500に含まれる、背景画像200を取り込んだことによる黒帯501-1~6及び白帯502-1~6の並びの方向が画像の水平方向に対して上向きに傾いている場合に、水平方向になるように補正することである。あるいは、傾き補正は、黒帯501-1~6及び白帯502-1~6の境界の方向が、画像の水平方向に対して垂直となるように補正することである。この補正は、例えば、画素の輝度値の変化に基づいて境界線を特定し、その境界線の角度を求めることによって傾きを何度補正すればよいかを決定することができる。
First, in S410, the captured
次に、S420において、グレースケール化した撮像画像500に基づいて、ずれ画像または反転画像を生成する。
Next, in S420, a shift image or an inverted image is generated based on the grayscaled captured
ずれ画像は、グレースケール化した撮像画像に含まれる黒帯または白帯の横幅に相当する横幅と、グレースケール化した撮像画像の縦幅とからなる領域を、グレースケール化した撮像画像の右端または左端を基準にして削除した画像である。右端を基準にして削除したものは「右ずれ画像」とし、左端を基準にして削除したものは「左ずれ画像」とする。ずれ画像を生成する場合、右ずれ画像または左ずれ画像の少なくとも1つを生成し、または双方とも生成することとなる。 The shift image is an area consisting of the width corresponding to the width of the black band or white band included in the grayscaled captured image and the vertical width of the grayscaled captured image. This image is deleted with the left end as the reference. An image deleted with reference to the right end is referred to as a "right-shifted image", and an image deleted with respect to the left end is referred to as a "left-shifted image". When generating a shifted image, at least one of a right shifted image, a left shifted image, or both will be generated.
図5は、グレースケール化した撮像画像500に基づいて、ずれ画像である右ずれ画像510または左ずれ画像520を生成する方法を説明するための図である。グレースケール化した撮像画像500は、黒帯501-1~6及び白帯502-1~6のように背景画像200を取り込んでいる。また、グレースケール化した撮像画像500は、検査部WKが有するキズとして線キズ503を含んでいる。
FIG. 5 is a diagram for explaining a method of generating a right-shifted
右ずれ画像510は、グレースケール化した撮像画像500から、縦幅と、黒帯501又は白帯502の横幅とからなるサイズの領域を右端から削除するようにして作成される。この領域に相当するのが領域512である。領域512は、縦幅Hと横幅Wとからなる。縦幅Hは、グレースケール化した撮像画像500の縦幅と同一の大きさである。横幅Wは、例えば、グレースケール化した撮像画像の左端から右端までを走査して輝度値の変化に基づいて白帯及び黒帯の本数を特定し、グレースケール化した撮像画像の横幅の画素数を、特定した本数で割ってその画素数を丸めて求めた数を横幅Wとすることができる。縦幅Hは、グレースケール化した撮像画像500の縦幅である。
A right-shifted
横幅Wと縦幅Hとからなる領域512は、グレースケール化した撮像画像500における黒帯501-1と略同一の大きさを有する。よって、グレースケール化した撮像画像500の右端を基準に領域512を削除すると、黒帯501-1を削除することになり、その結果、右ずれ画像510を生成することができる。
A
左ずれ画像520は、グレースケール化した撮像画像500から、グレースケール化した撮像画像500の縦幅と、黒帯501又は白帯502の横幅とからなるサイズの領域を左端から削除するようにして作成される。この領域に相当するのが領域521である。領域521は、縦幅Hと横幅Wとからなる。縦幅Hは、グレースケール化した撮像画像500の縦幅と同一の大きさである。横幅Wおよび縦幅Hは、上記の右ずれ画像510の生成に関して説明した内容と同じである。
The left-shifted
横幅Wと縦幅Hとからなる領域521は、グレースケール化した撮像画像500における白帯502-6と略同一の大きさを有する。よって、グレースケール化した撮像画像500の左端を基準に領域521を削除すると、白帯502-6を削除することになり、その結果、左ずれ画像520を生成することができる。
A
なお、ずれ画像に関し、黒帯または白帯をグレースケール化した撮像画像500から削除する例を説明しているが、グレースケール化した撮像画像500の右端または左端において黒帯または白帯の一部が起点となっていたとしても、削除されるのは黒帯または白帯と同じ大きさの領域となる。
Regarding the shifted image, an example in which a black band or a white band is deleted from the grayscaled captured
一方、反転画像は、グレースケール化した撮像画像500の注目画素の輝度値から255を引いた値の絶対値を、反転画像における注目画素の値とするものである。例えば、グレースケール化した撮像画像500の白画素は輝度値が255であるから、255を引くと0になり、反転画像においては黒画素となる。また、グレースケール化した撮像画像の黒画素は輝度値が0であるから、255を引くと―255になり、その絶対値は255であるから反転画像においては白画素となる。
On the other hand, in the reverse image, the absolute value of the value obtained by subtracting 255 from the luminance value of the pixel of interest in the grayscaled captured
図6に示す反転画像600は、グレースケール化した撮像画像500に基づいて作成されたものである。グレースケール化した撮像画像500と反転画像600を対比すると、グレースケール化した撮像画像500の黒帯501-1~6の位置にある画素は、反転画像600において白画素からなる白帯601-1~6となっている。また、グレースケール化した撮像画像500の白帯502-1~6の位置にある画素は、反転画像600において黒画素からなる黒帯602-1~6となっている。グレースケール化した撮像画像500の線キズ503の画素に関し、その輝度値が中間値近辺にあり、その値を127とすれば、255を引くと-128となり、その絶対値は128であるから反転画像においても同様の輝度値を示す画素となる。従って、反転画像600のように、線キズ603は中間値を示している。
A
次に、S430において差分画像を生成する。差分画像は、グレースケール化した撮像画像の注目画素の輝度値と、ずれ画像または反転画像の注目画素の輝度値との差分の絶対値に基づいて生成される。 Next, in S430, a difference image is generated. The difference image is generated based on the absolute value of the difference between the luminance value of the pixel of interest in the grayscaled captured image and the luminance value of the pixel of interest in the shifted or inverted image.
まず、反転画像600とグレースケール化した撮像画像500とに基づいて差分画像を作成する処理の例について説明する。なお、反転画像600とグレースケール化した撮像画像500とは同サイズの画像であるため、それぞれの注目画素が同じ位置関係にある。反転画像600における白画素は、グレースケール化した撮像画像500において黒画素となり、反転画像600における黒画素は、グレースケール化した撮像画像500において白画素となる。例えば、反転画像600における白帯601-1の位置には、グレースケール化した撮像画像500では黒帯501-1になっている。このように、それぞれの注目画素が白画素と黒画素との関係にあり、差分の絶対値は「255」となるため、差分画像700において白画素となる。
First, an example of processing for creating a differential image based on the
一方、注目画素がキズ603のように中間値を示す輝度値を示す画素である場合、グレースケール化した撮像画像500においてもキズ503のように中間値を示す輝度値を示す画素である。よってこれらの輝度値の差分を求めるとおおよそ「0」に近い値となり、差分画像700においては黒色または黒色に近い灰色となる。
On the other hand, if the pixel of interest is a pixel that indicates a luminance value that indicates an intermediate value, such as the
次に、右ずれ画像510とグレースケール化した撮像画像500とに基づいて差分画像を作成する処理について説明する。まず、右ずれ画像510とグレースケール化した撮像画像500との画素の対応関係を設定する。具体的には、右ずれ画像の右上端点513とグレースケール化した撮像画像500の右上端点504とが一致し、右ずれ画像の右下端点514とグレースケール化した撮像画像500の右上端点506とが一致するようにそれぞれの画像の位置関係を設定する。
Next, processing for creating a difference image based on the right-shifted
この位置関係の設定後に、右ずれ画像510とグレースケール化した撮像画像500とで対応関係のある注目画素について輝度値の差分の絶対値を求め、その値を差分画像の画素の輝度値とする。なお、領域512分だけ右ずれ画像510はグレースケール化した撮像画像500よりも小さいため、右ずれ画像510とグレースケール化した撮像画像500とが重なり合わない領域については差分を求めないこととする。この重なり合わない領域はおおよそグレースケール化した撮像画像500の白帯502-6である。よって、差分画像の大きさは、右ずれ画像510と同じ大きさとなる。
After setting this positional relationship, the absolute value of the difference in luminance value is obtained for the pixel of interest that has a corresponding relationship between the right-shifted
輝度値の差分の絶対値を求める際、右ずれ画像510のキズ512と、グレースケール化した撮像画像500のキズ504が重なっている画素がある場合、その重なりあっている画素の輝度値の差分の絶対値はおおよそ0になる。よって、差分画像において、その画素は黒色または黒色に近い灰色となっている。キズ512とキズ504が重なりあわない画素については、キズを示す画素の輝度値と白色又は黒色の輝度値との差分の絶対値となり、その画素はおおよそ中間近辺の灰色を示す輝度値となる。
When obtaining the absolute value of the luminance value difference, if there is a pixel where the
グレースケール化した撮像画像500の黒帯501-1は、右ずれ画像510の白帯512-1と同じ位置にある。従って、その差分の絶対値は255であり、差分画像における黒帯501-1及び白帯512-1の位置にある各画素は白色となる。例えば、図7(A)に示すように、右ずらし画像に基づく差分画像700では、領域701にある、黒帯501-1及び白帯512-1の位置に相当する各画素は白色である。
The black band 501-1 of the grayscaled captured
左ずれ画像520とグレースケール化した撮像画像500とに基づいて差分画像を作成する処理も上記で説明した、右ずれ画像510とグレースケール化した撮像画像500とに基づいて差分画像を作成する処理と同様である。なお、位置の基準は、左ずれ画像520の左上端点522とグレースケール化した撮像画像500の左上端点505とが一致し、左ずれ画像520の左下端点523とグレースケール化した撮像画像500の左下端点507とが一致するように設定される。
The process of creating a differential image based on the left-shifted
図7(A)に、差分画像700を示す。差分画像700では、グレースケール化した撮像画像500に含まれていた黒帯501-1~6や白帯502-1~6に関し、差分を求めたことにより注目画素が白画素になるため、黒帯を含まない画像となっている。また差分画像は、キズ701が黒色または灰色で示されるため、キズを特定できるような画像となっている。
A
以上のようにして差分画像を求めるが、差分画像にノイズが発生することがある。例えば、図7(B)に示す差分画像710のように、複数の線711が現われることがある。これは、撮像環境やカメラの性能の影響により、撮像画像において黒帯と白帯の幅が異なる、あるいは白帯と黒帯の境界付近において輝度値がゆるやかに変化していることに起因している。このように、背景画像が映り込んだ撮像画像に基づいて差分画像を生成する場合、黒帯及び白帯の境界の位置に縦線のようなノイズが発生しうる。なお、線711の輝度値は0から、中間値である128付近の値をとりうる。
Although the differential image is obtained as described above, noise may occur in the differential image. For example,
差分画像700であってもノイズあり差分画像710であっても、グレースケール化した撮像画像500と対比すると、グレースケール化した撮像画像500に含まれていた黒帯501が消去されているので、人の目で見たときに線キズ701または線キズ712を視認しやすくなり、検査物WKの欠陥の有無を判定しやすくすることができる。
In both the
以上のように差分画像を生成するものであり、グレースケール化した撮像画像において黒帯及び白帯の周期的な配置により人の目により視認しづらかった線キズが、差分画像では黒帯が消去されるので、人の目により線キズを視認しやすくできる。 The difference image is generated as described above, and the line flaws that were difficult to see with the human eye due to the periodic arrangement of black and white bands in the grayscaled image are removed in the difference image. This makes it easier for the human eye to visually recognize the line scratches.
次に、S440において、差分画像に含まれるノイズを除去しつつ、キズ等の欠陥を識別できるような二値画像を生成するための二値化処理を行う。 Next, in S440, binarization processing is performed to generate a binary image capable of identifying defects such as scratches while removing noise contained in the difference image.
図8は、ノイズあり差分画像に対する二値化処理の一例を説明するための図である。二値化処理においては適応的な閾値処理を行う。なお、図8(A)に示すノイズあり差分画像710の領域801における処理を例にして説明する。この適応的な閾値処理(Adaptive Threshold)についてはNiblack法を採用することができるが、これに限定されず、Sauvola法やその他の処理を用いてもよい。
FIG. 8 is a diagram for explaining an example of binarization processing for a noise-containing difference image. Adaptive threshold processing is performed in the binarization processing. Note that the processing in the
図8(B)は領域801を拡大した図である。図8(B)に示すように、適応的な閾値処理にあたり、注目画素812を中心とした所定のサイズの枠811が設定される。枠811の大きさは、例えば、横1ピクセル×縦50ピクセルである。ここで、枠811の横幅を1ピクセルとしているが、キズ等の欠陥を示す画素が含まれる場合に縦成分の輝度の変化を的確に判別するために狭い値に設定している。そして、枠811内に含まれる画素の輝度値の平均値や標準偏差に基づいて閾値が定められ、この閾値に基づいて注目画素が「0」または「1」に設定される。なお、縦の大きさは、好ましくは、想定されるキズの大きさの少なくとも2倍程度の画素サイズとすればよい。
FIG. 8B is an enlarged view of the
そして、矢印813で示す方向のように枠811を右方向へスライドさせながら、注目画素について「0」または「1」が設定される。なお枠813が再右端まで移動している場合には注目画素812を一画素分下にずらして最左端から同様にして処理を進める。
Then, while sliding the
S440における二値化処理により、図9に示す二値画像900を得る。二値画像900のように、キズ部分が白色画素で表されている。 A binary image 900 shown in FIG. 9 is obtained by the binarization processing in S440. As in the binary image 900, the flawed portion is represented by white pixels.
次に、S450において、二値画像からキズ等の欠陥を特定する。キズの特定は、例えば公知のラベリング処理等を用いて所定の大きさを有する白色画素からなる領域が存在する場合に、これをキズ等の欠陥として扱うことができる。 Next, in S450, defects such as scratches are identified from the binary image. A defect can be identified by, for example, a known labeling process or the like, and when an area of white pixels having a predetermined size exists, it can be treated as a defect such as a scratch.
<変形例1>
上記の発明の実施形態において、S440で二値画像を生成し、S450でこの二値画像に基づいてキズ等の欠陥を特定している。このプロセスとは異なり、学習モデルを利用してキズ等の欠陥を特定するようにしてもよい。
<
In the embodiment of the invention described above, a binary image is generated in S440, and defects such as scratches are specified based on this binary image in S450. Alternatively to this process, a learned model may be used to identify defects such as scratches.
学習モデルは、グレースケール化した撮像画像を教師データとして構築されたものである。この教師データを用い、グレースケール化した撮像画像を入力し、透明物の欠陥を示した撮像画像を出力とする学習モデルを生成する。なお、教師データとして用いるグレースケール化した撮像画像は、キズ等の欠陥を含まない検査物を撮像した撮像画像が好ましい。しかし、キズ等の欠陥を含んだ検査物を撮像した撮像画像であっても、キズ等の欠陥を示さない領域をグレースケール化した撮像画像から抽出し、これを教師データとして用いてもよい。 The learning model is constructed by using grayscaled captured images as teacher data. Using this teacher data, a learning model is generated in which a grayscaled captured image is input and a captured image showing a defect in a transparent object is output. It should be noted that the grayscaled captured image used as training data is preferably a captured image of an inspection object that does not include defects such as scratches. However, even if the captured image is an image of an inspection object that includes defects such as scratches, a region that does not show defects such as scratches may be extracted from the grayscaled captured image and used as teacher data.
<変形例2>
上記の発明の実施形態において、S420でずれ画像を生成する場合、S430でずれ画像とグレースケール化した撮像画像とに基づいて差分画像を生成している。この場合、例えば右ずれ画像であれば、キズが右にずれる分だけ差分画像においてキズが撮像画像よりも大きくなりうる。そこで、S430で右ずれ画像と左ずれ画像の双方を作成し、右ずれ画像とグレースケール化した撮像画像とに基づいて第1の差分画像を生成する。また、左ずれ画像とグレースケール化した撮像画像とに基づいて第2の差分画像を生成する。
<Modification 2>
In the embodiment of the invention described above, when generating a shift image in S420, a difference image is generated based on the shift image and the grayscaled captured image in S430. In this case, for example, in the case of a right-shifted image, the defect in the difference image may be larger than that in the captured image by the amount of the defect shifted to the right. Therefore, in S430, both a right-shifted image and a left-shifted image are created, and a first differential image is generated based on the right-shifted image and the grayscaled captured image. Also, a second difference image is generated based on the left-shifted image and the grayscaled captured image.
次に、S440で、第1の差分画像に基づいた第1の二値画像と、第2の差分画像に基づいた第2の二値画像とを生成する。この第1の二値画像と第2の二値画像との対応する画素について論理積による第3の二値画像を生成し、この第3の二値画像に基づいて、S450においてキズ等の欠陥を特定する。このような処理を行うことにより、ずれ画像を用いた差分画像について、撮像画像と比して大きなキズとならないように抑制できる。なお、第3の二値画像の生成において、第1の二値画像は撮像画像における右端に合わせ、第2の二値画像は左端に合わせるように画素の対応関係を設定する。 Next, at S440, a first binary image based on the first difference image and a second binary image based on the second difference image are generated. A third binary image is generated by logical product of corresponding pixels of the first binary image and the second binary image. identify. By performing such processing, it is possible to prevent the difference image using the shifted image from becoming a large flaw compared to the captured image. In generating the third binary image, the pixel correspondence is set so that the first binary image is aligned with the right end of the captured image, and the second binary image is aligned with the left end.
<変形例3>
上記の発明の実施形態において、撮像画像300に関し、白帯と黒帯が交互に横方向に並ぶようにして撮像されている。このような撮像画像が取得される場合に、背景画像200も白帯と黒帯が交互に横方向に並ぶような画像であれば、これを90°回転させて、白帯と黒帯が交互に縦方向に並ぶような画像を表示させてもよい。
<Modification 3>
In the above-described embodiment of the invention, the captured
これにより、撮像画像は、白帯と黒帯が交互に縦方向に並ぶような画像となる。この場合、S420でずれ画像を生成するときに、グレースケール化した撮像画像の白帯または黒帯に相当する領域を上端から削除した上ずれ画像、または下端から削除した下ずれ画像を生成する。S440で局所的な閾値処理を実行する際には、枠を横50ピクセル×縦1ピクセルのように設定する。これはノイズが横方向に発生するためである。 As a result, the captured image becomes an image in which white stripes and black stripes are alternately arranged in the vertical direction. In this case, when generating the displaced image in S420, an upper displaced image in which the area corresponding to the white band or black band of the grayscaled image is deleted from the upper end or a lower displaced image in which the region corresponding to the gray scaled captured image is deleted from the lower end is generated. When performing local thresholding in S440, the frame is set to 50 pixels wide by 1 pixel high. This is because noise occurs in the horizontal direction.
上記の変形例1~3を複数組み合わせて実施の形態の変形として実施することも可能である。例えば、変形例3で撮像した撮像画像を用いて変形例1を実施し、透明物の欠陥を示した撮像画像を取得するようにしてもよい。
It is also possible to combine a plurality of
<実施例>
以下、実施例について説明する。光源装置30として、13インチのLCD表示装置を用いた。背景画像200を光源装置30に表示させたときに、黒帯及び白帯の幅は1mmであった。撮像装置10としては、携帯電話機に搭載のカメラ(24mm焦点距離、フルHD)を用いた。
<Example>
Examples are described below. A 13-inch LCD display device was used as the
検査物WKは、材質:ポリプロピレン、6.5mm×9mm、厚さ0.2mmのものを用いた。この検査物WKは3つの欠陥があり、長さ約23mm、約1mm、約0.8mmであり、幅が約0.3mmの線キズである。光源装置30と検査物WKとの距離は12cmであり、検査物WKと撮像装置10までの距離は25cmである。
The material to be inspected WK used was polypropylene, 6.5 mm×9 mm, and 0.2 mm thick. This inspection object WK has three defects, which are line flaws with lengths of about 23 mm, about 1 mm, and about 0.8 mm, and a width of about 0.3 mm. The distance between the
図10は、撮像画像をグレースケール変換したグレースケール化した撮像画像1000を示す。グレースケール化した撮像画像1000に関し、背景画像とともに検査物WKが有する3つのキズが映り込んでいることが確認できる。具体的には、図11に示すグレースケール化した撮像画像1000上の3つの領域1101、1102、1103において確認できる。図11(B)は領域1101を拡大したものであり、輝度値の中間値を示す画素が横方向に連なっていることが確認できる。図11(C)は、領域1102を拡大したものであり、図11(D)は領域1103を拡大したものである。同様に、輝度値の中間値を示す画素が横方向に連なっていることが確認できる。
FIG. 10 shows a grayscale captured
次に、S420において、ずれ画像または反転画像を生成する。そして、S430で差分画像を生成する。図12に示す差分画像1200は、グレースケール化した撮像画像1000と、グレースケール化した撮像画像1000に基づいて所定の大きさだけ削除した右ずれ画像とに基づいて作成したものである。
Next, at S420, a shifted or inverted image is generated. Then, in S430, a differential image is generated. A
図13に示す差分画像1300は、グレースケール化した撮像画像1000と、グレースケール化した撮像画像1000に基づいて作成した反転画像とに基づいて作成したものである。
A
差分画像1200または差分画像1300のいずれにおいても、線キズがグレースケール化した撮像画像1000と比して視認しやすくなっていることがわかる。
It can be seen that in both the
次に、S440において、二値画像を生成する。図14に示す二値画像1400は、差分画像1200に対し、適応的な閾値処理により生成した二値画像である。適応的な閾値処理にあたり、横1ピクセル×縦50ピクセルを枠として設定している。
Next, at S440, a binary image is generated. A
次に、二値画像1400から、ノイズ除去及び膨張処理を実施し、二値画像1410を生成する。ノイズ除去においては、白画素の塊について、横1ピクセル以下、縦4ピクセル以下、または面積49ピクセル以下の塊については黒画素に書き換えている。膨張処理については、白画素の塊について縦横それぞれ2ピクセル分膨張させている。
Next, the
一方、S440において、差分画像1300に基づいて二値画像を生成したものが図15に示す二値画像1500である。二値画像1500は、差分画像1300に対し、適応的な閾値処理により生成した二値画像である。適応的な閾値処理にあたり、横1ピクセル×縦50ピクセルを枠として設定している。
On the other hand, a
次に、二値画像1500から、ノイズ除去及び膨張処理を実施し、二値画像1510を生成する。ノイズ除去においては、白画素の塊について、横1ピクセル以下、縦4ピクセル以下、または面積49ピクセル以下の塊については黒画素に書き換えている。膨張処理については、白画素の塊について縦横それぞれ2ピクセル分膨張させている。
Next, the
次に、S450において、キズを特定する。例えば、図14に示す二値画像1410または図15に示す二値画像1510の白画素群をキズ等の欠陥として特定する。ユーザーに知覚させるために、この白画素群を矩形で囲み、二値画像上に表示させ、あるいは矩形の位置に合わせて撮像画像上に合成して表示させる等の処理も可能である。
Next, in S450, flaws are identified. For example, white pixels in the
なお、背景画像200のような画像を表示させることなく、透明の検査物WKを撮像画像として撮像し本発明に係る画像処理方法を実施したところ、検査物WKにおいてハレーションの影響があり、キズの検出ができなかった。背景画像200を表示させて撮像したところハレーションの影響はなかったので、背景画像200を表示させることによりハレーションの抑制効果があることも分かった。
When an image such as the
次に、上記の変形例1で示した学習モデルを生成し、学習モデルを利用してキズ等の欠陥を特定した例について説明する。図16(A)に示す画像1600は、グレースケール化した撮像画像を教師データとして構築した学習モデルに、キズ等の欠陥を含んだ透明な検査物を撮像したグレースケール化した撮像画像を入力し、検査物の欠陥を示した撮像画像を出力させたものである。
Next, an example will be described in which the learning model shown in
図16(B)に示す画像1610は、ずれ画像に基づいた差分画像を教師データとして構築した学習モデルに、差分画像を入力し、検査物の欠陥を示した撮像画像を出力させたものである。画像1600と画像1610を比較すると、画像1600を作成した学習モデルの方がより検査物の欠陥を抽出できていることが分かった。
An
なお、学習モデルの構築は、MVTec社(ドイツ)製の画像解析ソフトHALCONを用いたが、その他の画像解析ソフトを用いて学習モデルを構築することも可能である。 Although the image analysis software HALCON manufactured by MVTec (Germany) was used to construct the learning model, it is also possible to construct the learning model using other image analysis software.
10 撮像装置
20 画像処理装置
30 光源装置
100 画像処理システム
200 背景画像
300 撮像画像
500 グレースケール化した撮像画像
510 右ずれ画像
520 左ずれ画像
600 反転画像
700 差分画像
710 ノイズあり差分画像
900 二値画像
1000 グレースケール化した撮像画像
1200 差分画像
1300 差分画像
1400 二値画像
1410 二値画像
1500 二値画像
1510 二値画像
REFERENCE SIGNS
Claims (10)
前記透明物を透過する光とともに前記透明物を撮像画像として撮像する撮像部と、
画像処理部であって、
前記撮像画像の各画素について輝度値を反転処理した第1の画像、または前記撮像画像における前記明部または前記暗部に相当する領域を前記撮像画像の端から削除した第1の画像を生成し、
前記第1の画像および前記撮像画像において対応する位置関係にある画素について輝度値の差分の絶対値に基づいて第2の画像を生成する画像処理部と、
を備える画像処理システム。 a light source that projects light consisting of a bright portion and a dark portion onto a transparent object;
an imaging unit that captures the transparent object as a captured image together with the light that passes through the transparent object;
An image processing unit,
generating a first image obtained by inverting the luminance value of each pixel of the captured image, or a first image obtained by deleting a region corresponding to the bright part or the dark part in the captured image from the edge of the captured image;
an image processing unit that generates a second image based on an absolute value of a difference in luminance values for pixels that have a corresponding positional relationship in the first image and the captured image;
An image processing system comprising
請求項1に記載の画像処理システム。 Light in which the bright portions and the dark portions are alternately arranged is projected onto the transparent object.
The image processing system according to claim 1.
請求項1に記載の画像処理システム。 The image processing unit further performs a process of correcting the boundary direction of the bright part or the dark part included in the captured image so that it is substantially perpendicular to the horizontal direction or the vertical direction.
The image processing system according to claim 1.
前記第1の画像および前記撮像画像において対応する位置関係にある画素について輝度値の差分の絶対値に基づいて第2の画像を生成する、
ことを備える画像処理方法。 A first image obtained by inverting the luminance value of each pixel of a captured image obtained by imaging the transparent object together with the light transmitted through the transparent object, the light being projected from a light source and having a bright portion and a dark portion; or generating a first image in which a region corresponding to the bright portion or the dark portion in the captured image is deleted from the edge of the captured image ;
generating a second image based on the absolute value of the difference in luminance values for pixels in corresponding positional relationships in the first image and the captured image;
An image processing method comprising:
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023016651A JP7297354B1 (en) | 2023-02-07 | 2023-02-07 | Image processing system and image processing method |
JP2023093747A JP7327866B1 (en) | 2023-02-07 | 2023-06-07 | Learning model generation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023016651A JP7297354B1 (en) | 2023-02-07 | 2023-02-07 | Image processing system and image processing method |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023093747A Division JP7327866B1 (en) | 2023-02-07 | 2023-06-07 | Learning model generation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7297354B1 true JP7297354B1 (en) | 2023-06-26 |
JP2024111922A JP2024111922A (en) | 2024-08-20 |
Family
ID=86900467
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023016651A Active JP7297354B1 (en) | 2023-02-07 | 2023-02-07 | Image processing system and image processing method |
JP2023093747A Active JP7327866B1 (en) | 2023-02-07 | 2023-06-07 | Learning model generation method |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023093747A Active JP7327866B1 (en) | 2023-02-07 | 2023-06-07 | Learning model generation method |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP7297354B1 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11148813A (en) * | 1997-07-02 | 1999-06-02 | Asahi Glass Co Ltd | Method and device for evaluating surface shape |
JP2017219478A (en) * | 2016-06-09 | 2017-12-14 | 本田技研工業株式会社 | Defect inspection method and device of the same |
EP3640630A1 (en) * | 2018-10-18 | 2020-04-22 | Infineon Technologies AG | Embedded wafer inspection |
CN211263236U (en) * | 2019-11-25 | 2020-08-14 | 厦门大学 | Glass defect image acquisition equipment |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7444439B2 (en) * | 2020-03-05 | 2024-03-06 | 国立大学法人 筑波大学 | Defect detection classification system and defect judgment training system |
WO2021192376A1 (en) * | 2020-03-24 | 2021-09-30 | 日本電産株式会社 | Visual inspection system and computer program |
-
2023
- 2023-02-07 JP JP2023016651A patent/JP7297354B1/en active Active
- 2023-06-07 JP JP2023093747A patent/JP7327866B1/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11148813A (en) * | 1997-07-02 | 1999-06-02 | Asahi Glass Co Ltd | Method and device for evaluating surface shape |
JP2017219478A (en) * | 2016-06-09 | 2017-12-14 | 本田技研工業株式会社 | Defect inspection method and device of the same |
EP3640630A1 (en) * | 2018-10-18 | 2020-04-22 | Infineon Technologies AG | Embedded wafer inspection |
CN211263236U (en) * | 2019-11-25 | 2020-08-14 | 厦门大学 | Glass defect image acquisition equipment |
Also Published As
Publication number | Publication date |
---|---|
JP2024111922A (en) | 2024-08-20 |
JP7327866B1 (en) | 2023-08-16 |
JP2024112264A (en) | 2024-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6250793B2 (en) | Method and apparatus for removing character background from color image | |
CN111474177A (en) | Liquid crystal screen backlight foreign matter defect detection method based on computer vision | |
JP2011076204A (en) | Method and apparatus for inspecting printed matter | |
WO2007132925A1 (en) | Surface inspection device | |
KR101726532B1 (en) | Enhanced analysis for image-based serpentine belt wear evaluation | |
JP7297354B1 (en) | Image processing system and image processing method | |
JP3695120B2 (en) | Defect inspection method | |
JP2012237585A (en) | Defect inspection method | |
JP5509465B2 (en) | Glass bottle inspection equipment | |
JP2021064215A (en) | Surface property inspection device and surface property inspection method | |
JP2710527B2 (en) | Inspection equipment for periodic patterns | |
JP2002024802A (en) | Image processing system | |
JP5136277B2 (en) | Defect detection method for netted or lined glass | |
JP2008233107A (en) | Visual examination method and visual examination device | |
JP2006133055A (en) | Unevenness defect detection method and device, spatial filter, unevenness defect inspection system, and program for unevenness defect detection method | |
CN113570578A (en) | Lens ghost phenomenon detection method and device | |
JP2004110543A (en) | Face image processing unit and program | |
JP4790031B2 (en) | Image processing apparatus, image processing method, program, and recording medium | |
JPH0979946A (en) | Inspection device for display device | |
JP6185539B2 (en) | Optical connector ferrule end face inspection device and inspection program | |
JP2021015035A (en) | Image inspection method and image inspection device for image display device | |
JP7510603B2 (en) | Image reader | |
JP7474410B2 (en) | Image reader | |
JP7474411B2 (en) | Image reader | |
JP7510602B2 (en) | Image reader |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230214 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20230214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230405 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230517 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230607 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7297354 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |