[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6909377B2 - 検査システムおよび検査方法 - Google Patents

検査システムおよび検査方法 Download PDF

Info

Publication number
JP6909377B2
JP6909377B2 JP2016180018A JP2016180018A JP6909377B2 JP 6909377 B2 JP6909377 B2 JP 6909377B2 JP 2016180018 A JP2016180018 A JP 2016180018A JP 2016180018 A JP2016180018 A JP 2016180018A JP 6909377 B2 JP6909377 B2 JP 6909377B2
Authority
JP
Japan
Prior art keywords
phase
inspection
image data
pixel
amplitude
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016180018A
Other languages
English (en)
Other versions
JP2018013466A (ja
Inventor
井上 靖之
靖之 井上
圭一 赤澤
圭一 赤澤
栗原 徹
徹 栗原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kochi Prefectural University Corp
Original Assignee
Kochi Prefectural University Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kochi Prefectural University Corp filed Critical Kochi Prefectural University Corp
Publication of JP2018013466A publication Critical patent/JP2018013466A/ja
Application granted granted Critical
Publication of JP6909377B2 publication Critical patent/JP6909377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Studio Devices (AREA)

Description

本発明の実施形態は、検査システムおよび検査方法に関する。
従来、周期的に変化する光を被検査体に照射し、当該被検査体の表面からの反射光を撮像することで、光の強度のみならず、光の時間遷移に関する情報をも含んだ時間相関画像を取得する技術が提案されている。このような時間相関画像は、たとえば、被検査体の異常を検出するために用いられる。
特許第5669071号公報
時間相関画像を用いた異常検出では、処理負担などを軽減するため、時間相関画像の全領域ではなく、時間相関画像の一部の、被検査体が写った領域に対してのみ、異常検出処理が行われる場合がある。この場合、被検査体と背景との境界を精度よく特定し、異常検出処理の対象となる検査領域を適切に決定することが望まれる。
実施形態の検査システムは、光の強度の周期的な時間変化および空間変化を与える面的な照明部と、時間相関カメラまたはそれと等価な動作をする撮像システムから出力される複素時間相関画像を取得する画像取得部と、複素時間相関画像に基づいて、検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴、を算出する演算処理部と、複素時間相関画像の位相限定微分値に基づいて、検査対象面における、演算処理部による異常検出処理の対象となる検査領域を決定する検査領域決定部と、を備え、検査領域決定部は、複素時間相関画像の位相成分の、互いに直交する二方向の微分値の二乗和に基づいて、位相限定微分値を算出する。
図1は、実施形態の検査システムの構成例を示した図である。 図2は、実施形態の時間相関カメラの構成を示したブロック図である。 図3は、実施形態の時間相関カメラで時系列順に蓄積されたフレームを表した概念図である。 図4は、実施形態の照明装置が照射する縞パターンの一例を示した図である。 図5は、実施形態の時間相関カメラによる、被検査体の異常の第1の検出例を示した図である。 図6は、実施形態において、図5に示される異常が被検査体にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。 図7は、実施形態の時間相関カメラによる、被検査体の異常の第2の検出例を示した図である。 図8は、実施形態の時間相関カメラによる、被検査体の異常の第3の検出例を示した図である。 図9は、実施形態の照明制御部が照明装置に出力する縞パターンの例を示した図である。 図10は、実施形態のスクリーンを介した後の縞パターンを表した波の形状の例を示した図である。 図11は、実施形態の異常検出処理部による、振幅に基づく異常検出処理の手順を示すフローチャートである。 図12は、実施形態の異常検出処理部による、位相に基づく異常検出処理の手順を示すフローチャートである。 図13は、実施形態の異常検出処理部による、振幅および強度に基づく異常検出処理の手順を示すフローチャートである。 図14は、実施形態の検査システムによる、被検査体の検査処理の手順を示すフローチャートである。 図15は、第2変形例の照明制御部が出力する縞パターンの切り替え例を示した図である。 図16は、第2変形例の照明制御部が、異常(欠陥)を含めた表面に縞パターンを照射した例を示した図である。 図17は、第2変形例においてy方向に縞パターンを変化させた場合における、異常(欠陥)とスクリーン上の縞パターンの関係を示した図である。 図18は、実施形態において実行される検査領域の決定処理を示す例示フローチャートである。 図19は、実施形態による振幅画像の例を示した例示図である。 図20は、実施形態において振幅画像に基づき決定される検査領域の候補の例を示した例示図である。 図21は、実施形態において実行される位相限定微分に対応するフィルタ配列を示した例示図である。 図22は、実施形態による位相限定微分値を表す画像の例を示した例示図である。 図23は、実施形態において位相限定微分値に基づき決定される検査領域の候補の例を示した例示図である。 図24は、実施形態における検査領域と位相画像とを重ねて示した例示図である。 図25は、実施形態における検査領域と振幅画像とを重ねて示した例示図である。 図26は、実施形態において用いられうる3×3の微分フィルタを一般化して示した例示図である。
(実施形態)
以下、実施形態の検査システムについて説明する。実施形態の検査システムは、被検査体を検査するために様々な構成を備えている。図1は、実施形態の検査システムの構成例を示した図である。図1に示されるように、実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、アーム140と、を備えている。
アーム140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮像可能な被検査体150の表面の位置と向きを変化させる。
照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化および空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化および空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。
なお、実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化および空間変化を与える面的な照射部を構成する例について説明するが、このような組み合わせに制限するものではなく、例えば、LEDを面的に配置したり、大型モニタを配置したりするなどして、照明部を構成してもよい。
時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。図2は、実施形態の時間相関カメラ110の構成を示したブロック図である。
光学系210は、撮像レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体150を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。
実施形態の光強度信号は、検査システムの照明装置120が被写体(被検査体150を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。
イメージセンサ220は、例えば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、実施形態の画像サイズをX×Yとする。)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。
イメージセンサ220は、光学系210によって透過された、被写体(被検査体150を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮像信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。
実施形態の制御部240は、例えばCPU、ROM、およびRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。
転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。
データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
図3は、実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレームFk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで生成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。
実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレーム画像Fk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。
イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、実施形態は、解像度、感度、およびコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
図2に戻り、実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。
実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相間カメラ110は、3種類の画像データを生成する。
実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、実施形態は、3種類の画像データを生成することに制限するものではなく、強度画像データを生成しない場合や、1種類または3種類以上の時間相関画像データを生成する場合も考えられる。
実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮像に必要な露光時間分の光強度信号が必要になる。そこで、実施形態では、強度画像用重畳部243が、撮像に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。
Figure 0006909377
これにより、従来のカメラの撮像と同様に、被写体(被検査体150を含む)が撮像された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。
ところで、時間相関画像データを用いて、被検査体150の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このために、照明装置120が、上述したように、スクリーン130を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うこととした。
実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データおよび時間相関画像データを生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120およびスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第一の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第二の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第一の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
複素正弦波e-jωtは、e-jωt=cos(ωt)−j・sin(ωt)と表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。
Figure 0006909377
実施形態では、式(2)において、実部を表す画素値C1(x,y)と、虚部を表す画素値C2(x,y)と、に分けて2種類の時間相関画像データを生成する。
このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。実施形態の参照信号出力部250は、複素正弦波e-jωtの実部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように実施形態の参照信号出力部250は、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される2種類の参照信号を出力する例について説明するが、参照信号は時間関数のような時間遷移に応じて変化する参照信号であればよい。
そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実部cosωtを乗算する。
第1の相関画像用重畳部245は、撮像に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。
Figure 0006909377
そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚部sinωtを乗算する。
第2の相関画像用重畳部247は、撮像に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。
Figure 0006909377
上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。
また、実施形態は、参照信号の種類を制限するものでない。例えば、実施形態では、複素正弦波e-jωtの実部と虚部の2種類の時間相関画像データを生成するが、光の振幅と、光の位相と、による2種類の画像データを生成してもよい。
なお、実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分生成可能とする。これにより、例えば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に生成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体150の異常を検出する。そのためには、被写体に対して光を照射する必要がある。
実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。
実施形態では、時間相関カメラ110が強度画像データおよび時間相関画像データを撮像する露光時間で、照明装置120が照射する縞パターンを一周期分移動させる。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
図4に示されるように、実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。実施形態では、照明装置120がスクリーン130を介して照射されることで、矩形波の明暗の境界領域をぼかすことができる。
実施形態では、照明装置120が照射する縞パターンをA(1+cos(ωt+kx))と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、被検査体150に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。
そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)} … (5)
式(5)で示されるように、照明装置120が照射する縞パターンの強度信号は、複素数として考えることができる。
そして、イメージセンサ220には、当該照明装置120からの光が被写体(被検査体150を含む)から反射して入力される。
したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とできる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相kxとする。
Figure 0006909377
式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。
Figure 0006909377
これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体150に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光の位相変化と、光の振幅変化と、を検出できる。そこで、実施形態のPC100が、時間相関画像データおよび強度画像データに基づいて、画素毎に入る光の振幅を表した振幅画像データと、画素毎に入る光の位相変化を表した位相画像データと、を生成する。
さらに、PC100は、生成した振幅画像データと位相画像データとに基づいて、被検査体の異常を検出する。
ところで、被検査体の表面形状に凹凸に基づく異常が生じている場合、被検査体の表面の法線ベクトルの分布には異常に対応した変化が生じている。また、被検査体の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化および振幅変化のうち少なくともいずれか一つとして検出される。そこで、実施形態では、時間相関画像データおよび強度画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化および振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常を検出可能となる。次に、被検査体の異常、法線ベクトル、および光の位相変化または振幅変化の関係について説明する。
図5は、実施形態の時間相関カメラ110による、被検査体の異常の第1の検出例を示した図である。図5に示される例では、被検査体500に突形状の異常501がある状況とする。当該状況においては、異常501の点502の近傍領域においては、法線ベクトル521、522、523が異なる方向を向いていることを確認できる。そして、当該法線ベクトル521、522、523が異なる方向を向いていることで、異常501から反射した光に拡散(例えば、光511、512、513)が生じ、時間相関カメラ110のイメージセンサ220の任意の画素531に入る縞パターンの幅503が広くなる。
図6は、図5に示される異常501が被検査体500にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図6に示される例では、光の振幅を、実部(Re)と虚部(Im)とに分けて2次元平面上に表している。図6には、図5の光511、512、513に対応する光の振幅611、612、613が示されている。光の振幅611、612、613は、互いに打ち消し合い、イメージセンサ220の任意の画素531には、振幅621の光が入射する。
したがって、図6に示される状況で、検査体500の異常501が撮像された領域で振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像データで、周囲と比べて暗くなっている領域がある場合に、当該領域で光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する被検査体500の位置で異常501が生じていると判断できる。
実施形態の検査システムは、図5の異常501のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図7は、実施形態の時間相関カメラ110による、被検査体の異常の第2の検出例を示した図である。図7に示される例では、正常な場合は被検査体の表面が平面(換言すれば法線が平行)となるが、被検査体700に緩やかな勾配701が生じた状況とする。このような状況においては、勾配701上の法線ベクトル721、722、723も同様に緩やかに変化する。したがって、イメージセンサ220に入力する光711、712、713も少しずつずれていく。図7に示される例では、緩やかな勾配701のために光の振幅の打ち消し合いは生じないため、図5、図6で表したような光の振幅はほとんど変化しない。しかしながら、本来スクリーン130から投影された光が、そのままイメージセンサ220に平行に入るはずが、緩やかな勾配701のために、スクリーン130から投影された光が平行の状態でイメージセンサ220に入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図7に示したような緩やかな勾配701による異常を検出できる。
また、被検査体の表面形状(換言すれば、被検査体の法線ベクトルの分布)以外にも異常が生じる場合がある。図8は、実施形態の時間相関カメラ110による、被検査体の異常の第3の検出例を示した図である。図8に示される例では、被検査体800に汚れ801が付着しているため、照明装置120から照射された光が吸収あるいは拡散反射し、時間相関カメラ110の、汚れ801を撮像している任意の画素領域では光がほとんど強度変化しない例を表している。換言すれば、汚れ801を撮像している任意の画素領域では、光強度は位相打ち消しを起こし振動成分がキャンセルされ、ほとんど直流的な明るさになる例を示している。
このような場合、汚れ801を撮像している画素領域においては、光の振幅がほとんどないため、振幅画像データを表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する被検査体800の位置に、汚れ801などの異常があることを推定できる。
このように、実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、被検査体に異常があることを推定できる。
図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、アーム制御部101と、照明制御部102と、制御部103と、を備える。
アーム制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、アーム140を制御する。実施形態では、PC100において、被検査体150の撮像対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮像が終了する毎に、アーム制御部101が、当該設定に従って、時間相関カメラ110が設定された表面を撮像できるように、アーム140が被検査体150を移動させる。なお、実施形態は撮像が終了する毎にアーム140を移動させ、撮像が開始する前に停止させることを繰り返すことに制限するものではなく、継続的にアーム140を駆動させてもよい。なお、アーム140は、搬送部、移動部、位置変更部、姿勢変更部等とも称されうる。
照明制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。実施形態の照明制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。
図9は、照明制御部102が照明装置120に出力する縞パターンの例を示した図である。図9(B)に示す矩形波に従って、図9(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、照明制御部102が制御を行う。
実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとしてここでは詳しい説明を省略する。
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。
図9に示されるように、照明制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図10は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図10に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
図1に戻り、制御部103は、振幅−位相画像生成部104と、異常検出処理部105と、を備え、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、により、被検査体150の検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって異常を検出する特徴を算出するための処理を行う。なお、実施形態は、検査を行うために、複素数で示した時間相関画像データ(複素時間相関画像データと称す)の代わりに、複素数相関画像データの実部と虚部とで分けた2種類の時間相関画像データを、時間相関カメラ110から受け取る。
振幅−位相画像生成部104は、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、に基づいて、振幅画像データと、位相画像データと、を生成する。振幅−位相画像生成部104は、画像取得部の一例である。
振幅画像データは、画素毎に入る光の振幅を表した画像データとする。位相画像データは、画素毎に入る光の位相を表した画像データとする。
実施形態は振幅画像データの算出手法を制限するものではないが、例えば、振幅−位相画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)およびC2(x,y)から、式(8)を用いて、振幅画像データの各画素値F(x,y)を導き出せる。
Figure 0006909377
そして、実施形態では、振幅画像データの画素値(振幅)と、強度画像データの画素値と、に基づいて、異常が生じている領域があるか否かを判定できる。例えば、強度画像データの画素値(AT)を2で除算した値と、振幅画像データの振幅(打ち消し合いが生じない場合にはAT/2となる)と、がある程度一致する領域は異常が生じていないと推測できる。一方、一致していない領域については、振幅の打ち消しが生じていると推測できる。なお、具体的な手法については後述する。
同様に、振幅−位相画像生成部104は、画素値C1(x,y)およびC2(x,y)から、式(9)を用いて、位相画像データの各画素値P(x,y)を導き出せる。
Figure 0006909377
異常検出処理部105は、振幅−位相画像生成部104により生成された振幅画像データ、および位相画像データにより、検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって、被検査体150の異常に関連する特徴を検出する。実施形態では、法線ベクトルの分布に対応した特徴として、複素時間相関画像の振幅の分布を用いた例について説明する。なお、複素時間相関画像の振幅の分布とは、複素時間相関画像の各画素の振幅の分布を示したデータであり、振幅画像データに相当する。異常検出処理部105は、演算処理部の一例である。
次に、実施形態の異常検出処理部105における振幅に基づく異常検出処理について説明する。図11は、実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
まず、異常検出処理部105は、振幅画像データの各画素に格納された、光の振幅値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均振幅値を減算し(S1101)、振幅の平均差分画像データを生成する。振幅の平均差分画像データは、振幅の勾配に対応する。なお、整数Nは実施の態様に応じて適切な値が設定されるものとする。
次に、異常検出処理部105は、減算により生成された振幅の平均差分画像データに対して、予め定められた振幅の閾値を用いたマスク処理を行う(S1102)。
さらに、異常検出処理部105は、平均差分画像データのマスク領域内について画素毎に標準偏差を算出する(S1103)。なお、実施形態では、標準偏差に基づいた手法について説明するが、標準偏差を用いた場合に制限するものではなく、例えば平均値等を用いてもよい。
そして、異常検出処理部105は、平均を引いた振幅画素値が−4.5σ(σ:標準偏差)より小さい値の画素を、異常(欠陥)がある領域として検出する(S1104)。
上述した処理手順により、各画素の振幅値(換言すれば、振幅の分布)から、被検査体の異常を検出できる。しかしながら、実施形態は、複素時間相関画像の振幅の分布から異常を検出することに制限するものではない。検査対象面の法線ベクトルの分布と対応した特徴として、位相の分布の勾配を用いてもよい。そこで、次に位相の分布の勾配を用いた例について説明する。
次に、実施形態の異常検出処理部105における位相に基づく異常検出処理について説明する。図12は、実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
まず、異常検出処理部105は、位相画像データの画素毎の光の位相値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均位相値を減算し(S1201)、位相の平均差分画像データを生成する。位相の平均差分画像データは、位相の勾配に対応する。
次に、異常検出処理部105は、減算により生成された位相の平均差分画像データの大きさ(絶対値)と、閾値とを比較し、平均差分画像データの大きさが閾値以上となる画素を、異常(欠陥)のある画素として検出する(S1202)。
このS1202の検出結果により、異常検出処理部105は、平均差分画像データの正負、すなわち、画素の位相値と平均位相値との大小関係によって、凹凸を判別することができる(S1203)。画素の位相値と平均位相値とのどちらが大きい場合に凸となるかは、各部の設定によって変化するが、大小関係が異なると、凹凸が異なる。
なお、他の手法によって得られた位相の分布の勾配から、異常を検出することができる。例えば、異常検出処理部105は、別の手法として、正規化された時間相関画像データのN×Nの領域の平均ベクトルと、正規化された各画素のベクトルとの差の大きさが、閾値よりも大きい場合に、異常(欠陥)がある画素として検出することができる。また、位相の分布の勾配に限られず、位相の分布に対応する情報に基づいて被検査体の異常を検出すればよい。
次に、実施形態の異常検出処理部105における振幅および強度に基づく異常検出処理について説明する。図13は、実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
まず、異常検出処理部105は、時間相関画像データと強度画像データとから、各画素について、次の式(100)を用いて、振幅(を表す画素値)C(x,y)(式(7)参照)と強度(を表す画素値)G(x,y)(式(6)参照)との比R(x,y)を算出する(S1301)。
R(x,y)=C(x,y)/G(x,y) … (100)
次に、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する閾値以下となる画素を、異常(欠陥)のある画素として検出する(S1302)。また、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する別の閾値以上となる画素を、ムラ(汚れ等)のある画素として検出する(S1303)。法線ベクトルの分布の異常により、振幅の打ち消し合い(減殺)が顕著となった場合には、強度に比べて振幅がより大きく下がる。一方、法線ベクトルの分布にはそれほどの異常は無いものの被検査体150の表面の汚れ等によって光の吸収が顕著となった場合には、振幅に比べて強度がより大きく下がる。よって、異常検出処理部105は、S1302およびS1303による異常種別の検出が可能となる。
次に、実施形態の検査システムにおける被検査体の検査処理について説明する。図14は、実施形態の検査システムにおける上述した処理の手順を示すフローチャートである。なお、被検査体150は、すでにアーム140に固定された状態で、検査の初期位置に配置されているものとする。
実施形態のPC100が、照明装置120に対して、被検査体を検査するための縞パターンを出力する(S1401)。
照明装置120は、PC100から入力された縞パターンを格納する(S1421)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(S1422)。なお、照明装置120が表示を開始する条件は、縞パターンが格納された際に制限するものではなく、例えば検査者が照明装置120に対して開始操作を行った際でもよい。
そして、PC100の制御部103が、時間相関カメラ110に対して、撮像の開始指示を送信する(S1402)。
次に、時間相関カメラ110が、送信されてきた撮像の開始指示に従って、被検査体150を含む領域について撮像を開始する(S1411)。次に、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を生成する(S1412)。そして、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を、PC100に出力する(S1413)。
PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(S1403)。そして、振幅−位相画像生成部104は、受け取った強度画像データと時間相関画像データとから、振幅画像データと、位相画像データとを生成する(S1404)。
そして、異常検出処理部105が、振幅画像データと、位相画像データとに基づいて、被検査体の異常検出処理を実行する(S1405)。このS1405では、振幅画像データに基づく振幅画像および/または位相画像データに基づく位相画像の全領域に対して異常検出処理が実行されるものではなく、振幅画像および/または位相画像の一部の検査領域に対してのみ異常検出処理が実行される。なお、検査領域の決定方法については、後で詳細に説明するため、ここでは説明を省略する。
そして、異常検出処理部105は、異常検出結果を、PC100が備える(図示しない)表示装置に出力する(S1406)。
異常検出結果の出力例としては、強度画像データを表示するとともに、振幅画像データと位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示するなどが考えられる。また、視覚に基づく出力に制限するものではなく、音声等で異常が検出されたことを出力してもよい。
制御部103は、当該被検査体の検査が終了したか否かを判定する(S1407)。検査が終了していないと判定した場合(S1407:No)、アーム制御部101が、予め定められた設定に従って、次の検査対象となる被検査体の表面が、時間相関カメラ110で撮像できるように、アームの移動制御を行う(S1408)。アームの移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮像の開始指示を送信する(S1402)。
一方、制御部103は、当該被検査体の検査が終了したと判定した場合(S1407:Yes)、終了指示を時間相関カメラ110に対して出力し(S1409)、処理を終了する。
そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(S1414)。終了指示を受け付けていない場合(S1414:No)、再びS1411から処理を行う。一方、終了指示を受け付けた場合(S1414:Yes)、処理を終了する。
なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。
また、実施形態では、時間相関カメラ110を用いて生成された強度画像データと、時間相関画像データと、を生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。例えば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。
(第1変形例)
上述の実施形態では、周囲との違いに基づいて、異常に関連する特徴を検出する例について説明したが、周囲との違いに基づいて当該特徴を検出することに制限するものではない。たとえば、第1変形例として、参照形状のデータ(参照データ、例えば、時間相関データや、振幅画像データ、位相画像データ等)との差異に基づいて当該特徴を検出する場合も考えられる。この場合、参照データの場合とで、空間位相変調照明(縞パターン)の位置合わせおよび同期が必要となる。
第1変形例では、異常検出処理部105が、予め(図示しない)記憶部に記憶された、参照表面から得られた振幅画像データおよび位相画像データと、被検査体150の振幅画像データおよび位相画像データと、を比較し、被検査体150の表面と参照表面との間で、光の振幅および光の位相とのうちいずれか一つ以上について所定の基準以上の違いがあるか否かを判定する。
第1変形例は、実施形態と同じ構成の検査システムを用い、参照表面として正常な被検査体の表面を用いる例とする。
照明装置120がスクリーン130を介して縞パターンを照射している間に、時間相関カメラ110が、正常な被検査体の表面を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関カメラ110で生成された時間相関画像データを入力し、振幅画像データおよび位相画像データを生成し、PC100の図示しない記憶部に振幅画像データおよび位相画像データを記憶させておく。そして、時間相関カメラ110が、異常が生じているか否か判定したい被検査体を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関画像データから、振幅画像データおよび位相画像データを生成した後、記憶部に記憶されていた、正常な被検査体の振幅画像データおよび位相画像データと比較する。その際に、正常な被検査体の振幅画像データおよび位相画像データと、検査対象の被検査体の振幅画像データおよび位相画像データと、の比較結果を、異常を検出する特徴を示したデータとして出力する。そして、異常を検出する特徴が、当該所定の基準以上の場合に、被検査体150に対して異常があると推測できる。
これにより、第1変形例では、正常な被検査体の表面と差異が生じているか否か、換言すれば、被検査体の表面に異常が生じているか否かを判定できる。なお、振幅画像データおよび位相画像データの比較手法は、どのような手法を用いてもよいので、説明を省略する。
さらに、第1変形例では、参照表面の違いに基づいて、異常を検出する特徴を示したデータを出力する例について説明したが、参照表面の違いと、実施形態で示した周囲との違いと、を組み合わせて、異常を検出する特徴を算出してもよい。組み合わせる手法は、どのような手法を用いてもよいので、説明を省略する。
(第2変形例)
上述の実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、第2変形例として、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
第2変形例の照明制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査対象面に対して、異なる方向に延びた複数の縞パターンを出力する。
図15は、第2変形例の照明制御部102が出力する縞パターンの切り替え例を示した図である。図15の(A)では、照明制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、(B)に示されるように、照明制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。
そして、PC100の制御部103は、図15の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図15の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。
図16は、第2変形例の照明制御部102が、異常(欠陥)1601を含めた表面に縞パターンを照射した例を示した図である。図16に示す例では、異常(欠陥)1601が、x方向に延びている。この場合、照明制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)1601の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。
図17は、図16においてy方向、換言すれば異常(欠陥)1601の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)1601とスクリーン130上の縞パターンの関係を示した図である。図17に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)1601が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)を検出できる。
第2変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、および当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。
(検査領域の決定)
図1に示されるように、実施形態による制御部103は、検査領域決定部106を有している。検査領域は、振幅−位相画像生成部104により生成される時間相関画像で示される全領域のうち一部の領域であって、異常検出処理部105による異常検出処理(図14のS1405の処理)の対象となる領域である。
検査領域決定部106は、後述するマスクデータと、振幅−位相画像生成部104により生成される振幅画像および位相画像と、に基づいて、検査領域を決定する。そして、異常検出処理部105は、検査領域決定部106によって決定された検査領域に対して、上述した複素時間相関画像を用いた異常検出処理を実行する。これにより、検査領域以外の領域に対して異常検出処理を実行しないことで、処理負担を軽減し、効率よく異常検出処理を実行することができる。
図18は、実施形態において実行される検査領域の決定処理を示す例示フローチャートである。
図18に示されるように、実施形態による制御部103は、まず、S1において、予め設定されたマスクデータを、図示しない記憶部から読み込む。マスクデータは、被検査体を含むように予め設定された、比較的大きめのサイズの領域を示すデータである。実施形態では、このマスクデータで示される領域内で、検査領域が決定される。
次に、S2において、検査領域決定部106は、振幅−位相画像生成部104が生成した振幅画像を取得する。そして、S3において、検査領域決定部106は、S2で取得された振幅画像の、上記のマスクデータで示される領域内の各画素の値(振幅値)を求め、当該振幅値が閾値以上の領域を、検査領域の候補として決定する。そして、S4において、検査領域決定部106は、S3で決定された候補に対して膨張処理および収縮処理を規定回数実行し、S3で決定された候補の平滑化を行う。
図19は、実施形態による振幅画像の例を示した例示図であり、図20は、実施形態において振幅画像に基づき決定される検査領域の候補の例を示した例示図である。これらの例は、検査領域決定部106が、図19の振幅画像に対して上記のS2〜S4の処理を実行することで、図20の点線L1で囲まれた領域を、検査領域の候補として決定したことを示している。
図18に戻り、S5において、検査領域決定部106は、振幅−位相画像生成部104が生成した位相画像を取得し、S3で決定された候補(つまり振幅値に基づく検査領域の候補)内における位相限定微分値を算出する。位相限定微分(複素時間相関位相微分、複素位相微分)とは、複素時間相関画像で得られる複素数の振幅成分を無視して位相成分のみを微分する処理のことである。
一般に、検査領域を決定するためには、被検査体と、被検査体以外の背景との境界を特定することが望まれる。従来では、強度画像を用いて、光の強度が大きく変化する部分を、境界として特定していた。しかしながら、たとえば被検査体が境界の近傍で湾曲している場合では、光の強度が大きく変化する部分と境界とが一致しないことが多い。
そこで、実施形態による検査領域決定部106は、複素時間相関画像の位相成分のみを微分することで得られる位相限定微分値に基づき、被検査体と背景との境界を、より精度よく特定する。以下、位相限定微分値の算出方法についてより具体的に説明する。
位相限定微分値は、複素時間相関画像の位相成分の、互いに直交する二方向(x方向およびy方向とする)の微分値の二乗和に基づいて算出される。より具体的に、処理対象の画素の値をg(x,y)とした場合、g(x,y)およびg(x+1,y)の位相成分の差分(x方向の位相限定微分、第1微分値)と、g(x,y)およびg(x,y+1)の位相成分の差分(y方向の位相限定微分、第2微分値)と、の二乗和の平方根が、位相限定微分値として算出される。
上記の処理は、たとえば、図21に示されたような配列のフィルタに基づいて行われる。図21は、実施形態において実行される位相限定微分に対応するフィルタ配列を示した例示図である。実施形態では、図21(A)に示されたような配列のフィルタに基づいて、x方向の位相限定微分が行われ、図21(B)に示されたような配列のフィルタに基づいて、y方向の位相限定微分が行われる。そして、これら2種類のフィルタに基づいて算出された2つの値の二乗和の平方根が、位相限定微分値として算出される。
このように、実施形態では、x方向の位相限定微分を∂φ/∂x、y方向の位相限定微分を∂φ/∂yとした場合、位相限定微分値|∇φ|は、次の式(200)で表すことができる。
Figure 0006909377
ここで、複素数を、振幅成分と位相成分とに分けた極形式で表した場合、位相成分は、指数部分に表れる。このため、複素数の位相成分の差分である位相限定微分∂φ/∂xおよび∂φ/∂yは、複素数の除算に基づいて算出される。
つまり、複素数であるg(x,y)の位相成分をφ(x,y)とした場合、g(x,y)およびg(x+1,y)の位相成分の差分∂φ/∂xは、下記の式(201)によって得られる。
∂φ/∂x=φ(x+1,y)−φ(x,y)
=arg[g(x+1,y)/g(x,y)] … (201)
同様に、複素数であるg(x,y)の位相成分をφ(x,y)とした場合、g(x,y)およびg(x,y+1)の位相成分の差分∂φ/∂yは、下記の式(202)によって得られる。
∂φ/∂y=φ(x,y+1)−φ(x,y)
=arg[g(x,y+1)/g(x,y)] … (202)
なお、実施形態の検査システムで実際に用いられるデータは、振幅成分と位相成分とに分かれた極形式の複素数のデータではなく、当該複素数に対応する実部のデータおよび虚部のデータである。
したがって、実施形態では、上記の式(201)におけるg(x+1,y)/g(x,y)という計算の結果が、実部を表すCという値と、虚部を表すCという値と、の2つの値として出力される。そして、∂φ/∂xは、これら2つの値に基づき、arctan(C/C)という式によって計算される。同様に、実施形態では、上記の式(202)におけるg(x,y+1)/g(x,y)という計算の結果が、実部を表すC´という値と、虚部を表すC´という値と、の2つの値として出力される。そして、∂φ/∂yは、これら2つの値に基づき、arctan(C´/C´)という式によって計算される。
なお、実施形態では、x方向の位相限定微分値∂φ/∂xを、上記の式(201)の他にも、複素共役を用いた下記の式(203)によって算出することが可能である。
∂φ/∂x=arg[g(x+1,y)×g(x,y)] … (203)
(ただし、g(x,y)は、g(x,y)の共役複素数)
同様に、実施形態では、y方向の位相限定微分値∂φ/∂yを、複素共役を用いた下記の式(204)によって算出することが可能である。
∂φ/∂x=arg[g(x,y+1)×g(x,y)] … (204)
上記の式(203)および式(204)は、位相成分について差が計算される点で上記の式(201)および式(202)と同様であるが、振幅成分について商ではなく積が計算される点で上記の式(201)および式(202)と異なる。したがって、上記の式(203)および式(204)によれば、振幅が非常に小さい領域においてもゼロ除算が発生しないので、ゼロ除算の発生に基づく計算エラーを回避することができる。
図18に戻り、S6において、検査領域決定部106は、S5で算出した位相限定微分値に基づき、当該位相限定微分値が閾値以上の領域を、検査領域の候補として決定する。そして、S7において、検査領域決定部106は、S6で決定された候補に対して収縮処理を1回および膨張処理を1回実行し、S6で決定された候補の細かい凹凸(ノイズ)を除去する。なお、実施形態では、S7の処理が実行されなくてもよい。つまり、実施形態では、S6の後、直接S8に処理が進んでもよい。
そして、S8において、検査領域決定部106は、S7でノイズが除去された候補(S7が実行されない場合はS6で決定された候補)のうち、最も大きい面積を有する候補のみを、検査領域として決定する。そして、S9において、検査領域決定部106は、S8で決定された検査領域に対して膨張処理および収縮処理を規定回数実行し、S8で決定された検査領域の平滑化を行う。そして、処理が終了する。
図22は、実施形態による位相限定微分値を表す画像の例を示した例示図であり、図23は、実施形態において位相限定微分値に基づき決定される検査領域の候補の例を示した例示図である。これらの例は、検査領域決定部106が、S5で算出された位相限定微分値(図22の各画素値に対応)に基づき、上記のS6〜S9の処理を実行することで、図23の点線L2で囲まれた領域を、検査領域として決定したことを示している。
また、図24は、実施形態における検査領域と位相画像とを重ねて示した例示図であり、図25は、実施形態における検査領域と振幅画像とを重ねて示した例示図である。これらの例に示されるように、上記の手順で決定された検査領域の外形(点線L2参照)は、被検査体と背景との境界と略一致する。これにより、上記の手順は、被検査体と背景との境界を精度良く特定するのに適切な手順であることが分かる。
前述したように、実施形態による異常検出処理部105は、振幅画像および/または位相画像の全領域ではなく、振幅画像および/または位相画像の一部の、上記の手順で決定された検査領域のみに対して、異常検出処理(図14のS1405の処理)を実行する。これにより、被検査体と背景との境界と略一致する外形を有する、広過ぎることも狭過ぎることもない適切な大きさの領域に対して、異常検出処理を実行することができる。
なお、実施形態では、図21に示されたような配列の微分フィルタ以外の微分フィルタによっても、位相限定微分値を算出することが可能である。以下、3×3の一般的な微分フィルタを用いた位相限定微分値の算出方法について説明する。
図26は、実施形態において用いられうる3×3の微分フィルタを一般化して示した例示図である。この図26の(A)に示される微分フィルタは、微分値を求める対象の画素の値をg(x,y)で表した場合に、当該g(x,y)の値を有する画素を中心とした3×3=9個の画素の値g(x+k,y+l)を係数nk,lで重み付けして、g(x,y)のx方向の微分値を求めるためのものである(ただし、k,l∈{−1,0,1})。同様に、図26の(B)に示される微分フィルタは、g(x,y)の値を有する画素を中心とした3×3=9個の画素の値g(x+k,y+l)を係数mk,lで重み付けして、g(x,y)のy方向の微分値を求めるためのものである(ただし、k,l∈{−1,0,1})。
たとえば、通常の実数の画素値を有する画像に図26の微分フィルタを適用する場合を考える。この場合、処理対象の画素の値をg´(x,y)で表すと、当該g´(x,y)の値を有する画素を中心とした3×3=9個の画素の値g(x+k,y+l)に係数nk,l(またはmk,l)を乗じたものの総和が、g´(x,y)のx方向(またはy方向)の微分値として算出されるのが通常である(ただし、k,l∈{−1,0,1})。
しかしながら、前述したように、実施形態では、通常の実数の画素値を有する画像の微分値ではなく、複素時間相関画像で得られる複素数の振幅成分を無視して位相成分のみを微分することで得られる位相限定微分値を算出する必要がある。このため、実施形態では、上記した通常の計算方法とは異なる計算方法を採用する必要がある。
そこで、実施形態では、図26に示された一般的な微分フィルタが用いられる場合、以下のような演算が行われることで、位相限定微分値が算出される。
すなわち、実施形態では、位相限定微分値を算出する対象の画素の値g(x,y)を下記の式(301)で表した場合に、図26に示された一般的な微分フィルタに基づき、g(x,y)と、当該g(x,y)の値を有する画素を中心として周囲に隣接する8個の画素の値g(x−1,y−1)、g(x−1,y)、g(x−1,y+1)、g(x,y−1)、g(x,y+1)、g(x+1,y−1)、g(x+1,y)、g(x+1,y+1)と、の合計9個の画素の値に対して、下記の式(302)および式(303)で表される演算が行われる。
g(x,y)=A(x,y)×ejφ(x,y) … (301)
(ただし、A(x,y)はg(x,y)の振幅成分、φ(x,y)はg(x,y)の位相成分、eは自然対数の底、jは虚数単位)
Figure 0006909377
Figure 0006909377
そして、実施形態では、上記の式(302)で得られたξ(x,y)の位相成分が下記の式(304)に従って抽出されることで、x方向の位相限定微分値としての∂φ/∂xが算出され、上記の式(303)で得られたη(x,y)の位相成分が下記の式(305)に従って抽出されることで、y方向の位相限定微分値としての∂φ/∂yが算出される。
∂φ/∂x=arg[ξ(x,y)] … (304)
∂φ/∂y=arg[η(x,y)] … (305)
そして、実施形態では、上記の式(304)で得られた∂φ/∂xと、上記の式(305)で得られた∂φ/∂yと、の二乗和の平方根が上記の式(200)に従って計算されることで、g(x,y)の位相限定微分値|∇φ|が算出される。
以上のようにして、実施形態では、図26に示された一般的な微分フィルタが用いられる場合においても、複素時間相関画像で得られる複素数の振幅成分を無視した位相成分のみの微分値である位相限定微分値を算出することが可能である。なお、x方向の位相限定微分値∂φ/∂xと、y方向の位相限定微分値∂φ/∂yとが、前述と同様に複素共役を用いた手法によっても算出可能であることは、言うまでもない。この場合、正のフィルタ係数に対応した画素の値についてはそのままフィルタ係数で重み付け(べき乗)され、負のフィルタ係数に対応した画素の値については、その共役複素数が、符号を反転させたフィルタ係数で重み付けされる。そして、このように重み付けされた値の積(総乗)の位相成分が抽出されることで、∂φ/∂x(または∂φ/∂y)が算出される。
ところで、図21に示された微分フィルタは、図26に示された微分フィルタの特別な場合として表現することが可能である。以下、図21に示された微分フィルタを用いることのメリットの一例について簡単に説明する。
図21(A)に示された微分フィルタは、図26(A)に示された微分フィルタにおいて、n0,0を−1、n1,0を1、その他の係数を全て0とすることで得られる微分フィルタである。この図21(A)の微分フィルタは、X方向に隣接する2画素の位相差を、ゲインをかけることなくそのまま微分値として扱うものである。
同様に、図21(B)に示された微分フィルタは、図26(B)に示された微分フィルタにおいて、m0,0を−1、m0,1を1、その他の係数を全て0とすることで得られる微分フィルタである。この図21(B)の微分フィルタは、Y方向に隣接する2画素の位相差を、ゲインをかけることなくそのまま微分値として扱うものである。
ここで、上記の式(9)からも分かるように、複素時間相関画像における位相の値は、−π〜πの範囲に折り畳まれるので、位相差にゲインをかけたものを微分値として扱うと、本来は位相差を持っている部分の微分値がゼロとして計算されてしまうことがある。たとえば、位相差を2倍したものを微分値として扱うと、位相差がπの部分の微分値は、π×2=2πが−π〜πの範囲に折り畳まれる結果、ゼロとして計算されてしまうことになる。
一方、図21に示された微分フィルタは、上記のように、隣接する2画素の位相差を、ゲインをかけることなくそのまま微分値として扱うものである。したがって、図21に示された微分フィルタによれば、上記のような位相の折りたたみの影響を回避することができるので、より適切な微分値を得ることが可能である。
実施形態では、位相の折りたたみの影響を回避可能な微分フィルタであれば、図21に示された微分フィルタ以外の他の微分フィルタが用いられてもよい。
上述した実施形態のPC100で実行される検査プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、上述した実施形態のPC100で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態のPC100で実行される検査プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
以上、本発明のいくつかの実施形態および変形例を説明したが、これらの実施形態および変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態および変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。
100…PC(検査システム)、104…振幅−位相画像生成部(画像取得部)、105…異常検出処理部(演算処理部)、106…検査領域決定部、110…時間相関カメラ、120…照明装置(照明部)、130…スクリーン(照明部)。

Claims (8)

  1. 光の強度の周期的な時間変化および空間変化を与える面的な照明部と、
    時間相関カメラまたはそれと等価な動作をする撮像システムから出力される複素時間相関画像を取得する画像取得部と、
    前記複素時間相関画像に基づいて、検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴、を算出する演算処理部と、
    前記複素時間相関画像の位相限定微分値に基づいて、前記検査対象面における、前記演算処理部による異常検出処理の対象となる検査領域を決定する検査領域決定部と、
    を備え
    前記検査領域決定部は、前記複素時間相関画像の位相成分の、互いに直交する二方向の微分値の二乗和に基づいて、前記位相限定微分値を算出する、
    検査システム。
  2. 前記検査領域決定部は、前記複素時間相関画像において前記位相限定微分値が第1閾値以上の領域を、前記検査領域の第1候補とし、当該第1候補に基づいて、前記検査領域を決定する、請求項1に記載の検査システム。
  3. 前記検査領域決定部は、前記第1候補が複数存在する場合、最も大きい面積を有する1つの第1候補を、前記検査領域として決定する、請求項に記載の検査システム。
  4. 前記検査領域決定部は、前記複素時間相関画像の振幅成分の値に基づいて、前記検査領域の第2候補を決定し、当該第2候補内における前記位相限定微分値に基づいて、前記検査領域を決定する、請求項1〜のいずれか1項に記載の検査システム。
  5. 前記検査領域決定部は、前記振幅成分の値が第2閾値以上の領域を、前記第2候補として決定する、請求項に記載の検査システム。
  6. 前記検査領域決定部は、前記複素時間相関画像において前記位相限定微分値を算出する対象の画素を第1画素とした場合、前記第1画素の位相成分と、前記第1画素に対して第1方向に隣接する1つの第2画素の位相成分と、の差分に対応した第1微分値と、前記第1画素の位相成分と、前記第1画素に対して前記第1方向と直交する第2方向に隣接する1つの第3画素の位相成分と、の差分に対応した第2微分値と、の二乗和の平方根を、前記第1画素における前記位相限定微分値として算出する、請求項に記載の検査システム。
  7. 前記検査領域決定部は、前記複素時間相関画像において前記位相限定微分値を算出する対象の画素の値としてのg(x,y)を下記の式(1)で表した場合、
    g(x,y)=A(x,y)×ejφ(x,y) … (1)
    (ただし、A(x,y)はg(x,y)の振幅成分、φ(x,y)はg(x,y)の位相成分、eは自然対数の底、jは虚数単位)
    g(x,y)と、当該g(x,y)の値を有する画素を中心として周囲に隣接する8個の画素の値g(x−1,y−1)、g(x−1,y)、g(x−1,y+1)、g(x,y−1)、g(x,y+1)、g(x+1,y−1)、g(x+1,y)、g(x+1,y+1)と、の合計9個の画素の値に対して、下記の式(2)および(3)で表される演算を行い、
    Figure 0006909377
    (ただし、nk,lはg(x+k,y+l)に対応して設定されるx方向の微分フィルタの係数)
    Figure 0006909377
    (ただし、mk,lはg(x+k,y+l)に対応して設定されるy方向の微分フィルタの係数)
    上記の式(2)で得られたξ(x,y)の位相成分を下記の式(4)に従って抽出するとともに、上記の式(3)で得られたη(x,y)の位相成分を下記の式(5)に従って抽出することで、x方向の位相限定微分値としての∂φ/∂xと、y方向の位相限定微分値としての∂φ/∂yと、を算出し、
    ∂φ/∂x=arg[ξ(x,y)] … (4)
    ∂φ/∂y=arg[η(x,y)] … (5)
    上記の式(4)で得られた∂φ/∂xと、上記の式(5)で得られた∂φ/∂yと、の二乗和の平方根を下記の式(6)に従って計算することで、前記位相限定微分値としての|∇φ|を算出する、
    Figure 0006909377
    請求項1〜のいずれか1項に記載の検査システム。
  8. 光の強度の周期的な時間変化および空間変化を与える面的な照明部により照らされた被検査体を撮像した時間相関カメラまたはそれと等価な動作をする撮像システムから出力される複素時間相関画像を取得することと、
    前記複素時間相関画像に基づいて、検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴、を算出することと、
    前記複素時間相関画像の位相限定微分値に基づいて、前記検査対象面における、異常の検出の対象となる検査領域を決定することと、
    を備え
    前記複素時間相関画像の位相成分の、互いに直交する二方向の微分値の二乗和に基づいて、前記位相限定微分値を算出すること、
    をさらに備える、検査方法。
JP2016180018A 2016-07-11 2016-09-14 検査システムおよび検査方法 Active JP6909377B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016137150 2016-07-11
JP2016137150 2016-07-11

Publications (2)

Publication Number Publication Date
JP2018013466A JP2018013466A (ja) 2018-01-25
JP6909377B2 true JP6909377B2 (ja) 2021-07-28

Family

ID=61019438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016180018A Active JP6909377B2 (ja) 2016-07-11 2016-09-14 検査システムおよび検査方法

Country Status (1)

Country Link
JP (1) JP6909377B2 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1306646A4 (en) * 2000-06-07 2006-08-16 Citizen Watch Co Ltd BAND PATTERN PROJECTOR WITH A LIQUID CRYSTAL ASSEMBLY
JP2013116313A (ja) * 2011-11-01 2013-06-13 Fujifilm Corp 放射線撮影装置及び放射線撮影方法
JP6238521B2 (ja) * 2012-12-19 2017-11-29 キヤノン株式会社 3次元計測装置およびその制御方法
FR3015033B1 (fr) * 2013-12-13 2015-12-04 Saint Gobain Procede et dispositif d'analyse de la surface d'un substrat
JP6433268B2 (ja) * 2014-03-31 2018-12-05 国立大学法人 東京大学 検査システムおよび検査方法

Also Published As

Publication number Publication date
JP2018013466A (ja) 2018-01-25

Similar Documents

Publication Publication Date Title
JP6316068B2 (ja) 検査システムおよび検査方法
JP6433268B2 (ja) 検査システムおよび検査方法
JP6542586B2 (ja) 検査システム
WO2018159825A1 (ja) 検査システムおよび検査方法
JP6553412B2 (ja) 検査システム
JP6682251B2 (ja) 検査システム、及び検査方法
JP2018009849A (ja) 検査システムおよび検査方法
JP6276092B2 (ja) 検査システムおよび検査方法
JP2018028527A (ja) 検査システム
JP6420131B2 (ja) 検査システム、及び検査方法
JP2019002761A (ja) 検査システムおよび検査方法
JP6909377B2 (ja) 検査システムおよび検査方法
JP2017101979A (ja) 検査システム
JP6909378B2 (ja) 検査システム
JP6781430B2 (ja) 検査システム
JP2019020365A (ja) 検査システム
JP6902684B2 (ja) 画像処理装置および検査システム
JP6703415B2 (ja) 検査装置及び検査方法
JP6826813B2 (ja) 検査装置及び検査方法
JP6529247B2 (ja) 較正システムおよび検査システム
JP2018116026A (ja) 照明装置および透過部材
JP2020012816A (ja) 検査システムおよび検査方法
JP2019002873A (ja) 検査システムおよび検査方法
JP2024017229A (ja) 検査システムおよび検査方法
JP2024017225A (ja) 検査システムおよび検査方法

Legal Events

Date Code Title Description
AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210420

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210510

R150 Certificate of patent or registration of utility model

Ref document number: 6909377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150