CN112950563A - 检测方法及装置、检测设备和存储介质 - Google Patents

Abstract

一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。检测方法包括基于预设的模板匹配算法，检测待测件的图像的缺陷；若存在所述缺陷，则获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及基于预设的目标检测模型，检测所述待测图像的缺陷。通过目标检测模型替代质检人员并配合模板匹配算法，不仅能够检测到待测件的所有缺陷，而且能够准确地识别出模板匹配算法过检导致的不具有缺陷的待测图像，无需浪费人力，避免了质检人员因经验少、疲劳的原因导致的检测准确性差的问题，检测效果较好。

Description

检测方法及装置、检测设备和存储介质

技术领域

本申请涉及检测技术领域，特别涉及一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。

背景技术

目前，基于模板匹配的缺陷检测算法在检测具有缺陷的工件的图像时，容易将图像中原本不是缺陷的部分识别为缺陷，导致大量的过检，需要质检人员逐张进行核对，不仅浪费人力，而且检测准确性受到质检人员的经验和疲劳程度的影响，检测效果较差。

发明内容

本申请提供了一种检测方法、检测装置、检测设备和非易失性计算机可读存储介质。

本申请实施方式的检测方法包括基于预设的模板匹配算法，检测待测件的图像的缺陷；若存在所述缺陷，则获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及基于预设的目标检测模型，检测所述待测图像的缺陷。

本申请实施方式的检测装置包括第一检测模块、获取模块和第二检测模块。所述第一检测模块用于基于预设的模板匹配算法，检测待测件的图像的缺陷；所述获取模块用于在存在所述缺陷时，获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；所述第二检测模块用于基于预设的目标检测模型，检测所述待测图像的缺陷。

本申请实施方式的检测设备包括处理器。所述处理器用于：基于预设的模板匹配算法，检测待测件的图像的缺陷；在存在所述缺陷时，获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及基于预设的目标检测模型，检测所述待测图像的缺陷。

本申请实施方式的一种包含计算机程序的非易失性计算机可读存储介质，当所述计算机程序被一个或多个处理器执行时，使得所述处理器执行所述检测方法。所述检测方法包括基于预设的模板匹配算法，检测待测件的图像的缺陷；若存在所述缺陷，则获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及基于预设的目标检测模型，检测所述待测图像的缺陷。

本申请的检测方法、检测装置、检测设备和非易失性计算机可读存储介质，首先通过模板匹配算法检测出待测件的图像的所有缺陷，然后将待测件的图像中，缺陷所在的图像区域截取出来作为待测图像，然后将每个缺陷对应的待测图像输入到目标检测模型进行高精度的检测，以确定每个待测图像包含的缺陷的信息，通过目标检测模型替代质检人员并配合模板匹配算法，不仅能够检测到待测件的所有缺陷，而且能够准确地识别出模板匹配算法过检导致的不具有缺陷的待测图像，无需浪费人力，避免了质检人员因经验少、疲劳的原因导致的检测准确性差的问题，检测效果较好。

本申请的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

为了更清楚地说明本申请实施方式或现有技术中的技术方案，下面将对实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请某些实施方式的检测方法的流程示意图；

图2是本申请某些实施方式的检测装置的模块示意图；

图3是本申请某些实施方式的检测设备的平面示意图；

图4至图6是本申请某些实施方式的检测方法的流程示意图；

图7和图8是本申请某些实施方式的检测方法的原理示意图；

图9至图14是本申请某些实施方式的检测方法的原理示意图；

图15是本申请某些实施方式的检测方法的流程示意图；及

图16是本申请某些实施方式的处理器和计算机可读存储介质的连接示意图。

具体实施方式

以下结合附图对本申请的实施方式作进一步说明。附图中相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。另外，下面结合附图描述的本申请的实施方式是示例性的，仅用于解释本申请的实施方式，而不能理解为对本申请的限制。

请参阅图1至图3，本申请实施方式的检测方法包括以下步骤：

011：基于预设的模板匹配算法，检测待测件的图像的缺陷；

012：若存在缺陷，则获取待测件的图像中缺陷所在的图像区域，以作为待测图像；

013：基于预设的目标检测模型，检测待测图像的缺陷。

本申请实施方式的检测装置10包括第一检测模块11、获取模块12、第二检测模块13。第一检测模块11用于基于预设的模板匹配算法，检测待测件的图像的缺陷；获取模块12用于在存在缺陷时，获取待测件的图像中缺陷所在的图像区域，以作为待测图像；第二检测模块13用于基于预设的目标检测模型，检测待测图像的缺陷。也即是说，步骤011可以由第一检测模块11执行、步骤012可以由获取模块12执行、步骤013可以由第二检测模块13执行。

本申请实施方式的检测设备100包括处理器20。处理器20用于基于预设的模板匹配算法，检测待测件的图像的缺陷；若存在缺陷，则获取待测件的图像中缺陷所在的图像区域，以作为待测图像；及基于预设的目标检测模型，检测待测图像的缺陷。也即是说，步骤011、步骤012和步骤013可以由处理器20执行。

具体地，检测设备100可以是测量机。可以理解，检测设备100的具体形式并不限于测量机，还可以是任意能够对待测件200进行检测的设备。

检测设备100包括处理器20、运动平台30和传感器40。处理器20和传感器40均可设置在运动平台30。运动平台30可用于承载待测件200，运动平台30移动以带动传感器40移动，以使得传感器40采集待测件200的信息。

例如，运动平台30包括XY运动平台31和Z运动平台32，传感器40设置在运动平台30上，具体为：传感器40设置在Z运动平台32，其中，XY运动平台31用于控制待测件200沿水平面移动，改变待测件200和传感器40在水平面的相对位置，Z运动平台32用于控制传感器40沿垂直水平面的方向移动，如此，通过XY运动平台31和Z运动平台32配合实现传感器40相对待测件200的三维位置(即，在水平面的相对位置和垂直水平面方向的相对位置)。

可以理解，运动平台30并不限于上述结构，只需能够改变传感器40相对待测件200的三维位置即可。

传感器40可以是一个或多个，多个传感器40可以是不同类型的传感器40，如传感器40可包括可见光摄像头、深度摄像头等。本实施方式中，传感器40为可见光摄像头。

在获取待测件200的图像时，可将传感器40对准待测件200，以使得待测件200位于传感器40的视场范围内，从而通过一次拍摄直接获取到整个待测件200的图像。待测件200可以是不同类型的工件，如晶圆、显示屏面板、手机前盖、手机后盖、VR眼镜、AR眼镜、智能手表盖板40、玻璃、木材、铁板、任何装置的壳体(例如手机壳)等需要进行检测的工件。本申请实施方式中，以待测件200为晶圆为例进行说明。

然后，处理器20基于预设的模板匹配算法，检测待测件200的图像的缺陷。

例如，检测设备100预存有多个不同类型的缺陷的模板图像，预设的模板匹配算法可以是：将待测件200的图像划分为不同图像区域，并将每个图像区域分别与所有模板图像一一进行比对，以确定待测件200的图像中的缺陷。如图像区域与模板图像匹配，即可确定该图像区域内存在该模板图像对应的缺陷，从而检测到待测件200的图像中所有图像区域的缺陷。

可以理解，基于预设的模板匹配算法检测出来的缺陷的位置并不精确，且模板匹配算法中，不包含缺陷，但具有与缺陷类似的晶圆图案的图像区域也可能和模板图像匹配，从而造成过检。

因此，在基于预设的模板匹配算法检测待测件200的图像后，若不存在缺陷，则可确定待测件200的图像无缺陷。若存在缺陷，则需要进行进一步确定，此时处理器20将检测出来的每个缺陷对应的图像区域裁剪出来，以作为待测图像。

一张或多张待测图像再输入到目标检测模型中，处理器20基于目标检测模型对每个待测图像进行检测，从而检测每个待测图像的缺陷。

模板检测算法检测的缺陷可包含位置信息和类型信息，目标检测模型检测的缺陷可包含位置信息、类型信息和置信度信息。相较于模板匹配算法检测出的位置信息为图像区域所在的位置而言，目标检测模型能够更为准确地检测出缺陷在该图像区域的具体位置，且对缺陷的类型的检测准确性更高，从而更为准确地排除掉模板匹配算法过检产生的待测图像，准确无遗漏地检测出待测件200的图像中的所有缺陷。因此，在经过目标检测模型对每个待测图像进行检测后，处理器20将目标检测模型输出的检测结果(即，每个缺陷的位置信息、类型信息和置信度信息)作为最终的检测结果。

本申请的检测方法、检测装置10和检测设备100，首先通过模板匹配算法检测出待测件200的图像的所有缺陷，然后将待测件200的图像中，缺陷所在的图像区域截取出来作为待测图像，然后将每个缺陷对应的待测图像输入到目标检测模型进行高精度的检测，以确定每个待测图像包含的缺陷的信息，通过目标检测模型替代质检人员并配合模板匹配算法，不仅能够检测到待测件200的所有缺陷，而且能够准确地识别出模板匹配算法过检导致的不具有缺陷的待测图像，无需浪费人力，避免了质检人员因经验少、疲劳的原因导致的检测准确性差的问题，检测效果较好。

请参阅2、图3和图4，在某些实施方式中，在步骤011包括：

0111：获取与待测件200的图像匹配的预设模板图像；

0112：融合处理预设模板图像和待测件200的图像，以检测缺陷。

在某些实施方式中，第一检测模块11还用于获取与待测件200的图像匹配的预设模板图像；融合处理预设模板图像和待测件200的图像，以检测缺陷。也即是说，步骤0111和步骤0112可以由第一检测模块执行。

在某些实施方式中，处理器20还用于获取与待测件200的图像匹配的预设模板图像；融合处理预设模板图像和待测件200的图像，以检测缺陷。也即是说，步骤0111和步骤0112可以由处理器20执行。

具体地，处理器20在基于预设的模板匹配算法检测待测件200的图像的缺陷时，可首先获取与待测件200的图像匹配的预设模板图像，其中，与待测件200的图像匹配的预设模板图像可以是不具有缺陷的待测件200的图像，如对于晶圆而言，预设模板图像则是不具有缺陷的晶圆图像，且该晶圆的型号与待测件200相同，以保证两者的晶圆图案、本身的形状、图案背景等均是相同的。

然后处理器20将预设模板图像和待测件200的图像进行融合处理。具体可以是，先将待测件200的图像和预设模板图像均分为数量相同的多个图像区域，然后将待测件200的图像和预设模板图像两者位置对应的图像区域进行对比，若两者对应的图像区域不同(即，两者对应的图像区域的图像存在差异)，则可确定该位置可能存在缺陷，从而检测出所有存在缺陷的图像区域。如此，无需将每个图像区域均与所有不同类型的缺陷的模板图像进行匹配，即可确定每个图像区域是否存在缺陷，计算量较小，且不会出现漏检。

请参阅图2、图3和图5，在某些实施方式中，步骤0112包括：

01121：对预设模板图像和待测件200的图像进行差影处理，以得到差值图像；及

01122：计算差值图像的连通域，以检测缺陷。

在某些实施方式中，第一检测模块11还用于对预设模板图像和待测件200的图像进行差影处理，以得到差值图像；计算差值图像的连通域，以检测缺陷。也即是说，步骤01121和步骤01122可以由第一检测模块11执行。

在某些实施方式中，处理器20还用于对预设模板图像和待测件200的图像进行差影处理，以得到差值图像；计算差值图像的连通域，以检测缺陷。也即是说，步骤01121和步骤01122可以由处理器20执行。

具体地，处理器20在融合处理预设模板图像和待测件200的图像时，可将预设模板图像和待测件200的图像进行差影处理，将预设模板图像和待测件200的图像位置对应的像素的像素值作差，并将差值作为像素值，以得到差值图像。

一般地，预设模板图像和待测件200的图像均为同一型号的传感器40拍摄得到的，两者的像素以及待测件200在两个图像中的位置是基本相同的，从而保证两者进行差影处理得到的差值图像中，存在差异的部分是由缺陷引起的，使得缺陷能够在差值图像中突出的显示出来，提升缺陷检测准确性。

处理器20可识别差值图像的连通域，其中，连通域为像素值均大于预定像素值(如10、20、30等)且位置相互连接的多个像素组成的图像区域。例如，预定像素值可以是差值图像的所有像素的像素平均值，可以理解，预定像素值选取的越大，则检测的连通域为缺陷的几率越大，可提高缺陷检测的准确性；预定像素值选取的越小，则检测的连通域为缺陷的几率越小，可防止漏检。

在识别出差值图像的多个连通域后，可确定每个连通域均对应一个缺陷，处理器20可将待测件200的图像中与连通域对应的图像区域作为一个待测图像，以输入目标检测模型中进行后续的缺陷检测。

请参阅图2、图3和图6，在某些实施方式中，步骤01122包括以下步骤：

01123：识别差值图像中的多个光斑，并为每个光斑编号；

01124：在相邻两个光斑的距离小于预设距离阈值时，将相邻两个光斑的编号修改为同一编号；

01125：连通编号相同的光斑以作为连通域；及

01126：在连通域的面积大于预设面积阈值时，确定连通域为缺陷。

在某些实施方式中，第一检测模块11还用于识别差值图像中的多个光斑，并为每个光斑编号；在相邻两个光斑的距离小于预设距离阈值时，将相邻两个光斑的编号修改为同一编号；连通编号相同的光斑以作为连通域；及在连通域的面积大于预设面积阈值时，确定连通域为缺陷。也即是说，步骤01123、步骤01124、步骤01125和步骤01126可以由第一检测模块11执行。

在某些实施方式中，处理器20还用于识别差值图像中的多个光斑，并为每个光斑编号；在相邻两个光斑的距离小于预设距离阈值时，将相邻两个光斑的编号修改为同一编号；连通编号相同的光斑以作为连通域；及在连通域的面积大于预设面积阈值时，确定连通域为缺陷。也即是说，步骤01123、步骤01124、步骤01125和步骤01126可以由处理器20实现。

具体地，当然，由于拍摄时间、拍摄环境等隐私的影响，预设模板图像和待测件200的图像可能存在除了缺陷引起的差异之外的差异，从而在差值图像中突出显示出来，或者导致原来为一整块的缺陷部分，被分割为相近的多个小的缺陷部分，即连通域被分为多个不连续的部分。

因此，在确定连通域时，处理器20会先根据预定像素值识别出差值图像中所有的光斑，并依次对光斑进行编号，其中，光斑可以为连通域的一部分，即光斑也为大于预定像素值的相互连接的多个像素组成的图像区域。

在相邻的两个光斑的距离小于预设距离阈值时，可将相邻的两个光斑的编号修改为同一编号。如图7所示，存在5个光斑(分别为光斑1、光斑2、光斑3、光斑4和光斑5)，两个光斑可能是间隔分布，或者邻接分布等，如光斑1和光斑5、光斑5和光斑4间隔分布，光斑2和光斑3邻接分布，在两个光斑之间的距离小于预定距离阈值(如为1个像素、2个像素、3个像素等，以预定距离阈值为2个像素为例)时即可确定两个光斑是连通的，处理器20将连通的光斑的编号修改为同一编号，如光斑1、光斑4和光斑5均编号为1，光斑2和光斑3均编号为2。其中，两个光斑之间的距离为两个光斑的最小距离，如光斑1和光斑5中距离最近的两个像素(分别位于光斑1和光斑5)之间的距离。

然后处理器20将编号相同的光斑连通，以作为一个连通域，如图8所示，光斑1、光斑4和光斑5共同形成连通域a，光斑2和光斑3共同形成连通域b。从而使得原本对应一个缺陷的多个光斑连通在一起，防止因连通域面积过小被当作噪声处理，从而出现漏检。

对于不同类型的待测件200而言，其对应的缺陷的类型以及缺陷的尺寸，是存在经验范围的。例如，对于晶圆而言，一般包括外来物、残胶、氧化、气泡、褶皱、破裂等缺陷，且缺陷的尺寸(如面积)大于预设面积阈值。

因此，当连通域的面积大于预设面积阈值时，处理器20即可确定该连通域为缺陷，从而消除掉为噪声的面积较小的连通域，提升缺陷检测的准确性。

请参阅图2、图3和图9，步骤13包括：

0131：获取多个具有缺陷的工件的多个训练图像；

0132：标注训练图像中的缺陷；

0133：将标注前的多个训练图像和标注后的多个训练图像作为训练集，输入到目标检测模型进行训练，以获取训练至收敛的目标检测模型；及

0134：根据收敛后的目标检测模型检测待测件200的图像的缺陷。

在某些实施方式中，第二检测模块13还用于获取多个具有缺陷的工件的多个训练图像；标注训练图像中的缺陷；将标注前的多个训练图像和标注后的多个训练图像作为训练集，输入到目标检测模型进行训练，以获取训练至收敛的目标检测模型；及根据收敛后的目标检测模型检测待测图像的缺陷。也即是说，步骤0131至步骤0134可以由第二检测模块13执行。

在某些实施方式中，处理器20还用于获取多个具有缺陷的工件的多个训练图像；标注训练图像中的缺陷；将标注前的多个训练图像和标注后的多个训练图像作为训练集，输入到目标检测模型进行训练，以获取训练至收敛的目标检测模型；及根据收敛后的目标检测模型检测待测图像的缺陷。也即是说，步骤0131至步骤0134可以由处理器20执行。

具体地，在获取具有缺陷的工件的训练图像时，可将预先已经检测的、具有缺陷的工件放置在运动平台30，处理器20则控制运动平台30移动，以使得传感器40拍摄工件的原始图像，以作为训练图像。

拍摄原始图像时，处理器20可根据传感器40的视场范围，调整传感器40与工件之间的距离，以使得工件位于视场范围内，从而通过拍摄一次图像即可得到整个工件的原始图像；或者，可使得传感器40每次拍摄时，视场范围仅覆盖工件的部分区域，通过移动拍摄工件的不同区域，以得到多张原始图像，然后将多张原始图像合成以得到整个工件的原始图像。

在选取拍摄原始图像的工件时，选取的工件可以均是同一类型的工件，使得后续进行训练后得到的目标检测模型专门用于检测该类型的工件，从而提高目标检测模型的检测准确性。当然，选取的工件也可以是包含不同类型的工件，从而使得训练后得到的目标检测模型能够同时实现多种类型工件的缺陷的检测，应用较为广泛。本实施方式以工件均为晶圆为例进行说明，晶圆的缺陷一般包括外来物、残胶、氧化、气泡、褶皱、破裂等。

为了提升训练效果，在选取晶圆时，可选取晶圆图案、或者晶圆背景图案互不相同的多个晶圆，从而获取图像背景互不相同的多个训练图像，以提升训练图像的多样性，提升训练效果的同时，还可减少训练后的目标检测模型受到图像背景的影响，使得目标检测模型即使在不同图像背景下，依旧能够准确地进行缺陷检测。

此外，在选取晶圆时，还可选取具有至少部分不同类型的缺陷的晶圆。例如，选取了晶圆A、晶圆B、晶圆C，则晶圆A、晶圆B和晶圆C三者具有的缺陷至少部分不同，如晶圆A具有外来物、残胶和氧化的缺陷，晶圆B具有残胶、氧化和气泡的缺陷，晶圆C具有氧化、气泡、褶皱和破裂的缺陷。从而使得训练图像具有的缺陷存在一定差异，可提升训练图像的多样性，从而提升训练效果。

可以理解，不同类型的工件，出现缺陷概率最大的区域是不同的。因此，在获取训练图像时，可截取原始图像中，预定区域的部分以作为训练图像，预定区域即为当前工件出现缺陷概率最大的区域，从而保证训练图像尺寸较小以降低计算量的同时，使得训练图像具有足够的缺陷以进行后续的训练。

在一个例子中，工件为晶圆，预定区域一般为晶圆的中心区域，如中心区域为以晶圆中心为圆心，半径为预定半径的圆形区域，预定半径可根据晶圆的半径确定，如预定半径为晶圆的半径的60％、70％、75％、80％、90％等。因此，在拍摄并获取到晶圆的原始图像后，可截取原始图像中与中心区域对应的图像，从而得到训练图像。

在得到训练图像后，可对训练图像中的缺陷预先进行标注。例如，质检人员根据经验，对训练图像中的缺陷进行标注。如标注出训练图像中缺陷的类型，然后通过在训练图像中使用缺陷框(如矩形框、圆形框等)框选出缺陷，以作为缺陷的位置。或者，处理器20基于预设的模板匹配算法，首先对训练图像的缺陷进行检测，然后由质检人员进行确定，以框选缺陷的位置并标注缺陷的类型，从而在提高缺陷标注速度的同时，降低质检人员的工作量，降低质检人员因疲劳产生误判的几率。

处理器20可获取标注后的多个训练图像，然后处理器20将标注前的多个训练图像和标注后的多个训练图像作为训练集，输入到目标检测模型中进行训练，直至目标检测模型收敛，由于经过标注后的训练图像中的缺陷的类型和位置较为准确，可提升目标检测模型的检测效果。

其中，目标检测模型可以是二阶检测算法(如Faster R-CNN及其变种)、一阶检测算法(如YOLOV3及其变种)、anchor-free检测算法(如CenterNet及其变种)等，在此不作限制。

经过训练集训练，并调整后的目标检测模型能够准确检测当前类型的工件的缺陷时，则可认为目标检测模型收敛。

最后，处理器20根据收敛后的目标检测模型，在传感器40拍摄到待测件200的图像后，对待测件200的图像进行检测，以识别待测件200的图像中的缺陷。

如此，通过对具有缺陷的训练图像进行缺陷标注后，再输入目标检测模型进行训练，从而得到训练至收敛的目标检测模型，通过训练后的目标检测模型检测待测件的图像的缺陷，能够准确地识别缺陷和背景图像的噪声，在检测缺陷时受到图像背景的影响较小，不易产生过检，从而能够提升检测效果。

在某些实施方式中，处理器20还用于对多个训练图像进行扩增处理，扩增处理包括镜像、平移、旋转、剪切和变形中至少一种。

具体地，为了进一步提升训练图像的数量和多样性，处理器20可对根据原始图像得到的训练图像进行扩增处理。

请参阅图10，例如，处理器20对每个训练图像P1进行镜像处理，以得到每个训练图像P1的镜像图像P2，并作为新的训练图像P1。镜像处理后的镜像图像P2和训练图像P1镜面对称，且对称轴可以是任意的，如以训练图像P1的任一边为对称轴进行镜像处理(图10则以训练图像P1的最右侧的边作为对称轴进行镜像处理)，或者以训练图像P1的对角线或任意两边中点的连线为对称轴进行镜像处理等，从而通过镜像处理得到多个新的训练图像。

请参阅图11，再例如，处理器20对每个训练图像P1进行平移处理，以得到每个训练图像P1的平移图像P3，并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域(即，训练图像P1所占的区域)，然后对训练图像P1进行平移，如左平移、右平移、左上平移等(图11中为向右平移)，然后将预定的图像区域的图像(即，平移图像P3)作为新的训练图像P1，平移后的缺陷在图像中的位置发生变化，从而得到多个新的训练图像P1。

请参阅图12，再例如，处理器20对每个训练图像P1进行旋转处理，以得到每个训练图像P1的旋转图像P4，并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域，然后对训练图像P1进行旋转，如顺时针或逆时针旋转10度、30度、60度、90度、140度等(图12为逆时针旋转30度)，然后将预定的图像区域的图像(及，旋转图像P4)作为新的训练图像P1，旋转后的缺陷在图像中的位置发生变化，从而得到多个新的训练图像P1。

请参阅图13，再例如，处理器20对每个训练图像P1进行剪切处理，以得到每个训练图像的剪切图像P5，并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域，然后对训练图像P1进行剪切，如剪切训练图像P1的1/4、1/3、1/2等(图13为剪切训练图像的1/2)，然后将预定的图像区域的图像(即剪切图像P5)作为新的训练图像P1，从而得到多个新的训练图像P1。

请参阅图14，再例如，处理器20对每个训练图像P1进行变形处理，以得到每个训练图像P1的变形图像P6，并作为新的训练图像P1。具体首先以训练图像P1确定预定的图像区域，然后对训练图像P1进行变形，如对训练图像沿横向进行压缩，使得原本矩形的训练图像P1变为带缺口的矩形，然后将预定的图像区域的图像(即变形图像P6)作为新的训练图像P1，变形后的缺陷在图像中的位置和形状均发生变化，从而得到多个新的训练图像P1。

当然，处理器20还可同时对训练图像进行平移处理和旋转处理；或者同时进行平移处理、旋转处理和镜像处理；或者同时进行平移处理、旋转处理、镜像处理和剪切处理；或者，同时进行平移处理、旋转处理和镜像处理，且平移处理、旋转处理和镜像处理分别以不同的距离、不同的角度和不同的对称轴分别进行多次等，在此不再一一列举。

通过对训练图像进行扩增处理，无需获取较多原始图像即可获取大量的训练图像且训练图像的多样性较好，可提升对目标检测模型的训练效果。

请参阅图2、图3和图15，在某些实施方式中，步骤0133包括：

01331：输入标注前的训练图像至目标检测模型，以输出检测结果；

01332：将检测结果与标注后的训练图像进行比对以确定第一损失值；及

01333：根据第一损失值调整目标检测模型，以使得目标检测模型收敛。

在某些实施方式中，第二检测模块13还用于输入标注前的训练图像至目标检测模型，以输出检测结果；将检测结果与标注后的训练图像进行比对以确定第一损失值；及根据第一损失值调整目标检测模型，以使得目标检测模型收敛。也即是说，步骤01331至步骤01333可以由第二检测模块13执行。

在某些实施方式中，处理器20还用于输入标注前的训练图像至目标检测模型，以输出检测结果；将检测结果与标注后的训练图像进行比对以确定第一损失值；及根据第一损失值调整目标检测模型，以使得目标检测模型收敛。也即是说，步骤01331至步骤01333可以由处理器20执行。

具体地，在训练时，首先输入标注前的训练图像到目标检测模型，然后目标检测模型会输出检测结果，检测结果包括每个缺陷的类型和位置，然后将检测结果和标注后的训练图像进行对比，如对比检测结果和标注后的训练图像的对应位置的缺陷的类型是否相同，并确定位置的偏差，从而确定第一损失值；处理器20根据第一损失值调整目标检测模型，以使得目标检测模型收敛。例如，根据检测结果和标注后的训练图像的对应位置的缺陷的类型是否相同来调整对缺陷的类型检测参数，根据检测结果和标注后的训练图像的对应位置的缺陷位置偏差调整缺陷的位置检测参数，通过包含大量的标注前和标注后的训练图像的训练集进行检测及调整，从而使得目标检测模型收敛，保证目标检测模型的检测效果。

在某些实施方式中，处理器20还用于将检测结果中缺陷的类型和标注后的训练图像中对应的缺陷的类型进行比对，以确定类型损失值；将检测结果中缺陷的位置和标注后的训练图像中对应的缺陷的位置进行比对，以确定位置损失值；根据类型损失值和位置损失值确定第一损失值。

具体地，在确定第一损失值时，可将检测结果中的缺陷的类型和标注后的训练图像中对应(如位置对应)的缺陷的类型进行比对，以确定类型损失值。若检测结果中的缺陷的类型和标注后的训练图像中对应的缺陷的类型相同，则确定损失值为0，若检测结果中的缺陷的类型和标注后的训练图像中对应的缺陷的类型不同，则确定损失值为1。

然后可将检测结果中缺陷的位置和标注后的训练图像中对应(如位置对应)的缺陷的位置进行比对，以确定位置损失值。如检测结果中缺陷的位置通过第一缺陷框进行标注，标注后的训练图像中对应的缺陷通过第二缺陷框标注，第一缺陷框和第二缺陷框均为矩形，则可计算两者的位置坐标的差值(如第一缺陷框和第二缺陷框的中心的位置坐标的差值)，然后根据该差值确定检测结果中缺陷和标注后的训练图像中对应的缺陷的距离，从而根据距离计算位置损失值，距离越大，则位置损失值越大。

由于缺陷类型的判断的重要性较高，因此，在根据类型损失值和位置损失值确定第一损失值时，可赋予类型损失值较大的权值，如第一损失值＝a*类型损失值+b*位置损失值，其中，a大于b。从而保证处理器20根据第一损失值调整目标检测模型后，对缺陷的类型的检测准确性。

在某些实施方式中，处理器20还用于对训练集进行变换处理以得到验证集；输入验证集到调整后目标检测模型，以输出第二损失值；在第二损失值小于预设阈值时，确定目标检测模型收敛；在第二损失值大于预设阈值时，将验证集作为训练集，再次训练目标检测模型，直至目标检测模型收敛。

具体地，在根据第一损失值调整目标检测模型后，需要确定目标检测模型是否收敛，此时可对训练集进行变换处理以得到验证集，变换处理可以是对训练图像进行平移、旋转、镜像、剪切和变形中至少一种，具体变换过程可参考扩增处理，在此不再赘述。变换处理后即可得到新的训练图像，将每个训练图像均进行变换处理后，即可得到由多张新的训练图像形成的验证集。验证集包括每个变换后的训练图像，其中，对于标注前后对应的训练图像则进行相同的变换处理，以使得其在验证集中依旧对应。验证集中的训练图像与训练集中的训练图像均不相同，从而使得验证集能够准确验证目标检测模型是否收敛。

输入验证集到目标检测模型后，目标检测模型输出第二损失值，此时处理器20判断第二损失值是否小于预设阈值。若第二损失值小于或等于预设阈值，则说明检测的损失较小，检测准确性已达到要求，可确定目标检测模型已收敛。

若第二损失值大于预设阈值，则说明检测的损失过大，检测准确性依旧未达到要求，此时可确定目标检测模型未收敛，需要继续训练。此时则以验证集作为训练集，并可以再次对训练集进行扩增处理以增加训练集的训练图像的数量和多样性，再次对目标检测模型进行第二轮训练，在训练后，再次通过对训练集进行变换处理以得到验证集，再次验证目标检测模型是否收敛，在未收敛时，继续以验证集作为训练集并进行扩增处理，再次对目标检测模型进行第三轮训练，如此循环，直至训练后的目标检测模型收敛。

在某些实施方式中，处理器20还用于输入预设的验证集到目标检测模型，以输出第三损失值，验证集与训练集的图像不同；在第三损失值小于预设阈值时，确定目标检测模型收敛；在第三损失值大于预设阈值时，对训练集进行变换处理，并根据变换处理后的训练集再次训练目标检测模型，直至目标检测模型收敛。

具体地，在根据第一损失值调整目标检测模型后，需要确定目标检测模型是否收敛。此时处理器20可先获取预设的验证集，验证集中的图像与训练集中的训练图像均不相同，从而使得验证集能够准确验证目标检测模型是否收敛。

然后处理器20输入预设的验证集到目标检测模型后，目标检测模型输出第三损失值，此时处理器20判断第三损失值是否大于预设阈值。若第三损失值小于预设阈值，则说明检测的损失较小，检测准确性已达到要求，可确定目标检测模型已收敛。

若第三损失值大于预设阈值，则说明检测的损失过大，检测准确性依旧未达到要求，此时可确定目标检测模型未收敛，需要继续训练。此时可再次对训练集进行扩增处理以增加训练集的训练图像的数量和多样性，再次对目标检测模型进行第二轮训练，在训练后，再次通过预设的验证集验证目标检测模型是否收敛，在未收敛时，继续对训练集进行扩增处理，再次对目标检测模型进行第三轮训练，如此循环，直至训练后的目标检测模型收敛。

在某些实施方式中，处理器20还用于根据收敛后的目标检测模型检测待测件200的图像，以确定缺陷的类型、位置及置信度；在置信度大于缺陷的类型对应的置信度阈值时，输出缺陷的类型、位置及置信度。

具体地，在目标检测模型训练完成后，检测设备100通过传感器40获取到待测件200的图像，然后处理器20根据目标检测模型检测待测件200的图像，以确定缺陷的类型、位置和置信度。当置信度大于当前缺陷的类型对应的置信度阈值时，则可确定当前缺陷检测准确，从而输出当前缺陷的类型、位置和置信度，以作为检测结果。

其中，置信度阈值与缺陷的类型对应，不同类型的缺陷对应不同的置信度阈值，从而针对性的提升不同类型的缺陷的检测准确性，且本申请的目标检测模型为端到端模型，端到端模型仅使用一个模型、一个目标函数，相较于多模块模型训练目标可能存在细微差异导致的训练效果难以达到最优，且不同模块之间的误差会相互影响，影响最终的检测准确性而言，端到端模型的实施和维护均较简单，且能够使得训练后的模型达到最优效果，检测效果较好且工程复杂度较低。

请参阅图16，本申请实施方式的一个或多个包含计算机程序302的非易失性计算机可读存储介质300，当计算机程序302被一个或多个处理器20执行时，使得处理器20可执行上述任一实施方式的标定方法。

例如，请结合图1至图3，当计算机程序302被一个或多个处理器20执行时，使得处理器20执行以下步骤：

011：基于预设的模板匹配算法，检测待测件的图像的缺陷；

012：若存在缺陷，则获取待测件的图像中缺陷所在的图像区域，以作为待测图像；

013：基于预设的目标检测模型，检测待测图像的缺陷。

再例如，请结合图2、图3和图4，当计算机程序302被一个或多个处理器20执行时，处理器20还可以执行以下步骤：

0111：获取与待测件200的图像匹配的预设模板图像；

0112：融合处理预设模板图像和待测件200的图像，以检测缺陷。

在本说明书的描述中，参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施方式或示例以及不同实施方式或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施方式所属技术领域的技术人员所理解。

尽管上面已经示出和描述了本申请的实施方式，可以理解的是，上述实施方式是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。

Claims (10)

1.一种检测方法，其特征在于，包括：

基于预设的模板匹配算法，检测待测件的图像的缺陷；

若存在所述缺陷，则获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及

基于预设的目标检测模型，检测所述待测图像的缺陷。

2.根据权利要求1所述的检测方法，其特征在于，所述基于预设的模板匹配算法，检测待测件的图像的缺陷，包括：

获取与所述待测件的图像匹配的预设模板图像；

融合处理所述预设模板图像和所述待测件的图像，以检测所述缺陷。

3.根据权利要求2所述的检测方法，其特征在于，所述融合处理所述预设模板图像和所述待测件的图像，以获取处理图像，包括：

对所述预设模板图像和所述待测件的图像进行差影处理，以得到差值图像；

计算所述差值图像的连通域，以检测所述缺陷。

4.根据权利要求3所述的检测方法，其特征在于，所述计算所述差值图像的连通域，以检测所述缺陷，包括：

识别所述差值图像中的多个光斑，并为每个所述光斑编号；

在相邻两个所述光斑的距离小于预设距离阈值时，将相邻两个所述光斑的编号修改为同一编号；

连通编号相同的所述光斑以作为所述连通域；及

在所述连通域的面积大于预设面积阈值时，确定所述连通域为所述缺陷。

5.根据权利要求1所述的检测方法，其特征在于，还包括：

若不存在所述缺陷，则确定所述待测件的图像无缺陷。

6.根据权利要求1所述的检测方法，其特征在于，所述基于预设的目标检测模型，检测所述待测图像的缺陷，包括：

获取多个具有缺陷的工件的多个训练图像；

标注所述训练图像中的缺陷；

将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集，输入到目标检测模型进行训练，以获取训练至收敛的所述目标检测模型；及

根据收敛后的所述目标检测模型检测所述待测图像的缺陷。

7.根据权利要求6所述的检测方法，其特征在于，所述将标注前的多个所述训练图像和标注后的多个所述训练图像作为训练集，输入目标检测模型进行训练，以获取训练至收敛的所述目标检测模型，包括：

输入所述标注前的所述训练图像至所述目标检测模型，以输出检测结果；

将所述检测结果与标注后的所述训练图像进行比对以确定第一损失值；及

根据所述第一损失值调整所述目标检测模型，以使得目标检测模型收敛。

8.一种检测装置，其特征在于，包括：

第一检测模块，用于基于预设的模板匹配算法，检测待测件的图像的缺陷；

获取模块，用于在存在所述缺陷时，获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；

第二检测模块，用于基于预设的目标检测模型，检测所述待测图像的缺陷。

9.一种检测设备，其特征在于，包括处理器，所述处理器用于：

基于预设的模板匹配算法，检测待测件的图像的缺陷；

在存在所述缺陷时，获取所述待测件的图像中所述缺陷所在的图像区域，以作为待测图像；及

基于预设的目标检测模型，检测所述待测图像的缺陷。

10.一种包含计算机程序的非易失性计算机可读存储介质，所述计算机程序被处理器执行时，使得所述处理器执行权利要求1-7任意一项所述的检测方法。

Images