[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2017125695A - Inspection system, display device, program, and inspection method - Google Patents

Inspection system, display device, program, and inspection method Download PDF

Info

Publication number
JP2017125695A
JP2017125695A JP2016003395A JP2016003395A JP2017125695A JP 2017125695 A JP2017125695 A JP 2017125695A JP 2016003395 A JP2016003395 A JP 2016003395A JP 2016003395 A JP2016003395 A JP 2016003395A JP 2017125695 A JP2017125695 A JP 2017125695A
Authority
JP
Japan
Prior art keywords
inspection
unit
representative
abnormality
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016003395A
Other languages
Japanese (ja)
Other versions
JP6694715B2 (en
Inventor
由宜 本庄
Yoshinobu Honjo
由宜 本庄
橋本 和幸
Kazuyuki Hashimoto
和幸 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Screen Holdings Co Ltd
Original Assignee
Screen Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Screen Holdings Co Ltd filed Critical Screen Holdings Co Ltd
Priority to JP2016003395A priority Critical patent/JP6694715B2/en
Publication of JP2017125695A publication Critical patent/JP2017125695A/en
Application granted granted Critical
Publication of JP6694715B2 publication Critical patent/JP6694715B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a display technology that enables a user to easily visually recognize a result of inspection of an object.SOLUTION: An inspection system comprises: an inspection part that inspects abnormality in shape of an object on the basis of a plurality of photographed images obtained by photographing the object from a plurality of directions; and a display part that can communicate with the inspection part and displays respective representative photographed images in the plurality of directions side by side on a display screen. The respective representative photographed images photographed from the plurality of directions are displayed side by side on the display screen, which enables a user of the inspection system to easily visually recognize a result of inspection of the object.SELECTED DRAWING: Figure 7

Description

本発明は、対象物における形態の異常を検査して表示する技術に関する。   The present invention relates to a technique for inspecting and displaying a form abnormality in an object.

自動車の駆動部に用いられるコネクティングロッドやハブなどの部品等は、その部品に傷等の異常が無いかどうかを調べる検査が行われる。このような部品の検査は、従来、作業者の目視により行われていた。   For parts such as connecting rods and hubs used in automobile drive units, an inspection is performed to check whether there are any abnormalities such as scratches on the parts. Conventionally, such inspection of parts has been performed visually by an operator.

しかしながら、作業者の目視に依存すると、複数の作業者間で、検査にかかる時間や検査結果にばらつきが生じる。また、同一の作業者であっても、体調不良や集中力の低下により、検査に時間がかかったり、異常の見落としが発生したりする虞がある。このため、部品の検査を、自動かつ高速に行うことができる装置の開発が求められている。   However, depending on the visual observation of the worker, the time required for the inspection and the inspection result vary among the plurality of workers. Further, even the same worker may take a long time for inspection or cause an oversight of an abnormality due to poor physical condition or reduced concentration. For this reason, there is a demand for development of an apparatus that can automatically and rapidly inspect parts.

部品の検査を行う装置は、例えば、特許文献1において提案されている。特許文献1の検査装置は、複数の光照射部を有する照明部と、部品を撮像する1つの撮像部と、を備えている。当該装置は、照明部および撮像部を制御することによって、照明部からの光の照射方向が異なる複数の検査画像を取得する。そして、取得した検査画像に基づいて部品を検査する。   An apparatus for inspecting a component is proposed in, for example, Patent Document 1. The inspection apparatus of patent document 1 is provided with the illumination part which has a some light irradiation part, and one imaging part which images components. The apparatus acquires a plurality of inspection images having different light irradiation directions from the illumination unit by controlling the illumination unit and the imaging unit. Then, the part is inspected based on the acquired inspection image.

特開2015−68668号公報Japanese Patent Laying-Open No. 2015-68668

特許文献1においては、取得された検査画像を装置の使用者に対してどのように表示するかについては開示されていない。   Patent Document 1 does not disclose how to display the acquired inspection image to the user of the apparatus.

そこで、使用者が対象物の検査結果を視認しやすいように、検査結果を表示する技術が求められている。このような課題は、自動車関連の部品に限らず種々の完成品や部品を検査する場合に共通の課題である。   Therefore, there is a need for a technique for displaying the inspection result so that the user can easily see the inspection result of the object. Such a problem is a common problem when not only parts related to automobiles but also various finished products and parts are inspected.

本発明は、上記課題に鑑みなされたものであり、使用者が対象物の検査結果を視認しやすい表示技術を提供することを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to provide a display technique in which a user can easily visually recognize a test result of an object.

上記課題を解決するため、第1の態様にかかる検査システムは、対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する検査部と、前記検査部と通信可能であり、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する表示部と、を備える。   In order to solve the above-described problem, an inspection system according to a first aspect includes an inspection unit that inspects an abnormality of a form of an object based on a plurality of captured images obtained by imaging the object from a plurality of directions. And a display unit that is communicable with the inspection unit and displays the representative captured images in each of the plurality of directions side by side on a display screen.

第2の態様にかかる検査システムは、第1の態様にかかる検査システムであって、前記複数の方向は、基準軸に沿う第1方向と、前記基準軸回りに回転対称な複数の軸に沿う複数の第2方向と、を含み、前記表示部は、前記表示画面において、前記第1方向から撮像した前記代表撮像画像の周囲に、前記複数の第2方向から撮像した複数の前記代表撮像画像を各軸の位置関係に対応して配置する。   An inspection system according to a second aspect is the inspection system according to the first aspect, wherein the plurality of directions are along a first direction along a reference axis and a plurality of axes rotationally symmetric about the reference axis. A plurality of second captured images captured from the plurality of second directions around the representative captured image captured from the first direction on the display screen. Are arranged corresponding to the positional relationship of each axis.

第3の態様にかかる検査システムは、第1または第2の態様にかかる検査システムであって、前記表示部は、前記複数の代表撮像画像のうち異常が検出された方向から撮像された異常有り代表撮像画像を、前記複数の代表撮像画像のうち異常が検出されなかった方向から撮像された異常無し代表撮像画像とは異なる態様で前記表示画面に表示する。   An inspection system according to a third aspect is the inspection system according to the first or second aspect, wherein the display unit has an abnormality imaged from a direction in which an abnormality is detected among the plurality of representative captured images. The representative captured image is displayed on the display screen in a manner different from that of the no-abnormal representative captured image captured from the direction in which no abnormality is detected among the plurality of representative captured images.

第4の態様にかかる検査システムは、第3の態様にかかる検査システムであって、前記表示部は、前記異常有り代表撮像画像中において、異常が検出された部位を異常が検出されなかった部位とは異なる態様で前記表示画面に表示する。   The inspection system according to a fourth aspect is the inspection system according to the third aspect, wherein the display unit is a part where abnormality is detected in the representative captured image with abnormality. Is displayed on the display screen in a different manner.

第5の態様にかかる検査システムは、第3または第4の態様にかかる検査システムであって、前記表示部は、使用者によって前記異常有り代表撮像画像が選択された際に、前記異常有り代表撮像画像と同一の方向から撮像された各撮像画像を前記表示画面に表示する。   The inspection system according to a fifth aspect is the inspection system according to the third or fourth aspect, wherein the display unit is configured to display the abnormality-present representative when the representative captured image with abnormality is selected by a user. Each captured image captured from the same direction as the captured image is displayed on the display screen.

第6の態様にかかる検査システムは、第1から第5のいずれか1つの態様にかかる検査システムであって、前記検査部は、前記複数の撮像画像に加えてさらに、前記対象物を前記複数の方向とは異なる少なくとも1つの方向から撮像して得られた少なくとも1つの撮像画像を用いて、前記対象物における異常を検査する。   The inspection system according to a sixth aspect is the inspection system according to any one of the first to fifth aspects, wherein the inspection unit further includes the plurality of objects in addition to the plurality of captured images. An abnormality in the object is inspected using at least one captured image obtained by imaging from at least one direction different from the direction of the object.

第7の態様にかかる検査システムは、第1から第6のいずれか1つの態様にかかる検査システムであって、検査の結果が前記検査部からリアルタイムで前記表示部に通信され、前記表示部がリアルタイムで前記複数の代表撮像画像を前記表示画面に並べて表示する。   An inspection system according to a seventh aspect is the inspection system according to any one of the first to sixth aspects, wherein a result of the inspection is communicated in real time from the inspection unit to the display unit, and the display unit is The plurality of representative captured images are displayed side by side on the display screen in real time.

第8の態様にかかる検査システムは、第1から第6のいずれか1つの態様にかかる検査システムであって、前記検査部での検査の結果を記憶する記憶部、をさらに備え、前記検査部での複数の検査の結果が前記記憶部に蓄積された後、前記表示部は、使用者によって前記複数の検査の結果から1つが選択された際に、選択された1つの検査の結果における前記複数の代表撮像画像を前記表示画面に並べて表示する。   An inspection system according to an eighth aspect is the inspection system according to any one of the first to sixth aspects, further comprising a storage unit that stores a result of the inspection in the inspection unit, and the inspection unit After the results of the plurality of examinations are accumulated in the storage unit, the display unit displays the selected result of the one examination when one is selected from the results of the plurality of examinations by the user. A plurality of representative captured images are displayed side by side on the display screen.

第9の態様にかかる表示装置は、対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する検査部と通信可能であり、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する。   The display device according to the ninth aspect is capable of communicating with an inspection unit that inspects abnormalities in the form of the object based on a plurality of captured images obtained by imaging the object from a plurality of directions. The representative captured images in the respective directions are displayed side by side on the display screen.

第10の態様にかかるプログラムは、コンピュータにインストールされてCPUによって実行されることにより、前記コンピュータを第9の態様にかかる表示装置として機能させる。   The program according to the tenth aspect is installed in a computer and executed by the CPU, thereby causing the computer to function as the display device according to the ninth aspect.

第11の態様にかかる検査方法は、検査部と、表示部と、を通信可能に接続して構成される検査システムにおいて実行される検査方法であって、前記検査部が、対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する工程と、その後に、前記表示部が、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する工程と、を備える。   An inspection method according to an eleventh aspect is an inspection method executed in an inspection system configured by communicably connecting an inspection unit and a display unit, and the inspection unit includes a plurality of objects. A step of inspecting abnormality of the form in the object based on a plurality of captured images obtained by imaging from the direction, and then the display unit displays each representative captured image in each of the plurality of directions. And displaying them side by side.

第1から第8の態様にかかる検査システム、第9の態様にかかる表示装置、第10の態様にかかるプログラム、および、第11の態様にかかる検査方法のいずれにおいても、複数の方向から撮像した各代表撮像画像が表示画面に並べて表示され、検査システムの使用者が対象物の検査結果を視認しやすい。   In any of the inspection system according to the first to eighth aspects, the display device according to the ninth aspect, the program according to the tenth aspect, and the inspection method according to the eleventh aspect, images are taken from a plurality of directions. The representative captured images are displayed side by side on the display screen, and the user of the inspection system can easily visually recognize the inspection result of the object.

検査システム100の構成を示した図である。1 is a diagram illustrating a configuration of an inspection system 100. FIG. 対象物9の外観を示す斜視図である。3 is a perspective view showing an appearance of an object 9. FIG. 第1検査部13の構成を概略的に示す上面図である。4 is a top view schematically showing a configuration of a first inspection unit 13. FIG. 第1検査部13の構成を概略的に示す端面図である。3 is an end view schematically showing a configuration of a first inspection unit 13. FIG. 対象物9を撮像してから検査結果を表示画面103に表示するまでのフローの一例を示す図である。It is a figure which shows an example of the flow after imaging the target object until displaying a test result on the display screen. 本体部102が各撮像画像を仮想的に分類する例を示す概念図である。It is a conceptual diagram which shows the example which the main-body part 102 classifies each captured image virtually. リアルタイムにおける検査結果の表示例を示す図である。It is a figure which shows the example of a display of the test result in real time. 履歴から選択された検査結果の表示例を示す図である。It is a figure which shows the example of a display of the test result selected from the log | history. 選択された代表撮像画像が拡大表示された際の表示例を示す図である。It is a figure which shows the example of a display when the selected representative captured image is enlarged and displayed.

以下、実施形態について、図面を参照しつつ説明する。   Hereinafter, embodiments will be described with reference to the drawings.

<1 実施形態>
<1.1 検査システム100の構成>
図1は、検査システム100の構成を示した図である。この検査システム100は、対象物9を複数の方向から撮像して得られた複数の撮像画像を基に対象物9における外観の異常を検査する外観検査装置1と、外観検査装置1と通信可能であり、複数の方向のそれぞれにおける各代表撮像画像を表示画面103に並べて表示するパーソナルコンピュータ(以下、PCという)101と、を含んで構成される。
<1 embodiment>
<1.1 Configuration of Inspection System 100>
FIG. 1 is a diagram showing a configuration of the inspection system 100. The inspection system 100 can communicate with the appearance inspection apparatus 1 and the appearance inspection apparatus 1 for inspecting the appearance abnormality of the object 9 based on a plurality of captured images obtained by imaging the object 9 from a plurality of directions. And a personal computer (hereinafter referred to as a PC) 101 that displays each representative captured image in each of a plurality of directions side by side on the display screen 103.

図2は、対象物9の外観を示す斜視図である。対象物9は、例えば、鍛造により形成された金属部品であり、その表面は微小な凹凸を有する梨地状である。対象物9の表面は、光を乱反射する光沢を有する。本実施形態では、対象物9は、クランクのコネクタシャフトであり、第1面(例えば、図2における手前側の面)と第2面(第1面とは反対側の面)とが同一形状である。   FIG. 2 is a perspective view showing the appearance of the object 9. The object 9 is, for example, a metal part formed by forging, and the surface thereof has a matte shape with minute irregularities. The surface of the object 9 has a gloss that diffusely reflects light. In the present embodiment, the object 9 is a crank connector shaft, and the first surface (for example, the front surface in FIG. 2) and the second surface (the surface opposite to the first surface) have the same shape. It is.

外観検査装置1では、複数の対象物9を、順次に搬送しつつ検査する。したがって、稼働中の外観検査装置1内には、複数の対象物9が同時に存在し、各対象物9に対して、搬送や検査が並行して行われる。   In the appearance inspection apparatus 1, a plurality of objects 9 are inspected while being sequentially conveyed. Therefore, there are a plurality of objects 9 in the appearance inspection apparatus 1 in operation at the same time, and conveyance and inspection are performed on each object 9 in parallel.

外観検査装置1は、第1検査ユニット10、姿勢変更機構20、第2検査ユニット30、分別排出機構40、および制御部50を備えている。   The appearance inspection apparatus 1 includes a first inspection unit 10, a posture changing mechanism 20, a second inspection unit 30, a sorting / discharging mechanism 40, and a control unit 50.

第1検査ユニット10は、対象物9の第1面を検査するための処理ユニットである。図1に示すように、第1検査ユニット10は、第1搬入機構11、第1保持機構12、第1検査部13、および第1搬出機構14を有する。   The first inspection unit 10 is a processing unit for inspecting the first surface of the object 9. As shown in FIG. 1, the first inspection unit 10 includes a first carry-in mechanism 11, a first holding mechanism 12, a first inspection unit 13, and a first carry-out mechanism 14.

第1搬入機構11は、搬入開始位置P1と第1検査部13により検査される第1検査位置P2との間で対象物9を搬送する機構である。外観検査装置1には、開閉可能な投入口60が設けられている。外観検査装置1のユーザは、投入口60を開放して、搬入開始位置P1に位置する第1搬入機構11の載置台に対象物9を載置する。   The first carry-in mechanism 11 is a mechanism that carries the object 9 between the carry-in start position P1 and the first inspection position P2 inspected by the first inspection unit 13. The appearance inspection apparatus 1 is provided with an opening 60 that can be opened and closed. The user of the appearance inspection apparatus 1 opens the insertion port 60 and places the object 9 on the placement table of the first carry-in mechanism 11 located at the carry-in start position P1.

略水平な載置台の上に対象物9が第1面を上向きにして載置される。その後、第1搬入機構11が載置台および載置台上の対象物9を第1検査位置P2に移動させる。   An object 9 is placed on a substantially horizontal mounting table with the first surface facing upward. Thereafter, the first carry-in mechanism 11 moves the mounting table and the object 9 on the mounting table to the first inspection position P2.

第1保持機構12は、第1検査位置P2に配される対象物9を保持する保持状態と対象物9を保持しない非保持状態とを切替え可能な機構である。第1保持機構12は、例えば水平方向に間隔をあけて設けられた一対の保持部材を有して構成され、該一対の保持部材を互いに接近および離間させて両状態を切替える。   The first holding mechanism 12 is a mechanism capable of switching between a holding state in which the object 9 placed at the first inspection position P2 is held and a non-holding state in which the object 9 is not held. For example, the first holding mechanism 12 includes a pair of holding members that are spaced apart in the horizontal direction, and switches the two states by moving the pair of holding members closer to and away from each other.

第1搬入機構11が対象物9を第1検査位置P2に搬送すると、第1保持機構12が保持状態へと切替えられる。これにより、対象物9は、その第1面を上向きにした状態のままで、第1搬入機構11の載置台から第1保持機構12における一対の保持部材に受け渡される。そして、第1検査部13によって対象物9を検査する検査期間中は、上記保持状態が維持される。   When the first carry-in mechanism 11 transports the object 9 to the first inspection position P2, the first holding mechanism 12 is switched to the holding state. Thus, the object 9 is transferred from the mounting table of the first carry-in mechanism 11 to the pair of holding members in the first holding mechanism 12 with the first surface thereof facing upward. And the said holding | maintenance state is maintained during the test | inspection period which test | inspects the target object 9 by the 1st test | inspection part 13. FIG.

なお、第1搬入機構11から第1保持機構12へ対象物9が受け渡された後、第1搬入機構11は、載置台を再び搬入開始位置P1へ移動させる。そして、載置台は、搬入開始位置P1において、次の対象物9が投入されるのを待つ。   In addition, after the target 9 is delivered from the 1st carrying-in mechanism 11 to the 1st holding mechanism 12, the 1st carrying-in mechanism 11 moves a mounting base to the carrying-in start position P1 again. Then, the mounting table waits for the next object 9 to be input at the loading start position P1.

図3は、第1検査部13の構成を概略的に示す上面図である。図4は、図3のIV-IV断面から視た図であり、第1検査部13の構成を概略的に示す端面図である。   FIG. 3 is a top view schematically showing the configuration of the first inspection unit 13. FIG. 4 is a view as seen from the IV-IV cross section of FIG. 3 and is an end view schematically showing the configuration of the first inspection unit 13.

第1検査部13は、第1検査位置P2に配置された対象物9の第1面を検査する機構である。第1検査部13は、異なる方向から第1検査位置P2に向けて光を照射する複数の光照射部131と、異なる方向から第1検査位置P2を撮像する複数の撮像部132とを有する。複数の光照射部131および複数の撮像部132は、第1検査位置P2を含む水平面よりも上側の空間において、対象物9を半球状(ドーム状)に取り囲んでいる。ただし、第1検査位置P2から各光照射部131までの距離と、第1検査位置P2から各撮像部132までの距離とは、必ずしも同一でなくてもよい。   The first inspection unit 13 is a mechanism that inspects the first surface of the object 9 arranged at the first inspection position P2. The first inspection unit 13 includes a plurality of light irradiation units 131 that irradiate light from different directions toward the first inspection position P2, and a plurality of imaging units 132 that image the first inspection position P2 from different directions. The plurality of light irradiation units 131 and the plurality of imaging units 132 surround the object 9 in a hemispherical shape (dome shape) in a space above the horizontal plane including the first inspection position P2. However, the distance from the first inspection position P2 to each light irradiation unit 131 and the distance from the first inspection position P2 to each imaging unit 132 are not necessarily the same.

複数の光照射部131は、例えば、第1検査位置P2の鉛直上方に配置された1つの上方光照射部131aと、第1検査位置P2の斜め上方に等角度間隔で配置された8つの斜方光照射部131bと、第1検査位置P2の略水平方向の外側に等角度間隔で配置された8つの側方光照射部131cと、を含んで構成される。各光照射部131には、例えば、点灯と消灯とを短時間に切り替えることができるLED(発光ダイオード)が用いられる。   The plurality of light irradiation units 131 include, for example, one upper light irradiation unit 131a disposed vertically above the first inspection position P2, and eight oblique portions disposed at equal angular intervals obliquely above the first inspection position P2. A side light irradiating part 131b and eight side light irradiating parts 131c arranged at equiangular intervals outside the first inspection position P2 in the substantially horizontal direction are configured. For each light irradiation unit 131, for example, an LED (light emitting diode) that can be switched on and off in a short time is used.

複数の撮像部132は、例えば、第1検査位置P2の鉛直上方に配置された1つの上方撮像部132aと、第1検査位置P2の斜め上方に等角度間隔で配置された8つの斜方撮像部132bと、第1検査位置P2の略水平方向の外側に等角度間隔で配置された8つの側方撮像部132cと、を含んで構成される。各撮像部132には、例えば、CCDやCMOS等の受光素子を有し、多階調のデジタル画像を取得可能な撮像部が用いられる。   The plurality of imaging units 132 are, for example, one upper imaging unit 132a arranged vertically above the first inspection position P2, and eight oblique imagings arranged at equiangular intervals obliquely above the first inspection position P2. Part 132b and eight side imaging parts 132c arranged at equiangular intervals outside the first inspection position P2 in the substantially horizontal direction. For each imaging unit 132, for example, an imaging unit having a light receiving element such as a CCD or CMOS and capable of acquiring a multi-gradation digital image is used.

そして、各光照射部131と各撮像部132とはそれぞれ組になって近接配置される。各光照射部131と各撮像部132との動作タイミングについては、後述する<1.2 検査の一例>で詳細に説明する。   And each light irradiation part 131 and each image pick-up part 132 are each arrange | positioned close together. The operation timing of each light irradiation unit 131 and each imaging unit 132 will be described in detail in <1.2 Example of inspection> described later.

第1検査部13は、複数の光照射部131のうち、発光させる光照射部131の組み合わせを変更することにより、対象物9に対する照明パターンを変更しながら、複数の撮像部132による撮像を行う。これにより、1つの対象物9に対して、照明/アングルの異なる多数の撮像画像群を取得する。取得された撮像画像群は、後述する制御部50へ入力される。制御部50は、対象物9の撮像画像群と予め準備された参照画像とを比較することにより、撮像された対象物9の第1面における形態の異常(第1面における欠陥や第1面への付着物)を検査する。ここで、参照画像とは、対象物9と同一形状であり欠陥や付着物等の異常がない物を同一方向から撮像して得られる画像である。したがって、実際に撮像して得られた画像と参照画像との一致度がある閾値よりも大きい場合、撮像された対象物9は異常無し(良品)と判断される。他方、実際に撮像して得られた画像と参照画像との一致度が上記閾値よりも小さい場合、撮像された対象物9は異常有り(不良品)と判断される。   The 1st test | inspection part 13 performs the imaging by the several imaging part 132, changing the illumination pattern with respect to the target object 9 by changing the combination of the light irradiation part 131 to light-emit among the several light irradiation parts 131. FIG. . Thus, a large number of captured image groups with different illumination / angles are acquired for one object 9. The acquired captured image group is input to the control unit 50 described later. The control unit 50 compares the captured image group of the object 9 with a reference image prepared in advance, thereby causing abnormalities in the form of the first surface of the captured object 9 (defects on the first surface and the first surface). Inspect the adhering material to. Here, the reference image is an image obtained by imaging an object having the same shape as that of the object 9 and having no abnormality such as a defect or a deposit from the same direction. Therefore, when the degree of coincidence between the image actually obtained by imaging and the reference image is larger than a certain threshold value, it is determined that the imaged target 9 has no abnormality (non-defective product). On the other hand, when the degree of coincidence between the image actually obtained by imaging and the reference image is smaller than the threshold value, it is determined that the imaged target 9 is abnormal (defective product).

第1搬出機構14は、その載置台を一対の保持部材の下面に接近して待機させ、第1検査部13で検査をされた対象物9を第1検査位置P2から搬出する機構である。第1検査位置P2の鉛直下方には、後述する姿勢変更機構20との間で対象物9を受け渡す第1受け渡し位置P3が配置されている。検査後の対象物9は、第1保持機構12における一対の保持部材から第1搬出機構14の載置台からに受け渡される。その後、第1搬出機構14は、第1検査位置P2から、第1検査位置P2よりも低い第1受け渡し位置P3まで、対象物9を鉛直下向きに搬送する。   The first carry-out mechanism 14 is a mechanism for bringing the mounting table close to the lower surfaces of the pair of holding members and waiting, and carrying out the object 9 inspected by the first inspection unit 13 from the first inspection position P2. A first delivery position P3 for delivering the object 9 to / from a posture changing mechanism 20 described later is disposed vertically below the first inspection position P2. The inspected object 9 is transferred from the pair of holding members in the first holding mechanism 12 to the mounting table of the first carry-out mechanism 14. Thereafter, the first carry-out mechanism 14 conveys the object 9 vertically downward from the first inspection position P2 to the first delivery position P3 that is lower than the first inspection position P2.

姿勢変更機構20は、第1検査ユニット10と第2検査ユニット30との間において、対象物9の姿勢を変更する機構である。図1に示すように、姿勢変更機構20は、対象物9を把持する反転アーム21と、反転アーム21を動作させるアーム駆動機構22とを有する。対象物9が第1受け渡し位置P3まで下降すると、反転アーム21は、載置台から対象物9を受け取る。そして、アーム駆動機構22が、反転アーム21を、水平面内で180°回転させるとともに、反転アーム21の軸芯を中心として対象物9の姿勢を180°を反転させる。これにより、対象物9が、第1面の反対側である第2面を上方へ向けた状態で、第2受け渡し位置P4に配置される。このとき、第2受け渡し位置P4には、第2搬入機構31の載置台が待機している。反転アーム21は、第2搬入機構31の当該載置台上に、対象物9を載置する。   The posture changing mechanism 20 is a mechanism that changes the posture of the object 9 between the first inspection unit 10 and the second inspection unit 30. As shown in FIG. 1, the posture changing mechanism 20 includes a reversing arm 21 that holds the object 9 and an arm driving mechanism 22 that operates the reversing arm 21. When the object 9 is lowered to the first delivery position P3, the reversing arm 21 receives the object 9 from the mounting table. Then, the arm drive mechanism 22 rotates the reversing arm 21 by 180 ° in the horizontal plane and reverses the posture of the object 9 by 180 ° around the axis of the reversing arm 21. Thereby, the target object 9 is arrange | positioned in the 2nd delivery position P4 in the state which orient | assigned the 2nd surface which is the other side of a 1st surface upward. At this time, the mounting table of the second carry-in mechanism 31 is waiting at the second delivery position P4. The reversing arm 21 places the object 9 on the placement table of the second carry-in mechanism 31.

第2検査ユニット30は、対象物9の第2面を検査するための処理ユニットである。図1に示すように、第2検査ユニット30は、第2搬入機構31、第2保持機構32、第2検査部33、および第2搬出機構34を有する。   The second inspection unit 30 is a processing unit for inspecting the second surface of the object 9. As shown in FIG. 1, the second inspection unit 30 includes a second carry-in mechanism 31, a second holding mechanism 32, a second inspection unit 33, and a second carry-out mechanism 34.

第2搬入機構31は、第2受け渡し位置P4から、第2検査部33により検査される第2検査位置P5まで、対象物9を、斜め上向きに搬送する機構である。第2搬入機構31の構造は上述した第1搬入機構11の構造とほぼ同一であるので、重複説明を省略する。   The second carry-in mechanism 31 is a mechanism that conveys the object 9 obliquely upward from the second delivery position P4 to the second inspection position P5 inspected by the second inspection unit 33. Since the structure of the 2nd carrying-in mechanism 31 is substantially the same as the structure of the 1st carrying-in mechanism 11 mentioned above, duplication description is abbreviate | omitted.

第2保持機構32は、第2検査部33による検査中に、対象物9を第2検査位置P5に保持する機構である。第2搬入機構31により斜め上向きに搬送された対象物9は、第2保持機構32へ受け渡される。第2保持機構32の構造は上述した第1保持機構12の構造とほぼ同一であるので、重複説明を省略する。   The second holding mechanism 32 is a mechanism that holds the object 9 at the second inspection position P5 during the inspection by the second inspection unit 33. The object 9 conveyed obliquely upward by the second carry-in mechanism 31 is delivered to the second holding mechanism 32. Since the structure of the second holding mechanism 32 is substantially the same as the structure of the first holding mechanism 12 described above, a duplicate description is omitted.

第2検査部33は、第2検査位置P5に配置された対象物9の第2面を検査する機構である。第2検査部33は、異なる方向から第2検査位置P5に向けて光を照射する複数の光照射部331と、異なる方向から第2検査位置P5を撮像する複数の撮像部332とを有する。   The second inspection unit 33 is a mechanism that inspects the second surface of the object 9 arranged at the second inspection position P5. The second inspection unit 33 includes a plurality of light irradiation units 331 that irradiate light from different directions toward the second inspection position P5, and a plurality of imaging units 332 that image the second inspection position P5 from different directions.

複数の光照射部331の構成および配置は、上述した複数の光照射部131と同様である。また、複数の撮像部332の構成および配置は複数の撮像部132と同様である。したがって、構成や配置についての重複説明を省略する。   The configuration and arrangement of the plurality of light irradiation units 331 are the same as those of the plurality of light irradiation units 131 described above. The configuration and arrangement of the plurality of imaging units 332 are the same as those of the plurality of imaging units 132. Therefore, the duplicate description about a structure and arrangement | positioning is abbreviate | omitted.

第2検査部33は、複数の光照射部331のうち、発光させる光照射部331の組み合わせを変更することにより、対象物9に対する照明パターンを変更しながら、複数の撮像部332による撮像を行う。これにより、1つの対象物9に対して、照明/アングルの異なる多数の撮像画像群を取得する。取得された撮像画像群は、後述する制御部50へ入力される。制御部50は、対象物9の撮像画像群と予め準備された参照画像とを比較することにより、各対象物9の第2面における形態の異常(第2面における欠陥や第2面への付着物)を検査する。これにより、各対象物9について良品あるいは不良品の判断がなされる。   The second inspection unit 33 performs imaging by the plurality of imaging units 332 while changing the illumination pattern for the object 9 by changing the combination of the light irradiation units 331 to emit light among the plurality of light irradiation units 331. . Thus, a large number of captured image groups with different illumination / angles are acquired for one object 9. The acquired captured image group is input to the control unit 50 described later. The control unit 50 compares the captured image group of the objects 9 with a reference image prepared in advance, thereby causing abnormalities in the form of each object 9 on the second surface (defects on the second surface and the second surface). Check for deposits. As a result, the non-defective product or the defective product is determined for each object 9.

第2搬出機構34は、第2検査位置P5から対象物9を搬出する機構である。第2検査位置P5の鉛直下方には、後述する分別排出機構40との間で対象物9を受け渡す第3受け渡し位置P6が配置されている。第2搬出機構34は、第2検査位置P5から、第2検査位置P5よりも低い第3受け渡し位置P6まで、対象物9を鉛直下向きに搬送する。第2搬出機構34の構造は上述した第1搬出機構14の構造とほぼ同一であるので、重複説明を省略する。   The second unloading mechanism 34 is a mechanism for unloading the object 9 from the second inspection position P5. Below the second inspection position P5, a third delivery position P6 for delivering the object 9 to and from the sorting / discharging mechanism 40 described later is disposed. The second carry-out mechanism 34 conveys the object 9 vertically downward from the second inspection position P5 to the third delivery position P6 that is lower than the second inspection position P5. Since the structure of the second carry-out mechanism 34 is substantially the same as the structure of the first carry-out mechanism 14 described above, a duplicate description is omitted.

分別排出機構40は、検査後の対象物9を、良品と不良品とに分別しながら排出する機構である。図1に示すように、分別排出機構40は、排出アーム41、排出アーム41を動作させるアーム駆動機構42、および排出コンベア43を有する。対象物9が第3受け渡し位置P6まで下降すると、排出アーム41は、第2搬出機構34の搬出台から対象物9を受け取る。続いて、アーム駆動機構42が、排出アーム41を、排出コンベア43の上方まで移動させる。そして、排出アーム41による対象物9の把持を解除する。これにより、排出アーム41から排出コンベア43に、対象物9が受け渡される。   The sorting and discharging mechanism 40 is a mechanism that discharges the inspection target 9 while sorting it into a non-defective product and a defective product. As shown in FIG. 1, the separation discharge mechanism 40 includes a discharge arm 41, an arm drive mechanism 42 that operates the discharge arm 41, and a discharge conveyor 43. When the object 9 is lowered to the third delivery position P6, the discharge arm 41 receives the object 9 from the carry-out stand of the second carry-out mechanism 34. Subsequently, the arm drive mechanism 42 moves the discharge arm 41 to above the discharge conveyor 43. Then, the grasping of the object 9 by the discharge arm 41 is released. As a result, the object 9 is delivered from the discharge arm 41 to the discharge conveyor 43.

排出コンベア43は、対象物9を載置して搬送する環状の搬送ベルト431を有する。排出コンベア43は、制御部50からの指示に応じて、搬送ベルト431の回転方向を切り替えることができる。第1検査ユニット10および第2検査ユニット30において、欠陥が検出されなかった対象物9が、搬送ベルト431上に載置されると、制御部50は、搬送ベルト431を一方向に回転させる。これにより、当該対象物9は、外観検査装置1の左右の一方(例えば、図1の奥側)に、良品として排出される。一方、第1検査ユニット10または第2検査ユニット30において、欠陥が検出された対象物9が、搬送ベルト431上に載置されると、制御部50は、搬送ベルト431を他方向に回転させる。これにより、当該対象物9は、外観検査装置1の左右の他方(例えば、図1の手前側)に、不良品として排出される。   The discharge conveyor 43 has an annular conveyance belt 431 for placing and conveying the object 9. The discharge conveyor 43 can switch the rotation direction of the transport belt 431 in accordance with an instruction from the control unit 50. In the first inspection unit 10 and the second inspection unit 30, when the object 9 for which no defect is detected is placed on the transport belt 431, the control unit 50 rotates the transport belt 431 in one direction. Accordingly, the object 9 is discharged as a non-defective product to one of the left and right sides of the appearance inspection apparatus 1 (for example, the back side in FIG. 1). On the other hand, in the first inspection unit 10 or the second inspection unit 30, when the object 9 in which a defect is detected is placed on the transport belt 431, the control unit 50 rotates the transport belt 431 in the other direction. . As a result, the object 9 is discharged as a defective product to the other of the left and right sides of the appearance inspection apparatus 1 (for example, the front side in FIG. 1).

制御部50は、外観検査装置1の各部を動作制御するための手段である。図1中に概念的に示したように、制御部50は、CPU等の演算処理部51、RAM等のメモリ52、およびハードディスクドライブ等の記憶部53を有するコンピュータにより構成される。記憶部53内には、対象物9の搬送および検査を実行するためのプログラム54が、インストールされている。   The control unit 50 is a means for controlling the operation of each unit of the appearance inspection apparatus 1. As conceptually shown in FIG. 1, the control unit 50 is configured by a computer having an arithmetic processing unit 51 such as a CPU, a memory 52 such as a RAM, and a storage unit 53 such as a hard disk drive. In the storage unit 53, a program 54 for executing conveyance and inspection of the object 9 is installed.

制御部50は、上述した第1搬入機構11、第1保持機構12、第1検査部13、第1搬出機構14、姿勢変更機構20、第2搬入機構31、第2保持機構32、第2検査部33、第2搬出機構34、および分別排出機構40と、それぞれ電気的に接続されている。制御部50は、記憶部53に記憶されたプログラム54をメモリ52に一時的に読み出し、当該プログラム54に基づいて、演算処理部51が演算処理を行うことにより、上記の各部を動作制御する。これにより、複数の対象物9の搬送および検査が、順次に進行する。   The control unit 50 includes the first carry-in mechanism 11, the first holding mechanism 12, the first inspection unit 13, the first carry-out mechanism 14, the attitude changing mechanism 20, the second carry-in mechanism 31, the second hold mechanism 32, and the second. The inspection unit 33, the second carry-out mechanism 34, and the separation / discharge mechanism 40 are electrically connected to each other. The control unit 50 temporarily reads the program 54 stored in the storage unit 53 into the memory 52, and the arithmetic processing unit 51 performs arithmetic processing based on the program 54, thereby controlling the operation of each unit described above. Thereby, conveyance and inspection of a plurality of objects 9 progress sequentially.

制御部50は、外観検査装置1の外部に設けられるPC101と沿う方向に通信可能に接続される。外観検査装置1で得られた各データは、自動的にPC101に送信される。また、検査システム100の使用者がPC101から操作情報を入力した場合には、この操作情報が制御部50に送信され、制御部50がこの操作情報に従って外観検査装置1内の各部を制御する。   The controller 50 is communicably connected in a direction along the PC 101 provided outside the appearance inspection apparatus 1. Each data obtained by the appearance inspection apparatus 1 is automatically transmitted to the PC 101. When the user of the inspection system 100 inputs operation information from the PC 101, the operation information is transmitted to the control unit 50, and the control unit 50 controls each unit in the appearance inspection apparatus 1 according to the operation information.

PC101は、種々の処理を行う本体部102と、表示画面103と、使用者が各種情報を入力するための入力部104と、を有する。   The PC 101 includes a main body unit 102 that performs various processes, a display screen 103, and an input unit 104 for a user to input various information.

本体部102は、制御部50と同様、CPU等の演算処理部151、RAM等のメモリ152、およびハードディスクドライブ等の記憶部153を有する。記憶部153内には、表示画面103に各種情報を表示するためのプログラム154がインストールされている。このため、プログラム154が演算処理部151により実行されることで、PC101が後述する代表撮像画像を表示画面103に並べて表示する表示部として機能する。   Similar to the control unit 50, the main body unit 102 includes an arithmetic processing unit 151 such as a CPU, a memory 152 such as a RAM, and a storage unit 153 such as a hard disk drive. A program 154 for displaying various types of information on the display screen 103 is installed in the storage unit 153. For this reason, when the program 154 is executed by the arithmetic processing unit 151, the PC 101 functions as a display unit that displays representative captured images to be described later side by side on the display screen 103.

プログラム154は、GUI(Graphical User Interface)に関するプログラムである。プログラム154は、本実施形態のように予め記憶部153に格納される態様の他に、CD−ROMあるいはDVD−ROM、外部のフラッシュメモリ等の記録媒体に記録された形態(プログラムプロダクト)で提供される態様や、ネットワークを介した外部サーバからのダウンロードなどにより提供される態様であってもよい。   The program 154 is a program related to GUI (Graphical User Interface). The program 154 is provided in a form (program product) recorded on a recording medium such as a CD-ROM, a DVD-ROM, or an external flash memory, in addition to the form stored in the storage unit 153 in advance as in the present embodiment. Or a mode provided by downloading from an external server via a network.

表示画面103は、例えば、液晶表示装置の画面である。また、入力部104は、例えば、キーボードやマウスで構成される。表示画面103での表示態様については、後述する<1.3 表示画面103での表示例>で詳細に説明する。   The display screen 103 is a screen of a liquid crystal display device, for example. The input unit 104 is configured with, for example, a keyboard and a mouse. The display mode on the display screen 103 will be described in detail in <1.3 Display example on the display screen 103> described later.

<1.2 検査の一例>
以下では、第1検査部13が対象物9の第1面を検査する際の一例について説明する。図5は、対象物9を撮像してから検査結果を表示画面103に表示するまでのフローの一例を示す図である。
<1.2 Example of inspection>
Below, an example when the 1st test | inspection part 13 test | inspects the 1st surface of the target object 9 is demonstrated. FIG. 5 is a diagram illustrating an example of a flow from imaging the object 9 to displaying the inspection result on the display screen 103.

各撮像部132が対象物9を撮像する(ステップST1)。まず、異なる10種類の光照射条件のもとで、上方撮像部132aが対象物9を撮像する。   Each imaging unit 132 images the object 9 (step ST1). First, the upper imaging unit 132a images the object 9 under ten different types of light irradiation conditions.

上方撮像部132aによる1〜8回目の撮像時には、8つの斜方光照射部131bが順次に1つずつ光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、光照射条件が異なる8枚の撮像画像が取得される。   At the time of the first to eighth imaging by the upper imaging unit 132a, the eight oblique light irradiation units 131b sequentially irradiate light one by one, and the other parts in the appearance inspection apparatus 1 do not emit light. The Thereby, eight captured images with different light irradiation conditions are acquired.

上方撮像部132aによる9回目の撮像時には、上方光照射部131aのみが光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、上記8枚の撮像画像とは光照射条件が異なる1枚の撮像画像が取得される。   At the time of the ninth imaging by the upper imaging unit 132a, only the upper light irradiation unit 131a emits light, and the other units in the appearance inspection apparatus 1 are not in a state of emitting light. Thereby, one picked-up image with different light irradiation conditions from the eight picked-up images is acquired.

上方撮像部132aによる10回目の撮像時には、上方光照射部131aおよび8つの斜方光照射部131bの全てが光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、上記9枚の撮像画像とは光照射条件が異なる1枚の撮像画像が取得される。   At the time of the tenth imaging by the upper imaging unit 132a, all of the upper light irradiation unit 131a and the eight oblique light irradiation units 131b emit light, and the other units in the appearance inspection apparatus 1 do not emit light. Is done. Thereby, one captured image having different light irradiation conditions from the nine captured images is acquired.

その結果、上方撮像部132aによって、合計10枚の撮像画像が取得される。   As a result, a total of ten captured images are acquired by the upper imaging unit 132a.

次に、異なる6種類の光照射条件のもとで、8つの斜方撮像部132bが対象物9を撮像する。まず、1つの斜方撮像部132bが指定される。   Next, the eight oblique imaging units 132b image the object 9 under six different types of light irradiation conditions. First, one oblique imaging unit 132b is designated.

この斜方撮像部132bによる1〜5回目の撮像時には、8つの斜方光照射部131bのうちこの斜方撮像部132bに近い位置の5つの斜方光照射部131bが順次に1つずつ光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、光照射条件が異なる5枚の撮像画像が取得される。   During the first to fifth imaging by the oblique imaging unit 132b, among the eight oblique light irradiation units 131b, the five oblique light irradiation units 131b at positions close to the oblique imaging unit 132b sequentially emit light one by one. The other parts in the appearance inspection apparatus 1 are set to a state that does not emit light. Thereby, five captured images with different light irradiation conditions are acquired.

この斜方撮像部132bによる6回目の撮像時には、上記5つの斜方光照射部131bの全てが光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、上記5枚の撮像画像とは光照射条件が異なる1枚の撮像画像が取得される。   At the time of the sixth imaging by the oblique imaging unit 132b, all of the five oblique light irradiation units 131b emit light, and the other parts in the appearance inspection apparatus 1 are not in a state of emitting light. Thereby, one captured image having different light irradiation conditions from the five captured images is acquired.

その結果、1つの斜方撮像部132bによって、合計6枚の撮像画像が取得される。続けて、他の7つの斜方撮像部132bによって、同様に、合計6枚ずつの撮像画像が取得される。したがって、8つの斜方撮像部132b全体では、合計48枚の撮像画像が取得される。   As a result, a total of six captured images are acquired by one oblique imaging unit 132b. Subsequently, a total of six captured images are similarly acquired by the other seven oblique imaging units 132b. Therefore, a total of 48 captured images are acquired by the eight oblique imaging units 132b as a whole.

次に、異なる6種類の光照射条件のもとで、8つの側方撮像部132cが対象物9を撮像する。まず、1つの側方撮像部132cが指定される。   Next, the eight side imaging units 132c image the object 9 under six different types of light irradiation conditions. First, one side imaging unit 132c is designated.

この側方撮像部132cによる1〜5回目の撮像時には、8つの側方光照射部131cのうちこの側方撮像部132cに近い位置の5つの側方光照射部131cが順次に1つずつ光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、光照射条件が異なる5枚の撮像画像が取得される。   During the first to fifth imaging by the side imaging unit 132c, among the eight side light irradiation units 131c, the five side light irradiation units 131c at positions close to the side imaging unit 132c sequentially emit light one by one. The other parts in the appearance inspection apparatus 1 are set to a state that does not emit light. Thereby, five captured images with different light irradiation conditions are acquired.

この側方撮像部132cによる6回目の撮像時には、上記5つの側方光照射部131cの全てが光を照射し、外観検査装置1内の他の各部は光を発さない状態とされる。これにより、上記5枚の撮像画像とは光照射条件が異なる1枚の撮像画像が取得される。   At the time of the sixth imaging by the side imaging unit 132c, all of the five side light irradiation units 131c irradiate light, and the other units in the appearance inspection apparatus 1 are in a state of not emitting light. Thereby, one captured image having different light irradiation conditions from the five captured images is acquired.

その結果、1つの側方撮像部132cによって、合計6枚の撮像画像が取得される。続けて、他の7つの側方撮像部132cによって、同様に、合計6枚ずつの撮像画像が取得される。したがって、8つの側方撮像部132c全体では、合計48枚の撮像画像が取得される。   As a result, a total of six captured images are acquired by one side imaging unit 132c. Subsequently, a total of six captured images are similarly acquired by the other seven side imaging units 132c. Therefore, a total of 48 captured images are acquired in the entire eight side imaging units 132c.

こうして各撮像部132で取得された合計106枚の撮像画像を基に、制御部50が対象物9における第1面の異常を検査し良品あるいは不良品の判定をする(ステップST2)。また、制御部50は、これら106枚の撮像画像をPC101に送信する。   Based on a total of 106 captured images acquired by each imaging unit 132 in this manner, the control unit 50 inspects the abnormality of the first surface of the object 9 and determines whether it is a non-defective product or a defective product (step ST2). Further, the control unit 50 transmits these 106 captured images to the PC 101.

ここまで、第1検査部13が対象物9の第1面を検査する場合の一例について説明したが、本実施形態では、第2検査部33が対象物9の第2面を検査する場合も同様である。すなわち、各撮像部332で取得された合計106枚の撮像画像を基に、制御部50が対象物9における第2面の異常を検査し良品あるいは不良品の判定をする。また、制御部50は、これら106枚の撮像画像をPC101に送信する。   So far, an example in which the first inspection unit 13 inspects the first surface of the object 9 has been described. However, in the present embodiment, the second inspection unit 33 may inspect the second surface of the object 9. It is the same. That is, based on a total of 106 captured images acquired by each imaging unit 332, the control unit 50 inspects the abnormality of the second surface of the object 9 and determines whether it is a non-defective product or a defective product. Further, the control unit 50 transmits these 106 captured images to the PC 101.

<1.3 表示画面103での表示例>
検査システム100の使用者は、外観検査装置1で対象物9を検査している最中に表示画面103を視ることで、リアルタイムに対象物9の検査結果を把握することができる。また、検査システム100の使用者は、外観検査装置1で複数の対象物9に対して検査が行われた後にPC101を操作して表示画面103を視ることで、履歴の残っている対象物9の検査結果を把握することができる。以下では、表示画面103に検査結果が表示される際の表示例を説明する。
<1.3 Display example on display screen 103>
A user of the inspection system 100 can grasp the inspection result of the object 9 in real time by viewing the display screen 103 while the object inspection 9 is inspecting the object 9. In addition, the user of the inspection system 100 operates the PC 101 after the plurality of objects 9 are inspected by the appearance inspection apparatus 1 and looks at the display screen 103 so that the objects having a history remain. 9 inspection results can be grasped. Below, the example of a display when a test result is displayed on the display screen 103 is demonstrated.

<1.3.1 リアルタイムにおける検査結果の表示例>
検査システム100では、検査の結果が外観検査装置1からリアルタイムでPC101に通信され、PC101がリアルタイムで複数の代表撮像画像を表示画面103に並べて表示する。
<1.3.1 Real-time test result display example>
In the inspection system 100, the inspection result is communicated from the appearance inspection apparatus 1 to the PC 101 in real time, and the PC 101 displays a plurality of representative captured images side by side on the display screen 103 in real time.

表示画面103に1つの対象物9についての各代表撮像画像が表示される表示期間は、外観検査装置1においてある対象物9が搬出されて次の対象物9が搬出されるまでの期間とほぼ同一である。したがって、例えば、外観検査装置1が5秒ごとに対象物9を検査して搬出する装置であれば、表示画面103に表示される対象物9の各代表撮像画像も5秒ごとに切り替えられる。   The display period in which each representative captured image for one object 9 is displayed on the display screen 103 is substantially the same as the period from when one object 9 is unloaded to the next object 9 in the appearance inspection apparatus 1. Are the same. Therefore, for example, if the appearance inspection apparatus 1 is an apparatus that inspects and carries out the object 9 every 5 seconds, the representative captured images of the object 9 displayed on the display screen 103 are also switched every 5 seconds.

以下、図6および図7を参照しつつ、リアルタイムにおける検査結果の表示例について説明する。   Hereinafter, a display example of the inspection result in real time will be described with reference to FIGS. 6 and 7.

図6は、本体部102が各撮像画像を仮想的に分類する例を示す概念図である。図6中では、同一のグループ内の各撮像画像は上下方向に間隔をあけて矩形で表現される。また、図6中において、ある撮像画像がグループ内で上から何番目に位置するかは、そのグループ内で何枚目に撮像された撮像画像かを意味する。   FIG. 6 is a conceptual diagram illustrating an example in which the main body unit 102 virtually classifies each captured image. In FIG. 6, each captured image in the same group is represented by a rectangle with an interval in the vertical direction. Further, in FIG. 6, the position from the top in a group of a certain captured image means the captured image captured in that group.

本体部102は、第1面についての106枚の撮像画像を17個のグループGF1〜GF17に仮想的に分類する(ステップST3)。ここで、17個のグループGF1〜GF17は、それぞれ17個の撮像部132が撮像した撮像画像で構成される。具体的には、グループGF1は、上方撮像部132aが撮像した10枚の撮像画像で構成される。グループGF2〜GF9は、それぞれ、各斜方撮像部132bが撮像した6枚の撮像画像で構成される。グループGF10〜GF17は、それぞれ、各側方撮像部132cが撮像した6枚の撮像画像で構成される。   The main body 102 virtually classifies the 106 captured images of the first surface into 17 groups GF1 to GF17 (step ST3). Here, the 17 groups GF <b> 1 to GF <b> 17 are configured by captured images captured by the 17 image capturing units 132. Specifically, the group GF1 is composed of 10 captured images captured by the upper imaging unit 132a. The groups GF <b> 2 to GF <b> 9 are each composed of six captured images captured by each oblique imaging unit 132 b. The groups GF10 to GF17 are each composed of six captured images captured by the side imaging units 132c.

図7は、ある対象物9についての、リアルタイムにおける検査結果の表示例を示す図である。   FIG. 7 is a diagram illustrating a display example of inspection results in real time for a certain object 9.

本体部102は、各候補撮像画像を抽出する(ステップST4)。図6において、候補撮像画像は、斜線を付された矩形で表現されている。ここで、候補撮像画像とは代表撮像画像となりうる画像である。図7に示す表示画面103には、対象物9を撮像する複数の方向のそれぞれについて、候補撮像画像または参照画像のいずれかが代表撮像画像として表示される。   The main body 102 extracts each candidate captured image (step ST4). In FIG. 6, the candidate captured image is represented by a hatched rectangle. Here, the candidate captured image is an image that can be a representative captured image. On the display screen 103 illustrated in FIG. 7, either a candidate captured image or a reference image is displayed as a representative captured image for each of a plurality of directions in which the object 9 is captured.

図6に示すように、この表示例では、グループGF1〜GF9からは1つずつ候補撮像画像が抽出される一方で、グループGF10〜GF17からは候補撮像画像が抽出されない。したがって、上方撮像部132aおよび8つの斜方撮像部132bによって撮像された撮像画像は検査と画面表示との双方に用いられうるのに対し、8つの側方撮像部132cによって撮像された撮像画像は検査にのみ用いられ画面表示には用いられない。以下では、上方撮像部132aおよび8つの斜方撮像部132bが対象物9を撮像する際の撮像方向をまとめて、9つの方向という場合がある。   As shown in FIG. 6, in this display example, candidate captured images are extracted one by one from the groups GF1 to GF9, while no candidate captured images are extracted from the groups GF10 to GF17. Therefore, the captured images captured by the upper imaging unit 132a and the eight oblique imaging units 132b can be used for both inspection and screen display, whereas the captured images captured by the eight lateral imaging units 132c It is used only for inspection and not for screen display. Hereinafter, the imaging directions when the upper imaging unit 132a and the eight oblique imaging units 132b capture the object 9 may be collectively referred to as nine directions.

言い換えると、外観検査装置1は、9つの方向から撮像された58枚の撮像画像に加えてさらに、9つの方向とは異なる少なくとも1つの方向(具体的には、8つの側方撮像部132cによる8つの方向)から対象物9を撮像して得られた48枚の撮像画像を用いて、対象物9における異常を検査する。   In other words, in addition to the 58 captured images captured from nine directions, the appearance inspection apparatus 1 further includes at least one direction different from the nine directions (specifically, the eight side imaging units 132c). An abnormality in the object 9 is inspected using 48 captured images obtained by imaging the object 9 from eight directions.

本実施形態の態様では、第1面および第2面の双方について17個の方向の各代表撮像画像を表示画面103に表示する態様に比べて、少ない枚数の代表撮像画像を表示画面103に表示する。その結果、表示画面103に表示される各代表撮像画像のサイズを大きくすることができ、使用者が各代表撮像画像を視る際の視認性が向上する。   In the aspect of the present embodiment, a smaller number of representative captured images are displayed on the display screen 103 than in the aspect in which the representative captured images in 17 directions are displayed on the display screen 103 for both the first surface and the second surface. To do. As a result, the size of each representative captured image displayed on the display screen 103 can be increased, and the visibility when the user views each representative captured image is improved.

また、本実施形態の態様では、候補撮像画像が抽出されるグループGF1〜GF9のみを基に検査を行う態様に比べて、より多くのグループGF1〜GF17を基に検査を行う。その結果、検査の精度が向上する。   Further, in the aspect of the present embodiment, the inspection is performed based on more groups GF1 to GF17 as compared to the aspect in which the inspection is performed based only on the groups GF1 to GF9 from which the candidate captured images are extracted. As a result, the accuracy of inspection is improved.

次に、本体部102がグループGF1〜GF9から1つずつ候補撮像画像を抽出する際の一例について説明する。   Next, an example when the main body 102 extracts candidate captured images one by one from the groups GF1 to GF9 will be described.

本体部102は、9つの方向のそれぞれに関して、各撮像画像群の中から特定の光照射条件下で撮像された1枚の画像を、候補撮像画像として抽出する。本実施形態における特定の光照射条件は、例えば、各撮像画像群の中で平均輝度が最も高いという条件である。   The main body 102 extracts, as candidate captured images, one image captured under a specific light irradiation condition from each captured image group in each of the nine directions. The specific light irradiation condition in the present embodiment is, for example, a condition that the average luminance is the highest in each captured image group.

グループGF1においては、10回目の撮像時がこの条件を満たし、10枚目の撮像画像が候補撮像画像として抽出される。グループGF2〜GF9においては、6回目の撮像時がこの条件を満たし、6枚目の撮像画像が候補撮像画像として抽出される。このように平均輝度が高い画像を候補撮像画像として抽出すれば、この候補撮像画像を代表撮像画像として表示画面103に表示した際に、使用者が代表撮像画像を視認しやすい。   In the group GF1, this condition is satisfied during the tenth imaging, and the tenth captured image is extracted as a candidate captured image. In the groups GF2 to GF9, the sixth imaging satisfies this condition, and the sixth captured image is extracted as a candidate captured image. If an image having a high average luminance is extracted as a candidate captured image in this way, the user can easily view the representative captured image when the candidate captured image is displayed on the display screen 103 as the representative captured image.

ここまで、対象物9の第1面の撮像画像に関するグループGF1〜GF17のうち特にグループGF1〜GF9から1枚ずつ候補撮像画像が抽出される場合の一例について説明したが、本実施形態では、対象物9の第2面についても同様である。すなわち、対象物9の第2面の撮像画像に関するグループGR1〜GR17のうち特にグループGR1〜GR9から1枚ずつ候補撮像画像が抽出される。ここで、グループGR1は、上方撮像部332aが撮像した10枚の撮像画像で構成される。グループGR2〜GR9は、それぞれ、各斜方撮像部332bが撮像した6枚の撮像画像で構成される。グループGR10〜GR17は、それぞれ、各側方撮像部332cが撮像した6枚の撮像画像で構成される。   Up to this point, an example has been described in which candidate imaged images are extracted one by one from the groups GF1 to GF9 among the groups GF1 to GF17 related to the imaged image of the first surface of the object 9. The same applies to the second surface of the object 9. That is, one candidate captured image is extracted from each of the groups GR1 to GR9 among the groups GR1 to GR17 related to the captured image of the second surface of the object 9. Here, the group GR1 includes ten captured images captured by the upper imaging unit 332a. Each of the groups GR2 to GR9 includes six captured images captured by each oblique imaging unit 332b. Each of the groups GR10 to GR17 includes six captured images captured by each side imaging unit 332c.

また、以下では、上方撮像部332aおよび8つの斜方撮像部332bが対象物9を撮像する際の撮像方向を、表示画面103に表示される方向という意味でまとめて、9つの方向という場合がある。   In the following, the imaging directions when the upper imaging unit 332a and the eight oblique imaging units 332b image the object 9 are collectively referred to as the directions displayed on the display screen 103, and may be referred to as nine directions. is there.

図7に示すように、リアルタイムの検査結果を表示する表示画面103には、各グループGF1〜GF9の各代表撮像画像が3行3列の形式で図示左側に並べられ、各グループGR1〜GR9の各代表撮像画像が3行3列の形式で図示右側に並べられる。   As shown in FIG. 7, on the display screen 103 that displays the real-time inspection results, the representative captured images of the groups GF1 to GF9 are arranged on the left side in the form of 3 rows and 3 columns, and the groups GR1 to GR9 are displayed. The representative captured images are arranged on the right side of the figure in the form of 3 rows and 3 columns.

各グループGF1〜GF9および各グループGR1〜GR9において、9つの方向は、基準軸(本実施形態では、鉛直軸)に沿う第1方向と基準軸回りに回転対称な8つの軸に沿う8つの第2方向とで構成される。そして、PC101は、表示画面103において、第1方向から撮像した代表撮像画像の周囲に、8つの第2方向から撮像した8つの代表撮像画像を各軸の位置関係に対応して配置する。   In each group GF1 to GF9 and each group GR1 to GR9, the nine directions are the first direction along the reference axis (vertical axis in this embodiment) and the eight directions along the eight axes that are rotationally symmetric about the reference axis. It consists of two directions. Then, on the display screen 103, the PC 101 arranges eight representative picked-up images picked up from eight second directions around the representative picked-up images picked up from the first direction corresponding to the positional relationship of each axis.

このように撮像位置関係に応じて表示画面103に各代表撮像画像が表示されるため、検査システム100の使用者は、対象物9の検査結果だけでなく撮像位置関係も直感的に視認しやすい。上述の通り、リアルタイムにおける検査結果の表示では、表示対象となる対象物9が比較的短い期間(例えば、5秒ごと)で切り替えられる。このため、使用者による視認性が向上することは特に望ましい。   Thus, since each representative captured image is displayed on the display screen 103 according to the imaging positional relationship, the user of the inspection system 100 can easily visually recognize not only the inspection result of the object 9 but also the imaging positional relationship. . As described above, in the inspection result display in real time, the object 9 to be displayed is switched in a relatively short period (for example, every 5 seconds). For this reason, it is particularly desirable that the visibility by the user is improved.

また、PC101は、複数の代表撮像画像のうち異常が検出された方向から撮像された異常有り代表撮像画像(すなわち、当該代表撮像画像の属するグループに含まれる少なくとも1つの撮像画像にもとづいて、異常が検出された場合の代表撮像画像)を、複数の撮像画像のうち異常が検出されなかった方向から撮像された異常無し代表撮像画像(すなわち、当該代表撮像画像の属するグループに含まれるいずれの撮像画像にもとづいても、異常が検出されなかった場合の代表撮像画像)とは異なる態様で表示画面103に表示する。図7に示す例では、異常有り代表撮像画像のみが点線の枠501で囲まれて表示される。したがって、検査システム100の使用者は、異常が検出された撮像方向を一目で視認することができる。   Further, the PC 101 detects an abnormality based on at least one captured image included in a group to which the representative captured image belongs (that is, an abnormal representative captured image captured from the direction in which the abnormality is detected among the plurality of representative captured images). Is detected from the direction in which no abnormality is detected among a plurality of captured images (that is, any image included in the group to which the representative captured image belongs). Even on the basis of the image, the image is displayed on the display screen 103 in a mode different from a representative captured image when no abnormality is detected. In the example illustrated in FIG. 7, only a representative captured image with an abnormality is displayed surrounded by a dotted frame 501. Therefore, the user of the inspection system 100 can visually recognize the imaging direction in which the abnormality is detected.

あるグループ(例えば、グループGF1)の代表撮像画像が異常有り代表撮像画像に該当する場合として、次の2つの場合がある。   There are the following two cases where a representative captured image of a certain group (for example, group GF1) corresponds to a representative captured image with an abnormality.

1つ目は、当該グループGF1に属する少なくとも1枚の撮像画像の単体から異常が検出される場合である。ここで、撮像画像の単体から異常が検出される、とは、当該撮像画像と参照画像とを比較して少なくとも1つの部位で一致度が小さいことを意味する。   The first is a case where an abnormality is detected from a single piece of at least one captured image belonging to the group GF1. Here, “abnormality is detected from a single captured image” means that the degree of coincidence is small in at least one part by comparing the captured image with the reference image.

2つ目は、当該グループGF1に属する各撮像画像の単体からは異常が検出されないものの、当該グループGF1に属する2以上の撮像画像を組み合わせて考慮すると異常が検出される場合である。ここで、2以上の撮像画像を組み合わせて考慮すると異常が検出される、とは、当該2以上の撮像画像と参照画像とをそれぞれ比較した際に同一の部位で一致度が小さくその部位に異常があると推定されることを意味する。   The second case is a case where no abnormality is detected from a single captured image belonging to the group GF1, but an abnormality is detected when two or more captured images belonging to the group GF1 are considered in combination. Here, when two or more captured images are considered in combination, an abnormality is detected. When the two or more captured images and the reference image are compared with each other, the degree of coincidence is small in the same part, and abnormality is detected in that part. It is estimated that there is.

すなわち、代表撮像画像単体では異常が認められない場合にも、当該代表撮像画像の属するグループ全体で見たときに当該グループにおいて異常が検出された場合には、当該代表撮像画像は異常有り代表撮像画像となり、当該グループの撮像方向は異常が検出された方向となる。   That is, even if no abnormality is recognized in the representative captured image alone, if an abnormality is detected in the group when viewed in the entire group to which the representative captured image belongs, the representative captured image is an abnormal representative captured image. It becomes an image, and the imaging direction of the group is the direction in which the abnormality is detected.

例えば、ある撮像部が過検出(正常な部位を異常であると誤って検出すること)を行っている場合には、その撮像方向から視た代表撮像画像に異常有り代表撮像画像が現れやすくなる。したがって、検査システム100の使用者は、過検出の疑いがある撮像部を早期に特定することができ、必要に応じてこの撮像部に関する検出パラメータを調整することができる。   For example, when a certain imaging unit is overdetecting (detecting a normal part as being abnormal), a representative captured image with an abnormality is likely to appear in the representative captured image viewed from the imaging direction. . Therefore, the user of the inspection system 100 can identify an imaging unit that is suspected of being overdetected at an early stage, and can adjust detection parameters related to the imaging unit as necessary.

また、PC101は、異常有り代表撮像画像中で、異常有り代表撮像画像の属するグループに含まれる撮像画像において異常が検出された部位を、異常が検出されなかった部位とは異なる態様で表示画面に表示する。図7に示す例では、異常が検出された部位のみが丸い黒枠500で囲まれて表示される。したがって、検査システム100の使用者は、異常が検出された部位を一目で視認することができる。   In addition, the PC 101 displays a part of the representative captured image with an abnormality on the display screen in a manner different from the part where the abnormality is not detected in the captured image included in the group to which the representative captured image with the abnormality belongs. indicate. In the example shown in FIG. 7, only the part where the abnormality is detected is displayed surrounded by a round black frame 500. Therefore, the user of the inspection system 100 can visually recognize the site where the abnormality is detected at a glance.

ここで、異常有り代表撮像画像では、当該代表撮像画像の属するグループ内において異常が検出された複数の部位を足し合わせた状態で、当該異常が検出された複数の部位を異常が検出されなかった部位とは異なる態様で表示する。すなわち、あるグループに属するある撮像画像にもとづいて第1部位の異常が検出され、同じグループに属する他の撮像画像にもとづいて第2部位の異常が検出された場合、PC101は、異常有り代表撮像画像中の第1部位および第2部位に相当する部位を、異常が検出されなかった部位とは異なる態様で表示画面に表示する。   Here, in the representative captured image with abnormality, the abnormality was not detected in the plurality of parts in which the abnormality was detected in the state where the plurality of parts in which the abnormality was detected were added in the group to which the representative captured image belongs. Displayed in a different form from the site. That is, when an abnormality in the first part is detected based on a certain captured image belonging to a certain group and an abnormality in the second part is detected based on another captured image belonging to the same group, the PC 101 represents the representative imaging with abnormality. The parts corresponding to the first part and the second part in the image are displayed on the display screen in a manner different from the part where no abnormality is detected.

また、表示画面103には、第1面および第2面のそれぞれ9枚ずつの代表撮像画像(合計18枚の代表撮像画像)が表示される。そして、この18枚の代表撮像画像のいずれもが、候補撮像画像または参照画像のいずれかと同一である。本実施形態では、あるグループ(例えば、グループGF1)に含まれる少なくとも1つの撮像画像において異常が検出された場合には当該グループの候補撮像画像が異常有り代表撮像画像として確定され、あるグループ(例えば、グループGF1)に含まれる全ての撮像画像において異常が検出されなかった場合には当該グループと同じ方向から視た参照画像が異常無し代表撮像画像として確定される(ステップST5)。そして、確定された各代表撮像画像が表示画面103に表示される(ステップST6)。   The display screen 103 displays nine representative captured images on each of the first surface and the second surface (18 representative captured images in total). All of the 18 representative captured images are the same as either the candidate captured image or the reference image. In this embodiment, when an abnormality is detected in at least one captured image included in a certain group (for example, group GF1), the candidate captured image of the group is determined as a representative captured image with an abnormality, and a certain group (for example, for example) When no abnormality is detected in all the captured images included in the group GF1), a reference image viewed from the same direction as the group is determined as a representative captured image without abnormality (step ST5). Each confirmed representative captured image is displayed on the display screen 103 (step ST6).

ここで、検査システム100の使用者が表示画面103を視る目的は、実際に検査対象となっている対象物9の異常有り代表撮像画像(ひいては、異常部位)を視認することである。本実施形態の態様では、視認対象となる異常有り代表撮像画像には実際の撮像画像が外観検査装置1からPC101に送信されて表示画面103に表示され、視認対象とならない異常無し代表撮像画像には予めPC101に登録されている参照画像が表示される。その結果、使用者の目的を達成しつつ外観検査装置1からPC101へのリアルタイムにおけるデータ通信量を大幅に減少することができ、PC101がリアルタイムの検査結果を良好に表示することができる。   Here, the purpose of the user of the inspection system 100 viewing the display screen 103 is to visually recognize a representative captured image with an abnormality (and thus an abnormal part) of the object 9 that is actually the inspection target. In the aspect of the present embodiment, an actual captured image is transmitted from the appearance inspection apparatus 1 to the PC 101 and displayed on the display screen 103 as an abnormal representative captured image that is a visual recognition target, and is displayed on the display screen 103 as an abnormal representative captured image that is not a visual recognition target. Displays a reference image registered in advance in the PC 101. As a result, the amount of data communication in real time from the appearance inspection apparatus 1 to the PC 101 can be significantly reduced while achieving the user's purpose, and the PC 101 can display the real-time inspection result well.

<1.3.3 履歴から選択された検査結果の表示例>
次に、図8および図9を参照しつつ、履歴に残っている検査結果の表示例について説明する。図8は、ある対象物9の第1面についての、履歴から選択された検査結果の表示例を示す図である。図9は、選択された代表撮像画像が拡大表示された際の表示例を示す図である。
<1.3.3 Display example of test results selected from history>
Next, a display example of the inspection results remaining in the history will be described with reference to FIGS. FIG. 8 is a diagram illustrating a display example of the inspection result selected from the history for the first surface of a certain object 9. FIG. 9 is a diagram illustrating a display example when the selected representative captured image is enlarged and displayed.

検査システム100では、検査の結果が外観検査装置1からPC101に通信され、PC101の記憶部153が検査の結果を記憶する。外観検査装置1での複数の検査の結果が記憶部153に履歴として蓄積された後に、使用者は入力部104から複数の検査の結果から1つを選択し、第1面または第2面のいずれかを指定する。これにより、PC101は、選択された1つの検査の結果のうち指定された面における複数の代表撮像画像を表示画面103に並べて表示する。   In the inspection system 100, the inspection result is communicated from the appearance inspection apparatus 1 to the PC 101, and the storage unit 153 of the PC 101 stores the inspection result. After the results of the plurality of inspections in the appearance inspection apparatus 1 are accumulated as a history in the storage unit 153, the user selects one of the results of the plurality of inspections from the input unit 104, and the first surface or the second surface is selected. Specify one. As a result, the PC 101 displays a plurality of representative captured images on the specified surface among the results of the selected single inspection on the display screen 103.

図8に示す表示例では、各グループGF1〜GF17に属する各撮像画像群の中から、平均輝度が最も高いという条件で1つずつ代表撮像画像が抽出される。より具体的には、図8に示すように、表示画面103には、各グループGF1〜GF9の各代表撮像画像が3行3列の形式で図示左側に並べられ、各グループGF1、GF10〜GF17の各代表撮像画像が3行3列の形式で図示右側に並べられる。   In the display example shown in FIG. 8, representative captured images are extracted one by one from the captured image groups belonging to the groups GF1 to GF17 under the condition that the average luminance is the highest. More specifically, as shown in FIG. 8, on the display screen 103, the representative captured images of the groups GF1 to GF9 are arranged on the left side in the form of 3 rows and 3 columns, and the groups GF1 and GF10 to GF17 are arranged. These representative captured images are arranged on the right side in the figure in the form of 3 rows and 3 columns.

図8に示す検査履歴の表示画面103では、ある代表撮像画像を選択(具体的には、例えば、入力部104のマウスにより画面上のカーソルで該代表撮像画像をクリック)することができる。選択された代表撮像画像は、その選択箇所(例えば、クリック時のカーソルの箇所)を画面中心に配置した状態で、図9に示すように拡大表示される。   On the examination history display screen 103 shown in FIG. 8, a representative captured image can be selected (specifically, for example, the representative captured image is clicked with a cursor on the screen by the mouse of the input unit 104). The selected representative captured image is enlarged and displayed as shown in FIG. 9 with the selected location (for example, the location of the cursor at the time of clicking) being placed at the center of the screen.

このため、検査システム100の使用者は、図8に示す表示画面103において異常有り代表撮像画像を選択することで、図9に示すように拡大された異常有り代表撮像画像を視認することができる。これにより、使用者は、対象物9における異常有り代表撮像画像を詳細に視認することができる。   Therefore, the user of the inspection system 100 can visually recognize the enlarged representative captured image with abnormality as shown in FIG. 9 by selecting the representative captured image with abnormality on the display screen 103 shown in FIG. . Thereby, the user can visually recognize the representative captured image with abnormality in the object 9 in detail.

図9に示す表示画面103では、図8に示す表示画面103とは異なり、異常が検出された部位を囲む丸い黒枠500(部位特定要素)が表示されない。したがって、検査システム100の使用者は、異常が検出された部位を部位特定要素がない状態で詳細に視認することができる。   In the display screen 103 shown in FIG. 9, unlike the display screen 103 shown in FIG. 8, the round black frame 500 (part specifying element) surrounding the part where the abnormality is detected is not displayed. Therefore, the user of the inspection system 100 can visually recognize the part where the abnormality is detected in detail without the part specifying element.

使用者は、光照射条件選択バー201を操作して(具体的には、例えば、入力部104のマウスにより画面上のカーソルを操作して)、異常有り代表撮像画像と同一の方向から撮像された各撮像画像を表示画面103に表示させることができる。図9に示す例では、光照射条件選択バー201が10個段階の目盛りのうち最も左側の目盛りに合致している。そして、使用者が光照射条件選択バー201を各目盛りに順次に合致させることで、異なる光照射条件下で上方撮像部132aから撮像された10枚の撮像画像が順次に表示画面103に表示される。   The user operates the light irradiation condition selection bar 201 (specifically, for example, operates the cursor on the screen with the mouse of the input unit 104), and is captured from the same direction as the representative captured image with abnormality. Each captured image can be displayed on the display screen 103. In the example shown in FIG. 9, the light irradiation condition selection bar 201 matches the leftmost scale among the 10 scales. Then, when the user sequentially matches the light irradiation condition selection bar 201 to each scale, ten captured images captured from the upper imaging unit 132a under different light irradiation conditions are sequentially displayed on the display screen 103. The

履歴から選択された検査結果が表示画面103に表示される場合、その表示期間に制限はなく、使用者は十分な時間をかけて各代表撮像画像を視認できる。また、履歴から選択された検査結果が表示画面103に表示される場合、リアルタイムの検査結果が表示される場合と異なり、使用者は8つの側方撮像部132cが撮像した撮像画像についても視認できる。これにより、使用者は十分な時間をかけて詳細に各代表撮像画像を視認できる。   When the inspection result selected from the history is displayed on the display screen 103, the display period is not limited, and the user can view each representative captured image over a sufficient time. Further, when the inspection result selected from the history is displayed on the display screen 103, unlike the case where the real-time inspection result is displayed, the user can also visually recognize the captured images captured by the eight side imaging units 132c. . Thereby, the user can visually recognize each representative captured image in detail over a sufficient time.

<2 変形例>
以上、本発明の実施の形態について説明したが、この発明はその趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能である。
<2 Modification>
While the embodiments of the present invention have been described above, the present invention can be modified in various ways other than those described above without departing from the spirit of the present invention.

対象物9を複数の方向から撮像して得られた複数の撮像画像を基に対象物9における形態の異常を検査する検査部として、上記実施形態では、可視領域で撮像して対象物9における外観の異常を検査する外観検査装置1が用いられた。この他にも、検査部として、X線領域で撮像して対象物9における内部構造の異常(例えば、部材の内部におけるクラック)を検査する内部検査装置が用いられてもよい。   In the above embodiment, in the inspection unit for inspecting abnormality of the form of the object 9 based on a plurality of captured images obtained by imaging the object 9 from a plurality of directions, the object 9 is imaged in the visible region. An appearance inspection apparatus 1 for inspecting appearance abnormality was used. In addition, as the inspection unit, an internal inspection device that inspects an abnormality in the internal structure of the object 9 (for example, a crack inside the member) by imaging in the X-ray region may be used.

上記実施形態では、検査部として機能する外観検査装置1と表示部として機能するPC101(表示装置)とが別体である検査システム100について説明したが、検査部と表示部とが一体である検査システムでも構わない。このとき、外観検査装置1の各部を制御する制御部50とPC101がそれぞれ独立の演算処理部、メモリおよび記憶部を有していてもよいし、一体としてこれらを有していてもよい。   In the above embodiment, the inspection system 100 in which the appearance inspection apparatus 1 that functions as an inspection unit and the PC 101 (display device) that functions as a display unit are separate has been described. However, the inspection unit and the display unit are integrated. It does not matter even if it is a system. At this time, the control part 50 and PC101 which control each part of the appearance inspection apparatus 1 may each have an independent arithmetic processing part, a memory, and a memory | storage part, and may have these as integral.

また、上記実施形態では、外観検査装置1の各部を動作制御するための手段として制御部50を備えるが、本発明の実施に関してはこれに限られない。上述した第1搬入機構11、第1保持機構12、第1搬出機構14、姿勢変更機構20、第2搬入機構31、第2保持機構32、第2搬出機構34および分別排出機構40とそれぞれ電気的に接続され、対象物9の搬送動作を制御するための搬送制御部と、第1検査部13および第2検査部33とそれぞれ電気的に接続され、対象物9への光照射および撮像といった検査動作を制御するための検査制御部と、をそれぞれ別体として備え、搬送制御部と検査制御部が互いに同期しながら外観検査装置1の各部を動作制御するように構成してもよい。   Moreover, in the said embodiment, although the control part 50 is provided as a means for carrying out operation control of each part of the external appearance inspection apparatus 1, regarding implementation of this invention, it is not restricted to this. The first carry-in mechanism 11, the first holding mechanism 12, the first carry-out mechanism 14, the attitude changing mechanism 20, the second carry-in mechanism 31, the second holding mechanism 32, the second carry-out mechanism 34, and the separation discharge mechanism 40 described above are electrically connected to each other. Connected to each other and electrically connected to the transport control unit for controlling the transport operation of the object 9, the first inspection unit 13 and the second inspection unit 33, respectively. An inspection control unit for controlling the inspection operation may be provided as separate bodies, and the conveyance control unit and the inspection control unit may be configured to control the operation of each unit of the appearance inspection apparatus 1 while being synchronized with each other.

上記実施形態では、複数の光照射部131が異なる方向から第1検査位置P2に向けて光を照射し、複数の光照射部331が異なる方向から第2検査位置P5に向けて光を照射する態様について説明したが、この光の色は限定されるものではない。これらの光は白色光であってもよいし、青味の強い光や赤味の強い光であってもよい。使用者が表示画面103で対象物9を視認しやすければよく、対象物9の反射率スペクトルに応じて種々の光の色を採用しうる。   In the above embodiment, the plurality of light irradiation units 131 irradiate light from different directions toward the first inspection position P2, and the plurality of light irradiation units 331 irradiate light from different directions toward the second inspection position P5. Although the embodiment has been described, the color of the light is not limited. These lights may be white light, light with strong blueness, or light with strong redness. It is only necessary for the user to visually recognize the object 9 on the display screen 103, and various light colors can be adopted according to the reflectance spectrum of the object 9.

上記実施形態では、各グループGF1〜GF9における各撮像画像群の中から1枚ずつ候補撮像画像を抽出するための特定の光照射条件が、各撮像画像群の中で平均輝度が最も高いという条件であった。この他にも、特定の光照射条件が、各撮像画像群の中で輝度の最頻値(或いは、中央値)が最も高いという条件であってもよい。また、特定の光照射条件が他の条件であってもよい。   In the above embodiment, the specific light irradiation condition for extracting one candidate captured image from each captured image group in each group GF1 to GF9 is a condition that the average brightness is the highest among the captured image groups. Met. In addition to this, the specific light irradiation condition may be a condition that the mode value (or median value) of the luminance is the highest in each captured image group. The specific light irradiation condition may be another condition.

上記実施形態では、異常有り代表撮像画像を異常無し代表撮像画像とは異なる態様で表示画面103に表示する表示態様の具体例として、異常有り代表撮像画像のみが点線の枠501で囲まれて表示される例を説明した。この他にも、種々の表示態様が採用されうる。例えば、異常有り代表撮像画像が、異常無し代表撮像画像とは異なる明るさで表示されてもよい。また、異常有り代表撮像画像が、異常無し代表撮像画像とは異なる色で表示されてもよい。また、異常有り代表撮像画像が、異常無し代表撮像画像とは異なる大きさで表示されてもよい。また、異常有り代表撮像画像のみが、点灯表示されてもよい。   In the above embodiment, as a specific example of the display mode in which the representative captured image with abnormality is displayed on the display screen 103 in a mode different from the representative captured image without abnormality, only the representative captured image with abnormality is displayed surrounded by the dotted frame 501. An example to be described. In addition to this, various display modes can be adopted. For example, the representative captured image with abnormality may be displayed with a brightness different from that of the representative captured image without abnormality. In addition, the representative captured image with abnormality may be displayed in a different color from the representative captured image without abnormality. Further, the representative captured image with abnormality may be displayed in a different size from the representative captured image without abnormality. Also, only the representative image with abnormality may be lit up.

異常が検出された部位の表示態様についても、異常有り代表撮像画像の表示態様と同様に、種々の表示態様が採用されうる。また、検出された異常の種類(例えば、部材の欠陥や、不要物の付着など)に応じて、異なる表示態様が採用されてもよい。   As for the display mode of the site where the abnormality is detected, various display modes can be adopted as in the display mode of the representative captured image with abnormality. Further, different display modes may be employed depending on the type of abnormality detected (for example, a defect of a member or attachment of an unnecessary object).

上記実施形態では、図9に示す表示画面103で部位特定要素が表示されない態様について説明したが、これに限られるものではない。図9に示す表示画面103で部位特定要素)が表示される態様でもよいし、部位特定要素の表示あるいは非表示を使用者が切り替え可能な態様でもよい。   In the above embodiment, the aspect in which the part specifying element is not displayed on the display screen 103 illustrated in FIG. 9 has been described, but the present invention is not limited to this. 9 may be displayed on the display screen 103 shown in FIG. 9, or the user may be able to switch between display and non-display of the part specifying element.

上記実施形態では、対象物9の例として鍛造により形成された金属部品を挙げたが、検査の対象物は、鋳造により形成される金属部品であってもよいし、金属以外の材料(例えば樹脂)からなるものであってもよい。また、上記実施形態では、対象物9の第1面と第2面とが同一形状である場合について説明したが、対象物の第1面と第2面とは異なる形状であってもよい。   In the above embodiment, the metal part formed by forging is given as an example of the object 9. However, the object to be inspected may be a metal part formed by casting, or a material other than metal (for example, resin). ). Moreover, although the said embodiment demonstrated the case where the 1st surface and 2nd surface of the target object 9 were the same shapes, the shape from which the 1st surface and 2nd surface of a target object differ may be sufficient.

上記実施形態では、複数の撮像部132(或いは、複数の撮像部332)が合計106枚の撮像画像を得る態様について説明したが、撮像画像の枚数は適宜に変更可能である。   In the above embodiment, a mode has been described in which a plurality of imaging units 132 (or a plurality of imaging units 332) obtain a total of 106 captured images, but the number of captured images can be changed as appropriate.

以上、実施形態およびその変形例に係る検査システム、表示装置、プログラム、および、検査方法について説明したが、これらは本発明に好ましい実施形態の例であって、本発明の実施の範囲を限定するものではない。本発明は、その発明の範囲内において、各実施形態の自由な組み合わせ、あるいは各実施形態の任意の構成要素の変形、もしくは各実施形態において任意の構成要素の増減が可能である。   The inspection system, display device, program, and inspection method according to the embodiment and the modifications thereof have been described above, but these are examples of the preferred embodiment of the present invention and limit the scope of the present invention. It is not a thing. Within the scope of the invention, the present invention can be freely combined with each embodiment, modified with any component in each embodiment, or increased or decreased with any component in each embodiment.

1 外観検査装置
9 検査対象物
10 第1検査ユニット
20 姿勢変更機構
30 第2検査ユニット
40 分別排出機構
50 制御部
60 投入口
100 検査システム
101 PC
102 本体部
103 表示画面
104 入力部
131 光照射部
131a 上方光照射部
131b 斜方光照射部
131c 側方光照射部
132 撮像部
132a 上方撮像部
132b 斜方撮像部
132c 側方撮像部
331 光照射部
331a 上方光照射部
331b 斜方光照射部
331c 側方光照射部
332 撮像部
332a 上方撮像部
332b 斜方撮像部
332c 側方撮像部
GF1〜GF17、GR1〜GR17 グループ
P1 搬入開始位置
P2 第1検査位置
P3 第1受け渡し位置
P4 第2受け渡し位置
P5 第2検査位置
P6 第3受け渡し位置
DESCRIPTION OF SYMBOLS 1 Appearance inspection apparatus 9 Inspection object 10 1st inspection unit 20 Posture change mechanism 30 2nd inspection unit 40 Sorting discharge mechanism 50 Control part 60 Input port 100 Inspection system 101 PC
DESCRIPTION OF SYMBOLS 102 Main body part 103 Display screen 104 Input part 131 Light irradiation part 131a Upper light irradiation part 131b Oblique light irradiation part 131c Lateral light irradiation part 132 Imaging part 132a Upper imaging part 132b Oblique imaging part 132c Side imaging part 331 Light irradiation Unit 331a Upper light irradiation unit 331b Oblique light irradiation unit 331c Side light irradiation unit 332 Imaging unit 332a Upper imaging unit 332b Oblique imaging unit 332c Side imaging unit GF1 to GF17, GR1 to GR17 group P1 Loading start position P2 First Inspection position P3 First delivery position P4 Second delivery position P5 Second inspection position P6 Third delivery position

Claims (11)

対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する検査部と、
前記検査部と通信可能であり、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する表示部と、
を備える、検査システム。
An inspection unit that inspects abnormalities in the form of the object based on a plurality of captured images obtained by imaging the object from a plurality of directions;
A display unit that is communicable with the inspection unit, and displays the representative captured images in each of the plurality of directions side by side on a display screen;
An inspection system comprising:
請求項1に記載の検査システムであって、
前記複数の方向は、基準軸に沿う第1方向と、前記基準軸回りに回転対称な複数の軸に沿う複数の第2方向と、を含み、
前記表示部は、前記表示画面において、前記第1方向から撮像した前記代表撮像画像の周囲に、前記複数の第2方向から撮像した複数の前記代表撮像画像を各軸の位置関係に対応して配置する、検査システム。
The inspection system according to claim 1,
The plurality of directions includes a first direction along a reference axis, and a plurality of second directions along a plurality of axes rotationally symmetric about the reference axis,
The display unit includes a plurality of the representative captured images captured from the plurality of second directions around the representative captured image captured from the first direction on the display screen in accordance with a positional relationship of each axis. Inspection system to be placed.
請求項1または請求項2に記載の検査システムであって、
前記表示部は、前記複数の代表撮像画像のうち異常が検出された方向から撮像された異常有り代表撮像画像を、前記複数の代表撮像画像のうち異常が検出されなかった方向から撮像された異常無し代表撮像画像とは異なる態様で前記表示画面に表示する、検査システム。
The inspection system according to claim 1 or 2,
The display unit includes an abnormality-captured representative captured image captured from a direction in which an abnormality is detected among the plurality of representative captured images, and an abnormality captured from a direction in which no abnormality is detected among the plurality of representative captured images. An inspection system for displaying on the display screen in a manner different from that of a representative representative captured image.
請求項3に記載の検査システムであって、
前記表示部は、前記異常有り代表撮像画像中において、異常が検出された部位を異常が検出されなかった部位とは異なる態様で前記表示画面に表示する、検査システム。
The inspection system according to claim 3,
The said display part is a test | inspection system which displays the site | part in which abnormality was detected on the said display screen in the aspect different from the site | part in which abnormality was not detected in the said representative imaging image with abnormality.
請求項3または請求項4に記載の検査システムであって、
前記表示部は、使用者によって前記異常有り代表撮像画像が選択された際に、前記異常有り代表撮像画像と同一の方向から撮像された各撮像画像を前記表示画面に表示する、検査システム。
The inspection system according to claim 3 or 4, wherein
The said display part is a test | inspection system which displays each captured image imaged from the same direction as the said representative captured image with an abnormality on the said display screen, when the said representative captured image with an abnormality is selected by the user.
請求項1から請求項5のいずれか1つに記載の検査システムであって、
前記検査部は、前記複数の撮像画像に加えてさらに、前記対象物を前記複数の方向とは異なる少なくとも1つの方向から撮像して得られた少なくとも1つの撮像画像を用いて、前記対象物における異常を検査する、検査システム。
An inspection system according to any one of claims 1 to 5,
In addition to the plurality of captured images, the inspection unit further uses at least one captured image obtained by capturing the object from at least one direction different from the plurality of directions. Inspection system that checks for abnormalities.
請求項1から請求項6のいずれか1つに記載の検査システムであって、
検査の結果が前記検査部からリアルタイムで前記表示部に通信され、前記表示部がリアルタイムで前記複数の代表撮像画像を前記表示画面に並べて表示する、検査システム。
The inspection system according to any one of claims 1 to 6,
An inspection system in which an inspection result is communicated from the inspection unit to the display unit in real time, and the display unit displays the plurality of representative captured images side by side on the display screen in real time.
請求項1から請求項6のいずれか1つに記載の検査システムであって、
前記検査部での検査の結果を記憶する記憶部、
をさらに備え、
前記検査部での複数の検査の結果が前記記憶部に蓄積された後、前記表示部は、使用者によって前記複数の検査の結果から1つが選択された際に、選択された1つの検査の結果における前記複数の代表撮像画像を前記表示画面に並べて表示する、検査システム。
The inspection system according to any one of claims 1 to 6,
A storage unit for storing a result of the inspection in the inspection unit;
Further comprising
After the results of the plurality of examinations in the examination unit are accumulated in the storage unit, the display unit displays the selected one examination when one is selected from the results of the plurality of examinations by the user. An inspection system that displays the plurality of representative captured images in a result side by side on the display screen.
対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する検査部と通信可能であり、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する、表示装置。   It is possible to communicate with an inspection unit that inspects abnormalities in the form of the object based on a plurality of captured images obtained by imaging the object from a plurality of directions, and each representative captured image in each of the plurality of directions is A display device that displays side by side on the display screen. コンピュータにインストールされてCPUによって実行されることにより、前記コンピュータを請求項9に記載の表示装置として機能させる、プログラム。   The program which makes the said computer function as a display apparatus of Claim 9 by being installed in a computer and being performed by CPU. 検査部と、表示部と、を通信可能に接続して構成される検査システムにおいて実行される検査方法であって、
前記検査部が、対象物を複数の方向から撮像して得られた複数の撮像画像を基に前記対象物における形態の異常を検査する工程と、
その後に、前記表示部が、前記複数の方向のそれぞれにおける各代表撮像画像を表示画面に並べて表示する工程と、
を備える、検査方法。
An inspection method that is executed in an inspection system configured by connecting an inspection unit and a display unit in a communicable manner,
The step of inspecting the form for abnormality in the object based on a plurality of captured images obtained by imaging the object from a plurality of directions;
Thereafter, the display unit displays the representative captured images in each of the plurality of directions side by side on a display screen;
An inspection method comprising:
JP2016003395A 2016-01-12 2016-01-12 Inspection system, program, and inspection method Active JP6694715B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016003395A JP6694715B2 (en) 2016-01-12 2016-01-12 Inspection system, program, and inspection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016003395A JP6694715B2 (en) 2016-01-12 2016-01-12 Inspection system, program, and inspection method

Publications (2)

Publication Number Publication Date
JP2017125695A true JP2017125695A (en) 2017-07-20
JP6694715B2 JP6694715B2 (en) 2020-05-20

Family

ID=59363911

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016003395A Active JP6694715B2 (en) 2016-01-12 2016-01-12 Inspection system, program, and inspection method

Country Status (1)

Country Link
JP (1) JP6694715B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019032268A (en) * 2017-08-09 2019-02-28 日立金属株式会社 Surface defect determination method and surface defect inspection device
WO2019044870A1 (en) * 2017-09-04 2019-03-07 日本電産コパル株式会社 Visual inspection device and product manufacturing system
KR20200115324A (en) * 2019-03-29 2020-10-07 쥬키 가부시키가이샤 Inspection apparatus and inspection method

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63302350A (en) * 1987-06-02 1988-12-09 Fujitsu Ltd Inspecting apparatus
JPH11304721A (en) * 1998-04-23 1999-11-05 Sony Corp Visual inspection device
JP2003243465A (en) * 2002-02-19 2003-08-29 Honda Electron Co Ltd Inspection equipment for wafer
JPWO2002023480A1 (en) * 2000-09-18 2004-01-22 オリンパス株式会社 Image data file management system and method
US20070292629A1 (en) * 2003-12-23 2007-12-20 Quiss Gmbh Method and Apparatus for Recognizing a Structure to Be Applied Onto a Substrate with Multiple Cameras
JP2008032645A (en) * 2006-07-31 2008-02-14 Sunx Ltd Magnifying observation device
JP2015055546A (en) * 2013-09-11 2015-03-23 株式会社東芝 Sensor information management system and method of managing sensor information

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63302350A (en) * 1987-06-02 1988-12-09 Fujitsu Ltd Inspecting apparatus
JPH11304721A (en) * 1998-04-23 1999-11-05 Sony Corp Visual inspection device
JPWO2002023480A1 (en) * 2000-09-18 2004-01-22 オリンパス株式会社 Image data file management system and method
JP2003243465A (en) * 2002-02-19 2003-08-29 Honda Electron Co Ltd Inspection equipment for wafer
US20070292629A1 (en) * 2003-12-23 2007-12-20 Quiss Gmbh Method and Apparatus for Recognizing a Structure to Be Applied Onto a Substrate with Multiple Cameras
JP2008032645A (en) * 2006-07-31 2008-02-14 Sunx Ltd Magnifying observation device
JP2015055546A (en) * 2013-09-11 2015-03-23 株式会社東芝 Sensor information management system and method of managing sensor information

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019032268A (en) * 2017-08-09 2019-02-28 日立金属株式会社 Surface defect determination method and surface defect inspection device
WO2019044870A1 (en) * 2017-09-04 2019-03-07 日本電産コパル株式会社 Visual inspection device and product manufacturing system
KR20200115324A (en) * 2019-03-29 2020-10-07 쥬키 가부시키가이샤 Inspection apparatus and inspection method
JP2020167286A (en) * 2019-03-29 2020-10-08 Juki株式会社 Inspection apparatus and inspection method
CN111757667A (en) * 2019-03-29 2020-10-09 Juki株式会社 Inspection apparatus and inspection method
JP7281942B2 (en) 2019-03-29 2023-05-26 Juki株式会社 Inspection device and inspection method
CN111757667B (en) * 2019-03-29 2023-08-25 Juki株式会社 Inspection device and inspection method
KR102716384B1 (en) * 2019-03-29 2024-10-10 쥬키 가부시키가이샤 Inspection apparatus and inspection method

Also Published As

Publication number Publication date
JP6694715B2 (en) 2020-05-20

Similar Documents

Publication Publication Date Title
US5550583A (en) Inspection apparatus and method
IL259143B2 (en) System and method for visual production line inspection of different production items
JP2002107307A (en) Soft bag general inspecting system
EP2722666A1 (en) Method and device for inspecting glass bottle
US11682113B2 (en) Multi-camera visual inspection appliance and method of use
US20190178811A1 (en) Inspection apparatus and inspection method
CN108482956A (en) Conveying quality testing looks into system and conveying device
JP6694715B2 (en) Inspection system, program, and inspection method
KR20100067659A (en) Monitoring apparatus, monitoring method, inspecting apparatus and inspecting method
TWI702673B (en) Semiconductor manufacturing device and semiconductor device manufacturing method
TWI536011B (en) Electronic parts inspection device
JP2002277412A (en) Inspection screen displaying method and substrate inspection system
US20100295934A1 (en) Monitoring apparatus and monitoring method
JP2008186879A (en) Substrate inspection method
JP6495118B2 (en) Appearance inspection apparatus and appearance inspection method
JP7215218B2 (en) SPECTROSCOPY INSPECTION METHOD, IMAGE PROCESSING DEVICE, AND ROBOT SYSTEM
JP2019051029A (en) Method of testing game nails
JP2016070725A (en) Inspection system and method for circuit board, etc., and program
US20180176549A1 (en) Multi-view-angle image capturing device and multi-view-angle image inspection apparatus using the same
JP2015148507A (en) Quality control system
JP2003216930A (en) Method and apparatus for inspecting discoloration
CN105486698A (en) AOI automatic detection device and detection method
JP2017156659A (en) Defect inspection device and defect inspection method for color filter
JPH06241746A (en) Visual inspection device
JP2004198175A (en) Visual inspection method for article

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20160128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200420

R150 Certificate of patent or registration of utility model

Ref document number: 6694715

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250