JP4668059B2 - Visual inspection support device, visual inspection support program, and recording medium recording the program - Google Patents
Visual inspection support device, visual inspection support program, and recording medium recording the program Download PDFInfo
- Publication number
- JP4668059B2 JP4668059B2 JP2005373630A JP2005373630A JP4668059B2 JP 4668059 B2 JP4668059 B2 JP 4668059B2 JP 2005373630 A JP2005373630 A JP 2005373630A JP 2005373630 A JP2005373630 A JP 2005373630A JP 4668059 B2 JP4668059 B2 JP 4668059B2
- Authority
- JP
- Japan
- Prior art keywords
- inspection
- display
- block
- target image
- screen
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Description
本発明は、画像化した検査対象に対して人がする目視検査を支援するための目視検査支援装置に関するものである。 The present invention relates to a visual inspection support device for supporting a visual inspection performed by a person on an imaged inspection target.
生産現場などにおいては、製品の検査として、外観上正しく組み立てられているかといったことが検査される。このような検査は、正常な製品(マスタ)と検査対象の製品とを検査担当者の目視で比較することに行われることが多い。また、画像処理装置を用いて、検査対象の画像とマスタの画像とを比較して検査することも行われている(特許文献1)。
検査担当者による目視検査では、検査精度が、担当者の能力、経験、視力、手際などによるところが大きく、ばらつきが生じ易い。特に問題が生じ易い箇所の認識は、経験や熟練度に依存していた。このため検査が不均一になりがちであった。 In the visual inspection by the person in charge of inspection, the inspection accuracy largely depends on the ability, experience, visual acuity, skill, etc. of the person in charge, and is likely to vary. In particular, recognition of places where problems are likely to occur depends on experience and skill level. For this reason, the inspection tends to be uneven.
一方、画像処理による検査の自動化は、検査の質について均一化を図ることが容易であるが、装置が大規模となるため、設備に要するコストが高くなる。また、検査用のプログラミング(設定、準備、立ち上げなど)に時間がかかる。また、単純な画像の比較では検査が、一部にとどまることが多く、かつ発見できるエラーも限られている。画像の比較では、例えば両画像が90%合致すれば良品であり、合致の率がそれ未満であれば不良品というように、合否を分けるしきい値を設定する必要があるが、しきい値の設定によってはエラーレートが大きくなったり、小さくなったりして安定しない。しかも、一時的に部品が変更された場合などでは、マスタ画像と検査対象画像との微妙な差異がエラーと判定されてしまう。このように、画像処理による検査は、正確さや速度の点では、目視検査より優れているが、融通性に欠け、扱いが難しいという欠点がある。 On the other hand, the automation of the inspection by image processing can easily make the inspection quality uniform, but the cost of the equipment increases because the apparatus becomes large-scale. Also, it takes time to program for inspection (setting, preparation, start-up, etc.). In addition, in the comparison of simple images, the inspection is often limited to a part, and the errors that can be found are limited. In the comparison of images, it is necessary to set a threshold value for determining pass / fail, such as a non-defective product if both images match 90%, and a defective product if the match rate is less than that. Depending on the setting, the error rate may increase or decrease, and it may not be stable. In addition, when a part is temporarily changed, a slight difference between the master image and the inspection target image is determined as an error. As described above, the inspection by image processing is superior to the visual inspection in terms of accuracy and speed, but has a drawback that it is not flexible and is difficult to handle.
本発明は、上記の問題点に鑑みてなされたものであり、目視検査の質および効率を向上させることができる目視検査支援装置を提供することを目的としている。 The present invention has been made in view of the above-described problems, and an object of the present invention is to provide a visual inspection support device that can improve the quality and efficiency of visual inspection.
本発明に係るプログラマブル表示器は、検査対象の画像に予め定められた数のブロックを設定するブロック設定手段と、前記検査対象画像を表示する表示部と、表示された検査対象画像において検査者によって指示された位置を検出する位置検出部と、検出された前記位置に基づいて前記検査対象画像において指示された位置を含む前記ブロックを特定するブロック特定手段と、特定されたブロック毎の不良総数の前記検査対象の不良総数に対する比率が所定値を越えたか否かを判定する判定手段と、前記検査対象画像において前記比率が所定値を超えたブロックを強調して表示させる強調表示制御手段とを備えていることを特徴としている。 A programmable display device according to the present invention, a block setting means for setting a predetermined number of blocks in the inspection target image, and a display unit for displaying said object image, by the inspector in the displayed target image A position detection unit for detecting the instructed position, block specifying means for specifying the block including the indicated position in the inspection target image based on the detected position, and the total number of defects for each specified block Determination means for determining whether a ratio of the number of defects to be inspected exceeds a predetermined value, and highlight display control means for highlighting and displaying blocks whose ratio exceeds the predetermined value in the inspection target image. It is characterized by having.
上記の構成では、検査者が表示された検査対象画像において不良が発生している箇所を指示すると、その位置が位置検出部によって検出される。検査対象画像には、ブロック設定手段によって、予め複数のブロックが設定されているので、検査者が指示した位置は、いずれかのブロックに含まれる。そのブロックは、ブロック特定手段によって、位置検出手段による検出位置で特定される。すると、判定手段によって、特定されたブロック毎の総数の前記検査対象の総数に対する比率が所定値を越えたか否かが判定される。これにより、当該比率が所定数を超えたブロックが不良の発生率の高いブロックとして特定することができる。そして、強調表示制御手段によって、検査対象画像において、その特定されたブロックが着色などで強調表示される。これにより、検査者は、検査対象画像において、不良の発生率の高い箇所を容易に把握することができる。 In the above configuration, when the inspector indicates a location where a defect has occurred in the displayed inspection target image, the position is detected by the position detection unit. Since a plurality of blocks are set in advance in the inspection target image by the block setting means, the position designated by the inspector is included in any of the blocks. The block is specified by the block specifying means at the detection position by the position detecting means. Then, the determination unit determines whether the ratio of the total number of each specified block to the total number of the inspection objects exceeds a predetermined value. Thereby, a block in which the ratio exceeds a predetermined number can be specified as a block having a high defect occurrence rate. Then, the specified block is highlighted by coloring or the like in the inspection target image by the highlighting control means. Thereby, the inspector can easily grasp a portion having a high defect occurrence rate in the inspection target image.
前記目視検査支援装置において、前記検査対象画像の表示状態を変更する変更手段を備えていることが好ましい。これにより、検査者の能力や熟練度に応じて表示状態を変更することで、検査者の間のこれらの相違に基づく検査の質を均一に近づけることができる。 The visual inspection support device preferably includes a changing unit that changes a display state of the inspection target image. Thus, by changing the display state according to the ability and skill level of the inspector, the quality of the inspection based on these differences among the inspectors can be made closer to uniform.
前記目視検査支援装置において、前記表示部および前記位置検出部を含む表示装置を備えていることが好ましい。これにより、プログラマブル表示器のようなタッチパネル付きの汎用の表示器を目視検査支援装置に用いることができ、目視検査支援装置の構築を容易に行うことができる。また、上記の表示装置を端末としてネットワークに接続すれば、複数の表示装置からの検査結果をホストのコンピュータに収集することができる。 The visual inspection support device preferably includes a display device including the display unit and the position detection unit. Thereby, the general purpose display with a touch panel like a programmable display can be used for a visual inspection assistance apparatus, and construction of a visual inspection assistance apparatus can be performed easily. Further, if the display device is connected to a network as a terminal, inspection results from a plurality of display devices can be collected in a host computer.
本発明の目視検査支援プログラムは、前記目視検査支援装置を実現するコンピュータを前記各手段として機能させる。また、この目視検査支援プログラムは、コンピュータ読み取り可能な記録媒体に記録されて提供される。これにより、前記のように、不良率の高い箇所を容易に把握することができる。 The visual inspection support program of the present invention causes a computer that implements the visual inspection support device to function as each of the means. The visual inspection support program is provided by being recorded on a computer-readable recording medium. Thereby, as above-mentioned, the location with a high defect rate can be grasped | ascertained easily.
本発明に係る目視検査支援装置は、以上のように、表示された検査対象画像において指示されたブロックについて、当該ブロック毎の不良総数の検査対象の不良総数に対する比率が所定値を越えたか否かを判定し、所定値を超えたブロックを不良の発生率の高いブロックとして特定して、検査対象画像において前記比率を超えたブロックを強調して表示するので、検査者が不良箇所を指示することにより、不良の発生率の高いブロックを容易に把握することができる。したがって、そのブロックを重点的に検査することによって、検査者の集中力が高まり、検査の質および効率を向上させることができる。 As described above, the visual inspection support apparatus according to the present invention determines whether the ratio of the total number of defects for each block to the total number of defects to be inspected exceeds a predetermined value for the block indicated in the displayed inspection target image. The block exceeding the predetermined value is identified as a block having a high defect occurrence rate, and the block exceeding the ratio in the inspection target image is highlighted and displayed, so that the inspector indicates the defective portion. Thus, it is possible to easily grasp a block having a high defect occurrence rate. Therefore, by focusing on the block, it is possible to increase the concentration of the inspector and improve the quality and efficiency of the inspection.
本発明の実施形態について図1ないし図9に基づいて説明すると、以下の通りである。 An embodiment of the present invention will be described with reference to FIGS. 1 to 9 as follows.
図1に示すように、本実施形態に係る目視検査支援装置1は、複数のプログラマブル表示器2と、画像データベースサーバ3と、ネットワーク4と、バーコードリーダ5と、カメラ6とを備えている。
As shown in FIG. 1, the visual
各プログラマブル表示器2は、ネットワーク4を介して画像データベースサーバ3と接続されている。ネットワーク4は、共通の通信プロトコル(共通通信プロトコル)で通信を行うことが可能なイーサネット(登録商標)などからなるローカルエリアネットワーク(LAN)を含むのような通信ネットワークである。本実施の形態では、A局、B局、C局およびD局の4台のプログラマブル表示器2がネットワーク4に接続されている構成について説明する。
Each
バーコードリーダ5は、後述する基板7に貼り付けられたバーコードを読み取るために設けられている。カメラ6は、基板7の部品実装面を撮影するために固定位置に配置されている。
The
検査対象となる基板7には、基板7を特定するために生産管理上で必要なシリアル番号が付与されており、このシリアル番号を表すバーコードを記したバーコードシールが貼り付けられている。基板7は、半田リフローによる半田処理の工程を終了すると、部品実装面がカメラ6によって撮影される。その画像は、後述するデータベース管理部31によって基板のシリアル番号と対応付けて撮影画像データIPとして記憶装置33に保存される。また、撮影が終了した基板7は、ストックされ、まとめて検査場にて検査に供される。
The board 7 to be inspected is given a serial number necessary for production management in order to specify the board 7, and a bar code seal indicating a bar code representing the serial number is attached. When the board 7 finishes the soldering process by solder reflow, the component mounting surface is photographed by the
表示装置としてのプログラマブル表示器2は、CPUなどの演算処理装置を備えており、ユーザが作成した入力操作および表示用の画面データを表示することによりプログラマブル表示器特有の操作機能および表示機能を実現する専用コンピュータである。HMI機器として好適に使用されるプログラマブル表示器2は、画面データに基づいて、後述するタッチパネル25への入力操作を受け付けて、その入力操作に応じた動作を行う。また、プログラマブル表示器2は外部から取り込んだ画像を表示する機能を有している。
The
プログラマブル表示器2は、上記の機能を実現するために、HMI制御部21と、データメモリ22と、作業メモリ23と、ディスプレイ24と、タッチパネル25と、インターフェース部(図中、I/F)26,27とを備えている。以下、プログラマブル表示器2の主要各部について詳細に説明する。
In order to realize the above functions, the
表示部としてのディスプレイ24は、プログラマブル表示器2を薄型に構成するために、液晶ディスプレイや、ELディスプレイや、プラズマディスプレイのような平板型ディスプレイが好適に用いられる。位置検出部としてのタッチパネル25は、ディスプレイ24の表示画面上でタッチ入力を行うために設けられている入力装置である。
As the
インターフェース部26は、プログラマブル表示器2が画像データベースサーバ3との間の通信を行うための通信制御部であり、ネットワーク4に接続されている。このインターフェース部26は、画像データベースサーバ3およびプログラマブル表示器2のIPアドレスに基づくネットワーク通信を行うことができるように構成される。
The
一方、インターフェース部27は、バーコードリーダ5が接続されており、バーコードリーダ5との間のシリアル通信を行うための通信制御部である。
On the other hand, the
データメモリ22は、検査画面データSTなどを格納するためのメモリであり、FEPROM(Flash Erasable and Programmable ROM)が用いられる。FEPROMは、書き替え可能な読み出し専用のフラッシュメモリであるので、一般のパーソナルコンピュータにおけるハードディスクドライブの役割を果たす。フラッシュメモリは、可動部を持たず、かつ衝撃に強いので、劣悪な周囲環境でも安定して動作する。
The
検査画面データSTは、基板7の画像(検査対象画像)を検査するための検査画面のデータである。検査画面は、検査の基準となる基板の画像であるマスタ画像とを比較するために両者を併せて表示したり、検査対象画像のみを各種の表示方法で表示したりできるように構成される。この検査画面データは、後述する画面データベースサーバ3の検査画面作成部32によって作成され、データメモリ22にダウンロードされる。
The inspection screen data ST is inspection screen data for inspecting an image (inspection target image) of the substrate 7. The inspection screen is configured to display both of them together for comparison with a master image, which is an image of a substrate serving as a reference for inspection, or to display only the inspection target image by various display methods. The inspection screen data is created by an inspection
作業メモリ23は、例えば、DRAMによって構成されており、表示制御などの演算処理時の作業用に用いられる他、外部に接続される機器、例えばバーコードリーダ5などとの間でやり取りされるデータの一時的な記憶に用いられる。特に、DRAMは、上記の検査画面にマスタ画像と検査対象画像とを表示させるために、マスタ画像のデータであるマスタ画像データIMと検査対象画像のデータである検査対象画像データITとを画像データベースサーバ3から読み込んでいる。上記のマスタ画像データIMおよび検査対象画像データITは、予め検査画面作成部32によってプログラマブル表示器2で表示できる形式に変換されている。
The
HMI制御部21は、HMI制御プログラムをプログラマブル表示器2が備えるCPUなどの演算処理手段に実行させることにより実現される機能ブロックである。上記のHMI制御プログラムは、プログラマブル表示器2と分離可能に構成される記録媒体に記録可能であり、その記録媒体からプログラマブル表示器2にインストールされる。
The
上記の記録媒体は、磁気テープやカセットテープなどのテープ系、フレキシブルディスクやハードディスクなどの磁気ディスク系、CD−ROM、MO、MD、DVDなどの光ディスク系、ICカード(メモリカードを含む)、光カードなどのカード系が好適である。その他、上記のプログラムメディアは、マスクROM、EPROM、EEPROM、フラッシュROMなどによる半導体メモリを含めた固定的にプログラムを担持する媒体であってもよい。 The above recording media include tape systems such as magnetic tapes and cassette tapes, magnetic disk systems such as flexible disks and hard disks, optical disk systems such as CD-ROM, MO, MD, and DVD, IC cards (including memory cards), optical A card system such as a card is preferred. In addition, the program medium may be a medium that carries a fixed program including a semiconductor memory such as a mask ROM, EPROM, EEPROM, flash ROM, or the like.
また、本目視検査支援装置1が、インターネットを含む通信ネットワークと接続可能に構成されていれば、当該通信ネットワークからプログラムをダウンロードするように流動的にプログラムを担持する媒体であってもよい。ただし、このように通信ネットワークからプログラムをダウンロードする場合には、そのダウンロード用プログラムは予めプログラマブル表示器2に格納されるか、あるいは別な記録媒体からインストールされるものであってもよい。
Further, if the visual
このHMI制御部21は、検査画面の表示制御、検査画面における入力操作の制御、画面データベースサーバ3やバーコードリーダ5などとの通信の制御といったHMI機能の中心的な制御動作を行う。
The
前述の検査画面データSTは、検査画面に関連して行われる各種の処理を規定する処理規定情報(タグ)を含んでいる。この処理規定情報は、検査画面上で実行されるべき事象毎に作成されており、基本的には、表示処理を実行すべき検査画面の画面番号と、この検査画面上で実行すべき動作内容を特定する事象名と、各実行事象毎に参照される1または複数のデータからなる参照情報とを一組として備えている。 The above-described inspection screen data ST includes process definition information (tag) that defines various processes performed in relation to the inspection screen. This processing specification information is created for each event to be executed on the inspection screen. Basically, the screen number of the inspection screen on which the display processing is to be executed and the operation content to be executed on this inspection screen. And a set of reference information consisting of one or more data referred to for each execution event.
本実施の形態に係るプログラマブル表示器2では、上記のタグとして、検査画面上の領域(表示範囲)と、その領域へのマスタ画像および検査対象画像の表示に対応する作業メモリ23におけるマスタ画像データIMおよび検査対象画像データITが格納される領域のアドレスとの対応を示す表示タグ、および検査画面上の領域(入力範囲)とその領域へのタッチ入力に対応するマスタ画像データIMおよび検査対象画像データITの操作を示す入力タグが規定されている。
In the
HMI制御部21は、マスタ画像および検査対象画像を検査画面上に表示する場合、上記の表示タグを繰り返し読み出して、マスタ画像データIMおよび検査対象画像データITを作業メモリ22から読み出して、表示タグで指定された領域へ表示タグで指定された方法でディスプレイ24に表示させる。また、HMI制御部21は、検査画面上でのタッチパネル25を介した入力(タッチ入力や数値入力)によって検査画面に表示されているマスタ画像および検査対象画像を操作する指示を与える場合、前述の入力タグを繰り返し読み出して、入力タグにおける参照情報に含まれる、検査画面の所定の領域における入力位置を特定するための範囲(入力が有効となる有効入力座標範囲)、およびタッチパネル25の操作を特定する事象名などで特定される内容の動作を実行する。
When displaying the master image and the inspection target image on the inspection screen, the
ここで、HMI制御部21は、検査表示制御部211を含んでいる。この検査表示制御部211は、上記の表示タグおよび入力タグを用いて、検査画面にマスタ画像と検査対象画像とを比較する画像を表示させたり、検査画面に検査対象を表示させたりするための制御を行う。HMI制御部21は、この制御を行うために、ブロック化部212、表示実行部213およびタッチブロック判定部214を有している。
Here, the
ブロック設定手段としてのブロック化部212は、図2に示すように、検査対象画像Tにおいて予め指定された複数のブロックを設定する。図2に示す例では、8個のブロックが設定されている状態を示す。ブロック化部212は、設定した各ブロックにブロック番号を付与する。ブロック番号は、左端から右側へ1から順に付与される。また、ブロック化部212は、検査対象画像データITにブロックを区切る破線の画像を付加する。また、ブロック化部212は、必要に応じて、マスタ画像についても同様にブロックを設定する(例えば、図7に示す検査画面51への表示のため)。
As shown in FIG. 2, the blocking
なお、図2に示す例では、各ブロックを同じ形状かつ同じ大きさとなるようにブロック化しているが、これには限定されず、ブロック数や形状などがユーザによって適宜設定される。例えば、図2の例のようにブロックが隣接するのではなく、検査対象となる基板7に応じて、ブロックを適当な位置に離れた状態で設けたり、基板7におけるICなどの部品の実装状態に応じてブロックの形状を適宜設定したりということも可能である。このようなブロック化のデータは、予め基板7の種類毎にユーザによって作成され、データメモリ22に格納されている。ブロック化部212は、基板7の種類に応じたブロック化のデータを、基板7のシリアル番号に含まれる基板7の種類を特定するコードなどに基づいてデータメモリ22から読み出して、ブロック設定を行う。
In the example shown in FIG. 2, each block is formed into blocks having the same shape and the same size. However, the present invention is not limited to this, and the number of blocks, the shape, and the like are appropriately set by the user. For example, the blocks are not adjacent to each other as in the example of FIG. 2, but the blocks are provided at appropriate positions according to the board 7 to be inspected, or the mounting state of components such as ICs on the board 7 It is also possible to appropriately set the shape of the block according to the above. Such block data is created in advance by the user for each type of substrate 7 and stored in the
表示実行部213は、検査画面の表示を実行するために次の各種の処理を行う。
The
表示実行部213は、検査の指示を入力するための検査初期画面をHMI制御部21に表示させ、この検査初期画面から検査者による検査開始の指示が入力されると、マスタ画像データIMを読み出すように画像データベースサーバ3のデータベース管理部31に要求し、データベース管理部31から送信されてきたマスタ画像データIMを作業メモリ23に格納しておく。また、表示実行部213は、バーコードリーダ5によって基板7のバーコードが示すシリアル番号が読み取られると、そのシリアル番号に対応する検査対象画像データITを読み出すようにデータベース管理部31に要求する。
The
表示実行部213は、データベース管理部31から送信されてきた検査対象画像データITをブロック化部212に与えて、ブロック設定を行うように指示した後、ブロック設定された検査対象画像データITを作業メモリ23に格納する。そして、表示実行部213は、検査画面データSTに設定されている表示タグで規定された表示方法によって、作業メモリ23から読み出したマスタ画像データIMおよび検査対象画像データIT、およびデータメモリ22から読み出した検査画面データSTに基づいて、検査画面を表示するようにHMI処理部21に指示する。さらに、表示実行部213(表示状態変更手段)は、検査者が検査画面上でタッチパネル25を介して行う各種のタッチ操作を検査画面に設定された上記の入力タグで規定された動作内容によって、検査画面におけるマスタ画像および検査対象画像の表示状態を後述するように変更する。
The
表示実行部213(強調表示手段)は、データベース管理部31によって求められたエラーの発生率が高いブロックのブロック番号に基づいて、当該ブロックの表示を強調するデータを検査対象画像データITに付加してHMI制御部21による検査対象画像の表示に供する。強調表示のデータとしては、目立つ色による着色などが挙げられる。
The display execution unit 213 (highlighting display means) adds data for emphasizing the display of the block to the inspection target image data IT based on the block number of the block having a high error occurrence rate obtained by the
タッチブロック判定部214(ブロック特定手段)は、検査画面上に表示された検査対象画像上で検査者が行ったタッチ操作した結果、タッチパネル25から出力されるタッチデータ(タッチ位置の座標など)に基づいて、検査者がタッチした位置が検査対象画像上のどのブロックに含まれるかをブロック番号で判定する。また、タッチブロック判定部214は、タッチされた検査対象画像について不良品(NG)と判定し、その検査対象画像の基板7のシリアル番号とともに、検査情報として、検査対象の良否(検査結果)およびエラーが生じたタッチブロック(エラーブロック)のブロック番号をデータベース管理部31に送信する。
The touch block determination unit 214 (block specifying unit) outputs touch data (such as coordinates of the touch position) output from the
ここで、表示実行部213によって表示される検査画面について説明する。
Here, the inspection screen displayed by the
まず、図3に示すように、第1の検査画面11は、マスタ画像Mを表示した上にアルファブレンディング処理によって透過する検査対象画像Tを重ねて表示する。このアルファブレンディング処理は、表示実行部213によって行われる。透過度合いは、検査者がスライドバー12をタッチしながら左右にスライドさせる操作によって調整される。この調整も、表示実行部213によって行われる。このような重ね表示によって、両画像M,Tの不一致部分の有無が分かりやすくなる。
First, as shown in FIG. 3, the
図4に示すように、第2の検査画面21は、マスタ画像Mと検査対象画像Tとを交互に切り替えて表示する。切り替え表示は、手動モードと自動モードとで行われ、モードの切り替えは検査画面21に設けられた切替スイッチ22がタッチ操作されることによって行われる。手動モードでは、両画像M,Tを手動、すなわち検査画面21に設けられた切替スイッチ23がタッチ操作されることによって切り替えられる。自動モードでは、両画像M,Tが一定の時間間隔で自動的に切り替えられる。自動切り替えの時間間隔は、検査者がスライドバー24をタッチしながら左右にスライドさせる操作によって調整される。これらの表示動作は、表示実行部213によって行われる。このように表示を交互に切り替えることによって、検査者の視覚に差異感覚が生じて、両画像M,Tの不一致部分の有無が分かりやすくなる。
As shown in FIG. 4, the
図5に示すように、第3の検査画面31は、複数の検査対象画像Tを一定の時間間隔をおいて順次切り替えて表示する。切り替えの時間間隔は、検査者がスライドバー32をタッチしながら左右にスライドさせる操作によって調整される。これらの表示動作は、表示実行部213によって行われる。このように表示を順次切り替えることによって、人の目の残像現象に基づいて、両画像M,Tの不一致部分の有無が分かりやすくなる。
As shown in FIG. 5, the
なお、検査画面31を表示させる場合、予め切り替え表示するすべての検査対象画像Tについて検査対象画像データITを画像データベースサーバ3から作業メモリ23に読み込んでおく必要がある。
When the
図6に示すように、第4の検査画面41は、カラーのマスタ画像Mおよび検査対象画像TのEXOR(排他的論理和)の画像と、モノクロ化したマスタ画像Mおよび検査対象画像TのEXORの画像とが重ねて合成された画像を表示する。EXORによれば、両者が一致すれば“0”であり、両者が不一致であれば“1”であるので、カラー画像のEXORで不一致である部分を赤などの目立つ色で着色加工することにより、カラー箇所を認識しやすくする。また、モノクロ画像のEXORを重ねることにより、エラー箇所がより一層目立つように表示される。カラー画像のEXORとモノクロ画像のEXORとの重ねる位置が微妙にずれると、エラーが増減する。このため、検査者が、検査画面41に設けられた右方向移動スイッチ42、左方向移動スイッチ43、上方向移動スイッチ44または下方向移動スイッチ45をタッチ操作することによって一方の位置が調整される。これらの表示動作(EXOR演算を含む)は、表示実行部213によって行われる。
As shown in FIG. 6, the
図7に示すように、検査画面51は、マスタ画像Tおよび検査対象画像Tを拡大して両方を並べた状態で表示する。拡大の範囲は、ブロック化部212によって設定されたブロックのうち選択された1の領域である。拡大表示するブロックは、検査者が検査画面51に設けられた送りスイッチ52、戻りスイッチ53または初期化スイッチ54を操作することによって切り替えられる。送りスイッチ52が操作されることによって、マスタ画像Mおよび検査対象画像Tのブロックが次のブロック番号のブロックに切り替えられる。戻りスイッチ52が操作されることによって、マスタ画像Mおよび検査対象画像Tのブロックが1つ前のブロック番号のブロックに切り替えられる。初期化スイッチ54が操作されることによって、マスタ画像Mおよび検査対象画像Tのブロックがブロック番号“1”のブロックに切り替えられる。これらの表示動作は、表示実行部213によって行われる。このように、ブロック単位で両画像M,Tを拡大して表示することにより、両画像M,Tの比較が容易になる。
As shown in FIG. 7, the
図8に示すように、検査画面61は、検査対象画像Tがタッチ操作されると、タッチ位置を中心とする所定の領域を拡大して表示する。1回のタッチ操作によって拡大する倍率は予め設定されている。これらの表示動作は、表示実行部213によって行われる。このように、所望の部分を所望の大きさに拡大表示することにより、特定部分の検査をより詳細に容易に行うことができる。また、逆に、検査対象画像Tがタッチ操作されると、タッチ位置を中心とする所定の領域を縮小して表示するようにしてもよい。縮小の場合も、1回のタッチ操作によって縮小する倍率は予め設定されている。拡大と縮小とを両方操作できるようにした場合は、拡大モードと縮小モードとを切り替えるスイッチを検索画面61に設けるなどして切り替え操作を可能とする。
As illustrated in FIG. 8, when the inspection target image T is touched, the
続いて、画像データベースサーバ3について説明する。画像データベースサーバ3は、一般の汎用パーソナルコンピュータと同様に、CPU、メモリ(RAM、ROMなど)、外部記憶装置(ハードディスクドライブ、MOドライブなど)、表示装置および入力装置(キーボード、マウスなど)を有している。また、画像データベースサーバ3は、データベース管理部31、検査画面作成部32、および記憶装置33を備えている。
Next, the
データベース管理部31は、記憶装置33に記憶された各種のデータを管理している。データベース管理部31は、カメラ6から入力された基板7(検査対象)の画像データを撮影画像データとして記憶装置33に保存させる。このとき、各撮影画像データには対応する基板7のシリアル番号を対応付けておく。シリアル番号は、バーコードリーダによるバーコードの読み取りなどで行われる。
The
データベース管理部31は、前述の表示実行部213によるマスタ画像データIMを読み出す要求を受けると、マスタ画像データIMを記憶装置33から読み出して、プログラマブル表示器2へ送信する。また、表示実行部213による検査対象画像データITを読み出す要求を受けると、表示実行部213から送信されたシリアル番号の検査対象画像データITを記憶装置33から読み出して、プログラマブル表示器2へ送信する。また、データベース管理部31は、予め記憶装置33に保存されている検査画面データSTをプログラマブル表示器2のデータメモリ22にダウンロードする。
Upon receiving a request for reading the master image data IM from the
データベース管理部31は、タッチブロック判定部214から送信された検査結果およびそれに対応するシリアル番号を用いて検査結果データベースDBTを記憶装置33に作成する。検査結果データベースDBTは、図9に示すように、検査対象画像データITのファイル名と、検査対象のシリアル番号と、検査結果と、エラーブロックのブロック番号とを対応付けている。
The
判定手段としてのデータベース管理部31は、上記の検査結果データベースDBTに基づいて、各エラーブロックの数を集計して、検査対象の総数に対するエラーブロック毎の総数の比率が所定のしきい値を越えるエラーブロックについては、エラー発生率が高いブロックと特定する。また、データベース管理部31は、当該ブロックのブロック番号を表示実行部213に通知する。
The
データベース管理部31は、画像データベースサーバ3を構成するコンピュータがアプリケーションプログラム(サーバ管理プログラム)を実行することによって実現される機能ブロックである。このサーバ管理プログラムは、画像データベースサーバ3と分離可能に構成される記録媒体に記録されるプログラムであって、この記憶媒体から画像データベースサーバ3にインストールすることが可能である。この記録媒体は、前述のHMI制御プログラムが記録される記録媒体と同様なコンピュータ読み取り可能な記録媒体である。
The
検査画面作成部32は、検査画面(検査画面データST)を作成するために設けられており、画面エディタによって構成される。画面エディタは、ユーザ独自の画面であるユーザ画面を作成できるように、スイッチ、ランプ、テンキー、各種表示器(例えば、数値表示器、メータ表示器およびグラフ表示器)などのパーツ、各種のタグ設定機能、描画機能、テキスト入力機能などを備えている。検査画面に用いるパーツとしては、操作用のスイッチなどのパーツが用いられる。パーツは、ユーザが容易に選択できるようにライブラリ形式で登録されており、パーツの機能に応じた入力タグや表示タグなどが予め付与されている。
The inspection
検査画面作成部32は、画像データベースサーバ3を構成するコンピュータがアプリケーションプログラム(画面作成プログラム)を実行することによって実現される機能ブロックである。この画面作成プログラムは、画像データベースサーバ3と分離可能に構成される記録媒体に記録されるプログラムであって、この記憶媒体から画像データベースサーバ3にインストールすることが可能である。この記録媒体は、前述のHMI制御プログラムが記録される記録媒体と同様なコンピュータ読み取り可能な記録媒体である。また、画像データベースサーバ3は、検査画面作成部32を備えることにより画面作成装置としても機能する。
The inspection
検査画面作成部32は、記憶装置33に保存されている撮影画像データIPをファイル形式をプログラマブル表示器2で処理できるファイル形式に変換して、検査対象画像データITを作成する。マスタ画像データIMも、検査対象画像データITと同様、撮影画像データIPに基づいて作成されている。
The inspection
なお、ファイル形式の変換は、検査画面作成部32によって行われるが、データベース管理部31が代わりに行ってもよい。このようにすれば、カメラ6から取り込まれた画像データをファイル変換してから記憶装置33に保存することができる。これにより、別途、撮影画像データIPを記憶装置33から読み出して、検査画面作成部32によってファイル形式の変換を行う必要がなく、データ処理を効率的に行うことができる。
The file format conversion is performed by the inspection
このような検査画面作成部32を用いて検査画面を作成するとき、画面編集ウインドウ(図示せず)に展開されるベース画面上で、マスタ画像Mや検査対象画像Tの表示領域を設定したり、操作用のパーツを所定の手順にしたがって配置位置を指定したりする。作成された検査画面データSTは、固有の画面番号が付与された状態で保存される。また、マスタ画像データIMや検査対象画像データITも、画面として扱うことができるように、プログラマブル表示器2で処理できるファイル形式に変換されるときに固有の画面番号が付与される。検査画面データSTには、呼び出す画面の画面番号としてマスタ画像データIMや検査対象画像データITの画面番号が設定されており、マスタ画像Mや検査対象画像Tが検査画面上に表示されるときには、表示実行部213によって、マスタ画像データIMや検査対象画像データITの画面番号を指定して作業メモリ23から読み出される。
When an inspection screen is created using such an inspection
なお、検査画面作成部32は、画像データベースサーバ3と独立したコンピュータに設けられていてもよい。この場合、検査画面作成部32を有するコンピュータは、ネットワーク4を介して画像データベースサーバ3と通信することにより、記憶装置33にアクセスして検査画面データSTの保存や読み出しを行う。
Note that the examination
記憶装置33は、例えば、ハードディスクドライブによって構成されており、前述の撮影画像データIP、マスタ画像データIM、検査対象画像データIT、検査画面データSTおよび検査結果データベースDBTを保存する。
The
ここで、上記のように構成される目視検査支援装置1における検査支援の動作について説明する。
Here, the inspection support operation in the visual
まず、予め、記憶装置33には、マスタ画像データIMおよび検査対象画像データITを保存しておく。検査においては、すでに実装面の撮影を終えた基板7について検査していく。このとき、A局〜D局のプログラマブル表示器2では、それぞれシリアル番号1〜1000、1001〜2000、2001〜3000、3001〜4000というように分担して検査が行われる。
First, in the
検査者によって、プログラマブル表示器2に表示されている検査初期画面から検査開始の指示が与えられると、表示実行部213は、データベース管理部31に要求してマスタ画像データIMを取得し、作業メモリ23に書き込む。次いで、検査者がバーコードリーダ5で基板7のバーコードをスキャンすることによって、HMI制御部21は、当該バーコードで示されるシリアル番号を読み取る。表示実行部213は、データベース管理部31に要求して、そのシリアル番号で特定される検査対象画像データITを取得する。このとき、データベース管理部31は、予めシリアル番号と検査対象画像データITとが対応付けられている検査結果データベースDBTにおいて、与えられたシリアル番号に基づいて検索して該当する検査対象画像データITを特定し、記憶装置33から読み出して実行表示部13に送信する。表示実行部213は、その検査対象画像データITに対して、ブロック化部212にブロックの設定を指示する。
When an inspector gives an instruction to start an inspection from the initial inspection screen displayed on the
ブロック化部212は、検査対象画像データITに、予め定められたブロック数のブロックを設定して、作業メモリ23における所定のアドレスの領域に書き込む。表示実行部213は、データメモリ22の検査画面データSTと、作業メモリ23のマスタ画像データIMおよびブロック設定された検査対象画像データITとに基づいて、HMI制御部21に検査画面を表示させる。これにより、図3ないし図8の検査画面11〜61のような検査画面がディスプレイ24に表示される。
The blocking
検査者は、検査画面を見ながら、適宜見易いように検査画面上で表示状態を変更させる操作を行う。これにより、検査者の能力や熟練度に応じたマスタ画像Mおよび検査対象画像Tの見易さで検査を行うことができる。それゆえ、質の高い検査を行うことが可能となる。また、エラーが生じ易い箇所は、表示実行部213によって、当該箇所のブロックが着色などで強調表示される。これにより、エラーの多いブロックを重点的に検査をすることができる。それゆえ、検査の効率を向上させることが可能となる。
The inspector performs an operation of changing the display state on the inspection screen so that it is easy to see while viewing the inspection screen. Thereby, it is possible to perform inspection with ease of viewing the master image M and the inspection target image T according to the ability and skill level of the inspector. Therefore, a high quality inspection can be performed. Also, the
検査者は、検査対象画像Tにおいてエラーを発見すると、その箇所をタッチする。すると、タッチブロック判定部213は、そのタッチ位置に基づいて、タッチブロックのブロック番号と、検査結果(検査対象が不良品であること)とを、当該検査対象画像Tのシリアル番号と併せてデータベース管理部31に通知する。データベース管理部31は、タッチブロック判定部214より受けたこれらの検査情報に基づいて、検査結果データベースDBTにエラーブロックのブロック番号と検査結果とを書き込む。データベース管理部31は、このようにして、各局のプログラマブル表示器2から収集した検査情報に基づいて検査結果データベースDBTに新たな情報を加えていく。また、データベース管理部31は、作成した検査結果データベースDBTに基づいて、エラー発生率が高いブロックを特定し、そのブロックのブロック番号を表示実行部213に通知する。
When the inspector finds an error in the inspection target image T, the inspector touches that portion. Then, based on the touch position, the touch
このように上記の目視検査支援装置1においては、検査者の見易い状態で検査対象画像Tを表示するユーザインターフェースとして検査画面を提供している。これにより、検査者の能力や熟練度の差を補うことができ、検査の質の均一化を図ることができる。また、目視検査支援装置1は、検査対象画像Tにおいて検査者がタッチしただけで、検査対象の不良(エラー)と不良箇所とを特定することができるので、検査者は、特段の教育を受けることなく、容易に検査を行うことができる。さらに、目視検査支援装置1では、検査対象画像Tにおけるタッチ位置の情報に基づいてエラーが生じ易い箇所が特定されるので、前述のように、検査の効率化を図ることができるだけでなく、検査者の集中力が高まり、検査の質も向上する。そして、エラーが生じ易い箇所を生産にフィードバックすることにより、検査対象となる基板7の品質の向上を図ることができる。
As described above, in the visual
なお、本実施の形態においては、検査対象を基板7としているが、検査対象は基板7に限定されない。例えば、同一の構造となるように設計され、前述の検査画面を用いて目視により構造の一致・不一致を確認することができる製品であれば、検査対象となる。 In the present embodiment, the inspection object is the substrate 7, but the inspection object is not limited to the substrate 7. For example, a product that is designed to have the same structure and that can be visually checked for coincidence / non-coincidence of the structure using the above-described inspection screen is an inspection object.
また、本実施の形態では、検査者が不良個所を検査対象画像Tにおいて指示した位置を検出する手段としてタッチパネル25を用いているが、画面上で指示された位置を検出できる手段であれば、タッチパネル25以外の装置、例えばタブレットでも本目視検査支援装置1に適用が可能である。
Further, in the present embodiment, the
また、本実施の形態では、検査対象画像Tを表示させ、かつエラー箇所のタッチ入力を受け入れる機器としてプログラマブル表示器2について説明したが、このような機器としては、プログラマブル表示器2に限らず、HMI機能を備えていないタッチパネル付きの表示装置を用いてもよい。このような表示装置を用いた制御システムでは、HMI制御部21、データメモリ22および作業メモリ23を有するコンピュータが別途用意される。
Moreover, in this Embodiment, although the
本発明は、上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。 The present invention is not limited to the above-described embodiments, and various modifications can be made within the scope shown in the claims. That is, embodiments obtained by combining technical means appropriately changed within the scope of the claims are also included in the technical scope of the present invention.
本発明の目視検査支援装置は、表示した検査対象画像の不良箇所が検査者によってタッチされた箇所についての情報を収集して、検査対象画像における不良の発生率が高い箇所を強調して表示するので、質の高い効率的な目視検査を行うことが可能となり、目視検査が必要な生産現場などに好適に利用できる。 The visual inspection support device of the present invention collects information about a location where a defective portion of the displayed inspection target image is touched by an inspector, and highlights and displays a portion where the defect occurrence rate is high in the inspection target image. Therefore, it is possible to perform high-quality and efficient visual inspection, and it can be suitably used for production sites that require visual inspection.
1 目視検査支援装置
2 プログラマブル表示器(表示装置)
3 画像データベースサーバ
5 バーコードリーダ
6 カメラ
7 基板
21 HMI制御部
22 作業メモリ
23 ディスプレイ(表示部)
24 タッチパネル(位置検出部)
31 データベース管理部(判定手段)
32 記憶装置
211 検査表示制御部
212 ブロック化部(ブロック設定手段)
213 表示実行判定部(強調表示制御手段,表示状態変更手段)
213 タッチブロック判定部(ブロック特定手段)
MT マスタ画像データ
IT 検査対象画像データ
DBT 検査結果データベース
1 Visual
3
24 Touch panel (position detection unit)
31 Database management part (determination means)
32
213 Display execution determination unit (highlight display control means, display state change means)
213 Touch block determination unit (block specifying means)
MT master image data IT image data DBT inspection result database
Claims (5)
前記検査対象画像を表示する表示部と、
表示された検査対象画像において検査者によって指示された位置を検出する位置検出部と、
検出された前記位置に基づいて前記検査対象画像において指示された位置を含む前記ブロックを特定するブロック特定手段と、
特定されたブロック毎の不良総数の前記検査対象の不良総数に対する比率が所定値を越えたか否かを判定する判定手段と、
前記検査対象画像において前記比率が所定値を超えたブロックを強調して表示させる強調表示制御手段とを備えていることを特徴とする目視検査支援装置。 Block setting means for setting a predetermined number of blocks in the image to be inspected;
A display unit for displaying the inspection target image;
A position detector for detecting a position designated by the examiner in the inspection object image displayed,
Block specifying means for specifying the block including the position indicated in the inspection target image based on the detected position;
Determining means for determining whether the ratio of the total number of defects for each identified block to the total number of defects to be inspected exceeds a predetermined value;
A visual inspection support device, comprising: highlighting control means for highlighting and displaying blocks in which the ratio exceeds a predetermined value in the inspection target image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005373630A JP4668059B2 (en) | 2005-12-26 | 2005-12-26 | Visual inspection support device, visual inspection support program, and recording medium recording the program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005373630A JP4668059B2 (en) | 2005-12-26 | 2005-12-26 | Visual inspection support device, visual inspection support program, and recording medium recording the program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2007178129A JP2007178129A (en) | 2007-07-12 |
JP2007178129A5 JP2007178129A5 (en) | 2008-11-27 |
JP4668059B2 true JP4668059B2 (en) | 2011-04-13 |
Family
ID=38303487
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005373630A Expired - Fee Related JP4668059B2 (en) | 2005-12-26 | 2005-12-26 | Visual inspection support device, visual inspection support program, and recording medium recording the program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4668059B2 (en) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4963284B2 (en) * | 2007-10-04 | 2012-06-27 | 株式会社メガトレード | Standard data creation method |
JP5854553B2 (en) * | 2011-10-18 | 2016-02-09 | 富士電機株式会社 | Visual inspection support device and control method of visual inspection support device |
JP2013142589A (en) * | 2012-01-10 | 2013-07-22 | Bridgestone Corp | Inspection apparatus for object to be inspected and inspection method |
JP2015200554A (en) * | 2014-04-08 | 2015-11-12 | 三菱電機株式会社 | Visual inspection method and visual inspection support device |
JP6505376B2 (en) * | 2014-05-19 | 2019-04-24 | 石田プラスチック株式会社 | Product inspection system, inspection terminal and program |
CN106814066A (en) * | 2015-11-30 | 2017-06-09 | 富泰华工业(深圳)有限公司 | Appearance delection device and method |
JP2019158555A (en) * | 2018-03-13 | 2019-09-19 | 株式会社Screenホールディングス | Defect confirmation device, method for confirming defects, and program |
JP7005799B2 (en) * | 2021-02-02 | 2022-02-10 | キヤノン株式会社 | Information processing equipment, control methods and programs for information processing equipment |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0526814A (en) * | 1991-07-16 | 1993-02-02 | Omron Corp | Inspected result outputting method for substrate inspecting device |
JPH0545300A (en) * | 1991-08-15 | 1993-02-23 | Nippon Telegr & Teleph Corp <Ntt> | Defective place display processing method |
JPH0573565U (en) * | 1992-03-04 | 1993-10-08 | 谷電機工業株式会社 | Visual inspection system |
JPH11111796A (en) * | 1997-10-02 | 1999-04-23 | Mitsubishi Electric Corp | Method and device for analyzing defect |
JP2000131242A (en) * | 1998-10-23 | 2000-05-12 | Hitachi Ltd | Defect analyzer |
JP2004333288A (en) * | 2003-05-07 | 2004-11-25 | Toshiba Plant Systems & Services Corp | Inspection device of specimen using double display means, and inspection method using the same |
-
2005
- 2005-12-26 JP JP2005373630A patent/JP4668059B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0526814A (en) * | 1991-07-16 | 1993-02-02 | Omron Corp | Inspected result outputting method for substrate inspecting device |
JPH0545300A (en) * | 1991-08-15 | 1993-02-23 | Nippon Telegr & Teleph Corp <Ntt> | Defective place display processing method |
JPH0573565U (en) * | 1992-03-04 | 1993-10-08 | 谷電機工業株式会社 | Visual inspection system |
JPH11111796A (en) * | 1997-10-02 | 1999-04-23 | Mitsubishi Electric Corp | Method and device for analyzing defect |
JP2000131242A (en) * | 1998-10-23 | 2000-05-12 | Hitachi Ltd | Defect analyzer |
JP2004333288A (en) * | 2003-05-07 | 2004-11-25 | Toshiba Plant Systems & Services Corp | Inspection device of specimen using double display means, and inspection method using the same |
Also Published As
Publication number | Publication date |
---|---|
JP2007178129A (en) | 2007-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220351475A1 (en) | Method and system for implementing augmented reality (ar)-based assistance within work environment | |
JP6348504B2 (en) | Biological sample split screen display and system and method for capturing the records | |
JP6698663B2 (en) | Quality control of automated whole slide analysis | |
JP2019212073A (en) | Image discriminating apparatus and method thereof | |
JP2008052580A (en) | Image display method | |
JP4668059B2 (en) | Visual inspection support device, visual inspection support program, and recording medium recording the program | |
JP2010054318A (en) | Device and system for displaying analysis image | |
JP2007178129A5 (en) | ||
JP2009025951A (en) | Work procedure display method and work procedure display system | |
JP4296207B2 (en) | Microscopic measuring device | |
JP2004005639A (en) | Monitoring device | |
JP2007094513A5 (en) | ||
US11408831B2 (en) | Information processing apparatus, information processing method, and recording medium | |
WO2022023881A1 (en) | Annotation data collection using gaze-based tracking | |
JP6367736B2 (en) | Inspection support device | |
JP2009122035A (en) | Inspection support system | |
JP2005102784A5 (en) | ||
JP2003203216A (en) | Image measuring device part program generating device and image forming device part program generating program | |
JP2019158555A (en) | Defect confirmation device, method for confirming defects, and program | |
CN115344159A (en) | File processing method and device, electronic equipment and readable storage medium | |
JP2010071802A (en) | Maintenance terminal device and computer program | |
US20230267727A1 (en) | Image analysis apparatus, image analysis method, and storage medium | |
JP2000338052A (en) | Flaw display device and inspection device | |
WO2024218987A1 (en) | Programming device, setting adjustment method, and program | |
JP2020013378A (en) | Image classification method and image classification device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081009 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081009 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20101216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110111 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110112 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140121 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |