JPWO2017183107A1 - Transient detection device, transient detection system, and transient detection method - Google Patents
Transient detection device, transient detection system, and transient detection method Download PDFInfo
- Publication number
- JPWO2017183107A1 JPWO2017183107A1 JP2017503977A JP2017503977A JPWO2017183107A1 JP WO2017183107 A1 JPWO2017183107 A1 JP WO2017183107A1 JP 2017503977 A JP2017503977 A JP 2017503977A JP 2017503977 A JP2017503977 A JP 2017503977A JP WO2017183107 A1 JPWO2017183107 A1 JP WO2017183107A1
- Authority
- JP
- Japan
- Prior art keywords
- tact
- unit
- unsteady
- detection device
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 90
- 230000001052 transient effect Effects 0.000 title 3
- 238000000605 extraction Methods 0.000 claims abstract description 47
- 238000012544 monitoring process Methods 0.000 claims abstract description 46
- 239000000284 extract Substances 0.000 claims abstract description 15
- 238000003860 storage Methods 0.000 claims description 52
- 238000004519 manufacturing process Methods 0.000 claims description 49
- 238000000034 method Methods 0.000 claims description 24
- 238000003384 imaging method Methods 0.000 claims description 14
- 239000013598 vector Substances 0.000 claims description 14
- 230000006835 compression Effects 0.000 claims description 13
- 238000007906 compression Methods 0.000 claims description 13
- 238000012545 processing Methods 0.000 claims description 12
- 238000009826 distribution Methods 0.000 claims description 7
- 230000002123 temporal effect Effects 0.000 claims description 7
- 230000005484 gravity Effects 0.000 claims description 2
- 238000000513 principal component analysis Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 6
- 230000005856 abnormality Effects 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Manufacturing & Machinery (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Testing And Monitoring For Control Systems (AREA)
- General Factory Administration (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
監視対象が非定常状態か否かを検出する非定常検出装置(1)であって、監視対象を含み連続して撮影された複数の画像データである連続画像群から、規定された作業単位であるタクト毎の連続画像群の特徴を示す要素を抽出する要素抽出部(12)と、要素抽出部(12)で抽出された各タクトの要素に基づいて、監視対象において判定対象のタクトが非定常状態であるかまたは定常状態であるかを判定する判定部(18)と、を備える。A non-steady state detection device (1) for detecting whether or not a monitoring target is in a non-steady state, in a prescribed unit of work from a group of continuous images that are a plurality of image data continuously captured including the monitoring target. Based on the element of each tact extracted by the element extraction unit (12) that extracts the elements indicating the characteristics of the continuous image group for each tact and the element extraction unit (12), the tact to be determined is not detected in the monitoring target. And a determination unit (18) for determining whether the state is a steady state or a steady state.
Description
本発明は、非定常状態を検出する非定常検出装置、非定常検出システムおよび非定常検出方法に関する。 The present invention relates to a non-stationary detection device, a non-stationary detection system, and a non-stationary detection method for detecting a non-stationary state.
従来、点検または保守が必要な監視対象の場所にカメラなどのセンサを設置し、画像などのセンサ情報から、監視対象が異常の無い定常状態にあるかまたは何らかの異常が有る非定常状態にあるかの判定が行われている。特許文献1には、過去に取得した定常状態のときの複数の画像から抽出した特徴量から、定常状態のときの類似した画像のクラスタを生成し、新たに取得した画像から抽出された特徴量がクラスタに属さない場合、新たに取得した画像で表される監視対象は非定常状態にあると判別する技術が開示されている。
Conventionally, a sensor such as a camera has been installed at a monitoring target location that requires inspection or maintenance, and whether the monitoring target is in a steady state with no abnormality or in an unsteady state with some abnormality based on sensor information such as images Judgment is made. In
特許文献1に記載の技術は、非定常状態を検出する監視対象が定常状態において動きが無い、すなわち定常状態の画像が同じときには有効である。しかしながら、定常状態において人、物または機械などが動いている製造現場などの場合、類似した画像のクラスタを生成できないため非定常状態を検出できない、という問題があった。
The technique described in
本発明は、上記に鑑みてなされたものであって、定常状態において動きを伴う監視対象を含む場合に、非定常状態を検出可能な非定常検出装置を得ることを目的とする。 The present invention has been made in view of the above, and an object of the present invention is to obtain an unsteady state detection device capable of detecting an unsteady state when a monitoring target with movement in the steady state is included.
上述した課題を解決し、目的を達成するために、本発明は、監視対象を含み連続して撮影された複数の画像データである連続画像群から、規定された作業単位であるタクト毎の連続画像群の特徴を示す要素を抽出する要素抽出部と、要素抽出部で抽出された各タクトの要素に基づいて、監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定部と、を備えることを特徴とする。 In order to solve the above-described problems and achieve the object, the present invention provides a continuous operation for each tact, which is a specified unit of work, from a continuous image group that is a plurality of image data including a monitoring target and continuously captured. An element extraction unit that extracts an element indicating the characteristics of the image group, and a determination unit that determines whether the tact to be determined in the monitoring target is an unsteady state or a steady state based on the element of each tact extracted by the element extraction unit And.
本発明にかかる非定常検出装置は、定常状態において動きを伴う監視対象を含む場合に、非定常状態を検出できる、という効果を奏する。 The unsteady state detection device according to the present invention has an effect that the unsteady state can be detected when a monitoring target with movement in the steady state is included.
以下に、本発明の実施の形態にかかる非定常検出装置、非定常検出システムおよび非定常検出方法を図面に基づいて詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。 Hereinafter, a non-stationary detection device, a non-stationary detection system, and a non-stationary detection method according to embodiments of the present invention will be described in detail with reference to the drawings. Note that the present invention is not limited to the embodiments.
実施の形態1.
図1は、本発明の実施の形態1にかかる非定常検出装置1の構成例を示すブロック図である。非定常検出装置1は、例えば、プログラマブル表示器である。本実施の形態では、非定常検出装置1は、製造ラインにおいて製造工程の任意の作業単位、すなわち規定された1タクトを対象にして非定常状態を検出する場合を例にして説明する。1タクトは、監視対象である製造ラインの1つの製造工程でもよいし、複数の製造工程を含むものであってもよい。なお、非定常検出装置1の用途は、製造ラインに限定されるものではない。
FIG. 1 is a block diagram illustrating a configuration example of the
非定常検出装置1は、非定常状態を検出するために使用するデータとして、撮像装置2で撮影された画像データを使用する。非定常検出装置1は、製造ラインにおいて製造機器の制御を行うプログラマブルコントローラ、または製造ラインにおいて規定されたイベントを検出する計測器などの外部装置3から取得する情報に基づいて、製造工程の1タクトを検出する。非定常検出装置1は、操作者4から、後述する非定常状態の検出処理において必要な判定閾値などの設定を受け付ける。
The
非定常検出装置1の構成について説明する。非定常検出装置1は、撮像装置2から画像データを取得するデータ取得部11と、データ取得部11で取得された画像データから画像圧縮技術を用いて各画像データの周波数の特徴を示す第1の要素を抽出し、また、後述する第1の要素分割部15から受け渡された1タクト分の第1の要素から画像圧縮技術を用いて第1の要素の時間的変化の特徴を示す第2の要素を抽出する要素抽出部12と、要素抽出部12で抽出された第1の要素を記憶する第1の要素記憶部13と、を備える。
The configuration of the
また、非定常検出装置1は、外部装置3との間でデータなどの送受信を行い、外部装置3からの情報に基づいて監視対象の作業単位である1タクトを検出する外部装置接続インタフェース14と、外部装置接続インタフェース14から通知された1タクト毎に、第1の要素記憶部13から1タクト分の第1の要素を分割して読み出し、1タクト分の第1の要素を要素抽出部12へ受け渡す第1の要素分割部15と、を備える。
Further, the
また、非定常検出装置1は、要素抽出部12で抽出された第2の要素を記憶する第2の要素記憶部16と、過去に定常状態であると判定されたタクトの第2の要素をベクトルで示した場合の分布情報を示すデータ群などを含むクラスタリング情報を記憶するクラスタリング情報記憶部17と、要素抽出部12で抽出された各タクトの要素、すなわち、第2の要素記憶部16に記憶されている判定対象のタクトの第2の要素と、クラスタリング情報記憶部17に記憶されているクラスタリング情報とを用いて、監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定部18と、を備える。
The
また、非定常検出装置1は、操作者4からの操作を受け付けて判定部18の判定処理において使用される判定閾値を判定部18に設定する操作受付部19と、判定部18の判定結果に基づいて、判定結果を含む表示情報を生成する表示生成部20と、表示生成部20で生成された表示情報を表示する表示部21と、要素抽出部12で第2の要素を抽出する際に使用された第1の要素を記憶する画像情報記憶部22と、を備える。なお、第1の要素記憶部13、第2の要素記憶部16、クラスタリング情報記憶部17、および画像情報記憶部22をまとめて記憶部23とする。
The unsteady
つぎに、監視対象が非定常状態か否かを検出する非定常検出装置1の非定常検出方法、すなわち非定常状態を検出する処理について説明する。図2は、実施の形態1にかかる非定常検出装置1において非定常状態を検出する処理を示すフローチャートである。
Next, an unsteady detection method of the unsteady
まず、非定常検出装置1では、データ取得部11が、撮像装置2から、撮像装置2において監視対象を含んで撮影された画像のデータである画像データを取得する(ステップS1)。撮像装置2は、例えば、デジタルカメラである。データ取得部11は、撮像装置2から、複数の画像データである連続画像群を取得する。例えば撮像装置2が1秒間に30枚の静止画像を連続して撮影している場合、データ取得部11は、撮像装置2が静止画像を撮影した都度、撮像装置2から静止画像の画像データを取得する。
First, in the
要素抽出部12は、データ取得部11で取得された監視対象の各画像データから画像圧縮技術を用いて各画像データを周波数分解し、各画像データを構成する周波数の特徴を示す要素である第1の要素を抽出する(ステップS2)。要素抽出部12は、画像圧縮技術として、主成分分析またはウェブレット変換といった既存の手法を用いて、画像データから第1の要素を抽出することができる。
The
図3は、実施の形態1にかかる要素抽出部12が抽出する2つの要素を示す図である。図3において、時間方向の軸の1枚目、2枚目といった(1)で示す実線は、要素抽出部12が監視対象の各画像データから抽出した第1の要素であって、各画像を構成する周波数の特徴を示す、周波数の要素である。ここでは、1枚目、2枚目といった枚数によって時間の経過を示している。また、図3において、周波数方向の軸の(2)で示す点線は、後述するように要素抽出部12が第1の要素から抽出した第2の要素であって、第1の要素の時間的変化の特徴すなわち遷移を示す、周波数の要素の時間的変化の要素である。また、図3において、振幅方向の軸は、周波数の要素の大きさ、すなわち振幅を示す。非定常検出装置1では、製造ラインにおいて、人、物または製造機器などで動きを伴う範囲を非定常状態検出の監視対象としており、撮影時刻毎に静止画像すなわち画像データの内容が異なる。そのため、要素抽出部12が画像データから抽出した周波数の特徴を示す第1の要素は、1枚目、2枚目によって、すなわち静止画像が撮影された時刻によって異なる周波数の特徴の遷移を示すことになる。監視対象の製造ラインでは、一般的に、1タクト毎に人、物または製造機器が同じ動きを繰り返す。そのため、定常状態の場合であれば、各タクトにおいて1タクト分の画像データから抽出された第1の要素は、各タクト内の同じ時間帯において同様の特徴を示すことになる。
FIG. 3 is a diagram illustrating two elements extracted by the
要素抽出部12は、画像データから第1の要素を抽出する毎に、抽出した第1の要素を第1の要素記憶部13に記憶させる(ステップS3)。
Each time the
外部装置接続インタフェース14は、外部装置3から取得する情報に基づいて、非定常状態検出の監視対象の製造ラインの作業単位である1タクトを検出する(ステップS4)。1タクトは、監視対象である製造ラインにおける1つまたは複数の製造工程の作業単位である。外部装置接続インタフェース14は、監視対象の製造ラインにおいて繰り返される作業単位を1タクトとして検出する。外部装置接続インタフェース14は、例えば、外部装置3がプログラマブルコントローラの場合、プログラマブルコントローラの処理範囲の情報から1タクトを検出する。または、外部装置接続インタフェース14は、例えば、外部装置3が製造ラインにおいて規定されたイベントを検出する計測器の場合、イベントを検出する間隔の情報から1タクトを検出する。外部装置接続インタフェース14は、具体的に、計測器が物の流れを検出するセンサの場合、センサが製造工程において特定の物が流れてくることを検出する間隔で1タクトを検出する。外部装置接続インタフェース14は、1タクトを検出する毎に、1タクトを検出したことを第1の要素分割部15へ通知する。
The external
第1の要素分割部15は、外部装置接続インタフェース14から作業単位である1タクトを検出したことの通知を受ける毎に、第1の要素記憶部13から、第1の要素記憶部13に記憶されている第1の要素を読み出す。すなわち、第1の要素分割部15は、要素抽出部12で抽出され続けている第1の要素を1タクト毎に分割する(ステップS5)。第1の要素分割部15は、第1の要素記憶部13から読み出した1タクト分の第1の要素を要素抽出部12へ受け渡す。
The first
要素抽出部12は、第1の要素分割部15から取得した1タクト分の第1の要素に対して画像圧縮技術を用い、規定された周波数について、または規定された周波数間隔毎に、第1の要素の時間的変化の特徴を示す要素として第2の要素を抽出する(ステップS6)。要素抽出部12において第2の要素を抽出する手法は、前述の第1の要素を抽出するときと同様である。
The
要素抽出部12が第1の要素から第2の要素を抽出することにより、図3に示す(2)の点線の情報を得ることができる。なお、図3では第2の要素として1本の点線のみ示しているが、これは第2の要素のイメージを分かり易くするためである。要素抽出部12は、実際には第1の要素から複数の周波数において第2の要素を抽出しているものとする。
When the
要素抽出部12は、第1の要素から第2の要素を抽出する毎に、抽出した第2の要素を第2の要素記憶部16に記憶させる(ステップS7)。また、要素抽出部12は、第2の要素を抽出する際に使用した1タクト分の第1の要素を画像情報記憶部22に記憶させる(ステップS8)。
Every time the second element is extracted from the first element, the
判定部18は、第2の要素記憶部16から判定対象のタクトの第2の要素を読み出し、クラスタリング情報記憶部17のクラスタリング情報を参照し、監視対象において、判定対象のタクトが非定常状態にあるか否かを判定する(ステップS9)。判定部18は、例えば、1タクト分の第2の要素のデータ量が設定されており、第2の要素記憶部16を定期的に確認して、第2の要素記憶部16に1タクト分の第2の要素のデータ量が記憶されてから読み出しを行ってもよい。
The
ここで、クラスタリング情報記憶部17が記憶しているクラスタリング情報について説明する。図4は、実施の形態1においてクラスタリング情報記憶部17が記憶しているクラスタリング情報と第2の要素記憶部16から読み出した判定対象のタクトの第2の要素との関係のイメージを示す図である。
Here, the clustering information stored in the clustering
クラスタリング情報には、過去に定常状態であると判定された複数のタクトの第2の要素の分布情報である定常状態データ群41、および定常状態データ群41の中心座標42が含まれる。一般的に、要素抽出部12で抽出された第2の要素は2次式、3次式といった数式で表すことができ、得られた数式の各次数の係数を用いて、数式の特徴をベクトルの情報で表すことができる。定常状態データ群41は、過去に定常状態であると判定された複数のタクトの第2の要素のベクトルによって示される点の分布を示すものである。中心座標42は、過去に定常状態であると判定された複数のタクトの第2の要素のベクトルによって示される点の分布状態から得られる中心の座標位置を示すものである。第2の要素43は、第2の要素記憶部16から読み出した判定対象のタクトの第2の要素で表されるベクトルで示される点である。なお、上記の中心座標42については、定常状態データ群41の重心としてもよい。
The clustering information includes a steady
判定部18には、操作受付部19を介して、予め操作者4によって判定対象のタクトが非定常状態にあるか否かを判定するための判定閾値が設定されている。判定部18は、図4に示す中心座標42と判定対象のタクトの第2の要素43との距離が判定閾値以上の場合、監視対象において、判定対象のタクトは非定常状態にあると判定する(ステップS9:Yes)。判定部18は、判定対象のタクトが非定常状態にあると判定した場合、表示生成部20に対して、判定対象のタクトが非定常状態にあることの判定結果を通知する。
In the
表示生成部20は、判定対象のタクトが非定常状態にあるという判定結果の場合、画像情報記憶部22から、過去に定常状態と判定されたタクトの1タクト分の第1の要素と、今回の判定で非定常状態と判定された判定対象のタクトの1タクト分の第1の要素とを取得する。表示生成部20は、過去に定常状態と判定されたタクトの第1の要素から定常状態のタクトの画像データを復元し、今回の判定で非定常状態と判定された判定対象のタクトの第1の要素から非定常状態のタクトの画像データを復元する。表示生成部20は、定常状態のタクトの画像データと非定常状態のタクトの画像データとの差分を検出し、定常状態のタクトの画像データと非定常状態のタクトの画像データとを重ねて表示した画像に差分を強調表示した画像情報を生成する。表示生成部20は、判定対象のタクトが非定常状態にあることを示す文字などの判定結果と、画像情報とを含む表示情報を生成して、表示部21に表示させる制御を行う(ステップS10)。なお、表示生成部20は、定常状態のタクトの画像データと非定常状態のタクトの画像データとの差分を検出し、非定常状態のタクトの画像データを表示した画像に差分を強調表示した画像情報を生成してもよい。
In the case of the determination result that the tact to be determined is in the unsteady state, the display generation unit 20 includes the first element for one tact of the tact that has been determined to be the steady state in the past from the image
図5は、実施の形態1にかかる表示生成部20において、判定部18で非定常状態と判定されたタクトにおける監視対象の画像データと定常状態と判定されたタクトにおける監視対象の画像データとの差分を強調表示した画像情報の一例を示す図である。非定常検出装置1は、例えば、製造ラインの近くに侵入者51がいた場合に非定常状態として検出することができる。図6は、実施の形態1にかかる表示生成部20において、判定部18で非定常状態と判定されたタクトの画像データと定常状態と判定されたタクトの画像データの差分を強調表示した画像情報の他の例を示す図である。非定常検出装置1は、例えば、常に動きのある製造ラインで流れてくる製品の中に破損などの異常のある製品61があった場合に非定常状態として検出することができる。
FIG. 5 shows the relationship between the image data to be monitored in the tact determined by the
判定部18は、監視対象において、判定対象のタクトは非定常状態にあると判定した場合(ステップS9:Yes)、判定結果を、外部装置接続インタフェース14を介して外部装置3へ出力してもよい。また、判定部18は、表示生成部20で生成された表示情報を表示生成部20から取得して、外部装置接続インタフェース14を介して外部装置3へ出力してもよい。
If the
判定部18は、図4に示す中心座標42と判定対象のタクトの第2の要素43との距離が判定閾値より小さい場合、監視対象において、判定対象のタクトは定常状態にあると判定する(ステップS9:No)。判定部18は、判定対象のタクトが定常状態にあると判定した場合、表示生成部20に対して、判定対象のタクトが定常状態にあることの判定結果を通知する。表示生成部20は、判定対象のタクトが定常状態にあることを示す文字などの判定結果を含む表示情報を生成して、表示部21に表示させてもよい。
When the distance between the center coordinate 42 shown in FIG. 4 and the
また、判定部18は、定常状態にあると判定対象のタクトの第2の要素をクラスタリングする(ステップS11)。具体的に、判定部18は、定常状態にあると判定した判定対象のタクトの第2の要素によるベクトルの情報をクラスタリング情報記憶部17に記憶させる。判定部18は、クラスタリング情報記憶部17のクラスタリング情報を編集し、定常状態にあると判定した判定対象のタクトの第2の要素によるベクトルの情報を定常状態データ群41に追加する。判定部18は、図4に示す定常状態データ群41に今回定常状態にあると判定したタクトの第2の要素を含ませ、必要な場合は中心座標42を再計算する。これにより、判定部18は、クラスタリング情報記憶部17に記憶されているクラスタリング情報を最新の状態にすることができる。
Further, the
なお、非定常検出装置1において、製造工程の状態を検出するための情報として画像データを使用する場合について説明したが、製造工程の状態を検出するための情報は画像データに限定されるものではない。非定常検出装置1は、例えば、製造工程に設置されているプレス機などの圧力を計測する圧力計、空気圧で動くピストンに流れる空気を計測する流量計などの計測器から得られる数値などの計測データ、すなわち製造機器の動作の状態を計測した計測器の値を使用することも可能である。また、非定常検出装置1は、製造工程の状態を検出するための情報として、製造工程で使用される各機器のロギングデータを使用してもよい。データ取得部11は、これらの数値などの計測データ、またはロギングデータを取得する。
In addition, although the case where image data is used as information for detecting the state of the manufacturing process in the
また、クラスタリング情報記憶部17では、過去に定常状態と判定されたタクトの第2の要素の情報を用いた定常状態データ群41を記憶し、新たに定常状態と判定されたタクトの第2の要素の情報を用いて定常状態データ群41を更新しているが、データ量が多くなりすぎるおそれがある。そのため、判定部18は、定常状態データ群41の容量が一定量に達した場合は取得時期の古い順に第2の要素の情報を定常状態データ群41から削除してもよいし、一定期間経過後の第2の要素の情報を定常状態データ群41から削除してもよい。
Further, the clustering
また、要素抽出部12は、第2の要素を抽出したときに使用した1タクト分の第1の要素を画像情報記憶部22に記憶させているが、第1の要素から復元した画像データの状態で画像情報記憶部22に記憶させてもよい。この場合、画像情報記憶部22の容量を大きくする必要があるが、表示生成部20で第1の要素から画像データを復元しなくてよいため、表示生成部20の構成を簡略化することができる。
In addition, the
また、操作者4が操作受付部19を介して判定部18に判定閾値を設定しているが、数値として判定閾値を設定するためには、操作者4が製造工程の非定常検出対象の装置に対して習熟している必要がある。そのため、操作者4は、表示部21に表示される非定常状態のときの画像情報を参照して判定閾値を変更してもよい。また、操作者4は、判定閾値として設定されていた値が不適であったため非定常状態と誤検出されていたタクトの第2の要素について、操作受付部19を介して判定部18を操作し、判定対象のタクトの第2の要素を選択してクラスタリング情報記憶部17に定常状態データ群41としてクラスタリングしてもよい。操作者4は、判定部18の判定結果によって判定閾値を動的に変更してもよいし、判定閾値を一意の値ではなくヒステリシスを設定可能としてもよい。
In addition, the
つづいて、非定常検出装置1のハードウェア構成について説明する。非定常検出装置1において、データ取得部11は、画像データなどを受信可能なインタフェース回路により実現される。外部装置接続インタフェース14は、外部装置3との間でデータの送受信が可能なインタフェース回路により実現される。操作受付部19は、マウス、キーボードなどのデバイスにより実現される。表示部21は、LCD(Liquid Crystal Display)などのディスプレイにより実現される。第1の要素記憶部13、第2の要素記憶部16、クラスタリング情報記憶部17、および画像情報記憶部22を含む記憶部23は、メモリにより実現される。要素抽出部12、第1の要素分割部15、判定部18、および表示生成部20は、処理回路により実現される。処理回路は、専用のハードウェアであってもよいし、メモリに格納されるプログラムを実行するCPU(Central Processing Unit)およびメモリであってもよい。
Next, the hardware configuration of the
図7は、実施の形態1にかかる非定常検出装置1の処理回路をCPU91およびメモリ92で構成する場合の例を示す図である。処理回路がCPU91およびメモリ92で構成される場合、要素抽出部12、第1の要素分割部15、判定部18、および表示生成部20の各機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアまたはファームウェアはプログラムとして記述され、メモリ92に格納される。処理回路では、メモリ92に記憶されたプログラムをCPU91が読み出して実行することにより、各機能を実現する。
FIG. 7 is a diagram illustrating an example in which the processing circuit of the unsteady
CPU91は、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、またはDSP(Digital Signal Processor)などであってもよい。また、メモリ92とは、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)などの、不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、またはDVD(Digital Versatile Disc)などが該当する。記憶部23を実現するメモリは、メモリ92であってもよい。
The
以上説明したように、本実施の形態によれば、非定常検出装置1では、製造ラインなどの動きを伴う作業単位である1タクトの監視対象について、監視対象が撮影された連続画像群の各画像データから画像圧縮技術を用いて各画像データの周波数の特徴を示す第1の要素を抽出し、1タクト分の第1の要素から画像圧縮技術を用いて第1の要素の時間的変化の特徴を示す第2の要素を抽出し、判定対象のタクトの第2の要素と、過去に定常状態と判定されたタクトの第2の要素のデータ群を含むクラスタリング情報とを用いて、判定対象のタクトが非定常状態か定常状態かを判定することとした。これにより、非定常検出装置1は、定常状態において動きを伴う監視対象を対象にして非定常状態を検出することができる。また、非定常検出装置1は、定常状態において動きを伴う監視対象を対象にする場合において、2段階で画像圧縮技術による処理を行うことにより、監視対象が撮影された画像データをそのまま使用する場合と比較して、少ない情報量で非定常状態を検出することができる。
As described above, according to the present embodiment, in the
実施の形態2.
実施の形態2では、非定常検出装置1が複数の監視対象において非定常状態を検出する場合について説明する。
In the second embodiment, a case where the unsteady
図8は、実施の形態2にかかる非定常検出システム6の構成例を示す図である。非定常検出システム6は、非定常検出装置1と、複数の外部装置3と、を備え、非定常検出装置1と各外部装置3がネットワーク5を介して接続されているシステムである。実施の形態1では、非定常検出装置1は1つの撮像装置2と接続しており、撮像装置2によって撮影された1つの監視対象の製造ラインについて非定常状態のタクトを検出していた。しかしながら、非定常検出装置1では、要素抽出部12の処理能力、また記憶部23の容量などに余裕があれば、複数の製造ラインを監視対象にすることも可能である。監視対象が複数ある場合において、複数の撮像装置2は、各々が規定された監視対象を撮影して得られた画像データを非定常検出装置1に出力する。図8において、撮像装置2を、外部装置3例えばプログラマブルコントローラに含め、非定常検出装置1を、製造ラインを管理する生産管理装置として構成してもよい。この場合、非定常検出装置1は、各製造ラインで稼働時に制御しているデータの時系列の遷移または稼働状況を波形すなわち要素として抽出し、分析することができる。これにより、操作者4は、非定常検出システム6の非定常検出装置1が実施する非定常状態のタクトの検出状況から、各製造工程間のばらつき、ムラ、またムダなどを定量化することができ、各製造工程の最適化を実行することができる。
FIG. 8 is a diagram illustrating a configuration example of the
なお、非定常検出システム6において、非定常検出装置1が個々の監視対象の製造ラインについて非定常状態を検出する処理そのものは、実施の形態1のときと同様である。
In the
以上説明したように、本実施の形態によれば、非定常検出装置1は、複数の監視対象を対象にして非定常状態を検出する。これにより、監視対象分の非定常検出装置1を備える必要が無く、複数の監視対象を対象にして非定常状態を検出するシステムを低コストで実現することができる。
As described above, according to the present embodiment, the unsteady
以上の実施の形態に示した構成は、本発明の内容の一例を示すものであり、別の公知の技術と組み合わせることも可能であるし、本発明の要旨を逸脱しない範囲で、構成の一部を省略、変更することも可能である。 The configuration described in the above embodiment shows an example of the contents of the present invention, and can be combined with another known technique, and can be combined with other configurations without departing from the gist of the present invention. It is also possible to omit or change the part.
1 非定常検出装置、2 撮像装置、3 外部装置、4 操作者、5 ネットワーク、6 非定常検出システム、11 データ取得部、12 要素抽出部、13 第1の要素記憶部、14 外部装置接続インタフェース、15 第1の要素分割部、16 第2の要素記憶部、17 クラスタリング情報記憶部、18 判定部、19 操作受付部、20 表示生成部、21 表示部、22 画像情報記憶部、23 記憶部。
DESCRIPTION OF
上述した課題を解決し、目的を達成するために、本発明は、監視対象を含み連続して撮影された複数の画像データである連続画像群から、規定された作業単位であるタクト毎の連続画像群の特徴を示す要素を抽出する要素抽出部と、要素抽出部で抽出された各タクトの要素に基づいて、監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定部と、を備え、要素抽出部は、監視対象の各画像データから各画像データの特徴を示す第1の要素を抽出し、1タクト分の第1の要素から第1の要素の時間的変化の特徴を示す第2の要素を抽出し、判定部は、第2の要素をベクトルで示した場合に、定常状態と判定された複数のタクトの第2の要素を示すベクトルの分布情報を示すデータ群を用いて、判定対象のタクトが非定常状態か定常状態かを判定することを特徴とする。 In order to solve the above-described problems and achieve the object, the present invention provides a continuous operation for each tact, which is a specified unit of work, from a continuous image group that is a plurality of image data including a monitoring target and continuously captured. An element extraction unit that extracts an element indicating the characteristics of the image group, and a determination unit that determines whether the tact to be determined in the monitoring target is an unsteady state or a steady state based on the element of each tact extracted by the element extraction unit The element extraction unit extracts a first element indicating the characteristics of each image data from each image data to be monitored, and changes the temporal change of the first element from the first element for one tact. The second element indicating the feature is extracted, and when the second element is indicated by a vector, the determination unit is data indicating vector distribution information indicating the second element of the plurality of tacts determined to be in the steady state Using groups, the tact to be judged is non-stationary It characterized that you determine state or steady state.
Claims (14)
前記要素抽出部で抽出された各タクトの要素に基づいて、前記監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定部と、
を備えることを特徴とする非定常検出装置。An element extraction unit that extracts an element indicating a feature of a continuous image group for each tact that is a specified work unit from a continuous image group that is a plurality of image data that is continuously captured including a monitoring target;
A determination unit that determines whether the tact to be determined in the monitoring target is an unsteady state or a steady state based on the elements of each tact extracted by the element extraction unit;
A non-stationary detection device comprising:
前記判定部は、前記第2の要素をベクトルで示した場合に、定常状態と判定された複数のタクトの第2の要素を示すベクトルの分布情報を示すデータ群を用いて、判定対象のタクトが非定常状態か定常状態かを判定する、
ことを特徴とする請求項1に記載の非定常検出装置。The element extraction unit extracts a first element indicating a feature of each image data from each image data to be monitored using an image compression technique, and uses the image compression technique from the first element for one tact. And extracting a second element that characterizes the temporal change of the first element,
The determination unit, when the second element is indicated by a vector, uses a data group indicating vector distribution information indicating the second element of a plurality of tacts determined to be in a steady state, and determines a tact to be determined Determine if is unsteady or steady state,
The non-stationary detection device according to claim 1.
ことを特徴とする請求項2に記載の非定常検出装置。The image compression technique is principal component analysis or weblet transform.
The non-stationary detection device according to claim 2.
ことを特徴とする請求項2または3に記載の非定常検出装置。When the distance between the center coordinate or the center of gravity of the data group and the position indicated by a vector representing the second element of the determination target tact is greater than or equal to the determination threshold, the determination unit determines that the determination target tact is not Judge as normal
The unsteady state detection device according to claim 2 or 3.
を備え、
前記判定部は、定常状態と判定したタクトの第2の要素を示すベクトルの情報を前記記憶部に記憶させ、前記データ群に追加する、
ことを特徴とする請求項2から4のいずれか1つに記載の非定常検出装置。A storage unit for storing information of the data group;
With
The determination unit stores information on a vector indicating the second element of the tact determined to be a steady state in the storage unit, and adds the information to the data group.
The unsteady state detection device according to any one of claims 2 to 4 characterized by things.
を備え、
前記要素抽出部は、前記第1の要素分割部で分割された1タクト分の第1の要素から前記第2の要素を抽出する、
ことを特徴とする請求項2から5のいずれか1つに記載の非定常検出装置。A first element dividing unit that reads out a plurality of first elements extracted by the element extracting unit into a first tact of a first element;
With
The element extraction unit extracts the second element from the first element for one tact divided by the first element division unit;
The unsteady state detection device according to any one of claims 2 to 5.
を備えることを特徴とする請求項2から6のいずれか1つに記載の非定常検出装置。A display generation unit that performs control to generate and display display information including a determination result indicating that the determination target tact is in an unsteady state when the determination unit determines that the determination target tact is in an unsteady state;
The unsteady state detection device according to any one of claims 2 to 6, further comprising:
前記表示生成部は、前記記憶部に記憶されている定常状態と判定されたタクトの1タクト分の第1の要素、および非定常状態と判定された判定対象のタクトの1タクト分の第1の要素から各タクトの監視対象の画像データを復元し、復元した各タクトの監視対象の画像データの差分を示す画像情報を含む前記表示情報を生成する、
ことを特徴とする請求項2から6のいずれか1つに記載の非定常検出装置。The element extraction unit stores the first tact worth of the first element used when extracting the second element in the storage unit,
The display generation unit includes a first element for one tact of a tact determined to be a steady state and a first tact for a tact to be determined to be determined to be an unsteady state. The image data to be monitored for each tact is restored from the elements of the tact, and the display information including image information indicating the difference between the image data to be monitored for each tact is generated.
The unsteady state detection device according to any one of claims 2 to 6.
ことを特徴とする請求項1から8のいずれか1つに記載の非定常検出装置。The one tact is one or a plurality of manufacturing steps in the monitoring target manufacturing line, and is a processing range of a programmable controller that controls manufacturing equipment in the manufacturing line.
The unsteady detection device according to any one of claims 1 to 8, wherein
ことを特徴とする請求項1から8のいずれか1つに記載の非定常検出装置。The one tact is one or a plurality of manufacturing steps in the manufacturing line to be monitored, and is an interval at which a measuring instrument that detects an event defined in the manufacturing line detects the event.
The unsteady detection device according to any one of claims 1 to 8, wherein
前記要素抽出部で抽出された各タクトの要素に基づいて、前記監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定部と、
を備え、
前記検出データは、製造機器の動作の状態を計測した計測器の値、または製造機器のロギングデータである、
ことを特徴とする非定常検出装置。An element extraction unit that extracts an element indicating a feature of a detection data group for each tact that is a specified unit of work from a detection data group that is a plurality of detection data in which a state of a monitoring target is continuously detected;
A determination unit that determines whether the tact to be determined in the monitoring target is an unsteady state or a steady state based on the elements of each tact extracted by the element extraction unit;
With
The detection data is a value of a measuring instrument that measures the state of operation of the manufacturing equipment, or logging data of the manufacturing equipment.
A non-stationary detection device characterized by that.
前記監視対象が複数ある場合において、各々が規定された監視対象を撮影して得られた画像データを出力する複数の撮像装置と、
を備え、
前記非定常検出装置および前記複数の撮像装置がネットワーク経由で接続され、前記非定常検出装置が各監視対象についてタクト毎に非定常状態か定常状態かを判定することを特徴とする非定常検出システム。The non-stationary detection device according to claim 1,
In the case where there are a plurality of the monitoring targets, a plurality of imaging devices that output image data obtained by shooting each of the defined monitoring targets;
With
The non-stationary detection system, wherein the non-stationary detection device and the plurality of imaging devices are connected via a network, and the non-stationary detection device determines whether each monitoring target is unsteady or steady for each tact. .
監視対象を含み連続して撮影された複数の画像データである連続画像群から、規定された作業単位であるタクト毎の連続画像群の特徴を示す要素を抽出する要素抽出ステップと、
前記要素抽出ステップで抽出された各タクトの要素に基づいて、前記監視対象において判定対象のタクトが非定常状態か定常状態かを判定する判定ステップと、
を含むことを特徴とする非定常検出方法。A non-stationary detection method for a non-stationary detection device for detecting whether or not a monitoring target is in a non-stationary state,
An element extraction step for extracting an element indicating a feature of a continuous image group for each tact, which is a specified unit of work, from a continuous image group that is a plurality of image data continuously captured including a monitoring target;
A determination step of determining whether the tact to be determined in the monitoring target is an unsteady state or a steady state based on the elements of each tact extracted in the element extraction step;
A non-stationary detection method comprising:
監視対象の各画像データから画像圧縮技術を用いて各画像データの特徴を示す第1の要素を抽出する第1の要素抽出ステップと、
1タクト分の前記第1の要素から前記画像圧縮技術を用いて前記第1の要素の時間的変化の特徴を示す第2の要素を抽出する第2の要素抽出ステップと、
を含み、
前記判定ステップでは、前記第2の要素をベクトルで示した場合に、定常状態と判定された複数のタクトの第2の要素を示すベクトルの分布情報を示すデータ群を用いて、判定対象のタクトが非定常状態か定常状態かを判定する、
ことを特徴とする請求項13に記載の非定常検出方法。The element extraction step includes:
A first element extraction step of extracting a first element indicating the characteristics of each image data from each image data to be monitored using an image compression technique;
A second element extraction step for extracting a second element indicating a temporal change characteristic of the first element from the first element for one tact using the image compression technique;
Including
In the determination step, when the second element is indicated by a vector, a tact to be determined is determined using a data group indicating vector distribution information indicating the second element of a plurality of tacts determined to be in a steady state. Determine if is unsteady or steady state,
The non-stationary detection method according to claim 13.
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/062364 WO2017183107A1 (en) | 2016-04-19 | 2016-04-19 | Unsteadiness detection device, unsteadiness detection system, and unsteadiness detection method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6195688B1 JP6195688B1 (en) | 2017-09-13 |
JPWO2017183107A1 true JPWO2017183107A1 (en) | 2018-04-26 |
Family
ID=59854938
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017503977A Active JP6195688B1 (en) | 2016-04-19 | 2016-04-19 | Transient detection device, transient detection system, and transient detection method |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6195688B1 (en) |
CN (1) | CN109074052B (en) |
WO (1) | WO2017183107A1 (en) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113189935B (en) * | 2021-04-29 | 2022-09-30 | 浙江陀曼云计算有限公司 | Non-invasive production beat prediction method and system based on time sequence power data |
CN114554088B (en) * | 2022-02-16 | 2023-04-18 | 广州市斯睿特智能科技有限公司 | High-speed beat detection system |
CN114637264B (en) * | 2022-03-15 | 2024-05-17 | 广州明珞装备股份有限公司 | Motion stability analysis method, system, device and storage medium |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08185204A (en) * | 1994-12-27 | 1996-07-16 | Yazaki Corp | Production management system for assembly product by plural sequencers |
JP2005313294A (en) * | 2004-04-30 | 2005-11-10 | Mitsuba Corp | Production support system, and production support method |
JP4641450B2 (en) * | 2005-05-23 | 2011-03-02 | 日本電信電話株式会社 | Unsteady image detection method, unsteady image detection device, and unsteady image detection program |
JP2007243846A (en) * | 2006-03-10 | 2007-09-20 | Matsushita Electric Ind Co Ltd | Image extraction analyzer, image extraction analyzing system, and image extraction analysis method |
JP5675562B2 (en) * | 2010-12-28 | 2015-02-25 | 三菱電機株式会社 | Supervisory control system |
JP2012204455A (en) * | 2011-03-24 | 2012-10-22 | Mitsubishi Electric Corp | Mounting failure analysis system and process abnormality monitoring system |
JP2013191185A (en) * | 2012-03-15 | 2013-09-26 | Mitsubishi Electric Corp | Abnormality detector |
JP2013246729A (en) * | 2012-05-28 | 2013-12-09 | Nec Corp | Similar time series data search system |
CN102825605B (en) * | 2012-09-13 | 2015-02-18 | 昆山市工业技术研究院有限责任公司 | Material delivering robot with visual detecting function |
JP5684941B1 (en) * | 2014-07-31 | 2015-03-18 | 株式会社日立パワーソリューションズ | Abnormal sign diagnostic apparatus and abnormal sign diagnostic method |
JP5946573B1 (en) * | 2015-08-05 | 2016-07-06 | 株式会社日立パワーソリューションズ | Abnormal sign diagnosis system and abnormality sign diagnosis method |
-
2016
- 2016-04-19 JP JP2017503977A patent/JP6195688B1/en active Active
- 2016-04-19 CN CN201680084571.5A patent/CN109074052B/en active Active
- 2016-04-19 WO PCT/JP2016/062364 patent/WO2017183107A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
CN109074052B (en) | 2020-01-03 |
CN109074052A (en) | 2018-12-21 |
JP6195688B1 (en) | 2017-09-13 |
WO2017183107A1 (en) | 2017-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6076571B1 (en) | Information processing apparatus, information processing system, information processing method, and program | |
WO2016116961A1 (en) | Information processing device and information processing method | |
JP6364845B2 (en) | Vibration measuring device | |
US20210116331A1 (en) | Anomaly analysis method, program, and system | |
KR20130065621A (en) | Abnormality detection apparatus for periodic driving system, processing apparatus including periodic driving system, abnormality detection method for periodic driving system, and computer program | |
CN109668654B (en) | Method and system for monitoring equipment | |
JP6195688B1 (en) | Transient detection device, transient detection system, and transient detection method | |
JP2013033459A (en) | Abnormality monitoring system and abnormality monitoring method | |
CN111027531A (en) | Pointer instrument information identification method and device and electronic equipment | |
JPWO2016143072A1 (en) | Programmable logic controller | |
CN110223489A (en) | A kind of monitoring method and device of engineering object | |
JP6861564B2 (en) | Monitoring and control device | |
JP2007213194A (en) | Situation analytical system and situation analytical method | |
JP2018082281A5 (en) | Information processing apparatus, control method, and program | |
JP6409375B2 (en) | Parameter classification device | |
CA3114157C (en) | Process management device, process management method, and process management program storage medium | |
US11971694B2 (en) | Abnormal-sound detection device and abnormal-sound detection method | |
JPWO2017164368A1 (en) | Monitoring device, monitoring method, program | |
KR101323940B1 (en) | Apparatus and method for Alarm processing of Human Machine Interface | |
US9746961B2 (en) | Background signal processing system and background signal processing method | |
JP6459345B2 (en) | Fluctuation data management system and its specificity detection method | |
JP6381189B2 (en) | Monitoring device | |
US9569033B2 (en) | Background signal processing system and background signal processing method | |
WO2023105725A1 (en) | Time series data processing method | |
US9594456B2 (en) | Background signal processing system and background signal processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170630 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170718 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170815 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6195688 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |