[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7581861B2 - 制御システム、サポート装置およびラベル付与方法 - Google Patents

制御システム、サポート装置およびラベル付与方法 Download PDF

Info

Publication number
JP7581861B2
JP7581861B2 JP2020216403A JP2020216403A JP7581861B2 JP 7581861 B2 JP7581861 B2 JP 7581861B2 JP 2020216403 A JP2020216403 A JP 2020216403A JP 2020216403 A JP2020216403 A JP 2020216403A JP 7581861 B2 JP7581861 B2 JP 7581861B2
Authority
JP
Japan
Prior art keywords
control
image
information collected
label
control system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020216403A
Other languages
English (en)
Other versions
JP2022101969A (ja
Inventor
真輔 川ノ上
健斗 土川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2020216403A priority Critical patent/JP7581861B2/ja
Priority to PCT/JP2021/009572 priority patent/WO2022137580A1/ja
Publication of JP2022101969A publication Critical patent/JP2022101969A/ja
Application granted granted Critical
Publication of JP7581861B2 publication Critical patent/JP7581861B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本技術は、制御システム、制御システムに含まれる制御装置に接続されるサポート装置、および制御システムで用いられるラベル付与方法に関する。
様々な生産現場において、機械や装置に対する予知保全により設備稼働率を向上させたいというニーズが存在する。予知保全とは、機械や装置に生じる何らかの異常を検知して、設備を停止しなければ状態になる前に、整備や交換などの保守作業を行うような保全形態を意味する。このような予知保全を実現するために、機械や装置の状態値を収集するとともに、収集された状態値に基づいて、当該機械や装置に何らかの異常が生じているか否かを判断するような機械学習を用いた仕組みが実用化されている。
このような機械学習を実現するにあたって、ラベルが付与されたデータからなる学習データセットを用意する必要がある。一般的に、ラベル付与は、手間および時間を要する処理である。例えば、特表2018-537798号公報(特許文献1)は、目標データセットのラベル付けされていない構成要素の効率的なラベル付けを実現するためのラベル付けまたはラベル検証を開示する。
特表2018-537798号公報
実際の生産現場での運用を考慮すると、正常とのラベルが付与されるデータに比較して、異常とのラベルが付与されるデータが少なく、特表2018-537798号公報(特許文献1)に開示されるようなラベル検証の方法を適用することは容易ではない。
実際の生産現場での運用に適したラベル付与および学習データの取得方法が要望されている。本技術の一つの目的は、このようなニーズを満たすことである。
本技術の一例に従う制御システムは、制御対象を制御するための制御演算を実行する制御演算部と、制御対象から収集される情報に基づいて、モデルを参照して、制御対象における異常を検知する異常検知部と、異常検知の対象に関連するものを撮像した画像を収集する画像収集部と、制御対象から収集された情報と撮像された画像とを時間的に対応付けて出力するとともに、ラベルの指定を受付けるユーザインターフェイス部と、指定されたラベルを制御対象から収集された情報に付加することで、モデルを構成するための学習データを生成する生成部とを含む。
この構成によれば、異常検知の対象に関連するものを撮像した画像を参照しながら、適切なラベルを設定することができるので、ラベル付与の正確性および付与作業の効率を高めることができる。
ユーザインターフェイス部は、制御対象から収集された情報のうち選択された情報に対応する画像を出力してもよい。この構成によれば、複数の画像を収集した場合であっても、対応する画像を適切に出力できる。
ユーザインターフェイス部は、類似した複数の画像にそれぞれ対応する情報について、当該複数の画像のうちいずれかの画像に対応する情報に対して指定されたラベルと同じラベルを反映してもよい。この構成によれば、画像の類似性を利用して、ラベル付与の効率を高めることができる。
ユーザインターフェイス部は、制御対象から収集された複数の情報に対して、指定された同一のラベルを反映してもよい。この構成によれば、例えば、明らかに異常な情報に対して、一括して同一のラベルを付与できるので、ラベル付与の効率を高めることができる。
画像は、静止画および動画の少なくとも一方を含んでいてもよい。この構成によれば、状況に応じて、静止画および動画のいずれかを選択できる。
ユーザインターフェイス部は、画像が動画を含む場合に、動画の再生に併せて、制御対象から収集された情報のうち対応する情報の位置を表示してもよい。この構成によれば、時系列に記録された動画であっても、ラベルを付与するための画像を容易に確認できる。
制御システムは、学習データに基づいてモデルを生成するモデル生成部をさらに含んでいてもよい。この構成によれば、生成した画像データに基づいて、異常検知に用いるモデルを生成できる。
制御システムは、制御対象から収集された情報として、制御対象の状態値から特徴量を算出する特徴量算出部をさらに含んでいてもよい。この構成によれば、特徴量を用いて異常検知を行う場合などに適した学習データを生成できる。
本技術の別の一例に従えば、制御対象を制御するための制御演算を実行する制御演算部と、制御対象から収集される情報に基づいて、モデルを参照して、制御対象における異常を検知する異常検知部とを備える制御装置に接続されるサポート装置が提供される。サポート装置は、異常検知の対象に関連するものを撮像した画像を取得する画像取得部と、制御対象から収集された情報と撮像された画像とを時間的に対応付けて出力するとともに、ラベルの指定を受付けるユーザインターフェイス部と、指定されたラベルを制御対象から収集された情報に付加することで、モデルを構成するための学習データを生成する生成部とを含む。
本技術のさらに別の一例に従えば、制御対象から収集される情報に基づいて、モデルを参照して、制御対象における異常を検知する制御システムに向けられたラベル付与方法が提供される。ラベル付与方法は、制御対象から収集される情報を取得するステップと、異常検知の対象に関連するものを撮像した画像を取得するステップと、制御対象から収集された情報と撮像された画像とを時間的に対応付けて出力するステップと、ラベルの指定を受付けるステップと、指定されたラベルを制御対象から収集された情報に付加することで、モデルを構成するための学習データを生成するステップとを含む。
本技術によれば、実際の生産現場での運用に適したラベル付与および学習データの取得方法を実現できる。
本実施の形態に係る制御システムの全体構成例を示す模式図である。 本実施の形態に係る制御システムの主要な構成および運用形態の一例を説明するための図である。 本実施の形態に係る制御システムにおけるラベル付与処理の概要を説明するための図である。 本実施の形態に係る制御システムを構成する制御装置のハードウェア構成例を示すブロック図である。 本実施の形態に係る制御システムを構成するサポート装置のハードウェア構成例を示すブロック図である。 本実施の形態に係る制御システムを構成する画像収集部のハードウェア構成例を示すブロック図である。 本実施の形態に係る制御システムにおけるラベル付与処理を実現するための機能構成例を示す模式図である。 本実施の形態に係る制御システムにおける時系列データと画像との対応付けを説明するための図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面の一例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上でラベル付与の処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上で1つのラベルを他に反映する処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上で1つのラベルを他に反映する処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上で画像が存在しない場合のラベル付与の処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上で画像が存在しない場合のラベル付与の処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面上で特異的な特徴量に対してラベルを付与する処理手順例を示す模式図である。 本実施の形態に係る制御システムにおいて提供されるユーザインターフェイス画面において動画を表示する例を示す模式図である。 本実施の形態に係る制御システムにおけるラベル付与処理に係る処理手順を示すフローチャートである。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
<A.適用例>
まず、本発明が適用される場面の一例について説明する。
図1は、本実施の形態に係る制御システム1の全体構成例を示す模式図である。図1を参照して、本実施の形態に係る制御システム1は、主たる構成要素として、制御対象を制御する制御装置100と、制御装置100に接続されるサポート装置200と、ラベル付与に利用される画像(静止画および/または動画)を収集する画像収集部300とを含む。
制御装置100は、PLC(プログラマブルコントローラ)などの、一種のコンピュータとして具現化されてもよい。制御装置100は、フィールドバス2を介してフィールド装置群10と接続される。フィールドバス2は、産業用の通信プロトコルを採用することが好ましい。このような通信プロトコルとしては、EtherCAT(登録商標)、EtherNet/IP(登録商標)、DeviceNet(登録商標)、CompoNet(登録商標)などが知られている。
フィールド装置群10は、制御対象または制御に関連する製造装置や生産ラインなど(以下、「フィールド」とも総称する。)から入力データを収集する装置を含む。このような入力データを収集する装置としては、入力リレーや各種センサなどが想定される。フィールド装置群10は、さらに、制御装置100にて生成される指令(以下、「出力データ」とも称す。)に基づいて、フィールドに対して何らかの作用を与える装置を含む。このようなフィールドに対して何らかの作用を与える装置としては、出力リレー、コンタクタ、サーボドライバおよびサーボモータ、その他任意のアクチュエータが想定される。これらのフィールド装置群10は、フィールドバス2を介して、制御装置100との間で、入力データおよび出力データを含むデータを遣り取りする。
図1に示す構成例においては、フィールド装置群10は、リモートI/O(Input/Output)装置12と、リレー群14と、サーボドライバ18およびサーボモータ20とを含む。
リモートI/O装置12は、フィールドバス2を介して通信を行う通信部と、入力データの収集および出力データの出力を行うための入出力部(以下、「I/Oユニット」とも称す。)とを含む。このようなI/Oユニットを介して、制御装置100とフィールドとの間で入力データおよび出力データが遣り取りされる。図1には、リレー群14を介して、入力データおよび出力データとして、デジタル信号が遣り取りされる例が示されている。
I/Oユニットは、フィールドバスに直接接続されるようにしてもよい。図1には、フィールドバス2にI/Oユニット16が直接接続されている例を示す。
サーボドライバ18は、制御装置100からの出力データ(例えば、位置指令など)に従って、サーボモータ20を駆動する。
上述のように、フィールドバス2を介して、制御装置100とフィールド装置群10との間で入力データおよび出力データが遣り取りされることになるが、これらの遣り取りされるデータは、数百μsecオーダ~数十msecオーダのごく短い周期で更新されることになる。なお、このような遣り取りされるデータの更新処理を、「I/Oリフレッシュ処理」と称することもある。
制御装置100は、設備や機械などの制御対象を制御するための制御演算を実行するPLCエンジン(図2に示すPLCエンジン130)を有している。PLCエンジンは、制御演算部に相当し、入力データに基づく制御演算を実行することで、出力データを決定する。制御装置100は、フィールド装置群10からの入力データ、フィールド装置群10への出力データ、および、制御装置100の内部で管理される内部データなどを順次格納する時系列データベース(以下、「TSDB(Time Series Data Base)」とも記す。)140を有している。以下、TSDB140に格納されるデータを「時系列データ」とも称す。
制御装置100は、制御対象から収集される情報に基づいて、予め用意されたモデル160を参照して、制御対象における異常を検知する異常検知エンジン150を有している。制御対象から収集される情報としては、典型的には、TSDB140に格納された時系列データ(あるいは、時系列データから算出された特徴量)が用いられる。すなわち、異常検知エンジン150は、TSDB140に格納された時系列データに基づいて、制御対象での異常の発生あるいは異常の可能性を判断する。
制御装置100は、上位ネットワーク6を介してサーバ400に接続されてもよいし、フィールドバス4を介して1または複数の表示装置500と接続されてもよい。なお、サーバ400および表示装置500はオプショナルな構成であり、制御システム1の必須の構成ではない。
サーバ400は、制御装置100に対して任意の情報を提供し、あるいは、制御装置100からのデータを収集するような処理を担当する。
表示装置500は、ユーザからの操作を受けて、制御装置100に対してユーザ操作に応じたコマンドなどを送信するとともに、制御装置100での演算結果などをグラフィカルに表示する。
サポート装置200は、制御装置100が制御対象を制御するために必要な準備を支援する情報処理装置(コンピュータの一例)である。具体的には、サポート装置200は、制御装置100で実行されるユーザプログラムの開発環境(プログラム作成編集ツール、パーサ、コンパイラなど)、制御装置100および制御装置100に接続される各種デバイスのパラメータ(コンフィギュレーション)を設定するための設定環境、生成したユーザプログラムを制御装置100へ送信する機能、制御装置100上で実行されるユーザプログラムなどをオンラインで修正・変更する機能、などを提供する。
さらに、サポート装置200は、制御装置100に実装される異常検知エンジン150が参照するモデル160の生成および調整などを支援するための機能を有している。
画像収集部300は、異常検知の対象に関連するものを撮像した画像を収集する。より具体的には、画像収集部300は、サポート装置200がモデル160を生成および調整するために用いられる学習データの生成を支援するための画像を収集する。画像収集部300は、典型的には、任意の位置に配置されるカメラ330を有している。画像としては、静止画および動画のいずれであってもよいし、静止画および動画の両方を含んでいてもよい。画像収集部300が収集した画像は、サポート装置200での利用が可能になっている。
ここで、異常検知の対象に関連するものとは、異常検知エンジン150の検知ロジック(すなわち、モデル160)を学習するための学習データの生成に利用できる情報であれば、どのようなものであってもよい。異常検知の対象に関連するものとしては、例えば、生産されるワーク(製品あるいは半製品)や生産設備自体などが考えられる。
次に、制御装置100の異常検知エンジン150の構成および運用の一例について説明する。サポート装置200は、TSDB140に格納された時系列データを取得し、データマイニングにより、異常検知エンジン150が参照するモデル160を定義するパラメータを決定する。そして、サポート装置200は、決定したパラメータを制御装置100へ転送する。これによって、制御装置100の異常検知エンジン150が有効に構成される。
運用後、サポート装置200は、TSDB140に格納された時系列データを取得するとともに、画像収集部300から画像を取得する。ユーザは、サポート装置200を操作して、画像を見ながら時系列データに対してラベルを付与する。サポート装置200は、ラベルが付与された時系列データに基づいて、モデル160を定義するパラメータを調整する。すなわち、モデル160が再生成あるいは調整されることになる。そして、サポート装置200は、調整したパラメータを制御装置100へ転送する。これによって、制御装置100の異常検知エンジン150がより最適化される。
図2は、本実施の形態に係る制御システム1の主要な構成および運用形態の一例を説明するための図である。図2を参照して、制御システム1における異常検知の処理は、典型的には、データ収集フェーズ30、データ解析フェーズ32、運用フェーズ34の順次で実現される。
データ収集フェーズ30においては、異常検知の対象に関連する時系列データが収集される。データ解析フェーズ32においては、データ収集フェーズ30において収集された時系列データに対するデータマイニングなどによって、目的の異常検知に適した特徴量が検討されるとともに、検討された特徴量に応じたモデル160が生成される。データ解析フェーズ32において生成されたモデル160を利用して、運用フェーズ34が開始される。
運用フェーズ34の開始後に、検知すべき異常を見逃した、あるいは、検知すべきではない異常を検知したといった不足検知や誤検知が発生した場合には、再学習によりモデル160が更新されることもある。あるいは、異常検知の対象に何らかの変化(例えば、経年変化や動作条件の変化など)が生じた場合にも、再学習によりモデル160を更新するようにしてもよい。
このような処理手順を考慮して、サポート装置200は、データマイニングツール240およびモデル生成ツール250を含んでいてもよい。データマイニングツール240は、主として、データ解析フェーズ32において必要な処理を提供する。モデル生成ツール250は、主として、運用フェーズ34において必要な処理を提供する。
より具体的には、データマイニングツール240は、典型的には、特徴量生成処理242と、特徴量選択処理244と、モデル生成処理246と、しきい値設定処理248とを提供する。モデル生成ツール250は、モデル更新処理252と、しきい値調整処理254とを提供する。さらに、モデル生成ツール250は、ラベル付与処理260を提供する。
ラベル付与処理260は、画像収集部300から提供される画像342を用いて、ユーザによる時系列データ142(あるいは、時系列データ142から算出された特徴量)に対してラベルの付与を支援する処理である。ラベルが付与された時系列データ142(あるいは、時系列データ142から算出された特徴量)が学習データとなる。学習データの集合が学習データセットとなり、この学習データセットを用いて、再学習およびモデル160の更新が行われる。すなわち、モデル更新処理252およびしきい値調整処理254は、複数の学習データに基づいてモデル160を生成あるいは更新する。
画像収集部300は、任意の位置に配置されるカメラ330により撮像される画像342を順次格納するデータベース(以下、「DB(Time Series Data Base)」とも記す。)340を有している。
上述したように、制御装置100は、PLCエンジン130、TSDB140および異常検知エンジン150を有している。
PLCエンジン130は、制御対象に応じて任意に作成されるユーザプログラム132により定義される制御演算を周期的に実行する。ユーザプログラム132では、AIライブラリ134が利用可能になっている。あるいは、ユーザプログラム132にAIライブラリ134が組み込まれていてもよい。AIライブラリ134の内容、特性、動作などは、データ解析フェーズ32において、データマイニングツール240を用いて決定されてもよい。
PLCエンジン130がユーザプログラム132に含まれるAIライブラリ134の部分を実行することで、予め指定されたデータから1または複数の特徴量152が算出され、算出された特徴量152が異常検知エンジン150へ提供される。
PLCエンジン130は、データ管理部136を有しており、入力データ、出力データ、および、内部データをユーザプログラム132から参照可能な形で保持する。データ管理部136が管理するデータの値は、I/Oリフレッシュ処理により所定周期(I/Oリフレッシュ周期)毎に更新される。また、データ管理部136が管理するデータのうち予め指定されたデータがTSDB140に所定周期毎に格納される。その結果、TSDB140からは指定されたデータの所定周期毎の値の変化、すなわち時系列データ142が出力される。
異常検知エンジン150は、PLCエンジン130からの特徴量152に基づいて、モデル160を参照して、異常の発生あるいは異常の可能性を判断する。モデル160は、データ解析フェーズ32において、データマイニングツール240を用いて決定されてもよいし、運用フェーズ34において、モデル生成ツール250を用いて決定されてもよい。
典型的には、モデル160は、1または複数の特徴量152が入力されると、異常の発生を示す値(確率あるいは尤度)を出力する関数である。モデル160を定義するパラメータとしては、モデル160の実体である関数を定義する各係数と、モデル160から出力される値を評価するためのしきい値とを含んでいてもよい。
本実施の形態に係る制御システム1は、サポート装置200のラベル付与処理260および画像収集部300により、学習データの集合(学習データセット)の生成を支援する機能を提供しており、この機能によって、再学習などをより容易に行うことができる。
図3は、本実施の形態に係る制御システム1におけるラベル付与処理260の概要を説明するための図である。図3を参照して、サポート装置200は、時系列データ142と、時系列データ142が収集(観測)されたタイミングにおいて撮像された画像342とのセットを取得する。
サポート装置200は、画像342をユーザに提示するとともに、ユーザにより指定されたラベル144を受付けて、対応する時系列データ142(あるいは、時系列データ142から算出された特徴量)と対応付ける。ラベル144は、例えば、対応する時系列データ142が「正常」であるか、「異常」であるかを示す値を含む。
時系列データ142と対応するラベル144とのセットが1つの学習データ146として利用される。学習データ146の集合が学習データセットとなる。ラベル付与処理260によって生成された学習データ146を複数用いた再学習により、モデル160の再生成あるいは調整が行われる。
本実施の形態に係るラベル付与処理260では、ユーザに対して、時系列データ142が収集されたタイミングにおいて撮像された画像342が提示されるので、ユーザは、時系列データ142の各々に対して、付与すべきラベルを容易に把握できる。そのため、運用フェーズ34などにおいて、学習データ146をより容易に作成できる。
<B.ハードウェア構成例>
次に、本実施の形態に係る制御システム1を構成する主要な装置のハードウェア構成例について説明する。
(b1:制御装置100のハードウェア構成例)
図4は、本実施の形態に係る制御システム1を構成する制御装置100のハードウェア構成例を示すブロック図である。図4を参照して、制御装置100は、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)などのプロセッサ102と、チップセット104と、主記憶装置106と、二次記憶装置108と、上位ネットワークコントローラ110と、USB(Universal Serial Bus)コントローラ112と、メモリカードインターフェイス114と、内部バスコントローラ122と、フィールドバスコントローラ118,120と、I/Oユニット124-1,124-2,…とを含む。
プロセッサ102は、二次記憶装置108に格納された各種プログラムを読み出して、主記憶装置106に展開して実行することで、PLCエンジン130および異常検知エンジン150を実現する。チップセット104は、プロセッサ102と各コンポーネントとの間のデータ伝送などを制御する。
二次記憶装置108には、PLCエンジン130および異常検知エンジン150を実現するためのシステムプログラム131に加えて、PLCエンジン130を利用して実行されるユーザプログラム132が格納される。二次記憶装置108の一部の領域は、TSDB140として利用されてもよい。
上位ネットワークコントローラ110は、上位ネットワーク6を介した他の装置との間のデータの遣り取りを制御する。USBコントローラ112は、USB接続を介してサポート装置200との間のデータの遣り取りを制御する。
メモリカードインターフェイス114は、メモリカード116を着脱可能に構成されており、メモリカード116に対してデータを書込み、メモリカード116から各種データ(ユーザプログラムやトレースデータなど)を読出すことが可能になっている。
内部バスコントローラ122は、制御装置100に搭載されるI/Oユニット124-1,124-2,…との間でデータを遣り取りするインターフェイスである。
フィールドバスコントローラ118は、フィールドバス2を介した他の装置との間のデータの遣り取りを制御する。同様に、フィールドバスコントローラ120は、フィールドバス4を介した他の装置との間のデータの遣り取りを制御する。
図4には、プロセッサ102がプログラムを実行することで必要な機能が提供される構成例を示したが、これらの提供される機能の一部または全部を、専用のハードウェア回路(例えば、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)など)を用いて実装してもよい。あるいは、制御装置100の主要部を、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコンをベースとした産業用パソコン)を用いて実現してもよい。この場合には、仮想化技術を用いて、用途の異なる複数のOS(Operating System)を並列的に実行させるとともに、各OS上で必要なアプリケーションを実行させるようにしてもよい。
(b2:サポート装置200のハードウェア構成例)
本実施の形態に係るサポート装置200は、一例として、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコン)を用いてプログラムを実行することで実現される。
図5は、本実施の形態に係る制御システム1を構成するサポート装置200のハードウェア構成例を示すブロック図である。図5を参照して、サポート装置200は、CPUやMPUなどのプロセッサ202と、光学ドライブ204と、主記憶装置206と、二次記憶装置208と、USBコントローラ212と、ネットワークコントローラ214と、入力部216と、表示部218とを含む。これらのコンポーネントはバス220を介して接続される。
プロセッサ202は、二次記憶装置208に格納された各種プログラムを読み出して、主記憶装置206に展開して実行することで、後述するようなラベル付与処理を含む各種処理を実現する。
二次記憶装置208は、例えば、HDD(Hard Disk Drive)やSSD(Flash Solid State Drive)などで構成される。二次記憶装置208には、典型的には、OS222と、制御装置100との間で異常検知機能に関するデータを遣り取りするためのPLCインターフェイスプログラム224と、サポート装置200において実行されるユーザプログラムの作成、作成したユーザプログラムのデバッグ、システム構成の定義、各種パラメータの設定などを行うための開発プログラム226と、データマイニングツール240を実現するためのデータマイニングプログラム228と、モデル生成ツール250を実現するためのモデル生成プログラム230とが格納される。二次記憶装置208には、図5に示すプログラム以外の必要なプログラムが格納されてもよい。
サポート装置200は、光学ドライブ204を有しており、コンピュータ読取可能なプログラムを非一過的に格納する記録媒体205(例えば、DVD(Digital Versatile Disc)などの光学記録媒体)から、その中に格納されたプログラムが読取られて二次記憶装置208などにインストールされる。
サポート装置200で実行される各種プログラムは、コンピュータ読取可能な記録媒体205を介してインストールされてもよいが、ネットワーク上のサーバ装置などからダウンロードする形でインストールするようにしてもよい。また、本実施の形態に係るサポート装置200が提供する機能は、OS222が提供するモジュールの一部を利用する形で実現される場合もある。
USBコントローラ212は、USB接続を介して制御装置100との間のデータの遣り取りを制御する。ネットワークコントローラ214は、任意のネットワークを介した他の装置との間のデータの遣り取りを制御する。
入力部216は、キーボードやマウスなどで構成され、ユーザ操作を受付ける。表示部218は、ディスプレイ、各種インジケータ、プリンタなどで構成され、プロセッサ202からの処理結果などを出力する。
図5には、プロセッサ202がプログラムを実行することで必要な機能が提供される構成例を示したが、これらの提供される機能の一部または全部を、専用のハードウェア回路(例えば、ASICまたはFPGAなど)を用いて実装してもよい。
(b3:画像収集部300のハードウェア構成例)
本実施の形態に係る画像収集部300は、一例として、汎用的なアーキテクチャに従うハードウェア(例えば、汎用パソコン)を用いてプログラムを実行することで実現される。
図6は、本実施の形態に係る制御システム1を構成する画像収集部300のハードウェア構成例を示すブロック図である。図6を参照して、画像収集部300は、CPUやMPUなどのプロセッサ302と、主記憶装置306と、二次記憶装置308と、カメラコントローラ312と、ネットワークコントローラ314と、入力部316と、表示部318とを含む。これらのコンポーネントはバス320を介して接続される。
プロセッサ302は、二次記憶装置308に格納された各種プログラムを読み出して、主記憶装置306に展開して実行することで、後述するようなモデル生成処理を含む各種処理を実現する。
二次記憶装置308は、例えば、HDDやSSDなどで構成される。二次記憶装置308には、典型的には、OS322と、撮像に係る処理などを実現するための実現するためのシステムプログラム324とが格納される。二次記憶装置308には、図6に示すプログラム以外の必要なプログラムが格納されてもよい。
画像収集部300で実行される各種プログラムは、ネットワーク上のサーバ装置などからダウンロードする形でインストールするようにしてもよい。また、本実施の形態に係る画像収集部300が提供する機能は、OS322が提供するモジュールの一部を利用する形で実現される場合もある。
カメラコントローラ312は、カメラ330に対して撮像指令を与えるとともに、カメラ330により撮像された画像を取得する。
ネットワークコントローラ314は、任意のネットワークを介した他の装置(例えば、サポート装置200)との間のデータの遣り取りを制御する。
入力部316は、キーボードやマウスなどで構成され、ユーザ操作を受付ける。表示部318は、ディスプレイ、各種インジケータ、プリンタなどで構成され、プロセッサ302からの処理結果などを出力する。
図6には、プロセッサ302がプログラムを実行することで必要な機能が提供される構成例を示したが、これらの提供される機能の一部または全部を、専用のハードウェア回路(例えば、ASICまたはFPGAなど)を用いて実装してもよい。
<C.機能構成例>
次に、本実施の形態に係る制御システム1におけるラベル付与処理260を実現するための機能構成例について説明する。
図7は、本実施の形態に係る制御システム1におけるラベル付与処理260を実現するための機能構成例を示す模式図である。図7を参照して、制御装置100は、時刻を管理する時刻管理部138を含む。時刻管理部138は、現在時刻を管理および保持するものであり、例えば、電波時計、GPS(Global Positioning System)、リアルタイムクロック、カウンタなどを用いて実現されてもよい。時刻管理部138が管理する時刻情報は、タイムスタンプとして、TSDB140に格納される時系列データ142に付加される。
画像収集部300についても時刻管理部338を有している。時刻管理部338についても現在時刻を管理および保持する。時刻管理部138および時刻管理部338が管理する時刻を合わせる必要があるため、例えば、時刻管理部138と時刻管理部338との間では、NTP(Network Time Protocol)などを用いて、時刻を同期するようにしてもよい。この場合、画像収集部300は、制御装置100とネットワーク接続されてもよいし、時刻管理部138と時刻管理部338との間で独自のネットワークを構築してもよい。
また、時刻管理部138および時刻管理部338が電波時計やGPSを用いて時刻を管理する場合には、各々が正確な時刻を取得できるので、互いに同期しなくてもよい。
時刻管理部338が管理する時刻情報は、タイムスタンプとして、DB340に格納される画像342に付加される。
したがって、制御装置100からサポート装置200へ提供される時系列データ142、および、画像収集部300から提供される画像342のいずれについても、タイムスタンプが付加されており、タイムスタンプに基づいて、時系列データ142と画像342との対応付けを実現できる。
サポート装置200のモデル生成ツール250は、ラベル付与処理260を実現するための機能として、時系列データ取得モジュール261と、画像取得モジュール262と、時刻対応付けモジュール263と、ユーザインターフェイスモジュール264と、学習データ生成モジュール266とを含む。
時系列データ取得モジュール261は、制御装置100のTSDB140から時系列データ142を取得する。時系列データ取得モジュール261は、特徴量算出モジュール267を有している。
特徴量算出モジュール267は、取得した時系列データ142から予め定められた内容の特徴量を算出する。すなわち、特徴量算出モジュール267は、制御対象から収集される情報として、制御対象の状態値(時系列データ142に含まれるそれぞれの値)から特徴量を算出する。
画像取得モジュール262は、画像収集部300から画像342を取得する。
時刻対応付けモジュール263は、時系列データ取得モジュール261により取得された時系列データ142と、画像取得モジュール262により取得された画像342とを時刻について対応付ける。
図8は、本実施の形態に係る制御システム1における時系列データ142と画像342との対応付けを説明するための図である。図8を参照して、時系列データ142は、時刻を示すタイムスタンプを有している。画像342についてもタイムスタンプを有している。タイムスタンプの値が一致あるいは近似する時系列データ142と画像342とを対応付けることにより、時系列データ142が収集された時点における画像342を決定できる。
なお、画像342として動画を用いる場合には、対応する動画のファイルを特定するとともに、特定した動画中の位置が決定されてもよい。
再度図7を参照して、ユーザインターフェイスモジュール264は、制御対象から収集された情報(時系列データ142、あるいは、時系列データ142から算出された特徴量)と撮像された画像342とを時間的に対応付けて出力するとともに、ラベルの指定を受付ける。典型的には、ユーザインターフェイスモジュール264は、時系列データ142(あるいは、時系列データ142から算出された特徴量)と画像342とを含むユーザインターフェイス画面をユーザに提示するとともに、ユーザによるラベルの指定を受付ける。
ユーザインターフェイスモジュール264は、ラベル設定支援モジュール265を含む。ラベル設定支援モジュール265は、ユーザによるラベル指定を支援するための処理を担当する。ラベル指定を支援するための処理の一例については、後述する。
学習データ生成モジュール266は、ユーザにより指定されたラベルを制御対象から収集された情報(時系列データ142、あるいは、時系列データ142から算出された特徴量)に付与することで、学習データ146を生成する。
<D.ユーザインターフェイス画面例>
次に、本実施の形態に係る制御システム1におけるラベル付与処理260に係るユーザインターフェイス画面例について説明する。
図9は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面の一例を示す模式図である。図9を参照して、ユーザインターフェイス画面270は、特徴量表示領域271と、ヒストグラム表示領域272と、画像表示領域276とを含む。
特徴量表示領域271は、フレームと呼ばれる所定の時間区間毎に時系列データ142から算出される特徴量を表示する。特徴量表示領域271の横軸はフレーム番号であり、縦軸は特徴量である。特徴量表示領域271には、2つのしきい値をそれぞれ示すしきい値表示273および274が表示されている。
ヒストグラム表示領域272は、特徴量表示領域271の表示される特徴量の全部または一部の大きさの分布であるヒストグラムを表示する。
画像表示領域276は、特徴量表示領域271に対して任意に設定される選択領域275に含まれる特徴量の収集タイミングに対応する画像342-1~342-5を表示する。サポート装置200のユーザインターフェイスモジュール264は、制御対象から収集された情報(時系列データ142、あるいは、時系列データ142から算出された特徴量)のうち選択された情報に対応する画像342を出力する。図9に示す例において、表示される画像342-1~342-5は、1つのフレームにそれぞれ対応するものとなっている。
選択領域275に含まれる画像342が多くて画像表示領域276に表示しきれない場合などには、後送りボタン278および先送りボタン279の押下に応答して、画像表示領域276に表示される画像342が順次変更されるようにしてもよい。
図9には、一例として、制御対象の設備により生産されるワークを撮像した場合の画像342が表示されている(以下の図においても同様である)。図9に示す画像342-4に含まれるワークには、キズ344が発生している。
ユーザは、ユーザインターフェイス画面270に対して、ラベル付与の操作を行う。
図10は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面上でラベル付与の処理手順例を示す模式図である。図10を参照して、ユーザは、画像表示領域276に表示されるいずれかの画像342を選択し、ラベルを付与する。より具体的には、ユーザがいずれかの画像342を選択すると、ラベル付与ウィンドウ280が画像342上に表示される。
ラベル付与ウィンドウ280には、「正常」、「異常」、「無視」(例えば、外れ値のため学習データ146から除外)の3つのラベルが表示されている。ユーザは、画像342を見ながら、いずれかのラベルを選択する(選択中表示282)。なお、ラベルの種類としては、3種類に限らず、より多くあるいはより少なくしてもよい。
図10に示す例では、ワークにキズ344が発生している画像342-4に対しては、「異常」のラベルが付与されている。一方、ワークにキズ344が発生していない画像342に対しては、「正常」のラベルが付与される。このとき、画像342の類似性に基づいて、いずれかの画像342に付与されたラベルを他の画像342に反映してもよい。
図11および図12は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面上で1つのラベルを他に反映する処理手順例を示す模式図である。
図11を参照して、例えば、ユーザが画像表示領域276に表示される画像342-1を選択し、「正常」のラベルを付与する。続いて、ユーザが類似した画像342への反映を指示すると、サポート装置200は、ラベルが付与されていない画像342のうち、画像342-1に類似している画像342を検索し、検索された画像342に対して、同じラベル(この例では、「正常」)を反映する。
図12を参照して、画像342-1と画像342-2,342-3,342-5とが類似していると判断され、画像342-1に付与された「正常」のラベルが画像342-2,342-3,342-5にも反映される。このように、サポート装置200のユーザインターフェイスモジュール264(ラベル設定支援モジュール265)は、類似した複数の画像にそれぞれ対応する情報(時系列データ142、あるいは、時系列データ142から算出された特徴量)について、当該複数の画像のうちいずれかの画像に対応する情報に対して指定されたラベルと同じラベルを反映してもよい。
このような画像の類似性に基づくラベルの反映の処理を採用することで、ラベル付与に係るユーザの負担を軽減できる。
図13および図14は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面上で画像が存在しない場合のラベル付与の処理手順例を示す模式図である。
図13を参照して、状況によっては、特徴量の収集タイミングに対応する画像342が存在しない、あるいは、取得できない場合もある。図13に示す例では、画像342-1および画像342-2のみが取得されており、残りの画像342は取得できていない。このような場合でも、ラベル付与は可能になっている。
図14を参照して、ヒストグラム表示領域272に表示されるヒストグラムを参照して、ユーザは、各特徴量としきい値との関係に基づいて、ラベルを指定することができる。図14に示す例では、対応する画像342が存在しない特徴量に対して、いずれも「正常」のラベルが付与されている。
本実施の形態に係る制御システム1においては、ラベルが付与される先は、時系列データ142(あるいは、時系列データ142から算出された特徴量)であるので、画像342が存在しなくても、ラベル付与の処理は実行できる。
図15は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面上で特異的な特徴量に対してラベルを付与する処理手順例を示す模式図である。
図15を参照して、選択領域275は任意に設定できるため、例えば、通常の値とは大きく異なった値を示す1または複数の特徴量が含まれるように選択領域275を設定し、設定された選択領域275に含まれる特徴量に対して、「異常」のラベルを付与してもよい。
この場合、1つの画像342に対して「異常」のラベルを付与した上で、他の画像342に対して、同じラベルを反映するようにしてもよいし、複数の画像342を選択した状態で、「異常」のラベルを付与してもよい。このように、サポート装置200のユーザインターフェイスモジュール264(ラベル設定支援モジュール265)は、制御対象から収集された複数の情報に対して、指定された同一のラベルを反映してもよい。
また、図11および図12を参照して説明したように、画像342の類似性に基づいて、いずれかの画像342に付与されたラベルを他の画像342に反映してもよい。
図16は、本実施の形態に係る制御システム1において提供されるユーザインターフェイス画面において動画を表示する例を示す模式図である。図16を参照して、ユーザインターフェイス画面270の画像表示領域276には、画像342として動画が表示される。
画像表示領域276に表示される動画である画像342は、再生ボタン287および停止ボタン288の押下に応答して、再生および停止される。動画の再生中の位置に対応して、特徴量表示領域271中の位置インジケータ286が移動する。なお、ユーザが位置インジケータ286を操作できるようにしてもよい。この場合は、位置インジケータ286の位置に対応する動画の位置が再生あるいは表示される。
このように、サポート装置200のユーザインターフェイスモジュール264は、画像342として動画を採用する場合には、動画の再生に併せて、制御対象から収集された情報のうち対応する情報の位置を表示してもよい。
所定のユーザ操作によって、ラベル付与ウィンドウ280が画像342上に表示される。ユーザは、位置インジケータ286に対応する画像342を見ながら、いずれかのラベルを選択する。
このように、画像342として動画を用いた場合も、静止画を用いた場合と同様に、ユーザはラベルを容易に付与できる。
<E.処理手順>
次に、本実施の形態に係る制御システム1におけるラベル付与処理260に係る処理手順について説明する。
図17は、本実施の形態に係る制御システム1におけるラベル付与処理260に係る処理手順を示すフローチャートである。図17に示す主たるステップは、典型的には、サポート装置200のプロセッサ202がモデル生成プログラム230を実行することで実現されてもよい。
図17を参照して、事前準備として、ユーザは、視野範囲に異常検知の対象に関連するものが含まれるように、画像収集部300のカメラ330を配置する(ステップS2)。
制御装置100は、時系列データ142をTSDB140に順次格納する(ステップS4)とともに、画像収集部300は、カメラ330で撮像した画像をDB340に順次格納する(ステップS6)。
制御装置100および画像収集部300の動作と並行して、あるいは、制御装置100および画像収集部300の動作後に、サポート装置200は、制御装置100から時系列データ142を取得する(ステップS10)とともに、画像収集部300から画像342を取得する(ステップS12)。このように、サポート装置200は、制御対象から収集される情報を取得する処理と、異常検知の対象に関連するものを撮像した画像を取得する処理とを実行する。
サポート装置200は、取得した時系列データ142からフレーム毎に特徴量を算出する(ステップS14)。また、サポート装置200は、取得した時系列データ142に付加されているタイムスタンプと、取得した画像342に付加されているタイムスタンプとに基づいて、時系列データ142から算出したフレーム毎の特徴量と画像342とを対応付ける(ステップS16)。そして、サポート装置200は、時系列データ142から算出したフレーム毎の特徴量を表示する(ステップS18)。このように、サポート装置200は、制御対象から収集された情報と撮像された画像342とを時間的に対応付けて出力する。
サポート装置200は、表示された特徴量に対して選択領域275が設定されると(ステップS20においてYES)、選択領域275に含まれる特徴量に対応する画像342を表示する(ステップS22)。
いずれかの画像342が選択されると(ステップS24においてYES)、サポート装置200は、選択された画像342に対応付けて、ラベル付与ウィンドウ280を表示する(ステップS26)。サポート装置200は、ラベル付与ウィンドウ280上でユーザがラベルを選択すると(ステップS28においてYES)、当該選択されたラベルを対応するフレームの時系列データ142(あるいは、時系列データ142から算出された特徴量)に対応付ける(ステップS30)。この対応付けによって、学習データ146が生成される。このように、サポート装置200は、ラベルの指定を受付ける処理と、指定されたラベルを制御対象から収集された情報に付加することで、モデル160を構成するための学習データ146を生成する処理とを実行する。
サポート装置200は、画像342の類似性に基づく反映が指示されたか否かを判断する(ステップS32)。画像342の類似性に基づく反映が指示されると(ステップS32においてYES)、サポート装置200は、先に選択されている画像342に類似する画像342を検索し(ステップS34)、検索された画像342に対して、先に選択されている画像342に付与されたラベルと同じラベルを付与する(ステップS36)。
画像342の類似性に基づく反映が指示されなければ(ステップS32においてNO)、ステップS34およびS36の処理はスキップされる。
サポート装置200は、別の画像342が選択されたか否かを判断する(ステップS38)。別の画像342が選択されると(ステップS38においてYES)、ステップS26以下の処理が繰返される。
サポート装置200は、別の選択領域275が設定されたか否かを判断する(ステップS40)。別の選択領域275が設定されると(ステップS40においてYES)、ステップS22以下の処理が繰返される。
サポート装置200は、ラベル付与処理の終了が指示されたか否かを判断する(ステップS42)。ラベル付与処理の終了が指示されると(ステップS42においてYES)、ラベル付与処理は終了する。
ラベル付与の処理後、サポート装置200は、ステップS30において生成された学習データ146を複数用いて、モデル160の生成処理を行う。
<F.変形例>
上述の説明においては、モデル生成ツール250にラベル付与処理260が含まれる構成を例示したが、ラベル付与処理260は、単独で実装されてもよいし、データマイニングツール240に含めてもよい。さらに、ラベル付与処理260は、サポート装置200とは別の装置(例えば、クラウド上のコンピューティングリソース)に実装してもよい。
すなわち、本実施の形態に係るラベル付与処理260を実装するハードウェアはどのようなものであってもよい。
上述の説明においては、典型例として、フレーム毎に算出された特徴量に対してユーザがラベルを指定する方法を例示したが、フレーム毎の時系列データ142に対してラベルを指定するようにしてもよい。また、生成される学習データ146についても、ラベルが付与されたフレーム毎の時系列データ142であってもよいし、ラベルが付与されたフレーム毎の特徴量であってもよい。
上述の説明においては、制御対象から収集された情報と撮像された画像342とを時間的に対応付けて出力する形態として、ディスプレイ上のユーザインターフェイス画面270を一例として例示したが、これに限らず、任意の出力形態を採用できる。
<G.付記>
上述したような本実施の形態は、以下のような技術思想を含む。
[構成1]
制御対象を制御するための制御演算を実行する制御演算部(130)と、
前記制御対象から収集される情報(152)に基づいて、モデル(160)を参照して、前記制御対象における異常を検知する異常検知部(150)と、
異常検知の対象に関連するものを撮像した画像(342)を収集する画像収集部(300)と、
前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて出力するとともに、ラベルの指定を受付けるユーザインターフェイス部(264)と、
指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データ(146)を生成する生成部(266)とを備える、制御システム。
[構成2]
前記ユーザインターフェイス部は、前記制御対象から収集された情報のうち選択された情報に対応する画像を出力する、構成1に記載の制御システム。
[構成3]
前記ユーザインターフェイス部(264,265)は、類似した複数の画像にそれぞれ対応する情報について、当該複数の画像のうちいずれかの画像に対応する情報に対して指定されたラベルと同じラベルを反映する、構成1または2に記載の制御システム。
[構成4]
前記ユーザインターフェイス部(264,265)は、前記制御対象から収集された複数の情報に対して、指定された同一のラベルを反映する、構成1~3のいずれか1項に記載の制御システム。
[構成5]
前記画像は、静止画および動画の少なくとも一方を含む、構成1~4のいずれか1項に記載の制御システム。
[構成6]
前記ユーザインターフェイス部は、前記画像が動画を含む場合に、動画の再生に併せて、前記制御対象から収集された情報のうち対応する情報の位置を表示する、構成5に記載の制御システム。
[構成7]
前記学習データに基づいて前記モデルを生成するモデル生成部(252,254)をさらに備える、構成1~6のいずれか1項に記載の制御システム。
[構成8]
前記制御対象から収集された情報として、前記制御対象の状態値から特徴量を算出する特徴量算出部(267)をさらに備える、構成1~7のいずれか1項に記載の制御システム。
[構成9]
制御対象を制御するための制御演算を実行する制御演算部(130)と、前記制御対象から収集される情報(152)に基づいて、モデル(160)を参照して、前記制御対象における異常を検知する異常検知部(150)とを備える制御装置(100)に接続されるサポート装置(200)であって、
異常検知の対象に関連するものを撮像した画像(342)を取得する画像取得部(262)と、
前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて出力するとともに、ラベルの指定を受付けるユーザインターフェイス部(264)と、
指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データ(146)を生成する生成部(266)とを備える、サポート装置。
[構成10]
制御対象から収集される情報(152)に基づいて、モデル(160)を参照して、前記制御対象における異常を検知する制御システム(1)に向けられたラベル付与方法であって、
制御対象から収集される情報を取得するステップ(S10)と、
異常検知の対象に関連するものを撮像した画像を取得するステップ(S12)と、
前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて出力するステップ(S16,S18)と、
ラベルの指定を受付けるステップ(S24)と、
指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データを生成するステップ(S30)とを備える、ラベル付与方法。
<H.利点>
本実施の形態に係る制御システムにおいては、ユーザは撮像された画像を見ながら、ラベルを付与できるので、学習データを生成するためのラベル付与を効率的に行うことができる。また、画像の類似性を利用したラベル付与作業を支援することもできるので、さらに効率を高めることができる。また、画像を撮像するためのカメラは、学習データを生成するのに必要な画像を取得できれば十分なので、アドホックに任意に配置すればよく、制御対象に固有の制限などにも柔軟に対応できる。
これによって、実際の生産現場での運用に適したラベル付与および学習データ取得できる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 制御システム、2,4 フィールドバス、6 上位ネットワーク、10 フィールド装置群、12 リモートI/O装置、14 リレー群、16,124 I/Oユニット、18 サーボドライバ、20 サーボモータ、30 データ収集フェーズ、32 データ解析フェーズ、34 運用フェーズ、100 制御装置、102,202,302 プロセッサ、104 チップセット、106,206,306 主記憶装置、108,208,308 二次記憶装置、110 上位ネットワークコントローラ、112,212 USBコントローラ、114 メモリカードインターフェイス、116 メモリカード、118,120 フィールドバスコントローラ、122 内部バスコントローラ、130 PLCエンジン、131,324 システムプログラム、132 ユーザプログラム、134 ライブラリ、136 データ管理部、138,338 時刻管理部、142 時系列データ、144 ラベル、146 学習データ、150 異常検知エンジン、152 特徴量、160 モデル、200 サポート装置、204 光学ドライブ、205 記録媒体、214,314 ネットワークコントローラ、216,316 入力部、218,318 表示部、220,320 バス、222,322 OS、224 インターフェイスプログラム、226 開発プログラム、228 データマイニングプログラム、230 モデル生成プログラム、240 データマイニングツール、242 特徴量生成処理、244 特徴量選択処理、246 モデル生成処理、248 設定処理、250 モデル生成ツール、252 モデル更新処理、254 調整処理、260 ラベル付与処理、261 取得モジュール、262 画像取得モジュール、263 モジュール、264 ユーザインターフェイスモジュール、265 ラベル設定支援モジュール、266 学習データ生成モジュール、267 特徴量算出モジュール、270 ユーザインターフェイス画面、271 特徴量表示領域、272 ヒストグラム表示領域、273 表示、275 選択領域、276 画像表示領域、278 後送りボタン、279 先送りボタン、280 ラベル付与ウィンドウ、282 選択中表示、286 位置インジケータ、287 再生ボタン、288 停止ボタン、300 画像収集部、312 カメラコントローラ、330 カメラ、342 画像、344 キズ、400 サーバ、500 表示装置。

Claims (10)

  1. 制御対象を制御するための制御演算を実行する制御演算部と、
    前記制御対象から収集される情報に基づいて、モデルを参照して、前記制御対象における異常を検知する異常検知部と、
    異常検知の対象に関連するものを撮像した画像を収集する画像収集部と、
    前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて表示出力するとともに、ラベルの指定を受付けるユーザインターフェイス部と、
    指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データを生成する生成部とを備える、制御システム。
  2. 前記ユーザインターフェイス部は、前記制御対象から収集された情報のうち選択された情報に対応する画像を出力する、請求項1に記載の制御システム。
  3. 前記ユーザインターフェイス部は、類似した複数の画像にそれぞれ対応する情報について、当該複数の画像のうちいずれかの画像に対応する情報に対して指定されたラベルと同じラベルを反映する、請求項1または2に記載の制御システム。
  4. 前記ユーザインターフェイス部は、前記制御対象から収集された複数の情報に対して、指定された同一のラベルを反映する、請求項1~3のいずれか1項に記載の制御システム。
  5. 前記画像は、静止画および動画の少なくとも一方を含む、請求項1~4のいずれか1項に記載の制御システム。
  6. 前記ユーザインターフェイス部は、前記画像が動画を含む場合に、動画の再生に併せて、前記制御対象から収集された情報のうち対応する情報の位置を表示する、請求項5に記載の制御システム。
  7. 前記学習データに基づいて前記モデルを生成するモデル生成部をさらに備える、請求項1~6のいずれか1項に記載の制御システム。
  8. 前記制御対象から収集された情報として、前記制御対象の状態値から特徴量を算出する特徴量算出部をさらに備える、請求項1~7のいずれか1項に記載の制御システム。
  9. 制御対象を制御するための制御演算を実行する制御演算部と、前記制御対象から収集される情報に基づいて、モデルを参照して、前記制御対象における異常を検知する異常検知部とを備える制御装置に接続されるサポート装置であって、
    異常検知の対象に関連するものを撮像した画像を取得する画像取得部と、
    前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて表示出力するとともに、ラベルの指定を受付けるユーザインターフェイス部と、
    指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データを生成する生成部とを備える、サポート装置。
  10. 制御対象から収集される情報に基づいて、モデルを参照して、前記制御対象における異常を検知する制御システムに向けられたラベル付与方法であって、
    制御対象から収集される情報を取得するステップと、
    異常検知の対象に関連するものを撮像した画像を取得するステップと、
    前記制御対象から収集された情報と前記撮像された画像とを時間的に対応付けて表示出力するステップと、
    ラベルの指定を受付けるステップと、
    指定されたラベルを前記制御対象から収集された情報に付加することで、前記モデルを構成するための学習データを生成するステップとを備える、ラベル付与方法。
JP2020216403A 2020-12-25 2020-12-25 制御システム、サポート装置およびラベル付与方法 Active JP7581861B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020216403A JP7581861B2 (ja) 2020-12-25 制御システム、サポート装置およびラベル付与方法
PCT/JP2021/009572 WO2022137580A1 (ja) 2020-12-25 2021-03-10 制御システム、サポート装置およびラベル付与方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020216403A JP7581861B2 (ja) 2020-12-25 制御システム、サポート装置およびラベル付与方法

Publications (2)

Publication Number Publication Date
JP2022101969A JP2022101969A (ja) 2022-07-07
JP7581861B2 true JP7581861B2 (ja) 2024-11-13

Family

ID=

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6164020B2 (ja) 2013-10-02 2017-07-19 コニカミノルタ株式会社 画像形成装置およびプログラム
JP2018537798A (ja) 2015-10-02 2018-12-20 トラクタブル リミテッドTractable Ltd. データセットの半自動ラベル付け
JP2020086481A (ja) 2018-11-15 2020-06-04 オムロン株式会社 制御システムおよび制御装置
JP2020101904A (ja) 2018-12-20 2020-07-02 オムロン株式会社 制御装置およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6164020B2 (ja) 2013-10-02 2017-07-19 コニカミノルタ株式会社 画像形成装置およびプログラム
JP2018537798A (ja) 2015-10-02 2018-12-20 トラクタブル リミテッドTractable Ltd. データセットの半自動ラベル付け
JP2020086481A (ja) 2018-11-15 2020-06-04 オムロン株式会社 制御システムおよび制御装置
JP2020101904A (ja) 2018-12-20 2020-07-02 オムロン株式会社 制御装置およびプログラム

Similar Documents

Publication Publication Date Title
JP6757385B2 (ja) プログラマブルロジックコントローラおよびメインユニット
JP6757386B2 (ja) プログラマブルロジックコントローラおよびプログラム作成支援装置
JP6504190B2 (ja) 制御装置および情報処理方法
CN108628263B (zh) 控制系统、控制装置、计算机可读存储介质以及控制方法
US11782431B2 (en) Control device and non-transitory computer-readable recording medium recording program
JP2019159697A (ja) 制御システムおよび制御方法
WO2022030041A1 (ja) 予測システム、情報処理装置および情報処理プログラム
EP3872593A1 (en) Control device and control program
JP7273935B2 (ja) 外部設定機器、ロギング設定方法およびプログラム
JP2020067752A (ja) プログラマブルロジックコントローラシステム、プログラム作成支援装置およびコンピュータプログラム
JP7413742B2 (ja) 予測システム、情報処理装置および情報処理プログラム
JP7581861B2 (ja) 制御システム、サポート装置およびラベル付与方法
JP7212496B2 (ja) プログラマブルロジックコントローラシステム、プログラム作成支援装置およびコンピュータプログラム
JP7102801B2 (ja) 制御システム、制御装置および表示装置
WO2022137580A1 (ja) 制御システム、サポート装置およびラベル付与方法
JP2023006304A (ja) 制御システム、モデル生成方法およびモデル生成プログラム
WO2023053544A1 (ja) 制御システム
JP6806946B2 (ja) 外部設定機器およびプログラム
US20230004482A1 (en) Simulation system, method for simulation system, and non-transitory computer-readable storage medium storing simulation program
JP6986125B2 (ja) プログラマブルロジックコントローラおよびメインユニット
JP6948450B2 (ja) プログラマブルロジックコントローラおよびメインユニット
WO2023053511A1 (ja) 制御システム、情報処理方法および情報処理装置
US11960379B2 (en) Simulation system, method for simulation system, and non-transitory computer-readable storage medium storing simulation program
WO2024219199A1 (ja) 情報処理システム、情報処理方法およびプログラム
WO2022181007A1 (ja) 情報処理装置、情報処理プログラムおよび情報処理方法