[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN106922194A - 异常检测装置、异常检测方法以及异常检测程序 - Google Patents

异常检测装置、异常检测方法以及异常检测程序 Download PDF

Info

Publication number
CN106922194A
CN106922194A CN201480083403.5A CN201480083403A CN106922194A CN 106922194 A CN106922194 A CN 106922194A CN 201480083403 A CN201480083403 A CN 201480083403A CN 106922194 A CN106922194 A CN 106922194A
Authority
CN
China
Prior art keywords
feature amount
frame
fisrt feature
moment
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480083403.5A
Other languages
English (en)
Other versions
CN106922194B (zh
Inventor
布施贵史
肥塚哲男
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of CN106922194A publication Critical patent/CN106922194A/zh
Application granted granted Critical
Publication of CN106922194B publication Critical patent/CN106922194B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Manipulator (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及异常检测装置、异常检测方法以及异常检测程序。异常检测装置(100)在准备阶段从拍摄到机械手(5)的正常的作业动作的动画数据所包含的各第一帧检测第一特征量,并将该第一特征量储存于存储部。异常检测装置(100)在异常检测阶段从拍摄到机械手(5)的作业动作的动画数据所包含的各第二帧检测第二特征量,并将该第二特征量储存于存储部。异常检测装置(100)对第二帧的第二特征量与各第一帧的第一特征量进行比较,确定与第二特征量最接近的第一特征量。异常检测装置(100)以所确定的第一特征量和第二特征量为基础,对异常检测阶段的机械手(5)的作业动作是否异常进行判定。

Description

异常检测装置、异常检测方法以及异常检测程序
技术领域
本发明涉及异常检测装置等。
背景技术
利用工业用机械手使以往由作业员进行的作业实现无人化,由此实现降低作业员的作业失误、提高作业效率、提高对于作业员的安全性的FA(工厂自动化:FactoryAutomation)系统被应用于多种作业现场。
在此,在FA系统中,在利用机械手的反复作业实现的组装工序中,有时例如因组装部件的设置位置或机械手的操作姿势的微小不同所引发的影响会波及之后的组装作业,从而成为产生不良品的重要因素。
因此,FA系统的管理者通过定期检查各机械手的动作、组装部件的设置位置等来进行应对以便不产生不良部件。
专利文献1:日本特开2007-334756号公报。
专利文献2:日本特开2006-79272号公报。
专利文献3:日本特开2006-178790号公报。
然而,在上述现有技术中,存在无法高精度地检测使得产生不良品那样的机械手的作业变动的异常这种问题。
例如,在现有的FA系统中,管理者通过定期检查各机械手的动作、组装部件的设置位置等来进行应对,但通过人工是难以发现微小作业变动的。由于因作业变动而产生的异常会对组装过程中的产品带来影响,所以虽希望能够当场检测出作业变动,但如上述那样该检测是困难的,因此以往只能够在产品的组装结束之后,根据检查出该产品是良品还是不良品的结果来推测有无作业变动。上述问题并不限于机械手,在检测进行规定的动作的对象物的异常的情况下也同样会产生。
发明内容
本发明的一个方面的目的在于提供能够高精度地检测对象物的作业变动的异常的异常检测装置、异常检测方法以及异常检测程序。
在第一方案中,异常检测装置具有特征量提取部以及判定部。特征量提取部将拍摄到的被拍摄体的正常的作业动作的动画数据所包含的各第一帧、与表示该第一帧的特征的第一特征量建立对应并存储于存储部。特征量提取部将拍摄到的被拍摄体的某个作业动作的动画数据所包含的各第二帧、与表示该第二帧的特征的第二特征量建立对应并存储于存储部。判定部对第二帧的第二特征量与各第一帧的第一特征量进行比较,确定与第二特征量最接近的第一特征量。判定部以所确定的第一特征量和第二特征量为基础,对某个作业动作是否异常进行判定。
根据本发明的一个实施方式,能够高精度地检测对象物的作业变动的异常。
附图说明
图1是表示参考例的系统的图。
图2是表示参考例的异常值的推移的一个例子的图(1)。
图3是表示参考例的异常值的推移的一个例子的图(2)。
图4是表示参考例的系统的处理步骤的流程图。
图5是表示本实施例1的系统的结构的图。
图6是表示本实施例1的异常检测装置的结构的功能框图。
图7是表示从各第一帧提取的各第一特征量的一个例子的图。
图8是表示从各第二帧提取的各第二特征量的一个例子的图。
图9是用于对本实施例1的判定部的处理进行说明的图。
图10是表示本实施例1的异常检测装置的处理步骤的流程图。
图11是用于对本实施例1的效果进行说明的图。
图12是表示本实施例2的系统的结构的图。
图13是表示本实施例2的异常检测装置的结构的功能框图。
图14是表示示教数据的数据构造的一个例子的图。
图15是用于对本实施例2的判定部的处理进行说明的图。
图16是表示本实施例2的异常检测装置的处理步骤的流程图。
图17是表示执行异常检测程序的计算机的一个例子的图。
具体实施方式
以下,基于附图对本发明的异常检测装置、异常检测方法以及异常检测程序的实施例进行详细说明。另外,该实施例不限定本发明。
实施例1
首先,在对本实施例进行说明之前,对成为本实施例的前提的参考例进行说明。该参考例并不对应现有技术。图1是表示参考例的系统的图。如图1所示,参考例的系统有机械手5、拍摄元件10a、10b、照明11a、11b、拍摄元件控制器20、照明控制器30以及异常检测装置40。
机械手5是基于示教数据进行规定的组装作业的机械手。示教数据是将开始动作之后的时刻与机械手5的作业内容建立了对应的数据。
拍摄元件10a、10b是根据来自拍摄元件控制器20的控制信号,拍摄成为被拍摄体的机械手5的装置。在以下的说明中,将拍摄元件10a、10b概括表示为拍摄元件10。拍摄元件10将拍摄到的机械手5的动画数据输出至拍摄元件控制器20。
照明11a、11b是根据来自照明控制器30的控制信号照射机械手5的照明。在以下的说明中,将照明11a、11b概括表示为照明11。
拍摄元件控制器20是将控制信号输出至拍摄元件10,使拍摄元件10动作,并从拍摄元件10取得机械手5的动画数据的装置。拍摄元件控制器20将动画数据输出至异常检测装置40。
照明控制器30是将控制信号输出至照明11,使照明11动作的处理部。
异常检测装置40是对机械手5的动作是否存在异常进行检测的装置。异常检测装置40在准备阶段将拍摄到的机械手5的正常的作业动作的动画数据所包含的帧、与该帧的特征量建立对应并存储于存储部。另外,异常检测装置40在异常检测阶段将拍摄到的机械手5的作业动作的动画数据所包含的帧、与该帧的特征量建立对应并存储于存储部。
在以下的说明中,将在准备阶段拍摄到机械手5的正常的作业动作的动画数据所包含的帧表示为第一帧。将第一帧的特征量表示为第一特征量。在异常检测阶段拍摄到的机械手5的作业动作的动画数据所包含的帧表示为第二帧。将第二帧的特征量表示为第二特征量。
异常检测装置40对第一帧的第一特征量与第二帧的第二特征量的组分别从前端按顺序进行比较。例如,异常检测装置40按顺序逐个比较时刻tn的第一帧的第一特征量与时刻tn的第二帧的第二特征量。n是1以上的自然数。在存在表示各特征量的距离的异常值处于阈值以上的第一帧以及第二帧的组的情况下,异常检测装置40判定为机械手5的作业动作存在异常。
图2以及图3是表示参考例的异常值的推移的一个例子的图。在图2以及图3中,纵轴是表示异常值的轴,横轴是表示时刻的轴。图2表示在参考例的异常检测阶段,未检测到异常的异常值的推移。图3表示在参考例的异常检测阶段,检测到异常的异常值的推移。
对图2进行说明。图2的线段1a是表示正常空间的平均值的线段。正常空间的平均值例如是在准备阶段,反复拍摄机械手5的正常的作业动作,并使用多个动画数据将多个第一特征量的距离平均化而得的值。线段1b是表示第一特征量与第二特征量之间的距离的线段。在以下的说明中,适当地,将第一特征量与第二特征量之间的距离表示为异常值。由于线段1b的异常值未处于阈值以上,所以异常检测装置40判定为在异常检测阶段机械手5的作业不存在异常。
对图3进行说明。图3的线段1a对应图2的线段1a。线段1c是表示第一特征量与第二特征量之间的距离的异常值。由于线段1c的异常值处于阈值以上,所以异常检测装置40判定为在异常检测阶段机械手5的作业存在异常。
接下来,对参考例的系统的处理步骤的一个例子进行说明。图4是表示参考例的系统的处理步骤的流程图。如图4所示,异常检测装置40接受示教数据,并将所接受的示教数据上传至机械手5(步骤S10)。拍摄元件10拍摄机械手的正常动作(步骤S11),异常检测装置40从正常作业的第一帧,针对每个第一帧计算第一特征量(步骤S12)。
异常检测装置40从多个正常作业生成针对每个第一帧的正常空间(步骤S13)。异常检测装置40利用帧轴计算正常空间的平均值(步骤S14)。
拍摄元件10在异常检测阶段拍摄机械手5的对象作业(步骤S15)。异常检测装置40从对象作业的第二帧,针对每个第二帧计算第二特征量(步骤S16)。异常检测装置40针对每个帧计算对象作业的第二帧的第二特征量与正常作业的第一帧的第一特征量之间的异常值(步骤S17)。异常检测装置40基于针对每个帧的异常值,检测作业的异常(步骤S18)。
如上述那样,参考例的异常检测装置40计算正常动作的第一特征量与异常检测阶段的第二特征量之间的异常值,在异常值超过了阈值的情况下,判定为机械手5的作业存在异常。由此,在参考例中,即便管理者不定期进行机械手5的检查,也能够自动检测机械手5的异常。
然而,在上述参考例中,存在如下问题,即:在产生了不对组装作业带来负面影响的作业变动的情况下,也误检测为机械手5的作业产生了异常。不对组装作业带来负面影响的作业变动对应例如部件定位等引起的作业时间的变动、或与机械手5的移动速度和距离依存且难以控制的作业时间的微小变动。
接下来,对本实施例1的系统的结构进行说明。图5是表示本实施例1的系统的结构的图。如图5所示,该系统具有:机械手5、拍摄元件10a、10b、照明11a、11b、拍摄元件控制器20、照明控制器30以及异常检测装置100。
在图5中,关于机械手5、拍摄元件10a、10b、照明11a、11b、拍摄元件控制器20以及照明控制器30的说明与图1中说明的内容相同,因而在此省略说明。
异常检测装置100是对机械手5的动作是否存在异常进行检测的装置。图6是表示本实施例1的异常检测装置的结构的功能框图。如图6所示,该异常检测装置100具有:接口部110、输入部120、显示部130、存储部140以及控制部150。
接口部110是与拍摄元件控制器20和照明控制器30实施数据通信的处理部。后述的控制部150经由接口部110而在该控制部150、与拍摄元件控制器20和照明控制器30之间交换数据。
输入部120是将各种信息输入异常检测装置100的输入装置。输入部120例如对应键盘、鼠标。显示部130是显示从控制部150输出的各种信息的显示装置,对应液晶显示器、监视器等。
存储部140具有:第一动画数据140a、第二动画数据140b、第一特征量表140c以及第二特征量表140d。存储部140对应RAM(随机存取存储器:Random Access Memory)、ROM(只读存储器:Read Only Memory)、闪存(Flash Memory)等半导体存储器元件、或HDD(硬盘驱动器:Hard Disk Drive)等存储装置。
第一动画数据140a是对应在准备阶段拍摄到的机械手5的正常的作业动作的动画数据的数据。第一动画数据140a将时刻、与对应该时刻的动画数据的第一帧建立对应。
第二动画数据140b是对应在异常检测阶段拍摄到的机械手5的作业动作的动画数据的数据。第二动画数据140b将时刻、与对应该时刻的动画数据的第二帧建立对应。
第一特征量表140c是具有从各时刻的第一帧提取的第一特征量的数据。第一特征量表140c将时刻、与从对应该时刻的第一帧提取的第一特征量建立对应。
第二特征量表140d是具有从各时刻的第二帧提取的第二特征量的数据。第二特征量表140d将时刻、与从对应该时刻的第二帧提取的第二特征量建立对应。
控制部150具有:通信控制部150a、特征量提取部150b以及判定部150c。控制部150例如对应ASIC(专用集成电路:Application Specific Integrated Circuit)、FPGA(现场可编程门阵列:Field Programmable Gate Array)等集成装置。另外,控制部150例如对应CPU(中央处理单元:Central Processing Unit)、MPU(微处理单元:Micro ProcessingUnit)等电路。
通信控制部150a是与拍摄元件控制器20进行数据通信,取得动画数据的处理部。例如,通信控制部150a从拍摄元件控制器20取得在准备阶段拍摄到的机械手5的正常的作业动作的动画数据。通信控制部150a在准备阶段将从拍摄元件控制器20取得的动画数据作为第一动画数据140a储存于存储部140。
通信控制部150a从拍摄元件控制器20取得在异常检测阶段拍摄到的机械手5的作业动作的动画数据。通信控制部150a将在异常检测阶段从拍摄元件控制器20取得的动画数据作为第二动画数据140b储存于存储部140。
通信控制部150a在准备阶段以及异常检测阶段且在拍摄元件10进行拍摄的期间,对照明控制器30输出使进行照明动作的控制指令。
特征量提取部150b从第一动画数据140a的各第一帧提取第一特征量,将所提取的第一特征量与对应提取源的第一帧的时刻建立对应并登记于第一特征量表140c。另外,特征量提取部150b从第二动画数据140b的各第二帧提取第二特征量,将所提取的第二特征量与对应提取源的第二帧的时刻建立对应并储存于第二特征量表140d。
在此,对特征量提取部150b从第一帧或者第二帧提取特征量的处理的一个例子进行说明。从第一帧提取特征量的处理与从第二帧提取特征量的处理相同,因而在此将第一帧和第二帧概括表示为帧。
特征量提取部150b提取相对于帧的视频特征、例如以式(1)所示的N阶自相关函数为基础将N个位移ai在空间方向和时间方向扩张而得的三次高阶局部自相关特征(CHLAC:Cubic Higher-order Local AutoCorrelation特征)等作为特征量。
式(1)
在式(1)中,f是时间序列像素值(差分值),参照点(关注像素)r以及从参照点来看的N个位移ai(i=1、···N)是作为成分还具有差分帧内的二维坐标以及时间的三维矢量。在式(1)中,时间方向的积分范围是取何种程度的时间方向的相关任意的参数。
图7是表示从各第一帧提取的各第一特征量的一个例子的图。各第一特征量的纵轴对应频率(矢量),横轴对应矢量的次数。在图7中作为一个例子示出了第一特征量50a、50b、50c、50d、50e、50f。
在图7中,第一特征量50a是从时刻t1的第一帧提取的第一特征量。第一特征量50b是从时刻t2的第一帧提取的第一特征量。第一特征量50c是从时刻t3的第一帧提取的第一特征量。第一特征量50d是从时刻t4的第一帧提取的第一特征量。第一特征量50e是从时刻t5的第一帧提取的第一特征量。第一特征量50f是从时刻t6的第一帧提取的第一特征量。
特征量提取部150b将各第一特征量与对应提取源的第一帧的时刻建立对应并登记于第一特征量表140c。例如,第一特征量表140c的各时刻t1~tn是在准备阶段以对于机械手5开始拍摄的时刻为起点的相对时刻。
图8是表示从各第二帧提取的各第二特征量的一个例子的图。各第二特征量的纵轴对应频率(矢量),横轴对应矢量的次数。在图8中作为一个例子示出了第二特征量60a、60b、60c、60d、60e。
在图8中,第二特征量60a是从时刻t1’的第二帧提取的第二特征量。第二特征量60b是从时刻t2’的第二帧提取的第二特征量。第二特征量60c是从时刻t3’的第二帧提取的第二特征量。第二特征量60d是从时刻t4’的第二帧提取的第二特征量。第二特征量60e是从时刻t5’的第二帧提取的第二特征量。
特征量提取部150b将各第一特征量与对应提取源的第二帧的时刻建立对应并登记于第二特征量表140d。例如,第二特征量表140d的各时刻t1’~tn’是在异常检测阶段以对于机械手5开始拍摄的时刻为起点的相对时刻。
返回针对图6的说明。判定部150c是对第一特征量与第二特征量进行比较,确定与第二特征量最接近的第一特征量,并基于所确定的第一特征量与第二特征量之间的异常值,对作业动作是否存在异常进行判定的处理部。以下,对判定部150c的处理的一个例子进行说明。
图9是用于对本实施例1的判定部的处理进行说明的图。判定部150c选择第二特征量,并以所选择的第二特征量的时刻为基准,选择在前后规定时间内包含的多个第一特征量。判定部150c计算所选择的第二特征量以及多个第一特征量之间的异常值。判定部150c计算第二特征量的矢量与第一特征量的矢量之间的距离作为异常值。
式(2)
例如,在判定部150c计算第二特征量的矢量与第一特征量的矢量之间的距离的情况下,也可以使用马氏距离。马氏距离由式(2)定义。在式(2)中,x表示第二特征量的矢量,μ表示第一特征量的平均矢量。Σ表示方差-协方差矩阵。
判定部150c将多个异常值中的最小的异常值判定为所选择的第二特征量的异常值。判定部150c对于其他第二特征量也反复执行上述处理,由此计算各第二特征量的异常值。
在图9中,例如,判定部150c选择时刻t2’的第二特征量60b,并以时刻t2’为基准将在前后规定时间内包含的时刻的第一特征量作为时刻t1~t3的特征量50a~50c。管理者预先设定前后规定时间。在该情况下,判定部150c对第二特征量60b与第一特征量50a~50c分别进行比较,确定多个异常值,并将所确定的异常值中的最小的异常值判定为第二特征量60b的异常值。判定部150c对于其他第二特征量也反复执行上述处理。
判定部150c以各第二特征量的异常值为基础,对是否存在超过规定的阈值的异常值进行判定。在存在超过规定的阈值的异常值的情况下,判定部150c判定为在异常检测阶段机械手5的作业动作存在异常,并将判定结果输出至显示部130或者其他外部装置。
接下来,对本实施例1的异常检测装置100的处理步骤的一个例子进行说明。图10是表示本实施例1的异常检测装置的处理步骤的流程图。如图10所示,异常检测装置100的通信处理部150a取得第一动画数据140a以及第二动画数据140b(步骤S101)。异常检测装置100的判定部150c对开始比较的时刻t进行计算(步骤S102)。例如,在步骤S102中,判定部150c计算第一动画数据140a或者第二动画数据140b所包含的帧中的最初的帧的时刻作为开始比较的时刻t。
判定部150c通过在时刻t上加上偏移量来更新时刻t(步骤S103)。例如,将偏移量的初始值设为0。判定部150c取得对应时刻t的第二帧(步骤S104)。判定部150c对时刻t-α~时刻t+β的各第一帧、与时刻t的第二帧进行比较来计算多个异常值(步骤S105)。虽在图10中省略说明,但在步骤S105中,判定部150c对第一帧的第一特征量与第二帧的第二特征量进行比较来计算异常值。
判定部150c采用计算出的多个异常值中的最小的异常值(步骤S106)。判定部150c保持成为最小的异常值的第一帧的时刻Tnew(步骤S107)。例如,在步骤S107中,在成为最小的异常值的第一帧与第二帧的组为时刻t1的第一帧与时刻t1’的第二帧的组的情况下,判定部150c将时刻t1设定为时刻tnew。
判定部150c将时刻t与时刻tnew的差分设定为偏移量(步骤S108)。判定部150c对是否结束处理进行判定(步骤S109)。在不结束处理的情况下(步骤S109:否),判定部150c移至步骤S103。在结束处理的情况下(步骤S109:是),判定部150c结束机械手5的作业处理。
接下来,对本实施例1的异常检测装置100的效果进行说明。异常检测装置100在计算第二特征量的异常值的情况下,在以第二特征量的时刻为基准的规定的时间范围内,检索与第二特征量最接近的第一特征量,并计算检索到的第一特征量与第二特征量之间的异常值。由此,在产生了不对组装作业带来负面影响的作业变动的情况下,也能够抑制异常值因上述作业变动而变大,由此能够消除误检测为机械手5的作业产生了异常这种问题。
图11是用于对本实施例1的效果进行说明的图。图11的纵轴是对应异常值的轴,横轴是对应时刻的轴。与图2所示的线段1a同样,图11所示的线段1a是表示平常空间的平均值的线段。线段1d是由参考例的异常检测装置40计算出的异常值的推移。线段1e是由本实施例1的异常检测装置100计算出的异常值的推移。
例如,在参考例的异常检测装置40中,在产生了不对组装作业带来负面影响的作业变动的情况下,也如线段1d所示,异常值超过阈值,从而误检测为产生了异常。与此相对,如线段1e所示,在本实施例1的异常检测装置100中,在产生了不对组装作业带来负面影响的作业变动的情况下,异常值不超过阈值,从而能够抑制异常的误检测。
然而,虽本实施例的判定部150c对第二特征量与各第一特征量分别一个一个地进行比较,计算出多个异常值,但并不限定于此。例如,判定部150c也可以将第二特征量与多个第一特征量汇集起来进行比较,一次计算多个异常值。另外,判定部150c也可以在对第二特征量与第一特征量进行比较的情况下,针对一部分的次数,缩减与第二特征量类似的第一特征量,并从缩减出的第一特征量确定与第二特征量最类似的第一特征量作为异常值的计算对象。
对特征量提取部150b从第一帧提取特征量的其他处理进行说明。特征量提取部150b在时刻t将从拍摄元件10a拍摄到的动画数据的第一帧提取的第一特征量、与从拍摄元件10b拍摄到的动画数据的第一帧提取的第一特征量平均化,或者根据例如拍摄装置相对于被拍摄体的朝向等,选择观测到被拍摄体的移动量更大的时间段的拍摄装置的各第一帧的第一特征量。而且,特征量提取部150b也可以将平均化或者选择出的第一特征量作为时刻t的第一帧的第一特征量登记于第一特征量表140c。
对特征量提取部150b从第二帧提取特征量的其他处理进行说明。特征量提取部150b在时刻t’将从拍摄元件10a拍摄到的动画数据的第二帧提取的第二特征量、与从拍摄元件10b拍摄到的动画数据的第二帧提取的第二特征量平均化,或者根据例如拍摄装置相对于被拍摄体的朝向等,选择观测到被拍摄体的移动量更大的时间段的拍摄装置的各第二帧的第二特征量。而且,特征量提取部150b也可以将平均化或者选择出的第二特征量作为时刻t’的第二帧的第二特征量登记于第二特征量表140d。
如上述那样,特征量提取部150b设定将设置于不同位置的拍摄元件10a、10b拍摄到的动画数据的帧的特征量平均化或者从中选择出的特征量作为该帧的特征量。由此,能够排除噪声等的影响,从而高精度地确定特征量。
实施例2
接下来,对本实施例2的系统的结构进行说明。图12是表示本实施例2的系统的结构的图。如图12所示,该系统具有:机械手5、拍摄元件10a、10b、照明11a、11b、拍摄元件控制器20、照明控制器30以及异常检测装置200。
在图12中,关于机械手5、拍摄元件10a、10b、照明11a、11b、拍摄元件控制器20以及照明控制器30的说明与图1中说明的内容相同,因而在此省略说明。
异常检测装置200是对机械手5的动作是否存在异常进行检测的装置。图13是表示本实施例2的异常检测装置的结构的功能框图。如图13所示,该异常检测装置200具有:接口部210、输入部220、显示部230、存储部240以及控制部250。
接口部210是与机械手5、拍摄元件控制器20以及照明控制器30实施数据通信的处理部。后述的控制部250经由接口部210而在该控制部250、与机械手5、拍摄元件控制器20以及照明控制器30之间交换数据。
输入部220是将各种信息输入异常检测装置200的输入装置。输入部220例如对应键盘、鼠标。显示部230是显示从控制部250输出的各种信息的显示装置,对应液晶显示器、监视器等。
存储部240具有:第一动画数据240a、第二动画数据240b、第一特征量表240c、第二特征量表240d以及示教数据240e。存储部240对应RAM、ROM、闪存等半导体存储器元件、或HDD等存储装置。
关于第一动画数据240a以及第二动画数据240b的说明与关于图6所示的第一动画数据140a以及第二动画数据140b的说明相同。另外,关于第一特征量表240c以及第二特征量表240d的说明与关于图6所示的第一特征量表140c以及第二特征量表140d的说明相同。
示教数据240e是将表示机械手5开始作业之后的时刻的示教点与机械手5的作业内容建立了对应的数据。图14是表示示教数据的数据构造的一个例子的图。如图14所示,该示教数据240e将示教点与作业内容建立对应。将与示教数据240e同一示教数据上传至机械手5,机械手5基于示教数据进行作业。
返回针对图13的说明。控制部250具有:通知控制部250a、特征量提取部250b以及判定部250c。控制部250例如对应ASIC、FPGA等集成装置。另外,控制部250例如对应CPU、MPU等电路。
通信控制部250a是与拍摄元件控制器20进行数据通信,并取得动画数据的处理部。例如,通信控制部250a从拍摄元件控制器20取得在准备阶段拍摄到的机械手5的正常的作业动作的动画数据。通信控制部250a在准备阶段将从拍摄元件控制器20取得的动画数据作为第一动画数据240a储存于存储部240。
通信控制部250a从拍摄元件控制器20取得在异常检测阶段拍摄到的机械手5的作业动作的动画数据。通信控制部250a在异常检测阶段将从拍摄元件控制器20取得的动画数据作为第二动画数据240a储存于存储部240。
通信控制部250a在准备阶段以及异常检测阶段且在拍摄元件10进行拍摄的期间,对于照明控制器30输出使照明动作的控制指令。
通信控制部250a经由接口部210或者输入部220等取得示教数据240e,并将所取得的示教数据240e储存于存储部240。另外,通信控制部250a在异常检测阶段且在拍摄元件控制器20拍摄第二动画数据240b的期间,与机械手5进行数据通信,从机械手5取得表示机械手5已进展到了哪个示教点的作业的信息。通信控制部250a向判定部250c输出将第二动画数据240b的第二帧的时刻、与已结束的作业内容的示教点建立了对应的对应信息。
特征量提取部250b从第一动画数据240a的各第一帧提取第一特征量,将所提取的第一特征量与对应提取源的第一帧的时刻建立对应并登记于第一特征量表240c。另外,特征量提取部250b从第二动画数据240b的各第二帧提取第二特征量,将所提取的第二特征量与对应提取源的第二帧的时刻建立对应并储存于第二特征量表240d。特征量提取部250b从帧提取特征量的处理与实施例1所示的特征量提取部150b相同。
判定部250c是对第一特征量与第二特征量进行比较,确定与第二特征量最接近的第一特征量,并基于所确定的第一特征量与第二特征量之间的异常值,对作业动作是否存在异常进行判定的处理部。以下,对判定部250c的处理的一个例子进行说明。
判定部250c选择第二特征量,并以所选择的第二特征量的时刻为基准,选择在前后规定时间内包含的多个第一特征量。在此,判定部250c对第二特征量的时刻与对应信息进行比较,在从第二帧提取的第二特征量的时刻,确定直至哪个示教点的作业内容为止结束,决定前后规定时间。
图15是用于对本实施例2的判定部的处理进行说明的图。在图15中,例如,将所选择的第二特征量的时刻设为t’,在时刻t’,直至示教点T3的作业内容为止结束。在该情况下,判定部250c选择从作业已结束的示教点T3到接下来的示教点T4的时间所包含的多个第一特征量。在图15所示的例子中,判定部250c对t’-α~t’+β所包含的时刻的第一特征量进行判定。在此,α对应从T3减去t’而得的时间。β对应从T4减去t’而得的时间。
判定部250c计算第二特征量以及多个第一特征量之间的异常值。例如,判定部250c计算第二特征量的矢量与第一特征量的矢量之间的距离作为异常值。判定部250c将多个异常值中的最小的异常值判定为所选择的第二特征量的异常值。判定部250c对于其他第二特征量也反复执行上述处理,由此计算各第二特征量的异常值。
接下来,对本实施例2的异常检测装置200的处理步骤的一个例子进行说明。图16是表示本实施例2的异常检测装置的处理步骤的流程图。如图16所示,异常检测装置200的通信控制部250a取得第一动画数据240a以及第二动画数据240b(步骤S201)。异常检测装置200的判定部250c对开始比较的时刻t进行计算(步骤S202)。例如,在步骤S202中,判定部250c计算第一动画数据240a或者第二动画数据240b所包含的帧中的最初的帧的时刻作为开始比较的时刻t。
判定部250c通过在时刻t上加上偏移量来更新时刻t(步骤S203)。例如,将偏移量的初始值设为0。判定部250c取得对应时刻t的第二帧(步骤S204)。判定部250c以示教点的通过状况为基础来确定α以及β(步骤S205)。
判定部250c对时刻t-α~时刻t+β的各第一帧、与时刻t的第二帧进行比较来计算多个异常值(步骤S206)。虽在图16中省略说明,但在步骤S206中,判定部250c对第一帧的第一特征量与第二帧的第二特征量进行比较来计算异常值。
判定部250c采用计算出的多个异常值中的最小的异常值(步骤S207)。判定部250c保持成为最小的异常值的第一帧的时刻tnew(步骤S208)。例如,在步骤S208中,在成为最小的异常值的第一帧与第二帧的组为时刻t1的第一帧与时刻t1’的第二帧的组的情况下,判定部250c将时刻t1设定为时刻tnew。
判定部250c将时刻t与时刻tnew的差分设定为偏移量(步骤S209)。判定部250c对是否结束处理进行判定(步骤S210)。在不结束处理的情况下(步骤S210:否),进入步骤S203。在结束处理的情况下(步骤S210:是),结束机械手5的作业处理。
接下来,对本实施例2的异常检测装置200的效果进行说明。异常检测装置200在计算第二特征量的异常值的情况下,以示教点的通过状况为基础,确定与第二特征量相比较的第一特征量的时刻。由此,能够缩减计算第一特征量与第二特征量之间的异常值的该第一特征量的数量,从而能够高效地计算异常值。
接下来,对执行实现与上述实施例所示的异常检测装置100、200同一功能的异常检测程序的计算机的一个例子进行说明。图17是表示执行异常检测程序的计算机的一个例子的图。
如图9所示,计算机300具有:执行各种运算处理的CPU301、接受来自用户的数据的输入的输入装置302、以及显示器303。另外,计算机300具有:从存储介质读取程序等的读取装置304、和经由网络而在与其他计算机之间进行数据的授受的接口装置305。另外,计算机300具有:临时存储各种信息的RAM306、和硬盘装置307。而且,各装置301~307与总线308连接。
硬盘装置307将特征量提取程序307a和判定程序307b读出并向RAM306展开。特征量提取程序307a作为特征量提取工序306a发挥功能。判定程序307b作为判定工序306b发挥功能。
应予说明,特征量提取程序307a和判定程序307b也可以不必从最初便存储于硬盘装置307。例如,可以使各程序存储于向计算机300插入的软盘(FD)、CD-ROM、DVD光盘、光磁盘、IC卡等“便携式物理介质”。而且,计算机300也可以读出并执行特征量提取程序307a和判定程序307b。
符号说明
100、200…异常检测装置;150b、250b…特征量提取部;150c、250c…判定部。

Claims (6)

1.一种异常检测装置,其特征在于,具有:
特征提取部,其将拍摄到的被拍摄体的正常的作业动作的动画数据所包含的各第一帧、与表示该第一帧的特征的第一特征量建立对应并存储于存储部,将拍摄到的被拍摄体的某个作业动作的动画数据所包含的各第二帧、与表示该第二帧的特征的第二特征量建立对应并存储于存储部;和
判定部,其对所述第二帧的第二特征量与各第一帧的第一特征量进行比较,确定与所述第二特征量最接近的第一特征量,并以所确定的第一特征量和所述第二特征量为基础,对所述某个作业动作是否异常进行判定。
2.根据权利要求1所述的异常检测装置,其特征在于,
所述判定部从在以所述第二帧的时刻为基准的规定的时间范围内包含的第一帧的第一特征量取得与所述第二帧的第二特征量相比较的第一帧的第一特征量。
3.根据权利要求2所述的异常检测装置,其特征在于,
所述判定部以所述第二帧所包含的被拍摄体的作业阶段为基础,确定对所述被拍摄体的作业阶段和时刻进行了定义的示教数据所包含的作业阶段中的已结束的作业阶段的时刻和未结束的作业阶段的时刻,并以所确定的作业阶段的时刻和未结束的作业阶段的时刻为基础,确定所述规定的时间范围。
4.根据权利要求1所述的异常检测装置,其特征在于,
所述特征量提取部将由设置于不同场所的多个拍摄装置拍摄到的包含同一被拍摄体的各第一帧的第一特征量平均化,或者根据拍摄装置相对于被拍摄体的朝向,选择观测到被拍摄体的移动量更大的时间段的拍摄装置的各第一帧的第一特征量,提取所述第一帧的第一特征量,并且将由所述多个拍摄装置拍摄到的包含同一被拍摄体的各第二帧的第二特征量平均化,或者根据拍摄装置相对于被拍摄体的朝向,选择观测到被拍摄体的移动量更大的时间段的拍摄装置的各第二帧的第二特征量,提取所述第二帧的第二特征量。
5.一种异常检测方法,其是计算机执行的异常检测方法,其特征在于,所述异常检测方法执行如下处理:
将拍摄到的被拍摄体的正常的作业动作的动画数据所包含的各第一帧、与表示该第一帧的特征的第一特征量建立对应并存储于存储装置,
将拍摄到的被拍摄体的某个作业动作的动画数据所包含的各第二帧、与表示该第二帧的特征的第二特征量建立对应并存储于存储装置,
对所述第二帧的第二特征量与各第一帧的第一特征量进行比较,确定与所述第二特征量最接近的第一特征量,并以所确定的第一特征量和所述第二特征量为基础,对所述某个作业动作是否异常进行判定。
6.一种异常检测程序,其特征在于,
使计算机执行如下处理:
将拍摄到的被拍摄体的正常的作业动作的动画数据所包含的各第一帧、与表示该第一帧的特征的第一特征量建立对应并存储于存储装置,
将拍摄到的被拍摄体的某个作业动作的动画数据所包含的各第二帧、与表示该第二帧的特征的第二特征量建立对应并存储于存储装置,
对所述第二帧的第二特征量与各第一帧的第一特征量进行比较,确定与所述第二特征量最接近的第一特征量,并以所确定的第一特征量和所述第二特征量为基础,对所述某个作业动作是否异常进行判定。
CN201480083403.5A 2014-11-19 2014-11-19 异常检测装置以及异常检测方法 Expired - Fee Related CN106922194B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/080695 WO2016079833A1 (ja) 2014-11-19 2014-11-19 異常検出装置、異常検出方法および異常検出プログラム

Publications (2)

Publication Number Publication Date
CN106922194A true CN106922194A (zh) 2017-07-04
CN106922194B CN106922194B (zh) 2020-09-11

Family

ID=56013444

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480083403.5A Expired - Fee Related CN106922194B (zh) 2014-11-19 2014-11-19 异常检测装置以及异常检测方法

Country Status (5)

Country Link
US (1) US10467745B2 (zh)
EP (1) EP3223238B1 (zh)
JP (1) JP6504180B2 (zh)
CN (1) CN106922194B (zh)
WO (1) WO2016079833A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110815208A (zh) * 2018-08-08 2020-02-21 欧姆龙株式会社 控制系统、解析装置以及控制方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017037896A1 (ja) * 2015-09-02 2017-03-09 富士通株式会社 異常検知装置、異常検知方法、及び異常検知プログラム
CN107657601A (zh) * 2017-07-28 2018-02-02 国网山东省电力公司济南供电公司 一种变电站设备分合物理位置监测装置及方法
CN117581529A (zh) * 2021-11-30 2024-02-20 三菱电机株式会社 异常检测程序、异常检测装置及异常检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007080136A (ja) * 2005-09-16 2007-03-29 Seiko Epson Corp 画像内に表現された被写体の特定
JP2012178036A (ja) * 2011-02-25 2012-09-13 Kddi Corp 類似度評価装置及び方法並びに類似度評価プログラム及びその記憶媒体
CN103942544A (zh) * 2009-12-22 2014-07-23 松下电器产业株式会社 动作解析装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4116761B2 (ja) * 2000-08-28 2008-07-09 シグマツクス株式会社 射出成形機監視装置
JP4368767B2 (ja) * 2004-09-08 2009-11-18 独立行政法人産業技術総合研究所 異常動作検出装置および異常動作検出方法
JP4637564B2 (ja) 2004-12-22 2011-02-23 株式会社リコー 状態検知装置、状態検知方法、プログラムおよび記録媒体
JP4215781B2 (ja) 2006-06-16 2009-01-28 独立行政法人産業技術総合研究所 異常動作検出装置および異常動作検出方法
WO2012051605A2 (en) * 2010-10-15 2012-04-19 Jammit Inc. Dynamic point referencing of an audiovisual performance for an accurate and precise selection and controlled cycling of portions of the performance
JP5803159B2 (ja) * 2011-03-08 2015-11-04 株式会社デンソーウェーブ ロボット監視システム、及びロボット監視システムの異常判定方法
JP5773915B2 (ja) * 2012-03-14 2015-09-02 三菱電機ビルテクノサービス株式会社 操作解析システム及び管理センタ
US9199122B2 (en) * 2012-10-09 2015-12-01 Kc Holdings I Personalized avatar responsive to user physical state and context
US9477877B2 (en) * 2014-07-31 2016-10-25 Landis+Gyr Innovations, Inc. Asset security management system
KR20160025224A (ko) * 2014-08-27 2016-03-08 신현대 승강기 비정상 운행 감지 장치 및 시스템

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007080136A (ja) * 2005-09-16 2007-03-29 Seiko Epson Corp 画像内に表現された被写体の特定
CN103942544A (zh) * 2009-12-22 2014-07-23 松下电器产业株式会社 动作解析装置
JP2012178036A (ja) * 2011-02-25 2012-09-13 Kddi Corp 類似度評価装置及び方法並びに類似度評価プログラム及びその記憶媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110815208A (zh) * 2018-08-08 2020-02-21 欧姆龙株式会社 控制系统、解析装置以及控制方法

Also Published As

Publication number Publication date
EP3223238B1 (en) 2020-09-30
JP6504180B2 (ja) 2019-04-24
JPWO2016079833A1 (ja) 2017-08-17
EP3223238A4 (en) 2017-11-15
US20170249728A1 (en) 2017-08-31
US10467745B2 (en) 2019-11-05
WO2016079833A1 (ja) 2016-05-26
CN106922194B (zh) 2020-09-11
EP3223238A1 (en) 2017-09-27

Similar Documents

Publication Publication Date Title
CN109508688B (zh) 基于骨架的行为检测方法、终端设备及计算机存储介质
US20200210702A1 (en) Apparatus and method for image processing to calculate likelihood of image of target object detected from input image
JP6176388B2 (ja) 画像識別装置、画像センサ、画像識別方法
JP5455787B2 (ja) 動作解析装置および動作解析方法
EP3062263A1 (en) Method and apparatus for work quality control
CN105243395B (zh) 一种人体图像比对方法和装置
JP6783713B2 (ja) 人行動推定システム
Andrianakos et al. An approach for monitoring the execution of human based assembly operations using machine learning
JP6977686B2 (ja) 制御システムおよび制御装置
JP6672712B2 (ja) 異常作業検出システムおよび異常作業検出方法
JP2014137756A5 (zh)
CN106922194A (zh) 异常检测装置、异常检测方法以及异常检测程序
WO2020039882A1 (ja) 判別装置及び機械学習方法
JP7222231B2 (ja) 行動認識装置、行動認識方法及びプログラム
CN109086725B (zh) 手部跟踪方法及机器可读存储介质
JP2008009938A (ja) 動画像データ処理装置、動画像データ処理方法、動画像データ処理プログラム、およびこれを記録した記録媒体
JP7401280B2 (ja) 作業工程判別装置及び作業工程判別システム
JP6676954B2 (ja) 処理装置、処理方法及び処理プログラム
JP2015085437A (ja) 判定装置、判定方法、および判定プログラム
JP2012141884A (ja) 評価支援装置および評価支援システム
WO2023073795A1 (ja) クラス境界検出装置、制御方法、及び非一時的なコンピュータ可読媒体
JP2015184743A (ja) 画像処理装置および物体認識方法
Weimer et al. Context-aware deep convolutional neural networks for industrial inspection
Tan et al. Research on YOLOv8 Application in Bolt and Nut Detection for Robotic Arm Vision
WO2016142965A1 (ja) 映像処理装置、映像処理方法及び映像処理プログラムを記憶する記録媒体

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200911