CN111061265A - 一种物体搬运方法、装置及系统 - Google Patents
一种物体搬运方法、装置及系统 Download PDFInfo
- Publication number
- CN111061265A CN111061265A CN201911247059.XA CN201911247059A CN111061265A CN 111061265 A CN111061265 A CN 111061265A CN 201911247059 A CN201911247059 A CN 201911247059A CN 111061265 A CN111061265 A CN 111061265A
- Authority
- CN
- China
- Prior art keywords
- target
- preset
- target object
- image
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000003860 storage Methods 0.000 claims description 37
- 238000012545 processing Methods 0.000 claims description 18
- 230000000007 visual effect Effects 0.000 claims description 14
- 238000010191 image analysis Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 abstract description 17
- 238000004891 communication Methods 0.000 description 38
- 238000004519 manufacturing process Methods 0.000 description 9
- 239000003086 colorant Substances 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000013589 supplement Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D63/00—Motor vehicles or trailers not otherwise provided for
- B62D63/02—Motor vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B62—LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
- B62D—MOTOR VEHICLES; TRAILERS
- B62D63/00—Motor vehicles or trailers not otherwise provided for
- B62D63/02—Motor vehicles
- B62D63/04—Component parts or accessories
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/34—Route searching; Route guidance
- G01C21/3407—Route searching; Route guidance specially adapted for specific applications
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- Chemical & Material Sciences (AREA)
- Automation & Control Theory (AREA)
- General Physics & Mathematics (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Combustion & Propulsion (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Aviation & Aerospace Engineering (AREA)
- Electromagnetism (AREA)
- Multimedia (AREA)
- Manipulator (AREA)
Abstract
本申请提供一种物体搬运方法、装置及系统,其中,该方法应用于物体搬运系统,所述方法包括:在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;根据所述判断结果控制导引车的搬运路径。在物体搬运的过程中,本申请能够根据点位上的物体放置情况自动调度导引车的搬运路径,使得搬运过程更加高效,智能化程度高,搬运效率更高。
Description
技术领域
本申请涉及运输技术领域,具体而言,涉及一种物体搬运方法、装置及系统。
背景技术
在自动化运输过程中,搬运和卸货是比较关键的一环,长距离搬运和两条独立产线之间的运输是比较常见的问题。目前,在物体搬运的过程中使用的是自动导引运输车(Automated Guided Vehicle,AGV)来代替人力进行搬运,可起到两条产线之间的桥梁作用,同时,利用设置于机器人上的机械手臂进行抓取工作,可代替人力重复进行繁重劳动,实现机械化和自动化,能在有害环境下操作以保护人身安全。但是目前,机器人的智能化程度较低,只能够机械重复将物体存放点的目标物体搬运到目标产线的各个点位上,不能在物体搬运过程中进行高效的调度安排,导致可能出现重复搬运的问题,搬运效率也较低。
发明内容
本申请实施例的目的在于提供一种物体搬运方法、装置及系统,能够根据点位上的物体放置情况智能化调度导引车的搬运路径,使得搬运过程更加高效。
第一方面,本申请实施例提供一种物体搬运方法,应用于物体搬运系统,所述方法包括:在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;根据所述判断结果控制导引车的搬运路径。
在物体搬运的过程中,上述方案能够根据点位上的物体放置情况自动调度导引车的搬运路径,使得搬运过程更加高效,智能化程度高,搬运效率更高。
可选的,所述根据所述判断结果控制导引车的搬运路径,包括:在所述判断结果为所述第一目标图像中存在目标物体的情况下,控制导引车向所述预设地图中的下一个预设点位移动。
可选的,所述根据所述判断结果控制导引车的搬运路径,包括:在所述判断结果为所述第一目标图像中不存在目标物体的情况下,控制导引车向所述预设地图中的目标物体存放点移动,以使导引车将目标物体从所述目标物体存放点搬运到所述预设点位。
在上述两种实施方案中,可根据对第一目标图像的判断结果调度导引车前往下一个标记的点位或者前往目标物体存放点为点位补充目标物体。
可选的,所述获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果,包括:控制相机在第一预设拍照位置拍照,并接收相机在拍照后发来的包含有预设点位的第一目标图像;对所述第一目标图像进行图像分析处理,获得所述第一目标图像中是否存在目标物体的判断结果。
可选的,所述获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果,包括:控制视觉装置中的相机在第一预设拍照位置拍照,以使所述视觉装置获得包含有预设点位的第一目标图像;接收所述视觉装置发来的第一目标图像中是否存在目标物体的判断结果,其中,所述判断结果为所述视觉装置对所述第一目标图像进行图像分析处理后获得的。
在上述两种方案中,判断结果可以是接收到相机拍摄的第一目标图像后自行对其进行图像分析处理后获得,或者直接从视觉装置中获得。
可选的,对所述第一目标图像进行图像分析处理,包括:根据所述第一目标图像中像素间颜色的相似性在所述第一目标图像中划分出至少一个颜色区域;计算每个颜色区域对应的区域面积、最小外接矩形的长宽比和内接圆半径,判断所述至少一个颜色区域中是否存在所述区域面积满足第一预设条件、所述最小外接矩形的长宽比满足第二预设条件且所述内接圆半径满足第三预设条件的颜色区域,其中,所述第一预设条件、第二预设条件和第三预设条件根据目标物体的形状特征确定;若存在,则确定所述第一目标图像中存在目标物体;若不存在,则确定所述第一目标图像中不存在目标物体。
在上述方案中,由于目标物体和预设点位的背景颜色之间具有差异,因此在对第一目标图像进行分析时可以先通过颜色筛选的方式提取出与目标物体的颜色近似的一个或多个颜色区域,再分析每个颜色区域的属性,最后获得判断结果。
可选的,所述方法还包括:接收导引车发来的通讯报文,所述通讯报文中携带有目标参数;根据所述目标参数的值确定导引车是否到达预设地图中的预设点位。
可选的,在控制导引车向所述预设地图中的目标物体存放点移动之后,所述方法还包括:在确认导引车到达所述目标物体存放点后,确定包含有目标物体存放点的第二目标图像中目标物体的位置;根据所述目标物体的位置,控制机械手臂抓取目标物体,并控制机械手臂将所述目标物体放置在所述预设点位上。
在上述方案中,在导引车到达目标物体存放点后,进行视觉定位,准确抓取到目标物体。
可选的,确定包含有目标物体存放点的第二目标图像中目标物体的位置,包括:从所述第二目标图像中提取出像素的颜色值位于目标颜色范围内的目标区域;将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,其中,所述多个匹配得分与所述模板图像在所述目标区域上滑动时获得的多个子区域一一对应;从所述目标区域中确定出匹配得分高于预设得分的一个目标子区域,将所述目标子区域的中心确定为第二目标图像中目标物体的位置。
可选的,在确认导引车到达预设地图中的预设点位之前,所述方法还包括:控制相机在第二预设拍照位置拍照,并获取拍照后获得的第三目标图像中表征目标物体的图像区域的中心点,获得中心点的像素坐标;通过相机标定将所述像素坐标转换为第一世界坐标,并获取机械手臂将第三目标图像中的所述目标物体抓住时机器人的第二世界坐标;获取第一世界坐标和第二世界坐标的平均差值,将所述平均差值确定为相机与机械手臂的抓取端之间的位置偏差补偿值;所述根据所述目标物体的位置,控制机械手臂抓取目标物体,包括:根据所述目标物体的位置、所述位置偏差补偿值,控制机械手臂的抓取端抓取目标物体。
相机与机械手臂的抓取端存在一定的位置偏差。在进行物体搬运之前,还需要获取相机与机械手臂的抓取端之间的位置偏差补偿值,在获得第二目标图像中目标物体的位置后,将位置偏差及时补偿到视觉定位过程中,有效保证视觉定位的准确,避免抓取失误。
可选的,将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,包括:将获得的目标区域依次与预设的多个模板图像进行模板匹配,获得每个模板图像分别对应的多个匹配得分;从所述多个模板图像中确定出满足第四预设条件的目标模板图像,获得所述目标模板图像对应的多个匹配得分,其中,所述第四预设条件为模板图像的多个匹配得分中至少存在一个匹配得分高于预设得分。
当该方法应用于多条产线的物体搬运时,对于定位不同产线上形状、颜色不同的目标物体,可以预设多个模板图像,在物体搬运的过程中,机器人能够自动选择对应的模板图像进行匹配分析,搬运的范围得到扩大。
第二方面,本申请实施例提供一种物体搬运装置,包括:结果获取模块,用于在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;搬运控制模块,用于根据所述判断结果控制导引车的搬运路径。
第三方面,本申请实施例提供一种物体搬运系统,包括:导引车和机器人,所述机器人设置在所述导引车上并与所述导引车同步移动,在所述机器人上设置有相机,其中,所述机器人用于执行如第一方面所述的物体搬运方法。
第四方面,本申请实施例提供一种存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器运行时执行如第一方面所述的方法。
第五方面,本申请实施例提供一种机器人,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当所述机器人运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如第一方面所述的方法。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的物体搬运方法的流程图;
图2为本申请实施例中对第一目标图像进行图像分析处理的流程图;
图3为本申请实施例中对第二目标图像进行处理的流程图;
图4为本申请实施例在预设有多个模板图像时步骤123的具体流程图;
图5为本申请实施例中相机与机械手臂的抓取端之间的位置偏差补偿值的计算流程图;
图6为本申请实施例提供的物体搬运装置的示意图;
图7为本申请实施例提供的机器人的示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。
本申请实施例提供一种物体搬运方法,应用于物体搬运系统。物体搬运系统包括:导引车和机器人,其中,机器人安装在导引车上,且机器人与导引车同步移动,机器人将随着导引车到达预设点位而到达相应的位置。机器人上设置有相机,相机可以设置在机器人的机械手臂的抓取端,当机械手臂转动时,手臂移动并定位到预设的拍照位姿,使相机到达预设的拍照位置,机器人根据对相机所拍摄图像的分析结果,调度导引车的搬运路径,控制导引车移动至目标物体存放点将目标物体搬运到目标产线中等待补充物体的点位上或者控制导引车往下一个点位移动。本实施例中的导引车包括但不限于AGV,现有技术中任一具有自动巡航能力的车辆均属于本实施例导引车的范围内。
图1示出了本实施例提供的物体搬运方法的流程图,请参阅图1,该方法从机器人侧进行阐述,包括如下步骤:
步骤110:在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果。
在执行该物体搬运方法之前,前期的准备工作包括:(1)在目标物体存放点存放多个目标物体,且在物体搬运的过程中,应当注意及时补充目标物体存放点处的目标物体;(2)预先创建地图,导引车内设置有激光扫描仪,能够扫描和检测运动场景(进行物体搬运的整个场景)中的环境,也有创建地图的能力,当创建地图时,控制导引车在运动场景中运动一圈,保证场景中的每个位置在地图中都有体现,然后,控制导引车依次移动到产线上等待补充目标物体的每一个点位,在地图中标记下点位,以便后续导引车自动走到相应点位。导引车具有自动巡航能力,且能够进行自动避障,在物体搬运时,导引车根据地图中标记的点位,通过路径规划依次到达每一个点位。
当导引车到达预设点位(地图中标记的某一点位)后,通过与机器人建立的通讯连接,向机器人发送通讯报文,其中,通讯报文中携带有目标参数,机器人在收到通讯报文后,根据目标参数的值确认导引车已到达对应的点位。可选的,导引车在通讯报文中将寄存器字段的值设置为1,机器人收到通讯报文后,寄存器的值从初始的0变为1,由于导引车与机器人预先定义寄存器的值变为1时表示导引车到达对应点位,因此机器人确定导引车已到达点位。在具体实施时,导引车可以与机器人建立Modbus连接,或者使用串口通讯或者基于http协议的网络通讯。
在一种实施方式中,在机器人上设置有相机,相机与机器人的控制器连接,在确认导引车到达预设点位后,机器人控制机械手臂转动,手臂移动并定位到预设的第一拍照位姿,使相机到达预设的第一拍照位置,然后发送命令触发相机拍照,获得一张包含有预设点位的第一目标图像,相机拍摄的图像实时传给机器人的控制器,控制器根据采集的第一目标图像对第一目标图像进行图像分析处理,判断在第一目标图像中是否存在目标物体,也即在该预设点位处是否需要补充目标物体,并获得判断结果。
在另一种实施方式中,在机器人上设置有相机,相机与一处理器构成视觉装置,其中,处理器可以是工控机,工控机可以放置在导引车的控制柜内。机器人与视觉装置建立通讯,具体的,机器人的控制器与视觉装置的处理器通信连接,处理器与相机连接。在确认导引车到达预设点位后,机器人控制机械手臂转动,使相机到达预设的第一拍照位置,然后机器人通过与视觉装置的处理器建立的通讯,向处理器发送命令,使得相机软触发拍摄获得第一目标图像,相机拍摄的图像实时传给视觉装置的处理器,处理器根据相机拍摄的第一目标图像,对其进行图像处理分析,判断在第一目标图像中是否存在目标物体,也即在该预设点位处是否需要补充目标物体,并获得判断结果。视觉装置将获得的判断结果发给机器人。在具体实施时,机器人可以与视觉装置可以建立socket通讯。
在上述两种实施方式中,机器人或者视觉装置对第一目标图像进行图像分析处理的步骤请参阅图2,包括:
步骤111:根据第一目标图像中像素间颜色的相似性,在第一目标图像中划分出至少一个颜色区域。由于目标物体和预设点位的背景颜色之间具有差异,可以通过颜色筛选的方式提取出与目标物体的颜色近似的一个或多个颜色区域。
步骤112:计算每个颜色区域对应的区域面积、最小外接矩形的长宽比和内接圆半径,并判断该至少一个颜色区域中是否存在区域面积、最小外接矩形的长宽比和内接圆半径均满足条件的颜色区域,若存在,转至步骤113,若不存在,转至步骤114。
具体的,上述条件是指颜色区域的区域面积满足第一预设条件、最小外接矩形的长宽比满足第二预设条件且内接圆半径满足第三预设条件,其中,第一预设条件、第二预设条件和第三预设条件是根据目标物体的形状特征确定的,以判别对应的颜色区域是否符合目标物体的特征。
步骤113:确定第一目标图像中存在目标物体。
步骤114:确定第一目标图像中不存在目标物体。
经步骤111-114后,已获得对第一目标图像中是否存在目标物体的判断结果,在这之后,还可执行步骤115以验证上述判断结果是否正确。
步骤115:对第一目标图像进行二值化处理,获得二值图像,并提取出二值图像中对应的至少一个连通区域,判断该至少一个连通区域中是否存在与目标物体的形状特征相匹配的连通区域,若存在,转至步骤113,若不存在,转至步骤114。
在实际应用过程中,步骤115为可选步骤,所以在图2中以虚线表示。在步骤112和步骤115得出的结果不一致时,可以根据预先约定的处理方式来获得最终的判断结果。需要说明的是,本实施例中判断第一目标图像是否存在目标物体还可以利用基于深度学习的分类算法进行实施。
在步骤110后,执行步骤120:根据该判断结果控制导引车的搬运路径。
判断结果包括:第一目标图像中存在目标物体和第一目标图像中不存在目标物体,分别表示预设点位上已有目标物体和预设点位上没有目标物体,在预设点位上没有目标物体时,则需要对预设点位补充目标物体。
在判断结果为第一目标图像中存在目标物体时,机器人控制导引车向预设地图中的下一个预设点位移动。在具体实施时,机器人向导引车发送通讯报文,在通讯报文中携带有目标参数,导引车根据目标参数的值向下一个预设点位移动。可选的,机器人在通讯报文中将寄存器字段的值设置为0,导引车收到通讯报文后,寄存器的值变为0,导引车与机器人预先定义寄存器的值变为0时表示导引车按照地图进行自动巡航,前往下一个标记的点位,因此导引车在收到通讯报文后自动移至下一个点位。
在判断结果为第一目标图像中不存在目标物体时,机器人控制导引车向预设地图中的目标物体存放点移动,以使导引车将目标物体从目标物体存放点搬运到该预设点位处。可选的,机器人向导引车发送通讯报文,在通讯报文中将寄存器字段的值设置为2,导引车收到通讯报文后,自动移动至目标物体存放点。在导引车到达后,导引车向机器人发送通讯报文以告知机器人,然后机器人控制机械手臂转动,手臂移动并定位到预设的第二拍照位姿,使相机到达预设的第二拍照位置(例如使相机在目标物体存放点的上方垂直向下拍照),然后发送命令触发相机拍照。可选的,机器人可通过电连接直接控制相机拍照或者通过视觉装置的处理器控制相机拍照。在其中一个实施例中,机器人以socket通讯向视觉装置发送拍照命令,相机软触发拍摄一张彩色图像,获得包含有目标物体存放点的第二目标图像。
在该实施例中,目标物体的颜色与存放点的背景颜色相近,对于相近样色的识别,HSV颜色空间的颜色识别比RGB颜色空间的颜色识别效果更佳,所以在目标物体的定位过程中使用HSV进行颜色识别精度会更高。因此,视觉装置在获得相机采集的第二目标图像后,对第二目标图像进行如下处理,具体步骤请参阅图3:
步骤121:将第二目标图像转换为HSV颜色格式的图像。
步骤122:从第二目标图像中提取出像素的颜色值位于目标颜色范围内的目标区域。
目标颜色范围根据目标物体的颜色特征确定。在实际应用中,如果在拍照时直接使用HSV颜色格式生成第二目标图像,那么可以不必执行步骤121,或者,也可以采用RGB或者其他颜色格式进行图像分析,步骤122中所指的图像可以是经步骤121处理后的图像,或者相机生成的原始的第二目标图像。步骤121为可选步骤,所以在图3中以虚线表示。
步骤123:将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,多个匹配得分与模板图像在目标区域上滑动时获得的多个子区域一一对应。
在本实施例中,采用模板匹配的方式获得第二目标图像中存在目标物体的区域。需要说明的是,在上述步骤123中,表示的是将目标区域与预设的一个模板图像进行匹配的过程,而当该方法应用于多条产线的物体搬运时,对于定位不同产线上形状、颜色不同的目标物体,可以预设多个模板图像,在物体搬运的过程中,机器人能够自动选择对应的模板图像进行匹配分析,搬运的范围得到扩大。
在具体实施时,首先需制作模板图像。机器人控制机械手臂定位到预设的第二拍照位姿,使相机到达预设的第二拍照位置,获得一张包含目标物体的图像,然后截取出只有目标物体的图像区域并保存,形成该目标物体对应的模板图像,在进行模板匹配时自动调用该模板图像。当预设有多个模板图像时,请参阅图4,步骤123具体可以包括如下步骤:
步骤1231:将获得的目标区域依次与预设的多个模板图像进行模板匹配,获得每个模板图像分别对应的多个匹配得分。
其中,每个模板图像均获得多个匹配得分。
步骤1232:从多个模板图像中确定出满足第四预设条件的目标模板图像,获得目标模板图像对应的多个匹配得分。
其中,第四预设条件为:模板图像的多个匹配得分中至少存在一个匹配得分高于预设得分。预设得分可以设置为0.8。在自动选择模板图像的过程中,首先依次将目标区域与预设的多个模板图像进行匹配,如果某个模板图像与目标区域的多个匹配得分中存在高于0.8的匹配得分,表明该模板图像为当前待搬运的目标物体所对应的模板图像,然后再基于该模板图像确定出目标物体的位置。
在步骤123后,执行步骤124:从目标区域中确定出匹配得分高于预设得分的一个目标子区域,将目标子区域的中心确定为第二目标图像中目标物体的位置。
在上述过程中,利用预先保存好的模板图像,将获得的目标区域与模板图像进行模板匹配,在目标区域中有匹配得分高于0.8(完全匹配时对应的匹配得分为1)的子区域时,则该子区域即为目标物体所在的区域。在筛选出的子区域为多个的情况下,可以随机或者按照预设的规则从多个子区域中确定出一个目标子区域。目标子区域的中心即为待抓取的目标物体的位置。
视觉装置将获得的目标物体的位置通过socket通讯发送给机器人,进一步的,机器人根据获得的目标物体的位置控制机械手臂移动至对应的位置抓取目标物体,并控制机械手臂将所抓取的目标物体放置在等待补充物体的预设点位上。
在完成放置操作后,机器人向导引车发送通讯报文,在通讯报文中将寄存器字段的值设置为0,导引车收到通讯报文后,寄存器的值变为0,然后导引车按照地图继续进行自动巡航,前往下一个标记的点位。导引车依次前往地图中标记的多个点位,每到达一个点位后,机器人执行上述步骤110-120,机器人根据对相机所拍摄图像的判断结果,智能分析点位的当前状况,并自动调度导引车的搬运路径,控制导引车前往下一个标记的点位或者前往目标物体存放点为点位补充目标物体。在整个搬运过程中,机器人的智能化程度高,可有效避免产线上缺少目标物体或者重复将目标物体搬运到同一点位上的问题,对于产线间的物体运输具有较好的效果。
在物体搬运过程中,尽量避免工作人员挡住导引车的行进路线,减少导引车由于避障所产生的额外耗时。
进一步的,机器人通过机械手臂的抓取端抓取目标物体,相机设置在机械手臂的抓取端,相机与机械手臂通过一连接件连接,相机与机械手臂的抓取端存在一定的位置偏差。在执行该物体搬运方法之前,前期的准备工作还包括:(3)获取相机与机械手臂的抓取端之间的位置偏差补偿值。
请参阅图5,在执行步骤110之前,该方法还包括如下步骤:
步骤210:控制相机在第二预设拍照位置拍照,并获取拍照后获得的第三目标图像中表征目标物体的图像区域的中心点,获得中心点的像素坐标。
步骤220:通过相机标定将像素坐标转换为第一世界坐标,并获取机械手臂将第三目标图像中的目标物体抓住时机器人的第二世界坐标。
步骤230:获取第一世界坐标和第二世界坐标的平均差值,将平均差值确定为相机与机械手臂的抓取端之间的位置偏差补偿值。
在上述过程中,首先将一个目标物体放在相机的视野里,采集获得一张第三目标图像,进行图像识别后定位到图像中目标物体的中心点,得到像素坐标,通过相机标定可将像素坐标转化为世界坐标,即获得第一世界坐标;再获取机器人的机械手臂将该目标物体抓住时的世界坐标,即获得第二世界坐标;将相机定位到的世界坐标和机器人的世界坐标进行比较,获得第一世界坐标与第二世界坐标的差值。重复多次试验后得到平均差值,并将其作为相机与机械手臂的抓取端之间的位置偏差补偿值。视觉装置或者机器人在获得第二目标图像中目标物体的位置后,将位置偏差及时补偿到视觉定位过程中,即根据第二目标图像中目标物体的位置和上述位置偏差补偿值确定目标物体的真实位置,机器人根据该真实位置控制机械手臂的抓取端进行抓取,有效保证视觉定位的准确,避免抓取失误。
综上所述,本实施例使用导引车替代人力搬运,使用机器人替代人力的抓取工作,将导引车、机器人和图像视觉相结合,既节省人力,也提高抓取的精度,同时,在物体搬运的过程中,能够根据点位上的物体放置情况自动调度导引车的搬运路径,使得搬运过程更加高效,智能化程度高,搬运效率更高。
基于同一发明构思,本申请实施例中还提供一种物体搬运装置,请参阅图6,该装置包括:
结果获取模块310,用于在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;
搬运控制模块320,用于根据所述判断结果控制导引车的搬运路径。
可选的,搬运控制模块320具体用于:在所述判断结果为所述第一目标图像中存在目标物体的情况下,控制导引车向所述预设地图中的下一个预设点位移动。
可选的,搬运控制模块320具体用于:在所述判断结果为所述第一目标图像中不存在目标物体的情况下,控制导引车向所述预设地图中的目标物体存放点移动,以使导引车将目标物体从所述目标物体存放点搬运到所述预设点位。
可选的,结果获取模块310具体用于:控制相机在第一预设拍照位置拍照,并接收相机在拍照后发来的包含有预设点位的第一目标图像;对所述第一目标图像进行图像分析处理,获得所述第一目标图像中是否存在目标物体的判断结果。
可选的,结果获取模块310具体用于:控制视觉装置中的相机在第一预设拍照位置拍照,以使所述视觉装置获得包含有预设点位的第一目标图像;接收所述视觉装置发来的第一目标图像中是否存在目标物体的判断结果,其中,所述判断结果为所述视觉装置对所述第一目标图像进行图像分析处理后获得的。
可选的,结果获取模块310具体用于:根据所述第一目标图像中像素间颜色的相似性在所述第一目标图像中划分出至少一个颜色区域;计算每个颜色区域对应的区域面积、最小外接矩形的长宽比和内接圆半径,判断所述至少一个颜色区域中是否存在所述区域面积满足第一预设条件、所述最小外接矩形的长宽比满足第二预设条件且所述内接圆半径满足第三预设条件的颜色区域,其中,所述第一预设条件、第二预设条件和第三预设条件根据目标物体的形状特征确定;若存在,则确定所述第一目标图像中存在目标物体;若不存在,则确定所述第一目标图像中不存在目标物体。
可选的,该装置还包括:确定模块,用于接收导引车发来的通讯报文,所述通讯报文中携带有目标参数;根据所述目标参数的值确定导引车是否到达预设地图中的预设点位。
可选的该装置还包括:搬运模块,用于在确认导引车到达所述目标物体存放点后,确定包含有目标物体存放点的第二目标图像中目标物体的位置;根据所述目标物体的位置,控制机械手臂抓取目标物体,并控制机械手臂将所述目标物体放置在所述预设点位上。
可选的,搬运模块具体用于:从所述第二目标图像中提取出像素的颜色值位于目标颜色范围内的目标区域;将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,其中,所述多个匹配得分与所述模板图像在所述目标区域上滑动时获得的多个子区域一一对应;从所述目标区域中确定出匹配得分高于预设得分的一个目标子区域,将所述目标子区域的中心确定为第二目标图像中目标物体的位置。
可选的,该装置还包括:偏差补偿模块,用于控制相机在第二预设拍照位置拍照,并获取拍照后获得的第三目标图像中表征目标物体的图像区域的中心点,获得中心点的像素坐标;通过相机标定将所述像素坐标转换为第一世界坐标,并获取机械手臂将第三目标图像中的所述目标物体抓住时机器人的第二世界坐标;获取第一世界坐标和第二世界坐标的平均差值,将所述平均差值确定为相机与机械手臂的抓取端之间的位置偏差补偿值;其中,搬运模块具体用于:根据所述目标物体的位置、所述位置偏差补偿值,控制机械手臂的抓取端抓取目标物体。
可选的,搬运模块具体用于:将获得的目标区域依次与预设的多个模板图像进行模板匹配,获得每个模板图像分别对应的多个匹配得分;从所述多个模板图像中确定出满足第四预设条件的目标模板图像,获得所述目标模板图像对应的多个匹配得分,其中,所述第四预设条件为模板图像的多个匹配得分中至少存在一个匹配得分高于预设得分。
上述提供的物体搬运装置与前一方法实施例的基本原理及产生的技术效果相同,为简要描述,本实施例部分未提及之处,可参考上述的方法实施例中的相应内容,在此不做赘述。
图7示出了本申请实施例提供的机器人400的一种可能的结构。请参照图7,机器人400包括:控制器410、存储器420以及通信接口430,这些组件通过通信总线440和/或其他形式的连接机构(未示出)互连并相互通讯。
其中,存储器420包括一个或多个(图中仅示出一个),其可以是,但不限于,随机存取存储器(Random Access Memory,简称RAM),只读存储器(Read Only Memory,简称ROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,简称EEPROM)等。控制器410以及其他可能的组件可对存储器420进行访问,读和/或写其中的数据。
控制器410包括一个或多个(图中仅示出一个),其可以是一种集成电路芯片,具有信号的处理能力。上述的控制器410可以是通用处理器,包括中央处理器(CentralProcessing Unit,简称CPU)、微控制单元(Micro Controller Unit,简称MCU)、网络处理器(Network Processor,简称NP)或者其他常规处理器;还可以是专用处理器,包括数字信号处理器(Digital Signal Processor,简称DSP)、专用集成电路(Application SpecificIntegrated Circuits,简称ASIC)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
通信接口430包括一个或多个(图中仅示出一个),可以用于和其他设备进行直接或间接地通信,以便进行数据的交互。通信接口430可以是以太网接口;可以是移动通信网络接口,例如3G、4G、5G网络的接口;还是可以是具有数据收发功能的其他类型的接口。
在存储器420中可以存储一个或多个计算机程序指令,控制器410可以读取并运行这些计算机程序指令,以实现本申请实施例提供的物体搬运方法的步骤以及其他期望的功能。
可以理解,图7所示的结构仅为示意,机器人400还可以包括比图7中所示更多或者更少的组件,或者具有与图7所示不同的配置。图7中所示的各组件可以采用硬件、软件或其组合实现。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序指令,该计算机程序指令被计算机的处理器读取并运行时,执行本申请实施例提供的物体搬运方法的步骤。例如,计算机可读存储介质可以实现为图7中机器人400中的存储器420。
本申请实施例还提供一种计算机程序产品,所述计算机程序产品在计算机上运行时,使得计算机执行前述实施例中的物体搬运方法。其中,该计算机程序产品可以被存储在上述计算机可读存储介质中,该计算机可以是指本实施例中的机器人。
在本申请所提供的实施例中,应该理解到,所揭露装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
再者,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
需要说明的是,功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种物体搬运方法,其特征在于,应用于物体搬运系统,所述方法包括:
在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;
根据所述判断结果控制导引车的搬运路径。
2.根据权利要求1所述的方法,其特征在于,所述根据所述判断结果控制导引车的搬运路径,包括:
在所述判断结果为所述第一目标图像中存在目标物体的情况下,控制导引车向所述预设地图中的下一个预设点位移动;
在所述判断结果为所述第一目标图像中不存在目标物体的情况下,控制导引车向所述预设地图中的目标物体存放点移动,以使导引车将目标物体从所述目标物体存放点搬运到所述预设点位。
3.根据权利要求1所述的方法,其特征在于,所述获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果,包括:
控制相机在第一预设拍照位置拍照,并接收相机在拍照后发来的包含有预设点位的第一目标图像;
对所述第一目标图像进行图像分析处理,获得所述第一目标图像中是否存在目标物体的判断结果。
4.根据权利要求1所述的方法,其特征在于,所述获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果,包括:
控制视觉装置中的相机在第一预设拍照位置拍照,以使所述视觉装置获得包含有预设点位的第一目标图像;
接收所述视觉装置发来的第一目标图像中是否存在目标物体的判断结果,其中,所述判断结果为所述视觉装置对所述第一目标图像进行图像分析处理后获得的。
5.根据权利要求2所述的方法,其特征在于,在控制导引车向所述预设地图中的目标物体存放点移动之后,所述方法还包括:
在确认导引车到达所述目标物体存放点后,确定包含有目标物体存放点的第二目标图像中目标物体的位置;
根据所述目标物体的位置,控制机械手臂抓取目标物体,并控制机械手臂将所述目标物体放置在所述预设点位上。
6.根据权利要求5所述的方法,其特征在于,确定包含有目标物体存放点的第二目标图像中目标物体的位置,包括:
从所述第二目标图像中提取出像素的颜色值位于目标颜色范围内的目标区域;
将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,其中,所述多个匹配得分与所述模板图像在所述目标区域上滑动时获得的多个子区域一一对应;
从所述目标区域中确定出匹配得分高于预设得分的一个目标子区域,将所述目标子区域的中心确定为第二目标图像中目标物体的位置。
7.根据权利要求5所述的方法,其特征在于,在确认导引车到达预设地图中的预设点位之前,所述方法还包括:
控制相机在第二预设拍照位置拍照,并获取拍照后获得的第三目标图像中表征目标物体的图像区域的中心点,获得中心点的像素坐标;
通过相机标定将所述像素坐标转换为第一世界坐标,并获取机械手臂将第三目标图像中的所述目标物体抓住时机器人的第二世界坐标;
获取第一世界坐标和第二世界坐标的平均差值,将所述平均差值确定为相机与机械手臂的抓取端之间的位置偏差补偿值;
所述根据所述目标物体的位置,控制机械手臂抓取目标物体,包括:根据所述目标物体的位置、所述位置偏差补偿值,控制机械手臂的抓取端抓取目标物体。
8.根据权利要求6所述的方法,其特征在于,将获得的目标区域与预设的模板图像进行模板匹配,获得多个匹配得分,包括:
将获得的目标区域依次与预设的多个模板图像进行模板匹配,获得每个模板图像分别对应的多个匹配得分;
从所述多个模板图像中确定出满足第四预设条件的目标模板图像,获得所述目标模板图像对应的多个匹配得分,其中,所述第四预设条件为模板图像的多个匹配得分中至少存在一个匹配得分高于预设得分。
9.一种物体搬运装置,其特征在于,包括:
结果获取模块,用于在确认导引车到达预设地图中的预设点位后,获取包含有预设点位的第一目标图像中是否存在目标物体的判断结果;
搬运控制模块,用于根据所述判断结果控制导引车的搬运路径。
10.一种物体搬运系统,其特征在于,包括:导引车和机器人,所述机器人设置在所述导引车上并与所述导引车同步移动,在所述机器人上设置有相机,其中,所述机器人用于执行如权利要求1-8任一项所述的物体搬运方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911247059.XA CN111061265A (zh) | 2019-12-06 | 2019-12-06 | 一种物体搬运方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911247059.XA CN111061265A (zh) | 2019-12-06 | 2019-12-06 | 一种物体搬运方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111061265A true CN111061265A (zh) | 2020-04-24 |
Family
ID=70300113
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911247059.XA Pending CN111061265A (zh) | 2019-12-06 | 2019-12-06 | 一种物体搬运方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111061265A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112165562A (zh) * | 2020-08-27 | 2021-01-01 | 深圳玖加科技有限公司 | 搬运过程中的物体拍照方法和装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103413131A (zh) * | 2013-01-24 | 2013-11-27 | 中国科学院遥感与数字地球研究所 | 基于光谱及几何特征的塔吊识别方法 |
CN105518702A (zh) * | 2014-11-12 | 2016-04-20 | 深圳市大疆创新科技有限公司 | 一种对目标物体的检测方法、检测装置以及机器人 |
CN106531161A (zh) * | 2016-10-17 | 2017-03-22 | 南京理工大学 | 基于图像识别的移动小车自动分拣搬运物品的装置及方法 |
CN206178473U (zh) * | 2016-10-18 | 2017-05-17 | 张锦迪 | 一种智能物料搬运小车的控制系统 |
CN108108761A (zh) * | 2017-12-21 | 2018-06-01 | 西北工业大学 | 一种基于深度特征学习的快速交通信号灯检测方法 |
CN108750509A (zh) * | 2018-06-05 | 2018-11-06 | 广州市远能物流自动化设备科技有限公司 | 一种基于agv小车的货位检测方法及agv小车 |
CN110125926A (zh) * | 2018-02-08 | 2019-08-16 | 比亚迪股份有限公司 | 自动化的工件取放方法及系统 |
CN110342432A (zh) * | 2019-07-23 | 2019-10-18 | 广东嘉腾机器人自动化有限公司 | 激光叉车的取放货方法以及系统 |
CN110450129A (zh) * | 2019-07-19 | 2019-11-15 | 五邑大学 | 一种应用于搬运机器人的搬运行进方法及其搬运机器人 |
-
2019
- 2019-12-06 CN CN201911247059.XA patent/CN111061265A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103413131A (zh) * | 2013-01-24 | 2013-11-27 | 中国科学院遥感与数字地球研究所 | 基于光谱及几何特征的塔吊识别方法 |
CN105518702A (zh) * | 2014-11-12 | 2016-04-20 | 深圳市大疆创新科技有限公司 | 一种对目标物体的检测方法、检测装置以及机器人 |
CN106531161A (zh) * | 2016-10-17 | 2017-03-22 | 南京理工大学 | 基于图像识别的移动小车自动分拣搬运物品的装置及方法 |
CN206178473U (zh) * | 2016-10-18 | 2017-05-17 | 张锦迪 | 一种智能物料搬运小车的控制系统 |
CN108108761A (zh) * | 2017-12-21 | 2018-06-01 | 西北工业大学 | 一种基于深度特征学习的快速交通信号灯检测方法 |
CN110125926A (zh) * | 2018-02-08 | 2019-08-16 | 比亚迪股份有限公司 | 自动化的工件取放方法及系统 |
CN108750509A (zh) * | 2018-06-05 | 2018-11-06 | 广州市远能物流自动化设备科技有限公司 | 一种基于agv小车的货位检测方法及agv小车 |
CN110450129A (zh) * | 2019-07-19 | 2019-11-15 | 五邑大学 | 一种应用于搬运机器人的搬运行进方法及其搬运机器人 |
CN110342432A (zh) * | 2019-07-23 | 2019-10-18 | 广东嘉腾机器人自动化有限公司 | 激光叉车的取放货方法以及系统 |
Non-Patent Citations (1)
Title |
---|
郝丽娜: "《工业机器人控制技术》", 华中科技大学出版社, pages: 153 - 162 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112165562A (zh) * | 2020-08-27 | 2021-01-01 | 深圳玖加科技有限公司 | 搬运过程中的物体拍照方法和装置 |
CN112165562B (zh) * | 2020-08-27 | 2023-04-14 | 深圳玖加科技有限公司 | 搬运过程中的物体拍照方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230260071A1 (en) | Multicamera image processing | |
KR102397508B1 (ko) | 오버헤드 라이트 기반 배치를 갖는 산업용 차량 | |
JP5787642B2 (ja) | 対象物保持装置、対象物保持装置の制御方法、およびプログラム | |
US11667036B2 (en) | Workpiece picking device and workpiece picking method | |
CN115330819B (zh) | 一种软包分割定位方法、工控机和机器人抓取系统 | |
CN114820781A (zh) | 基于机器视觉的智能搬运方法、装置、系统及存储介质 | |
CN116494253B (zh) | 目标物体抓取位姿获取方法及机器人抓取系统 | |
CN112509145B (zh) | 基于三维视觉的物料分拣方法和装置 | |
CN111061265A (zh) | 一种物体搬运方法、装置及系统 | |
CN116228854A (zh) | 一种基于深度学习的包裹自动分拣方法 | |
CN113601501B (zh) | 机器人柔性作业方法、装置及机器人 | |
CN114387344A (zh) | 一种载货工具位姿检测方法、装置、搬运车辆及介质 | |
CN114187312A (zh) | 目标物的抓取方法、装置、系统、存储介质及设备 | |
CN113673276A (zh) | 目标物体识别对接方法、装置、电子设备及存储介质 | |
CN117444450A (zh) | 一种焊缝焊接方法、电子设备和存储介质 | |
EP3647236B1 (en) | Projection instruction device, parcel sorting system, and projection instruction method | |
CN111563871A (zh) | 图像处理方法、装置、设备和视觉引导拆垛方法、系统 | |
WO2023082417A1 (zh) | 抓取点信息获取方法、装置、电子设备和存储介质 | |
CN111470244B (zh) | 机器人系统的控制方法以及控制装置 | |
CN115586552A (zh) | 一种港口轮胎吊或桥吊下无人集卡精确二次定位方法 | |
CN115082395A (zh) | 一种航空行李自动识别系统及方法 | |
TW202312021A (zh) | 電路板抓取位置的自動辨識系統與自動辨識方法 | |
CN114972495A (zh) | 针对纯平面结构的物体的抓取方法、装置及计算设备 | |
CN114019963B (zh) | 一种面向桌面集群机器人的外部定位系统 | |
CN111410045A (zh) | 货箱搬运方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200424 |
|
RJ01 | Rejection of invention patent application after publication |