[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN111923049B - 基于球面模型的飞行机械臂视觉伺服与多任务控制方法 - Google Patents

基于球面模型的飞行机械臂视觉伺服与多任务控制方法 Download PDF

Info

Publication number
CN111923049B
CN111923049B CN202010848414.5A CN202010848414A CN111923049B CN 111923049 B CN111923049 B CN 111923049B CN 202010848414 A CN202010848414 A CN 202010848414A CN 111923049 B CN111923049 B CN 111923049B
Authority
CN
China
Prior art keywords
mechanical arm
flying
unmanned aerial
aerial vehicle
formula
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010848414.5A
Other languages
English (en)
Other versions
CN111923049A (zh
Inventor
何炳蔚
赖宁斌
陈彦杰
梁嘉诚
林立雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuzhou University
Original Assignee
Fuzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuzhou University filed Critical Fuzhou University
Priority to CN202010848414.5A priority Critical patent/CN111923049B/zh
Publication of CN111923049A publication Critical patent/CN111923049A/zh
Application granted granted Critical
Publication of CN111923049B publication Critical patent/CN111923049B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1602Programme controls characterised by the control system, structure, architecture
    • B25J9/1605Simulation of manipulator lay-out, design, modelling of manipulator
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/08Control of attitude, i.e. control of roll, pitch, or yaw
    • G05D1/0808Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Manipulator (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本发明提出基于球面模型的飞行机械臂视觉伺服与多任务控制方法,采用的伺服结构包括无人机、机械臂和控制模块;机械臂安装于无人机的机械臂安装面处;机械臂安装面处还设有深度相机,其拍摄角度与机械臂安装面成角度设置,控制模块使深度相机、机械臂组合为机器人手眼标定系统;所述机械臂末端设有执行器;所述控制模块为可对无人机的飞行进行控制的控制模块;当所述飞行机械臂需对目标进行操作时,控制模块经深度相机对目标距离进行评估,若目标位于机械臂操作范围外,则控制模块驱动无人机向目标飞行,若目标位于机械臂操作范围内,则控制模块驱动机械臂对目标进行操作;本发明能在无人机上挂载具备主动操纵能力的机械臂。

Description

基于球面模型的飞行机械臂视觉伺服与多任务控制方法
技术领域
本发明涉及无人机技术领域,尤其是基于球面模型的飞行机械臂视觉伺服与多任务控制方法。
背景技术
无人机系统具有运动机动性强、灵活性高等特点,可以在三维世界中自由飞行,因此近年来得到许多不同领域的行业的广泛运用,例如工业工厂检查、战场侦察、自然灾害侦察、地图创建和测量等方面有着广泛的应用。
飞行机械臂系统是在无人机上安装具有一定自由度的机械臂,与常规的无人机相比,作业型无人机系统具有诸多优势,它能在飞行过程中实现对空中或地面目标的快速捕捉,能迅速到达地面机器人无法进入的复杂环境中执行安装或回收测量设备等精细作业任务;但传统无人机系统极大地限制了它们主动操纵的能力,因此,研发无人机与环境之间的物理交互的飞行机械臂具有重大意义。本发明正是根据这种需求提出了基于球面模型的飞行机械臂视觉伺服与多任务协调控制方法。
发明内容
本发明提出基于球面模型的飞行机械臂视觉伺服与多任务控制方法,能在无人机上挂载具备主动操纵能力的机械臂。
本发明采用以下技术方案。
基于球面模型的飞行机械臂视觉伺服结构,所述伺服结构包括六自由度的无人机、三自由度的机械臂和控制模块;所述机械臂安装于无人机的基座的机械臂安装面处;所述机械臂安装面处还设有深度相机;所述深度相机的拍摄角度与机械臂安装面成角度设置,所述控制模块与深度相机、机械臂相连,并使深度相机、机械臂组合为机器人手眼标定系统。
所述机械臂包括三个转动关节;所述机械臂安装面位于基座的平台正下方;所述深度相机为Intel RealSense相机。
所述机械臂末端设有执行器;所述控制模块为可对无人机的飞行进行控制的控制模块;当所述飞行机械臂需对目标进行操作时,控制模块经深度相机对目标距离进行评估,若目标位于机械臂操作范围外,则控制模块驱动无人机向目标飞行,若目标位于机械臂操作范围内,则控制模块驱动机械臂对目标进行操作。
基于球面模型的飞行机械臂视觉伺服与多任务控制方法,所述控制方法使用上文中的基于球面模型的飞行机械臂视觉伺服结构,包括以下步骤;
步骤S1:控制模块通过深度相机获取目标物信息,并基于球面模型建立用于伺服飞行控制的球面坐标系,在无人机飞行过程中,基于球面坐标系实时计算目标物相对于无人机的期望位置实时位置之差,以基于球面坐标系的视觉伺服控制方法来控制无人机向目标物飞行,并得到无人机的伺服速度;
步骤S2:当无人机距目标物较近,使目标物到达相对于无人机的期望位置后,控制模块通过深度相机获取目标物信息和机械臂末端的执行器的信息,并基于球面坐标系对机械臂进行伺服控制,同时得到机械臂在球面坐标系内的角速度;
步骤S3:通过飞行机械臂视觉误差方程控制机械臂动作,以消除深度相机的视觉误差,使控制模块能够对机械臂进行伺服控制来移动执行器,把机械臂末端的执行器移动定位至目标物处;
步骤S4:采用针对多任务的协调控制方法控制飞行机械臂,对目标物定位并抓取,所述多任务包括机械臂末端位置控制、估计目标物体姿态、动态补偿系统重心的变化、避免机械臂关节极限,在对目标物定位并抓取的过程中,所述协调控制方法使飞行机械臂所执行的任务类别与飞行机械臂当前工况匹配。
所述球面模型采用纬度角与经度角坐标m(θzx)T表示,假设目标物或机械臂的执行器所在位置点在相机坐标系下的坐标为Mi=(xi yi zi)T,则有:
其中,R2=x2+y2+z2
所述步骤S1包括以下步骤;
步骤S11:球面坐标系为以深度相机为原点的相机坐标系,深度相机在世界坐标系以速度vo=(vT,wT)T移动,设相机观察到的目标物所在位置点为球面特征点,球面特征点相对于相机坐标系的速度为即:
步骤S12:对公式一求导,并结合公式二得到基于球面的图像雅可比矩阵为:
步骤S13:得到球面特征点运动方程为:
其中,vo=(vT,wT)T∈R6×1,v=(vx vy vz)T∈R3×1、w=(wx wy wz)T∈R3×1分别表示无人机的平移和旋转速度。
所述步骤S2包括以下步骤;
步骤S21:令pc=(xc yc zc)T∈R3×1表示机械臂末端执行器所在位置点P在相机坐标系下的位置,对公式一进行时间微分,可以得到:
其中,
步骤S22:将机械臂末端点P在相机坐标系下速度结合公式二,可以将它表示成末端执行器的运动函数:
其中,Bve=(BTe BWe)T∈R6×1表示机械臂末端点的速度矢量。sk()表示向量的斜对称矩阵。
步骤S23:根据机器人学,Bve可以表示成机械臂关节角速度函数:
其中,L(q)∈R6×3为机械臂雅可比矩阵。
步骤S24:综合公式五、公式六、公式七,可以得到:
所述飞行机械臂视觉误差方程为:
e=me-m0 (公式九)
对公式九进行时间微分,可以得到:
其中,Jfirst=(Ls -Jov -Jowz)∈R2×7代表系统的第一任务雅可比矩阵,代表系统的广义的速度输入,最后
所述的步骤S4包括以下步骤:
步骤S41:第一个任务为对机械臂末端位置的执行器进行控制,可通过公式十得到系统第一个任务的输入控制律为:
其中,假如Jfirst是行满秩的,则Λ1是正常数;
此时,需要设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式,并把该公式的微分结果带入公式九,使最终系统可以趋于指数稳定:
当飞行机械臂使用视觉引导来抓取目标对象得过程中,为避免机械臂被完全拉伸到奇异点,考虑以下两个可能出现的情况。一是当末端执行器距离目标较远时,移动无人机来移动四旋翼平台比移动机械臂更好;二是当末端执行器靠近目标时,目标在机械臂的可操作范围之内,这时通过机器臂的运动比四旋翼平台的运动更好达成伺服效果;对于飞行机械臂来说,飞行平台和机械手的运动是完全不同的;因此,设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式:
其中:μ是个正常数,W1,W2是分离四旋翼平台变量和机器人手臂关节变量的权值矩阵,如下所示:
n*是飞行平台运动的视觉误差范数期望值,n是飞行平台运动的视觉误差范数当前值。D()是定义的阈值函数,定义如下:
对任务协调控制加权公式进行数学微分得:
根据多体系统质心求解理论,可从系统重心CG计算公式对任务协调控制加权公式Ψ进行偏导数得到:
通过比较公式十三与公式十七,可以得到含有权值的即下式:
步骤S42:第二任务:机械臂末端定位;在第二任务中,在已知的2D点和3D点坐标对应关系,根据EPnP算法求解少量的方程组能够得到相机在目标物质心参考系下的姿态矩阵Tc∈R3×3,对该矩阵求逆,就求得目标在摄像机坐标系下的姿态,记为Tc -1,目标物体在坐标系C下位置为pc∈R3×1,则目标物在座标系C下的定位姿态矩阵为:
步骤S43:第三任务:系统重心偏移控制
偏航角只改变作业型无人机的机体方向,而对姿态的影响甚微,所以对作业型无人机的姿态主要控制俯仰和翻滚的稳定性。所以假设偏航角的期望值ψd为固定值,输出较为理想的翻滚角俯仰角θd。因此在飞行机械臂整体建模的基础之上,设计位置控制器为:
其中,u1为系统输入升力,Ms为系统总质量,η=(η1 η2 η2)TF(CG)为系统重心偏移参数。在无人机机体基座坐标系下,根据多体系统质心求解理论,系统重心CG为:
其中,Mi表示机械臂第i个关节重量,CGi表示关节i的质心在无人机机体基座坐标系的位置坐标;
姿态控制器主要控制作业型无人机的翻滚角、俯仰角和偏航角,通过估计系统实际惯性张量偏差值和重心偏移参数为使飞行机械臂的姿态能达到期望姿态,定义姿态误差函数为:
利用反演控制,设计如下控制律:
其中,u2、u3、u4分别为系统翻滚力矩输入、俯仰力矩输入、偏航力矩输入,si,(i=1,2,3)为系统定义的状态误差,状态变量分别是分别调节对应的参数ki、li来调整姿态误差和状态误差的上限值,函数G(·)表示高斯基函数输出,μi、ξi,(i=1,2,3)为正常数,p、q、r为坐标系B下的角速度矢量,为常参数矩阵。
步骤S44:第四任务:避免关节限制
定义关节角度误差:
eq=q*-q (公式二十五)
其中,q*为关节角度期望值,qL、qH为关节极限最小值与最大值。定义如下任务函数:
其中,kt是控制关节角度正常化的权值矩阵,kt=diag{(qH1-qL1)-2(qH2-qL2)-2(qH3-qL3)-2},任务函数期望值为因此期望的任务为:
其中,是矩阵Jf=(I3×3 03×4)的伪逆。
与现有技术相比,本发明有以下有益效果:与经典的视觉伺服建模方案不同,本发明控制系统采用基于球面模型的图像特征来建立视觉误差方程。本发明视觉伺服方案具有尽可能大的视场,非常适合无人机。它消除了保留视场特征的需要,降低了光流场运动的不确定性。针对飞行机械臂欠驱动、高度耦合的特点,本发明采用具有线速度和角速度解耦的图像雅可比矩阵进行视觉伺服任务。
同时,本发明设计了无人机与机械手之间的任务协调函数,得到了基于无人机视觉误差范数的加权雅可比矩阵,推导出该雅可比矩阵的伪逆矩阵。这些措施提高了无人机与机械手之间的任务协调性,避免了机械手关节极限。
针对机械手运动引起的重心偏移问题,本发明设计了一种基于重心偏移补偿的滑模位置控制系统。同时,设计了基于反演控制的姿态控制器,提高了飞行机械臂系统的稳定性。无人机可以稳定地悬停在目标上空,机械手可以有序、安全地抓取目标。
本发明的飞行机械臂与常规的无人机相比,它能在飞行过程中实现对空中或地面目标的快速捕捉,能迅速到达地面机器人无法进入的复杂环境中执行安装或回收测量设备等精细作业任务,极大的提高了无人机与环境之间的物理交互能力。因此其具有很大的应用价值。
附图说明
下面结合附图和具体实施方式对本发明进一步详细的说明:
附图1是本发明所述设备的示意图;
附图2是本发明的流程示意图;
附图3是步骤S1中的伺服飞行控制时的坐标变化示意图;
附图4是步骤S2中对机械臂进行伺服控制的坐标变化示意图;
附图5是步骤S3中对机械臂进行伺服控制来移动执行器时的坐标变化示意图;
图中:1-无人机;2-深度相机;3-机械臂。
具体实施方式
如图所示,基于球面模型的飞行机械臂视觉伺服结构,所述伺服结构包括六自由度的无人机、三自由度的机械臂和控制模块;所述机械臂安装于无人机的基座的机械臂安装面处;所述机械臂安装面处还设有深度相机;所述深度相机的拍摄角度与机械臂安装面成角度设置,所述控制模块与深度相机、机械臂相连,并使深度相机、机械臂组合为机器人手眼标定系统。
所述机械臂包括三个转动关节;所述机械臂安装面位于基座的平台正下方;所述深度相机为Intel RealSense相机。
所述机械臂末端设有执行器;所述控制模块为可对无人机的飞行进行控制的控制模块;当所述飞行机械臂需对目标进行操作时,控制模块经深度相机对目标距离进行评估,若目标位于机械臂操作范围外,则控制模块驱动无人机向目标飞行,若目标位于机械臂操作范围内,则控制模块驱动机械臂对目标进行操作。
基于球面模型的飞行机械臂视觉伺服与多任务控制方法,所述控制方法使用上文中的基于球面模型的飞行机械臂视觉伺服结构,包括以下步骤;
步骤S1:控制模块通过深度相机获取目标物信息,并基于球面模型建立用于伺服飞行控制的球面坐标系,在无人机飞行过程中,基于球面坐标系实时计算目标物相对于无人机的期望位置实时位置之差,以基于球面坐标系的视觉伺服控制方法来控制无人机向目标物飞行,并得到无人机的伺服速度;
步骤S2:当无人机距目标物较近,使目标物到达相对于无人机的期望位置后,控制模块通过深度相机获取目标物信息和机械臂末端的执行器的信息,并基于球面坐标系对机械臂进行伺服控制,同时得到机械臂在球面坐标系内的角速度;
步骤S3:通过飞行机械臂视觉误差方程控制机械臂动作,以消除深度相机的视觉误差,使控制模块能够对机械臂进行伺服控制来移动执行器,把机械臂末端的执行器移动定位至目标物处;
步骤S4:采用针对多任务的协调控制方法控制飞行机械臂,对目标物定位并抓取,所述多任务包括机械臂末端位置控制、估计目标物体姿态、动态补偿系统重心的变化、避免机械臂关节极限,在对目标物定位并抓取的过程中,所述协调控制方法使飞行机械臂所执行的任务类别与飞行机械臂当前工况匹配。
所述球面模型采用纬度角与经度角坐标m(θzx)T表示,假设目标物或机械臂的执行器所在位置点在相机坐标系下的坐标为Mi=(xi yi zi)T,则有:
其中,R2=x2+y2+z2
在本例中,步骤S1如图3所示,具体为:
所述步骤S1包括以下步骤;
步骤S11:球面坐标系为以深度相机为原点的相机坐标系,深度相机在世界坐标系以速度vo=(vT,wT)T移动,设相机观察到的目标物所在位置点为球面特征点,球面特征点相对于相机坐标系的速度为即:
步骤S12:对公式一求导,并结合公式二得到基于球面的图像雅可比矩阵为:
步骤S13:得到球面特征点运动方程为:
其中,vo=(vT,wT)T∈R6×1,v=(vx vy vz)T∈R3×1、w=(wx wy wz)T∈R3×1分别表示无人机的平移和旋转速度。
在本例中,步骤S2如图4所示,具体为:
所述步骤S2包括以下步骤;
步骤S21:令pc=(xc yc zc)T∈R3×1表示机械臂末端执行器所在位置点P在相机坐标系下的位置,对公式一进行时间微分,可以得到:
其中,
步骤S22:将机械臂末端点P在相机坐标系下速度结合公式二,可以将它表示成末端执行器的运动函数:
其中,Bve=(BTe BWe)T∈R6×1表示机械臂末端点的速度矢量。sk()表示向量的斜对称矩阵。
步骤S23:根据机器人学,Bve可以表示成机械臂关节角速度函数:
其中,L(q)∈R6×3为机械臂雅可比矩阵。
步骤S24:综合公式五、公式六、公式七,可以得到:
在本例中,步骤S3如图5所示,具体为:
所述飞行机械臂视觉误差方程为:
e=me-m0 (公式九)
对公式九进行时间微分,可以得到:
其中,Jfirst=(Ls -Jov -Jowz)∈R2×7代表系统的第一任务雅可比矩阵,代表系统的广义的速度输入,最后
所述的步骤S4包括以下步骤:
步骤S41:第一个任务为对机械臂末端位置的执行器进行控制,可通过公式十得到系统第一个任务的输入控制律为:
其中,假如Jfirst是行满秩的,则Λ1是正常数;
此时,需要设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式,并把该公式的微分结果带入公式九,使最终系统可以趋于指数稳定:
当飞行机械臂使用视觉引导来抓取目标对象得过程中,为避免机械臂被完全拉伸到奇异点,考虑以下两个可能出现的情况。一是当末端执行器距离目标较远时,移动无人机来移动四旋翼平台比移动机械臂更好;二是当末端执行器靠近目标时,目标在机械臂的可操作范围之内,这时通过机器臂的运动比四旋翼平台的运动更好达成伺服效果;对于飞行机械臂来说,飞行平台和机械手的运动是完全不同的;因此,设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式:
其中:μ是个正常数,W1,W2是分离四旋翼平台变量和机器人手臂关节变量的权值矩阵,如下所示:
n*是飞行平台运动的视觉误差范数期望值,n是飞行平台运动的视觉误差范数当前值。D()是定义的阈值函数,定义如下:
对任务协调控制加权公式进行数学微分得:
根据多体系统质心求解理论,可从系统重心CG计算公式对任务协调控制加权公式Ψ进行偏导数得到:
通过比较公式十三与公式十七,可以得到含有权值的即下式:
步骤S42:第二任务:机械臂末端定位;在第二任务中,在已知的2D点和3D点坐标对应关系,根据EPnP算法求解少量的方程组能够得到相机在目标物质心参考系下的姿态矩阵Tc∈R3×3,对该矩阵求逆,就求得目标在摄像机坐标系下的姿态,记为Tc -1,目标物体在坐标系C下位置为pc∈R3×1,则目标物在座标系C下的定位姿态矩阵为:
步骤S43:第三任务:系统重心偏移控制
偏航角只改变作业型无人机的机体方向,而对姿态的影响甚微,所以对作业型无人机的姿态主要控制俯仰和翻滚的稳定性。所以假设偏航角的期望值ψd为固定值,输出较为理想的翻滚角俯仰角θd。因此在飞行机械臂整体建模的基础之上,设计位置控制器为:
其中,u1为系统输入升力,Ms为系统总质量,η=(η1 η2 η2)TF(CG)为系统重心偏移参数。在无人机机体基座坐标系下,根据多体系统质心求解理论,系统重心CG为:
其中,Mi表示机械臂第i个关节重量,CGi表示关节i的质心在无人机机体基座坐标系的位置坐标;
姿态控制器主要控制作业型无人机的翻滚角、俯仰角和偏航角,通过估计系统实际惯性张量偏差值和重心偏移参数为使飞行机械臂的姿态能达到期望姿态,定义姿态误差函数为:
利用反演控制,设计如下控制律:
其中,u2、u3、u4分别为系统翻滚力矩输入、俯仰力矩输入、偏航力矩输入,si,(i=1,2,3)为系统定义的状态误差,状态变量分别是分别调节对应的参数ki、li来调整姿态误差和状态误差的上限值,函数G(·)表示高斯基函数输出,μi、ξi,(i=1,2,3)为正常数,p、q、r为坐标系B下的角速度矢量,为常参数矩阵。
步骤S44:第四任务:避免关节限制
定义关节角度误差:
eq=q*-q (公式二十五)
其中,q*为关节角度期望值,qL、qH为关节极限最小值与最大值。定义如下任务函数;
其中,kt是控制关节角度正常化的权值矩阵,kt=diag{(qH1-qL1)-2 (qH2-qL2)-2(qH3-qL3)-2},任务函数期望值为因此期望的任务为:
其中,是矩阵Jf=(I3×3 03×4)的伪逆。

Claims (7)

1.基于球面模型的飞行机械臂视觉伺服结构,其特征在于:所述伺服结构包括六自由度的无人机、三自由度的机械臂和控制模块;所述机械臂安装于无人机的基座的机械臂安装面处;所述机械臂安装面处还设有深度相机;所述深度相机的拍摄角度与机械臂安装面成角度设置,所述控制模块与深度相机、机械臂相连,并使深度相机、机械臂组合为机器人手眼标定系统;
所述机械臂包括三个转动关节;所述机械臂安装面位于基座的平台正下方;
所述机械臂末端设有执行器;所述控制模块为可对无人机的飞行进行控制的控制模块;当所述飞行机械臂需对目标进行操作时,控制模块经深度相机对目标距离进行评估,若目标位于机械臂操作范围外,则控制模块驱动无人机向目标飞行,若目标位于机械臂操作范围内,则控制模块驱动机械臂对目标进行操作;
基于球面模型的飞行机械臂视觉伺服与多任务控制方法,所述控制方法使用基于球面模型的飞行机械臂视觉伺服结构,包括以下步骤;
步骤S1:控制模块通过深度相机获取目标物信息,并基于球面模型建立用于伺服飞行控制的球面坐标系,在无人机飞行过程中,基于球面坐标系实时计算目标物相对于无人机的期望位置实时位置之差,以基于球面坐标系的视觉伺服控制方法来控制无人机向目标物飞行,并得到无人机的伺服速度;
步骤S2:当无人机距目标物较近,使目标物到达相对于无人机的期望位置后,控制模块通过深度相机获取目标物信息和机械臂末端的执行器的信息,并基于球面坐标系对机械臂进行伺服控制,同时得到机械臂在球面坐标系内的角速度;
步骤S3:通过飞行机械臂视觉误差方程控制机械臂动作,以消除深度相机的视觉误差,使控制模块能够对机械臂进行伺服控制来移动执行器,把机械臂末端的执行器移动定位至目标物处;
步骤S4:采用针对多任务的协调控制方法控制飞行机械臂,对目标物定位并抓取,所述多任务包括机械臂末端位置控制、估计目标物体姿态、动态补偿系统重心的变化、避免机械臂关节极限,在对目标物定位并抓取的过程中,所述协调控制方法使飞行机械臂所执行的任务类别与飞行机械臂当前工况匹配。
2.根据权利要求1所述的基于球面模型的飞行机械臂视觉伺服结构,其特征在于:所述球面模型采用纬度角与经度角坐标m(θzx)T表示,假设目标物或机械臂的执行器所在位置点在相机坐标系下的坐标为Mi=(xi yi zi)T,则有:
其中,R2=x2+y2+z2
3.根据权利要求1所述的基于球面模型的飞行机械臂视觉伺服结构,其特征在于:所述步骤S1包括以下步骤;
步骤S11:球面坐标系为以深度相机为原点的相机坐标系,深度相机在世界坐标系以速度vo=(vT,wT)T移动,设相机观察到的目标物所在位置点为球面特征点,球面特征点相对于相机坐标系的速度为即:
步骤S12:对公式一求导,并结合公式二得到基于球面的图像雅可比矩阵为:
步骤S13:得到球面特征点运动方程为:
其中,vo=(vT,wT)T∈R6×1,v=(vx vy vz)T∈R3×1、w=(wx wy wz)T∈R3×1分别表示无人机的平移和旋转速度。
4.根据权利要求3所述的基于球面模型的飞行机械臂视觉伺服与多任务控制方法,其特征在于:所述步骤S2包括以下步骤;
步骤S21:令pc=(xc yc zc)T∈R3×1表示机械臂末端执行器所在位置点P在相机坐标系下的位置,对公式一进行时间微分,可以得到:
其中,
步骤S22:将机械臂末端点P在相机坐标系下速度结合公式二,可以将它表示成末端执行器的运动函数:
其中,Bve=(BTe BWe)T∈R6×1表示机械臂末端点的速度矢量;sk()表示向量的斜对称矩阵;
步骤S23:根据机器人学,Bve可以表示成机械臂关节角速度函数:
其中,L(q)∈R6×3为机械臂雅可比矩阵;
步骤S24:综合公式五、公式六、公式七,可以得到:
5.根据权利要求3所述的基于球面模型的飞行机械臂视觉伺服与多任务控制方法,其特征在于:所述飞行机械臂视觉误差方程为:
e=me-m0 (公式九)
对公式九进行时间微分,可以得到:
其中,Jfirst=(Ls -Jov -Jowz)∈R2×7代表系统的第一任务雅可比矩阵,代表系统的广义的速度输入,最后
6.根据权利要求4所述的基于球面模型的飞行机械臂视觉伺服与多任务控制方法,其特征在于:
所述的步骤S4包括以下步骤:
步骤S41:第一个任务为对机械臂末端位置的执行器进行控制,可通过公式十得到系统第一个任务的输入控制律为:
其中,假如Jfirst是行满秩的,则Λ1是正常数;
此时,需要设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式,并把该公式的微分结果带入公式九,使最终系统可以趋于指数稳定:
当飞行机械臂使用视觉引导来抓取目标对象的过程中,为避免机械臂被完全拉伸到奇异点,考虑以下两个可能出现的情况;一是当末端执行器距离目标较远时,移动无人机来移动四旋翼平台比移动机械臂更好;二是当末端执行器靠近目标时,目标在机械臂的可操作范围之内,这时通过机器臂的运动比四旋翼平台的运动更好达成伺服效果;对于飞行机械臂来说,飞行平台和机械手的运动是完全不同的;因此,设计含有权值来分离飞行平台和机械臂变量的系统任务协调控制加权公式:
其中:μ是个正常数,W1,W2是分离四旋翼平台变量和机器人手臂关节变量的权值矩阵,如下所示:
n*是飞行平台运动的视觉误差范数期望值,n是飞行平台运动的视觉误差范数当前值;D()是定义的阈值函数,定义如下:
对任务协调控制加权公式进行数学微分得:
根据多体系统质心求解理论,可从系统重心CG计算公式对任务协调控制加权公式Ψ进行偏导数得到:
通过比较公式十三与公式十七,可以得到含有权值的即下式:
步骤S42:第二任务:机械臂末端定位;在第二任务中,在已知的2D点和3D点坐标对应关系,根据EPnP算法求解少量的方程组能够得到相机在目标物质心参考系下的姿态矩阵Tc∈R3×3,对该矩阵求逆,就求得目标在摄像机坐标系下的姿态,记为Tc -1,目标物体在坐标系C下位置为pc∈R3×1,则目标物在座标系C下的定位姿态矩阵为:
步骤S43:第三任务:系统重心偏移控制
偏航角只改变作业型无人机的机体方向,而对姿态的影响甚微,所以对作业型无人机的姿态主要控制俯仰和翻滚的稳定性;所以假设偏航角的期望值ψd为固定值,输出较为理想的翻滚角俯仰角θd;因此在飞行机械臂整体建模的基础之上,设计位置控制器为:
其中,u1为系统输入升力,Ms为系统总质量,η=(η1 η2 η2)TF(CG)为系统重心偏移参数;在无人机机体基座坐标系下,根据多体系统质心求解理论,系统重心CG为:
其中,Mi表示机械臂第i个关节重量,CGi表示关节i的质心在无人机机体基座坐标系的位置坐标;
姿态控制器主要控制作业型无人机的翻滚角、俯仰角和偏航角,通过估计系统实际惯性张量偏差值和重心偏移参数为使飞行机械臂的姿态能达到期望姿态,定义姿态误差函数为:
利用反演控制,设计如下控制律:
其中,u2、u3、u4分别为系统翻滚力矩输入、俯仰力矩输入、偏航力矩输入,si,(i=1,2,3)为系统定义的状态误差,状态变量分别是分别调节对应的参数ki、li来调整姿态误差和状态误差的上限值,函数G(·)表示高斯基函数输出,μi、ξi,(i=1,2,3)为正常数,p、q、r为坐标系B下的角速度矢量,为常参数矩阵;
步骤S44:第四任务:避免关节限制
定义关节角度误差:
eq=q*-q (公式二十五)
其中,q*为关节角度期望值,qL、qH为关节极限最小值与最大值;定义如下任务函数:
其中,kt是控制关节角度正常化的权值矩阵,kt=diag{(qH1-qL1)-2 (qH2-qL2)-2 (qH3-qL3)-2},任务函数期望值为因此期望的任务为:
其中,是矩阵Jf=(I3×303×4)的伪逆。
7.根据权利要求1所述的基于球面模型的飞行机械臂视觉伺服结构,其特征在于:所述深度相机为Intel RealSense相机。
CN202010848414.5A 2020-08-21 2020-08-21 基于球面模型的飞行机械臂视觉伺服与多任务控制方法 Active CN111923049B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010848414.5A CN111923049B (zh) 2020-08-21 2020-08-21 基于球面模型的飞行机械臂视觉伺服与多任务控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010848414.5A CN111923049B (zh) 2020-08-21 2020-08-21 基于球面模型的飞行机械臂视觉伺服与多任务控制方法

Publications (2)

Publication Number Publication Date
CN111923049A CN111923049A (zh) 2020-11-13
CN111923049B true CN111923049B (zh) 2023-11-03

Family

ID=73305696

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010848414.5A Active CN111923049B (zh) 2020-08-21 2020-08-21 基于球面模型的飞行机械臂视觉伺服与多任务控制方法

Country Status (1)

Country Link
CN (1) CN111923049B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116117785A (zh) * 2021-11-12 2023-05-16 华为技术有限公司 用于标定机器人的运动学参数的方法和装置
CN115364255B (zh) * 2022-09-27 2023-09-01 江苏理工学院 一种适用范围广且消毒稳定的病毒消杀装置及控制方法
CN115922731B (zh) * 2023-01-09 2023-05-30 深圳鹏行智能研究有限公司 一种机器人的控制方法以及机器人
CN116700348B (zh) * 2023-07-12 2024-03-19 湖南文理学院 一种四旋翼飞行器视觉受限的视觉伺服控制方法及系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104322048A (zh) * 2012-05-22 2015-01-28 Otoy公司 便携式移动照明台架
CN107139178A (zh) * 2017-05-10 2017-09-08 哈尔滨工业大学深圳研究生院 一种无人机及其基于视觉的抓取方法
CN108248845A (zh) * 2018-01-31 2018-07-06 湖南大学 一种基于动态重心补偿的旋翼飞行机械臂系统及算法
CN108453738A (zh) * 2018-03-30 2018-08-28 东南大学 一种基于Opencv图像处理的四旋翼飞行器空中自主抓取作业的控制方法
CN109895099A (zh) * 2019-03-28 2019-06-18 哈尔滨工业大学(深圳) 一种基于自然特征的飞行机械臂视觉伺服抓取方法
CN110900581A (zh) * 2019-12-27 2020-03-24 福州大学 基于RealSense相机的四自由度机械臂视觉伺服控制方法及装置
CN111015673A (zh) * 2020-01-02 2020-04-17 福州大学 作业型飞行机器人的四自由度机械臂遥操作系统及方法
CN212635747U (zh) * 2020-08-21 2021-03-02 福州大学 基于球面模型的飞行机械臂视觉伺服结构

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104322048A (zh) * 2012-05-22 2015-01-28 Otoy公司 便携式移动照明台架
CN107139178A (zh) * 2017-05-10 2017-09-08 哈尔滨工业大学深圳研究生院 一种无人机及其基于视觉的抓取方法
CN108248845A (zh) * 2018-01-31 2018-07-06 湖南大学 一种基于动态重心补偿的旋翼飞行机械臂系统及算法
CN108453738A (zh) * 2018-03-30 2018-08-28 东南大学 一种基于Opencv图像处理的四旋翼飞行器空中自主抓取作业的控制方法
CN109895099A (zh) * 2019-03-28 2019-06-18 哈尔滨工业大学(深圳) 一种基于自然特征的飞行机械臂视觉伺服抓取方法
CN110900581A (zh) * 2019-12-27 2020-03-24 福州大学 基于RealSense相机的四自由度机械臂视觉伺服控制方法及装置
CN111015673A (zh) * 2020-01-02 2020-04-17 福州大学 作业型飞行机器人的四自由度机械臂遥操作系统及方法
CN212635747U (zh) * 2020-08-21 2021-03-02 福州大学 基于球面模型的飞行机械臂视觉伺服结构

Also Published As

Publication number Publication date
CN111923049A (zh) 2020-11-13

Similar Documents

Publication Publication Date Title
CN111923049B (zh) 基于球面模型的飞行机械臂视觉伺服与多任务控制方法
Lippiello et al. Image-based visual-impedance control of a dual-arm aerial manipulator
Kim et al. Vision-guided aerial manipulation using a multirotor with a robotic arm
Zhong et al. A practical visual servo control for aerial manipulation using a spherical projection model
Danko et al. A parallel manipulator for mobile manipulating UAVs
Santamaria-Navarro et al. Uncalibrated visual servo for unmanned aerial manipulation
Lee et al. Adaptive image-based visual servoing for an underactuated quadrotor system
CN111185907B (zh) 一种作业型飞行机器人抓取后的位姿稳定控制方法
CN110427043B (zh) 基于作业飞行机器人重心偏移的位姿控制器设计方法
Di Lucia et al. Attitude stabilization control of an aerial manipulator using a quaternion-based backstepping approach
Yang et al. An optimized image-based visual servo control for fixed-wing unmanned aerial vehicle target tracking with fixed camera
Lai et al. Image dynamics-based visual servo control for unmanned aerial manipulatorl with a virtual camera
CN112068576A (zh) 一种基于任务分级时序优化的水下无人艇-双机械臂协同控制方法
CN115480583B (zh) 飞行作业机器人的视觉伺服跟踪与阻抗控制方法
Shi et al. Adaptive image-based visual servoing for hovering control of quad-rotor
Panetsos et al. A deep reinforcement learning motion control strategy of a multi-rotor uav for payload transportation with minimum swing
Garofalo et al. Task-space tracking control for underactuated aerial manipulators
Lai et al. An onboard-eye-to-hand visual servo and task coordination control for aerial manipulator based on a spherical model
Danko et al. Evaluation of visual servoing control of aerial manipulators using test gantry emulation
CN212635747U (zh) 基于球面模型的飞行机械臂视觉伺服结构
Srivastava et al. Range estimation and visual servoing of a dynamic target using a monocular camera
Tong et al. Neural network based visual servo control under the condition of heavy loading
CN109542094B (zh) 无期望图像的移动机器人视觉镇定控制
Mišković et al. Unmanned marsupial sea-air system for object recovery
Quan et al. Singularity-robust hybrid visual servoing control for aerial manipulator

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant