追踪可移动目标物体的方位的系统和方法

申请号 CN201480034791.8 申请日 2014-04-01 公开(公告)号 CN105518486B 公开(公告)日 2017-09-19
申请人 波音公司; 发明人 J·J·特洛伊; S·W·莱安; D·J·莱特; G·E·格尔吉森; K·E·纳尔逊;
摘要 自动处理使用本地 定位 系统以获取一个或多个可移动目标物体的方位(即, 位置 和取向)数据。在目标物体具有在计算机控制下移动的能 力 的情况下,该自动处理可以使用测量的方位数据以控制这种目标物体的位置和取向。该系统利用本地定位系统的测量和图像捕捉能力,并且集成了可控制的标记灯、 图像处理 以及坐标变换计算以提供追踪信息以用于交通工具方位控制。所产生的系统能够追踪物体在参考 坐标系 内的位置和取向。
权利要求

1.一种用于当目标物体被装备有布置成已知图案的至少三个激活目标标记时确定所述目标物体在参考坐标系内的当前方位的方法,其包括:
(a)限定摄像机关于所述参考坐标系的方位;
(b)当所述摄像机被定心在所述目标物体上并且所述激活目标标记没有开启时,捕捉图像;
(c)当所述摄像机被定心在所述目标物体上并且所述激活目标标记中的一个或多个开启时,捕捉一幅或多幅图像;
(d)处理所述图像以计算表示了所有所述激活目标标记没有开启时捕捉的所述图像和所述激活目标标记中的一个或多个开启时捕捉的图像之间差异的差分图像;
(e)针对与相应的激活目标标记对应的所述差分图像内的差异,计算相应平均像素坐标;
(f)针对相应的激活目标标记,瞄准激光范围探测器并且在由相应的平移和倾斜限定的方向上发射激光束,所述平移和倾斜角是至少所述目标物体被定位在所述摄像机的图像视场的中心内时的平移和倾斜角以及所述相应平均像素坐标和所述图像的中心的像素坐标间的差异的函数;
(g)在发射相应的激光束之后,针对相应的激活目标标记,获取相应的范围、平移和倾斜数据;
(h)基于测量的范围、平移和倾斜数据,计算与所述激活目标标记对应的相应点在所述参考坐标系内的坐标,以及
(i)比较从测量的数据计算出其坐标的所述相应点的相应位置与被布置成所述已知图案的相应点的相应位置,以便确定依据所述参考坐标系限定的所述目标物体的当前位置和取向。
2.根据权利要求1所述的方法,其中步骤(c)包括当至少三个激活目标标记开启时捕捉一幅图像。
3.根据权利要求1所述的方法,其中步骤(c)包括当第一、第二以及第三激活目标标记按顺序开启时捕捉相应的图像。
4.根据权利要求1-3中任一项所述的方法,其中步骤(e)包括:
分割所述差分图像以便包含基于所述差异的与所述激活目标标记对应的分离的区域;
以及
针对与所述激活目标标记对应的每个分离的区域的相应圆心,计算所述差分图像内的相应平均像素坐标。
5.根据权利要求4所述的方法,进一步包括:
基于所述点之间的相对距离测量点图案;以及
基于测量的点图案和已知点图案之间的差异计算表示所述目标物体在所述参考坐标系内的方位的第一变换矩阵。
6.根据权利要求5所述的方法,其中所述已知点图案是非对称的。
7.根据权利要求5-6中任一项所述的方法,进一步包括:
将所述目标物体放置在初始方位;
计算表示所述目标物体相对于所述参考坐标系的所述初始方位的第二变换矩阵;
将所述目标物体从所述初始方位移动到所述当前方位;
计算所述第二变换矩阵的逆;以及
计算所述第二变换矩阵的所述逆与所述第一变换矩阵的乘积,所述乘积是第三变换矩阵,其表示所述目标物体相对于所述目标物体的所述初始方位的所述当前方位。
8.根据权利要求7所述的方法,在从所述初始方位到所述当前方位的移动期间,响应于所述目标物体的增量运动生成编码器脉冲。
9.一种方位追踪系统,其包括:
平移倾斜机构;
安装到所述平移倾斜机构的摄像机和激光范围探测器;
装备有至少三个激活目标标记的目标物体;以及
被以用于控制所述摄像机、所述激光范围探测器以及所述平移倾斜机构的第一软件,用于处理所述摄像机获取的图像的第二软件,以及用于控制所述目标物体的运动和所述至少三个激活目标标记的状态的第三软件编程的计算机系统,其中:
所述第一软件包括用于命令所述平移倾斜机构以使所述摄像机瞄准所述目标物体并且命令所述摄像机捕捉所述目标物体的图像的例程;
所述第二软件包括用于处理捕捉的图像以便计算表示当所述激活目标标记没有开启时捕捉的图像和当所述激活目标标记中的一个或多个开启时捕捉的每个图像之间的差异的差分图像的例程;
所述第三软件包括用于控制所述激活目标标记的所述状态的例程。
10.根据权利要求9所述的系统,其中所述目标物体包括履带交通工具。
11.根据权利要求10所述的系统,其中所述履带交通工具是完整运动的履带交通工具。
12.根据权利要求11所述的系统,进一步包括用于追踪所述履带交通工具的增量运动的装置。
13.根据权利要求9所述的系统,其中所述目标物体包括机械臂基座
14.一种方位追踪系统,包括:
平移倾斜机构;
安装到所述平移倾斜机构的摄像机和激光范围探测器;
装备有被布置成已知图案的至少三个激活目标标记的目标物体;以及
计算机系统,其被编程以执行如下操作:
调节所述平移倾斜机构的平移和倾斜角以将所述摄像机定位在所述目标物体的中心上,其中所述激活目标标记在所述摄像机的图像视场内;
当所述摄像机被定位在所述目标物体的中心上并且所述激活目标标记没有开启时,命令所述摄像机捕捉图像;
当所述摄像机被定位在所述目标物体的中心上并且所述激活目标标记中的一个或多个开启时,命令所述摄像机捕捉一个或多个图像;
处理所述图像以计算差分图像,该差分图像表示当所有所述激活目标标记没有开启时所捕捉的图像和当所述激活目标标记中的一个或多个开启时所捕捉的相应图像之间的差异;
针对与相应激活目标标记对应的所述差分图像内的所述差异,计算相应的平均像素坐标;
针对相应的激活目标标记,命令所述激光范围探测器以发射以相应的平移和倾斜角导向的相应激光束,所述平移和倾斜角是至少所述目标物体被定位在所述图像视场的中心内时的平移和倾斜角以及所述相应平均像素坐标和指示器图像的中心的像素坐标之间的差异的函数;
针对相应的激活目标标记,命令所述平移倾斜机构获取相应的平移和倾斜数据,并且在发射相应的激光束之后,命令所述激光范围探测器获取相应的范围数据;
基于测量的范围、平移和倾斜数据,计算与所述激活目标标记对应的相应点在参考坐标系内的坐标,以及
比较从测量的数据计算出其坐标的所述相应点的相应位置与被布置成所述已知图案的相应点的相应位置,以便确定依据所述参考坐标系限定的所述目标物体的当前位置和取向。
15.根据权利要求14所述的系统,其中所述激活目标标记是发光二极管
16.根据权利要求14-15中任一项所述的系统,其中所述计算机系统被进一步编程以执行如下操作:
基于所述点之间的相对距离,测量点图案;以及
基于测量的所述点图案和已知点图案之间的差异计算表示所述目标物体在所述参考坐标系内的方位的第一变换矩阵。
17.根据权利要求16所述的系统,其中所述目标物体包括履带交通工具。
18.根据权利要求17所述的系统,其中所述履带交通工具是完整运动的履带交通工具,并且所述系统进一步包括用于追踪所述履带交通工具的增量运动的装置。
19.根据权利要求16所述的系统,其中所述目标物体包括机械臂的基座。

说明书全文

追踪可移动目标物体的方位的系统和方法

技术领域

[0001] 本公开总体涉及用于追踪可移动目标物体(如,由计算机程序引导的履带交通工具或其他电动机械机器)相对于工件或零件移动时的方位的系统和方法。

背景技术

[0002] 涉及使用履带交通工具或其他计算机控制的电动机械机器的制造处理的应用经常运用参考坐标系内的方位追踪。现有的方位追踪解决方案可以分为两类:绝对运动追踪和增量运动追踪。绝对运动追踪涉及到追踪被限定在参考坐标系(如飞机坐标系)内的位置和/或取向。用于绝对运动追踪的已知技术包含光学运动捕捉、激光追踪、深度摄像机、磁性追踪以及基于声波的追踪。
[0003] 增量运动追踪测量相对于在前坐标测量值的位移。一种用于增量运动追踪的已知技术运用编码器,编码器响应于增量移动输出脉冲。在使用增量运动测量的应用中,误差可以随着时间累积。在要求相对于绝对坐标系有限的误差的实际情况中,这种误差累积是不可取的。因此,需要实现一种处理,其可以以较低的更新速率提供准确的绝对测量值,而该测量值可以被整合到以较高更新速率运行的增量运动测量系统内。
[0004] 尽管存在其他的绝对测量系统以使用基于光学或图像的技术测量位置和取向,但是它们通常要求将多个摄像机放置在目标物体周围。使用单个“深度”摄像机的一种已知绝对测量系统具有受限的范围和区别具体特征的受限的能。有利的是,能够使用单个标准视频摄像机来追踪位置和取向。发明内容
[0005] 本文公开的自动测量处理提供了生成相对(增量)追踪数据的系统内的绝对测量。本申请还使用由于采用单个摄像机配置而易于安装的便携低成本设备解决了自动运动追踪并控制如表面爬行交通工具等交通工具。当与测程法(或其他相对坐标测量)一起使用时,这种追踪系统可以为运动受控的交通工具提供绝对坐标校正方法。当没有与运动控制一起使用时,这种追踪系统仍可以提供追踪一个或多个物体在大体积内的方位的自动方法。
[0006] 当可移动目标物体至少暂时静止(即,静止的时间足够长,使得可以完成该处理的测量部分)时,所述自动处理使用本地定位系统(LPS)获取一个或多个可移动目标物体的方位(即,位置和取向)数据。在目标物体能够在计算机控制下移动的情况下,这种自动处理可以使用测量的方位数据以校正该目标物体的位置和取向。该系统利用本地定位系统的测量和图像捕捉能力,并且将可控的标记灯、图像处理以及坐标变换计算整合以便为交通工具方位控制提供追踪信息。所产生的系统能够追踪物体在参考坐标系内的方位和取向,例如追踪飞机机翼表面上的履带交通工具。该系统提供了对其他类型的场外(off-board)追踪系统低成本的可替换物,其是便携的、易于安装并且能够由单个用户操作。
[0007] 下文具体公开的主题的一个方面是当目标物体装备有被布置成已知图案的至少三个激活目标标记时用于确定三维参考坐标系内目标物体的当前方位的方法。该方法包括以下步骤:(a)定义摄像机相对于参考坐标系的方位;(b)当摄像机被定位在目标物体的中心上并且所有激活目标标记没有开启时捕捉图像;(c)当摄像机被定位在目标物体的中心上并且激活目标标记中的一个或多个开启时捕捉一个或多个图像;(d)处理图像以计算出表示所有激活目标标记没有开启时所捕捉的图像和激活目标标记中的一个或多个开启时所捕捉的每个图像之间的差异的差分图像;(e)针对与相应激活目标标记对应的差分图像内的不同区域,计算相应的平均像素坐标;(f)针对相应的激活目标标记,瞄准激光范围探测器并且在由相应的平移和倾斜限定的方向上发射激光束,所述平移和倾斜角是至少所述目标物体被定位在所述摄像机的图像视场的中心内时的平移和倾斜角以及相应平均像素坐标和图像中心的像素坐标之间的差异的函数;(g)针对相应的激活目标标记,在发射相应激光束之后,获取相应的范围、平移以及倾斜数据;(h)基于测量的范围、平移和倾斜数据,计算与参考坐标系内激活目标标记对应的相应点的坐标;以及(i)将从测量的平移、倾斜以及范围数据中计算出其坐标的相应点的相应位置与被布置成已知图案的相应点的相应位置相比较以确定依据参考坐标系定义的目标物体的当前位置和取向。
[0008] 根据一些实施例,步骤(c)包括当至少三个激活目标标记开启时捕捉一个图像。根据其他的实施例,步骤(c)包括当按序开启第一、第二以及第三激活目标标记时捕捉相应图像。
[0009] 根据一些实施例,步骤(d)包括:基于所述差异,分割差分图像以包含与激活目标标记对应的分离区域;并且针对与激活目标标记对应的每个分离区域的相应圆心,计算差分图像内的相应的平均像素坐标。
[0010] 根据另一方面,上述方法可以进一步包括:基于所述点之间的相对距离而测量点图案;并且基于测量的点图案和已知点图案之间的差异,计算表示参考坐标系内目标物体的方位的第一变换矩阵。在一些实施例中,已知点图案是非对称的。
[0011] 根据又一方面,上述方法可以进一步包括:将目标物体放置在初始方位;计算表示目标物体相对于参考坐标系的初始方位的第二变换矩阵;从初始方位向当前方位移动目标物体;计算第二变换矩阵的逆;以及计算第一变换矩阵与第二变换矩阵的逆的乘积,该乘积是第三变换矩阵,其表示相对于目标物体的初始方位的目标物体的当前方位。根据一些实施例,该方法还包括响应于从初始方位到当前方位的移动期间目标物体的增量运动而生成编码器脉冲。
[0012] 下文详细公开的主题的另一方面是方位追踪系统,其包括:平移倾斜机构;安装到平移倾斜机构的摄像机和激光范围探测器;装备有至少三个激活目标标记的目标物体;以及以用于控制摄像机、激光范围探测器以及平移倾斜机构的第一软件、用于处理通过摄像机获取的图像的第二软件以及用于控制目标物体的运动和至少三个激活目标标记的状态的第三软件编程的计算机系统
[0013] 根据前述段落中描述的方位追踪系统的一个实施例,第一软件包括用于命令平移倾斜机构使摄像机瞄准目标物体并且命令所述摄像机捕捉目标物体的图像的例程;第二软件包括用于处理捕捉的图像以计算表示激活目标标记没有开启时所捕捉的图像和激活目标标记中的一个或多个开启时所捕捉的每个图像之间的差异的差分图像的例程;以及第三软件包括用于控制每个激活目标标记的状态的例程。目标物体可以包括,例如,履带交通工具或机械臂基座。在履带交通工具是完整运动的履带交通工具的实施例中,该系统可以进一步包括用于追踪履带交通工具的增量运动的装置。
[0014] 方位追踪系统的另一个方面包括:平移倾斜机构;安装到平移倾斜机构的摄像机和激光范围探测器;装备有被布置成已知图案的至少三个激活目标标记的目标物体;以及计算机系统,所述计算机系统被编程以执行以下操作:(a)调节平移倾斜机构的平移和倾斜角以将摄像机定位在目标物体的中心上,使得激活目标标记处于摄像机的图像视场内;(b)当将摄像机定位在目标物体的中心上并且所有激活目标标记不开启时,命令摄像机捕捉图像;(c)当摄像机被定位在目标物体的中心上并且激活目标标记中的一个或多个开启时,命令摄像机捕捉一个或多个图像;(d)处理图像以计算表示激活目标标记没有开启时所捕捉的图像和激活目标标记中的一个或多个开启时所捕捉的相应图像之间差异的差分图像;(e)计算与相应激活目标标记对应的差分图像内不同区域的相应的平均像素坐标;(f)针对相应的激活目标标记,命令激光范围探测器在由相应的平移和倾斜角限定的方向上发射激光束,所述平移和倾斜角是至少所述目标物体被定位在图像视场的中心内时的平移和倾斜角以及相应平均像素坐标和指示器图像的中心的像素坐标之间差异的函数;(g)针对相应的激活目标标记,命令平移倾斜机构获取相应的平移和倾斜数据并且在发射相应的激光束之后,命令激光范围探测器获取相应的范围数据;(h)基于测量的范围、平移和倾斜数据,计算与参考坐标系内的激活目标标记对应的相应点的坐标;以及(i)比较从测量的平移、倾斜以及范围数据中计算出其坐标的相应点的相应位置与被布置成已知图案的相应点的相应位置,以确定目标物体关于参考坐标系的当前位置和取向。
[0015] 下文公开了用于追踪可移动目标物体的方位的系统和方法的其他方面。附图说明
[0016] 图1是已知装备有编码器的移动装置的一些组件的示意俯视平面图,通过使用基于航位推测测程的处理可以追踪所述已知装备有编码器的移动装置的增量移动。
[0017] 图2是瞄准目标物体的已知本地定位系统的示意等距视图。
[0018] 图3是根据一种配置使用本地定位系统来追踪和控制履带交通工具的运动的系统的示意等距视图。
[0019] 图4是在每个侧面上具有相应的三个激活目标标记组(仅一组可见)的履带交通工具的示意透视图。根据描述的实施例,激活目标标记是LED灯
[0020] 图5显示了图5A和图5B的相互关系,其包含显示了根据一个实施例的自动方位测量处理的步骤的流程图的相应部分。
[0021] 图6是表示中间图像处理结果的示意图,其根据图5中描绘的处理通过使用图4中所示的履带交通工具产生。
[0022] 图7是显示系统配置的方框图,在所述系统配置中,单个计算机运行多个处理。(可替换地,每个处理均可以在分离的计算机或处理器上运行)
[0023] 图8是可以根据另一种配置执行机器人与零件定位处理的系统的示意等距视图。
[0024] 图9是显示了机器人与零件定位处理的步骤的流程图,其运用了图8中描绘的所述类型的本地定位系统。
[0025] 图10是一幅示意图,其在附录中被参考且显示了从仪器坐标系{A}的原点,基本沿着仪器的瞄准点轴延伸到感兴趣点P的位置向量AP,并且还显示了从目标物体坐标系{B}的原点延伸到感兴趣点P的位置向量BP。
[0026] 图11-13是在附录中被参考的示意图,其中描述了用于计算坐标系变换的校准矩阵的说明性方法。
[0027] 图14A-C是显示了用于设置适当的摄像机视场(缩放值)以确保所有的激活目标标记正好在LPS摄像机的图像的范围内的自动搜索和帧处理的示意图。
[0028] 在下文将会参考附图,其中不同附图中的相似元件具有相同的参考标记。

具体实施方式

[0029] 根据本文的教导,可以提供方位追踪系统,其可以在例如使用位置编码器递增地追踪的运动完成之后测量可移动目标物体在绝对坐标系中的方位。如果绝对坐标测量系统确定暂时静止的目标物体的当前方位偏离了期望方位超过可配置的公差,则可以命令目标物体向着校正方位移动。因此,可以利用本文公开的绝对坐标测量处理来校正相对坐标测量中的误差。
[0030] 增量运动测量系统的一个示例是基于航位推测测程法的系统。由于小误差会随着时间积累,所以任何基于航位推测的方案都将具有测量不准确性。测量不准确性可以由于装置中的系统误差造成,或者由环境内不期望的改变引起的扰动造成。图1是装备有编码器的移动装置的一些组件的示意俯视平面图,该移动装置的增量移动可以通过使用美国专利申请No.13/796,584中公开的基于航位推测测程法的处理而被追踪。这种装置具有正交的双差分(double-differential)配置的四全方位轮。这种追踪装置可以被连接或安装到装备有末端执行器的履带交通工具(图1中未显示)。图1中显示的装置包括矩形框架4和通过相应的轴6a-6d和轴轴承(未显示)可旋转地安装到框架4的四个双排全方位轮4a-4d。相应的编码器8a-8d测量全方位轮4a-4d的旋转。当全方位轮在表面上滚动时,编码器8a-8d在每个全方位轮的每次增量旋转之后经由编码器电缆(图1中未显示)向操作控制中心发出表示相应编码器计数的编码器脉冲。每个编码器将输出与相应全方位轮的旋转的角度成比例的编码器计数。这些编码器脉冲将由计算机系统(图1中未显示,但是可在图7中看到)接收,所述计算机系统计算该装置的X坐标和Y坐标。
[0031] 当编码器脉冲的计数指示装置已经到达期望的方位时,控制系统使装置停止。然后可以检查停止的装置的当前方位以确定其可能偏离期望方位的范围。根据本文的教导,通过以较低的更新速率获取准确的、绝对的测量值可以对相对运动测量值进行校正。该绝对测量处理(当目标物体停止时进行)可以被整合到以较高更新速率运行的相对运动测量系统内,当目标物体正在移动时,所述相对运动测量系统获取相对运动测量值。根据下文公开的一个实施例,较低更新速率的基于LPS的处理提供了对较高更新速率的测程系统的校正。
[0032] 本文公开的追踪方法是自动的处理,其合并了目标物体上的激活灯(active light)和图像处理以计算目标物体的位置和取向。本文还使用了图2中描绘的所述类型的本地定位系统(LPS),该系统在可控平移倾斜单元上具有单个摄像机和激光范围计量器。美国专利No.7,859,655公开了LPS操作和校准处理。
[0033] 更具体地说,图2中描绘的本地定位系统包括视频摄像机40,其可以具有自动(遥控)缩放功能。视频摄像机40可以还包含集成的十字丝发生器以促进精确定位视频摄像机的光学图像场显示器内的点。视频摄像机40被支撑在平移倾斜机构42上。视频摄像机40和平移倾斜机构42可以由计算机48操作。计算机48通过视频/控制电缆46与视频摄像机40和平移倾斜机构42通信。可替换地,计算机48可以通过无线通信路径(未显示)与视频摄像机40和平移倾斜机构42通信。使用计算机48的键盘或其他输入装置可以控制平移倾斜机构42的平移(pan)和倾斜角度,并且因此控制视频摄像机40的取向。由视频摄像机40看到的覆盖十字丝的光学图像场可以被显示在计算机48的监视器上。
[0034] 平移倾斜机构42被控制以将视频摄像机40围绕垂直方位角(平移)轴和俯仰(倾斜)轴可定位地调节到选择的角度。描绘了摄像机相对于三脚架44(或其上附接平移倾斜单元的其他平台)的固定坐标系的取向的方向向量12根据平移和倾斜角以及摄像机瞄准感兴趣点时光场内十字线标记的中心的位置来确定。该方向向量12可以被描绘为自摄像机40的透镜延伸且在目标物体30的某方位相交的线。
[0035] 激光范围计量器可以被合并到摄像机40壳体的内部,或者用某种方式安装到摄像机40的外部,所述方式使得激光范围计量器沿着方向向量12发射激光束。激光范围计量器被配置为测量到目标物体30的距离。激光范围计量器可以具有激光器和被配置为响应于目标物体30反射的激光束基于检测到的激光来计算距离的单元。
[0036] 图2中所示的本地定位系统进一步包括被装载到计算机48内的三维定位软件。例如,三维定位软件可以是使用目标物体30上的多个校准点14来限定视频摄像机40相对于目标物体30的方位(位置和取向)的类型的三维定位软件。校准点14可以是由特征位置(如,CAD模型)的三维数据库或其他的测量技术确定的目标物体30在局部坐标系内的已知位置的可视特征。在LPS校准处理期间,从CAD模型中提取至少三个非共线点的X、Y、Z数据。一般,选择的校准点对应于可以被容易地定位在目标物体上的特征。三维定位软件利用了校准点14的X、Y、Z数据以及来自平移倾斜机构42的平移和倾斜数据以限定视频摄像机40相对于目标物体30的局部坐标系的相对位置和取向。测量的到校准点14的距离可以与自平移倾斜机构42的平移和倾斜角相协调地使用以求解相对于目标物体30的摄像机位置和取向。美国专利No.7,859,655公开了一种用于生成目标校准变换矩阵(有时被称为摄像机姿态)的手段的方法。通过使用已知和测量的数据,校准处理(附录中更加详细地描述)计算出限定摄像机相对于目标物体的位置和取向的4×4的齐次变换矩阵。
[0037] 一旦已经确定视频摄像机40关于目标物体30的位置和取向并且已经生成摄像机姿态变换矩阵,则可以结合视频摄像机40的计算的位置和取向来使用摄像机平移数据(视频摄像机40绕方位角轴的旋转角度)和倾斜数据(视频摄像机40绕俯仰轴的旋转角度),从而确定目标物体30上任何感兴趣点在目标物体坐标系内的X、Y以及Z坐标。
[0038] 可以用类似的方式扩展和应用前述定位和运动追踪处理以确定目标物体上任何感兴趣点在绝对(参考)坐标系内的X、Y以及Z坐标。例如,本地定位系统可以用于追踪履带交通工具10的运动,所述履带交通工具10正在处于飞机参考坐标系内的飞机机翼50上移动,如图3所描绘的。更具体地说,本地定位系统可以追踪在飞机参考坐标系内的履带交通工具坐标系原点的方位。基于履带交通工具坐标系原点的位置从初始位置到当前位置的差来计算前述变换矩阵内的X、Y及Z值。所述原点可以被限定在履带交通工具(或其他目标物体)上任何地方。在图3中,履带交通工具坐标系原点被显示处于点P1。
[0039] 除了LPS控制软件以外,计算机48还以图像处理软件编程,所述图像处理软件能够检测出视频摄像机40获取的图像组之间的差异。在运动控制与运动追踪组合的情况下,计算机48被进一步以履带运动控制软件编程,该履带运动控制软件经由电缆38与履带交通工具10上的处理器通信。在替换的示例中,LPS控制软件、图像处理软件以及履带运动控制软件可以运行在通过网络或总线通信的分开的计算机或处理器上。
[0040] 自动绝对测量处理通过捕捉一系列具有激活灯(下文称为“激活目标标记”)的图像而工作,例如,附接到暂时静止的目标物体的表面的计算机控制的发光二极管(LED)。在图3所示的示例中,点P1、P2及P3指示三个激活目标标记的位置。
[0041] 图4是完整运动履带交通工具52的示意透视图,其具有四个麦克纳姆(Mecanum)轮54(仅两个可视)、四个全方位轮55(在图4中仅一个是可视的)、交通工具下的两个吸力区(未显示)以及每侧上相应成组的三个LED灯56a-c(图4中仅一组是可视的)。美国专利申请No.13/210,899公开了图4中描绘的该类完整运动履带交通工具的有关结构和功能的细节。
根据图4中描绘的实施例,LED灯56a-c在履带交通工具外壳上被布置成非对称图案。每个LED灯具有在履带交通工具52的外壳58上突出的大体半球形灯泡
[0042] 绝对测量处理通过获取具有LED灯56a-c关闭的图像并且然后将灯开启并且获取另一图像(或反之亦然)来实施。该处理的两种变体已经被开发出:一种是同时开启所有的灯,而另一种是按特定顺序开启灯。第一种方法稍微更快,其运用了目标物体表面上的非对称的光图案。第二种方法在区别多个光的方面更鲁棒并且不要求光图案是非对称的。
[0043] 绝对测量系统以有限的时间间隔产生位置和取向数据。连续的测量之间的时间间隔取决于平移倾斜达必须在目标点之间移动的距离、激光范围计量器的更新速率以及图像处理的速度。通过使用更快的图像处理和更快的激光范围计量器,可以改善测量周期的持续时间。该系统可以用于追踪多个目标物体的方位,但是追踪的目标物体越多,对每个目标物体更新之间的时间越长。
[0044] 在绝对测量处理开始之前,可以对摄像机进行测试以确定适当的失真校正,从而补偿由于不同于理想“针孔”摄像机的光学器件而产生的图像扭曲。同样,校准了本地定位系统与期望的参考坐标系(如飞机坐标系)。该处理提供了相对于目标物体的摄像机姿态并且被表示成4×4的齐次变换矩阵。
[0045] 图5A和图5B显示了根据一个实施例的自动绝对测量处理的主要元素。参考图5A,使用先前描述的方法,首先校准本地定位系统和期望参考坐标系(如,飞机坐标系)(步骤100)。然后,向着期望的方位移动目标物体(如,履带交通工具)并且当增量运动测量系统指示当前方位足以靠近期望方位时停止移动(步骤102)。对于所述当前方位,本地定位系统将确定履带交通工具在参考坐标系内的位置和取向。在步骤104,改变本地定位系统的方向向量(使用平移和倾斜轴)以确保所有激活目标都在视场内。更具体地说,调整LPS平移和倾斜角以将摄像机定心在目标物体上,从而使三个激活目标标记(以某种图案安装在目标物体上)处于图像视场内。为了说明的目的,测量处理的以下进一步描述将假设激活目标标记是灯(如,LED)。
[0046] 在所有激活目标标记都在图像视场内的情况下,开始获取图像数据的处理。该处理涉及光激化(light activation)和图像捕捉。在步骤106,当灯关闭且储存了当前平移和倾斜角时,捕捉参考图像。在步骤108,开启灯并且捕捉一个或多个指示器图像(使用与步骤106中所使用的相同的平移和倾斜角)。可替换地,当灯开启时,可以捕捉参考图像,并且当灯关闭时,可以捕捉指示器图像。可以使用两种技术中的任一种捕获指示器图像(或多幅图像)。根据一种技术,灯被一次一个地循环并且捕捉每个状态下目标物体的分离的图像(即,如果利用三个灯,则具有目标物体的三个分离的状态和三个分离的图像)。根据另一种技术,目标物体被装备有被布置成非对称图案的一组灯,并且当该组内所有的灯被开启时,捕捉一个图像。
[0047] 仍然参考图5A,通过处理所获取的图像数据,计算每个灯相对于指示器图像的像素坐标(步骤110)。首先,对每幅图像应用失真函数校正(使用关于光学器件的信息)。第二,计算表示参考图像和一个或多个指示器图像之间差异的差分图像。第三,将差分图像分割成分离的区域,这可以包含使用尺寸、颜色、形状或其他参数进行过滤。图像分割意味着用特定特性限定一组像素。根据一种实施方式,发现彼此紧邻(即,连续区域)的特定颜色和亮度的像素。差分图像将同样具有将被过滤出的一些小的伪像(例如精细的边缘轮廓)。这可以利用模糊过滤器和亮度阈值过滤器完成。图6中示意描绘的分割图像94内显示了分割结果。三个圆圈表示图像内与图4中描绘的履带交通工具52上的LED灯56a-c对应的分割区域98a-c。(为了简便起见,图6中的分割区域被显示为圆圈,但是在实际中,图像内的一些或全部分割区域将不是正圆形,因为摄像机的方向向量很少与灯的对称轴精确地对准。)在图像已经被分割之后,计算机计算每个分割区域98a-c的圆心。圆心是所述区域的平均X像素坐标和平均Y像素坐标。这些X-Y坐标对被用于计算与图像中心的X-Y坐标对的差。
[0048] 再次参考图5A,一旦已经计算出每个分割区域的平均像素坐标,就计算图像内每个区段圆心位置方位的相应平移和倾斜角度(步骤112)。这些平移倾斜机构的平移和倾斜角将被用于将本地定位系统的激光范围探测器取向(即,引导)在目标物体上每个激活目标标记处。图像中心的LPS平移倾斜角已经是已知的,连同到目标物体的距离(从步骤104)。用于引导本地定位系统以瞄准每个激活目标标记(即,LED)的方法使用每个圆心与图像中心的像素偏移、摄像机的当前视场角度以及在图像中心处到目标的距离来计算偏移平移和偏移倾斜角,该偏移平移和偏移倾斜角被计算机馈送到本地定位系统。计算机指示本地定位系统使用偏移平移和偏移倾斜角对与分割区域的圆心对应的方位进行自动LPS测量。这意味着轮流将激光范围探测器瞄准每个激活目标标记并且测量每个激活目标标记的范围、平移和倾斜数据(步骤114)。
[0049] 现在参考图5B,基于测量的范围、平移和倾斜数据,计算激活目标标记的笛卡尔坐标(在参考坐标框架内)(步骤116)。然后,计算激活目标标记的中心坐标之间的相对距离,并且将它们的比率与已知图案的对应比率进行比较以确定每个点的相应索引数字(步骤118)。如果获取分开的图像的同时按顺序开启灯,则使用图像次序对图像区段编号。可替换地,如果获取单一图像的同时所有的灯同时开启,则使用每个测量点的笛卡尔坐标计算测量点之间的距离向量,并且与目标物体上灯位置的已知图案内的点相比较。
[0050] 在索引步骤之前,本地定位系统已经测量了目标物体上的三个已知点并且将它们转换成参考坐标系内限定的笛卡尔(X,Y,Z)坐标。为了使用这些点以便与它们的参考位置进行比较,每个测量点必须与图案的合适参考点关联。但是点被测量的次序可能是一次与下一次不同的,这取决于履带交通工具相对于LPS摄像机的取向。为了解决该可能的对应性不匹配,测量点将被重新排序以匹配参考点的顺序。这将通过比较测量点的相对距离(向量长度)的比率与参考点的相对距离的比率来进行。然后,测量点将被重新排序(即,改变阵列索引)以匹配参考点次序。
[0051] 一旦已经完成再次索引,就基于已知初始点图案和测量点图案之间的差异来计算描述目标物体的当前位置和取向的4×4的齐次变换矩阵(步骤120)。该处理在附录中详细描述。
[0052] 仍然参考图5B,应用步骤120内计算的变换矩阵以将计算的方位转换成机器人控制坐标(步骤122)。根据参考坐标系限定步骤120内计算出的变换矩阵,但可以根据与参考坐标系原点不同的初始起始点来限定履带交通工具的运动路径。如果是这种情况,那么描述了相对于参考坐标系的初始方位的变换矩阵的逆预乘以步骤120中计算出的变换,这限定了目标物体相对于参考坐标系的当前方位。该结果是描述了相对于初始方位的当前方位的变换。该计算被显示为如下等式:
[0053]
[0054] 其中T表示4×4的齐次变换矩阵;而R、I以及C下标/上标分别表示参考方位、初始方位以及当前方位。
[0055] 然后,发送表示目标物体的当前位置和取向的数据以便显示或可以使用该数据的其他处理(步骤124)。
[0056] 图5A和图5B中呈现的流程图描述了以上方法以用于灯处于目标物体上非对称图案且针对指示器图像被同时激活的情况。
[0057] 在图5A的步骤104中,用于改变本地定位系统的方向向量以将摄像机瞄准目标物体的处理涉及确定LPS平移倾斜机构的平移和倾斜角并且设置合适的摄像机视场(缩放值)以确保所有的标记正好在图像帧的范围内。这可以手动进行,通过操作者调节平移、倾斜以及缩放控制以制定(frame)LPS摄像机的视场内的指示器灯。可替换地,自动搜寻和制定处理可以由系统进行以将手动进行的步骤从循环中抽出。该自动处理被显示在图14A-C中,并且接下来会被描述。如图14A所见,该处理通过设置宽视场角度(θ1)并且捕捉标记图案指示器灯关闭的一幅图像和指示器灯开启的另一幅图像而开始。计算差分图像以确定指示器灯是否在摄像机的当前视场内,如果发现指示器灯不在摄像机的当前视场内,则使用平移倾斜机构(未显示)改变LPS瞄准方向以旋转摄像机40以便看到工作空间内的另一个区域,其中新的视场区域可以部分地重叠先前的视场区域(图14B所示),在此之后,捕捉环境的两幅图像,同时如前所述地循环指示器灯。涉及旋转瞄准方向和循环指示器灯的搜索处理继续,直到标记图案位于环境内。最后步骤(图14C所示)是将瞄准方向定心在灯的范围之间并且然后缩窄摄像机视场(θ2)以制定所有的灯。
[0058] 如果目标物体的运动是计算机可控的,那么可以进行以下额外的步骤:(1)计算相对于目标物体的当前方位的要求的校正移动;(2)将表示方位的期望改变的数据发送到控制目标物体的运动的一个或多个机载处理器;(3)当目标物体向校正的方位移动时,追踪该目标物体的增量移动;以及(4)在增量运动测量系统指示目标物体已经到达校正的方位后,目标物体停止并且然后可以再次运行绝对测量处理以确认目标物体的新的当前方位和校正的方位都在可配置公差内。
[0059] 图7是显示某种系统配置的框图,在所述系统配置中,单个计算机48运行多个处理。(可替换地,每个处理均可以在分离的计算机或处理器上运行。)单个计算机48被以下软件编程:LPS控制软件,当LPS控制软件运行时,其能够使计算机作为LPS控制器26;图像处理软件28;以及履带控制软件,当其运行时,能够使计算机作为履带控制器32。系统操作者可以通过计算机键盘或其他用户接口硬件36(如,游戏键盘)与计算机48接合。
[0060] LPS控制器26控制LPS硬件22(包含激光范围探测器、视频摄像机以及平移倾斜机构)的操作。图7中的虚线箭头表示由履带交通工具上激活目标标记生成并且被视频摄像机看到(在图像获取步骤期间)的光,以及测量处理期间由目标反射给LPS硬件22的激光范围探测器的激光束。
[0061] 图像处理软件28进行图5A中所示步骤110的执行中所涉及的操作,即,失真函数校正、图像差分、图像分割以及计算每个图像区段的圆心的像素坐标。该系统进一步包括显示监视器34以便显示获取的图像。
[0062] 履带控制器32控制履带交通工具10的操作,包含指示器灯的激活、驱动一组麦克纳姆轮旋转的步进马达的控制以及吸力装置的控制。履带交通工具可以进一步包括一组全方位轮和相应的一组轮旋转编码器,如关于图1在先前描述的。经由电缆将来自轮旋转编码器的表示编码器计数的编码器脉冲发送到履带电子系统16的数据获取装置18。履带交通工具10经由相同的电缆从履带电子系统16的电源20接收电力。
[0063] 当履带交通工具10正在移动时,数据获取装置18接收编码器计数并且将它们转换成具有计算机48可接受格式的信号。基于编码器计数数据,履带控制器32计算绝对角度θ和在每个更新步骤改变履带交通工具10的相对位置ΔPx和ΔPy,并且然后使用绝对角度并且改变相对位置以计算履带交通工具上一点的绝对位置Px和Py。然后使用θ、ΔPx以及ΔPy,可以通过使用美国专利申请No.13/796,584公开的旋转矩阵来计算绝对位置。
[0064] 如果履带控制器32确定编码器计数指示履带交通工具10已经到达了其目标方位,则履带控制器32命令履带交通工具10停止(图5A中的步骤102)。然后,LPS控制器26命令LPS硬件22调节平移和倾斜角以使视频摄像机瞄准目标物体(图5A中的步骤104)并且然后捕捉参考图像(图5A中的步骤106)。接着,履带控制器32激活履带交通工具10上的灯,之后LPS控制器26命令LPS硬件22捕捉指示器图像(图5A中的步骤108)。然后计算机运行图像处理例程,图像处理例程计算灯在指示器图像内的像素坐标(图5A中的步骤110)。然后LPS控制器26计算图像内每个区段中心位置方位的相应平移和倾斜角(图5A中的步骤112),针对每个激活目标标记获取范围、平移以及倾斜数据(图5A中的步骤114),以及针对每个测量点计算笛卡尔坐标(图5B中的步骤116)。进行图5B中所示的步骤118、120以及122的例程可以是LPS控制软件、图像处理软件或分离的软件模的一部分。
[0065] 可以使用关于履带交通工具的估计方位的信息执行将LPS视频摄像机初始瞄准目标物体,所述信息由涉及增量轮编码器数据的定位处理提供。该瞄准方向只需要是近似的,因为图像处理和测量将确定实际方位。如果初始估计的方位没有提供包含整组激活目标标记的摄像机视图,则可以调节摄像机视场(如,扩大缩放水平),连同进行视图的重新定心,从而使所有激活目标标记均是可视的,类似于参考图14A-C在上文描述的定心和制定处理。
[0066] 上文公开的技术也可以用于确定机械臂相对于工件(下文为“零件”)的位置和取向。如图8所示,本地定位系统可以用于确定零件90和机械臂86的基座84之间的相对偏移,机械臂86可以在其远端携带末端执行器88。机器人控制器80控制机械臂86并且操作末端执行器88以便在零件90上进行机械加工操作。
[0067] 基本的处理顺序如下:(1)本地定位系统通过测量零件上的三个已知点92a-c来校准零件90的坐标系;(2)本地定位系统测量机器人基座84上的三个已知点94a-c;(3)在计算机48内运行的LPS控制软件计算机器人基座84相对于零件90的坐标系的方位;(4)计算机48向机器人控制器80发送方位数据。
[0068] 计算机48上的LPS控制软件输出如X、Y以及Z值的点数据,但是控制应用程序需要比X、Y及Z数据点更多的数据点来提供零件的位置和取向。为了解决位置和取向问题,来自三个测量点92a-c的X、Y及Z数据以及这些点的已知维度被用于计算全部6自由度位置和取向表示。这就是先前描述的定位软件所做的。定位软件使用的位置和取向格式是4×4的变换矩阵,但是还有其他的方式来表示数据。
[0069] 除了履带交通工具之外,上文公开的定位方法还应用到机器人系统。用于生产任务的商业机器人应用具有一种限定机器人和其他零件相对于工作间的原点的方位的方式。这种方式包含位置和取向偏移限定两者。还有许多等同的方式来限定这种偏移信息,例如:
4×4的变换矩阵、四元数+变换、角度-轴+变换,或者欧拉角(Euler angle)+变换。可以修改上述定位处理以输出机器人控制器80可接受的各种格式。
[0070] 插口连接(socket connection)可以用于将数据从计算机48传输到机器人控制器80,但是为了商业可用应用,文档可以工作得同样良好。一些控制器可以具有通过插口接受输入数据的API;其他控制器可以仅仅允许从文档读取偏移数据。因此,根据一些实施例,可以使用文档共享方法。
[0071] 使用手动点测量的一个示例程序(图9中描绘)如下:(1)获取并且储存零件90上的三个可视参考点92a-c(步骤90)和机器人基座84上的三个可视参考点94a-c(步骤68)(对每组参考点进行一次步骤60和68);(2)当零件处于期望的方位时,使用本地定位系统以测量零件90上的三个参考点92a-c(步骤62)(该步骤等同于标准的LPS校准);(3)当机器人基座处于期望的方位时,使用本地定位系统以测量机器人基座84上的三个参考点94a-c(步骤70);(4)使用定位处理64计算零件90相对于机器人基座84的位置和取向偏移;以及(5)向机器人控制器80发送位置和取向偏移数据(步骤66)。
[0072] 用于自动点测量的示例程序如下:(1)获取并且储存零件90上的三个可视参考点92a-c和机器人基座84上的三个可视参考点94a-c(对任意参考点组进行一次该步骤),所述可视参考点由LED方位限定;(2)使用本地定位系统以获得一张零件90上LED图案的照片,其中LED被开启,并且获得LED关闭的零件90上LED图案的另一张照片;(3)使用本地定位系统自动地测量零件90上的点并且比较测量点与已知点;(4)使用本地定位系统获得一张机器人基座84上LED图案的照片,其中LED被开启,并且获得LED关闭的另一张照片;(5)使用本地定位系统自动地测量机器人基座84上的点并且比较测量点与已知点;(6)使用定位处理计算零件90相对于机器人基座84的位置和取向偏移;以及(7)向机器人控制器80发送位置和取向偏移数据。
[0073] 前述方法可以在每个工作顺序的开始时使用以建立机械臂的基座和工件的相对位置。机器人控制器将能够计算出末端执行器相对于机器人基座的位置和取向(使用其他的传感器和运动学数据)。如果参考坐标系是工件的坐标系,那么图8中所示的系统可以确定机械臂的基座(和末端执行器)在工件坐标系内的位置。相反,如果参考坐标系是机器人基座的坐标系,则该系统可以确定工件在机器人基座坐标系内的位置。
[0074] 总之,上文公开的本地追踪系统使用单个摄像机,可以与基于测程的追踪集成,并且可以追踪多个物体(如果测量顺序是相移的,则按顺序方式追踪)。当与基于编码器的测程法集成时,该系统容忍间歇性闭塞(intermittent occlusion)。还有,该系统不受磁场或含材料的影响。
[0075] 虽然已经参考各种实施例描述了本地追踪方法,但是本领域技术人员将会理解的是在不离开本文教导的范围下,可以做出各种改变并且等同物可以替换其元件。此外,可以做出许多修改以使本文的教导适合特定情形而不离开本文的范围。因此,本文旨在权利要求不局限于本文公开的特定实施例。
[0076] 如权利要求书中所使用的,术语“计算机系统”应该被广泛地解释为包含具有至少一个计算机或处理器的系统,该系统可以具有通过网络或总线通信的多个计算机或处理器。如前述句子所用的,术语“计算机”和“处理器”都指的是包括处理单元(如,中央处理单元)和用于储存处理单元可读的程序的某些形式的存储器(即,计算机可读介质)的装置。
[0077] 如本文使用的,术语“方位”包括固定三维坐标系内的位置和相对于该坐标系的取向;并且术语“激活目标标记”指的是可激活目标标记(即,“激活目标标记”可以在激活和非激活状态之间切换)。
[0078] 下文提出的方法权利要求不应该被解释为要求按照字母次序(权利要求中的字母次序仅被用于参考先前列举步骤的目的)或者按照它们被引用的顺序进行其中引用的步骤。它们也不应该被解释为排除可以同时或交替进行的两个或多个步骤的任何部分。
[0079] 附录
[0080] 图10显示了基本沿仪器的瞄准点轴从仪器坐标系{A}的原点延伸到感兴趣点P的位置向量AP,并且显示了从目标物体坐标系{B}的原点延伸到感兴趣点P的位置向量BP。
[0081] 参考图10,当仪器坐标系622内的点P的坐标是平移(即,图10中到点P的向量AP的平移角度634)、倾斜(图10中到点P的向量AP的倾斜角度636)以及范围(图10中沿到点P的向量AP的距离)的球面坐标时,在仪器坐标系622内被表示成球面坐标的点P的位置与从仪器618的正向运动学的以下等式中得出的仪器坐标系622内的以X、Y、Z笛卡尔坐标形式的点P的位置有关:
[0082] X=范围*cos(平移)*cos(倾斜)
[0083] Y=范围*sin(平移)*cos(倾斜)
[0084] Z=范围*sin(倾斜)
[0085] 其中平移(方位角)绕仪器坐标系622内的Z轴旋转并且倾斜(俯仰)绕Y轴旋转。
[0086] 注意,仪器坐标系622内被表示成笛卡尔坐标(X,Y,Z)的点P的位置与从仪器618的逆向运动学的以下等式中得出的被表示成仪器坐标系622内球面坐标(平移,倾斜,范围)的点P的位置有关:
[0087] 平移=tan(Y,X)-1
[0088]
[0089]
[0090] 在一个实施方式中,根据以下公式从仪器坐标系622内的位置AP(被表示成具有[X,Y,Z,1]T的形式的列向量)计算出目标物体坐标系616内的位置BP(也是具有[X,Y,Z,1]T的形式的列向量),所述公式为:
[0091]
[0092] 其中T是校准矩阵。在一个示例中,校准矩阵是4×4的齐次变换矩阵,其具有如下形式:
[0093]
[0094] 注意,根据以下公式使用校准矩阵的逆可以从目标物体坐标系616中的位置BP计算出仪器坐标系622内的位置AP,所述公式为:
[0095]
[0096] 根据如下步骤计算变换矩阵 对于到校准点的向量的方向和长度是已知的情形,校准点的最小数量是三个,假设它们是非线性的。基本的三点技术如下:
[0097]
[0098]
[0099]
[0100]
[0101]
[0102]
[0103]
[0104]
[0105] R12=R1R2
[0106]
[0107]
[0108] 其中,参考图11-13:
[0109] 是坐标系A内从点PA1延伸到点PA2的向量;
[0110] 是坐标系A内从点PA1延伸到点PA3的向量;
[0111] 是坐标系A内从点PB1延伸到点PB2的向量;
[0112] 是坐标系A内从点PB1延伸到点PB3的向量;
[0113] 和 是由向量交叉积创建的法向量;
[0114] 和 是旋转轴
[0115] θ1和θ2分别是绕轴 和 的旋转角度;
[0116] R1、R2及R12是3×3的对称旋转矩阵;以及
[0117] f1()是函数(本领域技术人员已知的且例如,在作者为John J.Craig且由Prentice Hall Professional Technical Reference在2004年7月出版的第三版“机器人导论:力学和控制”(Introduction to Robotics:Mechanics and Control)中描述),其从下述角度-轴定义中生成3×3的旋转矩阵:
[0118]
[0119] 其中cθ=cos(θ),sθ=sin(θ),vθ=1–cos(θ),并且
[0120] 等式(2)的变换矩阵内X、Y及Z值基于目标物体坐标系原点的位置从初始位置到当前位置的位置的差来计算。原点可以被限定在目标物体上的任何地方。
[0121] 注意,对于指向仪器相对于目标物体的任何位置,4×4的齐次校准矩阵 只被计算一次,并且然后 可以用于将任何数量的向量从坐标系A(仪器坐标系622)转换成坐标系B(目标物体坐标系616)。同样注意,逆校准矩阵 可以通过计算校准矩阵 的逆来计算,或者可以通过切换等式内向量的次序而被直接计算。
QQ群二维码
意见反馈