首页 / 专利库 / 多媒体工具与应用 / 宏模块 / 像素 / 背景像素 / 基于手势识别产生交互式虚拟用户界面的方法及相关装置

基于手势识别产生交互式虚拟用户界面的方法及相关装置

阅读:990发布:2020-05-11

专利汇可以提供基于手势识别产生交互式虚拟用户界面的方法及相关装置专利检索,专利查询,专利分析的服务。并且本 发明 公开了一种基于 手势识别 产生交互式虚拟 用户界面 的方法及相关装置,该方法包含有:在复数个影像中侦测具有两只手的影像;当侦测到有两只手的影像时,识别两只手的手势;当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对 位置 ;判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。,下面是基于手势识别产生交互式虚拟用户界面的方法及相关装置专利的具体信息内容。

1.一种基于手势识别产生交互式虚拟用户界面的方法,用于互动系统,其特征在于,该方法包含有:
在复数个影像中侦测具有两只手的影像;
当侦测到有两只手的影像时,识别两只手的手势;
当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;
追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置
判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;以及当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。
2.根据权利要求1所述的方法,其特征在于,该预设规则包含预设度或预设距离。
3.根据权利要求1所述的方法,其特征在于,还包含有:
判断该打开手势的手为固定物件;以及
当该打开手势的手移动时,停止投影虚拟用户界面物件。
4.根据权利要求1所述的方法,其特征在于,还包含有:
判断该打开手势的手是否在预设角度,或是否在指向手势的手的一侧;
当判断该打开手势的手在该预设角度或在该指向手势的手的一侧时,判断该打开手势的手为固定物件;
其中,投影该虚拟用户界面物件至该打开手势的手上的步骤包含有当一只手识别为该指向手势且另一只手识别为该打开手势时,投影该虚拟用户界面物件至对应该固定物件的位置上。
5.根据权利要求1所述的方法,其特征在于,在复数个影像中侦测具有两只手的该影像的步骤包含有:
在操作距离中,撷取该复数个影像中的一影像的深度像素
通过随机决策森林运算将该影像中的所有像素分类为可能的左手群组和右手群组;
将围绕在被检验像素的深度背景作为该随机决策森林运算的输入参考,并输出被检验像素的可能群组;
将该左/右手群组匹配到影像子中的连接物件;
计算左/右手的轮廓半径;
裁剪左/右手轮廓;以及
根据该左/右手轮廓,撷取左/右手的深度数据。
6.根据权利要求5所述的方法,其特征在于,当侦测到有两只手的该影像时,识别两只手的手势的步骤包含有:
撷取手的影像子帧;
通过该随机决策森林运算,将该影像子帧中的像素分类为复数个手势群组;以及将包含最多像素的一手势群组设置为手势结果;以及
将包含次多像素的另一手势群组设置为手势参考结果。
7.根据权利要求1所述的方法,其特征在于,还包括以下步骤:
根据点击命令,产生虚拟用户界面物件中对应相对位置的字符物件的影像数据。
8.一种头戴式显示器,用来根据手势识别产生交互式虚拟用户界面,其特征在于,该头戴式显示器包含有:
影像传感器
处理单元,用来执行程序码;
存储单元,耦接于该处理单元及该影像传感器,用来存储该程序码,其中该程序码指示该处理单元执行以下步骤:
在复数个影像中侦测具有两只手的影像,其中该影像是由该影像传感器所撷取;
当侦测到有两只手的影像时,识别两只手的手势;
当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;
追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置;
判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;以及当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。
9.根据权利要求8所述的头戴式显示器,其特征在于,该预设规则包含预设角度或预设距离。
10.根据权利要求8所述的头戴式显示器,其特征在于,该程序码还指示该处理单元执行以下步骤:
判断该打开手势的手为固定物件;以及
当该打开手势的手移动时,停止投影虚拟用户界面物件。
11.根据权利要求8所述的头戴式显示器,其特征在于,该程序码还指示该处理单元执行以下步骤:
判断该打开手势的手是否在预设角度,或是否在指向手势的手的一侧;以及当判断该打开手势的手在该预设角度或在该指向手势的手的一侧时,判断该打开手势的手为固定物件;
其中,投影该虚拟用户界面物件至该打开手势的手上的步骤包含有当一只手识别为该指向手势且另一只手识别为该打开手势时,投影该虚拟用户界面物件至对应该固定物件的位置上。
12.根据权利要求8所述的头戴式显示器,其特征在于,该程序码还指示该处理单元执行以下步骤:
在操作距离中,撷取该复数个影像中的一影像的深度像素;
通过随机决策森林运算将该影像中的所有像素分类为可能的左手群组和右手群组;
将围绕在被检验像素的深度背景作为该随机决策森林运算的输入参考,并输出被检验像素的可能群组;
将该左/右手群组匹配到影像子帧中的连接物件;
计算左/右手的轮廓半径;
裁剪左/右手轮廓;以及
根据该左/右手轮廓,撷取左/右手的深度数据。
13.根据权利要求12所述的头戴式显示器,其特征在于,在识别两只手的手势的步骤中,当侦测到有两只手的该影像时,该程序码更指示该处理单元执行以下步骤:
撷取手的影像子帧;
通过该随机决策森林运算,将该影像子帧中的像素分类为复数个手势群组;以及将包含最多像素的一手势群组设置为手势结果;以及
将包含次多像素的另一手势群组设置为手势参考结果。
14.根据权利要求8所述的头戴式显示器,其特征在于,还包括一显示装置,且该程序码还指示该处理单元执行以下步骤:
根据该点击命令,产生该虚拟用户界面物件中对应该相对位置的字符物件的影像数据并传送至该显示装置。
15.一种互动系统中的电子装置,用来根据手势识别产生交互式虚拟用户界面,其特征在于,该电子装置包含有:
处理单元,用来执行程序码;
存储单元,耦接于该处理单元,用来存储该程序码,其中该程序码指示该处理单元执行以下步骤:
在复数个影像中侦测具有两只手的影像;
当侦测到有两只手的影像时,识别两只手的手势;
当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;
追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置;
判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;以及当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。

说明书全文

基于手势识别产生交互式虚拟用户界面的方法及相关装置

技术领域

[0001] 本发明涉及一种显示用户界面的方法及装置,尤其涉及一种基于手势识别产生交互式虚拟用户界面的方法及相关装置。

背景技术

[0002] 大部分的虚拟实境/扩增实境/混合实境/延展实境系统可依据使用者穿载的用户界面装置,来追踪使用者的动作行为。用户界面装置(如游戏手把、控制器、触控面板等)用来提供使用者与系统软件之间的互动,举例来说,系统软件包含有运算装置执行的虚拟实境游戏。此外,使用者穿载的头戴式显示器(head-mounted display,HMD)用来显示运算装置产生的互动影像,能让使用者体验虚拟实境。
[0003] 为了增加使用者对虚拟实境沉浸的意愿,现有技术提出了虚拟用户界面技术,以提供使用者新的体验及用户界面。然而,目前没有采用手势识别来产生交互式虚拟键盘的规范。因此,目前的用户界面仍然使用传统的遥控器或操纵杆。

发明内容

[0004] 因此,本发明的主要目的在于提供一种基于手势识别产生交互式虚拟用户界面的方法及相关装置,以解决上述问题。
[0005] 本发明公开一种基于手势识别产生交互式虚拟用户界面的方法,用于互动系统,该方法包含有:在复数个影像中侦测具有两只手的影像;当侦测到有两只手的影像时,识别两只手的手势;当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置;判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。
[0006] 本发明另公开一种头戴式显示器,用来根据手势识别产生交互式虚拟用户界面,该头戴式显示器包含有:影像传感器;处理单元,用来执行程序码;存储单元,耦接于该处理单元及该影像传感器,用来存储该程序码,其中该程序码指示该处理单元执行以下步骤:在复数个影像中侦测具有两只手的影像;当侦测到有两只手的影像时,识别两只手的手势;当一只手识别为指向手姿且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置;判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。
[0007] 本发明另公开一种互动系统中的电子装置,用来根据手势识别产生交互式虚拟用户界面,该电子装置包含有:处理单元,用来执行程序码;存储单元,耦接于该处理单元,用来存储该程序码,其中该程序码指示该处理单元执行以下步骤:在复数个影像中侦测具有两只手的影像;当侦测到有两只手的影像时,识别两只手的手势;当一只手识别为指向手姿且另一只手识别为打开手势时,投影虚拟用户界面物件至该打开手势的手上;追踪该指向手势的手的指尖,用来取得该指尖与该打开手势的手之间的相对位置;判断该指尖与该打开手势的手之间的该相对位置是否符合预设规则;当该指尖与该打开手势的手之间的该相对位置符合该预设规则时,将该指向手势的手的指尖的动作视为点击命令。附图说明
[0008] 图1为本发明实施例的互动系统的示意图。
[0009] 图2为本发明实施例的互动流程的示意图。
[0010] 图3为本发明实施例的手势侦测影像的示意图。
[0011] 图4为本发明实施例的互动显示影像的示意图。
[0012] 附图标记说明:
[0013] IMG0~IMGn、IMGx、IMGn'、IMGm'、IMGm、IMGy、IMGr 影像
[0014]
[0015] 10                               电子装置
[0016] 1000                             影像传感器
[0017] 2000                             显示装置
[0018] 100                              处理单元
[0019] 110                              存储单元
[0020] 120                              通讯接口单元
[0021] 114                              程序码
[0022] 20                               流程
[0023] 201~207                         步骤

具体实施方式

[0024] 请参考图1,图1为本发明实施例的互动系统1的示意图。详细来说,互动系统1包含有电子装置10、影像传感器1000及显示装置2000。电子装置10包含处理单元100、存储单元110以及通讯接口单元120。处理单元100可为微处理器或特殊应用集成电路(application-specific integrated circuit,ASIC)。存储单元110可为任一数据存储装置,用来存储程序码214,并通过处理单元100读取及执行程序码114。举例来说,存储单元110可为用户识别模(subscriber identity module,SIM)、只读式存储器(read-only memory,ROM)、随机存取存储器(random-access memory,RAM)、光盘唯读存储器(CD-ROMs)、磁带(magnetic tapes)、软盘(floppy disks)、光学数据存储装置(optical data storage devices)等等,而不限于此。通讯接口单元120可通过有线或无线通讯方式,用来与图1所示的互动系统1中的其他装置(如影像传感器1000)交换讯号。
[0025] 请参考图2,其为本发明实施例的互动流程20的示意图。互动流程20用于图1所示的电子装置10。互动流程20可编译为程序码114,并包含有以下步骤:
[0026] 步骤201:在复数个影像中侦测具有两只手的影像。
[0027] 步骤202:当侦测到有两只手的影像时,识别两只手的手势。
[0028] 步骤203:当一只手识别为指向手势且另一只手识别为打开手势时,投影虚拟用户界面物件至打开手势的手上。
[0029] 步骤204:追踪指向手势的手的指尖,用来取得该指尖与打开手势的手的手掌的相对位置。
[0030] 步骤205:判断指尖与手掌之间的相对位置是否符合预设规则。
[0031] 步骤206:当指尖与手掌之间的相对位置符合预设规则时,将指向手势的手的指尖的动作视为点击命令。
[0032] 步骤207:根据点击命令,产生虚拟用户界面物件中对应相对位置的字符物件的影像数据。在本发明另一实施例中,步骤207可以不实施。
[0033] 根据互动流程20,电子装置10检测各个影像IMG0-IMGn中是否有两只手出现,如图3所示。接着,判断具有两只手的影像中的手势。在一实施例中,影像IMG0-IMGn是由影像传感器1000产生,并由通讯接口单元120接收,其中影像传感器1000可为结构光(structured light,SL)摄相机或时差测距(time of flight,ToF)摄相机。通讯接口单元120传送接收到的影像IMG0-IMGn至处理单元100进行处理,并将处理结果传送至显示装置2000,以进行互动操作。
[0034] 详细来说,手检测方式可通过以下步骤实现:
[0035] 1.在一操作距离中,撷取影像IMG0-IMGn的深度像素
[0036] 2.使用随机决策森林(Random Decision Forest,RDF)运算将所有像素分类为可能的左手群组和右手群组;
[0037] 3.将围绕在被检验像素的深度背景作为随机决策森林运算的输入参考,并输出被检验像素的可能群组;
[0038] 4.将左/右手群组匹配到影像子中的连接物件;
[0039] 5.计算左/右手轮廓半径;
[0040] 6.裁剪左/右手轮廓;以及
[0041] 7.根据左/右手轮廓撷取左/右手深度数据。
[0042] 另一方面,如果在影像中没有检测到手或仅检测到单一只手时,如图3所示的影像IMG0,电子装置10应持续检测影像,直到同时检测到两只手的影像。当两只手都被检测到时,如图3所示的影像IMGr,电子装置10通过以下步骤执行手势识别:
[0043] 1.撷取手的影像子帧;
[0044] 2.使用随机决策森林运算将影像子帧中的像素分类为复数个手势群组;以及[0045] 3.将包含最多像素的手势群组设置为手势结果,并将次多的手势群组作为手势参考结果。
[0046] 值得注意的是,手势识别可以通过机器学习来执行,其中机器学习是由一系列影像进行数据训练。本发明所属技术领域中的一般技术人员应熟知机器学习的数据训练过程,因此在此不在赘述。此外,在识别出两只手的手势之后,电子装置10应判断一只手(例如右手)是否处于指向手势,而另一只手(例如左手)是否处于打开手势。若侦测到指向手势及打开手势时,如图3所示的影像IMGx所示,电子装置10进一步判断打开手势的手是否在预定度(例如,手掌面向内侧并朝向上方)及/或打开手势的手是否在指向手势的手的一侧。如果打开手势的手符合在电子装置10的存储单元110中所定义的规则,则电子装置10将打开手势的手视为固定物件。针对存储单元110中的规则,本发明所属技术领域中的一般技术人员可以相应地进行修改和变更,但不限于此。
[0047] 当打开手势的手被视为固定物件时,电子装置10产生具有虚拟用户界面物件的影像,并通过显示装置2000投影在打开手势的手的位置处,如图4所示的影像IMGm'和影像IMGn'。在一个实施例中,虚拟用户界面物件可为虚拟键盘或虚拟数字键盘。同时,电子装置10追踪指向手势的手的指尖动作,如图4所示的影像IMGy,以获得指向手势中的指尖与打开手势之间的相对位置。接着,电子装置10判断此相对位置是否符合预设规则(例如,指尖与打开手势之间的距离是否在预设距离内)。如果指向手势的手指尖在预设的距离内接近打开手势的手,如图4所示的影像IMGn,电子装置10将指向手势的手指尖动作视为「点击」命令。例如,通过多个点击命令产生的点击结果可用于解或加密,该解锁或加密可以用于互动系统的启动或加密,或者,可以用于在互动系统的应用程序中解锁/加密文件、输入/设定登入密码、或解锁/加密游戏关卡/道具等。电子装置10可以是虚拟实境/扩增实境/混合实境/延展实境装置。例如,电子装置10可以是头戴式显示器,而影像传感器1000及显示装置
2000可以一体地整合在头戴式显示器中。最后,电子装置10可以根据「点击」命令,产生虚拟用户界面物件中对应相对位置的字符物件(如文字或数字)的影像数据,并将影像数据发送至显示装置2000,以向使用者显示字符物件,并且,例如,让使用者确认点击结果是否正确。
[0048] 值得注意的是,若电子装置10侦测到打开手势的手移动时,则停止虚拟用户界面物件的投影。换句话说,电子装置10根据从影像传感器1000接收到的影像,可以产生没有包含虚拟用户界面物件的影像数据,再传送至显示装置2000显示。
[0049] 请参考图4,其为本发明实施例的互动显示影像的示意图。显示装置2000显示的影像IMGm'显示虚拟用户界面物件被投影在打开手势的手上,其中影像IMGm'是由电子装置10的处理单元100基于手势识别产生。如上所述,在电子装置10判断一只手为指向手势而另一只手为打开手势之后,可以产生包含有虚拟用户界面物件的影像数据,并可将影像数据传送到显示装置2000以显示影像IMGm'。影像IMGn'显示指向手势的手的点击运动。影像IMG显示由指向手势的手所点击的字符对象(例如数字「2」、「3」、「8」、「0」)。因此,使用者可以通过虚拟用户界面物件进行互动操作,而无需与任何实体用户输入装置进行物理接触
[0050] 上述所有步骤,包含所建议的步骤,可通过硬件、韧体(即硬件装置与计算机指令的组合,硬件装置中的数据为唯读软件数据)或电子系统等方式实现。举例来说,硬件可包含类比、数位及混合电路(即微电路、微芯片或芯片)。电子系统可包含系统单晶片(system on chip,SOC)、系统封装(systemin package,Sip)、计算机模块(computer on module,COM)及电子装置10。
[0051] 综上所述,本发明提供通过虚拟用户界面物件投影方式,令使用者能与互动系统进行互动操作。进一步地,本发明是通过手势识别及手势动作侦测来实现虚拟用户界面物件投影的互动操作。
[0052] 以上所述仅为本发明的较佳实施例,凡依本发明权利要求书所做的均等变化与修饰,皆应属本发明的涵盖范围。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈