首页 / 专利库 / 图形技术 / 可视化 / 知识可视化 / 思维导图 / 基于人体表达的二维意图的特定标识控制方法和装置

基于人体表达的二维意图的特定标识控制方法和装置

阅读:390发布:2020-05-13

专利汇可以提供基于人体表达的二维意图的特定标识控制方法和装置专利检索,专利查询,专利分析的服务。并且基于人体表达的二维意图的特定标识控制方法和装置,其特征在于,包括用于表达方向控制意图的人体 姿态 动作和用于表达确认意图的头部表情动作,方向控制意图旨在对特定标识的运动方向予以控制,确认意图旨在确认特定标识所捕捉的操作部件的当前操作及其操作类型;与 现有技术 对比,其有益的技术效果在于利用人体姿态动作与头部表情动作或语音指令的二维组合,不仅建立了适配于身体动作的方向控制意图指令机制,而且也建立了适配的但又独立的“确认”意图指令机制,克服了单独了 语音技术 的无节制问题,也克服了单独的EOG眼电技术的局限性问题,它们之间的有效配合有效地解决了对 人机交互 设备的多维度控制问题,以及人体动作与控制意图之间的协调性问题。,下面是基于人体表达的二维意图的特定标识控制方法和装置专利的具体信息内容。

1.基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的头部表情动作,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;
实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施所述头部表情动作,拾取关联于所述头部表情动作而导致的头部生物信号特征值,设置生物电信号计算模块,根据所拾取的所述生物电信号特征值并基于所述生物电信号计算模块识别出对应于所述头部表情动作的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
2.根据权利要求1所述的控制方法,其特征在于,通过所述姿态融合计算模块建立对应于姿态动作的基准特征值并比较所拾取的当次姿态特征值,实时识别出用户当前的姿态动作意图。
3.根据权利要求2所述的控制方法,其特征在于,在一个当次的姿态动作结束并确认为有效后,将当次的姿态特征值替换为基准特征值。
4.根据权利要求2所述的控制方法,其特征在于,所述姿态特征值包括有可以从动作表象上予以识别的人体动作的度、方向和加速度。
5.根据权利要求4所述的控制方法,其特征在于,建立人体姿态模型,所述人体姿态模型定义用于表达所述方向控制意图的人体动作类型,通过实施符合所述人体姿态模型的人体姿态动作,表达对特定标识的运动方向的控制意图。
6.根据权利要求1所述的控制方法,其特征在于,通过所述生物电信号计算模块建立对应于表情动作的生物电信号基准特征值并比较所拾取的当次生物电信号的特征值,实时识别出用户当前的表情动作意图。
7.根据权利要求6所述的控制方法,其特征在于,在一个当次的表情动作结束并确认为有效后,将当次的生物电信号特征值替换为基准姿态特征值。
8.根据权利要求6所述的控制方法,其特征在于,所述生物电信号特征值包括有信号幅度和信号频率
9.根据权利要求1所述的控制方法,其特征在于,所述运动方式包括是否予以启动、停止或是否加速、减速。
10.根据权利要求1到9任一所述的控制方法,其特征在于,所述人体姿态动作包括四种能够独立表达运动方向控制意图的姿态动作,每种所述姿态动作定义一种运动方向控制意图,四种所述姿态动作用于分别表达前、后、左、右四个方向移动的控制意图。
11.根据权利要求10所述的控制方法,其特征在于,所述人体姿态动作是身体的晃动动作。
12.根据权利要求11所述的控制方法,其特征在于,所述身体的晃动动作包括身体的左偏晃动、右偏晃动、挺胸移动和弯腰移动四种姿态动作。
13.根据权利要求10所述的控制方法,其特征在于,所述人体姿态动作是头部的摇动动作。
14.根据权利要求13所述的控制方法,其特征在于,所述头部的摇动动作包括头部的左偏晃动、右偏晃动、抬头移动和低头移动四种姿态动作。
15.根据权利要求1到9任一所述的控制方法,其特征在于,所述头部表情动作是能够导致头部产生可拾取生物电信号的头部肌肉动作或思维动作。
16.根据权利要求15所述的控制方法,其特征在于,所述头部表情动作包括眼部动作、面部动作、下颚动作或脑意识动作中的一个动作或几个动作的重复或组合。
17.根据权利要求1到9任一所述的控制方法,其特征在于,设置显示屏,所述特定标识是移动光标并显示在所述显示屏中,所述显示屏用于显示所述移动光标、操作部件的当前位置,在所述移动光标响应于所述运动方向控制指令而在所述显示屏中移动并已经捕捉到所述显示屏中的操作部件后,所述操作部件再响应于所述确认指令完成当前操作及其操作类型。
18.根据权利要求17所述的控制方法,其特征在于,还包括被控设备,所述被控设备映射于所述操作部件,当所述操作部件响应于所述确认指令完成当前操作及其操作类型的“确认”操作时,所述被控设备也响应于所述确认指令完成当前操作及其操作类型的“确认”操作。
19.根据权利要求1到9任一所述的控制方法,基于对显示屏中的移动光标予以控制,其特征在于,其使用步骤包括:
(1)初始状态:让用户身姿调试至设定的初始姿态,包括摆正身体,面部正朝向显示屏;
(2)移动状态:用户通过人体姿态动作,驱动所述移动光标向上、下、左或右方向移动,完成对所述移动光标在屏幕中的移动控制,直到移动至目标区域捕捉到所述操作部件后停止,此时,所述操作部件改变包括颜色或图标内容的显示方式,指示软件应用进入选择状态;
(3)确认状态,用户通过头部表情动作完成对所述移动光标予以控制操作的确认动作。
20.基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的语音命令,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;
实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模块,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施语音命令,拾取表征所述语音命令的语音信号特征值,设置语音信号计算模块,根据所拾取的所述语音信号特征值并基于所述语音信号计算模块识别出对应于所述语音命令的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
21.根据权利要求20所述的控制方法,其特征在于,通过所述语音信号计算模块建立对应于语音命令的语音信号基准特征值并比较所拾取的当次语音信号的特征值,实时识别出用户当前的语音命令意图。
22.根据权利要求21所述的控制方法,其特征在于,在一个当次的语音信号结束并确认为有效后,所述语音信号计算模块将当次的语音信号特征值替换为基准语音信号特征值。
23.基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:
姿态特征值拾取装置,所述姿态特征值拾取装置用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
头部生物电信号特征值拾取装置,所述头部生物电信号特征值拾取装置用于拾取关联于头部表情动作而导致的头部生物电信号特征值并给出相应的生物电特征信号,所述头部表情动作用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
制模块,包括姿态融合计算模块和生物电信号计算模块,所述姿态融合计算模块用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述生物电信号计算模块用于接收所述生物电特征信号并识别出对应于所述头部表情动作的确认指令,所述控制模块用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。
24.根据权利要求23所述的控制装置,其特征在于,包括显示屏,所述特定标识是移动光标并显示在所述显示屏中,所述显示屏用于显示所述移动光标、操作部件的当前位置以及整个操作界面,所述移动光标用于响应于所述运动方向控制指令而在所述显示屏中移动并捕捉所述显示屏中的操作部件,所述操作部件用于响应于所述确认指令,完成当前操作及其操作类型的“确认”操作。
25.根据权利要求24所述的控制装置,其特征在于,还包括被控设备,所述被控设备映射于所述操作部件,当所述操作部件响应于所述确认指令完成所述“确认”操作时,所述被控设备也响应于所述确认指令完成所述 “确认”操作。
26.根据权利要求23所述的控制装置,其特征在于,所述姿态特征值拾取装置包括速率陀螺仪检测器、加速度传感器,所述速率陀螺仪检测器用于随所述人体姿态动作移动时提供所述姿态特征值中的角速度变化特征值;所述加速度传感器用于随所述人体姿态动作移动时提供所述姿态特征值中的加速度变化特征值。
27.根据权利要求26所述的控制装置,其特征在于,所述姿态特征值拾取装置还包括磁计,所述磁力计用于随所述人体姿态动作移动时提供所述姿态特征值中的运动方向特征值。
28.根据权利要求23所述的控制装置,其特征在于,所述姿态特征值拾取装置是摄像采样装置,所述摄像采样装置用于摄取所述人体姿态动作的影像并利用图像解析技术获取所述人体姿态动作的姿态特征值。
29.根据权利要求23到28任一所述的控制装置,其特征在于,所述头部生物电信号特征值拾取装置是基于EOG信号的可穿戴式装置,包括电极单元、EOG信号放大单元;所述电极单元含有三个导电电极,紧贴用户头部皮肤,其中一个置于用户额头,另外两个置于后;所述EOG信号放大单元中设置有集成仪表放大器,集成仪表放大器上集成有仪表放大器、高通滤波器低通滤波器和右腿驱动电路
30.基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:
姿态特征值拾取装置,所述姿态特征值拾取装置用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
语音命令特征值拾取装置,所述语音命令特征值拾取装置用于拾取表征所述语音命令的语音信号特征值并给出相应的语音特征信号,所述语音命令用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
控制模块,包括姿态融合计算模块和语音信号计算模块,所述姿态融合计算模块用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述语音信号计算模块用于接收所述语音特征信号并识别出对应于所述语音命令的确认指令,所述控制模块用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。

说明书全文

基于人体表达的二维意图的特定标识控制方法和装置

技术领域

[0001] 本发明属于人机交互技术领域,具体涉及一种基于人体表达的二维意图的特定标识控制方法及其控制装置,例如可以是基于EOG信号及头部姿态的控制方法及装置。EOG(electro-oculogram)膜眼电图是眼球运动的电学记录,它是一种检测眼睛电位。

背景技术

[0002] 在现有技术中,人与操作设备(如头戴显示设备、计算机、手机等生活用设备)之间的交互主要是通过手工操作的交互方式。例如,人与头戴显示设备进行交互时,可以利用物理按键进行提高音量、播放或暂停等操作;人与计算机进行交互时,需要手工操作键盘或特定标识进行播放或打开等操作;但对于残障人士或者双手暂时没有空闲(例如双手正在进行洗漱、做饭、吃饭等活动)进行操作的用户,利用传统的输入设备(例如特定标识、键盘、操作器等)实现人机交互就非常困难。
[0003] 在人机交互领域中,眼睛作为又一种重要的信息交互通道,而视线反应人的注意方向,因而将视线应用于人机交互领域具有其自然性、直接性和交互性等特点,备受人们的关注。专利公开号为中国CN104866100B公开了一种眼控装置及其眼控方法和眼控系统,其中,该眼控装置包括:注视点获取单元、人眼动作检测单元和控制信号生成单元,注视点获取单元用于获取人眼在待操作器件上的注视点的位置信息;人眼动作检测单元用于检测人眼是否作出预设动作,并在检测出人眼作出预设动作时,控制注视点获取单元将当前人眼在待操作器件上的注视点的当前位置信息发送给控制信号生成单元;控制信号生成单元用于根据预先存储的与待操作器件相应的位置控制对应表生成与当前位置信息相对应的控制信号,并将控制信号发送至待操作器件以供待操作器件执行相应的操作。该技术方案可有效的实现利用人眼动作来对操作器件进行控制,但这种控制方法过于简单而且维度单一,不适用于在有多维控制需求的人机交互设备上使用。

发明内容

[0004] 为了解决在不利生活环境下轻松解决人机交互问题,至少人们首先想到了语言控制技术,即利用人的语言本身给出的指令例如上下左右移动、行走等让被控设备按该语言命令本身所包含的含义去执行,但是语言本身的时延性及控制程度的有限性即控制的无节制问题,决定了单一的语音技术并不能完全和可靠地使用在人机交互领域;其次有人也首先想到了上面的现有技术中提及的眼控技术,也称为EOG眼电技术,显然该方法在控制上也是单一控制模式。当人机交互设备需要多维度控制时,这些技术都不能很好地完成。
[0005] 为了解决人机交互设备等多维度的控制问题,而且还需保证控制的便利性和可靠性,我们设计了几种设备控制方法:第一种,基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的头部表情动作,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;
实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施所述头部表情动作,拾取关联于所述头部表情动作而导致的头部生物电信号特征值,设置生物电信号计算模块,根据所拾取的所述生物电信号特征值并基于所述生物电信号计算模块识别出对应于所述头部表情动作的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
[0006] 本发明还提供一种实现第一种控制方法的基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:姿态特征值拾取装置,所述姿态特征值拾取装置用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
头部生物电信号特征值拾取装置,所述头部生物电信号特征值拾取装置用于拾取关联于头部表情动作而导致的头部生物电信号特征值并给出相应的生物电特征信号,所述头部表情动作用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
控制模块,包括姿态融合计算模块和生物电信号计算模块,所述姿态融合计算模块用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述生物电信号计算模块用于接收所述生物电特征信号并识别出对应于所述头部表情动作的确认指令,所述控制模块用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。
[0007] 第二种,基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的语音命令,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模块,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施语音命令,拾取表征所述语音命令的语音信号特征值,设置语音信号计算模块,根据所拾取的所述语音信号特征值并基于所述语音信号计算模块识别出对应于所述语音命令的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
[0008] 本发明还提供一种实现第二种控制方法的基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:姿态特征值拾取装置,所述姿态特征值拾取装置用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
语音命令特征值拾取装置,所述语音命令特征值拾取装置用于拾取表征所述语音命令的语音信号特征值并给出相应的语音特征信号,所述语音命令用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
控制模块,包括姿态融合计算模块和语音信号计算模块,所述姿态融合计算模块用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述语音信号计算模块用于接收所述语音特征信号并识别出对应于所述语音命令的确认指令,所述控制模块用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。
[0009] 在上述的方案中,所述姿态特征值拾取装置与所述头部表情动作或语音信息特征值拾取装置可以合二为一个穿戴设备,其次,所述姿态特征值拾取装置与所述头部表情动作或语音信息特征值拾取装置与所述控制模块之间既可以是有线连接,也可以通过无线收发装置实现通讯。另外,所述控制模块可以集成设置在同一控制电路中,也可分置在包括所述姿态特征值拾取装置、所述头部表情动作或语音信息特征值拾取装置等装置中。
[0010] 其中,所述特定标识,就是显示在所述显示界面中用于代表控制对象在显示界面中的当前位置,例如常规的鼠标光标。在另一种使用案例中,它还可以是一种可感觉发现但不固定显示的闪光标识。
[0011] 其中,所述操作部件,是一种显示在所述显示界面中但代表某个具有执行功能的模块或设备;例如可以打开操作编辑的WORD编辑模块,或者一款游戏或映射的室内空调设备等。
[0012] 其中,所述姿态信号,是用户头部等部位摆动、移动时,拾取用户运动时不断变化的三维特征值而识别出的信号。用户移动头部等部位的目的是想表达一种驱动所述特定标识移动的控制意图,在实际使用中,可以让所述头部等部位运动的方向与希望控制所述特定标识移动的方向一致,从而符合用户的生活习惯。
[0013] 其中,所述EOG信号是一种电信号,是一种基于眼部动作而在用户头部形成的生物电信号,相比于所述姿态信号,所述EOG信号的反应速度比较快而且对应的动作幅度小容易表达和控制。
[0014] 其中,所述操作部件的当前操作,是指对所述操作部件实施的一种确认操作例如通过鼠标光标对所述操作部件实施左击或右击确认操作,而所述操作类型,是指实施该确认操作的类别,例如对所述操作部件实施启动或停止、同意或否定,也可以是所述操作部件实施加速或减速等。
[0015] 基于上述的技术方案,与现有技术对比,其有益的技术效果在于利用所述人体姿态动作与所述头部表情动作或语音指令的二维组合,不仅建立了适配于身体动作的方向控制意图指令机制,而且也建立了适配的但又独立的“确认”意图指令机制,克服了单独了语音技术的无节制问题,也克服了单独的EOG眼电技术的局限性问题,它们之间的有效配合有效地解决了对人机交互设备的多维度控制问题,以及人体动作与控制意图之间的协调性问题。
[0016] 由于本发明具有上述特点和优点,为此可以应用到人机交互设备及其的控制系统中。附图说明
[0017] 附图1 ,是应用本发明技术方案的第一种实施例的流程示意图。
[0018] 附图2 ,是应用本发明技术方案的第二种实施例的流程示意图。

具体实施方式

[0019] 下面结合附图对应用本发明技术方案的基于人体表达的二维意图所定义的控制方法和控制装置作进一步的说明。
[0020] 实施例一、如图1所示,具体地说,基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的头部表情动作,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模块22,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块22识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施所述头部表情动作,拾取关联于所述头部表情动作而导致的头部生物电信号特征值,设置生物电信号计算模块23,根据所拾取的所述生物电信号特征值并基于所述生物电信号计算模块23识别出对应于所述头部表情动作的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
[0021] 基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:姿态特征值拾取装置21,所述姿态特征值拾取装置21用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
头部生物电信号特征值拾取装置11,所述头部生物电信号特征值拾取装置11用于拾取关联于头部表情动作而导致的头部生物电信号特征值并给出相应的生物电特征信号,所述头部表情动作用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
控制模块2,包括姿态融合计算模块22和生物电信号计算模块23,所述姿态融合计算模块22用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块2用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述生物电信号计算模块23用于接收所述生物电特征信号并识别出对应于所述头部表情动作的确认指令,所述控制模块2用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。
[0022] 现以眼控鼠标为例结合附图1所示,对本发明做进一步的说明。
[0023] 一种基于EOG(眼电)信号和姿态的眼控鼠标,包括信号采集模块(11、21)、无线通信模块、控制模块2和显示屏3,无线通信模块包含无线发送单元和无线接收单元,无线发送单元设置在信号采集模块的信号采集端,无线接收单元设置在控制模块2的控制算法端,采用Wifi无线通讯协议。所述控制模块2安装在台式计算机上。
[0024] 所述眼控鼠标控制方法包括,用于表达方向控制意图的人体姿态动作例如晃动头部的动作和用于表达确认意图的导致EOG(眼电)的眼部动作;所述方向控制意图旨在对所述特定标识(即鼠标光标)的运动方向予以控制进而能够捕捉所述操作部件,所述确认意图旨在确认所述鼠标光标所捕捉的操作部件的当前操作及其操作类型;所述晃动头部的动作包括向左偏晃动、右偏晃动、抬头移动和低头移动四种姿态动作。
[0025] 实施晃动头部的动作,拾取表征所述晃动头部动作的动作表象本身的姿态特征值,包括动作的加速度、度和运动方向特征值,设置姿态融合计算模块22,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块22识别出对应于所述晃动头部动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识及所述鼠标光标的运动方向;实施头部的眨眼表情动作,拾取关联于所述头部表情动作而导致的EOG(眼电)的信号特征值,设置生物电信号计算模块23,根据所拾取的所述生物电信号特征值并基于所述生物电信号计算模块23识别出对应于所述头部表情动作的确认指令,通过所述确认指令确认所述操作部件的当前操作及其操作类型。
[0026] 所述眼控鼠标的信号采集模块为可穿戴式设备,它进一步包括用于拾取关联于用户1眨眼表现出的EOG(眼电)信号的头部生物电信号特征值拾取装置11、用于拾取用户1姿态动作特征值的姿态特征值拾取装置21,它们虽然一体化设置但分别采集信号,通过无线通信模块传输至所述控制模块2;所述信号采集模块还包括微处理器单元,所述微处理器单元包括有STM32F103芯片,负责整个信号采集模块各组成部分的同步与控制。
[0027] 在本实施例中,所述姿态特征值拾取装置21是一种可穿戴式的姿态传感器单元,佩戴在用户1头部,包括有PU9250传感器芯片并与所述微处理器单元连接,该芯片为九轴姿态传感器,由三轴加速度传感器、三轴陀螺仪和三轴磁计组成,分别采集用户1头部晃动动作的加速度、角度和运动方向特征值。
[0028] 在本实施例中,所述头部生物电信号特征值拾取装置11也是一种基于EOG信号的可穿戴式眼电设备,佩戴在用户1头部,包括电极单元、EOG信号放大单元,所述电极单元、EOG信号放大单元与所述微处理器单元依次连接。所述电极单元含有三个导电电极,紧贴用户1头部皮肤的不同部位,其中一个置于用户1额头,另外两个置于后;所述EOG信号放大单元中设置有AD8232集成仪表放大器芯片,芯片上集成有仪表放大器、高通滤波器低通滤波器和右腿驱动电路。
[0029] 所述控制模块2中包括有所述姿态融合计算模块22,用于根据所采集的头部晃动的姿态信号对用户1头部的姿态(例如向左偏晃动、右偏晃动、抬头移动和低头移动等四种姿态动作)进行算法识别并给出相应的姿态特征信号,根据所述姿态特征信号确定识别结果并进一步确定并驱动鼠标光标在所述显示屏3中做相应方向的移动或当前坐标位置的调整,其中所述鼠标光标在所述显示屏3中的移动方向与头部晃动的方向相同,从而便利于控制。所述控制模块2中还包括有生物电信号计算模块23,用于根据所采集的对应于眨眼动作的EOG(眼电)的信号进行算法识别并给出相应的生物电特征信号,根据所述生物电特征信号确定识别结果并进一步表达确认控制指令,确认鼠标的当前操作类型(左击、右击、校准),同时将鼠标光标的坐标值和操作类型值发送给所述控制模块2中的鼠标驱动模块,由所述鼠标驱动模块具体执行上述指示命令。所述鼠标驱动模块用于接收所述控制模块2的计算结果,将其转化为操作系统的鼠标光标的控制指令,使鼠标光标完成对应的操作;所述显示屏3用于显示所述鼠标光标的位置以及整个操作界面。
[0030] 在其它实施案例中,所述人体姿态动作除了是一种头部晃动动作以外,还可以是身体整体的左偏晃动、右偏晃动、挺胸移动和弯腰移动;这些姿态信号具有各个动作之间容易区分明显的特点,而且能够将方向控制意图与人体本身的姿态方向统一起来,从而便利于表达和控制,其动作表象容易识别而且也容易提取其特征值。一种比较便于人们习惯的控制方式是,尽量让移动方向控制的结果与这些姿态动作的方向基本协调一致,例如当你抬头或挺胸动作时,所述控制模块2最好控制所述移动光标的运动方向也向上移动而不是向左或向右移动。
[0031] 但是,这些所述人体姿态动作仅是一种控制意图的表达,既不是对特定标识予以控制的信号本身,也不是所要表达的控制信号本身。为此,为了实现对控制意图的精准表达,最好是事先设定所述人体姿态动作的规范标准化动作,便于精准地展示、表达这种控制意图不至于控制系统难以识别和特征值提取。为此进一步的技术方案还可以是,建立关于头部晃动或身体晃动的人体姿态规范模型,所述人体姿态模型定义用于表达所述方向控制意图的人体动作类型例如是头部晃动还是身体晃动才能有效,以及晃动的速度,或最大、最小角度等姿态,通过所述人体姿态模型予以规范定义,通过实施符合所述人体姿态模型所定义的人体姿态动作,表达对特定标识的运动方向的控制意图。当建立了所述人体姿态模型后,用户1使用前可以在了解和学习所述标准化规范动作的要求后,开始操作。例如启动被控设备的初始状态时,让用户1身姿调试至设定的初始姿态,包括摆正身体,面部正朝向显示屏3等。再例如要求用户1晃动身体的角度、速度等符合标准的规范等。
[0032] 在上述方案中,所述姿态融合计算模块22,是基于经验和数据所建立的软件运算模块,用于识别解读当前所述人体姿态动作的控制意图。在使用中,还可以通过所述姿态融合计算模块22采集基于一个规范的姿态动作即人体姿态模型的特征值,作为建立对应于姿态动作的基准特征值,并比较所拾取的当次姿态特征值,实时识别出用户1当前的姿态动作意图。
[0033] 其中,所述拾取表征所述人体姿态动作的姿态特征值,其定义了控制的起点在于拾取特征值,拾取作为一种立体行为动作的特征参数,提供给后面的控制模块2使用。
[0034] 其中,所述特定标识,就是显示在所述显示界面中用于代表控制对象在显示界面中的当前位置,例如常规的鼠标光标。在另一种使用案例中,它还可以是一种可感觉发现但不固定显示的闪光标识。
[0035] 其中,所述操作部件,是一种显示在所述显示界面中但代表某个具有执行功能的模块或设备;例如可以打开操作编辑的WORD编辑模块,或者一款游戏或映射的室内空调设备等。
[0036] 其中,所述姿态信号,是用户头部摆动、移动时,拾取用户头部运动时不断变化的三维特征值而识别出的信号。用户移动头部的目的是想表达一种驱动所述特定标识移动的控制意图,在实际使用中,可以让所述头部运动的方向与希望控制所述特定标识移动的方向一致,从而符合用户的生活习惯。
[0037] 其中,所述EOG信号是一种电信号,是一种基于眼部动作而在用户头部形成的生物电信号,相比于所述姿态信号,所述EOG信号的反应速度比较快且对应的动作幅度小容易表达和控制。
[0038] 其中,所述操作部件的当前操作,是指对所述操作部件实施的一种确认操作例如通过鼠标光标对所述操作部件实施左击或右击确认操作,而所述操作类型,是指实施该确认操作的类别,例如对所述操作部件实施启动或停止、同意或否定,也可以是所述操作部件实施加速或减速等。
[0039] 在上述方案中,还可以是,在一个当次的姿态动作结束并确认为有效后,将当次的姿态特征值替换为基准姿态特征值。即为了防止基准姿态特征值漂移导致的识别错误和识别迟缓的问题,采用每次动作结束或定期地将当次的姿态特征值替换为基准姿态特征值,让所述基准特征值适当地刷新重置。
[0040] 在上述方案中,还可以是,所述姿态特征值包括有可以从动作表象上予以识别的人体动作的角度、动作方向和动作加速度。即从动作的角度、动作方向和动作加速度几个方面定义所述姿态特征值。所述姿态特征值的提取,在本发明中,采用穿戴式的速率陀螺仪检测器测量动作的角度及加速度传感器测量动作的加速度,在进一步改进的方案中,还可以通过磁力计采集随所述人体姿态动作移动时提供所述姿态特征值中的运动方向特征值。在其它实施方案中,也可以采用摄像采样装置摄取所述人体姿态动作的影像并利用图像解析技术获取所述人体姿态动作的姿态特征值。为此,在上述方案中,还可以是,所述姿态特征值拾取装置21包括速率陀螺仪检测器、加速度传感器,所述速率陀螺仪检测器用于随所述人体姿态动作移动时提供所述姿态特征值中的角速度变化特征值,所述加速度传感器用于随所述人体姿态动作移动时提供所述姿态特征值中的加速度变化特征值。在上述方案中,还可以是,还包括磁力计,所述磁力计用于随所述人体姿态动作移动时提供所述姿态特征值中的运动方向特征值。
[0041] 在上述方案中,所述头部表情动作是一种基于头部而存在的微型肌肉动作或思维动作,为此,除了使用眼部的眨眼动作导致的眼电EOG信号外,还可以采用其它微型肌肉动作例如眼球转动动作、面部抽动动作、咬牙、磨牙的下颚动作,或纯粹大脑意识的思维动作;当实施这些表情动作时都能在头部产生相应的不同特性的生物电信号,一般俗称脑电信号、肌电信号等。例如EOG眼电和EMG肌电信号,目前已经有很多种方法和装置拾取这些生物电信号。这些生物电信号的特征值主要包括有电信号幅度大小和信号频率高低及其频谱构成等,拾取和区分这些特征值就能实现确认指令。
[0042] 将所述人体姿态动作与所述头部表情动作的特点对比就可以发现,它们之间的区别是明显的,前者属于幅度比较大的肢体动作从而可以利用其直接表达与运动方向有关的控制意图,而后者仅是头部的微型肌肉动作或思维动作,并且在实施所述人体姿态动作时完全可以同步实施所述头部表情动作,或者在实施所述人体姿态动作之前或之后快速响应实施所述头部表情动作从而实现快速确认控制,互不干涉,容易让普通用户操作。
[0043] 为此,本发明中利用实施这些表情动作来表达或传递一种确认指令,基于该确认的意图和指令,在本发明中,控制程序本身既可以安排一个动作代表一个确认含义例如像传统的单击鼠标的确认动作,也可以是连续的两个动作代表一个确认的含义例如像传统的双击鼠标的确认动作,即一个动作或几个动作的重复或组合。
[0044] 其次,所述头部表情动作不仅是独立的动作及其信号,而且定义了所述头部表情动作主要用于表达确认控制的意图,即实施该动作不是希望所述鼠标光标(也称为特定标识)按自己的意图移动,而是要表达对所述鼠标光标所捕捉的所述操作部件确认的意图,就像鼠标点击确认所述操作部件的启动或停止等确认的含义。
[0045] 在上述方案中,还可以是,在一个当次的表情动作结束并确认为有效后,将当次的生物电信号特征值替换为基准的生物电信号特征值。即为了防止用户1在不同时期的生物电信号特征变化或不同参与者的当次生物电信号特征值变化导致识别错误(不是基准的生物电信号特征值漂移),采用每次动作结束或定期地将当次的姿态特征值替换为基准的生物电信号特征值,让所述基准的生物电信号特征值适当地刷新重置。
[0046] 在上述方案中,所述操作部件的操作类型,包括是否予以启动、停止或是否加速、减速等。所述确认特定标识的操作类型,就是确认特定标识启动、停止或是否加速、减速等改变当前运动状态的指令,即“确认”控制主要是指改变当前的运动状态。
[0047] 在上述方案中,还可以是,所述人体姿态动作包括四种能够独立表达运动方向控制意图的姿态动作,每种所述姿态动作定义一种运动方向控制意图,四种所述姿态动作用于分别表达上、下、左、右四个方向移动的控制意图,或者说是前、后、左、右四个方向移动的控制意图。
[0048] 在上述方案中,还可以是,设置显示屏3,所述特定标识是移动光标并显示在所述显示屏中,所述显示屏用于显示所述移动光标、操作部件的当前位置以及整个操作界面,在所述移动光标响应于所述运动方向控制指令而在所述显示屏中移动并已经捕捉到所述显示屏中的操作部件后,所述操作部件再响应于所述确认指令完成当前操作及其操作类型。
[0049] 在上述方案中,还可以是,还包括被控设备-病床4,所述被控设备映射于所述操作部件,当所述操作部件响应于所述确认指令完成当前操作及其操作类型的“确认”操作时,所述被控设备-病床4也响应于所述确认指令完成当前操作及其操作类型的“确认”操作。其中,所述被控设备-病床4映射于所述操作部件,是指所述被控设备-病床4与所述操作部件都是所述控制模块2所同时控制的对象,只是不同的物理对象而已,所述显示屏3中显示的所述操作部件,是对应于所述被控设备在所述显示屏3中的表现代表而已。
[0050] 在上述方案中,还可以是,基于通过显示屏3对移动光标予以控制,其特征在于,其使用步骤包括:(1)初始状态:让用户1身姿调试至设定的初始姿态,包括摆正身体,面部正朝向显示屏
3;
(2)移动状态:用户1通过人体姿态动作,驱动所述移动光标向上、下、左或右方向移动,完成对所述移动光标在屏幕中的移动控制,直到移动至目标区域捕捉到所述操作部件后停止,此时,所述操作部件改变包括颜色或图标内容在内的显示方式,指示软件应用进入选择状态;
(3)确认状态,用户1通过头部表情动作完成对所述移动光标予以控制操作的确认动作。
[0051] 在上述方案中,还包括以下步骤:(1)进行数据采集:将若干EOG生物电电极贴近用户1头部皮肤,完成对应于眨眼动作的眼电EOG信号采集准备,并通过所述姿态传感器21采集对应于人眼注意于显示屏3上的注视点时,用户1头部姿态的实时特征数据;
(2)将步骤(1)采集到的实时特征数据分别依次存储,并启动相应算法,换算成能够驱动鼠标光标能够在所述显示屏3中移动的指令和所在的坐标区域位置;
(3)根据步骤(2)中的鼠标光标在屏幕上的实时运动,实现对鼠标光标的移动控制进而能够捕捉所述操作部件;
(4)将鼠标光标运动到所述操作部件图标上面,启动确认状态识别。
[0052] 其中,步骤(3)中的光标控制方法包括以下步骤:A、鼠标光标的校准操作:所述控制模块2将一个所述特定标识移至显示界面中间区域,用户1注视所述特定标识,将初始的头部所在位置正对显示界面中间区域,完成初始状态标定;即:用户1头部正对电脑显示器中间区域,执行三次连续眨眼动作,所述控制模块2通过基于眨眼的EOG信号识别方法,一旦识别到用户的三次连续眨眼动作,则发出校准命令,使光标回到电脑显示器的中心位置;
B. 鼠标光标的移动操作:用户1执行头部晃动动作,所述控制模块2通过基于姿态信息的姿态识别方法,识别出用户1头部的姿态角,根据用户1头部的旋转角度使光标在电脑显示器上发生相应的移动:当头部向上/下/左/右转动时,光标分别往上/下/左/右移动,用户
1通过头部的连续运动,可以使光标移动到感兴趣的目标区域,当头部动作停止时,光标的移动也停止;
C. 鼠标光标的状态切换:当鼠标光标移动到显示屏3中的任一可操作图标上时(如某个菜单选项或应用程序的图标),该图标改变颜色(或者改变显示方式),指示鼠标光标进入确认选择状态,此时可以进行下一步光标确认操作。若光标没有移动到任何可操作图标上面,则光标状态不发生改变,不能进行下一步光标确认操作,此时用户1可以继续移动光标,使光标移动到想要操作的目标图标上面;
D. 鼠标光标的确认操作:显示屏3的鼠标光标标确认操作有两种:a.鼠标左击,当光标进入选择状态时,用户1执行单次眨眼动作,控制模块2通过基于EOG的眨眼识别方法,一旦识别到用户1的单次眨眼动作,则发出鼠标左击指令;b.鼠标右击,当光标进入选择状态时,用户1执行两次连续眨眼动作,控制模块2通过基于EOG的眨眼识别方法,一旦识别到用户1的两次连续眨眼动作,则发出对应的鼠标右击指令。
[0053] 其中,步骤A和步骤D中基于EOG的眨眼识别方法,具体实现包括以下步骤:(Ⅰ)预处理:控制模块每100毫秒执行一次眨眼识别,首先将采集的EOG波形数据进行
0.1-20赫兹带通滤波,然后提取从当前时间点开始600毫秒长度的数据段,数据段再经过一个去基线处理,即将数据段的数据减去一个基线段(当前时间点之前的100到0毫秒)数据的平均值,得到经过预处理后的EOG波形;
(Ⅱ)特征提取:用 表示经过预处理后原始EOG波形, 表示经过一阶差分后的EOG波形, 表示原始EOG波形的峰值,  表示眨眼持续时间。 和 可以根据差
分EOG波形  来求出。首先,找出 最大值对应的时间点  和最小值对应的时间点
 ,然后根据如下公式求出  和  :
  (1)
   (2)
 是第k个数据点所对应的时间,v是波形幅度限值,取v=5微伏。因此,对应于每个的EOG波形数据段,提取EOG特征  、 得到一个特征向量
(Ⅲ)波形检测:对于每一个EOG波形数据段,完成特征提取之后,对提取出的特征向量通过阈值条件来判断是否存在眨眼动作。具体来说,如果特征向量满足以下两个公式的条件,则认为存在眨眼动作,反之,则不存在眨眼动作:
        (3)
   (4)
其中   代表眨眼幅度阈值,  和  分别代表眨眼持续时间的最小阈值和
最大阈值,这里取  =50微伏, =200毫秒,  =400毫秒;
(Ⅳ)决策:每检测到一次眨眼动作时,则从当前时间点开始计时,如果一秒钟之内再次检测到一次眨眼动作,则将最终的决策输出设置为两次连续眨眼动作,如果一秒钟之内再次检测到两次眨眼动作,则将最终的决策输出设置为三次连续眨眼动作,如果一秒钟之内没有再次检测到任何眨眼动作,则将最终的决策输出设置为单次眨眼动作。
[0054] 步骤B中的基于姿态信息的姿态识别方法,具体实现包括以下步骤:(ⅰ)角度计算:九轴姿态传感器包含陀螺仪、加速度计、磁力计三个部件,陀螺仪测量的为旋转的角速度,通过积分得到对应的角度值,计算公式如下:
          (5)
其中  为当前时刻的角度值, 为前一时刻的角度值,  为陀螺仪测量当前时刻的角速度,  为当前时刻角速度的偏移量, 为积分时间。
[0055] 加速度计测量的为三个轴的加速度分量,利用三角函数关系解算角度姿态:    (6)
其中   、  、 分别是X、Y、Z这3个轴的加速度分量, 为Z轴与重力加速度的夹角, 为俯仰角, 为翻滚角。
[0056] 磁力计测量的是三个轴的磁感应强度,磁力计在平位置且无外加磁场干扰时,航向角可通过如下三角函数关系计算:   (7)
其中  和  分别为X轴和Y轴输出的磁感应强度数据。
[0057] 当磁力计不在水平位置的时候,可利用倾斜补偿后的磁感应强度  、 和式(7)计算航向角,  和   可由以下公式求出:       (8)
(ⅱ)卡尔曼滤波:利用卡尔曼滤波算法对多个传感器得到的数据进行融合,抑制噪声,提高姿态角检测的准确性。以陀螺仪的角度状态作为观测量,加速度计和电子罗盘测量的对应角度值作为观测反馈值,系统的状态方程为:
     (9)
 其中 为第 次估计值, 为基于  次对  次的估计值,  为采样
周期,  和  分别为陀螺仪测量 时刻以及   时刻的角速度。
[0058] 实施例二、如图2所示,具体地说,本发明还提供一种基于人体表达的二维意图的特定标识控制方法,其特征在于,包括用于表达方向控制意图的人体姿态动作和用于表达确认意图的语音命令,所述方向控制意图旨在对特定标识的运动方向予以控制,所述确认意图旨在确认所述特定标识所捕捉的操作部件的当前操作及其操作类型;实施所述人体姿态动作,拾取表征所述人体姿态动作的动作表象本身的姿态特征值,设置姿态融合计算模块22,根据所拾取的所述姿态特征值并基于所述姿态融合计算模块22识别出对应于所述人体姿态动作的运动方向控制指令,通过所述运动方向控制指令控制所述特定标识的运动方向进而捕捉所述操作部件;
实施语音命令,拾取表征所述语音命令的语音信号特征值,设置语音信号计算模块24,根据所拾取的所述语音信号特征值并基于所述语音信号计算模块24识别出对应于所述语音命令的确认指令,通过所述确认指令确认所述特定标识所捕捉的操作部件的当前操作及其操作类型。
[0059] 将上述实施二的方案与实施例一对比,其主要差别在于,将实施例一中的表达确认意图的头部表情动作改变为用户1发出的语音命令,为此,在上述方案中,还可以是,通过所述语音信号计算模块24建立对应于语音命令的语音信号基准特征值并比较所拾取的当次语音信号的特征值,实时识别出用户1当前的语音命令意图。
[0060] 在上述方案中,还可以是,在一个当次的语音信号结束并确认为有效后,所述语音信号计算模块将当次的语音信号特征值替换为基准特征值。这样当出现产品用户1更换、用户1的口音特性改变等情况发生后,依然能够及时调整识别能力。
[0061] 本发明还提供一种实现第二种控制方法的基于人体表达的二维意图的特定标识控制装置,其特征在于,包括:姿态特征值拾取装置21,所述姿态特征值拾取装置21用于拾取表征人体姿态动作的动作表象本身的姿态特征值并给出相应的姿态特征信号,所述人体姿态动作用于表达对所述特定标识的运动方向予以控制进而能够捕捉操作部件的控制意图;
语音命令特征值拾取装置5,所述语音命令特征值拾取装置5用于拾取表征所述语音命令的语音信号特征值并给出相应的语音特征信号,所述语音命令用于表达对所述特定标识所捕捉所述操作部件的当前操作及其操作类型予以确认的意图;
控制模块2,包括姿态融合计算模块22和语音信号计算模块24,所述姿态融合计算模块
22用于接收所述姿态特征信号并识别出对应于所述人体姿态动作的运动方向控制指令,所述控制模块2用于根据所述运动方向控制指令进一步控制所述特定标识的运动方向;所述语音信号计算模块24用于接收所述语音特征信号并识别出对应于所述语音命令的确认指令,所述控制模块2用于根据所述确认指令确认所述操作部件的当前操作及其操作类型。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈