电子耳蜗是替代正常人内耳功能的一种电子装置,用于帮助全聋患者恢复听觉。电子 耳蜗利用植入内耳的
电极绕过内耳受损部位,用微弱
电流直接刺激残余的听神经产生兴 奋,该兴奋沿听觉通路传递至大脑并被解释为声音,从而使患者获得听觉。由于患者听到 的不是真正声场的声音,而是由
电刺激诱发的听觉,所以简称电听觉。电听觉效果的好坏, 是否真的和正常人听到声音的感觉相似,取决于电子耳蜗体外语音
编码器中运行的语音编 码算法的好坏。然而,不可能依靠反复在患者身上多次植入来验证和选择算法。因此,极 为需要采用建立听觉仿真模型的方法来调试、评价、验证各种算法的一种研究平台。
根据耳蜗的
位置-
音调原理、
频率-音调原理、响度感觉原理等理论及电子耳蜗的语 音
信号处理原理,耳蜗在微弱电流刺激的作用下,电极附近的神经元被同时激活,相当于 对
语音信号非连续地频域分析。刺激耳蜗的不同位置引起大脑不同的音调感觉,不同的刺 激幅度引起不同的响度感觉,大脑对这些信息加工后,产生语音感觉,这就是电听觉合成 原理。听觉仿真模型依据不同语音处理算法的处理流程,对电听觉合成的原理公式做以相 应的简化,从而得到基于不同算法的听觉仿真模型。
目前,在已有的电子耳蜗语音处理算法的研究中,所提出和使用的主要是针对单-的 电子耳蜗语音处理算法搭建的听觉仿真模型。但是,目前临床上使用的不同电子耳蜗产品 分别采用的是不同的语音处理算法,仅仅靠建立单一的听觉仿真模型来比较不同产品所采 用的语音处理算法优劣非常困难,基本上无法统一参数标准和评价准则,并且现有的听觉 仿真模型并未涵盖所有的电子耳蜗语音处理算法,所包含的仿真参数也没有全面表征电子 耳蜗产品的实际特点。这些
缺陷都不利于电子耳蜗语音处理算法的研究和改进以及新算法 的开发。
为了克服现有的针对单一算法建立的听觉仿真模型无法横向比较算法效果,以及听觉 仿真模型包含的仿真参数有限的不足,本发明提供一种电子耳蜗听觉仿真平台,该听觉仿 真平台不仅能预测出使用不同电子耳蜗语音处理算法的电子耳蜗植入者的电听觉效果,而 且整合了多种电子耳蜗语音处理算法的听觉仿真模型,能方便地确定参数标准和评价准 则,从而横向比较和评测不同的电子耳蜗
硬件产品所采用的算法的语音处理效果,并且为 研究人员提供了方便的算法研究和开发平台。
本发明电子耳蜗听觉仿真平台包括:
一听觉仿真模型程序库,它整合了现有电子耳蜗产品中所使用的多种语音处理算法、 以及基于汉语特征的语音处理算法所对应的听觉仿真模型程序;
一语音材料
数据库,它存贮有若干原始语音材料和对应于每一原始语音材料的几个仿 真语音材料,所述对应于某一个原始语音材料的几个仿真语音材料是由该原始语音材料分 别经过相应语音处理算法的听觉仿真模型程序处理得到的;
一听觉仿真试验数据库,它包括听觉仿真试验试题库、听觉仿真试验结果库及听觉仿 真试验受试者信息库;以及,
一听觉仿真软件平台,该仿真软件平台包括,
一听觉仿真试验模
块,该模块调用所述听觉仿真试验数据库中的试题,通过受测试的 正常听
力人群对与该试题相对应的经过听觉仿真模型处理的仿真语音材料进行识别、分 辨,预测电子耳蜗植入者的电听觉效果,并统计试验结果的识别正确率来评测相应的语音 处理算法的效果;和,
一语音处理算法比较模块,该模块调用所述听觉仿真模型程序库、语音材料数据库和 听觉仿真试验数据库进行电子耳蜗产品的不同语音处理算法间比较和同种算法不同参数 间比较,实现语音处理算法横向比较。
所述听觉仿真试验数据库中的听觉仿真试验试题,包括单项选择试题和开放式试题两 种类型,试题内容包括针对单个语音处理算法的仿真语音材料的试题和不同语音处理算法 仿真语音材料
混叠的试题,以及白噪声背景下不同
信噪比的单个语音处理算法的仿真语音 材料的试题和不同语音处理算法仿真语音材料混叠的试题。
基于上述电子耳蜗听觉仿真平台的听觉仿真试验方法,包括以下步骤:
①、正常听力的受试者首先登陆电子耳蜗听觉仿真平台,注册或更新所述受试者的信 息;
②、选择听觉仿真试验的试题类型,开始听觉仿真试验,听觉仿真软件平台从听觉仿 真试验试题库中调出所述受试者选择的试题,向所述受试者播放每道试题对应的仿真语音 材料,受试者根据听到的仿真语音材料进行辨识,同时选择或填写相对应的答案;
③、试题全部答完后,所述听觉仿真软件平台对试验结果进行评分,统计所述受试者 的识别正确率,同时更新听觉仿真试验结果库。
基于上述电子耳蜗听觉仿真平台的语音处理算法比较方法,包括不同语音处理算法间 比较和同种语音处理算法不同参数间比较,所述不同语音处理算法间比较包括以下步骤:
a、选择待比较的语音处理算法;
b、预测不同算法电听觉效果比较,进行不同算法仿真语音信号时域和频域
波形的对比, 和进行原始语音与不同算法仿真语音效果的听辨比较;
c、将待比较的语音处理算法进行仿真试验结果比较,对比不同算法下仿真试验识别正 确率,和将不同算法的试验结果跟临床统计数据比较;
d、将待比较的语音处理算法进行电刺激编码策略比较,对不同算法下的电刺激编码策 略进行对比;
所述同种语音处理算法不同参数间比较包括以下步骤:
1)、选择参数;
2)、进行不同参数下预测电听觉效果比较,进行不同参数仿真语音信号时域和频域波 形的对比,和进行原始语音与不同参数仿真语音效果的听辨比较;
3)、选择不同参数进行仿真试验结果比较,对比不同参数下仿真试验识别正确率,和 将不同参数的试验结果跟临床统计数据比较。
本发明根据电子耳蜗语音
信号处理算法和听觉仿真技术,利用VC++6.0平台结合 Matlab6.5程序和Microsoft Access 2003数据库
接口,通过整合听觉仿真模型程序库、语 音材料数据库和听觉仿真试验数据库,实现了电子耳蜗听觉仿真平台。其主要效果有:
a)提供了整合多种电子耳蜗语音处理算法的听觉仿真模型程序库,能够方便地预测出 使用不同电子耳蜗语音处理算法的植入者的电听觉效果。
b)能够方便地确定参数标准和评价准则,跨电子耳蜗硬件平台来比较和评测不同语音 处理算法的语音处理效果,为研究人员提供了方便的算法研究和开发平台。
c)提供并扩展了听觉仿真模型算法的多参数控制,使得听觉仿真模型能够更加全面地 表征电子耳蜗产品的特性,从而可以更加全面有效地研究电子耳蜗语音处理算法。
附图说明
图1是本电子耳蜗听觉仿真平台整体结构
框图;
图2是其听觉仿真软件平台的整体功能框图;
图3是其进行听觉仿真试验和结果统计流程示意图;
图4是其语音处理算法横向比较流程示意图。
下面结合附图说明本发明的具体实施方式。
图1是本电子耳蜗听觉仿真平台的整体结构框图。本电子耳蜗听觉仿真平台包括以下四 个部分:听觉仿真软件平台1、听觉仿真模型程序库4、语音材料数据库2和听觉仿真试验 数据库3。
听觉仿真软件平台1基于VC++6.0开发,是整个电子耳蜗听觉仿真平台的
基础和用户交 互环境,听觉仿真软件平台1通过打开和读取语音材料数据库2中原始语音材料和仿真语音 材料文件,实现在听觉仿真试验模块11、语音处理算法比较模块12、语音材料数据库维护 模块13、听觉仿真试验数据库维护模块14中对语音材料数据库2的调用;通过使用VC++6.0 的ADO数据库
访问技术,实现在听觉仿真试验数据库4的用户信息数据库维护模块16中同用 户信息数据库的接口;通过使用Matlab6.5的COM Builder技术将基于Matlab6.5开发的听 觉仿真模型程序库4打包成COM组件并在VC++6.0中调用,实现与听觉仿真模型程序库4的接 口。其中,语音材料数据库2中的仿真语音数据由听觉仿真模型程序库4处理相应的原始语 音数据得到。
听觉仿真模型程序库4整合了现有电子耳蜗产品中所使用的多种语音处理算法、以及 基于汉语特征的语音处理算法所对应的听觉仿真模型程序。听觉仿真模型程序在Matlab6.5 编程环境下实现,根据不同语音处理算法的原理,从原始语音材料中提取并向每个电子耳 蜗植入电极上传递的信息,包括原始语音材料的音调频率、电刺激的幅度信息、刺激脉宽、 刺激电流幅度和刺激脉宽对产生音调感觉强度的影响、刺激幅度对音调的影响以及大脑对 该植入电极所传递信号的音调感觉等,将各个植入电极上的信息特征按照语音合成规则加 合起来,从而提取了原始语音材料的主要信息,调制合成仿真语音。听觉仿真模型程序的 输入参数根据不同语音处理算法的原理,相应的包括:对应电子耳蜗植入电极数目和位置 的分频带
滤波器参数,提取原始语音材料中信息特征的方法,合成仿真语音的方法等。以 连续交替取样(Continuous Interleaved Sampling,简称CIS)算法的听觉仿真模型程序为例, 根据植入电极的数目和位置,对原始语音材料进行分频带处理并提取相应频带的幅度信息 作为植入电极的电刺激幅度信息,产生的大脑的音调感觉用一组不同频率的正弦信号来表 征,植入电极的位置对应特定频率的正弦信号,电极上刺激电流的幅度对应正弦信号的幅 度,刺激速率的变化对应于正弦频率的改变,将幅度调制过的正弦信号加合起来就得到模 拟电听觉的仿真语音。
语音材料数据库2存贮有若干原始语音材料和对应于每一原始语音材料的几个模拟电 听觉的仿真语音材料,所述的原始语音材料为外界采集的真实语音信号,所述对应于某一 个原始语音材料的几个仿真语音材料是由该原始语音材料分别经过相应语音处理算法的 听觉仿真模型程序处理得到的合成仿真语音。所述的原始语音材料以普通话为主,包括按 照普通话发声的
音素、词语和句子材料。
听觉仿真试验数据库3基于Microsoft Access 2003开发,包括听觉仿真试验试题库、 听觉仿真试验结果库及听觉仿真试验受试者信息库。其中,听觉仿真试验试题包括单项选 择试题和开放式试题两种类型,试题内容包括针对单个语音处理算法的试题和各种语音处 理算法混合的试题,以及白噪声背景下不同信噪比的语音材料的试题和不同语音材料混叠 的试题。
图2是其听觉仿真软件平台1的整体功能框图。所述的听觉仿真软件平台1基于 VC++6.0环境开发,通过调用语音材料数据库2和听觉仿真试验数据库3实现了听觉仿真 试验的试验平台,并且分别利用了VC++6.0的ADO数据库访问技术、Matlab6.5的COM Builder技术以及VC++6.0调用COM组件技术,整合了听觉仿真试验数据库3和听觉仿真 模型程序库4。如图2所示,听觉仿真软件平台1包括以下六个模块:听觉仿真试验模块 11、语音处理算法比较模块12、语音材料数据库维护模块13、听觉仿真试验数据库维护模 块14、听觉仿真模型程序库维护模块15和用户信息数据库维护模块16。
所述的六个模块分别为电子耳蜗语音信号处理算法研发人员提供以下六种主要功能:
一、听觉仿真试验模块11,进行正常听力人群的听觉仿真试验,调用所述听觉仿真试 验数据库3中的试题,受测试的正常听力人群对与试题相对应的经过听觉仿真模型处理的 包含部分语音信息的仿真语音材料进行识别、分辨,预测电子耳蜗植入者的电听觉效果, 并统计试验结果的识别正确率来评测相应的语音处理算法的效果。
二、语音处理算法比较模块12进行语音处理算法横向比较,调用所述的听觉仿真模型 程序库4、语音材料数据库2和听觉仿真试验数据库3进行电子耳蜗产品的不同语音处理 算法间比较和同种算法不同参数间比较。对每个电子耳蜗植入电极上传递的信息,提取其 音调频率、电刺激的幅度函数、刺激脉宽、刺激电流幅度和刺激脉宽对产生音调感觉强度 的影响、刺激幅度对音调的影响以及大脑对该植入电极所传递信号的音调感觉。
三、语音材料数据库维护模块13,提供原始语音材料的维护更新和对应的仿真语音材 料的维护更新功能。所述的仿真语音材料的维护更新步骤包括,选择原始语音材料,选择 听觉仿真模型程序库4中包含的语音处理算法,调用听觉仿真模型程序库4中
选定的语音 处理算法所对应的听觉仿真模型程序,处理选定的原始语音材料,合成对应的仿真语音材 料,更新语音材料数据库。
四、听觉仿真试验数据库维护模块14,进行听觉仿真试验材料和听觉仿真试验试题的 维护更新。听觉仿真试验试题包括单项选择试题和开放式试题两种类型,试题内容包括针 对单个语音处理算法的仿真语音材料的试题和不同语音处理算法仿真语音材料混叠的试 题,以及白噪声背景下不同信噪比的单个语音处理算法的仿真语音材料的试题和不同语音 处理算法仿真语音材料混叠的试题。听觉仿真试验材料对应于听觉仿真试验试题的类型和 内容,单项选择试题的试验材料以音素材料为主,包括元音、辅音
和声调,开放式试题的 试验材料以词语和句子为主;单个语音处理算法的仿真语音材料的试题的试验材料均为同 一语音处理算法的听觉仿真模型程序处理得到的仿真语音材料,不同语音处理算法仿真语 音材料混叠的试题的试验材料则为语音处理算法的听觉仿真模型程序处理得到的仿真语 音材料的混叠,在试验材料中加入不同信躁比的白噪声背景则得到白噪声背景下不同信躁 比的单个语音处理算法的仿真语音材料的试题的试验材料。
五、听觉仿真模型程序库维护模块15提供听觉仿真模型程序库的维护功能。听觉仿真 模型程序的输入参数根据不同语音处理算法的原理,相应的包括:对应电子耳蜗植入电极 数目和位置的分频带滤波器参数,提取原始语音材料中信息特征的方法,合成仿真语音的 方法等。在听觉仿真模型程序库维护模块15中,提供对听觉仿真模型程序的输入参数进 行设置更新和保存输出的功能。
六、用户信息数据库维护模块16进行用户信息数据库维护,通过使用VC++6.0的ADO 数据库访问技术,打开用户信息数据库,更新、添加或删除听觉仿真试验受试者和仿真平 台管理员的信息等。
图3是进行听觉仿真试验和结果统计流程示意图。基于上述电子耳蜗听觉仿真平台的 听觉仿真试验方法,包括以下步骤:
①、正常听力的受试者首先登陆电子耳蜗听觉仿真平台,注册或更新所述受试者的信 息S31;
②、选择听觉仿真试验的试题类型S32,开始听觉仿真试验S34,听觉仿真软件平台从 听觉仿真试验试题库中调出所述受试者选择的试题S33,同时利用VC++6.0的语音播放功 能向所述受试者播放每道试题对应的仿真语音材料,受试者根据听到的仿真语音材料进行 辨识,同时选择或填写相对应的答案;
③、试题全部答完后,所述听觉仿真软件平台对试验结果进行评分,统计所述受试者 的识别正确率S35,同时更新听觉仿真试验结果库S36。
图4是语音处理算法横向比较流程示意图。本发明提供了跨电子耳蜗硬件平台的语音处 理算法横向比较功能,它借助听觉仿真手段对语音处理算法的处理效果实现了的全面比 较,包括电子耳蜗产品的不同语音处理算法间比较S1和同种语音处理算法不同参数间比较 S2。
其中,所述不同语音处理算法间比较S1包括以下步骤:
a、选择待比较的语音处理算法S11;
b、预测不同算法电听觉效果比较S12,进行不同算法仿真语音信号时域和频域波形的 对比S13,和进行原始语音与不同算法仿真语音效果的听辨比较S14;
c、将待比较的语音处理算法进行仿真试验结果比较S15,对比不同算法下仿真试验识 别正确率S16,和将不同算法的试验结果跟临床统计数据比较S17;
d、将待比较的语音处理算法进行电刺激编码策略比较S18,对不同算法下的电刺激编 码策略进行对比S19;
所述同种语音处理算法不同参数间比较S2包括以下步骤:
1)、选择参数S21;
2)、进行不同参数下预测电听觉效果比较S22,进行不同参数仿真语音信号时域和频 域波形的对比S23,和进行原始语音与不同参数仿真语音效果的听辨比较S24;
3)、选择不同参数进行仿真试验结果比较S25,对比不同参数下仿真试验识别正确率 S26,和将不同参数的试验结果跟临床统计数据比较S27。