技术领域
[0001] 本
发明涉及一种基于加权贝叶斯混合模型的与文本无关的说话人识别方法，属于语音
信号处理技术领域。
背景技术
[0002] 在
门禁、信用卡交易和法庭证据等方面，说话人识别起着越来越重要的作用，它的目标是把待识别语音正确地判定为属于语音库中多个参考人之中的某一个。
[0003] 目前，在与文本无关的说话人识别方法中，基于高斯混合模型(即：GMM)的方法应用最为广泛。由于它具有识别率高，训练简单，
训练数据量要求不大等优点，已经成为目前与文本无关的说话人识别的主流方法。由于GMM具有很好的表示数据的分布的能
力，只要有足够多的状态，足够多的训练数据，GMM就能够逼近任何与时间序列相关的分布模型。但是，实际中将GMM应用于与文本无关的说话人识别时存在几个问题。首先，传统的GMM训练过程基于最大似然准则，容易对训练数据产生过拟合或欠拟合现象。其次，传统的基于GMM的与文本无关的说话人识别仅仅考虑观测数据，没有将先验信息引入。上述问题常常使得基于传统的GMM的与文本无关的说话人识别系统的识别正确率较低。因此如何有效地引入先验信息并将其与训练数据有效融合十分重要；另外，在融合了先验信息之后，如何进一步地平衡先验信息和训练数据两者的权重，采用相对简单的方式控制观测数据的相对权重，也是一个尚未解决但十分重要的问题。而本发明能够很好地解决上面的问题。
发明内容
[0004] 本发明目的在于解决了上述
现有技术的
缺陷，设计了一种基于加权贝叶斯混合模型的与文本无关的说话人识别方法。
[0005] 本发明解决其技术问题所采取的技术方案是：一种基于加权贝叶斯混合模型的与文本无关的说话人识别方法，该方法包括以下步骤：
[0006] 步骤1：对
语音信号进行预处理：包括
采样与量化、预加重、分
帧与
加窗；
[0007] 步骤2：语音帧上的特征提取：对每一语音帧，计算D阶线性预测
倒谱系数，将其作为该帧的D维特征矢量；
[0008] 步骤3：对于每一说话人所对应的训练集合X＝{xn}n＝1,...,N，其中N为该说话人用于训练的D维特征矢量xn的个数；用加权贝叶斯混合模型(即：WBMM)来建模X，通过训练估计出WBMM中的参数值以及随机变量的分布；如在该识别系统中需要识别G个说话人，则重复训练过程G次，分别得到WBMM1,…,WBMMg,...,WBMMG；
[0009] 步骤4：对于待识别的语音，首先进行预处理以及特征提取，得到相应的D维特征矢量x'；计算x'关于每一个说话人对应的模型WBMM1,…,WBMMg,…,WBMMG的边缘似然值{MLIKg(x')}g＝1,...,G，最终的识别结果为最大的MLIKg(x')所对应的说话人speaker，即：
[0010]
[0011] 本发明所述的基于加权贝叶斯混合模型的与文本无关的说话人识别方法中，对步骤3中所述的通过训练估计出WBMM中的参数值以及随机变量的分布的步骤如下：
[0012] 步骤3-1：设定WBMM中的超参数{λ0,m0,β0,ν0,V0}的值，其中，λ0＝0.01，m0＝0(0为D维零矢量)，β0＝1，ν0＝D，V0＝400·I(I为(D×D)的单位矩阵)；
[0013] 步骤3-2：设定α的值，α取-8～-1之间的任意整数；
[0014] 步骤3-3：产生N个服从[1,K]区间上均匀分布的随机整数，其中K为WBMM的混合成分数，可以取16～32中的任意整数，统计该区间上各整数出现的概率；即，如果产生了Ni个整数i，那么θi＝Ni/N；对于每个xn，对应的隐变量zn的初始分布为
[0015]
[0016] 此外，设定
迭代次数计数变量t＝1，开始迭代循环；
[0017] 步骤3-4：计算三个中间变量：
[0018]
[0019]
[0020]
[0021] 步骤3-5：更新WBMM中的随机变量{πi}i＝1,...,K的分布，其表示第i个混合成分的比重，它服从Dirichlet分布，即，q(πi)＝Dir(πi|λi)，相应的超参数{λi}i＝1,...,K的更新公式如下：
[0022]
[0023] 步骤3-6：更新WBMM中随机变量{μi,Τi}i＝1,...,K的分布，其分别表示第i个成分的均值和逆协方差矩阵，它们服从联合Gaussian-Wishart分布，即相应的超参数{mi,βi,νi,Vi}i＝1,...,K的更新如下：
[0024]
[0025]
[0026]
[0027]
[0028] 步骤3-7：更新隐变量{zn}n＝1,...,N的分布，如下：
[0029]
[0030] 其中，
[0031]
[0032] 在上式中，各项期望<·>的计算公式如下：
[0033]
[0034]
[0035]
[0036] 上面公式中ψ(·)为标准的digamma函数(标准Gamma函数Γ(·)的对数的导数，即ψ(·)＝(lnΓ(·))′)；
[0037] 步骤3-8：计算当前迭代后的边缘似然值MLIKt，t为当前的迭代次数：
[0038]
[0039] 步骤3-9：计算当前迭代后与上一次迭代后的边缘似然值的差值ΔMLIK＝MLIKt-MLIKt-1；如果ΔMLIK≤δ，那么通过训练估计出WBMM中的参数值以及随机变量的分布的过程结束，否则转到上述步骤3-4，t的值增加1，进行下一次迭代；
阈值δ的取值范围-5 -4为10 ～10 ，即δ可以取此范围内的任意值。
[0040] 在本发明所述的基于加权贝叶斯混合模型的与文本无关的说话人识别方法中，对步骤4中所述的在识别过程中计算x'关于每一个说话人有关的模型WBMM1,……,WBMMg,……WBMMG的边缘似然值{MLIKg(x')}g＝1,...,G的公式如下：
[0041]
[0042] 其中，<·>和q(zni＝1)为经过训练之后的WBMMg中的期望和概率。
[0043] 本发明中所采用的基于加权贝叶斯混合模型的与文本无关的说话人识别方法是在贝叶斯
框架下，将先验信息引入并和训练数据进行有效融合，解决了传统基于最大似然准则的GMM的说话人识别中容易出现的模型过拟合和欠拟合问题，其模型具有较高的灵活性。
[0044] 本发明所采用的基于加权贝叶斯混合模型的与文本无关的说话人识别方法中用一个附加参数α来控制数据在训练中的权重，使得先验信息和训练数据的相对权重更加容易和灵活地控制。
[0045] 本发明中所采用的基于加权贝叶斯混合模型的与文本无关的说话人识别方法能够准确地根据数据的分布情况获得最优的参数估计值和相关参数的后验分布，采用该方法后，与文本无关的说话人识别系统的识别率大大提高。
[0046] 有益效果：
[0047] 1、本发明的模型具有较高的灵活性。
[0048] 2、本发明使得先验信息和训练数据的相对权重更加容易和灵活地控制。
[0049] 3、本发明的识别率大大提高。
附图说明
[0051] 图2为本发明一段纯净语音及其相对应的电话语音的语谱图。
[0052] 图3为纯净语音，不同α时，本发明的方法和传统的与文本无关的说话人识别方法的识别正确率的对比结果示意图。
[0053] 图4为电话语音，不同α时，本发明的方法和传统的与文本无关的说话人识别方法的识别正确率的对比结果示意图。
[0054] 图5为电话语音，TU＝5，不同说话人数目时，本发明的方法和传统的与文本无关的说话人识别方法的识别正确率的对比结果示意图。
[0055] 图6为纯净语音，TU＝2，不同说话人数目时，本发明的方法和传统的与文本无关的说话人识别方法的识别正确率的对比结果示意图。
具体实施方式
[0056] 下面结合附图和
实施例，对本发明所述的技术方案做进一步地阐述。
[0057] 如图1所示，本发明提供一种基于加权贝叶斯混合模型的与文本无关的说话人识别方法，该方法包括如下步骤：
[0058] 第一步：语音信号的预处理
[0059] (1)采样与量化
[0060] 对用于训练的数据集合用于识别的数据集中的每一段语音信号ya(t)进行采样，从而得到数字语音信号的振幅序列y(n)。用脉冲编码调制(PCM)技术对y(n)进行量化编码，从而得到振幅序列的量化值表示形式y'(n)。这里采样和量化的
精度根据应用于不同环境下的说话人识别系统的要求来决定。对于大多数语音信号而言，采样
频率F为8KHz—16KHz，量化位数为16位或24位。
[0061] (2)预加重
[0062] 将y'(n)通过数字
滤波器Z，得到语音信号的高、中、低频幅度相当的振幅序列-1s″(n)。这里
数字滤波器的Z传递函数为H(z)＝1-az 。其中，预加重系数a的取值范围为0.8～0.97。
[0063] (3)分帧，加窗
[0064] 以帧长τ(单位：毫秒)，帧移量为τ/4，把s″(n)划分成一系列的语音帧Ft。即，每一语音帧包含τ×F个语音信号样本。接着，计算汉明窗函数的值：
[0065]
[0066] 最终，对每一语音帧Ft加汉明窗，得到,从而完成语音信号的预处理处理：
[0067] n＝1,...,τ×F
[0068] 第二步：语音帧上的特征提取
[0069] 本方法中针对每一帧 通过计算，得到D阶线性预测倒谱系数(LPCC)，该系数作为 对应的D维特征矢量，这里的D根据应用于不同环境下的说话人识别系统的要求来决定，D的取值范围为10～20。LPCC的计算包含以下过程：
[0070] (1)计算出D阶的线性预测系数 其计算公式如下：
[0071] d＝1,...,D
[0072] 其中，
[0073]
[0074] (式 )表示D个方程构成的方程组，未知数为D个。求解该方程组，就可以得到当前帧 对应的D阶的线性预测系数
[0075] (2)由D阶线性预测系数 通过如下的公式，计算出D阶的线性预测倒谱系数x1,...,xD：
[0076] d＝1,...,D
[0077] 用上述方法计算出所有说话人用于训练和用于识别的D维特征矢量。假设训练集合中某个说话人(假设为第g个说话人)所对应的特征矢量有N个，那么该说话人所对应的训练集合可以表示为 (G为说话人的数量)。由于每次训练中只是针对(g)
某个说话人的训练数据集，为了表示方便，本发明省略X 和 的上标“(g)”，即，X＝{xn}n＝1,...,N，其中xn＝(xn1,...,xnD)为通过预处理和特征提取步骤计算出的第g个说话人的第n个D维特征矢量。
[0078] 第三步：训练
[0079] 由于这里的说话人识别是与文本无关的，采用混合模型来建模提取出的语音特征矢量。这里本发明设计了一种加权贝叶斯混合模型(weighted Bayesian mixture model，简称WBMM)。与传统的用于文本无关说话人识别的高斯混合模型(GMM)相比，WBMM具有两个显著的不同：首先，WBMM引入了一个附加参数α，即，采用了加权似然函数来描述训练数据，这样的优点在于可以更加灵活的调节训练数据在整个模型中的权重，更好地控制先验信息和训练数据的相对权重；其次，将WBMM中的参数看做随机变量，在贝叶斯框架下，计算其后验分布而不是直接估计参数值，这样的方式在训练数据不足时可以获得很好的效果。
[0080] 具体地，用如下的公式来建立观测数据集X的似然函数：
[0081]
[0082] 上式中，K为混合成分数目，在说话人识别中通常取16～32中的任意整数。为了引入先验信息并将其与训练数据进行融合，将模型中的参数π,μ,T作为随机变量，对它们
指定相应的先验分布。具体地，π＝{πi}i＝1,...,K服从Dirichlet先验分布，即其中C(λ0)为该分布的归一化因子；{μ,T}＝{μi,Ti}i＝1,...,K服从联合Gaussian-Wishart分布(即Gaussian分布与Wishart分布的乘积，N(·)W(·))，即：
[0083]
[0084] 其中{m0,β0,ν0,V0}为该联合Gaussian-Wishart分布的超参数。m0为D维列矢量，β0和ν0为标量，V0为一个(D×D)的矩阵。此外，还需要引入一个隐变量Z＝{zn}n＝1,...,N，其中zn＝(zn1,...,zni,...,znK)中只有一个元素为1，其余为0。zn的作用是指示并标记xn是由WBMM中哪个混合成分所产生的。例如，当xn是由第i个混合成分产生时，zni＝1。
[0085] 在上述定义的WBMM下，训练过程的步骤如下：
[0086] (1)设定WBMM的超参数{λ0,m0,β0,ν0,V0}的值，具体地，λ0＝0.01，m0＝0(0为D维零矢量)，β0＝1，ν0＝D，V0＝400·I(I为单位矩阵)。
[0087] (2)设定α的值，α可以取-8～-1之间的任意整数。
[0088] (3)产生N个服从[1,K]区间上均匀分布的随机整数，统计该区间上各整数出现的概率。即，如果产生了Ni个整数i，那么θi＝Ni/N。对于每个xn，对应的隐变量zn的初始分布为
[0089]
[0090] 此外，迭代次数计数变量t＝1，开始迭代循环。
[0091] (4)计算三个中间变量：
[0092]
[0093]
[0094]
[0095] (5)更新随机变量{πi}i＝1,...,K的分布，其仍然服从Dirichlet分布，即，q(πi)＝Dir(πi|λi)，相应的超参数{λi}i＝1,...,K的更新公式如下：
[0096]
[0097] (6)更新随机变量{μi,Τi}i＝1,...,K的分布，其仍然服从联合Gaussian-Wishart分布，即 相应的超参数{mi,βi,νi,Vi}i＝1,...,K的更新公式如下：
[0098]
[0099]
[0100]
[0101]
[0102] (7)更新隐变量{zn}n＝1,...,N的分布，如下：
[0103]
[0104] 其中，
[0105]
[0106] 在上式中，各项期望<·>的计算公式如下：
[0107]
[0108]
[0109]
[0110] 上两式中的ψ(·)为标准的digamma函数(Gamma函数Γ(·)的对数的导数，即ψ(·)＝(lnΓ(·))′)。那么，
[0111] (8)计算当前迭代后的边缘似然值MLIKt，t为当前的迭代次数：
[0112]
[0113] ，其中各项期望<·>的计算公式和步骤(7)中相同。
[0114] (9)计算当前迭代后与上一次迭代后的边缘似然值的差值ΔMLIK＝MLIKt-MLIKt-1；如果ΔMLIK≤δ，那么参数估计过程结束，否则转到步骤(4)，t的值增加1，-5 -4继续进行下一次的迭代；阈值δ的取值范围为10 ～10 。
[0115] 上述估计WBMM中参数和随机变量分布的训练过程如图1中左边虚线方框中所示。需要附加说明的是，上述步骤中所提到的Dirichlet分布Dir(·)、Gaussian分布N(·)、Wishart分布W(·)和Gamma函数Γ(·)都是具有标准形式的函数，绝大多数的概率统计书籍和文献资料中都有这些函数的表达式，它们也都是本领域科技人员所熟知和经常需要使用的函数，在实施本发明时只需要查阅相应的概率统计教材或相关的百科介绍即可方便地获得，此处不再一一给出其具体形式。
[0116] 对于每一个说话人所对应的训练集合X(1),...,X(g),...,X(G)，采用这种方式进行训练，分别得到与其对应的加权贝叶斯混合模型WBMM1,…,WBMMg,…,WBMMG(G为说话人的数量)。
[0117] 第四步：识别
[0118] 在识别过程中，与当前待识别的说话人相关的语音首先经过第一步的预处理以及第二步的特征提取，得到相应的D维特征矢量x'。分别计算其关于每一个说话人有关的模型WBMM1,……,WBMMg,……WBMMG的边缘似然值{MLIKg(x')}g＝1,...,G。例如，x'关于第g个说话人模型WBMMg的边缘似然为
[0119]
[0120] 其中的各期望<·>和q(zni＝1)为针对第g个说话人，经过第三步训练之后所得到的期望和概率(第三步训练中的步骤(7)得到,唯一的区别是在计算<(x'-μi)TΤi(x'-μi)>时，将(式 )中的xn用x'来替换)。
[0121] 最终的识别结果为最大的MLIKg(x')所对应的说话人，即：
[0122]
[0123] 本发明性能评价：
[0124] 为了验证采用了本发明所述的基于加权贝叶斯混合模型(WBMM)的与文本无关的说话人识别方法的系统性能，将其与基于传统的高斯混合模型(GMM)的与文本无关的说话人识别方法的系统性能进行对比，这里选用TIMIT数据集(语音
采样频率为16KHz，量化位数为16)做测试。这里测试本发明所提出的说话人识别方法对纯净语音和电话语音两种场景中的识别效果。为了模拟电话语音环境，本发明将纯净语言通过一个有效带宽范围为0.3KHz～3.4KHz的
带通滤波器，接着添加
信噪比SNR为20dB的高斯白噪声，从而得到电话语音。图2给出了一段TIMIT的原始纯净语音和相对应的电话语音的语谱图。在预处理过程中，帧长τ＝20ms，预加重系数为0.95，特征矢量的维数D＝20。
[0125] 由于在TIMIT和生成的电话语音
数据库中，共有250个说话人，每个说话人总共有10段语音。在这里，将其中的5段语音用于识别，剩下的5段语音根据情况用于训练。这里WBMM和GMM的混合成分数K固定在16。识别结果用识别率来衡量，识别率的定义为正确识别出说话人的语音帧数量与总语音帧数之比。
[0126] 首先，比较不同α下WBMM的性能，这里考虑两种情况，即训练语音数据充足(用于训练的语音段数TU＝5)和训练语音数据不足(用于训练的语音段数TU＝2)的情况。此外，为了更好的分析WBMM的性能，将其与WGMM做对比，WGMM为基于加权的高斯混合模型，其与WBMM的区别在于没有给参数赋予相应的先验分布，基于最大似然准则估计出相关的参数，当α＝-1时，WGMM退化为GMM。图3给出了纯净语音情况下的识别率。可以看出，无论是TU＝2还是TU＝5时，对于α取-8～-1之间的任意整数，WBMM的识别率均高于WGMM，也高于GMM的识别率。图4给出了电话语音情况下的识别率，虽然由于噪声的存在，使得其与纯净语音相比识别率整体下降，但是WBMM还是优于对应的WGMM(α＝-1时为GMM)。
原因为本发明提出的WBMM采用了加权的似然函数，使得可以更好地突出观测数据的作用，此外，引入了先验信息，并且采用了基于贝叶斯准则的训练方式，使其能够综合利用先验信息和观测数据，使得识别率大大提高。此外，在两种语音环境下，都存在一个最优的α：纯净语音，TU＝5时，α＝-2；纯净语音，TU＝2时，α＝-4；电话语音，TU＝5时，α＝-3；
电话语音，TU＝2时，α＝-7。对于其他数据库，也可以用该种方式，用实验结果确定最优的α。
[0127] 接着，比较各种方法在说话人数目不同的情况下系统的整体识别率。图5给出了电话语音，TU＝5时，WBMM在α＝-1,-3,-6时，WGMM在α＝-1(GMM),-3,-6时，在说话人数目分别为50,100,150,200,250时的识别率。可以看出本发明提出的WBMM比对应的WGMM和GMM的识别率高。此外，图6给出了纯净语音，TU＝2时的识别率，采用本发明提出的WBMM同样获得了比WGMM和GMM更好的性能。
[0128] 本发明
请求保护的范围并不仅仅局限于本具体实施方式的描述，具体内容应以
权利要求书为准。
