首页 / 专利库 / 人工智能 / 情感计算 / 一种基于领域对抗的语音情感识别方法及装置

一种基于领域对抗的语音情感识别方法及装置

阅读:553发布:2020-05-12

专利汇可以提供一种基于领域对抗的语音情感识别方法及装置专利检索,专利查询,专利分析的服务。并且本 发明 公开了一种基于领域对抗的语音 情感识别 方法及装置,方法包括:(1)获取语音情感 数据库 ,划分为源域数据库和目标域数据库;(2)对于每一语音 信号 ,提取IS10特征作为全局特征;(3)将 语音信号 按照时间分成前后重叠50%的若干短 片段 ,提取每个短片段的IS10特征;(4)将所有短片段的IS10特征输入双向长短时间记忆模型,再输入进注意 力 机 制模 型,输出作为局部特征;(5)将全局特征和局部特征 串联 作为联合特征;(6)建立神经网络,包括领域判别器和情感分类器;(7)对神经网络进行训练,网络总损失为情感分类器损失减去领域判别器损失;(8)获取待识别语音信号的联合特征,输入训练好的神经网络,得到预测的情感类别。本发明识别结果更准确。,下面是一种基于领域对抗的语音情感识别方法及装置专利的具体信息内容。

1.一种基于领域对抗的语音情感识别方法,其特征在于该方法包括:
(1)获取存储有若干语音信号和对应情感类别标签的语音情感数据库,并划分为源域数据库和目标域数据库;
(2)对于源域数据库和目标域数据库中的每个语音信号,提取其IS10特征作为对应语音信号的全局特征;
(3)对于源域数据库和目标域数据库的每个语音信号,将其按照时间顺序分成前后重叠50%的若干短片段,并提取每个短片段的IS10特征;
(4)将每个语音信号的所有短片段的IS10特征输入双向长短时间记忆模型,随后再输入进注意制模型,输出作为对应语音信号的局部特征;
(5)对于源域数据库和目标域数据库中的每个语音信号,将其全局特征和局部特征串联起来,作为对应语音信号的联合特征;
(6)建立神经网络,所述神经网络包括领域判别器和情感分类器,所述领域判别器包括两层全连接层,输出为预测的语音信号所属领域类别,所述情感分类器包括两层全连接层,输出为预测的语音信号的情感类别;
(7)对所述神经网络进行训练,训练时,将源域数据库和目标域数据库中每一语音信号的联合特征作为一个样本,输入领域判别器,将源域数据库中每一语音信号的联合特征作为一个样本,输入情感分类器,网络总损失为情感分类器损失减去领域判别器损失,通过反向传播算法更新网络参数,完成网络训练;
(8)获取待识别语音信号的联合特征,输入训练好的神经网络,得到预测的情感类别。
2.根据权利要求1所述的基于领域对抗的语音情感识别方法,其特征在于:步骤(1)中,划分源域数据库和目标域数据库的方法为:将语音情感数据库中属于任意一个人的语音信号和对应情感类别标签作为目标域数据库,剩余其他所有人的语音信号和对应情感类别标签作为源域数据库。
3.根据权利要求1所述的基于领域对抗的语音情感识别方法,其特征在于:步骤(4)中所述注意力机制模型为:
f(Hl)=WTHl
式中,f()表示线性计分函数,W表示可学习参数,Hl表示双向长短时间记忆模型的的输l l
出,αi表示注意力权重, 表示H第i、j个元素,Hatt表示注意力机制模型的输出。
4.根据权利要求1所述的基于领域对抗的语音情感识别方法,其特征在于:步骤(7)中所述网络总损失为:
式中,E(θf,θy,θd)表示网络总损失,θf,θy,θd表示待训练参数,λ为正则化乘数,M是源域数据库的语音信号个数,N是目标域数据的语音信号个数,其中:
形如Ld(*,#)表示领域判别器*与#的交叉熵损失函数,形如Ly(*,#)表示情感分类器*与#的交叉熵损失函数,dm表示源域数据库中第m个语音信号的领域类别标签,ym表示源域数据库中第m个语音信号的情感类别标签,Flg,m表示源域数据库中第m个语音信号的联合特征,m=1,…,M,dn表示目标域数据库中第n个语音信号的领域类别标签,Flg,n表示目标域数据库中第n个语音信号的联合特征,n=1,…,N;Gf()表示特征提取器,Gd()表示领域分类器输出的预测领域类别,Gy()表示情感分类器输出的预测情感类别;
网络训练目的是找到待训练参数θf,θy,θd的鞍点,使得:
5.一种基于领域对抗的语音情感识别装置,其特征在于:包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器用于执行所述计算机程序时实现权利要求1-4中任意一项所述的方法。

说明书全文

一种基于领域对抗的语音情感识别方法及装置

技术领域

[0001] 本发明涉及语音情感识别技术,尤其涉及一种基于领域对抗的语音情感识别方法及装置。

背景技术

[0002] 语音情感识别是情感计算领域中的一个热研究问题,应用前景广阔。由于语音信号具有独特的序列属性,所以语音情感识别可以被看作是动态或者静态的分类问题。现有的方法大多从两个度处理语音信号尺度、整句话尺度,很少有方法考虑把上述两种尺度结合起来。语音情感识别的难点在于提取合适的语音情感特征并缩小源域数据库(训练数据库)数据以及目标域数据库(测试数据库)数据的特征分布差异。

发明内容

[0003] 发明目的:本发明针对现有技术存在的问题,提供一种基于领域对抗的语音情感识别方法和装置,本发明采用局部和全局特征的联合特征进行分类,可以缩小源域数据库数据以及目标域数据库数据的特征分布差异,使得识别结果更准确。
[0004] 技术方案:本发明所述的基于领域对抗的语音情感识别方法包括:
[0005] (1)获取存储有若干语音信号和对应情感类别标签的语音情感数据库,并划分为源域数据库和目标域数据库;
[0006] (2)对于源域数据库和目标域数据库中的每个语音信号,提取其IS10特征作为对应语音信号的全局特征;
[0007] (3)对于源域数据库和目标域数据库的每个语音信号,将其按照时间顺序分成前后重叠50%的若干短片段,并提取每个短片段的IS10特征;
[0008] (4)将每个语音信号的所有短片段的IS10特征输入双向长短时间记忆模型,随后再输入进注意制模型,输出作为对应语音信号的局部特征;
[0009] (5)对于源域数据库和目标域数据库中的每个语音信号,将其全局特征和局部特征串联起来,作为对应语音信号的联合特征;
[0010] (6)建立神经网络,所述神经网络包括领域判别器和情感分类器,所述领域判别器包括两层全连接层,输出为预测的语音信号所属领域类别,所述情感分类器包括两层全连接层,输出为预测的语音信号的情感类别;
[0011] (7)对所述神经网络进行训练,训练时,将源域数据库和目标域数据库中每一语音信号的联合特征作为一个样本,输入领域判别器,将源域数据库中每一语音信号的联合特征作为一个样本,输入情感分类器,网络总损失为情感分类器损失减去领域判别器损失,通过反向传播算法更新网络参数,完成网络训练;
[0012] (8)获取待识别语音信号的联合特征,输入训练好的神经网络,得到预测的情感类别。
[0013] 进一步的,步骤(1)中,划分源域数据库和目标域数据库的方法为:将语音情感数据库中属于任意一个人的语音信号和对应情感类别标签作为目标域数据库,剩余其他所有人的语音信号和对应情感类别标签作为源域数据库。
[0014] 进一步的,步骤(4)中所述注意力机制模型为:
[0015] f(Hl)=WTHl
[0016]
[0017]
[0018] 式中,f()表示线性计分函数,W表示可学习参数,Hl表示双向长短时间记忆模型的的输出,αi表示注意力权重, 表示Hl第i、j个元素,Hlatt表示注意力机制模型的输出。
[0019] 进一步的,步骤(7)中所述网络总损失为:
[0020]
[0021] 式中,E(θf,θy,θd)表示网络总损失,θf,θy,θd表示待训练参数,λ为正则化乘数,M是源域数据库的语音信号个数,N是目标域数据的语音信号个数,其中:
[0022]
[0023]
[0024]
[0025] 形如Ld(*,#)表示领域判别器*与#的交叉熵损失函数,形如Ly(*,#)表示情感分类器*与#的交叉熵损失函数,dm表示源域数据库中第m个语音信号的领域类别标签,ym表示源域数据库中第m个语音信号的情感类别标签,Flg,m表示源域数据库中第m个语音信号的联合特征,m=1,…,M,dn表示目标域数据库中第n个语音信号的领域类别标签,Flg,n表示目标域数据库中第n个语音信号的联合特征,n=1,…,N;Gf()表示特征提取器,Gd()表示领域分类器输出的预测领域类别,Gy()表示情感分类器输出的预测情感类别;
[0026] 网络训练目的是找到待训练参数θf,θy,θd的鞍点,使得:
[0027]
[0028]
[0029] 本发明所述的基于领域对抗的语音情感识别装置包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器用于执行所述计算机程序时实现上述方法
[0030] 有益效果:本发明与现有技术相比,其显著优点是:本发明提供了一种联合局部和全局特征的语音情感识别领域对抗方法,该方法结合了多种时间尺度的语音情感特征,领域判别器和情感分类器互相对抗学习,通过反向传播算法更新网络参数最终学习到一种既对不同情感具有区分性又对源域和目标域不具有区分性的情感特征,使得识别准确率更高。领域判别器可以在网络学习过程中动态地调整特征参数,使源域和目标域数据库的特征分布更靠近,当领域判别器不能区分数据是来自于源域数据库还是目标域数据库时,在源域数据库上训练的分类器可以更好地分类目标域数据库。附图说明
[0031] 图1是本发明的一个实施例的流程示意图;
[0032] 图2是本发明的神经网络训练过程示意图。

具体实施方式

[0033] 本实施例提供了一种基于领域对抗的语音情感识别方法,如图1和图2所示,包括:
[0034] (1)获取存储有若干语音信号和对应情感类别标签的语音情感数据库,并划分为源域数据库和目标域数据库。
[0035] 其中,划分源域数据库和目标域数据库的方法为留一个人法(Leave-One-Subject-Out Cross Validation):将语音情感数据库中属于任意一个人的语音信号和对应情感类别标签作为目标域数据库,剩余其他所有人的语音信号和对应情感类别标签作为源域数据库。
[0036] (2)对于源域数据库和目标域数据库中的每个语音信号,提取其IS10特征作为对应语音信号的全局特征。
[0037] 其中,IS10特征为“Interspeech 2010paralinguistic challenge.Christian Müller,“The interspeech 2010paralinguistic challenge,”Proc Interspeech,2010.”中的特征,其定义见该文献,不再赘述,该特征提取时采用openSMILE toolkit(一个公开的工具包)进行提取。采用 表示提取的IS10特征,d表示IS10特征的维度1582。
[0038] (3)对于源域数据库和目标域数据库的每个语音信号,将其按照时间顺序分成前后重叠50%的若干短片段,并提取每个短片段的IS10特征。
[0039] 若一个语音信号划分为前后重叠50%的c个短片段,则该语音信号的IS10特征表示为:
[0040]
[0041] xc表示第c个片段的IS10特征。
[0042] (4)将每个语音信号的所有短片段的IS10特征输入双向长短时间记忆模型,随后再输入进注意力机制模型,输出作为对应语音信号的局部特征。
[0043] 其中,若双向长短时间记忆模型采用L()表示,其中隐藏节点的个数为h,具体前向和后向隐藏节点数为1582,则双向长短时间记忆模型的输出为:
[0044]
[0045] 其中,所述注意力机制模型为:
[0046] f(Hl)=WTHl
[0047]
[0048]
[0049] 式中,f()表示线性计分函数,W表示可学习参数,Hl表示双向长短时间记忆模型的的输出,αi表示注意力权重, 表示Hl第i、j个元素,Hlatt表示注意力机制模型的输出。
[0050] (5)对于源域数据库和目标域数据库中的每个语音信号,将其全局特征和局部特征串联起来,作为对应语音信号的联合特征。
[0051] 联合特征可以表示为:Flg={Xg,Hlatt}。
[0052] (6)建立神经网络,所述神经网络包括领域判别器和情感分类器,所述领域判别器包括两层全连接层,输出为预测的语音信号所属领域类别,所述情感分类器包括两层全连接层,输出为预测的语音信号的情感类别。
[0053] (7)对所述神经网络进行训练,训练时,将源域数据库和目标域数据库中每一语音信号的联合特征作为一个样本,输入领域判别器,将源域数据库中每一语音信号的联合特征作为一个样本,输入情感分类器,网络总损失为情感分类器损失减去领域判别器损失,通过反向传播算法更新网络参数,完成网络训练。
[0054] 其中,所述网络总损失为:
[0055]
[0056] 式中,E(θf,θy,θd)表示网络总损失,θf,θy,θd表示待训练参数,λ为正则化乘数,M是源域数据库的语音信号个数,N是目标域数据的语音信号个数,其中:
[0057]
[0058]
[0059]
[0060] 形如Ld(*,#)表示领域判别器*与#的交叉熵损失函数,形如Ly(*,#)表示情感分类器*与#的交叉熵损失函数,dm表示源域数据库中第m个语音信号的领域类别标签,ym表示源域数据库中第m个语音信号的情感类别标签,Flg,m表示源域数据库中第m个语音信号的联合特征,m=1,…,M,dn表示目标域数据库中第n个语音信号的领域类别标签,Flg,n表示目标域数据库中第n个语音信号的联合特征,n=1,…,N;Gf()表示特征提取器,Gd()表示领域分类器输出的预测领域类别,Gy()表示情感分类器输出的预测情感类别;
[0061] 网络训练目的是找到待训练参数θf,θy,θd的鞍点,在鞍点,源域情感分类损失最小,领域分类器损失最大,即使得:
[0062]
[0063]
[0064]
[0065] 参数λ表示为正则化乘数,λ初始值为0,在训练结束之前逐渐增长到1。γ为10,p表示训练进程,范围为0到1。
[0066] 通过学习和训练,得到既对不同情感具有区分性又对源域和目标域不具有区分性的情感特征。
[0067] (8)获取待识别语音信号的联合特征,输入训练好的神经网络,得到预测的情感类别。
[0068] 本发明还提供了一种基于领域对抗的语音情感识别装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器用于执行所述计算机程序时实现上述方法。
[0069] 下面以IEMOCAP情感数据库中的四种类别(生气、高兴、悲伤、中性)的语音情感数据为例进行验证,验证结果如表1所示:
[0070] 表1
[0071] 特征种类 有权重准确率(%) 无权重准确率(%)全局特征 54.77 51.25
5段局部特征 59.18 51.77
8段局部特征 57.19 49.62
10段局部特征 55.75 48.79
5段局部--全局特征 62.84 54.19
8段局部--全局特征 60.37 53.03
10段局部--全局特征 57.86 51.48
DNN-ELM 57.90 52.10
BLSTM-SUA 59.33 49.96
[0072] 其中5段、8段、10段分别为将整句话语音信号分割的段数。DNN-ELM为基于语音片段尺度与深度神经网络和极限学习机的语音情感识别方法,BLSTM-SUA为结合贪婪策略的双向长短时间记忆模型语音情感识别方法。
[0073] 实验结果表明,5段局部—全局特征取得了最高的语音情感识别准确率。在IEMOCAP情感数据库四类(生气、高兴、悲伤、中性)的语音情感识别任务中,本发明提出的基于模型相对于其他方法得到了更好的识别结果。相较于其他方法,本发明成功地获取了一种联合全局和局部的特征,同时减少了源域和目标域之间的数据发布差异,提高了语音情感识别准确率。
[0074] 以上所揭露的仅为本发明一种较佳实施例而已,不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈