一种基于语句信息的方面级情感分类方法
专利汇可以提供一种基于语句信息的方面级情感分类方法专利检索，专利查询，专利分析的服务。并且本 发明 公开了一种基于语句信息的方面级情感分类方法，本发明基于语句信息的注意 力 机制结合句子的整体语义信息捕获给定方面的重要信息，并将整个语句信息加入输出向量表达中，提高了模型处理复杂句子的能力；同时本发明采用基于上下文的注意力机制，与基于 位置 的注意力机制相比，不仅考虑到了句子的语序信息，还考虑到了单词与方面之间的交互信息，因此能为给定方面构建更合理的定制记忆，使得本发明的分类准确率更高。，下面是一种基于语句信息的方面级情感分类方法专利的具体信息内容。
1.一种基于语句信息的方面级情感分类方法，其特征在于，包括以下步骤：
S1、将句子S拆分成含有方面的左上下文和含有方面的右上下文，并分别获取左上下文对应的向量表Els和右上下文对应的向量表Ers；
S2、采用神经网络模型分别对Els和Ers进行建模，获取与Els相对应的隐状态表Hls和与Ers相对应的隐状态表Hrs；
S3、分别获取隐状态表Hls对应的注意力权重表βls和隐状态表Hrs对应的注意力权重表βrs；
S4、根据注意力权重表βls和注意力权重表βrs获取方面的注意力权重向量，进而得到上下文注意力权重向量；
S5、根据上下文注意力权重向量和对应的记忆切片获取权重记忆向量，并将权重记忆向量中各元素的平均值作为语句信息；
S6、采用三输入的前馈神经网络获取语句信息中各元素对应的注意力权重αi，并根据注意力权重αi和存放在记忆模块中的记忆输出对应的向量Vts；
S7、将句子S的句子表示加入到向量Vts中，得到融合后的句子表示向量；
S8、采用softmax层对融合后的句子表示向量进行预测，得到句子S关于给定方面的感情极性概率分布，完成基于语句信息的方面级情感分类。
2.根据权利要求1所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S1的具体方法为：
对于句子S＝{s1,s2,…,si,…si+L,…,sN-1,sN}，其中方面词组为Sv＝{si,…,si+L}，将句子中其余部分分为上下文，并将句子中方面词组左边的上下文称为左上下文Sl＝{s1,…,si-1}，右边的上下文称为右上下文Sr＝{si+L+1,…,sN}；即得到含有方面的左上下文Sls＝{s1,…,si,…si+L}和含有方面的右上下文Srs＝{si,…si+L,…,sN}；其中i表示方面中的第一个词的下标；i+L表示方面中最后一个词的下标；N表示句子中单词的个数；
通过无监督方法、距离监督方法或随机初始化的方法产生一个词表示矩阵
其中 为实数集，d为单词向量维度，|V|表示词汇表中单词的数量；根据词表示矩阵将句子S中的单词进行映射，获得对应的向量表示，进而得到左上下文对应的向量表Els和右上下文对应的向量表Ers；其中Els＝{e1,...,ei-1,ei,...,ei+L}，Ers＝{ei,...,ei+L,ei+L+1,...,eN}。
3.根据权利要求2所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S2的具体方法包括以下子步骤：
S2-1、将Els输入门控神经单元并从右向左运行门控神经单元；
S2-2、在t时间步，对于Els＝{e1,...,ei-1,ei,...,ei+L}中的任一个元素et，根据公式：
rt＝σ(Wret+Urht-1)
zt＝σ(Wzet+Uzht-1)
获取其内部隐藏状态ht；将每个元素对应的内部隐藏状态组合起来即得到与Els相对应的隐状态表 其中Wr、Ur、Wz、Uz、Wh和Uh均为权重矩
阵，且均属于 σ(·)为sigmoid函数；rt为更新门；zt为重置门；ht-1为元素et在t-1时间步的内部隐藏状态；tanh(·)为双曲正切函数； 为中间量；⊙为按位相乘运算；1为单位向量； 为元素ei+L对应的内部隐藏状态；
S2-3、将Ers输入门控神经单元并从左向右运行门控神经单元；
S2-4、在t时间步，对于Ers＝{ei,...,ei+L,ei+L+1,...,eN}中的任一个元素，采用与步骤S2-2相同的公式获取Ers中每个元素对应的内部隐藏状态，并进一步得到与Ers相对应的隐状态表 为元素ei对应的内部隐藏状态。
4.根据权利要求3所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S3的具体方法为：
根据公式：
βl＝σ(W10hl+b5)+bl
获取隐状态表Hls中任一元素hl对应的注意力权重βl；将每个隐状态表Hls中的元素对应的注意力权重进行组合即得到隐状态表Hls对应的注意力权重表βls，
其中W10为权重矩阵， b5为偏置参数， bl
为基础的注意力权重，
根据公式：
βr＝σ(W11hr+b6)+br
获取隐状态表Hrs中任一元素hr对应的注意力权重βr；将每个隐状态表Hrs中的元素对应的注意力权重进行组合即得到隐状态表Hrs对应的注意力权重表βrs，βrs＝{βir,...,βi+Lr,βi+L+1,...,βN}；其中W11为权重矩阵， b6为偏置参数， br为基础的注意力
权重，
5.根据权利要求4所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S4的具体方法为：
基于注意力权重表βls中第k个元素和注意力权重表βrs中第k个元素，根据公式：
获取对应方面的注意力权重βk，进而得到对应方面的注意力权重βa＝{βi,...,βi+L}；其中i≤k≤i+L；
将向量βlc＝{β1,...,βi-1}、βa＝{βi,...,βi+L}和向量βrc＝{βi+L+1,...,βN}拼接为上下文注意力权重向量β＝{β1,β2,...,βN}。
6.根据权利要求5所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S5的具体方法为：
根据公式
mωn＝yn⊙mn
获取记忆切片mn对应的权重记忆，进而得到权重记忆向量Mω＝{mω1,mω2,...,mωN}；将权重记忆向量中各元素的平均值作为语句信息Vs；其中记忆切片mn为记忆M中的第n个记忆切片，mn＝en，表示句子S所对应的向量表E＝{e1,e2,…,ei,…,ei+L,…,eN}中的第n个元素；yn是在词嵌入的维度上复制βn共d次获得的向量，yn∈β，βn为上下文注意力权重向量β中的第n个元素。
7.根据权利要求6所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S6的具体方法为：
将方面中包含的所有方面词向量的平均值作为方面信息Va，并根据公式：
cn＝W6 tanh(W7mi+W8Va+W9Vs+b4)
获取语句信息中第n个元素对判断句子S对应给定方面情感极性重要性的分数cn；其中W6、W7、W8、W9和b4是三输入的前馈神经网络的模型参数；
根据公式：
获取语句信息中第n个元素对应的注意力权重αn，进而得到语句信息对应的注意力权重α＝(α1,...,αn,...,αN)；其中exp(·)为以自然常数e为底的指数函数；cj为语句信息中第j个元素；
根据公式：
Vts＝Mα
获取三输入的前馈神经网络输出的向量Vts。
8.根据权利要求7所述的基于语句信息的方面级情感分类方法，其特征在于，所述步骤S8的具体方法为：
根据公式：
pred＝soft max(W5Vns+b3)
获取融合后的句子表示向量Vns关于给定方面的感情极性概率分布pred，即句子S关于给定方面的感情极性概率分布；其中softmax(·)为softmax函数； 表示一
个空间大小为C的条件概率分布；W5为权重矩阵， b3为偏置向量， 是线性
层的参数。
一种基于语句信息的方面级情感分类方法
技术领域
背景技术
发明内容
为基础的注意力权重，
br为基础的注意力权重，
线性层的参数。
具体实施方式
为基础的注意力权重，
br为基础的注意力权重，
线性层的参数。
| 标题 | 发布/更新时间 | 阅读量 |
|---|---|---|
| 一种含在线修正的航空发动机智能多变量控制方法 | 2020-05-12 | 138 |
| 一种基于语义增强与多层次标签嵌入的短文本分类方法 | 2020-05-16 | 603 |
| 一种处理汽车气动系统数据的方法 | 2020-05-11 | 351 |
| 意图识别方法、装置、电子设备及可读存储介质 | 2020-05-14 | 139 |
| 一种基于机器学习的棒束子通道热工水力特性预测方法 | 2020-05-08 | 170 |
| 一种利用基于图论的多重交互网络机制解决视频问答问题的方法 | 2020-05-11 | 839 |
| 一种基于虚拟号牌的无牌车辆识别方法 | 2020-05-12 | 837 |
| 基于大数据的行业分类方法、装置、设备及存储介质 | 2020-05-11 | 412 |
| 一种基于动态注意力机制的多事件视频描述方法 | 2020-05-14 | 931 |
| 文本处理模型的运行方法、装置、电子设备、及存储介质 | 2020-05-14 | 95 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台，是提供专利分析，专利查询，专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据，免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析，涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度，系统通过AI智能系统对图表进行解读，只需1分钟，一键生成行业专利分析报告。
