一种基于注意力机制的司法场景用文案输入识别分类方法
专利汇可以提供一种基于注意力机制的司法场景用文案输入识别分类方法专利检索，专利查询，专利分析的服务。并且本 发明 公布了文案输入识别分类技术领域的一种基于注意 力 机制的司法场景用文案输入识别分类方法，具体步骤为：首先获取文本数据集，并对其构建语义扩展矩阵，对预处理后的文本进行特征选择，组成文本数据集的特征空间，将嵌入式矩阵中的数据导入注意力机 制模 块 的注意力机制权重模型、双层LSTM神经网络层和CNN模块中，将不同维度的数据进行拼接融合，处理后的数据导入Softmax分类器进行归一化处理，使用全局长期依赖关注局部语义特征，可以去除冗余或者不相关特征，提高 文本分类 效率，将提取的特征进行融合，能够丰富、细致地提取文本语料中的深度语义特征，提高了模型对司法短文本特征的识别能力，提高对司法文案文本的识别分类效率。，下面是一种基于注意力机制的司法场景用文案输入识别分类方法专利的具体信息内容。
1.一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：其具体步骤为：
A：获取文本数据集，对收集得到的司法文本数据进行数据预处理，将每一个词进行向量化并表示并组成映射矩阵，然后利用利用映射矩阵和权值为1的核矩阵进行一维卷积运算，检测出短文本中潜在的多尺度候选语义单元；
B：构建语义扩展矩阵，作为短文本的扩展信息，同时获取短文本中文本序列的语义特征，将短文本的语义特征向量赋予分类器，对短文本的类别进行预测；
C：对预处理后的文本进行特征选择，组成文本数据集的特征空间，对特征空间中的数据进行整理构建得到词汇表，并进行数据向量化形成嵌入式矩阵，并利用自身注意力机制进行自我学习，得到自我关注向量；
D：将嵌入式矩阵中的数据导入注意力机制模块的注意力机制权重模型、双层LSTM神经网络层和CNN模块中，将不同维度的数据进行拼接融合；
E：集成融合后的数据导入到全连接层中进行处理，处理后的数据导入Softmax分类器进行归一化处理，输出样本属于各个类别的概率，以最大值对应的类别，作为文本类别识别的结果，即可通过文本分类模型实现司法文本的快速分类。
2.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤B中使用双向长短期记忆网络来捕获文本序列的全局长期依赖，同时，使用多尺度卷积神经网络提取文本序列的局部语义特征。
3.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤C中自我关注向量包括问题文本的自我关注向量和答案文本的自我关注向量，且利用co-attention协同注意力机制明确问题的意图，其中包括获取问题—答案视图、从不同的视角理解问题及输出问题向量。
4.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤D中的注意力机制权重模型将提取的全局长期依赖和每个位置的局部语义特征作为输入，用局部语义特征关注全局长期依赖产生局部指导的全局注意力权重，进行加权得到加权全局特征，用全局长期依赖关注局部语义特征产生全局指导的局部注意力权重，进行加权得到加权局部特征。
5.根据权利要求4所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤D中的LSTM由于自身以阵列的形式形成神经网络层，十分适合处理文本向量这种一维的序列化数据，双层的LSTM可以比较充分地挖掘出文本的序列化特征，CNN比较适合用来提取文本不同卷积核尺寸下的文本粒度特征。
6.根据权利要求5所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：双层的LSTM所提取的特征对注意力算法模块提取的特征信息进行强化，将双层LSTM提取出的特征与注意力机制提取的特征进行融合，可以增强注意力机制所提文本特征包含文本语义特征信息的丰富程度，LSTM与注意力机制的输出融合结果与CNN的提取特征进行融合可以进一步强化其特征信息丰富度与全面性，能够丰富、细致地提取文本语料中的深度语义特征。
一种基于注意力机制的司法场景用文案输入识别分类方法
技术领域
背景技术
发明内容
B：构建语义扩展矩阵，作为短文本的扩展信息，同时获取短文本中文本序列的语义特征，将短文本的语义特征向量赋予分类器，对短文本的类别进行预测；
C：对预处理后的文本进行特征选择，组成文本数据集的特征空间，对特征空间中的数据进行整理构建得到词汇表，并进行数据向量化形成嵌入式矩阵，并利用自身注意力机制进行自我学习，得到自我关注向量；
D：将嵌入式矩阵中的数据导入注意力机制模块的注意力机制权重模型、双层LSTM神经网络层和CNN模块中，将不同维度的数据进行拼接融合；
E：集成融合后的数据导入到全连接层中进行处理，处理后的数据导入Softmax分类器进行归一化处理，输出样本属于各个类别的概率，以最大值对应的类别，作为文本类别识别的结果，即可通过文本分类模型实现司法文本的快速分类。
2、采用自身注意力机制和协同注意力机制的协同配合提供了不同的视角去审视用户的输入文本，能够消除词级上存在的一词多义问题，用以学习高质量的向量表示，便于更快的除去冗杂的文本语义信息，提高文本分类效率；
3、LSTM由于自身以阵列的形式形成神经网络层，十分适合处理文本向量这种一维的序列化数据，双层的LSTM可以比较充分地挖掘出文本的序列化特征，CNN比较适合用来提取文本不同卷积核尺寸下的文本粒度特征，双层的LSTM所提取的特征对注意力算法模块提取的特征信息进行强化，将双层LSTM提取出的特征与注意力机制提取的特征进行融合，可以增强注意力机制所提文本特征包含文本语义特征信息的丰富程度，LSTM与注意力机制的输出融合结果与CNN的提取特征进行融合可以进一步强化其特征信息丰富度与全面性，能够丰富、细致地提取文本语料中的深度语义特征，从而提高了模型对司法短文本特征的识别能力。
具体实施方式
B：构建语义扩展矩阵，作为短文本的扩展信息，同时获取短文本中文本序列的语义特征，将短文本的语义特征向量赋予分类器，对短文本的类别进行预测；
C：对预处理后的文本进行特征选择，组成文本数据集的特征空间，对特征空间中的数据进行整理构建得到词汇表，并进行数据向量化形成嵌入式矩阵，并利用自身注意力机制进行自我学习，得到自我关注向量；
D：将嵌入式矩阵中的数据导入注意力机制模块的注意力机制权重模型、双层LSTM神经网络层和CNN模块中，将不同维度的数据进行拼接融合；
E：集成融合后的数据导入到全连接层中进行处理，处理后的数据导入Softmax分类器进行归一化处理，输出样本属于各个类别的概率，以最大值对应的类别，作为文本类别识别的结果，即可通过文本分类模型实现司法文本的快速分类。
步骤D中的注意力机制权重模型将提取的全局长期依赖和每个位置的局部语义特征作为输入，用局部语义特征关注全局长期依赖产生局部指导的全局注意力权重，进行加权得到加权全局特征，用全局长期依赖关注局部语义特征产生全局指导的局部注意力权重，进行加权得到加权局部特征；
步骤D中的LSTM由于自身以阵列的形式形成神经网络层，十分适合处理文本向量这种一维的序列化数据，双层的LSTM可以比较充分地挖掘出文本的序列化特征，CNN比较适合用来提取文本不同卷积核尺寸下的文本粒度特征；
双层的LSTM所提取的特征对注意力算法模块提取的特征信息进行强化，将双层LSTM提取出的特征与注意力机制提取的特征进行融合，可以增强注意力机制所提文本特征包含文本语义特征信息的丰富程度，LSTM与注意力机制的输出融合结果与CNN的提取特征进行融合可以进一步强化其特征信息丰富度与全面性，能够丰富、细致地提取文本语料中的深度语义特征。
| 标题 | 发布/更新时间 | 阅读量 |
|---|---|---|
| 基于长短时序相关性注意力机制模型的流量预测方法 | 2020-05-08 | 568 |
| 一种锅炉运行参数处理方法、装置、锅炉控制器及介质 | 2020-05-11 | 198 |
| 一种场景分类方法及装置 | 2020-05-08 | 606 |
| 一种基于深度学习的低照度车牌图像识别方法及装置 | 2020-05-08 | 843 |
| 一种用于分布式光伏发电系统短期出力的预测方法 | 2020-05-11 | 332 |
| 基于深度生成式对抗网络的滚动轴承剩余寿命预测方法 | 2020-05-14 | 910 |
| 一种端到端的序列预测方法、装置及设备 | 2020-05-08 | 878 |
| 未收录术语检测方法及系统 | 2020-05-14 | 935 |
| 图像的处理方法、装置、设备及计算机可读存储介质 | 2020-05-15 | 190 |
| 一种基于深度双重注意力网络的视频超分辨率重建方法 | 2020-05-13 | 153 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台，是提供专利分析，专利查询，专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据，免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析，涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度，系统通过AI智能系统对图表进行解读，只需1分钟，一键生成行业专利分析报告。
