专利汇可以提供用于循环神经网络自然语言处理的稀疏矩阵乘法加速器专利检索,专利查询,专利分析的服务。并且本 发明 属于集成 电路 技术领域,具体为一种用于循环神经网络 自然语言处理 的稀疏矩阵乘法 加速 器。本加速器包括:16组乘累加单元,用于同时计算循环神经网络中的16个输出通道;4个输入 存储器 ,用于存储循环神经网络中的4个输入通道的特征值;1个权重存储器;16个输出存储器,用于暂存计算中间结果以及对应16个输出通道的最终结果;16个二级累加器,用于读取输出存储器中的中间结果与乘累加单元的计算结果累加,更新输出结果;16个4输入选择器,用于选择压缩后权重对应的输入特征值。本发明利用循环神经网络中权重的稀疏性,对稀疏权重进行压缩,在减少权重存储空间的同时,加快了循环神经网络的计算速度,并降低了计算功耗。,下面是用于循环神经网络自然语言处理的稀疏矩阵乘法加速器专利的具体信息内容。
1.一种用于循环神经网络自然语言处理的稀疏矩阵乘法加速器,其特征在于:
16组乘累加单元,用于同时计算循环神经网络中的16个输出通道;
4个输入存储器,用于存储循环神经网络中的4个输入通道的特征值;
1个权重存储器,用于存储循环神经网络压缩后的权重;
16个输出存储器,用于暂存计算中的中间结果以及对应16个输出通道的最终结果;
16个二级累加器,用于读取输出存储器中的中间结果与乘累加单元的计算结果求和,更新中间结果,直到得到16个输出通道的最终结果;
16个4输入选择器,用于选择压缩后权重对应的输入特征值;
所述16组乘累加单元,每组含一个主计算单元和一个次计算单元;次计算单元的乘法结果流入主计算单元的加法器,与主计算单元的乘法结果求和,从而完成不同输入通道的乘累加计算,得到一个输出通道的计算结果。
2.根据权利要求1所述的用于循环神经网络自然语言处理的稀疏矩阵乘法加速器,其特征在于,一组计算单元中的主计算单元中的加法器与二级累加器构成两级加法结构;一组计算单元中的主计算单元与次计算单元完成两个输入通道的乘累加操作;二级累加器对不同时刻产生的乘累加结果进行累加;该两级加法器结构可满足含不同输入通道数量的循环神经网络计算要求。
3.根据权利要求2所述的用于循环神经网络自然语言处理的稀疏矩阵乘法加速器,其特征在于,4输入选择器输入端与4个输入存储器连接;通过配置选择器的选择通道配合计算单元完成2个非稀疏输入通道的乘累加,或2组2个输入通道列组合压缩的乘累加,或1组3个输入通道列组合压缩的乘累加,或1组4个输入通道列组合压缩的乘累加;满足不同稀疏性的循环神经网络计算要求。
4.根据权利要求3所述的用于循环神经网络自然语言处理的稀疏矩阵乘法加速器,其特征在于,在计算1组3个压缩后输入通道的乘累加或1组4个压缩后输入通道的乘累加时,只有主计算单元在工作;此时次计算单元关闭,降低功耗。
5.根据权利要求2所述的用于循环神经网络自然语言处理的稀疏矩阵乘法加速器,其特征在于,在稀疏权重矩阵压缩算法中,权重矩阵含8个输入通道,4个输出通道;裁剪后的稀疏权重矩阵每4个输入通道分为一组,同一组内不输出通道只含一个非零权重;对余下的非零权重进行压缩得到压缩权重矩阵,其仍含4行对应4个输出通道,2列对应8个输入通道;
或者稀疏权重按照2个或3个输入通道进行分组压缩。
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
一种基于信用大数据的标签分类和定量分析方法 | 2020-05-11 | 914 |
问答阅读理解模型获取方法、装置、电子设备及存储介质 | 2020-05-11 | 12 |
文档的向量化表示方法、装置和计算机设备 | 2020-05-11 | 896 |
项目加速的自动评估 | 2020-05-08 | 622 |
基于画像的医学科普文章推荐方法及系统 | 2020-05-11 | 302 |
一种融合先验信息的命名实体链接方法 | 2020-05-13 | 333 |
基于机器学习的高校前沿科研团队探测系统 | 2020-05-12 | 395 |
视频内容热度预测方法和装置 | 2020-05-12 | 490 |
一种基于机器学习的从半结构化文档中提取问答对的方法 | 2020-05-12 | 608 |
智能客服应答方法、系统以及控制器和介质 | 2020-05-14 | 639 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。