专利汇可以提供用于混合压缩循环神经网络的稀疏矩阵乘法加速器专利检索,专利查询,专利分析的服务。并且本 发明 属于集成 电路 技术领域,具体为一种用于混合压缩循环神经网络的稀疏矩阵乘法 加速 器。本加速器包括:2组乘累加单元,用于计算网络中2个不同输出通道的特征值;4个输入 存储器 ,2个列组合权重存储器,1个变长编码权重存储器和1个变长编码索引存储器,存储非规则变长编码压缩的权重与索引;2个二级累加器,用于读取输出存储器中的中间结果与乘累加单元的计算结果累加,更新输出结果;1个 解码器 ,用于将变长压缩的权重解码传输到对应的乘累加单元中。本发明利用网络中权重的稀疏性,对稀疏权重矩阵进行压缩,在保证原循环网络 精度 同时减少了权重存储空间,加快了计算速度,降低了计算功耗。,下面是用于混合压缩循环神经网络的稀疏矩阵乘法加速器专利的具体信息内容。
1.一种用于混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,包括:
2组乘累加单元,用于计算循环神经网络中2个不同的输出通道的特征值;
4个输入存储器,用于存储循环神经网络中的4组输入通道的特征值;
2个列组合权重存储器,用于存储2个不同输出通道对应的列组合规则压缩后的权重矩阵;
1个变长编码权重存储器和1个变长编码索引存储器,用于存储非规则变长编码压缩的权重与索引;
2个输出存储器,用于暂存计算中的中间结果以及最终2个输出通道的最终结果;
2个二级累加器,用于读取输出存储器中的中间结果与乘累加单元的计算结果累加,更新输出结果;
1个解码器,将变长压缩的权重解码传输到对应的乘累加单元中;
所述乘累加单元,包含一个主计算单元和一个辅助计算单元;主计算单元负责计算列组合规则压缩权重对应的乘法运算,辅助计算单元负责计算变长编码非规则压缩权重对应的乘法运算,其乘法结果在主计算单元中累加,完成多个输入通道的乘累加运算。
2.根据权利要求1所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,主计算单元中的加法器与二级累加器构成本加速器的两级加法结构,不同输入通道乘累加结果在不同的周期与之前的中间结果累加,从而满足含不同数量的输入通道的循环神经网络计算要求。
3.根据权利要求2所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,权重存储器分为列组合权重存储器和变长编码权重存储器;前者用于存储列组合规则压缩后的权重;对于不满足列组合规则压缩的权重,通过变长编码进行压缩存储在后者;保证循环神经网络规则压缩后的剩余权重不被舍去,避免网络性能下降。
4.根据权利要求3所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,乘累加单元与输入存储器之间通过4选1选择器互联,构成可重构的互联网络;通过控制选择器的选择信号向乘累加单元传输压缩权重对应的输入特征值。
5.根据权利要求4所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,变长编码压缩权重经过解码器解压缩后,若解码结果为零权重,辅助计算单元关闭,降低计算功耗。
6.根据权利要求3所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,在列组合权重压缩算法中,权重矩阵含8个输入通道,4个输出通道;稀疏权重矩阵每4个输入通道分为一组,一个输出通道内每组4个输入通道裁剪后只含一个非零权重;或者稀疏权重按照2个或3个输入通道进行分组压缩。
7.根据权利要求6所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,对于列组合规则压缩剩余的权重,采用变长编码进行压缩;变长编码压缩得到一个数据向量和一个索引向量;数据向量为所有非零权重,索引向量首元素表示数据向量中非零权重的个数,其余元素表示数据向量中非零权重前零权重的个数。
8.根据权利要求7所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,对于稀疏性较低的权重矩阵,乘累加单元中的主、辅助计算单元分别计算2个不同的输入通道的乘累加运算;辅助计算单元的乘法结果流入主计算单元的加法器中完成求和运算。
9.根据权利要求8所述的混合压缩循环神经网络的稀疏矩阵乘法加速器,其特征在于,当计算压缩后的权重矩阵时,乘累加单元中的主计算单元接受来自列组合权重存储器中的压缩权重与对应输入特征值完成乘法运算;变长编码压缩的权重与索引经过解码器传入辅助计算单元,与对应输入特征值完成乘法运算;二者在主计算单元加法器中进行求和。
标题 | 发布/更新时间 | 阅读量 |
---|---|---|
基于核范数的鲁棒音阶轮廓特征提取算法 | 2020-05-11 | 317 |
一种基于压缩感知的多通道采样的宽带功放预失真方法 | 2020-05-11 | 754 |
一种机载发动机健康管理系统及方法 | 2020-05-08 | 331 |
基于实时决策-实时控制模式的安全稳定控制系统及方法 | 2020-05-11 | 91 |
一种基于物联网的钢板在线固溶的轧后快速冷却方法 | 2020-05-08 | 799 |
基于消息传递算法的SCMA译码方法 | 2020-05-11 | 567 |
基于脑网络和正则化判别分析的脑电分析方法 | 2020-05-11 | 292 |
基于最小冗余的MIMO三维成像雷达稀疏阵列设计方法 | 2020-05-12 | 643 |
数据采集方法、系统、设备及存储介质 | 2020-05-12 | 468 |
在大规模MIMO中基于光滑范数的压缩感知信道估计方法 | 2020-05-08 | 51 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。