用于执行人工神经网络正向运算的装置和方法
专利汇可以提供用于执行人工神经网络正向运算的装置和方法专利检索，专利查询，专利分析的服务。并且一种运算装置和方法，该装置包括：浮点数据统计模 块 ，用于对所需各类型数据进行统计分析，得到指数位偏移量offset及指数位的长度EL；浮点数据转换模块，用于根据指数位偏移量offset及指数位的长度EL来实现长位数浮点数据类型向短位数浮点数据类型的转换；浮点数据运算模块，用于对短位数浮点数据进行 人工神经网络 正向运算。本 发明 的运算装置通过对多层人工神经网络正向运算中的数据使用短位数浮点表示，并使用相对应的浮点运算模块，实现人工神经网络短位数浮点的正向运算，从而极大提高 硬件 的性能功耗比。，下面是用于执行人工神经网络正向运算的装置和方法专利的具体信息内容。
1.一种用于执行人工神经网络正向运算的装置，其特征在于，所述装置包括：
浮点数据转换单元，用于根据指数位偏移量offset及指数位的长度EL来实现长位数浮点数据类型向短位数浮点数据类型的转换；其中，所述神经网络中同一层、同一类被的数据均对应一组所述指数位偏移量offset及指数位的长度EL；
浮点数据运算模块，用于在所述浮点数据转换单元将所有所述人工神经网络正向运算中所需的输入、权值和/或偏置数据均采用短位数浮点数据类型表示之后，对所述短位数浮点数据进行人工神经网络正向运算。
2.如权利要求1所述的用于执行人工神经网络正向运算的装置，其特征在于，所述装置还包括：
浮点数据统计模块，用于对所述人工神经网络正向运算所需的各个类型的数据进行统计分析，得到所述指数位偏移量offset及指数位的长度EL。
3.如权利要求2所述的用于执行人工神经网络正向运算的装置，其特征在于，所述浮点数据统计模块包括：
数据提取单元，用于提取基于长位数浮点数据的正向运算中各不同类型的数据；
统计单元，用于统计同一类型数据的数据范围及各数据段的数据分布情况；
分析单元，用于根据所述统计单元统计的结果，得出用短位数浮点数据表示各个类型数据时设定的指数位长度EL及指数位偏移offset。
4.如权利要求1或2所述的用于执行人工神经网络正向运算的装置，其特征在于，所述用于执行人工神经网络正向运算的装置还包括：
舍入单元，用于在运算结束后，对超出短位数浮点精度范围的数据进行舍入操作。
5.如权利要求4所述的用于执行人工神经网络正向运算的装置，其特征在于，所述舍入单元为随机舍入单元、四舍五入单元、向上舍入单元、向下舍入单元和截断舍入单元中的任一种；
其中，所述随机舍入单元执行如下操作：
其中，y表示随机舍入后的短位数浮点数据，x表示随机舍入前的长位数浮点数据，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)， 表示对所述x直接截得短位数浮点数据所得的数，w.p.表示概率，即随机舍入获得的数据y为 的概率为为 的概率为
所述四舍五入单元执行如下操作：
其中，y表示四舍五入后的短位数浮点数据，x表示四舍五入前的长位数浮点数据，ε为offset-(X-1-EL)
当前短位数浮点数据类型所能表示的最小正整数，即2 ， 为ε的整数倍，其值为小于或等于x的最大数；
所述向上舍入单元执行如下操作：
其中，y表示向上舍入后的短位数浮点数据，x表示向上舍入前的长位数浮点数据，为ε的整数倍，其值为大于或等于x的最小数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)；
所述向下舍入单元执行如下操作：
其中，y表示向上舍入后的短位数浮点数据，x表示向上舍入前的长位数浮点数据，为ε的整数倍，其值为小于或等于x的最大数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)；
所述截断舍入单元执行如下操作：
y＝[x]；
其中，y表示截断舍入后的短位数浮点数据，x表示截断舍入前的长位数浮点数据，[x]表示对原数据x直接截得短位数浮点数据所得的数。
6.如权利要求4所述的用于执行人工神经网络正向运算的装置，其特征在于，所述浮点数据转换单元先通过所述舍入单元对待处理的数据进行舍入操作，再根据所述浮点数据统计模块得到的指数位偏移量offset及指数位的长度EL来实现长位数浮点数据类型向短位数浮点数据类型的转换。
7.如权利要求4或5所述的用于执行人工神经网络正向运算的装置，其特征在于，所述装置还包括：
运算缓存单元，用于采用长位数浮点数据类型存储正向运算中加法运算和乘法运算产生的中间运算结果。
8.根据权利要求7所述的用于执行人工神经网络的正向运算的装置，其特征在于，所述数据转换单元还用于：
在所述舍入单元对超出短位数浮点精度范围的数据进行舍入操作后，将所述运算缓存单元中的数据转换为短位数浮点数据类型表示的数据。
9.一种执行人工神经网络正向运算的方法，其特征在于，包括以下步骤：
通过已训练好的神经网络32位浮点模型获取所述人工神经网络各个层的长位数浮点数据，包括每一层的权值、偏置、输入神经元和输出神经元；
对获得的所述长位数浮点数据进行分析，获得存储所述长位数浮点数据采用短位数浮点数据类型表示时所需的指数位偏移量offset及指数位的长度EL；
根据所述指数位偏移量offset及指数位的长度EL，将所有所述长位数浮点数据采用短位数浮点数据类型表示；
对所述短位数浮点数据执行人工神经网络正向运算。
10.如权利要求9所述的方法，其特征在于，所述对获得的长位数浮点数据进行分析的步骤中，对所述人工神经网络不同层、不同类型的数据分别进行分析，获得相对于所述人工神经网络不同类型的数据的指数位偏移量offset及指数位的长度EL。
11.如权利要求9所述的方法，其特征在于，所述对短位数浮点数据执行人工神经网络正向运算的步骤中，对于正向运算中的加法运算和乘法运算产生的中间计算结果采用长位数浮点数据类型存储。
12.如权利要求9所述的方法，其特征在于，在执行完所述人工神经网络正向运算之后，将参与反向运算的权值和偏置数据采用在正向运算时保留的长位数浮点数据类型表示的副本，其余数据由短位数浮点数据类型转换成的长位数浮点数据类型后再进行反向运算。
13.如权利要求9-12任一项所述的方法，其特征在于，将所述长位数浮点数据转换为短位数浮点数据的过程中需要对所述长位数浮点数据进行舍入操作，
其中所述舍入单元为随机舍入单元、四舍五入单元、向上舍入单元、向下舍入单元和截断舍入单元中的任一种；
其中，所述随机舍入单元执行如下操作：
其中，y表示随机舍入后的短位数浮点数据，x表示随机舍入前的长位数浮点数据，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)， 表示对所述x直接截得短位数浮点数据所得的数，w.p.表示概率，即随机舍入获得的数据y为 的概率为为 的概率为
所述四舍五入单元执行如下操作：
其中，y表示四舍五入后的短位数浮点数据，x表示四舍五入前的长位数浮点数据，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)， 为ε的整数倍，其值为小于或等于x的最大数；
所述向上舍入单元执行如下操作：
其中，y表示向上舍入后的短位数浮点数据，x表示向上舍入前的长位数浮点数据，为ε的整数倍，其值为大于或等于x的最小数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)；
所述向下舍入单元执行如下操作：
其中，y表示向上舍入后的短位数浮点数据，x表示向上舍入前的长位数浮点数据，为ε的整数倍，其值为小于或等于x的最大数，ε为当前短位数浮点数据类型所能表示的最小正整数，即2offset-(X-1-EL)；
所述截断舍入单元执行如下操作：
y＝[x]；
其中，y表示截断舍入后的短位数浮点数据，x表示截断舍入前的长位数浮点数据，[x]表示对原数据x直接截得短位数浮点数据所得的数。
用于执行人工神经网络正向运算的装置和方法
技术领域
背景技术
发明内容
具体实施方式
| 标题 | 发布/更新时间 | 阅读量 |
|---|---|---|
| 一种基于深度学习的轨道扣件缺陷识别算法 | 2020-05-08 | 120 |
| 基于图像处理和人工智能的小样本缺陷检测方法 | 2020-05-13 | 918 |
| 基于多源数据融合的中压真空断路器机械故障诊断方法 | 2020-05-16 | 646 |
| 一种基于大规模Embedding技术的Wi-Fi聚类方法及系统 | 2020-05-11 | 448 |
| 一种人工神经网络运算的装置及方法 | 2020-05-12 | 10 |
| 超低功率神经元形态人工智能计算加速器 | 2020-05-13 | 103 |
| 基于单神经元网络的惯量估计方法及其自适应调整策略 | 2020-05-15 | 823 |
| 垃圾图像分类模型构建的方法、装置、设备及存储介质 | 2020-05-08 | 444 |
| 基于人工智能的对象推荐模型训练方法、推荐方法及装置 | 2020-05-11 | 933 |
| 基于神经网络的分解模糊系统优化方法及装置 | 2020-05-08 | 444 |
高效检索全球专利专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台，是提供专利分析，专利查询，专利检索等数据服务功能的知识产权数据服务商。
我们的产品包含105个国家的1.26亿组数据，免费查、免费专利分析。
专利汇分析报告产品可以对行业情报数据进行梳理分析，涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度，系统通过AI智能系统对图表进行解读，只需1分钟，一键生成行业专利分析报告。
