首页 / 专利库 / 人工智能 / 人工智能 / 机器学习 / 人工神经网络 / 人工神经元 / 输入权重拓展的神经元信息处理方法和系统

输入权重拓展的神经元信息处理方法和系统

阅读:1022发布:2020-11-03

专利汇可以提供输入权重拓展的神经元信息处理方法和系统专利检索,专利查询,专利分析的服务。并且本 发明 涉及一种输入权重拓展的神经元信息处理方法和系统,所述方法包括:将预设数量的连续的神经元确定为协同组,将最后一个神经元确定为有效神经元,将剩余神经元确定为协同神经元;所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次获取所述各协同神经元的横向累加中间信息,并将最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息并输出所述协同输出信息。本发明拓展了输入权重类型,提高了神经网络的信息处理能 力 。,下面是输入权重拓展的神经元信息处理方法和系统专利的具体信息内容。

1.一种输入权重拓展的神经元信息处理方法,其特征在于,所述方法包括:
将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;
所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;
所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;
所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;
所述有效神经元输出所述协同输出信息。
2.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于,所述将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:
设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。
3.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于:
所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;
所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息,包括:
协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;
所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,包括:
所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。
4.根据权利要求1所述的输入权重拓展的神经元信息处理方法,其特征在于,所述将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:
将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或
将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
5.根据权利要求4所述的输入权重拓展的神经元信息处理方法,其特征在于:
当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;
在所述有效神经元输出所述协同输出信息的步骤之后,所述方法还包括:
更新所述脉冲有效神经元的所述历史膜电位信息。
6.一种输入权重拓展的神经元信息处理系统,其特征在于,包括:
协同组确定模,用于将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;
横向累加信息获取模块,用于所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;
协同输出信息获取模块,用于所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;
协同输出信息输出模块,用于所述有效神经元输出所述协同输出信息。
7.根据权利要求6所述的输入权重拓展的神经元信息处理系统,其特征在于:
所述协同组确定模块,用于设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。
8.根据权利要求6所述的输入权重拓展的神经元信息处理系统,其特征在于:
所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;
所述横向累加信息获取模块,用于协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。
9.根据权利要求6所述的输入权重拓展的神经元信息处理系统,其特征在于,所述协同组确定模块,包括:
人工神经元确定单元,用于将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或
脉冲神经元确定单元,用于将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
10.根据权利要求9所述的输入权重拓展的神经元信息处理系统,其特征在于:
当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;
所述系统还包括:
历史膜电位更新模块,用于更新所述脉冲有效神经元的所述历史膜电位信息。

说明书全文

输入权重拓展的神经元信息处理方法和系统

技术领域

[0001] 本发明涉及人工神经网络技术领域,特别是涉及输入权重拓展的神经元信息处理方法和系统。

背景技术

[0002] 如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。
[0003] 然而,传统的神经形态系统中,单个神经元权重存储器的物理空间的数量有限,在单个神经元的输入信号的数量大于所述物理空间的数量时,导致有的输入信号对应的权重信息只能利用现有的权重,对于某些对于参数较为敏感的神经网络来说,极大的影响了神经元的应用性能。

发明内容

[0004] 本发明的实施例提供一种输入权重拓展的神经元信息处理方法和系统,可以扩展神经元的应用性能。
[0005] 所述方法包括:
[0006] 将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;
[0007] 所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;
[0008] 所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;
[0009] 所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;
[0010] 所述有效神经元输出所述协同输出信息。
[0011] 在其中一个实施例中,所述将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:
[0012] 设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。
[0013] 在其中一个实施例中,所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;
[0014] 所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息,包括:
[0015] 协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
[0016] 根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;
[0017] 所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,包括:
[0018] 所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;
[0019] 根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。
[0020] 在其中一个实施例中,所述将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元,包括:
[0021] 将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或
[0022] 将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
[0023] 在其中一个实施例中,当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;
[0024] 在所述有效神经元输出所述协同输出信息的步骤之后,所述方法还包括:
[0025] 更新所述脉冲有效神经元的所述历史膜电位信息。
[0026] 在其中一个实施例中,通过将预设数量的连续的神经元确定为协同组,只将所述协同组中的最后一个神经元的信息进行输出,剩余神经元只将信息进行累加后迭加至后端的神经元,将协同组内的所有神经元等效于一个有效的节点,多个输入对应一个有效输出,可以充分利用所述多个输入的权重信息,打破了现有的神经元输入权重类型有限的缺点,提高了神经网络的信息处理能
[0027] 在其中一个实施例中,通过设置发放使能标识,将神经元设置为允许发放数据或不允许发放数据,将预设数量的连续的神经元组成一个协同组,可根据需求灵活的组成协同组。
[0028] 在其中一个实施例中,通过接收的前端神经元信息中的前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重后,用于计算横向累加中间信息,将一个协同组中的各协同神经元的权重信息进行了充分利用,并在有效神经元输出的协同输出信息中,将各协同神经元的权重信息进行了体现,相当于将有效神经元的权重信息进行了扩展,从而提高了神经网络的信息处理能力。
[0029] 在其中一个实施例中,将预设数量的连续的人工神经元确定为人工协同组,或将预设数量的连续的脉冲神经元确定为脉冲协同组,在人工神经网络或脉冲神经网络中,都可以确定协同组,进行单个神经元输入权重的扩展,提高人工神经网络或脉冲神经网络的信息处理能力。
[0030] 在其中一个实施例中,在脉冲协同组中,脉冲有效神经元输出协同输出信息后,将所述脉冲有效神经元的历史膜电位信息进行更新,以便整个协同组完成后续的信息处理,而脉冲协同神经元不更新历史膜电位信息,在后续的信息处理中,完成权重拓展的功能,通过脉冲协同组,提高整个脉冲神经网络的信息处理能力。
[0031] 本发明还提供一种输入权重拓展的神经元信息处理系统,包括:
[0032] 协同组确定模,用于将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;
[0033] 横向累加信息获取模块,用于所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;
[0034] 协同输出信息获取模块,用于所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息;
[0035] 协同输出信息输出模块,用于所述有效神经元输出所述协同输出信息。
[0036] 在其中一个实施例中,所述协同组确定模块,用于设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。
[0037] 在其中一个实施例中,所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;
[0038] 所述横向累加信息获取模块,用于协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。
[0039] 在其中一个实施例中,所述协同组确定模块,包括:
[0040] 人工神经元确定单元,用于将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或
[0041] 脉冲神经元确定单元,用于将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
[0042] 在其中一个实施例中,当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;所述系统还包括:历史膜电位更新模块,用于更新所述脉冲有效神经元的所述历史膜电位信息。
[0043] 在其中一个实施例中,通过将预设数量的连续的神经元确定为协同组,只将所述协同组中的最后一个神经元的信息进行输出,剩余神经元只将信息进行累加后迭加至后端的神经元,将协同组内的所有神经元等效于一个有效的节点,多个输入对应一个有效输出,可以充分利用所述多个输入的权重信息,打破了现有的神经元输入权重类型有限的缺点,提高了神经网络的信息处理能力。
[0044] 在其中一个实施例中,通过设置发放使能标识,将神经元设置为允许发放数据或不允许发放数据,将预设数量的连续的神经元组成一个协同组,可根据需求灵活的组成协同组。
[0045] 在其中一个实施例中,通过接收的前端神经元信息中的前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重后,用于计算横向累加中间信息,将一个协同组中的各协同神经元的权重信息进行了充分利用,并在有效神经元输出的协同输出信息中,将各协同神经元的权重信息进行了体现,相当于将有效神经元的权重信息进行了扩展,从而提高了神经网络的信息处理能力。
[0046] 在其中一个实施例中,将预设数量的连续的人工神经元确定为人工协同组,或将预设数量的连续的脉冲神经元确定为脉冲协同组,在人工神经网络或脉冲神经网络中,都可以确定协同组,进行单个神经元输入权重的扩展,提高人工神经网络或脉冲神经网络的信息处理能力。
[0047] 在其中一个实施例中,在脉冲协同组中,脉冲有效神经元输出协同输出信息后,将所述脉冲有效神经元的历史膜电位信息进行更新,以便整个协同组完成后续的信息处理,而脉冲协同神经元不更新历史膜电位信息,在后续的信息处理中,完成权重拓展的功能,通过脉冲协同组,提高整个脉冲神经网络的信息处理能力。附图说明
[0048] 图1为一个实施例的输入权重拓展的神经元信息处理方法的流程示意图;
[0049] 图2为另一个实施例的输入权重拓展的神经元信息处理方法的流程示意图;
[0050] 图3为一个实施例的输入权重拓展的神经元信息处理系统的结构示意图;
[0051] 图4为另一个实施例的输入权重拓展的神经元信息处理系统的结构示意图。

具体实施方式

[0052] 为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
[0053] 图1为一个实施例的输入权重拓展的神经元信息处理方法的流程示意图,如图1所示的输入权重拓展的神经元信息处理方法包括:
[0054] 步骤S100,将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元。
[0055] 具体的,所述预设数量,可以根据权重股拓展的需求灵活的设定。在设定好一个协同组后,整个协同组等效为一个有效的节点,协同组内连续的神经元中,只有最后一个神经元可以输出信息,所以将最后一个神经元确定为有效神经元,剩余的神经元用于协同工作,进行权重信息的拓展,而不进行数据的输出,所以确定为协同神经元,协同最后一个有效神经元进行信息的处理。
[0056] 步骤S200,所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息。
[0057] 具体的,所述协同组中的第一个协同神经元,根据接收到的前端神经元信息获取到用于后续神经元累加的横向累加中间信息,不再读取自身的神经元信息,以及不再进行输出信息的计算。
[0058] 步骤S300,所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息。
[0059] 具体的,后续的协同神经元,在对接收到的前端神经元信息进行处理后,和前端协同神经元的横向累加中间信息一起,获取当前协同神经元的横向累加中间信息,即,协同组内的协同神经元,只对其接收到的前端神经元信息进行处理,并与协同组内的其它协同神经元的横向累加中间信息进行进一步的累加,直至最后一个协同神经元,最后一个协同神经元获取的横向累加中间信息确定为横向累加信息,用于后续的有效神经元的计算。
[0060] 步骤S400,所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息。
[0061] 具体的,所述有效神经元,对接收到的前端神经元信息、读取当前神经元信息,和前端的所有的协同神经元计算得出的横向累加信息,进行计算后,获取最终用于输出的协同输出信息。
[0062] 步骤S500,所述有效神经元输出所述协同输出信息。
[0063] 在本实施例中,通过将预设数量的连续的神经元确定为协同组,只将所述协同组中的最后一个神经元的信息进行输出,剩余神经元只将信息进行累加后迭加至后端的神经元,将协同组内的所有神经元等效于一个有效的节点,多个输入组对应一个有效输出,可以充分利用所述多个输入组的权重信息,打破了现有单个神经元输入权重类型有限的缺点,提高了神经网络的信息处理能力。
[0064] 在其中一个实施例中,设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。
[0065] 具体的,所述设置发放使能标识,用于将确定好的预设数量的连续的神经元设定为一个协同组,设定只有最后一个神经元可以输出信息。
[0066] 在其中一个实施例中,通过设置发放使能标识,将神经元设置为允许发放数据或不允许发放数据,将预设数量的连续的神经元组成一个协同组,可根据需求灵活的组成协同组。
[0067] 在其中一个实施例中,将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
[0068] 在本实施例中,将预设数量的连续的人工神经元确定为人工协同组,或将预设数量的连续的脉冲神经元确定为脉冲协同组,在人工神经网络或脉冲神经网络中,都可以确定协同组,进行单个神经元输入权重的扩展,提高人工神经网络或脉冲神经网络的信息处理能力。
[0069] 当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息;在所述有效神经元输出所述协同输出信息的步骤之后,所述方法还包括:更新所述脉冲有效神经元的所述历史膜电位信息。
[0070] 在本实施例中,在脉冲协同组中,脉冲有效神经元输出协同输出信息后,将所述脉冲有效神经元的历史膜电位信息进行更新,以便整个协同组完成后续的信息处理,而脉冲协同神经元不更新历史膜电位信息,在后续的信息处理中,完成权重拓展的功能,通过脉冲协同组,提高整个脉冲神经网络的信息处理能力。
[0071] 图2为另一个实施例的输入权重拓展的神经元信息处理方法的流程示意图,如图2所示的输入权重拓展的神经元信息处理方法包括:
[0072] 所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引。
[0073] 对于人工协同组,所述前端神经元信息包括:为前端人工神经元输出的膜电位信息,前端人工神经元与当前人工神经元的连接权重索引。
[0074] 对于脉冲协同组,所述前端神经元信息包括:为前端脉冲神经元输出的脉冲尖端信息,前端脉冲神经元与当前脉冲神经元的连接权重索引。
[0075] 步骤S100a,将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元。
[0076] 具体的,同步骤S100。
[0077] 步骤S200a,协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息。
[0078] 具体的,所述前端人工神经元与当前人工神经元的连接权重索引,是一个地址信息,当前神经元根据接收到的所述前端人工神经元与当前人工神经元的连接权重索引,在当前神经元内的存储器中,读取到前端人工神经元与当前人工神经元的连接权重,根据所述的连接权重信息,可以将前端神经元的输出信息,在参与当前神经元输出信息的计算过程中,更准确的反应出前端神经元的输出信息的权重。
[0079] 当协同组为人工协同组时,所述前端神经元信息包括前端人工神经元输出的膜电位信息,根据所述前端人工神经元输出的膜电位信息,和读取到的前端神经元与当前神经元的连接权重,进行相乘后,获取第一个人工协同神经元的横向累加中间信息,并放入累加器中。
[0080] 当协同组为脉冲协同组时,所述前端神经元信息包括前端脉冲神经元输出的脉冲尖端信息,根据所述前端脉冲神经元输出的脉冲尖端信息,和读取到的前端神经元与当前神经元的连接权重,进行相乘后,获取第一个脉冲协同神经元的横向累加中间信息,并放入累加器中。
[0081] 步骤S300a,所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息。
[0082] 具体的,协同组中的后续的协同神经元,分别将接收到的前端神经元输出信息和读取到的前端神经元与当前神经元的连接权重,按照预设的神经元模式进行计算,如进行相乘后,再与与之相连的前端的协同神经元的横向累加中间信息进行累加,获取当前协同神经元的横向累加中间信息。直至最后一个协同神经元获取到横向累加中间信息后,确认为横向累加信息。
[0083] 步骤S400a,所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息。
[0084] 具体的,当协同组为人工协同组时,所述当前神经元信息包括当前人工神经元偏置信息。所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息,包括:根据所述前端人工神经元输出的膜电位信息、所述前端神经元与当前神经元的连接权重、所述当前人工神经元偏置信息,通过预设的人工神经元激活函数,计算所述人工有效神经元的协同输出信息。
[0085] 当协同组为脉冲神经元时,所述当前神经元信息包括历史膜电位信息和膜电位泄漏信息。所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息,包括:根据所述前端脉冲神经元输出的脉冲尖端信息、所述前端神经元与当前神经元的连接权重、所述历史膜电位信息、所述膜电位泄露信息,通过脉冲神经元计算模型,计算所述脉冲有效神经元的协同输出信息。
[0086] 步骤S500a,所述有效神经元输出所述协同输出信息。
[0087] 在本实施例中,通过接收的前端神经元信息中的前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重后,用于计算横向累加中间信息,将一个协同组中的各协同神经元的权重信息进行了充分利用,并在有效神经元输出的协同输出信息中,将各协同神经元的权重信息进行了体现,相当于将有效神经元的权重信息进行了扩展,从而提高了神经网络的信息处理能力。
[0088] 图3为一个实施例的输入权重拓展的神经元信息处理系统的结构示意图,如图3所示的输入权重拓展的神经元信息处理系统,包括:
[0089] 协同组确定模块100,用于将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元;用于设置所述协同组内神经元的发放使能标识,所述发放使能标识包括允许发放数据或不允许发放数据,将所述有效神经元的发放使能标识设置为允许发放数据,并将所有所述协同神经元的发放使能标识设置为不允许发放数据。包括:人工神经元确定单元,用于将预设数量的连续的人工神经元确定为人工协同组,将所述人工协同组中最后一个人工神经元确定为人工有效神经元,将所述人工协同组中除所述人工有效神经元外的人工神经元确定为人工协同神经元;或脉冲神经元确定单元,用于将预设数量的连续的脉冲神经元确定为脉冲协同组,将所述脉冲协同组中最后一个脉冲神经元确定为脉冲有效神经元,将所述脉冲协同组中除所述脉冲有效神经元外的脉冲神经元确定为脉冲协同神经元。
[0090] 横向累加信息获取模块200,用于所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息;所述前端神经元信息包括:前端神经元输出信息、前端神经元与当前神经元的连接权重索引;所述横向累加信息获取模块200,用于协同组中的第一个协同神经元,根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中的后续协同神经元,依次根据所述前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重;根据所述前端神经元与当前神经元的连接权重、所述前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息。当所述协同组为脉冲协同组时,所述当前神经元信息包括历史膜电位信息。
[0091] 具体的,所述横向累加信息获取模块200,在利用具体的元器件进行硬件电路的实现时,所述协同组内的各协同神经元生成的横向累加中间信息,通过共享寄存器传递给下一个协同神经元或有效神经元用于膜电位累加,这种反馈加法的方式可用累加器实现。更具体的,协同神经元获取前端协同神经元的横向累加中间信息,是通过读取共享寄存器实现的。有效神经元输出信息之后,需要将共享寄存器清0,以等待下一次或下一个协同组正常工作。在进行神经网络电路设计时,为简化电路结构,可对协同组内的各协同神经元与最后的有效神经元的输入电路电路结构相同,即,与有效神经元相同,各协同神经元,也具有读取当前神经元信息的输入电路,在利用软件的设计方式,设置各协同神经元的当前神经元输入信息输入为0即可。
[0092] 协同输出信息获取模块300,用于所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息。
[0093] 协同输出信息输出模块400,用于所述有效神经元输出所述协同输出信息。
[0094] 在本实施例中,通过将预设数量的连续的神经元确定为协同组,只将所述协同组中的最后一个神经元的信息进行输出,剩余神经元只将信息进行累加后迭加至后端的神经元,将协同组内的所有神经元等效于一个有效的节点,多个输入对应一个有效输出,可以充分利用所述多个输入的权重信息,打破了现有的神经元输入权重类型有限的缺点,提高了神经网络的信息处理能力。通过设置发放使能标识,将神经元设置为允许发放数据或不允许发放数据,将预设数量的连续的神经元组成一个协同组,可根据需求灵活的组成协同组。通过接收的前端神经元信息中的前端神经元与当前神经元的连接权重索引,读取前端神经元与当前神经元的连接权重后,用于计算横向累加中间信息,将一个协同组中的各协同神经元的权重信息进行了充分利用,并在有效神经元输出的协同输出信息中,将各协同神经元的权重信息进行了体现,相当于将有效神经元的权重信息进行了扩展,从而提高了神经网络的信息处理能力。将预设数量的连续的人工神经元确定为人工协同组,或将预设数量的连续的脉冲神经元确定为脉冲协同组,在人工神经网络或脉冲神经网络中,都可以确定协同组,进行单个神经元输入权重的扩展,提高人工神经网络或脉冲神经网络的信息处理能力。
[0095] 图4为另一个实施例的输入权重拓展的神经元信息处理系统的结构示意图,如图4所示的输入权重拓展的神经元信息处理系统,包括:
[0096] 协同组确定模块100,用于将预设数量的连续的神经元确定为协同组,将所述协同组中最后一个神经元确定为有效神经元,将所述协同组中除所述有效神经元外的神经元确定为协同神经元。
[0097] 横向累加信息获取模块200,用于所述协同组中的第一个协同神经元,根据接收的前端神经元信息,获取第一个协同神经元的横向累加中间信息;所述协同组中后续的各协同神经元,依次根据接收的前端神经元信息,和前端协同神经元的横向累加中间信息,获取所述各协同神经元的横向累加中间信息,并将所述协同组中最后一个协同神经元的横向累加中间信息确定为横向累加信息。
[0098] 协同输出信息获取模块300,用于所述有效神经元根据接收的前端神经元信息、读取的所述有效神经元的当前神经元信息和所述横向累加信息,获取协同输出信息。
[0099] 协同输出信息输出模块400,用于所述有效神经元输出所述协同输出信息。
[0100] 历史膜电位更新模块500,用于更新所述脉冲有效神经元的所述历史膜电位信息。
[0101] 在本实施例中,在脉冲协同组中,脉冲有效神经元输出协同输出信息后,将所述脉冲有效神经元的历史膜电位信息进行更新,以便整个协同组完成后续的信息处理,而脉冲协同神经元不更新历史膜电位信息,在后续的信息处理中,完成权重拓展的功能,通过脉冲协同组,提高整个脉冲神经网络的信息处理能力。
[0102] 以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
[0103] 以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈