技术领域
[0001] 本
发明属于计算神经科学及图像分类技术领域，具体涉及了一种基于膜电位调控脉冲神经网络的图像分类方法、系统。
背景技术
[0002] 虽然
深度学习(DNN，Deep Neural Network)在单一任务上的优异表现显示出了相对其他模型(甚至人类对手)的巨大优势，但是DNN只是借鉴了大脑视觉系统的小部分工作机理，在更广泛的实际应用中已经暴露出了不少
缺陷。网络虽然对特定样本的识别正确率很高，但是显然模型并没有真正对图片形成认知和理解，因此容易发生啼笑皆非的测试结果(如将黄黑色条纹的图片以极高的
置信度识别为校车)。
[0003]
人工神经网络可以借鉴的
生物发现包括：神经元中突触的
位置差异性、神经元突触的信息延迟、不同神经元非线性信息处理模式的差异、快速的神经突触可塑性调节方法、微观环路的非监督式的网络学习方法、宏观生物网络的多脑区的协同能
力。由此可以看出，人工神经网络模型仍然还有很多生物机制可以借鉴，而这些可以借鉴的原则机理很可能对实现通用
人工智能网络提供帮助。脉冲神经网络(Spiking Neural Network,SNN)被认为是第三代神经网络模型，其运算方式和模型
基础与人脑更为相近。目前，脉冲神经网络已在图片分类、工作记忆保持、音频信息处理等多项任务中得到了初步应用。
[0004] 总的来说，现有的图像分类方法使用的人工神经网络小样本学习效果差、容易发生过拟合、迁移能力有限、容易出现灾难性遗忘，图像分类中可能会出现明显的错误结果。
发明内容
[0005] 为了解决
现有技术中的上述问题，即现有图像分类采用的人工神经网络小样本学习效果差、容易发生过拟合、迁移能力有限、容易出现灾难性遗忘的问题，本发明提供了一种基于膜电位调控脉冲神经网络的图像分类方法，该图像分类方法包括：
[0006] 步骤S10，获取分类任务图像作为待处理图像；
[0007] 步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
[0008] 步骤S30，输出待处理图像的类别；
[0009] 其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
[0010] 步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触；
[0011] 步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入
电流达到平衡，进行膜电位信息更新；
[0012] 步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
[0013] 步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
[0014] 在一些优选的
实施例中，所述积分-放电单元为HH神经元、LIF神经元、Izhikevich神经元中的一种。
[0015] 在一些优选的实施例中，步骤B20中“基于膜电位改变和输入电流达到平衡，进行膜电位信息更新”，其方法为：
[0016]
[0017] 其中，Ei代表前后时刻神经元膜电位的更新
能量值，Vi代表当前时刻的神经元膜电位，wi,j代表突触前神经元j和突触后神经元i的突触权值，Vth,i代表突触后神经元i的放电
阈值，j为突触前神经元的标号，N代表突触前神经元的数目。
[0018] 在一些优选的实施例中，步骤B30中“以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整”，其方法为：
[0019]
[0020]
[0021] 其中，C代表输出膜电势和标准膜电势的差，Vi代表输出膜电势的数值，VT代表期望的标准膜电势的数值，i为神经元的位置索引，N代表神经元的数目。
[0022] 在一些优选的实施例中，步骤B40中“基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值”，其方法为：
[0023]
[0024] 其中，Δwj代表突触更新的数值，A+代表STDP的正向比例因子，A-代表STDP的负向比例因子，Δti代表神经元前后放电的时间差，τ+代表STDP的正向漏电时间常数，τ-代表STDP的负向漏电时间常数。
[0025] 本发明的另一方面，提出了一种基于膜电位调控脉冲神经网络的图像分类系统，该图像分类系统包括输入模
块、图像分类模块、输出模块；
[0026] 所述输入模块，配置为获取分类任务图像作为待处理图像并输入；
[0027] 所述图像分类模块，配置为基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
[0028] 所述输出模块，配置为输出待处理图像的类别。
[0029] 在一些优选的实施例中，所述图像分类模块包括网络构建模块、膜电位更新模块、网络层权重调整模块、网络突触权重调整模块；
[0030] 所述网络构建模块，配置为构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；
[0031] 所述膜电位更新模块，配置为基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
[0032] 所述网络层权重调整模块，配置为以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
[0033] 所述网络突触权重调整模块，配置为基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
[0034] 本发明的第三方面，提出了一种存储装置，其中存储有多条程序，所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
[0035] 本发明的第四方面，提出了一种处理装置，包括处理器、存储装置；所述处理器，适于执行各条程序；所述存储装置，适于存储多条程序；所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
[0036] 本发明的有益效果：
[0037] (1)本发明基于膜电位调控脉冲神经网络的图像分类方法，通过基于三层
前馈神经网络构建的图像分类神经网络，借鉴生物神经中非线性的神经元信息转换、权值可变的突触更新、特定层级或循环的网络结构、信息的稀疏表达等，解决了人工神经网络中小样本学习效果差、待调优参数过多容易发生欠拟合、网络
迭代训练次数过多又容易发生过拟合、网络迁移能力有限、灾难性遗忘特性等缺陷，网络训练所需样本少、收敛快、正确率高。
[0038] (2)本发明基于膜电位调控脉冲神经网络的图像分类方法，将受生物现象启发的学习规则加入到其网络学习
框架中来，具有更加复杂的神经元和突触结构，考虑到现有人工网络所忽略的很多的生物规则可能恰恰是实现通用类人脑智能的关键，这些生物规则加入到更加类脑的SNN中使得网络获得更为强大的计算能力和适应能力。
附图说明
[0039] 通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本
申请的其它特征、目的和优点将会变得更明显：
[0040] 图1是本发明基于膜电位调控脉冲神经网络的图像分类方法的流程示意图；
[0041] 图2是本发明基于膜电位调控脉冲神经网络的图像分类方法的网络、
节点设计的结构示意图；
[0042] 图3是本发明基于膜电位调控脉冲神经网络的图像分类方法一种实施例的不同的前馈、稳态、STDP组合方法正确率对比图。
具体实施方式
[0043] 下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
[0044] 需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
[0045] 本发明的一种基于膜电位调控脉冲神经网络的图像分类方法，该图像分类方法包括：
[0046] 步骤S10，获取分类任务图像作为待处理图像；
[0047] 步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
[0048] 步骤S30，输出待处理图像的类别；
[0049] 其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
[0050] 步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触；
[0051] 步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
[0052] 步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
[0053] 步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
[0054] 为了更清晰地对本发明基于膜电位调控脉冲神经网络的图像分类方法进行说明，下面结合图1对本发明方法实施例中各步骤展开详述。
[0055] 本发明一种实施例的基于膜电位调控脉冲神经网络的图像分类方法，包括步骤S10-步骤S30，各步骤详细描述如下：
[0056] 步骤S10，获取分类任务图像作为待处理图像。
[0057] 本发明一个实施例中，分类任务为将MNIST数据集合按照其特征进行分类。
[0058] MNIST数据集是一个数字手写体数据集，数据集合中的图像都是28*28大小的灰度图像，每个
像素是一个八位字节(0～255)，主要包含了60000张的训练图像和10000张的测试图像。
[0059] 步骤S20，基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别。
[0060] 本发明一个实施例中，通过训练好的图像分类神经网络获取MNIST数据集中10000张测试图像中每一个图像的类别，即手写体图像对应的数字。
[0061] 步骤S30，输出待处理图像的类别。
[0062] 其中，所述图像分类神经网络基于三层前馈脉冲神经网络构建，其构建和训练方法为：
[0063] 步骤B10，构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；所述图像分类神经网络包括三层前馈脉冲神经网络；所述前馈脉冲神经网络包括多个兴奋性积分-放电单元、抑制性积分-放电单元、突触。
[0064] 积分-放电单元为HH神经元、LIF神经元、Izhikevich神经元中的一种。
[0065] 积分-放电单元较为详细的描述了
生物膜电位的信息处理过程，且突触模型也详细的刻画了突触在信息处理中的复杂作用。在这样的网络下，神经元模型不再是传统的阈值函数或者logistic函数，而是为描述真实生物神经元信息处理的计算模型，如HH神经元模型、LIF(LIF，Leaky-Integrated and Fire)神经元模型、Izhikevich神经元模型等。其中，HH神经元模型更接近生物神经元放电模式，但由于不同离子通道细节的引入，使得计算量相对较大，而LIF神经元模型是HH神经元模型的适当简化并且计算量小，但是保持了重要的生物神经信息处理的脉冲特性。本发明一个实施例中，采用LIF神经元模型，并在此基础上加入抑制性输入的作用，以求更加真实地模拟神经元在接受多种输入下的膜电位变化情况。LIF神经元模型如式(1)所示：
[0066]
[0067] 其中，Cm代表细胞膜电容，gL代表细胞膜对于漏电电流的电导值，V代表神经元膜电位，VL代表神经元中对于
漏电流的稳态电势，Isyn代表神经输入电流。
[0068] 兴奋性电导和抑制性电导，这两类电导其实计算方式是一样的，他们主要依靠膜
电压与电势常数之间的差异来实现兴奋性和抑制性作用。漏电电导是神经元细胞内部的一种作用，其目的是在没有外部输入的情况下，逐渐地使神经元恢复静息状态。因此，漏电电导在模型中一般起抑制性作用。兴奋性电导、抑制性电导，其计算公式如式(2)、式(3)所示：
[0069]
[0070]
[0071] 其中，τm为膜电位恢复稳态的时间参量，gE、gI分别代表兴奋性电导常数、抑制性电导常数，V代表神经元当前膜电位，VE、VI分别代表兴奋性和抑制性的神经元的稳态膜电势(反转电势)，τE代表神经元的漏电持续时间，NE代表突触前神经元的数目，wj,i代表网络中突触的权重，δt代表输入的神经元的放电时刻信息。
[0072] 如图2所示，为本发明基于膜电位调控脉冲神经网络的图像分类方法的网络、节点设计的结构示意图，Vi、Vj分别代表神经元i、神经元j的膜电位，Wi,j代表神经元i和神经元j的前后突触权重，Teacher Signal代表教师
信号，STDP代表基于时序脉冲依赖的可塑性学习法则，Range＝1ms为时间轴单位。图2右下方虚线圈为本发明方法节点设计结构示意图，-50mv代表膜电位放电阈值，-70mv代表膜电位稳态阈值。
[0073] 步骤B20，基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新，每一层的神经元当达到膜电位放电阈值后继续将信息以脉冲的方式传递到下一层；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新。
[0074] 通过融合的稳态优化机制指导图像分类神经网络中膜电位状态的优化方向，其最终目的都是为网络实现稳定的功能表达，在微观尺度即神经元的膜电位改变和输入电流达到平衡，在宏观尺度即网络功能输出和信息输入达到平衡。
[0075] 以基于二相STDP的模型优化为例，对网络中的每一个神经元i，构建能量描述子Ei表述每个神经节点的膜电位变化，当网络完成最终优化时， 将趋近于0，因此令Ei对Vi求导数，获得如式(4)所示的优化模型：
[0076]
[0077] 其中，Ei代表前后时刻神经元膜电位的更新能量值，Vi代表当前时刻的神经元膜电位，wi,j代表突触前神经元j和突触后神经元i的突触权值，Vth,i代表突触后神经元i的放电阈值，j为突触前神经元的标号，N代表突触前神经元的数目。
[0078] 采用ΔVi描述LIF神经元节点i的优化方法，该方法将使得网络能量ΔE向着越来越小的方向增长，进而使得图像分类神经网络习得具体的网络功能，如
模式识别能力。ΔVi的计算方法如式(5)所示：
[0079]
[0080] 其中，ηi为预设的学习率超参数。
[0081] 步骤B30，以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络。
[0082] 权值调整如式(6)、式(7)所示：
[0083]
[0084]
[0085] 其中，C代表输出膜电势和标准膜电势的差，Vi代表输出膜电势的数值，VT代表期望的标准膜电势的数值，i为神经元的位置索引，N代表神经元的数目。
[0086] 步骤B40，基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
[0087] 由膜电位Vi优化得到的结果，通过STDP的方式由膜电位变化
固化到突触变化中来，完成图像分类神经网络的训练优化，如式(8)所示：
[0088]
[0089] 其中，Δwj代表突触更新的数值，A+代表STDP的正向比例因子，A-代表STDP的负向比例因子，Δti代表神经元前后放电的时间差，τ+代表STDP的正向漏电时间常数，τ-代表STDP的负向漏电时间常数。
[0090] 如图3所示，为本发明基于膜电位调控脉冲神经网络的图像分类方法一种实施例的不同的前馈、稳态、STDP组合方法正确率对比图，Test Accuracy表示测试正确率，Iteration Times表示迭代时间，方点折线表示只有膜电势平衡法则(TMP)的网络优化结果，圆点折线表示同时具有前馈信息和膜电势平衡法则(FF+TMP)的网络优化结果，三
角折线表示同时具有前馈信息、膜电势平衡法则、兴奋性/抑制类不同神经元、短时突触可塑性(Best FF+TMP+E/I+STP)的网络优化结果。
[0091] 本发明第二实施例的基于膜电位调控脉冲神经网络的图像分类系统，该图像分类系统包括输入模块、图像分类模块、输出模块；
[0092] 所述输入模块，配置为获取分类任务图像作为待处理图像并输入；
[0093] 所述图像分类模块，配置为基于所述待处理图像，通过训练好的图像分类神经网络获取待处理图像的类别；
[0094] 所述输出模块，配置为输出待处理图像的类别；
[0095] 其中，图像分类模块包括网络构建模块、膜电位更新模块、网络层权重调整模块、网络突触权重调整模块；
[0096] 所述网络构建模块，配置为构建积分-放电单元，并基于所述积分-放电单元构建图像分类神经网络；
[0097] 所述膜电位更新模块，配置为基于顺行前馈，膜电位从所述图像分类神经网络第一层开始依次传递到后面的逐层，进行膜电位信息更新；基于膜电位改变和输入电流达到平衡，进行膜电位信息更新；
[0098] 所述网络层权重调整模块，配置为以膜电位信息更新后的图像分类神经网络当前层的误差信息，向上反传一层实现当前层的权值调整，获得第一图像分类神经网络；
[0099] 所述网络突触权重调整模块，配置为基于所述第一图像分类神经网络，通过STDP学习机制非监督的根据膜电位信息的变化更新网络突触权值，获得训练好的图像分类神经网络。
[0100] 所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
[0101] 需要说明的是，上述实施例提供的基于膜电位调控脉冲神经网络的图像分类系统，仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称，仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
[0102] 本发明第三实施例的一种存储装置，其中存储有多条程序，所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
[0103] 本发明第四实施例的一种处理装置，包括处理器、存储装置；处理器，适于执行各条程序；存储装置，适于存储多条程序；所述程序适于由处理器加载并执行以实现上述的基于膜电位调控脉冲神经网络的图像分类方法。
[0104] 所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
[0105] 本领域技术人员应该能够意识到，结合本文中所公开的实施例描述的各示例的模块、方法步骤，能够以
电子硬件、计算机
软件或者二者的结合来实现，
软件模块、方法步骤对应的程序可以置于随机
存储器(RAM)、内存、
只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、
硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
[0106] 术语“第一”、“第二”等是用于区别类似的对象，而不是用于描述或表示特定的顺序或先后次序。
[0107] 术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
[0108] 至此，已经结合附图所示的优选实施方式描述了本发明的技术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域技术人员可以对相关技术特征作出等同的更改或替换，这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
