一种物联网边缘节点安全的神经网络监测模型专利检索-深层模型人工智能专利检索查询-专利查询网

一种 物联网边缘节点安全的神经网络监测模型

阅读：417发布：2020-05-14

专利汇可以提供一种物联网边缘节点安全的神经网络监测模型专利检索，专利查询，专利分析的服务。并且本发明涉及物联网技术领域，尤其为一种物联网边缘节点安全的神经网络监测模型，包括混合记忆型神经网络模型，其特征在于：所述混合记忆型神经网络模型包含有稀疏自动编码器、深度置信网络模块、分类器和记忆模块，具有以下步骤：S1，所述稀疏自动编码器的输入信息为x，输出为hW,b(x)，则稀疏自动编码器的目标函数表达为：其中，W和b分别代表参数和偏置项，J(W,b)代表常规稀疏自动编码器的目标函数，本发明可有效解决物联网雾端网关在面对大流量节点数据时对数据流安全状况的分类判断能力不足的问题，其降维能力可大幅降低数据处理的维度与复杂度，其记忆能力可有效记忆节点安全的类别和状况，最终达到明显提升实时安全监测的准确性及高效性。，下面是一种物联网边缘节点安全的神经网络监测模型专利的具体信息内容。

权利要求

1.一种物联网边缘节点安全的神经网络监测模型，包括混合记忆型神经网络模型(1)，其特征在于：所述混合记忆型神经网络模型(1)包含有稀疏自动编码器(2)、深度置信网络模块(3)、分类器(4)和记忆模块(5)。
2.根据权利要求1所述的一种物联网边缘节点安全的神经网络监测模型，其特征在于，具有以下步骤：
S1，所述稀疏自动编码器(2)的输入信息为x，输出为hW,b(x)，则稀疏自动编码器(2)的目标函数表达为：其中，W和b分别代表参数和偏置
项，J(W,b)代表常规稀疏自动编码器(2)的目标函数，ρ代表稀疏性参数，代表隐藏神经元j在训练集上取平均的平均活跃度，s2表示隐藏层神经元的数量，β为调节因子，KL散度定义为：
S2，所述稀疏自动编码器(2)的输出向量直接作为深度置信网络模块(3)的输入向量，将其重新记为v，v＝h0表示深度置信网络模块(3)的可视层，hk表示第k个隐藏层，共有l个隐藏层；
S3，深度置信网络模块(3)的训练过程阶段一：每个受限玻尔兹曼机(RBM)隐藏层都由无监督方式训练得到训练参数；
S4，深度置信网络模块(3)的训练过程阶段二：最后一个隐藏层的输出向量由反向传播(BP)监督训练的方式来训练，最终得到分类结果，深度置信网络模块(3)的层级之间概率关系为：
实际训练时，可视层的神经元节点记为vi，第一隐藏层的神经元节点记为hj，第一隐藏层神经元节点与可视层神经元节点之间的概率关系为：
其中，wij为权重系数，aj
和bi分别为第一隐藏层和可视层的偏置项，σ表示激活函数；
S5，将第一隐藏层的输出作为下一层的输入，可以级联多层RBM，最终形成深度置信网络模块(3)，并采用梯度下降法(SGD)来更新深度置信网络模块(3)的权重和偏置；
S6，微调所有参数，最终可以得到激励值与输出结果，在最末一个RBM隐藏层，抽取记忆参数形成记忆模块，设置记忆标签的选择门限为
3.根据权利要求1所述的一种物联网边缘节点安全的神经网络监测模型，其特征在于：
所述稀疏自动编码器(2)设置有多重隐含层。
4.根据权利要求1所述的一种物联网边缘节点安全的神经网络监测模型，其特征在于：
所述深度置信网络模块(3)的所有神经网络连接都在可见节点和隐含节点之间，节点内部没有深层连接。

说明书全文

一种物联网边缘节点安全的神经网络监测模型

技术领域

[0001] 本发明涉及物联网技术领域，具体为一种物联网边缘节点安全的神经网络监测模型。

背景技术

[0002] 物联网(IOT)掀起了近几十年来最大的技术浪潮之一。预计到 2020年将有500亿台设备实现互连，形成可能覆盖我们周围一切事物的网络。物联网将跨越工业、商业、医疗、汽车和其它应用，影响数十亿人。鉴于其对个人、机构和系统的影响范围甚广，安全性上升成为所有物联网系统中最关键的组成部分，任何负责任的商业物联网企业都必须真正把握安全性的理念受到了广泛认可。在评估物联网网络脆弱性时，开发人员将目光对准了最基本的元素—边缘节点。而作为物联网中的“物”，数量众多的传感器和执行器向物联网提供数据并执行来自云端或用户与电脑、手机、车载系统、智能家电或其它平台交互产生的指令。边缘节点通常是小型低成本的智能设备，但正是由于它们访问的资源有限，往往被错误地认为不易受到攻击。与边缘节点交互的服务器以及与之连接的网络已经拥有了成熟的安全技术，而边缘节点到目前为止还未具备这样的技术。当谈到保护这样的系统时，人们常把“加密”与“安全”视为相等，但其实那只是安全难题的一个方面。创建安全环境的首要任务之一是稳妥地发现和证明连接到您网络的设备的身份。必须首先确定是谁要连接到网络，因为如果没有预先建立起安全的身份认证，加密和传输层安全协议(如SSL/TLS)做的就是“保护”那些根本不应该进入您的网络访问者。。

[0003] 目前物联网边缘节点安全的监测方法有限，传统的机器学习方法，主要适用于中心化的互联网架构，在监测分布式网络流量异常、恶意攻击、变体攻击等方面效果并不优越。深度学习技术能够从更大规模数据集中学习并提取出有效的特征信息，已被证明可以有效监测和分析网络数据与安全状况，针对物联网(IoT)边缘网关节点(雾端)的信息安全监测，目前的基于传统机器学习的方法在检测率和准确率等指标方面存在明显的不足。此外，现有的信息安全监测技术，主要是针对互联网，并不能满足分布式物联网复杂的数据安全需求，因此需要一种物联网边缘节点安全的神经网络监测模型对上述问题做出改善。

发明内容

[0004] 本发明的目的在于提供一种物联网边缘节点安全的神经网络监测模型，以解决上述背景技术中提出的问题。

[0005] 为实现上述目的，本发明提供如下技术方案：

[0006] 一种物联网边缘节点安全的神经网络监测模型，包括混合记忆型神经网络模型，所述混合记忆型神经网络模型包含有稀疏自动编码器、深度置信网络模块、分类器和记忆模块。

[0007] 优选的，具有以下步骤：

[0008] S1，所述稀疏自动编码器的输入信息为x，输出为hW,b(x)，则稀疏自动编码器的目标函数表达为：其中，W和b分别代表参数和偏置项，J(W,b)代表常规稀疏自动编码器的目标函数，ρ代表稀疏性参数，代表隐藏神经元j在训练集上取平均的平均活跃度，s2表示隐藏层神经元的数量，β为调节因子， KL散度定义为：

[0009] S2，所述稀疏自动编码器(2)的输出向量直接作为深度置信网络模块的输入向量，0 k
将其重新记为v，v＝h 表示深度置信网络模块的可视层，h表示第k个隐藏层，共有l个隐藏层；

[0010] S3，深度置信网络模块的训练过程阶段一：每个受限玻尔兹曼机 (RBM)隐藏层都由无监督方式训练得到训练参数；

[0011] S4，深度置信网络模块的训练过程阶段二：最后一个隐藏层的输出向量由反向传播(BP)监督训练的方式来训练，最终得到分类结果，深度置信网络模块的层级之间概率关系为：

[0012] 实际训练时，可视层的神经元节点记为vi，第一隐藏层的神经元节点记为hj，第一隐藏层神经元节点与可视层神经元节点之间的概率关系为：其中， wij为权重系数，
aj和bi分别为第一隐藏层和可视层的偏置项，σ表示激活函数；

[0013] S5，将第一隐藏层的输出作为下一层的输入，可以级联多层RBM，最终形成深度置信网络模块，并采用梯度下降法(SGD)来更新深度置信网络模块的权重和偏置；

[0014] S6，微调所有参数，最终可以得到激励值与输出结果，在最末一个RBM隐藏层，抽取记忆参数形成记忆模块，设置记忆标签的选择门限为

[0015] 优选的，所述稀疏自动编码器设置有多重隐含层。

[0016] 优选的，所述深度置信网络模块的所有神经网络连接都在可见节点和隐含节点之间，节点内部没有深层连接。

[0017] 与现有技术相比，本发明的有益效果是：

[0018] 1、本发明具有实时性：该深度学习模型可持续训练实时的网络节点数据，优化模型参数，作出实时的最佳推理，并促进更新训练模型。

[0019] 2、本发明具有高效性：深度学习方法通过实时更新模型，可以不断校准模型参数，当模型参数调整及数据训练达到一定程度时，具有极其高效的测试和推理能力。

[0020] 3、本发明具有高检测率：深度学习模型对网络攻击与异常的检测能力明显高于传统机器学习模型，其检测率可稳定达到99％以上。

[0021] 4.本发明具有高准确率：深度学习模型对网络攻击、流量异常、恶意代码等类别的分类判断可以达到极高的水平，准确率有望稳定达到99％以上。

[0022] 本发明中，未涉及部分均与现有技术相同或可采用现有技术加以实现，本发明方法适用于对物联网边缘网关节点的信息安全实时监测问题，可应用于二分类和多分类问题，可有效解决物联网雾端网关在面对大流量节点数据时对数据流安全状况的分类判断能力不足的问题，其降维能力可大幅降低数据处理的维度与复杂度，其记忆能力可有效记忆节点安全的类别和状况，最终达到明显提升实时安全监测的准确性及高效性。附图说明

[0023] 图1为本发明混合记忆型神经网络模型的示意图；

[0024] 图2为本发明整体结构图。

[0025] 图中：1-混合记忆型神经网络模型、2-稀疏自动编码器、3-深度置信网络模块、4-分类器、5-记忆模块。

具体实施方式

[0026] 下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例,基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

[0027] 请参阅图1-2，本发明提供一种技术方案：

[0028] 一种物联网边缘节点安全的神经网络监测模型，包括混合记忆型神经网络模型1，所述混合记忆型神经网络模型1包含有稀疏自动编码器2、深度置信网络模块3、分类器4和记忆模块5。

[0029] 具有以下步骤：

[0030] S1，所述稀疏自动编码器2的输入信息为x，输出为hW,b(x)，则稀疏自动编码器2的目标函数表达为：其中，W和b分别代表参数和偏置项，J(W,b)代表常规稀疏自动编码器2的目标函数，ρ代表稀疏性参数，代表隐藏神经元j在训练集上取平均的平均活跃度，s2表示隐藏层神经元的数量，β为调节因子，KL散度定义为：

[0031] S2，所述稀疏自动编码器(2)的输出向量直接作为深度置信网络模块3的输入向量，将其重新记为v，v＝h0表示深度置信网络模块 3的可视层，hk表示第k个隐藏层，共有l个隐藏层；

[0032] S3，深度置信网络模块3的训练过程阶段一：每个受限玻尔兹曼机(RBM)隐藏层都由无监督方式训练得到训练参数；

[0033] S4，深度置信网络模块3的训练过程阶段二：最后一个隐藏层的输出向量由反向传播(BP)监督训练的方式来训练，最终得到分类结果，深度置信网络模块3的层级之间概率关系为：实际训练时，可视层的神经元节点记为vi，第一隐藏层的神经元节点记为hj，第一隐藏层神经元节点与可视层神经元节点之间的概率关系为：其中， wij为
权重系数，aj和bi分别为第一隐藏层和可视层的偏置项，σ表示激活函数；

[0034] S5，将第一隐藏层的输出作为下一层的输入，可以级联多层RBM，最终形成深度置信网络模块3，并采用梯度下降法(SGD)来更新深度置信网络模块3的权重和偏置；

[0035] S6，微调所有参数，最终可以得到激励值与输出结果，在最末一个RBM隐藏层，抽取记忆参数形成记忆模块，设置记忆标签的选择门限为

[0036] 所述稀疏自动编码器2设置有多重隐含层。

[0037] 所述深度置信网络模块3的所有神经网络连接都在可见节点和隐含节点之间，节点内部没有深层连接。

[0038] 本发明工作流程：稀疏自动编码器2是一种典型的无监督学习神经网络，通过设置多重隐含层，可使编码器学习到更复杂和更多样的特征表达，当输入数据是完全随机的，比如输入特征完全无关时，网络较难学习；当输入数据中隐含存在一些特定结构，比如输入特征是彼此相关的，学习算法就可以发现输入数据中的相关性，当隐藏层神经元的数量较大时，如果不稀疏化表达，就无法得到输入的压缩表示，进而会影响自动编码器的学习效率和效果；因而我们对神经元加入一定的稀疏性限制，让其输出接近于1时表示被激活，输出接近于0时表示被抑制，稀疏表达具有类似主成分分析(PCA)的降维作用，可以大大减小网络的特征数量和学习负载，深度置信网络模块3具有输出统计概率分布的功能，其所有神经网络连接都在可见节点和隐含节点之间，节点内部没有深层连接，通过叠加RBM可以构建DBN，RBM的逐层训练，最终相当于无监督预训练出了整个DBN网络，DBN的统计表达能力有利于判断攻击和异常的概率模型，分类器4可以实现监督分类的目的，记忆模块5可以更好地分类检测未知的安全状况或特征状态，稀疏自动编码器2建立在对一般的自动编码器(AE)其隐藏层进行稀疏化处理的基础之上，在原本的目标函数上叠加一个L1正则项，以约束隐含层中的节点大部分为0，保持少数不为0，从而可以压缩隐藏层有效神经元的数量，达到稀疏性抑制神经元的目的。

[0039] 尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

标题	发布/更新时间	阅读量
一种基于压缩-激励伪三维网络的视频理解方法	2020-05-14	563
面向乙烯裂解炉管重管识别的嵌入式DCNN压缩方法	2020-05-13	124
一种基于BIM的深基坑工程安全监测系统	2020-05-11	866
一种组合深度学习和概念图谱的电力故障事件抽取方法	2020-05-11	271
一种基于双重交错的医学图像分割网络	2020-05-15	751
一种基于张量流递归神经网络的检测分拨系统及方法	2020-05-08	721
一种识别数字串读法的方法及装置	2020-05-13	746
一种特征图深度融合的人车目标检测方法	2020-05-14	377
一种基于句法模式和机器学习的开放式关系的抽取方法	2020-05-12	901
一种基于深度学习的星系分类与识别的方法及装置	2020-05-12	454

一种物联网边缘节点安全的神经网络监测模型

一种物联网边缘节点安全的神经网络监测模型

技术领域

背景技术

发明内容

具体实施方式

该功能需要专业版企业版VIP权限，您可以：