首页 / 专利库 / 电气元件和设备 / 熔断器式隔离开关 / 一种小样本下基于深度学习的电力设备分类方法

一种小样本下基于深度学习的电设备分类方法

阅读:719发布:2020-05-15

专利汇可以提供一种小样本下基于深度学习的电设备分类方法专利检索,专利查询,专利分析的服务。并且本 发明 公开了 图像处理 领域内的一种小样本下基于 深度学习 的电 力 设备分类方法,包括以下步骤:步骤1:通过变电站设备检测装置获取标准化的电力设备红外图像;步骤2:建立电力设备红外图像样本库,制作训练集、验证集和测试集;步骤3:建立小样本学习网络,使用样本库的训练集对所建立的 卷积神经网络 进行训练,并通过验证集对模型进行验证,训练后得到网络模型的连接权值和偏置参数;步骤4:利用训练好的网络模型,对测试集中的红外图像进行分类,产生电力设备红外图像的分类结果,本发明在样本量较少的情况下获得很好的效果并且不需要大量的训练时间,可用于电力设备管理控制中。,下面是一种小样本下基于深度学习的电设备分类方法专利的具体信息内容。

1.一种小样本下基于深度学习的电设备分类方法,其特征在于,包括以下步骤:
步骤1:通过变电站设备检测装置获取标准化的电力设备红外图像;
步骤2:建立电力设备红外图像样本库,制作训练集、验证集和测试集;
步骤3:建立小样本学习网络,使用样本库的训练集对所建立的卷积神经网络进行训练,并通过验证集对模型进行验证,训练后得到网络模型的连接权值和偏置参数;
步骤4:利用训练好的网络模型,对测试集中的红外图像进行分类,产生电力设备红外图像的分类结果。
2.根据权利要求1所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:在步骤1中,通过红外热像仪在巡检轨道上拍摄红外图像,其中所采集的红外图像中包含的电力设备有:套管、避雷器、穿墙套管、导线电缆终端、电力电缆、电力电容器、电流互感器、电压互感器、端子箱、断路器、放电线圈、高压熔断器、隔离开关变压器、开关柜、屏柜、散热器;并将每张图像旋转90度,180度,270度,扩充数据集。
3.根据权利要求2所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:在步骤2中,将采集到的电力设备红外图像按照设备的类别分到不同的文件夹下,并且将每一个文件夹下的图片统一命名格式,按照类的标号加上不同的数字命名;将每个类的图像按照预设的比例分成训练集、验证集和测试集,分别将训练集、验证集和测试集的图像文件名复制到不同的文本文档下。
4.根据权利要求3所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:有18个类的电力设备,每个类从训练集选取十个样本作为支持集,再选出数十个样本作为查询集。
5.根据权利要求1所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:在步骤3中,采用12层的残差网络作为主干特征提取器fθ,包含4深度为3的区块,每个区块带有3*3卷积核和捷径连接,每个块的末尾是2*2的最大池化层;同时设置一个辅助特征提取器,加上任务嵌入模块组成小样本学习网络。最后通过辅助任务共训练来训练网络。
6.根据权利要求5所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:将每个类支持集里的样本投影到同一空间中,对于每个类型的样本提取他们的中心点作为原型,使用欧几里得距离作为距离度量,训练使得本类别数据到本类原形表示的距离为最近,到其他类原形表示的距离较远。测试时,对测试数据到各个类别的原形数据的距离做softmax,来判断测试数据的类别标签。
7.根据权利要求5所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:训练方法具体包括以下步骤:
步骤3.1:每个类从训练集选取少量样本作为支持集,再选出少量样本作为查询集,支持集 包括K个类的M个样本,每个类的查询集 其中xi为样本,
yi为相应的标签;给定支持集S中的信息,学习算法能够从查询集Q中对每个样本进行分类,然后定义一个相似度度量映射函数将支持集内维数为D的样本映射到M维的度量空间内;
步骤3.2:为每个类计算出一个类的原型表示为ck,其中支持集Sk表示支持集内第k个类,类别的原型ck是对支持集中的所有的向量化样例数据取均值得到的,
步骤3.3:通过网络提取原型特征,并使用softmax函数作用在查询集特征向量点到原型ck的距离,度量空间内样本之间距离选择的是欧氏距离,训练过程是通过随机梯度下降法来最小化目标函数Jθ,其中θ是一个可以学习的参数,x为查询集内的样本,欧式距离最小的归为同一个类;
J(θ)=-logpθ(y=k|x)
步骤3.4:在主干特征提取网络的基础上,加上一个辅助特征提取器fψ,新的特征提取器是由四个普通的卷积块组成的卷积神经网络,每个卷积块包括卷积层,批量归一化层,relu激活层以及最大池化层。加上一个根据动态任务条件特征调节的模块,简称任务嵌入模块(如图3所示);主干特征提取器和辅助特征提取器提取的特征输入到任务嵌入模块并根据特定任务进行调节,任务嵌入模块输出的特征和主干提取器提取的特征一起映射到度量空间并综合俩种特征进行分类。任务嵌入模根据特定任务输出的偏移向量使得网络提取器的输出具有更好的泛化性。形式上,hl+1=γ⊙hl+β,其中γ,β分别是作用于hl层的缩放和偏移向量,具体地,使用类原型的均值作为任务表示,即任务网络的输入,针对每个卷积层中得到不同的γ,β,任务网络使用两个分开的全连接残差网络生成这两个向量,增加了L2范数惩罚项γ0,β0,可以限制γ,β的效果,gτ和hδ是β和γ的预测值;
β=β0gτ(ck)
γ=γ0hδ(ck)+1
步骤3.5:将训练集送入网络进行训练,训练的每个批次为随机从训练集中选择的一个类子集,从这些类子集中为每个类选择m个样例数据作为支持集,n个样例数据作为查询集,辅助任务共训练分为两步,第一步遍历支持集,任务网络针对每一个卷积层预测γ,β的值,第二步使用刚刚生成的γ,β对支持集和查询集进行特征提取,选择欧氏距离度量找到每个查询集的实例对应的原型类别,最后将度量的输出输入softmax层,将训练集里的数据提取出M个子集,每个子集的数据可以有重合的部分,训练集只需要少量样本,训练周期设置为N次,通过训练,逐步提升识别准确率,通过验证集进行验证,发现准确率较高,训练出的网络符合要求。
8.根据权利要求1所述的一种小样本下基于深度学习的电力设备分类方法,其特征在于:在步骤4中,将测试集中的红外图像输入步骤3所搭建小样本学习网络,对红外图像进行分类并得到结果。

说明书全文

一种小样本下基于深度学习的电设备分类方法

技术领域

[0001] 本发明涉及一种电力设备,特别涉及一种电力设备分类方法。

背景技术

[0002] 电力设备红外图像是通过探测电力设备发出的红外辐射能量,并转化为相应的电信号,经过电信号处理后获得电力设备表面热图像。红外检测技术具有远距离、不接触、不取样、不解体、准确、快速、直观等特点,广泛用于电力设备检测诊断中,对提高电力系统的稳定性具有重要意义。但是红外图像是一种伪色彩图像,它反映了物体表面温度的高低及分布,具有强度集中和对比度低等特性。并且受红外成像仪技术的限制,红外图像的质量通常不高,获取也不是特别方便。
[0003] 深度学习具有强大的非线性拟合能力,并且在各种图像处理任务中,深度学习算法都优于传统算法的性能。但是深度学习需要大量已标注的样本,而且需要大量的时间来进行训练。对于部分难以获取大量图片的领域,只需要少量样本就可以训练出效果很好的网络,也不需要很长时间。这样可以把深度学习这个工具推广到更多领域。

发明内容

[0004] 本发明的目的是提供一种小样本下基于深度学习的电力设备分类方法,在样本量较少的情况下获得很好的效果并且不需要大量的训练时间
[0005] 本发明的目的是这样实现的:
[0006] 与现有技术相比,本发明的有益效果在于,本发明通过使用卷积神经网络对输入红外图像进行深度特征挖掘,不依赖于手工特征提取参数,并通过欧几里得距离来度量每个样本之间的距离,通过网络学习参数使得本类别数据到本类别原型的距离最近;从而在样本量比较小的情况下取得很好的分类效果并且不需要很多时间训练,可以对智能的对采集的电力图片进行进识别并分类,从而在一定程度上减少了对人工识别的依赖,缩减人工劳动量。附图说明
[0007] 图1为本发明工作流程图
[0008] 图2为本发明网络结构图。
[0009] 图3为本发明任务嵌入模结构图。
[0010] 图4为本发明分类结果示意图一;
[0011] 图5为本发明分类结果示意图二。

具体实施方式

[0012] 本发明针对当前电力设备红外图像分类准确度不高、人工依赖程度高等问题,提出了一种小样本下基于深度学习的电力设备分类方法;将电力设备红外图像作为输入,通过深度学习方法对电力设备分类,下面将实施的方案进行详细描述。
[0013] 如图1所示,一种小样本下基于深度学习的电力设备分类方法,包括以下步骤:
[0014] 步骤1:通过红外热像仪在巡检轨道上拍摄红外图像,其中所采集的红外图像中包含的电力设备有:套管、避雷器、穿墙套管、导线电缆终端、电力电缆、电力电容器、电流互感器、电压互感器、端子箱、断路器、放电线圈、高压熔断器、隔离开关变压器、开关柜、屏柜、散热器。并将每张图像旋转90度,180度,270度,扩充数据集。
[0015] 步骤2:为每个类分别创建一个文件夹,将这个类的图片按照序号统一命名格式后放到对应的文件夹下,将每个类的图像按照预设的比例分成训练集、验证集和测试集,创建train、val、test文本文档,分别将训练集、验证集和测试集的图像文件名复制到各自的文本文档下;网络通过读取文本文档里图像的文件名来选择相应的图像进行处理。
[0016] 步骤3:创建小样本学习网络如图2所示;采用12层的残差网络作为主干特征提取器fθ,包含4块深度为3的区块,每个区块带有3*3卷积核和捷径连接,每个块的末尾是2*2的最大池化层;同时设置一个辅助特征提取器,加上任务嵌入模块组成小样本学习网络。最后通过辅助任务共训练来训练网络;
[0017] 步骤3.1:每个类从训练集选取少量样本作为支持集,再选出少量样本作为查询集,支持集 包括K个类的M个样本,每个类的查询集 (其中xi为样本,yi为相应的标签)。给定支持集S中的信息,学习算法能够从查询集Q中对每个样本进行分类。然后定义一个相似度度量映射函数将支持集内维数为D的样本映射到M维的度量空间内;
[0018] 步骤3.2:为每个类计算出一个类的原型表示为ck,其中支持集Sk表示支持集内第k个类;类别的原型ck是对支持集中的所有的向量化样例数据取均值得到的;
[0019]
[0020] 步骤3.3:通过网络提取原型特征,并使用softmax函数作用在查询集特征向量点到原型ck的距离,度量空间内样本之间距离选择的是欧氏距离,训练过程是通过随机梯度下降法来最小化目标函数Jθ,其中θ是一个可以学习的参数,x为查询集内的样本,欧式距离最小的归为同一个类;
[0021]
[0022] J(θ)=-logpθ(y=k|x)
[0023] 步骤3.4:在主干特征提取网络的基础上,加上一个辅助特征提取器fψ,新的特征提取器是由四个普通的卷积块组成的卷积神经网络,每个卷积块包括卷积层,批量归一化层,relu激活层以及最大池化层。加上一个根据动态任务条件特征调节的模块,简称任务嵌入模块(如图3所示);主干特征提取器和辅助特征提取器提取的特征输入到任务嵌入模块并根据特定任务进行调节,任务嵌入模块输出的特征和主干提取器提取的特征一起映射到度量空间并综合俩种特征进行分类。任务嵌入模根据特定任务输出的偏移向量使得网络针对特定的任务具有更好的分类性能。形式上,hl+1=γ⊙hl+β,其中γ,β分别是作用于hl层的缩放和偏移向量。具体地,使用类原型的均值作为任务表示,即任务网络的输入,针对每个卷积层中得到不同的γ,β;任务网络使用两个分开的全连接残差网络生成这两个向量,增加了L2范数惩罚项γ0,β0,可以限制γ,β的效果。gτ和hδ是β和γ的预测值;
[0024] β=β0gτ(ck)
[0025] γ=γ0hδ(ck)+1
[0026] 步骤3.5:将训练集送入网络进行训练,训练的每个批次为随机从训练集中选择的一个类子集,从这些类子集中为每个类选择10样例数据作为支持集,30个样例数据作为查询集;辅助任务共训练分为两步,第一步遍历支持集,任务嵌入模块针对每一个卷积层预测γ,β的值,第二步使用刚刚生成的γ,β对支持集和查询集进行特征提取;选择欧氏距离度量找到每个查询集的实例对应的原型类别,最后将度量的输出输入softmax层;将训练集里的数据提取出100个子集,每个子集的数据可以有重合的部分,训练集只需要少量样本,训练周期设置为100次,通过训练,逐步提升识别准确率,通过验证集进行验证,发现准确率较高,训练出的网络符合要求。
[0027] 步骤4:将测试集中的红外图像输入步骤3所训练好的小样本学习网络,进行分类并得到结果;如图4,图5所示。
[0028] 相比现有技术,本发明通过使用卷积神经网络对输入红外图像进行深度特征挖掘,不依赖于手工特征提取参数,并通过欧几里得距离来度量每个样本之间的距离,通过网络学习参数使得本类别数据到本类别原型的距离最近。从而在样本量比较小的情况下取得很好的效果并且不需要很多时间训练,可以智能的对采集的电力设备图像进行识别分类,进而在一定程度上减少了对人工识别的依赖,缩减人工劳动量,值得推广。
[0029] 本发明并不局限于上述实施例,在本发明公开的技术方案的基础上,本领域的技术人员根据所公开的技术内容,不需要创造性的劳动就可以对其中的一些技术特征作出一些替换和变形,这些替换和变形均在本发明的保护范围内。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈