基于Transformer的油气管道无线通信干扰信号识别方法 |
|||||||
| 申请号 | CN202410209289.1 | 申请日 | 2024-02-26 | 公开(公告)号 | CN118018134A | 公开(公告)日 | 2024-05-10 |
| 申请人 | 张颖超; | 发明人 | 杨颖超; 杨纪凯; 周荻; 房树松; 刘伟; | ||||
| 摘要 | 本 发明 涉及基于Transformer的 油气管道 无线通信干扰 信号 识别方法，包括：收集组建 训练数据 集和测试数据集，并采用时频分析工具进行预处理；将预处理后的训练数据集与标签成对输入到JR‑Transformer检测器进行离线训练，得到 干扰信号 识别模型；将训练完成的干扰信号识别模型进行线上部署，并通过测试数据集验证该干扰信号识别模型的识别性能；将实时产生的受到干扰的无线通信信号预处理后，输入至验证后的干扰信号识别模型，得到干扰信号识别结果。本发明利用CNN对图像的空间信息提取能 力 和Transformer对全局特征学习能力，能够实现自动提取特征并且在JSR为0dB时识别准确率可达到90％以上。 | ||||||
| 权利要求 | 1.基于Transformer的油气管道无线通信干扰信号识别方法，其特征在于，该方法通过油气管道无线通信干扰信号识别系统实现，油气管道无线通信干扰信号识别系统包括目标探测器、信号处理模块和干扰机，目标探测器包括无线信号发射机和无线信号接收机，信号处理模块包括干扰识别‑Transformer检测器，干扰机发射的干扰信号的类别包括多音、二进制移频键控、二进制移相键控、单音、线性调频、部分频带噪声、窄带噪声、正弦调频、短周期脉冲噪声、长周期脉冲噪声、梳状频谱噪声和噪声调频，包括： |
||||||
| 说明书全文 | 基于Transformer的油气管道无线通信干扰信号识别方法技术领域背景技术[0002] 无线通信系统作为油气管道工程的重要组成部分，承担着各类生产管理业务数据传输的重任，是保障管道安全运行的重要因素。而目前油气管道工程大多采用公网无线通信方式，这种方式存在抗干扰能力差等问题。当一些有源或无源干扰信号夹杂在无线通信信号中，可能会对正常通信双方造成巨大影响，以至于影响油气管道工程的正常运转。随着无线通信干扰信号的种类不断增多，严重影响无线通信的质量，这就要求无线通信具备更强的抗干扰能力。而无线通信干扰信号识别是实现油气管道无线通信抗干扰的前提，也是实现智能无线通信抗干扰的第一步。传统的干扰信号识别方法通常是分析其时域特征或者频域特征，基于统计方式进行识别，但这种方式需要大量的分析处理，并且随着新型干扰信号的出现，传统的方法很难区分此种干扰信号。 [0003] 近年来，深度学习广泛应用于各种领域，尤其是图像处理。Transformer利用自身强大的编码器和解码器实现了更大的感受野，可以建立更好的上下文关系，而卷积神经网络(CNN)由于其卷积操作可以学习到空间位置信息。因此，将卷积神经网络和Transformer联合设计应用到油气管道无线通信系统中，有望实现更好的信号识别。 [0004] 王程等(参见王程,郑小燕,王海彬.基于短时傅里叶变换的干扰信号识别方法[J].装备环境工程,2018,15(03):67‑70.)提出了一种基于短时傅里叶变换的干扰信号识别方法，根据无线通信用户自身的特点,使得采用连续波线极化天线的无线通信系统所收到的干扰信号呈现出有别于地面回波的周期性幅度调制特征,通过对此特征进行短时傅里叶变换后进行识别,可以作为无线通信系统是否受到欺骗式干扰的判断依据，但该方法只能得出无线通信系统是否受到干扰，无法具体得知是哪一类干扰信号。 [0005] 随着当代油气管道无线通信环境的日益复杂，干扰信号的快速发展，准确识别干扰信号将为油气管道无线通信抗干扰奠定基础。 发明内容[0006] 针对现有技术中存在的干扰识别的问题，本发明提出了一种基于Transformer的油气管道无线通信干扰信号识别方法，能够实现自动提取特征并且在干信比(JSR)为0dB时识别准确率可达到90％以上。 [0007] 术语解释： [0008] Transformer，是一个利用注意力机制来提高模型训练速度的模型。 [0009] JR‑Transformer，为英文Jamming Recognition‑Transformer的缩写，意思为干扰识别Transformer。 [0010] 本发明的技术方案如下： [0011] 基于Transformer的油气管道无线通信干扰信号识别方法，该方法通过油气管道无线通信干扰信号识别系统实现，油气管道无线通信干扰信号识别系统包括目标探测器、信号处理模块和干扰机，目标探测器包括无线信号发射机和无线信号接收机，信号处理模块包括干扰识别‑Transformer(JR‑Transformer)检测器，干扰机发射的干扰信号的类别包括多音(MT)、二进制移频键控(2FSK)、二进制移相键控(BPSK)、单音(ST)、线性调频(LFM)、部分频带噪声(PBN)、窄带噪声(NBN)、正弦调频(SFM)、短周期脉冲噪声(SPPN)、长周期脉冲噪声(LPPN)、梳状频谱噪声(CSN)和噪声调频(NFM)，包括： [0012] 利用搭建的油气管道无线通信干扰信号识别系统进行仿真，收集相应数据组建训练数据集和测试数据集，并采用时频分析工具进行预处理； [0013] 将预处理后的训练数据集与标签成对输入到JR‑Transformer检测器进行离线训练，得到干扰信号识别模型； [0014] 将训练完成的干扰信号识别模型进行线上部署，并通过测试数据集验证该干扰信号识别模型的识别性能； [0015] 将实时产生的受到干扰的无线通信信号预处理后，输入至验证后的干扰信号识别模型，得到干扰信号识别结果，即输出受到干扰的无线通信信号的类别。 [0016] 根据本发明优选的，采用油气管道无线通信干扰信号识别系统，经仿真生成数据集，对数据集进行预处理，生成时频图像：包括： [0017] 在油气管道无线通信干扰信号识别系统中，单次扫描期间油气管道无线通信发射信号为 其中，t为时间，r(t)为接收信号，J(t)为干扰信号，fJ和 是J(t)的载波频率和相位，h(t)为无线信道的脉冲响应，n(t)为AWGN； [0018] 无线通信干扰信号识别的目标是用接收信号r(t)来盲目识别干扰信号J(t)，干扰信号的集合记为 其中， 为第i类，总共有K类，无线通信干扰信号识别采用最大后验(MAP)准则为 其中， 表示接收r(t)时预测结果为 [0019] 利用油气管道无线通信干扰信号识别系统进行仿真，收集无线信号接收机接收的信号r(t)组成训练数据集，采用短时傅里叶变换(STFT)时频分析工具对数据集进行预处理，表示为 其中，f和t分别表示频率指数和* 时域指数，N表示采样点的数量，w 表示窗函数的共轭，得到对应时频域信号，并生成时频图像。 [0020] 根据本发明优选的，JR‑Transformer检测器包括CNN和Transformer； [0021] CNN包括卷积层，用来给Transformer合适的输入，同时作为干扰信号识别模型的输入，设置卷积层的维度为H×W×C，H表示高度，W表示宽度，C表示深度；卷积核的大小为3×3，步长为2；时频图像输入到CNN，经过卷积层卷积后的输出表示为其中，u(i,e)为卷积核对应输出矩阵相应位置元素的值，Nin 为输入矩阵个数，Xh为第h个输入矩阵，Wh为卷积核的第h个子卷积核矩阵，b为偏置矢量，经过卷积层后将得到的特征图维度转换为HW×C，同时定义补丁(patch)的大小为s×s，此时将特征图分成若干个patch作为Transformer的输入； [0022] Transformer包括多头注意力层和多层感知器，自注意力表示为其中，Q＝xWq，K＝xWk和V＝xWv，由深度分离卷积得到， 其中x为特征图分成的patch，Wq，Wk和Wv为权重，d为矢量大小；多头注意力层包括多个自注意力；表示为MHA(Q,K,V)＝concat(head1,…,headi,…,headh)W，其中，headi＝Attention(Qi,Ki,Vi)，W为权重； [0023] 多层感知器包括一个全连接层和一个输出层，全连接层的输出表示为o＝f(WfXf+b0)，其中，Wf表示全连接层的权重矩阵，Xf表示全连接层的输入矩阵，b0表示全连接层的偏置矢量，f(.)表示激活函数； [0024] 输出层采用简单的全局平均池化和全连接层预测结果，输出层的激活函数为Softmax函数，表达式为 标签采用one‑hot编码，损失函数为多分类交叉熵 其中，K表示种类数量，yq表示标签，aq表示JR‑Transformer检 测器的输出。 [0025] 根据本发明优选的，将预处理后的训练数据集与标签成对输入到JR‑Transformer检测器进行离线训练，得到干扰信号识别模型；包括： [0026] 设置初始学习率为0.001，采用随机梯度下降优化算法加快JR‑Transformer检测器收敛速度，并且随训练次数增加学习率降低，最小批次大小为16，epoch为30，对JR‑Transformer检测器进行监督训练，得到干扰信号识别模型。 [0027] 根据本发明优选的，将训练完成的干扰信号识别模型进行线上部署，并通过测试数据集验证该干扰信号识别模型的识别性能；包括： [0028] 采用测试数据集，在不同JSR下通过采用短时傅里叶变换(STFT)对干扰信号对应的测试数据进行预处理，作为JR‑Transformer检测器的输入，JR‑Transformer检测器的输出为干扰信号的类别；对比输入到JR‑Transformer检测器的干扰类型和JR‑Transformer检测器识别的干扰类型，测试该干扰信号识别模型的检测性能。 [0030] 一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现基于Transformer的油气管道无线通信干扰信号识别方法的步骤。 [0031] 本发明的有益效果为： [0032] 本发明提出了一种基于Transformer的油气管道无线通信干扰信号识别方法，使用深度学习方法对干扰信号进行识别，利用CNN对图像的空间信息提取能力和Transformer对全局特征学习能力，能够实现自动提取特征并且在JSR为0dB时识别准确率可达到90％以上。附图说明 [0033] 图1为油气管道无线通信干扰信号识别系统的结构示意图； [0034] 图2为本发明JR‑Transformer检测器的网络架构示意图； [0035] 图3是五种不同干扰信号在不同干信比条件下的识别准确率示意图。其中，JSR(dB)为干信比，Accuracy为准确率。 具体实施方式[0037] 实施例1 [0038] 基于Transformer的油气管道无线通信干扰信号识别方法，该方法通过油气管道无线通信干扰信号识别系统实现，如图1所示，油气管道无线通信干扰信号识别系统包括目标探测器、信号处理模块和干扰机，目标探测器包括无线信号发射机和无线信号接收机，信号处理模块包括干扰识别‑Transformer(JR‑Transformer)检测器，干扰机发射的干扰信号的类别包括多音(MT)、二进制移频键控(2FSK)、二进制移相键控(BPSK)、单音(ST)、线性调频(LFM)、部分频带噪声(PBN)、窄带噪声(NBN)、正弦调频(SFM)、短周期脉冲噪声(SPPN)、长周期脉冲噪声(LPPN)、梳状频谱噪声(CSN)和噪声调频(NFM)，为模拟真实环境，假设信噪比为10dB，噪声采用加性高斯白噪声(AWGN)，同时忽略系统内部噪声；包括： [0039] 利用搭建的油气管道无线通信干扰信号识别系统进行仿真，收集相应数据组建训练数据集和测试数据集，并采用时频分析工具进行预处理； [0040] 构建卷积神经网络(CNN)和Transformer，将预处理后的训练数据集与标签成对输入到JR‑Transformer检测器进行离线训练，得到干扰信号识别模型； [0041] 将训练完成的干扰信号识别模型进行线上部署，并通过测试数据集验证该干扰信号识别模型的识别性能； [0042] 将实时产生的受到干扰的无线通信信号预处理后，输入至验证后的干扰信号识别模型，得到干扰信号识别结果，即输出受到干扰的无线通信信号的类别。 [0043] 实施例2 [0044] 根据实施例1所述的基于Transformer的油气管道无线通信干扰信号识别方法，其区别在于： [0045] 采用油气管道无线通信干扰信号识别系统，经仿真生成数据集，对数据集进行预处理，生成时频图像：包括： [0046] 在油气管道无线通信干扰信号识别系统中，单次扫描期间油气管道无线通信发射信号为 其中，t为时间，r(t)为接收信号，J(t)为干扰信号，fJ和 是J(t)的载波频率和相位，h(t)为无线信道的脉冲响应，n(t)为AWGN； [0047] 无线通信干扰信号识别的目标是用接收信号r(t)来盲目识别干扰信号J(t)，干扰信号的集合记为 其中， 为第i类，总共有K类，无线通信干扰信号识别采用最大后验(MAP)准则为 其中， 表示接收r(t)时预测结果为 [0048] 利用油气管道无线通信干扰信号识别系统进行仿真，收集无线信号接收机接收的3 信号r(t)组成训练数据集，按照JSR从‑2dB到10dB，每隔2dB生成2×10个数据，每类干扰信 4 4 号有1.4×10个数据，总共7×10个数据，其中75％用于训练，25％用于验证；考虑到仅从时域或频域分析信号无法有效获取信号的时频变化特性，采用短时傅里叶变换(STFT)时频分析工具对数据集进行预处理，表示为 其中，f * 和t分别表示频率指数和时域指数，N表示采样点的数量，w表示窗函数的共轭，得到对应时频域信号，并生成时频图像。窗函数采用汉明窗，且相邻窗的重叠率为50％。 [0049] 如图2所示，JR‑Transformer检测器包括CNN和Transformer； [0050] CNN包括卷积层，用来给Transformer合适的输入，同时作为干扰信号识别模型的输入，设置卷积层的维度为H×W×C，H表示高度，W表示宽度，C表示深度；卷积核的大小为3×3，步长为2；经过STFT预处理转换为时频图像输入到CNN，经过卷积层卷积后的输出表示为 其中，u(i,e)为卷积核对应输出矩阵相应位置元素的值，Nin为输入矩阵个数，Xh为第h个输入矩阵，Wh为卷积核的第h个子卷积核矩阵，b为偏置矢量，经过卷积层后将得到的特征图维度转换为HW×C，同时定义补丁(patch)的大小为s×s，此时将特征图分成若干个patch作为Transformer的输入； [0051] Transformer包括多头注意力层和多层感知器，自注意力是Transformer的核心，自注意力表示为 其中，Q＝xWq，K＝xWk和V＝xWv，由深度分离卷积得到，其中x为特征图分成的patch，Wq，Wk和Wv为权重，d为矢量大小；多头注意力层包括多个自注意力；表示为MHA(Q,K,V)＝concat(head1,…,headi,…,headh)W，其中，headi＝Attention(Qi,Ki,Vi)，W为权重； [0052] 多层感知器包括一个全连接层和一个输出层，全连接层的输出表示为o＝f(WfXf+b0)，其中，Wf表示全连接层的权重矩阵，Xf表示全连接层的输入矩阵，b0表示全连接层的偏置矢量，f(.)表示激活函数； [0053] 输出层采用简单的全局平均池化和全连接层预测结果，输出层的激活函数为Softmax函数，表达式为 标签采用one‑hot编码，损失函数为多分类交叉熵 其中，K表示种类数量，yq表示标签，aq表示JR‑Transformer检 测器的输出。 [0054] 将预处理后的训练数据集与标签成对输入到JR‑Transformer检测器进行离线训练，得到干扰信号识别模型；包括： [0055] 设置初始学习率为0.001，采用随机梯度下降优化算法加快JR‑Transformer检测器收敛速度，并且随训练次数增加学习率降低，最小批次大小为16，epoch为30，对JR‑Transformer检测器进行监督训练，得到干扰信号识别模型，从而实现对干扰信号的分类。 [0056] 将训练完成的干扰信号识别模型进行线上部署，并通过测试数据集验证该干扰信号识别模型的识别性能；包括： [0057] 采用测试数据集，在不同JSR下通过采用短时傅里叶变换(STFT)对干扰信号对应的测试数据进行预处理，作为JR‑Transformer检测器的输入，JR‑Transformer检测器的输出为干扰信号的类别；对比输入到JR‑Transformer检测器的干扰类型和JR‑Transformer检测器识别的干扰类型，测试该干扰信号识别模型的检测性能。 [0058] 图3是五种不同干扰信号在不同干信比条件下的识别准确率示意图。其中，JSR(dB)为干信比，Accuracy为准确率。利用CNN对图像的空间信息提取能力和Transformer对全局特征学习能力，能够实现自动提取特征并且在JSR为0dB时识别准确率可达到90％以上。 [0059] 实施例3 [0060] 一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，处理器执行计算机程序时实现实施例1或2所述的基于Transformer的油气管道无线通信干扰信号识别方法的步骤。 [0061] 实施例4 [0062] 一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现实施例1或2所述的基于Transformer的油气管道无线通信干扰信号识别方法的步骤。 |
||||||
