首页 / 专利库 / 软件 / 无损压缩 / 非稳定网络环境下的多模态监测数据动态压缩控制方法

非稳定网络环境下的多模态监测数据动态压缩控制方法

阅读:812发布:2020-05-14

专利汇可以提供非稳定网络环境下的多模态监测数据动态压缩控制方法专利检索,专利查询,专利分析的服务。并且一种非稳定网络环境下的多模态监测数据动态压缩方法,它以压缩、传输和解压三个阶段为目标建模,并进行了非稳定网络状态的预测,引入了动态压缩比调整的过程,节省了 数据压缩 、传输和解压的耗时。相比于基于无损数据压缩的传输优化方法而言,采用基于动态压缩比的传输耗时优化方法来降低传输耗时的效果更好。,下面是非稳定网络环境下的多模态监测数据动态压缩控制方法专利的具体信息内容。

1.一种非稳定网络环境下的多模态监测数据动态压缩方法,包括有S1选择压缩算法步骤、S2建模计算压缩比步骤、S3压缩传输步骤和S4解压步骤,其特征在于:所述S2建模计算压缩比步骤根据当前网络传输速率预测值建模实时计算压缩比,S3压缩传输步骤根据S2步骤计算得到的压缩比实时动态调整压缩比进行传输,S2建模计算压缩比步骤包括有以下步骤:
S2-1、根据步骤S1选择的压缩算法,针对数据大小为Qi第i(i=1,…,n)种模态的数据进行多次压缩实验,通过数据拟合的方案得到压缩时间t压i与压缩比p的关系为t压i=fi(p,Qi);
根据步骤S1选择的压缩算法,针对i(i=1,…,n)种模态的数据进行多组解压时间与数据压缩比的统计分析实验,通过数据拟合的方案得到解压时间t解i与压缩比p的关系为t解i=gi(p,Qi);
S2-2、根据步骤S2-1得到的压缩时间与压缩比关系式、解压时间与压缩比关系式,建立包括有压缩时间、编码后传输时间和解压时间的耗时数学模型,耗时数学模型的公式为:
式中,t压i-第i种模态的数据压缩时间;t0-压缩后数据传输时间;t解i-第i种模态的数据解压时间;Qi-第i种模态的数据规模;Q-整体数据规模;p-数据压缩比; -当前网络速率预测值;
将压缩比p控制在预设最大压缩比Pmax和最小压缩比为Pmin之间,保证最优耗时小于原始传输耗时,设立约束条件:
式中,Qi-第i种模态的数据规模;Q-整体数据规模;p-数据压缩比; -当前网络速率预测值;
S2-3、根据步骤S2-2的耗时数学模型公式和约束条件,求解当前网络环境下的最优压缩比。
2.如权利要求1所述的非稳定网络环境下的多模态监测数据动态压缩方法,其特征在于:当前网络传输速率预测值采用神经网络为主的学习-训练-反馈类算法进行计算,计算当前网络传输速率预测值的具体步骤如下:
b1、选取若干段历史区间的网络监测数据设为Uk(k=1,…,m),每一段历史网络区间中又有若干个网络数据Vj(k)(j=1,…,l)作为输入变量,同时每一段历史网络区间中最后一个网络数据Vl(k)作为期望输出变量;
b2、选取前N(N>m/2)段历史网络区间Uk(k=1,…,N)作为训练样本集,第(m-N)段历史网络区间Uk(k=N+1,…,m)作为测试样本用来测试估算的准确性;
(k)
b3、对其中一段历史传输速率区间Uk前(l-1)个速率数据Vj (j=1,…,l-1)作为训练样本,第l个作为期望输出,采用人工神经网络的算法来得出(l-1)个神经元的权值;
b4、将剩下测试样本的历史传输速率区间按照S22的步骤来不断的调整权值,最后得到每段传输速率区间内网速之间的关系为: (j
=1,…,l-1);式中,Vj(k)(j=1,…,l-1)-第k段历史网络区间中的第j个网速值;aj(j=
1,…,l-1)-第j个网速值对应的权值; -第k段历史网络区间中的第l个网速预测值;
b5、根据b4所得的关系可获得Uk(k=1,…,N)内传输速率的代数关系,即得到当前网络传输速率预测值为: 式中, -当前网络速率
预测值;Vj(m)(j=1,…,l-1)-第m段历史网络区间中的第j个网速值;aj(j=1,…,l-1)-第j个网速值对应的权值;
b6、根据b4所得的代数关系可获得Uk(k=N+1,…,m-1)内网络传输速率预测值为:
(k)
式中,Vj (j=1,…,l-1)-第
k段历史网络区间中的第j个网速值;aj(j=1,…,l-1)-第j个网速值对应的权值; -第k段历史网络区间中的第l个网速预测值。
3.如权利要求2中所述非稳定网络环境下的多模态监测数据动态压缩方法,其特征在于:S2建模计算压缩比步骤之后,根据测试样本的网速真实值和网络传输速率预测值可以得出预测误差为: 式中, -第k段历史网络区间中的第l个网络传输
速率预测值;该误差作为当前网速实际值与网络传输速率预测值的阈值
若两者相差在设定的误差阈值范围之内,则采用网络传输速率预测值计算出的最优压缩比;若是存在较大偏差,则将网速真实值代入耗时数学模型的公式中,获取更新后的最优压缩比和整体传输耗时。
4.如权利要求3所述的非稳定网络环境下的多模态监测数据动态压缩方法,其特征在于,所述S1选择压缩算法的方法如下:
将采集的多模态数据根据数据类型进行分类,分成n种模态;对每种数据模态选取若干种无损压缩算法,测试单位数据在同一压缩比下不同算法的压缩耗时,耗时最短的即最佳压缩算法。

说明书全文

非稳定网络环境下的多模态监测数据动态压缩控制方法

技术领域

[0001] 本发明涉及无线网络数据压缩技术领域,特别是一种非稳定网络环境下的监测数据动态压缩控制方法。

背景技术

[0002] 当前各类系统对象(如工业生产、大型装备及系统等)工业生产规模、结构和功能等日趋复杂,对于这类对象的整体监测通常需要多源感知、多终端采集、多通道网络传输,及时地将多模态监测数据汇集分发给决策层,其整体决策平与系统对象的数据规模、特性以及网络传输环境具有非常密切的关联关系。其中在监测数据传输效率方面存在如下问题:
[0003] 1、由于监测数据源节点数量众多,且各类数据的采集频率不等、功能点位具有不同的空间位置分布,这导致需要传输的数据规模庞大且可能具有间歇性爆发涌现的情况,持续性的远程网络数据传输压非常大。
[0004] 2、用于传输监测数据的介质大多是分散式网络,其网络传输环境状况不确定性较高,受系统运行周期内数据传输速率的不规律波动影响,数据传输时延不稳定且容易产生迟滞、乱序、丢包等不利情况。
[0005] 在CN103957582A中公开了一种名称为“无线传感器网络自适应压缩方法”的发明专利,该专利公开了根据数据类型、精度要求选择压缩算法、预测平均压缩比、预测执行压缩的平均时间、以能耗最优为目标建立模型、求解最佳压缩策略等技术手段。该对比文件的目的是以最优能耗为目标建立数学模型并求解,并没未以时间最优为目标建模,因此并未公开由压缩、传输、解压组成的数学模型公式,约束条件设立也不相同;该对比文件在计算过程中,并未考虑到网络状况不稳定的情况,未对当前网络进行预测,也没有网络传输速率预测值与真实值的比较,无法适用于非稳定网络。

发明内容

[0006] 本发明的目的就是提供一种非稳定网络环境下的多模态监测数据动态压缩控制方法,它以压缩、传输和解压三个阶段为目标建模,并进行了非稳定网络状态的预测,引入了动态压缩比调整的过程,节省了数据压缩、传输和解压的耗时。
[0007] 本发明的目的是通过这样的技术方案实现的,它包括有S1选择压缩算法步骤、S2建模计算压缩比步骤、S3压缩传输步骤和S4解压步骤,所述S2建模计算压缩比步骤根据当前网络传输速率预测值建模实时计算压缩比,S3压缩传输步骤根据S2步骤计算得到的压缩比实时动态调整压缩比进行传输,S2建模计算压缩比步骤包括有以下步骤:
[0008] S2-1、根据步骤S1选择的压缩算法,针对数据大小为Qi第i(i=1,…,n)种模态的数据进行多次压缩实验,通过数据拟合的方案得到压缩时间t压i与压缩比p的关系为 t压i=fi(p,Qi);
[0009] 根据步骤S1选择的压缩算法,针对i(i=1,…,n)种模态的数据进行多组解压时间与数据压缩比的统计分析实验,通过数据拟合的方案得到解压时间t解i与压缩比p的关系为 t解i=gi(p,Qi);
[0010] S2-2、根据步骤S2-1得到的压缩时间与压缩比关系式、解压时间与压缩比关系式,建立包括有压缩时间、编码后传输时间和解压时间的耗时数学模型,耗时数学模型的公式为:
[0011]
[0012] 式中,t压i-第i种模态的数据压缩时间;t0-压缩后数据传输时间;t解i-第i种模态的数据解压时间;Qi-第i种模态的数据规模;Q-整体数据规模;p-数据压缩比;-当前网络速率预测值;
[0013] 将压缩比p控制在预设最大压缩比Pmax和最小压缩比为Pmin之间,保证最优耗时小于原始传输耗时,设立约束条件:
[0014]
[0015] 式中,Qi-第i种模态的数据规模;Q-整体数据规模;p-数据压缩比; -当前网络速率预测值;
[0016] S2-3、根据步骤S2-2的耗时数学模型公式和约束条件,求解当前网络环境下的最优压缩比。
[0017] 进一步,当前网络传输速率预测值采用神经网络为主的学习-训练-反馈类算法进行计算,计算当前网络传输速率预测值的具体步骤如下:
[0018] b1、选取若干段历史区间的网络监测数据设为Uk(k=1,…,m),每一段历史网络区间中又有若干个网络数据Vj(k)(j=1,…,l)作为输入变量,同时每一段历史网络区间中最后一个网络数据Vl(k)作为期望输出变量;
[0019] b2、选取前N(N>m/2)段历史网络区间Uk(k=1,…,N)作为训练样本集,第(m-N)段历史网络区间Uk(k=N+1,…,m)作为测试样本用来测试估算的准确性;
[0020] b3、对其中一段历史传输速率区间Uk前(l-1)个速率数据Vj(k)(j=1,…,l-1)作为训练样本,第l个作为期望输出,采用人工神经网络的算法来得出(l-1)个神经元的权值;
[0021] b4、将剩下测试样本的历史传输速率区间按照S22的步骤来不断的调整权值,最后得到每段传输速率区间内网速之间的关系为:  (j=1,…,l-1);式中,Vj(k)(j=1,…,l-1)-第k段历史网络区间中的第j个网速值; aj(j=
1,…,l-1)-第j个网速值对应的权值; -第k段历史网络区间中的第l个网速预测值;
[0022] b5、根据b4所得的关系可获得Uk(k=1,…,N)内传输速率的代数关系,即得到当前网络传输速率预测值为: 式中, -当前网络速率预测值;Vj(m)(j=1,…,l-1)-第m段历史网络区间中的第j个网速值;aj(j=1,…,l-1)-第j 个网速值对应的权值;
[0023] b6、根据b4所得的代数关系可获得Uk(k=N+1,…,m-1)内网络传输速率预测值为:(k)
式中,Vj (j=1,…,l-1)-第
k 段历史网络区间中的第j个网速值;aj(j=1,…,l-1)-第j个网速值对应的权值; -第k段历史网络区间中的第l个网速预测值。
[0024] 进一步,S2建模计算压缩比步骤之后,根据测试样本的网速真实值和网络传输速率预测值可以得出预测误差为: 式中, -第k段历史网络区间中的第l个网络传输速率预测值;该误差作为当前网速实际值与网络传输速率预测值的阈值
[0025] 若两者相差在设定的误差阈值范围之内,则采用网络传输速率预测值计算出的最优压缩比;若是存在较大偏差,则将网速真实值代入耗时数学模型的公式中,获取更新后的最优压缩比和整体传输耗时。
[0026] 进一步,所述S1选择压缩算法的方法如下:
[0027] 将采集的多模态数据根据数据类型进行分类,分成n种模态;对每种数据模态选取若干种无损压缩算法,测试单位数据在同一压缩比下不同算法的压缩耗时,耗时最短的即最佳压缩算法。
[0028] 由于采用了上述技术方案,本发明具有如下的优点:
[0029] 相比于基于无损数据压缩的传输优化方法而言,采用基于动态压缩比的传输耗时优化方法来降低传输耗时的效果更好;一是因为对传输数据进行压缩会引入额外的编码/解码时间,而其与数据压缩程度相关,固定的压缩比并不能在系统任意传输环境下保证系统传输耗时最小;二是针对监测数据占比基本平稳的情况,固定数据压缩比代表压缩/解压耗时将不再调整,这意味着传输速率提高对其影响不明显,然而基于动态压缩比的传输优化方法则可以更有效地提高数据传输效率。
[0030] 本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书和权利要求书来实现和获得。附图说明
[0031] 本发明的附图说明如下。
[0032] 图1为多模态数据传输的结构层级图;
[0033] 图2为本发明的流程示意图。

具体实施方式

[0034] 下面结合附图和实施例对本发明作进一步说明。
[0035] 本专利选取化工厂多模态监测数据作为实例对象。化工行业作为复杂的工业,其采集设备节点多种多样,导致系统以不定频率采集大量的不同类型的监测数据;同时化工生产车间的网络传输环境状况存在不确定性,使得数据传输时延不稳定且容易产生丢包问题,这类问题对于化工工业这种时间敏感型场景是非常严重的。因此,采用本文所述的优化控制方法,可以有效提高非稳定环境下多模态数据的传输效率。
[0036] 如图1和图2所示,一种非稳定网络环境下的多模态监测数据动态压缩控制方法,包括以下步骤:
[0037] S1:选取适用于化工厂环境中多模态数据特征的无损压缩算法和解压算法;
[0038] S2:根据化工厂历史网络传输速率集合来预测当前的网络状况;
[0039] S3:根据当前网络速率预测值,建立以整体传输耗时为最优目标的优化模型;
[0040] S4:将压缩比作为决策变量来控制其压缩/解压时间,从而求解出最优压缩比;
[0041] S5:以化工厂实际传输速率为标准来判断是否要调整最优压缩比;
[0042] S6:获取调整后的最优压缩比,并对压缩后的多模态检测数据进行传输。
[0043] 所述选取适用的压缩算法,是结合待编码的压缩数据的特性、数据规模以及应用场景等多方面因素而选择适用的无损压缩算法来降低其信息冗余以及解压算法来无损的还原数据信息。具体步骤如下:
[0044] S11:将采集的多模态数据根据数据类型进行分类,分成n种模态。
[0045] S12:对每种数据模态选取若干种无损压缩算法,测试单位数据在同一压缩比下不同算法的压缩耗时,耗时最短的即最佳压缩算法。因此,n种模态的数据各对应一种最优压缩算法。
[0046] S13:按照步骤S12的方法得到每种数据模态的最佳解压算法,因此,n种模态的数据各对应一种最优解压算法。
[0047] 获取当前网络环境,是获取当前的网络传输速率。由于当前的传输环境处于非稳定的网络速率的情况下,因此采取一段历史区间的网速来加权平均得到一个平均网速来近似作为当前的网络状况,估算出当前网络传输速率 若直接采用当前速率作为决策变量进行最优压缩比运算,会因为额外增加运算耗时而增加整体传输耗时。若在当前网速采集之前,利用当前网速的估算值可以提前获取最优压缩比,则可大大提高数据压缩传输的决策效率从而减小整体传输耗时。因此为了得到一个准确有效的网络传输速率预测值,本专利采用人工神经网络的算法来预测当前传输速率值。具体步骤如下:
[0048] S21:选取若干段历史区间的网络监测数据设为Uk(k=1,…,m),每一段历史网络区间中又有若干个网络数据Vj(k)(j=1,…,l)作为输入变量,同时每一段历史网络区间中最后一个网络数据Vl(k)作为期望输出变量。
[0049] S22:选取前N(N>m/2)段历史网络区间Uk(k=1,…,N)作为训练样本集,第(m-N)段历史网络区间Uk(k=N+1,…,m)作为测试样本用来测试估算的准确性。
[0050] S23:对其中一段历史传输速率区间Uk前(l-1)个速率数据Vj(k)(j=1,…,l-1)作为训练样本,第l个作为期望输出,采用人工神经网络的算法来得出(l-1)个神经元的权值。
[0051] S24:将剩下测试样本的历史传输速率区间按照S22的步骤来不断的调整权值,最后得到每段传输速率区间内网速之间的关系为:
[0052] S25:根据S24所得的关系可获得Uk(k=1,…,N)内传输速率的代数关系,即得到当前网络传输速率预测值为:
[0053] S26:同理,根据S24所得的代数关系可获得Uk(k=N+1,…,m-1)内网络传输速率预测值为: 根据测试样本的网速真实值和预测值可以得出预测误差为: 该误差作为当前网速实际值
与预测值的阈值。
[0054] 建立优化模型,并不仅仅以单一的压缩时间或数据传输耗时或解压时间作为决策因素来建立目标模型。本专利以整体传输耗时为最优目标来建立优化模型,整体传输耗时是指引入压缩算法后的数据传输时间将由压缩时间、编码后监测数据在传输过程中所花费的时间以及解压时间3部分组成,即此时由压缩算法和解压算法引起的数据处理耗时也要考虑在内。以多因素综合决策来建立目标优化模型。具体步骤如下:
[0055] S31:针对数据大小为Qi第i(i=1,…,n)种模态的数据进行多次压缩实验,通过调节压缩算法压缩比参数,并结合统计结果对压缩时间随着压缩比变化的趋势,通过最小二乘法拟合方案得到压缩时间t压i与压缩比p的关系为t压i=fi(p,Qi);
[0056] S32:同样针对i(i=1,…,n)种模态的数据进行多组解压时间与数据压缩比的统计分析实验,通过S21所述的方法得到压缩时间t解i与压缩比p的关系为t解i=gi(p,Qi);
[0057] S33:根据当前的传输速率的预测值,引入压缩算法后的系统整体传输耗时组成、数据压缩/解压时间与压缩比的关系,在此基础上将系统的整体传输耗时作为优化目标,可以得到以下目标函数:
[0058]
[0059] 其中Q和 分别代表系统当前待传输的监测数据占比以及当前环境下传输速率预测值,因此,对于在数据占比、传输速率确定的条件下,上述最优化模型仅有一个决策变量p;
[0060] S34:结合实际测试结果,本发明将压缩比p控制在[2,100]范围内,以避免数据处理时间骤增从而影响整体传输耗时;另一方面,需要保证模型的最优耗时小于系统的原始传输耗时,避免“无效”的优化决策,因此系统在传输优化过程中存在以下约束条件:
[0061]
[0062] 根据S3所建立的优化模型和约束条件,将压缩比作为决策变量来控制整体传输时间,求解出当前近似网络速率下的最优压缩比。
[0063] 所述调整最优压缩比,所述调整最优压缩比,是通过实际检测出的网络传输速率值与预测值作对比来进行反馈的,反馈的目的既可以提高决策效率也不影响决策结果。倘若两者相差在设定的误差阈值范围之内,则采用原始最优压缩比,提高了决策效率;若是存在较大偏差,则需要将实际速率值代入目标函数中,获取更新后的最优压缩比和整体传输耗时,这样即使无法提高效率,但也不会影响决策结果。具体步骤如下:
[0064] S51:检测出化工厂当前网络传输速率D;
[0065] S52:当前网络传输速率估算值与实际值作对比,若 (E为S25中的阈值误差),则认为两者相等,否则两者存在较大偏差;
[0066] S53:倘若两者近似相等,则采用原始压缩比;若存在较大偏差,则将实际速率值代入目标函数中,获取更新后的最优压缩比和整体传输耗时。
[0067] 最后采用调整决策后的最优压缩比对多模态监测数据进行无损压缩,同时对压缩后的数据进行传输。
[0068] 本发明相比于基于无损数据压缩的传输优化方法而言,采用基于动态压缩比的传输耗时优化方法来降低传输耗时的效果更好。一是因为对传输数据进行压缩会引入额外的编码/解码时间,而其与数据压缩程度相关,固定的压缩比并不能在系统任意传输环境下保证系统传输耗时最小;二是针对监测数据占比基本平稳的情况,固定数据压缩比代表压缩/解压耗时将不再调整,这意味着传输速率提高对其影响不明显,然而基于动态压缩比的传输优化方法则可以更有效地提高数据传输效率。
[0069] 本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
[0070] 本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0071] 这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0072] 这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/ 或方框图一个方框或多个方框中指定的功能的步骤。
[0073] 最后应当说明的是:以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求保护范围之内。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈