一种多媒体数据传输方法及其系统

专利类型 发明公开 法律事件 公开; 实质审查;
专利有效性 实质审查 当前状态 实质审查
申请号 CN202510265020.X 申请日 2025-03-07
公开(公告)号 CN119788887A 公开(公告)日 2025-04-08
申请人 深圳市纬亚森科技有限公司; 申请人类型 企业
发明人 王雅涵; 王亚伟; 范可委; 第一发明人 王雅涵
权利人 深圳市纬亚森科技有限公司 权利人类型 企业
当前权利人 深圳市纬亚森科技有限公司 当前权利人类型 企业
省份 当前专利权人所在省份:广东省 城市 当前专利权人所在城市:广东省深圳市
具体地址 当前专利权人所在详细地址:广东省深圳市龙华区民治街道上芬社区第五工业区一区88号101 邮编 当前专利权人邮编:518000
主IPC国际分类 H04N21/2343 所有IPC国际分类 H04N21/2343H04N21/234H04N21/44H04N21/4402G06T5/77G06T5/30G06T7/13
专利引用数量 0 专利被引用数量 0
专利权利要求数量 10 专利文献类型 A
专利代理机构 广东贝澳知识产权代理有限公司 专利代理人 李干;
摘要 本 申请 提供一种多媒体数据传输方法及其系统,涉及视频数据传输技术领域,通过对多媒体 服务器 端采集的原始 视频流 进行 帧 间差异性解码校验,得到核心数据流,由核心数据流确定多媒体服务器端传输的核心 像素 ,基于核心像素对原始视频流中的图像帧进行图像重构,得到核心重构图像;依据核心重构图像的像素信息对核心重构图像进行形态学过滤,得到重构核心点和边界篡改点;再通过时间特征和空间特征对边界篡改点进行 时空 关联聚合,得到关联聚合图像;最后通过重构核心点确定的图像修复算子对关联聚合图像进行修复传输,得到多媒体客户端接收的视频流,本申请可在高效视频传输过程中实现视频数据的防篡过滤修复,以提高多媒体客户端接收视频流的 质量 。
权利要求

1.一种多媒体数据传输方法,其特征在于,所述传输方法包括:
获取多媒体服务器端采集的原始视频流
对所述原始视频流进行间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;
依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;
获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;
根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
2.如权利要求1所述的一种多媒体数据传输方法,其特征在于,通过连接安全接入机获取多媒体服务器端采集的原始视频流。
3.如权利要求1所述的一种多媒体数据传输方法,其特征在于,对所述原始视频流进行帧间差异性解码校验,得到核心数据流具体包括:
对所述原始视频流进行逐帧解码,得到连续的图像帧序列;
通过所述图像帧序列确定像素阈值
依据所述像素阈值筛选所述图像帧序列中每张图像帧的核心数据,进而得到核心数据流。
4.如权利要求1所述的一种多媒体数据传输方法,其特征在于,通过所述核心数据流确定多媒体服务器端传输的核心像素具体包括:
对所述核心数据流进行时空协同过滤,得到联合掩码;
依据所述联合掩码筛选核心像素数据;
对所述核心像素数据进行编码,得到多媒体服务器端传输的核心像素。
5.如权利要求1所述的一种多媒体数据传输方法,其特征在于,基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像具体包括:
构建空白图像矩阵;
确定所述原始视频流中的图像帧的补偿域;
利用该空白图像矩阵基于所述核心像素对所述补偿域进行补偿重构,得到核心重构图像。
6.如权利要求1所述的一种多媒体数据传输方法,其特征在于,依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点具体包括:
对所述核心重构图像分别执行膨胀和腐蚀过滤操作,得到所述核心重构图像的过滤重合区;
从所述过滤重合区中筛选图像重构时的重构核心点;
通过边缘检测算法基于所述过滤重合区从所述核心重构图像中标记图像重构时的边界篡改点。
7.如权利要求1所述的一种多媒体数据传输方法,其特征在于,通过时空分割算法获取所述原始视频流的时空信息。
8.如权利要求1所述的一种多媒体数据传输方法,其特征在于,所述多媒体服务器为混合通信服务器。
9.如权利要求1所述的一种多媒体数据传输方法,其特征在于,所述多媒体客户端为软件客户端。
10.一种多媒体数据传输系统,用于执行如权利要求1至9任意一项所述的一种多媒体数据传输方法,其特征在于,所述传输系统包括:
获取模,用于获取多媒体服务器端采集的原始视频流;
像素重构模块,用于对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;
图像过滤模块,用于依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;
关联聚合模块,用于获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;
修复传输模块,用于根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。

说明书全文

一种多媒体数据传输方法及其系统

技术领域

[0001] 本申请涉及视频数据传输技术领域,更具体地说,本申请涉及一种多媒体数据传输方法及其系统。

背景技术

[0002] 视频数据传输作为现代信息技术的重要组成部分,广泛应用于视频会议、实时监控、直播服务等场景,其中,视频数据的传输速度和图像质量是用户体验的关键。
[0003] 随着视频技术的快速发展,多媒体数据在各类应用场景中得到了广泛应用,例如:高清视频直播、视频监控、远程会议和虚拟现实等,使得视频数据传输的实时性、可靠性和质量有了更高的质量要求,然而,视频数据中通常包含大量冗余信息,会在多媒体服务器端的采集和传输过程中会占用大量网络带宽,导致多媒体视频数据在传输的网络环境中出现延迟、丢包、抖动等问题,现有方法在视频数据传输前未充分提取视频数据中的关键信息,在传输过程中还会受到数据篡改或攻击,导致通过帧间差异性解码图像帧的修复难度较大,使得客户端接收到的视频流的质量下降,无法保证客户端接收视频流的完整性。因此,如何在高效视频传输过程中实现视频数据的防篡过滤修复,以提高多媒体客户端接收视频流的质量已成为业界面临的难题。
发明内容
[0004] 本申请提供一种多媒体数据传输方法及其系统,可在高效视频传输过程中实现视频数据的防篡过滤修复,以提高多媒体客户端接收视频流的质量。
[0005] 第一方面,本申请提供一种多媒体数据传输方法,所述传输方法包括如下步骤:获取多媒体服务器端采集的原始视频流;
对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;
依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;
获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;
根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0006] 在本实施例中,通过连接安全接入机获取多媒体服务器端采集的原始视频流。
[0007] 在本实施例中,对所述原始视频流进行帧间差异性解码校验,得到核心数据流具体包括:对所述原始视频流进行逐帧解码,得到连续的图像帧序列;
通过所述图像帧序列确定像素阈值
依据所述像素阈值筛选所述图像帧序列中每张图像帧的核心数据,进而得到核心数据流。
[0008] 在本实施例中,通过所述核心数据流确定多媒体服务器端传输的核心像素具体包括:对所述核心数据流进行时空协同过滤,得到联合掩码;
依据所述联合掩码筛选核心像素数据;
对所述核心像素数据进行编码,得到多媒体服务器端传输的核心像素。
[0009] 在本实施例中,基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像具体包括:构建空白图像矩阵;
确定所述原始视频流中的图像帧的补偿域;
利用该空白图像矩阵基于所述核心像素对所述补偿域进行补偿重构,得到核心重构图像。
[0010] 在本实施例中,依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点具体包括:对所述核心重构图像分别执行膨胀和腐蚀过滤操作,得到所述核心重构图像的过滤重合区;
从所述过滤重合区中筛选图像重构时的重构核心点;
通过边缘检测算法基于所述过滤重合区从所述核心重构图像中标记图像重构时的边界篡改点。
[0011] 在本实施例中,通过时空分割算法获取所述原始视频流的时空信息。
[0012] 在本实施例中,所述多媒体服务器为混合通信服务器。
[0013] 在本实施例中,所述多媒体客户端为软件客户端。
[0014] 第二方面,本申请提供一种多媒体数据传输系统,用于执行一种多媒体数据传输方法,所述传输系统包括:获取模,用于获取多媒体服务器端采集的原始视频流;
像素重构模块,用于对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;
图像过滤模块,用于依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;
关联聚合模块,用于获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;
修复传输模块,用于根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0015] 本申请公开的实施例提供的技术方案具有以下有益效果:首先,获取多媒体服务器端采集的原始视频流;其次,对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;接着,依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;然后,获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;最后,根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0016] 由此可见本申请中,可在高效视频传输过程中实现视频数据的防篡过滤修复,首先,通过获取服务器端的原始视频流,为后续操作提供基础数据,并对逐帧解码和差异性分析,提取视频中的核心数据流,以减少冗余信息的传输,降低带宽压;其次,通过核心数据流确定传输的核心像素,进而进行图像重构,得到核心重构图像,能够补充丢失或篡改的部分,并通过提取和利用核心像素,解决传输过程中丢失或错误的数据,从而避免了传输图像帧质量的下降;然后,通过对核心重构图像进行膨胀和腐蚀形态过滤操作,进一步地从核心重构图像中提取被篡改的区域和核心像素,为图像修复和完整性保证提供了准确的待修复点和关键数据,有利于图像的高质量输出,并综合考虑时间和空间因素,将边界篡改点进行时空关联,能够有效修复由网络传输过程中丢包或篡改产生的错误,确保修复后图像的完整性;最后,基于修复算子对关联聚合图像进行修复传输,可保证客户端最终收到的视频流质量不受影响。
[0017] 综上所述,本申请采用的技术方案可在高效视频传输过程中实现视频数据的防篡过滤修复,以提高多媒体客户端接收视频流的质量。附图说明
[0018] 为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见的,下面描述中的附图仅仅是本申请的本实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
[0019] 图1是根据本申请提供的一种多媒体数据传输方法的流程图;图2是根据本申请提供的确定核心数据流的示例性流程图;
图3是根据本申请提供的确定图像重构时的重构核心点和边界篡改点的示例性流程图;
图4是根据本申请提供的一种多媒体数据传输系统的模块结构图。

具体实施方式

[0020] 下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0021] 本申请实施例提供一种多媒体数据传输方法及其系统,其核心是通过获取多媒体服务器端采集的原始视频流;再对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;接着,依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;然后,获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;最后,根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0022] 实施例一,为了更好地理解上述技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明,参考图1所示,该图是根据本申请本实施例所示的一种多媒体数据传输方法的示例性流程图,该传输方法包括如下步骤:在步骤S1中,获取多媒体服务器端采集的原始视频流。
[0023] 具体实现时,通过连接安全接入机获取多媒体服务器端采集的原始视频流,可采用安全接入机与多媒体服务器间建立物理或逻辑连接,以保证传输过程中数据的完整性和保密性,实际实现时,可以通过安全接入机配置网络隧道(如SSL VPN)并采用安全协议完成客户端与安全接入机的双向认证,从而解密视频流,并在校验数据完整性后,将解密得到的视频流作为多媒体服务器端采集的原始视频流。
[0024] 需要说明的是,本申请通过安全接入机进行原始视频流的获取,可有效增强数据传输的安全性和稳定性,有利于保证视频数据的保密性,以初步阻止未授权设备或用户的非法访问,防止数据被拦截或篡改,从而有利于提高原始视频流在多媒体服务器传输至多媒体客户端过程中的机密性和抗篡改性。
[0025] 在步骤S2中,对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像。
[0026] 优选的,在本实施例中,参考图2所示,该图是本申请实施例中确定核心数据流的示例性流程图,本实施例中对所述原始视频流进行帧间差异性解码校验,得到核心数据流可采用下述步骤实现:首先,在步骤S21中,对所述原始视频流进行逐帧解码,得到连续的图像帧序列;
然后,在步骤S22中,通过所述图像帧序列确定像素阈值;
最后,在步骤S23中,依据所述像素阈值筛选所述图像帧序列中每张图像帧的核心数据,进而得到核心数据流。
[0027] 具体实现时,首先,可通过标准视频解码算法将原始视频流解码为多张独立的图像帧,并将所有图像帧按生成时间排序得到的序列作为像帧序列,作为一个优选的实施例,所述标准视频解码算法可使用H.265,便于在有限带宽下传输更高质量的视频数据,在其他实施例中也可采用其他标准视频解码算法,这里不做限定;然后,对于所述图像帧序列中的每张图像帧,将该图像帧中所有像素的平均值和标准差进行加权求和得到的值作为该图像帧的加权像素值,进而得到所述图像帧序列中的每张图像帧的加权像素值,再将所有加权像素值的均值作为像素阈值,其中,可通过回归分析法确定每张图像帧中所有像素的平均值和标准差的求和权重;最后,对于所述图像帧序列中的每张图像帧,将该图像帧中大于所述像素阈值的像素作为该图像帧的核心数据,进而得到所述图像帧序列中的每张图像帧的核心数据,并通过哈夫曼编码器对所有的核心数据进行压缩编码,得到核心数据流。
[0028] 需要说明的是,本申请通过提取核心数据流,可保留核心视频数据,减少视频数据流传输的带宽需求,提高了传输速度,有利于对传输中的恶意篡改行为进行有效过滤和识别,从而有利于提升多媒体服务器到多媒体客户端的传输效率。
[0029] 在本实施例中,通过所述核心数据流确定多媒体服务器端传输的核心像素具体可采用下述方式,即:对所述核心数据流进行时空协同过滤,得到联合掩码;
依据所述联合掩码筛选核心像素数据;
对所述核心像素数据进行编码,得到多媒体服务器端传输的核心像素。
[0030] 具体实现时,通过计算帧间变化的像素差异和波动幅度,计算所述核心数据流中无显著变化的区域,并根据邻域相似性筛选所述核心数据流的重要区域,进而将过滤后的核心数据编码为1,过滤掉的核心数据编码为0,得到联合掩码,其中,计算和筛选过程均可通过高斯滤波器完成,所述联合掩码为筛选核心像素数据的标准码,可防止视频数据流在传输过程中被篡改和截取。
[0031] 另外,具体实现时,对多媒体服务器至客户端传输过程中的数据流进行过滤筛选,并将所述联合掩码作为过滤条件,通过高斯滤波器保留过滤条件识别为1的数据,并将过滤筛选得到的数据均作为核心像素数据;最后,通过H.265压缩编码算法对核心像素数据进行编码,得到多媒体服务器端传输的核心像素。
[0032] 需要说明的是,本实施例中,通过联合掩码能够确保核心像素提取的精确性,同时,通过过滤降低了带宽占用,提高了传输效率并保障数据传输的抗篡改性和抗误码能力,有利于视频数据流传输的可靠性。
[0033] 在本实施例中,基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像具体可采用下述方式,即:构建空白图像矩阵;
确定所述原始视频流中的图像帧的补偿域;
利用该空白图像矩阵基于所述核心像素对所述补偿域进行补偿重构,得到核心重构图像。
[0034] 具体实现时,首先,获取原始视频流的图像帧的分辨率,并基于该分辨率初始化一个空白图像矩阵,其中,所述空白图像矩阵由与原始视频帧相同的分辨率的空白像素组成;然后,所述补偿域为图像帧中需要修复或填补的像素区域,可利用插值法定位所述原始视频流中的图像帧的补偿域,能够有效避免遗漏区域导致的图像失真;最后,将核心像素的数值直接填入空白矩阵,并使用双线性插值对所述补偿域进行补偿,其中,对所述补偿域进行补偿重构的过程可通过下述表达式进行,即:
其中, 为补偿重构后的像素, 为核心像素的
非空集合,可通过筛选掉为0的像素确定,i表示第i个像素, 为第i个像素的权重因子,用于衡量核心像素对补偿位置的影响大小,可通过第i个像素的像素值与补偿域中的像素均值之比确定, 为第i个核心像素, 为补偿域;需要说明的是,通过对所述补偿域进行补偿重构,得到的核心重构图像清晰度更高,有利于视频数据的过滤修复。
[0035] 在步骤S3中,依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点。
[0036] 优选的,在本实施例中,参考图3所示,该图是本申请实施例中确定图像重构时的重构核心点和边界篡改点的示例性流程图,本实施例中依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点可采用下述步骤实现:首先,在步骤S31中,对所述核心重构图像分别执行膨胀和腐蚀过滤操作,得到所述核心重构图像的过滤重合区;
然后,在步骤S32中,从所述过滤重合区中筛选图像重构时的重构核心点;
最后,在步骤S33中,通过边缘检测算法基于所述过滤重合区从所述核心重构图像中标记图像重构时的边界篡改点。
[0037] 具体实现时,首先,对核心重构图像中的高亮区域(核心重构图像中像素值大于平均像素值的区域)进行扩展,通过填补连接邻近的像素区域,对核心重构图像中的高亮区域进行收缩,去除孤立的噪声点或薄化边缘,可通过使用正方形元执行膨胀和腐蚀操作,其中,膨胀操作使核心重构图像的潜在边界变得更突出,有助于边界检测,腐蚀操作去除背景噪声,可保留核心重构图像的显著信息为重构核心点和篡改点的提取提供支撑,进而将膨胀和腐蚀操作结果的交集区域为过滤重合区;然后,遍历过滤重合区内的像素,选择像素值显著或梯度变化显著的点作为重构核心点,可通过统计分析确定,其中,所述重构核心点是核心重构图像的关键区域,可为边界检测提供有效参考;最后,使用边缘检测算法(例如:Canny算法、Sobel算法或其他边缘检测算法)对过滤重合区的边缘进行提取,并在边缘检测的基础上结合高斯模糊筛选边界篡改点,并通过该边缘检测算法对筛选得到的边界篡改点进行标记,便于追踪和修复图像,从而优化多媒体客户端接收到的视频流。
[0038] 需要说明的是,本申请中的重构核心点是核心重构图像中可信度高的像素区域,可对后续图像修复有稳定的参考基准边界篡改点是形态学过滤后的噪声边界或图像特征不一致的像素,标记边界篡改点有利于识别篡改的边界位置,隔离篡改内容,进而有利于提高多媒体客户端接收视频流的质量。
[0039] 在步骤S4中,获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像。
[0040] 需要说明的是,本申请中,通过时空分割算法获取所述原始视频流的时空信息,使用时空分割算法对原始视频流进行分析,提取原始视频流的时间特征和空间特征,进而将时间特征和空间特征的组合作为时空信息,其中,所述时间特征用于描述视频流中帧间变化的趋势,例如:像素变化频率和帧间差异值,所述空间特征用于描述单帧图像的局部纹理、边缘分布、区域形状的特征,另外,本实施例中,通过时空信息可提供边界篡改点的上下文信息,便于关联邻近像素的特征,从而有利于降低图像帧的噪声。
[0041] 在本实施例中,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像具体可采用下述方式,即:通过所述时空信息中的时间特征对边界篡改点进行时间轴上的连续性分析,得到连续的边界篡改点;
通过所述时空信息中空间特征对边界篡改点进行空间上的局部区域聚合,得到聚合的边界篡改点;
对所述连续的边界篡改点和所述聚合的边界篡改点进行关联聚合,得到关联聚合图像。
[0042] 具体实现时,首先,利用时间加权滑动窗口算法,在一个时间窗口内剔除噪声点,通过时间窗口的滑动得到连续的边界篡改点;然后,采用区域增长算法提取边界篡改点的空间分布特性,并基于该区域增长算法和所述空间分布特性对边界篡改点进行局部区域聚合,剔除边界篡改点中的孤立点,进而得到聚合的边界篡改点;最后,基于动态规划算法初始化一个时空关联聚合模型,将所述连续的边界篡改点作为该时空关联聚合模型时间方向的输入,并将所述聚合的边界篡改点作为该时空关联聚合模型空间方向的输入,通过该时空关联聚合模型输出关联聚合图像。
[0043] 需要说明的是,本实施例中的时空关联聚合模型是一个基于时间和空间双重维度的优化处理机制的数学模型,用于处理和分析时空数据中的信息,以便在时间和空间两个维度上有效地识别和聚合具有相关性的数据点,时空关联聚合模型从边界篡改点等数据中提取时空关联信息,通过对时间和空间上的数据进行联合分析和优化,得到更加准确和连续的图像,可提升数据的完整性和修复效果,以提高视频流的流畅性。
[0044] 在步骤S5中,根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0045] 具体实现时,所述重构核心点是通过形态学过滤提取的核心重构图像中最为关键的像素点,所述重构核心点包括核心重构图像的纹理、边缘、光照等特征,这些特征会影响修复算子的应用,因此,可将所述重构核心点作为的初始化参数对卷积神经网络和边缘检测算子进行回归分析,并通过边缘修复算法对初始化后的卷积神经网络进行迭代训练,当卷积神经网络的失真率最小时,将此时卷积神经网络中的边缘检测算子作为图像修复算子。
[0046] 需要说明的是,通过重构核心点初始化卷积神经网络和边缘检测算子的回归分析并结合边缘修复算法能够有效地训练边缘修复算子,从而有利于在多媒体服务器端到多媒体客户端的传输过程中实现图像帧的精确修复。
[0047] 在本实施例中,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流具体可采用下述方式,即:在多媒体服务器传输至多媒体客户端的通道中建立一个图像帧修复模型;
所述图像帧修复模型基于所述图像修复算子对所述关联聚合图像进行修复,通过所述图像帧修复模型输出修复后的图像数据,进而得到多媒体客户端接收的视频流。
[0048] 具体实现时,可部署一个服务器在多媒体服务器传输至多媒体客户端的通道之间,并采用生成对抗网络学习图像修复的特征,在该服务器上部署图像帧修复模型;然后,在所述关联聚合图传输至图像帧修复模型时,所述图像帧修复模型基于图像修复算子恢复缺失或篡改的图像数据,并通过所述图像帧修复模型输出修复后的图像数据,再通过H.265压缩编码算法对连续输出的图像数据进行编码,得到多媒体客户端接收的视频流。
[0049] 需要说明的是,本申请中通过在多媒体服务器传输至多媒体客户端的通道中建立图像帧修复模型,并利用该模型对关联聚合图像进行修复,能够有效地提升视频流的质量,通过修复算子便于对视频流在传输过程中对篡改或丢失的数据进行精确修复,确保视频质量的完整性和连续性。
[0050] 由此可见本申请中,可在高效视频传输过程中实现视频数据的防篡过滤修复,首先,通过获取服务器端的原始视频流,为后续操作提供基础数据,并对逐帧解码和差异性分析,提取视频中的核心数据流,以减少冗余信息的传输,降低带宽压力;其次,通过核心数据流确定传输的核心像素,进而进行图像重构,得到核心重构图像,能够补充丢失或篡改的部分,并通过提取和利用核心像素,解决传输过程中丢失或错误的数据,从而避免了传输图像帧质量的下降;然后,通过对核心重构图像进行膨胀和腐蚀形态过滤操作,进一步地从核心重构图像中提取被篡改的区域和核心像素,为图像修复和完整性保证提供了准确的待修复点和关键数据,有利于图像的高质量输出,并综合考虑时间和空间因素,将边界篡改点进行时空关联,能够有效修复由网络传输过程中丢包或篡改产生的错误,确保修复后图像的完整性;最后,基于修复算子对关联聚合图像进行修复传输,可保证客户端最终收到的视频流质量不受影响。
[0051] 综上所述,本申请采用的技术方案可在高效视频传输过程中实现视频数据的防篡过滤修复,以提高多媒体客户端接收视频流的质量。
[0052] 实施例二,本申请提供一种多媒体数据传输系统,参考图4所示,该图是根据本申请本实施例所示的传输系统的示意图,传输系统包括:获取模块100,用于获取多媒体服务器端采集的原始视频流;
像素重构模块200,用于对所述原始视频流进行帧间差异性解码校验,得到核心数据流,通过所述核心数据流确定多媒体服务器端传输的核心像素,进而基于所述核心像素对所述原始视频流中的图像帧进行图像重构,得到核心重构图像;
图像过滤模块300,用于依据所述核心重构图像的像素信息对所述核心重构图像进行形态学过滤,得到图像重构时的重构核心点和边界篡改点;
关联聚合模块400,用于获取所述原始视频流的时空信息,通过所述时空信息中的时间特征和空间特征对所述边界篡改点进行时空关联聚合,得到关联聚合图像;
修复传输模块500,用于根据所述重构核心点确定图像修复算子,基于所述图像修复算子对所述关联聚合图像进行修复传输,进而得到多媒体客户端接收的视频流。
[0053] 本申请是参照根据本申请实施例的方法、设备(系统)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框,以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0054] 本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一种计算机可读存储介质中,存储介质包括只读存储器(Read‑Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read‑only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、一次可编程只读存储器(One‑time Programmable Read‑Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically‑Erasable Programmable Read‑Only Memory,EEPROM)、只读光盘(Compact Disc Read‑Only Memory,CD‑ROM)或其他光盘存储器、磁盘存储器、磁带存储器,或者能够用于携带或存储数据的计算机可读的任何其他介质。
[0055] 还需要说明的是,术语“包括”“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
QQ群二维码
意见反馈