首页 / 专利库 / 广播 / 帧内预测 / 媒体流式传输分发系统

媒体流式传输分发系统

阅读:990发布:2024-02-21

专利汇可以提供媒体流式传输分发系统专利检索,专利查询,专利分析的服务。并且一种 媒体流 式传输分发系统,用于在网络中发生的分组丢失的影响到达低速通信如无线电通信的基站之前,减小该分组丢失的影响的扩散。该系统包括:媒体分发设备,用于通过实时传输协议向网络分组发送媒体流;以及基站,用于通过低速通信如无线电通信发送媒体流。该系统还包括分组分析设备,用于监控到达无线电基站的分组以及向媒体分发设备发送与分组丢失相关的反馈信息。根据来自中继设备和媒体流的终端设备的反馈,有可能获得从媒体分发设备到中继设备的传输速率和从中继设备到终端设备的传输速率,从而在更大的传输速率下,剩余带宽用于重发和前向错误校正,由此提高通信 质量 。,下面是媒体流式传输分发系统专利的具体信息内容。

1.一种媒体流式传输传送系统,包括:
媒体传送设备,用于根据实时传输协议以分组的形式向网络发送媒体 流;
中继设备,其连接到所述网络,用于向具有大延迟的通信链路发送所 述媒体流;以及
分组分析装置,用于监控到达所述中继设备的所述分组,以及向所述 媒体传送设备发送指示所述网络状态的反馈信息。
2.根据权利要求1所述的传送系统,其中所述反馈信息是每当所述媒 体流的分组到达时被发送给所述中继设备的确认响应。
3.根据权利要求1所述的传送系统,其中所述反馈信息是从所述媒体 流丢失的分组的顺序号。
4.根据权利要求2或3所述的传送系统,其中所述媒体传送设备被配 置成根据所述反馈信息改变所述媒体流。
5.根据权利要求4所述的传送系统,其中所述具有大延迟的通信链路 是无线链路。
6.根据权利要求4所述的传送系统,
其中所述媒体流是包括一序列内编码的画面和预测编码的画面的 视频;以及
其中所述媒体传送设备包括:
存储器,用于存储一幅视频的多个媒体流,所述多个媒体流至少包括 以第一配置包含帧内编码画面的第一媒体流和以不同于所述第一配置的 第二配置包含帧内编码画面的第二媒体流;以及
切换装置,用于响应所述分组丢失的确定,为已发生丢失的目的地选 择其中在所述丢失分组中的画面之后的第一帧内编码画面最早出现在所 述多个媒体流当中的媒体流,以及把要发送的媒体流切换到所述选择的媒 体流。
7.根据权利要求6所述的传送系统,
其中所述媒体流是包括一序列帧内编码画面和预测编码画面的视频;
其中所述媒体传送设备包括用于产生所述媒体流的编码设备;以及
其中所述编码设备被配置成响应所述分组丢失的确定,产生以帧内编 码画面开始的媒体流。
8.一种分组分析设备,包括:
检测装置,其连接到网络,用于接收在所述网络中传输的分组以及检 测媒体流;以及
分组分析装置,用于检测在所述检测到的媒体流中的分组丢失以及执 行向所述媒体流的源的反馈。
9.一种包括根据权利要求8所述的分组分析设备的网络中继设备,
其中所述网络中继设备向所述源发送从所述网络收到的、且被发送给 不同于所述网络的通信链路的分组识别信息。
10.根据权利要求9所述的中继设备,其中根据在组成所述媒体流的一 序列分组的头中包括的顺序号执行所述分组丢失的检测。
11.一种用于发送包括一序列分组的媒体流的媒体传送设备,
其中所述设备被配置成,响应与所述媒体流的传输路径上的分组丢失 有关的反馈,改变所述媒体流以便减小所述丢失的影响。
12.根据权利要求11所述媒体传送设备,
其中所述媒体流是包括一序列帧内编码画面和预测编码画面的视频;
其中所述媒体传送设备包括用于产生所述媒体流的编码设备;以及
其中所述编码设备被设置成响应所述分组丢失的确定,产生以帧内编 码画面开始的媒体流。
13.根据权利要求12所述的媒体传送设备,其中与所述分组丢失有关 的所述反馈是与在所述传输路径从具有小延迟的链路切换到具有大延迟 的链路的点处观测的所述分组丢失有关的反馈。
14.根据权利要求13所述的媒体传送设备,其中所述具有小延迟的链 路是有线链路,以及所述具有大延迟的链路是无线链路。
15.根据权利要求11所述的媒体传送设备,其中所述媒体流是包括一 序列帧内编码画面和预测编码画面的视频,所述媒体传送设备包括:
存储器,用于存储一幅视频的多个媒体流,所述多个媒体流至少包括 以第一配置包含帧内编码画面的第一媒体流和以不同于所述第一配置的 第二配置包含帧内编码画面的第二媒体流;以及
切换装置,用于响应所述分组丢失的确定,为已发生丢失的目的地选 择其中在所述丢失分组中的画面之后的第一帧内编码画面最早出现在所 述多个媒体流当中的媒体流,以及把要发送的媒体流切换到所述选择的媒 体流。
16.根据权利要求15所述的媒体传送设备,其中所述编码设备被配置 成,根据来自所述分组分析设备的反馈信息响应分组丢失的检测,所述编 码设备至少为被发送给已发生所述丢失的目的地的媒体流增加帧内编码 画面的频率
17.根据权利要求15所述的媒体传送设备,其中所述编码设备被配置 成,根据来自所述分组分析设备的反馈信息响应所述分组丢失的检测,所 述编码设备向已发生所述丢失的目的地发送以帧内编码画面开始的媒体 流。
18.根据权利要求14所述的媒体传送设备,其中所述媒体传送设备根 据所述与分组丢失有关的反馈信息执行所述的分组重发。
19.一种用于连接具有小延迟的通信链路与具有大延迟的通信链路的 中继设备,包括:
第一反馈设备,用于接收在所述具有小延迟的链路上传输的媒体流的 分组,以及向传输源发送包括预定时期内的分组丢失率的信息;
调节装置,用于根据所述具有大延迟的通信链路的传输能调节从所 述网络收到的分组的通过;以及
第二反馈设备,用于把关于通过所述调节装置发送到所述通信链路的 分组的确认响应发送给所述传输源。
20.根据权利要求19所述的中继设备,其中所述第二反馈设备把在通 过所述调节装置发送到所述具有大延迟的通信链路的所述分组的头中包 含的顺序号发送给所述传输源。
21.一种媒体流传送系统,包括:
媒体传送设备,用于利用实时传输协议以分组的形式向网络发送媒体 流;
中继设备,其连接到所述网络,用于向具有大延迟的通信链路发送所 述媒体流,所述中继设备包括:
第一反馈设备,用于接收在所述网络中传输的所述媒体流的分 组,以及向传输源发送包括预定时期内的分组丢失率的信息;
调节装置,用于根据所述具有大延迟的通信链路的传输能力调节 从所述网络收到的分组的通过;以及
第二反馈设备,用于把关于通过所述调节装置发送到所述通信链 路的分组的确认响应发送给所述传输源。
22.根据权利要求21所述的媒体流传送系统,其中所述具有大延迟的 通信链路是无线链路,以及其中所述系统被配置成,如果无线终端的接收 缓冲器大,则根据来自所述无线终端的确认响应执行重发。
23.根据权利要求21所述的传送系统,其中所述具有大延迟的通信链 路是无线链路,以及其中所述系统被配置成,如果无线终端的接收缓冲器 不是大得足以提供从所述媒体传送设备的重发,则所述中继设备发送添加 了错误校正码的媒体流。
24.根据权利要求21所述的传送系统,其中所述具有大延迟的通信链 路是无线链路,以及其中所述系统被配置成,如果无线终端的接收缓冲器 小,则所述媒体传送设备把错误校正码添加到所述具有小延迟的通信链路 上传输的媒体流。

说明书全文

技术领域

发明涉及媒体流式传输(streaming),尤其是涉及以下情况下的流 式传输,其中在流传输路径上的延迟变得比传输路径的中间位置的延迟 大,例如媒体流经过末段(last-hop)的无线蜂窝链路被发送给客户的情况。 注意,虽然在以下说明中取无线蜂窝链路作为具有大延迟的传输路径的例 子,但是本发明不限于此。

背景技术

近些年来,由于通信技术的快速发展,通过无线通信执行多媒体传输 已成为可能。为了使接收无线数据传输的客户实时地重放多媒体,通信路 径上的服务质量(QoS)控制(传输速率控制和分组丢失复原能控制) 变得重要。
以下所示的非专利文件1公开了无线基站包括在整形点(流量控制点) 之后的实时传输协议(RTP)监控代理。RTP监控代理监控到达无线基站 并且要经过无线蜂窝链路被传送的多媒体流,并且把指示从媒体服务器到 无线基站的有线网络中的拥塞状态的信息反馈给媒体服务器。从无线基站 无线地接收数据分组的客户根据实时传输控制协议(RTCP)向媒体服务 器发送接收确认信息。
媒体服务器根据来自RTP监控代理的反馈信息和来自客户的接收报 告,确定有线网络中的拥塞状态和无线链路上的链路错误条件。当由于有 线网络中的拥塞造成了分组丢失时,媒体服务器减小媒体流传输速率,当 由于无线链路中的错误造成了分组丢失时,媒体服务器提高媒体编码的分 组丢失复原能力。例如,可以通过提高视频编码中的内编码率来提高分 组丢失复原能力。
在该类型的常规技术中,一旦发生分组丢失,则在提高分组丢失复原 能力之前,需要相当多的时间。在由于响应有线网络中的拥塞的流量控制 由网络队列将视频流中包含帧内编码画面(I画面)的分组丢弃,然后多 个随后的预测编码画面(P画面)的分组经过末段的无线链路被发送的情 况下,因为不能获得所需的作为重构P画面的参考的I画面,因此客户不 能重构这些P画面。而且,即使当P画面被丢弃了,在下一个I画面到达 之前,取决于该丢弃的P画面的所有P画面都不能被重构。在一般的传输 控制协议(TCP)通信中,根据反馈信息重发丢失的分组。然而,在其中 媒体被实时地重构和重放的流式传输(streaming)中,在客户的缓冲器尺 寸小的这种情况下,重发可能太迟。当由于有线网络中的拥塞造成了分组 被丢弃时,不仅丢弃的分组发生了重构错误,而且在随后成功收到的分组 中包含的P画面也发生了重构错误。
因此,需要减小这种错误传播现象,即在从低速通信如无线通信的基 站向上的网络中发生的分组丢失对随后的分组中包含的媒体的重构有影 响。

发明内容

根据本发明一方面的媒体流式传输(streaming)传送系统包括:媒体 传送设备,用于根据实时传输协议以分组的形式向网络发送媒体流;以及 连接到网络的无线基站,用于通过低速通信如无线电通信发送媒体流。该 系统还包括分组分析设备,用于监控到达无线基站的分组以及向媒体传送 设备发送与分组丢失有关的反馈信息。
根据本发明的另一方面,提供一种在上述系统中包括的媒体传送设 备。
根据本发明的实施例,分组分析设备把分组头中包含的顺序号作为反 馈信息发送给媒体传送设备。
此外,在本发明的实施例中,媒体传送设备根据反馈信息确定分组丢 失,并且取决于确定的分组丢失,改变媒体流以便减小分组丢失的影响。
根据本发明的实施例,媒体流是包括一序列I画面和P画面的电影。 媒体传送设备包括存储器,该存储器用于存储一个电影的多个媒体流,所 述多个媒体流至少包括以第一配置包含I画面的第一媒体流和以不同于第 一配置的第二配置包含I画面的第二媒体流。
媒体传送设备还包括切换装置,其用于响应分组丢失的确定,为已发 生丢失的目的地选择其中在丢失分组中的画面之后的第一I画面最早出现 在多个媒体流当中的媒体流,以及把要发送的媒体流切换到选择的媒体 流。这样能够减少错误传播现象,即分组丢失对随后分组中包含的媒体的 重放有影响。
在本发明的实施例中,提供具有不同的帧内编码I画面的频率的媒体 流,并且响应分组丢失把媒体流切换到具有更高的I画面频率的媒体流。
此外,根据本发明的另一方面,媒体传送设备还包括用于产生媒体流 的编码设备。该编码设备被配置成响应分组丢失的确定产生以I画面开始 的媒体流。
根据本发明的实施例,编码设备根据来自分组分析设备的反馈信息响 应分组丢失的检测,至少为被发送给已发生丢失的客户的媒体流提高I画 面的频率。
此外,根据本发明的实施例,媒体传送设备从作为媒体流的目的地的 无线终端接收关于分组接收的客户反馈信息,并且根据客户反馈信息和来 自分组分析设备的反馈信息判断是在网络中的有线传输中还是在从无线 基站的无线传输中发生了分组丢失。
此外,在本发明的实施例中,媒体传送设备根据关于分组丢失的反馈 信息执行分组重发。
此外,根据本发明的实施例,根据来自媒体流中继设备和终端两者的 反馈,来获得从媒体传送设备到中继设备的传输速率和从中继设备到终端 的传输速率,并且把剩余带宽用于更大传输速率的一侧的重发和前向错误 校正,由此提高通信质量。
附图说明
图1所示框图显示了本发明实施例的概念。
图2所示框图显示了本发明实施例的结构。
图3所示框图显示了本发明的替换实施例的结构。
图4所示的图显示了视频压缩编码格式的例子。
图5所示的图显示了运动图像专家组(MPEG)I画面和P画面序列 的例子。
图6所示的顺序图显示了根据本发明第一实施例和第二实施例的通 信顺序。
图7所示框图显示了本发明又一实施例的概念。
图8所示框图显示了图7中的实施例的详细结构。
图9所示的顺序图显示了根据本发明第三实施例的通信顺序。

具体实施方式

以下将参照附图说明本发明的实施例。图1所示框图显示了本发明的 实施例的总体结构。媒体传送设备11执行多媒体的实时传送。多媒体包 括图像、音频、文本、图形等,每一种多媒体的流被分组发送,并且由接 收设备实时地重构和重放。在以下说明中,相对于视频流来说明这些媒体。 媒体传送设备11能够以点播发送的形式传送媒体流,或者以广播的形式 传送媒体流。
当媒体传送请求来自无线终端19,如移动电话、便携式终端(PDA, 个人数字助理)、配有无线通信设备的计算机,媒体传送设备11就把媒体 流分组,将实时传输协议(RTP)头和网际协议(IP)头加到媒体流分组 上,并且经由有线网络21发送媒体流分组。分组根据IP被路由,并且到 达无线基站10。IP是一种无连接通信协议,当网络上发生拥塞时,溢出 网络队列中的分组可以从网络被丢弃。
无线基站10把从网络21收到的分组发送给无线终端19。根据本发明, 为无线基站10提供分组分析设备15,其监控到达无线基站10的媒体流分 组。可以通过IP头中包括的一对源地址和目的地址以及用户数据报协议 (UDP)头中包括的一对源端口号和目的端口号,来识别被发送到特定的 无线终端19的一序列媒体流分组。如以下将要说明的,RTP头被包括在 分组中,且RTP头包括相对于媒体流中的该分组唯一的顺序号。
当检测到具有相同的源地址和目的地址以及相同的源端口号和目的 端口号的一序列分组的流动时,分组分析设备15把RTP头中包含的分组 号的反馈(ACK,确认)提供给媒体传送设备11。媒体传送设备11能够 由该反馈信息检测分组丢失。当媒体传送设备11由分组顺序号检测到I 画面分组丢失了,媒体格式被切换到具有更高的I画面频率的格式。
利用该操作,无线终端19能够早一些收到I画面,因此能够防止视 频重构质量的下降。
接下来参考图2对本发明的实施例进行更详细的说明。媒体传送设备 11以两种不同的格式把视频内容A、B、C和D存储到多媒体内容数据库 27中。即,视频A以第一格式被存储为视频内容A1,以第二格式被存储 为A2。类似,视频B以第一格式被存储为B1,以第二格式被存储为B2, 视频C以第一格式被存储为C1,以第二格式被存储为C2。
图5显示了两种格式的例子。图5(A)显示了第一格式的例子,图5 (B)显示了第二格式的例子。第二格式被设置为具有比第一格式更高的 I画面频率。在图5中,I表示帧内编码的I画面,P表示基于I画面被预 测编码的P画面。当在I画面与P画面之间有另一个前面的P画面,则P 画面基于I画面和该前面的P画面被预测编码。在该实施例中,电影按照 MPEG4被编码。
根据MPEG4标准,输入图像的帧(画面)被分类为I画面和P画面, 其中对于每一I画面,只利用该帧的信息对其进行编码,与其它帧中的图 像无关,对于每一P画面,基于I画面对其进行预测;并且残余预测误差 被编码用于传输。
每一I画面和P画面都通过离散余弦变换(DCT)被转换成DCT系 数。DCT系数和运动矢量信息被加密编码。此时,一幅画面被分为8×8 的象素,并且对每一象素块执行DCT。四个相邻的象素块组合成一个宏 块(MB),多个宏块组合为一块组(GOB)。如图4(B)所示,多个宏块 被置于一个分组内并被发送。
在该实施例中,媒体传送设备11执行点播多媒体传送。在图中只显 示了视频内容,但是将与视频同步的且被重构的音频内容也类似地存储在 数据库中,且与视频内容并行地被发送。
格式切换部分29响应来自反馈控制部分35的指令,把从数据库27 中提取的内容在第一格式与第二格式之间切换。
分组分析设备15中包括的多媒体流检测部分37从到达无线基站10 的IP分组当中检测包含RTP头的分组,并且根据分组的一对源地址和目 的地址以及一对源端口号和目的端口号检测多媒体流。RTP头监控部分39 监控在多媒体流检测部分37检测到的多媒体流IP分组中包含的RTP头, 并检查在RTP头中包含的分组顺序号。当通过检查跨过多个分组的顺序号 检测到顺序号的丢失时,RTP头监控部分39把用于识别丢失的IP分组的 信息发送给反馈发生器41。在一个实施例中,用于识别IP分组的信息包 括源地址、目的地址以及丢失的RTP分组的顺序号。此外,在另一实施例 中,RTP监控部分39不是把丢失的RTP分组的顺序号发送给反馈发生器 41,而是每当检测到RTP分组就把RTP分组的顺序号发送给反馈发生器 41。
一旦收到每一RTP分组,反馈发生器41就将该RTP分组的顺序号作 为ACK返回给源地址。在替换的实施例中,反馈发生器41响应发自RTP 头监控部分39的信息,根据一序列RTP分组的顺序号判定在预定的时期 内是否有RTP分组丢失了,并把丢失的RTP分组的顺序号发送给源地址。 在这种情况下的反馈中,实时传输控制协议(RTCP)也可以被扩展和发 送。这些被发送到有线网络21。
媒体传送设备11的反馈控制部分35从分组分析设备15接收反馈信 息,并且响应丢失分组的顺序号的接收,发送媒体格式切换指令给格式切 换部分29。在另一实施例中,反馈控制部分35根据发自分组分析设备15 的ACK信息监控丢失的分组的顺序号,并且当检测到丢失的分组时,发 送媒体格式切换指令给格式切换部分29。
在所有的实施例中,当检测到分组丢失时,反馈控制部分35发送格 式切换指令给格式切换部分29。当丢失的分组是P画面的,其影响小于I 画面的情况。因此,如果切换的作用较小(例如,当在下一个I画面之前 只有几个P画面时等),可以忽略格式切换。
现在,假设第一格式的媒体A1被提供给无线终端19,格式切换部分 29把流切换到第二格式的媒体A2。再参考图5(A),在媒体A1流中, 假设丢失的是一个或多个包含I画面51的宏块的分组,或者是包含P画 面51a的宏块的分组。格式切换部分29响应来自反馈控制部分35的指令, 把媒体切换到第二格式的A2,并且在媒体A1中的I画面51或P画面51a 丢失之后,从最先出现在媒体A2中的I画面57开始发送。
在无线终端19,因为一个或多个I画面51的分组或P画面51a的分 组丢失了,因此随后的根据I画面51或P画面51a被编码的P画面51b、 51c、51d和51e不能被正确地重构。然而,媒体传送设备11把媒体格式 切换到具有更高的I画面频率的第二格式,并且从图5(B)所示的第二格 式的I画面57开始发送。因此,无线终端19能够正确地从I画面57重构 媒体。
图6显示了在根据本发明的媒体传送系统中的通信和处理顺序的例 子。
从数据库27中提取的内容在分组部分31被分组,然后从流发送部分 33被发到有线网络21。参考图6,流发送部分33执行RTP处理例程111 和RTCP处理例程113。
RTP处理例程111把用于识别压缩编码格式的压缩码头加到对应于一 个分组的压缩数据上,并且还添加RTP头、UDP头和IP头。图4(A) 显示了这种分组格式的例子。RTP头包含分组顺序号。用随机数确定该顺 序号的初始值,并且把从该初始值开始的序号加到每一分组。RTP头包含 同步源(SSRC)标识符。对于该标识符,相同的值被加到应该被组合处 理的多个流上,例如,同一用户的声音流和图像流。
处理例程111向RTP分组添加RTP头、UDP头和IP头,以便根据 UDP/IP协议进行传输。IP头包含指示传输源的源地址,和指示客户的目 的地址。而且,UDP头包含指示传输源的端口号的源端口号,和指示客户 的端口号的目的端口号。
图4(B)显示了一帧中的画面怎样按照MPEG标准被分为多个分组 并被发送。例如,由于I画面的大信息容量,I画面被分为多个分组,然 后被发送。当在网络上发生大量拥塞时,可以丢弃一部分I画面分组,并 且有可能完整的I画面没有到达无线终端19。在图4(B)中,GOB表示 一块组,MB表示宏块。
RTCP处理例程113与发送RTP分组的网络交换控制信息。RTCP(RTP 控制协议)是一种补充RTP的协议,其中发送设备和接收设备相互通知控 制信息,由此实现流量控制、时钟同步,以及媒体之间例如音频数据和视 频数据之间的同步。
在RTP分组发送之前,RTCP处理例程113把作为信息源的描述的源 描述(SDES)转变成RTCP分组115,并利用添加了IP头和UDP头的 UDP/IP协议将其发送到网络上。此后,RTP处理例程111按顺序向网络 发送RTP分组117、119和121。
在图2中,位于无线基站10前面的整形点(shaping point)13代表一 个或多个中继设备,其管理从媒体传送设备11到无线基站的路径上的有 线网络中的流量控制。无线基站10配有例如作为整形点的对应部件的3 层交换机(layer 3 switch),用于缓冲以高速从有线网络21收到的分组, 以及以适于无线基站10的无线部分的处理速度的速度将收到的分组提供 给无线基站10的无线部分。
参考图6,根据RTCP分组115和随后的RTP分组117、119和121, 无线基站10的分组分析设备15检测到它们是同一媒体流的部分,并且由 在预定时期内收到的分组计算分组丢失率、不稳定性等(131)。然后,分 组分析设备15将这些信息加到要发往媒体传送设备11的RTCP分组上, 并把该RTCP分组发送到有线网络上。
每当分组分析设备15检测到来自媒体传送设备11的同一媒体流的 RTP分组,它就把包含该RTP分组的顺序号的接收确认信号(ACK)发 送给媒体传送设备11。在替换的实施例中,分组分析设备15不是每当收 到RTP分组就返回ACK,而是监控属于同一媒体流的RTP分组的顺序号 是否相连。当分组分析设备15检测到顺序号遗漏了,它就把包含丢失的 RTP分组的顺序号的接收失败信号(NACK)发送给媒体传送设备11。
在媒体传送设备11的RTCP处理例程113中,当收到作为已发出的 RTCP分组115的响应的RTCP分组133时,取决于分组丢弃率和其中包 含的其它控制信息,改变要发出的媒体流的传输速率。而且,当在RTCP 处理例程113中检测到的分组丢失率较高时,反馈控制部分35向格式切 换部分29(图2)发送控制信号,以便把随后的媒体流格式切换到具有更 高的I画面频率的格式。
在媒体传送设备11的RTP处理例程111中,每当收到来自无线基站 10的ACK分组105、107和109,在ACK分组中包含的从无线基站10收 到的RTP分组的顺序号就被传送给反馈控制部分35。反馈控制部分35检 查是否有任何发出的分组没有到达无线基站10,即是否有任何分组丢失了 (141)。当反馈控制部分35检测到分组丢失了,然后反馈控制部分35判 断在该丢失的RTP分组中包含的数据是否为I画面(143)。当丢失的RTP 分组是I画面时,上述的格式切换过程(145)立即开始。
在步骤143,当确定丢失的分组是P画面时,然后确定丢失的分组是 否达到P画面丢失时的重发设置基准(147)。当P画面分组丢失时,其影 响小于I画面的情况。因此,当达到预定的基准值时,切换格式(149), 并且在达到该基准值之前,不切换格式。例如,可以这样设置基准值,以 至在下一个I画面之前只有几个P画面的情况下,不切换格式。
无线基站10的无线部分无线地发送收到的IP分组。无线终端19接 收无线通信,并重构媒体流。无线地发送和接收IP分组是公知的技术, 因此省略其详细说明。
取决于无线终端19的结构,无线终端19能够向媒体传送设备11发 送ACK信号。特别是,符合第三代伙伴计划(3GPP)标准的无线终端不 能象分组分析设备15一样发送ACK分组。当不需要符合该标准时,可以 把无线终端构造成发送ACK分组。反馈控制部分35比较来自分组分析设 备15的反馈信息与来自无线终端19的信息,由此可以知道从无线基站10 到无线终端19的无线通信的质量。当判定无线通信的质量较低时,反馈 控制部分35向格式切换部分29发出指令,以便把媒体格式切换到具有更 高的I画面频率的格式。媒体的格式不仅仅有两种类型。可以使用多种类 型的格式,并且取决于通信状态,可以在多种格式之间切换。例如,当以 具有较高的I画面频率的格式执行传输时,如果检测到足够好的通信状态, 则可以将格式切换到具有更低的I画面频率的格式。这样,媒体传送设备 11可以调节流传输的负荷。
接下来参考图3说明本发明的另一实施例。在图3中,用相同的附图 标记表示与图2中的实施例相似的元件。在媒体传送设备11处,输入的 图像30被编码部分28实时地压缩/编码,然后被分组部分31转变成分组, 然后作为媒体流被发送到有线网络21。输入的图像30可以是预先记录和 存储在存储设备中的图像,或者可以是如在中继广播一样利用摄像机实时 捕获的图像。
编码部分28根据已经说明的MPEG4标准对输入的图像进行编码。 编码部分28具有自动译码功能,该译码功能响应来自反馈控制部分35的 指令,改变编码中I画面的频率。即,当根据来自分组分析设备15的反馈 信息检测到在到达无线基站10的媒体流中丢失了包含I画面宏块的分组 时,编码部分28切换编码,以便增加I画面的频率。
接下来,说明根据来自无线基站的反馈执行丢失分组的重发的另一实 施例。
在无线链路中,延时通常较长。在媒体传送设备与无线基站之间来回 的时间比在无线基站与无线终端客户之间来回的时间短得多。因此,根据 被提供给无线终端的接收缓冲器的尺寸(即由于分组重发造成的分组到达 可以延迟的程度),当在从媒体传送设备到无线基站的有线网络上和从无 线基站到无线终端的无线链路中有任何分组丢失时,作为恢复丢失的分组 的一种形式,判断是在有线网络上还是在无线链路上重发丢失的分组,或 者执行前向错误校正(FEC),以便能够优化每一通信路径的吞吐量。利用 Reed-Solomon编码或本领域技术人员公知的其它错误校正编码专实现 FEC。而且,为了进一步提高抗突发错误能力,可以执行本领域技术人员 公知的交错处理。利用交错来提高校正突发错误的能力的公知例子是例如 用于CD-DA的交叉交错Reed-Solomon码(CIRC)。
为了在适当的时间执行分组重发和FEC,根据无线终端的接收缓冲器 的尺寸可以提供三种方式作为恢复两个通信路径上的丢失分组的形式。以 下详细说明这些方式。
图7显示了拥有这种功能的媒体流传送系统的总体结构。用相同的附 图标记表示与图1、2、3中相似的组成元件。无线基站10配有第一反馈 部分71,FEC解码器72,在无线基站执行流量控制的整形点13’,FEC发 生器18,第二反馈部分73,以及无线发送设备14。FEC解码器72,在利 用FEC恢复网络21上的丢失分组的方式(以下说明的方式3)下,用于 利用被发送到网络21上的错误校正编码信息恢复丢失的分组,以及消除 错误校正码并把数据的主体发送给下一级。当到达的分组超出了无线基站 的缓冲器容量时,整形点13’丢弃部分分组。即,整形点13’是用于调节分 组进入无线链路的速率的装置。FEC发生器18,在利用FEC恢复无线设 备14与无线终端19之间的无线链路上的丢失分组的方式(以下说明的方 式2和方式3)下,用于产生错误校正码,该错误校正码要被附加到将被 发送到无线链路上的数据流上。
图8显示了在图7所示系统中的媒体传送设备采用格式切换系统的情 况下的实施例。它对应于图2中的实施例。多媒体流检测部分37’从到达 无线基站10的IP分组当中检测包含RTP头的分组,并根据分组的一对源 地址和目的地址以及一对源端口号和目的端口号检测多媒体流。
RTP头监控部分39’监控多媒体流检测部分37’检测的多媒体流的IP 分组中包含的RTP头,并检查RTP头中包含的分组顺序号。根据跨过多 个分组的顺序号的检查,当发现有任何顺序号丢失时,RTP头监控部分39’ 就向反馈发生器41’发送用于识别丢失的IP分组的信息。在一个实施例中, 用于识别IP分组的信息包括源地址、目的地址以及丢失的RTP分组的顺 序号。此外,在另一个实施例中,RTP头监控部分39’不是把丢失的RTP 分组的顺序号发送给反馈发生器41’,而是把检测到的每一RTP分组的顺 序号发送给反馈发生器41’。
一旦收到每一RTP分组,反馈发生器41’就把分组的顺序号作为ACK 返回给源地址。在替换的实施例中,反馈发生器41’响应来自RTP头监控 部分39’的信息传送,根据一序列RTP分组的顺序号判断在预定时间内是 否有任何RTP分组丢失了,然后向源地址发送丢失的RTP分组的顺序号。 在又一替换的实施例中,不是每当收到单个RTP分组或每当发现丢失的 RTP分组就响应源地址,而是一次对多个RTP分组作出响应。为了更详细 地说明这一点,对于每N个分组,返回指示每一分组是否被正常收到或丢 失的收到/丢失数据。这样确定集中在一起的分组的数目N,使得响应延时 落入这样的范围内,以便能够及时地从源地址重发分组。
图9所示的顺序图显示了图8的系统中的通信顺序。如参考图6所说 明的,媒体传送设备11具有RTP处理部分111和RTCP处理部分113。 RTCP处理部分113在发送RTCP分组之前,发出包含发送端信息(SDES) 的RTCP分组115到有线网络21,以发向无线基站10。无线基站10的第 一反馈部分71响应RTCP分组115和随后的RTP分组117、119和121, 计算分组丢失率和有线网络21的网络传输延时,然后将该信息加到RTCP 分组133上并将RTCP分组133发送给媒体传送设备11。
一旦收到媒体流的每一RTP分组,无线基站10的第二反馈部分73 就将带有RTP分组的顺序号的接收应答信号(ACK)发回给媒体传送设 备11。在图9中,ACK105被返回以响应RTP分组117的接收,ACK107 被返回以响应RTP分组119的接收,ACK109被返回以响应RTP分组121 的接收。当然,可以不把正常收到的分组的顺序号发回给媒体传送设备(如 相对于图8中的反馈发生器41’说明的),而发回丢失分组的数目,或者可 以为集中在一起的多个分组返回已到达/仍未到达的响应。
参考图8,第二反馈部分73配有多媒体流检测部分37’、RTP头监控 部分39’和反馈发生器41’。这些部分每一个的功能与参照图2和图3说明 的分组分析设备15中所包括的多媒体流检测部分37、RTP头监控部分39 和反馈发生器41的功能相同。
媒体传送设备11的RTCP处理部分113把RTCP分组133中包含的分 组丢失率和延时传送给反馈控制部分35。反馈控制部分35根据该信息选 择媒体流的传输方式(157)。
以下说明上述的三种方式,但是首先说明利用来自无线基站10的两 种类型反馈,即净馈给(Net-Feeds)和SP馈给(SP-Feeds),和以图8中 的虚线25表示的来自无线终端19的反馈(客户反馈),来获得媒体传送 设备11为确定媒体流的传输速率和传输方式所需的参数的方法。
首先,将要使用的符号定义如下:
l1:有线网络21上的分组丢失率
R* 1:有线网络21上允许的最大传输速率
R1:从媒体传送设备11的传输速率
R’1:在无限基站10处的接收速率
R1 (2):在FEC解码器72为FEC消除了错误校正信息之后并且在整形 点13’处执行分组丢弃处理之前的无线基站中的内部速率
R1 (3):在离开整形点13’之后的无线基站中的内部速率
l2:无线链路上(即无线设备14与无线终端19之间)的分组丢失率
R* 2:无线链路上允许的最大传输速率
R2:从无线基站10的传输速率
R’2:在无线终端19处的接收速率
r:媒体流编码率
在此,可以利用以下两种方法之一,在无线基站10处确定无线链路 上允许的最大传输速率R* 2。
第一种方法在设置无线链路的过程中使用理想的最大传输速率信息。 即,当设置无线链路时,确定被分配给该无线链路的资源,特别是带宽, 从而根据该带宽确定理想的或最大的可能传输速率。该值表示为R* 2。在 该方法中,在使用该无线链路的会话中,所使用的速率被固定,除了在要 使用的无线基站被替代的情况之外,例如当无线终端19的位置改变时。
第二种方法根据无线基站10中的发送缓冲器的填充速率来推导最大 传输速率R* 2,该无线基站10的发送缓冲器中具有准备从无线基站10发 往无线链路的分组。即,如果发送缓冲器的填充速率下降或者缓冲器保持 为空,则认为当前的传输速率低于最大速率,反过来,如果填充速率在增 加也是如此。这样获得的速率R* 2在多数情况下随时间波动
可以通过例如无线基站10中的无线设备14,或通过用于控制无线设 备14的设备等,来确定最大传输速率R* 2。
媒体传送设备11和无线基站10的传输速率R1和R2(即在发送端的 速率)是相对与媒体流有关的所有分组的速率,该所有分组不仅包括媒体 流的数据的主体,而且还包括被加到媒体流数据的主体上的用于FEC的分 组,以及重发的分组。因为在有线网络上或无线链路上会发生分组丢失, 因此在各个接收端处的速率R’1和R’2下降到发送端处的速率之下。换句 话说,以下公式被建立。
R’1≤R1,R’2≤R2
当分组从有线网络21到达无线基站10时,首先它们被传给FEC解 码器72。如果这些分组被应用了FEC,则它们被解码。结果,在分组离开 FEC解码器之后的速率R1 (2)下降到无线基站10的接收速率R’1之下。
在此,在该实施例中使用的FEC中,由应用FEC产生的输出由原始 数据分组和奇偶校验分组组成。而且,奇偶校验分组以单独的流从原始数 据分组发出。关于这种类型的FEC,参考例如RFC2733(RTP有效载荷格 式或一般前向错误校正)。FEC解码器(被提供给无线基站10的解码器72 和被提供给无线终端19的解码器(未显示))利用在其它流中发送的奇偶 校验分组来重构丢失的原始数据分组。
在分组离开无线基站之前,FEC发生器18比较在离开整形点13’之后 的速率R1 (3)与无线链路上的最大速率R* 2。如果R1 (3)<R* 2,则FEC发生 器18使用剩余的带宽R* 2-R1 (3),用于FEC恢复在无线链路上丢失的分组。 最后,从无线基站10的传输速率R2达到在无线链路上允许的最大传输速 率R* 2。
整形点13’被提供在FEC解码器72与FEC发生器18之间。当在有线 网络21上消除了FEC之后的速率R1 (2)大于无线链路的带宽时,即当其大 于最大速率R* 2时,分组被丢弃。此外,在此也可以检测和消除具有相同 RTP顺序号的复制分组。
从无线基站10到媒体传送设备11的净馈给和SP馈给这两种类型反 馈分别经过第一反馈部分71和第二反馈部分73,刚好在FEC解码器72 和FEC发生器18之前被发送。
在整形点13’之前执行反馈的第一反馈部分71向媒体传送设备11发 送反馈净馈给,以通知有线网络上的当前状态。反馈净馈给是统计反馈, 其包括在分组窗口(packet window)收集的信息,例如在中间范围的时帧 (例如几秒)中的分组丢失率和往返时间的平均值和方差。这种类型的统 计反馈是公知的。如果需要,参考例如RFC1889(Rtp:用于实时应用的 传输协议)。
在整形点13’之后执行反馈的第二反馈部分73以分组接收确认分组 (ACK)的形式向媒体传送设备11发送反馈SP馈给,从而媒体传送设备 11能够判定在无线传输之前哪一分组丢失了。反馈SP馈给在短期内(例 如1秒)被发出。
除了反馈净馈给和SP馈给之外,在该实施例中,无线终端19还以几 乎无延迟的较短间隔向媒体传送设备11传送反馈。
这些类型的反馈使媒体传送设备能够获得如下列出的信息。
首先,利用反馈净馈给,媒体传送设备11能够知道在有线网络上允 许的最大传输速率R* 1。而且,有线网络上的分组丢失率l1清楚地显示在 反馈净馈给中。
反馈SP馈给在有线网络的末端提供高分辨率的反馈,即基于分组的 反馈。因此,媒体传送设备11能够准确地掌握哪些分组正确地到达无线 基站10。
此外,利用反馈SP馈给和来自无线终端19的客户反馈,媒体传送设 备11能够以以下方式获得无线链路上的分组丢失率l2,以及无线链路上允 许的最大传输速率R* 2。即,把反馈SP馈给与仅仅相对于其中已消除了 用于FEC的奇偶校验分组流的原始数据分组流的客户反馈相对比。从而, 媒体传送设备11能够获得在应用FEC之后的分组丢失率。而且,根据相 对于奇偶校验分组流的客户反馈,媒体传送设备11能够掌握在无线链路 上已应用了多少FEC,即用于奇偶校验分组流的带宽。如果在应用FEC 之后的分组丢失率和用于FEC的奇偶校验分组流的带宽(即奇偶校验分组 率)都知道了,则有可能获得在应用FEC之前的无线链路上的“原始”丢 失率l2。
在该实施例中,无线基站10根据媒体流所需的延迟特性,即无线终 端19的接收缓冲器容量,自动地选择三种方式之一,然后操作。以下, 说明方式1至方式3。
方式1
该方式适用于无线终端19(客户)拥有大的接收缓冲器的情况,该大 的接收缓冲器能够允许由于在无线链路上重发必需次数的丢失分组造成 的分组到达定时的极不稳定性。注意,在第三代移动电话通信计划中,无 线基站10可以设置无线终端19以便在链路层重发,如本领域技术人员所 公知的。其特殊的结构或操作自身与本发明没有直接关系。如果需要,参 考《用于通用移动通信系统的宽带码分多址:用于第三代移动通信的无线 接入》(H.Holma and A.Toskala,Eds.,WCDMA for UMTS:Wireless access for Third Generation Mobile Communications,Wiley,2001)H.Holma和 A.Toskala,Eds.,Wiley出版社,2001年。因此,为了实现方式1,可以使 用利用第三代移动电话链路层重发分组的功能。即,如果无线基站10把 无线终端19的错误控制方式设置为重发方式,则链路层将以一种相对于 应用层透明的方式执行如下的操作。即,在链路层,当在无线终端19检 测到丢失的分组,无线终端19请求无线基站10重发指定的分组。当无线 基站10收到重发请求时,它比较到此为止指定的分组已被重发的次数与 该方式被设置时所设置的最大重发次数,然后在已经达到最大重发次数的 情况下向无线终端19通知重发失败。在没有达到最大重发次数的情况下, 无线基站10向无线终端19重发被临时存储的、且对应于丢失分组的已发 送分组之一。根据无线链路上的分组丢失率l2和用于通过执行重发改善分 组丢失率的目标值,来确定丢失分组的最大重发次数,但是可以预先知道 适当的或标准的值,或者可以通过进行如上所述的测量来确定值。已收到 重发的分组的无线终端19利用重发的分组恢复媒体流。因此,利用应用 层,将原始错误控制方式简单地设置为上述的重发方式,由此看上去好像 已经从无线基站10收到了媒体流而没有任何错误。因此,虽然在无线基 站10到无线终端19的无线链路中实质上没有分组丢失,但是在分组发送 延迟中确实发生了大量的变化。
此外,媒体传送设备11利用来自无线基站10的反馈净馈给,在有线 网络上执行拥塞控制。
此外,利用来自无线基站10的反馈SP馈给,在应用层上执行有线网 路上的丢失分组的重发。在方式1中,实际上在无线链路上没有丢失的分 组,从而来自无线基站10的反馈与来自无线终端的反馈基本上相同,但 是反馈SP馈给到达媒体传送设备11的速度比来自无线终端的反馈快得 多。
与其中总是添加错误校正码的FEC相比,只有当分组实际丢失时, 才更高效地执行分组重发。在方式1中,伴随分组重发的延迟和不稳定性 不成为问题,从而在有线网络和无线链路上都采用重发,而不是FEC。
方式2
该方式用于这样的情况,其中无线终端19中的接收缓冲器的尺寸足 以满足要在有线网络上重发必需次数的丢失分组,但是没有大得足以允许 无线链路上的这种重发。
在方式2中,当分组在有线网络上丢失时,媒体传送设备11以类似 于方式1的方式,利用来自无线基站10的反馈SP馈给重发丢失的分组, 并且当分组在无线基站10与无线终端19之间的无线链路上丢失时,利用 FEC解决该问题。
通常,无线链路上的传输速率低于有线网络21。因此,在此假设典型 的情况,即R* 1>R* 2。如上所述,媒体传送设备11能够从反馈信息获得 R* 1、R* 2和l2。因此,媒体传送设备11能够适当地选择媒体编码率(即 媒体流的传输速率)r。当错误校正被执行时,没有用于无线链路上的媒体 流的带宽R* 2-r抵抗无线链路上的丢失率l2。从而,可以发送足以实际上 恢复所有丢失分组的错误校正奇偶校验分组流。
在有线网络上,利用剩余带宽R* 2-r在应用层上执行重发。而且, 因为在无线基站10丢弃复制分组,因此这种分组不占用无线链路上的带 宽。
方式3
该方式适用于这种情况,其中因为无线基站10的缓冲器容量极小, 因此不允许不仅由无线链路上的重发、而且还由在有线网络上重发必需次 数的丢失分组造成的任何延迟。
在方式3中,媒体传送设备11应用适于有线网络上的错误率和其它 这种错误特性的FEC,然后向无线基站10发送媒体流。FEC解码器72在 无线基站10消除用于该FEC的奇偶校验流。然后FEC发生器18应用另 一个适于无线链路的错误特性的FEC,然后发送给无线终端19。
再参考图9,反馈控制部分35根据发自第二反馈部分73的RTP分组 接收确认信号(ACK),判断媒体流中的分组是否丢失(141)。当检测到 分组丢失,则反馈控制部分35判定通信是否正在以方式1或方式2进行 (151)。当通信正在以方式1或方式2进行,然后执行相对于图6中的块 143、145、147和149说明的分组重发过程(153)。当通信正在以方式3 进行,如果可能且希望,把要使用的误差校正码改变为更合适的(155)。
至此已说明了本发明的特定实施例,但是本发明不限于上述的实施 例。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈