可扩展信息信号、可扩展信息内容的编码方法和装置、可扩展信息信号的纠错方法及装置

申请号 CN200880108400.7 申请日 2008-06-20 公开(公告)号 CN101842990B 公开(公告)日 2013-12-25
申请人 弗劳恩霍夫应用研究促进协会; 发明人 T·维甘德; C·亨尔格; T·施尔;
摘要 本 发明 通过采用FEC保护的信息 信号 中的不同级别的多个部分之间的相互关系,对一可扩展信息信号实现更高效和/或更安全的保护。具体地,表示更高级别信息内容的信息信号的各部分与冗余信息相关,所述冗余信息不仅依赖于该部分中与各自重叠的较低级别部分不相交的部分,而且依赖于较低级别部分,以增加对接收端较低级别部分中的错误进行前向纠错成功的机率。
权利要求

1.对可扩展信息信号进行纠错的装置,其中信息信号的多个部分表示多个维度上不同质量级别的信息内容,其特征在于:所述多个部分中的至少一第一部分与第二部份重叠,所述第一部分表示所述不同质量级别中的第一级别的信息内容,所述第一级别高于所述不同质量级别中的第二级别,所述第二部分表示第二级别的信息内容,其中所述信息信号由具有相关冗余符号的每个不同级别进行FEC保护,每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,所述装置包括:
校正器,通过使用与所述第一和第二级别相关的冗余信息以及第一部分中与所述第二部份不相交的部分,用于对第二部份中的信息信号进行纠错;以及
获取器,通过丢弃第一部分中与第二部分不相交的部分以从经纠错后的第二部分中获得质量的第二级别的信息内容。
2.根据权利要求1所述的装置,其中所述信息信号在多个维度上是可扩展的,其中所述信息信号的各部分表示所述多个维度的各级别的不同星座上的信息内容,其特征在于: 所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分在第一维上表示的信息内容其级别高于所述第二部分在第一维上表示的信息内容的级别, 所述各部分中的至少一第三部分与第四部份重叠,所述第三部分不同于第一部分,且第三部分在第二维上表示的信息内容其级别高于第四部分在第二维上表示的信息内容的级别,
所述信息信号由每个具有相关冗余符号的不同星座进行FEC保护,使得每个冗余信息依赖于表示各星座信息内容的各部分,
与第一部分所表示信息内容的星座相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,以及
与第三部分表示信息内容的星座相关的冗余信息取决于第三部分,所述第三部分包括其中与第四部分重叠的部分。
3.根据权利要求2所述的装置,其特征在于:所述第二部分等于所述第四部分。
4.根据权利要求2所述的装置,其特征在于:所述第二和第四部分彼此重叠。
5.根据权利要求4所述的装置,其特征在于:所述表示信息内容的多个部分中 的一第五部分与所述第一和第三部分重叠,使得第一和第三部分成为第五部分的子集,其中第一部分在第一维的级别上表示所述信息内容,第三部分在第二维的级别上表示所述信息内容,以及与各星座相关的冗余信息依赖于所述第五部分、以及第五部分中与第二和第四部分重叠的部分、第五部分中与第一部分重叠但与第二和第四部分不相交的部分、以及第五部分中与第三部分重叠但与所述第二和第四部分不相交的部分,其中第五部分在所述星座上表示所述信息内容。
6.根据权利要求2所述的装置,其特征在于:所述第二部分为所述第一部分的合适的子集,所述第四部分为所述第三部分的合适的子集。
7.根据权利要求2所述的装置,其特征在于:每个部分各自的冗余信息依赖于所述部分与其它多个部分中任何一个重叠的部分。
8.根据权利要求2所述的装置,其特征在于:每个部分可单独解码以获得各星座上的信息内容,而不需要来自所述信息信号各部分中的任何许可的信息。
9.根据权利要求2所述的装置,其特征在于:对于每个部分,所述各冗余信息通过一系统码与所述各部分相关联。
10.根据权利要求2所述的装置,其特征在于:对于每个部分,所述各冗余信息通过一非系统码与所述各部分相关联。
11.根据权利要求2所述的装置,其特征在于:所述信息信号为连续时间的数据流,每个时间帧内,数据流中有关与第一部分表示信息内容的星座相关的冗余信息的一部分紧接在数据流中有关第二部分的那部分之后,数据流中有关与第二部分表示信息内容的星座相关冗余信息的一部分位于数据流中有关第一部分中与第二部分不相交的那部分之前,数据流中有关与第三部分表示信息内容的星座相关的冗余信息的一部分紧接在数据流中有关第四部分的那部分之后,数据流中有关与第四部分表示信息内容的星座相关冗余信息的一部分位于数据流中有关第三部分中与第四部分不相交的那部分之前。
12.根据权利要求2所述的装置,其特征在于:所述冗余信息基于LT码、Raptor码、LDPC码或者在线码。
13.根据权利要求1所述的装置,其特征在于:所述信息内容包括音频内容、视频内容和/或3D模型内容。
14.根据权利要求1所述的装置,其特征在于:所述多个维度为时间采样分辨 率、空间采样分辨率、视象号码、音频信道数、体视/非体视、以及采样值比特深度中一个或者多个。
15.根据权利要求1所述的装置,其特征在于:所述校正器配置成
不使用与第一级别以及第一部分中与第二部分不相交的部分相关的冗余信息,而是使用与第二级别相关的冗余信息,首先尝试对第二部份中的信息信号进行纠错, 若第一次尝试不成功,则使用与第二级别相关的冗余信息、与第一级别以及第一部分中与第二部分不相交的部分相关的冗余信息,重新尝试对第二部份中的信息信号进行纠错。
16.根据权利要求1所述的装置,其中所述信息信号为可扩展的,其中所述信息信号的各部分表示不同质量级别的信息内容的时刻。
17.根据权利要求1所述的装置,其中所述信息信号表示3D和/或音频信息内容并为可扩展的,其中所述信息信号的各部分表示不同质量级别的信息内容。
18.用于将一信息内容编码至一可多维扩展的信息信号中的装置,其中所述信息信号的各部分表示所述多个维度上各级别的不同星座的信息内容,其特征在于:所述装置包括:
生成器,用于生成信息信号的各部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分在第一维上表示的信息内容其级别高于所述第二部分在第一维上表示的信息内容的级别,所述各部分中的至少一第三部分与第四部份重叠,其中,所述第三部分不同于第一部分,且第三部分在第二维上表示的信息内容其级别高于第四部分在第二维上表示的信息内容的级别,
保护器,通过将冗余信息与每个不同星座相关联对所述信息信号进行FEC保护,使得每个冗余信息依赖于表示各星座信息内容的各部分,
与第一部分表示信息内容的星座相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,以及
与第三部分表示信息内容的星座相关的冗余信息取决于第三部分,所述第三部分包括其中与第四部分重叠的部分。
19.根据权利要求18所述的装置,其特征在于:所述生成器配置成生成所述多个部分,使得所述第二部分等于第四部分。
20.根据权利要求19所述的装置,其特征在于:所述生成器配置成生成所述多个部分,使得所述第二部分与第四部分彼此重叠。
21.根据权利要求20所述的装置,其特征在于:所述生成器配置成生成所述多个部分,使得所述表示信息内容的多个部分中的一第五部分与所述第一和第三部分重叠,使得第一和第三部分成为第五部分的子集,其中第一部分在第一维的级别上表示所述信息内容,第三部分在第二维的级别上表示所述信息内容,用于FEC保护的保护器配置成对信息信号进行FEC保护,使得与各星座相关的冗余信息依赖于所述第五部分、以及第五部分中与第二和第四部分重叠的部分、第五部分中与第一部分重叠但与第二和第四部分不相交的部分、以及第五部分中与第三部分重叠但与所述第二和第四部分不相交的部分,其中第五部分在所述星座上表示所述信息内容。
22.根据权利要求18所述的装置,其特征在于:所述生成器配置成生成所述多个维度,使得所述第二部分为第四部分的一合适的子集,所述第四部分为所述第三部分的一合适的子集。
23.根据权利要求18所述的装置,其特征在于:所述保护器配置成对信息信号进行FEC保护,使得对于每个部分,各冗余信息依赖于各部分中与所述多个维度中其它任何一个重叠的那部分。
24.根据权利要求18所述的装置,其特征在于:所述生成器配置成生成所述多个维度,使得每个部分可单独解码,以获得各星座上的信息内容,而不需要来自所述信息信号各部分中的任何许可的信息。
25.根据权利要求18所述的装置,其特征在于:所述保护器配置成对信息信号进行FEC保护,使得对于每个部分,所述各冗余信息通过一系统码与所述各部分相关联。
26.根据权利要求18所述的装置,其特征在于:所述保护器配置成对信息信号进行FEC保护,使得对于每个部分,所述各冗余信息通过一非系统码与所述各部分相关联。
27.根据权利要求18所述的装置,其特征在于:所述生成器配置成生成所述多个维度,使得所述信息信号为连续时间帧的数据流,且所述保护器配置成对信息信号进行FEC保护,使得每个时间帧内,数据流中有关与第一部分表示信息内容的星座相关的冗余信息的一部分紧接在数据流中有关第二部分的那部分之后,数据流中有关与第二部分表示信息内容的星座相关冗余信息的一部分位于数据流中有关第一部分中与第二部分不相交的那部分之前,数据流中有关与第 三部分表示信息内容的星座相关的冗余信息的一部分紧接在数据流中有关第四部分的那部分之后,数据流中有关与第四部分表示信息内容的星座相关冗余信息的一部分位于数据流中有关第三部分中与第四部分不相交的那部分之前。
28.根据权利要求18所述的装置,其特征在于:所述保护器配置成对信息信号进行FEC保护,使得所述冗余信息基于LT码、Raptor码、LDPC码或者在线码。
29.根据权利要求18所述的装置,其特征在于:所述信息内容包括音频内容、视频内容和/或3D模型内容。
30.根据权利要求18所述的装置,其特征在于:所述多个维度为时间采样分辨率、空间采样分辨率、视象号码、音频信道数、体视/非体视、以及采样值比特深度中一个或者多个。
31.将一信息内容编码至一可多维扩展的信息信号中的方法,使得所述信息信号的各部分表示所述多维的各级别的不同星座上的信息内容,其特征在于:所述方法包括: 生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分在第一维上表示的信息内容其级别高于所述第二部分在第一维上表示的信息内容的级别,所述各部分中的至少一第三部分与第四部份重叠,其中,所述第三部分不同于第一部分,且第三部分在第二维上表示的信息内容其级别高于第四部分在第二维上表示的信息内容的级别;以及
通过将冗余信息与每个不同的星座相关联来对信息信号进行FEC保护,使得每个冗余信息依赖于表示各星座信息内容的各部分,与第一部分表示信息内容的星座相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,以及与第三部分表示信息内容的星座相关的冗余信息取决于第三部分,所述第三部分包括其中与第四部分重叠的部分。
32.将一信息内容编码至表示信息内容的、可扩展的信息信号中的装置,其中所述信息信号的各部分表示不同质量级别的信息内容的时刻,其特征在于:所述装置包括: 生成器,用于生成信息信号的各部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及
保护器,通过将冗余信息与每个不同星座相关联对所述信息信号进行FEC 保护,使得每个冗余信息依赖于表示各级别的信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分。
33.将一信息内容编码至一表示信息内容且可多维扩展的信息信号中的方法,使得所述信息信号的各部分表示所述多维的不同质量级别上的信息内容,其特征在于:所述方法包括:
生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及 通过将冗余信息与每个不同的级别相关联来对信息信号进行FEC保护,每个冗余信息依赖于表示各级别的信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分。
34.对表示信息内容且可扩展信息信号进行纠错的方法,使得所述信息信号的各部分表示不同质量级别的信息内容,其特征在于:所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别,所述信息信号由具有相关冗余符号的不同级别中的每个进行FEC保护,每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,所述方法包括:
通过使用与第一和第二级别以及第一部分与第二部分不相交的那部分相关的冗余信息,来对第二部分中的信号信息进行纠错;以及,从所述纠错后的、丢弃了所述第一部分中的部分的第二部分获取第二质量级别的信息内容。
35.将一3D和/或音频信息内容编码至一信息信号的装置,所述信息信号表示3D和/或音频信息内容且可扩展,其中所述信息信号的各部分表示不同质量级别的3D和/或音频信息内容,其特征在于:所述装置包括:
生成器,用于生成信息信号的各部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及
保护器,通过将冗余信息与每个不同星座相关联对所述信息信号进行FEC保护,使得每个冗余信息依赖于表示各级别的信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分。
36.将一3D和/或音频信息内容编码至一信息信号的方法,所述信息信号表示3D和/或音频信息内容且可扩展,其中所述信息信号的各部分表示不同质量级别的3D和/或音频信息内容,其特征在于:所述方法包括:
生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及 通过将冗余信息与每个不同的级别相关联来对信息信号进行FEC保护,使得每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分。

说明书全文

可扩展信息信号、可扩展信息内容的编码方法和装置、可扩

展信息信号的纠错方法及装置

技术领域

[0001] 本发明涉及信息信号,例如媒体信号,以及对这些信息信号进行的编码和纠错。

背景技术

[0002] 由于在许多缺乏服务质量(QoS)的传输信道中发生传输错误,媒体传输通常受到信息丢失的影响。
[0003] 媒体流的一个示例为一视频比特流。由于新一代视频编解码器如H.264/AVC在空间和时间上的依赖结构(dependency structure)或者尤其是H.264/AVC(SVC)[A1]的可扩展延伸性,解码视频质量丢失的影响主要取决于比特流哪部分受影响。
[0004] 在单向信道中,前向纠错技术(Forward Error Correction,FEC)可用于防止解码视频质量的丢失。关于这个问题已经提出了许多保护方案,比如非均匀差错保护(UEP)[A5]或者优先级编码传输(PET)[B3]。这两种方案侧重于保护较低层和更重要的层。但是首先从[A2]中可以看出,对所有依赖层进行保护并构造上层的冗余符号有助于增加对较低层的保护。这在对可扩展视频流的进行多层同步传输如分组传播[A6]的传输方案时非常有益。
[0005] 可考虑不同的依赖结构。其中一种重要的依赖结构由动态补偿引入,其中的一参考图像用于预报另一图像。如果该参照图像或者该参照图像的其中一个片段丢失了,则参照该图像的图像或者片段(slice)也会受到影响。因此,在一彼此作为参照的图像系列中,该图像链中的第一幅图像是最重要的。某一时刻的丢失会对所有后续的图像产生一定影响。因此,在这种依存链中最好是保护尽量多的图像。
[0006] 另一套依赖结构由SVC引入,其中一基层作为一加强层的参照。所述加强层可进一步作为其它加强层的参照。设定l作为0至L-1层中某一层的标识符,当l=0时代表基层,l=1时代表参照所述基层的第一加强层。在SVC中,任意层x的丢失会导致对所有l>x(参照x层)的层的解码结果不可用。因此,当要获得特定的质量时,优先级必须赋给正确获得的任何<l的层,用特殊值l表示。
[0007] 前向纠错(FEC)能够增强通过非QoS信道进行的媒体传输的可靠性。现有技术中所使用的加强层的独立FEC保护不考虑各层之间的关系。在这种方案中,通常对于k个信源符号而言,会产生p=n-k个冗余符号。假设使用最大距离可分的(MDS)FEC码,以便可以克服码元的擦除数目小于或者等于p。即使在对更重要的较低层使用更强的FEC保护(更多的冗余符号)时(也被熟知为非均匀差错保护),也不能保证在任何差错情况下对保护相对较强的层进行的重建比对保护相对较弱的层进行的重建具有更高的可能性。
[0008] 如果一较低层丢失,加强层由于如图19中所述参考的丢失而不能被解码。例如,层1在t时刻由于传输错误(“差错”)而丢失,这样l>1的层都不能被解码。加强层成功接收到的FEC保护也是无用的。

发明内容

[0009] 因此,本发明的目的是提供一种前向纠错方案,以对可扩展信息信号提供更有效和/或安全的保护。
[0010] 根据本发明的一实施例,可建立一可多维扩展的信息信号,其中各部分(portions)表示所述多维上不同星座(constellation)级别(level)的信息内容,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分在第一维上表示的信息内容其级别高于所述第二部分在第一维上表示的信息内容的级别,所述各部分中的至少一第三部分与第四部份重叠,其中,所述第三部分不同于第一部分,且第三部分在第二维上表示的信息内容其级别高于第四部分在第二维上表示的信息内容的级别,以及所述信息信号由每个具有相关冗余符号的不同星座进行FEC保护,使得每个冗余信息依赖于表示各星座信息内容的各部分,与第一部分表示信息内容的星座相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,以及与第三部分表示信息内容的星座相关的冗余信息取决于第三部分,所述第三部分包括其中与第四部分重叠的部分。
[0011] 根据本发明的另一实施例,将信息内容编码至可多维扩展的信息信号中,以便各部分表示所述多维的不同星座级别上的信息内容,所述编码过程包括:
[0012] 生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分在第一维上表示的信息内容其级别高于所述第二部分在第一维上表示的信息内容的级别,所述各部分中的至少一第三部分与第四部份重叠,其中,所述第三部分不同于第一部分,且第三部分在第二维上表示的信息内容其级别高于第四部分在第二维上表示的信息内容的级别,以及
[0013] 通过将冗余信息与每个不同的星座相关联来对信息信号进行FEC保护,使得每个冗余信息依赖于表示各星座信息内容的各部分,与第一部分表示信息内容的星座相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,以及与第三部分表示信息内容的星座相关的冗余信息取决于第三部分,所述第三部分包括其中与第四部分重叠的部分。
[0014] 根据本发明的又一实施例,可建立一表示信息内容且可多维扩展的信息信号,其中各部分表示不同质量级别的信息内容的时刻(time instant),以使所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及
[0015] 所述信息信号由每个具有相关冗余符号的不同级别进行FEC保护,每个冗余信息依赖于表示各级别上信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分。
[0016] 根据本发明的再一实施例,将信息内容编码至可多维扩展的信息信号中,以便各部分表示所述多维的不同质量级别上的信息内容,所述编码过程包括:
[0017] 生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及[0018] 通过将冗余信息与每个不同的级别相关联来对信息信号进行FEC保护,每个冗余信息依赖于表示各级别的信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分。
[0019] 根据本发明的一实施例的一种方法,对可扩展信息信号进行纠错,使得其中的各部分表示不同质量级别的信息内容,所述多个部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别,所述信息信号由具有相关冗余符号的不同级别中的每个进行FEC保护,每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分,所述方法包括:通过使用与第一和第二级别以及第一部分与第二部分不相交(disjoint)的那部分相关的冗余信息,来对第二部分中的信号信息进行纠错;以及,从所述纠错后的、丢弃了所述第一部分中的部分的第二部分获取第二质量级别的信息内容。
[0020] 根据本发明的另一实施例,可建立一表示3D和/或音频信息内容并可扩展的信息信号,其中的各部分表示不同质量级别的信息内容,使得所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别,通过将冗余信息与每个不同的级别相关联来对信息信号进行FEC保护,每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分所述第一部分包括其中与第二部分重叠的部分。
[0021] 根据本发明的又一实施例,将一3D和/或音频信息内容编码至一信息信号,所述信息信号表示3D和/或音频信息内容且可扩展,其中的各部分表示不同质量级别的3D和/或音频信息内容,所述编码过程包括:
[0022] 生成多个部分,以便所述各部分中的至少一第一部分与第二部份重叠,其中,所述第一部分表示信息内容的第一级别高于所述第二部分表示信息内容的第二级别;以及[0023] 通过将冗余信息与每个不同的级别相关联来对信息信号进行FEC保护,使得每个冗余信息依赖于表示各级别信息内容的各部分,与第一级别相关的冗余信息依赖于第一部分,所述第一部分包括其中与第二部分重叠的部分。
[0024] 本发明基于以下发现:通过采用FEC保护的信息信号中的不同级别的多个部分之间的相互关系,可扩展信息信号能得到更高效和/或更安全的保护。具体地,表示更高级别信息内容的信息信号的各部分与冗余信息相关,所述冗余信息不仅依赖于该部分中与各自重叠的较低级别部分不相交的部分,且依赖于较低级别部分,以增加对接收端较低级别部分中的错误进行前向纠错成功的机率。
[0025] 另外,当将上述发现运用至一多重可扩展信息信号的超过一个扩展维度上时,纠正概率增加的影响被加强。
[0026] 换言之,不用增加冗余信息的数量,便可增加对任何可能的质量级别的信息内容进行的无误重建的概率。也就是说,即使信息信号中必要数量的冗余信息有所减少,保持适当的重建概率也是可能的。附图说明
[0027] 下面结合附图和实施例对本发明作进一步说明。其中:
[0028] 图1a至图1c为二维可扩展信息信号的不同实施例的示意图;
[0029] 图2为本发明一个实施例的一编码装置的框图
[0030] 图3为本发明一个实施例的纠错方法的流程图
[0031] 图4为本发明另一实施例的纠错方法的流程图;
[0032] 图5一方面示出了本发明一实施例中的多层信息信号中的不同层之间的相互关系的一致性(correspondence),另一方面还显示了冗余信息对不同部分的依赖性;
[0033] 图6为具有两层的分层FEC使用异或代码(XORing code)进行编码的示例的示意图;
[0034] 图7为具有L个依赖层的可能的分层FEC的示意图;
[0035] 图8为具有两层的分层FEC使用异或代码进行解码的示例的示意图;
[0036] 图9为一SVC信号的可能的依赖结构的示意图;
[0037] 图10为本发明的具有分层FEC以及多维依赖结构的解码星座的一实施例的示意图;
[0038] 图11为描述例示性发生错误段的信息信号的示意图;
[0039] 图12示出了分层LT编码的生成矩阵的实例;
[0040] 图13为一分层体系Raptor码(raptor-code)的预编码矩阵的示意图;
[0041] 图14示出了LT码编码矩阵GLT的实例;
[0042] 图15示出了Raptor码的预编码矩阵GpSys;
[0043] 图16示出了两个依赖层的可能的分层LT编码矩阵GLT0和GlayeredLT(l);
[0044] 图17示出了两个依赖层的可能的预编码矩阵GpSys(0)和GlayeredpSys(l);
[0045] 图18为执行k=1200个源代码、n=20个编码符号、大小t=48字节的Raptor码的柱状图;以及
[0046] 图19为由于较低层参考丢失而不可解码的增强层的示意图。

具体实施方式

[0047] 图1a到图1c中的实施例描述了二维可扩展信息信号。通过参照这些例示性的信息信号,图2至图4描述了编码器端的信息信号保护以及接收端的差错纠正的实施例。然而,图2至图18中描述的实施例并不限于二维可扩展信息信号。所述信息信号可显示超过二维或者仅仅为一维的扩展性。
[0048] 图1至图4所描述的实施例中的信息信号不限于任何实施方式,例如视频、音频等等。正如接下来所要详细描述的,这些实施例通常可运用于具有可扩展性的多种类型的信息信号。相应地,虽然图5至图18的描述集中于可分级视频编码(scalable video coding),但是关于这些附图的描述其中大部分也可以转用至其它种类的信息信号。此外,图1至图4的描述中,一信息信号的可扩展性被描述为一信息信号表示不同质量级别的信息信号内容的性能。实际上,一可扩展信息信号可视为一分层信息信号,每一层对应特定的质量级别。相应地,在图5至图18中,参照图1至图4中所描述的部分规则被引用为“分层FEC”。
[0049] 图1a为一可扩展信息信号的示例,所述信号中的各部分表示不同质量级别的信息内容。信息信号10位于图1a的左边。具体地,所述信息信号被描述成矩形。矩形所限定的面积必须与信息信号中数据的数量相对应。然而,虽然所述信息信号10显示为二维面积,但信息信号的数据结构并不限于这种显示。信息信号可以是以分组格式或者非分组格式的线性数据流。图1a中的信息信号10的二维表示仅仅用于更清楚地描述信息信号10在两个可扩展维度上为信息内容提供可扩展表示。
[0050] 特别地,图1a中示出了所述信息信号10的四个不同部分。第一部分由连续线10示出,该连续线10包围整个信息信号。其它3个部分10a、10b、10c为所述信息信号10合适的子集。这些子部分(sub-portions)10a至10c中的每一个均允许对信息内容的表示进行重建,但是与整体信息信号10相比,其质量有所降低。具体地,子部分10a表示沿第一扩展维12上级别为0的信息内容。该级别低于同一扩展维12方向上的级别1,整体信息信号10在所述扩展维12上表示信息内容。类似地,子部分10b允许重建第二扩展维14上级别为0的信息内容,该级别低于级别1,在基于整个信息信号重建时级别1上的信息内容被表示。
[0051] 同整个信息信号与子部分10a以及10b之间的关系相似,子部分10c允许使用子部分10a和10b中的任一个各自在两个可扩展维度12和14中任一个上以低于可达到的级别重建信息内容。具体地,根据图1a所述的实施例,整个信息信号允许在两个可扩展维度12和14上以较高的级别1重建信息内容,而子部分10c仅允许在可扩展维度12和14上以级别0重建信息内容。其它子部分10a和10b处于中间,它们允许在两个可扩展维度12和
14其中一个上以较高级别1、在另一个上以较低级别重建信息内容,如图1a右边所示。
[0052] 如图1a所示,子部分10c为10a和10b适当的子集。通过这一措施,子部分10c中的较低质量数据被10a和10b以及10分别“重新利用”,以再次细化(re-fine)该较低质量数据,使得能在可扩展维度12和14中任一个上以较高的级别重建信息内容(相对于子部分10c)。因此,子部分10c内部的数据比其外部的数据更加重要。具体地,如果子部分10c内部的数据在某种程度上遭损坏,那么在可扩展维度12和14上即使以最低级别对信息内容进行重建也是无法正确实现的。由于它们依赖于子部分10c内部的数据,因此对于较高级别也是如此。然而,子部分10c外部数据的丢失至少在最低星座00上不会阻碍信息内容的重建。
[0053] 为保证完整性,需注意的是,上述部分10以及10a至10c中的每个都可单独表示信息信号中的可解码部分,因为每个部分都是独立的(self-contained),可以各自以质量星座重建信息内容而不需要任何与各部分外部数据相关的信息。此外,可限定所述部分10、10a、10b和10c,使得各相应部分内的数据丢失不会导致信息内容重建的错误(与各部分的质量星座相比)。
[0054] 如图1a所示,信息信号10为二维可扩展的,使得信息内容在其中一维的每个级别上可重建,在另一维上可全扩展。但是这种情况并不是必须的。例如,图1b中示出了一信息信号的示例,扩展维12上的级别数不同于另一扩展维14上的级别数。更准确地说,图1a中,10以及10a至10c四部分与图1a中右边所示的四个星座点(constellation point)11、01、10和00相对应,图1b中的信息信号具有的5个部分与图1b中右边所示的星座点00、
01、02、11和12相对应。
[0055] 虽然图1b中在第二扩展维14上较高级别的每个星座点在第一扩展维12上均有一同样级别的星座点与之对应,但是第二扩展维14上的较低级别0也不是必要的。例如,参照图1c,最小的子部分表示扩展维12和14上级别为0的信息内容,即星座点00,仅为第一维12上级别0的部分。类似地,星座点11为沿第一扩展维12上级别为1的唯一的星座点。
[0056] 通过观察图1a至图1c,可以清楚地看出,如图1a中的较高级别部分10、10a和10b与较低级别部分10c的交集(intersection)并不一定必须等于那些高级别部分的每个。例如,如图1c所示,交集本身可不属于该信息信号的多个部分。另外,需注意的是,在至少一个扩展维上的部分(其级别低于另一部分的级别)并不一定为所述另一部分的适当的子集,正如图1a至图1c各自所示的最小部分。较高级别部分和较低级别部分的交集可以为较低级别部分与各较高级别部分仅部分重叠的部分。
[0057] 图2至图4中的实施例在信息信号的接收版本上分别采用了上述在FEC保护信息信号和执行前向纠错过程中的可扩展信息信号的各部分之间的依赖性。通常,较高级别或者较高层部分(即在至少一个扩展维的较高级别上表示信息信号的部分)与各冗余信息关联,所述冗余信息不仅依赖于与重叠的较低级别部分不相交的各部分(portion)中的部分(part),而且依赖于与较低级别部分重叠的部分。
[0058] 图2中的装置20用于编码一信息内容。所述装置20包括一用于接收信息内容的输入端22,以及一输出端24,用于输出受保护的可扩展信息信号。装置20中间包括一部分生成器(portion generator)26,表示一种用于生成信息信号的各部分的工具,一FEC保护器28,表示一种用于FEC保护信息信号的工具,以及一多路复用器30,上述各装置在输入端22和输出端24之间按顺序依次连接。
[0059] 部分生成器26被配置成将信息内容22编码成可扩展的数据(但是是未受保护的格式),例如图1a至图1c中所示的信息信号数据。例如,部分生成器26被配置成对信息内容进行有损压缩,以获得最低级别或者最低层部分数据32a,例如x00。为此,部分生成器26降低了信息内容22的质量并以降低了的质量进行编码。在这种情况下,部分生成器26可配置成通过分离较高级部分数据32b伴随所述最低层部分32a,结合最低层部分数据32a,使得在某些级别以及一个或者多个扩展维度上的可重建质量增加。为便于理解,图中示出了四个不同部分作为部分生成器26的输出,这些部分与图1a的配置相对应。但是,不同于图1a至图1c中的表述,所述由部分生成器26输出的部分数据被理解为是非重叠的。也就是说,由部分生成器26输出的部分数据x01仅包围对星座x01必要的数据的部分,所述x01与较低级别部分x00的较低级别部分数据不相交,即图1a的矩形10的右上。类似地,由部分生成器26输出的星座x10仅包围图1a中的部分10b中的数据,该部分数据不与较低层部分10c重叠。由部分生成器26输出的最高级别部分数据x11仅包围图1a至图1c中不包含在任何子部分中的信息信号的数据。
[0060] 未受保护的多个不相交部分紧接着由FEC保护器28进行保护。具体地,FEC保护器28包括多个模28a至28d,每个模块均一对一地与部分生成器26输出的不同部分或者各部分对应的中不同质量级别/层联接。每个模块对各自的部分数据进行FEC保护。但是,除了各不相交部分数据,每个模块28a至28d均接受对各质量级别起作用的或者必需的较低级别部分的数据。例如,模块28b与质量星座x01相关,并接收由部分生成器26输出的不相交部分数据x01以及最低级部分数据32a。通过这种方式,模块28b接收整个部分数据10a(图1a)。因此,每个模块28a至28d对重建信息内容所必需的所有数据进行FEC保护,与所述模块相关的部分数据被分配给相应的质量级别。换言之,事实上28a至28d中的每一个都与不同的质量级别或者质量星座相关,由部分生成器26输出的、以质量星座为单位、未受保护的信息信号是可扩展的,这些模块中的每个对各质量级别或者质量星座所参与的或者所必需的所有数据进行FEC保护。因此,模块28b与较高级部分数据x01相关的冗余信息同样依赖于并保护较低级别部分数据32a。
[0061] 模块28a至28d输出各不相交部分数据以及由各FEC保护获得的冗余信息。虽然FEC保护器28所用的FEC保护的示例在后文中会有更详细的描述,但值得注意的是,FEC保护器28及其模块28a至28d各自可使用系统码生成冗余信息。然而,由于模块28a至28d标志出了所接收的数据,因此也可使用非系统码,以使用较低部分的数据来生成编码的汉字,所述编码的汉字表示的各部分数据与以非系统方式与冗余信息混合的各模块相关。接下来将通过LT码给出非系统码的一个示例。
[0062] 多路复用器30接收来自FEC保护器28的受保护的部分并将其复用至受保护的信息信号24,所述受保护的信息信号24提供与由部分生成器26输出的未受保护的信息信号相同的扩展性,但是是以保护的方式(in a protected manner)。这些受保护的较高级不相交部分中的每个都具有冗余信息,以保护较低级的受保护的不相交部分。而且,输出端24的受保护的信息信号的各种重叠部分可单独解码,以使信息内容能在各级别上进行重建,而不需要来自受保护的信息信号中剩余部分(remainder)的任何信息。受保护的信息信号24可以数据流的形式加至连续的时间内,其中每个受保护的不相交部分可作为该数据流的一连续部分,以使得各冗余信息接近各不相交部分。
[0063] 由装置20生成的受保护的信息信号因而可在接收端利用如图3所示的方法进行差错纠正。
[0064] 图3中的方法始于步骤50,该步骤从受保护信息信号中提取了一级别部分以及与其相关的冗余信息。例如,第一次执行步骤50时,从受保护的信息信号中提取最低级别受保护部分,即图1a中的部分10c以及其冗余信息。之后,在步骤52中,对提取后的部分基于相关的冗余信息进行前向检错或者前向纠错。前向纠错步骤52的成功与否取决于步骤50中所提取数据发生错误的严重程度。步骤54中,检查步骤53中的前向纠错是否成功。
如果不成功,则进行步骤56,检查是否具有依赖于或者保护所述从较高级别部分中提取的部分的更多冗余信息。例如,如果当前的提取部分为图1a中的10c,则步骤56中的检查显示部分10a和10b中的冗余信息同样保护部分10c。如果这些冗余信息存在,则在步骤58中通过使用步骤56中的更多冗余信息以及较高级别部分进行进一步前向纠错尝试。之后,再次进行步骤54中的检查。如果步骤56中确定不存在更多的冗余信息,则该差错纠正失败,且该方法以错误60结束。
[0065] 然而,有条件尝试(conditional attempt)58增加了对提取部分进行差错纠正的成功概率。如果步骤54中的检查显示纠正成功,则该方法进行步骤62,检查用户或者接收端默认设置是否请求较高级别质量。如果是,该方法执行步骤50,即提取下一级别部分。通常,这种提取限于下一级别部分的不相交部分,即下一级别部分与之前已被提取部分的不相交的部分。此外,步骤58中可能已经进行了提取,这种情况下可跳过重新提取的步骤。但是,如果步骤62中的检查显示未请求较高级别,则所述信息内容在步骤64中以被请求级别从提取后的、且最终进行了前向纠错的部分获得,之后该方法成功结束于66。
[0066] 根据图3,较低级别部分的差错纠正首先限制于相关的冗余信息。换言之,进行第一次尝试,以通过仅使用其冗余信息对该部分进行差错纠正。仅在丢失的情况下,才会另外使用较高级别部分的冗余信息。当然,根据如图4实施的一更简单的方法,较高级别部分的冗余信息可即刻使用,用于较低级别部分的差错检测以及差错纠正。图4示出了这各过程。步骤70中,通过使用与被请求级别相关的冗余信息、与较高级别以及较高级别中和被请求级别不相交的部分相关的冗余信息,来对被请求级别部分中的信息信号的错误进行纠正。
例如,为了纠正图1a中部分10c的错误,步骤70中使用与部分10c相关的冗余信息以及各较高级部分10a和10b中与部分10a和/或10b相关的冗余信息进行差错纠正,其中各较高级部分10a和10b分别与较低级别部分10c不相交。之后,在步骤72中,通过丢弃与被请求级别部分不相交的较高级部分中的部分,被请求级别的信息内容从差错纠正后的部分中获得。
[0067] 在描述附图之前,值得注意的一个预防措施是:图2至图4中适用的一可扩展信息信号表现出可扩展性的维度数目比FEC数据储备使用或者采用的维度数目更大。换言之,创建FEC数据时,信息信号所采用的依赖性可能仅包含所述信息信号的可扩展维度的一合适子集。参照图1a至图1c,例如,上下文所描述的分层FEC仅限于两个维度12和14中的一个。
[0068] 上述描述的实施例不限定其应用方式,比如视频编码或者类似方式。此外,用于保护单独的质量级别所使用的这种前向纠错还未详细讨论。同样适用于扩展性的种类或者扩展维度的不同概率。这些术语的例子可从下面的实施例中获得,其中的描述有时会参考图1至图4中任一个。具体地,下述的实施例通常通过回复到媒体流尤其是视频比特流的示例来证明。下述的实施例也使用上述分层前向纠错,因为可扩展视频编解码器的每个较高层的FEC保护是相连的(concatenated)。然而,虽然下述的实施例主要参考了可扩展视频编码,但同样的实施例也可应用于任何数据表示,包括可扩展音频、计算机图形数据以及场景描述,所述数据的子集依赖于所述数据另一子集的正确性。
[0069] 图5中使出了一媒体流的依赖结构。一媒体流被置入连续的时间帧内,图5中示出了时间帧0、t和2t。该媒体流显示为多层。具体地,媒体流具有L个依赖层。最低依赖层0可视为与沿图1b中轴14的级别0相对应,依赖层1与沿该轴的级别1相对应,依赖层2与级别2相对应。根据图5,增强层的冗余符号通过所有下方的参考层(如图5中描述的FEC重建)的信源符号(source symbol)来计算。加至对较低层进行额外保护,而不增加整个媒体流即所有层的FEC冗余符号的整体数量。图5中的双向矢量表明了哪些层用于生成FEC冗余符号。本实施例中,依赖层的最大数目为L。
[0070] 最低层0(FEC0)的FEC冗余符号由某种FEC编码技术T生成。FEC1(层1)码元在层0和层1的信源符号基础上生成,FEC2(层2)码元生成于层0、层1和层2等的信源符号基础上,以此类推,直至生成于层0至层L-1基础上的FEC L-1。这些FEC码元的生成可由图2中所示的模块执行。
[0071] FEC 0码元可独立用于FEC方案T的解码。层1仅在与层0结合时才能被纠正。这两层的冗余符号被结合起来用于重建层1和层0。如果丢失的码元不超过传输码元FEC
0与FEC 1的总和,则两层均可被重建,即如果层1中留有足够的冗余符号FEC 1用于重建这两层:层1中所有传输码元n1和层2中所有传输码元n2的和大于或者等于k1+k2,基层中大于基层冗余符号FEC 0数目的码元丢失是可以克服的。
[0072] 通过计算所有下方参考层(如图5中描述的FEC重建)以上的增强层的冗余符号,图5中的分层FEC因而利用比特流中现有的依赖性来在l>1的上层中生成层综合的冗余或者奇偶码元,其中的双向矢量显示了哪些层用于生成其相关层的FEC冗余符号。
[0073] 如上所述,媒体比特流分成L个依赖层,最低层l=0的冗余符号(FEC 0)由FEC编码技术T生成。FEC 1(层1)码元可在层0和层1的信源符号基础上生成。此外FEC2(层2)码元可由层0、层1和层2的信源符号基础上生成,等等,直至FEC L-1由所有下方的层0到L-1的信源符号基础上生成。通过在比特级别n-k=2对两层(k为源/未受保护比特数目,n为包括有效载荷(payload)数据和冗余的受保护的比特数目)进行异或编码,可对FEC码元进行编码和解码。需注意的是,上述描述的分层FEC保护可任何其它FEC技术(例如使用异或组合生成冗余符号的技术)一起使用。
[0074] 层0码元使用一种特别的FEC技术生成。对k比特矢量的信息比特I0={i00,...,i0k-1}进行异或运算得到冗余符号(此处为比特)P0={P01,...,P0n-k}。为重建一系统码字,P0连同I0一起建立码字C0,在下文中有时被称为星座0。在图5和图3的实施例中,n-k=2用作示例。
[0075] 依赖层1的集合P1中的比特在星座1中超过依赖层1和下方层0的信源符号,即结合层1所依赖的层0的信源符号。因此,冗余矢量P1为I0和I1的异或组合。系统码字C1为源码I1和P1的结合(concatenation)。图6描述了具有分层FEC的两个依赖层的编码。
[0076] 由于分层FEC方法的附加异或值,不同层的冗余符号(比特)可以结合,以纠正星座中包括的所有层的信源符号的擦除。
[0077] 若L为依赖层的数目,则图7描述了所有依赖于可用层L的数目的、可编码和解码的星座0到L-1。
[0078] 若层0中存在错误,则每个星座可用于纠错(见步骤70)。对于较低的计算复杂度,可首先尝试用最低星座0纠错(见图6)。如果纠错失败(步骤54),则尝试下一星座1,如此类推。如果最后的星座L-1也失败了,那么层0中的错误则不能被纠正(步骤60)。另外,如果层0可重建,则数据可用于解码更高星座,但由于从较低层到上层没有异或连接,因而不会给出任何保护。换言之,如果层0能够被重建,则星座1中的数据可用于重建层1。
[0079] 图8中描述了参照图6中的编码示例的解码实施例。如果P1=n1-k1为层1中冗余或者奇偶码元的数目,e1为层1中丢失码元的数目,且每个冗余符号均可纠正层1及所有较低层的传输码元中的丢失码元其中一个,则这些层可以被解码,如果:
[0080] 1层的星座0:p0≥e0
[0081] 2个后继层的星座1:如果(p1≥e1),则p0+p1≥e0+e1
[0082] 3个后继层的星座2:如果(p1≥e1)&(p2+p1≥e2+e1),则p0+p1+p2≥e0+e1+e2[0083] …
[0084] L-1个后继层的星座L-1:如果(pL-1≥eL-1)&...&(pL-1+...p1≥eL-1+...+e1),则
[0085] 每个星座中层0的奇偶码元的数目p+0可按如下方式计算:
[0086] 星座0:p+0=p0
[0087] 星座1:如果(p1≥e1),则p+0=p0+(p1-e1)
[0088] 星座2:如果(p2≥e2)&(p2+p1≥e2+e1),则p+0=p0+(p2-e2)+(p1-e1)[0089] 星座L-1:如果(pL-1≥eL-1)&...&(pL-1+...p1≥eL-1+...+e1),则[0090] 除了较低层的保护不可以使用,且较低层必须成功解码,l>0的增强层保护增加可以同样的方式解码。
[0091] 图8描述了两层解码的实施例。该实施例中假设了编码器端运用接收端了解的异或运算。接着可以以下述方式纠正擦除。假设R0=(0???1)为层0接受到的码字,R1=(11011)为层1接受到的码字。码元“?”代表一丢失的比特。在星座0中,所述方法和装置尝试(步骤52)采用FEC 0奇偶比特来解码层0。仅位i02可以被纠正,由于奇偶比特不足,其它位i01不能被纠正。在接下来的步骤中(步骤58),尝试解码结合FEC 0和FEC 1的星座1。通过与上层结合,丢失的位可以被纠正,且两层均可以被成功解码(步骤64)。
[0092] 所述的分层FEC在上层奇偶比特中增加了额外的依赖性。但是由于各层之间的依赖性,在较低层不正确的的情况下,及时接收到的较高增强层正确也是无意义的。
[0093] 接下来将描述具有可扩展媒体流的多维分层FED的实施例。通过允许不同的FEC在可扩展媒体的不同维度上同时编码,上述FEC被扩展,这就是后文中所谓的多维分层FEC(MDL FEC)。由于如SVC[A1][A2][A3]等现代可扩展媒体编码标准的可扩展选择,媒体流中的依赖性可具有多种可扩展维度。即,对于一SVC媒体流,通过增加或者删除层,可同时改变可解码视频的SNR品质、帧速率以及分辨率。图9描述了一种可能的SVC依赖结构,根据此种结构一视频信号提供时间分辨率、四种级别的可扩展性、四种级别的比特速率或者SNR可扩展性以及三种级别的空间分辨率可扩展性。所示的各独立块指的是SVC信号中的不相交部分,其中的矢量由较高级别部分指向所述较高级别部分所依赖的较低级别部分。
[0094] 换言之,分层FEC可用于多维依赖结构。冗余符号可在所有依赖层的基础上重建。设可扩展维度D的层的数目为LD。图10例示性地描述了D=3时可能的MDL FEC星座。但是,任何D>3以及任何小于D=2的维数也是可行的。
[0095] 图10中,基础层包括在所有FEC重建中。这与图1a至图1c中所示的实施例一致。因此存在多种成功纠错的路径。图10的MDL FEC下述方式重建:多维可扩展空间的路径上所有维包括在冗余符号的重建中,即对于一特殊的L维星座{D0,...,DL-1},所有d≤DL(0≤l≤L-1)的星座的信源符号用于重建冗余符号。这就允许增加重建多维可扩展空间的路径上一星座{d0,...,dL-1)的概率,而不增加冗余符号的数目。
[0096] 例如,如果基础层中发生错误,以星座000开始的后继星座被检测以纠正该错误。若星座000纠错失败,则后续两层使用如图10中的星座100、010、001等。
[0097] 采用MDL FEC传输可扩展媒体流具有优势。例如,在一些场景如非均匀差错保护[A5]或者分层组播[A6],单独传输各层具有重要意义。在这种情况下MDLFEC增加了各维上较低层的解码概率。图11描述了采用分层FEC的两个独立层的实施例。图中示出了发生于较低层中的错误突发(error burst)。
[0098] 如果较低层被这种错误突发影响,那么未受影响的较高增强层不用额外的冗余符号就可另外用于解码下方的层。
[0099] 上述实施例可用于具有编码和解码矩阵扩充的LT码(与[A7]相比),如图12中右边所示。SS为由图2中的部分生成器26输出的未受保护的信息信号的信源符号,ES为包含于图2中由输出端24输出的受保护的信息信号中的编码符号。通过将图12的编码矩阵中同一直线上的所有SS与1异或计算得到编码符号。图12中,左边的矩阵示出了一在图19所示的方案中有用的生成矩阵,根据该矩阵每个不相交层部分可单独得到FEC保护。左边的矩阵仅用作对比。右边的生成矩阵中,层0和层1的码元结合以形成编码符号ES,用于填补层1的受保护的不相交层数据,层0、层1和层2的码元结合以形成编码符号ES,用于填补层2的受保护的不相交层数据。
[0100] 事实上,图12中的生成矩阵可通过图2所示的FEC保护器28实施,模块28a到28d其中每个对应于右边标有“层0”、“层1”或者“层n”的矩阵中任意一行。具体地,层n模块可执行不同的求和运算或者层m部分中km个码字中其它组合(0≤m≤n),由图12的矩阵中的“1”表示,以获得nn个编码码字(nn>mn),所述编码码字以非系统化的方式表示层n部分的冗余信息以及有效载荷数据。
[0101] 上述实施例可用于非系统化以及系统化Raptor码(与[A8]相比),采用如图12所述的编码和解码矩阵扩充以及图13所述的附加预编码矩阵扩充(用于系统化编码),其中,图13中左边的矩阵显示了一种可能的预编码矩阵,该矩阵在图19所示的方案中也是可用的,根据该矩阵,每个不相交层部分可单独受FEC保护,而在使用Raptor码时则可将左边的矩阵用于实施分层FEC。仅作为一种预防的方法,需注意图13假定层的数目为2,而图12中层的数目为3。可以看出,通过图13中的预编码矩阵,通过将较高层的码元与较低层码元结合,对较高层的码元进行预编码。当采用图12中右边矩阵时,仔细设置预编码矩阵(图13中右边矩阵的较低的左边部分)的结合部分会产生一系统码。如图所示,仅图13矩阵中结合区域的Al*部分需要设置,其余部分设为0。
[0102] 另外,上述实施例可用于LDPC码(见[A9])或者线性块编码(见[A2]),其中的LDPC码具有扩展的奇偶矩阵(类似于LT码的扩展的编码矩阵)。
[0103] 上述实施例可与可扩展媒体编码结合。可扩展媒体编码可以是可扩展视频和音频编码,且可与具有一维或者多维依赖结构的可扩展媒体编码结合。在后文中,所述多维依赖结构可用于形成如上所述的MDL FEC。通常,上述实施例可用于保护任何数据集,包括计算机图形、场景描述、元数据、语义数据,该数据中一个子集的可用性取决于数据中其它子集的正确性。
[0104] 在使用无速率码详细描述实施例前,接下来的部分对无速率码(主要是Luby传输码和Raptor码)进行了简要概述。可分级视频编码用作一说明性的实施例。接下来解释将无速率码扩展至分层FEC的方法并陈述某些选择性结果。
[0105] 无码速率或者喷泉码-无速率码和喷泉码为同义词-为纠错码,主要用于分组丢失的情况。它可从有限的k个信源符号(SS)产生理论上无限的n个编码符号(ES),由于稀疏的编码矩阵,其复杂度较低。为了成功解码,所接收到的容错熵编码(Erec)的码元数目必须大于k+λ,其中的λ代表必要的解码开销(overhead),大约为(依赖于所用FEC技术T的)原始信源符号k的3%到5%。设计无速率码的难处在于要开发一种算法来生成理论上无限的异或组合P的唯一的集合,以平衡信源符号覆盖率和影响λ值以及复杂度的稀疏矩阵分配(sparsematrix allocation)。
[0106] 2002年Michael Luby提出了无速率码的第一种实际解决方案-LubyTansform(LT)码[A7]。
[0107] 第一输入数据分为k个SS,每个的大小为t。通过计算每个Ei的由集合Pi定义d个信源符号的不同异或组合,来生成编码符号,其中所包含的信源符号的数目d称为度。每个集合Pi由合适的度分布随机生成,其中的i表示唯一编号(ESI),用作伪随机发生器的随机种子(seed)。ESI数目随着编码符号被传递给解码器。不同的异或组合矢量P0,...,Pn-1构建了图14中描述的LT编码矩阵GLT。
[0108] 矩阵行的每个编码符号Ei以及ESI数目i通过将所有信源符号K与组合集Pi中的布尔(Boolean)1进行异或生成。完整的编码操作也可表示为:
[0109] E(0:n-1)=GLT(0,1,...,n-1)·K (1)
[0110] 在接收端异或组合Pi可由成功接收到的编码符号Ei的ESI irec∈{0,...,n-1}重建。如果成功接收到的编码符号的异或组合集以最小值k已成功接收线性独立异或组合,k个信源符号可通过方程的求解系统来恢复。
[0111] [B7]中提出了Raptor码。通过引进一附加的预编码,他们试图减小编码复杂度,以求软化LT编码的信源符号的覆盖约束(coverage-constraint)并使稀疏矩阵GLT降低其度成为可能。编码通过使用类似于LT码的方式完成,该方式使用预编码的符号F代替信源符号K作为LT码的源。符号F使用由一s×k的生成矩阵Gp产生的附加FEC计算,其中的s表示奇偶码元Dp的数目。奇偶码元由下述方程2计算。
[0112] Dp=Gp·K (2)
[0113] 结果的编码符号E由预编码符号F=[DpK]作为方程1中的生成矩阵GLT的源计算。
[0114] 在大多数的传输系统中,直接存取原始数据具有益处。因此在[B8]和[A8]中提出了Raptor码的系统化版本,其中的信源符号出现在编码符号里。预编码生成得到轻微调整。为补偿LT码中信源符号的异或,预编码生成中也引入了矩阵GLT。图15描述了系统化预编码矩阵GpSys。
[0115] 由GLT引入的约束导致下述结果:开始k个预编码符号F0,...,Fk-1的LT编码产生原始信源符号K,以及一系统码。如果Is代表一s×s单位矩阵,则预编码矩阵GpSys定义为:
[0116]
[0117] 预编码符号Fsys可通过由图15中描述的约束过程建立的方程求解系统计算:
[0118]
[0119] 系统化Raptor码E[0:n-1]由将Fsys预编码符号作为方程1中的生成矩阵的源来计算。
[0120] 基于上述技术,分层无速率码可通过下述方式重建。具体地,采用分层FEC方案来系统化Raptor码,编码和预编码矩阵GLT和GpSys必须根据以下分层FEC的步骤对l>0的依赖层进行调整。
[0121] 下面描述LT编码矩阵的第一扩展。标准LT编码矩阵GLT具有k×n维。为将异或m区域扩展至较低层并保持恒定的编码速率,层m的GLTm必须被扩展至一∑l=0klxn矩阵(层l的信源符号数目为kl)。
[0122] 为扩展层l的编码矩阵GLTl,典型矩阵可与较低层的编码矩阵结合以建立分层的编码矩阵GLayeredLT(1):
[0123]
[0124] 通过该步骤,标准LT码技术可用于提供一灵活的度分布。为避免双异或组合,同一层中Pi与l<m的较低层编码矩阵GLT0*,...,GLT(m-1)*的结合通过未使用的ESI数目生成。由于编码符号的数量理论上是无限的,因此该方法是可能的。图16描述了两个例示性层的分层LT编码矩阵GLT0以及GLayeredLT(1)。注意所提出的扩展适用于多层。
[0125] l=0的层的编码符号以传统方式生成。相关编码矩阵GLT0对应于图6所述的矩阵,且每一行由异或集合P0,…,Pn0-1组成,所述P0,…,Pn0-1以ESI数i=0,…,n0-1为随机数种子生成。对于编码符号,l=1层的标准矩阵GLTl的生成与矩阵GLT1*结合,每个异或集合由连续的未使用的ESI数i=0,…,n0-1建立。l=1层的分层FEC编码符号以下式计算:
[0126] E1[0:n1-1]=GLayeredLT(1)(0,1,...,n1-1)·K1 (6)[0127] 层1的编码符号代表两层的异或组合,可用于按照上述分层FEC方法帮助解码下方l=0的层。
[0128] 由于LT编码矩阵扩展,Raptor码不再是系统化的。系统行为可通过对预编码矩阵GpSys增加额外的约束来重建。对于一系统码,预编码必须保证由分层LT编码生成的编码符号包含有原始信源符号。根据方程3,层l的重建的分层预编码矩阵GLayeredpSys(1)定义为:
[0129]
[0130] 增加GLayeredpSys(1)而不是GLT来补偿LT编码矩阵中的矩阵扩展。图17中描述了两层的分层预编码矩阵,其中 预编码符号FSys0以传统方式计算,而层1的预编码符号Fsys1以方程8中的解决分层约束过程计算。
[0131]
[0132] 分层系统化raptor码的最终编码符号由方程6以及下式生成:
[0133]
[0134] 层1的编码符号 为层0与层1的无速率异或结合,其中第一 符号对应原始信源符号K1。
[0135] 下面讲述基于上述分层FEC Raptor码产生的选定的仿真结果。无速率编码的执行一般可由成功解码所必需的附加码元开销A来衡量。紧随的结果显示所提出的分层无速率Raptor码具有与标准Raptor码同样的解码概率。参考[A8]所提出的实施方案的用于仿真Raptor编码的软件已扩展至分层FEC方法。
[0136] 对于标准Raptor编码,输入数据由大小t=48字节的k=1200个的信源符号组成。图18中,x轴表示附加修复码元的剩余数目,y轴表示3000次测试中成功解码次数的百分比。
[0137] 无速率编码的执行一般可由成功解码所必需的附加码元开销n来衡量,如[B8]中所描述的,附加码元比接收到的重建原始码元所必需的信源符号稍微多一点。每个raptor码可为特定数目随机信源符号的异或组合。通过求解由所接收的码元的异或组合建立的一线性方程组来进行解码。如果所接收的码元由足够的线性独立方程生成,则该线性方程组具有唯一解。
[0138] 在较高层编码中,根据上述实施例的分层FEC方法可在较低层中增加额外的异或组合。因此在解码多层分层FEC的各层时,较低层有更多的可用方程,而且具有足够的可用线性独立方程的概率会增加。
[0139] 图18中,对两层进行采用和不采用分层FEC方法仿真。每一层的信源符号的数量为k=1024,每个符号大小为t=48。第二层依赖于第一层。y轴上表示最低层的解码概率超过额外数目接收的Raptor码(剩余符号)n=r-k,其中r代表接收到的符号的数目。该图中可看出,由于最低层额外的异或组合,采用分层FEC方法的解码概率增加。[A10]中显示了类似的影响。
[0140] 特别地,描述了特定无线多播环境中的分层传输的选定仿真结果。SVC中由分层无速率FEC在应用层进行保护的分层传输应用于DVB-H[B10][B11]视频服务。MPE-FEC保护未使用,Gilbert-Elliot(GE)模型[B12]用作随机模型对DVB-H传输分组的丢失进行仿真。由于GE的简单性,且其能在转移概率无线信道中生成对差错的良好表示,因此得到广泛使用。GE有两种状态,即好的状态g和差的状态b,且定义为这两种状态之间的转移概率。因此在方程10中的传输矩阵T中具有四种概率。
[0141]
[0142] 实测丢失模式(real measured loss pattern)中的转移概率已由[B13]中计算pgg和pbb的方法计算,该方法采用了如方程11和12中所述的平均差错率E和平均错误突发长度B。根据pgb=1-pgg以及pbg=1-pbb可确定独立丢失模式中完整的转移矩阵T。
[0143]
[0144]
[0145] 丢失模式从实际DVB-H信道中使用16QAM调制和8k FFT模式而不是MPE-FEC测得。不同的多普勒频率处测量到的接收质量不同,进而导致不同的丢失动作(loss behavior)。
[0146] 为反映分层FEC的影响,我们将两个不同分辨率的传输与SVC比较。基层在QVGA分辨率下的速度为每秒25帧,扩展层在VGA分辨率下的速度也是每秒25帧。基层以典型系统化Raptor码编码,部分附加的冗余符号由编码率c0控制。较高的VGA层依赖于成功接收到的QVGA层。因此该层使用分层FEC以及由编码率c1控制的、同时也保护较低层的附加冗余符号。如果最高层因传输差错而丢失,则仿真VGA接收器来接收转换后的(upscaled)QVGA分辨率。对三种具有普通和分层FEC的FEC保护方案作出了比较。为体现分层FEC的影响,第一种使用均匀差错保护,第二种使用UEP且在较低层中使用更高的保护,第三种使用UEP且在上层中使用更高的保护。调整编码率使得所有保护方案的总比特率相等。
[0147] 换言之,上述实施例展示了一种在无速率编码中尤其是系统化Raptor码中采用分层FEC的方法。为实现依赖层综合FEC生成,并维持系统化行为,同时对编码和预编码矩阵进行扩展。仿真结果表明,分层raptor FEC具有恒定性能并优于标准FEC保护。上述实施例可用于现代分层或者可分级视频编码技术,能产生一视频比特流,该视频比特流由于其参照其它层因此内部各层之间相互具有依赖性。一种用于沿现有依赖结构直线连接前向纠错编码的方法,可用于无速率编码。所谓的分层FEC增加了对较低和更重要的层的保护,但增加FEC冗余码的总量。另外,上述实施例适用于无速率LT码和Raptor码。仿真结果中体现了分层FEC的性能增益,以及使用可分级视频编码(SVC)进行的分层多播传输。
[0148] 然而,需注意的是,上述实施例并不限于关于视频编码或者LT码和Raptor码的具体实施方式。例如,可使用数字喷泉(DF)码(见[A10])。假如接收到足够的分组,由于源数据可由编码包中的任何子集恢复,这种数字喷泉码为具有关键特征的稀疏图编码。考虑到源数据所产生的符号数目可以为无限且可即时确定,因而DF编码是无速率的。此外,DF编码是通用的,因为这些编码的码元长度可以是任意的,从1bit二进制码元到通常的L bits码元,不会影响编码和解码效率。DF编码的一例子为LT码。另外,除了LT码和Raptor码,还可使用LDPC码或者online码。设计所使用的FEC编码,使得同样能够通过收集根据上述实施例的分层FEC保护数据获得一超定方程组,这样上述关于增加FEC纠正的优势与较低级别数据结果相关。可扩展维数可从时间采样分辨率、视象号码(view number)、音频信道数、体视/非体视(stereoscopy/non-stereoscopy)、以及采样值比特深度中选择。
[0149] 根据实际的实施方式,本发明的方案可在硬件或者软件中实施。因此,本发明同时涉及一种计算机程序,该计算机程序可储存于一计算机可读媒介比如CD、光盘或者任何其它数据载体上。因此本发明也是一种具有程序代码的计算机程序,当该程序在计算机上运行时,执行本发明的方法。
[0150] 另外,需注意的是,流程图中指示的所有步骤或者功能在编码器端均可分别实现,实现方式可包括CPU上运行的子程序、ASIC的线路部件,等等。
[0151] 虽然此处仅描述了本发明的几个实施例,但是还存在落入本发明的范围的替换、置换和等同。需注意,实施本发明的方法和构成存在许多可替换方式。因此,权利要求解释为包括所有落入本发明的范围的替换、置换和等同。
[0152] 参考文献:
[0153] [A1]ITU-T and ISO/IEC JTC 1,Advanced video coding for generic audiovisual services,ITU-TRecommendation H.264 and ISO/IEC 14496-10(MPEG-4 AVC),Version 1:May 2003,Version 2:May 2004,Version 3:Mar.2005,Version 4:Sep.2005,Version 5 and Version 6:June 2006,Version 7:Apr.2007,Version
8(including SVC extension):Consented in July 2007.
[0154] [A2]A.Bouabdallah,J.Lacan,Dependency-aware unequal erasure protection codes,Journal ofZhejiang University SCIENCE A 2006 7(Suppl.I):27-33[0155] [A3]H.Schwarz,D.Marpe,and T.Wiegand,Overview of the Scalable Video Coding Extension ofH.264/AVC,IEEE Transactions on Circuits and Systems for Video Technology,Special Issue onSVC,to be published in October 2007[0156] [A4]Y.-K.Wang,M.M.Hannuksela,S.Pateux,and A.Eleftheriadis,System and TransportInterface to SVC,IEEE Transactions on Circuits and Systems for Video Technology,Special Issueon SVC,to be published in October 2007
[0157] [A5]B.Girod,U.Horn and B.Belzer,Scalable Video Coding With Multiscale MotionCompensation And Unequal Error Protection,in Proc.International Symposium on MultimediaCommunications and Video Coding,New York,Oct.1995[0158] [A6]S.McCanne,V.Jacobson and M.Vetterli,Receiver-driven layered multicast.In Proc.ofACM SIGCOMM′96,pages 117--130,Stanford,CA,August 1996[0159] [A7]M.Luby, ″ LT-codes ″,in Proceedings of the ACM Symposium on Foundation of ComputerScience(FOCS),2002
[0160] [A8]M.Luby,A.Shokrollahi,M.Watson and T.Stockhammer,Raptor Forward Error CorrectionScheme for Object Delivery,draft-ietf-rmt-bb-fec-raptor-object-09(work in progress),June 28,2007
[0161] [A9]R.G.Gallager,Low-Density Parity-Check Codes,IRE Trans.Inform.Theory,vol.IT-8,pp.21-28,Jan.1962
[0162] [A10]Mattia C.O.Bogino,Pasquale Cataldi,Marco Grangetto,Enrico Magli,Gabriella Olmo,“Sliding-Window Digital Fountain Codes for Streaming of Multimedia Contents”,IEEE 2007
[0163] [B3]A.Albanese,J.Blomer,J.Edmonds,M.Luby and M.Sudan,”Priority encodingtransmission,”IEEE Trans.on Information Theory,42(6):1737-1744,1996.[0164] [B7]A.Shokrollahi,”Raptor codes,”Digital Fountain,Tech.Rep.DR2003-06-001,Jun.2003.
[0165] [B8]M.Luby,M.Watson,T.Gasiba,T.Stockhammer and W.Xu,”Raptor Codes for ReliableDownload Delivery in Wireless Broadcast Systems,”IEEE CCNC,Las Vegas,NV,Jan.2006.
[0166] [B10]ETSI TS 102 468(V1.1.1),Digital Video Broadcasting(DVB);IP Datacast over DVB-H:Set of Specifications for Phase 1,Apr.2006.[0167] [B11]ETSI TS 102 005(V1.2.1),Digital Video Broadcasting(DVB);Specification for the use ofVideo and Audio Coding in DVB services delivered directly over IP Protocols,Apr.2006
[0168] [B12]E.N.Gilbert,”Capacity of a burst-noise channel,”Bell Systems Technical Journal,vol.39,pp.12531265,1960.
[0169] [B13]M.Hannuksela,V.Vadakital and S.Jumislo-Pyykk,”Comparison of Error ProtectionMethods for Audio-Video Broadcast over DVB-H”,EURASIP Journal on Advances in SignalProcessing Volume 2007,Arcticle ID 71801,12 pages,2007.
QQ群二维码
意见反馈