一种图像预测方法和设备专利检索-运动补偿预测视听技术与设备专利检索查询-专利查询网

一种图像预测方法和设备

阅读：528发布：2020-05-12

专利汇可以提供一种图像预测方法和设备专利检索，专利查询，专利分析的服务。并且本申请实施例公开了一种图像预测方法和相关产品。该方法包括：解析码流获取当前待解码图像块的多假设信息索引；根据多假设信息索引，从多假设信息列表中，得到当前图像块对应的第一多假设信息，第一多假设信息包括运动信息索引和第一标识，第一多假设信息的运动信息索引指示当前待解码图像块的多假设运动信息，第一标识指示多假设方法的第一划分方式，第一多假设信息还包括第一划分方式的参数；根据所述第一标识和所述第一划分方式的参数，使用所述第一划分方式处理多个假设的预测图像块，以得到所述当前待解码图像块的预测图像块。这样，不同的图像块，可使用不同的划分方式来得到图像块的预测块，从而提高了图像预测的效率，降低了解码的时间。，下面是一种图像预测方法和设备专利的具体信息内容。

权利要求

1.一种图像预测方法，其特征在于，所述图像预测方法包括：
解析码流获取当前待解码图像块的多假设信息索引；
根据所述多假设信息索引，从多假设信息列表中，得到所述当前图像块对应的第一多假设信息，所述第一多假设信息包括运动信息索引和第一标识，所述第一多假设信息的所述运动信息索引指示所述当前待解码图像块的多假设运动信息，所述第一标识指示多假设方法的第一划分方式，所述第一多假设信息还包括所述第一划分方式的参数；
根据所述当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；
根据所述第一标识和所述第一划分方式的参数，使用所述第一划分方式处理所述多个假设的预测图像块，以得到所述当前待解码图像块的预测图像块。
2.根据权利要求1所述的方法，其特征在于，所述多假设信息列表包括至少一条所述第一多假设信息，和至少一条第二多假设信息，所述第二多假设信息包括运动信息索引和第二标识，所述第二多假设信息的所述运动信息索引指示一图像块的多假设运动信息，所述第二标识指示多假设方法的第二划分方式，所述第二多假设信息还包括所述第二划分方式的参数。
3.根据权利要求2所述的方法，所述第一标识和所述第二标识是同一标记位的不同取值。
4.根据权利要求1到3任一所述的方法，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，所述第二划分方式为方形划分，所述第二划分方式的参数指示所述方形划分的加权系数。
5.根据权利要求1到3任一所述的方法，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，或者所述第一划分方式为方形划分，所述第一划分方式的参数指示所述方形划分的加权系数。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
根据所述第一多假设信息的所述运动信息索引，从所述当前待解码图像块的候选运动信息列表中获取所述当前待解码图像块的多假设运动信息，所述当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。
7.根据权利要求6所述的方法，其特征在于，所述第一多假设信息的运动信息索引包括第一索引和第二索引，所述根据所述第一多假设信息的所述运动信息索引，从所述当前待解码图像块的候选运动信息列表中获取所述当前待解码图像块的多假设运动信息，包括：
根据所述第一索引，从所述当前图像块的第一候选运动信息列表中获取所述原始假设的运动信息，以及根据所述第二索引，从所述当前图像块的第二候选运动信息列表中获取所述额外假设的运动信息。
8.一种图像预测设备，其特征在于，所述图像预测设备包括：
存储器，用于存储码流形式的视频数据，所述视频数据包括一个或多个图像块；
视频解码器，用于解析码流获取当前待解码图像块的多假设信息索引；
根据所述多假设信息索引，从多假设信息列表中，得到所述当前图像块对应的第一多假设信息，所述第一多假设信息包括运动信息索引和第一标识，所述第一多假设信息的所述运动信息索引指示所述当前待解码图像块的多假设运动信息，所述第一标识指示多假设方法的第一划分方式，所述第一多假设信息还包括所述第一划分方式的参数；
根据所述当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；
根据所述第一标识和所述第一划分方式的参数，使用所述第一划分方式处理所述多个假设的预测图像块，以得到所述当前待解码图像块的预测图像块。
9.根据权利要求8所述的图像预测设备，其特征在于，所述多假设信息列表包括至少一条所述第一多假设信息，和至少一条第二多假设信息，所述第二多假设信息包括运动信息索引和第二标识，所述第二多假设信息的所述运动信息索引指示一图像块的多假设运动信息，所述第二标识指示多假设方法的第二划分方式，所述第二多假设信息还包括所述第二划分方式的参数。
10.根据权利要求9所述的图像预测设备，所述第一标识和所述第二标识是同一标记位的不同取值。
11.根据权利要求8到10任一所述的图像预测设备，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，所述第二划分方式为方形划分，所述第二划分方式的参数指示所述方形划分的加权系数。
12.根据权利要求8到10任一所述的图像预测设备，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，或者所述第一划分方式为方形划分，所述第一划分方式的参数指示所述方形划分的加权系数。
13.根据权利要求8所述的图像预测设备，其特征在于，所述视频解码器还用于：
根据所述第一多假设信息的所述运动信息索引，从所述当前待解码图像块的候选运动信息列表中获取所述当前待解码图像块的多假设运动信息，所述当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。
14.根据权利要求13所述的图像预测设备，其特征在于，所述第一多假设信息的运动信息索引包括第一索引和第二索引，在所述根据所述第一多假设信息的所述运动信息索引，从所述当前待解码图像块的候选运动信息列表中获取所述当前待解码图像块的多假设运动信息的方面，所述视频解码器还用于：
根据所述第一索引，从所述当前图像块的第一候选运动信息列表中获取所述原始假设的运动信息，以及根据所述第二索引，从所述当前图像块的第二候选运动信息列表中获取所述额外假设的运动信息。
15.一种图像预测设备，其特征在于，所述图像预测设备包括：
解析模块，用于解析码流获取当前待解码图像块的多假设信息索引；
第一查询模块，用于根据所述多假设信息索引，从多假设信息列表中，得到所述当前图像块对应的第一多假设信息，所述第一多假设信息包括运动信息索引和第一标识，所述第一多假设信息的所述运动信息索引指示所述当前待解码图像块的多假设运动信息，所述第一标识指示多假设方法的第一划分方式，所述第一多假设信息还包括所述第一划分方式的参数；
运动补偿模块，用于根据所述当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；
划分处理模块，用于根据所述第一标识和所述第一划分方式的参数，使用所述第一划分方式处理所述多个假设的预测图像块，以得到所述当前待解码图像块的预测图像块。
16.根据权利要求15所述的图像预测设备，其特征在于，所述多假设信息列表包括至少一条所述第一多假设信息，和至少一条第二多假设信息，所述第二多假设信息包括运动信息索引和第二标识，所述第二多假设信息的所述运动信息索引指示一图像块的多假设运动信息，所述第二标识指示多假设方法的第二划分方式，所述第二多假设信息还包括所述第二划分方式的参数。
17.根据权利要求16所述的图像预测设备，所述第一标识和所述第二标识是同一标记位的不同取值。
18.根据权利要求15到17任一所述的图像预测设备，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，所述第二划分方式为方形划分，所述第二划分方式的参数指示所述方形划分的加权系数。
19.根据权利要求15到17任一所述的图像预测设备，其特征在于，所述第一划分方式为三角形划分，所述第一划分方式的参数指示所述三角形划分的划分方向，或者所述第一划分方式为方形划分，所述第一划分方式的参数指示所述方形划分的加权系数。
20.根据权利要求15所述的图像预测设备，其特征在于，所述图像预测设备还包括第二查询模块，所述第二查询模块用于根据所述第一多假设信息的所述运动信息索引，从所述当前待解码图像块的候选运动信息列表中获取所述当前待解码图像块的多假设运动信息，所述当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。
21.根据权利要求20所述的图像预测设备，其特征在于，所述第一多假设信息的运动信息索引包括第一索引和第二索引，所述第二查询模块用于根据所述第一索引，从所述当前图像块的第一候选运动信息列表中获取所述原始假设的运动信息，以及根据所述第二索引，从所述当前图像块的第二候选运动信息列表中获取所述额外假设的运动信息。
22.一种计算机存储介质，所述计算机存储介质中存储有可执行的指令集，所述计算机程序产品在计算机上运行时，使得所述计算机执行如权利要求1到7任一所述的方法。

说明书全文

一种图像预测方法和设备

技术领域

[0001] 本申请涉及视频编解码技术领域，并且更具体地，涉及一种图像预测方法和设备。

背景技术

[0002] 数字视频能力可并入到多种多样的装置中，包含数字电视、数字直播系统、无线广播系统、个人数字助理(personal digital assistant，PDA)、膝上型或桌上型计算机、平板计算机、电子图书阅读器、数码相机、数字记录装置、数字媒体播放器、视频游戏装置、视频游戏控制台、蜂窝式或卫星无线电电话(所谓的“智能电话”)、视频电话会议装置、视频流式传输装置及其类似者。数字视频装置实施视频压缩技术，例如，在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分高级视频编码(AVC)定义的标准、视频编码标准H.265/高效视频编码(high efficiency video coding，HEVC)标准以及此类标准的扩展中所描述的视频压缩技术。视频装置可通过实施此类视频压缩技术来更有效率地发射、接收、编码、解码和/或存储数字视频信息。

[0003] 视频压缩技术执行空间(图像内)预测和/或时间(图像间)预测以减少或去除视频序列中固有的冗余。对于基于块的视频编码，视频条带(即，视频帧或视频帧的一部分)可划分成若干图像块，所述图像块也可被称作树块、编码单元(coding unit，CU)和/或编码节点。使用关于同一图像中的相邻块中的参考样本的空间预测来编码图像的待帧内编码(I)条带中的图像块。图像的待帧间编码(P或B)条带中的图像块可使用相对于同一图像中的相邻块中的参考样本的空间预测或相对于其它参考图像中的参考样本的时间预测。图像可被称作帧，且参考图像可被称作参考帧。

[0004] 其中，包含HEVC标准在内的各种视频编码标准提出了用于图像块的预测性编码模式，即基于已经编码的视频数据块来预测当前待编码的块。在帧内预测模式中，基于与当前块在相同的图像中的一或多个先前经解码相邻块来预测当前块；在帧间预测模式中，基于不同图像中的已经解码块来预测当前块。

[0005] 目前的帧间预测模式中的方法，预测效率不高，从而影响了整个解码过程的执行时间。发明内容

[0006] 本申请提供一种图像预测方法和装置，能够提高图像预测的效率，进而减小整个解码过程的时间。

[0007] 第一方面，提供一种图像预测方法，该方法包括：解析码流获取该当前待解码图像块的多假设信息索引；根据该多假设信息索引，从多假设信息列表中，得到该当前图像块对应的第一多假设信息，该第一多假设信息包括运动信息索引和第一标识，该第一多假设信息的该运动信息索引指示该当前待解码图像块的多假设运动信息，该第一标识指示多假设方法的第一划分方式，该第一多假设信息还包括该第一划分方式的参数；根据该当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；根据该第一标识和该第一划分方式的参数，使用该第一划分方式处理该多个假设的预测图像块，以得到该当前待解码图像块的预测图像块。

[0008] 一种可能的实现方式下，该多假设信息列表包括至少一条该第一多假设信息，和至少一条第二多假设信息，该第二多假设信息包括运动信息索引和第二标识，该第二多假设信息的该运动信息索引指示一图像块的多假设运动信息，该第二标识指示多假设方法的第二划分方式，该第二多假设信息还包括该第二划分方式的参数。

[0009] 一种可能的实现方式下，该第一标识和该第二标识是同一标记位的不同取值。

[0010] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，该第二划分方式为方形划分，该第二划分方式的参数指示该方形划分的加权系数。

[0011] 应当理解，第一划分方式和第二划分方式是不同的划分方式，每一种划分方式都是用来划分多个假设的预测图像块的，也就是用来划分原始假设的预测图像块和额外假设的预测图像块。关于多假设方法的多种划分预测图像块的具体方法和方式，可以参考JVET-K0144提案(三角形划分)和JVET-K0257提案(方形划分)的内容。

[0012] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，或者该第一划分方式为方形划分，该第一划分方式的参数指示该方形划分的加权系数。

[0013] 一种可能的实现方式下，该方法还包括：根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息，该当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。

[0014] 一种可能的实现方式下，该第一多假设信息的运动信息索引包括第一索引和第二索引，该根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息，包括：根据该第一索引，从该当前图像块的第一候选运动信息列表中获取该原始假设的运动信息，以及根据该第二索引，从该当前图像块的第二候选运动信息列表中获取该额外假设的运动信息。

[0015] 这样，采用上述的方法，由于码流中携带指示多假设方法的划分标识，解码端可以确定具体在多假设方法中使用那一种划分方式预测图像，也就是说，对不同的图像块，可使用不同的划分方式来得到图像块的预测块，这样图像块能使用更适合自身特点的划分方式，从而提高了图像预测的效率，降低了解码的时间。

[0016] 第二方面，提供一种图像预测装置，该装置包含用于执行上述第一方面中的任意一种实现方式中的方法的模块。

[0017] 第三方面，提供一种图像预测装置，包括：相互耦合的非易失性存储器和处理器，该处理器调用存储在该存储器中的程序代码以执行第一方面中的任意一种实现方式中的方法的部分或全部步骤。

[0018] 第四方面，提供一种计算机可读存储介质，该计算机可读存储介质存储了程序代码，其中，该程序代码包括用于执行第一方面中的任意一种实现方式中的方法的部分或全部步骤的指令。

[0019] 第五方面，提供一种计算机程序产品，当该计算机程序产品在计算机上运行时，使得该计算机执行第一方面中的任意一种实现方式中的方法的部分或全部步骤的指令。

[0020] 第六方面，提供一种图像预测设备，该设备包括：存储器，用于存储码流形式的视频数据，该视频数据包括一个或多个图像块；视频解码器，用于解析码流获取该当前待解码图像块的多假设信息索引；根据该多假设信息索引，从多假设信息列表中，得到该当前图像块对应的第一多假设信息，该第一多假设信息包括运动信息索引和第一标识，该第一多假设信息的该运动信息索引指示该当前待解码图像块的多假设运动信息，该第一标识指示多假设方法的第一划分方式，该第一多假设信息还包括该第一划分方式的参数；根据该当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；根据该第一标识和该第一划分方式的参数，使用该第一划分方式处理该多个假设的预测图像块，以得到该当前待解码图像块的预测图像块。

[0021] 一种可能的实现方式下，该多假设信息列表包括至少一条该第一多假设信息，和至少一条第二多假设信息，该第二多假设信息包括运动信息索引和第二标识，该第二多假设信息的该运动信息索引指示一图像块的多假设运动信息，该第二标识指示多假设方法的第二划分方式，该第二多假设信息还包括该第二划分方式的参数。

[0022] 一种可能的实现方式下，该第一标识和该第二标识是同一标记位的不同取值。

[0023] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，该第二划分方式为方形划分，该第二划分方式的参数指示该方形划分的加权系数。

[0024] 应当理解，第一划分方式和第二划分方式是不同的划分方式，每一种划分方式都是用来划分多个假设的预测图像块的，也就是用来划分原始假设的预测图像块和额外假设的预测图像块。关于多假设方法的多种划分预测图像块的具体方法和方式，可以参考JVET-K0144提案(三角形划分)和JVET-K0257提案(方形划分)的内容。

[0025] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，或者该第一划分方式为方形划分，该第一划分方式的参数指示该方形划分的加权系数。

[0026] 一种可能的实现方式下，该视频解码器还用于：根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息，该当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。

[0027] 一种可能的实现方式下，该第一多假设信息的运动信息索引包括第一索引和第二索引，在该根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息的方面，该视频解码器还用于：根据该第一索引，从该当前图像块的第一候选运动信息列表中获取该原始假设的运动信息，以及根据该第二索引，从该当前图像块的第二候选运动信息列表中获取该额外假设的运动信息。

[0028] 这样，采用上述的设备，由于码流中携带指示多假设方法的划分标识，解码端可以确定具体在多假设方法中使用那一种划分方式预测图像，也就是说，对不同的图像块，可使用不同的划分方式来得到图像块的预测块，这样图像块能使用更适合自身特点的划分方式，从而提高了图像预测的效率，降低了解码的时间。附图说明

[0029] 图1是编码系统10的概念性的框图；

[0030] 图2是视频编码器20的实例的示意性的框图；

[0031] 图3是视频解码器30的实例的示意性的框图；

[0032] 图4是视频编码系统40的实例的说明图；

[0033] 图5是一种用于实现本申请方法的装置500的示意图；

[0034] 图6是一种图像预测方法的示意图；

[0035] 图7是一种图像预测装置的示意图。

具体实施方式

[0036] 下面将结合附图，对本申请中的技术方案进行描述。

[0037] 以下，参考附图来说明本发明具体的实施方式以及使用本发明具体实施方式的应用实例。视频编码通常是指处理形成视频或视频序列的图片序列。在视频编码领域，术语“图片(picture)”、“帧(frame)”或“图像(image)”可以用作同义词。本申请(或本公开)中使用的视频编码表示视频编码或视频解码。视频编码在源侧执行，通常包括处理(例如，通过压缩)原始视频图片以减少表示该视频图片所需的数据量(从而更高效地存储和/或传输)。视频解码在目的地侧执行，通常包括相对于编码器作逆处理，以重构视频图片。实施例涉及的视频图片(或总称为图片，下文将进行解释)“编码”应理解为涉及视频序列的“编码”或“解码”。编码部分和解码部分的组合也称为编解码(编码和解码)。

[0038] 无损视频编码情况下，可以重构原始视频图片，即经重构视频图片具有与原始视频图片相同的质量(假设存储或传输期间没有传输损耗或其它数据丢失)。在有损视频编码情况下，通过例如量化执行进一步压缩，来减少表示视频图片所需的数据量，而解码器侧无法完全重构视频图片，即经重构视频图片的质量相比原始视频图片的质量较低或较差。

[0039] H.261的几个视频编码标准属于“有损混合型视频编解码”(即，将样本域中的空间和时间预测与变换域中用于应用量化的2D变换编码结合)。视频序列的每个图片通常分割成不重叠的块集合，通常在块层级上进行编码。换句话说，编码器侧通常在块(视频块)层级处理亦即编码视频，例如，通过空间(图片内)预测和时间(图片间)预测来产生预测块，从当前块(当前处理或待处理的块)减去预测块以获取残差块，在变换域变换残差块并量化残差块，以减少待传输(压缩)的数据量，而解码器侧将相对于编码器的逆处理部分应用于经编码或经压缩块，以重构用于表示的当前块。另外，编码器复制解码器处理循环，使得编码器和解码器生成相同的预测(例如帧内预测和帧间预测)和/或重构，用于处理亦即编码后续块。

[0040] 如本文中所用，术语“块”可以为图片或帧的一部分。为便于描述，参考由ITU-T视频编码专家组(Video Coding Experts Group，VCEG)和ISO/IEC运动图像专家组(Motion Picture Experts Group，MPEG)的视频编码联合工作组(Joint Collaboration Team on Video Coding，JCT-VC)开发的高效视频编码(High-Efficiency Video Coding，HEVC)描述本发明实施例。本领域普通技术人员理解本发明实施例不限于HEVC。可以指CU、PU和TU。在HEVC中，通过使用表示为编码树的四叉树结构将CTU拆分为多个CU。在CU层级处作出是否使用图片间(时间)或图片内(空间)预测对图片区域进行编码的决策。每个CU可以根据PU拆分类型进一步拆分为一个、两个或四个PU。一个PU内应用相同的预测过程，并在PU基础上将相关信息传输到解码器。在通过基于PU拆分类型应用预测过程获取残差块之后，可以根据类似于用于CU的编码树的其它四叉树结构将CU分割成变换单元(transform unit，TU)。在视频压缩技术最新的发展中，使用四叉树和二叉树(Quad-tree and binary tree，QTBT)分割帧来分割编码块。在QTBT块结构中，CU可以为正方形或矩形形状。在XXX中，编码树单元(coding tree unit，CTU)首先由四叉树结构分割。四叉树叶节点进一步由二进制树结构分割。二进制树叶节点称为编码单元(coding unit，CU)，所述分段用于预测和变换处理，无需其它任何分割。这表示CU、PU和TU在QTBT编码块结构中的块大小相同。同时，还提出与QTBT块结构一起使用多重分割，例如三叉树分割。

[0041] 以下基于图1至4描述编码器20、解码器30和编码解码系统10、40的实施例(在基于图6更详细描述本发明实施例之前)。

[0042] 图1为绘示示例性编码系统10的概念性或示意性框图，例如，可以利用本申请(本公开)技术的视频编码系统10。视频编码系统10的编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)表示可用于根据本申请中描述的各种实例执行用于图像预测的技术的设备实例。如图1中所示，编码系统10包括源设备12，用于向例如解码经编码数据13的目的地设备14提供经编码数据13，例如，经编码图片13。

[0043] 源设备12包括编码器20，另外亦即可选地，可以包括图片源16，例如图片预处理单元18的预处理单元18，以及通信接口或通信单元22。

[0044] 图片源16可以包括或可以为任何类别的图片捕获设备，用于例如捕获现实世界图片，和/或任何类别的图片或评论(对于屏幕内容编码，屏幕上的一些文字也认为是待编码的图片或图像的一部分)生成设备，例如，用于生成计算机动画图片的计算机图形处理器，或用于获取和/或提供现实世界图片、计算机动画图片(例如，屏幕内容、虚拟现实(virtual reality，VR)图片)的任何类别设备，和/或其任何组合(例如，实景(augmented reality，AR)图片)。

[0045] (数字)图片为或者可以视为具有亮度值的采样点的二维阵列或矩阵。阵列中的采样点也可以称为像素(pixel)(像素(picture element)的简称)或像素(pel)。阵列或图片在水平和垂直方向(或轴线)上的采样点数目定义图片的尺寸和/或分辨率。为了表示颜色，通常采用三个颜色分量，即图片可以表示为或包含三个采样阵列。RBG格式或颜色空间中，图片包括对应的红色、绿色及蓝色采样阵列。但是，在视频编码中，每个像素通常以亮度/色度格式或颜色空间表示，例如，YCbCr，包括Y指示的亮度分量(有时也可以用L指示)以及Cb和Cr指示的两个色度分量。亮度(简写为luma)分量Y表示亮度或灰度水平强度(例如，在灰度等级图片中两者相同)，而两个色度(简写为chroma)分量Cb和Cr表示色度或颜色信息分量。相应地，YCbCr格式的图片包括亮度采样值(Y)的亮度采样阵列，和色度值(Cb和Cr)的两个色度采样阵列。RGB格式的图片可以转换或变换为YCbCr格式，反之亦然，该过程也称为色彩变换或转换。如果图片是黑白的，该图片可以只包括亮度采样阵列。

[0046] 图片源16(例如，视频源16)可以为，例如用于捕获图片的相机，例如图片存储器的存储器，包括或存储先前捕获或产生的图片，和/或获取或接收图片的任何类别的(内部或外部)接口。相机可以为，例如，本地的或集成在源设备中的集成相机，存储器可为本地的或例如集成在源设备中的集成存储器。接口可以为，例如，从外部视频源接收图片的外部接口，外部视频源例如为外部图片捕获设备，比如相机、外部存储器或外部图片生成设备，外部图片生成设备例如为外部计算机图形处理器、计算机或服务器。接口可以为根据任何专有或标准化接口协议的任何类别的接口，例如有线或无线接口、光接口。获取图片数据17的接口可以是与通信接口22相同的接口或是通信接口22的一部分。

[0047] 区别于预处理单元18和预处理单元18执行的处理，图片或图片数据17(例如，视频数据16)也可以称为原始图片或原始图片数据17。

[0048] 预处理单元18用于接收(原始)图片数据17并对图片数据17执行预处理，以获取经预处理的图片19或经预处理的图片数据19。例如，预处理单元18执行的预处理可以包括整修、色彩格式转换(例如，从RGB转换为YCbCr)、调色或去噪。可以理解，预处理单元18可以是可选组件。

[0049] 编码器20(例如，视频编码器20)用于接收经预处理的图片数据19并提供经编码图片数据21(下文将进一步描述细节，例如，基于图2或图4)。在一个实例中，编码器20可以用于在编码过程中，将用于指示多假设方法的划分方式的标识和该划分方式的参数携带在图像块的码流中，具体请参考后文相应的段落。

[0050] 源设备12的通信接口22可以用于接收经编码图片数据21并传输至其它设备，例如，目的地设备14或任何其它设备，以用于存储或直接重构，或用于在对应地存储经编码数据13和/或传输经编码数据13至其它设备之前处理经编码图片数据21，其它设备例如为目的地设备14或任何其它用于解码或存储的设备。

[0051] 目的地设备14包括解码器30(例如，视频解码器30)，另外亦即可选地，可以包括通信接口或通信单元28、后处理单元32和显示设备34。

[0052] 目的地设备14的通信接口28用于例如，直接从源设备12或任何其它源接收经编码图片数据21或经编码数据13，任何其它源例如为存储设备，存储设备例如为经编码图片数据存储设备。

[0053] 通信接口22和通信接口28可以用于藉由源设备12和目的地设备14之间的直接通信链路或藉由任何类别的网络传输或接收经编码图片数据21或经编码数据13，直接通信链路例如为直接有线或无线连接，任何类别的网络例如为有线或无线网络或其任何组合，或任何类别的私网和公网，或其任何组合。

[0054] 通信接口22可以例如用于将经编码图片数据21封装成合适的格式，例如包，以在通信链路或通信网络上传输。

[0055] 形成通信接口22的对应部分的通信接口28可以例如用于解封装经编码数据13，以获取经编码图片数据21。

[0056] 通信接口22和通信接口28都可以配置为单向通信接口，如图1中用于经编码图片数据13的从源设备12指向目的地设备14的箭头所指示，或配置为双向通信接口，以及可以用于例如发送和接收消息来建立连接、确认和交换任何其它与通信链路和/或例如经编码图片数据传输的数据传输有关的信息。

[0057] 解码器30用于接收经编码图片数据21并提供经解码图片数据31或经解码图片31(下文将进一步描述细节，例如，基于图3或图5)。在一个实例中，解码器30可以用于实现本申请描述的图像预测方法。

[0058] 目的地设备14的后处理器32用于后处理经解码图片数据31(也称为经重构图片数据)，例如，经解码图片131，以获取经后处理图片数据33，例如，经后处理图片33。后处理单元32执行的后处理可以包括，例如，色彩格式转换(例如，从YCbCr转换为RGB)、调色、整修或重采样，或任何其它处理，用于例如准备经解码图片数据31以由显示设备34显示。

[0059] 目的地设备14的显示设备34用于接收经后处理图片数据33以向例如用户或观看者显示图片。显示设备34可以为或可以包括任何类别的用于呈现经重构图片的显示器，例如，集成的或外部的显示器或监视器。例如，显示器可以包括液晶显示器(liquid crystal display，LCD)、有机发光二极管(organic light emitting diode，OLED)显示器、等离子显示器、投影仪、微LED显示器、硅基液晶(liquid crystal on silicon，LCoS)、数字光处理器(digital light processor，DLP)或任何类别的其它显示器。

[0060] 虽然图1将源设备12和目的地设备14绘示为单独的设备，但设备实施例也可以同时包括源设备12和目的地设备14或同时包括两者的功能性，即源设备12或对应的功能性以及目的地设备14或对应的功能性。在此类实施例中，可以使用相同硬件和/或软件，或使用单独的硬件和/或软件，或其任何组合来实施源设备12或对应的功能性以及目的地设备14或对应的功能性。

[0061] 本领域技术人员基于描述明显可知，不同单元的功能性或图1所示的源设备12和/或目的地设备14的功能性的存在和(准确)划分可能根据实际设备和应用有所不同。

[0062] 编码器20(例如，视频编码器20)和解码器30(例如，视频解码器30)都可以实施为各种合适电路中的任一个，例如，一个或多个微处理器、数字信号处理器(digital signal processor，DSP)、专用集成电路(application-specific integrated circuit，ASIC)、现场可编程门阵列(field-programmable gate array，FPGA)、离散逻辑、硬件或其任何组合。如果部分地以软件实施所述技术，则设备可将软件的指令存储于合适的非暂时性计算机可读存储介质中，且可使用一或多个处理器以硬件执行指令从而执行本公开的技术。前述内容(包含硬件、软件、硬件与软件的组合等)中的任一者可视为一或多个处理器。视频编码器
20和视频解码器30中的每一个可以包含在一或多个编码器或解码器中，所述编码器或解码器中的任一个可以集成为对应设备中的组合编码器/解码器(编解码器)的一部分。

[0063] 源设备12可称为视频编码设备或视频编码装置。目的地设备14可称为视频解码设备或视频解码装置。源设备12以及目的地设备14可以是视频编码设备或视频编码装置的实例。

[0064] 源设备12和目的地设备14可以包括各种设备中的任一个，包含任何类别的手持或静止设备，例如，笔记本或膝上型计算机、移动电话、智能电话、平板或平板计算机、摄像机、台式计算机、机顶盒、电视、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备(例如内容服务服务器或内容分发服务器)、广播接收器设备、广播发射器设备等，并可以不使用或使用任何类别的操作系统。

[0065] 在一些情况下，源设备12和目的地设备14可以经装备以用于无线通信。因此，源设备12和目的地设备14可以为无线通信设备。

[0066] 在一些情况下，图1中所示视频编码系统10仅为示例，本申请的技术可以适用于不必包含编码和解码设备之间的任何数据通信的视频编码设置(例如，视频编码或视频解码)。在其它实例中，数据可从本地存储器检索、在网络上流式传输等。视频编码设备可以对数据进行编码并且将数据存储到存储器，和/或视频解码设备可以从存储器检索数据并且对数据进行解码。在一些实例中，由并不彼此通信而是仅编码数据到存储器和/或从存储器检索数据且解码数据的设备执行编码和解码。

[0067] 应理解，对于以上参考视频编码器20所描述的实例中的每一个，视频解码器30可以用于执行相反过程。关于信令语法元素，视频解码器30可以用于接收并解析这种语法元素，相应地解码相关视频数据。在一些例子中，视频编码器20可以将一个或多个定义……的语法元素熵编码成经编码视频比特流。在此类实例中，视频解码器30可以解析这种语法元素，并相应地解码相关视频数据。

[0068] 编码器&编码方法

[0069] 图2示出用于实现本申请(公开)技术的视频编码器20的实例的示意性框图。在图2的实例中，视频编码器20包括残差计算单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器单元220、经解码图片缓冲器(decoded picture buffer，DPB)230、预测处理单元260和熵编码单元270。预测处理单元260可以包含帧间预测单元244、帧内预测单元254和模式选择单元262。帧间预测单元244可以包含运动估计单元和运动补偿单元(未图示)。图2所示的视频编码器20也可以称为混合型视频编码器或根据混合型视频编解码器的视频编码器。

[0070] 例如，残差计算单元204、变换处理单元206、量化单元208、预测处理单元260和熵编码单元270形成编码器20的前向信号路径，而例如逆量化单元210、逆变换处理单元212、重构单元214、缓冲器216、环路滤波器220、经解码图片缓冲器(decoded picture buffer，DPB)230、预测处理单元260形成编码器的后向信号路径，其中编码器的后向信号路径对应于解码器的信号路径(参见图3中的解码器30)。

[0071] 编码器20通过例如输入202，接收图片201或图片201的块203，例如，形成视频或视频序列的图片序列中的图片。图片块203也可以称为当前图片块或待编码图片块，图片201可以称为当前图片或待编码图片(尤其是在视频编码中将当前图片与其它图片区分开时，其它图片例如同一视频序列亦即也包括当前图片的视频序列中的先前经编码和/或经解码图片)。

[0072] 分割

[0073] 编码器20的实施例可以包括分割单元(图2中未绘示)，用于将图片201分割成多个例如块203的块，通常分割成多个不重叠的块。分割单元可以用于对视频序列中所有图片使用相同的块大小以及定义块大小的对应栅格，或用于在图片或子集或图片群组之间更改块大小，并将每个图片分割成对应的块。

[0074] 在一个实例中，视频编码器20的预测处理单元260可以用于执行上述分割技术的任何组合。

[0075] 如图片201，块203也是或可以视为具有亮度值(采样值)的采样点的二维阵列或矩阵，虽然其尺寸比图片201小。换句话说，块203可以包括，例如，一个采样阵列(例如黑白图片201情况下的亮度阵列)或三个采样阵列(例如，彩色图片情况下的一个亮度阵列和两个色度阵列)或依据所应用的色彩格式的任何其它数目和/或类别的阵列。块203的水平和垂直方向(或轴线)上采样点的数目定义块203的尺寸。

[0076] 如图2所示的编码器20用于逐块编码图片201，例如，对每个块203执行编码和预测。

[0077] 残差计算

[0078] 残差计算单元204用于基于图片块203和预测块265(下文提供预测块265的其它细节)计算残差块205，例如，通过逐样本(逐像素)将图片块203的样本值减去预测块265的样本值，以在样本域中获取残差块205。

[0079] 变换

[0080] 变换处理单元206用于在残差块205的样本值上应用例如离散余弦变换(discrete cosine transform，DCT)或离散正弦变换(discrete sine transform，DST)的变换，以在变换域中获取变换系数207。变换系数207也可以称为变换残差系数，并在变换域中表示残差块205。

[0081] 变换处理单元206可以用于应用DCT/DST的整数近似值，例如为HEVC/H.265 指定的变换。与正交DCT变换相比，这种整数近似值通常由某一因子按比例缩放。为了维持经正变换和逆变换处理的残差块的范数，应用额外比例缩放因子作为变换过程的一部分。比例缩放因子通常是基于某些约束条件选择的，例如，比例缩放因子是用于移位运算的2的幂、变换系数的位深度、准确性和实施成本之间的权衡等。例如，在解码器30侧通过例如逆变换处理单元212为逆变换(以及在编码器20侧通过例如逆变换处理单元212为对应逆变换)指定具体比例缩放因子，以及相应地，可以在编码器20侧通过变换处理单元206为正变换指定对应比例缩放因子。

[0082] 量化

[0083] 量化单元208用于例如通过应用标量量化或向量量化来量化变换系数207，以获取经量化变换系数209。经量化变换系数209也可以称为经量化残差系数209。量化过程可以减少与部分或全部变换系数207有关的位深度。例如，可在量化期间将n位变换系数向下舍入到m位变换系数，其中n大于m。可通过调整量化参数(quantization parameter，QP)修改量化程度。例如，对于标量量化，可以应用不同的标度来实现较细或较粗的量化。较小量化步长对应较细量化，而较大量化步长对应较粗量化。可以通过量化参数(quantization parameter，QP)指示合适的量化步长。例如，量化参数可以为合适的量化步长的预定义集合的索引。例如，较小的量化参数可以对应精细量化(较小量化步长)，较大量化参数可以对应粗糙量化(较大量化步长)，反之亦然。量化可以包含除以量化步长以及例如通过逆量化210执行的对应的量化或逆量化，或者可以包含乘以量化步长。根据例如HEVC的一些标准的实施例可以使用量化参数来确定量化步长。一般而言，可以基于量化参数使用包含除法的等式的定点近似来计算量化步长。可以引入额外比例缩放因子来进行量化和反量化，以恢复可能由于在用于量化步长和量化参数的等式的定点近似中使用的标度而修改的残差块的范数。在一个实例实施方式中，可以合并逆变换和反量化的标度。或者，可以使用自定义量化表并在例如比特流中将其从编码器通过信号发送到解码器。量化是有损操作，其中量化步长越大，损耗越大。

[0084] 逆量化单元210用于在经量化系数上应用量化单元208的逆量化，以获取经反量化系数211，例如，基于或使用与量化单元208相同的量化步长，应用量化单元208应用的量化方案的逆量化方案。经反量化系数211也可以称为经反量化残差系数211，对应于变换系数207，虽然由于量化造成的损耗通常与变换系数不相同。

[0085] 逆变换处理单元212用于应用变换处理单元206应用的变换的逆变换，例如，逆离散余弦变换(discrete cosine transform，DCT)或逆离散正弦变换(discrete sine transform，DST)，以在样本域中获取逆变换块213。逆变换块213也可以称为逆变换经反量化块213或逆变换残差块213。

[0086] 重构单元214(例如，求和器214)用于将逆变换块213(即经重构残差块213)添加至预测块265，以在样本域中获取经重构块215，例如，将经重构残差块213的样本值与预测块265的样本值相加。

[0087] 可选地，例如线缓冲器216的缓冲器单元216(或简称“缓冲器”216)用于缓冲或存储经重构块215和对应的样本值，用于例如帧内预测。在其它的实施例中，编码器可以用于使用存储在缓冲器单元216中的未经滤波的经重构块和/或对应的样本值来进行任何类别的估计和/或预测，例如帧内预测。

[0088] 例如，编码器20的实施例可以经配置以使得缓冲器单元216不只用于存储用于帧内预测254的经重构块215，也用于环路滤波器单元220(在图2中未示出)，和/或，例如使得缓冲器单元216和经解码图片缓冲器单元230形成一个缓冲器。其它实施例可以用于将经滤波块221和/或来自经解码图片缓冲器230的块或样本(图2中均未示出)用作帧内预测254的输入或基础。

[0089] 环路滤波器单元220(或简称“环路滤波器”220)用于对经重构块215进行滤波以获取经滤波块221，从而顺利进行像素转变或提高视频质量。环路滤波器单元220旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptive loop filter，ALF)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元220在图2中示出为环内滤波器，但在其它配置中，环路滤波器单元220可实施为环后滤波器。经滤波块221也可以称为经滤波的经重构块221。经解码图片缓冲器230可以在环路滤波器单元220对经重构编码块执行滤波操作之后存储经重构编码块。

[0090] 编码器20(对应地，环路滤波器单元220)的实施例可以用于输出环路滤波器参数(例如，样本自适应偏移信息)，例如，直接输出或由熵编码单元270或任何其它熵编码单元熵编码后输出，例如使得解码器30可以接收并应用相同的环路滤波器参数用于解码。

[0091] 经解码图片缓冲器(decoded picture buffer，DPB)230可以为存储参考图片数据供视频编码器20编码视频数据之用的参考图片存储器。DPB 230可由多种存储器设备中的任一个形成，例如动态随机存储器(dynamic random access memory，DRAM)(包含同步DRAM(synchronous DRAM，SDRAM)、磁阻式RAM(magnetoresistive RAM，MRAM)、电阻式RAM(resistive RAM，RRAM))或其它类型的存储器设备。可以由同一存储器设备或单独的存储器设备提供DPB 230和缓冲器216。在某一实例中，经解码图片缓冲器(decoded picture buffer，DPB)230用于存储经滤波块221。经解码图片缓冲器230可以进一步用于存储同一当前图片或例如先前经重构图片的不同图片的其它先前的经滤波块，例如先前经重构和经滤波块221，以及可以提供完整的先前经重构亦即经解码图片(和对应参考块和样本)和/或部分经重构当前图片(和对应参考块和样本)，例如用于帧间预测。在某一实例中，如果经重构块215无需环内滤波而得以重构，则经解码图片缓冲器(decoded picture buffer，DPB)230用于存储经重构块215。

[0092] 预测处理单元260，也称为块预测处理单元260，用于接收或获取块203(当前图片201的当前块203)和经重构图片数据，例如来自缓冲器216的同一(当前)图片的参考样本和/或来自经解码图片缓冲器230的一个或多个先前经解码图片的参考图片数据231，以及用于处理这类数据进行预测，即提供可以为经帧间预测块245或经帧内预测块255的预测块
265。

[0093] 模式选择单元262可以用于选择预测模式(例如帧内或帧间预测模式)和/或对应的用作预测块265的预测块245或255，以计算残差块205和重构经重构块215。

[0094] 模式选择单元262的实施例可以用于选择预测模式(例如，从预测处理单元260所支持的那些预测模式中选择)，所述预测模式提供最佳匹配或者说最小残差(最小残差意味着传输或存储中更好的压缩)，或提供最小信令开销(最小信令开销意味着传输或存储中更好的压缩)，或同时考虑或平衡以上两者。模式选择单元262可以用于基于码率失真优化(rate distortion optimization，RDO)确定预测模式，即选择提供最小码率失真优化的预测模式，或选择相关码率失真至少满足预测模式选择标准的预测模式。

[0095] 下文将详细解释编码器20的实例(例如，通过预测处理单元260)执行的预测处理和(例如，通过模式选择单元262)执行的模式选择。

[0096] 如上文所述，编码器20用于从(预先确定的)预测模式集合中确定或选择最好或最优的预测模式。预测模式集合可以包括例如帧内预测模式和/或帧间预测模式。

[0097] 帧内预测模式集合可以包括35种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如H.265中定义的方向性模式，或者可以包括67种不同的帧内预测模式，例如，如DC(或均值)模式和平面模式的非方向性模式，或如正在发展中的H.266中定义的方向性模式。

[0098] (可能的)帧间预测模式集合取决于可用参考图片(即，例如前述存储在DBP 230中的至少部分经解码图片)和其它帧间预测参数，例如取决于是否使用整个参考图片或只使用参考图片的一部分，例如围绕当前块的区域的搜索窗区域，来搜索最佳匹配参考块，和/或例如取决于是否应用如半像素和/或四分之一像素内插的像素内插。

[0099] 除了以上预测模式，也可以应用跳过模式和/或直接模式。

[0100] 预测处理单元260可以进一步用于将块203分割成较小的块分区或子块，例如，通过迭代使用四叉树(quad-tree，QT)分割、二进制树(binary-tree，BT)分割或三叉树(triple-tree，TT)分割，或其任何组合，以及用于例如为块分区或子块中的每一个执行预测，其中模式选择包括选择分割的块203的树结构和选择应用于块分区或子块中的每一个的预测模式。

[0101] 帧间预测单元244可以包含运动估计(motion estimation，ME)单元(图2中未示出)和运动补偿(motion compensation，MC)单元(图2中未示出)。运动估计单元用于接收或获取图片块203(当前图片201的当前图片块203)和经解码图片231，或至少一个或多个先前经重构块，例如，一个或多个其它/不同先前经解码图片231的经重构块，来进行运动估计。例如，视频序列可以包括当前图片和先前经解码图片31，或换句话说，当前图片和先前经解码图片31可以是形成视频序列的图片序列的一部分，或者形成该图片序列。

[0102] 例如，编码器20可以用于从多个其它图片中的同一或不同图片的多个参考块中选择参考块，并向运动估计单元(图2中未示出)提供参考图片(或参考图片索引……)和/或提供参考块的位置(X、Y坐标)与当前块的位置之间的偏移(空间偏移)作为帧间预测参数。该偏移也称为运动向量(motion vector，MV)。

[0103] 运动补偿单元用于获取，例如接收帧间预测参数，并基于或使用帧间预测参数执行帧间预测来获取帧间预测块245。由运动补偿单元(图2中未示出)执行的运动补偿可以包含基于通过运动估计(可能执行对子像素精确度的内插)确定的运动/块向量取出或生成预测块。内插滤波可从已知像素样本产生额外像素样本，从而潜在地增加可用于编码图片块的候选预测块的数目。一旦接收到用于当前图片块的PU的运动向量，运动补偿单元246可以在一个参考图片列表中定位运动向量指向的预测块。运动补偿单元246还可以生成与块和视频条带相关联的语法元素，以供视频解码器30在解码视频条带的图片块时使用。

[0104] 帧内预测单元254用于获取，例如接收同一图片的图片块203(当前图片块)和一个或多个先前经重构块，例如经重构相邻块，以进行帧内估计。例如，编码器20可以用于从多个(预定)帧内预测模式中选择帧内预测模式。

[0105] 编码器20的实施例可以用于基于优化标准选择帧内预测模式，例如基于最小残差(例如，提供最类似于当前图片块203的预测块255的帧内预测模式)或最小码率失真。

[0106] 帧内预测单元254进一步用于基于如所选择的帧内预测模式的帧内预测参数确定帧内预测块255。在任何情况下，在选择用于块的帧内预测模式之后，帧内预测单元254还用于向熵编码单元270提供帧内预测参数，即提供指示所选择的用于块的帧内预测模式的信息。在一个实例中，帧内预测单元254可以用于执行下文描述的帧内预测技术的任意组合。

[0107] 熵编码单元270用于将熵编码算法或方案(例如，可变长度编码(variable length coding，VLC)方案、上下文自适应VLC(context adaptive VLC，CAVLC)方案、算术编码方案、上下文自适应二进制算术编码(context adaptive binary arithmetic coding，CABAC)、基于语法的上下文自适应二进制算术编码(syntax-based context-adaptive binary arithmetic coding，SBAC)、概率区间分割熵(probability interval partitioning entropy，PIPE)编码或其它熵编码方法或技术)应用于经量化残差系数209、帧间预测参数、帧内预测参数和/或环路滤波器参数中的单个或所有上(或不应用)，以获取可以通过输出272以例如经编码比特流21的形式输出的经编码图片数据21。可以将经编码比特流传输到视频解码器30，或将其存档稍后由视频解码器30传输或检索。熵编码单元270还可用于熵编码正被编码的当前视频条带的其它语法元素。

[0108] 视频编码器20的其它结构变型可用于编码视频流。例如，基于非变换的编码器20可以在没有针对某些块或帧的变换处理单元206的情况下直接量化残差信号。在另一实施方式中，编码器20可具有组合成单个单元的量化单元208和逆量化单元210。

[0109] 图3示出示例性视频解码器30，用于实现本申请的技术，即图像预测方法。视频解码器30用于接收例如由编码器20编码的经编码图片数据(例如，经编码比特流)21，以获取经解码图片231。在解码过程期间，视频解码器30从视频编码器20接收视频数据，例如表示经编码视频条带的图片块的经编码视频比特流及相关联的语法元素。

[0110] 在图3的实例中，解码器30包括熵解码单元304、逆量化单元310、逆变换处理单元312、重构单元314(例如求和器314)、缓冲器316、环路滤波器320、经解码图片缓冲器330以及预测处理单元360。预测处理单元360可以包含帧间预测单元344、帧内预测单元354和模式选择单元362。在一些实例中，视频解码器30可执行大体上与参照图2的视频编码器20描述的编码遍次互逆的解码遍次。

[0111] 熵解码单元304用于对经编码图片数据21执行熵解码，以获取例如经量化系数309和/或经解码的编码参数(图3中未示出)，例如，帧间预测、帧内预测参数、环路滤波器参数和/或其它语法元素中(经解码)的任意一个或全部。熵解码单元304进一步用于将帧间预测参数、帧内预测参数和/或其它语法元素转发至预测处理单元360。视频解码器30可接收视频条带层级和/或视频块层级的语法元素。

[0112] 逆量化单元310功能上可与逆量化单元110相同，逆变换处理单元312功能上可与逆变换处理单元212相同，重构单元314功能上可与重构单元214相同，缓冲器316功能上可与缓冲器216相同，环路滤波器320功能上可与环路滤波器220相同，经解码图片缓冲器330功能上可与经解码图片缓冲器230相同。

[0113] 预测处理单元360可以包括帧间预测单元344和帧内预测单元354，其中帧间预测单元344功能上可以类似于帧间预测单元244，帧内预测单元354功能上可以类似于帧内预测单元254。预测处理单元360通常用于执行块预测和/或从经编码数据21获取预测块365，以及从例如熵解码单元304(显式地或隐式地)接收或获取预测相关参数和/或关于所选择的预测模式的信息。

[0114] 当视频条带经编码为经帧内编码(I)条带时，预测处理单元360的帧内预测单元354用于基于信号表示的帧内预测模式及来自当前帧或图片的先前经解码块的数据来产生用于当前视频条带的图片块的预测块365。当视频帧经编码为经帧间编码(即B或P)条带时，预测处理单元360的帧间预测单元344(例如，运动补偿单元)用于基于运动向量及从熵解码单元304接收的其它语法元素生成用于当前视频条带的视频块的预测块365。对于帧间预测，可从一个参考图片列表内的一个参考图片中产生预测块。视频解码器30可基于存储于DPB 330中的参考图片，使用默认建构技术来建构参考帧列表：列表0和列表1。

[0115] 预测处理单元360用于通过解析运动向量和其它语法元素，确定用于当前视频条带的视频块的预测信息，并使用预测信息产生用于正经解码的当前视频块的预测块。例如，预测处理单元360使用接收到的一些语法元素确定用于编码视频条带的视频块的预测模式(例如，帧内或帧间预测)、帧间预测条带类型(例如，B条带、P条带或GPB条带)、用于条带的参考图片列表中的一个或多个的建构信息、用于条带的每个经帧间编码视频块的运动向量、条带的每个经帧间编码视频块的帧间预测状态以及其它信息，以解码当前视频条带的视频块。

[0116] 逆量化单元310可用于逆量化(即，反量化)在比特流中提供且由熵解码单元304解码的经量化变换系数。逆量化过程可包含使用由视频编码器20针对视频条带中的每一视频块所计算的量化参数来确定应该应用的量化程度并同样确定应该应用的逆量化程度。

[0117] 逆变换处理单元312用于将逆变换(例如，逆DCT、逆整数变换或概念上类似的逆变换过程)应用于变换系数，以便在像素域中产生残差块。

[0118] 重构单元314(例如，求和器314)用于将逆变换块313(即经重构残差块313)添加到预测块365，以在样本域中获取经重构块315，例如通过将经重构残差块313的样本值与预测块365的样本值相加。

[0119] 环路滤波器单元320(在编码循环期间或在编码循环之后)用于对经重构块315进行滤波以获取经滤波块321，从而顺利进行像素转变或提高视频质量。在一个实例中，环路滤波器单元320可以用于执行下文描述的滤波技术的任意组合。环路滤波器单元320旨在表示一个或多个环路滤波器，例如去块滤波器、样本自适应偏移(sample-adaptive offset，SAO)滤波器或其它滤波器，例如双边滤波器、自适应环路滤波器(adaptive loop filter，ALF)，或锐化或平滑滤波器，或协同滤波器。尽管环路滤波器单元320在图3中示出为环内滤波器，但在其它配置中，环路滤波器单元320可实施为环后滤波器。

[0120] 随后将给定帧或图片中的经解码视频块321存储在存储用于后续运动补偿的参考图片的经解码图片缓冲器330中。

[0121] 解码器30用于例如，藉由输出332输出经解码图片31，以向用户呈现或供用户查看。

[0122] 视频解码器30的其它变型可用于对压缩的比特流进行解码。例如，解码器30可以在没有环路滤波器单元320的情况下生成输出视频流。例如，基于非变换的解码器30可以在没有针对某些块或帧的逆变换处理单元312的情况下直接逆量化残差信号。在另一实施方式中，视频解码器30可以具有组合成单个单元的逆量化单元310和逆变换处理单元312。

[0123] 图4是根据一示例性实施例的包含图2的编码器20和/或图3的解码器30的视频编码系统40的实例的说明图。系统40可以实现本申请的各种技术的组合。在所说明的实施方式中，视频编码系统40可以包含成像设备41、视频编码器20、视频解码器30(和/或藉由处理单元46的逻辑电路47实施的视频编码器)、天线42、一个或多个处理器43、一个或多个存储器44和/或显示设备45。

[0124] 如图所示，成像设备41、天线42、处理单元46、逻辑电路47、视频编码器20、视频解码器30、处理器43、存储器44和/或显示设备45能够互相通信。如所论述，虽然用视频编码器20和视频解码器30绘示视频编码系统40，但在不同实例中，视频编码系统40可以只包含视频编码器20或只包含视频解码器30。

[0125] 在一些实例中，如图所示，视频编码系统40可以包含天线42。例如，天线42可以用于传输或接收视频数据的经编码比特流。另外，在一些实例中，视频编码系统40可以包含显示设备45。显示设备45可以用于呈现视频数据。在一些实例中，如图所示，逻辑电路47可以通过处理单元46实施。处理单元46可以包含专用集成电路(application-specific integrated circuit，ASIC)逻辑、图形处理器、通用处理器等。视频编码系统40也可以包含可选处理器43，该可选处理器43类似地可以包含专用集成电路(application-specific integrated circuit，ASIC)逻辑、图形处理器、通用处理器等。在一些实例中，逻辑电路47可以通过硬件实施，如视频编码专用硬件等，处理器43可以通过通用软件、操作系统等实施。另外，存储器44可以是任何类型的存储器，例如易失性存储器(例如，静态随机存取存储器(Static Random Access Memory，SRAM)、动态随机存储器(Dynamic Random Access Memory，DRAM)等)或非易失性存储器(例如，闪存等)等。在非限制性实例中，存储器44可以由超速缓存内存实施。在一些实例中，逻辑电路47可以访问存储器44(例如用于实施图像缓冲器)。在其它实例中，逻辑电路47和/或处理单元46可以包含存储器(例如，缓存等)用于实施图像缓冲器等。

[0126] 在一些实例中，通过逻辑电路实施的视频编码器20可以包含(例如，通过处理单元46或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频编码器20，以实施参照图2和/或本文中所描述的任何其它编码器系统或子系统所论述的各种模块。逻辑电路可以用于执行本文所论述的各种操作。

[0127] 视频解码器30可以以类似方式通过逻辑电路47实施，以实施参照图3的解码器30和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。在一些实例中，逻辑电路实施的视频解码器30可以包含(通过处理单元2820或存储器44实施的)图像缓冲器和(例如，通过处理单元46实施的)图形处理单元。图形处理单元可以通信耦合至图像缓冲器。图形处理单元可以包含通过逻辑电路47实施的视频解码器30，以实施参照图3和/或本文中所描述的任何其它解码器系统或子系统所论述的各种模块。

[0128] 在一些实例中，视频编码系统40的天线42可以用于接收视频数据的经编码比特流。如所论述，经编码比特流可以包含本文所论述的与编码视频帧相关的数据、指示符、索引值、模式选择数据等，例如与编码分割相关的数据(例如，变换系数或经量化变换系数，(如所论述的)可选指示符，和/或定义编码分割的数据)。视频编码系统40还可包含耦合至天线42并用于解码经编码比特流的视频解码器30。显示设备45用于呈现视频帧。

[0129] 图5是根据一示例性实施例的可用作图1中的源设备12和目的地设备14中的任一个或两个的装置500的简化框图。装置500可以实现本申请的技术，用于图像预测，装置500可以采用包含多个计算设备的计算系统的形式，或采用例如移动电话、平板计算机、膝上型计算机、笔记本电脑、台式计算机等单个计算设备的形式。

[0130] 装置500中的处理器502可以为中央处理器。或者，处理器502可以为现有的或今后将研发出的能够操控或处理信息的任何其它类型的设备或多个设备。如图所示，虽然可以使用例如处理器502的单个处理器实践所揭示的实施方式，但是使用一个以上处理器可以实现速度和效率方面的优势。

[0131] 在一实施方式中，装置500中的存储器504可以为只读存储器(Read Only Memory，ROM)设备或随机存取存储器(random access memory，RAM)设备。任何其他合适类型的存储设备都可以用作存储器504。存储器504可以包括代码和由处理器502使用总线512访问的数据506。存储器504可进一步包括操作系统508和应用程序510，应用程序510包含至少一个准许处理器502执行本文所描述的方法的程序。例如，应用程序510可以包括应用1到N，应用1到N进一步包括执行本文所描述的方法的视频编码应用。装置500还可包含采用从存储器514形式的附加存储器，该从存储器514例如可以为与移动计算设备一起使用的存储卡。因为视频通信会话可能含有大量信息，这些信息可以整体或部分存储在从存储器514中，并按需要加载到存储器504用于处理。

[0132] 装置500还可包含一或多个输出设备，例如显示器518。在一个实例中，显示器518可以为将显示器和可操作以感测触摸输入的触敏元件组合的触敏显示器。显示器518可以通过总线512耦合于处理器502。除了显示器518还可以提供其它准许用户对装置500编程或以其它方式使用装置500的输出设备，或提供其它输出设备作为显示器518的替代方案。当输出设备是显示器或包含显示器时，显示器可以以不同方式实现，包含通过液晶显示器(liquid crystal display，LCD)、阴极射线管(cathode-ray tube，CRT)显示器、等离子显示器或发光二极管(light emitting diode，LED)显示器，如有机LED(organic LED，OLED)显示器。

[0133] 装置500还可包含图像感测设备520或与其连通，图像感测设备520例如为相机或为现有的或今后将研发出的可以感测图像的任何其它图像感测设备520，所述图像例如为运行装置500的用户的图像。图像感测设备520可以放置为直接面向运行装置500的用户。在一实例中，可以配置图像感测设备520的位置和光轴以使其视野包含紧邻显示器518的区域且从该区域可见显示器518。

[0134] 装置500还可包含声音感测设备522或与其连通，声音感测设备522例如为麦克风或为现有的或今后将研发出的可以感测装置500附近的声音的任何其它声音感测设备。声音感测设备522可以放置为直接面向运行装置500的用户，并可以用于接收用户在运行装置500时发出的声音，例如语音或其它发声。

[0135] 虽然图5中将装置500的处理器502和存储器504绘示为集成在单个单元中，但是还可以使用其它配置。处理器502的运行可以分布在多个可直接耦合的机器中(每个机器具有一个或多个处理器)，或分布在本地区域或其它网络中。存储器504可以分布在多个机器中，例如基于网络的存储器或多个运行装置500的机器中的存储器。虽然此处只绘示单个总线，但装置500的总线512可以由多个总线形成。进一步地，从存储器514可以直接耦合至装置500的其它组件或可以通过网络访问，并且可包括单个集成单元，例如一个存储卡，或多个单元，例如多个存储卡。因此，可以以多种配置实施装置500。下面简单描述本申请涉及的术语：

[0136] 帧内预测编码：用周围邻近的像素值来预测当前的像素值，然后对预测误差进行编码的编码方式。

[0137] 编码图片：含有图片的所有编码树单元的图片的编码表示。

[0138] 运动矢量(motion vector，MV)：用于帧间预测的二维矢量，其提供从解码图片中的坐标到参考图片中的坐标的偏移量。

[0139] 预测块：在其上应用相同预测的矩形M×N样本块。

[0140] 预测过程：使用预测值提供当前被解码的数据元素(例如，样本值或运动矢量)的估计值。

[0141] 预测值：指定值或后续数据元素解码过程中使用的先前解码数据元素(例如，样本值或运动矢量)的组合。

[0142] 参考帧：作为短期参考图片或长期参考图片的图片或帧。参考帧含有可以按解码顺序用于后续图片的解码过程中的帧间预测的样本。

[0143] 帧间预测：根据当前块的参考帧中的像素，通过运动矢量指示参考帧中用于预测的像素的位置，产生当前块的预测图像。

[0144] 双向预测(B)片：可以使用帧内预测或帧间预测用最多两个运动矢量和参考索引预测每个块的样本值而解码的片。

[0145] CTU：编码树单元(coding tree unit)，一幅图像由多个CTU构成，一个CTU通常对应于一个方形图像区域，包含这个图像区域中的亮度像素和色度像素(或者也可以只包含亮度像素，或者也可以只包含色度像素)；CTU中还包含语法元素，这些语法元素指示如何将CTU划分成至少一个编码单元(coding unit,CU)，以及解码每个编码单元得到重建图像的方法。

[0146] CU：编码单元，对应于图像中一个A×B的矩形区域，包含A×B亮度像素或/和它对应的色度像素，A为矩形的宽，B为矩形的高，A和B可以相同也可以不同，A和B的取值通常为2的整数次幂，例如128、64、32、16、8、4。一个编码单元包含预测图像和残差图像，预测图像与残差图像相加得到编码单元的重建图像。预测图像通过帧内预测或帧间预测生成，残差图像通过对变换系数进行反量化和反变换处理生成。

[0147] VTM：JVET组织开发的新式编解码器参考软件。

[0148] 融合编码(merge)：一种帧间编码编码方式，其运动矢量不直接在码流中传递。当前块可根据融合序号(merge index)从融合候选列表(merge candidate list)中选择对应的融合候选，将融合候选的运动信息作为当前块的运动信息，或者对融合候选的运动信息经过缩放后作为当前块的运动信息。

[0149] 本申请描述的图像预测方法与帧间预测有关，多假设方法就是一种帧间预测方法。下面简单描述帧间预测，在视频编解码中主要利用了帧间预测来消除视频中的时域和空域冗余。

[0150] 帧间预测是基于运动补偿(motion compensation)的预测技术。在帧间预测编码中，由于图像邻近帧中的相同物体存在一定时域相关性，可将图像序列的每一帧划分成许多互不重叠的块，并认为块内所有像素点的运动都相同。主要处理为确定当前块的运动信息，根据运动信息从参考帧中获取参考图像块，产生当前块的预测图像。运动信息包含帧间预测方向、参考帧索引(reference index,ref_idx)、运动矢量(motion vector,MV)等，帧间预测通过帧间预测方向指示当前块使用前向预测、后向预测或双向预测其中的何种预测方向，通过参考帧索引(reference index)指明参考帧(reference frame)，通过运动矢量指示当前块(current block)在参考帧中的参考块(reference block)相对当前帧中当前块的位置偏移。运动矢量指示了参考帧中用于预测当前块的参考图像块相对于当前块的位移矢量，因而一个运动矢量对应一个参考图像块。

[0151] 在编码时，H.265/HEVC、H.266/VVC等视频编码标准把一帧图像划分成互不重叠的编码树单元(Coding Tree Unit,CTU)，一个CTU被划分为一个或多个编码单元(Coding Unit,CU)。一个CU包含编码信息，包括预测模式、变换系数等信息。解码端：按照这些编码信息对CU进行相应的预测、反量化、反变换等解码处理，产生这个CU对应的重建图像。

[0152] 码流中，运动信息占有大量的数据量。为了降低所需数据量，通常采用预测的方式传送运动信息。总体可以分为inter和merge两种模式:

[0153] Inter mvp模式:传送的运动信息包含：帧间预测方向(前向、后向或双向)、参考帧索引、运动矢量预测值索引、运动矢量残差值。对运动信息中的运动矢量信息通常采用传送实际运动矢量与运动矢量预测值(motion vector predictor，MVP)的差值的方式，编码端将MVP与实际运动矢量之间的运动矢量残差值(motion vector difference,MVD)传递到解码端。其中运动矢量预测可能包含多个预测值，一般在编码段和解码段使用相同的方式构建运动矢量预测候选列表(mvp candidate list)，将运动矢量预测值索引(motion vector predictor index,MVP index)传递到解码端。

[0154] Merge模式：在编码段和解码段使用相同的方式构建融合运动信息候选列表(merge candidate list)，将索引传递到解码端。码流中传送融合索引(merge index)。运动信息候选列表(candidate list)中的运动信息通常从其空域相邻块或参考帧中的时域块中获得，其中由当前块相邻的图像块的运动信息得到的候选运动信息称为空间候选(spatial candidate)，由当前块在参考图像中得到的对应位置图像块的运动信息称为时间候选(temporal candidate)。

[0155] 双向光流(Bi-directional Optical flow，BIO)是一种在基于块的运动补偿技术基础上进行像素级运动矢量优化改良的帧间编码方法(JVET-E1001提案、JVET-K0255提案、JVET-K0119提案等相关技术提案)。双向光流技术不需要额外冗繁的搜索或者额外码流信息就可以在像素级提供改进的运动矢量。双向光流技术对于每个像素的运动轨迹结合光流场和厄米特(Hermite)插值分析，通过最小化运动轨迹与参考框架平面的交点来得到改进运动矢量。过程中需要利用到预测块中各个像素的水平和垂直梯度，对梯度还有特殊的6抽头滤波器进行插值操作。

[0156] 解码端运动矢量改良(Decoder-side motion vector refinement，DMVR)是一种在解码端通过搜索来对已有运动矢量进行调整的帧间编码方法(JVET-E1001提案、JVET-K0275提案等相关技术提案)。解码端运动矢量改良技术使用在利用双向模式进行帧间预测的编码块上。在解码端，首先利用初始码流中传送的list0的运动矢量MV0和list1的运动矢量MV1通过运动补偿生成的两个预测块得到一个双向模板。使用双向模板在list0和list1的参考帧中初始运动矢量MV0和MV1指示的位置周围进行搜索，找到搜索范围内匹配失真最小的位置作为新的MV0和MV1以及两个新的预测块。利用新的预测块加权生成最终预测块。

[0157] 在HEVC和之前的标准中，参考帧分为前向和后向两组，分别放置在两个参考帧列表(reference picture list)中，一般命名为list0和list1。通过帧间预测方向指示当前块使用前向预测、后向预测或双向预测其中的何种预测方向，根据预测的方向选择使用不同的参考帧列表list0、list1或者list0和list1。对于选定的参考帧列表，通过参考帧索引指明参考帧。在选定的参考帧中，通过运动矢量指示当前块的预测块在参考帧中的参考块相对当前帧中当前块的位置偏移。然后根据预测方向，使用从list0、list1或者list0和list1中的参考帧中取得的预测块生成最终的预测块。其中当预测方向为单向时，直接使用从list0或list1中的参考帧中取得的预测块，当预测方向为双向时，将list0和list1中的参考帧中取得的预测块通过加权平均的方式合成最终预测块。多假设帧间编码(Multi-Hypothesis Inter Prediction)方法中，把预测块或最终预测块作为当前块的原有假设(Hypothesis)，通过增加新的运动信息或预测信息来增加假设的数目来提高编码性能。JVET-K0269和JVET-K0257提案使用了多假设帧间编码方法，但是各自采用不同的方式来实现多假设帧间编码。

[0158] JVET-K0269提案中的多假设编码方法，在原有HEVC或VVC VTM中帧间编码的基础上，通过额外传送运动信息的方式来添加额外的假设。每个额外假设需要传送是否有额外假设的标志(additional hypothesis flag)，额外假设的参考帧序号(ref idx add hyp)，额外假设的运动矢量预测值信息(mvp add hyp flag)，额外假设的运动矢量差异值，和额外假设的加权系数(add hyp weight idx)。额外假设的参考帧序号、运动矢量预测值信息以及运动矢量差异值的含义与HEVC和之前的标准中相同，但是参考帧列表的生成方式不同。额外假设的参考帧列表采取使用HEVC或VVC VTM中list0和list1交替插入的方式生成，其中重复参考帧不再加入列表中。通过额外假设的运动信息取得预测块(额外假设)后，使用额外假设的加权系数将其与原有最终预测块(原有假设)。额外假设的加权系数有两种，分别为1/4和-1/8。

[0159] 本申请描述的图像预测方法，用于对图像中的至少一个使用帧间预测的图像块使用当前方法进行预测，从而得到预测图像块。后续，就可以基于得到的预测图像块进行进一步的解码处理，以得到该图像块的重建图像，在编码端和解码端中的处理是相同的。下文以解码端为例进行描述。有关编码端的实现，请参考前文描述的编码流程和下文描述的解码端的方法流程。例如，编码端通过遍历，在多假设编码信息列表中得到待编码的图像块的多假设编码信息，该多假设编码信息包括用于表示多假设编码方法的划分方式的标识，以及多假设编码方法的参数。该划分方式划分的是采用多假设编码方法时，对一个待编码图片的多个假设的预测块进行划分时使用的。例如，划分方式为三角形划分，则参数为三角形划分的方向，划分方式为方形划分，则参数为加权系数。

[0160] 三角形划分可以参考JVET-K0144提案中的多假设编码方法。在原有HEVC或VVC VTM中帧间编码的基础上，在当前编码块为merge或skip时，将编码块沿对角方向划分为两个三角形的编码块，每个三角形编码块使用从融合运动信息候选列表中得到的单独的运动信息。两个三角形编码块的划分方向和选择融合运动信息候选的组合使用一个组合序号从预设的多假设融合运动信息候选选择和划分组合列表来选择，并且将该序号在码流中传送。两个三角形编码块有一定的重叠区域，采取跟距离有关的加权系数进行加权。

[0161] 方形划分可以参考JVET-K0257提案，提案中使用一种组合编码方式来实现多假设编码，将组合merge与inter MVP、merge、和帧内编码结合起来使用。在当前原有假设/第一假设为inter MVP模式，并且采用的是单向方式(即仅仅list0或list1)时，使用merge模式生成额外假设。在当前原有假设/第一假设为merge模式时，可以使用融合运动信息候选列表中原有假设/第一假设选定的融合运动信息候选下一个融合运动信息候选作为额外假设的运动信息来生成额外假设。在当前原有假设/第一假设为merge模式时，也可以使用帧内编码模式生成额外的假设，有额外的语法元素标识是否使用该方式。取得预测块(额外假设)后，使用加权系数将其与原有最终预测块。在JVET-K0257提案中，加权系数和方式与多假设的组合有关。

[0162] 参考帧列表的生成过程为现有技术，该过程可采用与HEVC相同的方法进行(即在片(SLICE)开始的时候，构建list0和list1)，也可采用其他参考帧列表的生成方法(如JVET-K0269提案中的方法)，本发明不作限定。为了提高效率,多假设编码方法(例如JVET-K0269提案和JVET-K0257提案)加入除了原有一套前向、后向、或双向预测(第一假设)以外的额外的预测，本发明中称其为额外假设，可能包括第二假设，第三假设等。在本发明中，将原有的一套前向、后向、或双向预测称为原有假设或第一假设。

[0163] 下面结合图6描述本申请记载的图像预测方法。该图像预测方法包括：

[0164] 602：解析码流获取该当前待解码图像块的多假设信息索引。

[0165] 602对应下文提及的步骤1。多假设信息索引就是下文提及的多假设模式信息。

[0166] 604：根据该多假设信息索引，从多假设信息列表中，得到该当前图像块对应的第一多假设信息，该第一多假设信息包括运动信息索引和第一标识，该第一多假设信息的该运动信息索引指示该当前待解码图像块的多假设运动信息，该第一标识指示多假设方法的第一划分方式，该第一多假设信息还包括该第一划分方式的参数。

[0167] 一种可能的实现方式下，该多假设信息列表包括至少一条该第一多假设信息，和至少一条第二多假设信息，该第二多假设信息包括运动信息索引和第二标识，该第二多假设信息的该运动信息索引指示一图像块的多假设运动信息，该第二标识指示多假设方法的第二划分方式，该第二多假设信息还包括该第二划分方式的参数。

[0168] 一种可能的实现方式下，该第一标识和该第二标识是同一标记位的不同取值。

[0169] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，该第二划分方式为方形划分，该第二划分方式的参数指示该方形划分的加权系数。当然，也可以该第二划分方式为三角形划分，该第二划分方式的参数指示该三角形划分的划分方向，该第一划分方式为方形划分，该第一划分方式的参数指示该方形划分的加权系数。

[0170] 应当理解，第一划分方式和第二划分方式是不同的划分方式，每一种划分方式都是用来划分多个假设的预测图像块的，也就是用来划分原始假设的预测图像块和额外假设的预测图像块。关于多假设方法的多种划分预测图像块的具体方法和方式，可以参考JVET-K0144提案(三角形划分)和JVET-K0257提案(方形划分)的内容。

[0171] 一种可能的实现方式下，该第一划分方式为三角形划分，该第一划分方式的参数指示该三角形划分的划分方向，或者该第一划分方式为方形划分，该第一划分方式的参数指示该方形划分的加权系数。

[0172] 606：根据该当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块。

[0173] 604和606对应下文的步骤2。

[0174] 608：根据该第一标识和该第一划分方式的参数，使用该第一划分方式处理该多个假设的预测图像块，以得到该当前待解码图像块的预测图像块。

[0175] 608对应下文的步骤3。当前待解码图像块的预测图像块，也可以称为当前待解码图像块的最终帧间预测图像。

[0176] 一种可能的实现方式下，该方法还包括：根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息，该当前待解码图像块的多假设运动信息包括原始假设的运动信息和额外假设的运动信息。

[0177] 一种可能的实现方式下，该第一多假设信息的运动信息索引包括第一索引和第二索引，该根据该第一多假设信息的该运动信息索引，从该当前待解码图像块的候选运动信息列表中获取该当前待解码图像块的多假设运动信息，包括：根据该第一索引，从该当前图像块的第一候选运动信息列表中获取该原始假设的运动信息，以及根据该第二索引，从该当前图像块的第二候选运动信息列表中获取该额外假设的运动信息。

[0178] 这样，采用上述的方法，由于码流中携带指示多假设方法的划分标识，解码端可以确定具体在多假设方法中使用那一种划分方式预测图像，也就是说，对不同的图像块，可使用不同的划分方式来得到图像块的预测块，这样图像块能使用更适合自身特点的划分方式，从而提高了图像预测的效率，降低了解码的时间。

[0179] 下面具体描述使用图6对应的图像预测方法，得到解码的数据块的过程。关于上述图像预测方法的进一步实施细节，可以参考下文的详细描述。以下过程中，当前块就是前文描述的当前图像块。

[0180] 该解码过程包括步骤1至步骤4。正在执行解码处理的块称为当前块。

[0181] 步骤1：解析当前块的码流，获得当前块的预测模式信息

[0182] 具体地说，当前块的模式信息包括且不仅限于merge、skip、inter模式信息、多假设模式信息等编码信息。

[0183] 步骤2：根据当前块的预测模式信息，获取当前块的运动信息；

[0184] 若根据多假设模式信息得到当前块采用多假设编码模式，则获得该当前块的多假设信息。

[0185] 具体的包括以下内容：

[0186] 生成融合运动信息候选列表。具体包括：将与当前块的空间候选和时域候选加入当前块的融合运动信息候选列表中，其方法与HEVC中的方法相同。如图1所示，空间融合候选包含A0、A1、B0、B1、和B2，时域融合候选包括T0和T1。在VTM中，时域融合候选也包括自适应时域运动矢量预测(ATMVP)技术提供的候选。本发明不涉及生成融合运动信息候选列表相关的过程，该过程可采用HEVC或者VTM中的方法进行，也可采用其他生成融合运动信息候选列表的方法，例如JVET-K0257提案中的方法。

[0187] 然后获取两个假设的运动信息以及多假设运动补偿信息，解码端：根据码流中携带的多假设信息索引，从多假设信息列表(后文也称多假设组合模式和运动信息的组合列表)确定当前块对应的多假设信息。多假设信息列表中每一个多假设信息都包含：运动索引，具体是第一假设(也就是前文的原始假设)的融合运动信息候选列表索引和第二假设(也就是前文的额外假设)的融合运动信息候选列表索引，划分模式标识(也就是前文的第一标识或者第二标识)和划分模式信息(也即是前文的第一划分方式的参数或者第二划分方式的参数)。

[0188] 根据当前块对应的多假设信息中的第一假设的融合运动信息候选列表索引从融合运动信息候选列表中确认第一假设的运动信息。根据当前块对应的多假设信息中的第二假设的融合运动信息候选列表索引从融合运动信息候选列表中确认第二假设的运动信息。其中，划分模式标识用于指示划分模式为三角形划分或者方形划分，在划分模式标识指示划分模式为三角形划分时，该划分模式信息指示三角形划分模式的划分方向；在划分模式标识指示划分模式为方形划分时，该划分模式信息指示方形划分的加权系数。

[0189] 其中，划分模式标识用于指示划分模式为三角形划分或者方形划分，在划分模式标识指示划分模式为三角形划分时，该划分模式信息指示三角形划分模式的划分方向；在划分模式标识指示划分模式为方形划分时，该划分模式信息指示方形划分的加权系数。

[0190] 多假设信息列表，即combination[]，也就是包含但不仅限于以下示例，其中一个示例中包括多个组合，其中每个组合combination都包括{三角形划分模式或者正方形划分模式的参数，第一假设的融合运动信息候选列表索引，第二假设的融合运动信息候选列表索引，划分模式标记位}。当然，本申请不限定每个组合中，这四个参数的先后顺序，即未列出的示例中，指示的信息的顺序可能不同。

[0191] 本申请中，方形划分时，第一假设的融合运动信息候选列表索引和第二假设的融合运动信息候选列表索引使用预设的索引组合，包括但不限于index，index+1的组合，也包括index+m，index+n的组合，其中，m和n都小于融合运动信息候选列表的长度，且m不等于n.以及，由于三角形划分的参数列表中，保存有多种具体实现方式，例如可以是40种左右，可随机选取或者指定一部分实现方式，作为本申请描述的多假设信息列表中，三角形划分的参数。

[0192] 示例一到四中的每个，都包括10条多假设信息。

[0193] 示例一：

[0194]

[0195] 示例二：

[0196]

[0197]

[0198] 示例三：

[0199]

[0200] 示例四：

[0201]

[0202] 如果所有待解码的图像块都只使用三角形划分，划分方式比较多(40多种)，且三角形与方形相比，处理复杂度高，导致得到当前块的预测图像块效率较为低下。而如果所有待解码的图像块都只使用方形划分模式，额外假设的运动信息组合方式有限，且原有假设和额外假设都使用方形划分，多假设融合的方式比较单一，编解码效果不好。而本申请中，一个combination只需10个具体的划分方式(一条多假设信息对应一种划分方式)，即可满足编解码需求，比单用三角形划分降低了复杂度，还可以保障解码效率和解码的性能。

[0203] 而使用本申请的方法，由于码流中携带指示多假设方法的划分标识，解码端可以确定具体在多假设方法中使用那一种划分方式预测图像，也就是说，对不同的图像块，可使用不同的划分方式来得到图像块的预测块，这样图像块能使用更适合自身特点的划分方式，从而提高了图像预测的效率，降低了解码的时间。

[0204] 若根据多假设模式信息得到当前块不采用多假设编码模式，则执行：

[0205] 若当前块为merge/skip模式，生成融合运动信息候选列表。具体包括：将与当前块的空间候选和时域候选加入当前块的融合运动信息候选列表中，其方法与HEVC中的方法相同。如图1所示，空间融合候选包含A0、A1、B0、B1、和B2，时域融合候选包括T0和T1。在VTM中，时域融合候选也包括自适应时域运动矢量预测(ATMVP)技术提供的候选。本发明不涉及生成融合运动信息候选列表相关的过程，该过程可采用HEVC或者VTM中的方法进行，也可采用其他生成融合运动信息候选列表的方法。若当前块为Inter MVP模式，则生成运动矢量预测候选列表，为现有技术，可采用HEVC或者VTM中的方法进行，也可采用其他生成运动矢量预测候选列表的方法，本发明不作限定。

[0206] 然后获取第一假设的运动信息，解码端：若当前块为merge/skip模式，则根据码流中携带的融合索引确定当前块的运动信息。若当前块为Inter MVP模式，则根据码流中传送的帧间预测方向、参考帧索引、运动矢量预测值索引、运动矢量残差值确定当前块运动信息。

[0207] 步骤3：根据第一假设和第二假设的运动信息，以及划分模式标识和划分模式信息，进行帧间预测，以得到当前块的预测图像。

[0208] 其中，根据多假设模式信息得到当前块采用多假设编码模式。

[0209] 利用第一假设和第二假设的运动信息分别得到第一假设和第二假设的预测图像。解码端：利用第一假设和第二假设的运动信息中的参考帧方向、参考帧序号和运动矢量，从参考帧中定位到第一假设和第二假设的参考块，根据多假设组合模式信息得到第一假设和第二假设的预测块。参考帧方向为前向预测是指当前编码单元从前向参考图像集合中选择一个参考图像获取参考块。参考帧方向为后向预测是指当前编码单元从后向参考图像集合中选择一个参考图像获取参考块。参考帧方向为双向预测是指从前向和后向参考图像集合中各选择一个参考图像获取参考块。当使用双向预测方法时，当前编码单元会存在两个参考块，每个参考块各自需要运动矢量和参考帧索引进行指示。

[0210] 然后根据参考块内像素点的像素值确定当前块的预测块内像素点像素值。更具体的，按以下方法之一：

[0211] 方法一：当使用三角形多假设模式时，根据多假设方向获得第一假设和第二假设的三角形预测块，使用预设的加权系数从第一假设和第二假设生成最终预测图像，加权系数可以参照JVET-K0144中进行，本发明不做限定。当使用方形多假设模式时，获得第一假设和第二假设的方形预测块，使用预设的加权系数从第一假设和第二假设生成最终预测图像，加权系数可以参照JVET-K0257中进行，本发明不做限定。

[0212] 方法一：当使用三角形多假设模式时，根据多假设方向获得第一假设和第二假设的方形预测块，使用预设的加权系数从第一假设和第二假设生成最终预测图像，加权系数可以参照JVET-K0144中使用三角形加权系数矩阵进行，本发明不做限定。当使用方形多假设模式时，获得第一假设和第二假设的方形预测块，使用预设的加权系数从第一假设和第二假设生成最终预测图像，加权系数可以参照JVET-K0257中进行，本发明不做限定。

[0213] 若根据多假设模式信息得到当前块不采用多假设编码模式，则利用第一假设的运动信息，进行帧间预测，得到当前块的预测图像。

[0214] 解码端：利用参考帧方向、参考帧序号和运动矢量，从参考帧中得到预测块。参考帧方向为前向预测是指当前编码单元从前向参考图像集合中选择一个参考图像获取参考块。参考帧方向为后向预测是指当前编码单元从后向参考图像集合中选择一个参考图像获取参考块。参考帧方向为双向预测是指从前向和后向参考图像集合中各选择一个参考图像获取参考块。当使用双向预测方法时，当前编码单元会存在两个参考块，每个参考块各自需要运动矢量和参考帧索引进行指示。然后根据参考块内像素点的像素值确定当前块的预测块内像素点像素值。以上可采用HEVC或者VTM中的方法进行，也可采用其他生成运动矢量预测候选列表的方法，本发明不作限定。

[0215] 步骤4：将当前块的最终帧间预测图像(也就是前文的当前待解码图像块的预测图像块)与残差图像相加，得到当前块的重建图像；

[0216] 解码端：如果当前块存在残差，则将残差信息和预测图像相加，获得当前块的重建图像；如果当前块没有残差，则预测图像为当前块的重建图像。

[0217] 上述过程为现有技术，例如可采用与HEVC或者VTM相同的方法，也可采用其他运动补偿、图像重建方法，本发明不做限定。

[0218] 本申请还描述一种图像预测设备，该设备可以用于执行上述的图像预测方法。

[0219] 一种实现方式下，该图像预测设备包括：存储器，用于存储码流形式的视频数据，该视频数据包括一个或多个图像块；视频解码器，用于执行上述各种的图像预测方法(例如图6对应的)和解码方法，一种实现方式下，视频解码器，用于解析码流获取该当前待解码图像块的多假设信息索引；根据该多假设信息索引，从多假设信息列表中，得到该当前图像块对应的第一多假设信息，该第一多假设信息包括运动信息索引和第一标识，该第一多假设信息的该运动信息索引指示该当前待解码图像块的多假设运动信息，该第一标识指示多假设方法的第一划分方式，该第一多假设信息还包括该第一划分方式的参数；根据该当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块；根据该第一标识和该第一划分方式的参数，使用该第一划分方式处理该多个假设的预测图像块，以得到该当前待解码图像块的预测图像块。

[0220] 当然，视频解码器还可以执行图6对应的方法的其他各种实现方式，此处不再赘述。另外，显然，视频解码器可以由图5中的处理器运行图5中的存储器中的代码实现。

[0221] 另一种实现方式下，如图7所示，该图像预测设备700包括解析模块701，用于解析码流获取当前待解码图像块的多假设信息索引。

[0222] 第一查询模块702，用于根据所述多假设信息索引，从多假设信息列表中，得到所述当前图像块对应的第一多假设信息，所述第一多假设信息包括运动信息索引和第一标识，所述第一多假设信息的所述运动信息索引指示所述当前待解码图像块的多假设运动信息，所述第一标识指示多假设方法的第一划分方式，所述第一多假设信息还包括所述第一划分方式的参数。

[0223] 运动补偿模块703，用于根据所述当前待解码图像块的多假设编码的运动信息进行运动补偿，以得到多个假设的预测图像块。

[0224] 划分处理模块704，用于根据所述第一标识和所述第一划分方式的参数，使用所述第一划分方式处理所述多个假设的预测图像块，以得到所述当前待解码图像块的预测图像块。

[0225] 上述模块只是示意性划分，实际实施时可以多个模块的功能由一个模块实现。

[0226] 该图像预测设备700可以执行图6对应的方法以及前文各种方法的其他各种实现方式，此处不再赘述。

[0227] 使用上述图像预测设备，由于码流中携带指示多假设方法的划分标识，解码端可以确定具体在多假设方法中使用那一种划分方式预测图像，也就是说，对不同的图像块，可使用不同的划分方式来得到图像块的预测块，这样图像块能使用更适合自身特点的划分方式，从而提高了图像预测的效率，降低了解码的时间。

[0228] 本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

[0229] 所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

[0230] 在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

[0231] 所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

[0232] 另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

[0233] 所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

[0234] 以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

标题	发布/更新时间	阅读量
基于子块的预测	2020-05-08	293
一种视频帧重构方法、装置及终端设备	2020-05-08	957
图像处理器和图像处理方法	2020-05-11	67
一种针对多路h.264视频会议的GPU解码方法	2020-05-12	475
一种编解码方法、装置及其设备	2020-05-08	841
视频编解码方法、装置、计算机设备和存储介质	2020-05-11	345
使用双向光流的运动补偿方法和设备	2020-05-08	635
模式依赖的仿射继承	2020-05-11	679
不同视频块尺寸的仿射模式计算	2020-05-13	331
仿射模式的运动信息的利用	2020-05-08	461

一种图像预测方法和设备

一种图像预测方法和设备

技术领域

背景技术

具体实施方式

该功能需要专业版企业版VIP权限，您可以：