首页 / 专利库 / 视听技术与设备 / 块匹配运动估计 / 一种适用于缩放运动和明暗变化的视频帧率上变换方法

一种适用于缩放运动和明暗变化的视频率上变换方法

阅读:818发布:2020-05-13

专利汇可以提供一种适用于缩放运动和明暗变化的视频率上变换方法专利检索,专利查询,专利分析的服务。并且本 发明 公开了一种适用于缩放运动和明暗变化的 视频 帧 率上变换方法,其根据该类视频帧 信号 的内容特征分三个阶段完成缩放系数、平移系数、明暗变化参数的估计,最后进行基于缩放和明暗变化的 运动补偿 实现帧率上 采样 。本发明对缩放系数、平移系数、明暗变化等参数的估计较传统的基于 块 匹配 运动矢量 估计补偿法有显著的预测 精度 提升,处理速度较基于全搜索、三步搜索、菱形搜素的 块匹配 运动估计 补偿法有大幅度提高。,下面是一种适用于缩放运动和明暗变化的视频率上变换方法专利的具体信息内容。

1.一种适用于缩放运动和明暗变化的视频率上变换方法,其特征在于,包括以下步骤:
S1、读取待处理视频流中相邻两帧视频图像,搜索该相邻两帧视频图像的所有特征点,并为每个特征点生成一个特征矢量;
S2、根据特征矢量对原始视频流中相邻两帧视频图像的特征点进行匹配,得到相邻两帧之间的特征匹配对的坐标;
S3、根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数和平移系数;
S4、根据缩放系数和平移系数对视频帧图像的每个区域进行缩放平移运动补偿,得到预测帧;
S5、获取连续两帧视频图像的帧间商,根据帧间商和相匹配的特征点的像素值获取明暗变化参数,并判断明暗变化参数是否等于1,若是则进入步骤S7,否则进入步骤S6;
S6、根据明暗变化参数调整预测帧的像素值得到上变换插入帧,将上变换插入帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
S7、直接将预测帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
S8、采用与步骤S1至步骤S7相同的方法对待处理视频流进行遍历,完成对待处理视频流的视频帧上变换。
2.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S1的具体方法包括以下子步骤:
S1-1、根据公式
L(x,y,δ)=G(x,y,kδ)-G(x,y,δ)
生成差分离散尺度空间核函数L;其中
δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;
S1-2、将前后两帧视频图像分别与L相卷积,分别得到与前帧对应的5个差分图像和与后帧对应的5个差分图像
为卷积运算;Ft1表示前帧视频图像;Ft2表示
后帧视频图像;
S1-3、分别对 进行行列隔点降采样后与L相卷积,分别得到与前帧对应
的5个差分图像 和与后帧对应的5个差分图像
S1-4、将最新得到的差分图像通过与步骤S1-3相同的方法获取差分图像 和其中q=2,3,4,5;
S1-5、将步骤S1-2、步骤S1-3和步骤S1-4中得到的差分图像进行组合得到与每帧图像相对应的6组不同尺寸的差分图像组,其中每组包括5个尺寸相同、离散尺度δ不同的差分图像;
S1-6、搜索同组相邻差分图像的极值点,剔除其中低于设定阈值的点和边缘点,将剩余极值点作为该尺寸的特征点;其中设定阈值为图像像素点最大值的3%;
S1-7、对于每一个特征点,根据公式
获取最接近尺度值为δ的高斯图像LL;
δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;Ftl,l=1,2表示前后两帧视频图像;
S1-8、以该特征点为中心,计算以3×1.5δ为半径的邻域内高斯图像LL梯度的幅度和度,并采用直方图统计邻域内像素的梯度方向和幅度;其中梯度方向直方图将0°~360°的范围平分为36个方向;梯度方向直方图的峰值代表该特征点处邻域内图像梯度的主方向,即该特征点的主方向θ;
S1-9、以该特征点为中心将特征点邻域图像的梯度和方向旋转一个方向角θ后,以该特征点为中心取大小为mδB×mδB的图像区域;其中m=3,B=4;
S1-10、将该mδB×mδB图像区域等分成B×B个子区域,将每个子区域等分为8个方向的梯度方向,其中每个方向为45°;
S1-11、计算一个子区域内每个梯度方向中的像元个数和,得到8个数据,遍历B×B个子区域得到B×B×8个数据,将B×B×8个数据记为该特征点的特征矢量。
3.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S2的具体方法包括以下子步骤:
S2-1、计算前帧视频图像中某个特征点A的特征矢量与后帧视频图像中所有特征矢量之间的欧氏距离,判断最小的欧氏距离是否小于次最小欧式距离的ρ%,若是则将前帧视频图像中的特征点A与后帧视频图像中与特征点A欧氏距离最小的特征点A'记为最佳匹配对;
否则认为后帧视频图像中无与特征点A相匹配的特征点;其中ρ=50;
S2-2、采用与步骤S2-1相同的方法遍历前帧视频图像中的所有特征点,完成两帧视频图像特征点的匹配,并获取两帧之间的特征匹配对的坐标。
4.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数的具体方法包括以下子步骤:
S3-1-1、以每个特征匹配对为一个计算单元,根据公式
获取该视频帧的缩放系数集;其中zoomscalerx{i}为x方向的缩放系数集;
zoomscalery{i}为y方向的缩放系数集;Δxt1为前帧视频图像中相邻两个特征点之间横坐标的欧氏距离;Δxt2为与Δxt1中两个特征点相对应的两个特征点之间横坐标的欧氏距离;
Δyt1为前帧视频图像中相邻两个特征点之间纵坐标的欧氏距离;Δyt2为与Δyt1中两个特征点相对应的两个特征点之间纵坐标的欧氏距离;M为特征点匹配对的个数;
S3-1-2、分别对缩放系数集zoomscalerx{i}和zoomscalery{i}进行k均值聚类,剔除孤立参数,获取聚类中心值,将整个视频帧分为N1个缩放区域,以聚类中心值作为该视频帧图像每个缩放区域的横向缩放系数zoomscalerX{j}和纵向缩放系数zoomscalerX{j},其中j=1,2,...,N1。
5.根据权利要求4所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的平移系数的具体方法包括以下子步骤:
S3-2-1、以每个特征匹配对为一个计算单元,根据公式
计算各个特征匹配对的平移系数集;其中translatx{i}为x方向的平移系数集;
translaty{i}为y方向的平移系数集;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在缩放区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在缩放区域的纵向缩放系数;
S3-2-2、分别对平移系数集translatx{i}和translaty{i}进行k均值聚类,剔除孤立参数,将视频帧分为N2个平移区域,以聚类中心值作为各平移区域的横向平移系数translatX{j}和纵向平移系数translatY{j},j=1,2,...,N2;
S3-2-3、根据约束条件N3≥max(N1,N2)将整个视频帧重新调整为N3个区域,使视频帧图像每个区域内的像素具有相同的缩放参数和平移参数;当N3=1时将整个视频帧图像视为一个区域;其中max(·)为取最大值函数。
6.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S4的具体方法包括以下子步骤:
S4-1、以视频帧的每个区域为一个计算单元,根据公式
计算待插入帧的区域缩放系数;其中zoomSx{j}为待插入帧在x方向的区域缩放系数;
zoomSy{j}为待插入帧在y方向的区域缩放系数;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在区域的纵向缩放系数;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;n为当前连续两帧视频图像之间待插入帧的总数,由目标帧率与待处理视频流的帧率计算得到;
S4-2、根据公式
Translx{j}=translatX{j}/(n+1)
Transly{j}=translatY{j}/(n+1)
j=1,2,...,N3
计算待插入帧的区域平移系数;其中Translx{j}为待插入帧在x方向的区域平移系数;
Transly{j}为待插入帧在y方向的区域平移系数;translatX{j}为该区域的横向平移系数;
translatY{j}为该区域的纵向平移系数;
S4-3、根据公式
对待插入帧的每个区域进行上采样后得到预测帧集合frameS{t},frameS{j}{t}∈frameS{t};其中t=1,2,...,n;ix=max(1,Translx{j}×t×zoomSx{j}+1);max(·)表示取最大值;
iy=max(1,Transly{j}×t×zoomSy{j}+1);
upscale(f,a,b)表示采用双cubic插值法将参考图像区域f放大a×b倍;
Ft1{j}(ix:ox,iy:oy)和Ft2{j}(ix:ox,iy:oy)为待插入视频帧的某个图像区域在原始视频流中对应的前帧和后帧图像区域。
7.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S5的具体方法包括以下子步骤:
S5-1、根据公式
获取帧间商 其中 为前帧视频图像的平均像素值; 为后帧视频图像的平均像素值;./表示两矩阵对应元素相除;
S5-2、根据公式
计算变化参数valuescaler{i};其中vt1{i}为前帧视频图像中第i个具有匹配对的特征点的像素值;vt2{i}为后帧视频图像中与vt1{i}所对应特征点相匹配的特征点的像素值;M为特征点匹配对的个数;
S5-3、将变化参数valuescaler{i}和与其对应的特征点所在区域的帧间商的聚类中心值作为该区域明暗变化参数。
8.根据权利要求1所述的适用于缩放运动和明暗变化的视频帧率上变换方法,其特征在于,所述步骤S6中根据明暗变化参数调整预测帧的像素值得到上变换插入帧的具体方法为:
根据公式
frame{t}=frameS{j}{t}×Valuescaler{j}
调整预测帧各个区域的像素值得到上变换插入帧frame{t};其中frameS{j}{t}为第t帧预测帧的第j区域;Valuescaler{j}为第j区域的明暗变化参数。

说明书全文

一种适用于缩放运动和明暗变化的视频率上变换方法

技术领域

[0001] 本发明属于信号处理领域,具体涉及一种适用于缩放运动和明暗变化的视频帧率上变换方法。

背景技术

[0002] 数字视频以其独具的实时性、形象性和直观性被视为提供新闻、体育、娱乐、教育和信息的主要方式之一。高清晰度电视、科学实验以及特技制作等等要求视频的帧率不断提高达到高速和超高速。
[0003] 帧率上变换算法作为视频后处理模中的重要技术,在实际应用中有着不可替代的作用。该技术通过在原始视频序列中插入预测帧来提高视频信号的时间分辨率。在传输网络带宽有限的情况下该技术可以实现低比特率的高清视频显示;在高清晰度电视领域,尤其是液晶电视,播放视频时常出现鬼影和运动模糊等现象,当画面中存在快速运动的物体时,这种现象更严重。而简单的提高显示视频的帧率可显著减少这些现象,提高画面质量。在视频非线性处理尤其是特技处理领域,帧率上变换可以实现甚至超高速摄像机(>1000帧/秒)的拍摄效果,实现视频的艺术特写、还原人眼忽略的细节部分为体育比赛、侦探和各种科学实验提供可视依据。
[0004] 目前常用的帧率上变换方法有帧平均、帧重复以及基于块匹配的多种搜索机制的运动矢量补偿法。其中基于块匹配的运动矢量补偿法复杂度最高效果最好。根据运动矢量的类型,运动矢量补偿方法可以分为两种:
[0005] 一种为基于单向运动矢量场的运动补偿,其中基于单向运动矢量场的运动补偿算法可以获得更好的插值效果,但需要额外解决重叠和空洞问题,大大增加了整个算法的计算复杂度。该方法目前仍无法解决遮挡暴露区域的插值问题。
[0006] 另一种是基于双向运动矢量的运动补偿则不存在重叠和空洞问题,且获得的内插帧的质量也较高。但该方法在相似背景对插值的影响下,容易出现模糊和块效应。
[0007] 但是帧平均、帧重复方法处理具有缩放运动和明暗变化的视频帧率上变换质量很差;基于视频块的运动矢量补偿法处理该类视频时由于未知缩放参数和明暗变化参数,盲目搜索整像素、1/2像素、1/4像素、1/8像素精度的最佳匹配块,使得计算复杂度高、处理速度慢且质量仍然不尽人意。

发明内容

[0008] 针对现有技术中的上述不足,本发明提供的一种适用于缩放运动和明暗变化的视频帧率上变换方法解决了现有方法处理具有缩放运动和明暗变化的视频帧率上变换质量差的问题。
[0009] 为了达到上述发明目的,本发明采用的技术方案为:
[0010] 提供一种适用于缩放运动和明暗变化的视频帧率上变换方法,其包括以下步骤:
[0011] S1、读取待处理视频流中相邻两帧视频图像,搜索该相邻两帧视频图像的所有特征点,并为每个特征点生成一个特征矢量;
[0012] S2、根据特征矢量对原始视频流中相邻两帧视频图像的特征点进行匹配,得到相邻两帧之间的特征匹配对的坐标;
[0013] S3、根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数和平移系数;
[0014] S4、根据缩放系数和平移系数对视频帧图像的每个区域进行缩放平移运动补偿,得到预测帧;
[0015] S5、获取连续两帧视频图像的帧间商,根据帧间商和相匹配的特征点的像素值获取明暗变化参数,并判断明暗变化参数是否等于1,若是则进入步骤S7,否则进入步骤S6;
[0016] S6、根据明暗变化参数调整预测帧的像素值得到上变换插入帧,将上变换插入帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
[0017] S7、直接将预测帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
[0018] S8、采用与步骤S1至步骤S7相同的方法对待处理视频流进行遍历,完成对待处理视频流的视频帧上变换。
[0019] 进一步地,步骤S1的具体方法包括以下子步骤:
[0020] S1-1、根据公式
[0021] L(x,y,δ)=G(x,y,kδ)-G(x,y,δ)
[0022] 生成差分离散尺度空间核函数L;其中δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;
[0023] S1-2、将前后两帧视频图像分别与L相卷积,分别得到与前帧对应的5个差分图像p=0 ,1 ,2 ,3 ,4和与后帧对应的5个差分图像p=0,1,2,3,4;为卷积运算;Ft1表示前帧视频图像;Ft2表示
后帧视频图像;
[0024] S1-3、分别对 进行行列隔点降采样后与L相卷积,分别得到与前帧对应的5个差分图像 和与后帧对应的5个差分图像
[0025] S1-4、将最新得到的差分图像通过与步骤S1-3相同的方法获取差分图像 和其中q=2,3,4,5;
[0026] S1-5、将步骤S1-2、步骤S1-3和步骤S1-4中得到的差分图像进行组合得到与每帧图像相对应的6组不同尺寸的差分图像组,其中每组包括5个尺寸相同、离散尺度δ不同的差分图像;
[0027] S1-6、搜索同组相邻差分图像的极值点,剔除其中低于设定阈值的点和边缘点,将剩余极值点作为该尺寸的特征点;其中设定阈值为图像像素点最大值的3%;
[0028] S1-7、对于每一个特征点,根据公式
[0029]
[0030] 获取最接近尺度值为δ的高斯图像LL;δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;Ftl,l=1,2表示前后两帧视频图像;
[0031] S1-8、以该特征点为中心,计算以3×1.5δ为半径的邻域内高斯图像LL梯度的幅度和度,并采用直方图统计邻域内像素的梯度方向和幅度;其中梯度方向直方图将0°~360°的范围平分为36个方向;梯度方向直方图的峰值代表该特征点处邻域内图像梯度的主方向,即该特征点的主方向θ;
[0032] S1-9、以该特征点为中心将特征点邻域图像的梯度和方向旋转一个方向角θ后,以该特征点为中心取大小为mδB×mδB的图像区域;其中m=3,B=4;
[0033] S1-10、将该mδB×mδB图像区域等分成B×B个子区域,将每个子区域等分为8个方向的梯度方向,其中每个方向为45°;
[0034] S1-11、计算一个子区域内每个梯度方向中的像元个数和,得到8个数据,遍历B×B个子区域得到B×B×8个数据,将B×B×8个数据记为该特征点的特征矢量。
[0035] 进一步地,步骤S2的具体方法包括以下子步骤:
[0036] S2-1、计算前帧视频图像中某个特征点A的特征矢量与后帧视频图像中所有特征矢量之间的欧氏距离,判断最小的欧氏距离是否小于次最小欧式距离的ρ%,若是则将前帧视频图像中的特征点A与后帧视频图像中与特征点A欧氏距离最小的特征点A'记为最佳匹配对;否则认为后帧视频图像中无与特征点A相匹配的特征点;其中ρ=50;
[0037] S2-2、采用与步骤S2-1相同的方法遍历前帧视频图像中的所有特征点,完成两帧视频图像特征点的匹配,并获取两帧之间的特征匹配对的坐标。
[0038] 进一步地,步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数的具体方法包括以下子步骤:
[0039] S3-1-1、以每个特征匹配对为一个计算单元,根据公式
[0040]
[0041] 获取该视频帧的缩放系数集;其中zoomscalerx{i}为x方向的缩放系数集;zoomscalery{i}为y方向的缩放系数集;Δxt1为前帧视频图像中相邻两个特征点之间横坐标的欧氏距离;Δxt2为与Δxt1中两个特征点相对应的两个特征点之间横坐标的欧氏距离;
Δyt1为前帧视频图像中相邻两个特征点之间纵坐标的欧氏距离;Δyt2为与Δyt1中两个特征点相对应的两个特征点之间纵坐标的欧氏距离;M为特征点匹配对的个数;
[0042] S3-1-2、分别对缩放系数集zoomscalerx{i}和zoomscalery{i}进行k均值聚类,剔除孤立参数,获取聚类中心值,将整个视频帧分为N1个缩放区域,以聚类中心值作为该视频帧图像每个缩放区域的横向缩放系数zoomscalerX{j}和纵向缩放系数zoomscalerX{j},其中j=1,2,...,N1。
[0043] 进一步地,步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的平移系数的具体方法包括以下子步骤:
[0044] S3-2-1、以每个特征匹配对为一个计算单元,根据公式
[0045]
[0046]
[0047] 计算各个特征匹配对的平移系数集;其中translatx{i}为x方向的平移系数集;translaty{i}为y方向的平移系数集;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在缩放区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在缩放区域的纵向缩放系数;
[0048] S3-2-2、分别对平移系数集translatx{i}和translaty{i}进行k均值聚类,剔除孤立参数,将视频帧分为N2个平移区域,以聚类中心值作为各平移区域的横向平移系数translatX{j}和纵向平移系数translatY{j},j=1,2,...,N2;
[0049] S3-2-3、根据约束条件N3≥max(N1,N2)将整个视频帧重新调整为N3个区域,使视频帧图像每个区域内的像素具有相同的缩放参数和平移参数;当N3=1时将整个视频帧图像视为一个区域;其中max(·)为取最大值函数。
[0050] 进一步地,步骤S4的具体方法包括以下子步骤:
[0051] S4-1、以视频帧的每个区域为一个计算单元,根据公式
[0052]
[0053]
[0054] 计算待插入帧的区域缩放系数;其中zoomSx{j}为待插入帧在x方向的区域缩放系数;zoomSy{j}为待插入帧在y方向的区域缩放系数;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在区域的纵向缩放系数;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;n为当前连续两帧视频图像之间待插入帧的总数,由目标帧率与待处理视频流的帧率计算得到;
[0055] S4-2、根据公式
[0056] Translx{j}=translatX{j}/(n+1)
[0057] Transly{j}=translatY{j}/(n+1)
[0058] j=1,2,...,N3
[0059] 计算待插入帧的区域平移系数;其中Translx{j}为待插入帧在x方向的区域平移系数;Transly{j}为待插入帧在y方向的区域平移系数;translatX{j}为该区域的横向平移系数;translatY{j}为该区域的纵向平移系数;
[0060] S4-3、根据公式
[0061]
[0062] 对待插入帧的每个区域进行上采样后得到预测帧集合frameS{t},frameS{j}{t}∈frameS{t};其中t=1,2,...,n;ix=max(1,Translx{j}×t×zoomSx{j}+1);max(·)表示取最大值;
[0063]
[0064] iy=max(1,Transly{j}×t×zoomSy{j}+1);
[0065]
[0066] upscale(f,a,b)表示采用双cubic插值法将参考图像区域f放大a×b倍;Ft1{j}(ix:ox,iy:oy)和Ft2{j}(ix:ox,iy:oy)为待插入视频帧的某个图像区域在原始视频流中对应的前帧和后帧图像区域。
[0067] 进一步地,步骤S5的具体方法包括以下子步骤:
[0068] S5-1、根据公式
[0069]
[0070] 获取帧间商 其中 为前帧视频图像的平均像素值; 为后帧视频图像的平均像素值;./表示两矩阵对应元素相除;
[0071] S5-2、根据公式
[0072]
[0073] 计算变化参数valuescaler{i};其中vt1{i}为前帧视频图像中第i个具有匹配对的特征点的像素值;vt2{i}为后帧视频图像中与vt1{i}所对应特征点相匹配的特征点的像素值;M为特征点匹配对的个数;
[0074] S5-3、将变化参数valuescaler{i}和与其对应的特征点所在区域的帧间商的聚类中心值作为该区域明暗变化参数。
[0075] 进一步地,步骤S6中根据明暗变化参数调整预测帧的像素值得到上变换插入帧的具体方法为:
[0076] 根据公式
[0077] frame{t}=frameS{j}{t}×Valuescaler{j}
[0078] 调整预测帧各个区域的像素值得到上变换插入帧frame{t};其中frameS{j}{t}为第t帧预测帧的第j区域;Valuescaler{j}为第j区域的明暗变化参数。
[0079] 本发明的有益效果为:本发明根据该类视频帧信号的内容特征分三个阶段完成缩放系数、平移系数、明暗变化参数的估计,最后进行基于缩放和明暗变化的运动补偿实现帧率上采样。本发明对缩放系数、平移系数、明暗变化等参数的估计较传统的基于块匹配运动矢量估计补偿法有显著的预测精度提升,处理速度较基于全搜索、三步搜索、菱形搜素的块匹配运动估计补偿法有大幅度提高。附图说明
[0080] 图1为本发明的流程示意图。

具体实施方式

[0081] 下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
[0082] 如图1所示,该适用于缩放运动和明暗变化的视频帧率上变换方法包括以下步骤:
[0083] S1、读取待处理视频流中相邻两帧视频图像,搜索该相邻两帧视频图像的所有特征点,并为每个特征点生成一个特征矢量;
[0084] S2、根据特征矢量对原始视频流中相邻两帧视频图像的特征点进行匹配,得到相邻两帧之间的特征匹配对的坐标;
[0085] S3、根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数和平移系数;
[0086] S4、根据缩放系数和平移系数对视频帧图像的每个区域进行缩放平移运动补偿,得到预测帧;
[0087] S5、获取连续两帧视频图像的帧间商,根据帧间商和相匹配的特征点的像素值获取明暗变化参数,并判断明暗变化参数是否等于1,若是则进入步骤S7,否则进入步骤S6;
[0088] S6、根据明暗变化参数调整预测帧的像素值得到上变换插入帧,将上变换插入帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
[0089] S7、直接将预测帧插入与其对应的连续两帧视频图像之间,进入步骤S8;
[0090] S8、采用与步骤S1至步骤S7相同的方法对待处理视频流进行遍历,完成对待处理视频流的视频帧上变换。
[0091] 步骤S1的具体方法包括以下子步骤:
[0092] S1-1、根据公式
[0093] L(x,y,δ)=G(x,y,kδ)-G(x,y,δ)
[0094] 生成差分离散尺度空间核函数L;其中δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;
[0095] S1-2、将前后两帧视频图像分别与L相卷积,分别得到与前帧对应的5个差分图像p=0 ,1 ,2 ,3 ,4和与后帧对应的5个差分图像p=0,1,2,3,4; 为卷积运算;Ft1表示前帧视频图像;Ft2表示
后帧视频图像;
[0096] S1-3、分别对 进行行列隔点降采样后与L相卷积,分别得到与前帧对应的5个差分图像 和与后帧对应的5个差分图像
[0097] S1-4、将最新得到的差分图像通过与步骤S1-3相同的方法获取差分图像 和其中q=2,3,4,5;
[0098] S1-5、将步骤S1-2、步骤S1-3和步骤S1-4中得到的差分图像进行组合得到与每帧图像相对应的6组不同尺寸的差分图像组,其中每组包括5个尺寸相同、离散尺度δ不同的差分图像;
[0099] S1-6、搜索同组相邻差分图像的极值点,剔除其中低于设定阈值的点和边缘点,将剩余极值点作为该尺寸的特征点;其中设定阈值为图像像素点最大值的3%;
[0100] S1-7、对于每一个特征点,根据公式
[0101]
[0102] 获取最接近尺度值为δ的高斯图像LL;δ=kp·δ0,p=0,1,2,3,4; x和y分别为横纵坐标值;Ftl,l=1,2表示前后两帧视频图像;
[0103] S1-8、以该特征点为中心,计算以3×1.5δ为半径的邻域内高斯图像LL梯度的幅度和角度,并采用直方图统计邻域内像素的梯度方向和幅度;其中梯度方向直方图将0°~360°的范围平分为36个方向;梯度方向直方图的峰值代表该特征点处邻域内图像梯度的主方向,即该特征点的主方向θ;
[0104] S1-9、以该特征点为中心将特征点邻域图像的梯度和方向旋转一个方向角θ后,以该特征点为中心取大小为mδB×mδB的图像区域;其中m=3,B=4;
[0105] S1-10、将该mδB×mδB图像区域等分成B×B个子区域,将每个子区域等分为8个方向的梯度方向,其中每个方向为45°;
[0106] S1-11、计算一个子区域内每个梯度方向中的像元个数和,得到8个数据,遍历B×B个子区域得到B×B×8个数据,将B×B×8个数据记为该特征点的特征矢量。
[0107] 步骤S2的具体方法包括以下子步骤:
[0108] S2-1、计算前帧视频图像中某个特征点A的特征矢量与后帧视频图像中所有特征矢量之间的欧氏距离,判断最小的欧氏距离是否小于次最小欧式距离的ρ%,若是则将前帧视频图像中的特征点A与后帧视频图像中与特征点A欧氏距离最小的特征点A'记为最佳匹配对;否则认为后帧视频图像中无与特征点A相匹配的特征点;其中ρ=50;
[0109] S2-2、采用与步骤S2-1相同的方法遍历前帧视频图像中的所有特征点,完成两帧视频图像特征点的匹配,并获取两帧之间的特征匹配对的坐标。
[0110] 步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的缩放系数的具体方法包括以下子步骤:
[0111] S3-1-1、以每个特征匹配对为一个计算单元,根据公式
[0112]
[0113] 获取该视频帧的缩放系数集;其中zoomscalerx{i}为x方向的缩放系数集;zoomscalery{i}为y方向的缩放系数集;Δxt1为前帧视频图像中相邻两个特征点之间横坐标的欧氏距离;Δxt2为与Δxt1中两个特征点相对应的两个特征点之间横坐标的欧氏距离;
Δyt1为前帧视频图像中相邻两个特征点之间纵坐标的欧氏距离;Δyt2为与Δyt1中两个特征点相对应的两个特征点之间纵坐标的欧氏距离;M为特征点匹配对的个数;
[0114] S3-1-2、分别对缩放系数集zoomscalerx{i}和zoomscalery{i}进行k均值聚类,剔除孤立参数,获取聚类中心值,将整个视频帧分为N1个缩放区域,以聚类中心值作为该视频帧图像每个缩放区域的横向缩放系数zoomscalerX{j}和纵向缩放系数zoomscalerX{j},其中j=1,2,...,N1。
[0115] 步骤S3中根据特征匹配对的坐标计算视频帧图像每个区域的平移系数的具体方法包括以下子步骤:
[0116] S3-2-1、以每个特征匹配对为一个计算单元,根据公式
[0117]
[0118]
[0119] 计算各个特征匹配对的平移系数集;其中translatx{i}为x方向的平移系数集;translaty{i}为y方向的平移系数集;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在缩放区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在缩放区域的纵向缩放系数;
[0120] S3-2-2、分别对平移系数集translatx{i}和translaty{i}进行k均值聚类,剔除孤立参数,将视频帧分为N2个平移区域,以聚类中心值作为各平移区域的横向平移系数translatX{j}和纵向平移系数translatY{j},j=1,2,...,N2;
[0121] S3-2-3、根据约束条件N3≥max(N1,N2)将整个视频帧重新调整为N3个区域,使视频帧图像每个区域内的像素具有相同的缩放参数和平移参数;当N3=1时将整个视频帧图像视为一个区域;其中max(·)为取最大值函数。
[0122] 步骤S4的具体方法包括以下子步骤:
[0123] S4-1、以视频帧的每个区域为一个计算单元,根据公式
[0124]
[0125]
[0126] 计算待插入帧的区域缩放系数;其中zoomSx{j}为待插入帧在x方向的区域缩放系数;zoomSy{j}为待插入帧在y方向的区域缩放系数;zoomscalerX{j}为特征点(xt1{i},yt1{i})所在区域的横向缩放系数;zoomscalerY{j}为特征点(xt1{i},yt1{i})所在区域的纵向缩放系数;xt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的横坐标;xt2{i}为后帧视频图像中与xt1{i}相匹配的特征点的横坐标;yt1{i}为前帧视频图像中第i个具有最佳匹配对特征点的纵坐标;yt2{i}为后帧视频图像中与yt1{i}相匹配的特征点的纵坐标;n为当前连续两帧视频图像之间待插入帧的总数,由目标帧率与待处理视频流的帧率计算得到;
[0127] S4-2、根据公式
[0128] Translx{j}=translatX{j}/(n+1)
[0129] Transly{j}=translatY{j}/(n+1)
[0130] j=1,2,...,N3
[0131] 计算待插入帧的区域平移系数;其中Translx{j}为待插入帧在x方向的区域平移系数;Transly{j}为待插入帧在y方向的区域平移系数;translatX{j}为该区域的横向平移系数;translatY{j}为该区域的纵向平移系数;
[0132] S4-3、根据公式
[0133]
[0134] 对待插入帧的每个区域进行上采样后得到预测帧集合frameS{t},frameS{j}{t}∈frameS{t};其中t=1,2,...,n;ix=max(1,Translx{j}×t×zoomSx{j}+1);max(·)表示取最大值;
[0135]
[0136] iy=max(1,Transly{j}×t×zoomSy{j}+1);
[0137]
[0138] upscale(f,a,b)表示采用双cubic插值法将参考图像区域f放大a×b倍;Ft1{j}(ix:ox,iy:oy)和Ft2{j}(ix:ox,iy:oy)为待插入视频帧的某个图像区域在原始视频流中对应的前帧和后帧图像区域。
[0139] 步骤S5的具体方法包括以下子步骤:
[0140] S5-1、根据公式
[0141]
[0142] 获取帧间商 其中 为前帧视频图像的平均像素值; 为后帧视频图像的平均像素值;./表示两矩阵对应元素相除;
[0143] S5-2、根据公式
[0144]
[0145] 计算变化参数valuescaler{i};其中vt1{i}为前帧视频图像中第i个具有匹配对的特征点的像素值;vt2{i}为后帧视频图像中与vt1{i}所对应特征点相匹配的特征点的像素值;M为特征点匹配对的个数;
[0146] S5-3、将变化参数valuescaler{i}和与其对应的特征点所在区域的帧间商的聚类中心值作为该区域明暗变化参数。
[0147] 步骤S6中根据明暗变化参数调整预测帧的像素值得到上变换插入帧的具体方法为:根据公式
[0148] frame{t}=frameS{j}{t}×Valuescaler{j}
[0149] 调整预测帧各个区域的像素值得到上变换插入帧frame{t};其中frameS{j}{t}为第t帧预测帧的第j区域;Valuescaler{j}为第j区域的明暗变化参数。
[0150] 在本发明的一个实施例中,将本发明与基于块匹配的全搜索法和基于块匹配的三步搜索法进行比较,比较所采用的视频类型和处理结果如表1所示。
[0151] 表1:视频类型和处理结果
[0152]
[0153] 由表1可知,在每个测试视频类型中,本方法的帧率上变换质量均高于其余两种方法,且在具有全局明暗变化的视频中,本方法的处理质量更是接近现有方法的10倍。并且,本方法在处理速度上,比基于块匹配的全搜索法快60倍左右。
[0154] 综上所述,本发明适用于具有缩放运动和明暗变化的视频流的帧率上变换,较传统的帧平均、帧重复和基于块匹配的运动矢量补偿法能快速高质量地实现帧率上变换。相对于传统的基于块匹配的运动矢量补偿法,本发明能实现具有任意比例尤其是大比例缩放运动的视频流的帧率上变换。
高效检索全球专利

专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

申请试用

分析报告

专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

申请试用

QQ群二维码
意见反馈